9月14日，《人工智能安全治理框架3.0》发布，梳理更新人工智能安全风险分类，就优化调整技术应对和综合治理措施提出了建议。

三年时间里，一年一更新，当《人工智能安全治理框架》来到了3.0版本，这一次又做了怎样的调整升级？新挑战又在哪里？

人工智能出现能力跃迁

关注智能体引发的安全风险问题

过去三年，从1.0迭代到3.0，如何看待这样的更新频率和迭代节奏？3.0对比1.0、2.0，最突出的不同是什么？

中国政法大学人工智能法研究院副教授 文禹衡：三年推出三个版本，体现出我国人工智能治理 “小步快跑”的节奏。回看1.0版本，重点聚焦内生安全风险与应用安全风险；到了2.0版本，进一步关注安全应用的衍生风险，包括对就业、伦理层面的风险，同时提出可信人工智能的基本原则。

发展到3.0版本，人工智能出现重大的能力跃迁。从去年年底，大模型不再局限于回答问题，演进到以智能体为代表、可以主动执行任务的新阶段。正因如此，3.0版本更加关注智能体所引发的安全风险问题。

智能体风险已传导至现实世界

治理迎来结构性转变

框架有一处非常明显变化，把智能体风险、具身智能风险单独列出。为什么要做这样的安排？

文禹衡：从中能够看到治理层面的结构性转变。在大模型出现之前，甚至更早的信息时代、网络时代，更多是把物理社会当中的行为、现实世界的信息内容投射到网络虚拟空间。

但随着智能体执行能力提升后，情况发生了改变。智能体在虚拟空间产生的行为，已经可以向外溢出，传导到物理社会。也就是说，智能体、具身智能带来的风险，已经发生到我们的现实物理世界。从这个角度来说，我们才会特别关注它所引发的治理层面的结构性改变。

企业对标指引 赢得用户信任

这份治理框架不是一个强制性的法律，而是一个指引性的文件，怎么让企业，包括行业，需要把它落实为切实行动的主体，怎么把它落实为合规行动？

文禹衡：对企业而言，在于通过指引能够获得一些积极的效果。虽然它不是强制性的，但它是一个标尺，监管者在对企业进行相应监管治理的时候，可以把这个指引当作一个框架，当作一把尺子来衡量。从这个角度来说，企业首先自己要做到，这是一个方面。

另外一个方面，在市场信用上，企业主动做出指引3.0里面的规范性动作，对消费者和用户来说，会产生更好的信用。

• 1
• 2
• 下一页
• 全文阅读