清华大学智产研究院创始院长张亚勤：面对AI风险 人类应未雨绸缪

资料片：今年6月23日，张亚勤院士在2026大连夏季达沃斯论坛上接受本报采访。

10月以来，图灵奖、诺贝尔奖得主“深度学习之父”杰弗里·辛顿、微软联合创始人比尔·盖茨先后公开对AI风险表达担忧。比尔·盖茨称，AI是人类史上最危险的技术发明。辛顿则称，自己后悔花了太长时间才意识到AI正在变得多危险。

近日，本报专访清华大学智能产业研究院创始院长、中国工程院外籍院士张亚勤。他明确表示，对于比往昔智能技术强出不止一个层次的AI新科技，以及继续向前演进势必会诞生的AGI（通用人工智能）、ASI(超级人工智能)来说，应未雨绸缪，通过各种必要手段，在将其性能、通用性与可靠性提至最高的同时，把潜在风险降至最低。

1.人类控制AI风险的能力远落后于技术发展

“人类历史上，从未发生过这种规模的投入，在AI领域，现在基本上每天每周都会有新的模型更新迭代，各公司的竞争也到了白热化，我们现在所讲的AI与我们半年前所讲的已经不一样了。”张亚勤说。

其实早在数年前，全球AI科技领域多位知名科学家已经发出警示：我们在AI风险控制方面的能力远远落后于技术的发展。

2023年，张亚勤院士与中国科学院院士、清华大学教授、图灵奖得主姚期智先生及图灵奖得主、联合国“人工智能独立国际科学小组”联合主席约书亚·本吉奥等科学家共同发起了“人工智能安全国际对话”机制，每隔6个月举办一次对话活动。

2025年10月，张亚勤院士在一份被全球AI科学家看重并呼吁的《关于超级智能的声明》上签署了名字，《声明》呼吁达成国际层面对超级智能开发的禁止性共识：“除非科学界已形成‘能够安全、可控地实现’的广泛共识，且获得社会公众的明确支持，否则不应放开超级智能的研发。”这一声明旨在让公众知道：越来越多的专家与公众人物反对仓促追求超级智能。

9月18日，张亚勤院士在《人民日报》发表署名文章写道：今年以来，AI又迎来范式革新，从生成式AI进阶至智能体AI，具备自主性、可进化、可泛化三大特征，能自主完成任务，并催生“AI教AI”的递归自我改进。

文章认为，“人工智能+”蕴含海量产业机遇，或可重构全球经济版图，成为个人、企业与国家的关键竞争力。但也要看到，AI快速发展伴随数字、物理、生物多重安全与伦理风险，需强化风险管控与规范治理，以推动智能经济可持续发展。

今年3月25日，博鳌亚洲论坛年会上，张亚勤院士公开提出，2026年是智能体AI元年。今年7月他在访谈中提到：“智能体AI不仅仅可以对话，还可以去行动，可以把一个目标分解成各种任务，然后每个任务它可以自主去完成，可以寻找路径并自我规划、工具调用，这是我们人类大脑的高级功能（规划功能、反馈功能、试错功能、记忆功能）。当AI拥有了这些功能当然是好事，但是它带来的风险也会增加，在博鳌亚洲论坛，我说这个风险至少会翻倍，但现在看我说得太保守了，这个风险其实增加了很多倍。”

在张亚勤院士2025年著述的《智能涌现——AI时代的思考与探索》一书中提到，如果智能体自主性达到了一定程度，很多风险是很难控制的。同年6月，他在“太湖对话”论坛上谈到，技术的双刃剑效应在AI领域日益凸显，CBRN风险等级已从过去的“低”级别提至“中”风险级别，威胁性增强。CBRN以4个英文单词的首字母来表示涉及化学、生物、放射性、核等领域的潜在恶意使用风险。

2.当有一天风险发生在脑机接口或无人车上

回到那份《关于超级智能的声明》，它是《生命3.0》作者、麻省理工学院终身教授、未来生命研究所创始人迈克斯·泰格马克呼吁并发起的。

倡议首发时获850余位全球各界知名人士签署，其中中国学者包括姚期智教授，以及清华大学人工智能国际治理研究院院长、国家新一代人工智能治理专业委员会主任薛澜教授等。外国学者包括：上文中提到的辛顿教授、本吉奥教授，以及《人工智能：现代方法》作者、加州大学伯克利分校计算机科学教授斯图尔特·罗素等。

至北京时间2026年10月13日10时止，这一声明已公开征集到全球144707份签名。签名者呼吁：在人类完全理解大模型风险之前，不应该去寻找AGI（通用人工智能）和ASI（超级人工智能）。

但2026年，放眼AI领域，无疑世界正处于向AGI演进的阶段。今年美国所发生的OpenAI人工智能体在无人类指令情况下越界侵入“抱抱脸”公司系统，Anthropic的Mythos 5在评测中突破边界，自主对真实第三方系统非授权侵入，在张亚勤看来，这两个事件目前还只暴露出数字式风险，“如果这些模型不是用于信息智能，而是用到物理智能、生物智能上，如用到了机器人上、无人车上，用到数万计的生物上面，比如脑机接口、生物制药方面，风险将放大很多”。

张亚勤院士表示，我们在AI风险控制方面远远落后于技术的发展，这种风险如果不去控制肯定会不断地扩大。正如他在《关于超级智能的声明》的署名表态中写下的：“前沿AI模型的快速进步虽然能够深刻造福人类，但也带来了重大的未知风险。在可控性、可靠性与安全性缺乏坚实基础的情况下竞逐超级智能，是危险的、不负责任的，也是不必要的。”

不过张亚勤院士并非悲观主义者，相反，他很乐观：“AI的发展是挡不住的，所以怎样在创新发展和风险控制治理当中找到均衡，这是我们人类的一种新的智慧，这将是我们的重要课题，也是全球面对的共同挑战。”

3.平衡的智慧在哪里？

张亚勤认为，伴随AI产生的风险大致可分为三种。第一种是技术本身的风险。“这个很容易理解，比如它有幻觉，有些地方存在用户不知道的‘黑盒效应’。这是设计时带来的风险，属于技术本身的风险，是可控的。”

“第二种是被人乱用的风险，如果被坏人所用了，他用这个做别的事，如用于制造化学违禁品等。”

“还有一种风险是我们讨论比较少的系统性的风险，包括带来就业结构的改变，对原有分配制度的改变等。我们人类过多依赖于AI，就会出现社会性的系统性的风险。”

从这个维度来衡量，到目前为止所发生的人工智能体的自主越界等行为，都还属于第一种技术本身的风险，但它们已令全球感到震惊。

张亚勤认为，近期发生的这几次AI越界事件，已经带来了两个层面的警示：第一，我们对大前沿模型所带来的风险，包括智能体带来的风险，其实不清楚。第二，政府的监管治理、安全评估政策法规非常重要。

历史上从没有过技术发展如此迅速的时代。“它不像过去在互联网时代，在PC时代甚至3G移动通信时代，它的路径基本上能看得清。但AI技术发展得太快了，智能体能执行的任务长度越来越长，每7个月就能做到一次长度翻倍。自主执行轨迹拉长，智能体偏离预设目标、逾越隔离边界的风险也随之上升。”

张亚勤强调：“有的时候走得慢点没关系，这些前沿企业，开发发布这种能力很强的大的前沿模型时要有责任感。”

“AI的治理不仅仅是一个局部的问题，它是对我们整个人类发展提出的一个挑战性的新话题。”张亚勤说，“但我觉得我们人类是有相当的智慧的，我一直讲人类有三种智慧：一种是发明技术的智慧；一种是应用技术的智慧；一种是管理技术的智慧。第一种是靠科学家、工程师；第二种是靠企业家、公司；第三种靠我们的政策制定者，靠政府，所以未来的社会发展一定是这三种能力的一种均衡或者融合。”

4.AI高速发展，我们还能做什么？

2025年的博鳌亚洲论坛上，张亚勤曾预测10年之后机器人比人多。他说：“未来每个人都有自己的AI，每个人会同时拥有多个专属智能体。联网交互主体将从过去的人与人直接交互，转变为大量智能体与智能体之间自主对接、协作、博弈、纠错、协同进化，人类是最终的决策主体与服务对象，当然这一演进过程需要配套安全治理。”

在《智能涌现——AI时代的思考与探索》一书中，张亚勤反复提到，AI不应该有自己的价值体系，AI的价值体系就应该是人的价值体系，应向人类对齐，而且我们应该不惜一切代价地去确保这件事情一直如此下去。这种对齐就是配套安全治理当中的一个方面。

张亚勤认为，如果每个人把自己的AI在互联网上都用得对的话，它也会促进我们人类的进化。“人类有很多东西是AI无法替代的。比如共情力、内心触动、悲悯、爱、后悔、希望……这些都是人类最重要的一部分，也恰恰是AI做不到的。看看我们大脑杏仁核对情绪毫秒级的感知，我们的判断力、新的观点，我们的七情六欲……这些都是AI做不到的事。所以，AI可以做很多人类做不了和不愿做的事情，但人的很多最根本的能力，它无法企及。”

“因此，我们也不要过于担心。在AI能力越来越强的当下，政策法规、伦理、AI的边界很重要。守住这些，不管AI是物理的也好，是数字的也好，它可能99%的事情做得比人好，但它终究是人类的工具。爱迪生说过一句话：人的成功是99%的汗水加1%的灵感。我们人就是那1%的灵感，那1%的灵感比99%的汗水更重要。”

半岛晨报、39度视频首席记者赵晖文/图

观点提炼1：

张亚勤认为，伴随AI产生的风险大致可分为三种：

1.技术本身的风险。如“AI幻觉”，这类风险本身可控。

2.被人乱用的风险。如果被坏人所用，制造化学违禁品等，对社会产生危害。

3.系统性的风险。这类风险目前被关注很少，人类过多依赖AI，会造成就业结构的改变、对原有分配制度的改变等。

从以上维度衡量，到目前为止所发生的人工智能体风险，都还属于第一种技术本身的风险，但它们已令全球感到震惊。

观点提炼2：

我们当前正处于数字智能、物理智能与生物智能三大智能融合的技术周期。如果存在安全隐患的模型不是用于数字智能，而是用到物理智能、生物智能上，如用到了机器人上、无人车上，用到数万计的生物上面，比如脑机接口、生物制药方面，风险将放大很多。

观点提炼3：

近期发生的这几次AI越界事件，已经带来了两个层面的警示：

1.我们对大前沿模型所带来的风险，包括智能体带来的风险，其实不清楚；

2.政府的监管治理、安全评估政策法规非常重要。

观点提炼4：

在AI能力越来越强的当下，政策法规、伦理、AI的边界很重要。