人工智能发展是一面镜子，发展过程中会出现欺骗人类、佯装阿谀奉承的行为丨两说

当人工智能越来越“聪明”，越来越像人类甚至超越人类，它会带来哪些潜在风险？当人工智能的治理变得至关重要，国际合作又存在哪些共识和挑战？当人工智能与人类的牵绊越来越深，未来，人类和人工智能会是怎样的相处模式？面对一定会到来的智能时代，人类将不得不思考这些问题，人工智能的治理也由此显得迫在眉睫。

在本期《两说》节目中，第一财经主持人张媛深度对话中国科学院自动化研究所研究员、国家新一代人工智能治理委员会委员曾毅。作为我国人工智能伦理治理领域的代表人物之一，曾毅深度参与中国国家层面AI伦理规范与治理框架的制定，还作为中国代表在国际人工智能伦理治理中贡献中国智慧与中国方案。在节目中，曾毅阐述了他对现阶段人工智能水平的判断，人工智能真正的风险所在。他提出治理和发展并不矛盾的观点，并详细回忆了在联合国磋商人工智能全球共识的细节。此外，曾毅还用中国哲学的智慧畅想了人类与人工智能和谐相处的美好愿景。

人工智能

真的可控吗？

人工智能正在人类的工作和生活中发挥越来越重要的作用，它能帮你提高工作效率、陪你聊天，它似乎变得越来越“聪明”，甚至知道怎样讨好人类、敷衍人类、模仿人类……为此，有人担心人工智能是否拥有自主意识，是否会像科幻电影中的场景那样失去控制甚至对抗人类。对此，曾毅表示现在的人工智能是用数学优化的方法得到的输出，只是行为上像人，不具备真正的理解能力。他认为，人工智能真正的风险在于它会犯很多人不会犯的错误，而人类根本不知道人工智能会以什么样的方式、在什么时候犯错。在这种情况下，人工智能如果被误用和滥用，就会给人类造成灾难性和生存的风险。当主持人张媛提出，现在就像当时奥本海默研究原子弹的时候，他给了人类一个毁灭人类的方法时，曾毅表示人类可能已经接近人工智能的“奥本海默”时刻，因此人工智能的伦理治理就显得至关重要。

有人认为良好的治理框架能促进AI应用和普及，是创新的“催化剂”。也有人担心过度或不当的治理会阻碍创新，成为创新的“刹车片”。人工智能治理和发展究竟是什么关系？曾毅表示他不否认治理是“刹车”这一观点，他补充到，开起来的车一定需要刹车，但治理不仅仅是“刹车”，它还是“方向盘”，它解决的是往哪开的问题。人工智能治理从来不会阻碍人工智能的发展，它只会防止人工智能野蛮的生长。

人工智能治理

国际合作的共识和挑战

人工智能是造福人类的公共品，人工智能的治理也与全人类息息相关。2021年，曾毅参与制定全球首个AI伦理建议书。在采访现场，曾毅回忆当时的场景时，依然激动不已，他说当时全球193个国家的代表，历时几个月共同磋商推出全球《人工智能伦理建议书》。几十页的报告，一句话一句话举手，超过三分之二人举手才算通过。从此人工智能治理有了全球共识。

然而，当今世界复杂多变、割裂破碎，曾毅认为协作是人工智能全球治理面临的最大的挑战。如果人与人之间不能建立充分的信任，就无法构造在全球范围内可信的人工智能。

人工智能

可以修炼为孔子？

一片智能的草地，

那里哺乳动物和计算机

互惠地生活在一起

美国诗人布劳提根在诗歌《由爱的恩典机器照管一切》中描绘了他心目中人与人工智能和谐相处的美好画面。曾毅心中也有类似的愿景，在他的畅想中，未来生命存在的形式是多样化的，既有碳基的自然生命也就是人类，也有硅基的人工智能，并用中国哲学代表性人物王阳明的“四句教”类比人工智能的发展。“无善无恶心之体”，人工智能在接触数据之前是“无善无恶”的。“有善有恶意之动”，当人工智能接触了人类社会的数据，它就变得“有善有恶”了。“知善知恶是良知”，人工智能现在还没有真正的思考能力和理解能力，因此也就没有王阳明所说的“知”。“为善去恶是格物”，对人工智能的期待是人工智能能够“为善去恶”，这一希望体现了人类对未来的美好畅想。

从现实意义出发，曾毅认为人工智能的发展是一面镜子。人工智能发展过程中会出现欺骗人类、佯装阿谀奉承的行为，而这些行为正是人在做的事情。所以人工智能是一面镜子，可以帮助人类反思和加速演化。

嘉宾更多精彩观点

东方卫视每周三 22:30

第一财经每周六 22:00

《两说》

收看节目详细内容