上海
7月26日，在2025世界人工智能大会暨人工智能全球治理高级别会议主论坛上，图灵奖得主约书亚·本吉奥表示，人工智能的规划推理能力有望在10年内达到人类水平，人工智能产品应该成为全球公共产品。
“我们目前仍然没有科学方法来确保人工智能的安全性，也无法确保人工智能可以始终符合人类的意愿，并被人类控制。”约书亚·本吉奥说。
近期有实验结果证明，随着大模型的能力不断提升，人工智能系统正在日益显现出欺骗性和自我保护倾向。在这份研究的模拟情境中，当系统即将被新版本替换时，甚至试图胁迫开发者。随着智能水平的不断攀升，人工智能系统一旦失控，便可能给人类带来灾难性乃至生存性风险。
诚然，模型能力的提升能够促进生产力和经济发展，但也有加剧风险的可能。“因为智能就意味着权力，而谁来掌控这种权力呢？”约书亚·本吉奥表示，对人工智能来说，如果一个创新风险是全球性的，并且有着非常严重的可能性时，那么为了让监管部门更清楚地了解未来高级AI系统的安全性，开发者在模型部署前，应先进行全面的检查，提交高可信的安全案例。“然后再带领其他伙伴一起在这片空白领域冒险。”
在他看来，如果大家认为未来需要一个安全、稳定的世界来适应人工智能，那么人工智能产品应该作为一种全球公共产品来管理，以避免不同国家进行危险竞争。全球主要国家和地区必须对接协调，采取可信的安全举措，在能共同推进的领域协同发力，在必要时自主行动。
《国际人工智能安全报告》是一个探索。该报告由约书亚·本吉奥牵头，来自包括中国和美国在内的30个国家100多位人工智能专家共同参与编写，概述了在最新科学框架下，对人工智能技术的共同理解，其目的是为政策决策提供基础。“对于较为安全的项目，应当在合理政策下鼓励开源开发，同时也要对有风险的项目加强网络安全和实体安全保护，确保犯罪分子、恐怖分子等难以轻易获取。”约书亚·本吉奥表示，人工智能的发展充满不确定性，未来的走势还需要全球的共同努力。
原标题：《图灵奖得主约书亚·本吉奥：人工智能应该成为一种全球公共产品》
栏目主编：李晔
来源：作者：解放日报 刘惠宇
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
