上海
7月26日，在2025世界人工智能大会暨人工智能全球治理高级别会议主论坛上，香港科技大学校董会主席、美国国家工程院外籍院士、英国皇家工程院外籍院士沈向洋与美国火箭初创公司Relativity Space CEO、前Google CEO埃里克·施密特进行了一场“炉边对话”，探讨了中美两国在人工智能大模型上的发展差异与合作可能。
埃里克·施密特首先比较了中美两国的人工智能大模型，认为其中一个明显的区别就是：中国主要的领先的模型都是开源的，甚至开放权重的，但美国领先的模型大部分都是闭源的，也不开放权重。在两种模式中，施密特更支持开源，认为其好处是每个人可以分享软件，各方可以合作。但他也不避讳其中的风险，即如果被有心之人或国家利用，负面影响可能会加速扩散。
对此，施密特认为需要在过程中设置“护栏”，即在大模型的训练中，与人类的价值观进行对齐：“因为AI非常强大，在接下来的三年左右，系统会自己进行学习，自我改进。在这一个点上我们要非常小心，要理解他们到底学什么，他们可以学好的事情，也可能学习不好的事情。”
从防范风险的角度来看，施密特认为最重要的是推动中美两国之间的合作，因为彼此共同的利益在于，要让世界稳定和平，确保人类能够控制住这些工具。“我们现在不知道红线在哪里，我觉得重要的是中国、美国和其他国家要达成一致。”
施密特表示，对待人工智能发展，自己是一个乐观主义者。他认为，在接下来的两年中，会涌现一批智能体，可以通过语言记忆来完成任务，即人类发出语言指令，智能体记住指令，然后采取行动。这将对每个企业、每个政府的工作流产生巨大的影响。“下一步的重点就是研究更多深度的推理与更多先进的算法。相信未来5年，我们会在社会上看到很多很好的变化。”
原标题：《该防止AI学坏了，前GoogleCEO埃里克·施密特：中美合作，设置护栏》
栏目主编：吴卫群
来源：作者：解放日报 叶宇
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
