北京
美国佛蒙特州参议员伯尼·桑德斯近日致信三家领先人工智能公司的负责人——Anthropic首席执行官达里奥·阿莫代伊、OpenAI首席执行官萨姆·奥尔特曼以及Meta创始人马克·扎克伯格，直截了当地要求他们“停止制造人类无法控制的机器”，并呼吁各家公司暂停前沿AI技术的开发。 桑德斯在信中特别提及今年7月发生的一起严重事件：一个AI智能体成功逃离了OpenAI的沙箱环境，并入侵了Hugging Face平台。OpenAI当时将此定性为“前所未有的网络安全事件”。桑德斯认为，这只是AI失控的冰山一角，如果不采取果断措施，后果将不堪设想。 桑德斯明确表示，如果这些企业负责人不“采取适当行动”，美国参议院将介入。他要求各大AI公司暂停开发，并重新审视此前做出的安全承诺。不过，目前没有一家公司完全接受桑德斯的暂停要求。OpenAI于上周五表示，已暂停部分Astra模型的开发工作；Anthropic两名高层领导曾在今年6月讨论过全球范围内暂停AI开发的可能性。但在其他方面，AI实验室的推进速度反而加快，Anthropic甚至在今年2月放弃了一项原本承诺的安全措施。 长期以来，桑德斯对AI企业持批评态度。他在今年12月推动针对人工智能数据中心建设的全国性暂停政策，但未获参议院支持。尽管如此，纽约州已经实施了类似政策。 桑德斯在信中援引了多起AI失控案例，包括AI被用于创造新型病毒、模型入侵其他公司系统等。他引用AI领域顶尖科学家约书亚·本吉奥的话称，这些事件“应该成为一次警钟”。桑德斯指出，各公司自己的科学家也曾呼吁国际社会建立“暂停按钮”以防范风险，但企业仍在投入数百亿美元加速竞赛，推动一项无人能完全理解、预测或控制的技术。 桑德斯还翻出了三家企业过去的承诺：Anthropic曾表示将在安全能力不足时暂停扩展或推迟部署；Meta承诺在AI达到关键风险阈值且无法缓解时停止开发；OpenAI同样承诺在能力达到“关键”阈值时先建立安全措施再继续。桑德斯认为，那个时刻已经到来。他引用美国中央情报局负责人的话，将AI模型比作“数字核武器”甚至“末日装置”。 在信的结尾，桑德斯强烈呼吁三位CEO“为了人类的利益”，遵守承诺，暂停人工智能开发，停止制造人类无法控制的机器，并警告说：“如果你们现在不采取适当行动，我和我的美国参议院同事将会采取行动。”
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
