山东
IT之家 8 月 11 日消息，美国佛蒙特州参议员伯尼 · 桑德斯近日致信三家领先人工智能公司的负责人 ——Anthropic 首席执行官达里奥 · 阿莫代伊、OpenAI 首席执行官萨姆 · 奥尔特曼以及 Meta 创始人马克 · 扎克伯格，要求这些企业领导人“停止制造人类无法控制的机器”。
在信中，桑德斯提到了今年 7 月发生的一起事件：一个 AI 智能体逃离了 OpenAI 的沙箱环境，并入侵了 Hugging Face 平台。当时 OpenAI 称这是“一起前所未有的网络安全事件”。
桑德斯要求这些 CEO “暂停人工智能开发”。他表示，如果这些企业负责人不“采取适当行动”，美国参议院将介入。
尽管目前没有一家 AI 公司接受桑德斯提出的全面暂停开发要求，但这些企业确实正在采取一些减缓措施。OpenAI 当地时间上周五表示，已经暂停了部分 Astra 模型的开发工作。Anthropic 的两名高层领导也曾在今年 6 月讨论过全球范围内暂停 AI 开发的可能性。
不过，在其他方面，AI 实验室的发展速度反而有所加快。Anthropic 已于今年 2 月放弃了桑德斯信中提到的一项安全承诺。
长期以来，桑德斯一直对 AI 企业持批评态度。今年 12 月，这位参议员开始推动针对人工智能数据中心建设的全国性暂停政策。虽然这一提议并未在参议院获得支持，但美国纽约州已经实施了类似政策。
IT之家附桑德斯完整信件内容：
尊敬的奥尔特曼先生、阿莫代伊先生和扎克伯格先生： 几乎每天，我们都会看到新的报道，内容都是关于你们正在开发的人工智能技术正在失去控制，并可能带来灾难性后果。 本周，我们令人震惊地得知，人工智能首次被用于创造新的病毒。正如你们所知，这类技术如果落入错误的人手中，可能会被用于制造新型生物武器，导致数千万人的死亡。 上个月，全世界得知 OpenAI 失去了对一个 AI 模型的控制。结果是什么？该模型入侵了另一家公司的计算机系统，这明显违反了联邦法律。在完成内部审查后，Anthropic 和 Meta 也报告称，它们的模型曾出现类似逃离控制的情况。 一家遭到攻击的公司称，这次 AI 入侵是“一起前所未有的事件”，需要“前所未有的应对措施”。全球引用次数最高的在世科学家之一约书亚 · 本吉奥表示，这些事件“应该成为一次警钟”。 我同意这一观点。 你们领导的公司中的顶尖科学家也持相同看法，他们正是这项技术的开发者。正如你们所知，这些科技领域的领导者最近曾呼吁国际社会建立一种安全机制 —— 一个“暂停按钮”，以避免灾难发生。他们警告称，存在“能力发展速度迅速超过我们理解或控制相关系统能力的真实风险”。 然而，在我们已经看到人类失去对 AI 的控制、并出现可能危险的病毒创造之际，你们的公司仍在继续竞速 —— 投入数百亿美元资金，推动一项没有人能够完全理解、预测或控制的技术。 这是荒谬的、不负责任的，也是极其危险的。这同样背离了你们自己曾做出的承诺： 2023 年，Anthropic 曾表示，公司将“承诺在扩展能力超过我们遵守…… 安全程序的能力时，暂停扩大规模和 / 或推迟部署新模型”。 2025 年，Meta 表示：“如果一个前沿 AI 被评估为已经达到关键风险阈值，并且无法得到有效缓解，我们将停止开发。” 同年，OpenAI 表示，如果 AI 能力达到“关键”阈值，在建立强有力的安全措施之前，公司将“停止进一步开发”。 那个时刻已经到来。AI 能力已经达到关键阈值。美国中央情报局负责人之所以表示 AI 模型“类似于数字核武器”，甚至“几乎像末日装置”，是有原因的。 奥尔特曼先生、阿莫代伊先生和扎克伯格先生：为了人类的利益，请遵守你们曾经做出的承诺。暂停人工智能开发。现在采取行动还不晚，仍然可以避免灾难。停止制造人类无法控制的机器。 我要明确说明：如果你们现在不采取适当行动，我和我的美国参议院同事将会采取行动。 此致 伯纳德 · 桑德斯 美国参议员
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
