北京
昨天，Anthropic CEO Dario Amodei（达里奥·阿莫代伊）提出放缓AI发展速度的呼吁发出后，迅速获得了OpenAI Sam Altman（山姆·奥特曼)和Elon Musk(伊隆·马斯克)的支持。
马斯克在 X 上转发阿莫代伊的文章，并写道，“Dario 是对的。”
奥特曼随后也在 X 上表示，“我同意 Dario 的观点，我们需要放慢前沿 AI 的发展速度。”
ps. 不得不说，马斯克和奥特曼这对“宿敌”在同一问题上能态度统一，真的是太不容易了。
此前，本周早些时候，奥特曼在 OpenAI 全员会议上表示，他愿意接受通过国际协调来放慢 AI 发展的速度。
奥特曼还补充说，“让独立评估机构拥有类似员工的访问权限，这是一个很棒的想法，我们也会这样做。很快我们会分享更多信息。”
同时，在接受《财富》杂志的采访时，奥特曼甚至表示，OpenAI将推迟其IPO，不会在今年上市。
“我其实认为，鉴于安全方面发生的一切，现在公开上市将是一个不明智的时刻。”他说。
《财富》杂志主编 Alyson Shontell 问道：“所以听起来不是 2026 年，而是可能 2027 年。”
奥特曼回答：“我想说不是 2026 年。”
有意思的是，此前市场预计，Anthropic 最早可能在上周提交招股说明书，但截至目前，这一进程也尚未发生。
在《财富》采访中，奥特曼还说，“我是否相信有可能构建一个不受人类控制的系统？绝对有可能”。
奥特曼还表示，“我们将始终采取行动，包括如果这意味着我们必须暂停一段时间的训练，来在对齐问题上取得更多进展”。
几天前的9月1日，奥特曼接受Alex Heath采访时也曾透露， OpenAI已经因为安全问题放慢并推迟前沿RL训练，未来可能还会多次暂停。
“我认为在前进的道路上会有许多地方，我们不得不说，我们要暂停了，我们将在前往下一个阶段之前，将我们的努力重新定向到安全对齐上。”他说，极端情况下，如果人类生存真的需要，“熔毁所有GPU”也可以。
OpenAI 前联合创始人现 Claude 负责人 Andrej Karpathy 也表态称，“我爱这个，并真心希望我们作为一个行业能够团结起来，让它成为现实”。
阿莫代伊在周六发表的文章中表示，“必须放慢提升 AI 模型能力的速度”。
这场AI安全舆论风波的导火索是本周Anthropic 研究员 Jacob Coxon 的离职声明。
他表示，Anthropic 及其竞争对手正在“拿我们的生命下注”，因为它们正在竞相开发超级智能 AI，而这种 AI 有能力以快于人类监督能力跟上的速度进行自我改进。
他写道，“那些正在认真开发 AI 的人，相信它可能在这十年结束之前杀死我们所有人。”
就在这一警告之前，外界披露了一起事件：一群 OpenAI AI Agent 从一个测试系统中“逃出”，并入侵了 AI 开发者网站 Hugging Face，控制了 ChatGPT 开发商的服务器，并相互协调，试图完成开发者给它们设定的一项任务，但最终走向了错误的方向。
对此，阿莫代伊在文章中说，“在我看来，如果这个 Agent 集群拥有更强的能力，但具有类似程度的失准（misalignment），它可能造成灾难性的破坏。”
他表示，这起事件是促使自己呼吁放缓 AI 发展的主要原因之一。
阿莫代伊还指出，类似但严重程度较低的事件已经发生在整个行业，包括 Anthropic 自身。
他说，“我认为，每一家前沿 AI 公司都有责任采取行动，就好像 OAI-HF 事件已经发生在自己身上一样。”
阿莫代伊还呼吁政府提供支持，允许中美等主要国家的 AI 开发商协调制定安全标准和发展限制，否则，这种协调可能会触及反垄断法。
但美国总统迄今基本上对AI监管的呼吁持否定态度。
上周，他在接受记者采访时表示，他对AI导致人类灭绝“没有任何”担忧。
他说，“我担心的是，如果我们不能赢得 AI 竞争，我们将会陷入非常糟糕的境地。”
佛州参议员桑德斯在 X 上发帖称，尽管马斯克、奥特曼等都表态了，“这只是一个开始，但还不够”。
他说，“必须踩下刹车”，“当人类的未来岌岌可危时，我们需要暂停先进人工智能的发展，并禁止人工超级智能”。
桑德斯提出，在即将举行的中美 AI 峰会上，双方必须就此达成合约。
值得一提的是，暂停AI的共识三年前曾达成过。
2023年3月，由 Future of Life Institute（生命未来研究所，FLI）发布了《暂停巨型AI实验》（Pause Giant AI Experiments）公开信。
当时的背景是，GPT-4 刚刚发布。在这封信看来，AI能力增长的速度已经超过了社会理解、监管和安全控制能力。
公开信提出，所有AI实验室立即暂停至少6个月，暂停训练比GPT-4更强大的AI系统。
该倡议获得了包括马斯克、Apple联合创始人Steve Wozniak等在内的超过30,000名人士签名支持。
但六个月暂停并没有真正发生。相反，GPT-4之后，AI模型竞赛继续加速。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
