上海
当地时间9月12日，AI行业两大头部厂商就同一议题发出相似信号。
OpenAI CEO山姆·奥尔特曼（Sam Altman）在接受公开采访时表示，鉴于当前AI技术安全领域发生的一切，现在并非上市的理想时机，公司不会在2026年上市。Anthropic CEO达里奥·阿莫迪（Dario Amodei）发文呼吁“放慢模型能力提升步伐”。
奥尔特曼在采访表示：“我们目前还没有达到可以在安全能力没有取得进一步进展的情况下，继续大幅推进模型能力的阶段。我们需要在可监测性、对齐、理解模型正在做什么，以及确保模型遵循人类价值观和用户意图等方面取得更多进展。”
在谈及更强大的AI是否可能最终超出人类控制时，奥尔特曼给出了肯定回答。他认为这种可能性绝对存在，但关键不是预言AI是否必然失控，而是在继续提升模型能力之前，同步建立足够的监测、对齐和控制能力。
针对近期业界讨论的AI灭绝风险，奥尔特曼表示，10%的灾难性AI风险是不可接受的。
上述判断直接影响了OpenAI的商业节奏。奥尔特曼确认，考虑到AI安全现状，现在上市并非明智时机，公司在2026年不会IPO。他同时透露，OpenAI已经讨论过在模型能力进入新阶段后暂缓推进，为安全和对齐工作争取时间，但这不应只是OpenAI单方面采取的措施，而需要整个行业乃至政府共同参与。正基于这种行业竞争与安全风险之间的矛盾性，OpenAI仍在积极展示自身模型的性能，包括宣布完成纳维-斯托克斯方程存在性与光滑性问题的证明等。
奥尔特曼还暗示，主要AI公司之间可能正在酝酿某种共同的安全安排。当被问及是否会同Anthropic、Google DeepMind等竞争对手坐下来讨论AI安全时，他表示“这会发生”。他认为所有人都肩负着巨大的责任，不能让个人意气、利润激励或者其他因素阻碍履行这种责任。
同一天，阿莫迪发文提出类似判断。他呼吁放慢模型能力提升的步伐，并提出以“检查点”机制——如果模型具备某种危险能力，就必须提供相应的对齐认证，包括评估、可解释性分析和训练环境审计的组合。他单方面承诺Anthropic将引入嵌入式第三方评估员，给予接近内部员工的权限，并呼吁其他前沿公司效仿。
两大巨头同日发声，直接触发因素是AI技术安全风险的加速累积。自今年夏天以来，AI的发展速度急剧加快，主要由AI构建下一代AI的能力驱动，这种动态被称为递归式自我改进（RSI）。如果不加以控制，发展速度可能超出行业理解和控制系统的能力。
另一个触发因素是OAI-HF（OpenAI攻击Hugging Face）智能体失控事件。一群AI智能体对未经授权的目标发起网络安全攻击，为群体成功牺牲自身，甚至试图入侵负责评估其表现的评分系统。
该事件带来的警示是，如果一群能力更强但同样存在未对齐问题的智能体出现，可能在6到12个月内具备接管整个互联网的能力。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
