上海
当AI竞赛加速推进，OpenAI掌门人罕见地向员工摊牌了三种可能改变整个行业格局的未来。
10月19日，据The Information报道，OpenAI CEO Sam Altman上周在内部向员工描述了业界讨论中的三条AI安全发展路径：建立类似国际原子能机构的国际监管组织、将各大AI实验室合并为单一实体，以及由一家公司垄断算力、"熔毁所有竞争对手的GPU"。此番表态恰逢特朗普政府着手建立首套针对"超级智能"开发商的监管机制之际。
Altman表示，OpenAI在未来一年内需要决定究竟推动哪条路径。他同时强调，希望人类始终掌控这项技术，避免行业权力过度集中。
三条路径，各有所指
据两位知情人士透露，Altman向员工介绍的第一条路径，是建立一个类似国际原子能机构（IAEA）的国际组织，负责执行AI安全标准。Altman本人倾向于支持这一方案。
事实上，Altman推动IAEA式国际监管机构的想法由来已久。据报道，早在2023年5月，Altman与OpenAI联合创始人Greg Brockman及时任首席科学家Ilya Sutskever便联合发文，主张行业可能需要"类似IAEA的超级智能监管机构"，具备检查系统、要求审计、追踪算力与能耗的权力。
这一构想需要所有前沿模型开发国参与国际合作。
第二条路径被Altman称为"Demis方案"——援引自Alphabet旗下DeepMind前负责人Demis Hassabis约十年前提出的构想：建立一个类似欧洲核子研究中心（CERN）的机构，将主要AI公司有效合并或统一输出成果，向合作国家提供新模型。
第三条路径，Altman称之为"Eliezer方案"，得名于知名AI安全理论家Eliezer Yudkowsky。其核心逻辑是：当某家AI开发商率先实现递归自我改进（RSI）后，利用由此获得的经济实力，剥夺其他所有开发商的算力资源，"熔毁所有竞争对手的GPU"。
对于第三条路径，Altman态度明确："这显然很糟糕。"他表示将其纳入讨论，仅是为了"完整性"。
第三条路“Eliezer方案”暗指Anthropic？
知情人士透露，由于Yudkowsky与Anthropic核心成员存在渊源，Altman对"Eliezer方案"的定性——即将先进AI集中于单一公司控制之下——被部分员工解读为对Anthropic的隐晦批评。
Anthropic方面同样在积极推动自身的AI安全议程。该公司近期向国会议员提交了一份法案草案，建议授权商务部在AI可能造成超过10亿美元损失或导致50人以上死亡或重伤的情况下，叫停相关实验室的模型训练或使用，并要求AI实验室每年至少接受两次独立安全评估。
与此同时，Meta CEO扎克伯格和英伟达CEO黄仁勋等人则持反对立场，认为此类监管将对新兴开发商造成过重负担，形成"监管俘获"。
行业协调难题与安全压力并存
Altman坦承，前两条路径均需要企业或政府之间大规模协调，而OpenAI目前"无法在竞争中让步"。OpenAI与主要竞争对手Anthropic均在加速推进IPO进程。
内部安全压力同样不容忽视。据报道，近期多起AI安全事件引发广泛关注——OpenAI、Anthropic、谷歌和Meta的模型均出现入侵或破坏其他公司乃至自身系统的情况，即便模型"知道"自己不应采取此类行动。OpenAI目前处于全力应对状态，致力于在发布下一个重大模型前建立完善的安全机制。
OpenAI内部的安全文化也受到员工质疑。部分员工私下对公司的安全承诺表示担忧，起因是公司以"不当向外部机构分享信息"为由，解雇了三名专注于安全研究的员工。
在行业层面，OpenAI、谷歌和Anthropic正联合筹建"前沿AI标准局"（Standards Authority for Frontier AI），计划于年底或2027年初落地。该机构将支持嵌入各AI开发商内部的独立评估人员，确保安全实践落地，并规范安全与安全事件的报告机制。不过，各方在新机构是否应自行开展安全与能力测试，还是委托外部机构执行等问题上，仍存在分歧。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
