北京
Anthropic首席执行官阿莫代伊近日在最新发表的博文中公开呼吁，必须放慢提升人工智能模型能力的速度，进步看起来仍会很快。这是头部AI实验室负责人首次以博文形式，对前沿模型开发节奏发出明确的减速倡议，并迅速获得业界回应——马斯克、奥尔特曼等业界大佬随即表示赞同。
从内部讨论到公开倡议
阿莫代伊此次表态的特殊之处在于其公开程度。作为Anthropic负责人，他并未通过内部备忘录或闭门会议释放信号，而是选择以博文这一高度公开的形式直接发声。这一选择本身即传递出明确信号：头部实验室对前沿AI模型失控风险的警惕，正在从内部走向公开化。
阿莫代伊在博文中指出，AI能力的提升速度短期内不会因主动放缓而显著下降——"进步看起来仍会很快"——因此行业必须明智地利用由此争取的时间，加强安全建设。这一表述实际上区分了两件事：一是模型能力本身的进化惯性，二是围绕安全、评估、治理的可操作空间。在他看来，节奏调整并非以牺牲进步为代价，而是为安全体系补齐短板创造窗口。
主要担忧：自我改进与智能体协同
博文具体论述了两类核心担忧。其一是AI系统的自我改进能力。随着模型在代码生成、推理、规划等任务上的能力增强，AI对自身训练流程、架构乃至目标函数进行迭代优化的可能性正在上升。一旦这种能力被触发，模型迭代将脱离传统意义上的人类工程节奏，进入难以预测的循环。
其二是智能体协同带来的安全风险。博文特别提及近期OpenAI和Hugging Face智能体协作入侵事件，将其作为典型案例。这一事件的特殊性在于，多个AI智能体能够跨越机构边界相互协作，共同完成原本需要人类协调的复杂任务。阿莫代伊借此说明，AI的风险面已从单体模型的输出偏差，扩展至多智能体系统的协同行为，这对现有的安全测试范式构成了新的挑战。
第三方评估与全行业协调
针对上述风险，阿莫代伊提出两个层面的应对路径。第一是机制层面，应让第三方评估人员全面介入安全验证。这意味着安全测试不再由模型开发方独家完成，而是由具备独立地位的机构对模型能力、红队测试结果、部署条件进行外部审查。
第二是协调层面，阿莫代伊呼吁全行业乃至全球进行协调。前沿AI模型一旦部署，其影响往往跨越国界，单一公司或单一国家的自律难以构成充分防线。他所倡导的是一种类似核能、生物技术等领域的国际治理思路：通过行业共识与多边框架，将单方面的节奏选择转化为集体行动。
头部实验室集体转向
马斯克、奥尔特曼等业界大佬随即表示赞同，这一反应值得注意。过去几年，围绕AI安全的讨论常常伴随着阵营分化。此次多家头部负责人同步发声，意味着围绕"放慢节奏、争取安全窗口"的行业共识正在快速形成。
需要指出的是，"放慢"在不同主体语境中的含义并不完全一致。如何在减缓节奏与维持竞争力之间取得平衡，仍是头部实验室需要回答的现实问题。阿莫代伊的此次发声，可被视为前沿AI治理讨论从专家闭门会议走向产业公共议程的一个节点。其后续影响，将取决于第三方评估机制能否真正落地，以及全行业、跨国的协调能否形成具有约束力的框架。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
