北京
《大西洋月刊》近日刊发OpenAI安全团队前员工David Robinson的撰文，警告顶尖AI公司在降低风险方面做得不够，并认为AI公司应像核电站一样运营，设置多层冗余机制。文章引发业界对AI安全治理路径的讨论。在AI安全风险公开讨论中，Anthropic PBC首席执行官阿莫迪呼吁“放慢开发最前沿模型的速度，并引入第三方评估人员协助审查以保证安全”。这一表态与当前AI行业普遍追求迭代速度的氛围形成对照。
前沿模型的安全张力
当前，前沿模型能力提升迅速，其潜在风险也随复杂度增加，部分风险难以在部署前被充分预知。阿莫迪提出“放慢速度”，意味着将更多时间用于理解模型行为、识别失败模式，而非单纯追求性能指标。引入第三方评估人员，则是对现有内部测试体系的一种补位。行业内的安全评估多以模型开发方自身或其委托的红队团队为主，第三方人员以独立身份参与审查，有助于减少评估盲区，增强结果的公信力。
行业回应与分歧
OpenAI方面回应称，正在加强研究和测试环境的安全性，并通过第三方评估、实时监控等措施确保模型能力不会超出其安全管理范围。值得注意的是，OpenAI并未直接回应“放慢开发速度”的建议，而是强调在推进过程中强化安全保障。这一差异反映出头部机构在AI安全路径选择上的不同侧重：一方主张以“减速”换取更充分的审查空间，另一方则倾向于在现有节奏内嵌入更严密的安全机制。两条路径的交锋点，在于如何权衡模型能力进展与风险控制之间的时间差。
治理机制待完善
David Robinson在文章中以核电站运营为参照，提出多层冗余机制。这一类比将AI系统可能面临的风险与高后果工业场景相联系。第三方评估能否真正覆盖前沿模型的“未知风险”，如何评估、由谁评估、评估结果如何被采纳，都需要行业形成更具体的规则。阿莫迪的呼吁将这些问题重新带回讨论中心。第三方评估能否从个别企业的主动选择，变为更普遍的机制要求，仍有待观察。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
