网易首页 > 网易号 > 正文 申请入驻

Google、OpenAI和Anthropic筹建AI安全自律机构

0
分享至

来源:环球市场播报

  Google、OpenAI和Anthropic正在推进成立一个新的AI安全标准机构,希望在缺乏新的政府监管框架之际,由行业自行建立针对最先进AI模型的测试、安全和事故报告规则。知情人士称,该机构暂定名为“前沿人工智能标准管理局”(Standards Authority for Frontier AI,简称SAFA),目标是在今年年底或2027年初启动。

  与此前设想不同,SAFA目前计划独立于政府运作。三家公司最初希望建立一个由行业主导、同时接受联邦政府监督的公私合作机制,但相关方案在特朗普政府内部推进受阻,加上国会在中期选举前难以形成新的AI立法,三家公司转而准备先以行业自律方式填补监管空档。

  核心任务是把AI安全承诺变成可执行标准

  SAFA计划承担的核心职能,不是制定一般性的AI伦理原则,而是围绕前沿模型建立一套更具体的测试和审计体系。

  按照目前讨论的方案,该机构将支持第三方机构在模型正式部署前开展安全测试,并制定AI企业发生安全和网络安全事件后的报告规则。同时,Google、OpenAI和Anthropic此前已经公开作出的自愿安全承诺,也将被进一步转化为更加具体的执行标准。

  SAFA还计划设定独立审计机构需要满足的资格要求,从而明确哪些第三方机构有能力对前沿模型和开发实验室进行评估。这意味着其目标并不只是让企业自行声明“模型安全”,而是建立外部测试和审计机制。

  工作组目前还在讨论SAFA是否应该直接开展模型安全和能力测试。如果最终采纳这一方案,SAFA不仅负责制定规则,还可能亲自参与评估最先进模型。

  政府原本考虑参与,但方案最终停滞

  三家公司讨论建立这一机构已经持续数月。最初的思路是参考美国金融业监管局的模式,由行业成立自律机构,同时向政府负责。

  这一构想此前一度获得白宫内部关注,美国政府甚至讨论过通过行政命令建立类似机构。不过,方案随后停滞,部分原因是AI行业内部并没有形成统一意见。

  白宫向Google、OpenAI和Anthropic提出,在政府正式参与之前,几家公司需要先争取更广泛的行业共识。目前这一条件尚未实现,因此SAFA暂时按照完全独立的行业组织推进,不过参与讨论的人士仍希望未来能够与美国政府建立合作关系。

  特朗普政府当前的正式政策也更倾向于自愿合作,而不是建立强制性的前沿模型许可制度。6月发布的行政命令建立了政府与AI开发商合作的自愿测试框架,同时明确表示,不授权建立强制性的模型许可、预先审批或发布许可制度。

  前沿模型风险上升推动行业加快行动

  SAFA加速推进的另一个背景,是近期高级AI模型出现的一系列安全事件。

  三家公司认为,随着模型能力继续提高,仅依赖各实验室自身内部测试已经越来越难覆盖所有风险。近期围绕AI智能体行为失控、安全漏洞以及模型能力快速增强的讨论,也进一步推动行业建立统一测试和事故报告机制。

  OpenAI近期也开始推动更加系统化的模型异常行为披露机制,并公开主张建立更统一的AI安全标准。该公司表示,随着模型能力增强,需要更加一致的第三方评估、治理和信息共享机制。

  因此,SAFA希望解决的一个核心问题,是让不同AI实验室不再各自使用完全不同的安全标准,而是建立能够相互比较的测试指标和最低要求。

  与现有监管和安全组织存在重叠

  不过,新机构尚未成立,就已经面临一个现实问题:类似组织和测试机制其实已经存在。

  美国政府目前已有负责AI标准与创新的机构,承担部分前沿模型测试职能;白宫也建立了模型部署前自愿测试框架。此外,Google、OpenAI、Anthropic和Microsoft早在2023年就共同成立了Frontier Model Forum,同样以提高前沿模型安全性为目标。

  因此,SAFA未来必须证明自己能够提供现有组织没有覆盖的能力。

  参与筹建的人士认为,SAFA的目标是建立一个比Frontier Model Forum运作更高效、执行能力更强的行业自律机构。两者未来并不一定相互替代,也可能继续合作。

  与此同时,部分参与者认为现有政府测试机构缺乏足够资源,无法对越来越复杂的前沿模型进行全面测试,因此希望SAFA增加额外的能力和安全评估。但具体如何避免与政府机构重复,目前仍在讨论。

  最大问题是能否获得更广泛行业支持

  SAFA未来真正的挑战,是能否从Google、OpenAI和Anthropic三家公司主导的组织,发展成整个前沿AI行业认可的标准制定机构。

  按照目前设想,SAFA主要监督开发“前沿模型”的实验室,也就是拥有最先进AI系统的企业。Google、OpenAI和Anthropic目前都被认为属于这一范围,因此成为主要发起者。

  Meta以及部分开源模型企业目前可能不会立即进入SAFA的评估范围,但如果它们未来的模型达到SAFA设定的前沿能力门槛,也可能被纳入。SAFA本身将负责制定哪些模型需要接受监督的标准和基准。

  这也引发了一部分行业人士的疑虑。批评者担心,如果由当前最领先的三家AI公司决定什么属于“前沿模型”、需要满足哪些测试和审计要求,这些标准最终可能形成较高的合规门槛,从而对规模较小或以开源模式开发模型的竞争者更加不利。

  管理层人选仍在讨论

  三家公司目前也在寻找SAFA的领导层。

  知情人士称,工作组曾接触特朗普政府前AI政策顾问Sriram Krishnan担任首席执行官,并考虑过前白宫科技政策办公室主任Arati Prabhakar。前美国国务卿Condoleezza Rice以及企业家David Friedberg则曾进入主席候选名单。

  科学顾问人选则包括AI研究机构METR创始人Beth Barnes以及Paul Christiano。不过,部分名单中的人士表示尚未收到正式邀请,目前也不清楚这些候选人是否仍在积极考虑范围内。

  总体来看,SAFA的出现反映出前沿AI监管正在形成一条新的路径:在美国政府暂时没有推出更强制监管制度的情况下,Google、OpenAI和Anthropic准备先通过行业自律建立模型测试、第三方审计、事故报告和安全承诺标准。

  但SAFA能否真正成为行业标准,并不只取决于三家公司是否能够把组织建立起来。更关键的是,它能否获得其他AI企业认可、避免与现有政府机构和行业组织重复,同时证明其制定的安全标准不会成为现有领先企业抬高竞争门槛的工具。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
6死15伤!普京放话报复不到一天,基辅凌晨就挨炸,多座桥被毁

6死15伤!普京放话报复不到一天,基辅凌晨就挨炸,多座桥被毁

万物知识圈
2026-11-22 09:54:43
一觉醒来,中国斯诺克3胜2负!2场6-2,白雨露被逆转,新人1轮游!

一觉醒来,中国斯诺克3胜2负!2场6-2,白雨露被逆转,新人1轮游!

刘姚尧的文字城堡
2026-11-22 05:39:50
运动员哪能这么白这么露?铁三女神冯竟爽再次夺冠,回击流言蜚语

运动员哪能这么白这么露?铁三女神冯竟爽再次夺冠,回击流言蜚语

杨华评论
2026-06-03 02:20:48
广东男篮13分惨败给香港金牛过去仅一夜,带来广东男篮徐杰和贝罗卡尔最新动态,黄明依说的很到位

广东男篮13分惨败给香港金牛过去仅一夜,带来广东男篮徐杰和贝罗卡尔最新动态,黄明依说的很到位

凯丰侃球
2026-11-22 05:00:36
太会演!两日本人在上海打架致死,日本部分媒体刻意隐瞒关键信息

太会演!两日本人在上海打架致死,日本部分媒体刻意隐瞒关键信息

三石记
2026-11-22 07:55:07
首次到访深圳,马斯克:特斯拉会继续在中国提高产量,我是中国的超级粉丝,中国有太多宏伟壮观的建筑与自然景观

首次到访深圳,马斯克:特斯拉会继续在中国提高产量,我是中国的超级粉丝,中国有太多宏伟壮观的建筑与自然景观

极目新闻
2026-11-19 12:31:20
亚洲金融巨头落户珠江新城,将带来千个工作岗位

亚洲金融巨头落户珠江新城,将带来千个工作岗位

孙不熟读城市
2026-11-21 21:48:32
沈腾,获最佳男主角

沈腾,获最佳男主角

澎湃新闻
2026-11-20 23:56:06
8胜7负独行侠主场迎快船,两队伤停名单合计8人

8胜7负独行侠主场迎快船,两队伤停名单合计8人

坠入温柔晚风
2026-11-22 10:30:40
他长得帅演技好,因名字太特别,出道29年戏红人不红

他长得帅演技好,因名字太特别,出道29年戏红人不红

东方不败然多多
2026-11-22 01:09:35
江西摩的司机黄全顺:3年奸杀16名女子,19岁妻子得知真相绝望自尽

江西摩的司机黄全顺:3年奸杀16名女子,19岁妻子得知真相绝望自尽

雾岛夜话
2026-11-21 15:11:03
《GTA6》曼迪演员登上热搜!游戏中大胆勾引杰森

《GTA6》曼迪演员登上热搜!游戏中大胆勾引杰森

游民星空
2026-11-20 12:11:28
1987年,邓小平在众目昭彰下,猛地指向刘华清和洪学智,大声追问杨尚昆:命令究竟有没有下达

1987年,邓小平在众目昭彰下,猛地指向刘华清和洪学智,大声追问杨尚昆:命令究竟有没有下达

唠叨说历史
2026-11-11 13:38:14
《GTA6》女主换装太诱人 超多比基尼可选!

《GTA6》女主换装太诱人 超多比基尼可选!

游民星空
2026-11-20 11:07:52
韩国太狠了,让全国手机响铃 10.5 秒防高考作弊,高考期间共查出111起电子设备作弊

韩国太狠了,让全国手机响铃 10.5 秒防高考作弊,高考期间共查出111起电子设备作弊

趣笔谈
2026-11-21 11:08:09
信访新规强调:越级上访就问责!可如果基层不受理,该到哪说理去

信访新规强调:越级上访就问责!可如果基层不受理,该到哪说理去

职场资深秘书
2026-11-20 10:37:14
威廉王子动真格?被曝要让哈里梅根彻底变平民,夏洛特路易也可放弃头衔

威廉王子动真格?被曝要让哈里梅根彻底变平民,夏洛特路易也可放弃头衔

译言
2026-11-22 09:00:24
他靠给自己戴100顶绿帽,改写了历史,成就了千秋伟业!

他靠给自己戴100顶绿帽,改写了历史,成就了千秋伟业!

等闲哥
2025-02-05 12:47:49
巴拿马总统曾摊牌!没收中国港口不是美逼的,准备和中国续签协议

巴拿马总统曾摊牌!没收中国港口不是美逼的,准备和中国续签协议

悦心知足
2026-11-21 14:03:22
去上海才明白:没人穿耐克、阿迪了!满街都是“萨洛蒙、鬼塚虎”

去上海才明白:没人穿耐克、阿迪了!满街都是“萨洛蒙、鬼塚虎”

启迪你的思维
2026-11-21 11:26:35
2026-11-22 10:43:00
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
5580824文章数 10056关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

时尚
艺术
旅游
游戏
公开课

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

艺术要闻

世界十大著名宫殿盘点:中国独占两席

旅游要闻

喀什旅游的游客因清廷中唯一的维吾尔族妃子的故事而奔赴这里参观

PC Gamer试玩GTA6百小时:双主角出色但任务重复

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版