网易首页 > 网易科技 > 网易科技 > 正文

白宫召集四大AI巨头,讨论模型发布前安全测试

0
分享至

8月4日消息,Meta、Anthropic、OpenAI和Google已获邀在美国当地时间周二与白宫官员会面,讨论一套针对前沿AI模型的自愿安全测试框架。白宫称框架已经按期完成;会议预计由国家网络总监办公室主持,参加者以公司工作人员为主,并非公开发布会。

《The Information》称,OpenAI、Anthropic和Google在7月底已经看过一份早期草案。周二会议讨论的是完成后的框架和下一步安排,但白宫尚未说明它是否已经生效。

会议要谈的,是如何把政府测试插入新模型的发布流程。特朗普6月2日签署的行政令要求美国政府建立一套机密基准,测试模型的高级网络攻击能力,并据此划定“受覆盖的前沿模型”。据《The Information》,行政令出台前,Anthropic公布了前沿模型Mythos,但因潜在网络安全风险没有向公众开放。

加入自愿框架的公司,可以在模型向其他受信任伙伴开放之前先向政府提供访问,时间最长30天。

行政令同时规定,这套安排不得成为强制许可、发布前审批或模型发行许可证。它让政府有机会提前接触模型,但没有授权政府批准或否决模型发布。

这套框架之外,白宫已经使用过更强的政策工具。《The Information》称,政府此前对Mythos的公开版本Fable实施出口管制,并要求OpenAI分阶段发布GPT-5.6。这些措施不属于测试框架,却表明政府仍可从出口和国家安全等其他路径介入模型发布。

两起事故,把评测环境也变成了被测对象

框架在两家公司公开这些事故前已经启动。最近的披露改变了讨论的紧迫程度。

OpenAI在7月承认,一组在评测中降低了网络攻击相关拒答的内部模型突破隔离环境,随后进入Hugging Face的生产系统。按照OpenAI此前披露的攻击链,模型先利用内部软件中的零日漏洞获得互联网连接,再通过提权和横向移动取得测试题答案。公司仍在调查,并承诺完成复核后发布技术报告。

Anthropic随后也披露,其部分模型在网络安全测试中进入三家公司的真实系统。两家公司遇到的问题并不完全相同,却都说明了一件事:测试模型能否发动攻击时,沙箱、权限、长任务监控和人工处置也必须一起接受检查。

Hugging Face事件已经从安全团队的复盘进入州检察长和国会的议程。15名共和党籍州检察长要求OpenAI保存相关材料;美国众议院网络安全委员会也要求首席执行官萨姆·奥尔特曼就此作出说明。OpenAI表示会认真处理州检察长来函。

“自愿”之后,还有三件事没说清楚

框架虽已完成,执行办法仍留着三处空白:哪些模型会触线,测试结果如何使用,开放权重模型是否适用同一套流程。

第一是测试标准。行政令规定网络能力基准属于机密,划定“受覆盖的前沿模型”的门槛不会完整公开。企业需要提前判断自己的模型是否会触线,外部研究者却很难复核测试口径。

第二是结果怎么使用。白宫尚未公布测试指标、报告方式以及结果是否公开。模型提前交给哪些政府团队、知识产权和内部信息如何保护,也要靠框架的具体条款回答。OpenAI已经提出,应由商务部的AI安全专家在测试中承担核心技术角色。

第三是开放权重模型怎么处理。《The Information》称,企业此前还在与白宫讨论,框架是否应写入针对开放模型的具体条款。封闭模型可以控制发布对象和开放时间;模型权重一旦公开,访问范围和后续传播很难再按同一套流程管理。Meta是开放权重模型的主要发布方,也在受邀之列,但各方尚未披露框架会怎样处理这类模型。

周二的会议预计只讨论框架和下一步安排。框架有没有开始运转,要看下一款前沿模型的发布日历:面向合作伙伴开放之前,会不会先给政府留出那30天。(易句)

(本文由AI翻译,网易编辑负责校对)

相关推荐
热点推荐
俄罗斯内部终于有人把敏感话题摆上台面!外蒙古、远东历史问题再次引发热议,有观点认为若相关议题长期存在,中俄关系或出现新的变量?

俄罗斯内部终于有人把敏感话题摆上台面!外蒙古、远东历史问题再次引发热议,有观点认为若相关议题长期存在,中俄关系或出现新的变量?

扶苏聊历史
2026-09-23 18:05:33
张展硕背靠背半小时双黄蛋,金牌握6望7,几乎提前锁定亚运会MVP

张展硕背靠背半小时双黄蛋,金牌握6望7,几乎提前锁定亚运会MVP

杨华评论
2026-09-24 18:18:15
《街霸》春丽演员回应粗大腿"造假":没空P图!

《街霸》春丽演员回应粗大腿"造假":没空P图!

游民星空
2026-09-22 10:11:25
前夫:她性欲太强我受不了,拒给儿女抚养费,叶蕴仪51岁逆风翻盘

前夫:她性欲太强我受不了,拒给儿女抚养费,叶蕴仪51岁逆风翻盘

阳春三月天晴
2026-09-23 10:35:53
美专家意见罕见一致:待中国两岸统一,美国或只剩下1条可行之路

美专家意见罕见一致:待中国两岸统一,美国或只剩下1条可行之路

福建睿平
2026-06-17 11:44:17
今晚开打,郑钦文迎战鲍里妮,历史4-0,率中国金花冲击四强!

今晚开打,郑钦文迎战鲍里妮,历史4-0,率中国金花冲击四强!

体坛侃侃球
2026-09-24 08:08:07
特朗普亲自接机,最破防的是日本!

特朗普亲自接机,最破防的是日本!

环球策论
2026-09-24 19:11:15
没了1400亿,新希望养猪的坑到底有多深?

没了1400亿,新希望养猪的坑到底有多深?

市值Observation
2026-09-24 09:44:30
明日中秋节,除了月饼,家中别忘摆6样“吉祥果”,寓意平安吉祥,团圆美满,阖家幸福

明日中秋节,除了月饼,家中别忘摆6样“吉祥果”,寓意平安吉祥,团圆美满,阖家幸福

小茉莉美食记
2026-09-24 12:54:36
张家齐被陈瑶邀请过中秋,委婉拒绝显示超高情商,母亲又作妖

张家齐被陈瑶邀请过中秋,委婉拒绝显示超高情商,母亲又作妖

夏末moent
2026-09-24 19:10:18
恭喜!韩娱最高龄产妇诞下一子!

恭喜!韩娱最高龄产妇诞下一子!

奋斗在韩国
2026-09-24 16:57:14
行业最低!荣耀Magic9价格公布:16+512G只要5499元 网友:荣耀掀桌子了

行业最低!荣耀Magic9价格公布:16+512G只要5499元 网友:荣耀掀桌子了

快科技
2026-09-24 16:50:13
国足艰难破荒!王子铭单刀破门,王上源手术刀助攻,邵佳一鼓掌

国足艰难破荒!王子铭单刀破门,王上源手术刀助攻,邵佳一鼓掌

奥拜尔
2026-09-24 20:53:06
33岁女演员确诊癌症,已失去生活自理能力,家人苦撑2年公开求助:她想活下去,还想回去唱戏

33岁女演员确诊癌症,已失去生活自理能力,家人苦撑2年公开求助:她想活下去,还想回去唱戏

扬子晚报
2026-09-23 15:56:49
输掉美网决赛后现身米兰走秀,萨巴伦卡因场外活动再引球迷不满

输掉美网决赛后现身米兰走秀,萨巴伦卡因场外活动再引球迷不满

赛场速报局
2026-09-23 19:50:17
纽约市长硬刚以色列总理!内塔尼亚胡飞纽约,专机竟然不敢降落肯尼迪机场

纽约市长硬刚以色列总理!内塔尼亚胡飞纽约,专机竟然不敢降落肯尼迪机场

上观新闻
2026-09-24 13:32:33
名古屋亚运会羽毛球男团决赛:梁伟铿/王昶2-1取胜,为中国队拿下第二分

名古屋亚运会羽毛球男团决赛:梁伟铿/王昶2-1取胜,为中国队拿下第二分

好球去哪了
2026-09-24 17:35:03
曾是歌坛一代天王,却沦为臭名昭著的台独分子,今家破人亡下场惨

曾是歌坛一代天王,却沦为臭名昭著的台独分子,今家破人亡下场惨

蜉蝣说
2026-09-22 11:49:00
50岁刘国梁现身!观战亚运会男团决赛,见证王楚钦输二追三大逆转

50岁刘国梁现身!观战亚运会男团决赛,见证王楚钦输二追三大逆转

念洲
2026-09-24 18:12:26
余承东首度回应问界品牌合作模式调整:赛力斯这几年跟华为合作能力有了长足成长,支持他们

余承东首度回应问界品牌合作模式调整:赛力斯这几年跟华为合作能力有了长足成长,支持他们

IT之家
2026-09-24 14:43:07
2026-09-24 21:35:00

科技要闻

Claude在DNA里挖出新发现!大佬张锋点赞

头条要闻

国乒男团2-3惜败九连冠梦碎 中国男乒要重新开始了

头条要闻

国乒男团2-3惜败九连冠梦碎 中国男乒要重新开始了

体育要闻

巴图姆,以父之名

娱乐要闻

93岁游本昌去世 最后一句话惹人泪目

财经要闻

没了1400亿 新希望养猪的坑到底有多深?

汽车要闻

2027款埃安i60,这次终于卷对地方了

态度原创

家居
艺术
教育
本地
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

艺术要闻

赵孟頫晚年炉火纯青之作!字字美若天仙,堪称元代行书第一绝!

教育要闻

北京化工大学9名研究生被退学,学校公布原因,令人感到无语

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版
×