网易首页 > 网易科技 > IT业界 > 正文

Fable 5上线方案公布,Anthropic想给AI越狱定一把尺

0
分享至

7月1日消息,当地时间周二,Anthropic宣布恢复Claude Fable 5访问。公告里的新信息不止模型重新上线:公司第一次系统解释,什么样的AI越狱应被视为严重风险。

Anthropic在官网发布长文称,美国政府已解除对Claude Fable 5和Claude Mythos 5的出口管制。Fable 5将从7月1日起重新面向全球用户开放,覆盖Claude Platform、Claude.ai、Claude Code和Claude Cowork。Pro、Max、Team和部分Enterprise用户在7月7日前可把Fable 5用于最多50% 的每周使用额度;之后将通过用量积分继续使用。Anthropic还称,将尽快在AWS、Google Cloud和Microsoft Foundry上重新启用访问。

Mythos 5则已在美国政府6月26日批准后,先向一批美国机构恢复访问,并将继续与政府协调,扩大到Glasswing项目中的更多国内和国际合作伙伴。

如果只看结果,这像是一场模型下架风波的收尾。但Anthropic这篇文章的重点其实在后半段:它想把 “AI模型越狱到底有多严重” 变成一套行业评分标准,并把前沿模型发布纳入更深的政府预发布测试。

为什么一份越狱报告会让模型下架

这场风波始于6月12日。

Anthropic称,美国政府当天对Fable 5和Mythos 5实施出口管制,要求限制外国国民访问这两款模型。这里的外国国民不只包括美国境外用户,也包括在美国境内的非美国国民。由于指令立即生效,而Anthropic无法实时核验每个用户的国籍,公司最后选择暂停所有用户访问。

政府介入的直接导火索,是一份来自亚马逊研究人员的报告。报告称,研究人员找到一种绕过Fable 5安全防护的方法,让模型识别出若干软件漏洞;其中一个案例里,模型还生成了演示如何利用漏洞的代码。

Anthropic的反驳很明确:这不是Fable 5突然释放出独有的高级攻击能力。

公司称,自己复测后发现,Claude Opus 4.8、GPT-5.5、Kimi K2.7等较低能力模型,也能识别同样漏洞;在生成单个漏洞利用演示时,Haiku、Sonnet、Opus、GPT和Kimi的多个版本也能给出类似结果。Anthropic认为,这更像是Fable 5安全分类器里的一个边界案例,而不是Mythos级别网络攻击能力外泄。

换句话说,争议核心不是 “模型有没有风险”,而是:一个绕过技巧到底严重到什么程度,是否足以让政府要求模型停服。

新防护能拦99% 以上,但代价是误伤

为了恢复访问,Anthropic训练了新的安全分类器,专门拦截亚马逊报告中的绕过行为。公司称,新分类器能在超过99% 的情况下阻止相关技巧;如果Fable 5请求被拦截,系统会把请求转给Claude Opus 4.8处理。

美国商务部下属的AI标准与创新中心也测试了Anthropic的新旧防护。

但这不是一个 “修好就完事” 的问题。Anthropic承认,新分类器会让日常编程和调试任务中更多良性请求被误判。也就是说,用户正常做安全研究、漏洞分析或代码调试时,可能更容易碰到拒答。

这才是前沿模型安全的难点:厂商既要证明模型不会被轻易拿去做攻击,又不能把正常开发者和安全研究人员挡在门外。Fable 5的恢复,实际上是一次能力、可用性和政策风险之间的重新平衡。

Anthropic想给AI越狱分级

这篇文章最有价值的部分,是Anthropic提出的 “AI越狱严重程度框架”。

Anthropic认为,现在行业缺少统一标准。每次有人发现新的绕过方法,厂商不知道该多快修,政府也缺少一致尺度判断是否该介入。

它提出用四个维度判断一个越狱是否严重:能力增益、能力范围、武器化难度和可发现性。

这个框架的意义在于,它把 “AI越狱” 从一个容易引发恐慌的词,拆成了可以排序、可以处置的问题。一个只能触碰安全边界、还需要很多技巧才能复现的越狱,和一个一两句提示就能稳定解锁危险能力的越狱,不应该被同等对待。

Anthropic正在与亚马逊、微软、谷歌和其他Glasswing合作伙伴起草一套框架。它建议从四个维度给越狱风险打分:

第一,能力增益。越狱后,模型能不能做出现有公开工具和较弱模型做不到的事情。如果只是达到其他工具已有能力,风险较低;如果能显著加速专家级攻击,风险就高。

第二,能力范围。同一种越狱方法,是只能解锁一个很窄的任务,还是能覆盖多类攻击目标和技术路线。

第三,武器化难度。把这个越狱转成真实攻击,需要多少人工努力、提示技巧和反复尝试。如果一两次提示就能稳定成功,风险更高。

第四,可发现性。这个方法是需要专业知识才能找到,还是已经在网上广泛传播。

这套框架的意义在于,它试图把 “AI越狱” 从笼统恐慌,拆成可沟通、可排序、可修复的问题。以后模型被发现漏洞时,厂商和政府可以先判断:这是低风险边界案例,还是必须立即部署缓解措施的高危越狱。

Anthropic还计划推出新的HackerOne项目,让安全研究人员提交Fable 5潜在网络安全越狱案例。

前沿模型发布以后更难 “只按产品节奏走”

Fable 5这次恢复访问,也说明前沿模型发布正在多一层外部变量。

Anthropic表示,对涉及国家安全相关前沿能力的模型,将向指定美国政府伙伴提供更早访问权限,让政府在广泛发布前测试模型和配套防护;当出现重要越狱或滥用模式时,也会更快向政府共享信息;同时投入专门团队和算力,参与AI安全评测与研究。

这意味着,前沿模型不再只是 “训练完成、评测通过、上线销售”。越靠近网络安全、生物安全、国家安全这些高风险能力,模型发布越可能进入政府预审、信息共享和风险协商流程。

对用户来说,Fable 5恢复访问是好消息。但对企业客户来说,这件事留下的提醒更现实:最强模型的可用性,不只取决于能力、价格和接口,也取决于政策状态。一款模型即使已经上线,也可能因为安全争议突然暂停,再通过补防护、复测和政府协调恢复。

对Anthropic来说,这次复盘既是在解释下架原因,也是在争夺话语权:公司希望外界相信,Fable 5不是失控模型,而是一个被过度谨慎处理的边界案例;同时,它也希望把行业焦点从 “模型能不能被越狱” 转到 “越狱严重程度该怎么判断”。

所以,这篇公告表面上是在宣布Fable 5重新上线,实际上是在给前沿模型行业立一套新问题:AI越狱该怎么分级,政府该什么时候介入,模型公司又该怎样证明自己既能放出能力,也能管住风险。(易句)

(本文由AI翻译,网易编辑负责校对)

相关推荐
热点推荐
马刺123-103轻取太阳,文班亚马19+4+3,卡斯尔18分

马刺123-103轻取太阳,文班亚马19+4+3,卡斯尔18分

懂球帝
2026-10-15 10:43:51
妻子谎称情夫是表哥,让丈夫同意他俩睡,2017年他俩合伙杀死丈夫

妻子谎称情夫是表哥,让丈夫同意他俩睡,2017年他俩合伙杀死丈夫

汉史趣闻
2026-10-15 09:08:12
1.25亿先生破荒之战戴帽,利物浦6-3欧冠大捷,刷新34年队史纪录

1.25亿先生破荒之战戴帽,利物浦6-3欧冠大捷,刷新34年队史纪录

钉钉陌上花开
2026-10-15 04:20:26
悲催!心脏三院院士在西安参会猝死,满屋同行无力施救,网友:这是自己刀,削不了自己把儿吗

悲催!心脏三院院士在西安参会猝死,满屋同行无力施救,网友:这是自己刀,削不了自己把儿吗

火山詩话
2026-10-14 20:21:36
美国利空又来!A股大跌的原因找到了,成交额腰斩,有股民认输离场

美国利空又来!A股大跌的原因找到了,成交额腰斩,有股民认输离场

金石随笔
2026-10-15 00:57:03
黄奇帆被查,近年关于房地产相关言论梳理!

黄奇帆被查,近年关于房地产相关言论梳理!

西虹市闲话
2026-10-14 12:17:00
网传大闸蟹“全线崩盘”,是真的吗?

网传大闸蟹“全线崩盘”,是真的吗?

新华社
2026-10-14 21:20:12
2000多篇论文撤稿,浪费数千万经费

2000多篇论文撤稿,浪费数千万经费

中国新闻周刊
2026-10-14 23:18:08
哈兰德双响破梅西2大神迹,登贝莱6连斩,曼城2-4大巴黎8连胜终结

哈兰德双响破梅西2大神迹,登贝莱6连斩,曼城2-4大巴黎8连胜终结

钉钉陌上花开
2026-10-15 04:58:20
南京博物院原院长徐湖平因肺癌去世

南京博物院原院长徐湖平因肺癌去世

亚洲雷达
2026-10-14 11:45:55
特朗普施压乌克兰遭到反噬,利好民主党夺回两院

特朗普施压乌克兰遭到反噬,利好民主党夺回两院

名人苟或
2026-10-14 22:32:02
釜底抽薪!网传杭州KTV复工定下两条硬规,拆除休息室切换量贩系统,传统商K盈利模式彻底崩塌

釜底抽薪!网传杭州KTV复工定下两条硬规,拆除休息室切换量贩系统,传统商K盈利模式彻底崩塌

火山詩话
2026-10-14 08:04:42
洪金宝深夜发声明:陈小姐,请别再拿我名字当信用卡刷

洪金宝深夜发声明:陈小姐,请别再拿我名字当信用卡刷

乡野小珥
2026-10-14 14:13:27
湖北六旬老人凌晨下地被气枪打死,男子自首称“误伤”?3个疑点证明他是蓄意杀人

湖北六旬老人凌晨下地被气枪打死,男子自首称“误伤”?3个疑点证明他是蓄意杀人

可达鸭面面观
2026-10-15 08:48:03
金正恩下决心开放门户,鸭绿江大桥一夜复活,俄朝已经先行一步

金正恩下决心开放门户,鸭绿江大桥一夜复活,俄朝已经先行一步

笔墨V
2026-10-15 03:20:29
2-4!欧冠巅峰对决:开场32分钟连丢3球 15亿豪门主场折戟止步8连胜

2-4!欧冠巅峰对决:开场32分钟连丢3球 15亿豪门主场折戟止步8连胜

狍子歪解体坛
2026-10-15 04:56:36
东三省告诉大家——人少了,就不卷了

东三省告诉大家——人少了,就不卷了

鬼菜生活
2026-10-14 07:56:31
杜伦续约后首秀9中8轰24分!活塞22分大胜森林狼 华子20分

杜伦续约后首秀9中8轰24分!活塞22分大胜森林狼 华子20分

醉卧浮生
2026-10-15 10:39:47
孟加拉国宣布计划向日本派遣600万劳工,超过日本现有人口的5%?

孟加拉国宣布计划向日本派遣600万劳工,超过日本现有人口的5%?

爆角追踪
2026-10-15 08:01:20
64岁老人凌晨在田间干活遭气枪击中身亡 家属:他头灯那么亮,怎会被人看成猎物?警方介入调查

64岁老人凌晨在田间干活遭气枪击中身亡 家属:他头灯那么亮,怎会被人看成猎物?警方介入调查

红星新闻
2026-10-14 23:14:46
2026-10-15 11:15:00

科技要闻

国行苹果AI被曝12月上线,新Siri仍要等

头条要闻

著名女星被逮捕 飞机上拳击撕咬空乘企图强开舱门

头条要闻

著名女星被逮捕 飞机上拳击撕咬空乘企图强开舱门

体育要闻

30天30队·开拓者:利拉德?莫兰特?

娱乐要闻

陈小春弟弟被卖,多年不打扰另有隐情

财经要闻

洋餐饮的中国生意:红利消退后的集体交权

汽车要闻

不止大空间/纯电增程任选 小鹏MONA L05来了

态度原创

时尚
本地
游戏
健康
房产

今年秋天一定要拥有的10件单品,时髦又好看!

本地新闻

这个十一,林都伊春彻底出圈!

魔兽世界:历史记忆感最强的传奇匕首,见过第一款才是真大佬!

孩子运动莫名晕倒?当心这类疾病

房产要闻

突发!三亚超级万象城改规公示下架!

无障碍浏览 进入关怀版
×