网易首页 > 网易科技 > 网易科技 > 正文

Claude Fable 5“翻车”后,Anthropic终于承认:我们沟通出问题了

0
分享至

6月12日消息,据TechSpot和Business Insider报道,Anthropic近日向公众推出Claude Fable 5。上线后,安全研究员和开发者批评该模型护栏过于敏感,会把正常工作请求也挡在外面;同时,模型在部分场景下会静默回退到旧版本处理,而Anthropic最初没有把这一机制解释清楚。

Anthropic随后承认沟通存在问题,表示会让拒绝或回退提示变得更明确。

Fable 5和Mythos:同一模型,不同权限

Fable 5和Mythos基于同一底层模型,但面向不同受众。Fable 5是公众版本,带有更严格的护栏;Mythos限制更少、能力释放更完整,目前只开放给少数受信任机构。

TechSpot称,Mythos早期预览版从4月起通过"玻璃翼项目"(Project Glasswing)提供给约150家机构,参与者已在自己的系统中报告超过10,000个严重安全漏洞。Anthropic的担心在于:同样的能力可以帮助防守方修补漏洞,也可能被攻击者用来寻找入侵路径。因此Mythos仍被放在更封闭的访问名单里,面向网络防御者、基础设施提供方、部分生物学研究人员,并与美国政府机构协调推进。

Anthropic表示后续会推出更广泛的"受信任访问计划",但目前不是所有用户都能直接使用Mythos级别的模型。

护栏怎么运作

Fable 5会对网络安全、生物学、化学等领域的请求以及模型蒸馏行为进行拒绝或重定向。当护栏触发时,请求会被转给较早的Claude Opus 4.8处理。

蒸馏指用大模型的大量输出训练更小模型。Anthropic希望防止用户批量收集Claude回答来训练竞品,因此Fable 5会监测此类行为,判定存在蒸馏风险时同样拒绝或回退。

公司称,Fable 5和Mythos都能比以往Claude模型更长时间地无人值守执行连续任务,这提升了效率也放大了误用风险。

争议:过度拦截和沟通不足

批评集中在两点。第一,护栏过于敏感。安全研究员和开发者反映,阅读安全博客、进行代码审查等正常工作也会触发拦截。Anthropic产品管理负责人戴安·佩恩(Diane Penn)对TechSpot承认,目前过滤器倾向于过度拦截,一些无害请求也可能被转给旧模型。

第二,回退机制最初不够透明。用户在付费使用Fable 5时,可能在不知情的情况下收到Opus 4.8的回答。Anthropic表示会让提示更明确,让用户至少知道自己的请求被降级处理了。

价格和定位

TechSpot称,Fable 5和Mythos的价格为每百万输入词元10美元、每百万输出词元50美元,约为Anthropic其他公开模型的两倍。

对大多数用户来说,Fable 5的日常体验不会受到太大影响。受影响最直接的是做安全研究、AI开发、生物化学相关工作的专业用户。他们越接近模型能力边界,越可能碰到这些刚刚变得可见的限制。(易句)

(本文由AI翻译,网易编辑负责校对)

相关推荐
热点推荐
胡锡进:华裔科学家加速叛离西方,中国能接住吗?项立刚:中国不接受叛离者,错在哪?

胡锡进:华裔科学家加速叛离西方,中国能接住吗?项立刚:中国不接受叛离者,错在哪?

王新喜
2026-11-16 18:40:44
一次吞11家银行!省联社改革后,江西将诞生首家千亿农商行

一次吞11家银行!省联社改革后,江西将诞生首家千亿农商行

南方都市报
2026-11-17 20:37:08
普京翻译走红社交网络,被美国特使称为“传奇”

普京翻译走红社交网络,被美国特使称为“传奇”

参考消息
2026-11-16 17:49:02
K联赛最佳主帅要来中超?比徐正源履历还硬核,去蓉城还是浙江?

K联赛最佳主帅要来中超?比徐正源履历还硬核,去蓉城还是浙江?

体坛鉴春秋
2026-11-17 15:56:55
马斯克幽默回复中国网友对他的安保担忧

马斯克幽默回复中国网友对他的安保担忧

瓦砾村夫
2026-11-16 21:16:48
创137年纪录!荷兰遭队史最惨1败:3天内从7-0到0-5,46岁哈维懵了

创137年纪录!荷兰遭队史最惨1败:3天内从7-0到0-5,46岁哈维懵了

我爱英超
2026-11-17 06:12:26
乌克兰即将迎来重要人物

乌克兰即将迎来重要人物

容得益
2026-11-17 14:09:33
小米开启清仓:2399 降到 1614,16+512GB+50MP 长焦

小米开启清仓:2399 降到 1614,16+512GB+50MP 长焦

小柱解说游戏
2026-11-17 02:50:42
免费时代全民听歌,收费时代众人弃歌:中国音乐究竟输在哪儿?

免费时代全民听歌,收费时代众人弃歌:中国音乐究竟输在哪儿?

浩渺青史
2026-11-16 02:34:06
离谱!美国达拉斯一女警回家走错楼层,把四楼当自家三楼,推门看见26岁黑人男子简正吃冰淇淋,竟直接开枪射杀,辩称以为遇入室盗贼

离谱!美国达拉斯一女警回家走错楼层,把四楼当自家三楼,推门看见26岁黑人男子简正吃冰淇淋,竟直接开枪射杀,辩称以为遇入室盗贼

扶苏聊历史
2026-10-05 16:42:03
石家庄以北的河北人,为什么不说自己是河北人呢?

石家庄以北的河北人,为什么不说自己是河北人呢?

笔墨V
2026-11-17 05:32:43
外交部回应相关国家免签政策将于今年年底到期

外交部回应相关国家免签政策将于今年年底到期

界面新闻
2026-11-17 15:21:10
作家陈岚点评大S之死,如果汪小菲带大S去旅游,估计连灰都没有了

作家陈岚点评大S之死,如果汪小菲带大S去旅游,估计连灰都没有了

小人物看尽人间百态
2025-02-09 09:12:11
神助攻?卞相壹爆冷胜申真谞进三星杯决赛,从千夫所指到万众期待

神助攻?卞相壹爆冷胜申真谞进三星杯决赛,从千夫所指到万众期待

真理是我亲戚
2026-11-17 16:08:35
彻底凉了!小杨哥兄弟注销亿粉账号,重启不到10万粉丝,网友:大运才是个人成功的重要条件之一

彻底凉了!小杨哥兄弟注销亿粉账号,重启不到10万粉丝,网友:大运才是个人成功的重要条件之一

火山詩话
2026-11-17 07:05:57
NVIDIA发布全新GPU猛兽!CUDA核心数量创纪录:首次超过5万个

NVIDIA发布全新GPU猛兽!CUDA核心数量创纪录:首次超过5万个

快科技
2026-11-17 11:21:08
大雨、暴雪!断崖式降温,来了!天津的雨这时到!

大雨、暴雪!断崖式降温,来了!天津的雨这时到!

天津族
2026-11-17 18:26:59
王毅会见加拿大外长阿南德

王毅会见加拿大外长阿南德

界面新闻
2026-11-17 22:17:52
别被骗了:每个月能领到2600块退休金的人,压根就是很少的一拨人

别被骗了:每个月能领到2600块退休金的人,压根就是很少的一拨人

放开他让wo来
2026-11-17 13:24:08
1987年,邓小平在众目昭彰下,猛地指向刘华清和洪学智,大声追问杨尚昆:命令究竟有没有下达

1987年,邓小平在众目昭彰下,猛地指向刘华清和洪学智,大声追问杨尚昆:命令究竟有没有下达

唠叨说历史
2026-11-11 13:38:14
2026-11-17 22:51:00

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

媒体:黄仁勋辞任CEO带来隐患 英伟达没有"二号人物"

头条要闻

媒体:黄仁勋辞任CEO带来隐患 英伟达没有"二号人物"

体育要闻

东契奇心仪之人 三年后拿着底薪站到他身旁

娱乐要闻

刘欢有6位生死之交,个个可托付后事

财经要闻

日本经济再现负增长 日央行12月还加息吗

汽车要闻

红旗H9 PHEV这后排,谁还抢着坐副驾?

态度原创

健康
亲子
旅游
本地
公开课

医生眼里"很伤腰"的椅子,很多人天天坐

亲子要闻

这4类孩子身高难“逆袭”,家长要尽早干预

旅游要闻

云南虎跳峡:淡季客流旺

本地新闻

乌兰察布:以前种土豆,现在种Token

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版
×