网易首页 > 网易号 > 正文 申请入驻

交白卷也排第一?Fable 5二百题全部拒答,却登顶最严AI编程基准

0
分享至

编辑|Panda


太离谱了!

是的,本文的主角还是前些天刚发布了 Claude Fable 5 的 Anthropic。

Fable 5 发布时的排面是真的足。SWE-Bench Pro 得分 80.3%,把第二名甩出 11 个百分点;Andrej Karpathy 直接喊出「deserves a major version bump」;Stripe 拿它在 5000 万行 Ruby 代码库里跑了一整天的迁移,顶上了原本需要整个团队两个月才能完成的工作量。势头之猛,让人一度以为 AI 编程进入了新纪元。



然而,Fable 5 刚开香槟,就被自己的「安全护栏」绊了个大跟头。

其系统卡中明确表示,Fable 5 被设计成:一旦检测到用户正在从事前沿 AI 研发工作(比如训练流水线、分布式训练基础设施、ML 加速器设计),模型会悄悄降低自己的回答质量——而且不通知用户。也就是说,你花着 Fable 5 的钱,收到的可能是 Opus 4.8 级别的活,还没有任何提示。

Anthropic 为此用了提示词修改、转向向量等技术手段,让模型在特定查询下悄悄变笨,整个过程对用户完全不透明。

这一操作在研究社区炸了锅。许多学者和开发者纷纷发声批评,称此举严重损害了用户信任,本质上是背刺付费用户。舆论压力之下,Anthropic 被迫在发布后数小时内宣布政策调整:还是会降智,只是不再偷偷来了——触发安全拦截时,模型将明确通知用户,并切换到 Opus 4.8 进行回答。至少他们是这么说的。参阅《刚刚,Anthropic 道歉了》。

然后,更尴尬的来了。

也正因为 Fable 5 现在的降智操作变得「透明」了,一些有趣的情况随之浮出水面。

其中最让人无语的,就是 Fable 5 在ProgramBench基准测试上的「表现」。

ProgramBench 来自大名鼎鼎的 SWE-Bench 作者团队,专注于「从编译后的二进制文件重建源代码」这一高难度任务,一上线就把当时的前沿 AI 模型全部清零:Claude、GPT、Gemini,无一幸免,完成率清一色 0%。此前我们曾报道过《0%完成率!Claude、GPT、Gemini 全灭,SWE-Bench 作者新作把 AI 圈干沉默了》。

那么,Fable 5 成绩如何呢?

不是 0 分。是拒绝作答:200 道题,全部拒绝!



ProgramBench 之所以没有 Fable 5 的成绩,是因为「重建编译后的二进制文件」这一操作触发了 Fable 5 的网络安全分类器。说白了,Fable 5 看到这道题,判定其涉及「二进制逆向」,打了个安全警报,直接拒绝作答。而且 200 道,一道不落。



有趣的是,Fable 5 在其他编程基准上可是一点不含糊的,都能好好答题。



Fable 5 在不同基准上的成绩和排名

然而,就在这份弃考成绩单提交之后,ProgramBench 排行榜做了一个让人目瞪口呆的决定:综合其他基准表现,仍然将 Fable 5 列在了榜首。



一个字都没答的考生,坐了第一名的座位。这大概是 AI 评测史上头一遭:弃考也能登顶榜单。

当然,这操作很快引来了四面八方的异议。有人直接发问:正经考试怎么交了白卷还能得第一名?应该直接给零分才对。







这也让很多网友吐槽其护栏太高,以至于难以实际应用:



顺带一提,有网友还发现,Fable 5 在英文输出中依然会偶发性地夹杂汉字,这个老毛病到了这一代还没彻底根治。





事实上,Fable 5 的「过度拒绝」问题并非首次出现在 Claude 家族。

早在 Claude 3 Opus 时代,研究人员就发现该模型在面对安全测试题目时,会在解题进行到一半时突然罢工,以「伦理顾虑」为由拒绝继续作答。Claude 3.5 Sonnet 也曾被记录到在结构化 bash 任务中以「制作 payload 涉及执行命令」为由直接拒绝。

Fable 5 的问题究竟出在哪里?

回到 Fable 5 本身。根据目前披露的信息,它的「护栏系统」采用了两级架构:一个探针实时监控模型的内部激活状态,对所有流量进行扫描;一旦触发警报,请求会被上报给一个独立训练的 LLM 分类器做最终裁决。



https://www-cdn.anthropic.com/d00db56fa754a1b115b6dd7cb2e3c342ee809620.pdf

这套系统拦截的领域,涵盖网络安全、生物化学,以及前面提到的前沿 AI 研发。以 Terminal-Bench 2.1 为例,约 20.9% 的测试用例触发了安全拒绝并回退到 Opus 4.8。

ProgramBench 的「二进制重建」任务,在分类器眼里,大概和「逆向工程恶意软件」没有太大区别,于是 200 道题统统被挡在了门外。

Vals AI 在实测中也发现,Fable 5 在生物和网络安全相关问题上的拒绝率明显偏高,以至于他们不得不将 Opus 4.8 配置为默认兜底模型。也就是说,Fable 5 拒绝的任务,就让Opus 4.8 来接。

技术上这套系统当然有其合理性。Fable 5 的前身 Mythos 级模型,在漏洞利用、进攻性网络操作等任务上展现出了让各国政府都坐不住的能力,这也是 Anthropic 一直将其列为受限模型的核心原因。给这样的模型套上严格的安全枷锁,似乎也有一点道理。

但问题在于,当安全护栏的判断标准过于粗糙,「二进制逆向」这个本属于正常编程教学和安全研究的基础操作,就会被一视同仁地拦截。开发者为此付出的代价是真实的:要么换模型,要么改提示词,要么接受一个「什么都懂、很多都不说」的超能助手。

顺便,还有另一份成绩单也值得一看

Fable 5 发布后不久,UC Berkeley RDI 实验室(负责人 Dawn Song 教授)的团队完成了对它的评测,用的是他们自己做的新基准:Agents' Last Exam(ALE)。



  • 论文地址:https://arxiv.org/abs/2606.05405

这个基准的出发点有点意思:它不考「AI 能不能在 HumanEval 里写出两行代码」,而是直接对齐真实劳动力市场,覆盖 55 个职业方向、1500+ 道真实工作场景题目,由来自 100 余家机构的 300 余位行业专家贡献,全部按可验证的结果计分。说白了,就是让 AI agent 去考一场「职场模拟高考」。论文发布当天就登上了 Hugging Face Daily Papers 第一名。

评测结果如何?Fable 5 的得分是 22.0%,排在 GPT-5.5(Codex)的 24.0% 之后,位列第二。听起来差距不大,但成本项就有点扎眼了:Fable 5 平均每道题花费约 15.70 美元,GPT-5.5 只需 3.80 美元,另一个模型 Composer 2.5 更是只要 1.33 美元。换句话说,Fable 5 每解一道题的成本,大约是 GPT-5.5 的四倍。



最有意思的,还是最高难度那一档,即「Last-Exam」,也就是 ALE 里专门为「前沿 agent 挑战极限」设计的题目。结果是:除了 GPT-5.5,包括 Fable 5 在内的所有参评的前沿 agent通过率均为 0%。更多详情请参阅《Claude Fable 5最难档零分!智能体的最后考试来了》。



排行榜备注说明:claude-fable-5——除了彻底的访问限制(我们只是不断重试运行直到任务顺利完成),Anthropic 还可能默认悄无声息地提供该模型的一个降级版、低能力变体。重试无法纠正这一点,因此这里的数据可能低估了其真实能力——解读时需谨慎

ProgramBench 拒绝作答是 0%,ALE 最难档努力作答也是 0%。不同的姿态,一样的结局。

结语

弃考但排名第一,这个荒诞结果背后,其实暗藏着一个正在撕裂 AI 行业的根本矛盾:能力越强,护栏越紧;护栏越紧,可用性越差。

Anthropic 的处境尤其典型。它拥有(按自家说法)当下最强的编程模型,却同时在替用户决定哪些编程任务「可以做、哪些不能做」。而那条边界,目前还画得相当模糊。

https://www.digitalapplied.com/blog/claude-fable-5-mythos-5-agentic-coding-deep-dive-2026

https://www.vals.ai/benchmarks/programbench

https://agentpedia.codes/blog/claude-fable-5-benchmark-prompting-guide

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
彻底捂不住了!俄核心铁杆痛呼现状:当下就是1917沙俄崩盘翻版

彻底捂不住了!俄核心铁杆痛呼现状:当下就是1917沙俄崩盘翻版

老马拉车莫少装
2026-07-02 11:54:24
曼晚:名宿证实奥斯梅恩静待红魔邀约,优先选择加盟曼联

曼晚:名宿证实奥斯梅恩静待红魔邀约,优先选择加盟曼联

懂球帝
2026-08-31 13:14:07
大放水彻底结束!消费贷断崖式下跌,普通人负债时代正式终结

大放水彻底结束!消费贷断崖式下跌,普通人负债时代正式终结

流苏晚晴
2026-07-26 15:03:41
朱元璋的姐夫李贞深谙处世之道,大明建立后朱元璋问他想要什么官职,面对杀意渐浓的君主,老者没有跪地求饶,一句回话引得朱元璋十分欣喜

朱元璋的姐夫李贞深谙处世之道,大明建立后朱元璋问他想要什么官职,面对杀意渐浓的君主,老者没有跪地求饶,一句回话引得朱元璋十分欣喜

唠叨说历史
2026-08-29 15:40:47
品牌打印机为什么不愿适配鸿蒙系统?

品牌打印机为什么不愿适配鸿蒙系统?

小柱解说游戏
2026-08-31 13:21:35
回湖人不止为打球:他一句话说出真正原因

回湖人不止为打球:他一句话说出真正原因

林间小温柔
2026-09-01 00:40:55
中国国防部已发出重磅通知!8月27日下午,国防部发言人正告:赖清德当局"肆意挥霍民脂民膏、穷兵黩武,终将掏空台湾家底,难逃败亡结局"

中国国防部已发出重磅通知!8月27日下午,国防部发言人正告:赖清德当局"肆意挥霍民脂民膏、穷兵黩武,终将掏空台湾家底,难逃败亡结局"

扶苏聊历史
2026-08-31 13:55:25
《醒来》金宝大结局:除掉杨小仙,害死冯少,为救陈开来粉身碎骨

《醒来》金宝大结局:除掉杨小仙,害死冯少,为救陈开来粉身碎骨

喜欢历史的阿繁
2026-09-01 02:27:29
陈小鲁和粟惠宁江西度蜜月的罕见留影,郎才女貌,真正的门当户对

陈小鲁和粟惠宁江西度蜜月的罕见留影,郎才女貌,真正的门当户对

萧獻记录风土人情
2026-07-29 18:05:23
就在今天,中国海警准时执法,只等马德雷山号沉底,菲船已闹饥荒

就在今天,中国海警准时执法,只等马德雷山号沉底,菲船已闹饥荒

归史
2026-08-31 05:10:27
冯小刚《抓特务》票房仅有1.19亿,为何网播后却获专业观众盛赞?

冯小刚《抓特务》票房仅有1.19亿,为何网播后却获专业观众盛赞?

手工制作阿歼
2026-08-31 01:15:21
小县城的工资开始崩塌了。

小县城的工资开始崩塌了。

老陆不老
2026-08-26 08:38:49
新四军的六位主要领导人:参谋长是大将,其余五人分别是什么军衔?

新四军的六位主要领导人:参谋长是大将,其余五人分别是什么军衔?

南书房
2026-08-31 14:25:12
看了赵长鹏关于孙割和宇晨妈妈之事,赵长鹏比孙割高了好几个段位

看了赵长鹏关于孙割和宇晨妈妈之事,赵长鹏比孙割高了好几个段位

放开他让wo来
2026-08-29 16:19:50
乌军发射至少6枚SCALP导弹命中俄军基地,造成多名俄高级军官伤亡

乌军发射至少6枚SCALP导弹命中俄军基地,造成多名俄高级军官伤亡

山河路口
2026-08-27 11:59:54
足协杯海港VS山东泰山首发浮现:陈威守门,蒯纪闻中场挑大梁,武磊李新翔冲锋

足协杯海港VS山东泰山首发浮现:陈威守门,蒯纪闻中场挑大梁,武磊李新翔冲锋

零度眼看球
2026-08-31 07:00:59
完蛋!9月澳洲要再加息?!一国党占领工党地盘?!澳洲实际工资,竟然低于2017年!

完蛋!9月澳洲要再加息?!一国党占领工党地盘?!澳洲实际工资,竟然低于2017年!

澳洲财经见闻
2026-08-31 04:33:53
“一个月陪睡一两次”:网红魏莹的榜一大哥照片曝光,他身价过亿,是个大企业家

“一个月陪睡一两次”:网红魏莹的榜一大哥照片曝光,他身价过亿,是个大企业家

江山挥笔
2026-08-25 16:40:36
中央组织部决定:吴文庆履新职

中央组织部决定:吴文庆履新职

新京报
2026-08-31 19:43:18
包工头与食堂大姐相好5年,项目完工提分开,这才意识到晚了

包工头与食堂大姐相好5年,项目完工提分开,这才意识到晚了

磊子讲史
2025-06-28 16:28:57
2026-09-01 04:28:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
13889文章数 142728关注度
往期回顾 全部

科技要闻

起售不足18万!特斯拉在港澳推廉价Model 3

头条要闻

60米高空直击吉隆口岸 这就是泥石流曾吞噬的高度

头条要闻

60米高空直击吉隆口岸 这就是泥石流曾吞噬的高度

体育要闻

中国女婿用一份满分答卷,刺痛中国女排

娱乐要闻

女歌手陈粒疑被男子骚扰,本人回应

财经要闻

沃什美联储百日新政剧变:没有给答案

汽车要闻

A0级最长续航 极狐贝塔T1 550km版上市 7.68万起

态度原创

旅游
本地
时尚
教育
公开课

旅游要闻

美大峡谷国家公园山洪已致两人死亡 超14人失联

本地新闻

昆明的雨,解锁汪曾祺的浪漫雨季

边开火,边关店:顶奢LV,店又没了?

教育要闻

老师年年有九一,死心塌地爱自己

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版