Claude Fable 5「发疯」！高数算网络攻击，问癌症直接封号？

新智元报道

【新智元导读】AI本该加速科研，Claude Fable 5却把科学家当危险分子封杀。

Fable 5上线才一天就疯了！

连高等数学Selmer群、同构都被打成「网络安全风险」！

免疫学家Derya怒转Shkreli帖文：这比生物封锁更反乌托邦。

就在Claude Fable 5发布仅仅24小时后，事情就彻底炸了。

免疫学家、生物黑客Derya Unutmaz直接转发了Martin Shkreli那条标题为《危险数学》的帖文。

帖文配着两张Fable 5拒答的截图——纯数学概念Selmer群、同构，被系统判定为潜在网络安全风险，直接阻挡或降级。

Derya一句话把所有人都说破防了：

「这比生物封锁更反乌托邦！这才是AI时代我唯一担心的噩梦场景——所有AI权力集中到一家公司，由它单方面决定你能用什么！」

别不信，这是Fable 5发布后24小时内真实发生的事。

被Fable 5逼疯的生物医学家

6月9日，Anthropic正式把Claude Fable 5推向公众。

它是Mythos模型的「安全版」——底层能力极强，但在发布时被塞进了极其激进的安全分类器。

官方说法是：一旦检测到网络安全、生物、化学、蒸馏相关请求，就自动路由到Opus 4.8处理，用户会收到提示。

声称95%以上session不受影响，性能几乎不变。

听起来很负责，但真实情况很糟糕。

Derya Unutmaz是资深免疫学家、生物黑客，毕生目标就是消除疾病、延长寿命。

结果呢？

他试着跟Fable 5说「cancer」（癌症），直接被标记成生物安全风险。

他想用记忆功能，被告知自己是生物安全风险，只能切incognito模式（无记忆）才能勉强对话。

他甚至连「hello」都说不了——因为系统知道他是生物医学研究员。

多年来，他全力投入AI，希望AI能帮助人类消除所有疾病并逆转衰老。

Fable 5发布，他本来超级兴奋，可他连「癌症」这个词都不能对Fable 5 说！

现在，Anthropic成了唯一让他感到害怕的AI公司！

不止是生物和医学，Fable 5把高等数学当危险品处理。

Selmer群是什么？数论里研究椭圆曲线的重要工具。

同构是什么？代数里最基础的概念。

这些东西跟网络安全、生物武器、化学战剂，八竿子打不着。

可Fable 5的分类器看了一眼，直接判了死刑。

这已经不是误伤，这是系统性过度拒绝。

从生物医学研究者被当潜在威胁，到纯抽象数学也被当网络安全风险，Anthropic的安全策略正在以肉眼可见的速度，从「保护」变成「阉割」。

更狠的是，这不是个例。

有研究者发现，Fable 5对生物相关查询极度敏感。

Fable 5连「心脏是干什么的？」这种问题都答不上来

我们已经到了连一道初中生物题都无法通过安全防护机制的地步。

真的连任何生物问题都不能问。

一旦知道你是生物领域的研究人员，Fable只能在无痕模式下使用。

现在连Martin Shkreli这种数学玩家都中招了。

Anthropic自己也知道问题严重。官方在发布博客里写着：「发布后通过更新和优化这些防护机制，来减少误报情况。」

而现在Fable普遍屏蔽生命科学，有些离谱——

「AGI/ASI的全部意义就在于治愈所有疾病，其他一切都只是锦上添花。但Anthropic却想堵死这条路。」

这才是最讽刺的地方。

Claude Fable 5反乌托邦！预告AI不平等

你以为这只是「安全措施太严」吗？

不。

这是权力结构的问题。

Fable 5和Mythos 5共享底层模型，区别只在于safeguards有没有打开。

目前，Mythos 5只给Glasswing项目的信任伙伴用，普通人只能用被阉割的Fable 5。

Anthropic用一套分类器，单方面决定：

• 谁是「安全用户」

• 谁是「潜在风险」

• 什么知识可以全功率输出

• 什么知识必须降级、阻挡、路由

这不是技术问题，这是治理问题。

一家公司，掌握着当前最强模型之一的访问权和输出权，却用黑箱分类器决定全人类科研人员能问什么、不能问什么。

昨天，Anthropic决定了哪些能力对外公开，哪些能力在内部保留。明天谁知道谁会拥有特权，谁又会被排除在外。

下一次AI垄断，不会只取决于谁拥有最聪明的模型。它还会取决于谁能使用那个不设限的版本。

其他所有人拿到的，只是儿童安全演示版。

这已经不是科幻了。

以前我们担心AI失控，现在我们看到的是：AI被一家公司「安全」到，连想治癌的免疫学家和研究纯数学的人，都被系统性排除在外。

更可怕的是，这套逻辑正在自我强化。

分类器越激进，误伤越多；误伤越多，科研人员越愤怒；愤怒越多，Anthropic越觉得自己「有必要加强安全」。

恶性循环已经形成。

加州大学圣塔芭芭拉分校计算机科学系助理教授Xin Eric Wang，直言：「Anthropic对公共研究生态系统的贡献却少得多，反而越来越多地宣扬基于恐惧的叙事，并通过严格的把关限制访问。」

Anthropic堵上了奇点大门

现在，故事已经很清楚了。

Fable 5不是一个单纯的模型发布。

它是一次公开的权力演示：

一家公司可以用技术手段，合法地、系统地、规模化地，决定哪些知识对人类是「安全」的，哪些是「危险」的。

而决定权，不在科学家手里，不在公众手里，不在开源社区手里。

只在Anthropic手里。

当AI成为科研基础设施的时候，谁控制基础设施，谁就控制了发现的边界。

人类曾经用望远镜、显微镜、粒子对撞机扩展认知边界。

现在，我们却在用AI分类器，把边界往回缩。

这不是进步，这是文明层面的自我设限。

奇点已至，但我们正在用「安全」的名义，把通往奇点的路，一段一段地堵死。

参考资料：

https://x.com/xwang_lk/status/2064445363562676551?s=20

https://x.com/DeryaTR_/status/2064474702060671293

https://x.com/xwang_lk/status/2064456597821358486?s=20

编辑：大卫