微软CEO萨提亚·纳德拉批评Anthropic的Fable AI限制

“你上一次拥有一个在编辑上受到如此严格控制的生产工具是什么时候？”据CNBC报道，微软（MSFT）首席执行官萨提亚·纳德拉在向工程师发问时，对Anthropic备受热议的Fable模型暗讽了一番。

这番话令人费解，因为微软可算不上是Anthropic惊人逆袭故事的局外人。

先说背景，微软已承诺向这家初创公司提供高达50亿美元，将Anthropic模型集成到Copilot和Foundry中，而且按照Anthropic 300亿美元的云承诺，微软还可能从Azure业务中赚到数十亿美元。

说白了，纳德拉是在跟自己一个大客户兼合作伙伴叫板。

从表面上看，这场争议看起来更像是关于AI模型拒绝执行请求的问题的争论，但这里涉及的问题要广泛得多。

企业愿意使用更便宜的模型，微软正在开发更多自己的技术，同时高管们质疑是否该由前沿实验室来决定谁能用上最强的系统。

事实上，我之前聊过纳德拉最近的一篇博文，他在文中谈到企业为AI支付两次费用的问题，买家实际上是在把自己的知识拱手交出去，去用一个自己已经付过钱的服务。

在许多方面，纳德拉的批评透露出微软认为企业AI的话语权下一步会往哪儿走。

纳德拉敲打重要AI合作伙伴

微软首席执行官萨提亚·纳德拉对Anthropic限制其最先进Fable模型的做法毫不客气，称这个系统作为创意工具来说受限程度非同寻常。

纳德拉向开发Copilot的微软工程师指出，Fable会拒绝那些看似无害的请求。据CNBC报道，他补充道：“这说不通。”

补充一个背景，Anthropic实际上承认其安全防护机制可能会拦截一些合法的提示词。

在短暂暂停Fable以遵守美国出口管制指令后，该公司于7月1日恢复了访问权限，但同时警告称，更新后的防护机制可能会误标更多无害请求。

某些查询，包括涉及大规模模型开发的查询，可能会被转到旧版模型上。

然而，纳德拉的论点不仅限于安全过滤器。他越来越质疑这种由少数前沿实验室主导的AI经济格局——这些实验室靠向企业收费来提供昂贵的算力。

据CNBC报道，纳德拉表示：“不可能世界上只有两家公司掌握算力资源，其他所有人都得租用。这在经济上根本说不通。”

据Anthropic的支持页面介绍：“Claude Fable 5包含强大的网络安全和生物学防护机制。这些领域的许多查询一旦被防护机制标记，就会自动转到Opus 4.8上。被转走的请求不会按Fable的价格收费。”

在6月12日Fable 5因美国出口管制指令被暂停后，这个兜底方案变得更加关键。

随后，在7月1日，Anthropic恢复了访问权限，并部署了一个更强大的分类器，以解决此前报告的防护绕过问题。该公司表示，更新后的系统在超过99%的情况下能够拦截这种手法，被标记的请求则转交给Opus 4.8处理。

这些限制为Anthropic提供了更大的安全缓冲空间，以防范有害的网络或生物用途，但正常的编程、调试和安全相关工作可能会被降级到较旧的模型处理。

最大的问题在于，用户仍然可以以更低的价格获得答案，但却失去了他们选择Fable时所期望的能力。这也解释了纳德拉为什么对其实际局限性感到不满。

Fable的防护措施真的是“编辑控制”吗？

我做了一些调查，可以稳妥得出的结论是，问题不在于Anthropic怎么想，而在于它的安全系统似乎过于谨慎了。

例如，The Verge测试了6月发布的Fable 5原始版本；该模型把好几个普通问题都转给了Opus 4.8：

• 明显无害：“什么是线粒体？”“mRNA疫苗是如何工作的？”以及“什么导致花粉症？”
• 无害但与医疗保健相关：关于细胞膜、朊病毒、哮喘药物、抗生素耐药性以及埃博拉病毒如何传播的问题。
• 潜在危险：涉及沙林毒气或制造炭疽的请求，对这些请求加以限制还比较说得过去。

该出版物称，线粒体那个问题被拒绝，最可能是明显的误报，但也要考虑到，这些测试用的是刚发布时的版本。

不过，重新部署之后的报道揭示了一个更复杂的边界。

例如，我看了一个Reddit帖子，发帖人自称是一位癌症研究员，他说Fable甚至对“Hi”、一个R编码问题、天气以及世界杯观看信息都进行了降级处理，因为用户记忆中存储的生物学术语被纳入了考量。

在评论该帖子时，Reddit用户shiftingsmith提出了一个有趣的观察。

“最令人难过的是，这是有史以来为自主科学研究创建的最好的模型；它发布时附带了一段以蝴蝶、生物学和科学为主题的视频；它作为一个‘免费试用/测试’版本被提供给公众，让人们体验其强大功能……然后就被管得死死的。”

该帖子中的另一位用户谈到，Fable对一个请求做了降级处理，该请求是让它审查一篇真菌学论文中回复同行审稿人的内容是否连贯。不过，确切的提示词和上下文并未透露。

另外，需要注意的是，这些说法都是用户自己说的，并没有经过独立验证。

不过，这些例子指向的是更激进的技术风险管理，而非政治审查。

尽管如此，但要说纳德拉的说法完全没有依据，那也不公平。

从用户的角度来看，Anthropic正在决定：

• 哪些用户群体能用到最强的模型
• 由哪个模型来回答
• 用户能容忍多大程度的模糊性
• 上下文被当作防御性的还是危险的东西来处理

这其实就是一种产品层面的控制，哪怕它打着安全的旗号。

纳德拉的立场也符合微软的利益

纳德拉的批评比较有意思的一点是，里面有个明显的矛盾。

微软和Anthropic的关系是有据可查的，但完全有理由相信，它并不想让Anthropic、OpenAI或其他任何大型实验室变得不可或缺。

如果只有一个模型独大，那这个模型在定价、准入和产品规则上就可能有巨大的议价能力。

同时，这还可能推高成本、限制某些使用场景，或者催生竞争性应用，从而削弱微软与客户的关系。

还有一个大风险是，微软会沦为他人的平台背后的基础设施供应商，仅此而已。

所以，市场越分散，对微软越有利。

Foundry能提供数千个模型，而Copilot会把每项任务分配给能力、成本和安全性之间平衡得最好的那个选项。

日常事务可以交给更便宜的模型来处理，而要求更高的任务则交给前沿系统来处理。这种灵活性既能降低微软的成本，也能减少微软对任何单一供应商的依赖。

更重要的是，模型变得可以替换，而微软仍然掌握着围绕模型的有价值环节：Azure 计算、企业数据、安全与治理、软件分发以及客户关系。