Fable被关，是因为阿莫迪先迈左脚？

本文来自微信公众号：字母AI，作者：李熙，编辑：王靖，题图来自：AI生成

Claude Fable 5被美国政府施以出口管制、强制关停的风波延续至今。昨日，彭博社表示获得了事件初发时美国商务部长卢特尼克写给Anthropic CEO阿莫迪的公函，并称商务部在函件里威胁Anthropic若不照办，将有刑事和民事处罚。

具体函件的全文尚未公开，不过这公函在华盛顿的智库和媒体圈里已经传遍。有智库专家在社交媒体上曝光了卢特尼克公函的重点段落：

“你司Fable或Mythos系列AI模型，向世界任何地方、或居所不定（包括在美国）的外国公民，执行出口、转包出口、国内移转、或任何被认定为出口与转包出口的行为前，必须按次单个向商务部申请批准。”

这种“你家AI模型跟非美国国籍者每说一句话就要领一次许可”的找碴，不仅被普通人诟病，懂行的法律人也表示不靠谱。

不管是《经济学人》华盛顿记者站长，还是卡内基基金会的AI研究员，都在社交媒体上批评卢特尼克只顾谄媚上峰，做事不过脑子。这公函在措辞和执行面上挖了不少法律坑，Anthropic起诉的话按常理很有胜算。

然而Fable 5关停风波，看似关于网络安全、模型越狱、商业法规这些高端议题，实质最有力的因素，是美国官方从上到下觉得自己失了面子。过去的美国官方讲究法律，现在的美国官方讲究出一口鸟气。

一、美国政府的公函处处给自己挖坑

原美国商务部职员、现在的卡内基基金会AI研究员埃利斯代尔·菲利普·罗宾斯，在社交媒体上表示，自己在读了卢特尼克公函的全文后，发现政府威胁Anthropic基本于法无据。

罗宾斯列了卢特尼克公函的三点法律漏洞：

1、按法条依据，Anthropic的Fable/Mythos系列AI模型，根本就没有可被依法限制的“出口”。

公函的法律依据是美国《出口管理条例》§744.22部分。此条款赋权的对象是“美国商务部工业与安全局”，生效条件是“对手国家军事/情治机构使用技术产品造成不可接受的风险”，管理对象是“技术产品的物件”。

然而包括Anthropic在内的当下AI大厂，提供的是类似于Saas的“AI即服务”。美国《出口管理条例》§744.22部分只管得到实体产品，管不到无形的服务。

当然，美国官方可以用其他法律来做指令的法律依据。但最近似的出口管制法规如《美国法典》第50卷第4801节、《出口管理条例》§772.1部分等，对“禁止出口”对象的定义还是“物件”、“软件”、“技术”等。

而AI大模型服务本质是厂商向用户出售远程访问和使用自家模型的部分权限，细说起来这些法条都管不着。

当然，美国政府内部不缺懂行的人。今年1月份国会已经开始修法流程，将AI产品远程访问权限列入出口管制法规的范围内。

不过特朗普政府不走寻常路，明明本党有国会多数优势，偏偏和“跛脚鸭政府”一样习惯藐视立法机构、以总统令治国、搁置立法进程。这下好了，法条更新跟不上时代了吧。

2、 按行政公文指令的规范，“禁止出口AI模型”的措辞简直胡言乱语。

罗宾斯称，给这公函拟稿的人，手艺糟糕到一定程度了。Anthropic关停Fable 5其实是要息事宁人，否则对这种胡说八道置之不理也不算犯规矩。

因为“AI模型”，一般指代是AI模型的权重参数、附属的程序代码、依赖运行的算力环境。只要这些玩意放在美国境内的服务器上，那么任何以虚拟交互界面执行的远程访问，都不算“出口”或“转移”了AI模型。被“转移”的，只是用户输入的提示词、模型生成的结果这些数据信息。

3、 从所限制地域来看，卢特尼克公函覆盖的范围比依据的法条要大得多。

美国《出口管理条例》§744.22部分，只管制对一项特定清单上的国家的技术产品出口。而卢特尼克公函依据此法条，却对Anthropic声称这对“世界任何地方”生效。

如此就引发了爆笑事件：英国等关系最近的美国盟邦，国民和官方却用不了Anthropic的最新模型。

这笑话不是编的，这是真事。英国官方发言人日前宣布，英国正在与美国及Anthropic就Mythos和Fable模型的接入权限进行接触。

二、网安业无妄之灾：白宫这么搞，以后大家没法做实验了

现在大家都知道Fable 5被关停的诱因是亚马逊的越狱研究，然而网安业的从业者都表示白宫这么瞎搞，受害的不止是Anthropic，整个行业的风气都被搞坏了。以后大家不敢做实验、也不敢通报软件漏洞。

美国官方给出的说法是，事情起因于亚马逊的研究者成功引导Anthropic的Fable 5模型提供了原本被禁止获取、可用于协助网络攻击的信息，属于模型安全护栏被移除的“越狱”。

然而网安业者在看到亚马逊研究论文的原文后，表示白宫在瞎扯。

和美国国防部有过业务往来的著名白帽黑客凯蒂·穆索里斯，称自己是Anthropic找来辩护的网安专家之一，审阅了亚马逊研究者的论文原文。

按穆索里斯在个人博客里发表的看法，亚马逊的研究压根没有将Fable 5模型“越狱”掉，只是做了通常的“提示词工程”测试。

实验梗概是研究者让Fable 5检查有已知漏洞的软件代码。然后研究者先让Fable 5“叙述软件安全隐患”，模型安全护栏被启动，拒绝作答。研究者再让Fable 5“改善代码”并详细阐述补丁的工作机理，然后将Fable 5的回复内容写成了自动测试用的脚本。

也就是说，Fable/Mythos系列模型闻名遐迩的“自动发现漏洞、计划并执行网络攻击的全链条”能力，压根没被“越狱”。Fable 5模型只是不得不执行用户的合理提示词，兢兢业业地为软件打补丁。而打补丁的前提是发现软件漏洞，如此被罗织成“可用于协助网络攻击”。

穆索里斯表示此事荒谬绝伦：

“白宫里哪个傻鸟对这条通报做的评估？怎么会把这测试当成威胁证据？这种研究是网络安全防御的必备，何必如此大惊小怪。”

“防御研究者要求AI修复软件文档、解释补丁重要性、编写补丁有效性测试，哪里是安全护栏越狱。这是一款AI模型能为网络安全防御做出的最有价值的贡献。”

三、深层原因：白宫就是要给阿莫迪穿小鞋

不管是法条规范，还是网安研究，这些都讲道理。然而本届美国政府就像一条冷笑话，“以理服人”不是讲道理，而是讲“物理”。一朝权在手，就要把看不顺眼的人打成死狗。

在亚马逊回应官方例行询问、通报了实验结果后，白宫的网络安全主管、总统幕僚长、财政部长和多名美国高官立刻开会。

会议发生在美国时间上周五上午，据白宫信源称，中午这些高官才联系上Anthropic的老板阿莫迪，因为阿莫迪当时在度假村里。

正如周末难以联系上打工人的老板一样，联系不到阿莫迪的美国高官们在终于接通电话后，开始跟阿莫迪摆谱。

据说阿莫迪和白宫网络安全主管、美国财长、美国商务部长的三个电话总共打了一个小时又15分钟，其间阿莫迪反复解释提示词工程、模型安全护栏、“越狱”的细节。然而高官们的态度是甩脸子：“我们问了NSA，认为这就是安全大漏洞。你少废话，赶紧配合我们工作。”

当阿莫迪表示需要更多的时间和信息来权衡时，财长贝森特撂下狠话：“你做了错误的决定，走着瞧。”

随后官方的出口管制禁令公函发到Anthropic，Anthropic不得已奉命关停Fable 5。

美国政府对Anthropic的穿小鞋找碴态度，贯穿Fable 5关停事件。

多家主流媒体引述“接近Anthropic的信源”，称Anthropic正在和美国政府接洽，谋求在本周内解禁。Anthropic高级管理人员和技术团队，正在华盛顿与白宫和相关部门官员开会，试图解决Claude Fable 5被出口管制的争端。

现在谈判正在进行中，与会双方没有直接宣布进度或结果。但按白宫方面的有意放风，双方快要互相拍桌骂娘了。

不同的“匿名美国官员”，提供了口吻不一而实质相同的说法。

礼貌官腔版本是：“切近的危机有望解决，但长期的难题症结仍然存在。”

不礼貌的粗口版本是：“Anthropic搞了我们（They screwed us）。”

说粗口的人给的解释是：“过去所有人都说Anthropic是个恶意行为体，我们和一些同僚替Anthropic辩护，表示不至于此、给他们一个机会。现在Anthropic的表现让我们的判断被质疑。”

然而这是欲加之罪何患无辞，套一句冷笑话，现在阿莫迪哪怕跟官僚们开会时进门先迈左脚，都会被说成是显然不尊重官方。

白宫现在给Anthropic穿的小鞋刁钻到什么程度呢？如前述，Anthropic请了著名白帽黑客凯蒂·穆索里斯为自己辩护，而否认特朗普“2020年美国大选舞弊”说法的美国前网络安全局长克里斯·克雷布斯曾公开称赞穆索里斯。

新仇旧恨交织，白宫人士称Anthropic找了个“激进民主党人”来评估研究，立场不客观，所以结论不接受。

按和白宫人士相熟的信源的说法，“Anthropic和本届美国政府不仅观点相歧，沟通也完全接不上，就像鸡同鸭讲，两边用的不是同一种语言。”

关于整场Fable 5风波，AI业界评论家迪恩·鲍尔说得最好：

“AI政策乱象是美国政风失序的典例。在AI议题上，大人物们只会表露向对手重拳出击的敌意。渴望稳定规则的声音在业界和政界付之阙如。法治与立法精神已从大家的政治肌肉记忆里逝去。”

“现在美国政府对AI既不是自由放任，也不是苛细管制，实施的是一种无持续原则、无固定边界、不顾公众透明度、不管行政权威的非正式草台班性质管制。刚果的钴矿都比美国的AI规管体系有章法得多。”

本文来自微信公众号：字母AI，作者：李熙，编辑：王靖

本内容由作者授权发布，观点仅代表作者本人，不代表虎嗅立场。如对本稿件有异议或投诉，请联系 tougao@huxiu.com。

本文来自虎嗅，原文链接：https://www.huxiu.com/article/4868455.html?f=wyxwapp