北京
6月23日消息，美国政府首次把出口管制直接用到具体前沿AI模型访问上。特朗普政府6月12日要求Anthropic暂停向“外国人士”提供Fable 5和Mythos 5访问；由于Anthropic无法在全球用户和企业客户中实时核验相关身份，公司最终选择在全球范围内关闭相关模型访问。
TechSpot报道称，这项禁令前一天，参议院情报委员会副主席马克·沃纳（Mark Warner）在6月11日简报中转述称，美国国家安全局（NSA）兼网络司令部负责人约书亚·拉德（Joshua Rudd）曾告诉他，Anthropic的Mythos模型在一次授权红队演习中，不是用几周，而是用几小时就突破了NSA几乎所有机密系统的测试防线。
TechSpot指出，这一说法尚未得到美国政府机构公开确认，完整测试条件和机密细节也未披露。但它被外界用来解释，美国政府为何在次日就对Anthropic两款模型下达访问限制。
Mythos原本就是Anthropic为网络安全研究开发的高能力模型。Anthropic今年4月介绍该模型时曾表示，它在发现安全漏洞方面能力太强，不适合公开发布，因此没有面向普通用户开放，而是通过“玻璃翼计划”（Project Glasswing）提供给约200家经过筛选的合作伙伴。
这些合作方包括亚马逊、苹果、谷歌、微软、英伟达、摩根大通和Linux基金会。Mythos此前已经发现数千个真实漏洞，其中包括OpenBSD中一个存在27年的缺陷，以及Mozilla Firefox第150版浏览器中的271个新漏洞。
Fable 5则是6月9日发布的公开模型，使用与Mythos相同的底层模型，但加入了安全分类器：当系统判断请求可能危险时，会把请求转向能力较弱的模型。Anthropic认为这些防护足以让Fable 5面向普通用户开放；政府方面则认为，两者之间的能力差距没有被安全分类器充分隔开。
Anthropic只拿到90分钟处理时间
报道称，美国政府6月12日通知Anthropic，已发现一种可能绕过Fable 5安全分类器的方法，从而释放其更敏感的网络安全能力。Anthropic称，这一通知是口头形式，涉及一个“潜在、狭窄、非普遍”的越狱漏洞，公司只有90分钟时间采取行动。
由于禁令要求两款模型只能由美国公民使用，全球关闭不仅影响海外客户，也影响英国、澳大利亚、加拿大、新西兰等"五眼联盟"伙伴，以及Anthropic自己的非美国籍员工。英国AI安全研究所也被切断访问。对普通用户和企业客户来说，这意味着一个刚刚发布、原本准备继续商业化的模型，突然因为国家安全和出口管制问题下线。
Anthropic认为政府反应过度。公司表示，如果因为一个狭窄的潜在越狱漏洞就召回已部署给大量用户的商业模型，而这一标准推广到全行业，前沿模型提供商几乎会停止发布新模型。
TechSpot还提到，前脸书首席安全官亚历克斯·斯塔莫斯（Alex Stamos）称，他看过相关研究后同意Anthropic的判断：其中有一些有效发现，但不足以证明需要如此级别的反应。特朗普顾问戴维·萨克斯（David Sacks）则公开反驳，认为如果一个越狱漏洞能让"网络武器"运转，就很难说它不严重。
这场争议背后还有更早的政策冲突。TechSpot称，特朗普政府今年2月曾要求所有联邦机构停止使用Anthropic模型，原因是Anthropic拒绝接受五角大楼部分合约条款；随后五角大楼把Anthropic列为"供应链风险"，限制军方承包商使用其模型。Anthropic正在联邦法院挑战这一认定。
目前，Fable 5和Mythos 5仍未对大多数用户恢复访问。Anthropic曾表示"非常有信心"模型会在未来几天重新可用，但尚未兑现。公司计划7月8日实施身份验证政策，届时可能先恢复美国公民对Fable 5的访问。（易句）
（本文由AI翻译，网易编辑负责校对）
本文来源：网易智能
责任编辑：
王凤枝_NT2541
