![]()
今天,全球最大的几家科技公司宣布了一个本质上由AI驱动的网络安全"曼哈顿计划"。
作为国际反恐与安全专业协会的网络战顾问,以及FBI基础设施卫士人工智能威胁与缓解跨部门委员会的成员,我花费数十年时间分析全球威胁,从在国防大学授课到领导全国性网络攻击模拟演练。但Anthropic推出的新一代前沿AI代表了一个范式转变,即使是准备最充分的基础设施专家也在匆忙应对。
这一公告有很多值得深入分析的内容,但在详述公开信息之前,我想尝试解读其背后的含义。因为这一公告的存在本身就意味着有很多未明言的信息。
所有这些公司选择合作的事实必然表明威胁的规模以及应对所需项目的规模之大。
我将要描述的既是令人恐惧的消息,同时也是某种程度上令人鼓舞的消息。令人担忧的是,由于武器级AI的发展,我们整个网络安全基础设施显然面临巨大风险。否则,这些激烈的竞争对手不会像今天宣布的那样选择合作。
令人鼓舞的是,这些激烈的竞争对手选择合作以降低基础设施漏洞。这真是惊人的消息。
"玻璃翼"项目在公告中被描述为:"一个汇集了亚马逊云服务、Anthropic、苹果、博通、思科、CrowdStrike、谷歌、摩根大通、Linux基金会、微软、英伟达和帕洛阿尔托网络公司的倡议,旨在保护全球最关键的软件安全。"
"玻璃翼"这个名字可能没有特殊含义,也可能为项目的整体意图提供了某些洞察。玻璃翼蝴蝶原产于中南美洲,因其透明的翅膀而得名,这些翅膀让它能够在周围环境中伪装自己。这种蝴蝶还异常坚韧,能够承载高达自身重量40倍的负荷。
从核心来看,这个"自愿联盟"计划部署两种防御武器:一个名为Claude Mythos Preview的新型未发布AI模型,以及大量资金(400万美元直接捐款和1亿美元的Claude使用积分)。
乍一看,这一公告看起来像是高度协调的公关策略,某种安全表演。另一种怀疑的解读可能是这些公司正在创建一个安全卡特尔来排挤初创公司和其他参与者。
但我认为情况并非如此。基于关键参与者的声明和提到的安全漏洞,我认为这远比一场巨大的企业公关秀要严重得多,不仅仅是为了让每个人在AI方面看起来负责任。
曾在赛门铁克担任高管、在苹果担任团队负责人,我亲眼见过这些公司如何激烈地保护自己的知识产权。看到他们交出1亿美元的积分并向彼此开放未发布的模型,这告诉我威胁级别已经从竞争性转向了存亡性。
事实是,除非替代方案是共享基础设施的相互确保毁灭,否则你不会看到这些特定公司像这样合作。
不,我不认为这是夸张。
网络安全公司CrowdStrike的首席技术官Elia Zaitsev是这样描述情况的:"从发现漏洞到被对手利用的窗口期已经崩塌。过去需要数月的事情现在借助AI在几分钟内就能发生。"
如果CrowdStrike这个名字听起来很熟悉,可能是因为在2024年,该公司推送了一个意外绕过安全措施的更新,导致全球数百万Windows系统崩溃。如果有哪家公司知道糟糕的一天是什么感觉,那就是CrowdStrike。
根据公告,"我们成立'玻璃翼'项目是因为我们在Mythos Preview中观察到的能力可能会重塑网络安全。"
Anthropic将Mythos Preview模型描述为"通用的、未发布的前沿模型",具有强大的智能体编程和推理技能。该公司表示,"Anthropic并没有专门为网络安全训练它。"
该公司还表示不计划让Mythos Preview普遍可用,可能是因为它可能被敌对行为者武器化。
据Anthropic称,"在过去几周里,Mythos Preview已经识别出数千个零日漏洞,其中许多都是关键漏洞。它发现的漏洞通常很微妙或难以检测。"
数千个。事实证明,许多漏洞存在于核心的、任务关键的软件中,并且已经在过去10到20年中积极部署的软件中存在。其中一个漏洞是刚刚在OpenBSD中发现的27年老漏洞。需要说明的是,OpenBSD以其安全性著称,然而这里有一个任务关键的漏洞,没有人(至少好人中没有人)知道。
另一个例子是"广泛使用的视频软件中的16年漏洞"。这里有个可怕的问题。显然,这个漏洞存在于一行代码中,而自动化测试工具以前认为这是安全检查的黄金标准。测试工具多年来分析这行代码500万次,但一次都没有发现问题。
想想思科全球网络和基础设施公司高级副总裁兼首席安全和信任官Anthony Grieco的这番话,该公司为互联网和企业连接的大部分提供支持。
Grieco说:"AI能力已经跨越了一个阈值,从根本上改变了保护关键基础设施免受网络威胁所需的紧迫性,而且没有回头路。"
没有回头路。他说,"加固系统的旧方法已经不再足够。技术提供商必须现在就积极采用新方法。"这就是他说思科加入"玻璃翼"项目的原因:"这项工作太重要、太紧迫,无法独自完成。"
这是一个令人震撼的声明,尤其考虑到是谁说的。
我们的现代文明建立在网络化技术基础设施之上。从大型发电站到我们的智能戒指,几乎所有东西都基于计算机和网络。
但这个数字基础设施基础并非来自单一公司或产品。事实上,很大一部分基于开源软件,通常由无关联的独立开发者编写。即使是价值数十亿美元的商业产品也使用由个人程序员构建的软件库。
从历史上看,程序员和团队手动测试他们的代码,然后编写测试套件来全面测试他们的代码。我对我的开源安全产品也是这样做的。在部署更新之前,我会进行广泛测试。之后,我经常与一部分用户分享进行beta测试。总的来说,我的产品一直相当稳定。
但去年秋天,我决定将完整的源代码提供给Claude Code和OpenAI的Codex。我要求它们各自进行安全评估。两者都识别出了我的测试过程遗漏的漏洞。事实上,虽然两者都发现了一些相同的漏洞,但每个AI都发现了一些另一个AI没有发现的漏洞。
我迅速修复了AI识别出的漏洞。但真正让我感兴趣的是识别出的漏洞类型。这些不是实际代码本身的漏洞。我没有犯任何通常导致漏洞的经典编程错误。
AI识别出的是行为怪癖,只有在与其他软件和配置结合时才会显现——我没有编写的代码。但因为AI能够超越被要求调查的代码,转而考虑代码运行的整个基础设施环境,它们能够识别可能转化为漏洞利用的情境问题。
这个问题,在更大规模上,就是"玻璃翼"项目打算解决的。"玻璃翼"项目公告说:"没有一个组织能够单独解决这些网络安全问题:前沿AI开发者、其他软件公司、安全研究人员、开源维护者和世界各国政府都有重要的角色要发挥。"
这些组件有数十万个,运行在数十亿设备上,存在于数百万个软件程序中。只需要一段代码中的一个漏洞,关键基础设施就可能失效。
据微软研究院网络安全执行副总裁Igor Tsyganskiy称,"当我们进入网络安全不再受纯人力容量束缚的阶段时,负责任地使用AI来大规模改善安全性和降低风险的机会是前所未有的。"
一个必然结果是,坏人可以积极且破坏性地使用AI,以机器速度执行攻击,并以我们从未遇到过的速度发现漏洞。
这一倡议不能脱离背景来理解。要理解其相关性,我们还必须考虑当前的地缘政治局势。IT安全团队多年来一直在处理网络威胁。无论是为了金钱的犯罪分子、意图破坏的黑客主义者,还是进行数据窃取、金钱勒索、身份盗用和基础设施破坏混合行动的民族国家,网络威胁并不新鲜。
我花了数年时间为我的书《电子邮件都去哪了?》调查一个关键的白宫电子邮件争议,即使在那时,我们最高办公室对基本基础设施故障的脆弱性也是惊人的。但那些是人类规模的错误。"玻璃翼"项目正在对抗的是整个防御周边的机器速度崩塌。
现在有两个非常新的因素在起作用。第一个是AI能力的增长。虽然Mythos Preview旨在作为防御工具,但毫无疑问,对手正在构建他们自己的前沿模型作为大规模数字破坏武器。
第二个因素是伊朗的战争。早在2012年,我写了伊朗的网络战概况,探索其发动网络战的内部能力。当时,我注意到伊朗在科学和数学高等教育方面优先发展。虽然伊朗政府审查互联网,但几乎四分之一的伊朗公民在线。今天,近80%的人在线。
我在2012年的结论今天更加有效。我说,"所有这些的重点是展示伊朗拥有大量的连通性、资源和受过教育的公民,足以推动网络犯罪、网络恐怖主义和网络战本身的探索。"
将其与前沿级AI技术的访问结合起来,期待前所未有的速度和强度的网络攻击是公平的,利用以前隐藏在整体基础设施复杂性中的漏洞利用。
重要的是要承认Anthropic最近与美国政府的持续问题。
"玻璃翼"项目公告间接反映了这种情况:"Anthropic也一直在与美国政府官员就Claude Mythos Preview及其攻击性和防御性网络能力进行持续讨论。"
这是公告中唯一一次将Mythos描述为能够支持"攻击性"能力。我邀请读者对这个细节得出自己的结论。我的看法是,如果这种行动变得必要,Mythos可能具有潜在的破坏性能力。这种攻击性能力也可能是Anthropic将发布限制在定义的参与者集合而不向全世界公开的原因。
公告还说:"保护关键基础设施是民主国家的国家安全优先事项。这些网络能力的出现是美国及其盟友必须在AI技术方面保持决定性领先地位的另一个原因。"
今年早些时候,美国政府将Anthropic指定为供应链风险。这一指定的副作用是指示国防承包商停止在任何可能与政府国防工作相关的事情中使用Anthropic产品。
如果"玻璃翼"项目的几个参与者选择继续使用Claude,这一指定将影响他们的政府合同。然而,3月26日,美国地区法院法官Rita Lin阻止了这一限制,暂时允许国防承包商继续使用Claude AI产品。
我在这里看到两种可能的字里行间解读:
"玻璃翼"项目发布是这样解释情况的:"保护世界网络基础设施的工作可能需要数年时间;前沿AI能力很可能在接下来几个月内大幅提升。为了让网络防御者获得优势,我们需要现在就行动。"
如果你要真正关注数千个隐藏漏洞带来的基础设施风险,你必须考虑到独立运作的个体开源开发者。
基于所有这些个体的庞大生态系统,每个人都在修改和检入自己的代码到集中存储库。虽然开源的性质意味着任何人(和任何公司)都可以阅读代码,但检入修改仅限于对项目有提交访问权限的开发者。
其他人当然可以分叉项目(创建自己的副本并也进行分发)。但这样做不会立即解决任何软件依赖风险。这是因为互联网上有自动化系统构建来将已知包纳入其分发。分叉项目需要所有这些自动化系统更改其代码更新源。
所以,当Mythos Preview发现漏洞时,它如何联系到适当的开发者进行修复?"玻璃翼"项目采用两种方法。第一种是向任何要求的可验证开源开发者捐赠Claude Max订阅,用于Claude Opus和Sonnet。这不是Mythos Preview的访问权限,但即使Claude Opus 4.6也可以帮助识别漏洞。对Claude Max赠款感兴趣的维护者可以通过"开源Claude"计划申请。
当我询问时,Anthropic告诉我,"我们已经通过Linux基金会向Alpha-Omega和OpenSSF捐赠了250万美元,向Apache软件基金会捐赠了150万美元,以使开源软件的维护者能够应对这一变化的局面。"
OpenSSF是开源安全基金会。他们的使命是"让可持续地保护开源软件的开发、维护、发布和消费变得更容易。这包括促进OpenSSF内部和外部的合作,建立最佳实践,并开发创新解决方案。"
Alpha-Omega是Linux基金会的一部分,其作用是:"作为支持维护者、社区和生态系统的助手和资金催化剂,在这些地方安全投资可以产生最大影响。"
Apache软件基金会也支持许多为互联网提供关键基础设施的项目。
虽然资金流向这些组织,但他们在高漏洞项目中的角色将是促进与个别开发者的外联,并可能为实施修复所需的时间提供资金。
挑战在于许多关键组件的关键开发者有其他义务和时间承诺。另一方面,如果有任何团体能够管理这些非常独立的开发者,那就是自成立以来一直在管理开发者的各种开源基金会。
Linux基金会首席执行官Jim Zemlin说,"过去,安全专业知识是拥有大型安全团队的组织保留的奢侈品。开源维护者的软件支撑着世界上大部分关键基础设施,历史上一直被留下自己解决所有问题。"
这里有一些值得考虑的事情。他说,"开源软件构成现代系统中绝大多数代码,包括AI智能体用来编写新软件的系统。"
他还解决了资金和时间关切。他说,"通过让这些关键开源代码库的维护者访问能够主动识别和大规模修复漏洞的新一代AI模型,'玻璃翼'项目提供了改变这一等式的可信路径。这就是AI增强安全如何成为每个维护者工作流程中的可信助手,而不仅仅是那些能够负担昂贵安全团队的人。"
我对这种方法的看法是,看到这些主要竞争对手显然合作解决网络安全问题很有趣。我也很好奇这种方法中有多少被证明仅仅是在镜头前表演,有多少将影响我们的基本数字基础设施。
我用更直观的担忧来平衡这种关切。这一公告,以及对Mythos风格AI能做什么的认识,告诉我们我们面临的风险远比我们这些网络战专家预测的要大。考虑到当今世界的动荡状态,"玻璃翼"项目可能是最后最好的希望,或者它可能只是另一个实际上无法阻止严重基础设施破坏的公关努力。
Q&A
Q1:什么是"玻璃翼"项目?它的主要目标是什么?
A:"玻璃翼"项目是一个汇集了苹果、谷歌、微软、Anthropic等12家科技巨头的AI网络安全倡议。其主要目标是利用名为Claude Mythos Preview的前沿AI模型来识别和修复全球关键软件中的安全漏洞,保护数字基础设施免受网络威胁。
Q2:Claude Mythos Preview有什么特殊能力?
A:Claude Mythos Preview是Anthropic开发的未发布前沿AI模型,具有强大的智能体编程和推理能力。在过去几周里,它已经识别出数千个零日漏洞,其中许多是关键漏洞。这些漏洞往往很微妙且难以检测,甚至包括存在了27年的OpenBSD漏洞。
Q3:为什么这些竞争激烈的科技公司选择合作?
A:因为网络安全威胁已经从竞争层面上升到存亡层面。AI技术使得从发现漏洞到被利用的时间窗口从几个月缩短到几分钟。这些公司意识到,面对武器级AI带来的威胁,单独行动已经无法保护共享的数字基础设施,必须联合防御。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.