Cloudflare称Claude Mythos研究“看起来像资深研究员的工作”

html

作为一名网络安全领域的“外行”，我一直很难判断，该把对Anthropic的Claude Mythos AI的那些炒作和恐慌当真到什么程度。但现在总算有点更具体的东西能让我看明白了——因为Cloudflare一直在忙着搞清楚Mythos到底擅长啥。

这个AI模型最近在网络安全圈闹出不小动静，因为它让大家看到，AI对软件安全的潜在威胁有多大——比如，在每款操作系统和主流浏览器里都能挖出几千个漏洞。但咱这种离科技圈很远的小老百姓，尽管银行和其他机构都在急着想办法对付它，我还是拿不准到底该把这个AI闹出来的动静多当回事。不过今天早上翻了翻Cloudflare的分析，我心里总算有点数了。

Cloudflare一直是Anthropic Glasswing项目的成员之一。这个项目（估计整个Mythos也一样）的思路，就是要在AI军备竞赛里跑到那些坏人前头去。说白了就是让Anthropic扮“好人”，用AI去识别坏人可能利用的那些威胁，好帮企业防住最新的AI网络安全风险。

Anthropic解释说：“Claude Mythos Preview是一个通用的、未发布的前沿模型，它揭示了一个不争的事实：AI模型在发现和利用软件漏洞上的编程能力，已经超过了除最顶尖人类专家以外的所有人。Glasswing项目就是一次紧急尝试，想把这种能力用到防御上去。”

Glasswing 让部分重要的科技公司得以使用 Mythos Preview，以便“扫描并保护第一方和开源系统”，Anthropic 则提供了高达 1 亿美元的积分，供这些公司使用。这些公司包括亚马逊网络服务、苹果、谷歌、微软、英伟达，等等，其中也包括 Cloudflare。

一个网络安全策略要是把漏洞暴露出来，而坏人理论上可以利用这些漏洞，这看起来可能有点奇怪，但这并非新鲜事：公司经常聘请红队来做这类事情，以便修补漏洞。本质上还是这个套路，只是有了 AI，规模就完全上了一个量级。

总的来说，Cloudflare 对 Mythos 的评价很高，称其为“实实在在的进步……不只是对以前那些成果修修补补……Mythos Preview 带来的改变在于，模型现在可以将那些低严重性的漏洞（以前这类漏洞通常被淹没在待办清单里，根本没人注意到）把它们串成一个更严重的单一漏洞利用。”

Cloudflare说，在自家测试中，Mythos有两个突出特点：“漏洞利用链构建”（即，将多个漏洞智能地链接成一次攻击的能力）和“证明生成”（即，证明它给出的东西真能管用的能力）。

然而，这个模型并不完美——谁会指望一个“预览版”十全十美呢？例如，Cloudflare发现它有时会冒出一些没道理的安全护栏，阻碍合法的安全研究。

Cloudflare还好像在暗示，很多人对Mythos的理解有些偏差，光盯着它多快能找到漏洞、好赶紧打补丁。而Cloudflare碰了壁才发现，用这个AI模型时要更有针对性，把任务拆分开，而不是只丢一个Mythos代理去从头审一个大项目，然后撒手不管，效果会更好。

公司最终发现，要有效使用 Mythos，关键是要用一个“控制框架”把它的工作范围收窄，再靠另一个代理从噪音里把信号筛出来，同时要串联多个代理，也要并行运行多个代理。换句话说，让很多 Mythos 当“干活的”，各自负责特定任务，似乎比让一个超级 Mythos 单挑整个代码库效果更好。

接下来，Cloudflare 觉得大家与其只盯着用 Mythos 更快地打补丁，不如把重点放在架构上：

更棘手的问题在于，漏洞周围的架构设计应该是什么样的。原则是，即使存在漏洞，也要让攻击者更难利用它，这样一来，从漏洞被公开到修补好的时间差就没那么要紧了。

这意味着要在应用前面加设防御，让攻击者碰不到那个漏洞。这意味着要设计应用程序，让代码里某一块的漏洞，不能让攻击者借此摸到其他部分。这意味着要同时把修复补丁推送到所有跑着这段代码的地方，而不是等着各个团队自己去部署。

Cloudflare到底打算怎么用Mythos来实现这点，这家公司还是闭口不谈，但它表示“接下来几周会进一步说明这对客户来说意味着什么。”

Cloudflare 对AI可一点都不陌生。该公司之前就说过，“机器人和人之间的界限越来越无所谓了”，至少在网站（很多都跑在Cloudflare服务器上）怎么对待用户这件事上，是这样。所以我想，该公司大力押注一种以AI智能体为核心的网络安全路线也就不足为奇了。不过，如果Mythos真像他们说的那么领先一大截，那就得“抢在对手前面先下手”了——不管我们乐不乐意，AI军备竞赛就是这么一路转个不停。