河北
专家早就警告过，黑客可能利用AI代理自主发动攻击。现在看来，这事儿已经发生了。
Hugging Face被黑了——干这事儿的竟然是一个AI代理。
作为面向开源AI模型和数据的类GitHub平台与社区，Hugging Face周五发了一篇博客文章，披露了此次入侵事件。最让人震惊的可能是，Hugging Face披露此次黑客攻击很可能是由一个自主智能体框架实施的。
“这场攻击是由一个自主智能体框架执行的（看起来是基于一个智能体安全研究框架搭建的——用的什么LLM还不清楚），执行了成千上万次单独操作，”该博客写道。“这与业界一直预测的‘智能体攻击者’场景相符。”
随着AI越来越先进，专家们已开始警告，这让高级网络攻击变得更便宜、更容易得手。尤其是智能体AI，预计将使网络犯罪分子能够雇智能体以机器速度替他们干脏活。这个预测已经应验了，而对Hugging Face的攻击只是又一个例证。
Hugging Face 表示，黑客通过一个恶意数据集在系统中获得了一个落脚点，随后开始窃取系统中其他部分的凭据。Hugging Face 采取措施封堵了被用来渗透系统的路径，并在撤销凭据和令牌之前拔除了攻击者在系统其他部分的据点。之后，公司加强了安全措施。
更关键的是，Hugging Face 指出，这次攻击实际上是在 AI 的帮助下才被发现的，由 LLM 驱动的 AI 代理协助还原了攻击的时间线，让公司得以更快地做出响应。
“靠这个办法，我们几小时就完成了通常要花好几天的事，跟上了对手的速度，”博客中写道。
过程并非一帆风顺。据博客文章所述，Hugging Face 最初尝试使用商业 API 背后的前沿模型，但碰了壁，因为某些操作“被提供商的安全护栏所阻止，而这些护栏无法区分应急响应人员和攻击者”。最终只能在自己的基础设施上跑自己的模型。
但换一家没有 Hugging Face 这些工具的公司，未必能做到同样的事。该公司建议网络安全防御者“提前验证好、准备好”自己的模型，以避免重蹈它踩过的坑。尽管 Hugging Face 将其经历告知了 LLM 提供商，但该公司在博客中强调，它并非在反对护栏。
博客中写道：“自主的、AI 驱动的攻击工具已经不再是纸上谈兵。它降低了发动一场范围广、周期长、多阶段行动的成本，并且以机器速度运作。如今，防御一个在线平台意味着把数据和模型层面当作头等攻击面来对待，并在防御侧用 AI 来跟上对手的节奏。”
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
