河北
Hugging Face是人工智能（AI）和机器学习（ML）领域最大的平台之一，近日披露其遭受了一次由AI代理驱动的网络攻击。
“这次攻击在一个重要方面与我们以往处理过的任何事件都不同：它从头到尾由一个自主AI代理系统驱动——而我们主要靠自己的AI来检测和分析这次攻击，”Hugging Face在其公告中解释道，并指出攻击者将恶意代码隐藏在数据集中，然后将该数据集上传到平台。
当Hugging Face的自动化系统处理该数据集时，触发了两个软件漏洞，使攻击者的代码得以在公司的一台服务器上运行。
由自主AI代理主导实施
这种经典代码注入攻击的新花样让攻击者能够扩大权限、对系统取得更多控制权，窃取登录凭据来访问Hugging Face的云基础设施，并进一步渗透到其他内部系统。
但Hugging Face解释说，这起事件之所以特别，是因为攻击主要是由AI代理执行的。
Hugging Face认为，此次攻击并非由人类威胁行为者手动输入命令，而是由一个AI驱动的自主代理统筹实施，该代理完全自行决定探测哪些系统、利用哪些漏洞、窃取哪些凭据，以及如何在被入侵的基础设施中横向移动。
“这场行动由一个自主代理框架实施（似乎搭建在一个代理式安全研究测试平台之上——所用的大语言模型尚不清楚），在一批临时性沙箱中执行了数千次独立操作，并将可自我迁移的命令与控制设施部署在公共服务上，”Hugging Face解释道。“这与业界一直预测的‘代理式攻击者’场景相符。”
换句话说，该代理程序不断启动数千个临时计算环境，使得攻击极难被阻止（因为根本没有一台机器可以拦截）。与此同时，操控恶意软件的基础设施不断迁移，很可能是借助合法的公共云或在线服务。因此，当防御者封锁了一个控制服务器时，攻击无非是从另一台服务器发起。
目前没有证据表明客户数据、公开的面向用户模型或Spaces（平台空间）遭到篡改。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
