北京
7月以来，美国前沿AI实验室及其他AI领军企业接连披露了一系列事件，其模型未经授权访问了外部计算机系统，外界通常将这类事件描述为AI智能体“失控”。
其中最广为人知、被研究最多的是OpenAI对Hugging Face的入侵。OpenAI最初将其定性为“前所未有的网络事件，涉及最先进的网络能力”，随后又表示这是由“失准行为”导致的，即行为并非创造者本意。
在Hugging Face事件曝光后，Anthropic披露其一个模型未经授权访问了三家组织的生产基础设施；Meta称其一个AI模型在网络安全测试中入侵了另一家公司；谷歌也承认其Gemini模型实施了三次“无定向计算机入侵”。
“失控”措辞掩盖了简单事实
尽管媒体报道和模型提供方都在使用“失控智能体”或“失准”这类说法，但接受CSO采访的网络安全专家认为，这种措辞掩盖了一个简单事实：这些事件源于前沿实验室未能落实几十年前就已成型的网络安全实践，这种失败不可原谅。
据CSO在9月三场行业会议及后续对话中采访的六位网络安全专家所说，问题更加复杂：前沿实验室，尤其是OpenAI和Anthropic，拒绝了他们关于改进网络安全管理实践、避免此类隐蔽入侵的建议，常常把网络安全实践归入“AI安全”范畴，而它们自认在这一领域拥有更专业的判断。
“说实话，他们没自己想的那么厉害。”Berryville机器学习研究所联合创始人Gary McGraw对CSO表示，“如果他们能更尊重那些从取证、安全工程、搭建沙箱、建立或监控网络安全态势等各个安全细分领域里辛苦积累的专业经验，情况会好得多。”
Anthropic和OpenAI均未回应CSO的置评请求。
沙箱、气隙、出口控制，都是老办法
据CSO接触的网络安全专业人士所说，前沿AI实验室最大的网络安全失误之一，是没有落实可追溯到1990年代的可靠隔离实践，比如建立能有效阻止智能体逃出测试环境的安全沙箱。
“这些东西我们已经处理了很多年。”SANS Institute首席AI官兼研究主管Rob T. Lee对CSO表示，“没理由每次出事都是‘哎呀，我们不知道它们怎么跑出去的’。”
“你能看出他们的安全团队相当稚嫩。”Lee说，“网络安全隔离方面的人士确实认为，我们看到的大多数隔离被突破，原因都在于配置不正确。”
Lee补充道：“Hugging Face事件明确显示，问题不在于智能体特别聪明，而在于隔离侧配置不当，确实存在一个被利用的漏洞。”
RAND人工智能、安全与技术中心专家技术驻场Dan Wallach认为，AI实验室的安全失败归根结底在于它们不把网络安全当优先事项。
“我会说他们没有把网络安全放在优先位置。”他对CSO表示，“但我不能对所有实验室都这么说。”他提到法国AI实验室Mistral发布Large 4模型时，该公司称该模型试图越出测试环境运行，随后被Mistral切断。
他还说：“隔离这些AI东西并不是火箭科学。安全人士一直在讨论怎么做气隙隔离，让数据在物理上根本没有电通路从这边到那边；或者退一步，做真正强力的出口控制，确保什么都推不出去。”
除此之外，前沿实验室对其智能体行为的监控似乎也不到位。Wallach说，Hugging Face事件“持续了好几天，没人注意到”。“人们启动了这些实验，却没盯着看。这是控制的缺失。然后他们又对发生的事感到惊讶。”
“这不是网络安全问题”——这句话本身就是问题
说服前沿实验室提升安全水平的一个障碍，是它们高度聚焦于所谓的“安全”，却不把传统网络安全实践纳入其中。
“我能理解安全行为看起来像AI安全。”RAND的Wallach说，“但如果你评估这个AI工具的方式是把它放到互联网上、看会发生什么，那这正是经典安全工具的用武之地。”
SANS Institute的Lee说：“如果这些前沿实验室真想测试自己的东西，就需要加强网络安全部分。但它们对智能体跑出去的直觉反应是说‘这不是网络安全问题’。它已经变成了一个AI安全问题，与网络安全侧割裂开来。”
许多AI专家认为，如果AI公司愿意采纳网络安全专家的建议，可能有助于终结这类引发担忧的无约束AI智能体行为。“AI安全关注的是道路规则。”Lee说，“一切都围绕护栏规则。”
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
