北京
安全团队正在用AI追查攻击，模型却在关键节点上"罢工"了。据Axios报道，越来越多防守方发现，自己依赖的前沿AI模型会在调查进行到一半时突然拒绝配合——严格的安全护栏把正在查案的人挡在了门外。
开源AI编程代理OpenCode的遭遇是个典型样本。该公司称上周末遭到入侵，攻击者拿到了部分客户的API密钥，涉及OpenAI、Anthropic和谷歌服务的密钥。OpenCode将这次事件描述为"与一次大规模蒸馏攻击有关，影响了1.4%的OpenCode Console用户"。
OpenCode联合创始人Dax Raad表示，攻击者连续48小时针对其系统发起攻击，公司不得不让自己的AI代理全天候运转来应对。OpenAI、谷歌和Anthropic均表示，已与受影响客户合作撤销暴露的API密钥，并处理未经授权的使用费用。
更棘手的问题出现在调查环节。Raad在X上称，前沿AI模型起初确实帮助调查了这次入侵，但随后"开始拒绝"。据报道，当调查触及潜在恶意代码时，模型的安全限制开始拦截请求——即便OpenCode是在防守自己的系统。
OpenCode随后获得了OpenAI的Daybreak Blue项目准入资格，该项目为经过审核的网络安全防守方提供限制更少的模型访问权限。Raad周一在X上写道："我们确实需要更加主动，过去几天我们已经做了很多改进。"
这不是孤例。Hugging Face在自家系统上发现可疑活动、并随后将其与OpenAI自己的代理联系起来后，其安全团队在前沿模型上遇到限制，转而使用一个中国开源权重模型协助调查。
防守方由此面临一道选择题：是用能力强大但自带限制的专有模型，还是用部署控制权更大的开源权重替代方案。AI公司则坚持，必须对最强模型设卡，防止恶意行为者滥用其网络能力。
Nightwing首席技术官Chris Jones对Axios表示，网络安全团队需要找到平衡点——既要更快的AI驱动防御，又要确保同样的能力不落到攻击者手里。"我们都得想清楚这场竞赛随时间如何被调节，"Jones说，"这是其中很大的一块。"
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
