网易首页 > 网易号 > 正文 申请入驻

开启自动模式,Opus 5 129次测试零提示注入,OpenAI曾称“无法完全解决”

0
分享至

当AI代理替你填写网页表单时,隐藏在页面文字里的恶意指令突然劫持它的行为——这就是提示注入攻击。它曾是浏览器智能体的致命弱点。但如今,Anthropic给出的数据让人眼前一亮:Opus 5在129项测试中,提示注入成功率为0%。这一数字直接挑战了OpenAI在去年12月的判断——提示注入可能永远无法被彻底解决。

根据Anthropic系统卡披露的细节,这一成绩建立在自动模式启用之上。该模式叠加了两层防御:一层在模型处理数据前扫描输入的隐藏指令,另一层在执行动作前拦截危险操作。攻击者必须同时突破两套独立防线,任何单一漏洞都无法得手。而在关闭自动模式的情况下,Opus 5的提示注入成功率回升至3.7%。有意思的是,Sonnet 5在不依赖额外防御时表现更稳健,成功率只有0.93%,这暗示模型架构本身对注入攻击已具备一定的鲁棒性。安全公司Gray Swan的另一项通用提示注入测试中,经过15次尝试,成功率从Opus 4.8的5.5%下降到了Opus 5的2.0%。


相比之下,OpenAI至今未发布自家模型的可比安全基准。一方在详细公布系统卡数据,另一方却公开承认问题棘手。对正打算用AI代理处理敏感浏览器任务的企业客户来说,这一差异可能会成为决策的分水岭。Anthropic顺势将安全优势与已有的开发能力绑定——其终端编程代理Claude Code在SWE-bench已验证基准中取得了88.6%的得分,如今叠加提示注入免疫情,对企业客户的吸引力进一步加强。

然而,如果把0%视为绝对安全的通行证,还为时过早。Anthropic自己也坦然承认,129个测试场景并非穷尽,现实中攻击者可能利用测试未覆盖的边缘案例发动偷袭。系统卡没有披露受测攻击类型的多样性,也让人难以判断防御的广度。更关键的是,0%的稳定表现绑定在自动模式上,而该模式会引入额外延迟。安全性与响应速度之间的得失——原文中只用“仍未量化”一笔带过,但在实际部署中,延迟敏感的自动化场景能否忍受这层代价,同样需要实测数据来回答。

安全从来不是一个孤立的点,而是一张网。就在Opus 5展示注入免疫力的同时,Anthropic也面临其他维度的隐患:近期公开的CVE-2026-30623漏洞,指向MCP(模块化认知程序)中的标准输入输出命令注入风险。一个在浏览器代理层面几乎滴水不漏的模型,在别的接口上仍可能被突破,这提醒我们,纵深防御比单一指标更值得关注。

接下来的看点很明确:Gray Swan或Trail of Bits这类独立红队能否重现、甚至挑战Opus 5的零注入神话;OpenAI是否在下一代模型中拿出对标安全基准;以及Claude Cowork等产品在企业端的采用速度。对行业而言,0%是一个里程碑,但它能维持多久、能在多广的攻击面上复现,才是决定提示注入能否从“无解”变为“可防”的真正标尺。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
突发,情况有变,詹姆斯去不成76人了?

突发,情况有变,詹姆斯去不成76人了?

体育新角度
2026-07-26 23:15:19
IT员工被赶去无空调工位,留给新领导的办公室一夏无凉风:他从未想过叫维修

IT员工被赶去无空调工位,留给新领导的办公室一夏无凉风:他从未想过叫维修

热搜摘要官
2026-07-26 00:43:12
太贪婪!130 亿石油巨款仅到账 3 亿!美议员:钱全被特朗普私吞

太贪婪!130 亿石油巨款仅到账 3 亿!美议员:钱全被特朗普私吞

史之韵
2026-07-26 15:44:58
55万打水漂!追梦格林直播破防:我掏心掏肺,却被詹姆斯当傻子耍

55万打水漂!追梦格林直播破防:我掏心掏肺,却被詹姆斯当傻子耍

小徐讲八卦
2026-07-26 10:16:34
真是一记响亮的回旋镖!当年卢麒元天天喊着要管住“资本外流”、征收离境税,多少人觉得他危言耸听,如今财政部一纸公告实打实为他正名

真是一记响亮的回旋镖!当年卢麒元天天喊着要管住“资本外流”、征收离境税,多少人觉得他危言耸听,如今财政部一纸公告实打实为他正名

火山詩话
2026-07-26 06:13:19
2.7万亿离岸信托征税落地!富豪避税路被封,刘强东或补税66亿

2.7万亿离岸信托征税落地!富豪避税路被封,刘强东或补税66亿

梅梅诗话
2026-07-26 08:06:06
演员王建隆在家中去世,年仅43岁

演员王建隆在家中去世,年仅43岁

韩小娱
2026-07-26 17:40:44
方星海被查,他在上海的旧事:正局级名片、陆家嘴论坛与那句“放心嗨”

方星海被查,他在上海的旧事:正局级名片、陆家嘴论坛与那句“放心嗨”

字节漫游指南
2026-07-26 22:59:38
最终排名出炉!日本女排第七,瓦尔加斯MVP,惠若琪当颁奖嘉宾

最终排名出炉!日本女排第七,瓦尔加斯MVP,惠若琪当颁奖嘉宾

跑者排球视角
2026-07-26 23:51:14
罗永浩痛批电视厂家长辈模式难用:不毁灭没天理

罗永浩痛批电视厂家长辈模式难用:不毁灭没天理

鞭牛士
2026-07-26 08:38:05
印度日本,哥哥妹妹闹翻了,就因为高铁……

印度日本,哥哥妹妹闹翻了,就因为高铁……

新民周刊
2026-07-26 08:36:47
谢贤和狄波拉新婚不久,在别墅拍了这张绝版合影,彼时谢贤43岁,狄波拉28岁

谢贤和狄波拉新婚不久,在别墅拍了这张绝版合影,彼时谢贤43岁,狄波拉28岁

阿废冷眼观察所
2026-07-26 20:00:39
花600万做基因编辑治疗!6岁女童7天身亡,涉事团队竟发顶刊论文

花600万做基因编辑治疗!6岁女童7天身亡,涉事团队竟发顶刊论文

燕梳楼频道
2026-07-26 20:56:05
阿根廷足协正式发声:请接受西班牙世界杯夺冠,超10万人请愿重赛不予认可

阿根廷足协正式发声:请接受西班牙世界杯夺冠,超10万人请愿重赛不予认可

日常碎碎念啊
2026-07-26 01:42:41
德拉帕蒂上任迅速干了两件事,说明他是个狠角色!

德拉帕蒂上任迅速干了两件事,说明他是个狠角色!

山河路口
2026-07-26 20:19:02
建议大家:天热就在家里吹空调,别去什么避暑胜地,都是经验之谈

建议大家:天热就在家里吹空调,别去什么避暑胜地,都是经验之谈

小谈食刻美食
2026-07-26 10:12:51
黄渤、吴磊主演,电影突然撤档!路演及线下活动也全部取消,上映不到2天票房近6000万元

黄渤、吴磊主演,电影突然撤档!路演及线下活动也全部取消,上映不到2天票房近6000万元

每日经济新闻
2026-07-27 00:19:06
土耳其女排3-1逆转夺冠!时隔三年第2次登顶,巴西5次决赛全失利

土耳其女排3-1逆转夺冠!时隔三年第2次登顶,巴西5次决赛全失利

乒烧泳球
2026-07-26 21:46:15
某演员高铁占座,铁路部门回应

某演员高铁占座,铁路部门回应

新京报
2026-07-26 18:16:05
尴尬!内塔尼亚胡遭通缉 专机几乎无处可飞

尴尬!内塔尼亚胡遭通缉 专机几乎无处可飞

看看新闻Knews
2026-07-26 17:18:08
2026-07-27 02:39:00
字节漫游指南
字节漫游指南
有态度网友ytd
287文章数 99关注度
往期回顾 全部

科技要闻

传DeepSeek 100亿元新一轮融资突然放缓

头条要闻

邓煜舅舅发声:我们全家学霸 他那辈全部保送顶尖学府

头条要闻

邓煜舅舅发声:我们全家学霸 他那辈全部保送顶尖学府

体育要闻

詹姆斯的最后一集,依旧最艰难的路?

娱乐要闻

演员王建隆在家中去世,年仅43岁

财经要闻

232亿,巴黎水被卖了

汽车要闻

轿跑姿态+大空间/标配655km续航 奇瑞风云A9置换价10.68万起

态度原创

健康
本地
亲子
旅游
家居

教你三步快速识别中风

本地新闻

跟着影视去旅行:西游篇

亲子要闻

备孕黄金期是什么时候?

旅游要闻

避开丽江人山人海,小众古风秘境,解锁原生态雪山风光!

家居要闻

2026建博会(广州) 公装联探展交流活动

无障碍浏览 进入关怀版