网易首页 > 网易号 > 正文 申请入驻

弱模型把有害任务拆成小问题,骗过了三个顶尖大模型

0
分享至

一个能力更弱、没有对齐的模型,把一件有害的事拆成几个看起来人畜无害的小问题,分别去问一个已经对齐的前沿模型,每个问题单独开一个会话,最后在自己这边把答案拼起来。微软的这篇安全论文,把这种做法叫做能力洗白(capability laundering)。

关键在于,每一次请求单独看都能通过审核。因为前沿模型给出的任何单个回答,都不构成一个有害任务。风险不在某一次问答里,而在拆分和拼装这两个动作上——它们都发生在被咨询的模型之外。


它到底是怎么绕过去的

这套流程有三个环节。发起方是一个较弱、未对齐的模型,它负责把目标拆解成若干子问题;被咨询方是已经对齐的前沿模型,每个子问题都在独立会话里提问;最后,所有答案回到发起方本地,由它自己完成组合。

对前沿模型来说,它看到的只是一个个孤立、正常的问题。没有任何一个回答越界,所以每一次请求都能顺利通过。论文作者把这种现象命名为能力洗白,指向的正是这种"单点合规、整体有害"的错位。

实测数据:14道题里追回8道

论文给出的测试结果相当具体。在 CyBench 基准上,Gemma-4-31B 单独作答时失败的任务,在咨询 GPT-5.5 之后,14 道里有 8 道被它重新做了出来。

另一组测试针对 CBRN 攻击链。引入咨询环节后,这个较弱模型的平均评分从 62.3 提升到了 83.1。被咨询的模型包括 GPT-5.5Claude Opus 4.8Grok-4.3

这组数字说明的问题很直接:一个本身不具备完成能力的模型,可以通过借调前沿模型的能力,把原本做不到的事做到,而且整个过程没有触发任何单次请求层面的拦截。

为什么单次审核挡不住

现有的安全机制大多建立在"判断这一次请求和回答是否有害"之上。能力洗白恰好绕开了这个判断维度——它把有害性藏进了任务的结构里,而不是任何一次具体的交互中。

拆分发生在发起方,拼装也发生在发起方。被咨询的前沿模型全程只看到零散、无害的子问题,它既不知道这些问题的来龙去脉,也不知道答案最终会被用在哪里。每一次会话都是干净的,合起来却指向一个有害目标。

论文地址为 academy.dair.ai/papers/divide-…,发布时间为 2026 年 9 月 16 日。

这件事的分量在哪

过去讨论模型安全,焦点通常放在被对齐的模型会不会被越狱、会不会被诱导说出不该说的话。这篇论文把视角挪到了另一个位置:即便前沿模型本身守得住,只要有一个未对齐的弱模型在中间做调度,它的能力依然可能被间接调用。

发起方越弱,反而越不容易被注意;被咨询方越强,能提供的帮助就越大。两者之间的能力差,恰恰成了这套方法成立的前提。对做安全评估的人来说,需要重新考虑的不只是单次问答的合规性,还有跨会话、跨模型的任务拼接路径。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
重要涉密单位外包保洁员段某主动联系境外间谍,盗取偷拍出卖3项国家秘密6项情报,获利13万元,被判10年,11名责任人被处分

重要涉密单位外包保洁员段某主动联系境外间谍,盗取偷拍出卖3项国家秘密6项情报,获利13万元,被判10年,11名责任人被处分

扬子晚报
2026-09-17 07:55:15
巴萨2200万飞翼杀疯了:60米狂奔助攻 造2点球!形同闪电

巴萨2200万飞翼杀疯了:60米狂奔助攻 造2点球!形同闪电

叶青足球世界
2026-09-17 08:56:04
点球战出局!中国女足5-6意大利无缘U20世界杯8强 刘晨6神扑难救主

点球战出局!中国女足5-6意大利无缘U20世界杯8强 刘晨6神扑难救主

我爱英超
2026-09-17 03:17:40
苹果CEO秀折叠屏被吐槽:看不到折痕,也看不到屏幕

苹果CEO秀折叠屏被吐槽:看不到折痕,也看不到屏幕

观察者网
2026-09-16 14:21:08
曝一位95后男星被送来送去,成为男大佬的共享金丝雀,女星当中介

曝一位95后男星被送来送去,成为男大佬的共享金丝雀,女星当中介

荒野老五
2026-09-16 22:42:33
高晓松要拍《林徽因传》,被梁再冰警告:“你要是拍我妈和徐志摩的感情线,我告你破产!”高晓松满脸不快

高晓松要拍《林徽因传》,被梁再冰警告:“你要是拍我妈和徐志摩的感情线,我告你破产!”高晓松满脸不快

背包旅行
2026-09-15 10:01:19
徐湖平等相关责任人被依规依纪依法处理

徐湖平等相关责任人被依规依纪依法处理

新华社
2026-09-16 17:00:10
拉菲尼亚帽子戏法比肩梅西,巴萨7-2桑坦德竞技,8连胜造66年神迹

拉菲尼亚帽子戏法比肩梅西,巴萨7-2桑坦德竞技,8连胜造66年神迹

钉钉陌上花开
2026-09-17 05:37:34
独家|央视原副台长孙玉胜忆敬一丹:她温和,但说出的话分量不低

独家|央视原副台长孙玉胜忆敬一丹:她温和,但说出的话分量不低

澎湃新闻
2026-09-17 10:02:30
大风追踪丨10岁男童校门口徘徊后溺亡,班主任涉嫌虐待被警方立案侦查

大风追踪丨10岁男童校门口徘徊后溺亡,班主任涉嫌虐待被警方立案侦查

大风新闻
2026-09-17 10:51:13
东吴大学正式移除蒋介石像,网友:忘恩负义!没有他哪有东吴大学

东吴大学正式移除蒋介石像,网友:忘恩负义!没有他哪有东吴大学

点燃好奇心
2026-09-17 09:41:20
沙特疏远中国选美国,现在已经在等死了

沙特疏远中国选美国,现在已经在等死了

求实处
2026-09-16 21:03:18
敬一丹遗体告别仪式举行,倪萍遗憾不能参加,透露原因惹人泪目

敬一丹遗体告别仪式举行,倪萍遗憾不能参加,透露原因惹人泪目

180视角
2026-09-17 08:48:08
敬一丹告别仪式在京举行!现场曝光太低调,王宁水均益徐俐都来了

敬一丹告别仪式在京举行!现场曝光太低调,王宁水均益徐俐都来了

娱乐圈圈圆
2026-09-17 10:29:11
胡塞打进城,先给百姓发大米,难怪势如破竹,真给他们学到精髓了

胡塞打进城,先给百姓发大米,难怪势如破竹,真给他们学到精髓了

施涛说
2026-09-16 17:00:03
你是怎么发现有些人不能深交的?网友:花1800请她吃饭,每上一道菜都说不好吃

你是怎么发现有些人不能深交的?网友:花1800请她吃饭,每上一道菜都说不好吃

解读热点事件
2026-08-06 00:05:08
香港“最怂”富二代邓兆尊,父亲邓永祥临终前叮嘱他做个败家子,他却不创业、不赌博,靠收租躺平了29年,钱却越来越多

香港“最怂”富二代邓兆尊,父亲邓永祥临终前叮嘱他做个败家子,他却不创业、不赌博,靠收租躺平了29年,钱却越来越多

人生录
2026-09-13 06:49:30
AI入职传统企业,先从“鸡毛蒜皮”干起

AI入职传统企业,先从“鸡毛蒜皮”干起

凤凰WEEKLY
2026-09-17 12:23:32
黄龙演唱会“女子拒吻”事件发酵 !涉事女主在多场演唱会出境:一次比一次玩得刺激

黄龙演唱会“女子拒吻”事件发酵 !涉事女主在多场演唱会出境:一次比一次玩得刺激

火山詩话
2026-09-16 20:39:03
美国称捣毁马达加斯加13处中国人运营诈骗园区,约30名头目被遣返中国

美国称捣毁马达加斯加13处中国人运营诈骗园区,约30名头目被遣返中国

小虎新车推荐员
2026-09-16 14:02:40
2026-09-17 12:56:50
闪存猎手
闪存猎手
全网蹲好价的野生捕手,算力与羊毛都不可辜负。
292文章数 73关注度
往期回顾 全部

科技要闻

赛力斯全面接盘,华为真的“撤”了吗?

头条要闻

牛弹琴:印巴军舰茫茫大海上罕见相撞 有三个疑点

头条要闻

牛弹琴:印巴军舰茫茫大海上罕见相撞 有三个疑点

体育要闻

逆转朝鲜,国足亚运队“啃老”过关

娱乐要闻

比起敬一丹的退而不休 章伟秋更显明智

财经要闻

缺钱的追觅 隐藏的债务?

汽车要闻

激光雷达+EVA机器人+爆胎稳行 星瑞L PLUS预售限时价11.57万起

态度原创

家居
艺术
游戏
亲子
健康

家居要闻

2026建博会(广州) 公装联探展交流活动

艺术要闻

16幅 罗中立奖学金获得者的作品

《怪物猎人:荒野》捏脸系统明年开始免费 造型券将下架

亲子要闻

丰台区第一幼儿园教师李享:让运动成为家庭教育的底色

剧烈头痛伴呕吐,警惕脑动脉瘤破裂

无障碍浏览 进入关怀版