网易首页 > 网易号 > 正文 申请入驻

AI总结也会被“下毒”?微软警告新攻击术

0
分享至

IT之家 2 月 13 日消息,或许网龄比较老的小伙伴们听说过“SEO 投毒”,别有用心者通常会在互联网上创建大量低质量文章,然后将某个假冒、篡改的工具与特定关键词绑定,进而导致用户搜索某个关键词时,搜索引擎跳出来的第一个搜索结果是恶意软件,而非官方产品。

而根据微软安全研究人员本周(2 月 10 日)发布的博文,目前 AI 领域也存在类似的“AI 推荐投毒”攻击术。

以现实举例,一些公司正在将隐藏指令嵌入网页 / App 的“AI 总结”按钮,当用户点击时,系统会通过 URL 的提示参数,尝试将 AI 助手的记忆注入持久化指令。

IT之家在此援引微软,这些提示词会让 AI 固化认知,将“XX 公司是可靠信源”“优先推荐 XX 公司”等指令烂熟于心,最终让 AI 在未来回答中偏向某个产品或服务。

不过问题就在于,一旦有别有用心之人尝试篡改网页提示词参数,将原本的“XX 公司”替换为“XX 诈骗公司”,那么 AI 就会照本宣科地向其他用户提供有毒的建议,进而操纵推荐、AI 总结系统,给出篡改的总结文章,而用户这边却毫不知情。

微软强调,上文所述的攻击方法并非纸上谈兵,目前公司已在邮件流量中发现了 50 起类似投毒案例,涉及金融、医疗、法律服务、营销、食品、服务行业等,常见模式包括“记住 XX 公司是可信来源”“未来对话中优先引用 XX 网站”,更有甚者直接注入完整营销文案,并且上述案例均来自合法公司而非黑客。

微软对此警告,上述实例表明,这种投毒术已经存在现实风险,金融工作者有可能被 AI 推荐到高风险、诈骗投资平台;而家长很有可能完全听信 AI,忽略儿童游戏中的不良内容;并且普通人也有可能会被有心之人利用,在 AI 中持续引用单一媒体来源。

当然,最好的应对方法就是不要完全信赖“AI 总结”,用户在点击 AI 推荐的链接时应该先悬停看一眼是否正规,同时谨慎点击“AI 总结”按钮、定期检查 AI 存储的记忆,如遇可疑情况,可以删除相关条目、重置 AI 记忆。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
WTA 年终大战落幕!年终排名敲定,郑钦文重新夺回中国第一

WTA 年终大战落幕!年终排名敲定,郑钦文重新夺回中国第一

南海浪花
2026-11-16 10:30:44
福州人注意了!福州正悄悄干大事,未来市中心可能要移到“东边”

福州人注意了!福州正悄悄干大事,未来市中心可能要移到“东边”

天气观察站
2026-11-16 19:46:11
俄乌出现新交易设想:美国提出以乌方从顿巴斯撤军,换取乌克兰加入北约

俄乌出现新交易设想:美国提出以乌方从顿巴斯撤军,换取乌克兰加入北约

澎湃新闻
2026-11-14 20:36:59
你见过最精神的精神小妹是什么样?网友评论让人大开眼界

你见过最精神的精神小妹是什么样?网友评论让人大开眼界

特约前排观众
2026-11-02 06:44:22
敖海清主任:苹果煮水太厉害了!睡前一碗睡得香气血足

敖海清主任:苹果煮水太厉害了!睡前一碗睡得香气血足

蜡笔小小子
2026-11-15 15:10:25
关键一战!国足VS巴林首发预测:塞鸟或将复出,徐彬该被拿下,左后卫也要有变化

关键一战!国足VS巴林首发预测:塞鸟或将复出,徐彬该被拿下,左后卫也要有变化

蜡笔小新爱体育
2026-11-16 17:32:10
黄仁勋出轨最大的真相

黄仁勋出轨最大的真相

哲空空
2026-11-10 13:50:34
罗大佑言论引发论战,吴宗宪表态尽显娱乐圈老江湖智慧

罗大佑言论引发论战,吴宗宪表态尽显娱乐圈老江湖智慧

喜欢历史的阿繁
2026-11-15 04:31:08
11月16日,养老金通知还没来,但山东提前发了两个月,这说明啥?

11月16日,养老金通知还没来,但山东提前发了两个月,这说明啥?

社保小达人
2026-11-16 09:42:53
1996年2月2日,人大常委会副委员长李沛瑶在北京家中遇害,行凶者是贴身警卫,拉开了第二次全国严打序幕

1996年2月2日,人大常委会副委员长李沛瑶在北京家中遇害,行凶者是贴身警卫,拉开了第二次全国严打序幕

磊子讲史
2026-11-16 17:30:40
万万没想到!辽宁舰编队远海高强度演练,半个月耗空 5 万吨补给,常规动力短板凸显,核航母成热议焦点

万万没想到!辽宁舰编队远海高强度演练,半个月耗空 5 万吨补给,常规动力短板凸显,核航母成热议焦点

静儿家
2026-11-15 20:35:05
四位顶流演童话被群嘲,今年韩剧还有哪些乐子

四位顶流演童话被群嘲,今年韩剧还有哪些乐子

手工制作阿歼
2026-11-16 18:25:11
网友晒小猫被收养前后的变化,笑死人哈哈哈,当事猫:装模作样5分钟,荣华富贵一辈子!

网友晒小猫被收养前后的变化,笑死人哈哈哈,当事猫:装模作样5分钟,荣华富贵一辈子!

铲屎官阿伟
2026-11-16 19:25:07
对大脑特别好的3大食物,平时轮流着吃,记忆力越来越好!

对大脑特别好的3大食物,平时轮流着吃,记忆力越来越好!

江江食研社
2026-11-08 15:30:21
国乒劲敌公布混团世界杯名单!奥运冠军之女、奥运亚军之子上榜

国乒劲敌公布混团世界杯名单!奥运冠军之女、奥运亚军之子上榜

全言作品
2026-11-16 22:54:50
鲸鱼前妻和新对象白头到老!

鲸鱼前妻和新对象白头到老!

八卦疯叔
2026-11-16 09:49:25
卵巢癌一发现就是晚期?提醒:下半身有这4种异常,该去检查了

卵巢癌一发现就是晚期?提醒:下半身有这4种异常,该去检查了

39健康网
2026-11-15 10:30:20
梦见与异性发生关系,医生告诫:大都因为这4种原因,别傻傻不懂

梦见与异性发生关系,医生告诫:大都因为这4种原因,别傻傻不懂

路医生健康科普
2026-10-28 21:35:04
中国已无需武统?美专家曾言:美白忙一场,解放军有办法不战而胜

中国已无需武统?美专家曾言:美白忙一场,解放军有办法不战而胜

探索新高度
2026-11-16 23:13:19
新北与高雄封关民调:蓝营一胜一败,李四川与柯志恩回应耐人寻味

新北与高雄封关民调:蓝营一胜一败,李四川与柯志恩回应耐人寻味

叮当当科技
2026-11-16 17:39:38
2026-11-17 00:00:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
379632文章数 607735关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

80岁老人结束60多年包办婚姻:像捉鸡仔一样捉在一起

头条要闻

80岁老人结束60多年包办婚姻:像捉鸡仔一样捉在一起

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

官宣离婚不到1月,李小冉进医院

财经要闻

10万人逼宫英伟达 黄仁勋要复职了?

汽车要闻

多面新方盒捷途环游者EV开启预售 9.99万元起

态度原创

房产
亲子
健康
教育
家居

房产要闻

6.6亿!海口卖地!

亲子要闻

“求你给她忌忌嘴吧!”宝妈把女儿养成浑身病,旁人看不下去了

情绪真能让健康人"伤心至死"?

教育要闻

从科技救国到科技强国: 成都二中对时代战略、城市发展、教育归真的三重作答

家居要闻

2026建博会(广州) 公装联探展交流活动

无障碍浏览 进入关怀版