网易首页 > 网易号 > 正文 申请入驻

AI总结也会被“下毒”?微软警告新攻击术

0
分享至

IT之家 2 月 13 日消息,或许网龄比较老的小伙伴们听说过“SEO 投毒”,别有用心者通常会在互联网上创建大量低质量文章,然后将某个假冒、篡改的工具与特定关键词绑定,进而导致用户搜索某个关键词时,搜索引擎跳出来的第一个搜索结果是恶意软件,而非官方产品。

而根据微软安全研究人员本周(2 月 10 日)发布的博文,目前 AI 领域也存在类似的“AI 推荐投毒”攻击术。

以现实举例,一些公司正在将隐藏指令嵌入网页 / App 的“AI 总结”按钮,当用户点击时,系统会通过 URL 的提示参数,尝试将 AI 助手的记忆注入持久化指令。

IT之家在此援引微软,这些提示词会让 AI 固化认知,将“XX 公司是可靠信源”“优先推荐 XX 公司”等指令烂熟于心,最终让 AI 在未来回答中偏向某个产品或服务。

不过问题就在于,一旦有别有用心之人尝试篡改网页提示词参数,将原本的“XX 公司”替换为“XX 诈骗公司”,那么 AI 就会照本宣科地向其他用户提供有毒的建议,进而操纵推荐、AI 总结系统,给出篡改的总结文章,而用户这边却毫不知情。

微软强调,上文所述的攻击方法并非纸上谈兵,目前公司已在邮件流量中发现了 50 起类似投毒案例,涉及金融、医疗、法律服务、营销、食品、服务行业等,常见模式包括“记住 XX 公司是可信来源”“未来对话中优先引用 XX 网站”,更有甚者直接注入完整营销文案,并且上述案例均来自合法公司而非黑客。

微软对此警告,上述实例表明,这种投毒术已经存在现实风险,金融工作者有可能被 AI 推荐到高风险、诈骗投资平台;而家长很有可能完全听信 AI,忽略儿童游戏中的不良内容;并且普通人也有可能会被有心之人利用,在 AI 中持续引用单一媒体来源。

当然,最好的应对方法就是不要完全信赖“AI 总结”,用户在点击 AI 推荐的链接时应该先悬停看一眼是否正规,同时谨慎点击“AI 总结”按钮、定期检查 AI 存储的记忆,如遇可疑情况,可以删除相关条目、重置 AI 记忆。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
篮球女神官宣离婚!千字长文炮轰丈夫,没出轨没家暴,终败给现实

篮球女神官宣离婚!千字长文炮轰丈夫,没出轨没家暴,终败给现实

喜欢历史的阿繁
2026-11-18 13:39:51
美国谴责乌克兰对俄罗斯的远程打击,称打击“给俄罗斯民众带来痛苦”

美国谴责乌克兰对俄罗斯的远程打击,称打击“给俄罗斯民众带来痛苦”

山河路口
2026-11-18 12:47:12
杨尚昆问周总理:小平自称参加过遵义会议,此事确否,是何职务?

杨尚昆问周总理:小平自称参加过遵义会议,此事确否,是何职务?

大运河时空
2025-09-03 11:55:59
排面拉满!深圳APEC主持人阵容亮相,央视多位名嘴齐聚鹏城

排面拉满!深圳APEC主持人阵容亮相,央视多位名嘴齐聚鹏城

情感大头说说
2026-11-18 04:48:40
杨瀚森遭弃用!央视停播表明态度!森林狼双杀开拓者,一战看清4个现实:诺里真该下课

杨瀚森遭弃用!央视停播表明态度!森林狼双杀开拓者,一战看清4个现实:诺里真该下课

毒舌NBA
2026-11-18 13:19:03
外媒:中国第4艘航母建造加速,最多能带100架舰载机,为和美国“福特”级匹敌,或采用核动力

外媒:中国第4艘航母建造加速,最多能带100架舰载机,为和美国“福特”级匹敌,或采用核动力

蓝星杂谈
2026-11-18 11:16:32
霍启山也没想到,自己大婚将至,反而让母亲朱玲玲承担了“恶意”

霍启山也没想到,自己大婚将至,反而让母亲朱玲玲承担了“恶意”

小莜读史
2026-11-18 07:06:31
现场画面:金正恩实地考察朝中边境城市旅游区建设

现场画面:金正恩实地考察朝中边境城市旅游区建设

每日经济新闻
2026-11-17 21:21:51
速看!今明两天,福田临时交通管控地图公布!

速看!今明两天,福田临时交通管控地图公布!

深圳本地宝
2026-11-18 10:18:14
五常均已表态!中日矛盾持续升级,五大常任理事国不再沉默,接连亮明各自立场

五常均已表态!中日矛盾持续升级,五大常任理事国不再沉默,接连亮明各自立场

谈史论今1
2026-11-13 20:52:38
这俩,早晚要离?

这俩,早晚要离?

毒舌一姐
2026-11-17 20:30:31
浙江一老板工厂倒闭,46个工人他只安排了3个

浙江一老板工厂倒闭,46个工人他只安排了3个

智慧生活笔记
2026-11-18 06:26:01
工人安全绳被割断后续!警方介入,肇事者曝光,原因让人大跌眼镜

工人安全绳被割断后续!警方介入,肇事者曝光,原因让人大跌眼镜

小鋭有话说
2026-11-17 19:08:27
APEC还没开,华强北先爆单了!让老外把钱包“掏空”的秘籍是啥丨大象财富

APEC还没开,华强北先爆单了!让老外把钱包“掏空”的秘籍是啥丨大象财富

大象新闻
2026-11-17 20:45:45
明年开始,若房价继续下跌,中国50%的家庭或要面临3个问题

明年开始,若房价继续下跌,中国50%的家庭或要面临3个问题

云霄纪史观
2026-11-17 04:14:58
莫斯科吸烟角的独白:前线归来的俄罗斯士兵懊悔不已,告诫旁人切勿签合同去前线,坦言人人都盼望冲突早日结束

莫斯科吸烟角的独白:前线归来的俄罗斯士兵懊悔不已,告诫旁人切勿签合同去前线,坦言人人都盼望冲突早日结束

14号观星辰
2026-11-15 17:49:40
美以伊局势:美军再袭伊朗格什姆岛;特朗普:正认真对待伊朗或在华盛顿引爆脏弹的消息;伊朗称打击巴林的美军雷达系统,美军否认被击中

美以伊局势:美军再袭伊朗格什姆岛;特朗普:正认真对待伊朗或在华盛顿引爆脏弹的消息;伊朗称打击巴林的美军雷达系统,美军否认被击中

极目新闻
2026-11-18 07:16:44
印专家:全球平衡已被我们彻底颠覆,中国和西方都对印度感到恐慌

印专家:全球平衡已被我们彻底颠覆,中国和西方都对印度感到恐慌

黄大姐
2026-11-16 23:03:33
上半年138.3万对离婚,民政局“不劝了”:40岁以后的分手,是算过账的

上半年138.3万对离婚,民政局“不劝了”:40岁以后的分手,是算过账的

青科新闻
2026-11-08 11:25:23
iPhone Duo铰链卡死被拒保!博主直接给库克发邮件:苹果终于松口

iPhone Duo铰链卡死被拒保!博主直接给库克发邮件:苹果终于松口

快科技
2026-11-18 07:43:05
2026-11-18 14:16:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
379947文章数 607739关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

数码
游戏
家居
教育
公开课

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

英国法庭驳回索尼PlayStation数字内容集体诉讼

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版