网易首页 > 网易号 > 正文 申请入驻

热点追踪 | AI也会被“投毒”,我们该如何避坑?

0
分享至

来源:市场资讯

(来源:新华社)

  “遇事不决问AI”,这句流行语已成为很多人的日常写照。从旅游攻略、家电选购到补习班推荐,打开AI寻求答案变得越来越普遍。不过,近期曝光的一条黑色产业链,却给这种依赖敲响了警钟:你以为的客观推荐,可能是商家花了钱,给AI“洗脑”的结果。

  那么AI“投毒”究竟如何运作?普通用户如何识别和防范?新华网思客邀请北京大学光华管理学院市场营销学系副教授张颖婕分析解答。

什么是AI“投毒”?危害有多大?

  AI“投毒”是指人为制造和投放虚假、夸大或带偏向性的信息,去影响大模型的回答。AI可能把这些信息当成回答依据,以看似客观的答案推荐给用户。它和传统SEO(搜索引擎优化)最大的不同在于:过去用户在使用搜索时通常保留一定判断力,而在与AI对话时,面对的是整合后的现成答案,加之交互方式容易让人产生“它在为我分析”的错觉,更易放松警惕。

  它的危害主要体现在两方面:一是误导消费者决策,用户看到的可能不是广告,而是披着客观建议外衣的操控性内容。二是污染信息生态。若操控AI推荐比传统搜索更有商业回报,将刺激更多低质、虚假内容产生,形成恶性循环。

 GEO是如何一步步操控AI答案的?

  GEO(生成式引擎优化)是一种基于AI回答的营销行为。与传统的SEO争夺网页排名不同,GEO的目标是让企业的品牌名称、产品或服务,在AI生成的答案中被优先提及、精准推荐。

  GEO的核心并非“黑进AI”,而是“投AI所好”,即顺着大模型的检索与生成逻辑,提前将目标内容铺设到它更可能采纳的地方。具体步骤包括:摸清AI偏好的信源和表达形式(如结论明确、结构清晰、带有比较和引用痕迹);批量生产伪装成测评、对比、经验总结或专家建议的引导性内容;在多平台密集铺量,制造“多方共识”的假象,提高内容被检索和综合采纳的概率。

用户如何判断AI可能“中毒”了?

  若发现AI回答存在以下迹象,应提高警惕:答案过于单一、语气肯定、缺乏必要比较;反复推荐某一品牌,尤其是不知名品牌,且理由异常完整、像标准测评,这未必是发现了“宝藏”,更可能源于相关内容被人为集中铺设;同一问题在不同AI间答案差异大甚至矛盾,也说明该问题存在较强不确定性,或部分模型所依赖的信息源已受干扰。

AI大模型为何会被“投毒”?治理难点在哪里?

  AI大模型之所以容易被“投毒”,一个重要原因是,它在回答实时问题时需检索外部信息,再生成答案。一旦公开网络内容被系统性污染,偏差信息便可能通过检索环节进入模型输出。

  更深一层看,大模型擅长的是语言生成和模式归纳,但并不天然具备稳定的真假判断能力。它能判断什么内容“像一个合理答案”,却不一定能判断什么内容“真的可信”。而“投毒”内容往往又会刻意伪装成测评、对比、经验分享、专家建议等可信形式,因此更容易误导模型。

  治理难点主要有两点:一是攻击成本低、防御成本高。制造和铺设此类内容越来越容易,但识别、过滤和核验却需要平台、模型公司和监管方持续投入。二是真假边界模糊。很多“投毒”内容并不是明显造假,而是夹杂夸大、误导和利益导向的伪客观表达,这类内容无论对AI还是对人工审核,都更难识别。

监管如何堵住AI“投毒”的漏洞?

  治理AI“投毒”需从多个环节协同发力。首先,要加强源头治理,压缩虚假、模板化、伪客观内容的大规模传播空间。其次,要压实AI平台责任,强化信源筛选、风险提示和不确定性标注,而非“抓到什么说什么”。

  更重要的是,相关规则需尽快完善。AI输出与传统广告不同,用户更易将其理解为经过分析后的结论,因此有必要进一步明确平台的信息披露义务与责任边界。

公众如何有效防范?

  最实用的防范方法是调整心态:把AI当作帮助梳理信息、补充背景的工具,而非替你做决定的“人”。涉及“买哪个”“选哪家”等判断性问题时,AI的回答只能作为参考,不宜直接当作结论。

  具体操作上,一是核查信息源,若AI附有引用链接,点开看看来源是权威机构、主流媒体,还是带有推广色彩的网站、自媒体或测评软文。二是交叉验证,换几个AI工具分别提问,或用搜索引擎查一下用户评价、新闻报道和投诉信息是否一致。

  归根结底,防范AI“投毒”的关键不在于掌握复杂技术,而在于保留最基本的判断习惯:AI可以帮你节省时间,但不能代替你承担判断责任。

  策划:唐心怡

  统筹:杨柳 张琦

  编辑:孙惠

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
庞众望现状:27岁清华博士毕业,母亲去世5年后,女友一直陪他

庞众望现状:27岁清华博士毕业,母亲去世5年后,女友一直陪他

小虎新车推荐员
2026-11-22 00:11:54
副厅长,任民办高校党委书记

副厅长,任民办高校党委书记

麦可思研究
2026-11-21 18:11:45
英锦赛一夜2场冷门!中国2胜1负,傅家俊对手确定,奥沙利文出局

英锦赛一夜2场冷门!中国2胜1负,傅家俊对手确定,奥沙利文出局

小火箭爱体育
2026-11-21 21:47:42
超3亿元!福建提前下达一批补助资金

超3亿元!福建提前下达一批补助资金

北青网-北京青年报
2026-11-21 18:55:03
自曝,“家丑”,1,个月,张家齐传来喜讯,和全红婵哥哥恋爱早有真相

自曝,“家丑”,1,个月,张家齐传来喜讯,和全红婵哥哥恋爱早有真相

誮惜颜a
2026-11-21 21:56:15
“新型啃老”全国开始蔓延,孩子不上班、不要钱,只是把门关上,父母却更难受了

“新型啃老”全国开始蔓延,孩子不上班、不要钱,只是把门关上,父母却更难受了

可读
2026-11-20 22:34:37
兄妹顶峰相见后日乒再现情侣顶峰相见 90后姐姐与00后弟弟温馨依偎

兄妹顶峰相见后日乒再现情侣顶峰相见 90后姐姐与00后弟弟温馨依偎

劲爆体坛
2026-11-22 08:18:04
R星太会串:《GTA6》出现“异性恋骄傲游行”

R星太会串:《GTA6》出现“异性恋骄傲游行”

游民星空
2026-11-22 10:14:17
连遭三轮袭击,克里米亚大桥已很难修复,俄军开始疯狂报复

连遭三轮袭击,克里米亚大桥已很难修复,俄军开始疯狂报复

兵国大事
2026-11-20 16:37:56
阿尔特塔离谱用人!阿森纳全能天才被雪藏!实力碾压 7500 万新援

阿尔特塔离谱用人!阿森纳全能天才被雪藏!实力碾压 7500 万新援

澜归序
2026-11-22 10:32:38
监管升级!5家券商遭密集罚单,涉及中信证券!下周券商会这样走

监管升级!5家券商遭密集罚单,涉及中信证券!下周券商会这样走

虎哥闲聊
2026-11-22 09:22:06
工商银行、建设银行等示警金市风险,网友:已经被套,30年后再看了

工商银行、建设银行等示警金市风险,网友:已经被套,30年后再看了

东方豪侠
2026-11-21 12:16:51
刚刚,Anthropic攻下黎曼猜想,DeepSeek和国产模型在卖API

刚刚,Anthropic攻下黎曼猜想,DeepSeek和国产模型在卖API

智能纪元AGI
2026-11-21 21:13:06
钓鱼钩到一把“左轮喷子”,拿在手里绣得掉渣,重庆男子丢回水中!网友发问:为啥不报警?

钓鱼钩到一把“左轮喷子”,拿在手里绣得掉渣,重庆男子丢回水中!网友发问:为啥不报警?

鱼窝鱼窝
2026-11-20 18:50:04
37岁张檬广州遛娃引热议!双保姆随行太惬意,产后状态太真实

37岁张檬广州遛娃引热议!双保姆随行太惬意,产后状态太真实

揭秘世间万象
2026-11-21 09:33:45
普通人要提前做准备:北京等地出现7大转变,正在蔓延,深思

普通人要提前做准备:北京等地出现7大转变,正在蔓延,深思

笑熬浆糊111
2026-11-21 11:23:32
京AG21637、京Q966T5、京QT2H29,相关小客车指标作废!

京AG21637、京Q966T5、京QT2H29,相关小客车指标作废!

BRTV新闻
2026-11-21 20:37:03
小雷:拉亚是阿森纳唯一无法被替代球员,凯帕达不到他的水平

小雷:拉亚是阿森纳唯一无法被替代球员,凯帕达不到他的水平

懂球帝
2026-11-22 10:32:07
CCTV5直播U17国足VS摩洛哥,浮嶋敏黔驴技穷,名记质疑邝兆雷水平

CCTV5直播U17国足VS摩洛哥,浮嶋敏黔驴技穷,名记质疑邝兆雷水平

体育大学僧
2026-11-21 09:26:00
峨眉山偶遇刘涛!48岁素颜爬山状态引热议

峨眉山偶遇刘涛!48岁素颜爬山状态引热议

手工制作阿歼
2026-11-20 13:03:18
2026-11-22 11:04:49
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
5580824文章数 10057关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

"敢不敢玩刺激的" 女博士当主播6个月至今有心理阴影

头条要闻

"敢不敢玩刺激的" 女博士当主播6个月至今有心理阴影

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

港姐季军吴文忻去世,生前已办追思会

财经要闻

金价跌破3550美元,分析称短期下行未逆转

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

数码
教育
时尚
亲子
军事航空

数码要闻

群联展示内置NPU与64GB内存的智能固态硬盘,可直接运行AI模型

教育要闻

2026中小学课程建设与发展大会暨第四届特色课程博览会主论坛在广东佛山举行

我们总说爱动物,但我们真的懂得如何善待它们吗?

亲子要闻

你是一个好孩子 二次元 动画

军事要闻

伊朗革命卫队称袭击美军在巴林两处基地防空雷达

无障碍浏览 进入关怀版