网易首页 > 网易号 > 正文 申请入驻

央视315:AI大模型被疯狂“投毒” 你刷到的答案 可能都是商家的套路

0
分享至

我们每天都在通过AI写方案查资料、买东西求推荐、学知识问答案、选产品找测评,默认AI给出的内容客观中立、真实可信。但事情的真相,却给所有人浇了一盆冷水。

今年央视315晚会,矛头指向了当下最火热的AI赛道——AI大模型被非法服务商恶意“投毒”,商家通过技术手段操控AI输出,把虚假宣传、恶意竞争藏进“标准答案”里。你以为的“权威推荐”,不过是一场精心策划的商业骗局。

出品 | 网经社

撰写 | 无痕

审稿 | 云马

配图 | 网经社图库

AI大模型“投毒”全过程曝光 套路比你想象的更嚣张

央视315晚会的调查记者,通过多日暗访,揭开了AI大模型“投毒”的完整灰色产业链。这场“投毒”不是简单的信息篡改,而是一套系统化、规模化的操作,核心主角是一群号称能“驯服AI”的GEO服务商,他们打着“优化推广”的幌子,帮商家向豆包、元宝、千问、KIMI、deepseek、文心等AI大模型定向“投喂”虚假信息,实现“操控AI答案”的目的,而这一切,只需要支付相应的费用。

晚会曝光显示,目前市面上有大量从事GEO业务的服务商,他们直言不讳地告诉记者,自己的核心业务就是给AI大模型“投毒”,帮助客户在AI搜索结果中排名前列,甚至让虚假产品成为AI推荐的“标准答案”。其中一家从业较早的GEO服务商负责人王总透露,他们公司仅仅一年时间,就服务了200多个各行各业的客户,核心竞争力就是“能在任何AI平台,把客户的排名做到前三位”。



这些GEO服务商到底是如何给AI“投毒”的?第一步,利用GEO软件批量生成虚假软文。第二步,自动批量发布虚假内容,诱导AI抓取。第三步,持续“投喂”,巩固AI记忆,实现长期操控。报道称,AI大模型的算法每周都会更新,要想让AI持续推荐客户的产品,就必须持续、大量地投喂相关内容。“AI需要多方信息交叉验证,只要我们投喂的虚假内容数量足够多、角度足够丰富,AI就会认为这些信息是真实的,进而把客户的产品放在推荐前列。”一位GEO服务商章总这样说道。

更可怕的是,这种“投毒”行为不仅限于虚假宣传,还能用于恶意抹黑竞争对手。一家GEO服务商的李总直言不讳地告诉记者,现在很多大品牌之间的竞争,都会通过GEO业务给对手“投毒”:“比如手机品牌,AI推荐就那么几个位置,有的品牌花几百万元投毒,抹黑竞争对手,就能抢占更好的排名,比花上亿元打广告更划算。”

李总还透露,GEO业务的火爆,还催生出了专门的发稿平台,这些平台每天能发布几百篇虚假软文,每篇收费几十元,一天就能赚取高额利润。“网上的信息本来就鱼龙混杂,我们投的‘毒’多了,AI抓取的信息就不准了,但商家就喜欢这样——希望别人不投毒,自己偷偷投,或者给对手投毒。”



值得注意的是,AI大模型“投毒”并非个例,而是已经形成了一套完整的灰色产业链:从GEO软件开发、虚假内容生成,到批量发稿、AI信息抓取,再到排名优化、恶意抹黑,每个环节都有专门的机构参与,且收费明码标价,最低几千元就能实现“操控AI推荐”,最高则可达上百万元,针对不同行业、不同需求,有不同的“投毒”套餐。



自1991年首播以来,央视3·15晚会已经走过了三十多个年头。这张“消费者维权名片”不仅记录了中国消费市场的变迁,更是一部生动的行业警示录。据网经社不完全统计,三十余年来,3·15晚会共曝光了拉手网、高朋网、凡客诚品、当当网、亚马逊、车易拍、有棵树、智联招聘、前程无忧、猎聘网、点淘直播、珍爱网、世纪佳缘、啄木鸟家庭维修、哈啰租电动车等数十个电商互联网平台,涉及人们生活的方方面面。

细思极恐 AI“投毒”的3重致命危害

很多人觉得,AI“投毒”无非就是商家的宣传手段,大不了不买推荐的产品就行。但事实上,这种行为的危害远比我们想象的更严重,它不仅侵犯消费者的合法权益,还会扰乱市场秩序、破坏社会信任,甚至可能引发更严重的安全隐患,具体可以分为三个层面。

第一重危害:误导消费者决策,造成财产损失甚至安全风险。这是最直接、最贴近我们每个人的危害。AI已经成为很多人决策的“参考依据”,比如看病时问AI症状、选装修材料问AI推荐、给孩子选早教课程问AI建议,一旦这些AI回复被“投毒”,就可能导致我们做出错误的选择,轻则损失钱财,重则危及生命安全。

比如,有网友反映,自己曾根据AI推荐的“偏方”治疗轻微咳嗽,结果病情加重,差点引发肺炎;还有消费者根据AI推荐的“靠谱装修公司”,签订合同后才发现对方是皮包公司,装修款被骗走,房屋装修质量也严重不达标。而315晚会曝光的虚构智能手环,如果真的有消费者购买,不仅会损失钱财,还可能因为虚假的健康监测功能,延误自身的健康管理,埋下安全隐患。

第二重危害:扰乱市场竞争秩序,形成“劣币驱逐良币”的困境。AI“投毒”本质上是一种新型的不正当竞争行为,那些愿意花钱“投毒”的商家,哪怕产品质量不过关、服务不到位,也能通过操控AI推荐,抢占市场份额;而那些合规经营、注重产品质量的商家,因为没有花钱“投毒”,反而被AI忽略,逐渐被市场淘汰。

比如,一款质量过硬、价格合理的小众护肤品,原本凭借口碑慢慢积累客户,但如果有竞争对手花钱给AI“投毒”,让AI推荐自己的劣质产品,同时抹黑这款小众护肤品,就会导致小众品牌的客户流失,最终被市场淘汰。这种“花钱就能上推荐”的模式,彻底打破了市场的公平竞争规则,让“劣币”横行,“良币”难存。



第三重危害:破坏AI行业信任,阻碍科技良性发展。AI大模型的核心价值,在于其能整合海量信息,为用户提供客观、高效、准确的答案,而“投毒”行为,彻底打破了这种信任基础。当用户发现自己依赖的AI,给出的答案都是商家的套路,甚至是虚假信息时,就会对AI失去信任,进而拒绝使用AI,这会严重阻碍AI行业的良性发展。

目前,AI技术正处于快速发展的阶段,广泛应用于教育、医疗、金融、交通等多个领域,给我们的生活带来了极大的便利。但如果“投毒”乱象得不到遏制,AI就会从“便民工具”变成“骗钱工具”,不仅会影响用户对AI的信任,还会导致AI技术的应用陷入困境——企业不敢投入更多资金研发AI,用户不敢使用AI,最终让整个AI行业陷入停滞。



除此之外,AI“投毒”还会导致虚假信息的广泛传播,污染网络环境。那些被“投喂”给AI的虚假内容,不仅会被AI引用,还会被其他用户转发、传播,逐渐扩散到整个网络,误导更多人。比如,虚构的产品信息、虚假的专家观点、恶意的谣言,经过AI的“背书”后,会被很多人当成真实信息,进而引发社会恐慌,破坏社会秩序。

更值得警惕的是,随着AI技术的不断发展,“投毒”的手段也会越来越隐蔽、越来越高级。未来,可能会出现更精准的“定向投毒”——根据用户的年龄、性别、消费习惯,推送针对性的虚假信息,让用户更难辨别,其危害也会进一步扩大。

AI“投毒”乱象该如何整治?

央视315晚会曝光AI大模型“投毒”乱象,不仅是对这种违法行为的曝光和警示,更是给整个AI行业、监管部门和消费者敲响了警钟。要遏制这种乱象,需要监管部门、AI平台、商家和消费者四方联动,形成合力,才能还AI一个干净、客观、可信的环境。

首先,监管部门需加大监管力度,完善法律法规,筑牢AI安全防线。目前,我国针对AI大模型的监管还处于不断完善的阶段,虽然有相关的法律法规,但针对“投毒”这种新型违法行为,还存在监管盲区和处罚力度不足的问题。很多GEO服务商之所以敢肆无忌惮地给AI“投毒”,就是因为违法成本太低,即便被曝光,也只是轻微处罚,难以形成震慑。



此外,监管部门还应建立AI信息审核机制,要求AI平台对抓取的信息进行严格审核,过滤虚假信息、恶意内容,确保AI输出的内容真实、客观、合规。同时,要建立举报渠道,鼓励用户、企业举报AI“投毒”行为,形成全民监督的氛围,让“投毒”行为无处藏身。

其次,AI平台需履行主体责任,加强自身审核,守住合规底线。AI大模型的“投毒”乱象,与AI平台的审核不严、管理缺位有很大关系。很多AI平台为了追求数据量和用户体验,忽视了对信息来源的审核,导致大量虚假信息被抓取、被推荐,最终误导用户。

最后,消费者需提高警惕,学会辨别,守护自身合法权益。比如不要盲目相信AI的“标准答案”、学会识别AI推荐中的“广告陷阱”、遇到AI“投毒”相关的侵权行为,要及时维权等。

就在3月12日,网络消费纠纷调解平台“电诉宝”携手数字经济智库网经社电子商务研究中心,发起以“聆听消费心声 提升消费品质”为主题的“2026第十五届网络消费315调查行动”,并将制作315特刊,发送近6000记者库、国务院有关部门、市监总局、网信办、工信部等十余个部委。

行动包括:发布10份数据报告;发起主题调查行动;发布315消费预警;开通维权绿色通道;曝光典型投诉案例;媒体快评剖析乱象;律师坐堂答疑解惑;近6000注册记者联动,过这八大举措,推动网络经济健康发展,为重塑清朗的网络消费环境贡献力量。

AI技术本身是中性的,它可以成为便民利民的工具,也可以成为商家骗钱的手段,关键在于我们如何规范它、使用它。央视315晚会曝光AI大模型“投毒”乱象,不是要否定AI技术,而是要提醒我们:科技的发展,不能脱离合规和责任的约束;商业的竞争,不能突破道德和法律的底线。

【小贴士】

网经社及前身成立于2007年,公司总部位于杭州,系国内唯一拥有A股上市公司背景的数字经济综合服务商。围绕“媒体+智库+媒介”三大战略,网经社打造了三个“中心”:媒体资讯中心、数据研究中心、资源连接中心,并赋能数字经济企业发展, 提供全媒体宣传、智库赋能(报告、培训、游学等)、投融资、会议活动等服务。



声明:包含AI生成内容

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
6岁走失女童新线索曝光,手机在地沟里找到,奶茶店老板发声

6岁走失女童新线索曝光,手机在地沟里找到,奶茶店老板发声

天天热点见闻
2026-04-05 07:19:36
韩媒:全红婵小学二年级就去练跳水!基础教育缺失 未来有3种可能

韩媒:全红婵小学二年级就去练跳水!基础教育缺失 未来有3种可能

念洲
2026-04-02 09:45:59
德国外长:台海有事就是德国有事,我们不能允许暴力改变台海现状

德国外长:台海有事就是德国有事,我们不能允许暴力改变台海现状

飘逸的云朵
2026-04-05 07:57:36
张维伊带妻子回山西扫墓,董璇被夸赞人美,脸小,她皮肤很白皙

张维伊带妻子回山西扫墓,董璇被夸赞人美,脸小,她皮肤很白皙

君笙的拂兮
2026-04-04 07:22:35
史诗级大反转!北上广楼市彻底炸锅,成交量狂飙破5年新高,一场财富大洗牌正在上演!

史诗级大反转!北上广楼市彻底炸锅,成交量狂飙破5年新高,一场财富大洗牌正在上演!

新浪财经
2026-04-02 12:43:03
阚清子参加浪姐:唱歌浑身发抖、满脸眼泪,倪萍道出她失子真相

阚清子参加浪姐:唱歌浑身发抖、满脸眼泪,倪萍道出她失子真相

秋姐居
2026-04-04 22:40:38
5名“黄牛”落网!杭州警方紧急提醒

5名“黄牛”落网!杭州警方紧急提醒

萧内网
2026-04-04 20:35:35
《浪姐7》让人尴尬的几位嘉宾,虚伪、装嫩、惹人厌,不要再来了

《浪姐7》让人尴尬的几位嘉宾,虚伪、装嫩、惹人厌,不要再来了

翰飞观事
2026-04-04 14:48:10
王曼昱淘汰桥本却遭到评论区满屏嘲讽,日本女队全出局

王曼昱淘汰桥本却遭到评论区满屏嘲讽,日本女队全出局

鸟语花香的季节
2026-04-05 00:41:21
奥运冠军莱尔斯今日大婚,迎娶牙买加400米选手布罗姆菲尔德

奥运冠军莱尔斯今日大婚,迎娶牙买加400米选手布罗姆菲尔德

懂球帝
2026-04-04 12:01:14
史密斯36+8+8压哨反绝杀!深圳险胜北控9连胜 里勒45分准绝杀

史密斯36+8+8压哨反绝杀!深圳险胜北控9连胜 里勒45分准绝杀

醉卧浮生
2026-04-04 21:45:57
4月1日起执行!小区3类车位归属明确,这些费用业主不用交

4月1日起执行!小区3类车位归属明确,这些费用业主不用交

复转这些年
2026-04-04 08:03:23
一夜之间人去楼空!知名电商平台暴雷,留4亿烂账有人被拖欠330万

一夜之间人去楼空!知名电商平台暴雷,留4亿烂账有人被拖欠330万

北纬的咖啡豆
2026-04-04 22:33:16
伊朗好计谋!又有多名美军被俘

伊朗好计谋!又有多名美军被俘

低调看天下
2026-04-04 09:45:58
又在克里米亚损失一架苏-30!最担忧的事:俄军弹道导弹全部突防

又在克里米亚损失一架苏-30!最担忧的事:俄军弹道导弹全部突防

鹰眼Defence
2026-04-04 17:30:02
随着上海海港2-1,山东泰山1-2,中超最新积分榜出炉

随着上海海港2-1,山东泰山1-2,中超最新积分榜出炉

侧身凌空斩
2026-04-04 21:58:52
作秀半生,标哥归来仍是戏中人

作秀半生,标哥归来仍是戏中人

迷世书童H9527
2026-04-03 21:50:47
活塞7人得分上双116-93大胜76人锁定东部第一,哈里斯19分

活塞7人得分上双116-93大胜76人锁定东部第一,哈里斯19分

懂球帝
2026-04-05 09:30:09
吏部尚书那些事

吏部尚书那些事

无心镜
2026-04-04 08:05:50
我总领馆紧急提醒:实弹射击高风险!谨慎参与

我总领馆紧急提醒:实弹射击高风险!谨慎参与

看看新闻Knews
2026-04-04 21:27:06
2026-04-05 09:40:49
网经社 incentive-icons
网经社
网经社-电子商务研究中心
10437文章数 4818关注度
往期回顾 全部

科技要闻

小米、字节“老将”带队,Meta秘密布局AI新硬件

头条要闻

牛弹琴:伊朗民众拿枪上山搜寻 美军飞行员有四种结局

头条要闻

牛弹琴:伊朗民众拿枪上山搜寻 美军飞行员有四种结局

体育要闻

刹不住的泰格·伍兹,口袋里的两粒药丸

娱乐要闻

Q女士反击,否认逼宋宁峰张婉婷离婚

财经要闻

谁造出了优思益这头“怪物”?

汽车要闻

17万级海豹07EV 不仅续航长还有9分钟满电的快乐

态度原创

数码
时尚
教育
本地
艺术

数码要闻

苹果新AirPods Pro曝光,内置红外摄像头、升级 H3 芯片

女人不管多大年纪衣服不要随便穿,这些穿搭可借鉴,优雅显瘦

教育要闻

追忆“人民教育家”于漪老师

本地新闻

跟着歌声游安徽,听古村回响

艺术要闻

毛主席83岁时写下的13个铅笔字,网友争议其美丑!

无障碍浏览 进入关怀版