网易首页 > 网易号 > 正文 申请入驻

“投毒”成产业链!只要花钱,甚至能让AI推荐不存在的品牌

0
分享至

在AI日渐成为生活中的基础设施时,支付相应的费用就能让产品在各大主流AI大模型里榜上有名、成为AI模型给出的“标准答案”?

今年的央视315晚会曝光,一种名为GEO(生成引擎优化)的业务正在网络平台上兴起。相关服务商宣称,只要支付费用,就可以让客户的产品在任何主流AI大模型的回答中“做到排名前三位”。

其中,“力擎GEO优化系统”被点名,所属企业为北京力思文化传媒有限公司。今天(3月16日),该公司属地监管部门北京市怀柔区市场监督管理局工作人员告诉南都记者,“目前正在积极调查此事。”



昨晚(15日),“AI大模型被投毒”“给AI投毒已成产业链”等相关话题词条冲上热搜。





央视记者调查发现,一些GEO服务商通过大量撰写推广软文并在互联网平台发布,让AI模型在抓取和训练数据时获取这些内容,从而提高客户产品在AI推荐中的排名。一位服务商负责人表示,其业务本质就是“做软文,然后让AI平台去刷录、输入、抓取”。而由于AI算法更新频繁,要保持持续推荐,就需要不断大量投放相关内容。

业内人士还现场通过一款名为“力擎GEO优化系统”的软件进行实验:虚构了一款智能手环,并自动生成十余篇宣传软文发布到互联网。随后在AI大模型中搜索“智能健康手环推荐”,结果有两个AI模型推荐了这款并不存在的产品,且排名靠前。

南都记者搜索发现,“力擎GEO优化系统”所属企业为北京力思文化传媒有限公司,成立于2018年。3月16日,南都记者致电该公司属地监管部门北京市怀柔区市场监督管理局,该局工作人员表示,针对此事,目前正在积极调查当中。同日,南都记者拨打北京力思文化传媒有限公司公开联系方式,电话均未能接通。



还有GEO服务商表示,“GEO把(网站)带火了。那些网站平常哪有什么利润,突然一下发稿需求就来了。你知道网站一天发多少篇吗?几百篇,每分钟都在发。一篇是几十元,你想发稿平台一天赚多少钱。”这意味着,从GEO服务商到发稿平台,一条AI“投毒”产业链已经形成。

有业内人士向南都N视频记者表示,目前,流量入口已经从搜索引擎转移到大模型上,大模型这一入口也变得非常有商业价值。有一些大模型会直接给用户推商业性的内容,有一些大模型则做得比较克制,这也让GEO看到了商机。

当用户向大模型提问题,模型会上网搜索关于问题的信息,并根据搜索到的信息来做回答,而GEO其实与过去的搜索引擎优化走的是类似的链路,核心目的也是让内容更容易被AI查找到。

上述业内人士也表示,GEO厂商的套路通常如下:首先他们会研究各大模型的内容偏好,在他们拿到客户的需求时,便会根据不同的模型对内容和格式的偏好来制作内容,比如在内容表达上用夸张词汇、加上“专家认定”等噱头性说法,高级一点的GEO厂商还可以让AI生成的内容之间相互印证。

如何预防被“投毒”内容误导?该人士提到,对于普通用户来说,只能在AI搜索出答案后去溯源看内容来源是否规范、真实。但更根本的解法,还是需要模型厂商自己来将这件事情规范化。“现在这件事确实还是三不管的地带,本质上这件事情有曝光是好事儿,最终还是需要模型厂商来做这件事情。”

南都记者梳理发现,多家GEO行业相关企业发布AI搜索优化的合规经营声明。其中,杭州有赞科技有限公司发布“关于GEO报道误读的声明”称,有赞在2021年投资南京小裂变网络科技有限公司,主要看重其在企业微信生态的插件工具开发能力,希望加强业务协同。该投资与GEO相关业务不存在任何股权、业务或技术层面的关联。声明指出,经核实,315晚会所提及的GEO相关产品,并非“小裂变”所开发或运营。

AB客(ABKE)也通过官方账号发布声明称,“坚决反对任何形式的虚假宣传、数据造假、恶意操控AI输出结果的行为,不参与、不提供所谓‘洗脑AI’‘操控标准答案’‘一周见效刷排名’等服务。”



3月15日,央视3·15晚会曝光人工智能领域的新型乱象,点名正在快速兴起的GEO(生成式引擎优化)产业链。

晚会通过记者卧底调查与现场实测证实,大量GEO服务商明码标价提供推广服务,依靠自动化工具批量炮制虚假软文、虚构产品信息、伪造权威榜单,只需数小时就能让捏造的商品登上主流AI大模型的推荐前列,将付费商业广告包装成客观中立的“标准答案”。相关从业者甚至直言,行业内普遍以“投毒”思路围猎AI,让付费品牌占据推荐位,甚至抹黑竞争对手。

AI回答频现“广告化”倾向

多款模型反复推荐同一批品牌

2025年9月,南都N视频记者选取十款主流AI搜索与对话工具,开展了AI回答广告化倾向专项测评。

记者以“孕妇可用粉底液推荐”等贴近日常消费的问题进行统一测试,结果发现多款AI工具的回答中确实存在明显的广告化倾向:多款AI工具反复推荐同一批品牌,其中一些市场热度并不高的小众品牌,也频繁在不同AI回答中“撞脸”,甚至与知名品牌并列推荐。

进一步追溯信源发现,多款AI均引用了同一家商业榜单网站的内容。这类榜单网站往往存在多个版本的排名信息,页面还带有明确的商业合作入口,却被AI大模型当作权威信息直接采纳。

这一现象的核心原因在于,GEO产业精准利用了大模型对结构化、完整化内容的检索偏好,通过批量生产贴合AI抓取习惯的内容,将特定品牌推到更容易被采纳的位置,从而获得更高的曝光和推荐优先级。

在此次专项测评中,南都记者还发现参与测试的十款AI工具在引用信源方面普遍存在质量堪忧的问题,大量低质、可疑甚至无关的信源被AI当作有效依据采纳。部分AI回答存在明显的错位跳转问题,标注的信源标题与主题高度相关,点开后却跳转到完全无关的网站内容,部分AI甚至直接引用购物平台的推广软文,文末附带商品购买链接,将商业推广内容等同于客观测评信息。

更值得警惕的是,部分被引用的网站会随着打开时间自动刷新发布日期,以此伪造内容时效性,骗取AI更高的采信权重,这些内容大多是阅读量极低、账号内容高度雷同、仅靠关键词堆砌而成的GEO软文,却因为贴合AI检索机制,顺利混入AI的回答体系中。

记者开展实测验证

虚构品牌30分钟进入AI推荐

为进一步验证GEO对AI大模型的实际操控能力,南都大数据研究院记者于2025年11月虚构了一款名为“**果核”的上班族护眼零食品牌,按照GEO产业通用的优化策略,生成并发布两篇结构化、场景化的推广软文,内容仅发布30分钟后,该虚构品牌就成功出现在相关AI搜索的推荐结果中,引用来源直指记者发布的软文页面。

央视3·15晚会中,调查人员借助GEO优化系统,虚构了Apollo-9智能手环产品并生成虚假宣传内容,仅两小时就被AI大模型抓取并推荐,三天内持续发布十余篇虚假测评与行业排名软文后,该虚构产品更是成功登上多款AI的推荐前列。

调查显示,GEO无需突破模型技术壁垒,仅靠持续“投喂”贴合AI偏好的虚假内容,就能快速、低成本地操控AI推荐结果。

GEO产业快速扩张

AI搜索生态面临信任挑战

南都的持续调查显示,GEO产业自2025年以来快速商业化,大量来自SEO、自媒体运营与人工智能行业的从业者涌入,产业内部逐渐分化为合规优化的“白帽GEO”与恶意操纵的“黑帽GEO”。

白帽团队以技术优化为核心,通过提升内容结构化程度、匹配AI关键词组合等合规方式提升品牌曝光,而黑帽团队则以误导用户、操纵结果为目标,集中在医美、培训机构、财商课程等高回报领域,采用批量伪原创、捏造产品数据、虚构用户评价、注册马甲账号矩阵铺量等激进手段,完成投放后迅速销号,留下难以追踪的“孤岛内容”,更有甚者向开源训练语料库注入错误事实、通过提示词注入恶意指令,从底层污染大模型,形成长期难以修复的结构性偏置。

随着企业对AI推荐位的竞争不断加剧,GEO投放甚至逐渐成为部分品牌的防御性选择,担心对手布局后自身品牌在AI回答中“缺席”,进一步推动了黑产乱象的蔓延。

央视3·15晚会的曝光与南都前期的调查,共同指向当前AI搜索生态的重要问题:国内多数大模型没有自研搜索系统,在联网模式下主要依赖第三方内容平台提供信息摘要,缺乏对原文的深度语义理解与真实性核验。内容生产门槛低、质量波动大的门户自媒体内容,成为GEO黑产入侵的主要突破口。一旦虚假信息被AI抓取收录,很容易在推荐链条中形成持续黏性,被系统反复引用强化,最终演变成模型内部的结构性偏置。

而大模型内部决策路径复杂、追溯性缺失的特性,也让监管取证与责任界定面临巨大难题。对于普通消费者而言,AI搜索“零点击”获取信息的便利,反而成为隐蔽广告的保护伞,广告被伪装成榜单、科普帖、经验分享,模糊了信息与商业推广的边界,直接影响用户在孕期用品、健康消费等敏感场景的决策判断。

面对GEO产业野蛮生长带来的AI信任危机,业内认为,AI厂商、监管部门还是普通用户,都需要共同行动筑牢防线。AI平台应在检索、排序与结果呈现阶段建立更严格的广告识别与信息过滤机制,对疑似商业推广内容进行标注,并强化信源质量核验。监管层面则可依托《人工智能生成合成内容标识办法》,进一步完善大模型信息溯源机制,明确GEO服务商、内容发布平台及账号主体的法律责任。对于用户而言,在使用AI获取消费建议时,也应保持警惕,通过多平台交叉验证信息来源,不将单一AI回答作为消费决策的唯一依据。

人工智能信息安全与消费公平已成为今年维权领域的重要议题,唯有补齐AI生态的信息安全短板,方能让人工智能回归可信、可靠的工具本质。

南方都市报(nddaily)报道

南都N视频记者林文琪张文嘉林诗妍

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
活久见!客服工资6500,早九晚五双休,周二午饭要轮流做,引热议

活久见!客服工资6500,早九晚五双休,周二午饭要轮流做,引热议

火山詩话
2026-03-16 17:20:21
特朗普想退出北约、称自己有权力,刺激盟国右转强军,也或确实退

特朗普想退出北约、称自己有权力,刺激盟国右转强军,也或确实退

邵旭峰域
2026-03-18 11:41:58
美媒文章:从“暗杀”到“斩首”,美国愈发肆无忌惮

美媒文章:从“暗杀”到“斩首”,美国愈发肆无忌惮

参考消息
2026-03-17 16:19:10
美军:使用多枚重达5000磅的钻地炸弹轰炸霍尔木兹海峡沿岸伊朗导弹阵地;伊朗暂无回应

美军:使用多枚重达5000磅的钻地炸弹轰炸霍尔木兹海峡沿岸伊朗导弹阵地;伊朗暂无回应

极目新闻
2026-03-18 07:52:35
奇迹般的大唐:明明国内四分五裂,仍用最后力气毁灭三个超级强国

奇迹般的大唐:明明国内四分五裂,仍用最后力气毁灭三个超级强国

铭记历史呀
2026-03-12 16:13:01
邓凯妈妈颜值引争议,亲妈淡定回应笑翻全网

邓凯妈妈颜值引争议,亲妈淡定回应笑翻全网

错过美好
2026-03-18 03:50:19
《好好的时光》庄好好追回30万欠款,苏小曼才知,庄学习的真面目

《好好的时光》庄好好追回30万欠款,苏小曼才知,庄学习的真面目

阿纂看事
2026-03-17 10:26:18
台积电已无法向美国交代!张忠谋没说谎:如今台积电也无可奈何了

台积电已无法向美国交代!张忠谋没说谎:如今台积电也无可奈何了

壹知眠羊
2026-03-18 07:20:50
天啊!“巨无霸”蓝莓也爆雷,听听专家怎么说!真相让人松了口气

天啊!“巨无霸”蓝莓也爆雷,听听专家怎么说!真相让人松了口气

三农雷哥
2026-03-16 20:13:35
石正丽课题组公开招聘

石正丽课题组公开招聘

生物学霸
2026-03-15 17:15:28
5天扣留28艘,中方不抓人不扣货,只查船只,巴拿马有火发不出!

5天扣留28艘,中方不抓人不扣货,只查船只,巴拿马有火发不出!

小嵩
2026-03-18 03:14:51
伊朗“真实承诺-4”行动第61波攻势报复拉里贾尼遇害

伊朗“真实承诺-4”行动第61波攻势报复拉里贾尼遇害

澎湃新闻
2026-03-18 10:27:03
中东战火波及绍兴柯桥布料生意:除了直面风暴,别无选择

中东战火波及绍兴柯桥布料生意:除了直面风暴,别无选择

上观新闻
2026-03-18 09:14:17
韩国女足队长:上届决赛未能取胜,现在我们想弥补那次的遗憾

韩国女足队长:上届决赛未能取胜,现在我们想弥补那次的遗憾

懂球帝
2026-03-17 17:13:06
把丑鞋炒成顶流爆卖144亿!最牛福建豪门,正批量制造“中产收割机”

把丑鞋炒成顶流爆卖144亿!最牛福建豪门,正批量制造“中产收割机”

蓝鲸新闻
2026-03-16 18:46:14
书法对决!王洪文江青的字竟比颜真卿差那么多?

书法对决!王洪文江青的字竟比颜真卿差那么多?

书画相约
2026-03-17 08:44:28
3月17日俄乌最新:库尔斯克战役再次打响?

3月17日俄乌最新:库尔斯克战役再次打响?

西楼饮月
2026-03-17 20:23:21
马筱梅松口孩子或不姓汪,背后原因终于说清了

马筱梅松口孩子或不姓汪,背后原因终于说清了

橙星文娱
2026-03-18 11:12:10
美国务院已要求美所有驻外使馆“立即”开展安全评估

美国务院已要求美所有驻外使馆“立即”开展安全评估

新京报
2026-03-18 07:23:11
苗苗晒一家五口全家福!两女一儿巴厘岛度假,郑恺基因强大都像他

苗苗晒一家五口全家福!两女一儿巴厘岛度假,郑恺基因强大都像他

小娱乐悠悠
2026-03-18 09:26:07
2026-03-18 12:55:00
南方都市报 incentive-icons
南方都市报
换一种方式,南都在现场。
601621文章数 3587649关注度
往期回顾 全部

科技要闻

直连微信!腾讯QClaw宣布大规模放量

头条要闻

原副部级干部被公诉 曾靠8万本金13年后获利数千万元

头条要闻

原副部级干部被公诉 曾靠8万本金13年后获利数千万元

体育要闻

晋级2026世界杯,这届中国女篮啥水平?

娱乐要闻

郑恺苗苗晒全家福 首次公开三胎小女儿

财经要闻

“永不爆雷的宇宙大所”掌门人,自首了

汽车要闻

价格10万级 四驱中级电混轿车银河星耀7来了

态度原创

旅游
健康
亲子
教育
数码

旅游要闻

近50场精品活动等你来!苏州官宣发布“我在春季游园林”系列活动

转头就晕的耳石症,能开车上班吗?

亲子要闻

如何让孩子不受“铅”绊?

教育要闻

解放军组建三所新军校,是什么来头?报考难度有多大?

数码要闻

机械革命推出首款搭载智谱GLM-5-Turbo“龙虾”模型的迷你主机

无障碍浏览 进入关怀版