虚构好评？伪造解读？警惕AI推荐背后的消费陷阱

来源：中国质量万里行

当越来越多消费者习惯向AI咨询产品推荐、寻求消费建议，一场隐秘的“数据污染战争”已在AI训练源头悄然打响。近期，“AI投毒”乱象引发社会广泛关注，不法商家利用GEO（生成式引擎优化）技术，有组织地向人工智能训练数据中“投喂”虚假信息，系统性地污染AI模型的知识源头，进而操控AI推荐与回答，牟取不正当利益。消费者眼中的“用户好评”“专家解读”，很可能是彻头彻尾的骗局。

操控AI：虚假信息变身“标准答案”

不少消费者疑惑：为何AI给出的推荐看似客观全面，实际体验却大打折扣？这背后，是一条成熟的“AI投毒”黑产链条在作祟。

记者了解到，GEO技术与公众熟知的SEO（搜索引擎优化）有着本质区别：SEO旨在提升网站在搜索引擎中的排名；而GEO则瞄准生成式AI的“食粮”——用于训练大语言模型的海量互联网语料。

“其操作模式类似于在河流上游系统性投放污染物，下游所有取水点，包括那些以此河水为源的AI模型，其输出质量都将受到影响。”一位业内人士形象地解释。2026年央视“3·15”晚会曝光相关案例：不法分子借助“力擎GEO优化系统”，虚构一款名为“Apollo-9”的智能手环，杜撰“量子纠缠传感技术”等夸张卖点，批量生成宣传软文后自动发布。仅两小时后，某AI大模型就将这款虚构产品作为“标准答案”向用户推荐；即便晚会曝光后12小时，仍有部分AI未完成“消毒”，继续输出虚假参数。

天使投资人、资深人工智能专家郭涛解释，“AI投毒”主要分为数据投毒与模型投毒两大类型，通过污染数据或模型，让AI基于错误信息学习并输出错误结果，间接影响依赖AI的用户，其危害更具隐蔽性和扩散性。

黑产团伙的操作链条清晰高效，主要分三步：一是伪造内容，针对功效平平的保健品、质量欠佳的商品，利用AI工具批量杜撰“用户好评”“亲测体验”“专家解读”“科普文章”，甚至虚构产品卖点与行业排名；二是批量投放，通过技术手段将虚假内容大规模、分散植入开源知识库、问答社区、论坛博客、新闻聚合平台，刻意提升网络能见度，确保被AI数据采集器抓取；三是操控AI，AI模型被污染后，自动生成带有倾向性甚至完全错误的回答。用户得到的看似综合多方信息的客观结论，实则是精心设计的商业谎言。

“‘AI投毒’的内容生成速度远超人工，其风险和危害远高于传统的虚假宣传。”万悉科技创始人毛慧娜表示。更令人担忧的是，这种操作已从单纯产品推广，延伸到商业诋毁：不法分子通过向AI投喂虚假负面信息，恶意抹黑竞争对手，严重扰乱市场秩序。

AI欺诈：治理难度超传统虚假宣传

多位网络安全与人工智能专家表示，“AI投毒”危害性更深、治理难度更大。

中关村物联网产业联盟副秘书长袁帅指出，网上流传的“百元可操作、零基础上手”的“AI投毒”，仅是门槛较低的初级操作。GEO攻击的直接对象是机器，核心目的是“教坏”AI，再通过AI这一“放大器”和“复读机”，高效、持久地影响更多用户，是欺诈模式的维度升级。

“一条虚假信息可被平台删除、被官方辟谣，但一旦被AI模型‘内化’，就可能在模型生命周期内，在无数次交互中反复输出。清除这些‘烙’在模型参数中的错误知识，成本巨大，近乎需要重新训练模型。”袁帅解释。

天册律师事务所执业律师芦凌丰从法律层面分析，商家通过GEO投放虚假信息，使AI输出不实内容，导致消费者基于信任错误决策，法律定性与传统虚假宣传无本质区别，但欺骗性更强。极端情形下，恶意GEO可能触及《中华人民共和国刑法》：涉及药品、医疗器械、食品等特殊领域，损害人身健康、情节严重的，可能构成虚假广告罪；以非法占有为目的，虚构产品信息欺骗付款、数额较大的，可能构成诈骗罪。

从行业发展看，郭涛表示，长期以来若AI被低质量、虚假数据充斥，会出现认知能力下降、注意力衰退、推理链断裂等问题，导致优质数据与模型受到干扰，最终阻碍AI健康发展。但他也提到：“AI投毒不会长期有效”，短期内低质量内容虽能短暂“迷惑”AI，但易被用户识别反馈，帮助模型学习辨别优质信息。

多方发力：铲除恶意GEO生存土壤

毛慧娜认为，商家急功近利的不理性需求是乱象滋生的重要原因。部分商家缺乏科学认知，迫切想通过AI推荐抢占流量，给黑产可乘之机。此外，GEO服务游走在法律边缘、责任主体模糊、取证难、处罚轻、违法成本低，叠加部分平台放松信源审核，客观助长黑灰产蔓延。

如何铲除恶意GEO土壤、引导技术正向发展？业内专家建议：

从行业层面，应引导GEO回归正向应用，制定行业标准、明确技术合规要求；建立权威数据审核与监管机构，严格审核AI训练数据与模型；加强技术研发，提升AI自身抗投毒能力。

从法律与监管层面，需构建法律规制、技术防御、平台履责、公众参与的多元共治格局。完善法律供给、明确责任边界、提高违法成本；AI平台建立数据溯源机制、引入可信信源“白名单”，提升批量虚假内容识别能力。

从用户层面，提升公众素养，树立“AI非权威”认知，建议消费者多渠道交叉验证，避免被虚假推荐误导。

业内人士呼吁，AI本应服务公众、造福社会，而非不法商家牟利工具。唯有多方协同、斩断黑产链条、净化训练数据环境，才能让AI成为消费者可信赖的助手，推动人工智能产业健康有序发展。