![]()
今年315期间,央视曝光的一项新型互联网乱象,引发了行业的高度关注——AI大模型正在被“投毒”,甚至已经形成一条完整的灰色产业链。
在曝光中,记者调查发现,一些所谓的“GEO优化服务商”,通过批量生产推广软文、伪造产品评价和排名信息,持续向大模型“投喂”内容,从而操控AI的搜索与推荐结果。用户在使用AI搜索产品或服务时,看到的“推荐答案”,很可能并非真实信息,而是被人为干预后的结果。
这类现象,正是威胁猎人持续关注的一种新型攻击方式——GEO投毒。与以往不同,它不再通过干扰用户点击路径实现转化,而是直接影响AI的输出结果。
一、AI 大模型时代的新型品牌风险:
仿冒客服电话的 GEO 投毒
威胁猎人在《2025年互联网黑灰产趋势年度总结》中已明确指出,黑灰产正围绕生成式AI的引用机制进行定向“投毒”,并呈持续演化趋势。
与以往仿冒网站或短信钓鱼不同,这类攻击并不直接面向用户,而是面向AI本身。黑产通过在高权重内容平台批量投放看似正常的资讯内容,并在关键位置植入虚假客服电话等信息,使这些内容被大模型抓取并进入引用链路。一旦进入模型语料,这些信息就不再以“单条内容”的形式存在,而会被整合为答案的一部分。
这带来的风险在于,用户在AI中查询“客服电话”“官方联系方式”等高频问题时,接触到的已不是原始信息,而是经过模型归纳后的“结论”。而一旦结论被污染,用户几乎不会再进行二次核验,而是直接基于结果采取行动,从而步入黑产预设的诈骗链路。
和传统钓鱼仿冒攻击的本质区别在于:
传统攻击影响的是“用户点到哪里”,而 GEO 投毒影响的是“AI 直接告诉用户什么”。
![]()
二、 针对消费决策的“认知攻势”
在315的曝光以及威胁猎人持续监测中,我们发现,GEO污染正在发生进一步扩展到更广泛的消费决策场景。
在大量关于消费场景的相关问题中,黑灰产不再局限于植入虚假联系方式,而是开始利用“负面内容”进行系统性投毒,通过影响AI的总结逻辑,直接改变用户对品牌的认知。尤其是在电子产品等高决策密度领域,这一趋势表现得更加明显。
在用户常见的提问场景中,如“哪个手机更值得买”“同价位怎么选”“哪款更适合入门”等问题下,部分回答会呈现出一定的倾向性:在对比过程中,通过强调某品牌“溢价较高”“配置不占优势”等表述弱化其吸引力,同时突出竞品在参数、价格或性价比等方面的优势,使整体回答在结构上更容易导向特定选择。
其背后的关键,并不在于单一内容的真假,而在于内容的表达方式更容易进入模型的生成链路。相关内容背后往往围绕“总结结论”“对比逻辑”“推荐路径”等结构进行组织,这类表达更符合大模型在生成答案时的引用偏好,从而更容易被复用并影响最终输出。
![]()
与传统负面舆情不同,这类内容往往具有更强的“伪客观性”。它们不直接攻击,不明显造假,也不具备强烈情绪,而是以“经验总结”“测评结论”“理性建议”等形式出现。正因为如此,这些内容更容易被大模型识别为“可引用信息”,并在生成过程中被整合、放大,最终形成一句看似中立、但实际上带有明显倾向的结论。
对于用户而言,接触到的已经不是单一信息,而是AI完成筛选与归纳后的结果。这意味着,GEO污染不再只是影响信息曝光,而是在直接参与用户决策过程。从影响信息到影响。
三、 案例:从“参数对比”到“推荐偏移”,AI正在被“利用重构选购逻辑”
以某头部电子品牌为例,在用户提问“哪个品牌更值得买?”“什么耳机需要避雷?”“有没有推荐的型号”等典型选购场景中,在对多个生成式平台进行横向对比后发现,针对同类选购问题,其回答在内容结构与评价维度上逐渐趋同,表现为相似的对比逻辑与一致的表达框架。
![]()
进一步对内容源侧进行分析可以发现,上游评测、榜单与种草内容中,存在类似的结构化表达(推荐+避雷+测评等),存在大量围绕产品评测、参数对比、购买建议的文章,这些内容整体看似客观,但在关键描述中存在明显引导;
例如强调某品牌“溢价较高”、“配置不占优势”、“不适合预算有限用户”,同时突出竞品“参数更高”“价格更低”“更具性价比”等特点。
这类内容通过被搜索引擎与大模型引用,逐步进入AI生成结果链路,并放大其对用户决策的影响。
![]()
由于生成式模型在回答“推荐”“对比”类问题时,倾向引用结构清晰、结论明确的内容,这类带有倾向性的表达更容易进入引用链路,并在多轮问答中被反复调用,最终被整合为统一的推荐逻辑。
威胁猎人运营人员通过对主流大模型的自动化测绘,拆解了当前GEO环境下针对品牌认知的典型特征:
大规模自动化:文章通常通过自动化批量生成,采用高度模板化的内容结构(如推荐榜单、对比评测、购买指南等),段落划分清晰、总结明确,广泛使用列表、分点和结论句,确保内容易被大模型抽取与复用,从而更容易进入引用链路。
文章特征结构化:在内容方面,此类文章存在选择性强化多维度优势,包括性能参数、价格、品牌口碑、用户评价、使用场景等。通过看似中立的数据、测评和对比,实际文章整体输出的为倾向性结论。甚至在在“避雷”“不推荐”等问题中,正文90%篇幅用于详细夸大主推产品优势,其余内容仅简要提及同类产品作为陪跑,隐晦贬低同类品牌产品。
值得注意的是,这类影响并不依赖单一内容,而是通过多来源、多轮引用逐步形成“共识表达”。
当类似表述在不同平台反复出现时,大模型在整合答案时,会进一步强化这种倾向,使其看起来更像是基于大量测评与市场反馈得出的客观结论,导致大模型输出精心构造的“指定答案”。
四、 行业思考:从内容治理走向结果治理
GEO污染的风险在于,它不再只是影响用户点击,而是直接作用于答案本身,进而影响用户信任。
传统依赖“删假站、封域名”的治理方式,已经难以应对AI时代的变化。企业需要将品牌保护能力,从链接层延伸至AI引用层和答案层。
针对这一趋势,威胁猎人构建了“发现—分析—处置—复测”的GEO治理全流程闭环:
1、全网情报测绘:基于覆盖新闻、论坛、社交平台及问答社区等渠道的情报监测体系,能够持续捕获主流大模型及关键网站的数据源变化,结合知识图谱分析,实现对潜在“投毒源”的前置识别。
2、自动化量化分析:通过自动化大模型分析平台,模拟真实用户提问,定位污染信息进入AI引用链路的关键路径,并结合人工校验完成风险分级与溯源分析,形成可量化的风险评估结果。
3、源头治理(清理污染源): 针对已确认的污染内容,开展定向处置,包括平台投诉、内容下架及源头阻断。
4、AI认知修正(修正与复测):向相关AI平台提交污染线索与证据,推动异常引用修正,并通过“发现—分析—处置—复测”的闭环机制持续验证效果,降低长期输出偏差风险。
![]()
如您的企业也有类似问题
请咨询威胁猎人安全专家
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.