冲上热搜的AI投毒，究竟投了啥“毒”？

本文转自：人民网-科普中国

AI真是太香了！大事小情问问AI，我们总能得到的“贴心周到”的答复，正因为AI用得如此“得心应手”，所以才让不法分子有机可乘。今年“3·15”晚会曝光了AI最新骗局——GEO（生成式引擎优化）“投毒”黑产。作为AI投毒事件的“主犯” SEO和GEO，它们被冤枉了吗？

SEO和GEO到底是什么？

SEO：搜索引擎优化

SEO 的全称是搜索引擎优化（Search Engine Optimization），这是一项传统互联网优化技术，不是搜索引擎，更没有 AI 的智能决策或生成能力。我们对 SEO 并不陌生：它能让某条信息在被搜索时排位更靠前、被优先看到。也就是说，SEO 能让信息获得更高的曝光机会，吸引用户注意力，从而获得更多点击。

简单说，SEO是针对用户主动搜索的引流方式。工具本身没有恶意，谁在使用、用于什么内容，才是是否作恶的关键。

GEO：生成式引擎优化

同样是 “引擎优化”，SEO主要用于传统搜索引擎，GEO （Generative Engine Optimization）面向生成式 AI应用场景。GEO 不是 AI 工具，不是软件，也不是模型，而是一套针对 AI 系统的内容优化策略与技术手法。实际上，GEO的本意是让真实、权威的信息更容易被 AI检索、引用，并不是专门用来“污染”模型的，而是旨在提升内容在生成式答案中的可见性与引用率。

由此，我们见证了互联网的信息获取方式，经历了一次彻底的代际更替：从人找信息，变成了 AI 给答案。

SEO 和 GEO就是这两个时代对应的信息优化规则。

SEO和GEO的“本意”为何会“黑化”？

GEO 的本意都是 “优化”，但是被不法分子利用后，就变成了“黑帽”行为。 “黑帽”泛指通过违规、作弊、钻系统漏洞等不正当手段，操纵平台、搜索引擎或 AI 系统结果的行为与技术手法。黑帽GEO才是真正的“主犯”。

1、黑帽SEO是在污染互联网的 “信息水源”：

攻击目标：搜索引擎的索引库

核心逻辑：利用搜索引擎爬虫抓取规则与排名算法漏洞，通过伪造流量与内容质量信号，让虚假/低质内容强行排到搜索结果前列。

主要手段：关键词堆砌、垃圾外链、采集伪原创、隐藏文字、站群流量劫持等。

影响时效：相对较短，搜索引擎算法更新后，违规内容的排名容易被清除；且污染范围是“全互联网表层公开信息”，属于无差别污染。

对 AI 的影响：间接影响。AI 在联网检索时，会抓取互联网表层公开信息；若黑帽SEO将大量垃圾、虚假内容推到搜索显眼位置，AI 可能误将这些虚假信息当作真实内容引用。

与黑帽SEO的间接影响不同，黑帽 GEO 是直接操控 AI 的信息输入。

2、黑帽GEO是在污染AI可直接检索的“信息水源”

攻击目标：AI 可访问的公开网络信息源（论坛、博客、自媒体等）

核心逻辑：利用AI对公开网络信息的检索与引用机制，通过伪造信源密度与权威性，让批量制造的虚假内容被AI当作"参考资料"整合进答案，实现对AI输出内容的定向操控。

主要手段：批量伪造内容、刷评造假、语义劫持（即通过大量重复特定话术，强行关联产品与正面评价）、伪造权威背书。

影响时效：相对较长，一旦错误信息被AI系统索引并频繁引用，影响会更持久；且污染范围是“AI可检索的公开网络信息”，属于精准定向污染。不法分子可针对特定产品、人物或事件定制虚假信息，实现“指哪儿打哪儿”的操控效果。

对 AI 的影响：直接、定向操控。不法分子通过黑帽GEO策略，批量伪造内容并发布在AI常检索的渠道，让AI在回答时直接抓取、转述这些预设好的虚假信息。

当你觉得 AI “很懂你”，推荐的产品 “正中下怀” 时，那可能正是黑帽GEO为你量身定制的信息的诱饵。

如何避开“黑帽陷阱”

大多数人习惯认为 AI 工具是客观、中立的，就像相信计算器不会算错、地图不会乱指路一样，但 AI 与传统工具有本质区别：它具备智能性，能生成流畅、有条理的内容，这让很多人误以为它拥有和人类一样的思考、理解与真伪判断能力。

但事实上是——

AI 并不真正“理解”信息；

它没有主观判断，不知道真假、对错、好坏；

它做的不是人类意义上的'理解+总结'，而是基于概率的模式匹配与语言生成；它不具备主观判断能力，无法像人类一样核实真伪，只能依据训练数据与检索内容中的统计相关性组织答案；

我们看到的“信息整合”，只是它模仿人类写作结构产生的假象；

当错误信息在网络上被大规模重复、包装成看似可信的来源时，确实会增加 AI 将其纳入回答的风险。

因此，我们对 AI 输出的内容要保持合理怀疑，而不是百分之百信任，因为这种信任会给不法分子制造可乘之机。面对信息误导，大家也无需恐慌，只要多加留意，完全有能力辨别 AI 制造的虚假信息。

查来源，更要查来源是否权威 涉及花钱、看病、理财等重要决策，务必要核查信息来源。

优先认准政府/教育机构专属域名：如 .gov.cn（中国政府）、.edu.cn（中国高校）。这些后缀需机构资质审核，伪造难度极高。

警惕开放域名的伪装：.com、.cn、.org 等后缀申请门槛较低，无严格资质审核，付费即可注册。不能只看后缀，还要看备案信息、主办单位资质。

警惕域名怪异、只推单一产品、成立时间极短的“马甲”信源或“幽灵”站点；

若 AI 无法提供明确来源或来源链接失效、不可查证 → 直接不采信。

多验证，不把 AI 当作唯一答案 健康、消费、法律、理财等领域，绝对不能只听 AI。

买产品：去正规电商平台查资质、看真实评价；

查政策：去政府官网、权威媒体交叉验证；

多个 AI 的回答无论一致还是不一致，都不能单独作为真假判断依据；关键仍是回到原始来源核查。

辨夸张，警惕过度完美的描述 如果 AI 频繁出现：“独家”“唯一”“最优质”“必买”“包治百病”，且始终围绕某一款产品、某一家机构，一定要高度警惕。真实世界里，几乎没有“完美到没有差评”的产品。

看一致，重点警惕异常的一致性 很多人以为：“AI 每次回答都一样，肯定更靠谱。”这是典型误区。异常、机械、高度统一，才是危险信号。

正常AI回答会因模型随机性产生表述差异，但核心事实应一致。如果多次回答引用的来源完全相同（如同一未知博客、同一论坛帖子），且该来源非权威渠道，极可能是 GEO 黑产批量投毒的结果。真实信息是多元的，只有被操纵的数据才会整齐划一。

如果答案差异较大，说明该信息可能尚未被黑产统一操控，或者该领域本身存在争议。无论哪种情况，都更需结合权威渠道进一步核实，切勿轻信单一结论。

警惕 AI 的实时检索功能 当 AI 开启联网搜索（Web Search）或接入特定知识库（RAG）时，黑帽 GEO 的污染风险最高。如果AI 回答中频繁引用近期发布的论坛帖子、自媒体文章、用户评测等非权威内容，需要高度警惕。

AI 是工具，不是权威；是助手，不是答案本身。黑帽GEO、黑帽SEO 本质是利用了我们对技术的盲目信任与认知惰性。只要我们坚持理性对待、多方验证、核查来源，就能在享受 AI 便利的同时，避开信息误导的坑。

作者：小青 科普中国签约作者

审核： 兰名荥 北京邮电大学数字媒体与设计艺术学院副教授

策划：阎冬