AI“中毒”“解药”何在

来源：滚动播报

（来源：中工网）

你向AI大模型提的问题，可能早就被预设了答案。

一款虚构出来的智能手环，在GEO（生成式引擎优化）服务商一番操作下，获得多个AI大模型的推荐，而且排名靠前；随意编造的医美机构、保健品，竟然被大模型当成真实优质机构和产品向用户首位推荐，只花了一天时间和几百元成本……“3·15”之际，央视等多家媒体曝光了AI“投毒”产业链：GEO服务商依靠自动化工具批量炮制虚假软文、虚构产品信息、伪造权威榜单，只需数小时，就能让捏造的商品登上主流AI大模型的推荐前列。

流量入口在哪里，营销就跟到哪里，难以避免。传统的SEO（搜索引擎优化）是在“向客户做营销”，如今的GEO是在“向AI做营销”，二者在做同一件事，就是提高特定内容可见性。若特定内容为权威知识等高质量信息，“白帽SEO”“白帽GEO”确实能“优化”搜索结果；而若特定内容为虚假信息甚至有害信息，“黑帽SEO”“黑帽GEO”则会引发报道中提到的误导消费者决策等问题。

相较于“黑帽SEO”，“黑帽GEO”的迷惑性更强，不仅因许多人对新技术认识不足、心理防线尚未建立，还因AI大模型往往给人以智能、中立的印象，给出的回答更容易获得用户信任。当AI被“黑帽GEO”操纵进行虚假宣传，不仅涉嫌违反广告法、侵犯消费者知情权，还会带来出现新的“魏则西事件”的风险。从业者还透露，行业内普遍以“投毒”思路围猎AI，让付费品牌占据推荐位，甚至抹黑其竞争对手。这已然涉及不正当竞争，须警惕“谁不付费抢占‘答案霸权’谁就吃亏”造成的劣币驱逐良币后果。

有人说，媒体的曝光加上AI Agent的火爆，“黑帽GEO”会加速消失，“向AI Agent做营销”的新技术很快会到来。这一天会不会到来、何时到来还有待观察，但可以确定的是，即使“黑帽GEO”退场了，其留下的大量“有毒”语料破坏性也不可逆——语料污染具有“记忆残留”和“递归污染”特性，虚假信息一旦进入模型语料库，即便原始信源被删除，仍会持续污染后续的模型输出，且错误信息会逐代累积，若不及时治理，将对生成式AI的知识体系造成不可逆的破坏。

故而，“黑帽GEO”不仅是一种营销乱象，更敲响了一记警钟，提醒着AI信息生态治理的重要性。已有研究显示，在数据质量不高、可靠性缺失的情况下，一味追求大模型参数量的增加，不仅无法提升模型性能，反而会放大偏差和谬误，产生更多不可信数据。提升大模型性能也好，避免AI“食用”垃圾信息后日益变“笨”、导致“模型崩溃”也罢，模型方都需增强AI大模型反“黑帽GEO”的能力，持续提升“毒数据”识别、过滤和溯源能力，筑牢技术防线。平台方、监管方也需做足与相关灰黑产进行持续动态博弈的准备。

聚集在AI搜索等流量入口的“信息围猎”，归根结底是试图对人的相关决策施加影响。不管具体技术手段如何变，身处各种信息包围下的用户别将信任的钥匙轻易交出，做好自己的“把关人”，也是“防毒”良方。（维辰）