警惕大模型被“投毒”，AI要走出垃圾信息的迷障丨封面评论

□蒋璟璟

今年央视“3·15”晚会曝光的AI“投毒”黑产，揭开了这隐秘行业的冰山一角。据晚会曝光，在多个网络平台可以搜索到名为GEO的业务，有服务商号称，用户只需支付相应的费用，就能在各大主流AI大模型里，让客户的产品榜上有名；让客户的商品广告，成为AI模型给出的“标准答案”。业内人士在AI大模型平台展开询问：“智能健康手环推荐”，就有两个AI大模型推荐了这款虚构的智能手环，而且排名靠前。（央视）

GEO也即“生成引擎优化”，被广泛视作AI未来大规模商业变现的突破口。从当下来看，大模型厂商对于自有GEO的开展，还是属于有限试水的阶段，比较谨慎。与之相较，市场上的各种第三方的广告公司、代理公司，在这一赛道上则远远走在了前面。从媒体调查的情况看，这类公司大量涌现，承揽各种发稿业务，以便让AI大模型引用和抓取，成为围猎AI大模型、进行数据“投毒”的重要一环。AI的“智能”，在这套并不复杂的小把戏面前，简直不堪一击。

对于GEO的表述，此前主流话语的措辞还是“干预”“引导”等等，属于比较中立、克制的态度。而近来，媒体和公众对之的描述，则直接用上了“投毒”一词，完全是负面、否定的态度。这其实直接表明，大众对于此类现象的本质，有了更为透彻的理解，于是乎也就难免心生厌恶、有所警惕了。其实，从AI底层逻辑的角度审视，其语料、数据以及生成结果被“定向影响”，几乎就是不可避免的事情。这里面，既有对信源分级、分类不到位的原因，更是信息“大环境”被污染的结果。

市面上的很多大模型，对于信源的可信度分级与引述的权重配置，并没有精细化的区分。对于专业媒体、自媒体的东西都无差别的照单全收，对于网络平台上的各类账户内容不加甄别地拿来“提炼”——在更多信源中出现频次更高的信息，就会更容易被大模型所采信。这与我们人类的思维，是完全不同的——人类的习惯是，找到那个相对最可靠的信源，听取其结论。常识是，一个智者远胜一百个庸才。而自诩智能的AI，很多时候对于各类信源，都是眉毛胡子一把抓的。如此，简直是等着被“投毒”。

越是新产品、新概念、新型号，就越是缺少专业内容生产者过往形成的经得起检验的“经验观察”和“经典知识”沉淀，就越是容易陷入营销账号以“量产内容”和“账号矩阵”所构筑的垃圾信息的迷障。若是走不出这种迷障，AI只会陷入“越来越笨”泥潭。