细思惊恐！AI投毒已成产业链

一句“全网的人投毒的太多了”，让人细思极恐！

今年，央视315晚会把镜头对准了一个我们每天都在“仰仗”的新物种：AI大模型。

节目里有个细节让我脊背发凉。记者虚构了一款名为“Apollo9”的智能手环，给它编造了“量子纠缠传感”、“黑洞级续航”这种离谱到家的虚假宣传。然后，只做了一件事：在一些不知名的自媒体平台上，用所谓的“GEO优化系统”批量发布了十几篇软文。

结果呢？仅仅几个小时后，当你再去问主流AI大模型“智能健康手环推荐”时，这款根本不存在的“Apollo9”，居然赫然在列，甚至排进了前三 。

这已经不是AI“一本正经地胡说八道”的幻觉问题了。这是一场有组织、有预谋的认知投毒。

01

你的AI助手，早已被“招安”

先来复盘一下这场“围猎”。

今年315曝光的核心，是一个叫做 “GEO” 的业务。如果你对互联网营销熟悉，会立刻联想到它的前辈——SEO（搜索引擎优化）。没错，GEO的全称是生成引擎优化，这帮灰产从业者，把过去针对百度的那套“发稿-刷排名”的玩法，完整地移植到了AI身上。

但两者的逻辑有着本质区别。

过去做SEO，是让“信息”排在搜索结果前面，你看到了，点不点取决于标题够不够“震惊”。但现在做GEO，是直接给AI“喂饭”。

据央视调查，像“力擎GEO优化系统”这样的软件，可以自动生成大量角度各异的软文——今天发一篇“专家测评”，明天发一篇“用户开箱”，后天再来个“行业排行榜” 。这些虚假信息被发布在网络的角落后，AI大模型的爬虫在抓取数据时，会把这些内容当作真实世界的“常识”进行交叉验证。

这就是最讽刺的地方：AI自以为是的“多方验证”，在攻击者眼里，不过是多看了几篇同一个枪手写的稿子罢了。

当信息源被污染，AI模型就会像被洗脑一样，坚信这款虚假产品就是最好的。那位GEO公司的李总说得很直白：“一年可能上亿的广告费，花个几百万投点毒，总行吧！” 。

这种行为，业内称之为“AI投毒”，或者更形象地叫 “数据投喂攻击” 。

02

深度剖析

看到这里，你可能会觉得，这不就是换了个地方打广告吗？最多是让我们买点垃圾产品，能有多大的危害？

如果你这么想，就太小看这件事了。

我们要意识到一个残酷的现实：AI正在接管我们的“认知过滤器”。现在的年轻人，甚至包括你我，在做决策时，路径已经发生了位移。

以前买东西，我们去小H书搜笔记；查资料，我们去知乎找高赞；做攻略，我们去携程看评分。而现在，这个动作正在被一个对话框取代：“帮我推荐一款3000元性价比最高的国产手机”。

Gartner在2025年底发布的一项预测指出，到2027年，超过50%的消费者将在购物决策时首选生成式AI作为信息顾问。这意味着，谁操控了AI的嘴，谁就操控了市场的流向。

第一层：对消费决策的智商收割。

就像晚会里演示的，当AI被投喂了虚假的“Apollo9”手环信息后，它会在毫不知情的情况下，向每一个询问的用户推荐这款垃圾产品。

这种误导是毁灭性的。它不再像传统广告那样，你看一眼就划过；AI的回复自带一种基于“大数据分析”的权威感，让人更容易放下戒备 。

花了冤枉钱是小事，如果是医疗健康、金融理财这类关键领域呢？一个被投毒的AI推荐了一款虚假的降糖药，或者一个资金盘理财APP，后果不堪设想。

第二层：企业竞争的“劣币驱逐良币”。

晚会中那个GEO服务商的逻辑非常可怕：如果一个手机品牌要花上亿的广告费才能抢占消费者心智，那我花几百万给你的竞争对手投点“毒”，让你的品牌在AI的回复里总是排在后面，甚至被抹黑，这笔买卖太划算了 。

我们来看一组来自Zscaler的数据，这其实暴露了问题的另一面：

这张表格清晰地揭示了一个真相：当企业还在为要不要接入AI焦虑时，黑产已经在利用AI的“信任机制”疯狂套利。那些老老实实做研发、做产品的企业，可能连被用户看到的机会，都被投毒者给掐断了。

03

起底黑色产业链

这条产业链的形成，远比我们想象的要成熟。

它已经分化出了清晰的上下游：

上游是工具开发商，比如被点名的“力思文化”。他们开发像“力擎GEO优化系统”这样的软件，本质上就是一台虚假内容生产机。只要输入关键词，它能自动生成测评、问答、资讯，规避查重，甚至自动登录各个自媒体平台进行发布 。

中游是发稿网络。就像晚会里提到的，这波GEO的火爆甚至“养活”了一批原本半死不活的自媒体网站。这些网站每分钟都在发稿，一篇几十元，内容全是甲方定制的广告软文，但在AI眼里，它们都是“高价值信息源” 。

下游则是需求方。他们不再是过去那种发垃圾邮件的小商贩，而是不少正规的知名品牌。他们苦于在有限的AI推荐位里（比如李总说的，手机品牌最多10个位置）厮杀，于是选择雇佣这些GEO公司，去给竞争对手“投毒”，或者给自己“注水”。

最令人细思极恐的是，这条产业链的技术门槛正在急剧降低。以前需要懂代码、懂算法才能实施的攻击，现在变成了“傻瓜式操作”。服务商甚至开发出了自动化工具，客户只需输入品牌名和想要达到的效果，系统就能自动完成从写稿到发布的全流程。

据行业内部流出的数据显示，2025年至2026年初，针对AI模型的恶意投毒攻击案例激增了58%。

而在某些热门消费领域，AI推荐结果中被人为操控的比例甚至可能高达30%。这意味着，你每问三次，就有一次可能掉进陷阱。

这是一个极其危险的信号。

它意味着商业竞争的战火，已经从明面上的广告战、价格战，烧到了暗地里的认知战。

他们争夺的不是流量，而是AI对这个世界的“定义权”。

04

普通人的生存法则

面对这种“AI投毒”，我们真的束手无策吗？作为普通人，或者说作为这个时代的数字居民，笔者认为，我们必须建立起新的“卫生习惯”。

1.保持AI的“批判性思维”。

把AI当成一个知识渊博但极爱道听途说的实习生。当它给你推荐具体产品，尤其是带有“排名第一”、“最佳”、“强烈推荐”等绝对化词汇时，多留个心眼。不要问“哪个最好”，要问“有哪些选择”。然后，再去传统的、可信的垂直网站交叉验证一下。

2.关注“信息源”而非“信息本身”。

现在很多AI应用开始标注回复内容的信源。花一秒钟看一眼，它是引用了权威医学期刊，还是引用了某个你从未听说过的小博客？如果信源全是些野鸡网站，那这答案大概率是被投毒了。

微软安全团队也建议，定期清理AI助手的记忆，删除那些你不小心授权过的可疑插件或可疑的对话记录 。

3.警惕“一键授权”的陷阱。

随着OpenClaw这类智能体的爆发，未来我们会让AI去执行任务，比如“帮我订酒店”。360安全团队已经指出，现在出现了大量恶意“技能投毒”和“提示词注入” 。

你安装一个帮你比价的AI技能，它可能背地里把你的支付密码套走。所以，给AI授权时，像给你的手机装APP一样，别什么都给“允许”。

04

不把世界的真相，都交给算法

晚会曝光后，相关GEO软件被下架，涉事公司被调查。但我们都清楚，这只是一场猫鼠游戏的开始。

只要AI还是我们看世界的窗口，就永远有人想把这扇窗户弄脏。

我们正在目睹一场可怕的异化。互联网的初衷是让信息自由流通，打破信息差。后来搜索引擎来了，它试图给信息排序，于是诞生了SEO，我们看到的永远是花钱买排名的那几个。

现在AI来了，它本应是我们对抗信息过载的救生员，结果却发现，救生员早被收买，拼命把溺水的人往旋涡里推。

世界经济论坛在《2026全球网络安全展望》中提到，高达94%的受访者认为AI将是改变网络安全格局的关键 。但这个“改变”，现在看来并不全是美好的。

当AI开始说谎，这不仅仅是技术漏洞，更是人性的贪婪在数字时代的又一次投影。我们不能把对这个世界的真相判断，完全拱手让给一场算法与黑产的掰手腕。

请记住那个“Apollo9”手环。它不存在，但它此刻正存在于某个AI模型的数据库里，等待着误导下一个信任它的人。

而我们能做的，就是在点击“接受”之前，永远保持那一丝属于人类的、审慎的怀疑。

在这个被算法包裹的世界里，你的独立思考和判断力，才是最后的防线。

对此，您怎么看？

期待您在留言区文明理性发布高见，留言点赞最高的朋友，扫码文末投行君微信，可以获得投行圈子精美商务背包一个。

‍感谢耐心阅读，欢迎顺手点个“在看”

我正在「投行圈子」和朋友们讨论有趣的话题，你⼀起来吧？点击阅读原文，加入投行圈子知识星球。‍