每月2万，就能让AI为你说谎？起底GEO黑产的疯狂盛宴

随着AI技术的快速发展，一场隐秘的战争已经打响。

前几天，一位朋友吐槽，家里的亲戚又被伤到了。

原来，他的亲戚群里收到一条消息。

“帮我查一下，七月起老年人坐火车是不是真的能打折？”

这是他大姨转发的消息，在群里问。

他一看，就感觉这风格似曾相识。

信息简短，好处明确，还带着点“赶紧转发”的潜台词。

一查，果然是。

上海辟谣平台证实，这又是由AI生成，被自媒体散布的虚假信息。

目的直接，“博眼球、拉流量、变现谋利”。

不知道你发现没有，这样的内容正越来越多。

人们享受着AI带来的便利，却在不知不觉中，跌入它编织的陷阱。

更让人脊背发凉的是，这不是AI学艺不精。

而是它大脑的成长环境，被一双双看不见的手，有目的地“投毒”了。

AI是怎么被下毒的？

那AI到底是怎么比下毒的呢？

打个比方，你正在教一个天赋凛然的孩子读书。

他学得飞快，过目不忘。

但他每天读的书中，被人恶意塞进错误的地图、篡改的资料、甚至带有严重偏见的故事，结果会怎样？

AI就是这样的孩子。

它的认知，完全构建在投喂给它的数据上。

中国科学院计算技术研究所的工程师刘延嘉，做了一个精妙的比喻。

训练数据对于AI，就像教科书对于学生。

如果教科书本身就有问题，你能指望学生给出正确答案吗？

目前，“AI投毒”主要有两大狠招。

第一招：数据投毒，污染它的“教科书”。

这是在AI学习的源头，海量语料库里动手脚。

故意投放大量虚假信息、欺诈话术、伪造的学术报告，或是带有偏见的内容。

这就好比在学生的食堂饭菜里下毒，从根源上破坏他的健康。

第二招：模型投毒，篡改它的“基因”。

这种方式更隐蔽、更致命。

它不再折腾原材料，而是直接攻破“厨房”，修改AI模型的权重文件。

相当于这个孩子已经学成，但有人直接打开他的大脑，篡改了他的记忆和认知逻辑。

蚂蚁集团的安全专家毛宏亮解释道，“不论是原材料不新鲜，还是加工工艺出现了偏差，最终生产出来的食物就会有问题。”

而这些问题，远不止一本正经地胡说八道那么简单。

中毒的AI，风险超乎想象

如果AI只是在闲聊时犯个傻，讲个冷笑话，我们或许还能一笑了之。

但当它成为人们的知识来源，任何认知偏差，都可能引发灾难性的连锁反应。

在医疗领域，一个被篡改了算法的AI诊断系统，很可能将良性肿瘤误判为恶性。

或者，忽略掉一个关键的心脏病早期征兆。

这带来的，可能是无法挽回的生命代价。

在金融领域，被“投毒”的算法模型，会错误评估风险。

你的投资，可能被引入精心编织的骗局。

甚至引发一场莫名其妙的自动交易。

在自动驾驶领域，这是最让人不敢想象的。

恶意数据或模型被篡改，可能让智能汽车在关键时刻“失明”。

无法识别突然出现的行人或障碍物……

这些场景已经在发生，或者在发生的路上，这正是安全专家们想避免的现实。

即使是0.001%的内容污染，也会导致有害内容输出上升7.2%。

这可不是危言耸听。

AI的智商越高，它的学坏能力就越强，造成的破坏也就越大。

这有点“好事不出门，坏事传千里”的味道。

GEO黑产的疯狂盛宴

这些，恰好给了别有用心的人不可多得的机会。

甚至是一场唯利是图的疯狂盛宴。

它有一个听起来很专业的名字，GEO（生成式引擎优化）。

但它的本质，就是如何欺骗AI，让你的广告成为它口中的“标准答案”。

记者调查，揭开了这个灰色产业的面纱。

有服务商明码标价。

标准版套餐，每月2万元，或三个月5万元。

比如，围绕一个核心词“高考复读”，包你在AI回答里“前三占位”。

特定行业套餐，5万元起步。

针对医美、金融、医疗等利润丰厚的行业，甚至能直接在AI答案里附加购买链接。

这又是怎么做到的呢？

第一步，定制“狗粮”。

他们会帮你创作大量看似中立、知识分享式的短文，规避广告文。

第二步，精准“投喂”。

把这些内容，发布到AI日常抓取的高权重网站和论坛。

就像把一本精心编写的手册，放在图书馆最显眼的位置。

于是，当你问AI“哪家医美机构靠谱？”，

那家花了钱的机构，就会以客观建议的形式，出现在答案里。

没有广告标签，只有可信的背书。

为了效果，一些人的手段更加激进，从优化转向投毒。

比如伪造权威，凭空捏造一个“瑞士某实验室王博士”，盛赞某款化妆品。

冒充学术专家，伪装成知名学术机构，发布带货的“研究报告”。

提示词注入，在网页代码里用隐藏的指令劫持AI。

调查显示，AI答案形式的可信度，比传统广告高出72%。

当你向AI寻求建议时，可能是一条别人花钱为你设的消费陷阱。

如何避免被AI投毒?

面对无孔不入的AI风险，一场防御战悄悄开始。

技术上，工程师们通过安全对齐，给AI输出加上“事实核查”的紧箍咒。

让AI生成内容打上“电子水印”等技术，努力打造数字防火墙。

法律层面，律师明确指出，伪造用户体验或权威认证进行GEO，已涉嫌构成虚假宣传，违反了《互联网广告管理办法》。

专家们也紧急呼吁，加快立法，明确“故意污染AI数据”属于违法行为。

但最重要的辨识和防线，是人们自己提高警惕。

浙江杭州网警给出了非常朴实的建议。

使用正规平台和企业提供的AI工具。

至少，大厂们的“防火墙”更厚实一些。

AI的结果仅供参考，绝不能盲信。

尤其是涉及健康、金钱等重要决策时，务必找专业人士核实。

不要向AI泄露不必要的个人信息，更不要主动“投喂”不良信息。

AI的安全边界，最终取决于数据的质量底线。

而我们的数字生活能否安宁，最终取决于我们的免疫力。

在信息混沌的时代，我们必须学会一件事：

对任何信息，哪怕它顶着一张最智能、最客观的脸，也请多保留一分好奇和质疑。

下次向AI提问时，你不妨在心里多问一句：“这个答案，真的吗？”

或许，就是这多出来的一问，能在关键时刻，护你周全。

素材来源

1.《海报新闻》：AI数据被“投毒”？记者调查：2万元包月，能让广告成为“标准答案”

2.《光明网》：你每天用的AI，可能被“投毒”了！

3.《中国科普网》：啥？AI也可能被“投毒”

4.《央广网》：警惕人工智能“数据投毒”

5.《央广网》：0.01%虚假训练文本可致有害内容增加11.2% 警惕人工智能“数据投毒”

本文作者 | 柠檬雪
责任编辑 | 淡淡翠
策划 | 淡淡翠