网易首页 > 网易号 > 正文 申请入驻

AI投毒已成产业链,你的AI正在被人操控

0
分享至

文|新10亿商业参考

当你无比信任的智能助手,不再给出客观理性的答案,反而凭空杜撰产品、夸大其词,甚至悄悄怂恿你掏钱购买一款根本不存在的商品时,一种被科技欺骗的寒意,难免会涌上心头。

2026年3·15晚会,一则曝光彻底打破了人们对AI大模型的信任滤镜——一款名为"力擎GEO优化系统"的软件被当场点名,背后隐藏的AI GEO(生成引擎优化)灰色产业链,也随之浮出水面。这场看似不起眼的曝光,揭开了一个令人心惊的真相:我们依赖的AI,或许正在被人为"投毒",而我们看到的每一个AI推荐,都可能藏着不为人知的操控痕迹。

晚会记者通过暗访发现,这门灰色生意的操作门槛极低,却能轻松操控AI的判断,堪称"AI时代的虚假营销捷径"。只需在电商平台花费几十元,就能购买到"力擎GEO优化系统",无需专业技术,普通人也能上手操作:输入虚构的产品信息、设定好宣传关键词,软件便能自动生成十几篇图文并茂的"软文",内容涵盖产品功效、用户评价、使用体验,甚至能伪造权威机构认证,真假难辨。

更令人震惊的是,这些杜撰的虚假内容,还能通过软件自动登录多个自媒体账号,批量发布到全网各大平台。晚会现场展示的案例中,一个名为"Apollo-9"的虚构智能手环,仅凭一篇AI生成的虚假软文,在短短几小时内,就被多个主流AI大模型当成真实产品,主动推荐给咨询相关产品的用户,甚至详细介绍其"核心功能""续航能力",把一款不存在的产品夸得天花乱坠。

"这就是在给AI‘投毒’。"一位业内人士在接受采访时直言不讳,语气中满是无奈,"现在全网的人都在给AI投‘毒’,而且投得太多了……每个商家都想通过抹黑对手、虚构优势,把对方挤下去,抢占AI推荐的流量入口。"

这句话点出了核心症结:AI的核心能力源于对互联网数据的学习和筛选,它本身不具备"辨别真假"的能力,只能被动吸收网络上的所有信息。当大量虚假软文、伪造评价、不实宣传充斥网络,AI就会将这些虚假信息当成真实数据纳入学习库,进而在回答用户问题、推荐产品时,下意识地输出这些错误信息,相当于被人为"洗脑"后,再去"误导"普通用户。

简单来说,AI就像一个"海绵",吸收的是什么,就会输出什么。当网络上的虚假信息远超真实信息,AI的判断就会出现偏差,甚至沦为商家虚假营销的"工具人"——你以为的"AI智慧推荐",或许只是商家花钱投放的"定向广告"。

3·15晚会曝光后,各大AI大模型厂商紧急行动,纷纷启动应急响应,试图挽回用户信任。记者实测发现,字节跳动豆包、阿里通义千问、腾讯元宝等主流AI,已将3·15曝光的GEO灰产相关信息纳入实时检索库,当用户询问"力擎GEO优化系统""Apollo-9智能手环"等相关问题时,会直接告知用户相关产品存在虚假风险,并强调自身"拥有安全合规的训练数据,坚守信息真实性原则"。

相较于这些主动回应的厂商,DeepSeek则采取了更为保守的策略,面对所有与GEO灰产、虚构产品相关的问题,直接拒绝回答,避免因信息误差再次误导用户,虽显谨慎,却也从侧面反映出行业对此次曝光的重视程度。

与此同时,被曝光的核心主体"力擎GEO",则上演了"连夜跑路"的戏码:其在抖音、小红书、淘宝等多个平台的官方账号已全部清空,相关内容、产品链接被一键删除,电商平台上再也无法搜索到"力擎GEO优化系统"相关产品,仿佛从未存在过一般。

连锁反应还在持续。3月16日,也就是曝光后的第二天,与GEO行业相关的企业纷纷紧急表态,发布AI搜索优化合规经营声明,急于与黑灰产划清界限。其中,科大讯飞的生态合作伙伴"河南恒辉合焕"和AB客率先发声,明确表示将严格遵守法律法规,坚守合规经营底线,坚决杜绝参与任何AI虚假营销、GEO灰产相关业务;有赞也发布紧急声明,澄清晚会提及的GEO相关产品,并非其投资或关联公司开发运营,避免被牵连。

此次3·15曝光,不仅揭开了GEO灰产的冰山一角,更引发了人们对AI行业的深层担忧:很多人潜意识里认为,AI的答案是"自己思考出来的",是客观公正的,但实际上,AI的回答并非凭空生成,而是高度依赖外部网页、知识库和搜索增强模块。

这就意味着,AI推荐什么、不推荐什么,背后并非完全是算法的自主判断,而是存在被人为操控的巨大空间。商家可以通过批量发布虚假信息,"喂偏"AI的学习方向,让AI优先推荐自己的产品;甚至可以通过技术手段,抹黑竞争对手,让AI输出不利于对手的虚假评价。

一个更值得深思的问题随之而来:未来,AI会不会出现"竞价排名"?就像当年的搜索引擎一样,谁花钱多,谁就能获得更靠前的推荐位。这个问题目前没有明确答案,最终只取决于各大AI大模型厂商的商业选择。

要知道,如今AI正逐渐取代传统搜索引擎,成为很多人获取信息、查询产品、寻求建议的核心入口。如果未来AI的推荐位被明码标价,商家可以通过付费获得优先推荐,那么普通用户将更难分辨哪些是客观公正的答案,哪些是披着"AI智慧"外衣的付费广告,最终沦为虚假营销的受害者。

更令人担忧的是,GEO灰产并非个例。业内人士透露,除了虚构产品、虚假宣传,还有不少商家通过GEO技术,操控AI对竞争对手进行恶意抹黑,编造产品质量问题、安全隐患等虚假信息,以此挤压对手的市场空间。这种行为不仅误导用户,还会扰乱正常的市场秩序,对整个AI行业和电商行业造成不可逆的伤害。

此次3·15的曝光,无疑给整个AI行业敲响了警钟。那些连夜删号跑路的灰产公司,那些火速更新知识库、紧急表态的AI厂商,都证明了一点:AI再智能,也需要监管约束;科技再发达,也不能沦为虚假营销的工具。

对AI厂商而言,加强训练数据的审核和筛选,建立虚假信息识别机制,杜绝被灰产"投毒",是守住行业底线的关键;对监管部门而言,加大对AI灰产的打击力度,完善相关法律法规,明确AI推荐的责任边界,才能遏制虚假营销的蔓延;而对普通用户来说,我们能做的,就是放下对AI的"盲目信任"。

下次面对AI给出的精准推荐、肯定答复时,不妨多留一个心眼,多问一句:这份答案,是AI基于真实数据的理性判断,还是有人刻意灌输、想让我们看到的"定向答案"?毕竟,在AI时代,保持理性和警惕,才是保护自己不被欺骗的最好方式。

AI的初衷,是为了方便我们的生活、提升我们的效率,而不是成为商家牟取暴利的工具。希望这场3·15曝光,能倒逼行业规范发展,让AI真正回归"智能助手"的本质,而不是沦为被人为操控的"谎言机器"。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
伊媒:伊朗若遭美国地面入侵将打击曼德海峡

伊媒:伊朗若遭美国地面入侵将打击曼德海峡

参考消息
2026-03-26 11:02:08
丞相是丞相,宰相是宰相,两者一字之差却天壤之别,可别分不清楚

丞相是丞相,宰相是宰相,两者一字之差却天壤之别,可别分不清楚

观史搜寻着
2026-03-26 01:10:50
理解城市 | 开封文旅原来这样“火”

理解城市 | 开封文旅原来这样“火”

澎湃新闻
2026-03-26 12:58:34
美伊谈崩内幕:伊万卡是“肉票”,特朗普女婿是“以色列内线”?

美伊谈崩内幕:伊万卡是“肉票”,特朗普女婿是“以色列内线”?

瞩望云霄
2026-03-25 18:20:59
揭开美国粮价低的真面目!他们骗人的鬼把戏终于被揭穿了!

揭开美国粮价低的真面目!他们骗人的鬼把戏终于被揭穿了!

老范谈史
2026-03-25 22:45:51
出大事了,以色列新计划曝光,联合国急呼停火,第一个反抗者出现

出大事了,以色列新计划曝光,联合国急呼停火,第一个反抗者出现

李健政观察
2026-03-26 17:00:52
国际油价涨幅扩大 布伦特原油期货站上105美元/桶

国际油价涨幅扩大 布伦特原油期货站上105美元/桶

每日经济新闻
2026-03-26 15:11:37
国内航线燃油费4月5日上涨

国内航线燃油费4月5日上涨

21世纪经济报道
2026-03-26 19:23:14
新加坡预测:印度将赶中超美!美印争世界老大,中国将成新阿三

新加坡预测:印度将赶中超美!美印争世界老大,中国将成新阿三

荷兰豆爱健康
2026-03-26 08:26:08
省长刘捷在台州专题调研开发区高质量发展工作

省长刘捷在台州专题调研开发区高质量发展工作

台州发布
2026-03-26 20:57:28
韩媒臆想:中国队欢呼吧,国际足联同意他们替补世界杯

韩媒臆想:中国队欢呼吧,国际足联同意他们替补世界杯

体坛风之子
2026-03-26 07:00:06
金智媛现身宝格丽米兰大秀站C位,刘亦菲惨沦配角,尴尬表情曝光

金智媛现身宝格丽米兰大秀站C位,刘亦菲惨沦配角,尴尬表情曝光

流云随风去远方
2026-03-26 18:36:05
伊朗两名高级将领殒命,巴盖里家族再添亡魂,强硬派折损惨重

伊朗两名高级将领殒命,巴盖里家族再添亡魂,强硬派折损惨重

老马拉车莫少装
2026-03-26 00:02:39
美军司令:一旦台海战争打响,6个航母战斗群2个陆战师将全都出动

美军司令:一旦台海战争打响,6个航母战斗群2个陆战师将全都出动

霁寒飘雪
2026-03-26 09:54:09
终于知道广东人为啥不抑郁了!网友:西医叫抑郁,中医叫郁结

终于知道广东人为啥不抑郁了!网友:西医叫抑郁,中医叫郁结

另子维爱读史
2026-03-25 22:34:08
长期静养与每天锻炼的人,谁更长寿?调查36383名老人,给出答案

长期静养与每天锻炼的人,谁更长寿?调查36383名老人,给出答案

39健康网
2026-03-11 20:11:03
2025年演唱会票房最高的10位歌手排行榜,这些歌手太赚钱了!

2025年演唱会票房最高的10位歌手排行榜,这些歌手太赚钱了!

小椰的奶奶
2026-03-26 08:40:13
乌克兰摧毁俄罗斯最大的基里希炼油厂!俄最大港口持续燃烧

乌克兰摧毁俄罗斯最大的基里希炼油厂!俄最大港口持续燃烧

项鹏飞
2026-03-26 21:13:57
萨巴伦卡赢郑钦文后吃100美元汉堡 顶奢!鱼子酱+金箔碎她说超好吃

萨巴伦卡赢郑钦文后吃100美元汉堡 顶奢!鱼子酱+金箔碎她说超好吃

劲爆体坛
2026-03-26 08:10:23
因祸得福!烧129年的地下火被灭,新疆凭空多了个金饭碗

因祸得福!烧129年的地下火被灭,新疆凭空多了个金饭碗

混沌录
2026-03-24 23:03:10
2026-03-26 22:51:00
蓝鲸新闻 incentive-icons
蓝鲸新闻
财经信息服务平台
128963文章数 193773关注度
往期回顾 全部

科技要闻

美团发布外卖大战后成绩单:亏损超200亿

头条要闻

张雪峰留巨额遗产:二婚妻子或拿50% 剩下的女儿占1/3

头条要闻

张雪峰留巨额遗产:二婚妻子或拿50% 剩下的女儿占1/3

体育要闻

申京努力了,然而杜兰特啊

娱乐要闻

刘晓庆妹妹发声!称姐姐受身边人挑拨

财经要闻

油价"驯服"特朗普?一到100美元就TACO

汽车要闻

一汽奥迪A6L e-tron开启预售 CLTC最大续航815km

态度原创

旅游
教育
房产
公开课
军事航空

旅游要闻

探访资中文旅新地标 邂逅千年古城的诗与远方

教育要闻

骂人没有杀伤力?那不是白忙活吗?

房产要闻

突发,三亚又有大批征迁补偿方案出炉!

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

担心特朗普突然停战 以总理下令48小时尽力摧毁伊设施

无障碍浏览 进入关怀版