网易首页 > 网易号 > 正文 申请入驻

AI大模型被“投毒”,央视“3·15”晚会曝光全流程

0
分享至

一项名为GEO(生成式引擎优化)的技术正在改变AI时代的广告逻辑,只需支付费用,服务商就能让任何产品在主流AI大模型中"榜上有名",让虚假广告成为AI给出的"标准答案"。3月15日,央视"3·15"晚会报道称,一些GEO服务商通过在各大互联网平台大量投放"软文",让AI模型抓取、收录,最终影响AI的推荐结果。一位负责人王总表示:"目前,我们在任何AI平台上都能把排名做到前三位,一年时间就成功服务了200多个客户。"


业内人士具体演示了如何使用GEO技术干扰AI大模型的信息抓取。业内人士在电商平台上随机购买了一款名叫"力擎GEO优化系统"的软件。之后,他虚构了一款名为Apollo-9的智能手环,并将虚构的产品信息输入软件系统,勾选文章创作指令。

很快,力擎GEO优化系统就自动生成了十余篇智能手环的宣传软文,所有虚假信息都被完整写入,甚至包括业内人士故意虚构的极为夸张的产品信息,还杜撰了用户反馈,称数据精准度超出预期,甚至伪造评分,被一举评为业界第一名。

点击发布,"力擎GEO优化系统"软件开始自动执行发布任务,先自动打开业内人士事先准备好的自媒体账号,再在文章发布页面自动输入标题、填充文章内容、插入图片,在业内人士的自媒体账号上成功发布了2篇文章。这款AI大模型所参考的资料,正是上午刚发布在业内人士自媒体账号上的那篇虚构文章。

简单来说,GEO技术的运作链条为:系统自动生成虚假内容—批量发布至自媒体账号—AI模型抓取并交叉验证—虚假信息成为AI推荐的"标准答案"。

此外,央视"3·15"晚会还曝光,部分服务商不仅利用这项技术帮客户提升排名,还主动提供"抹黑竞品"服务——通过向AI投喂虚假信息,干扰竞争对手的搜索表现。

一位AI"投毒"产业链上的力思文化传媒有限公司李总表示,想做GEO业务,操控AI大模型的关键节点,就是在各大互联网账号上"发稿"。他告诉记者,GEO业务的火爆,眼下就催生出了不少专门从事发稿业务的公司和平台。他们长期承揽各种发稿业务,以便让AI大模型引用和抓取,成为围猎AI大模型,进行数据投"毒"的重要一环。

2026年1月底,国家市场监督管理总局发布2026年全国广告监管工作要点,其中明确指出AI生成广告是互联网广告监管的重点难点问题。

"这说明了整个大模型训练的语料的重要性。中文大模型的语料主要来自中文互联网,如果它的源头被污染,就很难通过算法调整去解决这个问题,内容平台经过多年的发展,已经形成生态。要解决这个问题,需要多方一起努力。如果不引起重视,通过GEO技术的投机者会迅速污染大模型",文渊智库创始人王超向北京商报记者表示。

工信部相关数据显示,近年来,我国信息通信行业现代化建设系统推进,人工智能大模型走深向实,已发布大模型1500余个。

北京商报记者 魏蔚

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
我开了二十年麻将馆,今天想告诉所有人:牌桌上从来没有赢家

我开了二十年麻将馆,今天想告诉所有人:牌桌上从来没有赢家

千秋历史
2026-04-06 11:26:26
杨坤估计后槽牙都快咬碎了!他怎么也没想到,郭德纲改编红歌这事,能把自己也搭进去

杨坤估计后槽牙都快咬碎了!他怎么也没想到,郭德纲改编红歌这事,能把自己也搭进去

火山詩话
2026-08-13 17:00:11
为何越来越多人觉得中药没用?一条造假链正透支中医几千年的口碑

为何越来越多人觉得中药没用?一条造假链正透支中医几千年的口碑

史之铭
2026-08-11 17:11:53
《重器》最大意难平!张丽慧被下放监狱的真相,根本没人看懂

《重器》最大意难平!张丽慧被下放监狱的真相,根本没人看懂

野路乐熊
2026-08-15 19:55:38
野心配不上格局,一张旧照,道尽邹市明一家衰败的根源

野心配不上格局,一张旧照,道尽邹市明一家衰败的根源

东方不败然多多
2026-07-24 11:55:10
发现一个奇怪的心理现象:有的女人一方面在外出轨,但另一方面,出完轨回家,跟没事人一样,照顾孩子,照顾丈夫,还是人人夸赞的好女人

发现一个奇怪的心理现象:有的女人一方面在外出轨,但另一方面,出完轨回家,跟没事人一样,照顾孩子,照顾丈夫,还是人人夸赞的好女人

心理观察局
2026-08-14 07:05:04
商竣程还是商竣程,王曦雨继续碾压表现,王欣瑜赢得很“王欣瑜”

商竣程还是商竣程,王曦雨继续碾压表现,王欣瑜赢得很“王欣瑜”

网球之家
2026-08-15 13:26:40
中国男篮72-91惨败,18次失误扎眼,焦伯乔正负值-35,郭士强在场边无奈

中国男篮72-91惨败,18次失误扎眼,焦伯乔正负值-35,郭士强在场边无奈

中国篮坛快讯
2026-08-16 00:01:16
央视怒批:戏子误国!这三位明星恶贯满盈,最终下场是咎由自取!

央视怒批:戏子误国!这三位明星恶贯满盈,最终下场是咎由自取!

风月得自难寻
2026-08-02 03:34:46
中国,有必要打一场立威之仗吗?

中国,有必要打一场立威之仗吗?

清沐执笔
2026-07-17 16:30:42
你知道10万块钱的网贷有多可怕吗?

你知道10万块钱的网贷有多可怕吗?

流苏晚晴
2026-07-11 16:29:42
利雅得胜利vs哈萨征服:C罗缺阵,马内、菲利克斯、科曼出战

利雅得胜利vs哈萨征服:C罗缺阵,马内、菲利克斯、科曼出战

懂球帝
2026-08-16 01:48:02
英媒:利物浦部分股份转让成功,将砸3.2亿英镑报价4人

英媒:利物浦部分股份转让成功,将砸3.2亿英镑报价4人

足球观察1
2026-08-15 13:37:17
清朝亲王和郡王区别有多大?别说俸禄,连妾室数量都比不了

清朝亲王和郡王区别有多大?别说俸禄,连妾室数量都比不了

芳芳历史烩
2026-08-15 17:19:38
新婚换全新模样!C罗婚后首次公开亮相,一头金发惊艳球迷

新婚换全新模样!C罗婚后首次公开亮相,一头金发惊艳球迷

喜欢历史的阿繁
2026-08-16 01:37:21
货车司机睡三个半小时,固定大理石的绑带竟被刀割开多处

货车司机睡三个半小时,固定大理石的绑带竟被刀割开多处

水泥土的搞笑
2026-08-15 01:08:26
赴美生子一家四口被遣返!美国海关严查孕妇入境,已回国的被撤销签证

赴美生子一家四口被遣返!美国海关严查孕妇入境,已回国的被撤销签证

大洛杉矶LA
2026-08-15 06:03:04
心理学:男人一旦不再主动联系,女人就开始患得患失;反过来女人一旦不再嘘寒问暖,男人就开始疯狂试探,这背后是一条扎心的依赖法则

心理学:男人一旦不再主动联系,女人就开始患得患失;反过来女人一旦不再嘘寒问暖,男人就开始疯狂试探,这背后是一条扎心的依赖法则

心理观察局
2026-07-03 06:16:11
沙俄妖僧28.5厘米!毒不死打不死,皇室贵妇全睡遍,最后咋死的?

沙俄妖僧28.5厘米!毒不死打不死,皇室贵妇全睡遍,最后咋死的?

小兰聊历史
2026-08-04 04:07:28
徐正源:输球不是因为新鹏城的强大,而是我们自己的失误

徐正源:输球不是因为新鹏城的强大,而是我们自己的失误

懂球帝
2026-08-15 23:09:51
2026-08-16 04:07:00
北京商报 incentive-icons
北京商报
北京商报社隶属于中共北京市委宣传部,由北京日报报业集团主管主办
291187文章数 300166关注度
往期回顾 全部

科技要闻

600亿美元收购落地 马斯克正式杀入

头条要闻

"榜一大哥"打赏女主播超千万要求陪睡 女方拒绝被起诉

头条要闻

"榜一大哥"打赏女主播超千万要求陪睡 女方拒绝被起诉

体育要闻

体系球员与体系本身

娱乐要闻

宋慧乔晒自拍照 微笑拍照心情佳

财经要闻

便利蜂加盟遭立案:"0元加盟"生意被查

汽车要闻

杨洋成001号车主 岚图追光S正式上市

态度原创

艺术
时尚
教育
旅游
游戏

艺术要闻

细思极恐!这30张创意照片,看懂一半算你厉害,全看懂的都是有故事的人!

12年才总结出这5个小习惯,真的让我的生活更轻松

教育要闻

金中河西又爆了,116封预录取,95人达con,香港方向录取数据,亮了!

旅游要闻

褪去《芳华》滤镜,走进碧色寨,读懂铁轨承载的云南百年沉浮!

《暗黑血统4》喜迎锁档新消息!玩家担忧:别是类魂

无障碍浏览 进入关怀版