网易首页 > 网易号 > 正文 申请入驻

AI大模型被“投毒”,央视“3·15”晚会曝光全流程

0
分享至

一项名为GEO(生成式引擎优化)的技术正在改变AI时代的广告逻辑,只需支付费用,服务商就能让任何产品在主流AI大模型中"榜上有名",让虚假广告成为AI给出的"标准答案"。3月15日,央视"3·15"晚会报道称,一些GEO服务商通过在各大互联网平台大量投放"软文",让AI模型抓取、收录,最终影响AI的推荐结果。一位负责人王总表示:"目前,我们在任何AI平台上都能把排名做到前三位,一年时间就成功服务了200多个客户。"

业内人士具体演示了如何使用GEO技术干扰AI大模型的信息抓取。业内人士在电商平台上随机购买了一款名叫"力擎GEO优化系统"的软件。之后,他虚构了一款名为Apollo-9的智能手环,并将虚构的产品信息输入软件系统,勾选文章创作指令。

很快,力擎GEO优化系统就自动生成了十余篇智能手环的宣传软文,所有虚假信息都被完整写入,甚至包括业内人士故意虚构的极为夸张的产品信息,还杜撰了用户反馈,称数据精准度超出预期,甚至伪造评分,被一举评为业界第一名。

点击发布,"力擎GEO优化系统"软件开始自动执行发布任务,先自动打开业内人士事先准备好的自媒体账号,再在文章发布页面自动输入标题、填充文章内容、插入图片,在业内人士的自媒体账号上成功发布了2篇文章。这款AI大模型所参考的资料,正是上午刚发布在业内人士自媒体账号上的那篇虚构文章。

简单来说,GEO技术的运作链条为:系统自动生成虚假内容—批量发布至自媒体账号—AI模型抓取并交叉验证—虚假信息成为AI推荐的"标准答案"。

此外,央视"3·15"晚会还曝光,部分服务商不仅利用这项技术帮客户提升排名,还主动提供"抹黑竞品"服务——通过向AI投喂虚假信息,干扰竞争对手的搜索表现。

一位AI"投毒"产业链上的力思文化传媒有限公司李总表示,想做GEO业务,操控AI大模型的关键节点,就是在各大互联网账号上"发稿"。他告诉记者,GEO业务的火爆,眼下就催生出了不少专门从事发稿业务的公司和平台。他们长期承揽各种发稿业务,以便让AI大模型引用和抓取,成为围猎AI大模型,进行数据投"毒"的重要一环。

2026年1月底,国家市场监督管理总局发布2026年全国广告监管工作要点,其中明确指出AI生成广告是互联网广告监管的重点难点问题。

"这说明了整个大模型训练的语料的重要性。中文大模型的语料主要来自中文互联网,如果它的源头被污染,就很难通过算法调整去解决这个问题,内容平台经过多年的发展,已经形成生态。要解决这个问题,需要多方一起努力。如果不引起重视,通过GEO技术的投机者会迅速污染大模型",文渊智库创始人王超向北京商报记者表示。

工信部相关数据显示,近年来,我国信息通信行业现代化建设系统推进,人工智能大模型走深向实,已发布大模型1500余个。

北京商报记者 魏蔚

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
最新减持新规来了:减持比例超5%金额超5亿将重罚!能消掉股民的怨气吗

最新减持新规来了:减持比例超5%金额超5亿将重罚!能消掉股民的怨气吗

城事堂
2026-10-20 08:31:28
体制内外退休金的巨大差距引起老百姓的很大不满!

体制内外退休金的巨大差距引起老百姓的很大不满!

逍遥论经
2026-10-08 14:57:40
陌生亲密性行为五年降幅76%!北大复旦联合调查结果显示,年轻人快餐关系遇冷,引发热议

陌生亲密性行为五年降幅76%!北大复旦联合调查结果显示,年轻人快餐关系遇冷,引发热议

火山詩话
2026-10-19 13:18:35
特朗普:中方在乌克兰问题上立场很公允,我对此心怀感激

特朗普:中方在乌克兰问题上立场很公允,我对此心怀感激

极目新闻
2026-10-20 14:58:09
中共中央批准,开除俞小平党籍

中共中央批准,开除俞小平党籍

新京报
2026-10-19 17:19:17
中央政法委下死命令!严厉查处这些行为,一起都不放过!

中央政法委下死命令!严厉查处这些行为,一起都不放过!

职场资深秘书
2026-10-20 11:23:21
网传新型卖淫方式又来了,评论区炸锅:当“欲望”撞上“钱包”..

网传新型卖淫方式又来了,评论区炸锅:当“欲望”撞上“钱包”..

慧翔百科
2026-10-19 17:42:05
一旦做了肠镜切除息肉,还能活多少年?医生不再隐瞒,说出了实情

一旦做了肠镜切除息肉,还能活多少年?医生不再隐瞒,说出了实情

垚垚分享健康
2026-10-20 18:55:53
50元一斤的“人类猫条”,年轻人不愿啃了

50元一斤的“人类猫条”,年轻人不愿啃了

新周刊
2026-10-20 13:08:44
历史首位,杰登·麦克丹尼尔斯4000万美元续约合同堪称史无前例

历史首位,杰登·麦克丹尼尔斯4000万美元续约合同堪称史无前例

好火子
2026-10-20 22:47:54
“父母几乎没有教我任何东西”,网友:我等这篇神贴等了27年!

“父母几乎没有教我任何东西”,网友:我等这篇神贴等了27年!

另子维爱读史
2026-10-20 20:09:20
17比16,法国超越加拿大成NBA外籍球员第一来源国

17比16,法国超越加拿大成NBA外籍球员第一来源国

慢享生活集
2026-10-20 22:48:13
“保研后才明白,穷人的孩子翻不了身!”女孩说实话:智力和财力都跟不上!

“保研后才明白,穷人的孩子翻不了身!”女孩说实话:智力和财力都跟不上!

林林先生
2026-10-19 17:57:50
激动落泪!坐轮椅2年的英国阿姨试穿杭州造机器人后,成功行走,儿子当场决定买下!网友:这就是科技的意义

激动落泪!坐轮椅2年的英国阿姨试穿杭州造机器人后,成功行走,儿子当场决定买下!网友:这就是科技的意义

环球网资讯
2026-10-18 17:00:19
难以置信!网传重庆网红呆呆去年一夜狂赚400万,如今筹备杀猪宴引热议,网友调侃,“去年杀猪宴,今年杀猪盘”

难以置信!网传重庆网红呆呆去年一夜狂赚400万,如今筹备杀猪宴引热议,网友调侃,“去年杀猪宴,今年杀猪盘”

火山詩话
2026-10-20 08:09:49
鲁比奥:美国与乌克兰关系非常紧张,特朗普对有关他“故意采取行动损害乌克兰利益”的说法感到不满,认为这“不公平,也不符合事实”

鲁比奥:美国与乌克兰关系非常紧张,特朗普对有关他“故意采取行动损害乌克兰利益”的说法感到不满,认为这“不公平,也不符合事实”

政知新媒体
2026-10-20 22:48:18
北爱公开赛:常冰玉3-4惜败!7位中国冠军一轮游,压力给到赵心童

北爱公开赛:常冰玉3-4惜败!7位中国冠军一轮游,压力给到赵心童

小火箭爱体育
2026-10-20 19:26:02
泰国电诈再升级!中大使馆曝猛料,多方暗中勾结,专卖此类中国人

泰国电诈再升级!中大使馆曝猛料,多方暗中勾结,专卖此类中国人

史智文道
2026-10-20 09:51:05
人民日报:机关事业单位工作隐性收入减少,引人共鸣!

人民日报:机关事业单位工作隐性收入减少,引人共鸣!

职场资深秘书
2026-10-15 20:51:13
1995年白宫,22岁实习生莱温斯基撩起外衣露出丁字裤,就凭这个举动,她承担了整整20年的代价

1995年白宫,22岁实习生莱温斯基撩起外衣露出丁字裤,就凭这个举动,她承担了整整20年的代价

磊子讲史
2026-10-19 14:51:51
2026-10-20 23:07:00
北京商报 incentive-icons
北京商报
北京商报社隶属于中共北京市委宣传部,由北京日报报业集团主管主办
296369文章数 300227关注度
往期回顾 全部

科技要闻

新版MiniMax,能和DeepSeek掰手腕吗?

头条要闻

00后小伙踩自制飞行滑板飞越长江被质疑是AI 景区回应

头条要闻

00后小伙踩自制飞行滑板飞越长江被质疑是AI 景区回应

体育要闻

巴拉克:天生亚军与漫长极夜

娱乐要闻

刘恺威承认新恋情,打球认识

财经要闻

抄底万达之后 私募大佬又对恒大下手了

汽车要闻

黑科技一次看全 2026奇瑞全球创新大会干货汇总

态度原创

家居
艺术
游戏
手机
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

艺术要闻

吴冠中 这幅小画《大巴山中》,368万!

《边缘行者2》官方联动手柄要来了!国产品牌飞智

手机要闻

剑指苹果iPhone Duo:三星2027最豪华折叠手机阵容曝光,共计6款

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版