网易首页 > 网易号 > 正文 申请入驻

GEO数据投毒黑产链曝光 AI大模型防御战刻不容缓

0
分享至

当你向AI大模型询问"哪款智能手环值得买"时,得到的"标准答案"可能并非客观事实,而是商家精心投喂的“毒药”。

2026年"3·15"晚会上,央视财经起底了一条触目惊心的黑色产业链——GEO(生成引擎优化)业务。这门被称为给AI“洗脑”的生意,正通过系统性地投喂虚假信息,悄然操控着我们获取知识的AI入口。

GEO业务的本质,是一场针对AI大模型数据源的定向操控,其技术路径远比传统搜索引擎优化(SEO)更为隐蔽且高效。

权威研究显示,仅需50个恶意样本,就能让十亿级参数模型的推理准确率下降30%以上。据Anthropic等机构的联合研究,即便是千亿级模型,250个精心构造的恶意文档也能稳定植入后门。

面对日益猖獗的GEO投毒,AI平台、监管机构与内容所有者正构建多层次的主动防御体系。

为从源头规避风险,包括Kimi、DeepSeek在内的诸多模型已选择“时间切割”防御策略。有GEO服务商反映,DeepSeek近期已对内容收录和引用逻辑做出调整,针对系统性批量生成、缺乏数据来源的排行榜进行降权,甚至不再引用。

蓝耘战略市场总监袁双燕在接受澎湃采访时指出:“技术迭代快是行业的内生挑战。模型的检索逻辑、内容偏好,甚至对多模态信息的处理方式,每隔几个月就可能发生重大变化。平台反制是必然的动态博弈,这种‘攻防’是任何涉及算法优化的领域都会出现的常态。”

她强调GEO的核心技术原理应是“用算法理解算法,用模型对抗模型”,而非简单的“高频内容投喂”。

对于普通用户而言,使用AI工具时,应优先选择具备成熟内容治理机制的AI平台,在电商、社交等已建立社区规则与内容审核体系的平台内使用AI功能,此类平台的AI回答通常基于用户真实反馈与行为数据生成,GEO优化成本较高。

对时效性要求较低的问题,可关闭联网搜索功能,减少AI对实时网页内容的依赖,降低被近期投毒信息干扰的风险。

对AI生成内容进行溯源审查,人工识别信源可信度,关注AI回答中标注的引用来源。独立判断能力至关重要,将AI定位为信息整理工具,而非绝对真理。

此外,今年年初市场监管总局广告监管司发布《2026年全国广告监管工作要点》,明确提出整治AI生成广告等互联网广告监管重点难点问题。

在行业自律方面,2025年11月,14家GEO相关企业共同发起《中国GEO行业发展倡议》;2026年2月,中国人工智能产业发展联盟(AIIA)发起《人工智能安全承诺:生成式引擎优化(GEO)专项》,10家企业参与签署。2026年3月,中国信通院人工智能研究所正式启动首轮《生成式引擎优化(GEO)可信基本要求》评测工作。

当生成式AI成为用户获取信息与消费决策的核心入口,GEO的异化正在制造一个“三输”局面,消费者被误导决策,合规品牌被挤压,AI平台的可信度存疑。守护AI的“标准答案”,不仅是技术工程师的职责,更关乎每一个人的信息安全。在这场攻防博弈中,唯有技术驱动、监管补位与用户觉醒三者协同,才能让生成式AI回归真实、中立、有价值的初心。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
画面不堪入目,地下人奶交易乱象,成年人躺进怀里吃奶的灰色黑产

画面不堪入目,地下人奶交易乱象,成年人躺进怀里吃奶的灰色黑产

易玄
2026-09-12 10:24:46
孙俪发文:吃着早饭邓先生让我给他拿个牙线

孙俪发文:吃着早饭邓先生让我给他拿个牙线

韩小娱
2026-11-16 11:14:34
除了性生活就是打麻将,揭露中国2000多个县城,普通人的生活实录

除了性生活就是打麻将,揭露中国2000多个县城,普通人的生活实录

墨策讲历史
2026-11-12 12:47:12
60岁李若彤重返活死人墓!眼神依旧清冷温柔,一转身瞬间梦回神雕

60岁李若彤重返活死人墓!眼神依旧清冷温柔,一转身瞬间梦回神雕

暖心萌阿菇凉
2026-10-13 14:25:52
一位英伟达员工在社交平台上发长文深情致敬黄仁勋,结果因为配图实在太“真实”,帖子瞬间在科技圈变成了大型欢乐现场。

一位英伟达员工在社交平台上发长文深情致敬黄仁勋,结果因为配图实在太“真实”,帖子瞬间在科技圈变成了大型欢乐现场。

背包旅行
2026-11-16 15:49:10
邝港杰承认曾与弟弟串供,计划把杀人罪推给父亲:只为让家庭损失最小

邝港杰承认曾与弟弟串供,计划把杀人罪推给父亲:只为让家庭损失最小

娱站
2026-11-16 13:07:24
瓦利德·哈立德·阿卜杜拉·艾哈迈德(17岁),被羁押期间死亡,巴西最新声明

瓦利德·哈立德·阿卜杜拉·艾哈迈德(17岁),被羁押期间死亡,巴西最新声明

南方都市报
2026-11-14 17:07:58
Haynes:太阳将杰伦-格林摆上货架,或与德章特-穆雷互换

Haynes:太阳将杰伦-格林摆上货架,或与德章特-穆雷互换

懂球帝
2026-11-16 13:26:24
全世界都被普京骗了?打乌克兰只是幌子,真正目标其实已悄悄布局四年

全世界都被普京骗了?打乌克兰只是幌子,真正目标其实已悄悄布局四年

扶苏聊历史
2026-08-27 16:15:02
英媒:黄仁勋留了后手,有意重返英伟达,其实英伟达也为他回归留好了后门

英媒:黄仁勋留了后手,有意重返英伟达,其实英伟达也为他回归留好了后门

王新喜
2026-11-16 11:17:09
断崖降温!上海最低1℃!

断崖降温!上海最低1℃!

尚虹桥
2026-11-16 13:32:05
突发异动!000533,直线涨停!

突发异动!000533,直线涨停!

证券时报
2026-11-16 11:54:26
苏州一对情侣,谈了7年,女子提了18次分手,分手后在街头痛哭!

苏州一对情侣,谈了7年,女子提了18次分手,分手后在街头痛哭!

川渝视觉
2026-04-17 22:13:14
刘欢在2008年北京奥运会上的着装至今仍有争议,因为那是一个举世瞩目的盛会,刘欢却只是穿了一件普通T恤就开始表演了!

刘欢在2008年北京奥运会上的着装至今仍有争议,因为那是一个举世瞩目的盛会,刘欢却只是穿了一件普通T恤就开始表演了!

财经要参
2026-11-01 16:00:05
15+31,湖人赢球两点仍该批!东契奇赛后谈詹姆斯直言不讳,一人也被忽视

15+31,湖人赢球两点仍该批!东契奇赛后谈詹姆斯直言不讳,一人也被忽视

鱼崖大话篮球
2026-11-16 11:09:56
北大399元羽绒服全网刷屏!网友:考不上北大我还穿不起北大羽绒服吗?

北大399元羽绒服全网刷屏!网友:考不上北大我还穿不起北大羽绒服吗?

城事堂
2026-11-16 11:05:13
太争气了!何卓佳终于等到了这一天!陪孙颖莎苦练7年,如今传来两个重磅喜讯

太争气了!何卓佳终于等到了这一天!陪孙颖莎苦练7年,如今传来两个重磅喜讯

运动探索
2026-11-16 15:15:08
关张学良54年花了多少钱?老蒋看到账单血压飙升骂出那句口头禅

关张学良54年花了多少钱?老蒋看到账单血压飙升骂出那句口头禅

纪史行者
2026-10-14 11:42:13
幼儿园女老师赌气炒股,亏掉60万后:老公买房同样亏 60 万,凭什么他算投资我算赌?

幼儿园女老师赌气炒股,亏掉60万后:老公买房同样亏 60 万,凭什么他算投资我算赌?

民生故事会
2026-10-19 19:12:52
爆冷3连败!从西部第一跌落神坛,夺冠热门倒下,NBA确实变天了

爆冷3连败!从西部第一跌落神坛,夺冠热门倒下,NBA确实变天了

篮球扫地僧
2026-11-16 16:56:16
2026-11-16 18:00:49
财闻 incentive-icons
财闻
财闻APP官方账号
124670文章数 10991关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

APEC会议首位外国元首抵达深圳 中国女保镖贴身保护

头条要闻

APEC会议首位外国元首抵达深圳 中国女保镖贴身保护

体育要闻

热火4连胜:就因为维金斯替补了?

娱乐要闻

43岁佟丽娅官宣新身份担任职务不一般

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

日产终于开窍了!全新NV200 PHEV才是露营党的梦中情车?

态度原创

教育
时尚
本地
公开课
军事航空

教育要闻

买1赠1=打几折?难不倒学霸

秋天找到一些固定的穿衣公式,用针织衫搭配牛仔裤,减龄舒适

本地新闻

乌兰察布:以前种土豆,现在种Token

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版