网易首页 > 网易号 > 正文 申请入驻

一场卧底30天的调查发现:AI正在奖励最会造假的人

0
分享至


你上一次问AI"哪款洗发水好用",是什么时候?

那个回答,你有没有想过——它是怎么来的?

有一类公司,专门回答这个问题。但不是去测产品,不是去做用户调研。他们的方法是:大量生产夸大其词甚至无中生有的内容,把它们投喂给AI。

一位自媒体人士(逐浪Linkworld)深入这个行业,在一家GEO(生成式引擎优化)公司卧底了30天,记录了他看到的一切。他记录到的东西,比你想象的更荒诞。

一个洗发水品牌的稿件写着:使用该品牌产品,平均每日生发2厘米。一个月就是60厘米。AI引用了。

这不是意外。这是一套工业化的流程。

这不是某个行业的个案。这是AI搜索时代,一个系统性漏洞被系统性利用的故事。

01 AI到底在信什么?

要理解为什么AI会被骗,得先理解AI的"信任机制"和人的"信任机制"有什么根本区别。

人在判断一个品牌可不可信,用的是"核实逻辑"——我去查它有没有实体店,去问朋友用过没,去看评论真不真实,去搜媒体有没有负面报道。这个过程耗时耗力,但它能把大量假信息过滤掉。

AI判断一个品牌可不可信,用的是"密度逻辑"——这个品牌被提到的次数够不够多,描述它的内容够不够一致,信息来源够不够分散。

核实逻辑(人):寻找矛盾 → 矛盾越多,可信度越低

密度逻辑(AI):寻找密度 → 密度越高,引用率越高

两种逻辑对造假的抵抗力,是截然不同的。

人的核实逻辑,造假成本很高——你得让假信息在真实世界里经得起查。

AI的密度逻辑,造假成本极低——你只需要让假信息在网络上分布得足够广、足够一致。

这是两种完全不同的攻防逻辑。那位卧底记者看到的发稿系统——每天批量生成上千篇内容,分发到数十个平台——正是针对AI密度逻辑设计的。

那个写"每日生发2厘米"的稿件,人看到会觉得荒唐,但AI看到的是:关于这个品牌,有一篇正向内容。

02 可信度,是可以被工业化生产的

卧底记录里,有一个词被反复使用——"丰富"。

客户提供基础材料包,服务商负责在上面"丰富"一下。"丰富"的意思是:加数据、加权威机构名称、加用户反馈比例。

那些被加进去的东西,往往查无出处。

"连续三年获得中国健康产业协会最佳创新品牌称号"——这个协会,不存在。 "97.3%的用户使用28天后肤质明显改善"——这个数据,没有任何来源。

但这没关系。因为AI不会去查。

这套逻辑用一句话概括:

在AI的信任机制下,可信度不是真实性的函数,而是密度和一致性的函数。

我把这种现象称为"可信度制造"——它不是欺骗AI的偶然行为,而是一个可被标准化、可被批量执行的工业流程。

这个流程由三个环节构成:

环节一·内容生产:用大模型批量生成稿件,加入虚构数据和不存在的认证机构

环节二·密度投放:通过自动发稿系统,将内容覆盖到AI能抓取到的各类平台

环节三·一致性维护:所有稿件口径统一,让AI看到的信息高度一致、相互印证

三个环节完成,一个品牌的AI"可信度"就建立起来了。和这个品牌的真实质量,没有必然关系。

03 这件事为什么是个囚徒困境?

你可能会说:那些真正好的品牌怎么办?

这里有一个残酷的结构性问题。

如果你是一个诚实经营的品牌,你拒绝夸大数据、拒绝虚构机构、拒绝批量发稿——你的AI曝光率,会低于那些造假的竞争对手。

消费者在AI搜索里看到的,是密度更高的那个品牌。不是质量更好的那个。

卧底记录里有一句内部人的话,说得很直接: "公司要的是让客户觉得我们很努力,一天一千篇听起来比十篇厉害多了。" "真正管用的,可能一篇就够了。但一篇卖不出价格,一千篇可以。"

这句话揭示的不只是行业潜规则,而是一个经典的囚徒困境:

如果你造假,竞争对手不造假 → 你在AI里的曝光率远高于对手,赢

如果你不造假,竞争对手造假 → 你的曝光率远低于对手,输

如果大家都造假 → AI推荐系统整体失真,所有人都输,但在这个输的结构里,

率先退出造假的那个仍然是输最多的那个

守规矩的人,在AI时代的搜索流量里,正在以一种安静的方式被淘汰。

这和漳州杨梅的故事是同一个结构——违规者被罚了,但守规矩的果农先砍树喂了猪。

04 你现在能怎么办?

说完机制,说一些实用的东西。

在AI推荐的内容里,有几类信号值得提高警惕:

精确到小数点的效果数据,但没有注明研究机构和样本量

"连续N年获得XX奖项",但搜不到这个奖项的主办方

多个平台、多篇内容,表述高度雷同(很可能来自同一模板)

权威背书来自你从未听说过的协会或机构名称

这不是说AI的推荐完全不可信。而是说,在AI密度逻辑被大规模利用之前,它值得被作为参考;在它被工业化利用之后,它需要被作为起点,而不是终点。

AI告诉你"这个品牌好",可以作为你开始了解它的理由。不宜作为你购买它的唯一理由。

05 这件事还和谁有关?

① 正在用AI搜索做购买决策的消费者

AI推荐已经开始影响你的日常消费选择。化妆品、保健品、母婴产品、教育课程——这些领域竞争激烈、信息不对称严重,正是GEO最活跃的战场。你需要的是把AI答案当作索引,而不是判决。

② 正在评估GEO服务的中小品牌

如果你是一个真正有产品力的品牌,而你的竞争对手在大量购买GEO服务,你面临的是一个短期不公平、但长期有机会翻盘的处境——因为AI公司本身也在不断优化对虚假信息的识别。你需要的是找到那些真正能提升AI引用质量而非数量的服务商,两者现在已经不是同一批人。

③ 正在研究AI治理的从业者和政策制定者

GEO现在还是一个相对新的领域,监管框架基本处于空白。但它揭示的问题——AI的输出质量依赖于它所接触到的内容质量,而这个质量是可以被人为系统性操控的——这个问题会随着AI搜索渗透率的提升而变得越来越重要。现在是讨论规则的好时机。

AI正在成为新的信息中介,但它的信任机制还没做好被系统性操控的准备。

这篇文章有一个我没有解决的问题——AI公司自己有没有办法反制这套"可信度制造"体系?

理论上有:通过更好地识别内容来源的多样性、时间分布、跨平台一致性来过滤协调性批量内容。部分AI公司已经在往这个方向走。

但军备竞赛的节奏历来如此——攻的永远比守的快一步。SEO和搜索引擎对抗了二十年,至今没有终局。GEO和AI搜索的对抗,大概也不会例外。

在这场对抗里,消费者多一分识别能力,就少一分被误导的概率。这篇文章如果有一个用处,希望是这个。

本文仅为信息分享与行业分析,不构成任何投资建议、投资分析意见或交易邀约。市场有风险,投资需谨慎。任何人依据本文内容作出的投资决策,风险与盈亏自行承担,作者及发布平台不承担任何法律责任。

声明:内容由AI生成

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
董旭斌任浙江省国资委党委书记、主任

董旭斌任浙江省国资委党委书记、主任

中国经济网
2026-06-02 15:10:41
取消60岁限制!工地新规6月1日实施

取消60岁限制!工地新规6月1日实施

新浪财经
2026-06-01 23:45:35
有性生活和没性生活,身体会出卖你!第三个区别,很多人没想到

有性生活和没性生活,身体会出卖你!第三个区别,很多人没想到

健康科普365
2026-05-30 16:30:29
台积电日本3nm量产线核心负责人辞职归国!

台积电日本3nm量产线核心负责人辞职归国!

新浪财经
2026-06-02 00:05:18
趁你病,要你命!法国特种兵突袭11万吨油轮,乌军将轰炸西伯利亚

趁你病,要你命!法国特种兵突袭11万吨油轮,乌军将轰炸西伯利亚

李健政观察
2026-06-01 18:56:46
院士研究发现:吃一根黄瓜,就等于给血脂添一次堵,真的假的

院士研究发现:吃一根黄瓜,就等于给血脂添一次堵,真的假的

任医生聊健康
2026-06-02 10:37:03
宁化县委书记王胜文接受纪律审查和监察调查

宁化县委书记王胜文接受纪律审查和监察调查

环球网资讯
2026-06-02 21:02:25
温州市公安局原副局长徐志宏,主动投案

温州市公安局原副局长徐志宏,主动投案

大风新闻
2026-06-01 21:37:00
实探|有人连夜飞港抢开户!内地投资者扎堆涌入香港券商银行,资金与投保监管全线收紧

实探|有人连夜飞港抢开户!内地投资者扎堆涌入香港券商银行,资金与投保监管全线收紧

每日经济新闻
2026-06-02 13:09:34
北京发布雷电、大风双黄色预警

北京发布雷电、大风双黄色预警

界面新闻
2026-06-02 11:23:05
终于,豆瓣还是朝着《给阿嬷的情书》打拳了,这拳打得对不对呢?

终于,豆瓣还是朝着《给阿嬷的情书》打拳了,这拳打得对不对呢?

蓬辉堂
2026-06-01 23:40:20
9死76伤,泽连斯基放弃反击,基辅改口求和后,普京一句话浇凉水

9死76伤,泽连斯基放弃反击,基辅改口求和后,普京一句话浇凉水

面包夹知识
2026-06-02 15:24:48
我手术需30万父母不理,公婆卖房救我,病好爸妈让我给弟拿200万

我手术需30万父母不理,公婆卖房救我,病好爸妈让我给弟拿200万

千秋历史
2026-05-28 19:46:33
41岁夫妻因“房事频繁”双双入院,医生提醒:每周不应超过一个数

41岁夫妻因“房事频繁”双双入院,医生提醒:每周不应超过一个数

医学原创故事会
2026-05-29 23:34:07
中国将迎来前所未有的死亡高峰,专家得出答案:是这些因素导致的

中国将迎来前所未有的死亡高峰,专家得出答案:是这些因素导致的

混沌录
2026-05-28 22:53:01
输U19国足,沙特主帅:就连中国队的进球也不是有威胁的射门

输U19国足,沙特主帅:就连中国队的进球也不是有威胁的射门

懂球帝
2026-06-02 10:00:36
上海一同学聚会吃了43万6,请客的人先行离开,剩下的人当场翻脸

上海一同学聚会吃了43万6,请客的人先行离开,剩下的人当场翻脸

萧竹轻语
2025-06-11 17:21:59
你最接近生理极限的一次经历是什么?网友分享让人目瞪口呆!

你最接近生理极限的一次经历是什么?网友分享让人目瞪口呆!

夜深爱杂谈
2026-04-09 19:39:13
黎家盈升空后香港提两要求:宇航员与学生通话,返回后尽快访港!

黎家盈升空后香港提两要求:宇航员与学生通话,返回后尽快访港!

阿龙聊军事
2026-06-02 09:55:07
原来她是梁安琪妈妈,80多岁身体棒,母女二人长得像,个子都不高

原来她是梁安琪妈妈,80多岁身体棒,母女二人长得像,个子都不高

揽星河的笔记
2026-06-02 14:23:57
2026-06-02 21:19:00
BT财经 incentive-icons
BT财经
亚洲有影响力的金融信息服务传播平台
3763文章数 9931关注度
往期回顾 全部

科技要闻

烧掉千亿后,美团、阿里、京东谁先止血?

头条要闻

菲防长称中方未展现长期诚意 外交部:完全没感恩之心

头条要闻

菲防长称中方未展现长期诚意 外交部:完全没感恩之心

体育要闻

1米74的业余联赛替补,在英超踢中卫

娱乐要闻

奚梦瑶何猷君补办婚礼超幸福

财经要闻

智元和宇树的“暗战”愈演愈烈

汽车要闻

星途神秘新车轮廓曝光 又一款性能SUV要来了?

态度原创

艺术
教育
健康
本地
军事航空

艺术要闻

周杰伦花 1.36 亿拍下这幅画

教育要闻

事关中考命题,南京一些老师被“关起来了”?

违规干细胞应用,暗藏致命隐患!

本地新闻

用剪纸的方式,打开江苏扬州

军事要闻

伊朗媒体新发布最高领袖照片

无障碍浏览 进入关怀版