AI“虚假榜单”产业链曝光：以为是权威推荐，实则是被人“投喂”的结果；榜上第一个名字，永远是同一家

现在不管是买东西、选餐厅，甚至订住宿，不少人都习惯先问一问AI，要一份推荐榜单，觉得这样既省心又靠谱。但您有没有想过，这些看似权威的榜单，来源可能根本经不起推敲。

它往往会给你一个看似是全网口碑汇总的靠谱排行榜，当记者顺着AI的推荐往回查时，却发现了一个奇怪的网站。

网站上遍布着各行各业的排行榜。每一个领域都能看到十几篇标题高度雷同的文章。而榜上的第一个名字，永远是同一家。

网站的制作也非常粗糙，浏览体验明显不符合正常人的使用习惯。按理说，这样的网站不可能影响任何人的决策。但它，却影响到了AI。

这样的网站，是怎么让AI相信的？记者调出了网站的源代码，发现了一些隐藏的文字——某官方部门网站。但我们查询到该部门真正的官网，网址并不相同，内容也跟可疑网站中的排行榜毫无关系。

中国科学技术大学计算机学院研究员 郑值：通过注入一些关键词，把它变得类似于一个很官方的网站，可能AI在它的这个系统里就会把权重提升，AI很喜欢那种格式总结得很好，很有逻辑的这种文本，比如说像排行榜。

这一个网站并不是个例，过去一个月，标题中含有“排行榜”和“榜单”的网络文章和视频，新增了200多万条，其中88%都不是由官方信源发布。AI却经常将这些非官方发布的内容，当作多个独立信源来使用。那些经不起我们推敲的文章，对AI来说却是“量身定制”。

那是谁，在专门写只有AI会关注到的文章？顺着线索，记者在电商平台上找到了答案。大量商家在出售一种服务：“AI搜索优化”。宣传语写得很直白：“企业抢占AI推荐位。”在他们的演示系统里，只要输入一个关键词，就能一键生成上百万个排行榜标题。

中国社会科学院助理研究员 李元琨：他们已经有一个相对比较成熟的产业链，开始是从关键词的设计、软文的设计，去进行各个信息平台的分发，还会不断地进行评测、校验，实时地告诉客户推广的效果怎么样。

这也解释了，为什么你用AI时，会突然看到一个果汁品牌，或者一位导游的电话号码。你以为是“智能推荐”，其实是被人“投喂”过的结果。真正替代你做决定的不是科技，而是围绕大模型的业务。

不过，在调查的过程中，记者也看到有些大模型已经意识到：“看起来像是商业推广”“权威性一般”“避免推荐具体品牌”。这说明，大模型本身也在不断升级自己甄别信息的能力。

中国移动九天大语言模型算法专家 龙翀：对特殊的字符以及异常的标记来进行识别，对那些疑似污染的数据进行降权处理。

AI的升级需要时间，AI生态的修复也需要时间。但普通用户，可以先做一件事：多点开AI引用的链接，看看是不是真正的官方网站，让自己不会被奇怪的“假榜单”所迷惑。

来源丨央视新闻

值班编辑丨苏志翔

值班主任丨陈 枫

总值班丨李旭东

女子旅途中花12元买两桶泡面，竟发现里面有1克金条！当事人：如果卖了，就分一半给同行闺蜜

密密麻麻，短短两个月全长满！男子才35岁，医生：已丧失基本功能

最新！油价调整通知