网易首页 > 网易号 > 正文 申请入驻

从“双头虾”到一万张鸟类贴纸,“AI泔水”正在污染知识

0
分享至

来源:市场资讯

(来源:澎湃新闻)

AI泔水(AI Slop),正在侵蚀人类的知识世界。这个词在2025年入选《韦氏字典》年度词汇,专门用来形容由人工智能批量生产、质量低劣的数字内容。


出现双头虾的《南海海洋生物科普丛书》中,绝大多数图片均由AI绘图工具生成。图片来源:澎湃新闻

近日,中国农业出版社出版的《南海海洋生物科普丛书》,因出现不符合常识的“双头虾”配图引发争议,出版社回应称正通知下架并召回。知情人士对界面新闻表示,图片原本是为了表现斑节对虾蜕壳,但因AI技术使用不成熟,导致呈现效果失真。

一只虾多长了一个头,谁都知道有问题。可如果一只蜂鸟被画出了麻雀般的长腿,又有多少人能看出来?

几乎同时,一位独立开发者用AI制作了覆盖全球11064种鸟类的贴纸,并且将这批写实风格的贴纸免费开源允许商用,引发了观鸟社群的批评。有科普博主指出,AI可能画错鸟类的关键特征,写实风格的图片如果被用于识鸟和自然教育,反而可能传播错误知识,造成数据污染。


图片来源:小红书

面对批评,开发者多少有些委屈:这些贴纸只是插画,不能代替专业图鉴。他还投入超过10亿Token用于生成和审核,AI又评审了这些AI生成贴纸的准确性。所打的准确分,开发者还保留下来供使用者自行判断。

然而,看似无害的开源插画,一旦进入互联网的内容流通体系,便可能产生超出创作者预期的影响。一万张鸟类贴纸,不仅可能被人们当作知识传播,还可能在反复引用、二次创作乃至AI训练中,成为下一轮内容生产的素材。当AI制造的错误,又成为AI学习和生成的依据,细微的失真就可能被不断复制、放大。

“双头虾”未必是这一过程的产物,却让这种风险有了更直观的注脚。两件事性质不同,却共同提出了一个问题:AI已经可以大规模生产看起来逼真的知识性内容,我们是否有能力为它们的准确性负责?

AI生成文章占比过半,去伪存真更难了

AI内容的生产速度,已经快到足以改变互联网的内容结构。

一个重要的拐点已经出现。数据分析公司Graphite从Common Crawl数据库抽取约5.54万篇英文文章,利用多种工具识别其创作方式。这个抽样实验显示,自ChatGPT发布以来,AI生成文章占比快速攀升,2025年起与人类创作基本持平。


需要说明的是,AI生成内容并不等于低质内容。AI可以降低科普创作的门槛,让原本耗费大量人力的插画、动画和视觉呈现变得更容易。

但效率的另一面,是验证成本。产能上去了,验证真伪的能力,不论是普通人还是工具,都未必跟得上。

在鸟类贴纸的项目中,开发者将真实鸟类照片交给AI生成贴纸,再用另一套AI审核。他发现,AI可能画错虹膜颜色,甚至给蜂鸟安上麻雀般的长腿。

AI可以把鸟画得很像,却未必能把每一种鸟画对。而AI张冠李戴的细节,恰恰是观鸟爱好者辨认物种的关键特征,也是科普的准确性底线。

“AI泔水”正大肆进入科普领域

AI内容的质量问题,在科普领域尤其值得警惕。

2026年6月,视频编辑平台Kapwing抽查了TikTok(抖音海外版)上10472条热门标签视频,发现儿童类内容中,57.4%被判定为AI泔水;科学与教育、健康、历史类内容的占比也都超过三成。

原本承担严谨知识传播功能的内容类别,正在成为“AI泔水”的聚集地。


更深层的矛盾在于,科普内容追求的是准确性,流量竞争却更看重注意力。AI可能产生幻觉,编造事实、混淆概念,但在批量生产的流量生意里,创作者未必愿意为每一条内容投入专业审核的时间和成本。

AI已经可以大规模生产看起来逼真的知识性内容,将其隔离在内容生产领域已近乎不可能,但我们其实尚未真正解决这种不准确带来的内容误导与知识污染。

当错误经过反复传播,还可能变成广为接受的“知识”。

2008年,一名17岁的美国少年在维基百科中给长鼻浣熊(coati)编造了一个名称——“巴西土豚”(Brazilian aardvark)。

本来只是个恶作剧,却被多家媒体转载,甚至进入芝加哥大学出版社出版的书籍。更荒诞的是,维基百科后来又引用了一篇转载这条错误信息的新闻报道,为这个错误提供了“证据”。

直到2014年,《纽约客》才揭开这个持续多年的错误。

一个凭空编造的名称,在传播中获得了“权威出处”,又反过来证明自己是真的。

2024年,《Nature》的一项研究指出,在特定的递归训练条件下,模型反复学习前代AI生成的数据,可能发生“模型坍塌”:原始数据中罕见的信息逐渐丢失,生成结果越来越偏离原始数据。

AI究竟应该在多大程度上参与知识生产?

北京印刷学院出版学院教授叶文芳在“双头虾”事件后接受采访时提出,AI辅助出版要满足三个前提:标识可识别、内容可核验、责任可追溯。

她认为,在装饰性、示意性或虚构场景再现中,可以使用经过核验的AI插图;但在物种形态、实验装置、医学图示等准确性至关重要的领域,不能缺少领域专家的审查就作为定稿使用。

这一判断,也与国际学术界的讨论相呼应。

2025年发表于《Ethics and Information Technology》的一项研究指出,对AI生成科学插图的判断,不应简单以是否使用AI为标准,而应考虑图像的传播目的、错误性质以及可能造成的后果。

一张用于营造氛围的鸟类插画,可以有艺术化表达;但如果用来教人识别物种,喙的形状、虹膜的颜色,就不能随意发挥。

这也是为什么,科普对AI的使用不能只停留在“有没有标注”上。中国科协2026年发布的《科技工作者科普创作指南》,已经明确鼓励AI辅助文本创作,同时要求专业人员全程发挥判断,严格审核科学原理、引用和事实。

AI可以降低知识的表达成本,却不能降低知识成立的证据标准。

从“双头虾”到万张鸟贴纸,争议的关键不是有没有使用AI,而是谁来为AI生成的内容负责。

澎湃新闻记者陈良贤对本文亦有贡献

澎湃新闻记者 孔家兴 王亚赛

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
李宗伟现状:瘦到快脱相,吃饭都很痛苦,已是马来西亚羽总主席

李宗伟现状:瘦到快脱相,吃饭都很痛苦,已是马来西亚羽总主席

青梅侃史啊
2026-09-26 16:37:23
2008年的一次聚餐上,张伟平酒后用手指戳赵本山头,赵本山没有争执;事后张伟平解释称:他脑袋里有支架,我让他血管再堵上,我戳死他

2008年的一次聚餐上,张伟平酒后用手指戳赵本山头,赵本山没有争执;事后张伟平解释称:他脑袋里有支架,我让他血管再堵上,我戳死他

人生录
2026-11-11 00:05:16
现货黄金跌破3600美元!实探深圳水贝:买家等到了心理价位,商家却喊“补早了”

现货黄金跌破3600美元!实探深圳水贝:买家等到了心理价位,商家却喊“补早了”

澎湃新闻
2026-11-20 08:32:53
中美元首会晤,特朗普:请中国继续保持强大

中美元首会晤,特朗普:请中国继续保持强大

澎湃新闻
2026-11-19 18:17:23
明年可能是中华人民共和国全党、全军、全国各族人民,重要的一年

明年可能是中华人民共和国全党、全军、全国各族人民,重要的一年

文刀贰
2026-10-29 22:45:54
中俄共赢方案:3艘航母、60艘军舰,换俄方20年能源供给?能行吗

中俄共赢方案:3艘航母、60艘军舰,换俄方20年能源供给?能行吗

浩渺青史
2026-10-22 14:40:54
灰熊5连胜双杀送勇士5连败:探花16+6+5 伦德博格11+8+7

灰熊5连胜双杀送勇士5连败:探花16+6+5 伦德博格11+8+7

醉卧浮生
2026-11-20 11:28:19
主要股指均已全面进入熊市

主要股指均已全面进入熊市

边际财经实验室
2026-11-20 20:07:15
出人意料,APEC结束仅1天,中国三个“土特产”就在全球火出圈

出人意料,APEC结束仅1天,中国三个“土特产”就在全球火出圈

金戈远望
2026-11-21 00:35:03
2000年历史重演,反弹之后才是真正的崩跌?

2000年历史重演,反弹之后才是真正的崩跌?

华尔街见闻官方
2026-11-20 21:24:59
中国已经成为全球第一个集体拒接电话的国家

中国已经成为全球第一个集体拒接电话的国家

黯泉
2026-06-26 10:44:35
林恬儿与新欢私密照外泄,疑前夫何正德泄露,曝两人曾共用云账户

林恬儿与新欢私密照外泄,疑前夫何正德泄露,曝两人曾共用云账户

动物奇奇怪怪
2026-11-20 12:09:04
搓澡大姐干了8年说实话:女人脱了衣服才发现的5个真相,太扎心

搓澡大姐干了8年说实话:女人脱了衣服才发现的5个真相,太扎心

月明风清1029
2026-11-09 12:35:48
《GTA6》文件惨遭泄露 MOD作者:最快下周能移植PC

《GTA6》文件惨遭泄露 MOD作者:最快下周能移植PC

游民星空
2026-11-20 20:09:09
中俄美深圳和平宣言到底讲了什么?

中俄美深圳和平宣言到底讲了什么?

码头青年
2026-11-20 13:04:21
国安球迷意难平!不止因为0-2不敌海港,更多在于以下这五点!

国安球迷意难平!不止因为0-2不敌海港,更多在于以下这五点!

田先生篮球
2026-11-20 22:25:43
一旦有过肌肤之亲,双方不再联系、不再纠缠,往往就这 5 种情况

一旦有过肌肤之亲,双方不再联系、不再纠缠,往往就这 5 种情况

风起见你
2026-11-19 05:03:59
GTA6太逼真!目睹NPC出车祸 当证人还能分赔偿金

GTA6太逼真!目睹NPC出车祸 当证人还能分赔偿金

游民星空
2026-11-19 16:36:33
关羽确定被活捉时为啥不自刎?网友们剖析太精辟,当时所有人都懵圈

关羽确定被活捉时为啥不自刎?网友们剖析太精辟,当时所有人都懵圈

另子维爱读史
2026-11-19 20:39:07
【微特稿】日本连发儿童受虐致死事件 政府拟全国排查

【微特稿】日本连发儿童受虐致死事件 政府拟全国排查

新华社
2026-11-20 20:43:03
2026-11-21 01:44:49
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
5571730文章数 10044关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

数码
本地
亲子
公开课
军事航空

数码要闻

英特尔公布D270加速器成绩单 部分专业计算性能最高领先英伟达近六倍

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

亲子要闻

为什么儿童烫伤后要立即冲凉水?专家释疑

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

沙特首都第一高楼遭袭:炮弹从天而降

无障碍浏览 进入关怀版