网易首页 > 网易号 > 正文 申请入驻

从“双头虾”到一万张鸟类贴纸,“AI泔水”正在污染知识

0
分享至

AI泔水(AI Slop),正在侵蚀人类的知识世界。这个词在2025年入选《韦氏字典》年度词汇,专门用来形容由人工智能批量生产、质量低劣的数字内容。


出现双头虾的《南海海洋生物科普丛书》中,绝大多数图片均由AI绘图工具生成。图片来源:澎湃新闻

近日,中国农业出版社出版的《南海海洋生物科普丛书》,因出现不符合常识的“双头虾”配图引发争议,出版社回应称正通知下架并召回。知情人士对界面新闻表示,图片原本是为了表现斑节对虾蜕壳,但因AI技术使用不成熟,导致呈现效果失真。

一只虾多长了一个头,谁都知道有问题。可如果一只蜂鸟被画出了麻雀般的长腿,又有多少人能看出来?

几乎同时,一位独立开发者用AI制作了覆盖全球11064种鸟类的贴纸,并且将这批写实风格的贴纸免费开源允许商用,引发了观鸟社群的批评。有科普博主指出,AI可能画错鸟类的关键特征,写实风格的图片如果被用于识鸟和自然教育,反而可能传播错误知识,造成数据污染。


图片来源:小红书

面对批评,开发者多少有些委屈:这些贴纸只是插画,不能代替专业图鉴。他还投入超过10亿Token用于生成和审核,AI又评审了这些AI生成贴纸的准确性。所打的准确分,开发者还保留下来供使用者自行判断。

然而,看似无害的开源插画,一旦进入互联网的内容流通体系,便可能产生超出创作者预期的影响。一万张鸟类贴纸,不仅可能被人们当作知识传播,还可能在反复引用、二次创作乃至AI训练中,成为下一轮内容生产的素材。当AI制造的错误,又成为AI学习和生成的依据,细微的失真就可能被不断复制、放大。

“双头虾”未必是这一过程的产物,却让这种风险有了更直观的注脚。两件事性质不同,却共同提出了一个问题:AI已经可以大规模生产看起来逼真的知识性内容,我们是否有能力为它们的准确性负责?

AI生成文章占比过半,去伪存真更难了

AI内容的生产速度,已经快到足以改变互联网的内容结构。

一个重要的拐点已经出现。数据分析公司Graphite从Common Crawl数据库抽取约5.54万篇英文文章,利用多种工具识别其创作方式。这个抽样实验显示,自ChatGPT发布以来,AI生成文章占比快速攀升,2025年起与人类创作基本持平。


需要说明的是,AI生成内容并不等于低质内容。AI可以降低科普创作的门槛,让原本耗费大量人力的插画、动画和视觉呈现变得更容易。

但效率的另一面,是验证成本。产能上去了,验证真伪的能力,不论是普通人还是工具,都未必跟得上。

在鸟类贴纸的项目中,开发者将真实鸟类照片交给AI生成贴纸,再用另一套AI审核。他发现,AI可能画错虹膜颜色,甚至给蜂鸟安上麻雀般的长腿。

AI可以把鸟画得很像,却未必能把每一种鸟画对。而AI张冠李戴的细节,恰恰是观鸟爱好者辨认物种的关键特征,也是科普的准确性底线。

“AI泔水”正大肆进入科普领域

AI内容的质量问题,在科普领域尤其值得警惕。

2026年6月,视频编辑平台Kapwing抽查了TikTok(抖音海外版)上10472条热门标签视频,发现儿童类内容中,57.4%被判定为AI泔水;科学与教育、健康、历史类内容的占比也都超过三成。

原本承担严谨知识传播功能的内容类别,正在成为“AI泔水”的聚集地。


更深层的矛盾在于,科普内容追求的是准确性,流量竞争却更看重注意力。AI可能产生幻觉,编造事实、混淆概念,但在批量生产的流量生意里,创作者未必愿意为每一条内容投入专业审核的时间和成本。

AI已经可以大规模生产看起来逼真的知识性内容,将其隔离在内容生产领域已近乎不可能,但我们其实尚未真正解决这种不准确带来的内容误导与知识污染。

当错误经过反复传播,还可能变成广为接受的“知识”。

2008年,一名17岁的美国少年在维基百科中给长鼻浣熊(coati)编造了一个名称——“巴西土豚”(Brazilian aardvark)。

本来只是个恶作剧,却被多家媒体转载,甚至进入芝加哥大学出版社出版的书籍。更荒诞的是,维基百科后来又引用了一篇转载这条错误信息的新闻报道,为这个错误提供了“证据”。

直到2014年,《纽约客》才揭开这个持续多年的错误。

一个凭空编造的名称,在传播中获得了“权威出处”,又反过来证明自己是真的。

2024年,《Nature》的一项研究指出,在特定的递归训练条件下,模型反复学习前代AI生成的数据,可能发生“模型坍塌”:原始数据中罕见的信息逐渐丢失,生成结果越来越偏离原始数据。

AI究竟应该在多大程度上参与知识生产?

北京印刷学院出版学院教授叶文芳在“双头虾”事件后接受采访时提出,AI辅助出版要满足三个前提:标识可识别、内容可核验、责任可追溯。

她认为,在装饰性、示意性或虚构场景再现中,可以使用经过核验的AI插图;但在物种形态、实验装置、医学图示等准确性至关重要的领域,不能缺少领域专家的审查就作为定稿使用。

这一判断,也与国际学术界的讨论相呼应。

2025年发表于《Ethics and Information Technology》的一项研究指出,对AI生成科学插图的判断,不应简单以是否使用AI为标准,而应考虑图像的传播目的、错误性质以及可能造成的后果。

一张用于营造氛围的鸟类插画,可以有艺术化表达;但如果用来教人识别物种,喙的形状、虹膜的颜色,就不能随意发挥。

这也是为什么,科普对AI的使用不能只停留在“有没有标注”上。中国科协2026年发布的《科技工作者科普创作指南》,已经明确鼓励AI辅助文本创作,同时要求专业人员全程发挥判断,严格审核科学原理、引用和事实。

AI可以降低知识的表达成本,却不能降低知识成立的证据标准。

从“双头虾”到万张鸟贴纸,争议的关键不是有没有使用AI,而是谁来为AI生成的内容负责。

澎湃新闻记者陈良贤对本文亦有贡献

澎湃新闻记者 孔家兴 王亚赛

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
和王楚钦绯闻尘埃落定后,32岁陈梦近况曝光,丝毫不感到意外

和王楚钦绯闻尘埃落定后,32岁陈梦近况曝光,丝毫不感到意外

深度解析热点
2026-11-20 14:13:10
烤全羊1600元剥不出1两肉,店家耍无赖,官方出手,社死仅开胃菜

烤全羊1600元剥不出1两肉,店家耍无赖,官方出手,社死仅开胃菜

琴琴有氧运动
2026-11-19 21:10:29
年底最后一波好运:11月底起贵人扎堆、财运翻身的3生肖

年底最后一波好运:11月底起贵人扎堆、财运翻身的3生肖

星缘生肖
2026-11-19 11:47:47
反催婚界出了个天才!父母资金链断了,网友:催到大动脉了

反催婚界出了个天才!父母资金链断了,网友:催到大动脉了

夜深爱杂谈
2026-11-12 22:34:14
27+26+24!全场嘘声!7年情谊,一拳打没了...

27+26+24!全场嘘声!7年情谊,一拳打没了...

左右为篮
2026-11-19 12:09:35
现货黄金跌破760元!金饰克价跌破1100元,年内已暴跌超600元

现货黄金跌破760元!金饰克价跌破1100元,年内已暴跌超600元

半岛晨报
2026-11-20 11:41:46
2天后挑战利物浦!曼联基地被偷拍12分钟 波帅首堂训练课视频曝光

2天后挑战利物浦!曼联基地被偷拍12分钟 波帅首堂训练课视频曝光

风过乡
2026-11-20 06:41:04
72岁外交部部长王毅:我也喜欢跑步,但不追求速度!曾鼓励年轻人一定要多运动

72岁外交部部长王毅:我也喜欢跑步,但不追求速度!曾鼓励年轻人一定要多运动

小方说跑步
2026-11-19 11:59:00
中国日本韩国吸烟率对比:日本17.5%,韩国18.6%,中国是多少?

中国日本韩国吸烟率对比:日本17.5%,韩国18.6%,中国是多少?

荆楚寰宇文枢
2026-10-27 22:10:25
40万人等待直播,他却心脏骤停在旅馆……韩国传奇学霸拟“自证清白”当天缺席,此前因从差生逆袭满分优等生引关注,被指用AI作弊

40万人等待直播,他却心脏骤停在旅馆……韩国传奇学霸拟“自证清白”当天缺席,此前因从差生逆袭满分优等生引关注,被指用AI作弊

都市快报橙柿互动
2026-11-20 08:17:01
巴基斯坦专家坦言:这3场战争已说明,中国才是世界最强超级大国

巴基斯坦专家坦言:这3场战争已说明,中国才是世界最强超级大国

凡知
2026-10-14 17:19:11
他接受纪律审查和监察调查

他接受纪律审查和监察调查

锡望
2026-11-19 17:06:18
闹掰了?有理想员工称“一天收宁德时代三封催债邮件”,8月从宁德前五大客户中消失

闹掰了?有理想员工称“一天收宁德时代三封催债邮件”,8月从宁德前五大客户中消失

红星新闻
2026-11-19 14:51:15
27分+24板!法尔要是有他50%的水平,76人都能成为争冠热门

27分+24板!法尔要是有他50%的水平,76人都能成为争冠热门

移动挡拆
2026-11-20 13:18:32
邝港智称谭方骏喜欢自己,为传宗接代三人共同生活,蔡天凤再婚是为了钱

邝港智称谭方骏喜欢自己,为传宗接代三人共同生活,蔡天凤再婚是为了钱

开开森森
2026-11-19 17:30:57
刚刚,人类史上最大IPO诞生!父亲病逝、自己患癌,Anthropic掌门人的下一站:用AI治愈疾病

刚刚,人类史上最大IPO诞生!父亲病逝、自己患癌,Anthropic掌门人的下一站:用AI治愈疾病

智药局
2026-11-20 02:29:34
张国焘晚年写回忆录时骂遍了近代大批风云人物,但唯独对这两人始终保持着高度崇敬

张国焘晚年写回忆录时骂遍了近代大批风云人物,但唯独对这两人始终保持着高度崇敬

唠叨说历史
2026-11-09 15:37:04
中国脑洞大开,突破爆震发动机禁锢,补全六代机最后的一块拼图

中国脑洞大开,突破爆震发动机禁锢,补全六代机最后的一块拼图

干史人
2025-03-04 08:30:03
哈兰德26岁已进399球,同龄C罗少进165球

哈兰德26岁已进399球,同龄C罗少进165球

懂球帝
2026-11-20 13:12:53
晒晒我从山姆买的11个“厨房好物”,每一件都“夯爆了”,值得买

晒晒我从山姆买的11个“厨房好物”,每一件都“夯爆了”,值得买

三农老历
2026-11-20 07:24:48
2026-11-20 14:52:49
澎湃新闻 incentive-icons
澎湃新闻
专注时政与思想的新闻平台。
949029文章数 5098911关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

特朗普返美途中发文:这是一次伟大且意义深远的访问

头条要闻

特朗普返美途中发文:这是一次伟大且意义深远的访问

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

袁茵却用事实证明 活得并不差!

财经要闻

Anthropic敲钟 美股跳水:AI狂欢结束?

汽车要闻

方程豹钛9实测 堪称比亚迪最强混动的DMS到底怎么样?

态度原创

本地
时尚
房产
手机
亲子

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

今年冬天不穿大衣了?这件“非凡外套”才是真顶流!

房产要闻

收益率30%!海南杀出国内最赚钱的“接盘侠”!

手机要闻

能让iPhone跑安卓App的虚拟机Andarium被苹果App Store火速下架

亲子要闻

二宝出生后,大宝突然要抱要喂,怎么引导?

无障碍浏览 进入关怀版