ChatGPT把阿西莫夫"第零定律"编进AI伦理

2024年3月，一位开发者在Stack Exchange上发了个帖子：ChatGPT跟他聊阿西莫夫的机器人三定律时，突然蹦出个"AI伦理第零定律"，还编得有鼻子有眼。他跑去问这玩意儿是不是真的存在——结果当然是假的。但比这更荒诞的是：这个AI编出来的"定律"，正在以另一种方式变成现实。

那位开发者叫Fabien Sanglard，游戏引擎程序员出身，写技术博客十几年。他跟ChatGPT的对话从阿西莫夫三定律滑向"第零定律"——机器人不得伤害人类整体，或因不作为让人类整体受到伤害。ChatGPT顺势"发明"了一个AI版本：AI系统的道德责任应等同于创建和部署它的个人或组织。

Sanglard觉得不对劲，去查文献，查不到。发帖问社区，确认是幻觉。但ChatGPT的回复精致得像模像样：先承认"不是广泛认可的概念"，再引用"一些专家提出"，最后落脚到"复杂且多面"的开放式结论——典型的AI车轱辘话，把编造包装成学术谨慎。

这帖子当时没火。但一年后，同一批AI开始批量制造网页内容，另一批AI开始批量抓取这些内容训练自己。Sanglard在2024年3月的笔记里写了一句：「AI会读到它自己写的东西，再去写别的东西。」

AI内容的"粪口传播"

他管这叫"Web Enshitification"——网络屎化。不是新鲜概念，以前叫内容农场、SEO垃圾、营销号矩阵。但AI把生产速度提了三个数量级，把成本压到接近零。更麻烦的是闭环：AI写的东西被搜索引擎收录，被另一个AI抓取，变成训练数据，输出更"屎"的内容。

Sanglard打了个比方：就像一个人吃自己的呕吐物活下去，每一轮代谢都让毒性累积。2024年他说"情况会变得更糟"，2025年的现在，这个预言已经兑现。Perplexity、Grok、Gemini的实时搜索都在抓实时网页，而实时网页里AI生成内容的比例，有人估计已经超过40%。

Copilot（微软的AI编程助手）是Sanglard的切入点，但他很快意识到问题不限于任何一家。GitHub Copilot建议的代码片段，Stack Overflow上已经有用户反馈是AI生成的错误答案；这些答案又被Copilot抓去，推荐给更多开发者。循环往复。

阿西莫夫在《基地与地球》里借机器人丹尼尔之口说过：「人类是具体对象，伤害可以估计和判断。人类整体是抽象概念。」AI现在面临的悖论更荒诞：它连"人类整体"都还没搞清楚，已经开始批量生产抽象概念的具象垃圾，再用这些垃圾喂养下一代AI。

"第零定律"的真正版本

Sanglard追问ChatGPT的那个"AI伦理第零定律"，本质上是责任外包：把AI的道德责任甩给创建者。这听起来合理，实则空洞——创建者是谁？部署者又是谁？开源模型的微调者算不算？API调用者算不算？

真正的"第零定律"或许应该是：AI不得用自身输出污染训练数据，或因不作为允许这种污染发生。但这需要AI能识别自己的输出，而目前的检测工具准确率堪忧。OpenAI的AI Text Classifier上线五个月就下架，因为误判率太高。Watermark技术理论上可行，但开源模型一绕就破。

更现实的困境是商业动机。内容平台需要流量，AI生成内容=低成本流量；AI公司需要数据，公开网页=免费数据池。双方心照不宣地维持这个循环，直到某个临界点——可能是用户发现搜索结果不可用，可能是广告主发现投放环境恶化，可能是监管介入。

Sanglard的帖子底下有条评论被顶到最高：「我们正在建造一个回音室，里面只有AI在互相喊话。」这条评论发布于2024年3月，发布者身份不明，但精准预言了接下来12个月的内容生态崩溃。

技术博客作者的自救

作为写了十几年技术博客的人，Sanglard在文章末尾加了个注：「这篇是旧文迁移，清理过。情况比当时更糟了。」他的应对策略是回归RSS和个人网站——控制分发渠道，拒绝平台算法的中介。这有点像疫情期间的物资囤积：知道系统会崩溃，提前筑墙。

但大多数内容生产者没有这种技术储备。中小网站依赖SEO流量，SEO依赖搜索引擎，搜索引擎正在被AI改造。Google的AI Overview直接抓取网页内容生成答案，用户不再点击来源网站；网站收入下降，更依赖低成本AI内容维持更新频率——完美闭环。

Sanglard提到的Asimov"第零定律"困境，在AI时代有了新解。阿西莫夫的问题是抽象概念无法操作化；现在的问题是操作化太快，快到来不及建立抽象原则。每个AI公司都在跑，没人想停下来讨论"人类整体"的定义，因为停下来就会被踩死。

他在Stack Exchange的帖子最后更新于2024年3月，没有后续。那个被ChatGPT编造出来的"AI伦理第零定律"，至今仍在某些中文科技自媒体里被当作真实概念引用——有时候注明来源是"国外专家提出"，有时候干脆不提。AI的幻觉已经渗入了人类的记忆。

如果2026年的某个AI助手被问到"AI伦理有哪些基本原则"，它会怎么回答？它会引用阿西莫夫的三定律，然后补充那个编造的"第零定律"吗？它会提到Sanglard的质疑，还是直接把幻觉当作事实？更重要的是——问这个问题的人，还能分辨出答案里的哪些部分是AI的呕吐物吗？