Google AI误信愚人节恶作剧故事 将其当作真实新闻

愚人节恶作剧纯粹是为了好玩，除非人们太当真，机器自然也会这样。一位威尔士记者发现，人工智能时代的网络笑话并不那么好笑，他这个无伤大雅的小笑话展示了人工智能如何捕捉新的虚假信息并将其传播为事实。

每年 4 月 1 日，本·布莱克 (Ben Black) 都会对他的社区新闻网站 Cwmbran Life 的读者们开个玩笑。这位 48 岁的记者多年来一直在编造愚人节恶作剧，从搞笑到荒谬，应有尽有。

2020 年，他编造了一篇关于库姆布兰创下每平方公里环形交叉路口数量最多的吉尼斯世界纪录的故事，该故事自此一发不可收拾。该故事发布一天后，他不得不更新文章以澄清这是愚人节玩笑。然而，这并没有阻止一家更知名的出版物摘录该故事并将其作为“新闻”发布。更糟糕的是，布莱克要求该网站删除该故事。该网站拒绝了，但那是人为错误。

时间快进到 2025 年，Ben震惊地发现，Google的 AI 概览以他的虚假故事为基础，将其作为事实进行总结。虽然这不是危险的虚假信息，但这一事件是一个典型例子，说明虚假新闻传播得多么容易，即使是来自可靠来源的也是如此。

布莱克告诉 BBC：“有人在Google上搜索‘威尔士的道路’，竟然会发现我编造的故事并相信它，这真的很可怕。”布莱克还认为，这起事件暴露了人工智能对小型独立出版商构成了日益严重的威胁。虽然主要媒体与人工智能公司达成了利润丰厚的合作协议，但他说，像他这样的小媒体却被冷落了，因为他们的原创内容未经许可就被挖掘和重新利用。

当然，互联网上的讽刺新闻概念并不新鲜。像 The Onion 和 The Babylon Bee 这样的媒体已经存在了很长时间。大型语言模型可能“意识到”这些众所周知的例子，也许还有其他例子，并将它们与真实新闻区别对待。然而，考虑到 Cwmbran Life 是一个真正的新闻网站，人工智能无法分辨出区别，并认真对待这个恶作剧。

可悲的是，这场混乱让布莱克彻底放弃了愚人节的传统。也许开发人员应该编写 LLM 程序，在报告“事实”之前寻找更多背景信息，尤其是在 4 月 1 日。