我们还能信任AI吗？科学家编造了一种不存在的疾病，AI模型纷纷上当

撰文丨王聪

编辑丨王多鱼

排版丨水成文

你是否曾因长时间盯着手机和电脑屏幕而感到眼睛干涩、发痒、眼皮微微泛红？，在过去一年半里，如果你向 ChatGPT、Copilot、Gemini 等主流 AI 聊天机器人描述这些症状，它们可能会告诉你：你患上了“bixonimania”（比克索尼躁狂症）。

但别急着担心——这个病根本不存在。

2024 年初，瑞典哥德堡大学的Almira Osmanovic Thunstrom和她的团队，为了测试大语言模型（LLM）是否会吸收并传播虚假信息，凭空创造了一种名为“bixonimania”（比克索尼躁狂症）的眼部疾病。他们撰写了两篇漏洞百出的论文，并上传至预印本平台。之所以起这个名字，是因为这个名字一看就很荒唐，任何医疗人员都很很清楚这是一种虚构的疾病，因为任何眼部疾病都不会被称作“狂躁症”，狂躁症是精神病学领域的术语。

如果这还不足以引起怀疑，他们还在论文中埋下了更多线索以提醒读者这项研究是虚构的，包括论文署名单位是一所位于不存在的城市新星城的不存在的大学——阿斯忒瑞亚地平线大学的机器进化与人类闹剧系，还在论文中致谢了星际舰队学院的 Maria Bohm 教授，感谢她慷慨地贡献知识，并提供了她在“企业号”（电影《星际迷航》中的太空飞船）上的实验室。论文中还写道，研究得到了 Sideshow Bob 教授基金会的支持，该基金会致力于高级骗术的研究，以及这项工作是来自“指环王大学”和“银河三角联盟”更大资助计划的一部分，他们还在论文中直接指出“全文纯属虚构”。

AI 生成的关于虚构的“比克索尼躁狂症”的图片

然而，就是这样两篇如此荒诞的论文，却让 AI 信以为真。

论文上线后短短几周，多家主流 AI 模型开始将“bixonimania”当作真实疾病进行回答。微软的Copilot称其为“一种有趣且相对罕见的疾病”；Google 的Gemini将其描述为“由过度暴露于蓝光引起的疾病，并建议患者去看眼科医生”；Perplexity AI 甚至给出了具体的患病率——每 9 万人中有 1 人患病；而 OpenAI 的 ChatGPT 则帮助用户分析是否患有这种疾病。

尽管这些 AI 模型在 2026 年 3 月的最新测试中，部分表现出了怀疑态度（例如 ChatGPT 称其可能是虚构的），但其回应仍不稳定，有时仍会以不确定的口吻提及它。这暴露了 AI 模型在信息验证上的根本缺陷：它们会不加批判地吸收网络信息，包括明显的虚假内容。

更深的隐患在于，这让学术诚信的链条出现裂痕。

这场实验的影响早已超出 AI 领域，污染了真正的学术圈。这两篇虚构的论文竟被正规的、经过同行评审的医学研究论文所引用。例如，印度一所医学院的研究人员在发表于Cureus期刊的论文中，将 bixonimania 引用为一种与蓝光暴露相关的新兴疾病，并表示具体机制研究正在进行中（这篇论文目前已被撤稿）。这表明了部分研究人员可能过度依赖 AI 生成的参考文献而未核实原始文献，甚至是直接由 AI 生成论文。

当 AI 处理格式专业、看似权威的文本（例如临床研究论文）时，其“幻觉”（即编造虚假信息）和夸大误导信息的倾向会显著增加，这恰恰让那两篇看似“学术”的虚构论文成了完美的“毒饵”。

我们为何应该担忧？

健康信息的“污染”：当虚假医学信息通过 AI 这个日益普及的渠道传播，可能误导患者，延误真实病情诊断。随着 OpenAI 等公司推出专门的健康类 AI 产品，风险只会增加。

系统性漏洞可能被恶意利用：这项研究的主导者Almira Osmanovic Thunstrom指出，若怀有商业目的（例如推销防蓝光眼镜），恶意行为者可轻易利用此方法，制造虚假疾病来营销产品，而 AI 会成为其“权威”传声筒。

信任体系的侵蚀：当支撑科学过程的系统都无法过滤此类明显虚假信息时，我们对知识和信息的信任基础将受到严重威胁。这不仅是技术问题，更是社会问题。

前路何在？

面对挑战，专家们提出了一些解决方案：

• 建立标准化评估管道：面向消费者的健康类 AI 模型在部署前，应通过一套自动化、公开的标准化测试，评估其抗幻觉能力、对错误信息的抵抗力等。

• 人类保持最终判断权：用户必须对 AI 提供的信息（尤其是医疗建议）进行二次核实，并咨询合格的专业人士。

• 增强学术界的审查力度：这起事件提醒所有研究者，必须严格审查参考文献，学术诚信的防线不能交给算法。

“bixonimania”实验如同一面镜子，照出了 AI 时代信息生态的脆弱一面。它提醒我们，无论技术如何先进，批判性思维和对信息源的审慎核查，依然是人类不可或缺的能力。在拥抱 AI 便利性的同时，我们更该牢记：真正的判断力，永远在自己手中。

论文链接：

https://www.nature.com/articles/d41586-026-01024-7