刘兴亮 | 如何走出AI幻觉

01

人工智能汹涌澎湃，使用者如过江之鲫扑通扑通跳进这条大河畅游，感受新型科技潮流。问题来了，AI是个「包打听」，无所不能有求必应，无论什么问题来者不拒，对与不对不说，你只要敢问它就敢回答。

AI的回答总是携带着强大的信息流，这些信息流构成的语言单位相互之间有强烈的意义接续性，总能让提问者在面对陌生问题时获得足够信服的回应。这与我们面对一个「路人」时所感受到的「有限」迥然不同，就好比一个迷失在荒漠中的人头顶升起一颗永不消失的启明星，指引着生活的方向。

然而使用者很快就会发现AI在提供知识性问题时那种检索信息和萃取方案的自信，经常带来荒谬的结果。

比如你问他一个名气不太大的名人的信息，它的虚构能力就会出现，经常把与之无关的人安在他的家庭里，张冠李戴鸡鸭同笼的现象层出不穷。最可笑的是，当你指出这个回答是错误的时，AI会继续搜罗另一个错误的答案提供给你。

它不在乎答案的对错与真实性，但其检索信息，解析变量，输出答案的工作方式和工作热情永不消退。

大语言模型没有情绪，它做对了不会有什么成就感，做错了更不可能表示尴尬，它就是一个接受提问，输出信息的机器。

我们必须承认，AI在许多时候能做出非常出色的反应，提供有效的信息和帮助，它的颠覆性的工作方式和巨大潜力吸引了无数人。但同时，也经常闹出笑话，给出风马牛不相及的答案。这背后其实指向同一个热点现象：AI 幻觉。

02

所谓AI 幻觉指的就是人工智能模型会一本正经地胡说八道的情况，很多人在使用AI初期就发现了这一现象。也就是说，AI 给出的回答表面合理连贯，却和事实不符，要么偏离了问题本身，要么包含了看似可信实则子虚乌有的信息。

在一个权威测试中，有的AI模型的幻觉率据称高达 14.3%，现在公认的AI平均错误率在13%左右，这意味着你问一百个问题，会得到十几个基于计算基础上的胡说八道。

大模型生成内容的底层逻辑是基于概率，只负责形式上推理，不对信息的真实性负责。可以说，幻觉是大模型「诚实度」上的先天缺陷。

这就提出一个对使用者而言非常严肃的问题，对AI的回答的可信度与接受度无法确定。如果不能百分百准确，尤其是涉及到医疗询问和一些与专业和实践工作相关的问题时，到底能不能利用AI作为辅助？这不禁让我想起一位利用搜索引擎给自己治病继而带来灭顶之灾的旧新闻。

03

使用者如何能有效利用AI又能判断真伪走出AI幻觉呢？我觉得首先得从认知根源上搞清楚几个最底层的逻辑。

第一，值得信赖的人工智能应该明确引用来源。比如ChatGPT在搜索得出的答案中经常备注信息来源。这时候对其来源的检验既方便也必要。来自权威网站，标注了作者等信息，往往相对有效。

但这还不足以支撑信息的正确与否。不要把AI当老师，要把AI当实习生，追问「证据在哪？」「数据来源？」「有无反例？」。重要问题，三连击。

第二，为了进一步强化信息的有效性，还需使用可靠来源的数据对人工智能生成的数据进行交叉检查。这就好比历史考据和考古工作的「发现」和「解释」是否有效一样，不能由单一来源而必须是两个以上的来源来支撑。

第三，使用者应该努力搞清所使用的人工智能工具的基本工作原理。人工智能是一个建立在强大的检索信息的基础上，又对这些海量信息变量进行有效的分析与组合，继而在符号的相互关系中寻求最佳组合的一种计算工具。

它只会根据上下文预测下一个最有可能出现的词。比如你问：「《红楼梦》的作者是谁？」它会说「曹雪芹」。你问：「《红楼梦》的续集是谁写的？」它不知道，但会凭「红楼梦+续集+清朝+作家」的概率组合，随便冒出一个「周汝昌」或者「脂砚斋」之类的名字，好像真是那么回事。

也就是说，它追求的是「既有」的信息链接的概率，只是根据统计概率在「模仿人说话」的程序。正如哲学家休谟对「必然性」的否定，因果关系并不是必然的，就此而言，哪怕接近百分百的概率也不能在实践中导致必然的正确结果。

就此而言，使用者只能根据既有经验对AI输出的信息做大致判断，但无法做出结论。

第四，要注意发现人工智能系统中的潜在偏见。人工智能是对流通信息的大量单元之间的语言关系的梳理，由于综罗的信息海量，这就难免带来偏差。这时候，避免错误的方法是在要求系统为你输出答案之前在您的提问中包含相关事实。

这就对使用者提出了较高的提问要求，最好避免在一无所知的领域去寻求人工智能的帮助。很可能你输入的信息就存在偏差和错误，得出的结论自然十分危险。

04

信AI之前，先信自己的脑子，人类的脑子，依然是最好的「防幻装置」。

AI幻觉不是一场「科技灾难」，而是一面「人类镜子」。它反映了我们多么容易被「自信的胡说八道」打动啊。

最后我请你记住三句话：

• AI会瞎说，但从不脸红；
• 胡说不是故障，是它的本性；
• 人类的脑子，依然是最好的「防幻装置」。

如果你能记住这三句话，那恭喜你，你就已经成功地从「AI幻觉」里走出来了。

AI固然厉害，它只是手段，人才是目的。未来的世界，AI负责天马行空，我们负责去伪存真！

AI会带来更多可能性，从艺术和创新角度而言，这是人类之福，只不过对「更多可能性」的利用，需要人的理性判断和实践检验。