如何判断AI给的回答是否可信

来源：环球时报

澳大利亚《对话》杂志近日文章，原题：如何判断人工智能的回答是否可信

作为弗吉尼亚大学图书馆馆长，我的责任之一是领导全国范围内为图书馆专业人员培养AI能力的工作，并在AI素养领域提供广泛的咨询服务。我最近在谷歌搜索框中输入了一个简单的问题：青少年的屏幕使用时间多长才算太长？与谷歌多年来一直提供链接搜索结果不同，这次它给了我一个AI生成的答案。这个AI助手首先给出了一个具体的数字，然后进一步解释说，时间的质量和平衡可能比时长更重要，而且所谓“太长”的使用时间，可能取决于青少年的睡眠、运动、学业负担和情绪状态。

我又尝试了一次不同的搜索：“我应该每天服用阿司匹林吗？”这一次，AI给出的答案向我提供了医疗信息，提示了相关风险，并表示如果我提供自己的年龄和病史，它还能提供更有针对性的指导。这些都是很好的回答。但让我感兴趣的是，它们是不同类型的回答。关于AI答案的争论一直集中在准确性上：系统给出的答案正确吗？这固然重要，但准确性只是衡量标准之一。

我发现，将AI答案归纳为4种宽泛的“答案类型”是很有用的：事实型、解释型、建构型和策略型。事实型答案通常可以通过信息来源进行核查。解释型答案可能很准确，但仍然反映了对哪些证据进行更重要的主观取舍。建构型答案可能逻辑严密，但对接收者而言仍然可能是不合适的。一份文笔优美的策略型文件也可能并不符合事实。然而，AI以几乎同样流畅而权威的方式呈现所有这4种类型的回答。它们之间的差异很容易被忽略。

这4种类别并非泾渭分明。一个AI助手的回答可能同时体现出多种类型。话虽如此，我将在下文中对每种类型的答案进行描述，并提供一些指导，帮助你判断某个回答是已经可以直接使用，还是需要进一步核查。

事实型答案会提出一种原则上可以通过证据进行核查的答案。例如：弗吉尼亚大学是哪一年成立的？金的化学符号是什么？要判断一个事实型答案是否足够可靠，请通过适当的来源对该回答进行核实。如果答案引用了来源，请点击该链接去查看原始内容，而不是简单地把AI给出的答案本身当作证据。

解释型回答建立在证据之上，但并没有单一的确切结论。青少年的屏幕使用时间多长才算太长？远程办公真的能提高工作效率吗？要评估解释型答案，不能仅仅停留在核实事实上，还要问问自己：AI强调了哪些证据，遗漏了哪些证据，以及是否存在另一种站得住脚的解释。

建构型答案是被创造出来的，而非被发现的。让AI起草一封求职信、提供教案建议或重组一个段落，这里没有唯一正确答案。你可以通过考量其目的、受众和语气来评判这个回答。

策略型问题询问的是“该怎么做”。我应该每天服用阿司匹林吗？我应该买这套房子吗？这类答案将信息与对目标、风险、权衡取舍以及个人情况的判断结合在了一起。我搜索阿司匹林的经历说明了背景信息的重要性。谷歌提示了相关风险，建议我咨询医疗专业人士，并表示如果我提供年龄、心血管病史和出血风险，它可以提供更有针对性的信息。这种谨慎态度与美国预防服务工作组的指南相吻合。该指南指出，开始服用低剂量阿司匹林以预防心脏病发作和中风的决定因人而异，并应权衡心血管益处与出血风险。

为了获得更具策略性的答案，请询问系统需要了解哪些信息才能给出合理的建议。考虑利害关系、替代方案以及是否需要专业人士的参与。例如，关于服用阿司匹林的问题，一个有用的后续问题是：“我的年龄、病史或出血风险等哪些细节可能会影响系统的建议？在做决定之前，我应该和医生讨论哪些内容？”最终的判断权仍然在你手中，因为你是那个必须承担最终结果的人。

我的问题最初只是普通的搜索。我并没有打开聊天机器人。AI生成的回答就这样直接呈现出来，并在末尾附上了相关链接。这些回答很有用。谷歌补充了背景信息，指出了问题的复杂性，并表示如果我提供额外信息，它可以提供量身定制的指导。然而，即使是同一个回复，答案的类型也可能有所不同。陈述医疗指南的内容，与决定该指南如何适用于某个特定的人，是完全不同的两回事。

作为用户，请尝试识别AI助手在生成你所收到的回答时，进行了何种性质的智力工作。考量其解释是否具有说服力，或者其建议是否符合你的具体情况。在质疑AI的答案是否正确之前，先问一个更基本的问题：这是哪种类型的答案？答案的类型会告诉你下一步该怎么做。（作者Leo S. Lo，刘德译）