山东
IT之家 8 月 7 日消息，科罗拉多大学博尔德分校的研究人员在《计算语言学协会研究发现》上发表了一篇论文，揭示了大型语言模型（LLM）在解决数独问题时的局限性，尤其是其在解释决策过程中的不足。
研究人员发现，即使是相对简单的 6×6 数独，大多数大型语言模型在没有外部辅助工具的情况下也难以解决。这一现象反映出 LLM 在逻辑推理方面的短板。数独的本质并非数学运算，而是一种符号逻辑游戏，需要从整体出发，找到符合逻辑的解题顺序，而 LLM 往往会按照训练数据中类似情况的模式，逐个填充空缺，这种逐个推理的方式难以应对数独的复杂逻辑。
而且，当研究人员要求这些模型展示解题过程时，结果令人失望。大多数情况下，模型无法准确、透明地解释其决策过程。有时它们会给出看似合理的解释，但这些解释并不符合实际的解题步骤；有时甚至会给出与问题完全无关的回答，例如在一次测试中，OpenAI 的 o4 推理模型在被问及数独问题时，突然开始谈论丹佛的天气预报。
科罗拉多大学计算机科学教授阿舒托什・特里维迪（Ashutosh Trivedi）指出，如果生成式 AI 工具不能准确、透明地解释其决策过程，那么随着我们越来越多地将生活和决策权交给这些工具，就必须保持谨慎。他强调：“我们希望这些解释能够透明地反映 AI 做出决策的原因，而不是 AI 为了迎合人类而提供人类可能喜欢的解释。”
IT之家注意到，这种解释能力的缺失并非仅在数独问题上体现。研究人员还发现，LLM 在其他逻辑游戏（如国际象棋和汉诺塔问题）中也存在类似问题。以国际象棋为例，LLM 虽然能够找到合理的下一步棋，但往往无法像人类高手那样提前规划多步棋局，甚至有时会违反规则移动棋子，导致局面陷入混乱。
此外，研究人员还指出，解释能力对于 AI 的应用至关重要。随着 AI 在驾驶、税务处理、商业决策和重要文件翻译等领域的应用逐渐增加，其解释能力将成为衡量其可靠性的关键因素。特里维迪教授警告说：“如果 AI 的解释是为了错误的原因而进行的，那么这种解释就非常接近于操纵。我们必须非常谨慎地对待这些解释的透明度。”
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
