理性人工智能的哲学难题

人工智能系统在多大程度上能够理性？

MIT新开设的课程6.S044/24.S00（AI与理性）并不寻求回答这个问题，而是挑战学生通过AI研究的视角探索这个以及其他哲学问题。对于下一代学者来说，理性和智能体的概念可能在AI决策中发挥关键作用，特别是受到人类如何理解自身认知局限以及对理性主观看法的影响时。

这种探索根植于计算机科学和哲学之间的深层关系，两个领域长期以来在形式化理性信念形成、经验学习以及为实现目标做出理性决策方面保持合作。

"你可能认为计算机科学和哲学相距甚远，但它们一直相互交叉。哲学的技术部分确实与AI重叠，特别是早期AI，"课程讲师、MIT松下计算机科学与工程教授Leslie Kaelbling说道，并提到了既是计算机科学家又是哲学家的阿兰·图灵。Kaelbling本人拥有斯坦福大学哲学本科学位，她指出当时计算机科学还不是专业选择。

与Kaelbling共同教授这门课程的Brian Hedden是语言学与哲学系教授，同时在MIT施瓦茨曼计算学院与电气工程和计算机科学系担任共享职位。他指出这两个学科比人们想象的更加一致，并补充说"差异在于重点和视角"。

进一步理论思考的工具

作为2025年秋季首次开设的课程，Kaelbling和Hedden创建了"AI与理性"课程，这是MIT施瓦茨曼计算学院"计算教育共同基础"计划的一部分。该计划是一个跨学科倡议，汇集多个院系共同开发和教授新课程，并启动融合计算与其他学科的新项目。

超过二十名学生注册了"AI与理性"课程，它是两门以哲学为基础的"共同基础"课程之一，另一门是6.C40/24.C40（计算伦理学）。

虽然"计算伦理学"探讨对快速发展技术的社会影响的担忧，但"AI与理性"通过考虑几个组成部分来检验理性的争议性定义：理性智能体的本质、完全自主和智能智能体的概念，以及向这些系统归因信念和欲望。

由于AI在实现上极其广泛，每个用例都提出不同问题，Kaelbling和Hedden集思广益，寻找能够在计算机科学和哲学两个视角之间提供富有成果讨论和参与的主题。

"当我与研究机器学习或机器人学的学生合作时，让他们退后一步审视自己所做的假设非常重要，"Kaelbling说。"从哲学角度思考问题有助于人们退后一步，更好地理解如何在实际情境中定位他们的工作。"

两位讲师都强调，这不是一门为工程化理性智能体的问题提供具体答案的课程。

Hedden说："我认为这门课程是在建立他们的基础。我们不是给他们一套学习、记忆然后应用的教条。我们为他们配备工具，让他们在进入所选择的职业道路时能够批判性地思考问题，无论是在研究、工业还是政府部门。"

AI的快速发展也在学术界提出了新的挑战。Kaelbling认为，预测学生五年后可能需要知道什么是一项不可能完成的任务。"我们需要做的是在更高层次上给他们工具——思维习惯、思考方式——这将帮助他们处理我们现在确实无法预料的事情，"她说。

融合学科和质疑假设

到目前为止，这门课程吸引了来自广泛学科的学生——从扎实的计算基础到对探索AI如何与自己研究领域交叉感兴趣的学生。

在整个学期的阅读和讨论中，学生们努力理解理性的不同定义，以及这些定义如何推动他们质疑各自领域的假设。

关于这门课程令她惊讶的地方，电气工程和计算机科学系高年级学生Amanda Paredes Rioboo说："我们被教导数学和逻辑是黄金标准或真理。这门课向我们展示了各种例子，说明人类的行为与这些数学和逻辑框架不一致。我们开启了一整罐蠕虫，问题是，是人类不理性吗？是我们设计的机器学习系统不理性吗？还是数学和逻辑本身？"

脑与认知科学系博士生Junior Okoroafor对课程的挑战以及理性智能体的定义如何因学科而变化表示赞赏。"在正式框架中表示每个领域所指的理性，明确了各领域间哪些假设是共享的，哪些是不同的。"

与所有"共同基础"努力一样，课程的协同教学、合作结构为学生和讲师提供了实时听取不同观点的机会。

对于Paredes Rioboo来说，这是她的第三门"共同基础"课程。她说："我真的喜欢跨学科的方面。它们总是让人感觉理论与应用的良好结合，因为它们需要跨越不同领域。"

据Okoroafor说，Kaelbling和Hedden展示了领域间明显的协同作用，他说感觉好像他们在与课程一起参与和学习。计算机科学和哲学如何相互启发让他理解了它们的共性以及对交叉问题的宝贵观点。

他补充说："哲学也有让你惊讶的方式。"

Q&A

Q1：MIT新开设的AI与理性课程主要学什么内容？

A：这门课程主要探索理性的争议性定义，包括理性智能体的本质、完全自主和智能智能体的概念，以及向AI系统归因信念和欲望。课程不提供具体答案，而是培养学生批判性思考的工具和思维习惯。

Q2：为什么计算机科学和哲学会结合在AI研究中？

A：两个学科长期以来在形式化理性信念形成、经验学习和理性决策制定方面保持合作。哲学的技术部分与AI重叠，特别是早期AI研究，两个领域的差异主要在于重点和视角。

Q3：这门课程对学生有什么实际帮助？

A：课程帮助学生退后一步审视自己所做的假设，从哲学角度思考问题，更好地理解如何在实际情境中定位他们的工作。培养学生在未来职业道路中批判性思考问题的能力。