AI能参与制定公共政策吗？

参考消息网1月16日报道 澳大利亚“对话”网站1月13日发表题为《人工智能会取代从政者吗？哲学家描述三种可能的未来》的文章，作者是西班牙IE大学哲学助理教授西奥多·莱克特曼，编译如下：

从商业、公共行政到日常生活，人工智能(AI)正在重塑世界，而政治可能就是下一个受影响的领域。

虽然人工智能从政者的设想可能让一些人感到不安，调查结果却呈现出不同的情况。2021年，在人工智能迅猛发展的初期，我所在大学开展的一项民意调查发现，许多国家和地区的民众广泛支持将人工智能融入政治领域。

大多数欧洲人说，他们希望看到至少部分从政者由人工智能取代。中国受访者对人工智能官员制定公共政策的前景更为乐观，通常对创新持友好态度的美国人则较为谨慎。

作为一名研究人工智能引发的道德与政治问题的哲学家，我认为将人工智能融入政治主要存在三条途径，每条都有自己的前景和隐患。

2022年聊天生成预训练转换器(ChatGPT)横空出世之前，多国就已大力开展用聊天机器人取代从政者的尝试。早在2017年，一个名为“阿利萨”的聊天机器人就向普京发起挑战，角逐俄罗斯总统之位。一个名为“萨姆”的聊天机器人则在新西兰竞选公职。丹麦和日本也试验过由聊天机器人主导的政治倡议。这些努力尽管是试验性的，却反映出人们长期以来对人工智能在社会治理中作用的好奇。

在某些层面上，用聊天机器人取代真人从政者的吸引力相当明显。聊天机器人不存在人类政治中常见的诸多问题与局限。它们不易受金钱、权力或荣誉的诱惑。它们无需休息，能同时与所有人进行虚拟互动，还拥有百科全书般的知识和超人的分析能力。

然而，聊天机器人政客也会继承当今人工智能系统的缺陷。这些由大语言模型驱动的聊天机器人往往像黑匣子，限制了我们对其推理过程的了解。它们经常生成不准确或不实的回复，即所谓的“幻觉”。它们面临网络安全风险，需要占用大量计算资源，并需要持续的网络访问。它们还会受到训练数据、社会不平等和程序员假设所导致偏见的影响。

如果技术没有重大改进，或者对政治本身没有更彻底的重新构想，聊天机器人从政者的前景依然充满不确定性。

另一种方式试图彻底摒弃我们所熟知的政客。物理学家塞萨尔·伊达尔戈认为，政客是麻烦的中间人，而人工智能终于让我们有机会摆脱他们。伊达尔戈希望每位公民无需选举政治人士，而是能够根据自己的政治偏好对人工智能官员进行编程。然后，这些机器人官员可以自动相互协商，以寻求共识、解决分歧并制定法律。

伊达尔戈希望这一提议能够带来直接民主，让公民对政治有更直接的参与，与此同时克服时间投入和立法专业知识方面的常见障碍。然而，取消代表制可能比看起来更困难。在伊达尔戈提议的“虚拟化身民主”中，事实上的幕后操纵者将是设计算法的专家。

一个更为激进的想法是将人类完全排除在政治之外。其逻辑很简单：如果人工智能技术发展到能做出比人类更可靠决策的程度，那么人类参与还有何意义？

算法统治是一种由算法来管理的政治体制。虽然很少有人公然主张将政治权力完全移交给机器(而且实现这一点的技术还远未成熟)，但算法统治的幽灵迫使我们批判性地思考为何人类参与政治很重要。在自动化时代，我们必须保留哪些价值观(如自主性、责任感或审慎行事)，又该如何保留？

在我看来，人工智能在政治领域的未来应用并非在于全面取代人类，而是经过深思熟虑的融合，以增强人类的能力。如果这是我们想要的未来，我们就必须有意识地去构建它。 （编译/朱捷）