教皇利奥十四世发声：警惕人工智能与新技术的伦理危机

从硅谷到梵蒂冈的路途遥远，但这段旅程可能会带来启发。最近，教皇利奥十四世在罗马主持了一场关于人工智能的会议，他强调了对新技术的“伦理和精神层面的思考”的必要性。

教皇说：“每一个设计选择都体现了对人性的理解，”并呼吁技术人员“把道德判断作为他们工作的重要组成部分，开发反映正义、团结和对生命真正尊重的系统。”

一些技术奇才们对此次教皇的发言（双关语）嗤之以鼻。工程师和企业家专注于构建酷炫的东西，有些人认为关注伦理或精神问题不是他们的责任。

一种更复杂的说法是，技术是道德中立的，或者说是“无价值的”。这一观点的一个例子可以用座右铭来说明：“枪支不会杀人，人会。”捍卫这种技术观的人指出，工具并没有固定的意义或目的。火箭和飞机可以杀人，或者我们可以将它们用于和平目的。从这个角度来看，道德判断应该关注人们如何使用工具，而不是工具本身。

另一种观念将工具视为“价值导向的”。从这个角度来看，技术创新体现了一些价值观。机器反映了其创造者的价值观——毕竟，创造它们的人是出于某种目的或功能而构建的。枪是用来杀人的，核武器同样如此。

价值导向的技术观念表明，新技术体现了支持其创造的文化和经济价值网络。新技术还创造了新的文化形式，正如我们在社交媒体和人工智能的时代所看到的那样。

一些技术批评者拒绝整个现代世界。所谓的“原始主义者”担心我们陷入一个由化石燃料、核武器、高级生物技术和超级智能机器驱动的技术灾难循环。对此，“技术乐观主义者”认为，技术发展使人类以我们以前无法想象的方式蓬勃发展。

此外，技术“加速”的倡导者认为，解决技术问题的办法是更先进的技术——他们希望更智能的机器能够解决前一代工具所带来的问题。

关于技术哲学中讨论的复杂问题，我们仅仅触及了表面。这源于一个洞察：人类是使用工具的动物。工具扩展和增强了我们的能力，同时也可能影响我们是谁以及我们关心的事物。

我们是在增强还是削弱我们的人性，这应该是对技术进行道德反思的重点。

这是一个在人工智能时代至关重要的问题。人工智能革命应该促使我们思考技术发展在伦理和精神层面上的基本问题。人工智能已经改变了我们对智力工作的看法，例如教学和学习。人类已经在与提供医疗、法律、心理甚至精神建议的人工智能系统进行互动。我们在道德、文化和精神上准备好迎接这一切了吗？

我们的工具影响着我们如何理解自己和世界。在望远镜和显微镜发明之前，我们对宇宙的浩瀚和细胞生命的奇迹毫无概念。在印刷机发明之前，只有精英才能接触到书面知识。而网络时代则改变了我们对友谊、信息和娱乐的理解。

无价值技术的观念忽视了这一切。工具不仅表达了我们的价值观，还影响着我们所重视的东西，这一点似乎非常明显。这就是为什么在开发新技术时，我们必须进行批判性的道德判断，正如教皇所说的‘道德辨别’。

在人工智能时代的开端，我们需要相应的新一轮批判性道德判断。现在是哲学家、神学家和普通公民深入思考技术哲学及其在我们工具中所体现的价值观的时候。

期待硅谷的高手们接下来会有什么新创意。但没有智慧的魔法是很危险的。

安德鲁·菲亚拉是加州州立大学弗雷斯诺分校的哲学教授和伦理学中心主任。