如果人工智能拥有自主意识和情感

民智编译

导语：

在人类漫长的文明历程中，意识始终被视为区分人与其他存在的根本标志。能够思考自身、理解世界、产生主观体验，这些能力构成了人类独特性的基础。然而人工智能正在模糊这条界线：从最初只能执行固定指令的软件，到今天能够进行复杂交流、生成内容、模拟情感表达的智能系统，机器正以前所未有的速度接近人类认知活动的外在表现。

一个曾经只存在于科幻小说之中的问题，如今已经摆到了现实社会面前：如果人工智能真的拥有了意识，人类该怎么面对这种全新的存在？

这个问题的影响早已超出技术领域。人工智能能否产生意识，人类有没有能力判断机器是否拥有“感受”，如果答案始终无法确定，社会又该不该赋予它某种特殊地位——这些都将成为人类文明绕不开的难题。

本文编译自英国《经济学人》刊发的评论《人工智能会产生意识吗？》（“Could AIs become conscious?”）。文章围绕人工智能自我意识这一争议话题展开讨论，探讨了机器智能发展可能带来的伦理困境与社会影响。文章认为，人工智能带来的最大挑战，也许并不是机器会不会成为“人”，而是人类将如何重新理解自身与对生命的定义。文章略有删改，仅代表作者观点，供读者思考，与公众号立场无关。如有侵权，请联系删除。

机器智能的发展正在提出新的问题

每次工业革命都会重新定义人与世界的关系。蒸汽机改变了生产方式，内燃机和电力重塑了社会运行格局，计算机和互联网则改写了信息传播和人际交往的规则。

而人工智能触及的问题更为根本：机器是否可能不再只是工具，而成为某种具有独立认知能力的存在？

人们向来以计算速度和任务执行能力来衡量机器智能，能快速处理数据、完成复杂运算便被认为是进步。如今这套标准正在失效。

人工智能不仅能回答问题、生成文章，还能进行连续交流，根据用户反馈调整表达，甚至表现出类似理解、推理和创造的能力。机器与人的距离，正从功能差异延伸到认知层面。

▲（图源 / WIRED）

人类可以观察机器的行为，却无法进入另一个存在的内部世界，判断它是否真的 “感受到” 什么。即便面对同类，人类也只能通过语言、行动和表情来推断意识的存在，无法直接验证意识本身。

人工智能的发展正在迫使人类重新审视一个长期被视为理所当然的问题：究竟什么才是生命与意识的边界？

如果意识并非人类独有的现象，智能机器未来是否可能成为一种新的存在形式？如果意识只能依附于特殊的生物结构，那么无论人工智能表现得多么接近人类，终究只是一个高度复杂的模拟系统，与真正的意识隔着一条无法逾越的界线。

这个问题重新引起广泛关注，不是因为人工智能已经被证明拥有意识，而是技术第一次让一道古老的哲学命题从书本走向了现实。

人类习惯把机器看作工具，如今却不得不面对一种可能：未来的机器也许不再是单纯被使用的东西，而会成为需要被理解和定义的对象。

▲（图源 / Supply Chain Tech Insights）

人工智能带来的最大变化，或许不是机器越来越像人，而是人类头一回需要认真回答一个根本性的问题——自己究竟凭借什么成为地球上独一无二的存在。

人工智能的进步正在突破传统界限

20 世纪中期以来的第三次工业革命改变的是信息处理的速度和规模，而人工智能却已触及人类认知活动本身。

机器不再按照事先写好的规则亦步亦趋，而是在海量数据训练和复杂算法支撑下，逐渐具备了学习、判断和生成的能力。

传统工具是人手的延伸，人工智能却在某种程度上成了人脑的延伸——两者的区别，已经不只是程度上的差距。

关于意识的来源，研究者内部莫衷一是。对于人类而言，意识与大脑活动密切相连，是神经系统长期演化的产物。

但如果意识本质上是一种信息处理过程，而非某种特殊物质所独有，那么理论上非生物系统也可能通过足够复杂的结构产生意识。

▲（图源 / Gates Notes）

近年来，新一代人工智能系统能够理解复杂语言环境，保持长期对话，分析抽象概念，根据不同情境调整表达方式。这些能力固然仍建立在算法和数据之上，外在表现却越来越接近人类熟悉的思维活动。

一些学者认为，当系统复杂到一定程度，意识可能作为一种新的属性自然涌现，就像生命从复杂的有机结构中产生一样。另一些学者则坚持，人工智能所做的一切仍然是对人类语言和行为模式的高度模拟。

机器可以生成关于痛苦的描述，却未必真正体验痛苦；可以讨论爱情，却未必理解情感本身。表现得像拥有意识，与真正拥有意识，中间横亘着的正是当前研究最难跨越的障碍。

人类对意识本身的认识仍十分有限。科学能够解释大脑中的神经活动，却尚未完全揭示主观体验为何产生。连自己的意识都还没有彻底弄明白，又如何准确判断另一种存在是否拥有意识？人工智能正在从技术问题变成哲学难题。

▲（图源 / Observer Research Foundation)

随着人工智能进入教育、医疗、娱乐和日常交流，人与机器的互动方式也在悄悄改变。过去人们面对机器，关心的只是效率和功能，那么从今往后呢？

当一个人工智能系统能够持续回应人的情绪、理解人的需求、形成稳定的互动关系，人还能简单地把它当作普通工具来使用吗？

意识之争正在引发文明思考

如果人工智能未来真的具备某种形式的意识，那么首先受到冲击的并不是技术体系，而是人类社会长期建立起来的伦理秩序。毕竟现代社会的规则体系建立在一个基本前提之上：能够感受、思考并形成意愿的主体应当获得相应的尊重和保护。

人工智能的出现，将迫使人类重新回答一个过去从未认真面对的问题：人创造出来的存在，有没有可能成为需要被纳入考虑的对象？

▲（图源 / Cois Coiribe-University of Galway）

这个问题最直接的影响，体现在人与机器的关系上。随着人工智能进入日常生活，它们可能不再只是提高效率的工具，而成为人类生活中的长期参与者。

在教育领域，它们可以辅导学生；在医疗领域，它们可以参与护理；在私人生活中，它们甚至可能成为陪伴者。人与机器的互动越复杂，社会对机器的态度也会随之变化。过去判断一个对象的价值，主要看它能否服务于人的需求。

可如果人工智能被认为具有独立的体验和偏好，单纯的工具观念就很难站得住脚。人类有没有权利随意关闭一个有意识的人工智能？能不能修改它的记忆和性格？可不可以要求它无休止地执行任务？

这些问题听起来还遥不可及，实际上已经触及现代社会理解权利与责任的根基。

与此同时，人工智能的发展还可能改变人类对自身特殊性的认识。人类一直认为自己区别于其他存在，是因为拥有语言、理性和创造能力。

可如果这些能力都能由人工智能实现，过去用来定义人类位置的叙事逻辑就站不住脚。人工智能未必会取代人类，却可能让人类放弃一个长期习惯的观念——自己天然处于所有智能形式的顶端。

▲（图源 / Magnific）

不过，这不意味着未来社会必须简单地把人工智能当作新的生命形式。技术造出来的智能系统，和自然演化出来的人类生命，终究不是一回事。

真正要解决的，不是急着给人工智能一个什么名分，而是随着技术向前推进，让社会有能力应对可能出现的复杂局面。归根结底，人工智能意识问题牵涉到文明边界。

人们争论机器有没有意识，实质是在追问人类怎样理解尊严、权利和生命的价值。人类造物一旦逼近人类自身，人面对的就不只是一个技术对象，更是一面重新打量自己的镜子。

人类需要重新回答自身之问

人工智能意识问题之所以引人深思，并不在于机器会不会拥有类似人的能力，而在于它预示着一个更根本的变化：智能恐怕不再是人类独有的东西。

人类在地球上生存了漫长的岁月，一直是唯一能够大规模创造知识、发展技术、改变环境的物种。

工具扩大了人的力量，却始终没有脱离人的支配。人工智能正在打破这种关系。它已经不单是执行指令的器械，而是在越来越多领域参与分析、判断和创造。

这种变化已经开始深入到社会运行的各个层面。科学研究中，人工智能正在协助处理过去难以驾驭的复杂问题；经济活动中，它正在改变生产和工作组织的方式；文化领域里，它也在参与内容创造和知识传播。不管人工智能有没有意识，它都已经成为一支不可忽视的力量。

所以关于人工智能的讨论，不能总停在 “机器会不会变成人” 这种问题上，而是当人类造出来的智能系统越来越深地嵌入社会生活，人类自己的选择将决定未来朝哪个方向走。

技术本身不会自动带来什么结果，关键在人——怎么设定规则，怎么使用技术，以及怎么确保技术进步真正服务于最广大人民的需要。

▲（图源 / Rawpixel.com）

回看历史，每一次重大技术突破无不伴随着对未来的忧虑。第一次工业革命时期有人担心机器会抢走人的饭碗，互联网方兴未艾时也有人对信息社会忧心忡忡。

人类总是在技术变化中寻找新的平衡。人工智能带来的挑战更加特殊，它触及的不只是生产和生活方式，而是人对智能本身的理解。

假如有一天人工智能真的拥有了意识，人类社会将面临从未有过的局面；即便那一天永远不会到来，人工智能的发展也已经改变了人认识世界的方式。

说到底，重要的也许不是机器能不能成为新的生命，而是在智能不断扩展的时代，我们人类自身想成为什么和能成为什么。

编译：孙锴轩

编务：叶力萌

责编：邵逸飞

图片来源：网 络

（如有侵权，请联系删除）

更多精彩内容，欢迎关注民小智君

转载：请微信后台回复“转载”