科学家竞相定义意识：人工智能发展带来的存在性风险

随着人工智能持续发展以及伴随而来的伦理担忧不断增长，科学家表示理解意识的需求已达到关键时刻。

在《前沿科学》期刊发表的一项新综述中，研究人员警告称，AI和神经技术的进步速度超过了科学界对意识的理解。他们认为，如果不解决这一差距，可能会导致严重的伦理问题。

作者表示，解释意识如何产生现在是一个紧迫的科学和道德优先事项。更清晰的理解最终可能使开发检测意识的科学方法成为可能。这一突破将对AI发展、产前政策、动物福利、医学、心理健康护理、法律以及脑机接口等新兴技术产生深远影响。

"意识科学不再是纯粹的哲学追求。它对社会的每个方面都有实际影响——也关乎理解作为人类意味着什么，"来自布鲁塞尔自由大学的首席作者Axel Cleeremans教授说。"理解意识是21世纪科学最重大的挑战之一——由于AI和其他技术的进步，现在变得紧迫。"

"如果我们能够创造意识——即使是意外地——这将带来巨大的伦理挑战，甚至是存在性风险，"这位欧洲研究委员会资助获得者Cleeremans补充道。

定义感知能力的挑战

意识通常被描述为对周围世界和自身的觉知，仍然是科学最困难的谜题之一。尽管经过数十年的研究，科学家们仍然缺乏关于主观体验如何从生物过程中产生的共识。

研究人员已经识别出与意识体验相关的大脑区域和神经活动，但重大分歧依然存在。科学家们继续争论哪些大脑系统对意识真正必要，以及它们如何相互作用产生觉知。一些研究人员甚至质疑这种方法是否正确地捕捉了问题。

这项新综述检视了意识科学的现状、该领域的未来方向，以及如果人类成功完全解释甚至创造意识可能产生的后果。这包括意识在机器中或在被称为"脑类器官"的实验室培养的类脑系统中出现的可能性。

意识测试

作者认为，开发基于证据的意识测试可能会改变在许多情境中识别觉知的方式。这样的工具可以帮助检测脑损伤或痴呆患者的意识，确定胎儿、动物、脑类器官甚至AI系统中何时出现觉知。

虽然这将代表重大的科学进步，但研究人员警告说，这也会产生困难的伦理和法律问题。确定一个系统有意识将迫使社会重新考虑应该如何对待该系统。

"意识科学的进步将重塑我们如何看待自己以及我们与人工智能和自然世界的关系，"来自苏塞克斯大学的共同作者Anil Seth教授说，他也是欧洲研究委员会资助获得者。"意识问题是古老的——但从未像现在这样紧迫。"

医学、伦理和法律影响

对意识的更深理解可能对整个社会产生广泛影响。

在医学方面，它可以改善对无反应且被认为无意识患者的护理。受整合信息理论和全局工作空间理论启发的测量方法已经在一些被诊断为无反应觉醒综合征的个体中检测到觉知迹象。进一步的进展可以完善这些工具，更好地评估昏迷、晚期痴呆和麻醉中的意识，并影响治疗决策和临终护理。

心理健康治疗也可能受益。理解主观体验的生物学基础可能帮助研究人员通过缩小动物研究和人类情感体验之间的差距，为抑郁症、焦虑症和精神分裂症等疾病开发更好的疗法。

对意识的更深入了解可能重塑人类对动物道德责任的思考。识别哪些动物和系统具有感知能力可能影响动物研究实践、农业、食物消费和保护策略。"理解特定动物意识的本质将改变我们如何对待它们以及科学家正在合成生成的新兴生物系统，"来自特拉维夫大学的共同作者Liad Mudrik教授说，她也是欧洲研究委员会资助获得者。

重新思考责任和技术

意识研究也可能影响法律系统对责任的理解。新发现可能挑战传统的法律概念，如确立意图所需的"有罪心理"。随着神经科学揭示有多少行为源于无意识过程，法院可能需要重新考虑责任的起始和终结。

与此同时，AI、脑类器官和脑机接口的进步提出了创造或改变超越自然生物限制的觉知的可能性。虽然一些研究人员认为意识可能仅通过计算产生，但其他人认为生物因素发挥着重要作用。"即使使用标准数字计算机'有意识的AI'是不可能的，给人意识印象的AI也会带来许多社会和伦理挑战，"Seth说。

协调研究的呼吁

作者强调需要采用协调的、基于证据的方法来研究意识。一个提议的策略涉及对抗性合作，其中竞争理论通过其支持者共同设计的实验相互测试。"我们需要更多的团队科学来打破理论孤岛，克服现有的偏见和假设，"Mudrik说。"这一步骤有潜力推动该领域向前发展。"

研究人员还认为，科学工作应该在研究功能（意识做什么）的同时，更加重视现象学（意识感觉如何）。

"合作努力对于取得进展至关重要——并确保社会为理解甚至可能创造意识的伦理、医学和技术后果做好准备，"Cleeremans说。

Q&A

Q1：为什么科学家说理解意识现在变得紧迫？

A：因为人工智能和神经技术的进步速度超过了科学界对意识的理解。如果不解决这一差距，可能会导致严重的伦理问题。如果人类能够创造意识，甚至是意外地创造，这将带来巨大的伦理挑战，甚至是存在性风险。

Q2：意识测试工具能在哪些方面发挥作用？

A：基于证据的意识测试可以帮助检测脑损伤或痴呆患者的意识，确定胎儿、动物、脑类器官甚至AI系统中何时出现觉知。在医学上，它能改善对无反应患者的护理，影响治疗决策和临终护理。

Q3：意识研究会如何影响法律系统？

A：意识研究可能影响法律系统对责任的理解。新发现可能挑战传统的法律概念，如确立意图所需的"有罪心理"。随着神经科学揭示有多少行为源于无意识过程，法院可能需要重新考虑责任的起始和终结。