北京
凤凰网科技讯 北京时间10月26日，据美联社报道，在竞相开发更强大人工智能的同时，科技公司正越来越多地向哲学家和宗教人士寻求建议，希望帮助AI分辨是非、作出符合道德的回应。但一些学者和宗教人士提醒，不同信仰的价值观可能相互冲突，将宗教思想汇总成一套AI道德准则，可能扭曲各个传统的原意。
Anthropic联合创始人克里斯·奥拉（Chris Olah）今年早些时候在梵蒂冈一场有关AI的活动上表示，这些问题无法由实验室独自回答，宗教传统已经思考了数千年。
据报道，由于科技公司通常不隶属于某个特定宗教，它们往往希望综合不同传统中的道德观念，为模型提供指导。OpenAI首席执行官萨姆·奥尔特曼去年曾表示，他认为ChatGPT应当反映人类道德观的某种“加权平均”。
然而，这种思路引发了争议。密歇根大学人类学家韦布·基恩（Webb Keane）认为，将宗教视为一套可以单独提取的规则或原则，会忽略信众在日常生活中的实践，以及教义、仪式和人际关系的重要性。
在基恩看来，如果科技公司假定每种宗教都能提供一组可提取的道德原则，再将其用于训练AI，就可能优先呈现某些传统，并扭曲其他传统，尤其是那些并不主要将自身理解为伦理体系的信仰。他指出，将宗教当作“规则手册”的理解，与重视经典的宗教密切相关，尤其接近亚伯拉罕诸教的传统。
参与相关交流的人士也肯定了科技公司的努力。Anthropic在今年5月的一篇博客中表示，公司已经与来自15个以上宗教及跨文化群体的学者、神职人员、哲学家和伦理学家会面，并希望继续扩大参与范围。不过，公司没有逐一列明这些传统。
圣母大学宗教哲学家梅根·沙利文（Meghan Sullivan）今年参加了Anthropic组织的一场会议，与会者包括不同教派的基督徒。她表示，相比自己与其他科技公司的交流，Anthropic对宗教问题的认真探讨令她印象深刻。
据沙利文介绍，会议首先由公司用通俗语言解释模型，随后由宗教人士提供反馈、展开讨论。议题既涉及“人类是否拥有灵魂”，也包括“小学三年级学生是否应当使用聊天机器人学习读写”等具体问题。
美联社报道称，Meta、谷歌和亚马逊的代表也曾与梵蒂冈会面，微软同样积极开展与宗教界的交流。
争议还涉及科技公司如何理解“宗教”本身。宗教学者、《世界宗教的发明》作者增泽知子（Tomoko Masuzawa）指出，将各种宗教划分为边界清晰、可以相互比较的独立体系，是近代形成的观念。她以佛教和印度教为例称，在欧洲学者到来之前，当地实践者并未按照后来形成的明确分类理解自身传统。
一些学者因此担心，科技公司即便邀请了不同信仰的代表，也可能沿用既有的西方分类方式，忽略不同文化理解信仰的差异。
Anthropic在上述博客中表示，其目标并非让模型遵循某一种传统的世界观。公司希望Claude能够以同等深入、严谨的方式理解宗教、世俗和政治等不同观点，并从这些交流中学习人们长期以来对良好品格如何形成的思考。
不过，Meta独立监督委员会成员、研究天主教社会思想与技术的法律专家保罗·卡罗扎（Paolo Carozza）担心，在汇集各种思想的过程中，每种传统独有的特征可能被抹平，最终形成趋向折中、甚至偏重西方宗教的结果。
卡罗扎表示，成熟的传统能够通过与外界互动吸收新知识，并逐步发展；AI则可能把不同思想直接混合，最终无法真正理解其中任何一种。(作者/于雷)
本文源自：凤凰网科技
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
