上海
人工智能正在深刻重塑人类生产、生活和社会治理方式。从医疗诊断、科学研究，到教育、文化和日常交往，人工智能正在不断扩展人的能力边界，同时也带来一系列伦理和社会挑战。为此，全球各地政府和非政府组织以及企业等纷纷发布各种伦理原则和监管条例。这些原则规范固然重要，但其作用却是有限的。
在这一背景下，人工智能治理必须转向全方位系统性的伦理嵌入，从由外而内，转向内外共治、双向奔赴，从根本上打造负责任的人工智能伦理治理体系。
原则治理的伦理困境
据不完全统计，迄今为止，全球人工智能伦理原则和指导性文件早已超过200份。国际上有代表性的包括2019年欧盟人工智能高级别专家组提出的《可信人工智能伦理指南》，2021年联合国教科文组织提出的《人工智能伦理问题建议书》，以及经济合作与发展组织提出的《人工智能原则》，而中国也先后出台了一些人工智能伦理方面的规范和意见等。
这些原则和规范虽然具有重要意义，对于人工智能的发展具有一定的价值引领作用，但一方面这些原则过于抽象，缺乏可操作性与实施机制，另一方面，技术迭代迅速，原则更新滞后，当AI进入大模型、具身智能、自主决策系统时代，其复杂性、动态性和不可解释性使得这些原则无法发挥应有作用。这不仅影响伦理治理的实质性推进和原则落地，也给伦理治理带来负面影响。
价值对齐的伦理实践
价值对齐被看作是现有人工智能伦理治理的另一条可行路径。价值对齐着眼于从技术系统内部进行规约，以使模型的输出行为符合人类主流价值观。从OpenAI提出的基于人类反馈的强化学习，Anthropic的宪法AI，再到谷歌提出的基于人工智能反馈的强化学习，价值对齐成为当前人工智能伦理治理研究前沿的主要关注点。
但由于现有对齐主要考虑的是从输出端评价模型是否实现对齐，即考察模型最终生成的回答、拒答、建议或决策是否符合某种既定标准，因此，这样的对齐不仅有可能因为人类价值标准的差异而造成无法对齐的困境，而且我们也无法知道模型输出结果的理由，也就是说，这里存在明显的黑箱与可解释性缺失。由于基于人类反馈的强化学习主要依从的是奖励模式，因而，还很容易造成欺骗现象。这些都与不仅讲原则，而且更重动机、重理由的人与人之间的“价值对齐”相去甚远。
全方位的伦理嵌入
很显然，仅仅从外部通过规则监管或者将人工智能伦理交予模型解决，都不可能真正实现人工智能的伦理治理。因为人工智能的伦理问题并不仅仅表现在模型或智能体的行为层面，而是早已嵌入人工智能的技术结构，且与社会系统融为一体，成为技术—社会系统中的基础设施，渗透、泛化到智能体应用的现实场景中。在这样的背景下，伦理治理必须是全方位的伦理嵌入。
所谓全方位全生命周期的伦理规约，指的首先是在人工智能模型的训练和技术开发中，从数据采集、算法设计、模型训练到部署运行、持续监测，从人工智能系统的设计、训练、运行到反馈机制，每一个环节都要进行伦理审核。其次，伦理嵌入使用场景的规约。由于仅仅依靠原则无法覆盖不同类型模型的伦理审核要求，许多问题是在具体场景下与人的互动中产生的，这时候伦理应该关注的是人机交互中产生的新问题，进行动态的伦理规则适配和调节。第三，要做到这一点，关键是要将伦理嵌入人工智能设计者、开发者和使用者的大脑，使其入脑入心，让设计者、开发者和使用者都具备基本的伦理自觉和道德敏感性。
用AI反哺AI伦理治理
伦理嵌入的理念落地，还面临一个现实难题，即谁来审查、怎么审查？传统的伦理审查主要集中在医学生命科学领域。随着《人工智能科技伦理审查与服务办法（试行）》的发布，伦理审查任务将激增，复杂性也将随之提高。而传统的人工审查模式效率有限、质量参差不齐。在这样的背景下，让人工智能赋能伦理审查已成为当前解决这一难题的有效途径。事实上，技术与人类的关系不是简单的控制关系，而应是一种共同演化和相互塑造的关系。
人工智能的伦理治理，不仅要靠规则制定，而且要重视价值培育；不仅要从外在规约，更要强调内在自觉。人工智能时代，伦理不再是外部强加的“合规负担”，而是内嵌于人工智能研发、部署与应用全过程的“基因编码”。人工智能既是治理的对象，更是治理的工具。
（作者系中国科协-复旦大学科技伦理与人类未来研究院院长）
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
