瞭望 | 以伦理治理建人机共生秩序

　　坚持人类主导的原则，尤其在涉及生命健康、重大财产和伦理敏感等领域

　　文 | 鲁晓 李瑞

　　当机器不再只是工具，而是具备一定自主性、可与人类共同决策和创造价值的智能体，传统的人机边界趋于动态和模糊，相关伦理治理议题也逐渐进入公众视野。尤其是在责任划分、隐私保护和社会就业等问题上，具身智能的应用带来了一系列需要关注与探讨的新课题。

　　构建系统化、前瞻性的伦理治理框架，有助于为人机协同发展提供清晰导向，也是增强社会信任与技术接受度的重要基础。当前，科研界产业界需协同构建有效治理体系的中国方案，为推动具身智能规范发展提供理论支撑和实践指导。

　　具身智能引发伦理关切

　　具身智能正推动生产关系从“人主机辅”向“人机共创”转变，这对现有治理方式提出了新的调适需求，包括如何解决权责边界模糊化导致的责任真空、敏感数据侵蚀隐私、就业替代一定程度冲击劳动力市场等挑战。

　　一是大模型的“黑箱”特性使得决策过程不易完全解释和预测。即使是系统设计者，也无法确保完全掌控系统的所有行为。这种技术特性与建立清晰法律责任体系的要求之间存在需要调试空间。例如在自动驾驶、医疗机器人、工业机器人等典型场景中，具身智能的发展对传统责任认定机制提出优化要求。传统的产品责任体系基于人为设计、机器执行的模式，责任主体相对明确，而具身智能系统的自主学习和决策能力使得这一体系面临挑战。

　　为推进解决该问题，学界和业界提出了多种方案，包括建立AI保险制度、设立算法透明度要求、创建多方共担责任机制等。例如在自动驾驶领域，我国道路交通安全法修订和行业标准制定中，正在考虑细化制造商、软件供应商、车辆所有者等多方主体的责任承担方式。

　　当前业界探索仍处于早期阶段，如何在鼓励技术创新的同时确保责任可追溯，是伦理治理的重要课题。

　　二是具身智能系统高度依赖环境数据进行决策与适应，其中可能涉及个人敏感信息。现行的隐私保护法律法规主要针对传统的数据收集和处理方式设计，对于具身智能等新型数据的规制能力较为有限。

　　当前，全球范围内已建立起相应的隐私保护框架并持续完善。我国个人信息保护法和欧盟人工智能法案均对数据处理活动设置了严格的合规要求，明确在机器人数据收集中须遵循知情同意原则。技术层面，隐私计算技术正逐步应用，力求在数据利用与隐私保护之间实现平衡。

　　下一步，应深入探索清晰的数据权属与使用规则，在保护个人隐私前提下充分发挥数据价值，平衡个人权益与技术发展需求。

　　三是具身智能能够渗透到更多体力与认知结合的劳动场景中，形成人力替代，这对部分传统岗位形成一定压力。同时，具身智能还将引发就业结构调整，形成新的人机协作模式。

　　为应对就业结构转型，多国政府与企业正通过职业培训体系更新、岗位结构优化与终身学习机制建设，引导劳动力实现平稳过渡与技能升级。

　　下一步应通过政策引导与技能提升，帮助劳动者适应人机协作的新工作模式。在促进技术快速迭代与应用的同时，确保劳动力市场的平稳过渡与劳动者的广泛受益。

　　形成治理体系的中国方案

　　科研界产业界应紧密合作，结合分级治理、制度创新与国际合作的思路，坚持以人为本的价值理念，力求在推动技术进步的同时兼顾公共利益，形成伦理治理体系的中国方案。

　　分级授权，建立精细化的权限管理机制。

　　针对具身智能系统决策权力分散化特点，可考虑建立分级授权的治理模式。应坚持人类主导的原则，尤其在涉及生命健康、重大财产和伦理敏感等领域。分级授权机制的实施需要根据应用场景的重要性、决策后果的严重性以及技术成熟度等，对智能系统的自主决策权限进行界定。

　　建议制定风险等级评估标准，根据决策可能产生的后果严重程度将智能系统的决策行为分为不同等级，低风险决策可以交由系统自主完成，中等风险决策需要人类监督确认，高风险决策则必须由人类主导。

　　同时，可引入技术成熟度评估标准，根据特定领域AI技术的可靠性和准确性确定授权程度，在技术相对成熟、错误率较低的领域，可以给予系统更大自主权，在技术还不够成熟、存在较多不确定性的领域，则应当限制系统的决策权限。适时调整各级权限的界定标准和授权范围。

　　以社会实验方式形成渐进式的制度创新路径。

　　具身智能治理具有复杂性和不确定性，需要采取社会实验的方式来探索有效治理模式，渐进式的试验方式能够更好地识别和解决实际问题，降低政策失误风险，提高治理方案的可操作性。例如在应对就业替代问题上，可选择多个城市开展社会实验试点，推行人机协作职业认证体系，平衡技术与人文关怀，构建可持续发展的产业生态。

　　在社会实验中，首先，明确关键问题，包括定义人机协作岗位的职能边界，确定人类工作者与智能系统各自的职责范围；建立相应的技能培训和认证标准；设计激励机制，鼓励企业和个人参与人机协作模式。其次，力求在不同类型的城市中验证治理方案的适应性。再者，建立多方参与的协调机制。政府部门负责政策设计和监督执行，企业承担技术研发和应用推广，学术机构提供理论支撑和效果评估，社会组织代表公共利益参与决策过程。这种多元共治的模式有助于提高政策的可接受性。

　　积极牵头、参与国际标准制定，引领全球治理规范。

　　作为具身智能技术的重要贡献国家，中国应积极推动将隐私计算、伦理约束等治理理念纳入国际标准化组织（ISO）的相关标准。

　　在隐私计算方面，提倡基于技术手段保护个人隐私的创新方案。通过密码学技术实现在不暴露原始数据的前提下进行数据分析和模型训练。在伦理约束方面，倡导建立具身智能全球伦理约束框架，包括公平正义原则，防止具身智能系统产生或加剧社会不公；透明可解释原则，要求具身智能系统的决策过程具有一定的可解释性；责任可追溯原则，建立明确的责任分配机制。 （鲁晓：中国科学院科技战略咨询研究院副院长、研究员；李瑞：中国科学院科技战略咨询研究院助理研究员）■