网易首页 > 网易号 > 正文 申请入驻

瞭望 | 以伦理治理建人机共生秩序

0
分享至

  坚持人类主导的原则,尤其在涉及生命健康、重大财产和伦理敏感等领域

  文 | 鲁晓 李瑞

  当机器不再只是工具,而是具备一定自主性、可与人类共同决策和创造价值的智能体,传统的人机边界趋于动态和模糊,相关伦理治理议题也逐渐进入公众视野。尤其是在责任划分、隐私保护和社会就业等问题上,具身智能的应用带来了一系列需要关注与探讨的新课题。

  构建系统化、前瞻性的伦理治理框架,有助于为人机协同发展提供清晰导向,也是增强社会信任与技术接受度的重要基础。当前,科研界产业界需协同构建有效治理体系的中国方案,为推动具身智能规范发展提供理论支撑和实践指导。

  具身智能引发伦理关切

  具身智能正推动生产关系从“人主机辅”向“人机共创”转变,这对现有治理方式提出了新的调适需求,包括如何解决权责边界模糊化导致的责任真空、敏感数据侵蚀隐私、就业替代一定程度冲击劳动力市场等挑战。

  一是大模型的“黑箱”特性使得决策过程不易完全解释和预测。即使是系统设计者,也无法确保完全掌控系统的所有行为。这种技术特性与建立清晰法律责任体系的要求之间存在需要调试空间。例如在自动驾驶、医疗机器人、工业机器人等典型场景中,具身智能的发展对传统责任认定机制提出优化要求。传统的产品责任体系基于人为设计、机器执行的模式,责任主体相对明确,而具身智能系统的自主学习和决策能力使得这一体系面临挑战。

  为推进解决该问题,学界和业界提出了多种方案,包括建立AI保险制度、设立算法透明度要求、创建多方共担责任机制等。例如在自动驾驶领域,我国道路交通安全法修订和行业标准制定中,正在考虑细化制造商、软件供应商、车辆所有者等多方主体的责任承担方式。

  当前业界探索仍处于早期阶段,如何在鼓励技术创新的同时确保责任可追溯,是伦理治理的重要课题。

  二是具身智能系统高度依赖环境数据进行决策与适应,其中可能涉及个人敏感信息。现行的隐私保护法律法规主要针对传统的数据收集和处理方式设计,对于具身智能等新型数据的规制能力较为有限。

  当前,全球范围内已建立起相应的隐私保护框架并持续完善。我国个人信息保护法和欧盟人工智能法案均对数据处理活动设置了严格的合规要求,明确在机器人数据收集中须遵循知情同意原则。技术层面,隐私计算技术正逐步应用,力求在数据利用与隐私保护之间实现平衡。

  下一步,应深入探索清晰的数据权属与使用规则,在保护个人隐私前提下充分发挥数据价值,平衡个人权益与技术发展需求。

  三是具身智能能够渗透到更多体力与认知结合的劳动场景中,形成人力替代,这对部分传统岗位形成一定压力。同时,具身智能还将引发就业结构调整,形成新的人机协作模式。

  为应对就业结构转型,多国政府与企业正通过职业培训体系更新、岗位结构优化与终身学习机制建设,引导劳动力实现平稳过渡与技能升级。

  下一步应通过政策引导与技能提升,帮助劳动者适应人机协作的新工作模式。在促进技术快速迭代与应用的同时,确保劳动力市场的平稳过渡与劳动者的广泛受益。

  形成治理体系的中国方案

  科研界产业界应紧密合作,结合分级治理、制度创新与国际合作的思路,坚持以人为本的价值理念,力求在推动技术进步的同时兼顾公共利益,形成伦理治理体系的中国方案。

  分级授权,建立精细化的权限管理机制。

  针对具身智能系统决策权力分散化特点,可考虑建立分级授权的治理模式。应坚持人类主导的原则,尤其在涉及生命健康、重大财产和伦理敏感等领域。分级授权机制的实施需要根据应用场景的重要性、决策后果的严重性以及技术成熟度等,对智能系统的自主决策权限进行界定。

  建议制定风险等级评估标准,根据决策可能产生的后果严重程度将智能系统的决策行为分为不同等级,低风险决策可以交由系统自主完成,中等风险决策需要人类监督确认,高风险决策则必须由人类主导。

  同时,可引入技术成熟度评估标准,根据特定领域AI技术的可靠性和准确性确定授权程度,在技术相对成熟、错误率较低的领域,可以给予系统更大自主权,在技术还不够成熟、存在较多不确定性的领域,则应当限制系统的决策权限。适时调整各级权限的界定标准和授权范围。

  以社会实验方式形成渐进式的制度创新路径。

  具身智能治理具有复杂性和不确定性,需要采取社会实验的方式来探索有效治理模式,渐进式的试验方式能够更好地识别和解决实际问题,降低政策失误风险,提高治理方案的可操作性。例如在应对就业替代问题上,可选择多个城市开展社会实验试点,推行人机协作职业认证体系,平衡技术与人文关怀,构建可持续发展的产业生态。

  在社会实验中,首先,明确关键问题,包括定义人机协作岗位的职能边界,确定人类工作者与智能系统各自的职责范围;建立相应的技能培训和认证标准;设计激励机制,鼓励企业和个人参与人机协作模式。其次,力求在不同类型的城市中验证治理方案的适应性。再者,建立多方参与的协调机制。政府部门负责政策设计和监督执行,企业承担技术研发和应用推广,学术机构提供理论支撑和效果评估,社会组织代表公共利益参与决策过程。这种多元共治的模式有助于提高政策的可接受性。

  积极牵头、参与国际标准制定,引领全球治理规范。

  作为具身智能技术的重要贡献国家,中国应积极推动将隐私计算、伦理约束等治理理念纳入国际标准化组织(ISO)的相关标准。

  在隐私计算方面,提倡基于技术手段保护个人隐私的创新方案。通过密码学技术实现在不暴露原始数据的前提下进行数据分析和模型训练。在伦理约束方面,倡导建立具身智能全球伦理约束框架,包括公平正义原则,防止具身智能系统产生或加剧社会不公;透明可解释原则,要求具身智能系统的决策过程具有一定的可解释性;责任可追溯原则,建立明确的责任分配机制。 (鲁晓:中国科学院科技战略咨询研究院副院长、研究员;李瑞:中国科学院科技战略咨询研究院助理研究员)■

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
4分钟,20%涨停!光刻机,大爆发!发生了什么?

4分钟,20%涨停!光刻机,大爆发!发生了什么?

券商中国
2026-11-17 11:43:19
29.4亿!武大两座医院大标,中建三局、武汉建工各拿一单

29.4亿!武大两座医院大标,中建三局、武汉建工各拿一单

小影的娱乐
2026-11-17 05:03:29
深珠通道没影了?珠海唐家湾房价从3万8砸穿1万4,高管全套牢

深珠通道没影了?珠海唐家湾房价从3万8砸穿1万4,高管全套牢

珠三角港
2026-11-14 21:49:30
日政党高层摊牌,不支持“台独”,大陆已通知日本,访华团可扩大

日政党高层摊牌,不支持“台独”,大陆已通知日本,访华团可扩大

近史谈
2026-10-18 18:02:16
74岁马保国出售上海豪宅,140多平卖400多万,豪宅画面流出

74岁马保国出售上海豪宅,140多平卖400多万,豪宅画面流出

小徐讲八卦
2026-11-17 10:08:29
李连杰一家三口拜见仁波切,64岁利智许久不见,颜值回春如昔日!

李连杰一家三口拜见仁波切,64岁利智许久不见,颜值回春如昔日!

娱乐团长
2026-06-02 15:09:12
1999年孔令华意外离世,李敏得知消息后大哭,女儿感叹:妈妈没过一天好日子

1999年孔令华意外离世,李敏得知消息后大哭,女儿感叹:妈妈没过一天好日子

唠叨说历史
2026-11-17 12:10:20
安倍怕是要气得从坟里爬出来。真的。他老婆安倍昭惠,在他走后,小日子过得那叫一个滋润。

安倍怕是要气得从坟里爬出来。真的。他老婆安倍昭惠,在他走后,小日子过得那叫一个滋润。

回京历史梦
2026-11-05 00:00:04
全球首个,并网成功!中国成为唯一打通这套技术路线的国家

全球首个,并网成功!中国成为唯一打通这套技术路线的国家

普陀动物世界
2026-11-17 06:52:23
从“APEC蓝”到“天天蓝”,王传福晒出比亚迪绿色成绩单

从“APEC蓝”到“天天蓝”,王传福晒出比亚迪绿色成绩单

21世纪经济报道
2026-11-17 15:44:07
住建部原副部长仇保兴提议:2000年以前预制板房,都应逐步拆除

住建部原副部长仇保兴提议:2000年以前预制板房,都应逐步拆除

巢客HOME
2026-11-13 04:35:03
深圳APEC拉开大幕,对比G20和金砖,谁对国际秩序影响力更大?

深圳APEC拉开大幕,对比G20和金砖,谁对国际秩序影响力更大?

刘振起观点
2026-11-17 11:18:13
卡里克下课之后:卡里克就一点错都没有吗?

卡里克下课之后:卡里克就一点错都没有吗?

写球的牧子
2026-11-17 17:57:08
外卖员完成配送后翻业主家门口柜子,拿出女鞋查看;物业:他在两个单元有类似行为,已报案

外卖员完成配送后翻业主家门口柜子,拿出女鞋查看;物业:他在两个单元有类似行为,已报案

大风新闻
2026-11-17 11:11:02
黄仁勋辞职后整个风格都变了,众多亲友陪他散心!

黄仁勋辞职后整个风格都变了,众多亲友陪他散心!

犀利辣椒
2026-11-17 16:30:21
厉娜的瓜太炸裂了!2018年,她和经纪人在外面放贷,厉娜出了780万,经纪人出了1030万,一共1810万借给陈某,利息高达36%!

厉娜的瓜太炸裂了!2018年,她和经纪人在外面放贷,厉娜出了780万,经纪人出了1030万,一共1810万借给陈某,利息高达36%!

静若梨花
2026-11-16 22:23:40
火光冲天!乌军无人机袭击引发俄罗斯最大石化工厂火灾,该厂距离乌克兰1300km

火光冲天!乌军无人机袭击引发俄罗斯最大石化工厂火灾,该厂距离乌克兰1300km

军迷战情室
2026-11-15 23:26:53
香港知名女星宣布离婚,结束仅两年婚姻,发千字长文控诉老公

香港知名女星宣布离婚,结束仅两年婚姻,发千字长文控诉老公

往史过眼云烟
2026-11-15 09:50:29
亚足联彻底不管了!东南亚版A3联赛火热进行,中超球队无缘参赛

亚足联彻底不管了!东南亚版A3联赛火热进行,中超球队无缘参赛

湖北的老球迷
2026-11-17 10:51:51
糖尿病是喝茶喝出来的?医生:再强的胰岛,也难承受这3种茶

糖尿病是喝茶喝出来的?医生:再强的胰岛,也难承受这3种茶

健康科普365
2026-09-10 19:40:11
2026-11-17 18:24:49
新华社 incentive-icons
新华社
新华社是国家通讯社
730175文章数 2441313关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

伊朗罕见公开20多年前史料:最高领袖视察导弹演习

头条要闻

伊朗罕见公开20多年前史料:最高领袖视察导弹演习

体育要闻

我们三兄弟,都是意大利国脚

娱乐要闻

刘欢有6位生死之交,个个可托付后事

财经要闻

日本经济再现负增长 日央行12月还加息吗

汽车要闻

红旗H9 PHEV这后排,谁还抢着坐副驾?

态度原创

手机
本地
房产
公开课
军事航空

手机要闻

从瞬间到故事感,Reno17 系列持续引领实况赛道体验创新

本地新闻

乌兰察布:以前种土豆,现在种Token

房产要闻

5381亩之后,三亚绿谷,等一个500强!

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美乌陷入外交僵局 俄乌互攻势头不减

无障碍浏览 进入关怀版