网易首页 > 网易号 > 正文 申请入驻

人形机器人伤人,谁来负责?119页报告揭开了比追责更棘手的问题

0
分享至

你有没有想过一个问题?

当一台人形机器人在商场里撞倒老人,或者在养老院护理时弄伤了病人,责任该由谁承担?是造机器人的厂商?是写算法的程序员?是部署机器人的商场或养老院?还是那个按下启动键的操作员?

更棘手的是,如果机器人长期陪伴一位独居老人,老人对它产生了情感依赖,甚至把重要决定都交给它——这种影响又该由谁来负责?

优必选联合深圳市律师协会、工信部电子五所、深圳市标准技术研究院等机构发布的《人形机器人科技伦理治理白皮书(2026)》,用119页的篇幅,首次系统性地回答了这些问题。

这份白皮书集结了张平、张霄、杨庆峰等指导专家,以及深圳市律师协会、工信部电子五所等参编单位的智慧,提出了“行动可控、拟人适当、交互有度”三项伦理专项保护目标,并构建了一套可落地的七步风险管理框架。

今天,我们就用最接地气的方式,把这份报告的核心逻辑讲清楚。

一、为什么人形机器人需要专门的伦理治理?

白皮书开篇就点明了问题的核心:人类正在从“人主动适应机器”走进“机器主动适应人”的时代。

传统工业机器人待在封闭产线上,操作者是受过培训的工人;无人机飞在天上,不会和路人产生身体接触。但人形机器人不一样——它要走进工厂、商场、学校、医院和家庭,要适应人类的生活规则和伦理要求。

这意味着三个根本性的变化:

第一,部署环境从封闭走向开放。 工业机器人待在安全围栏里,人形机器人却要在人群中穿梭。

第二,交互对象从专业操作者扩展到普通公众。 家庭成员、顾客、访客、学生,甚至路过的陌生人,都可能成为交互对象,其中很多人根本没有主动选择过与机器人互动。

第三,使用方式从单次任务演变为持续的交互关系。 传统设备完成任务就结束,但具备长期记忆和稳定人格的人形机器人,可能在数月甚至数年的互动中,让用户形成情感依赖。

白皮书明确指出:现有的伦理治理框架在治理对象、风险管理、责任分配等层面均面临挑战。

二、全球治理框架的四大不足

白皮书系统梳理了欧盟、美国、日本、韩国、新加坡、中国等主要司法管辖区的科技伦理治理框架,发现现有框架应用于人形机器人时存在四类不足:

一是对象识别不足。 人形机器人在现行框架中被拆解成碎片化的规制对象:数据保护规则把它视为个人信息处理活动,人工智能规则把它视为算法系统,机械产品法规把它视为机械设备。这些规制路径各自合理,但彼此割裂,未能将人形机器人作为完整的、具有社会属性的新兴技术产品加以整体规制。

二是评价机制不足。 缺乏一套贯穿数字判断、物理执行和人机交互反应全链条的风险评估方法。即便零部件分别通过合格认定,仍可能在特定时序和环境下产生不可接受的后果。

三是关系治理不足。 现有规则以单次互动为判断依据,对累积影响、关系演变、关系终止等覆盖不足。用户对人形机器人的信任是在多次互动中逐步形成的,但现行规则很难处理这种长期累积的关系风险。

四是动态适配不足。 产品上市后仍会持续经历模型更换、软件迭代、权限扩展和场景迁移,静态的合规结论难以覆盖动态变化。

三、人形机器人的三类特有伦理风险

白皮书将人形机器人的特有伦理风险归纳为三类:具身性、拟人性和关系性。

具身性风险来源于机器人的物理行动能力。碰撞、夹挤、跌倒、错误抓取,这些首先属于产品安全问题。但伦理分析关注的是更深层的问题:谁有权决定机器人可以触碰谁?被照护者当下表达的抗拒,能否被事前的代理授权覆盖?

拟人性风险来源于机器人的社会性呈现。当机器人保持目光接触、用自然语气回应、在用户低落时表达关切,用户就会下意识地调用理解真人的认知来解读这些信号。真正的伦理问题出现在拟人呈现与系统真实身份、能力、情感之间产生差距时。

关系性风险来源于长期互动中形成的情感连接。记忆使系统能够保存共同经历,人格一致性让用户形成稳定预期,主动性让机器人能够主动发起互动。这些能力既是人机关系建立的基础,也是关系性风险的来源。

白皮书特别指出,三类风险往往组合出现、彼此强化。比如机器人以拟人化方式建立初步信任,关系性在持续互动中巩固这份信任,而行动能力则可能将这种信任转化为现实空间中的操作授权。每一次成功完成任务,都会反过来强化用户对机器人的信任,授权越深,退出成本越高。

四、三项专项保护目标

针对上述风险,白皮书提出了三项人形机器人伦理专项保护目标:

行动可控:机器人的现实行动始终处于正当授权、可验证的能力边界和有效的人类干预范围之内。核心要求包括:授权与能力边界明确、保留实质控制条件、动作意图可预期、权限冲突时安全优先、身体接触尊重当下意愿、高风险委托由人作出最终决定。

拟人适当:机器人的社会性呈现不得造成对其身份、能力、角色、利益和责任承担能力的实质误认。核心要求包括:身份边界清晰、能力边界明确、不利用脆弱处境诱导依赖、拟人程度与功能需要相称、个人及群体表征不固化刻板印象。

交互有度:长期互动不得不当侵蚀人的自主判断、现实关系、退出能力和既有责任结构。核心要求包括:角色清楚、不制造非理性依赖、不成为照护的唯一来源、退出/删除/重置/迁移四种机制分别可用、多方关系边界清晰、不将信任关系用于商业利用。

五、七步风险管理框架

白皮书的核心贡献,是构建了一套可落地的七步风险管理框架:

第一步,产品设计画像。 记录产品型号参数、软硬件配置、模型版本、预期功能等基础信息,从物理形态与具身能力、人机交互深度、功能与关系定位三个维度描述机器人本体的事实性信息。

第二步,产品部署画像。 记录产品预期部署的交互对象、监督强度与约束条件。

第三步,伦理风险识别。 对照风险分类梳理可能产生的伦理风险类型,确定受保护主体与伦理影响,构建风险形成机制,形成结构化的伦理风险描述表单。

第四步,伦理风险评估。 评定每条伦理风险的严重性与可能性,并以暴露面、可逆性、脆弱性、可控性等要素进行校准,形成风险关注等级。

第五步,明确伦理可接受条件。 对照伦理原则和专项保护目标,为每条高风险给出可接受的条件。

第六步,风险控制与测试。 依据风险形成机制选择控制策略和控制措施,并通过技术测试验证控制措施的有效性。

第七步,伦理审查与复评。 综合所有伦理风险,对产品形成通过、附条件通过或不通过的审查结论,并在全生命周期中按触发条件复评。

六、全生命周期动态治理

白皮书特别强调,人形机器人交付使用后,产品状态仍会持续动态演化。模型迭代、功能权限调整、部署场景迁移、长期人机交互形成的记忆和关系,都可能改变风险状态。

因此,伦理治理需要覆盖七个主要环节:立项、设计开发、上市前审查、产品部署、产品上市后、产品更新迭代、停服。

其中,停服阶段尤其值得关注。对于长期保存共同记忆、保持稳定人格并承担照护、教育或陪伴角色的人形机器人,停服不仅是功能终止,还可能冲击用户的生活安排和关系预期。白皮书建议,停服前应完成影响评估,提前告知用户,并提供渐进过渡方案。

七、八类责任主体,谁该做什么?

白皮书明确了八类责任主体的伦理责任:

制造商:承担系统级物理集成的风险评估与验证责任,确保营销表述与产品实际能力一致,在更新和停服时提供必要信息与过渡支持。

供应商:模型算法提供者须说明已知能力、禁止用途和常见失效模式;硬件供应商须保证质量并提供安全相关参数;云服务商须在服务变更前留出适配时间。

部署方:核验真实环境是否符合适用条件,落实具备实质干预能力的现场监督。

运营商:主动控制环境变化,对直接用户提供可理解告知和退出机制,对第三方主体提供在场提示和投诉渠道。

二次开发者:不得绕过产品的身份披露、退出机制和权限限制,为长期关系场景提供内容时不得设计依赖诱导机制。

经销商:核验目标市场合规状态,再销售时清除前一用户的个人信息和关系记忆。

用户:基于对具体使用行为的控制承担有限度的注意义务。

其他第三方:政府监管单位、行业协会、高校和研究机构、标准化机构、第三方评测认证机构等,在规则制定、测评认证、试验验证、权益救济等方面发挥关键作用。

结语:伦理治理不是阻碍创新,而是让创新走得更远

优必选这份白皮书最核心的判断是:人形机器人的伦理治理需要从“事后监管”转向“全生命周期内嵌”,从“单一主体负责”转向“多主体共治”。

白皮书在最后给出了七条行业共治建议:建立风险分级、场景适配的专项治理体系;建设开放共享的伦理测评与公共技术服务体系;对高风险和新型应用建立准入评估与监管沙盒机制;构建覆盖更新、转让、停服和退役的全生命周期治理机制;统一事件监测、信息传递和跨主体协同规则;建立面向所有受影响者的公共反馈与分级救济机制;提升公众认知与人工智能素养。

正如白皮书序言所说:“具身智能技术仍处于快速发展阶段,人形机器人真正走进千家万户尚需数年。”但正因为如此,现在就开始构建伦理治理框架,成本最低、阻力最小。

伦理治理不是阻碍创新,而是让创新走得更远。

报告节选

































特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
发生在中秋节的这起车祸致2死,车毁人亡!又是血泪的教训

发生在中秋节的这起车祸致2死,车毁人亡!又是血泪的教训

奶油芒
2026-09-26 11:17:00
正式下课?宫鲁鸣卸任?女篮新帅3选1,男篮名宿成热门

正式下课?宫鲁鸣卸任?女篮新帅3选1,男篮名宿成热门

喜欢体育的猫
2026-09-26 08:46:52
一半的中国人都缺的维生素,竟是让你睡不好、掉头发的元凶

一半的中国人都缺的维生素,竟是让你睡不好、掉头发的元凶

医学原创故事会
2026-09-24 23:22:09
这跟不穿有啥区别?戚薇红毯透视装致敬蔡明,三角区尴尬还走不成

这跟不穿有啥区别?戚薇红毯透视装致敬蔡明,三角区尴尬还走不成

娱说瑜悦
2026-09-26 18:36:46
燕麦立大功!研究发现,仅需连续这么吃2天,坏胆固醇降低10%

燕麦立大功!研究发现,仅需连续这么吃2天,坏胆固醇降低10%

思思夜话
2026-09-26 13:54:02
1-3!佛得角“昙花一现”?全场遭对手“碾压”,门将发挥低迷

1-3!佛得角“昙花一现”?全场遭对手“碾压”,门将发挥低迷

汪星人哟
2026-09-26 07:52:41
突发!伊朗内讧了!

突发!伊朗内讧了!

财经要参
2026-09-26 07:34:49
特朗普准时签字,禁止中国买俄油,否则加税100%,到底买不买?

特朗普准时签字,禁止中国买俄油,否则加税100%,到底买不买?

和风聊历史
2026-09-25 22:19:25
美方在台湾问题上有了新说辞:若中国和平统一,美国不会反对

美方在台湾问题上有了新说辞:若中国和平统一,美国不会反对

吕醿极限手工
2026-08-27 14:18:48
亚运会乒乓球:男单大爆冷!世界亚军0:4被淘汰,张本智和4:0晋级

亚运会乒乓球:男单大爆冷!世界亚军0:4被淘汰,张本智和4:0晋级

国乒二三事
2026-09-26 11:35:18
三代接力,从一个人到一群人(赓续长征精神 奋进复兴征程·记者再走长征路)

三代接力,从一个人到一群人(赓续长征精神 奋进复兴征程·记者再走长征路)

海外网
2026-09-26 18:43:02
0-3!0-4!短短3天王楚钦2次遭遇横扫:本届亚运最多只能拿1金牌

0-3!0-4!短短3天王楚钦2次遭遇横扫:本届亚运最多只能拿1金牌

风过乡
2026-09-26 20:03:01
张本智和带队战胜国乒仅1天,日媒态度大变,樊振东的话有人信了

张本智和带队战胜国乒仅1天,日媒态度大变,樊振东的话有人信了

锅锅爱历史
2026-09-26 05:57:37
小偷正在“饿死”!全国盗抢骗案件下降38.9%,原因竟不是摄像头

小偷正在“饿死”!全国盗抢骗案件下降38.9%,原因竟不是摄像头

猫叔东山再起
2026-09-24 10:55:19
恭喜国足!恭喜邵佳一!21岁“全能后腰”闪耀全场,未来入选国家队或稳了

恭喜国足!恭喜邵佳一!21岁“全能后腰”闪耀全场,未来入选国家队或稳了

篮球圈里的那些事
2026-09-26 17:25:54
你知道一万亿美元顺差是啥概念不?放200年前八国联军早到家门口

你知道一万亿美元顺差是啥概念不?放200年前八国联军早到家门口

乌克兰小静
2026-09-26 08:12:07
酸爆了!韩国游泳队亚运会合计1金6银,惊呼中国张展硕独揽7金太疯狂

酸爆了!韩国游泳队亚运会合计1金6银,惊呼中国张展硕独揽7金太疯狂

新杀猪的秀才
2026-09-26 09:14:27
34岁阿拉米扬跪地庆祝!教练队友场边激动流泪 伊媒:令人惊叹的胜利

34岁阿拉米扬跪地庆祝!教练队友场边激动流泪 伊媒:令人惊叹的胜利

颜小白的篮球梦
2026-09-26 18:06:53
美国敢干掉萨达姆、卡扎菲、米洛舍维奇,为什么唯独不敢动“朝鲜”?

美国敢干掉萨达姆、卡扎菲、米洛舍维奇,为什么唯独不敢动“朝鲜”?

文史达观
2026-09-26 06:45:23
亚运男110米栏预赛日本头号热门摔出局 中国两将会师决赛围攻日本另一高手

亚运男110米栏预赛日本头号热门摔出局 中国两将会师决赛围攻日本另一高手

威猛孟巍
2026-09-26 20:56:00
2026-09-26 21:27:00
三个皮匠报告
三个皮匠报告
专业的行业报告分享平台
1133文章数 31关注度
往期回顾 全部

科技要闻

拖了近10年,特斯拉Semi终于量产!

头条要闻

《甄嬛传》官微发文悼念刘欢 网友叹他和姚贝娜都走了

头条要闻

《甄嬛传》官微发文悼念刘欢 网友叹他和姚贝娜都走了

体育要闻

奇迹之子,亚运七金王,张展硕的19岁秋天

娱乐要闻

刘欢离世前疑已有预感 默默提前告别

财经要闻

盖茨:AI已强大到足以造成"10亿人死亡"

汽车要闻

可城可野可旅行 捷途旅行者 7 双车预售14.99万起

态度原创

家居
亲子
房产
健康
教育

家居要闻

2026建博会(广州) 公装联探展交流活动

亲子要闻

养儿不防老,女婿胜亲儿(3)

房产要闻

全年霸榜TOP1!南海・叁號院周年官宣:新作即将登场

鼻子三角区的痘,千万别乱挤!

教育要闻

上音学生在2026年全国大学生英语竞赛总决赛中斩获佳绩

无障碍浏览 进入关怀版