人机共生时代 筑牢机器人安全伦理护栏

（来源：中国改革报）

转自：中国改革报

2026世界机器人大会上展示的一款骨科手术机器人 新华社记者 谢 晗 摄

□ 本报记者 王晓涛

当人形机器人走出实验室，逐步走进工厂、家庭与各类社会场景，技术能力快速迭代的同时，安全风险、伦理边界、法律适配等一系列现实问题随之而来。在2026世界机器人大会“人机共生，产需共融”主题下，一场题为“机器人普惠之路上的安全治理与伦理护栏”的对话如期举行。来自产学研法多领域的专家汇聚一堂，从技术、产业、法律、国际视野多角度，共同探讨具身智能时代机器人向善普惠发展的实现路径。

机器人走进社会带来新问题

具身智能、能够在物理空间自主行动的智能体正加速落地，机器人已经告别实验室样机形态，开始作为辅助伙伴走入大众生活。技术迭代推动机器人产业加速向前奔跑，如何让其平稳融入社会，成为各界共同面对的现实考题。

“高速发展的同时，刹车机制已经迫在眉睫。”中国工程院外籍院士、德国国家工程院院士张建伟直言。在他看来，过去机器人大多服务产业场景，如今面向普通消费者的产品大量涌现，安全伦理框架搭建刻不容缓。即便科研上有价值，当机器人演化出好奇心、自我驱动学习能力时，也必须划下清晰的治理红线。

加拿大工程院院士、南方科技大学讲席教授张宏表示，同每一项新技术一样，机器人也是一把双刃剑。过去机器人更多局限在实验室，对社会影响有限；自动驾驶、医疗机器人逐步走入现实之后，在带来便利的同时，各类风险挑战也同步显现。“在迎接新技术发挥其优势的同时，我们要做好充分思考，配套出台相应规则，保障技术安全高效使用。”

“人机共生，不只是技术概念，更是人与机器关系的重新定义。”国家地方共建人形机器人创新中心首席科学家江磊以国内人形机器人开源社区的命名为例说，希望以善意的文化视角引导机器人技术发展成为开源普惠的技术，“我们希望人文界与科技界合作，为未来写出一本善意、充满爱意的人与机器人共生世界的科幻小说”。

机器人正在从单纯工具向着协作伙伴转变，这一身份变迁不断冲击现有制度体系。北京大学法学院教授、北京大学人工智能研究院AI安全与治理中心主任张平指出，养老陪伴机器人进入家庭，要采集家庭环境、用户心理状态等大量信息，隐私保护的复杂程度远超普通大模型。现实中就会遇到具体矛盾：老年用户希望陪伴机器人播放一首老歌，产品一旦提供播放服务，可能会触碰版权问题。“很多现实问题，是现行法律制度与飞速迭代的人工智能技术之间发生的冲突。”在张平看来，机器人治理很难依靠单一法律一劳永逸，要结合陪伴、医疗等不同应用场景，搭建分场景的规则标准体系。

结合企业多年的自动驾驶与人工智能技术实践，维他动力创始人、首席执行官余轶南认为，企业研发层面可以大胆探索，但面向市场交付产品时必须保持极度审慎。他用“失效成本”解读场景风险：机器人摔碎空塑料杯，失效成本很低；若是打翻盛满果汁的玻璃杯，那失效成本就会非常高。他的应对思路是“坚持提前预防、重点关注有可能给用户带来危害的场景、事后通过数据和技术可追溯”。

以技术手段筑牢安全底线

面对物理世界运行的具身机器人，既要在算法模型层面优化可解释性，也要在硬件交互上做好主动防护，技术手段是守住安全的第一道关口。

张建伟介绍，机器人安全研究已经覆盖机构、感知、交互、智能多个维度。当下“负责任的操作”成为一个研究方向，例如机器人学习持刀切菜，训练阶段就要识别刀具的危险性，规避伤人风险。他提出一个生动构想，可以建立“机器人伦理道德学校”，机器人经过系统安全伦理培训、通过检测后，才允许走向家庭应用。物理层面力控技术持续迭代，可以约束机器人触碰人体的力度；但如何将伦理架构嵌入类脑的智能层级，仍是亟待攻克的科研难题。

科研理想与工程落地之间，存在不可忽视的现实鸿沟。张宏谈到，实验室里算法性能小幅提升就具备研究价值，即便可靠性仅有六七成也可以开展实验；但放到家庭等服务场景，这样的水平完全达不到社会使用标准。阿西莫夫机器人三定律，虽然诞生于文学小说，却能够为现实规则制定带来诸多启发。他同时提出，社会也要客观看待机器人能力短板，很多对人类而言轻而易举的动作，对机器却是巨大挑战，需要建立贴合现实的评估体系，“制定的规则是越简单越好”。

江磊结合国内产业进展分析，距离强人工智能大规模落地还有较长周期，2050年之前人形机器人整体智能大概率仍处在人类水准之下，人类依旧掌握管控技术的主动权。但不容忽视的是，当下人形机器人的物理力量已经很强，高速运动下的撞击足以伤害到人。工业和信息化部人形机器人与具身智能标委会已经设立安全伦理等六个治理工作组，人形机器人身份认证系统上线，近300家企业完成注册，实现硬件产品可追溯。此外，行业还在推动给人形机器人配备具有基本隐私攻防的安全套件，为运行在物理世界的机器人装上“防火墙”。

完善标准、法律制度闭环

单纯依靠技术防护无法解决全部问题，标准建设、法律规范、市场准入、主体责任，需要共同织密制度治理的闭环网络。

“即便是再先进的技术，也做不到百分之百可靠。”张平表示，具身机器人产品应当具备一键终止、及时止损的能力。现实却衍生出新难题：如果使用者是行动不便的失能老人，本人无法操作终止，厂商是否应当拥有远程干预权限？技术上可以实现，法律层面却存在不少争议。

放眼全球，各国人工智能治理路径各有不同。欧洲出台综合性强监管法案，美国更多在州的层面制定法案，还有部分国家侧重促进发展类立法。尽管制度设计各不相同，但在以人为本、智能向善的基本原则和目标上已经形成共识，只是“善”的评判标准，会受国情与文化影响。我国尚未出台专门的人工智能法，以民法典、网络安全法等现有法律作为基础约束，同时依靠部门规章、细分行业标准开展治理。“除了靠立法、政策、标准、技术手段进行治理外，未来多元社会共治同样不可或缺，企业自律目前在国内做得比较好。”张平表示，很多市场上有产品销售的企业自己就会评估风险，用更加严格或者更加保守的标准来要求自己。

“最终产品走向用户，企业是直接责任主体。”余轶南结合产业一线实践分析，人形机器人的风险很多并非来自机器主观恶意，而是能力不足带来的隐患，就如同力量强大却尚不懂得如何和人相处的“巨婴”。企业采取“大胆尝试、审慎验证”思路，先把产品放在沙箱的可控环境中充分测试，确认风险可控，再推向真实市场。面向更远未来，人机协作的权限边界不应固定，要随着充分技术验证，一步步审慎向机器人开放授权。

江磊表示，新一代人形机器人走向AI原生模式，依托海量人类文明数据集完成训练，要从源头把控数据集质量，用好开源模式接受社会监督。对待产业发展，可以前期秉持人性本善的理念适度鼓励创新，待产业形成规模之后，进一步强化法治监管，刚柔并济促进行业成长。

最后，余轶南表示，历次技术革命并非简单消灭岗位，更多是带来工作内容的转变。机器人应当承接人类不愿做、难以做好的任务，帮助人类把工作完成得更好。企业在测试机器人时也曾有过模型权限过大引发信息泄露的教训，后续重构架构，坚持把控制权交还用户。“只要人类牢牢掌握随时摁下停止按钮的权利，人工智能的发展就一定有益于人类社会。”