当机器人一拳挥向人类，具身智能安全治理的“护栏”如何搭起？

作者 | 大鹏

来源 | 具身之家Robots（ID：zscy006）

图片|中国电子学会

在2026年世界机器人大会（WRC2026）的现场，北京亦庄再次成为全球科技界的焦点。8月22日，2026世界机器人大会“民生普惠”主论坛的圆桌环节，一场题为“机器人普惠之路上的安全治理与伦理护栏”的对话，成为当天全场讨论最激烈的一场。

清华大学人工智能国际治理研究院副院长梁正坐镇主持，对话嘉宾横跨学界、法学界与产业界，包括中国工程院外籍院士张建伟、加拿大工程院院士张宏、国家地方共建人形机器人创新中心首席科学家江磊、北京大学法学院教授张平，以及维他动力创始人余轶南。

一个多小时的对话里，嘉宾们把话题从具身智能的技术架构一路拉到阿西莫夫的“机器人三定律”、孔子故里的儒家伦理，再到真正要送到千家万户的机器人产品应该怎么“刹车”？发言者的共识与分歧，几乎勾勒出当前中国具身智能治理讨论的全貌。

当机器人长出 “好奇心”，红线就此划定

对话开场，中国工程院外籍院士张建伟就把话题拉到了技术架构的深处。他回忆了过去二十年在汉堡组织IROS大会时，请工会代表讨论自动化对就业的冲击、和平主义者抗议机器人武器化的场景，“今天我们再看这些挑战，实际上不只是to B了，还有to C的这些安全问题”。

在他看来，真正的红线藏在具身智能的能力分层里：“从自我的协调、行为，到行为的规划，到再高的一层，它有自我意识、有好奇心、有motivation去做什么。我每次讲到这个地方，就是应该画红线的地方。”他坦言，自己在欧盟项目里做过以好奇心驱动的主动学习，“这作为科学问题是很好的”，但一旦这种能力叠加到具身智能上，“我们应该严格治理”。

主持人梁正总结了一个耐人寻味的观察，人类对机器人的许多恐惧，其实来自“技术想象”“人其实很难做出他没有想象的东西”。这也让现场气氛从纯粹的技术讨论，滑向了科幻与人文。

加拿大工程院院士张宏则用一个家庭故事，把宏大叙事拉回具体的人。他说自己95岁的母亲听说他在研发环卫机器人后反问：“你为什么要干这个事情？你做这件事情，那些环卫工人怎么办？”

他把这类问题归纳为“双刃剑的受害者”命题，并讲了一个纽约见闻。一家只收现金、不收信用卡的咖啡店，原因是要照顾很多老人、很多穷人，他们没有信用卡。“我们在技术发展（电子支付发展）的时候，同时也给某些人带来了伤害。”在他看来，机器人三定律第一定律“机器人不能伤害人”应作广义理解，而具体如何实施，是我们的挑战。

法学界的视角更为尖锐。北京大学法学院教授张平指出，当机器人从“工具”演变为“伙伴”，问题已不是传统的隐私保护那么简单：“它不仅采集服务对象的信息，还要把你周边的环境，你家庭所有成员的信息都要采集，它同时还要揣摩你的心理。”

她举了一个“结构性悖论”的例子，老年人买一台陪伴机器人，希望它唱一首老歌，但机器人唱现有歌曲就有版权问题。“给你现编一首歌是没有问题的，但它要唱一首已有的歌曲，就有版权问题，没有经过授权。”她直言，“现行的很多法律制度和现在人工智能技术的发展，已经达到了一种冲突的地步。”

产业“野蛮生长”下，治理刻不容缓

讨论不能只停留在纸面。国家地方共建人形机器人创新中心首席科学家江磊带来了一组数据：2025年人形机器人出货量约1.9万台，2026年预计达到6万台，这背后是一个紧迫的现实判断。“尽管我们对2050年以后很乐观，我们也很担心，万一大量的人形机器人进入到公众社会以后，这个防线怎么治理？”

他给出了一个形象的物理参照：“现在的机器人挥出去的一个拳头，恐怕现在的世界拳击冠军也承受不了……速度超过10米每秒以后，整个撞击力已经超过人类可以承受的范围。”

为此，工信部去年成立了人形机器人与具身智能标准化技术委员会，下设六个工作组。江磊披露了三项进展：一是身份认证系统已经上线，约300家企业完成注册，“我们人类给它的是‘身份证’，而不是像以前汽车的车架号”；二是计划将智能驾驶时代的黑匣子管控、24小时追溯等技术，打包成机器人安全攻防套件，“因为它毕竟要作用到物理世界，在作用到物理世界的那一刻，要过一道防火墙”；三是正在推动“本质安全”概念落地，以“人类进入一个环境的危害程度”作为基准，“机器人至少达到80%以上才推动到家庭”。

他还有一个哲学式表态，把治理策略比作孟荀之辨：“前一段以‘机器性本善’来适当宽松地促进技术发展；到了一定规模以后，再用法制监管的方法，让它进入一个更文明的社会。”

“用AI治理AI”够不够？一键终止的争议

作为对话中唯一的企业代表，维他动力创始人余轶南的发言给出了来自市场一线的冷峻判断。这位前地平线智能驾驶一号位，把今天机器人面临的核心风险概括为“能力不足”而非“能力过强”。

在他看来，“今天的机器人有非常强劲的体魄，一拳可以打倒一个成年人，有非常快速的奔跑能力……但它其实能力仍然是不足的，它仍然不知道这个事情到底该怎么办，它跟人接触的时候仍然会产生危害。事实上这些危害并不是因为它太强了，而是因为它能力仍然不足，这就像一个‘巨婴’。”

他介绍，维他动力的方法论是用“失效成本”来定义不同场景的风险。摔一个空塑料杯失效成本很低，摔一个装了果汁的玻璃杯则完全不同。产品开发遵循“大胆地假设和尝试，小心谨慎地去验证”，通过沙箱测试后才释放到市场。

他分享了一次刻骨铭心的教训。今年年初，团队曾把类似OpenClaw的开放架构部署到机器人上测试，“当它的能力过于宽泛，而你对它没有管控能力的时候，最简单的，它可能会泄露你的信息，比如邮箱的密码。”最终整个架构被推翻重构，“最重要的一点，是把控制权拿回到用户的手上。”

对于强人工智能时代，余轶南的答案是人机协作的边界应当动态释放：“我们要一步一步地给机器人做授权……当我们知道这个机器人不会给我们带来危害的时候，再一步一步地对它进行授权。”

“用AI来治理AI”是技术乐观主义派的主张，但张平教授泼了冷水：“任何一项技术再先进，都不会有百分之百的可靠性。”她强调，无论何种产品，都必须有“一键终止、及时止损”的机制，“如果你没有这种措施，大概你的产品是不能上市的”。

但一个看似简单的问题却悬而未决，一键终止由谁执行？

“如果陪伴机器人陪伴的是一个失能老人，他没有办法操作，那么谁来终止呢？”她进一步指出一个法律争议点，许多中国厂商声称“我没有远程操控能力，我把操控能力交给用户了”，但一旦发生极端事件，厂商是否也应承担远程终止的责任？“我问过不同的企业老板，有人认为我想要这个权利，有人说我不想要这个权利。”

在更宏观的治理图景上，张平比较了各国路径。欧盟选择了大而全的强势监管，美国更多是州层面的宽松框架，还有一些国家选择发展法、促进法。她透露，中国的人工智能专门法正在抓紧制定，目前更多依靠网安法、数安法、个保法，以及“多如牛毛”的垂类标准。“以人为本、智能向善”是共识，但“以什么人为本、怎么叫向善，每个国家是不一样的”。

替代还是帮助？一场关于“普惠”的灵魂拷问

对话最后一个问题由主持人梁正抛出：机器人对人到底是替代还是帮助？他引用了中国近期一个判例，企业不能以“智能体足以替代该岗位”为由解聘员工，而应帮助其转岗，“这在全球范围都是有标志性意义的”。

张建伟院士的建议是把伦理杠杆延伸到税制：“给年轻人做伴侣的机器人应该课高税，给老人做陪伴的应该免税，就是把伦理的治理做成一个调节的手段。”他还主张，对解决“3D（脏乱差）”工作的机器人产业化给予绿灯，而体育运动、艺术等精神价值工作“多留给我们人类来做”。

张宏院士则把“不伤害”原则推向弱势群体保护，“任何一个科技发展，原则上讲，我们让它尽量不要伤害任何人”。

张平教授的回应尤为克制而有力：“替代是不可避免的，但问题是我们让它替代什么？”高危作业可以替代，决策不能替代，“哪怕是在家庭里面的很小的一个决策，我也希望是由我们自己人来做”。她还提醒企业界：引入“数字员工”必须做好防火墙和本地化，否则“如果哪一天这些智能体联网了，它们自己的语言是互通的，那么你这个企业里面的商业秘密或决策就有可能泄露”。

余轶南做了最后总结，他觉得社会对AI的恐惧有点过重。“每一次技术革命，其实它不是做岗位的替代，它本质上是我们工作内容的转移。”企业要做的，是让先进生产力去做人不想做、难做的事，帮人在现有工作里做得更好，以及守住那个随时可以“拍停”的按钮。“只要我们能够拿到这样的权利的话，其实我觉得人工智能的发展，一定会是对我们人类社会有好处的。”他说。

结语

最终落在主持人梁正的开场关键词上：技术红线“不仅来自于技术本身，它应该来自于我们社会的共识”。当6万台人形机器人即将在2026年走出工厂、走进家庭，这条共识如何凝聚？在孟子的善意与荀子的法规之间、在开源的阳光与失控的黑箱之间，或许才是这场大会留给产业界真正的作业。