人形机器人大放异彩的今天，阿西莫夫的“机器人三原则”还适用吗？

摘要：多位专家、学者围绕“人形机器人的法治与伦理”展开讨论交流

在今年的世界人工智能大会上，人形机器人是一个重要的主题。今天（6日）举行的2024世界人工智能大会法治论坛上，多位专家、学者围绕“人形机器人的法治与伦理”展开讨论交流。

长期以来，人们对于人形机器人的态度总是矛盾的，期待之余又怀有一丝担忧和恐惧，这在科幻作品中得到了充分体现。早在1940年，科幻作家阿西莫夫就提出了“机器人三原则”，即机器人不得伤害人类，或看到人类受到伤害而袖手旁观；机器人必须服从人类的命令，除非这条命令与第一条相矛盾；机器人必须保护自己，除非这种保护与以上两条相矛盾。

“在今天，阿西莫夫的三原则仍然适用吗，人与机器人的关系会不会发生转变？”在华东师范大学上海人工智能金融学院院长、教授邵怡蕾看来，人形机器人的出现给法律界带来了不少新问题，比如，机器人是否应该被赋予法律人格？机器人造成损害时是否应该承担责任？它的设计者、制造者、所有者和使用者之间的责任如何划分等等。此外，越来越频繁的人机互动也造成了伦理挑战，它们是否应该被视为人类的同伴、人类对机器人产生情感依赖会不会导致伦理问题？

邵怡蕾指出，虽然现在世界上出现了“逆全球化”，但在人工智能这个领域，没有哪个国家能够独善其身，势必会受到其他国家人工智能快速发展带来的冲击。因此，人工智能治理需要全球的通力合作。

中国政法大学数据法治研究院教授张凌寒认为，人形机器人的本质是生成式人工智能和物理形态的结合，两者分别构成了人形机器人的“大脑”和“小脑”。其中，生成式人工智能在赋予机器人“智慧”的同时，也带来了侵犯个人隐私的巨大风险。

“假如将来有一天，人形机器人开始在家中为我们提供服务。它可以识别家庭成员的面孔、了解每个家庭成员的行为习惯和生活习惯。时间长了，它甚至有可能成为世界上最懂我们的人。”张凌寒说，在这个过程中，机器人不可避免要收集很多个人信息和数据，该如何保护好这些个人隐私呢？

在她看来，科技发展必须坚持以人为本，完善人形机器人的伦理原则与治理体系，就要坚持人类的主体地位、保障人类基本权利、坚持公平与非歧视原则，“人类有平等发展、享有和利用人工智能的权利，应避免人形机器人产生各类歧视。”

“对人工智能未来的担忧是有必要的，但不应停止技术研究的脚步。”国家地方共建人形机器人创新中心首席科学家江磊说，从技术的角度出发，更应关注如何控制好技术朝着安全方向发展。具体到人形机器人这个领域，不能只把它看成一项硬件技术，还包括操作人员培训等内容，这些合在一起才是人形机器人的关键技术。

在谈到人工智能立法时，中国政法大学副校长、教授时建中表示，我们在立法时需要未雨绸缪，但不能期望通过今天的立法来解决明天的所有问题，而是要在发展中解决新问题。所以，他呼吁应加快构建推动人工智能发展的制度特区。

“当前，人工智能已经成为国家之间竞争的重要一环。我们对于新技术的发展要有容忍度，不能因为人工智能犯了一些错误就否定它。”时建中说，我们要关注人工智能制造出的新问题，但不宜过分放大。

据悉，论坛还发布了《人形机器人治理导则》，从目标愿景、基本遵循、创新发展、风险管理、全球治理等方面提出30条意见建议。