网易首页 > 网易号 > 正文 申请入驻

谷歌开发“机器人宪法”防止伤害人类,灵感来自机器人三定律

0
分享至

·数据收集系统AutoRT结合了视觉语言模型、大语言模型以及机器人控制模型,让机器人在新环境中收集训练数据,可一次性指挥20个机器人。它具有安全护栏,采用“以安全为重点的提示”,灵感来自科幻作家艾萨克·阿西莫夫的“机器人三定律”。

AutoRT是一个数据收集系统,帮助训练机器人适应现实世界,它具有安全护栏。

谷歌为人工智能机器人开发了一部“机器人宪法”,让机器人不伤害人类。

当地时间1月4日,谷歌DeepMind机器人团队公布了三项新进展,称这些进展将帮助机器人在自然环境中做出更快、更好、更安全的决策。其中一项进展是一个收集训练数据的“机器人宪法”系统——AutoRT。

谷歌的数据收集系统AutoRT利用了基础大模型的潜力,有助于开发能够理解人类实际目标的机器人。它通过收集数据帮助扩展机器人学习,从而更好地训练机器人适应现实世界。

AutoRT结合了视觉语言模型(VLM)、大语言模型(LLM)以及机器人控制模型(RT-1或RT-2),让机器人在新环境中收集训练数据。AutoRT可一次性安全指挥20个机器人,机器人只配备一个摄像头、机械臂和移动基座,每个机器人利用视觉语言模型来了解其周围环境和视线内的物体,大语言模型则会提出一系列机器人可以执行的创造性任务,比如把零食放在台面上,或者扮演决策者为机器人选择合适的任务。

尽管AutoRT是一个数据收集系统,但它具有安全护栏,其中之一就是提供“机器人宪法”。谷歌的“机器人宪法”采用“以安全为重点的提示”,指示大语言模型避免选择涉及人类、动物、尖锐物体甚至电器的任务。这部“机器人宪法”的灵感来自科幻作家艾萨克·阿西莫夫(Isaac Asimov)的“机器人三定律”,即机器人不得伤害人,也不得见人受伤害而袖手旁观;机器人应服从人的一切命令,但不得违反第一定律;机器人应保护自身安全,但不得违反第一、第二定律。为了提高安全性,DeepMind对机器人进行编程,如果机器人关节受力超过一定阈值就会自动停止,并安装了一个物理终止开关,让人类操控机器人停止工作。

机器人利用视觉语言模型来了解其周围环境和视线内的物体,大语言模型则会提出一系列机器人可执行的任务。

在七个月时间里,谷歌在不同办公大楼中共部署52个独特的机器人,收集了包括6650个独特任务的77000次机器人试验的不同数据集。据The Verge报道,一些机器人由人类操作员远程控制,而其他机器人则根据脚本或完全自主使用谷歌的机器人Transformer(Robotic Transformer)人工智能学习模型进行操作。

DeepMind的其他新技术还包括神经网络架构SARA-RT,旨在让现有的机器人Transformer人工智能学习模型更快更准确。此外还宣布了RT-Trajectory模型,帮助机器人更好地完成擦桌子等特定物理任务。

对人类来说,理解如何擦桌子是一种直觉,但机器人可以通过多种方式将指令转化为实际的物理动作。传统上,训练机械臂依赖于将抽象的自然语言(如擦桌子)映射到特定动作,例如闭合抓手、向左移动、向右移动,但这使得模型很难推广到新的任务中。

而RT-Trajectory模型可以在训练视频中自动添加描述机器人运动的视觉轮廓。RT-Trajectory在训练数据集中采集每个视频,并将其与机器人手臂抓手执行任务时的2D轨迹草图叠加。这些轨迹为模型学习机器人控制策略提供了低级实用的视觉提示。

DeepMind表示,相比之下,RT- trajectory模型能够通过解释视频或草图中包含的特定机器人动作让机器人理解“如何做”任务。该系统用途广泛,它还可以通过观看人类演示任务来创建轨迹,甚至可以接受手绘草图,它也可以轻松适应不同机器人平台。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
让耿同学博士肄业!女博导怕了吗?她与董小姐的情夫肖飞啥关系?

让耿同学博士肄业!女博导怕了吗?她与董小姐的情夫肖飞啥关系?

大江看潮
2026-05-24 09:14:45
事发时井下画面公布

事发时井下画面公布

南方都市报
2026-05-23 16:52:20
山西这个煤矿爆炸,死亡数字的变化中隐藏着什么?

山西这个煤矿爆炸,死亡数字的变化中隐藏着什么?

靠山屯闲话
2026-05-23 18:13:38
“再不认罪命就没了”,5次审讯打断一条胳膊,报案人是杀人凶手

“再不认罪命就没了”,5次审讯打断一条胳膊,报案人是杀人凶手

易玄
2026-05-23 11:39:45
普京失望而归,中俄管道谈了20年没成,中国要让俄明白一个道理

普京失望而归,中俄管道谈了20年没成,中国要让俄明白一个道理

他走我心既空
2026-05-23 09:28:02
至少被3条以上毒蛇咬了10多口,26岁男子不慎踩中蛇窝,左腿肿胀发紫发黑,伤口不断渗血,一个小时后,彻底陷入休克

至少被3条以上毒蛇咬了10多口,26岁男子不慎踩中蛇窝,左腿肿胀发紫发黑,伤口不断渗血,一个小时后,彻底陷入休克

环球网资讯
2026-05-24 07:53:06
“厕所爆满,都在查看股票账户!”全球“最牛股市”,还能走多远?

“厕所爆满,都在查看股票账户!”全球“最牛股市”,还能走多远?

证券时报
2026-05-24 07:42:35
北师大男生拒绝插空上桌吃饭,透露出的不是男女对立,是老师的无能!

北师大男生拒绝插空上桌吃饭,透露出的不是男女对立,是老师的无能!

人间运行手册
2026-05-23 08:01:42
暴雨黄色预警!江南江汉江淮黄淮等地警惕强降雨可能引发次生灾害

暴雨黄色预警!江南江汉江淮黄淮等地警惕强降雨可能引发次生灾害

环球网资讯
2026-05-24 08:56:09
90人遇难!一矿工父亲嘶吼,五代人全在矿上,死也不让儿子下井了

90人遇难!一矿工父亲嘶吼,五代人全在矿上,死也不让儿子下井了

火山詩话
2026-05-23 14:57:25
路修好了也没用!中国下决心搁置瓦罕走廊:塔利班只能一旁干瞪眼

路修好了也没用!中国下决心搁置瓦罕走廊:塔利班只能一旁干瞪眼

有范又有料
2026-05-23 11:28:17
山姆黄芥末酱被人狂薅,有人接了三大袋,市场价25一斤

山姆黄芥末酱被人狂薅,有人接了三大袋,市场价25一斤

映射生活的身影
2026-05-23 21:53:05
乌克兰收复400平方公里领土,俄军星链终端被定向断网,指挥系统瘫痪

乌克兰收复400平方公里领土,俄军星链终端被定向断网,指挥系统瘫痪

爆角追踪
2026-05-24 17:27:23
富途,老虎,长桥的背后是腾讯,小米,阿里,金龙大跌后该轮到港股了

富途,老虎,长桥的背后是腾讯,小米,阿里,金龙大跌后该轮到港股了

东方豪侠
2026-05-24 07:19:48
重庆:17人失联,1人死亡

重庆:17人失联,1人死亡

南方都市报
2026-05-24 11:26:22
中央气象台:江苏、上海、浙江西部、安徽南部、湖北东部和南部等地出现较强雷达回波

中央气象台:江苏、上海、浙江西部、安徽南部、湖北东部和南部等地出现较强雷达回波

大风新闻
2026-05-24 10:26:30
不打了!西决报销!雷霆伤病潮来了

不打了!西决报销!雷霆伤病潮来了

篮球教学论坛
2026-05-24 09:17:30
全国通缉犯藏上海9年,成身价3亿大佬,被捕时:放了我,给5000万

全国通缉犯藏上海9年,成身价3亿大佬,被捕时:放了我,给5000万

鉴史录
2026-05-23 12:44:00
一顿饭就要花掉40万,四年敛财40亿,杭州土皇帝虞关荣有多嚣张

一顿饭就要花掉40万,四年敛财40亿,杭州土皇帝虞关荣有多嚣张

莫地方
2026-05-21 01:45:03
媒体人:蓉城高层请球队吃饭,只请了教练和主力,没有请替补

媒体人:蓉城高层请球队吃饭,只请了教练和主力,没有请替补

懂球帝
2026-05-24 16:15:07
2026-05-24 17:52:49
澎湃新闻 incentive-icons
澎湃新闻
专注时政与思想的新闻平台。
898462文章数 5091459关注度
往期回顾 全部

科技要闻

我戴着摄像头上班,正在帮AI抢走我饭碗

头条要闻

花670多万买的中式小院是"弯的" 业主崩溃:很难看

头条要闻

花670多万买的中式小院是"弯的" 业主崩溃:很难看

体育要闻

唐斯发牌,大头逆袭:骑士跌向残忍夏季

娱乐要闻

李晨郑恺冲上热搜!跑男停宣引热议

财经要闻

爆炸致82人遇难 留神峪煤业存违法行为

汽车要闻

2027款星途瑶光上市 把"全球车"标准卷进13万级市场

态度原创

健康
房产
本地
数码
公开课

外泌体 ≠ 生长因子!它们之间究竟有何区别?

房产要闻

疯狂周末,海口楼市突然爆了!

本地新闻

用云锦的方式,打开江苏南京

数码要闻

OPPO Reno 16官宣AI键,一键闪记有多强?

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版