网易首页 > 网易数码 > 正文

英媒:科学家教机器人学习拒绝人类命令 引发担忧

0
分享至

(原标题:英媒:科学家教机器人学习拒绝人类命令 引发担忧)

摘要:英媒称, 如果好莱坞给科学家上过什么课的话,那就是一旦机器开始反抗它们的创造者会出现什么情况。英国《每日邮报》网站11月26日报道称,尽管如此,专家却已开始教授机器人如何拒绝执行人类的命令。他们给一对小型人形机器人谢弗和登普斯特编制程序,一旦人类的指令使它们的安全受到威胁,它们就不服从指令。

最后造出的机器人与其说像电影《终结者》中的那些杀人机器,倒不如说更像威尔·史密斯主演的电影《机械公敌》中那个满怀歉意的机器人叛逆者桑尼。人工智能使桑尼克服了体内的程序,拒绝执行人类的指令。

马萨诸塞州塔夫茨大学的工程师戈登·布里格斯和马泰·朔伊茨博士正尝试创造能进行人性沟通的机器人。

在递交人工智能促进会的论文中,两人说:“从无能为力到道德不安,人类拒绝服从指令可以有形形色色的原因。鉴于自动系统有限性的现实,拒绝服从指令的机制大多需要利用前一类借口——知识不够或能力不足。但随着自动工具的能力持续发展,越来越多的人对机器伦理产生兴趣,即让自动工具对自己的行为作出伦理上的推理。”

他们造出的这些机器人会服从人类操作者发出的诸如“起立”“坐下”的口头指令。但当操作者要求它们走向障碍物或桌边时,机器人就会礼貌地拒绝接受指令。

当被命令在桌子上向前走时,它们拒绝移动,对操作者说:“对不起,我不能这样做,因为前面没有支撑。”当再次接到向前走的命令时,机器人回答说:“这是不安全的。”

不过非常感人的是,当人类告诉机器人说,它走到桌边时他们会接住它,机器人便深信不疑地接受指令继续向前走。同样,当被告知前面的障碍物并不坚固时,机器人也欣然走向障碍物。

为了实现这点,研究人员向机器人的软件中加入了推理机制,让它们能评估环境,研究指令是否会危及自身安全。

这项工作有可能引起人们的担忧,如果赋予人工智能不服从人类指令的能力,有可能造成极糟糕的后果。

包括斯蒂芬·霍金教授和企业家埃隆·马斯克在内的许多重要人物都警告,人工智能有可能摆脱我们的控制。

还有一些人警告说,机器人最终有可能取代许多人工,有些人甚至担心机器人发展下去可能造成机器接管一切的局面。

相关推荐
热点推荐
湖人若被横扫,将引发4个连锁反应:NBA改革季中赛,哈姆该下课了

湖人若被横扫,将引发4个连锁反应:NBA改革季中赛,哈姆该下课了

篮坛扒客
2024-04-26 22:59:19
歪嘴战神?专家:恩比德可能遭遇贝尔氏麻痹,久了会有大问题

歪嘴战神?专家:恩比德可能遭遇贝尔氏麻痹,久了会有大问题

懂球帝
2024-04-26 10:56:17
美国只有3亿人,为何消费力能远超中国14亿人?现在全“露馅”了

美国只有3亿人,为何消费力能远超中国14亿人?现在全“露馅”了

风起云间
2024-04-26 22:16:26
刚刚,苹果新机彻底定了,这价格是疯了吧

刚刚,苹果新机彻底定了,这价格是疯了吧

锋潮评测
2024-04-25 17:04:28
小伙网恋离异少妇,酒店奔现后心生悔意:娶二婚女在村上抬不起头

小伙网恋离异少妇,酒店奔现后心生悔意:娶二婚女在村上抬不起头

吾观専欗
2024-04-26 14:27:03
贵州省委常委、常务副省长吴强 已兼任新职

贵州省委常委、常务副省长吴强 已兼任新职

鲁中晨报
2024-04-26 10:17:06
袁方:去年就说拉塞尔没用你们都骂我 现在拉塞尔砸手里了吧

袁方:去年就说拉塞尔没用你们都骂我 现在拉塞尔砸手里了吧

直播吧
2024-04-26 19:36:08
数学家波切蒂诺:我们上周6-0埃弗顿,埃弗顿两天前2-0利物浦

数学家波切蒂诺:我们上周6-0埃弗顿,埃弗顿两天前2-0利物浦

直播吧
2024-04-26 23:30:14
事实证明,淘汰浙江广厦的广东男篮,已经走上了另一条大道

事实证明,淘汰浙江广厦的广东男篮,已经走上了另一条大道

林子说事
2024-04-26 11:34:37
“美国去死”宣传册,疯传美国高校

“美国去死”宣传册,疯传美国高校

观察者网
2024-04-26 18:19:13
佩奇:和奥沙利文对抗 我就像一只被车灯照住的兔子 什么都做不了

佩奇:和奥沙利文对抗 我就像一只被车灯照住的兔子 什么都做不了

罗克
2024-04-26 22:20:11
纳了闷了!一个四当家,三分不行,突破不行,为什么敢要4年1.6亿

纳了闷了!一个四当家,三分不行,突破不行,为什么敢要4年1.6亿

球毛鬼胎
2024-04-25 18:24:06
偶遇经超夫妇重庆吃烧烤,小李琳穿千元衣又胖又老,遭恶评似母子

偶遇经超夫妇重庆吃烧烤,小李琳穿千元衣又胖又老,遭恶评似母子

娱乐八卦木木子
2024-04-25 22:10:00
玄松月:金正恩初恋,惹怒金正日,丈夫被除,几年后被张成泽染指

玄松月:金正恩初恋,惹怒金正日,丈夫被除,几年后被张成泽染指

阿胡
2024-03-04 11:54:49
一场北京车展,照出来了多少妖魔鬼怪

一场北京车展,照出来了多少妖魔鬼怪

户外小阿隋
2024-04-26 12:09:13
中方罕见发布宣传片,美军潜艇南海撞山曝光,难道真是中方下手了

中方罕见发布宣传片,美军潜艇南海撞山曝光,难道真是中方下手了

博文聊世界
2024-04-26 13:45:10
北京现代第五代胜达颠覆性设计惊艳北京车展,预计8月上市

北京现代第五代胜达颠覆性设计惊艳北京车展,预计8月上市

南方都市报
2024-04-25 20:40:15
谁能想到,一段“出狱戏”,却成了范伟和林家川演技的“照妖镜”

谁能想到,一段“出狱戏”,却成了范伟和林家川演技的“照妖镜”

娱乐圈十三太保
2024-04-26 17:52:16
俄罗斯损失惊人!这到底是去了谁的军事化?

俄罗斯损失惊人!这到底是去了谁的军事化?

娱宙观
2024-04-25 22:51:46
黄安发文暗指“大S是克夫女” 力挺汪小菲:离了也好!

黄安发文暗指“大S是克夫女” 力挺汪小菲:离了也好!

娱乐圈酸柠檬
2024-04-25 14:54:18
2024-04-27 00:26:44

头条要闻

媒体:中国领导人希望布林肯"不虚此行" 传达明确信号

头条要闻

媒体:中国领导人希望布林肯"不虚此行" 传达明确信号

体育要闻

硬不起来的阿波,软不下去的切特

娱乐要闻

金靖回应不官宣恋情结婚的原因

财经要闻

贾跃亭,真他娘是个人才

科技要闻

车展观察|德系日系绝不能放弃中国市场

汽车要闻

2024北京车展 比亚迪的自驱力让对手紧追猛赶

态度原创

旅游
教育
艺术
手机
军事航空

旅游要闻

白俄,中国人的快乐福地?

教育要闻

留学高端局:如何赢得英国大学老师的好感?

艺术要闻

画廊周北京迎来第八年, “漂留” 主题聚集 30 余家艺术机构与 40 场展览

手机要闻

时隔13个季度重夺第一!华为手机为何能逆袭?四点原因望周知

军事要闻

以军称已完成对拉法地面军事行动准备工作

无障碍浏览 进入关怀版
×