网易首页 > 网易科技 > 网易科技 > 正文

现代战争商业化背后,禁止杀手机器人已来不及

0
分享至

现代战争商业化背后,禁止杀手机器人已来不及

本文系网易智能工作室(公众号smartman 163)出品。聚焦AI,读懂下一个大时代!

【网易智能讯 8月26日消息】专家呼吁在机器人技术和人工智能领域禁止“机器人杀手”(又名“致命自动武器系统”),对此,有一种回应是:你不应该早点考虑这个问题吗?

包括特斯拉的首席执行官埃隆·马斯克在内的116位专家都在呼吁这一禁令。他们说,“我们不久就采取行动。”“一旦灾难之源被打开,就很难关闭。”但是,这种系统已经存在,比如由BAE和其他公司开发的“无人驾驶的作战飞机”塔拉尼斯”,或者由三星制造的部署在韩国边境的自动SGR-A1哨兵枪。自动驾驶坦克已经开始运行,而人类对致命无人机的控制只是程度的问题。

现代战争商业化背后,禁止杀手机器人已来不及马斯克

然而,机器人杀手实际上陪伴我们的时间跟机器人一样长。1920年卡雷尔·恰佩克(Karel apek)的戏剧RUR(罗莎的通用机器人)让我们认识了这个词(在捷克语中意思是“劳动者”)。他的仿人机器人由同名公司制造,用于工业工作,反抗和屠杀人类。从电视剧《神秘博士》到电影《终结者》,他们一直都在这么做。机器人电影以及故事几乎没有好的结局。

如果机器人的末日不降临的话,马斯克和他的联名签署人提出的问题就很难想象了。即使我们只知道其中一台机器将会失灵,而欧美妮消费者产品的警察机器人在机器战警中将会带来混乱的后果。

这样的暗示似乎可以让人想到一个致命的严肃话题。关于机器人世界末日的故事可能并不完全是开玩笑的,尽管它们利用了人类根深蒂固的恐惧,但这些故事终究是娱乐。不过,对于这样一场辩论来说,要接受科幻电影所讲的东西,实在太容易了。随之而来的暗示是,只要我们避开那些真正糟糕的技术,一切都会好起来的。

就像法律专家们认识到的那样,这些问题会变得更加复杂。一方面,他们更加担心也更加着急的是机器人的道德问题;另一方面,他们关注的是现代战争的本质及其商品化。

我们如何使自主技术系统变得安全,有职业操守呢?避免机器人对人类造成的伤害是在艾萨克·阿西莫夫导演的电影《I,Robot》中探索出的问题所在,这组短篇故事集非常有哲理,因此阿西莫夫的三个机器人定律有时会被人们讨论——就好像它们有牛顿的三种运动定律一样。具有讽刺意味的是,阿西莫夫的故事主要是这种积极的定律如何被环境所破坏。

在任何情况下,道德问题都不可能轻易地被制定为“一刀切”的原则。历史学家尤瓦尔·赫拉利指出,无人驾驶汽车将需要一些规则来决定如何应对不可避免的或者可能致命的碰撞:机器人试图拯救谁?尤瓦尔·赫拉利说,我们可能将会得到两种模式:利己主义者(优先考虑司机)和利他主义者(这把别人放在第一位)。

现代战争商业化背后,禁止杀手机器人已来不及

尤瓦尔

在2012年人权观察组织的一份关于杀手机器人的报告中,有一些科幻的偏见。报告称:“区分恐怖的平民和危险的敌人需要士兵去理解人类行为背后的意图,这是机器人做不到的。”此外,“机器人不会受制于人类情感和同情,这可以为杀戮平民提供重要的检查。”但是,第一个说法是对信仰的陈述——机器人用生物识别技术难道不能比一个使用本能的受惊士兵做出更准确的评估吗?至于第二种说法,你会认为:有时候当然会。其他时候,战争地区的人们肆意强奸和屠杀。

这并不是要反驳报告中对自动机器人士兵的恐惧,我也恐惧。相反,它让我们回到了关键问题,这不是技术问题,而是战争。

我们对战争道德的敏感度已经是武断的了。人权观察表示:“完全自主武器的使用引发了严重的问责问题,这将侵蚀另一种固有的平民保护工具。这是一个公平的观点,但不可能在任何一致的伦理框架下适用,而核武器在国际上是合法的。”此外,无人机战争、士兵提升技术和不能被分解的“人机大战”的定律之间还有一个连续性。

现代战争商业化背后,禁止杀手机器人已来不及

自动化军事技术的问题与战争本身的变化本质密切相关。在这个恐怖主义和叛乱的年代里,战争不再有开始或结束、也不再有战场或军队:正如美国战略分析家安东尼考斯曼所说:“现代战争的教训之一就是战争不再被称为战争。”无论如何,这都不像是诺曼底登陆。

战争总是使用最先进的技术,“杀手机器人”也一样。你可以肯定的是有人从中获利。

现代战争商业化背后,禁止杀手机器人已来不及

无论如何,让我们试着抑制我们最糟糕的冲动:把犁头打成刀剑,告诉国际军火贸易他们不能制造杀手机器人就像告诉软饮料制造商他们不能生产橙汁一样。(选自:The Gardian编译:网易见外智能编译平台 审校:韩茹雪)

关注网易智能公众号(smartman163),获取人工智能行业最新报告。

相关推荐
热点推荐
直逼30℃!中美专家警告:今冬或有极端天气,为何南方气温却回升

直逼30℃!中美专家警告:今冬或有极端天气,为何南方气温却回升

钟铭聊科学
2021-10-27 14:39:37
取暖费涨三分之二,不补交就停止供暖?吉林一物业公司的通知引争议

取暖费涨三分之二,不补交就停止供暖?吉林一物业公司的通知引争议

极目新闻
2021-10-27 12:26:20
中国允许养的十种稀有宠物

中国允许养的十种稀有宠物

萌宠联盟
2021-10-27 18:03:11
特斯拉高开,马斯克再创历史,10个月身家增幅超巴菲特91年总财富

特斯拉高开,马斯克再创历史,10个月身家增幅超巴菲特91年总财富

AI财经社
2021-10-27 21:51:15
郭威被定为一级残废,索赔医院超77万,杜新枝到底对他做了什么?

郭威被定为一级残废,索赔医院超77万,杜新枝到底对他做了什么?

非知名娱记
2021-10-27 17:23:18
供应链危机覆盖全球,欧美港口拥堵波及中国,拜登政府是罪魁祸首

供应链危机覆盖全球,欧美港口拥堵波及中国,拜登政府是罪魁祸首

李春光
2021-10-26 13:24:26
女子为了登机回国修改核酸报告 治愈后获刑

女子为了登机回国修改核酸报告 治愈后获刑

看看新闻Knews
2021-10-27 19:00:04
关键时刻,四国外长集体访华,背后释放何种信号

关键时刻,四国外长集体访华,背后释放何种信号

局小乖简史
2021-10-27 09:28:33
年迈的王石,已经越来越配不上贵族气的田朴珺了

年迈的王石,已经越来越配不上贵族气的田朴珺了

唐戈
2021-10-27 20:07:37
马尼拉市长再承诺:若当选总统,明年年底前让民众恢复正常生活

马尼拉市长再承诺:若当选总统,明年年底前让民众恢复正常生活

东博社
2021-10-27 16:57:25
“中年油腻女”是什么样的?标准公布了!若全不占,恭喜你还年轻

“中年油腻女”是什么样的?标准公布了!若全不占,恭喜你还年轻

汪汪粹冰冰
2021-10-27 14:45:30
抗美援朝,美军究竟伤亡是多少?陈赓给出的说法或许是真实的

抗美援朝,美军究竟伤亡是多少?陈赓给出的说法或许是真实的

冰镇冬天
2021-10-27 20:10:59
田静为让郭威捧遗像一事,和杜新枝大吵:66块钱的爱,我们要不起

田静为让郭威捧遗像一事,和杜新枝大吵:66块钱的爱,我们要不起

热点社会深挖
2021-10-27 22:03:02
9年了!微信终于“干净”了

9年了!微信终于“干净”了

低调不跑调
2021-10-27 22:11:45
连休假出台遭疯狂吐槽,明年五一长假受网友热议厌嫌

连休假出台遭疯狂吐槽,明年五一长假受网友热议厌嫌

迷糊蛇
2021-10-27 11:03:10
大量用户吐槽苹果 AirPods 3 越南代工版做工粗糙:比不过国产

大量用户吐槽苹果 AirPods 3 越南代工版做工粗糙:比不过国产

IT之家
2021-10-27 18:31:51
要想混得好,干爹少不了!这6位女明星,个个“靠认爹上位”

要想混得好,干爹少不了!这6位女明星,个个“靠认爹上位”

叶公子
2021-10-25 13:11:58
日本人永远不愿公开的老照片,无耻至极!

日本人永远不愿公开的老照片,无耻至极!

TOP6000摄影网
2021-10-22 14:32:26
2030年,全球8亿人被机器取代?麦肯锡报告:在中国这两个职业受到冲击最大

2030年,全球8亿人被机器取代?麦肯锡报告:在中国这两个职业受到冲击最大

金融界
2021-10-27 16:24:21
孟晚舟回华为上班第一天,中国突然官宣特大喜讯,拜登绝没有料到

孟晚舟回华为上班第一天,中国突然官宣特大喜讯,拜登绝没有料到

前沿时刻
2021-10-27 20:28:58
2021-10-28 02:22:44

科技要闻

马斯克10个月身家增幅超巴菲特91年总财富

头条要闻

"西北第一高塔"被国务院通报违建 以8.5亿元转让房企

头条要闻

"西北第一高塔"被国务院通报违建 以8.5亿元转让房企

体育要闻

利物浦vs普雷斯顿首发出炉

娱乐要闻

车晓直播带货遭嘲:2亿分手费花光?

财经要闻

汽车要闻

拒绝做街车 奥迪Q5L新车型售42.26万元

态度原创

教育
数码
旅游
游戏
家居

教育要闻

老年职业教育,被忽略的一片蓝海

数码要闻

Apple Watch S7体验:变大变圆,仍是最强智能手表

旅游要闻

四川当季15个限量款秋景,赶紧收藏

《幽灵行动:断点》“祖国行动”预告:解锁角色外观!

家居要闻

上海小姐姐一人住顶级豪宅 光买家具就花700万

×