网易首页 > 网易科技 > 网易科技 > 正文

马斯克和百位专家提出的杀手机器人禁令没建设性?

0
分享至

专家回应:116位AI专家的杀手机器人禁令没有建设性

【网易智能讯8月22日消息】上周日,包括埃隆·马斯克(特斯拉和SpaceX公司CEO)在内的116名企业家联合发表了一封致联合国的信。信中警告称,AI武器是具有极大危险性的“潘多拉盒子”,它们自己决定何时开展杀戮。对此,包括卫报和华盛顿邮报在内的外媒都报道称,马斯克和他的同事曾呼吁对“杀手机器人”实施“禁令”。

显然,这些新闻标题具有一定的误导性。首先,这封信并没有明确呼吁禁令,尽管其中一位组织者暗示说这是禁令。相反,它为去年12月成立的联合国自动武器委员会提供技术建议。该组织警告称自动化机器“可能是恐怖的武器”是有一定道理的,但试图彻底禁止它们可能是在浪费时间和精力。

这并不意味着禁止武器技术是不可能的。例如,约有192个国家签署了禁止化学武器的《化学武器公约》,一项阻止使用会造成永久性失明的激光武器的国际协议。

自行决策的武器系统是一个完全不同的、范围更广的类别。由人类控制的武器和自主开火的武器之间的界限是模糊的,许多国家(包括美国在内)已经开始越界。此外,机器人飞机和地面交通工具等技术已经被证明有用,武装部队可能会给予他们更多的自由(包括杀戮的自由),这是大势所趋。

美国国家情报总监办公室最近发布的一份关于人工智能和战争的报告得出结论称,这项技术将极大地增强军事实力。报告的合著者、无党派智库“新美国安全中心”的兼职研究员Greg Allen认为,美国和其他国家不可能阻止自己制造武器军械库,这些武器可以自行决定什么时候开火。“你不太可能完全禁止自动武器,”他说,“使用它们的诱惑将会非常强烈。”

美国国防部确实有一项政策,就是在部署致命武器时,要让“人处于决策圈内”。但它并未表示将对禁止自动武器的国际协议持开放态度。美国国防部本周一没有立即回应记者的置评请求。据悉,2015年,英国政府对禁止自动武器的呼吁做出回应,称没有必要使用自动武器,而且现有的国际法已经足够。

你不必费力就能找到已经在某种程度上做出了自己决定的武器。一个例子是美国海军使用的宙斯盾舰载导弹和飞机防御系统。据新美国安全中心的一份报告称,该系统能够在不需要人类干预的情况下,与接近的飞机或导弹进行接触。

其他的例子还包括一架名为“ Harpy”的无人机,它是在以色列开发的,用于地区巡逻,以寻找雷达信号。如果探测到了,它就会自动地对信号源进行俯冲轰炸。以色列航空航天工业公司将这种“Harpy”无人机作为一种“开火后就遗忘”的自动武器。

2015年,马斯克与数千名学术界和工业界的人工智能专家一起签署了一封公开信,呼吁禁止攻击性使用自主武器。就像上周日的信件一样,它是由生命未来研究所组织协调的,据悉该机构研究人工智能和其他技术的长期影响,马斯克向其赞助了1000万美元。

目前,外媒无法联系到该机构,询问为何这封新信函采取了不同的策略。但耶鲁大学法学院的研究员Rebecca Crootof表示,担心自动武器系统的人们应该考虑更有建设性的替代方案来开展全面禁令。对此,她说:“时间和精力若用于制定规章制度会更好。”例如,限制人类士兵活动的日内瓦公约等国际法,可以用来规范机器人士兵在战场上的作战能力。

其他没有禁令的规定,可能会澄清一个模糊的问题:当一款软件做出错误的决定,比如杀害平民时,谁应当被依法追究责任?

(英文来源:wired.com翻译:网易见外智能编译机器人  审校:吴曼)

相关推荐
热点推荐

吃瓜丨一个孕期出轨的瓜,男方不仅孕期出轨,还威胁原配接受小三的存在,太渣了

一个岛岛
2021-06-13 16:11:24

袁隆平去世才22天,我看到喂饱国人的东北黑土,正被一车车偷走…

無星记
2021-06-13 22:16:21

女子卖淫享受一整晚,次日醒来身边躺着两个男人,愤怒报警告强奸

王法仪
2021-06-13 17:10:18

G7峰会来了,三个有趣的细节值得关注,菅义伟靠边站,中国却成为不在场的“主角”

国防时报排头兵
2021-06-13 14:29:02

在性生活中,女人最讨厌男人做的6件事!男性朋友千万要注意

左与右心理
2021-06-13 15:25:34

沈梦辰宣布取消婚礼:“说实话,我从未想过会被他抛弃……”

国际大视野
2021-06-13 23:50:30

王军霞回应被马俊仁性侵始末“感谢老天让我解脱”

爱吃美食的三姐
2021-06-14 00:22:56

10分钟连丢3球!亚洲第1轰然倒下,遭世界第16碾压,奥运出线无望

圣轩爱足球
2021-06-13 23:22:59

威力超过1吨TNT,天然气爆炸究竟是怎么发生的?

老粥科普
2021-06-14 00:11:25

体育界曝出丑闻,全国冠军婚内出轨大三学生,并提出非常荒唐要求

尘语者
2021-06-13 22:13:23

河北石家庄:守寡女子被欺负,鼻青脸肿不愿离家,天道有轮回

余年
2021-06-13 18:38:39

老人味的“元凶”被揪出,医生提醒:40岁后要少碰,老了也能没味

不二说旅物
2021-06-14 01:33:08

女老师向家长借107万后自杀:这种欲望,最毁人

周冲的影像声色
2021-06-13 16:50:35

大爷怀疑老伴出轨对其家暴,老伴道出难言之隐:对夫妻生活不满

野离离
2021-06-13 07:00:02

美国高薪聘请的清华老教授去世,巨额遗产被“曝光”!

华人星光
2021-06-13 16:58:44

三款输入法遭下架 实测:拒绝提供个人信息无法使用表情等功能

新京报
2021-06-13 16:31:06

2003年,童瑶在中戏门口被张默殴打,跪地求饶:歇十分钟可以吗?

五美吟
2021-06-13 22:16:30

中美高官再次通话,中方明确指出:不再承认美国霸权

冯善智观察
2021-06-13 17:45:48

梁锦松出轨,伏明霞主动离婚,她没有你想像中的那么傻

九弦子
2021-06-13 10:40:57

惨遭央视痛批:我们的善良,喂饱了魔鬼

择一好书
2021-06-13 16:05:23
2021-06-14 05:25:07

科技要闻

未来公开课第六期|郝景芳

头条要闻

美国防部职员在中国媒体刊文遭美调查 他到底说了啥?

头条要闻

美国防部职员在中国媒体刊文遭美调查 他到底说了啥?

体育要闻

上帝?天使?是谁救了心脏骤停的埃里克森

娱乐要闻

满分!刘诗诗穿露肩白裙典雅高贵

财经要闻

汽车要闻

e-TNGA架构打造 丰田bZ4X CONCEPT明年量产

态度原创

本地
游戏
健康
艺术
公开课

本地新闻

鞭子真的是公园大爷最后的春药吗?

《消逝的光芒2》公布7分钟实机演示 12月7日正式发售

孩子被猫狗抓咬伤咋办?

艺术要闻

中国申遗往事:这些景点为何能成为世界遗产?

公开课

中国妹子在英国辩论,气质非凡征服老外!

×