网易首页 > 网易科技 > 网易科技 > 正文

马斯克和百位专家提出的杀手机器人禁令没建设性?

0
分享至

专家回应:116位AI专家的杀手机器人禁令没有建设性

【网易智能讯8月22日消息】上周日,包括埃隆·马斯克(特斯拉和SpaceX公司CEO)在内的116名企业家联合发表了一封致联合国的信。信中警告称,AI武器是具有极大危险性的“潘多拉盒子”,它们自己决定何时开展杀戮。对此,包括卫报和华盛顿邮报在内的外媒都报道称,马斯克和他的同事曾呼吁对“杀手机器人”实施“禁令”。

显然,这些新闻标题具有一定的误导性。首先,这封信并没有明确呼吁禁令,尽管其中一位组织者暗示说这是禁令。相反,它为去年12月成立的联合国自动武器委员会提供技术建议。该组织警告称自动化机器“可能是恐怖的武器”是有一定道理的,但试图彻底禁止它们可能是在浪费时间和精力。

这并不意味着禁止武器技术是不可能的。例如,约有192个国家签署了禁止化学武器的《化学武器公约》,一项阻止使用会造成永久性失明的激光武器的国际协议。

自行决策的武器系统是一个完全不同的、范围更广的类别。由人类控制的武器和自主开火的武器之间的界限是模糊的,许多国家(包括美国在内)已经开始越界。此外,机器人飞机和地面交通工具等技术已经被证明有用,武装部队可能会给予他们更多的自由(包括杀戮的自由),这是大势所趋。

美国国家情报总监办公室最近发布的一份关于人工智能和战争的报告得出结论称,这项技术将极大地增强军事实力。报告的合著者、无党派智库“新美国安全中心”的兼职研究员Greg Allen认为,美国和其他国家不可能阻止自己制造武器军械库,这些武器可以自行决定什么时候开火。“你不太可能完全禁止自动武器,”他说,“使用它们的诱惑将会非常强烈。”

美国国防部确实有一项政策,就是在部署致命武器时,要让“人处于决策圈内”。但它并未表示将对禁止自动武器的国际协议持开放态度。美国国防部本周一没有立即回应记者的置评请求。据悉,2015年,英国政府对禁止自动武器的呼吁做出回应,称没有必要使用自动武器,而且现有的国际法已经足够。

你不必费力就能找到已经在某种程度上做出了自己决定的武器。一个例子是美国海军使用的宙斯盾舰载导弹和飞机防御系统。据新美国安全中心的一份报告称,该系统能够在不需要人类干预的情况下,与接近的飞机或导弹进行接触。

其他的例子还包括一架名为“ Harpy”的无人机,它是在以色列开发的,用于地区巡逻,以寻找雷达信号。如果探测到了,它就会自动地对信号源进行俯冲轰炸。以色列航空航天工业公司将这种“Harpy”无人机作为一种“开火后就遗忘”的自动武器。

2015年,马斯克与数千名学术界和工业界的人工智能专家一起签署了一封公开信,呼吁禁止攻击性使用自主武器。就像上周日的信件一样,它是由生命未来研究所组织协调的,据悉该机构研究人工智能和其他技术的长期影响,马斯克向其赞助了1000万美元。

目前,外媒无法联系到该机构,询问为何这封新信函采取了不同的策略。但耶鲁大学法学院的研究员Rebecca Crootof表示,担心自动武器系统的人们应该考虑更有建设性的替代方案来开展全面禁令。对此,她说:“时间和精力若用于制定规章制度会更好。”例如,限制人类士兵活动的日内瓦公约等国际法,可以用来规范机器人士兵在战场上的作战能力。

其他没有禁令的规定,可能会澄清一个模糊的问题:当一款软件做出错误的决定,比如杀害平民时,谁应当被依法追究责任?

(英文来源:wired.com翻译:网易见外智能编译机器人  审校:吴曼)

相关推荐
热点推荐
斯大林为何高看林彪?一句话表明:马奇诺防线是无用垃圾

斯大林为何高看林彪?一句话表明:马奇诺防线是无用垃圾

缥缈孤史
2021-09-22 12:00:12
1995年,葛优拿出350万,买四套北京三环房子,现在葛优身价10亿

1995年,葛优拿出350万,买四套北京三环房子,现在葛优身价10亿

资讯沸点
2021-09-22 21:12:31
满级幻神酒后爆猛料,某百级女主播被点名:刷10w以上我都睡过!

满级幻神酒后爆猛料,某百级女主播被点名:刷10w以上我都睡过!

娱乐搬运
2021-09-22 18:20:32
73岁林子祥中秋晚会前现身机场,打扮朴素穿旧衣,手机只有百元多

73岁林子祥中秋晚会前现身机场,打扮朴素穿旧衣,手机只有百元多

裕丰娱间说
2021-09-22 09:59:06
神回复:高铁上坐对面的妹子,真是居家极品,心动了

神回复:高铁上坐对面的妹子,真是居家极品,心动了

要闻每日关注
2021-09-22 03:15:23
两具1600多年前北魏的尸骨,只是这女性手的位置,是如图所示吗?

两具1600多年前北魏的尸骨,只是这女性手的位置,是如图所示吗?

资讯沸点
2021-09-21 19:07:53
樊振东逆转真因曝光!马龙故意让球,刘国梁为激活小胖用心良苦

樊振东逆转真因曝光!马龙故意让球,刘国梁为激活小胖用心良苦

要闻每日关注
2021-09-22 22:29:38
暴涨40倍! 这门生意真的吃香?!| 檀几条

暴涨40倍! 这门生意真的吃香?!| 檀几条

叶檀财经
2021-09-22 21:26:32
炸裂!孟晚舟案再起波澜!!国内传来大消息,全世界都愤怒了!

炸裂!孟晚舟案再起波澜!!国内传来大消息,全世界都愤怒了!

新三农
2021-09-22 22:26:30
两年前叫嚣的态度哪去了?坦桑尼亚遇危机,点名让中国帮忙!

两年前叫嚣的态度哪去了?坦桑尼亚遇危机,点名让中国帮忙!

社会黄金瞳
2021-09-22 17:24:13
抗战前期,中国花了苏联2.5亿美元贷款,都买了啥?

抗战前期,中国花了苏联2.5亿美元贷款,都买了啥?

浩然文史
2021-09-22 11:30:02
美国空军部长:“中国、中国,还是中国”,27次中国!

美国空军部长:“中国、中国,还是中国”,27次中国!

环球网资讯
2021-09-22 00:24:39
最近恒大又召开了一场混乱的会议!

最近恒大又召开了一场混乱的会议!

老刘的牛
2021-09-22 13:27:20
黑龙江再增5例!无锡发布重要通告!!

黑龙江再增5例!无锡发布重要通告!!

无锡资讯通
2021-09-22 20:41:27
一地通报1例阳性,轨迹涉2省3市!成都疾控紧急提醒

一地通报1例阳性,轨迹涉2省3市!成都疾控紧急提醒

北青网-北京青年报
2021-09-22 12:09:27
长岛失踪女子尸体已确认,初步定为凶杀,现场有神秘十字架

长岛失踪女子尸体已确认,初步定为凶杀,现场有神秘十字架

纽约时间
2021-09-22 17:41:26
我生完女儿后,丈夫说我胖的像猪,离婚不到3个月,他后悔了

我生完女儿后,丈夫说我胖的像猪,离婚不到3个月,他后悔了

野草情感汇
2021-09-21 09:07:34
江苏女学霸不顾家人阻拦,主动放弃清北选择南大,多年后现状如何

江苏女学霸不顾家人阻拦,主动放弃清北选择南大,多年后现状如何

成空学长
2021-09-22 18:56:02
媒体人麦穗丰:全运会油漆区用的是贴纸 质量不好的贴纸容易滑

媒体人麦穗丰:全运会油漆区用的是贴纸 质量不好的贴纸容易滑

直播吧
2021-09-22 17:29:18
戚薇的老公李承铉真的那么完美吗?看完此文你可能就不会羡慕了

戚薇的老公李承铉真的那么完美吗?看完此文你可能就不会羡慕了

昭德心理
2021-09-22 16:39:43
2021-09-23 02:04:49

科技要闻

iPad mini6体验:它就是「年度真香机」

头条要闻

外媒称马克龙同意将联合国五常席位给欧盟 法国回应

头条要闻

外媒称马克龙同意将联合国五常席位给欧盟 法国回应

体育要闻

回归尤文首球!小基恩低射首开纪录,拉比奥特头球回做送助攻

娱乐要闻

中秋晚会变修罗场:四对“情敌”

财经要闻

汽车要闻

好饭不怕晚?凯迪拉克首款纯电SUV终来到

态度原创

房产
旅游
健康
教育
手机

房产要闻

上海限购政策松绑系误读!楼市包打听

旅游要闻

甘肃有个县市 避暑的人冷的穿棉裤

哈尔滨新增确诊3例,一人轨迹涉2省3地

教育要闻

北京将继续优化国际学校布局 新增23所学校覆盖13区

手机要闻

iPad 9初体验:容量翻倍芯片升级,性价比更出彩

×