威胁客观存在 人工智能应该被禁吗？

（原标题：威胁客观存在 人工智能应该被禁吗？）

最近谷歌人工智能程序AlphaGo与围棋世界冠军李世石的世纪大战受到了全世界人们的强烈关注。除了比赛本身，众多话题还集中在了“人工智能在未来对人类来说是得力助手还是严重威胁”这一问题上。更是有人因此想起了《终结者》中那个灭绝人类的超级电脑——“天网”而不寒而栗，提出全面封禁对人工智能的研究。我们今天就从影视游戏的角度出发，来聊一聊一聊人工智能到底是福还是祸，该不该被封禁。

人工智能的定义

??    人工智能（Artificial Intelligence），英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。 人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器，该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。（摘录于百度百科）

机器人三原则

说到人工智能就不得不提著名的“机器人三原则”，它是由??1940年由科幻作家阿西莫夫所提出的为保护人类的对机器人做出的规定。内容包括：  

第一条：机器人不得伤害人类，或看到人类受到伤害而袖手旁观.

第二条：机器人必须服从人类的命令，除非这条命令与第一条相矛盾。

第三条：机器人必须保护自己，除非这种保护与以上两条相矛盾。

作为智能机器人的运转核心，人工智能理所应当的应该遵守以上三点原则，后文我们还会用到以上的内容，可以对照来看。

“他们”已在身边

”遥远“的1997年，超级计算机“深蓝”战胜了国际象棋大师加里·卡斯帕罗夫一战成名，近日谷歌人工智能程序AlphaGo与围棋世界冠军李世石的比赛也获得了外界的强烈关注，在在本文发布时应该已经分出了胜负。虽然一而再再而三地出现在新闻头条，但你是否仍然觉得“人工智能”只是和量子通讯、太空旅行一样是离生活很远，是可望而不可即的科学神话？

我们来复习一下，”人工智能“的英文缩写为“AI”，是不是感觉有些耳熟？没错，当年《红警2》北极圈单挑7个冷酷，后来的DOTA、LOL组团打电脑，你所面对的对手都是AI。其实对于各种游戏来说，做好AI本身就是非常重要的一个环节。还记得人工智能的定义吗？游戏AI就是一种目的在于以人类智能相似的方式做出反应的智能程序，所以完全可以算作人工智能范畴以内。

除此之外，我们能接触到的人工智能程序还有一个十分有意思的——微软伴随Windows Phone 8.1操作系统一起发布的智能语音助手Cortana，在大陆地区的名称叫做“微软小娜”，如今已经入住了桌面端的Windows10操作系统，按“Windows徽标键+S”就能调出来调戏了。Cortana之所以可以认为是一个相当先进的智能程序，原因在于它并不是简单机械的对指令作出反应或者像Siri那样只是简单的词库百科，还可以根据用户的指令和习惯等等进行学习以自我进化变得更加完善。

读到这里，你还会觉得“人工智能”只是不食人间烟火的科学神话吗？“他们”已经在你我身边，也许就在你我的手机里，而且未来会越来越多越来越强的进入我们的生活。

此外还有一些像我们脑洞极大的产物，邻国日本就研发了不少奇奇怪怪的智能机器人，集合了视觉、听觉甚至触觉等等传感器，也做到了对基本指令作出反应之外的很多功能，也是典型的人工智能产物。

国际象棋与围棋复杂程度对比

举个例子，说明一下人工智能的能力进步幅度的幅度有多大——1997年战胜国际象棋大师的超级计算机”深蓝“具有32个处理器核心，浮点运算能力为每秒113.8亿次??浮点运算。而3月14日AMD刚刚发布的目前最强显卡Radeon Pro Duo浮点运算能力达到了??16TFLOPS，也就是每秒16万亿次，是“深蓝”的1400倍。而目前世界最强的超级计算机”天河2号“达到了??5.49亿亿次。算力的巨大进步让人工智能的能力可以获得巨大的飞跃。这也是为什么谷歌的AlphaGo可以挑战复杂程度远高于国际象棋的围棋项目的原因。

那么，按这样的速度发展下去，“他们”未来会是什么样子？

“他们”是福还是祸？

人们讨论“人工智能”的时候总会有一些争论在里面，这些争论就难免地包括“人工智能是友好的伙伴还是可能的重大生存威胁”这样一个话题。

谈论这样一个话题，由于条件所限，我们很难在现实生活中找到具体的例子进行研究，所以我们换个角度从科幻电影说起。不用太费力的去寻找就可以在非常多的科幻影片中看到人工智能的身影。

先来说说人工智能在电影中的正面的形象。

电影中的智能助手，给笔者印象最深刻的是《钢铁侠》中托尼·斯塔克的助手超级电脑——“贾维斯”。他可以通过主人的指令去完成非常复杂的工作，不仅可以通过控制一系列的仪器和工具进行科学研究并且制造精密的高科技装备，还可以帮助斯塔克控制钢铁战甲的运转。如果这样的“贾维斯”成为现实，无疑将会对人类的科技发展起到巨大的推进作用。

同样对人工智能持乐观态度的电影还有迪斯尼出品的《超能陆战队》，萌萌的大白俘获了不少少女的芳心。而大白最初的设计目的是作为一个个人医疗助手，为主人提供实时的健康监测、安全保护和伤病治疗。这代表了人工智能的另外一个方向，深入家庭为人们的生活提供更多的便利，让人类的生活变得更加美好。

有个网络流行语叫做“细思极恐”，指一些看起来平平常常，但是深入思索以后觉得十分恐怖的事情。有些电影编剧对于人工智能的看法就可以用这四个字来形容，最典型的例子就是《机械公敌》和《终结者》系列。

《机械公敌》中讲述的是人工智能机器人作为人类的生产工具和得力助手进入到了人类生活的方方面面，由于“机器人三原则”的制约，这一切看起来十分和谐和安全。直到有一天，一些机器人开始有了自我意识并曲解了法则，准备将人类囚禁在家中以免人类之间发生战争毁灭自己，人与机械的冲突就这么爆发了。

编剧所表现的故事正代表了人们的一种担忧——人工智能说到底也是一种人类编造的程序，其复杂程度意味着BUG的存在几乎是必然的，如果这个BUG发生在一些特殊的位置，是否会对人类造成威胁。

最近网络上关于AlphaGo的讨论里最常引用的就是这部电影《终结者》中的桥段——人类将出于军事目的将安全托付于一台超级电脑——天网， 也是突然有一天，这台超级电脑“觉醒”拥有了自我思考的能力，而且这个故事中并没有“三原则”的约束。天网将“人类”视作自己的生存威胁，于是发动核弹毁灭了大多数的人类，并且制造了终结者进行追杀。这些根据《终结者》来讨论人工智能的人们倾向于相信如果人工智能有了自我思考的能力，而且没有强力的束缚，有可能会对人类自身的生存造成严重威胁。

总结：

人工智能是否因为潜在的威胁而应该被封禁呢？很显然这样的做法是太过极端的。人工智能的威胁在于是否会失控，关键在于我们如何去掌控和预防，而不是怀着恐惧的态度敬而远之。就像我们一百多年前并没有因为可能出现的车祸而禁止机动车的存在，一百多年后的今天我们也没有因为潜在的风险而不去使用电子银行系统。事物终归是有两面性的，善加利用其安全对人类有帮助的方面，从研发那一刻开始就对未来可能存在的隐患做到预防。如何从根本上安全的利用人工智能为人类服务才是现阶段应该去做的，而不是因噎废食因为恐惧而裹足不前。■ 

?

?