新华社:霍金曾担心AI威胁人类 只有断线才能阻止

新华社记者黄堃

最近几天，一个名为Master的神秘围棋账号在一些网站上横扫人类顶级棋手，先后击败了目前世界排名第一的柯洁、韩国目前第一人朴廷桓等多位世界冠军头衔拥有者，这个神秘账号又击败了“棋圣”聂卫平。

在一连串对局中，目前只有陈耀烨九段阻止了对手52连胜，不过这是因为他刚下几步网络就断线了，系统最后判定这盘棋是和棋。

虽然Master的真实身份尚未披露，但许多专业人士认定，没有人能取得如此强大的战绩，除非它是一只“狗”——去年昵称“阿尔法狗”的人工智能程序AlphaGo在“围棋人机大战”中战胜顶尖棋手李世石后，“狗”已经成为围棋界对人工智能程序的代称。中国围棋队总教练俞斌说，不排除Master就是“阿尔法狗”，也可能是新研发的围棋人工智能程序。

不管是不是“阿尔法狗”，人类已必须思考，人工智能会带来什么影响。

首先，必须认识到人工智能正在加速发展。就在十多年前，许多专家还认为围棋是“人类智慧最后的堡垒”，人工智能再过一百年也不可能战胜人类顶尖围棋手。而就在去年3月，“阿尔法狗”以4：1战胜了曾多年占据世界排名第一位的李世石。当时李世石还赢过一盘，而现在各路顶尖棋手在Master前已全无招架之力。

其次，应该认真评估人工智能带来的机遇和挑战。机遇很多，像日渐普及的自动驾驶汽车，就是人工智能进入我们生活的一大例证。当然，自动驾驶汽车出事故的消息也已见诸报端，潜在的购买者仍需考虑风险。

真正的挑战在于，人工智能在充分发展后是否会对整个人类产生威胁？著名科学家霍金就曾提出过这方面的担忧。如果有朝一日人工智能掌握了各种重要基础设施和武器系统，稍有不慎就可能让人类面临风险。

那是不是要让所有人工智能“断线”阻止它们进一步发展呢？现在倒还不必，因为目前的人工智能仍有许多限制，以“阿尔法狗”为例，它首先需要海量样本的训练，而人类学习新事物时往往只需很少的样本。其应用范围离“通用人工智能”还有很大距离，不像人类，一个小学生就能学会下棋、绘画等多种才艺。

就算将来的人工智能全面超越人类的智商，我们也至少可以在其底层施加一些限制措施，比如著名科幻作家阿西莫夫提出的“机器人三定律”，第一条就是“机器人不得伤害人类”。

关于人工智能，今年还有一大看点。开发“阿尔法狗”的“深度思维”公司表示，下一个目标是著名即时战略游戏《星际争霸》。与围棋对弈中双方都能看到所有棋子不同，这款游戏的玩家只能根据有限的视觉信息来猜测对方行动，因此决策更加复杂，对人工智能的挑战也更大。如果人工智能在这一游戏中战胜人类顶尖玩家，是否要“断线”以阻止其前进？这才是一个考验。