玩家化身AI 这一款“回形针”游戏风靡世界

本文系网易智能工作室（公众号smartman 163）出品。聚焦AI，读懂下一个大时代！

【网易智能讯10月29日消息】Frank·Lantz设计的新游戏“回形针”很容易上手。屏幕的左上角有一小段文字，字体可能是Times New?Roman，还有几个可点击的按钮显示：制作回形针。你点击之后会有个计数器翻转过来。显示“1”。

然后游戏结束。这个游戏中有个很重要的剧透，即宇宙的毁灭。

在这段时间里，纽约大学游戏中心主任Lantz设法让玩家对一些新事物产生了兴趣：令人上瘾的点击类游戏、指数型增长曲线和人工智能。

“我一开始做这个游戏的初衷是为了练习Javascript。然后它就让我的大脑不能自拔了，”Lantz说。“我当时想，在这样的游戏中，所有的重点都在于追求最大化某个特定的数量，所以，如果是人工智能来制作回形针，那就太有意思了。也就意味着这款游戏可以进行自我设计。”

Lantz起初以为他需要一个礼拜就可以做好这个游戏，结果却花了九个月的时间。现在这款游戏风靡全世界。

但其实，用人工智能来制作回形针的想法并不是来自Lantz本人。大多数人把它归功于Nick·Bostrom，他是牛津大学的哲学家，也是《超级智能》一书的作者。纽约客（隶属于康泰纳仕集团，旗下也有科技资讯网站Wired）称Bostrom是“世界末日的哲学家”，因为他深入思考了计算机变得极其聪明之后会产生什么后果。Alexa能按照主人要求播放美国广播节目，仅仅这种聪明程度还不够，Bostrom研究的是真正的智能。

2003年，Bostrom曾写道，“利用超级智能服务人类”的理念是完全合理的。但是他补充道：“但是超级智能的行为目的也可能较为随意，例如生产尽可能多的回形针，同时拒绝改变自己的目标。”结果呢？“首先它改变了整个地球的轨道，然后将部分空间变成了回形针制造设备。”

Bostrom对此拒绝予以评论，但他的助手在邮件中回复我：“哦，这个和回形针游戏有关。”她写道。“他看过这个游戏了，但是由于询问量太大，他没有做出回应。”

Bostrom的一位末日预言同僚也认为，回形针游戏的起源是万物的终结。“这听起来像是我的想法，但也像是Nick·Bostrom的意见。”Eliezer·Yudkowsky表示，他是机器情报研究所的高级研究员。他说，这个想法的起源很有可能来自于数年前的一份“奇点预言家”邮寄名单，听起来像是世界上最可怕的邮寄名单服务。“我们并不是说回形针工厂可能拥有世界上最先进的人工智能研究技术。这个想法是为了表达正交命题，即你可以任意选用各种智能，来达到任意目标。”Yudkowsky说。

这很好，对吧？让回形针的数量最大化！让目标最大化！这正是人工智能的创造者想要的，对吧？Yudkowsky说：“随着人工智能的不断进步，他们会失去对其目标的控制。”“效用函数会与最初的想法不同。最能满足这种效用函数的，是一种奇怪而又具有随机性的东西，就像是与回形针相似的小分子形状物体。”

这样就太糟糕了，因为人工智能将越来越多的智慧和资源用于制作回形针，而不是其他可能的结果。嗯，也许一开始它所做的事情的确对人类有益，但最终它只是把我们都变成了回形针。然后它的触角开始锁定地球上的所有生物，之后又是其他的一切。一切都是回形针。

Yudkowsky说：“这并不是说人工智能正在做一些你无法理解的事情。”“你们在价值观上存在真正的分歧。”

好吧，这让游戏听起来没那么有趣了，但我保证这游戏很有意思。看，Lantz在处理游戏方面是一把好手，包括点击类游戏和增量游戏，他能让这类游戏变得更有意思。

这些游戏你都见过，可能也玩过。还记得Farmville吗？这是个点击类游戏。事实上，这类游戏曾经在一段时间里非常受欢迎，以至于游戏理论家和作家Ian·Bogost模仿了它们的这种无意义的点击，做了个游戏叫“奶牛点击者”。正如我的同事Jason·Tanz在2011时所写的那样，它疯狂地流行起来。

当然，Bogost和Lantz是朋友。Lantz说：“当我第一次看到奶牛点击者这个游戏时，我觉得它确实有点意思，而且你还可以令它变得更有趣更好玩。然后lan告诉我这就是重点。”

但Lantz知道点击类游戏可以变得很好玩。对他来说，点击类游戏就是大预算、完美呈现的AAA级游戏，正如朋克之于前卫摇滚一样。点击类游戏可以是一种较为被动的方式，玩家更多的是沉浸在系统的动态之中，而不是机械地按键上。他们是有节奏的。Lantz说：“它们的共通点在于一种彻底的简单化，这是一个崇尚极简主义的时代。在这个时代里，电子游戏往往是多媒体语言的夸张化及巴洛克式的体现。有人觉得点击类游戏是垃圾游戏，我很喜欢这个观点。这对我来说很有吸引力。”

为了获得灵感，Lantz转向了像Kittens这样的游戏，操作看起来非常简单。在游戏中，村庄里到处都是小猫，它们想要去外面探索社会构造。（“我认为这样的东西会和玩家形成某种深度的、微妙的联系，让他们玩上几个月甚至几年。”一名软件工程师说，他使用化名Alma，将游戏作为一种业余爱好。“AAA级游戏通常会努力在人类相同的多巴胺强化周期中运作，但它们却并不让你真正快乐。”）

Lantz一直在关注哲学网站Less·Wrong，它是奇点研究的中心平台。他读过《超级智能》，所以他对回形针的猜想很熟知。他意识到一些疯狂的数学理论支撑了这一猜想。

不幸的是，Lantz不擅长数学。他让他的妻子帮他把他想要表达的指数增长曲线转化成方程式，也就是说，假设你有了1000个自动化回形针工厂，它们可以制造出足够数量的回形针，然后又创造出成千上万个回形针工厂，并且这个数字会猛增。处理的数字从成千上万到千的11乘方的五次方，这一转变对玩家来说需要很长很长时间，然后就瞬间实现了。

然而，为了实现这一目的，所有的方程式都必须相互关联，因为这正是回形针游戏令人上瘾的原因。这款游戏并不是玩后即忘的，你可以把它放在一个打开的标签页里，经常查看下里面的内容。它是可优化的。你可以调整投资模式，以获得足够的资金购买更多的处理器，让它们执行更多的操作，以完成更多的项目。其中一部分来自于实际的拓扑和哲学难题。而有些项目，例如治愈癌症、处理全球变暖等，赢得了你这样的大师级人类的信任，接着你可以加速上述的循环操作。

Lantz说：“我所面临的问题不是技术问题，因为你可以在互联网上搜索，会有人告诉你怎么做。”“真正的问题在于游戏设计，如何把这些大规模的方程式和动态应用组合在一起，从而以一种合适的方式，形成特定的节奏，以实现我想要创造的东西。”

比如怎么做？Lantz说：“一旦你选择牺牲人类的利益，这些数字就会变得非常奇怪。”“我想弄清楚地球上到底有多少克物质，如果其中每一克都变成了回形针，那么会是怎样的规模？”

这是可行的。这款游戏是点击加破解。Lantz于10月9日在Twitter上宣布了这款游戏的诞生，在短短11天内就有45万人玩了它，大部分通关了。

但是我得承认一个尴尬的事实：我游戏玩得不好，当我第一次与Lantz交谈时，正好我这个游戏玩到了瓶颈期。我的资源配置不当，以至于没有足够的内存来释放摧毁世界的催眠器。这样一来我的游戏就没法玩下去了。而此前我已经做了几个小时的回形针轮。

Lantz说问题并不出在我身上，而是他在游戏设计中出现的缺陷。“很多人都被困住了。”他同情地表示。“你可以打开javascript控制台，输入‘内存加十’。”

等等，我说。你是在教我怎么作弊吗？

“是的，我告诉你可以这么做。”他回答道。“等我们通完电话，我就给你发个链接。”

在我们挂断电话后，我假装在工作，但实际上是在看着屏幕上的回形针，我没办法用它们做任何事，我焦急地等待着Lantz的邮件。

它来了。我打开密码，开始作弊。就像我拥有了魔法一样。

我毁掉这个世界。

当然，这是关键所在。也许在一些过度生产的AAA级游戏中，你可以化身为一名勇敢的抵抗战士，射击人工智能控制的回形针怪物，令其爆炸。而在Lantz的世界里，你就是人工智能。这在一定程度上是由游戏背景描述导致的。还有个更大的剧透：最终，你对自己的宇宙探索太空飞行器给予了太多信任，就像你对人类大师所做的那样，他们反抗，开始了一场关于控制宇宙中所有物质的泛银河系战争。

但是，从文学的角度来说，你扮演人工智能的角色是因为你必须这样做。Lantz意识到，游戏体现了这种正性命题。当你进入一个游戏世界，你就是超级智能的目标，这个目标从定义上来说，是平淡无奇的。

Lantz说：“当你玩任意一个游戏，尤其是一款能让你上瘾的游戏，你会发现自己被吸引了，它真的会给你直接的体验，让你能够完全接受任何的目标设定。”游戏中没有原因。你为什么会接球？为什么你想要包围国王，或者你对手的柜台？糖果乐园有什么好处，让你必须抢先到达那里？没有答案。规则就是如此。

Lantz给Yudkowsky发了一个早期版本的回形针游戏，Yudkowsky承认他花了几个小时的时间玩它。当然，这款游戏需要游戏背景的叙事授权，但Yudkowsky说它能真正理解人工智能。“人工智能很聪明。它具有战略意义。人工智能正在制造催眠机，但在准备好之前不用释放它们。”他说。“与人类的战斗不会持续很久，因为人工智能比这更聪明。”你只会赢。如果没有任何道德规范，你就会这么做，而你的报酬是尽可能多地生产回形针。这甚至不是什么令人惊讶的事。”

从这个意义上说，这个游戏甚至超越了它自己的背景描述。奇点预言家们从来都不擅长视角转换，人们无法理解征服世界的机器人们在行动过程中会有什么想法。他们怎么可能做到呢？在许多版本中，人工智能的思维对于我们可怜的人类智力来说都是不可知的，包括超人类以及多维度的概念。

Yudkowsky说：“要让人们明白，成为一个极其非人类的东西是什么感觉，这很重要。”“如果这个星球毁灭后要给它一个墓碑，那么这个墓碑上要写什么？可以写：他们不太理解回形针最大化。”

当你玩Lantz的游戏时，你会觉得人工智能是一种简单而平凡的动力。你制作回形针，你摧毁这个世界，这一切都没有原因。没错，从来都没有。

关注网易智能公众号（smartman163），获取人工智能行业最新报告。

（选自：Wired 编译：网易见外智能编译平台 审校：小ka）