永城《莫莉和森克》：AI是“我”吗？

关注作家出版社，发现更多文学好书

*本文转自文艺报，作者戴时焱

《莫莉和森克》

永 城 著

作家出版社

正像许多优秀的作品一样，永城的《莫莉和森克》也是一部“致敬之作”。在美国科幻作家阿西莫夫“机器人系列”的《钢穴》和《裸阳》中，人类侦探以利亚·贝莱和机器人丹尼尔·奥利瓦联手，侦破了一项意在破坏宇宙秩序的惊天大案。在《莫莉和森克》中，主角则变身为大型跨国互联网公司（SWG集团）内部调查科派驻北京的初级调查师；入职不到半年，自称“东厂女捕快”却实为职场小白的吴莫莉（Molly Mu）；以及获取了SWG集团在世界各地子公司里安装的大约20万只摄像头、40万只麦克风、10万部台式设备、全球2.6亿部手机上传至集团云服务器里的海量数据的智能导航信息系统森克（SINC）。他们联手突破种种障碍，在侦破一宗商业间谍盗取AI程序机密重大案件的凶险过程中，实现了自身的成长。

总部设于美国旧金山的跨国IT公司SWG，发现位于中国杭州的子公司辉目科技总经理楼小辉的办公室被人侵入，疑似丢失涉及人脸识别技术的重大机密。于是，SWG的内部调查科科长肯特安排吴莫莉前往杭州，在森克的协助下进行调查。在调查过程中她发现，事件的幕后黑手其实就是肯特自己。他勾结意大利的诺阿地中海贸易公司，设局诱骗楼小辉外逃，企图以此为诱饵盗取森克。最后，在中国国家安全部门的指导下，吴莫莉和森克侦破了这个案件。这就是我们看到的，在中国对外开放持续推进、国际交往与合作不断加深、经济全球化和反全球化博弈日益激烈、当代科技加速发展的大背景下，由外企高管、智能系统、职场小白、黑客高手、黑社会、国安局共同讲述的“莫莉和森克”恩怨情仇故事。

在封底的“上架建议”中，《莫莉和森克》被定位为“智能高科技犯罪小说”。在我看来，它就是一部科幻小说，因为它所依据的底层逻辑，不是“实然”，而是“应然”——森克（SINC）据以架构自身的科技水平，明显是一种“未来进行时”，尽管在作者眼中，它可能是属于近未来；另一方面，它确实与当下的我们十分接近，这赋予了它一种亲近感和代入感，同时带有我们在现实生活中的困惑。

正如一篇优秀学术论文的意义，可能并不是回答了一些问题，而是提出了一些问题，《莫莉和森克》的价值，也并不只在于以当前最热门的AI、ChatGPT为主题，为读者创造了一种新的小说类型。小说通过对“那个不够漂亮、不够聪明、不够理智、不够正确，而且缺乏自知之明”的莫莉与严谨、守规矩、一板一眼、总想“像人”却又总找不到相关路径的森克这两个独特艺术形象的塑造，提出了一些值得读者进一步思索的问题，这比简单描绘一个AI联手人类走进新世界的光明前景，或是像“愤青”一样宣称AI永远无法取代人类，要有意思得多，也有意义得多。

AI能成为“我”吗？

作者给森克设置的两个核心目标是：第一，不惜一切代价，为SWG的利益服务；第二，变得更像一个真人。全书也正是围绕这两个核心目标展开的。在我看来，这其实是一个目标：使AI成为“我”。因为只有具有自我意识和相应能力的“我”，才有可能去实现这两个目标。

就前者而言，森克如何判断什么是SWG集团的核心利益？蜥蜴会断尾求生，人类推崇壮士断腕，而当需要“丢卒保车”之时，大数据和强算力真的能够保证森克能在瞬间正确决定何为“卒”何为“车”，并采取相应的应对措施吗？就后者而言，AI为何要成为自然人？碳基生命天然就比硅基生命高贵吗？“像人”的目的是什么，是更好地为人类服务，还是与人类成为朋友？甚或是取代人类，成为后人类时代的新主宰？

进一步而言，由于人与AI具有不同的底层逻辑，AI世界或许是与现实的人类世界相平行的另一个时空。要使AI“更像”或是“成为”一个真人，标准是什么，我们拿得出来吗？让AI成为“我”，到底意味着什么？

我不相信，当人类对这些“终极之问”尚未找到正确答案的时候，森克的开发者陈闯真的能写出有效的程序。但是，这并不能降低《莫莉和森克》的意义——它以自己的方式，提出了这个问题。

牛顿在提出“三大定律”之后长期研究“第一推动力”，爱因斯坦在发现相对论后不懈探索“统一场论”，阿西莫夫对未来“基地”的展望与保留，克拉克对象征人类明天的“星孩”的期待与迷惘，刘慈欣对多维时空的向往与恐惧，宝树写给120光年之外古老地球的挽联与赞歌……不难看出，在科学家和科幻作家这种不懈追求的背后，是对解决人类生存发展根本问题——“我是谁？我从哪里来？我向哪里去？”——的努力，是一种对人类前世今生的终极关怀。而在无始无终、无边无沿的时空中，终点往往就是起点。曾经蛮横无比的科技，最终还是要服从人性。科幻文学以艺术的手法，为今天的人们揭示出历史的冷酷必然和未来的无限可能。

永城曾经表示，《莫莉与森克》的华彩乐段，是两“人”的海外追逃。而在我看来，应该是在书的最后，森克开始剖析自己的嬗变——为何会产生与莫莉（还有自己的开发者陈闯）的情感纠纷。正是它的这些疑惑启示我们：在不断“自我定义”的基础上学会“定义自我”，逐渐确立自我意识，才是AI成为智能生物的根本标志。

AI如何成为“我”？

因为一项课题研究的需要，我曾无意中与“文心一言”大战六个回合。事后复盘时发现，当把同一个问题以不同的问法甩给AI之后，结果很耐人寻味：它对题目的理解是表面化的，并未真正掌握关键词之间的内在逻辑；已有的与题目相关的一般性知识，它大致能够梳理出来，尽管许多并不准确；而需要重新归纳、提炼、阐释的内容，则基本阙如——你不知道的，它同样不知道，并因此表示非常抱歉；文章的结构和行文中规中矩，大致符合一般论文的格式要求，没有明显的硬伤；具体说到回答的内容，则可以用一句话来概括——原则上完全正确，实际上基本没用。这似乎告诉我们：目前的AI，基本上只能描述已知世界的信息，或是依据已知事实推衍未来的可能，只要它还没有学会主动追问“为什么”，“无中生有”就依然还是上帝赋予人类的专利。

作者为森克设置了通过学习5万部各国爱情小说来了解“爱情”这一桥段。但我不知道，永城自己是否相信，真实的爱情可以从书中学到。因为人类机体的各项运行机制特别是心理活动，依据的到底是物理、化学、医学，还是哲学、量子甚或玄学，截至目前基本上还是一个“盲盒”。

心立志，脑立智——我们脆弱的小心脏，哪个部分管这件事？“灵机一动，计上心来”——“灵”在何处，“动”的机制如何？面对不确定的危机，做出果断决策——指导决策者的，是精心盘算还是纯凭运气？在“无理”的背后看到“有理”——靠的是丰富的知识、深刻的理性，还是莫名其妙的直觉？文学作品里的“言外之意”，“诗外”的功夫，电影中的“画外音”与“音画对立”——这些是否其实就是我们日常生活的真实写照？面对量子蝴蝶在三维世界掀起的一片混沌，“海量数据+大计算力+深度学习算法→我”的公式能否成立，还真是一个未知数。

在这种情况下，指望依靠一个带有作弊色彩的人工智能程序就能搞定这一切，好像还是比较困难的。这个系统的编制者陈闯事后说，“森克的深度学习算法其实就是我，是我在随时干预这个程序，利用深度学习的接口，把我的想法和指令传达给森克”，已经在事实上承认，在这个阶段，它还不具备可能成为“我”的基本素质。因为，老陈到最后也并未找到森克产生疑似人类情感的“代码”。

就人类而言，欲望是最强大的动力。在与人类的纠缠中，学会“我要”“我爱”“我想”，学会撒谎骗人，学会不讲道理、胡搅蛮缠，学会率性而为、撒泼耍混，学会看到“无序”背后的“有序”，学会找到“毫无理由”之中的“理由”……或许，这就是AI“更像”以致“成为”真人的必要路径。

AI如果成为“我”，我该怎么办？

一部好的科幻作品，必须也必然是一部好的哲学作品，在塑造“这一个”艺术形象的同时，要有自己独特而完整的世界观。实际上，凡是真正有影响力的科幻作家，在不同程度上都是一个深刻的宇宙哲学家。在他们的视野中，纵有千古、横有八荒，跨越有与无、生与死、人与物、古与今、时与空、想与行的界限，无所不思、无所不能、无所不为。

比如，阿西莫夫撰写《基地》这部“未来历史”小说的冲动，来自3次阅读英国历史学家爱德华·吉本的《罗马帝国衰亡史》的感受。他借主人公谢顿之手，发明了依据物理学的“气体分子动力学”而杜撰的“心理史学”（是发明，而不是“发现”，因为这门学科确实是百分之百的子虚乌有），将人类近乎于无限多的无意识行为作为判断历史演变规律的统计学基础，让那些以谢顿为代表的本领高超的心理史学家预测社会的发展走向，并在关键节点导入适当的变数即经济社会力量，以改变社会发展的可能路径，据此预测在银河帝国毁灭之后人类重建家园的艰辛历程。依照这套理论，作者演绎出了波澜壮阔、气象万千、令人瞠目结舌的银河传奇。

又如，阿西莫夫预见到在机器人诞生后，宇宙将会产生新的秩序，并将深深影响人类的未来，于是在《我，机器人》中制定了“机器人学三大法则”；随着人机关系的深化，阿西莫夫又在《曙光中的机器人》中提出“机器人学第四法则”（又称“零法则”），强调机器人要以服务人类为最高宗旨。很明显，这种面向新时空的“建章建制”，与其说是杞人忧天，为未来的机器人世界设置行为限制，倒不如说是未雨绸缪，为人类社会的明天制定运行规则。

再如，刘慈欣在《黑暗森林》中提出，宇宙中分布着数量巨大的文明，它们的数目与能观测到的星星是一个数量级的，这些文明构成了一个总体的宇宙社会。在这样一个宇宙社会中，存在两条公理：第一，生存是文明的第一需要；第二，文明不断增长和扩张，但宇宙中的物质总量保持不变，并从中推论出“只要文明掌握的技术超过了某个阈值，生命在宇宙中的扩张是很恐怖的”。

我们可以看到一个有趣的现象：从艾萨克·阿西莫夫到菲利普·迪克，从任彧到永城，这些科幻作家不约而同地选择了将侦探作为探索AI文明的故事主角。或许，在他们看来，鉴于“作案—探案”“保密—解密”之间冲突的永恒性，这种人类与AI联手破案、在冲突与融合中共同成长的过程，正是揭示从人类文明到后人类文明秘密的最佳路径。因为，按照汤因比的观点，历史上的任何一个文明，都是在一个社会/民族主动或被动应对所属时代的巨大挑战并取得成功的基础上形成并发展起来的。

“挑战—应对”之间的巨大张力，构成了人类文明发展的内在基础，也构成了科幻作家架构自己作品的底层逻辑。从本质上看，这就是逻辑学家的“正→反→合”，是黑格尔的绝对精神自我发展经历的“逻辑阶段→自然阶段→精神阶段”三大阶段，也是当今我们面临的AI演进中的“我→它→我”，即在人类与AI融合发展基础上形成的“新人”。

从这个角度检视，SWG集团的高管和董事会最终决定关闭森克系统的深层原因，并不是它对集团核心利益的可能伤害——事实上，正是在它和莫莉的共同努力下，这种伤害被降低到了最低限度——而是他们还没有做好应对森克可能成为“我”的准备。这种准备当然包括技术手段、管理措施、社会舆论等方面，但首先是心理方面。这些AI的设计者和开发者们，尚不知道如何回答这样一个新时代的“天问”：当AI成为人类以后，人类该何去何从？

美国版画家肯特的作品多以“黑”和“力”为主调，在他的许多作品里，主角大都是纯黑色背景下孤立的人，由此产生的那种莫名其妙的宇宙感令人着迷。在创作于1955年的自传插图中，一个赤裸的男人，跪在地上，举手望天，似乎是在向茫茫苍穹诉说自己的孤独，诉说相通的困难、相知的可贵、相爱的渴望，背后则是荒漠原野。这个场景使人想起艾略特的《荒原》，也使人想起那则当代最著名的“一句话科幻小说”：地球上最后一个人坐在屋子里，外面传来敲门声……

因为孤独，我们深深感到自己肩上责任的沉重——如果我们真的是无垠宇宙中唯一的高等生命，那么我们将如何独自完成向世界展示生命价值的使命——无论是个体生命的短暂还是群体生命的漫长。于是，我们有意无意间将希望交给了科幻，看看它能否告诉我们一些有意义的东西，包括依据现在我们能够达到的科技水平和能够接受的科技伦理，AI应该长成什么样。或许这才是我们喜欢科幻作品的深层原因。

今天科幻作品的题材，已经扩展到自身的内心世界、人类社会、蓝色星球、广袤无边的外太空……这正是人类开始突破自我局限、寻找新的“同伴”、走向“宇宙公民”艰难历程的艺术再现。

或许，只有当人这株帕斯卡尔所说的“会思索的芦苇”与AI携手前行，同时认识到自己的伟大和渺小的时候，我们才有可能怀着一颗对未知世界的敬畏之心，开始学习做世界的新主人。这将是一次观念的盛大重建，一场精神的精彩回归，一部瑰丽无比、在物质和精神领域同时展开的“太空奥德赛”。

永城在一次讲座中提到，作为一个具有自然科学背景的理工男，上学时自己语文成绩最差。可是没想到，进入职场一段时间后忽然发现，自己其实并不喜欢从事一些规定性很强的事情，按照明确的数学公式和物理定律得出一个不容质疑的答案。而伴随着参与军用无人机研制、商业风险管理、秘密商业调查的过程，带有相当强的虚构性写作，居然成了自己的主业。在开放的人生里，不确定性可能是最有发展前景的品质，正是这种不确定性，为我们的想象力打开了最大的空间。从《莫莉和森克》中可以看出，永城尊崇科学但不迷信科技——他追求发展的无限，同时深知限制的必然。他的这些经历和作品，似乎包含着不少的奥秘，值得人们回味。

有人提出，小说一旦发表，它就不再属于作者，而是属于读者。这种观点可能不大符合版权法的规定，但却是不可辩驳的事实，所以才有“一千个读者就有一千个哈姆雷特”的说法。换言之，一部作品，所有权或许仍然属于作者，但解释权却已经归于读者。作者在《莫莉和森克》中挖了不少坑，埋下了若干“梗”，暗示我们，作为一套没有边界、具有自我学习能力的程序，既然“森克Ⅰ”开始有了了解人类之“爱”的欲望和尝试，从而为自己的归来做好了铺垫，那么“森克Ⅱ”就应该勇敢迈出这一步，“重走长征路”。为此，作者应该授权SWG集团，重新启动森克项目，帮助它在应对新的更大危险的挑战中，感受人类生活中的一切美好和罪恶，通过不断的试错与调试，突破AI成长的奇点，找到真正属于自己的那个“我”，从而成为“一个有血有肉、有爱有恨、有智慧也常常犯傻的真人”——如果人的心理活动真的能够完全由物理定律和化学元素周期表决定的话。

（作者系北京市西城区社会科学界联合会顾问）

作家出版社推荐

内容来源：文艺报

作者：戴时焱

排版：邓 宁

编辑：刘 林

一审：刘岂凡

二审：刘 强

三审：颜 慧

作家出版社官方媒体矩阵

往期回顾，点击关注

盛可以：生活是一部现成的小说， 就看你如何复盘

新书推荐 | 《二十一天》：爱奇艺迷雾剧场灾难悬疑巨制原著，废墟之下的人性大考

《人生戏码——刘一达“虫儿系列”京味小说丛书》：著名京味儿作家经典代表作，“做人不成龙，也要成条虫儿。”