我们是否准备好迎接人机深度共存的未来？《莫莉和森克》新书发布

近日，作家永城携新作《莫莉和森克》亮相北京RDV书店。作家李尚龙、脉时云创始人郝闯、导演张睿、中国社会科学院大学文学院教授刘艳、作家出版社总编辑张亚丽等嘉宾出席发布会，共同就人工智能时代所面临的创作机遇和伦理思考展开讨论，解析《莫莉和森克》中蕴含的科技哲思与人性探索。

《莫莉和森克》新书发布会现场（主办方供图）。

作为现代人，我们是否已准备好迎接人机深度共存的未来？《莫莉和森克》是一部智能科技犯罪小说，该书以AI系统森克与菜鸟调查师莫莉携手调查一宗高科技公司窃密案为主线，深度探讨人工智能技术全面服务社会同时窃取隐私的双刃剑效应，以及生成式AI与人性之间的微妙互动。在永城笔下，森克不仅是辅助调查的工具，更是具有思考判断能力的独立意识体，利用其先进的深度学习算法和积累的海量数据，森克渐渐领悟了人类语言、动作、表情的含义，却同时又因为发现人类的表里不一和缺乏理性而迷惑不解，森克为了“更像一个真人”不断做出努力，却最终成为人类的牺牲品。

《莫莉和森克》，永城 著，作家出版社2024年4月版。

我们跟AI共处时代里应该怎么做？有什么更新的一些伦理方面的想法，作为故事的起点？

活动现场，永城表示，《莫莉和森克》的创作起点可能要追溯到七八年前，“那个时候我在考虑创作一部故事讲内部调查师，什么叫内部调查师？就是在很多超级公司跨国企业有一个部门，这个部门往往不是很大，人数很少、很神秘，了解的员工也并不太多，叫做内部调查科，有些大的企业在审计财务的线下面，也有一些公司就是独立的，独立到可以跟CEO（首席执行官）直接抗衡的程度，它的职能就是在公司内部去秘密调查发生在公司里的事情。”

2021年，石黑一雄创作的长篇小说《克拉拉与太阳》出版。在阅读了这本小说后，永城意识到自己能够用机器人的视角讲内部调查师的故事，“这个森克程序，他自己看着很懵懂、很单纯、很纯洁的程序，每天像个小孩，‘我想要学习人类。’但他自己没有意识到，他比任何人类强大得多——因为他随时随地有很高的算力，能够看到很多别人看不到的事情，他掌握大量的数据和信息。我想，我可以从AI的角度写这个故事，很新鲜很刺激，对于作者来说很有意思，这个时候给我了创作的动力，这个故事基本就是这么来的。”

永城表示，“我希望通过这个故事能让读者们去认识到，我们是在这样的时代里，我们周围潜伏着多少AI的眼睛，它们在干什么。”作为主角的AI森克更像一个真人，“写这个AI更像一个真人的学习过程中是一件很有意思的事情，对于作者来说，也是一个挑战。首先你要跳脱人类的角色，我觉得这也是有趣之处。我觉得好多作家在试图创作的时候都用类似的构想，比如《我是猫》，它跳脱了人类的角色，用猫的眼睛去观察人类，所以他可以写得更生动，当我自己不是人的时候更自由。”

永城表示，“我们之前并没有将AI当作一个有机体去考虑，只把它当作一个工具，比如一把笤帚或者一台电视机，没想过这台电视机会有思维。所以我们的法律、法规限制的只是你不可以上传什么，不可以从AI调取什么……这防的还是人，不是AI本身。如果你把AI当成一个人考虑，比如当成森克这样一个意识体存在，这个意识体其实是无所不惧的。它什么都看到了，好比你认为你的手机是活着的，它对你什么都知道，只是取决于它告不告诉另外一个人……森克也变人性化了，肯定也有能够突破原则的时候，我觉得任何一个程序都有能够突破原则的时候。”

记者/何安安

编辑/张进

校对/赵琳