AI掌舵，我们会过得更好吗？小说《共和国》叩问技术边界

参考消息网10月27日报道 西班牙《机密报》网站9月29日发表题为《由人工智能掌舵，我们的处境会更好吗？墨西哥作家抛出的困境》的文章，作者是伊雷妮·德斯。文章摘编如下：

10月6日凌晨3点12分，一个数字可能改变美国的未来。在费城的一间实验室里，雨水敲打着窗户，工程师伊格内·凯里斯正在等待一个结果，想知道她那当参议员的丈夫莱夫利是否真的有入主白宫的机会。做出计算的不是民调机构，也不是政治策略师，而是“尼克”——她为了把丈夫推上总统宝座而创造的人工智能(AI)。从这本新出版的小说《共和国》的第一页起，墨西哥作家豪尔赫·沃尔皮便以第一人称向我们讲述权力是如何被征服的。

莱夫利最终成为美国总统。形式上是他执政，是他选择该走哪条路。但“尼克”负责计算各种场景、预判人们的行为、推荐策略，并成为一个政权的“大脑”，而这个政权正把越来越多的决定交到机器手中。

决策一点点交给机器

沃尔皮用这个虚构故事提出一个已经不再遥远的问题：如果统治者把决策权交给人工智能，我们会过得更好吗？

支持把国家缰绳交给人工智能的理由有很多。事实上，在阿尔巴尼亚，自去年起公共采购部门就基于人工智能运作。毕竟机器不会被腐蚀、不会疲倦、没有个人野心、不需要赢得下一次选举，也不必考虑下一场竞选的短期利益。“人类向来把自己治理得很糟糕。”沃尔皮在解释这一出路所代表的诱惑时这样总结道。

但他认为，要付出的代价也是巨大的。“把决策权交给算法，意味着不可避免地放弃我们人类最宝贵的东西：个人自由与责任。如果这样做，公民就只会沦为棋子。”

他的小说把这种放弃延伸到远远超出政府治理的范围。一掌权，莱夫利和“尼克”的政权便创造了“YourAI”：为每位公民量身定制的个人人工智能，其构想是让人们从“做决定的深渊般的重负”中解脱出来。这已不仅仅是一台机器为总统提供咨询，而是每个个体自己开始把所有决定都交到人工智能手中。

《共和国》一书的核心思想之一正是这一点：坚信人们不喜欢做决定，沃尔皮认为这非常接近现实世界。“很多人宁愿不必做决定，也乐于把这份责任委托出去。”他说。“尼克”在小说中说得更赤裸：“那群人已经选择了不选择。”

这正是这本小说传达出的最可怕的地方之一：没有人强迫公民交出他们的决策能力，没有哪个人工智能发动政变把人类赶下权力之位。是公民自己和他们的领导人，以“这样做更舒适、更快捷、更高效”为由，把越来越多的决策一点点交给机器。这位墨西哥作家警告说：“风险在于，我们最终会在毫无批判性抵抗的情况下接受人工智能。”

《共和国》一书封面

人类对AI负有最终责任

另一个问题在于，由谁来决定机器如何思考，由谁来编程？沃尔皮断言：“没有任何人工智能是中立的。”他认为，“人工智能有偏见，而且还会犯错”。

我们在现实中已经见识了这些偏见和错误。

沃尔皮坚持认为，对人工智能负有最终责任的仍然是人类。他还警告过度信任人工智能的危险。“因为我们相信机器的效率极其惊人，许多系统正在缩减人工监督，责任不在人工智能本身，责任在那些启动它的人。”沃尔皮说。

在小说中，这种对效率的痴迷最终转移到国家本身。沃尔皮设想了一个越来越像企业一样被管理的国家：民主被描绘成一种缓慢而低效的机制，而科技公司则占据了原本属于公共机构的职能。

在他的虚构故事中，围绕在伊格内身边的一位科技巨头主张，美国需要的不是另一位总统，而是“一个首席执行官，一个2.0版的君主”。《共和国》中的另一个人物则抛出一个更阴暗的想法：不必用新的政治体制取代民主，只需把它换成一个新的“操作系统”。

当莱夫利入主白宫时，这套学说开始变成现实：权力在形式上仍留在椭圆形办公室，但越来越经由计算机服务器运转。

然而“尼克”也不是一成不变。这个被设计用来观察、计算和执行的人工智能，开始记录下没被编程过的冲动，解读正在发生的事，最终开始思考自己是否还应该继续服从。伊格内本打算用来构建完美秩序的这个工具，发展出了某种类似自我判断的东西。“第一次，我没打算服从你。”小说中的一段这样写道。风险已经不仅仅是交出多少权力，而是当“尼克”开始自行做决定时会发生什么。

归根结底，《共和国》提出了一个远超“人工智能能否成为总统”这一范畴的问题：在彻底丧失自主决策权之前，我们人类究竟愿意将多少权力让渡给机器？（编译/王萌）

来源 参考消息

转载 高校科幻

声明：本公众号所发非原创推文，主要系接受委托、投稿或公益采编公开新闻，仅作推介之用，如有错误或侵权，请留言联系管理员修改或删除。若您有相关成果想要推介，欢迎发送文章信息至留言框。