《AI万金油》｜商业幻想与科技狂潮

想象在一个平行宇宙，人们没有专门的词汇来区分各种交通方式，而是统一用“交通工具”来指代一切从地点A到地点B的出行手段，包括自行车、汽车、公交车、宇宙飞船等。在这个世界里，交流变得混乱不堪。人们激烈争论交通工具是否环保，却没有意识到，一方谈的是自行车，而另一方指的是卡车。某天,火箭技术取得了重大突破，但媒体只笼统地报道交通工具的速度提升了。结果，许多人打电话给他们的汽车经销商（更确切地说,是交通工具经销商），询问什么时候能买到更快的车型。同时，骗子利用公众对交通工具技术的混淆，制造骗局，使整个交通工具行业充斥着欺诈和虚假宣传。

现在，我们把“交通工具”这个词汇换成“人工智能”（Artificial Intelligence，简写为AI），这就是我们现实世界的一个精准写照。

AI是一个涵盖一组松散相关技术的统称。像ChatGPT这样的软件，与银行用来评估贷款申请者的软件几乎没有任何相似之处。尽管它们都被称为AI，但在核心原理，包括运行方式、应用场景、目标用户以及可能出现的失效方式上，这两种技术之间存在着巨大的差异。

聊天机器人以及Dall-E、StableDiffusion和Midjourney等图像生成工具，都属于生成式AI（generativeAI）的范畴，这类AI工具能够在几秒钟内生成多种类型的内容。例如，聊天机器人根据人类的提示生成极为逼真的回应，而图像生成工具则可以根据用户的描述（如 “一头穿着粉色毛衣的奶牛在厨房里”）生成逼真的图像。此外，还有一些生成式AI应用可以创建语音甚至音乐等内容。

生成式AI技术发展迅猛，进步显著是毋庸置疑的。然而，作为一款产品，它仍然处于初级阶段，存在不成熟、不可靠以及易被滥用的问题。同时，其在普及过程中也伴随着过度宣传、恐慌情绪以及误导性信息的传播。

与生成式AI相对的是预测式AI（predictiveAI），这类AI通过预测未来趋势来辅助当前决策。例如，在警务工作中，预测式AI可能被用来估算“明天这个地区可能会发生多少起犯罪事件”。在库存管理中，它可能预测“这台设备下个月发生故障的概率有多大”。在招聘中，预测式AI可能用于评估“如果雇用这位候选人，他的工作表现可能会如何”。

如今，预测式AI已被政府和企业广泛使用，但这并不意味着它真的有效。预测未来始终是一项艰难的任务，而AI并没有改变这一点。的确，AI可以分析数据并识别其中的统计模式。例如,通过AI可以断定，在职的雇员更有可能偿还贷款，做此项决策十分有意义。但问题在于，预测式AI常常被过度宣传，远远超出了它的实际能力，并且它已被用来对人们的生活和职业做出影响深远的决策。在这一领域，AI的虚假宣传尤为常见。

AI万金油（AI snakeoil）指的是那些名声赫赫，但实际无法达到其宣传效果的AI技术。由于AI的应用领域非常广泛，许多人尚难分辨哪些AI技术能够按照预期运作，哪些仅仅是过度夸大的幻想。这种现象揭示了一个重要的社会问题，那就是我们必须学会辨别AI的优劣，才能最大化其潜力，同时有效规避可能带来的风险，而这些风险在许多情况下已经初现端倪。

本书是一本帮助你识别AI虚假宣传和炒作的实用指南。在书中，我们将为你提供必备的词汇，帮助你区分生成式AI、预测式AI及其他类型的AI。此外，我们还会介绍一些评估方法，帮助你判断某项技术进展是否合情合理。通过这些内容，你将能够在阅读AI相关新闻时更具批判性思维，识别出那些常被忽视的细节。更深入了解AI不仅能满足你对科学的好奇心，还能为你在生活和工作中如何使用（或选择不使用）AI提供切实的指导。此外，我们认为，预测式AI不仅在现阶段难以实现，甚至可能永远无法实现，因为预测人类行为本身充满复杂性和局限性。最后，我们希望本书能够促使你思考自身的责任，并探索如何在应对这些技术潜在负面影响时，积极推动改变。

内容简介

定价：79.00元

ISBN：978-7-5217-7837-3

中信出版集团

2025年8月

如今，AI已渗透各个领域，为人们的生活和工作赋能。伴随着AI的快速发展，夸大的宣传、误导性信息也层出不穷。如果你对AI感到困惑，担忧它对全球和个人未来的影响，《AI万金油：商业幻想与科技狂潮》值得一看。这本书提供了清晰视角，深入剖析AI的运作原理及局限性，帮助你辨识AI何时能带来真正的价值，何时可能引发隐患，提醒你警惕企业炒作，推销那些既不实用，未来也无前景的AI产品。

这本书在肯定部分AI技术潜力的同时，深入探讨了AI在教育、医疗、招聘、银行、保险和刑事司法等领域的实际应用所带来的问题与危害。作者将现阶段的AI分为三类，即生成式AI、预测式AI和内容审核AI，详细解析了不同类型AI的核心区别、潜力与缺陷。书中还指出，人类对AI的使用方式远比技术本身的威胁更值得关注。除此之外，书中警示了大型科技公司垄断AI技术可能带来的潜在风险，强调在缺乏问责机制的情况下，AI不仅可能无法解决社会问题，反而可能加剧现有的社会矛盾。

《AI万金油：商业幻想与科技狂潮》一书为AI正本清源，助你在AI时代防范风险，做出更明智的决策。

作者

阿尔文德·纳拉亚南（Arvind Narayanan）

普林斯顿大学计算机科学教授，信息技术政策中心主任。合著有《区块链：技术驱动金融》和《公平与机器学习》。

萨亚什·卡普尔（Sayash Kapoor）

普林斯顿大学计算机科学博士。曾担任脸书的软件工程师，参与开发内容审核AI。

译者

王勇

博士，现任香港大学中国商学院客座教授，曾任天风国际（香港）董事长，并在天风证券、光大证券及加拿大皇家银行等多家金融机构担任高管职务。著有两部金融专著，译有多部金融科技领域著作。曾任中国人民大学博士研究生导师，对外经济贸易大学特聘教授。近期，创办了一家金融科技公司，专注于AI技术应用。

王安心（Angelina Wang）

目前就读于美国菲利普斯埃克塞特学院（Phillips Exeter Academy）。曾多次在国际高中生论文比赛和国际机器人世界杯中获奖，关注AI应用及相关法规制度对人类的影响。

目录

第1章 引言

AI作为消费品的曙光

AI颠覆娱乐业

预测式AI：非凡之言，需有非凡之证

单笔描绘AI诱人却失真

一连串奇妙际遇成就此书

AI炒作漩涡

什么是AI万金油

本书适合的读者

第2章 预测式AI何以误入歧途

以预测式AI定人生之变局

预测再准未必决策得当

晦暗AI纵生巧诈之机

过度自动化

错识人群，枉生预言

预测式AI加剧既有不公

没有预测的世界

回顾

第3章 何以AI难测未来苍穹

计算机预测未来简史

明确分析

“脆弱家庭挑战”项目

为何“脆弱家庭挑战”项目以失败告终

刑事司法中的预测

失败难料，成功又几何

迷因彩票——潮流中的“幸运儿”

从个人到群体的预测

回顾

第4章 通往生成式AI的漫漫长途

生成式AI承载八十载创新之路

沉寂与新生

训练机器以“眼”观世

ImageNet技术和文化意义

分类和生成图像

生成式AI攫取创造之功

AI图像识别技术转瞬成监控之眼

从图像到文本

从模型到聊天机器人

自动化胡编乱造

深度伪造、欺诈和其他恶意滥用

改善的代价

回顾

第5章　高级AI是否关乎存亡之险

专家怎么看

通用性阶梯

阶梯上的下一级是什么

加速进步了吗

会有恶意AI吗

全球禁止强大的AI

更优之道：防御特定威胁

回顾

第6章 为什么AI无法修复社交媒体

当一切都被断章取义

文化无能

貌似善于预言实为复刻过去

AI对抗人类智慧

生死攸关的问题

现在加入监管因素

艰难之处在于划清界限

回顾

自作自受的问题

内容审核的未来

第7章 为何关于AI的迷思经久不衰

AI炒作有别于昔日科技狂潮

AI社区具有炒作的文化和历史

公司缺乏透明化的激励

AI研究中的可复制性危机

新闻媒体误导公众

公众人物传播AI炒作

认知偏见使我们误入歧途

第8章　接下来我们该何去何从

AI万金油令失序机构趋之若鹜

拥抱随机性

监管：打破虚假的两难困境

监管的局限性

AI与未来职场

在凯的世界与AI共同成长

在玛雅的世界与AI共同成长

致谢

参考文献

（来源：中信出版社）