当算法开始预测人生，我们失去了什么？

（来源：麻省理工科技评论）

人类的本质，从根本上说，是一种预测者。

无论是借助过往经验，还是依赖因果逻辑，试图看清未来这件事帮助我们狩猎、躲避猎捕、播种农作物、建立社会纽带，并在一个并不以人类生存为优先的世界中延续至今。事实上，随着占卜工具历经数百年的演变，我们对未来可以被认知、被掌控的信念，只增未减。

如今，我们淹没在一片铺天盖地、无休无止的预测海洋之中，大多数人对此几乎毫无察觉。就在我写下这句话的此刻，某台远程服务器上的算法正忙着根据我已输入的文字，猜测我的下一个词。如果你正在网上阅读这篇文章，另一套算法可能已经为你推送了一则它判定你最有可能点击的广告。

如果想到一群逐利的企业正将一套无处不在、几乎隐形的预测机制悄悄嫁接进你的生活，你感到不安……那我们感同身受。

这一切究竟是如何发生的？人们渴望可靠预测的心理不难理解。但没有人曾主动报名，要让一个无处不在的算法神谕来介入自己生活的方方面面。

三本新书试图厘清这个以未来为导向的世界——我们如何走到今天，以及这种变化意味着什么。三本书各有其应对新现实的方案，但在一件事上达成共识：预测归根结底是关于权力与控制的。

（来源：麻省理工科技评论）

在《预测的手段：AI 的真实运作机制（以及谁从中获益）》（The Means of Prediction: How AI Really Works (and Who Benefits)）一书中，牛津大学经济学家马克西米利安·卡西（Maximilian Kasy）解释了我们生活中的大多数预测，是如何建立在对大规模标注数据集中规律的统计分析之上的——这在 AI 领域被称为监督学习。算法一旦在这类数据集上完成“训练”，便可接收各种新信息，并对某一具体的未来结果给出最优猜测。

你是否会违反假释条件？能否还清房贷？入职后会获得晋升吗？大学考试能否取得好成绩？你家遭到轰炸时你是否在家？我们的生活越来越多地被机器对这些问题的回答所塑造——有时，也会被它缩短。

如果想到一群逐利的企业正将一套无处不在、几乎隐形的预测机制悄悄嫁接进你的生活，你感到不安……那我们感同身受。这种格局正在将世界推向一个更冷酷、更单调、更工具化的方向——生活的可能性被提前封堵，根深蒂固的偏见愈发固化，所有人的大脑似乎都在加速退化。卡西认为，这一结果完全在意料之中。

AI 的拥趸们或许会将这些后果定性为无意为之，或仅仅是优化与对齐层面的问题。卡西的观点则截然不同：这些后果恰恰说明系统在按预期运转。“如果一个决定你在社交媒体上看到什么内容的算法在煽动愤怒，”他写道，“从而最大化互动率和广告点击量，那是因为煽动愤怒有利于广告销售利润。”

同样的逻辑也适用于那些将“可能在工作之外承担家庭照护责任”的求职者一票否决的算法，以及那些“筛除可能患上慢性疾病或残疾人士”的算法。对公司利润有利的事，未必对你的求职前景或预期寿命有利。

卡西与其他批评者的不同之处在于，他并不认为致力于打造偏见更少、更公平的算法能解决任何问题。试图重新校准天平，无法改变一个基本事实：预测算法依赖的历史数据往往充斥着种族歧视、性别歧视以及其他形式的缺陷。他指出，逐利的动机始终会凌驾于消除危害的努力之上。应对这一困局的唯一出路，是对卡西所称的“预测手段”实施广泛的民主管控，涵盖数据、计算基础设施、技术专长与能源。

《预测的手段》超过一半的篇幅用于阐述这一目标的实现路径，涉及的机制包括“数据信托”（代表数据贡献者就数据处理和使用方式作出决定的公共集体机构），以及旨在将 AI 造成的社会危害纳入核算的企业税收方案。书中充斥着大量经济学术语，探讨“变革主体”如何推动实现“价值对齐”以“最大化社会福祉”。我认为这些思路有其合理性，但持怀疑态度的人或许会指出，卡西构建新型公共服务机构的这套严谨、系统性方案，偏偏出现在公众对机构信任度跌至历史低点的时代。此外，还有那个大脑退化的问题。

值得肯定的是，卡西在这一点上是个现实主义者。他并不认为上述任何提案都会轻易落地，也不指望这些变革能一蹴而就，甚至在近期内实现。他在书末提出了一个令人不安的问题：我们还有那样的时间吗？

读完卡西关于掌控预测手段的蓝图，另一个迫切的问题随之浮现：我们究竟是如何走到机器介导的预测几乎无处可逃这一步的？马克思或许会言简意赅地答：资本主义。这个答案有一定道理，但它无法解释，为何同一类算法既在为气候变化建立模型，又在决定你能否获得肾脏移植，或是我能否申请到汽车贷款。

（来源：麻省理工科技评论）

《非理性决策：我们如何将选择权交给计算机》（The Irrational Decision: How We Gave Computers the Power to Choose for Us）一书的作者本杰明·雷克特（Benjamin Recht）或许会告诉你，我们当下的困境与决策理论（即经济学家所称的理性选择理论）的理念和意识形态密切相关。雷克特是加州大学伯克利分校电气工程与计算机科学系的博学教授，他更倾向于用“数学理性”这一术语，来描述那种激发了建造计算机冲动、塑造了计算机最终运作方式、并影响了计算机所擅长解决问题类型的狭窄统计观念。

这套信仰体系可以追溯至启蒙运动，但在雷克特的叙述中，它真正扎根是在第二次世界大战末期。没有什么比战争更能让人聚焦于风险与快速决策，而那些在对抗轴心国过程中被证明尤为有效的数学模型，说服了一批精英科学家和统计学家：这些模型或许也可以作为设计第一批计算机的逻辑基础。于是，计算机作为理想理性主体的概念由此诞生：一台能够通过量化不确定性、最大化效用来作出最优决策的机器。

雷克特指出，直觉、经验与判断力，让位于优化、博弈论与统计预测。“这一时期发展出的核心算法，驱动着我们现代世界的自动化决策，无论是管理供应链、安排航班时刻，还是在你的社交媒体信息流中投放广告，”他写道。在这个以优化为导向的现实中，“每一个人生决策都被设定成仿佛是在一家虚构赌场中的一轮博弈，每一种论点都可以被简化为成本与收益、手段与目的。”

雷克特指出，如今，数学理性（披着人类外衣）的最佳代言人，莫过于民调专家内特·西尔弗（Nate Silver）、哈佛大学心理学家史蒂文·平克（Steven Pinker），以及一批硅谷寡头。这些人从根本上相信，如果更多人采纳他们的分析思维方式，学会权衡成本与收益、评估风险、进行最优规划，世界将会变得更好。换言之，他们认为我们都应该像计算机一样做决策。

我们又该如何证明，那些无法量化的人类直觉、道德与判断力，才是应对世界上某些最重要、最棘手问题的更优途径？

雷克特认为，这种想法荒谬至极，理由不止一个。仅举其一：并非自动化出现之后，人类才学会做出基于证据的决策。“清洁饮水、抗生素与公共卫生领域的进步，使人类预期寿命从 19 世纪 50 年代的不足 40 岁提升至 1950 年的 70 岁，”雷克特写道。“从 19 世纪末到 20 世纪初，物理学领域涌现出改变世界的重大突破，包括热力学、量子力学和相对论的新理论。”人类在没有正式理性体系的前提下，造出了汽车和飞机；在没有最优决策理论的情况下，也摸索出了现代民主这样的社会创新。

那么，我们如何说服平克和西尔弗这样的人，让他们相信生活中大多数决策其实并不适合被数学理性的磨盘碾压？更进一步，我们又该如何证明，那些无法量化的人类直觉、道德与判断力，在应对世界上某些最重要、最棘手的问题时，或许是更优的方式？

（来源：麻省理工科技评论）

也许可以从提醒理性主义者这一点入手：任何预测，无论是计算机生成的还是其他形式的，本质上都只是一种愿望——只不过这种愿望具有强烈的自我实现倾向。这一理念贯穿了卡里萨·维利兹（Carissa Véliz）那本视野广阔、论战色彩鲜明的著作《预言：从古代神谕到 AI 的预测、权力与未来之争》（Prophecy: Prediction, Power, and the Fight for the Future, from Ancient Oracles to AI）。

身为牛津大学哲学家的维利兹将预测视为“一块将现实向自身弯曲的磁铁”。她写道：“当磁力足够强大时，预测本身就成为其得以实现的原因。”

以戈登·摩尔（Gordon Moore）为例。他虽未出现在《预言》一书中，但在雷克特的数学理性发展史中占有相当重要的位置。作为科技巨头 Intel 的联合创始人，摩尔以其 1965 年的预测闻名于世：集成电路中晶体管的密度每两年翻一番。“摩尔定律”最终被证明是正确的，时至今日仍然成立，尽管受制于硅原子的物理尺寸极限，它似乎正在逐渐失去动力。

关于摩尔定律，你可以讲述这样一个故事：戈登只是一个富有远见的人。他那篇发表于《电子学》杂志、如今已成经典的 1965 年评论文章《在集成电路上塞入更多元件》，不过是对计算领域的发展趋势将如何影响半导体产业未来的简单外推。

另一个故事是：摩尔将一个经过深思熟虑的预测抛向世界，而整个行业都有集体利益驱动它成为现实。正如雷克特所指出的，企业制造更快、更小芯片的财务动机过去存在，现在依然存在。行业可能为维持摩尔定律的有效性投入了数十亿美元，但从中获得的收益无疑更为丰厚。摩尔定律是一块力量强劲的磁铁。

维利兹指出，预测不仅有自我实现的习性，还会让我们对当下的挑战分心。当一位 AI 乐观主义者承诺通用人工智能将是人类需要解决的最后一个问题时，这不仅塑造了我们对 AI 在生活中所扮演角色的认知，也将我们的注意力从那些现实而紧迫的当下问题上引开，而这些问题在许多情况下正是 AI 本身造成的。

从这个意义上说，围绕预测的问题（谁在作出预测？谁有权作出预测？）从根本上也是关于权力的问题。维利兹认为，依赖预测程度最深的社会，往往也是最倾向于压迫与威权主义的社会，这绝非偶然。“预测是披着面纱的规范性断言，它们告诉我们该如何行动，”她写道。“它们是哲学家所称的言语行为。当我们相信一个预测并据此行动时，这与服从命令并无二致。”

尽管科技公司极力希望我们相信相反的事，但技术并非命运。人类创造了它，也选择如何使用它，或者不使用它。面对生活中那些不请自来、无处不在的日常预测，我们能做的最恰当、也最具人性的事，或许就是：拒绝服从。

https://www.technologyreview.com/2026/02/18/1132579/robots-predict-future-book-review/