深观察｜割尾之忧：人工智能时代，人脑会退化吗？

来源：市场资讯

（来源：澎湃新闻）

一名初中生对着数学作业犯了难，掏出手机，把题目拍给AI，三分钟，抄下答案，如释重负。这样的场景，几乎在很多家庭上演。

9月11日，陶哲轩、邓煜等25位菲尔兹奖得主联名发表公开信《人工智能在数学中的严重错位》。导火索是三天前，OpenAI宣布，其未公开的内部模型调动上万个智能体，跑了88个小时，攻克了困扰人类百年的纳维—斯托克斯方程问题。数学家的声明里没有一句反对AI，反对的是另一件事。他们说得很白，解题只是工具与代理，数学真正要的，是概念的理解与洞见；以越来越快的节奏批量生产答案，会摧毁孕育新思想的土壤，也会打断数学代代相传的人类传承链。

一端，是孩子把解题外包给机器；另一端，是全世界最会解题的人宣布，解题从来不是目的。摆在一起，一个古老的生物学事实再度浮出水面。人类史上的历次工具革命，革的都是体力与双手的命。杠杆放大臂力，蒸汽机放大肌肉，汽车与飞机放大了双脚，而往哪儿使劲、到哪儿去，始终还得是人说了算。这一次不一样。人工智能要接管的，似乎直奔“做决定”这个功能本身。

先别争论强人工智能何时到来，眼下就有一个足够尖锐的问题：被外包的器官会萎缩，大脑会是例外吗？

​近日，邓煜、陶哲轩等25位菲尔兹奖得主联名发了一份声明，措辞严厉地警告AI行业。封面新闻图

从四肢到大脑

进化给出的答案向来不留情面。人类学家兰厄姆提出过著名的烹饪假说，认为烹饪是人类进化的关键驱动力——熟食更容易消化，为人类提供了更多能量，从而推动大脑进化、咀嚼时间减少，并间接促进了狩猎、社会分工乃至家庭结构的形成。

奥菲克在《第二天性：人类进化的经济起源》一书中也关注过这条线索。火把消化这道工序外包了出去，人类的肠道随之缩短，省下的代谢预算投给了大脑。肠子就是这样让位给脑子的，有考古化石为凭。这是外包导致萎缩的解剖学证据。主张“用进废退”的拉马克在基因层面是错的，在文明层面却几乎一直是对的，文化的遗传近乎拉马克式，获得性可以“遗传”。

麻烦在于，以往的每次外包，被替代的都是执行，拍板的永远是人。这一次，被外包的恰好是“做决定”本身。大脑是唯一承担权衡取舍的器官，把决策外包出去，等于请被截肢者自己签手术同意书，而签字这个功能，正躺在手术台上。

更值得警惕的是，我们早已没有退路。上一次技术革命，人类用四肢换来了大脑，赌注全押在智力上。认知是最后一站，这一站让出去，是否还有下一站可换？

进化不签免赔协议

为什么这一站让不得，得先看进化的老脾气。自然选择扬长而不补短，只在既有优势上叠加，劣势功能整建制裁掉，从不修补。千百万年间从猿类自身的进化以及从猿到人的进化中，尾巴、体毛、宽大的颌骨、锋利的犬齿，全丢了。直立行走算得上一次冒险的“补短”，解放了双手，代价是产道收窄与腰椎劳损，这笔账至今还在由每一位产妇和腰痛者支付。

要点在于，进化从不签免赔协议。每次“割让”都要付账，账单的送达滞后几十万年。以往的账单由子孙签收，签字的人从不知道条款；这一次，我们是头一回能在签单时预读条款的物种。看得见风险，是幸运；条款诱人的程度前所未有，是考验。

何况这次的“割”，节奏与往次完全不同。割掉一条尾巴可能没什么，如果割的对象是一种文化能力，很可能两三代人就可以割完。失传的要害在能力，不在内容。连“我们曾经会什么”都不记得的时候，重建便无从谈起。

当人工智能割掉了人类思考、做决定的能力，这一次的账单，会寄给谁？

永不满足的动物

写到这里，该请出奥菲克了。《第二天性：人类进化的经济起源》这个书名里就藏着主张。交换这种经济行为古老得惊人，它对市场参与者的苛刻要求，识人之明、守信之名、延迟满足的耐性，反过来成了选择压力，参与筛选和塑造了人脑。经济倾向沉进基因，成了人的第二天性。

这本书最动人的，是关于不满足的那一层。动物的欲望有饱和点，饱食即止，据有一片领地便安于现状。它们的进化是胜利者的进化，达到形态与环境的匹配，然后停住。人类偏不。站上食物链顶端之后，智人仍在跟自己较劲，这就是纵向的文化进化替代了横向的生理进化，对自身优势永不自我满足。这股不餍足，是整部文明史的引擎。科学上的突破往往长在较劲之处，许多划时代的创造，起于对“足够好”三个字的不买账。

现在，史上第一台可能喂饱这台引擎的机器出现了。答案唾手可得，较劲的那条必经之路被整个取消。还可以再深一层。第二天性形成于人与人的交换，心智是在人与人的交易中打磨出来的。如今，交易对手越来越是机器，塑造人类心智的选择环境变了，第二天性正被一个“第三种本性”悄悄重写。

一个靠不满足起家的物种，遇见第一台让它满足的机器，引擎还转不转？奥菲克写书的时候，这个变量还不明显，或是，他还没来得及问这个问题。

谁驯化谁

赫拉利在《人类简史》里做过一个著名的翻转。农业革命一直被讲成进步史诗，他偏要唱一句反调：我们驯化了小麦，还是小麦驯化了我们？定居种麦换来更少的闲暇、更差的营养、更重的劳役，而当时迈出的每一步，在当地人看来都合乎理性。历史的陷阱，从不以陷阱的面目出现。

是我们驯化了AI，还是AI驯化了我们？

别利耶夫的狐狸实验里，被驯化的动物几代之内脑容量明显缩小。驯化它们的无声之手，是每日的喂食。舒适是最温柔的驯化者。人类完成过一次自我驯化，性情渐趋温和，面相随之改变；这一次，轮到环境对认知动手，驯化者是我们亲手造出来的机器。

与以往的外器官相比，AI还多了一样东西——主张。火是外置的胃，文字是外置的记忆，全是哑巴，不会替人拿主意。但AI会回嘴，会给答案配上理由，会让人觉得“就这样吧”。柏拉图在《斐德若》里借苏格拉底之口警告过，文字会损害记忆。这个警告只对了一半。记忆确实退化了，文字却催生了长链条推理与抽象思维这些更高的能力，因为外器官沉默，人不得不自己拿主意。这一次，会回嘴的器官一来，人放弃思考的方式，往往连认输都算不上，只是点了一下头。

智力或许不会整体消失，它可能健身化。肌肉在后工业时代没有消失，变成了健身房里的爱好，而健身者的肌肉，追不上奔跑的猎人。假如思考退为少数人的雅好，文明照常运转，驱动它的那股较劲的引擎，却悄悄熄火了。这比“大脑消失”更现实，也更难察觉。

《人类简史》还留了一个支点。智人靠讲故事统领大规模的合作，如今AI也进场讲故事了，神话的生产垄断第一次被打破。赫拉利在《智人之上》里，已经把这条线追到信息网络与机器上。我们接的，是一场仍在进行的对话。

舒适的驯化之下，狐狸的脑容量在缩小。人注意到自己了吗？

教育守界

教育站到了这场进化的前排。AI时代的教育第一问变了。过去问教什么，如今要问，人的哪些能力必须长在自己身上。过去的教育是能力传输系统，未来的教育必须是能力守界系统。每个学科需要开出自己的“不可外包清单”，像药品说明书标注“必须本人操作”的步骤。

守界先要分级。认知功能里，哪些是阑尾，可割；哪些是肠道，不可割。判断力与品味，长在亲自解难题的肌肉上，不经训练不会生长。教育，不能把最基本的丢掉。认知科学讲“合意困难”，就是要人为设置适度的挑战性障碍，费力学来的才留得住，AI恰好把费力抽掉了，连同记忆的铆钉一起抽掉。另一方面，基本功是入行礼，外科医生练打结，钢琴家练音阶，练的是手艺，也是身份。荀子说“君子善假于物”，善假于物的前提，是先知道物的长短。没亲手算过，就认不出机器的错处。

真问题也要守。提问能力的试金石很朴素，这个问题卡住过你。没解过题的人提出的问题，多半是表演性的提问。AI可以当陪练，当对手方，但陪练不能代替上场，也不会替正主担责。

评价是硬骨头。作业都被机器代劳之后，学习过程就不可见了，评价只剩结果，而结果偏偏最容易被代劳。古人遇到过同类难题。科举防枪手的办法，是糊名、誊录、锁院，再加一场面对面的殿试。防人代笔要动真格，防机器代笔更得动真格。答辩复现、现场写作、过程档案，都是方向。

教育是一个系统。这边的孩子用AI去验证，那边的孩子用AI去交差，认知体系就来了个大清洗。数字鸿沟走了三代，接入、使用、退守，第三代最难看。孟子讲心之官则思，思则得之，不思则不得。挪到今天，思则机器为我所用，不思则我为机器所奴役。机器的训练数据是过去答案的分布，它沿分布优化，优化的方向是均值回归，而突破永远出在离群点上。一代理科生都在分布内打转，离群点从哪里来，拔尖人才又从哪里来？导师带徒弟，靠的是一起做事的身教，打下手的工序一旦被机器接管，身教就断了线。25位菲尔兹奖得主在公开信里警告的人类传承链的断裂点，恐怕就在这一截。作为天文学家第谷的助手，开普勒用了好多年，手工消化第谷生前堆积如山的观测数据，才提出行星三大定律。刀在石上磨，人在事上练。机器学习一口吃掉的，正是“消化”这道工序。杀死消化过程，也就一并杀死未来可能的科学发现。

当最后一批会证定理的人离开之后，谁来重建？

文明的追责机制

最后一问，要回到哲学。思考是有价值的。工具价值，把事办成；养成价值，塑造思考者本人的品德、心性；内在价值，人类理解本身就构成美好生活不可或缺的部分。几千年来，对思考的辩护几乎全挂靠在“有用”一端。AI不出，谁与争锋，AI最先抽掉的，恰是有用。只守有用性，恐怕还守不住，这个辩护必须移后两层。所谓教化，是人通过精神劳作、通过省思而成为人，这个概念在等着被重新启用。

闲暇出智慧，有闲才有学。多数人的思考外包之后，少数保留思考者，就是认知上的“富有”阶层。这个前景算不上科幻，它只是不平等的老剧本，换了一副布景。

最后的锚，在伦理。决定由人来做，因为后果由人来受。捍卫思考，捍卫的其实是人作为权利与责任的承载者。人类漫长的生理进化过程中的历次“取舍”“割让”，都没有追责机制；但文明的演进、文化的进化必须有。文明和文化有追责机制吗？教育就是。告诉下一代别“割错了尾巴”，就是教育应当时刻保持的反思与警醒。我们是史上第一个能前瞻性地后悔的物种。后悔若能赶在“割错”之前，这两三代人，就不白站这一回岗。九月的那封公开信，是数学家打响的第一枪。数学之外，还有哪些领地需要审慎和守护？

那个三分钟交卷的孩子，二十年后会遇见更强大的机器。到那一天，他手里还剩下什么是自己的。这一问，留给所有为他高兴过的人。

（作者为上海财经大学教授）

曹东勃