AI敲出莎士比亚全集，就懂文学了？

【留美学子】第3932期

13年国际视角精选

仰望星空·脚踏实地

【陈屹视线】教育·人文·名家文摘

让认知 永远快人一步

AI的奇点已至，人类要起飞了，真的还是假的？AI的当下》系列文章，考生还没学会自己出题呢

作者：刘丹（DAN LIU，谷主）

最近，科技圈又传来一个大好消息。

Anthropic的联合创始人Jack Clark 在IMF和世界银行的年会上发表了一篇极其振奋人心的演讲。他在台上斩钉截铁地宣布：奇点已经来了。人类，要起飞了。

为了防止大家听不懂，他极其生动地描绘了这幅“起飞蓝图”，列出了极具震撼力的七大论点：

1. 奇点已至：AI 已经不再只是个提高效率的工具，它成了科学进步的参与者。它开始在前沿数学、物理和生物领域运作，解开了人类几百年没解开的难题。

2. 递归自我改进（RSI）：AI 开始参与算法设计和代码优化，造出比自己更强的下一代 AI。他甚至把“AI 彻底脱离人类工程师”的时间表，从 2028 年提前到了 2027 年。

3. 经济大爆发：据他援引的极端情景推演，到 2030 年，美国 GDP 将被拉爆到 44.4 万亿美元，年增速高达 15.4%，整个经济规模 4.5 年就能翻一倍。

4. 10亿虚拟科学家：未来，科研最大的瓶颈不再是“缺聪明人”，而是算力和实验室。每位人类科学家都可能拥有成百上千个 AI 助手，甚至出现 10 亿个不知疲倦的虚拟科研劳动力。

5. 生物领域的双刃剑：AI 既能研发新药，也可能被用来设计危险的病毒蛋白质。所以这里需要最严格的人类监督，因为一旦出错，代价就是真实的生命。

6. 就业与分配脱钩：AI 可能会一边把经济蛋糕做大，一边让劳动者的份额变小。到 2030 年，劳动收入在 GDP 中的占比可能从六成降至 45.2%。

7. 物理世界的瓶颈：下一阶段的瓶颈，在于真实世界的自动化实验室和机器人的吞吐量能不能跟上算法的迭代。

听完这番宏论，是不是觉得人类文明马上就要迎来大跃升，大家都可以准备起飞了？他甚至还贴心地安慰大家：虽然存在生物安全和分配不公的风险，但没关系，只要我们在这个关键窗口期把AI安全护栏装好，一切就都在掌控之中。

不过，作为一个在华尔街敲了半辈子底层代码、又在混沌股市里真金白银杀了几十年的老架构师，听完这番宏论，我只能笑笑。AI作为试错引擎是真的，但“奇点已至、人类起飞”的叙事，大概率是给资本画的饼。

今天，咱们不扯玄学，就用最底层的系统逻辑，扒一扒他演讲里最核心的两个伪命题。

（注：本文讨论的AI，特指当下基于Transformer架构的概率引擎。）

一

别把“算力穷举”包装成“智慧升华”

Jack Clark 说，AI在数学和科学前沿突破了人类极限，所以奇点来了。

这话只说对了一半。Transformer架构下的AI确实在解题上超过了人类，为什么？因为它不知疲倦，它一秒钟能试错几万次、几百万次。在代码和数学这种有绝对标准的领域，只要算力堆够，它总能撞出那个正确答案。

但这叫“解题”，不叫“懂”。

就像一只被蒙住眼睛的猴子，在几万台打字机前疯狂乱敲。不是否认它终有一天能敲出《莎士比亚全集》，而是强调：就算它敲出来了，也不等于它懂文学。它解出的题，只是一堆“对规则很诚实的废话”。

换一个分布差得更远的题，它并不会自动带上“我为什么能解上一题”的理解，仍然要在人类给定的目标下重新去搜。连原理都说不清，怎么去造新药？怎么去变出对物质世界有用的东西？没有人类懂其过程，FDA敢批吗？真吃死了人，算法能去坐牢吗？

这就是当下AI在生物和医疗领域绝对不可逾越的“死线”——不可回滚的领域，责任主体必须是人。FDA批的是人的签字，不是模型的loss。

二

别把“修修补补”吹成“递归自我改进”

他演讲里最让资本兴奋的，是所谓的“递归自我改进（RSI）”——AI自己写代码、自己优化算法，造出比自己更强的下一代AI，然后在2027年彻底脱离人类工程师。

这里我必须澄清一点：我并不否认当下AI的主动探索能力。它确实可以提出假设、设计实验，甚至能在人类画好的架构里改路由、改算子、优化代码。

但在我这个搞了几十年系统架构的人看来，这简直外行。这叫“优化处理设计”，不叫“换底层架构”，更不叫“彻底脱离人类”。

就像是一个极度聪明的调音师，你告诉他“把钢琴的高音调准”，他一秒能调几万次，调到完美；但你让他把这架钢琴拆了，重新发明一种叫“架子鼓”的乐器，它就彻底傻眼了。

为什么？因为任何“自我改进”，核心不在于“能不能算”，而在于三个致命的前提：
谁来确定什么才算真正的进步？谁来验证它没有建立在错误的指标上？谁在验证机制失效时，拥有按下停止键的权力？

这三个问题，当下的AI一个都回答不了。它没有“元认知”，它不知道“什么叫更好的架构”这条标尺在哪里。如果你不给它设定目标函数，不让人类工程师来指导和验证，它的自我修改就会变成毫无意义的概率漫步。

大模型连自己为什么得出这个结论的“黑盒”都没打开，还谈什么改变底层架构？它只是个超级拟合器，不是发明家。

这哪里是什么架构的突破，说到底，这就是硅谷的套路：用未来的科幻大饼，掩盖当下底层架构的无力。

Jack Clark 的这场演讲，本质上是在用“工具变快了”的物理现象，去强行偷换“人类被替代”的社会学概念。

我不反对别人说“机器越来越会解题”，但我坚决反对把这等同于“当下的机器已经能够自主决定未来该做什么”。

时代确实在狂奔，AI确实变成了极其强大的试错引擎。但各位记住了，引擎再猛，它也得有人握着方向盘。连解一道题、改个路由都需要人类定方向，这就说明，那个负责指路和签字的“人”，永远是这套系统的承重墙。

考生解题再快，只要他还没学会自己出题、不知道为什么要做这道题、更无法为自己的答卷承担现实后果，那张最终决定能不能交卷的“签字权”，就还死死攥在人类手里。

机器负责试错，你我负责签字。图纸还在咱们自己手里，剩下的路，是人走的。

【作者声明】

本文是《AI的当下》系列的一篇，用《AI的未来》九篇坐标看当下。

特别说明：本文所指的“AI”，均特指当下基于Transformer架构的概率引擎，并不代表对“未来可能出现的其他底层架构”的否定。所有的推演，均建立在《AI的未来》九篇对概率引擎技术特征（无元认知、缺验证轴、无法自发进行架构跃迁）的基石之上。

注明：本文在文献调研、图表制作、文字润色等环节使用了AI辅助；文章的观点、判断与逻辑框架均由本人提出，并由本人负责。

欢迎点击↓↓↓↓↓图片 延伸阅读作者系列文章

往期发表

点击图片 ↓↓↓ 百篇系列一网打尽

美国故事连载持续更新1-9

100个国家·1000座城市

【带你深度游世界】

喜欢就点“赞吧↓↓↓↓↓↓↓↓