站在AI颠覆世界的前夜

4月26日，我们邀请了万维钢老师来到香帅读书会，通过直播分享他的书《拐点——站在AI颠覆人类世界的前夜》，我们整理了直播内容的精华版，分享给大家。

嘉宾介绍

万维钢

前物理学家，现科学作家。“中国好书”“文津图书奖”得主，得到App订阅专栏《万维钢·精英日课》主理人。

1999年毕业于中国科学技术大学，2005年获得美国科罗拉多大学物理学博士学位，曾长期从事核聚变等离子体物理研究。现居美国,专职从事写作。他主张以科学精神钻研社会现象，擅长让高端的道理落地，乐于激发读者思考。

著有畅销书《万万没想到》《你有你的计划，世界另有计划》《学习究竟是什么》《佛畏系统》等。

列宁说过这样一句话——

“有时候几十年过去了什么都没发生；有时候几个星期就发生了几十年的事。”（There are decades where nothing happens; and there are weeks where decades happen.）这句话很好地体现了当下的时代。从2022年底，到2023年初，这短短的几个月的时间里，人类世界再次爆发了一次革命，这次革命可能比十月革命更为重要，影响也更为深远，这是自人类启蒙运动以来从未有过的一次大变局。

如果你把AI视为人类的敌人，这短短的一年多，你应该一日三惊。

2020年，麻省理工学院宣布发现了一种新的抗生素，叫Halicin。这是一种广谱抗生素，能杀死那些对市面上现有的抗生素已经产生耐药性的细菌，而且相当安全。

这个幸运的发现，是用AI完成的。研究者先组建了一个由2000个性能已知的分子组成的训练集，这些分子都被标记好了是不是可以抑制细菌生长，然后被用来训练AI。AI自己学习这些分子都有什么特点，总结了一套“什么样的分子能抗菌”的规律。

这个AI模型训练好之后，研究者用它一个个地考察美国食品药品监督管理局（Food andDrug Administration, FDA）已经批准的药物和天然产品库中的61000个分子，要求它按照3个标准从中选择抗生素：（1）它具备抗菌效果；（2）它看起来不像已知的抗生素；（3）它必须是无毒的。

AI从这6万多个分子中最后找到了一个符合所有要求的分子，这就是Halicin。然后研究者通过做实验，发现它真的非常好使。估计大概很快就会用于临床，造福人类。

用传统的研究方法，这件事是绝对做不成的——因为你不可能一个个测试61000个分子，那成本太高了。而AI却把它变成了一个看起来很简单的计算问题。

此外，Halicin可以作为抗生素的化学特征其实是目前人类科学家还不能理解的。关于什么样的分子可以做抗生素，科学家以前有些说法，比如原子量和化学键应该具有某些特征。可是，AI这个发现用的并不是已知的这些特征。在用那2000个分子做训练的过程中，AI找到了一些不为科学家所知的特征，然后用那些特征发现了新的抗生素。

那些是什么特征呢？不知道。整个训练模型只是一大堆——也许几万或者几百万个——参数，人类无法从那些参数中读出理论。

AI的思路，不同于人类的理性套路。当代AI的最厉害之处并不在于自动化，更不在于它像人一样思考，而在于它不像人——它能找到人类理解范围之外的解决方案。

从人的智能到人工智能之变，不但比信息革命重要，而且比工业革命重要——这是启蒙运动级别的大事件。这不是汽车取代马的发明，也不仅仅是时代的进步。这是哲学上的跨越。

2023年是AI元年。有些业内人士相信AGI将会在2026年左右实现。这意味着AI在所有认知领域——听说读写、判断病情、创作艺术，甚至从事科学研究——都做得像最好的人类一样好，甚至更好。

这波GPT大潮跟我们这一代人经历的所有科技进步比有个特别不一样的地方。像5G、元宇宙、区块链那些东西，都是越不懂的人越一惊一乍，懂的人都觉得其实没啥了不起。可是对于GPT，恰恰是不懂的人还在“正常化偏误”（normalcy bias）之中，以为AI的能力不过如此，越懂的人却越是暗暗心惊。

如果你还不是非常了解AI，那么《荀子·劝学》中的一段话，正好可以用来描写AI能力的三重境界。

第一重境界是“积土成山，风雨兴焉”。参数足够多，训练达到一定的积累，你就可以做一些事情。比如AlphaGo（阿尔法围棋）下围棋。

第二重境界是“积水成渊，蛟龙生焉”。模型再大到一定程度，就会涌现出一些让人意想不到的神奇功能。比如，AlphaGo Zero不按人类套路下围棋，大语言模型的思维链。

第三重境界是“积善成德，而神明自得，圣心备焉”。这就是AGI（Artificial General Intelligence，通用人工智能）了，也许它产生了自我意识，甚至有了道德感。

AI现在已经获得了包括推理、类比、小样本学习等思考能力。我们不得不重新思考以前对AI做出的各种假设——什么AI做事全靠经验，AI不会真的思考，AI没有创造力……包括“AI会的都是用语言可以表达的东西”，现在我也不敢肯定了。如果AI能达到这样的思考水平，那人又是怎么思考的？人脑跟AI到底有什么本质区别？

这些问题都在呼唤全新的答案。

孤陋寡闻的人不知道AI，认知固化的人忽视AI，肤浅的人害怕AI，热情的人欢呼AI……我们率先使用AI、探索AI、试图理解AI。

演员郑伊健在《车神传说》里有句台词叫“人要比车凶”，指的是人一定要比工具强势。对我们来说，强势的用法是把AI当做一个助手、一个副驾驶，你自己始终掌握控制权。AI的作用是帮你更快更好地做出判断，帮你做你不屑于花时间做的事情，人要比AI凶。

希望《拐点——站在AI颠覆人类世界的前夜》这本书可以带让你你体会一下这个AGI将到未到，大风刚起，暴风还在后面，身处拐点的感觉，同时也可以让你直通最高水平，不会在AI面前失去自我。

套用丘吉尔发明的一个句式：AI带给我们的不但不是人类文明的结束，而且不是结束的开始……如果你把工业革命至今这几百年都算作文明的开始，那么我们正在经历的AI革命可以说是开始的结束。我们正在迎来文明的繁荣丰盛阶段，它的特点是高级智能——包括AGI的智能和人的智能——处处大显身手。

今后将会是一个普遍富裕的，崇尚创造和自由的，特别把人当“人”的，人人如龙的世界！

《拐点——站在AI颠覆世界的前夜》

「未来取代你的不是AI，而是会使用AI的人类」

点击下方视频观看

「执笔为剑，

陪你穿越财富峡谷」

戳关注，右上菜单栏···键，设为星标

关注微博，获取更多香帅时评

更多感悟，更多陪伴