AGI，不会通知你

每次技术革命，都用上次的速度，欺骗这次的人

回望历史，我们发现每次技术革命都不是以宣布的方式到来

无论是农业革命、工业革命，还是互联网革命，都是这样，我们总是在事情发生之后，才回过头来指出：哦，那是「xx革命」的起点

AGI 也不会有例外，它到来的时候并不会通知你，而当你发现的时候，它已经过了，然后很多事情在各个角度并行发生着变化

还有一个更细思极恐的：核武器出现后，人们用了 20 年去摸清如何确保安全，但这一次，历史可能不会给到我们 20 年

如果是对于个人来说，这个窗口期可能会更短

门槛已经在身后了

1793年，英国派马戛尔尼勋爵出使大清，要求开放通商口岸。乾隆给英王乔治三世写了一封回信，语气平和，措辞妥帖：「天朝物产丰盈，无所不有，原不藉外夷货物以通有无」

写这封信的时候，英国纺织厂里的蒸汽机已经轰鸣了将近三十年。乾隆不知道这件事，也不觉得需要知道。他用的是一套运转了几千年的框架，在那个框架里，大清是世界的中心，外夷是来朝贡的

五十年后，鸦片战争爆发

AGI 不会有一个到来的时刻，只有一个回头看的时刻

有一个研究机构叫 Meter，专门追踪一件事：给 AI 一个完整任务，全程不介入，看它能独立撑多久

2024年初，前沿模型能可靠完成的任务在几分钟量级，相当于查一个问题、写一段代码。到2025年，这个数字到了五到十小时，相当于一个工程师独立完成一个完整功能模块的时间，这些数字每七个月翻一番，曲线没有趋平的迹象

这段时间，由于项目需要，在一些前沿的实验室有过不少交流，渐渐地就觉得门槛可能离我们不远了，甚至说：这个门槛已经开始变得模糊

我并不知道会有哪一天，会有怎样的方式，社会共识会告诉我们：AGI 已到达

这次的速度不在同一量级

公元前356年，商鞅在秦国开始变法。他重新丈量土地、废除贵族世袭、推行军功授爵。二十年后，商鞅被车裂而死。又过了一百年，秦始皇才统一六国

商鞅变法的果实，种树的人等不到

1765年，瓦特改良了蒸汽机。纺织厂开始用机器代替手工，煤矿开始用机器抽水。英国第一部限制童工工时的工厂法，到1833年才通过

从蒸汽机到工厂法，用了将近七十年

1870年代，第二次工业革命在德国和美国同时爆发，普法战争打完，俾斯麦拿到赔款和煤矿，转身就开始建钢厂

德国从一个农业国变成欧洲最大的工业国，用了不到三十年

1994年，中国接入互联网，第一封电子邮件从北京发出。十年后，淘宝上线。又十年，微信月活十亿

从第一封电子邮件到改变所有人的日常生活，用了二十年

2022年11月，ChatGPT 发布，两个月后两亿用户。然后到了2025年，连这个速度都开始显得慢了。Manus 上线不到一年，被以数十亿美金收购。OpenClaw，AGI Bar 社区里大家叫它小龙虾，从第一次被人知道，到 GitHub Star 数超过 Linux，只用了一个月。Linux 是全世界程序员用了三十年积累起来的信仰

每次技术革命，都在用上次的速度，欺骗这次的人

每一次，人类建立应对机制的速度都比技术慢，但最终能追上
但对于这一次...我不知道

安全问题的答案在政治里

1952年12月，伦敦被一层浓厚的烟雾笼罩了五天，能见度低到公交车司机需要乘客在前面打手电筒引路。五天之内，四千多人死去，后续数月又有八千人陆续离世

技术层面，解决方案早就存在。丘吉尔的内阁看完报告，把它搁置了。工业游说团体说改造成本太高，财政部说现在不是时候，卫生部说死亡数字属于正常的冬季水平。又死了四年人，《清洁空气法》才在1956年通过

这段历史，在我们课本中被压缩到了四个字：伦敦大雾

而放在当时，这是一个国家、一个时代的痛

「多危险算太危险」，从来都不是工程师能回答的问题

蒸汽机不会告诉你排放多少二氧化硫算超标。这个数字需要医生去统计死亡人数，需要记者去报道，需要公众去抗议，需要议员去投票，每一个环节都是人和人之间的博弈

也许，我们仍然还需要经历无数教训，才能找到安全的答案

这次没有二十年

1962年10月，苏联在古巴部署核导弹的消息传到华盛顿

接下来十三天，是人类历史上离核战争最近的时刻。肯尼迪和赫鲁晓夫之间的电报往来，今天读起来仍然让人背脊发凉，两个人都清楚，一旦两边产生一丁点的误判，我们可能会走向终点

还好，现在以上帝视角来看，一切平稳度过

在此之前，两国已经用将近二十年，经历了柏林封锁、朝鲜战争、一次次擦边球，在真实的高压对抗中摸索出彼此的边界。赫鲁晓夫知道能退到哪里，肯尼迪知道不能逼到哪里

这个「知道」，是用二十年的试探换来的

那二十年里，兰德公司建立了整套核威慑理论，热线电话被架设起来，第一轮军控谈判开始了。一套框架，从无到有

人类用了二十年，才在核武器出现后摸清楚彼此的边界，而面对 AGI 的风险，我们这次没有二十年

等危机真的出现，可能没有十三天来回发电报，1950年代的兰德公司知道自己在做什么。对应的工作，我们现在还不知道是什么

新工具最先属于旧信任

1455年，古腾堡印出了第一批《圣经》。在这之前，欧洲的书籍由修道院僧侣手工抄写，一本《圣经》需要几个月。印刷机出现之后，第一批大规模使用它的，是教会。他们印赎罪券、印教皇诏书、印弥撒手册，掌握最广泛传播渠道的机构，最快地把新工具用到了极致

1517年，马丁·路德把《九十五条论纲》钉到教堂门上。这份文件能在两周内传遍整个德意志，靠的正是教会花了几十年建立起来的那套印刷和传播网络。路德用教会建立的基础设施，动摇了教会本身

最快拿到新工具的人，永远是在旧工具上建立了最深信任的人

杠杆放大的是已有的优势

信任是慢变量，不会因为某个工具出现就突然产生。框架还没建好，规范还没到位，这段时间里，信任是少数几件可以提前做的事

这个窗口现在还开着

这五条判断，我不能保证是对的

但如果方向大体没错，留给调整的时间，可能比大多数人认为的要短