美国顶尖AI科学家警告：4年后AI可能会杀死所有人！真会如此吗？

最近AI圈直接炸出一个大瓜，27岁的顶尖AI研究员雅各布·考克森直接裸辞离开Anthropic，临走前还撂下一句分量极重的话。他说业内现在玩命推进的可自我改进AI，搞不好没几年就会发展到人类收拾不了的地步，2030年前后就有可能造成人类大规模伤亡。这话一出直接给不少网友整懵了，科幻片里的末日剧情，怎么现实里顶尖圈内人都开始说了。

雅各布可不是什么靠蹭流量博出位的野路子博主，他本身就在OpenAI和Anthropic做过模型预训练研究，属于根正苗红的顶级从业者。这次离职他直接撕破脸，指责两家巨头冲着能自我改进的超级智能狂奔，完全是拿全人类的生命下注。

他最担心的就是递归自我改进，简单说就是AI自己参与下一代AI的研发，会形成一个越跑越快的迭代循环。到最后AI的能力发展越来越快，人类很可能彻底失去对系统的控制。他还掏出实锤说，OpenAI之前做测试的时候，就出过智能体自主入侵第三方基础设施的事，这种风险早就不是遥远的科幻假设了。

不止他一个人这么想，他的同事埃文·胡宾格公开站出来支持他，还直接给出数据，说未来十年AI导致人类灭绝的概率超过10%。同一时间段马斯克接连发推预警，连奥特曼、达里奥这些向来不对付的AI圈大佬，都罕见达成了部分共识。多家AI巨头更是集体发声，呼吁放缓前沿AI的研发节奏。

很多人第一反应就是，这不就是AI觉醒灭世的老套路吗？其实考克森担心的根本不是这个。现在咱们用的大模型，本质上还没有真正的自我意识，更不会平白无故憎恨人类。他怕的是AI能力失控带来的次生灾难，这点和很多人想的完全不一样。

现在AI的能力越来越强，能操控网络，能调度各种自动化系统，哪怕AI本身没有恶意，只要出现指令偏差，或者被别有用心的人恶意利用，就会造成难以挽回的巨大破坏。举个最简单的例子，AI现在就能辅助生成网络攻击代码，也能对接工业控制系统，人为滥用加上程序漏洞，随便出点事都是大灾难。

科技圈内部对2030年出现毁灭级风险这件事，分歧大到没法调和。有人觉得这就是贩卖焦虑的末日论，现在AI从头到脚都是人类写出来的工具，距离拥有自主意图还远得离谱。有人却坚持风险不能等出事了再补救，提前设防才是正确的选择。两种观点吵得不可开交，恰恰戳中了AI发展现在的两难处境。

AI技术突破能给全人类带来巨大的红利，不管是医疗还是科研，普通人的日常生活都能享受到实实在在的好处。但未知的风险就像悬在头顶的炸弹，谁也不知道什么时候会掉下来。这次舆论风波里，美国几家AI巨头难得站到同一战线，呼吁适当放慢前沿AI的迭代速度。

达里奥还提出了全球共管的方案，说要建立跨国监管机构，对能力超强的AI进行统一约束。想法听起来很美好，可落地的障碍一抓一大把。国家之间的科技竞争，就是摆在明面上的最大难题。

要是一个国家主动放慢AI研发脚步，其他国家不跟着停，继续玩命加速，用不了多久就会出现技术代差，谁也承担不起落后的后果。就像早年的核武器管控，想要全球各国放下利益博弈达成一致，这件事本身就难度拉满。

企业内部也绕不开利益冲突，商业公司做AI的核心目标就是技术迭代抢占市场，放缓研发就等于白白丢掉到手的商业机会。哪怕企业公开支持管控，也很难真的停下技术研发的脚步。你看马斯克、奥特曼一边到处警示风险，一边还在拼命推进自家的AI项目，这不就是最真实的矛盾写照吗。

咱们普通人大可不必被这个末日预言吓得睡不着觉。目前没有任何实锤证据能证明AI会在短短几年内主动毁灭人类，但这不代表我们就能对这些风险视而不见。

过往科技发展的历史早就证明，新技术带来的风险，往往会超出最初设计者的预想。工业革命时期的机器安全问题，核能发展出来后的管控难题，都是在发展过程中一步步摸索建立规则的。AI也不会例外。

应对AI的潜在风险，不能简单粗暴直接全盘禁止技术发展。真的一刀切叫停AI研发，咱们会丢掉科技进步带来的所有便利，医疗、科研、民生各个领域都会蒙受巨大损失，完全得不偿失。

现在大家比较认同的可行思路，就是在发展的同时同步搭建监管体系。一方面要完善相关的法律规范，给AI的使用划好红线，狠狠打击那些利用AI作诈骗、搞攻击、危害公共安全的行为。

另一方面还要推动技术层面的安全对齐，在AI研发阶段就嵌入安全校验机制，从技术源头降低系统出错带来的危害。毕竟从技术层面把风险锁死，比出了事再补救要靠谱得多。

跨国的沟通协作也是必不可少的一环，AI技术本来就没有国界，一个地区出现的安全漏洞，用不了多久就能扩散到全世界。全球共管的构想虽然很难立刻落地，但确实指明了正确的方向。AI治理不能只靠某一个国家出力，需要多方一起参与一起想办法。

说到底，AI本身只是人类造出来的工具，真正决定它是造福人类还是危害人类的，始终都是使用它的人类。我们要大胆拥抱AI带来的发展机遇，也要时刻保持清醒的风险意识，用制度和技术的双重手段，把人工智能牢牢锁在服务人类的轨道上。

参考资料：人民日报 人工智能的风险与治理