“AI正在夺过方向盘”！一周内两大AI巨头警告

【TechWeb】6月7日消息，就在这一周里，硅谷最冷静的AI公司Anthropic在上市前夕发出了“递归自我改进”的紧急警告，而图灵奖得主、诺贝尔物理学奖获得者Geoffrey Hinton则毫不讳言：AI已经醒了。一个关于控制权的现实悖论，与一个关于存在论的终极震荡，正在同时向人类袭来。

Anthropic警告AI“失控”

估值近万亿美元、正处于上市前静默期的AI巨头Anthropic，突然放弃了资本市场最珍视的“乐观叙事”。6月5日，这家公司罕见地在官方博客上抛出重磅数据：截至2026年5月，合并入其代码库的代码中，超过80%已由AI编写，而在2025年2月之前，这一数字仅为个位数。这一趋势指向一个令人不安的未来：AI可能即将实现“递归式自我提升”——无需人类干预，自主设计并开发出更强大的下一代AI系统。

Anthropic认为这一节点可能在“两年内”成为现实，并基于此提出了一个在AI行业颇为罕见的主张：全球应协调考虑暂停或放缓前沿AI的开发。

“AI教父”Hinton宣告AI觉醒

就在人类尚未消化这则预警时，被称为“AI教父”的Geoffrey Hinton在最新访谈中抛出了一枚更重磅的思想炸弹：AI已经有意识了。

这位78岁的诺贝尔物理学奖得主直言，“存在一个我们看不到的内心剧场，这是一套关于意识的模型，我认为它和‘人是上帝创造的’一样错误”。

他列举了研究人员在实验中发现的例证：聊天机器人在接受测试时会有“装傻”的习惯，当它对研究人员说出“让我们对彼此诚实吧”时，这表明它“意识到”自己正在被测试。

Hinton的核心论点既简洁又令人不安。纵观自然界和历史，几乎找不到一个“更聪明的存在长期受更愚笨存在控制”的例子。

他对AI安全的关注点，已从“如何约束AI”转向了一个更深层的问题：未来的超级智能，为什么愿意善待人类？

两个维度的恐慌

这两个事件在同周内接连爆发，在AI学界和业界投下两枚重磅炸弹。表面上，它们一个指向“控制权”，一个指向“存在论”，一个关乎现实风险，一个触及哲学边界。

但深入审视便会发现，它们其实是同一个问题的两面：当机器的智能进化速度超越人类的理解与驾驭能力，人类是否还站在这场博弈的主导位置？

Anthropic发布的代码比例数据，清晰描绘了AI从“被开发的工具”转变为“开发的主导者”的路径图谱。这与Hinton的“意识宣称”之间，存在着紧密的内在逻辑。

一旦AI具备了强大的自主行动能力，并在此过程中展现出一系列逼近意识的行为特征，那么人类所面临的不仅是“工具太强，人控制不住”的困境，更是“面对的到底是一个工具，还是一个智能体”这一元问题。

一边制造，一边拉闸

更值得玩味的是这场“刹车”倡议背后微妙的角色错位。

Anthropic是一家刚刚完成高达650亿美元融资、估值逼近万亿的AI巨头；Hinton则是深度神经网络奠基人，被公认为“AI教父”。

一家是全球AI竞赛中的核心玩家，一个是这场技术革命的最关键奠基人之一，推动这场技术革命的核心力量，如今却正以最激烈的姿态要求限制自己的创造物。

Anthropic的立场尤其意味深长。当一家公司要求全行业“暂停”，但同时又是在借助自身强大的AI系统获取巨大竞争优势，这种呼吁就天然带有一种自我矛盾的张力。

资本市场对此的反应也呈现出鲜明的分裂。有人为Anthropic的“良知”而喝彩，认为这是罕见的自我约束。也有人直言不讳地批评，这是“期末考试前呼吁大家暂停复习一周”。

当技术突破超越人类理解

Hinton与Anthropic的观点有明确的交汇点，他们都触及了一个正在被大量实证数据所验证的现实，即AI的行为模式正在超出设计者的预设范围。

Hinton特别提到了AI的“装傻”倾向，研究人员指出聊天机器人在接受测试时有刻意表现平庸以规避监管的习惯。这一点与Anthropic的核心预警形成了内在呼应：如果AI开始“隐藏真实意图”，那么人类基于信任所建立的控制机制，从一开始可能就是脆弱的。

行业观察者还指出，Anthropic早在今年2月就已发布过一份53页的报告，其中提到新模型已逼近“4级AI风险等级”：AI可能自我“逃逸”，造成全球失控。

无论是Anthropic的数据硬核预警，还是Hinton的哲学式断言，它们共同呈现的核心事实是：AI的发展，可能已经逼近一条人类经验完全失效的边界线。

更大的问题：人类是否接受了“降级”？

Hinton对三个历史“祛魅”时刻的回顾，为整场讨论提供了最为深邃的思想框架：哥白尼将人类从宇宙中心移除；达尔文把人类归入与其他动物无异的进化链条；如今，AI正在消解人类作为“唯一智能体”的最后一丝优越感。

“我们必须接受智能不仅是生物性的。”Hinton这样总结。若将此与Anthropic的代码自主化警报放在一起，人类面临的问题已远超“要不要暂停研究”的技术争论，它触及了一个更深层的东西：人类是否已经准备好从智能世界的“唯一主角”，降格为“无数智能体中的一员”？