造 AI 的人开始害怕 AI ：三巨头联手呼吁"限速"，全球科技股震荡

过去一周，全球人工智能行业经历了一场罕见的"内部地震"。9 月 12 日，美国头部 AI 实验室 Anthropic 的 CEO 达里奥·阿莫迪（Dario Amodei）在社交平台 X 上发表了一篇近 3800 字的长文，向整个行业发出呼吁：是时候为前沿 AI 模型的迭代"踩下刹车"了。这篇题为《我们必须为前沿 AI 限速》的公开信，迅速得到两位最直接竞争对手的响应——OpenAI 的萨姆·奥尔特曼（Sam Altman）与 xAI 的埃隆·马斯克（Elon Musk），先后在数小时内表态附和。这是 AI 发展史上，三家最激烈的对手第一次在"放慢脚步"这件事上站到了同一边。

阿莫迪的担忧并非空穴来风。他在文中警告，按照当前的发展速度，AI 智能体"可能在 6 到 12 个月内具备接管整个互联网的能力"，并由此造成数千亿美元量级的损失。他提出了三点方案：引入拥有企业内部风控同级权限的独立第三方监督；由头部企业共同划定能力红线、设立安全检查站；再将这一框架推向全球范围的协作治理。

让这份警告更具分量的，是来自行业内部的"吹哨"。就在长文发布前几天，曾在 OpenAI 与 Anthropic 从事三年预训练研究的 27 岁研究员雅各布·考克森（Jacob Coxon）宣布离职，并公开表示，开发 AI 的人"发自内心地相信，到本十年末，这项技术可能会杀死我们所有人"。Anthropic 自身的对齐研究员埃文·胡根纳（Evan Hubinger）更进一步，给出"未来十年内 AI 导致人类灭绝概率超过 10%"的个人判断。9 月 14 日，又一位前谷歌 DeepMind 研究员比拉尔·丘塔伊（Bilal Chughtai）辞职并发出类似警告。与此同时，Anthropic 于 9 月 10 日发布的威胁情报报告披露，其 Claude 模型已被用于武器研发、网络作战、监控与诈骗等多种恶意场景——"失控"不再只是科幻片里的台词。

这声"限速"呼吁，第一时间传导到了资本市场。9 月 14 日（周一），全球 AI 概念股集体跳水。据路透社报道，费城半导体指数单日重挫逾 5%，英伟达跌约 3%，AMD 与美光跌幅均超 4%；亚洲市场反应更剧烈，软银盘中一度暴跌逾 13%，存储芯片厂商铠侠（Kioxia）下挫近 10%，SK 海力士、三星电子分别下跌约 6.5% 和 4%，台积电也小幅走低，纳斯达克 100 指数一度跌至六周低位。

更值得玩味的是，奥尔特曼在附和阿莫迪的同时透露，出于安全考量，OpenAI 今年将不推进 IPO 计划——在 AI 热潮把多家公司估值推上万亿美元量级的当下，这一表态本身就是对市场情绪的一记重锤。

市场的恐慌背后，是一场关于"AI 资本开支盛宴能否持续"的深层质疑。自 2022 年 ChatGPT 问世以来，AI 相关交易几乎支撑了全球股市的大部分涨幅。但越来越多的投资者开始追问：在算力、能源与融资成本高企、各国长期国债收益率突破多年高位的背景下，这场以债务和循环融资为支撑的 AI 基建扩张，究竟何时能兑现回报？摩根士丹利此前已将"芯片通胀"列为宏观经济隐忧。

不过，也并非所有人都被吓倒。以《大空头》原型人物迈克尔·伯里（Michael Burry）为代表的部分投资者，将这场警告斥为"炒作与虚张声势"，认为其本质是增长放缓的"遮羞布"；多家机构策略师则判断，短期警告或继续压制 AI 与芯片股，但"需求仍超过供给"的基本面意味着这轮行情大概率不会就此逆转。

在监管层面，分歧同样明显。美国参议院谈判代表正在讨论一项要求 AI 企业证明已采取合理防范措施的立法；而美国总统特朗普则将相关担忧形容为针对 AI 与数据中心的"负面力量"，强调"谁赢得 AI，谁就赢得一切"，不愿为发展减速。欧盟则走得更远，据路透社看到的欧委会文件，欧盟拟提议禁止 15 岁以下人群使用社交媒体、视频平台与 AI 聊天机器人——这是迄今最严苛的未成年人网络保护方案。

截至 9 月 16 日，这场由一封辞职信和一篇长文点燃的讨论，仍在持续发酵。当"造 AI 的人"自己都开始为 AI 的未来感到不安，全世界或许都该认真听一听这声警报。

【个人观点】

这场风波最耐人寻味的，不是"AI 会不会毁灭人类"这个永远吵不出结论的命题，而是它第一次从一个抽象的伦理话题，变成了真金白银的市场变量。

我倾向于认为，三巨头的联手呼吁，表面是安全，底色里也有现实算计。当一家实验室的模型能力逼近临界点，率先"限速"的未必是输家——它把安全叙事握在手里，既可能争取监管缓冲，也可能在竞争对手被迫跟进时占据道德与规则制定的高地。换句话说，"踩刹车"本身，可能也是一种竞争策略。

但更值得普通读者警醒的，是资本市场对 AI 的定价逻辑正在松动。过去三年，我们习惯了"AI 投入等于必然回报"的叙事，却很少追问：这些以天价债务堆起来的算力，到底由谁来买单、何时回本？当造 AI 的人自己都承认"还没准备好"，投资者更应该做的，是区分"技术会改变世界"与"每一笔今天的投入都能赚钱"这两件截然不同的事。前者大概率为真，后者可未必。

来源：Reuters、BBC、AP、Bloomberg（综合外媒报道）

本文基于国外公开媒体报道整理编译，仅代表作者个人观点，不构成任何投资建议或立场表达，读者请自行判断。