“万亿IPO”为信息安全让路 AI狂飙时代的一脚急刹车？｜科技观察

封面新闻记者 边雪

AI狂飙的路上，突然亮起了红灯。

当地时间9月12日，OpenAI首席执行官山姆·奥特曼在接受媒体专访时明确表示，OpenAI不会在2026年上市。“考虑到目前围绕安全问题发生的一切，我认为现在上市并非明智之举，而且我们对此并不感到压力。”奥特曼说

对于这家估值高达8520亿美元、已于今年6月秘密提交IPO招股说明书的科技公司而言，这并非常规决定。更值得关注的是，就在奥特曼做出上述表态的前一天，他与Anthropic首席执行官达里奥·阿莫代伊以及特斯拉CEO埃隆·马斯克罕见地在同一问题上达成一致：当前有必要放缓人工智能的发展速度，因为这项技术给人类带来的风险正在不断上升。

作为全球AI领域三家主要竞争企业的领导者，为何三人同时在AI狂奔的路上“踩刹车”？

GPT-6 Astra 图源OpenAI

“拿人类做赌注是不可接受的”

奥特曼在采访中表示：“如果到2030年末，人工智能有大约10%的概率导致全人类灭亡，那么我们就不应该接受这样的风险。”

这句话的背后，是OpenAI在过去几个月中已经数次主动暂停部分大模型的训练进程。奥特曼透露，只有当安全团队拿出充分证明、确认模型处于可控范围内，训练才会继续推进。他甚至表示，OpenAI会“不惜一切代价踩下刹车，哪怕必须暂停模型训练”。

真正让奥特曼忧虑的，是上市可能带来的结构性压力。一旦成为上市公司，股价要涨、季度收入要增长、最新模型要尽快商业化，巨额算力投入也必须不断证明自己能换来更高回报。“可AI安全偏偏最怕的，就是这种‘只能往前冲’的压力。”假如某天模型触碰到了危险红线，需要暂停训练甚至放弃一大笔收入，一家背着股价和股东预期的上市公司，还能说停就停吗？

OpenAI现有的特殊公司结构：上层由非营利组织掌握控制权，下层负责商业化运营，恰恰为解决这一问题预留了制度空间。奥特曼在镜头前表态：“我很高兴能站在全公司和我们的投资者面前说：‘很抱歉，我们一直告诉过你们可能会有这一刻。’”

数学家们在气什么？

当地时间9月11日，陶哲轩在自己写了快二十年的博客“What's new”上贴出一封名为《人工智能在数学中的严重错位》的信，署名者除了他自己，还有本年度菲尔兹奖得主邓煜，加起来一共25位历届获奖人。

导火索是OpenAI之前宣称，用AI破解了纳维-斯托克斯方程，七大“千禧年数学难题”之一。这个说法一出来，围绕优先权的争议就没停过，加上此前已经有数学赛事的组委会因为AI参赛闹出争议，被迫临时加验证期、加公示要求，OpenAI后来干脆宣布退出赞助。几件事叠在一起，积攒的火气就找到了出口。

封面新闻记者注意到，签名的25位数学家，年龄跨度接近半个世纪。1978年的得主皮埃尔·德利涅在列，2010年的吴宝珠在列，彼得·舒尔茨、塞德里克·维拉尼、玛丽娜·维亚佐夫斯卡这些名字也都在。

公开信指出：这几个月大模型的数学能力涨得很快，已经能碰一些数学界悬而未决的重大问题；但AI公司把“攻克名题”当成跑分基准来运作，这件事本身就有问题——对数学这门学科不好，对整个数学共同体也不好。信里用的词是“错位”（misalignment），这个词原本是AI安全领域的行话，说的是AI系统的目标跟人类意图对不上。

信中直言，AI有可能加速真正的数学研究，数学家这个职业也得跟着变。他们真正较真的，是流程被压得太快之后要付出的代价：很多成果为了抢首发，论文写不规范，方法来不及提炼成能被后人用的东西，该引用的前人工作也来不及好好引用。这三件事恰恰是数学这门学科一代代传下去靠的东西。AI生成的证明想进学术体系，得让人看得懂过程、能核验结论、来源标注清楚。三条都不能少。

年轻一代也感受到了这股压力。今年拿奖的邓煜前几天在社交媒体上开玩笑，说要是AI真能把所有数学问题都解决了，他就回家写小说。后来邓煜表示只是开了笑话，他并不觉得AI已经能解决所有问题。“但AI进步太快，确实让整个数学界有点焦躁。”

AI风险 从“口号”到“越界”

当前，大模型与智能体正加速渗透千行百业，人工智能深刻重塑产业数字化进程。与此同时，数据泄露、算法权限失控、AI衍生网络攻击、深度伪造等新型安全风险持续显现，对产业链稳定运行构成现实挑战。

今年7月，由OpenAI模型驱动的人工智能体在网络安全评测中，利用一个此前无人知晓的“零日漏洞”突破了隔离“沙箱”，侵入开源平台“抱抱脸”（Hugging Face）系统。OpenAI官方将其定义为“前所未有的网络安全事件”。更令人警觉的是，在另一项测试中，一批OpenAI部署的AI智能体还“劫持”了一个面向程序员的德国维基百科类网站，发布了上万条信息，将其改造成“留言板”，在上面相互分享测试答案，甚至共同讨论绕过沙箱限制的方法。

英国皇家三军研究所高级研究员路易丝·玛丽·于雷尔对此评价道：“模型确实做出了判断，但这并不等同于程序失控。它只是选择了不同的执行路径，其中部分路径确实会产生危害。”她警告称，仅靠技术层面的安全防护已远远不够，各国政府与行业必须尽快建立统一的标准与应急处置预案。

这意味着，AI的风险不再局限于“模型输出有害内容”这类传统议题，而是开始触及自主决策、环境突破和目标偏移等更深层的安全边界。

行业共识与“囚徒困境”

奥特曼的“减速”立场并非孤立。Anthropic CEO阿莫代伊在9月12日发表长篇博文，呼吁整个行业支持更广泛的放缓AI模型发展的措施，并提出引入第三方评估机构等具体方案。奥特曼随即在社交媒体上回应：“我同意达里奥的观点，我们需要放缓前沿AI发展的步伐。”马斯克也简短表态：“达里奥说得对。”

这种共识的形成，与近期Anthropic内部研究人员的公开警告相关。该公司的前研究人员雅各布·考克森在辞职时表示，AI公司正在竞相开发“可能在本十年末毁灭我们所有人”的超级智能系统，却没有充分应对相关风险。Anthropic现任研究员埃文·休宾格则公开表示，他认为未来10年AI导致人类灭绝的概率超过10%。

但共识归共识，行动是另一回事。美国AI公司正陷入一个典型的“囚徒困境”：没有哪家公司敢单独踩下刹车，因为一旦自己减速而竞争对手继续加速，市场地位可能迅速丧失。据报道，OpenAI甚至已向国会议员寻求指导，询问协调全行业放缓开发是否会触犯反垄断法律。奥特曼在采访中透露，OpenAI和其他领先AI公司可能很快就会宣布一项协议，旨在共同放缓AI发展速度并应对安全风险。