马斯克官宣Grok 3预训练完成，计算量比Grok 2提升10倍

马斯克的 xAI 及其 Grok 模型正在快马加鞭地发展。

当地时间 1 月 4 日，马斯克在推特官宣 Grok 3 预训练已经完成，将在不久的将来推出。

据称，Grok 3 在训练过程调用了 10 万个 Nvidia H100 芯片，较前代产品 Grok 2 使用的 15,000 个 GPU 实现了数倍的跨越式提升。

马斯克对 Grok 3 寄予厚望，称其发布时“应该成为当时世界上最强大的AI”。

根据 xAI 工程师团队发布的技术文档，Grok 3 在多个关键领域实现了技术突破。在视觉分析方面，新模型具备快速图像解析能力，可应用于医疗影像和工业检测等专业场景。知识处理系统整合了涵盖科学、人文等多个领域的专业知识库，通过系统化的组织和关联分析提供专业解答。

新模型还通过与 X 平台的对接实现了实时数据获取，可持续追踪网络和社交媒体信息。在复杂问题处理方面，工程团队优化了数学计算和代码分析等技术难题的解决能力。这些改进建立在对模型基础架构的优化基础之上。

为了支撑 Grok 庞大的训练规模，xAI 在田纳西州孟菲斯建立了代号 Colossus 的超级计算机集群。据称，该设施仅用 122 天就完成初期建设，目前已部署 10 万个 NVIDIA GPU。

且 xAI 计划将其规模扩大至少 10 倍，部署多达 100 万个 GPU。若达成这一目标，Colossus 将远超当前世界最强大的超级计算机 El Capitan（配备约 4.38 万个 AMD Instinct MI300A GPU）和 Frontier（约 3.8 万个 GPU）的总和。

xAI 的雄心得到了资本市场的强力支持。2024 年 12 月 24 日，公司宣布完成 600 亿美元融资，投资方包括贝莱德、富达和红杉资本等。这笔资金使 xAI 估值达到 400 亿美元，较年初的 240 亿美元显著提升。迄今为止，xAI 已累计筹集超过 120 亿美元资金。对于如此大手笔的融资，马斯克给出了简单而直接的解释：“我们需要大量的算力。”

不过，和其他旗舰模型类似，Grok 3 的训练过程并非一帆风顺。此前有媒体爆料称，Grok 3 在训练过程中“发生了灾难性事件”。尽管这一消息被迅速辟谣，但还是在业界引起了不小的震动。

原定于2024 年底的发布计划也未能如期实现。在接受知名播客主持人 Lex Fridman 采访时，马斯克坦言，能在预期时间内发布Grok 3“需要运气”。

而在此之前，xAI 可能会先推出过渡版本 Grok 2.5。

另一方面，在等待 Grok 3 到来的这段时间里，xAI 动作频频，采取了一系列重要举措来扩大其市场影响力。

2024 年 11 月，xAI 推出了 Grok 应用程序编程接口（API）的第一个公开测试版，正式允许开发者使用该模型构建应用程序。

12 月初，xAI 调整了其服务策略，开放 Grok 至所有 X 平台用户。免费用户每两小时可获得 10 条消息配额，每天可进行 4 次图像生成和 3 次图像分析。借助这一策略，xAI 正在寻求扩大其用户基础。

在技术层面，Grok 也在持续进化。近期，模型新增了图像分析功能，应用范围涵盖医疗检测记录解读、视频游戏画面分析等多个领域。同时发布的 Aurora 图像生成模型采取了较为开放的政策，不同于行业主流做法，允许生成公众人物图像并支持使用受版权保护的素材，这或将帮助 xAI 在竞争激烈的市场中去的一些差异化优势。

作为一家成立仅一年多的年轻公司，xAI 的发展速度属实惊人，但同时也面临诸多挑战。

一方面，Colossus 超算中心极速的扩张计划引发了环保方面的争议。南方环境法律中心指出，xAI 在未获得必要许可的情况下运营燃气轮机，这一做法涉嫌违反联邦法律。该机构指控道，这些涡轮机的运行正在对南孟菲斯地区的家庭造成显著的空气污染危害。相关活动人士也对其展开了抗议。

另一方面，相比于人才储备充足的科技巨头，xAI 的团队规模相对精简，这可能会在某种程度上影响开发进度。不过，小而精的团队结构也可能带来更高的创新效率和决策灵活性，这种优势或许能帮助 xAI 在特定领域实现突破。

随着 Grok 3 预训练的完成，这个由巨量 GPU 训练成的模型或许很快就会揭开面纱。它的发布不仅将检验超大规模训练的效果，也将为整个 AI 行业的发展方向提供重要的实践参考。如果 Grok 3 能够展现出预期的卓越性能，这或许意味着通过提升算力规模来推动 AI 进步的技术路径仍然可行。

参考资料：

1.https://x.com/elonmusk/status/1875357350393246114

2.https://x.com/elonmusk/status/1815341263102804072

3.https://x.com/MarioNawfal/status/1875341634440728892

4.https://techcrunch.com/2025/01/02/xais-next-gen-grok-model-didnt-arrive-on-time-adding-to-a-trend/

5.https://www.heise.de/en/news/AI-chatbot-Grok-available-as-standalone-iOS-app-in-first-countries-10223161.html

6.https://www.nytimes.com/2024/12/24/technology/elon-musk-xai-funding.html

运营/排版：何晨龙