网易首页 > 网易号 > 正文 申请入驻

英伟达投的AI Infra创企发模型工厂!支持数千卡集群训练万亿MoE

0
分享至


智东西
编译 孙小雯
编辑 程茜

智东西11月20日消息,昨日,美国AI Infra创企Prime Intellect宣布推出模型训练平台Model Factory,企业可根据平台支持的模型和算力配置,更新现成模型的全部参数,或从零训练新模型。该公司称,其底层强化学习框架prime-rl支持在千张以上GPU集群上训练万亿参数以上的MoE模型。


▲Prime Intellect发布Model Factory(图源:X)

Model Factory将预训练、继续训练、监督微调、强化学习和模型推理纳入统一平台,并支持将模型上线后的执行记录用于后续训练。科学研究、芯片设计、金融等专业领域的团队,可以围绕自己的任务和数据训练、部署并持续改进模型。

据该公司透露,其训练规模可扩展至数千张GPU。基于Qwen3-235B-A22B模型,MoE训练融合内核Prime Mega MoE在H200显卡上实现了48%的模型浮点算力利用率(MFU)。

目前,Model Factory支持按需托管(On-demand)和专属部署(Dedicated)两种服务方式。其中,专属部署支持客户自定义训练框架,并通过Slurm、Kubernetes直接提交并安排计算任务。此外,专属部署还支持为训练团队检查机器健康状态、自动替换故障机器,并从最近存档恢复训练。

定价方面,按需托管的训练费根据GPU型号、数量和占用时间计算,按秒折算,该模式下的数据存储另按每GiB每月0.09美元(约合人民币0.60元)收费,平台在任务启动前显示并锁定训练单价,不收取排队、调度和下载运行环境期间的费用。专属部署方案定制化收费。

Prime Intellect成立于2023年,主要为企业和研究团队提供GPU算力租赁、模型训练、评测和部署服务,并以API方式提供模型推理服务。此前,该公司曾宣布完成累计超1.5亿美元(约合人民币10.07亿元)的三轮融资,英伟达风投、英特尔资本为其A轮投资方。

据该公司今年7月披露,其年化营收规模(ARR)在不到一年内超过1亿美元(约合人民币6.71亿元)。目前,该公司客户超过6000家,并曾与英伟达共建2500项经过验证的跨应用企业任务。

该公司称,此前,仅前沿实验室能够完成训练及改进模型的全过程闭环,而Model Factory将打破这一技术藩篱。通过Model Factory,任何从事科学发现、芯片设计、金融等专业领域的团队,都可以基于自己的任务和数据进行模型训练及部署。

一、支持数千张GPU训练,提供模型一键部署服务

Model Factory由该公司此前推出的模型训练平台Lab升级而来。Lab主打托管服务,主要支持用户通过LoRA微调开展强化学习。此次升级进一步扩大了训练范围,并为需要深入修改训练系统的团队提供专属部署服务。


▲Model Factory与此前Lab的功能对比(图源:Prime Intellect)

Model Factory支持预训练、继续训练、监督微调(SFT)和强化学习(RL)。用户提交训练配置后,可以按GPU小时付费使用托管训练,也可以选择专用部署,预留算力并调整底层系统。

在监督微调环节,用户可以从平台目录中选择现有开源模型,也可以导入自己已有的模型,再让上述模型学习成功案例、操作示范和专业领域回答。微调后的模型既可以直接使用,也可以继续接受强化学习训练。

开展强化学习时,用户需要设置训练环境,为模型提供练习任务、完成任务可用的工具,以及判断结果好坏的评分规则。开源平台Environments Hub中有超过2500个由社区开发者提供的现成训练环境,让模型在其中练习任务、接受评分,并按业务需求调整环境设置。研究人员可以跟踪奖励分数、检查执行过程;需要编写代码或调用工具的智能体还可使用隔离沙箱,平台支持数万个沙箱并发运行。


▲Model Factory强化学习训练演示(图源:Prime Intellect)

针对新模型开发和基座模型训练,平台支持预训练、继续训练,以及不同模型架构、训练目标和算法的实验。该公司称,训练规模可扩展至数千张GPU,基于Qwen3-235B-A22B模型,MoE训练融合内核Prime Mega MoE在H200显卡上实现了48%的模型浮点算力利用率(MFU)。


▲Model Factory预训练实验演示(图源:Prime Intellect)

模型评测方面,研究人员可以先测试模型的初始表现,再评测训练过程中保存的不同检查点,比较训练效果。

确定需要部署的版本后,用户可以在控制台中将相应检查点一键部署为推理接口,供应用调用,也可用于生成合成数据和开展后续评测。按需托管与专用部署均支持一键部署。


▲Model Factory模型部署演示(图源:Prime Intellect)

二、收集执行记录辅助模型改进,支持客户自有GPU部署

模型上线后,团队可以通过运行记录管理工具Prime Traces收集执行记录,查看智能体调用了哪些工具、经过哪些步骤,以及在哪一步失败。研究人员据此筛选下一轮训练样本,调整任务环境和评分规则。


▲Model Factory执行记录收集演示(图源:Prime Intellect)

在该公司的编程智能体案例中,研究人员可以检查模型是否找到正确文件、是否运行测试,以及是否真正修复问题,再据此补充监督微调示范、调整强化学习奖励,或加入更难的任务。

新一轮训练后,研究人员可以结合代码修改和测试结果检查模型表现,并使用未参与训练的另一组任务开展评测,确认模型在训练任务之外是否同样有所改善,再决定是否部署新版本。

对于需要修改底层训练框架的团队,Model Factory还提供专用部署,客户可使用该公司或自有GPU搭建专用集群。研究人员既可以使用托管训练和推理服务,也可以通过调度器Slurm和Kubernetes直接管理集群,并按实验需求修改底层框架、运行自定义任务。

为支持长时间运行的实验,平台还提供健康检查、故障节点自动替换和训练恢复功能。据该公司披露,系统可在节点故障后从最近保存的检查点恢复运行,团队也可通过prime factory命令行工具,在不同任务之间调配GPU。

三、累计融资超10亿,为6000多家客户提供算力与模型服务

据该公司官网展示,Prime Intellect目前有三条产品线:模型训练平台Model Factory,前身为Lab;推理服务Prime Inference,为客户提供现成模型的API,也为客户自己的模型配置专属运行服务;算力服务Prime Compute,为客户提供按需租用的GPU、专属集群及配套运维。


▲Prime Intellect的分布式AI训练构想(图源:Prime Intellect)

Prime Compute是一个GPU算力平台,用户可以根据模型训练、推理等任务的需求,选择GPU型号、数量和租用时长,支持按小时租用1至256张GPU,也可以预订由Prime Intellect负责运维的专属集群。该平台提供集群调度、运行监控和故障节点自动替换等功能,用户可通过API启动和管理算力资源。

Prime Inference则是模型推理服务平台,用户可以通过兼容OpenAI接口的API调用开放模型,也可以将自己训练的模型部署上线,接入应用。目前,平台支持按Token付费和预留专属算力,当某个数据中心的部署出现故障时,系统支持自动将请求转至其他正常运行的部署。

该公司透露,在正式对外发布前,Prime Inference仅处理公司内部的强化学习、合成数据生成、评测等任务,每天处理的Token量就已接近1万亿。

Prime Intellect的两位联合创始人此前分别有Web3及模型训练背景。该公司联合创始人兼CEO文森特·魏瑟(Vincent Weisser)曾参与创办去中心化科研组织VitaDAO,并在生物医药知识产权平台Molecule负责产品和AI业务。

其联合创始人兼CTO约翰内斯·哈格曼(Johannes Hagemann)硕士毕业于德国哈索·普拉特纳研究所IT系统工程专业,并于2022年初加入德国大模型公司Aleph Alpha,参与从零构建分布式训练框架。

2023年,哈格曼以第一作者身份完成《大规模分布式模型训练的高效并行化布局(Efficient Parallelization Layouts for Large-Scale Distributed Model Training)》论文,并获得NeurIPS 2023下属WANT研讨会最佳论文奖。


▲Prime Intellect联合创始人兼CTO约翰内斯·哈格曼(左)与联合创始人兼CEO文森特·魏瑟(右)(图源:Prime Intellect)

客户合作方面,Prime Intellect曾与英伟达合作开展企业任务训练。双方共同构建了2500项经过验证的跨应用企业任务,覆盖邮件、客户管理、工单和表格等场景。英伟达以完成监督微调的Nemotron 3.5 Super VL为起点,使用NeMo RL开展强化学习,共投入128张GB200 GPU。训练后,在考察企业跨应用自动化能力的AutomationBench-AA公开测试集中,该模型的得分从训练前的34.0%提高至57.7%。

在融资方面,2024年4月,该公司宣布完成550万美元(约合人民币3692万元)种子轮融资,由Distributed Global和CoinFund共同领投。2025年2月,该公司宣布完成1500万美元融资(约合人民币1.01亿元),由创始人基金领投。今年7月,该公司完成1.3亿美元(约合人民币8.73亿元)A轮融资,由Radical Ventures领投,英伟达风投、英特尔资本、戴尔科技资本等参投。

结语:模型平台争夺长期客户,训练实效影响客户去留

Model Factory将算力、训练、评测和部署整合起来,扩大了Prime Intellect能够承接的客户需求。美国AI云服务商Fireworks等同行也在提供训练与部署服务,模型定制平台的服务范围正逐渐重叠。Prime Intellect需要凭借训练环境、沙箱、运行记录和集群控制等差异化能力,争取需要持续开发模型的客户。

服务范围接近之后,平台能否帮助企业更快完成实验、更稳定地上线模型,将更直接地影响客户选择。供应商也需要将项目经验整理成可复用的工具和方案,减少每次交付中的人工投入。客户是否持续使用该平台、是否完成有效模型训练,将检验一站式平台的长期价值。

来源:Prime Intellect


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
财政部:1—10月,印花税4712亿元,同比增长24.6%

财政部:1—10月,印花税4712亿元,同比增长24.6%

每日经济新闻
2026-11-20 16:59:05
台湾人魏明仁“胆大妄为”:在台湾建毛主席纪念馆,升共产党党旗

台湾人魏明仁“胆大妄为”:在台湾建毛主席纪念馆,升共产党党旗

古渡观书
2026-11-20 01:52:42
很无奈!女子吐槽和老公出门总被认成母子:我只是脸有点大

很无奈!女子吐槽和老公出门总被认成母子:我只是脸有点大

西昆仑Bruce
2026-11-19 16:57:57
库里与詹姆斯的38岁对比!场均少打6分钟多拿2.4分 真碾压詹姆斯?

库里与詹姆斯的38岁对比!场均少打6分钟多拿2.4分 真碾压詹姆斯?

体坛八点半的那些事儿
2026-11-20 17:19:16
美国又出手了,但网上一片叫好

美国又出手了,但网上一片叫好

吴女士
2026-11-19 13:32:59
刘青山死后30年,三个儿子找到当年举报者李克才:请为我父亲平反

刘青山死后30年,三个儿子找到当年举报者李克才:请为我父亲平反

健康快乐丁
2025-07-07 21:54:56
属兔的恭喜了!贵人送财,就在这7天内

属兔的恭喜了!贵人送财,就在这7天内

刺头体育
2026-11-20 17:37:28
切开放一会儿就“发黑”的口蘑,不是坏了——真相是:越白得发亮、放一天都不变色的,越要当心

切开放一会儿就“发黑”的口蘑,不是坏了——真相是:越白得发亮、放一天都不变色的,越要当心

富贵说
2026-11-17 18:37:46
四野独眼开国中将,征战东北至海南,一生毁誉参半,长寿活到95岁!

四野独眼开国中将,征战东北至海南,一生毁誉参半,长寿活到95岁!

浅遇光阴
2026-11-19 14:47:48
1949年,解放军打开马鸿逵的仓库,全部愣住:里面是1286公斤羊毛

1949年,解放军打开马鸿逵的仓库,全部愣住:里面是1286公斤羊毛

历史人文2
2026-11-20 16:55:47
惨!新5元纪念币,没人约了!

惨!新5元纪念币,没人约了!

天天纪念币
2026-11-18 12:05:10
国家出手了!2027年起,看病、买药、住院,可能迎来这些新变化

国家出手了!2027年起,看病、买药、住院,可能迎来这些新变化

云景侃记
2026-11-20 09:48:24
7连阴后 小盘股加速出清:市场在等一个什么信号?

7连阴后 小盘股加速出清:市场在等一个什么信号?

郭一鸣
2026-11-20 15:40:29
印度前内阁部长:深圳APEC没请莫迪,伤了印度的体面。

印度前内阁部长:深圳APEC没请莫迪,伤了印度的体面。

荆楚寰宇文枢
2026-11-19 23:30:01
冬天,每天早上喝一碗,把肝血补回来,手不麻眼不花,整个冬天不怕冷

冬天,每天早上喝一碗,把肝血补回来,手不麻眼不花,整个冬天不怕冷

江江食研社
2026-11-20 14:24:27
越来越多的迹象表明:内塔尼亚胡间接上成为了中国的“大恩人”?

越来越多的迹象表明:内塔尼亚胡间接上成为了中国的“大恩人”?

无情有思可
2026-11-19 08:11:29
Anthropic首秀冲高回落, 引发美股大跌, 经济学家警告:AI行情或终结

Anthropic首秀冲高回落, 引发美股大跌, 经济学家警告:AI行情或终结

每日经济新闻
2026-11-20 08:55:21
笑不活了!如果你不开心,就去看文吉儿戴帽子的网友评论吧,快笑趴了

笑不活了!如果你不开心,就去看文吉儿戴帽子的网友评论吧,快笑趴了

糊咖娱乐
2026-11-20 16:21:36
金平日:与金正日争权失败,驻外30年躲过暗杀,因这件事允许回国

金平日:与金正日争权失败,驻外30年躲过暗杀,因这件事允许回国

阿胡
2025-04-03 13:59:42
王毅介绍中俄美元首会晤情况

王毅介绍中俄美元首会晤情况

界面新闻
2026-11-20 07:06:03
2026-11-20 18:56:49
智东西 incentive-icons
智东西
智东西,AI产业新媒体,专注报道人工智能的前沿技术发展,和技术应用带来的千行百业产业变革。
12985文章数 117196关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

亲子
手机
本地
公开课
军事航空

亲子要闻

宝宝气人但是聪明的4个行为

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

本地新闻

乌兰察布:以前种土豆,现在种Token

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版