网易首页 > 网易号 > 正文 申请入驻

韩企优化KIMI模型GPU采购成本降两成

0
分享至

IT时代网11月10日消息,韩国 AI 推理优化公司 Nota AI 宣布,对月之暗面 2.8 万亿参数的 KIMI K3.1 Pro 模型完成优化,改用相对更便宜的 B200 GPU 运行,GPU 采购成本最多可降低约 20%,云环境下的 GPU 租赁费用最多可降低约 22%。

KIMI K3.1 Pro 是当前公开可下载权重模型中总参数量最大的一款,参数规模越大,运行所需的内存与 GPU 资源越多。Nota AI 通过「剪枝」技术选择性移除模型中负责特定任务的专家模块,最多减少 37% 的模块数量,在保持核心推理性能的同时降低内存占用——模型在高水平科学推理基准 GPQA Diamond 上仍取得原版 99% 以上的得分。

内存的节省还被用于运行一个辅助回答生成的「草稿模型」:草稿模型提前提议后续内容,主模型通过投机解码一次性完成验证,在 8 张 B200 GPU 上也能更快生成回答。模块减少 30% 的版本可处理 51.2 万 token 上下文,减少 37% 的版本可处理 100 万 token。

此前 Nota AI 曾把运行 KIMI K3 所需的 B300 GPU 从 8 张压缩到最多 4 张,这次则进一步降低了后续机型所需的 GPU 规格等级。该公司 CEO 表示,将把技术从模型轻量化扩展到推理执行与服务优化,帮助企业以合理成本用好现有 AI 基础设施。


编辑:林一舟

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
华为Pura80 Pro+突降至新低价,16GB+512GB+麒麟9020,花粉终于没白等

华为Pura80 Pro+突降至新低价,16GB+512GB+麒麟9020,花粉终于没白等

小愚测评
2026-11-21 21:26:07
叶剑英晚年点破军中玄机:彭德怀林彪谁也不服谁,官位再大压不住帅星,真正镇住全军的从来都是真威望

叶剑英晚年点破军中玄机:彭德怀林彪谁也不服谁,官位再大压不住帅星,真正镇住全军的从来都是真威望

磊子讲史
2026-11-10 14:39:20
0℃,一大早冻上了!浙江下一轮回暖时间定了,气温还会暴力拉升

0℃,一大早冻上了!浙江下一轮回暖时间定了,气温还会暴力拉升

19楼
2026-11-21 15:32:00
1984年,57名战士正看霍元甲,子弹突然射进屋内,死伤38名战士

1984年,57名战士正看霍元甲,子弹突然射进屋内,死伤38名战士

四海神君
2026-11-20 15:00:08
燃气灶致癌!斯坦福研究:在家做一顿饭,等于吸20分钟汽车尾气

燃气灶致癌!斯坦福研究:在家做一顿饭,等于吸20分钟汽车尾气

39健康网
2026-11-21 19:33:05
金价跌破760,北京菜百金条卖断货:有人一次入手85万元,有人高位囤金“扛着”

金价跌破760,北京菜百金条卖断货:有人一次入手85万元,有人高位囤金“扛着”

华夏时报
2026-11-20 22:15:03
《GTA6》性感Mandy火了 网友质疑为何不让她当女主

《GTA6》性感Mandy火了 网友质疑为何不让她当女主

3DM游戏
2026-11-19 22:48:25
林诗栋躺赢!6大苛刻条件已全部达成,国乒11人参加WTT香港总决赛

林诗栋躺赢!6大苛刻条件已全部达成,国乒11人参加WTT香港总决赛

老皢尾声体育解说
2026-11-21 18:13:13
炸了!跌出前16反而打疯了,丁俊晖资格赛逆转,柏林正赛有戏了!

炸了!跌出前16反而打疯了,丁俊晖资格赛逆转,柏林正赛有戏了!

可乐爱微笑
2026-11-21 21:07:52
她是央视主持,剑桥学霸,精通英文播报,38岁气质出众至今未婚

她是央视主持,剑桥学霸,精通英文播报,38岁气质出众至今未婚

一娱三分地
2026-11-21 00:10:03
特朗普:我完全可以理解普京的愤怒,网友:网友:只许俄打人,不许乌还手

特朗普:我完全可以理解普京的愤怒,网友:网友:只许俄打人,不许乌还手

东方豪侠
2026-11-20 20:15:43
高市早苗参加APEC晚宴!穿红衣黑裙很知性,却是抵达机场时的衣服

高市早苗参加APEC晚宴!穿红衣黑裙很知性,却是抵达机场时的衣服

八八尚语
2026-11-19 10:39:30
87-93惨败!浙江广厦输球仅一夜! 北京首钢传来主帅李楠新消息,广厦主帅王博说的很实在,早有打算

87-93惨败!浙江广厦输球仅一夜! 北京首钢传来主帅李楠新消息,广厦主帅王博说的很实在,早有打算

篮球热嗖
2026-11-21 10:22:42
中国产连帽衫未达安全标准,澳洲女童被严重烧伤!电商平台回应:仅为中间人,追责要找制造商

中国产连帽衫未达安全标准,澳洲女童被严重烧伤!电商平台回应:仅为中间人,追责要找制造商

澳洲红领巾
2026-11-20 14:06:27
庞众望完成清华大学博士论文答辩,院士任答辩委主席,本人回应,去向大致明确

庞众望完成清华大学博士论文答辩,院士任答辩委主席,本人回应,去向大致明确

东东趣谈
2026-11-21 16:41:24
钱再多有什么用?从3米高空坠落的周鸿祎,给所有企业家敲响警钟

钱再多有什么用?从3米高空坠落的周鸿祎,给所有企业家敲响警钟

神秘莫测的世界
2026-10-13 19:51:13
玄学提醒:你不必操心自己的命运

玄学提醒:你不必操心自己的命运

闻心品阁
2026-11-21 08:57:57
19岁的摩洛哥公主,五官脸型无可挑剔,但也和妈妈的绝世神颜差远了

19岁的摩洛哥公主,五官脸型无可挑剔,但也和妈妈的绝世神颜差远了

照见古今
2026-11-20 15:36:56
“骑行30分钟收费15元”,哈啰被网友吐槽“单车刺客”,公司回应:是新车型,可变速,收费标准与普通单车不同

“骑行30分钟收费15元”,哈啰被网友吐槽“单车刺客”,公司回应:是新车型,可变速,收费标准与普通单车不同

南方都市报
2026-11-19 08:30:07
沃什摊牌了!黄金跌成这样,说穿了就是美联储,根本没打算停手

沃什摊牌了!黄金跌成这样,说穿了就是美联储,根本没打算停手

最美的巧合
2026-11-21 15:49:43
2026-11-21 23:27:00
IT时代网 incentive-icons
IT时代网
IT时代网官方账号
22592文章数 2164关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

房产
艺术
亲子
公开课
军事航空

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

艺术要闻

内娱体态天花板又出手了。刘诗诗这组写真,脖子以下全是“教科书”

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版