网易首页 > 网易号 > 正文 申请入驻

基于国产算力发布新模型,面壁智能要给端侧AI“做减法”

0
分享至

5月25日,面壁智能联合清华大学、OpenBMB开源社区发布并开源极低位宽模型BitCPM-CANN,系国内首个完全基于国产算力平台(华为昇腾)实现端到端训练并开源的三值(1.58-bit)大模型。

据记者了解,该模型包含0.5B、1B、3B、8B四个尺寸,与面壁同尺寸MiniCPM-4全精度家族相比,新模型在推理阶段可释放约6倍显存红利,模型能力保留率维持在90%至97.2%之间。

采访中,面壁智能AI Infra负责人李宇轩对记者表示,这意味着未来有望在手机上运行60B大模型,手机智能可以大幅提升。

该款模型诞生背景是全球内存价格的持续飙升。表现在市场端,据李宇轩透露,2026年以来内存价格已上涨约5倍,内存涨价倒逼厂商控制成本,进而限制设备内存大小,反向传导到所有要在内存里跑的模型应用程序。行业对于模型内存尺寸的要求压得更加严格,牵引整个Infra方向向更节约内存的路线优化,这也是此次面壁新模型结合市场情况调整的重要原因。

伴随技术发展与市场需求,人工智能算法近年来持续侧重提效,只是每年市场关注点不同。李宇轩向记者表示,端侧大模型的行业共识约在2024年下半年形成——手机上以后一定会跑模型。此后,行业重心从“能不能跑”逐步转向“如何高效”。


将大模型从高精度压缩成更低精度、更少比特来展示,是AI Infra发展的核心方向。去年行业聚焦 FP8、FP4应用落地,如今FP8已成为主流模型标配,DeepSeek、MiniMax等均普遍采用。受内存价格上涨推动,行业重心转向FP4,并加速推进2-bit、1.58-bit技术落地。

如果说AI运行是货车物流,那么精度便代表货物打包方式,FP8如同标准纸箱,FP4类似真空压缩袋,2-bit为极致捆扎压缩,靠算法适配压缩形态,适配小型终端设备,最大限度节省空间功耗。只是相对前者,极低比特量化的精度损失风险更高,需要通过数据、架构、训练算法协同优化来弥补。

李宇轩称,极低比特模型对数据噪声更敏感,需做更严格的清洗与筛选,避免无效信息干扰模型学习;选用对称、带零点的高性能量化器可以减少压缩损耗;以及在训练层面采用先QAT (量化感知)训练、后大模型蒸馏的组合方案,找到训练与蒸馏的最优平衡点,既保证低比特训练稳定,又最大程度恢复模型能力。

行业内,高通从去年下半年已率先实现2-bit硬件支持,国内DeepSeek、智谱、阿里千问等模型厂商也在推进低位宽量化模式落地。硬件端,过去几乎所有低位宽训练都在英伟达卡上做,此次面壁智能与华为合作,李宇轩称,团队耗时约三周完成昇腾平台的适配与优化,最终实现较小开销。他认为,在8B以内尺寸模型训练上,昇腾体验已经比较好,训练稳定性、芯片利用率接近可比状态。

不过,模型参数越小、位宽越低,能存储的知识越少,能力不是线性下降,而是断档式下调。李宇轩表示,后续可通过更精细的课程学习体系、针对性补基础能力来改善。

目前,BitCPM-CANN全系列模型权重已开源,面壁智能称希望开发者能零门槛体验国产算力在低比特场景的真实性能。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
他们说这是股灾,甚至比股灾还严重...

他们说这是股灾,甚至比股灾还严重...

慧翔百科
2026-11-20 08:23:21
深圳女高管和每一任男友发生关系前,都要先拉他去体检,防止被传染

深圳女高管和每一任男友发生关系前,都要先拉他去体检,防止被传染

江山挥笔
2026-11-19 14:15:33
西湖边64㎡两居室13.9万元起拍,产权清晰,无抵押,能直接落户,学区是杭州头部小学,真有人能捡漏吗?中介一句话戳破真相

西湖边64㎡两居室13.9万元起拍,产权清晰,无抵押,能直接落户,学区是杭州头部小学,真有人能捡漏吗?中介一句话戳破真相

都市快报橙柿互动
2026-11-20 09:37:46
明年1299万大学生毕业再刷纪录,中国正在批量生产"用不上"的大学生

明年1299万大学生毕业再刷纪录,中国正在批量生产"用不上"的大学生

老郭在学习
2026-11-20 16:10:45
沉痛送别!斯琴高娃离世,网友悼念错了:那位76岁老戏骨还在拍戏

沉痛送别!斯琴高娃离世,网友悼念错了:那位76岁老戏骨还在拍戏

月光作笺a
2026-11-20 07:11:51
特朗普临走撂下句话,我越想越不对劲:这哪是夸中国,分明是报价

特朗普临走撂下句话,我越想越不对劲:这哪是夸中国,分明是报价

天光破云来
2026-11-20 13:12:25
歌手张宇病逝,年仅48岁

歌手张宇病逝,年仅48岁

91.6陕西交通广播
2026-11-20 09:48:24
一次性补缴10万元,每月领1433元,成都养老补缴爆了

一次性补缴10万元,每月领1433元,成都养老补缴爆了

数字财经智库
2026-11-20 09:36:50
七万狂跌至两万八!珠海横琴神话破灭,澳门炒客排队断供逃亡

七万狂跌至两万八!珠海横琴神话破灭,澳门炒客排队断供逃亡

珠三角港
2026-11-20 10:44:17
男子让好友睡自己妻子,遭好友拒绝,愤怒下将好友妻子和娃杀死

男子让好友睡自己妻子,遭好友拒绝,愤怒下将好友妻子和娃杀死

夜话奇谭
2026-11-20 14:15:49
财政部:1-10月证券交易印花税收入2511亿元,同比增长54.1%

财政部:1-10月证券交易印花税收入2511亿元,同比增长54.1%

界面新闻
2026-11-20 16:52:36
突发!63 岁黄仁勋正在考虑创立新公司,网友:一定要自己控股呀!

突发!63 岁黄仁勋正在考虑创立新公司,网友:一定要自己控股呀!

起点财经
2026-11-20 13:46:06
把反华做成生意的Anthropic 上市了,封号不退钱,一年收割中国用户 200 亿

把反华做成生意的Anthropic 上市了,封号不退钱,一年收割中国用户 200 亿

起点财经
2026-11-20 09:50:54
段永平:字节跳动确实很强,好公司未必要上市,6000亿美元的估值下我会有兴趣

段永平:字节跳动确实很强,好公司未必要上市,6000亿美元的估值下我会有兴趣

每日经济新闻
2026-11-20 16:57:45
黄仁勋据称将创办新的半导体公司 或将筹资500亿美元用于创业

黄仁勋据称将创办新的半导体公司 或将筹资500亿美元用于创业

财联社
2026-11-20 16:09:05
陕西23岁女大学生,被黑人男友传染艾滋,事后称很爱他我不后悔

陕西23岁女大学生,被黑人男友传染艾滋,事后称很爱他我不后悔

妙妙奇思物语
2026-11-20 14:58:41
中国最公平的一件事,是亏钱

中国最公平的一件事,是亏钱

小星球探索
2026-11-20 14:50:05
A股又是大跌,原因不找了!黄金崩跌,峰哥狂买:最对不起就是各位金友

A股又是大跌,原因不找了!黄金崩跌,峰哥狂买:最对不起就是各位金友

金石随笔
2026-11-20 12:39:37
克里米亚大桥完全断了,大帝不想打了,但谈的过程川普想重构北约

克里米亚大桥完全断了,大帝不想打了,但谈的过程川普想重构北约

邵旭峰域
2026-11-20 15:03:48
全面下跌,何时见底?

全面下跌,何时见底?

星图金融研究院
2026-11-20 15:37:21
2026-11-20 18:52:49
第一财经资讯 incentive-icons
第一财经资讯
第一财经官方账号
273135文章数 624078关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

交付破16万台背后 全新ES8凭什么成为「高端纯电第一车」?

态度原创

游戏
房产
数码
亲子
教育

《奇怪的远征》开放Steam测试 正式版目标2027年推出

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

数码要闻

重力星球飞雀S1PRO鼠标今晚开售!镁合金壳49克699元

亲子要闻

奶奶给大孙买的草莓真甜,姥姥给的高粱米做一锅,焦黏喷香都爱吃

教育要闻

家里长期脏乱,其实是留给孩子昂贵的负担

无障碍浏览 进入关怀版