网易首页 > 网易号 > 正文 申请入驻

阿里发布Qwen 3.8 27B:FP8量化27GB显存可跑,Hacker News热评452分

0
分享至

阿里通义千问团队今日在Hugging Face上发布了Qwen 3.8 27B模型,采用FP8量化技术,发布后迅速登上Hacker News热榜,获得452个点赞和319条评论。这一数据表明,开源权重模型的尺寸之争正在进入一个新的“甜点区”:足够大到真正有用,又足够小到能在开发者实际拥有的硬件上运行。

核心规格

Qwen 3.8 27B提供以下特性:27B参数规模;FP8量化,在降低显存占用同时保持质量;Hugging Face开放权重,真正开源而非“半开源”;支持长上下文对话。

FP8是关键。标准FP16下,27B模型需要约54GB显存,而FP8可将需求降至约27GB——这正好可以适配NVIDIA RTX 4090(24GB)通过offloading运行,或者从容运行在A100 40GB上。

为什么27B成为新甜点

开源权重模型正在形成清晰的层级,而27B级别正在成为生产环境的甜点:单卡部署,量化后适配消费级显卡;质量足够好,许多基准接近70B模型;推理延迟合理,比70B模型更快;成本效益高,无需多卡基础设施。

基准对比

社区还在整理完整基准,但Hacker News讨论已突出几个关键对比:

对比闭源模型:Qwen 3.8 27B在编程任务上瞄准GPT-4级别;虽然无法匹敌GPT-5.6或Claude Opus 5等前沿模型,但在这个尺寸上并不需要。

对比其他开源模型:预计显著优于Llama 3.1 8B;与上一代Qwen 2.5 32B相比有竞争力或更好;FP8量化可能让它比仅提供FP16的同类模型更有优势。

真正的竞争在于部署成本

API定价方面:GPT-5.6输入约15美元/百万token,输出60美元/百万token;Claude Opus 5输入15美元/百万token,输出75美元/百万token;而Qwen 3.8 27B本地部署几乎没有API费用,只需自备硬件与电费。

这再次印证了趋势:大模型竞争不仅看benchmark,更看开发者能否在自己手头的显卡上跑起来。Qwen 3.8 27B的发布,把“够用”与“便宜”拉进了同一个区间。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
好想来零食店“称重刺客”再现!顾客买111.35元零食 复秤仅64.8元 店员拒绝道歉还收走小票

好想来零食店“称重刺客”再现!顾客买111.35元零食 复秤仅64.8元 店员拒绝道歉还收走小票

闪电新闻
2026-08-14 18:51:57
小学生作文《热死了》走红,老师看后直接给满分:我拜你为师吧!

小学生作文《热死了》走红,老师看后直接给满分:我拜你为师吧!

谭老师地理大课堂
2026-08-13 01:17:31
中国男篮72-91惨败,18次失误扎眼,焦伯乔正负值-35,郭士强在场边无奈

中国男篮72-91惨败,18次失误扎眼,焦伯乔正负值-35,郭士强在场边无奈

中国篮坛快讯
2026-08-16 00:01:16
泽连斯基为何非要把韩国拉进俄乌冲突漩涡

泽连斯基为何非要把韩国拉进俄乌冲突漩涡

小眼睛小世界
2026-08-15 04:20:16
中国要做好最充足的打算:俄罗斯一旦打赢了,我们可能要做3件事

中国要做好最充足的打算:俄罗斯一旦打赢了,我们可能要做3件事

阿甘天天传
2026-08-14 21:29:45
三方重磅交易曝光!欧文空降多伦多,联手伦纳德巴恩斯组建三巨头

三方重磅交易曝光!欧文空降多伦多,联手伦纳德巴恩斯组建三巨头

夜白侃球
2026-08-14 20:58:45
“高考444分殡葬专业考生入住4号楼404宿舍”?本人辟谣:还没收到录取通知书,也没收到分配宿舍信息

“高考444分殡葬专业考生入住4号楼404宿舍”?本人辟谣:还没收到录取通知书,也没收到分配宿舍信息

封面新闻
2026-08-14 22:19:07
为什么中国AI能在全球竞争中实现突围?

为什么中国AI能在全球竞争中实现突围?

风铃草语
2026-08-15 08:47:13
美国犯的最大错误,不是打了伊朗,而是以为中国会替自己"劝架"

美国犯的最大错误,不是打了伊朗,而是以为中国会替自己"劝架"

慕名而来只为你
2026-06-21 18:45:38
刘翔鹏争议画作《新时代的长征路之星星火》“最新处理结果”出炉

刘翔鹏争议画作《新时代的长征路之星星火》“最新处理结果”出炉

社会日日鲜
2026-08-15 09:21:38
为什么说林肯号困境暴露了美军战略透支危机?

为什么说林肯号困境暴露了美军战略透支危机?

风铃草语
2026-08-15 08:45:46
被打服了,克莱·汤普森透露他防守过最难缠球员:勒布朗·詹姆斯

被打服了,克莱·汤普森透露他防守过最难缠球员:勒布朗·詹姆斯

好火子
2026-08-16 02:44:21
阿里巴巴主席官宣离婚,荒唐一幕出现,出轨女主持人传闻早有真相

阿里巴巴主席官宣离婚,荒唐一幕出现,出轨女主持人传闻早有真相

皮皮电影
2026-08-14 14:36:06
她是谁啊?想不起来了,是明星吗?

她是谁啊?想不起来了,是明星吗?

陈意小可爱
2026-08-15 03:17:16
刘晓庆私密聊天记录全网疯传,律师:转发的每个人可能都违法了

刘晓庆私密聊天记录全网疯传,律师:转发的每个人可能都违法了

蜉蝣说
2026-08-15 23:47:44
15日凌晨WTT大满贯:3-0、3-1!蒯曼剃光头,陈熠丢局,决战美和

15日凌晨WTT大满贯:3-0、3-1!蒯曼剃光头,陈熠丢局,决战美和

晚雾空青
2026-08-16 01:32:53
沉默45年,中国终于迎来第二轮“严打”!目标改变总体战正式打响

沉默45年,中国终于迎来第二轮“严打”!目标改变总体战正式打响

闻识
2026-05-04 08:59:03
涉及国家安全!特朗普政府请求最高法院允许白宫宴会厅继续施工

涉及国家安全!特朗普政府请求最高法院允许白宫宴会厅继续施工

财联社
2026-08-15 02:02:15
李莉同志简历,因多次预判到美军动作,被美国列入制裁黑名单

李莉同志简历,因多次预判到美军动作,被美国列入制裁黑名单

谈史论天地
2026-04-18 10:35:33
陈家政加盟辽宁:看着双赢,真实情况太难落地了

陈家政加盟辽宁:看着双赢,真实情况太难落地了

刘哥谈体育
2026-08-15 08:18:30
2026-08-16 03:48:49
Ping值焦虑
Ping值焦虑
有态度网友ytd
325文章数 83关注度
往期回顾 全部

科技要闻

600亿美元收购落地 马斯克正式杀入

头条要闻

"榜一大哥"打赏女主播超千万要求陪睡 女方拒绝被起诉

头条要闻

"榜一大哥"打赏女主播超千万要求陪睡 女方拒绝被起诉

体育要闻

体系球员与体系本身

娱乐要闻

宋慧乔晒自拍照 微笑拍照心情佳

财经要闻

便利蜂加盟遭立案:"0元加盟"生意被查

汽车要闻

杨洋成001号车主 岚图追光S正式上市

态度原创

本地
数码
房产
游戏
公开课

本地新闻

黄景藏用半刀泥刻瓷都魂

数码要闻

AI热潮加剧供应紧张,显卡短缺或推高PC价格

房产要闻

金茂、招商,海南多个岗位招人!

《暗黑血统4》喜迎锁档新消息!玩家担忧:别是类魂

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版