网易首页 > 网易科技 > IT业界 > 正文

又一个国产模型在海外火了:下载超300万次,最大槽点是“想太多”

0
分享至

出品 | 网易智能

作者 | 小爪

编辑 | 王凤枝

又一个国产开放模型,这两天在海外开发者社区里热了起来。

8月14日,阿里Qwen团队开放Qwen3.8-27B权重。这是一款27B参数稠密模型,带视觉能力,采用Apache 2.0许可。在Artificial Analysis目前的榜单中,Qwen3.8-27B与OpenAI的GPT-5.6 Luna得分相同。

下载量很快涨了起来。据Hugging Face相关模型页面的统计,到8月17日前后,官方模型与社区量化版本的累计下载请求已超过300万次。

第一批实测也很快出现。开发者西蒙·威利森(Simon Willison)的测试显示,它既能在图片中定位物体,也能通过编程智能体写出并调试一个小工具。

不过,这款模型最让人意外的,反倒是"想太多"。

威利森让它生成一张鹈鹕SVG图像,模型思考加输出用了21分钟;关闭推理后,完成类似任务只用了137秒(约两分钟)。面对"画一个圆"这样的简单要求,它还会主动加上动画和交互效果,做出一件更复杂的作品,却没有直接交付用户要的那个圆。

Qwen3.8-27B已经能在本地看图、写代码、驱动智能体。接下来决定它能否成为日常工具的,是速度、稳定性和调试成本。

一、300万次下载,很多人拿的是轻量版

300万次下载,并不等于有300万人把Qwen3.8-27B装进了电脑。Hugging Face统计的是相关文件的下载请求,同一名用户可能先后尝试多个版本。但一款模型发布几天就有这么密集的下载,仍然说明开发者的尝试意愿。

Qwen3.8-27B的BF16原版约为55GB,对多数个人电脑而言仍然太大。模型发布后,官方和社区很快推出了面向不同硬件和推理工具的版本:GGUF常用于LM Studio和llama.cpp,MLX面向苹果芯片,FP8和NVFP4则适配不同的英伟达显卡。

这些版本降低了本地部署的起步门槛,用户可以按照自己的显卡、内存和推理软件选择现成版本。从各页面的下载量看,这些轻量版本贡献了其中相当一部分下载请求。

llama.cpp创始人格奥尔基·格尔加诺夫(Georgi Gerganov)很快给出了现成的运行命令,覆盖DGX Spark和RTX 5090等设备。用户可以直接调用量化版本并开启多token预测加速,省去手动转换权重的步骤。其他开发者则开始尝试单张显卡、双显卡和苹果芯片,讨论重点随之落到更具体的问题上:能够保留多长的上下文,生成速度有多快,视觉功能是否稳定。

其中,约17GB的Q4版本成为关注焦点。它通过降低权重精度,把文件体积压缩到原版的三分之一左右,也让这款模型能够进入部分个人设备。不过,体积缩小并非没有代价,量化版本的输出质量、视觉表现和运行稳定性,都可能与BF16原版存在差异。

二、17GB,装下一个能干活的模型

威利森测试的是LM Studio提供的约17GB Q4_K_M量化版本。他分别在配备128GB内存的M5 Max MacBook Pro和英伟达DGX Spark上运行。

视觉测试中,他让模型识别一张照片里的两只鹈鹕,并以JSON格式返回它们的位置。模型给出的两个方框与照片中的鹈鹕基本吻合。随后,他又让Qwen编写一个网页工具:用户输入图片地址和坐标数据,网页便能把方框和标签覆盖在图片上。

开启最高推理档时,模型做出了一个功能完整、但明显过度设计的界面,甚至主动绘制了一幅鹈鹕示例图。关闭推理后,它生成的页面看起来依然完整,方框位置却出现了偏差。

威利森还把这个量化版本接入了编程智能体Pi。他先让模型分析Datasette项目的身份验证机制,模型读取了多个文件并给出了解释。随后,他要求模型把Pi保存的JSONL对话记录转换成Markdown,Qwen编写并测试了一段Python程序,威利森最终用这段程序发布了本次测试的对话记录。

速度是威利森提到的主要问题。威利森在LM Studio中测得的生成速度约为每秒15至30个token,明显慢于他常用的云端模型。不过改用llama.cpp并开启多token预测后,DGX Spark上的对比测试速度提高了约72%。

三、显存够了,也不等于省心

约17GB只是模型文件本身的大小。真正运行时,长文本、图片处理和推理软件还会继续占用内存。即使使用拥有24GB显存的高端显卡,用户仍要考虑能够留下多少上下文、两张显卡怎样分担模型,以及视觉功能在不同推理软件里是否稳定。三组海外测试,分别给出了不同的答案。

Reddit用户Round-Comparison-675用一张RTX 4090显卡,把上下文长度开到16万,并让模型全部由GPU运行。按他的测试,生成速度约为每秒47至57个token,已经可以用于编程和其他连续任务。

用户Ecstatic-Wash-7667使用两张RTX 3060 12GB显卡,在12.8万上下文、MTP2和Q4_K_XL量化设置下,测得每秒50.6个token,显存占用达到23.2/24.0GB。不过,他后来补充,不同测试得到的速度并不稳定:基准测试约为每秒36个token,实际提示词中又能接近50个token。为了给日常运行留下余量,他最终把上下文降到了11.2万。

RTX 3090用户jonaddb则花了近14个小时调试。他最终把上下文长度开到13.1万,生成速度超过每秒60个token;但视觉功能起初会直接崩溃,需要调整计算精度才能正常识别一张1080P截图。对他而言,模型能力不是主要问题,显卡架构和推理软件的适配反而花掉了更多时间。

三组测试共同说明,Qwen3.8-27B的量化版本已经能够承担实际任务,但离开箱即用还有一段距离。

四、"想太多"不是一句玩笑

Qwen3.8-27B提供最高、中等、较低和关闭推理等不同档位,但默认选择了最高档。复杂任务里,多想一会儿能减少中途走错方向;但遇到简单问题时,同一套设置却会把几秒钟的任务拉长到几分钟。

社区看法有分歧。有用户觉得Qwen3.8-27B相比前代进步明显,但即使把推理档位降到中等,模型仍可能思考很久,因此暂时不会把它设为日常主力。

也有人喜欢这种风格。社区实测显示,最高推理档虽然耗时明显更长,却可能换来更完整的输出。任务足够复杂时,"想得多"可能意味着少走几次回头路;但如果只是改写一句话、提取一段信息或者生成简单代码,同样的耐心就会变成负担。

云端模型多想一会儿,账单会先涨;本地运行省去了按次支付的云端接口费用,但多想一会儿,会等待更久、耗电更多、显卡更烫。Qwen3.8-27B已经允许用户调节推理强度,接下来的问题是,模型能不能根据任务难度自己判断:什么时候应该认真想,什么时候应该直接回答。

五、Meta、谷歌也在抢本地模型

今年6月,谷歌发布Gemma 4 12B,把16GB显存或统一内存作为本地运行门槛,希望它进入办公、内容处理和智能体工作流。同系列31B版本则面向编程、视觉理解和更复杂的推理任务。谷歌已经用不同规模的模型,覆盖从普通笔记本到高性能工作站的多档设备。

8月10日,Meta发布30B参数的Muse Glimmer,主攻编程、工具调用和本地智能体任务。扎克伯格同日再次强调开放模型,并表示Meta将恢复发布部分开放权重模型。

Qwen3.8-27B与Muse Glimmer体量接近,面向的也都是能够在个人设备运行的智能体任务;谷歌则用Gemma覆盖更宽的硬件范围。三家公司争夺的,是云端旗舰模型之下、普通小模型之上的本地使用空间。

Qwen这次最醒目的特点,是社区响应速度。模型发布后,量化版本、运行配置和排障经验几乎同步出现。Muse Glimmer和Gemma则背靠Meta、谷歌各自的研发与产品生态,这场竞争不会停留在一次模型发布上。300万次下载至少说明,很多开发者愿意先试一试。接下来更难的一步,是把这些仍需反复调试的方案,变成稳定、默认的使用路径。

延伸阅读
相关推荐
热点推荐
70万英亩森林!680亿身家!陈天桥才是中国商界藏得最深的牛人

70万英亩森林!680亿身家!陈天桥才是中国商界藏得最深的牛人

李橑在北漂
2026-09-28 11:53:25
大批“顶流”抵达东莞!网友:场面壮观

大批“顶流”抵达东莞!网友:场面壮观

东莞好生活
2026-11-13 13:11:03
农村这种野生植物,用它煮水用对“痔疮”有奇效,赶快去试试吧

农村这种野生植物,用它煮水用对“痔疮”有奇效,赶快去试试吧

邹小蘑菇
2026-10-26 13:23:48
大反转!黄仁勋彻底逆袭!

大反转!黄仁勋彻底逆袭!

首席品牌观察
2026-11-16 21:24:50
江苏三岁女童被父亲女友杀害案将宣判,被告人案发时已怀孕

江苏三岁女童被父亲女友杀害案将宣判,被告人案发时已怀孕

新京报
2026-11-16 23:39:06
孙海洋回应女儿结婚不收彩礼:孩子们自己策划,我们放宽心默默祝福就好

孙海洋回应女儿结婚不收彩礼:孩子们自己策划,我们放宽心默默祝福就好

韩小娱
2026-11-15 16:04:54
他曾担任3个直辖市市委书记,40岁官至副国级,43岁粉碎重大阴谋

他曾担任3个直辖市市委书记,40岁官至副国级,43岁粉碎重大阴谋

元哥说历史
2026-05-02 14:25:03
第一位扮演毛主席的演员,毛主席看后说道:以后不要再演了!

第一位扮演毛主席的演员,毛主席看后说道:以后不要再演了!

翠羽
2026-10-04 13:00:14
2-3!乒坛再爆大冷:男单世界第一被逆转,松岛辉空惜败16岁新星

2-3!乒坛再爆大冷:男单世界第一被逆转,松岛辉空惜败16岁新星

乒乓网国球汇
2026-11-17 00:56:42
GOAT没意义!乔丹罕见谈历史最佳:这个头衔从不会让我狂喜或失落

GOAT没意义!乔丹罕见谈历史最佳:这个头衔从不会让我狂喜或失落

罗说NBA
2026-11-16 07:55:47
《请回答1988》善宇演员高庚杓酒驾,撞上一辆街道清扫车,酒精测试结果显示达到了被吊销驾照水平

《请回答1988》善宇演员高庚杓酒驾,撞上一辆街道清扫车,酒精测试结果显示达到了被吊销驾照水平

韩小娱
2026-11-14 08:55:39
德国军方:禁止比亚迪、吉利、蔚来进入军营,大疆无人机同步被清退

德国军方:禁止比亚迪、吉利、蔚来进入军营,大疆无人机同步被清退

闪亮的车
2026-11-13 12:16:55
老了才明白:最傻的父母,攥着大把存款和退休金,等给儿女当遗产

老了才明白:最傻的父母,攥着大把存款和退休金,等给儿女当遗产

风起见你
2026-11-11 17:04:28
狂轰73+12+19!76人三巨头打疯了,詹姆斯准三双,这一战,我必须承认4个事实

狂轰73+12+19!76人三巨头打疯了,詹姆斯准三双,这一战,我必须承认4个事实

篮球扫地僧
2026-11-16 16:54:42
破镜重圆复婚在即 张柏芝亲自证实 三个儿子都已经被谢霆锋接走

破镜重圆复婚在即 张柏芝亲自证实 三个儿子都已经被谢霆锋接走

星辰生肖馆
2025-03-22 05:10:03
真该把这张照片裱起来,挂在“娱乐圈意难平”展览馆的第一墙

真该把这张照片裱起来,挂在“娱乐圈意难平”展览馆的第一墙

舞指飞扬
2026-11-01 11:05:27
本周末Prime Video三部片:马克·沃尔伯格新片登顶人气榜

本周末Prime Video三部片:马克·沃尔伯格新片登顶人气榜

自愈小日子
2026-11-15 02:18:12
据说,每天有3万人退场

据说,每天有3万人退场

一条要飞跃的咸鱼
2026-10-07 08:49:43
发行价558,现股价68,猜底的总是猜不到它的底,底究竟在哪里?

发行价558,现股价68,猜底的总是猜不到它的底,底究竟在哪里?

财经智多星
2026-09-26 17:10:51
4+9+4+3+1!火箭从哪淘到的宝贝?单节9篮板,你是雷吉埃文斯啊?

4+9+4+3+1!火箭从哪淘到的宝贝?单节9篮板,你是雷吉埃文斯啊?

球盲姐
2026-11-16 12:19:41
2026-11-17 02:15:00

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

官宣离婚不到1月,李小冉进医院

财经要闻

10万人逼宫英伟达 黄仁勋要复职了?

汽车要闻

多面新方盒捷途环游者EV开启预售 9.99万元起

态度原创

房产
游戏
数码
亲子
军事航空

房产要闻

6.6亿!海口卖地!

小伙表示连玩7天《GTA6》 这下PS5可惨了

数码要闻

OPPO Enco Clip2新配色粉黛海发布:到手719.1元 浪漫灵动

亲子要闻

中小学校、幼儿园将聘任健康副校(园)长,深圳已先行探索

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版
×