北京
本周五，阿里Qwen研究实验室发布了Qwen 3.8 27B——一款采用Apache 2许可、拥有270亿参数的视觉能力大语言模型。我一直在期待这个版本：27B参数是笔记本上运行模型的绝佳尺寸，而其前代Qwen 3.6 27B的表现已经相当亮眼。 Qwen团队对该模型的基准测试数据令人瞩目。官方数据显示，它相比Qwen 3.6 27B以及闭源的Qwen 3.7-Plus都有明显提升——后者直至今年5月仍是Qwen旗下各尺寸中最强的模型之一。独立评测机构会给出怎样的结论，值得关注。 我在两台设备上运行了该模型：一台128GB内存的M5 Max MacBook Pro，以及一台NVIDIA DGX Spark。两台上我都使用了LM Studio，搭配其17GB的Q4_K_M量化版本。此外，我也尝试在Spark上直接使用llama-server。 Qwen的文档将模型默认的推理强度（reasoning effort）设定为“xhigh”，我运行的LM Studio GGUF版本保留了这一默认设置。Qwen 3.8官方支持reasoning_effort参数，可用于调整推理深度和控制成本。这是一个令人哭笑不得的默认值——它绝对不是运行模型的好方式，尤其是在消费级硬件上。我发现这个默认设置带来的结果极具娱乐性。 我很快就遇到了LM Studio默认上下文限制（8192个token）的问题——即便是最普通的问题，Qwen也会把上下文全部耗在思考上。我将模型加载为完整的262144个token最大上下文长度后，问题才得以解决。 下图是我在增加上下文长度后、第一次尝试生成的“鹈鹕骑自行车”SVG。它耗时21分钟，使用了22276个推理token来产生3223个token的输出。完整推理过程可以在此查看。 这是迄今为止我用本地机器运行模型所能生成的最佳鹈鹕SVG——而且这个Qwen相当小巧，磁盘上仅占用17GB。有很多地方值得赞赏： 这一结果是否值得那21分钟的等待？从生成质量来看，答案很明显。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
