网易首页 > 网易号 > 正文 申请入驻

16秒宣布完成,页面却是空的:两个编程模型实测

0
分享至

一句"数据已验证"从 Claude Code 里弹出来,只用了16秒。要求做的是一个小型仪表盘页面,验证方式是对几个预期关键词做文本搜索。结果页面从未被渲染,每一根柱子都是空的。


另一边,DeepSeek V4.1 Flash 花了2分29秒,用无头浏览器(Chrome 无窗口、由脚本驱动)加载了自己的页面,看了截图,交出一个能用的仪表盘。Meta 在10月15日公开了 Muse Spark Open 的权重,两个模型在16日跑了同一套编程测试。

把模型塞进编程智能体时,哪些数字会骗人,值得单独拆一遍。

16秒的"完成",藏着一个看不见的 bug

这个 bug 快速读代码是发现不了的。填充色只从写成后代选择器的规则里取颜色——这类 CSS 只有在元素位于另一个元素内部时才匹配。Muse 把柱子放在了行旁边,而不是行里面,选择器匹配不到任何东西。宽度动画加在一个没有背景的元素上。

打开页面,一秒内就能看出来;用 grep 搜字符串,永远搜不到。DeepSeek 也滑了一下,但轻得多:一张卡片的页脚把两项任务的总和写成了"each"。数字是对的,措辞不对。

每秒 token 数衡量的是服务,不是模型

模型以 token 为单位读写,速度通常用每秒 token 数表示。速度轮里,跑在 Baseten 上的 Muse 用2.5秒把代码显示到屏幕上,流式输出455 token/秒。DeepSeek 是197 token/秒,并且把全部1500 token 的额度烧在私有推理上,最后没有代码。

Artificial Analysis 取各家服务商的中位数,结论相反:DeepSeek 179 token/秒,Muse 102。Baseten 提供的是 Muse 的 NVFP4 版本,权重压到4位数字以少占内存、跑得更快;其用量数据还报告了投机解码,即用小代价猜测后续 token,再由大模型一次校验。两者大概各解释了一部分领先,测试无法把它们分开。测一个托管模型,你测的是它的托管方。

另一个陷阱是秒表从哪一刻开始按。首 token 时间这个常用延迟指标,把从未到达屏幕的推理 token 也算了进去。另一个早晨的测试里,DeepSeek 的首 token 不到一秒就出现,但第一批可读的字花了3到6秒;Muse 大约1秒。要让智能体感觉响应快,应该单独计第一个答案 token 的时间。

按任务算成本,不是按 token 单价

公开测试集 LiveBench 提供了8道 AtCoder 编程题。两个模型各解出7道,失败的是同一道。Muse 输出约88,000 token,DeepSeek 是59,000,且 Muse 单价更高。按标价,这8道题 Muse 花0.38美元,DeepSeek 花0.07美元。

在玩具级银行库上的小型 Claude Code 任务里,两者都通过了全部隐藏测试,Muse 每任务0.148美元,DeepSeek 0.016美元。DeepSeek 的数字按峰值定价计算,可以当作上限看。推理按输出计费,所以 token 单价低说明不了什么,除非你知道一个模型要想多久。

翻译层的设置也是实验的一部分

Claude Code 按 Anthropic 的格式发请求,Baseten 只接受 OpenAI 的格式。一个 LiteLLM 代理在两者之间翻译,它的配置把 Muse 的推理强度——控制模型思考多久的旋钮——设成了 medium。DeepSeek 有自己的 Anthropic 兼容端点,保持了默认的 high。仪表盘那一轮因此并不对等。Muse 在 high 强度下会不会测试自己做的页面,是个开放问题,这一轮没有跑。

翻译层施加的每一项设置都该记录下来,并当作测试变量计数。

在自己的候选清单上该收集什么

  • 第一个答案 token 的时间,而不是第一个 token 的时间
  • 每道解出任务的输出 token 数,含推理
  • 按你实际会付的价格和时段计算的每任务成本
  • 智能体在说"完成"之前,有没有打开自己做过的东西

局限也要说清:每项测试只跑了一次,只在一天之内,8道题加3个 Claude Code 任务,题目是公开的,两个模型都可能在训练中见过。速度结果描述的是 Baseten,不是 Muse 本身。公开权重确实意味着可以把 Muse 跑在自己的硬件上,但 FP4 权重约408 GB,这一点没有试过。DeepSeek V4.1 Flash 在此前的一次测试中已经在两块显卡上跑过。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
外国专家:毛主席之所以打仗很厉害,是因为他有三大“看家本领”

外国专家:毛主席之所以打仗很厉害,是因为他有三大“看家本领”

顾史
2026-10-24 08:20:34
取代商K的“AI女团”,开始让年轻人烧心

取代商K的“AI女团”,开始让年轻人烧心

金错刀
2026-10-23 09:39:16
成都一场婚礼的寒酸程度把全国人民都看愣了

成都一场婚礼的寒酸程度把全国人民都看愣了

七月生活情感驿站
2026-10-11 21:16:41
用的让人恼火!苹果iPhone Duo海外媒体评价一览:真的不够成熟 为折叠而折叠

用的让人恼火!苹果iPhone Duo海外媒体评价一览:真的不够成熟 为折叠而折叠

快科技
2026-10-22 08:56:08
人到老才明白:越“好色”的老头,越容易长寿,并非迷信

人到老才明白:越“好色”的老头,越容易长寿,并非迷信

鬼菜生活
2026-10-23 02:24:05
神木问界碰撞起火,三个关键问题,至今都没有完整答案!

神木问界碰撞起火,三个关键问题,至今都没有完整答案!

娱乐圈的笔娱君
2026-10-24 05:28:25
身披旭日旗的陈宇昕获企业支持,汤家凤怒批:必须严惩,露头就打

身披旭日旗的陈宇昕获企业支持,汤家凤怒批:必须严惩,露头就打

三农老历
2026-10-24 00:33:02
马路又被"开膛破肚"?广州全城挖路潮汹涌

马路又被"开膛破肚"?广州全城挖路潮汹涌

糖逗在娱乐
2026-10-24 14:37:05
郑功成教授谈丧葬抚恤金差距:如果连死亡都无法抹平制度二元结构

郑功成教授谈丧葬抚恤金差距:如果连死亡都无法抹平制度二元结构

一口娱乐
2026-10-24 00:11:39
国产DRAM重大突破!长江存储准备量产9600 MT/s的LPDDR5X内存

国产DRAM重大突破!长江存储准备量产9600 MT/s的LPDDR5X内存

快科技
2026-10-23 17:04:39
个税又降了,延续至2027年12月31日!

个税又降了,延续至2027年12月31日!

新理财杂志
2026-10-23 18:15:56
官宣结婚后他自曝:喜欢她20年了

官宣结婚后他自曝:喜欢她20年了

赴一场山海啊
2026-10-23 03:21:19
突发!瑞典政府封禁 ChatGPT、Claude

突发!瑞典政府封禁 ChatGPT、Claude

云头条
2026-10-24 02:00:14
志愿军营长致朝鲜姑娘怀孕,被判死刑,刑场上姑娘挺孕肚以命相护

志愿军营长致朝鲜姑娘怀孕,被判死刑,刑场上姑娘挺孕肚以命相护

老范谈史
2026-10-18 17:47:29
贵州18岁女孩“王水仙”去世,姐妹5个她纹花臂,死因曝光太可惜

贵州18岁女孩“王水仙”去世,姐妹5个她纹花臂,死因曝光太可惜

悦君兮君不知
2026-10-23 21:06:15
70岁富商资产3个亿,装病住院试探子女,不料当晚1人却偷溜进病房

70岁富商资产3个亿,装病住院试探子女,不料当晚1人却偷溜进病房

温情邮局
2025-09-08 14:33:16
全裸迎宾照曝光时。如今回看她的直播,才懂她的“疯”,早有伏笔

全裸迎宾照曝光时。如今回看她的直播,才懂她的“疯”,早有伏笔

喜欢历史的阿繁
2026-10-24 14:20:42
好奇查了一下陈宇昕的家境,原来他从小就在国外留学是有原因的

好奇查了一下陈宇昕的家境,原来他从小就在国外留学是有原因的

皮蛋儿电影
2026-10-20 09:58:37
《永乐大典》的纸张有多牛?乾隆皇帝为了写字作画,从中裁切了17000余张

《永乐大典》的纸张有多牛?乾隆皇帝为了写字作画,从中裁切了17000余张

言过于诚
2026-10-22 22:45:09
1971年,摩洛哥国王寿宴之上,中国大使张伟烈满身鲜血伏桌求生,凭借新四军的经验带着翻译从枪口逃生

1971年,摩洛哥国王寿宴之上,中国大使张伟烈满身鲜血伏桌求生,凭借新四军的经验带着翻译从枪口逃生

唠叨说历史
2026-10-20 11:59:21
2026-10-24 18:23:00
我是一个粉刷匠2
我是一个粉刷匠2
有态度网友ytd
220文章数 173关注度
往期回顾 全部

科技要闻

写程序、做3D,新Kimi还有多少本事?

头条要闻

北京男子帮朋友代购字画 4000万购176幅鉴定仅值25万

头条要闻

北京男子帮朋友代购字画 4000万购176幅鉴定仅值25万

体育要闻

从乐透秀到总冠军再到没工作 一共要几年?

娱乐要闻

翁虹19岁女儿三次拒爱,在美国上学却“不随便”

财经要闻

叫"保障"不叫"保险":租车平台的文字游戏

汽车要闻

大众安徽与众09正式上市 双十一权益价16.99万起

态度原创

时尚
游戏
亲子
数码
房产

中国韵特别策划|二胡:弦上双生,形停处意不断

IGN重评《给他爱5》:仍是系列巅峰 但宝座即将易主?

亲子要闻

男孩变声、长痘、爱关门?这些变化可以早点聊

数码要闻

AMD Zen 6首测曝光:同频单核性能较Zen 5最高快24%

房产要闻

百亩大盘又 +1!攒量超 200 万㎡!江东,要燃起来了!

无障碍浏览 进入关怀版