网易首页 > 网易号 > 正文 申请入驻

顶流里最快!智谱,你是在「喷」代码吧

0
分享至

来源:市场资讯

(来源:量子位)

AI啊,你这速度简直是在喷射啊!

仔细看,千万别眨眼:


视频地址:

https://mp.weixin.qq.com/s/Wn1-SzjpEkQLTyZnJKDRwg

这么多的代码,直接就是“啪的一下”喷出来的感觉。

之前AI写代码像CPU渲图一样,是一点一点打出来;但这个AI写代码,更像GPU:


这么快生成的代码,能好用吗?

答案是可以的:


这就是智谱刚刚新出的高速版API——GLM-5.1-highspeed。

按照官方的说法,这个旗舰版模型的API,是目前顶流模型里最快的,已经达到了400 tokens/s!


而且这个GLM-5.1啊,虽然已经出了一个多月了,但现在还是开源模型里Coding最强的那一个:


那么接下来,老规矩,一波实测走起~

AI写代码像开了倍速

我们先来做一个比开头更加复杂的例子,Prompt是这样的:


视频地址:

https://mp.weixin.qq.com/s/Wn1-SzjpEkQLTyZnJKDRwg


同样的,如此多行的代码,AI在思考了十几秒后,依旧是一口气给喷出来的。

这类任务的难点在于,它要同时处理前端结构、Canvas 动画、状态管理、视觉参数、交互逻辑,还要让效果看起来不至于太low。

从结果上来看,确实也是达到了Prompt的要求:


像跟设计师坐在同一块画布前

第二个测试更有意思。

我们在上一个代码基础上,继续提出更多要求:

“这个波纹再快一点。”

“光晕颜色偏暖一些。”

“粒子散开时别那么硬,柔一点。”

“背景不要全黑,稍微有一点深蓝层次。”


视频地址:

https://mp.weixin.qq.com/s/Wn1-SzjpEkQLTyZnJKDRwg

首先,我们的这些指令都是比较模糊的,并非像“把第42行的speed从0.6改成1.2”这么精确,所以模型需要先精准地理解我们的意图。

其次,由于GLM-5.1-highspeed的速度够快,我们做项目的体感都不一样了——

更像是和AI坐一起,一块盯着画布调参。

这也是高速API容易被低估的地方,和AI一起共事做项目,现在更接近实时的感觉了。

让模型当游戏导演

第三个测试,我们把场景再往前推一步。

如果模型足够快,它能不能在游戏里实时改变世界?

比如做一个小型2D游戏:

然后我们不给模型固定脚本,而是不断发出类似导演指令:

“下雪”、“下雨”、“爆炸”……


视频地址:

https://mp.weixin.qq.com/s/Wn1-SzjpEkQLTyZnJKDRwg

这类测试比写网页更刁钻。

因为模型要理解游戏状态、代码结构、交互逻辑,还要判断什么改动会影响体验。

而高速API让此前因延迟而难以成立的产品形态变得可行,例如模型在游戏中实时改变游戏世界状态。

当然,这里还有很多工程问题没解决,比如稳定性、安全边界、状态一致性、成本和并发。但至少从速度维度看,400 tokens/s级别的API已经让这类想象不再只停留在 PPT 里。

10秒处理万字内容

第四个实测,我们回到内容行业。

我们用AI读取一份万字长文的内容素材,让它一口气执行下面的内容:


视频地址:

https://mp.weixin.qq.com/s/Wn1-SzjpEkQLTyZnJKDRwg

只花了10秒钟!

而且效果也是依旧稳稳地拿捏到位了:


在AI的速度上来之后,让人类更快地进入到了判断的环节;由此,人和AI的协作更接近来回打磨了。而非一次性下单。

如果只看400 tokens/s这个数字,我们可能很容易把它理解成模型变小了,所以跑得快。

但实际上,GLM-5.1-highspeed更值得关注的点在于,它主打旗舰模型高速版,而不是一个单纯追求低延迟的小模型。

这背后靠的是系统工程。

智谱GLM团队与TileRT团队联合打造GLM-5.1-highspeed,在推理引擎、调度系统和底层基础设施三个层面做了优化:

推理引擎针对GLM-5.1架构特点重写核心推理路径,调度系统通过动态批处理、请求合并、KV缓存调度等方式降低高并发场景尾延迟,基础设施层面则围绕推理集群部署、网络链路和负载均衡做协同优化。

简单理解,大模型推理不是GPU算一下就完事。

真实线上系统里,请求怎么排队,怎么合并,KV 缓存怎么调度,多卡之间怎么通信,网络链路怎么负载均衡,都会影响最终延迟。

TileRT的思路更进一步。

它把推理调度单元从传统operator/kernel进一步下沉到tile级别,通过编译期静态编排、常驻GPU的persistent Engine Kernel、减少host调度和跨算子同步等方式,压缩推理过程里的调度、搬运与同步开销。

用一句更通俗的话,可以这样理解:

过去像一群工人每搬一块砖都要等工头发一次指令;现在提前把路线、分工、节奏排好,让工人持续在工地里流水线协作。

大模型推理速度的提升,很多时候不只来自更强的芯片,也来自对系统里每一个空转环节的压榨。

高速API的竞争,本质上是模型能力、推理引擎、调度系统和基础设施的综合战。

当然,速度不能被神化。

一个API真要进入生产环境,还要看模型质量、稳定性、成本、上下文能力、工具调用可靠性、并发能力,以及复杂任务里的错误率。

尤其是400 tokens/s这样的速度数字,也需要在更多任务、更多时段、更多并发条件下持续验证。

但至少从这次测试可以看到一个明确趋势:

国产大模型API的竞争,正在从能不能答得好,进一步走向能不能又快又稳地干活。

GLM-5.1-highspeed的意义,也正在这里。

它让我们看到,当旗舰模型能力和高速推理系统叠在一起,AI Agent的体验会出现一个很直观的变化:等待变少,反馈变密,任务推进更连续。

Coding时代,速度是爽点。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
资产27亿的哈兰德,从小是单亲母亲带大,父亲再婚娶跨栏运动员

资产27亿的哈兰德,从小是单亲母亲带大,父亲再婚娶跨栏运动员

全球时尚号
2026-07-07 18:55:25
伊朗已经意识到,美国一旦翻脸掀桌,海湾6300万桶油将血本无归!

伊朗已经意识到,美国一旦翻脸掀桌,海湾6300万桶油将血本无归!

离离言几许
2026-07-10 19:18:05
记者:詹姆斯与骑士之外的其他球队签约已经敲定了

记者:詹姆斯与骑士之外的其他球队签约已经敲定了

懂球帝
2026-07-11 03:26:07
C罗表面风光无限,背后一地鸡毛,全家追着吸血,他为家人操碎心

C罗表面风光无限,背后一地鸡毛,全家追着吸血,他为家人操碎心

宋鶛搞笑配音
2026-07-08 18:01:19
中国氦气出口仅占2%,禁令为何可能让晶圆厂55天后面临停产?

中国氦气出口仅占2%,禁令为何可能让晶圆厂55天后面临停产?

白浅娱乐聊
2026-07-11 00:35:01
高尔夫密会!追梦暗中推进勇士招募大计!

高尔夫密会!追梦暗中推进勇士招募大计!

柚子说球
2026-07-11 07:16:10
中国首型成功回收重复使用液体商业火箭后,国外网友吵翻了,“这是作弊”,“上面烟为啥那么大?”“感谢马圣开源!”

中国首型成功回收重复使用液体商业火箭后,国外网友吵翻了,“这是作弊”,“上面烟为啥那么大?”“感谢马圣开源!”

大白聊IT
2026-07-10 18:45:21
韩红基金会开销曝光!一年房租220万,80人团队年耗1200万,真的合理吗?

韩红基金会开销曝光!一年房租220万,80人团队年耗1200万,真的合理吗?

小徐讲八卦
2026-07-10 15:56:12
伊朗挨打了,还没明白他们的最大问题:革命卫队凭什么管阿曼领海

伊朗挨打了,还没明白他们的最大问题:革命卫队凭什么管阿曼领海

小莜读史
2026-07-09 20:27:16
从古到今,为什么说赖昌星才是把“性贿赂”的手段用到极致的人?

从古到今,为什么说赖昌星才是把“性贿赂”的手段用到极致的人?

大鱼简科
2026-07-09 09:35:25
楚王无法生育,黄歇把怀孕妻送给他,从而诞生了一成语流传至今

楚王无法生育,黄歇把怀孕妻送给他,从而诞生了一成语流传至今

青史卷中人
2026-07-09 19:09:57
为什么全世界只有中国景区搞圈地模式?

为什么全世界只有中国景区搞圈地模式?

知酷文旅
2026-07-07 10:03:14
大势已去!15000守军溃败,顿巴斯核心枢纽易主乌军难翻盘

大势已去!15000守军溃败,顿巴斯核心枢纽易主乌军难翻盘

阿淫记录生活日常
2026-07-11 01:45:34
非洲唯一几乎没黑人的国家,一夫多妻,美女泛滥,还对中国免签!

非洲唯一几乎没黑人的国家,一夫多妻,美女泛滥,还对中国免签!

麓谷隐士
2026-07-10 14:40:02
辛弃疾为什么不被南宋重用?原因非常简单,他杀人如草芥,很恐怖

辛弃疾为什么不被南宋重用?原因非常简单,他杀人如草芥,很恐怖

凡人侃史
2026-07-10 16:08:05
在左的道路上狂奔——英国新首相伯纳姆制裁以色列,忽略10月7日大屠杀

在左的道路上狂奔——英国新首相伯纳姆制裁以色列,忽略10月7日大屠杀

老王说正义
2026-07-11 03:36:36
反转!广东新娘和堂姐互撕最新后续:堂姐曝完整经过,拉黑不原谅

反转!广东新娘和堂姐互撕最新后续:堂姐曝完整经过,拉黑不原谅

凉羽亭
2026-07-11 04:53:52
官媒曝光!成本5.5元卖788元,暴利百倍!网友:智商税

官媒曝光!成本5.5元卖788元,暴利百倍!网友:智商税

趣文说娱
2026-07-10 03:38:15
LV官司赢了口碑却输了,帮LV胜诉的中国律所被扒出旧账,央媒点名怒批

LV官司赢了口碑却输了,帮LV胜诉的中国律所被扒出旧账,央媒点名怒批

一盅情怀
2026-07-10 15:47:13
央企放大招!存100万,每年7万利息!

央企放大招!存100万,每年7万利息!

新浪财经
2026-07-10 15:40:54
2026-07-11 07:56:49
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
4009767文章数 8691关注度
往期回顾 全部

科技要闻

苹果起诉OpenAI系统性窃密,挖超400前员工

头条要闻

替补登场梅里诺再演绝杀奇迹 库尔图瓦被换下泪洒赛场

头条要闻

替补登场梅里诺再演绝杀奇迹 库尔图瓦被换下泪洒赛场

体育要闻

法国VS摩洛哥:谁才是臭外地的?

娱乐要闻

韩国顶流李钟硕与IU官宣分手!

财经要闻

一封举报信 引发小红书IPO合规考验

汽车要闻

吉利银河TT:C级纯电轿跑新玩家 此TT非彼TT

态度原创

教育
手机
本地
房产
公开课

教育要闻

女孩高考699分报清华遭网暴,她说不玩手机有错吗?选学医有错吗

手机要闻

爆料称iPhone 18 Pro Max厚度重量均增加,折叠屏iPhone电池可能不到5000mAh

本地新闻

重庆人有自己的避暑桃花源 | 夏天就去「酉」风的地方!

房产要闻

重磅学校规划曝光!西海岸教育,正强得可怕!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版