网易首页 > 网易号 > 正文 申请入驻

谷歌推出DiffusionGemma文本扩散模型:本地AI推理速度提升4倍

0
分享至

IT之家 6 月 11 日消息,谷歌今天(6 月 11 日)发布公告,宣布推出 DiffusionGemma,是基于文本扩散机制的开放 AI 模型,相比较自回归模型在本地推理速度上提升了 4 倍。

IT之家注:自回归模型(Autoregressive Model)是当前主流的大语言模型架构(如 GPT、Gemini),按照从左到右的顺序逐个生成 Tokens。该架构在云端批处理场景下效率较高,但在本地推理时受限于内存带宽,存在计算资源浪费问题。


而扩散模型(Diffusion Model)通过从噪声中逐步去噪的方式生成输出。与自回归模型逐个生成 token 不同,扩散模型并行处理所有 token,逐步优化整体输出质量,在本地低带宽计算环境下具有显著的推理速度优势。

开源方面,该模型能力与其他 Gemma 4 模型相当,但推理效率显著更高。该模型采用 Apache 2.0 许可证开源,用户可从 Hugging Face 下载模型权重。

质量方面,模型还支持迭代优化,能在生成过程中主动纠正错误,输出更加稳定一致。采样速度达到 1479 tokens / 秒,开销仅 0.84 秒,生成效率显著提升。

性能方面,代码生成上,LiveCodeBench 达 30.9%,BigCodeBench 达 45.4%,HumanEval 达 89.6%,与 Gemini 2.0 Flash-Lite 互有胜负。

数学能力表现亮眼,AIME 2025 取得 23.3%,超越对比模型的 20.0%,展现出扩散架构在推理任务上的潜力。

不过模型在部分基准上仍存短板。科学推理 GPQA Diamond 仅 40.4%,明显低于对比模型的 56.5%;推理能力 BIG-Bench Extra Hard 为 15.0%,同样落后于 21.0%。


速度方面,英伟达在官方博文中指出,该模型的扩散设计,能充分发挥英伟达 GPU 的 Tensor Core 并行计算能力。

在单块 H100 GPU 上,DiffusionGemma 达到每秒 1000 个 token 的生成速度;在 DGX Spark 上为每秒 150 个 token;在 DGX Station 上可达每秒 2000 个 token,约为同等条件下自回归模型的 4 倍。


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
沙特正式介入冲突,美军重启对伊朗的空袭!

沙特正式介入冲突,美军重启对伊朗的空袭!

胜研集
2026-07-30 10:19:58
“莫氏鸡煲”上综艺首轮被淘汰,录节目几天出场仅3分钟!谢霆锋点评:“鸡很好,汤很好喝”

“莫氏鸡煲”上综艺首轮被淘汰,录节目几天出场仅3分钟!谢霆锋点评:“鸡很好,汤很好喝”

每日经济新闻
2026-07-30 18:23:31
自爆陪睡多名权贵求助媒体的空姐,失联了!

自爆陪睡多名权贵求助媒体的空姐,失联了!

兵叔评说
2026-07-30 16:49:45
贾跃亭FF 1:150极致合股收割 三年投资3000万仅剩20块

贾跃亭FF 1:150极致合股收割 三年投资3000万仅剩20块

BusinessCar
2026-07-30 20:25:21
深圳31岁富豪猝死,妻引产双胞胎,豪车再无主人

深圳31岁富豪猝死,妻引产双胞胎,豪车再无主人

娱乐圈见解说
2026-07-31 02:40:35
美伊新一轮互袭!伊朗:摧毁3架F-35战机,美军:没有美国飞机被摧毁

美伊新一轮互袭!伊朗:摧毁3架F-35战机,美军:没有美国飞机被摧毁

上观新闻
2026-07-31 06:36:18
1978年,陆定一刚出狱就写文章说:庐山会议彭德怀没错,错的是反对他的人

1978年,陆定一刚出狱就写文章说:庐山会议彭德怀没错,错的是反对他的人

帝哥说史
2026-07-28 21:08:21
员工卡点下班被领导在大群通报批评罚500,当场转1000反问敢不敢收,领导瞬间哑火!

员工卡点下班被领导在大群通报批评罚500,当场转1000反问敢不敢收,领导瞬间哑火!

一丝不苟的法律人
2026-07-29 12:35:47
迟来的定论,世界杯争议判罚翻案,可惜结局无法改写

迟来的定论,世界杯争议判罚翻案,可惜结局无法改写

刘哥谈体育
2026-07-30 14:57:06
中英商务部长通话,英国承诺对华补偿,赔付金额可能是天文数字

中英商务部长通话,英国承诺对华补偿,赔付金额可能是天文数字

流史岁月
2026-07-30 15:05:07
李小璐首度公开真实离婚时间:隐瞒至2019年宣布,全因保护女儿,回应“做头发”的梗,根本不是那么回事

李小璐首度公开真实离婚时间:隐瞒至2019年宣布,全因保护女儿,回应“做头发”的梗,根本不是那么回事

鲁中晨报
2026-07-30 16:54:54
“原来韦神和王虹的差距这么大!”人民日报连发多轮报道,才令人看清现实

“原来韦神和王虹的差距这么大!”人民日报连发多轮报道,才令人看清现实

妍妍教育日记
2026-07-29 17:55:01
网友曝入职前被公司要求填离职申请:一年一签,杜绝裁员赔偿金问题

网友曝入职前被公司要求填离职申请:一年一签,杜绝裁员赔偿金问题

可达鸭面面观
2026-07-30 09:54:31
赛里木湖自驾每人收75元引争议,景区称相关费用已做备案

赛里木湖自驾每人收75元引争议,景区称相关费用已做备案

界面新闻
2026-07-30 10:06:07
不是,小米怎么又造了台“不太好卖”的车?

不是,小米怎么又造了台“不太好卖”的车?

差评XPIN
2026-07-31 01:00:17
为何王虹的报道铺天盖地,邓煜却无人问津?

为何王虹的报道铺天盖地,邓煜却无人问津?

亚哥谈古论今
2026-07-30 22:45:29
危机升级,普京时代恐落幕,俄经济一夜倒退,国内爆发反战游行

危机升级,普京时代恐落幕,俄经济一夜倒退,国内爆发反战游行

小莜读史
2026-07-30 19:02:44
雷军:小米澎程N90 Max预售价29.99万元

雷军:小米澎程N90 Max预售价29.99万元

每日经济新闻
2026-07-30 21:00:08
中国课本上的“假历史”,骗了国人千百年,至今仍有人深信不疑

中国课本上的“假历史”,骗了国人千百年,至今仍有人深信不疑

长风文史
2026-07-28 20:27:05
20岁女孩18楼坠落奇迹生还,家属最新发声:下身全部粉碎性骨折,吵架原因是发现男朋友出轨提出分手,男方称“与我无关”

20岁女孩18楼坠落奇迹生还,家属最新发声:下身全部粉碎性骨折,吵架原因是发现男朋友出轨提出分手,男方称“与我无关”

大风新闻
2026-07-30 18:47:16
2026-07-31 08:44:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
357838文章数 607406关注度
往期回顾 全部

科技要闻

苹果财报亮眼:产品卖得太好 芯片开始不够

头条要闻

牛弹琴:足球世界内讧了 本届世界杯或成绝唱

头条要闻

牛弹琴:足球世界内讧了 本届世界杯或成绝唱

体育要闻

曝皇马将签罗德里!转会费6000万签约4年

娱乐要闻

周星驰用态度打破快餐式宣发

财经要闻

打新日确认!宇树科技IPO冲刺“冰与火”

汽车要闻

FREELANDER神行者8下线 8月10日开启预售/海外版同步推进

态度原创

艺术
旅游
教育
时尚
亲子

艺术要闻

她眼里藏着一整片海,看一眼就让人溺死:摄影大师镜头下的"迷离",是这世上最贵的奢侈品

旅游要闻

希腊克里特岛山火持续 大量游客撤离景区

教育要闻

初中数学a²-b²=9,ab=6,求a,b

今年夏天最好看的4件套装,高级又气质!

亲子要闻

敖润姑姑给咕咕嘎嘎制作机器狗

无障碍浏览 进入关怀版