Talk预告 | 香港大学吴成岳：从理论瓶颈到实际加速, 通过Fast-dLLM实现高效扩散LLM推理

本期为TechBeat人工智能社区第735期线上Talk。

北京时间12月17日(周三) 20:00，香港大学博士生吴成岳的Talk将准时在TechBeat人工智能社区开播！

他与大家分享的主题是：从理论瓶颈到实际加速—通过Fast-dLLM实现高效扩散LLM推理。介时他将向大家介绍 Fast-dLLM 及其 v2 版本。该方法通过近似分块缓存、置信度感知解码及 AR-Diffusion 混合架构，实现了高达 27.6 倍的吞吐提升。

Talk·信息

主题：从理论瓶颈到实际加速 — 通过Fast-dLLM实现高效扩散LLM推理

嘉宾：香港大学 · 博士生 - 吴成岳

时间：北京时间12月17日(周三) 20:00

地点：TechBeat人工智能社区

http://www.techbeat.net/

Talk·介绍

Diffusion LLM 虽具备并行生成与双向注意力优势，却因无法利用 KV Cache 及并行解码质量下降，推理速度远逊于自回归模型。本次分享介绍 Fast-dLLM 及其 v2 版本，通过近似分块缓存、置信度感知解码及 AR-Diffusion 混合架构，实现了高达 27.6 倍的吞吐提升；v2 版本更在保持高质量的同时，超越 LLaMA3 等 SOTA 模型 2.5 倍速，打破了其实用化瓶颈。

Talk大纲

1. 背景与挑战：

对比自回归模型，解析 Diffusion LLMs 的并行生成潜力，并指出阻碍其实际部署的两大核心瓶颈——KV Cache 的缺失与并行解码的质量退化。

2. Fast-dLLM (Training-free)：

介绍如何通过近似分块 KV 缓存机制解决缓存不兼容问题，利用置信度感知并行解码策略修复由条件独立假设导致的质量下降。

3. Fast-dLLM v2 (Hybrid Paradigm)：

详解进阶版架构，引入 Block Diffusion（AR-Diffusion 混合范式）与层级缓存机制，展示如何仅用约 1B token 实现低成本高效适配。

4. 实验与评估：

展示与 Vanilla Diffusion 及 LLaMA3/Qwen2.5 等顶尖自回归模型的对比结果，分析在推理速度（最高 27.6x 吞吐提升）与生成质量上的综合表现。

5. 总结：

探讨 Fast-dLLM 系列工作对 Diffusion LLM 迈向大规模实用化的里程碑意义。

Talk·预习资料

论文链接： https://arxiv.org/abs/2505.22618 代码链接： https://github.com/NVlabs/Fast-dLLM

论文链接： https://arxiv.org/abs/2509.26328

Talk·提问交流

在Talk界面下的【交流区】参与互动！留下你的打call和问题，和更多小伙伴们共同讨论，被讲者直接翻牌解答！

你的每一次贡献，我们都会给予你相应的i豆积分，还会有惊喜奖励哦！

Talk·嘉宾介绍

吴成岳‍‍‍‍‍‍‍‍‍‍‍

香港大学 · 博士生
‍‍‍

研究领域包括多模态基础模型和大语言模型。迄今已在CVPR、ACL、ICML、NeurlPS 等国际顶会发表论文十余篇，六篇为第一作者，累计引用1400余次，相关开源项目在GitHub上获得超1.8万星标。

主导研发了统一的多模态理解框架Janus，在DeepSeek提出视觉编码解耦的新范式。在NVIDIA实习期间，作为Fast-dLLM 项目核心成员，提出理论驱动的解码算法，使扩散语言模型生成效率提升了 10 倍，后续迭代版本Fast-dLLM v2 进一步实现2-3倍加速。

个人主页: https://www.techbeat.net/grzytrkj?id=46004

-The End-

如果你也想成为讲者

自荐 / 推荐

单人Talk | 团队专场 | 录播or直播 | 闭门交流

多种方式任你选择！

推荐讲者成功也有奖励哦~

关于TechBeat人工智能社区

TechBeat(www.techbeat.net)隶属于将门创投，是一个荟聚全球华人AI精英的成长社区。

我们希望为AI人才打造更专业的服务和体验，加速并陪伴其学习成长。

期待这里可以成为你学习AI前沿知识的高地，分享自己最新工作的沃土，在AI进阶之路上的升级打怪的根据地！

更多详细介绍>>

预约本期Talk