网易首页 > 网易号 > 正文 申请入驻

让AIGC成功破圈的《太空歌剧院》,背后依靠的是什么?

0
分享至

你能想象吗?下面这些精美绝伦的图片竟然都是AI自动生成的!

图:书中插图

没想到,AI界已经有如此炫酷的技术!而在整个过程中,创作者只用做一件事,那就是:用一段文字描述想要的图片内容。

这种效果背后的技术被称作扩散模型(Diffusion Model)。

事实上,它在很多领域都占有一席之地,在游戏、生物、医疗等行业都能看到它的身影。其中,最知名的当属画作《太空歌剧院》。

可见,AI绘画已经彻底出圈。现如今,要进入AI领域,AIGC几乎已经是人手必备的生存技能了。

那么,在这一过程中,关乎其效果的背后的技术扩散模型是如何发挥魅力的呢?

今天,就让我们借由这本得到澜舟科技创始人兼 CEO,创新工场首席科学家,CCF副理事长周明、北京大学人工智能研究院研究员杨耀东等联袂推荐的《扩散模型从原理到实战》,一窥究竟。

点击封面,即可

5折

购书,限50人

01

赶超AI风口,让模型“扩散”起来!

扩散模型是基于扩散思想的深度学习生成模型,其背后蕴含着复杂的数学原理。

小异发现,为了便于读者理解,作者特意避开了这些复杂内容。但是,读者依旧可以基于本书内容学会如何生成精美图像。

扩散模型是一类生成模型,它借鉴了物理热力学中的扩散思想:分子从高浓度区域扩散到低浓度区域。这与由于噪声干扰导致的信息丢失十分相似。

书中采用了一滴墨水在水中扩散的过程举例。

初始状态:扩散开始之前,这滴墨水会在水中的某个地方形成一个大的斑点。

扩散过程:这滴墨水随着时间的推移逐步扩散到水中,水的颜色也逐渐变成这滴墨水的颜色。

图: 一滴墨水在水中扩散分布的示意图(选自书中)

就这个过程而言,描述该初始状态的概率分布很困难,因为该分布非常复杂。而扩散后的墨水分子的概率分布更加简单和均匀,可以很轻松地用数学公式来描述。

这时候非平衡热力学就派上用场了,它可以描述墨水随时间推移的扩散过程中每一个时间步状态的概率分布。如果把这个过程反过来,就可以从简单的分布中逐步推断出复杂的分布。

扩散模型和这个过程类似,只不过它分为前向扩散反向扩散两个过程。

前向扩散:引入噪声,并学习由噪声引起的信息衰减,最终得到纯随机噪声分布的数据,即类似稳定墨水系统的状态。

反向扩散:前向扩散的反向过程,是“去噪”的过程,即从随机噪声中迭代恢复出清晰数据的过程。通俗地说,就是生成模型的采样过程。

图:DDPM 的扩散过程(选自书中)

公认最早的扩散模型DDPM(Denoising Diffusion Probabilistic Mode)的扩散原理就由此而来。

作者在书中对扩散模型做了大量的诠释,也给出了对应的案例和代码,降低了理解门槛,提高了学习效率。

图:使用现有模型再学习到指定主体图像的功能

在第3章中,作者以实战方式演示了从0开始搭建扩散模型的过程,从一个简单的扩散模型讲起,展示其不同部分的工作原理。

退化:引入噪声并和内容混合。

训练模型:获取一批数据添加随机噪声,之后将数据输入模型,对模型预测与初始图像进行比较,计算损失更新模型的参数。

图:模型的预测结果(选自书中)

采样过程:从完全随机的噪声开始,先检查一下模型的预测结果,然后只朝着预测方向移动一小部分(比如,20%),如果新的预测结果比上一次的预测结果稍微好一点,就可以根据这个新的、更好的预测结果继续往前迈出一步。

图:采样过程(选自书中)

此外,作者还对调整时间步、优化采样步骤等提出了思考,以便更好地改善模型效果。同时,读者可以访问B站观看Hugging Face平台提供的课程,来以互动性更强的方式学习扩散模型知识。

图:B站扩散模型直播活动

正如一开始所说,扩散模型已经逐渐渗透到了生活、工作的方方面面,甚至有科学家已经开始尝试结合大型语言模型的信息与图像生成扩散模型,用文本指导扩散过程。

作者也希望各位读者可以将学到的知识与专业领域或技能相结合,解决生活或工作中的实际问题。

02

巧用工具,你的模型你做主!

工欲善其事,必先利其器。

想要更高效地打造扩散模型并解决日常问题,少不了给力的工具。作者也在书中介绍了很多实用工具——

首先是Hugging Face,它是专门服务机器学习从业者的协作和交流平台,致力于构建开放、负责的人工智能的未来。本书第3-8章的内容就是基于Hugging Face平台上的Diffusion课程设计的。

Hugging Face 的核心产品是Hugging Face Hub——一个基于 Git 进行版本管理的存储库,由模型、数据集、应用程序三块组成。

截至 2023 年 3 月底,Hugging Face Hub 上已经托管了 16.2 万个模型、2.6 万个数据集以及 2.5 万个应用程序。

模型:每一个模型都有一个模型卡片页面,包括介绍、用途和限制、使用方法、训练方法、模型评估、使用的数据集,甚至还有供快速体验的示例应用,让读者快速体验。

图:Hugging Face Hub 上的模型卡片(选自书中)

数据集:Hugging Face 归集了超过5000个数据集,涵盖100多种语言,可用于自然语言处理、计算机视觉和音频等广泛领域的任务。

图:某个模型的训练数据集以及使用该模型建立的应用列表(选自书中)

应用程序:Hugging Face Hub 提供了Spaces 功能,它可以让你在几分钟内创建和部署一个应用程序。

图:Hugging Face Hub 内展示的本周热门 Spaces 应用

除此之外,Hugging Face 还在 GitHub 上开源了一系列机器学习库和工具,比如Transformer、Datasets、diffusers等。

此外,作者还介绍了开源的 Python 库Gradio。它由 Hugging Face 推出,用于构建机器学习和数据科学演示以及 Web 等应用。

当需要向用户展示机器学习模型的时候,Gradio 可以有效地帮助你创建交互式应用。

图:使用 Gradio 运行“Hello World !”程序(选自书中)

03

大咖助力,内容注定精彩

扩散模型之所以能被研究得如此透彻,离不开作者背后多方团队的鼎力支持。这些人中,有专业内容生产者,也有各行各业的先锋领袖,更有默默无闻的奉献者。

本书第 3 章~第 8 章的内容基于 Hugging Face 的 Diffusion课程。课程的设计者Jonathan WhitakerLewisTunstall对本书提供了诸多宝贵建议。

图:Hugging Face其他精品课程

图灵联合创始人和创始总编刘江、作家马伯庸、Stability.AI 技术产品总监郑屹州以及声网 CTO 钟声博士也为本书的创作提出了宝贵的参考意见。

纵观人类历史,机遇永远属于抢先一步占据未来高度的人。我们每一个人都有必要去探究人工智能的奥秘,以便在即将到来的变革大潮中争得一席之地。

—— 马伯庸 作家

本书系统地介绍了扩散模型的原理和相关细节,同时书中丰富的实战案例也将引领读者快速上手扩散模型。对于任何想要学习和了解扩散模型的人来说,本书都是颇具价值的参考资料。

—— 周明 澜舟科技创始人兼CEO 、创新工场首席科学家、CCF副理事长

本书从“一滴墨水”开始,由浅入深,从理论到实践“扩散”出了图像、文本与音频的AIGC蓝图,并为读者保留了精华,去除了“噪声”,还原出了知识体系最真实的“分布”。

—— 杨耀东 北京大学人工智能研究院研究员

仔细阅读本书,你既可以对扩散模型背后的原理有较为深刻的理解,也可以依此动手进行实践,从而牢固掌握扩散模型,为进一步创新或深度应用打下坚实基础。

—— 钟声 声网CTO

《扩散模型从原理到实战》以Hugging Face的扩散模型课程为基础,通过理论和实例相结合的方式,为读者构建了一个完整的学习框架。无论你是新手还是经验丰富的从业者,这本以实战为导向的图书都能够帮助你更好地理解和应用扩散模型。

—— 王铁震 Hugging Face中国地区负责人、高级工程师

图:书中教学内容

此外,Hugging Face 团队成员和中国社区的志愿者、开发者也功不可没。这些低调的技术服务者为本书的出版付出了巨大的努力。

正是因为有了这样庞大的支持团队,本书才得以顺利完成!

04

未来趋势,就在你手中!

剑桥大学的2022年 AI 全景报告(《State of AI Report 》)指出:扩散模型席卷计算机视觉世界是AI五大趋势之一。

从国内外各机构、大厂近期的种种操作看来,这个预测已经照进现实:

▮ 清华朱军团队开源首个基于Transformer的多模态扩散大模型;

▮ 谷歌提出扩散模型推理加速新方法;

▮ 英特尔研究院宣布与Blockade Labs合作发布LDM3D扩散模型,使用生成式AI创建3D视觉内容……

扩散模型不再是论文里的畅想,而是握在手中的实际成果。如何用扩散模型创造更多可能?欢迎入手这本书寻找答案!

点击封面,即可购书

作者老王sai【参考资料】

1.AI蛋白设计再登Nature:Diffusion模型助力更强的蛋白质从头设计

2.扩散模型家族再添一员,最新 Cold Diffusion 不再依赖高斯噪声

3.2022 剑桥 AI 全景报告出炉:扩散模型是风口,中国论文数量为美国的 4.5 倍

4.AI生成艺术的底层原理:非平衡物理的扩散模型

5.AI不止ChatGPT,上 Hugging Face Hub,带你探索更多AI模型和应用https://zhuanlan.zhihu.com/p/623521984

6.英特尔实验室推出AI扩散模型,可从文本提示产生360度图片

7.OpenAI全面开放GPT-4 API;Stability AI推出新扩散模型SDXL

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
教育部应该反思,即使是北京大学,也会撕毁一个天才数学家

教育部应该反思,即使是北京大学,也会撕毁一个天才数学家

回旋镖
2026-07-19 13:21:11
多家上市公司回应稳定股价相关举措

多家上市公司回应稳定股价相关举措

证券时报
2026-07-19 19:54:30
英法6-4狂轰10球引众怒,球迷围攻FIFA官网,两队或将被正式调查

英法6-4狂轰10球引众怒,球迷围攻FIFA官网,两队或将被正式调查

茶喝多了睡不着
2026-07-19 23:30:03
7月16日,陈冠希分享了一张去看世界杯的近照,只见他在观众席穿着球衣戴着眼镜和帽子,与年轻时的痞帅判若两人

7月16日,陈冠希分享了一张去看世界杯的近照,只见他在观众席穿着球衣戴着眼镜和帽子,与年轻时的痞帅判若两人

牛油果生活观
2026-07-19 12:09:43
五天票房只有429元,多位明星加盟助力,今年暑期档最惨电影诞生了

五天票房只有429元,多位明星加盟助力,今年暑期档最惨电影诞生了

影视高原说
2026-07-19 08:17:32
世界杯决赛预测:西班牙让1球赔率100/30,专家:阿根廷油箱已空

世界杯决赛预测:西班牙让1球赔率100/30,专家:阿根廷油箱已空

星河漫山野
2026-07-20 01:24:00
阿根廷足协:国家队回国,20日至21日所有比赛暂停

阿根廷足协:国家队回国,20日至21日所有比赛暂停

懂球帝
2026-07-19 02:57:21
长沙挪车事件续,央媒再次下场怒批“春秋笔法”,闵某被禁开直播

长沙挪车事件续,央媒再次下场怒批“春秋笔法”,闵某被禁开直播

观察鉴娱
2026-07-19 11:08:17
马来西亚总理:将驱逐境内所有以色列人,马来西亚不承认以色列是一个国家,因为以色列殖民其他国家

马来西亚总理:将驱逐境内所有以色列人,马来西亚不承认以色列是一个国家,因为以色列殖民其他国家

极目新闻
2026-07-19 10:16:08
曝台湾演员刘德凯云南定居,出行开奔驰老S,72岁状态好仍很帅气

曝台湾演员刘德凯云南定居,出行开奔驰老S,72岁状态好仍很帅气

一盅情怀
2026-07-19 20:30:52
无耻到极点了!没收中国敬业钢厂后,英国商业大臣:不一定会赔

无耻到极点了!没收中国敬业钢厂后,英国商业大臣:不一定会赔

青青子衿
2026-07-18 18:53:47
蒋方舟抄袭了一本诺奖得主神作:一群孩子被制造出来,只为割掉所有器官供给有钱人

蒋方舟抄袭了一本诺奖得主神作:一群孩子被制造出来,只为割掉所有器官供给有钱人

知识圈
2026-07-19 13:20:08
西班牙队可全主力出战决赛,亚马尔已参与球队合练;阿根廷队主帅斯卡洛尼“释放烟雾弹”:所有人都疲惫不堪;(附:观赛指南)

西班牙队可全主力出战决赛,亚马尔已参与球队合练;阿根廷队主帅斯卡洛尼“释放烟雾弹”:所有人都疲惫不堪;(附:观赛指南)

大象新闻
2026-07-19 20:52:21
领导突然提拔我当主管,月薪涨到30000,还叮嘱我别声张!结果一个月后他离职了,新领导说:从来没有人给我汇报过这件事,得重新评估

领导突然提拔我当主管,月薪涨到30000,还叮嘱我别声张!结果一个月后他离职了,新领导说:从来没有人给我汇报过这件事,得重新评估

励职派
2026-07-19 19:15:17
杭州黄总现身!“黄总邀请你去包厢”事件迎来大结局,多部门联合调查后,女方同意和解

杭州黄总现身!“黄总邀请你去包厢”事件迎来大结局,多部门联合调查后,女方同意和解

火山詩话
2026-07-19 06:48:15
男子冒充大老板,订5辆总价450万奔驰,女销售为促成大单垫付6千余元食宿,3天后男子突然消失,女销售才发现被骗

男子冒充大老板,订5辆总价450万奔驰,女销售为促成大单垫付6千余元食宿,3天后男子突然消失,女销售才发现被骗

散文诗歌诗词悦读
2026-07-19 18:34:55
回应会员炒股亏损千万元,任泽平发声明公布细节

回应会员炒股亏损千万元,任泽平发声明公布细节

极目新闻
2026-07-19 22:40:08
电诈园区找到新落点?东帝汶数周拘留300多名嫌疑人员

电诈园区找到新落点?东帝汶数周拘留300多名嫌疑人员

红星新闻
2026-07-19 14:57:24
环球时报快评:默茨对华歪心思背后的四重算计

环球时报快评:默茨对华歪心思背后的四重算计

环球时报国际
2026-07-19 16:26:07
被批“离谱至极”!法国队0比4落后,姆巴佩在中场休息时与对方球员互换球衣,与对方主帅谈笑风生

被批“离谱至极”!法国队0比4落后,姆巴佩在中场休息时与对方球员互换球衣,与对方主帅谈笑风生

红星新闻
2026-07-19 08:47:16
2026-07-20 02:31:00
Ai学习的老章 incentive-icons
Ai学习的老章
Ai学习的老章
3476文章数 11179关注度
往期回顾 全部

科技要闻

Kimi K3单项登顶 整体落后前沿模型2-3个月

头条要闻

伊朗发动袭击:密集轰炸

头条要闻

伊朗发动袭击:密集轰炸

体育要闻

世界杯决赛,从“澡盆德比”500年前讲起

娱乐要闻

王侃因病逝世 两年前与父亲牛犇同台

财经要闻

任泽平VIP会员自称爆仓巨亏千万

汽车要闻

被追尾还能自动加速逃生?华为乾崑智驾ADS 5.0 OTA时间表发布,只有这台车不用等!

态度原创

数码
时尚
教育
健康
公开课

数码要闻

AMD Zen6处理器跑分还再涨!同核心提升达35%

除了机车包,Balenciaga的服装才是真正顶流

教育要闻

2026年高考“超级爆冷”:985大学仅549分,211跌到413分,全国罕见!

刮痧也会刮出脑梗?讲个真实案例

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版