知识卡片
扩散模型与一致性模型
扩散模型把生成拆成许多小步:前向过程按随机微分方程逐步往数据里加高斯噪声,直到数据变成近乎纯噪声;反向过程学习每一步如何去噪,从纯噪声出发一点点还原出图像。它不追求一步到位,而是用大量小步换取稳定与质量。
优点是画质顶尖、细节与纹理逼真,训练也比 GAN 稳——没有对抗博弈,目标就是一个去噪回归问题。缺点是采样慢:必须顺序执行几十到上千步,无法像 GAN 那样一次前向出图,在需要实时或低延迟的场景里不实用。
一致性模型正是冲着这个缺点来的。它利用去噪过程遵循的 ODE 轨迹,训练网络把轨迹上任意一点直接映射回清晰图像,因此可以一步生成。画质据原论文可与扩散模型相比,速度大幅提升;代价是训练需要大量成对的含噪图像与清晰图像,训练成本高。
取舍因此很清楚:要质量、能等,用扩散;要速度、愿意付训练成本,考虑一致性模型,但它的广泛适用性仍待观察。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第9章 生成式AI模型 · 查看原书依据
扩散模型利用随机微分方程,通过一系列步骤将输入数据的分布转化为简单的噪声分布。扩散是一种随机过程,其逐步向数据中添加噪声,直至接近更简单的分布,如高斯噪声。
参考来源
- 位置:《大模型技术30讲》第9讲 生成式AI模型(源文件:extracted/大模型技术30讲/_epub-src/EPUB/xhtml/chapter01_0013.xhtml)
- 结论依据:原文 9.2.6 与 9.2.7 节说明扩散的前向加噪与反向去噪、采样慢但质量高,以及一致性模型基于 ODE 轨迹的一步生成与高昂训练成本。
- 原始内容:扩散模型利用随机微分方程,通过一系列步骤将输入数据的分布转化为简单的噪声分布。扩散是一种随机过程,其逐步向数据中添加噪声,直至接近更简单的分布,如高斯噪声。