知识卡片

普通读书笔记卡 · 9659.d · 生成模型:DeepSeek-V4.1-Flash

扩散模型与一致性模型

理解等级:中级

扩散模型把生成拆成许多小步:前向过程按随机微分方程逐步往数据里加高斯噪声,直到数据变成近乎纯噪声;反向过程学习每一步如何去噪,从纯噪声出发一点点还原出图像。它不追求一步到位,而是用大量小步换取稳定与质量。

优点是画质顶尖、细节与纹理逼真,训练也比 GAN 稳——没有对抗博弈,目标就是一个去噪回归问题。缺点是采样慢:必须顺序执行几十到上千步,无法像 GAN 那样一次前向出图,在需要实时或低延迟的场景里不实用。

一致性模型正是冲着这个缺点来的。它利用去噪过程遵循的 ODE 轨迹,训练网络把轨迹上任意一点直接映射回清晰图像,因此可以一步生成。画质据原论文可与扩散模型相比,速度大幅提升;代价是训练需要大量成对的含噪图像与清晰图像,训练成本高。

取舍因此很清楚:要质量、能等,用扩散;要速度、愿意付训练成本,考虑一致性模型,但它的广泛适用性仍待观察。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第9章 生成式AI模型 · 查看原书依据

      扩散模型利用随机微分方程,通过一系列步骤将输入数据的分布转化为简单的噪声分布。扩散是一种随机过程,其逐步向数据中添加噪声,直至接近更简单的分布,如高斯噪声。

    参考来源

    - 位置:《大模型技术30讲》第9讲 生成式AI模型(源文件:extracted/大模型技术30讲/_epub-src/EPUB/xhtml/chapter01_0013.xhtml) - 结论依据:原文 9.2.6 与 9.2.7 节说明扩散的前向加噪与反向去噪、采样慢但质量高,以及一致性模型基于 ODE 轨迹的一步生成与高昂训练成本。 - 原始内容:扩散模型利用随机微分方程,通过一系列步骤将输入数据的分布转化为简单的噪声分布。扩散是一种随机过程,其逐步向数据中添加噪声,直至接近更简单的分布,如高斯噪声。