第 D2 关 · 基础 · 扩散模型 · 在浏览器里运行
English

采样与引导

怎样让它画出你要的东西?

支线 · 最好在之后学: 第 10 · 概率与采样 关

这一关接着支线 D1。

在支线 D1 里,从很重的噪声出发只猜一次,得到的答案并不清晰。 生成的办法是改成走很多小步:

  1. 从 t = 50 的纯随机点出发。
  2. 猜出噪声,去掉其中一点,这样就往回走了一步。
  3. 重复:49、48,一直到 0。

1. 往回走一步

支线 D1 里有两个字母长得几乎一样,这里把它们并排放在一起,用的是 3 步例子里 t = 3 的情况:

含义t = 3 时代码里
α_t(alpha)这一步保留的部分,1 − β_t0.5alpha
ᾱ_t(alpha-bar)到目前为止所有步保留的部分,乘在一起0.9 × 0.8 × 0.5 = 0.36ab

去掉“一点”噪声有它自己的公式,两个字母都要用到。设噪声猜测为 ε̂(eps-hat):

mean=xt−βt1−αˉt  ε^αt\text{mean} = \frac{x_t - \dfrac{\beta_t}{\sqrt{1-\bar\alpha_t}}\;\hat\varepsilon}{\sqrt{\alpha_t}} xt−1=mean+βt  zx_{t-1} = \text{mean} + \sqrt{\beta_t}\; z

z 是一份新的随机噪声。没错,又放回去了一点噪声。大多数人都想不到这一点,下面有个方框解释为什么。

用支线 D1 里 3 步的例子(β = 0.1、0.2、0.5),以及那里的加噪点:x_3 = [1.0, 0.4]。 假设网络猜噪声是 ε̂ = [0.5, -1]。在 t = 3:β = 0.5,α = 0.5,alpha-bar = 0.36。 先算噪声猜测前面的那个数:

数字 β = 0.5,alpha-bar = 0.36。β / √(1 − alpha-bar) 是多少?

有了这个数,这一步剩下的就只是减法和除法。

数字 反向的一步:mean = (xₜ − 0.625 × ε̂) / √α。这里 x₃ = [1.0, 0.4],噪声猜测 ε̂ = [0.5, −1],α = 0.5。用 1 / √0.5 ≈ 1.41。均值的第一个数是多少?(保留 2 位小数)

用新噪声 z = [0.2, -0.4],你得到 x_2 = [1.114, 1.167]。

往回走的一步不会沿着原路返回。它从这个点可能来自的那些地方里,随机挑一个新位置。 这里的 z 是特意挑的,让结果落在同一个点正向走到 t = 2 时所在的位置附近,也就是 [1.113, 1.168]。 换一个 z,这一步会落在附近的别处,这也没问题。

选择在最后一步,从 t = 1 到 t = 0,要不要加新噪声 z?

现在写出这一步。最后一步,从 t = 1 到 t = 0,z 传入全零。

代码写出反向的一步。z 是新噪声。

Enter 保持缩进 · Tab 缩进 · 先按 Esc 再按 Tab 离开编辑框 · ⌘/Ctrl + Enter 运行

一步能走了。生成就是把这一步重复 50 次。

2. 看着 50 步走完

现在换成一个真正训练好的网络。它学过三种形状:螺旋、圆环和双月。 每个点都从随机噪声开始。按几次 走一步,再按 播放。右边的数字跟着高亮的那个点走完每一步。

反向采样:从噪声回到形状

选一个形状,然后按“走一步”。每一步,网络都猜出噪声,再去掉其中一点。

正在加载训练好的网络…

t = 50 / 50

每个点都从随机噪声开始。按“走一步”。

加载中…
目标形状 第 t 步的点 我们跟踪的点
我卡在这里了 明明在去噪声,为什么还要加回新噪声?这不是走反了吗?

噪声猜测从来都不精确。它是网络给出的最佳平均猜测,而平均值总比任何一个具体答案更模糊。 在这个采样器里,如果你只减不加,每个点都会朝“平均”答案移动,样本会挤到形状的中间, 或者全落在少数几个地方。

原因就在公式里:上面的均值是为一个会加新噪声的步骤推出来的。每一步加一点点, 能让这些点保持和真实数据一样散开。加的量随着 t 变小而变小,到最后一步就一点也不加了。 在螺旋上试试“走到底”:这些点会沿着整条旋臂散开,而不是挤在几个地方。

也有一点噪声都不加的采样器。它们用的是另一个专门为此设计的步骤公式。

深入一点 一步公式是从哪来的

正向走一步是 x_t = √α_t · x_(t−1) + √β_t · noise。要往回走,你想知道已知 x_t 时的 x_(t−1)。

如果你还知道干净的点 x_0,这个问题有精确的答案:x_(t−1) 服从一个高斯(正态)分布, 中心是 x_t 和 x_0 的加权混合。你不知道 x_0,但支线 D1 讲过怎样由 x_t 和噪声猜测去猜它。 把这个猜测代进混合里,化简,各项整理后就是上面的均值。

这个均值周围的标准差本应比 √β_t 稍小一点,但实际上直接用 √β_t 效果一样好,而且更简单。

3. 点名要一个形状

这个网络训练时带着标签:“这个点来自螺旋”,“这个点来自圆环”。 20% 的训练样本把标签藏了起来。所以同一个网络可以给出两个猜测:

  • ε_free:不带标签的噪声猜测。它只知道“某种形状”。
  • ε_shape:告诉它是哪种形状时的噪声猜测。

引导(guidance)把两者混起来:

ε^=εfree+w (εshape−εfree)\hat\varepsilon = \varepsilon_\text{free} + w\,(\varepsilon_\text{shape} - \varepsilon_\text{free})

  • w = 0 不管标签。
  • w = 1 原样使用带标签的猜测。
  • w > 1 越过它,朝着让点“更像这个形状”的方向推得更远。
数字 引导把两个噪声猜测混起来:ε̂ = ε_free + w (ε_shape − ε_free)。ε_free = [0.2, 0.0],ε_shape = [0.6, −0.4],w = 3。引导后的猜测 ε̂ 的第一个数是多少?
先猜一猜试之前先猜一猜:w 非常大,比如 10 的时候,样本会怎样?

引导:w 把点往形状上推得有多用力

拖动 w。每次都用同一份起始噪声,所以只有 w 在变。

正在加载训练好的网络…

0:不管形状1:原样10:用力推
落在形状上…
形状覆盖…
0%50%100%01510w
采样中…
真实形状 这个 w 下的样本 落在形状上:离形状不到 0.15 的样本 形状覆盖:形状上 0.15 以内有样本的部分 曲线是用 120 个点快速跑出来的,所以和上面两个方框里的数略有不同

w = 1 时形状不太清晰。对这么小的网络来说这很正常。把 w 往上拖,看形状变清晰。

动手试试

选圆环,把 w 从 0 拖到 10。两个数都盯着:“落在形状上”先升后降, 而 w 超过大约 3 以后,“形状覆盖”开始下降。找一个让两者平衡得比较好的 w。 对螺旋也是同一个 w 吗?

数字 带引导的采样,ε̂ = ε_free + w (ε_shape − ε_free),一共走 50 步。总共要跑多少次网络?(跑一次就能同时处理全部 300 个点。)

最后一块就是引导的混合本身。

代码写出引导的混合。

Enter 保持缩进 · Tab 缩进 · 先按 Esc 再按 Tab 离开编辑框 · ⌘/Ctrl + Enter 运行

现在把两半合起来。带引导的往回一步就是:混合两个噪声猜测,再用混合后的猜测走第 1 节的反向一步。 实验台做的正是这件事,做 50 次。

代码写出带引导的往回一步,从 x 到下一个 x,引导权重为 w。z 是新噪声(最后一步为全零)。

Enter 保持缩进 · Tab 缩进 · 先按 Esc 再按 Tab 离开编辑框 · ⌘/Ctrl + Enter 运行

现在你能从纯噪声画出指定的形状了。在支线 D3 里,这些点会变成图片, 而猜噪声的网络是一个 Transformer。

小结

通关后的总结

通关后,这里会显示关键公式和常见错误。

你现在会了

  • 手算反向的一步:由噪声猜测算出均值,再加上按 √β 缩放的新噪声。
  • 说清楚为什么每一步都要加回一点新噪声,以及为什么最后一步一点也不加。
  • 用引导权重 w 混合两个噪声猜测,并在反向一步里使用混合后的猜测。

要记住

  • ,最后一步
  • α_t = 这一步保留的部分;ᾱ_t = 到目前为止所有步保留的部分
  • :w = 0 不管标签,w > 1 越过它
  • 引导每一步要跑两次网络:50 步 → 100 次

常见错误

  • 均值的分母除以 ,而不是这一步的 。
  • 新噪声按 β 缩放而不是按 √β 缩放,或者在最后一步也加了噪声。

按 ? 查看快捷键

阅读模式 · 实验台数值全部显示,不计星