第 D1 关 · 基础 · 扩散模型 · 在浏览器里运行
English

加噪与去噪

一步一步往图片里掺噪声,能不能再把它还原?

支线 · 最好在之后学: 第 10 · 概率与采样 关

Transformer 一次写一个词。扩散(diffusion)模型生成图片的方式不一样。 它从纯噪声出发,每次去掉一点噪声,重复很多次,直到剩下一张图。

为了学会怎样去掉噪声,模型先看反方向的过程:干净的数据被一点点混进噪声。 这个方向很容易,一行数学就够了。

你需要: 基础部分(第 1–10 关)。D1 和 D2 不用别的。D3 还会用到注意力和 Transformer 块,所以学完第 16 关再来做 D3。

我们的“图片”是一团排成螺旋形的二维点。每个点就是两个数,所以一切你都能看见。

1. 加噪声

每一步都往每个点里混进一点随机噪声。走了 t 步之后,点 x0 变成了:

xt=αˉt  x0+1−αˉt  εx_t = \sqrt{\bar\alpha_t}\; x_0 + \sqrt{1-\bar\alpha_t}\; \varepsilon

  • ε(eps)是从你在第 10 关采样过的正态分布里抽出来的噪声:每个点抽一对新的数。
  • ᾱ_t(alpha-bar)表示走了 t 步之后,原来的信号(干净的点 x0)还剩多少。它从 1 开始,一路降向 0。
  • 在这条支线里,T 是总步数,不是第 10 关里的温度 T。 α 上面那一横的意思是“把到目前为止的每一步乘起来”。代码里它叫 ab。

ᾱ_t 降向 0 时,信号的权重 √ᾱ_t 也降向 0,噪声的权重 √(1 − ᾱ_t) 则升向 1。 下面的实验台用 50 步(把这个数记作 T = 50)。先别拖,问问自己:最后一步是什么样子?

选择用 xₜ = √ᾱₜ x0 + √(1 − ᾱₜ) eps 往一团螺旋形的二维点里混入噪声。在 50 步的调度里,t = 50 时 alpha-bar 是 0.0045。这时螺旋是什么样子?

现在拖动 t,看螺旋怎样变成噪声。高亮的那个点是我们跟踪的点。

前向过程:螺旋慢慢变成噪声

拖动 t。每个点都混入自己那份固定的噪声,所以它会平滑地移动。

ᾱ (ab)1.0000
x0[0.293, 0.146]
eps[-0.583, 0.641]
x_t = 1.000 × x0 + 0.000 × eps
x_t[0.293, 0.146]
t = 0:还没加任何噪声,每个点都还在螺旋上。
第 t 步的点云 这个点的起点 我们跟踪的点,和它的路径

alpha-bar 是从哪来的?每一步有一个小数 β(beta),就是这一步加进去的噪声量。 这一步保留 α = 1 − β 的信号。走了好几步之后,把每一步保留的部分乘起来。

在一个只有 3 步的小例子上试试:β = 0.1、0.2、0.5,所以 α = 0.9、0.8、0.5。

数字 β = 0.1、0.2、0.5 时,走完 3 步后 alpha-bar 是多少?

为什么要开平方?

alpha-bar 是 0.36,可公式里信号乘的是 √0.36 = 0.6。两个都对,因为它们量的是不同的东西。 在第 10 关里,你用标准差来衡量一堆数散得有多开。标准差的平方是方差(variance),而 alpha-bar 数的正是方差: 信号的方差还剩 36%。把一个数乘以 0.6,它的方差就乘以 0.6² = 0.36。

剩下的归噪声。它的权重是 √(1 − 0.36) = √0.64 = 0.8,所以它的方差是 0.8² = 0.64。

数字 信号乘以 0.6,噪声乘以 0.8。0.6² + 0.8² 是多少?

这个和就是开平方的原因。两个权重的平方加起来,在每一步都等于 1。 所以如果干净数据的方差是 1,加噪后的数据在每一步的方差也是 1:这团点只是从“螺旋”变成“噪声”, 不会变大,也不会变小。真实的模型正是因此把数据缩放到方差为 1。 我们的螺旋方差大约是 0.6,所以它变成方差为 1 的噪声时,这团点会稍微变大一点。

现在对一个点算一算。取 x0 = [1, 2],噪声 eps = [0.5, -1]。 在 t = 3 时,√0.36 = 0.6,√(1 − 0.36) = 0.8。答完之后,把实验台切到 手算例子 · 3 步,拖到 t = 3,看这个点怎样移动。

数字 x0 = [1, 2],eps = [0.5, −1],alpha-bar = 0.36。x₃ 的第一个数是多少?
我卡在这里了 为什么能直接跳到第 t 步?噪声不是得一步一步地加吗?

你可以一步一步地加,得到的结果是同一类的。 两份独立的正态噪声加起来,就是一份更大的正态噪声,所以 t 步可以合成一个公式。 这个捷径对训练很重要:要造一个第 37 步的训练样本,你不用真的跑 37 步。 算一次 alpha-bar,直接跳过去。

自己写出这个捷径。它对一个点或一整个数组的点都能用。

代码写出 add_noise。ab 是 alpha-bar。它应该对一个点或一个点数组都能用。

Enter 保持缩进 · Tab 缩进 · 先按 Esc 再按 Tab 离开编辑框 · ⌘/Ctrl + Enter 运行

现在把两部分合起来:从一列 beta 出发,返回第 t 步的加噪点。 三个 NumPy 小工具就够了:

  • betas[:t] 取前 t 个 beta(位置 0 到 t − 1),所以第 t 步用的是第 1 步到第 t 步。
  • 1 - betas[:t] 把它们变成 α 值,也就是每一步保留的部分。
  • np.prod 把一个数组里的所有数乘起来:np.prod(np.array([0.9, 0.8, 0.5])) 是 0.36。
代码写出 noisy_at:给定干净点 x0、噪声 eps、一列 beta 和步数 t(从 1 开始数),先算出第 t 步的 alpha-bar,再返回加噪点 xₜ。

Enter 保持缩进 · Tab 缩进 · 先按 Esc 再按 Tab 离开编辑框 · ⌘/Ctrl + Enter 运行

加噪声是容易的那一半。接下来是让生成成为可能的那一半:去掉噪声。

2. 倒着走

关键的想法是:如果你确切知道加进去的是哪份噪声 eps,就能把公式倒过来,拿回 x0:

x0=xt−1−αˉt  εαˉtx_0 = \frac{x_t - \sqrt{1-\bar\alpha_t}\;\varepsilon}{\sqrt{\bar\alpha_t}}

换一个点试试。在 t = 3 时(所以还是 0.6 和 0.8),一个点位于 x_3 = [0.7, 1.0],并且有人告诉你它的噪声是 eps = [0.5, 0.5]。

数字 在 t = 3(alpha-bar 为 0.36)时,x₃ = [0.7, 1.0],真实噪声是 eps = [0.5, 0.5]。x0 的第二个数是多少?

生成的时候,没人告诉你噪声是什么。所以要训练一个网络去猜它。 网络看到一个加噪后的点和步数 t,输出它对噪声的猜测。 损失是猜测和真实噪声之间的均方误差。

数字 最简单的网络永远猜噪声是 [0, 0]。某个点的真实噪声是 [0.5, −1]。损失 mean((guess − eps)²) 是多少?
形状 一个训练批有 128 个加噪点。每一行输入是这个点的 x 和 y,再加上编码步数 t 的 12 个数。送进网络的形状是什么?
深入一点 为什么网络需要知道 t

拿同一个加噪后的位置,放在两个不同的步数上:

  • 在第 2 步,这个点几乎没动,所以它差不多全是信号。正确的噪声猜测很小。
  • 在第 48 步,这个点几乎是纯噪声。正确的猜测接近这个点本身。

同一个位置,在不同的步数上需要不同的答案。

所以网络把 t 当作 12 个额外的数来接收:t/T(T = 50,总步数)在 6 个不同频率(每个重复得有多快)下的 sin 和 cos。 用一个数也行,但这 12 个数让网络很容易把相近的步数当成差不多,把相隔很远的步数区别对待。 Transformer 对词的位置用的也是这个办法(第 16 关)。

3. 训练猜噪声的网络

接下来你在浏览器里训练这个网络。每个训练步:

  1. 从螺旋里取 128 个点,
  2. 给每个点随机挑一个 t,加上对应的噪声,
  3. 让网络猜这份噪声,并稍微调整它的权重,让损失变小。

最简单的猜法是永远猜 [0, 0],在我们那一个点上得分 0.625。在很多份随机噪声上平均,它得分 1.0, 因为每个噪声数的方差是 1,所以 ε² 的平均是 1。训练应该比这更好。好多少?

先猜一猜训练之前先猜一猜:如果训练完美,损失会停在哪里?

现在按 训练。这是真正的梯度下降,用的是 Adam,和你在第 2 关、第 7 关见过的循环一样。

在浏览器里训练一个猜噪声的网络

按“训练”。然后拖动 t,看它在不同噪声量下猜得有多准。

第 0 / 4000 步 · 损失(最近 50 步的平均)—
第 t 步加噪后的点 网络猜的每个点的起点:(x_t − √(1 − ᾱ)·guess) / √ᾱ 永远猜 0
动手试试

把 4,000 步全部训练完,然后拖动“查看步数”。在 t = 5,猜出的点正好落在螺旋上。 在 t = 45,它们不再沿着螺旋,而是落在一团模糊的云里。为什么从这么多噪声出发,网络做不到更好? 是网络不好,还是这个问题本来就答不了?

还剩一块:把噪声猜测变成对干净点的猜测。用的就是第 2 节的倒推公式,只是把真实噪声换成网络的猜测。 这个猜测写作 ε̂(读作“eps-hat”,代码里是 eps_hat):字母上加一顶帽子,表示对它的估计。

代码写出 guess_clean:给定一个加噪点、网络的噪声猜测和 alpha-bar,返回对 x0 的猜测。

Enter 保持缩进 · Tab 缩进 · 先按 Esc 再按 Tab 离开编辑框 · ⌘/Ctrl + Enter 运行

现在两半你都有了。正向:一行加噪声的公式。反向:一个猜噪声的网络。 你也看到了,从很重的噪声出发只猜一次,得到的答案并不清晰。在支线 D2 里,你会改成走很多小步,而不是一大步, 螺旋就会清晰地回来。

小结

通关后的总结

通关后,这里会显示关键公式和常见错误。

你现在会了

  • 由一列 beta 算出 alpha-bar:把每一步保留的部分乘起来,α = 1 − β。
  • 用一行公式直接算出任意第 t 步的加噪点,不用把中间的步骤跑一遍。
  • 用一个噪声猜测把公式倒过来,得到干净点的猜测。

要记住

  • ,其中 ;代码里是 np.prod(1 - betas[:t])
  • 两个权重的平方加起来等于 1,所以方差不变:
  • 网络看到加噪后的点和 t,猜出噪声;它的损失是 mean((eps_hat - eps)**2)

常见错误

  • 直接拿 alpha-bar 当权重:信号的权重是 (0.8),不是 (0.64)。
  • 把 beta(加进去的噪声)乘起来,而不是把 alpha(保留的信号)乘起来。

按 ? 查看快捷键

阅读模式 · 实验台数值全部显示,不计星