第 2 关 · 基础 · 在浏览器里运行
English

梯度下降

机器怎样从错误中学习?

模型就是一个公式,里面有一些可以调的数,叫作参数(parameter),也叫权重。学习,就是不断调整参数,直到公式给出的答案和数据对上。 这一关用的是最小的模型:一条直线,只有两个参数:

y^=w⋅x+b\hat y = w \cdot x + b

y^\hat y(读作“y hat”)是这条直线对输入 xx 的预测。这里两个单独的数之间的“·”就是普通的乘法。 (在第 1 关里,它把两个列表连起来;用在单独的数上,它就是 ×。)

数据是三个点:(1, 2)、(2, 4)、(3, 6)。你一眼就能看出答案是 w = 2,b = 0。机器看不出来。 它从一个猜测出发,w = 0.5,b = 0,要一步一步走到答案。

1. 衡量错了多少

对每个点,误差(error)是预测值减去真实值。把每个误差平方,这样往哪个方向偏都算错,然后取平均。 这一个数就是损失(loss):

L=mean((wx+b−y)2)L = \text{mean}\big((w x + b - y)^2\big)

三个点上的梯度下降

手动调 w 和 b,或者让它一步步走。直线、误差和损失曲面会一起动。

02468123x →y
数据、直线 y = w·x + b,每个误差画成一条虚线。
拖动旋转 · 点一下后用滚轮缩放

第一次点击会选中这个视图。之后在曲面上点击,点就会移到那里。

每个 (w, b) 处的高度是 ln(1 + loss):越低越好。大的损失被压小了很多,这样谷底还看得清。
xyw·x + b误差误差²2·error·x2·error
120.5-1.5???
241-3???
361.5-4.5???
平均loss = ?grad_w = ?grad_b = ?
在下面亲手算出一步之后,这些按钮才会解锁。
你:当前的 (w, b) 损失最低处,w = 2,b = 0 走过的路径 一个误差(预测值 − y)
数字 从 w = 0.5,b = 0 出发。预测值是 0.5、1、1.5,目标值是 2、4、6。均方误差损失是多少?

2. 哪边是下坡?

损失是 (w, b) 上的一个曲面:实验台右边的面板画的就是它。在 3D 视图里,高度不是损失本身,而是由损失算出的一个更小的数:损失越大,位置仍然越高,但大的值被压小了很多,这样低处还能看得清。(如果你好奇:高度是 ln⁡(1+loss)\ln(1 + \text{loss}),ln 的介绍在数学页。) 想让损失变小,你得知道:把 w 调大一点,损失是变大还是变小?变得有多快? 这个变化率就是梯度(gradient)。说白了:w 每挪一小步,L 变多少。 它写作 ∂L/∂w\partial L/\partial w,读作“L 对 w 的偏导数”。 “偏”的意思是只让 w 动,其他都不变。∂L/∂b\partial L/\partial b 也一样,只是换成只让 b 动。 对只有一个输入的函数,斜率有个简短的写法:f′(x)f'(x),读作“f 撇 x”。它是 ff 在 xx 处的斜率。 (第一次接触导数?数学页用数字演示了一个例子。)对这个损失,两个梯度是:

∂L∂w=mean(2⋅error⋅x)∂L∂b=mean(2⋅error)\frac{\partial L}{\partial w} = \text{mean}(2 \cdot \text{error} \cdot x) \qquad \frac{\partial L}{\partial b} = \text{mean}(2 \cdot \text{error})

在纸上算一算。你答完之后,实验台下面的表格会列出每一项,方便你核对。

数字 用直线 ŷ = w·x + b 拟合点 (1, 2)、(2, 4)、(3, 6),损失是 L = mean((w·x + b − y)²)。在 w = 0.5,b = 0 处,∂L/∂w 是多少?

3. 走一步

把每个参数逆着它的梯度挪一小段。“一小段”有多大,由学习率(learning rate)决定:

w←w−lr⋅∂L∂wb←b−lr⋅∂L∂bw \leftarrow w - \text{lr} \cdot \frac{\partial L}{\partial w} \qquad b \leftarrow b - \text{lr} \cdot \frac{\partial L}{\partial b}

学习率取 0.05,手算新的 w。算完后,实验台里走一步的按钮就会解锁,“走一步”会帮你核对。

数字 w = 0.5,它的梯度是 −14。学习率为 0.05 时,走一步之后 w 是多少?
我卡在这里了 w 的梯度是 −14。为什么是负的?它说明了什么?

负的意思是:w 变大,损失就变小。现在每个预测都偏低 (0.5、1、1.5,而目标是 2、4、6),所以直线陡一点会更好。

大小 14 说明此刻损失对 w 有多敏感。它这么大,是因为我们离答案还很远。 快到谷底时,梯度会缩向 0,步子也会自己变小,学习率不用改。

走了一步,损失就从 10.5 降到了约 2.117。多按几次“10 步”,看路径沿着曲面往下走, 走向最低点 w = 2,b = 0。

选择用直线 ŷ = w·x + b 拟合点 (1, 2)、(2, 4)、(3, 6)。在 w = 0.5,b = 0 处,损失是 10.5,∂L/∂w = −14,∂L/∂b = −6。最好的直线是 w = 2,b = 0。现在你把学习率从 0.05 换成 0.2,对 w 和 b 各走一步。损失会怎样?
深入一点 梯度公式是怎么来的

只看一个点。它的损失是 (wx+b−y)2(wx + b - y)^2。把括号里的部分记作 e=wx+b−ye = wx + b - y,也就是误差。

损失是 e2e^2,ee 变化时,e2e^2 以 2e2e 的速率变化。 ww 变化时,ee 以 xx 的速率变化(因为 ww 乘着 xx);bb 变化时,ee 以 11 的速率变化。

把两个速率乘起来:∂L/∂w=2e⋅x\partial L/\partial w = 2e \cdot x,∂L/∂b=2e⋅1\partial L/\partial b = 2e \cdot 1。 因为损失是平均值,再对所有点取平均。整个公式就是这样来的。

“沿路把速率乘起来”叫作链式法则(chain rule)。第 6 关就是把这个想法用到整个网络上。

4. 自己写一遍

写出 w 的梯度。x 和 y 是 NumPy 数组,所以 np.mean 会对所有点取平均。

有一个 Python 写法,后面每一关都会用到:乘方写作 **。所以损失写成 np.mean(error ** 2),其中 error ** 2 把每个元素都平方。不要用 ^ 表示乘方:在 Python 里它是另一个意思, 用在小数上还会报错。(更多内容见数学页。)

代码写出 w 的梯度。

Enter 保持缩进 · Tab 缩进 · 先按 Esc 再按 Tab 离开编辑框 · ⌘/Ctrl + Enter 运行

5. 为什么要逆着梯度走?

我卡在这里了 为什么要减去梯度?加上它不也能改变参数吗?

梯度指向损失增长最快的方向。 我们想让损失变小,所以往反方向走。如果加上梯度,就是在往曲面上爬,损失每一步都会变大。

动手试试

走到损失曲面上一个很远的角落,比如 w = −1,b = 3(在 3D 曲面上选一个点,或者在“平面图”视图里拖动), 从那里开始走几步。然后把学习率调到 0.15,再走一遍。哪条路径在山谷两侧来回跳?为什么?

6. 完整的循环

把三步合在一起:预测,算出两个梯度,把两个参数各走一步。然后重复。这门课里每一个模型 都是用这个循环训练的;变的只是梯度的公式越来越大。

代码写出训练循环的循环体:对 w 和 b 做一步梯度下降。要写好几行。

Enter 保持缩进 · Tab 缩进 · 先按 Esc 再按 Tab 离开编辑框 · ⌘/Ctrl + Enter 运行

最后检查一次:同样的步骤,换一组数据。

数字 现在的点是 (1, 3)、(2, 5)、(3, 7)。从 w = 0.5,b = 0 出发,学习率 0.05,做一步梯度下降(手算,或者用代码框里的 descend)。走完这一步,b 是多少?

小结

通关后的总结

通关后,这里会显示关键公式和常见错误。

你现在会了

  • 对几个点,手算均方误差损失。
  • 对一条直线算出 和 ,并逆着它们走一步。
  • 写出完整的训练循环:预测、算梯度、走一步、重复。

要记住

  • ,
  • :逆着梯度走一步
  • 学习率太大,会越过最低点,损失反而变大

常见错误

  • 把梯度加上去,而不是减掉:减去一个负的梯度,等于加。
  • w 的梯度里忘了乘 x,或者损失取的是平均,你却求了和。

按 ? 查看快捷键

阅读模式 · 实验台数值全部显示,不计星