2. 形状规则
形状规则就来自那一条规则。要把 A 的一行和 B 的一列逐个数相乘,
这一行和这一列的长度必须相同。在 NumPy 里,以及在整个课程里,@ 都表示矩阵乘法。所以:
内侧的两个数必须相等,并且会消失。剩下的是外侧的两个数。内侧的数相等时,我们说这两个形状对得上。
答案里的那次翻转有个名字:转置(transpose),写作 B.T。B 的第 i 行变成 B.T 的第 i 列,
所以 (3, 2) 的矩阵变成 (2, 3)。你会在第 6 关用到它,在注意力里还会再用到。
我卡在这里了 为什么不直接逐格相乘,就像两个矩阵相加那样?
这种运算也有。在 NumPy 里它是 A * B。它要求两个矩阵形状相同,
在掩码之类的地方会用到。但它从不在不同位置之间混合信息:
(0,0) 这一格永远只看到 (0,0) 这一格。
矩阵乘法会混合。每个输出格都把一整行和一整列结合起来。 神经网络的一层需要的正是这种混合。每个输出都是所有输入的加权和。
3. 自己写一遍
用三层循环写出乘法,不用 @,也不用 np.dot。最内层的循环遍历内侧的大小,
也就是会消失的那个维度。
Enter 保持缩进 · Tab 缩进 · 先按 Esc 再按 Tab 离开编辑框 · ⌘/Ctrl + Enter 运行