点积为什么与投影有关?
学习本课需要了解向量的坐标、长度和夹角。我们会在完成两个实验后再引入公式。
想象一支位于水平直线上方的蓝色箭头 a。从它的尖端向这条直线作垂线。从原点指向垂足的绿色箭头,就是它的“影子”。橙色箭头 b 沿同一条直线向右。
探索器还显示一个叫作点积的数。你能发现这个数与影子之间的关系吗?
记录你的探究过程
用笔记记录设置、预测、观察到的带符号影长、点积和投影向量。第一个参照情形是角度 0°,两个向量的长度分别为 10 和 1。第一个实验只改变角度;第二个实验固定 和 的方向,只改变 的长度。展开解释之前,把结果与参照情形比较,写下证据是否支持你的预测。
第一个实验:只旋转,不拉长
保持 a 的长度为 10,b 的长度为 1。操作之前,先预测:
- 夹角为 0° 时,影子应该有多长?
- 夹角为 90° 时,箭头还有长度,影子却能消失吗?
- 夹角为 180° 时,影子朝哪个方向?用什么符号能记录这个方向?
现在依次选择 、 和 ,然后试试 。比较影子和两个数值读数。
蓝色:矢量 a绿色:投影橙色:矢量 b
b 指向右侧,并绘制在线下方以提高可见性。两个向量使用相同的尺度。
箭头的长度没变,什么发生了变化?先解释正负号的含义,再展开下面的对照。
对照你的观察
影子的带符号长度在 0° 时为 10,在 90° 时为 0,在 180° 时为 −10。负号表示方向与 b 相反,并不表示几何长度为负。60° 时的值为 5。当 b 的长度为 1 时,点积在每种情况下都等于这个带符号的数。
影子落在 b 所在的整条直线上。它可以超过 b 的尖端,也可以指向反方向。
第二个实验:影子不动,数值能变吗?
在同一个探索器中选择 。这会将 b 设为 。记录影子的带符号长度、点积以及投影向量。
在把 从 1 改为 2 之前,先预测这三个量中哪些会改变。保持 a 不变,拉长 b,再比较结果。
接着预测长度为 3 时的结果,再检验一次。什么规律能解释这两个实验?
对照你发现的规律
影子向量始终是 ,带符号长度始终为 3。当 b 的长度从 1 变为 2、3 时,点积依次为 3、6、9。b 的方向决定影子落在哪里;b 的长度则缩放点积。
给这些量命名,并解释规律
影子箭头就是向量投影。它沿 b 方向的带符号长度称为标量投影,记作 。
当夹角 为锐角时,箭头、影子和垂线组成一个直角三角形。余弦等于邻边除以斜边,所以 。采用带符号的形式后,这一关系可以延伸到 90° 至 180°:
点积可以通过坐标计算。在二维中:
在第二个实验中,,而 。水平方向没有改变,但乘在 3 上的系数翻了一倍。
一般来说,点积满足以下夹角关系:
这解释了刚才的规律:点积等于带符号的投影长度乘以 。单位向量的长度为 1,因此使用单位向量时,点积等于 。夹角公式要求两个向量都非零;坐标公式对零向量也适用。
三个相关量
对于非零参考向量 b:
| 数量 | 公式 | 你得到什么 |
|---|---|---|
| 点积 | 有符号投影长度乘以 | |
| 标量投影 | 沿 b 签名的长度 | |
| 矢量投影 | 通过 b 的直线上的向量 |
如果 b 是零向量,则点积为零,但其方向上的投影未定义:它没有可投影的方向。
新情况:反转参考箭头
在纸上完成这个例子:保持 不变,把 从 改为 。计算前先预测点积、标量投影和向量投影。反转箭头,会改变它所在的直线吗?
检查你的推理
点积为 。除以 ,得到标量投影 。向量投影为
直线和影子向量都没有改变。带符号的量改变符号,是因为参考方向反转了。
坐标也是投影
的横坐标为 3,因为它与水平单位向量 的点积为 3。它的纵坐标为 4,因为它与 的点积为 4。
更一般地,在标准正交基(垂直单位向量)中,每个坐标都是点积:
选择不同的正交基意味着沿不同方向测量相同的向量。这是 PCA 和 SVD 中投影步骤背后的几何结构。
为什么这对神经元很重要
神经元的加权和 测量输入 x 在权重方向 w 上的有符号投影,按 缩放。偏置会平移结果,激活函数再对其进行变换。
对于相同长度的输入,与 w 的更强对齐会产生更大的加权和。这就是神经元可以检测其输入空间中的方向的几何意义。
要点: 角度控制一个向量沿另一个方向落下的程度。点积测量该量,并按参考向量的长度缩放。
设计你自己的对比实验
选择一个例子中没有用过的角度,并保持两个向量都非零。记录设置和三个读数。提出一种改变 长度的方法,使点积改变而影子向量不变。先写下预测,保持 和 的方向不变,再测试你的想法。
另外在 90° 时重复这个对比。改变 的长度,还会改变点积吗?修改你的结论,使它包含这个边界情形。写下你的预测、观察结果,以及证据如何支持或改变你的解释。
检查你的推理
固定 的方向时,改变它的正长度不会影响标量投影或向量投影。点积随长度成比例变化,但影长为零时,点积始终为零。用设置和读数支持你的解释,并区分实验观察与说明一般规律的公式。
检查你的理解情况
尝试五个有关角度、比例和投影测量内容的问题。选择一个答案,然后使用 查看推理。您可以重新审视一个问题并重试。
继续学习
要了解矩阵如何使用点积来生成每个输出坐标,请继续点积:一次构建一行输出。