📚 本章导览
向量是线性代数的基本对象，也是机器学习中最重要的数学工具之一。本章从几何直观出发，介绍向量的概念、运算及其在二维和三维空间中的应用。
22.1 平面向量
向量的几何表示、分解与合成
22.2 向量运算
加法、减法、标量乘法
22.3 向量点积与夹角
点积定义、夹角计算
22.4 三维向量
三维空间向量表示与可视化
22.1 平面向量
向量是既有大小又有方向的量。在二维平面上，向量可以用箭头表示，也可以用坐标形式表示。
理解向量的关键是：向量描述的是位移，而不是位置。
向量的表示方法
几何表示
向量用带箭头的有向线段表示：
- • 箭头方向：向量的方向
- • 线段长度：向量的大小（模）
- • 起点位置：可以任意平移
代数表示
向量用坐标表示：
⃗a = [a₁, a₂] 或⎡a₁⎤
⎣a₂⎦
⎣a₂⎦
a₁为x分量，a₂为y分量
向量的可视化
向量的分解与合成
基向量
在二维平面上，常用两个单位向量作为基向量：
⃗i = [1, 0]
x轴方向的单位向量
⃗j = [0, 1]
y轴方向的单位向量
向量分解定理
任意向量 ⃗a 都可以表示为基向量的线性组合：
⃗a = a₁·⃗i + a₂·⃗j
其中 a₁ 和 a₂ 分别是 ⃗a 在 x 和 y 方向的分量
示例：向量分解
💡 关键要点
- • 向量是自由的：只要大小和方向相同，起点在哪里都一样
- • 坐标依赖基：同一个向量在不同基下坐标不同
- • 分解唯一：给定一组基，向量的分解方式唯一
- • 几何与代数：向量既有几何直观，又有代数表示
22.2 向量运算
向量运算包括加法、减法、标量乘法三种基本运算。这些运算既有几何意义，又有代数定义。
掌握向量运算是理解线性代数和机器学习的基础。
向量加法
⃗a + ⃗b = [a₁ + b₁, a₂ + b₂]
向量加法：对应分量相加
几何意义：平行四边形法则
计算示例
给定：
⃗a = [4, 1]
⃗b = [1, 3]
⃗b = [1, 3]
计算：
⃗a + ⃗b = [4+1, 1+3]
= [5, 4]
= [5, 4]
向量加法的性质
- • 交换律：⃗a + ⃗b = ⃗b + ⃗a
- • 结合律：(⃗a + ⃗b) + ⃗c = ⃗a + (⃗b + ⃗c)
- • 零向量：⃗a + ⃗0 = ⃗a
向量减法
⃗a - ⃗b = [a₁ - b₁, a₂ - b₂]
向量减法：对应分量相减
几何意义：从⃗b指向⃗a
计算示例
给定：
⃗a = [4, 1]
⃗b = [1, 3]
⃗b = [1, 3]
计算：
⃗a - ⃗b = [4-1, 1-3]
= [3, -2]
= [3, -2]
⚠️ 理解向量减法
⃗a - ⃗b 可以理解为 ⃗a + (-⃗b)，即加上⃗b的相反向量。几何上，⃗a - ⃗b 表示从⃗b的终点指向⃗a的终点的向量。
标量乘法
k · ⃗a = [k·a₁, k·a₂]
标量乘法：每个分量乘以标量
几何意义：缩放向量
计算示例
给定：
⃗a = [2, 2]
计算：
2·⃗a = [2×2, 2×2] = [4, 4]
0.5·⃗a = [0.5×2, 0.5×2] = [1, 1]
-⃗a = [-2, -2] (方向相反)
0.5·⃗a = [0.5×2, 0.5×2] = [1, 1]
-⃗a = [-2, -2] (方向相反)
标量乘法的性质
- • k > 1：向量被拉长，方向不变
- • 0 < k < 1：向量被缩短，方向不变
- • k < 0：向量被缩放，方向相反
- • k = 0：结果为零向量
向量的模（长度）
向量的模
||⃗a|| = √(a₁² + a₂²)
使用勾股定理计算向量的长度
示例计算
⃗a = [3, 4]
||⃗a|| = √(3² + 4²)
= √(9 + 16)
= √25
= 5
单位向量
模为1的向量称为单位向量。任意非零向量⃗a可以标准化为单位向量：
⃗u = ⃗a / ||⃗a||
💡 运算总结
向量加法
分量相加，几何上是平行四边形法则
向量减法
分量相减，几何上是从⃗b指向⃗a
标量乘法
分量缩放，几何上是向量的伸缩
22.3 向量点积与夹角
点积（内积、数量积）是向量运算中最重要的概念之一，它将两个向量映射为一个标量。
点积不仅用于计算向量夹角，还是机器学习中相似度度量、投影等概念的基础。
点积的定义
代数定义
⃗a · ⃗b = a₁b₁ + a₂b₂
对应分量相乘后求和
几何定义
⃗a · ⃗b = ||⃗a|| · ||⃗b|| · cos(θ)
θ 是两向量之间的夹角
计算示例
给定：⃗a = [4, 1]，⃗b = [1, 3]
⃗a · ⃗b = 4×1 + 1×3
= 4 + 3
= 7
向量夹角的计算
夹角公式
cos(θ) = (⃗a · ⃗b) / (||⃗a|| · ||⃗b||)
θ = arccos((⃗a · ⃗b) / (||⃗a|| · ||⃗b||))
通过点积和模的比值求夹角
完整计算步骤
给定：⃗a = [4, 1]，⃗b = [1, 3]
步骤1：计算点积
⃗a · ⃗b = 4×1 + 1×3 = 7
步骤2：计算模
||⃗a|| = √(4² + 1²) = √17 ≈ 4.123
||⃗b|| = √(1² + 3²) = √10 ≈ 3.162
步骤3：计算余弦值
cos(θ) = 7 / (√17 × √10) ≈ 0.537
步骤4：计算角度
θ = arccos(0.537) ≈ 57.5°
θ = 0°
⃗a · ⃗b > 0，同向
θ = 90°
⃗a · ⃗b = 0，垂直
θ = 180°
⃗a · ⃗b < 0，反向
点积的性质
代数性质
- • 交换律：⃗a · ⃗b = ⃗b · ⃗a
- • 分配律：⃗a · (⃗b + ⃗c) = ⃗a · ⃗b + ⃗a · ⃗c
- • 标量结合：(k⃗a) · ⃗b = k(⃗a · ⃗b)
- • 自身点积：⃗a · ⃗a = ||⃗a||²
几何应用
- • 判断垂直：⃗a ⊥ ⃗b ⟺ ⃗a · ⃗b = 0
- • 计算夹角：通过点积和模计算
- • 投影长度：⃗a在⃗b上的投影 = ⃗a · ⃗b / ||⃗b||
- • 相似度度量：机器学习中的核心工具
🎯 点积的重要性
- • 机器学习：相似度计算、神经网络权重更新
- • 几何计算：投影、距离、夹角
- • 物理应用：功的计算、力的分解
- • 数据分析：协方差、相关系数的基础
22.4 三维向量
三维向量是向量概念从平面到空间的自然扩展。在三维空间中，向量可以用三个分量表示，所有的运算法则依然适用。
三维向量在物理学、计算机图形学、机器学习等领域有广泛应用。
三维向量的表示
三维向量的代数形式
⃗v = [x, y, z] = x⃗i + y⃗j + z⃗k
其中 ⃗i, ⃗j, ⃗k 是三个标准基向量
x轴基向量
⃗i = [1, 0, 0]
沿x轴正方向
y轴基向量
⃗j = [0, 1, 0]
沿y轴正方向
z轴基向量
⃗k = [0, 0, 1]
沿z轴正方向
示例
⃗v = [4, 3, 5]
⃗v = 4⃗i + 3⃗j + 5⃗k
表示：x方向4个单位，y方向3个单位，z方向5个单位
三维向量的运算
向量加法
⃗a = [a₁, a₂, a₃]
⃗b = [b₁, b₂, b₃]
⃗a + ⃗b = [a₁+b₁, a₂+b₂, a₃+b₃]
点积
⃗a · ⃗b = a₁b₁ + a₂b₂ + a₃b₃
所有二维运算法则在三维中同样适用
向量的模
||⃗v|| = √(x² + y² + z²)
三维空间中的距离公式
夹角
cos(θ) = (⃗a · ⃗b) / (||⃗a|| · ||⃗b||)
与二维情况完全相同
🌟 从三维到高维
- • 维度扩展：所有运算法则在任意维度都成立
- • 机器学习：通常处理成百上千维的向量
- • 几何直观：三维是我们能可视化的最高维度
- • 代数表示：高维向量只能通过代数方法处理
章节总结
🎯 核心概念
- • 向量定义：既有大小又有方向的量
- • 代数表示：[x, y] 或 x⃗i + y⃗j
- • 基向量：任意向量可以表示为基的线性组合
- • 向量运算：加法、减法、标量乘法
🔑 重要公式
- • 向量加法：⃗a + ⃗b = [a₁+b₁, a₂+b₂]
- • 点积：⃗a · ⃗b = a₁b₁ + a₂b₂
- • 模：||⃗a|| = √(a₁² + a₂²)
- • 夹角：cos(θ) = (⃗a·⃗b)/(||⃗a||·||⃗b||)
💡 几何直观
- • 向量是空间中的箭头
- • 加法遵循平行四边形法则
- • 点积反映向量的相似程度
- • 垂直向量的点积为0
🚀 应用领域
- • 机器学习：特征向量、梯度下降
- • 计算机图形学：3D变换、光照
- • 物理模拟：力、速度、加速度
- • 数据分析：相似度、距离度量