← 目录Ch22 距离与相似
Ch22 数据与统计

Statistics · 用数字描述数据的特征

🎮 统计量:数据的"指纹"

均值、方差、相关性揭示数据本质

μ数据集 A
🎛️ 选择数据集
均值 μ
(4.0, 5.0)
标准差 σ
(1.41, 1.41)
协方差 Cov
2.00
相关系数 r
1.00
💡均值 = 数据中心

黄色点是均值 μ,所有数据点的"质心"。改变数据集观察均值变化。

📍
均值 μ
E[X] = Σxᵢ/n
📊
方差 σ²
E[(X-μ)²]
🔗
相关系数 r
Cov(X,Y)/(σₓσᵧ)
开篇
统计量是理解数据的第一步
📍
均值 μ
数据的"中心"
📊
方差 σ²
数据的"离散程度"
🔗
协方差 Cov
变量间的"关联"
22.1 均值与中心
🎯 目标:理解均值 μ = E[X] 是数据的质心,几何上是所有点的重心

🎮 均值与质心

μ = (1/n) Σᵢ x⁽ⁱ⁾ — 数据的"重心"

可视化选项
计算过程
μₓ = (2 + 3 + 4 + 2.5 + 3.5) / 5
= 3.00
μᵧ = (3 + 4 + 3.5 + 2.5 + 3) / 5
= 3.20
质心 μ
(3.00, 3.20)
样本数 n
5
矩阵表示
μ = (1/n) Xᵀ1ₙ
1ₙ = [1, 1, ..., 1]ᵀ 是全1向量
几何意义
• 质心是所有点的"平衡点"
• 各点到质心的向量之和为零
• 质心最小化到所有点的距离平方和
x⁽1⁾x⁽2⁾x⁽3⁾x⁽4⁾x⁽5⁾μx₁x₂
数据点
质心
应用:K-Means 聚类中,每个簇的中心就是该簇所有点的质心。
22.2 方差与标准差
🎯 目标:理解方差 σ² = E[(X-μ)²] 度量数据的离散程度

🎮 方差与标准差

σ² = (1/n) Σᵢ (xᵢ - μ)² — 数据的离散程度

数据分散程度: 1.0x
集中分散
方差 σ²
1.156
标准差 σ
1.075
计算过程
μ = 2.00
σ² = Σ(xᵢ - μ)² / n
= 1.156
σ = √σ² = 1.075
几何意义
• 方差 = 点到均值的平方距离的平均
• 标准差 = 方差的平方根,单位与数据相同
• 方差越大,数据越分散
向量范数视角
σ² = ‖x̃‖² / n
x̃ = 中心化数据
01234μ = 2.00±σ各点到均值的偏差
黄色区域 = μ ± σ 范围(约68%数据)
统计意义:对于正态分布,约68%数据在 μ±σ 内,95%在 μ±2σ 内,99.7%在 μ±3σ 内。
22.3 协方差
🎯 目标:理解 Cov(X,Y) = E[(X-μₓ)(Y-μᵧ)] 度量两变量的联合变化

🎮 协方差与相关性

Cov(X,Y) = (1/n) Σᵢ (xᵢ-μₓ)(yᵢ-μᵧ)

目标相关性: 0.8
负相关无相关正相关
协方差
1.021
Cov(X,Y)
相关系数
0.973
强正相关
相关系数公式
ρ = Cov(X,Y) / (σₓ · σᵧ)
= 1.021 / (1.115 × 0.941)
相关性解释
ρ > 0.5: X↑ 则 Y↑(强正相关)
ρ < -0.5: X↑ 则 Y↓(强负相关)
|ρ| < 0.2: X 与 Y 线性无关
四象限分析
I: (+,+)
正贡献
II: (-,+)
负贡献
III: (-,-)
正贡献
IV: (+,-)
负贡献
XY(μₓ,μᵧ)
正贡献
负贡献
几何理解:协方差 = 各点在四象限的"面积"之和。I、III象限贡献正值,II、IV象限贡献负值。
22.4 协方差矩阵
🎯 目标:理解多变量数据的协方差矩阵 Σ 及其几何意义

🎮 协方差矩阵

Σ = (1/n) X̃ᵀX̃ — 特征间的相关结构

相关类型
协方差矩阵 Σ
1.00
0.80
0.80
1.00
对角线 = 方差,非对角线 = 协方差
特征值 λ₁
1.800
特征值 λ₂
0.200
X↑ 时 Y 也倾向 ↑
协方差矩阵性质
✓ 对称: Σᵀ = Σ
✓ 半正定: λᵢ ≥ 0
✓ 对角线为方差 (≥0)
数据分布椭圆 (1σ)
XY√λ₁√λ₂
椭圆轴方向 = 特征向量,轴长 = √特征值
PCA 预览
主成分方向就是协方差矩阵的特征向量,方差最大的方向对应最大特征值。
核心联系:协方差矩阵的特征分解给出数据的主方向(PCA),这是降维的数学基础。
本章小结
统计量是数据分析的基础
核心公式
μ = E[X] = Σxᵢ/n
σ² = E[(X-μ)²]
Cov(X,Y) = E[(X-μₓ)(Y-μᵧ)]
r = Cov(X,Y)/(σₓσᵧ)
相关系数解读
• r = 1:完全正相关
• r = -1:完全负相关
• r = 0:线性无关
• |r| > 0.7:强相关

📚 下一章:Ch23 数据空间