Visualize-ML

← 目录Ch14 特征值分解

Ch14 深入特征值分解

Advanced Eigendecomposition · 谱分解、矩阵幂与矩阵函数

🎮 谱分解：矩阵的积木

A = λ₁q₁q₁ᵀ + λ₂q₂q₂ᵀ

🧩 谱分解：拆成投影矩阵

A = 3·P₁ + 1·P₂

💡 核心思想

每个对称矩阵都可以拆成秩-1投影矩阵的加权和！
权重 = 特征值，投影方向 = 特征向量

🧩

谱分解

A = Σ λᵢqᵢqᵢᵀ

⚡

矩阵幂

Aⁿ = QΛⁿQᵀ

🔮

矩阵函数

f(A) = Qf(Λ)Qᵀ

开篇

特征分解让复杂运算变简单

🧩

谱分解

A = Σ λᵢqᵢqᵢᵀ

⚡

矩阵幂

Aⁿ = QΛⁿQᵀ

🔮

矩阵函数

f(A) = Qf(Λ)Qᵀ

14.1 谱分解

🎯 目标：理解 A = Σ λᵢqᵢqᵢᵀ，矩阵是秩-1投影矩阵的加权和

🎮 谱分解可视化

A = λ1·q1q1T + λ2·q2q2T，秩-1 矩阵的叠加

谱分量开关

原矩阵 A

2.50

1.50

2.50

重建

2.50

1.50

2.50

✓ 完美重建

谱分解公式

A = Σ λi · qi · qiT
= 4·q1q1T + 1·q2q2T

每个谱分量对应一个主轴方向

谱分解理解：矩阵 A 的作用可以分解为沿各特征向量方向的独立缩放。关闭某个分量相当于低秩近似，保留主要特征值对应的分量可以压缩信息。

14.2 矩阵的幂

🎯 目标：理解 Aⁿ = QΛⁿQᵀ，主特征值决定长期行为

🎮 矩阵幂运算

A^k = Q · Λ^k · Q^T，特征值的幂决定矩阵的幂

幂次 k = 2

A^0 = IA^5A^10

1.25

0.75

1.25

幂次

A^2

2.12

1.87

2.12

特征值的幂

λ1^2 = 2^2

4.00

↑ 增长

λ2^2 = 0.5^2

0.2500

↓ 衰减

关键观察

λ1 = 2 > 1：该方向指数增长，λ2 = 0.5 < 1：该方向指数衰减
主特征值决定长期行为！

k 增大时，主方向(红)拉伸，次方向(蓝)压缩

矩阵幂的意义：A^k 的行为由特征值决定。 |λ| 大于 1 的方向指数增长，|λ| 小于 1 的方向指数衰减，|λ| = 1 保持不变。

14.3 矩阵函数

🎯 目标：理解 f(A) = Qf(Λ)Qᵀ，任意函数可扩展到矩阵

🎮 矩阵函数

f(A) = Q · f(Λ) · Q^T，对特征值逐个应用函数

选择矩阵函数

特征值变换

e^λ(λ1) = e^λ(2)

7.389

e^λ(λ2) = e^λ(1)

2.718

计算公式

e^A = Q · diag(7.39, 2.72) · Q^T

为什么这样计算？

1. A = Q·Λ·Q^T（特征分解）

2. f(A) = Q·f(Λ)·Q^T（定义）

3. f(Λ) = diag(f(λ1), f(λ2), ...)（对角阵）

4. 特征向量 Q 保持不变！

e^A

1.50

0.50

1.50

→

e^A

5.05

2.33

5.05

特征向量不变

q1: 缩放 2 → 7.39

q2: 缩放 1 → 2.72

矩阵函数的意义：特征分解让矩阵函数计算变得简单——只需对特征值应用标量函数。这是矩阵指数(微分方程)、矩阵开方(协方差)、矩阵逆等运算的基础。

14.4 矩阵指数

🎯 目标：理解 eᵗᴬ 是线性微分方程 x'=Ax 的解

🎮 矩阵指数演示

e^(tA) = I + tA + t²A²/2! + ... 用于微分方程

时间参数 t = 1.00

0π2π

生成矩阵 A

0.00

1.00

-1.00

0.00

e^(tA)

0.54

0.84

-0.84

0.54

旋转矩阵

A = [[0,1],[-1,0]] 是旋转的生成元
e^(tA) 是逆时针旋转 t 弧度的矩阵

应用场景

• 线性微分方程 dx/dt = Ax 的解

• 连续时间马尔可夫链

• 量子力学时间演化

矩阵指数：通过特征分解 e^A = Q·diag(e^λ)·Q⁻¹ 计算。是微分方程 x' = Ax 的解。

本章小结

谱分解让矩阵运算变简单

核心公式

A = Σ λᵢqᵢqᵢᵀ（谱分解）

Aⁿ = QΛⁿQᵀ（矩阵幂）

f(A) = Qf(Λ)Qᵀ（矩阵函数）

eᵗᴬ = Qeᵗᴸ Qᵀ（矩阵指数）

关键洞察

• 对特征值操作，再组合回去

• 主特征值决定长期行为

• 矩阵指数解决微分方程

📚 下一章：Ch15 奇异值分解