Visualize-ML

本章概览

条件期望和条件方差是概率论中极其重要的概念，在数据科学、机器学习算法中广泛应用。本章将分别讲解离散随机变量和连续随机变量的条件期望和条件方差。

我们将通过直观的例子（如动物笼子、鸢尾花数据）来理解这些概念，并学习全期望定理和全方差定理这两个核心定理。

🔢 离散随机变量

•8.1 条件期望
•8.2 条件方差

📈 连续随机变量

•8.3 条件期望
•8.4 条件方差

8.1

离散随机变量：条件期望

Conditional Expectation for Discrete Random Variables

条件期望（conditional expectation）是一个随机变量相对于条件概率分布的期望。换句话说，这是在给定一个或多个其他随机变量值的条件下，某个特定随机变量的期望。

🤔什么是条件期望？

条件期望其实很好理解。比如，一个笼子里有 10 只动物，其中 6 只鸡 (60%)、4 只兔 (40%)。

🐔

只考虑鸡

子集 (Subset)

🦜

所有动物

全集 (Superset)

🐰

只考虑兔

子集 (Subset)

鸡的平均体重为 2 公斤，这个数值就是条件期望。兔子的平均体重为 4 公斤，这也是条件期望。

⭐ 条件期望公式

E(Y | X = x) = Σ_y y · p_Y|X(y|x)

给定 X = x 条件下，Y 的条件期望

解读：相当于求加权平均数

• y: 随机变量 Y 的可能取值
• p_Y|X(y|x): 条件概率质量函数（权重）
• 对所有可能的 y 求和

📊 条件期望 (Conditional Expectation)

理解条件期望与全期望定理

笼子里的动物

鸡 (Chickens)

6 只 (60%)

兔 (Rabbits)

4 只 (40%)

条件期望

E(体重 | 鸡)2.00 kg

E(体重 | 兔)4.00 kg

全期望定理

E(体重) = E[E(体重|类型)]

体重分布可视化

🐔 条件：只考虑鸡

条件期望 = 2.00 kg
鸡的平均体重

🐰 条件：只考虑兔

条件期望 = 4.00 kg
兔的平均体重

条件期望是在给定某个条件下的期望值。全期望定理告诉我们：总体期望 = 各条件期望的加权平均。权重是各条件的概率：2.00 × 60% + 4.00 × 40% = 2.80 kg

期望 E(Y)

E(Y) = Σ_y y · p_Y(y)

使用边缘 PMF 作为权重
结果是一个标量值

条件期望 E(Y|X=x)

E(Y|X=x) = Σ_y y · p_Y|X(y|x)

使用条件 PMF 作为权重
不同 x 值结果不同，E(Y|X) 是向量

🎯全期望定理 (Law of Total Expectation)

E(Y) = E[E(Y|X)]

又称双重期望定理、重叠期望定理

E(Y) = Σ_x E(Y|X=x) · p_X(x)

白话解释：总体期望 = 各条件期望的加权平均，权重是各条件的概率。
例如：笼子里所有动物的平均体重 = 鸡的平均体重 × 鸡的占比 + 兔的平均体重 × 兔的占比

⚡ 独立性的特殊情况

如果 X 和 Y 独立，则：

E(Y|X) = E(Y)

即：条件期望等于无条件期望。这很直观——如果 Y 与 X 独立，知道 X 的值并不能提供关于 Y 的额外信息。

💡

为什么用加权平均？

举个极端例子：如果笼子里有 99 只鸡（平均 2kg）和 1 只兔（8kg），用简单平均 (2+8)/2 = 5kg 显然不合理。加权平均 2×99% + 8×1% ≈ 2.06kg 才能正确反映整体情况。

8.2

离散随机变量：条件方差

Conditional Variance for Discrete Random Variables

在上一节的基础上，本节介绍离散随机变量的条件方差。条件方差与一般方差的定义几乎一致，只不过将期望换成了条件期望，将概率换成了条件概率。

⭐ 条件方差公式

var(Y | X = x) = Σ_y [y - E(Y|X=x)]² · p_Y|X(y|x)

给定 X = x 条件下，Y 的条件方差

简便计算：

var(Y|X=x) = E(Y²|X=x) - [E(Y|X=x)]²

类似于普通方差的计算技巧

📊 条件方差 (Conditional Variance)

理解条件方差与全方差定理

条件方差

var(体重 | 鸡)0.0167

var(体重 | 兔)0.0200

全方差定理

var(Y) = E[var(Y|X)] + var[E(Y|X)]

标准差

σ(体重 | 鸡) = 0.129

σ(体重 | 兔) = 0.141

σ(总体) = 0.989

方差分解可视化

📦 子集内部差异

E[var(Y|X)]
鸡和兔各自的方差（虚线）

↔️ 子集之间差异

var[E(Y|X)]
条件期望与总体期望的偏差

全方差定理将总体方差分解为两部分：条件方差的期望（子集内部差异）+ 条件期望的方差（子集之间差异）。本例：0.0180 + 0.9600 = 0.9780

方差 var(Y)

var(Y) = Σ [y - E(Y)]² · p_Y(y)

• 基准：E(Y) — 总体期望
• 权重：p_Y(y) — 边缘 PMF

条件方差 var(Y|X=x)

var(Y|X=x) = Σ [y - E(Y|X=x)]² · p_Y|X(y|x)

• 基准：E(Y|X=x) — 条件期望
• 权重：p_Y|X(y|x) — 条件 PMF

🎯全方差定理 (Law of Total Variance)

var(Y) = E[var(Y|X)] + var[E(Y|X)]

又称重叠方差定理

📦 E[var(Y|X)]

条件方差的期望
子集内部差异的加权平均

↔️ var[E(Y|X)]

条件期望的方差
子集之间的差异

🔍方差分解的直观理解

子集内部差异 — E[var(Y|X)]

鸡内部的体重差异 + 兔内部的体重差异（加权平均）
即使我们知道了动物类型，个体之间仍有差异。

子集之间差异 — var[E(Y|X)]

鸡的平均体重 vs 兔的平均体重 vs 总体平均体重
不同类型的平均值之间的差异。

总体方差 = 两部分之和

总体差异来自两个来源：
1. 同一类型内部个体之间的差异
2. 不同类型之间平均值的差异

📌 扩展：全协方差定理

类似全方差定理，也存在全协方差定理：

cov(X₁, X₂) = E[cov(X₁, X₂|Y)] + cov[E(X₁|Y), E(X₂|Y)]

💡

为什么要分解方差？

方差分解帮助我们理解数据的差异来源。在ANOVA（方差分析）中，我们正是利用全方差定理将总变异分解为组内变异和组间变异，从而判断不同组的均值是否有显著差异。

8.3

鸢尾花实例：条件期望与条件方差

Iris Dataset: Conditional Expectation and Variance

前两节介绍了离散随机变量的条件期望和条件方差的理论。本节通过鸢尾花数据集的实例，将这些概念应用到实际数据中，展示如何计算和理解条件统计量。

🌸鸢尾花数据

X₁: 花萼长度

Sepal Length (cm)
离散化为：4.5, 5.0, 5.5, 6.0, 6.5, 7.0, 7.5, 8.0

X₂: 花萼宽度

Sepal Width (cm)
离散化为：2.0, 2.5, 3.0, 3.5, 4.0, 4.5

我们将研究给定花萼长度 X₁条件下，花萼宽度 X₂的条件期望和条件方差。

🌸 鸢尾花数据：条件期望与条件方差

给定花萼长度，花萼宽度的条件期望

花萼长度 X₁

显示误差棒显示计算

条件统计量 (X₁ = 6.5)

E(X₂|X₁=6.5) = 2.983 cm

var(X₂|X₁=6.5) = 0.088 cm²

σ(X₂|X₁=6.5) = 0.297 cm

E(X₂ | X₁) ± σ(X₂ | X₁)

● 条件期望

给定X₁时，X₂的"预测"值
即回归的本质

| 误差棒

± σ 表示波动范围
越长说明不确定性越大

条件期望 E(X₂|X₁) 代表给定花萼长度时，花萼宽度的"预测"值。误差棒显示 ± 标准差范围，表示预测的不确定性。这与回归思想本质上相同——回归可以看成是条件概率！

📐 计算示例：E(X₂ | X₁ = 6.5)

E(X₂ | X₁ = 6.5) = Σ x₂ · p_X₂|X₁(x₂|6.5)

步骤：

找到 X₁ = 6.5 对应的条件概率分布 p_X₂|X₁(x₂|6.5)
将每个 x₂ 值与其条件概率相乘
对所有可能的 x₂ 求和
结果：E(X₂|X₁=6.5) ≈ 2.983 cm

🎯回归的本质：条件期望

E(X₂ | X₁ = x₁) 就是"预测"！

• 条件期望代表给定 X₁ 时，X₂ 的最优"预测"值
• 误差棒（± 标准差）表示预测的不确定性
• 回归分析本质上就是寻找条件期望 E(Y|X)
• 这是统计学与机器学习的核心联系

✓全期望定理验证

E(X₂) = Σ E(X₂|X₁=x₁) · p_X₁(x₁)

利用条件期望和边缘概率计算总体期望

通过加权平均所有条件期望，我们可以还原总体期望：

E(X₂) = 3.045×0.073 + 3.25×0.23 + 3.125×0.19 + ... ≈ 3.063 cm

✓全方差定理验证

var(X₂) = E[var(X₂|X₁)] + var[E(X₂|X₁)]

条件方差的期望

E[var(X₂|X₁)] ≈ 0.185 cm²
子集内部差异（约占 85%）

条件期望的方差

var[E(X₂|X₁)] ≈ 0.025 cm²
子集之间差异（约占 15%）

总方差

var(X₂) = 0.185 + 0.025 ≈ 0.211 cm²

📊 "降维"的直观理解

条件期望 E(X₂|X₁=x₁) 和条件方差 var(X₂|X₁=x₁) 都消去了 x₂ 变量，仅随 X₁ = x₁ 取值变化。

这正是"降维"的本质——期望、方差等统计量代表"汇总"，将某个维度的信息细节"压扁"成单个数值。不同的聚合方式（期望、方差、中位数等）得到不同的统计量。

💡

为什么误差棒长度不同？

误差棒长度 = 条件标准差 σ(X₂|X₁=x₁)，表示在给定 x₁ 条件下的波动大小。不同 x₁ 处的误差棒长度不同，说明不同条件下的不确定性不同。例如，X₁ = 8.0 处误差棒为 0，因为该处只有 1 个样本，没有波动。

8.4

连续随机变量：条件期望与条件方差

Conditional Expectation and Variance for Continuous Random Variables

前面介绍了离散随机变量的条件期望和条件方差。本节将这些概念扩展到连续随机变量，核心区别在于用积分代替求和。

⭐ 连续随机变量条件期望公式

E(Y | X = x) = ∫ y · f_Y|X(y|x) dy

-∞ 到 +∞ 积分

条件PDF

f_Y|X(y|x) = f_X,Y(x,y) / f_X(x)

边缘PDF

f_X(x) = ∫ f_X,Y(x,y) dy

📊 连续随机变量：条件期望与条件方差

二维高斯分布示例

选择 X 值

X = 0.0

显示条件PDF显示E(Y|X)

条件统计量 (X = 0.0)

E(Y|X=0.0) = 0.000

var(Y|X=0.0) = 1.440

σ(Y|X=0.0) = 1.200

高斯条件期望

E(Y|X) = μ_Y + ρ(σ_Y/σ_X)(X - μ_X)

这是一条直线！

联合PDF f(X,Y) 与条件PDF f(Y|X=x)

⭕ 等高线

联合PDF f(X,Y)

━ 直线

条件期望 E(Y|X)

| 切片

条件PDF f(Y|X=x)

连续随机变量的条件期望用积分代替求和。对于二维高斯分布，E(Y|X) 是关于 X 的线性函数，条件方差 var(Y|X) = σ²_Y(1-ρ²) 与 X 无关！

离散随机变量

E(Y|X=x) = Σ y · p_Y|X(y|x)

• 使用求和 Σ

• PMF（概率质量函数）

连续随机变量

E(Y|X=x) = ∫ y · f_Y|X(y|x) dy

• 使用积分 ∫

• PDF（概率密度函数）

⭐ 连续随机变量条件方差公式

var(Y | X = x) = ∫ [y - E(Y|X=x)]² · f_Y|X(y|x) dy

简便计算：

var(Y|X=x) = E(Y²|X=x) - [E(Y|X=x)]²

与离散情况完全类似

📐二维高斯分布的条件期望

E(Y|X) = μ_Y + ρ(σ_Y/σ_X)(X - μ_X)

这是关于 X 的线性函数！

条件期望

• 是 X 的线性函数
• 斜率与相关系数 ρ 有关
• ρ = 0 时，E(Y|X) = μ_Y

条件方差

var(Y|X) = σ²_Y(1 - ρ²)
• 与 X 的值无关！
• 仅依赖于相关系数 ρ

🔄"降维"：从求和到积分

无论是离散还是连续随机变量，条件期望和条件方差都是"降维"的过程：

离散：求和 Σ

消去 y 变量，将 y 维度"折叠"成一个数值
工具：求和符号

连续：积分 ∫

消去 y 变量，将 y 维度"折叠"成一个数值
工具：积分符号

本质上没有任何区别，只是数学工具不同。 E(Y|X=x) 和 var(Y|X=x) 都只是 x 的函数，y 已经被"压扁"了。

✓ 全期望定理和全方差定理同样适用

全期望定理：

E(Y) = E[E(Y|X)] = ∫ E(Y|X=x) · f_X(x) dx

全方差定理：

var(Y) = E[var(Y|X)] + var[E(Y|X)]

这些定理的形式与离散情况完全一致，只是将求和换成了积分。

💡

为什么高斯条件期望是线性的？

这是高斯分布的特殊性质！对于二维高斯分布，条件期望 E(Y|X) 必然是 X 的线性函数。这也是为什么线性回归在很多情况下效果很好—— 如果数据近似服从高斯分布，线性模型就是条件期望的最佳近似。而条件方差 var(Y|X) 与 X 无关，说明不确定性是恒定的（同方差性）。

8.6

连续随机变量：以鸢尾花为例

Continuous Random Variables: Iris Example

8.3节使用离散化的鸢尾花数据，本节使用连续的鸢尾花数据，展示条件概率密度函数 f_X₂|X₁(x₂|x₁)、回归曲线（条件期望）、以及带宽（条件标准差）。

📊 条件概率密度函数 f_X₂|X₁(x₂|x₁)

特点 1：非负性

f_X₂|X₁(x₂|x₁) ≥ 0

特点 2：归一性

∫ f_X₂|X₁(x₂|x₁) dx₂ = 1

f_X₂|X₁(x₂|x₁) 是一个二元函数，对于每个固定的 x₁，它关于 x₂ 的积分结果为 1（如图中阴影区域面积）。

🌸 连续鸢尾花数据：条件期望与带宽

回归曲线 = 条件期望

条件方向

X₂ | X₁（宽度|长度）X₁ | X₂（长度|宽度）

按品种分层显示 ± σ 带宽显示 ± 2σ 带宽

条件期望 = 回归

黑色曲线就是"回归曲线"，表示给定条件下的最佳预测。带宽表示预测的不确定性。

E(X₂|X₁) 条件期望与带宽可视化

━ 黑色实线

条件期望（回归曲线）

┅ 蓝色虚线

± σ 带宽

┅ 紫色虚线

± 2σ 带宽

关键观察：

带宽随条件变化而变化，说明不同条件下的不确定性不同
X₁ ≈ 7 cm 处带宽较窄，说明该处预测较准确
X₁ ≈ 5.5 cm 处带宽较宽，说明该处散点分散，预测不确定性大

📈条件期望 = 回归曲线

E(X₂|X₁=x₁) = ∫ x₂ · f_X₂|X₁(x₂|x₁) dx₂

这就是回归曲线上的每一个点！

黑色实线

• 条件期望 E(X₂|X₁)
• 给定 X₁，预测 X₂ 的最佳值
• 回归分析的本质

蓝色虚线带宽

• ± 条件标准差 σ(X₂|X₁)
• 表示预测的不确定性
• 带宽随 X₁ 变化

📏带宽 (Bandwidth) 的意义

± σ 带宽

表示 E(X₂|X₁) ± std(X₂|X₁) 范围。约 68% 的数据点落在此范围内（假设高斯分布）。带宽越窄，预测越准确。

± 2σ 带宽

表示 E(X₂|X₁) ± 2·std(X₂|X₁) 范围。约 95% 的数据点落在此范围内（假设高斯分布）。提供更保守的预测区间。

带宽随条件变化

不同 x₁ 处的带宽不同，说明在不同条件下：

X₁ ≈ 7 cm：散点集中，带宽窄，预测准确
X₁ ≈ 5.5 cm：散点分散，带宽宽，预测不确定

🧮 条件统计量计算公式

条件期望 E(X₂|X₁=x₁)

E(X₂|X₁=x₁) = ∫ x₂ · f_X₂|X₁(x₂|x₁) dx₂

条件期望（X₂平方） E(X₂²|X₁=x₁)

E(X₂²|X₁=x₁) = ∫ x₂² · f_X₂|X₁(x₂|x₁) dx₂

条件方差 var(X₂|X₁=x₁)

var(X₂|X₁=x₁) = E(X₂²|X₁=x₁) - [E(X₂|X₁=x₁)]²

条件标准差 std(X₂|X₁=x₁)

std(X₂|X₁=x₁) = √var(X₂|X₁=x₁)

📊8.3 离散鸢尾花数据

• 花萼长度/宽度离散化

• 使用条件PMF

• 求和 Σ 计算期望

• 适合理解基本概念

📈8.6 连续鸢尾花数据

• 花萼长度/宽度连续

• 使用条件PDF

• 积分 ∫ 计算期望

• 更接近真实回归分析

🏷️ 考虑分类标签

如果按鸢尾花品种（Setosa、Versicolor、Virginica）分层，可以计算给定标签条件下的条件期望和条件方差：

Setosa (C₁)

E(X₁|Y=C₁)
E(X₂|Y=C₁)

Versicolor (C₂)

E(X₁|Y=C₂)
E(X₂|Y=C₂)

Virginica (C₃)

E(X₁|Y=C₃)
E(X₂|Y=C₃)

每个品种的条件PDF满足：∫ f_X₁|Y(x₁|C_i) dx₁ = 1

💡

回归曲线的直观理解

条件期望曲线（黑色实线）就是回归曲线。给定输入 X₁=x₁，条件期望 E(X₂|X₁=x₁) 就是对 X₂ 的最佳预测。带宽表示预测的置信区间—— 带宽越窄，说明在该条件下数据越集中，预测越可靠；带宽越宽，说明数据越分散，预测不确定性越大。这就是为什么回归分析中要关注残差和预测区间！

8.7

再谈如何分割 "1"

Revisiting Probability Space Partition

概率分布无非就是各种方式将样本空间概率值 1 进行"切片、切块"、"切丝、切条"。本节从这个视角总结条件概率的核心内容。

🎲 再谈如何分割 "1"

概率空间的切片、切块、切丝、切条

切片/切块

样本空间概率值为 1，被分割成若干部分

求和/积分

离散用 Σ，连续用 ∫，结果都是 1

核心思想：

一元：在一个维度上切割概率值 1
二元：在两个维度上切割，可以"折叠"某个维度得到边缘分布
三元及以上：可以分层、切片，逐步降维
混合形式：离散和连续变量可以混合，如鸢尾花数据（连续特征+离散标签）

1️⃣一元随机变量

离散随机变量 X

• PMF: p_X(x) 对应概率值

• 运算符：求和 Σ

Σ p_X(x) = 1

在一个维度上将概率值 1 分割成若干份

连续随机变量 X

• PDF: f_X(x) 对应概率密度

• 运算符：积分 ∫

∫ f_X(x) dx = 1

f_X(x) 和横轴围成的面积为 1

2️⃣二元随机变量

离散 (X₁, X₂)

ΣΣ p_X₁,X₂(x₁, x₂) = 1

偏求和 → 边缘分布：

Σ p_X₁,X₂(x₁,x₂) = p_X₁(x₁)

连续 (X₁, X₂)

∫∫ f_X₁,X₂(x₁,x₂) dx₁dx₂ = 1

偏积分 → 边缘分布：

∫ f_X₁,X₂(x₁,x₂) dx₂ = f_X₁(x₁)

🔄 "折叠"与"压扁"

二元随机变量偏求和/偏积分将某个变量"消去"，相当于折叠。这就是边缘化（Marginalization）的几何直观。

3️⃣三元及多元随机变量

三元连续 (X₁, X₂, X₃)

整个 ℝ³ 空间中的每一点 (x₁, x₂, x₃) 处都有一个概率密度值 f_{X₁,X₂,X₃}(x₁,x₂,x₃)，这就是"体密度"。

切片 (X₃ = c)：

∫∫ f_{X₁,X₂,X₃}(x₁,x₂,c) dx₁dx₂ = f_X₃(c)

在 X₃ = c 处的"切片"二重积分得到边缘概率密度

降维过程

3D → 2D：对某个变量积分

2D → 1D：再对另一个变量积分

1D → 标量：最后积分得到概率值

🎨混合形式：离散 + 连续

鸢尾花数据示例

花萼长度 X₁、花萼宽度 X₂ 都是连续随机变量，但是标签 Y 为离散随机变量（C₁, C₂, C₃）。

Y = C₁

p_Y(C₁) = 1/3

Y = C₂

p_Y(C₂) = 1/3

Y = C₃

p_Y(C₃) = 1/3

沿 Y 方向压扁：

f_X₁,X₂(x₁,x₂) = f_X₁,X₂,Y(x₁,x₂,C₁) + f_X₁,X₂,Y(x₁,x₂,C₂) + f_X₁,X₂,Y(x₁,x₂,C₃)

每层积分得边缘概率：

∫∫ f_X₁,X₂,Y(x₁,x₂,Cᵢ) dx₁dx₂ = p_Y(Cᵢ)

不同混合形式

X₁ 离散，X₂ 连续

混合运算：Σ ∫

X₁ 连续，X₂ 离散

混合运算：∫ Σ

🎯条件概率：重新定义 "1"

条件概率的"条件"就是划定"新的样本空间"，对应概率值也是 1。

把从原始样本空间中切出来的"一片、一块、一丝、一条"作为新的样本空间。

贝叶斯定理形式：

f_X₁,X₂|Y(x₁,x₂|C₂) = f_X₁,X₂,Y(x₁,x₂,C₂) / p_Y(C₂)

分母 p_Y(C₂) 起归一化作用

归一性：

∫∫ f_X₁,X₂|Y(x₁,x₂|C₂) dx₁dx₂ = 1

这个 "1" 对应条件概率的新样本空间（Y = C₂）

👁️可视化直觉

闭上眼睛想象：

• 想 f_X₁,X₂,Y(x₁,x₂,C₁) → 看到等高线
• 想 f_X₁,X₂(x₁,x₂) → 看到曲面
• 想 f_X₁(x₁) → 看到曲线
• 想 p_Y(C₁) → 看到数值 (1/3)

核心原则：

概率分布无非就是各种方式将样本空间概率值 1 进行"切片、切块"、"切丝、切条"。离散用求和 Σ，连续用积分 ∫，本质上没有任何区别。

🎓第8章完结

条件期望与条件方差

• 离散随机变量：求和 Σ
• 连续随机变量：积分 ∫
• 全期望定理、全方差定理

应用与意义

• 条件期望 = 回归曲线 = 最佳预测
• 条件方差 = 预测不确定性
• 在回归分析、决策树、贝叶斯推断等领域广泛应用

下一篇章

至此，本书"概率"板块介绍完毕。下一板块将用五章深入介绍高斯分布：一元、二元、多元、条件高斯分布，以及协方差矩阵。

本章概览

🔢 离散随机变量

📈 连续随机变量

离散随机变量：条件期望

🤔什么是条件期望？

⭐ 条件期望公式

📊 条件期望 (Conditional Expectation)

笼子里的动物

期望 E(Y)

条件期望 E(Y|X=x)

🎯全期望定理 (Law of Total Expectation)

⚡ 独立性的特殊情况

为什么用加权平均？

离散随机变量：条件方差

⭐ 条件方差公式

📊 条件方差 (Conditional Variance)

条件方差

方差 var(Y)

条件方差 var(Y|X=x)

🎯全方差定理 (Law of Total Variance)

🔍方差分解的直观理解

📌 扩展：全协方差定理

为什么要分解方差？

鸢尾花实例：条件期望与条件方差

🌸鸢尾花数据

🌸 鸢尾花数据：条件期望与条件方差

花萼长度 X₁

📐 计算示例：E(X₂ | X₁ = 6.5)

🎯回归的本质：条件期望

✓全期望定理验证

✓全方差定理验证

📊 "降维"的直观理解

为什么误差棒长度不同？

连续随机变量：条件期望与条件方差

⭐ 连续随机变量条件期望公式

📊 连续随机变量：条件期望与条件方差

相关系数 ρ

选择 X 值

离散随机变量

连续随机变量

⭐ 连续随机变量条件方差公式

📐二维高斯分布的条件期望

🔄"降维"：从求和到积分

✓ 全期望定理和全方差定理同样适用

为什么高斯条件期望是线性的？

连续随机变量：以鸢尾花为例

📊 条件概率密度函数 fX₂|X₁(x₂|x₁)

🌸 连续鸢尾花数据：条件期望与带宽

条件方向

📈条件期望 = 回归曲线

📏带宽 (Bandwidth) 的意义

🧮 条件统计量计算公式

📊8.3 离散鸢尾花数据

📈8.6 连续鸢尾花数据

🏷️ 考虑分类标签

回归曲线的直观理解

再谈如何分割 "1"

🎲 再谈如何分割 "1"

维度选择

变量类型

1️⃣一元随机变量

2️⃣二元随机变量

3️⃣三元及多元随机变量

🎨混合形式：离散 + 连续

🎯条件概率：重新定义 "1"

👁️可视化直觉

🎓第8章完结

📝 本章小结

8.1 离散：条件期望

8.2 离散：条件方差

8.3 鸢尾花：离散

8.4 连续：理论

8.6 鸢尾花：连续

📊 条件概率密度函数 f_X₂|X₁(x₂|x₁)