📖 本章概要
朴素贝叶斯分类是基于贝叶斯定理和特征条件独立假设的分类方法。
9.1 重逢贝叶斯
后验概率、成员值
9.2 朴素之处
特征条件独立假设
9.3 高斯你好
高斯朴素贝叶斯
9.1
重逢贝叶斯
比较后验概率大小
朴素贝叶斯分类核心思想是比较后验概率大小。 对于二分类问题，比较fY|χ(C₁ | x)和fY|χ(C₂ | x)的大小来预测分类。 本节通过可旋转的3D曲面和公式推导动画深入理解贝叶斯分类原理。
贝叶斯公式推导（步进动画）
后验概率3D曲面（可旋转）
联合概率3D曲面（阶段演示）
成员值（Membership Score）
💡 9.1节小结
• 贝叶斯公式：后验 = 联合 / 证据，后验 ∝ 先验 × 似然
• 后验概率：fY|χ(Ck | x)表示给定x被分类为Ck的概率
• 3D可视化：曲面高度表示概率，旋转查看空间分布
• 成员值：后验概率取值在[0, 1]之间，表示属于某类的可能性
• 决策规则：比较后验/联合概率，选择最大值对应的类别
✦
9.2
朴素贝叶斯的"朴素"之处
假设特征之间条件独立
朴素贝叶斯分类，何以谓之"朴素"？答案是——假设特征之间条件独立！ 这是个"天真"的假设，但在实践中往往效果不错。
三类后验概率3D曲面（图16-18）
朴素贝叶斯分类流程
💡 9.2节小结
• 特征条件独立：fχ|Y(x | Ck) = ∏j fXj|Y(xj | Ck)
• 联合概率：fY,χ(Ck, x) = pY(Ck) · ∏j fXj|Y(xj | Ck)
• 优化目标：最大化后验概率或联合概率
• 贝叶斯定理：连接先验、似然和后验
✦
9.3
高斯你好
Gaussian Naive Bayes
高斯朴素贝叶斯采用高斯分布估计特征条件边际分布。 与基于KDE的朴素贝叶斯相比，高斯朴素贝叶斯决策边界更加平滑，且存在解析解。 本节通过完整流程图、似然概率正椭圆、联合概率3D曲面、决策边界和证据子概率全面展示高斯朴素贝叶斯原理。
高斯朴素贝叶斯分类流程（图21）
似然概率与条件独立（图22-24）
联合概率3D曲面（图25-27）
决策边界可视化（图28）
证据子概率密度（图29）
💡 9.3节小结
• 流程完整：从训练数据→先验→边际分布→似然→联合→决策边界
• 高斯分布：fXj|Y(xj | Ck) = N(μj|Ck, σ²j|Ck)
• 正椭圆等高线：验证特征条件独立假设
• 3D可视化：联合概率曲面可旋转交互
• 决策边界：平滑曲线，区域着色清晰
• 证据因子：三类联合概率叠加形成证据子概率
• sklearn实现：GaussianNB() 简单高效
📋朴素贝叶斯分类核心要点
🎯 理论基础
• 贝叶斯定理
• 特征条件独立假设
• 最大化后验概率（MAP）
• 后验 ∝ 似然 × 先验
⚡ 实践优势
• 算法简单，计算高效
• 适用于多分类问题
• 处理高维数据表现良好
• 可解释性强（概率输出）
📊 概率类型
• 先验概率：pY(Ck)
• 似然概率：fχ|Y(x | Ck)
• 联合概率：fY,χ(Ck, x)
• 后验概率：fY|χ(Ck | x)
⚠️ 注意事项
• 条件独立假设往往不成立
• 连续变量需概率密度估计
• KDE vs 高斯分布的选择
• 类别不平衡需调整先验