📚 本章内容
本章介绍多元函数的偏导数概念,探讨一阶偏导数如何描述函数在各个方向的变化率, 以及二阶偏导数如何描述函数的曲率。通过驻点分析,理解函数的极值和鞍点。
16.1 一阶偏导数
假设某二元函数 f(x₁, x₂) 对 x₁、x₂ 分别具有偏导数 f₁(x₁, x₂)、f₂(x₁, x₂)。上一节内容告诉我们 f₁(x₁, x₂)、f₂(x₁, x₂) 也是关于 x₁、x₂ 的二元函数。
如果一阶偏导函数 f₁(x₁, x₂)、f₂(x₁, x₂) 也有其各自一阶偏导数,则称"一阶偏导"是 f(x₁, x₂) 的二阶偏函数。
对 x₁ 二阶偏导
f₁(x₁, x₂) 对 x₁ 求一阶偏导得到 f(x₁, x₂) 对 x₁ 的二阶偏导,记做:
图 13 所示为二阶偏导 f₁₁x₁ 曲面和平面填充等高线。
图 13. 二阶偏导 f₁₁x₁ 曲面和平面填充等高线
对 x₂ 二阶偏导
f₂(x₁, x₂) 对 x₂ 求一阶偏导得到 f(x₁, x₂) 对 x₂ 的二阶偏导:
图 14 所示为二阶偏导 f₂₂x₂ 曲面和平面填充等高线。
图 14. 二阶偏导 f₂₂x₂ 曲面和平面填充等高线
二阶混合偏导
f₁(x₁, x₂) 对 x₁ 求一阶偏导得到 f(x₁, x₂) 先对 x₁、后对 x₂ 二阶混合偏导,记做:
x₁→x₂
⚠请大家注意偏导先后顺序,先 x₁ 后 x₂。
f₂(x₁, x₂) 对 x₁ 求一阶偏导得到 f(x₁, x₂) 先对 x₂、后对 x₁ 二阶混合偏导:
x₂→x₁
⚠务必请大家注意偏导先后顺序,不同教材的记法有差异。为了方便大家分法者习惯,本书混合偏导记法有同济高数等(高等数学)中记法规则。
如果函数 f(x₁, x₂) 在某个特定区域内两个二阶混合偏导 f₁₂x₁、f₂₁x₁ 连续,那么这两个混合偏导数相等,即:
对于(3),函数的二阶偏导连续。因此,f₁₂x₁ 和 f₂₁x₁ 等价。图 15 所示为二阶偏导 f₁₂x₁ (= f₂₁x₁) 曲面和填充等高线。
图 15. 二阶偏导 f₁₂x₁ (= f₂₁x₁) 曲面和填充等高线
和杨辉三角的联系
图 16 所示为偏导数和杨辉三角的联系。
图 16. 杨辉三角在偏导数的应用
一阶偏导数探索器
观察二元函数及其偏导数的等高线,理解偏导数的几何意义
f(x, y)
原函数的等高线图,展示函数值的分布
选择视图
显示选项
偏导数意义
∂f/∂x: 固定y,f沿x方向的变化率
∂f/∂y: 固定x,f沿y方向的变化率
零等高线: 偏导数为0的点,该方向局部平坦
驻点: ∂f/∂x=0且∂f/∂y=0的交点
颜色说明
16.2 驻点查找
驻点定义
本节,我们讨论如何利用 Hessian 矩阵判断驻点类型。对于二元函数 f(x₁, x₂),如果 x₀ = [x₁⁽⁰⁾, x₂⁽⁰⁾]ᵀ 点处的梯度为零向量,我们称 x₀ 为驻点(critical point/stationary point)。
梯度为零的点
换句话说,驻点 x₀ 满足:
Hessian 矩阵
函数 f(x₁, x₂) 在点 x₀ = [x₁⁽⁰⁾, x₂⁽⁰⁾]ᵀ 的 Hessian 矩阵为:
Hessian 矩阵是对称矩阵,主对角线元素分别是 f 对 x₁、x₂ 的二阶偏导数,非主对角线元素是二阶混合偏导数。
注意:如果二阶混合偏导数连续,则 ∂²f/∂x₁∂x₂ = ∂²f/∂x₂∂x₁,Hessian 矩阵对称。
驻点分类
利用 Hessian 矩阵,我们可以判断驻点 x₀ 的类型:
情形 1:极小值点
如果 Hessian 矩阵 H(x₀) 正定,即:
- det(H) > 0(行列式为正)
- ∂²f/∂x₁²|ₓ₌ₓ₀ > 0(左上角元素为正)
则 x₀ 是极小值点
情形 2:极大值点
如果 Hessian 矩阵 H(x₀) 负定,即:
- det(H) > 0(行列式为正)
- ∂²f/∂x₁²|ₓ₌ₓ₀ < 0(左上角元素为负)
则 x₀ 是极大值点
情形 3:鞍点
如果 Hessian 矩阵 H(x₀) 不定,即:
- det(H) < 0(行列式为负)
则 x₀ 是鞍点
情形 4:退化情形
如果:
- det(H) = 0(行列式为零)
无法判断,需要更高阶的导数信息
几何直观
图 17 所示为三种驻点的几何直观:
图 17. 三种驻点的几何直观:极小值(谷底)、极大值(山峰)、鞍点(马鞍)
判别流程图
图 18 所示为利用 Hessian 矩阵判断驻点类型的流程:
图 18. Hessian 矩阵判别驻点类型的流程图
驻点查找器
驻点是两个偏导数零等高线的交点,表示函数局部平坦的位置
驻点定义
驻点满足:
∂f/∂y = 0
在驻点处,函数在所有方向上局部平坦
零等高线
x方向局部平坦
y方向局部平坦
两线交点
驻点类型
极大值点:周围所有点函数值都小
极小值点:周围所有点函数值都大
鞍点:某些方向上升,某些方向下降
需要二阶导数来判断驻点类型
观察要点
✓ 绿色线:f沿x方向不变的轨迹
✓ 蓝色线:f沿y方向不变的轨迹
✓ 交点:两个方向都不变
✓ 背景色:函数值的等高线
16.3 二阶偏导:一阶偏导函数的一阶偏导
假设某个二元函数 f(x₁, x₂) 对 x₁、x₂ 分别具有偏导数 fx₁(x₁, x₂)、fx₂(x₁, x₂)。上一节的内容告诉我们 fx₁(x₁, x₂)、fx₂(x₁, x₂) 也是关于 x₁、x₂ 的二元函数。
如果某一阶偏导函数 fx₁(x₁, x₂)、fx₂(x₁, x₂) 也有其各自一阶偏导数,则称"一阶偏导的一阶偏导"是 f(x₁, x₂) 的二阶偏导数。
对 x₁ 二阶偏导
fx₁(x₁, x₂) 对 x₁ 求一阶偏导得到 f(x₁, x₂) 对 x₁ 的二阶偏导,记做:
公式 (5)
图 13 所示为二阶偏导 fx₁x₁ 曲面和平面填充等高线。
图 13. 二阶偏导 fx₁x₁ 曲面和平面填充等高线
对 x₂ 二阶偏导
fx₂(x₁, x₂) 对 x₂ 求一阶偏导得到 f(x₁, x₂) 对 x₂ 的二阶偏导:
公式 (6)
图 14 所示为二阶偏导 fx₂x₂ 曲面和平面填充等高线。
图 14. 二阶偏导 fx₂x₂ 曲面和平面填充等高线
二阶混合偏导
fx₁(x₁, x₂) 对 x₂ 求一阶偏导得到 f(x₁, x₂) 先对 x₁、后对 x₂ 二阶混合偏导,记做:
公式 (7)
⚠️ 请大家注意偏导先后顺序,先 x₁ 后 x₂
fx₂(x₁, x₂) 对 x₁ 求一阶偏导得到 f(x₁, x₂) 先对 x₂、后对 x₁ 二阶混合偏导:
公式 (8)
⚠️ 请大家注意偏导先后顺序,先 x₂ 后 x₁
⚠️ 首次接触的同学往往会混淆混合偏导的先后顺序。不同教材对记法的约定存在顺序颠倒。为了方便大家分辨,本书沿用《高等数学》中记法约定。
如果函数 f(x₁, x₂) 在某个特定区域的两个二阶混合偏导 fx₁x₂、fx₂x₁ 连续,那么这两个混合偏导数相等,即:
公式 (9)
对于 (3),函数的二阶偏导连续。因此,fx₂x₁ 和 fx₁x₂ 等价。图 15 所示为二阶偏导 fx₁x₂ (= fx₂x₁) 曲面和填充等高线。
图 15. 二阶偏导 fx₁x₂ (= fx₂x₁) 曲面和填充等高线
和杨辉三角的联系
图 16 所示为偏导数和杨辉三角的联系。
图 16. 杨辉三角在偏导数的应用
二阶偏导数与曲率
二阶偏导数描述函数的曲率特性,用于分析驻点类型和凹凸性
∂²f/∂x²
x方向的曲率,描述函数在x方向的凹凸性
选择二阶导数
符号含义
> 0:沿x方向凹向上
< 0:沿x方向凹向下
= 0:x方向拐点
Hessian矩阵
二阶偏导数构成Hessian矩阵:
[∂²f/∂x∂y ∂²f/∂y² ]
用于判断驻点类型:
• det(H) > 0, ∂²f/∂x² > 0 → 极小值
• det(H) > 0, ∂²f/∂x² < 0 → 极大值
• det(H) < 0 → 鞍点
颜色说明
🔍 二阶导数的应用
优化算法:牛顿法使用Hessian矩阵加速收敛
极值判定:通过二阶导数符号判断极大/极小
曲率分析:理解函数的凹凸性质
16.4 偏导数为 0 的点:驻点
如果某个二元函数 f(x₁, x₂) 在某一点 (x₁⁰, x₂⁰) 处对 x₁、x₂ 的一阶偏导数都存在,并且都为 0,即:
公式 (10)
则称点 (x₁⁰, x₂⁰) 为函数 f(x₁, x₂) 的驻点或稳定点(stationary point)。
驻点的几何意义
在驻点处,函数曲面在该点的切平面是水平的(平行于 x₁x₂ 平面)。这意味着:
- ▸沿 x₁ 方向,函数值既不增加也不减少
- ▸沿 x₂ 方向,函数值既不增加也不减少
- ▸驻点可能是极大值点、极小值点或鞍点
图 17. 三种类型的驻点:极小值点、极大值点和鞍点
判断驻点类型:二阶偏导数判别法
对于驻点 (x₁⁰, x₂⁰),可以通过 Hessian 矩阵来判断其类型:
Hessian 矩阵
极小值点
det(H) > 0
fx₁x₁ > 0
💡 函数在该点达到局部最小
极大值点
det(H) > 0
fx₁x₁ < 0
💡 函数在该点达到局部最大
鞍点
det(H) < 0
💡 既非极大也非极小
⚠️ 注意:如果 det(H) = 0,则该判别法失效,需要用其他方法判断。
判别流程图
图 18. 使用 Hessian 矩阵判别驻点类型的流程
驻点查找器
驻点是两个偏导数零等高线的交点,表示函数局部平坦的位置
驻点定义
驻点满足:
∂f/∂y = 0
在驻点处,函数在所有方向上局部平坦
零等高线
x方向局部平坦
y方向局部平坦
两线交点
驻点类型
极大值点:周围所有点函数值都小
极小值点:周围所有点函数值都大
鞍点:某些方向上升,某些方向下降
需要二阶导数来判断驻点类型
观察要点
✓ 绿色线:f沿x方向不变的轨迹
✓ 蓝色线:f沿y方向不变的轨迹
✓ 交点:两个方向都不变
✓ 背景色:函数值的等高线
章节总结
关键要点
核心概念
- ▸偏导数:∂f/∂x和∂f/∂y分别描述f在x和y方向的变化率
- ▸驻点:满足∂f/∂x=0且∂f/∂y=0的点,函数在该点局部平坦
- ▸二阶偏导数:描述函数的曲率,用于判断驻点类型
- ▸Hessian矩阵:H = [[∂²f/∂x², ∂²f/∂x∂y], [∂²f/∂x∂y, ∂²f/∂y²]]
- ▸驻点分类:det(H)> 0且∂²f/∂x²> 0→极小;det(H)> 0且∂²f/∂x²< 0→极大;det(H)< 0→鞍点
🎯 实际应用
梯度下降算法使用偏导数计算梯度,牛顿法使用Hessian矩阵加速收敛。
找到函数的驻点,通过Hessian矩阵判断是极大、极小还是鞍点。
多元函数优化应用于成本最小化、效用最大化等问题。
偏导数用于边缘检测、特征提取等图像分析任务。