← 返回Book 3目录
第16章

偏导数

Partial Derivatives

多元函数微分基础

📚 本章内容

本章介绍多元函数的偏导数概念,探讨一阶偏导数如何描述函数在各个方向的变化率, 以及二阶偏导数如何描述函数的曲率。通过驻点分析,理解函数的极值和鞍点。

16.1
一阶偏导数
16.2
驻点查找
16.3
二阶偏导数

16.1 一阶偏导数

假设某二元函数 f(x₁, x₂) 对 x₁、x₂ 分别具有偏导数 f₁(x₁, x₂)、f₂(x₁, x₂)。上一节内容告诉我们 f₁(x₁, x₂)、f₂(x₁, x₂) 也是关于 x₁、x₂ 的二元函数。

如果一阶偏导函数 f₁(x₁, x₂)、f₂(x₁, x₂) 也有其各自一阶偏导数,则称"一阶偏导"是 f(x₁, x₂) 的二阶偏函数。

对 x₁ 二阶偏导

f₁(x₁, x₂) 对 x₁ 求一阶偏导得到 f(x₁, x₂) 对 x₁ 的二阶偏导,记做:

∂/∂x₁(∂f/∂x₁) = ∂²f/∂x₁² = f₁₁x₁ = (fx₁)x₁

图 13 所示为二阶偏导 f₁₁x₁ 曲面和平面填充等高线。

x₁f₁₁x₁(x₁,x₂)x₂x₁x₂

图 13. 二阶偏导 f₁₁x₁ 曲面和平面填充等高线

对 x₂ 二阶偏导

f₂(x₁, x₂) 对 x₂ 求一阶偏导得到 f(x₁, x₂) 对 x₂ 的二阶偏导:

∂/∂x₂(∂f/∂x₂) = ∂²f/∂x₂² = f₂₂x₂ = (fx₂)x₂

图 14 所示为二阶偏导 f₂₂x₂ 曲面和平面填充等高线。

x₁f₂₂x₂(x₁,x₂)x₂x₁

图 14. 二阶偏导 f₂₂x₂ 曲面和平面填充等高线

二阶混合偏导

f₁(x₁, x₂) 对 x₁ 求一阶偏导得到 f(x₁, x₂) 先对 x₁、后对 x₂ 二阶混合偏导,记做:

∂/∂x₂(∂f/∂x₁) = ∂²f/∂x₂∂x₁ = f₁₂x₁ = (fx₁)x₂

x₁→x₂

⚠请大家注意偏导先后顺序,先 x₁ 后 x₂。

f₂(x₁, x₂) 对 x₁ 求一阶偏导得到 f(x₁, x₂) 先对 x₂、后对 x₁ 二阶混合偏导:

∂/∂x₁(∂f/∂x₂) = ∂²f/∂x₁∂x₂ = f₂₁x₁ = (fx₂)x₁

x₂→x₁

⚠务必请大家注意偏导先后顺序,不同教材的记法有差异。为了方便大家分法者习惯,本书混合偏导记法有同济高数等(高等数学)中记法规则。

如果函数 f(x₁, x₂) 在某个特定区域内两个二阶混合偏导 f₁₂x₁、f₂₁x₁ 连续,那么这两个混合偏导数相等,即:

∂²f/∂x₂∂x₁ = ∂²f/∂x₁∂x₂

对于(3),函数的二阶偏导连续。因此,f₁₂x₁ 和 f₂₁x₁ 等价。图 15 所示为二阶偏导 f₁₂x₁ (= f₂₁x₁) 曲面和填充等高线。

x₁f₁₂(x₁,x₂)x₂x₁

图 15. 二阶偏导 f₁₂x₁ (= f₂₁x₁) 曲面和填充等高线

和杨辉三角的联系

图 16 所示为偏导数和杨辉三角的联系。

f(x₁,x₂)∂f/∂x₁ = fx₁∂f/∂x₂ = fx₂∂/∂x₁(∂f/∂x₁) = ∂²f/∂x₁²= fx₁x₁ = f₁₁∂/∂x₂(∂f/∂x₁) = ∂²f/∂x₂∂x₁= fx₁x₂ = f₁₂∂/∂x₁(∂f/∂x₂) = ∂²f/∂x₁∂x₂= fx₂x₁ = f₂₁∂/∂x₂(∂f/∂x₂) = ∂²f/∂x₂²= fx₂x₂ = f₂₂∂/∂x₁(∂f/∂x₁²) = ∂³f/∂x₁³ = f₁₁₁∂/∂x₂(∂f/∂x₁²) = ∂³f/∂x₂∂x₁² = f₁₁₂∂/∂x₂(∂f/∂x₂²) = ∂³f/∂x₂³ = f₂₂₂

图 16. 杨辉三角在偏导数的应用

一阶偏导数探索器

观察二元函数及其偏导数的等高线,理解偏导数的几何意义

f(x, y)

原函数的等高线图,展示函数值的分布

xy-3-2-10123-3-2-10123

选择视图

显示选项

偏导数意义

∂f/∂x: 固定y,f沿x方向的变化率

∂f/∂y: 固定x,f沿y方向的变化率

零等高线: 偏导数为0的点,该方向局部平坦

驻点: ∂f/∂x=0且∂f/∂y=0的交点

颜色说明

蓝色:低值区域
黄色:高值区域
绿色:∂f/∂x = 0
深蓝:∂f/∂y = 0

16.2 驻点查找

驻点定义

本节,我们讨论如何利用 Hessian 矩阵判断驻点类型。对于二元函数 f(x₁, x₂),如果 x₀ = [x₁⁽⁰⁾, x₂⁽⁰⁾]ᵀ 点处的梯度为零向量,我们称 x₀ 为驻点(critical point/stationary point)。

∇f(x₀) = [∂f/∂x₁, ∂f/∂x₂]ᵀ|ₓ₌ₓ₀ = 0

梯度为零的点

换句话说,驻点 x₀ 满足:

∂f/∂x₁|ₓ₌ₓ₀ = 0
∂f/∂x₂|ₓ₌ₓ₀ = 0

Hessian 矩阵

函数 f(x₁, x₂) 在点 x₀ = [x₁⁽⁰⁾, x₂⁽⁰⁾]ᵀ 的 Hessian 矩阵为:

H(x₀) = [∂²f/∂x₁²    ∂²f/∂x₁∂x₂]
        [∂²f/∂x₂∂x₁   ∂²f/∂x₂²]|ₓ₌ₓ₀

Hessian 矩阵是对称矩阵,主对角线元素分别是 f 对 x₁、x₂ 的二阶偏导数,非主对角线元素是二阶混合偏导数。

注意:如果二阶混合偏导数连续,则 ∂²f/∂x₁∂x₂ = ∂²f/∂x₂∂x₁,Hessian 矩阵对称。

驻点分类

利用 Hessian 矩阵,我们可以判断驻点 x₀ 的类型:

情形 1:极小值点

如果 Hessian 矩阵 H(x₀) 正定,即:

  • det(H) > 0(行列式为正)
  • ∂²f/∂x₁²|ₓ₌ₓ₀ > 0(左上角元素为正)

则 x₀ 是极小值点

情形 2:极大值点

如果 Hessian 矩阵 H(x₀) 负定,即:

  • det(H) > 0(行列式为正)
  • ∂²f/∂x₁²|ₓ₌ₓ₀ < 0(左上角元素为负)

则 x₀ 是极大值点

情形 3:鞍点

如果 Hessian 矩阵 H(x₀) 不定,即:

  • det(H) < 0(行列式为负)

则 x₀ 是鞍点

情形 4:退化情形

如果:

  • det(H) = 0(行列式为零)

无法判断,需要更高阶的导数信息

几何直观

图 17 所示为三种驻点的几何直观:

极小值点谷底极大值点山峰鞍点马鞍

图 17. 三种驻点的几何直观:极小值(谷底)、极大值(山峰)、鞍点(马鞍)

判别流程图

图 18 所示为利用 Hessian 矩阵判断驻点类型的流程:

找到驻点 x₀:∇f(x₀) = 0计算 Hessian 矩阵H(x₀) 和 det(H)det(H) > 0?(行列式)是∂²f/∂x₁² > 0?是极小值谷底否极大值山峰否det(H) < 0?是鞍点马鞍否退化情形需要更高阶信息

图 18. Hessian 矩阵判别驻点类型的流程图

驻点查找器

驻点是两个偏导数零等高线的交点,表示函数局部平坦的位置

xy-3-2-10123-3-2-10123∂f/∂x = 0∂f/∂y = 0驻点

驻点定义

驻点满足:

∂f/∂x = 0
∂f/∂y = 0

在驻点处,函数在所有方向上局部平坦

零等高线

绿色线:∂f/∂x = 0
x方向局部平坦
蓝色线:∂f/∂y = 0
y方向局部平坦
红色点:驻点
两线交点

驻点类型

极大值点:周围所有点函数值都小

极小值点:周围所有点函数值都大

鞍点:某些方向上升,某些方向下降

需要二阶导数来判断驻点类型

观察要点

✓ 绿色线:f沿x方向不变的轨迹

✓ 蓝色线:f沿y方向不变的轨迹

✓ 交点:两个方向都不变

✓ 背景色:函数值的等高线

16.3 二阶偏导:一阶偏导函数的一阶偏导

假设某个二元函数 f(x₁, x₂) 对 x₁、x₂ 分别具有偏导数 fx₁(x₁, x₂)、fx₂(x₁, x₂)。上一节的内容告诉我们 fx₁(x₁, x₂)、fx₂(x₁, x₂) 也是关于 x₁、x₂ 的二元函数。

如果某一阶偏导函数 fx₁(x₁, x₂)、fx₂(x₁, x₂) 也有其各自一阶偏导数,则称"一阶偏导的一阶偏导"是 f(x₁, x₂) 的二阶偏导数。

对 x₁ 二阶偏导

fx₁(x₁, x₂) 对 x₁ 求一阶偏导得到 f(x₁, x₂) 对 x₁ 的二阶偏导,记做:

∂/∂x₁ (∂f/∂x₁) = ∂²f/∂x₁² = fx₁x₁ = (fx₁)x₁

公式 (5)

图 13 所示为二阶偏导 fx₁x₁ 曲面和平面填充等高线。

fx₁x₁(x₁, x₂) 曲面x₁fx₁x₁x₂平面填充等高线x₁x₂

图 13. 二阶偏导 fx₁x₁ 曲面和平面填充等高线

对 x₂ 二阶偏导

fx₂(x₁, x₂) 对 x₂ 求一阶偏导得到 f(x₁, x₂) 对 x₂ 的二阶偏导:

∂/∂x₂ (∂f/∂x₂) = ∂²f/∂x₂² = fx₂x₂ = (fx₂)x₂

公式 (6)

图 14 所示为二阶偏导 fx₂x₂ 曲面和平面填充等高线。

fx₂x₂(x₁, x₂) 曲面x₁fx₂x₂x₂平面填充等高线x₁x₂

图 14. 二阶偏导 fx₂x₂ 曲面和平面填充等高线

二阶混合偏导

fx₁(x₁, x₂) 对 x₂ 求一阶偏导得到 f(x₁, x₂) 先对 x₁、后对 x₂ 二阶混合偏导,记做:

∂/∂x₂ (∂f/∂x₁) = ∂²f/∂x₁∂x₂ = fx₁x₂ = (fx₁)x₂

公式 (7)

⚠️ 请大家注意偏导先后顺序,先 x₁ 后 x₂

fx₂(x₁, x₂) 对 x₁ 求一阶偏导得到 f(x₁, x₂) 先对 x₂、后对 x₁ 二阶混合偏导:

∂/∂x₁ (∂f/∂x₂) = ∂²f/∂x₂∂x₁ = fx₂x₁ = (fx₂)x₁

公式 (8)

⚠️ 请大家注意偏导先后顺序,先 x₂ 后 x₁

⚠️ 首次接触的同学往往会混淆混合偏导的先后顺序。不同教材对记法的约定存在顺序颠倒。为了方便大家分辨,本书沿用《高等数学》中记法约定。

如果函数 f(x₁, x₂) 在某个特定区域的两个二阶混合偏导 fx₁x₂、fx₂x₁ 连续,那么这两个混合偏导数相等,即:

∂²f/∂x₁∂x₂ = ∂²f/∂x₂∂x₁

公式 (9)

对于 (3),函数的二阶偏导连续。因此,fx₂x₁ 和 fx₁x₂ 等价。图 15 所示为二阶偏导 fx₁x₂ (= fx₂x₁) 曲面和填充等高线。

fx₁x₂(x₁, x₂) 曲面x₁fx₁x₂x₂平面填充等高线x₁x₂

图 15. 二阶偏导 fx₁x₂ (= fx₂x₁) 曲面和填充等高线

和杨辉三角的联系

图 16 所示为偏导数和杨辉三角的联系。

f(x₁, x₂)∂f/∂x₁∂f/∂x₂∂/∂x₁(∂f/∂x₁)=∂²f/∂x₁²=fx₁x₁∂/∂x₂(∂f/∂x₁)=∂²f/∂x₁∂x₂=fx₁x₂∂/∂x₁(∂f/∂x₂)=∂²f/∂x₂∂x₁=fx₂x₁∂/∂x₂(∂f/∂x₂)=∂²f/∂x₂²=fx₂x₂对应杨辉三角1    2    1

图 16. 杨辉三角在偏导数的应用

二阶偏导数与曲率

二阶偏导数描述函数的曲率特性,用于分析驻点类型和凹凸性

∂²f/∂x²

x方向的曲率,描述函数在x方向的凹凸性

xy-3-2-10123-3-2-10123

选择二阶导数

符号含义

> 0:沿x方向凹向上

< 0:沿x方向凹向下

= 0:x方向拐点

Hessian矩阵

二阶偏导数构成Hessian矩阵:

H = [∂²f/∂x² ∂²f/∂x∂y]
[∂²f/∂x∂y ∂²f/∂y² ]

用于判断驻点类型:

• det(H) > 0, ∂²f/∂x² > 0 → 极小值

• det(H) > 0, ∂²f/∂x² < 0 → 极大值

• det(H) < 0 → 鞍点

颜色说明

蓝色:负值(凹向下)
黄色:正值(凹向上)

🔍 二阶导数的应用

优化算法:牛顿法使用Hessian矩阵加速收敛

极值判定:通过二阶导数符号判断极大/极小

曲率分析:理解函数的凹凸性质

16.4 偏导数为 0 的点:驻点

如果某个二元函数 f(x₁, x₂) 在某一点 (x₁⁰, x₂⁰) 处对 x₁、x₂ 的一阶偏导数都存在,并且都为 0,即:

fx₁(x₁⁰, x₂⁰) = 0
fx₂(x₁⁰, x₂⁰) = 0

公式 (10)

则称点 (x₁⁰, x₂⁰) 为函数 f(x₁, x₂) 的驻点或稳定点(stationary point)。

驻点的几何意义

在驻点处,函数曲面在该点的切平面是水平的(平行于 x₁x₂ 平面)。这意味着:

  • ▸沿 x₁ 方向,函数值既不增加也不减少
  • ▸沿 x₂ 方向,函数值既不增加也不减少
  • ▸驻点可能是极大值点、极小值点或鞍点
极小值点(x₁⁰, x₂⁰)x₁x₂fx₁ = 0, fx₂ = 0局部最低点极大值点(x₁⁰, x₂⁰)x₁x₂fx₁ = 0, fx₂ = 0局部最高点鞍点(x₁⁰, x₂⁰)x₁x₂fx₁ = 0, fx₂ = 0既非极大也非极小

图 17. 三种类型的驻点:极小值点、极大值点和鞍点

判断驻点类型:二阶偏导数判别法

对于驻点 (x₁⁰, x₂⁰),可以通过 Hessian 矩阵来判断其类型:

H = [fx₁x₁(x₁⁰, x₂⁰) fx₁x₂(x₁⁰, x₂⁰)]
    [fx₂x₁(x₁⁰, x₂⁰) fx₂x₂(x₁⁰, x₂⁰)]

Hessian 矩阵

极小值点

det(H) > 0

fx₁x₁ > 0

💡 函数在该点达到局部最小

极大值点

det(H) > 0

fx₁x₁ < 0

💡 函数在该点达到局部最大

鞍点

det(H) < 0

💡 既非极大也非极小

⚠️ 注意:如果 det(H) = 0,则该判别法失效,需要用其他方法判断。

判别流程图

找到驻点 (x₁⁰, x₂⁰)fx₁ = 0, fx₂ = 0计算 Hessian 矩阵的行列式det(H) > 0?是否fx₁x₁ > 0?是极小值点否极大值点det(H) < 0?是鞍点否判别法失效需用其他方法

图 18. 使用 Hessian 矩阵判别驻点类型的流程

驻点查找器

驻点是两个偏导数零等高线的交点,表示函数局部平坦的位置

xy-3-2-10123-3-2-10123∂f/∂x = 0∂f/∂y = 0驻点

驻点定义

驻点满足:

∂f/∂x = 0
∂f/∂y = 0

在驻点处,函数在所有方向上局部平坦

零等高线

绿色线:∂f/∂x = 0
x方向局部平坦
蓝色线:∂f/∂y = 0
y方向局部平坦
红色点:驻点
两线交点

驻点类型

极大值点:周围所有点函数值都小

极小值点:周围所有点函数值都大

鞍点:某些方向上升,某些方向下降

需要二阶导数来判断驻点类型

观察要点

✓ 绿色线:f沿x方向不变的轨迹

✓ 蓝色线:f沿y方向不变的轨迹

✓ 交点:两个方向都不变

✓ 背景色:函数值的等高线

章节总结

关键要点

∂
一阶偏导
方向变化率
•
驻点
局部平坦
H
Hessian
曲率矩阵

核心概念

  • ▸偏导数:∂f/∂x和∂f/∂y分别描述f在x和y方向的变化率
  • ▸驻点:满足∂f/∂x=0且∂f/∂y=0的点,函数在该点局部平坦
  • ▸二阶偏导数:描述函数的曲率,用于判断驻点类型
  • ▸Hessian矩阵:H = [[∂²f/∂x², ∂²f/∂x∂y], [∂²f/∂x∂y, ∂²f/∂y²]]
  • ▸驻点分类:det(H)> 0且∂²f/∂x²> 0→极小;det(H)> 0且∂²f/∂x²< 0→极大;det(H)< 0→鞍点

🎯 实际应用

机器学习

梯度下降算法使用偏导数计算梯度,牛顿法使用Hessian矩阵加速收敛。

优化问题

找到函数的驻点,通过Hessian矩阵判断是极大、极小还是鞍点。

经济学

多元函数优化应用于成本最小化、效用最大化等问题。

图像处理

偏导数用于边缘检测、特征提取等图像分析任务。