← 返回Book 3目录
第21章统计学基础

统计入门

Statistics Intro

从数据到统计量:理解统计推断的基本原理

🎯 学习目标

  • •理解总体、样本、统计量等统计学基本概念
  • •掌握集中趋势统计量:均值、中位数、众数
  • •掌握离散程度统计量:方差、标准差、四分位数
  • •了解数据分布形态:偏度、峰度
  • •理解抽样分布和中心极限定理
  • •掌握点估计和区间估计的基本原理

21.1 统计学基础概念

统计学(Statistics)是研究如何收集、整理、分析和解释数据的学科。它是从数据中提取信息、发现规律的科学方法。

统计学的核心任务是:用样本推断总体,用有限的观测数据推断未观测到的更大范围的情况。

核心概念

总体(Population)

研究对象的全体。总体可以是有限的,也可以是无限的。

示例:研究某大学学生的身高,全校所有学生构成总体

样本(Sample)

从总体中抽取的一部分个体。样本是总体的子集。

示例:从全校学生中随机抽取100名学生测量身高,这100名学生构成样本

参数(Parameter)

描述总体特征的数值,通常用希腊字母表示(如μ、σ)。

示例:全校学生身高的平均值μ,标准差σ

统计量(Statistic)

描述样本特征的数值,通常用拉丁字母表示(如x̄、s)。统计量是样本的函数。

示例:样本平均身高x̄,样本标准差s

统计推断的逻辑

总体参数 μ, σ(未知)样本统计量 x̄, s(已知)抽样推断用样本统计量估计总体参数

⚠️ 关键问题

如何保证样本能够代表总体?答案是随机抽样。只有随机抽样才能保证样本的代表性,使得统计推断具有科学性。

21.2 集中趋势统计量

集中趋势统计量(Measures of Central Tendency)用于描述数据的中心位置,回答"数据大致在什么水平"这个问题。

三个最常用的集中趋势统计量是:均值、中位数、众数。

均值(Mean)

样本均值

x̄ = (1/n) Σ xi
所有观测值的算术平均

样本均值公式

特点:

  • 使用所有数据信息
  • 对极端值敏感
  • 具有良好的数学性质

总体均值

μ = (1/N) Σ xi
总体所有个体的算术平均

总体均值公式

注意:样本均值x̄是总体均值μ的无偏估计,即E(x̄) = μ

示例计算

数据集:[2, 4, 6, 8, 10]

x̄ = (2 + 4 + 6 + 8 + 10) / 5 = 30 / 5 = 6

中位数(Median)

将数据从小到大排序后,位于中间位置的数值。中位数记作Med或M。

奇数个数据

Med = x((n+1)/2)

示例:[1, 3, 5, 7, 9]

Med = 5(第3个数)

偶数个数据

Med = (x(n/2) + x(n/2+1)) / 2

示例:[2, 4, 6, 8]

Med = (4 + 6) / 2 = 5

中位数的优势

  • • 对极端值不敏感:适合有离群值的数据
  • • 稳健性好:个别数据的变化不会显著影响中位数
  • • 直观易懂:50%的数据小于中位数,50%大于中位数

众数(Mode)

数据集中出现次数最多的数值。众数记作Mo。

单峰分布

[1, 2, 2, 2, 3, 4]

Mo = 2

双峰分布

[1, 2, 2, 3, 4, 4]

Mo = 2, 4

无众数

[1, 2, 3, 4, 5]

所有值频率相同

应用场景

众数特别适合类别数据和离散数据。例如:最受欢迎的产品型号、最常见的缺陷类型等。

三者比较

统计量优点缺点适用场景
均值利用所有信息,数学性质好受极端值影响大对称分布,无极端值
中位数不受极端值影响,稳健未充分利用所有信息偏态分布,有极端值
众数适用类别数据,直观可能不唯一或不存在类别数据,离散数据

💡 实践建议

在实际数据分析中,建议同时计算多个集中趋势统计量:

  • • 如果均值、中位数、众数接近,说明数据对称分布
  • • 如果均值 > 中位数,说明数据右偏(正偏)
  • • 如果均值 < 中位数,说明数据左偏(负偏)

21.3 离散程度统计量

离散程度统计量(Measures of Dispersion)用于描述数据的分散程度,回答"数据有多分散"这个问题。

常用的离散程度统计量包括:极差、方差、标准差、四分位距。

极差(Range)

R = xmax - xmin
最大值与最小值之差

优点

  • • 计算简单直观
  • • 快速了解数据跨度

缺点

  • • 只使用两个极端值
  • • 对离群值极其敏感
  • • 忽略中间数据分布

方差(Variance)

样本方差

s² = (1/(n-1)) Σ (xi - x̄)²
观测值与样本均值的平方差的平均
注意:除以(n-1)而非n,这是自由度校正,保证s²是σ²的无偏估计

总体方差

σ² = (1/N) Σ (xi - μ)²
个体与总体均值的平方差的平均
关系:E(s²) = σ²,样本方差是总体方差的无偏估计

方差的性质

  • • 非负性:Var(X) ≥ 0,当且仅当所有值相同时为0
  • • 平移不变性:Var(X + c) = Var(X)
  • • 伸缩性:Var(aX) = a² Var(X)
  • • 可加性(独立变量):Var(X + Y) = Var(X) + Var(Y)

标准差(Standard Deviation)

样本标准差

s = √s²
样本方差的平方根

总体标准差

σ = √σ²
总体方差的平方根

为什么需要标准差?

标准差与原始数据单位相同,更容易理解和解释。

示例:如果身高数据单位是厘米(cm),方差单位是cm²,而标准差单位仍是cm,更直观。

四分位数与四分位距

四分位数(Quartiles)将排序后的数据分为四等份的三个分割点。

Q₁(下四分位数)

25%的数据小于Q₁

Q₂(中位数)

50%的数据小于Q₂

Q₃(上四分位数)

75%的数据小于Q₃

四分位距(IQR)

IQR = Q₃ - Q₁
上四分位数与下四分位数之差

IQR描述了中间50%数据的分散范围,对极端值不敏感。

箱线图(Box Plot)

MinQ₁Q₂Q₃MaxIQR

箱线图直观展示数据的五数概括和IQR

变异系数(Coefficient of Variation)

CV = (s / x̄) × 100%
标准差与均值的比值(百分比形式)

变异系数的作用

变异系数是相对离散程度的度量,可以比较不同量纲或均值差异较大的数据集的离散程度。

示例:比较身高(均值170cm,标准差10cm)和体重(均值70kg,标准差15kg)的离散程度,用变异系数更合理。

🔬 交互实验:统计实验室

拖拽数据点,观察集中趋势和离散程度统计量的实时变化。尝试添加极端值,感受均值、中位数和标准差的不同特性。

21.4 数据分布形态

除了集中趋势和离散程度,数据分布的形状特征也很重要。

偏度(Skewness)和峰度(Kurtosis)是描述分布形态的两个重要统计量。

偏度(Skewness)

偏度衡量数据分布的对称性,描述分布偏离对称分布的程度和方向。

Skewness = E[(X - μ)³] / σ³
标准化的三阶中心矩

左偏(负偏)

Skewness < 0

长尾在左侧

均值 < 中位数

对称分布

Skewness ≈ 0

两侧对称

均值 = 中位数

右偏(正偏)

Skewness > 0

长尾在右侧

均值 > 中位数

偏度的实际意义

  • • 收入分布通常右偏:少数高收入者拉高均值
  • • 考试成绩可能左偏:多数学生得分较高,少数低分
  • • 正态分布的偏度为0,完全对称

峰度(Kurtosis)

峰度衡量数据分布的尖峭程度和尾部厚度。

Kurtosis = E[(X - μ)⁴] / σ⁴
标准化的四阶中心矩

通常使用超额峰度:Excess Kurtosis = Kurtosis - 3

平峰分布

Kurtosis < 3

峰较平,尾部较轻

如均匀分布

正态峰度

Kurtosis = 3

标准正态分布

参考基准

尖峰分布

Kurtosis > 3

峰较尖,尾部较重

更多极端值

峰度的实际意义

  • • 金融数据通常尖峰厚尾:极端事件比正态分布预测的更频繁
  • • 风险管理:高峰度意味着更多极端值,风险更大
  • • 峰度 = 3 是正态分布的基准,超额峰度 = 0

偏度与峰度的关系

统计量公式描述正态分布
偏度E[(X-μ)³]/σ³对称性0
峰度E[(X-μ)⁴]/σ⁴尖峭程度3

💡 记忆技巧

  • • 偏度看"尾巴":尾巴在哪边,就是哪边偏
  • • 峰度看"峰顶":峰越尖,峰度越大,尾部越厚
  • • 正态分布是参考基准:偏度=0,峰度=3

21.5 抽样分布

抽样分布(Sampling Distribution)是统计推断的理论基础。

理解抽样分布,才能理解为什么可以用样本统计量推断总体参数。

抽样分布的概念

从总体中反复抽样,每次计算样本统计量(如样本均值x̄),这些统计量的分布就是抽样分布。

抽样过程

总体μ = 100, σ = 15抽样1x̄₁ = 98抽样2x̄₂ = 103抽样...x̄ₙ = 101抽样分布样本均值的分布E(x̄) = μ = 100SE = σ/√n

关键概念

  • • 统计量是随机变量:不同样本得到不同的统计量值
  • • 抽样分布有自己的均值和方差:描述统计量的变异性
  • • 样本量越大,抽样分布越集中:统计量更接近参数

样本均值的抽样分布

样本均值x̄是最重要的统计量,其抽样分布有以下性质:

期望

E(x̄) = μ

样本均值的期望等于总体均值

(无偏性)

标准误差

SE(x̄) = σ / √n

标准误差随样本量增大而减小

(样本量的平方根关系)

⚠️ 标准差 vs 标准误差

  • • 标准差(σ):描述总体数据的离散程度
  • • 标准误差(SE):描述样本统计量的离散程度
  • • SE = σ/√n,样本量越大,统计量越精确

中心极限定理(CLT)

中心极限定理

无论总体分布是什么,当样本量足够大时(通常n≥30),样本均值x̄的抽样分布近似服从正态分布。

x̄ ~ N(μ, σ²/n)

CLT的威力

即使总体分布未知或非正态,只要样本量足够大,我们依然可以使用正态分布理论进行统计推断。

总体:均匀分布

总体:偏态分布

总体:双峰分布

↓ 当n足够大时 ↓

样本均值分布

都近似正态

实际应用

CLT是统计推断的基石,使我们能够:

  • • 构造置信区间
  • • 进行假设检验
  • • 预测和决策

🎬 动画演示:中心极限定理

选择不同的总体分布(均匀、偏态、双峰),观察样本均值分布如何逐步收敛到正态分布。调整样本量,感受CLT的威力。

21.6 点估计与区间估计

统计推断的核心任务是参数估计:用样本统计量估计总体参数。

估计方法分为两类:点估计和区间估计。

点估计(Point Estimation)

用样本统计量的单个数值作为总体参数的估计。

常见点估计

  • • 用样本均值x̄估计总体均值μ
  • • 用样本方差s²估计总体方差σ²
  • • 用样本比例p̂估计总体比例p

示例

抽取100名学生,样本平均身高170cm

点估计:总体平均身高μ̂ = 170cm

点估计的局限性

点估计只给出一个数值,没有反映估计的不确定性。

不同样本会得到不同的点估计值,但无法判断估计的精确程度。

区间估计(Interval Estimation)

给出一个区间,并指明参数落在该区间内的置信概率。

置信区间

[x̄ - zα/2 · SE, x̄ + zα/2 · SE]

在1-α的置信水平下,总体均值μ落在此区间内

90%置信区间

z = 1.645

区间较窄,但可能错过真值

95%置信区间

z = 1.96

最常用,平衡精度和可信度

99%置信区间

z = 2.576

区间较宽,更可靠

置信水平的正确理解

95%置信水平的含义:

如果重复抽样很多次,每次构造95%置信区间,大约95%的区间会包含真实的总体参数μ。

真实μ✓ 包含μ✓ 包含μ✓ 包含μ✓ 包含μ✗ 未包含μ✓ 包含μ✓ 包含μ

7个区间中,6个包含真值(约86%),接近95%

⚠️ 常见误解

  • • 错误:"95%置信区间[168, 172]意味着μ有95%概率在此区间内"
  • • 正确:"如果重复抽样,95%的区间会包含μ。对于特定区间[168, 172],μ要么在内(100%)要么在外(0%)"

点估计vs区间估计

特性点估计区间估计
估计形式单个数值一个区间
精确性看起来精确范围较宽
不确定性不体现明确体现
示例μ̂ = 170[168, 172] (95%)
适用场景快速估计科学推断

💡 实践建议

  • • 报告结果时:同时给出点估计和区间估计
  • • 选择置信水平:95%是惯例,特殊情况可用99%或90%
  • • 解释区间:说明"长期来看X%的区间包含真值"
  • • 区间宽度:反映估计精度,越窄越精确(但需要更大样本)

🎯 交互演示:置信区间的正确理解

通过重复抽样实验,观察置信区间如何"捕获"真实总体参数。理解置信水平的真实含义:不是单个区间的概率,而是长期覆盖率。

📋章节总结

核心概念回顾

1️⃣
统计学基础
总体、样本、参数、统计量的概念;统计推断的逻辑:用样本推断总体
2️⃣
集中趋势统计量
均值(Mean)、中位数(Median)、众数(Mode)描述数据中心位置
3️⃣
离散程度统计量
极差、方差、标准差、四分位距描述数据分散程度;箱线图可视化数据分布
4️⃣
数据分布形态
偏度(Skewness)描述对称性;峰度(Kurtosis)描述尖峭程度和尾部厚度
5️⃣
抽样分布
统计量的分布;中心极限定理(CLT):样本均值近似正态分布
6️⃣
点估计与区间估计
用样本统计量估计总体参数;置信区间反映估计的不确定性

统计量速查表

统计量公式用途
均值x̄ = Σxᵢ/n数据中心位置
中位数Med稳健的中心位置
众数Mo最常见值
方差s² = Σ(xᵢ-x̄)²/(n-1)离散程度
标准差s = √s²与数据同单位的离散度
四分位距IQR = Q₃ - Q₁稳健的离散程度

🎯 学习建议

  • • 理解每个统计量的几何意义和实际含义
  • • 掌握选择合适统计量的原则:根据数据特点和分析目的
  • • 实践中结合多个统计量全面描述数据
  • • 注意极端值对不同统计量的影响程度