🎯 学习目标
- •理解总体、样本、统计量等统计学基本概念
- •掌握集中趋势统计量:均值、中位数、众数
- •掌握离散程度统计量:方差、标准差、四分位数
- •了解数据分布形态:偏度、峰度
- •理解抽样分布和中心极限定理
- •掌握点估计和区间估计的基本原理
21.1 统计学基础概念
统计学(Statistics)是研究如何收集、整理、分析和解释数据的学科。它是从数据中提取信息、发现规律的科学方法。
统计学的核心任务是:用样本推断总体,用有限的观测数据推断未观测到的更大范围的情况。
核心概念
总体(Population)
研究对象的全体。总体可以是有限的,也可以是无限的。
样本(Sample)
从总体中抽取的一部分个体。样本是总体的子集。
参数(Parameter)
描述总体特征的数值,通常用希腊字母表示(如μ、σ)。
统计量(Statistic)
描述样本特征的数值,通常用拉丁字母表示(如x̄、s)。统计量是样本的函数。
统计推断的逻辑
⚠️ 关键问题
如何保证样本能够代表总体?答案是随机抽样。只有随机抽样才能保证样本的代表性,使得统计推断具有科学性。
21.2 集中趋势统计量
集中趋势统计量(Measures of Central Tendency)用于描述数据的中心位置,回答"数据大致在什么水平"这个问题。
三个最常用的集中趋势统计量是:均值、中位数、众数。
均值(Mean)
样本均值
样本均值公式
特点:
- 使用所有数据信息
- 对极端值敏感
- 具有良好的数学性质
总体均值
总体均值公式
示例计算
数据集:[2, 4, 6, 8, 10]
x̄ = (2 + 4 + 6 + 8 + 10) / 5 = 30 / 5 = 6
中位数(Median)
将数据从小到大排序后,位于中间位置的数值。中位数记作Med或M。
奇数个数据
示例:[1, 3, 5, 7, 9]
Med = 5(第3个数)
偶数个数据
示例:[2, 4, 6, 8]
Med = (4 + 6) / 2 = 5
中位数的优势
- • 对极端值不敏感:适合有离群值的数据
- • 稳健性好:个别数据的变化不会显著影响中位数
- • 直观易懂:50%的数据小于中位数,50%大于中位数
众数(Mode)
数据集中出现次数最多的数值。众数记作Mo。
单峰分布
[1, 2, 2, 2, 3, 4]
Mo = 2
双峰分布
[1, 2, 2, 3, 4, 4]
Mo = 2, 4
无众数
[1, 2, 3, 4, 5]
所有值频率相同
应用场景
众数特别适合类别数据和离散数据。例如:最受欢迎的产品型号、最常见的缺陷类型等。
三者比较
| 统计量 | 优点 | 缺点 | 适用场景 |
|---|---|---|---|
| 均值 | 利用所有信息,数学性质好 | 受极端值影响大 | 对称分布,无极端值 |
| 中位数 | 不受极端值影响,稳健 | 未充分利用所有信息 | 偏态分布,有极端值 |
| 众数 | 适用类别数据,直观 | 可能不唯一或不存在 | 类别数据,离散数据 |
💡 实践建议
在实际数据分析中,建议同时计算多个集中趋势统计量:
- • 如果均值、中位数、众数接近,说明数据对称分布
- • 如果均值 > 中位数,说明数据右偏(正偏)
- • 如果均值 < 中位数,说明数据左偏(负偏)
21.3 离散程度统计量
离散程度统计量(Measures of Dispersion)用于描述数据的分散程度,回答"数据有多分散"这个问题。
常用的离散程度统计量包括:极差、方差、标准差、四分位距。
极差(Range)
优点
- • 计算简单直观
- • 快速了解数据跨度
缺点
- • 只使用两个极端值
- • 对离群值极其敏感
- • 忽略中间数据分布
方差(Variance)
样本方差
总体方差
方差的性质
- • 非负性:Var(X) ≥ 0,当且仅当所有值相同时为0
- • 平移不变性:Var(X + c) = Var(X)
- • 伸缩性:Var(aX) = a² Var(X)
- • 可加性(独立变量):Var(X + Y) = Var(X) + Var(Y)
标准差(Standard Deviation)
样本标准差
总体标准差
为什么需要标准差?
标准差与原始数据单位相同,更容易理解和解释。
示例:如果身高数据单位是厘米(cm),方差单位是cm²,而标准差单位仍是cm,更直观。
四分位数与四分位距
四分位数(Quartiles)将排序后的数据分为四等份的三个分割点。
Q₁(下四分位数)
25%的数据小于Q₁
Q₂(中位数)
50%的数据小于Q₂
Q₃(上四分位数)
75%的数据小于Q₃
四分位距(IQR)
IQR描述了中间50%数据的分散范围,对极端值不敏感。
箱线图(Box Plot)
箱线图直观展示数据的五数概括和IQR
变异系数(Coefficient of Variation)
变异系数的作用
变异系数是相对离散程度的度量,可以比较不同量纲或均值差异较大的数据集的离散程度。
示例:比较身高(均值170cm,标准差10cm)和体重(均值70kg,标准差15kg)的离散程度,用变异系数更合理。
🔬 交互实验:统计实验室
拖拽数据点,观察集中趋势和离散程度统计量的实时变化。尝试添加极端值,感受均值、中位数和标准差的不同特性。
21.4 数据分布形态
除了集中趋势和离散程度,数据分布的形状特征也很重要。
偏度(Skewness)和峰度(Kurtosis)是描述分布形态的两个重要统计量。
偏度(Skewness)
偏度衡量数据分布的对称性,描述分布偏离对称分布的程度和方向。
左偏(负偏)
Skewness < 0
长尾在左侧
均值 < 中位数
对称分布
Skewness ≈ 0
两侧对称
均值 = 中位数
右偏(正偏)
Skewness > 0
长尾在右侧
均值 > 中位数
偏度的实际意义
- • 收入分布通常右偏:少数高收入者拉高均值
- • 考试成绩可能左偏:多数学生得分较高,少数低分
- • 正态分布的偏度为0,完全对称
峰度(Kurtosis)
峰度衡量数据分布的尖峭程度和尾部厚度。
通常使用超额峰度:Excess Kurtosis = Kurtosis - 3
平峰分布
Kurtosis < 3
峰较平,尾部较轻
如均匀分布
正态峰度
Kurtosis = 3
标准正态分布
参考基准
尖峰分布
Kurtosis > 3
峰较尖,尾部较重
更多极端值
峰度的实际意义
- • 金融数据通常尖峰厚尾:极端事件比正态分布预测的更频繁
- • 风险管理:高峰度意味着更多极端值,风险更大
- • 峰度 = 3 是正态分布的基准,超额峰度 = 0
偏度与峰度的关系
| 统计量 | 公式 | 描述 | 正态分布 |
|---|---|---|---|
| 偏度 | E[(X-μ)³]/σ³ | 对称性 | 0 |
| 峰度 | E[(X-μ)⁴]/σ⁴ | 尖峭程度 | 3 |
💡 记忆技巧
- • 偏度看"尾巴":尾巴在哪边,就是哪边偏
- • 峰度看"峰顶":峰越尖,峰度越大,尾部越厚
- • 正态分布是参考基准:偏度=0,峰度=3
21.5 抽样分布
抽样分布(Sampling Distribution)是统计推断的理论基础。
理解抽样分布,才能理解为什么可以用样本统计量推断总体参数。
抽样分布的概念
从总体中反复抽样,每次计算样本统计量(如样本均值x̄),这些统计量的分布就是抽样分布。
抽样过程
关键概念
- • 统计量是随机变量:不同样本得到不同的统计量值
- • 抽样分布有自己的均值和方差:描述统计量的变异性
- • 样本量越大,抽样分布越集中:统计量更接近参数
样本均值的抽样分布
样本均值x̄是最重要的统计量,其抽样分布有以下性质:
期望
样本均值的期望等于总体均值
(无偏性)
标准误差
标准误差随样本量增大而减小
(样本量的平方根关系)
⚠️ 标准差 vs 标准误差
- • 标准差(σ):描述总体数据的离散程度
- • 标准误差(SE):描述样本统计量的离散程度
- • SE = σ/√n,样本量越大,统计量越精确
中心极限定理(CLT)
中心极限定理
无论总体分布是什么,当样本量足够大时(通常n≥30),样本均值x̄的抽样分布近似服从正态分布。
CLT的威力
即使总体分布未知或非正态,只要样本量足够大,我们依然可以使用正态分布理论进行统计推断。
总体:均匀分布
总体:偏态分布
总体:双峰分布
↓ 当n足够大时 ↓
样本均值分布
都近似正态
实际应用
CLT是统计推断的基石,使我们能够:
- • 构造置信区间
- • 进行假设检验
- • 预测和决策
🎬 动画演示:中心极限定理
选择不同的总体分布(均匀、偏态、双峰),观察样本均值分布如何逐步收敛到正态分布。调整样本量,感受CLT的威力。
21.6 点估计与区间估计
统计推断的核心任务是参数估计:用样本统计量估计总体参数。
估计方法分为两类:点估计和区间估计。
点估计(Point Estimation)
用样本统计量的单个数值作为总体参数的估计。
常见点估计
- • 用样本均值x̄估计总体均值μ
- • 用样本方差s²估计总体方差σ²
- • 用样本比例p̂估计总体比例p
示例
抽取100名学生,样本平均身高170cm
点估计:总体平均身高μ̂ = 170cm
点估计的局限性
点估计只给出一个数值,没有反映估计的不确定性。
不同样本会得到不同的点估计值,但无法判断估计的精确程度。
区间估计(Interval Estimation)
给出一个区间,并指明参数落在该区间内的置信概率。
置信区间
在1-α的置信水平下,总体均值μ落在此区间内
90%置信区间
z = 1.645
区间较窄,但可能错过真值
95%置信区间
z = 1.96
最常用,平衡精度和可信度
99%置信区间
z = 2.576
区间较宽,更可靠
置信水平的正确理解
95%置信水平的含义:
如果重复抽样很多次,每次构造95%置信区间,大约95%的区间会包含真实的总体参数μ。
7个区间中,6个包含真值(约86%),接近95%
⚠️ 常见误解
- • 错误:"95%置信区间[168, 172]意味着μ有95%概率在此区间内"
- • 正确:"如果重复抽样,95%的区间会包含μ。对于特定区间[168, 172],μ要么在内(100%)要么在外(0%)"
点估计vs区间估计
| 特性 | 点估计 | 区间估计 |
|---|---|---|
| 估计形式 | 单个数值 | 一个区间 |
| 精确性 | 看起来精确 | 范围较宽 |
| 不确定性 | 不体现 | 明确体现 |
| 示例 | μ̂ = 170 | [168, 172] (95%) |
| 适用场景 | 快速估计 | 科学推断 |
💡 实践建议
- • 报告结果时:同时给出点估计和区间估计
- • 选择置信水平:95%是惯例,特殊情况可用99%或90%
- • 解释区间:说明"长期来看X%的区间包含真值"
- • 区间宽度:反映估计精度,越窄越精确(但需要更大样本)
🎯 交互演示:置信区间的正确理解
通过重复抽样实验,观察置信区间如何"捕获"真实总体参数。理解置信水平的真实含义:不是单个区间的概率,而是长期覆盖率。
📋章节总结
核心概念回顾
统计量速查表
| 统计量 | 公式 | 用途 |
|---|---|---|
| 均值 | x̄ = Σxᵢ/n | 数据中心位置 |
| 中位数 | Med | 稳健的中心位置 |
| 众数 | Mo | 最常见值 |
| 方差 | s² = Σ(xᵢ-x̄)²/(n-1) | 离散程度 |
| 标准差 | s = √s² | 与数据同单位的离散度 |
| 四分位距 | IQR = Q₃ - Q₁ | 稳健的离散程度 |
🎯 学习建议
- • 理解每个统计量的几何意义和实际含义
- • 掌握选择合适统计量的原则:根据数据特点和分析目的
- • 实践中结合多个统计量全面描述数据
- • 注意极端值对不同统计量的影响程度