数理统计/随机样本与统计量

数理统计/随机样本与统计量

学习目标

目标项	内容
随机样本的定义	独立同分布样本、样本路径、样本空间
统计量概念	仅由样本构成、无未知参数
抽样分布	样本均值、样本方差、比率与差的分布

侧重能力	说明
构造统计量	针对目标参数设计合适统计量
推导分布	运用变换与独立性求抽样分布
近似与极限定理	大样本下的正态近似与t近似

常见误区	对策
把含未知参数的量当统计量	检查是否仅含样本
忽略自由度	样本方差分母应为 $n-1$
误用正态近似	明确样本量与条件是否满足

基本定义

随机样本

$X_{1},X_{2},\dots ,X_{n}$ 为来自同一分布 $F$ 的独立同分布变量，称为大小为 $n$ 的随机样本。

统计量

由样本 $X_{1},\dots ,X_{n}$ 构成、不含未知参数的函数 $T=T(X_{1},\dots ,X_{n})$。

常见统计量

样本均值 ${\bar {X}}={\dfrac {1}{n}}\sum _{i=1}^{n}X_{i}$；样本方差 $S^{2}={\dfrac {1}{n-1}}\sum _{i=1}^{n}(X_{i}-{\bar {X}})^{2}$；样本中位数、样本分位数等。

概念	数学表达	说明
随机样本	$X_{1},\dots ,X_{n}{\stackrel {\text{i.i.d.}}{\sim }}F$	相互独立且同分布
统计量	$T(X_{1},\dots ,X_{n})$	不含未知参数
样本均值	${\bar {X}}$	集中趋势

量	定义	备注
样本方差	$S^{2}={\dfrac {1}{n-1}}\sum (X_{i}-{\bar {X}})^{2}$	无偏性更好
样本标准差	$S={\sqrt {S^{2}}}$	尺度与原量一致
k分位数	使得比例为k的数值	用顺序统计量定义

判断	是统计量？	原因
${\bar {X}}$	是	仅由样本构成
$S^{2}$	是	仅由样本构成
${\bar {X}}-\mu$	否	含未知参数 $\mu$

顺序统计量

定义

将样本从小到大排序得 $X_{(1)}\leq \cdots \leq X_{(n)}$，称为顺序统计量。

典型量

最小值 $X_{(1)}$，最大值 $X_{(n)}$，中位数 $X_{(\lceil n/2\rceil )}$。

顺序统计量	含义	应用
$X_{(1)}$	最小值	可靠性、极端事件
$X_{(n)}$	最大值	阈值设定
中位数	居中位置	抗异常值

关系	形式	说明
极差	$R=X_{(n)}-X_{(1)}$	离散程度粗指标
四分位距	$Q_{3}-Q_{1}$	稳健尺度
分位函数	$F^{-1}(p)$	分布特征

注意点	影响
样本量小	分位数波动大
重复值多	排序并列处理
偏态分布	中位数优于均值

样本均值与样本方差

均值的期望与方差

若 $\mathrm {E} (X)=\mu ,\ \mathrm {Var} (X)=\sigma ^{2}$，则 $\mathrm {E} ({\bar {X}})=\mu$，$\mathrm {Var} ({\bar {X}})={\dfrac {\sigma ^{2}}{n}}$。

方差的无偏性

$\mathrm {E} (S^{2})=\sigma ^{2}$。

量	期望	方差	备注
${\bar {X}}$	$\mu$	$\sigma ^{2}/n$	集中性随 $n$ 增强
$S^{2}$	$\sigma ^{2}$	依赖四阶矩	无偏估计
$S$	略有偏	复杂	常用作尺度

场景	近似	条件
大样本	${\bar {X}}$ 近似正态	中心极限定理
正态母体	${\bar {X}}$ 正态、$(n-1)S^{2}/\sigma ^{2}\sim \chi _{n-1}^{2}$	独立同分布正态
不确定方差	用t分布	方差未知

实操要点	说明
报告均值±标准误	标准误为 $S/{\sqrt {n}}$
同时给出中位数	抗异常值
作图检查	直方图、箱线图

抽样分布（正态母体情形）

设 $X_{i}\sim {\mathcal {N}}(\mu ,\sigma ^{2})$ 独立同分布。

则 ${\bar {X}}\sim {\mathcal {N}}(\mu ,\sigma ^{2}/n)$；$(n-1){\dfrac {S^{2}}{\sigma ^{2}}}\sim \chi _{n-1}^{2}$；且 ${\bar {X}}$ 与 $S^{2}$ 相互独立。

构造 $T={\dfrac {{\bar {X}}-\mu }{S/{\sqrt {n}}}}\sim t_{n-1}$。

统计量	分布	自由度/参数
${\bar {X}}$	正态	均值 $\mu$，方差 $\sigma ^{2}/n$
$(n-1)S^{2}/\sigma ^{2}$	卡方	$n-1$
${\dfrac {{\bar {X}}-\mu }{S/{\sqrt {n}}}}$	t	$n-1$

结论	用途	备注
${\bar {X}}$ 与 $S^{2}$ 独立	推导t分布	正态下的特性
t分布较肥尾	小样本更稳健	自由度越大越接近正态
卡方分布可构造区间	方差区间估计	依赖正态假设

检查条件	否则改用
正态性	非参数或变换
独立性	分组或建模相关性
无异常值	稳健统计量

比例与差值的统计量

比例

设 $X_{i}$ 为成败变量，成功概率为 $p$，样本比例 ${\hat {p}}={\dfrac {1}{n}}\sum X_{i}$，有 $\mathrm {E} ({\hat {p}})=p$，$\mathrm {Var} ({\hat {p}})={\dfrac {p(1-p)}{n}}$。

两独立样本均值差

${\bar {X}}-{\bar {Y}}$ 的期望为 $\mu _{X}-\mu _{Y}$，方差为 ${\dfrac {\sigma _{X}^{2}}{n_{X}}}+{\dfrac {\sigma _{Y}^{2}}{n_{Y}}}$（独立）。

统计量	期望	方差	近似分布
${\hat {p}}$	$p$	$p(1-p)/n$	大样本正态
${\bar {X}}-{\bar {Y}}$	$\mu _{X}-\mu _{Y}$	$\sigma _{X}^{2}/n_{X}+\sigma _{Y}^{2}/n_{Y}$	条件满足时正态或t
两比例差	$p_{1}-p_{2}$	${\dfrac {p_{1}(1-p_{1})}{n_{1}}}+{\dfrac {p_{2}(1-p_{2})}{n_{2}}}$	正态近似

情形	标准误	说明
单比例	${\sqrt {{\hat {p}}(1-{\hat {p}})/n}}$	正态近似时使用
两均值（方差相等）	合并方差	t检验框架
两均值（方差不等）	Welch 标准误	自由度调整

注意点	处理
比例极端	正态近似差	用精确方法或变换
样本不独立	配对设计	用差值法
方差异质	使用稳健或Welch方法	避免错误结论

例子：以“挖矿掉率”为背景的小练习

场景

某资源块掉落稀有物的概率为 $p$。独立挖掘 $n$ 次，得到的稀有物个数 $Y$，样本比例 ${\hat {p}}$ 作为 $p$ 的估计。

量	表达式	期望/方差
计数	$Y=\sum _{i=1}^{n}X_{i}$	$\mathrm {E} (Y)=np$，$\mathrm {Var} (Y)=np(1-p)$
比例	${\hat {p}}=Y/n$	$\mathrm {E} ({\hat {p}})=p$，$\mathrm {Var} ({\hat {p}})={\dfrac {p(1-p)}{n}}$
标准误	${\sqrt {{\hat {p}}(1-{\hat {p}})/n}}$	估计不确定性

近似条件	经验规则	说明
正态近似	$np\geq 10$ 且 $n(1-p)\geq 10$	两端不极端
小样本	精确方法	二项精确
相关性	不满足独立	需调整

输出	解释
点估计 ${\hat {p}}$	直观频率
区间估计	覆盖真实概率
置信水平	覆盖率声明

章节测验

单选题一

问：下列哪一个是统计量？

1. ${\bar {X}}$
2. $\mu$
3. $\sigma ^{2}$
4. ${\bar {X}}-\mu$

显示答案/解析

答案：${\bar {X}}$。其余含未知参数或直接为总体参数。

单选题二

问：样本方差 $S^{2}$ 的分母取 $n-1$ 的主要目的是什么？

1. 计算方便
2. 使其为总体方差的无偏估计
3. 使其更小
4. 与标准差配套

显示答案/解析

答案：使其为总体方差的无偏估计。

判断题

断言：正态母体下，${\bar {X}}$ 与 $S^{2}$ 独立。

1. 对
2. 错

显示答案/解析

答案：对。这一性质用于构造t分布。

计算小问（可选）

已知独立样本量 $n=100$，观测到 ${\hat {p}}=0.2$，给出比例的标准误。

显示答案/解析

标准误 ${\sqrt {{\hat {p}}(1-{\hat {p}})/n}}={\sqrt {0.2\times 0.8/100}}=0.04$。

跨章导航

跳转	页面
上一节	概率论复习
下一节	点估计
返回目录	目录