數理統計/隨機樣本與統計量

數理統計/隨機樣本與統計量

學習目標

目標項	內容
隨機樣本的定義	獨立同分布樣本、樣本路徑、樣本空間
統計量概念	僅由樣本構成、無未知參數
抽樣分布	樣本均值、樣本方差、比率與差的分布

側重能力	說明
構造統計量	針對目標參數設計合適統計量
推導分布	運用變換與獨立性求抽樣分布
近似與極限定理	大樣本下的正態近似與t近似

常見誤區	對策
把含未知參數的量當統計量	檢查是否僅含樣本
忽略自由度	樣本方差分母應為 $n-1$
誤用正態近似	明確樣本量與條件是否滿足

基本定義

隨機樣本

$X_{1},X_{2},\dots ,X_{n}$ 為來自同一分布 $F$ 的獨立同分布變量，稱為大小為 $n$ 的隨機樣本。

統計量

由樣本 $X_{1},\dots ,X_{n}$ 構成、不含未知參數的函數 $T=T(X_{1},\dots ,X_{n})$。

常見統計量

樣本均值 ${\bar {X}}={\dfrac {1}{n}}\sum _{i=1}^{n}X_{i}$；樣本方差 $S^{2}={\dfrac {1}{n-1}}\sum _{i=1}^{n}(X_{i}-{\bar {X}})^{2}$；樣本中位數、樣本分位數等。

概念	數學表達	說明
隨機樣本	$X_{1},\dots ,X_{n}{\stackrel {\text{i.i.d.}}{\sim }}F$	相互獨立且同分布
統計量	$T(X_{1},\dots ,X_{n})$	不含未知參數
樣本均值	${\bar {X}}$	集中趨勢

量	定義	備註
樣本方差	$S^{2}={\dfrac {1}{n-1}}\sum (X_{i}-{\bar {X}})^{2}$	無偏性更好
樣本標準差	$S={\sqrt {S^{2}}}$	尺度與原量一致
k分位數	使得比例為k的數值	用順序統計量定義

判斷	是統計量？	原因
${\bar {X}}$	是	僅由樣本構成
$S^{2}$	是	僅由樣本構成
${\bar {X}}-\mu$	否	含未知參數 $\mu$

順序統計量

定義

將樣本從小到大排序得 $X_{(1)}\leq \cdots \leq X_{(n)}$，稱為順序統計量。

典型量

最小值 $X_{(1)}$，最大值 $X_{(n)}$，中位數 $X_{(\lceil n/2\rceil )}$。

順序統計量	含義	應用
$X_{(1)}$	最小值	可靠性、極端事件
$X_{(n)}$	最大值	閾值設定
中位數	居中位置	抗異常值

關係	形式	說明
極差	$R=X_{(n)}-X_{(1)}$	離散程度粗指標
四分位距	$Q_{3}-Q_{1}$	穩健尺度
分位函數	$F^{-1}(p)$	分布特徵

注意點	影響
樣本量小	分位數波動大
重複值多	排序並列處理
偏態分布	中位數優於均值

樣本均值與樣本方差

均值的期望與方差

若 $\mathrm {E} (X)=\mu ,\ \mathrm {Var} (X)=\sigma ^{2}$，則 $\mathrm {E} ({\bar {X}})=\mu$，$\mathrm {Var} ({\bar {X}})={\dfrac {\sigma ^{2}}{n}}$。

方差的無偏性

$\mathrm {E} (S^{2})=\sigma ^{2}$。

量	期望	方差	備註
${\bar {X}}$	$\mu$	$\sigma ^{2}/n$	集中性隨 $n$ 增強
$S^{2}$	$\sigma ^{2}$	依賴四階矩	無偏估計
$S$	略有偏	複雜	常用作尺度

場景	近似	條件
大樣本	${\bar {X}}$ 近似正態	中心極限定理
正態母體	${\bar {X}}$ 正態、$(n-1)S^{2}/\sigma ^{2}\sim \chi _{n-1}^{2}$	獨立同分布正態
不確定方差	用t分布	方差未知

實操要點	說明
報告均值±標準誤	標準誤為 $S/{\sqrt {n}}$
同時給出中位數	抗異常值
作圖檢查	直方圖、箱線圖

抽樣分布（正態母體情形）

設 $X_{i}\sim {\mathcal {N}}(\mu ,\sigma ^{2})$ 獨立同分布。

則 ${\bar {X}}\sim {\mathcal {N}}(\mu ,\sigma ^{2}/n)$；$(n-1){\dfrac {S^{2}}{\sigma ^{2}}}\sim \chi _{n-1}^{2}$；且 ${\bar {X}}$ 與 $S^{2}$ 相互獨立。

構造 $T={\dfrac {{\bar {X}}-\mu }{S/{\sqrt {n}}}}\sim t_{n-1}$。

統計量	分布	自由度/參數
${\bar {X}}$	正態	均值 $\mu$，方差 $\sigma ^{2}/n$
$(n-1)S^{2}/\sigma ^{2}$	卡方	$n-1$
${\dfrac {{\bar {X}}-\mu }{S/{\sqrt {n}}}}$	t	$n-1$

結論	用途	備註
${\bar {X}}$ 與 $S^{2}$ 獨立	推導t分布	正態下的特性
t分布較肥尾	小樣本更穩健	自由度越大越接近正態
卡方分布可構造區間	方差區間估計	依賴正態假設

檢查條件	否則改用
正態性	非參數或變換
獨立性	分組或建模相關性
無異常值	穩健統計量

比例與差值的統計量

比例

設 $X_{i}$ 為成敗變量，成功機率為 $p$，樣本比例 ${\hat {p}}={\dfrac {1}{n}}\sum X_{i}$，有 $\mathrm {E} ({\hat {p}})=p$，$\mathrm {Var} ({\hat {p}})={\dfrac {p(1-p)}{n}}$。

兩獨立樣本均值差

${\bar {X}}-{\bar {Y}}$ 的期望為 $\mu _{X}-\mu _{Y}$，方差為 ${\dfrac {\sigma _{X}^{2}}{n_{X}}}+{\dfrac {\sigma _{Y}^{2}}{n_{Y}}}$（獨立）。

統計量	期望	方差	近似分布
${\hat {p}}$	$p$	$p(1-p)/n$	大樣本正態
${\bar {X}}-{\bar {Y}}$	$\mu _{X}-\mu _{Y}$	$\sigma _{X}^{2}/n_{X}+\sigma _{Y}^{2}/n_{Y}$	條件滿足時正態或t
兩比例差	$p_{1}-p_{2}$	${\dfrac {p_{1}(1-p_{1})}{n_{1}}}+{\dfrac {p_{2}(1-p_{2})}{n_{2}}}$	正態近似

情形	標準誤	說明
單比例	${\sqrt {{\hat {p}}(1-{\hat {p}})/n}}$	正態近似時使用
兩均值（方差相等）	合併方差	t檢驗框架
兩均值（方差不等）	Welch 標準誤	自由度調整

注意點	處理
比例極端	正態近似差	用精確方法或變換
樣本不獨立	配對設計	用差值法
方差異質	使用穩健或Welch方法	避免錯誤結論

例子：以「挖礦掉率」為背景的小練習

場景

某資源塊掉落稀有物的機率為 $p$。獨立挖掘 $n$ 次，得到的稀有物個數 $Y$，樣本比例 ${\hat {p}}$ 作為 $p$ 的估計。

量	表達式	期望/方差
計數	$Y=\sum _{i=1}^{n}X_{i}$	$\mathrm {E} (Y)=np$，$\mathrm {Var} (Y)=np(1-p)$
比例	${\hat {p}}=Y/n$	$\mathrm {E} ({\hat {p}})=p$，$\mathrm {Var} ({\hat {p}})={\dfrac {p(1-p)}{n}}$
標準誤	${\sqrt {{\hat {p}}(1-{\hat {p}})/n}}$	估計不確定性

近似條件	經驗規則	說明
正態近似	$np\geq 10$ 且 $n(1-p)\geq 10$	兩端不極端
小樣本	精確方法	二項精確
相關性	不滿足獨立	需調整

輸出	解釋
點估計 ${\hat {p}}$	直觀頻率
區間估計	覆蓋真實機率
置信水平	覆蓋率聲明

章節測驗

單選題一

問：下列哪一個是統計量？

1. ${\bar {X}}$
2. $\mu$
3. $\sigma ^{2}$
4. ${\bar {X}}-\mu$

顯示答案/解析

答案：${\bar {X}}$。其餘含未知參數或直接為總體參數。

單選題二

問：樣本方差 $S^{2}$ 的分母取 $n-1$ 的主要目的是什麼？

1. 計算方便
2. 使其為總體方差的無偏估計
3. 使其更小
4. 與標準差配套

顯示答案/解析

答案：使其為總體方差的無偏估計。

判斷題

斷言：正態母體下，${\bar {X}}$ 與 $S^{2}$ 獨立。

1. 對
2. 錯

顯示答案/解析

答案：對。這一性質用於構造t分布。

計算小問（可選）

已知獨立樣本量 $n=100$，觀測到 ${\hat {p}}=0.2$，給出比例的標準誤。

顯示答案/解析

標準誤 ${\sqrt {{\hat {p}}(1-{\hat {p}})/n}}={\sqrt {0.2\times 0.8/100}}=0.04$。

跨章導航

跳轉	頁面
上一節	機率論複習
下一節	點估計
返回目錄	目錄