數理統計/機率論複習

數理統計/機率論複習

學習目標

目標項	內容
公理與公式	機率公理、條件機率、全機率、貝葉斯
分布與矩	常見分布的參數、期望、方差
極限定理與推斷	大數定律、中心極限定理的作用

側重能力	說明
建模與假設	明確獨立、同分布、方差同質等
計算與化簡	正確代入與邊界核對
解釋與溝通	會用圖表與示意說明結果

常見誤區	對策
混淆頻率與機率	明確樣本頻率與理論機率的差異
把不相關當獨立	強調條件與定義
忽視條件	寫清條件再計算

核心公式回顧

條件機率

$P(A\mid B)={\dfrac {P(A\cap B)}{P(B)}}$（要求 $P(B)>0$）

全機率公式

$P(A)=\sum _{i}P(A\mid B_{i})P(B_{i})$，其中 $\{B_{i}\}$ 為兩兩互斥且完備的劃分

貝葉斯公式

$P(A\mid B)={\dfrac {P(B\mid A)P(A)}{P(B)}}$

期望與方差

$\mathrm {E} (X)=\sum _{x}x\,P(X=x)$ 或 $\int xf(x)\,\mathrm {d} x$；$\mathrm {Var} (X)=\mathrm {E} [(X-\mu )^{2}]$

協方差與相關

$\mathrm {Cov} (X,Y)=\mathrm {E} [(X-\mu _{X})(Y-\mu _{Y})]$；$\rho ={\dfrac {\mathrm {Cov} (X,Y)}{\sigma _{X}\sigma _{Y}}}$

主題	公式	適用場景
條件機率	$P(A\mid B)={\dfrac {P(A\cap B)}{P(B)}}$	已知信息下更新判斷
全機率	$P(A)=\sum _{i}P(A\mid B_{i})P(B_{i})$	分情形求和
貝葉斯	$P(A\mid B)={\dfrac {P(B\mid A)P(A)}{P(B)}}$	先驗與證據合併

概念	表達式	備註
期望	$\mathrm {E} (X)$	集中趨勢
方差	$\mathrm {Var} (X)$	離散程度
相關係數	$\rho$	線性相關強度

小結點	關鍵提示
寫條件	先寫清事件與條件再代入
查邊界	檢查機率是否在 $[0,1]$
合理性	結果與直覺是否一致

常見分布與要點對照表

分布	記號	參數	期望	方差	典型場景
伯努利分布	$\mathrm {Bern} (p)$	$p\in (0,1)$	$p$	$p(1-p)$	一次成敗試驗
二項分布	$\mathrm {Bin} (n,p)$	$n,p$	$np$	$np(1-p)$	多次獨立成敗試驗之和
幾何分布	$\mathrm {Geom} (p)$	$p$	${\dfrac {1}{p}}$	${\dfrac {1-p}{p^{2}}}$	首次成功的等待次數
泊松分布	$\mathrm {Pois} (\lambda )$	$\lambda >0$	$\lambda$	$\lambda$	稀有事件計數
指數分布	$\mathrm {Exp} (\lambda )$	$\lambda >0$	${\dfrac {1}{\lambda }}$	${\dfrac {1}{\lambda ^{2}}}$	無記憶的等待時間
常態分佈	${\mathcal {N}}(\mu ,\sigma ^{2})$	$\mu ,\sigma ^{2}$	$\mu$	$\sigma ^{2}$	誤差聚合與近似極限
卡方分布	$\chi _{k}^{2}$	$k\in \mathbb {N}$	$k$	$2k$	正態變量平方和
學生t分布	$t_{k}$	$k$	0（$k>1$）	${\dfrac {k}{k-2}}$（$k>2$）	小樣本均值推斷
F分布	$F_{d_{1},d_{2}}$	$d_{1},d_{2}$	${\dfrac {d_{2}}{d_{2}-2}}$（$d_{2}>2$）	方差比與方差分析

分布	機率質量/密度	取值範圍
伯努利分布	$P(X=1)=p,\;P(X=0)=1-p$	$\{0,1\}$
泊松分布	$P(X=k)={\dfrac {\lambda ^{k}e^{-\lambda }}{k!}}$	$\{0,1,2,\dots \}$
指數分布	$f(x)=\lambda e^{-\lambda x}$	$x\geq 0$
常態分佈	$f(x)={\dfrac {1}{\sqrt {2\pi \sigma ^{2}}}}\exp \!\left(-{\dfrac {(x-\mu )^{2}}{2\sigma ^{2}}}\right)$	$x\in \mathbb {R}$

分布組合關係	結論	條件
泊松到指數	到達間隔為指數分布	齊次到達率
二項近似正態	和的分布近似正態	次數大、機率不極端
卡方、t、F關係	t、F 來自正態與卡方的比值	獨立性與自由度滿足條件

極限定理

大數定律：在獨立同分布條件下，樣本均值 ${\bar {X}}_{n}$ 收斂到總體均值 $\mu$。

中心極限定理：${\dfrac {\sum _{i=1}^{n}X_{i}-n\mu }{\sigma {\sqrt {n}}}}\Rightarrow {\mathcal {N}}(0,1)$。

定理	形式	含義
大數定律	樣本均值收斂到總體均值	頻率近似理論機率
中心極限定理	標準化和趨於標準正態	構造區間與檢驗的基礎

使用場景	對應結論	注意點
估計總體均值	用樣本均值作估計	樣本量與方差影響誤差
抽樣分布近似	用正態或t近似	條件與自由度
稀有事件計數	泊松近似二項	事件獨立、機率小

常見誤解	糾正
把中心極限定理當作必然正態	只是近似，需要條件
忽略方差縮小速度	誤差隨樣本量按平方根縮小
用在強相關樣本上	條件不滿足會失效

機率計算步驟

1. 明確事件與樣本空間
2. 判斷是否獨立、是否需要按情形分區
3. 寫出條件機率或進行後驗更新
4. 代入參數並核對取值範圍與邊界

步驟	動作	輸出
1	寫明事件與條件	符號化描述
2	判定獨立或分區	劃分 $\{B_{i}\}$
3	建立公式	條件機率/全機率/貝葉斯
4	代入化簡	檢查邊界與單位

檢查項	示例	通過標準
機率範圍	結果不小於0不大於1	在 $[0,1]$
單位一致	頻率、機率不可混用	一致
條件一致	分母不為0	合法

備忘	說明
畫圖	機率樹或分區圖
邊界	極端值檢驗
近似	樣本量足夠時使用

依賴與獨立

關係	特徵	備註
相互獨立	$P(A\cap B)=P(A)P(B)$	條件機率不改變邊際
在條件下獨立	$P(A\cap B\mid C)=P(A\mid C)P(B\mid C)$	給定 $C$ 後斷開依賴
負相關	$\rho <0$	相關性不等於因果

概念	數學表達	要點
不相關	$\mathrm {Cov} (X,Y)=0$	不必然獨立
獨立	聯合等於邊際乘積	強於不相關
條件獨立	條件下聯合等於條件邊際乘積	常見於圖模型

判斷技巧	依據	注意事項
看聯合與邊際關係	是否滿足乘積關係	注意條件事件機率非零
看協方差與相關	$\rho =0$ 不代表獨立	僅反映線性關係
結合情境知識	物理或業務邏輯	避免機械代入

章節測驗

單選題一

問：哪一條直接說明樣本均值趨近總體均值？

1. 大數定律
2. 中心極限定理
3. 貝葉斯公式
4. 無記憶性

顯示答案/解析

答案：大數定律。

單選題二

問：泊松過程在單位時間內到達次數的分布是：

1. 幾何分布
2. 指數分布
3. 泊松分布
4. 常態分佈

顯示答案/解析

答案：泊松分布；相鄰兩次到達的時間間隔服從指數分布。

判斷題

斷言：不相關必然獨立。

1. 對
2. 錯

顯示答案/解析

答案：錯。不相關並不必然獨立。

跨章導航

跳轉	頁面
下一節	隨機樣本與統計量
返回目錄	目錄