4.3.1 大数定律

<aside> 📖 马尔科夫不等式

若 $Y$ 为只取非负值的随机变量,则对任意常数 $\epsilon >0$ 有

$P(Y\geq\epsilon)\leq \frac{E(Y)}\epsilon$

</aside>

<aside> 📖 **切比雪夫不等式:**马尔科夫不等式的特例

若$\text{Var}(Y)$存在,则

$P(|Y-EY|\geq\epsilon)\leq\frac{\text{Var}(Y)}{\epsilon^2}$

</aside>

大数定律

又称为大数法则、大数律,是个数学与统计学的概念,意指数量越多,则其平均就越趋紧期望值。

$$ \lim_{n\to\infty}P(|\overline{X}_n-\mu|\geq\epsilon)=0 $$

伯努利大数定律

设 $x_n$ 是n重伯努利试验中事件 $A$ 出现的次数,$p$ 是事件在每次试验中 $A$ 出现的概率,则对任意 $\varepsilon>0$,有

$$ \lim_{n\to\infty}P(|\frac{x_n}n-p|<\varepsilon)=1 $$

定理 4.5:切比雪夫大数定律

设 $X_1,…,X_n$ 为独立随机变量,有相同数学期望 $E(X_i)=\mu$ 和有限的方差 $Var(X_i)=\sigma^2,~\forall\varepsilon>0$,有

$$ \lim_{n\to\infty}P \left\{ \left|\frac1n\sum^n_{i=1}X_i-\frac1n\sum_{i=1}^nEX_i \right| <\varepsilon\right\} = 1 $$

定理 4.6:辛钦大数定律

设 $X_1,…,X_n$ 为独立随机变量,$E(X)=\mu$ 存在,则 $\forall\varepsilon>0$,有

$$ \lim_{n\to\infty}P \left\{ \left|\frac1n\sum^n_{i=1}X_i-\mu \right| <\varepsilon\right\} = 1 $$

定理 4.7:弱大数定律

设 $X_1,…,X_n$ 为独立同分布随机变量,$E(X)$ 存在,则 $\overline{X}_n$依概率收敛于 $EX$,则 $\forall\varepsilon>0$,有

$$ \lim_{n\to\infty}\mathbf{P}(|\overline{X}_n-EX|<\varepsilon)=1 $$

定理 4.8:强大数定律