切比雪夫不等式

$P\left\{ \left|X-EX \right| \geq \epsilon \right\} \leq \frac{Dx}{\epsilon}$，想象成一个亲亲的表情即可，很容易记住

大数定律

• 相互独立，方差存在：伯努利大数定律

  频率依概率收敛于P

  伯努利实验：在相同情况下，重复某个实验n次

  $\mu_n$ 为n重伯努利实验中事件 A 发生的次数，每次实验中 A 发生的概率为 p

  $\lim\limits_{n\rightarrow \infty}P\left\{\left|\frac{\mu_n}{n} - p\right| < \epsilon \right\}= 1$

  也就是：n比较大，发生的次数除以总次数，收敛于概率

• 独立同分布，期望存在：辛钦大数定律

  样本均值收敛于整体均值

  $\lim\limits_{n\rightarrow \infty}\left\{\left|\frac{1}{n}\sum\limits_{i=1}^n X_i - \mu\right|<\epsilon \right\} = 1$

  也就是：n比较大，样本的均值收敛于整体均值

• 独立，方差存在且有上界：切比雪夫大数定律（不重要）

  样本均值收敛于均值的样本均值

  $\frac{1}{n}\sum\limits_{i=1}^nX_i$ 依概率收敛于 $\frac{1}{n}\sum\limits_{i=1}^nEX_i$

• 三个大数定律讲一个事：样本均值收敛于样本均值的均值

  A的均值：EA

  样本均值：$\frac{1}{n}\sum\limits_{i=1}^nX_i$

中心极限定理

 很多个独立同分布的量相加的整体是正态分布，该正太分布整体是其均值和，方差是其方差和

$$\sum\limits_{i=1}^nX_i \sim N(n\mu, n\sigma^2)\\ \\ \lim\limits_{n\rightarrow \infty} P\left\{ \frac{\sum\limits_{i=1}^nX_i - n\mu}{\sqrt{n}\sigma} \leq x \right\} = \Phi(X)$$