13.5.4 中心极限定理
统计推断的实用方法都建立在概率论的基础之上,而这些方法中许多所依据的基本假设是数据服从正态分布。有些统计方法是稳健的(robust),也就是说,即使假设条件受到中等程度的违背,它们仍能可靠地工作,但过分依赖这一点并不令人满意。如果数据的正态性是一种例外情况,那么这将严重限制那些假设正态性的方法的适用范围。幸运的是(正如其名称所暗示的那样),正态分布在实践中出现得非常频繁;其原因将在本节中加以解释。
对诸如电子电路中的噪声或海面波浪高度等随机现象的连续测量会产生如图 13.31 所示形式的图形。如果按固定间隔对信号进行采样并建立数值的直方图,通常会发现该直方图非常接近正态密度曲线。从物理上看,测量信号是由许多相互独立的随机分量叠加而成的,而其总和是正态的。电子电路中有许多噪声来源,海面上也有许多相互独立的波浪。这些分量(它们本身往往并不服从正态分布)的累积效应却产生出具有这种特殊性质的总和,这正是下面这个定理的内容,其证明见 Advanced Modern Engineering Mathematics。

图 13.31 服从正态分布的连续信号。
定理 13.1 中心极限定理
若 ${X_1, \dots, X_n}$ 是相互独立且同分布的随机变量(分布可以是任意的),每个随机变量的均值为 $\mu_x$ ,方差为 $\sigma_x^2$ ,并且若
$$W_n = \frac{X_1 + \dots + X_n}{n} \quad \text{and} \quad Z_n = \frac{X_1 + \dots + X_n - n\mu_X}{\sigma_X \sqrt{n}}$$
那么,当 $n \rightarrow \infty$ 时, $W_n$ 和 $Z_n$ 的分布趋于 $W_n \sim N(\mu_x, \sigma_x^2/n)$ 以及 $Z_n \sim N(0, 1)$ 分别。
定理结束
粗略地说,除某些例外情况外,独立同分布随机变量之和趋于正态分布。应注意以下几点。
- (a) 将总和减去其均值并除以标准差,即得到标准正态分布。
- (b) 收敛到正态分布是指累积分布函数收敛。这保证了当 n 足够大时,Zn 的所有观测性质都将是标准正态的。
- (c) 在正态近似良好之前 n 需要多大,取决于潜在的总体。如果变量 Xi 的分布关于