13.5.1 二项分布
首先考虑一个简单的抛硬币实验,或任何其他只有两种可能结果的随机情形。我们将这些结果称为“成功”和“失败”,但任何其他一对(适合具体语境的)术语都可以。设想抛掷硬币(或进行一般实验) $n$ 次并统计成功的次数。显然,这个随机变量的样本空间,设为 $Y$ ,是 $S = {0, 1, \dots, n}$ 其中靠近取值范围中间的值比靠近两端的值更可能出现。我们要寻求的正是这个分布。
伯努利试验是对一个随机变量的单次观测,设该随机变量为 $X$ ,它只能取 0 或 1:
$$P(X = 1) = p \quad \text{and} \quad P(X = 0) = 1 - p$$
其中成功概率为 $p$ 。
的均值和方差 $X$ 很容易推导:
$$E(X) = 1(p) + 0(1 - p) = p$$
以及
$$E(X^2) = 1^2(p) + 0^2(1 - p) = p$$
因此
$$\sigma_x^2 = p - p^2 = p(1 - p)$$
现在设 ${X_1, \dots, X_n}$ 为 $n$ 独立的伯努利试验,每次试验的成功概率为 $p$ 。成功次数为
$$Y = X_1 + \dots + X_n$$
一般地,假设 $Y = k$ ,其中 $0 \leq k \leq n$ 。那么 $k$ 个 $X_i$ 值等于一, $n - k$ 等于零。发生这种情况的概率为
$$p^k(1-p)^{n-k}$$
根据乘法法则(因为各个结果是相互独立的)。
有很多种方式可以将这 $k$ 次成功分布在 $n$ 次试验中。例如,如果 $n = 5$ 且 $k = 3$ ,结果可能是 ${1, 1, 0, 1, 0}$ 或 ${0, 1, 1, 1, 0}$ 或 ${1, 0, 0, 1, 1}$ ,等等。就我们而言,这些都是等价的,因为我们只关心成功的总数,而不关心它们在试验中的具体排列方式。这 $k$ 次成功在 $n$ 次试验中的可能排列数由二项式系数给出(见第 7.7.2 节)
$$\binom{n}{k} = \frac{n!}{(n-k)!k!}$$
各种成功次数的排列彼此互斥,因此概率的加法规则给出了该分布
$$P(Y = k) = \binom{n}{k} p^k (1-p)^{n-k} \quad (k = 0, \dots, n)$$