离散型随机变量期望、方差的一些公式与证明

声明

本文基于人教版高中数学选修 2-3，本中随机变量均为离散型随机变量。

本文中 $\sum _x$ 为 $\sum _{x\in Range(X)}$（$Range(X)$ 表示随机变量 $X$ 可能的取值的集合）的简写。

期望

期望的线性性质

$$\boxed{E(aX+b)=aE(X)+b}$$

课本上就有，证明略。

公式 1

$$\boxed{E(X+Y)=E(X)+E(Y)}$$

证明

$$\begin{array}{rl}E(X+Y)& =\sum _x\sum _y(x+y)P(X=x,Y=y)\\ & =\sum _x\sum _{y}xP(X=x,Y=y)+\sum _x\sum _{y}yP(X=x,Y=y)\\ & =\sum _{x}x\sum _{y}P(X=x,Y=y)+\sum _{y}y\sum _{x}P(X=x,Y=y)\\ & =\sum _{x}xP(X=x)+\sum _{y}yP(Y=y)\\ & =E(X)+E(Y)\end{array}$$

公式 2

在 $X,Y$ 相互独立的情况下，有

$$\boxed{E(XY)=E(X)E(Y)}$$

证明

由 $X,Y$ 相互独立知 $P(X=x,Y=y)=P(X=x)P(Y=y)$

所以

$$\begin{array}{rl}E(XY)& =\sum _x\sum _{y}xyP(X=x,Y=y)\\ & =\sum _x\sum _{y}xyP(X=x)P(Y=y)\\ & =\sum _{x}xP(X=x)\sum _{y}yP(Y=y)\\ & =\sum _{x}xP(X=x)E(Y)\\ & =E(Y)\sum _{x}xP(X=x)\\ & =E(X)E(Y)\end{array}$$

方差

定义

$$\boxed{D(X)=\sum _x(x-E(X){)}^{2}P(X=x)}$$

换种写法

$$\boxed{D(X)=E(x-E(X){)}^2}$$

再换种写法

$$\begin{array}{rl}D(X)& =E[X-E(X){]}^2\\ & =E[X^2-2X\cdot E(X)+(E(X){)}^2]\\ & =E(X^2)-2E(X)E(X)+(E(X){)}^2\\ & =E(X^2)-(E(X){)}^2\end{array}$$

即

$$\boxed{D(X)=E(X^2)-(E(X){)}^2}$$

公式 1

$$\boxed{D(aX+b)=a^{2}D(X)}$$

课本上就有，证明略。

公式 2

在 $X,Y$ 相互独立的情况下，有

$$\boxed{D(X+Y)=D(X)+D(Y)}$$

证明

$$\begin{array}{rl}D(X+Y)& =E(X+Y{)}^2-(E(X+Y){)}^2\\ & =E(X^2+Y^2+2XY)-(E(X)+E(Y){)}^2\\ & =E(X^2-E^2(X))+E(Y^2-E^2(Y))+E(2XY)-2E(X)E(Y)\\ & =D(X)+D(Y)+0\end{array}$$

即：$D(X+Y)=D(X)+D(Y)$

超几何分布

定义

$N$ 个物品中有 $M$ 个次品，超几何分布描述了在这 $N$ 个样本中选 $n$ 个，其中有 $k$ 个次品的概率。

$$P(X=k)=\frac{{\mathrm{C}}_M^k{\mathrm{C}}_{N-M}^{n-k}}{{\mathrm{C}}_N^n}$$

若随机变量 $X$ 服从参数为 $n,M,N$ 的超几何分布，则记为

$$x\sim H(n,M,N)$$

期望

若 $x\sim H(n,M,N)$，则

$$\boxed{E(X)=\frac{nM}{N}}$$

证明

引理 1

由组合数公式可以得到 $k\cdot {\mathrm{C}}_M^k=M\cdot {\mathrm{C}}_{M-1}^{k-1}$

引理 2

由组合数公式可以得到 ${\mathrm{C}}_N^n=\frac{N}{n}\cdot {\mathrm{C}}_{N-1}^{n-1}$

引理 3

由超几何分布概率和为 $1$，即 $\sum _{k=0}^{m}P(X=k)=\sum _{k=0}^m\frac{{\mathrm{C}}_M^k{\mathrm{C}}_{N-M}^{n-k}}{{\mathrm{C}}_N^n}=1$

可得 $\sum _{k=0}^m{\mathrm{C}}_M^k{\mathrm{C}}_{N-M}^{n-k}={\mathrm{C}}_N^n$

推导过程

$$\begin{array}{rl}E(x)& =\sum _{k=0}^{m}k\cdot \frac{{\mathrm{C}}_M^k\cdot {\mathrm{C}}_{N-M}^{n-k}}{{\mathrm{C}}_N^n}\\ & =\frac{1}{{\mathrm{C}}_N^n}\sum _{k=0}^{m}k{\mathrm{C}}_M^K\cdot {\mathrm{C}}_{N-M}^{n-k}\\ & =\frac{1}{{\mathrm{C}}_N^n}\sum _{k=1}^{m}M{\mathrm{C}}_{M-1}^{k-1}{\mathrm{C}}_{N-M}^{n-k}\\ & =\frac{M}{{\mathrm{C}}_N^n}\sum _{k=1}^m{\mathrm{C}}_{M-1}^{k-1}{\mathrm{C}}_{N-M}^{n-k}\\ & =\frac{M}{{\mathrm{C}}_N^n}{\mathrm{C}}_{N-1}^{n-1}\\ & =\frac{nM}{N}\end{array}$$

方差

$$D(x)=\frac{n\left(\frac{M}{N}\right)\left(1-\frac{M}{N}\right)(N-n)}{(N-1)}$$

二项分布

定义

二项分布（Binomial distribution）是 $n$ 个 独立重复试验中成功的次数的离散概率分布，其中每次试验的成功概率为 $p$。这样的单次成功/失败试验又称为 伯努利试验。

实际上，当 $n=1$ 时，二项分布就是两点分布。

一般地，如果随机变量 $X$ 服从参数 $n$ 和 $p$ 的二项分布，我们记 $x\sim b(n,p)$ 或 $X\sim B(n,p)$. $n$ 次试验中正好得到 $k$ 次成功的概率为

$$P(x=k)={\mathrm{C}}_n^k{p}^k(1-p{)}^{n-k}$$

期望

若 $X\sim B(n,p)$，则

$$\boxed{E(x)=np}$$

证明

简单的证明

记

$$x_i=\{\begin{array}{ll}1& \text{第 i 次试验成功}\\ 0& \text{第 i 次试验不成功}\end{array}$$

显然 $E(x_i)=p$

由于 $X=x_1+x_2+\cdots +x_n$，根据期望的线性性质，
$E(X)=E(x_1)+E(x_2)+\cdots +E(x_n)=np$

复杂的证明

记 $q=1-p$，那么

$$\begin{array}{rl}E(X)& =\sum _{k=0}^{n}kP(X=k)\\ & =\sum _{k=0}^{n}k{\mathrm{C}}_n^k{p}^k{q}^{n-k}\\ & =\sum _{k=1}^{n}k{\mathrm{C}}_n^k{p}^k{q}^{n-k}\\ & =p\sum _{k=1}^{n}n{\mathrm{C}}_{n-1}^{k-1}{p}^{k-1}{q}^{(n-1)-(k-1)}\\ & =np\sum _{k=1}^n{\mathrm{C}}_{n-1}^{k-1}{p}^{k-1}{q}^{(n-1)-(k-1)}\\ & =np\cdot (p+q{)}^{n-1}\text{（二项式定理）}\\ & =np\end{array}$$

方差

$$\boxed{D(x)=np(1-p)}$$

证明

简单的方法

类似于期望的那种证明方法。

复杂的方法

$$\begin{array}{rl}D(X)& =\sum _{k=0}^n{\left[k-E(X)\right]}^2\cdot p_k=\sum _{k=0}^n(k-np{)}^2\cdot {\mathrm{C}}_n^k{p}^k{q}^{n-k}\\ & =\sum _{k=0}^n{k}^2\cdot {\mathrm{C}}_n^k{p}^k{q}^{n-k}+\sum _{k=0}^n-2npk\cdot {\mathrm{C}}_n^k{p}^k{q}^{n-k}+\sum _{k=0}^n{n}^2{p}^2\cdot {\mathrm{C}}_n^k{p}^k{q}^{n-k}\\ & =\sum _{k=0}^n(k-1)\cdot k\cdot {\mathrm{C}}_n^k{p}^k{q}^{n-k}+\sum _{k=0}^{n}k\cdot {\mathrm{C}}_n^k{p}^k{q}^{n-k}-2np\sum _{k=0}^{n}k\cdot {\mathrm{C}}_n^k{p}^k{q}^{n-k}\\ & +n^2{p}^2\sum _{k=0}^n{\mathrm{C}}_n^k{p}^k{q}^{n-k}\\ & =\sum _{k=1}^n(k-1)\cdot k\cdot {\mathrm{C}}_n^k{p}^k{q}^{n-k}+np-2np\cdot np+n^2{p}^2\\ & =n\sum _{k=2}^n(k-1)\cdot {\mathrm{C}}_{n-1}^{k-1}{p}^k{q}^{n-k}+np-n^2{p}^2\\ & =n(n-1)p^2\sum _{k=2}^n{\mathrm{C}}_{n-2}^{k-2}{p}^{k-2}{q}^{(n-2)-(k-2)}+np-n^2{p}^2(\text{令}k-2=i)\\ & =n(n-1)p^2\sum _{i=0}^{n-2}{\mathrm{C}}_{n-2}^i{p}^i{q}^{(n-2)-i}+np-n^2{p}^2\\ & =n(n-1)p^2+np-n^2{p}^2\\ & =npq\end{array}$$