矩母函数

期望值的计算需要用到求和与积分运算，而这些运算并没有完全常规的方法可用。我们现在讨论一种计算概率律矩的方法，如果该方法可用，则只需进行一次求和或积分，之后概率律的所有矩都可以通过常规的微分运算得到。

矩母函数是一个函数 $ψ (\cdot)$ ，对所有实数 $t$ 定义为

换句话说， $ψ (t)$ 是指数函数 $e^{t x}$ 的期望值。

对于由概率质量函数 $p (\cdot)$ 指定的离散概率律，其矩母函数由下式给出

$对所有满足的点$

对于由概率密度函数 $f (\cdot)$ 指定的连续概率律，其矩母函数由下式给出

由于对于固定的 $t$ ，被积函数 $e^{t x}$ 是 $x$ 的正函数，因此 $ψ (t)$ 要么有限，要么无限。我们说一个概率律具有矩母函数，如果存在一个正数 $T$ ，使得对于 $| t | \leq T$ ， $ψ (t)$ 是有限的。那么可以证明，该概率律的所有矩都存在，并且可以用矩母函数在 $t = 0$ 处的逐次导数来表示[参见(3.5) ]。我们已经证明存在没有有限均值的概率律。因此，也存在不具有矩母函数的概率律。在第6 章中可以看到，对于每一个概率律，都可以定义一个称为特征函数的函数，该函数总是存在，并且可以像矩母函数一样用来获取那些确实存在的矩。

如果矩母函数 $ψ (t)$ 对于 $| t | \leq T$ （对于某个 $T > 0$ ）存在，那么可以通过在积分号或求和号下逐次微分来形成其逐次导数。因此，我们得到

令 $t = 0$ ，我们得到

如果矩母函数 $ψ (t)$ 对于 $| t | \leq T$ （对于某个 $T > 0$ ）是有限的，那么它便具有一个幂级数展开式（对 $| t | < T$ 有效）。

为证明 (3.6)，使用 $ψ (t)$ 的定义以及以下事实

鉴于 (3.6)，如果能够容易地得到 $ψ (t)$ 的幂级数展开式，那么对于任意整数 $n$ ，就可以容易地得到第 $n$ 阶矩 $E [x^{n}]$ ，因为 $E [x^{n}]$ 是 $ψ (t)$ 的幂级数展开式中 $t^{n} / n!$ 的系数。

例 3A 。参数为 $p$ 的伯努利概率律对于 $- \infty < t < \infty$ 具有矩母函数。

其导数为

例 3B 。参数为 $n$ 和 $p$ 的二项概率律对于 $- \infty < t < \infty$ 具有矩母函数。

其导数为

概率律	参数	概率质量函数 $p (\cdot)$	均值 $m = E [x]$	方差 $σ^{2} = E [x^{2}] - E^{2} [x]$
伯努利	$0 \leq p \leq 1$	$其他$	$p$	$p q$
二项	$n = 1, 2, \dots$ $0 \leq p \leq 1$	$其他$	$n p$	$n p q$
泊松	$λ > 0$	$其他$	$λ$	$λ$
几何	$0 \leq p \leq 1$	$其他$	$\frac{1}{p}$	$\frac{q}{p^{2}}$
负二项	$r > 0$ $0 \leq p \leq 1$	$其他$	$\frac{r q}{p} = r P 若 P = \frac{q}{p}$	$\frac{r q}{p^{2}} = r P Q 若 Q = \frac{1}{p}$
超几何	$N = 1, 2, \dots$ $n = 1, 2, \dots, N$ $p = 0, \frac{1}{N}, \frac{2}{N}, \dots, 1$	$其他$	$n p$	$n p q \frac{N - n}{N - 1}$

表 3A 。一些常见的离散概率律及其矩和生成函数

概率律	矩母函数 $ψ (t) = E [e^{t x}]$	特征函数 $ϕ (u) = E [e^{i u x}]$	三阶中心矩 $E [(x - E [x])^{3}]$	四阶中心矩 $E [(x - E [x])^{4}]$
伯努利	$p e^{t} + q$	$p e^{i u} + q$	$p q (q - p)$	$3 p^{2} q^{2} + p q (1 - 6 p q)$
二项	$(p e^{t} + q)^{n}$	$(p e^{i u} + q)^{n}$	$n p q (q - p)$	$3 n^{2} p^{2} q^{2} + p q n (1 - 6 p q)$
泊松	$e^{λ (e^{t} - 1)}$	$e^{λ (e^{i u} - 1)}$	$λ$	$λ + 3 λ^{2}$
几何	$\frac{p e^{t}}{1 - q e^{t}}$	$\frac{p e^{i u}}{1 - q e^{i u}}$	$\frac{q}{p^{2}} (1 + 2 \frac{q}{p})$	$\frac{q}{p^{2}} (1 + 9 \frac{q}{p^{2}})$
负二项	${(\frac{p}{1 - q e^{t}})}^{r} = (Q - P e^{t})^{- r}$	${(\frac{p}{1 - q e^{i u}})}^{r} = (Q - P e^{i u})^{- r}$	$\frac{r q}{p^{2}} (1 + 2 \frac{q}{p}) = r P Q (Q + P)$	$\frac{r q}{p^{2}} (1 + (6 + 3 r) \frac{q}{p^{2}}) = 3 r^{2} p^{2} Q^{2} + r P Q (1 + 6 P Q)$
超几何	参见 M. G. Kendall, Advanced Theory of Statistics , Charles Griffin, London, 1948, p. 127.

表 3A （续）。一些常见的离散概率律及其矩和生成函数

概率律	参数	概率密度函数 $f (\cdot)$	均值 $m = E [x]$	方差 $σ^{2} = E [x^{2}] - E^{2} [x]$
区间 $a$ 到 $b$ 上的均匀分布	$- \infty < a < b < \infty$	$其他$	$\frac{a + b}{2}$	$\frac{(b - a)^{2}}{12}$
正态	$- \infty < m < \infty$ $σ > 0$	$f (x) = \frac{1}{σ \sqrt{2 π}} e^{- \frac{1}{2} {(\frac{x - m}{σ})}^{2}}$	$m$	$σ^{2}$
指数	$λ > 0$	$其他$	$\frac{1}{λ}$	$\frac{1}{λ^{2}}$
伽马	$r > 0$	$其他$	$\frac{r}{λ}$	$\frac{r}{λ^{2}}$

表 3B 。一些常见的连续概率律及其矩和生成函数

概率律	矩母函数 $ψ (t) = E [e^{t x}]$	特征函数 $ϕ (u) = E [e^{i u x}]$	三阶中心矩 $E [(x - E [x])^{3}]$	四阶中心矩 $E [(x - E [x])^{4}]$
区间 $a$ 到 $b$ 上的均匀分布	$\frac{e^{t b} - e^{t a}}{t (b - a)}$	$\frac{e^{i u b} - e^{i u a}}{i u (b - a)}$	$0$	$\frac{(b - a)^{4}}{80}$
正态	$e^{t m + \frac{1}{2} t^{2} σ^{2}}$	$e^{i u m - \frac{1}{2} u^{2} σ^{2}}$	$0$	$3 σ^{4}$
指数	$\frac{λ}{λ - t} = {(1 - \frac{t}{λ})}^{- 1}$	${(1 - \frac{i u}{λ})}^{- 1}$	$\frac{2}{λ^{3}}$	$\frac{9}{λ^{4}}$
伽马	${(1 - \frac{t}{λ})}^{- r}$	${(1 - \frac{i u}{λ})}^{- r}$	$\frac{2 r}{λ^{3}}$	$\frac{6 r + 3 r^{2}}{λ^{4}}$

表 3B（续）。一些常见连续概率律及其矩和生成函数

例 3C。参数为 $λ$ 的泊松概率律对所有 $t$ 都有矩生成函数。

其导数为

因此，方差 $σ^{2} = E [x^{2}] - E^{2} [x] = λ$ 。所以对于泊松概率律，均值与方差相等。

例 3D。参数为 $p$ 的几何概率律，对于满足 $q e^{t} < 1$ 的 $t$ 有矩生成函数。

由 (3.14) 可以证明，几何概率律的均值和方差由下式给出

例 3E。均值为 $m$ 、方差为 $σ$ 的正态概率律，对 $- \infty < t < \infty$ 有矩生成函数。

由 (3.16) 可以证明，正态概率律的中心矩由下式给出 $若若$ 推导 (3.17) 的另一种方法是利用第 4 章中的 (2.22)。

例 3F。参数为 $λ$ 的指数概率律，对 $t < λ$ 有矩生成函数。

由 (3.18) 可以证明，对于指数概率律，均值 $m$ 与标准差 $σ$ 相等，且等于参数 $λ$ 的倒数。

例 3G。放射性原子的寿命。在第 6 章第 4 节中已证明，放射性原子发射粒子的时间间隔服从参数为 $λ$ 的指数概率律。由例 3F 可知，平均发射时间间隔为 $1 / λ$ 。发射时间间隔称为原子的寿命。原子的半衰期定义为这样一个时间 $T$ ，使得寿命大于 $T$ 的概率为 $\frac{1}{2}$ 。由于寿命大于给定数值 $t$ 的概率为 $e^{- λ t}$ ，因此 $T$ 是方程 $e^{- λ T} = \frac{1}{2}$ 的解，即 $T = \log_{e} 2 / λ$ 。换言之，半衰期 $T$ 等于均值 $1 / λ$ 乘以 $\log_{e} 2$ 。

理论习题

3.1。关于某点的矩生成函数。定义概率律关于点 $c$ 的矩生成函数为对所有实数 $t$ 由 $ψ_{c} (t) = E [e^{l (x - c)}]$ 定义的函数 $ψ_{c} (\cdot)$ 。证明 $ψ_{c} (t)$ 可由 $ψ (t)$ 通过 $ψ_{c} (t) = e^{- c t} ψ (t)$ 得到。概率律关于点 $c$ 的 $n$ 阶矩 $E [(x - c)^{n}]$ 由 $E [(x - c)^{n}] = ψ_{c}^{(n)} (0)$ 给出，并可作为 $ψ_{c} (t)$ 的幂级数展开式中 $t^{n} / n$ ! 的系数读出。

3.2。阶乘矩生成函数。概率律的 $Φ (u)$ 对所有满足 $| u | < 1$ 的 $u$ 定义为 $Φ (u) = E [(1 + u)^{x}] = E [e^{x \log (1 + u)}] = ψ [\log (1 + u)] .$ 其在 $u = 0$ 处的 $n$ 阶导数

$Φ^{(n)} (0) = E [x (x - 1) \dots (x - n + 1)]$

称为概率律的 $n$ 阶阶乘矩。由概率律的前 $n$ 个阶乘矩的知识，可以得到概率律的前 $n$ 个矩的知识，反之亦然。例如，

方程 (3.19) 在第 2 节计算某些二阶矩和方差时已被隐式使用。证明两个不同概率律的前 $n$ 个矩相同，当且仅当它们的前 $n$ 个阶乘矩相同。

提示：参阅 M. Kendall，《高级统计学理论》，第一卷，Griffin，伦敦，1948 年，第 58 页。

3.3。匹配问题中匹配数概率律的阶乘矩生成函数。将 $M$ 个分别标号为 1 到 $M$ 的球，随机分配到 $M$ 个分别标号为 1 到 $M$ 的瓮中，每个瓮放一个球，所得匹配数的概率律由以下概率质量函数确定

$对于其他情况。$

证明相应的矩生成函数可写为

因此，匹配数的阶乘矩生成函数可写为

3.4。在将 $M$ 个球匹配到 $M$ 个瓮的问题中，匹配数的前 $M$ 个矩与参数 $λ = 1$ 的泊松概率律的前 $M$ 个矩一致。证明参数为 $λ$ 的泊松律的阶乘矩生成函数由下式给出

通过比较 (3.22) 和 (3.23)，可知匹配数概率律与参数为 1 的泊松概率律的前 $M$ 个阶乘矩，从而前 $M$ 个矩，是一致的。

习题

计算由给定概率密度函数、概率质量函数或分布函数所确定的概率律的矩生成函数、均值和方差。

3.1。 $对于其他情况。对于其他情况。$

答案

(i) $1 / (1 - t)$ ；(ii) $e^{5 t} / (1 - t)$ 。

3.2。 $对于其他情况。对于其他情况。$

3.3。 $对于其他情况。对于其他情况。$

答案

(i) $2 e^{t} / (3 - e^{t})$ ；(ii) $e^{2 (e^{t} - 1)}$ 。

3.4。 $对于对于$

3.5。求以下情况下匹配数的均值、方差、三阶中心矩和四阶中心矩：(i) 4 个球分配到 4 个瓮中，每个瓮放一个球；(ii) 3 个球分配到 3 个瓮中，每个瓮放一个球。

答案

(i) $1, 1, 1, 4$ ；(ii) $1, 1, 1, 3$ 。

3.6。求 (i) 二项、(ii) 泊松、(iii) 几何概率律的阶乘矩生成函数，并利用它得到它们的均值、方差以及三阶和四阶中心矩。