用特征函数法解决独立随机变量加法问题

通过使用特征函数，我们可以给出独立随机变量加法问题的一个解法。设

X_{1}, X_{2}, \dots, X_{n}

为

n

个独立随机变量，其各自的特征函数为

ϕ_{X_{1}} (\cdot), \dots, ϕ_{X_{n}} (\cdot)

。令

S_{n} = X_{1} + X_{2} + \dots + X_{n}

为其和。要了解

S_{n}

的概率分布律，只需知道其特征函数

ϕ_{S_{n}} (\cdot)

。然而，由独立随机变量的性质，立即可得，对于每个实数

u

或者，等价地， $E [e^{i u (X_{1} + \dots + X_{n})}] = E [e^{i u X_{1}}] \dots E [e^{i u X_{n}}]$ 。因此，就特征函数而言，独立随机变量的加法问题由 (4.1) 式给出了一个简洁明了的解，这也可以用文字表述为：独立随机变量之和的概率分布律，其特征函数等于各个随机变量特征函数的乘积。

在本节中，我们考虑 (4.1) 式能精确求出 $S_{n}$ 概率分布律的某些情形。在第 10 章中，我们将展示如何利用 (4.1) 式对 $S_{n}$ 的概率分布律进行一般的近似求值。

给定和 $S_{n}$ 的特征函数 $ϕ_{S_{n}} (\cdot)$ ，有多种方法可以从中推导出 $S_{n}$ 的概率分布律。

可能会出现 $ϕ_{S_{n}} (\cdot)$ 与某个已知概率分布律的特征函数一致的情况。例如，对于每个 $k = 1, 2, \dots, n$ ，假设 $X_{k}$ 服从均值为 $m_{k}$ 、方差为 $σ_{k}^{2}$ 的正态分布。那么， $ϕ_{X_{k}} (u) = \exp (i u m_{k} - \frac{1}{2} u^{2} σ_{k}^{2})$ ，并且，由 (4.1) 式，

$ϕ_{S_{n}} (u) = \exp [i u (m_{1} + \dots + m_{n}) - \frac{1}{2} u^{2} (σ_{1}^{2} + \dots + σ_{n}^{2})] .$

我们认出 $ϕ_{S_{n}} (\cdot)$ 是均值为 $m_{1} + \dots + m_{n}$ 、方差为 $σ_{1}^{2} + \dots + σ_{n}^{2}$ 的正态分布的特征函数。因此，和 $S_{n}$ 服从均值为 $m_{1} + \dots + m_{n}$ 、方差为 $σ_{1}^{2} + \dots + σ_{n}^{2}$ 的正态分布。通过使用此类论证，我们得到以下定理。

定理 4A. 设 $S_{n} = X_{1} + \dots + X_{n}$ 为独立随机变量之和。

若对于 $k = 1, \dots, n$ ， $X_{k}$ 服从 $N (m_{k}, σ_{k}^{2})$ ，则 $S_{n}$ 服从 $N (m_{1} + \dots + m_{n}, σ_{1}^{2} + \dots + σ_{n}^{2})$
若对于 $k = 1, \dots, n$ ， $X_{k}$ 服从参数为 $N_{k}$ 和 $p$ 的二项分布，则 $S_{n}$ 服从参数为 $N_{1} + \dots + N_{n}$ 和 $p$ 的二项分布。
若对于 $k = 1, \dots, n$ ， $X_{k}$ 服从参数为 $λ_{k}$ 的泊松分布，则 $S_{n}$ 服从参数为 $λ_{1} + \dots + λ_{n}$ 的泊松分布。
若对于 $k = 1, \dots, n$ ， $X_{k}$ 服从自由度为 $N_{k}$ 的 $χ^{2}$ 分布，则 $S_{n}$ 服从自由度为 $N_{1} + \dots + N_{n}$ 的 $χ^{2}$ 分布。
若对于 $k = 1, \dots, n$ ， $X_{k}$ 服从参数为 $a_{k}$ 和 $b_{k}$ 的柯西分布，则 $S_{n}$ 服从参数为 $a_{1} + \dots + a_{n}$ 和 $b_{1} + \dots + b_{n}$ 的柯西分布。

我们或许能够对 $S_{n}$ 的特征函数进行反演，以获得其分布函数或概率密度函数。特别地，如果 $ϕ_{S_{n}} (\cdot)$ 是绝对可积的，那么对于任何实数 $x$ ， $S_{n}$ 的概率密度函数由下式给出

为了计算 (4.2) 式中的无穷积分，通常需要用到复积分理论和留数计算。

即使无法通过反演特征函数得到 $S_{n}$ 概率分布律的封闭形式，特征函数仍然可以用来求 $S_{n}$ 的矩和累积量。事实上，累积量在独立随机变量之和的研究中才真正显示出其重要性，因为它们对求和项具有可加性。更确切地说，如果 $X_{1}, X_{2}, \dots, X_{n}$ 是独立的随机变量，且其 $r$ 阶累积量存在，那么其和的 $r$ 阶累积量也存在，并且等于各个随机变量的 $r$ 阶累积量之和。用符号表示，

方程 (4.3) 可直接由以下事实得出： $r$ 阶累积量（相差一个常数）是特征函数的对数在 0 处的 $r$ 阶导数，而由于特征函数是乘积性的，对数特征函数对独立求和项具有可加性。

一个随机变量的矩和中心矩可以用其累积量来表示。特别地，一阶累积量与均值、二阶累积量与方差、三阶累积量与三阶中心矩分别相等。因此，均值、方差和三阶中心矩对独立求和项具有可加性；更确切地说，其中，对于任意随机变量 $X$ ，我们定义 $μ_{3} [X] = E [(X - E [X])^{3}]$ ；(4.4) 式当然也可以直接证明。

习题

4.1. 证明定理 4A。

4.2. 求对应于以下特征函数的概率分布律：(i) $e^{- u^{2}}$ ，(ii) $e^{- | u |}$ ，(iii) $e^{(e^{i u} - 1)}$ ，(iv) $(1 - 2 i u)^{- 2}$ 。

4.3. 设 $X_{1}, X_{2}, \dots, X_{n}$ 是一列独立随机变量，每个都在区间 0 到 1 上均匀分布。令 $S_{n} = X_{1} + X_{2} + \dots +$ $X_{n}$ 。证明对于任意实数 $y$ ，满足 $0 < y < n + 1$ ，有

$f_{S_{n + 1}} (y) = \int_{y - 1}^{y} f_{S_{n}} (x) d x;$

从而用数学归纳法证明 $若若或$

4.4. 设 $X_{1}, X_{2}, \dots, X_{n}$ 是一列独立随机变量，每个都服从均值为 0、方差为 1 的正态分布。令 $S_{n} = X_{1}^{2} + X_{2}^{2} +$ $\dots + X_{n}^{2}$ 。证明对于任意实数 $y$ 和整数 $n = 1, 2, \dots$

$f_{S_{n + 2}} (y) = \int_{0}^{y} f_{S_{2}} (y - x) f_{S_{n}} (x) d x .$

证明对于 $y > 0$ ，有 $f_{S_{2}} (y) = \frac{1}{2} e^{- 1 / 2 y}$ ；从而推导出 $S_{n}$ 服从自由度为 $n$ 的 $χ^{2}$ 分布。

4.5. 设 $X_{1}, X_{2}, \dots, X_{n}$ 是独立随机变量，每个都服从均值为 $m$ 、方差为 1 的正态分布。令 $S = \sum_{j = 1}^{n} X_{j}^{2}$ 。

(i) 求 $S$ 的累积量。

(ii) 令 $T = a Y_{ν}$ ，其中 $a$ 和 $v$ 为适当的常数，而 $Y_{v}$ 是服从自由度为 $v$ 的 $χ^{2}$ 分布的随机变量。确定 $a$ 和 $v$ ，使得 $S$ 和 $T$ 具有相同的均值和方差。提示：证明每个 $X_{j}^{2}$ 具有特征函数

$ϕ_{X_{j}^{2}} (u) = \frac{1}{(1 - 2 i u)^{1 / 2}} \exp [- \frac{1}{2} m^{2} (1 - \frac{1}{1 - 2 i u})]$

答案

(i) $S$ 的 $k$ 阶累积量为 $n 2^{k - 1} (k - 1)! (1 + k m^{2})$ ；

(ii) $y = \frac{{(1 + m^{2})}^{2}}{1 + 2 m^{2}}$ ， $a = \frac{1 + 2 m^{2}}{1 + m^{2}}$ 。