独立事件与事件族

独立事件与相依事件的概念在概率论中占据核心地位。某些在概率问题中反复出现的关系,可以用这些概念给出一般性的表述。如果事件 A B 具有这样的性质:在给定 A 发生的条件下 B 的条件概率等于 B 的无条件概率,那么直觉上我们会感到事件 B 在统计上独立于事件 A ,其含义是 B 发生的概率不受已知 A 已发生这一信息的影响。由此我们引出以下形式化定义。

事件 B 独立于具有正概率的事件 A 的定义。 A B 是定义在同一概率空间 S 上的事件。假设 P [ A ] > 0 ,从而 P [ B A ] 有良好定义。 

如果给定 A B 的条件概率等于 B 的无条件概率,则称事件 B 独立于(或统计独立于)事件 A ;用符号表示,若 则 B 独立于 A

现在假设 A B 都具有正概率。那么 P [ A B ] P [ B A ] 都有良好定义,并且由第2章的(4.6)可得 

如果 B 独立于 A ,那么由(1.1)(1.2)可知 P [ A B ] = P [ A ] ,从而 A 也独立于 B 。进一步由(1.1)(1.2)可得 

借助(1.3),可以给出两个事件相互独立的定义,其中两个事件扮演对称的角色。

独立事件的定义。 A B 是定义在同一概率空间上的事件。如果(1.3)成立,则称事件 A B 相互独立。 

例1A。考虑从装有四个白球和两个红球的罐子中有放回地抽取一个容量为2的样本的问题。设 A 表示第一个抽出的球是白球的事件, B 表示第二个抽出的球是白球的事件。根据第2章的(2.5) P [ A B ] = ( 4 6 ) 2 ,而 P [ A ] = P [ B ] = 4 6 。根据(1.3),事件 A B 相互独立。

不满足(1.3)的两个事件被称为相依的(尽管更精确的术语应该是非独立的)。显然,说两个事件是相依的并没有提供太多信息,因为两个事件 A B 相依当且仅当 P [ A B ] P [ A ] P [ B ] 。然而,可以在一定程度上对相依事件进行分类,这将在后面进行。(见第5节。)

应当注意,两个互斥事件 A B 相互独立当且仅当 P [ A ] P [ B ] = 0 ,而这成立当且仅当 A B 的概率为零。

例1B互斥事件。设从装有六个球(其中四个是白球)的罐子中抽取一个容量为2的样本。设 C 表示恰好抽出一个白球的事件,设 D 表示两个抽出的球都是白球的事件。无论抽样是有放回还是无放回的,事件 C D 都是互斥的且不相互独立。

例1C一个悖论?随机选择一个道奇队和巨人队都有棒球比赛的夏日。设 A 为道奇队获胜的事件,设 B 为巨人队获胜的事件。如果道奇队和巨人队不是彼此对阵,那么我们可以认为事件 A B 相互独立但不互斥。如果巨人队和道奇队彼此对阵,那么我们可以认为事件 A B 互斥但不相互独立。要解决这个悖论,只需注意到定义事件 A B 的概率空间在两种情况下并不相同。(见例2B。)

独立事件和条件概率的概念可以推广到多于两个事件的情形。假设有三个定义在概率空间上的事件 A , B C 。给定事件 A B 已发生,事件 C 的条件概率,记作 P [ C A , B ] ,我们应如何理解?从概率的频率解释观点来看, P [ C A , B ] 指的是在 A B 同时发生的那些情形中, C 也发生的比例。因此,我们给出如下形式化定义:如果 P [ A B ] > 0 ,则 ;如果 P [ A B ] = 0 ,则 P [ C A , B ] 无定义。

接下来,事件 C 独立于事件 A B 这一陈述应如何理解?似乎我们应该理解为,给定 A 、或给定 B 、或给定交集 A B C 的条件概率,都等于 C 的无条件概率。因此我们给出如下形式化定义。

定义在同一概率空间上的事件 A , B C ,如果满足  则称它们是相互独立的(或统计独立的)。

如果(1.5)(1.6)成立,那么(假设事件 A B , C , A B , A C , B C 都具有正概率,从而下面写出的条件概率都有良好定义)可得 

反之,如果(1.7)中的所有关系都成立,那么(1.5)(1.6)中的所有关系也都成立。

需要强调的是,(1.5)并不蕴含(1.6),因此三个事件 A , B C 即使两两独立[即满足(1.5)],也未必相互独立。为说明这一点,请看下例。

例1D两两独立但不相互独立的事件。设从一个装有四个分别编号为1到4的球的罐子中抽取一个球。假设 S = { 1 , 2 , 3 , 4 } 具有等可能描述。事件 A = { 1 , 2 } , B = { 1 , 3 } C = { 1 , 4 } 满足(1.5)但不满足(1.6)。事实上, P [ C A , B ] = 1 1 2 = P [ C ] = P [ C A ] = P [ C B ] 。读者可能会发现,用文字解释为什么 P [ C A , B ] = 1是很有启发性的。

例1E证人证词的联合可信度。考虑城市街道上的一起汽车事故,其中汽车I突然停车,被后面的汽车II追尾。假设有三个人,我们称之为,目击了这起事故。假设通过让每位证人观察一系列设计好的事件并就每个事件进行询问,来估计每位证人正确观察到汽车I突然停车的概率。假设发现声称汽车I突然停车的概率为0.9,声称汽车I突然停车的概率为0.8,声称汽车I突然停车的概率为0.7。设 A , B C 分别表示证人将声称汽车I突然停车的事件。假设 A , B C 是相互独立的事件,求以下概率:(i) 都将声称汽车I突然停车;(ii) 恰好有两人将声称汽车I突然停车。

 

解答

由独立性,三位证人都将声称汽车I突然停车的概率 P [ A B C ] P [ A B C ] = P [ A ] P [ B ] P [ C ] = ( 0.9 ) ( 0.8 ) ( 0.7 ) = 0.504 。随后将证明,如果 A , B C 是相互独立的事件,那么 A , B C c 也是相互独立的事件。因此,恰好有两位证人将声称汽车I突然停车的概率为

 

至少两位证人将声称汽车I突然停车的概率为 0.504 + 0.398 = 0.902 。应当注意,定义事件 A , B C 的样本描述空间 S 是所有三元组 ( z 1 , z 2 , z 3 ) 构成的空间,其中 z 1 根据证人是否声称汽车I突然停车而取值为“是”或“否”;分量 z 2 z 3 分别针对证人类似定义。

 

接下来我们定义 n 个事件 A 1 , A 2 , , A n 的独立性和条件概率的概念。

我们定义给定事件 A 1 A 2 , , A n 1 已发生时 A n 的条件概率,记作 P [ A n A 1 , A 2 , , A n 1 ] ;如果 P [ A 1 A 2 A n 1 ] > 0 ,则

我们定义事件 A 1 , A 2 , , A n 相互独立(或统计独立),如果对于从1到 n 中任意选取的 k 个整数 i 1 < i 2 < < i k ,都有 

等式(1.9)意味着,对于从1到 n 中任意选取的整数 i 1 < i 2 < < i k (使得以下条件概率有定义),以及任意不等于 i 1 , i 2 , , i k 的从1到 n 的整数 j ,都有 

接下来我们考虑独立事件族,因为独立事件从不单独出现。设 𝒜 为两个事件族;也就是说, 𝒜 是集合,其成员是某个样本描述空间 S 上的事件。

如果从 𝒜 中分别选取的任意两个事件 A B 都是独立的,则称这两个事件族 𝒜 是独立的。更一般地,如果任意一组 n 个事件 A 1 , A 2 , , A n (其中 A 1 选自 𝒜 1 A 2 选自 𝒜 2 ,依此类推,直到 A n 选自 𝒜 n )是独立的,即满足关系式  

作为独立事件以族的形式出现这一事实的例证,让我们考虑两个独立事件 A B ,它们定义在样本描述空间 S 上。通过下式定义族 𝒜 使得 𝒜 A 、其补集 A c 、必然事件 S 和不可能事件 组成,类似地, B , B c , S 组成。

我们现在证明,如果事件 A B 是独立的,那么由 (1.12) 定义的事件族 𝒜 是独立的。为了证明这一断言,我们必须对可能选取的每一对事件(每个族各取一个)验证 (1.11) n = 2 时成立。由于每个族有四个成员,共有十六对这样的组合。我们仅验证其中四对,即 ( A , B ) , ( A , B c ) , ( A , S ) ( A , ) ,而将剩余十二对组合对 (1.11) 的验证留给读者。根据假设, A B 满足 (1.11) 。接下来,我们证明 A B c 满足 (1.11) 。根据第 1 章的 (5.2) P [ A B c ] = P [ A ] P [ A B ] 。由于根据假设, P [ A B ] = P [ A ] P [ B ] ,由此可得 P [ A B c ] = P [ A ] ( 1 P [ B ] ) = P [ A ] P [ B c ] , 因为根据第 1 章的 (5.3) P [ B c ] = 1 P [ B ] 。接下来, A S 满足 (1.11) ,因为 A S = A P [ S ] = 1 ,所以 P [ A S ] = P [ A ] = P [ A ] P [ S ] 。接下来, A 满足 (1.11) ,因为 A = P [ ] = 0 ,所以 P [ A ] = P [ ] = P [ A ] P [ ] = 0

更一般地,通过相同的考虑,我们可以证明以下重要定理,它以非常简洁的形式表达了 (1.9)

定理. A 1 , A 2 , , A n 为概率空间上的 n 个事件。事件 A 1 , A 2 , , A n 是独立的,当且仅当事件族 𝒜 1 = { A 1 , A 1 c , S , } , 𝒜 2 = { A 2 , A 2 c , S , } , , 𝒜 n = { A n , A n c , S , } 是独立的。 

理论习题

1.1 . 考虑 n 个独立事件 A 1 , A 2 , , A n 。证明 P [ A 1 A 2 A n ] = 1 P [ A 1 c ] P [ A 2 c ] P [ A n c ] . 由此,求一枚均匀骰子独立抛掷 6 次,数字 3 至少出现一次的概率。答案 : 1 ( 5 / 6 ) 6

1.2 . 设事件 A 1 , A 2 , , A n 独立,且对于 i = 1 , , n P [ A i ] = p i 。设 P 0 为这些事件均不发生的概率。证明 P 0 = ( 1 p 1 ) ( 1 p 2 ) ( 1 p n )

1.3 . 设事件 A 1 , A 2 , , A n 独立且具有相等的概率 P [ A i ] = p 。证明恰好有 k 个事件发生的概率为(对于 k = 0 , 1 , , n  

提示 : P [ A 1 A k A k + 1 c A n c ] = p k q n k

1.4 . n 个事件 A 1 , A 2 , , A n 交集的乘法规则。证明,对于满足 P [ A 1 A 2 A n 1 ] > 0 n 个事件,有 P [ A 1 A 2 A 3 A n ] = P [ A 1 ] P [ A 2 A 1 ] P [ A 3 A 1 , A 2 ] P [ A n A 1 , A 2 , , A n 1 ]  

1.5 . 设 A B 为独立事件。用 P [ A ] P [ B ] 表示,对于 k = 0 , 1 , 2 ,(i) P [事件 A B 中恰好有 k 个发生],(ii) P [事件 A B 中至少有 k 个发生],(iii) P [事件 A B 中至多有 k 个发生]。

1.6 . 设 A , B C 为独立事件。用 P [ A ] , P [ B ] P [ C ] 表示,对于 k = 0 , 1 , 2 , 3 ,(i) P [事件 A , B , C 中恰好有 k 个发生],(ii) P [事件 A , B , C 中至少有 k 个发生],(iii) P [事件 A , B , C 中至多有 k 个发生]。

习题

1.1 . 从一个装有 6 个球(其中 4 个是白球)的罐子中有放回(无放回)地抽取一个容量为 4 的样本。设 A 表示第一次抽到的球是白球的事件,设 B 表示第四次抽到的球是白球的事件。 A B 是否独立?证明你的答案。

 

答案

是,因为 P [ A B ] = ( 4 6 ) 2 P [ A ] = P [ B ] = 4 6  

 

(否,因为 P [ A B ] = 2 6 P [ A ] = P [ B ] = 4 6 )。

1.2 . 从一个装有 6 个球(其中 4 个是白球)的罐子中有放回(无放回)地抽取一个容量为 4 的样本。设 A 表示前两次抽取中恰好有 1 个白球的事件。设 B 为第四次抽到的球是白球的事件。 A B 是否独立?证明你的答案。

1.3 . (习题 1.2 的延续)。设 A B 如习题 1.2 中所定义。设 C 为 4 次抽取中恰好抽到 2 个白球的事件。 A , B C 是否独立? B C 是否独立?证明你的答案。

 

答案

否。

 

1.4 . 考虑例子 1 E 。求以下概率:(i) 都将声称 I 号车突然停车,(ii) 都不会声称 I 号车突然停车,(iii) 中至少有 1 人将声称 I 号车突然停车。

1.5 . 一家跑车制造商派出 3 名车手参加比赛。设 A 1 为车手 1 “亮相”(即他是比赛中前 3 个冲过终点线的车手之一)的事件,设 A 2 为车手 2 亮相的事件,设 A 3 为车手 3 亮相的事件。假设事件 A 1 , A 2 , A 3 独立,且 P [ A 1 ] = P [ A 2 ] = P [ A 3 ] = 0.1 。计算以下概率:(i) 没有车手亮相,(ii) 至少 1 人亮相,(iii) 至少 2 人亮相,(iv) 所有车手都亮相。

 

答案

(i) 0.729; (ii) 0.271; (iii) 0.028; (iv) 0.001。

 

1.6 . 在假设 P [ A 1 ] = 0.1 , P [ A 2 ] = 0.2 , P [ A 3 ] = 0.3 的条件下,计算习题 1.5 中所求的概率。

1.7 . 一家跑车制造商派出 n 名车手参加比赛。对于 i = 1 , , n ,设 A i 为第 i 名车手亮相的事件(见习题 1.5)。假设事件 A 1 , , A n 独立且具有相等的概率 P [ A i ] = p 。证明恰好有 k 名车手亮相的概率为 ( n k ) p k q n k ,对于 k = 0 , 1 , , n

1.8 . 假设你必须选择一个 3 人团队参加比赛。比赛规则是,一个团队必须由 3 人组成,他们各自亮相的概率 p 1 , p 2 , p 3 之和必须等于 1 2 ;即 p 1 + p 2 + p 3 = 1 2 。为了最大化团队中至少有 1 人亮相的概率,你希望你的团队成员具有怎样的亮相概率?(假设独立性。)

1.9 . 设 A B 为两个独立事件,它们同时发生的概率为 1 6 ,它们都不发生的概率为 1 3 。求 P [ A ] P [ B ] P [ A ] P [ B ] 是否唯一确定?

 

答案

( P [ A ] , P [ B ] ) 的可能取值为 ( 1 2 , 1 3 ) ( 1 3 , 1 2 )

 

1.10 . 设 A B 为两个独立事件,它们同时发生的概率为 1 6 A 发生而 B 不发生的概率为 1 3 。求 P [ A ] P [ B ] P [ A ] P [ B ] 是否唯一确定?