相互独立的随机变量

目录

8 相互独立的随机变量

. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第二章 88 / 110
 相互独立的随机变量

随机变量相互独立的定义

定义 68
如果对于任意事件 A 和 B 有

P(X ∈ A, Y ∈ B) = P(X ∈ A)P(Y ∈ B),

则称随机变量 X 和 Y 是相互独立的，记为 X ⨿ Y.

. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第二章 89 / 110
 相互独立的随机变量

相互独立的随机变量
两个随机变量 X 和 Y 相互独立等价于
分布函数：对 ∀x, y 有

F(x, y) = FX (x)FY (y).

如果 (X, Y) 是二维离散型随机变量, 则等价于分布律：对于 (X, Y) 的所有可能取值

(xi , yj ) 有

P(X = xi , Y = yj ) = pij = P(X = xi )P(Y = yj ) = pi· p·j .

如果 (X, Y) 是二维连续型随机变量, 则等价于密度函数：对任意 x, y 有

f(x, y) = fX (x)fY (y)

几乎处处成立. . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第二章 90 / 110
 相互独立的随机变量

随机变量的独立性

定理 69 (独立性定理)
设 (X, Y) 是二维连续型随机变量, f(x, y) 是 (X, Y) 的联合密度函数, 则 X 与 Y 相互独立的
充分必要条件是存在非负可积函数 r(x) 和 g(y) 使得

f(x, y) = r(x)g(y), − ∞ < x < +∞, − ∞ < y < +∞

在一切连续点上成立. 这时

r(x) g(y)
fX (x) = R +∞ , fY (y) = R +∞ .
−∞ r(x)dx −∞ g(y)dy

. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第二章 91 / 110
 相互独立的随机变量

例 70
设 (X, Y) 的联合密度函数为
(
2e−(x+2y) , x > 0, y > 0
f(x, y) =
0, 其它

考查 X 和 Y 是否相互独立.

. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第二章 92 / 110
 相互独立的随机变量

例 71
设 (X, Y) ∼ N(µ1 , σ12 ; µ2 , σ22 ; ρ)，证明 X 和 Y 相互独立的充要条件是 ρ = 0.

. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第二章 93 / 110
 相互独立的随机变量

例 72 (可加性)
(1) X1 ∼ b(n1 , p) ⨿ X2 ∼ b(n2 , p)，则 X1 + X2 ∼ b(n1 + n2 , p)
(2) X1 ∼ P(λ1 ) ⨿ X2 ∼ P(λ2 )，则 X1 + X2 ∼ P(λ1 + λ2 )
(3) X1 ∼ G(α1 , λ) ⨿ X2 ∼ G(α2 , λ)，则 X1 + X2 ∼ G(α1 + α2 , λ)
(4) X1 ∼ χ2 (n1 ) ⨿ X2 ∼ χ2 (n2 )，则 X1 + X2 ∼ χ2 (n1 + n2 )

. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第二章 94 / 110
 相互独立的随机变量

n 维随机向量

定义 73
n 维随机向量 X = (X1 , . . . , Xn )⊤ 的分布函数定义为

F(x1 , . . . , xn ) = P(X1 ≤ x1 , . . . , Xn ≤ xn ).

从这 n 个随机变量中任取 k 个 Xn1 , Xn2 , . . . , Xnk , 不妨假设为前 k 个，记

U = (X1 , X2 , · · · , Xk )⊤ ，则 U 的分布称为 n 维随机向量 X 的边际分布，记为 FU (u)，则

FU (u) = P(X1 ≤ x1 , . . . , Xk ≤ xk , Xk+1 < ∞, . . . , Xn ≤ ∞) = F(x1 , . . . , xk , ∞, . . . , ∞).

. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第二章 95 / 110
 相互独立的随机变量

n 维离散型随机向量

定义 74
对于 n 维随机向量 X = (X1 , . . . , Xn )⊤ ，若每个分量 Xi 都是离散型随机变量，其所有可能
的取值为 {ai1 , ai2 , · · · }，i = 1, 2, . . . , n，则称

p(j1 , j2 , . . . , jn ) = P(X1 = a1j1 , X2 = a2j2 , · · · , Xn = anjn ), j1 , j2 , . . . , jn = 1, 2, · · ·

为 n 维离散型随机向量 X 的联合分布律. U = (X1 , X2 , · · · , Xk )⊤ 的分布律为

X
P(X1 = a1j1 , . . . , Xk = akjk ) = p(j1 , j2 , . . . , jn ),
jk+1 ···jn

称为 n 维随机向量 X 的边际分布律.

. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第二章 96 / 110
 相互独立的随机变量

例 75 (多项分布)
设事件 A1 , . . . , An 构成某一试验对应样本空间的划分，记 pk = P(Ak ), k = 1, . . . , n，则

X
n
pk ≥ 0, pk = 1.
k=1

现将试验对立重复进行 N 次，用 Xk 表示事件 Ak 发生的次数,k = 1, . . . , n，则 n 维离散型

随机向量 X = (X1 , . . . , Xn )⊤ 服从多项分布, 记为 M(N; p1 , . . . , pn ), 其分布律为

N!
P(X1 = x1 , . . . , Xn = xn ) = px1 · · · pxnn ,
x1 ! · · · xn ! 1
Pn
其中 x1 , . . . , xn 为非负整数且 k=1 xk = N.

. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第二章 97 / 110
 相互独立的随机变量

多项分布 (续)

假设 n 维离散型随机向量 X = (X1 , . . . , Xn )⊤ 服从多项分布 M(N; p1 , . . . , pn ), 则

(1) 对 k = 1, . . . , n, Xk 服从二项分布，即

Xk ∼ b(N, pk ).

(2) 令 Z = N − Nl − Xi − Xj ，则 (Xi , Xj , Z) 在给定 Xl = Nl 的条件下服从三项分布

pi p pi +pj
M(N − Nl , 1−p , j , 1 − 1−p
l 1−pl l
), 其中 1 ≤ i ̸= j ̸= l ≤ n.

. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第二章 98 / 110
 相互独立的随机变量

n 维连续型随机向量

定义 76
对于 n 维随机向量 X = (X1 , . . . , Xn )⊤ ，若存在可积的非负函数 f(x1 , . . . , xn )，使得对
∀(x1 , . . . , xn )⊤ ∈ Rn , 有
Z x1 Z xn
F(x1 , . . . , xn ) = ··· f(u1 , . . . , un )du1 · · · dun ,
−∞ −∞

则称 f(x1 , . . . , xn ) 为 n 维连续型随机向量 X 的联合概率密度函数. U = (X1 , X2 , · · · , Xk )⊤

的概率密度函数为
Z
fU (u) = f(u1 , . . . , uk , xk+1 , . . . , xn )dxk+1 · · · dxn ,
Rn−k

称为 n 维随机向量 X 的边际概率密度函数.
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第二章 99 / 110
 相互独立的随机变量

例 77 (多元正态分布)
设 n 维随机向量 X = (X1 , . . . , Xn )⊤ 具有密度函数
 
1
f(X) = (2π)−n/2 |Σ|−1/2 exp − (X − µ)⊤ Σ−1 (X − µ) ,
2

其中 µ = (µ1 , . . . , µn )⊤ , Σ > 0，则称 X 为 n 维正态随机向量，记为 X ∼ N(µ, Σ).

(1) 对 k = 1, . . . , n, Xk 服从一元正态分布，即

Xk ∼ N(µk , σk2 ),

其中 σk2 是 Σ 的第 k 个对角元素.
(2) U = (X1 , X2 , · · · , Xk )⊤ 服从 k 维正态分布 N(µU , ΣU ), 其中 µU = (µ1 , . . . , µk )⊤ , ΣU
为 Σ 的前 k × k 阶子方阵.
. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第二章 100 / 110
 相互独立的随机变量

随机变量 X1 , . . . , Xn 相互独立 (ind)

分布函数：对 ∀x1 , . . . , xn 有
Y
n
F(x1 , . . . , xn ) = FXi (xi )
i=1

如果 X = (X1 , . . . , Xn )⊤ 是 n 维离散型随机变量, 则等价于分布律：

Y
n
P(X1 = x1 , . . . , Xn = xn ) = P(Xi = xi ).
i=1

如 X = (X1 , . . . , Xn )⊤ 是 n 维连续型随机变量, 则等价于密度函数：

Y
n
f(x1 , . . . , xn ) = fXi (xi )
i=1

几乎处处成立. . . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第二章 101 / 110
 相互独立的随机变量

定义 78 (独立同分布 (iid))
如果 X1 , · · · , Xn 相互独立且具有共同的边际分布函数 F(x)，则称 X1 , · · · , Xn 是独立同分布
的 (independently identically distributed, iid)，记为

X1 , X2 , . . . , Xn ∼ F(x).

如果 F(x) 有密度函数为 f(x)，也可以记为

X1 , X2 , . . . , Xn ∼ f(x).

有时候也称 X1 , X2 , . . . , Xn 是来自分布 F(x) 样本量为 n 的随机样本.

. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第二章 102 / 110
 随机向量函数的分布

目录

9 随机向量函数的分布

. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第二章 103 / 110
 随机向量函数的分布

两个离散型随机变量函数的分布

设二维离散型随机变量 (X, Y) 的分布律为

P(X = xi , Y = yj ) = pij , i, j = 1, 2, · · · ,

则离散型随机变量 Z = g(X, Y) 的分布律为

X
P(Z = zk ) = P(g(X, Y) = zk ) = pij , k = 1, 2, · · ·
(xi ,yj ):g(xi ,yj )=zk

. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第二章 104 / 110
 随机向量函数的分布

两个连续型随机变量函数的分布

分布函数法：
(1) 对每个 z，确定 Az = {(x, y) : g(x, y) ≤ z}.
(2) 求分布函数

FZ (z) = P(Z ≤ z) = P(g(X, Y) ≤ z)

= P({(x, y) : g(x, y) ≤ z})
Z
= f(x, y)dxdy.
Az

(3) 求出密度函数 fZ (z) = F′Z (z).

. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第二章 105 / 110
 随机向量函数的分布

连续型随机变量 Z = X + Y 的分布

例 79
设 X 和 Y 的联合密度为 f(x, y), 求 Z = X + Y 的概率密度.

. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第二章 106 / 110
 随机向量函数的分布

连续型随机变量 Z = X + Y 的分布

例 79
设 X 和 Y 的联合密度为 f(x, y), 求 Z = X + Y 的概率密度.

卷积公式
当 X 和 Y 独立，则 Z = X + Y 的概率密度为
Z ∞ Z ∞
fZ (z) = fX (x)fY (z − x)dx = fX (z − y)fY (y)dy.
−∞ −∞

. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第二章 106 / 110
 随机向量函数的分布

例 80
设 X 和 Y 独立同分布于 N(0, 1), 求 Z = X + Y 的概率密度.

. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第二章 107 / 110
 随机向量函数的分布

例 80
设 X 和 Y 独立同分布于 N(0, 1), 求 Z = X + Y 的概率密度.

定理 81
有限个独立正态变量的线性组合仍然服从正态分布. 即若 Xi ind N(µi , σi2 ), i = 1, 2, . . . , n，
则
X
n X
n X
n
ai Xi ∼ N( a i µi , a2i σi2 ).
i=1 i=1 i=1

. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第二章 107 / 110
 随机向量函数的分布

M = max{X, Y}, N = min{X, Y} 的分布

设随机变量 X 和 Y 独立, 分布函数分别为 FX (x), FY (y), 则

M = max{X, Y} 的分布函数为

. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第二章 108 / 110
 随机向量函数的分布

M = max{X, Y}, N = min{X, Y} 的分布

设随机变量 X 和 Y 独立, 分布函数分别为 FX (x), FY (y), 则

M = max{X, Y} 的分布函数为

FM (z) = FX (z)FY (z);

. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第二章 108 / 110
 随机向量函数的分布

M = max{X, Y}, N = min{X, Y} 的分布

设随机变量 X 和 Y 独立, 分布函数分别为 FX (x), FY (y), 则

M = max{X, Y} 的分布函数为

FM (z) = FX (z)FY (z);

N = min{X, Y} 的分布函数为

. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第二章 108 / 110
 随机向量函数的分布

M = max{X, Y}, N = min{X, Y} 的分布

设随机变量 X 和 Y 独立, 分布函数分别为 FX (x), FY (y), 则

M = max{X, Y} 的分布函数为

FM (z) = FX (z)FY (z);

N = min{X, Y} 的分布函数为

FN (z) = 1 − [1 − FX (z)][1 − FY (z)].

. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第二章 108 / 110
 随机向量函数的分布

最大值和最小值的分布
定理 82
设 X1 , X2 , . . . , Xn 相互独立 (ind)，分布函数分别为 FXi (x), i = 1, . . . , n，则
M = max{X1 , . . . , Xn } 的分布函数为

Y
n
FM (z) = FXi (z);
i=1
N = min{X1 , . . . , Xn } 的分布函数为

Y
n
FN (z) = 1 − [1 − FXi (z)].
i=1
特别的，如果 X1 , X2 , . . . , Xn iid, 分布函数为 F(x), 则 M, N 的分布函数分别为

FM (z) = [F(z)]n , FN (z) = 1 − [1 − F(z)]n . . . . . . . . . . . . . . . . . . . . .

. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第二章 109 / 110
 随机向量函数的分布

例 83
设系统 L 由两个相互独立的子系统 L1 , L2 , 连接而成, 连接的方式分别为 (1) 串联, (2) 并联,
(3) 备用 (当系统 L1 损坏时, 系统 L2 开始工作), 如下图所示. 设 L1 , L2 的寿命分别为 X, Y,
已知它们的概率密度分别为
( (
αe−αx , x > 0 βe−βy , y > 0
fX (x) = fY (y) = ,
0, x≤0 0, y≤0

其中 α > 0, β > 0 且 α ̸= β. 试分别就以上三种连接方式写出 L 的寿命 Z 的概率密度.

. . . . . . . . . . . . . . . . . . . .
. . . . . . . . . . . . . . . . . . . .
许佩蓉 (SJTU) 第二章 110 / 110