Chương 4:

Một biến ngẫu nhiên

Nguyễn Linh Trung

Trần Thị Thúy Quỳnh
Đại học Công nghệ, ĐHQGHN
Nội dung

1 Hàm phân bố tích lũy (CDF-Cumulative Distribution Function )

2 Hàm mật độ xác suất (Probability Density Function - PDF)

3 Các kỳ vọng

4 Một số biến ngẫu nhiên quan trọng

5 Hàm của biến ngẫu nhiên

6 Bất đẳng thức Markov và Chebyshev

7 Các phương pháp biến đổi

Nội dung

1 Hàm phân bố tích lũy (CDF-Cumulative Distribution Function )

2 Hàm mật độ xác suất (Probability Density Function - PDF)

3 Các kỳ vọng

4 Một số biến ngẫu nhiên quan trọng

5 Hàm của biến ngẫu nhiên

6 Bất đẳng thức Markov và Chebyshev

7 Các phương pháp biến đổi

CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Hàm phân bố tích lũy (CDF)

Definition (Cumulative Distribution Function)

Hàm phân bố tích lũy CDF của một biến ngẫu nhiên X được cho bởi:

FX (x) = P [X ≤ x], for − ∞ ≤ x ≤ ∞

4 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Example (CDF của biến ngẫu nhiên rời rạc)

Tung một đồng xu ba lần và ghi lại mặt sấp/ngửa của đồng xu ở mỗi lần
tung. Gọi X là số các mặt ngửa trong ba lần tung. Tính CDF của X.

Không gian mẫu:

S = {HHH, HHT, HTH, HTT, THH, THT, TTH, TTT}

SX = {0, 1, 2, 3}
Các xác suất tương ứng:

pX (0) = 1/8; pX (1) = 3/8; pX (2) = 3/8; pX (3) = 1/8

Với x < 0:
FX (x) = 0
Với 0 ≤ x < 1:
FX (x) = P [X = 0] = 1/8

5 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Với 1 ≤ x < 2:

FX (x) = P [X = 0] + P [X = 1] = 1/8 + 3/8 = 4/8 = 1/2

Với 2 ≤ x < 3:

FX (x) = 1/8 + 3/8 + 3/8 = 7/8

Với x ≥ 3:

FX (x) = P [X ≤ 3] = 1/8 + 3/8 + 3/8 + 1/8 = 1

6 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Tổng thể



 0, x<0
1/8, 0≤x<1



FX (x) = 1/2, 1≤x<2

7/8, 2≤x<3





1, x≥3

7 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Example (CDF of biến ngẫu nhiên liên tục)

Quay một mũi tên có gốc được gắn tại tâm của một hình tròn. Gọi θ là
góc mà mũi tên dừng lại, 0 < θ ≤ 2π. Xác suất để θ nằm trong một
khoảng thuộc (0, 2π] tỷ lệ với chiều dài của khoảng đó. Biến ngẫu nhiên
X được định nghĩa bởi X(θ) = θ/2π. Tìm CDF của X.

Với x < 0:
FX (x) = P [X ≤ x] = P [∅] = 0
Với 0 ≤ x ≤ 1:

FX (x) = P [X ≤ x] = P [θ ≤ 2πx] = 2πx/2π = x

(chuẩn hóa chiều dài bằng 1).

Với x > 1:

FX (x) = P [X ≤ x] = P [0 ≤ θ ≤ 2π] = 1

8 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Tổng thể

0, x < 0

FX (x) = x, 0 ≤ x ≤ 1

1, x > 1

a = 0, b = 1

9 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Tính chất của CDF

1 0 ≤ FX (x) ≤ 1
2 lim FX (x) = 1
x→∞
3 lim FX (x) = 0
x→−∞

4 FX (x) là hàm không giảm: nếu a < b thì FX (a) ≤ FX (b)

5 FX (x) là hàm liên tục phải: FX (b) = FX (b+ )
6 P [a < X ≤ b] = FX (b) − FX (a)
7 P [X = a] = FX (a) − FX (a− )
8 P [X > x] = 1 − FX (x)
Tất cả các tính chất này cho phép chúng ta tính tất cả các xác suất
thông qua FX (x).

10 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

CDF của biến ngẫu nhiên rời rạc

CDF của một biến ngẫu nhiên rời rạc là một hàm bậc thang, liên tục
phải của x, các bước nhảy được thực hiện tại các điểm x0 , x1 , x2 , . . .

X X
FX (x) = pX (xk ) = pX (xk )u(x − xk )
xk ≤x k

với pX (xk ) là hàm xác suất khối PMFs và u(x) là hàm nhảy bậc
đơn vị.
Các xác suất được tính như tổng của PMF tại các điểm rời rạc.

11 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

CDF của biến ngẫu nhiên liên tục

CDF của một biến ngẫu nhiên liên tục là liên tục tại mọi điểm và
được cho bởi:
Z x
FX (x) = f (λ)dλ
−∞

với f (x) là hàm không âm.

Các xác suất được tính bởi tích phân của "mật độ xác suất" trong
một khoảng số thực.

12 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

CDF của biến ngẫu nhiên kết hợp

CDF của một biến ngẫu nhiên kết hợp không chỉ nhảy bậc tại các
điểm rời rạc có thể đếm được x0 , x1 , x2 , . . ., mà còn tăng liên tục
trên ít nhất một khoảng giá trị x nào đó:

FX (x) = pFd (x) + (1 − p)Fc (x)

với 0 < p < 1 là xác suất biến ngẫu nhiên là rời rạc/liên tục, Fd (x)
là CDF của biến ngẫu nhiên rời rạc và Fc (x) là CDF của biến ngẫu
nhiên liên tục.

13 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Example (Biến ngẫu nhiên kết hợp)

Thời gian đợi X của một hành khách tại trạm chờ taxi bằng 0 nếu hành
khách thấy taxi đỗ tại trạm chờ, và và phân bố đều trong khoảng [0, 1]
(giờ) nếu không có taxi nào ở trạm chờ. Gọi p là xác suất để taxi đang
đỗ ở trạm chờ khi hành khách tới. Tính CDF của X.
Sử dụng định lý xác suất tổng cộng:

FX (x) = P [X ≤ x|thấy taxi]p + P [X ≤ x|không thấy taxi](1 − p)

Phần rời rạc

(
0, x<0
Fd (x) = P [X ≤ x|thấy taxi] =
1, x≥0

14 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Phần liên tục


0, x < 0

Fc (x) = P [X ≤ x|không thấy taxi] = x, 0 ≤ x ≤ 1

1, x > 1


CDF tổng thể


0,
 x<0
FX (x) = p + (1 − p)x, 0 ≤ x ≤ 1

1, x>1


15 / 76
Nội dung

1 Hàm phân bố tích lũy (CDF-Cumulative Distribution Function )

2 Hàm mật độ xác suất (Probability Density Function - PDF)

3 Các kỳ vọng

4 Một số biến ngẫu nhiên quan trọng

5 Hàm của biến ngẫu nhiên

6 Bất đẳng thức Markov và Chebyshev

7 Các phương pháp biến đổi

CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Hàm mật độ xác suất (Probability Density Function -

PDF)

Definition
Hàm mật độ xác suất (PDF) của X

d
fX (x) = FX (x)
dx

17 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Xét xác suất để X nằm trong một khoảng nhỏ (x, x + h]), ta có:

[FX (x + h) − FX (x)]
P [x < X ≤ x + h] = FX (x + h) − FX (x) = h
h
d
Khi h rất nhỏ thì h → dx và fX (x) = dx FX (x), hay PDF biểu diễn
mật độ xác suất tại điểm x và P [x < X ≤ x + h] ∼= fX (x)dx.

18 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Example (PDF biến ngẫu nhiên liên tục)

Quay một mũi tên có gốc được gắn tại tâm của một hình tròn. Gọi θ là
góc mà mũi tên dừng lại, 0 < θ ≤ 2π. Xác suất để θ nằm trong một
khoảng thuộc (0, 2π] tỷ lệ với chiều dài của khoảng đó. Biến ngẫu nhiên
X được định nghĩa bởi X(θ) = θ/2π. Tìm PDF của X.

CDF của X là:


0, x < 0

FX (x) = x, 0 ≤ x ≤ 1

1, x > 1

a = 0, b = 1
PDF là vi phân của CDF nên:

0,
 x<0
fX (x) = 1, 0≤x≤1

0, x>1

a = 0, b = 1

19 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Tính chất của PDF

1 Do CDF là hàm không giảm của x, nên PDF là một hàm không âm:

fX (x) ≥ 0

2 Xác suất của một khoảng [a, b] là diện tích được chặn bởi fX (x)
trong khoảng đó:
Z b
P [a ≤ X ≤ b] = fX (x)dx
a

20 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

3 PDF xác định toàn bộ đặc điểm của biến ngẫu nhiên liên tục:
Z x
FX (x) = fX (λ)dλ
−∞

4 Xác suất tổng cộng Z ∞

fX (λ)dλ = 1
−∞

Một PDF có thể được tạo thành từ bất kì hàm liên tục, không âm
g(x) có tích phân hữu hạn
Z ∞
g(x)dx = c < ∞ =⇒ fX (x) = g(x)/c.
−∞

21 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Example (PDF của biến ngẫu nhiên rời rạc)

Xét lại bài toán: Một đồng xu được tung ba lần và ghi lại tuần tự mặt
sấp/ngửa. Gọi X là số mặt ngửa trong ba lần tung. Tìm PDF của X.

Biết CDF



 0, x<0
 81 , 0≤x<1



FX (x) = 21 , 1≤x<2
7

8, 2≤x<3





1, x≥3
Làm sao tính được PDF?
Chúng ta không thể thực hiện việc vi phân CDF do vi phân CDF
không tồn tại tại các điểm rời rạc (x = 0, 1, 2, 3) !!!

22 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

PDF của biến ngẫu nhiên rời rạc

Biết rằng CDF của một biến ngẫu nhiên rời rạc được cho bởi:
X
FX (x) = pX (xk )u(x − xk )
k

Biểu diễn u(x) dưới dạng hàm δ(x) như sau:

Z x Z x
u(x) = δ(t)dt; u(x − xk ) = δ(t − xk )dt
−∞ −∞

Do đó: " #
Z x X
FX (x) = pX (xk )δ(t − xk ) dt
−∞ k

23 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Do đó, PDF của một biến ngẫu nhiên rời rạc là:

d X
fX (x) = FX (x) = pX (xk )δ(x − xk )
dx
k

d
Chúng ta có thể sử dụng định nghĩa fX (x) = dx FX (x) cho cả biến
ngẫu nhiên rời rạc và liên tục.
Quay trở lại ví dụ:



 0, x<0
1
8, 0≤x<1



FX (x) = 21 , 1≤x<2
7

8, 2≤x<3




1, x≥3

24 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

CDF được viết lại như sau:

1 3 3 1
FX (x) = u(x) + u(x − 1) + u(x − 2) + u(x − 3)
8 8 8 8
Do đó, PDF được cho bởi:
1 3 3 1
fX (x) = δ(x) + δ(x − 1) + δ(x − 2) + δ(x − 3)
8 8 8 8

25 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

CDF và PDF có điều kiện

Definition (CDF & PDF có điều kiện)

CDF điều kiện của biến ngẫu nhiên X với điều kiện C cho bởi:

P [{X ≤ x} ∩ C]
FX (x|C) = , if P [C] > 0
P [C]

PDF điều kiện của biến ngẫu nhiên X với điều kiện C cho bởi:

d
fX (x|C) = FX (x|C)
dx

26 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Với các phân mảnh B1 , . . . , Bn của S được cho trước, chúng ta có

thể sử dụng công thức xác suất tổng cộng để tính được CDF và
PDF dưới dạng CDF điều kiện và PDF điều kiện:

n
X
FX (x) = FX (x|Bi )P [Bi ]
i=1

n
X
fX (x) = fX (x|Bi )P [Bi ]
i=1

27 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Example
Một hệ truyền tin nhị phân gửi bit “0” bằng cách phát tín hiệu có điện áp
−v, và bit “1” bằng cách phát điện áp +v bị ảnh hưởng bởi nhiễu. Gọi X
2
là tín hiệu được phát đi, N là nhiễu với PDF fN (x) = √12π e−x . Tín hiệu
thu được cho bởi: Y = X + N . Giả thiết rằng P [1] = p. Tính PDF của
Y.
Nếu bit “0” được phát, thì X = −v, do đó Y = −v + N . Biến cố
Y ≤ x tương đương với −v + N ≤ x, và do đó N ≤ x + v.
Nếu bit “1” được phát, thì X = v, do đó Y = v + N . Biến cố Y ≤ x
tương đương với v + N ≤ x, và do đó N ≤ x − v

28 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Sử dụng định lý xác suất tổng cộng, ta có:

FY (x) = FY (x|X = −v)P [0] + FY (x|X = v)P [1]

= FN (x + v)(1 − p) + FN (x − v)p

Thực hiện vi phân hai vế theo x ta có:

fY (x) = fY (x|X = −v)P [0] + fY (x|X = v)P [1]

= fN (x + v)(1 − p) + fN (x − v)p
1 2 1 2
= √ e−(x+v) (1 − p) + √ e−(x−v) p
2π 2π

29 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

30 / 76
Nội dung

1 Hàm phân bố tích lũy (CDF-Cumulative Distribution Function )

2 Hàm mật độ xác suất (Probability Density Function - PDF)

3 Các kỳ vọng

4 Một số biến ngẫu nhiên quan trọng

5 Hàm của biến ngẫu nhiên

6 Bất đẳng thức Markov và Chebyshev

7 Các phương pháp biến đổi

CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Giá trị kỳ vọng (µX )

Ký hiệu giá trị kỳ vọng của X: E[X], µX

Xét lại giá trị kỳ vọng của một RV ngẫu nhiên:
X
µX = pX (xk )xk
k

Nói chung, chúng ta có thể diễn đạt giá trị kỳ vọng dưới dạng PDF
như sau:
Definition
Giá trị kỳ vọng của X được cho bởi

Z ∞
µX = E[X] = xfX (x)dx
−∞

32 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Trung bình µX là tâm khối của phân bố: Trung bình số học của tất
cả các điểm được trọng số bởi mật độ "local" hoặc một trọng số
xác định
Khi X là rời rạc:
" #
Z ∞ X
E[X] = x pX (xk )δ(x − xk ) dx
−∞ k
X Z ∞ 
= xδ(x − xk )dx pX (xk )
k −∞
X
= xk pX (xk )
k

33 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Tương tự, chúng ta có thể biểu diễn các moment khác dưới dạng
PDF của X:
Definition
Moment bậc n-th của X được cho bởi

Z ∞
E[X n ] = xn fX (x)dx
−∞

Giả thiết Y = g(X). Thì, giá trị kỳ vọng của Y được cho bởi

Z ∞
E[Y ] = g(x)fX (x)dx
−∞

34 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Example
Cho Y = a cos(ωt + Θ) với a, ω, t là hằng số, và Θ biến ngẫu nhiên
phân bố đều trong khoảng [0, 2π]. Biến ngẫu nhiên Y hình thành ứng với
giá trị pha Θ ngẫu nhiên. Tìm giá trị kỳ vọng của Y và giá trị kỳ vọng
của Y 2 .

Z 2π
1
E[Y ] = E[a cos(ωt + Θ)] = a cos(ωt + θ) dθ
0 2π
= −a sin(ωt + θ)|2π
0 =0
a2 a2
E[Y 2 ] = E[a2 cos2 (ωt + Θ)] = E[ + cos(2ωt + 2Θ)]
2 2
a2 a2 2π a2
Z
1
= + cos(2ωt + 2θ) dθ =
2 2 0 2π 2

35 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

2
Phương sai (σX )

2
Ký hiệu phương sai của X: V AR[X] hoặc σX

Definition
Phương sai của X được tính bởi

2
σX = E[(X − µX )2 ]

2
Biểu thức rút gọn: σX = E[X 2 ] − µ2X
Độ lệch chuẩn của X là σX

36 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

2
σX đo độ trải của PDF xung quanh µX

37 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Độ nghiêng (γX )
Definition
Độ nghiêng của X được tính bởi:

" 3 #
X − µX
γX = E
σX

γX đo độ bất đối xứng của

PDF Negative Skew Positive Skew

bên trái bị nghiêng bên phải bị nghiêng

đuôi bên trái bị kéo dài đuôi bên phải bị
kéo dài
38 / 76
Nội dung

1 Hàm phân bố tích lũy (CDF-Cumulative Distribution Function )

2 Hàm mật độ xác suất (Probability Density Function - PDF)

3 Các kỳ vọng

4 Một số biến ngẫu nhiên quan trọng

5 Hàm của biến ngẫu nhiên

6 Bất đẳng thức Markov và Chebyshev

7 Các phương pháp biến đổi

CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Một số biến ngẫu nhiên quan trọng

Biến ngẫu nhiên rời rạc Biến ngẫu nhiên liên tục
1 Bernoulli 1 Uniform
2 Binomial 2 Exponential
3 Geometric 3 Gaussian (normal)
4 Uniform 4 Gamma
5 Poisson 5 Laplacian
6 Zipf 6 Rayleigh
7 Cauchy
8 Pareto
9 Beta

40 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Biến ngẫu nhiên phân bố đều

Definition
Biến ngẫu nhiên phân bố đều xuất hiện trong các trường hợp tất cả các
giá trị trong một khoảng số thực xuất hiện như nhau. Biến ngẫu nhiên
phân bố đều X trong khoảng [a, b] có PDF:

(
1
b−a , a≤x≤b
fX (x) =
0, x < a và x > b

Tính CDF, Kỳ vọng, và Phương sai của biến ngẫu nhiên X.

41 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Biến ngẫu nhiên phân bố đều

Kết quả
CDF 
0,
 x<a
x−a
FX (x) = , a≤x≤b
 b−a
1, x>b


Kỳ vọng
a+b
E[X] =
2
Phương sai
(b − a)2
V AR[X] =
2

42 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Biến ngẫu nhiên phân bố mũ

Definition
Biến ngẫu nhiên phân bố mũ xuất hiện trong mô hình thời gian giữa các
biến cố (ví dụ: thời gian giữa hai khách hàng để thực hiện cuộc gọi), và
trong mô hình thời gian sống của thiết bị/hệ thống. Biến ngẫu nhiên
phân bố mũ X với tham số λ có PDF:

(
0, x<0
fX (x) = −λx
λe , x≥0

Tính CDF, Kỳ vọng, và Phương sai của biến ngẫu nhiên X.

43 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Biến ngẫu nhiên phân bố mũ

Kết quả
CDF (
0, x<0
FX (x) =
1 − e−λx , x ≥ 0

Kỳ vọng
1
E[X] =
λ
Phương sai
1
V AR[X] =
λ2

44 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Biến ngẫu nhiên phân bố mũ

Definition
Biến ngẫu nhiên phân bố mũ xuất hiện trong mô hình thời gian giữa các
biến cố, và trong mô hình thời gian sống của thiết bị/hệ thống. Biến
ngẫu nhiên phân bố mũ X với tham số λ có PDF:

(
0, x<0
fX (x) = −λx
λe , x≥0

Tính CDF, Kỳ vọng, và Phương sai của biến ngẫu nhiên X.

45 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Biến ngẫu nhiên phân bố Gauss (Chuẩn)

Definition
Rất nhiều hiện tượng trong tự nhiên cũng như do con người tạo ra liên
quan đến biến ngẫu nhiên X là tổng của nhiều biến ngẫu nhiên có cùng
phân bố. Việc mô tả chính xác X dưới dạng các biến ngẫu nhiên thành
phần quá phức tạp và khó thực hiện. Một cách tổng quát, khi số lượng
biến ngẫu nhiên lớn, CDF của X tiến tới biến ngẫu nhiên phân bố
Gauss, và được gọi là phân bố chuẩn. Biến ngẫu nhiên phân bố Gauss
X có PDF:

1 2 2
fX (x) = √ e−(x−m) /2σ , −∞ ≤ x ≤ ∞
2πσ

với m và σ lần lượt là giá trị trung bình và độ lệch chuẩn của X.

Tính CDF của biến ngẫu nhiên X.

46 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Biến ngẫu nhiên phân bố Gauss (Chuẩn)

Kết quả
CDF Z x
1 2
/2σ 2
P [X ≤ x] = √ e−(u−m) du
2πσ −∞

Đặt t = (u − m)/σ thì

(x−m)/σ  
x−m
Z
1 2
FX (x) = √ e−t /2
dt = Φ
2π −∞ σ

với Φ(x) là CDF của biến ngẫu nhiên có m = 0 và σ = 1:

Z x
1 2
Φ(x) = √ e−t /2 dt
2π −∞

47 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Biến ngẫu nhiên phân bố Gauss (Chuẩn)

Tích phân trong biểu thức biểu diễn CDF của biến ngẫu nhiên phân bố
Gauss có m = 0 và σ = 1 không có dạng biểu thức đóng (closed form)
mà thường được tính thông qua giá trị Q với quan hệ:

Q(x) = 1 − Φ(x)

Hàm Q có thể tính bằng cách:

Xấp xỉ bởi công thức:
 
1 1 2
Q(x) ' √ √ e−x /2
2
(1 − a)x + a x + b 2π

với a = 1/π và b = 2π.

Tra bảng (trang sau)
Và Q có một số tính chất sau:
Q(0) = 1/2
Q(−x) = 1 − Q(x)
48 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Biến ngẫu nhiên phân bố Gauss (Chuẩn)

49 / 76
Nội dung

1 Hàm phân bố tích lũy (CDF-Cumulative Distribution Function )

2 Hàm mật độ xác suất (Probability Density Function - PDF)

3 Các kỳ vọng

4 Một số biến ngẫu nhiên quan trọng

5 Hàm của biến ngẫu nhiên

6 Bất đẳng thức Markov và Chebyshev

7 Các phương pháp biến đổi

CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Hàm của biến ngẫu nhiên

Definition
Y = g(X) là hàm của biễn ngẫu nhiên X. Y cũng là một biến ngẫu
nhiên.
Xác suất để Y nhận một giá trị nào đó phụ thuộc vào hàm g(x) và CDF
của X.
P [Y in C] = P [g(X) in C] = P [X in B]
Z ∞
E[g(X)] = g(x)fX (x)dx
−∞

51 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Hàm của biến ngẫu nhiên

Example
Cho Y = aX + b với a 6= 0 là hằng số. Giả thiết X có CDF là FX (x).
Tính CDF FY (y).

52 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Hàm của biến ngẫu nhiên

Kết quả
(
y−b
P [X ≤ a ] = FX ( y−b
a ), a>0
FY (y) = P [Y ≤ y] = y−b
P [X ≥ a ] = 1 − FX ( y−b
a ), a<0

53 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Hàm của biến ngẫu nhiên

Example
X là biến ngẫu nhiên có phân bố Gauss với giá trị trung bình m và độ
lệch chuẩn σ:
1 2 2
fX (x) = √ e−(x−m) /2σ , −∞ ≤ x ≤ ∞
2πσ

Cho Y = aX + b với a 6= 0 là hằng số. Tính PDF fY (y).

54 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Hàm của biến ngẫu nhiên

Kết quả
Ta có: (
FX ( y−b
a ), a>0
FY (y) = P [Y ≤ y] =
1 − FX ( y−b
a ), a<0

dFX ( y−b
a ) f ( y−b )
dFY (y)  dy = X aa , a>0
fY (y) = = d(1−F ( y−b )) fX ( y−b
dy X a )
 a
=− dy , a<0 a

1 2 2
fY (y) = √ e−(y−b−am) /2(aσ)
2π|a|σ
Như vậy, Y cũng là một biến ngẫu nhiên phân bố Gauss với giá trị trung
bình (b + am) và độ lệch chuẩn (aσ).
Hàm tuyến tính của một biến ngẫu nhiên Gauss cũng là một biến
ngẫu nhiên Gauss.

55 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Hàm của biến ngẫu nhiên

Example
X là biến ngẫu nhiên có phân bố Gauss với giá trị trung bình m và độ
lệch chuẩn σ:
1 2 2
fX (x) = √ e−(x−m) /2σ , −∞ ≤ x ≤ ∞
2πσ

Cho Y = X 2 . Tính CDF FY (y) và PDF fY (y). Nhận xét về phân bố của
biến ngẫu nhiên Y .

56 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Hàm của biến ngẫu nhiên

Kết quả
Ta có:
√ √
FY (y) = P [Y ≤ y] = P [X 2 ≤ y] = P [− y ≤ X ≤ y]
(
0, y<0
FY (y) = √ √
FX ( y) − FX (− y), y > 0
(
dFY (y) 0, y<0
fY (y) = = fX (√y fX (−√y)
dy √
2 y) − √
−2 y , y>0
(
0, y<0
fY (y) = 1
 √ √ 
√
2 y fX ( y) + f X (− y) , y>0
1 h √ 2 2 √ 2 2
i
fY (y) = √ √ e−( y−m) /2σ + e−(− y−m) /2σ
2 2π yσ
Như vậy, Y không có phân bố Gauss.
57 / 76
Nội dung

1 Hàm phân bố tích lũy (CDF-Cumulative Distribution Function )

2 Hàm mật độ xác suất (Probability Density Function - PDF)

3 Các kỳ vọng

4 Một số biến ngẫu nhiên quan trọng

5 Hàm của biến ngẫu nhiên

6 Bất đẳng thức Markov và Chebyshev

7 Các phương pháp biến đổi

CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Bất đẳng thức Markov và Chebyshev

Thông thường giá trị trung bình và phương sai của một RV không cung
cấp đủ thông tin để xác định cdf/pdf. Tuy nhiên, chúng được dùng để
xác định các đường biên xác suất.
Definition
Bất đẳng thức Markov

E[X]
P [X ≥ a] ≤ với X không âm
a

59 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Bất đẳng thức Markov và Chebyshev

Example
Chiều cao trung bình của một học sinh lớp 1 là 100 cm. Tính đường bao
trên của xác suất để chiều cao của một học sinh trong lớp lớn hơn hoặc
bằng 150 cm.

60 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Bất đẳng thức Markov và Chebyshev

Kết quả
E[X] 100
P [X ≥ 150] ≤ = = 0, 67
150 150

61 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Bất đẳng thức Markov và Chebyshev

Nếu biết trước biến ngẫu nhiên X có E[X] = m và V AR[X] = σ 2 , thì

Definition
Bất đẳng thức Chebyshev

σ2
P [|X − m| ≥ a] ≤
a2

62 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Bất đẳng thức Markov và Chebyshev

Example
Một hệ thống máy tính đa người dùng có giá trị trung bình và độ lệch
chuẩn của thời gian đáp ứng lần lượt là 15s và 3s. Ước tính xác suất để
thời gian đáp ứng lệch so với giá trị trung bình nhiều hơn 5s.

63 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Bất đẳng thức Markov và Chebyshev

Kết quả
32
P [|X − 15| ≥ 5] ≤ = 0, 36
52

64 / 76
Nội dung

1 Hàm phân bố tích lũy (CDF-Cumulative Distribution Function )

2 Hàm mật độ xác suất (Probability Density Function - PDF)

3 Các kỳ vọng

4 Một số biến ngẫu nhiên quan trọng

5 Hàm của biến ngẫu nhiên

6 Bất đẳng thức Markov và Chebyshev

7 Các phương pháp biến đổi

CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Các phương pháp biến đổi

Các phương pháp chuyển đổi là công cụ hữu ích hỗ trợ giải các phương
trình chứa vi phân và tích phân hàm.

Một số phương pháp biến đổi:

Hàm đặc trưng ΦX (ω)

Hàm tạo xác suất GN (z)
Hàm biến đổi Laplace của PDF X ∗ (s)

66 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Các phương pháp biến đổi

Definition
Hàm đặc trưng của một biến ngẫu nhiên X được định nghĩa bởi:
Z ∞
jωX
ΦX (ω) = E[e ]= ejωx fX (x)dx
−∞

Nếu coi ΦX (ω) là phép biến đổi Fourier, thì phép biến đổi Fourier ngược
sẽ là: Z ∞
1
fX (x) = ΦX (ω)e−jωx dω
2π −∞

Nếu X là biến ngẫu nhiên rời rạc thì:

X
ΦX (ω) = pX (xk )ejωxk
k

67 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Các phương pháp biến đổi

Example
Biến ngẫu nhiên mũ có PDF:

fX (X) = λe−λx

với x ≥ 0 và λ > 0. Tính hàm đặc trưng:

Z ∞
ΦX (ω) = E[ejωX ] = ejωx λe−λx dx
0
Z ∞
λ
=λ e−(λ−jω)x dx =
0 λ − jω

68 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Các phương pháp biến đổi

Example
Biến ngẫu nhiên Geometric có:

pX (xk ) = pX (k) = p(1 − p)k

với k = 0, 1, . . . Tính hàm đặc trưng:

X
ΦX (ω) = E[ejωX ] = pX (xk )ejωxk
k

∞ ∞
X X p
= p(1 − p)k ejωk = p [(1 − p)ejω ]k =
1 − (1 − p)ejω
k=0 k=0

69 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Các phương pháp biến đổi

70 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Các phương pháp biến đổi

Tính các moment của biến ngẫu nhiên X từ hàm đặc trưng ΦX (x)
2 n
Khai triển ejωx = 1 + jωx + (jωx)
2! + · · · + (jωx)
n!

∞
(jωx)2 (jωx)n
 Z 
ΦX (ω) = 1 + jωx + + ··· + fX (x)dx
−∞ 2! n!

(jω)2 E[X 2 ] (jω)n E[X n ]

= 1 + jωE[X] + + ··· +
2! n!
Vậy

 
dn 
n n n1 dn 
Φ (ω) = j E[X ] ⇒ E[X ] = n n ΦX (ω)
 
X
dω n j dω

 
ω=0 ω=0

71 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Các phương pháp biến đổi

Example
Biến ngẫu nhiên mũ có PDF: fX (x) = λe−λx với x ≥ 0 và λ > 0.
Và hàm đặc trưng:
λ
ΦX (ω) =
λ − jω
Tính E[X] và V AR[X] sử dụng hàm đặc trưng ΦX (ω).

72 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Các phương pháp biến đổi

Kết quả
 
1 d  1 1 
E[X] = ΦX (ω) = λ(−1) (−j)
 
j dω  j (λ − jω)2 
ω=0 ω=0

1 λj  1
E[X] = =

j (λ − jω) 2 
 λ
ω=0
 
2 1 d2  1 1 
E[X ] = 2 2 ΦX (ω) = 2 λj(−2) (−j)
 
j dω j (λ − jω)3

 
ω=0 ω=0

1 −2λ  2
E[X 2 ] = 2 = 2
j (λ − jω)3  λ

ω=0
2 1 1
V AR[X] = E[X 2 ] − E 2 [X] = − 2 = 2
λ2 λ λ
73 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Các phương pháp biến đổi

Definition
Hàm tạo xác suất - Probability generating function GN (n) của một
biến ngẫu nhiên N có giá trị nguyên không âm (biến ngẫu nhiên rời rạc
không âm) được định nghĩa bởi:
∞
X
GN (z) = E[z N ] = pN (k)z k
k=0

Biểu thức thứ nhất là giá trị kỳ vọng một hàm của N , z N . Biểu thức thứ
hai là biến đổi Z của hàm PMF (pN (k)). Ngoài ra, mối quan hệ giữa
hàm đặc trưng và hàm G là: ΦN (ω) = GN (ejω ). Khi đó,

1 dk 
pN (k) = G (z)

N
k! dz k


z=0

74 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Các phương pháp biến đổi

Tính kỳ vọng và phương sai từ hàm tạo xác suất
 
∞ ∞
d  X 
k−1 
X
GN (z) = pN (k)kz = kpN (k) = E[N ]

dz

 
z=1 k=0 z=1 k=0

 ∞
 ∞
d2  X  X
G (z) = pN (k)k(k − 1)z k−2  = k(k − 1)pN (k)
 
N
dz 2

 
z=1 k=0 z=1 k=0

∞
X ∞
X
= k 2 pN (k) − kpN (k) = E[N 2 ] − E[N ]
k=0 k=0

⇒ V AR[N ] = G”N (1) + G0N (1) − (G0N (1))2

75 / 76
CDF PDF Các kỳ vọng Một số biến ngẫu nhiên quan trọng Hàm của biến ngẫu nhiên Bất đẳng thức Markov và Chebyshev Các phương pháp biến đổi

Các phương pháp biến đổi

Definition
Biến đổi Laplace của PDF được áp dụng đối với các biến ngẫu nhiên
liên tục không âm như sau:
Z ∞
∗
X (s) = fX (x)e−sx dx = E[e−sX ]
0

X ∗ (s) được coi như biến đổi Laplace của PDF hoặc moment bậc nhất
của e−sX - hàm của X.
Tính các moment từ X ∗ (s)

n
d 
E[X n ] = (−1)n n X ∗ (s)

ds 
s=0

76 / 76