4.

Cơ s lý thuy t xác su t

Lect04.ppt S-38.145 - Introduction to Teletraffic Theory – Spring 2005 1

4. Basic probability theory

N i dung

• Các khái ni m cơ b n
• Các bi n ng u nhiên
• Các phân b r i r c (nbr distributions)
• Các bi n ng u nhiên liên t c
• Các phân b liên t c (time distributions)
• Các bi n ng u nhiên khác

2
4. Basic probability theory

Sample space, sample points, events

• Không gian m u Ω là t p c a t t c các đi m m u có th có ω ∈ Ω

– Ví d 0. Tung m t đ ng xu: Ω = {H,T}
– Ví d 1. L c xúc x c: Ω = {1,2,3,4,5,6}
– Ví d 2. S khách hàng trong m t hàng đ i: Ω = {0,1,2,...}
– Ví d 3. Th i gian gi máy (phút): Ω = {x ∈ ℜ | x > 0}
• Các s ki n A,B,C,... ⊂ Ω là các t p con có th đo đư c c a Ω
– Ví d 1 “Các s ch n c a xúc x c”: A = {2,4,6}
– Ví d 2. "S khách hàng trong m t hàng đ i”: A = {0}
– Ví d 3. “Th i gian gi máy l n hơn 3.0 (min)”: A = {x ∈ ℜ | x > 3.0}
• Ký hi u t pt tc s ki n A ∈
– Sure event: Không gian m u Ω∈
– Impossible event: t p r ng ∅∈

3
4. Basic probability theory

T h p c a các s ki n

• H i “A or B”: A ∪ B = {ω ∈ Ω | ω ∈ A or ω ∈ B}
• Giao “A and B”: A ∩ B = {ω ∈ Ω | ω ∈ A and ω ∈ B}
• Bù “not A”: Ac = {ω ∈ Ω | ω ∉ A}
• Các s ki n A và B không giao nhau n u
– A∩B=∅
• M t t p các s ki n {B1, B2, …} là phân ho ch (partition) c a s ki n A n u
– (i) Bi ∩ Bj = ∅ for all i ≠ j
– (ii) ∪i Bi = A A
B1
B3
B2

4
4. Basic probability theory

Xác su t

• Xác su t c a s ki n A đư c ký hi u P(A), P(A) ∈ [0,1]

– Đ i lư ng xác su t P vì v y là
m t hàm c a t p giá tr th c đ/n trên t p các s ki n , P: → [0,1]
• Tính ch t:
– (i) 0 ≤ P(A) ≤ 1
– (ii) P(∅) = 0
A
– (iii) P(Ω) = 1
– (iv) P(Ac) = 1 − P(A)
– (v) P(A ∪ B) = P(A) + P(B) − P(A ∩ B)
B
– (vi) A ∩ B = ∅ ⇒ P(A ∪ B) = P(A) + P(B)
– (vii) {Bi} is a partition of A ⇒ P(A) = Σi P(Bi)
– (viii) A ⊂ B ⇒ P(A) ≤ P(B)

5
4. Basic probability theory

Xác su t có đi u ki n

• Gi thi t P(B) > 0

• Đ nh nghĩa: Xác xu t có đi u ki n c a s ki n A cho trư c r ng s
ki n B đã x y ra đư c đ/n như sau

P ( A∩ B )
P( A | B) = P ( B )

• Suy ra

P ( A ∩ B) = P( B) P( A | B ) = P( A) P ( B | A)

6
4. Basic probability theory

Đ nh lý xác su t t ng

• Đ t {Bi} là m t phân ho ch c a không gian m u Ω

• Suy ra {A ∩ Bi} là m t phân ho ch c a s ki n. Vì v y (slide 5)

(vii )
P ( A) = ∑i P ( A ∩ Bi )
• Gi thi t r ng P(Bi) > 0 for all i. Nên (slide 6)

P ( A) = ∑i P ( Bi ) P ( A | Bi )

• Đây là đ nh lý xác su t t ng Ω
B1 B3
A
B4
B2 7
4. Basic probability theory

Bayes’ theorem

• Đ t {Bi} là m t phân ho ch c a không gian m u Ω

• Gi thi t r ng P(A) > 0 và P(Bi) > 0 for all i. Nên (slide 6)

P ( A∩ Bi ) P ( Bi ) P ( A|Bi )
P ( Bi | A) = P ( A)
= P ( A)

• Hơn n a, theo đ nh lý xác su t t ng (slide 7), ta có

P ( Bi ) P ( A| Bi )
P ( Bi | A) =
∑ j P ( B j ) P ( A|B j )
• Đây là đ nh lý Bayes
– Các xác su t P(Bi) đư c g i là các xác su t tiên nghi m (a priori
probabilities) c a các s ki n Bi
– Các xác su t P(Bi | A) đư c g i là các xác su t h u nghi m (a
posteriori) c a các s ki n Bi (bi t trư c s ki n A đã x y ra) 8
4. Basic probability theory

Tính ch t đ c l p th ng kê c a các s ki n

• Đ nh nghĩa: Các s ki n A và B là đ c l p n u

P( A ∩ B ) = P( A) P ( B)

• Suy ra

P ( A∩ B ) P ( A) P ( B )
P( A | B ) = P ( B ) = P ( B ) = P ( A)

• Tương t :

P ( A∩ B ) P ( A) P ( B )
P( B | A) = P ( A) = P ( A)
= P( B)

9
4. Basic probability theory

Các bi n ng u nhiên

• Đ nh nghĩa: Bi n ng u nhiên nh n giá tr th c X là m t hàm đo đư c

và nh n giá tr th c đư c xác đ nh trên không gian m u Ω, X: Ω → ℜ
– M i đi m m u ω ∈ Ω đư c g n v i m t s th c X(ω)
• Tính ch t đo đư c có nghĩa r ng t t c các t p có d ng

{ X ≤ x} : ={ω ∈ Ω | X (ω ) ≤ x} ⊂ Ω
đ u thu c t p các s ki n, t c là

{X ≤ x} ∈

• Xác su t c a m t s ki n như v y đư c ký hi u là P{X ≤ x}

10
4. Basic probability theory

Ví d

• Tung m t đ ng xu ba l n
• Sample space:

Ω ={(ω1, ω 2 , ω 3 ) | ω i ∈{H, T}, i =1,2,3}

• Đ t X là bi n ng u nhiên cho bi t t ng s l n không thành
công trong ba thí nghi m này:

ω HHH HHT HTH THH HTT THT TTH TTT

X(ω) 0 1 1 1 2 2 2 3

11
4. Basic probability theory

Ch th c a các s ki n

• Đ tA∈ là m t s ki n b t k
• Đ nh nghĩa: Ch th c a m t s ki n A là m t bi n ng u nhiên đư c
đ nh nghĩa như sau:

1, ω ∈ A
1A (ω ) = 
0, ω ∉ A
• Rõ ràng:

P{1A = 1} = P( A)
P{1A = 0} = P ( Ac ) = 1 − P( A)

12
4. Basic probability theory

Hàm phân b tích lũy

• Đ nh nghĩa: Hàm phân b tích lu (cdf) c a m t bi n ng u nhiên X

là m t hàm FX: ℜ → [0,1] đư c đ nh nghĩa như sau:

FX ( x) = P{ X ≤ x}
• Cdf xác đ nh phân b c a bi n ng u nhiên,
– t c là: các xác su t P{X ∈ B}, trong đó B ⊂ ℜ và {X ∈ B} ∈
• Tính ch t:
– (i) FX không gi m
– (ii) FX is liên t c t bên ph i 1
– (iii) FX (−∞) = 0 FX(x)
– (iv) FX (∞) = 1
x
0
13
4. Basic probability theory

Tính ch t đ c l p c a các bi n ng u nhiên

• Đ nh nghĩa: Các bi n ng u nhiên X và Y là đ c l p n u

v i m i x và y

P{ X ≤ x, Y ≤ y} = P{ X ≤ x}P{Y ≤ y}

• Đ nh nghĩa: Các bi n ng u nhiên X1,…, Xn là hoàn toàn đ c l p

n u v i m il i và xi

P{ X 1 ≤ x1,..., X n ≤ xn } = P{ X1 ≤ x1}L P{ X n ≤ xn }

14
4. Basic probability theory

Maximum and minimum of independent random variables

• Gi thi t các bi n ng u nhiên X1,…, Xn hoàn toàn đ c l p

• Ký hi u: Xmax := max{X1,…, Xn}. Thì

P{ X max ≤ x} = P{ X 1 ≤ x, K , X n ≤ x}
= P{ X 1 ≤ x}L P{ X n ≤ x}
• Ký hi u: Xmin := min{X1,…, Xn}. Thì

P{ X min > x} = P{ X1 > x, K , X n > x}

= P{ X 1 > x}L P{ X n > x}

15
4. Basic probability theory

Contents

• Các khái ni m cơ b n
• Các bi n ng u nhiên
• Các phân b r i r c (nbr distributions)
• Các bi n ng u nhiên liên t c
• Các phân b liên t c (time distributions)
• Các bi n ng u nhiên khác

16
4. Basic probability theory

Các bi n ng u nhiên r i r c

• Đ nh nghĩa: T p A ⊂ ℜ đư c g i là r i r c n u nó
– h u h n, A = {x1,…, xn}, or
– vô h n đ m đư c, A = {x1, x2,…}
• Đ nh nghĩa: Bi n ng u nhiên X là r i r c n u có t p r i r c SX ⊂ ℜ
sao cho

P{ X ∈ S X } = 1
• Suy ra
– P{X = x} ≥ 0 for all x ∈ SX
– P{X = x} = 0 for all x ∉ SX
• T p SX đư c g i là t p giá tr

17
4. Basic probability theory

Các xác su t đi m

• Đ t X là m t bi n ng u nhiên r i r c
• Phân b c a X đư c xác đ nh b i các xác su t đi m (point probabilities) pi,

pi := P{ X = xi }, xi ∈ S X
• Đ nh nghĩa: Hàm kh i xác su t (probability mass function) c a X là m t hàm
pX: ℜ → [0,1] đư c đ nh nghĩa như sau:

 pi , x = xi ∈ S X
p X ( x) := P{ X = x} = 
0, x ∉ S X
• Cdf trong trư ng h p này là m t hàm b c thang:

FX ( x) = P{ X ≤ x} = ∑ pi
i: xi ≤ x
18
4. Basic probability theory

Example

pX(x) FX(x)
1 1

x x
x1 x2 x3 x4 x1 x2 x3 x4
probability mass function (pmf) cumulative distribution function (cdf)

SX = {x1, x2, x3, x4}

19
4. Basic probability theory

Tính ch t đ c l p c a các bi n ng u nhiên

• Các bi n ng u nhiên r i r c X và Y là đ c l p n u và ch n u
v i t t c xi ∈ SX và yj ∈ SY

P{ X = xi , Y = y j } = P{ X = xi }P{Y = y j }

20
4. Basic probability theory

K v ng

• Đ nh nghĩa: K v ng( giá tr trung bình) c a X đư c đ nhn ghĩa b i

µ X := E[ X ] := ∑ P{ X = x} ⋅ x = ∑ p X ( x) x = ∑ pi xi
x∈S X x∈S X i
– Note 1: K v ng ch t n t i n u Σi pi|xi| < ∞
– Note 2: N u Σi pi xi = ∞, thì có th ký hi u E[X] = ∞

• Tính ch t:
– (i) c ∈ ℜ ⇒ E[cX] = cE[X]
– (ii) E[X + Y] = E[X] + E[Y]
– (iii) X and Y independent ⇒ E[XY] = E[X]E[Y]

21
4. Basic probability theory

Variance

• Đ nh nghĩa: phương sai c a X đư c đ nh nghĩa

2
σX := D 2 [ X ] := Var[ X ] := E[( X − E[ X ]) 2 ]

• Công th c quan tr ng:

D 2 [ X ] = E[ X 2 ] − E[ X ]2

• Tính ch t:
– (i) c ∈ ℜ ⇒ D2[cX] = c2D2[X]
– (ii) X and Y independent ⇒ D2[X + Y] = D2[X] + D2[Y]

22
4. Basic probability theory

Covariance

• Đ nh nghĩa: Hi p phương sai gi a X và Y đư c đ nh nghĩa

2
σ XY := Cov[ X , Y ] := E[( X − E[ X ])(Y − E[Y ])]

• Công th c quan tr ng:

Cov[ X , Y ] = E[ XY ] − E[ X ]E[Y ]

• Tính ch t:
– (i) Cov[X,X] = Var[X]
– (ii) Cov[X,Y] = Cov[Y,X]
– (iii) Cov[X+Y,Z] = Cov[X,Z] + Cov[Y,Z]
– (iv) X and Y independent ⇒ Cov[X,Y] = 0
23
4. Basic probability theory

Other distribution related parameters

• Đ nh nghĩa: Đ l ch chu n c a X đư c đ nh nghĩa b i

σ X := D[ X ] := D 2 [ X ] = Var [ X ]

• Đ nh nghĩa: H s l ch c a X đư c đ nh nghĩa b i

D[ X ]
c X := C[ X ] := E[ X ]

• Đ nh nghĩa: Mô-men th k, k=1,2,…, c a X đư c đ nh nghĩa b i

µ (Xk ) := E[ X k ]

24
4. Basic probability theory

Trung bình c a các IID RV

• Gi thi t X1,…, Xn là các bi n ng u nhiên phân đ c l p và

phân b như nhau (IID) v i k v ng µ và phương sai σ2
• Ký hi u trung bình (sample mean) như sau:
n
X n := 1n ∑ Xi
i =1
• Thì

E[ X n ] = µ
2 σ 2
D [Xn] = n

D[ X n ] = σ
n
25
4. Basic probability theory

Các đ nh lu t s l n (LLN)

• Gi thi t X1,…, Xn là các bi n IID v i k v ng µ và phương

sai σ2
• Weak law of large numbers: for all ε > 0

P{| X n − µ |> ε } → 0
• Strong law of large numbers: with probability 1

Xn → µ

26
4. Basic probability theory

Contents

• Các khái ni m cơ b n
• Các bi n ng u nhiên
• Các phân b r i r c (nbr distributions)
• Các bi n ng u nhiên liên t c
• Các phân b liên t c (time distributions)
• Các bi n ng u nhiên khác

27
4. Basic probability theory

Phân b Bernoulli

X ∼ Bernoulli( p), p ∈ (0,1)

– mô t m t thí nghi m v i hai k t qu có th : success (1) và failure
(0); xem tung xu
– thành công v i xác su t p (và th t b i v i xác su t 1 − p)
• Value set: SX = {0,1}
• Point probabilities:
P{ X = 0} = 1 − p, P{ X = 1} = p
• Mean value: E[X] = (1 − p)⋅0 + p⋅1 = p
• Second moment: E[X2] = (1 − p)⋅02 + p⋅12 = p
• Variance: D2[X] = E[X2] − E[X]2 = p − p2 = p(1 − p)

28
4. Basic probability theory

Phân b nh th c

X ∼ Bin (n, p), n ∈ {1,2,...}, p ∈ (0,1)

– s l n thành công trong m t lo t các thí nghi m đ c l p (thu c d ng
Bernoulli); X = X1 + … + Xn (v i Xi ∼ Bernoulli(p))

(in ) = i!(nn−! i)!

– n = t ng s thí nghi m
– p = xác su t thành công trong m t l n thí nghi m
b tk
• Value set: SX = {0,1,…,n} n!= n⋅( n −1)L2⋅1

()
• Point probabilities:
P{ X = i} = in p i (1 − p ) n − i
• Mean value: E[X] = E[X1] + … + E[Xn] = np
• Variance: D2[X] = D2[X1] + … + D2[Xn] = np(1 − p) (independence!)

29
4. Basic probability theory

Phân b hình h c

X ∼ Geom( p ), p ∈ (0,1)
– s l n thành công cho đ n khi có th t b i đ u tiên trong m t lo t các thí
nghi m đ c l p (ki u Bernoulli)
– p = xác su t thành công trong m t l n thí nghi m b t k
• Value set: SX = {0,1,…}
• Point probabilities:

P{ X = i} = p i (1 − p )
• Mean value: E[X] = ∑i ipi(1 − p) = p/(1 − p)
• Second moment: E[X2] = ∑i i2pi(1 − p) = 2(p/(1 − p))2 + p/(1 − p)
• Variance: D2[X] = E[X2] − E[X]2 = p/(1 − p)2

30
4. Basic probability theory

Tính ch t không nh c a phân b hình h c

hìnhh cistribution
• Phân b hình h c có tính ch t không nh :
v i t t c i,j ∈ {0,1,...}

P{ X ≥ i + j | X ≥ i} = P{ X ≥ j}
• Prove!
– Tip: Prove first that P{X ≥ i} = pi

31
4. Basic probability theory

Minimum of geometric random variables

• Let X1 ∼ Geom(p1) and X2 ∼ Geom(p2) be independent. Then

X min := min{ X1, X 2 } ∼ Geom( p1 p2 )

and

min 1 − pi
P{ X = X i } = 1 − p p , i ∈ {1,2}
1 2

• Prove!
– Tip: See slide 15

32
4. Basic probability theory

Phân b Poisson

X ∼ Poisson (a ), a > 0
– gi i h n c a phân b nh th c khi n → ∞ và p → 0 sao cho np → a
• Value set: SX = {0,1,…}
• Point probabilities:
a i −a
P{ X = i} = e
i!
• Mean value: E[X] = a
• Second moment: E[X(X −1)] = a2 ⇒ E[X2] = a2 + a
• Variance: D2[X] = E[X2] − E[X]2 = a

33
4. Basic probability theory

Example

• Gi thi t
– 200 thuê bao n i đ n m t t ng đài n i h t
– lưu lư ng c a m i thuê bao là 0.01 erlang
– thuê bao ho t đ ng đ c l p v i nhau
• S cu c g i ho t đ ng là X ∼ Bin(200,0.01)
• Tương t , s d ng phân b Poisson g n đúng X ≈ Poisson(2.0)
• Point probabilities:

0 1 2 3 4 5

Bin(200,0.01) .1326 .2679 .2693 .1795 .0893 .0354

Poisson(2.0) .1353 .2701 .2701 .1804 .0902 .0361

34
4. Basic probability theory

Tính ch t

• (i) T ng: Gi thi t X1 ∼ Poisson(a1) và X2 ∼ Poisson(a2) đ c l p.

Thì

X 1 + X 2 ∼ Poisson (a1 + a2 )
• (ii) Random sample: Gi thi t X ∼ Poisson(a) ký hi u s ph n t trong
m t t p, và Y ký hi u kích thư c c a m t m u ng u nhiên trong t p này
(m i ph n t đư c l y đ c l p v i xác su t p). Thì

Y ∼ Poisson ( pa )
• (iii) Random sorting: Gi thi t X và Y đư c đ nh nghĩa như (ii), và
Z = X − Y. Thì
Y and Z are independent (given that X is unknown) and
Z ∼ Poisson ((1 − p)a )
35
4. Basic probability theory

Contents

• Các khái ni m cơ b n
• Các bi n ng u nhiên
• Các phân b r i r c (nbr distributions)
• Các bi n ng u nhiên liên t c
• Các phân b liên t c (time distributions)
• Các bi n ng u nhiên khác

36
4. Basic probability theory

Các bi n ng u nhiên liên t c

• Đ nh nghĩa: Bi n ng u nhiên X là liên t c n u

có m t hàm kh tích fX: ℜ → ℜ+ sao cho v i m i x ∈ ℜ
x
FX ( x) := P{ X ≤ x} = ∫ f X ( y ) dy
−∞

• Hàm fX đư c g i là hàm m t đ xác su t (pdf)

– T p SX, trong đó fX > 0, đư c g i là t p giá tr
• Tính ch t:
– (i) P{X = x} = 0 for all x ∈ ℜ
– (ii) P{a < X < b} = P{a ≤ X ≤ b} = ∫ab fX(x) dx
– (iii) P{X ∈ A} = ∫A fX(x) dx
– (iv) P{X ∈ ℜ} = ∫-∞∞ fX(x) dx = ∫S fX(x) dx = 1 37
X
4. Basic probability theory

Example

fX(x) FX(x)
1

x x
x1 x2 x3 x1 x2 x3
probability density function (pdf) cumulative distribution function (cdf)

SX = [x1, x3]
38
4. Basic probability theory

K v ng và các tham s liên quan khác

• Đ nh nghĩa: k v ng (giá tr trung bình) c a X đư c đ nh nghĩa b i

∞
µ X := E[ X ] := ∫ f X ( x) x dx
−∞
– Note 1: K v ng ch t n t i n u ∫-∞∞ fX(x)|x| dx < ∞
– Note 2: N u ∫-∞ ∞ fX(x)x = ∞, thì có th ký hi u E[X] = ∞

– K v ng có các tính ch t gi ng như trư ng h p r i r c (slide 1)

• Các tham s phân b khác (variance, covariance,...) đư c đ nh nghĩa
gi ng như t/h r i r c
– Các tham s này có tính ch t gi ng như trư ng h p r i r c
(Xem slides 22-24)

39
4. Basic probability theory

Contents

• Các khái ni m cơ b n
• Các bi n ng u nhiên
• Các phân b r i r c (nbr distributions)
• Các bi n ng u nhiên liên t c
• Các phân b liên t c (time distributions)
• Các bi n ng u nhiên khác

40
4. Basic probability theory

Phân b đ u

X ∼ U (a, b), a < b

– B n sao liên t c c a t/h “l c m t con xúc x c”
• Value set: SX = (a,b)
• Probability density function (pdf):

1
f X ( x) = , x ∈ ( a, b)
b−a
• Cumulative distribution function (cdf):
FX ( x) := P{ X ≤ x} = x − a , x ∈ (a, b)
b−a
• Mean value: E[X] = ∫ab x/(b − a) dx = (a + b)/2
• Second moment: E[X2] = ∫ab x2/(b − a) dx = (a2 + ab + b2)/3
• Variance: D2[X] = E[X2] − E[X]2 = (b − a)2/12
41
4. Basic probability theory

Phân b đ u

Probability density function Cumulative distribution function

4. Basic probability theory

Phân b mũ

X ∼ Exp(λ ), λ > 0
– b n sao liên t c c a phân b hình h c (xác su t “th t b i” ≈ λdt)
• T p giá tr : SX = (0,∞)
• Probability density function (pdf):

f X ( x) = λe −λx , x > 0
• Cumulative distribution function (cdf):

FX ( x) = P{ X ≤ x} = 1 − e −λx , x > 0
• Mean value: E[X] = ∫0∞ λx exp(−λx) dx = 1/λ
• Second moment: E[X2] = ∫0∞ λx2 exp(−λx) dx = 2/λ2
• Variance: D2[X] = E[X2] − E[X]2 = 1/λ2
42
4. Basic probability theory

Phân b mũ

Probability density function Cumulative distribution function

4. Basic probability theory

Tính ch t không nh c a phân b mũ

• Phân b mũ có tính ch t không nh ; v i m i x,y ∈ (0,∞)

P{ X > x + y | X > x} = P{ X > y}

– Prove!
• Tip: Prove first that P{X > x} = e−λx
• ng d ng:
– Gi thi t r ng th i gian gi máy phân b mũ v i trung bình h (phút).
– Xét m t cu c g i đã kéo dài x phút.
Do tính ch t không nh ,
thông tin này không cho bi t th i gian gi máy ti p theo : nó có phân b
như th i gian gi máy g c và, trung bình v n kéo dài h phút!

43
4. Basic probability theory

C c ti u c a các bi n ng u nhiên mũ

• Gi thi t X1 ∼ Exp(λ1) và X2 ∼ Exp(λ2) là các bi n đ c l p. Thì

X min := min{ X1, X 2 } ∼ Exp(λ1 + λ2 )

và
λ
P{ X min = X i } = λ +iλ , i ∈ {1,2}
1 2

• Prove!
– Tip: See slide 15

44
4. Basic probability theory

Phân b tr c chu n (Gaussian)

X ∼ N(0,1)
– gi i h n c a t ng “chu n hóa” c a các bi n ng u nhiên IID v i trung
bình 0 và phương sai 1 (cf. slide 48)
• T p giá tr : SX = (−∞,∞)
• Hàm m t đ xác su t (pdf):
− 12 x 2
f X ( x) = ϕ ( x) := 1
2π
e
• Hàm phân b xác su t (cdf):
x
FX ( x) := P{ X ≤ x} = Φ ( x) := ∫− ∞ ϕ ( y ) dy
• Mean value: E[X] = 0 (pdf đ i x ng)
• Variance: D2[X] = 1
45
4. Basic probability theory

Phân b chu n (Gaussian)

X ∼ N( µ , σ 2 ), µ ∈ ℜ, σ > 0
– N u (X − µ)/σ ∼ N(0,1)
• T p giá tr : SX = (−∞,∞)
• Hàm m t đ xác su t (pdf):

f X ( x) = FX ' ( x) = σ1 ϕ ( )
x−µ
σ
• Hàm phân b xác su t (cdf):

FX ( x) := P{ X ≤ x} = P σ {X −µ
≤ σ
x−µ
}= Φ( )
x−µ
σ
• Mean value: E[X] = µ + σE[(X − µ)/σ] = µ (pdf đ i x ng xung quanh µ)
• Variance: D2[X] = σ2D2[(X − µ)/σ] = σ2

46
4. Basic probability theory

Phân b chu n (Gaussian)

Probability density function Cumulative distribution function

4. Basic probability theory

Các tính ch t c a phân b chu n

• (i) Bi n đ i tuy n tính: Gi thi t X ∼ N(µ,σ2) và α,β ∈ ℜ. Thì

2 2
Y := αX + β ∼ N(αµ + β , α σ )
• (ii) T ng: Gi thi t X1 ∼ N(µ1,σ12) và X2 ∼ N(µ2,σ22) là đ c l p.
Thì

X 1 + X 2 ∼ N( µ1 + µ 2 , σ 12 + σ 22 )
• (iii) Sample mean: Gi thi t Xi ∼ N(µ,σ2), i = 1,…n, là đ c l p và
IID. Thì
n
X n := 1n 1σ 2)
∑ i
X ∼ N ( µ , n
i =1

47
4. Basic probability theory

Đ nh lý gi i h n trung tâm (CLT)

• Gi thi t X1,…, Xn là đ c l p và IID.v i trung bình µ và phương

sai σ2 (và t n t i mô-men b c ba)
• Đ nh lý gi i h n trung tâm:
i.d.
1 (X − µ)
σ/ n n → N(0,1)
• Suy ra

X n ≈ N ( µ , 1n σ 2 )

48
4. Basic probability theory

Contents

• Các khái ni m cơ b n
• Các bi n ng u nhiên
• Các phân b r i r c (nbr distributions)
• Các bi n ng u nhiên liên t c
• Các phân b liên t c (time distributions)
• Các bi n ng u nhiên khác

49
4. Basic probability theory

Các bi n ng u nhiên khác

• Ngoài các bi n ng u nhiên r i r c và liên t c, còn có

các bi n ng u nhiên h n h p
– ch a m t ph n liên t c và m t ph n r i r c
• Ví d :
– Th i gian đ i c a khách hàng W trong m t hàng đ i M/M/1 có
nguyên t (atom) t i không (P{W = 0} = 1 − ρ > 0) nhưng t i các
nơi khác l i là liên t c

1
FW(x)
1−ρ

x
0 0

50