You are on page 1of 28

NỘI DUNG HỌC PHẦN

 Bài 1. Khái niệm cơ bản


 Bài 2. Thống kê mô tả
 Bài 3. Phân phối Mẫu
 Bài 4. Ước lượng điểm
 Bài 5. Ước lượng khoảng
 Bài 6. Kiểm định giả thuyết một tham số
 Bài 7. Suy diễn trên hai mẫu
 Bài 8. Phân tích phương sai
 Bài 9. Kiểm định phi tham số
 Bài 10. Giới thiệu thống kê Bayes
THỐNG KÊ TOÁN – Bui Duong Hai – NEU – www.mfe.edu.vn/buiduonghai 1
Bài 4. ƯỚC LƯỢNG ĐIỂM
 4.1. Khái niệm
 4.2. Tiêu chí đánh giá
 4.3. Ước lượng qua phân vị
 4.4. Ước lượng mô-men
 4.5. Ước lượng hợp lý tối đa
 4.6. Lượng tin Fisher
 4.7. Ước lượng tiệm cận

THỐNG KÊ TOÁN – Bui Duong Hai – NEU – www.mfe.edu.vn/buiduonghai 2


4.1. Khái niệm
 Đồng nhất Tổng thể (population) với BNN
 Tham số tổng thể thông thường: Trung bình tổng thể,
Phương sai tổng thể, Tỉ lệ tổng thể (TB tổng thể phân
phối Bernoulli)
 Tham số tổng thể: tham số của biến ngẫu nhiên, và
tham số thông thường.
 Tham số cần ước lượng
• rời rạc: công thức tính xác suất
• liên tục: hàm mật độ

THỐNG KÊ TOÁN – Bui Duong Hai – NEU – www.mfe.edu.vn/buiduonghai 3


Tham số tổng thể
Biến ngẫu nhiên Tổng thể
Phân Kí Tham Trung Phương
phối hiệu số gốc bình sai
Bernoulli
Nhị thức
Poisson
Đều

Chuẩn
THỐNG KÊ TOÁN – Bui Duong Hai – NEU – www.mfe.edu.vn/buiduonghai 4
Ước lượng điểm (Hàm ước lượng)
Mẫu , tìm thống kê tương ứng với , kí hiệu , là một
hàm của các thành phần mẫu, gọi là hàm ước lượng
(estimator), là ngẫu nhiên

Với mẫu cụ thể, kết quả là giá trị quan sát (estimate)

Hàm ước lượng là Ước lượng điểm (point estimate)

THỐNG KÊ TOÁN – Bui Duong Hai – NEU – www.mfe.edu.vn/buiduonghai 5


Ví dụ
 Tổng thể có trung bình là
Mẫu ngẫu nhiên Mẫu cụ thể

Hàm ước lượng (ƯL ngẫu Ước lượng cụ thể, giá trị
nhiên) quan sát
Estimator: là BNN Estimate: là con số

THỐNG KÊ TOÁN – Bui Duong Hai – NEU – www.mfe.edu.vn/buiduonghai 6


4.2. Đánh giá ước lượng điểm
 là ước lượng của , đánh giá qua Trung bình bình
phương sai lệch (MSE: Mean Squared Errors)
 Chứng minh được

 Đánh giá chất lượng của ước lượng:


• Tính không chệch: theo thành phần thứ nhất
• Tính hiệu quả: theo thành phần thứ hai

THỐNG KÊ TOÁN – Bui Duong Hai – NEU – www.mfe.edu.vn/buiduonghai 7


Tính không chệch (Unbiasedness)
 Hàm là ước lượng không chệch (unbiased estimator)
của tham số nếu:

 Độ chệch:
 Nếu: : ước lượng chệch (biased)
• : ước lượng cao, chệch lên (over-estimate)
• : ước lượng thấp, chệch xuống (under-estimate)

THỐNG KÊ TOÁN – Bui Duong Hai – NEU – www.mfe.edu.vn/buiduonghai 8


Tính hiệu quả (Efficient)
 Trong các ước lượng không chệch, hàm nào có
phương sai nhỏ hơn là tương đối hiệu quả hơn
 : ước lượng không chệch,  tương đối hiệu quả
hơn
 Tồn tại sao cho phương sai nhỏ nhất trong số các
ước lượng không chệch  ước lượng hiệu quả
(efficient estimator)
 Có thể không tìm được ước lượng hiệu quả

THỐNG KÊ TOÁN – Bui Duong Hai – NEU – www.mfe.edu.vn/buiduonghai 9


Tính không chệch và hiệu quả
 Không chệch (unbiased) – Hiệu quả (efficient)

Biased Unbiased

Less efficient More efficient

THỐNG KÊ TOÁN – Bui Duong Hai – NEU – www.mfe.edu.vn/buiduonghai 10


Ví dụ
Ví dụ 4.1. Biến có . Mẫu ngẫu nhiên . Trong các hàm
sau, hàm nào là ước lượng không chệch, ước lượng hiệu
quả hơn cho tham số ?

THỐNG KÊ TOÁN – Bui Duong Hai – NEU – www.mfe.edu.vn/buiduonghai 11


Ví dụ
Ví dụ 4.2. BNN có , . Hai mẫu kích thước , hai trung bình
mẫu .
 (a) Tìm ước lượng không chệch, hiệu quả trong

 (b) Ước lượng không chệch hiệu quả trong các hàm

 (c) Tổng quát với mẫu kích thước và các trung bình
mẫu , tìm ước lượng không chệch hiệu quả của các
hàm:

THỐNG KÊ TOÁN – Bui Duong Hai – NEU – www.mfe.edu.vn/buiduonghai 12


Ví dụ
Ví dụ 4.3.
(a) Tìm một ước lượng không chệch của tham số của
biến ngẫu nhiên phân phối
(b) Tìm một ước lượng không chệch của tham số của
biến ngẫu nhiên phân phối
(c) Với BNN gốc dương, với mẫu, so sánh hàm ước
lượng cho kì vọng của : Trung bình cộng, Trung bình
nhân
(d) Để ước lượng phương sai của biến ngẫu nhiên phân
phối chuẩn, so sánh ba hàm:
THỐNG KÊ TOÁN – Bui Duong Hai – NEU – www.mfe.edu.vn/buiduonghai 13
4.3. Ước lượng Mô-men
 (Moment matching estimator)
 Mô-men bậc 1: ước lượng bởi
 Mô-men bậc 2: ước lượng bởi
 ước lượng bởi
 Nếu BNN chỉ có 1 tham số liên quan đến : dùng mô-
men bậc 1, nếu có hai tham số: dùng đến mô-men
bậc 2.
 Đổi các tham số về để ước lượng

THỐNG KÊ TOÁN – Bui Duong Hai – NEU – www.mfe.edu.vn/buiduonghai 14


Ví dụ
Ví dụ 4.4. Ước lượng từ mô-men:
 (a) Tham số của biến
 (b) Tham số của biến
 (c) Tham số của biến
 (d) Tham số của biến
 Các ước lượng trên có phải ước lượng không chệch?

THỐNG KÊ TOÁN – Bui Duong Hai – NEU – www.mfe.edu.vn/buiduonghai 15


4.4. Ước lượng từ phân vị
 (Quantile matching estimator)
 Nếu các tham số cần ước lượng liên quan đến phân
vị (Trung vị, tứ phân vị), thì ước lượng bởi phân vị
trong mẫu.
 Đầu tiên: trung vị
 Tiếp theo: Tứ phân vị thứ nhất ,…

Ví dụ 4.5. Ước lượng từ phân vị cho tham số của BNN


phân phối

THỐNG KÊ TOÁN – Bui Duong Hai – NEU – www.mfe.edu.vn/buiduonghai 16


4.5. Ước lượng hợp lý tối đa
Xét trên các giá trị của để hoặc
Với tham số và mẫu , có hàm hợp lý (likelihood
function):

Để thuận tiện ký hiệu chung là


Với mẫu quan sát 
Đồng điệu với logarit:

THỐNG KÊ TOÁN – Bui Duong Hai – NEU – www.mfe.edu.vn/buiduonghai 17


Ví dụ
Ví dụ 4.6. Với , trong các mẫu sau, mẫu nào hợp lý
nhất?
 ; ; ;
 Mẫu kích thước nào sẽ hợp lý nhất?

Ví dụ 4.7. Với , mẫu , trong các giá trị của sau, giá trị
nào hợp lý nhất?

 Tìm hợp lý nhất với mẫu đó

THỐNG KÊ TOÁN – Bui Duong Hai – NEU – www.mfe.edu.vn/buiduonghai 18


Hàm hợp lý

𝐱 =( 1,0,1 )
p L(p) L(p)
0.01 0.000099 0.16

0.02 0.000392 0.14

0.03 0.000873 0.12

… … 0.1

0.66 0.148104 0.08

0.67 0.148137 0.06

0.68 0.147968 0.04

… … 0.02

0.98 0.019208 0
0 0.2 0.4 0.6 0.8 1
0.99 0.009801

THỐNG KÊ TOÁN – Bui Duong Hai – NEU – www.mfe.edu.vn/buiduonghai 19


Ước lượng hợp lý tối đa (MLE)
 Tìm làm tối đa hóa hàm hợp lý: ước lượng hợp lý tối
đa của (Maximum Likelihood Estimator)

 Có thể sử dụng hàm logarit

THỐNG KÊ TOÁN – Bui Duong Hai – NEU – www.mfe.edu.vn/buiduonghai 20


Ví dụ
Ví dụ 4.8. Tìm ước lượng hợp lý tối đa của các tham số
sau với mẫu ngẫu nhiên kích thước
(a) Tham số của biến ngẫu nhiên phân phối
(b) Tham số của BNN phân phối Poisson
(c) Tham số của BNN phân phối Mũ
(d) Tham số của BNN phân phối Chuẩn
(e) Tham số của BNN phân phối Chuẩn, khi biết và khi
chưa biết

THỐNG KÊ TOÁN – Bui Duong Hai – NEU – www.mfe.edu.vn/buiduonghai 21


4.6. Lượng tin theo nghĩa Fisher
Khi giá trị của thay đổi, hàm hợp lý tăng / giảm 
logarit tăng / giảm  đạo hàm đổi dấu
Hàm điểm

– để tăng tính hợp lý: tăng


– để tăng tính hợp lý: giảm
– tính hợp lý đạt cực trị
Chứng minh được:

THỐNG KÊ TOÁN – Bui Duong Hai – NEU – www.mfe.edu.vn/buiduonghai 22


Lượng tin theo nghĩa Fisher
 (Fisher Information) của mẫu mang lại về tham số :

 Chứng minh được:

THỐNG KÊ TOÁN – Bui Duong Hai – NEU – www.mfe.edu.vn/buiduonghai 23


Lượng tin theo nghĩa Fisher
 Mẫu
 Với mỗi thành phần mẫu :

 Lượng tin của mỗi thành phần mẫu

 Chứng minh được:

THỐNG KÊ TOÁN – Bui Duong Hai – NEU – www.mfe.edu.vn/buiduonghai 24


Bất đẳng thức Cramér-Rao
Với mọi thống kê thì luôn có

Với mọi là UL không chệch của thì

THỐNG KÊ TOÁN – Bui Duong Hai – NEU – www.mfe.edu.vn/buiduonghai 25


Ví dụ
Ví dụ 4.9. Chứng minh rằng Trung bình mẫu là ước lượng
hiệu quả của các tham số sau:
 (a) Tham số của phân phối Chuẩn
 (b) Tham số của phân phối
 (c) Tham số của phân phối Poisson

THỐNG KÊ TOÁN – Bui Duong Hai – NEU – www.mfe.edu.vn/buiduonghai 26


4.7. Ước lượng tiệm cận

Ước lượng cho tham số


Hàm ước lượng là tiệm cận không chệch:

Hàm ước lượng không chệch là tiệm cận hiệu quả:

Hàm ước lượng là ước lượng vững (consistence) nếu


hội tụ theo xác suất về

THỐNG KÊ TOÁN – Bui Duong Hai – NEU – www.mfe.edu.vn/buiduonghai 27


Ước lượng tiệm cận
Hiệu quả (Tốt nhất) 
Không Tiệm cận hiệu quả 
chệch Không
hiệu quả Không tiệm cận hiệu quả 

Chệch Tiệm cận không chệch 


(thấp hoặc cao) Không tiệm cận không chệch 
Ước lượng cho Expected Variance

THỐNG KÊ TOÁN – Bui Duong Hai – NEU – www.mfe.edu.vn/buiduonghai 28

You might also like