05.08.

2020

Phương sai thay đổi

Chương 8

Wooldridge: Introductory Econometrics:

A Modern Approach, 5e

© 2013 Cengage Learning. All Rights Reserved. May not be scanned, copied or duplicated, or posted to a publicly accessible website, in whole or in part.

Phân tích hồi quy bội:

Phương sai thay đổi
1. Khái niệm Phương sai thay đổi:

Cho mô hình :

yi = β0 + β1xi1 + … + βKxik + ui
Nếu Var(ui | xi) = σi2 (tức vi phạm giả thiết MLR.5 : Var(ui | xi) = σ2 )
thì mô hình trên có phương sai thay đổi.

Hiện tượng phương sai thay đổi thường xảy ra với dữ liệu chéo.

© 2013 Cengage Learning. All Rights Reserved. May not be scanned, copied or duplicated, or posted to a publicly accessible website, in whole or in part.

1
 05.08.2020

Phân tích hồi quy bội:

Phương sai thay đổi
2. Hậu quả của phương sai thay đổi đối với OLS
Ước lượng OLS vẫn tuyến tính, không chệch và vững khi có phương sai
thay đổi nhưng phương sai không còn hiệu quả (nhỏ nhất) nữa. Có thể có
các ước lượng tuyến tính, không chệch khác hiệu quả hơn.
Ngoài ra, sự giải thích của R-bình phương không thay đổi
Phương sai sai số không có điều kiện không bị
ảnh hưởng bởi phương sai thay đổi (đề cập đến
phương sai sai số có điều kiện)

Phương sai thay đổi làm vô hiệu các công thức phương sai đối với các
ước lượng OLS
Các kiểm định F và kiểm định t thông thường thì không còn hiệu lực khi
có phương sai thay đổi
© 2013 Cengage Learning. All Rights Reserved. May not be scanned, copied or duplicated, or posted to a publicly accessible website, in whole or in part.

Phân tích hồi quy bội:

Phương sai thay đổi
3. Kiểm định phương sai thay đổi
Việc kiểm tra sự hiện diện của phương sai thay đổi vẫn được quan tâm
vì khi đó OLS có thể không phải là ước lượng tuyến tính hiệu quả nhất.

Kiểm định Breusch-Pagan để phát hiện phương sai thay đổi

Với giả thiết

MLR.4

Trung bình của u2 không được khác

nhau theo x1, x2, …, xk

© 2013 Cengage Learning. All Rights Reserved. May not be scanned, copied or duplicated, or posted to a publicly accessible website, in whole or in part.

2
 05.08.2020

Phân tích hồi quy bội:

Phương sai thay đổi
Các bước kiểm định Breusch-Pagan để phát hiện phương sai thay đổi

Hồi quy các bình phương phần dư theo

tất cả các biến giải thích và kiểm định
xem liệu mô hình có phù hợp hay
không .
(Phương sai không đổi)
Một trị số thống kê kiểm định lớn
2
(khi R2 cao) là bằng chứng chống
2 lại giả thuyết không.

Thống kê kiểm định thay thế (bằng cách dùng Thống kê nhân
2
tử Lagrange, LM). Một lần nữa, thống kê kiểm định có giá trị
lớn (khi R2 cao) sẽ dẫn đến sự bác bỏ giả thuyết không rằng
giá trị kỳ vọng của u2 không liên quan đến các biến giải thích.

Nếu F > Fα (k,n-k-1) hay p(F) ≤α  bác bỏ H0

Nếu LM > 2 (k) hay p(LM) ≤α  bác bỏ H0
© 2013 Cengage Learning. All Rights Reserved. May not be scanned, copied or duplicated, or posted to a publicly accessible website, in whole or in part.

Phân tích hồi quy bội:

Phương sai thay đổi
Ví dụ: Phương sai thay đổi trong các phương trình định giá nhà

H0: Phương sai không đổi H1: Phương sai thay đổi

Hồi quy bình phương phần dư ( û 2) của ptrình trên theo lotsize, sqrft, bdrms,
2 Phương sai thay
đổi do p< α = 0.05

Thực hiện tương tự cho phương trình hồi quy dưới đây:

Trong dạng hàm logarit, chấp nhận phương sai không đổi do p > α = 0.05
© 2013 Cengage Learning. All Rights Reserved. May not be scanned, copied or duplicated, or posted to a publicly accessible website, in whole or in part.

3
 05.08.2020

Phân tích hồi quy bội:

Phương sai thay đổi
Các bước kiểm định White để phát hiện phương sai thay đổi
Hồi quy các bình
phương phần dư
của mô hình gốc
ban đầu theo tất cả
các biến giải thích,
các bình phương
của chúng, và các
tương tác (ở đây: ví
dụ có ba biến giải
thích x1, x2, x3)
(Phương sai không đổi)

2
Kiểm định White tổng quát hơn kiểm định
Breusch-Pagan để phát hiện phương sai thay đổi

Nếu LM >  (k) hay p(LM) ≤α  bác bỏ H0

2

© 2013 Cengage Learning. All Rights Reserved. May not be scanned, copied or duplicated, or posted to a publicly accessible website, in whole or in part.

Phân tích hồi quy bội:

Phương sai thay đổi
Nhược điểm của dạng kiểm định White
Bao gồm tất cả các bình phương và các tương tác dẫn đến một số
lượng lớn các tham số được ước lượng (vd. k=6 dẫn đến 27 tham số
được ước lượng)
Dạng thay thế của kiểm định White

Hồi quy này gián tiếp kiểm định sự phụ thuộc của các bình phương phần
dư theo các biến giải thích, các bình phương và các tương tác, bởi vì giá trị
dự đoán của y và bình phương của nó ngầm chứa tất cả các số hạng này.

Ví dụ: Phương sai thay đổi trong phương trình (log) giá nhà

© 2013 Cengage Learning. All Rights Reserved. May not be scanned, copied or duplicated, or posted to a publicly accessible website, in whole or in part.

4
 05.08.2020

Phân tích hồi quy bội:

Phương sai thay đổi
Dùng R chạy kiểm định Breusch-Pagan- Godfrey và kiểm định White để phát hiện
phương sai thay đổi, với biến ketqua lưu kết quả hồi quy của một mô hình:

Kết quả kiểm định BP:

Vì p-value = 0.2613 > 0.05 nên
# kiểm định BP phát hiện phương sai thay đổi không bác bỏ H0 phương sai
> library(lmtest) không đổi
> bptest(ketqua)
studentized Breusch-Pagan test
Kết quả kiểm định White:
data: ketqua
Vì p-value = 0.7874 > 0.05 nên
BP = 4.0018, df = 3, p-value = 0.2613 không bác bỏ H0 phương sai
# kiểm định White phát hiện phương sai thay đổi không đổi
> bptest(ketqua, ~fitted(ketqua)+ I(fitted(ketqua)^2))
studentized Breusch-Pagan test
data: ketqua Lưu ý : Các tính toán tự động
BP = 0.47805, df = 2, p-value = 0.7874 kiểm định BP hay White trong R
chỉ cho biết giá trị của LM (là BP)
và p-value tương ứng.

LM
© 2013 Cengage Learning. All Rights Reserved. May not be scanned, copied or duplicated, or posted to a publicly accessible website, in whole or in part.

Phân tích hồi quy bội:

Phương sai thay đổi
4. Khắc phục hiện tượng phương sai thay đổi:

Dùng sai số chuẩn cải thiện để suy diễn.

Phương pháp ước lượng bình phương bé nhất có trọng số WLS.
Phương pháp bình phương bé nhất tổng quát khả thi FGLS.

© 2013 Cengage Learning. All Rights Reserved. May not be scanned, copied or duplicated, or posted to a publicly accessible website, in whole or in part.

5
 05.08.2020

Phân tích hồi quy bội:

Phương sai thay đổi
4.1 Suy diễn cải thiện khi có phương sai thay đổi
Công thức cải thiện cho sai số chuẩn OLS và các thống kê liên quan được
phát triển cho trường hợp không biết dạng thay đổi của phương sai
Tất cả các công thức cải thiện chỉ có hiệu lực trong các mẫu lớn
Công thức sai số chuẩn cải thiện cho OLS khi có phương sai thay đổi
Còn được gọi là sai số chuẩn White/Eicker. Chúng bao
gồm bình phương các phần dư từ hồi quy và từ hồi
quy biến xj theo tất cả các biến giải thích khác.

Sử dụng các công thức này, kiểm định t là tiệm cận hợp lý
Thống kê F thông thường không dùng được khi có phương sai thay đổi,
nhưng các phiên bản cải thiện phương sai thay đổi có sẵn trong hầu hết
các phần mềm
© 2013 Cengage Learning. All Rights Reserved. May not be scanned, copied or duplicated, or posted to a publicly accessible website, in whole or in part.

Phân tích hồi quy bội:

Phương sai thay đổi
Ví dụ: Phương trình tiền lương theo giờ

Sai số chuẩn cải thiện cho phương sai thay đổi có

thể lớn hay nhỏ hơn khi không cải thiện. Sự khác
biệt thường nhỏ trong thực tế.

Thống kê F cũng thường không quá khác nhau.

Nếu có phương sai thay đổi nhiều, sự khác biệt có thể

lớn hơn. Để an toàn, nên tính các sai số chuẩn cải thiện.

© 2013 Cengage Learning. All Rights Reserved. May not be scanned, copied or duplicated, or posted to a publicly accessible website, in whole or in part.

6
 05.08.2020

Phân tích hồi quy bội:

Phương sai thay đổi
Để tính toán sai số chuẩn cải thiện của White, R dùng các dòng lệnh sau:

> library (car); library (lmtest)

> coeftest(ketqua,vcov = hccm)

t test of coefficients:

Estimate Std. Error t value Pr(>|t|)

(Intercept) 5.51743208 0.12544591 43.9826 <2e-16 ***

educ 0.07798656 0.00681928 11.4362 <2e-16 ***

exper 0.01625605 0.01412973 1.1505 0.2502

I(exper^2) 0.00015202 0.00059470 0.2556 0.7983

---Signif. codes: 0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’1

Trong đó biến ketqua lưu kết quả hồi quy đang xét.

© 2013 Cengage Learning. All Rights Reserved. May not be scanned, copied or duplicated, or posted to a publicly accessible website, in whole or in part.

Phân tích hồi quy bội:

Phương sai thay đổi
4.2 Ước lượng bình phương nhỏ nhất có trọng số
4.2.1. Phương sai thay đổi theo dạng nhân với một hằng số

Dạng hàm phương sai thay

đổi được biết

Mô hình biến đổi

© 2013 Cengage Learning. All Rights Reserved. May not be scanned, copied or duplicated, or posted to a publicly accessible website, in whole or in part.

7
 05.08.2020

Phân tích hồi quy bội:

Phương sai thay đổi
Ví dụ: Tiết kiệm và thu nhập

Lưu ý rằng mô hình hồi

quy này không có
hệ số chặn
Mô hình biến đổi có phương sai không đổi

Nếu các giả thiết Gauss-Markov khác cũng được thỏa mãn, OLS áp dụng
cho mô hình biến đổi là ước lượng tuyến tính không chệch tốt nhất!

© 2013 Cengage Learning. All Rights Reserved. May not be scanned, copied or duplicated, or posted to a publicly accessible website, in whole or in part.

Phân tích hồi quy bội:

Phương sai thay đổi
OLS trong mô hình biến đổi là bình phương nhỏ nhất có trọng số (WLS)

Các quan sát với phương sai

lớn nhận một trọng số nhỏ
hơn trong bài toán tối ưu
Tại sao WLS hiệu quả hơn OLS trong mô hình ban đầu?
Các quan sát có phương sai lớn thì ít thông tin hơn so với các quan sát có phương sai
nhỏ và do đó nhận trọng số nhỏ hơn

WLS là trường hợp đặc biệt của bình phương nhỏ nhất tổng quát (GLS)
GLS: là phương pháp chuyển một mô hình không thỏa các giả thiết G-M thành
một mô hình thỏa các giả thiết G-M rồi áp dụng OLS cho mô hình đã thỏa mãn để
ước lượng các tham số.
© 2013 Cengage Learning. All Rights Reserved. May not be scanned, copied or duplicated, or posted to a publicly accessible website, in whole or in part.

8
 05.08.2020

Phân tích hồi quy bội:

Phương sai thay đổi
Ví dụ: Phương trình tài sản tài chính
Tài sản tài chính ròng
(Net financial wealth)

Dạng giả định của phương sai thay đổi:

Ước lượng theo WLS có sai số

chuẩn nhỏ hơn đáng kể (phù
hợp với mong đợi rằng chúng
hiệu quả hơn).

Tham gia vào kế hoạch

lương hưu 401k

© 2013 Cengage Learning. All Rights Reserved. May not be scanned, copied or duplicated, or posted to a publicly accessible website, in whole or in part.

Phân tích hồi quy bội:

Phương sai thay đổi
Trong R, để ước lượng WLS  ở câu lệnh lm, dùng thêm tùy chọn weight=1/hi
> WLSketqua<-
lm(cigs~log(income)+log(cigpric)+educ+age+(age^2)+restaurn,weight=1/income,
data=smoke)
> summary(WLSketqua)
Call:
lm(formula = cigs ~ log(income) + log(cigpric) + educ + age +
(age^2) + restaurn, data = smoke, weights = 1/income)

Weighted Residuals:
Min 1Q Median 3Q Max
-0.0071320 -0.0006275 -0.0004279 0.0003235 0.0151141
Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept) 25.36763 12.92274 1.963 0.049989 *
log(income) 2.69932 0.25476 10.595 < 2e-16 ***
log(cigpric) -11.11600 3.34839 -3.320 0.000942 ***
educ 0.49050 0.13395 3.662 0.000267 ***
age -0.01429 0.01780 -0.803 0.422490
©restaurn
2013 Cengage Learning.-3.19148
All Rights Reserved. 0.64889
May not be scanned,
-4.918copied 1.06e-06
or duplicated, or***
posted to a publicly accessible website, in whole or in part.

9
 05.08.2020

Phân tích hồi quy bội:

Phương sai thay đổi
Trường hợp đặc biệt quan trọng của phương sai thay đổi
Nếu các quan sát là trung bình ở cấp thành phố / quận / tiểu bang / quốc
gia / công ty, chúng phải được lấy trọng số là kích thước của đơn vị

Thu nhập trung bình

và tuổi trung bình ở
Đóng góp trung bình vào kế Phần trăm đóng góp của sai số phương sai
công ty i
hoạch lương hưu của công ty i công ty vào kế hoạch thay đổi

Phương sai sai số khi sai số

ở cấp độ nhân viên có
e phương sai không đổi

Nếu sai số có phương sai không đổi ở mức độ nhân viên, cần sử dụng WLS với trọng số bằng quy
mô mi của công ty. Nếu giả định về phương sai không đổi ở cấp nhân viên không đảm bảo, người
ta có thể tính toán các sai số chuẩn cải thiện sau WLS (tức là, cho mô hình biến đổi).

© 2013 Cengage Learning. All Rights Reserved. May not be scanned, copied or duplicated, or posted to a publicly accessible website, in whole or in part.

Phân tích hồi quy bội:

Phương sai thay đổi
4.2.2. Khi không biết hàm phương sai thay đổi  dùng GLS khả thi -
FGLS Dạng giả định tổng
quát của phương sai
thay đổi; Hàm mũ
được sử dụng để đảm
bảo dương

Sai số nhân (giả thiết: độc lập

với các biến giải thích)
Do đó ước lượng :

 Giá trị ước lượng của log(uˆ ) : gˆ

2

Hay hˆi  exp(gˆ i )

Sử dụng các giá trị nghịch đảo của

GLS khả thi là vững và tiệm cận hiệu quả hơn OLS. hàm phương sai thay đổi ước lượng
được như là trọng số trong WLS
© 2013 Cengage Learning. All Rights Reserved. May not be scanned, copied or duplicated, or posted to a publicly accessible website, in whole or in part.

10
 05.08.2020

Phân tích hồi quy bội:

Phương sai thay đổi
Ví dụ: Nhu cầu thuốc lá
Có hạn chế hút thuốc
Ước lượng theo OLS trong nhà hàng

Thuốc lá hút mỗi ngày Log thu nhập và Log giá thuốc lá

Bác bỏ giả
thuyết H0 cho
rằng phương sai
không đổi

© 2013 Cengage Learning. All Rights Reserved. May not be scanned, copied or duplicated, or posted to a publicly accessible website, in whole or in part.

Phân tích hồi quy bội:

Phương sai thay đổi
Ước lượng theo FGLS
Bây giờ có ý nghĩa thống kê

Thảo luận
Hệ số co giãn của thu nhập bây giờ có ý nghĩa thống kê; Các hệ số khác
cũng được ước lượng chính xác hơn (mà không thay đổi chất lượng kết
quả).
© 2013 Cengage Learning. All Rights Reserved. May not be scanned, copied or duplicated, or posted to a publicly accessible website, in whole or in part.

11
 05.08.2020

Phân tích hồi quy bội:

Phương sai thay đổi
Điều gì sẽ xảy ra nếu hàm giả định của phương sai thay đổi là sai?
Nếu hàm phương sai thay đổi là sai, WLS vẫn là vững với các giả thiết
MLR.1 – MLR.4, nhưng nên tính toán các sai số chuẩn cải thiện
WLS là vững với giả thiết MLR.4 nhưng không đúng với giả thiết MLR.4‘

Nếu OLS và WLS tạo ra các ước lượng rất khác nhau, điều này thường
cho thấy một số giả thiết khác (ví dụ: MLR.4) là sai
Nếu có phương sai thay đổi nhiều, dù dùng dạng sai của phương sai thay
đổi để làm tăng tính hiệu quả vẫn tốt hơn

© 2013 Cengage Learning. All Rights Reserved. May not be scanned, copied or duplicated, or posted to a publicly accessible website, in whole or in part.

Phân tích hồi quy bội:

Phương sai thay đổi
WLS trong mô hình xác suất tuyến tính

Trong LPM, dạng chính xác của

phương sai thay đổi được biết

Sử dụng giá trị

Thảo luận nghịch đảo như là
trọng số trong WLS
Không khả dụng nếu dự đoán theo LPM dưới 0 hoặc lớn hơn 1
Nếu các trường hợp như vậy là rất hiếm, chúng có thể được điều chỉnh
theo các giá trị như 0.01 / 0.99
Trong các trường hợp khác, có thể tốt hơn là sử dụng OLS với các sai số
chuẩn cải thiện
© 2013 Cengage Learning. All Rights Reserved. May not be scanned, copied or duplicated, or posted to a publicly accessible website, in whole or in part.

12
 05.08.2020

Phân tích hồi quy bội:

Phương sai thay đổi
Đọc thêm
Trong R,
- Để thực hiện các tính toán cải thiện, dùng lệnh hccm trong gói lệnh car.
- Để cho ra một bảng kết quả hồi quy dựa trên ma trận phương sai- hiệp
phương sai bất kỳ, dùng lệnh coeftest từ gói lệnh lmtest.
Cụ thể: Nếu biến ketqua lưu kết quả hồi quy ước lượng được bằng lệnh lm thì
Coeftest(ketqua)  cho ra bảng kết quả thông thường (dựa trên MLR5)
Coeftest(ketqua, vcov=hccm)  cho ra bảng kết quả với sai số chuẩn cải
thiện của White có hiệu chỉnh.
Coeftest(ketqua, vcov=hccm(ketqua,type=“hc0”))  cho ra bảng kết quả có
với sai số chuẩn cải thiện của White theo phiên bản cổ điển.

© 2013 Cengage Learning. All Rights Reserved. May not be scanned, copied or duplicated, or posted to a publicly accessible website, in whole or in part.

Phân tích hồi quy bội:

Phương sai thay đổi
Với kiểm định F tổng quát, sử dụng lệnh linearHypothesis từ gói lệnh
car. Với giả thuyết H0 cho mô hình đã ước lượng lưu trong biến ketqua,
ta có:
linearHypothesis(ketqua, H0)  cho ra bảng kết quả kiểm định F
thông thường (dựa trên MLR5)
linearHypothesis(ketqua, H0), vcov=hccm)  cho ra bảng kết quả
kiểm định F cải thiện của White có hiệu chỉnh.
linearHypothesis(ketqua, H0, vcov=hccm(ketqua,type=“hc0”)) cho
ra bảng kết quả kiểm định F cải thiện của White theo phiên bản cổ điển.

© 2013 Cengage Learning. All Rights Reserved. May not be scanned, copied or duplicated, or posted to a publicly accessible website, in whole or in part.

13