Professional Documents
Culture Documents
KINH TẾ LƯỢNG
ECONOMETRICS
Lê Anh Đức
Khoa Toán kinh tế
ĐH Kinh tế Quốc dân
1
CHƯƠNG III: MÔ HÌNH HỒI QUY BỘI
2
3.8. Các tính chất của ước lượng OLS
3.9. Ước lượng hợp lý tối đa
3.10. Hệ số xác định bội R2 và hệ số xác định bội đã hiệu chỉnh
3.11. Ma trận
R 2 tương quan
3.12. Hệ số tương quan riêng phần
3.13. Kiểm định giả thiết và khoảng tin cậy của các hệ số hồi
quy riêng – kiểm định T
3.14. Kiểm định giả thiết R2 = 0
3.15. Kiểm định có điều kiện ràng buộc – Kiểm định F
3.16. Dự báo
3.17. Thí dụ
3.18. Một số dạng của hàm hồi quy
3
3.1. Mô hình hồi quy ba biến
• Xét mô hình:
PRF : E (Y / X 2i , X 3i ) 1 2 X 2i 3 X 3i
PRM :Yi 1 2 X 2i 3 X 3i U i (i 1 N )
• Trong đó
Y là biến phụ thuộc
X2i X3i là hai biến độc lập
β1 là hệ số chặn
β2, β3 là các hệ số góc riêng phần (hệ số hồi quy riêng)
4
• Ý nghĩa
Hệ số β1 = E(Y/X2i = X3i = 0) là giá trị trung bình của Y
khi X2i = X3i = 0.
E (Y / X 2 , X 3 )
2
X 2
β2 cho biết khi X2 tăng một đơn vị thì trung bình của Y
thay đổi như thế nào trong điều kiện X3 không thay đổi.
E (Y / X 2 , X 3 )
3
X 3
β3 cho biết khi X3 tăng một đơn vị thì trung bình của Y
thay đổi như thế nào trong điều kiện X2 không thay đổi.
5
3.2. Các giả thiết của mô hình
• GT1: Biến độc lập là phi ngẫu nhiên
• GT2: Kỳ vọng của các SSNN bằng 0
E(Ui) = 0 i
• GT3: Phương sai của các SSNN bằng nhau
Var(Ui) = Var(Uj) = 2 i ≠ j
• GT4: Các SSNN không tuơng quan với nhau
Cov(Ui ,Uj) = 0 i ≠ j
• GT5: Các SSNN và các biến độc lập không tương quan với nhau
Cov(Ui , X2i) = 0, Cov(Ui , X3i) = 0 i
• GT6: Các sai số ngẫu nhiên có phân phối chuẩn
U i N (0, 2 )
• GT7: Các biến giải thích không có quan hệ tuyến tính 6
3.3. Ước lượng các tham số của mô hình
hồi quy ba biến
• Trong tổng thể
PRF : E (Y / X 2i , X 3i ) 1 2 X 2i 3 X 3i
PRM :Yi 1 2 X 2i 3 X 3i U i (i 1 N )
• Trong mẫu W (Yi , X 2i , X 3i ) : i 1 n
SRF :Yˆi ˆ1 ˆ2 X 2i ˆ3 X 3i
SRM : Yi ˆ1 ˆ2 X 2i ˆ3 X 3i ei (i 1 n)
ˆ ˆ ˆ là các ước lượng điểm của β1,β2,β3
, ,
1 2 3
là ước lượng điểm của E(Y/X2i,X3i)
Yˆi
ei là ước lượng điểm của Ui
7
• Phương pháp ước lượng OLS
Tìm ˆ1 , ˆ2 , ˆ3 sao cho:
n n n
RSS ei2 (Yi Yˆi ) 2 (Yi ˆ1 ˆ2 X 2i ˆ3 X 3i )2 f ( ˆ1 , ˆ2 , ˆ3 ) Min
i 1 i 1 i 1
f ( ˆ , ˆ , ˆ ) n
1 2 3
2 X 2i (Yi ˆ1 ˆ2 X 2i ˆ3 X 3i ) 0
ˆ
2 i 1
ˆ , ˆ , ˆ )
f ( n
1 2 3
2 X 3i (Yi ˆ1 ˆ2 X 2i ˆ3 X 3i ) 0
ˆ3 i 1
8
ˆ ˆ
n
ˆ
n n
1 n 2 X 2 i 3 X 3i Yi
i 1 i 1 i 1
ˆ n n n n
1 X 2i ˆ2 X 2i ˆ3 X 2i X 3i X 2iYi
2
i 1 i 1 i 1 i 1
n n n n
i 1 i 1 i 1 i 1
• Ký hiệu
1 n
Y Yi ; yi Yi Y
n i 1
1 n
X 2 X 2i ; x2 i X 2 i X 2
n i 1
1 n
X 3 X 3i ; x3i X 3i X 3
n i 1
9
• Ta có
i 1 i 1 i 1
10
3.4. Phương sai và độ lệch chuẩn của các
ước lượng OLS
n n n
2 3i 3 2i 2 3 3i 2 i
2 2 2 2
1 ( X x ) ( X x ) (2 X X x x )
Var ( ˆ1 ) 2 i 1
n n
i 1
n
i 1
Se ( ˆ ) Var ( ˆ )
1 1
n
( x22i )( x32i ) ( x3i x2i )2
i 1 i 1 i 1
n
3i
x 2
2
Var ( ˆ2 ) n n
i 1
n
2
n
Se( ˆ2 ) Var ( ˆ2 )
( x )( x ) ( x3i x2i )
2
2i
2
3i
2
2i 23 )
x 2
(1 r 2
i 1 i 1 i 1 i 1
n
2i
x 2
2
Var ( ˆ3 ) n n
i 1
n
2 n
Se( ˆ3 ) Var ( ˆ3 )
( x22i )( x32i ) ( x3i x2i )2 x 2
3i (1 r232 )
i 1 i 1 i 1 i 1
11
• Ma trận hiệp phương sai của các ước lượng OLS
Cov( ˆ1 , ˆ1 ) Cov( ˆ1 , ˆ2 ) Cov( ˆ1 , ˆ3 )
Cov( ˆ ) Cov( ˆ2 , ˆ1 ) Cov( ˆ2 , ˆ2 ) Cov( ˆ2 , ˆ3 )
Cov( ˆ3 , ˆ1 ) Cov( ˆ3 , ˆ2 ) Cov( ˆ3 , ˆ3 )
Cov( ˆ , ˆ ) Cov( ˆ , ˆ )(i j )
i j j i
12
• Trong đó
Sai số tiêu chuẩn
n
của đường hồi quy
i
e 2
ˆ
2 i 1
n3
r23 là hệ số tương quan của biến X2 ,X3
n
( x2i x3i ) 2
2
r
23 n
i 1
n
2 i 3i
x 2
i 1
x 2
i 1
13
• Hệ số xác định bội của mô hình
n n
ˆ2 x2i yi ˆ3 x3i yi
2 ESS RSS
R 1 i 1
n
i 1
TSS TSS
i
y 2
i 1
14
• Hệ số tương quan
- Hệ số tương quan bội R R 2
đo mức độ tương quan tuyến tính chung giữa Y, X2 và X3
- Hệ số tương quan cặp(Simple correlation coefficent)
n n n
( x2i yi ) 2
( x3i yi ) 2
( x2i x3i ) 2
r122 n
i 1
n
; r132 n
i 1
n
; r232 n
i 1
n
x
i 1
2
2i y
i 1
2
i x
i 1
2
3i y
i 1
2
i x
i 1
2
2i 3i
x 2
i 1
16
- Hệ số tương quan riêng phần (Partical correlation
coefficient)
r12 r13r23 r13 r12 r23 r23 r12r13
r12,3 r13,2 r23,1
(1 r132 )(1 r232 ) (1 r122 )(1 r232 ) (1 r122 )(1 r132 )
βm cho biết khi Xm tăng một đơn vị thì trung bình của Y
thay đổi như thế nào trong điều kiện các biến Xj
(j m)
không thay đổi.
19
• Giả sử có n quan sát, mỗi quan sát có k giá trị
(Yi, X2i, …, Xki)
• Ký hiệu
Y1 1 X 21 ... X k1 1 U1
Y 1 X ... X k 2 U
Y 2 X 22
2 U 2
... ... ... ... ... ... ...
Yn n1 1 X 2n ... X kn nk k k1 U n n1
• Khi đó
PRF : E (Y ) X
PRM : Y X U
20
• Các giả thiết của mô hình
GT1: Biến độc lập là phi ngẫu nhiên
GT2: Kỳ vọng của các SSNN bằng 0
E(Ui) = 0 i
GT3: Phương sai của các SSNN bằng nhau
Var(Ui) = Var(Uj) = 2 i ≠ j
GT4: Các SSNN không tuơng quan với nhau
Cov(Ui ,Uj) = 0 i ≠ j
GT5: Các SSNN và biến độc lập không tương quan với nhau
Cov(Ui , Xmi) = 0 i,m
GT6: Các sai số ngẫu nhiên có phân phối chuẩn
U i N (0, 2 )
GT7: Các biến giải thích không có quan hệ tuyến tính – Ma trận X
là không suy biến. 21
3.6. Ước lượng các tham số OLS
• Trong tổng thể
PRF : E (Y / X 2i , X 3i ,..., X ki ) 1 2 X 2i 3 X 3i ... k X ki
PRM :Yi 1 2 X 2i 3 X 3i ... k X ki U i (i 1 N )
23
• Phương pháp ước lượng OLS
Tìm véc tơ ˆ sao cho:
RSS eT e (Y X ˆ )(Y X ˆ )T Y T Y 2ˆ T X T Y ˆ T X T X ˆ f ( ˆ ) Min
f ( ˆ )
0
ˆ
ˆ ( X T X ) 1 X T Y
24
3.7. Ma trận hiệp phương sai của ˆ
• Ta có
Var ( ˆ1 ) Cov( ˆ1 , ˆ2 ) ... Cov( ˆ1 , ˆk )
ˆ Cov( ˆ2 , ˆ1 ) Var ( ˆ2 ) ... Cov( ˆ2 , ˆk ) 2 T
Cov( ) ( X X)
... ... ... ...
Cov( ˆ , ˆ ) Cov( ˆ , ˆ ) ... Var ( ˆk )
k 1 k 2
26
3.9. Ước lượng hợp lý tối đa ML
(Maximum Likelihood)
• Ngoài phương pháp OLS ra người ta cũng có thể sử
dụng phương pháp ước lượng hợp lý tối đa để ước lượng
các hệ số của PRF.
• Kết quả ước lượng được từ hai phương pháp là tương tự.
• Điểm khác biệt duy nhất là
n
e 2
i
OLS ˆ 2 i 1
; E (ˆ 2 ) 2
nk
n
2
i
e 2
2 2
ˆ
ML i 1
; ˆ
E ( )
n 27
3.10. Hệ số xác định bội R2 và hệ số xác định
bội đã hiệu chỉnh R 2
• Hệ số R2
2 ESS RSS ˆ
T
X T
Y nY 2
e T
e
R 1 T 2
1 T
TSS TSS Y Y nY Y Y nY 2
28
• Hệ số xác định bội đã hiệu chỉnh
2 RSS /( n k ) 2 n 1
R 1 1 (1 R )
TSS /( n 1) nk
- Mục đích của việc hiệu chỉnh là để xem xét
việc có nên đưa thêm biến giải thích vào mô
hình hay không.
- Một biến mới sẽ được đưa vào mô hình nếu hệ
số của biến mới đưa vào mô hình có ý nghĩa
thống kê và hệ số R 2 còn tăng.
29
3.11. Ma trận tương quan
• Hệ số tương quan bội R R 2đo mức độ tương quan tuyến
tính chung giữa Y và các biến giải thích trong mô hình.
• Hệ số tương quan cặp
r11 r12 ... r1k 1 r12 ... r1k
r r22 ... r2 k r21 1 ... r2 k
r 21 (rij rji i j )
... ... ... ... ... ... ... ...
rk 1 rk 2 ... rkk rk 1 rk 2 ... 1
- Các hệ số tương quan cặp rij (i,j = 2,3,…,k) cho biết mức độ
tương quan tuyến tính giữa biến Xi và Xj
- Các hệ số tương quan cặp r1j (j = 2,3,…,k) cho biết mức độ tương
quan tuyến tính giữa biến Y và Xj
30
3.12. Hệ số tương quan riêng phần
• Xét mô hình
Yi 1 2 X 2i 3 X 3i 4 X 4i U i
2
2. Đối với
Ước lượng khoảng tin cậy
Kiểm định giả thiết
32
Ước lượng khoảng tin cậy đối với j ( j 1 k)
ˆ j j
• Ta có T T ( nk ) do đó với độ tin cậy (1 - ) ta có
Se( ˆ )j
- Khoảng tin cậy bên trai dùng để ước lượng tối đa:
2 (n k )ˆ 2
P 2 1
1 (n k ) 36
2
Kiểm định giả thiết đối với
• Kiểm định các cặp giả thiết
H 0 : 2 02 H 0 : 2 02 H 0 : 2 02
2 2
(1), 2 2
(2), 2 2
(3)
H1 : 0 H1 : 0 H1 : 0
(n k )ˆ 2
• Tiêu chuẩn kiểm định 2
02
• Miền bác bỏ giả thiết H0 với mức ý nghĩa cho trước của các
cặp giả thiết 2 2 (n k )
- Với cặp giả thiết (1) 2 2
W : 2 2
1 (n k )
2
- Với cặp giả thiết (2)
- Với cặp giả thiết (3) W 2
: 2
( n k )
2
W 2 : 2 12 (n k ) 37
3.14. Kiểm định sự phù hợp của hàm hồi quy
• R2tổng thể = 0 : hàm hồi qui không phù hợp
• Kiểm định cặp giả thiết
H 0 : 2 3 ... k 0 H 0 : R 2 0
H 1 : ! j 0 H
1 : R 2
0
• Ta có 2
R /(k 1)
F 2
F (k 1, n k )
(1 R ) /(n k )
• Miền bác bỏ giả thiết H0 với mức ý nghĩa cho trước
W F : F F (k 1, n k )
• Sử dụng giá trị P-value
+ Nếu > P thì bác bỏ giả thiết H0
+ Nếu < P thì không có cơ ơở bác bỏ giả thiết H0
38
3.15. Hồi quy có điều kiện ràng buộc – Kiểm định F
• Xét mô hình k biến, ký hiệu là UR (Unrestricted Model)
Yi 1 2 X 2i 3 X 3i ... m X mi m1 X m1i ... k X ki Ui
• Nếu có cơ sở cho rằng một số biến nào đó của mô hình
là không cần thiết, chẳng hạn: Xm+1, Xm+2,…,Xk. Khi đó
ta kiểm định cặp giả thiết:
H 0 : m1 m2 ... k 0
H1 : ! j 0( j (m 1) k )
• Nếu giả thiết H0 là đúng thì mô hình trở thành mô hình
mới R (Restricted Model) – mô hình m biến
Yi 1 2 X 2i 3 X 3i ... m X mi U i
39
• Thủ tục kiểm định
- Bước 1: Lần lượt hồi quy các mô hình UR và R tìm
được RSSUR , R2UR và RSSR , R2R
- Bước 2: Sử dụng tiêu chuẩn kiểm định:
( RSS R RSSUR ) /( k m)
F ( RSSUR ) /(n k )
F ( k m, n k )
2
( RUR RR2 ) /( k m)
F 2
F (k m, n k )(*)
(1 RUR ) /( n k )
Chú ý: Công thức (*) chỉ áp dụng được khi biến phụ thuộc trong hai mô
hình (UR) và (R) là như nhau
- Miền bác bỏ với mức ý nghĩa α cho trước
W F : F F (k m, n k )
40
• Một số trường hợp quy về kiểm định thu hẹp hồi quy
Yi 1 2 X 2i 3 X 3i U i (UR)
- Kiểm định xem sự ảnh hưởng của X2, X3 đến Y có
như nhau không:
H 0 : 2 3 H 0 : 2 3 0
H1 : 2 3 H1 : 2 3 0
+ Nếu giả thiết H0 đúng thì khi đó thay β2 = β3 và mô
hình trở thành:
Yi 1 2 ( X 2i X 3i ) U i
+ Đặt Xi = X2i + X3i ta có:
Yi 1 2 X i U i ( R)
41
• Một số trường hợp quy về kiểm định thu hẹp hồi quy
Yi 1 2 X 2i 3 X 3i U i (UR)
- Kiểm định xem sự ảnh hưởng của X2, X3 đến Y có bù
trừ cho nhau không:
H 0 : 2 3 0 H 0 : 2 3
H1 : 2 3 0 H1 : 2 3
+ Nếu giả thiết H0 đúng thì khi đó thay β2 = -β3 và mô
hình trở thành:
Yi 1 2 ( X 2i X 3i ) U i
+ Đặt Xi = X2i - X3i ta có:
Yi 1 2 X i U i ( R)
42
• Một số trường hợp quy về kiểm định thu hẹp hồi quy
Yi 1 2 X 2i 3 X 3i U i (UR)
- Kiểm định xem sự ảnh hưởng của X2 đến Y có gấp đôi
ảnh hưởng của X3 đên Y không:
H 0 : 2 2 3 H 0 : 2 2 3 0
H1 : 2 2 3 H1 : 2 2 3 0
+ Nếu giả thiết H0 đúng thì khi đó thay β3 = β2/2 và mô
hình trở thành: 1
Yi 1 2 ( X 2i X 3i ) U i
2
+ Đặt Xi = X2i + X3i/2 ta có:
Yi 1 2 X i U i ( R)
43
• Xét mô hình
Yi 1 2 X 2i 3 X 3i U i (UR)
• Khi muốn kiểm định về tổ hợp tuyến tính bất kỳ của các
hệ số hồi quy:
H 0 : a 2 b3 H 0 : a 2 b 3 0
H1 : a 2 b 3 H1 : a 2 b 3 0
• Ta có hai cách để kiểm định
- Cách 1: Sử dụng kiểm định T
- Cách 2: Sử dụng kiểm F về sự thu hẹp hàm hồi quy
44
• Kiểm định T
– Tiêu chuẩn kiểm định
a ˆ2 bˆ3
T T ( n3)
Se(a ˆ2 bˆ3 )
Var ( aˆ2 bˆ3 ) Var ( a ˆ2 ) 2Cov(a ˆ2 , bˆ3 ) Var (bˆ3 )
a 2Var ( ˆ2 ) 2abCov( ˆ2 , ˆ3 ) b 2Var ( ˆ3 )
Se(a ˆ2 bˆ3 ) a 2Var ( ˆ2 ) 2abCov ( ˆ2 , ˆ3 ) b 2Var ( ˆ3 )
Yi 1 2 X 2i 3 X 3i U i (UR)
Yi 1 2 X i U i ( R)
46
3.16. Dự báo
• Xét mô hình k biến
Yi 1 2 X 2i 3 X 3i ... k X ki U i
47
Dự báo giá trị trung bình của biến phụ thuộc
• SRF cho ta một ước lượng điểm của E(Y/X0) trên mẫu
Yˆ0 ˆ T X 0
• Để dự báo E(Y/X0) cho tổng thể ta ƯL khoảng tin cậy của nó.
• Ta có Yˆ0 E (Y / X 0 )
T T ( nk )
Se(Yˆ0 )
Se(Yˆ0 ) ˆ X 0T ( X T X ) 1 X 0
50
3.18. Một số dạng của hàm hồi quy
51
Hàm tổng chi phí
• Dạng hàm
TCi 1 2Qi 3Qi2 4Qi3 U i ( 1 0, 2 0, 3 0, 4 0)
• Biến đổi
Q2i Qi2 , Q3i Qi3
TCi 1 2Qi 3Q2i 4Q3i U i
52
Hàm tăng trưởng
• Dạng hàm
Yt Y0 (1 r )t
Trong đó: r là tốc độ tăng trưởng
• Biến đổi
ln Yt ln Y0 t ln(1 r )
1 ln Y0 , 2 ln(1 r )
ln Yt 1 2t
53
Hàm sản xuất Cobb – Douglas
• Dạng hàm
2 3 U i
Qi 1 K L e
i i
Yt 1 2 X t 3Yt 1 U t
58