Bấm để thêm nội dung

Bấm để thêm nội dung

Chương 6
PHÂN TÍCH HỒI QUY VÀ TƯƠNG QUAN
 NỘI DUNG CHÍNH

1. Những vấn đề chung

2. Phân tích Hồi quy tuyến tính đơn

3. Phân tích Hồi quy tuyến tính bội

1. NHỮNG VẤN ĐỀ CHUNG (1)

1.1. Mối liên hệ giữa các hiện tượng KT – XH

Liên hệ hàm số Liên hệ tương quan

X Y X Y
 1. NHỮNG VẤN ĐỀ CHUNG (2)
Liên hệ hàm số
- Định nghĩa:
Là mối liên hệ hoàn toàn chặt chẽ. Khi hiện
tượng này thay đổi có tác động quyết định
làm thay đổi hiện tượng liên quan theo một
tỷ lệ xác định.
Liên hệ hàm số được biểu diễn dưới dạng:
y = f(x)
Liên hệ tương quan
- Định nghĩa:
Là mối liên hệ không hoàn toàn chặt chẽ.
Cụ thể: sự thay đổi của hiện tượng này có
thể làm hiện tượng liên quan thay đổi theo
nhưng không có ảnh hưởng hoàn toàn quyết
định.

- Đặc điểm: - Đặc điểm:

Không những được biểu hiện ở tổng thể (số Không ảnh hưởng rõ trên từng đơn vị cá biệt
lớn) mà còn được biểu hiện rõ trên từng đơn mà phải qua nghiên cứu số lớn các đơn vị.
vị cá biệt.
- Ví dụ: - Ví dụ:
Trong toán học: cho hàm số y = a2 Mối liên hệ giữa tuổi nghề và NSLĐ.
1. NHỮNG VẤN ĐỀ CHUNG (3)

1.2. Phương pháp phân tích Hồi quy và tương quan

Là phương pháp toán học được vận dụng trong thống kê để biểu diễn và
đánh giá mối liên hệ tương quan giữa các hiện tượng

Nhiệm vụ:
Xây dựng phương trình hồi quy biểu diễn mối liên hệ tương quan giữa
các hiện tượng (4 bước)
Giải thích sự tồn tại thực tế và bản chất của mối liên hệ
Thăm dò mối liên hệ
Lập phương trình hồi quy
Tính toán các tham số và giải thích ý nghĩa
Đánh giá trình độ chặt chẽ của mối liên hệ tương quan và sự phù hợp
của mô hình hồi quy
 NỘI DUNG CHÍNH

1. Những vấn đề chung

2. Phân tích Hồi quy tuyến tính đơn

3. Phân tích Hồi quy tuyến tính bội

2. PHÂN TÍCH HỒI QUY TUYẾN TÍNH ĐƠN

• Xây dựng phương trình Hồi quy

• Ước lượng tham số
2.1 • Kiểm định tham số

• Hệ số xác định R2
• Kiểm định ý nghĩa của mô hình hồi
quy
2.2 • Hệ số tương quan tuyến tính
 2. PHÂN TÍCH HỒI QUY TUYẾN TÍNH ĐƠN (1)
2.1. Xây dựng phương trình hồi quy
Ví dụ:
Có tài liệu về chi phí quảng cáo và doanh thu bán hàng của một doanh nghiệp như sau

CP Quảng cáo Doanh Thu

STT
(triệu đồng) (triệu đồng)
1 2 810
2 4 820
3 7 840
4 9 850
5 10 870
Tổng 32 4190

Yêu cầu: Lập phương trình hồi quy tuyến tính biểu diễn mối liên hệ
của chi phí quảng cáo tới doanh thu bán hàng.
 2. PHÂN TÍCH HỒI QUY TUYẾN TÍNH ĐƠN (2)
2.1. Xây dựng phương trình hồi quy
 Giải thích sự tồn tại thực tế và bản chất của mối liên hệ
 Thăm dò mối liên hệ
880 o Đường hồi quy thực tế: là đường
870 gấp khúc được xây dựng trên cơ sở
Đường hồi quy
860 lý thuyết dữ liệu thực tế
o Đường hồi quy lý thuyết: là đường
Doanh Thu

850
840 điều chỉnh (bù trừ) các chênh lệch
830 Đường hồi quy ngẫu nhiên để phản ánh mối liên hệ
820 thực nghiệm cơ bản của hiện tượng
810
o Phương trình hồi quy: là phương
800 trình xác định vị trí của đường hồi
0 5 10 15 quy lý thuyết
CP Quảng cáo
 2. PHÂN TÍCH HỒI QUY TUYẾN TÍNH ĐƠN (3)
2.1. Xây dựng phương trình hồi quy
 Phương trình hồi quy tổng thể

Biến phụ thuộc Tham số tự do Hệ số hồi quy Biến độc lập

Biến kết quả Hệ số chặn Hệ số góc Biến nguyên nhân
Biến được giải thích Biến giải thích
Biến nội sinh Biến ngoại sinh

: phần dư (chênh lệch giữa giá trị thực tế và giá trị lý thuyết)
 2. PHÂN TÍCH HỒI QUY TUYẾN TÍNH ĐƠN (4)
2.1. Xây dựng phương trình hồi quy
 Phương trình hồi quy tổng thể
Ý nghĩa của các tham số
o phản ánh ảnh hưởng của các tiêu thức nguyên nhân khác (ngoài tiêu
thức X) tới tiêu thức kết quả Y
o phản ánh ảnh hưởng trực tiếp của tiêu thức nguyên nhân X tới tiêu
thức kết quả Y. Cụ thể: khi X tăng thêm 1 đơn vị thì Y sẽ thay đổi bình
quân đơn vị
> 0  X và Y có mối liên hệ thuận (cùng chiều)
< 0  X và Y có mối liên hệ nghịch (ngược chiều)
 2. PHÂN TÍCH HỒI QUY TUYẾN TÍNH ĐƠN (5)
2.1. Xây dựng phương trình hồi quy
 Phương trình hồi quy mẫu
Với mẫu ngẫu nhiên kích thước n, phương trình hồi quy mẫu xác định vị
trí của đường hồi quy lý thuyết sau:

Ước lượng của Ước lượng của

 2. PHÂN TÍCH HỒI QUY TUYẾN TÍNH ĐƠN (6)
2.1. Xây dựng phương trình hồi quy

Các giả thiết của OLS

1. Mô hình được ước lượng trên cơ sở mẫu ngẫu nhiên
2. Kỳ vọng toán của sai số bằng 0
3. Sai số tuân theo quy luật phân phối chuẩn
4. Phương sai của sai số bằng nhau (Sai số không đổi)
5. Không có tương quan giữa các phần dư (không có hiện tượng
tự tương quan)
6. Giữa các biến độc lập không có tương quan tuyến tính hoàn
hảo (đa cộng tuyến) – Đối với hồi quy bội
 2. PHÂN TÍCH HỒI QUY TUYẾN TÍNH ĐƠN (7)
2.1. Xây dựng phương trình hồi quy
 Ước lượng tham số b0 và b1
Phương pháp bình phương nhỏ nhất (OLS - Ordinary least squares):

bo và b1 phải thỏa mãn hệ phương trình


{ ∑ 𝑦𝑖=𝑛𝑏0+𝑏1 ∑ 𝑥𝑖
∑ 𝑥𝑖𝑦𝑖=𝑏0 ∑ 𝑥𝑖+𝑏1∑ 𝑥𝑖2
{
𝑥𝑦 − 𝑥 𝑦
𝑏 1=
Hoặc 𝜎 2𝑥
𝑏 0=𝑦 − 𝑏 1 𝑥
 2. PHÂN TÍCH HỒI QUY TUYẾN TÍNH ĐƠN (8)
2.1. Xây dựng phương trình hồi quy

Ví dụ
xi yi
Chi phí
Doanh Thu
STT Quảng cáo xiyi xi2 yi2
(triệu đồng)
(triệu đồng)
1 2 810 1620 4 656100
2 4 820 3280 16 672400
3 7 840 5880 49 705600
4 9 850 7650 81 722500
5 10 870 8700 100 756900
Tổng 32 4190 27130 250 3513500
 2. PHÂN TÍCH HỒI QUY TUYẾN TÍNH ĐƠN (9)
2.1. Xây dựng phương trình hồi quy

x
x32
 6.4
i

n 5 Phương trình hồi quy tuyến tính biểu
 yi  4190  838 diễn mối liên hệ giữa CPQC và doanh
y
n 5 thu có dạng

xy 
x y i i

27130
 5426 =793.54+6.947xi
n 5

𝜎 2
=
∑ 𝑥 2𝑖
− 𝑥 2=
250
− 6,4 2=9,04
𝑥
𝑛 5

xy  x y 5426  6.4  838

b1    6.947
 x2 9.04
𝑏 0=𝑦 − 𝑏1 𝑥=838 – 6.947  x  6.4 = 793.54
 2. PHÂN TÍCH HỒI QUY TUYẾN TÍNH ĐƠN (10)
2.1. Xây dựng phương trình hồi quy
Kiểm định ý nghĩa của hệ số hồi quy
Giả thuyết: H0: j = 0 và H1: j ≠ 0
Tiêu chuẩn kiểm định:
Trong đó:

Trong đó:
Nếu H0 đúng thì Thống kê T sẽ tuân theo quy luật phân phối Student
với (n-2) bậc tự do
 2. PHÂN TÍCH HỒI QUY TUYẾN TÍNH ĐƠN (10)
2.1. Xây dựng phương trình hồi quy
Kiểm định ý nghĩa của hệ số hồi quy b1 (Ví dụ trên)
Giả thuyết: H0: 1 = 0 và H1: 1 ≠ 0
Tiêu chuẩn kiểm định:
Trong đó:

Trong đó:
Nếu H0 đúng thì Thống kê T sẽ tuân theo quy luật phân phối Student
với (n-2) bậc tự do
 2. PHÂN TÍCH HỒI QUY TUYẾN TÍNH ĐƠN (12)
2.1. Xây dựng phương trình hồi quy

Ước lượng hệ số hồi quy

Hai phía
Phía phải
Phía trái
 2. PHÂN TÍCH HỒI QUY TUYẾN TÍNH ĐƠN (13)
2.2. Đánh giá sự phù hợp của phương trình hồi quy
Hệ số xác định (R2)
Y
SSE = 𝑋 𝑖
𝑏0 +𝑏 1
SST = 𝑌 𝑖=
^

SSR =

X
Xi
 2. PHÂN TÍCH HỒI QUY TUYẾN TÍNH ĐƠN (14)
2.2. Đánh giá sự phù hợp của phương trình hồi quy
Hệ số xác định (R2)

Tổng biến thiên của biến phụ thuộc: SST =

Tổng biến thiên được giải thích bởi mô hình hồi quy: SSR =
Tổng biến thiên được giải thích bởi phần dư: SSE =
SST = SSR + SSE

Hệ số xác định:
Phản ánh % thay đổi của biến phụ thuộc được giải thích bởi mô hình
hồi quy
 2. PHÂN TÍCH HỒI QUY TUYẾN TÍNH ĐƠN (15)
2.2. Đánh giá sự phù hợp của phương trình hồi quy
Kiểm định ý nghĩa của mô hình hồi quy

Cặp giả thuyết

Tiêu chuẩn kiểm định:

Nếu H0 đúng, Thống kê F sẽ tuân theo quy luật phân phối Fisher với
bậc tự do (1, n-2)

Với mức ý nghĩa , Miền bác bỏ giả thuyết H0 khi F > F,(1, n-2)
 2. PHÂN TÍCH HỒI QUY TUYẾN TÍNH ĐƠN (16)
2.2. Đánh giá sự phù hợp của phương trình hồi quy
Hệ số tương quan tuyến tính
• Xác định chiều hướng của mối liên hệ
• Đánh giá mức độ chặt chẽ của liên hệ tương quan tuyến tính
xy  x. y x
Công thức tính r  b1
 x y y
r > 0: mối liên hệ tương quan tuyến tính thuận (chiều hướng mối liên
hệ)
r < 0: mối liên hệ tương quan tuyến tính nghịch (chiều hướng mối
liên hệ)
r = ± 1: mối liên hệ hàm số - hoàn toàn chặt chẽ
r = 0: không có mối liên hệ tương quan tuyến tính giữa x và y
càng gần 1: mối liên hệ càng chặt chẽ (cường độ mối liên hệ)
 2. PHÂN TÍCH HỒI QUY TUYẾN TÍNH ĐƠN (17)
2.2. Đánh giá sự phù hợp của phương trình hồi quy
Hệ số tương quan tuyến tính
• Kiểm định hệ số tương quan

Cặp giả thuyết:

Tiêu chuẩn kiểm định

Nếu H0 đúng, thống kê T sẽ tuân theo quy luật phân phối Student với
bậc tự do (n-2)
Với mức ý nghĩa , Miền bác bỏ giả thuyết H0 khi > T/2,(n-2)
 NỘI DUNG CHÍNH

1. Những vấn đề chung

2. Phân tích Hồi quy tuyến tính đơn

3. Phân tích Hồi quy tuyến tính bội

3. PHÂN TÍCH HỒI QUY TUYẾN TÍNH BỘI

• Xây dựng phương trình Hồi quy

• Ước lượng tham số
3.1 • Kiểm định tham số

• Hệ số xác định R2
• Kiểm định ý nghĩa của mô hình hồi
quy
3.2 • Hệ số tương quan tuyến tính
 3. PHÂN TÍCH HỒI QUY TUYẾN TÍNH BỘI (1)
3.1. Xây dựng phương trình hồi quy
 Phương trình hồi quy tổng thể

- Tham số tự do (hệ số chặn)

– Hệ số hồi quy riêng
phản ánh ảnh hưởng thuần của nguyên nhân xj tới kết quả y
(khi các yếu tố khác không đổi). Cụ thể: khi xj tăng thêm 1
đơn vị thì y thay đổi trung bình đơn vị.
 3. PHÂN TÍCH HỒI QUY TUYẾN TÍNH BỘI (2)
3.1. Xây dựng phương trình hồi quy
 Phương trình hồi quy mẫu
Với mẫu ngẫu nhiên kích thước n, phương trình hồi quy
mẫu sau:

bj là ước lượng của tham số

 3. PHÂN TÍCH HỒI QUY TUYẾN TÍNH BỘI (3)
3.1. Xây dựng phương trình hồi quy
 Kiểm định hệ số hồi quy

Giả thuyết: H0: j = 0 và H1: j ≠ 0

Tiêu chuẩn kiểm định:

Nếu H0 đúng thì Thống kê T sẽ tuân theo quy luật phân

phối Student với (n-k-1) bậc tự do
Với k là số biến độc lập trong mô hình
 3. PHÂN TÍCH HỒI QUY TUYẾN TÍNH BỘI (4)
3.1. Xây dựng phương trình hồi quy
 Kiểm định hệ số hồi quy
Miền bác bỏ giả thuyết H0 (W)
- Kiểm định 2 phía:
- Kiểm định phía phải:
- Kiểm định phía trái:
 3. PHÂN TÍCH HỒI QUY TUYẾN TÍNH BỘI (4)
3.1. Xây dựng phương trình hồi quy
 Ước lượng hệ số hồi quy

Hai phía
Phía phải
Phía trái
 3. PHÂN TÍCH HỒI QUY TUYẾN TÍNH BỘI (5)
3.1. Xây dựng phương trình hồi quy
 Hệ số hồi quy chuẩn hóa

Phản ánh vai trò của từng biến độc lập tới biến phụ thuộc
 3. PHÂN TÍCH HỒI QUY TUYẾN TÍNH BỘI (6)
3.2. Đánh giá sự phù hợp của phương trình hồi quy
 Hệ số xác định R2

Tổng biến thiên của biến phụ thuộc: SST =

Tổng biến thiên được giải thích bởi mô hình hồi quy: SSR =
Tổng biến thiên được giải thích bởi phần dư: SSE =
SST = SSR + SSE

Hệ số xác định:
Phản ánh % thay đổi của biến phụ thuộc được giải thích bởi mô hình hồi
quy
 3. PHÂN TÍCH HỒI QUY TUYẾN TÍNH BỘI (7)
3.2. Đánh giá sự phù hợp của phương trình hồi quy
 Hệ số xác định điều chỉnh

Dùng để so sánh, đánh giá sự phù hợp của mô hình khi số lượng biến
trong mô hình hồi quy khác nhau

Khi k > 1 thì

k càng lớn càng nhỏ so với R2
có thể âm, khi đó quy ước
 3. PHÂN TÍCH HỒI QUY TUYẾN TÍNH BỘI (8)
3.2. Đánh giá sự phù hợp của phương trình hồi quy
 Kiểm định ý nghĩa của mô hình hồi quy
Cặp giả thuyết

Tiêu chuẩn kiểm định:

Nếu H0 đúng, Thống kê F sẽ tuân theo quy luật phân phối Fisher với bậc
tự do (k, n-k-1)
Với mức ý nghĩa , Miền bác bỏ giả thuyết H0 khi F > F,(k, n-k-1)
 3. PHÂN TÍCH HỒI QUY TUYẾN TÍNH BỘI (9)
3.2. Đánh giá sự phù hợp của phương trình hồi quy
 Hệ số tương quan chung
Công thức
 Các dạng bài tập của chương

 Xây dựng phương trình hồi quy (b0, b1)

 Kiểm định và ước lượng các hệ số hồi quy
 Tính toán R2 và kiểm định sự phù hợp của mô hình
hồi quy
 Đánh giá trình độ chặt chẽ của mối liên hệ (R)
Thank you!