Analisis Regresi 1

Pokok Bahasan :

Regresi Linier dengan Dua Peubah

Penjelas
 Penulisan model regresi linier
berganda dengan notasi matriks

Model Regresi Linier dengan 2 peubah penjelas

Model Regresi Linier Berganda Y 0 1x1 2 x 2
y1 1 x11 x 21 1
y 1 x x 22
2 12 0 2
. . . . .
1
.
. . . 2 .
yn 1 x1n x 2n n

Dengan notasi matriks dapat dituliskan :

n
y1 n Xk 1 k 1 1 n 1 , k banyaknya p penjelas

Itasia Dina S, Departemen Statistika FMIPA IPB

 Pendugaan model regresi
berganda dengan matriks

Notasi Matriks pada Model Regresi Linier Berganda

dengan k = 2 y1 1 x11 x 21 1
y 1 x x 22
0 2
y X 2 12
.
. . . .
1
.
. . . 2 .
yn 1 x1n x 2n n

Penduga parameter regresi berganda dg notasi
matriks : 1
( k 1) b1 ( k 1) (X' X) ( k 1) (k 1) X'n n y1

Itasia Dina S, Departemen Statistika FMIPA IPB

 Contoh: model regresi linier berganda
dalam notasi matriks

Data : Model Regresi dalam notasi Matriks :

y X
y x1 x2
3.5 3.1 30 3.5 1 3.1 30
3.2 1 3.4 25
3.2 3.4 25
3.0 3.0 20 3.0 1 3.0 20 0

2.9 3.2 30 y 2.9 X 1 3.2 30 1
4.0 3.9 40 4.0 1 3.9 40 0

2.5 2.8 25 2.5 1 2.8 25
2.3 1 2.2 30
2.3 2.2 30

Itasia Dina S, Departemen Statistika FMIPA IPB

 Contoh : Menduga parameter regresi
linier berganda dg matriks

Dugaan bagi parameter regresi :

1
b
( k 1) 1 ( k 1) ( X' X) ( k 1) (k 1) X'n y
n 1

Dari data contoh tsb. didapat :

1 1 1 1 1 1 1 1 3.1 30
3.1 3.4 3.0 3.2 3.9 2.8 2.2
XX = 1 3.4 25
30 25 20 30 40 25 30 1 3.0 20

1 3.2 30
3x7
1 3.9 40

1 2.8 25
1 2.2 30

7x3
Itasia Dina S, Departemen Statistika FMIPA IPB
 Contoh : Menduga parameter regresi
linier berganda dg matriks
lanjutan
Dengan perhitungan cara matriks didapat :
7.0 216
. 200.0 6.683 - 1.529 - 0.064

X X 216
. 68.3 626.0 ( X' X) 1 - 1.529 0.760 - 0.028
200.0 626.0 5950.0 - 0.064 - 0.028 0.005

6.683 - 1.529 - 0.064 1 1 1 1 1 1 1 3.5 0.214

- 1.529 0.760 - 0.028 3.2 0.898
b = 3.1 3.4 3.0 3.2 3.9 2.8 2.2
- 0.064 - 0.028 0.005 30 25 20 30 40 25 30 3.0 0.017

(XX) -1 X 2.9
4.0

Dugaan garis regresinya : 2.5
2.3

y 0.214 0.898x1 0.017 x2
y
Itasia Dina S, Departemen Statistika FMIPA IPB
 Pemeriksaan Model
untuk
Regresi Berganda

Peubah penjelas apa yang memiliki hubungan linier dg peubah respon

Apakah penambahan peubah penjelas ke dalam model diperlukan

Itasia Dina S, Departemen Statistika FMIPA IPB

 Ringkasan Regresi Berganda

Model Regresi Berganda dengan 2 peubah penjelas :

Y 0 1x1 2 x 2
Model umum Regresi Berganda dengan k peubah
penjelas dalam notasi matriks :

n
y1
n X k 1 k 1
1
n 1

Dugaan bagi parameter Regresi Berganda:

1
( k 1) b1 ( k 1) (X' X) ( k 1) (k 1) X'n n y1

Itasia Dina S, Departemen Statistika FMIPA IPB

 Ringkasan Regresi Berganda
lanjutan

Nilai ramalan y Xb H y
Matriks dugaan ragam peragam bagi b :
V (b0 ) cov(b0 , b1 )
V (b) X' X s dengan : s2 = KT sisaan
1 2

cov( b0 , b1 ) V (b1 )

Dugaan simpangan baku b j c( j 1)( j 1) s

Itasia Dina S, Departemen Statistika FMIPA IPB

 Uji Parameter
Regresi Linier Berganda : uji-t

Model Regresi-nya : Y 0 1x1 2 x 2

Hipotesis : Statistik uji-nya :
1. H 0 : 1 0 bj j
H1 : 1 0 t hit , sb j c( j 1)( j 1) s
sb j
atau 1 0
atau 1 0 Derajat bebasnya = n k - 1

2. H 0 : 2 0 Unsur ke (j+1) diagonal (XX)-1

H1 : 2 0
atau 2 0 Akar dari KT sisaan
atau 2 0 k = banyaknya peubah penjelas

Itasia Dina S, Departemen Statistika FMIPA IPB

 Uji Parameter
Regresi Linier Berganda : uji-t
lanjutan

Uji-t dimaksudkan untuk menguji pengaruh setiap

peubah penjelas secara satu per satu terhadap
peubah responnya
Model Regresi Berganda dg 2 peubah penjelas :
Y 0 1x1 2 x 2
H0 : j 0 Peubah penjelas Xj tidak berhubungan linier dg Y

H1 : j 0 Peubah penjelas Xj berhubungan linier dg Y

atau j 0 Peubah penjelas Xj berhubungan linier positif dg Y

atau j 0 Peubah penjelas Xj berhubungan linier negatif dg Y

Itasia Dina S, Departemen Statistika FMIPA IPB

 Contoh : uji-t dengan notasi matriks

Dengan menggunakan data contoh pada slide

sebelumnya ingin diuji apakah X1 dan atau X2
berpengaruh linier thdp Y
6.683 - 1.529 - 0.064
Didapatkan bahwa (X' X) 1 -1.529 0.760 - 0.028
- 0.064 - 0.028 0.005

Dugaan garis regresi-nya: y 0.214 0.898x1 0.017 x2

Hipotesisnya :
H0 : j 0 Peubah penjelas Xj tidak berhubungan linier dg Y

H1 : j 0 Peubah penjelas Xj berhubungan linier dg Y

Itasia Dina S, Departemen Statistika FMIPA IPB

 Contoh : uji-t dengan notasi matriks
lanjutan
Statistik uji-nya :
bj j
t hit , sb j c( j 1)( j 1) s
sb j
1
S2= 2 67.44 671031
. 0.08422
4
0.898
untuk j 1, s b1 0.76 x 0.2902 0.2530 t hit 3.55
0.253
0.017
untuk j 2, s b 2 0.005 x 0.2902 0.0205 t hit 0.829
0.0205

Itasia Dina S, Departemen Statistika FMIPA IPB

 Contoh : uji-t dengan notasi matriks
(lanjutan)

d.b. = 7 - 3 = 4 t4,.025 = 2.776

Untuk j=1 t hit = 3.55 tolak H0

a/2=.025 a/2=.025 Untuk j=2 t hit = 0.829 terima H0

KESIMPULAN :
-tn-3,/2 0 tn-3,/2
1. Cukup bukti untuk mengatakan bahwa
Tolak H0 Terima H0 Tolak H0
ada hub linier antara x1 dan Y
-2.776 2.776 2. Tidak cukup bukti untuk mengatakan
bahwa ada hub linier antara x2 dan Y

Itasia Dina S, Departemen Statistika FMIPA IPB

 Contoh : uji-t dengan Minitab
lanjutan

Regression Analysis: Y versus X1, X2

The regression equation is

Y = - 0.214 + 0.898 X1 + 0.0175 X2

Predictor Coef SE Coef T P

Constant -0.2138 0.7502 -0.29 0.790
X1 0.8984 0.2530 3.55 0.024
X2 0.01745 0.02116 0.82 0.456 > 0.05

S = 0.290208 R-Sq = 83.3% R-Sq(adj) = 74.9%

Terima H0

Itasia Dina S, Departemen Statistika FMIPA IPB

 Uji Parameter
Regresi Linier Berganda : uji-F

Dengan uji F ini kita dapat mengetahui :

Peubah-peubah penjelas yang ada dalam model
berpengaruh secara serempak terhadap respon atau
tidak.
Penambahan satu peubah penjelas ke dalam model
setelah peubah penjelas lainnya ada dalam model
berpengaruh nyata atau tidak terhadap respon
Penambahan sekelompok peubah penjelas ke dalam
model setelah peubah penjelas lainnya ada dalam
model berpengaruh nyata atau tidak terhadap respon

Itasia Dina S, Departemen Statistika FMIPA IPB

 Uji Parameter
Regresi Linier Berganda : uji-F
Tabel Sidik Ragam
Sumber Derajat Jumlah Kuadrat Kuadrat
Keragaman Bebas (db) (JK) Tengah (KT)
JK Regresi
Regresi | b0 2 bXY Y11Y
2
JK sisaan
Sisaan n-3 YY bXY
n 3
Total
n-1 YY Y11Y
(terkoreksi)
JK Regresi Banyaknya
Regresi | b0 k bXY Y11Y
db Regresi peubah
penjelas

Sisaan nk-1 YY bXY s

2 JK sisaan
db sisaan

Total terkoreksi n-1 YY Y11Y ny 2

Nilai Tengah b 0
Itasia Dina S, Departemen Statistika FMIPA IPB
 Uji Parameter
Regresi Linier Berganda : uji-F
Apakah X1 dan X2 dalam model Y 0 1x1 2 x 2
berpengaruh secara serempak terhadap Y
H 0 : 1 2 0
H1 : min ada satu j 0, j 1,2
Sumber Derajat Jumlah Kuadrat Kuadrat
Keragaman Bebas (db) (JK) Tengah (KT)

JK Regresi KTb1 ,b 2 |b0

b1, b2| b0 2 bXY Y11Y Fhit
2 KTsisaan
JK sisaan
YY bXY
Sisaan n-3
n 3
Total
n-1 YY Y11Y
(terkoreksi)

Itasia Dina S, Departemen Statistika FMIPA IPB

 Uji Parameter
Regresi Linier Berganda : uji-F
Apakah penambahan X2 ke dalam model Y 0 1x1
berpengaruh terhadap Y
H 0 : 2 0 dalam model Y 0 1 x1 2 x2
H1 : 2 0
Derajat Kuadrat
Sumber
Bebas Jumlah Kuadrat (JK) Tengah
Keragaman (db) (KT)

b1, b2 | b0 2 bXY Y11Y

JK b 2 | b 0 ,b1 KTb 2 |b0 ,b1
b 2 b0 , b1 1 JK b1 ,b2 | b0 JK b1| b0 Fhit
JK sisaan KTsisaan
JK sisaan
Sisaan n-3 YY bXY
n -3

Total
n-1 YY Y11Y
(terkoreksi)
Itasia Dina S, Departemen Statistika FMIPA IPB