ANALISIS

REGRESI &
KORELASI
Dalam kehidupan sehari-hari, seringkali
dijumpai hubungan antara suatu variabel
dengan satu atau lebih variabel lain.

Contoh:
* Dosis dan jenis pupuk yang diberikan
berhubungan dengan hasil pertanian
yang diperoleh.
* Jumlah pakan yang diberikan pada
ternak berhubungan dengan berat
badannya,
* Dan sebagainya
 Ide dasar analisis regresi :

 Dikenalkan oleh Sir Francis Galton

 Ada kecenderungan bhw ortu yg tinggi akan
memiliki anak yg tinggi dan sebaliknya.
 Ada kecenderungan tinggi anak bergerak
menuju rata-rata tinggi populasi.
 Galton menyebut : Regresi menuju mediokritas
(regression toward mediocrity)
 Regresi modern :

 Studi mengenai ketergantungan 1 variabel

dependen dengan 1 atau lebih variabel
independen, dengan tujuan untuk
mengestimasi dan atau memprediksi rata-rata
populasi atau nilai rata-rata variabel dependen
berdasarkan nilai variabel independen yang
diketahui.
 Hasil analisis adalah koefisien regresi untuk
masing-masing variabel independen.
 Hubungan Statistik vs
Deterministik
 Analisis regresi hanya menitik beratkan pada
hubungan statistik.
 Hubungan Statistik pada dasarnya menggunakan
variabel stokastik (random), yaitu variabel yang
memiliki distribusi probabilitas.
 Hubungan Deterministik bukan merupakan
hubungan statistik karena bersifat eksak.
 Jika regresi diterapkan pd model dengan
hubungan deterministik, akibatnya model akan
menderita gejala “Multikolineariti” yang
mendekati sempurna.
 Macam hubungan antara
2 atau lebih variabel :
Keeratan hubungan  Korelasi
Bentuk hubungan  Regresi
 Regresi vs Korelasi
 Analisis Korelasi :
► Bertujuan unt mengukur kekuatan
asosiasi (hubungan) linier antara dua
variabel.
► Tidak menunjukkan hub. Fungsional.
► Tidak membedakan variabel dependen dan
variabel independen.
 Analisis Regresi :
► Mengukur kekuatan hubungan antar variabel
► Menunjukkan arah hubungan antara variabel
independen dengan variabel dependen.
KORELASI

Koefisien Korelasi Pearson

(Product Moment Coefficient)

n  XY - X Y
r 
 n X2
  -  X    n  Y -  Y  
2 2 2

  
 Pengelompokan Regresi :

 Regresi Linier Sederhana

 Regresi Linier Berganda
 Regresi Non Linier
 Regresi dengan Variabel Dummy
 Regresi Logistik
 Regresi Simultan
• REGRESI LINIER SEDERHANA

Regresi Linier dengan :

# 1 variabel dependen
# 1 variabel independen
Contoh:
X Y
1 1.3
2 3.5
3 4.2
4 5.0
5 7.0
6 8.8
7 10.1
8 12.5
9 13.0
10 15.6
 AnalisisRegresi mendasarkan pada model
probabilistik, yang terdiri atas komponen
deterministik dan kesalahan random.

Y = b0 + b1 X + 
Y : variabel dependen
X : variabel independen
b0 : intersep (konstanta)
b1 : slope (koefisien regresi)
 : komponen kesalahan random (error)
E(Y) = b0 + b1 X = komponen
deterministik
 Metode Kuadrat Terkecil
Biasa (OLS)
 Diperkenalkan oleh : Carl Friedrich Gauss
 Digunakan unt mengestimasi garis regresi dgn jalan
meminimalkan jumlah dari kuadrat kesalahan setiap
observasi thd garis tersebut.
n
SEE  
i 1
(Y i - Ŷ i ) 2

 Tujuan utamanya mengestimasi fungsi regresi

populasi berdasarkan fungsi regresi sampel.
E (Y/X i )  β 0  β1 X i
  Y - Ŷ   Y - a - b  X 
2 2
e  
Q
= - 2  (Y - a - b X) = 0   Y - a.n - b  X = 0
a
Q
= - 2  (Y - a - b X) (X) = 0   XY - a  X - b  X2 = 0
b

a.n + b  X =  Y  Persamaan Normal I

a  X + b  X2 =  XY  Persamaan Normal II

X Y
 XY - n  XY - nXY
b  
 X - X  X
2 2
- nX

a  Y - bX
• REGRESI LINIER BERGANDA

Regresi Linier dengan :

# 1 variabel dependen
# Lebih dari 1 variabel independen
Y = a + b1 X1 + b2 X2 + e

Persamaan Normal :

I   Y = n.a + b1  X1 + b2  X2

II   YX1 = a  X1 + b1  (X1)2 + b2  X1X2

III   YX2 = a  X2 + b1  X1X2 + b2  (X2)2

Statistik dalam Regresi Linear :

R2 = koefisien determinasi
R2 menunjukkan besarnya sumbangan variabel
bebas terhadap variasi tidak bebas.

R2 adjusted = R2 yang disesuaikan dengan

banyaknya variabel bebas (k) dan banyaknya
observasi elemen sampel (n).
R2 adjusted dapat digunakan untuk
membandingkan 2 regresi berganda dengan Y yang
sama, tetapi banyaknya variabel bebas tidak sama.
Uji F (Uji Simultan)

Hipotesis yang digunakan adalah :

H0 : Semua variabel bebas secara bersama-sama

tidak mempengaruhi variabel tidak bebas (Y)
H1 : Semua variabel bebas secara bersama-sama
mempengaruhi variabel tidak bebas (Y) atau
paling tidak ada 1 variabel bebas yang
mempengaruhi variabel tidak bebas (Y).

Kriteria uji F  H0 ditolak jika F hitung ≤ F tabel

H0 diterima jika F hitung > F tabel.
 Tabel ANOVA

Sumber Variasi JK db KT F hitung F tabel

Regresi JKR k–1 KTR = KTR/KTG F( ; v1 ; v2)
JKR/(k – 1)
Galat JKG n–k KTG =
JKG/(n – k)
Total JKT n–1
Uji t (Uji parsial)

Hipotesis yang digunakan adalah :

H0 : i = 0  Variabel bebas Xi tidak berpengaruh
terhadap variabel tdk bebas (Y)
H1 : i ≠ 0  Variabel bebas Xi berpengaruh
terhadap variabel tdk bebas (Y)

Kriteria uji t  H0 ditolak jika t hitung ≤ t tabel

H0 diterima jika t hitung > t tabel.
 bi
t hitung =
Se(bi )

S
Se(bi ) 
{( X i2 )  (n)( X i ) 2 }{(1  (r1( 2 ) ) 2 }

S = KTG

n( X 1 X 2 )  ( X 1 )( X 2 )
r1( 2 ) 
 n(  X 1
2
)  ( X 1 ) 2  n( X 2
2 )  ( X 2 ) 2 
UJI ASUMSI KLASIK :
(Khususnya untuk masalah ekonomitri)

• Autokorelasi
• Multikolineariti
• Heteroskedastisitas
Uji Autokorelasi

• Bertujuan menguji apakah dalam model regresi

linier ada korelasi antara kesalahan pengganggu
(error) pada periode t dengan error pada periode
sebelumnya.

• Diuji dengan Uji Durbin-Watson (DW test)

• Nilai DW hitung dibandingkan dengan DW tabel

• Secara umum, tidak ada korelasi jika

DW hitung ± 2
Uji Multikolineariti

• Bertujuan menguji apakah dalam model regresi linier ada

korelasi antar variabel bebas

• Dideteksi dengan :
* Nilai R2 tinggi, tetapi banyak variabel yang
tidak signifikan.
* Dilihat nilai Tolerance dan atau VIF (Variance
inflation factor)nya
Jika tolerance > 0,1  bebas multikolineariti
Jika VIF < 10  bebas multikolineariti

Cara mengobati :
1. Transformasi variabel  dlm bentuk log atau ln, dsb.
2. Mengeluarkan 1 atau lebih variabel bebas yang mempunyai
korelasi tinggi
3. Gunakan metode analisis regresi lain.
4. Atau yang lain.
 Uji Heteroskedastisitas

• Bertujuan menguji apakah dalam model regresi

linier terjadi ketidaksamaan variance dari residual
1 pengamatan ke pengamatan yang lain.

• Dideteksi dengan :
* Melihat plot antara prediksi variabel terikat
dengan residualnya.
* Uji Park : ln e2 = a + bi ln Xi
* Uji Glejser : |e| = a + bi Xi
* Uji White : e2 = a + bi Xi + bj Xj2
Cara mengobati :

1. Melakukan transformasi bentuk model,

misalnya membagi regresi dengan salah satu
variabel bebasnya.

2. Melakukan transformasi log.

 Regresi Dengan Variabel Dummy
 Kita bisa menggunakan variabel bebas dengan skala
ukuran non metrik.
 Caranya dengan menempatkan variabel tersebut sebagai
variabel dummy.
 Koefisien regresi dari variabel dummy ini bukan
menjelaskan pengaruh variabel dummy terhadap variabel
Y , tetapi akan menjelaskan perbedaan dari variabel tidak
bebas berdasarkan kategori dalam variabel dummy
tersebut
 Jika variabel dummy berkategiri n, maka digunakan
sebanyak (n-1) variabel dummy.
 Masing variabel dummy diberi nilai 0 atau 1.
 Model regresi dengan variabel dummy 2 kategori,
ditulis dengan :
Y=+D+e
 Model regresi dengan 1 variabel bebas dan variabel
dummy 2 kategori, ditulis dengan :
Y=+X+D+e
 Model regresi dengan k variabel bebas dan variabel
dummy 2 kategori ditulis dengan :
Y =  + 1 X1 + 2 X2 + ……….. + k Xk +  D + e
 Model regresi dengan 1 variabel bebas dan variabel
dummy 3 kategori, ditulis dengan :
Y =  +  X + ………….. + 1 D1 + 2 D2 + e
 Model regresi dengan k variabel bebas dan variabel
dummy 3 kategori ditulis dengan :
Y =  + 1 X1 + 2 X2 + ……….. + k Xk + 1 D1 +
2 D2 + e
Contoh variabel dummy 3 kategori

Misalnya :
Pekerjaan : Petani, Pedagang, Pegawai
* Dummy D1
D1 = 1 jika Petani
D1 = 0 jika yang lain
* Dummy D2
D2 = 1 jika pedagang
D2 = 0 jika yang lain
Contoh variabel dummy 3 kategori
Pekerjaan : Petani, Pedagang, Pegawai

Nilai variabel Nilai Variabel

Pekerjaan dummy D2 dummy D1

Petani 1 0

Pedagang 0 1

Pegawai 0 0