rancis Galton, adalah orang yang pertama kali memperkenalkan alat statistik yang

bernama analisis regresi dan analisis korelasi. Ia lahir pada 16 Februari 1822 di
Birmingham, Inggris.
Galton mempelajari hubungan antara tinggi badan
ayah dan anak. Ia mengamati baha tinggi anak yang bera!
sal dari tinggi dan pendek cenderung "mundur #regress$% ke
arah rataan grup. Ia menamakan kecenderungan ini regresi
ke arah "mediokritas #sedang$%. Galton kemudian mengem!
bangkan suatu deskripsi matematis bagi kecenderungan re!
gresi ini.
Istilah regresi tetap bertahan sampai hari ini untuk
menjelaskan hubungan statistik antara dua atau lebih peu!
bah.
&engan mempelajari modul ' ini, (nda memperoleh
pengetahuan tentang beberapa konsep yang terkait dengan
analisis regresi linear sederhana dan analisis korelasi.
)etelah mempelajari modul ini, secara umum, (nda diharapkan dapat membedakan
penggunaan analisis regresi linear sederhana dan analisis korelasi.
)ecara khusus, (nda diharapkan dapat*
1. +embedakan analisis regresi linear sederhana dengan analisis korelasi.
2. +enentukan korelasi linear antara dua peubah
,. +enjelaskan pegertian peubah tak bebas #dependent variables$ dengan peubah
bebas #independent variables$.
-. +enjelaskan asumsi!asumsi yang mendasari analisis regresi linear sederhana
.. +enentukan dan mengartikan penduga inetersep dan slope pada regresi linear
sederhana.
6. +enjelaskan konsep koe/isien determinasi
0. +elakukan uji hipotesis terhadap intersep dan slope pada regresi linear seder!
hana.
)ajian materi modul ini dibagi dalam tiga kegiatan belajar, yaitu*
1egiatan Belajar 1* mencakup hakekat regresi linear, regresi linear sederhana, peubah tak
bebas dengan peubah bebas, asumsi!asumsi dalam regresi linear
1
MODUL
9
ANALISIS REGRESI LINEAR
SEDERHANA DAN KORELASI
Drs. Suwarno, M.Si.
PENDAHULUAN
F
sederhana, pengertian interesep dan slope, konsep koe/isien deter!
minasi.
1egiatan Belajar 2* In/erensi dalam analisis regresi linear sederhana* uji hipotesis interesep
dan slope.
1egiatan Belajar ,* mencakup hakekat korelasi, analisis korelasi, perbedaan analisis kore!
lasi dan analisis regresi linear sederhana.
(gar (nda dapat memahami modul ini dengan baik, sebaiknya (nda bekerja sama
dalam kelompok belajar untuk mendiskusikan dan menyelesaikan kesulitan yang (nda
hadapi ketika mempelajari modul. +ulailah dengan membaca dan mencoba memahami
penjelasan dalam modul disertai dengan catatan!catatan yang (nda anggap perlu. 1erjakan
setiap contoh soal dan latihan, dan melihat penyelesaiannya kemudian setelah (nda selesai
mengerjakan. &emikian juga ketika (nda mengerjakan soal tes /ormati/. 2ika hasil yang
(nda peroleh masih salah, pahami kembali teorinya dan kerjakan kembali soalnya hingga
(nda tidak menemukan kesalahan.
Selamat Belajar, Semoga Berhasl!

2
Kegiatan Belajar 1
Analisis Regresi Linear Sederhana
(nalisis regresi merupakan alat statistik yang meman/aatkan hubungan antara dua
atau lebih peubah kuantitati/ sehingga salah satu peubah bisa diramalkan dari peubah!
peubah lainnya. +isalnya, jika kita tahu hubungan antara kemampuan aal sisa dan
prestasi belajarnya pada tahun pertama di )ekolah +enengah 3ertama #)+3$, maka kita
dapat meramal prestasi belajar sisa melalui analisis regresi jika kemampuan aal sisa
telah kita ketahui.
3ada modul ini, kita akan membahas analisis regresi dengan satu peubah peramal
untuk meramal peubah yang menarik perhatian kita. &i dalam modul ini khususnya, kita
kupas gagasan dasar analisis regresi dan membahas pendugaan paramter!parameter yang
ada di dalam model.
9!"!" H#$#%ga% A%tara Pe#$ah&'e#$ah
1onsep suatu hubungan antara dua peubah, seperti misalnya antara pendapatan keluarga
dan pengeluaran keluarga untuk perumahan, sudah sangat kita kenal. 1ita akan membe!
dakan antara hubungan fungsional dan hubungan statistik, dan akan mengupas masing!
masing itu.
H#$#%ga% F#%gso%al a%tara D#a Pe#$ah
)uatu hubungan /ungsional antara dua peubah dinyatakan melalui suatu rumus matematis.
2ika X peubah bebas (independent variable) dan Y peubah takbebas (dependent variable),
hubungan /ungsional adalah berbentuk*
Y = f(X)
2ika suatu nilai X diketahui, /ungsi f dapat menunjukkan nilai Y padanannya.
(o%toh 9!".1 3erhatikan hubungan antara 4olume penjualan dalam rupiah #Y) sebuah
produk yang dijual pada harga tetap tertentu dan banyaknya unit barang yang terjual #X).
2ika harga jualnya adalah 5p 2.666,! per unit, maka hubungan antara keduanya dapat
dinyatakan oleh persamaan*
Y = 2X
7ubungan /ungsional ini ditunjukkan dalam Gambar '.1. Banyaknya unit terjual dan
4olume penjualan selama tiga periode terakhir #harga jual tetap konstan pada 5p 2.666,! per
unit$ ialah sebagai berikut*
,
Gambar '.1.1 8eladan 7ubungan Fungsional
8abel '.1.1 Banyaknya unit terjual pada setiap periode
3eriode
Banyaknya 9nit
8erjual
:olume 3enjualan
#5ibuan 5upiah$
1
2
,
0.
2.
1,6
1.6
.6
266
(matan!amatan ini kemudian diplotkan dalam Gambar '.1.1 3erhatikan baha semua titik
amatan jatuh tepat pada garis hubungan /ungsional. Inilah ciri hubungan /ungsional.
H#$#%ga% Statst) a%tara D#a Pe#$ah
7ubungan statistik, tidak seperti /ungsional, tidaklah sempurna. 3ada umumnya, amatan!
amatan untuk suatu hubungan statistik tidak jatuh tepat pada kur4a hubungan tersebut.
(o%toh 9!"!*! )uatu penelitian ingin mengetahui hubungan antara 3erhatian ;rang 8ua
#3;8$ dengan 3restasi Belajar )isa. 8abel '.1.1. mencantumkan data skore 3;8 dan
prestasi belajar sisa untuk 16 sisa yang dipilih secara acak dari suatu sekolah. &ata ini
diplotkan dalam Gambar '.1.2a. 3restasi belajar sisa diambil sebagai peubah takbebas
atau peubah respons Y, sedangkan skore 3;8 sebagai peubah bebas atau peubah peraal
X. 3engeplotannya dilakukan seperti sebelumnya. )ebagai misal, sisa pertama diplotkan
sebagai X = ,6, Y < --.
-
300
200
100
50 100 0 X
Y
Ribuan Rp
Unit terjual
Y = 2X
Gambar '.1.2 7ubungan )tatistik antara 3;8 dan 3restasi Belajar )isa
Gambar '.1.2a secara jelas mengindikasikan adanya suatu hubungan antara skore 3;8
dengan prestasi belajar sisa, dalam pengertian baha semakin besar skore 3;8, semakin
besar pula prestasi belajarnya. (kan tetapi, hubungan ini tidak sempurna. 8itik!titiknya
agak memencar, menunjukkan baha ada keragaman prestasi belajar yang tidak bisa
dijelaskan oleh skore 3;8. +isalnya, dua sisa runtutan #1 dan 8$ yang sama!sama
memiliki skore 3;8 ,6, namun keduanya memiliki prestasi belajar yang sedikit berbeda.
1arena perpencarannya titik!titik di dalam suatu hubungan statistik, maka Gambar '.1.2a
dinamakan diagra pen!ar atau plot pen!ar. &alam terminologi statistika, setiap titik
dalam diagram pencar menyatakan suatu tindakan (trial) atau suatu kasus.
&alam Gambar '.1.2b, kita telah memplot suatu garis yang menggambarkan
hubungan statistik antara prestasi belajar sisa dengan 3;8. Garis ini mengindikasikan
kecenderungan umum ber4ariasinya prestasi belajar sisa berkaitan dengan berubahnya
skore 3;8. 3erhatikan baha sebagian besar titik tidak jatuh tepat pada garis hubungan
statistik tersebut. 3erpencaran titik!titik di sekitar garis ini menggambarkan keragaman
prestasi belajar sisa yang tidak ada kaitannya dengan skore 3;8 dan biasanya dianggap
bersi/at acak. 7ubungan statistik bisa sangat berman/aat, alaupun hubungan semacam ini
tidak memiliki kepastian seperti halnya hubungan /ungsional.
(o%toh 9!"!+! Gambar '.1.,. menyajikan data umur dan kandungan sejenis steroid di dalam
plasma untuk 10 perempuan sehat yang berumur antara 8 dan 2. tahun. &ata ini
mengindikasikan adanya suatu hubungan statistik yang kurvilinear #tidak linear$. 1ur4a ini
mengimplikasikan baha sejalan dengan semakin tingginya umur, kandungan steroid naik
sampai suatu titik tertentu dan kemudian mulai menurun. 3erhatikan sekali lagi
memencarnya titik!titik di sekitar kur4a hubungan statistik ini, yang tipikal pada semua
hubungan statistik.
.
80 70 60 50 40 30 20
100
90
80
70
60
50
40
X
Y
80 70 60 50 40 30 20
105
95
85
75
65
55
45
35
X
Y
R-Sq= 0.975
Y=15.5941 1.09412X
Re!re""i#n$l#t
a b
Gambar '.1.,. 7ubungan )tatistik 1ur4ilinear antara 9mur dan 1andungan )teroid pada
3erempuan )ehat Berumur 8 sampai 2..
9!"!*! Mo,el Regres ,a% Keg#%aa%%-a
Ko%se' Dasar
+odel regresi merupakan suatu cara /ormal untuk mengekspresikan dua unsur penting
suatu hubungan statistik *
1. )uatu kecenderungan berubahnya peubah tidak bebas Y secara sistematis sejalan dengan
berubahnya peubah besar X.
2. 3erpencaran titik!titik di sekitar kur4a hubungan statistik itu.
1edua ciri ini disatukan dalam suatu model regresi dengan cara mempostulatkan baha *
1. (da suatu rencana peluang peubah Y untuk setiap tara/ #level$ peubah X.
2. 5ataan sebaran!sebaran peluang berubah secara sistematis sejalan dengan berubahnya
nilai peubah X.
(o%toh 9!"!.! +isalkanlah Y menyatakan prestasi belajar sisa dan X menyatakan skore
perhatian orang tua #3;8$. &alam hal ini di dalam model regresi peubah Y diperlakukan
sebagai suatu peubah acak. 9ntuk setiap skore perhatian orang tua, ada sebaran peluang
bagi Y. Gambar '.1.-. menunjukkan sebaran peluang demikian ini untuk X < ,6, yaitu skore
3;8 sebesar ,6. 8abel '.1.1. =ilai amatan Y yang sesungguhnya #-- dalam contoh kita ini$
dengan demikian dipandang sebagai suatu amatan acak dari sebaran peluang ini.
6
0 10 15 20 25 5 X
Y
5
10
15
20
25
30
%in!&at
Ster#i'
U(ur )t*+

S&#re $,%
X
70
50
30
0 $re"ta"i -elajar
.i"tribu"i $eluan! ba!i Y
/ari" Re!re"i
Gambar '.1.-. 5epresentasi Gambar bagi +odel 5egresi >inear
Gambar '.1.-. juga menunjukkan sebaran peluang Y untuk ukuran lot X < .6 dan X
< 06. 3erhatikan baha rataan sebaran!sebaran peluang ini mempunyai hubungan yang
sistematis dengan tara/!tara/ peubah X. 7ubungan sistematis ini dinamakan fungsi regresi Y
terhadap X. Gra/ik /ungsi regresi ini dinamakan kurva regresi. 3erhatikan baha /ungsi
regresi dalam Gambar '.1.-. adalah linear. Ini berimplikasi untuk contoh kita baha
prestasi belajar sisa rata!rata ber4ariasi secara linear dengan skore 3;8. 8entu saja tidak
ada alasan apriori mengapa prestasi belajar sisa mempunyai hubungan linear dengan
skore 3;8.
&ua model regresi mungkin saja berbeda dalam hal bentuk /ungsi regresinya, dalam
hal bentuk sebaran peluang bagi peubah ?, atau dalam hal lainnya lagi. (papun
perbedaannya, konsep sebaran peluang bagi ? untuk @ yang diketahui merupakan
pasangan /ormal bagi diagram pencar dalam suatu relasi statistik. Begitu pula, kur4a
regresi, yang menjelaskan hubungan antara rataan sebaran!sebaran peluang bagi ? dengan
@, merupakan pasangan /ormal bagi kecenderungan umum ber4ariasinya ? secara
sistematis terhadap @ dalam suatu hubungan statistik.
(atata% /
9ngkapan "peubah bebas% atau "peubah peramal% bagi @ dan "peubah takbebas% atau
"peubah respons% bagi ? dalam suatu model regresi adalah kebiasaan saja. 8idak ada
implikasi baha ? bergantung secara kausal pada @. Betapa pun kuatnya suatu hubungan
statistik, ini tidak berimplikasi adanya hubungan sebab!akibat. &alam kenyataannya, suatu
peubah bebas mungkin saja sesungguhnya bergantung secara kausal pada peubah
responsnya, seperti bila kita menduga suhu #respons$ dari tinggi air raksa #peubah bebas$
dalam suatu termometer.
Be%t#) F#%gso%al H#$#%ga% Regres
3emilihan bentuk /ungsional hubungan regresi terkait dengan pemilihan peubah bebasnya.
(da kalanya, teori bilang ilmu bersangkutan bisa menunjukkan bentuk /ungsional yang
cocok. 8eori belajar, misalnya, mungkin mengindikasikan baha /ungsi regresi yang
menghubungkan biaya produksi dengan berapa kali suatu item tertentu telah pernah muncul
harus memiliki bentuk tertentu dengan si/at!si/at asimtotik tertentu pula.
?ang lebih sering dijumpai adalah baha bentuk /ungsional hubungan regresi
tersebut tidak diketahui sebelumnya, sehingga harus ditetapkan setelah datanya diperoleh
dan dianalisis. ;leh karenanya, /ungsi regresi linier atau kuadratik sering digunakan
sebagai suatu hampiran yang cukup memuaskan bagi /ungsi regresi yang tidak diketahui
bentuknya. Bahkan, kedua jenis /ungsi regresi yang sederhana itu masih juga sering
digunakan meskipun teori yang mendasarinya menunjukkan bentuk /ungsionalnya,
terutama bila bentuk /ungsional yang ditunjukkan oleh teori terlalu rumit namun secara
logis bisa dihampiri oleh suatu /ungsi linier atau kuadratik.
(a)#'a% Mo,el! 1etika mem/ormulasikan suatu model regresi, kita biasanya harus
membatasi cakupan model ke suatu selang atau daerah nilai!nilai tertentu peubah bebasnya.
0
Aakupan ini ditentukan oleh rancangan penelitian atau oleh jangkauan data yang tersedia.
+isalnya, sebuah perusahaan yang mempelajari pengaruh harga terhadap 4olume penjualan
menyelidiki enam tingkat harga, mulai dari 5p -.'.6,! sampai 5p 6.'.6,!. &isini cakupan
model akan dibatasi pada harga!harga yang berkisar dari dekat 5p ..666,! ke dekat 5p
0.666,!. Bentuk /ungsi regresi akan cukup meragukan di luar kisaran harga ini sebab
penelitian tidak memberikan in/ormasi mengenai si/at hubungan statistik di baah 5p
-.'.6,! dan di atas 5p 6.'.6,!.
Keg#%aa% A%alss Regres
(nalisis regresi mempunyai tiga kegunaan utama* #1$ deskripsi, #2$ kontrol atau kendali,
dan #,$ peramalan. 1etiga kegunaan itu telah diilustrasikan oleh ketiga contoh yang telah
dikemukakan di atas. )tudi tentang pembelian traktor mempunyai tujuan deskripsi. &alam
studi biaya pengoperasian kantor cabang, tujuannya adalah pengendalian administrasiB
dengan mengembangkan suatu hubungan statistik yang berman/aat antara biaya dengan
peubah!peubah bebas di dalam sistem itu, maka pihak menejemen berhasil menetapkan
biaya standart untuk setiap kantor cabang. &alam studi medis terhadap anak!anak pendek,
tujuannya adalah peramalan. &okter dapat menggunakan hubungan statistik untuk
meramalkan kekurangan hormon pertumbuhan pada anak!anak pendek dengan
menggunakan indikator!indikator sederhana yang mudah diukur.
&i dalam praktek, beberapa kegunaan regresi sering ditemukan dalam suatu analisis regresi,
misalnya ialah contoh hubungan 3;8 dengan prestasi belajar sisa. 3engetahuan
mengenai hubungan antara skore 3;8 dengan prestasi belajar sisa, di masa datang dapat
digunkan untuk memberikan pengetahuan pada orang tua baha anaknya perlu
mendapatkan perhatian dalam belajarnya, jika ingin anaknya mempunyai prestasi belajar
yang cukup baik.
9!"!+ Mo,el Regres L%ear Se,erha%a ,e%ga% se$ara% S#)#&s#)# Galat 0,a)
D)etah#
Mo,el
3ada 1egiatan Belajar I ini, kita akan membahas suatu model regresi dasar yang
melibatkan hanya satu peubah bebas dan /ungsi regresinya linear. (dapun model
regresinya dapat dituliskan sebagai berikut*
?
i
<
6
C
1
@
i
C
i
#'.1.1$
&alam hal ini *
?
i
adalah nilai perubahan respons dalam amatan ke!i

6
dan
1
adalah parameter
@
i
adalah konstanta yang diketahui, yaitu nilai peubah bebas dari amatan ke!i

1
adalah suku galat yang bersi/at acak dengan rataan DE
i
F < 6 dan ragam
2
E
i
F <
2
B

i
dan
j
tidak berkorelasi sehingga peragam (!ovarian!e$ E
I
,
j
F < 6 untuk semua i, "#
i "
8
i < 1, 2, . . . ., n
+odel regresi #'.1.1$ dikatakan sederhana, linear dala paraeter, dan linier dala
peubah bebas. &ikatakan "sederhana% karena hanya ada satu peubah bebas, "linear
dalam parameter% karena tidak ada parameter yang muncul sebagai salah satu eksponen
atau dikalikan atau dibagi oleh parameter lain, dan "linear dalam peubah bebas% sebab
peubah ini di dalam model berpangkat satu. +odel yang linear dalam parameter dan
linear dalam peubah bebas juga dinamakan odel ordo$pertaa.
(r&(r Pe%t%g Mo,el
1. =ilai ?i teramati pada amatan ke!i merupakan jumlah dua komponen * #1$ suku
konstan
6
C
1
@
i
dan #2$ suku galat
i
. 2adi ?
i
adalah suatu peubah acak.
2. 1arena %E
i
F < 6, maka kita peroleh *
%E?
i
F < %E
6
C
1
@
i
C
i
F <
6
C
1
@
i
C %E
i
F <
6
C
1
@
i
3erhatikan baha
6
C
1
@
i
memainkan peranan sebagai konstanta. 2adi, respons ?
i
bila nilai @ pada amatan ke!i adalah @
i
berasal dari suatu sebaran peluang yang
rataannya adalah *
%E?
i
F <
6
C
1
@
i
#'.1.2$
oleh karena itu kita peroleh /ungsi regresi bagi model #'.1.1$, yaitu *
%E?F <
6
C
1
@ #'.1.,$
1arena /ungsi regresi menghubungkan rataan sebaran peluang bagi ? untuk @
tertentu dengan nilai @ itu sendiri.
,. =ilai teramati ? pada amatan ke!i lebih besar atau lebih kecil daripada nilai /ungsi
regresi dengan selisih sebesar
i
.
-. )etiap suku galat
i
diasumsikan mempunyai ragam yang sama
2
. oleh karenanya,
respons ?
i
mempunyai ragam yang sama pula *

2
E?
i
F <
2
#'.1.-$
1arena, berdasarkan si/at 4ariansi, kita memperoleh *

2
E
6
C
1
@
i
C
i
F <
2

E
i
$ <
2
2adi, model regresi #'.1.1$ mengasumsikan baha sebaran peluang bagi ?
mempunyai ragam yang sama
2
, tidak tergantung pada nilai peubah bebas @.
.. )uku!suku galat diasumsikan tidak berkorelasi. ;leh karenanya, hasil dari setiap
amatan manapun yang mempengaruhi galat dari amatan lain yang manapun baik
posoto/ atau negati/, kecil atau besar. 1arena galat,
i
dan
j
tidak berkorelasi, maka
begitu juga dengan respons ?
i
dengan ?
j
.
'
6. 5ingkasan model regresi #'.1.1$ mengimplementasikan baha peubah respons ?
i
bersal dari sebaran peluang dengan rataan %E?
i
$ <
6
C
1
@
i
dan ragam
2
yang
sama untuk semua nilai @. lebih lanjut, dua amatan sembarang ?
i
dan dan ?
j
tidak
berkorelasi.
(o%toh 9!"!1!
+isalkan baha model regresi #'.1.1$ dapat diterapkan pada Aontoh 7ubungan )kore
3erhatian ;rang 8ua dengan 3restasi Belajar )isa dan model itu ialah sebagai berikut*
?
i
< 1..6 C 1.6'@
i
C
i
3ada Gambar '.1.. dapat dilihat /ungsi regresi *
%E?F < 1..6 C 1.6'@
Gambar '.1..
+isalnya baha suatu skore 3;8 @
i
< -6 dan ternyata prestasi belajar sisa yang
teramati ialah ?
1
< 62. maka galatnya ialah
I
< C2.8 sebab
%E?
1
$ < 1..6 C 1.6'#-6$ < .'.2
dan
?
i
< 62 < .'.2C2.8
Gambar '.1.. memperlihatkan sebaran peluang bagi ? untuk @< -6, dan
memperlihatkan dari mana di dalam sebaran ini amatan ?
1
< 62 beasal. 3erhatikan
sekali lagi baha suku galat
I
tidak lain adalah simpangan ?
i
dari nilai rataannya
%#?
i
$.
16
Y
1
= 62
(Y
1
) = 2.8
E(Y
1
) = 59.2
E(Y) =15.6 +1.09X
20 40 X
Skore POT
Gambar '.1.. juga memperhatikan sebaran peluang bagi ? bila @ < 26. 3erhatikan
baha sebaran ini mempunyai ragam yang sama seperti sebaran peluang bagi ? untuk
@ < -., sesuai dengan persyaratan model regresi #'.1.1$.
Ma)%a Parameter Regres
1edua parameter
6
dan
1
dalam model regresi #'.1.1$ dinamakan koefisien regresi.
1
adalah kemiringan #slope$ garis regresi. 1emiringan menunjukkan perubahan rataan
sebaran peluang bagi ? untuk stiap kenaikan @ satu satuan. 3arameter
6
adalah nilai
intersep ? garis regresi tersebut. Bila cakupan model tidak mencakup @ < 6, maka
6
tidak mempunyai makna.
(o%toh 9!"!2/ Gambar '.1.6 memperlihatkan /ungsi regresi *
%#?$ < 1..6 C 1.6'@
bagi contoh hubungan 3;8 dengan prestasi belajar sisa. 1emiringan
1
< 1.6'
menunjukkan baha kenaikan skore 3;8 satu satuan akan menaikkan rataan sebaran
peluang bagi ? sebesar 1.6'.
Gambar '.1.6. Fungsi regresi %#?$ < 1..6 C 1.6'@
Intersep
6
< 1..6 menunjukkan nilai /ungsi pada @ < 6. (kan tetapi, karena
model regresi linear ini di/ormulasikan untuk diterapkan pada skore 3;8 yang berkisar
antara 26 sampai 86, maka dalam hal ini
6
tidak mempunyai makna. 1hususnya,
parameter ini tidak berarti bisa diartikan sebagai rata!rata prestasi belajar sisa bila
tidak mendapatkan perhatian oranmg tua sama sekali. )uatu model dengan /ungsi
regresi kur4ilinear dan satuan nilai
6
yang berbeda daripada yang ada di dalam model
linear ini mungkin diperlukan cakupan model yang diperluas sampai nol.
11
.6
?
6
16 26 ,6
-6 G
%#?$ < 1..6 C 1.6' @

1
< 1.6'
1emirinagn @

6
< 1..6
)kore 3;8
3restasi Belajar
9!"!. Pe%,#gaa% F#%gs Regres
1ita coba perhatikan Aontoh hubungan )kore 3erhatian ;rang 8ua #3;8$ dengan
3restasi Belajar )isa untuk mengilustrasikan pendugaan /ungsi regresi linear
sederhana. &ata obser4asional untuk runtutan sisa yang teramati, yaitu skore 3;8
#@$ dan prestasi belajar sisa disajikan dalam 8abel '.1. 1ita akan melambangkan
amatan #@, ?$ dari tindakan pertama sebagai #@
1
, ?
1
$ untuk tindakan kedua sebagai
#@
2,
?
2
$ dan secara umum untuk tindakan ke!i sebagai #@
i
, ?
i
$, dengan i < 1, 2, . . . ., n.
9ntuk data dalam 8abel '.1, @
1
< ,6, ?
1
< -6, dan seterusnya, dan n < 16.
8abel '.1.2 &ata )kore 3erhatian ;rang 8ua #3;8$ dan 3restasi Belajar )isa
R#%t#ta% )e& I S)ore PO0 3

Prestas Belajar 4

1
2
,
-
.
6
0
8
'
16
,6
26
66
86
-6
.6
66
,6
06
66
--
,8
80
'8
62
06
86
-0
'2
8.
Meto,e K#a,rat 0er)e5l
9ntuk mendapatkan penduga yang "baik% bagi parameter regresi
6
dan
1
kita akan
menerapkan metode kuadrat terkecil. 9ntuk setiap amatan sampel#@
i
, ?
i
$, metode
kuadrat terkecil akan menggunakan simpangan ?
i
dari nilai harapannya *
?
i
H #
6
C
1
@
i
$ #'.1.0$
>ebih tepatnya metode kuadrat terkecil akan menggunakan jumlah n simpangan
kuadrat. 1riterium ini dilambangkan sebagai & *
& < ( )
2
1 6
1
i i
n
i
X Y

#'.1.8$
12
+enurut metode kuadrat terkecil, penduga bagi
6
dan
1
ialah nilai!nilai b
6
dan b
1
yang meminimumkan kriterium & untuk data amatan yang dimiliki.
(o%toh 9!"!1! Gambar '.1.0a mengulang kembali diagram pencar data dalam 8abel
'.1.1 untuk Aontoh hubungan skore 3;8 dengan 3restasi Belajar )isa. &alam
Gambar '.1.0b diplotkan garis regresi suaian #fitted regression line$ dengan
menggunakan nilai dugaan sembarang berikut*
Gam$ar 9!"!9)trategi untuk (nalisis 5egresi
+isalkanlah baha*
b
'
< ,6 b
1
< 6
1,
80 70 60 50 40 30 20
100
90
80
70
60
50
40
X
Y
5e4isi model
regresi atau
bangun model
baru
+ulai
(nalisis &ata
Dksplorasi
analysis
Bangun satu
atau lebih
model regresi
Identi/ikasi
model yang
palik sesuai
suitable model
Buat in/erensi
berdasar model
regresi
)elesai
8&1
?(
(pakah
satu atau
lebih model regresi
tsb cocok untuk
dataI
maka simpangan dari garis regresi ialah ?
i
H ,6 H #6$@
i
. 3erhatikan baha setiap
simpangan digambarkan sebagai jarak 4ertikal antara y
i
dengan garis regresi suaian.
8ampak jelas baha garis ini kurang cocok #kurang pas$ bagi data tersebut. Ini
tercermin dari besarnya simpangan!simpangan. )impangan yang besar membuat
simpangan kuadrat juga besar. 2umlah simpangan kuadrat & ialah *
& < #--!,6$
2
C #,8 H ,6$
2
C . . . . C#8. H ,6$
2
< 26-1.
=ilai ini jelas cukup besar.
)ekarang perhatikan jika b
6
< 1. dan b
1
< 1... Garis ini lebih cocok #namun masih
belum baik$, simpangan Hsimpangan sudah jauh lebih kecil, sehingga jumlah
simpangan!simpangan kuadrat berkurang menjadi & < -.-.. Ini berarti garis regresi
yang lebih cocok menghasilkan & yang lebih kecil.
8ujuan metode kuadrat terkecil adalah menemukan nilai dugaan b
6
dan b
1
yang
menghasilkan & minimum. &alam pengertian tertentu, yang segera akan kita bahas,
nilai dugaan itu akan menghasilkan /ungsi regresi linier yang "baik%.
Pe%,#ga K#a,rat 0er)e5l. 3enduga b
6
dan b
1
yang memenuhi kriterium kuadrat
terkecil dapat ditemukan dalam dua cara berikut. 3ertama, digunakan suatu prosedur
pencarian numerik. 3rosedur ini untuk berbagai nilai dugaan b
6
dan b
1
yang berbeda
sampai diperoleh nilai dugaan yang meminimumkan &. 3endekatan kedua adalah
menemukan nilai!nilai b
6
dan b
1
secara analitis yang meminimumkan &. 3endekatan
analitis mungkin dilakukan bila model regresinya secara sistematis tidak terlalu rumit,
seperti halnya di sini. &apat diperlihatkan nilai!nilai b
6
dan b
1
yang meminimumkan &
untuk data sampel yang dimiliki diberikan oleh sistem persamaan linear berikut *
i i
X b nb ( + =
1 6
#'.1.'a$
2
1 6 1 i i i
X b X b Y X + = #'.1.'b$
3ersamaan #'.1.'a$ dan #'.1.'b$ dinamakan persaaan noralB b
6
dan b
1
dinamakan
penduga titik (point estiator) bagi
6
dan
1
.
Besaran!besaran ?
i
, @
i
, dan seterusnya di dalam #'.1.'$ dihitung dari amatan!
amatan sampel#@
i
, ?
i
$. &engan demikian, kedua persamaan itu bisa diselesaikan. 9ntuk
memperoleh b
6
dan b
1
bisa dihitung secara langsung menggunakan rumus *
( )
( ) ( )
( )
1 2 2
2
i i
i i
i i
i
i
i
X Y
X Y
X X Y Y
n
b
X X X
X
n



= =


#'.1.16a$
( )
6 1
1
i i i
b Y b X Y b X
n
= = #'.1.16b$
dalam hal ini
X
dan
Y
berturut!turut adalah rataan @
i
dan rataan ?
i
.
1-
3ersamaan normal #'.1.'$ dapat diturunkan secara kalkulus. 9ntuk suatu data amatan
#@i, ?i$, besaran J dalam #'.1.8$ merupakan suatu /ungsi
6

dan
1
yang meminimumkan
J dapat diturunkan dengan cara mendi/erensialkan #'.1.8$ terhadap
6

dan
1
. 1ita
peroleh*
6 1
6
2 # $
i i
&
Y X

6 1
1
2 # $
i i i
&
X Y X

)elanjutnya kedua turunan parsial ini disamakan dengan nol, dan dengan menggunakan
6
b
dan
1
b untuk menyatakan
6

dan
1
yang meminimumkan J, maka*

6 1
# $ 6
i i
Y X =

6 1
# $ 6
i i i
X Y X =

)istem persamaan ini dinamakan persamaan normal. &engan menyelesaikan

persamaan!persamaan normal ini diperoleh*
1 2 2
# $# $
# $
i i i i
i i
n X Y X Y
b
n X X

6 1
b Y b X =
5umus terakhir ini merupakan 4ersi lain dari rumusan yang telah disajikan di depan,
namun akan menghjasilkan nilai yang sama #pembaca dapat membuktikannya$.
3enduga kuadrat terkecil ini ialah penduga tak bias dan merupakan /ungsi linear
dari
i
Y
, yaitu*
a.
6 6
# $ % b =
dan
1 1
# $ % b = #jadi merupakan penduga tak bias$.
b.
1 2 2
# $# $
# $
i i i i
i i
n X Y X Y
b
n X X

2
# $
# $
i i
i i
i
X X Y
k Y
X X

= =

dimana*

2
# $
# $
i
i
i
X X
k
X X

6
1
i i i i i
b Y X k Y bY
n
= =

dimana*

1
# $
i i
b Xk
n
=
#jadi baik
1
b maupun
6
b
merupakan kombinasi linear atau /ungsi linear dari
i
Y
$.
1.
Latha% "
1. 8abel di baah ini menyajikan skore moti4asi belajar +atematika #@$ dan prestasi
belajar +atematika #?$ dari 26 sisa yang dipilih secara acak dari suatu sekolah
menengah pertama.
@ 08 66 .0 -6 .' 06 6. 66 68 .8 -- ,8 06 66 6. 68 .6 0- -6 .-
? 8. 06 6. -. 08 8' .6 66 0. .6 .6 -6 80 0. 08 86 -. '6 .6 .8
a. Gambarkan diagram pencar untuk data di atasK
b. 8entukan nilai dugaan koe/isien regresi b
)
dan b
'
K
c. 8uliskan persamaan regresi dugaannyaK
d. Gambarkan garis regresi dugaan tersebut pada gambar diagram pencar pada soal aK
2. )uatu penelitian telah dilakukan untuk menentukan hubungan antara peubah bebas @
dan peubah tak bebas ?. &ata hasil penelitian telah dihitung dan didapatkan hasil
sebagai berikut* B B B B B
n<12.
a. 8entukan nilai dugaan b
)
dan b
'
K
b. 8uliskan persamaan regresi dugaannyaK
Ra%g)#ma%
7ubungan statistik antara peubah babas @ dan peubah tak bebas ? telah kita pelajari di
muka. (nalisis regresi mempelajari hubungan antara rerata semua ? yang berkaitan dengan
@ tertentu. &alam analisis regresi sederhana kita menganggap baha hubungan antara @
dan ? berbentuk garis lurus yaitu*
+ + = X Y
1 6 B dimana

merupakan suku galat yang bersi/at acak.

&engan metode kuadrat terkecil kita duga persamaan regresi tersebut berdasarkan data
berpasangan #X
i
, Y
i
$ i<1, 2, ,, ..., n. (dapun rumus dugaan dari koe/isien regresi tersebut
adalah*

2 2
1
$ #
$ $# #

=
i i
i i i i
X X n
Y X Y X n
b
, dan
X b Y b
1 6
=
.
&ari nilai dugaan koe/isien regresi tersebut di atas didapatkan penduga garis regresi sebagai
berikut*
X b b Y
1 6
L
+ =
.
16
1ita ketahui baha penduga!penduga di atas merupakan penduga tak bias.
0es Format6 "
1erjakanlah semua soal di baah ini, dengan cara menemukan satu pilihan jaaban yang
paling tepatK
(. 3ada tabel di baah ini, data menunjukkan harga @ yang menyatakan tingkat
kenyamanan guru dalam lingkungannya bekerja, dan ? yang menyatakan moti4asi guru
dalam untuk meningkatkan kinerjanya dalam memberikan pembelajaran terhadap
sisanya.
@ ', '6 168 86 '2 86 '6 110 '. '2 '6 168 '2
? 0, 6' 8, .- 60 .1 06 8. 08 0- 06 0' 68
Bila masalah tersebut didalam regresi dimodelkan dengan model regresi linear*
+ + = X Y
1 6
, maka*
1. =ilai dugaan untuk b
1
adalah*
a. 1,268
b. 6,''8
c. 6,8'8
d. 6,''8
e. !1,268
2. =ilai dugaan untuk b
6
adalah*
a. !2.,1,1
b. !1.,1,2
c. !.,,21
d. 1,82.
e. .,,21
,. 9ntuk X
k
<166 maka nilai dugaan bagi Y
k
yaitu
k
Y
L
sama dengan*
a. 8-,-0'
b. 86,,-.
c. 06,68-
d. 0-,668
e. 60,86-
-. 9ntuk X
k
<86 maka nilai dugan bagi Y
k
yaitu
k
Y
L
sama dengan*
a. .6,068
b. 6.,608
c. -.,086
d. .-,068
10
e. 6.,068
.. ;leh sebab itu untuk X
k
<86, maka didapatkan nilai galat #residu$ e
k
sama dengan*
a. 0,.68
b. .,068
c. !.,068
d. !6,086
e. !0,860
B. &ata pada tabel di baah ini menunjukkan nilai @ yang menyatakan skore total dalam
ujian masuk di suatu sekolah, dan ? yang menyatakan nilai tes pelajaran Fisika dari
sampel randon 26 sisa tahun pertama pada sekolah tersebut.
@ ., ,6 88 8- 86 6- -. -8 ,' 60
? -. -, 8' 0' 8- 66 -' -8 -, 06
@ .- 0, 6. 2' .2 22 06 ,2 .1 ,0
? .' 00 .6 28 .1 20 06 ,- 66 ,2
Bila masalah tersebut didalam regresi dimodelkan dengan model regresi linear*
+ + = X Y
1 6
, maka*
6. =ilai dugaan untuk b
1
adalah*
a. 6,'-,
b. 6,0-'
c. 6,6-,
d. 6,-0'
e. 6,,'-
0. =ilai dugaan untuk b
6
adalah*
a. 6,'-,
b. ,,881
c. -,18-
d. 6,18-
e. 8,-18
8. 9ntuk @
k
<86 maka nilai dugaan bagi ?
k
yaitu
k
Y
L
sama dengan*
a. 8-,-0'
b. 0',62-
c. 06,62-
d. 6',188
e. 66,62-
'. 9ntuk X
k
<6- maka nilai dugan bagi Y
k
yaitu
k
Y
L
sama dengan*
a. ,-,.,6
b. ,.,6.,
18
c. -.,,6.
d. .-,.,6
e. 6-,.,6
16. ;leh sebab itu untuk X
k
<6-, maka didapatkan nilai galat #residu$ e
k
sama dengan*
a. 6,-2-
b. -,-6-
c. -,26-
d. 2,-6-
e. 1,-6-
Bal)a% ,a% 0%,a) La%j#t
Aocokkanlah jaaban (nda dengan 1unci 2aaban 8es Formati/ 1 yang terdapat di
bagian akhir +odul ini. 7itunglah jaaban (nda yang benar. 1emudian gunakan rumus di
baah ini untuk mengetahui tingkat penguasaan (nda terhadap materi 1egiatan Belajar 1.
5umus*
M 166
16
=
benar (ang *nda "awaban +ulah
,enguasaan -ingkat
(rti tingkat penguasaan yang (nda dapat*
'6M ! 166M < baik sekali
86M ! 8'M < baik
06M ! 0'M < cukup
N 06M < kurang
Bila (nda mencapai tingkat penguasan 86M atau lebih, (nda dapat meneruskan
dengan 1egiatan Belajar selanjutnya. Bag#s7 8etapi bila tingkat penguasaan (nda masih di
baah 86M, (nda harus mengulangi 1egiatan Belajar 1, terutama bagian yang belum (nda
kuasai.
1'