INTEGRAL, Vol. 8 No.

1, April 2003

11
PENAKSIR MAKSIMUM LIKELIHOOD
BAGI MODEL PROBIT DAN MODEL
PROBIT BIVARIAT

Benny Yong
Jurusan Matematika, Fakultas Matematika dan Ilmu Pengetahuan Alam
Universitas Katolik Parahyangan, Bandung 40141
E-mail : benny-y@home.unpar.ac.id

Intisari
Tulisan ini menyajikan bagaimana mencari penaksir bagi model probit dan
model probit bivariat , yaitu dengan metode maksimum likelihood .

Abstract
This paper describes how to find the estimator for a probit model and for a
bivariate probit model by maximum likelihood method .

Diterima :19 Februari 2003
Disetujui untuk dipublikasikan : 7 Maret 2003

I. Metode Maksimum Likelihood
Misalkan
n
X X X ,..., ,
2 1

menyatakan peubah acak yang
saling bebas dengan fungsi padat
peluangnya dinyatakan oleh
( ) θ ,
i
x f , dengan θ adalah
parameter yang akan ditaksir
dengan metode maksimum
likelihood. Maka fungsi padat
peluang gabungannya adalah :

( ) ( ) ( ) ( )
( )

·
·
n
i
n n
x f
x f x f x f x x x f
1
2 1 2 1
,
, ... , . , ; ..., ,
θ
θ θ θ θ

= ( )
n
x x x L ,..., ,
2 1
θ

=
( ) θ L
(disebut like-
lihood function)
Taksiran maksimum likelihood
untuk θ adalah nilai θ yang
memaksimumkan L . Nilai θ yang
memaksimumkan L adalah sama
dengan nilai θ yang
memaksimumkan L ln .

II. Model Probit
Model probit adalah model tak
linear ya ng menggunakan
bilangan biner (peubah dummy
) sebagai peubah takbebasnya
dan mengandaikan faktor
disturbance ( galat )
i
µ
berdistribusi normal ( )
2
, 0 σ N .
Peubah dummy yang dimaksud
disini adalah jenis peubah
diskret yang mempunyai dua
nilai.

Misalkan ada peubah respons
*
i
Υ
yang menunjukkan sentimen atau
perasaan individu terhadap suatu
hal , contohnya sikap seseorang
terhadap suatu par tai tertentu .
Peubah respons ini dipengaruhi
oleh berbagai karakteristik individu
dan kondisi lingkungan sehingga
persamaan
*
i
Υ dapat
dituliskan sebagai
*
i
Υ =
INTEGRAL, Vol. 8 No. 1, April 2003

12
i i
µ β + Χ
'
, dengan
'
β adalah
vektor koefisien dan
i
Χ adalah
vektor peubah bebas.

*
i
Υ tidak dapat diamati tetapi kita
dapat mengamati tindakan / pilihan
tindakan individu bila
*
i
Υ
melewat i batas tertentu . Misalkan
, jika
*
i
Υ > 0, maka 1 · Υ
i
dan
jika 0
*
≤ Υ
i
, maka 0 · Υ
i
. Dari
hal tersebut diperoleh:


( ) ( ) ( )
( )
( )
( )
i
i
i i
i i i i
F
F
P
P P P
Χ ·
Χ − − ·
Χ − > ·
> + Χ · > Υ · · Υ
'
'
'
' *
1
0 0 1
β
β
β µ
µ β

Demikian pula untuk 0 · Υ
i
, diperoleh: ( ) ( )
i i
F P Χ − · · Υ
'
0 β = ( )
i
F Χ −
'
1 β ,
dengan ( ) dt e F
i
t
i

Χ

∞ −

· Χ −
σ
β
π
β
'
2
2
1
'
2
1
dan ( )
i
F Χ −
'
β berdistribusi normal
( ) 1 , 0 N .

Model dengan peluang sukses ( )
i
x F
'
β dengan n pengamatan yang saling bebas
memberikan fungsi kemungkinannya sebagai berikut :
( ) · · Υ · Υ · Υ
n n
y y y P , ... , ,
2 2 1 1
( ) ( ) ( ) ( )
∏ ∏
· ·

0 1
' '
1
i i
y y
i i
x F x F β β
yang dapat ditulis sebagai : ( ) ( ) [ ]


− ·
n
y
i
y
i
i i
x F x F L
1
1
' '
1 β β .
Dengan melogaritmakan fungsi kemungkinannya diperoleh:
( ) ( ) ( ) ( )
∑ ∑
− − + ·
n n
i i i i
x F y x F y L
1 1
' '
1 ln 1 ln ln β β
Kemudian untuk memaksimumkannya dihasilkan :

( ) ( ) ( ) ( )
( ) ( ) ( )
( )
( ) ( )
( ) ( ) ( )
( ) 0
1
1
1 1 ln
1
'
' '
'
'
1
' '
' '
·


·

− − −
·




i
n
i
i i
i i
i i
n
i i
i i i i
x x f
x F x F
x F y
x x f
x F x F
x F y x F y L
β
β β
β
β
β β
β β
β


Karena model probit mengandaikan
i
µ berdistribusi normal ( )
2
, 0 σ N maka
fungsi kemungkinan yang telah dilogaritmakan ( log-likelihood ) menjadi :
( ) ( ) ( )
∑ ∑
· ·
Φ + Φ − ·
1
'
0
'
ln 1 ln ln
i i
y
i
y
i
x x L β β , ( )
i
x
'
β Φ adalah fungsi distribusi
dari peubah acak yang berdistribusi normal .
Turunan pertamanya untuk memaksimumkan L adalah :
INTEGRAL, Vol. 8 No. 1, April 2003

13
( )
( )
i
n
i i
i i i
y
i i
y
i i
y
i
i
i
y
i
i
i
x
x q
x q q
x x
x x
L
i i
i i

∑ ∑
∑ ∑
1
]
1

¸

Φ
·
+ ·
Φ
+
Φ −

·


· ·
· ·
1
'
'
1
1
0
0
1 0
1
ln
β
β φ
λ λ
φ φ
β


· ·
n
i i
x
1
0 λ , dengan 1 2 − ·
i i
y q
Koefisien
ML
β ( penaksir maksimum likehood ) dapat dicari dari persamaan
0
ln
·


β
L
.

III. Model Probit Bivariat
Model probit bivariat adalah model yang dikembangkan dari model probit dengan
menggunakan dua peubah dummy sebagai peubah tak bebasnya . Model ini
mengandaikan faktor disturbance ( galat )
i
µ berdistribusi normal bivariat.

Secara umum, model untuk dua persamaan dapat dituliskan sebagai berikut:
1 1 1
*
1
'
i i i
y µ β + Χ · , 1
1
·
i
y , jika 0
*
1
>
i
y
0
1
·
i
y , untuk yang lain
2 2 2
*
2
'
i i i
y µ β + Χ · , 1
2
·
i
y , jika 0
*
2
>
i
y
0
2
·
i
y , untuk yang lain

Dalam model probit bivariat , model untuk dua persamaan ini diandaikan sebagai
berikut :
( ) ( )
( ) ( )
( ) ( ) ( ) ( ) ( ) [ ]
( )
ρ
µ µ
µ µ µ µ µ µ
µ µ
µ µ
·
Ε ·
Ε − Ε − Ε ·
· ·
· Ε · Ε
2 1
2 2 1 1 2 1
2 1
2 1
,
1
0
Cov
Var Var

Misalkan fungsi distribusi dari normal bivariat adalah :
( ) ( ) ( )
∫ ∫
∞ − ∞ −
Φ · · < Χ < Χ
2 1
, , , , ,
2 1 2 2 1 2 1 2 2 2 1 1
x x
x x dz dz z z x x P ρ ρ φ
dengan fungsi padat peluangnya adalah :
( )
( ) ( )
( )
2
1 / 2
2
1
2 1 2
1 2
, ,
2
2 1
2
2
2
1
ρ π
ρ φ
ρ ρ

·
− − + − x x x x
e
x x ,
angka 2 pada
2
φ dan
2
Φ masing - masing menunjukkan fungsi padat peluang dan
fungsi distribusi dari normal bivariat .
INTEGRAL, Vol. 8 No. 1, April 2003

14
Misalkan 1 2
1 1
− ·
i i
y q dan 1 2
2 2
− ·
i i
y q
Diketahui 1 ·
ij
q jika 1 ·
ij
y dan 1 − ·
ij
q jika 2 , 1 0 · ∀ · j y
ij

Kemudian dimisalkan kembali
ij j ij
x z ' β · dan 2 , 1 · ∀ · j z q w
ij ij ij

serta ρ ρ
2 1
*
i i i
q q ·
Maka didapat fungsi kemungkinannya adalah :
( ) ( )
*
2 1 2 2 2 1 1
, , ,
i i i i i
w w y y P ρ Φ · · Υ · Υ
Bukti :
Bila :
a) 0
1
·
i
y dan 0
2
·
i
y
Maka 1
1
− ·
i
q dan 1
2
− ·
i
q . Kemudian diperoleh :
( ) ( )
( )
* *
1 2 1 2
' '
1 1 1 2 2 2
0, 0 0, 0
0, 0
i i
i i i i
P P y y
P x x β µ β µ
Υ · Υ · · < <
· + < + <

= ( )
2
'
2 2 1
'
1 1
,
i i i i
x x P β µ β µ − < − <
= ( )
∫ ∫

∞ −

∞ −
1
'
1 2
'
2
2 1 2 1 2
, ,
i i
x
i i i i
x
d d
β β
µ µ ρ µ µ φ
= ( ) ρ β β , ,
2
'
2 1
'
1 2 i i
x x − − Φ
= ( ) ρ
2 1 2 2 1 1 2
, ,
i i i i i i
q q z q z q Φ
= ( )
*
2 1 2
, ,
i i i
w w ρ Φ
b) 0
1
·
i
y dan 1
2
·
i
y
Maka 1
1
− ·
i
q dan 1
2
·
i
q . Kemudian diperoleh :
( ) ( )
( )
* *
1 2 1 2
' '
1 1 1 2 2 2
0, 1 0, 0
0, 0
i i
i i i i
P P y y
P x x β µ β µ
Υ · Υ · · < >
· + < + >

= ( )
2
'
2 2 1
'
1 1
,
i i i i
x x P β µ β µ − > − <
= ( )
∫ ∫

∞ −


1
'
1
2
'
2
2 1 2 1 2
, ,
i
i
x
i i i i
x
d d
β
β
µ µ ρ µ µ φ
( misalkan :
2 2 i i
w µ − · )
= ( )
∫ ∫

∞ −
−∞
− −
1
'
1
2
'
2
2 1 2 1 2
, ,
i
i
x
i i i i
x
dw d w
β
β
µ ρ µ φ
= ( )
∫ ∫

∞ − ∞ −

1
'
1 2
'
2
2 1 2 1 2
, ,
i i
x
i i i i
x
dw d w
β β
µ ρ µ φ
=
( ) ( )
( )
∫ ∫

∞ −

− − + −
∞ − −
1
'
1
2
2 1
2
2
2
1
2
'
2
2 1
2
1 2
2
1 2
i
i i i i
i
x
i i
w w
x
dw d
e
β
ρ
ρµ µ
β
µ
ρ π

INTEGRAL, Vol. 8 No. 1, April 2003

15
=
( ) ( )
( )
∫ ∫

∞ −

− − + −
∞ − −
1
'
1
2
2 1
2
2
2
1
2
'
2
2 1
2
1 2
2
1 2
i
i i i i
i
x
i i
w w
x
dw d
e
β
ρ
µ ρ µ
β
µ
ρ π

= ( )
∫ ∫

∞ − ∞ −

1
'
1 2
'
2
2 1 2 1 2
, ,
i i
x
i i i i
x
dw d w
β β
µ ρ µ φ
= ( ) ρ β β − − Φ , ,
2
'
2 1
'
1 2 i i
x x
= ( ) ρ
2 1 2 2 1 1 2
, ,
i i i i i i
q q z q z q Φ
= ( )
*
2 1 2
, ,
i i i
w w ρ Φ
c) 1
1
·
i
y dan 0
2
·
i
y ( Untuk hal ini buktinya serupa dengan hal b) ) .
d) 1
1
·
i
y dan 1
2
·
i
y
Maka 1
1
·
i
q dan 1
2
·
i
q . Kemudian diperoleh :
( ) ( ) ( ) 0 , 0 0 , 0 1 , 1
2 2
'
2 1 1
'
1
*
2
*
1 2 1
> + > + · > > · · Υ · Υ
i i i i i i
x x P y y P P µ β µ β
= ( )
2
'
2 2 1
'
1 1
,
i i i i
x x P β µ β µ − > − >
=
( )
∫ ∫




1
'
1 2
'
2
2 1 2 1 2
, ,
i i
x
i i i i
x
d d
β β
µ µ ρ µ µ φ
(misalkan:
1 1 i i
w µ − · dan
2 2 i i
w µ − · )
= ( )( )( )
∫ ∫
−∞ −∞
− − − −
1
'
1 2
'
2
2 1 2 1 2
, ,
i i
x
i i i i
x
dw dw w w
β β
ρ φ
= ( )
∫ ∫
−∞ −∞
1
'
1 2
'
2
2 1 2 1 2
, ,
i i
x
i i i i
x
dw dw w w
β β
ρ φ
= ( )
∫ ∫
∞ − ∞ −
1
'
1 2
'
2
2 1 2 1 2
, ,
i i
x
i i i i
x
dw dw w w
β β
ρ φ
= ( ) ρ β β , ,
2
'
2 1
'
1 2 i i
x x Φ
= ( ) ρ
2 1 2 2 1 1 2
, ,
i i i i i i
q q z q z q Φ
= ( )
*
2 1 2
, ,
i i i
w w ρ Φ
Dari a) sampai d) , terbukti bahwa ( ) ( )
*
2 1 2 2 2 1 1
, , ,
i i i i i
w w y y P ρ Φ · · Υ · Υ .
Misalkan dilakukan n pengamatan yang saling bebas . Ini memberikan fungsi
kemungkinannya sebagai berikut : ( )
*
2 1 2
1
, ,
i i i
n
w w L ρ Φ ·


Dengan demikian diperoleh : ( )

Φ ·
n
i i i
w w L
1
*
2 1 2
, , ln ln ρ
Turunan dari fungsi kemungkinannya yang telah dilogaritmakan ( log-likelihood )
adalah :
2 , 1
ln
1 2
· ∀

,
_

¸
¸
Φ
·



j x
g q
L
n
ij
ij ij
j
β
, dengan ( )
1
1
]
1

¸



Φ ·
2
*
1
*
2
1 1
1
i
i i i
i i
w w
w g
ρ
ρ
φ
INTEGRAL, Vol. 8 No. 1, April 2003

16

,
_

¸
¸
Φ
·


n
i i
q q L
1 2
2 2 1
ln φ
ρ


Bukti :
( )

Φ ·
n
i i i
w w L
1
*
2 1 2
, , ln ln ρ = ( )

Φ
n
i i i i i
x q x q
1
*
2
'
2 2 1
'
1 1 2
, , ln ρ β β
Dari ( )
( ) ( )
( )
2
1 / 2
2
1
2 1 2
1 2
, ,
2
2 1
2
2
2
1
ρ π
ρ φ
ρ ρ

·
− − + − x x x x
e
x x , diperoleh :
( )
*
2
'
2 2 1
'
1 1 2
, ,
i i i i i
x q x q ρ β β Φ =
( )
∫ ∫
∞ −

,
_

¸
¸

− + −
∞ −

1
'
1 1
2
2
*
* 2 2
2
'
2 2
*
1 2
2
1 2
i i
i
i
i i
x q
i
uv v u
x q
dudv
e
β
ρ
ρ
β
ρ π
, maka :
( )
( )
∫ ∫
∞ − ∞ −


− + −


·

Φ ∂
2
'
2 2 1
'
1 1
2
2
*
*
* 2 2
1 1
*
2
'
2 2 1
'
1 1 2
1 2
1 2
2
exp
) , , (
i i i i
x q x q
i
i
i
i i i i i
dudv
uv v u
x q x q
β β
ρ π
ρ
ρ
β β
ρ β β
= dv x q
e
i i
x q
i
v x q v x q
i i
i
i i i i i
1 1
*
1 2
2
2
'
2 2
2
2
*
1
'
1 1
* 2 2
1
2
'
1
2
1
1 2

∞ −

,
_

¸
¸

,
_

¸
¸
− + −

β
ρ
β ρ β
ρ π

=
( )
dv e e
x q
i i
i
i i i
i
i i
x q
v x q v
x q
i
i i

∞ −

,
_

¸
¸

− −

,
_

¸
¸

,
_

¸
¸


2
'
2 2
2
*
1
'
1 1
* 2
2
*
2
1
2
'
1
2
1
2
1 2
2
1 2
*
1 1
1 2
β
ρ
β ρ
ρ
β
ρ π

=
( ) ( )
dv e e
x q
i i
i
i i i i i i
i
i i
x q
x q x q v x q
i
i i

∞ −

,
_

¸
¸

1
]
1

¸

− − −

,
_

¸
¸

,
_

¸
¸


2
'
2 2
2
*
2
1
'
1 1
*
2
1
'
1 1
*
2
*
2
1
2
'
1
2
1
2
1 2 1 2
*
1 1
1 2
β
ρ
β ρ β ρ
ρ
β
ρ π


=
( )
dv e e e
x q
i i
i
i i i
i
i i i
i
i i
x q
x q v x q x q
i
i i

∞ −

,
_

¸
¸

1
]
1

¸

− −

,
_

¸
¸

,
_

¸
¸

,
_

¸
¸

,
_

¸
¸


2
'
2 2
2
*
2
1
'
1 1
*
2
*
2
1
2
'
1
2
1
2
*
2
*
2
1
2
'
1
2
1
2
1 2 1 2 1 2
*
1 1
1 2
β
ρ
β ρ
ρ
β ρ
ρ
β
ρ π


=
( )
dv e e
x q
i i
i
i i i
i i
x q
x q v
x q
i
i i

∞ −

,
_

¸
¸

1
]
1

¸

− −

,
_

¸
¸


2
'
2 2
2
*
2
1
'
1 1
*
2
1
2
'
1
2
1
2
1 2
2
*
1 1
1 2
β
ρ
β ρ
β
ρ π

INTEGRAL, Vol. 8 No. 1, April 2003

17
=
( )
( )
dv e e x q
i i
i
i i i
i i
x q
x q v
i
x q
i i

∞ −

,
_

¸
¸

1
]
1

¸

− −

,
_

¸
¸


2
'
2 2
2
*
2
1
'
1 1
*
2
2
1
2
'
1
2
1
1 2
*
2
1 1
1 2
1
2
1
β
ρ
β ρ
β
ρ π
π

=
1 1 1 i i i
g x q
dengan
( )
( ) ( )
1 1
'
1 1
2 2
2
1
'
1 1
2
1
2
'
1
2
1
2
1
2
1
i i i
x q
x q
w x q e e
i i
i i
φ β φ
π π
β
β
· · ·

,
_

¸
¸

dan
( )
( )
1
1
]
1

¸



Φ ·


∞ −

,
_

¸
¸

1
]
1

¸

− −
2
2
'
2 2
2
*
2
1
'
1 1
*
2
*
1
'
1 1
*
2
'
2 2
1 2
*
1 1 2
1
i
i i i i i
x q
x q v
i
x q x q
dv e
i i
i
i i i
ρ
β ρ β
ρ π
β
ρ
β ρ

=
1
1
]
1

¸



Φ
2
*
1
*
2
1
i
i i i
w w
ρ
ρ

Dengan demikian diperoleh :
1 1 1
1
*
2
'
2 2 1
'
1 1 2
) , , (
i i i
i i i i i
g x q
x q x q
·

Φ ∂
β
ρ β β

Jadi :
( )
( )

1
1
]
1

¸


Φ ∂
Φ
·


n
i i i
i i i
w w
w w
L
1 1
*
2 1 2
*
2 1 2
1
, ,
, ,
1 ln
β
ρ
ρ
β

=
( )
( )

1
1
]
1

¸


Φ ∂
Φ
n
i i i i i
i i i
x q x q
w w 1 1
*
2
'
2 2 1
'
1 1 2
*
2 1 2
, ,
, ,
1
β
ρ β β
ρ

=
( )

Φ
n
i i i
i i i
g x q
w w 1
1 1 1 *
2 1 2
, ,
1
ρ
=
( )
1
1
*
2 1 2
1 1
, ,
i
n
i i i
i i
x
w w
g q

Φ ρ

Demikian pula bukti untuk
2
ln
β ∂
∂ L
, buktinya serupa dengan
1
ln
β ∂
∂ L
.
Diperoleh :
2
ln
β ∂
∂ L
=
( )
2
1
*
2 1 2
2 2
, ,
i
n
i i i
i i
x
w w
g q

Φ ρ

Jadi terbukti bahwa : 2 , 1
ln
1
2
· ∀

,
_

¸
¸
Φ
·



j x
g q
L
n
ij
ij ij
j
β
, dengan
( )
1
1
]
1

¸



Φ ·
2
*
1
*
2
1 1
1
i
i i i
i i
w w
w g
ρ
ρ
φ .


Sedangkan bukti untuk

,
_

¸
¸
Φ
·


n
i i
q q L
1 2
2 2 1
ln φ
ρ
dapat secara
langsung diperoleh dengan mudah
dari persamaan
( )

Φ ·
n
i i i
w w L
1
*
2 1 2
, , ln ln ρ
.
INTEGRAL, Vol. 8 No. 1, April 2003

18
Penaksir maksimum likelihood
untuk model probit bivariat ini
dapat diperoleh dengan cara
menyusun secara serentak ketiga
turunannya (yaitu : ,
ln
,
ln
2 1
β β ∂


∂ L L

dan
ρ ∂
∂ L ln
) sama dengan nol,
dimana proses pencariannya dapat
menggunakan metode iterasi
Newton dengan alat bantu software
, salah satunya adalah software
LIMDEP .

IV. Penutup
Metode maksimum likelihood
merupakan salah satu metode
penaksiran yang memenuhi kriteria
penaksir yang baik . Khususnya
untuk ukuran sampel yang cukup
besar , seperti data yang
digunakan untuk model probit dan
model probit bivariat , metode ini
sangat baik digunakan . Sifat –
sifat penaksir maksimum
likelihood antara lain konsisten ,
berdistribusi normal asimtotik dan
efisien asimtotik .

V. Pustaka
[1] Greene , William H ,
“Econometrics Analysis”,
Macmillan , Inc. , 1995
[2] Gujarati , D. , “Basic
Econometrics”, McGraw-Hill ,
Inc. , 1978
[3] Hoel , P . G . , “Introduction to
Mathematical Statistics”, John
Wiley and Sons , Inc. , 1984
[4] Hogg and Craig ,
“Introduction to Mathematical
Statistics”, Prentice-Hall , Inc.
, 1995
[5] Maddala , G . S . , “Limited
Dependent and Qualitative
Variables in Econometrics”,
Cambridge Univ . Press , 1983
[6] Myers and Walpole ,
“Probability and Statistics for
Engineers and Scientists”,
Macmillan , Inc. , 1978