You are on page 1of 7

BAB 1

Distribusi Sampel, Likelihood


dan Penaksir

1.1 Sampel Acak

Misalkan X1 , X2 , . . . , Xn sampel acak berukuran n (random sample of size n).


Fungsi peluang n-variat nya adalah
n
Y
fX1 ,X2 ,··· ,Xn (x1 , x2 , . . . , xn ) = fXi (xi )
i=1

Contoh/Latihan:

1. Misalkan X1 , X2 , . . . , Xn sampel acak dari distribusi Eksponensial den-


gan parameter θ. Fungsi peluang n-variatnya adalah...

2. Misalkan X1 , X2 , . . . , Xn sampel acak dari distribusi Uniform pada selang


(a, b). Fungsi peluang n-variatnya adalah...

1.2 Likelihood

Misalkan fungsi peluang n-variat bergantung pada parameter yang tidak dike-
tahui θ. Fungsi peluang tersebut ditulis sebagai

fX1 ,X2 ,...,Xn (x1 , . . . , xn |θ1 , . . . , θk )

atau

fX (x|θ)

1
Contoh/Latihan:

1. Misalkan X1 , X2 , . . . , Xn sampel acak dari distribusi N (µ, σ 2 ). Fungsi


peluang n-variat yang bergantung pada parameternya ditulis sebagai...

Definisi
Fungsi likelihood adalah ukuran yang menyatakan sebarapa sering nilai θ,
diberikan bahwa x telah terobservasi. Fungsi likelihood BUKAN suatu pelu-
ang. Fungsi likelihood diperoleh dengan (i) menukar peran θ dan x dalam
fungsi peluang n-variat, dan (ii) membuang suku yang tidak bergantung pada
θ. Notasi:

L(θ) = L(θ|x) ∝ fX (x|θ)

Contoh/Latihan:

1. Misalkan X1 , X2 , . . . , Xn sampel acak dari distribusi Eksponensial den-


gan parameter θ. Fungsi likelihoodnya adalah...

function likefunction;

% this function calculates the likelihood function of distribution


%
% created by K Syuhada, 14/3/2011

clear
clc

n = input(’n = ’); % size of random sample

% data
x = exprnd(0.5,n,1);
sumx = sum(x);

% parameter of exponential distribution


lambda = 0.5:0.05:5;

for i = 1:length(lambda)
L(i) = (lambda(i)^n)*exp(-lambda(i)*sumx);
end

plot(lambda,L)

MA3081 Stat.Mat. 2 K. Syuhada, PhD.


2. Misalkan X1 , X2 , . . . , Xn sampel acak dari distribusi Uniform pada selang
(π, b). Fungsi likelihoodnya adalah...

Prinsip Likelihood
Jika dua percobaan, yang melibatkan model dengan parameter θ, memberikan
likelihood yang sama, maka inferensi terhadap θ haruslah sama.

Ilustrasi
Pandang percobaan 1 dimana sebuah koin dilantunkan sebanyak n kali secara
bebas. Misalkan p adalah peluang muncul MUKA dan X peubah acak yang
menyatakan banyaknya MUKA yang muncul. Fungsi peluang dari X dan
fungsi likelihoodnya adalah...

Pandang percobaan 2 dimana sebuah koin dilantunkan hingga diperoleh MUKA


sebanyak 6 kali secara bebas. Misalkan Y peubah acak yang menyatakan
banyaknya lantunan yang dibutuhkan agar diperoleh enam MUKA. Fungsi
peluang dari X dan fungsi likelihoodnya adalah...

Dari 2 percobaan diatas, misalkan kita ingin melakukan uji hipotesis:

H0 : p = 0.5 versus H0 : p < 0.5

Nilai signfikansinya atau p-value adalah...

Penaksir Likelihood Maksimum


Misalkan L(θ) adalah fungsi likelihood (fungsi dari parameter θ). Kita da-
pat menentukan nilai θ yang memaksimumkan L(θ). Penaksir untuk θ, yaitu
θ̂ disebut Penaksir Likelihood Maksimum (maximum likelihood estimator,
MLE). Penaksir suatu parameter adalah fungsi dari peubah acak.

Contoh/Latihan:
1. Diketahui sampel acak berukuran n dari distribusi Bernoulli (p). Fungsi
likelihoodnya:
P P
xi
L(θ) = θ (1 − θ)n− xi
, 0 < θ < 1.

Untuk menentukan nilai θ yang memaksimumkan L(θ), transformasikan


L(θ) menjadi log L(θ):
X X
`(θ) = log L(θ) = xi log(θ) + (n − xi ) log(1 − θ),

kemudian hitung turunan pertama `(θ) terhadap θ:


P P
d`(θ) xi n − xi
= − .
dθ θ 1−θ

MA3081 Stat.Mat. 3 K. Syuhada, PhD.


Normalisasi dari turunan pertama tersebut memberikan nilai
P
xi
θ= ,
n
yang mana sebagai penaksir ditulis sebagai berikut:
P
Xi
θ̂ = = X̄.
n
(Pr: Tunjukkan bahwa θ ini memaksimumkan L(θ) dengan menghitung
turunan kedua).

2. Misalkan X1 , . . . , Xn sampel acak berdistribusi U (0, θ). Tentukan θ yang


memaksimumkan L(0, θ). Dengan kata lain, tentukan penaksir θ̂ untuk
θ.

Sifat Penaksir
Setelah kita mendapatkan penaksir θ̂, kita dapat menentukan sifat baik pe-
naksir. Salah satunya adalah sifat TAK BIAS. Penaksir θ̂ dikatakan tak bias
apabila

E(θ̂) = θ.

Untuk contoh sampel acak Bernoulli,


µ ¶
X1 + · · · + Xn
E(θ̂) = E
n
1
= E(X1 + · · · + Xn )
n
1³ ´
= E(X1 ) + · · · + E(Xn )
n
1
= (θ + · · · + θ)
n

Jadi, penaksir θ̂ = X̄ adalah penaksir tak bias untuk θ.

Catatan: Jika suatu penaksir θ̂ bersifat bias maka selisih nilai ekspektasi dan
nilai θ tidak nol, atau

E(θ̂ − θ) 6= 0.

MA3081 Stat.Mat. 4 K. Syuhada, PhD.


1.3 Statistic Cukup

Definisi -1
Suatu statistik T = t(X) adalah CUKUP atau sufficient untuk suatu keluarga
distribusi fX (x|θ) JIKA dan HANYA JIKA fungsi likelihoodnya bergantung
terhadap X hanya melalui T:

L(θ) = h(t(X), θ)

Definisi -2
Suatu statistik T = t(X) adalah CUKUP untuk suatu keluarga distribusi
fX (x|θ) JIKA dan HANYA JIKA distribusi bersyarat dari X TIDAK BERGAN-
TUNG pada θ:

fX|T (x|t, θ) = h(x)

Definisi -3
Suatu statistik T = t(X) adalah CUKUP untuk suatu keluarga distribusi
fX (x|θ) JIKA dan HANYA JIKA fungsi peluangnya dapat difaktorkan sebagai:

fX (x|θ) = g(t(x)|θ) h(x)

Contoh/Latihan:
1. Misalkan Xi untuk i = 1, . . . , n saling
P bebas dan berdistribusi identik
Bernoulli(p). Tunjukkan bahwa Y = ni=1 Xi adalah statistik cukup.
2. Misalkan X1 , . . . , Xn sampel acak
Pn berdistribusi Poisson dengan parame-
ter λ. Tunjukkan bahwa T = i=1 Xi adalah statistik cukup.
3. Misalkan Xi untuk i = 1, . . . , n saling bebas dan berdistribusi identik
N(µ, 1). Tunjukkan bahwa Y = X̄ adalah statistik cukup.
4. Misalkan X1 , . . . , Xn sampel acak berdistribusi
Pn Gamma dengan param-
eter (α, λ). Tunjukkan bahwa T = i=1 ln(Xi ) adalah statistik cukup.
5. Pandang sampel acak berukuran n dari U (a, b), dengan a diketahui. Tun-
jukkan bahwa T = X(n) adalah statistik cukup.
6. Pandang sampel acak berukuran n dari N (µ, σ 2 ), dengan µ, σ 2 tidak
diketahui. Tunjukkan bahwa statistik T berikut adalah cukup:
µ 2 ¶
SX
T =

MA3081 Stat.Mat. 5 K. Syuhada, PhD.


1.4 Distribusi Sampel

Misalkan X1 , X2 , . . . , Xn sampel acak berukuran n dari distribusi Poisson den-


gan parameter λ. Peubah acak Xi , i = 1, . . . , n saling bebas dan berdistribusi
identik dengan fungsi peluang n-variat:
Yn
e−λ λxi e−nλ λy
P (X = x) = = Qn ,
i=1
x i ! i=1 x i !
P P
dengan y = xi . Dapat ditunjukkan juga Y = Xi cukup. Distribusi
sampel dari Y adalah

e−nλ (nλ)y
fY (y|θ) = .
y!

Misalkan Xi ∼ U (0, θ). Peubah acak-peubah acak Xi tersebut saling bebas


dan berdistribusi identik, dengan fungsi peluang:

fX (x|θ) =

Statistik T = X(n) cukup dan memiliki fungsi distribusi:

P (X(n) ≤ x) =

dan fungsi peluang:

f(x) =

1.5 Statistik Terurut

Misalkan X1 , . . . , Xn sampel acak berukuran n dari suatu populasi yang berdis-


tribusi tertentu, dengan fungsi peluang fX dan fungsi distribusi FX . Pandang
X(k) , statistik terurut ke-k. Untuk menentukan fX(k) (x), pertama partisikan

I1 = (−∞, x]; I2 = (x, x + dx]; I3 = (x + dx, ∞).

Fungsi peluang fX(k) (x) adalah peluang mengamati sejumlah k − 1 dari X di


I1 , tepat sebuah X di I2 , dan sejumlah n − k dari X di I3 :
µ ¶
n ¡ ¢k−1 ¡ ¢1 ¡ ¢n−k
fX(k) (x) ≈ FX (x) fX (x)dx 1 − FX (x)
k − 1, 1, n − k

MA3081 Stat.Mat. 6 K. Syuhada, PhD.


yang dengan metode diferensial maka kita peroleh
µ ¶
n ¡ ¢k−1 ¡ ¢n−k
fX(k) (x) = FX (x) 1 − FX (x) fX (x)
k − 1, 1, n − k

Contoh/Latihan:

1. Fungsi peluang dari statistik terutur terkecil/terbesar adalah...

2. Statistik terurut ke-k pada distribusi U (0, 1) memiliki fungsi peluang...

1.6 Momen dari Mean dan Proporsi Sampel


1.7 Teorema Limit Pusat

MA3081 Stat.Mat. 7 K. Syuhada, PhD.