Statistika Predavanja

1 Uslovno matemati£ko o£ekivanje
Neka je (X, Y ) slu£ajni vektor diskretnog tipa. Uslovno matemati£ko o£ekivanje prom-
jenljive Y uz uslov X = xi se ozna£ava sa E(Y |X = xi ) i zadaje sa
m
X
E(Y |X = xi ) = yj P {Y = yj |X = xi },
j=1
gdje je xi neka realizacija promjenljive X , a yj , j = 1, 2, ..., m, su sve realizacije promjenljive

Y . Primjenjuju¢i isti postupak na sve realizacije xi , i = 1, 2, ...n, slu£ajne promjenljive X ,
generi²emo preslikavanje g(xi ) = E(Y |X = xi ), i = 1, 2, ..., n.(∗) Kako su argumenti pres-
likavanja g slike preslikavanja X sa (∗) je zadata kompozicija g ◦ X = g(X) tj. slu£ajna
promjenljiva i formirano preslikavanje-slu£ajnu promjenljivu nazivamo matemati£ko o£eki-
vanje od Y uz uslov X i ozna£avamo sa E(Y |X). Sumiraju¢i sve do sada re£eno moºemo
konstatovati:
n
X n X
X m
g(X) = E(Y |X) = g(xi )I{X = xi } = yj P {Y = yj |X = xi }I{X = xi }.
i=1 i=1 j=−1
Uop²tenje na apsolutno neprekidni slu£aj je prirodno. Ulogu sume preuzima integral,

ulogu vjerovatno¢e gustina. Neka je (X, Y ) slu£ajni vektor apsolutno neprekidnog tipa i
neka su ϕ(x, y), ϕ(y|x), ϕ1 (x), ϕ2 (y) odgovaraju¢e gustine. Imamo
Z∞ Z∞
ϕ(x, y)
E(Y |X = x) = yϕ(y|x)dy = y dy = h(x) ⇒ h(X) = E(Y |X).
ϕ1 (x)
−∞ −∞
Svojstva uslovnog matemati£kog o£ekivanja.
1. E(
P P
ci Xi |Y ) = ci E(Xi |Y ).
i i
2. E(w(X)|X) = w(X), E(X|X) = X, E(w(X)Y |X) = w(X)E(Y |X), w : R → R je

Borelovo preslikavanje.
3. Ako su X i Y nezavisne slu£ajne promjenljive, tada je E(Y |X) = EY.
1
4. EE(Y |X) = EY. Tvrenje ¢emo dokazati u apsolutno neprekidnom slu£aju.
R∞ R∞ R∞
yϕ(x,y)
R∞ R∞
EE(Y |X) = E(Y |X = x)ϕ1 (x)dx = ϕ1 (x) ϕ1 (x)
dy dx = y ϕ(x, y)dx dy =
−∞ −∞ −∞ −∞ −∞
Z∞
yϕ2 (y)dy = EY.
−∞
U stohastici se sa L2 = L2 (Ω, F, P ) ozna£ava prostor slu£ajnih promjenljivih (zadatih na

(Ω, F, P )) sa kona£nim drugim momentom. Dakle, X ∈ L2 ako je EX 2 < ∞.
Zada¢emo preslikavanje (X, Y ) = EXY , gdje su X, Y ∈ L2 . Dakle, paru (X, Y ) se dod-

jeljuje realni broj.
Lako se provjerava: ako su X, Y, Z ∈ L2 tada vaºi
(aX + bY, Z) = a(X, Z) + b(Y, Z), a, b ∈ R

(X, X) > 0
(X, X) = 0 ⇒ X = 0.
Dakle (X, Y ) je skalarni proizvod. Pokazuje se da je prostor L2 snabdjeven normom
1
k X k= (X, X) 2
kompletan. Dakle, prostor L2 snabdjeven sa gore zadatim skalarnim proizvodom je Hilber-

tov. Uobi£ajeno se L2 naziva Hilbertovim prostorom slu£ajnih veli£ina sa kona£nim drugim
momentom.
Neka je (X, Y ) slu£ajni vektor i neka je w : R → R Borelovo preslikavanje. Slu£ajnu

promjenljivu w(X) nazivamo ocjenom slu£ajne promjenljive Y .
Definicija 1.1 Ocjena w∗ (X) je najbolja ako je
E(Y − w(X))2 > E(Y − w∗ (X))2 tj. k Y − w(X) k>k Y − w∗ (X) k
za proizvoljno Borelovo preslikavanje w.
Teorema 1.1 w∗ (X) = E(Y |X).
2
E(Y − w(X))2 = E(Y − w∗ (X) + w∗ (X) − w(X))2 >
E(Y − w∗ (X))2 + 2E(Y − w∗ (X))(w∗ (X) − w(X)) = E(Y − w∗ (X))2 .
Naime
E(Y − w∗ (X))(w∗ (X) − w(X)) = EE((Y − w∗ (X))(w∗ (X) − w(X))|X) =

= (koristimo svojstvo 2) E(w∗ (X) − w(X))E(Y − w∗ (X)|X) = 0.
Potreba za ocjenjivanjem se pojavljuje u slu£ajevima kada je X dostupna, a Y nedostupna

slu£ajna promjenljiva. Na primjer, X je temperatura, a Y vlaºnost na nekom lokalitetu i
dostupni su podaci o temperaturi, a nedostupni o vlaºnosti. U tim okolnostima na osnovu
trenutne temperature x nepoznatu trenutnu vlaºnost ocjenjujemo sa w∗ (x).
U teoriji ocjenjivanja, funkcija w∗ se naziva funkcija regresije. Ta£nost ocjene se "mjeri"

parametrom ∆ = E(Y − w∗ (X))2 .
Primjer 1.1 (X, Y ) : U(D), D = {(x, y) : 0 < x < 1, 0 < y < x}.
Rx Rx
I ϕ(x, y) = 2, (x, y) ∈ D, ϕ1 (x) = 2dy = 2x, 0 < x < 1, w∗ (x) = yϕ(y|x)dy = x2 ,
0 2 R R 0
X x 2 1

0 < x < 1; ∆ = E Y − 2 = 2 y − 2 dxdy = 24 . J
D
Primjer 1.2 Na¢i o£ekivani broj bacanja kocke do registrovanja tri uzastopne ²estice.
INeka je X3 broj bacanja kocke do registrovanja tri uzastopne ²estice, X2 broj bacanja kocke
do registrovanja dvije uzastopne ²estice, X1 broj bacanja kocke do registrovanja ²estice.
x+1 x+1+3 x+1+4 ...

X3 |X2 : 1 5 5
6 6
P {X3 = 3} 6
P {X3 = 4} ...

1 5
E(X3 |X2 = x) = (x + 1) P {X3 = 3} + P {X3 = 4} + ... +
6
+ 6
5
= (x + 1) + 56 EX3 ⇒ E(X3 |X2 ) =

6
3P {X 3 = 3} + 4P {X 3 = 4}) + ...
X2 + 1 + 56 EX3 ⇒ EE(X3 |X2 ) = EX3 = EX2 + 1 + 65 EX3 ⇒ EX3 = 6(EX2 + 1).
Istovjetnim postupkom se dobija
EX2 = 6(EX1 + 1) ⇒ EX2 = 6(6 + 1) ⇒ EX3 = 63 + 62 + 6 = 258. J
3
Primjer 1.3 Neka je slu£ajna promjenljiva X jednaka broju bacanja nov£i¢a do padanja pr-
vog pisma, a Y broju bacanja nov£i¢a do padanja drugog pisma. Na¢i raspodjelu slu£ajne
promjenljive Y te E(X|Y ), E(Y |X) i EY .
IStandardnim postupkom se dobija raspodjela slu£ajne promjenljive Y , a ra£unanjem

E(Y |X = k) i E(X|Y = l) dobijamo funkcije koje odreuju uslovno matemati£ko o£ekivanje.
2 3 4 ...
Y : 1
, EY = 4,
22
2 23 3 214 . . .
1
k + 1 k + 2 k + 3 ...
Y |X = k : 1 1 1
, E(Y |X = k) = k + 2 ⇒ E(Y |X) = X + 2,
2 22 23
...
l − 1 l − 2 l − 3 ...
X|Y = l : 1 1 1
, E(X|Y = l) = l − 2 ⇒ E(X|Y ) = X − 2. J
2 22 23
...
Slu£ajna promjenljiva X ima P (λ) raspodjelu, a slu£ajna promjenljiva Y pri

Primjer 1.4
uslovu X = n ima B(n, p) raspodjelu. Na¢i E(Y |X), E(X|Y ), EY .

n k
IP {Y = k|X = n} = p (1 − p)n−k , k = 0, 1, ..., n, E(Y |X = n) = np ⇒
k
E(Y |X) = pX, EY = EE(Y |X) = EpX = λp.
∞
X (λp)k −λp
P {Y = k} = P {Y = k|X = n}P {X = n} = e , k = 0, 1, 2, ...
n=k
k!
P {Y = n|X = k}P {X = k} (λ(1 − p))k−n −λ(1−p)
P {X = k|Y = n} = = e ,
P {Y = n} (k − n)!
∞
X
k = n, n + 1, ..., E(X|Y = n) = kP {X = k|Y = n} = λ(1 − p) + n ⇒
k=n
E(X|Y ) = λ(1 − p) + Y. J
Primjer 1.5 U kutiji se nalazi 10 bijelih i 10 crnih kuglica. Iz kutije se po modelu bez vra¢anja,
u prvoj seriji vadi 8 kuglica, a zatim se po istom modelu u drugoj seriji vadi jo² 8 kuglica.
Neka je X broj izvaenih bijelih kuglica u prvoj seriji, a Y broj izvaenih bijelih kuglica u
drugoj seriji. Na¢i raspodjelu slu£ajnog vektora (X, Y ) te E(Y |X) i EY .
4
10 10 10−k 2+k 10−k 2+k

k 8−k l 8−l l
IP {X = k, Y = l} = 20 12
, P {Y = l|X = k} = 12
8−l ,
8 8 8
10 − k 20 − 2k
0 6 k 6 8, 0 6 l 6 8, 6 6 k + l 6 10, E(Y |X = k) = 8 = ⇒
12 3
20 − 2X 20 − 2 · 4
E(Y |X) = ⇒ EY = EE(Y |X) = = 4. J
3 3
Primjer 1.6 Na broja£ padaju kosmi£ke £estice. Neka slu£ajna promjenljiva X predstavlja broj
£estica koje padnu na broja£ u toku vremena T i neka je X : P(λT ). Svaka £estica koja padne
na broja£ registruje se nezavisno od ostalih i to sa vjerovatno¢om p, 0 < p < 1. Neka je Y
broj registrovanih £estica. Na¢i E(X|Y ).
∞ ∞
X X k m k−m (λT )k
IP {Y = m} = P {Y = m|X = k}P {X = k} = p q =
k=m k=m
m k!
(pλT )m −pλT
e , m = 0, 1, 2, ..., q = 1 − p; P {X = k|Y = m} =
m!
P {Y = m|X = k}P {X = k} (qλT )k−m −qλT
= e , k = m, m + 1, m + 2, ...,
P {Y = m} (k − m)!
∞
X (qλT )k−m −qλT
E(X|Y = m) = k e = m + qλT ⇒ E(X|Y ) = Y + qλT. J
k=m
(k − m)!
Primjer 1.7 X1 : U(0, 1), (X2 |X1 = x1 ) : U(x1 , 1), (X3 |X2 = x2 ) : U(x2 , 1), .... Na¢i ϕ2 (x2 ),
ϕ(x1 |x2 ), EXn .
1 1
I ϕ(x2 |x1 ) = 1−x 1
, ϕ(x1 , x2 ) = ϕ(x2 |x1 )ϕ1 (x1 ) = 1−x 1
, 0 < x1 < x2 < 1; ϕ2 (x2 ) =
Rx2
ϕ(x1 , x2 )dx1 = ln 1−x 1
2
, 0 < x2 < 1; ϕ(x1 |x2 ) = ϕ(x 1 ,x2 )
ϕ2 (x2 )
1
= (x1 −1) ln(1−x2)
,
0
R1 R1 x2 1+x1
0 < x1 < x2 < 1. E(X2 |X1 = x1 ) = x2 ϕ(x2 |x1 )dx2 = 1−x1
dx2 = 2
= h(x1 ) ⇒
x1 x1
1+X1 1+EX1
E(X2 |X1 ) = 2
⇒ EX2 = EE(X2 |X1 ) = 2
= 34 .
1+EXn−1 2n −1
Po analogiji imamo, EX3 = 1+EX2
2
= 87 , ..., EXn = 2
= 2n
. J
Primjer 1.8 Neka su X1 , X2 , ..., Xn nezavisne, jednako raspodijeljene slu£ajne promjenljiva sa

U(0, 1) raspodjelom. Na¢i E(Y1 |Yn ) i E(Yn |Y1 ).
5
f (y1 , yn ) (n − 1)(yn − y1 )n−2
I f (y1 |yn ) = = , 0 < y1 < yn < 1,
h(yn ) ynn−1
Zyn
yn Yn
E(Y1 |Yn = yn ) = y1 f (y1 |yn )dy1 = ⇒ E(Y1 |Yn ) = .
n n
0
Sli£no se dobija E(Yn |Y1 ) = nY1 . J
Primjer 1.9 Neka su X1 ,X2 ,...,Xn nezavisne, jednako raspodijeljene slu£ajne veli£ine sa U(0, 1)
Pn P n
raspodjelom. Izra£unati E 1
n
Xk |Yn i E n1 Xk |Y1 .
k=1 k=1
IZbog linearnosti operatora matemati£kog o£ekivanja imamo,

n
1 X
E Xk |Yn = E(X1 |Yn ).
n k=1
Naimo raspodjelu za X1 |Yn = v, 0 < v < 1. Imamo,
P {X1 < u, v 6 Yn < v + h}

F (u|v) = lim P {X1 < u|v 6 Yn < v + h} = lim .
h→0 h→0 P {v 6 Yn < v + h}
O£igledno je F (u|v) = 1, u > v. Dalje,
(n − 1)uv n−2 h + o(h) n−1u

F (u|v) = lim n−1
= , u 6 v.
h→0 nv h + o(h) n v
Na kraju, ra£unaju¢i Lebeg-Stiltjesov integral i uzimaju¢i u obzir skok koji funkcija F (u|v)
ima u ta£ki u = v , dobijamo funkciju koja odreuje traºeno uslovno matemati£ko o£ekivanje.
Imamo,
Zv
n−1
Z
u 1 n+1
E(X1 |Yn = v) = udF (u|v) = du + v = v.
n v n 2n
R 0
P n
Dakle, w(v) = n+1
2n
v pa je traºeno E 1
n
X |Y
k n =
n+1
Y .
2n n
Sprovode¢i identi£ni postupak,
k=1
P n
dobija se E n1 Xk |Y1 = n+12
Y1 . J
k=1
Primjer 1.10 Na intervalu (0, 1) slu£ajno se biraju dvije ta£ke, a zatim se na intervalu koji
6
one formiraju slu£ajno bira ta£ka T . Na¢i raspodjelu slu£ajne promjenljive X koja je jednaka
apscisi ta£ke T i na¢i ET.
Primjer 1.11 Slu£ajna promjenljiva X ima U(0, 1) raspodjelu, a Y |X = x : B(n, x). Na¢i
raspodjelu slu£ajne promjenljive Y i EY.
n
I E(Y |X = x) = nx ⇒ E(Y |X) = nX ⇒ EY = EE(Y |X) = EnX = .
2
Primjenjuju¢i formulu potpune vjerovatno¢e u apsolutno neprekidnom slu£aju, dobijamo
R1 R1 n k
P {Y = k} = P {Y = k|X = x}ϕ1 (x)dx = k
x (1 − x)n−k dx =
n
0 1
0
k
B(k + 1, n − k + 1) = n+1
, k = 0, 1, ..., n. J
2 Karakteristi£ne funkcije
Definicija 2.1 Neka je X slu£ajna promjenljiva £ija je funkcija raspodjele FX (x). Karak-
teristi£na funkcija slu£ajne promjenljive X u oznaci
Z∞
fX (t) := EeitX = eitx dF (x), t ∈ R.
−∞
Primijetimo, f : R → C i funkcija raspodjele postoji za svaku slu£ajnu promjenljivu. Integral

sa kojim je denisana karakteristi£na funkcija apsolutno konvergira odakle slijedi konvergen-
cija samog integrala. Provjerimo,
Z∞ Z∞
itx
|e |dF (x) = dF (x) = 1.
−∞ −∞
Ako je raspodjela slu£ajne promjenljive X diskretnog tipa tj. P {X = xi } = pi , i ∈ I , tada je

X
fX (t) = pi eeti .
i∈I
7
Ako je slu£ajna promjenljiva X apsolutno neprekidnog tipa sa gustinom g(x) tada je
Z∞
fX (t) = eitx g(x)dx.
−∞
R∞
Koristi se i sinonim: karakteristi£na funkcija za raspodjelu X . Integral eitx dF (x) se
−∞
u Analizi naziva Furijeova transformacija funkcije F (x).
Potraºimo karakteristi£nu funkciju slu£ajne promjenljive X : N (0, 1).
R∞ x2 R∞ x2 R∞ x2
f (t) = √1
2π
cos txe− 2 dx, f 0 (t) = − √12π x sin txe− 2 dx = √1
2π
sin txde− 2 =
−∞ −∞ −∞
2 t2
− t2
(parcijalna int) = −tf (t) ⇒ f (t) = Ce ; f (0) = 1 ⇒ C = 1 te je f (t) = e− 2 .
Iz
Z∞ 2
Z∞
x2
− x2
|x sin tx|e dx 6 |x|e− 2 dx < ∞,
−∞ −∞
slijedi da integral dobijen formalnim diferenciranjem ravnomjerno konvergira po t te je difer-

enciranje bilo korektno.
Svojstva karakteristi£ne funkcije.
1. f (0) = 1, |f (t)| 6 1, f (−t) = f (t).
2. Ako je Y = aX + b, a, b ∈ R, tada je fY (t) = fX (at)eitb .
fY (t) = E it(aX+b) = EeiatX+itb = fX (at)eitb .
3. Funkcija f (t) je ravnomjerno neprekidna na R.
|f (t + h) − f (t)| = |Eei(t+h)X − EeitX | = |EeitX (eiXh − 1)| 6 E|eitX ||eiXh − 1| =

R∞ ixh
|e − 1|dF (X) → 0, h → 0.
−∞
Konvergencija slijedi na osnovu Lebegove konvergencije o dominantnoj konvergenciji, a £iju

primjenu obezbjeuje aproksimacija |eixh − 1| 6 2.
8
4. Ako za neko n ∈ N postoji EX n , tada za svako k 6 n postoji f (k) (t) i vaºi
n
X (it)k
f (t) = EX k + o(tn ), t → 0.
k=0
k!
R∞
Formalnim diferenciranjem dobijamo f (k) (t) = (ix)k eitx dF (x). Korektnost diferenci-
−∞
ranja slijedi kao posljedica aproksimacije
Z∞
|(ix)k eitx |dF (x) = E|X|k < ∞.
−∞
Konstatujmo, f (k) (0) = ik EX k . I na kraju
n n
X tk (k) n
X (it)k
f (t) = f (0) + o(t ) = EX k + o(tn ), t → 0.
k=0
k! k=0
k!
5. Ako postoji f (2k) (0), tada je EX 2k < ∞. (bez dokaza)

n
6. Ako su X1 , ..., Xn nezavisne slu£ajne promjenljive, tada je f P
Q
n (t) = fXk (t).
Xk k=1
k=1
n
n n
P
it Xk
eitXk =
Q Q
fP
n (t) = Ee k=1 =E fXk (t).
Xk k=1 k=1
k=1
Teorema 2.1 Bohner-Hin£inova teorema. Funkcija f (t) je karakteristi£na funkcija neke

slu£ajne promjenljive ako i samo ako vaºi 1. f (0) = 1, 2. |f (t)| 6 1, 3. f (t) je neprekidna 4.
f (t) je nenegativno denitivna tj. za svaku kolekciju realnih brojeva t1 , ..., tn i svaku kolekciju
n
kompleksnih brojeva z1 , ..., zn vaºi
P
f (tj − tk )zj zk > 0, n = 1, 2, ...
j,k=1
U konkretnim slu£ajevima je provjera nenegativne denitnosti teºak zadatak. Zbog toga su

ustanovljene teoreme tipa ako-tada i do cilja tj. verikacije da je data funkcija karakteristi£na
se brzo dolazi. Nave²¢emo primjer.
Teorema 2.2 Pojina teorema. Ako je funkcija f (t) neprekidna, konveksna, parna, nenega-
tivna, f (0) = 1, f (t) → 0, t → ±∞, tada je f (t) karakteristi£na funkcija.
Primjenom Pojine teoreme lako se provjerava da je f (t) = e−|t| karakteristi£na funkcija.
9
Teorema 2.3 Levijeva formula inverzije. Ako su a i b ta£ke neprekidnosti funkcije raspodjele
F (x) i ako je f (t) odgovaraju¢a karakteristi£na funkcija, tada je
ZT
1 e−itb − e−ita
F (b) − F (a) = lim f (t)dt.
T →∞ 2π −it
−T
Posljedice. a) Ako je karakteristi£na funkcija f (t) apsolutno integrabilna na R, tada je

odgovaraju¢a slu£ajna promjenljiva (raspodjela) apsolutno neprekidnog tipa i za odgovara-
ju¢u funkciju gustine g(x) vaºi
Z∞
1
g(x) = e−itx f (t)dt.
2π
−∞
b) Ako je slu£ajna promjenljiva X diskretnog tipa, tada za svaku realizaciju x vaºi
ZT
1
P {X = x} = lim e−itx f (t)dt.
T →∞ 2T
−T
Karakteristi£nim funkcijama se uspostavlja preslikavanje sa skupa funkcija raspodjele (sa

skupa raspodjela) na skup karakteristi£nih funkcija. Teoremom jedinstvenosti se ustanovljava
da je preslikavanje 1 − 1.
U dokazu teoreme jedinstvenosti za karakteristi£ne funkcije koristimo Stonovu teoremu.
Teorema 2.4 (Stone) Neka je f (x) neprekidna funkcija na [−l, l] i f (−l) = f (l). Za ∀ε >
0 postoji trigonometrijski polinom
n
x
X
Tn (x) = av eiπv l
v=−n
takav da je sup |Tn (x) − f (x)| < ε.

[−l,l]
Teorema 2.5 (Teorema jedinstvenosti) Neka su F i G funkcije raspodjele koje imaju

istu karakteristi£nu funkciju na R tj. za svako t ∈ R vaºi
Z∞ Z∞
itx
e dF (x) = eitx dG(x). (2.1)
−∞ −∞
10
Tada je F = G.
Fiksirajmo a, b ∈ R (a < b), ε > 0 i formirajmo funkciju f (ε) za koju vaºi:



 0, x < a − ε, x > b,
x−a+ε

 , a − ε 6 x < a,
f (ε) (x) = ε


 1, a 6 x < b − ε,
b−x


ε
, b − ε 6 x < b.
Dokaºimo da je
Z∞ Z∞
f (ε)
(x)dF (x) = f (ε) (x)dG(x). (2.2)
−∞ −∞
Neka je n ∈ N takav da je [a − ε, b] ⊂ [−n, n] i neka je (δn , n ∈ N) takav niz da je δn > 0

i δn ↓ 0, n → ∞. Funkcija f (ε) ispunjava uslove Stonove teoreme te postoji kona£na suma
iπxk
X
fn(ε) (x) = ak e n
tako da vaºi
sup | f (ε) (x) − fn(ε) (x) |6 δn .
x∈R
(ε)
Funkciju fn periodi£no produºimo na R. Primijetimo
sup | fn(ε) (x) |6 2.

x∈R
Iz (2.1) slijedi
Z∞ Z∞
fn(ε) (x)dF (x) = fn(ε) (x)dG(x).
−∞ −∞
11
Imamo
Z∞ Z∞ Zn Zn

f (ε) (x)dF (x) − f (ε) (x)dG(x) = f (ε) (x)dF (x) − f (ε) (x)dG(x) 6

−∞ −∞ −n −n
Zn Zn

(ε) (ε)
fn (x)dF (x) − fn (x)dG(x) + 2δn 6

−n −n
Z∞ Z∞

(ε) (ε)
+ 2δn + 2F [−n, n]c + 2G [−n, n]c , (2.3)

f (x)dF (x) − f (x)dG(x)

n n

−∞ −∞
Z Z
gdje je F (A) = dF (x) i G(A) = dG(x). Pu²taju¢i da n → ∞ zaklju£ujemo da (2.3)
A A
teºi ka 0. Ovim je dokazana jednakost (2.2).
Primijetimo f (ε) (x) → I[a,b) (x) kad ε → 0. Na osnovu teoreme o dominantnoj konvergenciji
iz (2.2) slijedi
Z∞ Z∞
I[a,b) (x)dF (x) = I[a,b) (x)dG(x)
−∞ −∞
tj. F (b) − F (a) = G(b) − G(a). Zbog proizvoljnosti a i b zaklju£ujemo da je F (x) = G(x) za
svako x ∈ R.
Definicija 2.2 Raspodjela su£ajne promjenljive X je simetri£na ako za svaki Borelov skup
B vaºi P {X ∈ B} = P {X ∈ (−B)} = P {(−X) ∈ B} tj. slu£ajne promjenljive X i −X
imaju istu raspodjelu.
Lema 2.1 Karakteristi£na funkcija je parna ⇔ odgovaraju¢a raspodjela je simetri£na ⇔

karakteristi£na funkcija je realna.
Pretpostavimo da je karakteristi£na funkcija parna. Imamo fX (t) = fX (−t) = f−X (t) na

osnovu tepreme jedinstvenosti zaklju£ujemo da promjenljive X i −X imaju istu raspodjelu
tj. raspodjela promjenljive X je simetri£na.
Pretpostavimo da je raspodjela slu£ajne promjenjive X simetri£na. Imamo
Z∞ Z∞ Z∞
f (t) = cos txdF (x) + i sin txdF (x) = cos txdF (x).
−∞ −∞ −∞
12
R∞
Pretpostavimo da je karakteristi£na funkcija realna. Imamo f (t) = cos txdF (x) =
−∞
f (−t).
Primjer 2.1 Na¢i karaktersisti£nu funkciju slu£ajne pomjenljive Sn : B(n, p).
0 1
INeka je IA indikator dogaaja A, p(A) = p. Kako je IA : , q = 1 − p, imamo
q p
fIA (t) = peit + q. Polaze¢i od Sn = IA1 + ... + IAn , gdje je A1 dogaaj da se u prvom opitu iz
serije od n ponavljanja ostvari uspjeh,..., An je dogaaj da se u n-tom opitu iz serije ostvari
uspjeh, dobijamo
n
Y
fSn (t) = fIAk (t) = (peit + q)n . J
k=1
Primjer 2.2 Na¢i karakteristi£nu funkciju slu£ajne promjenljive N (m, σ 2 ).
IPokaºimo da X−m
σ
: N (0, 1).
σt+m (x−m)2 Rt u2
n o
−
X−m √ 1 x−m √1 e− 2 du
R
P σ
< t = P {X < σt + m} = 2πσ 2
e 2σ 2 dx = σ
=u = 2π
−∞ −∞
2 2
X−m ∗ ∗ itm itm− σ 2t
⇒ σ
= X : N (0, 1), X = σX + m; fX (t) = fσX ∗ +m (t) = e fX ∗ (σt) = e .J
Primjer 2.3 a) Slu£ajna promjenljiva X : P(λ). Na¢i fX (t), EX, DX.
b) Slu£ajne promjenljive X1 , ..., Xn su nezavisne sa P(λ1 ), ..., P(λn ) raspodjelama. Dokazati

n n
da
P P
Xk : P( λk ).
k=1 k=1
n k n
(λteit )k −λ it −1)
eikt (λt) e−λ = = eλ(te .f 0 (0) = iEX ⇒ EX = λ;
P P
I a) fX (t) = k! k!
e
k=0 k=0
f ”(0) = i2 EX 2 ⇒ EX = λ2 + λ ⇒ DX = EX 2 − (EX)2 = λ.
2
n
n λk )(teit −1) n n
P
(
⇒ (t. jedinstvenosti)
Q P P
b) f P
n (t) = fXk (t) = e k=1 Xk : P( λk ). J
Xk k=1 k=1 k=1
k=1
Primjer 2.4 a) Slu£ajne promjenljive X1 , ..., Xn su nezavisne sa N (m1 , σ12 ), ..., N (mn , σn2 ) raspod-
n n n
jelama. Dokazati da σk2 ).
P P P
Xk : N ( mk ,
k=1 k=1 k=1
b) Slu£ajne promjenljive X1 , ..., Xn su nezavisne jednako raspodiljeljene sa N (m, σ 2 ) raspod-

n
jelom. Dokazati da Sn 1 2
Xk : N m, σn .
P
n
= n
k=1
13
n 2 n
n mk − t2 σk2 n n n
P P
it
σk2 ). J
Q P P P
I fP
n (t) = fXk (t) = e k=1 k=1 ⇒ Xk : N ( mk ,
Xk k=1 k=1 k=1 k=1
k=1
Gama raspodjela
R∞
Gama funkcija. Γ(a) := xa−1 e−x dx, a > 0. Pokazuje se da vaºi Γ(a + 1) = aΓ(a), Γ(n +
√ 0
1) = n!, Γ(0, 5) = π.
Definicija 2.3 Slu£ajna promjenljiva X ima gama raspodjelu sa parametrima α i ν , koristi

se zapis X : Γ(ν, α), ako je odgovaraju¢a funkcija gustine
1 ν ν−1 −αx
g(x) = α x e , x > 0, α > 0, ν > 0.
Γ(ν)
Potraºimo karakteristi£nu funkciju slu£ajne promjenljive X : Γ(ν, α).
R∞ ∞
(it)n R∞
1
αν eitx xν−1 e−αx dx = αν xn+ν−1 e−αx dx = (αx = u)
1
P
fX (t) = Γ(ν) Γ(ν) n!
0 n=0
∞ R∞ n+ν−1 −u ∞ n 0 P
∞ it n −ν
1
P ( it )n P Γ(n+ν) it −ν it
= Γ(ν)
α
n!
u e du = n!Γ(ν) α
= n
− α = 1− α .
n=0 0 n=0 n=0
Koristili smo uop²teni binomni koecijent

t t(t − 1)...(t − k + 1)
:= , t ∈ R, k ∈ N0 .
k k!
Ako su X1 , ..., Xn nezavisne slu£ajne promjenljive sa Γ(ν1 , α), ..., Γ(νn , α) raspodjelama, tada
n n
Xk : Γ( νk , α). Zaista
P P
k=1 k=1
n
n P n n
Y it − k=1 νk
X X
fP
n (t) = fXk (t) = 1 − ⇒ Xk : Γ(α, νk ).
Xk
k=1
α k=1 k=1
k=1
Primijetimo, ako je X : E(λ) moºemo koristiti i zapis X : Γ(1, λ). Naime, eksponencijalna
raspodjela je specijalan slu£aj gama raspodjele. Ako su X1 , ..., Xn nezavisne slu£ajne prom-
n
jenljive i svaka ima E(λ) raspodjelu, tada
P
Xk : Γ(n, λ).
k=1
Komentar. Neka je X slu£ajna promjenljiva koja je jednaka broju neuspjeha do reg-

istrovanja r tog uspjeha, vjerovatno¢a uspjeha je p.

r+k−1 r k −r r k
P {X = k} = pq = p − q , k = 0, 1, 2, ...
k k
14
Ovim je obja²njeno zbog £ega se koristi naziv negativna binomna raspodjela.
Primjer 2.5 Slu£ajne promjenljive X i Y su nezavisne i svaka ima karakteristi£nu funkciju

f (t) = (2 − eit ) . Na¢i raspodjelu slu£ajne promjenljive Z = X + Y .
−1
X eint ∞
1 1 1 1
I f (t) = it
= · it
= n+1
=⇒ P {X = k} = k+1 , k = 0, 1, . . . .
2−e 2 1 − e /2 n=0 2 2
∞
Koriste¢i razvoj (1 − z)−2 = nz n−1 , dobijamo
P
n=1
−2 X ∞
eit

1 n + 1 int
fZ (t) = · 1 − = e .
4 2 n=0
2n+2
Iz teoreme jedinstvenosti, dobija se
k+1
P {Z = k} = , k = 0, 1, 2, . . . . J
2k+2
Primjer 2.6 Neka su X i Y nezavisne slu£ajne promjenljive sa raspdjelama P {X = k} =

1/2k , k = 1, 2, ..., P {Y = k} = 2k−1 /3k , k = 1, 2, ... Na¢i raspodjelu slu£ajne promjenljive
Z = X + Y.
∞ ∞
X eitk eit X 2k−1 eitk eit
IfX (t) = = , f Y (t) = = .
k=1
2k 2 − eit k=1
3k 3 − 2eit
e2it
fZ (t) = fX (t)fY (t) = .
(2 − eit )(3 − 2eit )
w2
Uvedimo smjenu w = eit i funkciju g(w) = (2−w)(3−2w)
razvijmo u red. Dobijamo
∞
1 4 9 1 X h 2 k−1 1 i
g(w) = + − = − k−1 eitk .
2 w − 2 2 2w − 3 k=2 3 2
k−1
Dakle, P {Z = k} = 2
3
− 1
2k−1
, k = 2, 3, ... J
Primjer 2.7 Na¢i raspodjelu £ija je karakteristi£na funkcija f (t) = 3

8−5e−3it
.
15
Primjer 2.8 Slu£ajne promjenljive X i Y su nezavisne, njihove karakteristi£ne funkcije su
fX (t) = 4eit −2 , fY (t) = cos4 (t). Izra£unati P {X 6 Y + 1} i EY 9 .
3eit −1
h i−1 ∞ 0 −1 −2 −3 ...
3 1 3 ei(−n−1)t
+ 8eit 1 −
P
I fX (t) = 4 2eit
= 4
+ 2n+3
⇒X:
n=0
3
4
2−3 2−4 2−5 ...

eit +e−it
4 4
4 −4 −2 0 2 4
1
eitk e−it(4−k) ⇒ Y :
P
fY (t) = 2
= 24 k 1 1 3 1 1
k=0 16 4 8 4 16
Zbog simetri£nosti raspodjele slu£ajne promjenljive Y dobijamo EY 9 = 0 i
P {X 6 Y + 1} = 1 − P {X + Y > 2} = 1 − P {X = 0, Y = 2} − P {X = −2, Y = 4}−

P {X = −1, Y = 4} − P {X = 0, Y = 4} = 193
256
.J
−0, 5 0, 5
Primjer 2.9 X i Y su nezavisne slu£ajne promjenljive, X : U(−0, 5; 0, 5), Y :
0, 5 0, 5
Metodom karakteristi£nih funkcija na¢i raspodjelu slu£ajne promjenljive Z = X + Y.
Primjer 2.10 Neka su X1 , X2 , ... nezavisne, jednako raspodijeljene slu£ajne promjenljive i neka
je Yn = X1 + X2 + ... + Xn . Ako je 0 < P {X1 je djeljivo sa 2} < 1, tada je
lim P {Yn je djeljivo sa 2} = 21 . Dokazati!
n→∞
∞
INeka je P {X1 = k} = pk , k = 0, ±1, ±2, .... Kako je fX1 (t) = pk eitk to je
P
k=−∞
fX1 (π) = (p0 + p−2 + p2 + ...) − (p1 + p−1 + p3 + p−3 + ...) =

P {X1 je djeljivo sa 2} − P {X1 nije djeljivo sa 2}.
O£igledno, fYn (t) = fXn (t). Sada je

1
P {Yn je djeljivo sa 2} − P {Yn nije djeljivo sa 2} = αn − βn ,
gdje je αn = P {Yn je djeljivo sa 2} i βn = P {Yn nije djeljivo sa 2}. Primijetimo, fYn (π) =
fXn (π) −→ 0, n → ∞ jer je |fX1 (π)| < 1. Dakle, αn − βn −→ 0 i αn + βn = 1, odakle slijedi
1
αn −→ 21 , n → ∞. J
16
Dokazati da funkcije a) f (t) = e−i|t| , b) f (t) = cos t2 , c) f (t) = e−t nisu
4
Primjer 2.11
karakteristi£ne.
Ia) Funkcija je parna ali nije realna. b) Funkcija nije ravnomjerno neprekidna. c) Ako je
s.i.
funkcija karakteristi£na, tada je EX 2 = −f ”(0) = 0 ⇒ X = 0 ⇒ fX (t) = 1, kontradikcija.J
Definicija 2.4 Niz funkcija raspodjele Fn (x) slabo konvergira ka funkciji F (x) ako Fn (x) −→
F (x) za ∀x ∈ C(F ), koristi se zapis Fn (x) −→ F (x). Ako niz Fn (x) −→ F (x) pri £emu je
w w
F (x) funkcija raspodjele, tada kaºemo da niz Fn (x) kompletno konvergira ka F (x) i koristimo
zapis Fn (x) −→ F (x).
c
Definicija 2.5 Niz slu£ajnih promjenljivih Xn , n = 1, 2, ... u raspodjeli konvergira ka slu£a-

jnoj promjenljivoj X , koristimo zapis Xn → X (d-distribution) ako FXn (x) → FX (x).
d c
−n n
n = 1, 2, ...Fn (x) −→ F (x) = 21 . Konvergencija nije kompletna.
w
Primjer 2.12 Xn : 1 1
2 2
Teorema 2.6 (Teorema neprekidnosti) Neka je Fn (x), x ∈ R, niz funkcija raspodjele i neka
je fn (t), t ∈ R, odgovaraju¢i niz karakteristi£nih funkcija.
1) Ako Fn (x) −→ F (x), tada fn (t) ⇒ f (t), t ∈ R, f (t) je karakteristi£na funkcija za F (x).
k
2) Ako za ∀t ∈ R postoji lim fn (t) i ako je funkcija f (t) = lim fn (t) neprekidna u ta£ki
n→∞ n→∞
t = 0, ona je karakteristi£ana funkcija za neku funkciju raspodjele F (x) i Fn (x) −→ F (x).
c
Primjer 2.13 Neka je Xn , n = 1, 2, ... niz slu£ajnih promjenljivih sa U((−4− n1 , −4+ n3 )∪(0, n2 ))
raspodjelom. Metodom karakteristi£nih funkcija ispitati konvergenciju u raspodjeli datog niza.
3 2
−4+ n
Zn
−4
Z
n itx n itx 2 1 0
I fXn (t) = e dx + e dx → e−4it + = fW (t), W : 2 1
6 6 3 3 3 3
. J
1
−4− n 0
17
Primjer 2.14 Slu£ajne promjenljive Xj , j = 1, 2, ... su nezavisne i jednako raspodijeljene sa
raspodjelom
0 1 ... 9
Xj : 1 1 1
10 10 10
.
Neka je
n
X 1
Yn = Xj , n = 1, 2, ....
j=1
10j
Dokazati da niz slu£ajnih promjenljivih

d
Yn → W : U(0, 1), n → ∞.
9
1 X itk 1 sin 5t i t
I fXj (t) = E itXj = e = e 2.
10 k=0 10 sin 2t
n
1 Y sin 5 10t j 9itj 1 sin 2t it (1−10−n ) sin 2t i t
fYn (t) = t e 2·10 =
t e 2 → 2 e 2 = fW (t).
10n j=1 sin 2·10j 10n sin 2·10n t
ϕ
Koristili eiϕ −1 = 2i sin ϕ2 ei 2 ; u proizvodu sinusa nakon ²to sinuse eksplicitno zapi²emo dolazi
do skra¢ivanja.J
Primjer 2.15Neka je Xn , n = 1, 2, ... niz nezavisnih slu£ajnih promjenljivih sa Γ(1, n + 1)

raspodjelama. Dokazati da
n
X Xk − EXk R
Yn = −→ X : N 0, 1/2 , n → ∞.
k=1
n
I Znamo fXk (t) = (1 − it)−k−1 , fX0 k (0) = iEXk ⇒ EXk = k + 1.
n n(n+3)
t it −
n(n+3)

−it k+1 −it n+3 ln 1−i nt −it n+3
Y 2 −
fYn (t) = fXk e n = 1− e 2 =e 2 2 =
k=1
n n

n(n+3) t2
− it 1
−it n+3 (n+3)t2

− + +o 1 t2
e 2 n 2n2 n3 2
= e− 4n
+o n → e− 4 = fX (t), n → ∞. J
Primjer 2.16 Neka su X1 , X2 , ... nezavisne, jednako raspodijeljene slu£ajne promjenljive sa

U(0, 1) raspodjelom i neka je slu£ajna promjenljiva Yn n-ta po veli£ini iz kompleksa (X1 , X2 , ..., X2n−1 ).
Dokazati da niz 1 √
W n = Yn − 8n
2
18
u raspodjeli konvergira ka slu£ajnoj promjenljivoj W koja ima N (0, 1) raspodjelu.
IZnamo da je gustina slu£ajne promjenljive Yn
(2n − 1)!
gn (u) = un−1 (1 − u)n−1 , 0 < u < 1.
(n − 1)!(n − 1)!
Sada je
√ √ √ R1 √ √
fWn (t) = fYn ( 8nt)e−it 2n = e−it 2n ei 8ntu gn (u)du = [(u − 12 ) 8n = w]
√ 0
R2n √
(2n−1)! i 8nt( 12 + √w )
√
(n−1)!(n−1)! 8n
e 8n gn ( 12 + √w )dw
8n
=
√
− 2n
(2n−1)! R∞
w2
n−1
√
(n−1)!(n−1)! 8n22n−2
I(−√2n,√2n) (w)eitw 1 − 2n
dw →
−∞
R∞ w2
√1
2π
eitw e− 2 dw = fW (t), n → ∞, W : N (0, 1).
−∞
Koristili smo Stirlingovu formulu i Lebegovu teoremu o dominantnoj konvergenciji.J
Primjer 2.17 Slu£ajne promjenljive iz niza Xn , n = 1, 2, ... imaju gustine
gn (x) = n(1 − x)n−1 , 0 < x < 1.
Neka je Yn = nXn . Dokazati da niz Yn u raspodjeli konvergira ka slu£ajnoj promjenljivoj Y

koja ima E(1) raspodjelu.
Z1 Z∞
I fYn (t) = E itnXn = n(1 − x)n−1 eintx dx = [nx = v] (1 − v/n)n−1 eitv I(0,n) (v)dv
0 0
Z∞
→ eitv e−v dv = fY (t), n → ∞.
0
Koristili smo Lebegovu teoremu o dominantnoj konvergenciji i teoremu jedinstvenosti. J
19
3 Konvergencije nizova slu£ajnih promjenljivih
Definicija 3.1 Niz slu£ajnih promjenljivih Xn , n = 1, 2, ... u vjerovatno¢i konvergira ka

p
slu£ajnoj promjenljivoj X , koristi se zapis Xn → X, ako je za (∀ > 0), lim P {ω : |Xn (ω) −
n→∞
X(ω)| > } = 0.
Neka je αn , n = 1, 2, ... niz realnih brojeva. Znamo,
αn → α ⇔ (∀ > 0)(∃N ∈ N)(∀n > N )|αn − α| 6 ⇔ (∀k ∈ N)(∃N ∈ N)(∀n > N )|αn − α| 6 k1 .
Ozna£imo sa
∞ [
∞ \
∞ ∞ \
∞ [ ∞
\ \ 1
L = {Xn → X} = {|Xn − X| 6 } = {|Xn − X| 6 } ∈ F.
>0 N =1 n=N k=1 N =1 n=N
k
Budu¢i da je Xn − X slu£ajna promjenljiva, skup {ω : |Xn (ω) − X(ω)| 6 1

k
} je dogaaj.
Budu¢i da je σ polje dogaaja zatvoreno u odnosu na prebrojiva presijecanja i uniranja,
izvodimo zaklju£ak da je skup L dogaaj.
Definicija 3.2 Niz slu£ajnih promjenljivih Xn skoro izvjesno konvergira ka slu£ajnoj prom-
jenljivoj X , koristi se zapis Xn → X (a.s. almost surely), ako je P {ω : Xn (ω) → X(ω)} =
a.s.
P (L) = 1.
∞
Lema 3.1 Neka je Bk , k = 1, 2, ... niz dogaaja. P
T
Bk = 1 ⇔ (∀k ∈ N)P (Bk ) = 1.
k=1
U ⇒ smjeru tvrenje je o£igledno. Dokaºimo tvrenje u ⇐ smjeru. C1 = B1 , C2 =

∞
T ∞
T
B1 B2 , C3 = B1 B2 B3 , ... Kako Ck ↓, imamo P Bk = P Ck = lim P (Ck ) = 1.
k=1 k=1 k→∞
Primjenom Silvesterove formule se dokazuje (∀k ∈ N)P (Ck ) = 1.
n S ∞ T ∞ o
a.s.
Na osnovu leme zaklju£ujemo,Xn → X ⇔ (∀k ∈ N)P {|Xn − X| 6 k1 = 1 ⇔
N =1 n=N
n T∞ o
(∀k ∈ N) lim P {|Xn − X| 6 k = 1, posljednja ekvivalencija slijedi iz: (∀k ∈ N)
1
N →∞ n=N
∞
1
= WN ↑ . Dokazali smo
T
{|Xn − X| 6 k
}
n=N
∞
Lema 3.2 Xn a.s.
T
→ X ⇔ (∀ > 0) lim P {|Xn − X| 6 = 1,
N →∞ n=N
20
Prelaskom na komplementarni dogaaj, zaklju£ujemo da se lema moºe formulisati na sljede¢i
na£in:
∞
Lema 3.3 Xn a.s.
n S o n o
→ X ⇔ (∀ > 0) lim P {|Xn −X| > } = lim P sup |Xn −X| >
N →∞ n=N N →∞ n>N
∞ S
n T ∞ o
=P {|Xn − X| > } = P ( lim An, ) = 0, gdje je An, = {|Xn − X| > }, n = 1, 2, ...
N =1 n=N n→∞
∞
n S o ∞ n o
Primijetimo, P P |Xn − X| > te ako za ∀ > 0 red
P
{|Xn − X| > } 6
n=N n=N
∞ n o n S∞ o
P |Xn − X| > konvergira konstatujemo: (∀ > 0) lim P
P
{|Xn − X| > } =
n=1 N →∞ n=N
a.s.
0 ⇒ Xn → X.
Prisjetimo se jednog tvrenja iz Borel-Kantelijeve teoreme. Ako je An , n = 1, 2, ... niz

∞
nezavisnih dogaaja, tada je P ( lim An ) = 0 ⇔ P (An ) < ∞. Neka je c konstanta i
P
n→∞ n=1
Xn niz nezavisnih slu£ajnih promjenljivih. Iz pretpostavljene nezavisnosti promjenljivih Xn
slijedi nezavisnost dogaaja An, = {|Xn − c| > }, n = 1, 2, .... Analizu zaklju£imo sa
∞
a.s. P
Xn → X ⇔ (∀ > 0)P ( lim An, ) = 0 ⇔ (∀ > 0) P |Xn − c| > < ∞.
n→∞ n=1
Dakle, vaºi
Lema 3.4 Neka je Xn , n = 1, 2, ... niz slu£ajnih promjenljivih, X slu£ajna promjenljiva i c

konstanta.
∞
a) Ako za ∀ > 0 red P |Xn − X| > konvergira tada Xn → X.
P a.s.
n=1
b) Ako su promjenljive Xn nezavisne, tada Xn → c ako i samo ako za ∀ > 0 red

a.s.
∞
P |Xn − c| > konvergira.
P
n=1
Komentar. U nizu dogaaja An, = {|Xn − X| > }, n = 1, 2, ... , gdje su slu£ajne prom-
0 1
jenljive X, X1 , X2 , ... nezavisne i jednako raspodijeljene sa raspodjelom X : 1 2 , dogaaji
3 3
nisu nezavisni. Provjeriti! Ovim je obrazloºeno zbog £ega u prethodnoj lemi pod a) nemamo
ekvivalenciju.
Lema 3.5 Ako Xn a.s. p

→ X tada Xn → X.
21
a.s.
Xn → X ⇒ (∀ > 0) lim P sup |Xn −X| > = 0 ⇒ (∀ > 0) lim P {|XN −X| > } = 0
N →∞ n>N N →∞
jer {|XN − X| > } ⊂ {sup |Xn − X| > }.
n>N
Lema 3.6 Ako Xn →

p
X tada postoji podniz Xnk takav da Xnk → X.
a.s.
Iz P {|Xn − X| > 1} → 0 ⇒ ∃n1 , P {|Xn1 − X| > 1} < 112 . Iz P {|Xn − X| > 12 } → 0 ⇒
∃n2 > n1 , P {|Xn2 − X| > 12 } < 212 . Nastavljaju¢i postupak dolazimo do nk > .. > n2 > n1 i
∞
Xnk , P {|Xnk − X| > k1 } < k12 . Neka je > 0. ∃k0 ∈ N, k10 < te je
P
P {|Xnk − X| > } 6
k=k0
∞
P {|Xnk − X| > k1 } < ∞.
P
k=k0
Neka je Xn : U(0, n), n = 1, 2, ... niz nezavisnih slu£ajnih promjenljivih i neka je

Primjer 3.1
Yn = min{1, Xn }. Dokazati da Yn −→ 1 i Yn −→ 1.
P a.s.
6
I Neka je 0 < ε < 1. Imamo
1−ε
P {1 − Yn > ε} = P {Xn < 1 − ε} = → 0, n → ∞.
n
∞
P a.s.
Dakle, Yn −→ 1. Kako red 1
divergira, zaklju£ujemo da Yn −→ 1 J.
P
n
6
n=1
Komentar. U zadacima u kojima ispitujemo p ili a.s. konvergenciju, dovoljno je analizu

provesti u slu£aju 0 < < 1. Naime, P {|Xn − X| > 2 } 6 P {|Xn − X| > 1 }, gdje je
0 < 1 < 1, 2 > 1.
Lema 3.7 Xn →
p d
X ⇒ Xn → X.
Neka je x ∈ C(F ), > 0.
FX (x − ) = P {X < x − } = P {X < x − , Xn < x} + P {X < x − , Xn > x} 6

P {Xn < x} + P {|Xn − X| > } ⇒ FX (x − ) − P {|Xn − X| > } 6 FXn (x).
Takoe FXn (x) 6 FX (x + ) + P {|Xn − X| > } ⇒
FX (x − ) 6 lim inf FXn (x) 6 lim sup FXn (x) 6 FX (x + ).
Budu¢i da je x proizvoljna ta£ka neprekidnosti funkcije F (x) i proizvoljan pozitivan broj,

c
zaklu£ujemo da FXn → F (x).
22
Lema 3.8 Xn →
d p
c ⇒ Xn → c.
(
0, x 6 c
Znamo, Fc (x) = Neka je > 0. P {|Xn − c| > } 6 P {Xn < c − } + P {Xn >
1, x > c
c + } 6 P {Xn < c − 2 } + 1 − P {Xn < c + 2 } → 0, n → ∞.
Primjer 3.2 Konstruisati niz slu£ajnih promjenljivih koji konvergira u raspodjeli i ne konver-
gira u vjerovatno¢i.
INave²¢emo dva niza. a) Neka je X slu£ajna promjenljivih sa raspodjelom
0 1
X: 1 1
,
2 2
neka je Xn = X, n = 1, 2, ... i Y = 1 − X. Slu£ajne promjenljive Xn i Y imaju istu raspodjelu

d
te Xn −→ Y . Meutim, |Xn − Y | = 1 te niz Xn ne konvergira u vjerovatno¢i ka slu£ajnoj
promjenljivoj Y .
b) Neka je X : N (0, 1) i neka je Xn = −X, n = 1, 2, .... Slu£ajne promjenljive iz niza Xn i

d
slu£ajna promjenljiva X imaju istu raspodjelu te Xn −→ X . Neka je ε proizvoljan broj ve¢i
od 0. Imamo
P {|Xn − X| > ε} = P {|X| > ε/2} 6−→ 0, n → ∞.
Dakle niz slu£ajnih promjenljivih Xn ne konvergira u vjerovatno¢i.J
U tekstu koji slijedi oznaka k k se odnosi na normu iz prostora L2 .
Definicija 3.3 Niz slu£ajnih promjenljivih Xn , n = 1, 2, srednjekvadratno konvergira ka

slu£ajnoj promjenljivoj X ako kXn − Xk → 0 ⇔ E(Xn − X)2 → 0, n → ∞, koristi¢emo
oznaku Xn →2 X.
L
Lema 3.9 Xn →
L2 p
X ⇒ Xn → X.
E(Xn −X)2
Neka je > 0. P {|Xn − X| > } 6 2
→ 0, n → ∞.
0 1
Primjer 3.3 a) Xn : , n = 2, 3, ...
1 − n12 1
n2
0 1
b) Xn : 1 1
, n = 2, 3, ... promjenljive su nezavisne.
1− n n
23
a.s. p
Ia) Xn → 0 ⇒ Xn → 0, EXn2 = 1 te niz ne konvergira srednjekvadratno. b) Niz ne
L p
konvergira skoro izvjesno, EXn2 = n1 ⇒ Xn →2 0 ⇒ Xn → 0. J
Lema 3.10 Ako je niz Xn , n = 1, 2, ... skoro izvjesno ograni£en (tj. postoji interval (a, b)
p
takav da je (∀n ∈ N)P (a < Xn < b) = 1), tada iz Xn → X ⇒ Xn →2 X.
L
R R
> 0, E(Xn − X)2 = (Xn − X)2 P (dω) + (Xn − X)2 P (dω)
√ √
ω:|Xn (ω)−X(ω)|> 2 ω:|Xn (ω)−X(ω)|> 2

+ (b − a)2 P {|Xn − X| > 2 } 6 2
= , za ∀n > n0 ().
p
6 2 2
+ (b − a) 2(b−a)2
Postojanje brojeva
2(b−a)2
i n0 () slijedi iz pretpostavljene konvergencije u vjerovatno¢i.
Primjer 3.4 Neka je Xn , n = 2, 3, ... niz slu£ajnih promjenljivih sa raspodjelama
−n 0 n
Xn : 2 5 3
.
(n+1)2
1− (n+1)2 (n+1)2
Ispitati konvergencije niza Xn .

∞ ∞
INeka je 0 < ε < 1. Kako red 5
konvergira, zaklju£ujemo da
P P
P {|Xn | > } = (n+1)2
n=2 n=2
a.s. P d 5n2
Xn −→ 0, Xn −→ 0 i Xn −→ 0. Kako je EXn2 = (n+1)2
→ 5, n → ∞, zaklju£ujemo da
L2
Xn −→
6 0. J
Primjer 3.5 Neka je Xn , n = 1, 2, ... niz jednako raspodijeljenih slu£ajnih promjenljivih sa

E(1) raspodjelom. Ispitati konvergencije niza Yn = √n13 X .
n
INeka je ε > 0.
√1
Zε n3
n 1 o − √1 1
P {Yn > ε} = P Xn < √ = e−u du = 1 − e ε n3 ∼ √ , n → ∞.
ε n3 ε n3
0
∞ ∞
a.s. P d
Kako red √1 konvergira to je P {|Yn | > ε} < ∞ te Yn −→ 0, Yn −→ 0 i Yn −→ 0.
P P
n3
n=1 n=1
Primijetimo,
Z∞ Z1
e−t 1 dt
EYn2 = 3 2
dt > 3 .
nt ne t2
0 0
Posljednji integral divergira te slu£ajne promjenljive Yn ne pripadaju prostoru L2 . J
24
Primjer 3.6 Neka je Xn , n = 1, 2, ..., niz jednako raspodijeljenih slu£ajnih promjenljivih sa
U(0, 1) raspodjelom i neka je Yn = 1+n14 X 2 . Ispitati konvergencije niza Yn .
n
√1
−1
I Neka je 0 < ε < 1. Za dovoljno velike n-ove kojima se obezbjeuje da je ε
n2
< 1, imamo
q ) q1
1
−1 −1
(
1 n o ε ε
P {Yn > ε} = P > ε = P X n < = .
1 + n4 Xn2 n2 n2
∞
a.s. P d
Kako red 1
konvergira, zaklju£ujemo da Yn −→ 0, Yn −→ 0 i Yn −→ 0. Realizacije niza
P
n2
n=1
Yn su izvjesno sa intervala (0, 1) te iz ve¢ konstatovane konvergencije u vjerovatno¢i slijedi
L2
Yn −→ 0. J
Primjer 3.7 Neka je Xn , n = 1, 2, ... niz nezavisnih, jednako raspodijeljenih slu£ajnih prom-
jenljivih sa E(1) raspodjelom i neka je Yn = 1+nX 1
n
. Ispitati konvergencije niza Yn .
INeka je 0 < ε < 1. Imamo

1 −1
ε
1 Zn
n 1 o n − 1o
P {Yn > ε} = P > ε = P Xn < ε
= e−u du =
1 + nXn n
0
1 −1
ε
1 − e− n = g(ε, n).
P d
Kako g(ε, n) → 0, n → ∞, zaklju£ujemo da Yn −→ 0 i Yn −→ 0.
1 ∞
−1
Primijetimo, g(ε, n) ∼ , n → ∞ te red g(ε, n), 0 < ε < 1, divergira. Dakle,
ε
P
n
n=1
a.s.
Yn 6−→ 0. Iz P {0 < Yn < 1} = 1 i ve¢ dokazane konvergencije u vjerovatno¢i zaklju£ujemo
L2
Yn −→ 0. J
Primjer 3.8 Neka je Xn , n = 1, 2, ... niz slu£ajnih promjenljivih sa

1 1
U 1 − ,1 +
n n
raspodjelama. Ispitati konvergencije niza Xn .

n o
a.s. p
I P ω : 1− 1
n
< Xn (ω) < 1 + 1
n
= 1 ⇒ P {Xn → 1} = 1 ⇒ Xn −→ 1, Xn −→ 1 i
d L
Xn −→ 1. Budu¢i da je izvjesno 0 < Yn < 2 zaklju£ujemo da Xn −→
2
1. J
25
Primjer 3.9 Neka je Xn , n = 1, 2, ... niz nezavisnih slu£ajnih promjenljivih sa U(0, n) raspod-
jelama. Ispitati konvergencije niza Yn = 1+X Xn
n
.
INeka je 0 < ε < 1 i n dovoljno veliko tako da je n > 1

ε
− 1. Imamo,
1
n 1 o
ε
−1
P {|1 − Yn | > ε} = P {1 − Yn > ε} = P Xn < − 1 = → 0, n → ∞.
ε n
p d L
Dakle, Yn −→ 1 i Yn −→ 1. Primijetimo, P {0 < Yn < 1} = 1 te Yn −→
2
1. Kako red
∞
a.s.
P {|1 − Yn | > ε} divergira, zaklju£ujemo da Yn −→
P
6 1. J
n=1
Primjer 3.10 Neka je Xn , n = 1, 2, ... niz nezavisnih slu£ajnih promjenljivih sa

1 1
U 0, ∪ 1, 1 + 2
n n
raspodjelama. Ispitati konvergencije niza Xn .
d P
IJednostavno se provjerava da fXn (t) → 1 odakle slijedi Xn −→ 0, a time i Xn −→ 0.
L2
Kako je P {0 6 Xn 6 2} = 1 to Xn −→ 0. Neka je 0 < ε < 1 i n dovoljno veliko tako da je
1
n
< ε. Imamo,
1
n 1 o

n2 1
P {Xn > ε} = P Xn ∈ 1, 1 + 2 = 1 1 = .
n n
+ n2
n+1
∞
a.s.
Kako red P {Xn > ε} divergira to Xn −→
P
6 0. J
n=1
Primjer 3.11Neka je Xn , n = 1, 2, ... niz slu£ajnih promjenljivih sa U(n, n2 ) raspodjelama i

neka je Yn = e−n Xn . Dokazati da Yn −→ 0 i Yn −→ 0.
a.s. L2
n2 o
I P ω : 0 6 Yn (ω) 6 n = 1 =⇒ P {ω : Yn (ω) → 0} = 1.
e
a.s.
Dakle, Yn −→ 0. Lako se provjerava da EYn2 → 0, n → ∞. J
26
4 Zakoni velikih brojeva
Definicija 4.1 Neka su Xn , n = 1, 2, ... slu£ajne promjenljive sa kona£nim matemati£kim

o£ekivanjem i neka je Sn = X1 + ... + Xn , n = 1, 2, ... Ako niz
Sn − ESn
n
konvergira u vjerovatno¢i ka 0, tada za niz Xn vaºi slabi zakon velikih brojeva. Ako je kon-
vergencija ka 0 skoro izvjesna, tada za niz Xn vaºi strogi zakon velikih brojeva.
Teorema 4.1 Bernulijev zakon velikih brojeva. Neka Sn : B(n, p), n = 1, 2, .... Tada
Sn p
n
→ p.
n
Znamo da je Sn = IAk , gdje je Ak dogaj da se u k -tom opitu Bernulijeve sheme ostvari
P
k=1
uspjeh. O£igledno E Snn = p. Primjenom ebi²ovljeve nejednakosti dobijamo
n S o D Sn pq 1
n
> 0, P | − p |> 6 2n = 2 6 → 0, n → ∞.
n n 4n2
Komentar. Iz iskustva znamo da u opitu u kome n puta bacamo nov£i¢, n je veliko,

relativna u£estalost palih pisama ne odstupa "mnogo" od 21 . Da li navedena konstatacija vaºi
za svaku seriju bacanja? Recimo, u seriji u kojoj u £etvrtini bacanja padne pismo, relativna
u£estalost pisama je 1
4
te "mnogo" odstupa od 12 . Polaznu konstataciju treba preciznije for-
mulisati. Nova formulacija ¢e dati dublji smisao lai£koj interpretaciji sa po£etka komentara.
Neka je proizvoljan pozitivan broj i

( )
S (ω) 1
n
W = ω: − > .

n 2
W je dogaaj da u seriji od n bacanja nov£i¢a, relativna frekvencija palih pisama odstupi od

1
2
vi²e od . Kako su serije jednako vjerovatne, P (W ) je koli£nik broja serija koje odgovaraju
W i 2n . Bernuli ne ra£una P (W ) ve¢ dobija ocjenu
( )
S (ω) 1 1
n
P ω: − > 6 .

n 2 4n2
27
Ocjena implicira: ako broj bacanja nov£i¢a teºi beskona£nosti, tada vjerovatno¢a dogaaja
da relativna frekvencija palih pisama odstupi od 1
2
vi²e od datog broja teºi 0. Upravo
re£eno je precizna formulacija Bernulijevog zakona velikih brojeva. Primjenom ocjene se
rje²ava zadatak: na¢i n tako da je za zadate pozitivne i ζ
( )
S (ω) 1
n
P ω: − > 6 ζ.

n 2
Rezultat se dobija nakon rje²avanja nejedna£ine 4n

1
2 6 ζ.
n o
Uskoro ¢emo na¢i bolju ocjenu za P | n − p |> .
Sn
Teorema 4.2 ebi²ovljev zakon velikih brojeva. Neka je Xn , n = 1, 2, ... niz nezavisnih
slu£ajnih promjenljivih i neka je C konstanta za koju vaºi DXn 6 C, n = 1, 2, ... Tada za niz
Xn vaºi slabi zakon velikih brojeva.
n | S − ES | o DS Cn
n n n
> 0, P > 6 2
6 2 → ∞.
n n n
Koristili smo ebi²ovljevu nejednakost.
Teorema 4.3 Hin£inov zakon velikih brojeva. Neka je Xn , n = 1, 2, ... niz nezavisnih
jednako raspodijeljenih slu£ajnih promjenljivih sa kona£nim matemati£kim o£ekivanjem i neka
p
je EX1 = a. Tada za niz Xn vaºi slabi zakon velikih brojeva tj. Snn → a.
n
Y t t n
t ∈ R, f Sn −ESn (t) = f P
n Xk −a (t) = [EXk −a = 0] = 1+o = 1+o → 1 = f0 (t).
n
n
k=1
n n
k=1
Iz teoreme neprekidnosti slijedi da niz Sn −ESn

n
konvergira u raspodjeli ka 0. Kako je 0 kon-
stanta, niz konvergira i u vjerovatno¢i.
Primjer 4.1 Neka je Xn , n = 1, 2, ... niz nezavisnih slu£ajnih promjenljivih sa raspodjelama
−2n 2n
Xn : 1 1
.
2 2
Dokazati da za niz Xn ne vaºi slabi zakon velikih brojeva.
28
IPrimijetimo, P {|Sn−2 | 6 2n−1 } = 1. Neka je 0 < ε < 1. Imamo
n S o n S o
n n
P > ε > P > ε|Xn = 2n , Xn−1 = 2n−1 ×
n n
1
× P {Xn = 2n , Xn−1 = 2n−1 } = P {Xn = 2n , Xn−1 = 2n−1 } = .
4
Dakle, za niz Xn ne vaºi slabi zakon velikih brojeva.J
Primjer 4.2Neka je Xn , n = 1, 2, ... niz nezavisnih slu£ajnih promjenljivih sa N (0, n) raspod-

jelama. Dokazati da za niz Xn ne vaºi slabi zakon velikih brojeva.

IMetodom karakteristi£nih funkcija lako se dokazuje Sn
n
: N 0, n+1
2n
. Neka je ε proizvoljan
broj ve¢i od 0. Imamo
n S o Zεr n nu2
Zε
1 2
n − n+1
P 6ε = e du −→ √ e−u du < 1, n → ∞.
n (n + 1)π π
−ε −ε
Dakle, za niz Xn ne vaºi slabi zakon velikih brojeva.J
0 2n
Xn : 1 1
.
1− n n
P
Dokazati da Xn −→ 0, ali da
P Sn
n
6−→ 0.
INeka je ε proizvoljan broj ve¢i od 0. Za dovoljno veliko n imamo P {Xn > ε} = 1

n
te je
konvergencija niza Xn u vjerovatno¢i ka nuli o£igledna.
Neka je N prirodan broj, N > 4. Lako se provjerava da je 2N/2 > N . Za n > N imamo
nS o n n+1 o
n
P 6 1 6 P Xk = 0, za svako k , <k6n 6
n 2
1 n/2
1− −→ e−1/2 , n → ∞. J
n
Teorema 4.4 Kolmogorovljeva nejednakost. Neka su Xk , k = 1, 2, ..., n, nezavisne

slu£ajne promjenljive, EXk = 0, EXk2 < ∞, Sk = X1 + ... + Xk . Tada za svako ε > 0
vaºi
DSn
P { max | Sk |> ε} 6 .
16k6n ε2
29
Ozna£imo
A = { max | Sk |> ε}; Ak = {| Si |6 ε, i = 1, ..., k − 1, | Sk |> ε}, 1 6 k 6 n.

16k6n
Konstatujmo,
n
X n
X
A= Ak ; DSn = ESn2 > ESn2 IA = ESn2 IAk .
k=1 k=1
ESn2 IAk = E(Sk + (Xk+1 + ... + Xn ))2 IAk = ESk2 IAk +

2ESk (Xk+1 + ... + Xn )IAk + E(Xk+1 + ... + Xn )2 IAk > ESk2 IAk .
Naime ESk IAk (Xk+1 + ... + Xn ) = ESk IAk E(Xk+1 + ... + Xn ) = 0, koristimo nezavisnost
promjenljivih Sk IAk i Xk+1 + ... + Xn . Na kraju,
n
X n
X
ESn2 > ESk2 IAk >ε 2
P (Ak ) = ε2 P (A).
k=1 k=1
Posljedica 4.1 Neka su Xk , k = 1, 2, ..., n, nezavisne slu£ajne promjenljive sa kona£nim

disperzijama DXk , Sk = X1 + ... + Xk . Tada za svako ε > 0 vaºi
DSn
P { max | Sk − ESk |> ε} 6 .
16k6n ε2
Ako su wk = Xk − EXk i Sk0 = w1 + ... + wk , tada je Ewk = 0, DSk0 = DSk . Imamo na

osnovu upravo dokazane teoreme
DSn0 DSn
P { max | Sk − ESk |> ε} = P { max | Sk0 |> ε} 6 = .
16k6n 16k6n ε2 ε2
Teorema 4.5 Kolmogorovljev zakon velikih brojeva. Neka je Xn , n = 1, 2, ..., niz

∞ 2
nezavisnih slu£ajnih promjenljivih, EXn = 0, DXn = σn2 i red σn
konvergira. Tada
P
n2
n=1
n
Xi → 0, n → ∞, tj. za niz Xn vaºi strogi zakon velikih brojeva.
1
P a.s.
n
i=1
Neka je Sk = X1 + X2 + ... + Xk . Skoro izvjesna konvergencija iz formulacije teoreme je

ekvivalentna sa n Sk o
(∀ > 0) lim P sup | |> = 0. (∗)
n→∞ k>n k
30
Neka je
n Sk o
An = max | |> .
2n−16k<2n k
Jednakost (∗) je ekvivalentna sa (provjerite!)
[
lim P Ak = P lim An = 0
n→∞ n→∞
k>n
Koriste¢i Kolmogorovljevu nejednakost dobijamo

n o n o
P (An ) 6 P max
n−1
| Sk |> 2n−1 6 P maxn | Sk |> 2n−1 6 4 S2 222n
n
.
2 6k<2n 16k<2
Na kraju,
∞ ∞ 2k ∞ ∞ 2
σn
P (Ak ) 6 4−2 2−2k σn2 6 4−2 σn2 2−2k 6 8−2
P P P P P P
n2
< ∞,
k=1 k=1 n=1 n=1 k:2k >n n=1
∞ ∞
koristimo ocjenu 2−2k 6 2 · 2−2k . Iz konvergencije reda P (Ak ) i Borel-Kantelijeve
P P
k=k0 k=1
teoreme slijedi (∀ > 0)P lim An = 0.

n→∞
Posljedica 4.2 Neka je Xn , n = 1, 2, ..., niz nezavisnih slu£ajnih promjenljivih i neka red
∞ n
konvergira. Tada n1 (Xi −EXi ) → 0, tj. za niz Xn vaºi strogi zakon velikih brojeva.
P DXn
P a.s.
n2
n=1 i=1
∞
Formirajmo niz wn = Xn − EXn . O£igledno, Ewn = 0, Dwn = DXn i red Dwn
P
n2
=
n=1
∞
DXn
na osnovu pretpostavke konvergira. Na osnovu upravo dokazane teoreme slijedi
P
n2
n=1
n n
1
P 1
P a.s.
n
(Xi − EXi ) = n
wi → 0.
i=1 i=1
Posljedica 4.3 Neka je Xn niz nezavisni jednako raspodijeljenih slu£ajnih promjenljivih sa

kona£nom disperzijom i neka je EXn = a, Sn = X1 + ... + Xn . Tada za niz Xn vaºi strogi
zakon velikih brojeva tj. Snn → a.
si
Posljedica 4.4 Borelov zakon velikih brojeva. U Bernulijevoj shemi Sn a.s.

n
→ p.
n
Znamo da je Sn = IAk , gdje je Ak dogaaj da se u k tom opitu ostvari dogaaj A tj.
P
k=1
uspjeh. Promjenljive iz niza IAk su nezavisne, EIAk = p, DIAk = p(1 − p) te iz prethodne
posljedice slijedi Borelov zakona velikih brojeva.
31
Komentar. Bernulijev i Borelov zakon imaju posebno mjesto u stohastici. Zakoni ukazuju
na tijesnu vezu izmeu relativne frekvencije uspjeha i vjerovatno¢e uspjeha tj. nama intere-
santnog dogaaja. U oba slu£aja rezultat se iskazuje u obliku konvergencije niza Sn −ESn
n
∗
ka 0. Ta £injenica je bila motiv za izu£avanje uslova pod kojima u op²tim uslovima koji su
navedeni u deniciji, niz oblika ∗ konvergira ka 0.
Teorema 4.6 Kolmogorovljev zakon velikih brojeva. Neka je Xn niz nezavisnih jed-
nako raspodijeljenih slu£ajnih promjenljivih, Sn = X1 + ... + Xn . Sn a.s.
n
→ a ako i samo ako je
EXn = a. Bez dokaza.
Teorema 4.7 Nekan je Xn ,nn = 1, 2, ... niz slu£ajnih promjenljivih za koji vaºi strogi zakon
P P
Xk −E Xk
velikih brojeva tj. → 0. Tada,
a.s. Xn −EXn a.s.
k=1
n
k=1
n
→ 0.
n
Neka je Wn = Xn − EXn , n = 1, 2, ..., EWn = 0, Sn = Wk . Na²e tvrenje se sada svodi
P
k=1
Sn a.s. Wn a.s.
na: ako n
→ 0, tada n
→ 0. Iz
Sn a.s.
→ 0 ⇒ (∀ > 0)P {| Sn |> n za b.m. n} = 0.
n
Ako je
n n (n − 1)
| Wn |> n ⇒| Sn − Sn−1 |> n ⇒| Sn |> ∨ | Sn−1 |> > .
3 3 3
Dakle,
Sn
{| Wn |> n za b.m. n} ⊆ {| |> za b.m. n} ⇒ (∀ > 0)P {| Wn |> n za b.m. n} = 0
n 3
Wn a.s.
tj. n
→ 0.
Normalni brojevi. Opit slu£ajnog izbora broja sa [0, 1] se modelira vjerovatnosnim

prostorom ([0, 1], B[0,1] , P ), P je Lebegova mjera na [0, 1]. Neka je ω proizvoljni broj sa [0, 1] i
neka je ω = 0, ω1 ω2 ... odgovaraju¢i binarni razvoj (zbog jednozna£nosti u slu£aju kada postoje
dva razvoja, opredjeljujemo se za onaj sa beskona£no mnogo uzastopnih nula). Za broj sa
[0, 1] kaºemo da je normalan ako relativna u£estalost cifre 1 meu prvim ciframa njegovog
binarnog razvoja konvergira ka 21 . Za broj α = 0, 110101... niz relativnih u£estalosti jedinica
je 11 . 22 , 32 , 34 , 35 , 46 , ... Broj β = 0, 101001000100001, ... nije normalan. Skup normalnih brojeva
32
¢emo ozna£iti sa A. Formirajmo niz slu£ajnih promjenljivih Xn , Xn (ω) = ωn , n = 1, 2, ...
Kako je
1 1 1
P {Xn1 = x1 } · · · P {Xnk = xk } = · · · = k = P {Xn1 = x1 , ..., Xnk = xk },
2 2 2
(provjeriti!) zaklju£ujemo da su slu£ajne promjenljive iz niza Xn nezavisne i
0 1
Xn : 1 1
.
2 2
Na osnovu Kolmogorovljevog zakona velikih brojeva zaklju£ujemo

n
n 1X 1o
P ω: Xk (ω) → = P (A) = 1,
n k=1 2
dakle Lebegova mjera skupa normalnih brojeva sa [0, 1] je 1. Drugim rije£ima, skoro svi
brojevi sa [0, 1] su normalni.
Metod Monte Karlo. Neka je f : [0, 1] → [0, 1] neprekidna funkcija. Neka je (X1 , Y1 ), (X2 , Y2 ), ...
niz nezavisnih slu£ajnih vektora sa U([0, 1] × [0, 1]) raspodjelom (ekvivalentan termin je niz
nezavisnih slu£ajnih ta£aka sa kvadrata [0, 1] × [0, 1]). Neka je
(
1, f (Xi ) > Yi ,
wi =
0, f (Xi ) 6 Yi .
Konstatujmo, slu£ajne promjenljive wi , i = 1, 2, ... su nezavisne i
Z1
Ewi = P {f (Xi ) > Yi } = f (x)dx.
0
Kako za niz wi vaºi strogi zakon velikih brojeva, zaklju£ujemo
n Z1
1 X a.s.
wi → f (x)dx.
n i=1
0
R1
Metod Monte Karlo za pribliºno ra£unanje integrala f (x)dx se zasniva na ustanovljenoj
0
konvergenciji. Vrijednost integrala se aproksimira relativnim brojem izabranih ta£aka koje
se nalaze u oblasti ispod graka funkcije. Ve¢a vrijednost broja n obezbjeuje bolju aproksi-
33
maciju.
y = f (x)
O 1 x
−n 0 n
Xn : 1 1 1
.
2n ln n
1− n ln n 2n ln n
Dokazati da za niz Xn vaºi slabi, a ne vaºi strogi zakon velikih brojeva.

∞ ∞
1 Xn a.s.
P P
I 0 < < 1, P {| Xn |> n} = n ln n
=∞⇒ n
9 0.
n=2 n=2
Primijetimo da je DXn = n
ln n
, n = 2, 3, ... i da funkcija g(x) = x
ln x
monotono raste za
x > e. Sada imamo
n+1 Zn+2
1 X 1h 2 x i 2 (n − 1)(n + 2)
2
DXk 6 2 + dx 6 2 + .
n k=2 n ln 2 ln x n ln 2 n2 ln n
3
Neka je ε proizvoljan broj ve¢i od 0. Na osnovu ebi²ovljeve nejednakosti imamo
n S n+1
n
o 1 X
P >ε 6 2 2 DXk −→ 0, n → ∞.
n n ε k=2
Dakle, za niz Xn vaºi slabi zakon velikih brojeva.J
Primjer 4.5 Neka je f neprekidna funkcija zadata na segmentu [0, 1] i neka je Xn , n = 1, 2, ...
niz nezavisnih, jednako raspodijeljenih
slu£ajnih veli£ina sa U[0, 1] raspodjelom. Dokazati da
f n −→ f 2 i Ef n −→ f 2 , n → ∞.
Sn
a.s. 1
Sn 1

34
a.s.
INa osnovu Borelove teoreme Sn
n
−→ 12 . Zbog neprekidnosti funkcije f (x) imamo
n S 1 o
n
P f −→f = 1, n → ∞.
n 2
a.s.
Dakle f Sn 1
.

n
−→ f 2
S Z1
Z1
n x1 + x2 + ... + xn
Ef = ... f dx1 dx2 ...dxn =
n n
0 0
Z Z
Sn (ω) 1 1
f P (dω) −→ f P (dω) = f , n → ∞. J
n 2 2
Ω Ω
R1 R1
Primjer 4.6 Izra£unati lim π
... cos2m 2n (x1 + x2 + ... + xn )dx1 dx2 ...dxn .
n→∞ 0 0
INa funkciju f (x) = cos2m π2 x, x ∈ [0, 1] primijenimo drugo tvrenje iz prethodnog prim-
jera. Traºena grani£na vrijednost je f 21 = 2−m . J

5 Centralna grani£na teorema
Teorema 5.1 Klasi£na centralna grani£na teorema. Za niz Xn , n = 1, 2, ... nezavis-

nih, jednako raspodijeljenih slu£ajnih promjenljivih, EXk = a, DXk = σ 2 , Sn = X1 + ... +
√k −a , k = 1, ..., n, vaºi:
Xn , Xn,k = X nσ 2
n
Sn − na X
Xn,k → X ∗ : N (0, 1), tj.
d
√ =
nσ 2
k=1
n S − na Zx
n
o 1 t2
(∀x ∈ R)P √ <x → √ e− 2 dt, n → ∞.
nσ 2 2π
−∞
EXn,k = 0, DXn,k = n1 . Neka je t ∈ R.
n
Y t2 t2 n t2
f S√n −na (t) = f X√k −a (t) = 1 − +o → e− 2 = fX ∗ (t), n → ∞.
nσ 2
k=1 nσ 2 2n 2n
35
d
Iz teoreme neprekidnosti za karakteristi£ne funkcije slijedi n −na
S√
nσ 2
→ X ∗ .
Komentari. 1. CGT se moºe interpretirati sa: slu£ajna promjenljiva n −na

S√
nσ 2
ima asimptot-
ski standardnu normalnu raspodjelu tj. u slu£aju velikih n-ova slu£ajna promjenljiva n −na
S√
nσ 2
ima pribliºno N (0, 1) raspodjelu.
σ2
2. lim k = lim n1 = 0 ravnomjerno po 1 6 k 6 n. Imaju¢i u vidu da disperzijom
n→∞ DSn n→∞
mjerimo "koli£inu" slu£ajnosti-haoti£nosti, moºemo konstatovati da svaki sabirak Xk , k =
1, ..., n, (za velike n) u sumu Sn unosi ravnomjerno mali slu£ajni doprinos. Stoga kaºemo da
su sabirci (u vjerovatnosnom smislu) ravnomjerno mali-zanemarljivi u odnosu na sumu.
Posljedica 5.1 Integralna Moavr-Laplasova teorema. Neka Sn : B(n, p). Tada

n S − np Zx
o 1 t2 Sn − np d ∗
e− 2 dt, n → ∞, tj. √
n
(∀x ∈ R)P √ <x → √ →X .
npq 2π npq
−∞
Tekst koji slijedi, do Komentari, pisan je italikom, moºete presko£iti

Preimo na op²ti slu£aj. Neka je Xn , n = 1, 2, ... niz nezavisnih slu£ajnih promjenljivih
n n
Xk −ak
EXk = ak , DXk = σk2 , k = 1, 2, ..., Sn = Xk , DSn = Bn2 = σk2 , Xn,k =
P P
Bn
, Fk (x)
k=1 k=1
n
je funkcija raspodjele slu£ajne promjenljive Xk . Primijetimo n −ESn
S√
P
DSn
= Xn,k , EXn,k =
k=1
n
σk2 P
0, DXn,k = Bn2,D Xn,k = 1
k=1
Definicija 5.1 Za niz Xn vaºi uslov (UAN)-ravnomjerne asimptotske zanemarljivosti sabi-

raka (uniform asymptotic negligibility condition) ako je za svako ksirano τ > 0,
lim max P {|Xn,k | > τ } = 0 ⇔ lim P {|Xn,k | > τ } = 0 ravnomjerno po k = 1, ..., n.

n→∞ 16k6n n→∞
Obrazloºimo ekvivalenciju iz denicije.
(∀τ > 0) lim max P {|Xn,k | > τ } = 0 ⇔ (∀τ > 0)(∀ > 0)(∃n0 = n0 (τ, ))(∀n > n0 )
n→∞ 16k6n
max P {|Xn,k | > τ } < ⇔ (∀τ > 0)(∀ > 0)(∃n0 = n0 (τ, ))(∀n > n0 )(∀k ∈ {1, ..., n})
16k6n
P {|Xn,k | > τ } < ⇔ (∀τ > 0) lim P {|Xn,k | > τ } = 0 ravnomjerno po k = 1, ..., n.
n→∞
36
Dakle, u zoni velikih n-ova, za sve sabirke istovremeno vaºi da se vjerovatno¢e neznatnog
odstupanja sabiraka od 0 (ako je τ veoma mali broj, dogaaj {|Xn,k | > τ } tretiramo kao
dogaaj da je sabirak Xn,k neznatno odstupio od 0) mogu u£initi po ºelji malim. Ovim je
opravdana upotreba formulacije uslov ravnomjerne asimptotske zanemarljivosti sabiraka
Definicija 5.2 Za niz Xn vaºi Felerov uslov (F) ako je
σk2 σk2
2
lim max EXn.k = lim max 2
= 0 tj. lim 2
= 0 ravnomjerno po 1 6 k 6 n.
n→∞ 16k6n n→∞ 16k6n Bn n→∞ Bn
Imaju¢i u vidu da disperzijom mjerimo "koli£inu" slu£ajnosti-haoti£nosti, Felerov uslov im-

plicira da svaki sabirak Xk , k = 1, ..., n, u sumu Sn unosi ravnomjerno mali slu£ajni doprinos.
Lema 5.1 Felerov uslov implicira uslov (UAN).
Za svako τ > 0, nakon primjene ebi²ovljeve nejednakosti dobijamo
1 σk2
max P {|Xn,k | > τ } = max P {|Xk − ak | > τ Bn } 6 2 max 2 ,
16k6n 16k6n τ 16k6n Bn
odakle slijedi tvrenje.
Definicija 5.3 Za niz Xn vaºi Lindebergov uslov ako je za svako ksirano τ > 0
n Z
1 X
lim 2 (x − ak )2 dFk (x) = 0.
n→∞ Bn
k=1
|x−ak |>τ Bn
Lema 5.2 Lindebergov uslov implicira Felerov uslov.
R R
1 6 k 6 n, σk2 = (x − ak )2 dFk (x) + (x − ak )2 dFk (x) 6
|x−ak |6τ Bn |x−ak |>τ Bn
n R
τ 2 Bn2 + − ak )2 dFk (x) ⇒
P
(x
k=1 |x−ak |>τ Bn
n
σk2 1
R
6 τ2 + (x − ak )2 dFk (x).
P
max 2 2
16k6n Bn Bn
k=1 |x−ak |>τ Bn
Zbog mogu¢nosti izbora po ºelji malog τ i Lindebergovog uslova, za sve dovoljno velike n,
desna strana nejednakosti moºe biti po ºelji malom. Ovim je lema dokazana.
37
Iz prethodne dvije leme slijedi da Lindebergov uslov implicira (UAN).
Sljede¢a fundamentalna teorema se u literaturi pojavljuje u dvije ekvivalentne formulacije.

Navodimo obje.
Teorema 5.2 Lindeberg-Felerova teorema. Za £lanove niza Xn vaºi uslov (UAN) i

n
(tj. CGT) ako i samo ako za £lanove niza Xn vaºi Lindebergov uslov.
d
Xn,k → X ∗
P
k=1
Teorema 5.3 Lindeberg-Felerova teorema. Za £lanove niza Xn vaºi Felerov uslov i

n
(tj. CGT) ako i samo ako za £lanove niza Xn vaºi Lindebergov uslov.
d
Xn,k → X ∗
P
k=1
Klasi£na CGT je posljedica Lindeberg-Felerove teoreme. Dovoljno je provejeriti da vaºi

Lindebergov uslov, funkciju raspodjele sabiraka ¢emo ozana£iti sa F (x).
n Z Z
1 X 2 1
lim 2 (x − ak ) dFk (x) = lim 2 (x − a)2 dF (x).
n→∞ Bn n→∞ σ
k=1 √
|x−a|>τ Bn |x−a|>τ nσ
Posljednji integral je rep konvergentnog intgrala na R te teºi ka 0 kad n → ∞.
Komentari.
1. CGT je robustna. Uslovi iz klasi£ne CGT se mogu oslabiti a da tvrenje teoreme vaºi.
Slabljenje uslova se prevashodno odnosi na odbacivanje nezavisnosti i jednake raspodijel-
jenosti sabiraka. Nezavisnost se zamjenjuje uslovom slabe zavisnosti. CGT vaºi i za slu£ajne
vektore.
2. Sva slabljenja uslova CGT podrazumijevaju da novi uslovi £uvaju svojstvo ravnomjerne
zanemarljivosti sabiraka u odnosu na sumu koje je su²tinsko za vaºenje CGT. Uzimaju¢i u
obzir upravo re£eno i robustnost CGT, u slobodnijoj interpretaciji, poruka CGT je: zbir
velikog broja nezavisnih ili slabo zavisnih malih-zanemarljivih slu£ajnih sabiraka, ima prib-
liºno normalnu raspodjelu. Model u kome je posmatrana slu£ajna promjenljiva zbir velikog
broja malih nezavisnih ili slabo zavisnih slu£ajnih komponenti se £esto pojavljuje u praksi-
aktuarska i nanisijska matematika, antropologija, biologija itd. Malo druga£ije re£eno, £esto
se procesi odvijaju pod dejstvom velikog broja nezavisnih ili slabo zavisnih slu£ajnih fako-
tora i uticaj svakog faktora pojedina£no na proces je neznatan. Posmatra£a ne zanimaju ti
faktori i slu£ajne promjenljive koje oni produkuju, ve¢ njihov kona£ni tj. zbirni efekat. Za-
klju£imo, pozivaju¢i se na slobodniju interpretaciju CGT, posmatrana slu£ajna promjenljiva
ima normalnu raspodjelu. Navedimo primjere.
38
Mjerenje u zici ili tehnici. Neka je a stvarna vrijednost-mjera onoga ²to se mjeri.
Rezultat mjerenja je slu£ajna promjenljiva X = a + , je gre²ka mjerenja, E = 0 ako
ne postoji sistematska gre²ka koja se obi£no vezuje za neispravni instrument. se dobija u
rezultatu sumiranja gre²aka koje generi²e mjerni instrument. Atmosferski procesi, mehani£ke
turbulencije i mnogi drugi faktori "izbacuju" instrument iz stanja stabilnosti i instrument
produkuje gre²ke. Te gre²ke su male-zanemarljive, nezavisne ili slabo zavisne, a zbog njihove
brojnosti smo u modelu za koji smo vezali slobodniju interpretaciju CGT iz prethodnog
pasusa. Stoga, ukupna gre²ka : N (0, σ 2 ) i X : N (a, σ 2 ), parametar σ 2 govori o preciznosti
mjerenja.
Visina populacije istog ºivotnog doba i pola ima normalnu raspodjelu, svjedo£e mno-
gobrojni podaci. Na visinu uti£e veliki broj slu£ajnih faktora koji u sumi generi²u visinu
osobe.
3. CGT se primjenjuje u rje²avanju zadataka u kojima treba odrediti P {Sn ∈ W }. Ko-

risti se £injenica da u slu£aju velikog n, slu£ajna promjenljiva n −ESn
S√
DSn
ima pribliºno N (0, 1)
raspodjelu. Zbog brze konvergencije, aproksimacija je odli£na i za umjerene vrijednosti n.
4. Bez obzira na £lanove niza Xn (zbog jednostavnosti komentar vezujemo za klasi£nu

CGT), u slu£aju velikog n slu£ajna promjenljiva n −ESn
S√
DSn
ima pribliºno N (0, 1) raspodjelu-
interpretira se kao uniformnost tj. tvrenje vaºi istovremeno za sve sume. Za sve nizove
Xn za koje je EXk = a, DXk = σ 2 vaºi: za veliko n slu£ajna promjenljiva Sn ima pribliºno
N (na, nσ 2 ) raspodjelu. Iako slu£ajne promjenljive koje imaju isto o£ekivanje i disperziju
mogu biti bitno razli£ite, njihovi zbirovi (broj £lanova sume je velik) su u vjerovatnosnom
smislu identi£ni-imaju istu raspodjelu. Sve razli£itosti su nestale.
5. Ve¢ smo pokazali: Ako su X1 , X2 , ..., Xn nezavisne slu£ajne promjenljive i svaka ima
σ2
N (m, σ 2 ) raspodjelu, tada X1 +...X Sn
. Vidimo da je nakon osrednjavanja

n
n
= n
: N m, n
sa£uvana normalna raspodjela, stim da je disperzija znatno manja od disperzije sumanada.
Zaklju£ujemo da su realizacije Sn
n
skoncetrisane oko m. CGT tvrdi da analogan rezultat vaºi
i u op²tem slu£aju. Naime, ako su X1 , ..., Xn nezavisne i jednako raspodijeljenje slu£ajne
promjenljive, EX1 = m, DX1 = σ 2 , tada za veliko n, slu£ajna promjenljiva Sn
n
ima pribliºno
2
N m, σn raspodjelu.
Lokalna Moavr-Laplasova teorema se bavi asimptotskim pona²anjem vjerovatno¢a Pn (m) =

P {Sn = m}. Teoremu ¢emo prezentovati bez dokaza.
39
Teorema 5.4 Lokalna Moavr-Laplasova teorema. Za ∀C > 0
√
2πnpqPn (m)
lim x2
=1
n→∞
e− 2
ravnomjerno po svim m ∈ {0, 1, ..., n} za koje se x = xm,n = m−np

√
npq
nalazi u intervalu (−C, C),
tj. √
2πnpqP (m)
n
sup − 1 → 0, n → ∞.

√ x2

−
{m:|m−np|<C npq} e 2
Iz lokalne teoreme slijedi aproksimacija

( !2 )
1 1 m − np √ 1 u2
Pn (m) ∼ √ exp − √ ⇔ npqPn (m) ∼ ϕ(xm,n ), ϕ(u) = √ e− 2 .
2πnpq 2 npq 2π
Da bi se izbjeglo sljepljivanje roja ta£aka (m.Pn (m)) sa apscisnom osom, koordinatna

√
ravan se linearno transformi²e po obrascu (x, y) → ( x−np √
npq
, npqy). Nakon transformacije
√
centar novog sistema je u ta£ki (np, 0), jedinica mjere po apscisi se uve¢ava npq puta-efekat
√
kao kod geografske karte, a po ordinati smanjuje npq puta-efekat kao kod mikroskopa.
Graci se nakon transformacije steºu po apscisnoj, a rasteºu po ordinatnoj osi. Nakon
transformacije, ta£ke koje su u polaznom sistemu imale koordinate (m.Pn (m)), u novom
√
sistemu imaju koordinate (xm,n , npqPn (m)) te su u slu£aju velikog n bliske ta£kama sa
koordinatama (xm,n , ϕ(xm,n )).
U knjizi B.V. Gnedenko: The theory of probability, knjiga se moze skinuti sa

http://gen.lib.rus.ec/, lijepo je ilustrovana primjena lokalne teoreme. Iz te knjige navodimo
konkretan primjer.
x 2
Koristi se oznaka Qn (m) = √ 1
2πnpq
e− 2 . Podaci su n = 400, p = 12 , m = 210. Imamo
x210,400 = 1, P400 (210) = 0, 024207, Q400 (210) = 0, 024194, P400 (210) − Q400 (210) = 0, 000013,
P400 (210)
Q400 (210)
= 1, 0004.
Pogledati Dodatak1, Dodatak 2. i na internetu potraºiti simulacije koje se

odnose na Galton board (quincunx).
Postoji lokalna CGT i njena formulacija je prirodno uop²tenje lokalne Moavr-Laplasove
teoreme.
Primjer 5.1 Kocka se baca 100 puta. Kolika je vjerovatno¢a da je zbir palih brojeva izmeu
340 i 370?
40
ISa Xk , k = 1, 2, . . . , 100, ozna£imo rezultat k -tog bacanja. Jasno
1 2 3 4 5 6 35
Xk : 1 1 1 1 1 1
, EXk = 3, 5, DXk = , k = 1, 2, . . . , 100.
6 6 6 6 6 6
12
100
Zbir palih brojeva je S100 = Xk .
P
k=1
Niz vjerovatno¢a u CGT brzo konvergira, 100 je dovoljno velik broj pa je opravdano traºiti
rezultat kao ²to to radimo u redovima koji slijede. Iako koristimo aproksimaciju, zbog njene
izuzetne preciznosti, nakon primjene CGT ne¢emo upotrijebiti simbol za pribliºnu vrijednost
ve¢ simbol jednakosti.
 
 340 − 350 S100 − 100 · 3, 5 370 − 350 
P {340 < S100 < 370} = P √ < q < √
 . 100 · 35 . 
12
= Φ∗ (1, 17) + Φ∗ (0, 59) = 0, 379 + 0, 222 = 0, 601. J
Primjer 5.2 Informacionim kanalom se prenose binarni nizovi. Zbog prisustva bijelog ²uma u
kanalu, vjerovatno¢a pravilnog prijema odaslanog znaka je 0, 55. Zbog toga se svaki znak ²alje
n puta, a odluka o poslanom znaku se donosi nakon utvrivanja znaka koji se £e²¢e javlja.
Na¢i najmanje n za koje je vjerovatno¢a pravilne odluke > 0.99.
ISmatra¢emo da je uspjeh pravilno primljeni znak. Kod nas je p = 0, 55, q = 0, 45, dok
Sn : B(n, p) predstavlja broj pravilno primljenih znakova. Pravilnu odluku donosimo ako je
Sn > n2 . Sada imamo
( ) √
n n o Sn − 0, 55n 0, 5n − 0, 55n 0, 05 n
P Sn > =P √ >√ = 1 − Φ −√
2 . 0, 55 · 0, 45n 0, 2475
√ √
0, 05 n 0, 05 n
= 0, 5 + Φ∗ √ > 0, 99 =⇒ √ > 2, 33 =⇒ n = 537. J
0, 2475 0, 2475
Primjer 5.3 Strijelac pogaa metu sa vjerovatno¢om 0, 4 i gaa u nju 150 puta. Na¢i bar jedan
interval u kojem ¢e se sa vjerovatno¢om > 0, 8 nalaziti broj pogodaka.
ISlu£ajna promjenljiva S150 : B(150; 0, 4) predstavlja broj pogodaka. Traºi¢emo interval
41
oblika (A, B).

A − 60 S150 − 60 B − 60
P {A < S100 < B} = P <√ <
6 150 · 0, 4 · 0, 6 6
A − 60 B − 60
= 0, 8 =⇒ = −1, 28, = 1, 28 =⇒ A = 52, 32, B = 67, 68
6 6
te je zbog cjelobrojnosti broja pogodaka traºeni interval (52, 68). Interval je tim bolji
²to je
kra¢i. Cilj dobijanja najkra¢eg intervala se ostvaruje izborom simetri£nog intervala A−60
6
; B−60
6
.
Naime, od svih intervala za koje je vjerovatno¢a da u njih "upadne" X ∗ konstantna, najkra¢i
je simetri£an interval. J
Primjer 5.4 Koliko puta treba baciti nov£i¢ pa da sa vjerovatno¢om > 0, 95 odstupanje relativne
u£estalosti padanja pisma od 12 bude 6 0, 02?
I MuavrLaplasova teorema nam daje mogu¢nost da naemo n za koje je sa vjerovat-

no¢om > α (prirodno je raditi sa α koje je blisko 1) odstupanje relativne frekvencije pos-
matranog dogaaja od vjerovatno¢e tog dogaaja manje od nekog malog ε. Sa dobijenim
rezultatom sebi moºemo dati za pravo da u nekom smislu predviamo budu¢nost. Naime,
kad u nekom konkretnom vjerovatnosnom zadatku naemo vjerovatno¢u p nekog dogaaja
A, a zatim naemo i gore pomenuto n, tada moºemo sa velikom dozom uvjerenosti tvrditi
da ¢e nakon n ponavljanja opita, relativna frekvencija dogaaja A biti blizu broja p.
Potraºimo n u konkretnom slu£aju.
√ √

Sn Sn − 0, 5n
6 0, 04 n = 2Φ∗ (0, 04 n)

P − 0, 5 6 0, 02 = P √
n 0, 5 · 0, 5n
√
> 0, 95 =⇒ 0, 04 n > 1, 96 =⇒ n > 2401.
Kori²¢enjem nejednakosti ebi²ova dobijamo grubu aproksimaciju broja n.

Sn Sn
0, 95 < P − 0, 5 6 0, 02 =⇒ P − 0, 5 > 0, 02 6 0, 05
n n
1
=⇒ 6 0, 05 =⇒ n > 12500. J
4n(0, 02)2
n
Izra£unati lim e−n nk
P
Primjer 5.5
k!
.
n→∞ k=0
42
INeka su X1 , X2 , ..., Xn nezavisne, jednako raspodijeljene slu£ajne promjenljive sa P(1)
n
raspodjelom. Znamo da je Sn = Xk : P(n). Sada imamo
P
k=0
n
X nk nS − n
n
o 1
P {Sn 6 n} = e−n = P √ 6 0 −→ Φ(0) = , n → ∞. J
k=0
k! n 2
Primjer 5.6 Neka je Xn , n = 1, 2, 3, ... niz nezavisnih slu£ajnih promjenljivih sa raspodjelama
−n 0 n
Xn : 1
.
2n2
1 − n12 1
2n2
Dokazati da za niz Xn ne vaºi CGT.
a.s.
IElementarno se ustanovljava da je EXn = 0, DXn = 1, n = 1, 2, ... i Xn −→ 0. Iz
ustanovljedne skoro izvjesne konvergencije slijedi da skoro izvjesno u nizu Xn postoji samo
∞
kona£no mnogo £lanova razli£itih od nule te red Xi skoro izvjesno konvergira. Dakle,
P
i=1
n
P Xi si
√
n
−→ 0, n → ∞. J
i=1
Primjer 5.7 Prosje£no svaki tre¢i prolaznik pored kioska kupi novine, tj. vjerovatno¢a da pro-
laznik kupi novine je 13 . Neka je S100 broj osoba koja prou pored kioska dok se ne prodaju
prvih 100 primjeraka novina. Na¢i pribliºnu raspodjelu slu£ajne promjenljive S100 .
R. S100 ima pribliºno N (300, 302 ).
6 Uvod u statistiku
Razliku izmeu vjerovatnosnih i statisti£kih zadataka ¢emo ilustrovati konkretnim primjerom.
Vjerovatnosni zadatak. U kutiji se nalaze kuglice na kojima su zapisani brojevi 1, 2, ..., 10.
Iz kutije se po modelu sa vra¢anjem vadi 5 kuglica. Kolika je vjerovatno¢a dogaaja A da se
9 10
bar jednom izvu£e kuglica sa brojem 10? P (A) = 1 − 10

.
Statisti£ki zadatak. U kutiji se nalaze kuglice na kojima su zapisani brojevi od 1 do

N, N je nepoznato. Po modelu sa vra¢anjem izvaeno je 5 kuglica i na njima su zabiljeºeni
brojevi x1 , x2 , ..., x5 . Name¢e se zadatak koji je iz domena statistike i glasi: kako na osnovu
43
registrovanih podataka ocijeniti nepoznato N , a samim tim ocijeniti i nepoznati model koji
je generisao dobijene podatke? Metod maksimalne vjerodostojnosti rje²ava zadatak i za
ocjenu N predlaºe max xk . Ovakav izbor ocjene odreuje konstatacija da je od svih modela,
16k65
u modelu N = max xk najve¢a vjerovatno¢a da se registruju brojevi koje smo registrovali.
16k65
Logika je, popularno govore¢i, opredijeli se za model u okviru koga je najrealnije da se
ostvari ono ²to se ostvarilo. Napravite analizu ako su zabiljeºeni podaci, recimo 4, 1, 3, 4, 6.
Vjerovatno¢a ove petorke u modelu N = 6 je 1
(6)5
, u modelu N = 7 je 1
(7)5
itd.J
U vjerovatno¢i se u zadatom vjerovatnosnom modelu traºe vjerovatno¢e zadatih dogaaja.

Statistika rje²ava u izvjesnom smislu inverzan zadatak. U statistici se, izmeu ostalog,
razrauju metodi kojima se na osnovu sakupljenih podataka traºi adekvatan vjerovatnosni
model koji te podatke produkuje. Rje²avanje svih statisti£kih zadataka podrazumijeva saku-
pljanje podataka. Stoga se nerijetko moºe £uti da je statistika nauka koja razrauje postupke
zaklju£ivanja na osnovu podataka.
Osnovne statisti£ke pojmove ¢emo pribliºiti na jednostavnom modelu.
Model kutije sa listicama. U kutiji se nalazi N listica, N je poznato, na kojima su

zapisani razli£iti i nama nepoznati brojevi w1 < w2 < ... < wN . Neka je X broj na slu£ajno
izvu£enoj listici. Slu£ajnu promjenljivu X nazivamo obiljeºje, broj na listici obiljeºava listicu.
Jasno,
w1 w2 ... wN
∗X: 1 1
N N
... N1 .
Kako brojeve na listicama ne znamo, matemati£ka formalizacija nas obavezuje da konstatu-
jemo: obiljeºje X ima raspodjelu koja pripada familiji raspodjela zadatih sa ∗, odgovaraju
sve N -torke w1 , ..., wN , w1 < ... < wN . Iz kutije po modelu sa vra¢anjem vadimo n listica.
Neka je slu£ajna promjenljiva X1 broj na listici koju vadimo u prvom izvla£enju, X2 u dru-
gom,..., Xn u n-tom. Slu£ajne promjenljive X1 , ..., Xn su nezavisne i raspodijeljene kao X .
Slu£ajni vektor (X1 , X2 , ..., Xn ) nazivamo prost slu£ajni uzorak (random sample), karakteri²u
ga nezavisnost i jednaka raspodijeljenost komponenti. Neka su realizacije slu£ajnih prom-
jenljivih X1 , ..., Xn tj. opservirane-registrovane vrijednosti obiljeºja na izvu£enim listicama
x1 , ..., xn . Vektor (x1 , ..., xn ) nazivamo realizovani uzorak.
Razmotrimo model u kome se listice vade bez vra¢anja. Neka je X10 broj na listici tj.
obiljeºje listice koju vadimo u prvom izvla£enju, X20 u drugom,..., Xn0 u n-tom, n 6 N .
Promjenljive X10 , ..., Xn0 su zavisne i raspodijeljene su kao obiljeºje X , provjeriti. Slu£ajni
vektor (X10 , ..., Xn0 ) se naziva uzorak.J
44
Znamo da je sakupljanje podataka prvi korak u realizaciji mnogih nau£nih projekata.
Obiljeºje, ozna£imo ga sa X , je slu£ajna promjenljiva koja predstavlja numeri£ku karakter-
istiku nekog fenomena iz oblasi istraºivanja. Navedimo nekoliko primjera. Iznos koji osigu-
ravaju¢a kompanija ispla¢uje klijentu po osnovu pretrpljene ²tete; broj uklju£ivanja na neki
web sajt u toku sata; maksimalna godi²nja temperatura u Podgorici; koecijent inteligencije
stanovnika Crne Gore.
Definicija 6.1 Neka obiljeºje X ima funkciju raspodjele F (x). Prost slu£ajni uzorak
(random sample) obima n iz raspodjele F (x) je slu£ajni vektor (X1 , X2 , ..., Xn ), gdje su
X1 , ..., Xn nezavisne slu£ajne promjenljive sa istom funkcijom raspodjele F (x).
Za komponente X1 , ..., Xn se kaºe da su nezavisne kopije obiljeºja X . Prost slu£ajni uzorak je

matemati£ki model statisti£kog eksperimenta koji se sastoji od n nezavisnih registrovanja
vrijednosti (opservacija, mjerenja) obiljeºja X . Mi ¢emo ubudu¢e po pravilu raditi sa pros-
tim slu£ajnim uzorkom i kratko ¢emo ga nazivati uzorkom. Prije sprovoenja eksperimenta,
vrijednosti koje ¢emo dobiti su slu£ajne promjenljive X1 , X2 , ..., Xn , registrovane vrijednosti
zavise od slu£aja, u razli£itim serijama "kupljenja podataka" dobijamo razli£ite podatke-
rezultate. Kada je eksperiment sproveden dobijamo vektor (x1 , x2 , ..., xn )-realizovani uzo-
rak, brojevi x1 , ..., xn su registrovane vrijednsti. Ilustracija svega navedenog je primjer kutije
sa listicama. Istu svrhu ima i primjer sa α £esticama, bi¢e uskoro izloºen.
esto se na osnovu predznanja o izu£avanom fenomenu moºe pretpostaviti da raspod-

jela obiljeºja X pripada nekoj familiji R koju nazivamo familija dopustivih raspodjela.
Znamo za korespondenciju izmeu raspodjele i funkcije raspodjele slu£ajne promjenljive te
familiju dopustivih raspodjela identikujemo sa familijom odgovaraju¢ih funkcija raspod-
jele. Navedimo dva primjera. U mnogim situacijama, iz op²tih razmatranja zaklju£ujemo da
vaºi aproksimativno CGT (recimo visina odraslih mu²karaca neke populacije) te uzimamo
da obiljeºje X ima normalnu raspodjelu. Ako su o£ekivanje m i disperzija σ 2 nepoznati
kaºemo da obiljeºje X ima raspodjelu koja pripada familiji {N (m, σ 2 ), m ∈ R, σ 2 > 0}. Ako
npr. imamo informaciju da je m ∈ (0, 1) tada konstatujemo da obiljeºje X ima raspodjelu
koja pripada familiji {N (m, σ 2 ), m ∈ (0, 1), σ 2 > 0}. Familije dopustivih raspodjela u dva
parametarske, koristi se oznaka {F (x, θ), θ ∈ Θ}, θ je parametar.
prethodna primjera su
Θ je skup dopustivih vrijednosti parametra ili kra¢e parametarski skup. Funkcije
raspodjele iz familije generi²e parametar θ. Parametar θ moºe biti ili broj ili vektor. Primjeri
familija u kojima je parametar broj su navedeni u primjeru (6.1), a primjeri u kojima je
parametar vektor u primjeru (6.2). Teorijska razmatranja u statistici obi£no zapo£inju sa:
obiljeºje X ima raspodjelu koja pripada familiji {F (x, θ), θ ∈ Θ}.
45
Osnovni zadatak matemati£ke statistike je da se na osnovu registrovanih podataka tj.
statisti£kog eksperimenta zaklju£i ²to je mogu¢e vi²e o nepoznatoj raspodjeli obiljeºja.
Emitovanje α £estica. Registrujemo α £estice koje emituje grumen radioaktivne ma-

terije, intenzitet potoka £estica je λ, λ je nepoznato. Slu£ajna promjenljiva X1 predstavlja
broj £estica koje se emituju u toku prvog minuta, X2 predstavlja broj £estica koje se emituju
u toku drugog minuta,...,Xn predstavlja broj £estica koje se emituju u toku n-tog minuta.
Obiljeºje X je broj £estica koje se emituju u toku jednog minuta i X ima P(λ) raspodjelu.
Slu£ajne promjenljive X1 , ..., Xn su nezavisne i svaka ima P(λ) raspodjelu. (X1 , ..., Xn ) je
prost slu£ajan uzorak. Koristili smo £injenice 1. slu£ajne promjenljive koje prebrojavaju £es-
tice na disjunktnim vremenskim intervalima su nezavisne, 2. raspodjela slu£ajne promjenljive
koja prebrojava £estice na vremenskom intervalu duºine t je P(λt). U ovom primjeru famil-
iju dopustivih raspodjela £ine Puasonove raspodjele sa parametrom λ, λ > 0, parametarski
skup je Λ = (0, ∞). Ako imamo neku dodatnu informaciju o λ, recimo da je 1 < λ < 2
tada je Λ = (1, 2). U ovom modelu ozna£imo sa W1 vrijeme do emitovanja prve £estice, sa
W2 vrijeme od emitovanja prve do emitovanja druge, sa W3 vrijeme od emitovanja druge
do emitovanja tre¢e, sa Wn vrijeme od emitovanja n − 1-e do emitovanja n-te. Pomenuta
vremena su slu£ajna te su W1 , ..., Wn slu£ajne promjenljive i one su nezavisne, (W1 , ..., Wn )
je prost slu£ajni uzorak, a odgovaraju¢a familija raspodjela je E(λ), λ > 0. Teorijsko ob-
ja²njenje zbog £ega se u modelu pojavljuju Puasonova i eksponencijalna raspodjela te zbog
£ega su promjenljive X1 , ..., Xn odnosno W1 , ..., Wn nezavisne bi¢e dato u okviru predmeta
Slu£ajni procesi. Identi£an model je vezan za ve¢ pomenutu posjetu web sajtu. Registruju
se momenti uklju£ivanja posjetilaca, prebrojavaju se uklju£enja na vremenskim intervalima
od recimo jednog sata i mjeri vrijeme izmeu dva uklju£enja.J
Primjer 6.1 R = {P(λ), λ > 0}. R = {P(λ), λ > 3}. R = {G(p), 0 < p < 1}.
R = {E(λ), λ > 0}. R = {U(−θ; θ), θ > 0}. R = {U(−θ; θ), θ ∈ (1, 2)}. R = {N (m, σ02 ), m ∈
(0, 1)}, m je parametar, σ02 je poznato.
Primjer 6.2 R = {M(n, p1 , p2 , ..., pk ), 0 < p1 < 1, ...., 0 < pk < 1, p1 + ... + pk = 1}, rije£ je
o familiji polinomnih raspodjela, n je poznato, parametar je (p1 , ..., pk ). R = {N (d, σ 2 ), d ∈
R, σ 2 > 0}, parametar je (d, σ 2 ). R = {U(a; b), a < 0; b > 3}, parametar je (a, b).
Primjer 6.3 Obiljeºje X je rezultat mjerenja zi£ke veli£ine izraºene brojem m.

R = {N (m, σ 2 ), σ 2 > 0}.
46
Primjer 6.4 Obiljeºje X je rezultat mjerenja koecijenta inteligencije osobe, dok rezultati
mjerenja koecijenta inteligencije n osoba predstavljaju prost slu£ajni uzorak (uzorak). Famil-
ija dopustivih raspodjela je normalna.
Primjer 6.5 Obiljeºje je duºina "ºivota" baterije automobila na elektri£ni pogon. Familija do-
pustivih raspodjela je eksponencijalna. Podatke dobijamo registrovanjem duºine ºivota baterija
koje za potrebe statisti£ke analize pratimo.
Definicija 6.2 Neka je f : Rn → R Borelova funkcija i (X1 , ...., Xn ) uzorak. Slu£ajna

promjenljiva V = f (X1 , ..., Xn ) se naziva statistika ili uzora£ka karakteristika.
Ako je (x1 , ..., xn ) realizovani uzorak, tada je v = f (x1 , ..., xn ) realizovana statistika V.
Primjeri statistika.
Uzora£ka sredina. f (x1 , ..., xn ) = x1 +...+xn
n
, X n = X1 +...+X
n
n
. Neka je EX = a, DX = σ 2 .
σ2 √ R
Tada je EX n = a, DX n = n
. Znamo (CGT) σ X n −a ∗
n −→ X : N (0, 1).
n n n
Uzora£ka disperzija. S 2n = 1
(Xi − X n )2 = 1
(Xi2 − 2Xi X n + X n ) =
2 1
Xi2 −
P P P
n n n
i=1 i=1 i=1
2 2 n 2 2 n 2 n
1
Xi2 − X n . ES n = E( n1 Xi2 − X n ) = EX 2 − 1
Xi2
P P P P
2X n + X n = n n2
E( + Xi Xj ) =
i=1 i=1 i=1 i6=j
1 n2 −n n−1 n−1 2
EX 2 − n
EX 2
− n2
(EX)2 = n
(EX 2 − (EX)2 ) = n
σ .
n n
Popravljena uzora£ka disperzija. Ŝn2 = n 2 1
(Xi − X n )2 = 1
Xi2 −
P P
S
n−1 n
= n−1 n−1
i=1 i=1
n 2
X ; E Ŝn2
n−1 n
=σ . 2
Kada komponente uzorka (X1 , ..., Xn ) poreamo po veli£ini dobijamo slu£ajne promjenljive
Y1 6 Y2 6 ... 6 Yn tj. varijacioni niz. U statistici se £lanovi varijacionog niza nazivaju statis-
tike poretka. Specijalno, uzora£ki minimum: Y1 = 16i6n min Xi , uzora£ki maksimum:
Yn = max Xi .
16i6n
χ2 raspodjela sa n stepena slobode. Neka su X1 , ..., Xn nezavisne slu£ajne prom-

jenljive, svaka promjenljiva ima N (0, 1) raspodjelu. Raspodjela slu£ajne promjenljive χ2n =
n
Xi2 se naziva χ2 sa n stepena slobode. Potraºimo odgovaraju¢u gustinu raspodjele, oz-
P
i=1
na£imo je sa gn . Ozna£imo sa Vn (x) zapreminu lopte x21 + ... + x2n < x, x > 0. Iz analize znamo
47
n n n n
da je Vn (x) = x 2 Vn (1). Znamo da je (t + h) 2 − t 2 = n2 t 2 −1 h + o(h).
n
− 12 x2i
P
−n n 1
dx1 ...dxn = (2π)− 2 e− 2 (t+θh) [Vn (t + h) − Vn (t)],
R R
P {t 6 χ2n < t + h} = ... (2π) 2 e i=1
n
x2i <t+h
P
t6
i=1
n t n R∞ n t
⇒ gn (t) = n2 (2π)− 2 e− 2 t 2 −1 Vn (1), te iz gn (t)dt = 1 ⇒ gn (t) = n
1
t 2 −1 e− 2 , t > 0.
2 2 Γ( n
2
)
0
n
Konstatujmo da je Eχ2n = n; Dχ2n = 2n, fχ2n (t) = (1 − 2it)− 2 .
Studentova raspodjela sa n stepena slobode. Neka su X0 , X1 , X2 , ..., Xn nezavisne

slu£ajne promjenljive, svaka ima N (0, 1) raspodjelu. Za slu£ajnu promjenljivu
n
Xi2 !− 12
P
i=1
tn = X0
n
kaºemo da ima Studentovu raspodjelu sa n stepena slobode. Gustina slu£ajne promjenljive

tn je
Γ n+1

2 t2 − n+1
2
ψn (t) = √ n
1+ , t ∈ R.
nπΓ 2 n
Pokaºimo
r n kako se dobija gustina ψn (t). Ozna£imo sa hn (t) gustinu slu£ajne promjenljive
P 2
χn = Xi .
i=1
Fχn (t) = P {χn < t} = P {χ2n < t2 } = Fχ2n (t2 ), t > 0 ⇒

t2
Fχ0 n (t) = hn (t) = Fχ0 2n (t2 ) = 2tgn (t2 ) = n
1
tn−1 e− 2 , t > 0.
2 2 −1 Γ( n
2
)
√ √
Primijetimo, tn = nX0
χn
. Znamo nX0 : N (0, n), odgovaraju¢u gustinu ¢eno ozna£iti sa pn .
RR
F (x) = P {tn < x} = pn (u)hn (v)dudv =
u
v
<x,v>0

1 u2
√1 1 n−1 − 2 +v 2
RR
n
2πn 2 2 −1 Γ( n )
v e n dudv.
2 u
v
<x,v>0
Sa promjenljivih (u, v) preimo na promjenljive (t, z), u = tz, v = z. Jakobijan transformacije
48
je ∂u∂v
∂t∂z
= z.
1 u2
+v 2
Rx R∞ z2 t2
q
v n−1 e− 2 z n e− 2 +1 t2
RR
n dudv = dt n dz = [w = z 1+ n
]
u −∞ 0
v
<x,v>0
Rx t2
− n+1 R∞ w2 n−1 Rx t2
− n+1
n
+1 2
dt w n e− 2 dw = 2 2 Γ n+1
2 n
+1 2
dt
−∞ 0 =∞
odakle se dobija traºena gustina.

(
∞, n 6 2 t 2
Konstatujmo: Etn = 0, n > 1; Dtn = n
; ψn (t) → ϕ(t) = √1 e− 2
2π
.
n−2
, n > 2.
Teorema 6.1 Fi²erova teorema. Neka obiljeºje X ima N (m, σ2 ) raspodjelu. Tada vaºi:
X n −m √
a) σ
n : N (0, 1).
2
b) Statistike X n i S n su nezavisne.
2 2
c) nS n
σ2
: χ2n−1 i (n−1)Ŝn
σ 2 : χ2n−1 .
X n −m √
d) Ŝn
n : tn−1 .
Glivenko-Kantelijeva centralna teorema matemati£ke statistike
Definicija 6.3 Neka je (X1 , ..., Xn ) uzorak iz raspodjele F . Funkcija

n
1X
Fn (x, ω) = Fn (x) = I{Xk (ω) < x}, x ∈ R
n k=1
se naziva empirijska funkcija raspodjele.
Ako se ksira ω dobija se funkcija po x i ona je jednaka relativnoj u£estalosti izmjerenih

podataka manjih od x. Pretpostavimo da su izmjereni podaci x1 , x2 , ..., xn (tj. realizovani
uzorak je (x1 , ..., xn )) i da su razli£iti. Imamo

 0, ako je x 6 x(1) ,

Fn (x) = k
n
, ako je x(k) < x 6 x(k+1) , k = 1, 2, ..., n − 1,

1, ako je x > x(n) .

Primijetimo da je funkcija Fn (x) funkcija raspodjele slu£ajne promjenljive koja ima ravnom-
jernu diskretnu raspodjelu na skupu {x1 , x2 , ..., xn }.
49
n
Ako ksiramo x tada je Fn (x, ω) slu£ajna promjenljiva. Primijetimo, I{Xk (ω) < x} je
P
k=1
slu£ajna promjenljiva sa B(n, F (x)) raspodjelom te je

n ko n
P Fn (x, ω) = = F k (x)(1 − F (x))n−k , k = 0, 1, ..., n.
n k
Fn (x, ω) je slu£ajni proces. Funkcija F se naziva teorijska funkcija raspodjele obiljeºja X .
Empirijska funkcija raspodjele u slu£aju kada je obim uzorka veliki aproksimira teorijsku
funkciju raspodjele. Preciznije, vaºe sljede¢e dvije teoreme.
Teorema 6.2 Za svaki realni broj x vaºi
P { lim Fn (x) = F (x)} = 1.

n→∞
Tvrenje teoreme je neposredna posljedica jakog zakona velikih brojeva.
Teorema 6.3 Glivenko-Kantelijeva centralna teorema matemati£ke statistike. Neka

je F teorijska funkcija raspodjele obiljeºja X . Vaºi
n o
P lim sup | Fn (x) − F (x) |= 0 = 1.
n→∞ x∈R
Drugim rije£ima, skoro izvjesno Fn (x) ⇒ F (x). Neka je A = {ω : lim sup | Fn (x, ω) −
n→∞ x∈R
F (x) |= 0}. Glivenko-Kantelijeva teorema tvrdi da je vjerovatno¢a-mjera skupa A jednaka
1. Neka je ω0 ∈ A. Tada za ∀ε > 0, ∃n0 = n(ω0 , ε) takav da za ∀n > n0 i ∀x ∈ R vaºi
| Fn (x, ω0 ) − F (x) |< ε.
Postoje algoritmi koji modeliraju konkretne raspodjele. U rezultatu, algoritmi generi²u

brojeve -podatke koji su po realnoj pravoj "razbacani" u skladu sa modeliranom raspodjelom.
Na slici je dat primjer aproksimacije teorijske raspodjele empirijskom raspodjelom.
7 Ocjenjivanje nepoznatog parametra
Neka teorijska tj. stvarna funkcija raspodjele FX obiljeºja X pripada familiji funkcija raspod-
jela R i neka je X = (X1 , ..., Xn ) odgovaraju¢i uzorak. Neka je τ parametar koji je jed-
50
nozna£no odreen funkcijama raspodjela iz R. Formalno, τ = τ (F ), F ∈ R, tj. τ (F )
je funkcional. Na primjer, τ = xdF (x), F ∈ R, prepoznajemo matemati£ko o£ekivanje
R
R
odgovaraju¢e raspodjele. Posebno je vaºan slu£aj kada je familija dopustivih raspodjela
P = {F (x, θ), θ ∈ Θ} tj. parmetarska, a funkcional zadat sa F (x, θ) → θ. Ovaj primjer je
zna£ajan zbog toga ²to parametar θ odreuje funkciju raspodjele. Procedura ocjenjivanja
nepoznatog parametra τ podrazumijeva izbor statistike T = T (X) £ijom se realizacijom
t = T (x1 , ..., xn ) aproksimira parametar τ. Statistika T (X) i njena realizacija t = T (x1 , ..., xn )
se nazivaju ocjena parametra τ.
Da bi ocjena bila "dobra", poºeljno je da ima neke osobine. Ocjena Tn , n je obim uzorka,
centrirana-nepristrasna ako je ETn = τ
kojom ocjenjujemo nepoznati parametar τ je za
∀F ∈ R. Ocjena Tn je asimptotski centrirana-nepristrasna ako je lim ETn = τ za
n→∞
∀F ∈ R. Ocjena Tn je postojana ako Tn −→ τ za ∀F ∈ R.
p
Upravo izloºene pojmove prilagodimo slu£aju kada nepoznata funkcija raspodjele obiljeºja
pripada nekoj parametarskoj familiji P. Ocjena Tn kojom ocjenjujemo nepoznati parametar
θ ∈ Θ jecentrirana-nepristrasna ako je ETn = θ za ∀θ ∈ Θ. Ocjena Tn je asimptotski
centrirana-nepristrasna ako je n→∞
lim ETn = θ za ∀θ ∈ Θ. Ocjena Tn je postojana ako
p
Tn −→ θ za ∀θ ∈.
Neka je Tn ocjena nepoznatog parametra τ. Ta£nost ocjene se mjeri parametrom K(Tn ) :=

E(Tn − τ )2 = DTn + (ETn − τ )2 . Ocjena je tim bolja ²to je parametar K manji. Ako je ocjena
Tn centrirana tada je KTn = DTn . Ako su Un i Vn centrirane ocjene nepoznatog parametra τ
i ako je DUn 6 DVn tada kaºemo da ocjena Un nije gora od ocjene Vn .
Primjer 7.1 X : U(0, θ), θ > 0, θ je nepoznati parametar. Nepoznati parametar θ se ocjenjuje
statistikama T1 = 2X n i T2 = n+1n
Yn .
2 2
IObje ocjene su centrirane, DT1 = 3n θ θ
; DT2 = n(n+2) . Za n > 2 ocjena T2 je bolja od ocjene
T1 . Zamislimo da je pokrenut program koji generi²e slu£ajne brojeve sa (0, θ), konkretnu
vrijednost za θ zna samo inicijator. Program je generisao brojeve x1 , ..., xn . Nepoznato θ
moºemo ocijeniti sa t1 = 2xn ili sa t2 = n+1
n
yn . Izloºeni rezultati preferiraju ocjenu t2 . J
Primjer 7.2 X : U(0, 2θ), θ > 0, θ je nepoznati parametar. Za ocjenjivanje parametra θ

koristimo statistike T1 = X1 +X2 +3X103 +2X4 +X5 i T2 = X1 − X2 + X3 − X4 + X5 . Imamo:
9 19
ET1 = 10 θ, DT1 = 300 , KT1 = 0, 073θ2 ; ET2 = θ, DT2 = 35 θ2 , KT2 = 1, 67θ2 .
51
Primjer 7.3 Vratimo se primjeru kutije sa listicama.
N 0 X10 +...+Xn0
INeka je w = w1 +...+wN
σ2 = 1
(wi − w)2 , X n = X1 +...+Xn
P
N
, N n
, Xn = n
.
i=1
Rutinski se dokazuje (uradite)
σ2 0 0 σ2 N − n 1
EX n = w = EX, DX n = ; EX n = w, DX n = · , ρXk0 ,Xl0 = − .
n n N −1 N −1
Ocjenjujemo nepoznato w = w1 +...+wN

N
.
σ2
a) Model sa vra¢anjem. Iz EX n = w, DX n = n
, slijedi da je ocjena X n centrirana, a
nakon primjene Hin£inovog ZVB ili ebi²ovljeve nejednakosti slijedi postojanost.
0 0 σ2 0
b) Model bez vra¢anja. Iz EX n = w, DX n = n
· N −n
N −1
, slijedi da je ocjena X n centrirana
i bolja od X n .
Vidimo da je u slu£aju velikog N korelacija izmeu rezultata mjerenja u modelu bez

vra¢anja zanemarljiva te prihvatamo idealizaciju o nezavisnosti mjerenja. Dakle, komponente
uzorka (X10 , ..., Xn0 ) se tretiraju kao nezavisne. Na taj na£in iako podatke biramo po modelu
bez vra¢anja, tretiramo ih kao da poti£u iz modela sa vra¢anjem. Jednostavnija struktura
prostog slu£ajnog uzorka je motiv za idealizaciju. Ovakav pristup je uobi£ajen u demograji,
ekonomiji, psihologiji jer se istraºivanja rade sa velikim brojem ispitanika. Ispitanici se biraju
slu£ajno po modelu bez vra¢anja, a prilikom obrade od ispitanika prikupljenih podataka i
izvoenja zaklju£aka, koriste se tehnike koje podrazumijevaju prost slu£ajni uzorak.J
Neka funkcija raspodjele FX obiljeºja X pripada familiji R. Posvetimo se ocje-

Primjer 7.4
nama nepoznatih parametara m = EX i σ 2 = DX.
2
IZnamo, EX n = m, DX n = σn , E Ŝn2 = σ 2 . X n je centrirana i postojana ocjena za m.
Postojanost slijedi ili na osnovu Hin£inovog ZVB (dovoljno je da obiljeºje ima o£ekivanje)
ili na osnovu ebi²ovljeve nejednakosti (neophodno je da obiljeºje ima drugi momenat). Ŝn2
je centrirana ocjena za σ 2 . Ako raspodjele iz familije R imaju kona£an £etvrti momenat,
dokazuje se da je ocjena Ŝn2 i postojana. Kada sakupimo podatke x1 , ..., xn tada nepoznato
m aproksimiramo sa xn , a nepoznato σ 2 sa ŝ2n . J
Teorema 7.1 Neka je Tn asimptotski centrirana ocjena nepoznatog parametra τ i neka

DTn → 0, n → ∞. Tada je ocjena Tn postojana.
52
DTn
P {| Tn −τ |> ε} 6 P {| Tn −ETn |> ε}+P {| ETn −τ |> ε} 6 +P {| ETn −τ |> ε} → 0.
ε2
Rao-Kramerova nejednakost.
Ocjenjujemo nepoznati parametar τ . Kolekciju centriranih ocjena ¢emo ozna£iti sa C. Za

ocjenu V ∈ C kaºemo da je najbolja ako je DV 6 DV 0 za svako V 0 ∈ C. Najbolja centrirana
ocjena ne mora postojati. Naime, postoji model u kome je W = {DV, V ∈ C} = (1, 2).
Teorema 7.2 Ako postoji najbolja centrirana ocjena ona je skoro izvjesno jedinstvena tj.
ako je V najbolja centrirana ocjena i V 0 ∈ C takva da je DV = DV 0 ⇒ V = V 0 .
si
Neka je U statistika za koju vaºi EU = 0. O£igledno je V + αU ∈ C za ∀α ∈ R. Dalje,

D(V + αU ) = DV + 2αcov(U, V ) + α2 DV > DV ⇒ cov 2 (U, V ) 6 0 ⇒ cov(U, V ) = 0. U
posljednju jednakost uvrstimo U = V − V 0 . Kako statistike V i V 0 imaju isto o£ekivanje i
disperziju, dobijamo EV 2 = EV V 0 = EV 02 . I na kraju E(V − V 0 )2 = EV 2 − EV V 0 − EV V 0 +
si
EV 02 = 0 ⇒ V − V 0 = 0.
Radi¢emo sa familijama raspodjela diskretnog i apsolutno neprekidnog tipa.
A) Za familiju raspodjela diskretnog tipa ¢emo koristiti zapis {p(wk , θ), θ ∈ Θ} gdje je
p(wk , θ) = Pθ {X = wk }.
B) Za familiju raspodjela apsolutno neprekidnog tipa ¢emo koristiti zapis {ϕ(x, θ), θ ∈ Θ}
gdje je ϕ(x, θ) gustina obiljeºja.
Definicija 7.1 Za familiju raspodjela diskretnog tipa kaºemo da je regularna ako vaºi
X ∂
p(wk , θ) = 0, za ∀θ ∈ Θ.
k
∂θ
Za familiju raspodjela apsolutno neprekidnog tipa kaºemo da je regularna ako vaºi

Z∞
∂
ϕ(x, θ)dx = 0, za ∀θ ∈ Θ.
∂θ
−∞
Teorema 7.3 Rao-Kramerova nejednakost. Za svaku centriranu ocjenu V = f (X1 , ..., Xn )

parametra θ regularne familije {p(wk , θ), θ ∈ Θ} odnosno {ϕ(x, θ), θ ∈ Θ} vaºi:
1 1
DV >
∂
2 odnosno DV > ∂
2 .
nE ∂θ
ln p(X, θ) nE ∂θ
ln ϕ(X, θ)
53
R∞ ∂
R∞ h ∂ i
∂θ
ϕ(xi , θ)dxi = ∂θ
ln ϕ(x i , θ) ϕ(xi , θ)dxi = 0, i = 1, 2, ...n.
−∞ −∞
f (x1 , ..., xn )ϕ(x1 , θ)...ϕ(xn , θ)dx1 ...dxn = θ ⇒ (diferenciranje)
R R
EV = ...
Rn
n
hP i
1 ∂
R R
1= ... f (x1 , ..., xn ) ϕ(xi ,θ) ∂θ
ϕ(xi , θ) ϕ(x1 , θ)...ϕ(xn , θ)dx1 ...dxn =
Rn i=1
hP n i
∂
R R
... f (x1 , ..., xn ) ∂θ
ln ϕ(xi , θ) ϕ(x1 , θ)...ϕ(xn , θ)dx1 ...dxn .
Rn i=1
n
Neka je statistika W = ∂
ln ϕ(Xi , θ). Imamo
P
∂θ
i=1
n Z∞
X ∂ ∂ 2
EW = ln ϕ(xi , θ) ϕ(xi , θ)dxi = 0, i = 1, ..., n; DW = nE ln ϕ(X, θ) .
i=1
∂θ ∂θ
−∞
Kako je EV W = 1 imamo %V,W = √ 1

DV DW
⇒ DV DW > 1 ⇒ DV > 1
DW
Q.E.D.
Primjenom Rao-Kramerove nejednakosti, za neke statistike dokazujemo da su najbolje

centrirane ocjene nepoznatog parametra. Teorema (7.2) implicira jedinstvenost ocjene.
Primjer 7.5Opit se ponavljava n puta sa ciljem ocjenjivanja nepoznate vjerovatno¢e p = P (A)

dogaaja A. Dogaaj A tretiramo kao uspjeh.
I Xi = IAi , Ai je dogaaj da se u i-tom ponavljanju ostvari uspjeh, tj. Xi je indikator

uspjeha u i-tom ponavljanju.
n
0 1 X p(1 − p)
Xi : , 0 < p < 1, i = 1, ..., n, Xi : B(1, p), Xi : B(n, p), EX n = p, DX n = .
1−p p i=1
n
ebi²ovljeva nejednakost implicira postojanost ocjene X n .
Pokaºimo da je familija Bernulijevih raspodjela regularna. ∂

= −1, ∂p p(1, p) = ∂
∂p
p(0, p)
1 ⇒ ∂p
p
(0, p) + ∂p
p
(1, p) = 0. Statistika X n je najbolja centrirana ocjena parametra p.
∂ I{X=1}−I{X=0}
p(X, p) = (1 − p)I{X = 0} + pI{X = 1}, ∂p ln p(X, p) = (1−p)I{X=0}+pI{X=1}
I{X=1}−I{X=0} 2
E (1−p)I{X=0}+pI{X=1} = pp2 + (1−p)
1−p 1
2 = p(1−p) ,
prvo smo integralili na skupu {ω : X(ω) = 1}, a zatim na skupu {ω : X(ω) = 0}. Dakle,
disperzija uzora£ke sredine je dostigla donju (Rao-Kramerovu) granicu. Zaklju£ujemo da je
54
X n tj. relativna frekvencija uspjeha najbolja centrirana ocjena nepoznatog p. Identi£no se
rje²ava sljede¢i zadatak.J
Primjer 7.6 U kutiji je N kuglica, M kuglica je bijele boje, brojevi M i N su nepoznati. Po

modelu sa vra¢anjem se vadi n kuglica sa ciljem ocjenjivanja nepoznate relativne zastupljenosti
bijelih kuglica tj. broja M
N
.
I Xi , i = 1, 2, ..., n je indikator vaenja bijele kuglice u i-tom izvla£enju.
0 1 M
Xi : ,p = .
1−p p N
Nakon preuzimanja rezultata prethodnog zadatka zaklju£ujemo da je relativna u£estalost

bijelih kuglica meu izvaenim kuglicama najbolja centrirana ocjena za nepoznati broj M
N
. J
Primjer 7.7 Familija Puasonovih raspodjela je regularna. Imamo: p(k, λ) = λk −λ

k!
e ,k =
∞
lk−1
= 0. Statis-
k
∂
p(0.λ) = −e−λ , ∂λ
∂
− lk! e−λ , k = 1, 2, ..., ∂
P
0, 1, 2, ..., ∂λ p(k.λ) = (k−1)! ∂λ
p(k, λ)
k=0
tika X n je najbolja centrirana ocjena parametra λ.
Primjer 7.8 Familija N (m, σ02 ), m ∈ R, σ02 je poznato, je regularna. Statistika X n je najbolja
centrirana ocjena parametra m.
Primjer 7.9 Obiljeºje X ima raspodjelu iz familije eksponencijalnih raspodjela, gustine su

g(x, θ) = 1θ e− θ , x > 0, θ > 0.
x
Z∞ Z∞ Z∞
∂ 1 x x x 1 1 −v
I g(x, θ)dx = − 2 + 3 e− θ dx = [v = ] = − + v e dv = 0
∂θ θ θ θ θ θ
0 0 0
familija je regularna. Statistika X n je najbolja centrirana ocjena parametra θ. Kako je

2
EX = θ, DX = θ2 to je EX n = θ, DX n = θn . Imamo ∂θ ∂
ln g(x, θ) = θx2 − 1θ . I na kraju,
2 2
∂
E ∂θ ln g(X, θ) = E X−θ
θ2
= DX
θ4
= θ12 odakle slijedi da je dostignuta Rao-Kramerova
granica.J
Primjer 7.10 Familija U(0, θ), θ > 0, nije regularna. Kako je ϕ(x, θ) = 1θ , 0 < x < θ, imamo
Rθ ∂
∂θ
ϕ(x, θ)dx = − 1θ . Statistika T = n+1
n
Yn je centrirana i DT = θ2
n(n+2)
. Zbog neregularnosti
0
55
ne moºemo primijeniti Rao-Kramerovu nejednakost. Primijetimo da je Rao-Kramerova donja
granica disperzije ocjene reda n1 dok je disperzija ocjene T u na²em modelu reda n12 , dakle
znatno je manja.J.
Metod maksimalne vjerodostojnosti
Metod maksimalne vjerodostojnosti daje postupak kojim se dobija "dobra" ocjena nepoz-
natog parametra. Ideju na kojoj se zasniva metod maksimalne vjerodostojnosti pribliºimo
primjerom.
Primjer. Ocjenjujemo nepoznati broj N riba u ribnjaku. Specijalnom mreºom izvadimo

n riba, markiramo ih i vratimo u ribnjak. Sa£ekamo neko vrijeme da bi se markirane pomi-
je²ale sa nemarkiranim ribama, a zatim ponovo vadimo n riba. Ozna£imo sa X slu£ajnu
promjenljivu koja je jednaka broju markiranih meu izvaenim. Imamo
n N −n

r n−r
PN {X = r} = N
, r = 0, 1, ..., n.
n
Pretpostavimo da je broj registrovanih markiranih riba r0 . Primijetimo da je PN {X = r0 }

funkcija od N . Naimo vrijednost argumenta za koju PN {X = r0 } dostiºe maksimum.
n2
Ta vrijednost je cio broj najbliºi broju r0
. Nepoznato N ocjenjujemo tim brojem. Ovako
odabranom ocjenom odabran je model u kome je najve¢a vjerovatno¢a da se registruje upravo
r0 izvaenih markiranih riba. U ovakav na£in zaklju£ivanja je ugraena logika: odlu£i¢u se
za model u kome je nejve¢a vjerovatno¢a (tj. najrealnije je) da se desi ono ²to se desilo. Ako
2
ocjenu ozna£imo sa N̂ imamo N̂ ≈ nr0 ⇒ N̂n ≈ rn0 ²to je u saglasju sa intuicijom.J
Neka je X = (X1 , ..., Xn ) uzorak obiljeºja X £ija funkcija raspodjele pripada familiji
R = {F (x, θ), θ ∈ Θ}.
Denisa±imo funkciju vjerodostojnosti u slu£aju kada raspodjela obiljeºja pripada familiji

raspodjela diskretnog tipa R = {p(wk , θ), θ ∈ Θ}, p(wk , θ) = Pθ {X = wk }.
Definicija 7.2 Funkcija vjerodostojnosti L(θ, x1 , ..., xn ) := p(x1 , θ)···p(xn , θ) = Pθ (X1 =

x1 ) · · · Pθ (Xn = xn ) = Pθ {(X1 , ..., Xn ) = (x1 , ..., xn )}, θ ∈ Θ, je funkcija £iji je argument θ,
(x1 , ..., xn ) je neka realizacija uzorka obiljeºja X i brojevi x1 , ..., xn se tretiraju kao parametri.
Iz denicije se vidi da je L(θ, x1 , ..., xn ) vjerovatno¢a sa kojom se u modelu u kome je raspod-

jela obiljeºja odreena sa θ dobija realizovani uzorak (x1 , ..., xn ).
56
Denisa±imo sada funkciju vjerodostojnosti u slu£aju kada raspodjela obiljeºja pripada
familiji raspodjela apsolutno neprekidnog tipa R = {g(x, θ), θ ∈ Θ}, g je gustina.
Definicija 7.3 Funkcija vjerodostojnosti L(θ, x1 , ..., xn ) := g(x1 , θ) · · · g(xn , θ), θ ∈ Θ,

je funkcija £iji je argument θ, (x1 , ..., xn ) je neka realizacija uzorka obiljeºja X i brojevi
x1 , ..., xn se tretiraju kao parametri.
Na L(θ, x1 , ..., xn )∆1 · · · ∆n moºemo gledati kao pribliºnu vjerovatno¢u da uzorak (X1 , ..., Xn )
iz raspodjele koja je odreena sa θ, "upadne" u "mali" paralelopiped [x1 , x1 + ∆1 ) × ... ×
[xn , xn + ∆n ). Ovo slijedi iz
Pθ {X ∈ [x1 , x1 +∆1 )×...×[xn , xn +∆n )} = L(θ, x1 , ..., xn )∆1 ···∆n +o(∆1 ···∆n ), ∆1 , ..., ∆n → 0.
Dakle, L(θ, x1 , ..., xn ) "mjeri" ²ansu da se dobije realizovani uzorak u gore pomenutom malom
paralelopipedu. Slobodnije, funkcija vjerodostojnosti govori o izgledima sa kojima u konkret-
nim modelima tj. u zavisnosti od parametra θ, realizovani uzorak "upada" u pojedine oblasti
iz Rn .
Neka funkcija L(θ, x1 , ..., xn ), θ ∈ Θ, dostiºe maksimum za θ̂ = h(x1 , ..., xn ). Za ocjenu θ̂ =

h(X1 , ..., Xn ) kaºemo da je ocjena maksimalne vjerodostojnosti, a za njenu realizaciju
θ̂ = h(x1 , ..., xn ) kojom se konkretizuje ocjena nepoznatog parametra θ koristimo isti naziv.
Identi£nu oznaku θ̂ koristimo za statistiku i realizaciju te statistike. Ocjena maksimalne
vjerodostojnosti nas vodi u model u kome je vjrovatno¢a dobijanja podataka koje smo sakupili
najve¢a.
Kada u raspodjeli obiljeºja guri²e eksponencijalna funkcija, umjesto traºenja ta£ke maksi-
muma za L(θ, x1 , ..., xn ) jednostavnije je traºiti ta£ku maksimuma za ln L(θ, x1 , ..., xn ). Dobija
se isti rezultat jer zbog monotonosti funkcije ln funkcije L(θ, x1 , ..., xn ) i ln L(θ, x1 , ..., xn )
maksimum dostiºu u istoj ta£ki.
Primjer 7.11 Obiljeºje X : B(1, p), p ∈ (0, 1). Metodom maksimalne vjerododstojnosti po-
traºimo ocjenu nepoznatog p.
n n n
xi ∂
P P
Y xi n−
1−xi xi
I L(p, x1 , ..., xn ) = (1 − p) p = pi=1 (1 − p) i=1 . L(p, x1 , ..., xn ) = 0 ⇔ p = xn .
i=1
∂p
Traºena ocjena je p̂ = X n . J
57
Primjer 7.12 X : U[0, θ], θ > 0. Na¢i ocjenu maksimalne vjerodostojnosti.
IZnamo, g(x, θ) = 1θ I(0 6 x 6 θ). Imamo,
1 1 1
L(θ, x1 , ..., xn ) = I(θ > x1 ) · · · I(θ > xn ) = n I(θ > yn ), yn = max xk .
θ θ θ 16k6n
Dakle, θ̂ = Yn . J
Primjer 7.13 a) X : N (m, 1), m ∈ R. b) X : N (m, 1), m > m0 .
n
(xk −m)2
P
k=1
n
−n
Ia) L(m, x1 , ..., xn ) = (2π) − ∂
(xk −m). Iz ∂
P
2 e 2 , ∂m
ln L(m, x1 , ..., xn ) = ∂m
ln L =
k=1
0 slijedi m̂ = xn . Dakle, m̂ = X n .
n n
b) ln L(m, x1 , ..., xn ) = − n2 m2 +m x2k − n2 ln(2π), m > m0 . Nakon traºenja ta£ke
P P
xk −
k=1 k=1
u kojoj upravo dobijena kvadratna funkcija dostiºe maksimum, dobijamo m̂ = max{m0 , X n }. J

tj. g(x, θ) = 1θ e− θ , x > 0, θ > 0.
1 x
Primjer 7.14 X:E θ
n
P
xk
n x
1 − θk 1 − k=1θ ∂
Q
I L(θ, x1 , ..., xn ) = θ
e = θn
e , ∂θ ln L(θ, x1 , ..., xn ) = 0 ⇔ θ = xn ⇒ θ̂ = X n . J
k=1
8 Intervali povjerenja
Neka je X = (X1 , ..., Xn ) uzorak obiljeºja X £ija funkcija raspodjele pripada familiji
R = {F (x, θ), θ ∈ Θ}.
Neka su θ1 = θ1 (X1 , ..., Xn ) i θ2 = θ2 (X1 , ..., Xn ) statistike takve da za ∀θ ∈ Θ vaºi:
a) Pθ {θ1 < θ2 } = 1,
b) Pθ {θ1 < θ < θ2 } = γ.
Tada se interval (θ1 , θ2 ) naziva interval povjerenja za nepoznati parametar θ, a broj γ

se naziva nivo povjerenja. Na osnovu zakona velikih brojeva, pribliºno 100γ% realizovanih
intervala sadrºi nepoznati parametar θ.
58
Rzγ t2
Koristi¢emo oznaku zγ gdje je γ
2
= P {0 < X < zγ } =∗ √1
2π
e− 2 dt.
0
Primjer 8.1 X : N (m, σ02 ), m ∈ R.
X n −m √
IZnamo, σ0
n : N (0, 1), ∀m ∈ R. Imamo
n Xn − m√ o n σ0 σ0 o
Pm − zγ < n < zγ = γ ⇔ Pm X n − √ zγ < m < X n − √ zγ = γ.
σ0 n n

Zaklju£ujemo da je I = X n − √σ0n zγ , X n + √σ0n zγ . Duºina intervala je d(I) = 2 √σ0n zγ . Pokazuje
se da r
Y[ n2 ] − m
2n R ∗
→X
π σ0

odakle slijedi da je I = Y[ n2 ] − π2 √σ0n zγ , Y[ n2 ] + π2 √σ0n zγ i d(I) = 2 π2 √σ0n zγ .
p p p
Pogledati crteº iz priloga!J
Primjer 8.2 X : N (m, σ 2 ), m ∈ R, σ 2 > 0, tj. parametri su nepoznati.
X n −m √
IZnamo, Ŝn
n : tn−1 , ∀m ∈ R. Imamo
n Xn − m√ o n Ŝn Ŝn o
Pm,σ2 − tγ < n < tγ = γ ⇔ Pm,σ2 X n − √ tγ < m < X n − √ tγ = γ,
Ŝn n n
za tγ vaºi P
{0 < tn−1 < tγ } = 2 i nalazimo
γ
ga u tablici Studentove raspodjele. Zaklju£ujemo
da je I = X n − √nn tγ , X n + √nn tγ . J
Ŝ Ŝ
Primjer 8.3 X : N (m, σ 2 ), m ∈ R, σ 2 > 0.
2
IZnamo da nS σ2
n
: χ2n−1 . Neka je vγ broj takav da je P {χ2n−1 < vγ } = γ, nalazimo ga u tablici
χ2 raspodjele.
2 2 2
( )
n nS n o nS n nS n
a) Pm,σ2 vn−1, 1−γ < 2 < vn−1, 1+γ = γ = Pm,σ2 < σ2 < .
2 σ 2 vn−1, 1+γ vn−1, 1−γ
2 2
!
2 2
nS n nS n
Dobijamo I = v 1+γ
,v 1−γ
-naziva se dvoostrani interval povjerenja, oba kraja su
n−1, 2 n−1, 2
statistike.
59
n 2 o n 2 o 2
nS n nS n nS n
b) Pm,σ2 σ2
> vn−1,1−γ = γ = Pm,σ2 0 < σ < 2
vn−1,1−γ
⇒ I = 0, vn−1,1−γ .
n 2 o n 2 o 2
nS n nS n nS n
c) Pm,σ2 σ2
< vn−1,γ = γ = Pm,σ2 σ 2 > vn−1,γ
⇒I= vn−1,γ
, ∞ .
Intervali pod b) i c) su jednostrani, samo jedan kraj je statistika.J

tj. g(x, θ) = 1θ e− θ , x > 0, θ > 0.
1 x
Primjer 8.4 X:E θ
I γ interval povjerenja za nepoznato θ, n veliko, je

!
Xn Xn
I= ; .
1 + √zγn 1 − √zγn
√
Iskoristili smo asimptotsku normalnost promjenljive (X n − θ) θ
n
. J
U primjerima koji slijede, intervali povjerenja se formiraju primjenom dva tvrenja koje
navodimo bez dokaza.
1. Neka za obiljeºje X vaºi: EX = a, DX = σ 2 . Ako je σn2 postojana ocjena σ 2 , tada

X n −a √ R
σn
n −→ X ∗ .
p p
2. Ako Xn → X i ako je f neprekidna funkcija, tada f (Xn ) → f (X).
Primjer 8.5 Obiljeºje X : P(λ), λ > 0.

√ R
IZnamo da je EX = DX = λ i da je X n postojana ocjena za λ. Iz X
√n −λ n −→ X∗ ⇒
X n
q q !
I = X n − zγ Xnn , X n + zγ Xnn . J
Primjer 8.6 Obiljeºje X : B(1, p), 0 < p < 1, tj. Bernulijevu raspodjelu.
n
p
IZnamo, Sn = Sn Sn
1 − Snn → p(1 − p).
P
Xk : B(n, p), EXi = p, DXi = p(1 − p), X n = n
, n
k=1
Imamo,
r r !
Sn
n
−p √ p ∗ Sn zγ Sn Sn Sn zγ Sn Sn
r n→X ⇒I= −√ 1− , +√ 1− .
Sn Sn
n n n n n n n n
n
1− n
I je interval povjerenja za nepoznatu vjerovatno¢u p, ali i za nepoznatu relativnu zastu-

pljenost nekih nama intersantnih £lanova u populaciji, vidjeti sljede¢i primjer.J
60
Primjer 8.7 Vratimo se modelu iz primjera (7.6), kuglice ¢emo vaditi po dva standardna mod-
ela.
I1. Model sa vra¢anjem, vadimo n kuglica.
0 1 n
M
Xi : B(n, M
P
Xi : ,p = N
,M ∈ {1, ..., N }, i = 1, 2, ..., n, N
),
1−p p i=1
M M M
EX n = N
, DX n = nN
(1 − N
).
Interval povjerenja za nepoznato p = M

N
preuzimamo iz prethodnog primjera.
2. Model bez vra¢anja, vadimo n kuglica, n 6 N.
n−1
0 0 1 − Nn
N −1
0 M 0 M M N −n
Xi : , i = 1, 2, ..., n, ρ0 0
Xk ,Xl = n , EX n = , DX n = (1− ) .
1− M
N
M
N
1− N N nN N N −1
0
DX n
Konstatujmo: ako je lim n
= γ, 0 < γ 6 1, tada je lim = 1 − γ; ako je lim n
= 0,
n→∞ N n→∞ DX n n→∞ N
0
DX n 0 0
tada je lim DX
1. Takoe, iz DX n < DX n , n = 2, 3, ... slijedi da je ocjena
= U X n bolja.
n→∞ n
uzorku 0
komponente su jednako raspodijeljene ali su zavisne. Dakle, nepoznatu
0
(X1 , ..., Xn )
relativnu zastupljenost bijelih kuglica bolje ocjenjuje njihova relativna frekvencija u modelu
bez vra¢anja.
Veza modela sa vra¢anjem i bez vra¢anja. Statistika koja prebrojava bijele kuglice
u uzorku obima n, model bez vra¢anja, ima hipergeometrijsku raspodjelu. Ozna£imo tu
statistiku sa W . Razmotrimo grani£ni slu£aj u kome M
N
→ p, N → ∞. Lako se provjerava

n k
P {W = k} → p (1 − p)n−k , k = 0, 1, ..., n.
k
Dakle, u grani£nom slu£aju, statistika W ima B(n, p) raspodjelu. Budu¢i da statistika

Pn
i=1 Xi iz modela sa vra¢anjem ima B(n, N ) raspodjelu, moºemo zaklju£iti da u slu£aju
M
kada je broj N velik, srednji broj izvu£enih bijelih kuglica u modelima ima pribliºno jednake
raspodjele. Ovo zapaºanje se koristi kod formiranja intervala povjerenja nepoznate relativne
zastupljenosti bijelih kuglica. Naime, kuglice biramo po modelu bez vra¢anja, konstatujemo
relativnu frekvenciju izvaenih bijelih, a kad formiramo interval povjerenja za nepoznato
p = M
N
, koristimo rezultat dobijen za model sa vra¢anjem, primjer (8.6). Ulogu bijelih
61
kuglica mogu preuzeti, recimo, ljevoruki u nekoj populaciji, oboljeli od neke bolesti, osobe
koje preferiraju konkretnu politi£ku opciju itd.J
9 Testiranje statisti£kih hipoteza
Pojam statisti£ke hipoteze i ideju testiranja pribliºimo kroz jedan primjer.
Primjer 1. U kutiji se nalazi 10 kuglica i znamo da je kutija napunjena po jednoj od dvije

strategije:
0) Sa 9 kuglica na kojima je broj 1 i jednom kuglicom na kojoj je broj 2.
1) Sa 9 kuglica na kojima je broj 2 i jednom kuglicom na kojoj je broj 1.
Dozvoljeno nam je da iz kutije izvu£emo 4 kuglice po modelu sa vra¢anjem. Na osnovu

izvu£enih kuglica tj. brojeva na njima, treba da se odlu£imo za jednu od dvije hipoteze
(pretpostavke, mogu¢nosti):
10 Kutija je napunjena po strategiji 0 govori¢emo o hipotezi H0 .
20 Kutija je napunjena po strategiji 1 govori¢emo o hipotezi H1 .
Postupak presuivanja u korist jedne od hipoteza, tj. postupak prihvatanja jedne od

hipoteza, zva¢emo testom. Ako je kutija napunjena po strategiji 0, tada je zbog velike
vjerovatno¢e pojave broja 1, vjerovatno¢a da se registruje mala suma brojeva, velika. Ako je
kutija napunjena po strategiji 1, tada je zbog velike vjerovatno¢e pojave broja 2, vjerovatno¢a
da se registruje velika suma brojeva, velika. Jasno, suma brojeva je u rasponu od 4 do 8 i
kada govorimo o maloj odnosno velikoj sumi imamo u vidu male odnosno velike vrijednosti
u odnosu na interval omeen brojevima 4 i 8. Nakon ove analize, name¢e se kao razuman
sljede¢i postupak odlu£ivanja: Ako je zbir izvu£enih brojeva > 7 prihvati¢emo H1 , a H0
odbaciti. U suprotnom tj. ako je zbir izvu£enih brojeva < 7 prihvati¢emo H0 , a H1 odbaciti.
Ozna£imo sa X obiljeºje koje predstavlja broj na izvu£enoj kuglici. U slu£aju kada je

vaºe¢a strategija 0, obiljeºje X ima raspodjelu
1 2
X: 9 1
,
10 10
62
a u slu£aju kada je vaºe¢a strategija 1, obiljeºje X ima raspodjelu
1 2
X: 1 9
.
10 10
Ove dvije raspodjele moºemo tretirati kao familiju raspodjela obileºja X . U uzorku (X1 , X2 , X3 , X4 )
komponente predstavljaju redom prvi, drugi, tre¢i i £etvrti izvu£eni broj. U statistici je uo-
bi£ajeno da se hipoteze izraºavaju u terminima raspodjela. U na²em primjeru H0 je hipoteza
da obiljeºje X ima gornju, a H1 donju raspodjelu.
Ako je (x1 , x2 , x3 , x4 ) realizovani uzorak, tada se uslov "zbir izvu£enih brojeva je > 7"
zapisuje sa x1 + x2 + x3 + x4 > 7. Ovaj uslov generi²e oblast
C = {(x1 , x2 , x3 , x4 ) : x1 + x2 + x3 + x4 > 7}, C ⊂ R4 .
Nakon uvoenja oblasti C , pravilo odlu£ivanja moºemo ovako formulisati: Ako realizovani
uzorak (x1 , x2 , x3 , x4 ) "upadne" u oblast C , tada prihvatamo H1 , a ako "upadne" u C c , tada
prihvatamo H0 . Oblast C odreuje postupak pravilo odlu£ivanja tj. test. "Upadanje"
uzorka u oblast C ne odgovara hipotezi H0 (tada imamo onu situaciju kada je zbir izvu£enih
brojeva veliki tj. meu brojevima dominira 2; ostvaruje se dogaaj £ija je vjerovatno¢a
realizacije mala ako je ta£na hipoteza H0 ). Zbog toga oblast C nazivamo kriti£na oblast za
H0 .
U postupku odlu£ivanja nema izri£itosti. Mi samo konstatujemo da na osnovu reg-

istrovanih brojeva prednost dajemo jednoj hipotezi (prihvatamo jednu hipotezu). Nar-
avno, postoji mogu¢nost gre²ke. Gre²ku pravimo kada povode¢i se za pravilom odlu£ivanja
odbacimo hipotezu koja je fakti£ki ta£na. Preciznije, mogu¢e je da odbacimo H0 koja je
ta£na i samim tim prihvatimo H1 koja je neta£na. Jasno, mogu¢a je i situacija u kojoj H0 i
H1 imaju zamijenjene uloge.
Izra£unajmo vjerovatno¢u α da odbacimo ta£nu hipotezu H0 .
1 9
α = PH0 {(X1 , X2 , X3 , X4 ) ∈ C} = 4 +4· = 0, 0037.
10 104
Izra£unajmo vjerovatno¢u β da odbacimo ta£nu hipotezu H1 .
1 9 92
β = PH1 {(X1 , X2 , X3 , X4 ) ∈ C c } = + 4 · + 6 · = 0, 0523.
104 104 104
63
Interesantno je vidjeti ²ta se de²ava ako promijenimo test na taj na£in ²to za kriti£nu
oblast za H0 sada uzmemo
D = {(x1 , x2 .x3 , x4 ) : x1 + x2 + x3 + x4 > 8}, D ⊂ R4 .
Lako se dobija α = 0, 0001, β = 0, 3439. Primijetimo, vjerovatno¢a da se odbaci fakti£ki

ta£na H0 je znatno smanjena, ali je vjerovatno¢a odbacivanja fakti£ki ta£ne H1 postala
enormno velika. Prakti£no, u jednom od tri slu£aja ¢emo odbaciti ta£nu hipotezu H1 . U
ovakvoj situaciji je bolje testiranje obaviti prvim postupkom.J
Motivisani prethodnim primjerom, moºemo pre¢i na izlaganje teorije.
Neka je X obileºje £ija funkcija raspodjele vjerovatno¢a pripada familiji
R = {F (x, θ), θ ∈ Θ}.
Pretpostavka oblika H0 (θ ∈ Θ0 ), Θ0 ⊂ Θ, zove se statisti£ka hipoteza. Malo druga£ije

re£eno, pretpostavka se sastoji u tome da obileºje X ima raspodjelu koja pripada uºoj familiji
odreenoj parametarskim skupom Θ0 . Ako je Θ0 jedno£lani skup, tada kaºemo da je hipoteza
H0 prosta. U protivnom govorimo o sloºenoj hipotezi. Hipotezi H0 ¢emo suprotstaviti
hipotezu H1 (θ ∈ Θ\Θ0 ). Hipoteza Ho se naziva nulta, a hipoteza H1 alternativna. Postupak
odlu£ivanja u korist jedne hipoteze, tj. postupak prihvatanja jedne od hipoteza, na osnovu
realizovanog uzorka se naziva statisti£ki test. Taj postupak je odreen zadavanjem kriti£ne
oblasti C ⊂ Rn i sprovodi se na sljede¢i na£in: Ako (x1 , ..., xn ) ∈ C tada H0 odbacujemo u
korist H1 , a ako (x1 , ..., xn ) ∈ C c tada H1 odbacujemo u korist H0 . Zbog upravo izloºenog se
kaºe da kriti£na oblast zadaje test.
Posvetimo se slu£aju kada je Θ = {θ0 , θ1 }, H0 (θ = θ0 ), H1 (θ = θ1 ), dakle obje hipoteze su

proste. Pretpostavimo da je C ⊂ Rn kriti£na oblast koja zadaje test.
Prilikom odlu£ivanja, postoji mogu¢nost da se napravi gre²ka.
1o Gre²ku prve vrste pravimo kada odbacimo fakti£ki ta£nu hipotezu H0 .

2o Gre²ku druge vrste pravimo kada odbacimo fakti£ki ta£nu hipotezu H1 .
Vjerovatno¢a gre²ke prve vrste se ozna£ava sa α i za nju, na osnovu re£enog, vaºi
α = PH0 {(X1 , . . . , Xn ) ∈ C}.
64
α se naziva pragom zna£ajnosti testa, a C se naziva kriti£na oblast veli£ine α.
Vjerovatno¢a gre²ke druge vrste se ozna£ava sa β i za nju, na osnovu re£enog, vaºi
β = PH1 {(X1 , . . . , Xn ) ∈ C c }.
Prirodna je potreba da se pronae test u kome su brojevi α i β mali. Kod rje²avanja ovog
zadatka pote²ko¢e izviru iz £injenice da smanjivanje jednog od ova dva parametra povla£i
uve¢avanje drugog. Postupamo na sljede¢i na£in. Meu svim skupovima S ⊂ Rn za koje je
Pθ0 {(X1 , ..., Xn ) ∈ S} = α
traºimo skup C za koji je vjerovatno¢a Pθ1 {(X1 , ..., Xn ) ∈ C c } najmanja. Ako skup C postoji
najbolja kriti£na ooblast veli£ine α, a odgovaraju¢i test najbolji test sa
nazivamo ga
pragom zna£ajnosti α. U nekim modelima postoji efektivni postupak za dobijanje najbolje
kriti£ne oblasti. Postupak dobijanja najbolje kriti£ne oblasti generi²e Nejman-Pirsonova
lema. Mi ¢emo Nejman-Pirsonovu lemu formulisati u slu£aju kada obiljeºje ima apsolutno
neprekidnu raspodjelu. Gustinu obiljeºja u slu£aju θ = θ0 ¢emo ozna£avati sa g0 , a u slu£aju
θ = θ1 ¢emo ozna£avati sa g1 .
Deni²imo jednu statistiku i jednu funkciju.
L(θ1 ,X1 ,...,Xn ) L(θ1 ,X) g1 (X1 )...g1 (Xn )

K(X) = K(X1 , ..., Xn ) := L(θ0 ,X1 ,...,Xn )
= L(θ0 ,X)
= g0 (X1 )...g0 (Xn )
,
X = (X1 , ..., Xn ), x = (x1 , ..., xn ), h(c) := Pθ0 {K(X1 , ..., Xn ) > c}, c > 0.
Nejman Pirsonova lema. Neka za dato α ∈ (0, 1) postoji c > 0 takav da je h(c) = α.
Tada postoji najbolja kriti£na oblast veli£ine α za testiranje H0 (θ = θ0 ) protiv H1 (θ = θ1 ) i
data je sa W0 = {x : K(x) > c}.
Primijetimo, α = h(c) = Pθ0 {K(X) > c} = Pθ0 {X ∈ W0 }. Neka je W proizvoljna

kriti£na oblast veli£ine α tj. α = Pθ0 {X ∈ W }.
Treba da pokaºemo Pθ1 {X ∈ W c } > Pθ1 {X ∈ W0c } ²to je ekvivalentno sa Pθ1 {X ∈ W } 6

Pθ1 {X ∈ W0 }.
65
Pθ1 {X ∈ W } − Pθ1 {X ∈ W0 }
R R R R
= L(θ1 , x)dx + L(θ1 , x)dx − L(θ1 , x)dx − L(θ1 , x)dx
W ∩W0c W ∩W0 W ∩W0 W c ∩W0
R R R R
6 c( L(θ0 , x)dx − L(θ0 , x)dx) = c( L(θ0 , x)dx + L(θ0 , x)dx −
W ∩W0c W c ∩W0 W ∩W0c W ∩W0
R R R R
− L(θ0 , x)dx − L(θ0 , x)dx) = c( L(θ0 , x)dx − L(θ0 , x)dx) = c(α − α) = 0.
W ∩W0 W c ∩W0 W W0
Primjer 9.1 Obiljeºje X ima N (m, σ02 ), m ∈ {m0 , m1 }, m1 > m0 , σ02 poznato. Na¢i najbolju
kriti£nu oblast veli£ine α (najbolji test sa pragom zna£ajnosti α) za testiranje H0 (m = m0 )
protiv H1 (m = m1 ).
n (X −m )2
−
P k 1
(√ 1 2
2σ0
k=1 n n(m2 2
) ( )
ne (m1 −m0 ) P 0 −m1 )
2
2πσ0 2 Xk + 2
σ0 2σ0
I h(c) = Pm0 n (X −m )2
P k 0
>c = Pm0 e k=1 >c =
− 2
√ 1
2
ne
k=1 2σ0
2πσ0
( ) ( )
X n −m0 √
√
σ02 ln c m1 +m0 σ0 ln c √ (m1 −m0 ) n
Pm 0 X n > (m1 −m0 )n
+ 2
= Pm 0 σ0
n> (m1 −m0 ) n
+ 2σ0
.
√
(m1 −m0 ) n
Neka je w(c) := σ0 ln c √
(m1 −m0 ) n
+ 2σ0
,c > 0. Funkcija w(c) je neprekidna i strogo
X n −m0 √
monotono rastu¢a. Budu¢i da : N (0, 1) u modelu u kome X : N (m0 , σ02 ),
statistika σ0 n
zaklju£ujemo da je h(c) = P {X > w(c)}. Funkcija h(c) je neprekidna i strogo monotono
∗
opadaju¢a, te postoji jedinstveno c takvo da je h(c) = o α i to

n c je rje²enje jedna£ine w(c) o=
n √
z1−2α = wα . Dakle, W0 = (x1 , ..., xn ) : xnσ−m
0
0
n > wα = (x1 , ..., xn ) : xn > m0 + σ√ 0 wα
n
.
U slu£aju testiranja H0 (m = m0 ) protiv H1 (m = m1 ), m1 < m0 , primjenom istog postupka
se dobija:
n xn − m0 √ o n σ0 wα o
W0 = (x1 , ..., xn ) : n 6 −wα = (x1 , ..., xn ) : xn 6 m0 − √ .
σ0 n
U slu£aju n = 9, α = 0, 05, m0 = 0, m1 = 1, σ02 = 1 imamo: W0 = {(x1 , ..., x9 ) : x9 >

1,65
3
} = {(x1 , ..., x9 ) : x9 > 0, 55}, dok je β = P1 {X 9 < 0, 55} = P1 {(X 9 − 1)3 < −1, 35} =
0, 09.
66
Vratimo se na op²ti slu£aj i naimo najmanje n takvo da je uz zadato α vjerovatno¢a
gre²ke druge vrste 6 β. Iz
( ) ( )
σ 0 wα m0 − m1 √
Pm 1 X n < m0 + √ = P X∗ < n + wα 6β
n σ0
Iz !2
m0 − m1 √ σ0 (wα + wβ )
n + wα < −wβ ⇒ n > .J
σ0 m1 − m0
Primjer 9.2 X : E(θ−1 ), θ ∈ {θ0 , θ1 }, 0 < θ1 < θ0 . Testirati H0 (θ = θ0 ) protiv H1 (θ = θ1 ), n je

veliko.
√
IZnamo, ako X : E(θ−1 ) tada statistika X n − θ θn ima asimptotski N (0, 1).
( −1 n
P ) ( )
−θ1 Xk
θ1−n e k=1
θ0 −θ1 θ0
h(c) = Pθ0 −1 n
P >c = Pθ0 X n 6 θ0 θ1
ln √
n cθ
1
−θ0 Xk
θ0−n e k=1
( ! )
√ √
n θ0 −θ1 θ0 n
= Pθ 0 X n − θ0 θ0
6 θ0 θ1
ln √
n cθ
1
− θ0 θ0
= α.
O£igledno, funkcija h(c) je neprekidna (kompozicija dvije neprekidne funkcije) te postoji

najbolja kriti£na oblast
veli£ine α. Uzimaju¢i u obzir gore pomenutu aproksimaciju raspodjele
√
statistike X n − θ0 n
θ0
: N (0, 1) u modelu koji generi²e H0 dobijamo
n √n o
W0 = (x1 , ..., xn ) : xn − θ0 6 −wα .
θ0
Primijetimo, W0 ne zavisi od θ1 . I na kraju, kad je n = 100, α = 0, 05, θ0 = 1, θ1 = 2

3
dobijamo W0 = {(x1 , ..., x100 ) : x100 6 0, 835}, β = P 2 {X 100 > 0, 835} = P {X ∗ > (0, 835 −
3
2
3
)15} = P {X ∗ > 2, 520} = 0, 0059. J
Najbolja kriti£na oblast

n iz formulacijeoNejman-Pirsonove leme se moºe zapisati i u ekvi-
L(θ0 ,x)
valentnom obliku W0 = x : L(θ 1 ,x)
6 c . Oblik kriti£ne oblasti W0 je o£ekivan (razuman,
saglasan sa intuicijom). Ovu konstataciju objasnimo na neformalnom nivou. Prisjetimo se
da funkcija vjerodostojnosti u zavisnosti od parametra θ daje informaciju o izgledima da
realizovani uzorak "upadne" u proizvoljnu malu oblasti iz Rn . Stoga su u kriti£noj oblasti W0
L(θ0 ,x)
vrijednosti L(θ0 , x1 , ..., xn ) male, a L(θ1 , x1 , ..., xn ) velike. Odatle slijedi da je koli£nik L(θ1 ,x)
L(θ0 ,x)
mali, ²to se prevodi na nejednakost L(θ1 ,x)
6 c. Izloºena analiza je motiv za
67
email adresa nastavnika: sstamatovic@ucg.ac.me
10 Test koli£nika vjerodostojnosti
Neka je parametarski skup Θ, Θ0 + Θ1 = Θ, H0 (θ ∈ Θ0 ), H1 (θ ∈ Θ1 ). Neka je θ∗ vrijednost

parametra θ za koju funkcija L(θ, x), θ ∈ Θ0 dostiºe maksimum. Neka je θ∗∗ vrijednost
parametra θ za koju funkcija L(θ, x), θ ∈ Θ dostiºe maksimum. U testu koli£nika vjerodos-
tojnosi kriti£na oblast je
( )
L(θ∗ , x)
C= x: 6 c , 0 < c < 1,
L(θ∗∗ , x)
i ( )
L(θ∗ , X)
α = sup Pθ {X ∈ C} = sup Pθ 6c .
θ∈Θ0 θ∈Θ0 L(θ∗∗ , X)
Slu£aj c = 1 smo isklju£ili zbog toga ²to bi implicirao C = Rn , α = 1.
Neka je C kriti£na oblast koja odreuje neki test za testiranje Ho (θ ∈ Θo ) protiv H1 (θ ∈

Θ\Θ0 ).
Funkcija mo¢i testa se zadaje sa
W (θ) = Pθ {(X1 , . . . , Xn ) ∈ C}, θ ∈ Θ.
Na jeziku funkcije mo¢i testa, Nejman-Pirsonova lema daje konstrukciju najmo¢nijeg testa,
tj. testa za koji je W (θ1 ) najve¢i pri datom W (θ0 ). Vratimo se za trenutak na primjer koji
smo uradili neposredno nakon dokaza Nejman-Pirsonove leme. Primijetimo, W0 koje smo
dobili primjenom Nejman Pirsonove leme, ne zavisi od m1 te isti test (tj. istu kriti£nu
oblast) dobijamo bez obzira na to koje m1 > m0 zadaje alternativnu hipotezu. Zbog ove
£injenice, za na² test kaºemo da je ravnomjerno najmo¢niji za testiranje H0 (m = m0 )
protiv H1 (m = m1 ), m1 > m0 .
Primjer. X : N (m, σ02 ), σ02 je poznato, H0 (m > m0 ), H1 (m < m0 ).

n
(xk −m)2
P
n − k=1
Budu¢i da je L(m, x1 , ..., xn ) = (2πσ02 )− 2 e , maksimum funkcije vjerodostojnosti
2
2σ0
n n n
se dobija za ono m za koje kvadratna funkcija g(m) = (xk −m)2 = nm2 −2m x2k
P P P
xk +
k=1 k=1 k=1
68
ima minimum. Jednostavno se dobija m∗ = max{xn , m0 }, m∗∗ = xn .

∗
L(m , x)  1, xn > m0
= 1
n
P 2
n
P 2
L(m∗∗ , x)  e− 2σ02 [k=1(xk −m0 ) −k=1(xk −xn ) ] , x < m
n 0
Rije²imo nejedna£inu
n n
1
(xk −m0 )2 − (xk −xn )2 ]
P P
− 2[
2σ0
e k=1 k=1 6c
Na²a nejedna£ina je ekvivalentna sa

n n
(xk − m0 )2 − (xk − xn )2 > c, c > 0 ⇔ x2n − 2m0 xn + m20 > c, c > 0 ⇔ (m0 − xn )2 > c, c > 0
P P
k=1 k=1
⇔ m0 − xn > c, c > 0 ⇔ xn 6 m0 − c, c > 0,
gdje zbog ekonomi£nosti zapisa koristimo samo jednan simbol za konstantu iako je rije£ o
razli£itim konstantama.
( )
X n −m0 √ √
n o
α = sup Pm X n 6 m0 − c = sup Pm σ0
n 6 m0 −c−m
σ0
n =
m>m0 m>m0
( )
m0 −c−m √
sup P X ∗ 6 σ0
n ,
m>m0
√
O£igledno, supremum se dostiºe za m = m0 i nakon rje²avanje jedna£ine − cσ0n = −wα
n o
dobijamo c = σ√
0 wα
n
. Dakle, C = (x 1 , ..., x n ) : x n 6 m 0 − σ√
0 wα
n
.
Potraºimo funkciju mo¢i testa.
w√
α σ0
( ) ( ) !
wα σ 0 m0 − m − n √ m0 − m √
W (m) = Pm X n < m0 − √ = P X∗ < n =Φ n−wα ,
n σ0 σ0
gdje sa Φ ozna£avamo funkciju raspodjele slu£ajne promjenljive X ∗ . Funkcija W (m) je

neprekidna, monotono opada, teºi ka 1 kad m → −∞ i teºi ka 0 kad m → ∞.
n o
U slu£aju H0 (m 6 m0 ), H1 (m > m0 ) se dobija C = (x1 , ..., xn ) : xn > m0 + σ√
0 wα
n
.
69
U slu£aju H0 (m = m0 ), H1 (m 6= m0 ) imamo m∗ = m0 , m∗∗ = xn te je
n | xn − m0 | √ o
C = (x1 , ..., xn ) : n > w α2 .
σ0
Primjer. X : U[0, θ], θ > 0, H0 (θ = θ0 ), H1 (θ 6= θ0 ).
θ∗ = θ0 , L(θ∗ , x1 , ..., xn ) = 1
θ0n
, yn 6 θ0 , θ∗∗ = yn , L(θ∗∗ , x1 , ..., xn ) = 1
n
yn
te je
 n
yn
 θ0 , yn < θ0 ,

L(θ∗ , x)

n o
yn n
= 6 c ili yn > θ0 ,

1, yn = θ0 , C = (x1 , ..., xn ) :
L(θ∗∗ , x)  θ0
0, yn > θ0 .

( )
Y n
n √ √
α = Pθ 0 6 c ili Yn > θ0 = Pθ0 {Yn 6 n
cθ0 } = c; C = {x : yn 6 n αθ0 ili yn > θ0 }.
θ0
√
10 0 < θ 6 n
αθ0 , W (θ) = 1.
√ n
θ0
20 n
αθ0 < θ 6 θ0 , W (θ) = α θ
.
n n n
θ0 θ0
0
3 θ > θ0 , W (θ) = α θ
+1− θ
= 1 − (1 − α) θθ0 .
Primjer. X : U[0, θ], θ > 0, H0 (θ ∈ [1, 2]).
Potraºimo θ∗ .
a) yn < 1, L(θ, x) = 1
θn
, 1 6 θ 6 2. Maksimum se dostiºe za θ = 1.
b) 1 6 yn 6 2, L(θ, x) = 1
θn
, yn 6 θ 6 2 te se maksimum dostiºe za θ = yn .
Dakle, θ∗ = max{1, yn }, a θ∗∗ = yn .

∗
 ynn , yn < 1,
L(θ , x) 
= 1, 1 6 yn 6 2,
L(θ∗∗ , x) 
0, yn > 2.

70
√ √
C = {x : yn 6 n
c ili yn > 2}, α = sup P {Yn 6 n
c ili Yn > 2} = c ⇒
θ∈[1,2]
√
C = {x : yn 6 n
α ili yn > 2}.
 √
 1, 0 < θ 6 n α,

α √
W (θ) = θ n , n
α < θ 6 2,
n

α 2
1+ − θn , θ > 2.

θn
X : N (m, σ 2 ) oba parametra su nepoznata, H0 (m 6 m0 ), H1 (m > m0 ). Metodom

Primjer.
maksimalne vjerodostojnosti ¢emo ocijeniti nepoznati vektor (m, σ 2 ). Zbog toga ²to je funkcija
ln strogo monotono rastu¢a, traºenje maksimuma funkcije L(m, σ 2 , x) ¢emo zbog jednos-
tavnije analize konvertovati u traºenje maksimuma funkcije ln L(m, σ 2 , x).
∂
∂m
ln L = 0 ⇒ m = xn . Zamijenimo dobijeno m u L i rje²avamo ∂
ln L = 0 ⇒ σ 2 =
∂σ 2
n n
1
(xk − xn )2 = s2n . Dakle θ∗∗ = (xn , s2n ). Potraºimo θ∗ . ∂
ln L = 0 ⇒ σ 2 = n1
P P
n ∂σ 2
(xk −
k=1 k=1
m)2 . Zamijenimo upravo dobijeno σ 2 u L(m, σ 2 , x), a zatim traºimo maksimum funkcije
n
ln L(m, n1 (xk − m)2 , x), m 6 m0 . Maksimum se dostiºe u ta£ki min{xn , m0 }. Dakle,
P
k=1

 (xn , s2n ), xn 6 m0 ,
∗ n
θ =
 (m0 , n1 (xk − m0 )2 ), xn > m0 .
P
k=1

 1, xn 6 m0 ,
L(θ∗ , x)

 n
)2
P
= (xk −xn
L(θ∗∗ , x) 
k=1
n , xn > m0 .
(xk −m0 )2
 P
k=1
n n
(xk −xn )2 (xk −xn )2
P P
ns2n xn −m0 √ n−1 2
k=1
n <c⇔ n
k=1
<c⇔ 2
nsn +n(xn −m0 )2
<c⇔ ŝn
n > cα , s2n = n
ŝn .
)2 )2
P P
(xk −m0 (xk −xn +xn −m0
k=1 k=1
X n −m0 √
Znamo da statistika ŝn
n ima Studentovu raspodjelu sa n−1 stepena slobode. Slu£a-
jnu promjenljivu koja ima tn−1 raspodjelu ¢emo ozn£iti sa T .
( ) ( )
X n − m0 √ Xn − m√ m − m0 √
α = sup Pm n > cα = sup Pm n+ n > cα =
m6m0 Ŝn m6m0 Ŝn Ŝn
= P {T > vn−1;0,5−α }.
Naime, supremum se dostiºe za m = m0 , a vn−1;0,5−α se £ita iz tablica za Studentovu raspod-
71
jelu. I na kraju ( )
vn−1;0,5−α ŝn
C= x : xn > m0 + √ .
n
72

Statistika Predavanja

Uploaded by

Document Information

Original Title

Copyright

Available Formats

Share this document

Share or Embed Document

Sharing Options

Did you find this document useful?

Is this content inappropriate?

Copyright:

Available Formats

Statistika Predavanja

Uploaded by

Copyright:

Available Formats

1 Uslovno matemati£ko o£ekivanje

gdje je xi neka realizacija promjenljive X , a yj , j = 1, 2, ..., m, su sve realizacije promjenljive

Uop²tenje na apsolutno neprekidni slu£aj je prirodno. Ulogu sume preuzima integral,

Svojstva uslovnog matemati£kog o£ekivanja.

2. E(w(X)|X) = w(X), E(X|X) = X, E(w(X)Y |X) = w(X)E(Y |X), w : R → R je

3. Ako su X i Y nezavisne slu£ajne promjenljive, tada je E(Y |X) = EY.

U stohastici se sa L2 = L2 (Ω, F, P ) ozna£ava prostor slu£ajnih promjenljivih (zadatih na

Zada¢emo preslikavanje (X, Y ) = EXY , gdje su X, Y ∈ L2 . Dakle, paru (X, Y ) se dod-

Lako se provjerava: ako su X, Y, Z ∈ L2 tada vaºi

(aX + bY, Z) = a(X, Z) + b(Y, Z), a, b ∈ R

kompletan. Dakle, prostor L2 snabdjeven sa gore zadatim skalarnim proizvodom je Hilber-

Neka je (X, Y ) slu£ajni vektor i neka je w : R → R Borelovo preslikavanje. Slu£ajnu

Definicija 1.1 Ocjena w∗ (X) je najbolja ako je

E(Y − w(X))2 > E(Y − w∗ (X))2 tj. k Y − w(X) k>k Y − w∗ (X) k

za proizvoljno Borelovo preslikavanje w.

Teorema 1.1 w∗ (X) = E(Y |X).

E(Y − w∗ (X))(w∗ (X) − w(X)) = EE((Y − w∗ (X))(w∗ (X) − w(X))|X) =

Potreba za ocjenjivanjem se pojavljuje u slu£ajevima kada je X dostupna, a Y nedostupna

U teoriji ocjenjivanja, funkcija w∗ se naziva funkcija regresije. Ta£nost ocjene se "mjeri"

x+1 x+1+3 x+1+4 ...

EX2 = 6(EX1 + 1) ⇒ EX2 = 6(6 + 1) ⇒ EX3 = 63 + 62 + 6 = 258. J

IStandardnim postupkom se dobija raspodjela slu£ajne promjenljive Y , a ra£unanjem

Slu£ajna promjenljiva X ima P (λ) raspodjelu, a slu£ajna promjenljiva Y pri

uslovu X = n ima B(n, p) raspodjelu. Na¢i E(Y |X), E(X|Y ), EY .

Primjer 1.8 Neka su X1 , X2 , ..., Xn nezavisne, jednako raspodijeljene slu£ajne promjenljiva sa

Sli£no se dobija E(Yn |Y1 ) = nY1 . J

IZbog linearnosti operatora matemati£kog o£ekivanja imamo,

Naimo raspodjelu za X1 |Yn = v, 0 < v < 1. Imamo,

P {X1 < u, v 6 Yn < v + h}

O£igledno je F (u|v) = 1, u > v. Dalje,

(n − 1)uv n−2 h + o(h) n−1u

Primijetimo, f : R → C i funkcija raspodjele postoji za svaku slu£ajnu promjenljivu. Integral

Ako je raspodjela slu£ajne promjenljive X diskretnog tipa tj. P {X = xi } = pi , i ∈ I , tada je

Potraºimo karakteristi£nu funkciju slu£ajne promjenljive X : N (0, 1).

slijedi da integral dobijen formalnim diferenciranjem ravnomjerno konvergira po t te je difer-

Svojstva karakteristi£ne funkcije.

1. f (0) = 1, |f (t)| 6 1, f (−t) = f (t).

2. Ako je Y = aX + b, a, b ∈ R, tada je fY (t) = fX (at)eitb .

fY (t) = E it(aX+b) = EeiatX+itb = fX (at)eitb .

3. Funkcija f (t) je ravnomjerno neprekidna na R.

|f (t + h) − f (t)| = |Eei(t+h)X − EeitX | = |EeitX (eiXh − 1)| 6 E|eitX ||eiXh − 1| =

Konvergencija slijedi na osnovu Lebegove konvergencije o dominantnoj konvergenciji, a £iju

Konstatujmo, f (k) (0) = ik EX k . I na kraju

5. Ako postoji f (2k) (0), tada je EX 2k < ∞. (bez dokaza)

Teorema 2.1 Bohner-Hin£inova teorema. Funkcija f (t) je karakteristi£na funkcija neke

U konkretnim slu£ajevima je provjera nenegativne denitnosti teºak zadatak. Zbog toga su

Primjenom Pojine teoreme lako se provjerava da je f (t) = e−|t| karakteristi£na funkcija.

Posljedice. a) Ako je karakteristi£na funkcija f (t) apsolutno integrabilna na R, tada je

b) Ako je slu£ajna promjenljiva X diskretnog tipa, tada za svaku realizaciju x vaºi

Karakteristi£nim funkcijama se uspostavlja preslikavanje sa skupa funkcija raspodjele (sa

U dokazu teoreme jedinstvenosti za karakteristi£ne funkcije koristimo Stonovu teoremu.

takav da je sup |Tn (x) − f (x)| < ε.

Teorema 2.5 (Teorema jedinstvenosti) Neka su F i G funkcije raspodjele koje imaju

Fiksirajmo a, b ∈ R (a < b), ε > 0 i formirajmo funkciju f (ε) za koju vaºi:

Neka je n ∈ N takav da je [a − ε, b] ⊂ [−n, n] i neka je (δn , n ∈ N) takav niz da je δn > 0

sup | fn(ε) (x) |6 2.

Lema 2.1 Karakteristi£na funkcija je parna ⇔ odgovaraju¢a raspodjela je simetri£na ⇔

Pretpostavimo da je karakteristi£na funkcija parna. Imamo fX (t) = fX (−t) = f−X (t) na

Pretpostavimo da je raspodjela slu£ajne promjenjive X simetri£na. Imamo

Primjer 2.1 Na¢i karaktersisti£nu funkciju slu£ajne pomjenljive Sn : B(n, p).

Primjer 2.2 Na¢i karakteristi£nu funkciju slu£ajne promjenljive N (m, σ 2 ).

Primjer 2.3 a) Slu£ajna promjenljiva X : P(λ). Na¢i fX (t), EX, DX.

b) Slu£ajne promjenljive X1 , ..., Xn su nezavisne sa P(λ1 ), ..., P(λn ) raspodjelama. Dokazati

Naimo raspodjelu za X1 |Yn = v, 0 < v < 1. Imamo,

U konkretnim slu£ajevima je provjera nenegativne denitnosti teºak zadatak. Zbog toga su

Fiksirajmo a, b ∈ R (a < b), ε > 0 i formirajmo funkciju f (ε) za koju vaºi:

Pretpostavimo da je karakteristi£na funkcija parna. Imamo fX (t) = fX (−t) = f−X (t) na

Koristili smo uop²teni binomni koecijent

U ⇒ smjeru tvrenje je o£igledno. Dokaºimo tvrenje u ⇐ smjeru. C1 = B1 , C2 =

Prisjetimo se jednog tvrenja iz Borel-Kantelijeve teoreme. Ako je An , n = 1, 2, ... niz

b) Ako su promjenljive Xn nezavisne, tada Xn → c ako i samo ako za ∀ > 0 red

Neka je x ∈ C(F ), > 0.

FX (x − ) = P {X < x − } = P {X < x − , Xn < x} + P {X < x − , Xn > x} 6

Budu¢i da je x proizvoljna ta£ka neprekidnosti funkcije F (x) i proizvoljan pozitivan broj,

Neka je proizvoljan pozitivan broj i

W je dogaaj da u seriji od n bacanja nov£i¢a, relativna frekvencija palih pisama odstupi od

Rezultat se dobija nakon rje²avanja nejedna£ine 4n