6.

Monte Karlo metod i izdvajanje performansi tokom simulacije

1. Monte Karlo metod procjena mjere intervala

Kao to smo istakli ranije, idealna Monte Karlo simulacija predstavlja realno oponaanje
stvarnog sistema. Ako ostavimo po strani pitanja vjernosti predstavljanja modela, kljuna
ideja Monte Karlo simulacije jeste ta da se sluajni procesi, signali i um razvijaju u vremenu
nosei one statistike vrijednosti koje su im dodjeljene. Vezano za problem procjene
vjerovatnoe greke bita ili vjerovatnoe greke simbola, Monte Karlo metod je samo nain
za implementaciju sekvence Bernulijevog pokusa, s tim da u implementaciji ovog metoda
simulacije pretpostavke za izvlaenje nisu potrebne. Implikacija ovakvog eksperimenta jeste
da brojimo uspjehe (greke u kontekstu) koje dijelimo sa brojem pokusa, a rezultat e biti
procjena relativnog broja greaka, ili ono to jednostavno zovemo vjerovatnoa greke bita,
odnosno simbola. Metod sam po sebi ne zahtijeva nikakve pretpostavke o osobinama sistema.
Zapravo, u implementaciji metoda sistem sam po sebi se zaobilazi (Slika 6.9), osim naravno,
izlaza digitalnog izvora i verzije ureaja za odluivanje. Kako je izlaz izvora poznat,
poreenje dvije sekvence nakon odreenog relativnog zakanjenja omoguava empirijsku
bazu za proraun relativne uestanosti pogreaka.

Sekvenca
digitalnog
izvora
Cijeli sistem (izuzev
izvora i ureaja za
odluivanje)
Ureaj za
odluivanje
(dekoder)
Kanjenje Poreenje
Simulirani sistem
Monte Karlo
procedura
procjene
Procijenjena
sekvenca
Sekvenca
greke


Slika 6.9. ematski prikaz implementacije Monte Karlo procedure


U cilju implementacije ovakve procedure neophodno je poznavati kanjenja. Poznavanje
kanjenja je u stvari ekvivalentno sinhronizaciji kanjenja i treba imati na umu da e razliite
tehnike izdvojiti razliite uzorke signala. Ovo ima za posljedicu da ako kanjenje nije
jedinstveno, tada ni MK procjena nee biti jedinstvena. Ovo nam govori da je ponaanje
sistema u potpunosti zavisno od svih aspekata njegove implementacije. Sa take gledita
same tehnike procjene ovi detalji generalno nisu vani.

Monte Karlo metod je sutinski defnisan navedenom procedurom. Meutim, potrebno je
izvesti metod na takav nain da eksplicitno pokazuje funkciju gustoe vjerovatnoe
varijable za odluivanje. Ve smo naglasili da funkcija gustoe vjerovatnoe, dakle
vjerovatnoa greke, moe biti razliita za razliite simbole. Zbog toga je neophodno da
generalno postavimo uslove za vjerovatnou greke simbola prema specifinom tipu simbola
koji prenosimo. Fokusirajmo se na neki proizvoljan simbol, recimo simbol a
j
,
{ } 1 ,..., 1 , 0 L j , i osim ako nije drugaije odreeno, zavisnost svih veliina koje zavise od
odreenog simbola nije potrebno eksplicitno naglaavati. Vano je razumjeti da ovo
uslovljavanje vai samo za simbol na kom se vri odluivanje, ali ne ograniava sekvencu
simbola koje prethode ili slijede taj simbol.

Formulacija je po formi identina za sve simbole, bez obzira da li im je vjerovatnoa greke
ista. Zbog toga vjerovatnou greke simbola, odnosno vjerovatnou greke bita p
j
za
pretpostavljeni simbol, moemo izraziti kao:

=
j
j
v
v j
dv v f p ) (
(6.1)

Gdje je
j
v
f funkcija gustoe vjerovatnoe vrijednosti uzoraka simbola j na periodu (kojeg
emo za sada ostaviti neodreenim), a
j
je oblast v koja odgovara greki. Definiui
funkciju pokazivaa greke:

j
j
v
v
v I
j
, 0
, 1
) (
(6.2)

izraz (6.1) moemo predstaviti kao:

= dv v f v I p
j j
v j
) ( ) (
(6.3)

Posljednja jednaina je ekvivalentna izrazu:


[ ] ) (V I E p
j
j
= (6.4)

Gdje je E operator oekivanja, a obzirom da je estimator oekivanja
j
p u stvari srednja
vrijednost uzoraka moemo pisati:

=
j
j
i
i
j
j
V I
N
p

) (
1


(6.5)

Gdje je ) (
i i
t V V = sekvenca uzoraka rasporeenih simbola naponskog odluivanja,
j
je skup
cjelobrojnih vrijednosti koje sadre svako i takvo da t
i
odgovara simbolu uzorka j, a N
j
je broj
elemenata skupa. Vidimo da se ) (
i
V I
j

ponaa kao detektor greke, suma kao broja

greaka, a
j
N
1
kao usrednjiva. Na ovaj nain smo formalno doli do eljenog rezultata na
nain koji prepoznaje ulogu funkcije raspodjele vjerovatnoe posmatrane varijable V(t).

Jasno je da se jednaina (6.1) moe proiriti na cjelokupni prosjek statistike uestanosti
greke jednainom:

=
1
0
) ( ) (
L
j
V j
dv v f v I p
j j

(6.6)
ija je empirijska kopija:

= =
N
i
L
j
i a i
N
N n
s V I
N
p
j j
1
1
0
) (
) ( 1 ) (
1


(6.7)

Gdje su s
1
, s
2
, , aktuelne sekvence prenesenih simbola, N je ukupan broj procesuiranih
simbola, a n je ukupan broj primjeenih greaka. Simbol indikator 1
aj
(s
i
) je jednak 1 ako je i-
ti preneeni simbol a
j
, u suprotnom je nula. Kako N , p e gotovo sigurno konvergirati
ka p, zbog zakona o velikim brojevima. Zbog toga je rezultat sume 1 ili 0, a sekvenca ima
isto znaenje kao i

e .

U izrazu (6.7) a priori vjerovatnoe simbola
j
su implicitne jer se u MK simulaciji ove
vjerovatnoe prirodno manifestuju kroz relativno pojavljivanje simbola kada je simulacija
dovoljno duga, odnosno, dobro su aproksimirani sa
N
N
j
.

Moemo proraunati i ostale vrijednosti koje nas interesuju uz malo vie posla. Neka su a
0
,
a
1
, , a
L-1
obiljeeni L simbolom alfabeta i neka je d
jk
Hamingovo rastojanje izmeu a
j
i a
k
.
Procijenjena vjerovatnoa greke bita je onda:

=
N
i
L
j
jk i a i b
d s V I
mN
p
j j
0
1
0
) ( 1 ) (
1


(6.8)

Gdje je a
k
detektovani simbol, a m je broj bita u simbolu (podrazumijevamo naravno da je
L=2
m
). Jednaina (6.8) nam jednostavno kazuje teinu greke simbola prema stvarnom broju
greaka bita. Moemo ii i dalje i izraunati vjerovatnou specifine greke bita, koja nam
dosta znai u odreenim modulacijskim emama blok kodova. Ako je
) ,..., , (
0 , 2 , 1 , k m k m k k
b b b a

=

binarno predstavljanje a
k
, tada b
k,l
nazivamo l-tim znaajnim bitom;
odnosno b
k,0
se naziva najmanje znaajnim bitom, a b
k,m-1
najzanaajnijim bitom. Zavisno od
mapiranja bita u simbole, vjerovatnoa greke bita moe biti razliita u razliitim pozicijama
bita. Neka je
) (l
jk
d Hamingovo rastojanje izmeu l-tih znaajnih bita simbola s
j
i s
k
; naravno
ono je jednako 0 ili 1. Tada je specifina vjerovatnoa greke bita oita modifikacija izraza
(6.8):

=
N
i
L
j
l
jk i a i l b
d s V I
N
p
j j
1
1
0
) (
,
) ( 1 ) (
1

(6.9)

U nastavku emo se pozabaviti pouzdanou ovih procjena.


1.1. Interval povjerljivosti: binomijalna raspodjela


Monte Karlo metod je jedan od rijetkih gdje moemo tano procjeniti raspodjelu,
pretpostavljajui nezavisnost izmeu dogaaja greke. Greka moe biti bitska greka,
simbolska greka, ili bilo koji adekvatno definisani dogaaj. Najvanija stvar kod ovih
posmatranja jeste ta da one mogu biti podijeljene u dvije grupe: jednu koja sadri dogaaje
greaka i drugu koja ih ne sadri. Drugim rijeima, ne pravimo razliku izmeu greaka na
razliitom tipu simbola. Sa ovom pretpostavkom nezavisnosti, broj dogaaja greke n ima
binomijalnu raspodjelu, ( , ) B N p , gdje je p a priori vjerovatnoa dogaaja, i za dato N
procjena
N
n
p = ima binomijalnu raspodjelu. Prema definiciji o povjerljivosti intervala,
moemo pokazati da je za 1- nivo povjerljivosti gornje i donje vrijednosti dvostrano
simetrinog intervala
1
h i
2
h , respektivno, rjeenje


2
) , 1 ; ( 1 ) 1 (
1
0
1 1

= + =
|
|

\
|

=

n N n h F h h
k
N
k N
n
k
k

(6.10a)

i


2
) 1 , ; ( 1 ) 1 (
2 2 2

= + =
|
|

\
|

=

n N n h F h h
k
N
k N
N
n k
k


(6.10b)

Gdje je ) , ; ( b a x F dato kao:


dt t t
b a
b a
b a x F
b
x
a 1
0
1
) 1 (
)! 1 ( )! 1 (
)! 1 (
) , ; (

+
=

(6.11)

za cjelobrojne vrijednosti a i b. Desna strana izraza (6.11) predstavlja ) ( x Y P , gdje je Y
sluajna varijabla sa beta raspodjelom, Y ~ beta (a,b). Izraz dat u ovom obliku je mnogo lake
proraunati nego sume date u izrazu (6.10).

Za jednostrani interval, izraz (6.10a) e se koristiti sa dvostrukom vrijednou . Desne
strane jed6naine (6.10), takoe mogu biti razliite, recimo ako je
1
i
2
odabrano tako da
je = +
2 1
, tada ova asimetrija moe malo smanjiti duinu intervala povjerljivosti.
Rjeavanje (6.10) je raunski naporno za tipine vrijednosti N i p, meutim, napredak u
matematskom softveru nam danas omoguava neposrednu procjenu preko kumulativne beta
raspodjele. Tabela 6.1 pokazuje gornje i donje vrijednosti faktora (mnoitelja) na
posmatranom p za kreiranje intervala pojerljivosti na naznaenom povjerljivom nivou. Bitno
je naglasiti da, u prethodnim jednainama, nivo povjerljivosti zavisi jedino od N, ali u
procesu kreiranja tabele 6.1 se vidi da interval povjerljivosti neznatno zavisi od N (razlikuje
se samo u treoj ili etvrtoj decimali) jednom kada N pree 1000. Zbog toga se, kao to je i
reeno, moe kreirati mnogo kompaktnija tabela.

Iako je potreba za aproksimacijama za rjeavanje (6.10) manja nego nekada, jo uvijek su
interesantne zbog dva razloga: ukoliko postoji potreba za opsegom parametara koji nisu
obuhvaeni tabelom 6.1 i bez odgovarajueg alata, ove aproksimacije e dozvoliti brze i
prihvatljivo tane rezultate; i drugi, ove aproksimacije, posebno one uobiajene, daju bolju
analitiku preglednost nego jednaine (6.10).


Broj greaka 90% povjerljivosti 95% povjerivosti 99% povjerljivosti
2,995 3,69 5,30
0 0 0 0
4,74 5,57 7,43
1 5,13 x 10
-2
2,532 x 10
-2
5,01 x 10
-3

3,147 3,61 4,64
2 1,777 x 10
-1
1,211 x 10
-1
5,17 x 10
-2

2,584 2,922 3,66
3 2,726 x 10
-1
2,062 x 10
-1
1,126 x 10
-1

2,288 2,560 3,147
4 3,42 x 10
-1
2,725 x 10
-1
1,681 x 10
-1

2,102 2,333 2,829
5 3,94 x 10
-1
3,25 x 10
-1
2,156 x 10
-1

1,696 1,838 2,139
10 5,43 x 10
-1
4,80 x 10
-1
3,72 x 10
-1

1,452 1,544 1,732
20 6,63 x 10
-1
6,11 x 10
-1
5,18 x 10
-1

1,356 1,427 1,572
30 7,20 x 10
-1
6,75 x 10
-1
5,93 x 10
-1

1,301 1,361 1,483
40 7,55 x 10
-1
7,15 x 10
-1
6,40 x 10
-1

1,265 1,317 1,424
50 7,80 x 10
-1
7,43 x 10
-1
6,74 x 10
-1

1,239 1,286 1,382
60 7,98 x 10
-1
7,64 x 10
-1
6,99 x 10
-1

1,219 1,262 1,349
70 8,12 x 10
-1
7,80 x 10
-1
7,20 x 10
-1

1,203 1,243 1,324
80 8,24 x 10
-1
7,94 x 10
-1
7,36 x 10
-1

1,191 1,228 1,303
90 8,34 x 10
-1
8,05 x 10
-1
7,50 x 10
-1

1,180 1,215 1,286
100 8,42 x 10
-1
8,14 x 10
-1
7,62 x 10
-1

1,075 1,089 1,118
500 9,29 x 10
-1
9,16 x 10
-1
8,91 x 10
-1

1,051 1,060 1,080
1000 9,51 x 10
-1
9,42 x 10
-1
9,24 x 10
-1


Tabela 6.1 Tani intervali povjerljivosti vjerovatnoe greke bita
za binomijalnu raspodjelu
Ukoliko bismo eljeli kreirati interval povjerljivosti uestanosti greke odreenog simbola,
moe izgledati da moemo primjeniti prethodne formule jednostavnom zamjenom, recimo p
sa p
j
, p sa
j
p , n sa n
j
i N sa N
j
. U veini sluajeva koje bi posmatrali, odnosno za dovoljno
veliko N, procjena bazirana na ovoj pretpostavki bi dala rezultate prilino bliske tanoj
vrijednosti. Ali, ova procedura zapravo ne bi bila skroz tana jer n
j
nije binomijalno
rasporeen. On je uslovno binomijalan, po vrijednosti N
j
koja je binomijalno rasporeena.

Potrebno je jo naglasiti pojavu sluajnog odabira N
j
, koja se javlja zato to mi u MK
simulaciji imitiramo sistem onakav kakav je, dakle generiemo simbole sluajno. Postoji
varijacija MK metodologije po kojoj moemo generisati fiksan broj bilo kakvih datih
simbola, i to samo onda kada moemo pretpostaviti da je memorija sistema ograniena,
recimo jednaka m simbola. U tom sluaju postoji L
m-1
moguih uzoraka simbola koji prehode
svakom simbolu i moemo osigurati da se svaki od ovih uzoraka desi u konjukciji sa
odabranim simbolom jednak broj puta, koristei na primjer sekvencu Bruijina.


2.2. Interval povjerljivosti: Poasonova aproksimacija


Kao to nam je poznato, binomijalna raspodjela moe biti aproksimirana Poasonovom
raspodjelom ukoliko 0 p za N tako da

=

p N
N
lim

Gdje je > 0 konstanta. Pod odreenim uslovima, binomijalna raspodjela moe biti
zamijenjena sa Poasonovom raspodjelom to vodi do relacija:

=
n
k
k
k
e
0
1
2 !
1

=
N
n k
k
k
e
2 !
2 2

(6.12)

koje treba rijeiti po
1
i
2
, pomou kojih emo kreirati interval povjerljivosti (
N N
2 1
,

) sa
nivoom povjerljivosti 1 . Prednost izraza (6.12) jeste ta to tablice Poasonove raspodjele
ve postoje i pokrivaju velik opseg vrijednosti. Heuristiki, aproksimacija je korisna jer se
irok opseg vrijednosti p i N moe predstaviti relativno malim opsegom pomou parametra
= p N .

Tabela gornjih i donjih vrijednosti za razliite nivoe povjerljivosti data je u tabeli 6.2 za
vrijednosti 50 0 n , gdje je n broj primjeenih greaka. Kako bi kreirali interval
povjerljivosti za p, potrebno je unijeti red gdje je n primjeeno i podijeliti odgovarajuu
vrijednost sa N, ukupnim brojem promatranja. Vrijednosti u tabeli su dobijene
koristei istu vrijednost (
2

) sa desne strane suma (6.12).

Generalno govorei, kao i kod binomijalne raspodjele, moemo dobiti malo ue intervale
povjerljivosti ukoliko koristimo razliite vrijednosti zbira, recimo
1
i
2
takve da je
= +
2 1
. Ovakva modifikacija izraza obino ne vodi znaajnom smanjenju duine
intervala. Tabela 6.2 pokriva znaajan dio moguih vrijednosti n. Poredei tabele 6.1 i 6.2,
vidimo (nakon trivijalnih prorauna) da je slaganje u veini sluajeva dosta dobro. Zapravo,
za 10 n , rezultati se bitno podudaraju sa onima dobijenim pomou normalne aproksimacije,
o kojima emo diskutovati u sljedeem poglavlju.



1- = 0,90 1- = 0,95 1- = 0,99
n
Donja
granica
Gornja
granica
Donja
granica
Gornja
granica
Donja
granica
Gornja
granica
0 0,000 3,00 0,000 3,69 0,000 5,30
1 0,051 4,74 0,025 5,57 0,005 7,43
2 0,355 6,30 0,242 7,22 0,103 9,27
3 0,818 7,75 0,619 8,77 0,338 10,98
4 1,37 9,15 1,09 10,24 0,672 12,59
5 1,97 10,51 1,62 11,67 1,08 14,15
6 2,61 11,84 2,20 13,06 1,54 15,66
7 3,29 13,15 2,81 14,42 2,04 17,13
8 3,98 14,43 3,45 15,76 2,57 18,58
9 4,70 15,71 4,12 17,08 3,13 20,00
10 5,53 16,96 4,80 18,39 3,72 21,40
11 6,17 18,21 5,49 19,68 4,32 22,78
12 6,92 19,44 6,20 20,96 4,94 24,14
13 7,69 20,67 6,92 22,23 5,58 25,50
14 8,46 21,89 7,65 23,49 6,23 26,84
15 9,25 23,10 8,40 24,74 6,89 28,16
16 10,04 24,30 9,15 25,98 7,57 29,48
17 10,83 25,50 9,90 27,22 8,25 30,79
18 11,63 26,69 10,67 28,45 8,94 32,09
19 12,44 27,88 11,44 29,67 9,64 33,38
20 13,25 29,06 12,22 30,89 10,35 34,67
25 17,38 34,92 16,18 36,90 14,00 41,00
30 21,59 40,69 20,24 42,83 17,77 47,21
35 25,87 46,40 24,38 48,68 21,64 53,32
40 30,20 52,07 28,58 54,47 25,59 59,36
45 34,56 57,69 32,82 60,21 29,60 65,34
50 38,96 63,29 37,11 65,92 33,66 71,27


Tabela 6.2 Intervali povjerljivosti vjerovatnoe greke bita
za Poasonovu aproksimaciju



1.3 Interval povjerljivosti: Normalna aproksimacija


Poznato je da se za veliko N raspodjela estimatora p dobro aproksimira sa normalnom
raspodjelom sa srednjom vrijednou p i varijansom p(1 - p)/N. Dakle, mogue je kreirati
interval povjerljivosti u obliku:

(
(
(

|
|

\
|
|
|

\
|
+

+ +
+

(
(
(

|
|

\
|
|
|

\
|
+

+
+
1
2
) 1 (
2

2
) 1 (
2

2
1
2
2
2
2
1
2
2
2
N
d
N
p p
d
N
d
p
d N
N
p
N
d
N
p p
d
N
d
p
d N
N
P


(6.13)

Gdje je p vrijednost uestanosti greke, a d

se bira tako da bude:

d
d
t
dt e 1
) 2 (
1
2
2
1
2

(6.14)

Heuristiki, moemo rei da e normalna aproksimacija dati dovoljno dobre rezultate za
[ ]
2 / 1
/ ) 1 ( N p p d p

, odnosno za vrijednost standardne devijacije manju od p po faktoru d

.
Ovo se dalje prevodi u nejednainu
2

d N
p
.

Apsolutna vrijednost intervala povjerljivosti data izrazom (6.13) ne daje nam toliko
informacija koliko ih moemo dobiti iz duine intervala normalizovanog prema samoj
vjerovatnoi greke bita, kao to smo to ve prikazali u tabeli 6.1. Najvea korist normalne
aproksimacije, sem univerzalnog pristupa tabalema normalne raspodjele, je ta da vodi do
uopene grafike predstave koja je inherentno normalizovana ka uestanosti greke. Da bi
ovo grafiki prikazali potrebno je podesiti
v
p

=10 i
v
N 10 = ( p ne smije biti jednaka nuli;
ukoliko je to ipak sluaj potrebno je koristiti tabelu 6.1. ili 6.2.) Aproksimacije
1 ) /(
2
+

d N N i p p p ) 1 ( su obino vie nego dovoljne. Tada moemo (6.13) prikazati
kao:


[ ] =
+
1 y p y P
(6.15)

Gdje je interval povjerljivosti ) , (
+
y y dat sa

(
(
(

|
|

\
|
+ + =

2
1
2
2
1
4
1
2
1 10

d
d
y
v


(6.16)

Ovaj interval je prikazan na slici 6.2 za 90%, 95%, i 99% intervale povjerljivosti. (Potrebno
je naglasiti da navedena aproksimacija moe biti primjenjena za proraun vjerovatnoe
greke bita za odreene simbole, ili srednje vrijednosti za sve simbole.)



broj simbola

Slika 6.2 Intervali povjerljivosti vjerovatnoe greke bita sa posmatranom vrijednou 10
-v
za
Monte Karlo tehniku baziranu na normalnoj aproksimaciji


Interval povjerljivosti, bez obzira na primjenjeni metod, se uvijek odnosi na jednu taku krive
koja prikazuje vjerovatnou greke bita, odnosno simbola, koja odgovara fiksiranom odnosu
signal i um (S/). U simulacijama vremenski nezavisnih sistema se, na primjer uestanost
greke procjenjuje sa nekoliko vrijednosti odnosa signal/um (ili E
b
/N
0
), a blaga kriva
odgovara ovim vrijednostima. Cjelokupnost ovih taaka nam daje vie informacija o
uestanosti greke za datu vrijednost odnosa signal/um, nego to bi dobili posmatranjem
same vrijednosti odnosa signal/um. Zbog ovoga, kriva koja najbolje odgovara navedenim
vrijednostima bi nam trebala dati vei stepen povjerenja nego procjena za samo jednu taku.


6.3 Srednja vrijednost i varijansa Monte Karlo estimatora


Promjenimo raniju oznaku za sekvencu greke { }

e u { }
i
e gdje je i i-ta odluka, a period
neodreen. Onda je 1 =
i
e ako doe do greke, odnosno 0 =
i
e ako se ne desi greka. Tada je
izraz za MK estimator oblika:

=
=
N
i
i
e
N
p
1
1


(6.17)

Kako je p e E
i
= ) ( , jasno je da je p p E = ) ( , dakle MK estimator je neizmjenjen. Varijansa
p je



2 2 2
) ( ) ( p p E p =

(6.18)
Kako je p p E = ) ( , to moemo izraziti ) (
2
p E kao:

= + =
+ =
1
1 1
2
2
2
) (
N
i
N
i j
ij
p p
N N
p
p E

(6.19)

gdje je

p
ij
= [e
j
= 1 e
i
= 1, j > i]

(6.20)
Za nezavisne greke je p
ij
=p za svako i,j. Obzirom da postoje lanovi
2
2
N N
u dvostrukoj
sumi, oni se dodaju u
2 2 2 2
) / 1 1 ( 2 / ) )( / 2 ( p N p N N N = . Uvrtavajui ovaj rezultat u izraz
(6.19), a zatim u (6.18) dolazimo do standardnog rezultata (uz uslov q = 1 - p)


N
pq
p p
N N
p
N
p
p = = = ) 1 (
1
) (
2
2


(6.21)

Ukoliko elimo da odredimo uestanost greke odreenog simbola, recimo simbola j,
estimator


j j j
N n p / = (6.22)

nema karakter srednje vrijednosti procjene jer je za dato N, N
j
sluajno. Meutim, estimator
ostaje nedeformisan, dakle
j j
p p E = ) ( , te je takoe mogue neposredno pokazati da je
(uslovna) varijansa odreena sa:


|
|

\
|
=
j
j j j
N
E p p p
1
) ( ) (
2 2

(6.23)
lan
|
|

\
|
j
N
E
1
zapravo ne postoji ukloiko ne iskljuimo N
j
= 0, to ima smisla, jer inae
neemo imati stvarnu procjenu (razliitu od nule). Ukoliko uvrstimo ovaj uslov, tada
0
1
>
j
j
N
N
E ima oblik prikazan na slici 6.3. Moemo primjetiti, da je ak i za razliite
vrijednost N, ali vee od 100, ova funkcija dobro aproksimirana sa N
j
/ 1 . Ovo znai da se
estimator za p
j
sutinski ponaa kao MK estimator.



Slika 6.3 Vrijednosti 0
1
>

j j
N N E (gornja kriva) i
1
) (

N
j
(donja kriva)
funkcije od N za 25 , 0 =
j



Varijansa, ili preciznije njen kvadratni korjen, standardne devijacije estimatora, prua nam
mogunost procjene pouzdanosti estimatora. Pogodan nain procjene je pomou
normalizovane standardne greke, ili kako je jo zovemo relativne preciznosti


2
1
) ( / ) 1 ( / ) ( ) (

= = Np N p p p p
p


(6.24)

Gdje aproksimacija 1 1 p vai za gotovo svaki realan sluaj. Generalno govorei,
zahtijevamo da bude mali broj. Zbog ovoga, za datu frakcionalnu greku vidimo da je
zahtjev za opaanjem dat sa:


p
N
2
1

=

(6.25)

koji nam daje osjeaj o broju simbola koje treba procesirati i samim tim spoznaju o
potrebnom proraunu.

Napomena. Prethodne jednaine, na primjer jednaina (6.25) koje zavise od
poznavanja uestanosti greke, ne mogu biti koritene u stvarnim sluajevima za
procjenu , jer p zahtijeva kvantitet. U praksi, moemo procijeniti iz samih
momenata uzoraka ili grubom procjenom, koritenjem p umjesto p, ili procjenom
) (
2
p iz varijanse uzoraka ) (
2
p s , kako slijedi. Podijelimo sekvencu greaka u K
podsekvenci { },
jk
e J j ,..., 2 , 1 = i K k ,..., 2 , 1 = takvih da je N JK = . Definiimo

=
=
J
j
jk k
e J p
1
) / 1 ( kao prosjenu uestanost greke za k-tu podsekvencu i ukupnu
srednju vrijednost kao

=
=
K
k
k
p K p
1
) / 1 ( . Tada je

=
K
k
k
p p
K
p s
1
2 2
) (
1
1
) (
1.4. Efekat zavisnih greaka


Do sada smo pretpostavljali da se greke generiu nezavisno. Ovo je razumna pretpostavka u
nekim sluajevima, ali ne u svim. Zavisnost moe nastati iz raliitih razloga, na primjer zbog
filtriranja ili iezavanja. Forma srednje uestanosti greaka estimatora p je i dalje opisana
izrazima (6.7) ili (6.17). U oba izraza estimator je neizmjenjen. Raspodjela estimatora je
povezana sa nainom na koji se sama zavisnost manifestuje. Dakle, potreban nam je
specifian model zavisnosti greaka kako bi mogli izraunati interval povjerljivosti ili
varijansu estimatora. Ovakav model moe biti neka hipotetika zavisnost izmeu greaka
izvedena iz nekog oblika sistema sa konanim brojem stanja. Za nae potrebe emo odabrati
jednostavan model koji nam daje sutinu zakljuka: da je za zavisne greke potrebno
posmatrati vie simbola u datom intrvalu povjerljivosti. U modelu koji emo prikazati,
pretpostavili smo da se dogaaj greke uvijek sastoji od skupa od 1 + m greaka (jednostavan
primjer ovog sluaja jeste da kada se desi 1 = m podaci su dekodirani drugaije). Bitno je
primjetiti da ukoliko podijelimo sekvencu koja se prenosi u m-bitne bajte, prethodna
razmatranja se mogu primjeniti, ali se sada svaki bit posmatra odvojeno i bitske greke su
nezavisne. Dakle, za datu pouzdanost, duina simulacije mjerena u bitima je sada m puta
dua. Pretpostavimo sada da smo zainteresirani za bisku uestanos greke i traimo varijansu
procjene vjerovatnoe greke bita. Moemo primjeniti jednaine (6.17) (6.20) i pod
navedenim pretpostavkama moemo pisati





1 =
ij
p m i i i j + + + = ,..., 2 , 1
p p
ij
= m i j + > (nezavisnost)

(6.26)
U dvostrukoj sumi u izrazu (6.9) postoji 2 / ) 1 ( + m m Nm lanova za koje je m i j + > .
Koristei ovu injenicu i izraz (6.26), dobijamo izraz za varijansu estimatora


(

+
+ =
N
m m
m
N
pq
p
) 1 (
2 1 ) (
2

(6.27)

I obzirom da je uglavnom m N >> , ovaj izraz moemo pisati u obliku


) 2 1 (
1
) (
2
m pq
N
p +
(6.28)

Poredei ovaj rezultat sa (6.21) vidimo da je varijansa grubo poveana faktorom ) 2 1 ( m + , to
je blizu onog to smo oekivali. Dakle, zavisne greke obezbjeuju manje informacija, to je
jasno; meutim ukoliko imamo kanal za koji je poznato ili se prepostavlja da daje zavisne
greke, dati broj posmatranja nee dati tako pouzdan interval povjerljivosti. Korisnik
simulacije ovo treba imati na umu.


1.5. Sekvencijalna procjena


U prethodnim poglavljima smo implicitno pretpostavili da je duina simulacije fiksirana i
jednaka posmatranju N simbola. Pouzdanost estimatora nije toliko povezana sa samim N
koliko sa brojem uoenih dogaaja greke u toku simulacije. Dakle, alternativna strategija
simulacije bi bila da izvodimo simulaciju onoliko dugo dok se ne uoi n greaka, gdje je n
prethodno odreeno. Ovo se naziva sekvencijalnom procedurom, kojom se upravlja pomou
pravila za zaustavljanje, u naem sluaju pravilo jednostavno znai da e izvoenje prestati
kad se uoi n-ta greka. Jasno je, dakle, da u ovom sluaju, n vie nije binomijalno
rasporeeno, ve moe imati samo odabranu vrijednost, dok je N sluajna vrijednost. Moe
se pokazati da je neizmjenjeni estimator uestanosti greke, p, dat sa


1
1

=
N
n
p

(6.29)

i da je varijansa tog estimatora data sa

|
|

\
| +
=
1
2 2
) 1 (
1
) (
j
p
j
j n
p p
(6.30)

Generalno govorei, nas interesuju relativno male uestanosti greke. Odgovarajua
aproksimacija bi stoga, ukoliko usvojimo ograniavajuu vrijednost iz (6.30), trebala dati
rezultat p . Ipak, kako smo to i naglasili ranije, znaajnije je izmjeriti varijabilnost koja
odgovara pravoj vrijednosti. Zbog toga, za n > 2 vrijedi


) 2 /( 1 / ) ( lim
2 2
=

n p p
p


(6.31a)

ili u ovim granicama, standardna greka je jednaka


2 / 1 ) ( = n p
(6.31b)

Vidimo da je za veliki broj greaka, grubo ekvivalentna u sekvencijalnim i MK
sluajevima, jer je na kraju
p
N / 1 = i za dovoljno veliko N, n Np .


1.6. Procjena mjere intervala


Do sada smo razmatrali mjere preformansi koje pokazuju srednju uestanost dogaaja greke.
Kao to smo ve naglasili, ovakve prosjene mjere ne moraju dati previe podataka da li je
relativna uestanost greke na intervalima koji su operativno znaajni dosta varirala, to moe
biti sluaj u, na primjer, oblasti prijema signala. Zbog ovoga, za uopenije kanale, opis
mehanizma detekcije greke na znaajnim intervalima je poeljan. Zbog oitih razloga, ove
mjere emo nazvati mjerama intervala. Poetni korak za definisanje ovakvih mjera je
sekvenca greke { }
i
e koju smo ve identifikovali, ili uopenije, neku sekvencu (iji izlaz ne
mora obevezno imati samo dvije vrijednosti), koju emo oznaiti sa { }
N
O O O O ,..., ,
2 1
= , a
posmatranja moemo vriti na izlaznom prostoru ) ,..., , (
2 1 m
o o o o = , koji opet moe biti
generalno definisan. Moe se odnositi na, na primjer, sekvencu greke koju smo ve
pomenuli, detekciju napona sa mekim odluivanjem, kanale sa fedingom, i tako dalje.

Kada nam je dato O, postoje dva pristupa u koritenju ove informacije, koje oznaavamo kao
generativni i opisni. Prvi, kao to moemo zakljuiti iz naziva, ukljuuje konstrukciju modela
koji moe biti koriten iskljuivo za generisanje sekvenci koje su tipini predstavnici kanala.
Ne postoji generalno jedinstven model, ali postoji mnotvo moguih modela koji e vie ili
manje odgovarati posmatranju. Veina modela se zasniva na nekoj vrsti pretpostavljene
Markovljeve strukture, najvie zbog relativne jednostavnosti Markovljevih modela da
predstave zavisnost izmeu dogaaja. Najuobiajeniji modeli su skriveni Markovljevi
modeli. Opisni modeli su po prirodi statistiki i ukljuuju kreiranje razliitih tipova statistike
(raspodjela) iz posmatrane sekvence. Ova dva pomenuta pristupa imaju odreeni stepen
preklapanja iz ije statistike moemo iznai princip generativnog modela.


1.6.1. Generativni model


Iz posmatrane sekvence moemo izvui skriveni Markovljev model koji daje najbolje
objanjenje o tome ta je vieno. Standardna aplikacija ovakvih modela jeste da generiu
tipine sekvence greke koje mogu biti dodane informacijskoj sekvenci, a rezultat se
uitava u izlazne ureaje za obradu, na primjer, dekodere. Prednost ovakve metodologije
modeliranja jeste ta da ne moramo vie da radimo sa analognim procesima i mnotvom
impliciranih uzoraka po simbolu, niti sa proraunom efekata svakog ureaja koji procesiraju
ove talase. (Ali, da bi imali ovakav model, neophodno je da obavimo sveobuhvatne
simulacije talasa.) U principu, bilo koji statistiki interval tada moe biti izdvojen jer skriveni
Markovljev model daje kompletan opis mehanizma. Kao primjer, prikazeemo vezu izmeu
skrivenog Markovljevog modela i ) , ( n m F , vjerovatnou od m ili manju u bloku od n
simbola. K-stanje skrivenog Markovljevog modela je djelimino opisano vektorom
vjerovatnoe poetnih stanja

) ,..., , (
2 1 K
=

i stacionarnim stanjem prelazne matrice vjerovatnoe P,


|
|
|

\
|
=
KK
N
K K
p
p
p
p
p
p
P

1
2
12
1
11

(6.32)

gdje je
ij
p vjerovatnoa da e nastupiti stanje j ukoliko je trenutno stanje i. Svako stanje e
zasebno biti opisano izlaznom vjerovatnoom prelazne matrice koje predstavlja vjerovatnoe
povezane sa izlazom u bilo kom trenutku. Za nae potrebe, pogodno je definisati ovu matricu
u formi koja zavisi od ulaznih simbola u korespodenciji sa vremenom posmatranja. Zbog
toga, definemo matricu ) (
l r
o B iji je element (k, l) definisan sa


r t t l t l kr
a A k X o O P o b = = = = , ) (
(6.33)

gdje X predstavlja varijablu stanja, A ={ }
L
a a ,...,
1
je alfabet ulaznih simbola, a { }
t
A je ulazna
sekvenca izvuena iz A. Sada moemo konstruisati matricu ) (
l r
o Q iji element (i, j)


i X a A o O j X P o Q
t r t l t t l
r
ij
= = = = =
+ + +
, , ) (
1 1 1

(6.34)

daje vjerovatnou da e iz stanja i u trenutku t, proces ii u stanje j u trenutku t+1, ulazni
simbol je a
r
a posmatramo o
l
. Iz izraza (6.33) i definicije
ij
p slijedi


|
|
|

\
|
=
) ( ) (
) ( ) (
) (
1 1
1 1 11
l Kr KK l r K
l Kr K l r
l r
o b p o b p
o b p o b p
o Q

(6.35a)
ili, ekvivalentno,

=
=
K
i
l i i l r
o b PE o Q
1
) ( ) (

(6.35b)
gdje je
i
t
i i
E = ,a
i
je i-ti bazni vektor koji ima K komponenti (0, 0, , 1, 0, , 0) u kom
se 1 nalazi na i-toj koordinati, a sve ostale vrijednosti su nula. Za odreenu sekvencu
posmatranja O, duine n moemo pisati

=
= = =
n
i
i r rn n r
O Q a A a A O P
i
1
1 1
1 ) ( ,...,

gdje je 1 vektor K kolona, a O
i
je odreeni element od o. Kao to moemo vidjeti,
vjerovatnoa da e nastupiti odreena izlazna sekvenca u potpunosti zavisi od ulazne
sekvence. Za odreene definicije izlaza, ili pod uslovima odreene simetrije, zavisnost ulazne
sekvence moe nestati.

Na primjer, pretpostavimo da je O sekvenca greke za binarni simetrini kanal (u svakom
stanju) i definiimo teinu od O kao O, to oznaava broj uoenih greaka. Tada imamo,





=
=
m O
n
i
i
O Q n m F
1
1 ) ( ) , (

(6.36)
Praktinost prorauna izraza (6.36) e zavisiti od K, n i m jer su mnoenja n+K matrice
indicirana za svako O zadovoljavajui ogranienja teine i postoji

= |
|

\
| m
j
n
j
1
ovakvih
mogunosti. Direktan proraun izraza (6.36) e biti veoma zahtjevan, ali za ograniene
vrijednosti n, recimo 100 ili manje, te za male vrijednosti t, recimo 3 ili manje, proraun nije
toliko kompikovan. Mogue je izvesti efikasnije oblike izraza za P(m,n), ili ekvivalentno, za
F(m,n), barem u odreenim sluajevima skrivenog Markovljevov modela. Potrebno je jo
naglasiti, da je teko kvantifikovati tanost za F(m,n) (na primjer u sluaju varijanse
estimatora) jer je i skriveni Markovljev model sam po sebi samo priblian opis kanala.
Shodno ovome, kao to je pomenuto ranije, bolje je koristiti skriveni Markovljev model kao
generativni, nego kao opisni alat.


1.6.2. Opisni model


Opisni model ukljuuje, u sutini, kreiranje empirijskih raspodjela ili raspodjela vjerovatnoa
za datu posmatranu sekvencu. Ovo je dosta jasno, i praktino se sastoji samo od dodjeljivanja
posmatranja odgovarajuim blokovima. Iako su neobraena posmatranja predstavljena
simbolima, statistika koju treba prikupiti se zasniva na njihovom grupiranju. Postoji mnogo
naina da se ove informacije pripreme, ali mi emo se bazirati na prilino generalnom opisu
karaktera posmatrane sekvence, i to na raspodjeli viestrukih prekida prenosa (multigap
distributions). Pretpostaviemo da je posmatrana sekvenca sekvenca greke. Prvo treba da
definiemo prostor greke (prekid prenosa). Prostor greke G duine r je sekvenca greke
koja poinje sa 1 (greka) kojeg slijedi uzastopna sekvenca od r-1 nula (nema greke) i onda
opet slijedi jedinica. Drugim rijeima, ima r-1 uzastopnih nula ogranienih sa dvije jedinice.
Posmatrana sekvenca moe biti opisana kao lanac prekida. Prekid prenosa reda k, G
k
, je
sekvenca od k uzastopnih prekida prenosa. Odgovarajua raspodjela vjerovatnoa diskretnih
vrijednosti g(r, K), r k, je definisana kao vjerovatnoa da je k uzastopnih prekida jednako r.
Ova funkcija raspodjele diskretnih vrijednosti je izvediva pod odreenim uslovima. Na
primjer, za diskretni kanal bez memorije sa uestanou greke p, je dat sa


k r k
q p
k r
r
k r g

|
|

\
|

=
1
) , (
(6.37)

Srednja vrijednost i varijansa ove raspodjele su K/p i kq/p
2
, respektivno. Jednostruki prekid
(single-gap) funkcije raspodjele diskretnih vrijednosti, g(r,1) g(r) slijedi iz izraza (6.37) i
predstavlja dobro poznatu geometrijsku raspodjelu


1 , ) (
1
=

r pq r g
r

(6.38)

Funkcija raspodjele jednostrukih prekida, ukoliko bi je poznavali, bi nam mogla dati, na
primjer, p
ES
, vjerovatnou broja sekundi sa pogrekom. Ovo zani da je p
ES
jednostavno
jednako g(r) za r = R+1 sa brzinom prijenosa podataka u bitima/sekundi.

Raspodjela greke po blokovima P(m,n) je povezana sa raspodjelom viestrukih prekida kako
slijedi


[ ]

=
+ + =
1
1
) 1 , ( ) , ( 2 ) 1 , ( ) ( ) , (
n
m j
m j g m j g m j g j n p n m P

(6.39)
za n m 1 , uz ) ( ) 0 , ( j j g = . Vjerovatnoa greke bloka, je dalje, za t-kod ispravke greke
data sa


[ ]

+ = =
+ =
) 1 , ( ) , ( ) ( ) , ( ) , ( 1
1
t j g t j g j n p n m P n t F
n
t m

(6.40)
U dvije prethodne jednaine, p je srednja vrijednost uestanosti greke, to je takoe bolje
objanjeno u ovom kontekstu, kao reciprona vrijednost srednje vrijednosti duine trajanja
prekida jedne greke.

Naravno, kao to je reeno ranije, moemo napraviti histogram broja greaka u bloku od n
simbola za simulaciju dovoljne duine, iz koje bismo mogli izvesti vjerovatnou dostizanja t
greaka. Generalno, dosta je teko, odnosno proraunski zahtjevno, da dobijemo pouzdanu
procjenu, zbog nivoa potekoa koji zavisi od ciljane ispravke uestanosti greke i duine
bloka: duina simulacije raste sa duinom bloka i sa opadajuom uestanou greke.
Kodiranje se primjenjuje kako bi dobili relativno nisku uestanost greke, recimo najmanje
(ne vie od) u rangu od 10
-5
do 10
-6
. Ukoliko, na primjer, pretpostavimo na trenutak da su
greke blokova nezavisne (to nije tano u veini sluajeva) i da je vjerovatnoa da e se
desiti greka bloka p
blok
tada, po analogiji sa (6.41), za zahtijevani broj greaka bloka slijedi


blok
blok
p
N
2
1

=

(6.41)

a broj procesiranih simbola je n puta dui. Ne moemo pretpostaviti da e greka bloka nastati
nezavisno. Za datu pouzdanost procjene korelacija izmeu dogaaja greaka zahtijeva se vei
broj posmatranja. Zbog ovoga, vidimo da zahtijevano vrijeme moe lako postati zatieno.

Zbog veoma dugih simulacijskih sekvenci koje su openito potrebne, bilo bi korisno unositi
analitiki korisne zakljuke iz simulacija razumne duine. Najkorisniji zakljuak jeste da se
kanal ponaa otrilike kao nezavisni kanal greke. Onda je mogue izvesti bilo koji broj
statistika greaka. ak iako je kanal oito drugaiji, nekakav smisao razumnosti te
pretpostavke se moe osigurati ispitivanjem prostorne raspodjele prekida prenosa. Posebno,
varijansa G
k
daje naznaku stepena do kojeg mogu biti opravdane pretpostavke nezavisnosti ili
svojstva ponavljanja sekvence greke. Druga takva naznaka se daje funkcijom raspodjele
praznine prvoga reda, koji u idealnom sluaju ima geometrijsku raspodjelu: test ocjene
prilagoenja se takoe moe koristiti da bi se ustanovilo koliko je opravdana takva
pretpostavka.


1.6.3. Simulacija intervala


Spomenuli smo da se generativni model moe koristiti da bi se proizvela manje-vie tipina
sekvenca, to moe biti uraeno jednostavnim praenjem pravila vjerovatnoe modela za
prelaze stanja i za izlaze. Ovaj metod generie dva sluajna broja po izlazu. Opisne statistike
mogu takoe biti koritene za kreiranje tipine sekvence koristei tehniku koju nazivamo
simulacijom intervala, koja je znaajno efikasnija od koritenja generativnog modela. Da bi
ilustrirali ovu ideju, poeemo sa jednostavnim sluajem binarnog simetrinog kanala bez
memorije sa vjerovatnoom krianja (vjerovatnoom greke bita) p. Iz izraza (6.38),
raspodjela jednog prekida ima geometrijsku raspodjelu, jednaku
1 , ) (
1
=

r pq r g
r


Poznato nam je da moemo simulirati geomitrijsku sluajnu varijablu (u ovom sluaju
prekid r) iz formule

[ ] p r log / log 1 + =
(6.42)

Gdje kockaste zagrade oznaavaju cjelobrojnu vrijednost, a je uniformno rasporeena
cjelobrojna vrijednost na intervalu [ ] 1 , 0 . (Ovakav metod generisanja r je primjena
transformacijske tehnike inverzne vjerovatnoe.) Kako prekidi mogu biti dosta dugi i jedna
vrijednost generie jedan prekid, potencijal efikasnosti je jasan.