1.

- POLJE DOGADJAJA-Ishod
nekog opita zove se dogadjaj.Skup svih
mogucih dogadjaja zovemo skup
elementarnih dogadjaja I obelezavamo
sa .Def:kolekcija skupova (slucajnih
dogadjaja) se zove polje dogadjaja,a
uslovi koji treba da budu zadovoljeni:1.
2.ABAuB I AB
3. A Ao
-polje je zatvoreno u odnosu na
operaciju komplementiranja,kao I u
odnosu na prebrojive unije I preseke.

2.DEFINICIJE VEROVATNOCE
DOGADJAJA-Ako se dati dogadjaj A
moze razloziti na m takvih dogadjaja
za verovatnocu dogadjaja A (oznaka
p(A)) se uzima broj m/n.Ovo je tzv.
Klasicna definicija verovatnoce
dogadjaja.Verovatnoca izvesnog
dogadjaja je jednaka 1 kao I da je
verovatnoca nemoguceg dogadjaja
jednaka 0.Kako je za bilo koji slucajni
dogadjaj m<=n to je razlomak m/n
pravi razlomak pa je otuda verovatnoca
ma kog slucajnog dogadjaja neki broj
izmedju 0 I 1.Relativna frekvencija
dogadjaja A u n ponovljenih opita =
kolicnik n(A)/n.Uvecanjem broja n
(n) kolicnik n(A)/n sve vise
grupise oko fiksiranog broja p(A) koji
se onda zove verovatnoca dogadjaja A.
To je tzv. Statisticka definicija
verovatnoce dogadjaja A saglasno kojoj
je,dakle:p(A) = lim kada n tezi 0
n(A)/n.Postiji I Geometrijska
verovatnoca .Na oblast G slucajno pada
tacka I interesuje nas verovatnoca
padanja te tacke u neki deo oblasti G
koji je oznacen sa g.Pri tome trazrna
verovatnoce ne zavisi od oblika
podoblasti g vec iskljucivo od mere za
tu oblast.p(A)=mera g/mera G .

3.AKSIOMATSKO ZASNIVANJE
VEROVATNOCE-Definicija 3.1
Verovatnoca p je numericka f-ja
definisana nad -poljem dogadjaja
kaja zadovoljava sledece uslove
(aksiome):P1)nenegativnost: Svakom
slucajnom dogadjaju A iz polja
odgovara nenegativan broj p(A) koji se
zove verovatnoca dogadjaja A.
P2)normiranost:Verovatnoca sigurnog
dogadjaja je p()=1. P3) -aditivnost:
Ako je niz An dogadjaja iz takav da
je AiAj =0 za I nije = J onda je p(U.Ai)
= p(Ai) . (Kod sume ,U je I=1 I gore
besk.)!!!
P4)aditivnost: ako su Ai (I=1,2,n)
uzajamno disjunktni dogadjaji tada je
p(U.Ai) = p(Ai) . (Kod sume , U je
I=1 I gore n)!!!
Uredjena trojka (,,p) zove se prostor
verovatnoce.Iz definicije 3.1 slede neke
osnovne osobine verovat.:
a) P(0)=0 b) p(Ac)=1-p(A).

c) Ako je AB onda je p(A) <= p(B).d)

Za svaki A je 0<=p(A)<=1. e) p(A u
B) = p(A)+p(B)-p(AB).
f) p(A u B) <=p(A) + p(B).g)
neprekidnost f-je p Ako je niz dogdjaja
A1,A2,monotono neopadajuci,tj.
A1 A2 A3,onda je p(Uai) = lim
p(An).
(!!!).Na osnovu pojmova verovatnoce p
definisu se pojmovi skoro siguran I
skoro nemoguc dogadjaj: Ako je
p(A) = 1 kaze se da je dogadjaj skoro
siguran, ako je p(A) = 0 kaze se da je
dogadjaj skoro nemoguc.

4.USLOVNE VEROVATNOCEPotrebno je izracunati verovatnocu

dogadjaja A pod uslovom da se
realizovao dogadjaj B,cija je
verovatnoca pozitivna. Takve
verovatnoce zovemo uslovne,u oznaci
p(A/B) ili pb(A).Definicija 4.1. Neka je
(,,p) prostor verovatnoce , A I
p(A) > 0 tada je sa Pa(B) = p(B/A) =
p(AB)/P(A).Dogadjaj A je nezavistan
od dogadjaja B ako I samo ako je
Pa(B) = p(B) .U tom sl. Vazi p(AB) =
p(A)p(B) (pravilo mnozenja
verovatnoca).Osobine nezavisnih
dogadjaja: a)Proizvoljni dogadjaj A I
sigurni dogadjaj su nezavisni. b)
Proizvoljni dogadjaj A I nemoguci
dogadjaj 0 su nezavisni. c) Ako su
dogadjaji A I B nezavisni tada su to I
dogadjaji : 1) A I Bc ,2) Ac I B 3) Ac I Bc
d)Ako su A I B1 nezavisni ,a isto tako
I A I B2 ,gde je B1B2 = 0, tada su I A I
B1+B2 nezavisni.Odnos nezavisnosti I
disjunktnosti:1. A I B su nezavisni
onda nisu disjunktni , 2.Ako su A I B
disjunktni onda su oni
zavisni.Bajesova: p(Ai/B) = Pb(Ai) =
P(Ai)p(B/Ai) / p
5.NIZOVI NEZAVISNIH OPITANizovi nezavisnih dogadjaja se
ostvaruju prilikom ponavljanja jednog
istog opita u neizmenjenim
uslovima.U nizu od n ponovljenih
nezavisnih opita dogadjaj A se
realizovao m putato oznacavamo sa pn
(m).Kako je =(A,Acomp.), I =
(0,A,Acom., ) definisan je prostor
verovatnoce (,,p).Dekartov proizvod
skup mogucih ishoda za n
ponavljanja: n=xxx, a polje
dogadjaja n nad n je skup svih
podskupova skupa n.pn (m) = (n/m)
pm qn-m .

6.SLUCAJNE PROMENJIVEPovezivanjem prostora dogadjaja sa

skupom realnih brojeva dolazi se do
novog pojma slucajna
promenjiva.Slucajna promenjiva je
odredjena ako je poznat njen zakon
raspodele.Na osnovu zakona raspodele
se moze precizirati tip slucajne
promenjive.Slucajna promenjiva je

diskretnog tipa akko postoji prebrijiv

skup realnih brojeva Rx = (x1,x2,)
takav da je px(Rx) = p(X pripada Rx) =
1, a pri tome su poznate verovatnoce
p(xi) = p(X= xi),za svako xi prip.
Rx.Za ovakve sl. Pr. Zakon
verovatnoce ima oblik: X:(x1x2 x3 ),
p(xi)>=0 I p(xi) = 1.Slucajna
promenjiva je neprekidnog tipa akko
postoji funkcija (x)>=0 za
besk.<x<besk. Takva da je :
p(a<=x<=b) = integ. A do b
(x)dx.Funkcija (x) se zove gustina
raspodele verovatnoca slucajne
promenjive X.Skup (x1,x2,xn) = Rx
se zove skup mogucih vrednosti
(realizacija) slucajne promenjive
X.Kada je rec o neprekidnoj slucajnoj
promenljivoj onda se njena funkcija
rasposele F(x) moze,u opstem
slucaju,izraziti na sled nacin:F(x) =
p(X<x) = int. x do besk. DF(x).
7.VISEDIMENZIONALNE
SLUCAJNE PROMENJIVE
Moguce je posmatrati istovremeno n
(n>=2) razlicituh numerickih
karakteristika svakog ishoda. U tom
slucaju moze se govoriti o numerickoj
funkciji X koja preslikava u ndimenzionalni prostor Rn , tj. X:
Rn . Slucajni vector X = (X1,X2,Xn)
je definisan ako je data verovatnoca
p(XS), S Rn . Uredjena n-torka
(X1,X2,Xn) zove se I ndimenzionalna slucajna promenjiva
gde su X1,X2,,Xn slucajne
promenjive definisane na nekom
prostoru(,,p).Osobine f-je raspodele:
1.F je neopadajuca funkcija, 2.F(-,x,
xn) = F(x1,,- ,xn)=F(-,,)=0, 3. F(+,+) =1 , ali F(+,x2,
xn) ne mora biti 1.
8.F-JE SLUCAJNIH VELICINA
Pretpostavimo da je mogice da se
svakoj vrednosti sluc. prom. X pridruzi
neka vrednost sluc. prom. Y , tj. veza
Y=(X).
1.Ako je X diskretna sluc. promenljiva
a Y monotona f-ja tada razl.
vrednostima X odgovaraju razl.
vrednosti Y.
2.Ako Y=(X) nije monotona f-ja onda
se moze dogoditi da razl. vrednostima
X odgovaraju iste vrednosti za Y.
3.neka je sluc. prom. neprekidna sa
gustinom raspodele f(X) I da je f-ja
Y=(X) neprekidna I monotono
rastuca tada je f-ja raspodele
Y:G(X)=F((Y)-F(a),(Y) inverzna fja od Y=(X).
4.Ako je X sluc. prom. Neprekidnog
tipa sa gustinom f(X) I f-ja Y=(X)
neprkidna I monot. opadajuca onda
njena f-ja raspodele ima oblik
G(Y)=p(x<X<b)=F(b)-F((Y)).
9.NUMERICKE KARAKTERISTIKE
SLUCAJNIH PROMENJIVIH-Do
pojma matematicko ocekivanje
dolazimo na osnovu predstave o broju

oko koga se grupisu relativne

ucestalosti kada se broj opita
neograniceno uvecava.Oznaka za
matematicko ocekivanje je EX ili E(X),
tj. EX= k=1,gore n XkPk .Osobine
matematickog ocekivanja:1.Ako je
X=C, onda je I EX=EC=C, 2.E(aX+B)
= aEX +b ,ako su a I b konstante.
3.E(X-EX) = E(X- x) = 0 4. E(X+Y) =
EX+EY, I opstije, E(xi) = Exi . 5.
Ako su X I Y nezavisne slucajne
velicine onda je E(XY) = EX EY
.Obrnuto ne vazi!
Disperzija I standardna devijacija: daje
informaciju o rasturanju vrednosti te
velicine oko njenog matematickog
ocekivanja.Disperzija ili varijansa
(oznaka 2X ili samo 2). Standardna
devijacija().Osobine varijanse: 1) 2X
>= 0, 2X =0 akko je p(X=const) = 1.
2) 2 (X+c) = 2 X, c Const. 3) 2
(cX) = c2 2X ,c-cons. 4) Ako su X I Y
nezavisne ,tada je 2 (X+Y) = 2 X +
2 Y. 5)Funkcija g() = E(X-)2 ima
minimum za =EX.Koeficijent
korelacije se u primenama koristi kao
mera linearne zavisnosti dve slucajne
promenjive.
10.MERE CENTRALNE
TENDENCIJE-Kaze se da je neki
parametar mera srednje vrednosti
(mera centralne tendencije) slucajne
promenjive X ako njegova vrednost
zavisi od svih realizacija te promenjive
I ako se nalazi izmedju najmanje I
najvece vrednosti te
promenjive.Matematicko ocekivanje je
jedna takva mera.Za izracunavanje
matematickog ocekivanja se
pretpostavlja da su sve vrednosti iz
datog podintervala jednako verovatne
pa se uzima sredina podintervala kao
predstavnik vrednosti slucajne
promenjive koje su smestene u
datom podintervalu. Velicina: 1/nxii.
Geometrijaska sredina je poznata mera
centralne tendencije date slucajne
promenjive.Geometrijska sredina date
slucajne velicine je jednaka nuli
ukoliko ta slucajna promenjiva uzima I
vrednost 0, sto je nepovoljna osobina
ove mere.Harmonijska sredina ,oznaka
H(x) za datu prostu sl. Promenjivu X je
H(X) = 1 / ni= pi/xi .Kvantili
Kvantil reda p ,(o<p<1) ,jeste svako
resenje jednacine F(x) = p .Ako je F
neprekidna I monotona rastuca f-ja
onda je kvantil reda p jedinstveno
resenje jednacine F(x) = p, tj. X = F1
(p).Modus-je ona vrednost slucajne
promenjive ,oznak mo,za koju njena
gustina f(x) dostize maximum.Razmak
varijacije,t.j interval (xmin,xmax)
moze biti neka mera varijacije sl.pr. ali
se od nje dobija malo informacija o toj
velicini.U cilju uporedjivanja stepena
varijabilnosti razlicitih slucajnih
velicina definise se koeficijent
varijacije: V=/x puta 100.

11.CEBISEVLJEVA NEJEDNAKOSTSledece tvrdjenje je veoma znacajno za

teoriju verovatnoce:Ako slucajna
promenjiva ima EX2 tada za svako >
0 vazi: p( x >= ) =< EX2 / 2 .Nesto
drugacija formulacija Cebisevljeve
nejednakosti je: Neka je g(X)
nenegativna f-ja slucajne promenjive X
I neka za skup tacaka S vazi g(X) >=t
za svako xS (t>= 0).Tad je :p(xS)
<= Eg(X)/t . U primenama se srece
sledeca formulacija Cebisevljeve
nejednakosti : Ako slucajna promenjiva
X ima konacnu disperziju 2 X, onda je
p( X-x >=)>= 2 X / 2 ,odnosno
p( X-x <)> 1- 2 X / 2.
12.LINEARNE REGRESIJE-U paraksi
je cest slucaj da se na osnovu vrednosti
(ili ponasanja) jedne slucajne velicine
zakljucuje nesto o drugoj slucajnoj
velicini.Medjutim ako se velicine X I Y
posmatraju u realnim uslovima ,uvek
postoji deo zavisnosti izmedju njih koji
se ne moze obuhvatiti deterministickim
zakonom.Ako bi bio poznat zakon
raspodele za system slucajnih velicina
(x,y) onda bi se mogle odredjivati
uslovne verovatnoce u
diskretnom,odnosno uslovne velicine u
neprekidnom slucaju.Ako je zavisnost
medju velicinama samo delimicna
moze se govoriti samo o ocekivanoj
vezi izmedju X I Y.Funkcija y=R(x) se
zove regresija Y na X a njen
odgovarajuci grafik regresiona
kriva.Najbolja aproksimativna kriva
smatra se ona kod koje je greska
odstupanja najmanja.Metoda najmanjih
kvadrata koristi se za odredjivanje
pojedinih tipova aproksimativnih
krivih.Resavanjem sistema jednacina
EX2 + EX = E(XY) ,I EX + =
EY , od dve nepoznate alfa I beta
zamenom dobijenih resenja u izraz
y=x+ dolazi se do izraza za linearnu
regresiju Y na X: y= xy puta Y/x
puta (x-EX) + EY .
13. SLUCAJNI PROCESI Slucajni
process je Gausov process ukoliko su
slucajne promenjive normalno
rasporedjene.Proces(X(t),t(a,b)) je
process sa nezavisnim prirastajima ako
za ma koje t0<t1<t2tn; a<=to,b>=tn
Slucajne promenjive X(to),x(t1)-x(to),
,x(tn)-x(tn-1) su nezavisne ukoliko
raspodela za x(t1)-x(to) ne zavisi od
(to) I odredjena je samo duzinom
intervala t1-to,onda je process sa
nezavisnim prirastajima
homogen.Slucajan process je
stacioniran ako svaka konacna
kolekcija slucajnih promenjivih
x(t1),x(t2),,x(tn) ima istu funkciju
raspodele kao I kolekcija
x(t1+h),x(t2+h),x(tn+h) za svako
hR.Vinerovski
process:X(0)=1;E(X(t))=0;E(x(t2))= 2
(t) za svako t>0.

14.STATISTICKA METODAStatistika se definise kao skup metoda

za kvantitativno istrazivanje
pojava.Predmet njenog istrazivanja su
skupovi ciji su elementi medjusobno
slicni I povezani su nekom opstom
vezom (npr. Isto obelezje).U statistiku
spada sve sto je vezano za stvaranje I
koriscenje metoda za prikupljanje I
obradu podataka u cilju dolazenja do
odredjenih saznanja.Generalni skup
oznacimo sa , a njegove elemente sa
.Za ma koji se uocava
posmatrano obelezje X().X= X() je
sl. Velicina koja je potpuno odredjena
ukoliko je poznata njena f-ja raspodele
F(x).Pod stat. Exp. Se podrazumeva
registrovanje vrednosti obelezja X kod
nekog podskupa iz populacije.Pokazuje
se da se na osnovu registrovanih
vrednosti u uzorku sa n elemenata
moze pri velikom n, sa dosta velikom
tacnoscu ustanoviti nepoznata
raspodela odgovarajuce sl.
Prom.Slucajni uzorak je prost ukoliko
su sve promenjive X1,X2,,Xn
medjusobno nezavisne I sve imaju istu
f-ju raspodele F(x) kao I obelezje
populacije X.Empirijska f-ja raspodele:
F*n (x) = 1/n I (Xk<x) , xR.
Na osnovu empirijske f-je dolazimo do
uzorackih karakteristika kao sto su
obicni I centralni momenti.
15.TACKASTE OCENE
PARAMETARA-Jedan od znacajnijih
zadataka statistike sastoji se u tome da
se na osnovu sl. Uzorka uzetog iz
populacije sa obelezjem X koje ima
raspodelu F(x,) na neki nacin odredi
nepoznati parametar I time I
analiticki oblik f-je F(x,).Kada se radi
o oceni parametra da bi ocena
parametra bila dovoljno dobra uvode
se sledeci zahtevi: 1.Nepristrasnost
ocene. Dobijena ocena U parametra je
centrirana (nepristrasna) ako je E(U) =
. 2.Korektnost ocene. Ocena U je
asimptotski centrirana(korektna) ako
E(U) kada n tezi besk. Tj. Obim
uzorka neograniceno raste.
3.Konzistentnost ocene. Ocena u je
konzistentna ukoliko 2U = E(U-)2
0 kada n tezi besk..Za dobijanje tzv.
Tackastih ocena parametara cesto se
koristi metod maximalne
verodostojnosti.Broj za koji tzv. F-ja
verodostojnosti L(,x1,x2,xn) = L()
dostize maximum je ocena nepoznatog
parametra raspodele po metodu max
verodostojnosti.Oblik f-je L() je :
L() = p(x1, )p(x2, )p(xn, ) u
diskretnom I
L() = (x1, )(x2, )(xn , ) u
neprekidnom.Treba napomenuti da
primena metoda maximalne
verodostojnosti moze biti pracena sa
veoma glamuroznim izracunavanjima.
16.INTERVALNE OCENE
PARAMETARA-Ocena nepoznatog

parametra moze se vrsiti tako sto se na

osnovu slucajnog uzorka odredjuje
interval u kome se nalazi taj
parametar.Na osnovu realizovane
vrednosti uzorka (X1,X2,,Xn) se
mogu odrediti dva broja u1 I u2
(u1<u2) tako da se sa datom
verovatnocom 1- (nivo poverenja)
moze tvrditi da se nepoznati parametar
nalazi u intervalu(u1,u2).Sirina
intervala I nivo poverenja su u
suprotnom odnosu.Odredjivanje
intervalne ocene za parametre kod
normalne raspodele:
1.npr. poznato obelezje populacije ima
normalni raspored sa parametrima m I
pri cemu je poznato.Potrebno je da
se odredi interval poverenja za
nepoznato matematicko ocekivanje sa
nivoom poverenja 1-: p(m-t<X<
m+t) = p(-t<X-m/<t) = 2(t) , pa
dobijamo 2(t)=1-. 2.Ako je obelezje
norm. rasp. Sa nepoznatim
parametrima m I koristimo : t = Xnm/Sn puta n-1(pod korenom). 3.Uz
predpostavku da je obelez. Norm. ras.
Sa nepoznatim parametrima raspodele
moze se dobiti I intervalna ocena za
nepoznatu varijansu 2 populacije.
17.TESTIRANJE
STATIST.HIPOTEZA
Statisticka hipoteza je bilo koja
pretpostavka o tome da obelezje x
populacije ima raspodelu koja pripada
nekom podskupu skupa dopustivih
raspodela.
Nasuprot njoj je alternativna hipoteza :
Postavljanje neke hipoteze moze biti
pravilno ili nepravilno, pa se vrsi
postupak verifikovanja hipoteze.Taj
postupak se naziva statisticki test.
U postupku verifikacije mogu se javiti
dve vrste greske:
-greska prve vrste:da bude opovrgnuta
tacna hipoteza
-greska druge vrste:dabude prihvacena
netacna hipoteza.Za proveru hipoteza
koje se odnose na vrednosti
parametarau raspodeli koriste se
parametarski testovi.
18.ENTROPIJA
Signali i poruke, kao i sumovi u
komunikacionom sistemu imaju
statisticki karakter tj. pojavljuju se u
skladu sa odredjenom raspodelom
verovatnoca.
H(p1,p2,,pn)=-I=1 pi log2 pi
Velicina H(p1,p2,pn) je entropija
konacne raspodele
verovatnoce.Entropija je mera
neodredjenosti sistema u pogledu
prelaska u jedno od mogucih stanja.
Osobine:
1.H(1)=0
2.H(p1,p2,pn)ne vzavisi od
permutacije verovatnoca.
3.H(p1,p2,pn,0)=H(p1,p2,..pn)
4.H(1\n,1\n,,1\n)=log2 n
5.H(p, 1-p)=-p log p-(1-p) log(1-p).

20. IZVOR INFORMACIJE

Emitovanje znakova u datom izvoru
informacija je odredjen process koji se
zbiva tokom vremena na slucajan
nacin.Ako postoji prigodan broj m
takav da za njega I za km vazi svojstvo
stacionarnosti onda se takav izvor
informacija naziva periodican.Lim
Hn=kada n tezi besk. = H<beskon.
H>=0 je entropija datog diskretnog
izvora informacija I predstavlja srednju
informaciju koju nosi pojedini signal
emitovan iz takvog izvora informacija.
Izvor bez memorije:emitovani signal u
sadasnjem vremenu stohasticki ne
zavisi od predhodnog emitovanog
signala.Entropija bez izvora
memorije:H= pi log pi.Markovljev
izvor:Ovde se predstavlja da diskretan
izvor (A,p) poseduje odredjenu
memoriju,verovatnoca emitovanja
pojedinog signala zavisi od predhodno
emitovanih signala.
22.LANCI MARKOVA
Ovo je posebna vrsta slucajnih
procesa.Neka su A1,A2,;Ai=
ishodi nekog opita.Ai je ishod koji se
realizuje u n-tom po redu ponovljenom
opitu n=1,2Niz opita cini
Markovljev lanac ako za proizvoljne
r,n,kiN,n>k2>k3>>kr I proizvoljne
dogadjaje iz skupa svih mogucih
ishoda vazi: p(Ai na n,Ail na ki,,Air
na kr)=p(Ai na n/Ail na ki).
Tumacenje samo bliska proslostima
uticaja na realizovanje dogadjaja u
narednom ponovljenom opitu.
Verovatnoca:
pij(n,m)=p(Xm=xj/Xn=xi), 0<=n<=m
zove se verovatnoca prelaza sistema iz
stanja xi u trenutku n u stanje xj u
trenutku m.Ako pij(n,m) kao f-ja od m
I n zavisi samo od m-n, onda je to
homogen Markovljev lanac.
23.KOMUNIKACIONI KANAL-BSK
Na svom putu signali su izlozeni
smetnjama sto moze rezultirati time da
izlazni signal nije obavezno kao
ulazni.Diskretni komunikacioni kanal
(U,p,S,V) sa ulaznom azbukom
U=(1,2,u), izlaznom azbukom
V=(1,2,,v) I skupom stanja S
odredjen je ako za svaki nN ,svako
sS I svaki xUn zadata raspodela
verovatnoce p(./(x,s)) tako da je: p(y/
(x,s))>= 0 za svaki yVn ,p(y/(x,s))
= 1.
Ako je stanje kanala odredjeno samo
na osnovu prethodno prenosenih
signala,onda se kaze da kanal ima
odredjenu memoriju.Ako za svaki nN
I svake xUn I yVn vazi
p(y/x)=p((b1,b2,,bn)/(a1,a2,
an))=p(b1/a1)p(b2/a2)p(bn/an), onda
se dobijeni diskretni komunikacioni
kanal naziva stacionarni kanal bez
memorija I oznacava sa (U,,V), a
se zove matrica kanala. C= max I(X,Y)
zove se kapacitet ili propusna moc
datog diskretnog kanala bez memorije.

24.KODER I DEKODER UZ
KOMUNIKACIONI KANAL
Za odredjeno vreme izvor generise
odredjeni niz poruka koje se u koderu
izvora kodiraju u odgovarajuci niz
simbola kodne azbuke B, tako da u
koder kanala dolazi m-clani niz zB
koji se kodira U n-clani niz xUn .
Procesi kodiranja I dekodiranja se
mogu opisati odredjenim fjama.Funkcija h se definise tako da
bude injektivno preslikavanje iz skupa
Bm u skup Un .Definise se f-ja : g: Vn
M koja se zove sema odlucivanja I
pri tome se pazi da se ona odredi tako
da se sto vise smanji uticaj
smetnji.Odredjeni n-clani nizovi
simbola,koji se podvrgavaju procesu
kodiranja I dekodiranja,zovu se blokkodovi.Sa tim u vezi definise se
velicina: R = lnk/n , gde je k-broj svih
mogucih poruka koje dolaze u koder
kanala.Velicina R se zove koeficijent
prenosa ili brzina prenosa datog blokkoda.Potrebno je da se pronadju uslovi
koje zadovoljavaju koder I decoder pa
da signal prenese kroz kanal svu
informaciju koju je preuzeo od izvora I
to sa verovatnocom bliskom
jedinici.Teorema 7.0.1
Ako je dat diskretni kanal bez
memorije kapaciteta C>0 I realan broj
R (0<R<C), onda postoji blok-kod
(n,k) I sema odlucivanja g.To znaci da
je moguce konstruisati koder I decoder
tako da n tezi beskonacnosti , a da maksimalna greska pri prenosu
pojedinog n-clanog niza
signala,eksponencijalno tezi ka nuli.