UVOD

Tumaenje pojma informacija:

Pored analize same informacije njene prirode i nastanka, nama je vaniji
prijenos informacija posredstvom nekog signala od neke toke A (izvor
informacija) do neke druge toke B (odredite). Potrebno je to vjernije
prenijeti informaciju od toke A do toke B.
Izvorna informacija se najee konvertira (pretvara) u neki signal (analogni ili
digitalni elektrini, optiki itd.) koji se preko komunikacijskih sustava prenosi
od toke A do toke B. (govor, neposredni govor, telekomunikacije, glazba:
snimanje glazbe i reprodukcija).
Kod analize ove materije se otvaraju mnoga pitanja: teorija signala i sustava,
prometni modeli i teorija ekanja (posluivanja), ulazno izlazni modeli, koncepti
kodiranja, zatita, detekcija, smetnje, itd. To su metodoloke osnove koje se
primjenjuju u podruju komunikacija.
Jednostavan blok prikaz sustava za prijenos informacija od toke do toke (point
to-point) u kojem ukljuujemo i zatitno kodiranje bi bio slijedei.
Izvor
PREDAJNIK

PRIJAMNIK

Odredite

PRIJENOS

UM

Npr. govornik pria pa zbog uma pojaa svoj glas ili pak ponavlja ono to je
rekao. To bi bilo zatitno kodiranje kod obinog razgovora. Istu logiku
primjenjujemo i kod telekomunikacijskih i informacijskih sustava. (opisati
GSM)
IZVOR
INFO.

PRIJENOS

KODER
IZVORA

ZATIT
NI
KODER

DEMO
DULA
TOR
SL.1

ZATITNI
DEKODER

MODULA
TOR

PRIJAMNI
DEKODER

PRIJENOS

KORISNIK
INFORMAC
IJA

Blok shema sustava za prijenos informacija

Isti ovakav model (bez modulacije) moe se koristiti kod pohrane signala ako se
prijenosni kanal zamjeni s medijem u koji pohranjujemo informaciju. (diskete,
kazete, itd)
1

Ako je koder binaran tada iz kodera izvora dobijemo sekvencu binarnih simbola
(bita).
Zatitnim koderom titimo informaciju tako to unosimo redundanciju
(informacijsku suvinost) tj. dodatak (viak) informacija. Dekoder u prijamniku
moe ovisno od naina i koliine uneene redundancije u predajniku izvriti
otkrivanje i eventualno korekciju greaka nastalih postupkom obrade,
arhiviranja ili prijenosa informacija.
Prijamni dekoder (rekonvertor) transformira digitalni signal iz zatitnog
dekodera u onaj fizikalni oblik koji odgovara korisniku informacija.
(Koteljnikov, enonova teorema)
U ivotu svakodnevno koristimo zatitno kodiranje informacija:
Sam na jezik obiluje redundancijom te emo stoga bez problema rekonstruirati
originalni tekst i ako je otiskano pogreno odreen broj slova (znakova) u tekstu
ili ako ak neka slova nedostaju.
To isto vrijedi i kod razgovora, npr kad malo dijete kae: zedan sam ocu majo
coka. Takoer kod prijama akustikog signala uz prisutnost buke prirodno se
podie na prag ujnosti (efekat maskiranja).
Procjena je da je redundancija hrvatskog i engleskog jezika oko 80%. To znai
da svaki simbol jezika nosi 20% informacije u informacijskom smislu. S druge
strane, postojea redundancija omoguava uspjean prijenos uz nazonost
relativno visoke razine smetnji.
Samu informaciju treba promatrati s razliitih stajalita. Prepoznatljivi su
slijedei oblici:
-sintaktiki
-semantiki
-pragmatiki (npr.rat uzbuna)
-estetski
Pregledom nekih elementarnih kodova ilustrirat emo otkrivanje ili otkrivanje i
korekciju greaka.
PRIMJER 1 razmotrimo prijenos informacija preko binarnog simetrinog kanala
bez memorije.

Moemo ga modelirati

1-p
1

1
p

Izvor
(0,1)

p
0

0
1-p

izvor

kanal

odredite

Za dati model pretpostavimo vjerojatnost pogreke p (p<1/2). Sa slike je vidljivo

da je vjerojatnost pogreke na odreditu (prijamniku), (poslata 1 detektirana
0 i obrnuto), jednaka p.
Razmotrimo sada mogunost smanjivanja vjerojatnosti pogreke ako svaku 1
i svaku 0 uzastopno ponavljamo n=2n0+1 puta. (n0 cijeli broj). Ako sad
usvojimo da je npr. n0=1 pa je n=3 tada je za dvije odaslane poruke: 111 i
000, uslijed kanalskih greaka, mogue na odreditu dobiti osam razliitih
poruka.
111 kanal

111, 110, 101, 011

000 kanal

000, 001, 010, 100

Zatitni
dekoder

1
0

Logino se namee detekcija na bazi veinske logike odluivanja. Na ovaj nain

smo izvrili detektiranje i korigiranje jednostrukuh pogreki, te smanjili ukupnu
vjerojatnost pogreke. Takoer je jasno da emo za dvostruke i trostruke
pogreke u datim nizovina 111 i 000 imati pogeno dekodiranu poruku.
Meutim, sa sigurnou zakljuujemo da je vjerojatnost pogreke na prijamu
manja nego kod prijenosa bez ponavljanja, i iznosi:

 n k kn
p,n p (1 p)
k 0 k
n0

U tabeli 1 prikazano je nekoliko rezultata za razne vrijednosti n uz p=0,1

n
p,n

1
0,1

3
2,8 10-2

5
8,5 10-3

7
2,7 10-3

9
8,7 10-4

11
3 10-4

Iz tabele 1 jasno vidimo smanjivanje vjerojatnosti pogreke sukladno poveanju

duine kodne rijei. Meutim to poveavanje duine kodne rijei doprinosi
smanjivanju brzine prijenosa informacija.
Brzina odailjanja poruka je:
Rv

ldM
n

(bit/s)

v transmisijska brzina u binarnom kanalu

M broj poruka
n ukupan broj bita kojim kodiramo poruku
Pretpostavimo da je transmisijska brzina konstantna, i da je
ldM
R
n

v=1 (bit/s) pa je

(shannon/s)

U naem primjeru 1 imali smo M=2 i ako je p(1)=p(0)=1/2 imamo ldM=ld2=1 te

imamo:
n
p
i R
Kako je u naem primjer M=2 (dvije poruke) to e od n bita samo 1 bit nositi
informaciju, a ostalih (n-1) bita su suvini u informacijskom smislu. Meutim
vidjeli smo da ti redundantni biti osiguravaju detektiranje i korigiranje
pogreaka odnosno smanjivanje vjerojatnosti pogreke u prijenosu informacija.
Kod zatitnog kodiranja teimo sa to manjom redundancijom postii potrebitu
pouzdanost.
Primjer 2. (Kodovi s konstantnim brojem jedinica ili konstantnom omjerom
nula i jedinica)
Za predstavljanje dekadskih znamenki nekad se koristio binarni kod dva od
pet, prikazan u tabeli 2.
Dekadske
0
1
2
3
4
5
6
7
8
9
cifre

Kod

00011 00101 00110

01001 01010 01100

10001 10010 10100 11000

dva od
pet

Na ovaj nain moemo kodirati 10 rijei

5
10
2

, budui da je ukupan broj

kombinacija za kodne rijei duine n s n1 jedinica odnosno (n-n1) nula

n

n1

Ovakvi kodovi uinkoviti su kod pojave nesimetrinih pogreki tj. kad je

vjerojatnost prelaska 0 u 1 znato vea od pogreke tipa 1 u 0 ili
obrnuto.
Kodovi s parnim brojem 1 ili 0 su najjednostavniji kodovi za detektiranje
pogreaka. Tako sa kodom (x1, x2, x3, , xn-1) duine kodne rijei (n-1) moemo
predoiti maksimalno 2n-1 kodnih rijei. Ako proirimo kodnu rije sa dodatnim
n-tim paritetnim bitom dobijemo kodnu rije duine n-bita (x1, x2, , xn-1, xn ).
xn = x1+ x2+ x3+ + xn-1
(*)
gdje znak + odgovara zbrajanju po modu 2 bez prijenosa. Primjenom jednadbe
(*) svaka kodna rije (x1, x2, x3, , xn-1,xn) uvijek sadri paran broj jedinica.
Ugraena zakonitost (paritet) osigurava otkrivanje svih jednostrukih, trostrukih,
peterostrukih itd. pogreaka.
OSNOVNI PARAMETRI ZATITNIH KODOVA
Neka je Vn skup svih nizova duine n koji su nastali nizanjem znamenki iz skupa
V1 ija je sintaksa (broj kodnih znamenki) jednaka broju q. Ako je kod binaran
tad je q=2 tj. skup V1=(0, 1) i moemo nainiti 2n razliitih nizova (x1, x2, x3, ,
xn-1,xn) iz Vn.
Zbroj elemenata (A+B) iz skupa Vn gdje su A=(a1, a2, , an-1, an ) i B=(b1, b2, ,
bn-1, bn ) je C=(a1+ b1, a2+ b2, , an-1+bn-1, an+bn) i C je takoer element skupa Vn.
Neutralni element skupa Vn je niz od n nula (0,0,,0,0).
Hammingovo rastojanje izmeu nizova A i B d(A,B), definiramo kao broj
parova (ai, bi ) za koje vrijedi ai bi. Minimalnu vrijednost Hammingovog
rastojanja izmeu svih rijei nekog koda zovemo minimalno rastojanje d 0.
moemo rei da d0 odreuje razliitost izmeu kodnih rijei.

Teinom kodne rijei w(A) (vektor A iz Vn) nazivamo broj nenultih znamenki u
rijei A. Kod linearnih kodova vrijedi wmin=d0.
Ravnomjerni kodovi su oni kodovi kod kojih su sve kodne rijei jednake duine
i koriste se u tehnici digitalnog prijenosa i obrade informacija. Neravnomjerni
kodovi se koriste kod statistikog kodiranja (Fano, Huffman).
Blok kodovi su ravnomjerni kodovi kod kojih za sve kodne rijei vrijedi n=ni+nk,
STAV 1: Potrebit i dovoljan uvjet da kod moe korigirati t-struke i manje
pogreke je da za sve kodne rijei iz koda C vrijedi d0>2t+1
Za detektiranje (otkrivanje) t-strukih i manjih od t pogreaka potrebito je
zadovoljiti uvjet
d0>t+1.
Takoer, kod blok kodova bitne su relacije izmeu broja kontrolnih bita n k,
informacijskih bita ni, i minimalnog rastojanja d0. Omjer izmeu
informacijskih i kontrolnih bitova je
2 nk n 1

n= ni+nk,

ili

2 ni

2n
n 1

Jasno je da je broj moguih jednostrukih pogreaka

n
1
1

to znai da je sa nk bita potrebno osigurati n poruka za pojavu pogreke na

svakoj od n moguih pozicija i jo jednu poruku kad u kodnoj rijei nije nastala
pogreka.
Za odreivanje optimalnog broja nk za dato ni i d0 postoji vie postupaka
(Hamming, Plotkin, Alias, Hilbert-Varamov, itd. )
Da bismo osigurali korekciju t-strukih pogreaka, tada broj kontrolnih bita u
kodnoj rijei mora zadovoljiti nejednadbu:

nk nn n
12 . .
21 t
takoer moemo zakljuiti da bolji (vri) kodovi imaju vee minimalno
rastojanje d0.
Primjer: Odrediti vrijednosti: n, ni i nk za blok kod kojim treba prenijeti 100
razliitih poruka sa minimalnim rastojanjem d0=3.
Za kodiranje 100 razliitih poruka treba zadovoljiti uvjet:
2 ni 100... pa.. je..ni 7

Iz jednadbi

2 nk n 1

ili

2 ni

2n
n 1

2 nk n 1..slijedi..n k 4
2 4 ( 7 4) 1

ni =7, nk = 4,

n=11

GENERIRAJUA MATRICA I MATRICA PROVJERE LINEARNOG

KODA
Za definiranje linearnih kodova koristimo generator-matricu G. Npr. Binarni kod
(40,20) sadri 220>106 kodnih rijei (vektora) a moemo ih jednostavno definirati
pomou matrice G oblika 20x40.
Kod opisivanja postupka zatitnog dekodiranja bitna je matrica provjere H. Za
sve kodne rijei koda C (A iz C) vrijedi:
A HT=0 (nul vektor 1x nk) ili

HAT=0

(nul vektor nk x 1) (**)

H matrica provjere nk x n
AT prijamna kodna rije na ulazu u zatitni dekoder
(vektor n x 1)
0 nul matrica oblika (nk x 1)
budui da je rang matrice H jednak nk, gdje je: to se ona moe svesti na oblik:
H 0 PI nk

Ink jedinina matrica oblika (nk x nk)

P matrica pariteta oblika (nk x ni )
Kako smo matricu H0 dobili iz matrice H jasno je da je i H 0 takoer matrica
provjere koda C i vrijedi:
A HT=0 ili HAT=0 A H0T =0 ili H0 AT=0 (A iz C)
Kako je svaki kodni vektor linearna kombinacija generator-matrice G onda
vrijedi:
G HT=0 HGT=0T
G matrica oblika (ni x nk)
0 nul matrica oblika (nk x ni )
STAV:
Ako je matrica provjere linearnog koda C(n,n i) dana u obliku H0
tada je generirajua matrica oblika:
G G0 I ni P T gdje je:
Ini jedinina matrica oblika (ni x ni)
G matrica oblika (ni x n)
Iz G0 lako dobijemo H0 i obrnuto.
Primjer
neka je za kod (9,3) n=9, ni =3 i nk=6 i dana je matrica provjere:
1
1

0
H
0
0

0
1
1
0
0

0
0
0
1
1

0
0
0
0
0

1
0
0
0
0

0
1
0
0
0

0
0
1
0
0

0
0
0
1
0

0
0

0
0

Kako je H 0 PI nk oblika (nk x n)=(6x9) i kako je G G0 I ni P T oblika (ni x n)

tj. (3x9) imamo:
1
G0 0
0

0
1

0
0

1
0

1
0

0
1

0
1

0
0

0
0

ALGORITAM KODIRANJA I DEKODIRANJA

Ako je G dana u obliku G0 i ako su (a1, a2, . ani ) informacijski biti linearnog
koda C tada zatienu kodnu rije A=(a1, a2, . ani, ani+1, ani+2, an) moemo
dobiti iz relacije:
A = (a1, a2, . ani ) G
Takoer, jednostavno provjeravamo da li je na dekodiranoj rijei Y nastala
pogreka ili je korektna bez pogreke. Neka je X kodna rije na izlazu zatitnog
kodera, Y prijamna rije na ulazu u zatitni dekoder a vektor Z je vektor
pogreke.
Y=X+Z
9

Ako je Y=X
znai nije nastala pogreka
Kako je X H =0 (nul vektor 1x nk) ili HXT=0 (nul vektor nk x 1) to je
Y HT=(X+Z) HT=Z HT=S
T

Takoer vrijedi
H YT= ST
Vektor S nazivamo sindrom i ako je S odnosno (S T) jednako nul-vektor, onda je
Z=0, pa je Y=X to znai da je kodna rije Y korektna. Ako pak S odnosno
ST nije nul-vektor tada korekciju greke nastale u kodnoj rijei Y vrimo na
temelju oblika sindroma S. Algoritam postupka je slijedei:
1.
izraunati sindrom H YT= ST
2.
ako je H YT= ST=0 tada je Y=X tj. kodna rije Y je korektna
3.
ako je ST 0 tada se pogreka Z nalazi na onom bitu rijei Y za kojeg
vrijedi:
ST=kolona (stupac) matrice H
4.
izvriti ispravku u kodnoj rijei Y
Primjer: Za blok kod (7,4) gdje su informacijski biti (x1, x2, x3, x4)=0110
odrediti zatienu kodnu rije ako se kontrolni bitovi (x 5, x6, x7) dobivaju
slijedeim postupkom:
x5= x2+ x3+,x4
x6= x1+ x3+,x4
x7= x1+ x2+,x4
b) Odrediti da li je Y=(0010011) korektna kodna rije i ako nije korektna uraditi
korekciju pogreke.
X=(x1, x2, x3, x4,x5, x6, x7) zatiena kodna rije na izlazu iz zatitnog kodera
Xinf=(x1, x2, x3, x4)=0110 informacijski dio kodne rijei koji ulazi u zatitni koder
x5= x2+ x3+,x4 = 1+1+0=0
x6= x1+ x3+,x4 = 0+1+0=1
x7= x1+ x2+,x4 = 0+1+0=1
X=(x1, x2, x3, x4,x5, x6, x7)=(0110011) zatiena kodna rije koja ulazi u kanal
Kako su zbrajanje i oduzimanje po modu 2 bez prijenosa u binarnoj algebri
indentini pa imamo:
0+x2+x3+x4+x5+0+0=0
x1+0+x3+x4+0+x6+0=0
x1+x2+0+,x4+0+0+x7=0
Iz ovog sustava jednadbi vidljiva je matrica pariteta P odnosno matrica provjere
koda H.
0
H 1
1

Koristiti emo formulu

HY =S

1
0

1
1

1
1

1
0

0
0

0
0

10

 0
1

1
0

1
1

1
1

1
0

0
0

0
0

0
0

1
1

. 0 0
0
1

1
1

Vidimo da je vektor ST=drugoj koloni matrice H to znai da je u zadatoj

kodnoj rijei Y=(0010011) pogreka na drugoj poziciji, odnosno drugom bitu te
rijei Y=(0010011), pa emo izvriti korekciju pogrenog bita i korektna kodna
rije e biti
Y=(0110011)

11