Desanka Radunovi c

Matemati cki fakultet, Beograd

TALASICI ZA NEUPUCENE
WAVELETS

Petnica, 13. maj 2005.

Furijeova analiza
Odredeni zapis date veli cine eksplicitno izra zava neku informaciju o toj tetu drugih informacija, koje su prikrivene. Da bi se jasnije veli cini, na s istakla neka druga osobina potrebno je veli cinu prikazati u drugom obliku, kako ka zemo zapisati je drugom reprezentacijom. Prela zenje iz jednog oblika u drugi naziva se transformacija. Jedna od vrlo va znih informacija u prakti cnim problemima je brzina, tj. u cestanost ili frekvencija, promene neke veli cine. Na primer, razli cita je u cestanost izla zenja dnevnih i nedeljnih novina. Informacija o brzini promene se jasnije iskazuje zapisom funkcije u frekvencijskom domenu, koji se dobija pomo cu Furijeove transformacije. D zozef Furije (Joseph Fourier) je 1807.g postavio tvrdenje da se svaka dovoljno glatka funkcija mo ze predstaviti Furijeovim redom a0 + f (x ) = (ak cos kx + bk sin kx), 2 k=1 gde se koecijenti reda ra cunaju izrazima ak = 1
1 0.5 0 0.5 1 1 0.5 0 0.5 1 1 0.5 0 0.5 1 0 2 4 6 8 10 12 14 16 18 20 0 2 4 6 8 10 12 14 16 18 20 0 2 4 6 8 10 12 14 16 18 20

f (x) cos kx dx,

bk =

f (x) sin kx dx

Ako po apsolutnoj vrednosti dominiraju koecijenti uz sinusoide malih perioda, tj. velikih frekvencija (sinusoida na tre coj slici), onda je i sama 2

funkcija vrlo promenljiva (oscilatorna). Ako dominiraju koecijenti uz sinusoide velikih perioda, tj. malih frekvencija (sinusoida na prvoj slici), onda se i sama funkcija sporo menja (malo osciluje u odnosu na srednju u koecijenta vrednost). Srednja vrednost funkcije je izra zena vredno sc a0 /2. Stoga vrlo va zne informacije o signalu (bilo kojoj zi ckoj veli cini koja se menja u prostoru, vremenu ili po nekoj drugoj nezavisno promenljivoj) - Furijeovim koecijendaje njegov frekvencijski spektar, koji je odreden to smo upravo zaklju tima. On ukazuje, kao s cili, na brzinu promene posmatrane veli cine, a takode, preko Parsevalove jednakosti, govori i o energiji signala f ,
2 2 2

(energijaf ) = f

f (x) dx =
k=0

(| a k | 2 + | b k | 2 )

Aplet 4.2 Fast Fourier transformation, koji se mo ze na ci na web adresi web http://www.matf.bg.ac.yu/r3nm/NumericalMethods/index.html ilustruje odredivanje frekvencijskog spektra i Furijeovu analizu nekih funkcija.

Nedostaci Furijeove analize

Zbog neograni cenog trajanja sinusoide, Furijeova analiza nije pogodna za iji se frekvencijski sadr obradu nestacionarnih signala, a to su oni c zaj menja sa vremenom. etiri sinusne Primer: Funkcije f 1(x) i f 2(x) su predstavljene sa iste c funkcije, f 1(x) = cos (2 10 x) + cos (2 25 x) + cos (2 50 x) + cos (2 100 x) cos (2 10 x), 0 < x < 300 cos (2 25 x), 300 < x < 600 f 2(x) = cos (2 50 x), 600 < x < 800 cos (2 100 x), 800 < x < 1000 3

to u funkciji f 1(x) sve c etiri sinusoide traju sve vreme Razlika je u tome s (za svako x u posmatranom intervalu), a u funkciji f 2 kada se prva sinusoida zavrsi, po cinje druga, pa se ona nastavlja tre com, i na kraju signal etvrtom sinusoidom. Dakle, frekvencijski sadr zavr sava c zaj signala f 2 se menja sa vremenom, te stoga ka zemo da je signal nestacionaran. Graci funkcija f 1 i f 2 po vremenu x su, o cigledno, potpuno razli citi.
f1 4 3 2 1 0 1 2 3 0 100 200 300 400 500 600 700 800 900 1000

f2 1

0.5

0.5

100

200

300

400

500

600

700

800

900

1000

Medutim, njihovi frekvencijski spektri su vrlo sli cni. Graci prikazuju zavisnost funkcija od frekvencije. Izrazite su vrednosti koecijenata koji to se na graku funkcije f 2 odgovaraju pomenutim sinusoidama, s tim s um koji je posledica spajanja razli mo ze uo citi s citih sinusoida.
140

40

35
120

f1
100

30

f2

25
80

20
60

15
40

10

20

10

25

50

100

10

25

50

100

Tako se do slo do ideje da se nestacionaran signal podeli na manje vremenske intervale, i analizira frekvencijski sadr zaj svakog pojedinog dela. Jasno je da bi Furijeovom analizom delova funkcije f 2 na intervalima du zine 100, dobili pravu informaciju o frekvencijskom sadr zaju te funkcije u svakom od intervala. Metoda koja se zasniva na ovoj ideji naziva se Kratkotrajna Furijeova transformacija (STFT = Short Time Fourier Transformation). Ako deljenje funkcije na intervale vr simo pomo cu tzv. prozorske funkcije, W (x ) = 1, 0, x [0, 1) x [0, 1)

kratkotrajna Furijeova transformacija je jednaka ( ), ST F Tf (, ) = f x [, + 1],

i odredena je kao Furijeovua transformacija funkcije f (x) W (x ). Svakako, mogli bismo denisati prozorsku funkciju i na drugi na cin, ali ostaje kao glavni nedostatak ovoga pristupa konstantna du zina prozora. Bilo bi mnogo pogodnije kada bismo koristili u zi prozor u delu gde je signal jako promenljiv, a siri prozor u delu gde se signal sporo menja.

Transformacija talasi cima

Transformacija talasi cima (WT = Wavelet Transformation) upravo omogu ava kori enje prozora promenljive du c sc zine. to je sinusoida osnovna funkcija Furijeove transformacije, talasi Kao s c 1 xb a,b (x) = a a je osnovna funkcija transformacije talasi cima. Kao i sinusoida, talasi c je oscilatorna funkcija (ima srednju vrednost nula), ali je, za razliku od sinusoide, razli cita od nule samo na kona cnom intervalu. Zbog oscilatorne prirode nazvana je je talasom, a zbog ograni cenog trajanja malim talasom ili talasi cem. Kao i sinusoida, promenom parametra a mo ze se skupljati iriti (dilatacija), a promenom parametra b pomerati du ili s z vremenske ose (translacija). 5

sin(x)
0 0

psi(x)

6.28

sin(2x)
0 0

psi(2x)

3.14

1.5

sin(4x)
0 0

psi(4x)

1.57

0.75

psi(x)

psi(x2)

irina i pozicija proJasno je da se izborom parametara a i b pode sava s je zora. Sirina prozora odreduje frekvencijsku i vremensku rezoluciju. Sto vremenska rezolucija bolja, frekvencijska rezolucija je lo sija, i obrnuto. To zna ci da ne mo zemo ta cno re ci koje frekvencije postoje u datom vremenskom trenutku (princip neodredenosti). to, takode, treba uo Ono s citi jeste da je Furijeova analiza odredena konkretnom funkcijom, sinusoidom, dok talasi c nije jednozna cno odreden denisana su samo pravila koja treba da budu zadovoljena da bi talasi c imao odredena svojstva.

Diskretni talasi ci
to nije korisno sa stanovi Parametri a i b se mogu kontinualno menjati, s sta primene. Mo ze se pokazati da se i pomo cu prebrojivo mnogo dilatacija i translacija jednoga talasi ca mo ze rekonstruisati signal. - izborom Tako dolazimo do pojma diskretni talasi ci. Oni su odredeni e su te vrednosti stepeni broja diskretnih vrednosti parametara a i b. Naj ce sc ime je denisana tzv. diadska mre 2, c za a = 2j , b = k 2j . Svakoj ta cki ove mre ze pridru zen je talasi c dobijen dilatacijom i translacijom osnovnog talasi ca (majke), jk (x) = 2j/2 (2j x k ) jk (x) = 0, x [2j k, 2j (k + 1)].

Diadska mre za parametara predstavljena u je u (k, log 2 (a)) koordinatnom sistemu, jer se k menja linearno, a a kao stepen broja 2.
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

log(a)

Parametar a se na svakom novom nivou udvostru cuje u odnosu na vrednost to zna iri. Broj ta sa prethodnog nivoa, s ci da talasi c postaje dvostruko s caka u kojima se deni su talasi ci postaje dvostruko manji u odnosu na ovaj broj na prethodnom nivou, tj. rezolucija se smanjuje. Na ovaj na cin ostvaruje se koncept multirezolucije. Za opisivanje brzo promenljivog dela signala koriste se uski, gusto raspore deni talasi ci, a za opisivanje sporo promenljivog dela signala koriste se razvu ceni, retko ras- talasi poredeni ci, f (x ) = bj,k j,k (x)
j Z kZ

Teorijski, stepeni broja 2 mogu i ci od do . U praksi, broj nivoa to se posti rezolucije je kona can, s ze uvodenjem u aproksimaciju funkcije skaliranja (x).
J

f (x )

aJ,k j,k (x) +

kZ j =1 kZ

bj,k j,k (x)

e se kretati parametar k zavisi od vremenskog trajanja sigOpseg u kome c nala. Funkcija skaliranja (x) predstavlja osnov teorije talasi ca. Ona je re senje dilatacione jedna cine, (x ) = c(k ) 2(2x k ).
kZ

ije re Ovo je jedini tip jedna cine c senje je funkcija razli cita od nule na kona cnom intervalu, ukoliko jedna cina ima kona can broj sabiraka. Osobine re senja u potpunosti zavise od koecijenata c(k ) dilatacione jedna cine. Re senje dilatacione jedna cita cine koja ima samo dva koecijenta razli od nule, c(0) = c(1) = 1/ 2, je c etvrtka

(x)
1
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

(2x)
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

(2x 1)
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

Linearnom kombinacijom dilatacija i translacija funkcije skaliranja, tzv. jedna cinom talasi ca, denisan je talasi c, (x ) = d(k ) 2(2x k ).
kZ

Cetvrtkom, sa koecijentima d(0) = d(1) = 1/ 2, je denisan Harov talasi c (Haar, 1909),

 (x)
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 0 1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . -1

(2x)
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

(2x 1)
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

enjem ovih funkcija, signal se predstavlja stepenastom funkciKori sc emu su du jom, pri c zine konstantnih intervala razli cite ve ce tamo gde se signal sporo menja, a manje u delovima gde se on brzo menja.

Piramidalni algoritam
Ako funkcije (x) i (x) imaju odredena svojstva, koecijenti aJ,k i bj,k u multirezolucijskoj reprezentaciji signala se mogu brzo izra cunati pomo cu piramidalnog algoritma aj,k =
l

c(l 2k )aj 1,l ,

bj,k =
l

d(l 2k )aj 1,l ,

- ekasno rekonstrui a na osnovu ovih koecijenata signal se takode se kori s enjem inverznog piramidalnog algoritma c aj 1,l =
k

c(l 2k )aj,k + d(l 2k )bj,k .

Ova, tzv. Brza transformacija talasi cima (FWT=Fast Wavelet Transformation) predstavlja ekasan algoritam savr sene reprodukcije. etvrtke (kojom se ra Ilustrujmo ga na primeru c cunaju aritmeti cke sredine susednih vrednosti u signalu) i Harovog talasi ca (kojim se ra cunaju razlike susednih vrednosti u signalu). Koecijenti kojima se transformacija vr si su koecijenti jedna cine skaliranja i jedna cine talasi ca, 1 c(0) = c(1) = d(0) = d(1) = . 2 Ra cun, u kome je izostavljeno deljenje svih brojeva sa emom slede com s 9 2, prikazan je

37 36 32 30 30

35 28 28 2 2

28 28 38 18 4

58

18 21 1

15 3

0 20

10

4 10

1 0

20

eme sadr Poslednja vrsta s zi jedan koecijent funkcije skaliranja (uokviren), i sedam koecijenata talasi ca: 20 = 1 na poslednjem, tre cem, nivou, 1 2 2 = 2 na drugom, i 2 = 4 na prvom nivou rezolucije. Na crte zu koji sledi predstavljeni su: izlomljenom linijom grak signala (X ), detalji na sva tri nivoa (koecijenti talasi ca W1 , W2 i W3 ), kao i osrednjenje na poslednjem, najgrubljem nivou rezolucije (koecijent funkcije skaliranja V3 ).
60

x
40 20 0 20 0 20 10 0 10 2 1 2 3 4 5 6 7

w1

w2

w3
0 2 31

v3
30 29

10

emi izra Na s cunavanja se mo ze uo citi da je jedan koecijent talasi ca est neki se mogu zanemariti, tj. zameniti nujednak nuli, a od prostalih s lom, bez velikih posledica po izgled signala. Da je to ta cno govori naredna slika, na kojoj je predstavljen polazni signal, kao i rekonstruisani signali dobijeni posle zanemarivanja koecijenata ve cih od izabranog praga, u ovom slu caju 2, odnosno 4. Izbor praga zavisi od konkretnog problema i dozvoljene tolerancije, ali i od potrebe za kompresijom.
60

55

50

* x
PR = 2

45

40

.... PR = 4

35

30

25

20

15

10

eme prikazuju postupak sinteze, tj. rekonstrukcije komNaredne dve s presovanih signala na osnovu njihovih koecijenata talasi ca i funkcije skaliranja. Pod uslovom da ne zanemarimo ni jedan koecijent razli cit od nule, to predstavlja savr dobili bismo polazni signal, s senu rekonstrukciju. Seme prikazuju rekonstrukciju kompresovanih signala, predstavljenih na gornjoj slici.

11

Kompresija:

prag = 2 30 30 2 0 4 10 4 10 4 40 26 10 20 26 60 1 0 0 0 0 0 0 0 20 20 20 20 20 23 3 3 3 3 17

30 30 34 26 34 34 Kompresija: prag = 4 30 30 2 0

4 10 0 10 0 40 30 10 20 30 60

1 0 0 0 0 0 0 0 20

20 20 20 20 20

3 0 0 0 20

30 30 30 30 30 30

Kompresija pri pragu jednakom dva je omogu cila da se signal zapisan sa etiri samo sa tri osam brojeva sa cuva sa pet podataka, a pri pragu jednakom c e produkovati male koecijente podatka. Dobar izbor talasi ca je onaj koji c (detalje), tako da se ovi mogu zanemariti bez velike promene signala posle sinteze. Smanjenje broja podataka omogu cava ekasan prenos na daljinu, skladi stenje i brzo pretra zivanje baze signala.

Dobe sis talasi ci DbN

Za formulisanje pravila za konstrukciju talasi ca koji dopu staju brzu transformaciju i imaju i druge po zeljne osobine zaslu zna je Ingrid Dobe sis (Daubechies). Ona je 1988. godine objavila rad o novoj familiji talasi ca, koji su potom nazvani njenim imenom. Karakteri su se time da:

12

 nemaju eksplicitan izraz imaju kompaktan nosa c [0, 2N-1] (interval na kome su razli citi od nule) ortogonalni su (mo ze se primeniti piramidalni algoritam) ta cno reprodukuju polinome stepena ne ve ceg od (N-1) glatkost im se pove cava sa pove canjem N Slike koje slede predstavljaju Dobe sis funkciju skaliranja (levo) i talasi c (desno) za N = 2 i N = 4.

1.4

1.2 1.5 1 1 0.8 0.5

0.6

0.4

0.2 0.5 0 1 0.2

0.4

0.5

1.5

2.5

1.5

0.5

1.5

2.5

Db2
1.4 2

1.2 1.5 1 1 0.8 0.5

0.6

0.4

0.2 0.5 0 1 0.2

0.4

0.5

1.5

2.5

3.5

4.5

1.5

0.5

1.5

2.5

3.5

4.5

Db4

13

Primene
1. Obrada signala (analiza, sinteza ) 2. Komunikacije (kompresija) 3. Kompjuterska graka (uzastopno renderisanje) 4. Kompjuterska vizija (multirezolucijski pristup) 5. Numeri cke metode (multigrid tehnika) Primer: - originalne i 1. Kompresija otisaka prstiju u odnosu 20:1. Razliku izme du dekompresovane slike uo cavaju samo eksperti. (JPEG 2000) 2. Lociranje i predvidanje zemljotresa. 3. Prou cavanje udaljenih galaksija. 4. Analiza i kompresija medicinskih signala (ECG, EEG). 5. Kontrola kvaliteta analizom zvu cnog signala.

Literatura:
1. Radunovi c D., Numeri cke metode, Akademska misao, Beograd, 2004. 2. Radunovi c D., Talasi ci (Wavelets), Akademska misao, Beograd, 2005.

www@matf.bg.ac.yu/dradun/

14