< >.

SEMINARSKI RAD
Predmet: Interakcija ovek raunar Tema: Neuronske mree i njihova
rimena

Mentor: dr Danijela Miloevi

Student: Nikola Ostoji, 885/2012

a ak, 201!. "odine

SADRAJ

#adr$aj......................................................................................................................................2 %&OD......................................................................................................................................' (#)O*(+#,( *-.&O+ N/%*ON#,(0 M*/1-..................................................................5 D/2(N(3(+- ( 4OD/5- N/%*ON#,(0 M*/1-...............................................................6 %4O*/DN( 4*(,-. 7(O5O8,(0 ( &/8)-,(0 N/%*ON#,(0 M*/1-.................10 '.1 7ioloke ne9ronske :re$e..............................................................................................10 '.2 &eta ke ne9ronske :re$e..............................................................................................11 '.2.1 4ri;re:a <a=e ;odataka..........................................................................................12 '.2.2 % enje >treniranje? ne9ronske :re$e......................................................................1! '.2.! )estiranje ne9ronske :re$e....................................................................................15 '.2.' 4ro@ena i=la=niA re=9ltata.......................................................................................15 O#NO&N/ 4*(M/N/ N/%*ON#,(0 M*/1-................................................................1B 5.1 4ri:ena ne9ronskiA :re$a =a ko:;resij9 slike..............................................................16 5.2 4re;o=navanje irili niA slova <a=irano na 9;otre<i ne9ronskiA :re$a.........................21 5.2.1 4ro<le:i ;re;o=navanja slova................................................................................22 5.2.2 O3* C soDtver =a ;re;o=navanje teksta..................................................................22 5.2.! ,onDi"9ra@ija ne9ronske :re$e 9 ;ro"ra:9 =a ;re;o=navanje irili niA slova.....2' 5.2.' O3* C soDtver =a ;re;o=navanje irili niA slova....................................................25 5.! %;otre<a ne9ronskiA :re$a 9 detek@iji li@a na slika:a..................................................28 5.!.1 4ro<le: detek@ije li@a.............................................................................................!0 4ostoji ;9no 9sko ;ove=aniA ;ro<le:a sa detek@ijo: li@a. 5okali=a@ija li@a i:a =a @ilj da naEe ;o=i@ij9 jedno" li@a na sli@iF ovo je ;ojednostavljen ;ro<le: detek@ije sa ;ret;ostavko: da 9la=na slika sadr$i sa:o jedno li@e. 3ilj detek@ije svojstava li@a je da otkrije ;ris9stvo i loka@ij9 o ij9, nosa, o<rva, 9sta, 9ij9 itd.. sa ;ret;ostavko: da slika sadr$i sa:o jedno li@e. 4re;o=navanje li@a ili identiDika@ija li@a 9;oreE9je 9la=n9 slik9 sa <a=o: i ;rijavlj9je ;okla;anja, ako ;ostoje. (dentiDika@ija li@a veriDik9je identitet ;ojedin@a =a dat9 slik9, dok :etode ;raenja li@a ne;rekidno ;ro@jenj9j9 loka@ij9 i 2

:o"99 orijenta@ij9 li@a 9 sekven@i slika 9 realno: vre:en9. 4re;o=navanje i=ra=a li@a se <avi identiDikovanje: e:o@ionalno" stanja oso<a >srean, t9$an, lj9t, et@..?. O i"ledno da je detek@ija li@a ;rvi korak 9 <ilo ko: a9to:ati=ovano: siste:9 koji rjeava ;o:en9te ;ro<le:e. &alja ;o:en9ti da :no"i radovi koriste ter:in Gdetek@ija li@aG, a :etode nala=e sa:o jedno li@e 9 9la=noj sli@i. MeE9 <rojni: al"orit:i:a ;redlo$eni: =a detek@ij9 li@a, oni <a=irani na al"orit:i:a 9 enja s9 ;riv9kli ;9no ;a$nje =<o" odli niA re=9ltata. O<=iro: da se ove :etode 9 velikoj :jeri oslanjaj9 na sk9; =a treniranje, ;o:en9e:o i neke <a=e koje od"ovaraj9 ovo: =adatk9. &a$an ;ro<le: je kako vrednovati re=9ltate ;redlo$eniA :etoda =a detek@ij9. #koriji radovi na te:9 detek@ije o<i no ;orede al"orit:e ;o sto;i 9s;ene detek@ije kao i sto;i ;o"reniA detek@ija. )akoEe tre<a ;o:en9ti da ;ostoje i neke o;te ;riAvaene :etrike =a eval9a@ij9 kao to s9H <r=ina 9 enja, vrie:e i=vravanja, <roj ;ri:eraka ;otre<niA =a o<9 avanje i odnos ta niA i ;o"reniA detek@ija. #to;a detek@ije je odnos ta no detektovaniA li@a i <roja li@a koje ;re;o=naje ovjek. Deo slike identiDikovan kao li@e se 9=i:a =a ta an ako ;okriva vie od odreEeno" ;ro@enta stvarno" li@a. Detektori :o"9 da na;rave dvie vrste "reakaH Dalse ne"atives I nedetektovana li@a na sli@i, Dalse ;ositives I detek@ije koje =a;ravo nis9 li@a. 4ravi no vrednovanje <i tre<alo da 9=:e 9 o<=ir sve navedene Daktore, o<=iro: da se odreEeni ;ara:etri :o"9 ;odesiti da <i se ;oveala sto;a detek@ije ali se takoEe ;oveava i <roj ;o"reniA detek@ija...........................................................................................................!0 5.!.2 #k9; =a o<9 avanje.................................................................................................!2 5.!.! #tr9kt9ra :re$e.......................................................................................................!! 5.!.' *e=9ltati..................................................................................................................!! 5.' 4ri:ena ne9ronskiA :re$a 9 :edi@ini............................................................................!' 5.'.1 /lektronski nos .......................................................................................................!5 5.5 Ne9ronske :re$e i 9;ravljanje ro<oti:a........................................................................!B 5.5.1 NOM-D C ro<ot koji ra=:ilja..............................................................................!J 5.B 4ri:ena ne9ronskiA :re$a 9 <er=ansko: ;oslovanj9....................................................!J 5.6 4ri:ena ne9ronskiA :re$a 9 ra 9narski: i"ra:a..........................................................'1 5.6.1 Ne9ronske :re$e 9 ;redviEanj9 i"re iks C oks.......................................................'! 5.8 Ne9ronske :re$e i ;ro<le: tr"ova ko" ;9tnika >)#4?..................................................'' 5.J Ne9ronske :re$e i 9:etnost...........................................................................................'B 5.10 4e;o=navanje sao<raajniA =nakova.............................................................................'B 5.11 -5&(NN >-9tono:9s 5and &eAi@le (n a Ne9ral NetKork?........................................'8 5.12 Loo"le ;retra"a C ne9ronske :re$e..............................................................................50 !

.-,5+%-,........................................................................................................................51 5()/*-)%*-.......................................................................................................................52

1.
UVOD
'

Ne9ronske :re$e ;redstavljaj9 nov9 "enera@ij9 siste:a =a anali=9 >o<rad9? inDor:a@ija, a karakterie iA :o"9nost 9 enja, ;a:enja i "enerali=ovanja na osnov9 ;retAodno ;ri;re:ljeniA <a=a ;odataka 9= ;o:o kojiA se treniraj9. 4ri:ena ne9ronskiA :re$a, kao relativno novo" alata ra 9narske teAnolo"ije, 9 dananje vre:e sve vie do<ija na =na aj9 9 svi: se":enti:a lj9dsko" delovanja. %= deDinisanje ne9ronskiA :re$a 9 ovo: rad9 je o;isan i na in njiAovo" D9nk@ionisanja. % dananje vre:e ne9ronske :re$e se ra=vijaj9 i koriste 9 sklo;9 "otoviA ra 9narskiA ;ro"ra:a koji ne n9de ra=9:ljiv odnos va$niA ;ro:enljiviA 9n9tar str9kt9re sa:o" ;ro"ra:a, ve se :o"9 o;isati kao G@rna k9tijaG "de s9 odnosi i=:eE9 ;ro:enljiviA skriveni 9n9tar str9kt9re sa:e ne9ronske :re$e. % sklad9 s navedeni:, 9 rad9 je i=dvojen i o;is osnovniA oso<ina ne9ronskiA :re$a s o<=iro: na na in njiAovo" rada 9 sklo;9 koje"a s9 o;isana osnovna etiri ;ro@esa svake ne9ronske :re$eH ;ri;re:a <a=e ;odataka, 9 enje >treniranje? :re$e, testiranje :re$e i ;ro@ena i=la=niA re=9ltata.

2.
ISTORIJSKI RAZVOJ NEURONSKIH MREA
5

4edesetiA "odina ;rolo" veka na konDeren@iji Dart:o9tA #9::er *esear@A 4roje@t, kao jedna od "rana veta ke inteli"en@ije, ;roDilisalo se ne9ronsko ra 9narstvo. Na toj konDeren@iji je najavljeno ostvarivanje vi=ije ra 9narsko" :odela koji <i :o"ao 9 neki: te:eljni: ;rin@i;i:a o;onaati D9nk@ionisanje :o="a. 4ojavljivanje ne9ronsko" ra 9narstva je od"ovor &on Ne9:annovi: ra 9nari:a, nastojei ostvariti ili si:9lirati 9;oredn9 o<rad9 inDor:a@ija koj9 koristi lj9dski :o=ak dok se sea, ra=:ilja, reava ;ro<le:e itd. Neki vrlo va$ni do"aEaji =a ra=voj ne9ronskiA :re$aH 1J'!. 4itts i M9lo@k s9 ;rvi doka=ali da ne9roni :o"9 i:ati dva stanja >9:ir9j9e i ;o<9E9j9e? kao i da njiAova aktivnost =avisi od odreEene vrednosne "rani@e. )i doka=i s9 <ili te:elj =a ra=voj ne9ronskiA :re$a. 1J'J. 0e<< je dao ;redlo" =a ;ravilo koji: se o;is9je ;ro@es 9 enja >0e<<ovo ;ravilo?. 1J5B. *o@Aester i "r9;a a9tora ;redstavljaj9 ;rv9 si:9la@ij9 0e<<ovo" :odela na Dart:o9tA #9::er 3onDeren@e, koji je kolijevka :odela ne9ronskiA :re$a. 1J58. ;rva ne9ronska :re$a M4er@e;tronN, koj9 je ra=vio 2rank *osen<latt, 9 kojoj se 9 enje ra=vija 9 dva sloja, nije :o"la reavati ;ro<le:e klasiDika@ije koji nis9 <ili linearno deljivi >n;r. OO* ;ro<le:?. 1JBJ. MinskP i 4a;ert o<javlj9j9 rad 9 koje: otro kritik9j9 nedostatke M4er@e;tronaN to dovodi do ;rekida 9la"anja 9 ra=voj ne9ronskiA :re$a. 1J6'. i ;ored sla<iA 9la"anja 4a9l Qer<os je ra=vio vieslojn9 4er@e;tron :re$9 C M54, ;rv9 ver=ij9 7a@k;ro;a"ation :re$e koja ;revladava nedostatak 4er@e;trona 9voEenje: 9 enja 9 Mskriveno: sloj9N. 1J8B. *9:elAart, 0inton i Qillia:s 9savravaj9 M7a@k;ro;a"ationN :re$9 koja vraa 9"led ne9ronski: :re$a:a jer o:o"99je a;roksi:iranje "otovo sviA D9nk@ija i reavanje ;rakti niA ;ro<le:a. %savravanje N7a@k;ro;a"ationR :re$e dovodi do ;ot;9no" na9 no" i ko:er@ijalno" svetsko" interesa =a ne9ronske :re$e ija je ;ri:ena i danas :no"ostr9ka i koristi se 9 :no"i: ;odr9 ji:a lj9dsko" delovanja i 9 ind9striji. 4ostoje i dr9"i al"orit:i ra=vijeni =a ne9ronske :re$e.

3.
DEFINI IJA I !ODE"A NEURONSKIH MREA
6

Ne9ronske :re$e >en"l. Ne9ral NetKorks? =a9=i:aj9 ;ose<n9 @elin9 9n9tar sveo<9Avatno" ;odr9 ja veta ke inteli"en@ije. Mo"9 se o;isati kao :ate:ati ki :odeli koji:a se o;onaa rad ne9rona lj9dsko" :o="a, odnosno oso<ine <iolokiA nervniA siste:a. Dr9"i: re i:a, ne9ronske :re$e 9 ;ro@es9 reavanja od"ovaraj9e" ;ro<le:a o;onaaj9 :isaoni kSd lj9dsko" :o="a. Ne9ronske :re$e se sastoje od veliko" <roja :eE9so<no ;ove=aniA ele:entarniA jedini@a koje se na=ivaj9 ne9roni:a, a ;o svojoj D9nk@iji o;onaaj9 <ioloke ne9rone. Ne9roni s9 :eE9so<no ;ove=ani ve=a:a koje sadr$e ;ro;9sne >te$inske? koeDi@ijente. &e=e koje ;ove=9j9 ne9rone 9 svojoj osnovi se sli ne sina;sa:a kod <iolokiA ne9ronskiA :re$a. .a ra=lik9 od siste:a <a=irani: na ;ravili:a, rad ne9ronskiA :re$a =asnovan je na ;ostojei: ;ri:eri:a >;rototi;ovi:a? inte"risani: 9n9tar jedinstvene <a=e =nanja. 4ri to:e se ne9ronske :re$e 9 ;ost9;k9 =aklj9 ivanja i deDinisanja i=la=niA vrednosti 9:esto ded9k@ije koriste ;ro@eso: analo"no" =aklj9 ivanja. Ne9ronske :re$e D9nk@ioni9 na na in =a;a$anja i 9 enja odreEeniA odnosa 9n9tar <a=e ras;olo$iviA ;odataka. *a=voje: soDisti@iraniA :ate:ati kiA al"orita:a i njiAovo: inte"ra@ijo: 9n9tar str9kt9re ne9ronskiA :re$a, one i:aj9 :o"9nost ;er@i;iranja i=9=etno slo$eniA odnosa 9n9tar iroko" sk9;a ;odataka. Odnosi se :o"9 deDinisati kao o<ras@i ili ;ravila koji ;ove=9j9 9la=ni sk9; ;odataka sa vrednosti:a deDinisani: 9 o<lik9 i=la=niA re=9ltata. Na osnov9 na9 eniA ;ravila ne9ronske :re$e ;r9$aj9 :o"9nost naknadne ekstra;ola@ije ;ro@enjeniA i=la=niA vrednosti =a novi sk9; 9la=niA ;odataka. 4ro<le:i ;ri ije: se reavanj9 9s;eno ;ri:enj9j9 ne9ronske :re$e :o"9 se kate"ori=ovti 9 dve osnovne "r9;eH klasiDika@ioni ;ro<le:i, n9:eri ki ;ro<le:i 4rv9 "r9;9 o;is9je ;ro<le:atika kod koje s9 nastojanja 9s:erena na deDinisanje kate"orije kojoj ;ri;ada ne;o=nata veli ina, ;retAodno o;isana sk9;o: 9la=niA ;odataka. Ne9ronske :re$e s9 i=9=etno korisni alati ;ose<no ;ri reavanj9 klasiDika@ioniA ;ro<le:a velike slo$enosti i te$ine, ;ri koji:a je ostale :etode ;o;9t sta<la odl9 ivanja, :etoda ind9k@ije i sl. teko ili ne:o"9e ;ri:eniti. 4ri:eri i= ;rakse o<9Avataj9 ;ostavljanje dija"no=a ;ri ;re"led9 i le enj9 ;a@ijenata, ;ro@ene kreditne s;oso<nosti "raEana, ;ro@ene trokova i dr. N9:eri ki ;ro<le:i se odnose na sit9a@ije kod kojiA je 9 odnos9 na sk9; 9la=niA ;odataka ;otre<no na initi ;ro@en9 i=la=ne vrednosti 9 n9:eri ko: o<lik9. % ;raksi se n9:eri ki ;ro<le:i javljaj9 9 "otovo svako: se":ent9 lj9dskiA delatnosti. MeE9ti:,

;ri:ena ne9ronskiA :re$a naj ee je ve=ana =a anali=9 velikiA n9:eri kiA <a=a ;odataka >nelinearna re"resija, statisti ka o<rada, anali=a vre:enskiA serija, anali=a si"nala?. ,lasiDika@ija ne9ronskiA :re$a :o$e se s;rovesti 9 odnos9 na veliki <roj9 relevantniA ;ara:etara. O<i no se klasiDika@ija ne9ronskiA :re$a :o$e s;rovesti 9 odnos9 naH <roj slojeva, vrst9 ve=a i=:eE9 ne9rona, na in 9 enja, s:er irenja inDor:a@ija, vrst9 ;odataka.

#.
U!OREDNI !RIKAZ $IO"O%KIH I VE%TA&KIH NEURONSKIH MREA
(ako s9 ne9ronske :re$e nastale ;o 9=or9 na <ioloke, ova dva :odela se 9 neki: karakteristika:a ra=lik9j9. #.1 $'o(o)*e neuron+*e ,re-e 7ioloka ne9ronska :re$a je vrlo slo$ena. #astoji se od tela, aksona i :notva dendrita koji okr9$9j9 telo ne9rona. -kson je tanka @ev i@a koja s jedne strane sadr$i telo ne9rona, a s dr9"e strane se deli na :notvo "rana. Na krajevi:a tiA "rana nala=e se =ade<ljanja koja dodir9j9 dendrite, a ;onekad i telo dr9"o" ne9rona. #ina;sa je ra=:ak i=:eE9 =avretka aksona ;retAodno" ne9rona i dendrita ili tela sledee" ne9rona. Dendriti s9 ;rod9$e@i stani no" tela, vrlo s9 tanki 9 odnos9 na veli in9 tela stani@e i D9nk@ija i: je ;rik9;ljanje inDor:a@ija. 7ioloke ne9ronske :re$e s9 sastavni deo oveka iji se :o=ak sastoji od 100 :ilijardi ne9rona, a =asl9$ne s9 =a i=voEenje veo:a va$niA D9nk@ija kao to s9 ra=:iljanje, 9 enje, e:o@ije, ;er@e;@ija, :otorika itd. (ako se D9nk@ija ne9ronskiA :re$a istra$9je ve d9"i ni= "odina, <rojni ;ro@esi, kao i njiAov na in rada, lj9dsko: 9:9 jo 9vek nis9 9 ;ot;9nosti ra=9:ljivi.

Slika 1. !rika" #io$o%ko& neurona

10

#.2 Ve)t./*e neuron+*e ,re-e Ne9ronske :re$e 9 okviri:a veta ke inteli"en@ije i ;ri:enjeno" :ate:ati ko" :odeliranja i:aj9 sli n9 str9kt9r9 kao i <ioloke ne9ronske :re$e, ali 9 =natno ;ojednostavljeno: o<lik9 >slika 2?. Ne9roni s9 :eE9so<no ;ove=ani ve=a:a koje sadr$e ;ro;9sne >te$inske? koeDi@ijente, a ;o D9nk@iji s9 sli ni sina;sa:a kod <iolokiA ne9rona. 4ri i=radi :ate:ati ko" :odela ne9ronske :re$e =ane:ar9j9 se <rojni Daktori iji se 9ti@aji ne s:atraj9 ;res9dni:, ;o;9tH ;rostorno" o<lika dendrita i aksona, :o"9iA 9 inaka ;o=i@ije sina;se na dendrite, 9:ora koji se ;ojavlj9je kod <iolokiA ne9rona nakon odailjanja si"nala, injeni@e da <ioloki ne9roni 9 odnos9 na vlastit9 aktivnost :o"9 sa:o i:ati ili ;o<9Eene >;o=itivne te$ine? ili ne;o<9Eene >ne"ativne te$ine? i=la=e.

Slika 2. 'o(e$ ve%tako& neurona #vaka ne9ronska :re$a sastoji se od vee" <roja str9kt9rniA ;ro@esniA jedini@a C ne9rona >slika !?. Osnovna D9nk@ija oviA ;ro@esniA jedini@a je ;rik9;ljanje inDor:a@ija od s9sedniA jedini@a, 9sklaEivanje 9n9tranje" nivoa aktiva@ije, ;rora 9n i ;rosleEivanje i=la=a dalji: jedini@a:a. Nad svako: ;ro@esno: jedini@o: i=vodi se o"rani eni <roj jednostavniA o;era@ija. 4ro@esne jedini@e se radi jednostavnije" i <r$e" s;rovoEenja al"orita:skiA D9nk@ija or"ani=9j9 9 slojeve >en"l. #la<?.

Slika 3. !rocesna je(inica ) neuron 11

4ro;a"a@ija, odnosno irenje 9la=no" si"nala odvija se ;reko 9la=niA ve=a i ;onderie se 9 sklad9 sa nje"ovi: te$inski: vrednosti:a ;a se na taj na in ;rik9;ljaj9 inDor:a@ije od s9sedniA ne9rona. Dr9"i: re i:a, 9la=noIi=la=ne ve=e i=:eE9 ne9rona koje se na=ivaj9 te$ina:a > *ij ?, :o"9 se ;rila"oditi tako da ;ri odreEeno: sti:9lans9 9la=a re=9lt9j9 odreEeno: vredno9 i=la=a, odnosno da i=la= :re$e ;re;o=naje ;redo eni 9=orak 9la=niA vrednosti i re;rod9k9je "a 9 ;o=nat9 vrednost. 4ri to:e se sti:9lans 9la=a > +i ? :no$i sa ;ri;adaj9i: vrednosti:a te$ina > *ij ? ;a se njiAova s9:a ;ro@esira 9n9tar ne9rona i ;odvr"ava D9nk@iji aktiva@ijeH a = , > Ni ? N i = *ij +i >1? >2?

29nk@ija aktiva@ije nor:ali=9je i=la=ne vrednosti 9 interval9 >0,1? i 9"lavno: se nala=i 9 o<lik9H a? linearne D9nk@ije , > +? = + <? si":oidne D9nk@ije , > +? = 1/ >1 + e> + ? ? @? tan"ens Ai;er<oli ke D9nk@ije , > + ? = tanA> + ? d? La9sove D9nk@ije , > + ? = e> +
2

>!? >'? >5? >B?

2

e? ko:;le:entarno La9sove D9nk@ije , > + ? = 1 e > +

>6? >8?

D? si:etri no si":oidne D9nk@ije , > +? = 2 / >1 + e> + ? ? 1

#.2.1 !r'0re,. 1.2e 0od.t.*. #tr9kt9ra <a=e ;odataka koja se koristi =a 9 enje >treniranje? i testiranje ne9ronske :re$e sastoji se od sk9;a ;odataka koji sa injavaj9 ;ro:enljive i s@enariji. 4ro:enljive s9 selektovane ;o kolona:a, "de svaka kolona ;redstavlja sk9; vrednosti jedne ;ro:enljive karakteristi ne =a svaki ;ojedina ni s@enario. #vaka vrsta 9n9tar <a=e ;odataka ;redstavlja jedan s@enario koji se sastoji od vee" <roja ne=avisniA ;ro:enljiviA sa ;ri;adaj9i: vrednosti:a i naj ee jedne =avisne ;ro:enljive. 4rito: s9 9 ;rvoj vrsti deDinisana i:ena ;ro:enljiviA, a ostale vrste ;redstavljaj9 ra=li ite s@enarije. &rednost =avisne ;ro:enljive :o$e <iti ;retAodno deDinisana ;a na osnov9 nje ne9ronska :re$a s;rovodi ;ost9;ak 9 enja >treniranja? i testiranja. -ko je =avisna ;ro:enljiva ne;o=nata, tada je ne9ronska :re$a ;re;o=naje kao takv9 i 9 ;ost9;k9 ;ro@ene deDinie njen9 i=la=n9 vrednost. 12

#.2.2 U/en3e 4tren'r.n3e5 neuron+*e ,re-e 4ro@es 9 enja >treniranja? jedan je od najva$nijiA ele:enata ne9ronske :re$e. % enje: ne9ronska :re$a 9o ava i ;a:ti odreEene =akonitosti >o<ras@e ili ;ravila? 9n9tar veliko" sk9;a ras;olo$iviA ;odataka >s@enarija?. 4ri to:e 9la=na <a=a ;odataka :ora =a veliki <roj s@enarija i:ati deDinisane =avisne ;ro:enljive na osnov9 ijiA vrednosti ne9ronska :re$a ;a:ti odreEene =akonitosti i donosi nove odl9ke 9 naknadno: ;ro@es9 ;ro@ene i=la=niA re=9ltata =a novodeDinisane s@enarije. #a: ;ro@es 9 enja 9 osnovi ;odra=9:eva o;ti:ali=a@ij9 te$inskiA Daktora 9 ve=a:a i=:eE9 ne9rona ;a je relativno s;or i =aAtevan ;ro@es. .a svak9 oda<ran9 arAitekt9r9 :re$e ;otre<no je deDinisati kriterij9:e 9 enja i odrediti tren9tak ;restanka treniranja :re$e, odnosno deDinisati ;ara:etre ;rila"oEavanja te$inskiA Daktora 9 ve=a:a i=:eE9 ne9rona. 7a=a ;odataka ras;olo$iva =a treniranje :re$e o<9Avata vei deo >80IJ0 T? i= @elok9;ne ras;olo$ive <a=e ;odataka 9la=niA vrednosti. 4reostali :anji dio >10I20 T? koristi se kao 9=orak =a testiranje :re$e. % enje je a9to:ati=ovani ;ro@es 9n9tar sa:e str9kt9re ne9ronske :re$e deDinisan ;retAodni: oda<iro: al"orit:a 9 enja. Naj ee ;ri:enjivani al"orita: 9 enja je onaj s ;ovratno: ;ro;a"a@ijo: "reke >en"l. 7a@k ;ro;a"ation? 9 e:atsko: o<lik9 ;rika=an na sli@i '. -l"orita: s ;ovratno: ;ro;a"a@ijo: je osnovni al"orita: 9 enja nad=iraniA ne9ronskiA :re$a i sastavni je deo "otovo svako" ko:er@ijalno" o<lika ne9ronskiA :re$a.

Slika 4. -matski rika" neuronske mree s ovratnom ro a&acijom &re%ke

1!

-l"orita: 9 enja s ;ovratno: ;ro;a"a@ijo: "reke koristi ;rin@i; rada na=van "enerali=ovano delta ;ravilo >en"l. Lenerali=ed Delta *9le?. % 9la=no: sloj9 <ira se sl9 ajni ni= ;o etniA te$ina 9 ve=a:a ne9rona tako da se ;roi=vodi i=la= ij9 vrednost :re$a =ati: 9;oreE9je s vredno9 $eljeno" i=la=a, tj. 9=orko: i=la=ne vrednosti ;o:o9 koje" se :re$a 9 i >sk9; ;odataka =a treniranje :re$e?. % sl9 aj9 odst9;anja do<ijene vrednosti od o ekivane, :re$a a9to:atski ;rila"oEava te$ine 9 ve=a:a ;a na taj na in s:anj9je veli in9 odst9;anja i=la=ne vrednosti od o ekivane. 4ro@es 9 enja se 9o;teno =avrava 9s;ostavljanje: adekvatniA te$ina 9 ve=a:a. ,ada se =a svaki s@enario 9la=niA vrednosti na osnov9 kojiA :re$a 9 i ostvari ne=natna veli ina odst9;anja i=la=no" re=9ltata, ;ro@es 9 enja se ;rekida, a :re$a je s;re:na =a testiranje sa novi: 9=or@i:a. 4ost9;ak 9 enja ne9ronske :re$e s ;ovratno: ;ro;a"a@ijo: "reke slikovito je 9 najjednostavnije: o<lik9 ;rika=an na sli@i 5.

Slika 5. !ostu ak treniranja neuronske mree

1'

#.2.3 Te+t'r.n3e neuron+*e ,re-e 4ost9;ak testiranja s;rovodi se s @ilje: 9tvrEivanja ste;ena "reke ;retAodno trenirane ne9ronske :re$e ;ri deDinisanj9 i=la=niA re=9ltata. Dr9"i: re i:a, testiranje: se ;roverava 9 kojoj :jeri ne9ronska :re$a re=9ltira =adovoljavaj9i: ;ro@ena:a i=la=ne vrednosti. %=orak ;odataka ;redviEen =a testiranje 9=i:a se i= 9la=ne <a=e ;odataka sa ;o=nati: vrednosti:a =avisne ;ro:enljive. 4ri to:e je va$no da je on ;retAodno i=dvojen i= sk9;a 9=oraka na osnov9 kojiA je s;rovedeno treniranje :re$e. Naj ee se veli ina od 10I20 T 9=oraka >s@enarija? i= 9la=ne <a=e ;odataka koristi kao 9=orak =a testiranje. 4ost9;ak testiranja :re$e =natno je <r$i od ;ost9;ka treniranja. *e=9ltate s;rovedeno" ;ost9;ka testiranja :re$e :o"9e je, 9 =avisnosti od 9;otre<ljeno" ra 9narsko" ;ro"ra:a >Ne9ro#Aell, Ne9ral)ools i dr.?, do<iti 9 o<lik9 statisti ke anali=e, i:e se do<ija 9vid :o$e li trenirana :re$a ;osl9$iti >i 9 kojoj :eri? =a ;ro@ene noviA s@enarija s ne;o=nati: veli ina:a =avisne ;ro:enljive. #.2.# !ro6en. '2(.2n'7 re2u(t.t. 4ro@ene i=la=niA re=9ltata odnose se na deDinisanje ne;o=natiA veli ina =avisne ;ro:enljive =a novi sk9; 9la=niA ;odataka, odnosno =a novodeDinisane s@enarije. 4ro@ene i=la=niA re=9ltata ;redstavljaj9 ;oslednji korak 9 ;ri:eni o;isane ne9ronske :re$e. 4ro@ene se vre 9= oda<ir ;retAodno trenirane :re$e. Mo"9e je oda<rati ra=li ito trenirane :re$e ;a =ati: ;roveriti kako e se :ijenjati i=la=na vrednost. 4rito: je :o"9e oda<rati ra=li ite na ine ;ro@ene i=la=niA re=9ltata. Osnovni na in se odnosi na ;ro@ene i=la=niA re=9ltata =a sk9; ;retAodno deDinisaniA s@enarija koji:a je veli ina =avisne ;ro:enljive ne;o=nata.

15

8.
OSNOVNE !RIMENE NEURONSKIH MREA
Z. *o,0re+'3u +('*e C ;o:o9 ne9ronskiA :re$a :o$e:o ko:;resovati i deko:;resovati slike 9 realno: vre:en9. )o =na i da se na taj na in vri svoEenje =a;isa o sli@i na :anje ;odataka i:e e ne9ronska :re$a i=vriti rekonstr9k@ij9 ostaliA ;odataka. (;ak, ;riliko: rekonstr9k@ije se javljaj9 "9<i@i, tako da se ovoj ;ri:eni i ne ;osve9je neka naro ita ;a$nja, tako da se ee koriste standardni na ini ko:;resije slika. Z. *ontro(u 0ro6e+. C =a ovo ;odr9 je ;ostoji veliki interes. % ovo: sl9 aj9 ;rednost ne9ronskiA :re$a je njiAova Dleksi<ilnost, odnosno :o"9nost ;ronala$enja adekvatniA reenja na osnov9 ne;ot;9niA ;odataka. Mre$e se treniraj9 tako to i: se o:o"9i da ;os:atraj9 rad siste:a. +edno: 9ve$<ana :re$a :o$e 9s;jeno kontrolisati siste: ak i 9 9slovi:a kada ;ostoje odreEeni ;ro<le:i. Ov9 vrst9 ;ri:ene ne9ronskiA :re$a :o$e:o ;ronai 9 naDtnoj ind9striji, distri<9@iji elektri ne ener"ije, a ak se testira i =a kontrol9 aviona. Z. o1r.du +'9n.(. C ova :etoda je ;o"odna =a s:anjenje 9:a 9 i=o<li eni: elektri ni: si"nali:a, kao i =a ra=dvajanje si"nala i= viesi"nalno" ;renosa, =ati: =a 9klanjanje 9:a 9 teleDonski: linija:a, =a otkrivanje ne9s;elo" ;aljenja :otora i to na te:elj9 9:a itd. Z. o1r.du 9o:or. C koriste se =a o<rad9 ;rirodno" "ovora, =ati: =a ;revoEenje teksta 9 "ovor, davanje instr9k@ija ra 9nari:a 9= ;o:o "lasovniA nared<i, =ati: =a a9to:atsko ;revoEenje, si"9rnosne siste:e sa "lasovno: identiDika@ijo:, =a ;o:o "l9vi: oso<a:a i oso<a:a koje s9 Di=i ki ne;okretne itd. 4ro<le: koji se ovde javlja je taj to veina ne9ronskiA :re$a :o$e adekvatno ;re;o=nati "ovor sa:o one oso<e koja j9 je trenirala, a itada je koli ina re i koj9 :o$e ;re;o=nati o"rani ena. Z. o0t','2.6'3u 0ro6e+. C koriste se =a ;os:atranje rada neko" siste:a. Nakon to"a :re$i =adaje:o $eljeno =avrno stanje, ;a ona o;ti:i=9je odvijanje ;ro@esa kako <i se ;osti"lo $eljeno stanje. 4ri:er je o;ti:i=a@ija rada :otora kod a9to:o<ila kao <i se 9tedelo na ;otronji "oriva. 1B

Z. 0o+(o:ne 0r',ene C naj ee se ovakav na in koristi =a Dinansijske instit9@ije, a takoEe se :o$e kristiti i 9 :arketinke svrAe. 2inansijske instit9@ije ;o;9t <anaka koriste ne9ronske :re$e =a ;ro@en9 ri=ika ;r9$anja 9sl9"a svoji: klijenti:a, dok se 9 :arketinke svrAe naj ee koriste =a ;ro@en9 9 koje do<a dana trea =vati koje <rojeve teleDona kako <i se naj<olje :o"ao i=rekla:irati neki ;roi=vod kako <i se isti naj<olje ;rodao. Z. 0re0o2n.:.n3e u2or*. C naj ee se ;ri:enj9je 9 vojne svrAe kako <i se ;re;o=nale :ete, i 9 :edi@inske svrAe =a anali=9 <risa, =ati: =a ;ro@enjivanje retkiA nov ia, kontrole kvaliteta, detek@ije eks;lo=ivniA na;rava 9 ;rtlja"9 i sli no, a sve se to do<ija ;ri:eno: ;ro@esiranja slike ;9te: sen=ora. Z. 0re0o2n.:.n3e 2n.*o:. C ovo ;odr9 je ;ri:ene je ve 9veliko ko:er@ijali=ovano. % ;raksi se ;oka=alo da ovakve :re$e rade na visoko: nivo9 is;ravnosti 9 ;o"led9 ;re;o=navanja =nakova ak i oniA =nakova koji nis9 sl9$ili kao ;ri:eri =a treniranje :re$e. Ova :etoda se naj ee ;ri:enj9je kod ;re;o=navanja isto nja kiA ;isa:a. Z. 0r',enu u ,ed'6'n' C naj ee se ;ri:enj9j9 =a :odelovanje delova lj9dsko" tela, n;r. =a :odelovanje lj9dsko" kardiovask9larno", nervno", :iino" ili neko" dr9"o" siste:a. Model se i=raE9je ;re:a ;ojedin@9 tako da se na osnov9 nje"a :o$e odrediti tok ra=voja i nastanka <olesti. Mo$e see koristiti i =a detek@ij9 <olesti na osnov9 anali=e re=9ltata do<ijeniA ;o:o9 ra=niA <io:edi@inskiA sen=ora, =ati: =a 9s;ostavljanje dija"no=e na osnov9 si:;to:a, a jo jedna od vrlo =ani:ljiviA ;ri:ena je i ra=voj elektronsko" nosa koji se koristi 9 tele:edi@ini, tj. 4o:o9 ko"a se detekt9j9 :irisi =a vre:e o;era@ije, a ;oda@i o :iris9 se =ati: alj9 str9 nja@i:a, koji teleko:9nika@ioni: ;9te: 9 estv9j9 9 o;era@iji. 8.1 !r',en. neuron+*'7 ,re-. 2. *o,0re+'3u +('*e ,o:;j9terske slike sadr$e :no"o ;odataka odnosno detalja i =<o" to"a =aAtevaj9 velik9 koli in9 :e:orije =a skladitenje. ,orienje: teAnike ko:;resije ;odataka, :o"9e je 9kloniti neke od vika ;odataka sadr$aniA 9 slika:a i:e se is;9njavaj9 =aAtevi :anje" ;rostora =a skladitenje i krae" vre:ena =a ;renos. 4oto s9 ne9ronske :re$e 9 :o"9nosti da ;riAvate o"ro:an ni= ;odataka na 9la=9 odjedno:, i da iA <r=o o<rade, one se koriste 9 ko:;resiji slike.

16

Slika 6. .ott$eneck ti arhitekture neuronske mree "a kom resiju s$ike Na ;retAodnoj sli@i je ;rika=ana arAitekt9ra ne9ronske :re$e ;o"odna =a reavanje ;ro<le:a ko:;resije slike. Ovaj ti; str9kt9re se na=iva 7ottlene@k >9sko "rlo? ti; arAitekt9re ne9ronske :re$e, i sastoji se od 9la=no" sloja i i=la=no" sloja iste veli ine i sa srednji: sloje: koji je :anje veli ine i nala=i se i=:eE9 9la=no" i i=la=no" sloja. Odnos veli ine 9la=no" sloja i srednje" sloja je ko:;resioni odnos. (deja je sledeeH ;ret;ostavi:o da je ne9ronska :re$a ;rika=ana i=nad o<9 ena da i:;le:entira :a;9 identiteta na osnov9 9la=niA ;odataka. .ati: e se :ala slika ;redstavljena ne9ronskoj :re$i kao 9ala=, ;ojaviti na i=la=no: sloj9 9 isto: o<lik9.

Slika 7. .ott$eneck arhitektura neuronske mree "a kom resiju s$ike rea$i"ovana reko komunikacione mree Na ;retAodnoj sli@i je ;rika=ana identi na e:a ne9ronske :re$e =a ko:;resij9 slike koja je ;odeljena na dva dela. 4redajnik kodira i onda ;renosi i=la= skriveno: sloj9 >sa:o 1B vrednosti 9 odnos9 na B' vrednosti ori"inalne slike?, a ;rije:nik ;ri:a i dekodira 1B skriveniA i=la=a i "enerie B' i=la=a. 4oto :re$a i:;le:entira :a;9 identiteta, i=la= na ;rije:nik9 je ta na rekonstr9k@ija ori"inalne slike. +edan ;iksel, koj se sastoji od 8 <ita, se 18

9<a@9je 9 svaki 9la=ni vor 9 nadi da @e se na i=la=9 do<iti isti ;iksel nakon to doEe do ko:;resije slike. )j., :i $eli:o da :re$a o<avlja D9nk@ij9 istovetnosti. .a;ravo, iako se kod <ottlene@k ne9ronske :re$e ;oda@i sa B' vora na 9la=9 ;renose na sa:o 1B vorova 9 skriveno: sloj9, do stvarne ko:;resije i;ak ne dola=i jer =a ra=lik9 od ;rvo<itna B' 9la=a 9 ne9ronsk9 :re$9 koji s9 9stvari 8I<itne vrednosti ;iksela, i=la=i i= skriveno" sloja s9 stvarne de@i:alne vrednosti i=:eE9 I1 i 1, i:e je :o"9e ;reneti i <eskona an <roj <itova. 4rava ko:;resija slike se javlja nakon to se i=la=i i= skriveno" sloja kvanti=9j9 ;re ;renosa. Na sli@i is;od je ;rika=ana ti;i na e:a kvanti=a@ije koristei ! <ita =a kodiranje svako" 9la=a. % ovo: sl9 aj9 ;ostoji 8 :o"9iA <inarniA kodova koji :o"9 <iti Dor:iraniH 000, 001, 010, 011, 100, 101, 110, 111. #vaki od oviA kodova ;redstavlja o;se" vrednosti na i=la=9 skriveno" sloja. Na ;ri:er, ra=:otri:o ;rvi i=la= i= skriveno" sloja. ,ada je vrednost i=la=a i=:eE9 I1.0 i I0.65, ;renosi se kod 000F kada je i=:eE9 0.25 i 0.5, ;renosi se 101. Da <i s:o i=ra 9nali i=nos ko:;resije slike >:ereno 9 <iti:a ;o ;iksel9? =a ovaj nivo kvanti=a@ije, ;otre<no je nai odnos 9k9;an <roj <itova koji se ;renose H 9k9;an <roj ;ikesela ori"inalne slikeH B'. Dakle slika je ko:;resovana sa B' ;ikselaU8 <ita svaki V 512 <ita na 1B skriveniA vrednosti U ! V '8 <ita. Odatle sledi da je ko:;resovana slika oko 1/10 veli ine ori"inalne slike.

Slika 8. /vanti"acija i"$a"a skriveno& s$oja ,ao to vidi:o, ova e:a kodiranja nije <e= "9<itaka, ori"inalna slika ne :o$e <iti vraena jer s9 inDor:a@ije i="9<ljene 9 ;ro@es9 kvanti=a@ije. (;ak ona :o$e da ;roi=vede veo:a do<re re=9ltate kao to je ;rika=ano na sli@i is;od.

1J

Slika 9. 0ri&ina$na i rekonstruisana s$ika .a ;ro@es treniranja <ottlene@k ne9ronske :re$e koristi se slika =a treniranje veli ine 25BW25B ;iksela i na taj na in ne9ronska :re$a 9 i :a;9 identiteta. %la=no C i=la=ni ;arovi =a o<9k9 ne9ronske :re$e se do<ijaj9 sa slike koja se koristi =a treniranje i=dvajanje: :aliA delova, veli ine 8W8 na nas9:i ni: loka@ija:a na sli@i.Najlaki na in da se i=dvoji ovaj sl9 ajni 9=orak i= slike je da se "enerie ;ar sl9 ajniA <rojeva koji e ;redstavljati koordinate "ornje" levo" 9"la i=dvojeno" 9=orka. % nae: sl9 aj9 <ira:o nas9:i ne <rojeve i i j1 svaki i=:E9 0 i 2'8, i onda svaki ;ar > i1j? ;redstavlja koordinate "ornje" levo" 9"la i=dvojeno" 9=orka =a treniranje. &rednosti svako" od ;iksela sa 9=orka koji je i=dvojen sa slike se alj9 >s leva na desno, odo="o na dole? da <i se i="radio B' C di:en=ionalni 9la= 9 ne9ronsk9 :re$9 kao to je ;rika=ano na sli@i 10. 4oto je @ilj da :re$a na9 i :a;9 identi nosti, $eljene vrednosti na i=la=9 =a konstr9isane 9la=ne vrednosti s9 sa:e 9la=ne vrednosti, ;a se ;re:a to:e ;ar =a o<9k9 koristi =a 9sklaEivanje te$ina ne9ronske :re$e.

Slika 10. 2ormiranje u$a"a u neuronsku mreu ,ada se =avri treniranje ne9ronske :re$e, ko:;resija slike se de:onstrira 9 reca$$ Da=i. % ovo: sl9 aj9 na 9la= ne9ronske :re$e se o;et dovode delovi slike veli ine 8W8 ;iksela, ali se sada 9:esto nas9:i no" i=<ora, oni <iraj9 redo: s leva na desno, odo="o na 20

dole. .a svaki takav deo veli ine 8W8 ;iksela :o$e se i=ra 9nati i=la= i= :re$e koji se ;rika=9je na ekran9 kako <i se :o"ao vi=9elno ;os:atrati rad ne9ronske :re$e =a ko:;resij9 slike. Na kraj9 :o$e:o testirati koliko do<ro :re$a "enerali=9je ;odatke testiranje: na dr9"i: slika:a kao to je slika na dn9 ekrana java a;leta koji je ra=vijen =a ;otre<e ko:;resovanja slike 9= ;o:o ne9ronskiA :re$a. -ko re=9ltat testiranja nije dovoljno visoko" kvaliteta :o$e:o nastaviti da trenira:o :re$9.

Slika 11. 3ava a $et "a kom resovanje s$ike kori%4enjem neuronske mree 8.2 !re0o2n.:.n3e ;'r'('/n'7 +(o:. 1.2'r.no n. u0otre1' neuron+*'7 ,re-. 4ro<le: ;re;o=navanja o<lika je lj9di:a veo:a <li=akF sa nji:e se sre9 toko: @elo" $ivota, ;o evi od najranije" detinjstva. 4re;o=navanje o<lika nije 9roEena oso<ina ne"o se sti e 9 enje:. #;oso<nost ;re;o=navanja o<lika lj9di ra=vijaj9 i 9savravaj9 "otovo @elo" svo" $ivota. Do nedavno s9 sa:o $ivi or"ani=:i i:ali s;oso<nost ;re;o=navanja o<lika. % ;oslednje vre:e, =aAvalj9j9i ra=voj9 inDor:a@ioniA teAnolo"ija i veta ke inteli"en@ije, ostvareni s9 konkretni re=9ltati 9 o<lasti ;re;o=navanja o<lika. 4od ;oj:o: teorije ;re;o=navanja o<lika ;odra=9:eva:o :ate:ati ke :etode, ;rvenstveno na:enjene 21

a9to:atsko: klasiDikovanj9 >:ainsko:? konkretniA o<jekata. )eorija ;re;o=navanja o<lika oslanja se 9"lavno: na 9;otre<9 :etoda veta ke inteli"en@ije kao to s9H ne9ronske :re$e, D9==P lo"ika, eks;ertni siste:i, :ate:ati ka lo"ika, statisti ke :etode, itd. 4ro<le: ;re;o=navanja skenirano" teksta se :o$e svesti na ;ro<le: ;re;o=navanja slova koja s9 sastavni delovi teksta. .a :etode ;re;o=navanja slova se na en"lesko: je=ik9 koristi ter:in O;ti@al 3Aara@ter *e@o"nition >O3*?. #oDtver =a ;re;o=navanje teksta se koristi da <i se i=<e"lo ;rek9@avanje teksta koji se nala=i na ;a;irni: dok9:enti:a radi kasnije o<rade, korek@ije ili :e:orisanja 9 elektronsko: o<lik9. Na tr$it9 se :o$e nai soDtver =a ;re;o=navanje teksta kao to je *e@o"nita 4l9s, )eWt7rid"e i O:ni4a"e. Nedostatak oviA ;ro"ra:a je 9 to:e to s9 9"lavno: na:enjeni =a ;re;o=navanje latini niA slova. 8.2.1 !ro1(e,' 0re0o2n.:.n3. +(o:. 4riliko: ;re;o=navanja slova karakteristi ni s9 sledei ;ro<le:iH #lova ra=li ite veli ine (sta slova ra=li ito" i="leda 4ro<le: s;ojeniA slova 4ro<le: oteeniA slova 4ro<le: odreEivanja kraja re i 8.2.2 O R < +o=t:er 2. 0re0o2n.:.n3e te*+t. % dalje: tekst9 je o;isan al"orita: ;o ko:e radi NO3*R ;ro"ra: =a ;re;o=navanje teksta. % itavanje slike ;redstavlja ;rvi korak 9 al"orit:9 ;re;o=navanja. #a diska se 9 itava 9na;red ;ri;re:ljena slika 9 <it:a; Dor:at9.

22

Slika 12. 5$&oritam "a re o"navanje s$ova I2d:.3.n3e +(o:. '2 +('*e C da <i :o"li da ;re;o=na:o slovo, :ora:o "a i=dvojiti od ostatka slike. #lova se i=dvajaj9 jedno ;o jedno, od"ovaraj9i: redosledo: >sleva na desno i od "ore ;re:a dole?, na isti na in kao to to ini ovek koji ita tekst. (=dvajanje slova i= slike je ;odeljeno 9 dve o;era@ije. Tr.-en3e 3edne od t./*. n.redno9 +(o:.. Ova ;ro@ed9ra anali=ira slik9 i ;ronala=i koordinate ta ke koja ;ri;ada sledee: slov9. 4riliko: startovanja ;ro"ra:a ;retra"a se ;o inje od "ornje" levo" 9"la slike >0,0?. Odre>':.n3e n.3,.n3e9 0r.:ou9.on'*. u *o,e +e n.(.2' *o,0(etno +(o:o. Da <i s:o :o"li i=dvojiti ;ojedina na slova i= skenirane slike ;otre<no je 9tvrditi koje sve ta ke ;ri;adaj9 dato: slov9. ,ada se ;retAodno: ;ro@ed9ro: do<ij9 koordinate jedne od ta aka koje ;ri;adaj9 dato: slov9, ;otre<no je odrediti naj:anji ;ravo9"aonik koji o<9Avata sve ta ke dato" slova.

2!

% ovo: ;ro"ra:9 se naj:anji ;ravo9"aonik odreE9je :etodo: kon@entri niA kr9"ova. Oko naEene ta ke se is;it9j9 ta ke koje okr9$9j9 naEen9 ta k9. .ati: se kr9"ovi ;oveavaj9 dok se ne do<ij9 neo<ojene ta ke sa sve etiri strane. Nedostatak ove :etode je to ne :o$e da ra=dvoji sle;ljena slova a ;ro<le:i se :o"9 javiti i kod 9koeniA slova. S*.('r.n3e se vri da <i ;ro"ra: <io ne=avisan od veli ine slova. #kaliranje: se sva slova, <e= o<=ira na veli in9, svode na :atri@9 12W12 kakva je koriena ;riliko: o<9 avanja ne9ronske :re$e. DovoEenje: slova standardne veli ine na 9la= neuron+*e ,re-e, na i=la=9 se do<ija trideset realniA <rojeva 9 interval9 X0,1Y koji ;redstavljaj9 verovatno9 slova sa 9la=a. Oda<ira se slovo sa najveo: verovatnoo:. %koliko je slovo na 9la=9 korektno ;re;o=nato, na i=la=9 <i tre<alo da se ;ojavi ni= od trideset <rojevaF ;ri e:9 <i jedan od i=la=a i:ao vrednost jedan, dok <i ostali i:ali vrednost ;ri<li$no n9la. *edni <roj i=la=a koji i:a vrednost jedan ;redstavlja redni <roj slova 9 a=<9@i. % ;ro"ra:9 NO3*R ne9ronsk9 :re$9 :o$e:o ;os:atrati kao @rn9 k9tij9 >ne;o=nat9 slo$en9 lo"i k9 D9nk@ij9?. % naredno: korak9 se is;it9je da li je :ero:.tno;. ;re;o=navanja slova vea od "rani@e toleran@ije. %koliko jeste, slovo se dodaje ;re;o=nati: slovi:a, a 9koliko nije ;ojavlj9je se ekran na ko:e se ;rika=9je ;ro<le:ati no slovo i o:o"9ava korisnik9 da ;ok9a da ;re;o=na slovo i r9 no 9;ie N;ro<le:ati noR slovo, koje se =ati: ;ridr9$9je ostali: ;re;o=nati: slovi:a. 4ost9;ak se ;onavlja sve dok se ne doEe do ;oslednje" slova na sli@i. 4rvo<itno je =a:iljeno da se i=dvojeno slovo ;osle skaliranja stanji >;re ;ro;9tanja kro= ne9ronsk9 :re$9?, da ivi@e slova <9d9 de<ljine od jedno" ;iksela, ali se kasnije od9stalo od ;ri:ene ;ro@ed9re stanjivanja, jer se stanjivanje: "9<i va$an deo inDor:a@ija koje je slovo nosilo ;re stanjivanja slike. 8.2.3 Kon='9ur.6'3. neuron+*e ,re-e u 0ro9r.,u 2. 0re0o2n.:.n3e ;'r'('/n'7 +(o:. 4ro"ra: =a ;re;o=navanje irili niA slova NO3*R koristi troslojn9 ne9ronsk9 :re$9 koja i:a slede9 konDi"9ra@ij9H )roslojna ne9ronska :re$a sa <a@k;ro;a"ation al"orit:o: o<9 avanja 7roj ne9rona na 9la=no: sloj9 ><roj 9la=a?H 12W12 V 1'' 7roj ne9rona na srednje: sloj9H !5 7roj ne9rona na i=la=no: sloj9 ><roj i=la=a?H !0 7roj ;ri:era koji:a se :re$a o<9 avaH 15J0 >!0 slova 9 vie varijanti? )renin" sk9; koji: je o<9 avana ne9ronska :re$a sastojao se od 15J0 slova. .a o<9 avanje ove :re$e korieni s9 DontoviH -rial, )i:es NeK *o:an i 3o9rier NeK. #lova 2'

s9 ;isana 9 o<li@i:a nor:alno >Nor:al?, 9koeno >(tali@?, i ;ode<ljano >7old?. )akoEe s9 9;otre<ljene tri veli ine Donta koje s9 =ati: skaliranje: svedene na veli in9 12W12. .a sve ti;ove slova s9 koriena velika i :ala slova. &re:e ;otre<no =a o<9 avanje :re$e i=nosi 02H12H5! sati <e= ;rekida na ra 9nar9 3eleron !!!. Da <i se :re$a o<9 ila, <ilo je ;otre<no BB6 itera@ija. Maksi:alna "reka je i=nosila 0.0J886' a ;rose na "reka je i=nosila 0.0056!. 8.2.# O R < +o=t:er 2. 0re0o2n.:.n3e ;'r'('/n'7 +(o:. 4ro"ra: NO3*R je na;isan 9 7orland Del;Ai 5 ra=vojno: okr9$enj9. ,orisni ki interDejs vidi:o na sli@i 10. ,o:andni tasteri 9 "ornje: del9 ekrana i:aj9 sledee D9nk@ijeH 5oad C 9 itava skeniran9 <it:a; slik9 sa diska. % itana slika se ;rika=9je 9 levoj ;olovini ekrana. #ave C sni:a ;re;o=nati tekst sa desne ;olovine dela ;ro=ora 9 Dajl. NaEi C ko:anda kojo: se ;okree ;re;o=navanje teksta. 3rno <ela C konvert9je slik9 9 @rno <el9 ver=ij9. 4okretanje: ove ko:ande se eli:ini9 nijanse sive <oje. Ova o;@ija o:o"9ava ;re@i=nije ;re;o=navanje slova. (nvert C ko:anda =a invertovanje slike. #l9$i =a do<ijanje ne"ativa slike. *eset C <rie ;re;o=nati tekst i= desne ;olovine ekrana i o:o"9ava ;onovno ;re;o=navanje. Ova o;@ija se koristi ;re startovanja ;onovno" ;re;o=navanja teksta nakon ;odeavanja osetljivosti na "reke. -<o9t C inDor:a@ije o ;ro"ra:9. O;@ije C oda<iranje: ovo" tastera ;ojavlj9je se sa desne strane ekrana dodatni :eni >slika 11.? koji o:o"9ava dodatno ;odeavanje ;ro"ra:a. /Wit C na;9tanje ;ro"ra:a.

25

Slika 13. /orisniki inter,ejs ro&rama 4ro"ra: do=voljava ;ro:en9 ;ra"a osetljivosti na "reke ;riliko: ;re;o=navanja teksta. (ni@ijalna vrednost je 0.50, ali se osetljivost na "reke :o$e :enjati 9 interval9 od 0.!0 do 0.J0. %koliko je vrednost ovo" ;ara:etra vea, ;ro"ra: e ta nije ;re;o=navati slova, ali e =ato ee ;rijavljivati N;ro<le:ati naR slova.

Slika 14. !o(e%avanje oset$jivosti na &re%ke %koliko ;ro"ra: ;riliko: ;re;o=navanja teksta naiEe na slovo kod ko"a je verovatnoa slova :anja od $eljene, ;re;o=navanje se =a9stavlja i ;ojavlj9je se dijalo" na ko:e korisnik :o$e r9 no 9neti N;ro<le:ati noR slovo. 4ro"ra: 9 "ornje: desno: 9"l9 ;rika=9je 9vean9 slik9 ;ro<le:ati no" slova i ;redla$e slovo sa najveo: verovatnoo:. &erovatno9 2B

;redlo$eno" slova :o$e:o videti 9 "ornje: desno: 9"l9 ekrana. #lovo koje ;ro"ra: ;redlo$i vee je od ostaliA slova koja se nala=e na ;rika=ani: tasteri:a 9 levoj ;olovini ekrana. %koliko je ;ro"ra: do<ro ;ret;ostavio slovo, dovoljno je ;ritisn9ti d9":e NOkR i ;ro"ra: e slovo 9<a@iti 9 ;re;o=nati tekst, a =ati: nastaviti sa ;re;o=navanje:. %koliko je ;ro"ra: ;o"reno ;re;o=nao slovo, korisnik :o$e ;o:o9 :ia da oda<ere to N;ro<le:ati noR slovo. -ko korisnik $eli, :o$e N;ro<le:ati noR slovo da :e:orie i kasnije da ;okrene ;ro"ra: =a o<9 avanje. Nakon o<9 avanja, :re$a e 9s;eno ;re;o=navati i takva slova. % desno: del9 ekrana, is;od slike se nala=i ;olje 9 ko:e se ;rika=9je ;oslednji red ;re;o=nato" teksta da <i korisnik :o"ao lake identiDikovati slovo 9 =avisnosti od ;retAodniA slova.

Slika 15. 6$ova sa manjom verovatno4om o( &ranine Naj ei ra=lo" =<o" e"a ;ro"ra: =a9stavlja ;re;o=navanje je 9koliko naiEe na s;ojena slova >slova koja nis9 ;ravilno i=dvojena sa slike?. )akva NslovaR ;ro"ra: ne :o$e da o<radi ;oto je ;redviEena o<rada sa:o ;ojedina niA slova. )akva NslovaR ;ro"ra: lako 9o ava jer i:aj9 :al9 verovatno9. % to: sl9 aj9 je ;otre<no i= leve ;olovine ;ro=ora :ie: oda<rati o<a slova koja s9 ;rika=ana 9 "ornje: desno: del9 ekrana.

26

Slika 16. 6 ojena s$ova 4re;o=nati tekst :o$e:o :e:orisati na disk9 oda<iranje: o;@ije #ni:i. Nakon oda<iranja o;@ije #ni:i, ;ojavlj9je se dijalo" 9 koji: se odreE9je i:e Dajla ;od koji: $eli:o da tekst sni:i:o na disk. 4ro"ra:i =a ;re;o=navanje teksta s9 =na ajni i= ra=lo"a to ;ostoji veliki <roj tekstova >inDor:a@ija, =nanja? koji s9 =a;isani na ;a;ir9 >knji"e, ;oslovni dok9:enti, Dakt9re, ;ri=nani@e, ra 9ni, itd.?. 4re<a@ivanje oviA inDor:a@ija 9 di"italni o<lik =aAteva veliki lj9dski rad. 8.3 U0otre1. neuron+*'7 ,re-. u dete*6'3' ('6. n. +('*.,. #like koje sadr$e li@a s9 veo:a <itne 9 inteli"entnoj interak@iji ovekIra 9nar <a=iranoj na ;er@e;@iji, i na;ori istra$ivanja s9 9s:ereni ka ;re;o=navanj9 li@a, ;raenj9 li@a, ;ro@eni ;o=e, kao i ;re;o=navanj9 i=ra=a li@a. Da <i se i="radio a9to:ati=ovani siste: =a anali=9 inDor:a@ija koja li@a sadr$e, ;otre<an je ro<9stan i eDikasan al"orita: =a detek@ij9 li@a. .a dat9 slik9, @ilj detektora li@a je da identiDik9je sve re"ione na sli@i koji sadr$e li@e, <e= o<=ira na ;o=i@ij9, orijenta@ij9 i osvetljenje. Ovi ;ro<le:i s9 i=a=ovni =ato to li@a i:aj9 veliki ste;en varija<ilnosti 9 veli ini, o<lik9, <oji i tekst9ri. 7rojne teAnike s9 ra=vijene da <i se detektovala li@a na slika:a. Da li je :o"9e deDinisati ;oja: li@aZ Ova deDini@ija <i <ila veo:a s9<jektivna, i= ra=lo"a to 9 realno: $ivot9 lj9di koriste ra=li ite Gal"orit:eG, kako =a nala$enje o<jekata, tako i =a ;re;o=navanje. 8ta <i na ;ri:er9 i= slike 16 tre<alo klasiDikovati kao li@eZ

28

Slika 17. 7ica O<=iro: na ove ;otekoe, ;reostaje na: da ;ok9a:o da o<9 i:o ra 9nar na osnov9 ;ri:era.

2J

8.3.1 !ro1(e, dete*6'3e ('6. 4ostoji ;9no 9sko ;ove=aniA ;ro<le:a sa detek@ijo: li@a. 7oka$i"acija $ica i:a =a @ilj da naEe ;o=i@ij9 jedno" li@a na sli@iF ovo je ;ojednostavljen ;ro<le: detek@ije sa ;ret;ostavko: da 9la=na slika sadr$i sa:o jedno li@e. 3ilj (etekcije svojstava $ica je da otkrije ;ris9stvo i loka@ij9 o ij9, nosa, o<rva, 9sta, 9ij9 itd.. sa ;ret;ostavko: da slika sadr$i sa:o jedno li@e. !re o"navanje $ica ili i(enti,ikacija $ica 9;oreE9je 9la=n9 slik9 sa <a=o: i ;rijavlj9je ;okla;anja, ako ;ostoje. I(enti,ikacija $ica veriDik9je identitet ;ojedin@a =a dat9 slik9, dok :etode ra4enja $ica ne;rekidno ;ro@jenj9j9 loka@ij9 i :o"99 orijenta@ij9 li@a 9 sekven@i slika 9 realno: vre:en9. !re o"navanje i"ra"a $ica se <avi identiDikovanje: e:o@ionalno" stanja oso<a >srean, t9$an, lj9t, et@..?. O i"ledno da je detek@ija li@a ;rvi korak 9 <ilo ko: a9to:ati=ovano: siste:9 koji rjeava ;o:en9te ;ro<le:e. &alja ;o:en9ti da :no"i radovi koriste ter:in Gdetek@ija li@aG, a :etode nala=e sa:o jedno li@e 9 9la=noj sli@i. MeE9 <rojni: al"orit:i:a ;redlo$eni: =a detek@ij9 li@a, oni <a=irani na al"orit:i:a 9 enja s9 ;riv9kli ;9no ;a$nje =<o" odli niA re=9ltata. O<=iro: da se ove :etode 9 velikoj :jeri oslanjaj9 na sk9; =a treniranje, ;o:en9e:o i neke <a=e koje od"ovaraj9 ovo: =adatk9. &a$an ;ro<le: je kako vrednovati re=9ltate ;redlo$eniA :etoda =a detek@ij9. #koriji radovi na te:9 detek@ije o<i no ;orede al"orit:e ;o sto;i 9s;ene detek@ije kao i sto;i ;o"reniA detek@ija. )akoEe tre<a ;o:en9ti da ;ostoje i neke o;te ;riAvaene :etrike =a eval9a@ij9 kao to s9H <r=ina 9 enja, vrie:e i=vravanja, <roj ;ri:eraka ;otre<niA =a o<9 avanje i odnos ta niA i ;o"reniA detek@ija. 6to a (etekcije je odnos ta no detektovaniA li@a i <roja li@a koje ;re;o=naje ovjek. Deo slike identiDikovan kao li@e se 9=i:a =a ta an ako ;okriva vie od odreEeno" ;ro@enta stvarno" li@a. Detektori :o"9 da na;rave dvie vrste "reakaH ,a$se ne&atives I nedetektovana li@a na sli@i, ,a$se ositives I detek@ije koje =a;ravo nis9 li@a. 4ravi no vrednovanje <i tre<alo da 9=:e 9 o<=ir sve navedene Daktore, o<=iro: da se odreEeni ;ara:etri :o"9 ;odesiti da <i se ;oveala sto;a detek@ije ali se takoEe ;oveava i <roj ;o"reniA detek@ija.

!0

Slika 18. Na ovoj s$ici imamo 8 ,a$se ositive (etekcije1 i 8 ne(etektovana $ica 9,a$se ne&ative:; 4ro<le:i kod detek@ije li@a se ve=9j9 =a sledee DaktoreH !o2. I #like li@a variraj9, =avisno od relativne ;o=e ka:ere i li@a >Drontalno, '5 ste;eni, ;roDil, odo="o?, i odreEena svojstva li@a kao to s9 o i ili nos :o"9 <iti deli:i no ili ko:;letno =aklonjeni. !r'+u+t:o '(' od+u+t:o +tru*turn'7 *o,0onent' I #vojstva li@a kao to s9 <rada, <rkovi i nao are :o"9 <iti ;ris9tni i ;ostoji veliko variranje :eE9 ovi: ko:;onenta:a 9 o<lik9, <oji i veli ini. I2r.2 ('6. I Na detek@ij9 li@a direkno 9ti e i=ra= li@a oso<e. Z.*(on3eno+t I 5i@a :o"9 <iti deli:i no =aklonjena dr9"i: o<jekti:a. Na "r9;ni: Doto"raDija:a , neka li@a :o"9 <iti =aklonjena dr9"i: li@i:a. Or'3ent.6'3. +('*e I #like li@a variraj9 =avisno od rota@ije 9 odnos9 na o;ti k9 os9 ka:ere. U+(o:' +('*.n3. I ,ad se slika Dor:ira, Daktori kao to je osvetljenje >s;ektar, inten=itet? i karakteristike ka:ere >so iva, od=iv sen=ora? i:aj9 9ti@aja na i="led li@a. !1

&eo:a je teko na;raviti ro<9stan :odel koji <i :o"ao da 9s;eno rijei svaki od oviA ;ro<le:a. #iste:i =a detek@ij9 li@a s9 o<i no ko:<ina@ija vie al"orita:a, od kojiA svaki ;reva=ila=i odreEeni ;ro<le:, kao i ;red;arsiranje slike da <i se 9klonile ra=like 9 osvetljenj9 i <oje 9jedna ile >;ri:ena odreEeniA Diltara na slik9?. 8.3.2 S*u0 2. o1u/.:.n3e #k9; sadr$i !0550 slika. Od to"a 2'2J s9 slike li@a, dok ostatak ine slike koje ne sadr$e li@a. #lik9 9 ra 9nar9 ;redstavlja:o kao :atri@9 '+N "dje s9 M i N irina i visina res;ektivno. O<=iro: da se radi o sivoskalirani: slika:a, vriednosti 9 :atri@i s9 nijanse sive i= intervala X0I255Y. Nae slike s9 veli ine 1JW1J. Ova veli ina je od"ovaraj9a jer je :o"9e detektovati li@a :aliA di:en=ija na veliki: slika:a. #:anjivanje: di:en=ija, :o"9 se i="9<iti odreEeni detalji <itni =a detek@ij9 li@a, a na :anji: di:en=ija:a ak i lj9di loe klasiDik9j9 li@a. O<=iro: da je 9la= 9 :re$9 vektor, slik9 1JW1J ;retvara:o 9 vektor od !B1 [ 1 ele:enta, tako to =a;is9je:o vrednosti ;iksela , red ;o red 9 vektor, a ;oslednja vrednosti je la<ela 0I1, tj. da li je slika li@e ili ne. *adi lake" korienja ko:;letan sk9; je ;retvoren 9 3#& >vrednosti odvojene =are=o:? Dajl. .<o" n9:eri kiA ;ro<le:a koji se :o"9 javiti 9 tok9 o<9 avanja i loiA ;erDor:ansi :re$e kao klasiDikatora, ori"inalni ;oda@i se skaliraj9. % nae: sl9 aj9 skalira:o ;odatke na interval X0I1Y D9nk@ijo:H >J? Na slike je takoEe ;ri:enjen Dilter =a i=jedna avanje Aisto"ra:a. #like ne :oraj9 i:ati sve vrednosti sive. *e@i:o da konkretna slika i:a o;se" vrednosti XaI<Y. (=jedna avanje: Aisto"ra:a vrijednosti slika:o 9 interval X0I255Y D9nk@ijo:H >10? Osi: ;ara:etara, i=<or ;ri:eraka =a trenin" sk9; kao i njiAov <roj :o$e i"rati va$n9 9lo"9 =a ;erDor:anse klasiDikatora. .ootstra in& =natno do;rinosi ;o<oljanj9 sk9;a =a o<9 avanje, a sa:i: ti: i <olje: klasiDikator9. (deja ovo" ;ro@esa je da :re$9 o<9 i:o na ;o etno: sk9;9, a ;osle ;ri:erke koje je ;o"reno klasiDikovala dodaje:o sk9;9 =a o<9 avanje i ;onovo je trenira:o. ,onkretno, 9 ;ro@es9 detek@ije li@a $eli:o ovi: ;9te: da odstrani:o jedan deo ;ri:eraka koje :aina klasiDik9je kao li@a, iako ona 9 stvari to nis9 >,a$se< ositive?. Dakle, svaka slika koja nije li@e a :aina je klasiDik9je kao takvo :o"9e je dodati 9 sk9; =a o<9 avanje sa la<elo: 0. Nakon to"a ;onavlja:o ;ro@es o<9 avanja 9 nadi !2

da e:o ovakvi: ;ri:er@i:a otkloniti jedan re"ion slika koje nis9 li@a, a koji <i <ili detektovani. #li no :o$e:o 9raditi i sa li@i:a koja nis9 detektovana. Da <i i=a<rali ;ara:etre koji s9 o;ti:alni =a ;ro<le: na koje: radi:o ;otre<no je i=vriti 9nakrsn9 valida@ij9. #9tina ove Da=e 9 o<9 avanj9 sastoji se 9 sledee:H na sk9; ;odataka deli:o na dva dela, jedan na koje: e:o o<9 avati :ain9 i dr9"i na koje: e:o testirati re=9ltate >;odra=9:ijeva se da =na:o la<ele sviA ;ri:era i= test sk9;a?. Na start9 odreE9je:o o;se" 9 koje: $eli:o da tra$i:o vrednost ;ara:etara i vrednost =a koj9 ;oveava:o ;ara:etre 9 sledeoj itera@iji. 4rvo o<9 ava:o :ain9 sa ;rvi: ;aro: ;ara:etara, onda testira:o njen rad na ;retAodno i=dvojeno: test sk9;9 i ;a:ti:o ;ro@enat ta nosti klasiDika@ije. 4ro@es ;onavlja:o, s ti: to sada 9=i:a:o nove vrednosti ;ara:etara. -l"orita: se =avrava kad se is@r;e sve vrednosti ;ara:etara i= ;retAodno na=na eno" o;se"a. Na kraj9 <ira:o one ;ara:etre =a koje je ;re@i=nost klasiDika@ije <ila najvea i sa nji:a o<9 ava:o :re$9. 8.3.3 Stru*tur. ,re-e (s;ro<ano je nekoliko ti;ova !IslojniA i 'IslojniA :re$a. )estiranje ;onaanja :re$a je raEeno na :anji: sk9;ovi:a od oko 1000 ;ri:eraka, tako to je :re$a o<9 avana na 50 ;ri:eraka, a na ostaliA J50 testirana. Naj<olje re=9ltate je dala 'Islojna :re$a sa 25B ne9rona 9 ;rvo: i !2 ne9rona 9 dr9"o: skriveno: nivo9. .<o" :anjka ra 9narske sna"e, a;lika@ija i ;rika=ani re=9ltati s9 raEeni na !Islojnoj :re$i koja 9 skriveno: sloj9 i:a 128 ne9rona. Oda<rana :re$a je =ati: o<9 avana na sk9;9 od !61 ;ri:erka i=dvojeno: i= sk9;a od !0550. 4ro@es treniranja je trajao !! :in9ta. >Na etvoroslojnoj :re$i koja je dala naj<olje re=9ltate ovaj ;ro@es <i trajao od BI8 dana.? -ktiva@iona D9nk@ija je lo"isti ka D9nk@ija. -l"orita: 9 enja je #ack ro a&ation. 8.3.# Re2u(t.t' Detektor radi i sa slika:a 9 <oji i sa sivoskalirani: slika:a. .a detek@ij9 na vei: slika:a koriena je :etoda kli=aj9e" ;ro=ora. (deja je da kvadrato: di:en=ija 1JW1J G;roEe:oG @iel9 slik9, tako to "a kree:o ;o evi od koordinate >0, 0? do koordinate >W :aW I 1J, P:aW I 1J?. #vaki od kvadrata >re"iona? ;redaje:o klasiDikator9. -ko je dati re"ion klasiDikovan kao li@e, 9okviri:o "a i nastavlja:o dalje. Ovi: ;ost9;ko: ;ronala=i:o sva li@a koja s9 di:en=ija 1JW1J. Na slika:a se naj ee nala=e li@a veiA di:en=ija. Ovaj ;ro<le: reava:o 9:anjivanje: slike i ;onavljanje: ;retAodno navedeno" ;ost9;ka. %:anjivanje: slike, li@a koja s9 <ila vea :o"9 od"ovarati di:en=ija:a koje klasiDikator ;re;o=naje. #lika se o<i no 9:anj9je =a odreEeni Daktor, na ;ri:jer di:en=ije slike :no$i:o sa 0.8 ili 0.J. % sl9 aj9 da na 9:anjenoj sli@i detekt9je:o !!

li@e tre<a da 9okviri:o od"ovaraj9i re"ion na ;ola=noj sli@i. )o ;osti$e:o ti:e to koordinate ;iksela na koje: je detek@ija vrena i di:en=ije kvadrata koji o"rani ava re"ion ;o:no$i:o sa re@i;ro no: vredno9 Daktora sa koji: s:o 9:anjili slik9.

Slika 19. 6$i(in& *in(o* rimer ,ona an re=9ltat ;ro@esa je sk9; koordinata >W, P? i od"ovaraj9iA veli ina re"iona na koji:a je detektovano li@e . Data str9kt9ra je na sk9;9 od !026J ;ri:jeraka ta no klasiDikovalaH 2J622 >J8.1BT?. Od 2!1' li@a ta no s9 klasiDikovanaH 2258 >J6.56T?. 7roj DalseI;ositive detek@ijaH 556 >1.6JT?.

8.# !r',en. neuron+*'7 ,re-. u ,ed'6'n' +edna od o<lasti 9 kojoj se 9;otre<ljavaj9 ne9ronske :re$e je kardio;9l:onalna dija"nostika. Na in na koji ne9ronske :re$e rade 9 ovoj o<lasti i dr9"i: o<lasti:a :edi@inske dija"no=e je na osnov9 ;oreEenja vie ra=li itiA :odela. 4a@ijent koji i:a redovne ;re"lede 9 odreEenoj o<lasti, ;oveava :o"9nost otkrivanja <olesti ili disD9nk@ije.

!'

Slika 20. 6 ektar rimene neuronskih mrea u me(icini 4oda@i :o"9 <iti ;9ls, krvni ;ritisak, sto;a disanja itd. Modeli :o"9 da sadr$e varija@ije na starost, ;ol i nivo Di=i ke aktivnosti. 2i=ioloki ;oda@i ;a@ijenta se ;orede sa nje"ovi: ;retAodni: Di=ioloki: ;oda@i:a i/ili ;oda@i:a i= ra=li itiA "eneri kiA :odela. Odst;anja od nor:e se ;orede sa ;o=nati: 9=or@i:a odst9;anja =a svako =dravstveno stanje. Ne9ronska :re$a :o$e da 9 i ;ro9 avaj9i ra=na stanja i :odele, s;aja iA 9 ko:;letn9 kon@e;t9aln9 slik9, a =ati: dija"nostiDik9je stanje ;a@ijenta na osnov9 tiA :odela.

Slika 21. =ija&nosti,ikovanje rimenom neuronskih mrea Na sli@i is;od ;rika=an je ;ri:er str9kt9re <a=e ;odataka =a o<9 avanje ne9ronske :re$e. #vaka vrsta se odnosi na dr9"o" ;a@ijenta i o=na ena je n9:eri ki: kodo:. #vaki k1i ele:ent 9ka=9je na i C ti :edi@inski ;odatak >si:;to:, la<oratorijski ;odatak, itd.? k C to" ;a@ijenta.

Slika 22. !rimer strukture #a"e o(ataka "a treniranje neuronske mree 8.#.1 E(e*tron+*' no+ (deja o elektronsko: nos9 :o$e i="ledati ;o:alo a;s9rdno ali i:a nekoliko realniA ;ri:ena. /lektronski nos se sastoji od senPorsko" siste:a koji je osetljiv na Ae:ikalije >kao to je s;ektro:etar? i veta ke ne9ronske :re$e koja ;re;o=naje odreEene 9=orke Ae:ikalija.

!5

Miris ;rela=i ;reko ni=a Ae:ijskiA sen=ora, ove Ae:ikalije se =ati: ;revode 9 Dor:at ra=9:ljiv ra 9nar9 a na kraj9 veta ka ne9ronska :re$a identiDik9je Ae:ikalij9. 4ostoje vie ra=li itiA ;ri:ena ovo" 9reEaja 9 ra=ni: okr9$enji:a, 9 :edi@ini, ;reAra:<enoj ind9striji, =a identiDika@ij9 toksi niA ot;ada, anali=9 s:ea "oriva, detek@ij9 @9renja 9lja, identiDikovanje :irisa 9 do:ainstv9, :onitorin" kvaliteta va=d9Aa, :onitorin" e:isije Da<rika, testiranje ;od=e:niA voda... (deja korienja ovo" 9reEaja 9 :edi@ini je da is;ita :irise na tel9 kako <i se identiDikovali ;ro<le:i i 9s;ostavila dija"no=a. Na ;ri:er , :iris 9 daA9, :iris inDi@irane rane kao i :iris ra=niA telesniA te nosti :o"9 da 9ka$9 na ra=ne ;ro<le:e. veta ke ne9ronske :re$e s9 ak koriene i =a otkrivanje t9<erk9lo=e.

Slika 23. >$ektronski nos

8.8 Neuron+*e ,re-e ' u0r.:(3.n3e ro1ot',. &a$na o<last ;ri:ene ne9ralniA :re$a je o<last ro<otike. %o<i ajeno, ove :re$e s9 ;rojektovane da 9s:ere ro<otski :ani;9lator, koji ;redstavlja naj=na ajniji o<lik ind9strijsko" ro<ota, da 9Avati o<jekat na osnov9 ;odataka koje :9 daj9 sen=ori. Dr9"e ;ri:ene 9klj9 9j9 9;ravljanje i ;laniranje ;9tanje a9tono:no" ro<otsko" vo=ila. % ro<oti@i, "lavni =adatak ;odra=9:eva ;ravljenje ;o:eraja 9 =avisnosti od sen=orskiA ;odataka. Ovde se javljaj9 etiri ;ove=ana ;ro<le:a koje tre<a ra=likovatiH

!B

Slika 24. !rimer ro#otsko& mani u$atora ,ona ni @ilj ;ri 9;ravljanj9 ro<otski: :ani;9latoro: je ;o=i@ioniranje =adnje" eDektora ili ro<otske r9ke sa @ilje: da se, na ;ri:er, ;ok9;i o<jekat. #a ;re@i=no: ro<otsko: r9ko:, ovaj =adatak je relativno jednostavan i 9klj9 9je sledee korakeH OdreEivanje koordinata @ilja relativno 9 odnos9 na osnov9 ro<ota. )i;i no, kada ova ;o=i@ija nije 9vek ista, ovo se ostvar9je ;o:o9 odre\eno" <roja DiksiraniA ka:era ili dr9"iA sen=ora koji ;os:atraj9 s@en9 tako da se i= okvira slike odre\9je ;o=i@ija o<jekta 9 toj sli@i i i=vrava ;reIodre\ivanje koordinantniA transDor:a@ijaF #a ;re@i=ni: :odelo: ro<ota, i=ra 9nava se 9"ao ve=a koje dosti$9 @ilj >na ;ri:er, inver=na kine:atika?. Ovo je relativno jednostavan ;ro<le:F 4o:eranje ro<otske r9ke i ;ri<li$avanje dr$a a. Dakle, ako je sve ovo lako reiti sa visoko: ta no9, =<o" e"a 9 sve 9klj9 iti i ne9ralne :re$eZ *a=lo" le$i 9 ;ri:enjivosti ro<ota. ,ada se koriste ]tradi@ionalne] :etode =a 9;ravljanje ro<otsko: r9ko:, ta ni :odeli sen=ora i :ani;9latora s9 =aAtevani i sa: siste: :ora da <9de <a$daren. )ako\e, siste:i koji se lako troe i Aa<aj9, =aAtevaj9 est9 kali<ra@ij9 i odre\ivanje ;ara:etara. ,ona no, sa ra=voje: slo$enije" ada;tivno" 9;ravljanja dolo je do ra=voja Dleksi<ilnijiA ro<otskiA siste:a, kako sa sen=orske, tako i sa :otorne strane. !r'+tu0 1: Mre-e +. 0o2't':no, 0o:r.tno, +0re9o, ,ada se koristi siste: sa ;o=itivno: ;ovratno: s;re"o: =a 9;ravljanje :ani;9latoro:, ;otre<no je koristiti siste: sa so;stveni: nad=oro: 9 enja. +edan takav siste: je <io o;isan od strane 4saltis, #ideris i ^a:a:9ra >4saltis, #ideris, _ ^a:a:9ra, 1J88?. Ovde, :re$a, koja je kon=istentna 20di:en=inalno: ;o=i@ioniranj9 ro<otske r9ke, 9 i na osnov9 eks;eri:enata. !6

Dekartova @iljana ta ka W se "enerie 9 koordinantno: siste:9, na ;ri:er, ;o:o9 dve ka:ere koje ;os:atraj9 o<jekat. Ova @iljana ta ka je na;ajana 9 :re$i, koja "enerie 9"aoni vektor `. Mani;9lator se ;o:era na ;o=i@ij9 `, i ka:era odre\9je nov9 ;o=i@ij9 W] =adnje" eDektora 9 koordinantno: siste:9. &eli ina W] je ;onovo 9la= =a :re$9, koji re=9ltira 9 9"ao `]. Mre$a je tada trenirana na "rek9 a1V `I`].

Slika 25. ?enje u" omo4 ovratne s re&e !r'+tu0 2: To0o(o9'3. *o3. *on2er:'r. ,.0e O;isani siste: se sastoji od ro<otsko" :ani;9latora sa ! ste;ena slo<ode koji je 9 stanj9 da 9Avati o<jekat 9 !DI;rostor9. #iste: se ;os:atra ;o:o9 dve Diksirane ka:ere koje ;redstavljaj9 i=la= njiAoviA >WF P? koordinata 9 s:isl9 o<jekta i =adnje" eDektora.

Slika 26. /ohonen<ova mrea koja se o(nosi na i"$a" (veju kamera; #vako kretanje se satoji od dva ;okreta. % 9k9;no: ;okret9, ;os:atrana loka@ija o<jekta W je 9la= :re$e. 4o:o9 ,oAonenIove ne9ralne :re$e, ne9ron k sa najvio: vredo9 aktiva@ije je selektovan kao ;o<ednik, =ato to je nje"ov te$inski vektor Qk naj<li$i vrednosti W. Ne9roni, koji s9 ras;ore\eni 9 !D reetki, kores;ond9j9 na 1I1 na in sa ;odre"iono: !D radno" ;rostora ro<ota, odnosno ne9ronalna reetka je diskretna re;re=enta@ija radno" ;rostora. #a svaki: ne9rono:, vektor ` i +a@o<ijanova :atri@a - s9 ;ridr9$eni. .a vre:e 9k9;no" ;o:eraja, 9"ao `k se dovodi do ro<ota koji =ati: na ini ;okret koji re=9ltira 9 ;ro:en9 koordinata =adnje" eDektora.

!8

8.8.1 NOMAD < ro1ot *o3' r.2,')(3.

Slika 27. N0'5= ro#ot NOM-D je nervo=an, a i;ak ;ro:iljen ;retAodnik :aina koje e 9:eti da :isle. Nje"ov @ilindri ni tor=o je visok ;ola :etra, i:a No iR, N9iR, Nr9keR =a Avatanje i ostale sen=ore koji :9 ;o:a$9 da se kree. Ono to NOM-D ini dr9"a iji: od :no"iA ro<ota je to radi <e= kodovaniA instr9k@ija ili ;ravila. %:esto to"a, i:a :o=ak ko"a si:9lie ko:;j9ter, sa oko 10 000 si:9liraniA elija i vie od :ilion ve=a :eE9 nji:a koji:a o;a$a svoje okr9$enje i rea"9je na nje"a. Dok se kree 9 ;rostor9 9 ko:e s9 ;osejane :ale o<ojene ko@ke, on :o$e da ovlada novi: sit9a@ija:a i da 9 i i= svojiA "reaka. Neke od ko@ki s9 ;r9"aste i ;rovode str9j9, to iA ini N9k9sni:aR. Ostale ko@ke s9 ta kaste i ne ;rovode do<ro str9j9, ;a s9 :anje 9k9sne. 4os:atraj9i ko@ke i N;ro<aj9iR iA svoji: elektri ni: sen=ori:a, NOM-D 9 i da o<iEe ta kaste ko@ke i da se 9;9ti ka oni: 9k9sniji:a. 8.? !r',en. neuron+*'7 ,re-. u 1er2.n+*o, 0o+(o:.n3u Ne9ronske :re$e :o"9 <iti 9;otre<ljne kao alati 9 <er=ansko: ;redviEanj9. ,o:;anija '3 2utures tvrdi da je ostvarila ;riAod od neverovatniA 1J2.2 T =a ;eriod od 2 "odine koristei svoje :etode ;redviEanja =asnovane na ne9ronski: :re$a:a. Oni takoEe tvrde da s9 ne9ronske :re$e jednostavne =a 9;otre<9 i da se :o$e ;resko iti ra=voj slo$eniA ;ravila. 4otre<no je sa:o deDinisati @ene i ;oka=atelje koje $eli:o da koristi:o dok ne9ronska :re$a radi ostalo. !J

Ne9ronske :re$e :o"9 <iti jednostavne =a korienje kada je :re$a ;odeena, ali o<9ka i ;odeavanje :re$e =aAtevaj9 isk9stvo, vetin9 i str;ljenje. Ne9ronske :re$e s9 ;oka=ale veliki 9s;eA 9 ;redviEanj9 trendova na tr$it9. (deja <er=ansko" ;redviEanja nije nova, naravno. 4oslovni lj9di esto ;ok9avaj9 da ;redvide tr$ite t9:a enje: s;oljanjiA ;ara:etara kao to s9 ekono:ski ;oka=atelji, javno :njenje i tren9tna ;oliti ka kli:a. MeE9ti: ;ostavlja se ;itanje da li ne9ronske :re$e :o"9 otkriti trendove 9 ;oda@i:a koje lj9di ne :o"9 ;ri:etiti i kasnije 9s;eno koristiti ove trendove 9 svoji: ;ro"no=a:a. %= ;o:o relativno jednostavne ne9ronske :re$e sa sa:o B DinansijskiA ;oka=atelja na njeno: 9la=9, ;osti"n9ti s9 do<ri re=9ltati.

Slika 28. Neuronska mrea "a re(vi@anje na #er"i sa A u$a"nih rome$jivih Na ;retAodnoj sli@i je ;rika=ana jednostavna #ack ) ro a&ation ne9ronska :re$a sa tri slija koja je o<9 ena i testirana =a velik9 koli in9 istorijskiA ;odataka sa tr$ita. Ovde i=a=ov nije 9 arAitekt9ri sa:e ne9ronske :re$e ve 9 i=<or9 varija<li i inDor:a@ija koje se koriste =a njeno o<9 avanje. ak i <olji re=9ltati ;osti"n9ti s9 sa #ack ) ro a&ation ne9ronsko: :re$o: koja i:a dva skrivena sloja i vie od B ;ro:enljiviA. Na internet9 je veo:a teko nai vie inDor:a@ija o ovo: na in9 9;otre<e ne9ronskiA :re$a jer ko:;anije koje rade sa nji:a $ele da sa 9vaj9 tajn9. 4ostoje jo neke ;ri:ene ne9ronskiA :re$a 9 Dinansija:aH ;redviEanje val9ta ;redviEanje @ene Dj9 ersa ;redviEanje ;oslovniA ne9s;eAa ;ro@ena ri=ika od =ad9$ivanja odo<ravanje kredita ;ro@ena <ankarskiA ne9s;eAa

'0

8.@ !r',en. neuron+*'7 ,re-. u r./un.r+*', '9r.,. Naj ea ;ri:ena ne9ronskiA :re$a 9 ra 9narsi: i"ra:a je kontrola kretanja o<jekata. % ovoj ;ri:eni sen=ori na o<jekt9 sk9;ljaj9 inDor:a@ije i= okoline, ne9ronska :re$a iA o<raE9je, a =ati: na svoji: i=la=i:a daje vrednosti koje se ;retvaraj9 9 ;o:ake o<jekta 9 ;rostor9. ,ao najjednostavniji ;ri:er :o$e se 9=eti :odel oklo;no" vo=ila koje se kree na "9seni@a:a. &e jednostavno: ne9ronsko: :re$o: iji je i=la= ;ro;or@ionalan ;o:ak9 svake od "9seni@a, :o$e:o 9s;eno =ao<ila=iti ;re;reke ili slediti neki @ilj. Najve9 ko:er@ijaln9 9;otre<9 ovakve :re$e nala=e 9 ra=ni: si:9la@ija:a a9to:o<ilskiA trka, od kojiA je naj;o=natija ]]3olin M@*ae *allP]].

Slika 29. !rimer BCo$in 'cDae Da$$EF Da <i :o"li o<jasniti ;oja: ;ro@ena ri=ika, ;otre<no je videti 9 koji: se i"ra:a on javlja i =ato. .a:islite i"r9 *)# ti;a, dakle i"ra i:a :o"9nost da stvara svoj9 vojsk9, i da 9= ;o:o nje nadvlada ne;rijatelja. %koliko ;ret;ostavi:o da ;ostoje tri osnovna ti;a na;ada >vaa=d9A, voda, ko;no? ;otre<no je ra 9narsko: ;rotivnik9 o:o"9iti ;ro@en9 ri=ika, tj. o:o"9iti :9 da se adekvatno <rani od o ekivano" na;ada. +edna od :o"9iA :etoda je 9;otre<a ne9ronskiA :re$a, koji:a na 9la=9 ;redaje:o ;odatke o <rojnosti i sna=i ;ojedino" ti;a jedini@a >na;ada?, ;a ona na osnov9 to"a ;redla$e o<ran9. ,ako se ovakav ;rin@i; ;ri:jenj9je 9 realno: vre:en9, ne9ronska :re$a konstantni: 9 enje: ;rila"oEava te$in9 i"re svako: i"ra 9. Na$alost, ovakav ti; :re$a se jako retko koristi , a kao ;ri:eri se :o"9 navesti sa:o i"re ]]-"e oD /:;ires]] i ]]7la@k _ QAite]].

'1

Slika 30. !rimer B5&e o, >m iresF 4redviEanja se vrlo esto i=vode 9;ravo ne9ronski: :re$a:a =<o" jednostavne

i:;le:enta@ije i ;osti=anja eDekta ne;redvidljivosti 9 i"ri . ,ao ;ri:er :o$e:o 9=eti nek9 si:9la@ij9 <oksa. % njoj je i"ra 9 na ras;ola"anj9 sa:o nekoliko vrsta 9dara@a, a njiAovo: ko:<ina@ijo: tre<a ;rotivnik9 =adati to ve9 tet9. 4rotivnik t9 tet9 :o$e :ini:i=irati 9koliko i s;ravno ;redvidi >M;ro itaN? sledei ;ote=, ;a =ati: i=vede <lokad9 ili ;rotivna;ad. )akva ;redviEanja se naj ee <a=iraj9 na ;ro9 avanj9 tri ;retAodna ;ote=a, tj. ne9ronska :re$a o<avlja ;re;o=navanje o<ra=a@a ;onaanja. ,o:er@ijalni ;ri:er 9;otre<e ovakvo" ti;a ne9ronske :re$e je MMortal ,o:<atN serijal 9 ko:e s9 svi ;rotivni@i Da<ri ki trenirani da ;re;o=naj9 ;ote=e i"ra a.

Slika 31. !rimer B'orta$ /om#atF Odr$avanje $ivota, najosnovniji od sviA instinkta, 9 ra 9narski: i"ra:a si:9lira se na dva na inaH stanji:a ili ;o:o9 ne9ronskiA :re$a. 4ara:etri koji se ;redaj9 :re$i s9 naj ee nivo ener"ije i"ra a, nivo i"re, sna"a ;rotivnika, i ostali ;ara:etri, a kao od"ovor :re$a javlja da li st9;iti 9 <ilo kakav kontakt sa i"ra e:. ,ao ;ri:er ovakve 9;otre<e ne9ronskiA :re$a :o$e se 9=eti n;r. ]]b9ake 2]] 9 koje: ra 9narski ;rotivni i ;o:o9 ne9ronskiA :re$a odreE9j9 da li da na;adn9 i"ra a. '2

8.@.1 Neuron+*e ,re-e u 0red:'>.n3u '9re '*+ < o*+ #;e@iDi nost ovo" ;ri:era ;redviEanja i"re iksIoks jeste 9 to:e da :re$a koja se koristi =a odl9k9 o sledee: ;ote=9 ne do<ija na 9la=9 tren9tno stanje ;lo e, ve isklj9 ivo ;retAodni ;ote= koji je na;ravio ;rotivnik. Mre$a :ora sa:a =a;a:titi koje je ;retAodne korake ;red9=ela, i koje je korake ;od9=eo ;rotivnik, i na osnov9 to"a =aklj9 iti o tren9tno: stanj9 ;lo e, ;a sto"a :no"i na=ivaj9 ov9 :re$9 Msle;o:N ne9ronsko: :re$o:. (ks C Oks se 9o<i ajeno i"ra na :re$i !W! kvadratia. #vaki ras;ored o=naka na ;lo i :o$e se na=vati stanje: i od:aA :o$e:o videti da ;ostoje stanja ;re i ;osle svako" ;ote=a.

Slika 32. Gri ra"$iita stanja $oe %koliko =na:o kolika je verovatnoa ;o<ede =a odreEeno" i"ra a i= <ilo ko" stanja ;lo e :o$e:o reali=ovati ne9ronsk9 :re$9 koja e ;a:titi te verovatnoe i ;re:a nji:a <irati ;ote=e. Da <i ;rora 9nali tra$ene verovatnoe koristi se al"orita: =a ;ot;o:o"n9to 9 enje. 4ost9;ak je sledeiH svi: stanji:a ;ridr9$i verovatno9 ;o<ede 50T odi"raj jedn9 ;artij9 i"re 9koliko je :re$a do<ila ili odi"rala nereeno ;rila"odi te$ine =a svaki korak i"re ;re:a 100T >na"rada 1? 9koliko je :re$a i="9<ila ;rila"odi te$ine =a svaki korak ;re:a 0T >na"rada0? ;onavljaj korake 2I5 =a sve :o"9e ko:<ina@ije )o =na i da se verovatnoa ;o<ede i= svako" stanja kree ;o jedna iniH 4>s? V 4>s? [aX4>s]? I 4>s?Y >11?

"de jeH 4 C verovatnoa, s I ;retAodno stanje >;re ;ote=a?, s] I novo stanje >nakon ;ote=a?, c I Daktor 9 enja. 4rakti an ;ri:er do<ijanja verovatnoe ;re:a navedeno: ;ravil9 dat je na sli@i.

'!

Slika 33. !roraun verovatno4a stanja ("ra a >O? na"raEen je sa 1, dok je i"ra # >O? na"raEen sa 0 jer je i="9<io ;artij9. Da <i navedeni al"orita: is;ravno D9nk@ionirao ;otre<no je Daktor 9 enja ><r=in9 9 enja? H konstantno s:anjivati sa <roje: odi"raniA ;artija jer ina e siste: odla=i 9 =asienje. )akoEe ;riliko: Da=e 9 enja ne9ronske :re$e na:erno ne odi"ravaj9 naj<olji :o"9i ;ote=, ve svaki 8 ;9t sl9 ajno i=a<er9 novo stanje. Na taj na in je osi"9rano da se :re$a ;ri 9 enj9 ne =a"lavi na neko: lokalno: :aksi:9:9. ,ad koristi:o "ore navedeni al"orita: =a stvaranje ;otre<niA ;odataka =a treniranje kona ne :re$e <r=o se :o$e 9o iti da je kodirano ;revie ;odataka i da njiAov <roj tre<a s:anjiti. Na taj na in e :re$a <r$e ;a:titi ;odatke, a i "enerisanje test ;odataka je dosta jednostavnije. 8.A Neuron+*e ,re-e ' 0ro1(e, tr9o:./*o9 0utn'*. 4TS!5 4ro<le: je ovakavH =a =adti <roj "radova i 9daljenosti :eE9 svaki: od njiA, ;otre<no je nai najkrai ;9t kro= sve "radove tako da se svaki "rad ;oseti ta no jedno:. ,oAonenova sa:oor"ani=9j9a :re$a je na in na koji :o$e:o a;roksi:irati )#4, a ;onekad "a i ta no reiti. Naj ee do<ijeno reenje =avisi od "9stine i :esta "radova. (deja ve=ana =a reavanje ,oAonenove ne9ronske :re$e je 9;otre<a t=v. elasti ne niti >;o;9t "9:e? koja o<lik9je 9 ;o etk9 jedan =atvoren ;rsten 9 @entr9 :asa "radova. Ovde se nala=i:o 9 dvodi:en=ionalno: ;rostor9 ;a je svaki "rad =adat svojo: ;o=i@ijo: >vektoro:? ci = > +, E ?, i = 1,..., N . #lika !'. ;rika=9je sl9 aj ' "rada.

''

Slika 34. >$astina nit u oetnom o$oaju (deja a;roksi:iranja je ta da se sl9 ajno toko: ;ost9;ka <iraj9 "radovi, ;a se ne9roni ;o:i 9 9 njiAovo: s:er9, redo: najvie ne9ron koji je naj<li$i "rad9 a ;oto: ;ro;or@ionalno 9daljenosti od to" ne9rona, svi ostali ne9roni. Na taj na in e se elasti na nit iriti sve dok neki ne9roni ne ;reklo;e ili se ;ri<li$e "radovi:a. )i:e se stvara novi ;rsten koji ;redstavlja o;ti:alni ;9t :eE9 "radovi:a. )o le;o radi =a :anji <roj "radova :eE9ti: kod veliko" <roja "radova do i=ra$aja dola=i svojstvo "r9;isanja ili @l9sterin"a. ,ada je "9stina "radova na neko: :est9 velika, do"aEa se da neki ne9ron ;re=ent9je t9 "r9;9 "radova ;ri e:9 se s:eta 9 njiAov @entar "ledano ;o=i@iono na karti. ,oAonenova ne9ronska :re$a se sastoji od dva slojaH sloj koji sadr$i dva 9la=na ne9rona =a koordinate "radova, i i=la=ni sloj koji i:a IN ne9rona ;ostavljeniA 9 =a:iljen ;rsten. )e$ine svako" ne9rona ;redstavljaj9 nje"ove koordinate ili ;o=i@ij9 na karti. #lika !0. ;rika=9je arAitekt9r9 :re$e.

Slika 35. /ohenova neuronska mrea "a re%avanje G6! Dole je naveden ;ost9;ak koji se ;onavlja nekoliko ;9ta koliko je ;otre<no da se veina ne9rona ;onaa stati no na karti "radova >ne:a vie ;o:i@anja ne9rona na karti, ;rsten je o<likovan i )#4 je rieen?. 1. 7ira se sl9 ajno jedan "rad 2. (=ra 9nava se 9daljenost sviA ne9rona od to" "rada i i=a<ere se naj:anje 9daljeni ne9ron !. *a 9na se D9nk@ija okoline naj:anje 9daljeno" ne9rona '. Delta ;ravilo 9 enja =a sve ne9rone 5. %slov =a9stavljanja ><roj itera@ija? C ;onovi 1.

'5

8.B Neuron+*e ,re-e ' u,etno+t Ne9ronske :re$e i:aj9 veliki ;oten@ijal =a do;rinos 9:etnosti. Ovde se =a 9 enje ne9ronske :re$e koristi al"orita: kaskadne korela@ije =a vi=9eli=a@ij9 sl9 ajne vrednosti i=la=a i= ne9ronske :re$e. .<o" to"a to s9 te$inske vrednosti ve=a :eE9 ne9roni:a sl9 ajno i=a<rane svaka do<ijena slika je jedinstvena.

Slika 36. 3ava a $et "a &enerisanje s$ika Na a;let9 koji je ;rika=an na sli@i i=nad kliko: na MNeK i:a"eN :o"9e je do<iti nove jedinstvene ne9ronske slike. 4ro:eno: <roja skriveniA ne9rona >od 0 do 20? :enja se vi=9elna ko:;leksnost slike.

Slika 37. 6$ike (o#ijene u" omo4 neuronske mree 8.1C !e0o2n.:.n3e +.o1r.;.3n'7 2n.*o:. % sao<raajni: 9slovi: siste: =a ;re;o=navanje sao<raajniA =nakova se koristi da 9;o=ori vo=a a, da ko:and9je ili =a<rani odreEene radnje. 7r=a a9to:atska detek@ija i ;re;o=navanje sao<raajniA =nakova 9 realno: vre:en9 :o$e da rastereti vo=a a i na taj na in =na ajno ;ovea <e=<edn9 vo$nj9 i 9do<nost. Ovakav siste: :o$e <iti va$an =a a9to:atsko inteli"entno 9;ravljanje vo=ilo: ili kao siste: =a ;odrk9 vo=a i:a. MeE9ti: , identiDika@ija sao<raajniA =nakova 9 ;rirodno: okr9$enj9 na ;rirodnoj ;o=adini i dalje ostaje i=a=ovan =adatak. 4rva Da=a 9 ;re;o=navanj9 se odnosi na detek@ij9 sao<raajniA =nakova 9 okvir9 video sekven@e ili slike "de se vri ;ro@esiranje slike. Dr9"a Da=a se odnosi 'B

na ;re;o=navanje oviA detektovaniA =nakova i =asnova je na 9;otre<i veta kiA ne9ronskiA :re$a. -l"orit:i =a detek@ij9 se o<i no =asnivaj9 na anali=i o<lika ili <oje odreEeno" se":enta. Na sli@i !8 je il9strovan kon@e;t =a a9to:ati=ovano inteli"entno 9;ravljanje vo=ilo: ili siste: =a ;o:o vo=a 9.

Slika 38. /once t automatiEovano& inte$i&entno& u rav$janja vo"i$om koji se moe koristiti i kao omo4 vo"au #ni:anje se vri ;o:o9 video ka:ere a =ati: se kreiraj9 slike. Nakon to"a se i= slike i=dvajaj9 svi sao<raajni =na@i i "eneri9 se :ale sli i@e koje se na=ivaj9 M:rljeN. #vaka :rlja se ;rosleE9je Dor:i =a ;re;o=navanje inei tako dra"o@en 9la=ni ;ara:etar 9 veta k9 ne9ronsk9 :re$9 9 Dinalnoj Da=i ;re;o=navanja. Na sli@i !J je ;rika=ana konDi"9raija siste:a.

Slika 39. /on,i&uracija sistema

'6

8.11 A"VINN 4Autono,u+ ".nd Ve7'6(e In . Neur.( NetDor*5 -5&(NN je siste: ;er@e;@ije koji 9 i da kontrolie N-&5-7 vo=ilo "ledaj9i oso<9 koja vo=i. -5&(NN arAitekt9ra se sastoji od jedno" skriveno" sloja 9 #ack ) ro a&ation ne9ronskoj :re$i. %la=na sloj :re$e je !0W!2 dvo C di:en=ionalna N:re$nja aR koja ;ri:a 9la= sa video ka:ere koja je :ontirana na vo=ilo. #vaka 9la=na jedini@a je 9 ;ot;9nosti ;ove=ana sa ;et ne9rona 9 skriveno: sloj9 koji s9 dalje 9 ;ot;9nosti ;ove=ani na i=la=ni sloj od !0 jedini@a. (=la=ni sloj je linearna re;re=enta@ija ;rav@a koji: <i voPilo tre<alo da ;9t9je kako <i ostalo na ;9t9.

Slika 40. N5J75. vo"i$o Mre$a se naj;re trenira 9= ;o:o vo=a a, tako da je 9la= 9 ne9ronsk9 :re$9 tren9tna slika ;9ta, a i=la= je ono to vo=a radi =a volano:. .a to vre:e <a@k C ;ro;a"ation al"orita: :enja te$ine i=:eE9 ve=a kako <i ne9ronska :re$a ;roi=vela od"ovaraj9i od=iv na 9la=ne slike ;9tanje ;o kojoj se vo=ilo kree. 4osle ot;rilike tri :in9ta N;os:atranjaR kako oso<a vo=i, -5&(NN je 9 stanj9 da ;re9=:e i nastavi vo$nj9 sa:ostalno. -5&(NN je 9s;eno testiran na a9to;9t9 d9$ine J0 :ilja ;ri <r=ini od 60 :;A.

'8

Slika 41. !rika" neuronske mree Na sledeoj sli@i je ;rika=ana slika 9la=a 9 ne9ronsk9 :re$9.

Slika 42. ?$a" u neuronsku mreu

'J

8.12 Eoo9(e 0retr.9. < neuron+*e ,re-e Naj<olji i najjednostavniji ;ri:eri =a o<janjavanje ;rin@i;a rada ne9ronskiA :re$a s9 oni koje se 9 ;raksi svakodnevno koristi:o, a koji s9 na: ve dost9;ni i jako do<ro ;o=nati. +edan od ;ri:era koji svakako tre<a istakn9ti je Loo"le. )o je ;retra$iva ;o:o9 koje" se vrlo jednostavno, 9 kratko: vre:en9 :o$e de:onstrirat rad ne9ronskiA :re$a i to tako to 9 9 ;retra$iva 9nese:o odreEeni ;oja: koji je neis;ravan na;isan >n;r. #<rija?, a sli an je ;oj:9 koji =aista tra$i:o. .aAvalj9j9di rad9 ne9ronske :re$e, ovaj ;retra$iva e na ekran9 i=<a@iti ta an ;oja: >#r<ija?. Ova :etoda na: o:o"9ava da jednostavno sa"leda:o re=9ltate rada ne9ronskiA :re$a.

Slika 43. !rimer ra(a neuronskih mrea na retraivau

50

?.
ZAK"JU&AK
Ne9ronska :re$a ;redstavlja jedan ko:;leksan :ate:ati ki siste: koji: je na ;ojednostavljen na in ;redstavljen lj9dski :o=ak. 4oto je re o ;rila"odljivo: siste:9, nala je ;ri:en9 9 :no"i: o<lasti:a. NjiAova ;rila"odljivost se o"leda 9 :o"9nosti ;re;o=navanja i oniA ;ri:era na osnov9 kojiA :re$a nije 9ve$<avana, kao i 9 :o"9nosti konstantno" 9 enja =a vre:e rada :re$e. Osnovni nedostatak korienja i 9;otre<e ne9ronskiA :re$a le$i 9 injeni@i da je ;ronala$enje adekvatne str9kt9re :re$e i adekvatniA ;ri:era =a 9ve$<avanje slo$en i ko:;likovan ;osao. 7e= o<=ira to s9 :no"i a9tori dali itav ni= ;rakti niA saveta kako je :o"9e str9kt9rirati :re$e =a ;ri:en9 na odreEeno: ;odr9 j9, o;ti:alni ;ara:etri :re$e se :o"9 9stanoviti isklj9 ivo korienje: ni=a testova. 7e= o<=ira na njiAove nedostatke, ne9ronske :re$e s9 nale svoj9 irok9 ;ri:en9 9 ra=li iti: o<lasti:a lj9dske delatnosti ;o evi od :re$e Madaline koja je ;o=nata ;o to:e to 9klanja 9: 9 teleDonski: linija:a, ;reko anali=e "ovora, ;a sve do 9;otre<e 9 :edi@ini, Dinansijski: 9stanova:a, o<ra=ovanj9 itd. One s9 :eE9so<no ;ove=ane i sa konstr9ktivisti ko: teorijo: 9 enja. % enje ne9ronske :re$e se :o$e ;os:atrati kao aktivno konstr9isanje re;re=enta@ija na osnov9 9la=niA ;odataka. % sklad9 da navedeno: teorijo: 9 enja, na osnov9 koje i lj9di 9 e na isti na in, ne9ronske :re$e se :o"9 ;ri:ieniti 9 ;ok9aj9 ra=9:evanja na ina na koji lj9di 9 e, odnosno aktivno "rade svoje re;re=enta@ije. 4re:a to:e, ovaj rad ;redstavlja teorijske osnove koje je ;otre<no 9svojiti da <i se :o"li 9;9stiti 9 ;ri:en9 ne9ronskiA :re$a. (=neseno je ;ar ideja i na ina na koji <is:o :o"li ;rist9;iti reali=a@iji inteli"entniA siste:a <a=iraniA na ne9ronski: :re$a:a. 79d9i da je na in ;ri:ene ne9ronske :re$e ;otre<no do<ro os:isliti, ra=li ite ideje s9 9vek do<rodole.

51

@.
"ITERATURA
X1.Y -:ato, 2., 5o;e=, -., 4ena C Mende=, /.M., &anAara, 4., 0a:;l, -., 0avel, +. >201!?. -rtiDi@ial ne9ral netKorks in :edi@al dia"nosis. 3ourna$ o, 5!!7I>= .I0'>=ICIN>; XOnlineY. J>2?, str. '6 C 58. Dost9;no naH Att;H//ja<.=sD.j@9.@=/11d2/Aavel.At:l X;rist9;ljeno J. okto<ar 201!Y. X2.Y -non >n.d?. 5 $ications o, neura$ net*orks. X(nternetY Dost9;no naH Att;H//KKKI@sI Da@9ltP.stanDord.ed9/eero<erts/@o9rses/so@o/;roje@ts/ne9ralI netKorks/-;;li@ations/davea;;s.At:l X;rist9;ljeno 6. okto<ar 201!Y. X!.Y -non >n.d?. Neura$ net*orks an( ,inancia$ re(iction. X(nternetY Dost9;no naH Att;H//KKKI@sIDa@9ltP.stanDord.ed9/eero<erts/@o9rses/so@o/;roje@ts/ne9ralI netKorks/-;;li@ations/sto@ks.At:l X;rist9;ljeno 8. okto<ar 201!Y. X'.Y -non >n.d?. Neura$ Net*orks an( Ima&e Com ression . X(nternetY Dost9;no naH Att;H//KKKI@sIDa@9ltP.stanDord.ed9/eero<erts/@o9rses/so@o/;roje@ts/ne9ralI netKorks/-;;li@ations/i:a"e@o:;ression.At:l X;rist9;ljeno 26. se;te:<ar 201!Y. X5.Y -non >n.d?. Grave$$in& 6a$esman !ro#$em. X(nternetY Dost9;no naH Att;H//KKK.;atol.@o:/java/)#4/indeW.At:l X;rist9;ljeno 6. okto<ar 201!Y. XB.Y Dand9rand, 2. >n.d.?. Neura$ 5rt a 201!Y. X6.Y Do9"las, *., /del:an, L., ,ri@A:ar, +., Martin, ,., Ne9ral NetKorks and -rtiDi@al 7rains, Neuroscience < 6cience o, the .rainK 5n intro(uction ,or Eoun& stu(ents, 200! X8.Y 0r", D., 3erovski, ,., Lore, M. >200'?. Neuronske mree ) !ro#$em tr&ovako& utnika. #e:iarski rad, .a"re<H 2ak9ltet elektroteAnike i ra 9narstva 9 .a"re<9. XJ.Y (li, &., >2002?. O3* C #oDtKare Dor re@o"nition 3Prilli@ letters. In,o' ) 3ourna$ o, In,ormation Gechno$o&E an( 'u$time(ia 6Estems, &ol. 1, str. !8I'!. X10.Y 5orsak9l, -., #9tAakorn, +. >n.d.?. Gra,,ic 6i&n Deco&nition ?sin& Neura$ Net*ork on 0 enCJK Go*ar( Inte$$i&ent Jehic$eL=river 5ssistance 6Estem; 3enter Dor 7io:edi@al 52 $et an( 5n(roi( a $ication; X(nternetY Dost9;no naH Att;H//lns@la<.or"/:e:<ers/2rederi@.Dand9rand/art.At:l X;rist9;ljeno 8. okto<ar

and *o<oti@s )e@Anolo"P >7-*) 5-7?, De;art:ent oD 7io:edi@al /n"ineerin", 2a@9ltP oD /n"ineerin", MaAidol %niversitP. X11.Y Ma ki, ,. >200J?. !rimjena neuronskih mrea u ,i"ici i matematici . Di;lo:ski rad, .a"re<H 4rirodoslovno C :ate:ati ki Dak9ltet 9 .a"re<9. X12.Y Mili@a feki >n.d.?. Neura$ne mree i u rav$janje ro#otima. X(nternetY Dost9;no naH Att;H//KKK.a9to:atika.rs/<a=aI=nanja/ne9ralneI:re=e/ne9ralneI:re=eIiI9;ravljanjeI ro<oti:a.At:l X;rist9;ljeno 6. okto<ar 201!Y. X1!.Y 4a9l Qatta, 7rijesA Desaie, Nor:an Dann9", MoAa:ad 0asso9n >1JJB?. Ima&e Com ression usin& .ack ro ; X(nternetY Dost9;no naH Att;H//ne9ron.en".KaPne.ed9/<;(:a"e3o:;ressionJ45%#/<;J45%#.At:l X;rist9;ljeno 26. se;te:<ar 201!Y. X1'.Y 4o:erlea9, D.-. >1J8J?. 57JINN1 an autonomous $an( vehic$e in a neura$ net*ork; 3o:;9ter #@ien@e De;art:ent, 3arne"ie Mellon %niversitP. X15.Y #ie"el, #. >2001?. )rainin" an artiDi@ial ne9ral netKork to ;laP ti@Ita@Itoe, Germ !roject. 6. okto<ar 201!Y. X1B.Y 8i;ek, M., 8;ani, ). >2005?. Neuronske mree u rauna$nim i&rama. #e:inarski rad, .a"re<H 2ak9ltet elektroteAnike i ra 9narstva 9 .a"re<9. X16.Y &o9k, D., Mal9s, D., 3arevi, D. >2011?. Ne9ralne :re$e i njiAova ;ri:jena 9 vodno: "os;odarstv9. Mra@evinar; &ol. B!, str. 5'6I55'. X18.Y &9 ini, -. >2010?. =etekcija $ica na s$ikama omo4u neuronskih mrea. 4od"ori@aH 4rirodno C :ate:ati ki Dak9ltet 9 4od"ori@i. X(nternetY Dost9;no naH Att;H//9sers.a9tA."r/keAa"iat/La:e)AeorP/123o:<7i<lio/)i@)a@)oe.;dD X;rist9;ljeno

5!