Professional Documents
Culture Documents
NEURONSKE MREŽE
2
NEURONSKE MREŽE
Početkom pedesetih godina prošloga vijeka, najviše uticaja na dalji razvoj neuronskih
mreža je imao rad Marvin Minsky-a koji je u tom periodu konstruisao neuroračunar
pod imenom Snark (1951). Frank Rosenblatt je zaslužan za otkriće jednoslojne
neuronske mreže, zvane perceptron. Ovaj računar je mogao uspješno da podešava
težinske koeficijente, međutim ovaj računar nije postigao značajnije praktične
rezultate. Tek krajem pedesetih godina (1957-1958), Frank Rosenblatt i Charles
Wightman sa svojim saradnicima su uspeli da razviju računar pod nazivom Mark I
koji predstavlja prvi neuroračunar.
Nešto iza Rosenblatta, Bernard Widrow je sa svojim studentima (najpoznatiji je Ted
Hoff, kasnije tvorac mikroprocesora) razradio novi tip “neurona” - ADALINE
(ADAptivini LINearni Element, prenosna funkcija f(x)=x) i odgovarajući zakon
učenja.
3
NEURONSKE MREŽE
4
NEURONSKE MREŽE
5
NEURONSKE MREŽE
U periodu između 1967. do 1982. godine pojavljuju se istraživači koji daju značajan
doprinos razvoju ove oblasti kao što su Teuvo Kohonen, Kunihiko Fukushima i
Stephnen Grossberg. Naročito se istakao Teuvo Kohonen, koji je otkrio nekoliko
tipova neuronskih mreža koje su po njemu dobile naziv. U ovom periodu se pojavio
i backpropagation algoritam. U radu na ovom algoritmu su se posebno istakli
sljedeći načunici: Amari (1967.) dodaje unutrašnje slojeve perceptronskoj mreži,
Bryson i Ho (1969.) razvijaju algoritam sličan backpropagation algoritmu, Werbos
(1974) nezavisno od prethodnika razvija backpropagation algoritam, a Parker
(1982) unapređuje backpropagation algoritam.
6
NEURONSKE MREŽE
7
NEURONSKE MREŽE
8
NEURONSKE MREŽE
9
NEURONSKE MREŽE
Neke vještačke neuronske mreže zaista predstavljaju modele bioloških, neke ne, ali
istorijski, inspiracija za oblast neuronskog računanja došla je od želje za stvaranjem
vještačkog sistema, sposobnog za obavljanje sofisticiranih, "inteligentnih"
računanja, sličnih onima koje rutinski obavlja ljudski mozak.
Od mnogih smatrane za najveći tehnološki napredak u protekloj deceniji, neuronske
mreže pokazale su se nezamjenljivim u situacijama gdje je mogućnost identifikacije
skrivenih veza i obrazaca ključna za uspešna predvidanja.
11
NEURONSKE MREŽE
12
NEURONSKE MREŽE
Akson jedne ćelije povezan je sa dendronom druge ćelije. Funkcionalni međumembranski kontakt aksona
jednog neurona i dendrona drugog neurona nazivamo sinapsa. Kada je neuron aktiviran on šalje
elektrohemijski signal preko aksona prema drugom neuronu. Signal može biti promijenjen od strane
sinapse koja je u mogućnosti da poveća ili smanji snagu veze i time izazove aktivaciju druge ćelije ili
njenu ukočenost. Akson se može zamisliti kao tanka cjevčica koje jedan kraj povezan na tijelo neurona,
a drugi se dijeli na niz grana. Krajevi ovih grana završavaju malim zadebljanjima koja najčešće dodiruju
dendrite, a rjeđe tijelo drugog neurona. Neuron prima impulse od ostalih neurona kroz dendrite, a signale
koje proizvodi tijelo predaje preko aksona.
Sinapsa je elementarna struktura i funkcionalna jedinica između dva neurona, odnosno sinapsa je mali
razmak između završetka aksona prethodnog neurona i dendrita ili tijela sljedećeg neurona .
13
NEURONSKE MREŽE
14
NEURONSKE MREŽE
Do sada niko, nikada nije uspio simulirati ni približno kompleksan sistem kao što je to
čovječiji mozak. Dok se stvarni čovječiji mozak sastoji od stotina milijardi neurona,
vještačke neuronske mreže su uspjele dostići tek brojku od par hiljada vještačkih
čvorova - neurona.
15
NEURONSKE MREŽE
16
NEURONSKE MREŽE
17
NEURONSKE MREŽE
Neuron prima ulaze koji mogu biti sirovi podaci ili podatak iz susjednog neurona, koje procesira i proizvodi
jedan izlaz. Sam izgled kao i princip obrade podataka jedne elementarne procesorske jedinice u
vještačkoj neuronskoj mreži podsjeća na princip prosljeđivanja impulsa neurona u biološkom nervnom
sistemu. Isto tako procesorska jedinica je analogna jednoj ćeliji biološkog nervnog sistema, ulazne veze
odgovaraju dendritima a izlazne aksomima.
VJEŠTAČKI NEURON
18
NEURONSKE MREŽE
Na slici je shematski prikazana jedna tipična topologija mreže sa tri sloja procesorskih jedinica (jedan ulazni,
drugi srednji ili skriveni i treći izlazni). Svaka procesorska jedinica je povezana sa više susjednih jedinica,
broj ovih veza između zapravo predstavlja snagu neuronske mreže. Rad neuronske mreže sa više veza
je kompleksniji ali takva mreža može da obavlja kompleksnije zadatke.
20
NEURONSKE MREŽE
21
NEURONSKE MREŽE
23
NEURONSKE MREŽE
24
NEURONSKE MREŽE
25
NEURONSKE MREŽE
26
NEURONSKE MREŽE
27
NEURONSKE MREŽE
28
NEURONSKE MREŽE
29
NEURONSKE MREŽE
Neuronske mreže nalaze sve veći broj primjena. Na primjer, upotrebljavaju se u obradi
signala, analizi podataka, raznim kontrolama, kompresiji slike, konverziji jezika,
postavljanju dijagnoza, prepoznavanju govora, psihijatrijskim procjenama, analizi
električnih kola, kompresiji zvuka, predviđanju kretanja na tržištu, izboru
osumnjičenih u kriminološkim istraživanjima, analizi medicinskih testova,
spektralnoj analizi itd.
Zbog svega navedenog, mnogi istraživači nazivaju neuronske mreže posljednjom i
najsofisticiranijom ljudskom tehnologijom. Neuronske mreže imaju široku primjenu
u proizvodnji od planiranja proizvodnje, ispitivanja materijala, izboru materijala, kao
i u samom procesu rada.
30
NEURONSKE MREŽE
32