UNIVERZITET CRNE GORE

ELEKTROTEHNIČKI FAKULTET

NEURALNE MREŽE

Predmet: Modelovanje i simulacija dinamičkih sistema

— seminarski rad —

Profesor: Student:
Prof. dr Krstajić Božo Rolevski Maja 19/17
Saradnik:
Jokić Ivan

Podgorica, decembar 2017. godine

Neuralne mreže

___________________________________________________________________

SADRŽAJ

1. UVOD...................................................................................................................................................... ......3
2. DEFINICIJA NEURALNE MREŽE................................................................................................................. 4
3. PRIMJENA NEURALNIH MREŽA U MODELOVANJU I SIMULACIJI.......................................................6
4. MODELOVANJE RADA SINHRONOG GENERATORA POMOĆU NEURALNE MREŽE.........................8
4.1 Rezultati simulacije................................................................................................................................... 9

4.2 Komentar na dobijene rezultate.............................................................................................................. 11

5. LITERATURA............................................................................................................................................... 12

2
Neuralne mreže

___________________________________________________________________

1. UVOD
 

Vještačka tvorevina za realizovanje funkcija koje su karakteristika ljudskog razmišljanja se naziva

vještačka inteligencija. Još od antičkog doba se kod ljudi budilo interesovanje za njen razvoj.
Međutim, tek u drugoj polovini XX vijeka, otkrićem računara, dobija se mogućnost za takav
poduhvat. Napretkom moderne nauke, istraživanje vještačke inteligencije se razvija preko dva
osnovna smjera: psihološka i fiziološka istraživanja prirode ljudskog uma, i tehnološki razvoj sve
složenijih računarskih sistema. Danas, osnovne tendencije u razvoju vještačke inteligencije
predstavljaju: razvoj ekspertnih sistema i razvoj neuralnih mreža. Neuralne mreže pokušavaju
da reprodukuju ljudsko razmišljanje iz biološke perspektive (one rekreiraju strukturu ljudskog
mozga pomoću genetskih algoritama), dok ekspertni sistemi to rade koristeći simbole.

Oblast koju danas poznajemo pod pojmom neuralne mreže nastala je kao rezultat spoja nekoliko veoma
različitih pravaca istraživanja: obrade signala, neurobiologije i fizike. S jedne strane, to je
pokušaj da se razumije rad ljudskog mozga, a sa druge da se to stečeno znanje primijeni u
obradi složenih informacija.

3
Neuralne mreže

___________________________________________________________________

2. DEFINICIJA NEURALNE MREŽE

Za razumijevanje sposobnosti mozga, potrebno je upoznati se sa njegovom strukturom. Osnovni
djelovi mozga su neuroni. U ljudskom mozgu postoji oko 1011 neurona, pri čemu je svaki u
prosjeku povezan sa 10000 drugih neurona. Osnovni djelovi neurona su: tijelo (soma), dendriti
(ulazi elektrohemijskih signala), aksona (izlazni kanal) i sinapse (oblast elektrohemijskog
kontakta među neuronima). Na slici 1 je prikazan izgled jednog neurona:

Slika 1. Biološki neuron

Tijelo neurona sadrži informaciju koja je predstavljena električnim potencijalom između

spoljašnjeg i unutrašnjeg dijela neurona. Na sinapsama se primaju informacije od drugih
neurona u vidu potencijala, koji dalje utiče na potencijal samog tijela neurona. U njemu se
sumiraju svi ti potencijali susjednih neurona. Ako ukupni napon pređe određeni prag, neuron
“pali”, tj. generiše akcioni potencijal u trajanju od 1ms. Kada se informacija prenese akcionim
potencijalom do završnih članaka , onda oni proizvode i otpuštaju hemikalije, tzv.
neurotransmitere. To zatim ponovo podstiče niz opisanih događaja u daljnjim neuronima.

Funkcionalnost biološkog neurona predstavlja model vještačkog neurona, koji koristi slijedeću
analogiju: signali su opisani numeričkom vrijednošću i na ulazu u neuron množe se težinskim
faktorom koji opisuje snagu sinapse; signali pomnoženi težinskim faktorima zatim se sumiraju
analogno sumiranju potencijala u tijelu neurona; ako je dobijeni iznos iznad definisanog praga,
neuron šalje izlazni signal.

4
Neuralne mreže

___________________________________________________________________

U opštem slučaju, vještački neuron umjesto funkcije praga može imati i neku drugu funkciju,
tzv. prenosnu funkciju (transfer funkcija, aktivaciona funkcija). Opšti model vještačkog neurona
dat je na slici 2:

Slika 2. Vještački neuron

Neuralna mreža se može difinisati kao skup međusobno povezanih jedinstvenih procesnih
elemenata, jedinica ili čvorova, čija se funkcionalnost temelji na biološkom neuronu. Svaki od
neurona ima lokalnu memoriju u kojoj pamti podatke koje obrađuje. Pri tome, sposobnost date
mreže da uspješno obradi zadate podatke zavisi od snage veza između pojedinih neurona, tj.
težina. Do željenih težina dolazi se procesom učenja mreže iz skupa podataka za učenje.
Najvažnija svojstva neuralnih mreža su:
 Učenje preko primjera i sposobnost za kasniju generalizaciju, čime stiču i mogućnost
obrade nepreciznih podataka.
 Paralelna obrada informacija – informacije neuralne mreže su podijeljene na više
jedinica
 Visok stepen tolerancije na greške u podacima – neuralna mreža može uspješno
analizirati i nejasne i nepotpune podatke
 Jednostavna primjena u modelovanju i upravljanju složenim, viševarijabilnim procesima
 Mogućnost aproksimiranja proizvoljne nelinearne kontinualne funkcije do željene
tačnosti

Međutim, i pored svih navedenih prednosti neuralnih mreža, može se reći da analogija sa
pravim biološkim uzorom ima dosta negativnih strana. Uz mnoga uvedena pojednostavljenja,
postoji još dosta fenomena nervnog sistema koji nisu modelovani vještačkim neuralnim

5
Neuralne mreže

mrežama, kao što postoje i karakteristike vještačkih neuralnih mreža koje se ne slažu sa
biološkim.

___________________________________________________________________

3. PRIMJENA NEURALNIH MREŽA U MODELOVANJU I

SIMULACIJI

Od otkrića neuralnih mreža, postalo je moguće rješavanje niza problema koji prije toga nisu bili
rješivi klasičnim sredstvima računarske tehnike. Primjena neuralnih mreža u modelovanju i
simulacijama je veoma široka:

1. Rukovođenje podacima

 Predviđanje: Prošlost se uzima kao ulaz, a na osnovu toga se može predvidjeti buduće
kretanje tih podataka.
 Klasifikacija podataka: Klasifikuju se podaci u različite prethodno definisane klase na
osnovu inputa. Na primjer, ako su dati boja, oblik i dimenzije različitih plodova, onda ih
pomoću neuralnih mreža možemo klasifikovati kao limun (klasa 1), narandža (klasa 2),
banana (klasa 3).
 Modeovanje odziva: Obučavanjem neke neuralne mreže se može dobiti odziv sistema.

2. Primjena u industriji
 Proces kontrole: Neuralne mreže su pogodne za složene i loše definisane dinamičke
procese kontrole. Gotovo je nemoguće koristiti matematičke jednačine za modelovanje
ovih procesa. Za takve sisteme, konvencionalni sistem linearnog upravljanja nije
primjenljiv.
 Kontrola kvaliteta: Neuralne mreže se mogu koristiti i za svakodnevne poslove sa
izvjesnom nesigurnošću, kao što su predviđanje kvaliteta proizvoda i drugih sirovina,
uočavanje nedostataka proizvoda, ispitivanje guma, ispitivanje opterećenja itd.
 Procjena parametara: Neuralne mreže pomažu u procjeni parametara sistema za
kontrolu. Korisno ih je primijeniti kod složenih i loše definisanih sistema, gdje
matematičko modelovanje nije moguće.

3. Primjena u ekonomiji

 Predviđanje berze: Predviđanje budućeg trenda akcija koristeći podatke iz prošlosti i

sadašnjih ekonomskih uslova zemalja.

6
Neuralne mreže

 Analiza finansijskog rizika: Odlučivanje da li je podnosilac zahteva za kredit “dobar” ili

“loš”. Iz sadašnjih finansijskih uslova i prethodnog poslovanja kompanije ili pojedinca,
možemo utvrditi kreditni rejting preduzeća ili pojedinca
___________________________________________________________________

4. Primjena u medicini

 Davanje dijagnoze: Neuralne mreže mogu pomoći doktoru u dijagnostici određene

bolesti, kao i u preporuci lijeka, na osnovu: medicinske dijagnoze, ličnih informacija
(starost, pol), itd.

5. Primjena u HR menadžmentu

 Selekcija i angažovanje zaposlenih: Predviđanje na kojem poslu će kandidat postići

najbolje rezultate rada na osnovu ličnih informacija, prethodnog iskustva i performansi,
nivoa obrazovanja itd.
 Predviđanje psiholoških osobina osobe.

6. Primjena u operativnim analizama

 Kontrola i optimizacija inventara: Prognoza optimalnog nivoa zaliha koji može zadovoljiti
potrebe kupaca i smanjiti otpad. Predviđa se potražnja zasnovana na aktivnostima
prethodnih kupaca, sezoni, zalihama, budžetima.
 Donošenje odluka u konfliktnoj situaciji: Bira se najbolja opcija odlučivanja koristeći
sposobnosti klasifikacije neuralne mreže.

7. Primjena u energetici

 Predviđanje električnog opterećenja, prirodnih resursa i njihove potrošnje, kratkoročno i

dugoročno smanjivanje opterećenja, uloga u procesima praćenja i kontrole, itd.

8. Primjena u nauci

 U oblasti nauke, neuralne mreže se mogu koristiti na brojnim problemima kao što su:
modeliranje fizičkog sistema, prepoznavanje slika, identifikacija i optimizacija, procjena
ekosistema, klasifikacija, obrada signala, itd.

9. Primjena u simulacionom modelovanju

 Simulaciono modelovanje je proces stvaranja i analize digitalnog prototipa fizičkog

modela koji predviđa njegove performanse u realnosti. Simulaciono modelovanje se
često koristi u projektovanju proizvodnih sistema. Projektovanje sistema može biti
ispunjeno mnogim greškama koje treba otkloniti kroz brojne iteracije. Uz upotrebu
neuralnih mreža značajno se olakšava i ubrzava taj proces. Njihov izlaz jeste

7
Neuralne mreže

odgovarajući projekat koji je u skladu sa ciljevima upravljanja (uz prethodno zadate

željene vrijednosti performanse).

___________________________________________________________________

4. MODELOVANJE RADA SINHRONOG GENERATORA POMOĆU

NEURALNE MREŽE

Na ulaz sinhronog generatora je doveden mehanički moment, kao i određeni šumovi (testerasti
signal), a izlazni signal je elektromagnetni moment. Na slici 3 je prikazan izgled ovih signala za
realan sistem:

Odziv sinhronog generatora

8

Ulaz
6 Izlaz
Ulazni signal, Izlazni signal

-2

-4
0 500 1000 1500 2000 2500 3000 3500 4000
Vrijeme

Slika 3. Odziv sinhronog generatora (realan sistem)

Uz upotrebu softverskog paketa Matlab, vrši se kreiranje neuralne mreže koja treba da, na što
bolji način, modeluje ovaj sistem. Postavljaju se dva skrivena neuralna sloja (aktivacione
funkcije- tansig i purelin) i tri skrivena neuralna sloja (aktivacione funkcije- tansig, tansig i
purelin). Podešava se broj neurona u prvom i drugom skrivenom neuralnom sloju, kao i broj
iteracija koji je potreban da se postigne zadata minimalna vrijednost greške. Na osnovu

8
Neuralne mreže

grafičkog prikaza simulacije i srednje kvadratne greške, nalaze se uslovi pri kojima neuralna
mreža daje najbolje rezultate.

9
_________________________________________________________________________

4. 1. Rezultati simulacije

1. Neuralna mreža ima dva skrivena sloja.

 Broj neurona u prvom skrivenom sloju je 200, a broj iteracija se mijenja.

Na slici 4 su prikazani odzivi obučene neuralne mreže za 500 (slika 4a) i 5000 (slika4b) iteracija,
kao i odziv realnog sistema. Primjećuje se da neuralna mreža bolje simulira rad sinhronog
generatora kada se zada više iteracija, ali ni tada ne daje dovoljno dobar rezultat.

Odziv sinhronog generatora Odziv sinhronog generatora

8 8

Odziv realnog sistema Odziv realnog sistema

6 Odziv obucene neuralne mreže 6 Odziv obucene neuralne mreže

4 4
Izlazni signal
Izlazni signal

2 2

0 0

-2 -2

-4 -4

-6 -6
0 500 1000 1500 2000 2500 0 500 1000 1500 2000 2500
Vrijeme Vrijeme

a) b)

Slika 4. Odziv sinhronog generatora: a) Broj iteracija= 500, mse=0.540, b) Broj iteracija= 5000, mse=0.502

 Broj neurona u prvom skrivenom sloju je 1000, a broj iteracija se mijenja.

Na slici 5 su prikazani odzivi obučene neuralne mreže za 500 (slika 5a) i 1000 (slika5b) iteracija,
kao i odziv realnog sistema. Sada je povećan broj neurona u prvom neuralnom sloju, pa se
dobijaju bolji rezultati u odnosu na prethodni slučaj. Međutim, i dalje se primjećuju pikovi velike
amplitude u ustaljenom stanju, pa se uvodi i treći neuralni sloj kako bi se oni uspjeli ispeglati.
Neuralne mreže

_________________________________________________________________________
Odziv sinhronog generatora Odziv sinhronog generatora
8 8
Odziv realnog sistema
Odziv obucene neuralne mreže Odziv realnog sistema
6 6 Odziv obucene neuralne mreže

4 4
Izlazni signal

Izlazni signal
2 2

0 0

-2 -2

-4 -4

-6 -6
0 500 1000 1500 2000 2500 0 500 1000 1500 2000 2500
Vrijeme Vrijeme

a) b)

Slika 5. Odziv sinhronog generatora: a) Broj iteracija= 1000, mse=0.0408, b) Broj iteracija= 500,
mse=0.0423

2 Neuralna mreža ima tri skrivena sloja.

 Broj neurona u prvom skrivenom sloju je 100, u drugom skrivenom sloju je 25, a broj iteracija se
mijenja.
Na slici 6 su prikazani odzivi obučene neuralne mreže za 100 (slika 6a) i 50 (slika6b) iteracija, kao i
odziv realnog sistema. Poces ustaljenog stanja je bolje modelovan nego u prethodna dva slučaja,
ali se u prelaznom procesu pojavljuju odstupanja, te se dobija veća vrijednost srednje kvadratne
greške.

11
Neuralne mreže

_________________________________________________________________________

Odziv sinhronog generatora Odziv sinhronog generatora

8 8
Odziv realnog sistema Odziv realnog sistema
6 Odziv obucene neuralne mreže 6 Odziv obucene neuralne mreže

4 4
Izlazni signal

Izlazni signal
2 2

0 0

-2 -2

-4 -4

-6 -6
0 500 1000 1500 2000 2500 0 500 1000 1500 2000 2500
Vrijeme Vrijeme

a) b)

Slika 6. Odziv sinhronog generatora: a) Broj iteracija= 100, mse=0.0488, b) Broj iteracija= 50, mse=0.600

4. 2. Komentar na dobijene rezultate

Na osnovu dobijenih rezultata se može zaključiti da neuralne mreže koje se sastoje od dva skrivena
neuralna sloja daju manju srednju kvadratnu grešku. One bolje simuliraju prelazni proces datog sistema,
ali postoje velika odstupanja u ustaljenom stanju. S druge strane, neuralne mreže sa tri skrivena
neuralna sloja bolje simuliraju ustaljeno stanje u odnosu na prelazni proces.

Povećavanjem broja neurona u neuralnim mrežama sa tri skrivena sloja bi se, ipak, dobio bolji rezultat u
odnosu na neuralne mreže sa dva skrivena sloja. Međutim, usljed problema sa softverskim paketom
Matlab, ta simulacija nije uspješno odrađena.

12
___________________________________________________________________

5. LITERATURA

[1] https://sr.wikipedia.org/sr-ec/
%D0%92%D1%98%D0%B5%D1%88%D1%82%D0%B0%D1%87%D0%BA%D0%B0_
%D0%B8%D0%BD%D1%82%D0%B5%D0%BB%D0%B8%D0%B3%D0%B5%D0%BD
%D1%86%D0%B8%D1%98%D0%B0
[2] B. Dalbelo Bašić, M. Čupić, J. Šnajder, „Umjetne neuronske mreže”, Fakultet
elektrotehnike i računarstva, Zagreb, maj 2008.
[3] S. Dumančić, „Neuronske mreže“, Diplomski rad, Sveučilište Josipa Jurja Strossmayera,
Osijek 2014
[4] https://pubsonline.informs.org/doi/abs/10.1287/inte.28.5.100
[5] D. K. Chatuverdi, „Modeling and Simulation of Systems Using MATLAB and Simulink“,
2009.