SVEUČILIŠTE JOSIPA JURJA STROSSMAYERA U OSIJEKU

FAKULTET ELEKTROTEHNIKE, RAČUNARSTVA I INFORMACIJSKIH

TEHNOLOGIJA

Diplomski studij računarstva

Laboratorijska vježba 3 – Algoritam roja čestica

Rješavanje problema pronalaska minimuma N-dimenzionalne funkcije koristeći PSO I GA
algoritme

Ilija Jazvić, DRB, 1. Godina

Osijek, 2024.
Sadržaj
1. Uvod ................................................................................................................................... 1
2. Opis problema..................................................................................................................... 2
3. Opis korištenih parametara ................................................................................................. 3
4. Tablični i grafički prikaz mjerenja GA ............................................................................... 4
4.1. Ovisnost o promjeni mutacije ..................................................................................... 4
4.2. Ovisnost o promjeni broja elitnih članova .................................................................. 6
4.3. Ovisnost o najvećoj apsolutoj vrijednosti mutacije realnog gena ............................... 8
5. Tablični i grafički prikaz mjerenja PSO ........................................................................... 10
5.1. Ovisnost o promjeni inercije ..................................................................................... 10
5.2. Ovisnost o promjeni individualnog faktora ............................................................... 12
5.3. Ovisnost o promjeni socijalnog faktora .................................................................... 14
6. Zaključak .......................................................................................................................... 16
 1. Uvod

Rastriginova funkcija je česta ciljna funkcija korištena u optimizaciji, posebno u području

evolucijskih algoritama poput genetskog algoritma (GA) i algoritma roja čestica (PSO). Ova
funkcija predstavlja izazov za optimizacijske algoritme zbog svoje kompleksnosti i velikog
broja lokalnih minimuma.
Genetski algoritam (GA) i algoritam roja čestica (PSO) su dva popularna metaheuristička
algoritma koji se često koriste za optimizaciju problema poput Rastriginove funkcije. Oba
algoritma koriste populaciju rješenja kako bi pretražili prostor pretrage u potrazi za optimalnim
rješenjem.
Genetski algoritam koristi koncepte selekcije, križanja i mutacije kako bi generirao nove
jedinke u populaciji, dok algoritam roja čestica simulira kretanje čestica kroz prostor pretrage
na temelju informacija o njihovoj trenutnoj poziciji i brzini.

1
 2. Opis problema

Na trećoj laboratorijskoj vježbi potrebno je realizirati 5-dimenzionalnu i 10-dimenzionalnu

Rastriginovu funkciju i pronaći njen minimum koristeći PSO i GA optimizacijske algoritme.
Potrebno je usporediti performanse GA i PSO algoritma prilikom pronalaska globalnog
minimuma. Ispitati utjecaj promjene parametara genetskog algoritma (faktor mutacije, broj
elitnih jedinki, maksimalna vrijednost mutacije), te parametara PSO algoritma (veličina
populacije, mjera inercije, mjera individualnog faktora i mjera socijalnog faktora) na kvalitetu
dobivenog rješenja. Zbog stohastičke naravi GA i PSO algoritama svaki eksperiment potrebno
je ponoviti najmanje pet puta i zabilježiti najbolji i prosječan (medijan) rezultat. Medijan
prikazati grafički. Broj generacija/iteracija za sve eksperimente je 5000.
Parametre genetskog algoritma mijenjati na sljedeće vrijednosti:

• Populacija: 100

• Mutacija: 5%, 10%, 20%

• Broj elitnih članova: 4, 8, 16

• Najveća apsolutna vrijednost mutacije realnog gena: 0.1, 0.4, 0.8

Parametre PSO algoritma mijenjati na sljedeće vrijednosti:

• Populacija: 100

• Mjera inercije: 0.0, 0.37, 0.74

• Mjera individualnog faktora: 0.5, 1.0, 1.5

• Mjera socijalnog faktora: 0.5, 1.0, 1.5

2
 3. Opis korištenih parametara

Opis i obrazloženje korištenih parametara genetskog algoritma (GA) i algoritma roja čestica
(PSO) te njihov utjecaj na ponašanje algoritama:
Genetski algoritam (GA):

• Faktor mutacije: Faktor mutacije određuje vjerojatnost da će se dogoditi mutacija

kod jedinke u populaciji. Veći faktor mutacije može povećati raznolikost populacije,
ali prevelika vrijednost može dovesti do prevelikog slučajnog pretraživanja prostora
pretrage.
• Broj elitnih jedinki: Elitne jedinke su najbolje jedinke u svakoj generaciji koje se
automatski prenose u sljedeću generaciju bez promjena. Veći broj elitnih jedinki može
pomoći u očuvanju dobrih rješenja, ali može smanjiti raznolikost populacije.
• Maksimalna vrijednost mutacije: Ova vrijednost određuje maksimalnu promjenu
koja se može dogoditi kod mutacije. Prevelika vrijednost može uzrokovati preveliku
promjenu jedinke, dok premala vrijednost može usporiti konvergenciju prema
optimalnom rješenju.
• Veličina populacije

Algoritam roja čestica (PSO):

• Veličina populacije: Veličina populacije određuje broj čestica koje sudjeluju u

algoritmu. Veća populacija može pomoći u boljem istraživanju prostora pretrage, ali
može povećati računalnu složenost algoritma.
• Mjera inercije: Mjera inercije određuje koliko čestice zadržavaju svoju prethodnu
brzinu kretanja. Veća vrijednost može pomoći u izbjegavanju previše brzih promjena,
ali može usporiti konvergenciju.
• Mjera individualnog faktora: Ova mjera određuje koliko čestica slijedi svoje
vlastito najbolje rješenje. Veća vrijednost potiče istraživanje prostora oko prethodno
pronađenih rješenja, ali može dovesti do previše lokalne eksploatacije.
• Mjera socijalnog faktora: Ova mjera određuje koliko čestice slijede najbolje rješenje
u cijeloj populaciji. Veća vrijednost potiče suradnju između čestica, ali može dovesti
do prevelikog utjecaja najboljeg rješenja u populaciji.

3
 4. Tablični i grafički prikaz mjerenja GA

4.1. Ovisnost o promjeni mutacije

Postotak mutacija 5 10 20
[%]
Dimenzija 5
Broj generacija 5000
Populacija 100
Broj elitnih članova 4
Najveća apsolutna
vrijednost mutacije 0.4
realnog gena
0.000659 0.000251 0.000005
0.001361 0.000330 0.000055
Rastringova funkcija 0.000660 0.000227 0.000006
0.001222 0.000169 0.000034
0.000155 0.000086 0.000008
Medijan 0.000660 0.000227 0.000008
Najbolji rezultat 0.000155 0.000086 0.000005

Tablica 4.1.1. Utjecaj promjene mutacija za GA - 5 dimenzija

Slika 4.1.1. Medijan u ovisnosti promjene mutacije GA - 5 dimenzija

4
 Postotak mutacija 5 10 20
[%]
Dimenzija 10
Broj generacija 5000
Populacija 100
Broj elitnih članova 4
Najveća apsolutna
vrijednost mutacije 0.4
realnog gena
7.612386 0.011892 0.001132
2.218983 0.185748 0.001057
Rastringova funkcija 3.432432 3.000102 0.000846
5.060057 1.034641 0.001127
2.308027 0.037961 0.002804
Medijan 3.432432 0.185748 0.001127
Najbolji rezultat 2.218983 0.011892 0.000846

Tablica 4.1.2 Utjecaj promjene mutacija za GA - 10 dimenzija

Slika 4.1.2. Medijan u ovisnosti promjene mutacije GA - 10 dimenzija

5
 4.2. Ovisnost o promjeni broja elitnih članova

Broj elitnih članova 4 8 16

Dimenzija 5
Broj generacija 5000
Populacija 100
Postotak mutacija 10
[%]
Najveća apsolutna
vrijednost mutacije 0.4
realnog gena
0.000251 0.000105 0.000247
0.000330 0.000248 0.000151
Rastringova funkcija 0.000227 0.000122 0.001586
0.000169 0.000313 0.000086
0.000086 0.000030 0.000135
Medijan 0.000227 0.000122 0.000151
Najbolji rezultat 0.000086 0.000030 0.000086

Tablica 4.2.1. Utjecaj promjene broja elitnih članova za GA - 5 dimenzija

Slika 4.2.1. Medijan u ovisnosti promjene broja elitnih članova za GA - 5 dimenzija

6
Broj elitnih članova 4 8 16
Dimenzija 10
Broj generacija 5000
Populacija 100
Postotak mutacija 10
[%]
Najveća apsolutna
vrijednost mutacije 0.4
realnog gena
2.175060 2.003166 2.007593
1.207743 1.053749 0.043764
Rastringova funkcija 0.015562 0.061432 0.023362
2.176279 1.061500 2.008269
0.052596 0.162774 1.049335
Medijan 1.207743 1.061500 1.049335
Najbolji rezultat 0.015562 0.061432 0.023362

Tablica 4.2.2. Utjecaj promjene broja elitnih članova za GA - 10 dimenzija

Slika 4.2.2. Medijan u ovisnosti promjene broja elitnih članova za GA – 10 dimenzija

7
 4.3. Ovisnost o najvećoj apsolutoj vrijednosti mutacije realnog gena

Najveća apsolutna 0.1 0.4 0.8

vrijednost mutacije
realnog gena
Dimenzija 5
Broj generacija 5000
Populacija 100
Postotak mutacija 10
[%]
Broj elitnih članova 4
0.000012 0.000251 0.000038
2.984886 0.000330 0.000370
Rastringova funkcija 0.994963 0.000227 0.000082
3.979841 0.000169 0.000298
0.994965 0.000086 0.000370
Medijan 0.994965 0.000227 0.000298
Najbolji rezultat 0.000012 0.000086 0.000038

Tablica 4.3.1. Utjecaj promjene najveće apsolutne vrijednosti mutaicje realnog gena za GA - 5 dimenzija

Slika 4.3.1. Medijan u ovisnosti najveće apsolutne vrijednosti mutaicje realnog gena za GA – 5 dimenzija

8
Najveća apsolutna 0.1 0.4 0.8
vrijednost mutacije
realnog gena
Dimenzija 10
Broj generacija 5000
Populacija 100
Postotak mutacija 10
[%]
Broj elitnih članova 4
5.971607 2.175060 0.056702
4.976002 1.207743 0.078933
Rastringova funkcija 7.960683 0.015562 0.071898
12.935256 2.176279 0.111590
3.981964 0.052596 0.042040
Medijan 5.971607 1.207743 0.071898
Najbolji rezultat 3.981964 0.015562 0.042040

Tablica 4.3.2. Utjecaj promjene najveće apsolutne vrijednosti mutaicje realnog gena za GA - 10 dimenzija

Slika 4.3.2. Medijan u ovisnosti najveće apsolutne vrijednosti mutaicje realnog gena za GA – 10 dimenzija

9
5. Tablični i grafički prikaz mjerenja PSO

5.1. Ovisnost o promjeni inercije

Mjera inercije 0.0 0.37 0.74

Dimenzija 5
Broj generacija 5000
Populacija 100
Mjera individualnog 1.0
faktora
Mjera socijalnog 1.0
faktora
1.030342 5.969749 2.984877
3.123897 3.745243 3.251272
Rastringova funkcija 14.576773 6.964708 1.989918
4.478590 1.989918 0.994959
2.618539 9.949580 5.969749
Medijan 3.123897 5.969749 2.984877
Najbolji rezultat 1.030342 1.989918 0.994959

Tablica 5.1.1. Utjecaj promjene mjere inercije za PSO - 5 dimenzija

Slika 5.1.1. Medijan u ovisnosti promjene mjere inercije za PSO - 5 dimenzija

10
 Mjera inercije 0.0 0.37 0.74
Dimenzija 10
Broj generacija 5000
Populacija 100
Mjera individualnog 1.0
faktora
Mjera socijalnog 1.0
faktora
17.685421 15.181915 22.883998
30.408219 19.070522 14.924356
Rastringova funkcija 17.850487 13.943253 18.647137
18.821264 8.954639 12.934458
18.924357 9.030823 4.974795
Medijan 18.821264 13.943253 14.924356
Najbolji rezultat 17.685421 8.954639 4.974795

Tablica 5.1.2. Utjecaj promjene mjere inercije za PSO - 10 dimenzija

Slika 5.1.2. Medijan u ovisnosti promjene mjere inercije za PSO - 10 dimenzija

11
 5.2. Ovisnost o promjeni individualnog faktora

Mjera individualnog 0.5 1.0 1.5

faktora
Dimenzija 5
Broj generacija 5000
Populacija 100
Mjera inercije 0.37
Mjera socijalnog 1.0
faktora
3.979831 5.969749 0.994959
9.949580 3.745243 2.985858
Rastringova funkcija 1.989918 6.964708 3.015483
2.984877 1.989918 4.974795
4.974804 9.949580 1.989918
Medijan 3.979831 5.969749 2.985858
Najbolji rezultat 1.989918 1.989918 0.994959

Tablica 5.2.1. Utjecaj promjene mjere individualnog faktora za PSO - 5 dimenzija

Slika 5.2.1. Medijan u ovisnosti promjene mjere individualnog faktora za PSO - 5 dimenzija

12
Mjera individualnog 0.5 1.0 1.5
faktora
Dimenzija 10
Broj generacija 5000
Populacija 100
Mjera inercije 0.37
Mjera socijalnog 1.0
faktora
18.139352 15.181915 11.954377
14.926762 19.070522 8.956734
Rastringova funkcija 28.994298 13.943253 16.914841
18.959558 8.954639 19.899205
22.885363 9.030823 9.951409
Medijan 18.959558 13.943253 11.954377
Najbolji rezultat 14.926762 8.954639 8.956734

Tablica 5.2.2. Utjecaj promjene mjere individualnog faktora za PSO - 10 dimenzija

Slika 5.2.2. Medijan u ovisnosti promjene mjere individualnog faktora za PSO - 10 dimenzija

13
 5.3. Ovisnost o promjeni socijalnog faktora

Mjera socijalnog 0.5 1.0 1.5

faktora
Dimenzija 5
Broj generacija 5000
Populacija 100
Mjera inercije 0.37
Mjera individualnog 1.0
faktora
4.974790 5.969749 9.949580
3.979900 3.745243 4.974790
Rastringova funkcija 3.984732 6.964708 4.974795
2.984877 1.989918 5.969749
3.979831 9.949580 1.989918
Medijan 3.979900 5.969749 4.974795
Najbolji rezultat 2.984877 1.989918 1.989918

Tablica 5.3.1. Utjecaj promjene mjere socijalnog faktora za PSO - 5 dimenzija

Slika 5.3.1. Medijan u ovisnosti promjene mjere socijalnog faktora za PSO - 5 dimenzija

14
 Mjera socijalnog 0.5 1.0 1.5
faktora
Dimenzija 10
Broj generacija 5000
Populacija 100
Mjera inercije 0.37
Mjera individualnog 1.0
faktora
8.135505 15.181915 22.884034
12.296905 19.070522 11.939504
Rastringova funkcija 16.525561 13.943253 13.929417
8.888902 8.954639 6.964708
21.513580 9.030823 30.843660
Medijan 12.296905 13.943253 13.929417
Najbolji rezultat 8.135505 8.954639 6.964708

Tablica 5.3.2. Utjecaj promjene mjere socijalnog faktora za PSO - 10 dimenzija

Slika 5.3.2. Medijan u ovisnosti promjene mjere socijalnog faktora za PSO - 10 dimenzija

15
6. Zaključak

Nakon provedbe eksperimenata zaključeno je da genetski algoritam daje superiorne

rezultate u usporedbi s algoritmom roja čestica. Iako bi minimum funkcije trebao biti vrijednost
0, nijedan od algoritama nije postigao tu vrijednost. Unatoč tome što se algoritam roja čestica
brže približava minimalnoj vrijednosti funkcije, genetski algoritam općenito doseže bliže
vrijednosti minimuma i pruža bolje rezultate.
Genetski algoritam
• U ovisnosti o promjeni postotka mutacije vidimo da bez obzira o dimenziji funkcija
konvergira prema 0 povećavajući postotak mutacija (kod veće dimenzije to ide
sporije).
• U ovisnosti o promjeni broja članova kod pokusa (broj dimenzija je 5) vidimo da
je za broj elintih članova 8 funkcija je najbliža 0, a kada je broj dimenzija 10 onda
to vrijedi kada je broj elintih članova 16. Gledao sam medijane.
• U ovisnosti o promjeni najveće apsolute vrijednosti mutacije realnog gena kod
pokusa kada je broj dimenzija 5 vidimo da algoritam daje najbolje rezultate kada
je taj broj 0.4, dok kada je broj dimenzija 10, onda vidimo da dobivamo najbolje
rezultate kada je njegova vrijednost 0.8. Opet sam gledao medijane.
Algoritam roja čestica
• U ovisnosti o promjeni inercije kada nam je broj dimenzija 5 vidimo da kada je
inercija 0.74 imamo najbolje rezultate, dok kod dimenzije 10 imamo najbolje
rezultate kada je inercija 0.34. Gledao sam medijan.
• U ovisnosti o promjeni individualnog faktora vidimo da kada je taj broj najveći
(1.5) imamo najbolje rezultate, to vrijedi i kada imamo 10 dimenzija. Gledao sam
medijan.
• U ovisnosti o promjeni socijalnog faktora vidimo da pocećanjem tog broja
dobivamo lošije rezultate, to vrijedi i u slučaju kad nam je dimenzija 10. Gledao
sam medijan.
Zaključno tome možemo vidjeti da se minimalna vrijednost funkcije povećava povećanjem
broja dimenzija, to vrijedi za oba algoritma.

16