Professional Documents
Culture Documents
2013 26
2013 26
ABSTRACT
Training neural networks Radial Basis Function (RBF) is a neural network using a hybrid training which consist
of one hidden layer. Input hidden layer using algorithm, while the hidden layer to the output layer using the
Least Means Square (LMS). Problems often occur in the training using the LMS common is in a local solutions.
To overcome these problems, one of the solution is to use a Genetic Algorithm (GA) to generate a global
solution. Genetic algorithms have an improvement. One of the results of this improvement of Adaptive Genetic
Algorithm (AGA) is a GA with the determination of the probability of crossover and mutation probability
adaptively according to the fitness function. This study analyzes the accuracy of the RBF neural networks to
optimization using GA and AGA. RBF networks in determining the center on the hidden layer using K-Means
clustering algorithm and improved weight to the hidden layer to the output layer using the LMS algorithm.
Chromosome repre sentation for each gene in the form of weights from hidden layer to output layer with real
coding. The performance is produced by taking the case of the classification of the iris shows that GARBF and
AGARBF can improve accuracy for RBF architecture with the number of neurons in the hidden layer is 2, 3, 4
and 5, whereas for architecture by the number of neurons in the hidden layer and above 6 GARBF accuracy
relative AGARBF equal to the accuracy of RBF.
Keywords: Adaptive Genetic Algorithm, Genetic Algorithm, Neural Network, Radial Basis Function
ABSTRAK
Jaringan syaraf tiruan Radial Basis Function (RBF) merupakan jaringan syaraf tiruan dengan satu hidden
layer, serta menggunakan model pelatihan hybrid. Pelatihan input layer ke hidden layer menggunakan
algoritma clustering, sedangkan dari hidden layer ke output layer menggunakan Least Means Square(LMS ).
Permasalahan yang sering terjadi dalam pelatihan menggunakan LMS adalah terjadinya solusi lokal. Untuk
mengatasi masalah tersebut, salah satu alternatifnya adalah menggunakan Genetic Algorithm (GA) guna
menghasilkan solusi global. Algoritma genetika mempunyai perkembangan yang cepat, salah satu hasil
perkembangannya adalah Adaptive Genetic Algorithm (AGA) yaitu GA dengan penentuan probabilitas
crossover dan probabilitas mutasi yang adaptif sesuai dengan fungsi fitness. Penelitian ini menganalisa akurasi
RBF dengan optimasi menggunakan GA dan AGA. RBF dalam menentukan center pada hidden layer
menggunakan algoritma clustering K-Means dan perbaikan bobot pada hidden layer ke output layer
menggunakan algoritma LMS. Representasi kromosom untuk setiap gen berupa bobot dari hidden layer ke
output layer dengan pengkodean real. Hasil pengujian untuk kasus klasifikasi menunjukkan bahwa GARBF dan
AGARBF dapat memperbaiki akurasi untuk arsitektur RBF dengan jumlah neuron pada hidden layer yaitu 2, 3,
4 dan 5, sedangkan untuk arsitektur dengan jumlah neuron pada hidden layer diatas 6 akurasi GARBF dan
AGARBF relatif sama dengan akurasi RBF.
Kata Kunci: Adaptive Genetic Algorithm, Genetic Algorithm, Jaringan syaraf tiruan, Radial Basis Function
181
Seminar Nasional Teknologi Informasi dan Komunikasi 2013 (SENTIKA 2013) ISSN: 2089-9815
Yogyakarta, 9 Maret 2013
182
Seminar Nasional Teknologi Informasi dan Komunikasi 2013 (SENTIKA 2013) ISSN: 2089-9815
Yogyakarta, 9 Maret 2013
maksimal lakukan :
Hitung eucledian dengan rumus
,
(3)
(4)
Dimana
d(x,y) : hasil jarak eucledian
x : data yang akan dikelompokkan
k : urutan cluster
j : urutan data yang akan dikelompokkan
y : nilai center yang telah ditentukan
D : jumlah dimensi
Hitung center baru dengan rumus
1 (5)
k : urutan cluster
Nk : Jumlah data-data pada cluster k
m : urutan iterasi ke-m
Cl : cluster
Hitung Je iterasi
Gambar 1. Tahapan Penelitian c. Menyusun arsitektur jaringan RBF
183
Seminar Nasional Teknologi Informasi dan Komunikasi 2013 (SENTIKA 2013) ISSN: 2089-9815
Yogyakarta, 9 Maret 2013
184
Seminar Nasional Teknologi Informasi dan Komunikasi 2013 (SENTIKA 2013) ISSN: 2089-9815
Yogyakarta, 9 Maret 2013
185
Seminar Nasional Teknologi Informasi dan Komunikasi 2013 (SENTIKA 2013) ISSN: 2089-9815
Yogyakarta, 9 Maret 2013
RunTime(detik)
9 97.78 97.11 0.66
2
10 96.89 95.78 1.11 GARBF
1,5
3.6 Perbandingan Akurasi AGARBF vs 1
GARBF 0,5
Perbandingan AGARBF terhadap GARBF
0
disajikan pada Tabel 7 berikut
2 3 4 5 6 7 8 9 10
Tabel 7. Perbandingan AGARBF vs GARBF NeuronHiddenLayer
Neuron Akurasi Akurasi
Perbedaan Gambar 5. Pengaruh Jumlah Neuron pada Hidden
Hidden GARBF AGARBF
Akurasi (%) Layer terhadap Run Time
Layer (%) (%)
2 88.89 90.44 + 0.22
3 88.67 80.67 - 8.00 Hasil akurasi pada simulasi RBF, GARBF dan
4 90.89 73.78 - 17.11 AGARBF ditunjukkan pada Gambar 6. Pada
5 69.78 53.11 - 16.67 Gambar 6 dapat dilihat bahwa GARBF dan
6 96.00 95.78 - 0.22 AGARBF dapat memperbaiki akurasi RBF.
7 95.33 97.55 + 2.22 Perbaiakan terjadi pada arsitektur dengan jumlah
8 96.00 97.11 + 1.11 neuron hidden layer yaitu 2, 3, 4, 5 dan 6,
9 95.78 97.11 + 1.33 sedangkan untuk arsitektur dengan jumlah neuron
hidden layer yaitu 7, 8, 9 dan 10 tidak terjadi
10 96.00 95.78 - 0.22
perbaikan namun relatif sama atau bahkan terjadi
penurunan akurasi. Sedangkan untuk AGARBF
3.7 Hasil Pengukuran pada Proses Training
lebih baik dari GARBF untuk arsitektur dengan
dan Pengujian
jumlah neuron pada hidden layer 2, 3, 4 dan 5,
Pada proses training dapat dilihat pengaruh
selebihnya relatif sama.
jumlah neuron pada hidden layer terhadap MSE
untuk masing-masing jaringan RBF, GARBF dan
100
AGARBF ditunjukkan pada gambar 4. Pada
gambar tersebut ditunjukkan bahwa MSE akan 80
menjadi besar ketika menggunakan jumlah neuron RBF
Akurasi
60
pada hidden layer 5. Sedangkan MSE akan relatif AGARBF
stabil untuk semua jenis jaringan syaraf tiruan pada 40
jumlah neuron pada hidden layer diatas 5. 20
GARBF
0,6
0
RBF
0,5 2 3 4 5 6 7 8 9 10
AGARBF
0,4 NeuronHiddenLayer
GARBF
Gambar 6. Perbandingan Akurasi RBF, GARBF,
MSE
0,3 AGARBF
0,2
3.8 Analisis Algoritma
0,1 Pada Tabel 3 dan Tabel 4 diketahui bahwa
perbaikan yang diperoleh dari proses GARBF dan
0 AGARBF pada arsitektur dengan jumlah neuron
2 3 4 5 6 7 8 9 10 hidden layer yaitu 2, 3, 4 dan 5. Perbaikan yang
dihasilkan cukup signifikan karena dapat
NeuronHiddenLayer
memperbaiki akurasi lebih dari 10%. Perbaikan
Gambar 4. Pengaruh Jumlah Neuron pada Hidden tersebut terjadi karena dengan arsitektur yang
Layer terhadap MSE sederhana, RBF tidak dapat mencapai akurasi yang
186
Seminar Nasional Teknologi Informasi dan Komunikasi 2013 (SENTIKA 2013) ISSN: 2089-9815
Yogyakarta, 9 Maret 2013
baik dengan kombinasi learning rate dan epoch neuron pada hidden layer = 2, 7, 8 dan 9 dengan
yang ditetapkan pada simulasi, sehingga pengaruh selisih akurasi yang tidak terlalu signifikan,
GA maupun AGA dalam memperbaiki sangat sedangkan untuk arsitektur lainnya GARBF
terlihat karena dengan konsep crossover dan mutasi memiliki akurasi lebih baik dari pada AGARBF.
yang acak untuk GA dan adaptif untuk AGA Perbedaan akurasi yang signifikan diperoleh pada
menghasilkan MSE yang lebih baik. arsitektur dengan jumlah neuron pada hidden layer
Pada Gambar 4 dan 6 dapat dilihat bahwa = 4 dan 5 dengan perbedaan akurasi lebih dari 10
pada arsitektur dengan 5 neuron pada hidden layer, %.
algoritma RBF, GARBF dan AGARBF
menghasilkan MSE dan akurasi terburuk, hal ini 4. KESIMPULAN DAN SARAN
terjadi karena arsitektur dengan 5 neuron pada Penelitian ini menganalisa pengaruh GA
hidden layer adalah arsitektur yang tidak cocok (Genetic Algorithm) AGA (Adapative Genetic
untuk JST dengan jumlah neuron pada input layer Algorithm) pada JST RBF untuk klasifikasi dengan
= 4 dan jumlah neuron pada output layer = 2 untuk data tumbuhan iris. Evaluasi dari simulasi
kasus klasifikasi tumbuhan iris berdasarkan rumus menunjukkan bahwa JST GARBF dan AGARBF
empiris penentuan jumlah neuron pada hidden dapat memperbaiki akurasi untuk arsitektur JST
layer, seperti ditunjukkan pada tabel 8. RBF yang sederhana yaitu pada arsitektur dengan
jumlah neuron pada hidden layer = 2, 3, 4 dan 5,
Tabel 8. Rumus Empiris Penentuan Jumlah Neuron sedangkan untuk arsitektur yang lebih kompleks
pada Hidden Layer (Fahmi, 2011) yaitu pada arsitektur dengan jumlah neuron pada
No Rumus Empiris Nh hidden layer = 6, 7, 8, 9 dan 10, akurasi GARBF
1 2 1 9 dan AGARBF relatif sama dengan akurasi RBF,
2 3 12 namun cenderung menurun dengan presentase
2 0.5 3 penurunan akurasi yang relatif kecil.
3 3 Untuk pengembangan penelitian selanjutnya
perlu dikembangkan penggunaan metode crossover
4 2 /3 3 dan mutasi yang bervariasi pada GARBF ate
5 3 AGARBF dan penggunaan algoritma clustering
6 2 8 yang lain misalnya algoritma FCM (Fuzzy C-
Ni = Jumlah input yaitu 4 Means).
No = Jumlah output yaitu 2
Nh =Jumlah neuron pada hidden layer PUSTAKA
Venkatesan, P., & Anitha, S. (2006). Application of
Dari perhitungan penentuan hidden layer a Radial Basis Function neural network for
tersebut tidak diperoleh nilai 5, sehingga dapat diagnosis of diabetes mellitus. Journal
dikatakan bahwa arsitektur dengan 5 neuron pada Current Science Vol. 91. No. 9
hidden layer tidak tepat untuk klasifikasi tumbuhan Zhangang, Y., Yanbo, C., & Cheng, K. E. (2007).
iris. Penggunaan 5 neuron pada hidden layer akan Genetic Algorithm-Based RBF Neural
menghasilkan akurasi yang paling rendah. Network Load Forecasting Model. IEEE
Sementara untuk arsitektur dengan jumlah neuron Conference Power Engineering Society
pada hidden layer = 3 maupun kelipatannya adalah General Meeting.
arsitektur yang cocok untuk klasifikasi tumbuhan Awad, M. (2010). Optimization RBFNNs
iris. Hal tersebut sesuai dengan perhitungan rumus Parameters Using Genetic Algorithms:
empiris pada table 8. Dari hasil pengujian Applied on Function Approximation.
klasifikasi RBF, GARBF maupun AGARBF International Journal of Computer Science
arsitektur dengan jumlah neuron pada hidden layer and Security (IJCSS) , 4 (3), 295-307.
= 3 atau kelipatannya diperoleh hasil akurasi yang Fahmi, Y. (2011). Peramalan Nilai Harga Saham
tinggi Menggunakan Jaringan Syaraf Tiruan Dan
Sementara pada arsitektur dengan jumlah Algoritma Genetik. Yogyakarta: UII
neuron pada hidden layer = 7, 8, 9 dan 10, akurasi Yogyakarta.
GARBF dan AGARBF mengalami penurunan Srinivas, M., & Patnaik, L. M. (1994). Adaptive
dibandingkan dengan RBF. Dapat dilihat pada Probabilities of Crossover and Mutation in
Tabel 4 dan Tabel 5 bahwa akurasi RBF pada Genetic Algorithms. IEEE Transaction on
arsitektur ini sudah lebih dari 96 %, dan setelah systems , 656-667.
dilakukan simulasi dengan GARBF dan AGARBF Sarangi, P. P., Majhi, B., & Panda, M. (2012).
akurasi justru mengalami penuruan. Performance Analysis of Neural Networks
Pada Tabel 7, menunjukkan bahwa GARBF Training using Real Coded Genetic
secara keseluruhan lebih baik dari pada AGARBF. Algorithm. International Journal of Computer
AGARBF memiliki akurasi lebih baik dari pada Applications , 51, 30-36.
GARBF hanya pada arsitektur dengan jumlah Haryono, M. E.(2005). Pengenalan Huruf
187
Seminar Nasional Teknologi Informasi dan Komunikasi 2013 (SENTIKA 2013) ISSN: 2089-9815
Yogyakarta, 9 Maret 2013
188