Backpropagation

Metode Jaringan Saraf Tiruan : BACKPROPAGATION (PROPAGASI BALIK)

Penemu : - Bryson dan Ho (1969) - Paul Werbos (1974) - David E. Rumelhart, Geoffrey E. Hinton, Richard J. Williams ( 1986) Konsep Dasar - Arsitektur : Multilayer - Metode Pembelajaran : Supervised (Terawasi) - Fungsi Aktivasi : Sigmoid, Transig, Purelin - Secara umum pelatihan sebuah jaringan backpropagation terdiri dari 3 langkah : 1. Pelatihan pola input secara feedforward 2. Perhitungan dan Propagasi Balik dari kumpulah kesalahan (error/galat) 3. Penyesuaian bobot

Input signals
1

x1
2 1 2 i

y1 y2

x2

xi

wij

wjk

yk

m n

xn Input layer Hidden layer Error signals

yl

Output layer

Backpropagation

ALGORITMA BACKPROPAGATION
Langkah 1 : Inisialisasi bobot dengan bilangan nilai acak kecil Langkah 2 : Selama kondisi berhenti salah, kerjakan langkah 3 s.d. 8 Umpan Maju (Feedforward) Langkah 3 : Tiap unit masukan (xi, i=1,..,n) menerima isyarat masukan xi dan diteruskan ke unit-unit tersembunyi (hidden layer) Langkah 4 : Tiap unit tersembunyi (zj , z=1,.,p) menjumlahkan bobot sinyal input.

Z _ in jk = v 0 j + xi vij
i =1

dengan menerpakan fungsi aktivasi hitung : Z j = f ( Z _ in j )

misal, fungsi aktivasi yang digunakan adalah sigmoid : 1 y = f ( x) = 1 + e x dan mengirimkan isyarat ini ke semua unit pada unit keluaran

Langkah 5 : Tiap unit keluaran (yk, k=1,..,m) menjumlahkan isyarat masukan berbobot
Y _ ink = w0 j + z j v jk
k =1 p

dengan menerpakan fungsi aktivasi hitung : Y j = f (Y _ ink )

Perambatan Galat Mundur (Backpropagation)

Langkah 6 : Tiap unit keluaran (yk, k=1,..,m) menerima pola pelatihan masukannya. Hitung galat (error) informasinya : k = (tk yk ) f ' ( y _ ink ) Hitung koreksi bobot dan biasnya : w jk = k x j
w0 k = k

Langkah 7 : Tiap unit tersembunyi (zj , z=1,.,p) menjumlahkan delta masukannya (dari unit-unit yang berada pada lapisan atasanya).

_ in j = k w jk
k =1

Backpropagation

Hitung galat (error) informasinya : j = _ in j f ( x _ in j ) Hitung koreksi bobot dan biasnya : vij = j xi
Perbaiki bobot dan bias

Langkah 8 : Tiap unit keluaran (yk, k=1,..,m) memperbaharui bobot dan bias ( j=0,1,..p) w jk (baru ) = w jk (lama ) + w jk Tiap unit tersembunyi (zj, z=1,.,p) memperbaharui bobot dan biasnya (i=0,1,..n) vij (baru ) = vij (lama) + vij Langkah 9 : Uji syarat berhenti