Professional Documents
Culture Documents
Dimana
adalah berat
dari hubungan antara node j dan i, dan f adalah fungsi aktivasi . Setiap fungsi nonlinier dapat
digunakan sebagai fungsi aktivasi , tetapi fungsi sigmoidal sering digunakan .
11.1.2 Belajar Algoritma
Jaringan saraf dapat dikategorikan ke dalam feedforward dan umpan balik . Jaringan saraf
feedforward hanya memiliki link feedforward , yaitu jaringan saraf yang tidak memiliki siklus
umpan balik. Output dari node tidak akan secara langsung atau tidak langsung dapat digunakan
sebagai input dari simpul tersebut . Sebaliknya , jaringan saraf umpan balik memiliki siklus
umpan balik . Output dari node dapat digunakan sebagai input dari sebuah node . (Gambar 11.2
(a) , (b)) menunjukkan jaringan saraf feedforward dan umpan balik , masing-masing. Dalam
kasus jaringan umpan balik saraf , tidak ada jaminan bahwa jaringan menjadi stabil karena siklus
umpan balik . Beberapa dari mereka berkumpul ke titik stabil , beberapa mungkin memiliki batas
- siklus , atau menjadi kacau atau divergen . Ini adalah karakteristik umum dari sistem non -
linear yang memiliki umpan balik .
Ada dua jenis algoritma pembelajaran dalam jaringan saraf . Tipe pertama diawasi belajar . Ini
menggunakan satu set data pelatihan yang terdiri dari pasangan input dan output . Selama belajar
, bobot jaringan saraf berubah sehingga pemetaan input-output menjadi lebih dan lebih dekat
dengan data pelatihan . Tipe kedua adalah pembelajaran tanpa pengawasan. Sedangkan
pembelajaran diawasi menyajikan sasaran jawaban untuk setiap masukan ke jaringan saraf ,
pembelajaran terawasi memiliki jawaban sasaran . Ini menyesuaikan bobot jaringan saraf dalam
menanggapi hanya pola masukan tanpa jawaban sasaran . Dalam pembelajaran terawasi ,
jaringan biasanya mengklasifikasikan pola masukan ke dalam kategori kesamaan .
11.1.3 Multilayer Perceptrons dan Kesalahan Backpropagation Learning
Di antara jaringan saraf dan algoritma pembelajaran , multiplayer jaringan perceptron dan
algoritma pembelajaran yang banyak digunakan . Algoritma pembelajaran ini disebut metode
backpropagation error . Multilayer perceptrons adalah jaringan feedforward neural berlapis.
Mereka terdiri dari beberapa lapisan . Lapisan A adalah satu set node yang tidak memiliki
hubungan inter - koneksi , yaitu node pada lapisan yang sama tidak terhubung satu sama lain.
Salah satu ciri lagi adalah bahwa node dalam lapisan yang terhubung ke node hanya di lapisan
tetangga . ( Gambar 11.3 ) menunjukkan jaringan perceptron tiga lapisan . Lapisan pertama
adalah lapisan input, yang kedua adalah lapisan tersembunyi dan yang ketiga adalah lapisan
output.
( 1 ) fungsi Aktivasi
Dalam jenis jaringan saraf , fungsi aktivasi banyak digunakan adalah fungsi sigmoidal
didefinisikan sebagai :
Alasannya adalah bahwa turunannya sederhana sebagai berikut :
Jika turunan sederhana , algoritma backpropagation error dapat sederhana .
( 2 ) algoritma pembelajaran backpropagation Kesalahan
Algoritma backpropagation error iteratif perubahan bobot link sedikit demi sedikit . Bobot yang
berubah sehingga kesalahan diminimalkan . Kesalahan didefinisikan sebagai :
dimana tk adalah output yang diharapkan dan ok adalah output aktual untuk simpul k pada
lapisan output. Dalam rangka untuk memutuskan apakah akan menambah atau mengurangi wji
berat , algoritma mengevaluasi turunan dari E sehubungan dengan wji , dan kemudian berubah
wji ke arah berlawanan dengan derivasi . Artinya,
Dimana
. adalah tingkat pembelajaran dan wji adalah berat dari hubungan antara
simpul j dan node i . Nilai adalah bilangan real kecil yang telah ditentukan.
( 3 ) masalah Convergence
Jadi , jika semua bobot dari jaringan saraf yang iteratif dimodifikasi sedikit demi sedikit dengan
cara ini , E akan menurun dan pada konvergen terakhir ke titik stabil . Namun itu tidak menjamin
untuk berkumpul dengan optimal global, karena metode ini hanya menggunakan derivasi . Jadi ,
untuk mengatasi hal ini
cacat , beberapa variasi telah dikembangkan seperti menambahkan istilah momentum .
Satu pertanyaan lagi pada algoritma ini adalah tentang besarnya . Jika adalah nilai besar ,
kecepatan belajar mungkin cepat, tapi hal ini dapat menyebabkan osilasi besar . Nilai kecil tidak
akan menyebabkan osilasi besar , namun kecepatan belajar lambat . Memilih nilai tergantung
pada aplikasi .
(4) evaluation of changes of weight
In order to evaluate
, let us defined
, then
Because
Thus
What remain to evaluate
is to evaluate to
.
If node j is an output node.
Because
= -(
If node j is a hidden node,
Because
by definition
Where node k is in the next layer i.e.
Then the value of
And for the hidden nodes
.
11.2 Fusion dengan Neural Networks
Jaringan saraf dan sistem kabur adalah dua teknologi yang saling melengkapi . Jaringan saraf
dapat belajar dari data, tetapi pengetahuan diwakili oleh jaringan saraf sulit dimengerti .
Sebaliknya , sistem kabur mudah untuk memahami karena mereka menggunakan istilah
linguistik dan jika - maka aturan , tetapi tidak memiliki algoritma belajar . Jadi , banyak
penelitian telah dikhususkan untuk fusi dari mereka . Para penelitian tentang fusi jaringan saraf
dan sistem fuzzy dapat diklasifikasikan ke dalam empat kategori :
( 1 ) Memodifikasi sistem kabur dengan diawasi belajar jaringan saraf ,
( 2 ) Membangun jaringan saraf menggunakan sistem fuzzy,
( 3 ) Membuat fungsi keanggotaan dengan jaringan saraf ,
( 4 ) Concatenating jaringan saraf dan sistem fuzzy.
11.2.1 Memodifikasi Sistem Fuzzy dengan diawasi Neural Network Learning
Penelitian dalam kategori ini merupakan sistem kabur dengan jaringan saraf . Sistem ini disebut
neuro sistem fuzzy, dan jaringan saraf digunakan untuk meningkatkan kinerja sistem fuzzy.
Neuro Fuzzy sistem memiliki karakteristik dari kedua jaringan saraf dan sistem kabur ; mereka
telah belajar kemampuan seperti jaringan saraf dan dapat melakukan inferensi seperti sistem
fuzzy. Dalam jaringan saraf biasa , node memiliki fungsi yang sama dan penuh terhubung ke
node di lapisan tetangga . Namun dalam sistem fuzzy neuro , node memiliki fungsi yang berbeda
dan tidak sepenuhnya terhubung ke node di lapisan tetangga . Perbedaan ini berasal dari fakta
bahwa node dan link dalam sistem fuzzy neuro biasanya sesuai dengan komponen tertentu dalam
sistem fuzzy . Artinya , beberapa node mewakili istilah linguistik dari variabel input , beberapa
node adalah untuk mereka variabel output, dan beberapa node dan link yang digunakan untuk
mewakili .