Seminar Nasional Teknologi Informasi 2005
1
PENERAPAN METODE ACTIVE LEARNING PADAKLASIFIKASI POLA BERBASIS CONTOH
Setyo Nugroho
1)
Agus Harjoko
2)
1)
Jurusan Teknik Informatika, STMIK STIKOM BalikpapanJl. Kapten P Tendean 2A, Balikpapan 76111 Indonesia
email : setyo.n@gmail.com
2)
Program Pascasarjana Ilmu Komputer, Universitas Gadjah MadaYogyakarta, Indonesia
email : aharjoko@ugm.ac.id
ABSTRACT
Pada pengklasifikasi pola hasil pembelajaran berbasiscontoh, kelengkapan training data set (contoh data pelatihan) memegang peran penting dalam menentukankualitas pengklasifikasi pola yang dihasilkan. Salah satukesulitan dalam sistem pembelajaran berbasis contoh iniadalah memilih data mana yang akan digunakan sebagaitraining data set dari sejumlah besar data contoh yangtersedia. Metode active learning dapat membantu mengatasi halini dengan cara melakukan seleksi secara otomatis datamana yang akan digunakan sebagai bagian dari trainingdata set. Dengan demikian jumlah data yang digunakanuntuk pelatihan dapat diminimalkan dan hanya data yangbenar-benar perlu saja yang akan digunakan sebagaitraining data set untuk proses pembelajaran.Pada penelitian ini dilakukan eksperimen untuk menerapkan metode active learning pada jaringan syaraf tiruan yang disusun untuk menghasilkan sistem pendeteksiwajah manusia pada citra digital. Hasil eksperimenmenunjukkan bahwa metode active learning dapat mengurangi jumlah data yang diperlukan untuk prosestraining.
Key words
active learning, deteksi wajah, jaringan syaraf tiruan,klasifikasi pola
1. Pendahuluan
Pada pengklasifikasi pola yang diperoleh daripembelajaran dengan berbasis contoh (
example-based learning
), kelengkapan contoh data pelatihan (
trainingdata set
) memegang peranan yang sangat penting dalammenentukan kualitas pengklasifikasi pola yang dihasilkan.Salah satu kesulitan yang dihadapi dalam sistempembelajaran berbasis contoh ini adalah memilih datamana yang akan digunakan sebagai training data set darisejumlah besar data contoh yang tersedia. Semakinlengkap data contoh yang digunakan semakin bagus jugasistem yang diperoleh. Namun semakin besar jumlahtraining data set, semakin besar juga waktu dan biayakomputasi yang diperlukan untuk pelatihan.Pada penelitian ini dilakukan eksperimen untuk menerapkan metode active learning pada jaringan syaraf tiruan yang dilatih dengan menggunakan algoritmaQuickprop untuk menghasilkan sistem pendeteksi wajahmanusia pada citra digital.
2. Klasifikasi Pola
Tujuan dari klasifikasi pola adalah untuk memberikankeputusan terhadap suatu pola masukan untuk diklasifikasikan ke dalam salah satu kelas yang ada.Deteksi wajah dapat dipandang sebagai masalahklasifikasi pola dimana dengan input berupa citra masukanakan ditentukan output berupa label kelas dari citratersebut. Dalam hal ini terdapat dua label kelas, yaituwajah dan non-wajah [12].
2.1 Active Learning
Penelitian tentang metode
active learning
antara laintelah dilakukan oleh Hasenjager [6], Plutowski dan White[7], Cohn, Atlas, dan Ladner [2], Zhang [15], Adejumodan Engelbrecht [1], Sung [12] dan Vijayakumar[13].Sedangkan penelitian tentang penerapan metode activelearning untuk deteksi wajah telah dilakukan oleh Sung[12] dan Rowley [8].Dalam
active learning
atau
query learning
,
pelajar(
student
) ikut berperan aktif dalam memilih contoh datayang akan digunakan untuk training, sedangkan dalampelatihan tradisional atau
passive learning
pelajar hanyamenerima contoh data secara pasif. Tujuan dari activelearning adalah untuk menghasilkan training data set yang
Seminar Nasional Teknologi Informasi 2005
2
sesedikit mungkin namun memiliki nilai informasi yangtinggi. Hal ini sangat berguna dalam keadaan di manatersedia data contoh yang jumlahnya sangat banyak,sedangkan sebagian data tersebut mungkin bersifatredundan, sehingga membuat proses training menjadi tidak efisien [6].
2.2 Supervised Learning dengan Multi-LayerPerceptron
Salah satu metode yang banyak digunakan untuk klasifikasi pola adalah dengan menggunakan jaringansyaraf tiruan. Jaringan syaraf tiruan adalah suatu sistempemrosesan informasi yang cara kerjanya memilikikesamaan tertentu dengan jaringan syaraf biologis [5].Multi-Layer Perceptron adalah jaringan syaraf tiruan
feed-forward
yang terdiri dari sejumlah neuron yangdihubungkan oleh bobot-bobot penghubung. Neuron-neuron tersebut disusun dalam lapisan-lapisan yang terdiridari satu lapisan input (
input layer
), satu atau lebih lapisantersembunyi (
hidden layer
), dan satu lapisan output(
output layer
). Lapisan input menerima sinyal dari luar,kemudian melewatkannya ke lapisan tersembunyi pertama,yang akan diteruskan sehingga akhirnya mencapai lapisanoutput.Setiap neuron
i
di dalam jaringan adalah sebuah unitpemrosesan sederhana yang menghitung nilai aktivasinyayaitu
s
i
terhadap input eksitasi yang juga disebut net input
net
i
.
∑
∈
−=
)(
i pred jiij ji
wsnet
θ
(1)dimana
pred(i)
melambangkan himpunan predesesor dariunit
i
,
w
ij
melambangkan bobot koneksi dari unit
j
ke unit
i
, dan
θ
i
adalah nilai bias dari unit
i
.Tujuan dari pembelajaran
supervised learning
adalahuntuk menentukan nilai bobot-bobot koneksi di dalam jaringan sehingga jaringan dapat melakukan pemetaan(
mapping
) dari input ke output sesuai dengan yangdiinginkan. Pemetaan ini ditentukan melalui satu set polacontoh atau data pelatihan (
training data set
).Setiap pasangan pola
p
terdiri dari vektor input
x
p
danvektor target
t
p
. Setelah selesai pelatihan, jika diberikanmasukan
x
p
seharusnya jaringan menghasilkan nilai output
t
p
. Besarnya perbedaan antara nilai vektor target denganoutput aktual diukur dengan nilai error yang disebut jugadengan
cost function
:
∑∑
∈
−=
P pn pn pn
st E
2
)(21(2)di mana
n
adalah banyaknya unit pada
output layer
.Tujuan dari training ini pada dasarnya sama denganmencari suatu nilai minimum global dari
E
.Salah satu algoritma pelatihan jaringan syaraf tiruanyang banyak dimanfaatkan dalam bidang pengenalan polaadalah backpropagation. Algoritma ini umumnyadigunakan pada jaringan syaraf tiruan yang berjenis multi-layer feed-forward, yang tersusun dari beberapa lapisandan sinyal dialirkan secara searah dari input menujuoutput. Secara matematis, ide dasar dari algoritmabackpropagation ini sesungguhnya adalah penerapan dariaturan rantai (
chain rule
) untuk menghitung pengaruhmasing-masing bobot terhadap fungsi error [9].Algoritma Quickprop merupakan pengembangan darialgoritma backpropagation yang diusulkan oleh Fahlman[4]. Pada algoritma Quickprop dilakukan pendekatandengan asumsi bahwa kurva fungsi error terhadap masing-masing bobot penghubung berbentuk parabola yangterbuka ke atas, dan gradien dari kurva error untuk suatubobot tidak terpengaruh oleh bobot-bobot yang lain.Dengan demikian perhitungan perubahan bobot hanyamenggunakan informasi lokal pada masing-masing bobot.Eksperimen dengan masalah XOR dan encoder/decoderoleh Fahlman [4], dan eksperimen dari Schiffmann [10]menunjukkan bahwa algoritma Quickprop dapatmeningkatkan kecepatan training.
3. Cara Penelitian
Dalam penelitian ini digunakan data yang terdiri darisatu set citra untuk pelatihan (
training data set
) dan satuset citra untuk pengujian (
testing data set
). Untuk datapelatihan digunakan citra wajah berukuran 20x20 pixelsebanyak 3000 buah. Sedangkan untuk citra non-wajahdiperoleh dari file-file citra yang tidak terdapat wajahmanusia di dalamnya.Sistem ini menggunakan jaringan syaraf tiruan (JST)dengan arsitektur yang diadaptasi dari penelitian Rowley[8], namun lebih disederhanakan. Lapisan input terdiri dari400 unit input, yang menerima masukan dari nilaigrayscale pixel 20x20 dari subcitra yang akan dideteksi.Lapisan output terdiri dari sebuah unit dengan nilaikeluaran berkisar antara –1 dan 1. Pada training data setdidefinisikan nilai 1 untuk data wajah dan –1 untuk datanon-wajah.Lapisan tersembunyi (
hidden layer
) terdiri dari total25+16=41 unit. Bagian pertama terhubung dengan lapisaninput yang membentuk 25 area berukuran 4x4 pixel.Bagian kedua terhubung dengan lapisan input yangmembentuk 16 area berukuran 5x5 pixel. Secarakeseluruhan jaringan ini memiliki 883 bobot penghubung,sudah termasuk bias. Jaringan ini lebih sederhanadibandingkan dengan sistem [8] yang jumlah bobotpenghubungnya mencapai 4357.
3.1 Pelatihan dengan Metode Active Learning
Pelatihan dilakukan secara bertahap denganmenggunakan metode
active learning
seperti yang
Seminar Nasional Teknologi Informasi 2005
3
digunakan oleh Sung [12] dan Rowley [8]. Selamapelatihan digunakan semua data wajah yang ada sebanyak 3000 data wajah. Namun karena data non-wajah yangtersedia sangat banyak, mencapai lebih dari satu milyardata, maka dilakukan seleksi secara bertahap terhadap datanon-wajah.Pada tahap pertama training digunakan 1000 data non-wajah yang dipilih secara random. Pada setiap tahapberikutnya, data training non-wajah ditambah sebanyak 200 data. Data tambahan tersebut diseleksi hanya untuk data non-wajah yang belum dapat dideteksi dengan benaroleh detektor hasil training tahap sebelumnya, yaitu datanon-wajah yang dideteksi sebagai wajah (
false positive
).Dengan cara ini jumlah data training yang digunakanuntuk jaringan syaraf tiruan tidak terlalu besar, sehinggamemori yang diperlukan untuk pelatihan lebih kecil danwaktu yang diperlukan untuk proses training juga lebihsingkat. Gambar 2 menunjukkan metode
active learning
yang digunakan untuk sistem pendeteksi wajah.
3.2 Detektor Wajah
Bagian detektor wajah menggunakan arsitektur jaringan syaraf yang sama dengan yang digunakan untuk training. Bobot penghubung yang digunakan diambil daribobot terakhir yang dihasilkan pada proses training. Hasildeteksi akan diputuskan sebagai wajah jika output dariJST lebih dari 0, dan diputuskan sebagai non-wajah jikaoutput JST kurang dari atau sama dengan 0.Posisi wajah bisa berada di mana saja pada citra yangakan dideteksi. Untuk itu digunakan window berukuran20x20 pixel yang akan digeser melalui seluruh daerahcitra. Daerah citra yang dilewati oleh window tersebutakan diperiksa satu persatu apakah ada wajah atau tidak diarea tersebut.Untuk mengantisipasi ukuran wajah yang bervariasi didalam citra yang dideteksi, citra diperkecil secara bertahapdengan skala perbandingan 1:1,2 sebagaimana dilakukanpada [8]. Pada setiap ukuran citra yang diperkecil, window20x20 pixel akan digeser melalui seluruh area citra.Sebelum digunakan sebagai
training data set
, citraakan melalui tahap-tahap preprocessing berupa histogramequalization untuk memperbaiki kontras citra, masking,untuk menghilangkan bagian sudut-sudut citra dengantujuan mengurangi variasi citra sehingga memperkecildimensi data. Setelah itu dilakukan normalisasi pada nilaiintensitas grayscale citra sehingga memiliki range antara-1 sampai dengan 1. Tahap-tahap preprocessing yang sama juga dilakukan pada saat pendeteksian wajah. Gambar 3menunjukkan contoh citra wajah yang telah mengalamipreprocessing.
4. Hasil Percobaan
Untuk mengukur unjuk kerja detektor wajah,digunakan dua parameter, yaitu
detection rate
dan
false positive rate
[14].
Detection rate
adalah perbandinganantara jumlah wajah yang berhasil dideteksi dengan jumlah seluruh wajah yang ada.
False positive rate
adalahbanyaknya subcitra non-wajah yang dideteksi sebagaiwajah.Pengujian dilakukan dengan data uji citra yang berasaldari Massachusetts Institute of Technology (MIT) yangterdiri dari 23 file citra yang secara keseluruhan berisi 149wajah (data uji MIT-23). Kumpulan citra ini pertama kalidipublikasikan pada [12]. Contoh hasil deteksi dapatdilihat pada gambar 4. Pada data uji ini diperoleh hasil
detection rate
sebesar 71,14% dan
false positives
sebanyak 62. Hasil ini diperoleh dari training yangmenggunakan 3000 data wajah dan 5200 data non-wajahyang diperoleh melalui metode
active learning
.Tabel 1 dan gambar 5 menunjukkan pengaruhbanyaknya data training yang digunakan terhadap hasildeteksi. Tabel ini berdasarkan hasil deteksi pada suatucitra berisi 15 wajah dan memiliki total 790.797 windowyang dideteksi. Terlihat bahwa semakin banyak datatraining non-wajah yang digunakan, semakin kecil angka
false positive
yang dihasilkan. Hal ini menunjukkan bahwadengan data yang semakin lengkap, hasil belajar sistemakan semakin baik.Tabel 2 menunjukkan perbandingan antara hasiltraining yang menggunakan metode
active learning
untuk memilih contoh data non-wajah, dengan hasil trainingyang menggunakan data yang dipilih secara random untuk data non-wajah. Pada eksperimen pertama digunakan 3000data wajah dan 3000 data non-wajah. Sedangkan padaeksperimen kedua digunakan 3000 data wajah dan 5200data non-wajah. Terlihat bahwa teknik
active learning
memberikan hasil yang lebih baik.
5. Kesimpulan dan Saran
Dari penelitian ini dapat diambil kesimpulan bahwapada sistem pendeteksi wajah, metode active learningdapat digunakan untuk memilih data contoh yang lebihtepat, sehingga meminimalkan jumlah data training yangdigunakan.Pada penelitian ini seleksi data training hanyadilakukan pada contoh data non wajah karena jumlahnya jauh lebih banyak daripada contoh data wajah. Untuk penelitian selanjutnya seleksi data training mungkin dapatdigunakan juga pada contoh data wajah.
Search History:
Result 00 of 00
00 results for result for
p.
Penerapan Metode Active Learning pada Klasifikasi Pola Berbasis Contoh
Penerapan Metode Active Learning pada Klasifikasi Pola Berbasis Contoh , Setyo Nugroho dan Agus Harjoko.
Seminar Nasional Teknologi Informasi (SNTI) 2005, 1 Oktober 2005, Fakultas Teknologi Informasi, Universitas Tarumanagara, Jakarta .
ABSTRACT
Pada pengklasifikasi pola hasil… (More)
Seminar Nasional Teknologi Informasi (SNTI) 2005, 1 Oktober 2005, Fakultas Teknologi Informasi, Universitas Tarumanagara, Jakarta .
ABSTRACT
Pada pengklasifikasi pola hasil… (More)
22.0K
Reads
53
Readcasts
39
Embed Views
More From This User
Notes
Load more
