Penambangan Teks

Makalah Individu Mata Kuliah Penambangan Data dan Intelijen Bisnis Semester Genap 2010/2011

Ivan Razela Lanin NPM: 0906593750

Program Studi Magister Teknologi Informasi Fakultas Ilmu Komputer Universitas Indonesia Mei 2011

Daftar isi

Daftar gambar
Daftar isi....................................................................................................................................2 Daftar gambar............................................................................................................................2 1. Pendahuluan...........................................................................................................................1 2. Pemrosesan bahasa alami.......................................................................................................1 3. Penambangan teks..................................................................................................................3 4. Proses penambangan teks.......................................................................................................4 5. Alat penambangan teks..........................................................................................................7 6. Bidang penerapan penambangan teks....................................................................................8 7. Penerapan penambangan teks bahasa Indonesia....................................................................9 Daftar pustaka...........................................................................................................................ii Indeks.......................................................................................................................................iii Gambar 1. Diagram konteks proses penambangan data.............................................................4 Gambar 2. Ringkasan artikel otomatis pada Bataviase..............................................................9 Gambar 3. Beranda SITTI........................................................................................................10 Gambar 4. Laman beranda Gresnews yang menunjukkan tren topik berita............................11

Penambangan Teks

1

1. Pendahuluan
Penambangan teks (text mining) berkembang dari kebutuhan untuk memproses data tak terstruktur (unstructured data) dalam bentuk teks. Penambangan teks diturunkan dari penambangan data (data mining) dan karenanya banyak memiliki kesamaan metode dalam penerapannya. Penambangan teks juga memiliki ketergantungan erat dengan bidang pemrosesan bahasa alami (natural language processing, NLP) karena masukan yang diolahnya adalah teks dalam bentuk bahasa alami. Makalah ini membahas sedikit dasar NLP yang terkait, dilanjutkan dengan penjabaran konsep, proses, dan perangkat lunak untuk penambangan teks. Makalah ditutup dengan pembahasan penerapan penambangan teks dalam beberapa bidang umum serta contoh penerapan untuk bahasa Indonesia. Makalah ini diharapkan dapat menjadi dasar untuk memahami penambangan teks dan potensi pemanfaatannya.

2. Pemrosesan bahasa alami
Pemrosesan bahasa alami (NLP) adalah penerapan ilmu komputer, khususnya kecerdasan buatan (artificial intelligence), dan linguistik, khususnya linguistik komputasional (computational linguistics), untuk mengkaji interaksi antara komputer dengan bahasa (alami) manusia. NLP berupaya memecahkan masalah untuk memahami bahasa alami manusia, dengan segala aturan gramatika dan semantiknya, dan mengubah bahasa tersebut menjadi representasi formal yang dapat diproses oleh komputer. Dalam penerapannya, tujuan NLP untuk memahami bahasa manusia ini memiliki banyak tantangan, yang antara lain adalah sebagai berikut: 1. Penandaan kelas kata (part-of-speech tagging). Sulit untuk menandai kelas kata (kata benda, kata kerja, kata sifat, dsb.) suatu kata dalam teks karena pengelasan kata sangat bergantung kepada konteks penggunaannya. 2. Segmentasi teks (text segmentation). Penentuan segmentasi sulit dilakukan pada bahasa tulis yang tidak memiliki pembatas kata spesifik (mis. bahasa Mandarin, Jepang, dan Thailand) serta pada bahasa lisan yang kadang membaurkan bunyi antarkata.

Penambangan Teks

2

3. Disambiguasi makna kata (word sense disambiguation). Banyak kata memiliki lebih dari satu makna, baik dalam bentuk homonim (makna berbeda dan tidak terkait, mis. “bisa” dalam makna “dapat” dan “racun”) maupun polisemi (makna berbeda, namun terkait, mis. “ragu” dalam makna “bimbang” dan “sangsi”). Pembedaan makna hanya dapat dilakukan dengan melihat konteks penggunaan. 4. Ambiguitas sintaksis (syntactic ambiguity). Suatu bahasa memiliki berbagai kemungkinan struktur kalimat. Pemilihan struktur yang paling tepat biasanya membutuhkan gabungan informasi semantik dan kontekstual. 5. Masukan yang tak sempurna atau tak teratur (imperfect or irregular input). Aksen dalam bahasa lisan serta kesalahan ejaan dan gramatikal dalam bahasa tulis menyulitkan pemrosesan bahasa alami. 6. Pertuturan (speech act). Struktur kalimat saja kadang tidak dapat dengan tepat menggambarkan maksud penutur atau penulis. Kadang gaya bahasa dan konteks menentukan maksud yang diinginkan. Di luar dari kesulitan-kesulitan tersebut, NLP telah berhasil diterapkan untuk berbagai tugas yang semula hanya dapat dilakukan oleh manusia. Beberapa bidang populer dalam penerapan NLP adalah sebagai berikut: 1. Pemerolehan informasi (information retrieval). Pencarian dokumen yang relevan, pencarian informasi spesifik di dalam dokumen, serta pembuatan metadata. 2. Penjawaban pertanyaan (question answering). Secara otomatis menjawab pertanyaan yang diajukan dengan bahasa alami dengan jawaban dalam bahasa alami pula. 3. Perangkuman otomatis (automatic summarization). Pembuatan versi singkat berisi butir-butir penting dari suatu dokumen dengan menggunakan program komputer. 4. Penerjemahan mesin (machine translation). Penerjemahan otomatis dari suatu bahasa alami ke bahasa lain. 5. Pengenalan wicara (speech recognition). Pengubahan bahasa lisan menjadi masukan yang dikenali oleh mesin, misalnya pada pendiktean bahasa lisan kepada komputer untuk menghasilkan bahasa tulis atau pelaksanaan suatu perintah oleh komputer berdasarkan bahasa lisan dari manusia. 6. Sintesis wicara (speech synthesis). Pengubahan bahasa tulis menjadi bahasa lisan, kebalikan dari pengenalan wicara.

Penambangan Teks

3

7. Pengenalan karakter optis (optical character recognition). Pengubahan tulisan tangan atau teks tercetak (biasanya melalui pemindai) menjadi dokumen yang dapat dikenali oleh mesin. 8. Analisis sentimen (sentiment analysis). Ekstraksi informasi dari sumber data teks untuk mendeteksi pandangan positif atau negatif terhadap suatu objek. Biasanya diterapkan untuk mengidentifikasi tren opini publik terhadap suatu produk atau perusahaan.

3. Penambangan teks
Penambangan teks adalah proses semiotomatis untuk mengekstraksi pola (informasi dan pengetahuan yang berguna) dari sejumlah besar sumber data tak terstruktur. Penambangan teks memiliki tujuan dan menggunakan proses yang sama dengan penambangan data, namun memiliki masukan yang berbeda. Masukan untuk penambangan teks adalah data yang tidak (atau kurang) terstruktur, seperti dokumen Word, PDF, kutipan teks, dll., sedangkan masukan untuk penambangan data adalah data yang terstruktur. Penambangan teks dapat dianggap sebagai proses dua tahap yang diawali dengan penerapan struktur terhadap sumber data teks dan dilanjutkan dengan ekstraksi informasi dan pengetahuan yang relevan dari data teks terstruktur ini dengan menggunakan teknik dan alat yang sama dengan penambangan data. Area penerapan penambangan teks yang paling populer adalah: 1. Ekstraksi informasi (information extraction): Identifikasi frasa kunci dan keterkaitan di dalam teks dengan melihat urutan tertentu melalui pencocokan pola. 2. Pelacakan topik (topic tracking): Penentuan dokumen lain yang menarik seorang pengguna berdasarkan profil dan dokumen yang dilihat pengguna tersebut. 3. Perangkuman (summarization): Pembuatan rangkuman dokumen untuk

mengefisienkan proses membaca. 4. Kategorisasi (categorization): Penentuan tema utama suatu teks dan pengelompokan teks berdasarkan tema tersebut ke dalam kategori yang telah ditentukan. 5. Penggugusan (clustering): Pengelompokan dokumen yang serupa tanpa penentuan kategori sebelumnya (berbeda dengan kategorisasi di atas).

Penambangan Teks

4

6. Penautan konsep (concept linking): Penautan dokumen terkait dengan identifikasi konsep yang dimiliki bersama sehingga membantu pengguna untuk menemukan informasi yang mungkin tidak akan ditemukan dengan hanya menggunakan metode pencarian tradisional. 7. Penjawaban pertanyaan (question answering): Pemberian jawaban terbaik terhadap suatu pertanyaan dengan pencocokan pola berdasarkan pengetahuan.

4. Proses penambangan teks
Penambangan teks memerlukan model proses standar berdasarkan praktik terbaik seperti model CRISP-DM (Cross-Industry Standard Process for Data Mining) untuk penambangan data. Delen & Crossland (2008) telah mengusulkan suatu diagram konteks untuk proses penambangan teks seperti pada Gambar 1. Diagram tersebut menggambarkan masukan (panah dari arah kiri), keluaran (panah ke arah kanan), batasan (panah dari arah atas), serta mekanisme (panah dari arah bawah) untuk proses penambangan data. Tujuan utama dari penambangan data adalah memproses data tak terstruktur (teks) untuk memperoleh pola yang bermakna dan dapat ditindaklanjuti untuk pengambilan keputusan yang lebih baik.

Gambar 1. Diagram konteks proses penambangan data

Turban et.al. (2011) membagi proses penambangan data menjadi tiga urutan proses utama sebagai berikut: 1. Pembuatan korpus. Proses ini mengumpulkan semua dokumen yang terkait dengan topik kajian, termasuk transkripsi rekaman suara. Semua dokumen ini selanjutnya

Penambangan Teks

5

diubah menjadi satu bentuk yang seragam (mis. berkas teks ASCII) untuk diproses oleh komputer. 2. Pembuatan daftar istilah. Proses ini bertujuan untuk membuat daftar istilah dan frekuensi kemunculannya dalam bentuk matriks istilah-dokumen (term-document matrix, TDM). Beberapa hal yang harus diperhatikan dalam pembuatan daftar istilah ini adalah sebagai berikut: a. Kata hentian (stop words) seperti partikel “yang” atau “dan” yang ada pada semua dokumen dan tidak memiliki daya pembeda dan harus dikecualikan dari daftar. b. Kamus atau istilah cakupan (include terms) berupa daftar istilah yang disusun lebih dulu untuk disertakan dalam daftar. c. Sinonim yang diperlakukan sebagai satu istilah (mis. “distribusi” dan “penyebaran”); d. Istilah khusus seperti kata majemuk (mis. “manajemen risiko”, “rekayasa perangkat lunak”) yang diperlakukan sebagai satu kesatuan; e. Pemangkalan (stemming) yaitu pemotongan kata untuk menemukan kata dasarnya agar dapat mengelompokkan bentukan yang berasal dari kata dasar yang sama (mis. “bertemu”, “menemukan”, “penemu”, dan “pertemuan” diperlakukan sama karena sama-sama berasal dari kata dasar “temu”). Daftar istilah yang diperoleh perlu diolah lebih lanjut dengan menentukan dua hal sebagai berikut: a. Pemilihan representasi indeks. Frekuensi kemunculan istilah sering kali harus dinormalisasikan untuk mendapatkan TDM yang lebih konsisten. Metodemetode yang sering dipakai untuk normalisasi TDM antara lain adalah (1) frekuensi logaritmik, (2) frekuensi biner, dan (3) frekuensi dokumen inversi. b. Pengurangan dimensi matriks. Jumlah istilah yang ditemukan sering kali harus dikurangi agar memudahkan pengelolaan. Metode pengurangan yang dapat dilakukan antara lain adalah (1) pemilihan istilah yang kontekstual oleh pakar, (2) penghapusan istilah dengan kemunculan yang sangat sedikit pada sangat sedikit dokumen, dan (3) pengubahan matriks dengan menggunakan dekomposisi nilai tunggal (singular value decomposition, SVD).

Penambangan Teks

6

3. Ekstraksi pengetahuan. TDM yang telah diolah dengan baik selanjutnya dapat diekstraksi, kadang dengan tambahan data terstruktur lain, untuk mendapatkan pola pada masalah yang dikaji. Beberapa kategori metode ekstraksi utama adalah sebagai berikut: a. Klasifikasi. Metode ini bertujuan untuk mengelompokkan suatu teks ke dalam kategori yang telah dibuat. Contoh penerapan metode ini antara lain adalah pengindeksan teks, pemfilteran spam, kategorisasi hierarkis laman web, pembuatan metadata, deteksi genre, dll. Dua pendekatan utama dalam klasifikasi teks adalah rekayasa pengetahuan (knowledge engineering) dan pembelajaran mesin (machine learning). Metode rekayasa pengetahuan menggunakan pengetahuan pakar tentang pengetahuan yang dimasukkan ke dalam sistem baik secara deklaratif maupun dalam bentuk prosedur aturan klasifikasi. Metode pembelajaran mesin memanfaatkan proses induktif untuk membuat penggolong (classifier) yang belajar dari himpunan contoh yang ada. Peningkatan pesat jumlah dokumen dan kesulitan untuk mendapatkan pakar membuat metode pembelajaran mesin semakin menjadi metode pilihan untuk klasifikasi. b. Penggugusan. Metode ini bertujuan untuk mengelompokkan kumpulan objek ke dalam kelompok–disebut gugus (cluster)–yang bermakna tanpa supervisi dan pengetahuan sebelumnya. Contoh utama penerapan metode ini adalah dalam perbaikan hasil penelusuran web, misalnya oleh Google, dengan asumsi dasar bahwa dokumen yang relevan cenderung untuk lebih memiliki kemiripan antara satu dengan yang lainnya. Dua metode penggugusan paling populer adalah penggugusan sebar/kumpul (scatter/gather) dan kueri-khusus (query-specific). c. Asosiasi. Metode ini bertujuan untuk mengidentifikasi hubungan antarkonsep yang dinyatakan dengan dua ukuran dasar: keyakinan (confidence) dan dukungan (support). Contoh penerapannya antara lain terhadap teks literatur web untuk mengidentifikasi keterkaitan antara wilayah penyebaran, spesies yang terinfeksi, dan tindakan yang dilakukan pada kasus flu burung. d. Analisis tren. Metode ini bertujuan untuk mengidentifikasi perbedaan kecenderungan beberapa subkoleksi dari satu koleksi teks yang sama. Contoh

Penambangan Teks

7

penambangan teks yang pernah dilakukan dilakukan dengan metode ini adalah identifikasi evolusi topik sistem informasi yang dibahas dalam jurnal akademis pada berbagai waktu.

5. Alat penambangan teks
Berikut ini beberapa perangkat lunak komersial dan bebas yang dapat digunakan sebagai alat untuk melakukan penambangan teks.

A.

Komersial

Berikut ini daftar beberapa perangkat lunak komersial untuk penambangan teks. 1. ClearForest http://www.clearforest.com/solutions.html 2. IBM Intelligent Miner Data Mining Suite (bagian dari IBM InfoSphere Warehouse) http://www.ibm.com/infosphere/warehouse/ 3. Megaputer TextAnalyst http://www.megaputer.com/textanalyst.php 4. SAS Text Analytics http://www.sas.com/text-analytics/ 5. SPSS Text Mining for Clementine http://www.spss.com/text_mining_for_clementine/ 6. Statistica Text Miner http://www.statsoft.com/products/statistica-text-miner/ 7. VantagePoint http://www.thevantagepoint.com/ 8. WordStat http://www.provalisresearch.com/wordstat/wordstat.html

B.

Bebas

Berikut ini daftar beberapa perangkat lunak bebas untuk penambangan teks. Beberapa di antaranya juga merupakan perangkat lunak sumber terbuka. 1. GATE (General Architecture for Text Engineering) http://gate.ac.uk/ 2. LingPipe http://alias-i.com/lingpipe/ 3. LPU (tadinya S-EM) http://www.cs.uic.edu/~liub/LPU/LPU-download.html 4. RapidMiner http://www.rapidminer.com/ 5. UIMA http://uima.apache.org/

Penambangan Teks

8

C.
teks.

Daring

Berikut beberapa alat daring yang dapat digunakan untuk penerapan spesifik penambangan

1. Ranks.nl http://www.ranks.nl/ 2. Wordle http://www.wordle.net/

6. Bidang penerapan penambangan teks
Penambangan data telah diaplikasikan dalam beberapa bidang seperti dijabarkan berikut ini. 1. Pemasaran. Penambangan teks terhadap transkripsi percakapan pusat panggilan (call center), tulisan blog, ulasan produk oleh situs independen, dan diskusi pada forum diskusi daring telah digunakan untuk menganalisis persepsi dan sentimen konsumen terhadap produk atau produsen. Informasi ini dapat dipakai untuk meningkatkan kepuasan dan nilai produk bagi pelanggan. 2. Keamanan. Penambangan teks telah digunakan antara lain sebagai sumber intelijen dalam Perang Dingin (Echelon oleh Amerika Serikat, Australia, Inggris, Kanada, dan Selandia Baru), pelacakan kejahatan terorganisasi lintas negara (OASIS oleh Europol, Uni Eropa), serta pemantauan keamanan gabungan oleh FBI, CIA, dan Departemen Keamanan AS. Selain itu, penambangan teks telah dipakai untuk mendeteksi kebohongan terhadap pernyataan tertulis, sebagai alternatif dari metode poligraf yang hanya dapat diterapkan untuk pernyataan lisan. 3. Biomedis. Penambangan teks berpotensi untuk memproses literatur dalam bidang ini secara otomatis karena (1) jumlah publikasi meningkat pesat, (2) literatur bidang medis lebih terstandardisasi dan teratur, dan (3) terminologi yang digunakan relatif konstan dengan ontologi yang cukup baku. 4. Akademis. Penambangan teks telah dimanfaatkan oleh berbagai penerbit jurnal akademis dan lembaga pendidikan untuk memproses basis data artikel besar yang memerlukan pengindeksan untuk membantu para pencari informasi. Prakarsa yang telah dilakukan pada bidang ini antara lain adalah Open Text Mining Interface (Nature), Journal Publishing Document Type Definition (National Institute of Health),

Penambangan Teks

9

National Centre for Text Mining (University of Manchester and Liverpool), serta BioText (University of California, Barkeley).

7. Penerapan penambangan teks bahasa Indonesia
Berikut adalah beberapa contoh penerapan penambangan data untuk bahasa Indonesia yang dapat ditemukan di Internet.

A.

Bataviase: Perangkum berita otomatis

Bataviase <http://bataviase.co.id/> adalah situs yang membuat ringkasan atau rangkuman berita secara otomatis. Bataviase menerapkan perangkuman otomatis dari penambangan teks untuk membuat ringkasan berita dari berbagai surat kabar di Indonesia. Selain itu, Bataviase juga menerapkan kategorisasi berdasarkan 19 kategori yang telah ditentukan serta pelacakan topik dalam bentuk artikel terkait.

Gambar 2. Ringkasan artikel otomatis pada Bataviase

Penambangan Teks

10

B.

SITTI: Platform iklan kontekstual

SITTI <http://www.sitti.co.id/> adalah layanan platform iklan kontekstual yang menampilkan iklan sesuai dengan target yang diinginkan pemasang iklan. SITTI memanfaatkan ekstraksi informasi untuk mencari kata kunci yang terkait dengan suatu laman web dan pelacakan topik untuk menampilkan iklan yang sesuai dengan pengunjung laman tersebut.1 Platform lain yang memanfaatkan teknologi yang mirip dengan SITTI adalah Google AdWords.

Gambar 3. Beranda SITTI

C.

Gresnews: Laboratorium penambangan teks

Gresnews <http://gresnews.com/> adalah situs yang mengorganisasikan dan menganalisis informasi dari beberapa situs berita berbahasa Indonesia dan menyajikannya dalam berbagai dimensi. Gresnews dapat dianggap sebagai laboratorium penambangan data karena berupaya menggunakan semua penerapan dan metode penambangan teks seperti ekstraksi informasi, pelacakan topik, kategorisasi, penggugusan, dan penautan konsep. Gresnews juga tampaknya

1

http://www.sitti.co.id/tentang-sitti.html

Penambangan Teks

11

sedang mengembangkan analisis sentimen dan pengenalan entitas bernama yang juga merupakan bagian dari penerapan NLP.2

Gambar 4. Laman beranda Gresnews yang menunjukkan tren topik berita

2

http://www.gresnews.com/about

Penambangan Teks

ii

Daftar pustaka
Berry, M.W., & Kogan, J. (2010). Text Mining: Application and Theory. Chichester: John Wiley & Sons, Ltd. Feldman, R., & Sanger, J. (2007). The Text Mining Handbook: Advanced Approaches in Analyzing Unstructured Data. New York: Cambridge University Press. Gresnews. About Gresnews. http://www.gresnews.com/about. Diambil pada 29 Mei 2011. SITTI. Tentang SITTI. http://www.sitti.co.id/tentang-sitti.html. Diambil pada 29 Mei 2011. Turban, E., et.al. (2011). Decision Support and Business Intelligence Systems 9th Edition. New Jersey: Pearson Education, Inc.

Penambangan Teks

iii

Indeks
ambiguitas sintaksis (syntactic ambiguity) ...............................................................2 analisis sentimen (sentiment analysis)......3 analisis tren (trend analysis)......................6 asosiasi (association).................................6 CRISP-DM (Cross-Industry Standard Process for Data Mining)......................4 data tak terstruktur (unstructured data).....1 dekomposisi nilai tunggal (singular value decomposition, SVD)............................5 disambiguasi makna kata (word sense disambiguation).....................................2 dukungan (support)...................................6 ekstraksi informasi (information extraction).............................................3 gugus (cluster)...........................................6 kata hentian (stop words)..........................5 kategorisasi (categorization).....................3 keyakinan (confidence).............................6 klasifikasi (classification).........................6 korpus........................................................4 kueri-khusus (query-specific)...................6 matriks istilah-dokumen (term-document matrix, TDM)........................................5 NLP → pemrosesan bahasa alami............1 pelacakan topik (topic tracking)................3 pemangkalan (stemming)..........................5 pembelajaran mesin (machine learning)...6 pemerolehan informasi (information retrieval)................................................2 pemrosesan bahasa alami (natural language processing, NLP)...................1 penambangan data (data mining)..............1 penambangan teks (text mining)...............1 penandaan kelas kata (part-of-speech tagging).................................................1 penautan konsep (concept linking)...........4 penerjemahan mesin (machine translation) ...............................................................2 pengenalan karakter optis (optical character recognition)...........................3 pengenalan wicara (speech recognition)...2 penggolong (classifier)..............................6 penggugusan (clustering)..........................3 penjawaban pertanyaan (question answering).........................................2, 4 perangkuman (summarization).............2, 3 pertuturan (speech act)..............................2 rekayasa pengetahuan (knowledge engineering)..........................................6 sebar/kumpul (scatter/gather)....................6

Penambangan Teks

iv

segmentasi teks (text segmentation).........1 sintesis wicara (speech synthesis).............2

SVD → dekomposisi nilai tunggal...........5 TDM → matriks istilah dokumen.............5