Markov Chain Kismanto Prihantoro Mahasiswa Jurusan TeknikIndustri, Universitas Gunadarma E-mail : st_hanz@yahoo.

com Abstrak Prinsipnya, ketika kita mengamati rangkaian probabilitas percobaan, semua hasil masa lalu bisa mempengaruhi prediksi untuk percobaan berikutnya. Tahun 1907, A.A. Markov mulai mempelajari teori baru yang yang berkaitan dengan probabilitas, dalam proses ini hasil percobaan tertentu dapat mempengaruhi hasil percobaan berikutnya. Makalah ini akan membahas apakah proses stokastik itu, yang merupakan dasar dari Markov Chain, bagaimana prinsip dasar, teorema yang berlaku, statusstatus Markov Chain, lalu bagaimana penerapan atau aplikasinya. Contoh studi kasus mendapatkan hasil yaitu perkiraan ramalan cuaca pada hari Senin 42% peluang akan cerah, 42% akan berawan, dan 15% hujan. Kata kunci: markov chain, stokastik, state 1. Latar Belakang Sebagian besar penelitian probabilitas menangani proses percobaan independen, ini merupakan dasar teori probabilitas klasik dan mengarah ke statistik. Kita telah melihat bahwa ketika urutan eksperimen membentuk independen maka hasil yang mungkin untuk setiap percobaan adalah sama. Lebih lanjut, pengetahuan dari hasil percobaan sebelumnya tidak mempengaruhi hasil berikutnya. Teori probabilitas modern memungkinkan mengetahui hasil sebelumnya untuk memprediksi hasil percobaan selanjutnya. Prinsipnya, ketika kita mengamati rangkaian probabilitas percobaan, semua hasil masa lalu bisa mempengaruhi prediksi untuk percobaan berikutnya. Oleh karena itu dalam makalah ini akan menjelaskan lebih jauh tentang teori tersebut, yaitu Proses Markov berupa Markov Chain dan penerapan teori tersebut. 2. 2.1 Landasan Teori Sejarah Markov Chain

Markov Chain baru diperkenalkan sekitar tahun 1907, oleh seorang Matematisi Rusia Andrei A. Markov (1856-1922). Andrey Markov menghasilkan hasil pertama (1906) untuk proses ini, murni secara teoritis. Sebuah generalisasi ke bentuk tak terbatas dalam ruang diskrit diberikan oleh Kolmogrov (1936). Rantai Markov terkait dengan gerak Brown dan ergodic hipotesis dua topik dalam fisika yang penting dalam tahun-tahun awal abad ke-20, tetapi tampaknya Markov lebih fokus pada perluasan Hukum Bilangan Besar dalam percobaaan-percobaaannya. Model ini berhubungan dengan suatu rangkaian proses dimana kejadian akibat suatu suatu eksperimen hanya tergantung pada kejadian yang langsung mendahuluinya dan tidak tergantung pada rangkaian kejadian sebelum-sebelumnya yang lain. Pada 1913, ia menerapkan temuannya untuk pertama kalinya untuk 20.000 pertama Pushkin huruf ”Eugine Onegin”. 2.2 Proses Acak Pengelompokkan tipe populasi dari proses acak bisa digambarkan sebagai jika X adalah proses acak, maka populasi dari proses acak adalah semua nilai yang mungkin yang bisa dimasukkan dalam suatu proses contohnya Jika X adalah proses acak yang menggambarkan suatu persamaan, maka populasi dari X dapat digambarkan sebagai suatu nilai yang memenuhi persamaan tersebut. Jika populasi dari S dari suatu

6. proses memiliki properti Markov yang berarti bahwa bentuk ke depan hanya tergantung pada keadaan sekarang. hanya untuk n = 1. rantai tersebut adalah irreduceable.…}). . X 3. dengan kata lain nilai yang mungkin untuk membentuk Xi S disebut ruang keadaan rantai.2. . dan tidak bergantung pada bentuk sebelumnya. Reachable State Status j reachable dari status i apabila dalam rantai dpat terjadi transisi dari status i ke status j melalui sejumlah transisi berhingga. yaitu bahwa setelah dari i melalui sejumlah transisi terdapat kemungkinan tidak dapat kembali ke i. jika pnii > 0.3 Konsep Dasar Markov Chain Apabila suatu kejadian tertentu dari suatu rangkaian eksperimen tergantung dari beberapa kemungkinan kejadian .. Probability of Ever Return Probabilitas akan kembalimya ke status i setelah sebelumnya meninggalkan i.org). Jika populasi dari S dari suatu proses acak X tidak dapat dihitung ( contoh S = ∞) maka X disebut Continuous Time Random Process perubahan state (discrete state) terjadi pada sembarang waktu. Markov Chain adalah sebuah Proses Markov dengan populasi yang diskrit ( dapat dihitung) yang berada pada suatu discrete state (position) dan diizinkan utk berubah state pada time discrete.. dalam hal ini X disebut Discrete Time Random Process perubahan state terjadi pada titik-titik integer. Probability of First Return Probabilitas kembali pertama kalinya ke status i terjadi dalam n transisi setelah meninggalkan i. Sebuah rantai Markov adalah suatu urutan dari variable-variabel acak X 1. 3. Dengan kata lain. … maka status tersebut disebut aperiodic. meskipun mungkin diprediksi dalam sifat statistik). Periodic State Suatu status i disebut periodic dengan peroda d > 1. Suatu Markov Chain merupakan proses stokastik berarti bahwa semua transisi adalah probabilitas (ditentukan oleh kebetulan acak dan dengan demikian tidak dapat diprediksi secara detail. Terdapat n.wikipedia. Untuk lebih tepatnya.(www.3. 0 ≤ n ≤ ∞. 3. Markov Chain merupakan proses acak di mana semua informasi tentang masa depan terkandung di dalam keadaan sekarang (yaitu orang tidak perlu memeriksa masa lalu untuk menentukan masa depan). sehingga Pnij > 0 2. Transient State Suatu status disebut transient jika probabilitas fi < 1. 2. (note: fi(0) didefinisikan = 1 untuk semua i) 5.proses acak X dapat dihiting (contoh S={1. maka rangkaian eksperimen tersebut disebut Proses Stokastik. 3d.…… sifat Markov yaitu. mengingat keadaan masa depan dan masa lalu keadaan yang independen. hanya untuk n = d. 2d. 4. gambaran tentang keadaan sepenuhnya menangkap semua informasi yang dapat mempengaruhi masa depan dari proses evolusi. sebaliknya jika pnii > 0. X 2. . Irreduceable Chain Jika dalam suatu rantai Markov setiap status reachable dari setiap status lainnya. 2. Status-statusnya adalah: 1.

4. Semua status recurrent null 3. Null Recurrent State Suatu Recurrent State disebut recurrent null jika mi = ∞ 10. c. ditulis dengan notasi 12. d. maka tepat salah satu kondisi berikut ini terjadi: 1. dan seluruh status positive recurrent. Ergodic Rantai Markov disebut ergodic jika. Communicate State Dua status. yaitu bahwa setelah dari i melalui sejumlah transisi selalu ada kemungkinan untuk kembali ke i. Untuk i<—> j.4. jika i <—> j dan j <—> k maka i <—> k b. Positive Recurrent State Suatu recurrent state disebut positive recurrent atau recurrent nonnull jika mi <∞ 11. 8. dikatakamn berkomunikasi jika i reachable dari j dan juga reachable dari i . Relasi i <—> j merupakan relasi ekuivalen 1.1 Teorema mengenai Relasi Ekovalensi a. aperiodic. untuk setiap status i . irreduceable. Maka πj(n) = P[ Xn = j] . Status-status suatu Rantai Markov dapat dipartisi kedalam kelas-kelas ekivalensi sehingga i <—> j. jumlah step rata-rata untuk kembali ke status i 9. maka juga j <—> i 3. jika dan hanya jika i dan j berada dalam kelas ekivalensi yang sama. Suatu Rantai Markov irreducible jika dan hanya jika didalamnya hanya terdiri atas tepat satu kelas ekivalensi. jika i <—> j. Semua status trancient 2. maka i dan j memiliki periode yang sama. Semua status adalah positif recurrent 2.4.7.4 Teorema-Teorema 2. i dan j. Jika i<—> j. Mean Recurrent Time of State Untuk suatu status recurrent.3 Teorema mengenai Limiting Probability Definisi: πj(n) adalah probabilitas suatu Rantai Markov { Xn}berada dalam status j pada step ke n. 2. 2. Recurrent State Suatu status disebut recurrent jika probabilitas fi = 1. berlaku i <—> i 2.2 Teorema mengenai Irreducible Jika {Xn}suatu rantai Markov. jika i recurrent maka juga j recurrent. e.

maka πj = 0 untuk semua j dan tidak terdapat distribusi probabilitas stasioner. Jika suatu rantai Markov homogen waktu (stasioner dari waktu ke waktu) yang irreducible. aperiodic. ……selalu ada dan independent dari distribusu probabilitas status awal π (0) = (π0(0) . 1. Hal ini tidak menyadari masa lalu (yaitu. 4.. 1.1 Aplikasi Fisika Sistem Markovian muncul secara luas dalam termodinamika dan mekanika statistika probabilitas setiap kali digunakan untuk mewakili unmodelled diketahui atau rincian dari sistem. ‘S makalah berjudul “Temporal Ketidakpastian Penalaran Bukti Jaringan untuk Aplikasi untuk Fusion dengan Obyek Deteksi dan Pelacakan” (ScienceDirect) memberikan latar belakang yang sangat baik dan studi kasus untuk menerapkan MCSTs ke lebih beragam aplikasi.. untuk j = 0. Ini kemudian transisi ke keadaan berikutnya ketika sebuah fragmen yang melekat padanya. π1(0) . π1. 4. …. Sebagai molekul tumbuh.Distribusi awal ( initial ) dari masing-masing status 0. 1. 4. dan bahwa tidak ada sejarah yang relevan perlu dipertimbangkan yang tidak sudah termasuk di keadaan bagian deskripsi. tidak menyadari apa yang sudah terikat untuk itu). …… dinyatakan sebagai πj(0) = P[ X0 = j]. 4. Jika seluruh status tidak positif recurrent (jadi seluruhnya recurrent null atau seluruhnya transient). mengatur rantai ini di beberapa lapisan rekursif ( ‘wafering’) dan memproduksi lebih efisien set uji – sampel – sebagai pengganti pengujian lengkap. 4. Chilukuri et al. Mereka juga memungkinkan estimasi keadaan dan pengenalan pola. untuk j = 0. MCST juga memiliki kegunaan dalam keadaan dunia berbasis jaringan. sementara model Markov Tersembunyi adalah secara ekstensif digunakan dalam pengenalan suara dan juga dalam bioinformatika misalnya untuk daerah pengkode / gen prediksi. sebuah metode Markov conjoining rantai untuk membentuk suatu ‘Markov selimut’. 2. Bahkan tanpa menjelaskan struktur penuh dari suatu sistem sempurna.2 Kimia Sebuah algoritma yang berdasarkan rantai Markov digunakan untuk memfokuskan pertumbuhan berdasarkan fragmen-bahan kimia di silico menuju kelas yang diinginkan dari senyawa seperti obatobatan atau produk alami. 4. seperti model-model sinyal dapat sangat efektif sehungga memungkinkan kompresi data melalui pengkodean entropi teknik. Seperti model ideal dapat menangkap banyak statistik keteraturan sistem. maka limit probabiltasnya. π2(0). …… Suatu rantai Markov memiliki distribusi probabilitas stasioner π = (π0.5 Statistik Metode Rantai Markov juga menjadi sangat penting untuk menghasilkan angka acak urutan . Dunia sistem telepon selular tergantung pada algoritma Viterbi untuk kesalahan-koreksi.3 Test Pengujian Beberapa teoretikus telah mengusulkan gagasan tentang rantai Markov uji statistik (MCST). ….4 Teori Queueing Rantai Markov juga dapat digunakan untuk model berbagai proses dalam teori queueing dan statistic.). πn ) apabila terpenuhi persamaan π = π P asalkan setiap πi ≥ 0 dan ∑i πi =1. jika dapat diasumsikan bahwa dinamika waktu-invarian. 2. π2. sebuah fragmen dipilih dari molekul baru lahir sebagai “saat ini” keadaan.

2= berawan. 2. 30% berawan. dari soal diatas model grafiknya 6. di mana saat ini kondisi konfigurasi struktural hasil masa depan.6 Ilmu sosial Rantai Markov biasanya digunakan dalam menggambarkan argumen. akan menghasilkan probabilitas yang lebih tinggi trensisi dari otoriter aturan demokratis. 3= hujan. Kesimpulan 1. dan 15% hujan Akan sangat bermanfaat menampilkan Discrete Time Markov Chain secara grafis. konfigurasi faktor struktural. Jika hari ini berawan maka besok akan berpeluang 40% cuaca cerah. Stasioner dari waktu ke waktu Discrete Time Markov Chain terdapat 3 fase. 2. yang memungkinkan berbagai distribusi posterior menjadi simulasi dan parameter yang ditemukan secara numerik. melalui proses yang disebut Markov Chain Monte Carlo (MCMC). seperti ukuran borjuis komersial. maka Matrik transisi Cuaca pada hari Sabtu π (1) maka 15% peluang akan cerah.mencerminkan secara akurat distribusi probabilitas sangat rumit yang diinginkan. Contoh adalah umumnya berpendapat hubungan antara pembangunan ekonomi dan bangkitnya demokrasi. X 3. Sebuah rantai Markov adalah suatu urutan dari variable-variabel acak X 1. X 2. rasio tinggal di pedesaan perkotaan. 5. 42% akan berawan. Proses selanjutnya hanya tergantung pada proses saat ini. dan 10% akan turun hujan. Pembahasan Soal 1. Jika hari ini hujan maka besok akan berpeluang 15% cuaca cerah. mobilisasi. Waktu diskrit dan populasi diskrit. 3. Sekali suatu keadaan mencapai tingkat tertentu perkembangan ekonomi. 45% berawan. Lingkaran melambangkan fase dan anak panah diberi angka peluang yang akan terjadi. Dalam beberapa tahun terakhir ini telah merevolusionerkan kepraktisan Inferensi Bayesian metode.…… sifat Kesimpulan yang dapat diambil pada penulisan makalah tentang Markov Chain adalah: Cuaca kota Bekasi dapat diperkirakan sebagai berikut . 3. 4. Proses stokastik adalah suatu kejadian tertentu dari suatu rangkaian eksperimen tergantung dari beberapa kemungkinan kejadian. 60% berawan. dan sebelum hari Jumat kita anggap 0. 60% akan berawan. dll. tingkat politik. 2. dan 25% akan turun hujan Jika pada hari Jumat hujan maka perkiraan cuaca hari Senin? Terlihat jelas bahwa perkiraan cuaca dapat diselesaikan dengan Discrete Time Markov Chain 1. dan 15% akan turun hujan. Jika hari ini cerah maka besok akan berpeluang 60% cuaca cerah. kita misalkan 1= cerah. dan 25% hujan Cuaca pada hari Minggu π (2) Cuaca pada hari Senin π (3) maka 42% peluang akan cerah.

com(Markov Chain) MatematikaCyberBoardSOS.1953. 2004. teorema mengenai Limiting Probability 4. “General irreducible Markov chains and non-negative operators”. ISBN 0-521-60494-X Cambridge University Press www.4 (2006): 591-600. 4. “Jenderal direduksikan rantai Markov dan non-operator negatif”. Sebuah Contoh Statistik Investigasi Teks Eugene Onegin Mengenai Koneksi Sampel in Chains. Probability of Ever Return. Teorema. Probability of First Return. Irreduceable Chain. New York: John Wiley and Sons E.google.Markov yaitu. 7.wikipedia. David Link. Sains dalam Konteks JL. Positive Recurrent State. Null Recurrent State. Communicate Stat. Doob. teorema mengenai Irreducible. dan Ergodic.teorema yang berlaku pada Markov Chain yaitu teorema mengenai Relasi Ekovalensi. Daftar Pustaka Teks klasik in Translation: AA Markov. Science in Context 19. Stochastic Processes.org www. Transient State. dengan kata lain nilai yang mungkin untuk membentuk Xi S disebut ruang keadaan rantai. mengingat keadaan masa depan dan masa lalu keadaan yang independen. Mean Recurrent Time of State. 1984. . Periodic State. Recurrent State. Cambridge University Press. David Link. 3. terj. 3. Status-status Markov Chain adalah Reachable State. Nummelin.ISBN 0-471-52369-0.

Sign up to vote on this title
UsefulNot useful