You are on page 1of 56

OPERATION RESEARCH II

3 SKS
MATERI KULIAH 1

susy susmartini
operations research II, 2006

DYNAMIC PROGRAMMING
KARAKTERISTIK DP:
PROBLEM DAPAT DIBAGI DALAM STAGE, DENGAN SUATU
POLICY DECISION,
SETIAP STAGE TERDIRI DARI SATU ATAU LEBIH STATE
(POSSIBLE CONDITIONS)
PENGARUH POLICY DECISION PADA SETIAP STAGE
MENGUBAH CURRENT STATE KE DALAM SUATU STATE YANG
BERHUBUNGAN DENGAN NEXT STAGE
SOLUTION PROBLEM DIDISAIN UNTUK MENDAPATKAN
OPTIMAL POLICY BAGI PROBLEM SECARA KESELURUHAN
OPTIMAL POLICY PADA SUATU STAGE BERSIFAT
INDEPENDENT DARI POLICY PADA STAGE SEBELUMNYA
SOLUTION PROCEDURE DIMULAI DENGAN MENENTUKAN
OPTIMAL POLICY PADA LAST STAGE
RECURSIVE RELATIONSHIP :
f n* sn Max / Min f n sn , xn
susy susmartini
operations research II, 2006

f n* sn Max / Min f n sn , xn
N
n
sn

: Jumlah stage
: label untuk stage ( n 1, 2, ......, N )
: current state untuk stage n

xn

: decision variable untuk stage n

xn*

: optimal value of xn (pada sn )

f n sn , xn : kontribusi stage n untuk fungsi tujuan


f n* sn

pada state sn , stage n, dan decision xn

f n sn , xn*

susy susmartini
operations research II, 2006

JENIS DYNAMIC PROGRAMMING

DETERMINISTIC DYNAMIC PROGRAMMING


Stage
n

sn

State :

f n s n , xn

Stage
n+1

sn 1

contribution of xn

f n*1 sn 1

PROBABILISTIC DYNAMIC PROGRAMMINGContribution


probability

State :

sn
f n s n , xn

decision

xn

p1
p2
ps

from stage n

c1

f n*1 1

c2

cs
susy susmartini
operations research II, 2006

f n*1 2
s

f n*1 s

DETERMINISTIC DYNAMIC PROGRAMMING


Contoh soal 1:

No. of
Medical
Teams

0
1
2
3
4
5

Thousands of Additional
Person-Years of Life
Country
1

0
45
70
90
105
120

0
20
45
75
110
150

0
50
70
80
100
130

susy susmartini
operations research II, 2006

Penyelesaian :

p (x )

Maximize

i 1

Subject to

i 1

xi are non negative integers


f n ( sn , xn ) pn ( xn ) max
3

x
i n

f n ( sn ) max

xn 0 ,1,....., s n

p (x )

i n 1

sn

f n ( s n , xn )

f n ( sn , xn ) pn ( xn ) f n1 ( sn xn )
f n ( sn )

max { pn ( xn ) f n1 ( sn xn )}

xn 0 ,1,....., s n

f 3 ( s3 ) max { p3 ( x3 )
x3 0 ,1,....., s3

susy susmartini
operations research II, 2006

for n 1,2

n=3

s3

f 3 ( s3 )

x3

0
1
2
3
4
5

0
50
70
80
100
130

0
1
2
3
4
5

susy susmartini
operations research II, 2006

n=2

f 2 ( s2 , x2 ) p2 ( x2 ) f 3 ( s2 x2 )

x2
s2
0
1
2
3
4
5

0
0
50
70
80
100
130

20
70
90
100
120

45
95
115
125

75
125
145

110
160

susy susmartini
operations research II, 2006

150

f 2 ( s2 )

x2

0
50
70
95
125
160

0
0
0 or 1
2
3
4

n = 1

f1 ( s1 , x1 ) p1 ( x1 ) f 2 ( s1 x1 )

x1
s1
5

160

170

165

160

155

120

f1 ( s1 )

x1

170

Optimal Solution :
x1 1

s2 5 1 4

s3 4 3 1

x2 3
x3 1
additional person years of life 170.000
susy susmartini
operations research II, 2006

DETERMINISTIC DYNAMIC PROGRAMMING


CONTOH SOAL 2 :
THE MINIMUM EMPLOYMENT REQUIREMENT
SEASON

SPRING

SUMMER

AUTUMN

WINTER

SPRING

REQUIREMENT

255

220

240

200

255

BIAYA KELEBIHAN TENAGA


KERJA

$ 2,000 / ORG / MUSIM

BIAYA PERUBAHAN JUMLAH


TENAGA KERJA

$ 200 / (PERBEDAAN JUMLAH TK)2

susy susmartini
operations research II, 2006

PENYELESAIAN :

STAGE
STAGE
STAGE
STAGE

1
2
3
4

:
:
:
:

Stage
n

SUMMER
AUTUMN
WINTER
SPRING

State :

sn

xn
200 xn sn 2,000 xn rn

Stage
n+1

xn

Value : f n sn , xn

f n*1 xn

xn jumlah tenaga kerja pd stage n,


n 1, 2, 3, 4
x4 255
rn kebutuhan minimum tenaga kerja pd stage n
r1 220, r2 240, r3 200, r4 255

rn xn 255

cost for stage n 200 xn xn 1 2,000 xn rn


2

State sn xn 1
Ketika :

n 1, s1 x0 x4 255
susy susmartini
operations research II, 2006

Object function :
Minimize

200 x
4

i 1

rn

220

240

200

255

ri xi 255

subject to :

xi 1 2,000 xi ri

Feasible

Possible

xn

sn xn 1

220 x1 255

s1 255

for i 1, 2, 3, 4
Cost

200 x1 255 2,000 x1 220


2

240 x2 255 220 s2 255

200 x2 x1 2,000 x2 240

200 x3 255 240 s3 255

200 x3 x2 2,000 x3 200

x4 255

200 s4 255
susy susmartini
operations research II, 2006

200 255 x3

recursive relation ship :


f n* sn min

rn xn 255

200 x

2
,
000
x

f
n
n
n
n
n 1 xn
2

Solution procedure
Stage 4 :
n=4

s4

f 4* s4

200 s4 255

200 255 s4

Stage 3 :
n=3

f 3* s3 min

200 x3 255

min

200 x3 255

200 x s
200 x s
3

255

2,000 x3 200 f 4* x3

2,000 x3 200 200 255 x3

x4*

Possible values 240 s3 255


susy susmartini
operations research II, 2006

min f 3 s3 , x3 :

f 3 s3 , x3 400 x3 s3 2,000 400 255 x3


x3
400 2 x3 s3 250
0
s 250

x3* 3
2
sehingga :
f 3* s3

s 250
s 250

200 3
s3 200 255 3

2
2

s 250

2,000 3
200
2

f 3* s3

s3

x3*

240 s3 255 50 250 s3 50 260 s3 1,000 s3 150


2

susy susmartini
operations research II, 2006

s3 250
2

Stage 2 :
n=2

f 2 s2 , x2 200 x2 s2 2,000 x2 r2 f 3* x2
2

200 x2 s2 2,000 x2 r2
2

50 250 s3 50 260 s3 1,000 s3 150


2

f 2* s2

min

240 x2 255

f 2 s 2 , x2
2 s2 240
x2
3

Karena :

2
f 2 s2 , x2 600 0
2
x2

nilai x2 min jika x2 feasible 240 x2 255

220 s2 255 hanya

feasible jika 240 s2 255

susy susmartini
operations research II, 2006

Tapi nilai x2 yg feasible tetap dihitung pada kondisi


f 2 s2 , x2 utk 220 s2 240

Ketika s2 240 :

f 2 s2 , x2 0, untuk 240 x2 255


x2
x2 240 adalah min value

f 2* s2

s2

200 240 s2 115,000

220 s2 240
240 s2 255

x2*
240

200
2
2
2 250 s2 265 s2 30 3s2 575
9
susy susmartini
operations research II, 2006

2 s2 240
3

Stage 1 :
n=1

f1 s1 , x1 200 x1 s1 2,000 x1 r1 f 2* x1
2

Mengacu pada f 2* x1 :

200 x1 s1 2,000 x1 220 200 240 x1 115,000

utk 220 x1 240


2

2
250

200
2
1
200 x1 s1 2,000 x1 220

9 265 s2 2 30 3s2 575

f1 s1 , x1

utk 240 x1 255

Untuk 220 x1 240 :

f1 s1 , x1 400 2 x1 s1 235
x1
s1 255

f1 s1 , x1 800 x1 245 0, x1 240


x1

Oleh karena itu ,


x1 240 adalah min value untuk 220 x1 240
susy susmartini
operations research II, 2006

Ketika 240 x1 255,

400
4 x1 3s1 225
f1 s1 , x1
x1
3
Karena :
2
f1 s1 , x1 0
2
x1

x1

maka untuk :

f1 s1 , x1 0
x1
Karena

x1

s1 255 x1 247.5

3s1 225
4

utk 240 x1 255

x1 240 min value utk 220 x1 240


f1 s1 , 240 f1 s1 , 247.5
x1 247.5 min value utk 240 x1 255
x1 247.5 adalah min value utk 220 x1 255
f1* ( 255) 185,000

s1

f s1

255

185,000

247.5

*
1

*
1

*
1

247.5

susy susmartini
operations research II, 2006

*
2

245

x3*

x4*

247.5

255

PROBABILISTIC DYNAMIC PROGRAMMING


CONTOH :
Sebuah perusahaan menerima order dgn ketentuan sbb :
Keputusan produk diterima/ditolak di tangan CUSTOMER
CUSTOMER hanya membutuhkan SATU PRODUK SAJA
Perusahaan mempunyai kesempatan hanya 3 KALI PRODUCTION RUN
Jika pada akhir production run yg KE 3 BELUM ADA produk yg dapat
diterima oleh customer , perusahaan akan mendapatkan PENALTY COST
sebesar $ 1,600
Perusahaan mengestimasikan :
Peluang produk DITERIMA & DITOLAK, masing2 :
SETUP COST di setiap awal PRODUCTION RUN : $ 300
PRODUCTION COST : $ 100 per ITEM
Berapa jumlah produk pada masing-masing PRODUCTION RUN, agar total
ongkos produksi minimal ?

susy susmartini
operations research II, 2006

PENYELESAIAN :

Stage n : production run n n 1, 2, 3, 4


xn : lot size for stage n
State sn : number of acceptable items still needed (one or zero)
when beginning stage n

Sehingga :

f n sn , xn : total expected cost for stage n,


if the system starts in state S n at stage n,
and the immediate decision is xn
f n* sn : min f n sn , xn
xn 0 ,1,.....

Dimana :

f n* 0 0
susy susmartini
operations research II, 2006

Production cost at stage n :


$ 300 $100 Jumlah produksi ,
0, if xn 0
Atau : K xn where
K
if xn 0
3,

Sehingga untuk sn 1,

2
1
2

f n 1, xn K xn 1
K xn

xn

xn

*
n 1

1 1 1 2

f n*1 1

Dimana :
f 4* 1 16
susy susmartini
operations research II, 2006

f * 0
n 1

xn

State :
Value
:

1 1

decision

1
f n 1, xn

xn

K xn 1

n3

xn

2
1

xn

f n*1 0 0

xn

K xn

f n*1 1

s3

0
1

0
16

1
12

2
9

1
f n*1 1

f 3 1, x3 K x3 1 2

x3

K xn

3
8

4
8

susy susmartini
operations research II, 2006

x3

16
5

f 3* s3

x3*

8.5

0
8

0
3 or 4

n=
2

x2
s2

0
1

0
8

x1

n=1

s1
1
KESIMPULA
N

f 2 1, x2

K x2 1 2
1
2
3
8

x2

f1 1, x1 K x1 1 2

x1

f 3* 1

f 2* s2

7.5

0
7

0
2 or 3

f1* s1

x1*

6 3/4

f 2* 1

7.5

6 3/4

6 7/8

7 7/16

x2*

x1* 2,

jika tidak ada yg diterima

x2* 2 atau 3,

jika tidak ada yg diterima

x3* 3 atau 4
dengan total expected cost $ 675
susy susmartini
operations research II, 2006

CONTOH
:

Seorang ahli statistik memperbaharui sistem untuk memenangkan


suatu permainan /GAME yang populer di Las Vegas. Namun
sistem baru tersebut tidak dipercayai oleh teman - temannya.
Untuk itu, mereka bertaruh, bahwa :
pada akhir GAME dengan 3 PLAY, CHIPS yg ia miliki 5,
jika pada awal GAME, dimulai dengan 3 CHIPS,
dan setiap CHIPS yg ada pada setiap PLAY dapat dipertaruhkan
Dengan demikian, ahli statistik tersebut harus memperhitungkan
jumlah CHIPS yang harus dipertaruhkan pada setiap PLAY,
agar ia dapat memenangkan teruhan tersebut. Untuk itu, ia yakin
bahwa ia mempunyai peluang menang sebesar 2/3
susy susmartini
operations research II, 2006

Penyelesaian :
Stage n : n th n 1, 2, 3
xn : number of chips to bet at stage n
State sn : number of chips in hand to begin stage n
f n sn , xn : probabilit y of finishing the three plays with at
least 5 chips, given that the statistician starts
stage n in state sn , and makes the immediate
decision xn
*
f n sn : max f n sn , xn
xn 0 ,1, ....., s n

f n s n , xn

f n*1 sn xn 2 3 f n*1 sn xn
susy susmartini
operations research II, 2006

s3 f 3* s3

n=
3

n=
2

0
1
2
3
4
>5

s2

x2

0
1
2
3
4
>5

f 2 s 2 , x2

0
0
0
0
2/3
2/3
1

1
0
4/9
4/9
8/9

0
0
0
2/3
2/3
1

x3*
2 (or more)
1 (or more)
0(or < s3 5)

f 3* s2 x2 2 3 f 3* s2 x2

4/9
2/3
2/3

2/3
2/3

susy susmartini
operations research II, 2006

2/3

f s2
*
2

0
0
4/9
2/3
8/9
1

x2*
1 or 2
0, 2 or 3
1
0(or<s2-5)

n=1

s1
3

f1 s1 , x1

f 2* s1 x1 2 3 f 2* s1 x1

2/3

20/27

2/3

2/3

f1* s1

x1*

20/27

Kesimpulan :

x1* 1

menang,
x
*
3 0
menang, x2 1
*
kalah,
x
3 2 atau 3

2
atau
3
x
*
2 1

menang, x3
*
kalah, x2* 1 atau 2
1
,
2
,
3
atau
4
x
2 2

kalah, secara keseluruhan taruhan kalah

susy susmartini
operations research II, 2006

MARKOV PROCESSES
DEFINISI :
MARKOV PROCESS MODELS adalah suatu proses stokastik untuk
memperkirakan keadaan di masa mendatang, dengan hanya
mempertimbangkan keadaan tepat sebelumnya. Sehingga untuk suatu
Markov Process, dengan present state yang diketahui, maka conditional
probability keadaan berikutnya bersifat independen dari keadaan
sekarang.
Suatu stochastic process X n , n 0,1, 2, ... dengan suatu finite or
countable state space, dikatakan mempunyai suatu Markov chain
structure jika

P X n 1 j X 0 i0 , X 1 i1 , ....., X n 1 in 1 , X n i

P X n 1 j X n i

untuk semua i, j dan untuk n 0,1, ....


susy susmartini
operations research II, 2006

Markovian Property ekivalen terhadap pernyataan conditional


probabilit y suatu Future state ( X n 1 j ), untuk past state

X 0 i0 , ......, X n1 in1 dan present state X n i yang


independent terhadap keadaan masa lampau, dan hanya
dependent terhadap present state X n i proses.

Conditional probabilit ies

P X n 1 j X n i

disebut juga sebagai transition probabilit ies


0 pij 1
N

p
j 1

ij

1,

1 i, j N
i 1, 2, .......N

susy susmartini
operations research II, 2006

N x N Transition
Probability
Matrix P

State

P=

1
2
.
.
.
N

..

P11

p12

P1N

p21

p21

p2N

.
.
.
pN1

.
.
.
pN2

.
.
.
pNN

(One step ) Transition Matrix :


p11 p12 ..... p1N

p21 p22 ..... p2 N

P pij

Transition Probabiliy : pij

p N 1 p N 2 ..... p NN
susy susmartini
operations research II, 2006

Contoh 1:

Current
selection
Pizzaria A
Pizzaria B
Pizzaria C

Selection Next Week


Pizzaria A

Pizzaria B

Pizzaria C

0.5
0.4
0.3

0.3
0.2
0.3

0.2
0.4
0.4

p11 p12 p13 0.5 0.3 0.2


P p21 p22 p23 0.4 0.2 0.4
p31 p32 p33 0.3 0.3 0.4

susy susmartini
operations research II, 2006

V21 0.4 0.2 0.4

Vi Vi
n

n 1

P Vi P
1

n2

P V P
1

n 1

Vi Vi P pi1 pi 2 ..... pin


1

0.5 0.3 0.2


2
1

V2 V2 .P 0.4 0.2 0.4 0.4 0.2 0.4

0.3 0.3 0.4

0.40 0.28 0.32


susy susmartini
operations research II, 2006

Selection
Next Time, n= 1

Pizzaria A

p=0.5
p=0.3
p=0.2

p=0.4

Current
Selection,
Pzzaria B
( n=0 )

Selection Time
After Next, n= 2

p=0.4
p=0.2

Pizzaria B

p=0.2
p=0.4

Pizzaria A

(0.4) (0.5) = 0.20

Pizzaria B
Pizzaria C

Pizzaria A

(0.2) (0.4) = 0.08

Pizzaria B
Pizzaria C

p=0.4
p=0.3
Pizzaria C

p=0.3
p=0.4

Pizzaria A
Pizzaria B
Pizzaria C

susy susmartini
operations research II, 2006

(0.4) (0.3) = 0.12

The Chapman-Kolmogorov Equations


n step transition probabilit y : pijn

Transition probabilit y : pij


Dapat ditulis sebagai :
M

p pikr pkj( n r ) ,
n
ij

utk semua i, j , n dan 0 r n

k 0

P ( n ) P.P ( n 1) P.P.P ( n 2) ........ P n

susy susmartini
operations research II, 2006

V13 V11 P 2

0.5 0.3 0.2 . P 2


0.5
0.5 0.3 0.2 . 0.4
0.3
0.43
0.5 0.3 0.2 0.40
0.39

0.3 0.2 0.5 0.3 0.2


0.2 0.4 0.4 0.2 0.4
0.3 0.4 0.3 0.3 0.4
0.27 0.30
0.28 0.32 0.413 0.273 0.314
0.27 0.34

P 4 P . P 3 P . P. P 2 P 2 . P 2
0.43 0.27 0.30
0.40 0.28 0.32
0.39 0.27 0.34

0.43 0.27 0.30


0.40 0.28 0.32

0.39 0.27 0.34

0.4099 0.2727 0.3174


0.4088 0.2728 0.3184
0.4083 0.2727 0.3190
susy susmartini
operations research II, 2006

The LONG-RUN BEHAVIOR OF MARKOV PROCESSED

Markov Chain mempunyai suatu sifat tertentu, yaitu bahwa setelah


melalui operasi untuk periode waktu yang cukup lama (beberapa
step), maka Markov process akan mencapai suatu steady-state
conditions.
Suatu Markov chain mencapai steady-state conditions, maka rangkaian
(chain) pasti ergodic.
Suatu ergodic Markov Chain mempunyai sifat yang memungkinkan /
possible, pergerakan dari suatu state menuju ke state yang lain,
tanpa memperhatikan present state.

susy susmartini
operations research II, 2006

Contoh 2 :

Future States

Present
State

1/3

1/3

1/3

1/2

1/4

1/4

1/4

2/4

1/4

1/3

2/3

Dari State 1

dapat langsung ke semua state kecuali ke state 3. Untuk


menuju ke state 3, harus dilakukan melalui state 2 terlebih
dahulu, baru ke state 3

Dari State 2

dapat langsung ke semua state kecuali ke state1. Untuk


menuju ke state 1,harus dilakukan melalui state 3 atau 4
terlebih dahulu, dari state 3 baru ke state 1. Atau dari state 4
ke state 3, baru ke state 1.

Dst

pada prinsipnya, dari suatu state dapat menuju ke state


lainnya
Transition Matrix tsb suatu ergodic chain
susy susmartini
operations research II, 2006

Jenis ergodic chain yang penting diketahui adalah Regular Chain


Suatu Regular Chain didefinisikan sebagai chain yang mempunyai
suatu transition matrix P dimana power P hanya terdiri dari positive
probability values.
Dengan perkataan lain :
Semua Regular Chain pasti suatu ergodic chain, tetapi tidak semua
ergodic chain merupakan Regular Chain.
Contoh :

X
0
P 1
X

X
X
0
0

0
X
X
X

X
X X X X
X X X X
X X X X
X X X X
X
P 3

P 2
X X X X
X X X X
X

X
X
0
X
X
X
X
X
X

Pada power ke 3, transition matrix telah menjadi matrix yang hanya terdiri dari
positive probabilit y elements, sehingga ergodic chain tersebut merupakan Regular
Chain
susy susmartini
operations research II, 2006

Contoh 3 :
0

0 X

P 1 X 0

X 0

0 X

0 X

0 X P 2 0 X

0 0 X
0 X

X X 0
X 0
0

0 X

0 X

0 X

P 3 X 0

X 0

0 X

X X 0

0 0 X

0 X

0 X

P 4 0 X

0 X

X 0

Transition Matrix adalah ERGODIC TAPI BUKAN REGULAR


susy susmartini
operations research II, 2006

DETERMINATION OF STEADY-STATE CONDITIONS


0.4099 0.2727 0.3174
P 8 P 4 . P 4 0.4088 0.2728 0.3184
0.4083 0.2727 0.3190

0.4099 0.2727 0.3174


0.4088 0.2728 0.3184

0.4083 0.2727 0.3190

0.4090 0.2727 0.3183


0.4090 0.2727 0.3183
0.4090 0.2727 0.3183

Jika j adalah steady state conditions untuk state j, maka :

lim pij n j
n

j 1

j i pij ,
i 1

susy susmartini
operations research II, 2006

j 0

1
untuk j 1, ...., M

Contoh 4 ( Pizzaria ) :

Current
selection
Pizzaria A
Pizzaria B
Pizzaria C

1 1 2 3

Selection Next Week


Pizzaria A

Pizzaria B

Pizzaria C

0.5
0.4
0.3

0.3
0.2
0.3

0.2
0.4
0.4

1 0.5 1 0.4 2 0.3 3


2 0.3 1 0.2 2 0.3 3
3 0.2 1 0.4 2 0.4 3

1 2 3 1 .0
0.5 1 0.4 2 0.3 3 0
0.3 1 0.8 2 0.3 3 0

1 0.4090 state 1 akan menjadi steady state pada 0.4090


2 0.2727 state 2 akan menjadi steady state pada 0.2727
3 0.3183 state 3 akan menjadi steady state pada 0.3183
1 2 3 1 .0
susy susmartini
operations research II, 2006

FIRST PASSAGE TIMES


FIRST PASSAGE TIMES (Tij ) adalah waktu / jumlah transisi / proses yang
diperlukan untuk melakukan transisi dari suatu state i ke state j pertama
kali.
Jika j=i, maka First Passage Time disebut sebagai Recurrence Time (Waktu
Kambuh/Berulang), yaitu waktu / jumlah transisi yang diperlukan untuk
kembali ke initial state i.
Contoh 5 :
Berikut ini adalah data persediaan barang dalam 8 minggu :

I1 = 8

I5 = 5

I2 = 6

I6 = 8

I3 = 5

I7 = 6

I4 = 7

I8 = 2

First Passage Time dari state 8 ke state 5 adalah 2


minggu, dari dari state 8 ke state 7 adalah 3 minggu,
sementara
Recurrence Time dari state 8 adalah 5 minggu, dan
Recurrence Time dari state 5 adalah 2 minggu

susy susmartini
operations research II, 2006

Jika g ij n adalah peluang pertama kali terjadinya state i ke state j


pada periode ke n, maka :
g ij 1 pij 1 pij

g ij 2 pij 2 g ij 1 p jj
.
.
g ij n pij n g ij 1 p jjn1 g ij 2 p jjn 2 ............ g ij n 1 p jj

Contoh 6 (Pizzaria) :

p11 p12 p13 0.5 0.3 0.2


P p21 p22 p23 0.4 0.2 0.4
p31 p32 p33 0.3 0.3 0.4
1
1
g13
p13
0.2
2
2
1
g13
p13
g13
p33
0.3 0.2 0.4
0.22
.

0.43 0.27 0.30


P 2 0.40 0.28 0.32
0.39 0.27 0.34

susy susmartini
operations research II, 2006

Untuk i dan j yang tetap, maka g ij n adalah nilai nonnegatif :

n
g
ij 1
n 1

Jika jumlah tersebut merupakan strict inequality, maka


state i tidak akan pernah mencapai state j.
Tapi jika jumlah tersebut merupakan strict equality , maka
g ij n n 1, 2, .... merupakan distribusi probabilitas untuk
First Passage Time Tij , random variable
Jika i j, maka

n
g
ii 1
n 1

kemudian state i disebut recurrent state, suatu saat state i pasti akan
kembali ke state i.
susy susmartini
operations research II, 2006

Absorbing State adalah suatu kasus khusus dalam


suatu recurrent state, dimana one step transition
probabilty pii 1.

Transient State adalah situasi :

n
ii

n 1

pada kasus ini, state i tidak akan pernah kembali ke state i


Jika uij adalah expected value of the first passage time
dari state i ke state j , maka :
uij

ng
n 1

ij

jika

g
n 1

uij

n
ij

jika

g
n 1

n
ij

Pada umumnya, jika the first passage time adalah random


variable, maka
uij

ng
n 1

n
ij

sehingga :

uij 1 pik u kj
k j

susy susmartini
operations research II, 2006

Contoh 7:
(kasus Pizzaria)

Current
selection

Pizzaria A
Pizzaria B
Pizzaria C

Selection Next Week


Pizzaria A

Pizzaria B

Pizzaria C

0.5
0.4
0.3

0.3
0.2
0.3

0.2
0.4
0.4

uij 1 pik u kj
k j

u13 1 p11u13 p12u 23


1 0.5 u13 0.3u 23

u13 3.92 weeks

u 23 1 p21u13 p22u 23

u 23 3.21 weeks

1 0.4 u13 0.2u 23


Jika j i, maka expected first passage time
suatu state berbanding terbalik dengan the recurrence time :
1
j
untuk j 1, 2, ......., M
u jj
Sehingga :
1
1
u33

3.14 weeks
j
0.3183
susy susmartini
operations research II, 2006

Analysis of ABSORBING MARKOV CHAINS


Suatu Markov Chain menjadi suatu Absorbing Markov Chain jika :
Sedikitnya, terdapat satu Absorbing State
Pergerakan state dimungkinkan dari setiap nonabsorbing state ke paling
tidak satu absorbing state pada langkah / step tertentu.
Contoh 8 :
State 1 : Championship tournamen caliber
State 2 : Washout switch to another sport
State 3 : Daily instruction and practice needed
State 4 : Twice daily instruction and practice needed

1
0

0 .3

0.1

0 .5

0 .2

0.2

0 .2

0
0

0.1

0 .4

pij probabilit y of a tennis student in


a state i in one week moving
state j in the following week

susy susmartini
operations research II, 2006

1
0
P
0.3

0.2

0
1
0.1
0.2

0
0
0.5
0.2

0
0
0.1

0.4

I O

A N

0
P
0.3
0.2

r by r,

r by s,

s by r,

s by s,

0
1
0.1
0.2

0
0
0.5
0.2

0
0.1
0.4

matriks peluang dari suatu absorbing state ke


absorbing state lainnya
matriks peluang dari suatu absorbing state ke
nonabsorbing state
matriks peluang dari suatu nonabsorbing state ke
suatu absorbing state yang lain
matriks peluang dari suatu nonabsorbing state ke
suatu nonabsorbing state lainnya
susy susmartini
operations research II, 2006

a fundamental matrix :
1
F I N
F : the expected number of times a process is in each
nonabsorbing state before it is absorbed
N : the probabilit ies of going from any nonabsorbing
state to any other nonabsorbing state in exactly one state

I N

1
0

0.5

1 0.2

0.1 0.5

0.4 0.2

2.14
1
F I N
0.71

0.1
0.6

0.36

1.79

Beginning State

Expected steps before


Absorption

S3

2.14 + 0.36 = 2.50


0.71 + 1.79 = 2.50

S4

susy susmartini
operations research II, 2006

The Probabilit y of Absorption :


FA I N A
1

2.14
0.71

0.36 0.3
1.79 0.2

0.71
0.57

0.29
0.43

0.1
0.2

Jika terdapat 100 students, yang terdiri dari 40 students S 3 dan 60 students S 4 ,
maka jumlah students yang akan mencapai S1 dan S 4 adalah :

T ' T probabilit y of absorption


T vector of present composition of the students
T ' 40
62.6

0.71
0.57

60
37.4

0.29
0.43

Artinya, jumlah students yang akan dapat mencapai state 1 sebanyak 62.6 atau 63
orang, sementara jumlah students yang akan mencapai state 2 sebanyak 37.4
atau 37 orang
susy susmartini
operations research II, 2006

APPLICATION OF MARKOV PROCESS MODELS


Contoh 9:

State

Condition of Printer Output

1
2
3

Excelent
Acceptable, but of marginal quality
Unacceptable, blurry and unreadable

From
State

To State
1

1
2
3

0
0
0

7/8
3/4
0

1/8
1/4
1

State

Expected Cost

1
2
3

$0
$ 1000 (cost of illegible reports)
$ 5000 (cost of illegible reports, plus cost of repairing printer)
susy susmartini
operations research II, 2006

Transition matrix of maintenance policy :


From
state

To state
1

1
2
3

0
0
1

7/8
3/4
0

1/8
1/4
0

1 1 2 3

1 1 3
2 7 8 1 3 4 2
3 18 1 1 4 2

1 2 11 0.1818
2 7 11 0.6364
3 2 11 0.1818
1 2 3 1.000
susy susmartini
operations research II, 2006

Artinya :
Untuk waktu yang cukup lama, printer akan berada pada :
State 1

18.18 % of the time

State 2

63.64 % of the time

State 3

18.18 % of the time

Sehingga :
Untuk waktu yang cukup lama, diperkirakan rata-rata biaya untuk
maintenance policy :

$0 1
$1000 2
$5000 3

$0 0.1818 $1000 0.6364 $5000 0.1818 $1545.40

susy susmartini
operations research II, 2006

Contoh 10 :
Suatu credit card company membagi Status of Accounts Receivable
menjadi 4 kategori, yaitu :
Accounts Receivable
Category (states)

Status of Accounts
Receivable

1
2
3
4

Paid in full
Bad debt
0-30 days late
31-120 days late

Berikut ini adalah transition matrix (periode mingguan) yang berhasil dibuat oleh
company berdasarkan pengamatan :
To AR Category (state)

P=

From
AR
Category
(state)

0.4

0.2

0.2

0.2

0.3

0.3

0.3

0.1

susy susmartini
operations research II, 2006

Untuk membuat creditcontrol policies yang


lebih effektif, antara lain
diperlukan suatu
gambaran tentang
probability of absorption

Penyelesaian :

1
0
0.4
0.3

F I N

0 0
1 0
0.2 0.2
0.3 0.3

0 I O

0.2 A N

0.1

1
0 0.2


0.3
0
1


1.365 0.303

0.455 1.212

0.2
0.1

0.8 0.2

0
.
3
0
.
9

Probabilit y of absorption FA I N . A
1.365 0.303

0.455 1.212

susy susmartini
operations research II, 2006

0.4 0.2
0.637 0.363

0.3 0.3
0.546 0.454

Jika pada kondisi awal komposisi state 3 dan state 4 masing - masing
adalah $1,000,000 dan $500,000, maka vector T :
T $1,000,000

$500,000

T $1,000,000

0.637 0.363
$500,000

0.546 0.454
$590,000

Sehingga :
'

$910,000

Artinya, company dapat berharap bahwa dari state 3 dan state 4 tersebut dapat
berubah menjadi state 1 sebesar $910,000 dan state 4 sebesar $590,000

susy susmartini
operations research II, 2006

You might also like