Ejercicios de Cadenas de Markov Discretas

Profesor Ivan Derpich Contreras

EJERCICIOS RESUELTOS

1.- Considere la matriz de transicin de una etapa, donde el espacio de estados es
{1,2,3,4,5}.
0,75 0 0,25 0 0
0,25 0 0 0 0,75
0,75 0 0,25 0 0
0 0,8 0,2 0 0
P =
0 0,5 0,25 0,25 0

a) Clasifique los estados del sistema, justifique. (1 punto)
b) Obtenga la distribucin de probabilidades en el largo plazo si se sabe que
inicialmente el sistema se encuentra en los estados 3, 4 y 5 con igual
probabilidad. (1 punto)
c) Calcule { } 5 4 ; 2 ; 1 ; 3
3 0 4 5 7
= = = = = x x x x x P , si se sabe que el sistema
inicialmente se encuentra en los estados 2, 4 y 5 con igual probabilidad. (2
puntos)
d) Obtenga la distribucin de probabilidades del tiempo que demora volver al
estado 2. (1 punto)
e) Cul es el tiempo medio que se demora en volver al estado 3? (1 punto)

Desarrollo:

.- Grafico de red :















a) Se distinguen 2 clases
{ } 3 , 1
1
= C
y
{ } 5 , 4 , 2
2
= C


Anlisis de Recurrencia y periodicidad
Clase
1
C
: analizaremos el estado 1
( ) ( ) = + =

2
2
25 , 0 * 75 , 0 * 25 , 0 75 , 0 1 , 1
k
k
F
1 3
2 4
5

0,25
0,75
0,75
0,25
0,25
0,5
0,75
0,25
0,8
0,2
0,25
Haciendo un cambio de variable 2 = k j
( ) ( ) 1
3
4
*
4
3
*
4
1
4
3
4
1
1
1
*
4
3
*
4
1
4
3
25 , 0 * 75 , 0 * 25 , 0 75 , 0 , 1 , 1
0
= + =

+ = + =

= j
j
F
el estado 1 es recurrente , adems la clase
1
C
es recurrente.

Perodo: se puede volver al estado 1 en todas las etapas , es aperidico.

Clase
2
C : analizaremos el estado 2
( ) ( ) ( ) ( )
525 , 0
40
21
40
6 15
20
3
8
3
10
8
*
16
3
8
3
8 , 0 *
4
1
*
4
3
2
1
*
4
3
0 2 , 2 2 , 2 2 , 2 2 , 2
3 2 1
= =
+
= + = +
= + + = + + = F F F F

El estado 2 es transientes y la clase
2
C

Perodo: se puede volver al estado 2 en etapas mltiplos de 2 y adems se puede volver al
estado 2 en mltiplos de 3. Luego se puede volver en todas las etapas, excepto en la etapa
1. Luego es aperidico.


b) Veamos primero si existe distribucin estacionaria. Para ello aplicamos la proposicin 2.
Dado que existe una clase recurrente y que se cumple:

1
2
1
=

C X
C X
P
n
n
por lo tanto
Adems 0
5 4 2
= = = y lo otros valores deben calcularse
( ) ( )

=
4
1
4
3
4
1
4
3
3 1 3 1
y 1
3 1
= +
4
1
4
3
3
1
=
=

c)
( )
( )
=
=
= = = = =
=

=
= = = =
5
5 ; 4 ; 2 ; 1 ; 3
5
4 ; 2 ; 1 ; 3
3
3 0 4 5 7
3
0 4 5 7
X P
X X X X X P
X
X X X X
P
( ) ( )
( )
( ) ( ) ( )
( ) 5
3
1
5
4 4 / 5 ; 2 ; 1 ; 3
3
3
45
1
52
1
21
) 2 (
13
3
0 0 3 4 5 7
=
=
=
= = = = = =
X P
p p p p
X P
X P X X X X X P

( )
4
1
0 0
4
1
4
1
0
4
1
4
3
53 15 43 14 33 13 23 12 13 11
2
13
= + + + + = + + + + = p p p p p p p p p p p
( )
4
1
1
12
= p
( )
2
1
1
52
= p
( )
( )
( )
55 35 45 34 35 33 25 32 15 31 43
55 25 45 24 35 23 25 22 15 21 42
3
45
p p p p p p p p p p p
p p p p p p p p p p p p
+ + + +
+ + + + + =

( )
( )
( ) 0 0 * 0 * 0 * * 0 0 *
0 * 0 * 0 * * 0 0 *
35 34 33 25 31 43
25 24 23 25 21 42
3
45
= + + + +
+ + + + + =
p p p p p p
p p p p p p p


Luego 0
5
4 ; 2 ; 1 ; 3
3
0 4 5 7
=

=
= = = =
X
X X X X
P

d) ( ) 0 2 , 2
1
= F
( )
8
3
2
1
*
4
3
2 , 2
2
= = F
( )
10
3
8 , 0 *
4
1
*
4
3
2 , 2
3
= = F
( ) 3 0 2 , 2 > = k F
k


e) ( ) ( ) 4
1
3 , 3
3
= =

T E
2.- Una agencia de arriendo de vehculos ha definido la variable aleatoria Xt como el
nmero de automviles disponibles en la agencia al empezar la semana t+1.

Sea Dt una variable aleatoria que representa la demanda por automviles la semana t. La
agencia utiliza una poltica de reorden (s,S) con s=1 y S=3. No se acepta demanda
pendiente. Sea Xo =3 y suponga que la variable aleatoria Dt tiene distribucin de Poisson
con =1.

a) Obtenga los valores de la variable Xt
b) Exprese a travs de una frmula de recurrencia la relacin entre xt y Xt+1
c) Encuentre la matriz P (valores nmericos)
d) Suponga ahora que el costo incurrido es un valor fijo de $ 110.000 por orden ms un
valor variable de $ 25.000 por automvil. Encuentre el costo esperado de inventario.

Desarrollo:

a) { } { } 3 , 2 , 1 , = = S s
t
X

b)

< =
=
+ +
+
+
s D X si D X
s D X si S
X
t t t t
t t
t
1 1
1
1
3


c)
( ) ( )
( ) ( ) ( )
( ) ( ) ( ) 2 1 2
1 0 1
0 0 0
> = =
> = =
> =
=
t t t
t t t
t t
D P D P D P
D P D P D P
D P D P
P

d)
( )
[ ( ) ]
( )
[ ( ) ]
( )
[
( ) ] 2 * 110
3 * 25 * 1 * 110 2 * 25 * 0 * 110 1 * 25 *
3 2 1
>
+ + > + + > + =
t
n
t
n
t
n
D P
f D P f D P f C

3.- Se quiere construir un modelo markoviano para estimar la dinmica de vida de un
cultivo de ovas de salmn en la etapa de Maduracin de la ova. En un estanque con agua
dulce, se ponen N ovas fecundadas. Despus de 8 das, las ovas que han sobrevivido se
convierten en pequeos salmones, los cuales se traspasan a otros estanques para seguir su
evolucin. En este proceso de Maduracin, algunas ovas se mueren. Se sabe que la
distribucin de probabilidades de una ova en esta etapa de desarrollo, es exponencial con
media . Sea
n
X el nmero de ovas vivas al inicio del da n.

Se pide:
a) Diga cual es el rango de la variable (2 puntos)
b) Obtenga la regla de transicin (2 puntos)
c) Obtenga la matriz P (2 puntos)

Desarrollo
Sea
n
X : nmero de ovas vivas al inicio del da n. Parten N ovas vivas, pero van muriendo da a
da.

a) { } N X
n
,..., 2 , 1 , 0 =

b) Sea p: probabilidad de que una ova que est viva al inicio del da n lo est al inicio de da n+1.

Sea Ti : duracin o vida de la ova i-sima.
( )

= > =

>
+ >
= e T P
n T
n T
P p
i
i
i
1 1
1
luego si hay j ovas vivas al da siguiente pueden haber
j o menos.

Luego ( ) p X Binomial X
n n
,
1

+


c) Matriz P:
0 1 2 . N-1 N
0
1

1
( ) p 1
p
0 0 0 0
2
( )
2
1
0
2
p

( )
1
1
1
2
p p

2
p
0 0 0
.
N-1
( )
1
1
1
1

N
p
N
N
( )
2
1
2
1

N
p p
N
N

( )
3 2
1
3
1

N
p p
N
N

. 1 N
p
0
N
( )
N
p 1
( )
1
1
1

N
p p
N
N

( )
2 2
1
2

N
p p
N
N


( ) p 1

p

4.- J uan y Pedro tienen 2 monedas cada uno. Se disponen a enfrentar un juego en que, en
cada oportunidad, cada jugador lanza una moneda de sus monedas. Si ambas coinciden,
gana J uan y se queda con la moneda de Pedro. En caso contrario, gana Pedro. El juego
termina cuando uno de los jugadores gana las 4 monedas.

a) Obtenga la distribucin de probabilidades del nmero de jugadas necesarias hasta
que J uan logre tener 3 monedas por primera vez.
b) Explique como obtendra la distribucin de probabilidades del nmero de jugadas
hasta que el juego termina.

Desarrollo:

1.- Sea
n
X : n de monedas de J uan.

a.- Se debe encontrar ( ) 3 , 2
k
F que corresponde a la probabilidad de que se vaya por
primera vez del estado 2 a estado 3 en un nmero k de etapas. Por lo tanto :
( ) ?? 3 , 2 =
k
F

Para obtener esta probabilidad se debe construir el modelo detalladamente, es decir
encontrar el rango de
n
X , la matriz P y opcionalmente el grfico de red.

Rango de la variable de estado
n
X : { } 4 , 3 , 2 , 1 , 0 =
n
X
,

Matriz P
P=
1 0 0 0 0
2
1
0
2
1
0 0
0
2
1
0
2
1
0
0 0
2
1
0
2
1
0 0 0 0 1


Grfico de red de la matriz P

Entonces volvamos de nuevo con ( ) 3 , 2
k
F


0 1 4 2 3
0,5
0,5 0,5 0,5 1
1
0,5 0,5
( )
2
1
3 , 2
1
= F ; ( ) 0 3 , 2
2
= F ; ( )
8
1
2
1
2
1
2
1
3 , 2
23 12 21 3
= = = p p p F ; ( ) 0 3 , 2
4
= F
( )
2
1
2
1
2
1
) ( 3 , 2
2
23
2
12 21 5

= = p p p F

Trmino general:
( ) ,... 3 , 2 , 1 ;
2
1
4
1
2
1
2
1
2
1
) ( 3 , 2
1 1 2
23
1 2
12 21 1 2
=

= =

k p p p F
k k
k
k

( ) ,... 3 , 2 , 1 ; 0 3 , 2
2
= = k F
k



b.- El juego termina cuando se llega a que J uan tiene 0 4 monedas. Lo que se pregunta
entonces, es la probabilidad de que ocurra alguno de estos dos eventos, que son
excluyentes. Adems J uan tiene al inicio del juego 2 monedas. Luego lo que se pregunta es:
( ) ( ) 4 , 2 0 , 2
2
k k
k
F F +

=


Del estado 2 al estado 0 y al estado 4 se puede llegar en etapas mltiplos de 2 solamente.
Luego :

( ) ,... 3 , 2 , 1 ;
4
1
2
1
2
1
0 , 2
2 2
2
=

= k F
k k
k


( ) ,... 3 , 2 , 1 ;
4
1
2
1
2
1
4 , 2
2 2
2
=

= k F
k k
k


( ) ( ) =

= +


=

= 1 1
2
1 1
2
2 2
1
16
1
16
1
4
1
4
1
4 , 2 0 , 2
k
k
k
k k
k k
k
k k
k
F F


= + =

=
1
15
16
1
15
16
1
16
1
1
1
1
16
1
1
1
16
1
16
1
16
1
16
1
0
0 0
0 k
k k
k


3 1 , 0
15
2
15
1
15
1
= = +





5.- Considere una Cadena de Markov con la siguiente matriza de probabilidades de
transicin:

=
3
1
3
2
0 0 0 0 0
3
2
3
1
0 0 0 0 0
0
4
1
0
4
1
0
4
1
4
1
0 0
3
2
0
3
1
0 0
0 0 0
3
2
0 0
3
1
0 0 0 0
2
1
0
2
1
6 5 4 3 2 1 0
P



a) Obtenga la distribucin lmite
b) Obtenga la distribucin estacionaria

Desarrollo

a) Es necesario clasificar los estados y su periodicidad para determinar si existe
distribucin lmite. Para ello realicemos el diagrama de red de la matriz P.



1
3
4
5
2

3
2

3
1

0,5
3
2

2
1


4
1

3
1

3
1

7
6
2
1

3
1

3
2

3
1

4
1

3
2


4
1

3
1

Se perciben 3 clases : { } 5 , 3 , 1
1
= C , { } 4 , 2
2
= C , { } 7 , 6
3
= C

Anlisis clase
1
C : dado que la clase no presenta flujos de probabilidad fuera de la clase, se
puede afirmar que todos los estados de la clase son recurrentes. Adems los estados de la
clase son aperiodicos.

Anlisis clase
2
C : dado que esta clase tiene flujos de salida y no de entrada es una clase
transientes. Adems los estados de esta clase son aperidicos.

Anlisis clase
3
C : igual que la clase
1
C esta clase no presenta flujos de probabilidad fuera
de la clase, por lo que se puede afirmar que todos los estados de la clase son recurrentes.
Adems los estados de la clase son aperidicos.

Dado que todos los estados son aperidicos entonces existe distribucin lmite.

Para los estados de la clase
1
C se pueden encontrar las probabilidades de estado
estacionarios.
P=
3
1
3
1
3
1
3
2
3
1
0
0
2
1
2
1



T T
P = '

( ) ( )
5 3 1 5 3 1
3
1
3
1
3
1
3
2
3
1
0
0
2
1
2
1
=

8
3
;
8
3
;
4
1
5 3 1
= = =

( )
( ) [ ] 1 , 1
1 , 2
) (
21 lim
T E
F
P
n
n
=

se deben encontrar ambos trminos

( ) ( ) ( )

+ + = + = 1 , 2 *
3
1
3
1
*
3
2
3
1
1 , 4 1 , 2
24 21
F F p p F ( ) ( ) 1 , 2
9
2
9
2
3
1
1 , 2 F F + + =
( )
9
5
9
2
1 * 1 , 2 =

F ( )
9
5
9
7
* 1 , 2 = F ( )
7
5
1 , 2 = F
Adems
( ) [ ] 4
1
1 , 1
1
= =

T E luego
( )
( ) [ ] 28
5
4
7
5
1 , 1
1 , 2
) (
21 lim
= = =

T E
F
P
n
n

( )
( ) [ ] 1 , 1
1 , 4
) (
41 lim
T E
F
P
n
n
=

se debe encontrar ( ) 1 , 4 F

De la ecuacin anterior ( ) ( ) 1 , 4 1 , 2
24 21
F p p F + = ( )
( )
24
21
1 , 2
1 , 4
p
p F
F

=
( )
7
3
21
12
2
3
*
21
8
3
2
21
8
3
2
21
7 15
3
2
3
1
7
5
1 , 4 = = = =

= F luego
( )
( ) [ ] 7
1
4
7
4
1 , 1
1 , 4
) (
41 lim
= = =

T E
F
P
n
n



8
3
3
) (
43
) (
23 lim lim
= = =


n
n
n
n
P P
8
3
5
) (
45
) (
25 lim lim
= = =


n
n
n
n
P P

Para los estados de la Clase
3
C

P=
2
3
3
1
3
2
3
1
( ) ( )
2
3
3
1
3
2
3
1
7 6 7 6
=
2
1
;
2
1
7 6
= =

2
1
6
) (
46
) (
26 lim lim
= = =


n
n
n
n
P P
2
1
7
) (
47
) (
27 lim lim
= = =


n
n
n
n
P P

Para los estados de la clase
2
C dado que los estados son transientes:

7 , 6 , 5 , 3 , 1 0
) (
4
) (
2 lim lim
= = =

i P P
n
i
n
n
i
n


6.- Considere un cultivo que contiene inicialmente un solo glbulo rojo. Despus de una
cantidad de tiempo el glbulo rojo muere y es reemplazado por dos nuevos glbulos rojos o
bien por dos glbulos blancos. Las probabilidades de estos eventos son
4
1
y
4
3
respectivamente. Subsecuentemente, cada glbulo rojo se reproduce de la misma forma.
Por otra parte, cada glbulo blanco muere despus de una unidad de tiempo sin
reproducirse. Se desea calcular la probabilidad de que el cultivo se extinga en algn
momento.

Formule para tal efecto un modelo detallado e indique con precisin como lo utilizara para
obtener la probabilidad pedida.

Desarrollo

Sea
n
X : numero de glbulos rojos presentes en la etapa n.

( )
( ) 2 log
log
;
4
1
1
4
1
1
j
k
k
i
i X
j X
P
k i k
n
n
=

=
=

+

Esta Cadena de Markov es tal que existen dos clases:

{ } 0
1
= C y { } ,... 4 , 3 , 2
2
= C la clase
2
C es infinita.

La clase recurrente
1
C es recurrente y la clase
2
C es transiente. La clase
1
C est compuesta
por un estado aperiodico. Por lo tanto, por la Proposicin 2 vista en clases, se puede
asegurar que existe distribucin estacionaria. Adems por la misma proposicin se puede
asegurar que ,... 2 , 1 0 = = j
j
es decir
2
0 C j
j
= y
1
0 C j
j
. Como la
clase
1
C tiene un solo elemento 1
0
= .
Entonces la probabilidad de que el cultivo se extinga alguna vez es uno.
1
2
0
4

8
6
EJERCICIOS PROPUESTOS

1.- Se tiene la siguiente matriz de probabilidades de transicin en una etapa :

0 0 0 4 1 4 1 0
0 0 2 1 0 0 2 1
0 0 4 3 0 0 4 1
5 1 0 5 1 5 2 0 5 1
0 0 0 0 1 0
0 3 1 2 1 0 0 6 1

Se pide:
a) Diga si los estados son transientes o recurrentes (positivos o nulos) y demustrelo.
(1,5 puntos)
b) Diga si existe distribucin lmite y porqu. Si existe calclela. (1,5 puntos)
c) Diga si existe distribucin estacionaria y porqu. Si existe calclela. (1,5 puntos)
d) Calcule

=
=
2
1
Pr
0
4
X
X


2.- El Departamento de Marketing Cuantitativo de un prestigioso banco nacional est
desarrollando un modelo basado en Cadenas de Markov discretas, para estimar el nmero
de clientes en el estrato ABC1. El planteamiento es el siguiente:

Sea
n
X el nmero de clientes pertenecientes al segmento ABC1 el primer da hbil del mes
n. En el banco existen solamente dos segmentos para clasificar a los clientes ABC1 y C2.
En total hay N clientes en el banco y que la probabilidad de que un cliente pase de ABC1 a
C2 es
1
p y de C2 a ABC1 es
2
p . Suponga que los clientes no se retiran del banco, ni
tampoco ingresan nuevos clientes. Si se sabe que el primer da hbil de un mes hay
1
n
personas en el segmento ABC1 :

Cul es la probabilidad de que en el primer da hbil del mes siguiente hayan
2
n clientes
en el mismo segmento ?
1 2
n n N (2 puntos)


3.- Sea
n
X el nmero de personas hospedadas en un cierto hotel al inicio del da n. Se sabe
que pueden llegar 0,1,2 3 clientes en un da, con igual probabilidad. Adems se sabe que
el tiempo de permanencia de un cliente en el hotel es exponencial con media . El hotel
tiene capacidad solo para 4 personas y las que llegan cuando el hotel est lleno se van sin
dejar reserva.
Obtenga la matriz P. (2 puntos)
Indicacin: Puede usar la siguiente aproximacin d e
d

1

4.- El ascensor de un edificio con tres pisos realiza viajes entre los pisos regularmente. Sea
n
X el piso en que para el ascensor en la etapa n. Se sabe que la mitad de los viajes que
parten del piso 1 se dirigen a uno de los otros pisos con igual probabilidad. Si el ascensor
parte en el piso 2 el 25% de las veces termina en el piso 2. Por ultimo si su trayecto
empieza en el tercer piso siempre termina en el primer piso.

a) Obtenga la matriz P y el rango de la variable.
b) Obtenga

=
= = =
2
3 ; 1 ; 2
1
0 2 4
X
X X X
P
c) Diga si existe distribucin lmite y si es as, calclela.
d) Diga si existe distribucin estacionaria y si es as calclela.

5.- Un agente comercial realiza su trabajo en tres ciudades A,B,C. Para evitar gastos trabaja
durante un da en cada ciudad y alli se queda en la noche. Despus de estar trabajando en la
ciudad C la probabilidad de tener que seguir trabajando en ella al da siguiente es 0,4; la
probabilidad de viajar a B es 0,4. Si el viajante duerme una noche en B con probabilidad
0,2 deber seguir trabajando en la misma ciudad al da siguiente y en el 60% de los casos
viajar a C. Por ltimo, si el agente trabaja en A un da permanecer en esa ciudad con
probabilidad 0,1 o ir a la ciudad B con probabilidad 0,3.

a) Si hoy el viajante est en la ciudad C Cual es la probabilidad de que tenga que
estar en la misma ciudad en 4 das ms?
b) Cules son los porcentajes de das que el viajante se encuentra en cada ciudad?
c) Cul es la probabilidad de que un viajante vuelva a la ciudad A?

6.- Los consumidores de caf en la VIII Regin usan tres marcas A, B, C. En
Marzo de 2008 se hizo una encuesta en lo que entrevist a las 8450 personas que
compran caf y los resultados fueron:

Compra actual Marca A Marca B Marca C Total
Marca A =1690 507 845 338 1690
Marca B =3380 676 2028 676 3380
Marca C =3380 845 845 1690 3380
TOTALES 2028 3718 2704 8450

a) Si las compras se hacen mensualmente, cul ser la distribucin del mercado de
caf en la VIII Regin en el mes de junio?
b) A la larga, cmo se distribuirn los clientes de caf?
c) En junio, cual es la proporcin de clientes leales a sus marcas de caf?

7. En una gran empresa de investigacin que ocupa varias hectreas existe un sistema de correo
interno, en el cual una persona recorre distintas oficinas llevando y retirando correspondencia. Al
inicio del da la persona recorre en un cierto orden todas las oficinas recogiendo la
correspondencia que debe ser despachada.

Al final de esto, la persona ordena la correspondencia e inicia un segundo ciclo en el cual
recorre las oficinas, entregando la correspondencia previa y recolectando la nueva. Este ciclo
se repite durante el da. Suponga que las oficinas estn uniformemente distribuidas a lo largo
del recorrido y que cada una genera al azar correspondencia para ser despachada, de modo
que el total de correspondencia generada por el sistema en un intervalo de largo t corresponde
a un Proceso de Poisson a tasa .


8.- Una agencia de arriendo de vehculos ha definido la variable aleatoria Xt como el nmero de
automviles disponibles en la agencia al empezar la semana t+1.

Sea Dt una variable aleatoria que representa la demanda por automviles la semana t. La agencia
utiliza una poltica de reorden (s,S) con s=1 y S=3. No se acepta demanda pendiente. Sea Xo =3
y suponga que la variable aleatoria Dt tiene distribucin de Poisson con =1.

e) Obtenga los valores de la variable Xt
f) Exprese a travs de una frmula de recurrencia la relacin entre xt y Xt+1
g) Encuentre la matriz P (valores nmericos)
h) Suponga ahora que el costo incurrido es un valor fijo de $ 110.000 por orden ms un valor
variable de $ 25.000 por automvil. Encuentre el costo esperado de inventario.


9.- Una empresa de transportes debe contratar un seguro para su flota de vehculos.
Existen 4 posibles seguros con valores P
1
, P
2
, P
3
, y P
4
. De modo que :
P
1
>P
2
>P
3
>P
4.

El valor del seguro se paga al principio del ao y depende del tipo de seguro
contratado el ao anterior y de los accidentes cobrados a la compaa de seguros durante
el ao. Si durante el ao, el seguro contratado cost P
i
y no se cobraron seguros, el
seguro del ao siguiente costar P
i +1
; en caso contrario (esto es si se cobraron seguros)
el seguro costar P
1
. Si el ao anterior el seguro costo P
4
y no hubo daos cobrados, el
seguro costar este ao tambin P
4
.

La empresa de transportes debe decidir, al final del ao, si cobrar o no los daos
acumulados por sus vehculos durante el ao. Si la empresa decide cobrar los daos, la
compaa de seguros se hace cargo de stos, con excepcin de un deducible, que vale R
i

para el seguro i.

El dao total de la flota durante un ao cualquiera es una variable aleatoria con
funcin de distribucin F y funcin de densidad f.

Defina X
n
como el tipo de seguro contratado en el ao n.

a) Obtenga la matriz de P de este proceso.
b) Obtenga una expresin explcita para el vector distribucin estacionaria de este
proceso.
c) Obtenga una expresin para el costo esperado anual de usar esta poltica en el largo
plazo. Cmo podra encontrar la poltica ptima para este caso?

10.- En la etapa inicial un jugador tiene MM$ 2. En las etapas 1,2..... participa en un juego
en el que apuesta MM$ 1. Gana el juego con probabilidad p, y lo pierde con probabilidad
(1-p). Su meta es aumentar su capital a MM$ 4 y tan pronto como lo logre se retira. El
juego tambin se suspende si el capital del jugador se reduce a $0 .

a) Formule la matriz de probabilidades de transicin en una etapa.

Si p=0.4

b) Calcule la probabilidad de que el jugador obtenga su objetivo de juntar MM$ 4 de
capital.


11.- Se tiene la siguiente Cadena de Markov :

1 0 0 0
P= p 0 1-p 0
0 0 p 1-p
0 0 1-p p


a) Analice la recurrencia, periodicidad de cada estado.
b) Es la cadena irreducible?
c) Existen distribuciones lmite ? Si existen calclelas
d) Existe distribucin estacionaria ? Por qu ? Si existe calclela.