Professional Documents
Culture Documents
TP2 New
TP2 New
TP 2
Exercice 1
Soit Z1 , Z2 , Z3 , . . . des v.a. indépendantes et identiquement distribuées telles que
P [Zn = 1] = p et P [Zn = −1] = q = 1 − p, ∀n. Soit
n
X
Xn = a + Zi , n = 1, 2, . . . ,
i=1
avec X0 = a ∈ N>0 .
5.* Supposons
P que ET est finie. On peut exprimer XT − a sous forme XT − a =
n Zn 1{T ≥n} . A l’aide de 3. et 4., montrer que b − a = EZ1 · ET .
6.* Dans le cas où p ≤ 1/2, déduire que T n’a pas d’espérance.
Exercice 2
Soit {Xn ; n ≥ 1} une suite de variables aléatoires i.i.d. à valeurs dans Z. Soit
Pn Pn
Sn = Xk avec S0 = 0, Yn = Xn + Xn−1 avec X0 = 0, et Zn = Sk . Les
k=1 k=0
processus Sn , Yn et Zn , n ≥ 0 sont-ils des chaı̂nes de Markov?
Exercice 3
Montrez que si P est une matrice stochastique alors P h est aussi une matrice
stochastique, h ∈ N∗ .
1
Exercice 4
Classifiez les états des chaı̂nes de Markov ci-dessous selon leur périodicité.
1.
0 1 0
P = 0 0 1 .
1 0 0
2.
0 1 0 0
0 0 1 0
P =
1 1 .
0 2 0 2
1 1
2 0 2 0
Exercice 5
Soit une chaı̂ne de Markov représentée par la matrice de transition suivante:
1 0
P = .
0.5 0.5
Exercice 6
Soit une chaı̂ne de Markov représentée par la matrice de transition suivante:
p00 p01
P = .
p10 p11
1. Vérifiez que:
n−2
f00 (n) = p01 (p11 ) p10 , n ≥ 2,
n−1
f01 (n) = (p00 ) p01 , n ≥ 1,
n−1
f10 (n) = (p11 ) p10 , n ≥ 1,
n−2
f11 (n) = p10 (p00 ) p01 , n ≥ 2.
2
Exercice 7
La richesse d’un joueur de casino est décrite par une marche aléatoire {St , t ≥ 0},
S0 = 1, avec des barrières absorbantes en 0 et 3. (Les états sont numérotés de 0
à 3.) La probabilité de gagner un franc est notée p et la probabilité de perdre un
franc q. Le jeu se termine ainsi lorsque St = 0 ou St = 3.
Exercice 8
Soit la matrice stochastique
1 2
3 0 0 0 3 0
0 1 1
0 0 0 2 2
0 2 1
0 0 3 0 3
P =
1 1 1
.
3 0 3 3 0 0
1 0 0 0 0 0
1 1
0 2 0 0 0 2
2. Déterminez quels sont les états transitoires et quels sont les états persistants
de la chaine de Markov associée à P .
3. Calculez le temps moyen de recurrence des états 1, 4 et 6.
4. Montrez qu’en renumérotant les états pour grouper les
états persistants
et les
P1,1 0
états transitoires, la matrice P est de la forme P = .
P2,1 P2,2
1 2
5. On pose P1,1 = 3 3 . La chaı̂ne de Markov associée à P1,1 possède-t-elle
1 0
une distribution stationnaire?
6. Calculez le temps moyen de récurrence des états persistants de la chaı̂ne de
Markov associée à P1,1 .