18
Processus al´ eatoires 1 Exercices corrig´ es Chaˆ ınes de Markov discr` etes 1. Dans un certain pays, il ne fait jamais beau deux jours de suite. Si un jour il fait beau, le lendemain il peut neiger ou pleuvoir avec autant de chances. Si un jour il pleut ou il neige, il y a une chance sur deux qu’il y ait changement de temps le lendemain, et s’il y a changement, il y a une chance sur deux que ce soit pour du beau temps. a) Former, ` a partir de cel` a, une chaˆ ıne de Markov et en d´ eterminer sa matrice de transition. b) Si un jour il fait beau, quel est le temps le plus probable pour le surlendemain? c) Si on suppose que l’on a que deux ´ etats (beau temps et mauvais temps), eterminer la matrice de transition de la nouvelle chaˆ ıne ainsi obtenue. a) On a l’ensemble des ´ etats suivants E = {BT,PL,N } et le temps pour un jour ne d´ epend que du temps du jour pr´ ec´ edent, ind´ ependamment de la p´ eriode de l’ann´ ee ´ egalement. On a donc bien une chaˆ ıne de Markov, de matrice de transition P = 0 1/2 1/2 1/4 1/2 1/4 1/4 1/4 1/2 . b) Pour le temps du surlendemain, il faut d´ eterminer P 2 . Mais seule la premi` ere ligne de P 2 nous int´ eresse car on veut d´ eterminer les probabilit´ es ` a partir d’un jour de beau temps. On a : p (2) BT,BT = p BT,BT × p BT,BT + p BT,PL × p P L,BT + p BT,N × p N,BT =0 × 0+ 1 2 × 1 4 + 1 2 × 1 4 = 2 8 = 1 4 p (2) BT,PL = p BT,BT × p BT,PL + p BT,PL × p P L,P L + p BT,N × p N,PL =0 × 1 4 + 1 2 × 1 2 + 1 2 × 1 4 = 3 8 p (2) BT,N = p BT,BT × p BT,N + p BT,PL × p P L,N + p BT,N × p N,N =0 × 1 4 + 1 2 × 1 4 + 1 2 × 1 2 = 3 8 . Ainsi, si un jour il fait beau, le temps le plus probable pour le surlendemain est la pluie ou la neige . c) On suppose maintenant que E = {BT,MT }, ce qui est possible puisque la pluie et la neige se comportent de la mˆ eme fa¸ con pour ce qui est des transitions. On a encore p BT,BT = 0 mais maintenant, p BT,MT = p BT,PL + p BT,N = 1. Pour la deuxi` eme ligne, on a p MT,BT = 1 4 car p P L,BT = p N,BT = 1 4 et p MT,MT = 3 4 car p P L,P L + p P L,N = p N,PL + p N,N = 3 4 . Ainsi, P = 0 1 1/4 3/4 .

Exercices corrig´es Chaˆınes de Markov discr`etesw3.mi.parisdescartes.fr/~rlachiez/enseignement/markov/feuille1.pdf · Processus al´eatoires 1 Exercices corrig´es Chaˆınes

Embed Size (px)

Citation preview

Page 1: Exercices corrig´es Chaˆınes de Markov discr`etesw3.mi.parisdescartes.fr/~rlachiez/enseignement/markov/feuille1.pdf · Processus al´eatoires 1 Exercices corrig´es Chaˆınes

Processus aleatoires 1

Exercices corriges

Chaınes de Markov discretes

1. Dans un certain pays, il ne fait jamais beau deux jours de suite. Si un jour il faitbeau, le lendemain il peut neiger ou pleuvoir avec autant de chances. Si un jour il pleutou il neige, il y a une chance sur deux qu’il y ait changement de temps le lendemain, ets’il y a changement, il y a une chance sur deux que ce soit pour du beau temps.

a) Former, a partir de cela, une chaıne de Markov et en determiner sa matrice detransition.

b) Si un jour il fait beau, quel est le temps le plus probable pour le surlendemain?c) Si on suppose que l’on a que deux etats (beau temps et mauvais temps),

determiner la matrice de transition de la nouvelle chaıne ainsi obtenue.

a) On a l’ensemble des etats suivants E = {BT, PL, N} et le temps pour un jour ne depend quedu temps du jour precedent, independamment de la periode de l’annee egalement. On a donc bien une

chaıne de Markov, de matrice de transition P =

0 1/2 1/21/4 1/2 1/41/4 1/4 1/2

.

b) Pour le temps du surlendemain, il faut determiner P 2. Mais seule la premiere ligne de P 2 nousinteresse car on veut determiner les probabilites a partir d’un jour de beau temps. On a :

p(2)BT,BT = pBT,BT × pBT,BT + pBT,PL × pPL,BT + pBT,N × pN,BT = 0 × 0 +

12× 1

4+

12× 1

4=

28

=14

p(2)BT,PL = pBT,BT × pBT,PL + pBT,PL × pPL,PL + pBT,N × pN,PL = 0 × 1

4+

12× 1

2+

12× 1

4=

38

p(2)BT,N = pBT,BT × pBT,N + pBT,PL × pPL,N + pBT,N × pN,N = 0 ×

14

+12×

14

+12×

12

=38.

Ainsi, si un jour il fait beau, le temps le plus probable pour le surlendemain est la pluie ou la neige .

c) On suppose maintenant que E′ = {BT, MT}, ce qui est possible puisque la pluie et la neige secomportent de la meme facon pour ce qui est des transitions. On a encore p′BT,BT = 0 mais maintenant,

p′BT,MT = pBT,PL + pBT,N = 1. Pour la deuxieme ligne, on a p′MT,BT =14

car pPL,BT = pN,BT =14

et

p′MT,MT =34

car pPL,PL + pPL,N = pN,PL + pN,N =34.

Ainsi, P ′ =(

0 11/4 3/4

).

Page 2: Exercices corrig´es Chaˆınes de Markov discr`etesw3.mi.parisdescartes.fr/~rlachiez/enseignement/markov/feuille1.pdf · Processus al´eatoires 1 Exercices corrig´es Chaˆınes

2 Exercices

2. Trois chars livrent un combat. Le char A atteint sa cible avec la probabilite 2/3,le char B avec la probabilite 1/2 et le char C avec la probabilite 1/3. Ils tirent tousensembles et des qu’un char est touche, il est detruit. On considere a chaque instant,l’ensemble des chars non detruits. Montrer qu’on obtient une chaıne de Markov dont onexplicitera l’ensemble des etats et la matrice de transition dans chacun des cas suivants :

a) Chaque char tire sur son adversaire le plus dangereux ;

b) A tire sur B ; B tire sur C et C tire sur A.

L’ensemble des etats est E = {ABC, AB, AC, BC, A, B, C, ∅}. Pour X ∈ {A, B, C}, on note encoreX l’evenement “le char X atteint sa cible” (et donc X l’evenement “le char X rate sa cible”). On a ainsiP (A) = 2/3, P (B) = 1/2 et P (C) = 1/3. Une fois qu’un char est descendu, il ne peut plus revenir etainsi, on peut commencer par mettre un certain nombre de 0 dans la matrice de transition. Si on estdans l’etat A, B, C ou ∅, on est sur d’y rester (plus d’adversaires!).

a) S’il ne reste que 2 chars, par exemple A et B, on a pAB,AB = P (A)P (B) =13× 1

2=

16

(les 2

ratent!), pAB,B = P (A)P (B) =13× 1

2=

16

(A rate, B reussit), pAB,A = P (A)P (B) =23× 1

2=

26

(A

reussit, B rate) et pAB,∅ = P (A)P (B) =23× 1

2=

26

(les 2 reussissent). On procede de meme pour AC

et pour BC.

Si on a les 3 chars, A tire sur B, B et C tirent sur A (et personne ne tire sur C, donc il reste au moins

C). On a alors pABC,ABC = P (A)P (B)P (C) =13

12

23

=218

, pABC,AC = P (A)P (B)P (C) =23

12

23

=418

,

pABC,BC = P (A)P (B ∪C) = P (A)(1−P (B)P (C)) =13

(1 −

12

23

)=

418

et pABC,C = P (A)P (B ∪C) =

P (A)(1 − P (B)P (C)) =23

(1− 1

223

)=

818

. On obtient ainsi la matrice et le graphe suivants :

P =

1/9 0 2/9 2/9 0 0 4/9 00 1/6 0 0 2/6 1/6 0 2/60 0 2/9 0 4/9 0 1/9 2/90 0 0 2/6 0 2/6 1/6 1/60 0 0 0 1 0 0 00 0 0 0 0 1 0 00 0 0 0 0 0 1 00 0 0 0 0 0 0 1

b) S’il ne reste que A et B, A tire sur B et B continue a tirer sur C donc A n’est pas menace etp′AB,A = P (A) = 2/3 alors que p′AB,AB = P (A) = 1/3. De meme avec A et C (A tire sur B, C sur A

donc C n’est pas menace), p′AC,C = P (C) = 1/3 et p′AC,AC = P (C) = 2/3. Avec B et C (B tire sur C

et C sur A, donc B n’est pas menace), p′BC,B = P (B) = 1/2 et p′BC,BC = P (B) = 1/2.

Si on a les 3 chars, p′ABC,ABC = P (A)P (B)P (C) =13

12

23

=218

, p′ABC,AB = P (A)P (B)P (C) =13

12

23

=218

, p′ABC,AC = P (A)P (B)P (C) =23

12

23

=418

, p′ABC,BC = P (A)P (B)P (C) =13

12

13

=118

,

p′ABC,A = P (A)P (B)P (C) =23

12

23

=418

, p′ABC,B = P (A)P (B)P (C) =13

12

13

=118

, p′ABC,C =

P (A)P (B)P (C) =23

12

13

=218

et p′ABC,∅ = P (A)P (B)P (C) =23

12

13

=218

. On obtient ainsi la ma-trice et le graphe suivants :

Page 3: Exercices corrig´es Chaˆınes de Markov discr`etesw3.mi.parisdescartes.fr/~rlachiez/enseignement/markov/feuille1.pdf · Processus al´eatoires 1 Exercices corrig´es Chaˆınes

Processus aleatoires 3

P =

2/18 2/18 4/18 1/18 4/18 1/18 2/18 2/180 1/3 0 0 2/3 0 0 00 0 2/3 0 0 0 1/3 00 0 0 1/2 0 1/2 0 00 0 0 0 1 0 0 00 0 0 0 0 1 0 00 0 0 0 0 0 1 00 0 0 0 0 0 0 1

3. On considere 5 points equirepartis sur un cercle. Un promeneur saute a chaque instan-t, d’un point a l’un de ses voisins avec la probabilite 1/2 pour chaque voisin. Determinerle graphe et la matrice de transition de la chaıne ainsi obtenue. Quelle est la periode deses etats?

L’ensemble des etats est E = {1, 2, 3, 4, 5}.On a pi,i+1 = pi,i−1 = 1/2 pour i ∈ {2, 3, 4}, p1,2 = p1,5 = 1/2 et p5,1 = p5,4 = 1/2, ce qui donne lamatrice :

P =

0 1/2 0 0 1/21/2 0 1/2 0 00 1/2 0 1/2 00 0 1/2 0 1/2

1/2 0 0 1/2 0

et le graphe :

La chaıne est irreductible (tous les etats communiquent) et finie donc recurrente positive. Commetous les etats sont dans la meme classe, leur periode est la meme. On a d(1) = pgcd{n ≥ 1 ; p

(n)1,1 > 0}.

Or p(2)1,1 ≥ p1,2p2,1 =

14

> 0 et p(5)1,1 ≥ p1,2p2,3p3,4p4,5p5,1 =

125

> 0. Or le seul diviseur commun a 2 et a 5

est 1. On a donc d = d(1) = 1 : cette chaıne est donc aperiodique .

4. On dispose de 2 machines identiques fonctionnant independamment et pouvan-

t tomber en panne au cours d’une journee avec la probabilite q =1

4. On note Xn le

nombre de machines en panne au debut de la n-ieme journee.

a) On suppose que, si une machine est tombee en panne un jour, elle est repareela nuit suivante et qu’on ne peut reparer qu’une machine dans la nuit. Montrer que l’onpeut definir ainsi une chaıne de Markov dont on determinera le graphe, la matrice detransition et eventuellement les distributions stationnaires.

b) Meme question en supposant qu’une machine en panne n’est reparee que lelendemain, le reparateur ne pouvant toujours reparer qu’une machine dans la journee.

c) Le reparateur, de plus en plus paresseux, met maintenant 2 jours pour reparerune seule machine. Montrer que (Xn) n’est plus une chaıne de Markov, mais que l’onpeut construire un espace de 5 etats permettant de decrire le processus par une chaıne deMarkov dont on donnera le graphe des transitions. Calculer la probabilite que les 2 ma-chines fonctionnent apres n jours (n = 1, n = 2 et n = 3) si elles fonctionnent initialement.

a) L’ensemble des etats est E = {0, 1} car si le soir il y a une ou aucune machine en panne, lelendemain matin, il y en aura 0 ; et si le soir, il y en a 2, le lendemain matin, il y en aura une seule.Le nombre de machines en panne le matin ne depend que de celui de la veille au matin et de ce qu’il

Page 4: Exercices corrig´es Chaˆınes de Markov discr`etesw3.mi.parisdescartes.fr/~rlachiez/enseignement/markov/feuille1.pdf · Processus al´eatoires 1 Exercices corrig´es Chaˆınes

4 Exercices

s’est passe dans la journee, ceci independamment de la periode de l’annee. On a donc bien une chaıne deMarkov dont il faut determiner la matrice de transition.

On a p0,1 = q2 (les 2 machines tombent en panne dans la journee et ces pannes sont independantesentre elles) et p0,0 = (1− q)2 + 2q(1− q) = 1− q2 ((1− q)2 correspond a aucune panne dans la journee et2q(1− q) a une seule panne qui peut provenir d’une machine ou de l’autre.). On a egalement p1,0 = 1− q(la machine en panne est reparee et l’autre fonctionne toujours), et p1,1 = q (la machine en panne estreparee et l’autre est tombee en panne). Ainsi, on a la matrice :

P =(

1 − q2 q2

1 − q q

)et le graphe :

Pour la distribution stationnaire, on resout (π0, π1) = (π0, π1)(

1 − q2 q2

1 − q q

), soit π1 = q2π0 + qπ1,

d’ou π1 =q2

1 − qπ0 et avec π0 + π1 = 1, on obtient π0

(1 +

q2

1 − q

)= 1, soit π0 =

1 − q

1 − q + q2et

π1 =q2

1 − q + q2. Avec q =

14, on a alors π0 =

1213

et π1 =113

.

b) On a maintenant E′ = {0, 1, 2} car aucune machine n’est reparee la nuit ; p′0,0 = (1− q)2 (aucunepanne dans la journee), p′0,1 = 2q(1 − q) (une des 2 machines est tombee en panne) et p′0,2 = q2 (les 2machines sont tombees en panne) ; p′1,0 = 1 − q (la machine qui fonctionne ne tombe pas en panne),p′1,1 = q (la machine qui fonctionne tombe en panne, l’autre est reparee), p′1,2 = 0 (la machine en panneest sure de remarcher le lendemain) ; de meme, p′2,1 = 1 (une seule des 2 machines en panne est reparee).Ainsi, on a la matrice:

P =

(1 − q)2 2q(1 − q) q2

1 − q q 00 1 0

et le graphe :

Pour la distribution stationnaire, on resout (π0, π1, π2) = (π0, π1, π2)

(1 − q)2 2q(1 − q) q2

1 − q q 00 1 0

,

soit π0 = (1− q)2π0 +(1− q)π1, d’ou π1 =2q − q2

1 − qπ0 et π2 = q2π0, d’ou avec π0 +π1 +π2 = 1, on obtient

π0

(1 + q2 +

2q − q2

1 − q

)= 1, soit π0 =

1 − q

1 + q − q3, π1 =

2q − q2

1 + q − q3et π2 =

q2 − q3

1 + q − q3. Avec q =

14, on a

alors π0 =4879

, π1 =2879

et π2 =379

.

c) Si on garde l’ensemble des etats E′, on n’a pas une chaıne de markov car, lorque l’on a 2 machinesen panne par exemple, on ne peut pas savoir si le lendemain, on en aura 1 ou 2 en panne : tout depend sic’est le premier jour de reparation ou le second. On est donc amene a introduire 2 etats supplementaires :1′ (1 machine en panne dont c’est le deuxieme jour de reparation) et 2′ (2 machines en panne et deuxiemejour de reparation pour la premiere). On a alors p′′0,0 = (1− q)2, p′′0,1 = 2q(1− q), p′′0,2 = q2 ; p′′1,1′ = 1− q,p′′1,2′ = q, p′′1′,0 = 1− q, p′′1′,1 = q, p′′2,2′ = 1, p′′2′,1 = 1, les autres probabilites etant nulles. On a le graphe :

Page 5: Exercices corrig´es Chaˆınes de Markov discr`etesw3.mi.parisdescartes.fr/~rlachiez/enseignement/markov/feuille1.pdf · Processus al´eatoires 1 Exercices corrig´es Chaˆınes

Processus aleatoires 5

On a alors p′′0,0 = (1 − p)2, p′′0,0(2) = p′′0,0p′′0,0 = (1 − q)4, p′′0,0(3) = p′′0,0p

′′0,0p

′′0,0 + p′′0,1p

′′1,1′p′′1′,0 =

(1 − q)6 + 2q(1 − q)3.

5. Determiner la matrice de transition des chaınes suivantes :a) N boules noires et N boules blanches sont placees dans 2 urnes de telle facon

que chaque urne contienne N boules. A chaque instant on choisit au hasard une bouledans chaque urne et on echange les deux boules. A l’instant n, l’etat du systeme est lenombre de boules blanches de la premiere urne.

b) N boules numerotees de 1 a N sont reparties dans une urne. A chaque instant,on tire un numero i au hasard entre 1 et N et la boule de numero i est change d’urne. Al’instant n, l’etat du systeme est le nombre de boules dans la premiere urne.

c) Determiner la distribution stationnaire de la chaıne au b). (On montrera qu’ils’agit de la loi binomiale de parametres N et 1/2). Determiner l’esperance du nombrede tirages necessaires pour revenir a l’etat initial dans les cas N = 2M , X0 = M etN = 2M , X0 = 2M . Donner un equivalent lorsque M est grand et une valeur approcheepour N = 10.

a) Le systeme est dans l’etat k lorsque l’on a k boules blanches dans A et N − k dans B (et doncaussi N − k boules noires dans A et k dans B).

• Si Xn = 0, toutes les boules blanches sont dans B a l’instant n, donc les boules choisies serontnecessairement une noire dans A et une blanche dans B et Xn+1 = 1.

• De meme, si Xn = N , alors necessairement Xn+1 = N − 1 (car la boule choisie dans A estblanche et celle choisie dans B est noire).

• Si Xn = k, avec k ∈ {1, · · · , N − 1}, on aura Xn+1 = k − 1 si la boule choisie dans A est

blanche (probabilitek

N) et la boule choisie dans B est noire (probabilite

k

N), Xn+1 = k + 1 si la boule

choisie dans A est noire (probabiliteN − k

N) et celle choisie dans B est blanche (probabilite

N − k

N).

Enfin, Xn+1 = k si la boule choisie dans A est noire (probabiliteN − k

N) et celle choisie dans B est noire

(probabilitek

N) ou bien si la boule choisie dans A est blanche (probabilite

k

N) et celle choisie dans B

est blanche (probabiliteN − k

N). Ainsi, la probabilite d’occupation d’un etat ne depend que de l’etat

precedent et on a bien une chaıne de Markov de matrice de transition et de graphe :

P =

r0 p0

q1 r1 p1 (0)q2 r2 p2

. . . . . . . . .qk rk pk

. . . . . . . . .(0) qN−1 rN−1 pN−1

qN rN

avec qk =k2

N2, rk =

2k(N − k)N2

, pk =(N − k)2

N2pour 1 ≤ k ≤ N − 1, r0 = rN = 0, p0 = qN = 1.

b) Le systeme est dans l’etat k lorsque l’on a k boules dans A et N − k dans B.• Si Xn = 0, toutes les boules sont dans B a l’instant n, donc la boule choisie sera necessairement

dans B et Xn+1 = 1.• De meme, si Xn = N , alors necessairement Xn+1 = N − 1 (car la boule est choisie dans A).

Page 6: Exercices corrig´es Chaˆınes de Markov discr`etesw3.mi.parisdescartes.fr/~rlachiez/enseignement/markov/feuille1.pdf · Processus al´eatoires 1 Exercices corrig´es Chaˆınes

6 Exercices

• Si Xn = k, avec k ∈ {1, · · · , N − 1}, on aura Xn+1 = k − 1 si la boule est choisie dans A

(probabilitek

N), et Xn+1 = k + 1 si elle est choisie dans B (probabilite

N − k

N).

Ainsi, la probabilite d’occupation d’un etat ne depend que de l’etat precedent et on a bien une chaınede Markov de matrice de transition et de graphe :

P =

0 11N

0N − 1

N(0)

2N

0N − 2

N. . . . . . . . .

k

N0

N − k

N. . . . . . . . .

(0)N − 1

N0

1N

1 0

c) La chaıne est irreductible finie donc recurrente positive. Elle admet donc une unique distributionstationnaire, probabilite π solution du systeme π = πP .

π = πP donne

π0 = r0π0 + q1π1

π1 = p0π0 + r1π1 + q2π2

...πk = pk−1πk−1 + rkπk + qk+1πk+1

...πN−1 = pN−2πN−2 + rN−1πN−1 + qNπN

πN = pN−1πN−1 + rNπN

ou pk + qk + rk = 1, q0 = pN = 0.

La ligne “0” donne (1 − r0)π0 = q1π1, soit p0π0 = q1π1. En remplacant p0π0 par q1π1 dans la ligne1, on obtient (1 − q1 − r1)π1 = q2π2, soit p1π1 = q2π2. Ainsi, par recurrence, si pk−1πk−1 = qkπk, enreportant dans la ligne k on obtient (1 − qk − rk)πk = qk+1πk+1, soit pkπk = qk+1πk+1, et la ligne Nredonne (1 − qN )πN = rNπN .

On a donc

p0π0 = q1π1

p1π1 = q2π2

...pk−1πk−1 = qkπk

...pN−1πN−1 = qNπN

, d’ou

π1 =p0

q1π0

π2 =p0p1

q1q2π0

...πk =

p0 · · · pk−1

q1 · · · qkπ0

...πN =

p0 · · · pN−1

q1 · · · qNπ0

etN∑

k=0

πk = 1 donne π0.

Pour a) on obtient alors πk =(

N(N − 1) · · · (N − k + 1)1 × 2 · · · × k

)2

π0 =(

N !k!(N − k)!

)2

π0 = (CkN )2π0.

On a alors π0

(N∑

k=0

(CkN )2

)= π0C

N2N = 1 donc πk =

CkNCN−k

N

CN2N

pour 0 ≤ k ≤ N . (C’est la loi hyper-

geometrique, distribution qui correspond a une repartition initiale des boules au hasard, a raison de Npar urne).

Pour b), on obtient πk =NN × N−1

N × · · · × N−k+1N

1N × 2

N × · · · × kN

π0 =N(N − 1) · · · (N − k + 1)

k!π0 = Ck

Nπ0.

On a alors π0

(N∑

k=0

CkN

)= 2Nπ0 = 1 donc πk = Ck

N

12N

= CkN

(12

)k (12

)N−k

pour 0 ≤ k ≤ N .

Page 7: Exercices corrig´es Chaˆınes de Markov discr`etesw3.mi.parisdescartes.fr/~rlachiez/enseignement/markov/feuille1.pdf · Processus al´eatoires 1 Exercices corrig´es Chaˆınes

Processus aleatoires 7

Ainsi, π = B(

N,12

). (C’est la distribution qui correspond a une repartition initiale des boules au

hasard dans les 2 urnes).

6. Dans Zk, on a k directions, et dans chaque direction, on a 2 sens. Un point de Zk

a donc 2k voisins. Un promeneur oisif saute a chaque instant d’un point de Zk a l’un deses voisins avec la meme probabilite. Etudier la recurrence des chaınes de Markov ainsiobtenues. (On distinguera les cas k = 1, k = 2 et k ≥ 3).

a) E = Z. Pour etre de nouveau au point de depart apres n etapes, il faut avoir fait autant de pasvers la droite que vers la gauche : ainsi, n doit etre pair (n = 2m). Il y a autant de trajets possi-

bles que de 2m u-plets avec m “d” et m “g”, soit Cm2m, et ils sont tous de probabilite

(12

)2m

. Ainsi,

p(2m)x,x = Cm

2m

(12

)2m

(et p(2m+1)x,x = 0).

Pour la nature de la serie, on utilise un equivalent grace a Stirling :

p(2m)xx =

(2m)!(m!)2

(12

)2m

∼ (2m)2m

e2m

√2π × 2m

(em

mm√

2πm

)2

× 122m

=1√πm

.

Ainsi, p(2m)xx ∼ 1√

πmterme general d’une serie divergente donc la chaıne est recurrente.

b) E = Z2. Pour etre de nouveau au point de depart apres n etapes, il faut avoir fait dans chacunedes 2 directions autant de pas dans un sens que dans l’autre : ainsi, n doit etre pair (n = 2m). Si il y a2k pas verticaux (et donc 2m− 2k pas horizontaux), alors il doit y avoir k pas vers le haut, k pas vers lebas, m−k pas vers la gauche et m−k pas vers la droite. Ainsi, dans ces cas-la, il y a C2k

2m×Ck2k×Cm−k

2m−2k

trajets possibles (on a C2k2m facons de choisir les pas verticaux, puis, parmi ceux-ci, on en choisit Ck

2k versle haut et, parmi les 2m − 2k horizontaux on choisit les Cm−k

2m−2k vers la droite par exemple), et ils sont

tous de probabilite(

14

)2m

. Mais, comme k peut prendre toutes les valeurs de 0 a m, il vient

p(2m)xx =

m∑

k=0

(2m)!(2k)!(2m − 2k)!

(2k)!(k!)2

(2m − 2k)!((m − k)!)2

(14

)2m

= Cm2m

(14

)2m(

m∑

k=0

(Ckm)2

)=

[Cm

2m

(12

)2m]2

∼ 1πm

carm∑

k=0

(Ckm)2 =

m∑

k=0

CkmCm−k

m = Cm2m (on peut par exemple developper (1 + x)2m = (1 + x)m(1 + x)m des

2 facons et identifier le coefficient de xm dans chacune des expressions).

Ainsi, p(2m)xx ∼ 1

πmterme general d’une serie divergente donc la chaıne est recurrente.

c) E = Z3. Pour etre de nouveau au point de depart apres n etapes, il faut avoir fait dans chacune des3 directions autant de pas dans un sens que dans l’autre : ainsi, n doit etre pair (n = 2m). Si il y a 2k1

pas dans la direction 1, 2k2 pas dans la direction 2 (et donc 2m−2k1−2k2 pas dans la direction 3), alorsil doit y avoir k1 pas dans chaque sens de la direction 1, k2 dans ceux de la direction 2 et m−k1−k2 dansceux de la direction 3. Ainsi, dans ces cas-la, il y a C2k1

2m ×C2k22m−2k1

×Ck12k1

×Ck22k2

×Cm−k1−k22(m−k1−k2)

trajets

Page 8: Exercices corrig´es Chaˆınes de Markov discr`etesw3.mi.parisdescartes.fr/~rlachiez/enseignement/markov/feuille1.pdf · Processus al´eatoires 1 Exercices corrig´es Chaˆınes

8 Exercices

possibles et ils sont tous de probabilite(

16

)2m

(3 directions et 2 sens dans chacune, donc 6 possibilites

a chaque pas). Il vient alors

p(2m)xx =

k1,k2

(2m)!(2k1)!(2m − 2k1)!

(2m − 2k1)!(2k2)!(2m − 2k1 − 2k2)!

(2k1)!(k1!)2

(2k2)!(k2!)2

(2m − 2k1 − 2k2)!((m − k1 − k2)!)2

(16

)2m

=∑

k1,k2

(2m)!(k1!)2(k2!)2((m − k1 − k2)!)2

(16

)2m

On pourrait montrer que l’on peut majorer cette expression par un terme equivalent aK3

m3/2. Ainsi

p(2m)xx est le terme general d’une serie convergente donc la chaıne est transitoire.

7. Soit (Xn)n∈N une chaıne de Markov de matrice de transition

P =

0 0 0 0 01

20

1

20 0

0 0 0 0 1 0 0 0 0 0

0 01

20

1

40

1

40 0 0

0 0 0 0 0 0 1 0 0 0

0 01

40 0 0

1

4

1

20 0

1

20 0 0 0 0 0

1

20 0

0 0 01

20 0 0 0 0

1

21

20 0 0 0

1

20 0 0 0

03

40 0 0 0 0 0

1

40

0 0 0 0 0 0 1 0 0 0

.

a) Representer le graphe de cette chaıne. Determiner les classes de communication,leur nature, leur periodicite et eventuellement les sous-classes cycliques.

b) Calculer les probabilites d’absorption des etats transitoires par les classes recur-rentes.

c) Determiner les distributions stationnaires de la chaıne et le temps moyen deretour pour les etats recurrents. Existe-t-il une distribution limite ?

a) On represente le graphe de la chaıne.

Page 9: Exercices corrig´es Chaˆınes de Markov discr`etesw3.mi.parisdescartes.fr/~rlachiez/enseignement/markov/feuille1.pdf · Processus al´eatoires 1 Exercices corrig´es Chaˆınes

Processus aleatoires 9

On a une chaıne finie donc essentiel equivaut a recurrent positif et non essentiel equivaut a transitoire.On a 2 classes recurrentes R1 = {1, 6, 8} aperiodique, R2 = {4, 7, 10} de periode 2, de sous-classes cy-cliques {4, 10} et {7} et 3 classes transitoires T1 = {9} aperiodique, T2 = {2} de periode 0 et T3 = {3, 5}aperiodique.

b) On note ak (resp. a′k) la probabilite d’absorption de l’etat k par la classe R1 (resp. R2) pour

k ∈ T = {2, 3, 5, 9}. Si a designe le vecteur colonne des ak, on sait que a = a(1) + PT a avec a9(1) =

a2(1) = a3(1) = 0, a5(1) = p58 =12, soit

a2

a3

a5

a9

=

00120

+

0 0 1 0

012

14

0

014

0 034

0 014

a2

a3

a5

a9

=

a512a3 +

14a5

12

+14a3

34a2 +

14a9

Ainsi a2 = a5 = a9 = 2a3 et(

2 − 14

)a3 =

12, soit a3 =

27

et a2 = a5 = a9 =47

.

De meme,

a′2

a′3

a′5

a′9

=

014140

+

0 0 1 0

012

14

0

014

0 034

0 014

a′2

a′3

a′5

a′9

=

a′5

14

+12a′3 +

14a′5

14

+14a′3

34a′2 +

14a′9

donne a′2 = a′

5 =

a′9, a′

3 =12

+12a′5 et a′

5 =14

+18

+18a′5, soit a′

2 = a′5 = a′

9 =37

et a′3 =

12

+314

=57

(et on a bien

ak + a′k = 1).

c) On a deja π2 = π3 = π5 = π9 = 0 (etats transitoires) et π = λ1π(1) + λ2π

(2) ou π(i) est l’uniquedistribution stationnaire de la chaıne restreinte a Ri, λi ≥ 0 et λ1 + λ2 = 1. On a

(π(1)1 , π

(1)6 , π

(1)8 ) = (π(1)

1 , π(1)6 , π

(1)8 )

0 1/2 1/21/2 0 1/21/2 1/2 0

=

(1)6 + π

(1)8

2,π

(1)1 + π

(1)8

2,π

(1)1 + π

(1)6

2

)avec

π(1)1 + π

(1)6 + π

(1)8 = 1. On a donc π

(1)1 = π

(1)6 = π

(1)8 =

13

et µ1 = µ6 = µ8 = 3 . De meme,

(π(2)4 , π

(2)7 , π

(2)10 ) = (π(2)

4 , π(2)7 , π

(2)10 )

0 1 01/2 0 1/20 1 0

=

(12π

(2)7 , π

(2)4 + π

(2)10 ,

12π

(2)7

)avec π

(2)4 + π

(2)7 +

π(2)10 = 1. On a donc π

(2)4 = π

(2)10 =

12π

(2)7 d’ou π

(2)7 =

12, π

(2)4 = π

(2)10 =

14

; µ4 = µ10 = 4, µ7 = 2 .

Finalement π =(

λ1

3, 0, 0,

λ2

4, 0,

λ1

3,λ2

2,λ1

3, 0,

λ2

4

), λi ≥ 0 et λ1 + λ2 = 1 .

Processus de Poisson

8. Calculer la loi du n-ieme temps d’arrivee d’un processus de Poisson de deux facons :a) En utilisant [Sn ≤ t] = [Nt ≥ n] ;b) En utilisant Sn = T1 + T2 + · · ·+ Tn.

Page 10: Exercices corrig´es Chaˆınes de Markov discr`etesw3.mi.parisdescartes.fr/~rlachiez/enseignement/markov/feuille1.pdf · Processus al´eatoires 1 Exercices corrig´es Chaˆınes

10 Exercices

a) FSn(t) = P ([Sn ≤ t]) = P ([Nt ≥ n]) = 1 − P ([Nt ≤ n − 1]) pour n ≥ 1 (S0 = 0), soit

FSn(t) = 1 − e−λtn−1∑

k=0

(λt)k

k!pour n ≥ 1 et t > 0. On a alors,

fSn(t) = F ′Sn

(t) = λe−λtn−1∑

k=0

(λt)k

k!− e−λt

n−1∑

k=1

λk ktk−1

k!

= e−λt

[n−1∑

k=0

λk+1tk

k!−

n−1∑

k=1

λktk−1

(k − 1)!

]

= e−λt

[n−1∑

k=0

λk+1tk

k!−

n−2∑

k=0

λk+1tk

k!

]

et finalement fSn(t) =λn

(n − 1)!e−λt tn−1 I]0,+∞[(t) : on reconnait la densite de la loi gamma Ga(n, λ).

b) Par recurrence,• S1 = T1 donc S1 suit la loi E(λ) = Ga(1, λ).• Si Sn suit la loi Ga(n, λ), comme Sn+1 = Sn +Tn+1 et que Sn = T1 +T2+ · · ·+Tn est independante

de Tn+1, on a :

fSn+1(t) =∫

fSn(u)fTn+1(t − u) du

=∫

λn

(n − 1)!e−λu un−1 I]0,+∞[(u) λ e−λ(t−u) I]0,+∞[(t − u) du

=λn+1

(n − 1)!e−λt

∫un−1 I]0,+∞[(u)I]0,+∞[(t − u) du

avec I]0,+∞[(u)I]0,+∞[(t − u) = 1 si u > 0 et t− u > 0, c’est-a-dire 0 < u < t, soit t > 0 et u ∈]0, t[. On adonc

fSn+1(t) =λn+1

(n − 1)!e−λtI]0,+∞[(t)

∫ t

0

un−1 du =λn+1

(n − 1)!e−λtI]0,+∞[(t)

tn

n

soit fSn+1(t) =λn+1

n!e−λt tnI]0,+∞[(t) et Sn+1 suit donc bien la loi gamma Ga(n + 1, λ).

9. Un radar est place sur une route ou il passe en moyenne 5 vehicules en exces devitesse par heure. On admet que ces vehicules forment un Processus de Poisson. Quelleest la probabilite qu’au bout d’une demi-heure, une voiture exactement se soit arreteesachant que :

a) dans le premier quart d’heure, aucune voiture n’a ete prise et dans la premiereheure, deux voitures ont ete prises ;

b) la premiere heure, deux voitures ont ete prises et dans les deux premieres heures,trois voitures ont ete prises ;

c) dans les dix premieres minutes, aucune voiture n’a ete prise et dans le premierquart d’heure, une voiture a ete prise.

Page 11: Exercices corrig´es Chaˆınes de Markov discr`etesw3.mi.parisdescartes.fr/~rlachiez/enseignement/markov/feuille1.pdf · Processus al´eatoires 1 Exercices corrig´es Chaˆınes

Processus aleatoires 11

P ([Nu = k]/[Ns = i] ∩ [Nt = j]) =P ([Nu = k] ∩ [Ns = i] ∩ [Nt = j])

P ([Ns = i] ∩ [Nt = j])avec

P ([Ns = i] ∩ [Nt = j]) = P ([Ns = i] ∩ [Nt − Ns = j − i])= P ([Ns = i])P ([Nt − Ns = j − i])= P ([Ns = i])P ([Nt−s = j − i])

= e−λs (λs)i

i!e−λ(t−s) (λ(t − s))j−i

(j − i)!

= e−λt λjsi(t − s)j−i

i!(j − i)!

a) Cas s ≤ u ≤ t. Pour i ≤ k ≤ j, on a :

P ([Nu = k] ∩ [Ns = i] ∩ [Nt = j]) = P ([Ns = i] ∩ [Nu − Ns = k − i] ∩ [Nt − Nu = j − k])= P ([Ns = i])P ([Nu − Ns = k − i])P ([Nt − Nu = j − k])= P ([Ns = i])P ([Nu−s = k − i])P ([Nt−u = j − k])

On a donc

P ([Nu = k]/[Ns = i] ∩ [Nt = j]) =P ([Nu−s = k − i])P ([Nt−u = j − k])

P ([Nt−s = j − i])

=e−λ(u−s) (λ(u−s))k−i

(k−i)! e−λ(t−u) (λ(t−u))j−k

(j−k)!

e−λ(t−s) (λ(t−s))j−i

(j−i)!

.

soit P ([Nu = k]/[Ns = i] ∩ [Nt = j]) = Ck−ij−i

(u − s)k−i(t − u)j−k

(t − s)j−i.

Pour u = 1/2, k = 1, λ = 1h−1, s = 1/4, t = 1, i = 0 et j = 2, on a u − s =14, t − u =

12, t − s =

34,

k − i = 1, j − k = 1, j − i = 2 et pa = 2 ×14

12(

34

)2 , soit p1 =49≈ 0, 44 .

b) Cas u ≤ s ≤ t. Pour k ≤ i ≤ j, on a :

P ([Nu = k] ∩ [Ns = i] ∩ [Nt = j]) = P ([Nu = k] ∩ [Ns − Nu = i − k] ∩ [Nt − Ns = j − i])= P ([Nu = k])P ([Ns − Nu = i − k])P ([Nt − Ns = j − i])= P ([Nu = k])P ([Ns−u = i − k])P ([Nt−s = j − i])

On a donc

P ([Nu = k]/[Ns = i] ∩ [Nt = j]) =P ([Nu = k])P ([Ns−u = i − k])

P ([Ns = i])

=e−λu (λu)k

k! e−λ(s−u) (λ(s−u))i−k

(i−k)!

e−λs (λs)i

i!

.

On a donc P ([Nu = k]/[Ns = i] ∩ [Nt = j]) = Cki

uk(s − u)i−k

si.

soit P ([Nu = k]/[Ns = i] ∩ [Nt = j]) = Cki

uk(s − u)i−k

si.

Pour u = 1/2, k = 1, λ = 1h−1, s = 1, t = 2, i = 2 et j = 3, on a s−u =34, i−k = 1 et pb = 2×

12

12,

soit pb =12

= 0, 5 .

Page 12: Exercices corrig´es Chaˆınes de Markov discr`etesw3.mi.parisdescartes.fr/~rlachiez/enseignement/markov/feuille1.pdf · Processus al´eatoires 1 Exercices corrig´es Chaˆınes

12 Exercices

c) Cas s ≤ t ≤ u. Pour i ≤ j ≤ k, on a :

P ([Nu = k] ∩ [Ns = i] ∩ [Nt = j]) = P ([Ns = i] ∩ [Nt − Ns = j − i] ∩ [Nu − Nt = k − j])= P ([Ns = i])P ([Nt − Ns = j − i])P ([Nu − Nt = k − j])= P ([Ns = i])P ([Nt−s = j − i])P ([Nu−t = k − j])

On a donc P ([Nu = k]/[Ns = i] ∩ [Nt = j]) = P ([Nu−t = k − j]) = e−λ(u−t) (λ(u − t))k−j

(k − j)!.

Pour u = 1/2, k = 1, λ = 1h−1, s = 1/6, t = 1/4, i = 0 et j = 1, on a u − t = 1/4, k − j = 0 et

pc = e−1/4 ≈ 0, 56 .

10. Les arrivees d’autobus a une station forment un processus de Poisson d’intensite λ.Chaque autobus s’arrete un temps fixe τ a la station. Un passager qui arrive a un instantt0 monte dans le bus si celui-ci est la, attend pendant un temps τ ′, puis, si l’autobus n’estpas arrive pendant le temps τ ′, quitte la station et s’en va a pied.

Determiner la probabilite que le passager prenne l’autobus.

Le passager repart a pied si lorsqu’il arrive a l’instant t0, il n’y a plus de bus, donc le dernier est arriveavant t0−τ (sinon, il serait encore la), et si a l’instant t0+τ ′, le suivant n’est toujours pas arrive. Il ne doity avoir aucune arrivee de bus entre t0−τ et t0+τ ′, soit, pendant une duree t0+τ ′−(t0−τ) = τ +τ ′. Ainsi,la probabilite que le passager reparte a pied est P ([Nt0+τ ′ − Nt0−τ = 0]) = P ([Nτ+τ ′ = 0]) = e−λ(τ+τ ′)

et la probabilite que le passager prenne l’autobus est 1 − e−λ(τ+τ ′) .

11. Sur une route a sens unique, l’ecoulement des voitures peut etre decrit par un

processus de Poisson d’intensite λ =1

6s−1. Un pieton qui veut traverser la route a besoin

d’un intervalle d’au moins 4s entre 2 voitures successives. Calculer :

a) la probabilite pour qu’il doive attendre ;

b) la duree moyenne des intervalles qui lui permettent de traverser la route ;

c) le nombre moyen de voitures qu’il voit passer avant de pouvoir traverser la route.

a) Le pieton ayant besoin d’au moins 4s pour traverser, il devra attendre si U ≤ 4.

Or P ([U ≤ 4]) =∫ 4

0

λe−λu du =[−e−λu

]40

= 1 − e−4λ car on a vu a l’exercice 3 que U suit la loi

exponentielle E(λ). Comme λ = 1/6, P ([U ≤ 4]) = 1 − e−4/6.

La probabilite pour qu’il doive attendre est donc 1 − e−2/3 ≈ 0, 487 .

b) On cherche E[U>4](U) c’est-a-dire∫

uf[U>4]U (u) du. On a

F[U>4]U (u) = P [U>4]([U ≤ u]) =

P ([U ≤ u] ∩ [U > 4])P ([U > 4])

=

0 si u ≤ 4P ([4 < U ≤ u])

P ([U > 4])=

FU (u) − FU (4)P ([U > 4])

si u > 4

Page 13: Exercices corrig´es Chaˆınes de Markov discr`etesw3.mi.parisdescartes.fr/~rlachiez/enseignement/markov/feuille1.pdf · Processus al´eatoires 1 Exercices corrig´es Chaˆınes

Processus aleatoires 13

et donc f[U>4]U (u) =

fU (u)P ([U > 4])

I]4,+∞[(u) = λ e−λ(u−4) I]4,+∞[(u) puis

E[U>4](U) =∫ +∞

4

λu e−λ(u−4) du =v=u−4

∫ +∞

0

λ(v + 4) e−λv dv

=∫ +∞

0

vλ e−λv dv + 4∫ +∞

0

λ e−λv dv =1λ

+ 4

car∫ +∞

0

vλ e−λv dv est l’esperance d’une v.a.r. de loi exponentielle E(λ) et∫ +∞

0

λ e−λv dv l’integrale de

sa densite.Ainsi, il faut en moyenne 6 + 4 = 10s pour que le pieton puisse traverser .

c) Soit N le nombre moyen de voitures que voit passer le pieton avant de pouvoir traverser la route.On a

• [N = 0] = [U > 4], ou U est le temps entre l’arrivee du pieton et la prochaine voiture ;• [N = 1] = [U ≤ 4] ∩ [U1 > 4] ou U1 est le temps entre la premiere et la deuxieme voiture qui se

presentent apres l’arrivee du pieton.• Plus generalement, [N = k] = [U ≤ 4] ∩ [U1 ≤ 4] · · · ∩ [Uk−1 ≤ 4] ∩ [Uk > 4] ou Uk est le temps

entre la k-ieme et la (k + 1)-ieme voiture qui se presentent apres l’arrivee du pieton.Les v.a.r. U , U1, · · · , Uk etant toutes independantes et de meme loi exponentielle E(λ) on a P ([N = 0]) =P ([U > 4]) = e−4λ et

P ([N = k]) = P ([U ≤ 4])P ([U1 ≤ 4]) · · ·P ([Uk−1 ≤ 4])P ([Uk > 4])= e−4λ(1 − e−4λ)k = e−2/3(1 − e−2/3)k

(valable aussi pour k = 0). On reconnait la loi geometrique G(e−2/3) sur N.

GN (s) =+∞∑

k=0

sk P ([N = k]) = e−2/3+∞∑

k=0

(s(1 − e−2/3))k

soit GN (s) =e−2/3

1 − s(1 − e−2/3)et G′

N (s) =e−2/3(1 − e−2/3)

(1 − s(1 − e−2/3))2.

On a alors E(N) = G′N (1) =

1 − e−2/3

e−2/3= e2/3 − 1 ≈ 0, 948.

Le pieton voit donc passer en moyenne 1 voiture avant de traverser .

12. On considere un appareil de comptage, qui denombre les voitures sur une route, deflux poissonien d’intensite λ. L’appareil peut tomber en panne a l’instant T , ou T est unevariable aleatoire de loi Gamma γ(1, a).

Soit X le nombre de vehicules enregistres par l’appareil jusqu’a ce qu’il tombe enpanne. Determiner la loi et l’esperance de X.

P ([X = n]) =∫

P ([X = n]/[T = t])fT (t)dt

avec P ([X = n]/[T = t]) = P ([Xt = n]) (i.e. P[T=t]X = PXt) car, a l’instant t ou l’appareil tombe en

panne, il a enregistre n passages. On sait que P ([Xt = n]) = e−λt (λt)n

n!et fT (t) =

1Γ(a)

e−tta−1I]0,+∞[(t).

Donc :

P ([X = n]) =∫ +∞

0

e−λt (λt)n

n!1

Γ(a)e−tta−1dt =

λn

n!Γ(a)

∫ +∞

0

e−(λ+1)tta+n−1dt

=λn

n!Γ(a)

∫ +∞

0

e−v va+n−1

(λ + 1)a+ndt =

λn

(λ + 1)n+a

Γ(a + n)Γ(a)n!

Page 14: Exercices corrig´es Chaˆınes de Markov discr`etesw3.mi.parisdescartes.fr/~rlachiez/enseignement/markov/feuille1.pdf · Processus al´eatoires 1 Exercices corrig´es Chaˆınes

14 Exercices

La loi de X etant peu sympathique, pour calculer E(X), il est preferable de passer par E(T=t)(X) =E(Xt) = λt. On a alors ET (X) = λT et E(X) = E

(ET (X)

)= λE(T ) = λa.

Processus de naissance et de mort

13. La duree de bon fonctionnement d’une machine est une variable aleatoire de loiexponentielle de parametre λ. En cas de panne, le temps de reparation obeit a une loiexponentielle de parametre µ.

Quelle est la probabilite que la machine fonctionne a l’instant t si elle fonctionnait al’instant 0 ?

On a un processus de Markov a 2 etats : etat 0 : la machine fonctionne ; etat 1 la machine est enpanne.

Si T est la duree de bon fonctionnement, on a

p0,1(h) = P ([T < t + h]/[T > t]) =P ([t < T < t + h])

P ([T > t])

avec P ([T > t]) =∫ +∞

t

λe−λxdx = e−λt et P ([t < T < t + h]) =∫ t+h

t

λe−λxdx = e−λt − e−λ(t+h) donc

p0,1(h) = 1 − e−λh = 1− (1 − λh + o(h)) = λh + o(h)

donc λ0 = λ.De meme, avec la duree de reparation, p1,0(h) = µh + o(h) donc µ1 = µ.

On a un processus de naissance et de mort extremement simple, puisqu’il n’y a que 2 etats (et unseul “boudin”!). Ainsi, il suffit de resoudre :

p′0(t) = −λp0(t) + µp1(t)p0(t) + p1(t) = 1p0(0) = 0

qui equivaut a

p′0(t) = −λp0(t) + µ(1 − p0(t))p0(t) + p1(t) = 1p0(0) = 0

c’est-a-dire a

p′0(t) = −(λ + µ)p0(t) + µp0(t) + p1(t) = 1p0(0) = 0

.

On est conduit a une equation differentielle lineaire du premier ordre, dont une solution particuliereest

µ

λ + µest dont l’equation sans second membre a pour solution Ce−(λ+µ)t.

Ainsi p0(t) =µ

λ + µ+ Ce−(λ+µ)t avec p0(0) = 1 =

µ

λ + µ+ C, donc C = 1 − µ

λ + µ=

λ

λ + µet

finalement,

la probabilite que la machine fonctionne a l’instant t est p0(t) =µ

λ + µ+

λ

λ + µe−(λ+µ)t .

Page 15: Exercices corrig´es Chaˆınes de Markov discr`etesw3.mi.parisdescartes.fr/~rlachiez/enseignement/markov/feuille1.pdf · Processus al´eatoires 1 Exercices corrig´es Chaˆınes

Processus aleatoires 15

14. Un joueur decide de faire des paris jusqu’a qu’il soit ruine ou bien qu’il ait atteintN euro. S’il dispose de j euro quand il effectue un pari, alors, a ce pari, il gagne 1 euroavec la probabilite pj ou bien il perd 1 euro avec la probabilite qj = 1− pj. On note ak la

probabilite de finir ruine avec une fortune initiale de k euro et a(n)k la probabilite de finir

ruine en n paris.

a) Modeliser le probleme par une chaıne de Markov et faire le graphe correspondant.

b) Determiner aN et a0.

c) Montrer que :

• a(1)1 = q1 et a

(n)1 = p1a

(n−1)2 si n ≥ 2 ;

• pour j ≥ 2, a(1)j = 0 et a

(n)j = pja

(n−1)j+1 + qja

(n−1)j−1 si n ≥ 2.

d) En deduire que :

• a1 = q1 + p1a2 et aj = pjaj+1 + qjaj−1 si j ≥ 2, puis

• pj(aj − aj+1) = qj(aj−1 − aj) pour 1 ≤ j ≤ N − 1 ;

• aj − aj+1 = dj(a0 − a1) pour 1 ≤ j ≤ N − 1, si on pose dj =q1 · · · qj

p1 · · · pj.

e) Verifier que ak =

N−1∑

j=k

(aj − aj+1) pour 1 ≤ k ≤ N − 1 et que 1 =

N−1∑

j=0

(aj − aj+1),

et en deduire que ak =

N−1∑j=k

dj

1 +N−1∑j=1

dj

.

f) En deduire, en faisant N → +∞, la probabilite de ruine du joueur.

a) Le processus est bien invariant dans le temps et la connaissance du processus a un instantsuffit pour determiner la probabilite d’occupation d’un etat a l’instant suivant. On a bien une chaıne deMarkov, de matrice de transition P = (pi,j) ou pi,i+1 = pi, pi,i−1 = qi et pi,j = 0 si |i − j| 6= 1 .

b) aN = 0 et a0 = 1 .

c) • a(1)1 = q1 (passage de 1 a 0 en 1 etape) et a

(n)1 = p1a

(n−1)2 si n ≥ 2 car alors, on est oblige

de commencer par un passage de 1 a 2 pour ne pas etre absorbe directement ; il faudra ensuite n − 1etapes pour passer de 2 a 0.

• pour j ≥ 2, a(1)j = 0 car on ne peut pas passer directement de j a 0.

Pour determiner a(n)j , on decompose en 2 cas suivant le premier deplacement : soit on commence par

passer de j a j+1 (avec la probabilite pj), soit on commence par passer de j a j−1 (avec la probabilite qj)

; il restera alors n−1 deplacements a effectuer pour se rendre en 0 et a(n)j = pja

(n−1)j+1 + qja

(n−1)j−1 si n ≥ 2 .

d) • Il faut maintenant utiliser aj =+∞∑

n=1

a(n)j :

Page 16: Exercices corrig´es Chaˆınes de Markov discr`etesw3.mi.parisdescartes.fr/~rlachiez/enseignement/markov/feuille1.pdf · Processus al´eatoires 1 Exercices corrig´es Chaˆınes

16 Exercices

a1 = a(1)1 +

n≥2

a(n)1 = q1 + p1

n≥2

a(n−1)2 , soit a1 = q1 + p1a2 .

De meme, si j ≥ 2, aj = a(1)j +

n≥2

a(n)j = pj

n≥2

a(n−1)j+1 +qj

n≥2

a(n−1)j−1 , d’ou aj = pjaj+1 + qjaj−1 si j ≥ 2 .

• On a alors, comme aj = (pj + qj)aj , pj(aj − aj+1) = qj(aj−1 − aj) pour 1 ≤ j ≤ N − 1 (caraj = pjaj+1 + qjaj−1 est encore vrai pour j = 1 puisque a0 = 1).

• aj − aj+1 =qj

pj(aj−1 − aj) donne a1 − a2 =

q1

p1(a1 − a0), puis a2 − a3 =

q2

p2

q1

p1(a1 − a0) et de proche

en proche, aj − aj+1 = dj(a0 − a1) pour 1 ≤ j ≤ N − 1, si on pose dj =q1 · · · qj

p1 · · · pj.

e)N−1∑

j=k

(aj − aj+1) est une “somme telescopique” : tout se simplifie sauf le premier et le dernier

terme qui vaut aN = 0 et doncN−1∑

j=k

(aj − aj+1) = ak pour 1 ≤ k ≤ N − 1 .

Le principe reste le meme si l’on part de j = 0. On a alorsN−1∑

j=0

(aj − aj+1) = a0 − aN = 1 .

Ainsi ak =

N−1∑j=k

(aj − aj+1)

N−1∑j=0

(aj − aj+1)et, comme (aj −aj+1) = dj(a0 −a1) pour j ≥ 1, on a bien, en simplifiant

numerateur et denominateur par (a0 − a1), on a bien ak =

N−1∑j=k

dj

1 +N−1∑j=1

dj

.

f) Si le joueur n’arrete que lorsqu’il est ruine, cela revient a considerer que N → +∞ et on a alors

ak =

+∞∑j=k

dj

1 ++∞∑j=1

dj

si+∞∑

j=1

dj converge.

15. On considere une station de taxis comportant K places pour les taxis et une capacited’accueil illimitee pour les clients qui se presentent, de facon Poissonnienne, au rythmede λ par heure. Les taxis arrivent egalement de facon Poissonnienne, au rythme de µ par

heure, mais ne s’arretent qu’avec la probabilite1

m + 1s’il y a deja m taxis (0 ≤ m < K).

a) Verifier qu’on est en presence d’un processus de naissance et de mort et endonner le graphe (etats (n, m)n≥0,m∈{0,···K}).

b) A.N. : K = 3, λ = 10, µ = 15. Donner la proportion de temps pendant laquelleil n’y a pas de taxi et le temps moyen d’attente d’un client.

a) On ne peut jamais avoir en meme temps des taxis et des clients, donc les etats sont

(0, K) · · · (0, 1), (0, 0), (1, 0), · · · , (n, 0), · · · ,

Page 17: Exercices corrig´es Chaˆınes de Markov discr`etesw3.mi.parisdescartes.fr/~rlachiez/enseignement/markov/feuille1.pdf · Processus al´eatoires 1 Exercices corrig´es Chaˆınes

Processus aleatoires 17

les differentes transitions possibles correspondant a une arrivee d’un client ou d’un taxi, on a le grapheet les equations de balance suivants :

λp0,K =µ

Kp0,K−1

...λp0,1 =

µ

1p0,0

λp0,0 = µp1,0

...λpn−1,0 = µpn,0

...

et donc, en posant ρ =λ

µ, p0,K−1 = Kρp0,K ,..., p0,0 = ρp0,1 = · · · = K!ρKp0,K , puis p1,0 = ρp0,0,

p2,0 = ρ2p0,0,..., pn,0 = ρnp0,0,... et p0,1 =1ρp0,0,..., p0,K =

1K!ρK

p0,0 et on obtient p0,0 en ecrivant que

la somme des probabilites de chaque etat vaut 1, ce qui donne p0,0

[+∞∑

n=0

ρn +K∑

m=1

1m!ρm

]= 1, qui n’est

possible que si ρ < 1. On a alors :

p0,0 =

[1

1 − ρ+

K∑

m=1

1m!ρm

]−1

, pn,0 = ρnp0,0 et p0,m =1

m! ρmp0,0 .

b) A.N. : K = 3, λ = 10, µ = 15. Alors ρ =23

et p0,0 =[

11 − 2

3

+123

+1

2 × 49

+1

6 × 827

]−1

, soit

p0,0 =[3 +

32

+98

+916

]−1

=[48 + 24 + 18 + 9

16

]−1

, i.e. p0,0 =1699

et on a alors p0,1 =833

, p0,2 =211

et p0,3 =111

. La probabilite qu’il y ait au moins un taxi est p0,1 + p0,2 + p0,3 =1733

donc

il n’y a pas de taxi pendant la fraction de temps1633

soit environ 48, 5% du temps .

Une personne qui arrive attend en moyenne1µ

si elle est seule etn + 1

µsi il y a deja n personne (l’attente

de chaque taxi est en moyenne1µ

).

On a donc Wa =+∞∑

n=0

n + 1µ

pn =p0,0

µ

+∞∑

n=0

(n + 1)ρn =p0,0

µ(1 − ρ)2, soit Wa =

1699

×915

=32330

h ≈ 5, 82mn :

le temps moyen d’attente d’un client est donc environ 5mn49s .

16. On considere N etudiants qui, chacun, lorsqu’ils sont a Toulouse, y restent un tempsexponentiel de parametre µ avant d’en sortir et inversement, restent un temps exponen-tiel de parametre λ a l’exterieur avant de rentrer. Soit Xt le nombre de ces etudiantsqui sont sur Toulouse a l’instant t. Verifier que (Xt) est un processus de naissance et demort ; representer son graphe ; etablir que la distribution stationnaire est la loi binomiale

B(

N,λ

λ + µ

)et trouver le nombre moyen d’etudiants sur Toulouse lorsque N = 23,

1

µ= 5jours et

1

λ= 2jours.

Page 18: Exercices corrig´es Chaˆınes de Markov discr`etesw3.mi.parisdescartes.fr/~rlachiez/enseignement/markov/feuille1.pdf · Processus al´eatoires 1 Exercices corrig´es Chaˆınes

18 Exercices

Chaque etudiant passe de Toulouse a l’exterieur avec un taux µ (car Ti a pour loi E(µ) et la preuveest la meme qu’a l’exercice 1), et passe de l’exterieur a Toulouse avec un taux λ (car Te a pour loi E(λ)).

• A partir de 0, la seule transition possible (non negligeable, du moins!) est de 0 vers 1, qui corresponda une entree, pouvant venir de l’un des N etudiants : taux Nλ.

• A partir de N , la seule transition possible est de N vers N − 1, qui correspond a un depart de l’undes N etudiants : taux Nµ.

• A partir de k ∈ {1, · · · , N − 1}, on peut passer a k − 1 si l’un des k etudiants quitte Toulouse(taux kµ et on peut passer a k + 1 si l’un des N − k etudiants revient a Toulouse (taux (N − k)µ.

On a bien un processus de naissance et de mort dont le graphe des taux est le suivant :

Pour determiner le regime stationnaire, on ecrit les equations de “balance”, “boudin par boudin”.On a donc :

Nλp0 = µp1

(N − 1)λp1 = 2µp2

...(N − k + 1)λpk−1 = kµpk

...λpN−1 = NµpN

ce qui donne, en exprimant toutes les probabilites en fonction de p0 :

p1 =Nλ

µp0

p2 =(N − 1)λ

2µp1 =

N(N − 1)2

µ

)2

p0

...

pk =(N − k + 1)λ

kµpk−1 =

N(N − 1) · · · (N − k + 1)k!

µ

)k

p0

...

pN =λ

NµpN−1 =

N(N − 1) · · · 1N !

µ

)N

p0

,

soit pk = CkN

µ

)k

p0 etN∑

k=0

pk = 1 donne p0

[N∑

k=0

µ

)k]

= 1. OrN∑

k=0

µ

)k

=(

λ

µ+ 1)N

=(λ + µ)N

µN

et donc pk = CkN

λkµN−k

(λ + µ)N. La distribution stationnaire est donc la loi binomiale B

(N,

λ

λ + µ

).

En particulier, E(X) = Nλ

λ + µ= N

11 + µ

λ

.

A. N. N = 23, E(Ti) = 5 =1µ

et E(Te) = 2 =1λ

, doncµ

λ=

25

et E(X) =23

1 + 25

= 23 × 52.

Le nombre moyen d’etudiants sur Toulouse est donc ≈ 16 .