Probabilits

1. Espace de probabilits
1.1 Espace des ralisations et vnements
1.2 La probabilit d'un vnement
1.3 Composition vnements
1.4 Probabilit conditionnelle
1.5 Indpendance statistique
1. 6 Loi de Bayes
1.8 La loi des grands nombres
2. Variables alatoires discrtes et continues
2.1 Fonction de rpartition
2.2 Densit de probabilit
2.3 Loi binomiale, de Poisson, de Gauss
2.4 Esprance d'une variable alatoire
2.5 Moments d'ordre 2
2.6 Loi des grands nombres
2.7 Distribution conjointe
2.7.1 Densit conjointe
2.7.2 Densit marginale
2.8 Variables alatoires indpendantes
2.9 Moments croiss
2.10 Vecteurs alatoires
3. Espace Hilbertien de Variables Alatoires
4.Exercices
A.BENHARI Page 1
1. Espace de probabilits
La thorie des probabilits permet de modliser quantitativement l'incertitude. Intuitivement,
la probabilit d'un vnement est une mesure normalise (entre 0 et 1) de la vraisemblance de
que cet vnement se produise : une petite valeur de la probabilit indique qu'il est
extrmement invraisemblable que l'vnement se vrifie, et les valeurs de probabilit prs de
1 indiquent un vnement presque certain. L'utilisation de la thorie des probabilits pour la
dduction de certaines caractristiques d'un phnomne ne peut tre apprcie entirement
sans un approfondissement de son tude. Cependant, l'exemple suivant permet dj
d'apprcier le rle important de la notion de probabilit.
Un chercheur, aprs avoir tudi plusieurs rapports publis dans la dernire dcennie, trouva
qu'environ 30% de la population dans le groupe 20-30 ans a un problme d'excs de poids. Le
chercheur se demande si ce pourcentage a chang ou s'il reste approximativement constant. Pour
essayer de rpondre cette question, il organisa une enqute dans laquelle il observa 100 personnes,
ayant constat qu'au moins 45 de ces 100 personnes avaient un poids excessif. Face ce rsultat, est-
ce possible d'admettre que le pourcentage de 30% se maintient?
Evidemment, l'observation de plus de 45% de personnes avec excs de poids parmi un groupe de 100
personnes peut toujours se produire, indpendamment du pourcentage de personnes obses, et donc
elle ne peut pas formellement invalider ou valider l'hypothse initiale, cest--dire, dmontrer ou
contredire l'hypothse d'un pourcentage de 30% d'obses dans la population tudie. Cependant, cette
observation permet d'associer un degr de possibilit la validit de l'hypothse : acceptons
hypothtiquement que le pourcentage de 30% est correct. Alors, la thorie de probabilits nous
permet de calculer quelle est la probabilit, pour une population avec 30% d'obses, d'en observer au
moins 45 dans un ensemble de 100 personnes. Si la valeur de cette probabilit est trs petite (par
exemple 0.005) alors, le chercheur aura observ un ensemble extrmement non reprsentatif de la
population. Si le choix des personnes a t fait au hasard, alors l'observation contredit fortement
l'hypothse de 30% d'obses et permet de la mettre en doute .
L'exemple prcdant est un exemple de problmes de dcision, o on doit choisir une parmi
plusieurs hypothses (dans ce cas deux hypothses sont possibles: que le pourcentage de 30%
est correct, contre l'hypothse de qu'il ne reprsente plus l'ensemble de la population), face
aux rsultats d'une exprience alatoire (l'observation du nombre de personnes obses parmi
un groupe de 100 personnes prises au hasard). Il nous montre le besoin de savoir associer
des vnements (dans le cas, l'observation d'au moins 45 personnes obses) la valeur de sa
probabilit. Souvent, c'est le problme inverse qui est d'intrt: tant donn un ensemble de
donnes sur une population, on souhaite dterminer ses caractristiques gnrales. In sagit
dans ce dernier cas de problmes destimation de paramtres.
1.1 Espace des ralisations et vnements
La notion de probabilit est approprie pour des situations o il existe une incertitude sur le
rsultat d'une exprience avant qu'elle ne soit ralise. Par exemple, on peut considrer la
probabilit pour qu'il pleuve demain. L'incertitude associe cet vnement disparatra la
fin de la journe du lendemain. C'est encore un outil indiqu pour dcrire des expriences qui,
rptes (apparemment) sous les mmes conditions, produisent des rsultats variables (par
exemple la qualit de liaisons tlphoniques qui utilisent le mme quipement de
communication, mais effectues des instants diffrents, ne sera pas la mme). On peut ainsi
dire qu'une exprience alatoire est le moyen de dcrire des donnes produites par un
phnomne qui prsente de la variabilit dans les rsultats engendrs.
A.BENHARI Page 2
On introduit d'abord les notions d'espace des ralisations et dvnement.
L'espace des ralisations est l'ensemble de tous les rsultats possibles d'une exprience
alatoire, et sera reprsent par S. Chaque rsultat distinct possible est appel vnement
simple, ou lmentaire, ou on dira encore qu'il est un lment de l'espace des ralisations.
On donne quelques exemples d'expriences alatoires ainsi que de l'espace des ralisations qui leur est associ:
(a) Le sexe des deux premiers bbs qui seront ns demain Nice.
S={FF,FG,GF,GG}
o F et G reprsentent fille et garon, respectivement.
(b) On donne boire 10 personnes du caf soluble et de lexpress, et on note le nombre de
personnes qui prfrent le caf soluble.
S={0,1,2,...,10}.
(c) On administre des malades qui souffrent d'une maladie virale un antibiotique, jusqu' ce qu'un
d'entre eux manifeste une raction nfaste.
S={R, NR, NNR, NNNR, .....}
o R et N reprsentent normale (sans raction) et raction, respectivement.
(d) On donne un enfant une certaine dose de vitamines, et on enregistre la variation de son poids et
sa taille au bout de 12 semaines.
S={(x,y):x est non-ngatif et y est positif, nul ou ngatif}
o x est la taille de l'enfant et y la variation de son poids
Les lments de l'espace des ralisations reprsentent la partition la plus fine que l'on puisse
considrer de l'espace des ralisations. Chaque fois que l'on effectue une exprience, un et un
seul vnement lmentaire peut se produire.
Les vnements lmentaires peuvent, cependant, tre combins pour constituer des
vnements composs, qui correspondent, de cette faon, un ensemble vnements
lmentaires qui possdent une certaine proprit commune. Par exemple, si on considre
l'exemple (a) antrieurement dcrit, vnement "naissance d'une seule fille" est un vnement
compos A qui regroupe deux vnements lmentaires: A={FG,GF}.
La complexit de l'espace des ralisations dpend de la nature de l'exprience considre.
Dans les exemples (a) et (b) antrieurement prsents, l'espace des ralisations est fini.
L'exprience (c) nous donne, par contre, l'exemple d'une situation o l'espace des ralisations
est dnombrable infini. Dans ces deux cas, on dit que l'espace des ralisations est discret.
Finalement, le dernier exemple (d) nous montre une situation o l'espace des ralisations est
continu.
1.2 La probabilit d'un vnement
La faon la plus intuitive d'introduire la probabilit d'un vnement est donne par l'approche
frquentielle. Elle consiste dterminer la probabilit d'un vnement comme la frquence
limite de son occurrence dans la ralisation rpte d'un grand nombre d'expriences. On
reprsente la probabilit associe lvnement A par P(A).
P A
N
N
A
( ) ,
o N est le nombre d'lments de S et
N
A
est le nombre vnements lmentaires qui
vrifient lvnement A. Cette dfinition est base implicitement sur une hypothse dqui-
probabilit des vnements lmentaires.
Finalement, ces deux approches intuitives de la dfinition de probabilit ont t remplaces
par une dfinition axiomatique d'espace de probabilits, qu'on prsente par la suite.
A.BENHARI Page 3
Dfinition. Espace de probabilits (S,F,P)
(Kolmogoroff, 1933)
Un espace de probabilits formel consiste dans la dfinition de trois entits: (S, F, P) o
(i) S est l'espace des ralisations;
(ii) F est une famille vnements en S: { F = A| A S
, telle que:
(a) A, B F A B F
(b) A F A F .
(iii) P est une mesure de probabilit dfinie sur les lments de F, qui satisfait les axiomes
suivants:
(a)
P( S ) = 1
(b)
P( A) 0
(c) A B = P( A B ) = P( A) + P( B )
1.3 Composition vnements
Le dernier axiome des probabilits indique comment on peut calculer la probabilit de l'union
(opration logique ou) de deux vnements mutuellement exclusifs (dont l'intersection est
vide). Cependant, on est souvent intress par le calcul de la probabilit de l'union ou de
l'intersection (opration logique et) vnements qui ne sont pas ncessairement des sous-
ensembles disjoints de l'espace des ralisations.
Quand on applique un stimulus un animal, il existe seulement deux rponses possibles: soit l'animal
rpond la stimulation (R), soit il ne rpond pas (N). Considrons maintenant une exprience qui
consiste stimuler trois animaux et observer leur rponse. Pour cette exprience, l'espace des
ralisations est S = {NNN,NNR,NRN,RNN, NRR, RNR, RRN, RRR}. Trois vnements composs
o l'on peut tre intresss sont
A: un seul animal rpond
B: le premier animal rpond
C: le deuxime et troisime animaux ne rpondent pas.
On constate facilement que ces vnements sont donns par
A={RNN, NRN, NNR}
B={RNN, RRN, RNR, RRR}
C={RNN, NNN}
Dans cet exemple, les vnements A, B et C ne sont pas disjoints.
Les lois de composition associes l'opration logique ou (occurrence de l'un ou de l'autre
vnement, qui correspond considrer l'union des ensembles qui dfinissent chaque
vnement) et la ngation (absence d'une certaine proprit, qui correspond considrer
l'ensemble complmentaire) sont facilement dduites du fait que la probabilit de l'union de
deux vnements disjoints est la somme des probabilits des vnements originels.
P A P A
P A B P A P B P A B
( ) ( )
( ) ( ) ( ) ( )

+
1
o
A
reprsente le complment de A.
1.4 Probabilit conditionnelle
La probabilit d'un vnement (le degr de vraisemblance de l'occurrence de cet vnement)
est souvent modifie quand on apprend qu'un autre vnement s'est produit (par exemple, la
probabilit d'entendre un tonnerre pendant un orage change soudainement si on voit un
clair...). La nouvelle valeur de la probabilit d'un vnement, A quand on sait que
l'vnement B s'est produit, est la probabilit conditionnelle d'A tant donn B, et est
reprsente par
P A B ( | )
.
En fait, lopration de conditionnement est quivalente une redfinition de lespace des
ralisations, qui est contraint au sous-ensemble de lespace des ralisations initial o
A.BENHARI Page 4
lvnement conditionnant est vrifi. Dans cette optique, il est clair que pour les vnements
de ce nouveau espace des ralisations, la probabilit conditionnelle est une mesure de
probabilit part entire, et satisfait donc toutes les proprits nonces dans la section 1.2.
Un groupe de cadres est class selon son poids et l'incidence d'hypertension. Les proportions dans les
diffrentes catgories sont donnes par le tableau suivant:
obses normal maigre total
hypertension .10 .08 .02 .20
pas d'hypertension. .15 .45 .20 .80
Total .25 .53 .22 1.00
Si l'on sait qu'une personne est obse, alors les catgories correspondantes la deuxime et troisime
colonnes n'ont pas d'intrt. On peut conclure de ce tableau, par exemple, qu'tant donn qu'une
certaine personne est obse, la probabilit pour qu'elle souffre d'hypertension passe de la valeur (non-
conditione) de 0.2 0.1/0.25=0.4, cest--dire deux fois suprieures.
L'exemple prcdent illustre l'application de la formule qui dfini les probabilits
conditionnelles:
Dfinition Probabilit conditionnelle
La probabilit conditionnelle de l'vnement A tant donn vnement B est, par dfinition:
P A B P A B P B ( | ) ( ) / ( ) .
On vrifie facilement que cette expression est en accord avec l'interprtation frquentielle des
probabilits.
Proprits
1. Si
A B P A B A B B ( | ) ( ) 1 car
2. Si
A B P A B P A A B A ( | ) ( ) ( ) car
3. Les probabilits conditionnelles satisfont les axiomes de mesure de probabilit.
La dernire proprit a comme consquence que chaque vnement A de la famille F dfini
un nouvel espace de probabilit (S,F,P(.|A)).
1.5 Indpendance statistique
Deux vnements sont indpendants si leurs probabilits ne changent pas quand on
conditionne l'un l'autre. Dans ces conditions, l'information que B s'est produit ne change pas
la vraisemblance de l'occurrence de A:
P A B P A
P B A P B
( | ) ( )
( | ) ( )

Dfinition
Deux vnements A et B sont statistiquement indpendants si
) ( ) ( ) ( ) , ( B P A P B A P B A P .
Proprit
Si (A,B) sont statistiquement indpendants, alors ( , ) A B et ( , ) A B le sont aussi.
Exercice: On lance une pice deux fois. La pice est symtrique, et donc les 4 vnements
lmentaires possibles sont quiprobables. On dfinit les trois vnements suivants:
Face dans le premier lancement
Pile dans le deuxime lancement
Mme rsultat (pile ou face) dans les deux lancements.
Quels sont les pairs vnements indpendants?
Rponse: Les 3 pairs vnements possibles sont indpendants.
A.BENHARI Page 5
On remarque que la notion d'indpendance statistique ne concide pas avec celle
dvnements mutuellement exclusifs. En effet, si A et B sont mutuellement exclusifs, alors
leur intersection est vide et donc
P A B ( , ) 0
, ce qui entrane
P A B ( | ) 0
, ainsi, si B se
produit, l'occurrence de A est impossible.
Exercice: Un espace de ralisations est constitu de quatre vnements lmentaires S=
{ e e e e
1 2 3 4
, , , quiprobables. Soient les vnements { A e e
1 2
, , { B e e
2 3
, et
{ C e e
1 3
, . Montrer que P A B P A C P B C ( , ) ( , ) ( , ) / 1 4 et, donc, que pris deux
deux, les vnements sont tous statistiquement indpendants. Vrifier aussi que
0 1 8 P A B C P A P B P C ( , , ) ( ) ( ) ( ) / , et que, donc, si on considre les trois
simultanment, ils ne sont pas indpendants.
1. 6 Loi de Bayes
La loi de Bayes lie les probabilits conditionnelles de deux vnements. Soient A, B S,
P( A) 0, P( B ) 0
. Alors,
P( A| B ) =
P( B| A)P( A)
P( B )
La loi de Bayes est un des rsultats statistiques les plus frquemment utiliss en traitement
statistique du signal.
1.7 Loi de la probabilit totale
Soit { A
i
i
N
1
une partition de S, cest--dire, telle que
(i)
A A i j
i j
,
(ii)
S = A
i
i =1,...N
U
.
Alors, pour vnement en S,
P(B) P(B, A P(B| A )P(A
i i 1
i
N
i



) )
1 1
N
.
1.8 La loi des grands nombres
La loi des grands nombres tablit le lien entre les approches frquentielle et axiomatique de la
thorie des probabilits.
Thorme (Loi des grands nombres)
Soit A un vnement en S et p sa probabilit : p=P(A). Soit n le nombre de fois que l'on
rpte la mme exprience, et k le nombre d'occurrences de A. Alors,
0 P , 0

'

'

>
n
p
n
k

.
Pour la dmonstration de ce thorme, voir Papoulis, Probability, Random Variables and
Stochastic Processes, page 52.
2. Variables alatoires discrtes et continues
Une variable alatoire est un codage de l'espace des ralisations, qui fait correspondre
chaque vnement lmentaire une valeur numrique (relle). On associe ainsi chaque
rsultat possible s S d'une certaine exprience alatoire un nombre rel
x X s ( )
. De cette
A.BENHARI Page 6
faon, on peut oublier la nature particulire de l'espace des ralisations et dire, au lieu que
lvnement s s'est produit, que la valeur x de la variable alatoire s'est produite.
Les variables alatoires hritent les caractristiques de l'espace des ralisations original, et
seront discrtes ou continues selon que S est discret ou continu.
Les variables alatoires discrtes sont beaucoup plus faciles caractriser que les variables
alatoires continues, et on les tudiera avant d'aborder l'tude des variables alatoires
continues.
Une v.a. (variable alatoire) discrte { X x x x
1 2 3
, , , ,..... est caractrise par la dfinition
de la probabilit
P x
i
( )
de chaque valeur possible de la variable.
Exemple: un magasin solde 15 radios, dont 5 sont dfectueuses. Si on essaye trois radios diffrentes,
prises au hasard parmi les 15, quelle est la distribution de probabilit de la variable alatoire X=
nombre de radios dfectueuses dtectes ?
Rponse: P(x=0)=24/91; P(X=1)=45/91; P(x=2)=20/91; P(x=3)=2/91.
Exemple: la probabilit qu'un singe ait une raction positive pendant un certain test est 1/3. On
effectue des expriences jusqu' ce que la raction soit positive, et on dfinit la variable alatoire X
comme le nombre d'expriences ralises. Dterminer la distribution de probabilit de X.
Rponse: P(X=x)=
( / ) / 2 3 1 3
1 x
.
2.1 Fonction de rpartition
Dfinition (Fonction de rpartition)
La fonction de rpartition de la variable alatoire X est, par dfinition
F x P X x
X
( ) ( )
cest--dire, la probabilit pour que la variable alatoire prenne des valeurs infrieures une
certaine valeur x.
Des proprits des probabilits, rsultent un certain nombre de proprits de la fonction de
rpartition:

F x
X
( )
est une fonction non-dcroisssante de x.

F F
X X
( ) , ( ) 0 1
Exercice: Dmontrer ces deux proprits partir des axiomes de la mesure de probabilit.
Exemple. Considrons l'exemple de la page 5, et prenons la variable alatoire dfinie par:
2 ) maigre ( , 1 normal) ( , 0 ) obse ( X X X
Selon la table de la page 5, la fonction de rpartition de X est
-6 -4 -2 0 2 4 6 8
0
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
1
-6 -4 -2 0 2 4 6 8
0
0.1
0.2
0.3
0.4
0.5
0.6
0.7
0.8
0.9
1
A.BENHARI Page 7
La fonction de rpartition permet le calcul de la probabilit pour que la v.a. prenne des
valeurs dans un intervalle:
P x x x F x F x
X X
( ) ( ) ( )
1 2 2 1
<
.
Dans le cas de l' exemple prcdent,
P X F F
X X
( . ) ( . ) ( ) . . . 0 1 5 1 5 0 0 78 0 25 0 53 <
Comme c'est vident de l'exemple antrieur, la fonction de rpartition n'indique pas
directement quels sont les vnements les plus probables. Effectivement, ces vnements ne
correspondent pas aux valeurs de x pour lesquelles
F x
X
( )
prend des valeurs plus leves,
mais celles pour lesquelles la fonction de rpartition varie plus rapidement. L'exemple
antrieur montre la fonction de rpartition d'une variable alatoire discrte. La nature de la
variable alatoire est vidente d'aprs le graphe de la fonction de rpartition, qui est une
fonction en chelle, avec des discontinuits sur les valeurs possibles de la variable alatoire.
On considre maintenant le cas de variables alatoires continues, qui prennent des valeurs
dans un intervalle, comme par exemple, les variables alatoires associes des mesures de
temprature, prcipitation, temps d'attente devant un guichet, etc.
Les fonctions de rpartition de ces variables sont des fonctions continues. Dans ce cas, on
peut driver la fonction de rpartition, et obtenir ainsi directement des informations sur les
valeurs les plus probables de ces variables.
2.2 Densit de probabilit
Dfinition
Soit X une variable alatoire de fonction de rpartition
F x
X
( )
. La fonction de densit de
probabilit de x, est, par dfinition, la drive de la fonction de rpartition:
f x
dF x
dx
X
x
( )
( )
.
De cette dfinition, et du fait que
F
X
( ) 0
, on peut trouver la fonction de rpartition
partir de la densit de probabilit:

x
X X
du u f x F ) ( ) ( .
Proprits

f x
X
( ) 0
(fonction non-ngative)
f x dx
X
( )

1 (surface normalise 1)
Exercice: dmontrer ces deux proprits des densits de probabilit, cest--dire, qu'elles sont des
fonctions non-ngatives avec aire unitaire.
La probabilit d'un intervalle est aussi directement calculable par intgration de la densit de
probabilit.
P x x x f u du
X
x
x
( ) ( )
1 2
1
2
<

.
Densit de probabilit de variables alatoires discrtes
Etant donn que, comme on l'a vu, la fonction de rpartition des variables alatoires discrtes
n'est pas continue, elles ne possdent pas, en sens strict, une densit de probabilit.
Cependant, et si l'on accepte le symbole de Dirac comme la drive d'une fonction chelon,
on peut crire la densit de probabilit des variables alatoires discrtes comme une somme
A.BENHARI Page 8
de Diracs, centrs sur les valeurs possibles de la variable, et pondrs par la probabilit de la
valeur correspondante:
f x x x P x
X i i
i
( ) ( ) ( )

.
Exemple: la densit de probabilit pour l'exemple prcdent est
0
0.1
0.2
0.3
0.4
0.5
0.6
-1 0 1 2 3
2.3 Loi binomiale, de Poisson, de Gauss
On prsente dans cette section quelques types de variables alatoires souvent utiliss.
2.3.1 La loi binomiale
La loi binomiale a t dj introduite dans un des exemples de la section prcdente. C'est une
variable alatoire discrte qui peut tre dfinie comme le nombre x de succs observs quand
on ralise n rptitions indpendantes d'une exprience (dont les rsultats possibles sont
succs, avec probabilit p, ou chec avec probabilit 1-p).
Comme les diffrentes rptitions sont indpendantes, la probabilit d'occurrence de x succs
dans un total de n rptitions, par exemple pour x=3, n=5, la probabilit pour que la squence
fssfs
se produise est, videmment,
p p
x n x
( ) 1

.
Comme il y a
n
x
|
.

`
,
-- combinaisons de n x x -- diffrentes squences de taille n avec x
succs, la probabilit dsire est donne par
P x
n
x
p p
x
x n x
( ) ( )
|
.

`
,


1 .
o
n
k
n
k n k
|
.

`
,

!
!( )!
.
Cette loi de probabilit est connue par le nom de loi binomiale, et prend son nom du fait
qu'elle est base sur les coefficients de l'expansion binomiale
( ) a b
n
k
a b
n k n k
k
n
+
|
.

`
,

1
On peut dmontrer facilement que la valeur moyenne de cette loi est np. Sa variance est npq.
2.3.2 La loi de Poisson
La loi de Poisson dcrit une variable alatoire discrte qui prend des valeurs dans les entiers
positifs:
A.BENHARI Page 9
P x e
x
X
x
( )
!

, x=1,2,3,...
La loi de Poisson peut tre drive comme la limite d'une loi binomiale, quand
n
et
p 0
de telle sorte que
np
. Pour cette raison, on dit que la loi de Poisson dcrit les
vnements rares.
Exemple. Pour effectuer un contrle de qualit, on procde au tirage au hasard de 20 objets dans une
fabrication industrielle. Supposons savoir que 5% des objets de cette fabrication sont dfectueux. Le
nombre N d'objets dfectueux dans l'chantillon prlev suit alors une loi binomiale de paramtres
n=20 et p=0.05. Comparer pour des valeurs de x entre 0 et 4 la qualit de l'approximation de la loi
binomiale par une loi de Poisson de paramtre np 1.
Exercice: Montrer que le paramtre de la loi de Poisson concide avec la valeur moyenne et la
variance de cette loi.
2.3.3 La loi Gaussienne
La densit Gaussienne de paramtres

et

dcrit une variable alatoire continue avec

valeurs en R donne par
p x e
x
x
( )
( )

1
2
1
2
2
2

.
La fonction de rpartition correspondante cette densit peut tre trouve table dans de
nombreuses rfrences.
La loi de Gauss de paramtre

=0 peut tre encore drive comme une limite de la loi

binomiale de paramtres n et p quand
n
(Thorme de Moivre)
P a
x np
n
b e dx
x
a
b
( ) <

<

1
2
1
2
2
2

,
o
2
1 p p ( ) .
2.3.4 Densit uniforme
La densit uniforme sur un intervalle rel fini
a b ,
est constante sur cette intervalle et nulle
en dehors:
f x
b a a x b
X
( )
/ ( )

'

1
0 sinon
Les erreurs de quantification sont en gnral bien dcrites par cette loi.
2.3.5 Loi exponentielle
Les densits exponentielles dcrivent des variables alatoires qui ont leurs valeurs centres
autour de zro:
f x
e x
x
X
x
( )

<

'

0
0 0
Cette loi est par exemple couramment utilise pour dcrire le temps de transmission d'un
message en systmes de communication.
2.4 Esprance d'une variable alatoire
Dfinition
A.BENHARI Page 10
L'esprance (ou valeur moyenne) d'une variable alatoire X admettant la densit
f x
X
( )
est
dfinie par
[ ] E X xf x dx
X

( ) ,
pour les variables alatoires continues, et par
E X x P x
i i
i

( )
,
pour les variables alatoires discrtes.
Lesprance de la variable alatoire est le centre de gravit de la fonction de densit de
probabilit.
Exemple. Considrer encore l'exemple de la page 5. La valeur moyenne de la variable alatoire
dfinie dans la page 8 est
E X + + 0 0 25 1 0 53 2 0 22 0 99 . . . .
ce qui est bien en accord avec notre notion intuitive qui est que le plus probable est d'observer des
personnes normales.
Exemple. Une urne contient des balles numrotes de 1 N. Soit X le plus grand numro dans un
chantillon de dimension n obtenu avec remplacement. La probabilit de lvnement k X est
n
N
k
k X
,
`

.
|
) Pr( .
Cet vnement peut scrire comme lunion de deux vnements disjoints :
} 1 { } { } { k X k X k X
et donc
n n n
k
N k k k X p

} ) 1 ( { ) Pr(
On peut donc calculer


+
]
]
]

N
k
N
k
n n n
k
k N N p k X E
1 1
1
) 1 ( ] [
Pour N grand, cette expression peut tre approxime par
N
n
n
X E
1
] [
+

La valeur la plus leve peut ainsi tre utilise pour estimer la valeur inconnue N.
Proprit
Soit T un oprateur linaire, c.a.d. qui vrifie le principe de superposition:
T ax by aT x bT y + +
.
Alors,
E T X T E X
.
Exercice: Dmontrer cette proprit.
2.5 Moments d'ordre 2
Lesprance d'une variable alatoire nous indique tout simplement la position de son centre de
gravit, mais ne nous dit rien sur la forme de la densit. Les moments d'ordre 2 donnent une
information sur la dispersion des valeurs de la variable alatoire.
2.5.1 Valeur quadratique moyenne
La valeur quadratique moyenne d'une variable alatoire X qui admet une densit de
probabilit
f x
X
( )
est par dfinition
A.BENHARI Page 11
[ ] E X x f x dx
X
2 2

( ) .
Pour les variables alatoires discrtes, la dfinition correspondante est
E X x P x
i
i
i
2 2

( )
.
Exercice: dterminer la valeur quadratique moyenne de la variable alatoire dfinie dans la page 8.
2.5.2 Variance
La variance d'une variable alatoire X qui admet une densit de probabilit
f x
X
( )
est par
dfinition
[ ] [ ] [ ] var( ) ( ) ( ) ( ) X E X E X x E X f x dx
X X

2 2 2
.
On dmontre facilement que

X
E X E X
2 2
2

.
Exercice: Dmontrer l'galit prcdente.
Exercice: Dmontrer que pour une Gaussienne de paramtres
,
,

E X
X E X
2 2 2
var ( )
Proprits
(i)
X
2
0 .
(ii)
var ( ) var ( ) X a X +
, o a est une constante.
(iii)
var ( ) var ( ) aX a X
2
, o a est une constante
A la racine carre de la variance on donne le nom d'cart type.
La moyenne, la valeur quadratique moyenne et la variance sont des cas particuliers de
dfinitions plus gnrales, de moment d'ordre n et de moments centrs d'ordre n, qui sont
dfinis par
[ ]

n
n n
X
X E X x f x dx ( ) ( )

et par
[ ]

n
n n
X
X E X X x X f x dx ( ) ( ( )) ( ( )) ( )

1 1
respectivement.
On constate facilement que
var ( ) ( ) X M X
2
.
2.6 Loi des grands nombres
Les lois des grands nombres sintressent aux limites de sommes du type
n n
X X S + + ....
1
quand le nombre de variables, n, est grand.
A.BENHARI Page 12
Thorme : Loi (faible) des grands nombres
Soient
} {
i
X
des variables alatoires indpendantes et identiquement distribues. Si la valeur
moyenne
) (
i
X E
existe, alors, pour tout 0 > , quand
n
,
. 0 Pr

'

'

>
n
S
n
Dmonstration :
On admet, sans perte de gnralit, que 0 .
Si la variance des variables alatoires existe (
2

), le thorme est un cas particulier de lingalit de

Chebyshev :
{
2
2
) (
Pr

n
n
S E
S >
en prenant
n
, car dans ce cas
2 2
) ( n S E
n
, et on a donc 0
) (
2
2
2
2

n
n
n
S E

.
Si
2

nexiste pas, la dmonstration est base dans la mthode de troncation.

Pour tout n, soient
k k
V U , les variables alatoires dfinies par

n X X V U
n X V X U
k k k k
k k k k
>

, , 0
, 0 ,
On a donc
k k k
V U X +
et la loi des grands nombres sera dmontre si on peut montrer que pour tout 0 > , on peut trouver un
tel que
0
2
1
... Pr
1

'

'

> + + n U U
n

et
0
2
1
... Pr
1

'

'

> + + n V V
n

Soit |) (|
i
X E a alors, on peut affirmer que
an U E
i
) (
2
Les variables alatoires
i
U sont indpendantes et identiquement distribues, alors

2
1 1
) ( ) ... ( n a U Var n U U Var
n
+ +
Comme, par construction
k n k
X U

et donc
0 ) ( ) (
k n k
X E U E
la variance concide avec la moyenne quadratique et par application de lingalit de Chebyshev, on
obtient le rsultat prtendu :
2
1
8
2
1
... Pr

a
n U U
n

'

'

> + +
et il existe toujours une valeur de qui rend le terme droit aussi petit que lon souhaite.
Pour lingalit concernant les variables
k
V , remarquons que
{ { . 0 Pr 0 ... Pr
1 1
+ + V n V V
n
Pour 0 > arbitraire
{ { n X V >
1 1
Pr 0 Pr
qui tend vers 0 quand n tend vers .
A.BENHARI Page 13
Thorme Central Limite
Soit
} {
i
X
une squence de variables alatoires indpendantes et identiquement distribues, et
< ) (
i
X E
leur moyenne et < ) (
2
i
X Var . Soit
n n
X X S + + ...
1
.Alors
n
n S
n

tends en distribution vers une variable alatoire gaussienne de
moyenne nulle et variance unitaire.
Les thormes qui viennent dtre noncs admettent que les variables sont identiquement
distribues. En fait, la loi (faible) des grands nombres et le thorme central limite sont
valables dans des conditions plus gnrales, quand les variables
} {
i
X
suivent des lois
distinctes. En particulier, la loi des grands nombres est vrifie si les
} {
i
X
sont uniformment
bornes, cest dire, sil existe une constante A telle que
i A X
i
< ,
. Une condition
suffisante est que la variance de la somme doit tendre vers 0 plus vite que
n
1
.
Loi (forte) des grands nombres
La squence
} {
i
X
obit la loi forte des grands nombres si pour tous
0 , 0 > >
il existe un
N tel que, avec probabilit plus grande ou gale 1 , et pour tout 0 > r , toutes les r+1
ingalits suivantes sont satisfaites :
r N N N n
n
m S
n n
+ + <

,... 1 , ,
La loi forte implique quavec probabilit un la variable alatoire
n M S
n n
/
tend vers zro.
2.7 Distribution conjointe
On a dfinit la probabilit conjointe de deux vnements comme la probabilit de son union.
Admettons maintenant que X et Y sont deux variables alatoires dfinies sur une mme
exprience alatoire ( le mme espace de ralisations).
Dfinition (Fonction de rpartition conjointe)
La fonction de rpartition conjointe de deux variables alatoires dfinies sur une mme
exprience alatoire est par dfinition
F x y P X x Y y P X x Y y
XY
( , ) ( ) ( ) et ,
.
Proprits
(i)
F y F x
XY XY
( , ) ( , ) 0
.
(ii)
F
XY
( , ) 1
(iii)
p x X x y Y y F x y F x y
F x y F x y
XY XY
XY XY
( , ) ( , ) ( , )
( , ) ( , )
1 2 1 2 2 2 2 1
1 2 1 1
< <
+
(iv)
P x X x Y y F x y F x y
XY XY
( , ) ( , ) ( , )
1 2 2 1
<
Exercice: dmontrer les proprits prcdentes.
2.7.1 Densit conjointe
A.BENHARI Page 14
La densit conjointe de deux variables alatoires est, par dfinition, la drive de la fonction
de rpartition conjointe
f x y
F x y
x y
XY
XY
( , )
( , )

2
.
Proprits
(i)
( , ) , ( , ) . x y f x y
XY
R
2
0
(ii) f x y dxdy
XY
( , )

1.
2.7.2 Densit marginale
On peut rcuprer la densit de probabilit de chacune des variables alatoires conjointement
distribues partir de leur densit conjointe:
f x f x y dy f y f x y dx
X XY Y XY
( ) ( , ) ( ) ( , )

.
2.8 Variables alatoires indpendantes
Deux variables alatoires sont indpendantes ssi
F x y F x F y f x y f x f y
XY X Y XY X Y
( , ) ( ) ( ) ( , ) ( ) ( )
.
Exercice: vrifier l'quivalence des deux conditions de l'quation prcdente.
Exercice: montrer que pour toutes f onctions g(x) et f(y), g(X) et f(Y) sont des variables alatoires
indpendantes si X et Y sont elles-mmes des variables alatoires indpendantes.
2.9 Moments croiss
On a dfinit les moments dordre n (et les moments centrs correspondants) d'une variable
alatoire. Les moments croiss d'ordre n caractrisent l'occurrence simultane des valeurs de
variables alatoires conjointement distribues.
Covariance
Soit X et Y deux variables alatoires conjointement distribues. Par dfinition, la covariance
de X et Y est
[ ]
cov( , ) ( )( ) ( )( ) ( , ) X Y E X Y x y f x y dxdy
X Y X Y XY

.
Coefficient de corrlation
Le coefficient de corrlation de deux variables alatoires conjointement distribues, X et Y,
est, par dfinition,

( , )
cov( , )
X Y
X Y
X Y

.
Deux variables alatoires X et Y sont non-correles si leur moment crois centr d'ordre deux
est nul:
cov( , ) X Y 0
.
Deux variables alatoires X et Y sont orthogonales si leur moment crois d'ordre deux est
nul:
E XY ( ) 0
.
2.10 Vecteurs alatoires
A.BENHARI Page 15
Un vecteur alatoire est un vecteur dont les entres sont des variables alatoires
conjointement distribues. La fonction de rpartition d'un vecteur est, par dfinition, la
fonction de rpartition conjointe de ses composantes. Soit X x x x
n
T

1 2
K , o
x
T
dsigne
le vecteur transpos de x. Alors:
F x F x x x
f x f x x x
X X X X n
X X X X n
n
n
( ) ( , , )
( ) ( , , )

1 2
1 2
1 2
1 2
L
L
L
L
Vecteur Gaussien
Un vecteur est Gaussien (ou normalement distribu) ssi sa densit de probabilit a la forme
suivante

'

'

) ( ) (
2
1
exp
) 2 (
1
) (
1

x x x f
T
n
X
o

est le vecteur valeur moyenne et est la matrice de covariance:

[ ] [ ] [ ] [ ] [ ]
[ ]
[ ]
[ ]
[ ]

]
]
]
]
]
]
]
E X E X E X E X
E XX
X X X X X
X X X X X
X X X X X
n
T
T
n
n
n n n
1 2
1 1 2 1
1 2 2 2
1 2

var cov( ) cov( )

cov( ) var cov( )
cov( ) cov( ) var
Exercice: montrer que la combinaison linaire de variables alatoires conjointement Gaussiennes est
encore une variable alatoire Gaussienne.
Exercice : Soit X et Y deux variables alatoires conjointement Gaussiennes. Dterminer la loi
marginal de X et la densit conditionnelle de X sachant Y.
A.BENHARI Page 16
3. Espace Hilbertien de Variables Alatoires
Dans cet appendix nous prsentons la structure despace Hilbertien qui peut tre dfinie dans
lesemble des variables alatoires de moments dordre deux finis. Cette structure permet une
interpretation gomtrique simples de beaucoup de problmes.
Rappelons dabord la notion despace vectoriel rel.
Un espace vectoriel rel H est constitu par un groupe ablien
) , ( + V
, le corps des rels
, et une multiplication entre les lments de V et , qui satisfait les axiomes suivants,
b a V w v u , , , ,
Groupe ablien
(i)
V w v v u + +
(ii)
) ( ) ( w v u w v u + + + +
(iii)
v v V + 0 : 0
(iv)
0 ) ( : ) ( + v v V v v
Multiplication scalaire
(v)
ab au v u a + + ) (
(vi)
bu au u b a + + ) (
(vii)
u ab bu a ) ( ) (
(viii) u u . 1
Dfinition Un espace vectoriel rel H dans lequel on a dfini un produit interne est un espace
pr-Hilbertien. Le produit interne
> < ,
est une application
> < H H : ,
qui satisfait
les axiomes suivants
b a w v u , , , ,
(i)
> > < < u v v u , ,
(ii)
0 0 , , 0 , > < > < u u u u u
(iii)
> < + > < > + w v b w u a w b v a u , , , (
A partir dun produit interne, on peut dfinit une norme dans lespace vectoriel H de la faon
suivante
> < u u u ,
2
qui satisfait les proprits suivantes
(i)
v u v u > < ,
(ii)
v u v u + +
(iii)
2 2 2 2
2 2 v u v u v u + + +
Dfinition On dit quune application
[ ) , 0 : ) , ( H H d
est une distance si
(i)
) , ( ) , ( u v d v u d
(ii)
0 0 ) , ( , 0 ) , ( u u u d u u d
(iii)
) , ( ) , ( ) , ( v w d w u d v u d +
A.BENHARI Page 17
A paritr dun produit interne on peut toujours dfinir une distance
2 / 1
) , ( v u v u d
Pour une squence dlments de H
{ ,... 2 , 1 , 0 , n u
n
tend vers un lement u de H si la
squence relle
0 ) , ( u u d
n
en .
Thorme
Le produit interne est une fonction continue :
> > < < y x y x y y x
n n n n
, , ,
Dfinition
Une squence est de Cauchy si
0 ) , (
m n
x x d
quand
m n,
.
Dfinition
Un espace est complet sil contient le limite de toutes les squences de Cauchy.
Dfinition
Un espace Hibertien ets un espace vectoriel avec un produit interne et qui est complet pour la
mtrique
y x y x y x y x d > <
2 / 1
, ) , (
Dfinition
On dit que M est un sous-espace de H si
M M + bv au v u b a , , , ,
(ferm par rapport aux combinaisons linaires).
Pour tout sous-ensemble H S on reprsente par
{ S Sp
lensemble de toutes les
combinaisons linaires des elments de S.
Dfinition
Deux lments u,v de H sont orthogonaux si
v u v u > < 0 ,
On dit quun lment u de H est orthogonal un sous-ensemble S de H sil est orthogonal
tout lment de S :
x u S x S u ,
On dit que deux sous-ensembles S, P de H sont orthogonaux si tout lment de S est
orthogonal tout lment de P :
v u P v S u , ,

Dfinition
On dit que H est la somme directe de H M et de H N si
N M H N M H M N + v u v u x x , , , et ,
Thorme (de la Projection Orthogonale)
Soit H un espace de Hilbert et M un sous-espace de H. Soit x un lment de H. Alors, x peut
tre dcompos dans la somme
M M + v u v u x , ,
La dcomposition est unique, et u est le point de M le plus proche de x :
) , ( ) , ( , u x d w x d w M
A.BENHARI Page 18
avec galit ssi w=u.
Dfinition
Le point u dans le thorme prcdant est appel la projecttion orthognale de x sur M et on
le reprsente par
) | ( M x
.
Soit
) , ( P B,
un espace de probabilit, et considrons lespace de toutes les variables
alatoires de variance finie (fonctions de carre intgrable) :

< ) ( ) ( : :
2 2
w d w X EX X P
On peut facilement vrifier quil sagit dun espace vectoriel, avec le somme usuelle de
fonctions (point point) et multiplication par un scalaire.
Dfinissons sur cet espace vectoriel lapplication suivante
) ( ,
) , , (
2
xy E y x
L
> <
P B
Pour que cette application soit un produit interne, il faut que
0 0 ,
) , (
2
> <

x x x
L P B,
,
c est dire, identifier la variable alatoire qui prend identiquement la valeur zro toutes les
variables alatoires de variance nulle. Ceci est encore quivalent dire que si pour deux
variables x et y
y x y x y x
P B L
> <

0 ,
) , , (
2
.
On constant ainsi que pour obtenir une structure despace pr-Hilbertien, on doit considrer la
partition de lespace des variables alatoires de variance finie obtenue avec la relation
dquivalence dfinie par lquation antrieure. On dsigne cet espace par ) , (
2
P B, L .
Throrme
Lespace ) , (
2
P B, L est un espace Hilbertien (cest dire, il est complet pour la norme
dfinie partir de
) , (
2
,
P B,
> <
L
).
Ce thorme est fondamental pour interprter gomtriquement la structure des estimateurs
derreur quadratique moyenne mininale, en mettant notre disposition les notions de
projection orthogonale, dangle entre varaibles alatoires, despace engendr par un ensemble
de variables alatoires, etc.
Appendice : Random Walks
On sintresse dans cette section des suites alatoires qui prennent des valeurs {-1,+1} et
leurs sommes partielles
0 ,.... 2 , 1 ,
0 1
+

s k s s
k k k

illustrant lapplication de la thorie de la probabili ltude des proprits statistiques de
suites alatoires.
Dfinition
On appellera chemin jusquau point (n,x) toute squence pour laquelle
x s
n

Il y a
n
2
chemins de longueur n. Soient p et q le nombre de fois que +1 et 1 se rptent dans
un chemin jusquau point (n, x). Alors
A.BENHARI Page 19
n=p+q x = p-q
Le nombre de chemins diffrents jusquau point (n,x) est

,
`

.
| +

,
`

.
| +

q
q p
p
q p
N
x n,
Lemme (principe de rflexion)
Soient A=(a,) et B=(b,), b>a>0, et ,>0. Soit encore A=(a,-)
Le nombre de chemins de A jusqu B qui passent par zro est gal au nombre total de
chemins de A jusqu B.
1 2 3 4 5 6 7 8 9
-1
-0.5
0
0.5
1
1.5
2
2.5
3
Dmonstration
Soit s un chemin de A jusqu B et t le premier instant o il passe par zro. Alors le chemin
) ,... , 0 ,... , , ( '
1 2 1 b t a a
s s s s s
+ + +
est un chemin de A jusqu B. On peut donc trouver
une correspondance entre tous les chemins de A B qui passent par zro et tous les chemins de A B.

Thorme
Soient n et x des entiers positifs. Il existe exactement
n
x
N
x n,
chemins de lorigine jusqu
(n,x) qui ne passent pas par zro.
Dmonstration
Le nombre de chemins depuis lorigine jusqu B qui ne passent pas par zro est gal au nombre de
chemins de (1,1) jusqu` B qui ne passent pas par zro, et encore gal au nombre de chemins depuis
lorigine jusqu (n-1,x-1) qui ne passent pas par zro. Par le LEmma, le nombre de chemins depuis
(1,1) qui passent par zro est gal au nombre total de chemins de (1,-1) jusqu (n,x). Finalement, ce
dernier est gal au nombre de chemins depuis lorigine jusqu (n-1,x+1), et donc le nombre de
chemins depuis lorigine jusqu B qui ne passent pas par zro est donn par
1 , 1 1 , 1 +

x n x n
N N
A.BENHARI Page 20
1 2 3 4 5 6 7
0
0.5
1
1.5
2
2.5
3
Lutilisation de la formule pour le nombre de chemins permet de trouver le rsultat du thorme.
La probabilit pour quun chemin passe par le point (n,x) est donne par
n
n x n
x n
n
x x p

,
`

.
|
+
2
2
) P r (
,
le quotient entre , nx
N
et le nombre total de chemins de longueur n.
Un retour lorigine peut se produire uniquement se n est pair, i.e. n=2. On dfini

2
2 2
2
2
) 0 Pr(

,
`

.
|
s u
.
Par la formule de Stirling,
0 ), 1 ( 2 !
2 / 1
+

+
n n n
n n
e n n
, on peut obtenir

1
2
u
.
Un chemin a un premier retour lorigine linstant 2 si
0 , 0 ,.... 0
2 1 2 1


s s s
.
On reprsente la probabilit pour un premier retour lorigine linstant 2 par
2
f
. On
peut reconnatre facilement que

n
k
k n k n
u f u
1
2 2 2 2
Lemme
La probabilit pour quaucun retour lorigine arrive jusqu linstant 2n est gale la
probabilit pour quun retour lorigine se produise linstant 2n.
) 0 Pr( ) 0 ,..., 0 Pr(
2 2 1

n n
s s s
A.BENHARI Page 21
Dmonstration
Noter que
) 0 ,..., 0 Pr( ) 0 ,..., 0 Pr( ) 0 ,..., 0 Pr(
2 1 2 1 2 1
> > + > >
n n n
s s s s s s .
et les deux probabilits du membre droit soit gales, et donc,
) 0 ,..., 0 Pr(
2
1
2 1 2
> >
n n
s s u .
La probabilit prcdente peut scrire comme la somme sur tous les valeurs positives de
n
s
2
:

> > > >

1
2 1 2 1 2 1
) 2 , 0 ,... 0 Pr( ) 0 ,..., 0 Pr(
r
n n n
r s s s s s
et en utilisant le thorme de la page ? ? pour le nombre de chemins pour chaque valeur de r, on obtient

+
> >
1
1 , 1 2 1 , 1 2 2 1 2 1
) (
2
1
) 2 , 0 ,... 0 Pr(
r
x n x n n n
p p r s s s
Le terme ngatif pour un r donn est annul pour le terme positif pour la valeur de r suivante et donc
n n
u p
2 1 , 1 2
2
1
2
1

ce que complte la preuve.

Lemme
La probabilit pour que le premier retour lorigine soit linstant 2n est donne par
n n n
u u f
2 2 2 2


.
Dmonstration
Le premier retour lorigine est linstant 2n si 0 ,..., 0
2 2 1

n
s s et lvnement
0 ,..., 0
2 1

n
s s ne se produit pas. Les deux vnements sont donc disjoints, et on peut crire
n n n
f u u
2 2 2 2
+

,
ce qui conclue la preuve.
Thorme
La probabilit pour que le dernier retour zro dans un chemin de longueur 2n soit linstant
2k est donne par
k n k n k
u u
2 2 2 2 , 2

Dmonstration
En admettant toujours que tous les chemins possible sont quiprobables, la probabilit est donne par le
nombre de chemins qui vrifient la condition sur le nombre total de chemins de longueur 2n, qui est
gal
n 2
2
. Le nombre total de chemins qui passent par zro linstant 2k est gal
k
k
u
2
2
2 .
En prenant le point (2k,0) comme nouvelle origine, on peut conclure que le nombre de chemins pour
les dernires 2n-2k instants qui sont toujours diffrents de zro sauf dernier 2n sont en nombre de
k n
k n
u
2 2
2 2
2

.
Ce thorme montre que le rsultat est fortement contradictoire avec ce que lintuition
pourrait indiquer. En particulier, on constate que la distribution pour le dernier passage par
zro est symtrique autour de n : en fait, les instants 2n-2k et 2k sont galement probables. Ce
fait a comme consquence que avec probabilit il ny aura pas de changement pendant la
dernire moiti de la squence.
La distribution est concentre sur les extrmes : les valeurs les moins probables sont autour de
n.
A.BENHARI Page 22
3. Exercices
1. Un inspecteur doit en visiter un parmi 20 tablissements de restauration rapide qui vendent
des hamburgers, pour vrifier le niveau de bactries dans les hamburgers. Pour choisir au
hasard l'tablissement visit, il crit leurs adresses sur 20 fiches, mlange-les, et tire une fiche
au hasard de la pile sans regarder l'adresse. Admettez que, sans que l'inspecteur le sache, les
hamburgers de 5 des tablissements ont un niveau de bactries lev. Quelle est la probabilit
pour que l'inspecteur observe un taux de bactries lev dans l'endroit visit?
2. Un paysan a une bote qui contient 30 ufs, parmi lesquels 5 ont des tches de sang. Il
vrifie 3 ufs, en les prenant au hasard, l'un aprs l'autre, de la bote. Quelle est la probabilit
pour que les deux premiers ufs aient des tches de sang et le troisime soit propre?
3. Une maladie du sang existe sous une forme grave dans 2% de la population, sous une
forme lgre dans 10%, et ne se prsente pas du tout pour les 88% restants. Un test clinique a
un taux de dtection de 90% si la maladie est srieuse, et de 60% pour les cas lgers. La
probabilit de dtection (fausse) pour les personnes non malades est de 10%. On applique ce
test une personne slectionne au hasard dans la population et le rsultat est positif. Quelle
est la probabilit pour que la personne soit gravement atteinte de la maladie?
4. Un systme a deux composantes (1 et 2) qui fonctionnent indpendamment. On admet que
Pr(composante 1 en panne) = 0.1
Pr(composante 2 en panne) = 0.2
I Dterminer la probabilit pour que le systme fonctionne
(a) quand les deux composantes sont connectes en srie (le systme est oprationnel
seulement quand les deux composantes marchent).
(b) quand les deux composantes sont en parallle (le systme marche quand au moins une
des composantes fonctionne).
II Combien de composantes lies en parallle, chacune avec une probabilit d'tre
oprationnelle gale 0.9, faut il utiliser, pour que la probabilit que le systme fonctionne
soit gale ou suprieur 0.99?
5. La probabilit pour qu'un singe ragisse positivement pendant une certaine exprience est
de 1/3. On effectue des expriences jusqu' ce qu'une raction positive du singe soit obtenue.
Soit x le nombre d'expriences effectues. Quelle est la fonction de rpartition de x ?
6. Dmontrer, partir des axiomes de probabilit, que
P A B P A P B P A B ( ) ( ) ( ) ( ) +
7. Dmontrer le thorme suivant:
Si x et y sont des variables alatoires indpendantes, alors, pour toutes les
fonctions g et f , g(x) et f(y) sont encore des variables alatoires indpendantes.
8. Dire sous quelles conditions on a:
var ( ) var ( ) var ( ) x y x y + +
9. Dmontrer les proprits suivantes du coefficient de corrlation:
(a)
( , ) ( , ) a b c d x y x y + +
(b)
( , ) x y 1
A.BENHARI Page 23
(c) dans quelles conditions l'ingalit antrieure est-elle vrifie avec galit?
10. (Mdiane) La mdiane d'une distribution est la valeur
m
0
de la variable alatoire telle que
P m P m ( ) ( ) . x x
0 0
0 5
. Dterminer la valeur moyenne et la mdiane des variables
alatoires suivantes:
(a)
{ Pr( ) , , , , , ; Pr( ) Pr( ) . , Pr( ) Pr( ) . , Pr( ) . . x x x x x x x x 0 2 3 4 5 6 2 6 01 3 4 0 3 5 0 2
(b)
{ Pr( ) , , , , ; Pr( ) . , Pr( ) . , Pr( ) . , Pr( ) . . x x x x x x x 0 0 1 2 3 0 0 3 1 0 4 2 0 2 3 01
11. Dans une tude de la coexistence de deux types d'insectes, soient x et y le nombre
d'insectes de type A et B respectivement, qui rsident sur une mme plante. A partir d'un
grand nombre d'observations, on a obtenu la loi conjointe suivante:
x\y 1 2 3 4
0 0.0 0.05 0.05 0.1
1 0.08 0.15 0.1 0.1
2 0.2 0.12 0.05 0.0
(a) Calculer la probabilit pour qu'il existe un nombre plus lev d'insectes du type B que du
type A sur une plante.
(b) Dterminer la valeur moyenne et la variance de x et de y et leur covariance.
(c) Dterminer le coefficient de corrlation
( , ) x y
.
(d) Soit t le nombre total d'insectes des deux types qui vivent sur une mme plante: t=x+y.
Dterminer la loi de t et l'utiliser pour calculer la moyenne et la variance de t. S'agit-il de
variables alatoires indpendantes?
12. (Bernoulli) Une exprience alatoire rptitive est de Bernoulli si elle obit aux postulats
suivants:
(i) Dans chaque exprience, il y a uniquement deux vnements possibles: S (succs) et F
(chec);
(ii) dans chaque exprience, a probabilit de succs est la mme : p=P(S). La probabilit
d'chec est reprsente par q=1-p;
(iii) Les expriences sont indpendantes. La probabilit d'un succs dans une exprience ne
change pas si on connat le rsultat des expriences antrieures.
(a) Dterminer la probabilit d'avoir k succs quand on effectue N expriences (loi
binomiale).
(b) Obtenir la loi de probabilit de la variable alatoire n, dfinie comme le nombre
dexpriences ralises jusqu l'observation d'un succs (loi gomtrique).
13. Soit p la probabilit (inconnue) pour quune voiture choisie au hasard soit rouge.Contez le
nombre de voiture rouge dans le parking de lcole, et le nombre total de voitures qui y sont
gares.
(i) Utilisez la distribution binomiale pour dterminer la probabilit du nombre de voitures
rouges observes pour diffrentes valeurs de p =0.1, 0.2, 0.3, 0.4, 0.5, 0.6, 0.7, 0.8,
0.9. Tracez graphiquement la courbe obtenue.
(ii) A partir du graphe obtenu, dterminez la valeur de p qui maximize la probabilit de
votre observation.
Note : La probabilit p inconnue est estime en utilisant lobservation du nombre de voitures rouges. Le
principe illustr dans cet execice pour dterminer la valeur dun paramtre inconnu partir de donnes est
appel la mthode du maximum de vraisemblance, et sera tudi dans un chapitre ultrieur.
14. Considrer la loi gomtrique obtenue dans le dernier problme:
A.BENHARI Page 24
P n q p
n
( ) n
1
.
(a) dterminer sa valeur moyenne et sa covariance.
(b) considrer que la premire exprience avec succs a t la kme. Dterminer la probabilit
conditionnelle de la variable alatoire z, dfinie comme le nombre d'expriences
additionnelles jusqu' un nouveau succs. Le rsultat doit fournir une justification la
proprit d'absence de mmoire usuellement associe aux variables alatoires gomtriques.
15. (Poisson)
Un vnement S est de Poisson s'il vrifie les postulats suivants:
(i) Indpendance : le nombre de fois que S se produit dans un intervalle de temps quelconque
est indpendant du nombre de fois que S s'est produit dans n'importe quel autre intervalle
disjoint.
(ii) Absence de regroupement : la probabilit de deux ou plus occurrence simultane est
nulle.
(Iii) Taux constant : le nombre moyen d'occurrences par unit de temps est constant,

, et ne
change pas avec le temps.
La loi de ces variables est
P n
e
n
n
( )
!
n

.
(a) dterminer la valeur moyenne et la variance de la loi de Poisson.
(b) soit
t
0
un instant du temps fix, et
t
1
la premire occurrence aprs
t
0
. On dfinit la
variable x=
t
1
-
t
0
. Obtenir la densit de probabilit de la variable alatoire x (densit
exponentielle). Montrer que la densit exponentielle possde une proprit d'absence de
mmoire analogue celle de la loi gomtrique.
16. Soient x et y deux variables alatoires continues indpendantes, et z une variable alatoire
dfinie par: z=x+y. Obtenir une expression pour la densit de probabilit de z en fonction des
densits de x et de y.
17. (Gnralisation de lingalit de Chebyshev)
Soit
0 ) ( > t
, pour 0 > t une fonction monotone croissante. Dmontrer que si
M t E )) ( (
existe, alors
{
) (
Pr
t
M
t X

.
18. (Ingalit de Schwarz)
Dmontrer que pour toutes variables alatoires avec variance finie
) ( ) ( ) (
2 2 2
Y E X E XY E .
Suggestion : utiliser le fait que pour tout t le polynme ) ) ((
2
Y tX E + est positif.
19. Soient n
X X X ,...,
1 , 0 des variables alatoires conjointement Gaussiennes, de moyenne
nulle et matrice de covariance ij j i
X X E ) (
. Dmontrer que

n
i
i i n
X X X X E
1
1 0
) ,..., | (
, et dterminer les constantes i

en fonction des ij

.
A.BENHARI Page 25
20. (Ingalit de Jensen)
Soit I un intervalle en R. Une fonction
) (x
en I est convexe si pour tout
I y I x ,
) ( ) 1 ( ) ( ) ) 1 ( ( y t x t y t tx + +
.
Dmontrer que si Y est une variable alatoire avec domaine I et
< | | Y E
, alors pour
) (x
convexe en I et
< | ) ( | Y E
)). ( ( ) ( Y E EY
A.BENHARI Page 26