Chapitre 2

Plan du cours
1. Vecteurs al´eatoires.
2. Loi normale multivari´ee.
3. Inf´erence dans les mod`eles gaussiens.
4. M´ethodes classiques de l’analyse multivari´ee.
Plan du cours
2. Loi normale multivari´ee.
2.1. D´efinitions, propri´et´es de base.
2.2. Ind´ependance et normalit´e multivari´ee.
2.3. Lois conditionnelles.
2.4. Loi normale matricielle.
2.5. Loi de Wishart, lemme de Fisher multivari´e.
2.6. TCL multivari´e.
D´efinitions, propri´et´es de base
Soit X = (X
1
, . . . , X
p
)

un p-v.a.
D´efinition: X est de loi normale p-vari´ee centr´ee r´eduite (notation:
X ∼ N
p
(0, I
p
)) ⇔ les X
i
, i = 1, . . . , p sont i.i.d. N(0, 1).
Clairement, cette loi est absolument continue par rapport `a la
mesure de Lebesgue et a pour densit´e
x →f
X
(x) =
p

i =1
f
X
i
(x
i
) =
p

i =1
_
1


exp(−x
2
i
/2)
_
=
1
(2π)
p/2
exp(−
p

i =1
x
2
i
/2) =
_
1

_
p
2
exp(−x
2
/2).
Aussi,
E[X] =
_
E[X
1
]
.
.
.
E[X
p
]
_
= 0 et Var[X] =
_
Cov[X
i
, X
j
]
_
i ,j =1,...,p
= I
p
.
D´efinitions, propri´et´es de base
Remarque: si X ∼ N
p
(0, I
p
), X a des moments finis de tout ordre.
En effet, pour tout s > 0, on a
E[X
s
] ≤ C
p,s
p

i =1
E|X
i
|
s
= pC
p,s
E|X
1
|
s
< ∞.
D´efinitions, propri´et´es de base
500 observations i.i.d. de loi N
2
(0, I
2
):
−6 −4 −2 0 2 4 6

6

4

2
0
2
4
6
X_1
X
_
2
D´efinitions, propri´et´es de base
D´efinition: X est de loi normale p-vari´ee ⇔ il y a un vecteur
µ ∈ R
p
et une matrice A (p ×q) tels que X = AZ +µ, o` u
Z ∼ N
q
(0, I
q
).
Remarques:
(i) E[X] = AE[Z] +µ = µ et Var[X] = AVar[Z]A

= AA

.
(ii) ϕ
X
(t) = E[e
it

X
] = E[e
it

(AZ+µ)
] = E[e
i (A

t)

Z)
]e
it

µ
. Donc
ϕ
X
(t) = exp(it

µ) exp
_

1
2
t

AA

t
_
.
C¸a implique que la loi de X d´epend que de µ et
Var(X) = AA

=: Σ.
On ´ecrit: X ∼ N
p
(µ, Σ).
D´efinitions, propri´et´es de base
(iii) Si X ∼ N
p
(µ, Σ), alors Y = BX +ν (ν ∈ R
d
et B ∈ R
d×p
)
est de loi normale d-vari´ee, Y ∼ N
p
(ν + Bµ, BΣB

).
En particulier, en prenant B =
_
I
p
1
| 0
p
1
×(p−p
1
)
_
et ν = 0, il
d´ecoule de cette proposition le r´esultat suivant.
Proposition: soit X = (X

1
, X

2
)

∼ N
p
(µ, Σ), o` u X
i
est un p
i
-v.a.
(i = 1, 2) et o` u
µ =
_
µ
1
µ
2
_
et Σ =
_
Σ
11
Σ
12
Σ
21
Σ
22
_
Alors X
1
∼ N
p
1

1
, Σ
11
).
Ceci montre donc que tous les v.a. extraits d’un v.a. de loi normale
multivari´ee sont ´egalement de loi normale.
D´efinitions, propri´et´es de base
(iv) Soit µ ∈ R
p
et Σ ∈ R
p×p
sym´etrique et semi-d´efini positive
(on ´ecrit: Σ ≥ 0), alors il y a un vecteur al´eatoire X ∼ N
p
(µ, Σ).
Preuve: Le th´eor`eme spectral implique, que
Σ = OΛO

,
o` u Λ ≥ 0 (p ×p) est une matrice diagonale et O (p ×p) est une
matrice orthogonale (O

O = I
p
). Donc si on d´efinit A = OΛ
1/2
O

et Z ∼ N
p
(0, I
p
), alors µ + AZ
D
= N
p
(µ, Σ).
(v) Comme dans le cas standard (i.e., µ = 0 et Σ = I
p
),
X ∼ N
p
(µ, Σ) a des moments finis de tout ordre.
D´efinitions, propri´et´es de base
(vi) Si Σ est une matrice (p ×p) sym´etrique et d´efinie positive (on
´ecrit: Σ > 0), et X ∼ N(µ, Σ), alors la loi d’un tel X est
absolument continue par rapport `a la mesure de Lebesgue et a
pour densit´e
x →f
X
(x) = |A
−1
|f
Z
(A
−1
(x −µ))
=
_
1

_
p
2
1
|A|
exp(−A
−1
(x −µ)
2
/2)
=
_
1

_
p
2
1
|Σ|
1
2
exp(−(x −µ)

Σ
−1
(x −µ)/2),
(nous avons pris A = Σ
1/2
de (iv)).
D´efinitions, propri´et´es de base
(vii) Soit X ∼ N(µ, Σ). Dans le cas Σ > 0, on a Σ = OΛO

avec
Λ > 0. Donc, on peut d´efinir Σ
−1/2
= OΛ
−1/2
O

. Alors
Σ
−1/2
(X −µ) ∼ N(0, I
p
).
C¸a ressemble `a
1
σ
(X −µ) ∼ N(0, 1),
dans le cas o` u X a de loi normale univari´ee N(µ, σ).
D´efinitions, propri´et´es de base
Proposition: X ∼ N
p
(µ, Σ) ⇔ ∀a ∈ R
p
\{0},
a

X ∼ N
1
(a

µ, a

Σa).
Preuve:
(⇒) ∀t ∈ R, on a
ϕ
a

X
(t) = ϕ
X
(ta) = e
i (ta)

µ
e
−(ta)

Σ(ta)/2
= e
it(a

µ)
e
−(a

Σa)t
2
/2
= ϕ
Y
(t),
o` u Y ∼ N
1
(a

µ, a

Σa), de sorte que a

X ∼ N
1
(a

µ, a

Σa).
(⇐) ∀t ∈ R
p
\{0}, on a
ϕ
X
(t) = ϕ
t

X
(1) = e
i ×1×(t

µ)
e
−(t

Σt)×1
2
/2
= e
it

µ
e
−t

Σt/2
= ϕ
Y
(t),
o` u Y ∼ N
p
(µ, Σ). Bien entendu, on a aussi ϕ
X
(0) = 1 = ϕ
Y
(0).
Donc X ∼ N
p
(µ, Σ).
D´efinitions, propri´et´es de base
Il ne suffit pas que toutes les marges multivari´ees soient de loi
normale pour que le vecteur lui-mˆeme soit de loi normale!
Exemple:
Soit X = (X
1
, X
2
)

, o` u X
1
∼ N(0, 1) et X
2
= δX
1
, o` u δ est
independante de X
1
est P(δ = ±1) =
1
2
.
Alors on v´erifie facilement que

X
2
∼ N(0, 1) (exercice), mais que

X n’est pas de loi normale bivari´ee.
Ce second point est obtenu en observant que
P(X
1
+ X
2
= 0) =
1
2
,
et par consequence a

X, avec a = (1, 1)

, n’est pas de loi normal.
D´efinitions, propri´et´es de base
500 observations i.i.d. qui ont la loi bivari´ee ci-dessus:
−6 −4 −2 0 2 4 6

6

4

2
0
2
4
6
X_1
X
_
2
D´efinitions, propri´et´es de base
D´efinition: la distance de Mahalanobis entre x et y dans la
m´etrique associ´ee `a Σ (notation: d
Σ
(x, y)) est la quantit´e
_
(x −y)

Σ
−1
(x −y).
La densit´e d’une loi normale p-vari´ee est alors
x →f
X
(x) =
_
1

_
p
2
1
|Σ|
1
2
exp
_
−d
2
Σ
(x, µ)/2
_
;
les courbes de niveau de f
X
sont donc des hyper-ellipso¨ıdes (dans
R
p
) de centre µ et dont la forme et l’orientation sont d´etermin´ees
par Σ.
D´efinitions, propri´et´es de base
500 observations i.i.d. de loi N
2
(µ, Σ), o` u
µ =
_
4
3
_
et Σ =
_
5 3
3 2.25
_
.
−2 0 2 4 6 8 10

2
0
2
4
6
8
1
0
X_1
X
_
2
D´efinitions, propri´et´es de base
Proposition: si X ∼ N
p
(µ, Σ) o` u Σ > 0, d
2
Σ
(X, µ) ∼ χ
2
p
.
Preuve: en utilisant le fait que X
D
= AZ +µ, o` u Z ∼ N
p
(0, I
p
) et
AA

= Σ, on obtient
d
2
Σ
(X, µ) = (X−µ)

Σ
−1
(X−µ)
D
= ((AZ+µ)−µ)

Σ
−1
(AZ+µ)−µ)
= (AZ)

Σ
−1
(AZ) = Z

A

(AA

)
−1
AZ = Z

Z =
p

i =1
Z
2
i
,
qui est bien de loi χ
2
p
, puisque les Z
i
sont i.i.d. N(0, 1) par
d´efinition.
Par cons´equent, l’ellipso¨ıde E
1−α
:= {y ∈ R
p
| d
2
Σ
(y, µ) ≤ χ
2
p;1−α
}
(o` u χ
2
p;1−α
d´esigne le quantile d’ordre 1 −α de la loi χ
2
p
) contient
une masse de probabilit´e d’exactement 1 −α. On parlera de zone
de tol´erance (`a (1 −α) ×100%) .
D´efinitions, propri´et´es de base
500 observations i.i.d. de loi N
2
(0, I
2
) et la zone de tol´erance E
.95
.
−6 −4 −2 0 2 4 6

6

4

2
0
2
4
6
X_1
X
_
2
G
D´efinitions, propri´et´es de base
500 observations i.i.d. de loi N
2
(µ, Σ), o` u
µ =
_
4
3
_
et Σ =
_
5 3
3 2.25
_
.
et la zone de tol´erance E
.95
.
−2 0 2 4 6 8 10

2
0
2
4
6
8
1
0
X_1
X
_
2
G
Plan du cours
2. Loi normale multivari´ee.
2.1. D´efinitions, propri´et´es de base.
2.2. Ind´ependance et normalit´e multivari´ee.
2.3. Lois conditionnelles.
2.4. Loi normale matricielle.
2.5. Loi de Wishart, lemme de Fisher multivari´e.
2.6. TCL multivari´e.
Ind´ependance et normalit´e multivari´ee
Soit X
1
un p
1
-v.a. et X
2
un p
2
-v.a. On sait que

X
1
⊥ ⊥ X
2
⇒ Cov[X
1
, X
2
] = 0, mais que

la r´eciproque n’est pas vraie en g´en´eral
(exemple: p
1
= p
2
= 1, X
1
∼ N
1
(0, 1) et X
2
= (X
1
)
2
).
Le r´esultat suivant montre que la r´eciproque tient dans le cas o` u
X = (X

1
, X

2
)

est de loi normale p-vari´ee (p = p
1
+ p
2
).
Proposition: soit X = (X

1
, X

2
)

∼ N
p
(µ, Σ), o` u X
i
est un p
i
-v.a.
(i = 1, 2) et o` u
µ =
_
µ
1
µ
2
_
et Σ =
_
Σ
11
Σ
12
Σ
21
Σ
22
_
Alors X
1
⊥ ⊥ X
2
ssi Σ
12
= 0.
Remarque: Σ
12
= Cov[X
1
, X
2
].
Ind´ependance et normalit´e multivari´ee
Preuve:
(⇒) Prouv´e au 1er chapitre (sans hypoth`ese de normalit´e).
(⇐) Par d´efinition,
X = AZ +µ,
o` u Z ∼ N
p
(0, I
p
) et o` u A est une matrice (p ×p) quelconque telle
que AA

= Σ. Clairement, puisque Σ
12
= 0, on peut prendre
A =
_
A
11
0
0 A
22
_
,
o` u A
ii
est une matrice (p
i
×q
i
) telle que A
ii
A

ii
= Σ
ii
(i = 1, 2).
On obtient alors
_
X
1
X
2
_
= X = AZ +µ =
_
A
11
Z
1

1
A
22
Z
2

2
_
=
_
h
1
(Z
1
)
h
2
(Z
2
)
_
,
ce qui montre que X
1
⊥ ⊥ X
2
(puisque Z
1
⊥ ⊥ Z
2
).
Ind´ependance et normalit´e multivari´ee
Vice versa, il convient la suivante:
Proposition: soit X = (X

1
, X

2
)

, o` u X
i
∼ N
p
i

i
, Σ
i
) (i = 1, 2)
sont ind´ependants. Alors X ∼ N
p
1
+p
2
(µ, Σ), o` u
µ =
_
µ
1
µ
2
_
et Σ =
_
Σ
1
0
0 Σ
2
_
.
En utilisant la proposition, on obtient pour n p-v.a. independants
et de la loi normal, que X = (X

1
, . . . , X

n
)

∼ N
np
(µ, Σ), o` u
µ =
_
_
_
µ
1
.
.
.
µ
n
_
_
_
et Σ =
_
_
_
Σ
1
0
.
.
.
0 Σ
n
_
_
_
.
Ind´ependance et normalit´e multivari´ee
Corollaire: soient X
i
, i = 1, . . . , n des p-v.a. ind´ependants tels que
X
i
∼ N
p

i
, Σ
i
). Soient c
i
, d
i
, i = 1, . . . , n des constantes r´eelles. Alors

(i)

n
i =1
c
i
X
i
∼ N
p
(

n
i =1
c
i
µ
i
,

n
i =1
c
2
i
Σ
i
);

(ii)
_

n
i =1
c
i
X
i

n
i =1
d
i
X
i
_
∼ N
2p
_
_

n
i =1
c
i
µ
i

n
i =1
d
i
µ
i
_
,
_

n
i =1
c
2
i
Σ
i

n
i =1
c
i
d
i
Σ
i

n
i =1
c
i
d
i
Σ
i

n
i =1
d
2
i
Σ
i
_
_
;

(iii) si Σ
i
= Σ
1
∀i ,
(

n
i =1
c
i
X
i
) ⊥ ⊥ (

n
i =1
d
i
X
i
) ⇔

n
i =1
c
i
d
i
= 0.
Ind´ependance et normalit´e multivari´ee
Preuve: (i) et (ii) d´ecoulent de BX ∼ N
p
(Bµ, BΣB

), o` u
B = (c
1
I
p
. . . c
n
I
p
) et B =
_
c
1
I
p
. . . c
n
I
p
d
1
I
p
. . . d
n
I
p
_
.
(iii) est une cons´equence directe du fait que la non-corr´elation des
marges ´equivaut `a leur ind´ependance pour les v.a. normaux.
Corollaire: soient X
i
, i = 1, . . . , n des p-v.a. i.i.d. de loi N
p
(µ, Σ).
Alors
¯
X :=
1
n

n
i =1
X
i
∼ N
p
(µ,
1
n
Σ).
Plan du cours
2. Loi normale multivari´ee.
2.1. D´efinitions, propri´et´es de base.
2.2. Ind´ependance et normalit´e multivari´ee.
2.3. Lois conditionnelles.
2.4. Loi normale matricielle.
2.5. Loi de Wishart, lemme de Fisher multivari´e.
2.6. TCL multivari´e.
Lois conditionnelles
Proposition: soit X = (X

1
, X

2
)

∼ N
p
(µ, Σ), o` u X
i
est un p
i
-v.a.
(i = 1, 2), Σ > 0 et o` u
µ =
_
µ
1
µ
2
_
et Σ =
_
Σ
11
Σ
12
Σ
21
Σ
22
_
.
Alors X
2
| X
1
= x
1
∼ N
p
2

2
+ Σ
21
Σ
−1
11
(x
1
−µ
1
), Σ
22.1
), o` u
Σ
22.1
:= Σ
22
−Σ
21
Σ
−1
11
Σ
12
.
Remarques:

la variance de X
2
| X
1
= x
1
ne d´epend pas de x
1
. Ce
ph´enom`ene est connu sous le nom d’homosc´edasticit´e.

La variance des lois conditionnelles est plus petite que celle
des lois originales.
En effet, Var[X
2
] −Var[X
2
|X
1
= x
1
]
= Σ
22
−Σ
22.1
= Σ
21
Σ
−1
11
Σ
12
≥ 0.
Lois conditionnelles
Preuve: Σ
11
est d´efinie positive (puisque c’est le cas de Σ), et est
donc aussi inversible. Bien entendu, X −µ ∼ N
p
(0, Σ). Donc, en
posant
B =
_
I
p
1
0
−Σ
21
Σ
−1
11
I
p
2
_
on obtient B(X −µ) ∼ N
p
(0, BΣB

), o` u
B(X −µ) =
_
X
1
−µ
1
−Σ
21
Σ
−1
11
(X
1
−µ
1
) + (X
2
−µ
2
)
_
et
BΣB

=
_
Σ
11
0
0 Σ
22.1
_
.
Nous posons Y := −Σ
21
Σ
−1
11
(X
1
−µ
1
) + (X
2
−µ
2
).
Lois conditionnelles
Alors
Y ∼ N
p
2
(0, Σ
22.1
),
X
2
= µ
2
+ Y + Σ
21
Σ
−1
11
(X
1
−µ
1
),
X
1
⊥ ⊥ Y,
et donc
E
_
exp(it

X
2
)|X
1
= x
1
¸
= E
_
exp(it


2
+ Y + Σ
21
Σ
−1
11
(X
1
−µ
1
)])|X
1
= x
1
¸
= exp(it


21
Σ
−1
11
(x
1
−µ
1
)]) × E
_
exp(it


2
+ Y])|X
1
= x
1
¸
. ¸¸ .
=E[exp(it


2
+Y])] puisque X
1
⊥ ⊥ Y
= exp(it


21
Σ
−1
11
(x
1
−µ
1
) +µ
2
]) ×E
_
exp(it

Y)
¸

Plan du cours
2. Loi normale multivari´ee.
2.1. D´efinitions, propri´et´es de base.
2.2. Ind´ependance et normalit´e multivari´ee.
2.3. Lois conditionnelles.
2.4. Loi normale matricielle.
2.5. Loi de Wishart, lemme de Fisher multivari´e.
2.6. TCL multivari´e.
Loi normale matricielle
Pour d´efinir la loi normale matricielle, nous aurons besoin des deux
notations suivantes, qui sont classiques en analyse multivari´ee.
D´efinition: soient A = (A
1
. . . A
n
) = (a
ij
) une matrice m ×n et B
une matrice p ×q. Alors
vec A =
_
_
_
A
1
.
.
.
A
n
_
_
_
et A ⊗B =
_
_
a
11
B . . . a
1n
B
.
.
.
.
.
.
a
m1
B . . . a
mn
B
_
_
.
Remarques:

A ⊗B est appel´e le produit de Kronecker de A et B.

A ⊗B est de taille mp ×nq.

En g´en´eral, A ⊗B = B ⊗A.
Loi normale matricielle
Propri´et´es:
Pour toute matrice A, A
1
, A
2
, B, B
1
, B
2
, C et pour tout r´eel λ, µ,

(A
1
+ A
2
) ⊗B = A
1
⊗B + A
2
⊗B et
A ⊗(B
1
+ B
2
) = A ⊗B
1
+ A ⊗B
2
.

(A ⊗B) ⊗C = A ⊗(B ⊗C).

(A
1
⊗B
1
)(A
2
⊗B
2
) = (A
1
A
2
) ⊗(B
1
B
2
), (A ⊗B)

= A

⊗B

et (A ⊗B)
−1
= A
−1
⊗B
−1
.

tr[A ⊗B] = (tr A)(tr B) et, si A (m ×m) et B (n ×n),
det[A ⊗B] = (det A)
n
(det B)
m
.

A, B > 0 ⇒ A ⊗B > 0.
On a aussi (et surtout) les liens suivants entre “vec” et “⊗”:

(vec A)

(vec B) = tr[A

B] et vec (ABC) = (C

⊗A)(vec B).
Loi normale matricielle
Soit X une matrice al´eatoire de dimension n ×p.
D´efinition: X est de loi normale de moyenne M et de
variance-covariance Ω (notation: X ∼ N
n,p
(M, Ω)) ⇔
vec X

∼ N
np
(vec M

, Ω).
Exemple: posons 1
n
= (1, 1, . . . , 1)

∈ R
n
. Alors, si X
1
, . . . , X
n
sont i.i.d. N
p
(µ, Σ), la matrice ´echantillon
X =
_
X

1
.
.
.
X

n
_
∼ N
n,p
_
1
n
⊗µ

, I
n
⊗Σ
_
puisque vec X

= (X

1
, . . . , X

n
)

∼ N
np
(1
n
⊗µ, I
n
⊗Σ), o` u
1
n
⊗µ = vec (1
n
⊗µ

)

.
Loi normale matricielle
Le r´esultat suivant indique comment une matrice al´eatoire de loi
normale se comporte sous l’application de “transformations
lin´eaires”.
Proposition: soit X ∼ N
n,p
(M, Ω) et soient A, B des matrices de
dimensions respectives (r ×n) et (p ×s). Alors
AXB ∼ N
r ,s
(AMB, (A ⊗B

)Ω(A ⊗B

)

).
Preuve: On a vu que vec (AXB)

= (A ⊗B

)(vec X

) ∼
N
rs
((A ⊗B

)(vec M

), (A ⊗B

)Ω(A ⊗B

)

).
Exemple: Si X d´esigne la matrice ´echantillon dans la situation
ci-dessus, on a que
¯
X

= n
−1
1

n
XI
p
∼ N
1,p

,
1
n
Σ), ce qui signifie
bien que
¯
X = vec (
¯
X

)

∼ N
p
(µ,
1
n
Σ).
Plan du cours
2. Loi normale multivari´ee.
2.1. D´efinitions, propri´et´es de base.
2.2. Ind´ependance et normalit´e multivari´ee.
2.3. Lois conditionnelles.
2.4. Loi normale matricielle.
2.5. Loi de Wishart, lemme de Fisher multivari´e.
2.6. TCL multivari´e.
Lemme de Fisher multivari´e
Nous savons que l’inf´erence statistique dans de nombreux mod`eles
(gaussiens) univari´es est fond´ee sur le lemme de Fisher:
Proposition: soient X
1
, . . . , X
n
i.i.d. N
1
(µ, σ
2
). Alors, en notant
¯
X :=
1
n

n
i =1
X
i
et S :=
1
n−1

n
i =1
(X
i

¯
X)
2
, on a

(i)
¯
X ∼ N
1
(µ,
σ
2
n
),

(ii) (n −1)S ∼ σ
2
χ
2
n−1
, et

(iii)
¯
X ⊥ ⊥ S.
Notre but est ici d’´etendre ce r´esultat au cas multivari´e :
Proposition: soient X
1
, . . . , X
n
i.i.d. N
p
(µ, Σ). Alors

(i)
¯
X ∼ N
p
(µ,
1
n
Σ),

(ii) S ∼ ?, et

(iii)
¯
X ⊥ ⊥ S.
Lemme de Fisher multivari´e
Nous savons d´ej`a que
¯
X ∼ N
p
(µ,
1
n
Σ). Pour montrer que
¯
X ⊥ ⊥ S,
nous aurons besoin du lemme suivant.
Lemme: soient P, Q deux matrices de projection sur R
n
(i.e., deux
matrices sym´etriques et idempotentes de dimension n ×n).
Supposons que PQ = 0. Si X ∼ N
n,p
(0, I
np
), alors PX ⊥ ⊥ QX.
Preuve: Tous les composants de X sont ind´ependantes. Alors
PX
i
⊥ ⊥ QX
j
si i = j (o` u X
i
est la i -`eme colonne de X). Dans le cas
i = j , on obtient que
Cov(PX
i
, QX
i
) = E[PX
i
(QX
i
)

] = PE[X
i
X

i
]Q = PQ = 0.

Lemme de Fisher multivari´e
Proposition: soient X
1
, . . . , X
n
i.i.d. N
p
(µ, Σ). Alors
¯
X ⊥ ⊥ S.
Preuve:
En ´ecrivant, X
i
D
= AZ
i
+µ (o` u Σ = AA

et les Z
i
sont i.i.d. N
p
(0, I
p
)),
on a
¯
X = A
¯
Z +µ et S = AS
z
A

, de sorte qu’il suffit de montrer
que
¯
Z ⊥ ⊥ S
z
.
Pour ce faire, posons P =
1
n
1
n
1

n
, Q = I
n
−P et
Z = (Z
1
, . . . , Z
n
)

. On v´erifie alors tr`es facilement (exercice) que

Z ∼ N
n,p
(0, I
np
)

¯
Z =
_
PZ
_

1
n
.

S
z
= (n −1)
−1
(QZ)

(QZ).
La proposition d´ecoule donc du lemme pr´ec´edent.
Lemme de Fisher multivari´e
Il ne nous reste donc qu’`a pr´eciser/´etablir le point (ii) du lemme de
Fisher multivari´e:
Proposition (lemme de Fisher): soient X
1
, . . . , X
n
i.i.d. N
p
(µ, Σ).
Alors

(i)
¯
X ∼ N
p
(µ,
1
n
Σ).

(ii) S ∼ ?

(iii)
¯
X ⊥ ⊥ S.
Que faut-il ´ecrire `a la place de “ ? ”
Une extension multivari´ee de la loi χ
2
n−1
...
Loi de Wishart
D´efinition: soit V une matrice al´eatoire p ×p. Alors

V est de loi de Wishart `a m degr´es de libert´e (notation:
V ∼ W
p
(m)) ⇔ V
D
=

m
i =1
Z
i
Z

i
, o` u les Z
i
sont i.i.d.
N
p
(0, I
p
).

V est de loi de Wishart de param`etre Σ (une matrice p ×p
sym´etrique et d´efinie positive) `a m degr´es de libert´e (notation:
V ∼ W
p
(m, Σ)) ⇔ V
D
=

m
i =1
X
i
X

i
, o` u les X
i
sont i.i.d.
N
p
(0, Σ).
Loi de Wishart
Remarques:

V ∼ W
1
(m) ⇔ V ∼ χ
2
m
(et V ∼ W
1
(m, σ
2
) ⇔ V/σ
2
∼ χ
2
m
);
la loi
de Wishart g´en´eralise donc bien la loi χ
2
dans le cas multivari´e.

En ´ecrivant comme d’habitude X
i
D
= AZ
i
(o` u Σ = AA

et les
Z
i
sont i.i.d. N
p
(0, I
p
)), on voit que V ∼ W
p
(m, Σ) ⇔
V
D
= AV
0
A

, o` u V
0
∼ W
p
(m).
Lemme de Fisher multivari´e
Nous pouvons maintenant compl´eter le lemme de Fisher multivari´e:
Proposition (lemme de Fisher): soient X
1
, . . . , X
n
i.i.d. N
p
(µ, Σ).
Alors

(i)
¯
X ∼ N
p
(µ,
1
n
Σ).

(ii) (n −1)S ∼ W
p
(n −1, Σ) .

(iii)
¯
X ⊥ ⊥ S.
Preuve: il ne reste plus qu’`a prouver (ii).
Pour ce faire, ´ecrivons une fois de plus X
i
D
= AZ
i
(o` u Σ = AA

et
les Z
i
sont i.i.d. N
p
(0, I
p
)). Alors
(n −1)S = A[(n −1)S
z
]A

,
de sorte qu’il suffit de montrer que (n −1)S
z
∼ W
p
(n −1).
Lemme de Fisher multivari´e
Posons comme plus haut Q = I
n

1
n
1
n
1

n
. Nous determinons la
d´ecomposition spectrale:
|Q −λI
n
| = det
_
_
1 −λ −
1
n

1
n

1
n

1
n

1
n

1
n
1 −λ −
1
n

1
n

1
n

1
n

1
n

1
n
1 −λ −
1
n

1
n

1
n

1
n

1
n

1
n
1 −λ −
1
n

1
n

1
n

1
n

1
n

1
n
1 −λ −
1
n
_
_
= det
_
1 −λ 0 0 0 −(1 −λ)
0 1 −λ 0 0 −(1 −λ)
0 0 1 −λ 0 −(1 −λ)
0 0 0 1 −λ −(1 −λ)

1
n

1
n

1
n

1
n
1 −λ −
1
n
_
= det
_
1 −λ −(1 −λ) −(1 −λ) −(1 −λ) −2(1 −λ)
0 1 −λ 0 0 −(1 −λ)
0 0 1 −λ 0 −(1 −λ)
0 0 0 1 −λ −(1 −λ)

1
n
0 0 0 1 −λ
_
= det
_
1 −λ 0 0 0 −n(1 −λ)
0 1 −λ 0 0 −(1 −λ)
0 0 1 −λ 0 −(1 −λ)
0 0 0 1 −λ −(1 −λ)

1
n
0 0 0 1 −λ
_
Lemme de Fisher multivari´e
= det
_
1 −λ 0 0 0 −n(1 −λ)
0 1 −λ 0 0 −(1 −λ)
0 0 1 −λ 0 −(1 −λ)
0 0 0 1 −λ −(1 −λ)

1
n
0 0 0 1 −λ
_
= det
_
1 −λ 0 0 0 −n(1 −λ)
0 1 −λ 0 0 0
0 0 1 −λ 0 0
0 0 0 1 −λ 0

1
n
0 0 0 1 −λ
_
= det
_
1 −λ 0 0 0 0
0 1 −λ 0 0 0
0 0 1 −λ 0 0
0 0 0 1 −λ 0

1
n
0 0 0 −λ
_
= (1 −λ)
n−1
(−λ).
Donc, les valeurs propres de Q sont 1, . . . , 1
. ¸¸ .
×(n−1)
, 0.
Lemme de Fisher multivari´e
Alors Q admet une d´ecomposition spectrale de la forme
Q = OΛO

, o` u Λ :=
_
1
.
.
.
1
0
_
et o` u O est orthogonale. Donc, en posant Z = (Z
1
, . . . , Z
n
)

(∼ N
n,p
(0, I
np
)), on a
(n −1)S
z
= (QZ)

(QZ) = Z

QZ = (O

Z)

Λ(O

Z) = Y

ΛY
o` u Y = (Y
1
, . . . , Y
n
)

= O

Z ∼ N
n,p
(0, I
np
) (de sorte que les Y
i
sont aussi i.i.d. N
p
(0, I
p
)). Ceci fournit le r´esultat, puisque
(n −1)S
z
= Y

ΛY =
n−1

i =1
Y
i
Y

i
∼ W
p
(n −1).
Plan du cours
2. Loi normale multivari´ee.
2.1. D´efinitions, propri´et´es de base.
2.2. Ind´ependance et normalit´e multivari´ee.
2.3. Lois conditionnelles.
2.4. Loi normale matricielle.
2.5. Loi de Wishart, lemme de Fisher multivari´e.
2.6. TCL multivari´e.
TCL multivari´e
Nous terminons ce chapitre en ´etendant au cas multivari´e le
th´eor`eme central limite.
Proposition: soient X
1
, X
2
, . . . des p-v.a. i.i.d., avec des moments
finis d’ordre 2. Notons µ = E[X
1
], Σ = Var[X
1
] et
¯
X
(n)
=
1
n

n
i =1
X
i
.
Alors, si n →∞,

n
_
¯
X
(n)
−µ
_
L
→N
p
(0, Σ).
Preuve:
Fixons u ∈ R
p
tel que u = 1, et posons Y
i
= u

X
i
(i = 1, 2, . . .)
Clairement, les Y
i
sont i.i.d. et leur loi commune, qui admet des
moments finis d’ordre 2, a pour moyenne E[Y
1
] = u

µ et pour
variance Var[Y
1
] = u

Σu(> 0). Le TCL univari´e livre donc que
u

_

n
_
¯
X
(n)
−µ
_
_
=

n
_
1
n
n

i =1
u

X
i
−u

µ
_
L
→N
1
(0, u

Σu).
Le th´eor`eme de Cram´er-Wold permet donc de conclure.