R´eseaux des groupes de Lie

(Version pr´eliminaire)
Yves Benoist
Cours de M2 `a Paris 6 en 07-08
Introduction
Le but de ce cours est l’interrelation entre la th´eorie des nombres
et la th´eorie ergodique ` a travers la th´eorie des groupes. Les espaces
homog`enes de volume fini et plus particuli`erement la dynamique des
actions par translation sur ces espaces seront l’objet central de ce
cours.
Un r´eseau est un sous-groupe discret de covolume fini. Les pro-
totypes de r´eseaux sont les sous-groupes qui, comme le sous-groupe
SL(d, Z) du groupe SL(d, R), sont construits par des m´ethodes arith-
m´etiques. D’une part, l’existence de ce volume fini permet d’utiliser
des m´ethodes issues des syst`emes dynamiques et de la th´eorie ergo-
dique. D’autre part, la provenance arithm´etique de ces groupes est ` a
la source de nombreuses applications. Enfin, l’utilisation de tous les
corps locaux permet d’´etendre consid´erablement le champ d’applica-
tions.
Sommaire pr´evu :
- Structure des groupes de Lie semisimples, d´ecomposition de Cartan.
- Exemples de r´eseaux.
- M´elange. Th´eor`eme de Howe-Moore.
- Comptage de points dans les r´eseaux. Th´eor`eme d’Eskin-McMullen.
- Vari´et´e drapeau. Th´eor`eme de Furstenberg.
- Repr´esentation des r´eseaux. Th´eor`eme de superrigidit´e de Margulis.
- Corps locaux. Th´eor`eme d’arithm´eticit´e de Margulis.
- R´ecurrence. Th´eor`eme de Dani-Margulis.
- Th´eor`eme ergodique de Birkhoff. Entropie.
- Flots unipotents, mesures invariantes, ´equidistribution et ferm´es invariants.
- Th´eor`emes de Ratner et applications.
R´ef´erences :
- M. Raghunathan : Discrete subgroups of Lie groups, Springer (1972)
- R. Zimmer : Ergodic theory and semisimple groups,Birkhauser (1984)
- G. Margulis : Discrete subgroups of semisimple Lie groups, Springer (1991)
- D. Witte-Morris : Ratner’s theorems on unipotent flows, Chicago LMS(2004)
- Y. Benoist : Five lectures on lattices, SMF (2008).
1
Table des mati`eres
1 Construction de r´eseaux 4
1.1 Un exemple : le groupe orthogonal . . . . . . . . . . . . . . . . . . . . . . . . . . 4
1.2 R´ecurrence des marches al´eatoires . . . . . . . . . . . . . . . . . . . . . . . . . . 5
1.3 Marches al´eatoires lin´eaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
1.4 L’espace des r´eseaux . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
1.5 Construction d’une fonction f . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.6 Application au groupe orthogonal . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
2 Alg`ebres de Lie semisimples 14
2.1 Alg`ebres de Lie nilpotentes et r´esolubles . . . . . . . . . . . . . . . . . . . . . . . 14
2.2 Alg`ebres de Lie semisimples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
2.3 Repr´esentations de sl
2
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
2.4 El´ements nilpotents et sl
2
-triplets . . . . . . . . . . . . . . . . . . . . . . . . . . 20
2.5 Syst`emes de racines . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22
3 Groupes de Lie semisimples 25
3.1 Groupes de Lie compacts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
3.2 Involutions de Cartan . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27
3.3 Sous-alg`ebres de Cartan . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28
3.4 Sous-espaces de Cartan . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29
3.5 D´ecomposition de Cartan et Iwasawa . . . . . . . . . . . . . . . . . . . . . . . . . 30
3.6 Sous-groupes paraboliques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
3.7 Exemples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
4 Groupes alg´ebriques 34
4.1 Vari´et´es alg´ebriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
4.2 Groupes alg´ebriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36
4.3 Actions alg´ebriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37
4.4 El´ements semisimples et unipotents . . . . . . . . . . . . . . . . . . . . . . . . . . 39
4.5 Groupes alg´ebriques (suite) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40
5 Groupes arithm´etiques 42
5.1 Groupes arithm´etiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
5.2 Strat´egie de d´emonstration du th´eor`eme 5.4.a . . . . . . . . . . . . . . . . . . . . 44
5.3 Le plongement dans l’espace des r´eseaux . . . . . . . . . . . . . . . . . . . . . . . 45
5.4 Le cas Q-simple et Q-isotrope . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45
5.5 Le cas Q-simple et Q-anisotrope . . . . . . . . . . . . . . . . . . . . . . . . . . . 46
5.6 Le cas r´eductif . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47
5.7 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48
6 M´elange et comptage 49
6.1 Repr´esentations unitaires et m´elange . . . . . . . . . . . . . . . . . . . . . . . . 49
6.2 Vecteurs invariants pour SL(2) . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51
6.3 D´ecroissance des coefficients . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 52
6.4 Comptage des points d’un r´eseau . . . . . . . . . . . . . . . . . . . . . . . . . . . 54
6.5 Equidistribution des grandes sph`eres . . . . . . . . . . . . . . . . . . . . . . . . . 54
6.6 Comptage faible . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
6.7 Estimation de volumes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57
2
7 R´eseaux 59
7.1 Zariski densit´e des r´eseaux . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59
7.2 R´eseaux irr´eductibles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61
7.3 Groupes moyennables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63
7.4 L’application aux bords . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64
8 Th´eorie ergodique 66
8.1 Probabilit´es ergodiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66
8.2 Dynamique des transformations ergodiques . . . . . . . . . . . . . . . . . . . . . 66
8.3 Th´eor`eme ergodique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68
8.4 Martingales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 69
9 Mesures stationnaires 73
9.1 Existence d’une mesure limite . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 73
9.2 Contraction et proximalit´e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 75
9.3 Proximalit´e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 77
9.4 Mesures stationnaires K-invariantes . . . . . . . . . . . . . . . . . . . . . . . . . 78
10 Superrigidit´e 81
10.1 Superrigidit´e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 81
10.2 Valeurs propres de mˆeme module . . . . . . . . . . . . . . . . . . . . . . . . . . . 83
10.3 Construction de Θ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 84
10.4 L’espace E des translat´es de Θ . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86
10.5 Prolongement de π `a G . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89
11 Arithm´eticit´e 90
11.1 Groupes arithm´etiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 90
11.2 Les r´eseaux sont de type fini . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91
11.3 Alg´ebricit´e des valeurs propres . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91
11.4 Corps de d´efinition de G . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 92
11.5 Restriction de K `a Q . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93
12 Mesures invariantes 96
12.1 Mesures U-invariantes sur SL(2,R)/Γ . . . . . . . . . . . . . . . . . . . . . . . . . 96
12.2 Petites valeurs des formes quadratiques . . . . . . . . . . . . . . . . . . . . . . . 100
13 R´ecurrence des groupes unipotents 105
13.1 Le cas d = 2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105
13.2 Pr´eliminaires sur les r´eseaux . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105
13.3 Autres lemmes pr´eliminaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107
13.4 La r´ecurrence qui prouve la r´ecurrence . . . . . . . . . . . . . . . . . . . . . . . . 108
3
1 Construction de r´eseaux
Ce premier chapitre donne un bon aper¸cu de l’ensemble du cours.
On y trouvera d´ej`a la mixture th´eorie des nombres + th´eorie er-
godique + th´eorie des groupes propre `a ce cours. En effet, nous y
montrerons, pour les groupes orthogonaux, le th´eor`eme de Borel et
Harish-Chandra qui affirme que “les groupes arithm´etiques sont des
r´eseaux”.
D’une part, les motivations de cet ´enonc´e sont arithm´etiques : il s’agit d’une
impressionante g´en´eralisation non commutative du th´eor`eme des unit´es de Diri-
chlet.
D’autre part la m´ethode due a Margulis que nous allons utiliser pour le d´e-
montrer est issue de la th´eorie ergodique : nous allons utiliser des propri´et´es de
r´ecurrence de marches al´eatoires ainsi que des propri´et´es de croissance exponen-
tielle des marches al´eatoires lin´eaires. Pour faire fonctionner cette m´ethode, nous
aurons besoin de diverses propri´et´es de l’espace des r´eseaux de R
d
dont le crit`ere
de compacit´e de Mahler.
Ceci nous permettra de d´emontrer le th´eor`eme de Borel Harish-Chandra pour
les groupes orthogonaux (il est dˆ u a Siegel dans ce cas).
Enfin, c’est grˆace ` a la compr´ehension de la structure des groupes alg´ebriques
que nous d´emontrerons par les mˆeme m´ethodes dans le chapitre 5 une version
g´en´erale du th´eor`eme de Borel et Harish-Chandra.
1.1 Un exemple : le groupe orthogonal
Nous allons d´etailler dans cette section notre objectif principal
(proposition 1.3). Pour cela, nous devons d´efinir ce qu’est un r´eseau.
Soit G un groupe localement compact. Rappelons que G admet une mesure
(bor´elienne) positive λ
G
invariante par toutes les translations `a droite x → xg,
que cette mesure est unique ` a multiplication pr`es par un scalaire positif et qu’elle
est appel´ee la mesure de Haar ` a droite de G.
Rappelons qu’un sous-groupe Γ de G est dit discret si la topologie de G induite
sur Γ est discr`ete. La projection p : g → gΓ de G dans X := G/Γ est alors un
revˆetement. On note alors λ
X
la mesure sur X qui co¨ıncide localement via p avec
la mesure de Haar λ
G
,
D´efinition 1.1 Un sous-groupe discret Γ de G est un r´eseau si λ
X
(X) < ∞.
Autrement dit, un sous-groupe discret Γ de G est un r´eseau si il existe une
partie mesurable F de G telle que λ
G
(F) < ∞ et FΓ = G.
Par exemple les sous-groupes discrets cocompacts, i.e. ceux pour lesquels le
quotient X est compact, sont des r´eseaux.
Commen¸cons par une simple remarque.
4
Lemme 1.2 Un groupe localement compact G qui contient un r´eseau Γ est uni-
modulaire
Autrement dit, la mesure de Haar `a droite est aussi invariante ` a gauche. La
mesure λ
X
est donc aussi invariante par translation `a gauche.
D´emonstration La translation `a gauche x →gx par un ´el´ement g de G multiplie
la mesure de Haar ` a droite λ
G
par un scalaire ∆(g). Donc la translation ` a gauche
sur X par un ´el´ement g de G multiplie aussi la mesure λ
X
par ∆(g). Comme Γ
est un r´eseau, le volume total λ
X
(X) est fini. Ce volume est pr´eserv´e par g, on a
donc ∆(g) = 1.
Proposition 1.3 (Siegel) Soient d ≥ 3, Q(x
1
, . . . , x
d
) =
¸
a
i,j
x
i
x
j
une forme
quadratique non d´eg´en´er´ee `a coefficients entiers, G
R
le groupe des transformations
orthogonales `a coefficients r´eels et G
Z
le sous-groupe discret des transformations
orthogonales `a coefficients entiers :
G
R
= O(Q, R) = ¦g ∈ GL(d, R) [ Q◦ g = Q¦ et G
Z
= G
R
∩ GL(d, Z).
Alors G
Z
est un r´eseau dans G
R
.
Remarques - Nous verrons que cette proposition est un cas particulier d’un
´enonc´e bien plus g´en´eral valable pour tous les “Q-groupes sans Q-caract`ere”.
- La m´ethode traditionnelle pour montrer cette proposition consiste ` a construire
explicitement un domaine F dit “domaine de Siegel” et ` a calculer λ
G
(F). C’est la
“th´eorie de la r´eduction”, c.f. [6]. Comme annonc´e, nous allons suivre une m´ethode
plus rapide mais qui ne donne pas d’estimation sur le domaine fondamental.
- Cet ´enonc´e est encore vrai pour d = 2 lorsque la forme quadratique Q est
anisotrope sur Q i.e. lorsque l’´equation Q(x) = 0 n’a pas de solutions enti`eres
non nulles. Cela r´esulte de ce que, pour tout entier p ≥ 2 non carr´e, l’´equation
de Pell-Fermat n
2
−pm
2
= 1 a une infinit´e de solutions enti`eres (n, m).
- Mais cet ´enonc´e est faux pour d = 2 lorsque la forme quadratique Q est
isotrope sur Q i.e. lorsque l’´equation Q(x) = 0 n’a pas de solutions enti`eres non
nulles.
1.2 R´ecurrence des marches al´eatoires
Nous allons commencer par donner dans le corollaire ci-dessous un
crit`ere qui assure que le volume d’une mesure invariante est fini. Ce
crit`ere est bas´e sur des propri´et´es de r´ecurrence de marches al´eatoires.
Soient G un groupe localement compact, X un espace localement compact
et (g, x) → gx une action continue de G sur X. Rappelons qu’une application
continue est propre si l’image inverse de tout compact est compacte.
On suppose
HC Il existe une fonction propre f : X →[0, ∞[, une probabilit´e µ sur G et des
constantes a < 1, b > 0 telles que A
µ
(f) ≤ af + b
5
o` u A
µ
est l’op´erateur de moyennisation donn´e par, pour tout x dans X,
A
µ
(f)(x) =

G
f(gx)dµ(g)
Cet op´erateur A
µ
est donc l’op´erateur de convolution par la probabilit´e ˇ µ image
de µ par l’inversion g →g
−1
.
Remarque Cette hypoth`ese HC signifie que la moyennisation par µ contracte,
` a une constante pr`es, une fonction propre f sur X .
Lemme 1.4 Sous l’hypoth`ese HC, pour tout ε > 0, il existe un compact K ⊂ X
tel que, pour tout point x ∈ X, il existe M = M
x
tel que pour tout n ≥ M,
A
n
µ
(1
K
)(x) ≥ 1 −ε .
o` u 1
K
est la fonction caract´eristique de K.
En outre, l’entier M
x
est uniforme sur les compacts de X.
Ce lemme est un lemme de r´ecurrence pour les marches al´eatoires sur X. En
effet, il affirme que si on marche au hasard sur X en partant du point x, avec
des d´eplacements donn´es par la loi µ, ` a partir d’un moment, la probabilit´e d’ˆetre
hors de K est au plus ε.
D´emonstration D’apr`es l’hypoth`ese HC, on a, pour tout n ≥ 1
A
n
µ
(f) ≤ a
n
f + b(1 + + a
n−1
) ≤ a
n
f + B
avec B =
b
1−a
. Comme f est propre, on peut prendre pour compact
K = ¦y ∈ X [ f(y) ≤
2B
ε
¦
de sort que 1
K
c ≤
ε
2B
f. On a alors les majorations
A
n
µ
(1
K
c)(x) ≤
ε
2B
A
n
µ
(f)(x) ≤
εa
n
2B
f(x) +
ε
2
≤ ε
d`es que n est suffisamment grand pour que f(x) ≤
B
a
n
.
Rappelons qu’une mesure de Radon sur X est une mesure bor´elienne finie sur
les compacts.
Corollaire 1.5 Sous l’hypoth`ese HC, toute mesure de Radon G-invariante ν sur
X est finie.
6
Remarque Nous allons uniquement utiliser l’´egalit´e, pour toute fonction positive
f sur X,

G
A
µ
(f)dν(x) =

G
fdν(x),
c’est-`a-dire le fait que la mesure ν sur X est µ-stationnaire.
D´emonstration D’apr`es le lemme 1.4 avec ε =
1
2
, il existe un compact K ⊂ X
tel que pour tout compact L ⊂ X et n suffisamment grand on a
ν(L) ≤ 2

X
A
n
µ
(1
K
)(x)dν(x) = 2

X
1
K
(x)dν(x) = 2ν(K).
L’hypoth`ese HC assure aussi que X est une r´eunion d´enombrable de compacts,
on a donc ν(X) = sup
L
ν(L) ≤ 2ν(K).
1.3 Marches al´eatoires lin´eaires
Dans cette partie, nous construisons des fonctions ϕ
i
sur lequelles
la moyennisation A
µ
est une contraction. Cette propri´et´e de contrac-
tion est li´ee ` a une propri´et´e de croissance exponentielle pour la marche
al´eatoire lin´eaire associ´ee `a une probabilit´e µ.
Munissons R
d
d’une norme |.| associ´ee `a un produit scalaire euclidien '., .` et
notons aussi |.| la norme euclidienne induite sur l’espace des matrices M(d, R).
Le lemme suivant est un cas particulier ´el´ementaire d’un th´eor`eme de Fursten-
berg sur la croissance exponentielle des marches al´eatoires matricielles.
Notons G = GL(d, R) le groupe lin´eaire et S
+
⊂ G l’ensemble des matrices
sym´etriques d´efinies positives. Soit µ une probabilit´e sur G. Notons supp(µ) le
support de µ et Γ
µ
le plus petit sous-groupe ferm´e de G le contenant. On dit que
µ est sym´etrique si µ = ˇ µ.
Lemme 1.6 On suppose µ sym´etrique, supp(µ) ⊂ S
+
et

G
[ log |g|[dµ(g) < ∞.
Alors pour tout v ∈ R
d
non nul,

G
log(
|gv|
|v|
)dµ(g) ≥ 0
avec ´egalit´e ssi Γ
µ
stabilise la droite Rv.
D´emonstration Notons I
v
le membre de gauche. On calcule en appliquant tout
d’abord l’´egalit´e µ = ˇ µ puis l’in´egalit´e de Cauchy-Schwarz et enfin le fait que les
matrices g sont µ-presque surement sym´etriques :
2

G
log(|gv|)dµ(g) =

G
log(|gv||g
−1
v|)dµ(g)

G
log('gv, g
−1
v`)dµ(g)
= 2

G
log(|v|)dµ(g)
7
Ceci donne la majoration I
v
≥ 0. Par Cauchy-Schwarz, le cas d’´egalit´e dans cette
in´egalit´e n’est atteint que si v est vecteur propre de g
2
pour µ-presque tout g.
Comme les matrices g sont µ-presque sˆ urement d´efinies positives, v est alors aussi
vecteur propre de g et la droite engendr´ee par v est stabilis´ee par Γ
µ
.
Pour 1 ≤ i ≤ d, on note encore |.| la norme euclidienne naturelle sur les
puissances ext´erieures Λ
i
R
d
: c’est l’unique norme euclidienne pour laquelle le
produit ext´erieur v = v
1
∧ ∧ v
i
d’une famille orthonorm´ee est de norme 1. Le
groupe G = GL(d, R) agit naturellement sur Λ
i
R
d
par l’´egalit´e gv = gv
1
∧ ∧gv
i
.
Il laisse invariant le cˆone W
i
⊂ Λ
i
R
d
des vecteurs d´ecomposables non nuls
W
i
:= ¦v = v
1
∧ ∧ v
i
= 0 [ v
j
∈ R
d
¦.
Le quotient G
d
i
de ce cˆ one W
i
par les homoth´eties positives est la Grassmanienne
des i-plans de R
d
. On note ϕ
i
: W
i
→]0, ∞[ la fonction sur W
i
donn´ee par
ϕ
i
(v) = |v|
−1
pour tout v ∈ W
i
.
Corollaire 1.7 On suppose µ sym´etrique, supp(µ) ⊂ S
+
, supp(µ) compact et
que l’action de Γ
µ
dans R
d
est irr´eductible. Alors il existe δ > 0 et a
0
< 1 tels
que, pour tout 0 < i < d, on a A
µ

δ
i
) ≤ a
0
ϕ
δ
i
.
Remarques - L’hypoth`ese d’irr´educibilit´e signifie que R
d
ne contient pas de sous-
espace vectoriel Γ
µ
invariant.
- La mesure G-invariante sur W
i
est de masse totale infinie... cela ne contredit
pas le corollaire 1.5 car la fonction ϕ
δ
i
: W
i
→[0, ∞[ n’est pas propre.
D´emonstration Le lemme 1.6 assure que pour tout v dans W
i
, l’int´egrale
I
v
=

G
log(
|gv|
|v|
)dµ(g) est non n´egative : I
v
≥ 0. Mieux, comme l’hypoth`ese d’ir-
r´educibilit´e assure que l’action de Γ
µ
sur la grassmanienne G
d
i
n’a pas de points
fixes, on a I
v
> 0. Comme la grassmanienne est compacte et que l’application
v → I
v
est continue, il existe une constante C > 0 telle que I
v
≥ 2C, pour tout
v ∈ W
i
.
Posons M = sup¦log(max(|g|
d
, |g|
−d
)) [ g ∈ supp(µ)¦. On remarque que
pour tout r´eel t ∈ [−1, 1], on a la majoration
e
t
≤ 1 + t + t
2
.
On calcule alors, avec δ = min(1/M, C/M
2
),
A
µ

δ
i
)(v)
ϕ
δ
i
(v)
=

G
e
−δ log(
gv
v
)
dµ(g)
≤ 1 −δ

G
log(
|gv|
|v|
)dµ(g) + δ
2

G

log(
|gv|
|v|
)

2
dµ(g)
≤ 1 −2Cδ + M
2
δ
2
≤ 1 −Cδ.
Il suffit de prendre a
0
= 1 −Cδ.
8
1.4 L’espace des r´eseaux
Pour construire la fonction f v´erifiant HC, nous aurons besoin de
quelques propri´et´es de l’espace des r´eseaux de R
d
, que nous d´emon-
trons dans cette section. Nous r´eutiliserons plus tard ces propri´et´es
pour d´emontrer les th´eor`emes de Ratner.
Rappelons qu’un r´eseau de R
d
est un sous-groupe discret de R
d
qui est ab´elien
libre de rang d. L’ensemble X
t
des r´eseaux de R
d
est une vari´et´e comme espace
quotient X
t
:= GL(d, R)/SL
±
(d, Z). Par d´efinition de la topologie quotient, une
suite ∆
n
de r´eseaux de R
d
converge vers un r´eseau ∆ de R
d
ssi il existe une base
f
n,1
, . . . , f
n,d
de ∆
n
qui converge vers une base f
1
, . . . , f
d
de ∆.
Soit ∆ un r´eseau de R
d
. Un sous-espace vectoriel L de R
d
est dit ∆-rationnel
si ∆ ∩ L est un r´eseau de L. On note alors d(L) = d

(L) := |v
1
∧ ∧ v
i
| o` u
v
1
, . . . , v
i
est une base de ∆∩L. Cette quantit´e ne d´epend pas du choix de la base.
Le r´eel d

= covol(∆) := d

(R
d
) est le covolume de ∆. On note X l’ensemble
des r´eseaux de covolume 1.
Pour construire notre fonction propre f, nous aurons besoin d’un crit`ere simple
et utile de compacit´e dans l’espace des r´eseaux. Le voici.
Proposition 1.8 (Mahler) Une partie Y ⊂ X
t
de l’espace des r´eseaux de R
d
est relativement compacte ssi il existe α, β > 0 tels que, pour tout ∆ ∈ Y
d

≤ α et inf
v∈∆−0
|v| ≥ β.
Autrement dit les parties relativement compactes sont caract´eris´ees par une
majoration du covolume et de l’inverse de la systole α
1
(∆) = ( inf
v∈∆−0
|v|)
−1
.
Corollaire 1.9 La fonction α
1
: X →[0, ∞[ est continue et propre.
Pour montrer le crit`ere de compacit´e de Mahler, nous utiliserons l’in´egalit´e
d’Hermite-Minkowski si utile en th´eorie des nombres. Notons v
d
le volume de la
boule euclidienne de rayon 1 dans R
d
: v
1
= 2, v
2
= π,...
Lemme 1.10 (Hermite, Minkowski) Tout r´eseau ∆ de R
d
contient un vecteur
non nul de norme |v| ≤ 2(d

/v
d
)
1
d
.
D´emonstration du lemme 1.10 Notons p la projection de R
d
sur le quotient
T
d
= R
d
/∆ et introduisons le plus grand rayon R tel que cette projection p est
injective sur la boule ouverte de rayon R. La comparaison des volumes donne la
majoration v
d
R
d
≤ d

. D’autre part, la maximalit´e de R assure que, pour tout
ε > 0, il existe deux vecteurs u
1
, u
2
de norme au plus R+ε qui ont mˆeme image
dans T
d
. Le vecteur non nul v
ε
= u
1
−u
2
est dans ∆ et de norme au plus 2R+2ε.
Le groupe discret ∆ contient donc un vecteur v non nul de norme au plus 2R.
9
D´emonstration de la proposition 1.8 et du corollaire 1.9 Les fonctions
g → [det(g)[ et g → α
1
(gZ
d
) sont continues sur GL(d, R). Donc les fonctions
∆ → d

et ∆ → α
1
(∆) sont des fonctions continues sur X
t
. Si Y est une partie
relativement compacte, ces deux fonctions sont donc born´ees sur Y .
R´eciproquement, montrons que toute partie Y de X
t
sur laquelle ces deux
fonctions sont born´ees est relativement compacte. On veut donc montrer que toute
suite ∆
n
dans Y sous-converge dans X
t
. On raisonne par r´ecurrence sur d. C’est
clair pour d = 1. Choisissons un vecteur non nul v
n
∈ ∆
n
de norme minimum.
Comme α
1
(∆
n
) est major´e, les normes |v
n
| sont positivement minor´ees. En outre
par l’in´egalit´e d’Hermite-Minkowski et la majoration du covolume de ∆
n
, les
normes |v
n
| sont major´ees. La suite v
n
sous-converge donc vers un vecteur non
nul v

∈ R
d
que l’on peut supposer de norme |v

| = 1. Quitte ` a modifier chacun
des ∆
n
par une petite similitude, on peut aussi supposer que v
n
= v

. Les images

t
n
de ∆
n
dans l’orthogonal (Rv

)

sont des r´eseaux dont le volume est major´e
par α et dont la systole est minor´e par

3
2
β. Par hypoth`ese de r´ecurrence, ces
r´eseaux ∆
t
n
sous-convergent vers un r´eseau de (Rv

)

. La suite ∆
n
sous-converge
alors vers un r´eseau de R
d
.
Dans la partie suivante nous aurons aussi besoin des lemmes techniques sui-
vants.
Lemme 1.11 Soient ∆ un r´eseau de R
d
et L, M deux sous-espaces ∆-rationnels
de R
d
. Alors les sous-espaces L + M et L ∩ M sont ∆-rationnels et on a la
majoration
d(L ∩ M)d(L + M) ≤ d(L)d(M).
Remarque Par convention, on a pos´e d(0) = 1 pour le sous-espace nul.
D´emonstration On peut supposer que ∆ = Z
d
. On remarque alors qu’un sous-
espace est ∆-rationnel ssi il est engendr´e par des vecteurs ` a coefficients rationnels.
Ceci prouve que L + M est ∆-rationnel.
On remarque aussi qu’un sous-espace est ∆-rationnel ssi il est d´efini par des
´equations lin´eaires ` a coefficients rationnels. Ceci prouve que L∩M est ∆-rationnel.
Pour montrer la majoration, on part d’une base u
1
, . . . , u
k
de ∆ ∩ L ∩ M
que l’on compl`ete en une base u
1
, . . . , u
k
, v
1
, . . . , v

de ∆ ∩ L et en une base
u
1
, . . . , u
k
, w
1
, . . . , w
m
de ∆ ∩ M. La famille u
1
, . . . , u
k
, v
1
, . . . , v

, w
1
, . . . , w
m
est
alors libre et engendre un sous-groupe d’indice fini de ∆ ∩ (L + M). On note
u = u
1
∧ ∧ u
k
, v = v
1
∧ ∧ v

et w = w
1
∧ ∧ w
m
. Notre assertion r´esulte
alors de la majoration
|u||u ∧ v ∧ w| ≤ |u ∧ v||u ∧ w|.
Cette derni`ere in´egalit´e se montre en rempla¸cant, `a l’aide du proc´ed´e d’ortho-
gonalisation de Gramm-Schmidt, la famille u
1
, . . . , u
k
, v
1
, . . . , v

, w
1
, . . . , w
m
par
10
une famille u
t
1
, . . . , u
t
k
, v
t
1
, . . . , v
t

, w
t
1
, . . . , w
t
m
telle que les deux familles
u
t
1
, . . . , u
t
k
, v
t
1
, . . . , v
t

et u
t
1
, . . . , u
t
k
, w
t
1
, . . . , w
t
m
sont orthogonales et telle que
u = u
t
1
∧ ∧ u
t
k
, u ∧ v = u ∧ v
t
1
∧ ∧ v
t

et u ∧ w = u ∧ w
t
1
∧ ∧ w
t
m
.
Lemme 1.12 Notons S
i
(∆) := ¦sous-espaces ∆-rationnels de dimension i¦.
a) Pour tout C > 0, on a #¦L ∈ S
i
(∆) [ d

(L) ≤ C¦ < ∞.
b) Les application X →]0, ∞[ ; ∆ → min
L∈S
i
(∆)
d

(L) sont continues.
D´emonstration a) On peut supposer ∆ = Z
d
. Si e
1
, . . . , e
i
est une base de
L ∩ Z
d
, l’´el´ement e
1
∧ ∧ e
i
est dans Λ
i
(Z) et de norme born´ee par C. Cela ne
laisse qu’un nombre fini de possibilit´es.
b) Cela r´esulte des in´egalit´es |g
−1
|
−d
d

(L) ≤ d
g∆
(gL) ≤ |g|
d
d

(L).
1.5 Construction d’une fonction f
En combinant les r´esultats des deux derni`eres sections, nous allons
maintenant construire explicitement la fonction f v´erifiant HC dont
nous avons besoin pour montrer la proposition 1.3.
Pour 0 < i ≤ d, d´efinissons une fonction α
i
de l’espace des r´eseaux X
t
dans
[0, ∞[. Pour tout r´eseau ∆ de R
d
,
α
i
(∆) := sup¦d

(L)
−1
[ L ⊂ R
d
∆-rationnel, dimL = i¦.
On notera α
0
= 1. La fonction α
1
co¨ıncide avec celle introduite dans la partie
pr´ec´edente. On a vu que α
i
est continue.
Reprenons les notation du corollaire 1.7. On a donc une probabilit´e µ sur
G = GL(d, R) telle que
HI µ est sym´etrique, le support de µ est compact et inclus dans S
+
, et l’action
du groupe Γ
µ
dans R
d
est irr´eductible.
Le lemme suivant permettra de construire la fonction f que nous cherchons.
Lemme 1.13 Soit µ une probabilit´e sur GL(d, R) qui v´erifie [HI]. Alors il existe
a
0
< 1 et b
0
> 0 tels que, pour tout 0 < i < d, on a
A
µ

δ
i
) ≤ a
0
α
δ
i
+ b
0
max
j>0

δ
i−j
α
δ
i+j
)
1
2
.
o` u le max est pris sur les entiers j avec 0 < j ≤ min(i, d −i).
D´emonstration On veut majorer, pour ∆ ∈ X, l’int´egrale A
µ

δ
i
)(∆).
Choisissons a
0
< 1 et δ > 0 comme dans le corollaire 1.7 et posons cette fois,
r = sup¦max(|g|
d
, |g
−1
|
d
) [ g ∈ supp(µ)¦ de sorte que, pour tout sous-espace
∆-rationnel L ⊂ R
d
, on ait, pour µ-presque tout g,
r
−1
d

(L) ≤ d
g∆
(gL) ≤ rd

(L).
11
Choisissons un sous-espace ∆-rationnel L
i
⊂ R
d
de dimension i tel que
d

(L
i
) = α
i
(∆)
−1
et introduisons l’ensemble (fini)
Ψ
i
:= ¦L ⊂ R
d
[ ∆-rationnel, dimL = i, d

(L) ≤ r
2
d

(L
i
)¦.
On va distinguer deux cas.
1
er
cas : Ψ
i
contient un seul ´el´ement L
i
. Alors, pour tout sous-espace ∆-
rationnel L de dimension i, et µ-presque tout g, on a
d
g∆
(gL) ≥ d
g∆
(gL
i
)
d’o` u, par le corollaire 1.7,
A
µ

δ
i
)(∆) =

G
1
d
g∆
(gL
i
)
δ
dµ(g) ≤ a
0
1
d

(L
i
)
δ
= a
0
α
δ
i
(∆).
2
`eme
cas : Ψ
i
contient un autre ´el´ement L
t
i
. Notons j := dim(L
i
+L
t
i
) −i. On
a alors, grˆ ace au lemme 1.11, pour µ-presque tout g,
α
i
(g∆) ≤ rα
i
(∆) = rd

(L
i
)
−1
≤ r
2
(d

(L
i
)d

(L
t
i
))

1
2
≤ r
2
(d

(L
i
∩ L
t
i
)d

(L
i
+ L
t
i
))

1
2
≤ r
2

i−j
(∆)α
i+j
(∆))
1
2
.
et donc, avec b
0
= r

,
A
µ

δ
i
)(∆) ≤ b
0
max
j>0

δ
i−j
(∆)α
δ
i+j
(∆))
1
2
.
On obtient la majoration annonc´ee en combinant ces deux cas.
Voici enfin la construction de la fonction f cherch´ee.
Corollaire 1.14 Soit µ une probabilit´e sur SL(d, R) qui v´erifie [HI]. Alors il
existe δ > 0 et ε > 0 tels que la fonction f : X →[0, ∞[
f :=
¸
0<i<d
ε
(d−i)i
α
δ
i
v´erifie [HC] : elle est propre et il existe a < 1, b > 0, tels que A
µ
(f) ≤ af + b.
D´emonstration La propret´e de f r´esulte du corollaire 1.9.
Notons β
i
= ε
(d−i)i
α
δ
i
de sorte que f =
¸
0<i<d
β
i
. Appliquons le lemme 1.13,
l’´egalit´e
2(d −i)i = (d −i −j)(i + j) + (d −i + j)(i −j) + 2j
2
.
et la majoration 2(st)
1
2
≤ s + t, pour tout s, t ≥ 0.
On obtient alors avec a
0
< 1 et b
0
> 0,
A
µ
f ≤ a
0
¸
0<i<d
β
i
+ b
0
max
j>0
ε
j
2

i−j
β
i+j
)
1
2
≤ (a
0
+ b
0
εd)
¸
0<i<d
β
i
+ b
0
εd
et donc A
µ
f ≤ af + b avec a = a
0
+ b
0
εd et b = b
0
εd. On a bien a < 1 si ε est
choisi suffisamment petit.
12
1.6 Application au groupe orthogonal
Terminons cette partie en montrant comment les id´ees ci-dessus
s’organisent pour montrer que le groupe G
Z
= O(Q, Z) est un r´eseau
du groupe G
R
= O(Q, R).
Nous reprendrons ces id´ees plus en d´etail dans un cadre g´en´eral
dans le chapitre 5
D´emonstration de la proposition 1.3 Ce groupe G
R
est unimodulaire (parce
qu’il est engendr´e par des ´el´ements d’ordre 2 : les r´eflexions hyperplanes). La
mesure ν sur le quotient G
R
/G
Z
induite par la mesure de Haar est donc G
R
-
invariante. On veut montrer que cette mesure ν est finie.
Notons H
R
= SL
±
(d, R) et H
Z
= SL
±
(d, Z). On remarque tout d’abord que
l’injection i : G
R
/G
Z
→H
R
/H
Z
est propre.
Pour v´erifier cela, on doit montrer que si une suite g
n
H
Z
avec g
n
∈ G
R
converge
dans H
R
/H
Z
, alors la suite g
n
G
Z
converge dans G
R
/G
Z
. Notons h
n
une suite de
H
Z
telle que g
n
h
n
converge dans H
R
. Comme l’injection G
Z
`H
Z
→ G
R
`H
R
est
d’image discr`ete (elle s’identifie ` a un ensemble de formes quadratiques ` a coeffi-
cients entiers), on peut ´ecrire, pour n grand h
n
= γ
n
h avec γ
n
∈ G
Z
et h ∈ H
Z
.
La suite g
n
γ
n
est donc convergente et l’injection i est propre.
La mesure ν peut donc ˆetre vue comme une mesure de Radon sur l’espace
H
R
/H
Z
des r´eseaux de covolume 1. On veut bien sˆ ur appliquer une combinaison
des corollaires 1.5 et 1.14. Pour cela, il suffit de construire une probabilit´e µ
port´ee par G
R
v´erifiant la condition [HI]. Remarquons que cette condition ne
fait plus intervenir le groupe G
Z
. Notons (p, q) la signature de Q. On peut choisir
un produit scalaire euclidien de R
d
et une base orthonorm´ee de R
d
tels que,
Q(x
1
, . . . , x
p+q
) = x
2
1
+ x
2
p
−x
2
p+1
− −x
2
p+q
. On d´ecompose l’alg`ebre de Lie
g de G
R
en une somme directe g = k ⊕q, o` u
k = ¦M ∈ g [ M = −
t
M¦ = ¦

A 0
0 D

[ A = −
t
A , D = −
t
D¦,
q = ¦M ∈ g [ M =
t
M¦ = ¦

0 B
C 0

[ C =
t
B¦.
On prend pour µ la mesure sur G
R
image par l’application exponentielle d’une
probabilit´e sym´etrique µ
0
sur q dont le support est une boule centr´ee en 0. On
v´erifie facilement l’´egalit´e k = [q, q]. Le groupe Γ
µ
est donc la composante connexe
du groupe G
R
.
Comme d ≥ 3, l’action de la composante connexe de G
R
sur R
d
est irr´eductible.
Cette probabilit´e µ v´erifie bien la condition [HI].
La mˆeme d´emonstration permet de retrouver le
Corollaire 1.15 Pour d ≥ 2, le groupe SL(d, Z) est un r´eseau de SL(d, R).
13
2 Alg`ebres de Lie semisimples
Ce chapitre est constitu´e de quelques rappels sur les alg`ebres de
Lie semisimples
2.1 Alg`ebres de Lie nilpotentes et r´esolubles
Commen¸cons par ´etudier les alg`ebres de Lie r´esolubles c’est-`a-dire
celles obtenues par extensions successives d’alg`ebres ab´eliennes.
Toutes nos alg`ebres de Lie sont de dimension finie sur un corps k de caract´e-
ristique nulle.
D´efinition 2.1 Une alg`ebre de Lie est un k-espace vectoriel g muni d’une appli-
cation bilin´eaire antisym´etrique `a valeurs dans g not´ee [., .] v´erifiant l’identit´e de
Jacobi : pour tout X, Y, Z ∈ g,
[X, [Y, Z]] = [[X, Y ], Z] + [Y, [X, Z]]
Exemples fondamentaux - L’alg`ebre de Lie d’un groupe de Lie G, c’est-` a-dire
l’espace des champs de vecteurs invariants par translation `a gauche, est une R-
alg`ebre de Lie. Rappelons que toute R-alg`ebre de Lie g est l’alg`ebre de Lie d’un
groupe de Lie connexe et simplement connexe. Celui-ci est uniquement d´etermin´e
par g.
- L’alg`ebre de Lie End(k
d
) avec le crochet [A, B] = AB − BA. Remarquons
que, mˆeme si nous n’utiliserons pas ce fait, toute alg`ebre de Lie s’identifie `a une
sous-alg`ebre de Lie de End(V ), par le th´eor`eme d’Ado.
- Un endomorphisme D ∈ End(g) d’une alg`ebre de Lie g est une d´erivation si
D([Y, Z]) = [DY, Z] + [Y, DZ], pour tout Y, Z ∈ g.
L’ensemble Der(g) des d´erivations de g est une sous-alg`ebre de Lie de End(g).
Pour tout X dans g, on note adX la d´erivation int´erieure donn´ee par adX(Y ) =
[X, Y ], pour tout Y ∈ g. L’application ad : g →Derg est un morphisme d’alg`ebres
de Lie, i.e. ad[X, Y ] = [adX, adY ], pour tout X, Y ∈ g. Ce morphisme est appel´e
le morphisme adjoint, son noyau est le centre z de g, z := ¦X ∈ g [ [X, g] = 0¦.
Historiquement, le mot d´erivation est un raccourci pour l’expression “d´erivation
d’un groupe ` a un param`etre d’automorphismes”.
D´efinition 2.2 Un id´eal de g est un sous-espace h tel que [g, h] ⊂ h.
Une alg`ebre de Lie g est ab´elienne si [g, g] = 0. Elle est nilpotente (resp. r´eso-
luble) si il existe un drapeau d’id´eaux 0 = g
0
⊂ ⊂ g
i
⊂ ⊂ g
p
= g tels que
[g, g
i
] ⊂ g
i−1
(resp. g
i
/g
i−1
est ab´elienne), pour tout i = 1, . . . , p.
14
Exemples fondamentaux - L’alg`ebre de Lie a
d
⊂ End(k
d
) des matrices dia-
gonales est ab´elienne.
- L’alg`ebre de Lie = u
+
d
⊂ End(k
d
) des matrices strictement triangulaires su-
p´erieures est nilpotente.
- L’alg`ebre de Lie p
+
d
= a
d
⊕ u
+
d
des matrices triangulaires sup´erieures est
r´esoluble.
Les deux th´eor`emes suivants expliquent en quoi ces exemples sont fondamen-
taux.
Th´eor`eme 2.3 (Engel) Soit V un k-espace vectoriel de dimension d et g ⊂
End(V ) une sous-alg`ebre de Lie dont tout ´el´ement est nilpotent. Alors il existe
une base de V telle que g ⊂ u
+
d
.
Remarque L’alg`ebre de Lie g = C

0 1
1 0

est nilpotente, car ab´elienne, mais
ses ´el´ements ne sont pas nilpotents.
D´emonstration On proc`ede par r´ecurrence sur dimg. Il suffit de trouver un
vecteur v dans V annul´e par g.
On remarque tout d’abord que, pour X ∈ g, adX est nilpotent. En effet, pour
tout Y ∈ EndV ,
(adX)
n
(Y ) =
¸
0≤r≤n
(−1)
r
C
r
n
X
n−r
Y X
r
est nul pour n ≥ 2 dimV .
Soit h g une sous-alg`ebre de Lie maximale. L’hypoth`ese de r´ecurrence
appliqu´ee `a l’action adjointe de h dans g/h prouve qu’il existe un sous-espace
h
t
= kX ⊕ h de g tel que [h, h
t
] ⊂ h. Comme [X, X] = 0, h
t
est une sous-alg`ebre
de Lie de g. Par maximalit´e de h, on a h
t
= g et h est un id´eal de codimension 1
dans g.
Posons alors W = ¦w ∈ V [ hw = 0¦. C’est un sous-espace g-invariant de V . Il
suffit de prendre v dans le noyau de la restriction de X ` a W.
Th´eor`eme 2.4 (Lie) Soient K un corps alg´ebriquement clos, V un K-espace
vectoriel de dimension d et g ⊂ End(V ) une sous-alg`ebre de Lie r´esoluble. Alors
il existe une base de V telle que g ⊂ p
+
d
.
Remarque L’alg`ebre de Lie g = R

0 1
1 0

est r´esoluble, car ab´elienne, mais
elle ne stabilise pas de droite dans R
2
.
D´emonstration En proc´edant par r´ecurrence sur dimV , il suffit de trouver dans
V une droite g-invariante. Soient h un id´eal de codimension 1 de g et X ∈ g h.
En raisonnant par r´ecurrence sur dimg, on peut supposer qu’il existe un vecteur
15
v
0
∈ V et une forme lin´eaire λ ∈ h

tels que, pour tout H ∈ h, on a Hv
0
=
λ(H)v
0
. Posons v
i
= X
i
v
0
et notons W l’espace vectoriel engendr´e par tous les
v
i
. On v´erifie par r´ecurrence sur i que Hv
i
− λ(H)v
i
est combinaison lin´eaire
de v
0
, . . . , v
i−1
. En particulier, W est h-invariant. On en d´eduit que λ([H, X]) =
1
dimW
tr
W
([H, X]) = 0. On peut alors pr´eciser le calcul pr´ec´edent par r´ecurrence
sur i et obtenir Hv
i
= λ(H)v
i
, pour tout H ∈ h. Il suffit alors de prendre pour v
un vecteur propre de X dans W. Un tel vecteur existe car K est alg´ebriquement
clos.
2.2 Alg`ebres de Lie semisimples
Comme pour les alg`ebres associatives de dimension finie, ce sont
les alg`ebres de Lie semisimples qui sont ` a la fois les plus utiles, les
plus subtiles et les mieux comprises.
D´efinition 2.5 La forme de Killing B = B
g
d’une alg`ebre de Lie g est la forme
bilin´eaire sym´etrique sur g donn´ee par B(X, Y ) = tr
g
(adXadY ).
Le radical r de g est le plus grand id´eal r´esoluble de g.
Remarques - Le radical r existe. En effet, la somme de deux id´eaux r´esolubles
de g est encore un id´eal r´esoluble.
- Le radical r est invariant par toute d´erivation D de g. En effet, on peut pour
le v´erifier, supposer k = C. Mais r est invariant par tous les automorphismes de
g et en particulier par les automorphismes e
tD
, pour tout t ∈ k.
D´efinition 2.6 Une alg`ebre de Lie g est semisimple si tout id´eal ab´elien de g est
nul.
Une alg`ebre de Lie g est simple si 0 et g sont les seuls id´eaux de g et si
dimg > 1.
Voici d’autres d´efinitions ´equivalentes pour les alg`ebres de Lie semisimples
Th´eor`eme 2.7 Les quatre affirmations suivantes sont ´equivalentes
i) Tout id´eal ab´elien de g est nul.
ii) Le radical r est nul.
iii) g est une somme directe d’id´eaux simples g = ⊕
i
g
i
.
iv) La forme de Killing B
g
est non d´eg´en´er´ee.
Remarques - Comme corollaire, la semisimplicit´e est invariante par changement
de corps de base : pour toute extension de corps k ⊂ K, une k-alg`ebre de Lie g
est semisimple ssi son extension g ⊗
k
K est une K-alg`ebre de Lie semisimple.
- Comme autre corollaire, une alg`ebre de Lie semi-simple g n’a qu’un nombre
fini d’id´eaux simples : ce sont les g
i
. En effet, si a est un id´eal simple diff´erent de
tous les g
i
, on a [a, g
i
] ⊂ a∩g
i
= 0 et donc a est dans le centre de g. Contradiction.
16
Lemme 2.8 Soit a un id´eal d’une alg`ebre de Lie g.
a) L’orthogonal a

:= ¦X ∈ g [ B(X, a) = 0¦ est un id´eal de g.
b) La forme de Killing de a est la restriction de celle de g.
D´emonstration du lemme 2.8
a) Cela r´esulte de l’´egalit´e B([X, Y ], Z) + B(Y, [X, Z]) = 0, pour X, Y, Z ∈ g.
b) Cela r´esulte de l’inclusion adXadY (g) ⊂ a, pour X, Y ∈ a.
D´emonstration du th´eor`eme 2.7
i) ⇒ii) Si r = 0, on pose D
0
r = r, D
j+1
r = [D
j
r, D
j
r]. Le dernier id´eal d´eriv´e
non nul D
j
r est un id´eal ab´elien de g.
iii) ⇒ iv) Comme [g
i
, g
j
] = 0 et, par suite, B(g
i
, g
j
) = 0 pour i = j, on peut
supposer g simple. Remarquons qu’on a g = [g, g] car, comme dimg > 1, g ne
peut pas ˆetre ab´elienne. Le noyau de la forme de Killing B est un id´eal de g. Il
est soit nul, soit ´egal `a g.
Il suffit de montrer que B est non nul. C’est le point le plus d´elicat de la
d´emonstration. Supposons par l’absurde que B est nul. On note A = adg et
M := ¦ϕ ∈ Endg [ [ϕ, A] ⊂ A¦.
Montrons que, pour a ∈ A et ϕ ∈ M, on a tr(ϕa) = 0. On peut pour cela
supposer que a = [b, c] avec b, c ∈ A, car on a g = [g, g] et donc A = [A, A]. On a
alors tr(ϕa) = tr([ϕ, b]c) = 0 car la forme de Killing est nulle.
Comme A est inclus dans M, le lemme ci-dessous prouve que tout ´el´ement de
A est nilpotent, donc par le th´eor`eme de Engel, l’alg`ebre de Lie A est nilpotente.
Contradiction.
iv) ⇒i) Soit a un id´eal ab´elien de g. On a B(a, g) = 0, donc a = 0.
ii) ⇒ iii) Par r´ecurrence sur dimg. Soit a un id´eal non nul minimal de g.
D’apr`es les remarques suivant la d´efinition 2.5, le radical r´esoluble de a est un
id´eal de g. Il est donc nul. Par l’implication iii) ⇒ iv), la forme de Killing de a
est non d´eg´en´er´ee. On en d´eduit que g = a ⊕ a

et que la forme de Killing de
l’id´eal a

est non d´eg´en´er´ee. Par r´ecurrence, a

est une somme directe d’id´eaux
simples et g aussi.
On a utilis´e le
Lemme 2.9 Soit V = k
d
, A un k-sous-espace vectoriel de EndV et M = ¦ϕ ∈
EndV [ [ϕ, A] ⊂ A¦. Soit ψ ∈ M tel que, pour tout ϕ ∈ M, on a tr(ϕψ) = 0.
Alors ψ est nilpotent.
D´emonstration On peut supposer que k = C. Ecrivons ψ = ψ
s
+ ψ
n
la d´e-
composition de Jordan de ψ. On peut supposer ψ
s
diagonale et ψ
n
strictement
triangulaire sup´erieure. L’´egalit´e ad(ψ) = ad(ψ
s
) + ad(ψ
n
) est aussi la d´ecompo-
sition de Jordan de ad(ψ). La partie semisimple ψ
s
est donc aussi dans M. Son
conjugu´e ϕ = ψ
s
est aussi dans M. On a alors, en notant λ
i
les valeurs propres
de ψ,
¸
i

i
[
2
= tr(ϕψ) = 0. Donc ψ
s
= 0.
17
Proposition 2.10 Toute d´erivation d’une alg`ebre de Lie semisimple g est int´e-
rieure.
D´emonstration L’alg`ebre de Lie a := adg est un id´eal de l’alg`ebre de Lie
d := Derg car on a l’´egalit´e [D, adX] = ad(DX), pour tout D ∈ d et X ∈ g.
Notons a

l’orthogonal dans d de a pour la forme de Killing de d. Comme la
forme de Killing de a est non d´eg´en´er´ee, on a l’´egalit´e d = a ⊕a

.
Il suffit pour conclure de montrer que tout ´el´ement D ∈ a

est nul. Cela r´esulte
de l’´egalit´e, ad(DX) = [D, adX] ∈ a ∩a

= 0, pour tout X ∈ g et de l’injectivit´e
de l’application adjointe.
Comme l’application adjointe ad : g → Derg est injective, cette proposition
permet d’identifier g avec l’alg`ebre de Lie Derg des d´erivations de g. C’est tr`es
utile car cela permet de voir toute alg`ebre de Lie semisimple comme l’alg`ebre de
Lie d’un groupe alg´ebrique : le groupe de ses automorphismes. Voici une applica-
tion utile de ce fait.
D´efinition 2.11 Un ´el´ement X d’une alg`ebre de Lie semisimple est dit nilpotent
si l’endomorphisme adX est nilpotent. Un ´el´ement X est dit semisimple si adX
est semisimple.
Proposition 2.12 (d´ecomposition de Jordan) Soit g une alg`ebre de Lie
semisimple. Tout ´el´ement X de g admet une d´ecomposition unique X = X
s
+X
n
avec X
s
semisimple, X
n
nilpotent et [X
s
, X
n
] = 0.
D´emonstration
Unicit´e La d´ecomposition de Jordan de adX est ad(X
s
) + ad(X
n
).
Existence Il suffit de voir que la partie semisimple (adX)
s
de adX est une
d´erivation car la proposition 2.10 prouvera qu’il existe X
s
dans g tel que ad(X
s
) =
(adX)
s
.
On peut supposer k = C. Soit g
λ
=
¸
p≥1
Ker((adX − λ)
p
) de sorte que g =

λ∈C
g
λ
. L’´el´ement (adX)
s
agit sur g
λ
par multiplication par λ. Il suffit donc
de v´erifier que [g
λ
, g
µ
] ⊂ g
λ+µ
. Ce qui r´esulte de la formule suivante que l’on
d´emontre par r´ecurrence sur p :
(adX −λ −µ)
p
[Y, Z] =
¸
0≤r≤p
C
r
p
[(adX −λ)
r
Y, (adX −µ)
p−r
Z]
pour tout X, Y, Z ∈ g.
Remarque Lorsque k = R, Un ´el´ement X de g est dit elliptique (resp. hyperbo-
lique) si adX est semisimple `a valeurs propres imaginaires pures (resp. r´eelles).
On a encore une ´ecriture unique X = X
e
+ X
h
+ X
n
avec X
e
elliptique, X
h
hyperbolique et X
n
nilpotent qui commutent deux `a deux.
18
2.3 Repr´esentations de sl
2
L’alg`ebre de Lie s = sl(2, k) est une alg`ebre de Lie simple de
dimension minimale. Son ´etude est fondamentale car, sur un corps al-
g´ebriquement clos, toute alg`ebre de Lie semisimple contient de nom-
breuses copies de s.
D´efinition 2.13 Une repr´esentation d’une k-alg`ebre de Lie g dans un k-espace
vectoriel V est un morphisme de g dans EndV . On dit aussi que V est un g-
module.
Elle est dite simple ou irr´eductible si les seuls sous-espaces g-invariants sont 0
ou V .
Exemples fondamentaux - La repr´esentation adjointe ad.
- L’alg`ebre de Lie s = sl(2, k) admet, pour tout d ≥ 0, une repr´esentation dans
le k-espace vectoriel V
d
de dimension d +1 des polynˆ omes homog`enes de degr´e d
sur k
2
. D´ecrivons plus pr´ecis´ement ces repr´esentations. Une base de l’alg`ebre de
Lie s = sl(2, k) est X, H, Y avec
X :=

0 1
0 0

, H :=

1 0
0 −1

, Y :=

0 0
1 0

qui v´erifient les relations
[H, X] = 2X , [H, Y ] = −2Y et [X, Y ] = H.
L’action de cette base dans V
d
est donn´ee par X → x

∂y
, H → x

∂x
− y

∂y
et
Y →y

∂x
. Cette repr´esentation de s dans V
d
est appel´ee la repr´esentation de plus
haut poids d car d y est la plus grande valeur propre de H.
Proposition 2.14 Soit V un sl(2, k)-module de dimension finie.
a) V est somme directe de repr´esentations simples.
b) Si V est simple alors V est isomorphe `a une des repr´esentations V
d
de plus
haut poids d.
On repr´esente parfois V
d
par un diagramme ”ficelles” form´e de d + 1 noeuds
labell´es par les valeurs propres −d, −d+2, . . . , d−2, d de H, les ficelles symbolisant
l’action de X et Y sur les vecteurs propres de H correspondant.
D´emonstration a) Nous allons utiliser un argument transcendant appel´e l’astuce
unitaire de Weyl. Il suffit de montrer que tout sous-espace s-invariant V
t
⊂ V
admet un suppl´ementaire V
tt
s-invariant. Notons p : V → V/V
t
la projection
naturelle. On peut supposer que le corps de base est C car l’ensemble
¦σ ∈ Hom
s
(V/V
t
, V ) [ p ◦ σ = Id¦
est un espace affine d´efini sur k : s’il a un point ` a coefficients dans une extension
de k il en a aussi un ` a coefficients dans k. En effet, tout syst`eme d’´equations
19
affines ` a coefficients dans k qui a des solutions dans une extension de k en a aussi
dans k.
Notons alors K = SU(2) le groupe sp´ecial unitaire
K := ¦

a −b
b a

[ a, b ∈ C , [a[
2
+[b[
2
= 1¦
Son alg`ebre de Lie k = ¦matrices antihermitiennes de trace nulle¦ est une forme
r´eelle de s i.e. s · k⊗
R
C. Comme K est simplement connexe, toute repr´esentation
de s s’int`egre donc en une repr´esentation de K. Munissons V , grˆace ` a la mesure
de Haar de K, d’un produit scalaire hermitien K-invariant. Il suffit de prendre
pour V
tt
l’orthogonal de V
t
. Ce sous-espace est K-invariant. Il est donc aussi
s-invariant.
b) Supposons tout d’abord k alg´ebriquement clos et d´ecomposons V en somme
directe V = ⊕
µ∈C
V
µ
de sous-espaces caract´eristiques de H pour la valeur propre
µ. On a
X(V
µ
) ⊂ V
µ+2
et Y (V
µ
) ⊂ V
µ−2
car on a les formules dans EndV , pour tout j ≥ 1,
(H −µ −2)
j
X = X(H −µ)
j
et (H −µ + 2)
j
Y = Y (H −µ)
j
.
Soit v
0
un vecteur propre de H pour une valeur propre λ de partie r´eelle
maximum. On a Hv
0
= λv
0
et Xv
0
= 0.
Soit n ≥ 0 tel que Y
n
v
0
= 0 et Y
n+1
v
0
= 0. et posons v
i
= Y
i
v
0
, pour i ≥ 0.
Par r´ecurrence, on a la formule dans EndV ,
[X, Y
j+1
] = (j + 1)Y
j
(H −j).
Donc, on a 0 = XY
n+1
v
0
= (n + 1)(λ − n)v
n
. On a donc λ = n. Cette mˆeme
formule permet de calculer, pour 0 ≤ i ≤ n,
Y v
i
= v
i+1
, Hv
i
= (n −2i)v
i
, Xv
i
= (n −i + 1)iv
i−1
.
Comme V est simple, v
0
, . . . , v
n
est une base de V . On reconnait le s-module V
n
` a l’aide de l’identification v
i
→n(n −1) (n −i + 1)x
n−i
y
i
.
Comme on sait maintenant que les valeurs propres de H sont enti`eres, on peut
donc recommencer cet argument sans supposer k alg´ebriquement clos.
R´eciproquement, il est facile de v´erifier que V
d
est un s-module simple.
2.4 El´ements nilpotents et sl
2
-triplets
Une des raisons qui rend tr`es utile la classification des repr´esenta-
tions de sl
2
est la th´eorie des sl
2
-triplets.
Un triplet (x, h, y) dans une alg`ebre de Lie qui v´erifie les relations de commu-
tation [h, x] = 2x , [h, y] = −2y et [x, y] = h est appel´e un sl
2
-triplet.
20
Th´eor`eme 2.15 (Jacobson, Morozov) Tout ´el´ement nilpotent x d’une al-
g`ebre de Lie semisimple g fait partie d’un sl
2
-triplet (x, h, y).
Commen¸cons par un lemme.
Lemme 2.16 Soient X et Z deux ´el´ements de End(k
d
) tels que X est nilpotent
et [X, [X, Z]] = 0. Alors le produit XZ est nilpotent.
D´emonstration du lemme 2.16 On peut supposer le corps k alg´ebriquement
clos. Soit W := [X, Z]. Comme X et W commutent, on a, pour tout p ≥ 1,
W
p
= [X, ZW
p−1
] et donc tr(W
p
) = 0. Par suite, W est nilpotent.
Remarquons que [X
p
, Z] = pWX
p−1
. Soit v un vecteur propre de XZ pour la
valeur propre λ et p le plus petit entier tel que X
p
v = 0. Cet entier existe car
X est nilpotent. On a λX
p−1
v = X
p
Zv = pWX
p−1
v. Donc λ/p est une valeur
propre de W qui est nilpotent. Donc λ = 0 et XZ est nilpotent.
D´emonstration du th´eor`eme 2.15
Construction de h L’endomorphisme (adx)
2
est autoadjoint pour la forme
de Killing de g, c’est-`a-dire que, pour y, z ∈ g, on a
B((adx)
2
y, z) = B(y, (adx)
2
z).
D’autre part, d’apr`es le lemme 2.16, pour tout z dans le noyau N
2
de (adx)
2
, le
produit adx adz est nilpotent et donc B(x, z) = 0. C’est-`a-dire que x est dans
l’orthogonal N

2
de N
2
pour la forme de Killing. Comme B est non d´eg´en´er´ee,
N

2
est aussi l’image de (adx)
2
. Il existe donc y
t
∈ g tel que, en notant h = [x, y
t
],
on a [h, x] = 2x.
Construction de y Notons u := [h, y
t
] + 2y
t
. On aimerait que u soit nul.
Par Jacobi, on a [x, u] = 0. On cherche donc un ´el´ement z := y
t
−y de g tel que
[x, z] = 0 et [h, z] + 2z = u. Remarquons que le noyau N
1
de adx est invariant
par adh car [h, x] = 2x. Il suffit donc de voir que −2 n’est pas valeur propre de
adh dans N
1
. Cela r´esulte du lemme suivant.
Lemme 2.17 Soient X, H, Y
t
∈ End(k
d
) trois matrices telles que [X, Y
t
] = H
et [H, X] = 2X. Alors les valeurs propres de H dans le noyau KerX sont des
entiers positifs.
D´emonstration On peut supposer k alg´ebriquement clos. On reprend la partie
de la d´emonstration de la classification des sl(2, k)-modules simples qui est encore
valable pour (X, H, Y
t
) :
On montre par r´ecurrence sur p ≥ 0 que [Y
t
, X
p+1
] = −(p +1)(H −p)X
p
. Soit
v un vecteur non nul du noyau de X qui est vecteur propre de H pour la valeur
propre λ. Comme v est dans le noyau de X, il existe un plus grand entier p ≥ 0
tel que v soit dans l’image de X
p
. Notons u un vecteur tel que X
p
u = v. On a
l’´egalit´e (p + 1)(λ −p)v = X
p+1
(Y
t
u). Donc on a λ = p.
21
2.5 Syst`emes de racines
Dans cette section g est une alg`ebre de Lie semisimple complexe.
Nous rappelons maintenant la structure de g. Les deux outils clefs
sont la construction de sl
2
-triplets `a l’aide de la forme de Killing et la
classification des repr´esentations de sl(2).
D´efinition 2.18 Une sous-alg`ebre de Cartan h de g est une sous-alg`ebre com-
mutative form´ee d’´el´ements semisimples et qui est maximale pour ces propri´et´es.
L’int´erˆet de cette notion, est qu’on peut diagonaliser simultan´ement g sous
l’action adjointe des ´el´ements de h : pour α ∈ h

, on pose
g
α
= ¦X ∈ g [ [H, X] = α(H)X pour tout H ∈ h¦.
L’ensemble
∆ = ¦α ∈ h

[ g
α
= 0 et α = 0¦
est appel´e le syst`eme de racines de g. L’espace g
α
associ´e ` a une racine α ∈ ∆ est
appel´e l’espace radiciel. On a la d´ecomposition
g = g
0
⊕(⊕
α∈∆
g
α
) .
D´efinition 2.19 Soit E un espace vectoriel r´eel muni d’un produit scalaire eu-
clidien '., .`. Pour α ∈ E, α = 0 on note s
α
la sym´etrie orthogonale s
α
: E →
E; β → β − 2
/α,β)
/α,α)
α. On appelle “syst`eme de racines abstrait” une partie ∆ telle
que, pour tout α, β ∈ ∆, on a 2
/α,β)
/α,α)
∈ Z et s
α
(β) ∈ ∆.
Le syst`eme de racines abstrait ∆ est dit “r´eduit” si α ∈ ∆ ⇒2α ∈ ∆.
Le th´eor`eme suivant affirme en particulier que le syst`eme de racines de g est
un syst`eme de racines abstrait.
Th´eor`eme 2.20 Soit g une alg`ebre de Lie semisimple complexe.
a) On a g
0
= h. En particulier, h est commutative maximale.
b) ∆ = −∆ et la forme de Killing B restreinte `a h est non d´eg´en´er´ee.
c) Pour λ ∈ h

, on note H
λ
∈ h l’´el´ement tel que B(H
λ
, H) = λ(H) pour tout
H ∈ h. Alors, pour tout X
±α
∈ g
±α
, on a [X
−α
, X
α
] = B(X
−α
, X
α
)H
α
.
d) Pour tout α ∈ ∆, on a α(H
α
) = 0. Notons H
t
α
:=
2H
α
α(H
α
)
et choisissons X
t
α
∈ g
α
tels que B(X
t
α
, X
t
−α
) =
2
α(H
α
)
. Alors (X
t
α
, H
α
, X
t
−α
) est un sl
2
-triplet.
e) i) dimg
α
= 1 pour tout α ∈ ∆.
ii) [g
α
, g
β
] = g
α+β
pour tout α, β ∈ ∆.
iii) α et −α sont les seules racines proportionnelles `a α.
f ) La forme B est d´efinie positive sur h
R
:=
¸
α∈∆
RH
α
et on a h = h
R
⊕ih
R
.
g) ∆ est un syst`eme de racines abstrait r´eduit de l’espace euclidien dual E = h

R
.
22
Remarques - On a E =
¸
α∈∆
Rα et le produit scalaire sur E est donn´e par
'α, β` = B(H
α
, H
β
), pour tout α, β ∈ E.
- Nous verrons que toutes les sous-alg`ebres de Cartan sont conjugu´ees. Donc,
` a chaque alg`ebre de Lie semisimple complexe est associ´e un unique syst`eme de
racines abstrait r´eduit.
- On appelle rang de g ou rang de ∆, la dimension r de E.
- R´eciproquement, on peut montrer que tout syst`eme de racines abstrait r´eduit
provient d’une unique alg`ebre de Lie semisimple complexe. En outre, on peut
classifier les syst`emes de racines abstraits.
D´emonstration Nous utiliserons fr´equemment l’inclusion [g
α
, g
β
] ⊂ g
α+β
.
a) Soit X ∈ g
0
. Notons X = X
s
+ X
n
sa d´ecomposition de Jordan (voir
proposition 2.12). Comme X
s
commute ` a h, X
s
est dans h. On peut donc supposer
que X = X
n
est nilpotent. Par le th´eor`eme 2.15 de Jacobson Morozov, il existe
H ∈ g tel que [H, X] = 2X. Quitte `a remplacer H par sa projection sur g
0
parall`element ` a [h, g], on peut supposer que H est dans g
0
. Notons H = H
s
+H
n
la d´ecomposition de Jordan de H. L’´el´ement H
s
commute encore `a h, il est donc
dans h. Ce qui contredit l’´egalit´e [H
s
, X] = 2X. Sauf si X = 0. Donc g
0
= h.
b) On a B(g
α
, g
β
) = 0 si α+β = 0. Comme B est non d´eg´en´er´ee, B induit une
dualit´e non d´eg´en´er´ee entre g
α
et g
−α
.
c) En effet, B([X
α
, X
−α
], H) = B(X
α
, [X
−α
, H]) = B(X
α
, X
−α
)α(H).
d) Si α(H) = 0. On choisit X
±α
∈ g
±α
tels que B(X
α
, X
−α
) = 1. Alors on
a [H
α
, X
α
] = [H
α
, X
−α
] = 0 et [X
α
, X
−α
] = H
α
. Le th´eor`eme de Lie appliqu´e ` a
l’alg`ebre de Lie r´esoluble RX
−α
⊕RH
α
⊕RX
α
prouve que H
α
est nilpotent. Donc
H
α
= 0. Contradiction.
Comme α(H
t
α
) = 2, on a bien [H
t
α
, X
t
α
] = 2X
t
α
, [H
t
α
, X
t
−α
] = −2X
t
−α
et
[X
t
α
, X
t
−α
] = H
t
α
. On note g
α
la sous-alg`ebre de Lie de g engendr´ee par ce sl
2
-
triplet.
e) i) Si dimg
α
≥ 2, il existe X
tt
α
∈ g
α
un ´el´ement tel que B(X
t
−α
, X
tt
α
) = 0.
Mais alors [X
t
−α
, X
tt
α
] = 0 et X
tt
α
engendre un s
α
-module de plus bas poids 2. Cela
n’existe pas d’apr`es la proposition 2.14.
ii) Si [g
α
, g
β
] = 0. La somme V
t
:= ⊕
n∈N
g
β−nα
est un s
α
-sous-module de la
somme V := ⊕
n∈Z
g
β+nα
. Ce sous-module V
t
a pour plus haut poids β(H
t
α
) et
V/V
t
a pour plus bas poids β(H
t
α
) + 2. Donc, d’apr`es la proposition 2.14, on a
β(H
t
α
) ≥ 0 et β(H
t
α
) + 2 ≤ 0. Contradiction.
iii) Quitte ` a remplacer α par α/2, on peut supposer que α/2 n’est pas une
racine. On peut d´ecomposer le s
α
-module V := ⊕
z∈C
g

en modules ficelles.
Comme 1 n’est pas valeur propre de H
t
α
et que 2 est une valeur propre de multi-
plicit´e 1, on a d’apr`es la proposition 2.14, V = g
−α
⊕g
0
⊕g
α
.
f) Montrons que la restriction de B ` a h
R
est positive. Pour tout H ∈ h
R
, on a
B(H, H) =
¸
α∈∆
α(H)
2
=
¸
α∈∆
B(H
α
, H)
2
(1)
23
Il suffit donc de voir que, pour α, β ∈ ∆, B(H
α
, H
β
) est r´eel. Or
B(H
α
, H
β
) = β(H
α
) =
1
2
α(H
α
)β(H
t
α
).
Comme H
t
α
fait partie d’un sl
2
-triplet, ses valeurs propres β(H
t
α
) sont dans Z. Il
reste ` a voir que α(H
α
) est r´eel. Cela r´esulte des ´egalit´es
α(H
α
) = B(H
α
, H
α
) =
1
4
α(H
α
)
2
B(H
t
α
, H
t
α
) =
1
4
α(H
α
)
2
¸
β∈∆
β(H
t
α
)
2
.
Remarquons maintenant que ∆ engendre h

. En effet, si un ´el´ement H ∈ h est
dans le noyau de toutes les racines, il est dans le centre de g et donc H = 0.
Montrons que B est non d´eg´en´er´ee sur h
R
. En effet, d’apr`es (1), un ´el´ement
H ∈ h
R
tel que B(H, H) = 0 serait dans le noyau de toutes les racines et serait
donc nul.
On en d´eduit que B est d´efini n´egatif sur ih
R
. Donc on a h
R
∩ ih
R
= 0, puis,
comme ∆ engendre h, on en d´eduit h = h
R
⊕ih
R
.
c) L’espace E = h

R
est euclidien et on a l’´equivalence λ ∈ E ⇔ H
λ
∈ h
R
. En
particulier ∆ est inclus dans E et engendre E. Montrons que ∆ est un syst`eme
de racines abstrait. Soient α, β ∈ ∆, q = 2
/α,β)
/α,α)
. On doit v´erifier que q ∈ Z et que
β −qα ∈ ∆. On peut supposer q ≥ 0. Il r´esulte de la proposition 2.14 appliqu´e au
s
α
-module V := ⊕
n∈Z
g
β+nα
que la valeur propre q = β(H
t
α
) est un entier et que
(adX
t
−α
)
q
(X
t
β
) = 0. En effet, les valeurs propres de H
t
α
dans les modules ficelles
sont enti`eres et sym´etriques par rapport ` a l’origine. Donc g
β−qα
est non nul et
β −qα est une racine.
Donnons pour finir la liste de toutes les alg`ebres de Lie simples complexes, liste
qui se d´eduit de celle des syst`emes de racines abstraits. Les quatre familles dites
classiques et les cinq alg`ebres simples dites exceptionnelles
A
r
= sl(r + 1, C) (r ≥ 1),
B
r
= so(2r + 1, C) (r ≥ 2),
C
r
= sp(r, C) (r ≥ 3),
D
r
= so(2r, C) (r ≥ 4)
E
6
, E
7
, E
8
, F
4
, G
2
.
24
3 Groupes de Lie semisimples
Nous d´emontrons enti`erement dans ce chapitre un certains nom-
bres de r´esultats classiques dˆ us ` a E. Cartan sur la structure des
groupes et des alg`ebres de Lie semisimples. En particulier, l’existence
d’une involution de Cartan, la d´ecomposition de Cartan G = KA
+
K
et la d´ecomposition d’Iwasawa G = KAU
+
. R´esultats que nous utili-
sons `a plusieurs reprises dans ce cours. Comme dans le cas complexe,
le language des syst`emes de racines permet de g´erer tous les groupes
de Lie semisimples r´eels. N´eanmoins, nous rappellerons la signification
de ces concepts pour G = SL(d, R).
3.1 Groupes de Lie compacts
Commen¸cons par la descriptions des groupes de Lie compacts.
Pour tout groupe de Lie U, on note u = Lie(U) son alg`ebre de Lie et u
C
:=
u⊗
R
C son alg`ebre de Lie comlexifi´ee. On note Ad l’action adjointe : pour u ∈ U,
Adu est la d´eriv´ee de la conjugaison g →ugu
−1
. Ad est un morphisme de groupes
de Lie de U dans le groupe des automorphismes Aut(u).
Th´eor`eme 3.1 L’application U →u
C
met en bijection

groupes de Lie compacts
connexes `a centre trivial
¸
←→

alg`ebres de Lie
semisimples complexes

.
Remarques - Il s’agit bien sˆ ur d’une bijection “modulo isomorphisme” ou, plus
pr´ecis´ement d’une “´equivalence de cat´egories”.
- On en d´eduit, avec la section 2.5, que tout groupe simple compact est, modulo
le centre, un des groupes classiques A
r
= SU(r+1), B
r
= SO(2r+1), C
r
= Sp(r),
D
r
= SO(2r) ou un des cinq groupes exceptionnels E
6
, E
7
, E
8
,F
4
, G
2
.
D´emonstration du th´eor`eme 3.1 Comme AdU est compact, il existe une
forme bilin´eaire d´efinie positive B
0
sur u qui est AdU-invariante. Pour tout X ∈ u
non nul, adX est antisym´etrique pour B
0
, donc tr((adX)
2
) < 0. La forme de
Killing B de u est d´efinie n´egative. Donc u est semisimple et u
C
aussi.
L’injectivit´e de l’application U →u
C
sera montr´ee dans la section 3.2.
On va montrer dans cette partie la surjectivit´e.
Soit g une alg`ebre de Lie semisimple complexe.
D´efinition 3.2 On appelle forme r´eelle de g une sous-alg`ebre de Lie r´eelle g
R
telle que g = g
R

R
C. Une forme r´eelle g
R
est dite compacte si la forme de Killing
de g
R
est d´efinie n´egative.
25
Il suffit de montrer que g a une forme r´eelle compacte u. Car alors la composante
connexe U := Aut(u)
e
du groupe des automorphismes de u convient. C’est un
groupe compact car il est ferm´e et pr´eserve la forme de Killing. Son alg`ebre de
Lie est isomorphe `a u car toute d´erivation de u est int´erieure.
Pour montrer que g a une forme r´eelle compacte, reprenons les notations de
la section 2.5. Pour α ∈ ∆, choisissons X
α
dans g
α
tels que [X
−α
, X
α
] = H
α
et
d´efinissons, pour α, β ∈ ∆ avec α + β = 0, le nombre N
α,β
par
[X
α
, X
β
] = N
α,β
X
α+β
si α + β est dans ∆ et par N
α,β
= 0 sinon.
Proposition 3.3 On peut choisir les X
α
de sorte que N
α,β
= −N
−α,−β
.
Les nombres N
α,β
sont alors r´eels.
Grace ` a cette proposition, on peut prendre pour forme r´eelle compacte de g
u = ih
R
⊕(⊕
α∈∆
Ri(X
α
+X
−α
)) ⊕(⊕
α∈∆
R(X
α
−X
−α
)) .
En effet, par construction, les facteurs de cette somme directe sont orthogonaux
et B est donc d´efinie n´egative sur u. Les ´egalit´es N
α,β
= −N
−α,−β
∈ R assurent
que u est une alg`ebre de Lie.
Remarque Pour g = sl(2, C), on obtient la base de su(2)
iH =

i 0
0 i

, i(X+Y ) =

0 i
i 0

, X−Y =

0 1
−1 0

.
Lemme 3.4 a) Pour α, β ∈ ∆, on a N
α,β
= −N
β,α
.
b) Pour α, β, γ ∈ ∆ avec α + β + γ = 0, on a
N
α,β
= N
β,γ
= N
γ,α
et N
α,β
N
−α,−β
< 0.
c) Pour α, β, γ, δ ∈ ∆ non deux `a deux colin´eaires, on a
N
α,β
N
γ,δ
+ N
β,γ
N
α,δ
+ N
γ,α
N
β,δ
= 0.
D´emonstration du lemme 3.4 a) Clair.
b) Comme α + β + γ = 0, on a H
α
+ H
β
+ H
γ
= 0. Or, l’identit´e de Jacobi
appliqu´ee ` a X
α
, X
β
, X
γ
donne N
β,γ
H
α
+ N
γ,α
H
β
+ N
α,β
H
γ
= 0. Donc N
α,β
=
N
β,γ
= N
γ,α
.
D’autre part, la proposition 2.14 qui classifie les sl(2)-modules prouve que
[X
t
−α
, [X
t
α
, X
β
]] = a
α,β
X
β
o` u a
α,β
est un entier strictement positif. On en d´eduit
que N
α,β
N
−α,α+β
> 0.
c) Appliquer l’identit´e de Jacobi ` a X
α
, X
β
, X
γ
.
D´emonstration de la proposition 3.3 Choisissons un ordre total sur h

R
tel
que la somme de deux ´el´ements positifs est positif ; par exemple l’ordre lexicogra-
phique pour les coordonn´ees dans une base de h

R
. On note ∆
+
= ¦α ∈ ∆ [ α > 0¦
l’ensemble des racines positives.
Pour ρ ∈ ∆
+
, posons ∆
ρ
= ¦α ∈ ∆ [ −ρ ≤ α ≤ ρ¦ et montrons par r´ecurrence
sur #∆
ρ
qu’on peut choisir les X
α
, pour α ∈ ∆
ρ
tels que
N
α,β
= −N
−α,−β
pour tout α, β, α+β ∈ ∆
ρ
(2)
26
Le nombre N
α,β
est alors automatiquement r´eel par b).
Par hypoth`ese de r´ecurrence, il ne reste `a choisir que X
ρ
car X
−ρ
s’en d´eduit.
Si on ne peut pas ´ecrire ρ = γ +δ avec γ, δ ∈ ∆
+
, on choisit X
ρ
arbitrairement.
Si on peut ´ecrire ρ = γ + δ avec γ, δ ∈ ∆
+
, on prend X
ρ
= λ[X
γ
, X
δ
] et
X
−ρ
= λ[X
−γ
, X
−δ
] o` u λ ∈ C

est choisi de sorte que B(X
ρ
, X
−ρ
) = 1. Il reste ` a
v´erifier (2). Grace ` a b), il suffit de v´erifier (2) lorsque α + β = ρ. Ce qui r´esulte
de l’´egalit´e du c) appliqu´ee ` a α, β, −γ, −δ et ` a −α, −β, γ, δ et de l’hypoth`ese de
r´ecurrence.
Remarque On peut montrer que tout groupe topologique compact simple con-
nexe est de Lie. Le th´eor`eme 3.1 donne donc la classification des groupes compacts
connexes simples. C’est un des grands ach`evement du d´ebut du vingti`eme si`ecle.
Il ouvre la voie ` a la classification des groupes finis simples. Signalons que c’est
seulement `a la fin du vingti`eme si`ecle que cette derni`ere sera compl´et´ee.
3.2 Involutions de Cartan
Ce sont les involutions de Cartan qui nous permettront de com-
prendre la structure des groupes de Lie semisimples et leurs liens avec
les espaces sym´etriques.
D´efinition 3.5 Une involution de Cartan d’une alg`ebre de Lie semisimple r´eelle
g est un automorphisme θ tel que θ
2
= 1 et tel que la forme bilin´eaire sym´etrique
B
θ
donn´ee par B
θ
(X, Y ) = −B(θX, Y ) est d´efinie positive.
On a alors la d´ecomposition de Cartan g = k ⊕ q o` u k = ¦X ∈ g [ θ(X) = X¦
et q = ¦X ∈ g [ θ(X) = −X¦. Ces sous-espaces k et q sont orthogonaux pour la
forme de Killing B qui est d´efinie n´egative sur k et d´efinie positive sur q.
Exemples - Pour g = sl(d, R) ou g = so(p, q), on peut prendre θ(X) = −
t
X.
- L’alg`ebre de Lie g
C
consid´er´ee comme une alg`ebre de Lie r´eelle admet comme
involution de Cartan la conjugaison σ par rapport ` a une forme r´eelle compacte
u. On a alors k = u et q = iu.
Proposition 3.6 a) Toute alg`ebre de Lie semisimple r´eelle g admet une involu-
tion de Cartan θ.
b) Deux involutions de Cartan θ et θ
1
de g sont toujours conjugu´ees.
Remarques - Conjugu´e signifie “conjugu´e par un ´el´ement de Aut(g)
e
”.
- Le point b) prouve l’injectivit´e de l’application U →u
C
du th´eor`eme 3.1.
D´emonstration de la proposition 3.6 a) Soient τ la conjugaison complexe
par rapport ` a g et N l’automorphisme de g
C
produit N = στ o` u σ est comme
dans l’exemple. Pour tout X, Y ∈ g, on a
B
σ
(NX, Y ) = B(τX, Y ) = B(X, τY ) = B
σ
(X, NY ).
27
Donc N est semisimple `a valeurs propres r´eelles. Soit P l’´el´ement P := N
2
. On
peut donc ´ecrire P = P
1
pour un groupe ` a un param`etre t → P
t
de bjections
lin´eaires de l’espace vectoriel r´eel g
C
qui sont semisimples `a valeurs propres posi-
tives. Pour tout t, P
t
est dans Aut(g
C
), P
t
commute `a N et on a σP
t
σ
−1
= P
−t
.
En effet, cela r´esulte de la remarque du lemme 4.9 car ces affirmations sont po-
lynomiales et vraies pour t entiers. On pose alors Q = P

1
4
et σ
t
= QσQ
−1
. On
calcule
σ
t
τ = QσQ
−1
τ = Q
2
στ = P

1
2
N = N
−1
P
1
2
= τσQ
−2
= τQσQ
−1
= τσ
t
.
On en d´eduit que σ
t
(g) ⊂ g et que θ := σ
t
[
g
est une involution de Cartan de g.
b) Comme en a), on peut poser Q := ((θθ
1
)
2
)

1
4
∈ Aut(g), θ
t
:= Qθ
1
Q
−1
et
prouver que θ et θ
t
commutent.
On diagonalise alors simultan´ement θ et θ
t
: on a
g = (k ∩ k
t
) ⊕(k ∩ q
t
) ⊕(q ∩ k
t
) ⊕(q ∩ q
t
)
o` u g = k ⊕ q et g = k
t
⊕ q
t
sont les d´ecompositions de Cartan de g pour θ et θ
t
.
La forme de Killing est d´efinie n´egative sur k et k
t
et est d´efinie positive sur q et
q
t
. Donc, on a k ∩ q
t
= q ∩ k
t
= 0, puis k = k
t
et q = q
t
, c’est-`a-dire θ = θ
t
.
Remarques - Les ´el´ements de k sont elliptiques. Ceux de q sont hyperboliques.
- Notons G = Aut(g)
e
le groupe de Lie connexe ` a centre trivial d’alg`ebre de Lie
g. Le sous groupe K = ¦g ∈ G [ gθ = θg¦ est un sous-groupe compact maximal
de G. L’espace G/K, muni de la m´etrique riemannienne G-invariante donn´ee
par la forme de Killing sur q est un “espace sym´etriques riemanniens simplement
connexe ` a courbure n´egative ou nulle sans facteur euclidien”. L’application g ←→
G/K est une bijection entre les alg`ebres de Lie semisimples r´eelles et ces espace
sym´etriques. Cette bijection est due ` a E. Cartan.
3.3 Sous-alg`ebres de Cartan
Soit g une alg`ebre de Lie semisimple r´eelle.
D´efinition 3.7 Une sous-alg`ebre de Cartan h de g est une sous-alg`ebre commu-
tative form´ee d’´el´ements semisimples et maximale pour cette propri´et´e.
Proposition 3.8 Soit h une sous-alg`ebre de Cartan de g et θ une involution de
Cartan de g. Alors
a) La complexifi´ee h
C
est une sous-alg`ebre de Cartan de g
C
.
b) Il existe un conjugu´e de h qui est θ-stable.
D´emonstration a) La d´emonstration du th´eor`eme 2.20.a est valable pour k = R.
Donc h est commutative maximale et h
C
aussi.
28
b) D’apr`es la proposition 3.6, il suffit de construire une involution de Cartan
θ
t
de g telle que θ
t
(h) = h. Soit u une forme r´eelle compacte de g
C
construite `a
partir de h
C
par la m´ethode de la section 3.1. Notons σ (resp. τ) la conjugaison
complexe par rapport ` a u (resp. g). Comme dans la proposition 3.6.a, on peut
poser Q := ((στ)
2
)

1
4
, σ
t
:= Q ◦ σ ◦ Q
−1
, θ
t
:= σ
t
[
g
et montrer que θ
t
est une
involution de Cartan de g. Comme Q(h
C
) = h
C
, on a θ
t
(h) = h.
3.4 Sous-espaces de Cartan
Soit g une alg`ebre de Lie semisimple r´eelle.
D´efinition 3.9 Un sous-espace de Cartan a de g est une sous-alg`ebre commuta-
tive form´ee d’´el´ements hyperboliques et maximale pour cette propri´et´e.
Par d´efinition tout ´el´ement hyperbolique fait partie d’un sous-espace de Cartan.
On peut diagonaliser g sous l’action adjointe de a. On d´esigne par Σ l’ensemble
des racines restreintes, i.e. l’ensemble des poids non triviaux pour cette action.
Comme en 2.5, la th´eorie des sl
2
-triplets permet de montrer que Σ est un syst`eme
de racines abstrait (pas toujours r´eduit). On a une d´ecomposition
g = l ⊕(⊕
λ∈Σ
g
λ
), o` u
g
λ
:= ¦Y ∈ g / ∀X ∈ a , adX(Y ) = λ(X)Y ¦
est l’espace radiciel associ´e ` a λ et l est le centralisateur de a.
Soient g = k ⊕ q une d´ecomposition de Cartan associ´ee `a une involution de
Cartan θ et K := ¦g ∈ Aut(g) [ θg = gθ¦. Ce groupe K est compact et son
alg`ebre de Lie est k.
Proposition 3.10 a) Tout sous-espace de Cartan a de g est conjugu´e `a un sous-
espace de Cartan inclus dans q.
b) Deux sous-espaces de Cartan inclus dans q sont toujours conjugu´es par un
´el´ement de K
e
.
D´emonstration a) Mettons a dans une sous-alg`ebre de Cartan h de g. On peut
supposer grˆ ace `a la proposition 3.8 que h est θ-stable. Mais alors h = (h ∩ k) ⊕
(h ∩q). Comme h ∩q est l’ensemble des ´el´ements hyperboliques de h, on a a ⊂ q.
b) Soient a
1
, a
2
deux sous-espaces de Cartan dans q. Choisissons X
i
∈ a
i
en
dehors des noyaux des racines restreintes de sorte qu’un ´el´ement X de g qui
commute `a X
i
commute aussi `a a
i
.
On peut supposer que la fonction d´efinie sur K g → B(X
1
, gX
2
) atteint son
minimum pour g = e. On a alors, pour tout Z ∈ k, B(X
1
, [Z, X
2
]) = 0 et donc
B(Z, [X
1
, X
2
]) = 0. Comme [X
1
, X
2
] est dans k, on en d´eduit [X
1
, X
2
] = 0, puis
[a
1
, a
2
] = 0 et enfin a
1
= a
2
.
29
Corollaire 3.11 Soit g
C
(resp. g, u) une alg`ebre de Lie semisimple complexe
(resp. r´eelle, r´eelle compacte).
a) Toutes les sous-alg`ebres de Cartan de u sont conjugu´ees.
b) Toutes les sous-alg`ebres de Cartan de g
C
sont conjugu´ees.
c) g n’a qu’un nombre fini de classes de conjugaison de sous-alg`ebres de Cartan.
La dimension commune des sous-alg`ebres (resp. sous-espaces) de Cartan de g
est appel´e le rang (resp. rang r´eel) de g.
D´emonstration a) L’´egalit´e u
C
= u ⊕iu est une d´ecomposition de Cartan. Si t
est un sous-alg`ebre de Cartan de u, it est un sous-espace de Cartan de u
C
inclus
dans iu. On peut donc appliquer la proposition 3.10.b.
b) Soient h
1
et h
2
deux sous-alg`ebres de Cartan de g
C
. D’apr`es la construction
du th´eor`eme 3.1, il existe des formes r´eelles compactes u
i
telles que t
i
:= u
i
∩ h
i
est une sous-alg`ebre de Cartan de u
i
. D’apr`es la proposition 3.6, on peut supposer
u
1
= u
2
. On applique alors le a).
c) Fixons un sous-espace de Cartan a dans p. Chaque classe de conjugaison
contient une sous-alg`ebre de Cartan θ-stable h
1
. D’apr`es la proposition 3.10.b, on
peut supposer que a
1
:= h
1
∩q est inclus dans a. Soient Σ
1
:= ¦λ ∈ Σ [ λ(a
1
) = 0¦
et a
t
1
:= ¦X ∈ a
1
[ λ(X) = 0 pour tout λ ∈ Σ
1
¦. Comme a
t
1
contient a
1
et que
tout ´el´ement de a
t
1
commute au commutant de a
1
, par maximalit´e de h
1
, on a
a
1
= a
t
1
. Donc a
1
est enti`erement d´etermin´e par Σ
1
qui ne peut prendre qu’un
nombre fini de valeurs.
Il reste `a comprendre que, si h
2
est une autre sous-alg`ebre de Cartan θ-stable
telle que h
2
∩q = a
1
, alors h
1
et h
2
sont conjugu´ees. Soient m
1
le centralisateur de
a
1
dans k, z
1
le centre de m
1
et m
t
1
= m
1
/z
1
. L’alg`ebre de Lie m
t
1
est semisimple
compacte et les t
t
i
:= (h
i
∩ k)/z
1
sont des sous-alg`ebres de Cartan de m
t
1
. Le a)
permet alors de conclure.
Notons Σ
+
un syst`eme de racines positives de Σ, c’est `a dire une partie de Σ
telle que Σ
+
∩ −Σ
+
= ∅, Σ
+
∪ −Σ
+
= Σ et (Σ
+
+ Σ
+
) ∩ −Σ
+
= ∅.
L’ensemble Π des racines simples de Σ
+
, c’est ` a dire des ´el´ements minimaux de
Σ
+
, est une base de a

. Les sous alg`ebres u
±
:= ⊕
λ∈Σ
± g
λ
sont nilpotentes et la
sous-alg`ebre p = l ⊕u
+
est appel´ee la sous-alg`ebre parabolique minimale associ´ee
` a Σ
+
.
Lemme 3.12 On a la d´ecomposition d’Iwasawa g = k ⊕a ⊕u
+
.
D´emonstration Cela r´esulte de l’´egalit´e θ(g
λ
) = g
−λ
.
3.5 D´ecomposition de Cartan et Iwasawa
Soit G un groupe de Lie semisimple connexe de centre fini d’alg`ebre de Lie g.
On garde les notations ci-dessus. On a, en particulier, choisi une involution de
30
Cartan θ de G, un sous-espace de Cartan a ⊂ q et un syst`eme de racines positives
Σ
+
. Notons a
+
:= ¦X ∈ a / ∀α ∈ Σ
+
, α(X) ≥ 0¦ la chambre de Weyl dans a
associ´ee `a Σ
+
.
Notons K l’ensemble des points fixes de θ dans G et A := exp(a). Par d´efinition,
le rang r´eel de G est la dimension de A. L’ensemble des caract`eres r´eels du groupe
de Lie A peut ˆetre identifi´e au dual a

. Notons aussi
A
+
:= ¦a ∈ A / ∀α ∈ Σ
+
, α(a) ≥ 1¦
la chambre de Weyl dans A associ´ee `a Σ
+
.
On a la d´ecomposition de Cartan.
Th´eor`eme 3.13
a) L’application K q →G; (k, X) →ke
X
est un diff´eomorphisme.
b) On a l’´egalit´e G = KA
+
K.
D´emonstration On peut supposer G ` a centre trivial i.e. G = Aut(g)
e
.
a) C’est la mˆeme que pour SL(d, R). On veut ´ecrire g = kq avec k ∈ K
et q ∈ exp(q). Comme θ(g)
−1
g est sym´etrique d´efinie positive pour la forme
B
θ
, on peut ´ecrire θ(g)
−1
g = e
2X
avec e
tX
groupe ` a un param`etre de matrices
sym´etriques d´efinies positives. On utilise encore la remarque du lemme 4.9 pour
conclure que le groupe ` a un param`etre e
tX
est dans G. On prend q = e
X
et
k = gq
−1
.
b) Utiliser le a) et la proposition 3.10 qui assure que tout ´el´ement de q est
conjugu´e sous K ` a un ´el´ement de a. Utiliser enfin la th´eorie des petits sl
2
qui
permet, pour λ ∈ Σ, de relever les sym´etries s
λ
en des ´el´ements du normalisateur
de a dans K et donc de conjuguer tout ´el´ement de a en un ´el´ement de la chambre
de Weyl a
+
.
Le normalisateur P := N
G
(p) est appel´e le sous-groupe parabolique minimal
associ´e ` a Σ
+
. Notons L le centralisateur de a dans G et U
±
les sous-groupes
connexes d’alg`ebre de Lie u
±
.
On a la d´ecomposition d’Iwasawa.
Th´eor`eme 3.14
a) La multiplication donne un diff´eomorphisme KAU
+
· G.
b) Le quotient P/AU
+
est compact.
c) La multiplication m : U

P → G est un diff´eomorphisme sur un ouvert de
mesure pleine.
Un ´el´ement g de G est dit hyperbolique si on peut ´ecrire g = e
X
avec X ∈ g
hyperbolique i.e. si il est conjugu´e `a un ´el´ement de A.
31
Un ´el´ement g de G est dit unipotent si on peut ´ecrire g = e
X
avec X ∈ g
nilpotent i.e. si il est conjugu´e `a un ´el´ement de U
+
.
Un ´el´ement g de G est dit elliptique si il est conjugu´e `a un ´el´ement de K.
D´emonstration du th´eor`eme 3.14 On peut supposer G ` a centre trivial.
a) Notons W le groupe r´esoluble W = AU
+
et w son alg`ebre de Lie. Comme
A ∩ U
+
= ¦e¦, la multiplication A U
+
→W est un diff´eomorphisme.
Comme w ne contient pas d’´el´ement elliptique, w ne rencontre aucun conjugu´e
de k et donc, les doubles classes KgW sont ouvertes. Elles sont donc aussi ferm´ees.
Donc G = KW. Comme W ne contient pas de sous-groupe compact, on a K ∩
W = ¦e¦.
b) Comme AU
+
est inclus dans P, ce la r´esulte du a).
c) On montre tout d’abord une version complexifi´ee de cette assertion. Notons
G
C
= Aut(g
C
), U
±
C
les sous-groupes connexes d’alg`ebre de Lie u
±
C
=: u
±

R
C
et P
C
le normalisateur de p
C
:= p ⊗
R
C. L’intersection P
C
∩ U

C
est triviale car
l’action adjointe d’un ´el´ement g de P
C
∩ U

C
doit pr´eserver les p
C
-sous-modules
et les u

C
-sous-modules de g
C
, il doit donc pr´eserver tous les espaces radiciels
complexifi´es (g
λ
)
C
et agir trivialement dessus. Comme en outre u

C
⊕ p
C
= g
C
,
La multiplication m
C
: U

C
P
C
→ G
C
est injective d’image ouverte. Comme
ces groupes sont alg´ebriques, d’apr`es la proposition 4.4, l’image est un ouvert de
Zariski. Par injectivit´e de m
C
, on a U

P = U

C
P
C
∩ G. Donc le compl´ementaire
de U

P est un ferm´e de Zariski de G. Il est donc de mesure nulle.
3.6 Sous-groupes paraboliques
Pour toute partie θ ⊂ Π, on note <θ > l’espace vectoriel engendr´e par θ,
Σ
θ
:= Σ∩ <θ > , Σ
±
θ
:= Σ
θ
∩ Σ
±
,
l
θ
:= l ⊕⊕
α∈Σ
θ
g
α
, u
±
θ
:= ⊕
α∈Σ
±
Σ
±
θ
g
α
,
U
±
θ
les groupes connexes associ´es, A
θ
:= ¦a ∈ A / ∀α ∈ θ , α(a) = 1¦, A
+
θ
:=
A
+
∩A
θ
, L
θ
le centralisateur de A
θ
dans G. Soit p
θ
:= l
θ
⊕u
+
θ
and P
θ
:= L
θ
U
+
θ
les
sous-alg`ebres et sous-groupes paraboliques associ´es `a θ. On a alors les assertions.
Proposition 3.15 a) Tout sous-groupe contenant P est ´egal `a l’un des P
θ
.
b) P
θ
est engendr´e par les sous-groupes P
|α¦
pour α ∈ θ.
c) Si θ
1
⊂ θ
2
, alors Σ
θ
1
⊂ Σ
θ
2
, P
θ
1
⊂ P
θ
2
et U
+
θ
1
⊃ U
+
θ
2
.
D´emonstration
3.7 Exemples
D´ecrivons explicitement ces notations pour G = SL(d, R). On peut prendre
32
K = SO(d, R),
A = ¦a = diag(a
1
, . . . , a
d
) / a
i
> 0 , a
1
a
d
= 1¦,
A
+
= ¦a ∈ A / a
1
≥ ≥ a
d
¦,
Σ = ¦ε
i
−ε
j
, i = j , 1 ≤ i, j ≤ d¦,
Σ
+
= ¦ε
i
−ε
j
, 1 ≤ i < j ≤ d¦,
Π = ¦ε
i+1
−ε
i
, 1 ≤ i < d¦, o` u ε
i
∈ a

est donn´e par : ε
i
(a) = a
i
,
g
ε
i
−ε
j
= RE
i,j
avec E
i,j
= e

j
⊗e
i
,
l = a
u
+
=
8
>
>
>
<
>
>
>
:
0
B
B
B
@
0 ∗
.
.
.
0 0
1
C
C
C
A
9
>
>
>
=
>
>
>
;
, p =
8
>
>
>
<
>
>
>
:
0
B
B
B
@
∗ ∗
.
.
.
0 ∗
1
C
C
C
A
9
>
>
>
=
>
>
>
;
, u

=
8
>
>
>
<
>
>
>
:
0
B
B
B
@
0 0
.
.
.
∗ 0
1
C
C
C
A
9
>
>
>
=
>
>
>
;
.
u
+
θ
=

¸
0 ∗ ∗
0 0 ∗
0 0 0

, p
θ
=

¸
∗ ∗ ∗
0 ∗ ∗
0 0 ∗

, u

θ
=

¸
0 0 0
∗ 0 0
∗ ∗ 0

,
l
θ
=

¸
∗ 0 0
0 ∗ 0
0 0 ∗

, A
θ
=

¸
b
1
Id 0 0
0 b
2
Id 0
0 0 b
3
Id

∈ A
¸
,
A
+
θ
= A
θ
∩A
+
. On a pris θ
c
avec seulement deux racines simples. Une autre partie
θ aurait donn´e un nombre et des tailles diff´erentes de matrices blocs.
33
4 Groupes alg´ebriques
Rappelons quelques d´efinitions de la th´eorie des groupes alg´e-
briques. Nous avons choisi un point de vu na¨ıf, probablement pas
suffisamment pr´ecis, intrins`eque et g´en´eral pour le puriste, mais qui
suffit bien pour une premi`ere approche de ce sujet... et pour les ap-
plications que nous avons en vue.
4.1 Vari´et´es alg´ebriques
Tout d’abord quelques mots sur les vari´et´es alg´ebriques.
Soient K un corps alg´ebriquement clos de caract´eristique nulle, k un sous-corps
de K, V
k
∼ k
d
un k-espace vectoriel, V = K ⊗
k
V
k
· K
d
et k[V] l’anneau des
polynomes sur V
k
` a valeurs dans k.
Une vari´et´e (alg´ebrique) affine Z ⊂ V ou ferm´e de Zariski est un sous-ensemble
qui est l’ensemble des z´eros d’une famille de polynˆomes sur V. On note I(Z) ⊂
K[V] l’id´eal des polynˆ omes nuls sur Z.
On dit que Z est une k-vari´et´e si I(Z) est engendr´e par l’intersection I
k
(Z) :=
I(Z) ∩ k[V]. L’anneau quotient k[Z] := k[V]/I
k
(Z) est l’anneau des fonctions
k-r´eguli`eres sur Z. L’ensemble Z
k
:= k
d
∩ Z est l’ensemble des k-points de Z.
Un k-morphisme ou application k-r´eguli`ere de k-vari´et´es ϕ : Z
1
→ Z
2
est une
application telle que, pour tout f dans k[Z
2
], la compos´ee f ◦ ϕ est dans k[Z
1
].
La topologie de Zariski sur Z est la topologie dont les ferm´es sont les sous-
vari´et´es de Z. La toplogie induite sur Z
k
s’appelle aussi topologie de Zariski. On
parlera ainsi de parties Zariski connexes ou de parties Zariski denses.
Une vari´et´e Z est dite k-irr´eductible si on ne peut pas l’´ecrire comme r´eunion de
deux k-sous-vari´et´es propre ou, ce qui est ´equivalent, si l’anneau k[Z] est int`egre.
On note alors k(Z) le corps des fractions de k[Z]. Les ´el´ements de k(Z) sont les
fonctions k-rationnelles. Par noeth´erianit´e de k[Z], toute k-vari´et´e est r´eunion
finie de k-sous-vari´et´es k-irr´eductibles.
La dimension dimZ d’une vari´et´e k-irr´eductible Z est le degr´e de transcendance
sur k de k(Z). L’espace tangent T
z
Z ` a Z en un point z ∈ Z est l’intersection
des diff´erentielles dP(z) des polynˆomes P de l’id´eal I(Z). Un point z ∈ Z est
lisse si m = dim(T
z
Z) est minimum. L’ensemble des points lisses d’une k-vari´et´e
est donc un ouvert de Zariski non vide d´efini sur k. En un point lisse z, on a
dim(T
z
Z) = m = dimZ. Autrement dit, localement au voisinage de z, Z s’identifie
aux z´eros de d−m polynˆ omes P
i
tels que T
z
Z = ∩
i
dP
i
(z). On dit que Z est lisse
si tous ses points sont lisses.
Lorsque Z est lisse et que le corps de base k est R, C ou une extension finie de
Q
p
, i.e. k est un corps local de caract´eristique nulle, l’ensemble Z
k
des k-points de
Z est une sous-vari´et´e k-analytique lisse de k
d
de dimension dimZ dont l’espace
tangent en un k-point z s’identifie aux k-points de l’espace tangent en z ` a la
k-vari´et´e Z.
34
Disons, de fa¸con heuristique, que l’int´erˆet de ce point de vue qui consiste ` a
“travailler avec les points dans une clˆ oture alg´ebrique K mais avec des formules ` a
coefficients dans k”, est qu’il permet de d´evelopper le sujet sans savoir s’il existe
des k-points.
Il est souvent utile d’´etendre les d´efinitions ci-dessus ` a un cadre projectif.
Ainsi une k-vari´et´e (alg´ebrique) projective Z ⊂ P(V) ou ferm´e de Zariski est un
sous-ensemble qui est l’ensemble des z´eros d’une famille de polynˆomes homog`enes
sur V ` a coefficients dans k. L’ensemble Z
k
:= P(k
d
)∩Z est l’ensemble des k-points
de Z. On a encore une notion d’applications k-r´eguli`eres, de topologie de Zariski
sur Z et sur Z
k
...
Une k-vari´et´e (alg´ebrique) quasiprojective est un ouvert de Zariski d´efini sur k
d’une k-vari´et´e projective.
Le th´eor`eme suivant est au coeur de la th´eorie de l’´elimination des quantifica-
teurs ou th´eorie des ensembles constructibles.
Th´eor`eme 4.1 (Chevalley) Soit ϕ : Z
1
→ Z
2
une application r´eguli`ere entre
deux vari´et´es alg´ebriques. Alors l’image ϕ(Z
1
) contient un ouvert de son adh´e-
rence (pour la topologie de Zariski).
Remarque ϕ((Z
1
)
k
) ne contient pas toujours un ouvert de Zariski de l’ensemble
des k-points de ϕ(Z
1
). Par exemple ϕ : R →R; t →t
2
.
D´emonstration On peut supposer que les vari´et´es Z
1
et Z
2
sont affines et irr´e-
ductibles sur K et que ϕ(Z
1
) est Zariski dense dans Z
2
. L’application ϕ induit
alors une injection entre les anneaux de fonctions r´eguli`eres A := K[Z
2
] →B :=
K[Z
1
]. Remarquons que la donn´ee d’un point x de Z
1
´equivaut ` a la donn´ee d’un
morphisme d’anneaux ψ : B → K : le morphisme donn´e par ψ(P) = P(x) pour
tout P ∈ B. Le th´eor`eme est donc une cons´equence du lemme suivant.
Lemme 4.2 Soit A →B des K-alg`ebres telles que B est une A-alg`ebre de type
fini int`egre. Alors pour tout b ∈ B non nul, il existe a ∈ A tel que, tout morphisme
ψ : A → K tel que ψ(a) = 0 se prolonge en un morphisme
¯
ψ : B → K tel que
¯
ψ(b) = 0.
D´emonstration Par r´ecurrence sur le nombre de g´en´erateurs de B comme A-
alg`ebre, on peut supposer que B est engendr´e par un ´el´ement x. Notons alors
P(T) =
¸
0≤i≤
p
i
T
i
∈ A[T] un polynˆ ome non nul de degr´e minimal tel que
P(x) = 0. Remarquons tout d’abord que si le polynˆome P n’existe pas alors
B · A[T] et la conclusion du lemme 4.2 est claire. Notons L le corps des fractions
de A. L’id´eal I := ¦P
1
∈ L[T] [ P
1
(x) = 0¦ annulateur de x dans L[T] est engendr´e
par P.
Notons aussi Q =
¸
q
i
T
i
∈ A[T] un polynˆ ome non nul de degr´e au plus −1
tel que b divise Q(x), et notons r un ´el´ement non nul de A tel qu’il existe deux
35
polynomes R
1
et R
2
de A[T] avec r = R
1
P +R
2
P
t
. On prend alors a = p

q
i
r o` u
q
i
est un des coefficients non nuls de Q. Le polynˆome
¸
0≤i≤
ψ(p
i
)T
i
∈ K[T] a
alors racines distinctes. Notons alors λ ∈ K une racine de ce polynˆ ome qui n’est
pas racine du polynˆome non nul
¸
i
ψ(q
i
)T
i
. La formule
¯
ψ(
¸
a
i
x
i
) =
¸
ψ(a
i

i
d´efinit bien un morphisme de B dans K qui prolonge ψ et tel que
¯
ψ(b) divise
¸
i
ψ(q
i

i
= 0.
Soit ϕ : Z
1
→ Z
2
une application k-r´eguli`ere entre deux vari´et´es alg´ebriques
irr´eductibles. On dit que ϕ est dominante si ϕ induit une injection k[Z
2
] →k[Z
1
]
i.e. si l’image de ϕ est Zariski dense. On dit que ϕ est un plongement si ϕ induit
une surjection k[Z
2
] →k[Z
1
] i.e. si ϕ est injective d’image Zariski ferm´ee.
Remarque Le th´eor`eme de Chevalley dit que l’image de tout morphisme domi-
nant contient un ouvert de Zariski dense. Si on examine la preuve du th´eor`eme
de Chevalley, on obtient la pr´ecision suivante :
Corollaire 4.3 Soit ϕ : Z
1
→ Z
2
une application r´eguli`ere dominante entre
deux vari´et´es alg´ebriques irr´eductibles. Alors, il existe un ouvert de Zariski dense
Z
t
1
⊂ Z
1
lisse d´efini sur k sur lequel ϕ est une submersion i.e. sur lequel la
diff´erentielle dϕ est surjective.
D´emonstration Remplacer dans la preuve du lemme 4.2, la constante a = p

q
i
par a = δp

q
i
o` u δ est le discriminant de P.
4.2 Groupes alg´ebriques
Nous ne parlerons ici que de groupes alg´ebriques lin´eaires. Voici
donc quelques d´efinitions.
Un groupe alg´ebrique (lin´eaire) d´efini sur k ou, plus bri`evement un k-groupe
est une k-vari´et´e G ⊂ GL(V) ⊂ End(V) qui est un groupe pour la composition
des endomorphismes.
Par exemple, le k-groupe additif G
a
:= ¦

1 x
0 1

[ x ∈ K¦,
le k-groupe multiplicatif G
m
:= ¦

y 0
0 z

[ y, z ∈ K, xy = 1¦
ou le k-groupe lin´eaire GL(V) · ¦(g, δ) ∈ End(V) K [ δ detg = 1¦ .
On a k[G
a
] = k[x] et k[G
m
] = k[y, y
−1
].
On note G
k
:= G∩GL(d, k) le groupe des k-points de G, et plus g´en´eralement,
pour tout sous-anneau A de K, G
A
= G∩ GL(d, A) est un sous-groupe de G.
Un k-morphisme de k-groupes ϕ : G
1
→G
2
est un k-morphisme de k-vari´et´es
qui est aussi un morphisme de groupes.
Une k-isog´enie est un k-morphisme surjectif de noyau fini (on notera que le
morphisme entre les k-points n’est pas toujours surjectif ; exemple : y →y
2
dans
G
m
).
36
Un k-caract`ere de G est un k-morphisme χ : G →G
m
.
Un k-cocaract`ere de G est un k-morphisme χ : G
m
→G.
Une k-repr´esentation de G dans un k-espace vectoriel W
k
est un k-morphisme
ρ : G →GL(W).
Une k-action de G sur une k-vari´et´e Z est une action G Z → Z qui est
donn´ee par une application k-r´eguli`ere.
L’alg`ebre de Lie g d’un k-groupe G est l’ensemble des d´erivations invariantes
` a gauche de l’alg`ebre K[G]. L’alg`ebre de Lie g s’identifie `a l’espace tangent en e
` a G, c’est ` a dire `a l’intersection des noyau Ker(dP(e)), pour P ∈ I(G). On note
g
k
les k-points de g. Lorsque k = R, C ou une extension finie de Q
p
, g
k
est aussi
l’alg`ebre de Lie du groupe de Lie k-analytique G
k
.
Avant de poursuivre cette importante liste de d´efinitions, faisons une pause
pour d´ecrire quelques propri´et´es des k-groupes et leurs actions.
4.3 Actions alg´ebriques
L’un des int´erˆets majeurs des “groupes et actions alg´ebriques” est
la propri´et´e suivante de leurs orbites qui contraste fortement avec les
orbites des actions ergodiques.
Proposition 4.4 Les orbites d’une k-action alg´ebrique sont ouvertes dans leur
adh´erence (pour la topologie de Zariski).
D´emonstration Le th´eor`eme 4.1 prouve qu’au moins un point de l’orbite est
dans l’int´erieur de l’adh´erence cette l’orbite. Ils y sont donc tous.
Corollaire 4.5 L’image ϕ(G) d’un k-morphisme de k-groupes ϕ : G → H est
un k-sous-groupe.
D´emonstration L’adh´erence de Zariski ϕ(G) est un k-sous-groupe. D’apr`es la
proposition 4.4, l’image ϕ(G) est ouverte dans cette adh´erence. Or un sous-groupe
ouvert est aussi ferm´e.
Nous aurons souvent besoin de la proposition suivante qui joue un rˆ ole central
dans la th´eorie des groupes alg´ebriques et qui affirme que tout espace homog`ene
G/H de k-groupes peut se r´ealiser comme une orbite dans l’espace projectif d’une
k-repr´esentation de G.
Proposition 4.6 (Chevalley) Soit G un k-groupe et H ⊂ G un k-sous-groupe.
Alors, il existe une k-repr´esentation de G dans un espace vectoriel V
k
et un
point x dans l’espace projectif P(V
k
) dont le stabilisateur dans G est H, i.e.
H = ¦g ∈ G / g x = x¦.
37
En particulier, l’espace homog`ene G/H a une structure naturelle de k-vari´et´e
quasiprojective.
D´emonstration de la proposition 4.6 Nous aurons besoin des notations :
I(H) := ¦P ∈ K[G] [ P[
H
= 0¦, K
m
[G] := ¦P ∈ K[G] [ d

P ≤ m¦ et I
m
(H) :=
I(H)∩K
m
[G]. Puisque K[G] est noeth´erien, on peut trouver m tel que I
m
(H) en-
gendre l’id´eal I(H) de K[G]. L’action de G sur K
m
[G] donn´ee par (π(g)P)(g
t
) :=
P(g
t
g) est une k-repr´esentation. La k-repr´esentation que nous cherchons est la
repr´esentation dans la p
i`eme
puissance exterieure V := Λ
p
(K
m
[G]), o` u p :=
dimI
m
(H) et x est la droite de V d´efinie par x := Λ
p
(I
m
(H)). Par construc-
tion, on a l’´egalit´e requise H = ¦g ∈ G / g x = x¦.
Corollaire 4.7 Soit G un k-groupe et H ⊂ G un k-sous-groupe. Supposons que
H n’a pas de k-caract`ere non trivial. Alors, il existe une k-repr´esentation de G
dans un espace vectoriel V
k
et un point v ∈ V
k
dont le stabilisateur dans G est
H, i.e. H = ¦g ∈ G / g v = v¦.
D´emonstration L’action de H sur la droite x est triviale puisque tous les k-
caract`eres de H sont triviaux. On prend v sur cette droite.
Lorsque le corps k n’est pas alg´ebriquement clos, on ne peut pas esp´erer des
´enonc´es aussi nets que la proposition 4.4 au niveau des k-points. N´eanmoins
lorsque le corps de base k est R, C ou une extension finie de Q
p
on obtient de tels
´enonc´es au niveau des k-points mais pour la topologie analytique, i.e. celle issue
de la topologie du corps localement compact k.
Proposition 4.8 Soient k = R, C ou une extension finie de Q
p
et G un k-
groupe.
a) Si G est Zariski-connexe, le groupe G
k
est Zariski dense dans G.
b) Soit ρ : GZ →Z une k-action de G sur une k-vari´et´e Z. Alors, pour tout
v ∈ Z
k
, les orbites de G
k
dans (Gv)
k
:= Gv ∩Z
k
sont ouvertes et ferm´ees (pour
la topologie analytique).
Remarque l’assertion a) est encore vraie sans aucune hypoth`ese sur le corps
infini k. Voir [7] cor. 18.3.
D´emonstration a) Le groupe G
k
est un groupe de Lie sur k dont l’alg`ebre de
Lie g
k
s’identifie aux k-points de l’alg`ebre de Lie de G. L’adh´erence de Zariski
H de G
k
est un k-sous-groupe de G dont l’alg`ebre de Lie contient g. On a donc
H = G.
b) On peut supposer que Z = Gv. En particulier, G et Z sont des k-vari´et´es
lisses. Leurs k-points G
k
et Z
k
sont donc des k-vari´et´es analytiques lisses dont
les espaces tangents analytiques s’identifient aux k-points des espaces tangents
alg´ebriques `a G et Z. Notons ρ
v
: G →Z; g →gv l’application orbitale. C’est une
38
application surjective. Par le corollaire 4.3, sa diff´erentielle est donc surjective sur
un ouvert de Zariski non vide. Par G-invariance, la diff´erentielle dρ
v
: T
e
G →T
v
Z
est surjective. Par le th´eor`eme des fonctions implicites, l’application ρ
v
: G
k
→Z
k
est donc ouverte au voisinage de e. Donc les G
k
-orbites dans (Gv)
k
sont ouvertes
dans (Gv)
k
. Par suite ces orbites sont aussi ferm´ees.
Remarques - On peut aussi montrer que G
k
n’a qu’un nombre fini d’orbites
dans Gv ∩ Z
k
.
- Lorsque k = R, ces G
k
-orbites dans (Gv)
k
sont des unions de composantes
connexes analytiques de (Gv)
k
.
4.4 El´ements semisimples et unipotents
Rappelons dans ce cadre les d´efinitions d’´el´ements semisimple et
unipotent et leurs principales propri´et´es.
Un ´el´ement g ∈ End(V) est semisimple si il est diagonalisable sur K et uni-
potent si g −1 est nilpotent. Le lemme suivant est la classique d´ecomposition de
Jordan.
Lemme 4.9 Soient g ∈ GL(V) et G ⊂ GL(V) un k-groupe.
i) g peut s’´ecrire de fa¸con unique g = su = us avec s semisimple et u unipotent.
ii) Tout sous-espace W⊂ V invariant par g est aussi invariant par s et u.
iii) g ∈ G =⇒s, u ∈ G.
iv) g ∈ G
k
=⇒s, u ∈ G
k
.
D´emonstration i) Classique.
ii) Les composantes s et u peuvent ˆetre exprim´ees comme des polynˆ omes en g.
iii) Consid´erer l’action de G sur K
m
[EndV] := ¦P ∈ K[EndV] / d

P ≤ m¦
donn´ee par (π(g)P)(x) := P(xg). On remarque tout d’abord que l’action sur
K
m
[EndV] d’un ´el´ement semisimple ou unipotent de GL(V) est encore semi-
simple ou unipotente.
Le sous-espace I
m
[G] := I[G] ∩ K
m
[EndV] est invariant par g. Donc il est
aussi invariant par sa composante semisimple et unipotente qui n’est autre que
π(s) et π(u). Donc pour tout P ∈ I
m
[G], on a P(s) = (π(s)P)(1) = 0 et P(u) =
(π(u)P)(1) = 0. Donc s et u sont dans G.
iv) Par unicit´e, s et u sont invariants par le groupe de Galois Gal(K/k).
Remarques - Soit g ∈ G
k
. Comme chark = 0, on peut ´ecrire u = e
N
avec N
nilpotent. La mˆeme preuve assure que, pour tout t ∈ k, l’´el´ement u
t
:= e
tN
est
dans G
k
.
- Lorsque k = R, on peut ´ecrire de fa¸ con unique s = hk = kh avec h = e
H
o` u H est diagonalisable sur R et k semisimple `a valeurs propres de module 1. La
mˆeme preuve assure que, pour tout t ∈ R, l’´el´ement h
t
:= e
tH
est dans G
R
.
39
Lemme 4.10 Soient ρ : G →H un k-morphisme de k-groupes et g ∈ G.
a) g est semisimple =⇒ ρ(g) est semisimple.
b) g est unipotent =⇒ ρ(g) est unipotent.
Proof. On peut supposer que k = K et que Gest le plus petit K-groupe contenant
g. Le point principal est alors de prouver que tous les k-morphismes ϕ : G
a
→G
m
et ψ : G
m
→ G
a
sont triviaux. On a k[G
a
] = k[x] et k[G
m
] = k[y, y
−1
]. Alors
y ◦ ϕ est un ´el´ement inversible de k[x], donc est une constante, et x ◦ ψ est un
´el´ement F(y) ∈ k[y, y
−1
] tel que F(y) = F(y
n
)/n pour tout n ≥ 1, et est donc
une constante.
4.5 Groupes alg´ebriques (suite)
Reprenons maintenant la liste des d´efinitions relatives aux groupes
alg´ebriques.
Voici tout d’abord des notions stables par changement de corps de base.
Un k-groupe Gest connexe si il est connexe pour la topologie de Zariski (lorsque
k = C, cela ´equivaut `a la connexit´e pour la topologie analytique).
Un k-groupe G est simplement connexe si toute k-isog´enie H → G avec H
connexe est injective (lorsque k = C, cela ´equivaut `a la simple connexit´e pour la
topologie analytique).
Un k-groupe est unipotent si tous ses ´el´ements sont unipotents.
Le radical unipotent d’un k-groupe est le plus grand sous-groupe distingu´e
unipotent.
Un k-groupe est un k-tore si il est ab´elien et si tous ses ´el´ements sont semi-
simples i.e. s’il est isomorphe sur K ` a une puissance (G
m
)
r
du groupe multipli-
catif.
Un k-groupe est r´eductif si son radical unipotent est trivial.
Un k-groupe est semisimple si il ne contient pas de k-sous-groupe distingu´e
connexe ab´elien. Autrement dit il est semisimple ssi il est r´eductif ` a centre fini.
Un k-groupe semisimple est dit adjoint si son centre est trivial.
Une k-repr´esentation d’un k-groupe est semisimple si tout k-sous-espace inva-
riant admet un suppl´ementaire invariant.
Voici maintenant des notions qui d´ependent fortement du corps de base.
Un k-tore est k-d´eploy´e si il est isomorphe sur k ` a une puissance (G
m
)
r
.
Un k-groupe est k-d´eploy´e si il contient un k-sous-tore maximal qui est k-
d´eploy´e.
Un k-groupe G est dit k-isotrope si il contient un k-sous-tore k-d´eploy´e non
trivial et k-anisotrope sinon.
Un k-groupe G est dit k-quasisimple si il est connexe et si tout k-sous-groupe
distingu´e propre est fini.
40
Une k-repr´esentation d’un k-groupe G est k-irr´eductible si 0 et W sont les
seuls k-sous-espaces G-invariants.
Proposition 4.11 Lorsque G est semisimple, on a l’´equivalence : G est k-
isotrope ssi G
k
contient des ´el´ements unipotents non triviaux.
D´emonstration Pour l’implication directe on diagonalise l’alg`ebre de Lie g pour
l’action adjointe d’un tore k-isotrope T. Chaque espace propre g
χ
associ´e ` a un
caract`ere non trivial χ de T est d´efini sur k et est form´e d’´el´ements nilpotents.
On retrouvera cet argument en montrant le lemme 5.5.b.
La r´eciproque r´esulte de la proposition 2.14 et du th´eor`eme 2.15 de Jacobson
Morozov. Chaque ´el´ement nilpotent X de g
k
fait partie d’un sl
2
-triplet (X, H, Y )
dont l’´el´ement H engendre l’alg`ebre de Lie d’un k-tore d´eploy´e de dimension 1.
Proposition 4.12 Une k-repr´esentation d’un k-groupe semisimple G est semi-
simple.
D´emonstration Pour montrer cela on peut, comme pour la proposition 2.14
supposer k = C, et appliquer l’astuce unitaire avec le sous-groupe compact K ⊂
G
C
dont l’alg`ebre de Lie k est une forme r´eelle compacte de l’alg`ebre de Lie g de
G
C
. On a vu que ce groupe K existe dans le th´eor`eme 3.1.
Remarque La cat´egorie des R-groupes semisimples simplement connexes G est
´equivalente la cat´egorie des groupes de Lie semisimples r´eels simplement connexes
G ou `a celle des alg`ebres de Lie semisimples r´eelles g. Une ´equivalence entre ces
cat´egories est donn´ee par les foncteurs G → G → g o` u G est le revˆetement
universel de G
R
et g := Lie(G). C’est un yoga utile de passer d’un language `a
l’autre.
Par exemple, un sous-espace de Cartan a de g n’est rien d’autre que “l’alg`ebre
de Lie des points r´eels d’un tore R-d´eploy´e maximal A de G”. Ou encore, la
cat´egorie des repr´esentations de dimension finie de g est ´equivalente `a la cat´egorie
des R-repr´esentations de G.
Les g´eom`etres diff´erentiels et les analystes pr´ef`erent souvent le deuxi`eme lan-
guage car il est plus adapt´e aux questions g´eom´etriques et topologiques. Les
g´eom`etres alg´ebristes et les arithm´eticiens pr´ef`erent souvent le premier language
car il ouvre la voie ` a des extensions ` a d’autres corps que R. Ces languages parlent
presque du mˆeme objet, tout comme le coffee am´ericain et le caff`e italien d´esi-
gnent presque la mˆeme boisson...
On a vu `a plusieurs reprises ces deux points de vue s’´eclairer l’un l’autre.
Rappelons en deux exemples particuli`erement importants : L’astuce unitaire pour
montrer la semisimplicit´e des k-repr´esentations. La d´ecomposition de Jordan dans
G pour montrer la d´ecomposition de Cartan de G.
41
5 Groupes arithm´etiques
Nous avons montr´e dans le chapitre 1, que, pour une forme qua-
dratique enti`ere non d´eg´en´er´ee, le sous-groupe G
Z
des matrices or-
thogonales enti`eres est un r´eseau dans le groupe G
R
des matrices
orthogonales r´eelles.
Le but de ce chapitre est de montrer comment la preuve s’adapte
` a tous les Q-groupes et d’obtenir ainsi le th´eor`eme de Borel et Harish-
Chandra.
5.1 Groupes arithm´etiques
Donnons tout d’abord la d´efinition d’un sous-groupe arithm´etique
d’un Q-groupe et v´erifions qu’elle ne d´epend pas, ` a commensurabilit´e
pr`es, du plongement du Q-groupe dans un groupe de matrices.
Rappelons que l’expression Q-groupe est un raccourci pour groupe alg´ebrique
lin´eaire d´efini sur Q. On renvoie au chapitre 4 pour les d´efinitions pr´ecises des
notions relatives aux groupes alg´ebriques que nous utiliserons.
D´efinition 5.1 Soit G un Q-groupe. Le sous-groupe G
Z
de G est appel´e sous-
groupe arithm´etique.
Cette d´efinition 5.1 est provisoire : nous l’´etendrons dans le chapitre 11.
Deux sous-groupes Γ
1
et Γ
2
d’un groupe Γ sont dits commensurables si l’inter-
section Γ
1
∩ Γ
2
est d’indice fini `a la fois dans Γ
1
et Γ
2
.
Le corollaire ci-dessous affirme que le sous-groupe arithm´etique d’un Q-groupe
G est bien d´efini `a commensurabilit´e pr`es, ind´ependamment de “la r´ealisation de
G comme groupe de matrices”.
Lemme 5.2 Soit ρ une Q-repr´esentation d’un Q-groupe G dans un Q-espace
vectoriel V
Q
. Alors,
a) Le groupe G
Z
pr´eserve un r´eseau ∆ ⊂ V
Q
.
b) Tout r´eseau ∆
0
⊂ V
Q
est pr´eserv´e par un sous-groupe d’indice fini de G
Z
.
D´emonstration a) Choisissons une base de V
Q
. Les coefficients des matrices
ρ(g)−1 s’expriment comme des polynˆ omes ` a coefficients dans Q en les coefficients
des matrices g −1. Le coefficient constant de ces polynˆ omes est nul. Donc il existe
un entier m ≥ 1 tel que, si g est dans le sous-groupe de congruence
Γ
m
:= ¦g ∈ G
Z
/ g = 1 mod m¦,
alors ρ(g)a des coefficients entiers. Puisque Γ
m
est d’indice fini dans G
Z
, ce groupe
G
Z
pr´eserve aussi un r´eseau de V
Q
.
42
b) C’est une cons´equence du a) puisqu’on peut trouver des entiers N, N
0
≥ 1
tels que N∆ ⊂ N
0

0
⊂ ∆.
On en d´eduit facilement le corollaire suivant.
Corollaire 5.3 Soit ϕ : G
1
→ G
2
un Q-isomorphisme de Q-groupes. Alors les
groupes ϕ(G
1,Z
) et G
2,Z
sont commensurables.
Le but principal de ce chapitre est de d´emontrer le th´eor`eme suivant dont le
point a) est dˆ u `a Borel, Harish-Chandra et le point b) `a Godement.
Th´eor`eme 5.4 Soit G un Q-groupe.
a) Si G n’a pas de Q-caract`ere non trivial, alors G
Z
est un r´eseau de G
R
.
b) Si G n’a pas de Q-cocaract`ere non trivial, alors G
Z
est cocompact dans G
R
.
Remarque Les r´eciproques des points a) et b) sont vraies et beaucoup plus
facile :
Lemme 5.5 Soit G un Q-groupe.
a) Si G a un Q-caract`ere non trivial, alors G
Z
n’est pas un r´eseau de G
R
.
b) Si G a un Q-cocaract`ere non trivial, alors G
Z
n’est pas cocompact dans G
R
.
Remarque Un k-groupe G a un k-caract`ere non trivial ssi il a un k-cocaract`ere
central non trivial. En effet, pour le v´erifier, on peut supposer, en quotientant G
par son radical unipotent, que G est r´eductif. Comme G est presque produit de
son centre connexe et de son groupe d´eriv´e, on peut supposer que G est un tore.
On remarque alors que G est presque produit d’un tore k-isotrope par un tore
k-anisotrope. On renvoie ` a [7] pour plus de d´etails.
D´emonstration du lemme 5.5 a) Par la proposition 4.8, l’image χ(G
R
)
contient R

+
, alors que, par le lemme 5.2, l’image χ(G
Z
) est incluse dans (G
m
)
Z
=
¦±1¦.
b) D’apr`es le lemme 4.10, l’alg`ebre de Lie de l’image d’un Q-cocaract`ere est
de dimension 1 et est engendr´ee par un ´el´ement H diagonalisable. Comme les
seuls carat`eres du groupe multiplicatif G
m
sont les puissances z → z
n
, on peut
supposer que les valeurs propres de H sont enti`eres. Par le a) et la remarque
ci-dessus, cet ´el´ement H n’est pas dans le centre de g. Il existe donc un entier
p = 0 et un ´el´ement non nul X ∈ g ` a coefficients entiers tel que [H, X] = pX.
Par le th´eor`eme 2.4 de Lie, cet ´el´ement X est nilpotent. En particulier, l’orbite
adjointe AdG
R
(X) contient 0 dans son adh´erence. Si G
Z
´etait cocompact dans
G
R
, comme AdG
Z
(X) est un ensemble discret form´ee de matrices ` a coefficients
entiers, l’orbite adjointe AdG
R
(X) serait ferm´ee. Contradiction.
Corollaire 5.6 Soit G un Q-groupe semisimple.
a) Alors G
Z
est un r´eseau de G
R
.
b) G
Z
est cocompact dans G
R
ssi G
Z
n’a pas d’´el´ement unipotent non trivial.
43
Remarque On a les ´equivalences : G
Z
n’a pas d’´el´ement unipotent non trivial
⇔ G
Q
n’a pas d’´el´ement unipotent non trivial ⇔ g
Q
n’a pas d’´el´ement nilpotent
non nul.
En effet, l’application X →e
X
−1 et son inverse X →log(1+X) sont donn´ees
par des polynˆ omes `a coefficients rationnels quand on les applique `a des matrices
nilpotentes.
D´emonstration de : th´eor`eme 5.4 ⇒ corollaire 5.6
a) Un groupe semisimple n’a pas de caract`ere.
b) On a d´ej`a vu dans la d´emonstration du point b) du lemme 5.5 que si G
a des Q-cocaract`eres non triviaux alors g
Q
contient des ´el´ements nilpotents non
nuls.
R´eciproquement, lorsque G est semisimple, un r´eseau cocompact Γ de G
R
ne
peut pas contenir d’´el´ement unipotent non trivial. Voici pourquoi.
D’une part, la classe de conjugaison d’un ´el´ement unipotent contient e dans son
adh´erence : c’est facile pour SL(2, R), le cas g´en´eral s’en d´eduit par le th´eor`eme
2.15 de Jacobson Morozov.
D’autre part, la classe de conjugaison d’un ´el´ement γ
0
∈ Γ est ferm´ee car
l’ensemble des conjugu´es ¦γγ
0
γ
−1
[ γ ∈ Γ¦ est discret et G
R
/Γ est compact.
Remarque Soit G un Q-groupe sans Q-caract`ere. Alors G
R
est unimodulaire.
En effet, comme l’application adjointe Ad est d´efinie sur Q, le caract`ere g →
det(Ad(g)) est un Q-caract`ere. Il est donc trivial. Or, la fonction module est la
valeur absolue de la restriction ` a G
R
de ce caract`ere.
5.2 Strat´egie de d´emonstration du th´eor`eme 5.4.a
Soit G un Q-groupe sans Q-caract`ere. On veut montrer que la
mesure G
R
-invariante λ sur G
R
/G
Z
est finie.
La premi`ere ´etape est un joli argument de plongement (proposition 5.7) qui
permettra, d`es qu’on se donne une Q-repr´esentation fid`ele de G dans V
Q
, de
voir cette mesure λ comme une mesure de Radon sur l’espace X des r´eseaux de
volume 1 de V
R
.
On veut alors appliquer encore une combinaison des corollaires 1.5 et 1.14. Pour
cela, il suffit de construire une probabilit´e µ port´ee par G
R
v´erifiant la condition
[HI]. Remarquons de nouveau que cette condition ne fait plus intervenir le groupe
G
Z
. Cette strat´egie aboutira uniquement lorsque G est Q-simple, adjoint et Q-
isotrope. Ce sera la deuxi`eme ´etape du raisonnement. Notons que cette ´etape est
la plus d´elicate, le groupe G
Z
y apparaissant comme un r´eseau non cocompact.
La troisi`eme ´etape, le cas o` u G est Q-simple, adjoint et Q-anisotrope, est une
application du crit`ere de Mahler. Elle prouvera que dans ce cas le quotient G
R
/G
Z
est compact. Cette ´etape contient le crit`ere de compacit´e de Godement.
44
Dans la quatri`eme ´etape, on passera du cas Q-simple adjoint au cas r´educ-
tif sans Q-caract`ere. Ce sera de nouveau une application du crit`ere de Mahler
(proposition 5.11). Cette ´etape importante contient le cas o` u G est un tore Q-
anisotrope. Elle contient donc en particulier le th´eor`eme des unit´es de Dirichlet.
Enfin, dans la cinqui`eme et derni`ere ´etape, la d´ecomposition de Levi pour les
Q-groupes G = RU comme produit semidirect d’un Q-groupe reductif R et
d’un Q-groupe unipotent U (d´ecomposition que nous admettrons) permettra de
montrer le th´eor`eme pour tous les Q-groupes sans Q-caract`ere.
5.3 Le plongement dans l’espace des r´eseaux
Le plongement suivant permet de relier l’´etude du quotient G
R
/G
Z
` a celle de l’espace des r´eseaux de R
d
.
Proposition 5.7 Soit G ⊂ H = GL(d, C) un Q-groupe sans Q-caract`ere non
trivial. Alors l’injection G
R
/G
Z
→X = H
R
/H
Z
est propre.
Autrement dit, cette injection est un hom´eomorphisme sur une partie ferm´ee
de X
D´emonstration Nous devons montrer que pour toute suite g
n
∈ G
R
, telle que
g
n
H
Z
converge dans dans H
R
/H
Z
, la suite g
n
G
Z
converge dans G
R
/G
Z
.
D’apr`es la proposition 4.6 (avec H pour G et G pour H), il existe une Q-
repr´esentation de H dans un Q-espace vectoriel V
Q
et un pointr x ∈ P(V
Q
) dont
le stabilisateur dans H est G. Puisque tous les Q-caract`eres de G sont triviaux,
le stabilisateur de tout point non nul v sur la droite x est aussi ´egal `a G. Par le
lemme 5.2, le groupe H
Z
stabilise un r´eseau ∆ ⊂ V
Q
. On peut choisir ∆ contenant
v. Donc la H
Z
-orbite de v est discr`ete dans V
R
.
Soit h
n
∈ H
Z
tel que lim
n→∞
g
n
h
n
= h. La suite h
−1
n
v converge vers h
−1
v et est
donc constante pour n grand. On peut donc ´ecrire, pour n grand, h
n
= γ
n
h avec
γ ∈ G
Z
, h ∈ H
Z
. La suite g
n
γ
n
est alors convergente.
5.4 Le cas Q-simple et Q-isotrope
Voici un cas particulier du th´eor`eme de Borel et Harish-Chandra
qui se trouve ˆetre le cas le plus d´elicat.
Lemme 5.8 Soit G un Q-groupe Q-simple, adjoint et Q-isotrope Alors G
Z
est
un r´eseau de G
R
D´emonstration Le premier point est de voir que, comme Gest adjoint, Gadmet
une Q-repr´esentation fid`ele ρ qui est R-irr´eductible. La repr´esentation adjointe est
somme directe ρ
1
⊕ ⊕ρ

de repr´esentations irr´eductibles de G = G
1
G

qui correspondent aux id´eaux g
i
de l’alg`ebre de Lie de G. Chaque repr´esentation
45
ρ
i
est irr´eductible sous l’action de G
i
et ces repr´esentations sont permut´ees par le
groupe de Galois Gal(C, Q). On prend pour ρ le produit tensoriel ρ = ρ
1
⊗ ⊗ρ

de ces repr´esentations. C’est une repr´esentation fid`ele de G d´efinie sur Q qui est
C-irr´eductible. Elle est donc R-irr´eductible.
Le deuxi`eme point est de voir que, comme G est Q-simple et Q-isotrope, le
groupe G
R
n’a pas de facteur compact. En effet, comme G est Q-simple, un
tel facteur est le groupe (G
i
)
R
des R-points d’un facteur R-simple G
i
de G vu
comme R-groupe. Mais, comme G est Q-simple et Q-isotrope, un tel facteur est
R-isotrope et donc non compact.
Le troisi`eme point est d’utiliser le lemme 5.9 suivant qui permet de construire
une probabilit´e µ port´ee par G
R
v´erifiant la condition [HI]. Ce qui permet de
conclure grˆ ace ` a la strat´egie d´ecrite ci-dessus.
Lemme 5.9 Soit G ⊂ GL(d, C) un R-groupe semisimple.Alors
a) il existe un produit scalaire euclidien sur R
d
tel que, pour tout g dans G,
l’adjoint
t
g est aussi dans G.
b) Dans ce cas, si G
R
n’a pas de facteur compact, G
R
est engendr´e par G
R
∩S
+
Rappelons que S
+
est l’ensemble des matrices sym´etriques d´efinies positives.
D´emonstration L’alg`ebre de Lie g
R
de G
R
admet une involution de Cartan
θ qui correspond ` a une d´ecomposition de Cartan g
R
= k ⊕ q (voir chapitre 3).
La sous-alg`ebre u = k ⊕iq a une forme de Killing d´efinie n´egative. Elle est donc
l’alg`ebre de Lie d’un sous-groupe compact U
R
de GL(d, C). Ce groupe U
R
pr´eserve
une forme hermitienne sur C
d
. On prend pour produit scalaire la partie r´eelle de
la restriction ` a R
d
de cette forme hermitienne.
b) Dans la d´ecomposition g
R
= k ⊕q, les ´el´ements M de q sont sym´etriques et
leurs exponentielles exp(M) sont sym´etriques d´efinies positives. Comme [q, q] ⊕q
est un id´eal de g
R
et que G
R
n’a pas de facteur compact, on a l’´egalit´e g
R
=
[q, q] ⊕q et G
R
est engendr´e par exp(q).
5.5 Le cas Q-simple et Q-anisotrope
Cette ´etape est plus simple que la pr´ec´edente : Elle n’utilise que
le plongement et le crit`ere de Mahler.
Corollaire 5.10 Soit G un Q-groupe Q-simple et Q-anisotrope.
Alors G
Z
est un r´eseau cocompact de G
R
D´emonstration Comme G est adjoint, on peut supposer que G est inclus dans
le groupe Aut(g) des automorphismes de l’alg`ebre de Lie g.
Par la proposition 5.7, le quotient G
R
/G
Z
est hom´eomorphe au sous-ensemble
ferm´e ¦Adg(g
Z
) [ g ∈ G
R
¦ de l’ensemble des r´eseaux de g
R
. En outre tous ces
r´eseaux sont de mˆeme covolume. Si le quotient n’´etait pas compact, le crit`ere de
46
compacit´e de Mahler, i.e. la proposition 1.8, assurerait qu’il existerait g
n
∈ G
R
et X
n
∈ g
Z
− ¦0¦ tel que Ad(g
n
)(X
n
) converge vers 0. Pour tout i ≥ 1, la suite
d’entiers n → tr(X
i
n
) converge vers 0. Elle donc nulle pour n grand. Donc pour
n grand, X
n
est nilpotent. Et G n’est pas Q-anisotrope. Contradiction.
5.6 Le cas r´eductif
Le lemme clef pour passer du cas Q-simple adjoint au cas r´eductif
est la proposition suivante.
Proposition 5.11 Soit G un Q-groupe r´eductif, C le centre de G et H le Q-
groupe quotient H = G/C. On suppose que G n’a pas de Q-caract`ere. Alors,
l’application induite π : G
R
/G
Z
→H
R
/H
Z
est une application propre.
Remarques Ce quotient H est un Q-groupe semisimple adjoint. Il est donc
produit de groupes Q-simples adjoints.
D´emonstration Soit G ⊂ End(V) notre Q-groupe et A := End
C
(V) le com-
mutant de C dans End(V). Comme le centre C est r´eductif, l’alg`ebre associative
A est semisimple. Comme C est d´efini sur Q, A est aussi d´efinie sur Q, car tous
deux sont invariants par le groupe de Galois Gal(C/Q). En particulier, l’anneau
A
Z
= A∩End(V
Z
) est un r´eseau de A
R
:= A∩End(V
R
) que l’on peut supposer
de covolume 1.
Le groupe G agit de deux fa¸ cons sur l’alg`ebre A : l’action ρ par translation ` a
gauche et l’action σ par conjugaison qui factorise en une action de H. Rappelons
que G n’a pas de Q-caract`ere. En appliquant deux fois la proposition 5.7 on
obtient, d’une part, que le quotient G
R
/G
Z
est hom´eomorphe ` a l’ensemble des
translat´es ¦gA
Z
[ g ∈ G
R
¦ et, d’autre part, le quotient H
R
/H
Z
est hom´eomorphe
` a l’ensemble des conjugu´es ¦h(A
Z
) [ h ∈ H
R
¦. En outre tous ces r´eseaux sont de
covolume 1. Supposons par l’absurde que l’application π n’est pas propre, il existe
donc une suite g
n
∈ G
R
telle que g
n
A
Z
n’est pas born´ee tandis que g
n
A
Z
g
−1
n
est
born´ee.
Le crit`ere de compacit´e de Mahler, i.e. la proposition 1.8, assure qu’il existe
une suite a
n
∈ A
Z
−¦0¦ telle que g
n
a
n
converge vers 0 et que toute suite a
t
n
∈ A
Z
telle que g
n
a
t
n
g
−1
n
converge vers 0 est nulle pour n grand.
Puisque l’alg`ebre associative semisimple A est somme directe de ses id´eaux
bilat`eres d´efinis sur Q minimaux B, on peut supposer que a
n
est dans l’un des
B
Z
− ¦0¦. Soit b
i
une base de B
Z
. Puisque det
B
g
n
= 1, par le lemme 1.10 de
Minkowski, on peut trouver C
0
> 0 et des ´el´ements non nuls c
n
∈ B
Z
tels que
|c
n
g
−1
n
| ≤ C
0
. Les ´el´ements g
n
a
n
b
i
c
n
g
−1
n
convergent aussi vers 0. Donc, pour
n 0, on a successivement, a
n
b
i
c
n
= 0, a
n
Bc
n
B = 0, a
n
B = 0, et a
n
= 0.
Contradiction.
Corollaire 5.12 Soit ϕ : G →H une Q-isog´enie entre deux Q-groupes r´eductifs.
Alors les groupes ϕ(G
Z
) et H
Z
sont commensurables.
47
D´emonstration Quitte ` a remplacer G et H par l’intersection des noyaux de
leurs Q-caract`eres, on peut supposer G et H sans Q-caract`ere. Notons Z
G
le
centre de G et Z
H
le centre de H. On remarque que l’application ϕ induit un
isomorphisme G/Z
G
· H/Z
H
. On applique alors deux fois la proposition 5.11 ` a
G puis ` a H pour en d´eduire que l’application G
R
/G
Z
→H
R
/H
Z
est propre.
Remarque L’analogue de ce corollaire pour les Q-points est inexact : les groupes
ϕ(G
Q
) et H
Q
ne sont pas toujours commensurables. Prendre par exemple G =
SL(2) et H = PGL(2) et regarder les ´el´ements de H
Q
donn´es par

p 0
0 1

.
5.7 Conclusion
En utilisant la structure des Q-groupes, nous pouvons maintenant
terminer par r´ecurrence notre raisonnement.
D´emonstration du th´eor`eme 5.4 Remarquons tout d’abord que si G = HN
est une d´ecomposition d’un Q-groupe G en un produit semidirect d’un Q-sous-
groupe H et d’un Q-sous-groupe distingu´e N, alors le groupe H
Z
N
Z
est inclus
dans G
Z
. En particulier si H
Z
est un r´eseau de H
R
et N
Z
est un r´eseau de N
R
,
alors G
Z
est un r´eseau de G
R
D’apr`es la d´ecomposition de Levy, valable sur tout corps k de caract´eristique
0, tout k-groupe G est un produit semidirect L U d’un k-groupe r´eductif L et
d’un k-sous-groupe distingu´e unipotent U.
En outre, tout k-groupe unipotent de dimension n ≥ 1 est un produit semidirect
du k groupe additif G
a
de dimension 1 et d’un k-sous-groupe distingu´e unipotent
U
t
de dimension n −1.
Puisque le sous-groupe arithm´etique (G
a
)
Z
· Z est un r´eseau cocompact du
groupe de Lie (G
a
)
R
· R, ces remarques ram`enent la d´emonstration du th´eor`eme
5.4 au cas r´eductif que nous avons obtenu dans la proposition 5.11.
48
6 M´elange et comptage
Ce chapitre est encore au coeur des th`emes de ce cours reliant th´eo-
rie des nombres et th´eorie ergodique `a travers la th´eorie des groupes.
L’objectif arithm´etique est de donner l’asymptotique en r du nom-
bre de matrices de SL(d, Z) de norme au plus r. Nous obtiendrons plus
g´en´eralement un tel asymptotique pour tous les r´eseaux Γ des groupes
de Lie quasisimples G.
La propri´et´e ergodique est ici le m´elange de l’action des ´el´ements
de G sur le quotient de volume fini G/Γ.
La th´eorie des repr´esentations unitaires joue un rˆ ole central dans
cette propri´et´e de m´elange.
Les d´emonstrations ci-dessous sont self-contained pour SL(d, Z),
sauf pour une formule explicite pour la mesure de Haar dans la d´e-
composition de Cartan . Dans le cas g´en´eral, nous utiliserons en plus
quelques propri´et´es sur la structure des groupes de Lie semisimples
r´eels, d´ecompositions de Cartan et d’Iwasawa, que nous avons d´emon-
tr´ees au chapitre 3.
6.1 Repr´esentations unitaires et m´elange
Commen¸cons par la partie th´eorie des repr´esentations unitaires et
´enon¸ cons une propri´et´e g´en´erale, due `a Howe et Moore, de d´ecrois-
sance des coefficients des repr´esentations unitaires.
D´efinition 6.1 Une repr´esentation unitaire π d’un groupe localement compact
G dans un espace de Hilbert (s´eparable) H
π
est un morphisme de G dans le
groupe U(H
π
) des transfomations unitaires de H
π
, tel que, pour tout v dans H
π
,
l’application G →H
π
; g →π(g)v est continue.
Pour tout v, w dans H
π
, le coefficient est la fonction continue c
v,w
: G → C
donn´ee par c
v,w
(g) = <π(g)v, w>.
Exemples - La repr´esentation triviale est la repr´esentation constante π(g) = Id.
Ses coefficients sont des fonctions constantes.
- Quand G est compact, toute repr´esentation unitaire est une somme hilbertienne
orthogonale de repr´esentations unitaires irr´eductibles. Par Peter-Weyl, elles sont
de dimension finie.
- Supposons que G agisse continˆ ument sur un espace localement compact X en
pr´eservant une mesure de Radon ν. Alors la formule (π(g)ϕ)(x) := ϕ(g
−1
x) d´efinit
une repr´esentation unitaire π de G dans L
2
(X, ν) Pour montrer la continuit´e des
applications g → π(g)ϕ, on la montre tout d’abord pour les fonctions continues
` a support compact puis on utilise la densit´e de ces fonctions dans L
2
(X, ν).
Les coefficients
c
ϕ,ψ
: g →

X
ϕ(x)ψ(gx)dν(x)
49
de cette repr´esentation sont aussi appel´es coefficients de corr´elation.
Pour tout sous-groupe H de G, notons
H
H
π
:= ¦v ∈ H
π
/ ∀h ∈ H, π(h)v = v¦
le sous-espace des vecteurs H-invariants.
Rappelons qu’un groupe de Lie G est semisimple si son alg`ebre de Lie g est
semisimple, et que G est quasisimple si g simple (voir chapitre 3). Par exemple
les groupes de Lie SL(d, R) et SO(p, q) sont quasisimples pour d ≥ 2 et p+q ≥ 3.
Th´eor`eme 6.2 (Howe, Moore) Soit G un groupe de Lie r´eel connexe semi-
simple `a centre fini et π une repr´esentation unitaire de G. Supposons que H
G
i
π
= 0
pour tout sous-groupe connexe normal G
i
= 1.
Alors, pour tout v, w dans H
π
, on a lim
g→∞
<π(g)v, w> = 0.
Remarques - La preuve de ce th´eor`eme est report´ee ` a la section 6.3.
- Le symbole g →∞ signifie que g sort de tout compact de G.
- D’apr`es le th´eor`eme 2.7, il n’y a qu’un nombre fini de G
i
.
- Quand g est simple, l’hypoth`ese est H
G
π
= 0.
Corollaire 6.3 Soit G un groupe de Lie r´eel connexe semisimple `a centre fini et
π une repr´esentation unitaire de G sans vecteur G-invariant non nul. Soit H un
sous-groupe ferm´e de G dont les images dans tous les groupes quotients G/G
i
= 1
sont non compactes. Alors H
H
π
= 0.
Remarque - Quand g est simple, l’hypoth`ese sur H ´equivaut ` a H non compact.
D´emonstration Par r´ecurrence, en ´ecrivant H
π
= H
G
i
π
⊕(H
G
i
π
)

, on peut sup-
poser que H
G
i
π
= 0 pour tout i. Soit v un vecteur H-invariant. Le coefficient c
v,v
est constant sur H. Par le th´eor`eme 6.2, il doit ˆetre nul. Donc v = 0.
Corollaire 6.4 Soit G un groupe de Lie r´eel connexe quasisimple `a centre fini,
Γ ⊂ G un r´eseau. Alors l’action de G est m´elangeante sur X = G/Γ, i.e. on a la
propri´et´e suivante de “d´ecroissance des corr´elations”: pour tout ϕ, ψ ∈ L
2
(X, dx),
lim
g→∞

X
ϕ(x)ψ(gx)dx =

X
ϕ(x)dx

X
ψ(x)dx.
- Pour simplifier, on a not´e dx = λ
X
la probabilit´e G-invariante sur X.
- Une extension aux r´eseaux irr´eductibles sera donn´ee dans le corollaire 7.7.
Remarque En particulier, pour tout ´el´ement g ∈ G qui engendre un sous-groupe
non-born´e de G, l’action de g sur X est ergodique, i.e. toute partie mesurable g-
invariante A de X v´erifie λ
X
(A) = 0 ou 1 (voir chapitre 8).
50
D´emonstration du corollaire 6.4 Ecrivons L
2
(X, dx) = C1 ⊕ L
2
0
(X, dx)
o` u L
2
0
(X, dx) d´esigne le sous-espace des fonctions d’int´egrale nulle. D’apr`es le
th´eor`eme 6.2, il suffit de remarquer que les fonctions G-invariantes ϕ de L
2
0
(X, dx)
sont nulles. Cela r´esulte de Fubini car si, pour tout g dans G, ϕ(gx) = ϕ(x) pour
presque tout x ∈ X, alors on peut trouver x ∈ X tel que, ϕ(gx) = ϕ(x) pour
presque tout g ∈ G. Et donc ϕ est presque sˆ urement constante. Donc ϕ = 0.
6.2 Vecteurs invariants pour SL(2)
Commen¸cons par une preuve directe du corollaire 6.3 pour le
groupe SL(2, R).
Pour t > 0 et s dans R, soit
a
t
:=

t 0
0 t
−1

, u
s
:=

1 s
0 1

, u

s
:=

1 0
s 1

.
Proposition 6.5 Soit π une repr´esentation unitaire de G = SL(2, R), t = 1,
s = 0 et v ∈ H
π
. Si v est soit a
t
-invariant, u
s
-invariant ou u

s
-invariant alors, il
est G-invariant.
Remarque La proposition 6.5 et sa d´emonstration sont encore valables pour
le groupe S revˆetement universel de SL(2, R), en rempla¸cant les groupes ` a un
param`etre a
t
, u
s
et u

s
par leur rel`evement dans S.
On utilisera le lemme suivant.
Lemme 6.6 (Mautner) Soit π une repr´esentation unitaire d’un groupe loca-
lement compact G. Pour v dans H
π
, notons S
v
= ¦g ∈ G / π(g)v = v¦ son
stabilisateur dans G. Alors
a) S
v
= ¦g ∈ G / c
v,v
(g) = |v|
2
¦.
b) Soit g dans G tel qu’il existe g
n
dans G, s
n
, s
t
n
dans S
v
avec
lim
n→∞
g
n
= g , lim
n→∞
s
n
g
n
s
t
n
= e. Alors g est dans S
v
.
D´emonstration a) Utiliser l’´egalit´e |π(g)v −v|
2
= 2 |v|
2
−2 Re(c
v,v
(g)).
b) Faire tendre n vers l’infini dans l’´egalit´e c
v,v
(g
n
) = c
v,v
(s
n
g
n
s
t
n
) pour obtenir
c
v,v
(g) = |v|
2
.
D´emonstration de la proposition 6.5 Il suffit de montrer que l’invariance
de v par l’un des trois a
t
, u
s
, u

s
implique l’invariance par les deux autres. Grˆ ace
aux sym´etries, il n’y a que deux cas `a traiter :
a
t
-invariant =⇒ u
s
-invariant. On peut supposer t > 1. On utilise le
lemme 6.6.b avec g
n
= g = u
s
, s
n
= a
−n
t
et s
t
n
= a
n
t
. On v´erifie facilement
que lim
n→∞
s
n
g
n
s
t
n
= lim
n→∞
u
t
−2n
s
= e.
51
u
s
-invariant =⇒a
t
-invariant. On peut supposer que t est rationnel, t =
p
q
.
On utilise le lemme 6.6.b avec g = a
t
, g
n
=

p
q
0
t−1
snp
q
p

, s
n
= u
−np
s
and s
t
n
= u
nq
s
.
On v´erifie facilement que lim
n→∞
s
n
g
n
s
t
n
= lim
n→∞

1 0
t−1
snp
1

= e.
6.3 D´ecroissance des coefficients
Dans cette section, nous donnons la preuve du th´eor`eme 6.2.
Nous aurons besoin du lemme suivant qui est un cas sp´ecial du corollaire 6.3
que nous n’avons pas encore d´emontr´e.
Lemme 6.7 Soit π une repr´esentation unitaire d’un groupe de Lie r´eel connexe
quasisimple G `a centre fini, a = 1 un ´el´ement hyperbolique de G, et u = 1 un
´el´ement unipotent de G. Si un ´el´ement v de H
π
est soit a-invariant ou u-invariant
alors il est G-invariant.
Rappelons qu’un ´el´ement g ∈ G est unipotent (resp. hyperbolique) si g = e
X
avec X ∈ g et adX nilpotent (resp. diagonalisable sur R).
D´emonstration 1
er
cas : v est a-invariant. Ecrivons a = e
X
et d´ecomposons
g en g = u ⊕l ⊕u

o` u u (resp. l, u

) sont la somme des espaces propres de adX
associ´es aux valeurs propres strictement n´egatives (resp. nulles, strictement posi-
tives). Ce sont des sous-alg`ebres de Lie. On note U (resp L, U

) les sous-groupes
de Lie connexes correspondants. Le mˆeme argument que dans la proposition 6.5
montre que v est invariant par U et U

. On conclut que v est G-invariant grˆ ace
au fait suivant : les deux groupes U et U

engendrent G. Pour montrer ce fait,
on remarquera juste que la somme directe u

⊕([u

, u] ∩ l) ⊕u est un id´eal de g
et est donc ´egal ` a g.
2
`eme
cas : v est u-invariant. Notons u = e
N
avec N ∈ g nilpotent. D’apr`es le
th´eor`eme 2.15 de Jacobson-Morozov, il existe une sous-alg`ebre de Lie s · sl(2, R)
de g contenant X. Par la proposition 6.5, v est invariant par le sous-groupe S
d’alg`ebre de Lie s. La proposition 2.14 qui classifie les repr´esentations de s prouve
que S contient des ´el´ements hyperboliques, nous sommes de nouveau dans le
premier cas.
Remarque Lorsque g = sl(d, R), la d´emonstration du th´eor`eme de Jacobson
Morozov est tr`es facile. On veut montrer que toute matrice nilpotente N est dans
l’image d’une repr´esentation de l’alg`ebre de Lie s = sl(2, R). Rappelons que s a
pour base X, H, Y avec
X :=

0 1
0 0

, H :=

1 0
0 −1

, Y :=

0 0
1 0

.
qui v´erifient les relations
[H, X] = 2X , [H, Y ] = −2Y et [X, Y ] = H.
52
Dans une base convenable, N est une matrice form´ee de blocs de Jordan. On se
ram`ene facilement au cas o` u N est un seul bloc de Jordan. Or la repr´esentation
ρ
d
de sl(2, R) dans l’espace vectoriel V
d
des polynˆ omes de degr´e d − 1 sur R
2
envoie X, H, Y respectivement sur
x

∂y
, x

∂x
−y

∂y
et y

∂x
.
En particulier, dans la base x
d−1
, x
d−2
y, . . . , y
d−1
, ρ
d
(X) est un bloc de Jordan de
taille d et ρ
d
(H) est diagonale. C’est ce que l’on voulait.
D´emonstration du th´eor`eme 6.2 L’id´ee est d’utiliser la compacit´e faible de
la boule unit´e de H
π
et la d´ecomposition de Cartan G = KA
+
K de G pour
construire dans H
π
un vecteur v
0
invariant par un unipotent u ∈ G.
La d´ecomposition de Cartan de G (voir chapitre 3) affirme qu’il existe un sous-
groupe compact K de G et une partie A
+
, appel´ee chambre de Weyl, d’un sous
groupe commutatif A form´e d’´el´ements hyperboliques tels que G = KA
+
K.
Si le coefficient <π(g)v, w> ne d´ecroit pas vers 0, on peut trouver des suites
g
n
= k
n
a
n
k
t
n
∈ G = KAK telles que
lim
n
<π(g
n
)v, w>= = 0 , lim
n
k
n
= k , lim
n
k
t
n
= k
t
,
et pour certaines racines α de A dans g, lim
n
α(a
n
) = ∞. En particulier,il existe
un ´el´ement unipotent u ∈ G non trivial tel que a
−1
n
ua
n
→ e. On peut supposer
que k = k
t
= e.
La compacit´e faible de la boule unit´e de H
π
affirme que, toute suite v
n
∈ H
π
avec |v
n
| ≤ 1 a une sous-suite v
n
k
qui converge faiblement vers un vecteur v

i.e. pour tout v
t
∈ H
π
, on a lim
k→∞
'v
n
k
, v
t
` = 'v

, v
t
`.
On peut donc, quitte `a extraire, supposer que la suite π(a
n
)v a une limite faible
v
0
∈ H
π
. V´erifions que ce vecteur v
0
est non nul.
Comme lim
n
|π(k
t
n
)v −v| = lim
n
|π(k
−1
n
)v −v| = 0, on a bien
<v
0
, w> = lim
n
<π(a
n
)v, w> = lim
n
<π(a
n
)π(k
t
n
)v, π(k
−1
n
)w>
= lim
n
<π(g
n
)v, w>= 0
En outre, ce vecteur est u-invariant, parce que, comme a
−1
n
ua
n
→e, on a
|π(u)v
0
−v
0
| ≤ lim
n
|π(a
n
)(π(a
−1
n
ua
n
)v −v)| = 0 .
Ceci contredit le lemme 6.7.
Remarque Pour G = SL(d, R), le groupe K est le groupe SO(d, R) et la chambre
de Weyl A
+
est l’ensemble des ´el´ements diagonaux de G ` a coefficients positifs et
rang´es en ordre d´ecroissant. La d´ecomposition de Cartan G = KA
+
K est une
cons´equence des deux faits ´el´ementaires suivants. Primo : toute matrice r´eelle
inversible est (de fa¸con unique) le produit d’une matrice orthogonale et d’une
matrice sym´etrique d´efinie positive. Secundo : toute matrice sym´etrique d´efinie
positive est diagonalisable dans une base orthonorm´ee.
53
6.4 Comptage des points d’un r´eseau
Rappelons que notre objectif dans ce chapitre est de compter les
points dans SL(d, Z). Ce comptage sera un corollaire imm´ediat du
th´eor`eme g´en´eral suivant dˆ u `a Duke, Rudnick et Sarnak.
Soit G → SL(d, R) un sous-groupe de Lie quasisimple connexe, K un sous-
groupe compact maximal de G, || une norme euclidienne K-invariante sur R
d
.
On note de la mˆeme fa¸con la norme induite sur les matrices.
Notons B
r
:= ¦g ∈ G [ |g| ≤ r¦ la trace sur G de la boule de rayon r.
Soit Γ un r´eseau de G. On veut estimer #(Γ ∩ B
r
). Notons λ
G
la mesure de
Haar sur G que l’on normalise de sorte que la mesure induite λ
X
sur le quotient
X := G/Γ soit de volume 1. Posons v
r
:= λ
G
(B
r
).
Lorsque f et g sont deux fonctions positives sur ]0, ∞[, on dira que f et g sont
asymptotiquement ´equivalentes et on notera f ∼ g lorsque lim
r→∞
f(r)
g(r)
= 1.
Th´eor`eme 6.8 (Duke, Rudnick, Sarnak) #(Γ ∩ B
r
) ∼ v
r
La fin de ce chapitre est consacr´ee ` a la d´emonstration du th´eor`eme 6.8. Nous
suivrons la d´emonstration d’Eskin et Mc Mullen.
Corollaire 6.9 Soit || une norme euclidienne sur R
d
et, pour g ∈ GL(d, R),
notons |g| = sup
|v|=1
|gv|. Alors, il existe c > 0, tel que,
#¦g ∈ SL(d, Z) [ |g| ≤ r¦ ∼ c r
d
2
−d
.
Remarques - Il est possible, ` a partir du raisonnement ci-dessous de calculer
explicitement la constante c.
- La croissance de v
r
est donc exponentielle... comme fonction de R := log r.
6.5 Equidistribution des grandes sph`eres
La premi`ere ´etape de la d´emonstration consiste ` a pousser une pro-
babilit´e K-invariante sur le quotient X = G/Γ par de grands ´el´ements
de G et ` a montrer que les mesures obtenues ainsi s’´equir´epartissent
i.e. ces mesures convergent vers la probabilit´e G-invariante sur X.
Notons x
0
= Γ le point base de X = G/Γ, Y = Kx
0
sa K-orbite et λ
Y
la
probabilit´e K-invariante sur Y .
Proposition 6.10 On a lim
g→∞
g

λ
Y
= λ
X
.
54
Cette limite est la limite pour la convergence faible des mesures. Elle signifie
que pour toute fonction continue ` a support compact ϕ ∈ C
c
(X),
lim
g→∞

Y
ϕ(gy)dλ
Y
(y) =

X
ϕ(x)dλ
X
(x).
Remarque Cette proposition a une signification g´eom´etrique importante : elle
implique que l’image dans le quotient Γ`G/K des “grandes sph`eres de l’espace
sym´etrique riemannien” G/K s’´equir´epartissent dans ce quotient.
D´emonstration On va non seulement utiliser la d´ecomposition de Cartan G =
KA
+
K de G comme dans la d´emonstration du th´eor`eme 6.2 mais aussi la d´ecom-
position d’Iwasawa G = U

AK o` u U

est le groupe de Lie connexe dont l’alg`ebre
de Lie u

est la somme des espaces radiciels associ´es aux racines n´egatives (voir
chapitre 3).
1
er
cas : Supposons que g = a est dans A
+
. Fixons ε > 0. Par uniforme
continuit´e de ϕ, il existe un voisinage ouvert G
ε
de e dans G tel que
[ϕ(ux) −ϕ(x)[ ≤ ε pour tout u ∈ G
ε
et x ∈ X.
Soit W le groupe r´esoluble W = U

A. La d´ecomposition d’Iwasawa donne un
diff´eomorphisme W K →G; (w, k) →wk. Dans cette carte, la mesure de Haar
λ
G
de G est le produit λ
W
⊗ λ
K
de la mesure de Haar ` a gauche de W et de la
mesure de Haar de K.
Comme l’action adjointe de A
+
sur l’alg`ebre de Lie de W est simultan´ement
diagonalisable avec des valeurs propres toujours de modules au plus 1, on peut
trouver un ouvert W
ε
⊂ W ∩ G
ε
tel que
aW
ε
a
−1
⊂ W
ε
pour tout a ∈ A
+
.
Par compacit´e de K, on peut aussi supposer W
ε
suffisamment petit pour que
l’application W
ε
Y → X; (w, y) → wy soit un diff´eomorphisme sur son image
W
ε
Y ⊂ X. Notons alors β
ε
la fonction L
2
sur X, β
ε
=
1
λ
X
(W
ε
Y )
1
W
ε
Y
. On veut
montrer que, lorsque a ∈ A
+
tend vers l’infini, l’int´egrale
I
a
:=

Y
ϕ(ay)dλ
Y
(y)
converge vers I :=

X
ϕ(x)dλ
X
(x). Pour cela on compare l’int´egrale I
a
` a l’int´egrale
J
a
:=

X
ϕ(ax)β
ε
(x)dλ
X
(x).
D’une part, la propri´et´e de m´elange pour l’action de G sur X (corollaire 6.4)
prouve que
lim
a→∞
J
a
= I.
55
D’autre part, pour tout a ∈ A
+
, on a
J
a
=
1
λ
W
(W
ε
)

W
ε
Y
ϕ(awy)dλ
W
(w)dλ
Y
(y)
et, par le choix de W
ε
, on a, en ´ecrivant awy = (awa
−1
)ay,
[ϕ(awy) −ϕ(ay)[ ≤ ε pour tout w ∈ W
ε
et a ∈ A
+
.
On en d´eduit la majoration,
[I
a
−J
a
[ ≤ ε pour tout a ∈ A
+
.
Donc pour a suffisamment grand, on a [I
a
−I[ ≤ 2ε et donc lim
a→∞
I
a
= I.
2
`eme
cas : Cas g´en´eral. On peut supposer que g tend vers l’infini selon une suite
g
n
. Ecrivons grˆace `a la d´ecomposition de Cartan g
n
= k
n
a
n
k
t
n
avec k
n
, k
t
n
∈ K
et a
n
∈ A
+
. La K-invariance de λ
Y
permet de supposer k
t
n
= 1. Comme K est
compact, on peut aussi supposer que la suite k
n
converge vers un ´el´ement k

∈ K.
La suite de fonctions ϕ◦ k
n
converge alors uniform´ement vers ϕ◦ k

. On a donc,
en utilisant le premier cas,
lim
n→∞

Y
ϕ(g
n
y)dλ
Y
(y) = lim
n→∞

Y
ϕ(k

a
n
y)dλ
Y
(y)
=

X
ϕ(k

x)dλ
X
(x) =

X
ϕ(x)dλ
X
(x).
C’est ce que l’on voulait.
Remarque Pour G = SL(d, R), La d´ecomposition d’Iwasawa G = U

AK est
une cons´equence du proc´ed´e d’orthonormalisation de Gramm-Schmidt qui affirme
que toute matrice r´eelle inversible est (de fa¸con unique) le produit d’une matrice
orthogonale et d’une matrice triangulaire inf´erieure `a coefficients diagonaux po-
sitifs.
6.6 Comptage faible
Dans la deuxi`eme ´etape de la d´emonstration du th´eor`eme 6.8,
plutˆot que d’estimer directement le nombre N
r
de points de Γ dans une
boule B
r
, on va tout d’abord estimer une moyenne sur g du nombre
de points des translat´es gΓ dans ces boules B
r
.
On introduit donc la fonction
F
r
: X → N
x = gΓ → F
r
(x) := #(B
r
∩ gΓ) =
¸
γ∈Γ
1
B
r
(gγ).
56
Lemme 6.11 On a la convergence faible lim
r→∞
F
r
v
r
= 1.
Autrement dit, pour toute fonction continue `a support compact ϕ ∈ C
c
(X),
lim
r→∞
1
v
r

X
F
r
(x)ϕ(x)dλ
X
(x) =

X
ϕ(x)dλ
X
(x).
D´emonstration On commence par un simple calcul du membre de gauche, en
remarquant que la boule B
r
est K-invariante.
1
v
r

X
F
r
(x)ϕ(x)dλ
X
(x) =
1
v
r

G/Γ
¸
γ∈Γ
1
B
r
(gγ)ϕ(gx
0
)dλ
X
(gΓ)
=
1
v
r

G
1
B
r
(g)ϕ(gx
0
)dλ
G
(g)
=
1
v
r

B
r

K
ϕ(gkx
0
)dλ
K
(k)


G
(g)
La proposition 6.10 assure que la fonction g →

K
ϕ(gkx
0
)dλ
K
(k) converge pour
g → ∞ vers la constante

X
ϕ(x)dλ
X
(x). La moyenne de cette fonction sur la
boule B
r
a la mˆeme limite pour r →∞ car le volume v
r
tend vers l’infini.
6.7 Estimation de volumes
La derni`ere ´etape de la d´emonstration du th´eor`eme 6.8 consiste
` a d´eduire le comptage `a partir du comptage faible. Pour cela on a
besoin d’un ´equivalent asymptotique pour le volume v
r
. Nous ne d´e-
montrerons cet ´equivalent que pour G = SL(d, R).
Lemme 6.12 Il existe a > 0, b ≥ 0, c > 0 tels que v
r
∼ c r
a
(log r)
b
.
Montrons tout d’abord comment on en d´eduit le comptage.
D´emonstration du th´eor`eme 6.8 Fixons ε > 0. Introduisons l’ouvert de G,
G
ε
:= ¦g ∈ G [ max(|g|, |g
−1
|) ≤ e
ε
¦. C’est, pour ε petit, un petit voisinage de
l’identit´e dans G que l’on peut identifier via la projection p : G →X = G/Γ ` a un
voisinage de x
0
. Choisissons une fonction continue positive ¯ ϕ ∈ C
c
(G) d’int´egrale
´egale ` a 1 et dont le support est inclus dans G
ε
. Notons ϕ ∈ C
c
(X) la fonction ` a
support dans p(G
ε
), donn´ee par ϕ(p(g)) = ¯ ϕ(g), pour tout g ∈ G
ε
. On a donc les
in´egalit´es
¯ ϕ(g)1
B
re
−ε
(gγ) ≤ ¯ ϕ(g)1
B
r
(γ) ≤ ¯ ϕ(g)1
B
re
ε
(gγ),
En sommant ces in´egalit´es pour γ ∈ Γ et en les int´egrant pour g ∈ G
ε
, on obtient,
1
v
r

X
ϕ(x)F
re
−ε(x)dλ
X
(x) ≤
1
v
r
N
r

1
v
r

X
ϕ(x)F
re
ε(x)dλ
X
(x).
57
En faisant tendre r vers l’infini, on obtient, grˆ ace au lemme 6.11 de comptage
faible et au lemme 6.12 qui donne l’asymptotique du volume
e
−aε
= lim
r→∞
v
re
−ε
v
r
≤ liminf
r→∞
N
r
v
r
≤ limsup
r→∞
N
r
v
r
≤ lim
r→∞
v
re
ε
v
r
= e

.
Comme ε > 0 est arbitrairement petit, le quotient
N
r
v
r
tend bien vers 1.
Pour montrer le lemme 6.12, nous aurons besoin de la formule suivante pour la
mesure de Haar dans la d´ecomposition de Cartan G = KA
+
K. On note, comme
dans la section 3.5, Σ
+
l’ensemble des racines positives de A
+
dans g et m
α
la
dimension de l’espace radiciel g
α
associ´e `a une racine α.
Lemme 6.13 Il existe c
0
> 0, tel que, pour tout f ∈ C
c
(G), on a

G
f(g)dg = c
0

Ka
+
K
f(ke
X
k
t
)

¸
α∈Σ
+
sinh(α(X))
m
α

dkdXdk
t
.
Nous avons simplifi´e dans cette formule les notations dλ
G
(g) et dλ
K
(k) en dg
et dk, et nous avons consid´er´e les racines restreintes α comme des formes lin´eaires
sur a et not´e a
+
= log(A
+
) = ¦X ∈ a [ α(X) ≥ 0, pour tout α ∈ Σ
+
¦.
Nous admettrons cette formule 6.13 dont la d´emonstration se ram`ene ` a un
calcul de Jacobien et peut ˆetre trouv´ee dans le livre de Helgason p.186.
D´emonstration du corollaire 6.9 et du lemme 6.12 pour SL(d, R)
C’est un calcul dont nous donnons simplement les grandes lignes. Appliquons
la formule pour la mesure de Haar pour G = SL(d, R), en notant les ´el´ements
X ∈ a
+
sous la forme
X = diag(u, u −t
1
, . . . , u −t
1
− −t
d−1
),
avec u =
1
d
((d −1)t
1
+ (d −2)t
2
+ + t
d−1
). On obtient,
v
r
= c
0

[0,∞[
d−1
1
|e
u
≤r¦
¸
1≤i<j≤d−1
sinh(t
i
+ + t
j
)dt
1
. . . dt
d−1
.
On cherche un ´equivalent pour v
r
. Pour tout ε > 0, on obtiendra le mˆeme ´equi-
valent en restreignant l’int´egrale au cˆ one donn´e par max(t
1
, . . . , t
d−2
) ≤ εt
d−1
.
On peut donc remplacer les d − 1 facteurs sinh(t
i
+ + t
d−1
) par
1
2
e
t
i
++t
d−1
sans changer l’´equivalent. On int`egre alors en la variable t
d−1
sur l’intervalle
[0, d log r −(d −1)t
1
− −2t
d−2
]. Tous calculs faits, on obtient, avec une int´e-
grale qui est finie,
v
r

c
0
r
d(d−1)
(d−1)2
d−1

[0,∞[
d−2
¸
1≤i<j≤d−2
sinh(t
i
+ + t
j
)
¸
1≤i≤d−2
e
−d(d−i−1)t
i
dt
1
. . . dt
d−2
.
On obtient bien l’´equivalent v
r
= c r
d(d−1)
annonc´e o` u c/c
0
est un nombre ration-
nel.
58
7 R´eseaux
Nous ´etudions dans cette partie les r´eseaux Γ des groupes de Lie
semisimples r´eels. En particulier comment une action de Γ induit une
action Γ-´equivariante entre les bords. L’´etude des propri´et´es de cette
application aux bords sera la clef de la superrigidit´e. Les applica-
tions les plus int´eressantes de ces m´ethodes, par exemple le th´eor`eme
d’arithm´eticit´e, nous obligent ` a travailler non seulement sur R ou C
mais aussi sur des extensions finies de Q
p
.
7.1 Zariski densit´e des r´eseaux
Le th´eor`eme suivant, dˆ u ` a Borel, est souvent bien utile. La d´e-
monstration ci-dessous, due `a Furstenberg, est bien dans l’esprit de
ce cours : Elle utilise, d’une part, un th´eor`eme de Chevalley sur les es-
paces homog`enes de groupes alg´ebriques et, d’autre part, l’´etude des
groupes de transformations lin´eaires qui pr´eservent une probabilit´e
sur l’espace projectif.
Th´eor`eme 7.1 Soient k = R et G = G
k
le groupe des k-points d’un k-groupe
Zariski connexe. On suppose qu’il n’existe pas de sous-groupe distingu´e Zariski
ferm´e G
t
G tel que le quotient G/G
t
est compact. Alors tout r´eseau Γ de G est
Zariski dense.
Remarque L’hypoth`ese du th´eor`eme 7.1 est tr`es facile ` a v´erifier en pratique.
Elle est satisfaite par exemple lorsque G est quasisimple et isotrope.
Plus g´en´eralement, soit G le produit d’un nombre fini de groupes G
p
avec p
premier ou ∞, o` u G
p
est le groupe des Q
p
-points d’un Q
p
-groupe Zariski connexe
et o` u Q

= R. On appelle topologie de Zariski sur G la topologie produit des
topologies de Zariski sur les G
p
. Alors, la mˆeme preuve donnera aussi.
Th´eor`eme 7.1 (bis) Soit G le produit d’un nombre fini de groupes G
p
avec p
premier ou ∞, o` u G
p
est le groupe des Q
p
-points d’un Q
p
-groupe Zariski connexe.
On suppose qu’il n’existe pas de sous-groupe distingu´e Zariski ferm´e G
t
G tel
que le quotient G/G
t
est compact. Alors tout r´eseau de G est Zariski dense dans
G.
D´emonstration du th´eor`eme 7.1 Soit H l’adh´erence de Zariski de Γ. D’apr`es
le lemme 7.2 ci-dessous, le groupe H est d´efini sur k. D’apr`es le th´eor`eme 4.6 de
Chevalley, il existe une k-repr´esentation ρ de G dans un espace vectoriel V = K
d
de dimension d et une droite x
0
∈ P(k
d
) dont H est le stabilisateur : H = ¦g ∈ G [
ρ(g)x
0
= x
0
¦. On peut supposer que l’orbite Gx
0
engendre K
d
. Par la proposition
4.8, le groupe G est Zariski dense dans G et donc Gx
0
engendre l’espace vectoriel
59
k
d
. Cette mˆeme proposition et le corollaire 4.5 prouvent aussi que le groupe image
ρ(G) est ferm´e dans les k-points du groupe alg´ebrique image ρ(G) ⊂ PGL
d
.
Comme x
0
est Γ-invariant, on a une application G-´equivariante i : G/Γ →
P(k
d
) donn´ee par i(gΓ) = ρ(g)x
0
. La probabilit´e i

(µ) image de la probabilit´e G
invariante µ sur G/Γ est une probabilit´e ρ(G)-invariante sur P(k
d
). Le lemme 7.3
ci-dessous prouve alors que ρ(G) est compact pour la topologie analytique. Ceci
contredit notre hypoth`ese ` a moins que ρ(G) = 1. On a donc H = G.
Lemme 7.2 Soit k ⊂ K deux corps, V = K
d
et Z ⊂ K
d
une K-vari´et´e telle que
l’ensemble des k-points Z
k
est Zariski dense dans Z. Alors Z est d´efinie sur k.
D´emonstration du lemme 7.2 Soit I ⊂ K[V] l’id´eal annulateur de Z et
I
m
= I ∩ K
m
[V]. Comme Z
k
est Zariski dense dans Z, les sous-espaces I
m
sont
d´efinis par un syst`eme d’´equations lin´eaires `a coefficients dans k. Ils ont donc une
base ` a coefficients dans k. L’id´eal I aussi.
Lemme 7.3 (Furstenberg) Soit k = R, C ou une extension finie de Q
p
. Soient
E = k
d
, P(E) l’espace projectif de E, PGL(E) le groupe des transformations
projectives de E et ν une probabilit´e sur P(E). Supposons que le support de ν ne
peut ˆetre inclus dans une r´eunion P(E
1
) ∪ P(E
2
) pour deux sous-espaces propres
E
1
, E
2
E tels que dimE
1
+ dimE
2
= dimE. Alors
a) le stabilisateur S := ¦g ∈ PGL(E) [ g

ν = ν¦ de ν est compact.
b) Plus g´en´eralement, il n’existe pas de probabilit´e µ sur P(E) et de suite g
p
∈ G
non born´ee telle que lim
p→∞
(g
p
)

µ = ν.
D´emonstration Il est clair que S est ferm´e. Il suffit donc de montrer le point b).
Supposons par l’absurde que µ et g
p
existent. Quitte ` a extraire, on peut supposer
que la suite g
p
a une limite g ∈ P(EndE) qui n’est pas inversible. Notons Kerg
et Img le noyau et l’image de g. Plus pr´ecis´ement il s’agit du noyau et de l’image
communs ` a tous les ´el´ements non nuls de la droite g. On peut supposer que la
limite E
1
= lim
p→∞
g
p
(Kerg) existe et on pose E
2
= Img.
Remarquons que si x ∈ P(Kerg), alors lim
p→∞
g
p
x = gx ∈ P(E
2
) et que si x ∈
P(Kerg), alors toutes les valeurs d’adh´erence de la suite g
p
x sont dans P(E
1
).
Donc, pour toute fonction ϕ continue `a support dans P(E)−(P(E
1
) ∪ P(E
2
)),
le th´eor`eme de convergence domin´ee prouve que

P(E)
ϕ ◦ g
p
dµ −→0.
Mais cette limite est

P(E)
ϕdν. Donc cette int´egrale est nulle. Le support de ν
est inclus dans P(E
1
) ∪ P(E
2
). Contradiction.
60
7.2 R´eseaux irr´eductibles
Nous montrons dans cette section que l’´etude des r´eseaux des
groupes de Lie semisimples se ram`ene ` a celle des r´eseaux irr´eductibles.
On dit qu’un groupe localement compact G est presque produit de sous-groupes
distingu´es ferm´es H
i
si la multiplication
¸
i
H
i
→G a un noyau fini et une image
d’indice finie dans G. On dit qu’un groupe G est sans facteur compact si il n’admet
pas de d´ecomposition en presque produit H
1
H
2
avec H
1
compact infini.
Par exemple, soit k = R, C ou une extension finie de Q
p
. Le groupe G des
k-points d’un k-groupe G semisimple est presque produit des groupes G
j
des
k-points de ses facteurs k-quasisimples G
j
. Le groupe G est sans facteur compact
ssi le k-groupe G n’a pas de facteur G
j
qui soit k-anisotrope.
D´efinition 7.4 Un r´eseau Γ d’un groupe localement compact G est dit r´eductible
si G admet une d´ecomposition en presque produit H
1
H
2
o` u H
1
et H
2
sont des
sous-groupes distingu´es ferm´es infinis tels que (Γ ∩ H
1
)(Γ ∩ H
2
) est d’indice fini
dans Γ.
Le r´eseau Γ est dit irr´eductible sinon.
Exemples - Tout r´eseau du groupe G = G
k
des k-points d’un k-groupe G
connexe k-quasisimple est irr´eductible.
- Le groupe Γ = ¦(g, g
σ
) [ g ∈ SL(2, Z[

2])¦, o` u σ est l’automorphisme non
trivial du corps Q[

2], est un r´eseau irr´eductible de SL(2, R) SL(2, R).
- Le groupe Γ = ¦(g, g) [ g ∈ SL(2, Z[
1
p
])¦ est un r´eseau irr´eductible de
SL(2, R) SL(2, Q
p
).
Proposition 7.5 Soit k = R et G = G
k
le groupe des k-points d’un k-groupe
G semisimple connexe. On suppose G sans facteur compact. Donnons-nous une
d´ecomposition G = H
1
H
2
de G en presque produit de deux sous-groupes distingu´es
H
i
et notons Γ
i
:= Γ ∩ H
i
et π
i
: G → G/H
i
la projection. Alors les assertions
suivantes sont ´equivalentes :
i) π
1
(Γ) est discret.
ii) Γ
1
est un r´eseau de H
1
.
iii) π
2
(Γ) est discret.
iv) Γ
2
est un r´eseau de H
2
.
v) Γ
1
Γ
2
est d’indice fini dans Γ.
Remarque Plus g´en´eralement, la conclusion et la d´emonstration de la proposi-
tion 7.5 est valable pour un groupe G sans facteur compact qui est produit d’un
nombre fini de groupes G
p
avec p premier ou ∞, o` u G
p
est le groupe des Q
p
-points
d’un Q
p
-groupe semisimple connexe.
D´emonstration de la proposition 7.5
61
i) →ii) Cela r´esulte de la fibration H
1

1
→G/Γ →H
2

1
(Γ).
ii) →iii) Le groupe Γ
t
1
:= π
2

1
) est donc un r´eseau de H
t
1
:= G/H
2
normalis´e
par le groupe ∆
1
:= π
2
(Γ). Or, le normalisateur N de Γ
t
1
dans H
t
1
est discret. En
effet, les petits ´el´ements de N commutent avec les ´el´ements de Γ
t
1
, donc l’alg`ebre
de Lie n de N est centralis´e par les ´el´ements de Γ
t
1
. Comme G est sans facteur
compact, le th´eor`eme de densit´e de Borel prouve que H
t
1
centralise n. Donc n = 0,
N est discret et ∆
1
aussi.
iii) →iv) et iv) →i) se montrent comme ci-dessus.
ii) +iv) →v) Le groupe Γ
1
Γ
2
est un r´eseau de G inclus dans le r´eseau Γ. Il est
donc d’indice fini ´egal au rapport des covolumes.
v) →ii) +iv) Si l’un des Γ
i
n’est pas un r´eseau dans H
i
le groupe discret Γ
1
Γ
2
ne peut pas ˆetre un r´eseau dans le presque produit H
1
H
2
.
Lemme 7.6 Soit k = R et G = G
k
le groupe des k-points d’un k-groupe G se-
misimple connexe. On suppose G sans facteur compact. Pour tout r´eseau Γ de G,
il existe une d´ecomposition G = H
1
H
m
en presque produit de k-sous-groupes
distingu´es connexes H
i
tels que, pour tout i, Γ ∩H
i
est un r´eseau irr´eductible du
groupe H
i
des k-points de H
i
.
Cette d´ecomposition est unique
D´emonstration On prend pour H
i
les k-sous-groupes distingu´es connexes mi-
nimaux de G pour lesquels Γ ∩ H
i
est un r´eseau du groupe H
i
.
Par minimalit´e, Γ∩H
i
est un r´eseau irr´eductible de H
i
. En effet un sous-groupe
distingu´e ferm´e de H
i
est ouvert dans son adh´erence de Zariski.
D’apr`es la proposition 7.5, le produit des H
i
est ´egal `a G. Il reste ` a v´erifier
que, pour tout i = j, H
i
∩ H
j
est fini. Grace ` a la proposition 7.5, il suffit pour
cela de remarquer que, comme les images de Γ dans G/H
i
et G/H
j
sont discr`etes,
l’image de Γ dans G/(H
i
∩ H
j
) est aussi discr`ete.
Le th´eor`eme d’ergodicit´e de Howe Moore s’´etend facilement aux r´eseaux irr´e-
ductibles.
Corollaire 7.7 Soient k = R et G = G
k
le groupe des k-points d’un k-groupe
semisimple, Γ ⊂ G un r´eseau irr´eductible. Notons G
e
le plus petit sous-groupe
ouvert de G et supposons que ΓG
e
= G. Alors, l’action de G est m´elangeante sur
X = G/Γ. En particulier, pour tout ´el´ement g ∈ G qui engendre un sous-groupe
non-born´e de G, l’action de g sur X est ergodique
Remarque Comme k = R, le groupe G
e
est la composanre connexe de G. Mais
bien sˆ ur, le corollaire est encore valable pour une extension finie k de Q
p
.
D´emonstration du corollaire 7.7 D’apr`es le th´eor`eme 6.2, il suffit de remar-
quer que pour tout sous-groupe distingu´e ferm´e non compact G
t
de G les seules
fonctions G
t
-invariantes de L
2
(X, dx) sont les fonctions constantes.
62
Soit ϕ une telle fonction. On peut supposer que G
t
est le plus grand sous-groupe
distingu´e laissant ϕ invariante. On peut aussi supposer ϕ born´ee. Supposons par
l’absurde que dimG
t
< dimG. Comme G
t
est distingu´e, on peut voir ϕ comme une
fonction mesurable sur G invariante par translation ` a droite par le groupe G
t
Γ.
Comme la translation de G sur L

(G) pour la topologie faible est continue, ϕ est
aussi invariante par le groupe H adh´erence de G
t
Γ. Comme Γ est irr´eductible, la
proposition 7.5 prouve que l’on a dimH > dimG
t
. Par Zariski densit´e, l’alg`ebre
de Lie h de H est un id´eal de g. Ceci contredit la maximalit´e de G
t
. Donc G
t
est
ouvert dans G. L’hypoth`ese G = ΓG
e
assure alors que G
t
= G.
7.3 Groupes moyennables
Un espace vectoriel topologique localement convexe est dit espace de Fr´echet
s’il est m´etrisable et complet.
D´efinition 7.8 Un groupe topologique G est moyennable si, pour tout espace de
Fr´echet E, tout compact convexe non vide C ⊂ E et toute action lin´eaire continue
de G sur E laissant stable C, il existe un point fixe c de G dans C.
Voici quelques exemples.
Lemme 7.9 a) Un groupe compact est moyennable.
b) Un groupe ab´elien est moyennable.
c) Une extension de groupes moyennables est moyennable.
d) Un groupe de Lie semisimple connexe non compact n’est pas moyennable.
D´emonstration a) Notons G ce groupe compact et dg sa probabilit´e de Haar.
Alors, pour tout point v ∈ C, le barycentre c :=

G
g.v dg convient.
b) Notons G ce groupe ab´elien. Pour tout sous-groupe H de G, on note E
H
le
Fr´echet E
H
:= ¦v ∈ E [ Hv = v¦ et C
H
le compact convexe C
H
:= C ∩ E
H
. On
veut montrer que C
G
est non vide. Montrons tout d’abord que si H est engendr´e
par un ´el´ement g, alors C
H
est non vide. On emploie l’argument classique de
Kakutani. On part d’un point v ∈ C et on consid`ere la suite v
n
=
1
n
(v+ +g
n−1
v)
dans C. Elle admet une valeur d’adh´erence c ∈ C. Comme g
n
v reste dans C, la
suite gv
n
−v
n
=
1
n
(g
n
v −v) converge vers 0. Donc le point c est g invariant.
Par r´ecurrence sur le nombre de g´en´erateurs, on en d´eduit que, pour tout sous-
groupe H de type fini de G, on a C
H
= ∅. Cette famille de compacts non vide
C
H
est stable par intersection finie, donc l’intersection C
G
de tous ces compacts
est non vide. Le groupe G a bien un point fixe dans C.
c) Notons 1 →H →G →K →1 cette extension o` u H et K sont moyennable.
Comme H est moyennable l’ensemble C
H
:= ¦v ∈ C [ Hv = v¦ est un compact
convexe non vide du Fr´echet E
H
:= ¦v ∈ E [ Hv = v¦ sur lequel le groupe
moyennable K = G/H agit continument. Le groupe K a donc un point fixe dans
C
H
, c’est le point cherch´e.
63
d) Notons G ce groupe de Lie semisimple, P un sous-groupe parabolique mi-
nimal de G, X = G/P, E = ´(X) l’espace des mesures finies sur X. Comme
X est compact, E est le dual de l’espace C(X) des fonctions continues sur X.
On munit C(X) de la norme |ϕ|

= sup
x∈X
[ϕ(x)[. On munit E de la topologie
faible : elle est d´efinie par la famille de semi-normes p
ϕ
: µ → p
ϕ
(µ) =

X
ϕdµ

avec ϕ ∈ C(X). C’est un Fr´echet.
Soit C = {(X) ⊂ E le convexe des probabilit´es sur X. Ce convexe C est un
ferm´e dans la boule unit´e de E pour la norme forte |µ| = sup
|ϕ|

=1
[P
ϕ
(µ)[.
Comme la boule unit´e est faiblement compact, C aussi.
Mais G n’a pas de points fixes dans C. En effet, le compact maximal K de G
agit transitivement sur X. Il y a donc une seule probabilit´e K-invariante ν sur
X. Malheureusement cette probabilit´e n’est pas invariante par un ´el´ement a de
l’int´erieur de la chambre de Weyl car, en notant x
0
le point base de G/P, pour
tout x dans l’ouvert U

x
0
, on a lim
n→∞
a
n
x = x
0
.
Corollaire 7.10 a) Un groupe de Lie connexe est moyennable ssi le quotient par
son radical r´esoluble est compact.
b) Soit G un groupe de Lie r´eel semisimple connexe et P un sous-groupe parabo-
lique minimal de G. Alors P est moyennable.
D´emonstration a) Cela r´esulte directement du lemme 7.9.
b) Cela r´esulte du th´eor`eme 3.14.b et du lemme 7.9.
Remarques - On a donc trouv´e dans G un sous-groupe moyennable P tel que
le quotient G/P est compact.
- Plus g´en´eralement, soit k = R, C ou une extension finie de Q
p
. Soit G un
k-groupe semisimple et P un k-sous-groupe parabolique minimal. Alors le groupe
P
k
est moyennable et le quotient G
k
/P
k
est compact.
7.4 L’application aux bords
Partant de l’action d’un r´eseau Γ sur un espace compact X, on va
construire une application aux bords.
Proposition 7.11 (Furstenberg) Soient G un groupe de Lie semisimple, Γ ⊂
G un r´eseau et P ⊂ G un sous-groupe parabolique minimal. Pour toute action
continue de Γ sur un espace m´etrique compact X, il existe une application mesu-
rable Γ-´equivariante Φ : G/P →{(X).
- Rappelons qu’on a not´e C(X) := ¦fonctions continues sur X¦, ´(X) :=
¦mesures born´ees sur X¦ et {(X) := ¦probabilit´es sur X¦.
- Nous avons muni implicitement G/P d’une mesure G-quasiinvariante, par
exemple une mesure K-invariante ν
0
.
64
- Mesurable signifie que pour toute partie borelienne E
t
de l’espace m´etrique
compact {(X), l’image inverse Φ
−1
(E
t
) est mesurable dans G/P i.e. ´egale `a une
partie bor´elienne G/P modulo une partie n´egigable.
- Γ-´equivariante signifie que pour tout γ ∈ Γ et presque tout ξ ∈ G/P, on a
Φ(γξ) = γΦ(ξ).
- L’application Φ est appel´ee application aux bords, puisque G/P peut ˆetre vue
comme un bord de l’espace sym´etrique G/K.
D´emonstration Soit F := L
1
Γ
(G, C(X)) l’espace des applications mesurables
Γ-´equivariantes f : G → C(X) telles que |f| :=

Γ\G
|f(g)|

dg < ∞. Soit
E := L

Γ
(G, ´(X)) l’espace des applications mesurables born´ees Γ-´equivariantes
m : G →´(X). La dualit´e
<m, f >:=

Γ\G
<m(g), f(g)> dg
identifie E avec le dual continu F, parce que si Y est un domaine fondamental
de Γ dans G, on a F · L
1
(Y, C(X)) et E · L

(Y, C(X)

) · F

. La partie
A = L

Γ
(G, {(X)) ⊂ E est convexe, ferm´ee et born´ee, elle est donc faiblement
compacte. La translation `a droite sur G induit des actions continues de G sur F,
E et A.
Par le corollaire 7.10.b, le groupe P est moyennable, il a donc un point fixe
Φ dans A. Ce point Φ est l’application mesurable cherch´ee. En effet, un ´el´ement
P-invariant de E est presque sˆ urement ´egal ` a une fonction mesurable qui est
constante sur les orbites de P.
- Cette application au bord jouera pour le th´eor`eme de superrigidit´e le rˆ ole de
l’application au bord construite par Mostow par des m´ethodes g´eom´etriques pour
montrer son th´eor`eme de rigidit´e. Nous aurons besoin d’outils issus de la th´eorie
ergodique pour l’exploiter
65
8 Th´eorie ergodique
Ce court chapitre est constitu´e de rappels de th´eorie ergodique, en
vue de leur utilisation dans la d´emonstration du th´eor`eme de super-
rigidit´e et du th´eor`eme de Ratner.
8.1 Probabilit´es ergodiques
Soit (X, B, µ, f) un syst`eme dynamique probabilis´e, autrement dit B est une
σ-alg`ebre de parties de X, µ est une mesure de probabilit´e sur B et f : X → X
une application B-mesurable qui pr´eserve µ.
Plus g´en´eralement, soit f une transformation B-mesurable qui pr´eserve la classe
de µ.
D´efinition 8.1 On dit que f est ergodique (pour µ) si toute partie mesurable f-
invariante est n´egligeable ou de compl´ementaire n´egligeable, i.e. pour tout A ∈ B,
f
−1
(A) = A =⇒µ(A) = 0 ou 1.
Remarque Lorsque la transformation f est sous-entendue, c’est la mesure µ que
l’on qualifie d’ergodique.
La proposition suivante donne une interpr´etation L
2
de l’ergodicit´e d’une trans-
formation f qui pr´eserve une probabilit´e µ. Cette interpr´etation relie donc les
propri´et´es dynamiques de f aux propri´et´es spectrales de l’op´erateur unitaire
U
f
: ϕ →ϕ ◦ f de L
2
(X, µ).
Proposition 8.2 La transformation f est ergodique ssi les fonctions constantes
sont les seuls ´el´ements f-invariants de L
2
(X, µ).
D´emonstration ⇐La fonction caract´eristique ϕ = 1
A
d’une partie f-invariante
est un ´el´ement f-invariant de L
2
(X, µ). On a donc ϕ = 0 ou ϕ = 1.
⇒ Soit ϕ ∈ L
2
(X, µ) un ´el´ement f-invariant. Cela signifie que ϕ ◦ f = ϕ
µ-presque sˆ urement. Une telle fonction ϕ est µ-presque sˆ urement ´egale ` a une
fonction ϕ
0
telle que ϕ
0
(x) = ϕ
0
(f(x)) pour tout x ∈ X. Les parties A
t
=
ϕ
−1
0
([t, ∞)) sont f-invariantes et donc de mesure 0 ou 1. La fonction ϕ
0
est donc
presque sˆ urement constant.
8.2 Dynamique des transformations ergodiques
Voici une proposition qui permet de comprendre la force de la no-
tion d’ergodicit´e. Cette proposition ´etaye l’intuition“je passe partout”
sous-jacente au mot ergodique dans un contexte topologique.
66
Proposition 8.3 Soit X un espace m´etrique localement compact s´eparable, µ
une probabilit´e bor´elienne sur X et f : X →X un hom´eomorphisme qui pr´eserve
la classe µ. Si f est ergodique alors µ-presque toute orbite O
x
:= ¦f
n
(x) [ n ∈ Z¦
est dense dans supp(µ).
D´emonstration On peut supposer que X = supp(µ) Soient D une partie d´e-
nombrable dense de X et T l’ensemble des boules ouvertes centr´ees en D de rayon
rationnel positif. Pour tout B ∈ T, l’ensemble A
B
:= ∪
p∈Z
f
−p
(B) des points dont
l’orbite passe dans B v´erifie f
−1
(A
B
) = A
B
. Par ergodicit´e de f, on a µ(A
B
) = 1.
L’intersection A = ∩
B∈T
A
B
v´erifie aussi µ(A) = 1. Les orbites des points de A
sont denses dans X.
Remarque Toute transformation continue f d’un espace compact X pr´eserve
au moins une probabilit´e bor´elienne. Cela r´esulte du lemme 7.9.b. En outre, cette
probabilit´e f-invariante peut-ˆetre choisie ergodique. Cela r´esulte du th´eor`eme de
Krein-Milman car une probabilit´e G-invariante est ergodique ssi c’est un point
extr´emal du convexe ferm´e {(X)
G
des probabilit´es G invariantes sur X.
Plus g´en´eralement, soit G un groupe localement compact s´eparable qui agit de
fa¸con mesurables sur un espace probabilis´e (X, B, µ) en pr´eservant la classe de
µ. Cette action est dite ergodique si les seules parties mesurables G-invariantes
v´erifient µ(A) = 0 ou 1.
On a l’extension suivante de la proposition 8.3.
Proposition 8.4 Soit X un espace m´etrique localement compact s´eparable, µ
une probabilit´e bor´elienne sur X et G un groupe localement compact s´eparable qui
agit continument sur X en pr´eservant la classe de µ. On suppose l’action de G
ergodique. Alors µ-presque toute orbite Gx est dense dans supp(µ).
D´emonstration C’est la mˆeme que celle de la proposition 8.3.
Corollaire 8.5 On garde les notations et hypoth`eses de la proposition 8.4. Soit
1 une relation d’´equivalence sur X dont les classes d’´equivalence sont localement
ferm´ees et G-invariantes. Alors il existe une classe d’´equivalence Ω telle que
µ(Ω) = 1.
D´emonstration Soit Ω une classe d’´equivalence rencontrant une des orbites Gx
dont l’adh´erence est Gx = supp(µ). On a donc supp(µ) ⊂ Ω. Si µ(Ω) = 0, comme
Ω est localement ferm´ee, on aurait supp(µ) ⊂ Ω Ω, ce qui contredirait le fait
que x est dans supp(µ). Par ergodicit´e, on a donc µ(Ω) = 1.
Remarque Ce corollaire est utile lorsque G est un sous-groupe d’un groupe H
R
o` u H est un R-groupe agissant de fa¸con alg´ebrique sur une R-vari´et´e X : comme
les H
R
-orbites dans X
R
sont localement ferm´ees, les mesures G-ergodiques sur
X
R
sont alors port´ees par des H
R
-orbites.
67
8.3 Th´eor`eme ergodique
Le th´eor`eme ergodique de Birkhoff exprime de fa¸con pr´ecise une
id´ee intuitive pour une transformation ergodique : pour toute partie
mesurable A, la proportion de temps pass´e dans A par presque toutes
les orbites est ´egale `a la mesure de A.
Th´eor`eme 8.6 (Birkhoff) Soit (X, B, µ, f) un syst`eme dynamique probabilis´e.
Pour tout ϕ ∈ L
1
(X, µ), on note ϕ
n
(x) =
¸
0≤i<n
ϕ(f
i
(x)).
a) La limite ¯ ϕ(x) := lim
n→∞
1
n
ϕ
n
(x) existe µ-presque partout.
b) On a ¯ ϕ ◦ f = ¯ ϕ µ-presque partout.
c) On a |¯ ϕ|
L
1 ≤ |ϕ|
L
1.
d) La convergence a lieu dans L
1
, i.e. lim
n→∞
|
1
n
ϕ
n
− ¯ ϕ|
L
1 = 0.
e) Pour toute partie f-invariante A de X, on a

A
¯ ϕdµ =

A
ϕdµ.
f ) En particulier, si µ est ergodique, on a ¯ ϕ(x) =

X
ϕdµ µ-presque partout.
Remarques - La somme ϕ
n
(x) s’appelle somme orbitale ou somme de Birkhoff de
ϕ. L’int´egrale

X
ϕdµ s’appelle la moyenne spatiale de ϕ. Le th´eor`eme de Birkhoff
affirme donc, dans le cas ergodique, que les moyennes orbitales convergent presque
partout vers la moyenne spatiale.
- L’assertion e) signifie que ¯ ϕ est l’esp´erance conditionnelle de ϕ relativement
` a la σ-alg`ebre B
f
des parties f-invariantes : ¯ ϕ = E(ϕ[B
f
).
Lemme 8.7 (in´egalit´e maximale) Soient ϕ
n
∈ L
1
R
(X, µ) une suite sous-
additive i.e. telle que, pour tout m, n ≥ 1, on a ϕ
m+n
≤ ϕ
m
◦ f
n
+ ϕ
n
. On
note ϕ = ϕ
1
et ϕ

= sup
n≥1
ϕ
n
. Alors, on a



>0¦
ϕdµ ≥ 0.
D´emonstration Soient ψ
n
= max¦0, ϕ, ϕ
2
, . . . , ϕ
n
¦ et E
n
= ¦x ∈ X [ ψ
n
(x) >
0¦. Sur E
n
, on a ψ
n
≤ ϕ + ψ
n−1
◦ f tandis que sur le compl´ementaire E
c
n
, on a
ψ
n
= 0 et ψ
n−1
◦ f ≥ 0. On a donc

E
n
ϕ ≥

E
n
ψ
n

E
n
ψ
n−1
◦ f ≥

X
ψ
n

X
ψ
n−1
◦ f ≥

X
ψ
n
−ψ
n−1
≥ 0.
Or ¦ϕ

> 0¦ = ∪E
n
. On a donc



>0¦
ϕdµ ≥ 0.
D´emonstration du th´eor`eme 8.6 a) Pour d´emontrer l’existence de la limite,
il suffit de voir que, pour tous rationnels α < β, l’ensemble
E
α,β
:= ¦x ∈ X [ liminf
n→∞
1
n
ϕ
n
(x) < α < β < limsup
n→∞
1
n
ϕ
n
(x)¦
68
est de mesure nulle. Remarquons que
lim
n→∞
1
n

n+1
(x) −ϕ
n
(f(x))) = lim
n→∞
1
n
ϕ(x) = 0
et donc que f
−1
(E
α,β
) = E
α,β
. On peut donc appliquer l’in´egalit´e maximale sur
la partie E
α,β
aux fonctions ϕ −β et α −ϕ. On obtient

E
α,β
(ϕ −β) ≥ 0 et

E
α,β
(α −ϕ) ≥ 0.
On en d´eduit

E
α,β
(α −β) ≥ 0 et donc µ(E
α,β
) = 0.
b) C’est clair car
1
n

n+1
(x) −ϕ
n
(f(x))) converge vers 0.
c) On peut supposer que ϕ est positive. Cela r´esulte alors du lemme de Fatou :

X
¯ ϕ =

X
lim
n→∞
1
n
ϕ
n
(x) ≤ lim
n→∞
1
n

X
ϕ
n
(x) =

X
ϕ.
d) Lorsque ϕ est born´ee, cela r´esulte du th´eor`eme de convergence domin´ee. Le
cas g´en´eral s’en d´eduit par densit´e. En effet, pour tout ε > 0, on peut trouver ψ
born´ee telle que |ϕ−ψ|
L
1 ≤ ε/3. On a donc, pour tout n ≥ 1, |
1
n
ϕ
n

1
n
ψ
n
| ≤ ε/3
et, par c), |¯ ϕ −
¯
ψ|
L
1 ≤ ε/3. Pour n grand, on a alors |
1
n
ψ
n

¯
ψ| ≤ ε/3 et donc
|
1
n
ϕ
n
− ¯ ϕ| ≤ ε. C’est ce que l’on voulait.
e) Cela r´esulte de d) car

A
ϕ =

A
1
n
ϕ
n
.
f) Par b), la fonction ¯ ϕ est constante presque partout.
La proposition suivante due `a Egorov permet de remplacer dans le th´eor`eme
de Birkhoff la convergence presque sure par une convergence uniforme en dehors
d’un ensemble de mesure arbitrairement petite.
Proposition 8.8 Soit (X, B, µ) un espace probabilis´e et f
n
une suite de fonctions
mesurables sur X qui converge µ-presque sˆ urement vers une fonction f.
Alors pour tout ε > 0, il existe une partie mesurable Z ⊂ X tel que µ(Z
c
) ≤ ε
et la convergence f
n
(x) →f(x) est uniforme pour x ∈ Z.
D´emonstration Posons Z
m,n
:= ¦x ∈ X [ [f
i
(x) − f
j
(x)[ ≤
1
m
, pour i, j ≥ n¦.
Choisissons une suite n
m
telle que µ(Z
m,n
m
) ≥ 1−ε/2
p
et posons Z = ∪
m≥1
Z
m,n
m
.
Par construction, la convergence f
n
(x) → f(x) est uniforme pour x ∈ Z et on a
µ(Z) ≥ 1 −ε.
8.4 Martingales
Le th´eor`eme des martingales est avec le th´eor`eme de Birkhoff l’un
des piliers de la th´eorie des probabilit´es.
Soit (X, B, µ) un espace probabilis´e et B
n
une suite croissante de sous-σ-
alg`ebres.
69
D´efinition 8.9 Soit f
n
une suite de fonctions int´egrables et B
n
-mesurables.
La suite f
n
est une martingale si f
n
= E(f
n+1
[B
n
).
La suite f
n
est une sousmartingale si f
n
≤ E(f
n+1
[B
n
).
La suite f
n
est une surmartingale si f
n
≥ E(f
n+1
[B
n
).
Pour t ∈ R, on note t
+
= max(t, 0).
Remarques - Une martingale peut ˆetre vue comme un objet dont les f
n
ne sont
que des approximations. Un peu comme la donn´ee d’un r´eel par son d´eveloppe-
ment d´ecimal.
- Seules les martingales nous seront utiles par la suite. Nous n’utiliserons les
sousmartingales et surmartingales. que pour d´emontrer le th´eor`eme de conver-
gence des martingales. Elles sont utiles car si une suite f
n
est une sousmartingale,
les suites f
+
n
et [f
n
[ sont encore des sousmartingales.
Exemple Soient X = ¦0, 1¦
N

muni de la probabilit´e de Bernoulli µ = α
⊗N
avec α =
1
2

0
+ δ
1
), p
n
: X → ¦0, 1¦
n
l’application donn´ee par p
n
(x
1
, x
2
, . . .) =
(x
1
, . . . , x
n
) et B
n
la σ-alg`ebre form´ee des parties p
−1
n
(E) pour E ⊂ ¦0, 1¦
n
. Dans
ce cas la donn´ee d’une martingale f
n
´equivaut ` a la donn´ee d’une mesure born´ee
ν sur X. Le lien entre les deux est donn´e par f
n
(x) = 2
−n
ν(F
n
(x)), pour x ∈ X,
o` u F
n
(x) est la fibre de p
n
contenant x. Le fait que ces deux donn´ees soient
´equivalentes est dˆ u au th´eor`eme de Carath´eodory.
Comme dans l’exemple ci-dessus, dans la plupart des applications, l’espace X
est muni d’une famille de surjections mesurables p
n
: (X, B) →(Y
n
, (
n
) telles que
B
n
= p
−1
n
((
n
). Ces surjections sont de plus en plus fines de sorte que la suite B
n
est croissante. La martingale est donc un objet sur X dont les fonctions f
n
ne
sont que ses “moyennes sur les fibres de p
n
” .
Voici le th´eor`eme de convergence ps des martingales
Th´eor`eme 8.10 (Doob) Soit f
n
une sous-martingale sur (X, B, µ) telle que
sup
n≥0
|f
n
|
L
1 < ∞. Alors la limite f

(x) = lim
n→∞
f
n
(x) existe µ-presque sˆ urement..
Nous dirons que f
n
est L
1
-born´ee si sup
n≥0
|f
n
|
L
1 < ∞.
Exemple Reprenons l’exemple ci-dessus et ´ecrivons grˆ ace au th´eor`eme de d´e-
composition des mesures ν = fµ + ν
s
avec ν
s
´etrang`ere ` a µ. On a alors l’´egalit´e
f

= f. La limite presque sˆ ure ne donne donc aucun renseignement sur la partie
singuli`ere ν
s
.
Remarque En g´en´eral la limite presque sˆ ure f

d’une martingale ne permet
pas de reconstituer la martingale. C’est le cas si et seulement si la convergence
de f
n
vers f

est une convergence L
1
. On a alors f
n
= E(f

[B
n
). Une condition
70
suffisante qui l’assure est sup
n≥0
|f
n
|
Llog L
< ∞ o` u cette norme est la norme L
1
de
la fonction [f
n
[ log
+
[f
n
[.
D´emonstration du th´eor`eme de Doob Elle r´esulte des trois lemmes 8.11,
8.12 et 8.13 suivants.
Le premier lemme est la d´ecomposition de Kricheberg.
Lemme 8.11 Toute sousmartingale L
1
-born´ee f
n
s’´ecrit f
n
= m
n
− s
n
o` u m
n
est une martingale positive L
1
-born´ee et s
n
une surmartingale positive L
1
-born´ee.
D´emonstration La suite f
+
n
est une sousmartingale positive et on a, pour k ≥ n
E(f
+
k
[B
n
) ≤ E(f
+
k+1
[B
n
).
Notons m
n
= lim
k→∞
E(f
+
k
[B
n
). C’est une martingale positive telle que E(m
n
) ≤
sup
n≥0
E(f
+
n
) < ∞ car l’esp´erance conditionnelle commute ` a la limite croissante.
Donc m
n
est L
1
-born´ee et s
n
= m
n
−f
n
est une surmartingale L
1
-born´ee.
Le deuxi`eme lemme affirme qu’une surmartingale est un jeu d´efavorable quelle
que soit la strat´egie : plus on arrˆete tard la surmartingale plus l’esp´erance de gain
est faible.
On appelle temps d’arrˆet une application B-mesurable σ : X →N∪ ¦∞¦ telle
que, pour tout n ≥ 0, l’ensemble σ
−1
(n) est B
n
-mesurable.
On note alors s
τ
: ω →s
τ(ω)
(ω) avec la convention s

= 0.
Lemme 8.12 Soit s
n
une surmartingale positive et σ, τ deux temps d’arrˆet avec
σ ≤ τ. Alors

X
s
σ
dµ ≥

X
s
τ
dµ.
D´emonstration Pour m ≤ n, on a

|σ=m, τ>n¦
s
n

|σ=m, τ>n¦
s
n+1
car τ et σ sont des temps d’arrˆet et s
n
est une surmartingale. On en d´eduit, en
notant τ ∧ n := inf(τ, n),

|σ=m¦
s
τ∧n

|σ=m¦
s
τ∧(n+1)
et donc en mettant bout ` a bout ces in´egalit´es pour n ≥ m, en se souvenant que
τ ≥ σ, et en utilisant Fatou

|σ=m¦
s
m
≥ ≥

|σ=m¦
s
τ∧n
≥ ≥

|σ=m¦
s
τ
d’o` u, en sommant sur m,

X
s
σ

X
s
τ
.
71
Lemme 8.13 Toute surmartingale positive s
n
converge µ-presque sˆ urement.
D´emonstration Pour d´emontrer l’existence de la limite de s
n
, il suffit de voir
que, pour tous rationnels α < β, l’ensemble
E
α,β
:= ¦x ∈ X [ liminf
n→∞
s
n
(ω) < α < β < limsup
n→∞
s
n
(ω)¦
est de mesure nulle pour µ-presque tout ω. Pour cela, on introduit par r´ecurrence
des temps d’arrˆet τ
i
par τ
0
= 0 et, pour i ≥ 1,
τ
2i+1
= inf¦n > τ
2i
[ s
n
> β¦
τ
2i
= inf¦n > τ
2i−1
[ s
n
< α¦.
On a alors, en notant p
i
:= µ(¦τ
i
< ∞¦), et en utilisant le lemme 8.12
β p
2i+1

X
s
τ
2i+1

X
s
τ
2i
≤ αp
2i
≤ αp
2i−1
.
Donc µ(E
α,β
) ≤ p
2i+1
≤ (
α
β
)
i
p
1
pour tout i ≥ 1 et µ(E
α,β
) = 0.
72
9 Mesures stationnaires
Les mesures stationnaires sont des mesures qui d´ecrivent le com-
portement asymptotique des marches al´eatoires.
Nous montrons dans ce chapitre comment les utiliser pour montrer
des th´eor`emes d’existence et d’unicit´e pour des “applications mesu-
rables ´equivariantes entre les bords”.
9.1 Existence d’une mesure limite
Soit G un groupe localement compact s´eparable, µ une probabilit´e bor´elienne
sur G et X un espace localement compact m´etrisable muni d’une action continue
de G. On note {(X) l’espace des probabilit´es bor´eliennes sur X.
Pour toute probabilit´e (bor´elienne) ν sur X, on note µ ∗ ν la convol´ee
µ ∗ ν :=

G
g

ν dµ(g).
On note µ
∗n
la probabilit´e µ∗ . . . ∗ µ convol´ee de n probabilit´es toutes ´egales `a µ.
D´efinition 9.1 Une probabilit´e bor´elienne ν sur X est dite µ-harmonique ou
µ-stationnaire si on a µ ∗ ν = ν.
Remarque Le terme harmonique vient de ce que ν coincide avec la moyenne de
ses translat´ees. Le terme stationnaire exprime le fait que ν est une loi asympto-
tique possible pour une “marche al´eatoire sur X dont les lois de transitions sont
ind´ependantes et donn´ees par µ”.
Lemme 9.2 Lorsque X est compact, il existe toujours des mesures stationnaires.
D´emonstration Comme X est compact, l’espace {(X) est un convexe compact
dans le Fr´echet ´(X) des mesures born´ees muni de la topologie faible. L’argu-
ment de Kakutani prouve l’existence d’un point fixe par l’op´erateur de convolution
par µ : on part de n’importe quelle probabilit´e ν
0
∈ {(X) et on prend pour ν
une valeur d’adh´erence de la suite ν
n
:=
1
n

0
+ µ ∗ ν
0
+ + µ
∗n
∗ ν
0
) ∈ {(X).
Comme ν
n
−µ ∗ ν
n
tend vers 0, la probabilit´e ν est µ-stationnaire.
On note Ω l’espace produit Ω = G
N
, B sa tribu bor´elienne et µ la probabilit´e
produit sur (X, B). C’est l’unique probabilit´e dont l’image dans chaque G
n
est
la probabilit´e produit µ
⊗n
. Par le th´eor`eme de Carath´eodory, cette probabilit´e µ
existe et est unique. On note g
i
: Ω →G; ω →g
i
(ω) les fonctions coordonn´ees.
Lemme 9.3 a) La limite
ν
ω
:= lim
n→∞
g
0
(ω)

g
n
(ω)

ν ∈ {(X)
73
existe pour µ-presque tout ω.
b) Pour tout k ≥ 1, on a l’´egalit´e, pour µ
∗k
-presque tout g et µ-presque tout ω,
lim
n→∞
g
0
(ω)

g
n
(ω)

g

ν = ν
ω
.
c) On a l’´egalit´e ν =


ν
ω
dµ(ω).
D´emonstration Nous ne donnerons la preuve que pour X compact.
a) Notons B
n
= 'g
0
, . . . , g
n
` la σ-alg`ebre engendr´ee par les fonctions g
0
, . . . , g
n
.
Pour ϕ ∈ C(X), on note Φ ∈ C(G) la fonction
g →Φ(g) = (g

ν)(ϕ) =

X
ϕ(gx)dν(x).
Le fait que ν soit µ-stationaire se traduit par l’´egalit´e, pour tout g ∈ G,
Φ(g) =

G
Φ(gh)dµ(h).
La suite de fonction f
n
∈ L

(Ω)
f
n
: ω →Φ(g
0
(ω) g
n
(ω))
est une martingale pour B
n
. En effet, on a l’´egalit´e, pour tout n ≥ 1,
E(f
n+1
[B
n
)(ω) =

G
Φ(g
0
(ω) g
n
(ω)g)dµ(g)
= Φ(g
0
(ω) g
n
(ω)) = f
n
(ω).
Comme cette martingale est born´ee par |ϕ|

, le th´eor`eme 8.10 de Doob prouve
qu’elle converge µ-ps. En utilisant une famille d´enombrable dense de fonctions
ϕ ∈ C(X), la limite ν
ω
= lim
n→∞
g
0
(ω)

g
n
(ω)

ν existe pour µ-presque tout ω.
b) En plus des fonctions Φ et f
n
ci-dessus, introduisons les fonctions f
g
n

L

(Ω) pour g ∈ G donn´ees par
f
g
n
: ω →Φ(g
0
(ω) g
n
(ω)g)
et calculons les int´egrales
I
n
=

G
[f
n
(ω) −f
g
n
(ω)[
2

∗k
(g) dµ(ω)
=

G

G
[Φ(h) −Φ(hg)[
2

∗k
(g) dµ
∗(n+1)
(h)
=


[f
n
(ω) −f
n+k
(ω)[
2
dµ(ω)
= |f
n+k
|
2
L
2 −|f
n
|
2
L
2.
74
Dans ce calcul, on a utilis´e le fait que f
n
est une martingale ` a travers l’´egalit´e


f
n
f
n+k
dµ =


[f
n
[
2
dµ.
On d´eduit de ce calcul que

¸
0
I
n
≤ k|ϕ|
2

.
On en d´eduit que la fonction suivante est int´egrable

¸
0
[f
n
(ω) −f
g
n
(ω)[
2
∈ L
1
(Ω G, µ ⊗µ
∗k
).
En particulier, pour µ
∗k
-presque tout g et µ-presque tout ω, la suite f
n
(ω)−f
g
n
(ω)
converge vers 0.
c) Par le th´eor`eme de convergence domin´ee et le point a), on a


lim
n→∞
g
0
(ω)

g
n
(ω)

ν dµ(ω) = lim
n→∞


g
0
(ω)

g
n
(ω)

ν dµ(ω)
= lim
n→∞
µ
∗n
∗ ν = ν
D’o` u


ν
ω
dµ(ω) = ν.
9.2 Contraction et proximalit´e
Dans cette section, on montre qu’une marche al´eatoire lin´eaire
contracte presque sˆ urement autant que son support peut le permettre.
Soit k = R, C ou une extension finie de Q
p
. Dans cette partie µ est une
probabilit´e sur le groupe G = GL(d, k). Ce groupe G agit sur V = k
d
ainsi que
sur l’espace projectif X = P(V ).
On note Γ
µ
le plus petit sousgroupe ferm´e de G qui contient le support de µ.
D´efinition 9.4 On dit qu’un sous-groupe Γ ⊂ G est fortement irr´eductible (sur
V ) si Γ ne laisse invariant aucune union finie de sous-espaces propres de V .
Il est ´equivalent de dire que la composante connexe de l’adh´erence de Zariski
de Γ agit de fa¸con irr´eductible sur V .
On note p = p
Γ
le plus petit entier non nul pour lequel il existe une matrice
π ∈ ´(d, k) de rang p telle que π = lim
n→∞
λ
n
γ
n
avec λ
n
∈ k et γ
n
∈ Γ.
D´efinition 9.5 On dit que Γ est proximal si p
Γ
= 1.
La proposition suivante donne les premi`eres propri´et´es des marches al´eatoires
lin´eaires.
75
Proposition 9.6 Soit µ une probabilit´e bor´elienne sur G = GL(d, k) telle que
Γ
µ
est fortement irr´eductible. On note p = p
Γ
µ
.
a) Il existe une application mesurable J : Ω →Gr
p
(V ); ω →J
ω
de Ω = G
N
dans
la Grassmannienne des p-plans de V telle que, pour µ-presque tout ω ∈ Ω, toute
valeur d’adh´erence non nulle M d’une suite λ
n
g
0
(ω) g
n
(ω), avec λ
n
∈ k, a
pour image Im(M) = J
ω
.
b) Pour tout hyperplan W ⊂ V , on a µ(¦ω ∈ Ω [ J
ω
⊂ W¦) = 0.
La d´emonstration repose sur l’´etude des probabilit´es µ-stationnaires sur P(V ).
On sait par le lemme 9.2 qu’il en existe toujours.
Lemme 9.7 Soit µ une probabilit´e bor´elienne sur G = GL(d, k) telle que Γ
µ
est
fortement irr´eductible. Soit ν une probabilit´e µ-stationnaire sur P(V ).
Pour tout hyperplan W ⊂ V , on a ν(P(W)) = 0.
D´emonstration du lemme 9.7 Soit r la plus petite dimension d’un espace
W ⊂ V tel que ν(P(W)) = 0. On a, pour tous sous-espaces W
1
= W
2
de dimension
r,
ν(P(W
1
) ∪ P(W
2
)) = ν(P(W
1
)) + ν(P(W
2
)).
De sorte que, pour tout α > 0, il n’existe qu’un nombre fini de sous-espaces W
de dimension r tels que ν(P(W)) ≥ α. Notons
α
0
= max¦ν(P(W)) [ dimW = r¦,
F = ¦W [ dimW = r et ν(P(W)) = α
0
¦.
Cet ensemble F est fini. Comme ν est µ-stationnaire, on a l’´egalit´e
ν(P(W)) =

G
ν(P(gW)) dµ(g).
On en d´eduit que F est Γ
µ
-invariant. Ceci contredit la forte irr´eductibilit´e de Γ
µ
.
D´emonstration de la proposition 9.6 Par d´efinition, la valeur d’adh´erence
M est de rang ≥ p.
Soit ν une probabilit´e µ-stationnaire sur P(V ). Notons J
ω
le plus petit sous-
espace vectoriel de V tel que P(J
ω
) contient le support de ν
ω
. Par le lemme 9.7,
on a ν(P(KerM)) = 0. La probabilit´e M

ν a donc un sens et on a, par le lemme
9.3.a, l’´egalit´e
M

ν = ν
ω
.
En cons´equence, par le mˆeme lemme 9.7, l’image ImM est le plus petit sous-espace
W tel que P(W) contient le support de ν
ω
. On a donc ImM = J
ω
.
76
Ceci prouve simultan´ement que l’image ImM ne d´epend pas du choix de la va-
leur d’adh´erence M, que J
ω
ne d´epend pas du choix de la probabilit´e stationnaire
ν et que dimJ
ω
≥ p.
Il reste ` a montrer que dimJ
ω
= p. Le mˆeme raisonnement avec le lemme 9.3.b
prouve que, pour µ
∗k
-presque tout g, on a
M

g

ν = ν
ω
.
Par continuit´e, cette ´egalit´e est encore vraie, pour tout g ∈ Γ
µ
. Choisissons une
limite non nulle π de rang p d’une suite λ
n
g
n
avec λ
n
∈ k et g
n
∈ Γ
µ
. On peut
supposer, par irr´eductibilit´e de Γ
µ
que Imπ ⊂ KerM. On a encore
M

π

ν = ν
ω
.
Donc Im(M ◦ π) = J
ω
et dimJ
ω
≤ p. On a bien dimJ
ω
= p.
9.3 Proximalit´e
Dans cette section, on montre que dans une situation proximale,
la probabilit´e stationnaire ν est unique.
On en d´eduit des r´esultats d’existence et d’unicit´e d’applications
mesurables ´equivariantes entre les bords qui joueront un rˆ ole central
dans la d´emonstration du th´eor`eme de superrigidit´e.
Proposition 9.8 Soit µ une probabilit´e bor´elienne sur G = GL(d, k) telle que
Γ
µ
est proximal et fortement irr´eductible.
a) Il existe une unique probabilit´e µ-stationnaire ν ∈ {(P(V )).
b) Il existe une unique probabilit´e µ-stationnaire σ ∈ {({(P(V ))). Son support
est inclus dans l’ensemble δ
P(V )
des masses de Dirac sur P(V ).
D´emonstration L’existence de ν et de σ r´esulte du lemme 9.2.
a) On note j : Ω → P(k
d
); ω → j
ω
l’application donn´ee par la proposition 9.6
de sorte que ν
ω
= δ
j
ω
. D’apr`es le lemme 9.3, la probabilit´e ν est donc donn´ee par
ν =


δ
j
ω
dµ(ω).
b) Notons ν
σ
le centre de gravit´e de σ,
ν
σ
=

1(P(V ))
λdσ(λ) ∈ {(P(V )).
Cette probabilit´e ν
σ
est aussi µ-stationnaire. Par le lemme 9.3, pour µ-presque
tout ω, on a
lim
n→∞
g
0
(ω)

g
n
(ω)

ν
σ
= δ
j
ω
On en d´eduit que, pour µ-presque tout ω, pour tout ε > 0, pour toute fonction
ϕ ∈ C(P(V )),
lim
n→∞
σ(¦λ [ (g
0
(ω)

g
n
(ω)

λ)(ϕ) −ϕ(j
ω
) ≥ ε¦) ≤
lim
n→∞
σ(¦λ [ (g
0
(ω)

g
n
(ω)

λ)([ϕ −ϕ(j
ω
)[) ≥ ε¦) = 0
77
et donc, en notant d une distance compatible sur l’espace m´etrisable compact
{(P(V )),
lim
n→∞
σ(¦λ [ d(g
0
(ω)

g
n
(ω)

λ, δ
P(V )
) ≥ ε¦) = 0.
Par le th´eor`eme de convergence domin´ee, on a donc
lim
n→∞
σ ⊗µ(¦(λ, ω) [ d(g
0
(ω)

g
n
(ω)

λ, δ
P(V )
) ≥ ε¦) = 0.
Comme σ est µ-stationnaire, cette suite est constante ´egale ` a
σ(¦λ [ d(λ, δ
P(V )
) ≥ ε¦) = 0.
Donc σ est port´ee par le ferm´e δ
P(V )
⊂ {(P(V )) des masses de Dirac sur P(V ).
Elle peut donc ˆetre vue comme une probabilit´e sur P(V ). Cette probabilit´e est
µ-stationnaire, elle est donc ´egale `a ν.
Proposition 9.9 Soient Γ un groupe localement compact m´etrisable s´eparable,
µ ∈ {(Γ) une probabilit´e telle que Γ
µ
= Γ. Soient X
0
un espace compact m´etri-
sable sur lequel Γ agit continument et ν
0
∈ {(X
0
) une probabilit´e µ-stationnaire.
On se donne aussi une repr´esentation proximale et fortement irr´eductible de Γ
dans un espace vectoriel V .
a) Toute application mesurable Γ-´equivariante ϕ : X
0
→ {(P(V )) prend ν
0
-
presque sˆ urement ses valeurs dans l’ensemble δ
P(V )
des masses de Dirac.
b) Il existe au plus une application ν
0
-mesurable Γ-´equivariante Φ : X
0
→P(V ).
Le point a) permettra, dans la section 10.3, de construire des applications ν
0
-
mesurable Γ-´equivariante ϕ : X
0
→P(V ).
D´emonstration a) La probabilit´e σ = ϕ


0
) ∈ {({(P(V ))) est µ-stationnaire.
D’apr`es la proposition 9.8, elle est port´ee par des masses de Dirac.
b) Soient Φ
1
, Φ
2
: X
0
→P(V ) deux applications ν
0
-mesurables Γ-´equivariantes.
D’apr`es le point a), l’application ϕ : X
0
→ {({(P(V ))); ξ →
1
2

Φ
1
(ξ)
+ δ
Φ
2
(ξ)
)
prend ses valeurs dans l’espace des masses de Dirac. Donc, pour ν
0
-presque tout
ξ ∈ X
0
, on a Φ
1
(ξ) = Φ
2
(ξ).
9.4 Mesures stationnaires K-invariantes
Pour tout r´eseau Γ d’un groupe de Lie semisimple r´eel G, on
construit une probabilit´e µ de support Γ dont l’unique mesure station-
naire ν
0
sur G/P est K-invariante. On pourra alors appliquer dans la
section 10.3 la proposition 9.9 ` a cette probabilit´e K-invariante.
Soient k = R, G un k-groupe semisimple et G = G
k
. Soient P un sous-groupe
parabolique de G et K un sous-groupe compact de G tel que G = KP (voir
th´eor`eme 3.14) et ν
0
la probabilit´e K-invariante sur la vari´et´e drapeau X
0
= G/P.
78
Proposition 9.10 Pour tout r´eseau Γ ⊂ G, il existe une probabilit´e µ ∈ {(Γ)
de support Γ et telle que µ ∗ ν
0
= ν
0
.
Remarques - Comme l’action de K sur G/P est transitive, il y a une unique pro-
babilit´e K-invariante ν
0
sur G/P. En particulier, pour toute mesure K-invariante
µ
0
∈ {(G), on a l’´egalit´e µ
0
∗ ν
0
= ν
0
.
- Autrement dit, en d´epit du caract`ere discret de Γ, les trajectoires sur G/P
de la marche al´eatoire ind´ependante sur Γ de loi µ s’´equir´epartissent sur le bord
G/P selon la probabilit´e K-invariante ν
0
.
D´emonstration de la proposition 9.10 Soit µ
0
une probabilit´e K-invariante
sur G ` a support compact et ayant une densit´e non nulle par rapport ` a la mesure
de Haar sur un ouvert U de G dont les puisances U
n
recouvrent G.
Posons
τ(g) = inf¦t ∈ [0, 1] [ g

ν
0
= (1−t)µ
t
∗ν
0
+tµ
tt
∗ν
0
, µ
t
, µ
tt
∈ {(G) , suppµ
t
= Γ¦.
On esp`ere bien sˆ ur que cette fonction est constante ´egale ` a 0.
a) Montrons tout d’abord que, pour tout g ∈ G, on a τ(g) < 1. Remarquons
que pour tout γ ∈ Γ, on peut trouver n
γ
≥ 1 et ε
γ
> 0 tels que
g

µ
∗n
γ
0
> ε
γ
γ

µ
0
.
Donc
g

ν
0
= ε
γ
γ

ν
0
+ µ
tt
γ
∗ ν
0
avec µ
tt
γ
= g

µ
∗n
γ
0
−εγ

µ
0
. On choisit alors une famille a
γ
> 0 telle que
¸
γ∈Γ
a
γ
=
1. Une somme de ces ´egalit´es pond´er´ees par a
γ
donne
τ(g) ≤ 1 −
¸
γ∈Γ
a
γ
ε
γ
< 1.
b) Montrons maintenant que τ(g) est une fonction constante. Cela va r´esulter
de l’ergodicit´e de l’op´erateur de convolution par µ
0
dans L
2
(X, λ
X
) o` u X = Γ`G
et λ
X
est la probabilit´e G-invariante sur X. Plus pr´ecis´ement, remarquons que
d’une part, pour tout γ ∈ Γ, on a τ(γg) = τ(g), et, d’autre part, comme ν
0
est
µ
0
-harmonique τ(g) ≤

G
τ(gh) dµ
0
(h). On note encore τ : X →[0, 1] la fonction
induite sur X. Elle v´erifie donc
τ(x) ≤

G
τ(xh) dµ
0
(h).
C’est une fonction µ
0
-sous-harmonique born´ee. Elle est donc constante. En effet,
dans le calcul suivant bas´e sur l’in´egalit´e de Cauchy-Schwartz et sur Fubini

X
τ(x)
2

X
(x) ≤

X

G
τ(xh)
2

X
(x) dµ
0
(h) ≤

X
τ(x)
2

X
(x),
79
on doit avoir ´egalit´e dans ces in´egalit´es et donc la fonction h → τ(xh) est µ
0
-
presque sˆ urement constante. Donc τ est constante.
c) Il r´esulte de ces arguments qu’il existe < 1 tel que τ(g) < , pour tout
g ∈ G. En particulier, on peut ´ecrire, pour tout µ
1
∈ {(G),
µ
1
∗ ν
0
= (1 −)µ
t
1
∗ ν
0
+ µ
2
∗ ν
0
= (1 −)µ
t
1
∗ ν
0
+ (1 −)µ
t
2
∗ ν
0
+
2
µ
3
∗ ν
0
= (1 −)µ
t
1
∗ ν
0
+ (1 −)µ
t
2
∗ ν
0
+ (1 −)
2
µ
t
3
∗ ν
0
+
avec µ
i
∈ {(G) et µ
t
i
∈ {(Γ). Si on part de µ
1
= δ
e
, on obtient donc l’´egalit´e
ν
0
= µ ∗ ν
0
avec µ = (1 −)
¸
i≥1

i−1
µ
t
i
∈ {(Γ).
80
10 Superrigidit´e
Le but de ce chapitre est de montrer le th´eor`eme de superrigidit´e
de Margulis.
10.1 Superrigidit´e
Le th´eor`eme de superrigidit´e permet de d´ecrire toutes les repr´e-
sentations des r´eseaux d’un groupe de Lie semisimple r´eel G.
Pour pouvoir utiliser ce th´eor`eme de superrigidit´e pour montrer
le th´eor`eme d’arithm´eticit´e, on doit consid´erer non seulement des re-
pr´esentations dans des espaces vectoriels r´eels mais aussi dans des
espaces vectoriels p-adiques.
Nous verrons en outre que ces th´eor`emes s’´etendent ` a des groupes
G produit de groupes semisimples r´eels et p-adiques.
Th´eor`eme 10.1 (Margulis) Soient = R, G = G

le groupe des -points
d’un -groupe semisimple G connexe. On suppose G sans facteur compact et
rang

(G) ≥ 2. Soit Γ un r´eseau irr´eductible de G.
Soit k = R, C ou une extension finie de Q
p
, H = H
k
le groupe des k-points
d’un k-groupe simple H. Soit π : Γ → H un morphisme dont l’image π(Γ) est
Zariski dense et non born´ee.
Alors π s’´etend en un morphisme continu de G dans H.
Remarque Lorsque k est un corps p-adique, il n’existe pas de morphisme continu
non constant de G dans H. La conclusion du th´eor`eme dans ce cas est donc qu’un
tel morphisme π : Γ →H ne peut pas exister.
La d´emonstration occupe l’ensemble de ce chapitre.
Commen¸cons par quelques commentaires sur les hypoth`eses de ce th´eor`eme.
L’hypoth`ese G sans facteur compact n’est pas tr`es contraignante, on s’y ra-
m`ene en rempla¸cant Γ par un sous-groupe fini sans torsion puis en consid´erant le
r´eseau image de Γ dans le quotient de G par son sous-groupe distingu´e compact
maximal. De mˆeme, l’hypoth`ese π(Γ) Zariski dense n’est pas tr`es restrictive. On
peut souvent s’y ramener.
Exemple A V´erifions que l’hypoth`ese π(Γ) non born´ee est indispensable.
Notons q la forme quadratique sur R
5
, q(x) = x
2
1
+x
2
2
+x
2
3


2x
2
4


2x
2
5
. Le
groupe Γ = SL(5, Z[

2]) ∩ SO(q, R) est un r´eseau de SO(q, R).
En effet, notons σ l’automorphisme non trivial du corps Q[

2] et q
σ
l’image
de q par σ. Le groupe ¦(g, g
σ
) [ g ∈ SL(5, Z[

2]) ∩ SO(q, R)¦, est un sous-
groupe arithm´etique du Q-groupe dont les points r´eels sont le produit SO(q, R)
SO(q
σ
, R). Comme le groupe SO(q
σ
, R) est compact, Γ est bien un r´eseau.
81
Remarquons que le morphisme π : Γ → SO(q
σ
, R) donn´e par π(g) = g
σ
ne se
prolonge pas `a G. Dans ce cas, le groupe image est born´e.
Exemple B Voici un deuxi`eme exemple avec image p-adique qui met en valeur
l’hypoth`ese π(Γ) non born´ee.
Le r´eseau Γ = SL(d, Z) du groupe G = SL(d, R) s’injecte dans le groupe p-
adique H = SL(d, Q
p
). Cette injection ne se prolonge pas en un morphisme de G
dans H. Dans ce cas aussi, le groupe image est born´e.
Exemple C L’hypoth`ese de rang sur G est aussi importante : il n’existe pas de
tels ph´enom`enes de superrigidit´e pour les groupes G = SO(n, 1) qui sont de rang
r´eel 1. Par exemple, pour n = 2, G contient des r´eseaux Γ qui sont des groupes
libres non ab´eliens ou des π
1
de surface compacte. Il existe alors de nombreux
morphismes π : Γ → G qui sont d’image dense, ceux-ci ne se prolongent pas en
des morphismes de G dans G.
Exemple D L’hypoth`ese d’irr´eductibilit´e est aussi importante : le produit de
deux r´eseaux Γ
1
Γ
2
⊂ G G avec G = SO(2, 1) fournit ais´ement des contre-
exemples.
Exemple E L’hypoth`ese de simplicit´e sur Hest aussi utile mˆeme si on s’y ram`ene
facilement en composant π par la projection sur les facteurs simples de H.
Par exemple, si Γ est le r´eseau du groupe G = SL(d, R) donn´e par Γ = ¦g ∈
SL(d, Z) [ g ≡ Id mod 2¦. Comme le groupe d´eriv´e [Γ, Γ] est form´e de matrices
congrues `a l’identit´e modulo 4, il existe des morphismes non triviaux ε : Γ →
¦±1¦. Mais alors le morphisme π : Γ →H = SL(d, R), donn´e par π(γ) = ε(γ)γ,
ne se prolonge pas en un morphisme de G dans H.
De mˆeme, si Γ est l’image dans G = PGL(d, R) du groupe Γ
0
= ¦g ∈ SL(d, Z) [
g ≡ Id mod 3¦. Le rel`evement π : Γ →Γ
0
⊂ H = SL(d, R) ne se prolonge pas en
un morphisme de G dans H.
Exemple F Lorsque G est simplement connexe et k = R, le morphisme π s’´etend
alors en une R-repr´esentation de G dans H.
L’hypoth`ese de simple connexit´e sur G est utile pour cela. Par exemple, les
R-groupes G = PGL(3) et H = SL(3) ont des points r´eels isomorphes G
R
· H
R
sans ˆetre R-isomorphe.
- Le th´eor`eme de superrigidit´e et sa d´emonstration sont valables dans un cadre
beaucoup plus large : non seulement, on peut remplacer le corps = R par un
corps p-adique, mais, plus g´en´eralement, on peut prendre pour G un groupe sans
facteur compact qui est un produit fini G =
¸
G
p
, avec p premier ou ∞ et avec
G
p
le groupe des Q
p
-points d’un Q
p
-groupe semisimple simplement connexe sous
l’hypoth`ese
¸
p
rang
Q
p
G
p
≥ 2.
82
Strat´egie de la d´emonstration du th´eor`eme 10.1
Soit P un sous-groupe parabolique minimal de G, K un sous-groupe compact
maximal de G, V une k-repr´esentation de H. Le groupe H := H
k
agit donc dans
V := V
k
. On note ν
0
la probabilit´e K-invariante sur la vari´et´e des drapeaux G/P.
Dans la section 7.4, on a montr´e qu’il existe une application ν
0
-mesurable Γ-
´equivariante
ϕ : G/P →{(P(V ))
de la vari´et´e des drapeaux G/P muni d’une probabilit´e K-invariante ν
0
dans
l’espace des probabilit´es sur l’espace projectif P(V ). On v´erifie tout d’abord en
10.2 que l’on peut choisir la repr´esentation de H dans V de sorte que π(Γ) soit
proximal.
La deuxi`eme ´etape en 10.3 consiste `a remplacer l’espace d’arriv´ee par l’espace
projectif P(V ) lui-mˆeme en montrant que l’image de ϕ est form´ee de masses
de Dirac. Pour cela, on utilise la probabilit´e sur Γ dont la mesure stationnaire
correspondante sur G/P est ν
0
, probabilit´e que nous avons construit dans la
section 9.4. On obtient ainsi une application mesurable Γ-´equivariante
Φ : G/P →P(V ).
En utilisant aussi la repr´esentation duale, on pourra remplacer cet espace projectif
par un espace vectoriel W. Le prix `a payer sera de perdre une partie de la P-
invariance : on obtiendra une application mesurable Γ-´equivariante
Θ : G →W
qui est seulement invariante `a droite par un sous-espace de Cartan A de G.
La troisi`eme ´etape en 10.4 consiste ` a montrer que l’espace vectoriel E engendr´e
par les translat´es `a droite de Θ par les ´el´ements de G est de dimension finie. C’est
dans cette ´etape que l’on utilise l’hypoth`ese de rang au moins 2 via l’ergodicit´e
des sous-groupes A
t
de codimension 1 dans A.
La derni`ere ´etape en 10.5 consiste ` a remarquer que la repr´esentation de G dans
E est mesurable et donc continue, par suite que l’application Θ est aussi continue.
C’est grˆ ace ` a l’application δ : E →W d’´evaluation en e que l’on construira alors
le morphisme de G dans H qui prolonge π.
10.2 Valeurs propres de mˆeme module
Dans cette section, on montre que, comme π(Γ) n’est pas born´e,
on peut remplacer la k-repr´esentation irr´eductible de H dans V par
une dans laquelle π(Γ) est proximal (c.f. d´efinition 9.5).
Pour cela, on appliquera le lemme suivant au groupe ∆ := π(Γ).
Lemme 10.2 Soit k = R, C ou une extension finie de Q
p
. Soient V = k
d
et
∆ ⊂ End(V ) un sous-groupe tel que V est irr´eductible et tel que tout ´el´ement de
∆ a toutes ses valeurs propres de module 1. Alors ∆ est born´e.
83
Remarque L’hypoth`ese ”V irr´eductible” est utile, comme le prouve le groupe
des matrices unipotentes triangulaires sup´erieures.
D´emonstration du lemme 10.2 Le sous-espace vectoriel A de End(V ) engen-
dr´e par ∆ est une alg`ebre.
V´erifions tout d’abord que la forme bilin´eaire sym´etrique sur A donn´ee par
(a, b) →tr(ab) est non d´eg´en´er´ee. Soit I le noyau de cette forme bilin´eaire, c’est
un id´eal de A. Pour tout a ∈ I, on a tr(a) = tr(a
2
) = = tr(a
d
) = 0. Donc a est
nilpotent. Le th´eor`eme 2.3 d’Engel assure que le sous-espace V
t
:= ∩
a∈I
Ker(a)
est non nul. Ce sous-espace est A-invariant. Il est donc ´egal ` a V . Mais alors I = 0.
C’est ce que l’on voulait
Montrons maintenant que ∆ est born´e. Choisissons une famille (δ
i
) d’´el´ements
de ∆ qui forment une base de l’espace vectoriel A et notons (e
i
) la base de A
duale. On a l’´egalit´e, pour tout g dans ∆ : g =
¸
i
Tr(gδ
i
)e
i
. Les ´el´ements gδ
i
sont dans ∆. L’hypoth`ese sur les valeurs propres des ´el´ements de ∆ assure que,
pour tout i, [Tr(gδ
i
)[ ≤ d. Donc ∆ est born´e.
Proposition 10.3 Sous les hypoth`eses du th´eor`eme 10.1, il existe une k-repr´e-
sentation irr´eductible de H dans un espace vectoriel V telle que π(Γ) est proximal.
D´emonstration D’apr`es le lemme 10.2, il existe au moins un ´el´ement δ
0
∈ π(Γ)
qui admet une valeur propre de module diff´erent de 1. Notons V
0
le sous-espace
de V somme des sous-espaces caract´eristiques de δ
0
associ´es aux valeurs propres
de module maximum. Comme H est simple, il agit sur V par des matrices de
d´eterminant 1 et l’entier d
0
:= dimV
0
est inf´erieur ` a d. Comme H est simple,
on peut d´ecomposer la repr´esentation de H dans Λ
d
0
V en repr´esentations irr´e-
ductibles (proposition 4.12). Notons V
t
la sous-repr´esentation irr´eductible Λ
d
0
V
dans laquelle apparait l’unique valeur propre de module maximum de Λ
d
0
δ
0
. L’ac-
tion de π(Γ) sur P(V
t
) est proximale, car, par construction, la suite n → Λ
d
0
δ
n
0
convenablement renormalis´ee converge vers un op´erateur de rang 1.
10.3 Construction de Θ
Dans cette section, on utilise tous les pr´eparatifs du chapitre 9
pour construire l’application aux bord Φ : G/P → P(V ) ainsi que
l’application Θ.
Rappelons que ν
0
est la probabilit´e K-invariante sur G/P.
Proposition 10.4 Sous les hypoth`eses du th´eor`eme 10.1. Soit V une k-repr´e-
sentation irr´eductible de H dans laquelle π(Γ) est proximal.
a) Toute application ν
0
-mesurable Γ-´equivariante ϕ : G/P →{(P(V )) prend ses
valeurs dans l’ensemble δ
P(V )
des masses de Dirac.
b) Il existe une et une seule application ν
0
-mesurable Γ-´equivariante Φ : G/P →
P(V ).
84
Remarque Nous n’utiliserons pas l’unicit´e de Φ dans la suite du raisonnement.
Il est n´eanmoins rassurant de savoir que cette application au bord Φ est unique.
D´emonstration a) D’apr`es la proposition 9.10, il existe une probabilit´e µ ∈
{(Γ) de support Γ telle que ν
0
est µ-stationnaire. Le point a) r´esulte alors de la
proposition 9.9.a.
b) L’existence d’une application ϕ r´esulte de la proposition 7.11 de Furstenberg.
L’existence de l’application Φ s’en d´eduit par a). L’unicit´e de l’application Φ
r´esulte de la proposition 9.9.b.
Notre tache consiste maintenant ` a “remplacer” l’espace projectif P(V ) par un
k-espace vectoriel W. C’est ce que fait la proposition suivante. Notons A un
sous-espace de Cartan de G.
Proposition 10.5 Sous les hypoth`eses du th´eor`eme 10.1. Il existe une k-repr´e-
sentation ρ de H dans un espace vectoriel W et une application mesurable Γ-
´equivariante non constante Θ : G →W
k
, qui est A-invariante.
De fa¸con plus pr´ecise, notons W = W
k
, F
Γ
(G, W), le k-espace vectoriel des
(classes de) fonctions mesurables Γ-´equivariantes de G dans W, c’est-`a-dire des
fonctions f : G → W telles que f(γg) = ρ(γ)f(g), pour tout γ ∈ Γ, g ∈ G.
Le groupe G agit sur F
Γ
(G, W) par, pour tous g, x ∈ G, (T(g)f)(x) = f(gx) .
La proposition 10.5 affirme que l’espace F
Γ
(G, W) contient une fonction Θ non
constante telle que T(A)Θ = Θ.
D´emonstration de la proposition 10.5 On applique la proposition 10.4 ` a la
repr´esentation de H dans V donn´ee par la proposition 10.3 ainsi qu’`a sa repr´esen-
tation duale. On obtient ainsi deux applications ν
0
-mesurables et Γ-´equivariantes
ϕ : G/P → P(V ) et ψ : G/P → P(V

). On a donc une application ν
0
⊗ ν
0
-
mesurable et Γ-´equivariante
ϕ ψ : G/P G/P →P(V ) P(V

).
V´erifions tout d’abord que le produit G/P G/P s’identifie `a un quotient
de G/A, ` a une partie ν
0
⊗ ν
0
-n´egligeable pr`es. Conform´ement aux notations de
la section 3.5, fixons un sous-espace de Cartan A de G, une chambre de Weyl
A
+
⊂ A, une involution de Cartan θ de G telle que θ(A) = A. On peut supposer
que le parabolique minimal P est celui associ´e ` a A
+
. On note P

le parabolique
oppos´e et on note K le sous-groupe compact maximal K = G
θ
. Par le mˆeme
argument que dans la d´emonstration du th´eor`eme 3.13.b, on construit un ´el´ement
w
0
∈ K tel que w
0
normalise A et tel que w
0
(A
+
) est la chambre de Weyl oppos´ee
de sorte que P

= w
0
Pw
−1
0
. Autrement dit, le stabilisateur dans G du point
w
0
P ∈ G/P est le groupe P

.
Par le th´eor`eme 3.14.c, la P-orbite de cet ´el´ement w
0
P ∈ G/P est ouverte de
mesure pleine dans G/P · G/P

. Donc la G-orbite dans G/P G/P du point
(P, w
0
P) est ouverte, de mesure pleine et de groupe d’isotropie P ∩ P

.
85
V´erifions maintenant que l’image de ϕ ψ ne rencontre pas la quadrique
Q(V ) := ¦(x, y) ∈ P(V ) P(V

) [ y(x) = 0¦. Cela r´esulte de ce que la me-
sure image (ϕ ψ)


0
⊗ν
0
) est une mesure produit et que, par le lemme 9.7, la
probabilit´e µ-stationnaire ϕ


0
) ne masse pas les hyperplans.
On note W l’espace vectoriel End(V ). Pour tout (x, y) ∈ P(V )P(V

)Q(V ),
on note p
x,y
∈ W le projecteur sur x parall`element ` a y. La formule
Θ(g) = p
ϕ(gP),ψ(gw
0
P)
donne alors l’application Θ cherch´ee.
10.4 L’espace E des translat´es de Θ
Nous disposons enfin d’une application Γ-´equivariante, A-inva-
riante, non constante Θ de G dans un espace vectoriel W. On ´etudie
dans cette section la repr´esentation de G dans l’espace E des trans-
lat´es de Θ.
Rappelons que ρ est la repr´esentation de H dans W et que F
Γ
(G, W) est le
k-espace vectoriel des fonctions mesurables Γ-´equivariantes de G dans W. G´eo-
m´etriquement, ce sont les sections mesurables d’un fibr´e vectoriel sur Γ`G appel´e
le fibr´e induit par W. Rappelons aussi que nous avons not´e T l’action mesurable
du groupe G sur F
Γ
(G, W) Cette action est donn´ee par, pour tous g, x ∈ G,
(T(g)f)(x) = f(xg) .
Par construction la fonction Θ est un ´el´ement A-invariant de F
Γ
(G, W). Cette
action T est mesurable si on munit F
Γ
(G, W) de la convergence en mesure.
Proposition 10.6 Si rang
R
(G) ≥ 2, l’espace vectoriel E = 'T(g)Θ [ g ∈ G` est
de dimension finie.
En outre, la fonction Θ est continue.
Remarque En particulier, comme Θ n’est pas constante, le corps k ne peut pas
ˆetre totalement discontinu. On a donc que k = R ou C.
Cette proposition 10.6 sera une cons´equence des trois lemmes 10.7 et 10.8 ci-
dessous.
Lemme 10.7 Soit A
t
⊂ A un sous-groupe non trivial, Z(A
t
)le centralisateur de
A
t
dans G et I ⊂ F
Γ
(G, W) un sous-espace vectoriel A-invariant de dimension
finie. Alors le sous-espace vectoriel I
t
= 'T(g)f [ g ∈ Z(A
t
) , f ∈ I` est encore
A-invariant et de dimension finie.
86
D´emonstration du lemme 10.7 Comme A normalise A
t
, ce sous-espace vec-
toriel I
t
est bien A-invariant. Montrons que I
t
est de dimension finie. Regardons
pour cela I comme un A
t
-module. Il suffit de montrer que le k-espace vectoriel
S = Hom
A
(I, F
Γ
(G, W)) est de dimension finie, car chaque ´el´ement g de Z(A
t
)
agit sur I via un ´el´ement de cet espace vectoriel S. Or on a une identification
naturelle
S · F
Γ
(G, Hom(I, W))
A

de S avec l’ensemble des sections mesurables A
t
-invariantes du fibr´e sur Γ`G
induit par Hom(I, W).
Comme A
t
= 1, le corollaire 7.7 affirme que l’action de A
t
sur Γ`Gest ergodique.
Nous allons en d´eduire que S est de dimension finie.
Plus pr´ecis´ement, pour toute famille f
1
, . . . , f
i
∈ S et g ∈ G , on note,
m(g) := dim('f
j
(g) [ 1 ≤ j ≤ i`).
La fonction mesurable m : G →N v´erifie, pour tout γ ∈ Γ, a
t
∈ A
t
m(γga
t
) = m(g), pour presque tout g.
Par ergodicit´e, la fonction m est donc constante ´egale ` a un entier m
0
. Cet entier
m
0
est major´e par dim(Hom(I, W)). On peut choisir la famille f
1
, . . . , f
i
de sorte
que m
0
soit maximal. On peut aussi choisir cette famille de sorte que i = m
0
.
Soit f ∈ S. Par maximalit´e de m
0
, on peut trouver des fonctions mesurables
c
j
: G →k telles que, pour presque tout g ∈ G, on ait
f(g) =
¸
1≤j≤m
0
c
j
(g)f
j
(g).
L’ind´ependance des f
j
(g) et les propri´et´es de Γ-´equivariance et de A
t
-´equivariance
des fonctions f et f
j
prouvent que, pour tout γ ∈ Γ, a
t
∈ A
t
c
j
(γga
t
) = c
j
(g), pour presque tout g.
De nouveau, par ergodicit´e, les fonctions c
j
sont constantes. L’espace vectoriel S
est donc de dimension finie.
Lemme 10.8 Soient G un R-groupe semisimple connexe, G = G
R
et A un sous-
espace de Cartan de G. Si rang
R
(G) ≥ 2, il existe une suite A
1
, . . . , A
s
de sous-
groupes non triviaux de A telle que, en notant Z(A
i
) le centralisateur de A
i
dans
G, la multiplication
Z(A
1
) Z(A
s
) −→ G
(z
1
, . . . , z
s
) → z
1
z
s
est surjective.
87
D´emonstration Notons Σ
+
= ¦λ
1
, . . . λ
t
¦ un syst`eme de racines positives de A
dans G et A
i
⊂ A le noyau de λ
i
. Comme rang
R
(G) ≥ 2, ces groupe A
i
sont
non triviaux. L’ensemble X = Z(A
1
) Z(A
t
) contient le parabolique minimal
P associ´e `a Σ
+
ainsi que le parabolique oppos´e P

. Donc l’ensemble Y = X X
contient l’ouvert U = P

P. D’apr`es la d´emonstration du th´eor`eme 3.14.c, cet
ouvert est dense dans G. Donc G = Y Y . C’est ce que l’on voulait.
C’est le lemme 10.9.b ci-dessous qui nous fera passer du monde mesurable au
monde continu.
Lemme 10.9 Soient G
1
et G
2
deux groupes localement compacts s´eparables.
a) Pour toute partie W
1
⊂ G
1
de mesure positive pour la mesure de Haar de G
1
,
l’ensemble W
1
W
−1
1
contient un voisinage de e.
b) Tout morphisme de groupes mesurable ϕ : G
1
→G
2
est continu.
D´emonstration a) On note µ
1
la mesure de Haar de G
1
. Quitte ` a r´eduire W
1
,
on peut supposer que µ
1
(W
1
) < ∞. Or si α, β ∈ L
2
(G
1
, µ
1
), la convol´ee g →
(α∗β)(g) =

G
α(gx)β(x
−1
)dµ
1
(x) est une fonction continue : on le v´erifie d’abord
pour α, β continues ` a support compact et on conclut par densit´e.
Donc la fonction 1
W
1
∗ 1
W
−1
1
est une fonction continue qui vaut µ(W
1
) en
l’identit´e. Elle est donc strictement positive dans un voisinage de l’identit´e. Or
elle est nulle en dehors de W
1
W
−1
1
. Donc W
1
W
−1
1
contient un voisinage de e.
b) Soit V
2
⊂ G
2
un voisinage de l’identit´e dans G
2
. On veut montrer que V
1
:=
ϕ
−1
(V
2
) est un voisinage de l’identit´e dans G
1
. Choisissons un ouvert W
2
⊂ G
2
tel que W
2
W
−1
2
⊂ V
2
. Comme G
2
est s´eparable, il existe une famille d´enombrable
d’´el´ements g
p
∈ G
2
tels que les translat´es W
2
g
p
recouvrent G
2
. Mais alors les
images inverses ϕ
−1
(W
2
g
p
) recouvrent G
1
. L’une d’elles W
1
= ϕ
−1
(W
2
g
p
0
) est
donc de mesure non nulle. Comme W
1
W
−1
1
⊂ V
1
, on conclut ` a l’aide du a).
D´emonstration de la proposition 10.6 Posons I
0
:= 'Θ` et, pour i = 1, . . . , s,
posons I
i
= 'T(Z(A
i
))I
i−1
`. Par une application r´ep´et´ee du lemme 10.7, l’espace
I

est de dimension finie. Par le lemme 10.8, il est ´egal ` a E.
Montrons maintenant la continuit´e de Θ. Plus g´en´eralement, on va montrer que
toute fonction f ∈ E est continue. Comme E est de dimension finie, le lemme
10.9 prouve que le morphisme mesurable T : G → GL(E) est continu. Notons
f
1
, . . . , f
i
une base de E. On a donc des fonctions continues c
j
: G →k telles que,
pour tout g dans G, on a
T(g)f =
¸
j
c
j
(g)f
j
.
Par Fubini, pour presque tout x
0
∈ G, on a l’´egalit´e
f(x
0
g) =
¸
j
c
j
(g)f
j
(x
0
)
pour presque tout g ∈ G. Donc f est continue et Θ aussi.
88
Remarque Comme Θ n’est pas constant, cela ne peut se produire que si k = R
ou C.
10.5 Prolongement de π `a G
Nous pouvons maintenant construire le prolongement de π que
nous cherchons grˆace ` a la repr´esentation de G dans E et grˆace ` a
l’´evaluation en e qui relie E et W.
Notons δ : E → W; f → f(e) l’´evaluation en l’identit´e et rappelons que ρ est
la repr´esentation de H dans W.
Lemme 10.10 a) L’application δ est Γ-´equivariante, i.e. pour tout γ ∈ Γ, on a
δ ◦ T(γ) = ρ(π(γ)) ◦ δ.
b) L’application δ est injective.
c) Son image δ(E) est un sous-espace H-invariant de W.
D´emonstration Comme G = G
R
est semisimple et connexe, la repr´esentation
T de G s’´etend en une R-repr´esentation de G encore not´ee T. C’est vrai du moins
si G est le quotient du R-groupe alg´ebrique simplement connexe
¯
G dont l’alg`ebre
de Lie est Lie(G)
C
par le noyau Z du morphisme (
¯
G)
R
→ G, ce que l’on peut
supposer. Rappelons aussi que ρ est la restriction d’une R-repr´esentation ρ de H.
a) On a les ´egalit´es, pour f ∈ E,
δ ◦ T(γ) (f) = f(γ) = ρ(π(γ))(f(e)) = ρ(π(γ)) ◦ δ (f).
b) Le noyau Ker(δ) est un sous-espace Γ-invariant de E. Par le th´eor`eme 7.1
de densit´e de Borel, le r´eseau Γ est Zariski dense dans G, et donc le noyau
Ker(δ) est aussi G-invariant. Donc, si f est dans Ker(δ), pour tout g ∈ G, on a,
f(g) = δ(T(g)f) = 0 et f = 0.
c) L’ image δ(E) est π(Γ)-invariante. Par hypoth`ese π(Γ) est Zariski dense dans
H. Donc δ(E) est H-invariant.
Fin de la d´emonstration du th´eor`eme 10.1 On sait d´ej`a que k = R ou
C. Grace au lemme 10.10, on peut identifier E avec son image δ(E). On dispose
donc dans E d’une repr´esentation T de G et d’une repr´esentation ρ de H telles
que, pour tout γ ∈ Γ, on a
T(γ) = ρ(π(γ)).
Par le corollaire 4.5, l’image ρ(H) est Zariski ferm´ee. Par le th´eor`eme 7.1 de
densit´e de Borel, le r´eseau Γ est Zariski dense dans G. Donc T(G) est inclus dans
ρ(H) . Comme H est simple, ρ est injectif et est donc un R-isomorphisme sur son
image. Le R-morphisme ρ
−1
◦ T : G −→H prolonge π.
89
11 Arithm´eticit´e
Nous avons montr´e dans le chapitre 5 le th´eor`eme de Borel Harish-
Chandra qui affirme que “tout groupe arithm´etique est un r´eseau”. Le
but de ce chapitre est de d´emontrer le th´eor`eme d’arithm´eticit´e de
Margulis qui en est une r´eciproque en rang r´eel au moins 2.
11.1 Groupes arithm´etiques
Nous devons tout d’abord ´etendre l´eg`erement la d´efinition 5.1 de
groupes arithm´etiques
D´efinition 11.1 Soit G = G
R
le groupe des R-points d’un R-groupe semisimple
connexe `a centre trivial. Un r´eseau Γ ⊂ G est dit arithm´etique si il existe un Q-
groupe semisimple H et un morphisme continu p : H
R
→G de noyau compact et
d’image d’indice fini dans G tel que les r´eseaux p(H
Z
) et Γ sont commensurables.
Th´eor`eme 11.2 (Margulis) Soit G = G
R
le groupe des R-points d’un R-
groupe semisimple. On suppose G sans facteur compact et rang
R
(G) ≥ 2.
Alors tout r´eseau irr´eductible Γ ⊂ G est arithm´etique.
Exemple Reprenons l’exemple A de la section 10.1.
Pour la forme quadratique q sur R
5
, q(x) = x
2
1
+ x
2
2
+ x
2
3


2x
2
4


2x
2
5
, le
groupe Γ = SL(5, Z[

2])∩SO(q, R) est un sous-groupe arithm´etique de SO(q, R).
En effet, le groupe H
Z
= ¦(g, g
σ
) [ g ∈ SL(5, Z[

2]) ∩ SO(q, R)¦ est un sous-
groupe arithm´etique d’un Q-groupe not´e H = R
Q[

2][Q
(SO(q)) tel que H
R
=
SO(q, R)SO(q
σ
, R). Comme le groupe SO(q
σ
) est compact, Γ est bien un groupe
arithm´etique.
Strat´egie de d´emonstration du th´eor`eme 11.2
On v´erifie tout d’abord que Γ est un groupe de type fini de sorte que le corps
K engendr´e par les traces des ´el´ements de Γ est un corps de type fini.
On rappelle ensuite comment construire de nombreux plongements des corps
de type fini dans les corps locaux.
On utilise ces plongements pour construire des repr´esentations de Γ ` a coeffi-
cients dans les corps locaux, repr´esentations auxquelles on applique le th´eor`eme
de superrigidit´e pour montrer que le corps K est une extension finie de Q.
Cela permet alors, grˆace ` a la “restriction de Weil” de construire une repr´e-
sentation de Γ ` a coefficients dans Q, repr´esentation ` a laquelle on applique la
superrigidit´e p-adique pour montrer que les d´enominateurs qui apparaissent dans
les coefficients matriciels sont uniform´ement born´es. On aura ainsi r´ealis´e un
sous-groupe d’indice fini Γ
t
de Γ comme un sous-groupe de GL(d, Z).
On verra que Γ
t
est d’indice fini dans le groupe des points entiers de son adh´e-
rence de Zariski. La superrigidit´e r´eelle sera utile pour cela.
90
11.2 Les r´eseaux sont de type fini
Nous admettrons dans cette section un point certes crucial mais
pas tr`es surprenant.
Proposition 11.3 Un r´eseau Γ du groupe des R-points G = G
R
d’un R-groupe
G est de type fini.
Cette proposition s’´etend aux r´eseaux des produits finis G =
¸
G
p
de groupes
r´eels et p-adiques.
Nous admettrons cette proposition 11.3 dans sa g´en´eralit´e. N´eanmoins, il y a
un cas o` u la d´emonstration est assez rapide :
1
er
cas : Si Γ est cocompact dans G.
Dans ce cas, Γ est le groupe fondamental d’une vari´et´e compacte. Il est donc
de type fini, et mˆeme de pr´esentation finie.
2
`eme
cas : Si G ne contient pas de facteurs quasisimples G
i
de rang r´eel 1.
Dans ce cas, la proposition est due ` a Kazhdan et la d´emonstration repose sur
la propri´et´e T de Kazhdan. Elle est d´etaill´ee dans le chapitre 3 de [4] dans un
esprit tr`es proche de ce cours. Je ne la recopie pas ici. Les grandes lignes sont :
comme rang
R
(G
i
) ≥ 2, le groupe G a la propri´et´e T de Kazhdan, donc le r´eseau
Γ aussi et donc Γ est de type fini.
3
`eme
cas : Si G contient un facteur quasisimple de rang r´eel 1.
Le fait que Γ soit de type fini est dˆ u ` a Raghunathan, voir [21] corollaire 13.10.
11.3 Alg´ebricit´e des valeurs propres
Dans cette section on utilise la superrigidit´e pour montrer l’alg´e-
bricit´e des valeurs propres des ´el´ements de AdΓ.
Proposition 11.4 Sous les hypoth`eses du th´eor`eme 11.2.
Pour tout γ ∈ Γ, les valeurs propres de Adγ sont des nombres alg´ebriques.
Pour montrer cette proposition, nous aurons besoin de construire des plonge-
ments des extensions de type fini de Q.
Lemme 11.5 Soit K une extension de type fini de Q, λ un ´el´ement de K trans-
cendant sur Q. Alors il existe un corps local p-adique k et un morphisme de corps
σ : K →k tel que [σ(λ)[ > 1.
D´emonstration du lemme 11.5 Mettons λ dans une famille maximale λ
1
=
λ, λ
2
, . . . , λ
r
d’´el´ements de K alg´ebriquement ind´ependants sur Q et notons
91
K
t
= Q(λ
1
, . . . , λ
r
) ⊂ K. Il est facile de trouver un plongement σ
t
: K
t
→Q
p
tel
que [σ
t
(λ)[ > 1. On ´etend alors ce plongement en un morphisme de l’extension
finie K de K
t
vers une extension finie k de Q
p
.
D´emonstration de la proposition 11.4 D´ecomposons l’alg`ebre de Lie g de
G en somme d’id´eaux simples et fixons une base de ces id´eaux. Soit K
0
le corps
engendr´e par les coefficients matriciels d’une famille finie g´en´eratrice du groupe
AdΓ. Ce corps est de type fini. Le groupe adjoint G
t
de G est donc un groupe
semisimple d´efini sur K
0
tel que AdΓ ⊂ G
t
K
0
.
Supposons que l’adjoint Adγ d’un ´el´ement γ ∈ Γ a une valeur propre λ trans-
cendante sur Q. Le lemme 11.4 permet de construire un morphisme de corps
K
0
[λ] →k dans un corps local p-adique tel que [σ(λ)[ > 1.
Comme le groupe G
t
est un produit de groupes k-simples et que l’image de Γ
est Zariski dense dans G
t
, le th´eor`eme 10.1 de superrigidit´e affirme que l’image
de Γ dans G
t
k
est born´ee. Mais par construction, le groupe engendr´e par Adγ
n’est pas born´e. Contradiction.
Remarque On a bas´e la d´emonstration de la proposition 11.4 sur la superrigidit´e
p-adique. On aurait pu aussi bien utiliser ici la superrigidit´e r´eelle.
11.4 Corps de d´efinition de G
Nous d´eterminons dans cette section le plus petit corps de d´efini-
tion de Γ
Notons K le corps engendr´e par les traces Tr(Adγ) pour γ ∈ Γ.
Proposition 11.6 Sous les hypoth`eses du th´eor`eme 11.2.
a) Le corps K est un corps de nombre i.e. une extension finie de Q.
b) Il existe un R-morphisme injectif i : G →GL(m) tel que i(Γ) ⊂ SL(m, K)
c) Le groupe i(G) est d´efini sur K.
D´emonstration de la proposition 11.6
a) D’apr`es la proposition 11.4, le corps K est une extension alg´ebrique de Q.
Or ce corps K est une extension de type fini de Q. C’est donc une extension finie
de Q.
b) Notons R[G] l’anneau des fonctions r´eguli`eres et r´eelles sur G. Le groupe G
agit sur R[G] par translation `a droite. Pour tout ϕ ∈ R[G] et g, x ∈ G
(T(g)ϕ)(x) = ϕ(xg)
Soit ϕ
0
l’´el´ement de R[G] donn´e par ϕ
0
(g) = Tr(Adg) et E := 'T(G)ϕ
0
` le R-
sous-espace vectoriel de dimension finie m engendr´e par les translat´es de ϕ
0
. Le
morphisme i = T[
E
provient d’un R-morphisme i : G →GL(m).
92
Montrons que i est injectif. Soit g ∈ G un ´el´ement du noyau de i. Pour tout
x ∈ G on a donc
Tr(AdxAdg) = Tr(Adx).
On a donc pour tout n ≥ 0
Tr(Adg
n
) = Tr(Adg
n−1
) = = dimg.
L’´el´ement g est donc unipotent. Le noyau de i est donc un sous-groupe semisimple
de G dont tous les ´el´ements sont unipotents. Il est donc trivial. Le morphisme i
est bien injectif.
Montrons qu’il existe une base ϕ
1
, . . . , ϕ
m
de E dans laquelle les ´el´ements de
i(Γ) sont `a coefficients dans K. Par le th´eor`eme 7.1 de densit´e de Borel, Γ est
Zariski dense dans G et il existe γ
1
, . . . , γ
m
∈ Γ tels que les m translat´es ϕ
i
=
T(γ
i

0
forment une base de E. Ecrivons, pour γ ∈ Γ,
T(γ)ϕ
j
=
¸
i
a
γ
i,j
ϕ
i
.
De nouveau, comme Γ est Zariski dense dans G, les restrictions des fonctions ϕ
j
sont encore lin´eairement ind´ependantes. On peut donc trouver γ
t
1
, . . . , γ
t
m
∈ Γ tels
que la matrice (ϕ
i

t
k
)) est une matrice mm inversible. Les ´egalit´es
¸
i
a
γ
i,j
ϕ
i

t
k
) = (T(γ)ϕ
j
)(γ
t
k
) = ϕ
0

t
k
γγ
j
) ∈ K
prouvent que les coefficients a
γ
i,j
sont dans K.
c) D’apr`es le corollaire 4.5, le groupe i(G) est alg´ebrique. Le fait qu’il soit d´efini
sur K r´esulte du th´eor`eme 7.1 de densit´e de Borel et du lemme 7.2.
11.5 Restriction de K `a Q
La derni`ere ´etape consiste `a remplacer le corps de nombre K par
Q grˆ ace au proc´ed´e de restriction `a la Weil.
On utilise dans cette ´etape, ` a la fois la superrigidit´e r´eelle et la
superrigidit´e p-adique.
Le th´eor`eme 11.2 d’arithm´eticit´e est une cons´equence de la proposition sui-
vante.
Proposition 11.7 Sous les hypoth`eses du th´eor`eme 11.2.
Il existe un Q-groupe semisimple H `a centre trivial, un morphisme ϕ : Γ → H
Q
et un morphisme continu p : H
R
→G tels que
a) π = p ◦ ϕ.
b) Le sous-groupe Γ
t
:= ¦γ ∈ Γ [ ϕ(Γ) ∈ H
Z
est d’indice fini dans Γ.
c) Le noyau Ker p est compact.
d) Les groupes Γ et p(H
Z
) sont commensurables.
93
D´emonstration de la proposition 11.7
D’apr`es la proposition 11.6, on peut supposer que G ⊂ GL(m) est d´efini sur
un corps de nombre K et que Γ ⊂ G
K
.
a) Commen¸cons par rappeler la construction et les propri´et´es de la “restriction
de Weil” H = R
K[Q
(G). Identifions K ` a un sous-corps de R et notons σ
1
, . . . , σ
r
1
les morphismes de K dans R, avec σ
1
= Id, et σ
r
1
+1
, . . . , σ
r
1
+r
2
, σ
r
1
+1
, . . . , σ
r
1
+r
2
les morphismes de K dans C de sorte que le morphisme σ
R ⊗
Q
K
σ
−→ R
r
1
C
r
2
k → (σ
1
(k), . . . , σ
r
1
+r
2
(k))
soit un isomorphisme d’alg`ebres. Regardons K comme un Q-espace vectoriel de
dimension . Notons
ϕ : GL(m, K) −→GL(m, Q)
le morphisme de groupes qui s’en d´eduit. Ce morphisme a son image dans
GL(m, R ⊗
Q
K) · GL(m, R)
r
1
GL(m, C)
r
2
⊂ GL(m, R).
Notons
p : GL(m, R ⊗
Q
K) −→GL(m, R)
la projection sur le premier facteur.
Le groupe GL(m, K) s’identifie ainsi au groupe R
Q
des Q-points d’un Q-
sous-groupe R de GL(m), dont le groupe des R-points s’identifie `a R
R
·
GL(m, R)
r
1
GL(m, C)
r
2
. Ce Q-groupe est not´e R
K[Q
(GL(m)) et est appel´e
la restriction de K `a Q de GL(m).
Notons H = R
K[Q
(G) l’adh´erence de Zariski de ϕ(G
K
). Comme ϕ(G
K
) est
inclus dans GL(m, Q), le lemme 7.2 affirme que H est un Q-groupe. En outre,
par construction, on a, pour tout alg`ebre A contenant Q, l’´egalit´e H
A
· G
K⊗
Q
A
.
En particulier, H est encore un Q-groupe dont les Q-points s’identifient aux K-
points de G. Le groupe des points complexes H
C
s’identifie ` a (G
C
)
r
1
+2r
2
. On en
d´eduit que le Q-groupe H est donc semisimple. Par construction, on a p(H
R
) = G
et p(ϕ(γ)) = γ, pour tout γ ∈ Γ.
b) Comme Γ est de type fini, il existe des nombres premiers p
1
, . . . , p
r
tels que
ϕ(Γ) ⊂ H
Z[p
−1
1
,..., p
−1
r
]
.
Soit ϕ
i
la compos´ee Γ → H
Q
⊂ H
Q
p
i
. D’apr`es le th´eor`eme de superrigidit´e,
l’image ϕ
i
(Γ) est relativement compacte dans H
Q
p
i
. Notons Z
p
l’anneau des en-
tiers de Q
p
. Comme le sous-groupe H
Z
p
i
est ouvert dans H
Q
p
i
, le sous groupe
Γ
t
:= ∩
i
ϕ
−1
i
(H
Z
p
i
) est d’indice fini dans Γ et v´erifie ϕ(Γ
t
) ⊂ H
Z
.
c) Montrons que le noyau Ker(p) est compact. Sinon, on pourrait d´ecomposer
H en produit de R-groupes H = GFF
t
o` u p est la projection sur le premier
facteur et o` u F est simple et F
R
non compact. Notons q la projection sur ce
94
deuxi`eme facteur. L’image q ◦ϕ(Γ) est Zariski dense dans F. En particulier, cette
image n’est pas born´ee. Le th´eor`eme 10.1 de superrigidit´e prouve que q ◦ ϕ se
prolonge en un morphisme continu ψ : G → F. L’image ϕ(Γ) serait alors inclus
dans le sous-groupe ferm´e Graphe(ψ) F
t
. Ce groupe n’est pas Zariski dense
dans H. Ceci contredit la Zariski densit´e de ϕ(Γ) dans H. Donc le noyau Ker(p)
est compact.
d) D’apr`es le c) ϕ(Γ
t
) est un r´eseau de H
R
. Donc ϕ(Γ
t
) est d’indice fini dans
H
Z
et Γ et p(H
Z
) sont commensurables.
Remarques (voir [16].IX) - Comme pour le th´eor`eme de superrigidit´e, le th´eo-
r`eme d’arithm´eticit´e et sa d´emonstration sont valables dans un cadre beaucoup
plus large : on peut prendre pour G un produit fini G =
¸
G
p
, avec p premier
ou ∞ et G
p
le groupe des Q
p
-points d’un Q
p
-groupe semisimple sous l’hypoth`ese
¸
p
rang
Q
p
G
p
≥ 2.
- On peut en outre remplacer cette hypoth`ese de rang par
Γ est d’indice infini dans son commensurateur Com(Γ)
o` u Com(Γ) := ¦g ∈ G [ gΓg
−1
et Γ sont commensurables ¦.
- Si k = R ou C, le groupe G
k
des k-points d’un k-groupe semisimple Gcontient
toujours des r´eseaux cocompacts et des r´eseaux non cocompacts.
- Si k est un corps p-adique, le groupe G
k
des k-points d’un k-groupe semisimple
G contient toujours des r´eseaux et ceux-ci sont toujours cocompacts.
- Si k est un corps local de caract´eristique non nulle, le groupe G
k
des k-points
d’un k-groupe semisimple G contient toujours des r´eseaux non cocompacts mais
pas toujours des r´eseaux cocompacts.
95
12 Mesures invariantes
12.1 Mesures U-invariantes sur SL(2,R)/Γ
Dans cette partie, nous montrons le th´eor`eme mesur´e de Ratner
pour G = SL(2, R). Il est dˆ u ` a Dani dans ce cas.
Proposition 12.1 Soit G = SL(2, R), U = ¦u
s
:=

1 s
0 1

[ s ∈ R¦. Soient
Γ ⊂ G un sous-groupe discret et µ une probabilit´e U-invariante U-ergodique sur
le quotient X = G/Γ.
Alors ou bien cette probabilit´e µ est port´ee par une U-orbite p´eriodique ou bien
cette probabilit´e µ est G-invariante.
Remarques - Lorsque Γ est cocompact, le premier cas est impossible car Γ ne
contient pas d’´el´ement unipotent non trivial. (voir la d´emonstration du corollaire
5.6.b)
- Lorsque Γ n’est pas un r´eseau, le deuxi`eme cas est impossible car µ(X) = 1.
Dans cette section on notera aussi A = ¦a
t
:=

t 0
0 t
−1

[ t > 0¦, B=AU,
U

= ¦u

s
:=

1 0
s 1

[ s ∈ R¦ et B

= AU

.
D´emonstration de la proposition 12.1 Elle r´esulte des lemmes suivants.
Lemme 12.2 Si µ n’est pas port´ee par une U-orbite p´eriodique, alors µ est A-
invariante.
Lemme 12.3 Si µ est B-invariante, alors µ est G-invariante.
D´emonstration du lemme 12.2 Expliquons tout d’abord la d´emarche que
nous allons suivre. Soit
Z = ¦x ∈ X [ lim
t→∞
1
t

t
0
ϕ(u
s
x)ds =

X
ϕdµ pour tout ϕ ∈ C
c
(X)¦.
Le th´eor`eme 8.6 de Birkhoff appliqu´e `a une famille d´enombrable dense de fonc-
tions de C
c
(X) prouve que µ(Z) = 1. L’id´ee est de prendre deux points proches
x et gx dans Z et de comparer les moyennes orbitales de ϕ issues de x et de gx.
On ´ecrit
u
s
gx = D(s)u
d(s)
x
avec D(s) dans B

. La quantit´e d(s) est la d´erive du param´etrage et D(s) la
d´erive transverse. On verra que, lorsque g n’est pas dans B, on peut trouver un
96
“long” intervalle de temps I pendant lequel D(s) est presque ´egal ` a un ´el´ement
non trivial a de A. On aura alors, en posant ϕ
a
(y) = ϕ(ay),

X
ϕdµ ·
1
(I)

I
ϕ(u
s
gx)ds ·
1
(I)

I
ϕ
a
(u
d(s)
x)ds ·

X
ϕ
a
dµ.
Ce qui implique que µ est A-invariant, ` a moins que g ne soit toujours dans B.
Il reste `a justifier ces ·. C’est l’objet de la d´emonstration que nous d´etaillons
maintenant.
Pour tout ε
0
> 0, on peut trouver une partie compacte Z
0
⊂ Z de mesure
µ(Z
0
) ≥ 1 −ε
0
telle que, pour tout ϕ ∈ C
c
(X), la limite
lim
t→∞
1
t

t
0
ϕ(u
s
x)ds =

X
ϕdµ (3)
soit uniforme pour x dans Z
0
.
En effet, la proposition 8.8 d’Egorov appliqu´ee ` a une fonction f d’une partie
d´enombrable dense F de C
c
(X) permet de construire des parties compactes Z
ϕ
de mesure µ(Z
ϕ
) ≥ 1 − ε
ϕ
telles que la limite (3) soit uniforme pour x ∈ Z
ϕ
. Il
suffit de prendre Z
0
= ∩
ϕ∈F
Z
ϕ
o` u les ε
ϕ
sont choisis de sorte que
¸
ϕ∈F
ε
ϕ
≤ ε
0
.
En effet, l’ensemble des fonctions ϕ ∈ C
c
(X) pour lesquelles la limite (3) soit
uniforme pour x ∈ Z
0
est un ferm´e de C
c
(X).
Distinguons deux cas.
1
er
cas : Il existe une suite g
n
∈ G, g
n
∈ B, g
n
→e telle que g
n
Z
0
∩ Z
0
= ∅.
Notons g
n
=

α
n
β
n
γ
n
δ
n

et choisissons x
n
∈ Z
0
tel que g
n
x
n
∈ Z
0
. On peut
supposer γ
n
> 0. Un calcul matriciel avec λ
n
= γ
−1
n
→∞ donne
u
λ
n
s
g
n
= D
n
(s)u
λ
n
d
n
(s)
o` u
D
n
(s) =

α
n
+ s 0
γ
n
1
α
n
+s

−→D(s) :=

1 + s 0
0
1
1+s

et
d
n
(s) =
β
n
γ
n
+ δ
n
s
α
n
+ s
−→d(s) :=
s
1 + s
.
Soient ϕ ∈ C
c
(X) et a =

1 + s
0
0
0
1
1+s
0

∈ A. On va montrer que

X
ϕdµ =

X
ϕ
a
dµ, ce qui prouvera que µ est A-invariante. On peut supposer que |ϕ|

≤ 1.
Par d´efinition de Z
0
, on a, pour tout s
1
< s
2
, la convergence uniforme pour
x ∈ Z
0
,
lim
λ→∞
1
s
2
−s
1

s
2
s
1
ϕ(u
λs
x)ds =

X
ϕdµ.
97
En effet, par simple soustraction pond´er´ee de moyennes sur [0, s
2
] et [0, s
1
], on
peut se ramener `a de telles moyennes sur des portions d’orbites. En particulier,
pour tout s
1
< s
2
,
lim
n→∞
1
s
2
−s
1

s
2
s
1
ϕ(u
λ
n
s
g
n
x
n
)ds =

X
ϕdµ. (4)
De la mˆeme fa¸con, pour σ
1
< σ
2
, qu’on prend ´egal ` a σ
1
= d(s
1
) et σ
2
= d(s
2
), on
a
lim
n→∞
1
σ
2
−σ
1

σ
2
σ
1
ϕ
a
(u
λ
n
σ
x
n
)dσ =

X
ϕ
a
dµ. (5)
Expliquons tout d’abord dans quel ordre on choisit les param`etres. Soit ε > 0,
on peut choisir s
1
< s
2
suffisamment proche de s
0
pour que, pour s ∈ [s
1
, s
2
], on
ait

D(s)
−ϕ
a
|

≤ ε (6)
et

1
d
t
(s)
σ
2
−σ
1
s
2
−s
1
−1

≤ ε. (7)
On choisit alors n
0
tel que, pour tout n ≥ n
0
et s ∈ [s
1
, s
2
], on ait

D
n
(s)
−ϕ
D(s)
|

≤ ε, (8)
[s
i
−d
−1
n

i
)[ ≤ ε(s
2
−s
1
) (9)
pour i = 1, 2 et

σ
2
−σ
1
s
2
−s
1

1
d
t
n
(s)

1
d
t
(s)

≤ ε. (10)
On a alors, pour n ≥ n
0
1
s
2
−s
1

s
2
s
1
ϕ(u
λ
n
s
g
n
x
n
)ds −

s
2
s
1
ϕ
a
(u
λ
n
d
n
(s)
x
n
)ds

≤ 2ε
d’apr`es (6) et (8)
1
s
2
−s
1

s
2
s
1
ϕ
a
(u
λ
n
d
n
(s)
x
n
)ds −

σ
2
σ
1
ϕ
a
(u
λ
n
σ
x
n
)
1
[d
t
n
(s)[

≤ 2ε
d’apr`es (9), o` u σ = d
n
(s)

1
s
2
−s
1

σ
2
σ
1
ϕ
a
(u
λ
n
σ
x
n
)
1
[d
t
n
(s)[
dσ −
1
s
2
−s
1

s
2
s
1
ϕ
a
(u
λ
n
σ
x
n
)dσ

≤ 2ε
d’apr`es (7) et (10).
98
Ces trois majorations avec (4) et (5) donnent

X
ϕdµ −

X
ϕ
a

≤ 6ε.
Comme ε est arbitraire, on a

X
ϕdµ =

X
ϕ
a
dµ.
2
`eme
cas : Il n’y a pas de suite g
n
∈ G, g
n
∈ B, g
n
→e avec g
n
Z
0
∩ Z
0
= ∅.
Montrons tout d’abord que µ est port´ee par une B-orbite. Pour cela, notons D
un voisinage de e dans G tel que les ´el´ements g ∈ D, g ∈ B v´erifient gZ
0
∩Z
0
= ∅.
Il existe un point x = gΓ ∈ Z
0
tel que µ(Dx∩Z
0
) > 0. Cette intersection Dx∩Z
0
est incluse dans l’orbite Bx. Donc µ(Bx) > 0 et par ergodicit´e, µ(Bx) = 1.
Le groupe ∆ := B ∩ gΓg
−1
est un sous-groupe discret de B et µ est une
probabilit´e U-invariante sur B/∆. Il est facile de d´ecrire tous les sous-groupes
discrets de B. A conjugaison pr`es, on a soit ∆ ⊂ A ou ∆ ⊂ U. Dans les deux cas,
toutes les orbites de U dans B/∆ sont ferm´ees. Comme µ est ergodique, µ est
port´ee par une U-orbite (cf. proposition 8.3). Ce qui termine la d´emonstration
du lemme 12.2.
D´emonstration du lemme 12.3 Remarquons que µ est B-invariante et U-
ergodique. On en d´eduit que µ est A-ergodique. En effet, un ´el´ement ϕ ∈ L
2
(X, µ)
qui est A-invariant est forc´ement U-invariant `a cause du lemme 6.6 de Mautner
et de l’´egalit´e lim
t→0
a
t
u
s
a
−1
t
= e.
Pour x ∈ X et ϕ ∈ C
c
(X), on note
¯ ϕ(x) = liminf
t→∞
1
t

t
0
ϕ(a
e
sx) ds et Y = ¦x ∈ X [ ¯ ϕ(x) =

X
ϕdµ¦.
D’apr`es le th´eor`eme 8.6 de Birkhoff, on a µ(Y
c
) = 0. Soit λ une mesure G-
invariante sur G/Γ. Montrons que λ(Y
c
) = 0.
Remarquons que, par uniforme continuit´e de ϕ, pour tout u

s
∈ U

lim
t→∞
(ϕ(a
e
t u

s
x) −ϕ(a
e
t x)) = lim
t→∞
(ϕ(u

e
−2t
s
a
e
t x) −ϕ(a
e
t x)) = 0.
Ce calcul traduit le fait que les deux g´eod´esiques issues de x et de u

s
x se rap-
prochent exponentiellement vite vers +∞. On dit qu’elles sont sur la mˆeme feuille
stable du flot g´eod´esique. On en d´eduit que ¯ ϕ(u

s
x) = ¯ ϕ(x) puis que U

Y = Y .
Comme la probabilit´e µ est B-invariante, et que µ(Y ) = 1, le th´eor`eme de
Fubini prouve que, pour µ-presque tout x ∈ X, l’ensemble B
x
= ¦b ∈ B [ bx ∈ Y ¦
est de compl´ementaire n´egligeable pour la mesure de Lebesgue de B.
La multiplication induit un diff´eomorphisme entre
U

B et ¦g =

α β
γ δ

∈ G [ α = 0¦.
On d´eduit des trois paragraphes pr´ec´edents que λ(Y
c
) = 0. C’est-` a-dire que
¯ ϕ(x) =

X
ϕdµ pour λ-presque tout x.
99
Montrons que λ(X) < ∞. Pour cela choisissons ϕ ≥ 0 tel que

X
ϕdµ = 1. Le
lemme de Fatou donne alors
λ(X) =

X
¯ ϕdλ ≤ liminf
t→∞

X

1
t

t
0
ϕ(a
e
sx) ds

dλ =

X
ϕdλ < ∞.
On peut donc supposer que λ(X) = 1. Pour conclure, on peut soit reprendre le
calcul pr´ec´edent en rempla¸cant le lemme de Fatou par le th´eor`eme de convergence
domin´ee et les limites inf´erieures par des limites. On peut aussi remarquer que λ
est A-invariante et A-ergodique par le corollaire 6.4 de Howe-Moore. Donc, par
le th´eor`eme 8.6 de Birkhoff, on a ¯ ϕ(x) =

X
ϕdλ pour λ-presque tout x. On en
d´eduit que

X
ϕdλ =

X
ϕdµ. C’est-`a-dire µ = λ.
12.2 Petites valeurs des formes quadratiques
Dans cette section, on donne une d´emonstration directe et rapide
de la conjecture d’Oppenheim qui fut la premi`ere des motivations des
travaux de Ratner.
Proposition 12.4 (Margulis) Soit Q une forme quadratique sur R
3
de signature
(1, 2) qui n’est pas multiple d’une forme quadratique enti`ere. Alors Q prend des
valeurs arbitrairement petites sur Z
3
0.
Cette proposition sera une cons´equence de la version faible suivante du th´eo-
r`eme topologique de Ratner.
Proposition 12.5 Soient G = SL(3, R), Γ = SL(3, Z), X = G/Γ et H =
SO(2, 1). Alors toute H-orbite born´ee Hx ⊂ X est compacte.
Remarques - Born´ee signifie relativement compacte.
- La d´emonstration directe que nous suivons ne se g´en´eralise pas pour d´ecrire
les adh´erences de toutes les H-orbites. Son d´efaut principal est de ne faire appel a
aucun argument de th´eorie ergodique. En contre-partie, elle est assez ´el´ementaire.
La strat´egie de la preuve de la proposition 12.5 consiste ` a partir d’un ferm´e U-
invariant minimal K de l’adh´erence de l’orbite F = Hx. Par un argument proche
de l’argument de d´erive de la section 12.1, on montre que K est A-invariant puis
que l’image de K par un sous-semigroupe de G reste dans F, semigroupe trop
gros pour avoir des orbites born´ees dans X.
D´emonstration de l’implication Proposition 12.5 =⇒ Proposition 12.4
L’argument qui suit, dˆ u ` a Raghunathan, n’est pas propre `a la dimension 3.
Supposons par l’absurde qu’il existe ε > 0 tel que Q(Z
3
0) ne rencontre pas
] − ε, ε[. Notons x
0
le r´eseau Z
3
, H = SO(Q, R) et Hx
0
la H-orbite de x
0
dans
X. La proposition 12.5 est bien sˆ ur aussi valable pour ce groupe H. Le crit`ere 1.8
100
de Mahler prouve que cette orbite est relativement compacte. En effet, l’ouvert
Ω := Q
−1
(] − ε, ε[) est un voisinage de 0 qui ne rencontre qu’en 0 les r´eseaux
Λ ∈ Hx
0
. La proposition 12.5 prouve alors que cette orbite Hx
0
est compacte.
Montrons que cela implique que Q est multiple d’une forme quadratique enti`ere.
Ecrivons Q(x) =
¸
a
i,j
x
i
x
j
avec a
i,j
= a
j,i
.
On peut supposer que l’un des coefficients a
i,j
est ´egal `a 1. Montrons que Q est
alors `a coefficients dans Q. Soit σ ∈ Gal(C[Q) et Q
σ
(x) =
¸
a
σ
i,j
x
i
x
j
. Il suffit de
montrer que Q = Q
σ
. Remarquons que le groupe Γ ∩H est un r´eseau cocompact
de H. Par le th´eor`eme 7.1 de densit´e de Borel, il est donc Zariski dense dans H.
Comme on a l’inclusion Γ ∩ H ⊂ SO(Q
σ
, C), on en d´eduit que H ⊂ SO(Q
σ
, C).
Soit µ ∈ C tel que Q
σ
−µQ est d´eg´en´er´ee. Le groupe H pr´eserve donc le noyau de
Q
σ
−µQ. L’irr´eductibilit´e de l’action de H sur C
3
prouve que Q
σ
= Q. Forc´ement
µ = 1 et Q
σ
= Q.
Le lemme suivant est bas´e sur l’aspect polynomial des flots unipotents. Cet
argument nous est maintenant bien familier. Il jouera le rˆole de l’argument de
d´erive de la section 12.1.
Lemme 12.6 Soient E un R-espace vectoriel de dimension d < ∞, U = ¦u
s
[
s ∈ R¦ un groupe `a un param`etre de transformations unipotentes et F l’ensemble
des points fixes de U dans E. Soient D une partie de E F et v
0
un point de
D ∩ F. Alors UD ∩ F contient un chemin polynomial non constant passant par
v
0
.
D´emonstration du lemme 12.6 Soient v
n
une suite de points de D tels que
lim
n→∞
v
n
= v
n
. On choisit λ
n
> 0 tels que
sup
s∈[−1,1]
|u
λ
n
s
v
n
−v
n
| = 1.
C’est possible car l’application s →u
s
v
n
est polynomiale non constante de degr´e
born´e par d.
En outre, on a lim
n→∞
λ
n
= ∞car v
0
est un point fixe de U. La suite des polynˆomes
ϕ
n
: s →u
λ
n
s
v
n
est born´ee sur [−1, 1]. Quitte ` a extraire, on peut supposer qu’elle
converge uniform´ement sur [−1, 1] vers un polynˆome ϕ. Ce polynˆ ome est non
constant car ϕ(0) = 0 et
sup
s∈[−1,1]
|ϕ(s) −v
0
| = 1.
Par construction, on a ϕ(R) ⊂ UD. En outre, ϕ prend ses valeurs dans F car,
pour u
t
∈ U, on a
u
t
ϕ(s) = lim
n→∞
u
t
ϕ
n
(s) = lim
n→∞
ϕ
n
(s + t/λ
n
) = ϕ(s)
101
par uniforme convergence.
Certains sous-groupes ` a un param`etre de G vont jouer un rˆole important dans la
d´emonstration. Fixons les notations : on peut supposer que la forme quadratique
s’´ecrit, pour v = (x
1
, x
2
, x
3
) ∈ R
3
, Q(v) = x
2
2
−2x
1
x
3
. Le groupe H contient alors
les deux groupes
A = ¦a
t
:=

¸
e
t
0 0
0 1 0
0 0 e
−t

[ t ∈ R¦ , U = ¦u
s
:=

¸
1 s s
2
/2
0 1 s
0 0 1

[ s ∈ R¦.
Notons V = ¦v
s
:=

¸
1 0 s
0 1 0
0 0 1

[ s ∈ R¦. Le groupe V n’est pas inclus dans
H. On v´erifie facilement que U et V commutent, que A normalise U et V , que
les produits B := AU et W := UV sont des groupes et que le normalisateur de
U est le groupe N
G
(U) = AUV . On notera V
±
:= ¦v
s
∈ V [ ±s > 0¦.
Les gros sous-semi groupes dont nous parlions ci-dessus sont AUV
±
.
Lemme 12.7 Pour tout y ∈ X, les orbites AUV
+
y et AUV

y ne sont pas
born´ees dans X.
D´emonstration Le point y ∈ X est un r´eseau de R
3
. On peut choisir un point
p = (x
1
, x
2
, x
3
) dans ce r´eseau tel que x
3
= 0 et ±(x
2
2
−2x
1
x
3
) > 0. On pose
g
t
= a
t
u
−x
2
/x
3
v
(x
2
2
−2x
1
x
3
)/2x
2
3
∈ AUV
±
et on calcule g
t
p = (0, 0, e
−t
x
3
) → 0 quand t → ∞. Le crit`ere 1.8 de Mahler
prouve donc que AUV
±
y n’est pas relativement compact.
D´emonstration de la proposition 12.5 Rappelons que, par un argument ` a la
Zorn, tout compact U-invariant non vide de X contient un compact U-invariant
minimal. Soit F = Hx. On suppose par l’absurde que F = Hx.
On va appliquer deux fois le lemme 12.6. La premi`ere fois via le lemme 12.8.
La deuxi`eme fois via le lemme 12.9.
Soit K un compact U-invariant minimal de F. D’apr`es le lemme 12.8, ce com-
pact K est aussi AU-invariant. D’apr`es le lemme 12.8, on a soit AUV
+
(K) ⊂ F
ou AUV

(K) ⊂ F. Mais, d’apr`es le lemme 12.7, les ensembles AUV
±
(K) ne sont
pas born´es dans X. Contradiction.
Dans cette d´emonstration, on a utilis´e les deux lemmes suivants.
Lemme 12.8 Soit K un compact U-invariant minimal du compact F = Hx.
Alors K est AU-invariant.
D´emonstration du lemme 12.8 Remarquons tout d’abord que K n’est pas
une U-orbite compacte. Sinon, on pourrait trouver y dans K et s = 0 tels que
102
u
s
y = y. On aurait alors u
e
−t
s
a
t
y = a
t
y. Or les points de X ont un stabilisateur
discret dans G et lim
t→∞
u
e
−t
s
= e. Donc a
t
y tend vers l’infini, ce qui contredit la
compacit´e de F.
L’ensemble M := ¦g ∈ G [ gK ∩ K = ∅¦ v´erifie les trois propri´et´es suivantes.
M est U-invariant `a droite et `a gauche.
M est ferm´e.
Il existe une suite g
n
dans M U convergeant vers e.
Pour v´erifier cette derni`ere affirmation, on choisit un point y ∈ K. Par minimalit´e
de K, il existe une suite u
s
n
∈ U avec s
n
→∞ telle que u
s
n
y →y. On ´ecrit alors
y = g
n
u
s
n
y avec g
n
→e.
Pour pouvoir appliquer le lemme 12.6 ` a l’image D de la suite g
n
dans G/U,
remarquons qu’il existe une repr´esentation lin´eaire de G dans un espace vectoriel
E de dimension finie et un point v
0
∈ E tel que Gv
0
· G/U. Cela r´esulte du
r´esultat g´en´eral 4.7 de Chevalley. On peut ˆetre aussi tr`es explicite en prenant
E = ¦ formes quadratiques sur R
3
¦ R
3
et v
0
= (Q, (1, 0, 0)).
L’ensemble des points fixes de U dans G/U est ´egal ` a N
G
(U)/U · AV .
Le lemme 12.6 et les trois propri´et´es ci-dessus prouvent que l’on est dans l’un
des deux cas suivants :
1
er
cas La suite g
n
est dans AV U pour n 0.
2
`eme
cas Il existe une application continue non constante ϕ : R →AV ∩ M.
Notons L la composante connexe du groupe engendr´e par M ∩ AV . Dans les
deux cas, c’est un sous-groupe de Lie connexe non trivial de AV . Montrons que K
est L-invariant. Pour tout g dans dans M ∩AV , le ferm´e gK ∩Kest U-invariant
et non vide et, par minimalit´e de K, on a gK = K. Donc K est bien L-invariant.
Pour conclure, il reste ` a montrer que L contient A.
Supposons par l’absurde que ce ne soit pas vrai. On est alors dans l’un des
deux cas suivants : L = V ou v
s
0
Av
−s
0
avec s
0
= 0. Dans ce deuxi`eme cas, on a
V
+
⊂ AL, car a
t
v
s
0
a
−t
v
−s
0
= v
(e
2t
−1)s
0
. Dans les deux cas, pour tout y ∈ K, on
a donc AUV
+
y ⊂ HLy ⊂ F. Ce qui contredit le lemme 12.7.
Lemme 12.9 On suppose que l’orbite Hx n’est pas compacte. Soit K un compact
AU-invariant minimal du compact F = Hx.
Alors on a soit AUV
+
(K) ⊂ F ou AUV

(K) ⊂ F.
D´emonstration du lemme 12.9 Le raisonnement est tr`es proche de celui du
lemme 12.8.
Comme H/AU est compact et que l’orbite Hx n’est pas compacte, K ne peut
pas ˆetre inclus dans Hx.
L’ensemble M := ¦g ∈ G [ gF ∩ K = ∅¦ v´erifie alors les trois propri´et´es
suivantes.
M est H-invariant `a droite et AU-invariant `a gauche.
M est ferm´e.
Il existe une suite g
n
dans M H convergeant vers e.
103
Pour v´erifier cette derni`ere affirmation, on prend un point y ∈ K hors de l’orbite
Hx. On a alors une suite h
n
∈ H telle que h
n
x → y. On ´ecrit alors y = g
n
h
n
x
avec g
n
→e.
Pour appliquer le lemme 12.6 ` a l’image D de la suite g
n
dans G/H, on remarque
de nouveau ` a l’aide du corollaire 4.7 qu’il existe une repr´esentation lin´eaire de
G dans un espace vectoriel E de dimension finie et un point v
0
∈ E tel que
Gv
0
· G/H. On peut ˆetre aussi explicite que dans le lemme 12.8 en prenant
E = ¦ formes quadratiques sur R
3
¦ et v
0
= Q.
Comme tous les sous-groupes unipotents de H sont conjugu´es, l’ensemble des
points fixes de U dans G/H est ´egal ` a N
G
(U)H/H = V H/H · V .
Le lemme 12.6 et les trois propri´et´es ci-dessus prouvent que l’on est dans l’un
des deux cas suivants :
1
er
cas La suite g
n
est dans V H pour n 0.
2
`eme
cas Il existe une application continue non constante ϕ : R →V ∩ M.
Dans les deux cas, on a M ∩ V = e. Comme M est invariant par conjugaison
par A, on en d´eduit que V
+
⊂ M ou V

⊂ M.
Supposons par exemple V

⊂ M. Pour tout v ∈ V

, l’intersection vF ∩K est
non vide et U-invariante. Le lemme 12.8 assure que K est un ferm´e U-invariant
minimal. On a donc K ⊂ vF, puis V
+
K ⊂ F et enfin AUV
+
K ⊂ AU F = F.
104
13 R´ecurrence des groupes unipotents
Le but de ce chapitre est de montrer des propri´et´es de r´ecurrence
pour les flots unipotents sur les espaces homog`enes X de volume fini.
A cause du th´eor`eme d’arithm´eticit´e de Margulis le cas crucial est celui o` u
X = SL(d, R)/SL(d, Z) est l’espace des r´eseaux de volume 1 dans R
d
. Ce que
nous supposerons dans ce chapitre.
Notons alors t →u
t
= e
tN
un groupe `a un param`etre d’´el´ements unipotents. Le
but de cette section est le th´eor`eme suivant. On note [I[ la mesure de Lebesgue
d’une partie I de R.
Th´eor`eme 13.1 (Dani, Margulis) Soit X = SL(d, R)/SL(d, Z). Pour tout
ε > 0, x ∈ X, il existe un compact K = K
x
⊂ X tel que, pour tout T ≥ 0
[¦t ∈ [0, T] [ u
t
x ∈ K¦[ ≥ (1 −ε)T.
On notera l’analogie entre ce th´eor`eme 13.1 et le lemme 1.4 de r´ecurrence pour
les marches al´eatoires qui s’applique `a X.
En outre, le compact K
x
peut ˆetre choisi uniforme pour tout x dans un compact
K
t
de X. Ce th´eor`eme affirme donc que les orbites du flot u
t
sur X passent la
plus grande partie de leur temps ` a distance finie.
13.1 Le cas d = 2
Dans le cas d = 2, la d´emonstration du th´eor`eme 13.1 est tr`es
courte :
On note b
ε
la boule de rayon ε dans R
2
. Le crit`ere de Mahler assure que
l’ensemble des r´eseaux ∆ ∈ X qui ne rencontrent b
ε
qu’en 0 est un compact.
Choisissons une boule b
α
avec α ≤ 1 qui ne rencontre le r´eseau de d´epart ∆ = x
qu’en 0.
Pour chaque paire ±v ∈ ∆ de vecteurs primitifs, le vecteurs u
t
v se d´eplace
` a vitesse constante. Donc dans l’intervalle de temps I
v
qu’il a pass´e dans b
α
la
proportion de temps qu’il a pass´e dans une boule beaucoup plus petite b
αε/2
est
au plus ε.
Ces intervalles I
v
sont disjoints car, comme u
t
∆ est de volume 1, la boule b
α
contient ` a chaque instant t au plus une paire de points ±u
t
v avec v ∈ ∆ primitif.
Donc la proportion du temps entre 0 et T pendant lequel u
t
∆ avait un point dans
cette boule b
αε/2
est au plus ε. C’est ce que l’on voulait.
13.2 Pr´eliminaires sur les r´eseaux
Nous aurons besoin d’une version plus maniable du crit`ere 1.8 de
compacit´e de Mahler
105
Munissons R
d
d’une norme euclidienne |.|. Rappelons que, pour ∆ r´eseau de
R
d
, un sous-espace ∆-rationnel L ⊂ R
d
est un sous-espace tel que ∆∩ L est un
r´eseau de L. On note alors
d

(L) := covol
L
(∆∩ L).
Par exemple d

:= d

(R
d
) est le covolume de ∆. Notons S(∆) l’ensemble des
sous-espaces ∆-rationnels. On appelle drapeau ∆-rationnel de longueur , un en-
semble F de sous-espaces ∆-rationnels non triviaux qui est totalement ordonn´e.
On pourrait noter un tel drapeau F sous la forme
F : 0 L
i
1
L
i

R
d
.
Nous ne le ferons pas car, au cours de la d´emonstration, les sous-espaces L
i
n’ap-
paraitrons pas forc´ement dans l’ordre croissant. On note alors S
F
= S
F
(∆) l’en-
semble des sous-espaces ∆-rationnels propres L tels que F ∪ ¦L¦ est un drapeau
∆-rationnel de longueur k + 1. Autrement dit,
S
F
:= ¦L ∈ S , 0 L R
d
[ pour tout M ∈ F, on a M L ou L M ¦.
On dit que le drapeau F est complet si = d −1. Dans ce cas S
F
(∆) est vide.
Proposition 13.2 (Mahler) Soient X = SL(d, R)/SL(d, Z) et Y ⊂ X. Les
assertions suivantes sont ´equivalentes.
(i) Y est relativement compact.
(ii) Il existe a > 0 tel que, pour tout ∆ ∈ Y , inf
v∈∆−0
|v| ≥ a.
(iii) Il existe b > 0 tel que, pour tout ∆ ∈ Y , inf
L∈S(∆)
d

(L) ≥ b.
(iv) Il existe β > α > 0 tels que, pour tout ∆ ∈ Y , il existe un drapeau ∆-rationnel
complet F tels que α ≤ d

(L) ≤ β, pour tout L ∈ F.
Rappelons tout d’abord quelques affirmations que nous avons d´ej` a utilis´ees
dans la section 1.4. On note c
d
la constante c
d
= 2(1/v
d
)
1
d
o` u v
d
=
π
d
2
d
2
Γ(
d
2
)
est le
volume de la boule euclidienne dans R
d
. La valeur pr´ecise de cette constante ne
jouera pas de rˆole dans la d´emonstration. On remarque juste que c
d
≥ 1 et que
c
d
croˆıt avec d.
Lemme 13.3 a) Tout r´eseau ∆ ⊂ R
d
contient un vecteur v avec 0<|v| ≤ c
d
d
1
d

.
b) Pour tout C > 0, l’ensemble ¦L ∈ S(∆) [ d

(L) ≤ C¦ est fini.
c) L’application X →]0, ∞[; ∆ → min
L∈S(∆)
d

(L) est continue.
D´emonstration C’est le lemme 1.10 de Minkowski et le lemme 1.12.
Le lemme suivant permet de compl´eter les drapeaux ∆-rationnels incomplets
en des drapeaux dont on contrˆ ole les covolumes.
106
Lemme 13.4 Soient β ≥ 1, ∆ ∈ X et F un drapeau ∆-rationnel incomplet tel
que, pour tout L ∈ F, d

(L) ≤ β.
Alors il existe M ∈ S
F
(∆) tel que d

(M) ≤ c
d
β.
D´emonstration Comme le drapeau F est incomplet, on peut trouver deux sous-
espaces ∆-rationnels successifs L
1
⊂ L
2
de dimension d
1
< d
2
avec δ := d
2
−d
1
≥ 2
avec L
i
∈ F ∪¦0, R
d
¦. En appliquant le lemme 13.3.a de Minkowski `a l’image de
L
2
∩ ∆ dans L
2
/L
1
, on peut trouver un vecteur v ∈ L
2
L
1
dont l’image v dans
L
2
/L
1
est de norme au plus
|v| ≤ c
d
(d

(L
2
)/d

(L
1
))
1
δ
.
Le sous-espace M = L
1
⊕Rv est alors dans S
F
(∆) et v´erifie
d

(M) ≤ |v|d

(L
1
) ≤ c
d
d

(L
1
)
1−
1
δ
d

(L
2
)
1
δ
≤ c
d
β.
C’est la majoration cherch´ee.
D´emonstration de la proposition 13.2 (i) ⇐⇒(ii) C’est la proposition 1.8.
(ii) =⇒ (iii) Cela r´esulte du lemme 13.3.c. En effet, une fonction continue
strictement positive sur un compact est minor´ee par une constante strictement
positive.
(iii) =⇒ (iv) La minoration est claire. Pour la majoration, on peut prendre
pour constante β = (c
d
)
d
. Pour cela, on construit le drapeau F par r´ecurrence ` a
l’aide du lemme 13.4. On perd au plus un facteur c
d
` a chaque ´etape.
(iv) =⇒(ii) On peut supposer 0 < α < 1 < β. Soit v un vecteur non nul dans
un des r´eseaux ∆ ∈ Y . Notons L
1
L
d−1
le drapeau ∆-rationnel complet
F donn´e par la condition (iv) et posons L
0
= 0 et L
d
= R
d
. Soit i l’entier tel que
v ∈ L
i
−L
i−1
. On a alors
|v| ≥ d(L
i
)/d(L
i−1
) ≥ α/β.
C’est la minoration cherch´ee.
13.3 Autres lemmes pr´eliminaires
Voici deux lemmes ´el´ementaires dont nous aurons besoin, l’un sur
les polynˆomes en une variable, l’autre sur les recouvrements d’un in-
tervalle.
Notons P
m
l’espace des polynˆomes sur R de degr´e au plus m. Le lemme suivant
exprime qu’un polynˆome ne peut pas ˆetre petit trop longtemps et ce avec un
contrˆ ole uniforme qui ne d´epend que du degr´e du polynˆome.
107
Lemme 13.5 Pour tout ε > 0, il existe M
ε
> 0 tel que pour tout intervalle I et
tout polynˆome p ∈ P
m
, on a

¦t ∈ I [ [p(t)[ ≤
1
M
ε
sup
I
[p[ ¦

≤ ε[I[.
D´emonstration Sinon il existerait m ≥ 0, ε > 0 et une suite de polynˆ omes p
n

P
m
telle que sup
[0,1]
[p
n
[ = 1 et

¦t ∈ [0, 1] [ [p
n
(t)[ ≤
1
n
¦

≤ ε. Cet ensemble
est une r´eunion d’au plus 2m intervalles. Par compacit´e de la sph`ere unit´e de P
m
,
cette suite p
n
une valeur d’adh´erence p

∈ P
m
. Ce polynˆome p

est non nul,
mais l’ensemble de ses racines est de mesure au moins ε. Contradiction.
Lemme 13.6 Soit I = ∪
α∈A
I
α
un recouvrement d’un intervalle compact I ⊂ R
par des intervalles I
α
ouverts dans I. Alors, il existe un sous-recouvrement I =

α∈A
I
α
de chevauchement au plus 2.
Le chevauchement est le nombre maximum d’intervalles I
α
dont l’intersection est
d’int´erieur non vide.
D´emonstration On extrait tout d’abord un recouvrement fini. On prend alors
un intervalle I
α
0
= [x
0
, y
0
[ contenant l’extr´emit´e gauche de I avec y
0
maximum.
Puis un intervalle I
α
1
=]x
1
, y
1
[ contenant y
0
avec y
1
maximum. Et on continue.

Pour montrer le th´eor`eme 13.1 de r´ecurrence, on partira d’un point x = ∆ dans
un compact K
t
⊂ X, ce qui nous donne une constante b par le crit`ere (iii) de
Mahler. On veut contrˆ oler, pour L ∈ S(∆), le covolume dans L de u
t
(∆∩L). On
introduit donc le polynˆome sur R
p
L
: t →d
u
t

(u
t
L)
2
.
C’est un polynˆ ome de degr´e au plus 2d
2
car on a l’´egalit´e p
L
(t) = |u
t
e
1
∧ ∧u
t
e
i
|
o` u e
1
, . . . , e
i
est une base de ∆∩ L.
13.4 La r´ecurrence qui prouve la r´ecurrence
Pour d´ecrire le compact K dans lequel u
t
∆ passe plus de 1 − ε
de son temps, on va utiliser le crit`ere (iv) de Mahler. Il s’agira donc
de construire `a chaque instant t convenable un drapeau complet F de
sous-espaces ∆-rationnels L
i
dont on contrˆ olera les covolumes carr´es
p
L
i
(t).
On proc`edera par r´ecurrence, en ajoutant `a chaque ´etape, pour tout temps t un
nouveau sous-espace ` a un drapeau ∆-rationnel de longueur . Le nombre d’´etape
dans cette r´ecurrence est donc d −1. La proposition technique qui met en place
cette r´ecurrence est la suivante.
108
Proposition 13.7 Soit β > 1 > α > 0 et posons β
t
= c
d
β et α
t
= α. Soient I
un intervalle compact et F un drapeau ∆-rationnel incomplet tel que
(a) inf
L∈S
F
(sup
t∈I
p
L
(t)) ≥ α
(b) sup
t∈I
( inf
L∈S
F
p
L
(t)) < β
(c) sup
t∈I
p
L
(t) < β ∀L ∈ F.
Il existe un recouvrement fini de chevauchement au plus 2 de I par des intervalles
compacts I
t
tels que sur chaque I
t
, il existe un drapeau F
t
= F∪¦L
0
¦ avec L
0
∈ S
F
tel que
(a
t
) inf
L∈S
F

(sup
t∈I

p
L
(t)) ≥ α
t
(b
t
) sup
t∈I

( inf
L∈S
F

p
L
(t)) < β
t
(c
t
) sup
t∈I

p
L
(t) < β
t
∀L ∈ F
t
(d
t
) sup
t∈I

p
L
0
(t) ≥ α
t
.
Remarque On ne peut pas en g´en´eral r´eduire la taille des intervalles I
t
de sorte
qu’ils soient d’int´erieur disjoint sans perdre les conditions (a
t
) et (d
t
).
D´emonstration de la proposition 13.7 Pour tout t
0
∈ I, on doit fournir un
intervalle I
t
contenant t
0
dans son int´erieur et un sous-espace L
0
∈ S
F
v´erifiant
(a
t
), (b
t
), (c
t
) et (d
t
). On extraira alors le sous-recouvrement de chevauchement
au plus 2 `a l’aide du lemme 13.6. On distingue deux cas.
1
er
cas : Il existe L ∈ S
F
tel que p
L
(t
0
) ≤ α.
D’apr`es le lemme 13.3, il n’y a qu’un nombre fini de tels sous-espace ∆ ra-
tionnels L. On choisit donc un intervalle compact I
t
de longueur maximal dont
l’int´erieur contient t
0
, pour lequel il existe L
0
∈ S
F
tel que sup
t∈I

p
L
0
(t) ≤ α.
Par la condition (a) et la maximalit´e de I
t
, cette in´egalit´e est une ´egalit´e
sup
t∈I

p
L
0
(t) = α et on a, sup
t∈I

p
L
(t) ≥ α, pour tout L ∈ S
F
.
La condition (a
t
) est donc v´erifi´ee d`es que α
t
≤ α.
Par la condition (c) et le lemme 13.4, la condition (b
t
) est vraie d`es que β
t
≥ c
2
d
β.
Par (c) et l’´egalit´e sup
t∈I

p
L
0
(t) = α, la condition (c
t
) est vraie d`es que β
t
≥ β.
La mˆeme ´egalit´e prouve que la condition (d
t
) est valide d`es que α
t
≤ α.
2
`eme
cas : Pour tout L ∈ S
F
, on a p
L
(t
0
) ≥ α.
On choisit, grˆ ace ` a la condition (b) un sous-espace L
0
∈ S
F
tel que p
L
0
(t
0
) < β.
On choisit alors un intervalle compact I
t
dont l’int´erieur contient t
0
sur lequel on
a encore sup
t∈I

p
L
0
(t) < β
Dans ce cas, la condition (a
t
) est automatique d`es que α
t
≤ α.
109
Par la condition (c) et le lemme 13.4, la condition (b
t
) est vraie d`es que β
t
≥ c
2
d
β.
Par (c) et le choix ci-dessus, la condition (c
t
) est aussi v´erifi´ee d`es que β
t
≥ β.
La minoration p
L
0
(t
0
) ≥ α garantit la condition (d
t
) d`es que α
t
≤ α.
D´emonstration du th´eor`eme 13.1 On applique d−1 fois la proposition 13.7.
On commence la premi`ere ´etape avec I = [0, T] et F = ∅. Pour valider la
condition (a), il suffit de la comprendre en t = 0. D’apr`es la condition (iii) du
crit`ere 13.2 de Mahler, la condition (a) est vraie avec une constante α = α
0
= b
2
uniforme pour ∆ dans un compact K
t
de X. Pour valider la condition (b), on
applique le lemme 13.3 de Minkowski : chaque r´eseau u
t
∆ contient un vecteur
non nul de norme au plus c
d
. La condition (b) est donc satisfaite avec β = β
0
= c
2
d
.
Noter qu’` a ce stade, la condition (c) est vide.
On construit ensuite successivement d−1 couples de r´eels α
k
= α
k−1
et β
k
=
(c
d
)
2
β
k−1
ainsi que d−1 recouvrement de [0, T] par des intervalles compacts. Le
premier ayant un chevauchement au plus 2, le deuxi`eme un chevauchement au
plus 4,... , le dernier un chevauchement au plus 2
d−1
. Le chevauchement total est
donc au plus 2
d
. On a donc α
d−1
= b
2
et β
d−1
= (c
d
)
2d
. Posons ε
0
= 2
−d
ε. Par
le lemme 13.5 et les conditions (d
t
), dans chacun des intervalles I
t
, on a pour le
sous-espace L
0
correspondant
[¦t ∈ I
t
[ p
L
0
(t) <
α
d−1
M
ε
0
¦[ ≤ ε
0
[I
t
[.
On retire de chacun de ces intervalles I
t
les points t tels que p
L
0
(t) <
α
d−1
M
ε
0
.
L’ensemble J de tous ces points t est de mesure au plus
2
d
ε
0
T = εT.
Les r´eseaux u
t
∆ correspondant aux temps t hors de J contiennent un drapeau
complet de sous-espaces ∆-rationnel dont les covolumes carr´es sont dans l’inter-
valle [
α
d−1
M
ε
0
, β
d−1
]. On applique la condition (iv) du crit`ere 13.2 de Mahler avec les
constantes α = b/M
1
2
ε
0
et β = (c
d
)
d
. Ces r´eseaux u
t
∆ pour t ∈ J sont donc dans
un compact K qui ne d´epend que de ε et de b.
110
R´ef´erences
[1] N.A’Campo, M.Burger - R´eseaux arithm´etiques et commensurateur d’apr`es G. A.
Margulis, Invent. Math. 116 (1994) p.1-25.
[2] R.Alperin - An elementary account of Selberg’s lemma, Ens. Math.33 (1987) p.269-
273.
[3] Y.Benoist - Pavages du plan, in Journ´ees X-UPS 2001,Editions de l’Ecole Polytech-
nique.
[4] Y.Benoist - Five lectures on lattices in semisimple Lie groups, Un cours `a l’´ecole
d’´et´e de Grenoble 2004***.
[5] A.Borel - Compact Clifford-Klein forms of symmetric spaces, Topology 2 (1963)
p.111-122.
[6] A.Borel - Introduction aux groupes arithm´etiques, Hermann (1969).
[7] A.Borel - Linear algebraic groups, GTM 126 Springer (1991).
[8] A.Borel, G.Harder - Existence of discrete cocompact subgroups of reductive
groups over local fields, J. Reine Angw. Math. 298 (1978) p.53-64.
[9] N.Bourbaki - Groupes et alg`ebres de Lie, Paris (1975).
[10] A.Eskin, G.Margulis - Recurrence properties of random walks on finite volume
homogeneous spaces, ***
[11] M.Gromov, P.Pansu - Rigidity of lattices : an introduction, Lect. Notes in Math.
1504 (1991) p.39-137.
[12] P.de la Harpe, A.Valette - La propri´et´e T de Kazhdan, Asterisque (1989).
[13] S.Helgason - Differential geometry, Lie groups and symmetric spaces, Acad. Press
(1978).
[14] S.Helgason - Groups and geometric analysis, Acad. Press (1984).
[15] R.Howe, E.Tan - Non-abelian harmonic analysis, Universitext Springer (1992).
[16] G.Margulis - Discrete subgroups of semisimple Lie groups, Springer Ergebnisse
(1991).
[17] G.Margulis - Random walks on the spaces of lattices and the finiteness of covolumes
of arithmetic subgroups, in Algebraic groups and arithmetic, Tata Inst. Fund. Res.
Stud. Math. 17 (2004) p.409-425.
[18] B.Maskit- Kleinian groups, Springer GTM (1988).
[19] G.Mostow - Quasiconformal mappings in n-space and the rigidity of hyperbolic
space forms, Publ. Math. IHES 34 (1967) p.53-107.
[20] V.Platonov, A.Rapinchuk - Algebraic groups and number theory, Ac. Press
(1994).
[21] M.Raghunathan - Discrete subgroups of Lie groups, Springer(1972).
[22] P.Samuel - Theorie alg´ebrique des nombres, Hermann Paris (1971).
[23] A.Selberg - On discontinuous groups in higher dimensional symmetric spaces, in
Contribution to function theory, Tata (1960) p.147-164.
[24] J-P. Serre - Cohomologie des groupes discrets, Ann. of Math. Studies 70,p.77-169.
[25] J.Tits - Sur la classification des groupes alg´ebriques semi-simples, C. R. Acad. Sci.
249 (1959) p.1438-1440.
[26] J.Tits - Structure des groupes de Weyl, S´eminaire Bourbaki 288 (1965).
[27] E.Vinberg, V.Gorbatsevich, O.Shvartsman - Discrete subgroups of Lie groups,
in Encyclopedia of Math. Sc. 21 Springer (2000).
[28] A.Weil - Algebras with involutions and the classical groups, J. Indian Math. Soc.
24 (1961) p.589-623.
[29] A.Weil - Basic number theory, Springer (1973).
[30] D.Witte-Morris - Introduction to arithmetic groups, preprint (2003).
[31] R.Zimmer - Ergodic theory and semisimple groups, Birkhauser (1984).
Univ. Paris-Sud & CNRS yves.benoist@math.u-psud.fr www.dma.ens.fr/˜benoist
111

Table des mati`res e
1 Construction de r´seaux e 1.1 Un exemple : le groupe orthogonal 1.2 R´currence des marches al´atoires e e 1.3 Marches al´atoires lin´aires . . . . e e 1.4 L’espace des r´seaux . . . . . . . . e 1.5 Construction d’une fonction f . . . 1.6 Application au groupe orthogonal . 2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4 . 4 . 5 . 7 . 9 . 11 . 13 14 14 16 19 20 22 25 25 27 28 29 30 32 32 34 34 36 37 39 40 42 42 44 45 45 46 47 48 49 49 51 52 54 54 56 57

Alg`bres de Lie semisimples e 2.1 Alg`bres de Lie nilpotentes et r´solubles e e 2.2 Alg`bres de Lie semisimples . . . . . . . e 2.3 Repr´sentations de sl2 . . . . . . . . . . e 2.4 El´ments nilpotents et sl2 -triplets . . . e 2.5 Syst`mes de racines . . . . . . . . . . . e

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

3 Groupes de Lie semisimples 3.1 Groupes de Lie compacts . 3.2 Involutions de Cartan . . . 3.3 Sous-alg`bres de Cartan . . e 3.4 Sous-espaces de Cartan . . 3.5 D´composition de Cartan et e 3.6 Sous-groupes paraboliques . 3.7 Exemples . . . . . . . . . .

. . . . . . . . . . . . . . . . . . . . Iwasawa . . . . . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

4 Groupes alg´briques e 4.1 Vari´t´s alg´briques . . . . . . . . ee e 4.2 Groupes alg´briques . . . . . . . . e 4.3 Actions alg´briques . . . . . . . . . e 4.4 El´ments semisimples et unipotents e 4.5 Groupes alg´briques (suite) . . . . e

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

5 Groupes arithm´tiques e 5.1 Groupes arithm´tiques . . . . . . . . . . . . . e 5.2 Strat´gie de d´monstration du th´or`me 5.4.a e e e e 5.3 Le plongement dans l’espace des r´seaux . . . e 5.4 Le cas Q-simple et Q-isotrope . . . . . . . . . 5.5 Le cas Q-simple et Q-anisotrope . . . . . . . 5.6 Le cas r´ductif . . . . . . . . . . . . . . . . . e 5.7 Conclusion . . . . . . . . . . . . . . . . . . . 6 M´lange et comptage e 6.1 Repr´sentations unitaires et m´lange e e 6.2 Vecteurs invariants pour SL(2) . . . . 6.3 D´croissance des coefficients . . . . . . e 6.4 Comptage des points d’un r´seau . . . e 6.5 Equidistribution des grandes sph`res . e 6.6 Comptage faible . . . . . . . . . . . . 6.7 Estimation de volumes . . . . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

2

7 R´seaux e 7.1 Zariski densit´ des r´seaux e e 7.2 R´seaux irr´ductibles . . . e e 7.3 Groupes moyennables . . 7.4 L’application aux bords .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

59 59 61 63 64 66 66 66 68 69 73 73 75 77 78 81 81 83 84 86 89 90 90 91 91 92 93

8 Th´orie ergodique e 8.1 Probabilit´s ergodiques . . . . . e 8.2 Dynamique des transformations 8.3 Th´or`me ergodique . . . . . . e e 8.4 Martingales . . . . . . . . . . .

. . . . . . . ergodiques . . . . . . . . . . . . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

9 Mesures stationnaires 9.1 Existence d’une mesure limite . . . . 9.2 Contraction et proximalit´ . . . . . . e 9.3 Proximalit´ . . . . . . . . . . . . . . e 9.4 Mesures stationnaires K-invariantes 10 Superrigidit´ e 10.1 Superrigidit´ . . . . . . . . . . . e 10.2 Valeurs propres de mˆme module e 10.3 Construction de Θ . . . . . . . . 10.4 L’espace E des translat´s de Θ . e 10.5 Prolongement de π ` G . . . . . a 11 Arithm´ticit´ e e 11.1 Groupes arithm´tiques . . . . . e 11.2 Les r´seaux sont de type fini . . e 11.3 Alg´bricit´ des valeurs propres e e 11.4 Corps de d´finition de G . . . . e 11.5 Restriction de K ` Q . . . . . a

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

12 Mesures invariantes 96 12.1 Mesures U -invariantes sur SL(2,R)/Γ . . . . . . . . . . . . . . . . . . . . . . . . . 96 12.2 Petites valeurs des formes quadratiques . . . . . . . . . . . . . . . . . . . . . . . 100 13 R´currence des groupes unipotents e 13.1 Le cas d = 2 . . . . . . . . . . . . . . . 13.2 Pr´liminaires sur les r´seaux . . . . . . e e 13.3 Autres lemmes pr´liminaires . . . . . . e 13.4 La r´currence qui prouve la r´currence e e 105 105 105 107 108

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

3

La projection p : g → gΓ de G dans X := G/Γ est alors un e revˆtement. c On y trouvera d´j` la mixture th´orie des nombres + th´orie erea e e godique + th´orie des groupes propre ` ce cours. Rappelons que G admet une mesure (bor´lienne) positive λG invariante par toutes les translations ` droite x → xg. les motivations de cet ´nonc´ sont arithm´tiques : il s’agit d’une e e e impressionante g´n´ralisation non commutative du th´or`me des unit´s de Dirie e e e e chlet. e a que cette mesure est unique a multiplication pr`s par un scalaire positif et qu’elle ` e est appel´e la mesure de Haar a droite de G.1 Construction de r´seaux e Ce premier chapitre donne un bon aper¸u de l’ensemble du cours. ceux pour lesquels le quotient X est compact. c 4 . u Enfin. Pour cela. e e Soit G un groupe localement compact. nous e e e d aurons besoin de diverses propri´t´s de l’espace des r´seaux de R dont le crit`re ee e e de compacit´ de Mahler. D’autre part la m´thode due a Margulis que nous allons utiliser pour le d´e e montrer est issue de la th´orie ergodique : nous allons utiliser des propri´t´s de e ee r´currence de marches al´atoires ainsi que des propri´t´s de croissance exponene e ee tielle des marches al´atoires lin´aires. Pour faire fonctionner cette m´thode. e Commen¸ons par une simple remarque.e. e Ceci nous permettra de d´montrer le th´or`me de Borel Harish-Chandra pour e e e les groupes orthogonaux (il est dˆ a Siegel dans ce cas). On note alors λX la mesure sur X qui co¨ e ıncide localement via p avec la mesure de Haar λG . e ` Rappelons qu’un sous-groupe Γ de G est dit discret si la topologie de G induite sur Γ est discr`te. nous y e a montrerons. nous devons d´finir ce qu’est un r´seau. e D’une part. i. e e e e 1. le th´or`me de Borel et e e Harish-Chandra qui affirme que “les groupes arithm´tiques sont des e r´seaux”. sont des r´seaux. pour les groupes orthogonaux.3). D´finition 1. e e Autrement dit. Par exemple les sous-groupes discrets cocompacts. c’est grˆce a la compr´hension de la structure des groupes alg´briques a ` e e que nous d´montrerons par les mˆme m´thodes dans le chapitre 5 une version e e e g´n´rale du th´or`me de Borel et Harish-Chandra. En effet.1 Un sous-groupe discret Γ de G est un r´seau si λX (X) < ∞. un sous-groupe discret Γ de G est un r´seau si il existe une e partie mesurable F de G telle que λG (F ) < ∞ et F Γ = G.1 Un exemple : le groupe orthogonal Nous allons d´tailler dans cette section notre objectif principal e (proposition 1.

on a e e e donc ∆(g) = 1.La m´thode traditionnelle pour montrer cette proposition consiste a construire e ` explicitement un domaine F dit “domaine de Siegel” et a calculer λG (F ).Mais cet ´nonc´ est faux pour d = 2 lorsque la forme quadratique Q est e e isotrope sur Q i. m). [6]. c. e e e e e . Proposition 1. Ce volume est pr´serv´ par g. Z). la mesure de Haar ` droite est aussi invariante a gauche.Nous verrons que cette proposition est un cas particulier d’un ´nonc´ bien plus g´n´ral valable pour tous les “Q-groupes sans Q-caract`re”. .Cet ´nonc´ est encore vrai pour d = 2 lorsque la forme quadratique Q est e e anisotrope sur Q i. e e ee e e Soient G un groupe localement compact. X un espace localement compact et (g.2 Un groupe localement compact G qui contient un r´seau Γ est unie modulaire Autrement dit. ∞[.f.j xi xj une forme quadratique non d´g´n´r´e ` coefficients entiers. . x) → gx une action continue de G sur X. nous allons suivre une m´thode e e e e plus rapide mais qui ne donne pas d’estimation sur le domaine fondamental. le volume total λX (X) est fini. . GR le groupe des transformations e e e e a orthogonales ` coefficients r´els et GZ le sous-groupe discret des transformations a e orthogonales ` coefficients entiers : a GR = O(Q. l’´quation e e e de Pell-Fermat n2 − pm2 = 1 a une infinit´ de solutions enti`res (n. Donc la translation a gauche ` ` sur X par un ´l´ment g de G multiplie aussi la mesure λX par ∆(g). On suppose HC Il existe une fonction propre f : X → [0. e e . une probabilit´ µ sur G et des e constantes a < 1. Rappelons qu’une application continue est propre si l’image inverse de tout compact est compacte. R) | Q ◦ g = Q} et GZ = GR ∩ GL(d. Comme Γ ee est un r´seau. pour tout entier p ≥ 2 non carr´. R) = {g ∈ GL(d. lorsque l’´quation Q(x) = 0 n’a pas de solutions enti`res e e non nulles. . e Remarques . Ce e crit`re est bas´ sur des propri´t´s de r´currence de marches al´atoires. La a ` mesure λX est donc aussi invariante par translation ` gauche. 1. Comme annonc´.2 R´currence des marches al´atoires e e Nous allons commencer par donner dans le corollaire ci-dessous un crit`re qui assure que le volume d’une mesure invariante est fini. xd ) = ai.e. lorsque l’´quation Q(x) = 0 n’a pas de solutions enti`res non e e nulles. a D´monstration La translation ` gauche x → gx par un ´l´ment g de G multiplie e a ee la mesure de Haar a droite λG par un scalaire ∆(g). Q(x1 .Lemme 1. Cela r´sulte de ce que. C’est la ` “th´orie de la r´duction”. Alors GZ est un r´seau dans GR .e. . b > 0 telles que Aµ (f ) ≤ af + b 5 .3 (Siegel) Soient d ≥ 3.

u e e Aµ (f )(x) = G f (gx)dµ(g) Cet op´rateur Aµ est donc l’op´rateur de convolution par la probabilit´ µ image e e e ˇ de µ par l’inversion g → g −1 . u e En outre. a partir d’un moment.o` Aµ est l’op´rateur de moyennisation donn´ par. pour tout x dans X. on peut prendre pour compact K = {y ∈ X | f (y) ≤ 2B } ε de sort que 1K c ≤ ε f. une fonction propre f sur X . toute mesure de Radon G-invariante ν sur e X est finie.5 Sous l’hypoth`se HC. an An (1K c )(x) ≤ µ d`s que n est suffisamment grand pour que f (x) ≤ e Rappelons qu’une mesure de Radon sur X est une mesure bor´lienne finie sur e les compacts. avec des d´placements donn´s par la loi µ. pour tout n ≥ 1 e e e An (f ) ≤ an f + b(1 + · · · + an−1 ) ≤ an f + B µ avec B = b . Remarque Cette hypoth`se HC signifie que la moyennisation par µ contracte. il existe un compact K ⊂ X e tel que. on a. An (1K )(x) ≥ 1 − ε . D´monstration D’apr`s l’hypoth`se HC. En e e effet. il existe M = Mx tel que pour tout n ≥ M . ` e Lemme 1. la probabilit´ d’ˆtre e e ` e e hors de K est au plus ε. Corollaire 1. Ce lemme est un lemme de r´currence pour les marches al´atoires sur X. l’entier Mx est uniforme sur les compacts de X.4 Sous l’hypoth`se HC. pour tout ε > 0. il affirme que si on marche au hasard sur X en partant du point x. pour tout point x ∈ X. 2B On a alors les majorations ε n εan ε Aµ (f )(x) ≤ f (x) + ≤ ε 2B 2B 2 B . µ o` 1K est la fonction caract´ristique de K. 6 . e a une constante pr`s. 1−a Comme f est propre.

nous construisons des fonctions ϕi sur lequelles la moyennisation Aµ est une contraction. associ´e ` un produit scalaire euclidien . L’hypoth`se HC assure aussi que X est une r´union d´nombrable de compacts. e e D´monstration Notons Iv le membre de gauche. a 1 D´monstration D’apr`s le lemme 1.4 avec ε = 2 . e e e a e d Munissons R d’une norme . Le lemme suivant est un cas particulier ´l´mentaire d’un th´or`me de Furstenee e e berg sur la croissance exponentielle des marches al´atoires matricielles. et e a notons aussi . pour toute fonction positive e e f sur X. c’est-`-dire le fait que la mesure ν sur X est µ-stationnaire. R).6 On suppose µ sym´trique. g −1 v )dµ(g) log( v )dµ(g) G = 2 7 . 1. e + Notons G = GL(d. Soit µ une probabilit´ sur G. Cette propri´t´ de contracee tion est li´e a une propri´t´ de croissance exponentielle pour la marche e ` ee al´atoire lin´aire associ´e ` une probabilit´ µ. e ˇ Lemme 1. On calcule en appliquant tout e d’abord l’´galit´ µ = µ puis l’in´galit´ de Cauchy-Schwarz et enfin le fait que les e e ˇ e e matrices g sont µ-presque surement sym´triques : e 2 G log( gv )dµ(g) = G log( gv g −1 v )dµ(g) ≥ G log( gv. supp(µ) ⊂ S + et e d Alors pour tout v ∈ R non nul. R) le groupe lin´aire et S ⊂ G l’ensemble des matrices e sym´triques d´finies positives. . e e e on a donc ν(X) = supL ν(L) ≤ 2ν(K). il existe un compact K ⊂ X e e tel que pour tout compact L ⊂ X et n suffisamment grand on a ν(L) ≤ 2 X An (1K )(x)dν(x) = 2 µ X 1K (x)dν(x) = 2ν(K). Aµ (f )dν(x) = G G f dν(x).3 Marches al´atoires lin´aires e e Dans cette partie. On dit que e µ est sym´trique si µ = µ. la norme euclidienne induite sur l’espace des matrices M (d.. Notons supp(µ) le e e e support de µ et Γµ le plus petit sous-groupe ferm´ de G le contenant. log( G G | log g |dµ(g) < ∞.Remarque Nous allons uniquement utiliser l’´galit´. gv )dµ(g) ≥ 0 v avec ´galit´ ssi Γµ stabilise la droite Rv.

supp(µ) ⊂ S + . ∞[ n’est pas propre. g −d )) | g ∈ supp(µ)}. . pour tout v ∈ Wi . Aµ (ϕδ )(v) i = ϕδ (v) i e−δ log( G gv v ) dµ(g) gv log( ) v 2 gv )dµ(g) + δ 2 ≤ 1−δ log( v G 2 2 ≤ 1 − 2Cδ + M δ ≤ 1 − Cδ. Corollaire 1.La mesure G-invariante sur Wi est de masse totale infinie. supp(µ) compact et e d que l’action de Γµ dans R est irr´ductible. comme l’hypoth`se d’irv r´ducibilit´ assure que l’action de Γµ sur la grassmanienne Gd n’a pas de points e e i fixes. Alors il existe δ > 0 et a0 < 1 tels e que. 1]. Le e e i d groupe G = GL(d. R) agit naturellement sur Λ R par l’´galit´ gv = gv1 ∧· · ·∧gvi . On remarque que pour tout r´el t ∈ [−1. on a la majoration e et ≤ 1 + t + t2 . il existe une constante C > 0 telle que Iv ≥ 2C.7 On suppose µ sym´trique. On calcule alors. la norme euclidienne naturelle sur les puissances ext´rieures Λi Rd : c’est l’unique norme euclidienne pour laquelle le e produit ext´rieur v = v1 ∧ · · · ∧ vi d’une famille orthonorm´e est de norme 1. Il suffit de prendre a0 = 1 − Cδ.5 car la fonction ϕδ : Wi → [0. On note ϕi : Wi →]0. v est alors aussi u e vecteur propre de g et la droite engendr´e par v est stabilis´e par Γµ . Comme la grassmanienne est compacte et que l’application v → Iv est continue. cela ne contredit pas le corollaire 1. ∞[ la fonction sur Wi donn´e par e ϕi (v) = v −1 pour tout v ∈ Wi .6 assure que pour tout v dans Wi . i i Remarques . e e i d Il laisse invariant le cˆne Wi ⊂ Λ R des vecteurs d´composables non nuls o e Wi := {v = v1 ∧ · · · ∧ vi = 0 | vj ∈ Rd }..L’hypoth`se d’irr´ducibilit´ signifie que Rd ne contient pas de souse e e espace vectoriel Γµ invariant. on a Iv > 0. l’int´grale e e e e Iv = G log( gv )dµ(g) est non n´gative : Iv ≥ 0. on a Aµ (ϕδ ) ≤ a0 ϕδ . on note encore . avec δ = min(1/M. e e Comme les matrices g sont µ-presque sˆrement d´finies positives. C/M 2 ).. pour tout 0 < i < d. Par Cauchy-Schwarz.Ceci donne la majoration Iv ≥ 0. e e Pour 1 ≤ i ≤ d. Mieux. o e Le quotient Gd de ce cˆne Wi par les homoth´ties positives est la Grassmanienne i des i-plans de Rd . 8 dµ(g) G . le cas d’´galit´ dans cette e e in´galit´ n’est atteint que si v est vecteur propre de g 2 pour µ-presque tout g. i D´monstration Le lemme 1. Posons M = sup{log(max( g d .

fd de ∆. . On note X l’ensemble e des r´seaux de covolume 1. Minkowski) Tout r´seau ∆ de Rd contient un vecteur e 1 non nul de norme v ≤ 2(d∆ /vd ) d . Un sous-espace vectoriel L de Rd est dit ∆-rationnel e si ∆ ∩ L est un r´seau de L. D’autre part. Le vecteur non nul vε = u1 − u2 est dans ∆ et de norme au plus 2R + 2ε. . nous utiliserons l’in´galit´ e e e e d’Hermite-Minkowski si utile en th´orie des nombres. Autrement dit les parties relativement compactes sont caract´ris´es par une e e majoration du covolume et de l’inverse de la systole α1 (∆) = ( inf v )−1 .. Z). nous aurons besoin d’un crit`re simple e et utile de compacit´ dans l’espace des r´seaux. v∈∆−0 Corollaire 1.8 (Mahler) Une partie Y ⊂ X de l’espace des r´seaux de Rd e est relativement compacte ssi il existe α. . u2 de norme au plus R + ε qui ont mˆme image e dans Td . . Soit ∆ un r´seau de Rd . il existe deux vecteurs u1 . ∞[ est continue et propre. la maximalit´ de R assure que.4 L’espace des r´seaux e Pour construire la fonction f v´rifiant HC. Cette quantit´ ne d´pend pas du choix de la base. fn. .. . Nous r´utiliserons plus tard ces propri´t´s e ee pour d´montrer les th´or`mes de Ratner. 9 . .d de ∆n qui converge vers une base f1 . . . e e Le r´el d∆ = covol(∆) := d∆ (Rd ) est le covolume de ∆. .1. e e e Rappelons qu’un r´seau de Rd est un sous-groupe discret de Rd qui est ab´lien e e d libre de rang d. .10 Notons p la projection de Rd sur le quotient e d T = Rd /∆ et introduisons le plus grand rayon R tel que cette projection p est injective sur la boule ouverte de rayon R. une e suite ∆n de r´seaux de Rd converge vers un r´seau ∆ de Rd ssi il existe une base e e fn. vi est une base de ∆∩L. D´monstration du lemme 1. La comparaison des volumes donne la majoration vd Rd ≤ d∆ . Le voici. Notons vd le volume de la e boule euclidienne de rayon 1 dans Rd : v1 = 2. Le groupe discret ∆ contient donc un vecteur v non nul de norme au plus 2R.10 (Hermite. e Pour construire notre fonction propre f .9 La fonction α1 : X → [0. e e Proposition 1. nous aurons besoin de e quelques propri´t´s de l’espace des r´seaux de Rd . . pour tout ∆ ∈ Y d∆ ≤ α et v∈∆−0 inf v ≥ β. L’ensemble X des r´seaux de R est une vari´t´ comme espace e ee quotient X := GL(d. Lemme 1. pour tout e ε > 0. Par d´finition de la topologie quotient.1 . Pour montrer le crit`re de compacit´ de Mahler. β > 0 tels que.. R)/SL± (d. que nous d´monee e e trons dans cette section. On note alors d(L) = d∆ (L) := v1 ∧ · · · ∧ vi o` e u v1 . v2 = π.

Remarque Par convention. . v . v1 . . . . . . . . . uk . wm par 10 . C’est e clair pour d = 1. ces deux fonctions sont donc born´es sur Y . . e e ` Pour montrer la majoration. . on a pos´ d(0) = 1 pour le sous-espace nul. La suite ∆n sous-converge e e alors vers un r´seau de Rd . w1 . v1 . . . En outre e e par l’in´galit´ d’Hermite-Minkowski et la majoration du covolume de ∆n .D´monstration de la proposition 1. Alors les sous-espaces L + M et L ∩ M sont ∆-rationnels et on a la majoration d(L ∩ M )d(L + M ) ≤ d(L)d(M ). Notre assertion r´sulte e alors de la majoration u u∧v∧w ≤ u∧v u∧w . . . . on peut aussi supposer que vn = v∞ . v de ∆ ∩ L et en une base e u1 . Choisissons un vecteur non nul vn ∈ ∆n de norme minimum. montrons que toute partie Y de X sur laquelle ces deux e fonctions sont born´es est relativement compacte. ces e r´seaux ∆n sous-convergent vers un r´seau de (Rv∞ )⊥ . R). . . ` l’aide du proc´d´ d’orthoe e e c a e e gonalisation de Gramm-Schmidt. v . wm est alors libre et engendre un sous-groupe d’indice fini de ∆ ∩ (L + M ). . Les images des e e ∆n de ∆n dans l’orthogonal (Rv∞ )⊥ sont √ r´seaux dont le volume est major´ 3 e e par α et dont la systole est minor´ par 2 β. uk . Cette derni`re in´galit´ se montre en rempla¸ant. . Ceci prouve que L∩M est ∆-rationnel. w1 . e D´monstration On peut supposer que ∆ = Zd . . . . e Dans la partie suivante nous aurons aussi besoin des lemmes techniques suivants. . . . . . . . On remarque aussi qu’un sous-espace est ∆-rationnel ssi il est d´fini par des e ´quations lin´aires a coefficients rationnels. Quitte a modifier chacun ` des ∆n par une petite similitude. v1 . e R´ciproquement. uk . on part d’une base u1 . Comme α1 (∆n ) est major´. La famille u1 . On veut donc montrer que toute e suite ∆n dans Y sous-converge dans X . Si Y est une partie relativement compacte. . wm de ∆ ∩ M . les e e normes vn sont major´es. uk de ∆ ∩ L ∩ M que l’on compl`te en une base u1 .8 et du corollaire 1. la famille u1 . . On raisonne par r´currence sur d. Par hypoth`se de r´currence. w1 . . . . . M deux sous-espaces ∆-rationnels e de Rd . . . e ` Ceci prouve que L + M est ∆-rationnel. . Donc les fonctions ∆ → d∆ et ∆ → α1 (∆) sont des fonctions continues sur X . . . . les normes vn sont positivement minor´es. v = v1 ∧ · · · ∧ v et w = w1 ∧ · · · ∧ wm .9 Les fonctions e g → |det(g)| et g → α1 (gZd ) sont continues sur GL(d. . . uk .11 Soient ∆ un r´seau de Rd et L. La suite vn sous-converge donc vers un vecteur non e nul v∞ ∈ Rd que l’on peut supposer de norme v∞ = 1. On note u = u1 ∧ · · · ∧ uk . Lemme 1. On remarque alors qu’un souse espace est ∆-rationnel ssi il est engendr´ par des vecteurs a coefficients rationnels.

∞[ . j>0 1 o` le max est pris sur les entiers j avec 0 < j ≤ min(i. e e Choisissons a0 < 1 et δ > 0 comme dans le corollaire 1. . . . a) Pour tout C > 0. ∆ → min d∆ (L) sont continues. r−1 d∆ (L) ≤ dg∆ (gL) ≤ rd∆ (L). Pour tout r´seau ∆ de R . R) telle que HI µ est sym´trique.une famille u1 . La fonction α1 co¨ ıncide avec celle introduite dans la partie pr´c´dente. .12 Notons Si (∆) := {sous-espaces ∆-rationnels de dimension i}. . 11 . . g −1 d ) | g ∈ supp(µ)} de sorte que. e αi (∆) := sup{d∆ (L)−1 | L ⊂ Rd ∆-rationnel. uk . . nous allons e e maintenant construire explicitement la fonction f v´rifiant HC dont e nous avons besoin pour montrer la proposition 1. On a vu que αi est continue. .7 et posons cette fois. . . . . . .13 Soit µ une probabilit´ sur GL(d. on a δ δ δ δ Aµ (αi ) ≤ a0 αi + b0 max(αi−j αi+j ) 2 . . . . . . Si e1 . v1 . u δ D´monstration On veut majorer. R) qui v´rifie [HI]. wm sont orthogonales et telle que u = u1 ∧ · · · ∧ uk . d − i). pour tout 0 < i < d. d´finissons une fonction αi de l’espace des r´seaux X dans e e d [0. . Lemme 1. . v1 . u ∧ v = u ∧ v1 ∧ · · · ∧ v et u ∧ w = u ∧ w1 ∧ · · · ∧ wm . L∈Si (∆) D´monstration a) On peut supposer ∆ = Zd . . pour µ-presque tout g. l’int´grale Aµ (αi )(∆). . v et u1 . uk . On a donc une probabilit´ µ sur e G = GL(d. v . e b) Cela r´sulte des in´galit´s g −1 −d d∆ (L) ≤ dg∆ (gL) ≤ g d d∆ (L). . l’´l´ment e1 ∧ · · · ∧ ei est dans Λi (Z) et de norme born´e par C.3. . wm telle que les deux familles u1 . dim L = i}. . pour ∆ ∈ X. on ait. Lemme 1. . Pour 0 < i ≤ d. e e e 1. ei est une base de e L ∩ Zd . on a #{L ∈ Si (∆) | d∆ (L) ≤ C} < ∞. w1 . e Le lemme suivant permettra de construire la fonction f que nous cherchons. .5 Construction d’une fonction f En combinant les r´sultats des deux derni`res sections. ∞[. r = sup{max( g d . On notera α0 = 1. . uk . et l’action e du groupe Γµ dans Rd est irr´ductible. b) Les application X →]0. . Cela ne ee e laisse qu’un nombre fini de possibilit´s. le support de µ est compact et inclus dans S + . . e e Reprenons les notation du corollaire 1. w1 . pour tout sous-espace ∆-rationnel L ⊂ Rd . . Alors il existe e e a0 < 1 et b0 > 0 tels que.7.

par le corollaire 1. 12 . ∞[ f := 0<i<d δ ε(d−i)i αi v´rifie [HC] : elle est propre et il existe a < 1.14 Soit µ une probabilit´ sur SL(d. 1er cas : Ψi contient un seul ´l´ment Li . Aµ f ≤ a0 0<i<d 1 βi + b0 maxj>0 εj (βi−j βi+j ) 2 ≤ (a0 + b0 εd) 2 1 0<i<d βi + b0 εd et donc Aµ f ≤ af + b avec a = a0 + b0 εd et b = b0 εd. et donc. avec b0 = r2δ . Alors. t ≥ 0. pour tout s.11. et µ-presque tout g. e e e δ Notons βi = ε(d−i)i αi de sorte que f = 0<i<d βi . Alors il e e existe δ > 0 et ε > 0 tels que la fonction f : X → [0. δ δ δ Aµ (αi )(∆) ≤ b0 max(αi−j (∆)αi+j (∆)) 2 . On obtient alors avec a0 < 1 et b0 > 0. Appliquons le lemme 1. et la majoration 2(st) 2 ≤ s + t. e Voici enfin la construction de la fonction f cherch´e.7. grˆce au lemme 1. On a bien a < 1 si ε est choisi suffisamment petit. Notons j := dim(Li + Li ) − i. d∆ (L) ≤ r2 d∆ (Li )}. pour µ-presque tout g. R) qui v´rifie [HI]. b > 0. On ee a alors. dg∆ (gLi )δ d∆ (Li )δ 2 cas : Ψi contient un autre ´l´ment Li . tels que Aµ (f ) ≤ af + b. u δ Aµ (αi )(∆) = G `me e 1 1 δ dµ(g) ≤ a0 = a0 αi (∆). e D´monstration La propret´ de f r´sulte du corollaire 1. e Corollaire 1. l’´galit´ e e 2(d − i)i = (d − i − j)(i + j) + (d − i + j)(i − j) + 2j 2 .Choisissons un sous-espace ∆-rationnel Li ⊂ Rd de dimension i tel que d∆ (Li ) = αi (∆)−1 et introduisons l’ensemble (fini) Ψi := {L ⊂ Rd | ∆-rationnel. dim L = i.13. On va distinguer deux cas. pour tout sous-espace ∆ee rationnel L de dimension i. on a dg∆ (gL) ≥ dg∆ (gLi ) d’o`.9. j>0 1 1 1 1 On obtient la majoration annonc´e en combinant ces deux cas. a αi (g∆) ≤ rαi (∆) = rd∆ (Li )−1 ≤ r2 (d∆ (Li )d∆ (Li ))− 2 ≤ r2 (d∆ (Li ∩ Li )d∆ (Li + Li ))− 2 ≤ r2 (αi−j (∆)αi+j (∆)) 2 .

e La suite gn γn est donc convergente et l’injection i est propre. le groupe SL(d. Notons HR = SL± (d. q) la signature de Q. e 13 . e e e Q(x1 . Comme d ≥ 3. Nous reprendrons ces id´es plus en d´tail dans un cadre g´n´ral e e e e dans le chapitre 5 D´monstration de la proposition 1. On veut montrer que cette mesure ν est finie.3 Ce groupe GR est unimodulaire (parce e qu’il est engendr´ par des ´l´ments d’ordre 2 : les r´flexions hyperplanes). q]. alors la suite gn GZ converge dans GR /GZ . On e e e v´rifie facilement l’´galit´ k = [q. R) et HZ = SL± (d. La mesure ν peut donc ˆtre vue comme une mesure de Radon sur l’espace e HR /HZ des r´seaux de covolume 1.5 et 1. Pour cela.15 Pour d ≥ 2. Remarquons que cette condition ne e e fait plus intervenir le groupe GZ . . xp+q ) = x2 + · · · x2 − x2 − · · · − x2 . Z) est un r´seau e du groupe GR = O(Q. Le groupe Γµ est donc la composante connexe e e e du groupe GR . Z). on peut ´crire. Comme l’injection GZ \HZ → GR \HR est d’image discr`te (elle s’identifie a un ensemble de formes quadratiques a coeffie ` ` cients entiers).1. l’action de la composante connexe de GR sur Rd est irr´ductible. Z) est un r´seau de SL(d. Pour v´rifier cela. D = −t D}. il suffit de construire une probabilit´ µ e port´e par GR v´rifiant la condition [HI]. o` u k = {M ∈ g | M = −t M } = { q = {M ∈ g | M = t M } = { A 0 0 D 0 C B 0 | A = −t A . On peut choisir un produit scalaire euclidien de Rd et une base orthonorm´e de Rd tels que. on doit montrer que si une suite gn HZ avec gn ∈ GR converge e dans HR /HZ . pour n grand hn = γn h avec γn ∈ GZ et h ∈ HZ .14. | C = t B}. On remarque tout d’abord que l’injection i : GR /GZ → HR /HZ est propre. . e Cette probabilit´ µ v´rifie bien la condition [HI]. R). R). .6 Application au groupe orthogonal Terminons cette partie en montrant comment les id´es ci-dessus e s’organisent pour montrer que le groupe GZ = O(Q. Notons (p. On veut bien sˆr appliquer une combinaison e u des corollaires 1. e e La mˆme d´monstration permet de retrouver le e e Corollaire 1. On d´compose l’alg`bre de Lie p+q p+1 p 1 g de GR en une somme directe g = k ⊕ q. La e ee e mesure ν sur le quotient GR /GZ induite par la mesure de Haar est donc GR invariante. . On prend pour µ la mesure sur GR image par l’application exponentielle d’une probabilit´ sym´trique µ0 sur q dont le support est une boule centr´e en 0. Notons hn une suite de HZ telle que gn hn converge dans HR .

toute alg`bre de Lie s’identifie ` une e e a sous-alg`bre de Lie de End(V ).. . pour tout X. ad[X. par le th´or`me d’Ado.1 Alg`bres de Lie nilpotentes et r´solubles e e Commen¸ons par ´tudier les alg`bres de Lie r´solubles c’est-`-dire c e e e a celles obtenues par extensions successives d’alg`bres ab´liennes.L’alg`bre de Lie d’un groupe de Lie G. e e Une alg`bre de Lie g est ab´lienne si [g. z := {X ∈ g | [X. e e e . Z] + [Y. . gi /gi−1 est ab´lienne). L’application ad : g → Derg est un morphisme d’alg`bres e de Lie. Z]] = [[X. on note adX la d´rivation int´rieure donn´e par adX(Y ) = e e e [X.e. . Z]) = [DY.1 Une alg`bre de Lie est un k-espace vectoriel g muni d’une applie e cation bilin´aire antisym´trique ` valeurs dans g not´e [. pour tout i = 1. Rappelons que toute R-alg`bre de Lie g est l’alg`bre de Lie d’un e e e groupe de Lie connexe et simplement connexe.L’alg`bre de Lie End(k d ) avec le crochet [A. adY ]. . i. Z] + [Y. g] = 0}. L’ensemble Der(g) des d´rivations de g est une sous-alg`bre de Lie de End(g). pour tout Y ∈ g. h] ⊂ h. e 14 .] v´rifiant l’identit´ de e e a e e e Jacobi : pour tout X. g] = 0. le mot d´rivation est un raccourci pour l’expression “d´rivation e e d’un groupe a un param`tre d’automorphismes”. . ` e D´finition 2. Y ∈ g. DZ]. p. Y ]. pour tout Y. Ce morphisme est appel´ e le morphisme adjoint. Historiquement. . [X. B] = AB − BA. Y ] = [adX.2 Alg`bres de Lie semisimples e Ce chapitre est constitu´ de quelques rappels sur les alg`bres de e e Lie semisimples 2. Celui-ci est uniquement d´termin´ e e par g.2 Un id´al de g est un sous-espace h tel que [g. r´soe e e luble) si il existe un drapeau d’id´aux 0 = g0 ⊂ · · · ⊂ gi ⊂ · · · ⊂ gp = g tels que e [g. [Y. Z ∈ g. gi ] ⊂ gi−1 (resp. c’est-`-dire e a l’espace des champs de vecteurs invariants par translation ` gauche. Elle est nilpotente (resp. mˆme si nous n’utiliserons pas ce fait. Y ]. [X.Un endomorphisme D ∈ End(g) d’une alg`bre de Lie g est une d´rivation si e e D([Y. son noyau est le centre z de g. D´finition 2. Remarquons e que. e e Toutes nos alg`bres de Lie sont de dimension finie sur un corps k de caract´e e ristique nulle. est une Ra alg`bre de Lie. Z]] Exemples fondamentaux . Y. Z ∈ g. e e Pour tout X dans g.

mais e e . pour tout Y ∈ EndV . Comme [X.L’alg`bre de Lie ad ⊂ End(k d ) des matrices diae gonales est ab´lienne.3 (Engel) Soit V un k-espace vectoriel de dimension d et g ⊂ e e End(V ) une sous-alg`bre de Lie dont tout ´l´ment est nilpotent. Il suffit de prendre v dans le noyau de la restriction de X a W . pour X ∈ g. X] = 0. Th´or`me 2. Il suffit de trouver un e e e vecteur v dans V annul´ par g. car ab´lienne. Alors il existe e ee + une base de V telle que g ⊂ ud . En effet. e . on peut supposer qu’il existe un vecteur e 15 0 1 1 0 est r´soluble.L’alg`bre de Lie p+ = ad ⊕ u+ des matrices triangulaires sup´rieures est e d d r´soluble. ee D´monstration On proc`de par r´currence sur dim g. Alors e e + il existe une base de V telle que g ⊂ pd .L’alg`bre de Lie = u+ ⊂ End(k d ) des matrices strictement triangulaires sue d p´rieures est nilpotente. e On remarque tout d’abord que. Par maximalit´ de h. D´monstration En proc´dant par r´currence sur dim V . e Les deux th´or`mes suivants expliquent en quoi ces exemples sont fondamene e taux.4 (Lie) Soient K un corps alg´briquement clos. Soit h g une sous-alg`bre de Lie maximale. C’est un sous-espace g-invariant de V . e e . (adX)n (Y ) = r r n−r Y 0≤r≤n (−1) Cn X 0 1 1 0 est nilpotente. car ab´lienne. V un K-espace e e e vectoriel de dimension d et g ⊂ End(V ) une sous-alg`bre de Lie r´soluble. h ] ⊂ h. Soient h un id´al de codimension 1 de g et X ∈ g h. Posons alors W = {w ∈ V | hw = 0}. mais e Xr est nul pour n ≥ 2 dim V . h est une sous-alg`bre e de Lie de g. ` Th´or`me 2.Exemples fondamentaux . e En raisonnant par r´currence sur dim g. Remarque L’alg`bre de Lie g = R e elle ne stabilise pas de droite dans R2 . Remarque L’alg`bre de Lie g = C e ses ´l´ments ne sont pas nilpotents. il suffit de trouver dans e e e V une droite g-invariante. on a h = g et h est un id´al de codimension 1 e e dans g. L’hypoth`se de r´currence e e e appliqu´e ` l’action adjointe de h dans g/h prouve qu’il existe un sous-espace e a h = kX ⊕ h de g tel que [h. adX est nilpotent.

En effet. Une alg`bre de Lie g est simple si 0 et g sont les seuls id´aux de g et si e e dim g > 1. pour tout H ∈ h. e e ii) Le radical r est nul. e e .6 Une alg`bre de Lie g est semisimple si tout id´al ab´lien de g est e e e e nul.Le radical r existe.2 Alg`bres de Lie semisimples e Comme pour les alg`bres associatives de dimension finie. une alg`bre de Lie semi-simple g n’a qu’un nombre e fini d’id´aux simples : ce sont les gi . ce sont e les alg`bres de Lie semisimples qui sont a la fois les plus utiles. e iv) La forme de Killing Bg est non d´g´n´r´e. . Posons vi = X i v0 et notons W l’espace vectoriel engendr´ par tous les e vi . gi ] ⊂ a∩gi = 0 et donc a est dans le centre de g.7 Les quatre affirmations suivantes sont ´quivalentes e e e i) Tout id´al ab´lien de g est nul.Comme autre corollaire. si a est un id´al simple diff´rent de e e e tous les gi . e . iii) g est une somme directe d’id´aux simples g = ⊕i gi . une k-alg`bre de Lie g e est semisimple ssi son extension g ⊗k K est une K-alg`bre de Lie semisimple. les e ` plus subtiles et les mieux comprises. on a Hv0 = e λ(H)v0 .Le radical r est invariant par toute d´rivation D de g. D´finition 2. supposer k = C. pour tout t ∈ k. pour tout H ∈ h. e e e e Remarques . on a [a. En effet.Comme corollaire. Un tel vecteur existe car K est alg´briquement e clos. Il suffit alors de prendre pour v un vecteur propre de X dans W . la semisimplicit´ est invariante par changement e de corps de base : pour toute extension de corps k ⊂ K. vi−1 .5 La forme de Killing B = Bg d’une alg`bre de Lie g est la forme e e bilin´aire sym´trique sur g donn´e par B(X. D´finition 2. on peut pour e le v´rifier.v0 ∈ V et une forme lin´aire λ ∈ h∗ tels que. 2. Y ) = trg (adXadY ). e e Remarques . Contradiction. Mais r est invariant par tous les automorphismes de e g et en particulier par les automorphismes etD . En particulier. On v´rifie par r´currence sur i que Hvi − λ(H)vi est combinaison lin´aire e e e de v0 . e e e Le radical r de g est le plus grand id´al r´soluble de g. On en d´duit que λ([H. la somme de deux id´aux r´solubles e e de g est encore un id´al r´soluble. . On peut alors pr´ciser le calcul pr´c´dent par r´currence e e e e dim W sur i et obtenir Hvi = λ(H)vi . 16 . Voici d’autres d´finitions ´quivalentes pour les alg`bres de Lie semisimples e e e Th´or`me 2. X]) = 0. . . X]) = e 1 trW ([H. W est h-invariant. En effet.

B(gi . Le noyau de la forme de Killing B est un id´al de g. b]c) = 0 car la forme de Killing est nulle. [X. Son conjugu´ ϕ = ψs est aussi dans M . en notant λi les valeurs propres e de ψ. Par r´currence. Alors ψ est nilpotent. par suite.Lemme 2. pour a ∈ A et ϕ ∈ M . On a alors tr(ϕa) = tr([ϕ. le lemme ci-dessous prouve que tout ´l´ment de ee A est nilpotent. A] ⊂ A}. gj ) = 0 pour i = j. on peut supposer g simple. Y ∈ a. e a Il suffit de montrer que B est non nul. A un k-sous-espace vectoriel de EndV et M = {ϕ ∈ EndV | [ϕ. la forme de Killing de a e est non d´g´n´r´e. Z ∈ g. Soit ψ ∈ M tel que. On peut pour cela supposer que a = [b. Y ]. on a tr(ϕa) = 0. e e e Contradiction. Comme A est inclus dans M . Z]) = 0. 17 . D´monstration On peut supposer que k = C. Supposons par l’absurde que B est nul. On peut supposer ψs diagonale et ψn strictement triangulaire sup´rieure. g] et donc A = [A.7 e e e i) ⇒ ii) Si r = 0. Ecrivons ψ = ψs + ψn la d´e e composition de Jordan de ψ. On a alors. La partie semisimple ψs est donc aussi dans M . On a utilis´ le e Lemme 2. Soit a un id´al non nul minimal de g. g ne peut pas ˆtre ab´lienne. e e a) L’orthogonal a⊥ := {X ∈ g | B(X. le radical r´soluble de a est un e e e id´al de g. g) = 0. A]. donc par le th´or`me de Engel. c ∈ A. iv) ⇒ i) Soit a un id´al ab´lien de g. e e ii) ⇒ iii) Par r´currence sur dim g. A] ⊂ A}. car on a g = [g.8 e a) Cela r´sulte de l’´galit´ B([X. on pose D0 r = r. on a tr(ϕψ) = 0. Remarquons qu’on a g = [g. l’alg`bre de Lie A est nilpotente. D´monstration du lemme 2. Il e e e est soit nul. donc a = 0. Y. On a B(a. e b) La forme de Killing de a est la restriction de celle de g. e e D’apr`s les remarques suivant la d´finition 2. Montrons que. gj ] = 0 et. a) = 0} est un id´al de g. e e e b) Cela r´sulte de l’inclusion adXadY (g) ⊂ a. pour X. Dj r]. g] car. c] avec b. pour X. Il est donc nul. e D´monstration du th´or`me 2.8 Soit a un id´al d’une alg`bre de Lie g. C’est le point le plus d´licat de la e d´monstration. L’´galit´ ad(ψ) = ad(ψs ) + ad(ψn ) est aussi la d´compoe e e e sition de Jordan de ad(ψ). pour tout ϕ ∈ M . Z) + B(Y. On note A = adg et e M := {ϕ ∈ Endg | [ϕ. i |λi |2 = tr(ϕψ) = 0.9 Soit V = k d . Le dernier id´al d´riv´ e e e j non nul D r est un id´al ab´lien de g. Donc ψs = 0. comme dim g > 1. Dj+1 r = [Dj r. soit ´gal ` g. a⊥ est une somme directe d’id´aux e e e ee e e simples et g aussi.5. On en d´duit que g = a ⊕ a⊥ et que la forme de Killing de e e ee e l’id´al a⊥ est non d´g´n´r´e. Par l’implication iii) ⇒ iv). e e iii) ⇒ iv) Comme [gi .

r´elles). (adX − µ)p−r Z] 18 . Comme la forme de Killing de a est non d´g´n´r´e. cette proposition permet d’identifier g avec l’alg`bre de Lie Derg des d´rivations de g. Xn nilpotent et [Xs . e e Notons a⊥ l’orthogonal dans d de a pour la forme de Killing de d. a e On a encore une ´criture unique X = Xe + Xh + Xn avec Xe elliptique. gµ ] ⊂ gλ+µ . e e ee e e Il suffit pour conclure de montrer que tout ´l´ment D ∈ a⊥ est nul. Comme l’application adjointe ad : g → Derg est injective. Y. Tout ´l´ment X de g admet une d´composition unique X = Xs + Xn ee e avec Xs semisimple. Un ´l´ment X de g est dit elliptique (resp. D´finition 2. e e Existence Il suffit de voir que la partie semisimple (adX)s de adX est une d´rivation car la proposition 2. Voici une applicae tion utile de ce fait. on a l’´galit´ d = a ⊕ a⊥ . Un ´l´ment X est dit semisimple si adX ee est semisimple. D´monstration e Unicit´ La d´composition de Jordan de adX est ad(Xs ) + ad(Xn ). hyperboee lique) si adX est semisimple ` valeurs propres imaginaires pures (resp. Xn ] = 0. Z] = pour tout X. ad(DX) = [D.12 (d´composition de Jordan) Soit g une alg`bre de Lie e e semisimple. Z ∈ g.10 Toute d´rivation d’une alg`bre de Lie semisimple g est int´e e e rieure.Proposition 2. pour tout X ∈ g et de l’injectivit´ e e e de l’application adjointe. On peut supposer k = C. Ce qui r´sulte de la formule suivante que l’on e e d´montre par r´currence sur p : e e (adX − λ − µ)p [Y.10 prouvera qu’il existe Xs dans g tel que ad(Xs ) = e (adX)s . Il suffit donc ee de v´rifier que [gλ . Proposition 2. a 0≤r≤p r Cp [(adX − λ)r Y. adX] ∈ a ∩ a⊥ = 0. Xh e hyperbolique et Xn nilpotent qui commutent deux ` deux. C’est tr`s e e e utile car cela permet de voir toute alg`bre de Lie semisimple comme l’alg`bre de e e Lie d’un groupe alg´brique : le groupe de ses automorphismes. L’´l´ment (adX)s agit sur gλ par multiplication par λ. Remarque Lorsque k = R. adX] = ad(DX). pour tout D ∈ d et X ∈ g.11 Un ´l´ment X d’une alg`bre de Lie semisimple est dit nilpotent e ee e si l’endomorphisme adX est nilpotent. Soit gλ = p≥1 Ker((adX − λ)p ) de sorte que g = ⊕λ∈C gλ . D´monstration L’alg`bre de Lie a := adg est un id´al de l’alg`bre de Lie e e e e d := Derg car on a l’´galit´ [D. Cela r´sulte ee e de l’´galit´.

V ) | p ◦ σ = Id} est un espace affine d´fini sur k : s’il a un point a coefficients dans une extension e ` de k il en a aussi un a coefficients dans k. . toute alg`bre de Lie semisimple contient de nome e breuses copies de s. k)-module de dimension finie. H := 1 0 0 −1 . D´monstration a) Nous allons utiliser un argument transcendant appel´ l’astuce e e unitaire de Weyl. ∂ ∂ ∂ L’action de cette base dans Vd est donn´e par X → x ∂y . D´finition 2. Elle est dite simple ou irr´ductible si les seuls sous-espaces g-invariants sont 0 e ou V . Son ´tude est fondamentale car.13 Une repr´sentation d’une k-alg`bre de Lie g dans un k-espace e e e vectoriel V est un morphisme de g dans EndV . X] = 2X .3 Repr´sentations de sl2 e L’alg`bre de Lie s = sl(2. Proposition 2. k) est X. Une base de l’alg`bre de e e e e e Lie s = sl(2. Cette repr´sentation de s dans Vd est appel´e la repr´sentation de plus haut poids d car d y est la plus grande valeur propre de H. tout syst`me d’´quations ` e e 19 . [H. Y ] = −2Y et [X. Y avec X := 0 0 1 0 . Y := 0 1 0 0 qui v´rifient les relations e [H. k) est une alg`bre de Lie simple de e e dimension minimale. les ficelles symbolisant e l’action de X et Y sur les vecteurs propres de H correspondant. On dit aussi que V est un gmodule. d de H. Exemples fondamentaux . a) V est somme directe de repr´sentations simples. k) admet. .La repr´sentation adjointe ad. H → x ∂x − y ∂y et e ∂ e e e Y → y ∂x . Y ] = H. . Il suffit de montrer que tout sous-espace s-invariant V ⊂ V admet un suppl´mentaire V s-invariant. sur un corps ale g´briquement clos. D´crivons plus pr´cis´ment ces repr´sentations. e . H. En effet. e b) Si V est simple alors V est isomorphe ` une des repr´sentations Vd de plus a e haut poids d. Notons p : V → V /V la projection e naturelle. .L’alg`bre de Lie s = sl(2. On repr´sente parfois Vd par un diagramme ”ficelles” form´ de d + 1 noeuds e e labell´s par les valeurs propres −d. On peut supposer que le corps de base est C car l’ensemble {σ ∈ Homs (V /V . pour tout d ≥ 0. une repr´sentation dans e e le k-espace vectoriel Vd de dimension d + 1 des polynˆmes homog`nes de degr´ d o e e sur k 2 . −d+2.14 Soit V un sl(2.2. d−2.

vn est une base de V . Xvi = (n − i + 1)ivi−1 . h.e. s k⊗R C. pour i ≥ 0. On a Hv0 = λv0 et Xv0 = 0. y] = h est appel´ un sl2 -triplet. b ∈ C . [h. e R´ciproquement. Notons alors K = SU(2) le groupe sp´cial unitaire e K := { a b −b a | a. Il suffit de prendre pour V l’orthogonal de V . y) dans une alg`bre de Lie qui v´rifie les relations de commue e tation [h. .affines a coefficients dans k qui a des solutions dans une extension de k en a aussi ` dans k. Y vi = vi+1 . e e 2.4 El´ments nilpotents et sl2 -triplets e Une des raisons qui rend tr`s utile la classification des repr´sentae e tions de sl2 est la th´orie des sl2 -triplets. Hvi = (n − 2i)vi . on peut e donc recommencer cet argument sans supposer k alg´briquement clos. On a donc λ = n. Munissons V . pour 0 ≤ i ≤ n. e 20 . d’un produit scalaire hermitien K-invariant. Comme K est simplement connexe. et posons vi = Y i v0 . Comme V est simple. Soit v0 un vecteur propre de H pour une valeur propre λ de partie r´elle e maximum. On reconnait le s-module Vn a l’aide de l’identification vi → n(n − 1) · · · (n − i + 1)xn−i y i . x] = 2x . on a 0 = XY n+1 v0 = (n + 1)(λ − n)vn . Donc. toute repr´sentation e e de s s’int`gre donc en une repr´sentation de K. On a X(Vµ ) ⊂ Vµ+2 et Y (Vµ ) ⊂ Vµ−2 car on a les formules dans EndV . y] = −2y et [x. il est facile de v´rifier que Vd est un s-module simple. Ce sous-espace est K-invariant. b) Supposons tout d’abord k alg´briquement clos et d´composons V en somme e e directe V = ⊕µ∈C Vµ de sous-espaces caract´ristiques de H pour la valeur propre e µ. Il est donc aussi s-invariant. Par r´currence. . e Un triplet (x. Cette mˆme e formule permet de calculer. (H − µ − 2)j X = X(H − µ)j et (H − µ + 2)j Y = Y (H − µ)j . |a|2 + |b|2 = 1} Son alg`bre de Lie k = {matrices antihermitiennes de trace nulle} est une forme e r´elle de s i. e [X. Soit n ≥ 0 tel que Y n v0 = 0 et Y n+1 v0 = 0. . pour tout j ≥ 1. . v0 . grˆce a la mesure e e a ` de Haar de K. on a la formule dans EndV . Y j+1 ] = (j + 1)Y j (H − j). ` Comme on sait maintenant que les valeurs propres de H sont enti`res.

z) = B(y. c’est-`-dire que. Construction de y Notons u := [h.15 (Jacobson. D´monstration du th´or`me 2. y ] + 2y .16 On peut supposer le corps k alg´briquement e e clos. e Lemme 2. Comme X et W commutent. x] = 2x. On reprend la partie e e de la d´monstration de la classification des sl(2. u] = 0. on a a B((adx)2 y. Soit v un vecteur propre de XZ pour la valeur propre λ et p le plus petit entier tel que X p v = 0. e e ee ⊥ N2 est aussi l’image de (adx)2 .16 Soient X et Z deux ´l´ments de End(k d ) tels que X est nilpotent ee et [X. Comme v est dans le noyau de X. Donc λ = 0 et XZ est nilpotent.Th´or`me 2. Il existe donc y ∈ g tel que. Comme B est non d´g´n´r´e. Y ] = H et [H. pour y. X p+1 ] = −(p + 1)(H − p)X p . z ∈ g. Donc λ/p est une valeur propre de W qui est nilpotent. il existe un plus grand entier p ≥ 0 tel que v soit dans l’image de X p . en notant h = [x. Remarquons que le noyau N1 de adx est invariant par adh car [h. pour tout z dans le noyau N2 de (adx)2 . z] + 2z = u. h. on a [x. On aimerait que u soit nul. k)-modules simples qui est encore e valable pour (X. e e 21 .15 e e e Construction de h L’endomorphisme (adx)2 est autoadjoint pour la forme de Killing de g. H. Alors les valeurs propres de H dans le noyau KerX sont des entiers positifs. Z] = pW X p−1 . D´monstration du lemme 2. pour tout p ≥ 1. Z]] = 0. e Commen¸ons par un lemme. ZW p−1 ] et donc tr(W p ) = 0. on a [h. z) = 0. Par Jacobi. C’est-`-dire que x est dans a ⊥ l’orthogonal N2 de N2 pour la forme de Killing. Notons u un vecteur tel que X p u = v. y ]. W p = [X. Y ∈ End(k d ) trois matrices telles que [X. Soit W := [X. On cherche donc un ´l´ment z := y − y de g tel que ee [x. On a λX p−1 v = X p Zv = pW X p−1 v. (adx)2 z). x] = 2x. X] = 2X. Soit e v un vecteur non nul du noyau de X qui est vecteur propre de H pour la valeur propre λ. [X. Remarquons que [X p .16. On a l’´galit´ (p + 1)(λ − p)v = X p+1 (Y u). on a. W est nilpotent. c Lemme 2.17 Soient X. D´monstration On peut supposer k alg´briquement clos. Par suite. y). Morozov) Tout ´l´ment nilpotent x d’une ale e ee g`bre de Lie semisimple g fait partie d’un sl2 -triplet (x. le e produit adx adz est nilpotent et donc B(x. Alors le produit XZ est nilpotent. Y ) : On montre par r´currence sur p ≥ 0 que [Y . Il suffit donc de voir que −2 n’est pas valeur propre de adh dans N1 . z] = 0 et [h. Donc on a λ = p. D’autre part. Cela r´sulte du lemme suivant. d’apr`s le lemme 2. Z]. Cet entier existe car X est nilpotent. H.

on a α(Hα ) = 0. Les deux outils clefs sont la construction de sl2 -triplets ` l’aide de la forme de Killing et la a classification des repr´sentations de sl(2). iii) α et −α sont les seules racines proportionnelles ` α. Xα ] = B(X−α . β ∈ ∆. a f ) La forme B est d´finie positive sur hR := α∈∆ RHα et on a h = hR ⊕ ihR . X−α ) est un sl2 -triplet. . e) i) dim gα = 1 pour tout α ∈ ∆. 2H d) Pour tout α ∈ ∆. L’espace gα associ´ a une racine α ∈ ∆ est e e e` appel´ l’espace radiciel. a e e e e ∗ c) Pour λ ∈ h . e ee ee L’int´rˆt de cette notion.5 Syst`mes de racines e Dans cette section g est une alg`bre de Lie semisimple complexe. pour tout X±α ∈ g±α .20 Soit g une alg`bre de Lie semisimple complexe. Notons Hα := α(Hα ) et choisissons Xα ∈ gα α 2 tels que B(Xα . Alors (Xα . Le syst`me de racines abstrait ∆ est dit “r´duit” si α ∈ ∆ ⇒ 2α ∈ ∆. X−α ) = α(Hα ) . On appelle “syst`me de racines abstrait” une partie ∆ telle α. b) ∆ = −∆ et la forme de Killing B restreinte ` h est non d´g´n´r´e. on note Hλ ∈ h l’´l´ment tel que B(Hλ . En particulier. pour tout α. gβ ] = gα+β pour tout α..β e E.2.18 Une sous-alg`bre de Cartan h de g est une sous-alg`bre come e e mutative form´e d’´l´ments semisimples et qui est maximale pour ces propri´t´s.α ∈ Z et sα (β) ∈ ∆. Xα )Hα .19 Soit E un espace vectoriel r´el muni d’un produit scalaire eue e clidien . e Nous rappelons maintenant la structure de g. X] = α(H)X pour tout H ∈ h}. e e e a) On a g0 = h. On a la d´composition e e g = g0 ⊕ (⊕α∈∆ gα ) . h est commutative maximale.β que. on a 2 α. est qu’on peut diagonaliser simultan´ment g sous ee e ∗ l’action adjointe des ´l´ments de h : pour α ∈ h . Hα . β → β − 2 α. Alors. L’ensemble ∆ = {α ∈ h∗ | gα = 0 et α = 0} est appel´ le syst`me de racines de g. e Th´or`me 2. e D´finition 2. e e R 22 . . e e Le th´or`me suivant affirme en particulier que le syst`me de racines de g est e e e un syst`me de racines abstrait. Pour α ∈ E.α α. α = 0 on note sα la sym´trie orthogonale sα : E → e α. D´finition 2. β ∈ ∆. H) = λ(H) pour tout ee H ∈ h. e g) ∆ est un syst`me de racines abstrait r´duit de l’espace euclidien dual E = h∗ . on a [X−α . on pose ee gα = {X ∈ g | [H. ii) [gα .

e e f) Montrons que la restriction de B a hR est positive. gβ ) = 0 si α + β = 0. X] = 2X. On peut d´composer le sα -module V := ⊕z∈C gzα en modules ficelles. Xα ] = 0 et Xα engendre un sα -module de plus bas poids 2. Contradiction. on peut montrer que tout syst`me de racines abstrait r´duit e e e provient d’une unique alg`bre de Lie semisimple complexe. on peut supposer que α/2 n’est pas une ` racine. X−α ) = 1. e ii) Si [gα . X−α ]. e e b) On a B(gα . Xα ] = [Hα . H) = B(Xα . Donc e e Hα = 0. e e e ee c) En effet. Notons H = Hs + Hn e ` la d´composition de Jordan de H. On note gα la sous-alg`bre de Lie de g engendr´e par ce sl2 triplet. β = B(Hα .14. Xs est dans h.12). Xα ) = 0. [X−α . pour tout α. Hβ ). Le th´or`me de Lie appliqu´ a e e e` l’alg`bre de Lie r´soluble RX−α ⊕ RHα ⊕ RXα prouve que Hα est nilpotent. il existe Xα ∈ gα un ´l´ment tel que B(X−α . Donc g0 = h.Remarques . Notons X = Xs + Xn sa d´composition de Jordan (voir e proposition 2. on peut supposer que H est dans g0 . e e a chaque alg`bre de Lie semisimple complexe est associ´ un unique syst`me de ` e e e racines abstrait r´duit. il existe e e H ∈ g tel que [H. . Par le th´or`me 2. Pour tout H ∈ hR . Sauf si X = 0. Donc. Ce qui contredit l’´galit´ [Hs . Quitte ` remplacer H par sa projection sur g0 a parall`lement a [h. e e a) Soit X ∈ g0 .R´ciproquement. H) = α∈∆ α(H)2 = α∈∆ B(Hα . ee Mais alors [X−α . En outre. L’´l´ment Hs commute encore ` h. gβ ] = 0. e) i) Si dim gα ≥ 2. H]) = B(Xα . B([Xα . H)2 (1) 23 . il est donc e ee a dans h. Comme Xs commute a h. Comme B est non d´g´n´r´e. X] = 2X.14. on a e β(Hα ) ≥ 0 et β(Hα ) + 2 ≤ 0. Alors on a [Hα . Donc. On peut donc supposer ` que X = Xn est nilpotent. Contradiction. β ∈ E. Cela n’existe pas d’apr`s la proposition 2. on a bien [Hα . V = g−α ⊕ g0 ⊕ gα . e D´monstration Nous utiliserons fr´quemment l’inclusion [gα . on a ` B(H. iii) Quitte a remplacer α par α/2. [Hα . on a d’apr`s la proposition 2. g].On a E = α∈∆ Rα et le produit scalaire sur E est donn´ par e α. X−α ] = Hα . X−α )α(H). Ce sous-module V a pour plus haut poids β(Hα ) et V /V a pour plus bas poids β(Hα ) + 2. e . d’apr`s la proposition 2. Xα ] = 2Xα .On appelle rang de g ou rang de ∆.15 de Jacobson Morozov. on peut e classifier les syst`mes de racines abstraits. d) Si α(H) = 0. B induit une e e ee dualit´ non d´g´n´r´e entre gα et g−α . . e Comme 1 n’est pas valeur propre de Hα et que 2 est une valeur propre de multiplicit´ 1. On choisit X±α ∈ g±α tels que B(Xα .14. Comme α(Hα ) = 2.Nous verrons que toutes les sous-alg`bres de Cartan sont conjugu´es. la dimension r de E. X−α ] = −2X−α et e e [Xα . gβ ] ⊂ gα+β . La somme V := ⊕n∈N gβ−nα est un sα -sous-module de la somme V := ⊕n∈Z gβ+nα . X−α ] = Hα . X−α ] = 0 et [Xα .

Or e 1 B(Hα . Hα ) = 4 α(Hα )2 B(Hα . Cela r´sulte des ´galit´s ` e e e e 1 1 α(Hα ) = B(Hα . En effet. e c) L’espace E = h∗ est euclidien et on a l’´quivalence λ ∈ E ⇔ Hλ ∈ hR .14 appliqu´ au e e sα -module V := ⊕n∈Z gβ+nα que la valeur propre q = β(Hα ) est un entier et que (adX−α )q (Xβ ) = 0. H) = 0 serait dans le noyau de toutes les racines et serait donc nul. e e e comme ∆ engendre h. il est dans le centre de g et donc H = 0. pour α. Montrons que ∆ est un syst`me e α. On doit v´rifier que q ∈ Z et que β − qα ∈ ∆. F4 . 24 . liste e qui se d´duit de celle des syst`mes de racines abstraits. On peut supposer q ≥ 0.Il suffit donc de voir que.β e de racines abstrait. Cr = sp(r. si un ´l´ment H ∈ h est ee dans le noyau de toutes les racines. G2 . C) (r ≥ 3). Donc on a hR ∩ ihR = 0. Il r´sulte de la proposition 2. β ∈ ∆. β ∈ ∆. B(Hα . d’apr`s (1). Donc gβ−qα est non nul et e e ` β − qα est une racine. Les quatre familles dites e e classiques et les cinq alg`bres simples dites exceptionnelles e Ar = sl(r + 1. Dr = so(2r. ses valeurs propres β(Hα ) sont dans Z. Remarquons maintenant que ∆ engendre h∗ . En effet. Donnons pour finir la liste de toutes les alg`bres de Lie simples complexes. puis. Soient α. on en d´duit h = hR ⊕ ihR . En effet. Hβ ) est r´el. un ´l´ment e e ee e ee H ∈ hR tel que B(H. Il reste a voir que α(Hα ) est r´el. C) (r ≥ 4) E6 . E8 . les valeurs propres de Hα dans les modules ficelles sont enti`res et sym´triques par rapport a l’origine. Comme Hα fait partie d’un sl2 -triplet. E7 . Montrons que B est non d´g´n´r´e sur hR . q = 2 α. C) (r ≥ 1).α . Br = so(2r + 1. Hβ ) = β(Hα ) = 2 α(Hα )β(Hα ). Hα ) = 4 α(Hα )2 β∈∆ β(Hα )2 . On en d´duit que B est d´fini n´gatif sur ihR . C) (r ≥ 2). En e R particulier ∆ est inclus dans E et engendre E.

G2 . il existe une e e e forme bilin´aire d´finie positive B0 sur u qui est AdU -invariante. on note u = Lie(U ) son alg`bre de Lie et uC := e u ⊗R C son alg`bre de Lie comlexifi´e. plus u pr´cis´ment d’une “´quivalence de cat´gories”. Donc u est semisimple et uC aussi. E8 . e e On va montrer dans cette partie la surjectivit´. Pour tout X ∈ u e e non nul. Comme dans le cas complexe. E7 . e e Adu est la d´riv´e de la conjugaison g → ugu−1 . On note Ad l’action adjointe : pour u ∈ U . R). Br = SO(2r +1). un des groupes classiques Ar = SU(r +1). modulo e le centre.1 Comme AdU est compact.2 On appelle forme r´elle de g une sous-alg`bre de Lie r´elle gR e e e e telle que g = gR ⊗R C. c Pour tout groupe de Lie U . a le language des syst`mes de racines permet de g´rer tous les groupes e e de Lie semisimples r´els. la d´composition de Cartan G = KA+ K e et la d´composition d’Iwasawa G = KAU + . adX est antisym´trique pour B0 . Une forme r´elle gR est dite compacte si la forme de Killing e de gR est d´finie n´gative. Th´or`me 3. e D´finition 3. donc tr((adX)2 ) < 0. En particulier.3 Groupes de Lie semisimples Nous d´montrons enti`rement dans ce chapitre un certains nome e bres de r´sultats classiques dˆs a E. e Soit g une alg`bre de Lie semisimple complexe. que tout groupe simple compact est. Cartan sur la structure des e u ` groupes et des alg`bres de Lie semisimples. D´monstration du th´or`me 3.F4 . e e 25 . Remarques . nous rappellerons la signification e e de ces concepts pour G = SL(d. 3. Cr = Sp(r).Il s’agit bien sˆr d’une bijection “modulo isomorphisme” ou. l’existence e d’une involution de Cartan. R´sultats que nous utilie e sons ` plusieurs reprises dans ce cours.2. La forme de e Killing B de u est d´finie n´gative. e e e e . avec la section 2.On en d´duit. N´anmoins. Dr = SO(2r) ou un des cinq groupes exceptionnels E6 . e e L’injectivit´ de l’application U → uC sera montr´e dans la section 3.5.1 Groupes de Lie compacts Commen¸ons par la descriptions des groupes de Lie compacts. Ad est un morphisme de groupes e e de Lie de U dans le groupe des automorphismes Aut(u).1 L’application U → uC met en bijection e e alg`bres de Lie e groupes de Lie compacts ←→ semisimples complexes connexes ` centre trivial a .

Xβ ]] = aα.γ Hα + Nγ. on a Nα.β est un entier strictement positif. e b) Comme α + β + γ = 0. C). Pour ρ ∈ ∆+ . l’identit´ de Jacobi e appliqu´e a Xα . e Grace a cette proposition. En effet. par exemple l’ordre lexicograee phique pour les coordonn´es dans une base de h∗ . β.γ = Nγ. les facteurs de cette somme directe sont orthogonaux et B est donc d´finie n´gative sur u.α . Lemme 3. On en d´duit que Nα.α Hβ + Nα.β = e ` Nβ.β par e [Xα .−β < 0. Xα ] = Hα et d´finissons. on a Nα. on a a e Nα. b) Pour α.−β ∈ R assurent e e e e que u est une alg`bre de Lie. Or.γ = Nγ.β = −N−α.β Nγ.β = −Nβ.Il suffit de montrer que g a une forme r´elle compacte u.δ + Nβ.β sont alors r´els. On note ∆+ = {α ∈ ∆ | α > 0} e R l’ensemble des racines positives.α+β > 0. β.β Xβ o` aα. [Xα . on a Hα + Hβ + Hγ = 0. Xγ . on obtient la base de su(2) iH = i 0 0 i 0 i i 0 0 −1 1 0 .α et Nα.δ = 0.α Nβ. pour α ∈ ∆ρ tels que Nα.−β pour tout α. c) Pour α.γ Nα.4 a) Clair.δ + Nγ.β = 0 sinon. Son alg`bre de e e e Lie est isomorphe ` u car toute d´rivation de u est int´rieure.β = Nβ. Les nombres Nα. on peut prendre pour forme r´elle compacte de g ` e u = ihR ⊕ (⊕α∈∆ Ri(Xα +X−α )) ⊕ (⊕α∈∆ R(Xα −X−α )) . pour α. c) Appliquer l’identit´ de Jacobi a Xα . Pour α ∈ ∆. D´monstration du lemme 3. D’autre part. Proposition 3. le nombre Nα. par construction. e ` D´monstration de la proposition 3.α . a e e Pour montrer que g a une forme r´elle compacte.3 On peut choisir les Xα de sorte que Nα. e Remarque Pour g = sl(2.β N−α.β = −N−α. Xβ . Donc Nα.−β .3 Choisissons un ordre total sur h∗ tel e R que la somme de deux ´l´ments positifs est positif . β ∈ ∆. posons ∆ρ = {α ∈ ∆ | −ρ ≤ α ≤ ρ} et montrons par r´currence e sur #∆ρ qu’on peut choisir les Xα . γ ∈ ∆ avec α + β + γ = 0. Car alors la composante e connexe U := Aut(u)e du groupe des automorphismes de u convient. γ. i(X +Y ) = . β. reprenons les notations de e la section 2. Xβ . Les ´galit´s Nα. Xγ donne Nβ.5. la proposition 2.4 a) Pour α. α+β ∈ ∆ρ 26 (2) .14 qui classifie les sl(2)-modules prouve que u e [X−α . β ∈ ∆ avec α + β = 0. X −Y = .β N−α. choisissons Xα dans gα tels que [X−α . Xβ ] = Nα. C’est un groupe compact car il est ferm´ et pr´serve la forme de Killing.β = −N−α.β Xα+β si α + β est dans ∆ et par Nα. δ ∈ ∆ non deux ` deux colin´aires.β Hγ = 0.

Pour tout X. Y ) est d´finie positive.5 Une involution de Cartan d’une alg`bre de Lie semisimple r´elle e e e 2 g est un automorphisme θ tel que θ = 1 et tel que la forme bilin´aire sym´trique e e Bθ donn´e par Bθ (X. il ne reste ` choisir que Xρ car X−ρ s’en d´duit.β est alors automatiquement r´el par b).1. −γ. a e e e ee 3. Y ) = B(X. e e a e + Si on ne peut pas ´crire ρ = γ + δ avec γ. e e e D´monstration de la proposition 3. on peut prendre θ(X) = −t X. e Par hypoth`se de r´currence. γ. Ces sous-espaces k et q sont orthogonaux pour la forme de Killing B qui est d´finie n´gative sur k et d´finie positive sur q. b) Deux involutions de Cartan θ et θ1 de g sont toujours conjugu´es.Pour g = sl(d. il suffit de v´rifier (2) lorsque α + β = ρ.6 a) Soient τ la conjugaison complexe e par rapport a g et N l’automorphisme de gC produit N = στ o` σ est comme ` u dans l’exemple. X−δ ] o` λ ∈ C∗ est choisi de sorte que B(Xρ . R) ou g = so(p. δ ∈ ∆ . Grace a b). C’est un des grands ach`vement du d´but du vingti`me si`cle.L’alg`bre de Lie gC consid´r´e comme une alg`bre de Lie r´elle admet comme e ee e e involution de Cartan la conjugaison σ par rapport a une forme r´elle compacte ` e u.2 Involutions de Cartan Ce sont les involutions de Cartan qui nous permettront de comprendre la structure des groupes de Lie semisimples et leurs liens avec les espaces sym´triques. Y ) = −B(θX. −δ et a −α. Ce qui r´sulte e ` e e de l’´galit´ du c) appliqu´e a α. X−ρ ) = 1.Le nombre Nα. e e e Exemples . δ et de l’hypoth`se de e e e ` ` e r´currence. Xδ ] et e X−ρ = λ[X−γ . e Remarque On peut montrer que tout groupe topologique compact simple connexe est de Lie.Le point b) prouve l’injectivit´ de l’application U → uC du th´or`me 3. Signalons que c’est ` seulement ` la fin du vingti`me si`cle que cette derni`re sera compl´t´e. Il reste a u ` v´rifier (2). N Y ). −β. e D´finition 3. 27 .6 a) Toute alg`bre de Lie semisimple r´elle g admet une involue e tion de Cartan θ. δ ∈ ∆+ . e e ee . β. Y ∈ g. τ Y ) = Bσ (X. Le th´or`me 3. Y ) = B(τ X. e e On a alors la d´composition de Cartan g = k ⊕ q o` k = {X ∈ g | θ(X) = X} e u et q = {X ∈ g | θ(X) = −X}. . q). Proposition 3. On a alors k = u et q = iu. e Si on peut ´crire ρ = γ + δ avec γ. on prend Xρ = λ[Xγ . e Remarques .1 donne donc la classification des groupes compacts e e connexes simples. on a Bσ (N X. on choisit Xρ arbitrairement. e e e e Il ouvre la voie a la classification des groupes finis simples.Conjugu´ signifie “conjugu´ par un ´l´ment de Aut(g)e ”.

Pour tout t.a est valable pour k = R. P commute ` N et on a σP t σ −1 = P −t . On en d´duit que σ (g) ⊂ g et que θ := σ |g est une involution de Cartan de g. ee . Donc. Alors a) La complexifi´e hC est une sous-alg`bre de Cartan de gC . θ := Qθ1 Q−1 et prouver que θ et θ commutent. e e e e Donc h est commutative maximale et hC aussi. L’espace G/K. e 1 b) Comme en a).7 Une sous-alg`bre de Cartan h de g est une sous-alg`bre commue e e tative form´e d’´l´ments semisimples et maximale pour cette propri´t´.8 Soit h une sous-alg`bre de Cartan de g et θ une involution de e Cartan de g. 28 . P est dans Aut(gC ). cela r´sulte de la remarque du lemme 4. Le sous groupe K = {g ∈ G | gθ = θg} est un sous-groupe compact maximal de G.9 car ces affirmations sont poe 1 lynomiales et vraies pour t entiers. on peut poser Q := ((θθ1 )2 )− 4 ∈ Aut(g). On a e ee peut donc ´crire P = P 1 pour un groupe a un param`tre t → P t de bjections e ` e lin´aires de l’espace vectoriel r´el gC qui sont semisimples ` valeurs propres posie e a t t tives. e e b) Il existe un conjugu´ de h qui est θ-stable. Ceux de q sont hyperboliques.Les ´l´ments de k sont elliptiques. e ` 1 1 3. e e D´finition 3. On calcule σ τ = QσQ−1 τ = Q2 στ = P − 2 N = N −1 P 2 = τ σQ−2 = τ QσQ−1 = τ σ . a En effet. a Remarques . L’application g ←→ ` e G/K est une bijection entre les alg`bres de Lie semisimples r´elles et ces espace e e sym´triques. puis k = k et q = q . On diagonalise alors simultan´ment θ et θ : on a e g = (k ∩ k ) ⊕ (k ∩ q ) ⊕ (q ∩ k ) ⊕ (q ∩ q ) o` g = k ⊕ q et g = k ⊕ q sont les d´compositions de Cartan de g pour θ et θ .Donc N est semisimple ` valeurs propres r´elles. muni de la m´trique riemannienne G-invariante donn´e e e par la forme de Killing sur q est un “espace sym´triques riemanniens simplement e connexe a courbure n´gative ou nulle sans facteur euclidien”. on a k ∩ q = q ∩ k = 0. u e La forme de Killing est d´finie n´gative sur k et k et est d´finie positive sur q et e e e q .Notons G = Aut(g)e le groupe de Lie connexe a centre trivial d’alg`bre de Lie ` e g. Cartan. Soit P l’´l´ment P := N 2 . c’est-`-dire θ = θ . Cette bijection est due a E.20.3 Sous-alg`bres de Cartan e Soit g une alg`bre de Lie semisimple r´elle. e ee ee Proposition 3. On pose alors Q = P − 4 et σ = QσQ−1 . e D´monstration a) La d´monstration du th´or`me 2.

e ee On peut diagonaliser g sous l’action adjointe de a.a. On d´signe par Σ l’ensemble e des racines restreintes. a a On peut supposer que la fonction d´finie sur K g → B(X1 . On a une d´composition e e g = l ⊕ (⊕λ∈Σ gλ ). Ce groupe K est compact et son alg`bre de Lie est k. Comme [X1 . θ := σ |g et montrer que θ est une involution de Cartan de g.1. X2 ] = 0. 3.5. Comme en 2. on en d´duit [X1 . [Z. τ ) la conjugaison e complexe par rapport a u (resp.10 a) Tout sous-espace de Cartan a de g est conjugu´ ` un sousea espace de Cartan inclus dans q. X2 ]) = 0. a2 ] = 0 et enfin a1 = a2 . X2 ] est dans k. Choisissons Xi ∈ ai en dehors des noyaux des racines restreintes de sorte qu’un ´l´ment X de g qui ee commute ` Xi commute aussi ` ai . g). σ := Q ◦ σ ◦ Q−1 . Mais alors h = (h ∩ k) ⊕ a a (h ∩ q). ee D´monstration a) Mettons a dans une sous-alg`bre de Cartan h de g. Comme Q(hC ) = hC .4 Sous-espaces de Cartan Soit g une alg`bre de Lie semisimple r´elle. e e D´finition 3.6. [X1 . e ee ee Par d´finition tout ´l´ment hyperbolique fait partie d’un sous-espace de Cartan. on peut ` 1 poser Q := ((στ )2 )− 4 .9 Un sous-espace de Cartan a de g est une sous-alg`bre commutae e tive form´e d’´l´ments hyperboliques et maximale pour cette propri´t´. On a alors. gX2 ) atteint son e minimum pour g = e.e. adX(Y ) = λ(X)Y } est l’espace radiciel associ´ a λ et l est le centralisateur de a. b) Deux sous-espaces de Cartan inclus dans q sont toujours conjugu´s par un e ´l´ment de Ke . On peut e e supposer grˆce ` la proposition 3. la th´orie des sl2 -triplets permet de montrer que Σ est un syst`me e e de racines abstrait (pas toujours r´duit).b) D’apr`s la proposition 3. Soit u une forme r´elle compacte de gC construite ` e a partir de hC par la m´thode de la section 3. 29 . on a a ⊂ q. Comme dans la proposition 3. on a θ (h) = h.8 que h est θ-stable. il suffit de construire une involution de Cartan e θ de g telle que θ (h) = h. o` u gλ := {Y ∈ g / ∀X ∈ a . Notons σ (resp. X2 ]) = 0 et donc B(Z. ee b) Soient a1 . a2 deux sous-espaces de Cartan dans q. pour tout Z ∈ k. B(X1 .6. e` Soient g = k ⊕ q une d´composition de Cartan associ´e ` une involution de e e a Cartan θ et K := {g ∈ Aut(g) | θg = gθ}. i. e Proposition 3. l’ensemble des poids non triviaux pour cette action. Comme h ∩ q est l’ensemble des ´l´ments hyperboliques de h. puis e [a1 .

Σ+ ∪ −Σ+ = Σ et (Σ+ + Σ+ ) ∩ −Σ+ = ∅. z1 le centre de m1 et m1 = m1 /z1 . L’ensemble Π des racines simples de Σ+ . alors h1 et h2 sont conjugu´es. e e b) Toutes les sous-alg`bres de Cartan de gC sont conjugu´es.11 Soit gC (resp. on a ee e e e e a1 = a1 .1.12 On a la d´composition d’Iwasawa g = k ⊕ a ⊕ u+ . Les sous alg`bres u := ⊕λ∈Σ λ sont nilpotentes et la e sous-alg`bre p = l ⊕ u+ est appel´e la sous-alg`bre parabolique minimale associ´e e e e e + aΣ . On a. D’apr`s la proposition 3. Il reste ` comprendre que.5 D´composition de Cartan et Iwasawa e Soit G un groupe de Lie semisimple connexe de centre fini d’alg`bre de Lie g. r´elle. par maximalit´ de h1 . est une base de a . en particulier. e La dimension commune des sous-alg`bres (resp. on peut supposer e e u1 = u2 .Corollaire 3.6. e e c) g n’a qu’un nombre fini de classes de conjugaison de sous-alg`bres de Cartan. il existe des formes r´elles compactes ui telles que ti := ui ∩ hi e e e est une sous-alg`bre de Cartan de ui . g. Comme a1 contient a1 et que tout ´l´ment de a1 commute au commutant de a1 .10. e e a) Toutes les sous-alg`bres de Cartan de u sont conjugu´es. choisi une involution de 30 . u) une alg`bre de Lie semisimple complexe e (resp. r´elle compacte). rang r´el) de g. on e e peut supposer que a1 := h1 ∩q est inclus dans a. c) Fixons un sous-espace de Cartan a dans p. b) Soient h1 et h2 deux sous-alg`bres de Cartan de gC . sous-espaces) de Cartan de g e est appel´ le rang (resp. Soient m1 le centralisateur de e a1 dans k. it est un sous-espace de Cartan de uC inclus e dans iu. Le a) e permet alors de conclure. c’est a dire des ´l´ments minimaux de ` ee + ± ± g Σ . e e D´monstration a) L’´galit´ uC = u ⊕ iu est une d´composition de Cartan. D’apr`s la construction e e du th´or`me 3. si h2 est une autre sous-alg`bre de Cartan θ-stable a e telle que h2 ∩ q = a1 . D’apr`s la proposition 3. ` Lemme 3. Notons Σ+ un syst`me de racines positives de Σ. e D´monstration Cela r´sulte de l’´galit´ θ(gλ ) = g−λ . e e e e 3. Soient Σ1 := {λ ∈ Σ | λ(a1 ) = 0} et a1 := {X ∈ a1 | λ(X) = 0 pour tout λ ∈ Σ1 }. Si t e e e e est un sous-alg`bre de Cartan de u. c’est ` dire une partie de Σ e a telle que Σ+ ∩ −Σ+ = ∅. On peut donc appliquer la proposition 3. Chaque classe de conjugaison contient une sous-alg`bre de Cartan θ-stable h1 .b.b. e On garde les notations ci-dessus.10. On applique alors le a). Donc a1 est enti`rement d´termin´ par Σ1 qui ne peut prendre qu’un nombre fini de valeurs. L’alg`bre de Lie m1 est semisimple e compacte et les ti := (hi ∩ k)/z1 sont des sous-alg`bres de Cartan de m1 .

On veut ´crire g = kq avec k ∈ K e e −1 et q ∈ exp(q). e Th´or`me 3. si il est conjugu´ ` un ´l´ment de A. X) → keX est un diff´omorphisme. e + b) Le quotient P/AU est compact. Utiliser enfin la th´orie des petits sl2 qui e ` ee e permet. e On a la d´composition d’Iwasawa. (k. ea ee 31 . L’ensemble des caract`res r´els du groupe e e e de Lie A peut ˆtre identifi´ au dual a .10 qui assure que tout ´l´ment de q est ee conjugu´ sous K a un ´l´ment de a. on peut ´crire θ(g)−1 g = e2X avec etX groupe a un param`tre de matrices e ` e sym´triques d´finies positives. e + b) On a l’´galit´ G = KA K. On utilise encore la remarque du lemme 4.9 pour e e conclure que le groupe a un param`tre etX est dans G. Notons a+ := {X ∈ a / ∀α ∈ Σ+ .e. On prend q = eX et ` e −1 k = gq . e e D´monstration On peut supposer G a centre trivial i. α(X) ≥ 0} la chambre de Weyl dans a associ´e ` Σ+ .e. Notons aussi e e A+ := {a ∈ A / ∀α ∈ Σ+ . Par d´finition. Le normalisateur P := NG (p) est appel´ le sous-groupe parabolique minimal e associ´ a Σ+ . α(a) ≥ 1} la chambre de Weyl dans A associ´e ` Σ+ . e le rang r´el de G est la dimension de A. Notons L le centralisateur de a dans G et U ± les sous-groupes e ` connexes d’alg`bre de Lie u± . Comme θ(g) g est sym´trique d´finie positive pour la forme e e Bθ . un sous-espace de Cartan a ⊂ q et un syst`me de racines positives e Σ+ .Cartan θ de G. e a On a la d´composition de Cartan. e a Notons K l’ensemble des points fixes de θ dans G et A := exp(a).14 e e a) La multiplication donne un diff´omorphisme K ×A×U + G. c) La multiplication m : U − × P → G est un diff´omorphisme sur un ouvert de e mesure pleine. e ` a) C’est la mˆme que pour SL(d.13 e e a) L’application K × q → G. R). de relever les sym´tries sλ en des ´l´ments du normalisateur e ee de a dans K et donc de conjuguer tout ´l´ment de a en un ´l´ment de la chambre ee ee de Weyl a+ . G = Aut(g)e . Un ´l´ment g de G est dit hyperbolique si on peut ´crire g = eX avec X ∈ g ee e hyperbolique i. b) Utiliser le a) et la proposition 3. e Th´or`me 3. pour λ ∈ Σ.

les doubles classes KgW sont ouvertes. on a K ∩ W = {e}. la multiplication A × U → W est un diff´omorphisme.4. Il est donc de mesure nulle. on a U − P = UC PC ∩ G. Soit pθ := lθ ⊕ u+ and Pθ := Lθ Uθ les θ sous-alg`bres et sous-groupes paraboliques associ´s ` θ. ea ee Un ´l´ment g de G est dit elliptique si il est conjugu´ ` un ´l´ment de K. θ Σ± θ Pour toute partie θ ⊂ Π. e Comme w ne contient pas d’´l´ment elliptique. alors Σθ1 ⊂ Σθ2 . Par injectivit´ de mC .7 Exemples D´crivons explicitement ces notations pour G = SL(d.e.Un ´l´ment g de G est dit unipotent si on peut ´crire g = eX avec X ∈ g ee e nilpotent i. D´monstration e 3. α(a) = 1}. e C − La multiplication mC : UC × PC → GC est injective d’image ouverte. ce la r´sulte du a). b) Comme AU + est inclus dans P . Comme ces groupes sont alg´briques. Pθ1 ⊂ Pθ2 et Uθ1 ⊃ Uθ2 . On a alors les assertions. e Donc G = KW . e + + c) Si θ1 ⊂ θ2 . w ne rencontre aucun conjugu´ ee e de k et donc. e e a Proposition 3. d’apr`s la proposition 4. UC les sous-groupes connexes d’alg`bre de Lie u± =: u± ⊗R C e C − et PC le normalisateur de pC := p ⊗R C.6 Sous-groupes paraboliques Σ± := Σθ ∩ Σ± . e e e ` + a) Notons W le groupe r´soluble W = AU et w son alg`bre de Lie. L’intersection PC ∩ UC est triviale car − l’action adjointe d’un ´l´ment g de PC ∩ UC doit pr´server les pC -sous-modules ee e − e et les uC -sous-modules de gC .15 a) Tout sous-groupe contenant P est ´gal ` l’un des Pθ . On peut prendre e 32 . il doit donc pr´server tous les espaces radiciels complexifi´s (gλ )C et agir trivialement dessus. Elles sont donc aussi ferm´es. Notons e ± GC = Aut(gC ). e 3. R). Aθ := {a ∈ A / ∀α ∈ θ . Comme e e + + A ∩ U = {e}. e a b) Pθ est engendr´ par les sous-groupes P{α} pour α ∈ θ. Comme en outre u− ⊕ pC = gC . ± Uθ les groupes connexes associ´s. Comme W ne contient pas de sous-groupe compact. A+ := e θ + + A ∩ Aθ . ee ea ee D´monstration du th´or`me 3. Lθ le centralisateur de Aθ dans G. l’image est un ouvert de e e − Zariski. si il est conjugu´ ` un ´l´ment de U + . e Σθ := Σ ∩ < θ > . on note < θ > l’espace vectoriel engendr´ par θ. e c) On montre tout d’abord une version complexifi´e de cette assertion. Donc le compl´mentaire e e − de U P est un ferm´ de Zariski de G.14 On peut supposer G a centre trivial. u± := ⊕α∈Σ± θ gα . lθ := l ⊕ ⊕α∈Σθ gα .

1 ≤ i < d}. 0 ∗  ∗ 0     ∗ ∗ ∗   0 0 0   0 ∗ ∗  . 0  ∗  ∗   0  0  0   ∗ > > C> = C C A> > > . . A+ = Aθ ∩A+ . . Σ+ = {εi − εj . u− = > > >B < B B >@ > > : 0 0 . . R).j = ej ⊗ ei .. i = j . 0 0 b3 Id . 19 > > > C= C C A> > > . . A+ = {a ∈ A / a1 ≥ · · · ≥ ad }. u e gεi −εj = REi. . . 1 ≤ i < j ≤ d}. . Π = {εi+1 − εi . . l = a 80 80 80 19 19 u+ = 0  0 ∗ u+ =  0 0 θ  0 0  ∗ 0  lθ =  0 ∗  0 0 > > >B < B B >@ > > : 0 ∗ . > > C> = C C A> > > .. On a pris θc avec seulement deux racines simples. . o` εi ∈ a est donn´ par : εi (a) = ai . ad ) / ai > 0 . Σ = {εi − εj .j avec Ei.K = SO(d. Une autre partie θ θ aurait donn´ un nombre et des tailles diff´rentes de matrices blocs. p= > > >B < B B >@ > > : ∗ ∗ pθ = Aθ = . A = {a = diag(a1 . a1 · · · ad = 1}. . . u− =  ∗ 0 0  θ     0 0 ∗ ∗ ∗ 0   b1 Id 0 0  0 b2 Id 0 ∈A . 1 ≤ i. . e e 33 .. j ≤ d}.

toute k-vari´t´ est r´union e e ee e finie de k-sous-vari´t´s k-irr´ductibles. L’ensemble des points lisses d’une k-vari´t´ ee est donc un ouvert de Zariski non vide d´fini sur k. La toplogie induite sur Zk s’appelle aussi topologie de Zariski. e o On dit que Z est une k-vari´t´ si I(Z) est engendr´ par l’intersection Ik (Z) := ee e I(Z) ∩ k[V]. Les ´l´ments de k(Z) sont les ee fonctions k-rationnelles.. Nous avons choisi un point de vu na¨ probablement pas ıf. mais qui e e e e suffit bien pour une premi`re approche de ce sujet. L’anneau quotient k[Z] := k[V]/Ik (Z) est l’anneau des fonctions k-r´guli`res sur Z.. On ee parlera ainsi de parties Zariski connexes ou de parties Zariski denses. e e Un k-morphisme ou application k-r´guli`re de k-vari´t´s ϕ : Z1 → Z2 est une e e ee application telle que. suffisamment pr´cis.e. Une vari´t´ Z est dite k-irr´ductible si on ne peut pas l’´crire comme r´union de ee e e e deux k-sous-vari´t´s propre ou. Vk ∼ k un k-espace vectoriel. ee e Soient K un corps alg´briquement clos de caract´ristique nulle. L’espace tangent Tz Z a Z en un point z ∈ Z est l’intersection ` des diff´rentielles dP (z) des polynˆmes P de l’id´al I(Z). ee e La dimension dim Z d’une vari´t´ k-irr´ductible Z est le degr´ de transcendance ee e e sur k de k(Z). l’ensemble Zk des k-points de e Z est une sous-vari´t´ k-analytique lisse de k d de dimension dim Z dont l’espace ee tangent en un k-point z s’identifie aux k-points de l’espace tangent en z a la ` k-vari´t´ Z. on a e dim(Tz Z) = m = dim Z. ` Une vari´t´ (alg´brique) affine Z ⊂ V ou ferm´ de Zariski est un sous-ensemble ee e e qui est l’ensemble des z´ros d’une famille de polynˆmes sur V. C ou une extension finie de Qp . V = K ⊗k Vk K d et k[V] l’anneau des polynomes sur Vk a valeurs dans k. ee e e On note alors k(Z) le corps des fractions de k[Z]. On dit que Z est lisse e o si tous ses points sont lisses. et pour les ape plications que nous avons en vue. Un point z ∈ Z est e o e lisse si m = dim(Tz Z) est minimum. e La topologie de Zariski sur Z est la topologie dont les ferm´s sont les souse vari´t´s de Z. intrins`que et g´n´ral pour le puriste. k un sous-corps e e d de K. ce qui est ´quivalent. Autrement dit.1 Vari´t´s alg´briques e e e Tout d’abord quelques mots sur les vari´t´s alg´briques.4 Groupes alg´briques e Rappelons quelques d´finitions de la th´orie des groupes alg´e e e briques. i. 4. pour tout f dans k[Z2 ]. si l’anneau k[Z] est int`gre. L’ensemble Zk := k d ∩ Z est l’ensemble des k-points de Z. localement au voisinage de z. Lorsque Z est lisse et que le corps de base k est R. k est un corps local de caract´ristique nulle. ee 34 . la compos´e f ◦ ϕ est dans k[Z1 ]. En un point lisse z. Z s’identifie aux z´ros de d−m polynˆmes Pi tels que Tz Z = ∩i dPi (z). Par noeth´rianit´ de k[Z]. On note I(Z) ⊂ e o K[V] l’id´al des polynˆmes nuls sur Z.

Il est souvent utile d’´tendre les d´finitions ci-dessus a un cadre projectif.2 est claire. Notons alors e e ee i P (T ) = 0≤i≤ pi T ∈ A[T ] un polynˆme non nul de degr´ minimal tel que o e P (x) = 0. Alors pour tout b ∈ B non nul. est qu’il permet de d´velopper le sujet sans savoir s’il existe e des k-points.1 (Chevalley) Soit ϕ : Z1 → Z2 une application r´guli`re entre e e e e deux vari´t´s alg´briques. Remarquons tout d’abord que si le polynˆme P n’existe pas alors o B A[T ] et la conclusion du lemme 4. Une k-vari´t´ (alg´brique) quasiprojective est un ouvert de Zariski d´fini sur k ee e e d’une k-vari´t´ projective. D´monstration On peut supposer que les vari´t´s Z1 et Z2 sont affines et irr´e ee e ductibles sur K et que ϕ(Z1 ) est Zariski dense dans Z2 .. tout morphisme e ψ : A → K tel que ψ(a) = 0 se prolonge en un morphisme ψ : B → K tel que ψ(b) = 0. L’application ϕ induit alors une injection entre les anneaux de fonctions r´guli`res A := K[Z2 ] → B := e e K[Z1 ]. ee Le th´or`me suivant est au coeur de la th´orie de l’´limination des quantificae e e e teurs ou th´orie des ensembles constructibles. de topologie de Zariski e e sur Z et sur Zk . Alors l’image ϕ(Z1 ) contient un ouvert de son adh´ee e e rence (pour la topologie de Zariski). de fa¸on heuristique. L’id´al I := {P1 ∈ L[T ] | P1 (x) = 0} annulateur de x dans L[T ] est engendr´ e e par P . Le th´or`me est donc une cons´quence du lemme suivant. Remarque ϕ((Z1 )k ) ne contient pas toujours un ouvert de Zariski de l’ensemble des k-points de ϕ(Z1 ). D´monstration Par r´currence sur le nombre de g´n´rateurs de B comme Ae e e e alg`bre. e e e Lemme 4. Notons aussi Q = qi T i ∈ A[T ] un polynˆme non nul de degr´ au plus − 1 o e tel que b divise Q(x).2 Soit A → B des K-alg`bres telles que B est une A-alg`bre de type e e fini int`gre. il existe a ∈ A tel que.. L’ensemble Zk := P(k )∩Z est l’ensemble des k-points ` de Z. Par exemple ϕ : R → R. e Th´or`me 4. Notons L le corps des fractions de A.Disons. t → t2 . e e ` Ainsi une k-vari´t´ (alg´brique) projective Z ⊂ P(V) ou ferm´ de Zariski est un ee e e sous-ensemble qui est l’ensemble des z´ros d’une famille de polynˆmes homog`nes e o e d sur V a coefficients dans k. On a encore une notion d’applications k-r´guli`res. on peut supposer que B est engendr´ par un ´l´ment x. Remarquons que la donn´e d’un point x de Z1 ´quivaut a la donn´e d’un e e ` e morphisme d’anneaux ψ : B → K : le morphisme donn´ par ψ(P ) = P (x) pour e tout P ∈ B. que l’int´rˆt de ce point de vue qui consiste a c ee ` “travailler avec les points dans une clˆture alg´brique K mais avec des formules a o e ` coefficients dans k”. et notons r un ´l´ment non nul de A tel qu’il existe deux ee 35 .

le k-groupe multiplicatif Gm := { y 0 0 z | y.2.polynomes R1 et R2 de A[T ] avec r = R1 P + R2 P . On dit que ϕ est dominante si ϕ induit une injection k[Z2 ] → k[Z1 ] e i. On dit que ϕ est un plongement si ϕ induit une surjection k[Z2 ] → k[Z1 ] i. plus bri`vement un k-groupe e e e e est une k-vari´t´ G ⊂ GL(V) ⊂ End(V) qui est un groupe pour la composition ee des endomorphismes. si ϕ est injective d’image Zariski ferm´e. Soit ϕ : Z1 → Z2 une application k-r´guli`re entre deux vari´t´s alg´briques e e ee e irr´ductibles. e Remarque Le th´or`me de Chevalley dit que l’image de tout morphisme domie e nant contient un ouvert de Zariski dense. On prend alors a = p qi r o` u qi est un des coefficients non nuls de Q. il existe un ouvert de Zariski dense ee e e Z1 ⊂ Z1 lisse d´fini sur k sur lequel ϕ est une submersion i. Voici e e donc quelques d´finitions.e. la constante a = p qi e par a = δp qi o` δ est le discriminant de P . On note Gk := G ∩ GL(d.2 Groupes alg´briques e Nous ne parlerons ici que de groupes alg´briques lin´aires. 36 . e Un groupe alg´brique (lin´aire) d´fini sur k ou. Notons alors λ ∈ K une racine de ce polynˆme qui n’est o i i pas racine du polynˆme non nul i ψ(qi )T .3 Soit ϕ : Z1 → Z2 une application r´guli`re dominante entre e e deux vari´t´s alg´briques irr´ductibles. Un k-morphisme de k-groupes ϕ : G1 → G2 est un k-morphisme de k-vari´t´s ee qui est aussi un morphisme de groupes. u 4. exemple : y → y 2 dans Gm ). e D´monstration Remplacer dans la preuve du lemme 4. k) le groupe des k-points de G. GA = G ∩ GL(d.e. Une k-isog´nie est un k-morphisme surjectif de noyau fini (on notera que le e morphisme entre les k-points n’est pas toujours surjectif . si l’image de ϕ est Zariski dense.e. A) est un sous-groupe de G. δ) ∈ End(V) × K | δ detg = 1} . sur lequel la e diff´rentielle dϕ est surjective. 1 x Par exemple. e On a k[Ga ] = k[x] et k[Gm ] = k[y. xy = 1} ou le k-groupe lin´aire GL(V) {(g. Si on examine la preuve du th´or`me e e de Chevalley. Alors. et plus g´n´ralement. on obtient la pr´cision suivante : e Corollaire 4. le k-groupe additif Ga := { 0 1 | x ∈ K}. z ∈ K. La formule ψ( ai x ) = o ψ(ai )λi d´finit bien un morphisme de B dans K qui prolonge ψ et tel que ψ(b) divise e i i ψ(qi )λ = 0. e e pour tout sous-anneau A de K. y −1 ]. Le polynˆme 0≤i≤ ψ(pi )T i ∈ K[T ] a o alors racines distinctes.

1 prouve qu’au moins un point de l’orbite est e e e dans l’int´rieur de l’adh´rence cette l’orbite. C ou une extension finie de Qp .4 Les orbites d’une k-action alg´brique sont ouvertes dans leur e adh´rence (pour la topologie de Zariski).e. L’alg`bre de Lie g s’identifie ` l’espace tangent en e ` e e a a G. e Nous aurons souvent besoin de la proposition suivante qui joue un rˆle central o dans la th´orie des groupes alg´briques et qui affirme que tout espace homog`ne e e e G/H de k-groupes peut se r´aliser comme une orbite dans l’espace projectif d’une e k-repr´sentation de G. gk est aussi l’alg`bre de Lie du groupe de Lie k-analytique Gk .3 Actions alg´briques e L’un des int´rˆts majeurs des “groupes et actions alg´briques” est ee e la propri´t´ suivante de leurs orbites qui contraste fortement avec les ee orbites des actions ergodiques. faisons une pause e pour d´crire quelques propri´t´s des k-groupes et leurs actions. il existe une k-repr´sentation de G dans un espace vectoriel Vk et un e point x dans l’espace projectif P(Vk ) dont le stabilisateur dans G est H.5 L’image ϕ(G) d’un k-morphisme de k-groupes ϕ : G → H est un k-sous-groupe. Alors. e D´monstration Le th´or`me 4. e e Corollaire 4.6 (Chevalley) Soit G un k-groupe et H ⊂ G un k-sous-groupe. Ils y sont donc tous. e Un k-cocaract`re de G est un k-morphisme χ : Gm → G. 37 . Proposition 4. e Une k-repr´sentation de G dans un k-espace vectoriel Wk est un k-morphisme e ρ : G → GL(W). e Avant de poursuivre cette importante liste de d´finitions. e D´monstration L’adh´rence de Zariski ϕ(G) est un k-sous-groupe. e e e L’alg`bre de Lie g d’un k-groupe G est l’ensemble des d´rivations invariantes e e a gauche de l’alg`bre K[G]. H = {g ∈ G / g x = x}. Une k-action de G sur une k-vari´t´ Z est une action G × Z → Z qui est ee donn´e par une application k-r´guli`re. On note ` ` a gk les k-points de g. i. c’est a dire ` l’intersection des noyau Ker(dP (e)). l’image ϕ(G) est ouverte dans cette adh´rence.4. pour P ∈ I(G). e Proposition 4.Un k-caract`re de G est un k-morphisme χ : G → Gm . D’apr`s la e e proposition 4. e ee 4. Or un sous-groupe e ouvert est aussi ferm´. Lorsque k = R.

L’action de G sur K m [G] donn´e par (π(g)P )(g ) := e e P (g g) est une k-repr´sentation. H = {g ∈ G / g v = v}. Alors.8 Soient k = R. Notons ρv : G → Z. e e Corollaire 4. e Lorsque le corps k n’est pas alg´briquement clos. g → gv l’application orbitale. En particulier. a) Si G est Zariski-connexe. o` p := e u m p m dim I (H) et x est la droite de V d´finie par x := Λ (I (H)). i.7 Soit G un k-groupe et H ⊂ G un k-sous-groupe. i.e. N´anmoins e e e lorsque le corps de base k est R. on a l’´galit´ requise H = {g ∈ G / g x = x}.e. il existe une k-repr´sentation de G e e dans un espace vectoriel Vk et un point v ∈ Vk dont le stabilisateur dans G est H. On prend v sur cette droite. C ou une extension finie de Qp on obtient de tels ´nonc´s au niveau des k-points mais pour la topologie analytique. Alors.3. 18. b) On peut supposer que Z = Gv. celle issue e e de la topologie du corps localement compact k. Remarque l’assertion a) est encore vraie sans aucune hypoth`se sur le corps e infini k. b) Soit ρ : G × Z → Z une k-action de G sur une k-vari´t´ Z.4 au niveau des k-points. les orbites de Gk dans (Gv)k := Gv ∩ Zk sont ouvertes et ferm´es (pour e la topologie analytique). Supposons que H n’a pas de k-caract`re non trivial. La k-repr´sentation que nous cherchons est la e e e repr´sentation dans la pi`me puissance exterieure V := Λp (K m [G]). G et Z sont des k-vari´t´s ee lisses. C ou une extension finie de Qp et G un kgroupe. on ne peut pas esp´rer des e e ´nonc´s aussi nets que la proposition 4. D´monstration a) Le groupe Gk est un groupe de Lie sur k dont l’alg`bre de e e Lie gk s’identifie aux k-points de l’alg`bre de Lie de G. on peut trouver m tel que I m (H) ene gendre l’id´al I(H) de K[G]. le groupe Gk est Zariski dense dans G. Leurs k-points Gk et Zk sont donc des k-vari´t´s analytiques lisses dont ee les espaces tangents analytiques s’identifient aux k-points des espaces tangents alg´briques ` G et Z. Proposition 4. pour tout ee v ∈ Zk . C’est une e a 38 . D´monstration de la proposition 4. D´monstration L’action de H sur la droite x est triviale puisque tous les ke caract`res de H sont triviaux. Par construce tion. K m [G] := {P ∈ K[G] | d◦ P ≤ m} et I m (H) := I(H)∩K m [G]. l’espace homog`ne G/H a une structure naturelle de k-vari´t´ e ee quasiprojective. L’adh´rence de Zariski e e H de Gk est un k-sous-groupe de G dont l’alg`bre de Lie contient g. Puisque K[G] est noeth´rien. Voir [7] cor.En particulier.6 Nous aurons besoin des notations : e I(H) := {P ∈ K[G] | P |H = 0}. On a donc e H = G.

la diff´rentielle dρv : Te G → Tv Z e est surjective.application surjective. Donc les Gk -orbites dans (Gv)k sont ouvertes dans (Gv)k . sa diff´rentielle est donc surjective sur e un ouvert de Zariski non vide.Soit g ∈ Gk . s et u sont invariants par le groupe de Galois Gal(K/k). Donc s et u sont dans G. u ∈ G. Par le corollaire 4. La u a mˆme preuve assure que. Lemme 4. ces Gk -orbites dans (Gv)k sont des unions de composantes connexes analytiques de (Gv)k .9 Soient g ∈ GL(V) et G ⊂ GL(V) un k-groupe.3. iii) g ∈ G =⇒ s. pour tout t ∈ k.Lorsque k = R. iv) g ∈ Gk =⇒ s. Le sous-espace I m [G] := I[G] ∩ K m [EndV] est invariant par g.On peut aussi montrer que Gk n’a qu’un nombre fini d’orbites dans Gv ∩ Zk . Donc il est aussi invariant par sa composante semisimple et unipotente qui n’est autre que π(s) et π(u). e Remarques . 4.4 El´ments semisimples et unipotents e Rappelons dans ce cadre les d´finitions d’´l´ments semisimple et e ee unipotent et leurs principales propri´t´s. on peut ´crire u = eN avec N e nilpotent. on peut ´crire de fa¸on unique s = hk = kh avec h = eH e c o` H est diagonalisable sur R et k semisimple ` valeurs propres de module 1. l’application ρv : Gk → Zk e e est donc ouverte au voisinage de e. ee Un ´l´ment g ∈ End(V) est semisimple si il est diagonalisable sur K et uniee potent si g − 1 est nilpotent. e e o m iii) Consid´rer l’action de G sur K [EndV] := {P ∈ K[EndV] / d◦ P ≤ m} e donn´e par (π(g)P )(x) := P (xg). Par G-invariance. Par suite ces orbites sont aussi ferm´es. e Remarques . l’´l´ment ut := etN est e ee dans Gk . l’´l´ment ht := etH est dans GR . . u ∈ Gk . Le lemme suivant est la classique d´composition de e Jordan. on a P (s) = (π(s)P )(1) = 0 et P (u) = (π(u)P )(1) = 0. Par le th´or`me des fonctions implicites. D´monstration i) Classique. On remarque tout d’abord que l’action sur e K m [EndV] d’un ´l´ment semisimple ou unipotent de GL(V) est encore semiee simple ou unipotente. pour tout t ∈ R. i) g peut s’´crire de fa¸on unique g = su = us avec s semisimple et u unipotent. e ii) Les composantes s et u peuvent ˆtre exprim´es comme des polynˆmes en g. e c ii) Tout sous-espace W ⊂ V invariant par g est aussi invariant par s et u. Donc pour tout P ∈ I m [G]. . Comme chark = 0. e ee 39 . iv) Par unicit´. La mˆme preuve assure que.Lorsque k = R.

e e ` Un k-groupe semisimple est dit adjoint si son centre est trivial. Une k-repr´sentation d’un k-groupe est semisimple si tout k-sous-espace invae riant admet un suppl´mentaire invariant. e Un k-tore est k-d´ploy´ si il est isomorphe sur k a une puissance (Gm )r . y −1 ] tel que F (y) = F (y n )/n pour tout n ≥ 1. e Voici tout d’abord des notions stables par changement de corps de base. cela ´quivaut ` la simple connexit´ pour la e a e topologie analytique). et est donc ee une constante. Un k-groupe G est connexe si il est connexe pour la topologie de Zariski (lorsque k = C. e 40 . Un k-groupe est un k-tore si il est ab´lien et si tous ses ´l´ments sont semie ee r simples i. cela ´quivaut ` la connexit´ pour la topologie analytique).5 Groupes alg´briques (suite) e Reprenons maintenant la liste des d´finitions relatives aux groupes e alg´briques. e e ` Un k-groupe est k-d´ploy´ si il contient un k-sous-tore maximal qui est ke e d´ploy´. y −1 ]. b) g est unipotent =⇒ ρ(g) est unipotent. 4. e e Un k-groupe G est dit k-isotrope si il contient un k-sous-tore k-d´ploy´ non e e trivial et k-anisotrope sinon. Proof. s’il est isomorphe sur K a une puissance (Gm ) du groupe multipli` catif. ee Le radical unipotent d’un k-groupe est le plus grand sous-groupe distingu´ e unipotent. Le point principal est alors de prouver que tous les k-morphismes ϕ : Ga → Gm et ψ : Gm → Ga sont triviaux.Lemme 4. On peut supposer que k = K et que G est le plus petit K-groupe contenant g. Un k-groupe est unipotent si tous ses ´l´ments sont unipotents. e Un k-groupe est semisimple si il ne contient pas de k-sous-groupe distingu´ e connexe ab´lien. donc est une constante. Alors y ◦ ϕ est un ´l´ment inversible de k[x].10 Soient ρ : G → H un k-morphisme de k-groupes et g ∈ G. e a e Un k-groupe G est simplement connexe si toute k-isog´nie H → G avec H e connexe est injective (lorsque k = C. a) g est semisimple =⇒ ρ(g) est semisimple. Un k-groupe G est dit k-quasisimple si il est connexe et si tout k-sous-groupe distingu´ propre est fini. et x ◦ ψ est un ee ´l´ment F (y) ∈ k[y. e Voici maintenant des notions qui d´pendent fortement du corps de base. Autrement dit il est semisimple ssi il est r´ductif a centre fini. Un k-groupe est r´ductif si son radical unipotent est trivial. On a k[Ga ] = k[x] et k[Gm ] = k[y.e.

Ces languages parlent ` ` presque du mˆme objet. on a l’´quivalence : G est ke isotrope ssi Gk contient des ´l´ments unipotents non triviaux.14 e supposer k = C. Les e e e g´om`tres alg´bristes et les arithm´ticiens pr´f`rent souvent le premier language e e e e ee car il ouvre la voie a des extensions a d’autres corps que R. C’est un yoga utile de passer d’un language ` a l’autre.15 de Jacobson e e e e Morozov.b. Chaque espace propre gχ associ´ a un e` caract`re non trivial χ de T est d´fini sur k et est form´ d’´l´ments nilpotents. D´monstration Pour montrer cela on peut. ee D´monstration Pour l’implication directe on diagonalise l’alg`bre de Lie g pour e e l’action adjointe d’un tore k-isotrope T. comme pour la proposition 2..11 Lorsque G est semisimple. ee e e e Proposition 4.. Y ) ee dont l’´l´ment H engendre l’alg`bre de Lie d’un k-tore d´ploy´ de dimension 1. La r´ciproque r´sulte de la proposition 2. tout comme le coffee am´ricain et le caff` italien d´sie e e e gnent presque la mˆme boisson. Une ´quivalence entre ces a e e e cat´gories est donn´e par les foncteurs G → G → g o` G est le revˆtement e e u e universel de GR et g := Lie(G). Ou encore. La d´composition de Jordan dans e e e G pour montrer la d´composition de Cartan de G. Par exemple. H.12 Une k-repr´sentation d’un k-groupe semisimple G est semie simple. Chaque ´l´ment nilpotent X de gk fait partie d’un sl2 -triplet (X. et appliquer l’astuce unitaire avec le sous-groupe compact K ⊂ GC dont l’alg`bre de Lie k est une forme r´elle compacte de l’alg`bre de Lie g de e e e GC .5. e e e ee On retrouvera cet argument en montrant le lemme 5. e On a vu ` plusieurs reprises ces deux points de vue s’´clairer l’un l’autre.14 et du th´or`me 2. Proposition 4. a e Rappelons en deux exemples particuli`rement importants : L’astuce unitaire pour e montrer la semisimplicit´ des k-repr´sentations. On a vu que ce groupe K existe dans le th´or`me 3. e 41 . e Les g´om`tres diff´rentiels et les analystes pr´f`rent souvent le deuxi`me lane e e ee e guage car il est plus adapt´ aux questions g´om´triques et topologiques. un sous-espace de Cartan a de g n’est rien d’autre que “l’alg`bre e de Lie des points r´els d’un tore R-d´ploy´ maximal A de G”. e e Remarque La cat´gorie des R-groupes semisimples simplement connexes G est e ´quivalente la cat´gorie des groupes de Lie semisimples r´els simplement connexes e e e G ou ` celle des alg`bres de Lie semisimples r´elles g.Une k-repr´sentation d’un k-groupe G est k-irr´ductible si 0 et W sont les e e seuls k-sous-espaces G-invariants.1. la e e e cat´gorie des repr´sentations de dimension finie de g est ´quivalente ` la cat´gorie e e e a e des R-repr´sentations de G.

du plongement du Q-groupe dans un groupe de matrices. e e 42 . si g est dans le sous-groupe de congruence Γm := {g ∈ GZ / g = 1 mod m}.1 est provisoire : nous l’´tendrons dans le chapitre 11. pour une forme quae dratique enti`re non d´g´n´r´e. On renvoie au chapitre 4 pour les d´finitions pr´cises des e e e e notions relatives aux groupes alg´briques que nous utiliserons.2 Soit ρ une Q-repr´sentation d’un Q-groupe G dans un Q-espace e vectoriel VQ . e e b) Tout r´seau ∆0 ⊂ VQ est pr´serv´ par un sous-groupe d’indice fini de GZ . que. ce groupe GZ pr´serve aussi un r´seau de VQ . Alors. alors ρ(g)a des coefficients entiers.1 Groupes arithm´tiques e Donnons tout d’abord la d´finition d’un sous-groupe arithm´tique e e d’un Q-groupe et v´rifions qu’elle ne d´pend pas. a commensurabilit´ e e ` e pr`s. Puisque Γm est d’indice fini dans GZ .5 Groupes arithm´tiques e Nous avons montr´ dans le chapitre 1. e D´finition 5. e Rappelons que l’expression Q-groupe est un raccourci pour groupe alg´brique e lin´aire d´fini sur Q. e Cette d´finition 5. le sous-groupe GZ des matrices ore e e ee thogonales enti`res est un r´seau dans le groupe GR des matrices e e orthogonales r´elles. Le coefficient constant de ces polynˆmes est nul. Donc il existe o un entier m ≥ 1 tel que. a) Le groupe GZ pr´serve un r´seau ∆ ⊂ VQ .1 Soit G un Q-groupe. 5. Le sous-groupe GZ de G est appel´ souse e groupe arithm´tique. a Le corollaire ci-dessous affirme que le sous-groupe arithm´tique d’un Q-groupe e G est bien d´fini ` commensurabilit´ pr`s. e e e D´monstration a) Choisissons une base de VQ . e e Deux sous-groupes Γ1 et Γ2 d’un groupe Γ sont dits commensurables si l’intersection Γ1 ∩ Γ2 est d’indice fini ` la fois dans Γ1 et Γ2 . e Le but de ce chapitre est de montrer comment la preuve s’adapte a tous les Q-groupes et d’obtenir ainsi le th´or`me de Borel et Harish` e e Chandra. Les coefficients des matrices e ρ(g)−1 s’expriment comme des polynˆmes a coefficients dans Q en les coefficients o ` des matrices g − 1. ind´pendamment de “la r´alisation de e a e e e e G comme groupe de matrices”. Lemme 5.

en quotientant G e par son radical unipotent. on peut supposer. On en d´duit facilement le corollaire suivant. cet ´l´ment X est nilpotent. Alors les groupes ϕ(G1. l’alg`bre de Lie de l’image d’un Q-cocaract`re est e e e de dimension 1 et est engendr´e par un ´l´ment H diagonalisable. e Corollaire 5. e b) GZ est cocompact dans GR ssi GZ n’a pas d’´l´ment unipotent non trivial. alors GZ est cocompact dans GR . N0 ≥ 1 e tels que N ∆ ⊂ N0 ∆0 ⊂ ∆. alors que. ` e D´monstration du lemme 5. X] = pX.5 a) Par la proposition 4. e Remarque Un k-groupe G a un k-caract`re non trivial ssi il a un k-cocaract`re e e central non trivial. Harish-Chandra et le point b) ` Godement. e e a) Si G n’a pas de Q-caract`re non trivial. En effet.3 Soit ϕ : G1 → G2 un Q-isomorphisme de Q-groupes. Comme les e ee seuls carat`res du groupe multiplicatif Gm sont les puissances z → z n . l’image χ(GR ) e contient R+ . e e b) Si G n’a pas de Q-cocaract`re non trivial.2. on peut e supposer que les valeurs propres de H sont enti`res.Z ) et G2. l’orbite e e ee adjointe AdGR (X) contient 0 dans son adh´rence. pour le v´rifier.4 de Lie.4 Soit G un Q-groupe. alors GZ n’est pas un r´seau de GR . e e b) Si G a un Q-cocaract`re non trivial. e e On remarque alors que G est presque produit d’un tore k-isotrope par un tore k-anisotrope. On renvoie a [7] pour plus de d´tails.8. cet ´l´ment H n’est pas dans le centre de g. e Corollaire 5.b) C’est une cons´quence du a) puisqu’on peut trouver des entiers N. l’orbite adjointe AdGR (X) serait ferm´e. alors GZ est un r´seau de GR . Par le a) et la remarque e ci-dessus. a) Alors GZ est un r´seau de GR . e Remarque Les r´ciproques des points a) et b) sont vraies et beaucoup plus e facile : Lemme 5. ee 43 .10. alors GZ n’est pas cocompact dans GR .Z sont commensurables. l’image χ(GZ ) est incluse dans (Gm )Z = {±1}. Si GZ ´tait cocompact dans e e GR . que G est r´ductif. a) Si G a un Q-caract`re non trivial.6 Soit G un Q-groupe semisimple. Comme G est presque produit de e son centre connexe et de son groupe d´riv´. En particulier. comme AdGZ (X) est un ensemble discret form´e de matrices a coefficients e ` entiers. par le lemme 5. Contradiction. b) D’apr`s le lemme 4. Il existe donc un entier ee p = 0 et un ´l´ment non nul X ∈ g a coefficients entiers tel que [H. Le but principal de ce chapitre est de d´montrer le th´or`me suivant dont le e e e point a) est dˆ ` Borel.5 Soit G un Q-groupe. on peut supposer que G est un tore. ua a Th´or`me 5. ee ` Par le th´or`me 2.

e Remarque Soit G un Q-groupe sans Q-caract`re. R´ciproquement.Remarque On a les ´quivalences : GZ n’a pas d’´l´ment unipotent non trivial e ee ⇔ GQ n’a pas d’´l´ment unipotent non trivial ⇔ gQ n’a pas d’´l´ment nilpotent ee ee non nul. adjoint et Q-anisotrope. un r´seau cocompact Γ de GR ne e e peut pas contenir d’´l´ment unipotent non trivial. Ce sera la deuxi`me ´tape du raisonnement. R). Voici pourquoi. Or. e e e 44 . adjoint et Qe isotrope. d`s qu’on se donne une Q-repr´sentation fid`le de G dans VQ . Notons que cette ´tape est e e e la plus d´licate.5 que si G ea e a des Q-cocaract`res non triviaux alors gQ contient des ´l´ments nilpotents non e ee nuls. est une e e u application du crit`re de Mahler. Cette ´tape contient le crit`re de compacit´ de Godement.2 Strat´gie de d´monstration du th´or`me 5. le caract`re g → e e det(Ad(g)) est un Q-caract`re. D’autre part. On veut alors appliquer encore une combinaison des corollaires 1. e e La troisi`me ´tape. comme l’application adjointe Ad est d´finie sur Q. il suffit de construire une probabilit´ µ port´e par GR v´rifiant la condition e e e [HI]. ` e 5. Il est donc trivial. le groupe GZ y apparaissant comme un r´seau non cocompact. le cas g´n´ral s’en d´duit par le th´or`me e e e e e e 2. de e e e voir cette mesure λ comme une mesure de Radon sur l’espace X des r´seaux de e volume 1 de VR . Cette strat´gie aboutira uniquement lorsque G est Q-simple.14. l’application X → eX − 1 et son inverse X → log(1 + X) sont donn´es e par des polynˆmes ` coefficients rationnels quand on les applique ` des matrices o a a nilpotentes.7) qui e e permettra. D´monstration de : th´or`me 5. la classe de conjugaison d’un ´l´ment γ0 ∈ Γ est ferm´e car ee e −1 l’ensemble des conjugu´s {γγ0 γ | γ ∈ Γ} est discret et GR /Γ est compact.5 et 1.4. Remarquons de nouveau que cette condition ne fait plus intervenir le groupe GZ . ee D’une part. On veut montrer que la e mesure GR -invariante λ sur GR /GZ est finie.15 de Jacobson Morozov. e En effet. lorsque G est semisimple. la classe de conjugaison d’un ´l´ment unipotent contient e dans son ee adh´rence : c’est facile pour SL(2.4 ⇒ corollaire 5. Alors GR est unimodulaire.6 e e e a) Un groupe semisimple n’a pas de caract`re. le cas o` G est Q-simple. En effet. La premi`re ´tape est un joli argument de plongement (proposition 5. Elle prouvera que dans ce cas le quotient GR /GZ e est compact. e b) On a d´j` vu dans la d´monstration du point b) du lemme 5.a e e e e Soit G un Q-groupe sans Q-caract`re. Pour cela. la fonction module est la e valeur absolue de la restriction a GR de ce caract`re.

h ∈ HZ . e le stabilisateur de tout point non nul v sur la droite x est aussi ´gal ` G. on passera du cas Q-simple adjoint au cas r´duce e e tif sans Q-caract`re. Elle contient donc en particulier le th´or`me des unit´s de Dirichlet. D’apr`s la proposition 4. le groupe HZ stabilise un r´seau ∆ ⊂ VQ . G admet e une Q-repr´sentation fid`le ρ qui est R-irr´ductible. On peut choisir ∆ contenant e v. Alors l’injection GR /GZ → X = HR /HZ est propre. La suite gn γn est alors convergente.4 Le cas Q-simple et Q-isotrope Voici un cas particulier du th´or`me de Borel et Harish-Chandra e e qui se trouve ˆtre le cas le plus d´licat. Ce sera de nouveau une application du crit`re de Mahler e e (proposition 5. e Soit hn ∈ HZ tel que lim gn hn = h. adjoint et Q-isotrope Alors GZ est un r´seau de GR e D´monstration Le premier point est de voir que. e e e Enfin. e e Lemme 5.8 Soit G un Q-groupe Q-simple. cette injection est un hom´omorphisme sur une partie ferm´e e e de X D´monstration Nous devons montrer que pour toute suite gn ∈ GR . la suite gn GZ converge dans GR /GZ . La suite h−1 v converge vers h−1 v et est n n→∞ donc constante pour n grand. il existe une Qe repr´sentation de H dans un Q-espace vectoriel VQ et un pointr x ∈ P(VQ ) dont e le stabilisateur dans H est G. Autrement dit. dans la cinqui`me et derni`re ´tape. comme G est adjoint. C) un Q-groupe sans Q-caract`re non e trivial. Cette ´tape importante contient le cas o` G est un tore Qe u anisotrope.3 Le plongement dans l’espace des r´seaux e Le plongement suivant permet de relier l’´tude du quotient GR /GZ e d a celle de l’espace des r´seaux de R . Par le e a lemme 5. la d´composition de Levi pour les e e e e Q-groupes G = RU comme produit semidirect d’un Q-groupe reductif R et d’un Q-groupe unipotent U (d´composition que nous admettrons) permettra de e montrer le th´or`me pour tous les Q-groupes sans Q-caract`re. On peut donc ´crire. ` e Proposition 5.2. e e e 5. La repr´sentation adjointe est e e e e somme directe ρ1 ⊕ · · · ⊕ ρ de repr´sentations irr´ductibles de G = G1 × · · · × G e e qui correspondent aux id´aux gi de l’alg`bre de Lie de G.11).7 Soit G ⊂ H = GL(d.6 (avec H pour G et G pour H). 5. telle que e gn HZ converge dans dans HR /HZ . Chaque repr´sentation e e e 45 . Puisque tous les Q-caract`res de G sont triviaux. Donc la HZ -orbite de v est discr`te dans VR . pour n grand. hn = γn h avec e γ ∈ GZ .Dans la quatri`me ´tape.

7. Alors GZ est un r´seau cocompact de GR e D´monstration Comme G est adjoint. C). le quotient GR /GZ est hom´omorphe au sous-ensemble e ferm´ {Adg(gZ ) | g ∈ GR } de l’ensemble des r´seaux de gR . Ce groupe UR pr´serve e e d une forme hermitienne sur C . b) Dans ce cas. Elle est donc e e e l’alg`bre de Lie d’un sous-groupe compact UR de GL(d. le e groupe GR n’a pas de facteur compact. l’adjoint t g est aussi dans G. GR est engendr´ par GR ∩ S + e Rappelons que S + est l’ensemble des matrices sym´triques d´finies positives. Comme [q. q] ⊕ q et GR est engendr´ par exp(q). q] ⊕ q e e est un id´al de gR et que GR n’a pas de facteur compact. Si le quotient n’´tait pas compact. ` e La sous-alg`bre u = k ⊕ iq a une forme de Killing d´finie n´gative. En outre tous ces e e r´seaux sont de mˆme covolume. Q). C) un R-groupe semisimple. On prend pour ρ le produit tensoriel ρ = ρ1 ⊗· · ·⊗ρ de ces repr´sentations.Alors a) il existe un produit scalaire euclidien sur Rd tel que. le crit`re de e e e e 46 . C’est une repr´sentation fid`le de G d´finie sur Q qui est e e e e C-irr´ductible. ` b) Dans la d´composition gR = k ⊕ q. un tel facteur est R-isotrope et donc non compact. on a l’´galit´ gR = e e e [q. comme G est Q-simple et Q-isotrope. si GR n’a pas de facteur compact.10 Soit G un Q-groupe Q-simple et Q-anisotrope. En effet. e 5. on peut supposer que G est inclus dans e le groupe Aut(g) des automorphismes de l’alg`bre de Lie g. Le troisi`me point est d’utiliser le lemme 5. e Par la proposition 5.9 Soit G ⊂ GL(d.9 suivant qui permet de construire e une probabilit´ µ port´e par GR v´rifiant la condition [HI]. un tel facteur est le groupe (Gi )R des R-points d’un facteur R-simple Gi de G vu comme R-groupe. e Corollaire 5. comme G est Q-simple et Q-isotrope. Elle est donc R-irr´ductible. On prend pour produit scalaire la partie r´elle de e d la restriction a R de cette forme hermitienne. Mais. les ´l´ments M de q sont sym´triques et e ee e leurs exponentielles exp(M ) sont sym´triques d´finies positives. pour tout g dans G. a ` e e Lemme 5. Ce qui permet de e e e conclure grˆce a la strat´gie d´crite ci-dessus. e e D´monstration L’alg`bre de Lie gR de GR admet une involution de Cartan e e θ qui correspond a une d´composition de Cartan gR = k ⊕ q (voir chapitre 3).5 Le cas Q-simple et Q-anisotrope Cette ´tape est plus simple que la pr´c´dente : Elle n’utilise que e e e le plongement et le crit`re de Mahler. e e Le deuxi`me point est de voir que.ρi est irr´ductible sous l’action de Gi et ces repr´sentations sont permut´es par le e e e groupe de Galois Gal(C. comme G est Q-simple.

10 de Minkowski. i. assure qu’il existe e e une suite an ∈ AZ − {0} telle que gn an converge vers 0 et que toute suite an ∈ AZ −1 telle que gn an gn converge vers 0 est nulle pour n grand. an B = 0. la proposition 1. la proposition 1. Elle donc nulle pour n grand. 5. Et G n’est pas Q-anisotrope. d’autre part. assurerait qu’il existerait gn ∈ GR e et Xn ∈ gZ − {0} tel que Ad(gn )(Xn ) converge vers 0. Alors. On suppose que G n’a pas de Q-caract`re. l’anneau AZ = A ∩ End(VZ ) est un r´seau de AR := A ∩ End(VR ) que l’on peut supposer e de covolume 1. e e Alors les groupes ϕ(GZ ) et HZ sont commensurables. an Bcn B = 0. Il est donc produit de groupes Q-simples adjoints. car tous e e deux sont invariants par le groupe de Galois Gal(C/Q). D´monstration Soit G ⊂ End(V) notre Q-groupe et A := EndC (V) le come mutant de C dans End(V). 47 . i. Xn est nilpotent. e Le crit`re de compacit´ de Mahler. Comme C est d´fini sur Q. on peut trouver C0 > 0 et des ´l´ments non nuls cn ∈ BZ tels que ee −1 −1 cn gn ≤ C0 . par le lemme 1. Puisque detB gn = 1. le quotient HR /HZ est hom´omorphe e e a l’ensemble des conjugu´s {h(AZ ) | h ∈ HR }. Rappelons que G n’a pas de Q-caract`re. Le groupe G agit de deux fa¸ons sur l’alg`bre A : l’action ρ par translation a c e ` gauche et l’action σ par conjugaison qui factorise en une action de H. on peut supposer que an est dans l’un des e e BZ − {0}. Pour tout i ≥ 1. Donc. Contradiction. et an = 0. Supposons par l’absurde que l’application π n’est pas propre.compacit´ de Mahler. A est aussi d´finie sur Q.12 Soit ϕ : G → H une Q-isog´nie entre deux Q-groupes r´ductifs.e. il existe −1 donc une suite gn ∈ GR telle que gn AZ n’est pas born´e tandis que gn AZ gn est e born´e. Soit bi une base de BZ . Proposition 5. e l’application induite π : GR /GZ → HR /HZ est une application propre. pour ee n 0. Comme le centre C est r´ductif. l’alg`bre associative e e A est semisimple.7 on e obtient. an bi cn = 0. Puisque l’alg`bre associative semisimple A est somme directe de ses id´aux e e bilat`res d´finis sur Q minimaux B.6 Le cas r´ductif e Le lemme clef pour passer du cas Q-simple adjoint au cas r´ductif e est la proposition suivante. Donc pour n grand. que le quotient GR /GZ est hom´omorphe a l’ensemble des e ` translat´s {gAZ | g ∈ GR } et.8. Remarques Ce quotient H est un Q-groupe semisimple adjoint. d’une part. la suite i d’entiers n → tr(Xn ) converge vers 0. En outre tous ces r´seaux sont de ` e e covolume 1. En appliquant deux fois la proposition 5. C le centre de G et H le Qe groupe quotient H = G/C.e.8.11 Soit G un Q-groupe r´ductif. En particulier. on a successivement. Contradiction. Corollaire 5. Les ´l´ments gn an bi cn gn convergent aussi vers 0.

Puisque le sous-groupe arithm´tique (Ga )Z e Z est un r´seau cocompact du e groupe de Lie (Ga )R R. e D´monstration du th´or`me 5. e e alors GZ est un r´seau de GR e D’apr`s la d´composition de Levy. ` e Remarque L’analogue de ce corollaire pour les Q-points est inexact : les groupes ϕ(GQ ) et HQ ne sont pas toujours commensurables. tout k-groupe unipotent de dimension n ≥ 1 est un produit semidirect du k groupe additif Ga de dimension 1 et d’un k-sous-groupe distingu´ unipotent e U de dimension n − 1.D´monstration Quitte a remplacer G et H par l’intersection des noyaux de e ` leurs Q-caract`res. nous pouvons maintenant terminer par r´currence notre raisonnement. ces remarques ram`nent la d´monstration du th´or`me e e e e 5.4 au cas r´ductif que nous avons obtenu dans la proposition 5. e 48 . On applique alors deux fois la proposition 5. tout k-groupe G est un produit semidirect L U d’un k-groupe r´ductif L et e d’un k-sous-groupe distingu´ unipotent U.7 Conclusion En utilisant la structure des Q-groupes.11 a ` G puis a H pour en d´duire que l’application GR /GZ → HR /HZ est propre. Prendre par exemple G = SL(2) et H = PGL(2) et regarder les ´l´ments de HQ donn´s par ee e p 0 0 1 . e En outre. on peut supposer G et H sans Q-caract`re. Notons ZG le e e centre de G et ZH le centre de H.4 Remarquons tout d’abord que si G = H N e e e est une d´composition d’un Q-groupe G en un produit semidirect d’un Q-souse groupe H et d’un Q-sous-groupe distingu´ N. 5.11. En particulier si HZ est un r´seau de HR et NZ est un r´seau de NR . valable sur tout corps k de caract´ristique e e e 0. alors le groupe HZ NZ est inclus e dans GZ . On remarque que l’application ϕ induit un isomorphisme G/ZG H/ZH .

ψ : g → ϕ(x)ψ(gx)dν(x) X 49 . de d´croise c ee e e a e sance des coefficients des repr´sentations unitaires. e a e L’objectif arithm´tique est de donner l’asymptotique en r du nome bre de matrices de SL(d.w (g) = < π(g)v. . on la montre tout d’abord pour les fonctions continues a support compact puis on utilise la densit´ de ces fonctions dans L2 (X. Nous obtiendrons plus g´n´ralement un tel asymptotique pour tous les r´seaux Γ des groupes e e e de Lie quasisimples G. elles sont e e de dimension finie. nous utiliserons en plus e e quelques propri´t´s sur la structure des groupes de Lie semisimples ee r´els. e D´finition 6. ee e Les d´monstrations ci-dessous sont self-contained pour SL(d. e 6.1 Une repr´sentation unitaire π d’un groupe localement compact e e G dans un espace de Hilbert (s´parable) Hπ est un morphisme de G dans le e groupe U (Hπ ) des transfomations unitaires de Hπ . Z) de norme au plus r.w : G → C donn´e par cv.1 Repr´sentations unitaires et m´lange e e Commen¸ons par la partie th´orie des repr´sentations unitaires et c e e ´non¸ons une propri´t´ g´n´rale. La th´orie des repr´sentations unitaires joue un rˆle central dans e e o cette propri´t´ de m´lange. Pour tout v. Par Peter-Weyl. Dans le cas g´n´ral. . due ` Howe et Moore. l’application G → Hπ . g → π(g)v est continue. toute repr´sentation unitaire est une somme hilbertienne e orthogonale de repr´sentations unitaires irr´ductibles. Z). d´compositions de Cartan et d’Iwasawa. w dans Hπ .Supposons que G agisse continˆment sur un espace localement compact X en u pr´servant une mesure de Radon ν.La repr´sentation triviale est la repr´sentation constante π(g) = Id.6 M´lange et comptage e Ce chapitre est encore au coeur des th`mes de ce cours reliant th´oe e rie des nombres et th´orie ergodique ` travers la th´orie des groupes. ν).Quand G est compact. ` e Les coefficients cϕ. pour tout v dans Hπ . le coefficient est la fonction continue cv. w >. e Exemples . que nous avons d´mone e e tr´es au chapitre 3. La propri´t´ ergodique est ici le m´lange de l’action des ´l´ments ee e ee de G sur le quotient de volume fini G/Γ. ν) Pour montrer la continuit´ des e e applications g → π(g)ϕ. tel que. e e Ses coefficients sont des fonctions constantes. e sauf pour une formule explicite pour la mesure de Haar dans la d´e composition de Cartan . Alors la formule (π(g)ϕ)(x) := ϕ(g −1 x) d´finit e e une repr´sentation unitaire π de G dans L2 (X.

l’hypoth`se est Hπ = 0. e e ` G G D´monstration Par r´currence. l’action de g sur X est ergodique. g→∞ Remarques . Par le th´or`me 6. Alors. i.e. . Moore) Soit G un groupe de Lie r´el connexe semie e e G simple ` centre fini et π une repr´sentation unitaire de G.Quand g est simple. on a la e e propri´t´ suivante de “d´croissance des corr´lations” : pour tout ϕ.2. R) et SO(p.Une extension aux r´seaux irr´ductibles sera donn´e dans le corollaire 7. l’hypoth`se sur H ´quivaut a H non compact. il n’y a qu’un nombre fini de Gi . ψ ∈ L2 (X. Soit v un vecteur H-invariant.D’apr`s le th´or`me 2. w dans Hπ . π(h)v = v} le sous-espace des vecteurs H-invariants. dx). e e e Pour tout sous-groupe H de G. . Th´or`me 6. il doit ˆtre nul.La preuve de ce th´or`me est report´e a la section 6. e Corollaire 6.7. notons H Hπ := {v ∈ Hπ / ∀h ∈ H. Alors l’action de G est m´langeante sur X = G/Γ. e e e ` . Donc v = 0. ee e e lim ϕ(x)ψ(gx)dx = X X g→∞ ϕ(x)dx X ψ(x)dx.Le symbole g → ∞ signifie que g sort de tout compact de G. on peut supe e e Gi poser que Hπ = 0 pour tout i. Alors Hπ = 0. q) sont quasisimples pour d ≥ 2 et p + q ≥ 3. pour tout v. e e .3. Remarque . e 50 . on a not´ dx = λX la probabilit´ G-invariante sur X. e e e Remarque En particulier.3 Soit G un groupe de Lie r´el connexe semisimple ` centre fini et e a π une repr´sentation unitaire de G sans vecteur G-invariant non nul. et que G est quasisimple si g simple (voir chapitre 3).Quand g est simple. e e e Corollaire 6.7. en ´crivant Hπ = Hπ i ⊕ (Hπ i )⊥ .Pour simplifier. Rappelons qu’un groupe de Lie G est semisimple si son alg`bre de Lie g est e semisimple. i.de cette repr´sentation sont aussi appel´s coefficients de corr´lation.2 (Howe.v est constant sur H. toute partie mesurable ge invariante A de X v´rifie λX (A) = 0 ou 1 (voir chapitre 8). Le coefficient cv. on a lim < π(g)v. e a Γ ⊂ G un r´seau.4 Soit G un groupe de Lie r´el connexe quasisimple ` centre fini. Supposons que Hπ i = 0 a e pour tout sous-groupe connexe normal Gi = 1.e. Soit H un e sous-groupe ferm´ de G dont les images dans tous les groupes quotients G/Gi = 1 e H sont non compactes. pour tout ´l´ment g ∈ G qui engendre un sous-groupe ee non-born´ de G. e e e G . Par exemple les groupes de Lie SL(d. w > = 0.

6 (Mautner) Soit π une repr´sentation unitaire d’un groupe locae lement compact G. e e On utilisera le lemme suivant. il suffit de remarquer que les fonctions G-invariantes ϕ de L0 (X. Et donc ϕ est presque sˆrement constante. alors on peut trouver x ∈ X tel que. us et us par leur rel`vement dans S.5 et sa d´monstration sont encore valables pour e le groupe S revˆtement universel de SL(2. dx) e 0 o` L2 (X. On utilise le lemme 6. dx) e e sont nulles. e s = 0 et v ∈ Hπ . il n’y a que deux cas ` traiter : e a at -invariant =⇒ us -invariant. n→∞ n→∞ 51 . dx) d´signe le sous-espace des fonctions d’int´grale nulle. D´monstration de la proposition 6. Cela r´sulte de Fubini car si. ϕ(gx) = ϕ(x) pour e presque tout x ∈ X. Grˆce a s aux sym´tries. On peut supposer t > 1. us := 1 0 s 1 . Si v est soit at -invariant. sn = a−n et sn = an . On v´rifie facilement e t t que lim sn gn sn = lim ut−2n s = e. u 6.3 pour le c groupe SL(2. Remarque La proposition 6. Pour v dans Hπ . sn .v (gn ) = cv. pour tout g dans G.D´monstration du corollaire 6. e e e b) Faire tendre n vers l’infini dans l’´galit´ cv. lim sn gn sn = e. soit t 0 at := 0 t−1 . Alors a) Sv = {g ∈ G / cv.6. Lemme 6. Pour t > 0 et s dans R. R). en rempla¸ant les groupes a un e c ` − param`tre at .2 Vecteurs invariants pour SL(2) Commen¸ons par une preuve directe du corollaire 6. t = 1. notons Sv = {g ∈ G / π(g)v = v} son stabilisateur dans G. D’apr`s le u 0 e e e 2 th´or`me 6.v (g) = v 2 }.b avec gn = g = us .4 Ecrivons L2 (X.5 Il suffit de montrer que l’invariance e de v par l’un des trois at . sn dans Sv avec lim gn = g . b) Soit g dans G tel qu’il existe gn dans G.v (sn gn sn ) pour obtenir e e cv.v (g) = v 2 .5 Soit π une repr´sentation unitaire de G = SL(2. us . R). Proposition 6. dx) = C1 ⊕ L2 (X. us -invariant ou u− -invariant alors.2. n→∞ n→∞ D´monstration a) Utiliser l’´galit´ π(g)v − v 2 = 2 v 2 − 2 Re(cv. il s est G-invariant. R). ϕ(gx) = ϕ(x) pour presque tout g ∈ G. u− := s 1 s 0 1 .v (g)). Alors g est dans Sv . Donc ϕ = 0. u− implique l’invariance par les deux autres.

u ) sont la somme des espaces propres de adX u associ´s aux valeurs propres strictement n´gatives (resp. on remarquera juste que la somme directe u− ⊕ ([u− . [H. La proposition 2. q On utilise le lemme 6. gn = On v´rifie facilement que lim sn gn sn = lim e n→∞ n→∞ p q t−1 snp 0 q p .2. On note U (resp L. U − ) les sous-groupes e de Lie connexes correspondants. nous sommes de nouveau dans le ee premier cas. H. Remarque Lorsque g = sl(d. et u = 1 un a ee ´l´ment unipotent de G. Par la proposition 6. H := 0 −1 . u] ∩ l) ⊕ u est un id´al de g e et est donc ´gal a g. Y ] = H. Y := 1 0 .3 e que nous n’avons pas encore d´montr´. s s 0 1 1 t−1 snp = e.us -invariant =⇒ at -invariant. l. Rappelons que s a e e pour base X. nous donnons la preuve du th´or`me 6. Y avec 0 1 1 0 0 0 X := 0 0 .15 de Jacobson-Morozov. On conclut que v est G-invariant grˆce a − au fait suivant : les deux groupes U et U engendrent G. R). Le mˆme argument que dans la proposition 6. Y ] = −2Y et [X. Ecrivons a = eX et d´composons e e − − g en g = u ⊕ l ⊕ u o` u (resp. R) e e e de g contenant X. sn = u−np and sn = unq . Rappelons qu’un ´l´ment g ∈ G est unipotent (resp.7 Soit π une repr´sentation unitaire d’un groupe de Lie r´el connexe e e quasisimple G ` centre fini.b avec g = at . Ce sont des sous-alg`bres de Lie. v est invariant par le sous-groupe S d’alg`bre de Lie s. D’apr`s le e th´or`me 2.3 D´croissance des coefficients e Dans cette section. a = 1 un ´l´ment hyperbolique de G.5. il existe une sous-alg`bre de Lie s sl(2. X] = 2X . strictement posie e tives). D´monstration 1er cas : v est a-invariant. 52 . 6.14 qui classifie les repr´sentations de s prouve e e que S contient des ´l´ments hyperboliques. nulles. la d´monstration du th´or`me de Jacobson e e e Morozov est tr`s facile. t = p .5 e montre que v est invariant par U et U − . diagonalisable sur R). Notons u = eN avec N ∈ g nilpotent. Pour montrer ce fait. e e Nous aurons besoin du lemme suivant qui est un cas sp´cial du corollaire 6.6. e ` e 2`me cas : v est u-invariant. On peut supposer que t est rationnel. On veut montrer que toute matrice nilpotente N est dans e l’image d’une repr´sentation de l’alg`bre de Lie s = sl(2. R). hyperbolique) si g = eX ee avec X ∈ g et adX nilpotent (resp. Si un ´l´ment v de Hπ est soit a-invariant ou u-invariant ee ee alors il est G-invariant. qui v´rifient les relations e [H. e e Lemme 6.

La compacit´ faible de la boule unit´ de Hπ affirme que. e 53 . R). toute suite vn ∈ Hπ e e avec vn ≤ 1 a une sous-suite vnk qui converge faiblement vers un vecteur v∞ i. comme a−1 uan → e. xd−2 y. On peut donc. . Secundo : toute matrice sym´trique d´finie e e e e positive est diagonalisable dans une base orthonorm´e. w >= 0 En outre. Remarque Pour G = SL(d. C’est ce que l’on voulait. lim kn = k . En particulier. ρd (X) est un bloc de Jordan de taille d et ρd (H) est diagonale.e. Y respectivement sur ∂ ∂ ∂ ∂ x ∂y .Dans une base convenable. On se e ram`ne facilement au cas o` N est un seul bloc de Jordan. y d−1 . . lim kn = k . dans la base xd−1 . on a limk→∞ vnk .il existe un ´l´ment unipotent u ∈ G non trivial tel que a−1 uan → e. n n n et pour certaines racines α de A dans g.7. w >= = 0 . d’un sous e groupe commutatif A form´ d’´l´ments hyperboliques tels que G = KA+ K. On peut supposer ee n que k = k = e. w > = lim < π(an )π(kn )v. R) et la chambre de Weyl A+ est l’ensemble des ´l´ments diagonaux de G a coefficients positifs et ee ` rang´s en ordre d´croissant. appel´e chambre de Weyl. e ee Si le coefficient < π(g)v. x ∂x − y ∂y et y ∂x . n n Ceci contredit le lemme 6. on a n π(u)v0 − v0 ≤ lim π(an )(π(a−1 uan )v − v) = 0 . Primo : toute matrice r´elle e ee e inversible est (de fa¸on unique) le produit d’une matrice orthogonale et d’une c matrice sym´trique d´finie positive. D´monstration du th´or`me 6. . quitte ` extraire. π(kn )w > n n n n = lim < π(gn )v.2 L’id´e est d’utiliser la compacit´ faible de e e e e e + la boule unit´ de Hπ et la d´composition de Cartan G = KA K de G pour e e construire dans Hπ un vecteur v0 invariant par un unipotent u ∈ G. le groupe K est le groupe SO(d. on peut trouver des suites e gn = kn an kn ∈ G = KAK telles que lim < π(gn )v. R) dans l’espace vectoriel Vd des polynˆmes de degr´ d − 1 sur R2 o e envoie X. pour tout v ∈ Hπ . . N est une matrice form´e de blocs de Jordan. parce que. H. La d´composition de Cartan de G (voir chapitre 3) affirme qu’il existe un souse groupe compact K de G et une partie A+ . v = v∞ . En particulier. ce vecteur est u-invariant. v . on a bien < v0 . Or la repr´sentation e u e ρd de sl(2. V´rifions que ce vecteur v0 est non nul. La d´composition de Cartan G = KA+ K est une e e e cons´quence des deux faits ´l´mentaires suivants. lim α(an ) = ∞. w > ne d´croit pas vers 0. supposer que la suite π(an )v a une limite faible a v0 ∈ Hπ . w > = −1 lim < π(an )v. e −1 Comme limn π(kn )v − v = limn π(kn )v − v = 0.

Z). K un sousgroupe compact maximal de G. ces mesures convergent vers la probabilit´ G-invariante sur X. notons g = sup v =1 gv .5 Equidistribution des grandes sph`res e La premi`re ´tape de la d´monstration consiste a pousser une proe e e ` babilit´ K-invariante sur le quotient X = G/Γ par de grands ´l´ments e ee de G et a montrer que les mesures obtenues ainsi s’´quir´partissent ` e e i.8. g→∞ 54 . #{g ∈ SL(d.4 Comptage des points d’un r´seau e Rappelons que notre objectif dans ce chapitre est de compter les points dans SL(d.. pour g ∈ GL(d.Il est possible. e c Notons Br := {g ∈ G | g ≤ r} la trace sur G de la boule de rayon r.10 On a lim g λY = λX . R) un sous-groupe de Lie quasisimple connexe. e Corollaire 6. Rudnick et Sarnak. on dira que f et g sont f (r) = 1.La croissance de vr est donc exponentielle. Notons λG la mesure de e Haar sur G que l’on normalise de sorte que la mesure induite λX sur le quotient X := G/Γ soit de volume 1. tel que. e Notons x0 = Γ le point base de X = G/Γ. Posons vr := λG (Br ).e. Alors. a partir du raisonnement ci-dessous de calculer ` explicitement la constante c. Remarques . il existe c > 0. e Proposition 6. On note de la mˆme fa¸on la norme induite sur les matrices.6. Y = Kx0 sa K-orbite et λY la probabilit´ K-invariante sur Y . R). e e e e ua Soit G → SL(d. Nous e ` e e e suivrons la d´monstration d’Eskin et Mc Mullen. Lorsque f et g sont deux fonctions positives sur ]0.9 Soit une norme euclidienne sur Rd et. comme fonction de R := log r.8 (Duke. Sarnak) #(Γ ∩ Br ) ∼ vr e e La fin de ce chapitre est consacr´e a la d´monstration du th´or`me 6. Rudnick. Ce comptage sera un corollaire imm´diat du e th´or`me g´n´ral suivant dˆ ` Duke.. . Soit Γ un r´seau de G. 6. asymptotiquement ´quivalentes et on notera f ∼ g lorsque lim e r→∞ g(r) Th´or`me 6. ∞[. une norme euclidienne K-invariante sur Rd . Z) | g ≤ r} ∼ c rd 2 −d . On veut estimer #(Γ ∩ Br ).

il existe un voisinage ouvert Gε de e dans G tel que e |ϕ(ux) − ϕ(x)| ≤ ε pour tout u ∈ Gε et x ∈ X.4) ee e prouve que lim Ja = I. Fixons ε > 0. (w. l’int´grale e Ia := Y ϕ(ay)dλY (y) converge vers I := X ϕ(x)dλX (x). Soit W le groupe r´soluble W = U − A. Par compacit´ de K. y) → wy soit un diff´omorphisme sur son image e 1 2 Wε Y ⊂ X. a→∞ 55 . Pour cela on compare l’int´grale Ia a l’int´grale e ` e Ja := X ϕ(ax)βε (x)dλX (x). (w. on peut aussi supposer Wε suffisamment petit pour que e l’application Wε × Y → X. k) → wk. on peut trouver un ouvert Wε ⊂ W ∩ Gε tel que aWε a−1 ⊂ Wε pour tout a ∈ A+ . Elle signifie que pour toute fonction continue a support compact ϕ ∈ Cc (X). lorsque a ∈ A+ tend vers l’infini. Par uniforme continuit´ de ϕ. Notons alors βε la fonction L sur X. βε = λX (Wε Y ) 1Wε Y . e e e D´monstration On va non seulement utiliser la d´composition de Cartan G = e e + KA K de G comme dans la d´monstration du th´or`me 6. la mesure de Haar e λG de G est le produit λW ⊗ λK de la mesure de Haar a gauche de W et de la ` mesure de Haar de K. On veut montrer que. la propri´t´ de m´lange pour l’action de G sur X (corollaire 6. ` g→∞ lim ϕ(gy)dλY (y) = Y X ϕ(x)dλX (x). Remarque Cette proposition a une signification g´om´trique importante : elle e e implique que l’image dans le quotient Γ\G/K des “grandes sph`res de l’espace e sym´trique riemannien” G/K s’´quir´partissent dans ce quotient.2 mais aussi la d´come e e e position d’Iwasawa G = U − AK o` U − est le groupe de Lie connexe dont l’alg`bre u e − de Lie u est la somme des espaces radiciels associ´s aux racines n´gatives (voir e e chapitre 3). Dans cette carte.Cette limite est la limite pour la convergence faible des mesures. 1er cas : Supposons que g = a est dans A+ . D’une part. Comme l’action adjointe de A+ sur l’alg`bre de Lie de W est simultan´ment e e diagonalisable avec des valeurs propres toujours de modules au plus 1. La d´composition d’Iwasawa donne un e e diff´omorphisme W × K → G.

on a. Ecrivons grˆce ` la d´composition de Cartan gn = kn an kn avec kn . on a Ja = 1 λW (Wε ) ϕ(awy)dλW (w)dλY (y) Wε ×Y et. e |Ia − Ja | ≤ ε pour tout a ∈ A+ . on a |Ia − I| ≤ 2ε et donc lim Ia = I. 56 . e On introduit donc la fonction Fr : X → N x = gΓ → Fr (x) := #(Br ∩ gΓ) = γ∈Γ 1Br (gγ). C’est ce que l’on voulait. kn ∈ K a a e + et an ∈ A . On peut supposer que g tend vers l’infini selon une suite e e gn .8. Comme K est compact. n→∞ lim ϕ(gn y)dλY (y) = Y n→∞ lim ϕ(k∞ an y)dλY (y) Y = X ϕ(k∞ x)dλX (x) = X ϕ(x)dλX (x). 6. On en d´duit la majoration. en ´crivant awy = (awa−1 )ay. Remarque Pour G = SL(d. on va tout d’abord estimer une moyenne sur g du nombre de points des translat´s gΓ dans ces boules Br . Donc pour a suffisamment grand. par le choix de Wε . La K-invariance de λY permet de supposer kn = 1. a→∞ e 2`me cas : Cas g´n´ral.D’autre part. e |ϕ(awy) − ϕ(ay)| ≤ ε pour tout w ∈ Wε et a ∈ A+ . e e e e e plutˆt que d’estimer directement le nombre Nr de points de Γ dans une o boule Br . On a donc.6 Comptage faible Dans la deuxi`me ´tape de la d´monstration du th´or`me 6. R). pour tout a ∈ A+ . ee La suite de fonctions ϕ ◦ kn converge alors uniform´ment vers ϕ ◦ k∞ . La d´composition d’Iwasawa G = U − AK est e une cons´quence du proc´d´ d’orthonormalisation de Gramm-Schmidt qui affirme e e e que toute matrice r´elle inversible est (de fa¸on unique) le produit d’une matrice e c orthogonale et d’une matrice triangulaire inf´rieure ` coefficients diagonaux poe a sitifs. on peut aussi supposer que la suite kn converge vers un ´l´ment k∞ ∈ K. e en utilisant le premier cas.

Montrons tout d’abord comment on en d´duit le comptage. r→∞ vr Autrement dit. on obtient. e e e Gε := {g ∈ G | max( g . Introduisons l’ouvert de G.10 assure que la fonction g → K ϕ(gkx0 )dλK (k) converge pour g → ∞ vers la constante X ϕ(x)dλX (x). Notons ϕ ∈ Cc (X) la fonction a e ` ` support dans p(Gε ).12 Il existe a > 0. donn´e par ϕ(p(g)) = ϕ(g). e D´monstration du th´or`me 6. un petit voisinage de l’identit´ dans G que l’on peut identifier via la projection p : G → X = G/Γ a un e ` voisinage de x0 .11 On a la convergence faible lim Fr = 1. Pour cela on a ` e a besoin d’un ´quivalent asymptotique pour le volume vr .7 Estimation de volumes La derni`re ´tape de la d´monstration du th´or`me 6.8 Fixons ε > 0. en e remarquant que la boule Br est K-invariante.Lemme 6. La moyenne de cette fonction sur la boule Br a la mˆme limite pour r → ∞ car le volume vr tend vers l’infini. D´monstration On commence par un simple calcul du membre de gauche. a 1 r→∞ vr lim Fr (x)ϕ(x)dλX (x) = X X ϕ(x)dλX (x). Choisissons une fonction continue positive ϕ ∈ Cc (G) d’int´grale e ´gale a 1 et dont le support est inclus dans Gε . pour toute fonction continue ` support compact ϕ ∈ Cc (X). 1 vr Fr (x)ϕ(x)dλX (x) = X 1 vr 1Br (gγ)ϕ(gx0 )dλX (gΓ) G/Γ γ∈Γ 1 vr 1 = vr = 1Br (g)ϕ(gx0 )dλG (g) G ϕ(gkx0 )dλK (k) dλG (g) Br K La proposition 6. En sommant ces in´galit´s pour γ ∈ Γ et en les int´grant pour g ∈ Gε . b ≥ 0. On a donc les e in´galit´s e e ϕ(g)1Bre−ε (gγ) ≤ ϕ(g)1Br (γ) ≤ ϕ(g)1Breε (gγ). C’est. pour tout g ∈ Gε . Nous ne d´e e montrerons cet ´quivalent que pour G = SL(d.8 consiste e e e e e a d´duire le comptage ` partir du comptage faible. e Lemme 6. c > 0 tels que vr ∼ c ra (log r)b . X . g −1 ) ≤ eε }. R). e 6. e e e 1 vr ϕ(x)Fre−ε (x)dλX (x) ≤ X 1 1 Nr ≤ vr vr 57 ϕ(x)Freε (x)dλX (x). pour ε petit.

e o e 1 On peut donc remplacer les d − 1 facteurs sinh(ti + · · · + td−1 ) par 2 eti +···+td−1 sans changer l’´quivalent. . . vr ∼ c0 rd(d−1) (d−1)2d−1 sinh(ti + · · · + tj ) [0. le quotient tend bien vers 1. dtd−1 .∞[d−2 1≤i<j≤d−2 e−d(d−i−1)ti dt1 . Pour montrer le lemme 6. 1{eu ≤r} [0. r→∞ vr r→∞ vr r→∞ vr vr r→∞ Nr vr Comme ε > 0 est arbitrairement petit. avec une int´e grale qui est finie. . dtd−2 . Σ l’ensemble des racines positives de A+ dans g et mα la dimension de l’espace radiciel gα associ´ ` une racine α. pour tout α ∈ Σ }. . on obtient. On obtient.186. d log r − (d − 1)t1 − · · · − 2td−2 ]. on a f (g)dg = c0 G f (keX k ) K×a ×K + sinh(α(X))mα α∈Σ+ dkdXdk . comme e + dans la section 3. Pour tout ε > 0. R).11 de comptage a faible et au lemme 6. Nous avons simplifi´ dans cette formule les notations dλG (g) et dλK (k) en dg e et dk.13 dont la d´monstration se ram`ne a un e e ` calcul de Jacobien et peut ˆtre trouv´e dans le livre de Helgason p.∞[d−1 1≤i<j≤d−1 vr = c0 sinh(ti + · · · + tj )dt1 .12 pour SL(d.13 Il existe c0 > 0.12. Appliquons la formule pour la mesure de Haar pour G = SL(d. . tel que. 58 . 1≤i≤d−2 On obtient bien l’´quivalent vr = c rd(d−1) annonc´ o` c/c0 est un nombre ratione e u nel. On cherche un ´quivalent pour vr .En faisant tendre r vers l’infini. on obtient. On int`gre alors en la variable td−1 sur l’intervalle e e [0. ea Lemme 6. . e Nous admettrons cette formule 6. grˆce au lemme 6. nous aurons besoin de la formule suivante pour la mesure de Haar dans la d´composition de Cartan G = KA+ K. . On note. on obtiendra le mˆme ´quie e e valent en restreignant l’int´grale au cˆne donn´ par max(t1 . . td−2 ) ≤ εtd−1 . . et nous avons consid´r´ les racines restreintes α comme des formes lin´aires ee e + + + sur a et not´ a = log(A ) = {X ∈ a | α(X) ≥ 0.12 qui donne l’asymptotique du volume e−aε = lim vre−ε Nr Nr vreε ≤ lim inf ≤ lim sup ≤ lim = eaε . en notant les ´l´ments ee + X ∈ a sous la forme X = diag(u. pour tout f ∈ Cc (G). .5. avec u = 1 d ((d − 1)t1 + (d − 2)t2 + · · · + td−1 ). u − t1 − · · · − td−1 ). u − t1 .9 et du lemme 6. e e D´monstration du corollaire 6. Tous calculs faits. R) e C’est un calcul dont nous donnons simplement les grandes lignes. . .

On peut supposer que l’orbite Gx0 engendre K d . l’´tude des e e e groupes de transformations lin´aires qui pr´servent une probabilit´ e e e sur l’espace projectif. dˆ a Borel. Alors tout r´seau Γ de G est e Zariski dense. e e e e ` e Elle est satisfaite par exemple lorsque G est quasisimple et isotrope. Plus g´n´ralement. Remarque L’hypoth`se du th´or`me 7. d’autre part. le groupe H est d´fini sur k.1 Zariski densit´ des r´seaux e e Le th´or`me suivant. La d´e e u ` e monstration ci-dessous. un th´or`me de Chevalley sur les ese e paces homog`nes de groupes alg´briques et. d’une part. o` Gp est le groupe des Qp -points d’un Qp -groupe Zariski connexe u et o` Q∞ = R.1 Soient k = R et G = Gk le groupe des k-points d’un k-groupe e e Zariski connexe. D’apr`s le th´or`me 4. On appelle topologie de Zariski sur G la topologie produit des u topologies de Zariski sur les Gp . e Th´or`me 7. est souvent bien utile. Alors. D’apr`s e e e e e le lemme 7. En particulier comment une action de Γ induit une e action Γ-´quivariante entre les bords. est bien dans l’esprit de a ce cours : Elle utilise. par exemple le th´or`me e e e e d’arithm´ticit´. due ` Furstenberg. D´monstration du th´or`me 7. Th´or`me 7. Alors tout r´seau de G est Zariski dense dans e G. 7. nous obligent a travailler non seulement sur R ou C e e ` mais aussi sur des extensions finies de Qp . le groupe G est Zariski dense dans G et donc Gx0 engendre l’espace vectoriel 59 . il existe une k-repr´sentation ρ de G dans un espace vectoriel V = K d e de dimension d et une droite x0 ∈ P(k d ) dont H est le stabilisateur : H = {g ∈ G | ρ(g)x0 = x0 }. u On suppose qu’il n’existe pas de sous-groupe distingu´ Zariski ferm´ G e e G tel que le quotient G/G est compact.1 Soit H l’adh´rence de Zariski de Γ. soit G le produit d’un nombre fini de groupes Gp avec p e e premier ou ∞.1 (bis) Soit G le produit d’un nombre fini de groupes Gp avec p e e premier ou ∞.6 de e e e e Chevalley.7 R´seaux e Nous ´tudions dans cette partie les r´seaux Γ des groupes de Lie e e semisimples r´els. Les applicae tions les plus int´ressantes de ces m´thodes. Par la proposition 4. On suppose qu’il n’existe pas de sous-groupe distingu´ Zariski e ferm´ G e G tel que le quotient G/G est compact. la mˆme preuve donnera aussi. L’´tude des propri´t´s de cette e e ee application aux bords sera la clef de la superrigidit´.8. o` Gp est le groupe des Qp -points d’un Qp -groupe Zariski connexe.2 ci-dessous.1 est tr`s facile a v´rifier en pratique.

Quitte a extraire.2 Soit k ⊂ K deux corps. p→∞ Remarquons que si x ∈ P(Kerg). Notons Kerg et Img le noyau et l’image de g. e Donc.k d . PGL(E) le groupe des transformations projectives de E et ν une probabilit´ sur P(E). P(E) Mais cette limite est P(E) ϕ dν. b) Plus g´n´ralement.5 prouvent aussi que le groupe image e ρ(G) est ferm´ dans les k-points du groupe alg´brique image ρ(G) ⊂ PGLd . E2 E tels que dim E1 + dim E2 = dim E. La probabilit´ i∗ (µ) image de la probabilit´ G e e e invariante µ sur G/Γ est une probabilit´ ρ(G)-invariante sur P(k d ). Le support de ν e est inclus dans P(E1 ) ∪ P(E2 ).3 e ci-dessous prouve alors que ρ(G) est compact pour la topologie analytique. P(E) l’espace projectif de E. alors lim gp x = gx ∈ P(E2 ) et que si x ∈ p→∞ P(Kerg). Cette mˆme proposition et le corollaire 4. a le th´or`me de convergence domin´e prouve que e e e ϕ ◦ gp dµ −→ 0. Contradiction. e ` Lemme 7. L’id´al I aussi. e e Supposons par l’absurde que µ et gp existent. les sous-espaces I m sont d´finis par un syst`me d’´quations lin´aires ` coefficients dans k. Alors Z est d´finie sur k. Ils ont donc une e e e e a base a coefficients dans k.2 Soit I ⊂ K[V] l’id´al annulateur de Z et e e I m = I ∩ K m [V]. Soient E = k d . pour toute fonction ϕ continue ` support dans P(E)−(P(E1 ) ∪ P(E2 )).3 (Furstenberg) Soit k = R. Donc cette int´grale est nulle. V = K d et Z ⊂ K d une K-vari´t´ telle que ee l’ensemble des k-points Zk est Zariski dense dans Z. On peut supposer que la ` ee limite E1 = lim gp (Kerg) existe et on pose E2 = Img. Ceci contredit notre hypoth`se a moins que ρ(G) = 1. Supposons que le support de ν ne e peut ˆtre inclus dans une r´union P(E1 ) ∪ P(E2 ) pour deux sous-espaces propres e e E1 . C ou une extension finie de Qp . ` e Lemme 7. Il suffit donc de montrer le point b). On a donc H = G. 60 . on a une application G-´quivariante i : G/Γ → e d P(k ) donn´e par i(gΓ) = ρ(g)x0 . Alors a) le stabilisateur S := {g ∈ PGL(E) | g∗ ν = ν} de ν est compact. Comme Zk est Zariski dense dans Z. Le lemme 7. Plus pr´cis´ment il s’agit du noyau et de l’image e e communs a tous les ´l´ments non nuls de la droite g. e p→∞ D´monstration Il est clair que S est ferm´. e e Comme x0 est Γ-invariant. e D´monstration du lemme 7. on peut supposer ` que la suite gp a une limite g ∈ P(EndE) qui n’est pas inversible. il n’existe pas de probabilit´ µ sur P(E) et de suite gp ∈ G e e e non born´e telle que lim (gp )∗ µ = ν. alors toutes les valeurs d’adh´rence de la suite gp x sont dans P(E1 ).

Qp ). Alors les assertions suivantes sont ´quivalentes : e i) π1 (Γ) est discret. o` Gp est le groupe des Qp -points u d’un Qp -groupe semisimple connexe.7. Remarque Plus g´n´ralement. Z[ 2])}. e e Exemples . D´finition 7. g ) | g ∈ SL(2. e √ σ u . e ` e e On dit qu’un groupe localement compact G est presque produit de sous-groupes distingu´s ferm´s Hi si la multiplication i Hi → G a un noyau fini et une image e e d’indice finie dans G.Tout r´seau du groupe G = Gk des k-points d’un k-groupe G e connexe k-quasisimple est irr´ductible. e Par exemple.4 Un r´seau Γ d’un groupe localement compact G est dit r´ductible e e e si G admet une d´composition en presque produit H1 H2 o` H1 et H2 sont des e u sous-groupes distingu´s ferm´s infinis tels que (Γ ∩ H1 )(Γ ∩ H2 ) est d’indice fini e e dans Γ. On suppose G sans facteur compact.5 e 61 . Le groupe G est sans facteur compact ssi le k-groupe G n’a pas de facteur Gj qui soit k-anisotrope.5 est valable pour un groupe G sans facteur compact qui est produit d’un nombre fini de groupes Gp avec p premier ou ∞. soit k = R. o` σ est l’automorphisme non √ trivial du corps Q[ 2]. Proposition 7. Donnons-nous une d´composition G = H1 H2 de G en presque produit de deux sous-groupes distingu´s e e Hi et notons Γi := Γ ∩ Hi et πi : G → G/Hi la projection. la conclusion et la d´monstration de la proposie e e tion 7. ii) Γ1 est un r´seau de H1 . e iii) π2 (Γ) est discret. g) | g ∈ SL(2.Le groupe Γ = {(g. R). e e 1 e e . R) × SL(2. R) × SL(2. e v) Γ1 Γ2 est d’indice fini dans Γ. Le r´seau Γ est dit irr´ductible sinon.5 Soit k = R et G = Gk le groupe des k-points d’un k-groupe G semisimple connexe. est un r´seau irr´ductible de SL(2.2 R´seaux irr´ductibles e e Nous montrons dans cette section que l’´tude des r´seaux des e e groupes de Lie semisimples se ram`ne a celle des r´seaux irr´ductibles. On dit qu’un groupe G est sans facteur compact si il n’admet pas de d´composition en presque produit H1 H2 avec H1 compact infini. C ou une extension finie de Qp . Z[ p ])} est un r´seau irr´ductible de SL(2. Le groupe G des k-points d’un k-groupe G semisimple est presque produit des groupes Gj des k-points de ses facteurs k-quasisimples Gj . iv) Γ2 est un r´seau de H2 .Le groupe Γ = {(g. D´monstration de la proposition 7.

le produit des Hi est ´gal ` G. Mais bien sˆr. u D´monstration du corollaire 7. Comme G est sans facteur e ee compact. les petits ´l´ments de N commutent avec les ´l´ments de Γ1 . le groupe Ge est la composanre connexe de G. e v) → ii) + iv) Si l’un des Γi n’est pas un r´seau dans Hi le groupe discret Γ1 Γ2 e ne peut pas ˆtre un r´seau dans le presque produit H1 H2 . En e effet. le th´or`me de densit´ de Borel prouve que H1 centralise n. Or. iii) → iv) et iv) → i) se montrent comme ci-dessus. il suffit pour ` cela de remarquer que. pour tout i.2. il suffit de remare e e e quer que pour tout sous-groupe distingu´ ferm´ non compact G de G les seules e e 2 fonctions G -invariantes de L (X. e l’image de Γ dans G/(Hi ∩ Hj ) est aussi discr`te. donc l’alg`bre ee ee de Lie n de N est centralis´ par les ´l´ments de Γ1 . e e e N est discret et ∆1 aussi. Notons Ge le plus petit sous-groupe e e ouvert de G et supposons que ΓGe = G. Corollaire 7. e Par minimalit´.5. Il est e e donc d’indice fini ´gal au rapport des covolumes. ii) + iv) → v) Le groupe Γ1 Γ2 est un r´seau de G inclus dans le r´seau Γ. pour tout ´l´ment g ∈ G qui engendre un sous-groupe ee non-born´ de G. En effet un sous-groupe e e e distingu´ ferm´ de Hi est ouvert dans son adh´rence de Zariski. dx) sont les fonctions constantes.i) → ii) Cela r´sulte de la fibration H1 /Γ1 → G/Γ → H2 /π1 (Γ). Il reste a v´rifier e e a ` e que. 62 . e il existe une d´composition G = H1 · · · Hm en presque produit de k-sous-groupes e distingu´s connexes Hi tels que. e e Lemme 7. Γ ∩ Hi est un r´seau irr´ductible du e e e groupe Hi des k-points de Hi . e ii) → iii) Le groupe Γ1 := π2 (Γ1 ) est donc un r´seau de H1 := G/H2 normalis´ e e par le groupe ∆1 := π2 (Γ). pour tout i = j. Donc n = 0. Hi ∩ Hj est fini.5. Grace a la proposition 7.7 D’apr`s le th´or`me 6. On suppose G sans facteur compact. le normalisateur N de Γ1 dans H1 est discret. Γ ⊂ G un r´seau irr´ductible. e e e D’apr`s la proposition 7. Cette d´composition est unique e D´monstration On prend pour Hi les k-sous-groupes distingu´s connexes mie e nimaux de G pour lesquels Γ ∩ Hi est un r´seau du groupe Hi . e Le th´or`me d’ergodicit´ de Howe Moore s’´tend facilement aux r´seaux irr´e e e e e e ductibles. Pour tout r´seau Γ de G. l’action de G est m´langeante sur e X = G/Γ. Γ∩Hi est un r´seau irr´ductible de Hi . Alors.7 Soient k = R et G = Gk le groupe des k-points d’un k-groupe semisimple. l’action de g sur X est ergodique e Remarque Comme k = R.6 Soit k = R et G = Gk le groupe des k-points d’un k-groupe G semisimple connexe. En particulier. comme les images de Γ dans G/Hi et G/Hj sont discr`tes. le corollaire est encore valable pour une extension finie k de Qp .

u H Comme H est moyennable l’ensemble C := {v ∈ C | Hv = v} est un compact convexe non vide du Fr´chet E H := {v ∈ E | Hv = v} sur lequel le groupe e moyennable K = G/H agit continument. pour tout espace de e Fr´chet E. e 7. d) Un groupe de Lie semisimple connexe non compact n’est pas moyennable. On part d’un point v ∈ C et on consid`re la suite vn = n (v+· · ·+g n−1 v) e n dans C. e e Alors. on peut voir ϕ comme une e fonction mesurable sur G invariante par translation a droite par le groupe G Γ. c) Notons 1 → H → G → K → 1 cette extension o` H et K sont moyennable. pour tout souse e e e groupe H de type fini de G. la e 1 suite gvn − vn = n (g n v − v) converge vers 0. alors C H est non vide.Soit ϕ une telle fonction. Ceci contredit la maximalit´ de G . D´monstration a) Notons G ce groupe compact et dg sa probabilit´ de Haar. Par Zariski densit´. tout compact convexe non vide C ⊂ E et toute action lin´aire continue e e de G sur E laissant stable C. le barycentre c := G g. Elle admet une valeur d’adh´rence c ∈ C. c’est le point cherch´. b) Notons G ce groupe ab´lien.3 Groupes moyennables Un espace vectoriel topologique localement convexe est dit espace de Fr´chet e s’il est m´trisable et complet. Par r´currence sur le nombre de g´n´rateurs. On emploie l’argument classique de ee 1 Kakutani. Le groupe K a donc un point fixe dans C H . Lemme 7. Le groupe G a bien un point fixe dans C. on en d´duit que. b) Un groupe ab´lien est moyennable. On peut aussi supposer ϕ born´e. donc l’intersection C G de tous ces compacts est non vide. Donc le point c est g invariant. on a C H = ∅. Comme G est distingu´. on note E H le e H Fr´chet E := {v ∈ E | Hv = v} et C H le compact convexe C H := C ∩ E H . Comme Γ est irr´ductible. Pour tout sous-groupe H de G. e D´finition 7. Voici quelques exemples. e 63 . Donc G est e e ouvert dans G. Cette famille de compacts non vide C H est stable par intersection finie. l’alg`bre e e de Lie h de H est un id´al de g.v dg convient. ` Comme la translation de G sur L∞ (G) pour la topologie faible est continue. L’hypoth`se G = ΓGe assure alors que G = G. il existe un point fixe c de G dans C. Montrons tout d’abord que si H est engendr´ e par un ´l´ment g.5 prouve que l’on a dim H > dim G . pour tout point v ∈ C. Comme g v reste dans C. ϕ est aussi invariante par le groupe H adh´rence de G Γ. Supposons par e e l’absurde que dim G < dim G. la e e proposition 7.9 a) Un groupe compact est moyennable.8 Un groupe topologique G est moyennable si. On peut supposer que G est le plus grand sous-groupe distingu´ laissant ϕ invariante. On e veut montrer que C G est non vide. e c) Une extension de groupes moyennables est moyennable.

e e e Remarques . e .On a donc trouv´ dans G un sous-groupe moyennable P tel que e le quotient G/P est compact. 7. C aussi. e e Comme la boule unit´ est faiblement compact.Nous avons muni implicitement G/P d’une mesure G-quasiinvariante. e Soit C = P(X) ⊂ E le convexe des probabilit´s sur X. P un sous-groupe parabolique minimal de G. En effet.b et du lemme 7. Alors P est moyennable.10 a) Un groupe de Lie connexe est moyennable ssi le quotient par son radical r´soluble est compact. le compact maximal K de G agit transitivement sur X. en notant x0 le point base de G/P .Plus g´n´ralement. on va e construire une application aux bords. on a limn→∞ an x = x0 .d) Notons G ce groupe de Lie semisimple.Rappelons qu’on a not´ C(X) := {fonctions continues sur X}. X = G/P . E est le dual de l’espace C(X) des fonctions continues sur X. Alors le groupe Pk est moyennable et le quotient Gk /Pk est compact. e b) Soit G un groupe de Lie r´el semisimple connexe et P un sous-groupe paraboe lique minimal de G. C’est un Fr´chet. e e . Proposition 7. On munit E de la topologie faible : elle est d´finie par la famille de semi-normes pϕ : µ → pϕ (µ) = X ϕ dµ e avec ϕ ∈ C(X).11 (Furstenberg) Soient G un groupe de Lie semisimple. Pour toute action e continue de Γ sur un espace m´trique compact X. . e e b) Cela r´sulte du th´or`me 3. Γ ⊂ G un r´seau et P ⊂ G un sous-groupe parabolique minimal. C ou une extension finie de Qp . On munit C(X) de la norme ϕ ∞ = supx∈X |ϕ(x)|. Soit G un e e k-groupe semisimple et P un k-sous-groupe parabolique minimal.14. Corollaire 7. E = M(X) l’espace des mesures finies sur X. Ce convexe C est un e ferm´ dans la boule unit´ de E pour la norme forte µ = sup ϕ ∞ =1 |Pϕ (µ)|. Comme X est compact. par exemple une mesure K-invariante ν0 . soit k = R. D´monstration a) Cela r´sulte directement du lemme 7. pour e tout x dans l’ouvert U − x0 . il existe une application mesue rable Γ-´quivariante Φ : G/P → P(X).9. 64 .9. e Mais G n’a pas de points fixes dans C. Malheureusement cette probabilit´ n’est pas invariante par un ´l´ment a de e ee l’int´rieur de la chambre de Weyl car.4 L’application aux bords Partant de l’action d’un r´seau Γ sur un espace compact X. Il y a donc une seule probabilit´ K-invariante ν sur e X. M(X) := e {mesures born´es sur X} et P(X) := {probabilit´s sur X}.

e. l’image inverse Φ−1 (E ) est mesurable dans G/P i. La translation ` droite sur G induit des actions continues de G sur F .Γ-´quivariante signifie que pour tout γ ∈ Γ et presque tout ξ ∈ G/P . le groupe P est moyennable. Par le corollaire 7. il a donc un point fixe Φ dans A. ´gale ` une e a partie bor´lienne G/P modulo une partie n´gigable. C(X)) et E L∞ (Y. e e . En effet. Nous aurons besoin d’outils issus de la th´orie e e e e ergodique pour l’exploiter 65 . La dualit´ e < m. a E et A. M(X)) l’espace des applications mesurables born´es Γ-´quivariantes e e Γ m : G → M(X).Cette application au bord jouera pour le th´or`me de superrigidit´ le rˆle de e e e o l’application au bord construite par Mostow par des m´thodes g´om´triques pour e e e montrer son th´or`me de rigidit´. un ´l´ment e ee P -invariant de E est presque sˆrement ´gal a une fonction mesurable qui est u e ` constante sur les orbites de P .. . f (g) > dg identifie E avec le dual continu F .10. C(X) ) F . on a e Φ(γξ) = γΦ(ξ). puisque G/P peut ˆtre vue e e comme un bord de l’espace sym´trique G/K.Mesurable signifie que pour toute partie borelienne E de l’espace m´trique e compact P(X). P(X)) ⊂ E est convexe. on a F L1 (Y. . La partie ∞ A = LΓ (G. e D´monstration Soit F := L1 (G. ferm´e et born´e. f >:= Γ\G < m(g). parce que si Y est un domaine fondamental de Γ dans G. Ce point Φ est l’application mesurable cherch´e. C(X)) l’espace des applications mesurables e Γ Γ-´quivariantes f : G → C(X) telles que f e := Γ\G f (g) ∞ dg < ∞.L’application Φ est appel´e application aux bords. elle est donc faiblement e e compacte. Soit E := L∞ (G.b.

Proposition 8. Cette interpr´tation relie donc les e e e propri´t´s dynamiques de f aux propri´t´s spectrales de l’op´rateur unitaire ee ee e 2 Uf : ϕ → ϕ ◦ f de L (X. soit f une transformation B-mesurable qui pr´serve la classe e e e de µ.2 Dynamique des transformations ergodiques Voici une proposition qui permet de comprendre la force de la notion d’ergodicit´. 66 . e e e f −1 (A) = A =⇒ µ(A) = 0 ou 1. Les parties At = ϕ−1 ([t. e Plus g´n´ralement. ∞)) sont f -invariantes et donc de mesure 0 ou 1. f ) un syst`me dynamique probabilis´. µ. Cela signifie que ϕ ◦ f = ϕ ee µ-presque sˆrement. Remarque Lorsque la transformation f est sous-entendue. Une telle fonction ϕ est µ-presque sˆrement ´gale a une u u e ` fonction ϕ0 telle que ϕ0 (x) = ϕ0 (f (x)) pour tout x ∈ X.e. autrement dit B est une e e σ-alg`bre de parties de X. D´finition 8. µ) un ´l´ment f -invariant. µ). en e e vue de leur utilisation dans la d´monstration du th´or`me de supere e e rigidit´ et du th´or`me de Ratner. c’est la mesure µ que l’on qualifie d’ergodique. µ). µ). La fonction ϕ0 est donc 0 presque sˆrement constant. Cette proposition ´taye l’intuition “je passe partout” e e sous-jacente au mot ergodique dans un contexte topologique. pour tout A ∈ B. On a donc ϕ = 0 ou ϕ = 1. i. e e e 8. µ est une mesure de probabilit´ sur B et f : X → X e e une application B-mesurable qui pr´serve µ.1 Probabilit´s ergodiques e Soit (X.2 La transformation f est ergodique ssi les fonctions constantes sont les seuls ´l´ments f -invariants de L2 (X.8 Th´orie ergodique e Ce court chapitre est constitu´ de rappels de th´orie ergodique. B. ee ⇒ Soit ϕ ∈ L2 (X. ee D´monstration ⇐ La fonction caract´ristique ϕ = 1A d’une partie f -invariante e e 2 est un ´l´ment f -invariant de L (X. u 8. La proposition suivante donne une interpr´tation L2 de l’ergodicit´ d’une transe e formation f qui pr´serve une probabilit´ µ.1 On dit que f est ergodique (pour µ) si toute partie mesurable f e invariante est n´gligeable ou de compl´mentaire n´gligeable.

ce qui contredirait le fait e que x est dans supp(µ).4.5 On garde les notations et hypoth`ses de la proposition 8. Pour tout B ∈ D.9. Proposition 8. Cela r´sulte du lemme 7. Alors µ-presque toute orbite Gx est dense dans supp(µ).3.3 Soit X un espace m´trique localement compact s´parable. Les orbites des points de A e sont denses dans X. on a µ(AB ) = 1. soit G un groupe localement compact s´parable qui agit de e e e fa¸on mesurables sur un espace probabilis´ (X. Si f est ergodique alors µ-presque toute orbite Ox := {f (x) | n ∈ Z} est dense dans supp(µ). On suppose l’action de G e ergodique. D´monstration On peut supposer que X = supp(µ) Soient D une partie d´e e nombrable dense de X et D l’ensemble des boules ouvertes centr´es en D de rayon e −p rationnel positif. e On a l’extension suivante de la proposition 8. µ e e une probabilit´ bor´lienne sur X et f : X → X un hom´omorphisme qui pr´serve e e e e n la classe µ.4 Soit X un espace m´trique localement compact s´parable. Cette action est dite ergodique si les seules parties mesurables G-invariantes v´rifient µ(A) = 0 ou 1. Remarque Toute transformation continue f d’un espace compact X pr´serve e au moins une probabilit´ bor´lienne. On a donc supp(µ) ⊂ Ω. cette e e e probabilit´ f -invariante peut-ˆtre choisie ergodique. Par ergodicit´ de f . l’ensemble AB := ∪p∈Z f (B) des points dont l’orbite passe dans B v´rifie f −1 (AB ) = AB . B. comme e Ω est localement ferm´e. Par ergodicit´. e e Corollaire 8. D´monstration C’est la mˆme que celle de la proposition 8. µ) en pr´servant la classe de c e e µ. Soit e R une relation d’´quivalence sur X dont les classes d’´quivalence sont localement e e ferm´es et G-invariantes. D´monstration Soit Ω une classe d’´quivalence rencontrant une des orbites Gx e e dont l’adh´rence est Gx = supp(µ). En outre. e Remarque Ce corollaire est utile lorsque G est un sous-groupe d’un groupe HR o` H est un R-groupe agissant de fa¸on alg´brique sur une R-vari´t´ X : comme u c e ee les HR -orbites dans XR sont localement ferm´es.b. Cela r´sulte du th´or`me de e e e e e Krein-Milman car une probabilit´ G-invariante est ergodique ssi c’est un point e extr´mal du convexe ferm´ P(X)G des probabilit´s G invariantes sur X. on a donc µ(Ω) = 1. µ e e une probabilit´ bor´lienne sur X et G un groupe localement compact s´parable qui e e e agit continument sur X en pr´servant la classe de µ. les mesures G-ergodiques sur e XR sont alors port´es par des HR -orbites. Alors il existe une classe d’´quivalence Ω telle que e e µ(Ω) = 1.3. e e L’intersection A = ∩B∈D AB v´rifie aussi µ(A) = 1.Proposition 8. Si µ(Ω) = 0. e e e Plus g´n´ralement. e 67 . on aurait supp(µ) ⊂ Ω Ω.

que les moyennes orbitales convergent presque partout vers la moyenne spatiale. Remarques .La somme ϕn (x) s’appelle somme orbitale ou somme de Birkhoff de ϕ. ` e Lemme 8. ϕn } et En = {x ∈ X | ψn (x) > e c 0}. . ϕ2 . i. on a ψn ≤ ϕ + ψn−1 ◦ f tandis que sur le compl´mentaire En .6 a) Pour d´montrer l’existence de la limite. D´monstration Soient ψn = max{0. lim n→∞ 1 ϕ n n −ϕ L1 = 0. f ) un syst`me dynamique probabilis´. . d) La convergence a lieu dans L1 . l’ensemble 1 1 Eα.8. On a donc {ϕ∗ >0} ϕ dµ ≥ 0. dans le cas ergodique. la proportion de temps pass´ dans A par presque toutes e les orbites est ´gale ` la mesure de A. e e e e il suffit de voir que. pour tout m. on a ϕm+n ≤ ϕm ◦ f n + ϕn . ϕ. telle que. On a donc ϕ≥ En En ψn − En ψn−1 ◦ f ≥ X ψn − X ψn−1 ◦ f ≥ X ψn − ψn−1 ≥ 0. on a n≥1 {ϕ∗ >0} ϕ dµ ≥ 0. 1 a) La limite ϕ(x) := lim n ϕn (x) existe µ-presque partout. D´monstration du th´or`me 8. . µ.7 (in´galit´ maximale) Soient ϕn ∈ L1 (X. B. Alors. f ) En particulier. e e e e 1 i Pour tout ϕ ∈ L (X. e) Pour toute partie f -invariante A de X.L’assertion e) signifie que ϕ est l’esp´rance conditionnelle de ϕ relativement e f a la σ-alg`bre B des parties f -invariantes : ϕ = E(ϕ|B f ). on a A ϕ dµ = A ϕ dµ. n ≥ 1. L’int´grale X ϕ dµ s’appelle la moyenne spatiale de ϕ.e. e a Th´or`me 8. on note ϕn (x) = 0≤i<n ϕ(f (x)). .3 Th´or`me ergodique e e Le th´or`me ergodique de Birkhoff exprime de fa¸on pr´cise une e e c e id´e intuitive pour une transformation ergodique : pour toute partie e mesurable A.e.β := {x ∈ X | lim inf n ϕn (x) < α < β < lim sup n ϕn (x)} n→∞ n→∞ 68 . Or {ϕ∗ > 0} = ∪En . pour tous rationnels α < β. Le th´or`me de Birkhoff e e e affirme donc. c) On a ϕ L1 ≤ ϕ L1 . Sur En . On note ϕ = ϕ1 et ϕ∗ = sup ϕn .6 (Birkhoff ) Soit (X. on a e ψn = 0 et ψn−1 ◦ f ≥ 0. n→∞ b) On a ϕ ◦ f = ϕ µ-presque partout. si µ est ergodique. µ) une suite souse e R additive i. µ). on a ϕ(x) = X ϕ dµ µ-presque partout. .

la fonction ϕ est constante presque partout. e f) Par b). B. Le e e e e e cas g´n´ral s’en d´duit par densit´. On a donc. Proposition 8.est de mesure nulle. C’est ce que l’on voulait.4 Martingales Le th´or`me des martingales est avec le th´or`me de Birkhoff l’un e e e e des piliers de la th´orie des probabilit´s.nm ) ≥ 1−ε/2p et posons Z = ∪m≥1 Zm. on peut trouver ψ e e e e 1 1 born´e telle que ϕ−ψ L1 ≤ ε/3. On obtient (ϕ − β) ≥ 0 et Eα. il existe une partie mesurable Z ⊂ X tel que µ(Z c ) ≤ ε et la convergence fn (x) → f (x) est uniforme pour x ∈ Z. 1 D´monstration Posons Zm. n n 1 e) Cela r´sulte de d) car A ϕ = A n ϕn .n := {x ∈ X | |fi (x) − fj (x)| ≤ m . Cela r´sulte alors du lemme de Fatou : e ϕ= X lim 1 ϕn (x) n→∞ n X ≤ lim 1 n→∞ n ϕn (x) = X X ϕ. d) Lorsque ϕ est born´e.β Eα. e e Soit (X.nm . cela r´sulte du th´or`me de convergence domin´e.β aux fonctions ϕ − β et α − ϕ.β ) = 0. B. n ϕn − n ψn ≤ ε/3 e 1 et. En effet.8 Soit (X. ϕ − ψ L1 ≤ ε/3. e 69 . e Choisissons une suite nm telle que µ(Zm. µ) un espace probabilis´ et fn une suite de fonctions e mesurables sur X qui converge µ-presque sˆrement vers une fonction f . on a alors n ψn − ψ ≤ ε/3 et donc 1 ϕ − ϕ ≤ ε. u Alors pour tout ε > 0. la convergence fn (x) → f (x) est uniforme pour x ∈ Z et on a µ(Z) ≥ 1 − ε.β .β (α − ϕ) ≥ 0. Remarquons que lim 1 (ϕn+1 (x) n→∞ n − ϕn (f (x))) = lim 1 ϕ(x) n→∞ n =0 et donc que f −1 (Eα. 8. pour tout n ≥ 1.β (α − β) ≥ 0 et donc µ(Eα. e 1 b) C’est clair car n (ϕn+1 (x) − ϕn (f (x))) converge vers 0. Pour n grand. par c). On peut donc appliquer l’in´galit´ maximale sur e e la partie Eα.β ) = Eα. La proposition suivante due ` Egorov permet de remplacer dans le th´or`me a e e de Birkhoff la convergence presque sure par une convergence uniforme en dehors d’un ensemble de mesure arbitrairement petite. c) On peut supposer que ϕ est positive. j ≥ n}. pour tout ε > 0. Par construction. pour i. µ) un espace probabilis´ et Bn une suite croissante de sous-σe alg`bres. On en d´duit Eα.

Une martingale peut ˆtre vue comme un objet dont les fn ne sont e que des approximations.10 (Doob) Soit fn une sous-martingale sur (X.Seules les martingales nous seront utiles par la suite. . u n≥0 n→∞ ∗ Nous dirons que fn est L1 -born´e si sup fn e n≥0 L1 < ∞.. 1}n l’application donn´e par pn (x1 . on note t+ = max(t. x2 . . .D´finition 8. que pour d´montrer le th´or`me de convere e e gence des martingales. Voici le th´or`me de convergence ps des martingales e e Th´or`me 8. B. 0). Un peu comme la donn´e d’un r´el par son d´veloppee e e ment d´cimal. l’espace X est muni d’une famille de surjections mesurables pn : (X. Une condition 70 . La suite fn est une surmartingale si fn ≥ E(fn+1 |Bn ). Exemple Soient X = {0. La martingale est donc un objet sur X dont les fonctions fn ne sont que ses “moyennes sur les fibres de pn ” . Nous n’utiliserons les sousmartingales et surmartingales. Dans e e ce cas la donn´e d’une martingale fn ´quivaut a la donn´e d’une mesure born´e e e ` e e ν sur X. pn : X → {0. . Remarques . e . 1}N muni de la probabilit´ de Bernoulli µ = α⊗N e avec α = 1 (δ0 + δ1 ). 1}n . On a alors l’´galit´ e e ` e e f∞ = f . . Exemple Reprenons l’exemple ci-dessus et ´crivons grˆce au th´or`me de d´e a e e e composition des mesures ν = f µ + νs avec νs ´trang`re a µ. Alors la limite f∞ (x) = lim fn (x) existe µ-presque sˆrement. Pour t ∈ R.) = e 2 −1 (x1 . C’est le cas si et seulement si la convergence de fn vers f∞ est une convergence L1 . µ) telle que e e sup fn L1 < ∞. Ces surjections sont de plus en plus fines de sorte que la suite Bn est croissante. + les suites fn et |fn | sont encore des sousmartingales. dans la plupart des applications. La suite fn est une sousmartingale si fn ≤ E(fn+1 |Bn ). Le fait que ces deux donn´es soient u e ´quivalentes est dˆ au th´or`me de Carath´odory. e u e e e Comme dans l’exemple ci-dessus. e Remarque En g´n´ral la limite presque sˆre f∞ d’une martingale ne permet e e u pas de reconstituer la martingale. xn ) et Bn la σ-alg`bre form´e des parties pn (E) pour E ⊂ {0. Le lien entre les deux est donn´ par fn (x) = 2−n ν(Fn (x)). La limite presque sˆre ne donne donc aucun renseignement sur la partie u singuli`re νs . . Elles sont utiles car si une suite fn est une sousmartingale. e o` Fn (x) est la fibre de pn contenant x. e e La suite fn est une martingale si fn = E(fn+1 |Bn ).9 Soit fn une suite de fonctions int´grables et Bn -mesurables. On a alors fn = E(f∞ |Bn ). . B) → (Yn . pour x ∈ X. Cn ) telles que −1 Bn = pn (Cn ).

on a e sn ≥ {σ=m . On note alors sτ : ω → sτ (ω) (ω) avec la convention s∞ = 0. On appelle temps d’arrˆt une application B-mesurable σ : X → N ∪ {∞} telle e que. On en d´duit. e e + D´monstration La suite fn est une sousmartingale positive et on a. u sσ ≥ sτ . e e k→∞ Le deuxi`me lemme affirme qu’une surmartingale est un jeu d´favorable quelle e e que soit la strat´gie : plus on arrˆte tard la surmartingale plus l’esp´rance de gain e e e est faible. 71 . D´monstration du th´or`me de Doob Elle r´sulte des trois lemmes 8. + Notons mn = lim E(fk |Bn ). sτ ∧n ≥ {σ=m} {σ=m} sτ ∧(n+1) et donc en mettant bout a bout ces in´galit´s pour n ≥ m. e Lemme 8. C’est une martingale positive telle que E(mn ) ≤ + e ` supn≥0 E(fn ) < ∞ car l’esp´rance conditionnelle commute a la limite croissante.11. en e e notant τ ∧ n := inf(τ. D´monstration Pour m ≤ n. et en utilisant Fatou sm ≥ · · · ≥ {σ=m} {σ=m} X sτ ∧n ≥ · · · ≥ {σ=m} X sτ d’o`.12 et 8. Lemme 8.11 Toute sousmartingale L1 -born´e fn s’´crit fn = mn − sn o` mn e e u 1 1 est une martingale positive L -born´e et sn une surmartingale positive L -born´e. 1 Donc mn est L -born´e et sn = mn − fn est une surmartingale L1 -born´e.suffisante qui l’assure est sup fn n≥0 L log L < ∞ o` cette norme est la norme L1 de u la fonction |fn | log+ |fn |. en se souvenant que ` e e τ ≥ σ.13 suivants. τ deux temps d’arrˆt avec e σ ≤ τ .12 Soit sn une surmartingale positive et σ. Le premier lemme est la d´composition de Kricheberg. pour tout n ≥ 0. pour k ≥ n e + + E(fk |Bn ) ≤ E(fk+1 |Bn ). e e e e 8. τ >n} sn+1 car τ et σ sont des temps d’arrˆt et sn est une surmartingale. Alors X sσ dµ ≥ X sτ dµ. n). τ >n} {σ=m . en sommant sur m. l’ensemble σ −1 (n) est Bn -mesurable.

Lemme 8. pour i ≥ 1. pour tous rationnels α < β. il suffit de voir e e que.β ) ≤ p2i+1 ≤ ( α )i p1 pour tout i ≥ 1 et µ(Eα. u D´monstration Pour d´montrer l’existence de la limite de sn . e τ2i+1 = inf{n > τ2i | sn > β} τ2i = inf{n > τ2i−1 | sn < α}. On a alors.13 Toute surmartingale positive sn converge µ-presque sˆrement. et en utilisant le lemme 8.β := {x ∈ X | lim inf sn (ω) < α < β < lim sup sn (ω)} n→∞ n→∞ est de mesure nulle pour µ-presque tout ω.β ) = 0. Donc µ(Eα. β 72 . Pour cela. l’ensemble Eα.12 β p2i+1 ≤ X sτ2i+1 ≤ X sτ2i ≤ αp2i ≤ αp2i−1 . on introduit par r´currence e des temps d’arrˆt τi par τ0 = 0 et. en notant pi := µ({τi < ∞}).

e e Pour toute probabilit´ (bor´lienne) ν sur X. Par le th´or`me de Carath´odory. e Nous montrons dans ce chapitre comment les utiliser pour montrer des th´or`mes d’existence et d’unicit´ pour des “applications mesue e e rables ´quivariantes entre les bords”.1 Existence d’une mesure limite Soit G un groupe localement compact s´parable. e Comme νn − µ ∗ νn tend vers 0.2 Lorsque X est compact. C’est l’unique probabilit´ dont l’image dans chaque G est e ⊗n la probabilit´ produit µ . la probabilit´ ν est µ-stationnaire. On note P(X) l’espace des probabilit´s bor´liennes sur X. On note µ∗n la probabilit´ µ ∗ . ∗ µ convol´e de n probabilit´s toutes ´gales ` µ. B). il existe toujours des mesures stationnaires. e On note Ω l’espace produit Ω = GN . Remarque Le terme harmonique vient de ce que ν coincide avec la moyenne de ses translat´es. µ une probabilit´ bor´lienne e e e sur G et X un espace localement compact m´trisable muni d’une action continue e de G.9 Mesures stationnaires Les mesures stationnaires sont des mesures qui d´crivent le come portement asymptotique des marches al´atoires. e 9.3 a) La limite νω := lim g0 (ω)∗ · · · gn (ω)∗ ν ∈ P(X) n→∞ 73 . . e e Lemme 9. B sa tribu bor´lienne et µ la probabilit´ e e n produit sur (X. l’espace P(X) est un convexe compact e dans le Fr´chet M(X) des mesures born´es muni de la topologie faible. Le terme stationnaire exprime le fait que ν est une loi asymptoe tique possible pour une “marche al´atoire sur X dont les lois de transitions sont e ind´pendantes et donn´es par µ”.1 Une probabilit´ bor´lienne ν sur X est dite µ-harmonique ou e e e µ-stationnaire si on a µ ∗ ν = ν. L’argue e ment de Kakutani prouve l’existence d’un point fixe par l’op´rateur de convolution e par µ : on part de n’importe quelle probabilit´ ν0 ∈ P(X) et on prend pour ν e 1 une valeur d’adh´rence de la suite νn := n (ν0 + µ ∗ ν0 + · · · + µ∗n ∗ ν0 ) ∈ P(X). D´monstration Comme X est compact. e e e e a D´finition 9. ω → gi (ω) les fonctions coordonn´es. e Lemme 9. . on note µ ∗ ν la convol´e e e e µ ∗ ν := G g∗ ν dµ(g). cette probabilit´ µ e e e e e existe et est unique. On note gi : Ω → G.

. introduisons les fonctions fn ∈ ∞ L (Ω) pour g ∈ G donn´es par e g fn : ω → Φ(g0 (ω) · · · gn (ω)g) n→∞ et calculons les int´grales e In = Ω G g |fn (ω) − fn (ω)|2 dµ∗k (g) dµ(ω) = G G |Φ(h) − Φ(hg)|2 dµ∗k (g) dµ∗(n+1) (h) |fn (ω) − fn+k (ω)|2 dµ(ω) Ω = = fn+k 2 L2 − fn 2 L2 . . gn . e e n→∞ lim g0 (ω)∗ · · · gn (ω)∗ g∗ ν = νω . pour tout g ∈ G. Comme cette martingale est born´e par ϕ ∞ . e e Φ(g) = G Φ(gh)dµ(h). la limite νω = lim g0 (ω)∗ · · · gn (ω)∗ ν existe pour µ-presque tout ω. e a) Notons Bn = g0 . le th´or`me 8. b) Pour tout k ≥ 1. . 74 .10 de Doob prouve e e e e qu’elle converge µ-ps. pour tout n ≥ 1. . . on a l’´galit´. on a l’´galit´. on note Φ ∈ C(G) la fonction g → Φ(g) = (g∗ ν)(ϕ) = X ϕ(gx)dν(x). En utilisant une famille d´nombrable dense de fonctions ϕ ∈ C(X). . e e E(fn+1 |Bn )(ω) = G Φ(g0 (ω) · · · gn (ω)g)dµ(g) = Φ(g0 (ω) · · · gn (ω)) = fn (ω). gn la σ-alg`bre engendr´e par les fonctions g0 . . c) On a l’´galit´ ν = e e Ω νω dµ(ω). e e Pour ϕ ∈ C(X). Le fait que ν soit µ-stationaire se traduit par l’´galit´. . La suite de fonction fn ∈ L∞ (Ω) fn : ω → Φ(g0 (ω) · · · gn (ω)) est une martingale pour Bn . pour µ∗k -presque tout g et µ-presque tout ω. D´monstration Nous ne donnerons la preuve que pour X compact. g b) En plus des fonctions Φ et fn ci-dessus. En effet.existe pour µ-presque tout ω.

On en d´duit que la fonction suivante est int´grable e e ∞ g |fn (ω) − fn (ω)|2 ∈ L1 (Ω × G. Il est ´quivalent de dire que la composante connexe de l’adh´rence de Zariski e e de Γ agit de fa¸on irr´ductible sur V . c) Par le th´or`me de convergence domin´e et le point a). D´finition 9. C ou une extension finie de Qp .2 Contraction et proximalit´ e Dans cette section. pour µ∗k -presque tout g et µ-presque tout ω. 9. 0 g En particulier. e 75 . k) de rang p telle que π = limn→∞ λn γn avec λn ∈ k et γn ∈ Γ. k). µ ⊗ µ∗k ). c e On note p = pΓ le plus petit entier non nul pour lequel il existe une matrice π ∈ M(d. e La proposition suivante donne les premi`res propri´t´s des marches al´atoires e ee e lin´aires.Dans ce calcul. e D´finition 9. On d´duit de ce calcul que e In ≤ k ϕ 0 2 ∞. Ce groupe G agit sur V = k d ainsi que e sur l’espace projectif X = P(V ). u Soit k = R. on montre qu’une marche al´atoire lin´aire e e contracte presque sˆrement autant que son support peut le permettre. on a utilis´ le fait que fn est une martingale a travers l’´galit´ e ` e e f n fn+k dµ = Ω Ω ∞ |fn |2 dµ. On note Γµ le plus petit sousgroupe ferm´ de G qui contient le support de µ.4 On dit qu’un sous-groupe Γ ⊂ G est fortement irr´ductible (sur e e V ) si Γ ne laisse invariant aucune union finie de sous-espaces propres de V .5 On dit que Γ est proximal si pΓ = 1. Dans cette partie µ est une probabilit´ sur le groupe G = GL(d. la suite fn (ω)−fn (ω) converge vers 0. on a e e e Ω n→∞ lim g0 (ω)∗ · · · gn (ω)∗ ν dµ(ω) = = n→∞ n→∞ lim g0 (ω)∗ · · · gn (ω)∗ ν dµ(ω) Ω ∗n lim µ ∗ν = ν D’o` u Ω νω dµ(ω) = ν.

on a ν(P(KerM )) = 0. Par le lemme 9. b) Pour tout hyperplan W ⊂ V . avec λn ∈ k. En cons´quence. La probabilit´ M∗ ν a donc un sens et on a. on a l’´galit´ e e ν(P(W )) = G ν(P(gW )) dµ(g).Proposition 9. On note p = pΓµ . De sorte que. On a donc ImM = Jω . Notons Jω le plus petit souse espace vectoriel de V tel que P(Jω ) contient le support de νω .7 Soit r la plus petite dimension d’un espace e W ⊂ V tel que ν(P(W )) = 0. e e Pour tout hyperplan W ⊂ V . D´monstration du lemme 9.6 Par d´finition. par le mˆme lemme 9. e e e D´monstration de la proposition 9. pour tous sous-espaces W1 = W2 de dimension r. pour µ-presque tout ω ∈ Ω. Cet ensemble F est fini. On a. e e e On sait par le lemme 9.6 Soit µ une probabilit´ bor´lienne sur G = GL(d. toute valeur d’adh´rence non nulle M d’une suite λn g0 (ω) · · · gn (ω). ν(P(W1 ) ∪ P(W2 )) = ν(P(W1 )) + ν(P(W2 )). k) telle que e e Γµ est fortement irr´ductible.7 Soit µ une probabilit´ bor´lienne sur G = GL(d. On en d´duit que F est Γµ -invariant. k) telle que Γµ est e e fortement irr´ductible.3. on a µ({ω ∈ Ω | Jω ⊂ W }) = 0. 76 . Soit ν une probabilit´ µ-stationnaire sur P(V ). Ceci contredit la forte irr´ductibilit´ de Γµ .7. a e pour image Im(M ) = Jω . Notons α0 = max{ν(P(W )) | dim W = r}. par le lemme e 9.a.2 qu’il en existe toujours. Soit ν une probabilit´ µ-stationnaire sur P(V ). ω → Jω de Ω = GN dans la Grassmannienne des p-plans de V telle que.7. F = {W | dim W = r et ν(P(W )) = α0 }. l’image ImM est le plus petit sous-espace e e W tel que P(W ) contient le support de νω . la valeur d’adh´rence e e e M est de rang ≥ p. l’´galit´ e e M∗ ν = νω . e a) Il existe une application mesurable J : Ω → Grp (V ). Lemme 9. La d´monstration repose sur l’´tude des probabilit´s µ-stationnaires sur P(V ). on a ν(P(W )) = 0. pour tout α > 0. Comme ν est µ-stationnaire. il n’existe qu’un nombre fini de sous-espaces W de dimension r tels que ν(P(W )) ≥ α.

pour µ-presque e tout ω. D’apr`s le lemme 9. e e e e Proposition 9. on a M∗ g∗ ν = νω .3. e On en d´duit des r´sultats d’existence et d’unicit´ d’applications e e e mesurables ´quivariantes entre les bords qui joueront un rˆle central e o dans la d´monstration du th´or`me de superrigidit´. Le mˆme raisonnement avec le lemme 9.b ` e prouve que. On peut supposer.3. Donc Im(M ◦ π) = Jω et dim Jω ≤ p. pour tout ε > 0. On a bien dim Jω = p. Son support e est inclus dans l’ensemble δP(V ) des masses de Dirac sur P(V ).6 e de sorte que νω = δj ω . e a) Il existe une unique probabilit´ µ-stationnaire ν ∈ P(P(V )). Il reste a montrer que dim Jω = p. Choisissons une e e e limite non nulle π de rang p d’une suite λn gn avec λn ∈ k et gn ∈ Γµ . la probabilit´ ν est donc donn´e par e e e ν = Ω δj ω dµ(ω). la probabilit´ stationnaire ν est unique. cette ´galit´ est encore vraie.3 Proximalit´ e Dans cette section. On a encore e e M∗ π∗ ν = νω . que Jω ne d´pend pas du choix de la probabilit´ stationnaire e e e ν et que dim Jω ≥ p.2. Cette probabilit´ νσ est aussi µ-stationnaire.3. pour µ∗k -presque tout g. e e a) On note j : Ω → P(k d ). on a lim g0 (ω)∗ · · · gn (ω)∗ νσ = δj ω n→∞ On en d´duit que. Par le lemme 9.Ceci prouve simultan´ment que l’image ImM ne d´pend pas du choix de la vae e leur d’adh´rence M . e νσ = P(P(V )) λ dσ(λ) ∈ P(P(V )). 9. on montre que dans une situation proximale. D´monstration L’existence de ν et de σ r´sulte du lemme 9. n→∞ n→∞ lim σ({λ | (g0 (ω)∗ · · · gn (ω)∗ λ)(ϕ) − ϕ(j ω ) ≥ ε}) ≤ lim σ({λ | (g0 (ω)∗ · · · gn (ω)∗ λ)(|ϕ − ϕ(jω )|) ≥ ε}) = 0 77 . k) telle que e e Γµ est proximal et fortement irr´ductible. par irr´ductibilit´ de Γµ que Imπ ⊂ KerM .8 Soit µ une probabilit´ bor´lienne sur G = GL(d. pour µ-presque tout ω. Par continuit´. pour tout g ∈ Γµ . ω → j ω l’application donn´e par la proposition 9. e b) Il existe une unique probabilit´ µ-stationnaire σ ∈ P(P(P(V ))). pour toute fonction e ϕ ∈ C(P(V )). b) Notons νσ le centre de gravit´ de σ.

e e Elle peut donc ˆtre vue comme une probabilit´ sur P(V ). on e e construit une probabilit´ µ de support Γ dont l’unique mesure statione naire ν0 sur G/P est K-invariante. e 1 D’apr`s le point a). elle est donc ´gale ` ν. on a Φ1 (ξ) = Φ2 (ξ).9 a cette probabilit´ K-invariante. e Le point a) permettra. 9. δP(V ) ) ≥ ε}) = 0.3.3 la proposition 9. e D´monstration a) La probabilit´ σ = ϕ∗ (ν0 ) ∈ P(P(P(V ))) est µ-stationnaire. ξ → 2 (δΦ1 (ξ) + δΦ2 (ξ) ) e prend ses valeurs dans l’espace des masses de Dirac.8. e a Proposition 9. Donc. elle est port´e par des masses de Dirac. n→∞ Par le th´or`me de convergence domin´e. e e D’apr`s la proposition 9. e e µ ∈ P(Γ) une probabilit´ telle que Γµ = Γ. G un k-groupe semisimple et G = Gk . δP(V ) ) ≥ ε}) = 0.et donc. Soient P un sous-groupe parabolique de G et K un sous-groupe compact de G tel que G = KP (voir th´or`me 3.14) et ν0 la probabilit´ K-invariante sur la vari´t´ drapeau X0 = G/P . Φ2 : X0 → P(V ) deux applications ν0 -mesurables Γ-´quivariantes. ω) | d(g0 (ω)∗ · · · gn (ω)∗ λ. en notant d une distance compatible sur l’espace m´trisable compact e P(P(V )). dans la section 10. e On se donne aussi une repr´sentation proximale et fortement irr´ductible de Γ e e dans un espace vectoriel V . u b) Il existe au plus une application ν0 -mesurable Γ-´quivariante Φ : X0 → P(V ). lim σ({λ | d(g0 (ω)∗ · · · gn (ω)∗ λ. e e e ee 78 . On pourra alors appliquer dans la section 10.9 Soient Γ un groupe localement compact m´trisable s´parable. cette suite est constante ´gale a e ` σ({λ | d(λ. a) Toute application mesurable Γ-´quivariante ϕ : X0 → P(P(V )) prend ν0 e presque sˆrement ses valeurs dans l’ensemble δP(V ) des masses de Dirac. de construire des applications ν0 mesurable Γ-´quivariante ϕ : X0 → P(V ). pour ν0 -presque tout ξ ∈ X0 . δP(V ) ) ≥ ε}) = 0. e e b) Soient Φ1 . Comme σ est µ-stationnaire. ` e Soient k = R. on a donc e e e n→∞ lim σ ⊗ µ({(λ. Donc σ est port´e par le ferm´ δP(V ) ⊂ P(P(V )) des masses de Dirac sur P(V ).4 Mesures stationnaires K-invariantes Pour tout r´seau Γ d’un groupe de Lie semisimple r´el G. l’application ϕ : X0 → P(P(P(V ))). Cette probabilit´ est e e e µ-stationnaire. Soient X0 un espace compact m´trie e sable sur lequel Γ agit continument et ν0 ∈ P(X0 ) une probabilit´ µ-stationnaire.

µ ∈ P(G) . suppµ = Γ}. Elle est donc constante. remarquons que e e e d’une part. comme ν0 est µ0 -harmonique τ (g) ≤ G τ (gh) dµ0 (h). e e .Proposition 9. Elle v´rifie donc e τ (x) ≤ G τ (xh) dµ0 (h). Cela va r´sulter e 2 de l’ergodicit´ de l’op´rateur de convolution par µ0 dans L (X. On esp`re bien sˆr que cette fonction est constante ´gale a 0.Autrement dit. Une somme de ces ´galit´s pond´r´es par aγ donne e e ee τ (g) ≤ 1 − γ∈Γ ∗n γ∈Γ ∗nγ > εγ γ∗ µ0 . pour toute mesure K-invariante e µ0 ∈ P(G). on a τ (g) < 1. C’est une fonction µ0 -sous-harmonique born´e. e D´monstration de la proposition 9. en d´pit du caract`re discret de Γ. e dans le calcul suivant bas´ sur l’in´galit´ de Cauchy-Schwartz et sur Fubini e e e τ (x)2 dλX (x) ≤ X X G τ (xh)2 dλX (x) dµ0 (h) ≤ X τ (x)2 dλX (x). e u e ` a) Montrons tout d’abord que. on a τ (γg) = τ (g).Comme l’action de K sur G/P est transitive. b) Montrons maintenant que τ (g) est une fonction constante. 79 . d’autre part. pour tout γ ∈ Γ. Remarques . il y a une unique probabilit´ K-invariante ν0 sur G/P . On choisit alors une famille aγ > 0 telle que 1. on peut trouver nγ ≥ 1 et εγ > 0 tels que g∗ µ0 Donc g∗ ν0 = εγ γ∗ ν0 + µγ ∗ ν0 avec µγ = g∗ µ0 γ − εγ∗ µ0 . Plus pr´cis´ment. On note encore τ : X → [0. En effet. En particulier.10 Soit µ0 une probabilit´ K-invariante e e sur G a support compact et ayant une densit´ non nulle par rapport a la mesure ` e ` n de Haar sur un ouvert U de G dont les puisances U recouvrent G. Posons τ (g) = inf{t ∈ [0. les trajectoires sur G/P e e de la marche al´atoire ind´pendante sur Γ de loi µ s’´quir´partissent sur le bord e e e e G/P selon la probabilit´ K-invariante ν0 .10 Pour tout r´seau Γ ⊂ G. λX ) o` X = Γ\G e e u et λX est la probabilit´ G-invariante sur X. aγ = aγ εγ < 1. on a l’´galit´ µ0 ∗ ν0 = ν0 . et. 1] | g∗ ν0 = (1−t)µ ∗ ν0 + tµ ∗ ν0 . pour tout g ∈ G. il existe une probabilit´ µ ∈ P(Γ) e e de support Γ et telle que µ ∗ ν0 = ν0 . 1] la fonction induite sur X. Remarquons que pour tout γ ∈ Γ. µ .

on obtient donc l’´galit´ e e i−1 ν0 = µ ∗ ν0 avec µ = (1 − ) i≥1 µi ∈ P(Γ). u c) Il r´sulte de ces arguments qu’il existe < 1 tel que τ (g) < . pour tout e g ∈ G. e µ1 ∗ ν0 = (1 − )µ1 ∗ ν0 + µ2 ∗ ν0 = (1 − )µ1 ∗ ν0 + (1 − ) µ2 ∗ ν0 + 2 µ3 ∗ ν0 = (1 − )µ1 ∗ ν0 + (1 − ) µ2 ∗ ν0 + (1 − ) 2 µ3 ∗ ν0 + · · · avec µi ∈ P(G) et µi ∈ P(Γ). Si on part de µ1 = δe . 80 .on doit avoir ´galit´ dans ces in´galit´s et donc la fonction h → τ (xh) est µ0 e e e e presque sˆrement constante. Donc τ est constante. pour tout µ1 ∈ P(G). on peut ´crire. En particulier.

R) est un r´seau de SO(q. Nous verrons en outre que ces th´or`mes s’´tendent a des groupes e e e ` G produit de groupes semisimples r´els et p-adiques. R)}. La conclusion du th´or`me dans ce cas est donc qu’un e e tel morphisme π : Γ → H ne peut pas exister. De mˆme. e 81 . est un sousgroupe arithm´tique du Q-groupe dont les points r´els sont le produit SO(q. e Th´or`me 10. H = Hk le groupe des k-points d’un k-groupe simple H. notons σ l’automorphisme non trivial du corps Q[ 2] et q σ l’image √ de q par σ. e Alors π s’´tend en un morphisme continu de G dans H. Z[ 2]) ∩ SO(q. on doit consid´rer non seulement des ree e e e e pr´sentations dans des espaces vectoriels r´els mais aussi dans des e e espaces vectoriels p-adiques. l’hypoth`se π(Γ) Zariski dense n’est pas tr`s restrictive. R). e e Soit k = R.10 Superrigidit´ e Le but de ce chapitre est de montrer le th´or`me de superrigidit´ e e e de Margulis. 10. Soit Γ un r´seau irr´ductible de G. La d´monstration occupe l’ensemble de ce chapitre. Comme le groupe SO(q . il n’existe pas de morphisme continu non constant de G dans H. e e Pour pouvoir utiliser ce th´or`me de superrigidit´ pour montrer e e e le th´or`me d’arithm´ticit´. Γ est bien un r´seau. C ou une extension finie de Qp .√ e En effet.1 (Margulis) Soient = R. On e e e peut souvent s’y ramener. e e e √ √ 5 2 Notons q la forme√ quadratique sur R . On suppose G sans facteur compact et rang (G) ≥ 2. R) × e e σ σ SO(q .1 Superrigidit´ e Le th´or`me de superrigidit´ permet de d´crire toutes les repr´e e e e e sentations des r´seaux d’un groupe de Lie semisimple r´el G. on s’y rae e m`ne en rempla¸ant Γ par un sous-groupe fini sans torsion puis en consid´rant le e c e r´seau image de Γ dans le quotient de G par son sous-groupe distingu´ compact e e maximal. R). c e e e L’hypoth`se G sans facteur compact n’est pas tr`s contraignante. Z[ 2]) ∩ SO(q. e Remarque Lorsque k est un corps p-adique. q(x) = x1 + x2 + x2 − 2x2 − 2x2 . Le 4 5 2 3 groupe Γ = SL(5. G = G le groupe des -points e e d’un -groupe semisimple G connexe. e Commen¸ons par quelques commentaires sur les hypoth`ses de ce th´or`me. Exemple A V´rifions que l’hypoth`se π(Γ) non born´e est indispensable. R) est compact. Le groupe {(g. Soit π : Γ → H un morphisme dont l’image π(Γ) est Zariski dense et non born´e. g σ ) | g ∈ SL(5.

Exemple F Lorsque G est simplement connexe et k = R. donn´ par π(γ) = ε(γ)γ. on peut remplacer le corps = R par un corps p-adique. 1) qui sont de rang e e e r´el 1. Z) | g ≡ Id mod 2}. R) ne se prolonge pas en e un morphisme de G dans H. a e Exemple B Voici un deuxi`me exemple avec image p-adique qui met en valeur e l’hypoth`se π(Γ) non born´e. Z) | e g ≡ Id mod 3}. De mˆme. si Γ est l’image dans G = PGL(d. les e e R-groupes G = PGL(3) et H = SL(3) ont des points r´els isomorphes GR HR e sans ˆtre R-isomorphe. e . Z) du groupe G = SL(d. R) du groupe Γ0 = {g ∈ SL(d. Qp ). Il existe alors de nombreux e morphismes π : Γ → G qui sont d’image dense. pour n = 2. Par exemple. e 82 . R) donn´ par π(g) = g σ ne se e prolonge pas ` G. Exemple E L’hypoth`se de simplicit´ sur H est aussi utile mˆme si on s’y ram`ne e e e e facilement en composant π par la projection sur les facteurs simples de H. R) s’injecte dans le groupe pe adique H = SL(d. Par exemple. G contient des r´seaux Γ qui sont des groupes e e libres non ab´liens ou des π1 de surface compacte. ceux-ci ne se prolongent pas en des morphismes de G dans G. Comme le groupe d´riv´ [Γ. Cette injection ne se prolonge pas en un morphisme de G dans H. 1) fournit ais´ment des contree e exemples. Exemple D L’hypoth`se d’irr´ductibilit´ est aussi importante : le produit de e e e deux r´seaux Γ1 × Γ2 ⊂ G × G avec G = SO(2. mais. e Exemple C L’hypoth`se de rang sur G est aussi importante : il n’existe pas de e tels ph´nom`nes de superrigidit´ pour les groupes G = SO(n. R) donn´ par Γ = {g ∈ e e SL(d.Remarquons que le morphisme π : Γ → SO(q σ . le morphisme π s’´tend e alors en une R-repr´sentation de G dans H. Le rel`vement π : Γ → Γ0 ⊂ H = SL(d. il existe des morphismes non triviaux ε : Γ → a e {±1}. on peut prendre pour G un groupe sans e e facteur compact qui est un produit fini G = Gp . le groupe image est born´. plus g´n´ralement. e L’hypoth`se de simple connexit´ sur G est utile pour cela. e e Le r´seau Γ = SL(d. Γ] est form´ de matrices e e e congrues ` l’identit´ modulo 4. le groupe image est born´. Dans ce cas aussi. si Γ est le r´seau du groupe G = SL(d. Dans ce cas. Par exemple.Le th´or`me de superrigidit´ et sa d´monstration sont valables dans un cadre e e e e beaucoup plus large : non seulement. R). e ne se prolonge pas en un morphisme de G dans H. Mais alors le morphisme π : Γ → H = SL(d. avec p premier ou ∞ et avec Gp le groupe des Qp -points d’un Qp -groupe semisimple simplement connexe sous l’hypoth`se p rangQp Gp ≥ 2.

Le groupe H := Hk agit donc dans e V := Vk .4 consiste a montrer que l’espace vectoriel E engendr´ e e ` e par les translat´s ` droite de Θ par les ´l´ments de G est de dimension finie. e ee Dans la section 7. e 83 . On note ν0 la probabilit´ K-invariante sur la vari´t´ des drapeaux G/P .2 Soit k = R. on pourra remplacer cet espace projectif e par un espace vectoriel W .3 consiste ` remplacer l’espace d’arriv´e par l’espace e e a e projectif P(V ) lui-mˆme en montrant que l’image de ϕ est form´e de masses e e de Dirac.4. C ou une extension finie de Qp .5 consiste a remarquer que la repr´sentation de G dans e e ` e E est mesurable et donc continue.f. Le prix ` payer sera de perdre une partie de la P a invariance : on obtiendra une application mesurable Γ-´quivariante e Θ:G→W qui est seulement invariante ` droite par un sous-espace de Cartan A de G.5). La deuxi`me ´tape en 10. C’est e a ee dans cette ´tape que l’on utilise l’hypoth`se de rang au moins 2 via l’ergodicit´ e e e des sous-groupes A de codimension 1 dans A.1 e e e e Soit P un sous-groupe parabolique minimal de G. Pour cela. probabilit´ que nous avons construit dans la e section 9. e on peut remplacer la k-repr´sentation irr´ductible de H dans V par e e une dans laquelle π(Γ) est proximal (c. comme π(Γ) n’est pas born´. 10. V une k-repr´sentation de H.2 Valeurs propres de mˆme module e Dans cette section.2 que l’on peut choisir la repr´sentation de H dans V de sorte que π(Γ) soit e proximal. on utilise la probabilit´ sur Γ dont la mesure stationnaire e correspondante sur G/P est ν0 . Alors ∆ est born´. On obtient ainsi une application mesurable Γ-´quivariante e Φ : G/P → P(V ). Lemme 10. La derni`re ´tape en 10. e Pour cela. C’est grˆce a l’application δ : E → W d’´valuation en e que l’on construira alors a ` e le morphisme de G dans H qui prolonge π. K un sous-groupe compact maximal de G. d´finition 9.4. On v´rifie tout d’abord en e e 10. on appliquera le lemme suivant au groupe ∆ := π(Γ). on a montr´ qu’il existe une application ν0 -mesurable Γe ´quivariante e ϕ : G/P → P(P(V )) de la vari´t´ des drapeaux G/P muni d’une probabilit´ K-invariante ν0 dans ee e l’espace des probabilit´s sur l’espace projectif P(V ). on montre que. par suite que l’application Θ est aussi continue. a La troisi`me ´tape en 10. Soient V = k d et ∆ ⊂ End(V ) un sous-groupe tel que V est irr´ductible et tel que tout ´l´ment de e ee ∆ a toutes ses valeurs propres de module 1. En utilisant aussi la repr´sentation duale.Strat´gie de la d´monstration du th´or`me 10.

Donc ∆ est born´.Remarque L’hypoth`se ”V irr´ductible” est utile. Pour tout a ∈ I. b) Il existe une et une seule application ν0 -mesurable Γ-´quivariante Φ : G/P → e P(V ). Les ´l´ments gδi e e ee sont dans ∆. |Tr(gδi )| ≤ d. Le th´or`me 2. Comme H est simple. Ce sous-espace est A-invariant. e a) Toute application ν0 -mesurable Γ-´quivariante ϕ : G/P → P(P(V )) prend ses e valeurs dans l’ensemble δP(V ) des masses de Dirac. la suite n → Λd0 δ0 convenablement renormalis´e converge vers un op´rateur de rang 1. Il est donc ´gal a V . on utilise tous les pr´paratifs du chapitre 9 e pour construire l’application aux bord Φ : G/P → P(V ) ainsi que l’application Θ. L’hypoth`se sur les valeurs propres des ´l´ments de ∆ assure que. e e 10.12).2. Notons V0 le sous-espace e de V somme des sous-espaces caract´ristiques de δ0 associ´s aux valeurs propres e e de module maximum. e e V´rifions tout d’abord que la forme bilin´aire sym´trique sur A donn´e par e e e e (a. e D´monstration D’apr`s le lemme 10. Notons V la sous-repr´sentation irr´ductible Λ V e e dans laquelle apparait l’unique valeur propre de module maximum de Λd0 δ0 . On a l’´galit´. Soit V une k-repr´e e e e sentation irr´ductible de H dans laquelle π(Γ) est proximal. e D´monstration du lemme 10.1. e Proposition 10.3 d’Engel assure que le sous-espace V := ∩a∈I Ker(a) e e est non nul. il agit sur V par des matrices de d´terminant 1 et l’entier d0 := dim V0 est inf´rieur a d.4 Sous les hypoth`ses du th´or`me 10. pour tout g dans ∆ : g = i Tr(gδi )ei . il existe une k-repr´e e e e sentation irr´ductible de H dans un espace vectoriel V telle que π(Γ) est proximal. c’est e e e e e un id´al de A.3 Sous les hypoth`ses du th´or`me 10. par construction. comme le prouve le groupe e e des matrices unipotentes triangulaires sup´rieures. b) → tr(ab) est non d´g´n´r´e. 84 . e ee pour tout i.3 Construction de Θ Dans cette section.2 Le sous-espace vectoriel A de End(V ) engene dr´ par ∆ est une alg`bre. car.1. on a tr(a) = tr(a2 ) = · · · = tr(ad ) = 0. Comme H est simple. e ` C’est ce que l’on voulait Montrons maintenant que ∆ est born´. il existe au moins un ´l´ment δ0 ∈ π(Γ) e e ee qui admet une valeur propre de module diff´rent de 1. Soit I le noyau de cette forme bilin´aire. Mais alors I = 0. Rappelons que ν0 est la probabilit´ K-invariante sur G/P . Donc a est e nilpotent. e e ` on peut d´composer la repr´sentation de H dans Λd0 V en repr´sentations irr´e e e e d0 ductibles (proposition 4. L’acn tion de π(Γ) sur P(V ) est proximale. e Proposition 10. Choisissons une famille (δi ) d’´l´ments e ee de ∆ qui forment une base de l’espace vectoriel A et notons (ei ) la base de A duale.

85 .5 Sous les hypoth`ses du th´or`me 10. W ) par.14. Il existe une k-repr´e e e e sentation ρ de H dans un espace vectoriel W et une application mesurable Γ´quivariante non constante Θ : G → Wk . a une partie ν0 ⊗ ν0 -n´gligeable pr`s. On peut supposer que le parabolique minimal P est celui associ´ a A+ . e D´monstration a) D’apr`s la proposition 9.10. e L’existence de l’application Φ s’en d´duit par a).5 On applique la proposition 10. qui est A-invariante.4 a la e ` repr´sentation de H dans V donn´e par la proposition 10.b. il existe une probabilit´ µ ∈ e e e P(Γ) de support Γ telle que ν0 est µ-stationnaire. Par le th´or`me 3. Proposition 10. D´monstration de la proposition 10. On a donc une application ν0 ⊗ ν0 mesurable et Γ-´quivariante e ϕ × ψ : G/P × G/P → P(V ) × P(V ∗ ). e De fa¸on plus pr´cise. La proposition 10. (T (g)f )(x) = f (gx) . C’est ce que fait la proposition suivante. V´rifions tout d’abord que le produit G/P × G/P s’identifie ` un quotient e a de G/A. Notons A un sous-espace de Cartan de G. w0 P ) est ouverte.9. c’est-`-dire des e a fonctions f : G → W telles que f (γg) = ρ(γ)f (g). Autrement dit. fixons un sous-espace de Cartan A de G. pour tous g.Remarque Nous n’utiliserons pas l’unicit´ de Φ dans la suite du raisonnement.5 affirme que l’espace FΓ (G.3 ainsi qu’` sa repr´sene e a e tation duale.9. On note P − le parabolique e` oppos´ et on note K le sous-groupe compact maximal K = Gθ . W ). e Notre tache consiste maintenant a “remplacer” l’espace projectif P(V ) par un ` k-espace vectoriel W .13. e Il est n´anmoins rassurant de savoir que cette application au bord Φ est unique. notons W = Wk . FΓ (G. Le groupe G agit sur FΓ (G. une chambre de Weyl A+ ⊂ A. Conform´ment aux notations de ` e e e la section 3. pour tout γ ∈ Γ. x ∈ G.5.b. On obtient ainsi deux applications ν0 -mesurables et Γ-´quivariantes e ϕ : G/P → P(V ) et ψ : G/P → P(V ∗ ). le stabilisateur dans G du point w0 P ∈ G/P est le groupe P − . de mesure pleine et de groupe d’isotropie P ∩ P − . Donc la G-orbite dans G/P × G/P du point (P. le k-espace vectoriel des c e (classes de) fonctions mesurables Γ-´quivariantes de G dans W . Par le mˆme e e argument que dans la d´monstration du th´or`me 3. L’unicit´ de l’application Φ e e r´sulte de la proposition 9.c. W ) contient une fonction Θ non constante telle que T (A)Θ = Θ. Le point a) r´sulte alors de la e proposition 9.a.1. la P -orbite de cet ´l´ment w0 P ∈ G/P est ouverte de e e ee − mesure pleine dans G/P G/P . g ∈ G.11 de Furstenberg. on construit un ´l´ment e e e ee + w0 ∈ K tel que w0 normalise A et tel que w0 (A ) est la chambre de Weyl oppos´e e −1 de sorte que P − = w0 P w0 . une involution de Cartan θ de G telle que θ(A) = A. b) L’existence d’une application ϕ r´sulte de la proposition 7.

y) ∈ P(V ) × P(V ∗ ) | y(x) = 0}. y) ∈ P(V )×P(V ∗ ) Q(V ).ψ(gw0 P ) donne alors l’application Θ cherch´e. la fonction Θ est continue. e Cette proposition 10. A-invae riante.7 et 10. W ). l’espace vectoriel E = T (g)Θ | g ∈ G est de dimension finie.7 Soit A ⊂ A un sous-groupe non trivial.7. Lemme 10.6 sera une cons´quence des trois lemmes 10. Z(A )le centralisateur de A dans G et I ⊂ FΓ (G. e (T (g)f )(x) = f (xg) . e 10. non constante Θ de G dans un espace vectoriel W . La formule e ` Θ(g) = pϕ(gP ). On ´tudie e dans cette section la repr´sentation de G dans l’espace E des transe lat´s de Θ. f ∈ I est encore A-invariant et de dimension finie. 86 . Par construction la fonction Θ est un ´l´ment A-invariant de FΓ (G. W ) un sous-espace vectoriel A-invariant de dimension finie. W ) de la convergence en mesure. x ∈ G. par le lemme 9.8 cie dessous. e Rappelons que ρ est la repr´sentation de H dans W et que FΓ (G. En outre. Alors le sous-espace vectoriel I = T (g)f | g ∈ Z(A ) . e On note W l’espace vectoriel End(V ). Cette ee action T est mesurable si on munit FΓ (G. G´oe e m´triquement. ce sont les sections mesurables d’un fibr´ vectoriel sur Γ\G appel´ e e e le fibr´ induit par W .6 Si rangR (G) ≥ 2. Rappelons aussi que nous avons not´ T l’action mesurable e e du groupe G sur FΓ (G. on note px. le corps k ne peut pas ˆtre totalement discontinu. On a donc que k = R ou C. Proposition 10.V´rifions maintenant que l’image de ϕ × ψ ne rencontre pas la quadrique e Q(V ) := {(x. pour tous g. Pour tout (x. Cela r´sulte de ce que la mee sure image (ϕ × ψ)∗ (ν0 ⊗ ν0 ) est une mesure produit et que. W ) Cette action est donn´e par. comme Θ n’est pas constante.4 L’espace E des translat´s de Θ e Nous disposons enfin d’une application Γ-´quivariante. Remarque En particulier. la probabilit´ µ-stationnaire ϕ∗ (ν0 ) ne masse pas les hyperplans. W ) est le e k-espace vectoriel des fonctions mesurables Γ-´quivariantes de G dans W .y ∈ W le projecteur sur x parall`lement a y.

. As de sousgroupes non triviaux de A telle que. Il suffit de montrer que le k-espace vectoriel S = HomA (I. pour presque tout g. zs ) → z1 · · · zs est surjective. pour toute famille f1 . 87 . Soit f ∈ S. W )). Par maximalit´ de m0 . Or on a une identification ee naturelle S FΓ (G. . pour tout γ ∈ Γ. Par ergodicit´. e Plus pr´cis´ment. On peut choisir la famille f1 . . car chaque ´l´ment g de Z(A ) ee agit sur I via un ´l´ment de cet espace vectoriel S. La fonction mesurable m : G → N v´rifie. Nous allons en d´duire que S est de dimension finie. W ). Hom(I. . Comme A = 1. pour presque tout g ∈ G. . Cet entier e e ` m0 est major´ par dim(Hom(I. . le corollaire 7. On peut aussi choisir cette famille de sorte que i = m0 .7 Comme A normalise A . . G = GR et A un sousespace de Cartan de G. . . on peut trouver des fonctions mesurables e cj : G → k telles que. Regardons pour cela I comme un A -module. . la fonction m est donc constante ´gale a un entier m0 . a ∈ A cj (γga ) = cj (g). on note. . pour tout γ ∈ Γ. .7 affirme que l’action de A sur Γ\G est ergodique. e e m(g) := dim( fj (g) | 1 ≤ j ≤ i ). .8 Soient G un R-groupe semisimple connexe. par ergodicit´. a ∈ A e m(γga ) = m(g). fi ∈ S et g ∈ G . fi de sorte e que m0 soit maximal. la multiplication Z(A1 ) × · · · × Z(As ) −→ G (z1 . W )) est de dimension finie. en notant Z(Ai ) le centralisateur de Ai dans G. Si rangR (G) ≥ 2. les fonctions cj sont constantes. il existe une suite A1 . . Lemme 10. L’espace vectoriel S e est donc de dimension finie. Montrons que I est de dimension finie. . on ait f (g) = 1≤j≤m0 cj (g)fj (g). ce sous-espace vece toriel I est bien A-invariant. FΓ (G. . L’ind´pendance des fj (g) et les propri´t´s de Γ-´quivariance et de A -´quivariance e ee e e des fonctions f et fj prouvent que. De nouveau. pour presque tout g. W ))A de S avec l’ensemble des sections mesurables A -invariantes du fibr´ sur Γ\G e induit par Hom(I.D´monstration du lemme 10.

D´monstration Notons Σ+ = {λ1 , . . . λt } un syst`me de racines positives de A e e dans G et Ai ⊂ A le noyau de λi . Comme rangR (G) ≥ 2, ces groupe Ai sont non triviaux. L’ensemble X = Z(A1 ) · · · Z(At ) contient le parabolique minimal P associ´ ` Σ+ ainsi que le parabolique oppos´ P − . Donc l’ensemble Y = X X ea e contient l’ouvert U = P − P . D’apr`s la d´monstration du th´or`me 3.14.c, cet e e e e ouvert est dense dans G. Donc G = Y Y . C’est ce que l’on voulait. C’est le lemme 10.9.b ci-dessous qui nous fera passer du monde mesurable au monde continu. Lemme 10.9 Soient G1 et G2 deux groupes localement compacts s´parables. e a) Pour toute partie W1 ⊂ G1 de mesure positive pour la mesure de Haar de G1 , −1 l’ensemble W1 W1 contient un voisinage de e. b) Tout morphisme de groupes mesurable ϕ : G1 → G2 est continu. D´monstration a) On note µ1 la mesure de Haar de G1 . Quitte a r´duire W1 , e ` e 2 on peut supposer que µ1 (W1 ) < ∞. Or si α, β ∈ L (G1 , µ1 ), la convol´e g → e −1 (α∗β)(g) = G α(gx)β(x )dµ1 (x) est une fonction continue : on le v´rifie d’abord e pour α, β continues a support compact et on conclut par densit´. ` e −1 Donc la fonction 1W1 ∗ 1W1 est une fonction continue qui vaut µ(W1 ) en l’identit´. Elle est donc strictement positive dans un voisinage de l’identit´. Or e e −1 −1 elle est nulle en dehors de W1 W1 . Donc W1 W1 contient un voisinage de e. b) Soit V2 ⊂ G2 un voisinage de l’identit´ dans G2 . On veut montrer que V1 := e ϕ−1 (V2 ) est un voisinage de l’identit´ dans G1 . Choisissons un ouvert W2 ⊂ G2 e −1 tel que W2 W2 ⊂ V2 . Comme G2 est s´parable, il existe une famille d´nombrable e e d’´l´ments gp ∈ G2 tels que les translat´s W2 gp recouvrent G2 . Mais alors les ee e images inverses ϕ−1 (W2 gp ) recouvrent G1 . L’une d’elles W1 = ϕ−1 (W2 gp0 ) est −1 donc de mesure non nulle. Comme W1 W1 ⊂ V1 , on conclut a l’aide du a). ` D´monstration de la proposition 10.6 Posons I0 := Θ et, pour i = 1, . . . , s, e posons Ii = T (Z(Ai ))Ii−1 . Par une application r´p´t´e du lemme 10.7, l’espace e ee I est de dimension finie. Par le lemme 10.8, il est ´gal a E. e ` Montrons maintenant la continuit´ de Θ. Plus g´n´ralement, on va montrer que e e e toute fonction f ∈ E est continue. Comme E est de dimension finie, le lemme 10.9 prouve que le morphisme mesurable T : G → GL(E) est continu. Notons f1 , . . . , fi une base de E. On a donc des fonctions continues cj : G → k telles que, pour tout g dans G, on a T (g)f = j cj (g)fj . Par Fubini, pour presque tout x0 ∈ G, on a l’´galit´ e e f (x0 g) =
j

cj (g)fj (x0 )

pour presque tout g ∈ G. Donc f est continue et Θ aussi.

88

Remarque Comme Θ n’est pas constant, cela ne peut se produire que si k = R ou C.

10.5

Prolongement de π ` G a
Nous pouvons maintenant construire le prolongement de π que nous cherchons grˆce a la repr´sentation de G dans E et grˆce a a ` e a ` l’´valuation en e qui relie E et W . e

Notons δ : E → W ; f → f (e) l’´valuation en l’identit´ et rappelons que ρ est e e la repr´sentation de H dans W . e Lemme 10.10 a) L’application δ est Γ-´quivariante, i.e. pour tout γ ∈ Γ, on a e δ ◦ T (γ) = ρ(π(γ)) ◦ δ. b) L’application δ est injective. c) Son image δ(E) est un sous-espace H-invariant de W . D´monstration Comme G = GR est semisimple et connexe, la repr´sentation e e T de G s’´tend en une R-repr´sentation de G encore not´e T . C’est vrai du moins e e e si G est le quotient du R-groupe alg´brique simplement connexe G dont l’alg`bre e e de Lie est Lie(G)C par le noyau Z du morphisme (G)R → G, ce que l’on peut supposer. Rappelons aussi que ρ est la restriction d’une R-repr´sentation ρ de H. e a) On a les ´galit´s, pour f ∈ E, e e δ ◦ T (γ) (f ) = f (γ) = ρ(π(γ))(f (e)) = ρ(π(γ)) ◦ δ (f ). b) Le noyau Ker(δ) est un sous-espace Γ-invariant de E. Par le th´or`me 7.1 e e de densit´ de Borel, le r´seau Γ est Zariski dense dans G, et donc le noyau e e Ker(δ) est aussi G-invariant. Donc, si f est dans Ker(δ), pour tout g ∈ G, on a, f (g) = δ(T (g)f ) = 0 et f = 0. c) L’ image δ(E) est π(Γ)-invariante. Par hypoth`se π(Γ) est Zariski dense dans e H. Donc δ(E) est H-invariant. Fin de la d´monstration du th´or`me 10.1 On sait d´j` que k = R ou e e e ea C. Grace au lemme 10.10, on peut identifier E avec son image δ(E). On dispose donc dans E d’une repr´sentation T de G et d’une repr´sentation ρ de H telles e e que, pour tout γ ∈ Γ, on a T (γ) = ρ(π(γ)). Par le corollaire 4.5, l’image ρ(H) est Zariski ferm´e. Par le th´or`me 7.1 de e e e densit´ de Borel, le r´seau Γ est Zariski dense dans G. Donc T (G) est inclus dans e e ρ(H) . Comme H est simple, ρ est injectif et est donc un R-isomorphisme sur son image. Le R-morphisme ρ−1 ◦ T : G −→ H prolonge π.

89

11

Arithm´ticit´ e e
Nous avons montr´ dans le chapitre 5 le th´or`me de Borel Harishe e e Chandra qui affirme que “tout groupe arithm´tique est un r´seau”. Le e e but de ce chapitre est de d´montrer le th´or`me d’arithm´ticit´ de e e e e e Margulis qui en est une r´ciproque en rang r´el au moins 2. e e

11.1

Groupes arithm´tiques e
Nous devons tout d’abord ´tendre l´g`rement la d´finition 5.1 de e e e e groupes arithm´tiques e

D´finition 11.1 Soit G = GR le groupe des R-points d’un R-groupe semisimple e connexe ` centre trivial. Un r´seau Γ ⊂ G est dit arithm´tique si il existe un Qa e e groupe semisimple H et un morphisme continu p : HR → G de noyau compact et d’image d’indice fini dans G tel que les r´seaux p(HZ ) et Γ sont commensurables. e Th´or`me 11.2 (Margulis) Soit G = GR le groupe des R-points d’un Re e groupe semisimple. On suppose G sans facteur compact et rangR (G) ≥ 2. Alors tout r´seau irr´ductible Γ ⊂ G est arithm´tique. e e e Exemple Reprenons l’exemple A de la section 10.1. √ √ Pour la forme quadratique q sur R5 , q(x) = x2 + x2 + x2 − 2x2 − 2x2 , le 4 5 3 2 1 √ groupe Γ = SL(5, Z[ 2])∩SO(q, R) est un sous-groupe arithm´tique de SO(q, R). e √ En effet, le groupe HZ = {(g, g σ ) | g ∈ SL(5, Z[ 2]) ∩ SO(q, R)} est un sousgroupe arithm´tique d’un Q-groupe not´ H = RQ[√2]|Q (SO(q)) tel que HR = e e σ SO(q, R)×SO(q , R). Comme le groupe SO(q σ ) est compact, Γ est bien un groupe arithm´tique. e Strat´gie de d´monstration du th´or`me 11.2 e e e e On v´rifie tout d’abord que Γ est un groupe de type fini de sorte que le corps e K engendr´ par les traces des ´l´ments de Γ est un corps de type fini. e ee On rappelle ensuite comment construire de nombreux plongements des corps de type fini dans les corps locaux. On utilise ces plongements pour construire des repr´sentations de Γ a coeffie ` cients dans les corps locaux, repr´sentations auxquelles on applique le th´or`me e e e de superrigidit´ pour montrer que le corps K est une extension finie de Q. e Cela permet alors, grˆce a la “restriction de Weil” de construire une repr´a ` e sentation de Γ a coefficients dans Q, repr´sentation a laquelle on applique la ` e ` superrigidit´ p-adique pour montrer que les d´nominateurs qui apparaissent dans e e les coefficients matriciels sont uniform´ment born´s. On aura ainsi r´alis´ un e e e e sous-groupe d’indice fini Γ de Γ comme un sous-groupe de GL(d, Z). On verra que Γ est d’indice fini dans le groupe des points entiers de son adh´e rence de Zariski. La superrigidit´ r´elle sera utile pour cela. e e 90

les valeurs propres de Adγ sont des nombres alg´briques.2. λr d’´l´ments de K alg´briquement ind´pendants sur Q et notons ee e e 91 . et mˆme de pr´sentation finie.4 Sous les hypoth`ses du th´or`me 11. Les grandes lignes sont : e comme rangR (Gi ) ≥ 2. Lemme 11. Je ne la recopie pas ici. Γ est le groupe fondamental d’une vari´t´ compacte. e Proposition 11. il y a e e e e un cas o` la d´monstration est assez rapide : u e 1er cas : Si Γ est cocompact dans G. le groupe G a la propri´t´ T de Kazhdan. e Dans ce cas. N´anmoins. e e e 2`me cas : Si G ne contient pas de facteurs quasisimples Gi de rang r´el 1.3 Un r´seau Γ du groupe des R-points G = GR d’un R-groupe e G est de type fini. e Gp de groupes Nous admettrons cette proposition 11. . e ee Proposition 11. nous aurons besoin de construire des plongements des extensions de type fini de Q. Cette proposition s’´tend aux r´seaux des produits finis G = e e r´els et p-adiques.3 dans sa g´n´ralit´. la proposition est due a Kazhdan et la d´monstration repose sur ` e la propri´t´ T de Kazhdan.5 Soit K une extension de type fini de Q. Elle est d´taill´e dans le chapitre 3 de [4] dans un ee e e esprit tr`s proche de ce cours. λ un ´l´ment de K transee cendant sur Q. voir [21] corollaire 13. Dans ce cas.10. D´monstration du lemme 11.11. e 3`me cas : Si G contient un facteur quasisimple de rang r´el 1.5 Mettons λ dans une famille maximale λ1 = e λ . . λ2 . Il est donc ee de type fini. donc le r´seau ee e Γ aussi et donc Γ est de type fini. u` 11. e Le fait que Γ soit de type fini est dˆ a Raghunathan. Alors il existe un corps local p-adique k et un morphisme de corps σ : K → k tel que |σ(λ)| > 1. . .3 Alg´bricit´ des valeurs propres e e Dans cette section on utilise la superrigidit´ pour montrer l’alg´e e bricit´ des valeurs propres des ´l´ments de AdΓ. e e e Pour tout γ ∈ Γ. e Pour montrer cette proposition.2 Les r´seaux sont de type fini e Nous admettrons dans cette section un point certes crucial mais pas tr`s surprenant.

e e 11. C’est donc une extension finie de Q.6 Sous les hypoth`ses du th´or`me 11. Soit K0 le corps e e engendr´ par les coefficients matriciels d’une famille finie g´n´ratrice du groupe e e e AdΓ. . e Supposons que l’adjoint Adγ d’un ´l´ment γ ∈ Γ a une valeur propre λ transee cendante sur Q. Mais par construction. Le lemme 11. K) c) Le groupe i(G) est d´fini sur K. 92 . b) Il existe un R-morphisme injectif i : G → GL(m) tel que i(Γ) ⊂ SL(m. Ce corps est de type fini.1 de superrigidit´ affirme que l’image e e e e e de Γ dans Gk est born´e.6 e a) D’apr`s la proposition 11. .K = Q(λ1 .4. e Remarque On a bas´ la d´monstration de la proposition 11. le groupe engendr´ par Adγ n’est pas born´. e Proposition 11.2.4 Corps de d´finition de G e Nous d´terminons dans cette section le plus petit corps de d´finie e tion de Γ Notons K le corps engendr´ par les traces T r(Adγ) pour γ ∈ Γ. Le groupe adjoint G de G est donc un groupe semisimple d´fini sur K0 tel que AdΓ ⊂ GK0 . . une extension finie de Q. le th´or`me 10. Pour tout ϕ ∈ R[G] et g. Comme le groupe G est un produit de groupes k-simples et que l’image de Γ est Zariski dense dans G . On ´tend alors ce plongement en un morphisme de l’extension e finie K de K vers une extension finie k de Qp . le corps K est une extension alg´brique de Q. λr ) ⊂ K. e e e a) Le corps K est un corps de nombre i. Contradiction. e D´monstration de la proposition 11. Le groupe G e e e agit sur R[G] par translation ` droite.4 permet de construire un morphisme de corps K0 [λ] → k dans un corps local p-adique tel que |σ(λ)| > 1. Il est facile de trouver un plongement σ : K → Qp tel que |σ (λ)| > 1. b) Notons R[G] l’anneau des fonctions r´guli`res et r´elles sur G. D´monstration de la proposition 11. . Le e e morphisme i = T |E provient d’un R-morphisme i : G → GL(m).4 D´composons l’alg`bre de Lie g de e e e G en somme d’id´aux simples et fixons une base de ces id´aux.e. e e Or ce corps K est une extension de type fini de Q. On aurait pu aussi bien utiliser ici la superrigidit´ r´elle.4 sur la superrigidit´ e e e p-adique. x ∈ G a (T (g)ϕ)(x) = ϕ(xg) Soit ϕ0 l’´l´ment de R[G] donn´ par ϕ0 (g) = Tr(Adg) et E := T (G)ϕ0 le Ree e sous-espace vectoriel de dimension finie m engendr´ par les translat´s de ϕ0 .

. Le fait qu’il soit d´fini e e e sur K r´sulte du th´or`me 7. Pour tout ee x ∈ G on a donc Tr(AdxAdg) = Tr(Adx).5 Restriction de K ` Q a La derni`re ´tape consiste ` remplacer le corps de nombre K par e e a Q grˆce au proc´d´ de restriction ` la Weil. . e e e e 11. . Γ est a e e e Zariski dense dans G et il existe γ1 .5. a e e a On utilise dans cette ´tape.2 d’arithm´ticit´ est une cons´quence de la proposition suie e e e e vante. d) Les groupes Γ et p(HZ ) sont commensurables. Montrons qu’il existe une base ϕ1 . les restrictions des fonctions ϕj sont encore lin´airement ind´pendantes. . le groupe i(G) est alg´brique. 93 . i. Proposition 11. Ecrivons. un morphisme ϕ : Γ → HQ a et un morphisme continu p : HR → G tels que a) π = p ◦ ϕ. Le noyau de i est donc un sous-groupe semisimple ee de G dont tous les ´l´ments sont unipotents.j c) D’apr`s le corollaire 4.j De nouveau. i. comme Γ est Zariski dense dans G. . On peut donc trouver γ1 . γm ∈ Γ tels que les m translat´s ϕi = e T (γi )ϕ0 forment une base de E.1 de densit´ de Borel et du lemme 7. Soit g ∈ G un ´l´ment du noyau de i. γm ∈ Γ tels e e que la matrice (ϕi (γk )) est une matrice m × m inversible. Il est donc trivial. L’´l´ment g est donc unipotent. . Le morphisme i ee est bien injectif.1 de densit´ de Borel. . b) Le sous-groupe Γ := {γ ∈ Γ | ϕ(Γ) ∈ HZ est d’indice fini dans Γ. pour γ ∈ Γ. e e e Il existe un Q-groupe semisimple H ` centre trivial. e Le th´or`me 11. Les ´galit´s e e aγ ϕi (γk ) = (T (γ)ϕj )(γk ) = ϕ0 (γk γγj ) ∈ K i. Par le th´or`me 7.7 Sous les hypoth`ses du th´or`me 11.2. . . T (γ)ϕj = i aγ ϕi .2. On a donc pour tout n ≥ 0 Tr(Adg n ) = Tr(Adg n−1 ) = · · · = dim g. a la fois la superrigidit´ r´elle et la e ` e e superrigidit´ p-adique. . . c) Le noyau Ker p est compact. ϕm de E dans laquelle les ´l´ments de ee i(Γ) sont ` coefficients dans K. .Montrons que i est injectif.j i prouvent que les coefficients aγ sont dans K.

Identifions K a un sous-corps de R et notons σ1 . . C)r2 . R). . .. . Q). Notons Zp l’anneau des entiers de Qp . r 1 Soit ϕi la compos´e Γ → HQ ⊂ HQpi . avec σ1 = Id. dont le groupe des R-points s’identifie ` RR a GL(m. Comme le sous-groupe HZpi est ouvert dans HQpi . par construction. p−1 ] . . on peut supposer que G ⊂ GL(m) est d´fini sur e e un corps de nombre K et que Γ ⊂ GK . D’apr`s le th´or`me de superrigidit´. . R)r1 × GL(m. on a.7 e D’apr`s la proposition 11. on pourrait d´composer e H en produit de R-groupes H = G × F × F o` p est la projection sur le premier u facteur et o` F est simple et FR non compact.2 affirme que H est un Q-groupe. . K) s’identifie ainsi au groupe RQ des Q-points d’un Qsous-groupe R de GL(m ). e e e En particulier. le lemme 7. . . Regardons K comme un Q-espace vectoriel de e dimension . . . On en ` d´duit que le Q-groupe H est donc semisimple. Ce morphisme a son image dans e GL(m.. σ r1 +1 . C)r2 ⊂ GL(m . e i c) Montrons que le noyau Ker(p) est compact. Notons q la projection sur ce u 94 GL(m. Comme ϕ(GK ) est e inclus dans GL(m . . R)r1 × GL(m. il existe des nombres premiers p1 . le sous groupe Γ := ∩i ϕ−1 (HZpi ) est d’indice fini dans Γ et v´rifie ϕ(Γ ) ⊂ HZ . . σ . σr1 +r2 .. a) Commen¸ons par rappeler la construction et les propri´t´s de la “restriction c ee de Weil” H = RK|Q (G). . . b) Comme Γ est de type fini. . R) la projection sur le premier facteur. K) −→ GL(m . σ r1 +r2 les morphismes de K dans C de sorte que le morphisme σ R ⊗Q K −→ Rr1 × Cr2 k → (σ1 (k).D´monstration de la proposition 11.6. σr1 +r2 (k)) soit un isomorphisme d’alg`bres. Notons ϕ : GL(m. σr1 ` les morphismes de K dans R. . Q) le morphisme de groupes qui s’en d´duit. R ⊗Q K) Notons p : GL(m. a Notons H = RK|Q (G) l’adh´rence de Zariski de ϕ(GK ). Ce Q-groupe est not´ RK|Q (GL(m)) et est appel´ e e la restriction de K ` Q de GL(m). pour tout alg`bre A contenant Q. Le groupe des points complexes HC s’identifie a (GC )r1 +2r2 . . . . pr tels que ϕ(Γ) ⊂ HZ[p−1 . pour tout γ ∈ Γ. l’´galit´ HA GK⊗Q A .. Sinon. En outre. Le groupe GL(m. H est encore un Q-groupe dont les Q-points s’identifient aux Kpoints de G. on a p(HR ) = G e et p(ϕ(γ)) = γ. Par construction. et σr1 +1 . R ⊗Q K) −→ GL(m. e e e e e l’image ϕi (Γ) est relativement compacte dans HQpi .

Ce groupe n’est pas Zariski dense e dans H. cette e image n’est pas born´e. d) D’apr`s le c) ϕ(Γ ) est un r´seau de HR . Donc ϕ(Γ ) est d’indice fini dans e e HZ et Γ et p(HZ ) sont commensurables. le th´oe e e e r`me d’arithm´ticit´ et sa d´monstration sont valables dans un cadre beaucoup e e e e plus large : on peut prendre pour G un produit fini G = Gp .Si k est un corps local de caract´ristique non nulle. u . avec p premier ou ∞ et Gp le groupe des Qp -points d’un Qp -groupe semisimple sous l’hypoth`se e p rangQp Gp ≥ 2. .IX) .Si k est un corps p-adique.Comme pour le th´or`me de superrigidit´. e e . le groupe Gk des k-points d’un k-groupe semisimple G contient toujours des r´seaux cocompacts et des r´seaux non cocompacts. Le th´or`me 10. En particulier.Si k = R ou C. le groupe Gk des k-points d’un k-groupe semisimple G contient toujours des r´seaux et ceux-ci sont toujours cocompacts.deuxi`me facteur.1 de superrigidit´ prouve que q ◦ ϕ se e e e e prolonge en un morphisme continu ψ : G → F . L’image q ◦ ϕ(Γ) est Zariski dense dans F.On peut en outre remplacer cette hypoth`se de rang par e Γ est d’indice infini dans son commensurateur Com(Γ) o` Com(Γ) := {g ∈ G | gΓg −1 et Γ sont commensurables }. le groupe Gk des k-points e d’un k-groupe semisimple G contient toujours des r´seaux non cocompacts mais e pas toujours des r´seaux cocompacts. Donc le noyau Ker(p) e est compact. L’image ϕ(Γ) serait alors inclus dans le sous-groupe ferm´ Graphe(ψ) × F . Remarques (voir [16]. Ceci contredit la Zariski densit´ de ϕ(Γ) dans H. e 95 . e .

Lorsque Γ est cocompact. Lemme 12. Il est dˆ a Dani dans ce cas. D´monstration de la proposition 12. B=AU.6 de Birkhoff appliqu´ ` une famille d´nombrable dense de fonce e ea e tions de Cc (X) prouve que µ(Z) = 1. e e Lemme 12.2 Expliquons tout d’abord la d´marche que e e nous allons suivre. alors µ est Ae e invariante. e e Dans cette section on notera aussi A = {at := U − = {u− := s 1 s 0 1 t 0 0 t−1 | t > 0}. U = {us := 1 0 s 1 | s ∈ R}.1 Mesures invariantes Mesures U -invariantes sur SL(2.6. on peut trouver un e 96 . R). L’id´e est de prendre deux points proches e x et gx dans Z et de comparer les moyennes orbitales de ϕ issues de x et de gx. lorsque g n’est pas dans B. nous montrons le th´or`me mesur´ de Ratner e e e pour G = SL(2.R)/Γ Dans cette partie. Soit Z = {x ∈ X | lim 1 t→∞ t t ϕ(us x)ds = 0 X ϕ dµ pour tout ϕ ∈ Cc (X)}.b) . e Remarques . La quantit´ d(s) est la d´rive du param´trage et D(s) la e e e d´rive transverse. Alors ou bien cette probabilit´ µ est port´e par une U -orbite p´riodique ou bien e e e cette probabilit´ µ est G-invariante.2 Si µ n’est pas port´e par une U -orbite p´riodique.Lorsque Γ n’est pas un r´seau.12 12. On verra que. Le th´or`me 8. u` Proposition 12. Soient Γ ⊂ G un sous-groupe discret et µ une probabilit´ U -invariante U -ergodique sur e le quotient X = G/Γ.1 Soit G = SL(2. On ´crit e us gx = D(s)ud(s) x avec D(s) dans B − . | s ∈ R} et B − = AU − .3 Si µ est B-invariante. (voir la d´monstration du corollaire ee e 5.1 Elle r´sulte des lemmes suivants. le premier cas est impossible car Γ ne contient pas d’´l´ment unipotent non trivial. R). le deuxi`me cas est impossible car µ(X) = 1. alors µ est G-invariante. D´monstration du lemme 12.

u En effet. Il suffit de prendre Z0 = ∩ϕ∈F Zϕ o` les εϕ sont choisis de sorte que ϕ∈F εϕ ≤ ε0 . on a. la convergence uniforme pour e x ∈ Z0 . On aura alors. 1er cas : Il existe une suite gn ∈ G. C’est l’objet de la d´monstration que nous d´taillons a e e maintenant. αn βn Notons gn = et choisissons xn ∈ Z0 tel que gn xn ∈ Z0 . Par d´finition de Z0 . l’ensemble des fonctions ϕ ∈ Cc (X) pour lesquelles la limite (3) soit uniforme pour x ∈ Z0 est un ferm´ de Cc (X). e Distinguons deux cas. pour tout ϕ ∈ Cc (X). ϕ dµ X 1 (I) ϕ(us gx)ds I 1 (I) ϕa (ud(s) x)ds I X ϕa dµ. On va montrer que X ϕ dµ = ϕa dµ. On peut supposer que ϕ ∞ ≤ 1. pour tout s1 < s2 . Ce qui implique que µ est A-invariant. gn ∈ B. ` Il reste ` justifier ces . En effet. ce qui prouvera que µ est A-invariante. s2 1 lim ϕ(uλs x)ds = ϕ dµ. Pour tout ε0 > 0. la proposition 8. on peut trouver une partie compacte Z0 ⊂ Z de mesure µ(Z0 ) ≥ 1 − ε0 telle que.8 d’Egorov appliqu´e a une fonction f d’une partie e ` d´nombrable dense F de Cc (X) permet de construire des parties compactes Zϕ e de mesure µ(Zϕ ) ≥ 1 − εϕ telles que la limite (3) soit uniforme pour x ∈ Zϕ . gn → e telle que gn Z0 ∩ Z0 = ∅. en posant ϕa (y) = ϕ(ay). la limite 1 t→∞ t lim t ϕ(us x)ds = 0 X ϕ dµ (3) soit uniforme pour x dans Z0 . λ→∞ s2 − s1 s X 1 97 . a moins que g ne soit toujours dans B. Un calcul matriciel avec λn = γn → ∞ donne uλn s gn = Dn (s)uλn dn (s) o` u Dn (s) = et dn (s) = Soient ϕ ∈ Cc (X) et a = X αn + s γn 0 1 αn +s −→ D(s) := 1+s 0 0 1 1+s βn γn + δn s s −→ d(s) := . On peut γ δ n n −1 supposer γn > 0.“long” intervalle de temps I pendant lequel D(s) est presque ´gal a un ´l´ment e ` ee non trivial a de A. αn + s 1+s 1 + s0 0 0 1 1+s0 ∈ A.

Soit ε > 0. on e c e ` a σ2 1 lim ϕa (uλn σ xn )dσ = ϕa dµ. s2 ] et [0. par simple soustraction pond´r´e de moyennes sur [0. on ait ϕD(s) − ϕa ∞ ≤ ε (6) et 1 σ2 − σ1 − 1 ≤ ε.En effet. 1 n→∞ s2 − s1 lim s2 ϕ(uλn s gn xn )ds = s1 X ϕ dµ. 2 et σ2 − σ1 s2 − s1 On a alors. pour s ∈ [s1 . e on peut choisir s1 < s2 suffisamment proche de s0 pour que. s2 ]. (5) n→∞ σ2 − σ1 σ X 1 Expliquons tout d’abord dans quel ordre on choisit les param`tres. a pour tout s1 < s2 . o` σ = dn (s) e u 1 s2 − s1 σ2 σ1 1 1 ϕ (uλn σ xn ) dσ − |dn (s)| s2 − s1 a s2 ϕa (uλn σ xn )dσ ≤ 2ε s1 d’apr`s (7) et (10). e 98 . d (s) s2 − s1 On choisit alors n0 tel que. pour n ≥ n0 1 s2 − s1 d’apr`s (6) et (8) e 1 s2 − s1 s2 σ2 s2 s2 1 1 − ≤ ε. (8) (9) |si − d−1 (σi )| ≤ ε(s2 − s1 ) n pour i = 1. dn (s) d (s) (10) ϕ(uλn s gn xn )ds − s1 s1 ϕa (uλn dn (s) xn )ds ≤ 2ε ϕa (uλn dn (s) xn )ds − s1 σ1 ϕa (uλn σ xn ) 1 dσ ≤ 2ε |dn (s)| d’apr`s (9). qu’on prend ´gal a σ1 = d(s1 ) et σ2 = d(s2 ). pour σ1 < σ2 . s2 ]. on ait ϕDn (s) − ϕD(s) ∞ (7) ≤ ε. s1 ]. En particulier. on ee peut se ramener ` de telles moyennes sur des portions d’orbites. (4) De la mˆme fa¸on. pour tout n ≥ n0 et s ∈ [s1 .

Dans les deux cas.3). C’est-`-dire que e e e a ϕ(x) = X ϕ dµ pour λ-presque tout x. µ(Bx) = 1. e e t t→0 Pour x ∈ X et ϕ ∈ Cc (X). Cette intersection Dx ∩ Z0 est incluse dans l’orbite Bx. X Comme ε est arbitraire. e −1 Le groupe ∆ := B ∩ gΓg est un sous-groupe discret de B et µ est une probabilit´ U -invariante sur B/∆. par uniforme continuit´ de ϕ. pour tout u− ∈ U − e s t→∞ lim (ϕ(aet u− x) − ϕ(aet x)) = lim (ϕ(u− s aet x) − ϕ(aet x)) = 0. on a soit ∆ ⊂ A ou ∆ ⊂ U . e 2`me cas : Il n’y a pas de suite gn ∈ G. Il est facile de d´crire tous les sous-groupes e e discrets de B. Donc µ(Bx) > 0 et par ergodicit´.6 de Mautner e a et de l’´galit´ lim at us a−1 = e. on note ϕ(x) = lim inf t→∞ 1 t t ϕ(aes x) ds et Y = {x ∈ X | ϕ(x) = 0 X ϕ dµ}. D´monstration du lemme 12. Montrons tout d’abord que µ est port´e par une B-orbite. D’apr`s le th´or`me 8. proposition 8. notons D e un voisinage de e dans G tel que les ´l´ments g ∈ D. et que µ(Y ) = 1.Ces trois majorations avec (4) et (5) donnent ϕ dµ − X X X ϕa dµ ≤ 6ε. µ) e ee qui est A-invariant est forc´ment U -invariant ` cause du lemme 6. e toutes les orbites de U dans B/∆ sont ferm´es. Montrons que λ(Y c ) = 0. gn ∈ B. on a ϕ dµ = ϕa dµ.3 Remarquons que µ est B-invariante et U e ergodique. le th´or`me de e e e Fubini prouve que. on a µ(Y c ) = 0. On dit qu’elles sont sur la mˆme feuille e stable du flot g´od´sique. Comme µ est ergodique. e e La multiplication induit un diff´omorphisme entre e α β − U × B et {g = γ δ ∈ G | α = 0}. µ est e port´e par une U -orbite (cf. A conjugaison pr`s. Pour cela.2. On d´duit des trois paragraphes pr´c´dents que λ(Y c ) = 0. En effet. l’ensemble Bx = {b ∈ B | bx ∈ Y } est de compl´mentaire n´gligeable pour la mesure de Lebesgue de B. e e e s Comme la probabilit´ µ est B-invariante. 99 . Ce qui termine la d´monstration e e du lemme 12. un ´l´ment ϕ ∈ L2 (X. pour µ-presque tout x ∈ X. ee e Il existe un point x = gΓ ∈ Z0 tel que µ(Dx ∩ Z0 ) > 0. On en d´duit que ϕ(u− x) = ϕ(x) puis que U − Y = Y . Soit λ une mesure Ge e e invariante sur G/Γ.6 de Birkhoff. s e−2t t→∞ Ce calcul traduit le fait que les deux g´od´siques issues de x et de u− x se rape e s prochent exponentiellement vite vers +∞. On en d´duit que µ est A-ergodique. Remarquons que. gn → e avec gn Z0 ∩ Z0 = ∅. g ∈ B v´rifient gZ0 ∩Z0 = ∅.

on peut soit reprendre le calcul pr´c´dent en rempla¸ant le lemme de Fatou par le th´or`me de convergence e e c e e domin´e et les limites inf´rieures par des limites. On en e e d´duit que X ϕ dλ = X ϕ dµ. Le ϕ dλ ≤ lim inf t→∞ X 1 t t ϕ(aes x) ds dλ = 0 X ϕ dλ < ∞. Z). Notons x0 le r´seau Z3 . n’est pas propre ` la dimension 3.5 consiste a partir d’un ferm´ U e ` e invariant minimal K de l’adh´rence de l’orbite F = Hx. La proposition 12. Donc. e D´monstration de l’implication Proposition 12. Alors toute H-orbite born´e Hx ⊂ X est compacte. semigroupe trop gros pour avoir des orbites born´es dans X. ε[.6 de Birkhoff.4 (Margulis) Soit Q une forme quadratique sur R3 de signature (1. 2) qui n’est pas multiple d’une forme quadratique enti`re. H = SO(Q. Le crit`re 1. On peut aussi remarquer que λ e e est A-invariante et A-ergodique par le corollaire 6. Alors Q prend des e valeurs arbitrairement petites sur Z3 0. 1).5 Soient G = SL(3. u` a Supposons par l’absurde qu’il existe ε > 0 tel que Q(Z3 0) ne rencontre pas ] − ε. on donne une d´monstration directe et rapide e de la conjecture d’Oppenheim qui fut la premi`re des motivations des e travaux de Ratner. e Remarques . dˆ a Raghunathan. on montre que K est A-invariant puis e que l’image de K par un sous-semigroupe de G reste dans F .8 u e 100 . On peut donc supposer que λ(X) = 1. par le th´or`me 8. Cette proposition sera une cons´quence de la version faible suivante du th´oe e r`me topologique de Ratner.La d´monstration directe que nous suivons ne se g´n´ralise pas pour d´crire e e e e les adh´rences de toutes les H-orbites. e ee La strat´gie de la preuve de la proposition 12. R). Proposition 12.Born´e signifie relativement compacte.2 Petites valeurs des formes quadratiques Dans cette section.4 e L’argument qui suit. on a ϕ(x) = X ϕ dλ pour λ-presque tout x. elle est assez ´l´mentaire. Pour conclure. Pour cela choisissons ϕ ≥ 0 tel que lemme de Fatou donne alors λ(X) = X X ϕ dµ = 1. Γ = SL(3.5 =⇒ Proposition 12. e Proposition 12. e a 12.1. C’est-`-dire µ = λ.4 de Howe-Moore. R) et Hx0 la H-orbite de x0 dans e X.5 est bien sˆr aussi valable pour ce groupe H. Par un argument proche e de l’argument de d´rive de la section 12.Montrons que λ(X) < ∞. e . En contre-partie. X = G/Γ et H = SO(2. Son d´faut principal est de ne faire appel a e e aucun argument de th´orie ergodique.

i . D´monstration du lemme 12. Forc´ment e e e σ µ = 1 et Q = Q.1] uλn s vn − vn = 1. Cet e argument nous est maintenant bien familier. Le groupe H pr´serve donc le noyau de e e ee e σ 3 Q −µQ. on en d´duit que H ⊂ SO(Qσ . on a lim λn = ∞ car v0 est un point fixe de U .j = aj. C’est possible car l’application s → us vn est polynomiale non constante de degr´ e born´ par d. e Lemme 12.6 Soient vn une suite de points de D tels que e lim vn = vn . ε[) est un voisinage de 0 qui ne rencontre qu’en 0 les r´seaux e Λ ∈ Hx0 .j xi xj avec ai. il est donc Zariski dense dans H.j σ montrer que Q = Q .de Mahler prouve que cette orbite est relativement compacte. On peut supposer que l’un des coefficients ai. En effet. U = {us | s ∈ R} un groupe ` un param`tre de transformations unipotentes et F l’ensemble a e des points fixes de U dans E.5 prouve alors que cette orbite Hx0 est compacte. Quitte a extraire. En outre. La suite des polynˆmes o n→∞ ϕn : s → uλn s vn est born´e sur [−1. 1] vers un polynˆme ϕ. Montrons que cela implique que Q est multiple d’une forme quadratique enti`re. e Ecrivons Q(x) = ai. on a ϕ(R) ⊂ U D. C). e e e Comme on a l’inclusion Γ ∩ H ⊂ SO(Qσ . Remarquons que le groupe Γ ∩ H est un r´seau cocompact e de H. Soient D une partie de E F et v0 un point de D ∩ F . 1]. pour ut ∈ U . e Soit µ ∈ C tel que Qσ − µQ est d´g´n´r´e. L’irr´ductibilit´ de l’action de H sur C prouve que Qσ = Q. l’ouvert Ω := Q−1 (] − ε. Le lemme suivant est bas´ sur l’aspect polynomial des flots unipotents. Ce polynˆme est non e o o constant car ϕ(0) = 0 et sup s∈[−1.1 de densit´ de Borel. Par le th´or`me 7. Il suffit de i. Soit σ ∈ Gal(C|Q) et Q (x) = a aσ xi xj . e En outre.6 Soient E un R-espace vectoriel de dimension d < ∞. C). on a ut ϕ(s) = lim ut ϕn (s) = lim ϕn (s + t/λn ) = ϕ(s) n→∞ n→∞ 101 . Par construction.1] ϕ(s) − v0 = 1. Il jouera le rˆle de l’argument de o d´rive de la section 12. on peut supposer qu’elle e ` converge uniform´ment sur [−1. Montrons que Q est e a σ alors ` coefficients dans Q. La proposition 12. Alors U D ∩ F contient un chemin polynomial non constant passant par v0 .1. ϕ prend ses valeurs dans F car. On choisit λn > 0 tels que n→∞ sup s∈[−1.j est ´gal ` 1.

pour v = (x1 . Contradiction. e Dans cette d´monstration. d’apr`s le lemme 12. Le crit`re 1. Le groupe V n’est pas inclus dans H.6. Lemme 12. Soit F = Hx. La premi`re fois via le lemme 12. e La deuxi`me fois via le lemme 12. Mais. Le groupe H contient alors e 2 les deux groupes     A = {at := et  0 0 0 0 1 0  | t ∈ R} . 0 e−t   1 0 s {vs :=  0 1 0  | s ∈ 0 0 1 U = {us := 1  0 0 s 1 0 s2 /2 s  1 | s ∈ R}. On suppose par l’absurde que F = Hx.7.par uniforme convergence.9. les ensembles AU V ± (K) ne sont e pas born´s dans X. D’apr`s le lemme 12. D´monstration du lemme 12. tout compact U -invariant non vide de X contient un compact U -invariant minimal.7 Pour tout y ∈ X. Q(v) = x2 − 2x1 x3 . x3 ) ∈ R3 . Les gros sous-semi groupes dont nous parlions ci-dessus sont AU V ± . On va appliquer deux fois le lemme 12. e e Lemme 12.5 Rappelons que.8.8 Soit K un compact U -invariant minimal du compact F = Hx. On pose e 2 gt = at u−x2 /x3 v(x2 −2x1 x3 )/2x2 ∈ AU V ± 2 3 et on calcule gt p = (0. les orbites AU V + y et AU V − y ne sont pas born´es dans X. x3 ) dans ce r´seau tel que x3 = 0 et ±(x2 − 2x1 x3 ) > 0. on a utilis´ les deux lemmes suivants.8. x2 .8 Remarquons tout d’abord que K n’est pas e une U -orbite compacte. Fixons les notations : on peut supposer que la forme quadratique e s’´crit. On notera V ± := {vs ∈ V | ±s > 0}. que A normalise U et V . que e les produits B := AU et W := U V sont des groupes et que le normalisateur de U est le groupe NG (U ) = AU V . On v´rifie facilement que U et V commutent. D´monstration de la proposition 12. Notons V = R}. on a soit AU V + (K) ⊂ F e − ou AU V (K) ⊂ F . e−t x3 ) → 0 quand t → ∞. par un argument a la e ` Zorn. D’apr`s le lemme 12. ce come pact K est aussi AU -invariant. On peut choisir un point e e p = (x1 . e Soit K un compact U -invariant minimal de F . x2 . Sinon. Alors K est AU -invariant. e D´monstration Le point y ∈ X est un r´seau de R3 .8.8 de Mahler e ± prouve donc que AU V y n’est pas relativement compact. Certains sous-groupes a un param`tre de G vont jouer un rˆle important dans la ` e o d´monstration. 0. on pourrait trouver y dans K et s = 0 tels que 102 .

M est H-invariant ` droite et AU -invariant ` gauche. on choisit un point y ∈ K. on a e + V ⊂ AL. Ce qui contredit le lemme 12.7. ` Supposons par l’absurde que ce ne soit pas vrai. D´monstration du lemme 12. car at vs0 a−t v−s0 = v(e2t −1)s0 . on a donc AU V + y ⊂ HLy ⊂ F. Pour pouvoir appliquer le lemme 12. Pour tout g dans dans M ∩ AV . Montrons que K est L-invariant. ce qui contredit la t→∞ compacit´ de F . Alors on a soit AU V + (K) ⊂ F ou AU V − (K) ⊂ F . (1. on a gK = K. c’est un sous-groupe de Lie connexe non trivial de AV . e ee M est U -invariant ` droite et ` gauche. e L’ensemble M := {g ∈ G | gF ∩ K = ∅} v´rifie alors les trois propri´t´s e ee suivantes. Donc at y tend vers l’infini. K ne peut pas ˆtre inclus dans Hx.us y = y.8. pour tout y ∈ K. Dans les deux cas. Cela r´sulte du e r´sultat g´n´ral 4. Donc K est bien L-invariant. ` remarquons qu’il existe une repr´sentation lin´aire de G dans un espace vectoriel e e E de dimension finie et un point v0 ∈ E tel que Gv0 G/U . e ` Le lemme 12.9 On suppose que l’orbite Hx n’est pas compacte. Par minimalit´ e e e de K. Comme H/AU est compact et que l’orbite Hx n’est pas compacte. Soit K un compact AU -invariant minimal du compact F = Hx. On peut ˆtre aussi tr`s explicite en prenant e e e e e E = { formes quadratiques sur R3 } × R3 et v0 = (Q. On ´crit alors e y = gn usn y avec gn → e. On est alors dans l’un des deux cas suivants : L = V ou vs0 Av−s0 avec s0 = 0. a a M est ferm´. e Il existe une suite gn dans M U convergeant vers e. e Il existe une suite gn dans M H convergeant vers e. il reste a montrer que L contient A. 0)). e Pour conclure. Dans les e deux cas.7 de Chevalley. L’ensemble des points fixes de U dans G/U est ´gal a NG (U )/U AV .6 et les trois propri´t´s ci-dessus prouvent que l’on est dans l’un ee des deux cas suivants : 1er cas La suite gn est dans AV U pour n 0. `me e 2 cas Il existe une application continue non constante ϕ : R → AV ∩ M .6 a l’image D de la suite gn dans G/U . le ferm´ gK ∩ Kest U -invariant e et non vide et. a a M est ferm´. il existe une suite usn ∈ U avec sn → ∞ telle que usn y → y. 103 . Lemme 12. e L’ensemble M := {g ∈ G | gK ∩ K = ∅} v´rifie les trois propri´t´s suivantes. 0.9 Le raisonnement est tr`s proche de celui du e e lemme 12. On aurait alors ue−t s at y = at y. Or les points de X ont un stabilisateur discret dans G et lim ue−t s = e. par minimalit´ de K. Dans ce deuxi`me cas. Pour v´rifier cette derni`re affirmation. Notons L la composante connexe du groupe engendr´ par M ∩ AV .

on en d´duit que V + ⊂ M ou V − ⊂ M . 104 . l’ensemble des e points fixes de U dans G/H est ´gal a NG (U )H/H = V H/H V .8 en prenant e E = { formes quadratiques sur R3 } et v0 = Q. On a alors une suite hn ∈ H telle que hn x → y. Comme M est invariant par conjugaison par A. On a donc K ⊂ vF . l’intersection vF ∩ K est non vide et U -invariante.6 a l’image D de la suite gn dans G/H. Pour tout v ∈ V − . puis V K ⊂ F et enfin AU V K ⊂ AU F = F . `me e 2 cas Il existe une application continue non constante ϕ : R → V ∩ M . on a M ∩ V = e. Dans les deux cas. On peut ˆtre aussi explicite que dans le lemme 12. on prend un point y ∈ K hors de l’orbite e e Hx.7 qu’il existe une repr´sentation lin´aire de ` e e G dans un espace vectoriel E de dimension finie et un point v0 ∈ E tel que Gv0 G/H. Comme tous les sous-groupes unipotents de H sont conjugu´s. Le lemme 12. e ` Le lemme 12.8 assure que K est un ferm´ U -invariant e + + minimal.6 et les trois propri´t´s ci-dessus prouvent que l’on est dans l’un ee des deux cas suivants : 1er cas La suite gn est dans V H pour n 0. On ´crit alors y = gn hn x e avec gn → e. e Supposons par exemple V − ⊂ M .Pour v´rifier cette derni`re affirmation. on remarque ` de nouveau a l’aide du corollaire 4. Pour appliquer le lemme 12.

il existe un compact K = Kx ⊂ X tel que.8 de e compacit´ de Mahler e 105 . le vecteurs ut v se d´place e a vitesse constante. pour tout T ≥ 0 |{t ∈ [0. T ] | ut x ∈ K}| ≥ (1 − ε)T. Le a e ee but de cette section est le th´or`me suivant. Z) est l’espace des r´seaux de volume 1 dans Rd . 13. On notera l’analogie entre ce th´or`me 13. la boule bα contient a chaque instant t au plus une paire de points ±ut v avec v ∈ ∆ primitif.1 et le lemme 1. Le crit`re de Mahler assure que e l’ensemble des r´seaux ∆ ∈ X qui ne rencontrent bε qu’en 0 est un compact. R)/SL(d. le compact Kx peut ˆtre choisi uniforme pour tout x dans un compact e K de X.2 Pr´liminaires sur les r´seaux e e Nous aurons besoin d’une version plus maniable du crit`re 1. On note |I| la mesure de Lebesgue e e d’une partie I de R. C’est ce que l’on voulait. ` Donc la proportion du temps entre 0 et T pendant lequel ut ∆ avait un point dans cette boule bαε/2 est au plus ε. Ce th´or`me affirme donc que les orbites du flot ut sur X passent la e e plus grande partie de leur temps a distance finie. Ce que e nous supposerons dans ce chapitre. e A cause du th´or`me d’arithm´ticit´ de Margulis le cas crucial est celui o` e e e e u X = SL(d. ` 13. Ces intervalles Iv sont disjoints car. R)/SL(d. Donc dans l’intervalle de temps Iv qu’il a pass´ dans bα la ` e proportion de temps qu’il a pass´ dans une boule beaucoup plus petite bαε/2 est e au plus ε. Pour chaque paire ±v ∈ ∆ de vecteurs primitifs. Pour tout e e ε > 0. e Choisissons une boule bα avec α ≤ 1 qui ne rencontre le r´seau de d´part ∆ = x e e qu’en 0.1 est tr`s e e e e courte : On note bε la boule de rayon ε dans R2 .1 (Dani. Th´or`me 13. la d´monstration du th´or`me 13. Z). x ∈ X. comme ut ∆ est de volume 1.1 Le cas d = 2 Dans le cas d = 2. Notons alors t → ut = etN un groupe ` un param`tre d’´l´ments unipotents. Margulis) Soit X = SL(d.13 R´currence des groupes unipotents e Le but de ce chapitre est de montrer des propri´t´s de r´currence ee e pour les flots unipotents sur les espaces homog`nes X de volume fini. e a En outre.4 de r´currence pour e e e les marches al´atoires qui s’applique ` X.

. On dit que le drapeau F est complet si = d − 1.Munissons Rd d’une norme euclidienne . les sous-espaces Li n’ape paraitrons pas forc´ment dans l’ordre croissant. Rappelons tout d’abord quelques affirmations que nous avons d´j` utilis´es ea e u dans la section 1. Dans ce cas SF (∆) est vide. Notons S(∆) l’ensemble des sous-espaces ∆-rationnels. On note cd la constante cd = 2(1/vd ) d o` vd = 1 d volume de la boule euclidienne dans Rd . ∆ → min d∆ (L) est continue. ∞[. La valeur pr´cise de cette constante ne e jouera pas de rˆle dans la d´monstration. (ii) Il existe a > 0 tel que. 0 L Rd | pour tout M ∈ F . e b) Pour tout C > 0. c) L’application X →]0.12. e On pourrait noter un tel drapeau F sous la forme F : 0 L i1 ··· Li Rd . un ensemble F de sous-espaces ∆-rationnels non triviaux qui est totalement ordonn´. Les assertions suivantes sont ´quivalentes. Proposition 13. e (i) Y est relativement compact. ıt d Lemme 13. pour tout ∆ ∈ Y . l’ensemble {L ∈ S(∆) | d∆ (L) ≤ C} est fini. 1 π2 d Γ( d ) 2 2 est le L∈S(∆) D´monstration C’est le lemme 1. pour ∆ r´seau de e R . au cours de la d´monstration. Z) et Y ⊂ X. pour tout ∆ ∈ Y . e Le lemme suivant permet de compl´ter les drapeaux ∆-rationnels incomplets e en des drapeaux dont on contrˆle les covolumes.3 a) Tout r´seau ∆ ⊂ Rd contient un vecteur v avec 0 < v ≤ cd d∆ . Autrement dit. (iv) Il existe β > α > 0 tels que. un sous-espace ∆-rationnel L ⊂ Rd est un sous-espace tel que ∆ ∩ L est un r´seau de L. on a M L ou L M }. Par exemple d∆ := d∆ (Rd ) est le covolume de ∆. pour tout ∆ ∈ Y . On remarque juste que cd ≥ 1 et que o e cd croˆ avec d. SF := {L ∈ S . il existe un drapeau ∆-rationnel complet F tels que α ≤ d∆ (L) ≤ β. inf v ≥ a.4. pour tout L ∈ F . L∈S(∆) inf d∆ (L) ≥ b. R)/SL(d. Rappelons que. o 106 . v∈∆−0 (iii) Il existe b > 0 tel que. Nous ne le ferons pas car.2 (Mahler) Soient X = SL(d.10 de Minkowski et le lemme 1. On appelle drapeau ∆-rationnel de longueur . On note alors e d d∆ (L) := covolL (∆ ∩ L). On note alors SF = SF (∆) l’ene semble des sous-espaces ∆-rationnels propres L tels que F ∪ {L} est un drapeau ∆-rationnel de longueur k + 1.

c. Notons L1 · · · Ld−1 le drapeau ∆-rationnel complet e F donn´ par la condition (iv) et posons L0 = 0 et Ld = Rd . on peut prendre pour constante β = (cd )d . On perd au plus un facteur cd a chaque ´tape. l’un sur ee les polynˆmes en une variable. En effet. d∆ (L) ≤ β.8. D´monstration Comme le drapeau F est incomplet. une fonction continue e strictement positive sur un compact est minor´e par une constante strictement e positive.a de Minkowski ` l’image de a L2 ∩ ∆ dans L2 /L1 . Rd }. Pour la majoration. pour tout L ∈ F . On a alors v ≥ d(Li )/d(Li−1 ) ≥ α/β.4 Soient β ≥ 1. ` e (iv) =⇒ (ii) On peut supposer 0 < α < 1 < β. Le sous-espace M = L1 ⊕ Rv est alors dans SF (∆) et v´rifie e d∆ (M ) ≤ v d∆ (L1 ) ≤ cd d∆ (L1 )1− δ d∆ (L2 ) δ ≤ cd β. on construit le drapeau F par r´currence a e ` l’aide du lemme 13.Lemme 13.2 (i) ⇐⇒ (ii) C’est la proposition 1.3. e (ii) =⇒ (iii) Cela r´sulte du lemme 13. En appliquant le lemme 13. Soit i l’entier tel que e v ∈ Li − Li−1 . C’est la minoration cherch´e. Pour cela. (iii) =⇒ (iv) La minoration est claire. C’est la majoration cherch´e. o e e o 107 . Notons P m l’espace des polynˆmes sur R de degr´ au plus m. l’autre sur les recouvrements d’un ino tervalle. e 1 1 1 13. on peut trouver deux souse espaces ∆-rationnels successifs L1 ⊂ L2 de dimension d1 < d2 avec δ := d2 −d1 ≥ 2 avec Li ∈ F ∪ {0. Soit v un vecteur non nul dans un des r´seaux ∆ ∈ Y .4. Le lemme suivant o e exprime qu’un polynˆme ne peut pas ˆtre petit trop longtemps et ce avec un o e contrˆle uniforme qui ne d´pend que du degr´ du polynˆme. on peut trouver un vecteur v ∈ L2 L1 dont l’image v dans L2 /L1 est de norme au plus v ≤ cd (d∆ (L2 )/d∆ (L1 )) δ . e D´monstration de la proposition 13.3 Autres lemmes pr´liminaires e Voici deux lemmes ´l´mentaires dont nous aurons besoin.3. ∆ ∈ X et F un drapeau ∆-rationnel incomplet tel que. Alors il existe M ∈ SF (∆) tel que d∆ (M ) ≤ cd β.

on partira d’un point x = ∆ dans e e e un compact K ⊂ X. C’est un polynˆme de degr´ au plus 2d2 car on a l’´galit´ pL (t) = ut e1 ∧· · ·∧ut ei o e e e o` e1 . Pour montrer le th´or`me 13. Le chevauchement est le nombre maximum d’intervalles Iα dont l’intersection est d’int´rieur non vide.6 Soit I = ∪α∈A Iα un recouvrement d’un intervalle compact I ⊂ R par des intervalles Iα ouverts dans I. Alors. Il s’agira donc e de construire ` chaque instant t convenable un drapeau complet F de a sous-espaces ∆-rationnels Li dont on contrˆlera les covolumes carr´s o e pLi (t). e D´monstration On extrait tout d’abord un recouvrement fini. Lemme 13. e 108 . . Contradiction. La proposition technique qui met en place e cette r´currence est la suivante. e e e e cette suite pn une valeur d’adh´rence p∞ ∈ P m . il existe un sous-recouvrement I = ∪α∈A Iα de chevauchement au plus 2. Le nombre d’´tape ` e dans cette r´currence est donc d − 1. pour L ∈ S(∆). 1] | |pn (t)| ≤ n } ≤ ε.5 Pour tout ε > 0. le covolume dans L de ut (∆ ∩ L). Et on continue. On prend alors e un intervalle Iα0 = [x0 . il existe Mε > 0 tel que pour tout intervalle I et 1 tout polynˆme p ∈ P m .4 La r´currence qui prouve la r´currence e e Pour d´crire le compact K dans lequel ut ∆ passe plus de 1 − ε e de son temps. ei est une base de ∆ ∩ L.1 de r´currence. . ε > 0 et une suite de polynˆmes pn ∈ e o 1 m P telle que sup[0.1] |pn | = 1 et {t ∈ [0. Ce polynˆme p∞ est non nul. e o mais l’ensemble de ses racines est de mesure au moins ε. e e Puis un intervalle Iα1 =]x1 . Cet ensemble est une r´union d’au plus 2m intervalles. u 13. On o introduit donc le polynˆme sur R o pL : t → dut ∆ (ut L)2 . ce qui nous donne une constante b par le crit`re (iii) de e Mahler. On veut contrˆler. on a {t ∈ I | |p(t)| ≤ Mε supI |p| } ≤ ε|I|. en ajoutant ` chaque ´tape. y1 [ contenant y0 avec y1 maximum. on va utiliser le crit`re (iv) de Mahler. Par compacit´ de la sph`re unit´ de P m . pour tout temps t un e e a e nouveau sous-espace a un drapeau ∆-rationnel de longueur . .Lemme 13. On proc`dera par r´currence. . y0 [ contenant l’extr´mit´ gauche de I avec y0 maximum. o D´monstration Sinon il existerait m ≥ 0.

il n’y a qu’un nombre fini de tels sous-espace ∆ rae tionnels L. a ` On choisit alors un intervalle compact I dont l’int´rieur contient t0 sur lequel on e a encore sup pL0 (t) < β t∈I Dans ce cas. Il existe un recouvrement fini de chevauchement au plus 2 de I par des intervalles compacts I tels que sur chaque I . (b ). sup pL (t) ≥ α. e e e e e 2`me cas : Pour tout L ∈ SF .6.7 Soit β > 1 > α > 0 et posons β = cd β et α = α. (c ) et (d ). grˆce a la condition (b) un sous-espace L0 ∈ SF tel que pL0 (t0 ) < β. e t∈I Par la condition (a) et la maximalit´ de I . la condition (b ) est vraie d`s que β ≥ c2 β.Proposition 13. pour tout L ∈ SF . on doit fournir un e intervalle I contenant t0 dans son int´rieur et un sous-espace L0 ∈ SF v´rifiant e e (a ). On distingue deux cas. e D´monstration de la proposition 13. t∈I Remarque On ne peut pas en g´n´ral r´duire la taille des intervalles I de sorte e e e qu’ils soient d’int´rieur disjoint sans perdre les conditions (a ) et (d ). a 1er cas : Il existe L ∈ SF tel que pL (t0 ) ≤ α.3. D’apr`s le lemme 13. On extraira alors le sous-recouvrement de chevauchement au plus 2 ` l’aide du lemme 13.7 Pour tout t0 ∈ I.4. e 109 . t∈I t∈I La condition (a ) est donc v´rifi´e d`s que α ≤ α. Soient I un intervalle compact et F un drapeau ∆-rationnel incomplet tel que (a) L∈SF inf (sup pL (t)) ≥ α t∈I (b) sup( inf pL (t)) < β t∈I L∈SF (c) sup pL (t) < β t∈I ∀L ∈ F. On choisit. il existe un drapeau F = F ∪{L0 } avec L0 ∈ SF tel que (a ) inf (sup pL (t)) ≥ α L∈SF t∈I t∈I L∈SF (b ) sup( inf pL (t)) < β (c ) (d ) sup pL (t) < β t∈I ∀L ∈ F sup pL0 (t) ≥ α . cette in´galit´ est une ´galit´ e e e e e sup pL0 (t) = α et on a. on a pL (t0 ) ≥ α. e d Par (c) et l’´galit´ sup pL0 (t) = α. e e e t∈I La mˆme ´galit´ prouve que la condition (d ) est valide d`s que α ≤ α. la condition (c ) est vraie d`s que β ≥ β. On choisit donc un intervalle compact I de longueur maximal dont l’int´rieur contient t0 . la condition (a ) est automatique d`s que α ≤ α. e e e Par la condition (c) et le lemme 13. pour lequel il existe L0 ∈ SF tel que sup pL0 (t) ≤ α.

Posons ε0 = 2−d ε. Par le lemme 13. Mε0 αd−1 Mε0 On retire de chacun de ces intervalles I les points t tels que pL0 (t) < L’ensemble J de tous ces points t est de mesure au plus 2d ε0 T = εT. Les r´seaux ut ∆ correspondant aux temps t hors de J contiennent un drapeau e complet de sous-espaces ∆-rationnel dont les covolumes carr´s sont dans l’intere αd−1 e valle [ Mε . On a donc αd−1 = b2 et βd−1 = (cd )2d . le deuxi`me un chevauchement au e plus 4. Pour valider la e e condition (a). a On construit ensuite successivement d−1 couples de r´els αk = αk−1 et βk = e 2 (cd ) βk−1 ainsi que d−1 recouvrement de [0..5 et les conditions (d ). e 1 110 . e e e La minoration pL0 (t0 ) ≥ α garantit la condition (d ) d`s que α ≤ α.. on applique le lemme 13.7. . e d Par (c) et le choix ci-dessus.2 de Mahler avec les 0 constantes α = b/Mε20 et β = (cd )d . D’apr`s la condition (iii) du e crit`re 13. e D´monstration du th´or`me 13. La condition (b) est donc satisfaite avec β = β0 = c2 . T ] par des intervalles compacts. Le chevauchement total est donc au plus 2d . Le premier ayant un chevauchement au plus 2. d Noter qu’` ce stade.. le dernier un chevauchement au plus 2d−1 . la condition (b ) est vraie d`s que β ≥ c2 β. Ces r´seaux ut ∆ pour t ∈ J sont donc dans e un compact K qui ne d´pend que de ε et de b.2 de Mahler. dans chacun des intervalles I . βd−1 ].4.1 On applique d−1 fois la proposition 13.Par la condition (c) et le lemme 13.3 de Minkowski : chaque r´seau ut ∆ contient un vecteur e non nul de norme au plus cd . On applique la condition (iv) du crit`re 13. la condition (c) est vide. la condition (a) est vraie avec une constante α = α0 = b2 e uniforme pour ∆ dans un compact K de X. Pour valider la condition (b). . il suffit de la comprendre en t = 0. T ] et F = ∅. e e e On commence la premi`re ´tape avec I = [0. on a pour le sous-espace L0 correspondant |{t ∈ I | pL0 (t) < αd−1 }| ≤ ε0 |I |. la condition (c ) est aussi v´rifi´e d`s que β ≥ β.

preprint (2003).de la Harpe.Gorbatsevich.Tits .111-122. Paris (1975).Theorie alg´brique des nombres. [4] Y.1-25. Universitext Springer (1992).Gromov. 24 (1961) p. 298 (1978) p. G. Ann. Springer (1973).409-425.Groupes et alg`bres de Lie. [19] G. [16] G.Borel . R.Benoist . e [10] A. [14] S. A.Benoist .Rapinchuk . Springer Ergebnisse (1991).Algebraic groups and number theory. Serre . [18] B.Tits .dma.Raghunathan . Lie groups and symmetric spaces.1438-1440.Introduction aux groupes arithm´tiques. of Math.Burger . 17 (2004) p.53-107. ee [13] S. Tata Inst.77-169. Springer(1972).benoist@math. Math. [3] Y. Acad. C. Soc. 21 Springer (2000). Hermann Paris (1971). [21] M.Structure des groupes de Weyl.Pansu .Zimmer .Pavages du plan.An elementary account of Selberg’s lemma. Lect. Stud.147-164. [28] A.Linear algebraic groups. Ac. M. Acad. *** [11] M. Birkhauser (1984).ens.269273.Borel. G. in Journ´es X-UPS 2001.Ergodic theory and semisimple groups. Indian Math.fr/˜benoist 111 .39-137.Differential geometry. Res.Recurrence properties of random walks on finite volume homogeneous spaces. V. Un cours ` l’´cole a e d’´t´ de Grenoble 2004***. [31] R. Studies 70. Fund. e [23] A.Editions de l’Ecole Polyteche nique. E. A.Harder .Vinberg. J. [22] P.Bourbaki .Introduction to arithmetic groups. Math.Borel .Existence of discrete cocompact subgroups of reductive groups over local fields. S´minaire Bourbaki 288 (1965). e 249 (1959) p.Samuel . Math.fr www. [20] V. ee [5] A. Acad. [17] G.Rigidity of lattices : an introduction. [8] A. O. Paris-Sud & CNRS yves.Discrete subgroups of Lie groups. Notes in Math.Quasiconformal mappings in n-space and the rigidity of hyperbolic space forms.Eskin. [29] A. [9] N. J. 116 (1994) p. Press (1984).Kleinian groups.Maskit.Margulis . in Contribution to function theory. Sci. in Algebraic groups and arithmetic. Math.Borel .On discontinuous groups in higher dimensional symmetric spaces.Selberg .Margulis .Platonov.Random walks on the spaces of lattices and the finiteness of covolumes of arithmetic subgroups.R´f´rences ee [1] N. e [27] E. Reine Angw.u-psud.Compact Clifford-Klein forms of symmetric spaces.La propri´t´ T de Kazhdan.Tan . Topology 2 (1963) p.A’Campo.Five lectures on lattices in semisimple Lie groups.Valette .33 (1987) p.589-623. [6] A. [2] R.Shvartsman . e [7] A. A. e e e Margulis. Asterisque (1989). in Encyclopedia of Math.R´seaux arithm´tiques et commensurateur d’apr`s G.Sur la classification des groupes alg´briques semi-simples. Publ. [25] J. Press (1978).53-64. Invent.Weil . P.Discrete subgroups of semisimple Lie groups.Cohomologie des groupes discrets. [30] D. [12] P. 1504 (1991) p.Basic number theory. Univ. Hermann (1969).Alperin .Groups and geometric analysis. Math.Helgason . [26] J.Howe.Discrete subgroups of Lie groups. Springer GTM (1988).Witte-Morris . GTM 126 Springer (1991). [24] J-P.Non-abelian harmonic analysis. Ens.Helgason .Algebras with involutions and the classical groups. Press (1994).Weil . IHES 34 (1967) p. Sc.Mostow . [15] R.p. Tata (1960) p.Margulis .