P. 1
Lattices Benois

Lattices Benois

|Views: 145|Likes:
Published by Corina Ciobotaru

More info:

Published by: Corina Ciobotaru on May 09, 2011
Copyright:Attribution Non-commercial

Availability:

Read on Scribd mobile: iPhone, iPad and Android.
download as PDF, TXT or read online from Scribd
See more
See less

05/09/2011

pdf

text

original

Sections

  • 1 Construction de r´eseaux
  • 1.1 Un exemple : le groupe orthogonal
  • 1.2 R´ecurrence des marches al´eatoires
  • 1.3 Marches al´eatoires lin´eaires
  • 1.4 L’espace des r´eseaux
  • 1.5 Construction d’une fonction f
  • 1.6 Application au groupe orthogonal
  • 2 Alg`ebres de Lie semisimples
  • 2.1 Alg`ebres de Lie nilpotentes et r´esolubles
  • 2.2 Alg`ebres de Lie semisimples
  • 2.3 Repr´esentations de sl2
  • 2.4 El´ements nilpotents et sl2-triplets
  • 2.5 Syst`emes de racines
  • 3 Groupes de Lie semisimples
  • 3.1 Groupes de Lie compacts
  • 3.2 Involutions de Cartan
  • 3.3 Sous-alg`ebres de Cartan
  • 3.4 Sous-espaces de Cartan
  • 3.5 D´ecomposition de Cartan et Iwasawa
  • 3.6 Sous-groupes paraboliques
  • 3.7 Exemples
  • 4 Groupes alg´ebriques
  • 4.1 Vari´et´es alg´ebriques
  • 4.2 Groupes alg´ebriques
  • 4.3 Actions alg´ebriques
  • 4.4 El´ements semisimples et unipotents
  • 4.5 Groupes alg´ebriques (suite)
  • 5 Groupes arithm´etiques
  • 5.1 Groupes arithm´etiques
  • 5.2 Strat´egie de d´emonstration du th´eor`eme 5.4.a
  • 5.3 Le plongement dans l’espace des r´eseaux
  • 5.4 Le cas Q-simple et Q-isotrope
  • 5.5 Le cas Q-simple et Q-anisotrope
  • 5.6 Le cas r´eductif
  • 5.7 Conclusion
  • 6 M´elange et comptage
  • 6.1 Repr´esentations unitaires et m´elange
  • 6.2 Vecteurs invariants pour SL(2)
  • 6.3 D´ecroissance des coefficients
  • 6.4 Comptage des points d’un r´eseau
  • 6.5 Equidistribution des grandes sph`eres
  • 6.6 Comptage faible
  • 6.7 Estimation de volumes
  • 7 R´eseaux
  • 7.1 Zariski densit´e des r´eseaux
  • 7.2 R´eseaux irr´eductibles
  • 7.3 Groupes moyennables
  • 7.4 L’application aux bords
  • 8 Th´eorie ergodique
  • 8.1 Probabilit´es ergodiques
  • 8.2 Dynamique des transformations ergodiques
  • 8.3 Th´eor`eme ergodique
  • 8.4 Martingales
  • 9 Mesures stationnaires
  • 9.1 Existence d’une mesure limite
  • 9.2 Contraction et proximalit´e
  • 9.3 Proximalit´e
  • 9.4 Mesures stationnaires K-invariantes
  • 10 Superrigidit´e
  • 10.1 Superrigidit´e
  • 10.2 Valeurs propres de mˆeme module
  • 10.3 Construction de Θ
  • 10.4 L’espace E des translat´es de Θ
  • 10.5 Prolongement de π `a G
  • 11 Arithm´eticit´e
  • 11.1 Groupes arithm´etiques
  • 11.2 Les r´eseaux sont de type fini
  • 11.3 Alg´ebricit´e des valeurs propres
  • 11.4 Corps de d´efinition de G
  • 11.5 Restriction de K `a Q
  • 12 Mesures invariantes
  • 12.1 Mesures U-invariantes sur SL(2,R)/Γ
  • 12.2 Petites valeurs des formes quadratiques
  • 13 R´ecurrence des groupes unipotents
  • 13.1 Le cas d = 2
  • 13.2 Pr´eliminaires sur les r´eseaux
  • 13.3 Autres lemmes pr´eliminaires
  • 13.4 La r´ecurrence qui prouve la r´ecurrence

R´eseaux des groupes de Lie

(Version pr´eliminaire)
Yves Benoist
Cours de M2 `a Paris 6 en 07-08
Introduction
Le but de ce cours est l’interrelation entre la th´eorie des nombres
et la th´eorie ergodique ` a travers la th´eorie des groupes. Les espaces
homog`enes de volume fini et plus particuli`erement la dynamique des
actions par translation sur ces espaces seront l’objet central de ce
cours.
Un r´eseau est un sous-groupe discret de covolume fini. Les pro-
totypes de r´eseaux sont les sous-groupes qui, comme le sous-groupe
SL(d, Z) du groupe SL(d, R), sont construits par des m´ethodes arith-
m´etiques. D’une part, l’existence de ce volume fini permet d’utiliser
des m´ethodes issues des syst`emes dynamiques et de la th´eorie ergo-
dique. D’autre part, la provenance arithm´etique de ces groupes est ` a
la source de nombreuses applications. Enfin, l’utilisation de tous les
corps locaux permet d’´etendre consid´erablement le champ d’applica-
tions.
Sommaire pr´evu :
- Structure des groupes de Lie semisimples, d´ecomposition de Cartan.
- Exemples de r´eseaux.
- M´elange. Th´eor`eme de Howe-Moore.
- Comptage de points dans les r´eseaux. Th´eor`eme d’Eskin-McMullen.
- Vari´et´e drapeau. Th´eor`eme de Furstenberg.
- Repr´esentation des r´eseaux. Th´eor`eme de superrigidit´e de Margulis.
- Corps locaux. Th´eor`eme d’arithm´eticit´e de Margulis.
- R´ecurrence. Th´eor`eme de Dani-Margulis.
- Th´eor`eme ergodique de Birkhoff. Entropie.
- Flots unipotents, mesures invariantes, ´equidistribution et ferm´es invariants.
- Th´eor`emes de Ratner et applications.
R´ef´erences :
- M. Raghunathan : Discrete subgroups of Lie groups, Springer (1972)
- R. Zimmer : Ergodic theory and semisimple groups,Birkhauser (1984)
- G. Margulis : Discrete subgroups of semisimple Lie groups, Springer (1991)
- D. Witte-Morris : Ratner’s theorems on unipotent flows, Chicago LMS(2004)
- Y. Benoist : Five lectures on lattices, SMF (2008).
1
Table des mati`eres
1 Construction de r´eseaux 4
1.1 Un exemple : le groupe orthogonal . . . . . . . . . . . . . . . . . . . . . . . . . . 4
1.2 R´ecurrence des marches al´eatoires . . . . . . . . . . . . . . . . . . . . . . . . . . 5
1.3 Marches al´eatoires lin´eaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
1.4 L’espace des r´eseaux . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
1.5 Construction d’une fonction f . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.6 Application au groupe orthogonal . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
2 Alg`ebres de Lie semisimples 14
2.1 Alg`ebres de Lie nilpotentes et r´esolubles . . . . . . . . . . . . . . . . . . . . . . . 14
2.2 Alg`ebres de Lie semisimples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
2.3 Repr´esentations de sl
2
. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
2.4 El´ements nilpotents et sl
2
-triplets . . . . . . . . . . . . . . . . . . . . . . . . . . 20
2.5 Syst`emes de racines . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22
3 Groupes de Lie semisimples 25
3.1 Groupes de Lie compacts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
3.2 Involutions de Cartan . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27
3.3 Sous-alg`ebres de Cartan . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28
3.4 Sous-espaces de Cartan . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29
3.5 D´ecomposition de Cartan et Iwasawa . . . . . . . . . . . . . . . . . . . . . . . . . 30
3.6 Sous-groupes paraboliques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
3.7 Exemples . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
4 Groupes alg´ebriques 34
4.1 Vari´et´es alg´ebriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34
4.2 Groupes alg´ebriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 36
4.3 Actions alg´ebriques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37
4.4 El´ements semisimples et unipotents . . . . . . . . . . . . . . . . . . . . . . . . . . 39
4.5 Groupes alg´ebriques (suite) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40
5 Groupes arithm´etiques 42
5.1 Groupes arithm´etiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
5.2 Strat´egie de d´emonstration du th´eor`eme 5.4.a . . . . . . . . . . . . . . . . . . . . 44
5.3 Le plongement dans l’espace des r´eseaux . . . . . . . . . . . . . . . . . . . . . . . 45
5.4 Le cas Q-simple et Q-isotrope . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45
5.5 Le cas Q-simple et Q-anisotrope . . . . . . . . . . . . . . . . . . . . . . . . . . . 46
5.6 Le cas r´eductif . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47
5.7 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48
6 M´elange et comptage 49
6.1 Repr´esentations unitaires et m´elange . . . . . . . . . . . . . . . . . . . . . . . . 49
6.2 Vecteurs invariants pour SL(2) . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51
6.3 D´ecroissance des coefficients . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 52
6.4 Comptage des points d’un r´eseau . . . . . . . . . . . . . . . . . . . . . . . . . . . 54
6.5 Equidistribution des grandes sph`eres . . . . . . . . . . . . . . . . . . . . . . . . . 54
6.6 Comptage faible . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
6.7 Estimation de volumes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57
2
7 R´eseaux 59
7.1 Zariski densit´e des r´eseaux . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59
7.2 R´eseaux irr´eductibles . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61
7.3 Groupes moyennables . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63
7.4 L’application aux bords . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64
8 Th´eorie ergodique 66
8.1 Probabilit´es ergodiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66
8.2 Dynamique des transformations ergodiques . . . . . . . . . . . . . . . . . . . . . 66
8.3 Th´eor`eme ergodique . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68
8.4 Martingales . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 69
9 Mesures stationnaires 73
9.1 Existence d’une mesure limite . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 73
9.2 Contraction et proximalit´e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 75
9.3 Proximalit´e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 77
9.4 Mesures stationnaires K-invariantes . . . . . . . . . . . . . . . . . . . . . . . . . 78
10 Superrigidit´e 81
10.1 Superrigidit´e . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 81
10.2 Valeurs propres de mˆeme module . . . . . . . . . . . . . . . . . . . . . . . . . . . 83
10.3 Construction de Θ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 84
10.4 L’espace E des translat´es de Θ . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86
10.5 Prolongement de π `a G . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89
11 Arithm´eticit´e 90
11.1 Groupes arithm´etiques . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 90
11.2 Les r´eseaux sont de type fini . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91
11.3 Alg´ebricit´e des valeurs propres . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91
11.4 Corps de d´efinition de G . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 92
11.5 Restriction de K `a Q . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93
12 Mesures invariantes 96
12.1 Mesures U-invariantes sur SL(2,R)/Γ . . . . . . . . . . . . . . . . . . . . . . . . . 96
12.2 Petites valeurs des formes quadratiques . . . . . . . . . . . . . . . . . . . . . . . 100
13 R´ecurrence des groupes unipotents 105
13.1 Le cas d = 2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105
13.2 Pr´eliminaires sur les r´eseaux . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105
13.3 Autres lemmes pr´eliminaires . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107
13.4 La r´ecurrence qui prouve la r´ecurrence . . . . . . . . . . . . . . . . . . . . . . . . 108
3
1 Construction de r´eseaux
Ce premier chapitre donne un bon aper¸cu de l’ensemble du cours.
On y trouvera d´ej`a la mixture th´eorie des nombres + th´eorie er-
godique + th´eorie des groupes propre `a ce cours. En effet, nous y
montrerons, pour les groupes orthogonaux, le th´eor`eme de Borel et
Harish-Chandra qui affirme que “les groupes arithm´etiques sont des
r´eseaux”.
D’une part, les motivations de cet ´enonc´e sont arithm´etiques : il s’agit d’une
impressionante g´en´eralisation non commutative du th´eor`eme des unit´es de Diri-
chlet.
D’autre part la m´ethode due a Margulis que nous allons utiliser pour le d´e-
montrer est issue de la th´eorie ergodique : nous allons utiliser des propri´et´es de
r´ecurrence de marches al´eatoires ainsi que des propri´et´es de croissance exponen-
tielle des marches al´eatoires lin´eaires. Pour faire fonctionner cette m´ethode, nous
aurons besoin de diverses propri´et´es de l’espace des r´eseaux de R
d
dont le crit`ere
de compacit´e de Mahler.
Ceci nous permettra de d´emontrer le th´eor`eme de Borel Harish-Chandra pour
les groupes orthogonaux (il est dˆ u a Siegel dans ce cas).
Enfin, c’est grˆace ` a la compr´ehension de la structure des groupes alg´ebriques
que nous d´emontrerons par les mˆeme m´ethodes dans le chapitre 5 une version
g´en´erale du th´eor`eme de Borel et Harish-Chandra.
1.1 Un exemple : le groupe orthogonal
Nous allons d´etailler dans cette section notre objectif principal
(proposition 1.3). Pour cela, nous devons d´efinir ce qu’est un r´eseau.
Soit G un groupe localement compact. Rappelons que G admet une mesure
(bor´elienne) positive λ
G
invariante par toutes les translations `a droite x → xg,
que cette mesure est unique ` a multiplication pr`es par un scalaire positif et qu’elle
est appel´ee la mesure de Haar ` a droite de G.
Rappelons qu’un sous-groupe Γ de G est dit discret si la topologie de G induite
sur Γ est discr`ete. La projection p : g → gΓ de G dans X := G/Γ est alors un
revˆetement. On note alors λ
X
la mesure sur X qui co¨ıncide localement via p avec
la mesure de Haar λ
G
,
D´efinition 1.1 Un sous-groupe discret Γ de G est un r´eseau si λ
X
(X) < ∞.
Autrement dit, un sous-groupe discret Γ de G est un r´eseau si il existe une
partie mesurable F de G telle que λ
G
(F) < ∞ et FΓ = G.
Par exemple les sous-groupes discrets cocompacts, i.e. ceux pour lesquels le
quotient X est compact, sont des r´eseaux.
Commen¸cons par une simple remarque.
4
Lemme 1.2 Un groupe localement compact G qui contient un r´eseau Γ est uni-
modulaire
Autrement dit, la mesure de Haar `a droite est aussi invariante ` a gauche. La
mesure λ
X
est donc aussi invariante par translation `a gauche.
D´emonstration La translation `a gauche x →gx par un ´el´ement g de G multiplie
la mesure de Haar ` a droite λ
G
par un scalaire ∆(g). Donc la translation ` a gauche
sur X par un ´el´ement g de G multiplie aussi la mesure λ
X
par ∆(g). Comme Γ
est un r´eseau, le volume total λ
X
(X) est fini. Ce volume est pr´eserv´e par g, on a
donc ∆(g) = 1.
Proposition 1.3 (Siegel) Soient d ≥ 3, Q(x
1
, . . . , x
d
) =
¸
a
i,j
x
i
x
j
une forme
quadratique non d´eg´en´er´ee `a coefficients entiers, G
R
le groupe des transformations
orthogonales `a coefficients r´eels et G
Z
le sous-groupe discret des transformations
orthogonales `a coefficients entiers :
G
R
= O(Q, R) = ¦g ∈ GL(d, R) [ Q◦ g = Q¦ et G
Z
= G
R
∩ GL(d, Z).
Alors G
Z
est un r´eseau dans G
R
.
Remarques - Nous verrons que cette proposition est un cas particulier d’un
´enonc´e bien plus g´en´eral valable pour tous les “Q-groupes sans Q-caract`ere”.
- La m´ethode traditionnelle pour montrer cette proposition consiste ` a construire
explicitement un domaine F dit “domaine de Siegel” et ` a calculer λ
G
(F). C’est la
“th´eorie de la r´eduction”, c.f. [6]. Comme annonc´e, nous allons suivre une m´ethode
plus rapide mais qui ne donne pas d’estimation sur le domaine fondamental.
- Cet ´enonc´e est encore vrai pour d = 2 lorsque la forme quadratique Q est
anisotrope sur Q i.e. lorsque l’´equation Q(x) = 0 n’a pas de solutions enti`eres
non nulles. Cela r´esulte de ce que, pour tout entier p ≥ 2 non carr´e, l’´equation
de Pell-Fermat n
2
−pm
2
= 1 a une infinit´e de solutions enti`eres (n, m).
- Mais cet ´enonc´e est faux pour d = 2 lorsque la forme quadratique Q est
isotrope sur Q i.e. lorsque l’´equation Q(x) = 0 n’a pas de solutions enti`eres non
nulles.
1.2 R´ecurrence des marches al´eatoires
Nous allons commencer par donner dans le corollaire ci-dessous un
crit`ere qui assure que le volume d’une mesure invariante est fini. Ce
crit`ere est bas´e sur des propri´et´es de r´ecurrence de marches al´eatoires.
Soient G un groupe localement compact, X un espace localement compact
et (g, x) → gx une action continue de G sur X. Rappelons qu’une application
continue est propre si l’image inverse de tout compact est compacte.
On suppose
HC Il existe une fonction propre f : X →[0, ∞[, une probabilit´e µ sur G et des
constantes a < 1, b > 0 telles que A
µ
(f) ≤ af + b
5
o` u A
µ
est l’op´erateur de moyennisation donn´e par, pour tout x dans X,
A
µ
(f)(x) =

G
f(gx)dµ(g)
Cet op´erateur A
µ
est donc l’op´erateur de convolution par la probabilit´e ˇ µ image
de µ par l’inversion g →g
−1
.
Remarque Cette hypoth`ese HC signifie que la moyennisation par µ contracte,
` a une constante pr`es, une fonction propre f sur X .
Lemme 1.4 Sous l’hypoth`ese HC, pour tout ε > 0, il existe un compact K ⊂ X
tel que, pour tout point x ∈ X, il existe M = M
x
tel que pour tout n ≥ M,
A
n
µ
(1
K
)(x) ≥ 1 −ε .
o` u 1
K
est la fonction caract´eristique de K.
En outre, l’entier M
x
est uniforme sur les compacts de X.
Ce lemme est un lemme de r´ecurrence pour les marches al´eatoires sur X. En
effet, il affirme que si on marche au hasard sur X en partant du point x, avec
des d´eplacements donn´es par la loi µ, ` a partir d’un moment, la probabilit´e d’ˆetre
hors de K est au plus ε.
D´emonstration D’apr`es l’hypoth`ese HC, on a, pour tout n ≥ 1
A
n
µ
(f) ≤ a
n
f + b(1 + + a
n−1
) ≤ a
n
f + B
avec B =
b
1−a
. Comme f est propre, on peut prendre pour compact
K = ¦y ∈ X [ f(y) ≤
2B
ε
¦
de sort que 1
K
c ≤
ε
2B
f. On a alors les majorations
A
n
µ
(1
K
c)(x) ≤
ε
2B
A
n
µ
(f)(x) ≤
εa
n
2B
f(x) +
ε
2
≤ ε
d`es que n est suffisamment grand pour que f(x) ≤
B
a
n
.
Rappelons qu’une mesure de Radon sur X est une mesure bor´elienne finie sur
les compacts.
Corollaire 1.5 Sous l’hypoth`ese HC, toute mesure de Radon G-invariante ν sur
X est finie.
6
Remarque Nous allons uniquement utiliser l’´egalit´e, pour toute fonction positive
f sur X,

G
A
µ
(f)dν(x) =

G
fdν(x),
c’est-`a-dire le fait que la mesure ν sur X est µ-stationnaire.
D´emonstration D’apr`es le lemme 1.4 avec ε =
1
2
, il existe un compact K ⊂ X
tel que pour tout compact L ⊂ X et n suffisamment grand on a
ν(L) ≤ 2

X
A
n
µ
(1
K
)(x)dν(x) = 2

X
1
K
(x)dν(x) = 2ν(K).
L’hypoth`ese HC assure aussi que X est une r´eunion d´enombrable de compacts,
on a donc ν(X) = sup
L
ν(L) ≤ 2ν(K).
1.3 Marches al´eatoires lin´eaires
Dans cette partie, nous construisons des fonctions ϕ
i
sur lequelles
la moyennisation A
µ
est une contraction. Cette propri´et´e de contrac-
tion est li´ee ` a une propri´et´e de croissance exponentielle pour la marche
al´eatoire lin´eaire associ´ee `a une probabilit´e µ.
Munissons R
d
d’une norme |.| associ´ee `a un produit scalaire euclidien '., .` et
notons aussi |.| la norme euclidienne induite sur l’espace des matrices M(d, R).
Le lemme suivant est un cas particulier ´el´ementaire d’un th´eor`eme de Fursten-
berg sur la croissance exponentielle des marches al´eatoires matricielles.
Notons G = GL(d, R) le groupe lin´eaire et S
+
⊂ G l’ensemble des matrices
sym´etriques d´efinies positives. Soit µ une probabilit´e sur G. Notons supp(µ) le
support de µ et Γ
µ
le plus petit sous-groupe ferm´e de G le contenant. On dit que
µ est sym´etrique si µ = ˇ µ.
Lemme 1.6 On suppose µ sym´etrique, supp(µ) ⊂ S
+
et

G
[ log |g|[dµ(g) < ∞.
Alors pour tout v ∈ R
d
non nul,

G
log(
|gv|
|v|
)dµ(g) ≥ 0
avec ´egalit´e ssi Γ
µ
stabilise la droite Rv.
D´emonstration Notons I
v
le membre de gauche. On calcule en appliquant tout
d’abord l’´egalit´e µ = ˇ µ puis l’in´egalit´e de Cauchy-Schwarz et enfin le fait que les
matrices g sont µ-presque surement sym´etriques :
2

G
log(|gv|)dµ(g) =

G
log(|gv||g
−1
v|)dµ(g)

G
log('gv, g
−1
v`)dµ(g)
= 2

G
log(|v|)dµ(g)
7
Ceci donne la majoration I
v
≥ 0. Par Cauchy-Schwarz, le cas d’´egalit´e dans cette
in´egalit´e n’est atteint que si v est vecteur propre de g
2
pour µ-presque tout g.
Comme les matrices g sont µ-presque sˆ urement d´efinies positives, v est alors aussi
vecteur propre de g et la droite engendr´ee par v est stabilis´ee par Γ
µ
.
Pour 1 ≤ i ≤ d, on note encore |.| la norme euclidienne naturelle sur les
puissances ext´erieures Λ
i
R
d
: c’est l’unique norme euclidienne pour laquelle le
produit ext´erieur v = v
1
∧ ∧ v
i
d’une famille orthonorm´ee est de norme 1. Le
groupe G = GL(d, R) agit naturellement sur Λ
i
R
d
par l’´egalit´e gv = gv
1
∧ ∧gv
i
.
Il laisse invariant le cˆone W
i
⊂ Λ
i
R
d
des vecteurs d´ecomposables non nuls
W
i
:= ¦v = v
1
∧ ∧ v
i
= 0 [ v
j
∈ R
d
¦.
Le quotient G
d
i
de ce cˆ one W
i
par les homoth´eties positives est la Grassmanienne
des i-plans de R
d
. On note ϕ
i
: W
i
→]0, ∞[ la fonction sur W
i
donn´ee par
ϕ
i
(v) = |v|
−1
pour tout v ∈ W
i
.
Corollaire 1.7 On suppose µ sym´etrique, supp(µ) ⊂ S
+
, supp(µ) compact et
que l’action de Γ
µ
dans R
d
est irr´eductible. Alors il existe δ > 0 et a
0
< 1 tels
que, pour tout 0 < i < d, on a A
µ

δ
i
) ≤ a
0
ϕ
δ
i
.
Remarques - L’hypoth`ese d’irr´educibilit´e signifie que R
d
ne contient pas de sous-
espace vectoriel Γ
µ
invariant.
- La mesure G-invariante sur W
i
est de masse totale infinie... cela ne contredit
pas le corollaire 1.5 car la fonction ϕ
δ
i
: W
i
→[0, ∞[ n’est pas propre.
D´emonstration Le lemme 1.6 assure que pour tout v dans W
i
, l’int´egrale
I
v
=

G
log(
|gv|
|v|
)dµ(g) est non n´egative : I
v
≥ 0. Mieux, comme l’hypoth`ese d’ir-
r´educibilit´e assure que l’action de Γ
µ
sur la grassmanienne G
d
i
n’a pas de points
fixes, on a I
v
> 0. Comme la grassmanienne est compacte et que l’application
v → I
v
est continue, il existe une constante C > 0 telle que I
v
≥ 2C, pour tout
v ∈ W
i
.
Posons M = sup¦log(max(|g|
d
, |g|
−d
)) [ g ∈ supp(µ)¦. On remarque que
pour tout r´eel t ∈ [−1, 1], on a la majoration
e
t
≤ 1 + t + t
2
.
On calcule alors, avec δ = min(1/M, C/M
2
),
A
µ

δ
i
)(v)
ϕ
δ
i
(v)
=

G
e
−δ log(
gv
v
)
dµ(g)
≤ 1 −δ

G
log(
|gv|
|v|
)dµ(g) + δ
2

G

log(
|gv|
|v|
)

2
dµ(g)
≤ 1 −2Cδ + M
2
δ
2
≤ 1 −Cδ.
Il suffit de prendre a
0
= 1 −Cδ.
8
1.4 L’espace des r´eseaux
Pour construire la fonction f v´erifiant HC, nous aurons besoin de
quelques propri´et´es de l’espace des r´eseaux de R
d
, que nous d´emon-
trons dans cette section. Nous r´eutiliserons plus tard ces propri´et´es
pour d´emontrer les th´eor`emes de Ratner.
Rappelons qu’un r´eseau de R
d
est un sous-groupe discret de R
d
qui est ab´elien
libre de rang d. L’ensemble X
t
des r´eseaux de R
d
est une vari´et´e comme espace
quotient X
t
:= GL(d, R)/SL
±
(d, Z). Par d´efinition de la topologie quotient, une
suite ∆
n
de r´eseaux de R
d
converge vers un r´eseau ∆ de R
d
ssi il existe une base
f
n,1
, . . . , f
n,d
de ∆
n
qui converge vers une base f
1
, . . . , f
d
de ∆.
Soit ∆ un r´eseau de R
d
. Un sous-espace vectoriel L de R
d
est dit ∆-rationnel
si ∆ ∩ L est un r´eseau de L. On note alors d(L) = d

(L) := |v
1
∧ ∧ v
i
| o` u
v
1
, . . . , v
i
est une base de ∆∩L. Cette quantit´e ne d´epend pas du choix de la base.
Le r´eel d

= covol(∆) := d

(R
d
) est le covolume de ∆. On note X l’ensemble
des r´eseaux de covolume 1.
Pour construire notre fonction propre f, nous aurons besoin d’un crit`ere simple
et utile de compacit´e dans l’espace des r´eseaux. Le voici.
Proposition 1.8 (Mahler) Une partie Y ⊂ X
t
de l’espace des r´eseaux de R
d
est relativement compacte ssi il existe α, β > 0 tels que, pour tout ∆ ∈ Y
d

≤ α et inf
v∈∆−0
|v| ≥ β.
Autrement dit les parties relativement compactes sont caract´eris´ees par une
majoration du covolume et de l’inverse de la systole α
1
(∆) = ( inf
v∈∆−0
|v|)
−1
.
Corollaire 1.9 La fonction α
1
: X →[0, ∞[ est continue et propre.
Pour montrer le crit`ere de compacit´e de Mahler, nous utiliserons l’in´egalit´e
d’Hermite-Minkowski si utile en th´eorie des nombres. Notons v
d
le volume de la
boule euclidienne de rayon 1 dans R
d
: v
1
= 2, v
2
= π,...
Lemme 1.10 (Hermite, Minkowski) Tout r´eseau ∆ de R
d
contient un vecteur
non nul de norme |v| ≤ 2(d

/v
d
)
1
d
.
D´emonstration du lemme 1.10 Notons p la projection de R
d
sur le quotient
T
d
= R
d
/∆ et introduisons le plus grand rayon R tel que cette projection p est
injective sur la boule ouverte de rayon R. La comparaison des volumes donne la
majoration v
d
R
d
≤ d

. D’autre part, la maximalit´e de R assure que, pour tout
ε > 0, il existe deux vecteurs u
1
, u
2
de norme au plus R+ε qui ont mˆeme image
dans T
d
. Le vecteur non nul v
ε
= u
1
−u
2
est dans ∆ et de norme au plus 2R+2ε.
Le groupe discret ∆ contient donc un vecteur v non nul de norme au plus 2R.
9
D´emonstration de la proposition 1.8 et du corollaire 1.9 Les fonctions
g → [det(g)[ et g → α
1
(gZ
d
) sont continues sur GL(d, R). Donc les fonctions
∆ → d

et ∆ → α
1
(∆) sont des fonctions continues sur X
t
. Si Y est une partie
relativement compacte, ces deux fonctions sont donc born´ees sur Y .
R´eciproquement, montrons que toute partie Y de X
t
sur laquelle ces deux
fonctions sont born´ees est relativement compacte. On veut donc montrer que toute
suite ∆
n
dans Y sous-converge dans X
t
. On raisonne par r´ecurrence sur d. C’est
clair pour d = 1. Choisissons un vecteur non nul v
n
∈ ∆
n
de norme minimum.
Comme α
1
(∆
n
) est major´e, les normes |v
n
| sont positivement minor´ees. En outre
par l’in´egalit´e d’Hermite-Minkowski et la majoration du covolume de ∆
n
, les
normes |v
n
| sont major´ees. La suite v
n
sous-converge donc vers un vecteur non
nul v

∈ R
d
que l’on peut supposer de norme |v

| = 1. Quitte ` a modifier chacun
des ∆
n
par une petite similitude, on peut aussi supposer que v
n
= v

. Les images

t
n
de ∆
n
dans l’orthogonal (Rv

)

sont des r´eseaux dont le volume est major´e
par α et dont la systole est minor´e par

3
2
β. Par hypoth`ese de r´ecurrence, ces
r´eseaux ∆
t
n
sous-convergent vers un r´eseau de (Rv

)

. La suite ∆
n
sous-converge
alors vers un r´eseau de R
d
.
Dans la partie suivante nous aurons aussi besoin des lemmes techniques sui-
vants.
Lemme 1.11 Soient ∆ un r´eseau de R
d
et L, M deux sous-espaces ∆-rationnels
de R
d
. Alors les sous-espaces L + M et L ∩ M sont ∆-rationnels et on a la
majoration
d(L ∩ M)d(L + M) ≤ d(L)d(M).
Remarque Par convention, on a pos´e d(0) = 1 pour le sous-espace nul.
D´emonstration On peut supposer que ∆ = Z
d
. On remarque alors qu’un sous-
espace est ∆-rationnel ssi il est engendr´e par des vecteurs ` a coefficients rationnels.
Ceci prouve que L + M est ∆-rationnel.
On remarque aussi qu’un sous-espace est ∆-rationnel ssi il est d´efini par des
´equations lin´eaires ` a coefficients rationnels. Ceci prouve que L∩M est ∆-rationnel.
Pour montrer la majoration, on part d’une base u
1
, . . . , u
k
de ∆ ∩ L ∩ M
que l’on compl`ete en une base u
1
, . . . , u
k
, v
1
, . . . , v

de ∆ ∩ L et en une base
u
1
, . . . , u
k
, w
1
, . . . , w
m
de ∆ ∩ M. La famille u
1
, . . . , u
k
, v
1
, . . . , v

, w
1
, . . . , w
m
est
alors libre et engendre un sous-groupe d’indice fini de ∆ ∩ (L + M). On note
u = u
1
∧ ∧ u
k
, v = v
1
∧ ∧ v

et w = w
1
∧ ∧ w
m
. Notre assertion r´esulte
alors de la majoration
|u||u ∧ v ∧ w| ≤ |u ∧ v||u ∧ w|.
Cette derni`ere in´egalit´e se montre en rempla¸cant, `a l’aide du proc´ed´e d’ortho-
gonalisation de Gramm-Schmidt, la famille u
1
, . . . , u
k
, v
1
, . . . , v

, w
1
, . . . , w
m
par
10
une famille u
t
1
, . . . , u
t
k
, v
t
1
, . . . , v
t

, w
t
1
, . . . , w
t
m
telle que les deux familles
u
t
1
, . . . , u
t
k
, v
t
1
, . . . , v
t

et u
t
1
, . . . , u
t
k
, w
t
1
, . . . , w
t
m
sont orthogonales et telle que
u = u
t
1
∧ ∧ u
t
k
, u ∧ v = u ∧ v
t
1
∧ ∧ v
t

et u ∧ w = u ∧ w
t
1
∧ ∧ w
t
m
.
Lemme 1.12 Notons S
i
(∆) := ¦sous-espaces ∆-rationnels de dimension i¦.
a) Pour tout C > 0, on a #¦L ∈ S
i
(∆) [ d

(L) ≤ C¦ < ∞.
b) Les application X →]0, ∞[ ; ∆ → min
L∈S
i
(∆)
d

(L) sont continues.
D´emonstration a) On peut supposer ∆ = Z
d
. Si e
1
, . . . , e
i
est une base de
L ∩ Z
d
, l’´el´ement e
1
∧ ∧ e
i
est dans Λ
i
(Z) et de norme born´ee par C. Cela ne
laisse qu’un nombre fini de possibilit´es.
b) Cela r´esulte des in´egalit´es |g
−1
|
−d
d

(L) ≤ d
g∆
(gL) ≤ |g|
d
d

(L).
1.5 Construction d’une fonction f
En combinant les r´esultats des deux derni`eres sections, nous allons
maintenant construire explicitement la fonction f v´erifiant HC dont
nous avons besoin pour montrer la proposition 1.3.
Pour 0 < i ≤ d, d´efinissons une fonction α
i
de l’espace des r´eseaux X
t
dans
[0, ∞[. Pour tout r´eseau ∆ de R
d
,
α
i
(∆) := sup¦d

(L)
−1
[ L ⊂ R
d
∆-rationnel, dimL = i¦.
On notera α
0
= 1. La fonction α
1
co¨ıncide avec celle introduite dans la partie
pr´ec´edente. On a vu que α
i
est continue.
Reprenons les notation du corollaire 1.7. On a donc une probabilit´e µ sur
G = GL(d, R) telle que
HI µ est sym´etrique, le support de µ est compact et inclus dans S
+
, et l’action
du groupe Γ
µ
dans R
d
est irr´eductible.
Le lemme suivant permettra de construire la fonction f que nous cherchons.
Lemme 1.13 Soit µ une probabilit´e sur GL(d, R) qui v´erifie [HI]. Alors il existe
a
0
< 1 et b
0
> 0 tels que, pour tout 0 < i < d, on a
A
µ

δ
i
) ≤ a
0
α
δ
i
+ b
0
max
j>0

δ
i−j
α
δ
i+j
)
1
2
.
o` u le max est pris sur les entiers j avec 0 < j ≤ min(i, d −i).
D´emonstration On veut majorer, pour ∆ ∈ X, l’int´egrale A
µ

δ
i
)(∆).
Choisissons a
0
< 1 et δ > 0 comme dans le corollaire 1.7 et posons cette fois,
r = sup¦max(|g|
d
, |g
−1
|
d
) [ g ∈ supp(µ)¦ de sorte que, pour tout sous-espace
∆-rationnel L ⊂ R
d
, on ait, pour µ-presque tout g,
r
−1
d

(L) ≤ d
g∆
(gL) ≤ rd

(L).
11
Choisissons un sous-espace ∆-rationnel L
i
⊂ R
d
de dimension i tel que
d

(L
i
) = α
i
(∆)
−1
et introduisons l’ensemble (fini)
Ψ
i
:= ¦L ⊂ R
d
[ ∆-rationnel, dimL = i, d

(L) ≤ r
2
d

(L
i
)¦.
On va distinguer deux cas.
1
er
cas : Ψ
i
contient un seul ´el´ement L
i
. Alors, pour tout sous-espace ∆-
rationnel L de dimension i, et µ-presque tout g, on a
d
g∆
(gL) ≥ d
g∆
(gL
i
)
d’o` u, par le corollaire 1.7,
A
µ

δ
i
)(∆) =

G
1
d
g∆
(gL
i
)
δ
dµ(g) ≤ a
0
1
d

(L
i
)
δ
= a
0
α
δ
i
(∆).
2
`eme
cas : Ψ
i
contient un autre ´el´ement L
t
i
. Notons j := dim(L
i
+L
t
i
) −i. On
a alors, grˆ ace au lemme 1.11, pour µ-presque tout g,
α
i
(g∆) ≤ rα
i
(∆) = rd

(L
i
)
−1
≤ r
2
(d

(L
i
)d

(L
t
i
))

1
2
≤ r
2
(d

(L
i
∩ L
t
i
)d

(L
i
+ L
t
i
))

1
2
≤ r
2

i−j
(∆)α
i+j
(∆))
1
2
.
et donc, avec b
0
= r

,
A
µ

δ
i
)(∆) ≤ b
0
max
j>0

δ
i−j
(∆)α
δ
i+j
(∆))
1
2
.
On obtient la majoration annonc´ee en combinant ces deux cas.
Voici enfin la construction de la fonction f cherch´ee.
Corollaire 1.14 Soit µ une probabilit´e sur SL(d, R) qui v´erifie [HI]. Alors il
existe δ > 0 et ε > 0 tels que la fonction f : X →[0, ∞[
f :=
¸
0<i<d
ε
(d−i)i
α
δ
i
v´erifie [HC] : elle est propre et il existe a < 1, b > 0, tels que A
µ
(f) ≤ af + b.
D´emonstration La propret´e de f r´esulte du corollaire 1.9.
Notons β
i
= ε
(d−i)i
α
δ
i
de sorte que f =
¸
0<i<d
β
i
. Appliquons le lemme 1.13,
l’´egalit´e
2(d −i)i = (d −i −j)(i + j) + (d −i + j)(i −j) + 2j
2
.
et la majoration 2(st)
1
2
≤ s + t, pour tout s, t ≥ 0.
On obtient alors avec a
0
< 1 et b
0
> 0,
A
µ
f ≤ a
0
¸
0<i<d
β
i
+ b
0
max
j>0
ε
j
2

i−j
β
i+j
)
1
2
≤ (a
0
+ b
0
εd)
¸
0<i<d
β
i
+ b
0
εd
et donc A
µ
f ≤ af + b avec a = a
0
+ b
0
εd et b = b
0
εd. On a bien a < 1 si ε est
choisi suffisamment petit.
12
1.6 Application au groupe orthogonal
Terminons cette partie en montrant comment les id´ees ci-dessus
s’organisent pour montrer que le groupe G
Z
= O(Q, Z) est un r´eseau
du groupe G
R
= O(Q, R).
Nous reprendrons ces id´ees plus en d´etail dans un cadre g´en´eral
dans le chapitre 5
D´emonstration de la proposition 1.3 Ce groupe G
R
est unimodulaire (parce
qu’il est engendr´e par des ´el´ements d’ordre 2 : les r´eflexions hyperplanes). La
mesure ν sur le quotient G
R
/G
Z
induite par la mesure de Haar est donc G
R
-
invariante. On veut montrer que cette mesure ν est finie.
Notons H
R
= SL
±
(d, R) et H
Z
= SL
±
(d, Z). On remarque tout d’abord que
l’injection i : G
R
/G
Z
→H
R
/H
Z
est propre.
Pour v´erifier cela, on doit montrer que si une suite g
n
H
Z
avec g
n
∈ G
R
converge
dans H
R
/H
Z
, alors la suite g
n
G
Z
converge dans G
R
/G
Z
. Notons h
n
une suite de
H
Z
telle que g
n
h
n
converge dans H
R
. Comme l’injection G
Z
`H
Z
→ G
R
`H
R
est
d’image discr`ete (elle s’identifie ` a un ensemble de formes quadratiques ` a coeffi-
cients entiers), on peut ´ecrire, pour n grand h
n
= γ
n
h avec γ
n
∈ G
Z
et h ∈ H
Z
.
La suite g
n
γ
n
est donc convergente et l’injection i est propre.
La mesure ν peut donc ˆetre vue comme une mesure de Radon sur l’espace
H
R
/H
Z
des r´eseaux de covolume 1. On veut bien sˆ ur appliquer une combinaison
des corollaires 1.5 et 1.14. Pour cela, il suffit de construire une probabilit´e µ
port´ee par G
R
v´erifiant la condition [HI]. Remarquons que cette condition ne
fait plus intervenir le groupe G
Z
. Notons (p, q) la signature de Q. On peut choisir
un produit scalaire euclidien de R
d
et une base orthonorm´ee de R
d
tels que,
Q(x
1
, . . . , x
p+q
) = x
2
1
+ x
2
p
−x
2
p+1
− −x
2
p+q
. On d´ecompose l’alg`ebre de Lie
g de G
R
en une somme directe g = k ⊕q, o` u
k = ¦M ∈ g [ M = −
t
M¦ = ¦

A 0
0 D

[ A = −
t
A , D = −
t
D¦,
q = ¦M ∈ g [ M =
t
M¦ = ¦

0 B
C 0

[ C =
t
B¦.
On prend pour µ la mesure sur G
R
image par l’application exponentielle d’une
probabilit´e sym´etrique µ
0
sur q dont le support est une boule centr´ee en 0. On
v´erifie facilement l’´egalit´e k = [q, q]. Le groupe Γ
µ
est donc la composante connexe
du groupe G
R
.
Comme d ≥ 3, l’action de la composante connexe de G
R
sur R
d
est irr´eductible.
Cette probabilit´e µ v´erifie bien la condition [HI].
La mˆeme d´emonstration permet de retrouver le
Corollaire 1.15 Pour d ≥ 2, le groupe SL(d, Z) est un r´eseau de SL(d, R).
13
2 Alg`ebres de Lie semisimples
Ce chapitre est constitu´e de quelques rappels sur les alg`ebres de
Lie semisimples
2.1 Alg`ebres de Lie nilpotentes et r´esolubles
Commen¸cons par ´etudier les alg`ebres de Lie r´esolubles c’est-`a-dire
celles obtenues par extensions successives d’alg`ebres ab´eliennes.
Toutes nos alg`ebres de Lie sont de dimension finie sur un corps k de caract´e-
ristique nulle.
D´efinition 2.1 Une alg`ebre de Lie est un k-espace vectoriel g muni d’une appli-
cation bilin´eaire antisym´etrique `a valeurs dans g not´ee [., .] v´erifiant l’identit´e de
Jacobi : pour tout X, Y, Z ∈ g,
[X, [Y, Z]] = [[X, Y ], Z] + [Y, [X, Z]]
Exemples fondamentaux - L’alg`ebre de Lie d’un groupe de Lie G, c’est-` a-dire
l’espace des champs de vecteurs invariants par translation `a gauche, est une R-
alg`ebre de Lie. Rappelons que toute R-alg`ebre de Lie g est l’alg`ebre de Lie d’un
groupe de Lie connexe et simplement connexe. Celui-ci est uniquement d´etermin´e
par g.
- L’alg`ebre de Lie End(k
d
) avec le crochet [A, B] = AB − BA. Remarquons
que, mˆeme si nous n’utiliserons pas ce fait, toute alg`ebre de Lie s’identifie `a une
sous-alg`ebre de Lie de End(V ), par le th´eor`eme d’Ado.
- Un endomorphisme D ∈ End(g) d’une alg`ebre de Lie g est une d´erivation si
D([Y, Z]) = [DY, Z] + [Y, DZ], pour tout Y, Z ∈ g.
L’ensemble Der(g) des d´erivations de g est une sous-alg`ebre de Lie de End(g).
Pour tout X dans g, on note adX la d´erivation int´erieure donn´ee par adX(Y ) =
[X, Y ], pour tout Y ∈ g. L’application ad : g →Derg est un morphisme d’alg`ebres
de Lie, i.e. ad[X, Y ] = [adX, adY ], pour tout X, Y ∈ g. Ce morphisme est appel´e
le morphisme adjoint, son noyau est le centre z de g, z := ¦X ∈ g [ [X, g] = 0¦.
Historiquement, le mot d´erivation est un raccourci pour l’expression “d´erivation
d’un groupe ` a un param`etre d’automorphismes”.
D´efinition 2.2 Un id´eal de g est un sous-espace h tel que [g, h] ⊂ h.
Une alg`ebre de Lie g est ab´elienne si [g, g] = 0. Elle est nilpotente (resp. r´eso-
luble) si il existe un drapeau d’id´eaux 0 = g
0
⊂ ⊂ g
i
⊂ ⊂ g
p
= g tels que
[g, g
i
] ⊂ g
i−1
(resp. g
i
/g
i−1
est ab´elienne), pour tout i = 1, . . . , p.
14
Exemples fondamentaux - L’alg`ebre de Lie a
d
⊂ End(k
d
) des matrices dia-
gonales est ab´elienne.
- L’alg`ebre de Lie = u
+
d
⊂ End(k
d
) des matrices strictement triangulaires su-
p´erieures est nilpotente.
- L’alg`ebre de Lie p
+
d
= a
d
⊕ u
+
d
des matrices triangulaires sup´erieures est
r´esoluble.
Les deux th´eor`emes suivants expliquent en quoi ces exemples sont fondamen-
taux.
Th´eor`eme 2.3 (Engel) Soit V un k-espace vectoriel de dimension d et g ⊂
End(V ) une sous-alg`ebre de Lie dont tout ´el´ement est nilpotent. Alors il existe
une base de V telle que g ⊂ u
+
d
.
Remarque L’alg`ebre de Lie g = C

0 1
1 0

est nilpotente, car ab´elienne, mais
ses ´el´ements ne sont pas nilpotents.
D´emonstration On proc`ede par r´ecurrence sur dimg. Il suffit de trouver un
vecteur v dans V annul´e par g.
On remarque tout d’abord que, pour X ∈ g, adX est nilpotent. En effet, pour
tout Y ∈ EndV ,
(adX)
n
(Y ) =
¸
0≤r≤n
(−1)
r
C
r
n
X
n−r
Y X
r
est nul pour n ≥ 2 dimV .
Soit h g une sous-alg`ebre de Lie maximale. L’hypoth`ese de r´ecurrence
appliqu´ee `a l’action adjointe de h dans g/h prouve qu’il existe un sous-espace
h
t
= kX ⊕ h de g tel que [h, h
t
] ⊂ h. Comme [X, X] = 0, h
t
est une sous-alg`ebre
de Lie de g. Par maximalit´e de h, on a h
t
= g et h est un id´eal de codimension 1
dans g.
Posons alors W = ¦w ∈ V [ hw = 0¦. C’est un sous-espace g-invariant de V . Il
suffit de prendre v dans le noyau de la restriction de X ` a W.
Th´eor`eme 2.4 (Lie) Soient K un corps alg´ebriquement clos, V un K-espace
vectoriel de dimension d et g ⊂ End(V ) une sous-alg`ebre de Lie r´esoluble. Alors
il existe une base de V telle que g ⊂ p
+
d
.
Remarque L’alg`ebre de Lie g = R

0 1
1 0

est r´esoluble, car ab´elienne, mais
elle ne stabilise pas de droite dans R
2
.
D´emonstration En proc´edant par r´ecurrence sur dimV , il suffit de trouver dans
V une droite g-invariante. Soient h un id´eal de codimension 1 de g et X ∈ g h.
En raisonnant par r´ecurrence sur dimg, on peut supposer qu’il existe un vecteur
15
v
0
∈ V et une forme lin´eaire λ ∈ h

tels que, pour tout H ∈ h, on a Hv
0
=
λ(H)v
0
. Posons v
i
= X
i
v
0
et notons W l’espace vectoriel engendr´e par tous les
v
i
. On v´erifie par r´ecurrence sur i que Hv
i
− λ(H)v
i
est combinaison lin´eaire
de v
0
, . . . , v
i−1
. En particulier, W est h-invariant. On en d´eduit que λ([H, X]) =
1
dimW
tr
W
([H, X]) = 0. On peut alors pr´eciser le calcul pr´ec´edent par r´ecurrence
sur i et obtenir Hv
i
= λ(H)v
i
, pour tout H ∈ h. Il suffit alors de prendre pour v
un vecteur propre de X dans W. Un tel vecteur existe car K est alg´ebriquement
clos.
2.2 Alg`ebres de Lie semisimples
Comme pour les alg`ebres associatives de dimension finie, ce sont
les alg`ebres de Lie semisimples qui sont ` a la fois les plus utiles, les
plus subtiles et les mieux comprises.
D´efinition 2.5 La forme de Killing B = B
g
d’une alg`ebre de Lie g est la forme
bilin´eaire sym´etrique sur g donn´ee par B(X, Y ) = tr
g
(adXadY ).
Le radical r de g est le plus grand id´eal r´esoluble de g.
Remarques - Le radical r existe. En effet, la somme de deux id´eaux r´esolubles
de g est encore un id´eal r´esoluble.
- Le radical r est invariant par toute d´erivation D de g. En effet, on peut pour
le v´erifier, supposer k = C. Mais r est invariant par tous les automorphismes de
g et en particulier par les automorphismes e
tD
, pour tout t ∈ k.
D´efinition 2.6 Une alg`ebre de Lie g est semisimple si tout id´eal ab´elien de g est
nul.
Une alg`ebre de Lie g est simple si 0 et g sont les seuls id´eaux de g et si
dimg > 1.
Voici d’autres d´efinitions ´equivalentes pour les alg`ebres de Lie semisimples
Th´eor`eme 2.7 Les quatre affirmations suivantes sont ´equivalentes
i) Tout id´eal ab´elien de g est nul.
ii) Le radical r est nul.
iii) g est une somme directe d’id´eaux simples g = ⊕
i
g
i
.
iv) La forme de Killing B
g
est non d´eg´en´er´ee.
Remarques - Comme corollaire, la semisimplicit´e est invariante par changement
de corps de base : pour toute extension de corps k ⊂ K, une k-alg`ebre de Lie g
est semisimple ssi son extension g ⊗
k
K est une K-alg`ebre de Lie semisimple.
- Comme autre corollaire, une alg`ebre de Lie semi-simple g n’a qu’un nombre
fini d’id´eaux simples : ce sont les g
i
. En effet, si a est un id´eal simple diff´erent de
tous les g
i
, on a [a, g
i
] ⊂ a∩g
i
= 0 et donc a est dans le centre de g. Contradiction.
16
Lemme 2.8 Soit a un id´eal d’une alg`ebre de Lie g.
a) L’orthogonal a

:= ¦X ∈ g [ B(X, a) = 0¦ est un id´eal de g.
b) La forme de Killing de a est la restriction de celle de g.
D´emonstration du lemme 2.8
a) Cela r´esulte de l’´egalit´e B([X, Y ], Z) + B(Y, [X, Z]) = 0, pour X, Y, Z ∈ g.
b) Cela r´esulte de l’inclusion adXadY (g) ⊂ a, pour X, Y ∈ a.
D´emonstration du th´eor`eme 2.7
i) ⇒ii) Si r = 0, on pose D
0
r = r, D
j+1
r = [D
j
r, D
j
r]. Le dernier id´eal d´eriv´e
non nul D
j
r est un id´eal ab´elien de g.
iii) ⇒ iv) Comme [g
i
, g
j
] = 0 et, par suite, B(g
i
, g
j
) = 0 pour i = j, on peut
supposer g simple. Remarquons qu’on a g = [g, g] car, comme dimg > 1, g ne
peut pas ˆetre ab´elienne. Le noyau de la forme de Killing B est un id´eal de g. Il
est soit nul, soit ´egal `a g.
Il suffit de montrer que B est non nul. C’est le point le plus d´elicat de la
d´emonstration. Supposons par l’absurde que B est nul. On note A = adg et
M := ¦ϕ ∈ Endg [ [ϕ, A] ⊂ A¦.
Montrons que, pour a ∈ A et ϕ ∈ M, on a tr(ϕa) = 0. On peut pour cela
supposer que a = [b, c] avec b, c ∈ A, car on a g = [g, g] et donc A = [A, A]. On a
alors tr(ϕa) = tr([ϕ, b]c) = 0 car la forme de Killing est nulle.
Comme A est inclus dans M, le lemme ci-dessous prouve que tout ´el´ement de
A est nilpotent, donc par le th´eor`eme de Engel, l’alg`ebre de Lie A est nilpotente.
Contradiction.
iv) ⇒i) Soit a un id´eal ab´elien de g. On a B(a, g) = 0, donc a = 0.
ii) ⇒ iii) Par r´ecurrence sur dimg. Soit a un id´eal non nul minimal de g.
D’apr`es les remarques suivant la d´efinition 2.5, le radical r´esoluble de a est un
id´eal de g. Il est donc nul. Par l’implication iii) ⇒ iv), la forme de Killing de a
est non d´eg´en´er´ee. On en d´eduit que g = a ⊕ a

et que la forme de Killing de
l’id´eal a

est non d´eg´en´er´ee. Par r´ecurrence, a

est une somme directe d’id´eaux
simples et g aussi.
On a utilis´e le
Lemme 2.9 Soit V = k
d
, A un k-sous-espace vectoriel de EndV et M = ¦ϕ ∈
EndV [ [ϕ, A] ⊂ A¦. Soit ψ ∈ M tel que, pour tout ϕ ∈ M, on a tr(ϕψ) = 0.
Alors ψ est nilpotent.
D´emonstration On peut supposer que k = C. Ecrivons ψ = ψ
s
+ ψ
n
la d´e-
composition de Jordan de ψ. On peut supposer ψ
s
diagonale et ψ
n
strictement
triangulaire sup´erieure. L’´egalit´e ad(ψ) = ad(ψ
s
) + ad(ψ
n
) est aussi la d´ecompo-
sition de Jordan de ad(ψ). La partie semisimple ψ
s
est donc aussi dans M. Son
conjugu´e ϕ = ψ
s
est aussi dans M. On a alors, en notant λ
i
les valeurs propres
de ψ,
¸
i

i
[
2
= tr(ϕψ) = 0. Donc ψ
s
= 0.
17
Proposition 2.10 Toute d´erivation d’une alg`ebre de Lie semisimple g est int´e-
rieure.
D´emonstration L’alg`ebre de Lie a := adg est un id´eal de l’alg`ebre de Lie
d := Derg car on a l’´egalit´e [D, adX] = ad(DX), pour tout D ∈ d et X ∈ g.
Notons a

l’orthogonal dans d de a pour la forme de Killing de d. Comme la
forme de Killing de a est non d´eg´en´er´ee, on a l’´egalit´e d = a ⊕a

.
Il suffit pour conclure de montrer que tout ´el´ement D ∈ a

est nul. Cela r´esulte
de l’´egalit´e, ad(DX) = [D, adX] ∈ a ∩a

= 0, pour tout X ∈ g et de l’injectivit´e
de l’application adjointe.
Comme l’application adjointe ad : g → Derg est injective, cette proposition
permet d’identifier g avec l’alg`ebre de Lie Derg des d´erivations de g. C’est tr`es
utile car cela permet de voir toute alg`ebre de Lie semisimple comme l’alg`ebre de
Lie d’un groupe alg´ebrique : le groupe de ses automorphismes. Voici une applica-
tion utile de ce fait.
D´efinition 2.11 Un ´el´ement X d’une alg`ebre de Lie semisimple est dit nilpotent
si l’endomorphisme adX est nilpotent. Un ´el´ement X est dit semisimple si adX
est semisimple.
Proposition 2.12 (d´ecomposition de Jordan) Soit g une alg`ebre de Lie
semisimple. Tout ´el´ement X de g admet une d´ecomposition unique X = X
s
+X
n
avec X
s
semisimple, X
n
nilpotent et [X
s
, X
n
] = 0.
D´emonstration
Unicit´e La d´ecomposition de Jordan de adX est ad(X
s
) + ad(X
n
).
Existence Il suffit de voir que la partie semisimple (adX)
s
de adX est une
d´erivation car la proposition 2.10 prouvera qu’il existe X
s
dans g tel que ad(X
s
) =
(adX)
s
.
On peut supposer k = C. Soit g
λ
=
¸
p≥1
Ker((adX − λ)
p
) de sorte que g =

λ∈C
g
λ
. L’´el´ement (adX)
s
agit sur g
λ
par multiplication par λ. Il suffit donc
de v´erifier que [g
λ
, g
µ
] ⊂ g
λ+µ
. Ce qui r´esulte de la formule suivante que l’on
d´emontre par r´ecurrence sur p :
(adX −λ −µ)
p
[Y, Z] =
¸
0≤r≤p
C
r
p
[(adX −λ)
r
Y, (adX −µ)
p−r
Z]
pour tout X, Y, Z ∈ g.
Remarque Lorsque k = R, Un ´el´ement X de g est dit elliptique (resp. hyperbo-
lique) si adX est semisimple `a valeurs propres imaginaires pures (resp. r´eelles).
On a encore une ´ecriture unique X = X
e
+ X
h
+ X
n
avec X
e
elliptique, X
h
hyperbolique et X
n
nilpotent qui commutent deux `a deux.
18
2.3 Repr´esentations de sl
2
L’alg`ebre de Lie s = sl(2, k) est une alg`ebre de Lie simple de
dimension minimale. Son ´etude est fondamentale car, sur un corps al-
g´ebriquement clos, toute alg`ebre de Lie semisimple contient de nom-
breuses copies de s.
D´efinition 2.13 Une repr´esentation d’une k-alg`ebre de Lie g dans un k-espace
vectoriel V est un morphisme de g dans EndV . On dit aussi que V est un g-
module.
Elle est dite simple ou irr´eductible si les seuls sous-espaces g-invariants sont 0
ou V .
Exemples fondamentaux - La repr´esentation adjointe ad.
- L’alg`ebre de Lie s = sl(2, k) admet, pour tout d ≥ 0, une repr´esentation dans
le k-espace vectoriel V
d
de dimension d +1 des polynˆ omes homog`enes de degr´e d
sur k
2
. D´ecrivons plus pr´ecis´ement ces repr´esentations. Une base de l’alg`ebre de
Lie s = sl(2, k) est X, H, Y avec
X :=

0 1
0 0

, H :=

1 0
0 −1

, Y :=

0 0
1 0

qui v´erifient les relations
[H, X] = 2X , [H, Y ] = −2Y et [X, Y ] = H.
L’action de cette base dans V
d
est donn´ee par X → x

∂y
, H → x

∂x
− y

∂y
et
Y →y

∂x
. Cette repr´esentation de s dans V
d
est appel´ee la repr´esentation de plus
haut poids d car d y est la plus grande valeur propre de H.
Proposition 2.14 Soit V un sl(2, k)-module de dimension finie.
a) V est somme directe de repr´esentations simples.
b) Si V est simple alors V est isomorphe `a une des repr´esentations V
d
de plus
haut poids d.
On repr´esente parfois V
d
par un diagramme ”ficelles” form´e de d + 1 noeuds
labell´es par les valeurs propres −d, −d+2, . . . , d−2, d de H, les ficelles symbolisant
l’action de X et Y sur les vecteurs propres de H correspondant.
D´emonstration a) Nous allons utiliser un argument transcendant appel´e l’astuce
unitaire de Weyl. Il suffit de montrer que tout sous-espace s-invariant V
t
⊂ V
admet un suppl´ementaire V
tt
s-invariant. Notons p : V → V/V
t
la projection
naturelle. On peut supposer que le corps de base est C car l’ensemble
¦σ ∈ Hom
s
(V/V
t
, V ) [ p ◦ σ = Id¦
est un espace affine d´efini sur k : s’il a un point ` a coefficients dans une extension
de k il en a aussi un ` a coefficients dans k. En effet, tout syst`eme d’´equations
19
affines ` a coefficients dans k qui a des solutions dans une extension de k en a aussi
dans k.
Notons alors K = SU(2) le groupe sp´ecial unitaire
K := ¦

a −b
b a

[ a, b ∈ C , [a[
2
+[b[
2
= 1¦
Son alg`ebre de Lie k = ¦matrices antihermitiennes de trace nulle¦ est une forme
r´eelle de s i.e. s · k⊗
R
C. Comme K est simplement connexe, toute repr´esentation
de s s’int`egre donc en une repr´esentation de K. Munissons V , grˆace ` a la mesure
de Haar de K, d’un produit scalaire hermitien K-invariant. Il suffit de prendre
pour V
tt
l’orthogonal de V
t
. Ce sous-espace est K-invariant. Il est donc aussi
s-invariant.
b) Supposons tout d’abord k alg´ebriquement clos et d´ecomposons V en somme
directe V = ⊕
µ∈C
V
µ
de sous-espaces caract´eristiques de H pour la valeur propre
µ. On a
X(V
µ
) ⊂ V
µ+2
et Y (V
µ
) ⊂ V
µ−2
car on a les formules dans EndV , pour tout j ≥ 1,
(H −µ −2)
j
X = X(H −µ)
j
et (H −µ + 2)
j
Y = Y (H −µ)
j
.
Soit v
0
un vecteur propre de H pour une valeur propre λ de partie r´eelle
maximum. On a Hv
0
= λv
0
et Xv
0
= 0.
Soit n ≥ 0 tel que Y
n
v
0
= 0 et Y
n+1
v
0
= 0. et posons v
i
= Y
i
v
0
, pour i ≥ 0.
Par r´ecurrence, on a la formule dans EndV ,
[X, Y
j+1
] = (j + 1)Y
j
(H −j).
Donc, on a 0 = XY
n+1
v
0
= (n + 1)(λ − n)v
n
. On a donc λ = n. Cette mˆeme
formule permet de calculer, pour 0 ≤ i ≤ n,
Y v
i
= v
i+1
, Hv
i
= (n −2i)v
i
, Xv
i
= (n −i + 1)iv
i−1
.
Comme V est simple, v
0
, . . . , v
n
est une base de V . On reconnait le s-module V
n
` a l’aide de l’identification v
i
→n(n −1) (n −i + 1)x
n−i
y
i
.
Comme on sait maintenant que les valeurs propres de H sont enti`eres, on peut
donc recommencer cet argument sans supposer k alg´ebriquement clos.
R´eciproquement, il est facile de v´erifier que V
d
est un s-module simple.
2.4 El´ements nilpotents et sl
2
-triplets
Une des raisons qui rend tr`es utile la classification des repr´esenta-
tions de sl
2
est la th´eorie des sl
2
-triplets.
Un triplet (x, h, y) dans une alg`ebre de Lie qui v´erifie les relations de commu-
tation [h, x] = 2x , [h, y] = −2y et [x, y] = h est appel´e un sl
2
-triplet.
20
Th´eor`eme 2.15 (Jacobson, Morozov) Tout ´el´ement nilpotent x d’une al-
g`ebre de Lie semisimple g fait partie d’un sl
2
-triplet (x, h, y).
Commen¸cons par un lemme.
Lemme 2.16 Soient X et Z deux ´el´ements de End(k
d
) tels que X est nilpotent
et [X, [X, Z]] = 0. Alors le produit XZ est nilpotent.
D´emonstration du lemme 2.16 On peut supposer le corps k alg´ebriquement
clos. Soit W := [X, Z]. Comme X et W commutent, on a, pour tout p ≥ 1,
W
p
= [X, ZW
p−1
] et donc tr(W
p
) = 0. Par suite, W est nilpotent.
Remarquons que [X
p
, Z] = pWX
p−1
. Soit v un vecteur propre de XZ pour la
valeur propre λ et p le plus petit entier tel que X
p
v = 0. Cet entier existe car
X est nilpotent. On a λX
p−1
v = X
p
Zv = pWX
p−1
v. Donc λ/p est une valeur
propre de W qui est nilpotent. Donc λ = 0 et XZ est nilpotent.
D´emonstration du th´eor`eme 2.15
Construction de h L’endomorphisme (adx)
2
est autoadjoint pour la forme
de Killing de g, c’est-`a-dire que, pour y, z ∈ g, on a
B((adx)
2
y, z) = B(y, (adx)
2
z).
D’autre part, d’apr`es le lemme 2.16, pour tout z dans le noyau N
2
de (adx)
2
, le
produit adx adz est nilpotent et donc B(x, z) = 0. C’est-`a-dire que x est dans
l’orthogonal N

2
de N
2
pour la forme de Killing. Comme B est non d´eg´en´er´ee,
N

2
est aussi l’image de (adx)
2
. Il existe donc y
t
∈ g tel que, en notant h = [x, y
t
],
on a [h, x] = 2x.
Construction de y Notons u := [h, y
t
] + 2y
t
. On aimerait que u soit nul.
Par Jacobi, on a [x, u] = 0. On cherche donc un ´el´ement z := y
t
−y de g tel que
[x, z] = 0 et [h, z] + 2z = u. Remarquons que le noyau N
1
de adx est invariant
par adh car [h, x] = 2x. Il suffit donc de voir que −2 n’est pas valeur propre de
adh dans N
1
. Cela r´esulte du lemme suivant.
Lemme 2.17 Soient X, H, Y
t
∈ End(k
d
) trois matrices telles que [X, Y
t
] = H
et [H, X] = 2X. Alors les valeurs propres de H dans le noyau KerX sont des
entiers positifs.
D´emonstration On peut supposer k alg´ebriquement clos. On reprend la partie
de la d´emonstration de la classification des sl(2, k)-modules simples qui est encore
valable pour (X, H, Y
t
) :
On montre par r´ecurrence sur p ≥ 0 que [Y
t
, X
p+1
] = −(p +1)(H −p)X
p
. Soit
v un vecteur non nul du noyau de X qui est vecteur propre de H pour la valeur
propre λ. Comme v est dans le noyau de X, il existe un plus grand entier p ≥ 0
tel que v soit dans l’image de X
p
. Notons u un vecteur tel que X
p
u = v. On a
l’´egalit´e (p + 1)(λ −p)v = X
p+1
(Y
t
u). Donc on a λ = p.
21
2.5 Syst`emes de racines
Dans cette section g est une alg`ebre de Lie semisimple complexe.
Nous rappelons maintenant la structure de g. Les deux outils clefs
sont la construction de sl
2
-triplets `a l’aide de la forme de Killing et la
classification des repr´esentations de sl(2).
D´efinition 2.18 Une sous-alg`ebre de Cartan h de g est une sous-alg`ebre com-
mutative form´ee d’´el´ements semisimples et qui est maximale pour ces propri´et´es.
L’int´erˆet de cette notion, est qu’on peut diagonaliser simultan´ement g sous
l’action adjointe des ´el´ements de h : pour α ∈ h

, on pose
g
α
= ¦X ∈ g [ [H, X] = α(H)X pour tout H ∈ h¦.
L’ensemble
∆ = ¦α ∈ h

[ g
α
= 0 et α = 0¦
est appel´e le syst`eme de racines de g. L’espace g
α
associ´e ` a une racine α ∈ ∆ est
appel´e l’espace radiciel. On a la d´ecomposition
g = g
0
⊕(⊕
α∈∆
g
α
) .
D´efinition 2.19 Soit E un espace vectoriel r´eel muni d’un produit scalaire eu-
clidien '., .`. Pour α ∈ E, α = 0 on note s
α
la sym´etrie orthogonale s
α
: E →
E; β → β − 2
/α,β)
/α,α)
α. On appelle “syst`eme de racines abstrait” une partie ∆ telle
que, pour tout α, β ∈ ∆, on a 2
/α,β)
/α,α)
∈ Z et s
α
(β) ∈ ∆.
Le syst`eme de racines abstrait ∆ est dit “r´eduit” si α ∈ ∆ ⇒2α ∈ ∆.
Le th´eor`eme suivant affirme en particulier que le syst`eme de racines de g est
un syst`eme de racines abstrait.
Th´eor`eme 2.20 Soit g une alg`ebre de Lie semisimple complexe.
a) On a g
0
= h. En particulier, h est commutative maximale.
b) ∆ = −∆ et la forme de Killing B restreinte `a h est non d´eg´en´er´ee.
c) Pour λ ∈ h

, on note H
λ
∈ h l’´el´ement tel que B(H
λ
, H) = λ(H) pour tout
H ∈ h. Alors, pour tout X
±α
∈ g
±α
, on a [X
−α
, X
α
] = B(X
−α
, X
α
)H
α
.
d) Pour tout α ∈ ∆, on a α(H
α
) = 0. Notons H
t
α
:=
2H
α
α(H
α
)
et choisissons X
t
α
∈ g
α
tels que B(X
t
α
, X
t
−α
) =
2
α(H
α
)
. Alors (X
t
α
, H
α
, X
t
−α
) est un sl
2
-triplet.
e) i) dimg
α
= 1 pour tout α ∈ ∆.
ii) [g
α
, g
β
] = g
α+β
pour tout α, β ∈ ∆.
iii) α et −α sont les seules racines proportionnelles `a α.
f ) La forme B est d´efinie positive sur h
R
:=
¸
α∈∆
RH
α
et on a h = h
R
⊕ih
R
.
g) ∆ est un syst`eme de racines abstrait r´eduit de l’espace euclidien dual E = h

R
.
22
Remarques - On a E =
¸
α∈∆
Rα et le produit scalaire sur E est donn´e par
'α, β` = B(H
α
, H
β
), pour tout α, β ∈ E.
- Nous verrons que toutes les sous-alg`ebres de Cartan sont conjugu´ees. Donc,
` a chaque alg`ebre de Lie semisimple complexe est associ´e un unique syst`eme de
racines abstrait r´eduit.
- On appelle rang de g ou rang de ∆, la dimension r de E.
- R´eciproquement, on peut montrer que tout syst`eme de racines abstrait r´eduit
provient d’une unique alg`ebre de Lie semisimple complexe. En outre, on peut
classifier les syst`emes de racines abstraits.
D´emonstration Nous utiliserons fr´equemment l’inclusion [g
α
, g
β
] ⊂ g
α+β
.
a) Soit X ∈ g
0
. Notons X = X
s
+ X
n
sa d´ecomposition de Jordan (voir
proposition 2.12). Comme X
s
commute ` a h, X
s
est dans h. On peut donc supposer
que X = X
n
est nilpotent. Par le th´eor`eme 2.15 de Jacobson Morozov, il existe
H ∈ g tel que [H, X] = 2X. Quitte `a remplacer H par sa projection sur g
0
parall`element ` a [h, g], on peut supposer que H est dans g
0
. Notons H = H
s
+H
n
la d´ecomposition de Jordan de H. L’´el´ement H
s
commute encore `a h, il est donc
dans h. Ce qui contredit l’´egalit´e [H
s
, X] = 2X. Sauf si X = 0. Donc g
0
= h.
b) On a B(g
α
, g
β
) = 0 si α+β = 0. Comme B est non d´eg´en´er´ee, B induit une
dualit´e non d´eg´en´er´ee entre g
α
et g
−α
.
c) En effet, B([X
α
, X
−α
], H) = B(X
α
, [X
−α
, H]) = B(X
α
, X
−α
)α(H).
d) Si α(H) = 0. On choisit X
±α
∈ g
±α
tels que B(X
α
, X
−α
) = 1. Alors on
a [H
α
, X
α
] = [H
α
, X
−α
] = 0 et [X
α
, X
−α
] = H
α
. Le th´eor`eme de Lie appliqu´e ` a
l’alg`ebre de Lie r´esoluble RX
−α
⊕RH
α
⊕RX
α
prouve que H
α
est nilpotent. Donc
H
α
= 0. Contradiction.
Comme α(H
t
α
) = 2, on a bien [H
t
α
, X
t
α
] = 2X
t
α
, [H
t
α
, X
t
−α
] = −2X
t
−α
et
[X
t
α
, X
t
−α
] = H
t
α
. On note g
α
la sous-alg`ebre de Lie de g engendr´ee par ce sl
2
-
triplet.
e) i) Si dimg
α
≥ 2, il existe X
tt
α
∈ g
α
un ´el´ement tel que B(X
t
−α
, X
tt
α
) = 0.
Mais alors [X
t
−α
, X
tt
α
] = 0 et X
tt
α
engendre un s
α
-module de plus bas poids 2. Cela
n’existe pas d’apr`es la proposition 2.14.
ii) Si [g
α
, g
β
] = 0. La somme V
t
:= ⊕
n∈N
g
β−nα
est un s
α
-sous-module de la
somme V := ⊕
n∈Z
g
β+nα
. Ce sous-module V
t
a pour plus haut poids β(H
t
α
) et
V/V
t
a pour plus bas poids β(H
t
α
) + 2. Donc, d’apr`es la proposition 2.14, on a
β(H
t
α
) ≥ 0 et β(H
t
α
) + 2 ≤ 0. Contradiction.
iii) Quitte ` a remplacer α par α/2, on peut supposer que α/2 n’est pas une
racine. On peut d´ecomposer le s
α
-module V := ⊕
z∈C
g

en modules ficelles.
Comme 1 n’est pas valeur propre de H
t
α
et que 2 est une valeur propre de multi-
plicit´e 1, on a d’apr`es la proposition 2.14, V = g
−α
⊕g
0
⊕g
α
.
f) Montrons que la restriction de B ` a h
R
est positive. Pour tout H ∈ h
R
, on a
B(H, H) =
¸
α∈∆
α(H)
2
=
¸
α∈∆
B(H
α
, H)
2
(1)
23
Il suffit donc de voir que, pour α, β ∈ ∆, B(H
α
, H
β
) est r´eel. Or
B(H
α
, H
β
) = β(H
α
) =
1
2
α(H
α
)β(H
t
α
).
Comme H
t
α
fait partie d’un sl
2
-triplet, ses valeurs propres β(H
t
α
) sont dans Z. Il
reste ` a voir que α(H
α
) est r´eel. Cela r´esulte des ´egalit´es
α(H
α
) = B(H
α
, H
α
) =
1
4
α(H
α
)
2
B(H
t
α
, H
t
α
) =
1
4
α(H
α
)
2
¸
β∈∆
β(H
t
α
)
2
.
Remarquons maintenant que ∆ engendre h

. En effet, si un ´el´ement H ∈ h est
dans le noyau de toutes les racines, il est dans le centre de g et donc H = 0.
Montrons que B est non d´eg´en´er´ee sur h
R
. En effet, d’apr`es (1), un ´el´ement
H ∈ h
R
tel que B(H, H) = 0 serait dans le noyau de toutes les racines et serait
donc nul.
On en d´eduit que B est d´efini n´egatif sur ih
R
. Donc on a h
R
∩ ih
R
= 0, puis,
comme ∆ engendre h, on en d´eduit h = h
R
⊕ih
R
.
c) L’espace E = h

R
est euclidien et on a l’´equivalence λ ∈ E ⇔ H
λ
∈ h
R
. En
particulier ∆ est inclus dans E et engendre E. Montrons que ∆ est un syst`eme
de racines abstrait. Soient α, β ∈ ∆, q = 2
/α,β)
/α,α)
. On doit v´erifier que q ∈ Z et que
β −qα ∈ ∆. On peut supposer q ≥ 0. Il r´esulte de la proposition 2.14 appliqu´e au
s
α
-module V := ⊕
n∈Z
g
β+nα
que la valeur propre q = β(H
t
α
) est un entier et que
(adX
t
−α
)
q
(X
t
β
) = 0. En effet, les valeurs propres de H
t
α
dans les modules ficelles
sont enti`eres et sym´etriques par rapport ` a l’origine. Donc g
β−qα
est non nul et
β −qα est une racine.
Donnons pour finir la liste de toutes les alg`ebres de Lie simples complexes, liste
qui se d´eduit de celle des syst`emes de racines abstraits. Les quatre familles dites
classiques et les cinq alg`ebres simples dites exceptionnelles
A
r
= sl(r + 1, C) (r ≥ 1),
B
r
= so(2r + 1, C) (r ≥ 2),
C
r
= sp(r, C) (r ≥ 3),
D
r
= so(2r, C) (r ≥ 4)
E
6
, E
7
, E
8
, F
4
, G
2
.
24
3 Groupes de Lie semisimples
Nous d´emontrons enti`erement dans ce chapitre un certains nom-
bres de r´esultats classiques dˆ us ` a E. Cartan sur la structure des
groupes et des alg`ebres de Lie semisimples. En particulier, l’existence
d’une involution de Cartan, la d´ecomposition de Cartan G = KA
+
K
et la d´ecomposition d’Iwasawa G = KAU
+
. R´esultats que nous utili-
sons `a plusieurs reprises dans ce cours. Comme dans le cas complexe,
le language des syst`emes de racines permet de g´erer tous les groupes
de Lie semisimples r´eels. N´eanmoins, nous rappellerons la signification
de ces concepts pour G = SL(d, R).
3.1 Groupes de Lie compacts
Commen¸cons par la descriptions des groupes de Lie compacts.
Pour tout groupe de Lie U, on note u = Lie(U) son alg`ebre de Lie et u
C
:=
u⊗
R
C son alg`ebre de Lie comlexifi´ee. On note Ad l’action adjointe : pour u ∈ U,
Adu est la d´eriv´ee de la conjugaison g →ugu
−1
. Ad est un morphisme de groupes
de Lie de U dans le groupe des automorphismes Aut(u).
Th´eor`eme 3.1 L’application U →u
C
met en bijection

groupes de Lie compacts
connexes `a centre trivial
¸
←→

alg`ebres de Lie
semisimples complexes

.
Remarques - Il s’agit bien sˆ ur d’une bijection “modulo isomorphisme” ou, plus
pr´ecis´ement d’une “´equivalence de cat´egories”.
- On en d´eduit, avec la section 2.5, que tout groupe simple compact est, modulo
le centre, un des groupes classiques A
r
= SU(r+1), B
r
= SO(2r+1), C
r
= Sp(r),
D
r
= SO(2r) ou un des cinq groupes exceptionnels E
6
, E
7
, E
8
,F
4
, G
2
.
D´emonstration du th´eor`eme 3.1 Comme AdU est compact, il existe une
forme bilin´eaire d´efinie positive B
0
sur u qui est AdU-invariante. Pour tout X ∈ u
non nul, adX est antisym´etrique pour B
0
, donc tr((adX)
2
) < 0. La forme de
Killing B de u est d´efinie n´egative. Donc u est semisimple et u
C
aussi.
L’injectivit´e de l’application U →u
C
sera montr´ee dans la section 3.2.
On va montrer dans cette partie la surjectivit´e.
Soit g une alg`ebre de Lie semisimple complexe.
D´efinition 3.2 On appelle forme r´eelle de g une sous-alg`ebre de Lie r´eelle g
R
telle que g = g
R

R
C. Une forme r´eelle g
R
est dite compacte si la forme de Killing
de g
R
est d´efinie n´egative.
25
Il suffit de montrer que g a une forme r´eelle compacte u. Car alors la composante
connexe U := Aut(u)
e
du groupe des automorphismes de u convient. C’est un
groupe compact car il est ferm´e et pr´eserve la forme de Killing. Son alg`ebre de
Lie est isomorphe `a u car toute d´erivation de u est int´erieure.
Pour montrer que g a une forme r´eelle compacte, reprenons les notations de
la section 2.5. Pour α ∈ ∆, choisissons X
α
dans g
α
tels que [X
−α
, X
α
] = H
α
et
d´efinissons, pour α, β ∈ ∆ avec α + β = 0, le nombre N
α,β
par
[X
α
, X
β
] = N
α,β
X
α+β
si α + β est dans ∆ et par N
α,β
= 0 sinon.
Proposition 3.3 On peut choisir les X
α
de sorte que N
α,β
= −N
−α,−β
.
Les nombres N
α,β
sont alors r´eels.
Grace ` a cette proposition, on peut prendre pour forme r´eelle compacte de g
u = ih
R
⊕(⊕
α∈∆
Ri(X
α
+X
−α
)) ⊕(⊕
α∈∆
R(X
α
−X
−α
)) .
En effet, par construction, les facteurs de cette somme directe sont orthogonaux
et B est donc d´efinie n´egative sur u. Les ´egalit´es N
α,β
= −N
−α,−β
∈ R assurent
que u est une alg`ebre de Lie.
Remarque Pour g = sl(2, C), on obtient la base de su(2)
iH =

i 0
0 i

, i(X+Y ) =

0 i
i 0

, X−Y =

0 1
−1 0

.
Lemme 3.4 a) Pour α, β ∈ ∆, on a N
α,β
= −N
β,α
.
b) Pour α, β, γ ∈ ∆ avec α + β + γ = 0, on a
N
α,β
= N
β,γ
= N
γ,α
et N
α,β
N
−α,−β
< 0.
c) Pour α, β, γ, δ ∈ ∆ non deux `a deux colin´eaires, on a
N
α,β
N
γ,δ
+ N
β,γ
N
α,δ
+ N
γ,α
N
β,δ
= 0.
D´emonstration du lemme 3.4 a) Clair.
b) Comme α + β + γ = 0, on a H
α
+ H
β
+ H
γ
= 0. Or, l’identit´e de Jacobi
appliqu´ee ` a X
α
, X
β
, X
γ
donne N
β,γ
H
α
+ N
γ,α
H
β
+ N
α,β
H
γ
= 0. Donc N
α,β
=
N
β,γ
= N
γ,α
.
D’autre part, la proposition 2.14 qui classifie les sl(2)-modules prouve que
[X
t
−α
, [X
t
α
, X
β
]] = a
α,β
X
β
o` u a
α,β
est un entier strictement positif. On en d´eduit
que N
α,β
N
−α,α+β
> 0.
c) Appliquer l’identit´e de Jacobi ` a X
α
, X
β
, X
γ
.
D´emonstration de la proposition 3.3 Choisissons un ordre total sur h

R
tel
que la somme de deux ´el´ements positifs est positif ; par exemple l’ordre lexicogra-
phique pour les coordonn´ees dans une base de h

R
. On note ∆
+
= ¦α ∈ ∆ [ α > 0¦
l’ensemble des racines positives.
Pour ρ ∈ ∆
+
, posons ∆
ρ
= ¦α ∈ ∆ [ −ρ ≤ α ≤ ρ¦ et montrons par r´ecurrence
sur #∆
ρ
qu’on peut choisir les X
α
, pour α ∈ ∆
ρ
tels que
N
α,β
= −N
−α,−β
pour tout α, β, α+β ∈ ∆
ρ
(2)
26
Le nombre N
α,β
est alors automatiquement r´eel par b).
Par hypoth`ese de r´ecurrence, il ne reste `a choisir que X
ρ
car X
−ρ
s’en d´eduit.
Si on ne peut pas ´ecrire ρ = γ +δ avec γ, δ ∈ ∆
+
, on choisit X
ρ
arbitrairement.
Si on peut ´ecrire ρ = γ + δ avec γ, δ ∈ ∆
+
, on prend X
ρ
= λ[X
γ
, X
δ
] et
X
−ρ
= λ[X
−γ
, X
−δ
] o` u λ ∈ C

est choisi de sorte que B(X
ρ
, X
−ρ
) = 1. Il reste ` a
v´erifier (2). Grace ` a b), il suffit de v´erifier (2) lorsque α + β = ρ. Ce qui r´esulte
de l’´egalit´e du c) appliqu´ee ` a α, β, −γ, −δ et ` a −α, −β, γ, δ et de l’hypoth`ese de
r´ecurrence.
Remarque On peut montrer que tout groupe topologique compact simple con-
nexe est de Lie. Le th´eor`eme 3.1 donne donc la classification des groupes compacts
connexes simples. C’est un des grands ach`evement du d´ebut du vingti`eme si`ecle.
Il ouvre la voie ` a la classification des groupes finis simples. Signalons que c’est
seulement `a la fin du vingti`eme si`ecle que cette derni`ere sera compl´et´ee.
3.2 Involutions de Cartan
Ce sont les involutions de Cartan qui nous permettront de com-
prendre la structure des groupes de Lie semisimples et leurs liens avec
les espaces sym´etriques.
D´efinition 3.5 Une involution de Cartan d’une alg`ebre de Lie semisimple r´eelle
g est un automorphisme θ tel que θ
2
= 1 et tel que la forme bilin´eaire sym´etrique
B
θ
donn´ee par B
θ
(X, Y ) = −B(θX, Y ) est d´efinie positive.
On a alors la d´ecomposition de Cartan g = k ⊕ q o` u k = ¦X ∈ g [ θ(X) = X¦
et q = ¦X ∈ g [ θ(X) = −X¦. Ces sous-espaces k et q sont orthogonaux pour la
forme de Killing B qui est d´efinie n´egative sur k et d´efinie positive sur q.
Exemples - Pour g = sl(d, R) ou g = so(p, q), on peut prendre θ(X) = −
t
X.
- L’alg`ebre de Lie g
C
consid´er´ee comme une alg`ebre de Lie r´eelle admet comme
involution de Cartan la conjugaison σ par rapport ` a une forme r´eelle compacte
u. On a alors k = u et q = iu.
Proposition 3.6 a) Toute alg`ebre de Lie semisimple r´eelle g admet une involu-
tion de Cartan θ.
b) Deux involutions de Cartan θ et θ
1
de g sont toujours conjugu´ees.
Remarques - Conjugu´e signifie “conjugu´e par un ´el´ement de Aut(g)
e
”.
- Le point b) prouve l’injectivit´e de l’application U →u
C
du th´eor`eme 3.1.
D´emonstration de la proposition 3.6 a) Soient τ la conjugaison complexe
par rapport ` a g et N l’automorphisme de g
C
produit N = στ o` u σ est comme
dans l’exemple. Pour tout X, Y ∈ g, on a
B
σ
(NX, Y ) = B(τX, Y ) = B(X, τY ) = B
σ
(X, NY ).
27
Donc N est semisimple `a valeurs propres r´eelles. Soit P l’´el´ement P := N
2
. On
peut donc ´ecrire P = P
1
pour un groupe ` a un param`etre t → P
t
de bjections
lin´eaires de l’espace vectoriel r´eel g
C
qui sont semisimples `a valeurs propres posi-
tives. Pour tout t, P
t
est dans Aut(g
C
), P
t
commute `a N et on a σP
t
σ
−1
= P
−t
.
En effet, cela r´esulte de la remarque du lemme 4.9 car ces affirmations sont po-
lynomiales et vraies pour t entiers. On pose alors Q = P

1
4
et σ
t
= QσQ
−1
. On
calcule
σ
t
τ = QσQ
−1
τ = Q
2
στ = P

1
2
N = N
−1
P
1
2
= τσQ
−2
= τQσQ
−1
= τσ
t
.
On en d´eduit que σ
t
(g) ⊂ g et que θ := σ
t
[
g
est une involution de Cartan de g.
b) Comme en a), on peut poser Q := ((θθ
1
)
2
)

1
4
∈ Aut(g), θ
t
:= Qθ
1
Q
−1
et
prouver que θ et θ
t
commutent.
On diagonalise alors simultan´ement θ et θ
t
: on a
g = (k ∩ k
t
) ⊕(k ∩ q
t
) ⊕(q ∩ k
t
) ⊕(q ∩ q
t
)
o` u g = k ⊕ q et g = k
t
⊕ q
t
sont les d´ecompositions de Cartan de g pour θ et θ
t
.
La forme de Killing est d´efinie n´egative sur k et k
t
et est d´efinie positive sur q et
q
t
. Donc, on a k ∩ q
t
= q ∩ k
t
= 0, puis k = k
t
et q = q
t
, c’est-`a-dire θ = θ
t
.
Remarques - Les ´el´ements de k sont elliptiques. Ceux de q sont hyperboliques.
- Notons G = Aut(g)
e
le groupe de Lie connexe ` a centre trivial d’alg`ebre de Lie
g. Le sous groupe K = ¦g ∈ G [ gθ = θg¦ est un sous-groupe compact maximal
de G. L’espace G/K, muni de la m´etrique riemannienne G-invariante donn´ee
par la forme de Killing sur q est un “espace sym´etriques riemanniens simplement
connexe ` a courbure n´egative ou nulle sans facteur euclidien”. L’application g ←→
G/K est une bijection entre les alg`ebres de Lie semisimples r´eelles et ces espace
sym´etriques. Cette bijection est due ` a E. Cartan.
3.3 Sous-alg`ebres de Cartan
Soit g une alg`ebre de Lie semisimple r´eelle.
D´efinition 3.7 Une sous-alg`ebre de Cartan h de g est une sous-alg`ebre commu-
tative form´ee d’´el´ements semisimples et maximale pour cette propri´et´e.
Proposition 3.8 Soit h une sous-alg`ebre de Cartan de g et θ une involution de
Cartan de g. Alors
a) La complexifi´ee h
C
est une sous-alg`ebre de Cartan de g
C
.
b) Il existe un conjugu´e de h qui est θ-stable.
D´emonstration a) La d´emonstration du th´eor`eme 2.20.a est valable pour k = R.
Donc h est commutative maximale et h
C
aussi.
28
b) D’apr`es la proposition 3.6, il suffit de construire une involution de Cartan
θ
t
de g telle que θ
t
(h) = h. Soit u une forme r´eelle compacte de g
C
construite `a
partir de h
C
par la m´ethode de la section 3.1. Notons σ (resp. τ) la conjugaison
complexe par rapport ` a u (resp. g). Comme dans la proposition 3.6.a, on peut
poser Q := ((στ)
2
)

1
4
, σ
t
:= Q ◦ σ ◦ Q
−1
, θ
t
:= σ
t
[
g
et montrer que θ
t
est une
involution de Cartan de g. Comme Q(h
C
) = h
C
, on a θ
t
(h) = h.
3.4 Sous-espaces de Cartan
Soit g une alg`ebre de Lie semisimple r´eelle.
D´efinition 3.9 Un sous-espace de Cartan a de g est une sous-alg`ebre commuta-
tive form´ee d’´el´ements hyperboliques et maximale pour cette propri´et´e.
Par d´efinition tout ´el´ement hyperbolique fait partie d’un sous-espace de Cartan.
On peut diagonaliser g sous l’action adjointe de a. On d´esigne par Σ l’ensemble
des racines restreintes, i.e. l’ensemble des poids non triviaux pour cette action.
Comme en 2.5, la th´eorie des sl
2
-triplets permet de montrer que Σ est un syst`eme
de racines abstrait (pas toujours r´eduit). On a une d´ecomposition
g = l ⊕(⊕
λ∈Σ
g
λ
), o` u
g
λ
:= ¦Y ∈ g / ∀X ∈ a , adX(Y ) = λ(X)Y ¦
est l’espace radiciel associ´e ` a λ et l est le centralisateur de a.
Soient g = k ⊕ q une d´ecomposition de Cartan associ´ee `a une involution de
Cartan θ et K := ¦g ∈ Aut(g) [ θg = gθ¦. Ce groupe K est compact et son
alg`ebre de Lie est k.
Proposition 3.10 a) Tout sous-espace de Cartan a de g est conjugu´e `a un sous-
espace de Cartan inclus dans q.
b) Deux sous-espaces de Cartan inclus dans q sont toujours conjugu´es par un
´el´ement de K
e
.
D´emonstration a) Mettons a dans une sous-alg`ebre de Cartan h de g. On peut
supposer grˆ ace `a la proposition 3.8 que h est θ-stable. Mais alors h = (h ∩ k) ⊕
(h ∩q). Comme h ∩q est l’ensemble des ´el´ements hyperboliques de h, on a a ⊂ q.
b) Soient a
1
, a
2
deux sous-espaces de Cartan dans q. Choisissons X
i
∈ a
i
en
dehors des noyaux des racines restreintes de sorte qu’un ´el´ement X de g qui
commute `a X
i
commute aussi `a a
i
.
On peut supposer que la fonction d´efinie sur K g → B(X
1
, gX
2
) atteint son
minimum pour g = e. On a alors, pour tout Z ∈ k, B(X
1
, [Z, X
2
]) = 0 et donc
B(Z, [X
1
, X
2
]) = 0. Comme [X
1
, X
2
] est dans k, on en d´eduit [X
1
, X
2
] = 0, puis
[a
1
, a
2
] = 0 et enfin a
1
= a
2
.
29
Corollaire 3.11 Soit g
C
(resp. g, u) une alg`ebre de Lie semisimple complexe
(resp. r´eelle, r´eelle compacte).
a) Toutes les sous-alg`ebres de Cartan de u sont conjugu´ees.
b) Toutes les sous-alg`ebres de Cartan de g
C
sont conjugu´ees.
c) g n’a qu’un nombre fini de classes de conjugaison de sous-alg`ebres de Cartan.
La dimension commune des sous-alg`ebres (resp. sous-espaces) de Cartan de g
est appel´e le rang (resp. rang r´eel) de g.
D´emonstration a) L’´egalit´e u
C
= u ⊕iu est une d´ecomposition de Cartan. Si t
est un sous-alg`ebre de Cartan de u, it est un sous-espace de Cartan de u
C
inclus
dans iu. On peut donc appliquer la proposition 3.10.b.
b) Soient h
1
et h
2
deux sous-alg`ebres de Cartan de g
C
. D’apr`es la construction
du th´eor`eme 3.1, il existe des formes r´eelles compactes u
i
telles que t
i
:= u
i
∩ h
i
est une sous-alg`ebre de Cartan de u
i
. D’apr`es la proposition 3.6, on peut supposer
u
1
= u
2
. On applique alors le a).
c) Fixons un sous-espace de Cartan a dans p. Chaque classe de conjugaison
contient une sous-alg`ebre de Cartan θ-stable h
1
. D’apr`es la proposition 3.10.b, on
peut supposer que a
1
:= h
1
∩q est inclus dans a. Soient Σ
1
:= ¦λ ∈ Σ [ λ(a
1
) = 0¦
et a
t
1
:= ¦X ∈ a
1
[ λ(X) = 0 pour tout λ ∈ Σ
1
¦. Comme a
t
1
contient a
1
et que
tout ´el´ement de a
t
1
commute au commutant de a
1
, par maximalit´e de h
1
, on a
a
1
= a
t
1
. Donc a
1
est enti`erement d´etermin´e par Σ
1
qui ne peut prendre qu’un
nombre fini de valeurs.
Il reste `a comprendre que, si h
2
est une autre sous-alg`ebre de Cartan θ-stable
telle que h
2
∩q = a
1
, alors h
1
et h
2
sont conjugu´ees. Soient m
1
le centralisateur de
a
1
dans k, z
1
le centre de m
1
et m
t
1
= m
1
/z
1
. L’alg`ebre de Lie m
t
1
est semisimple
compacte et les t
t
i
:= (h
i
∩ k)/z
1
sont des sous-alg`ebres de Cartan de m
t
1
. Le a)
permet alors de conclure.
Notons Σ
+
un syst`eme de racines positives de Σ, c’est `a dire une partie de Σ
telle que Σ
+
∩ −Σ
+
= ∅, Σ
+
∪ −Σ
+
= Σ et (Σ
+
+ Σ
+
) ∩ −Σ
+
= ∅.
L’ensemble Π des racines simples de Σ
+
, c’est ` a dire des ´el´ements minimaux de
Σ
+
, est une base de a

. Les sous alg`ebres u
±
:= ⊕
λ∈Σ
± g
λ
sont nilpotentes et la
sous-alg`ebre p = l ⊕u
+
est appel´ee la sous-alg`ebre parabolique minimale associ´ee
` a Σ
+
.
Lemme 3.12 On a la d´ecomposition d’Iwasawa g = k ⊕a ⊕u
+
.
D´emonstration Cela r´esulte de l’´egalit´e θ(g
λ
) = g
−λ
.
3.5 D´ecomposition de Cartan et Iwasawa
Soit G un groupe de Lie semisimple connexe de centre fini d’alg`ebre de Lie g.
On garde les notations ci-dessus. On a, en particulier, choisi une involution de
30
Cartan θ de G, un sous-espace de Cartan a ⊂ q et un syst`eme de racines positives
Σ
+
. Notons a
+
:= ¦X ∈ a / ∀α ∈ Σ
+
, α(X) ≥ 0¦ la chambre de Weyl dans a
associ´ee `a Σ
+
.
Notons K l’ensemble des points fixes de θ dans G et A := exp(a). Par d´efinition,
le rang r´eel de G est la dimension de A. L’ensemble des caract`eres r´eels du groupe
de Lie A peut ˆetre identifi´e au dual a

. Notons aussi
A
+
:= ¦a ∈ A / ∀α ∈ Σ
+
, α(a) ≥ 1¦
la chambre de Weyl dans A associ´ee `a Σ
+
.
On a la d´ecomposition de Cartan.
Th´eor`eme 3.13
a) L’application K q →G; (k, X) →ke
X
est un diff´eomorphisme.
b) On a l’´egalit´e G = KA
+
K.
D´emonstration On peut supposer G ` a centre trivial i.e. G = Aut(g)
e
.
a) C’est la mˆeme que pour SL(d, R). On veut ´ecrire g = kq avec k ∈ K
et q ∈ exp(q). Comme θ(g)
−1
g est sym´etrique d´efinie positive pour la forme
B
θ
, on peut ´ecrire θ(g)
−1
g = e
2X
avec e
tX
groupe ` a un param`etre de matrices
sym´etriques d´efinies positives. On utilise encore la remarque du lemme 4.9 pour
conclure que le groupe ` a un param`etre e
tX
est dans G. On prend q = e
X
et
k = gq
−1
.
b) Utiliser le a) et la proposition 3.10 qui assure que tout ´el´ement de q est
conjugu´e sous K ` a un ´el´ement de a. Utiliser enfin la th´eorie des petits sl
2
qui
permet, pour λ ∈ Σ, de relever les sym´etries s
λ
en des ´el´ements du normalisateur
de a dans K et donc de conjuguer tout ´el´ement de a en un ´el´ement de la chambre
de Weyl a
+
.
Le normalisateur P := N
G
(p) est appel´e le sous-groupe parabolique minimal
associ´e ` a Σ
+
. Notons L le centralisateur de a dans G et U
±
les sous-groupes
connexes d’alg`ebre de Lie u
±
.
On a la d´ecomposition d’Iwasawa.
Th´eor`eme 3.14
a) La multiplication donne un diff´eomorphisme KAU
+
· G.
b) Le quotient P/AU
+
est compact.
c) La multiplication m : U

P → G est un diff´eomorphisme sur un ouvert de
mesure pleine.
Un ´el´ement g de G est dit hyperbolique si on peut ´ecrire g = e
X
avec X ∈ g
hyperbolique i.e. si il est conjugu´e `a un ´el´ement de A.
31
Un ´el´ement g de G est dit unipotent si on peut ´ecrire g = e
X
avec X ∈ g
nilpotent i.e. si il est conjugu´e `a un ´el´ement de U
+
.
Un ´el´ement g de G est dit elliptique si il est conjugu´e `a un ´el´ement de K.
D´emonstration du th´eor`eme 3.14 On peut supposer G ` a centre trivial.
a) Notons W le groupe r´esoluble W = AU
+
et w son alg`ebre de Lie. Comme
A ∩ U
+
= ¦e¦, la multiplication A U
+
→W est un diff´eomorphisme.
Comme w ne contient pas d’´el´ement elliptique, w ne rencontre aucun conjugu´e
de k et donc, les doubles classes KgW sont ouvertes. Elles sont donc aussi ferm´ees.
Donc G = KW. Comme W ne contient pas de sous-groupe compact, on a K ∩
W = ¦e¦.
b) Comme AU
+
est inclus dans P, ce la r´esulte du a).
c) On montre tout d’abord une version complexifi´ee de cette assertion. Notons
G
C
= Aut(g
C
), U
±
C
les sous-groupes connexes d’alg`ebre de Lie u
±
C
=: u
±

R
C
et P
C
le normalisateur de p
C
:= p ⊗
R
C. L’intersection P
C
∩ U

C
est triviale car
l’action adjointe d’un ´el´ement g de P
C
∩ U

C
doit pr´eserver les p
C
-sous-modules
et les u

C
-sous-modules de g
C
, il doit donc pr´eserver tous les espaces radiciels
complexifi´es (g
λ
)
C
et agir trivialement dessus. Comme en outre u

C
⊕ p
C
= g
C
,
La multiplication m
C
: U

C
P
C
→ G
C
est injective d’image ouverte. Comme
ces groupes sont alg´ebriques, d’apr`es la proposition 4.4, l’image est un ouvert de
Zariski. Par injectivit´e de m
C
, on a U

P = U

C
P
C
∩ G. Donc le compl´ementaire
de U

P est un ferm´e de Zariski de G. Il est donc de mesure nulle.
3.6 Sous-groupes paraboliques
Pour toute partie θ ⊂ Π, on note <θ > l’espace vectoriel engendr´e par θ,
Σ
θ
:= Σ∩ <θ > , Σ
±
θ
:= Σ
θ
∩ Σ
±
,
l
θ
:= l ⊕⊕
α∈Σ
θ
g
α
, u
±
θ
:= ⊕
α∈Σ
±
Σ
±
θ
g
α
,
U
±
θ
les groupes connexes associ´es, A
θ
:= ¦a ∈ A / ∀α ∈ θ , α(a) = 1¦, A
+
θ
:=
A
+
∩A
θ
, L
θ
le centralisateur de A
θ
dans G. Soit p
θ
:= l
θ
⊕u
+
θ
and P
θ
:= L
θ
U
+
θ
les
sous-alg`ebres et sous-groupes paraboliques associ´es `a θ. On a alors les assertions.
Proposition 3.15 a) Tout sous-groupe contenant P est ´egal `a l’un des P
θ
.
b) P
θ
est engendr´e par les sous-groupes P
|α¦
pour α ∈ θ.
c) Si θ
1
⊂ θ
2
, alors Σ
θ
1
⊂ Σ
θ
2
, P
θ
1
⊂ P
θ
2
et U
+
θ
1
⊃ U
+
θ
2
.
D´emonstration
3.7 Exemples
D´ecrivons explicitement ces notations pour G = SL(d, R). On peut prendre
32
K = SO(d, R),
A = ¦a = diag(a
1
, . . . , a
d
) / a
i
> 0 , a
1
a
d
= 1¦,
A
+
= ¦a ∈ A / a
1
≥ ≥ a
d
¦,
Σ = ¦ε
i
−ε
j
, i = j , 1 ≤ i, j ≤ d¦,
Σ
+
= ¦ε
i
−ε
j
, 1 ≤ i < j ≤ d¦,
Π = ¦ε
i+1
−ε
i
, 1 ≤ i < d¦, o` u ε
i
∈ a

est donn´e par : ε
i
(a) = a
i
,
g
ε
i
−ε
j
= RE
i,j
avec E
i,j
= e

j
⊗e
i
,
l = a
u
+
=
8
>
>
>
<
>
>
>
:
0
B
B
B
@
0 ∗
.
.
.
0 0
1
C
C
C
A
9
>
>
>
=
>
>
>
;
, p =
8
>
>
>
<
>
>
>
:
0
B
B
B
@
∗ ∗
.
.
.
0 ∗
1
C
C
C
A
9
>
>
>
=
>
>
>
;
, u

=
8
>
>
>
<
>
>
>
:
0
B
B
B
@
0 0
.
.
.
∗ 0
1
C
C
C
A
9
>
>
>
=
>
>
>
;
.
u
+
θ
=

¸
0 ∗ ∗
0 0 ∗
0 0 0

, p
θ
=

¸
∗ ∗ ∗
0 ∗ ∗
0 0 ∗

, u

θ
=

¸
0 0 0
∗ 0 0
∗ ∗ 0

,
l
θ
=

¸
∗ 0 0
0 ∗ 0
0 0 ∗

, A
θ
=

¸
b
1
Id 0 0
0 b
2
Id 0
0 0 b
3
Id

∈ A
¸
,
A
+
θ
= A
θ
∩A
+
. On a pris θ
c
avec seulement deux racines simples. Une autre partie
θ aurait donn´e un nombre et des tailles diff´erentes de matrices blocs.
33
4 Groupes alg´ebriques
Rappelons quelques d´efinitions de la th´eorie des groupes alg´e-
briques. Nous avons choisi un point de vu na¨ıf, probablement pas
suffisamment pr´ecis, intrins`eque et g´en´eral pour le puriste, mais qui
suffit bien pour une premi`ere approche de ce sujet... et pour les ap-
plications que nous avons en vue.
4.1 Vari´et´es alg´ebriques
Tout d’abord quelques mots sur les vari´et´es alg´ebriques.
Soient K un corps alg´ebriquement clos de caract´eristique nulle, k un sous-corps
de K, V
k
∼ k
d
un k-espace vectoriel, V = K ⊗
k
V
k
· K
d
et k[V] l’anneau des
polynomes sur V
k
` a valeurs dans k.
Une vari´et´e (alg´ebrique) affine Z ⊂ V ou ferm´e de Zariski est un sous-ensemble
qui est l’ensemble des z´eros d’une famille de polynˆomes sur V. On note I(Z) ⊂
K[V] l’id´eal des polynˆ omes nuls sur Z.
On dit que Z est une k-vari´et´e si I(Z) est engendr´e par l’intersection I
k
(Z) :=
I(Z) ∩ k[V]. L’anneau quotient k[Z] := k[V]/I
k
(Z) est l’anneau des fonctions
k-r´eguli`eres sur Z. L’ensemble Z
k
:= k
d
∩ Z est l’ensemble des k-points de Z.
Un k-morphisme ou application k-r´eguli`ere de k-vari´et´es ϕ : Z
1
→ Z
2
est une
application telle que, pour tout f dans k[Z
2
], la compos´ee f ◦ ϕ est dans k[Z
1
].
La topologie de Zariski sur Z est la topologie dont les ferm´es sont les sous-
vari´et´es de Z. La toplogie induite sur Z
k
s’appelle aussi topologie de Zariski. On
parlera ainsi de parties Zariski connexes ou de parties Zariski denses.
Une vari´et´e Z est dite k-irr´eductible si on ne peut pas l’´ecrire comme r´eunion de
deux k-sous-vari´et´es propre ou, ce qui est ´equivalent, si l’anneau k[Z] est int`egre.
On note alors k(Z) le corps des fractions de k[Z]. Les ´el´ements de k(Z) sont les
fonctions k-rationnelles. Par noeth´erianit´e de k[Z], toute k-vari´et´e est r´eunion
finie de k-sous-vari´et´es k-irr´eductibles.
La dimension dimZ d’une vari´et´e k-irr´eductible Z est le degr´e de transcendance
sur k de k(Z). L’espace tangent T
z
Z ` a Z en un point z ∈ Z est l’intersection
des diff´erentielles dP(z) des polynˆomes P de l’id´eal I(Z). Un point z ∈ Z est
lisse si m = dim(T
z
Z) est minimum. L’ensemble des points lisses d’une k-vari´et´e
est donc un ouvert de Zariski non vide d´efini sur k. En un point lisse z, on a
dim(T
z
Z) = m = dimZ. Autrement dit, localement au voisinage de z, Z s’identifie
aux z´eros de d−m polynˆ omes P
i
tels que T
z
Z = ∩
i
dP
i
(z). On dit que Z est lisse
si tous ses points sont lisses.
Lorsque Z est lisse et que le corps de base k est R, C ou une extension finie de
Q
p
, i.e. k est un corps local de caract´eristique nulle, l’ensemble Z
k
des k-points de
Z est une sous-vari´et´e k-analytique lisse de k
d
de dimension dimZ dont l’espace
tangent en un k-point z s’identifie aux k-points de l’espace tangent en z ` a la
k-vari´et´e Z.
34
Disons, de fa¸con heuristique, que l’int´erˆet de ce point de vue qui consiste ` a
“travailler avec les points dans une clˆ oture alg´ebrique K mais avec des formules ` a
coefficients dans k”, est qu’il permet de d´evelopper le sujet sans savoir s’il existe
des k-points.
Il est souvent utile d’´etendre les d´efinitions ci-dessus ` a un cadre projectif.
Ainsi une k-vari´et´e (alg´ebrique) projective Z ⊂ P(V) ou ferm´e de Zariski est un
sous-ensemble qui est l’ensemble des z´eros d’une famille de polynˆomes homog`enes
sur V ` a coefficients dans k. L’ensemble Z
k
:= P(k
d
)∩Z est l’ensemble des k-points
de Z. On a encore une notion d’applications k-r´eguli`eres, de topologie de Zariski
sur Z et sur Z
k
...
Une k-vari´et´e (alg´ebrique) quasiprojective est un ouvert de Zariski d´efini sur k
d’une k-vari´et´e projective.
Le th´eor`eme suivant est au coeur de la th´eorie de l’´elimination des quantifica-
teurs ou th´eorie des ensembles constructibles.
Th´eor`eme 4.1 (Chevalley) Soit ϕ : Z
1
→ Z
2
une application r´eguli`ere entre
deux vari´et´es alg´ebriques. Alors l’image ϕ(Z
1
) contient un ouvert de son adh´e-
rence (pour la topologie de Zariski).
Remarque ϕ((Z
1
)
k
) ne contient pas toujours un ouvert de Zariski de l’ensemble
des k-points de ϕ(Z
1
). Par exemple ϕ : R →R; t →t
2
.
D´emonstration On peut supposer que les vari´et´es Z
1
et Z
2
sont affines et irr´e-
ductibles sur K et que ϕ(Z
1
) est Zariski dense dans Z
2
. L’application ϕ induit
alors une injection entre les anneaux de fonctions r´eguli`eres A := K[Z
2
] →B :=
K[Z
1
]. Remarquons que la donn´ee d’un point x de Z
1
´equivaut ` a la donn´ee d’un
morphisme d’anneaux ψ : B → K : le morphisme donn´e par ψ(P) = P(x) pour
tout P ∈ B. Le th´eor`eme est donc une cons´equence du lemme suivant.
Lemme 4.2 Soit A →B des K-alg`ebres telles que B est une A-alg`ebre de type
fini int`egre. Alors pour tout b ∈ B non nul, il existe a ∈ A tel que, tout morphisme
ψ : A → K tel que ψ(a) = 0 se prolonge en un morphisme
¯
ψ : B → K tel que
¯
ψ(b) = 0.
D´emonstration Par r´ecurrence sur le nombre de g´en´erateurs de B comme A-
alg`ebre, on peut supposer que B est engendr´e par un ´el´ement x. Notons alors
P(T) =
¸
0≤i≤
p
i
T
i
∈ A[T] un polynˆ ome non nul de degr´e minimal tel que
P(x) = 0. Remarquons tout d’abord que si le polynˆome P n’existe pas alors
B · A[T] et la conclusion du lemme 4.2 est claire. Notons L le corps des fractions
de A. L’id´eal I := ¦P
1
∈ L[T] [ P
1
(x) = 0¦ annulateur de x dans L[T] est engendr´e
par P.
Notons aussi Q =
¸
q
i
T
i
∈ A[T] un polynˆ ome non nul de degr´e au plus −1
tel que b divise Q(x), et notons r un ´el´ement non nul de A tel qu’il existe deux
35
polynomes R
1
et R
2
de A[T] avec r = R
1
P +R
2
P
t
. On prend alors a = p

q
i
r o` u
q
i
est un des coefficients non nuls de Q. Le polynˆome
¸
0≤i≤
ψ(p
i
)T
i
∈ K[T] a
alors racines distinctes. Notons alors λ ∈ K une racine de ce polynˆ ome qui n’est
pas racine du polynˆome non nul
¸
i
ψ(q
i
)T
i
. La formule
¯
ψ(
¸
a
i
x
i
) =
¸
ψ(a
i

i
d´efinit bien un morphisme de B dans K qui prolonge ψ et tel que
¯
ψ(b) divise
¸
i
ψ(q
i

i
= 0.
Soit ϕ : Z
1
→ Z
2
une application k-r´eguli`ere entre deux vari´et´es alg´ebriques
irr´eductibles. On dit que ϕ est dominante si ϕ induit une injection k[Z
2
] →k[Z
1
]
i.e. si l’image de ϕ est Zariski dense. On dit que ϕ est un plongement si ϕ induit
une surjection k[Z
2
] →k[Z
1
] i.e. si ϕ est injective d’image Zariski ferm´ee.
Remarque Le th´eor`eme de Chevalley dit que l’image de tout morphisme domi-
nant contient un ouvert de Zariski dense. Si on examine la preuve du th´eor`eme
de Chevalley, on obtient la pr´ecision suivante :
Corollaire 4.3 Soit ϕ : Z
1
→ Z
2
une application r´eguli`ere dominante entre
deux vari´et´es alg´ebriques irr´eductibles. Alors, il existe un ouvert de Zariski dense
Z
t
1
⊂ Z
1
lisse d´efini sur k sur lequel ϕ est une submersion i.e. sur lequel la
diff´erentielle dϕ est surjective.
D´emonstration Remplacer dans la preuve du lemme 4.2, la constante a = p

q
i
par a = δp

q
i
o` u δ est le discriminant de P.
4.2 Groupes alg´ebriques
Nous ne parlerons ici que de groupes alg´ebriques lin´eaires. Voici
donc quelques d´efinitions.
Un groupe alg´ebrique (lin´eaire) d´efini sur k ou, plus bri`evement un k-groupe
est une k-vari´et´e G ⊂ GL(V) ⊂ End(V) qui est un groupe pour la composition
des endomorphismes.
Par exemple, le k-groupe additif G
a
:= ¦

1 x
0 1

[ x ∈ K¦,
le k-groupe multiplicatif G
m
:= ¦

y 0
0 z

[ y, z ∈ K, xy = 1¦
ou le k-groupe lin´eaire GL(V) · ¦(g, δ) ∈ End(V) K [ δ detg = 1¦ .
On a k[G
a
] = k[x] et k[G
m
] = k[y, y
−1
].
On note G
k
:= G∩GL(d, k) le groupe des k-points de G, et plus g´en´eralement,
pour tout sous-anneau A de K, G
A
= G∩ GL(d, A) est un sous-groupe de G.
Un k-morphisme de k-groupes ϕ : G
1
→G
2
est un k-morphisme de k-vari´et´es
qui est aussi un morphisme de groupes.
Une k-isog´enie est un k-morphisme surjectif de noyau fini (on notera que le
morphisme entre les k-points n’est pas toujours surjectif ; exemple : y →y
2
dans
G
m
).
36
Un k-caract`ere de G est un k-morphisme χ : G →G
m
.
Un k-cocaract`ere de G est un k-morphisme χ : G
m
→G.
Une k-repr´esentation de G dans un k-espace vectoriel W
k
est un k-morphisme
ρ : G →GL(W).
Une k-action de G sur une k-vari´et´e Z est une action G Z → Z qui est
donn´ee par une application k-r´eguli`ere.
L’alg`ebre de Lie g d’un k-groupe G est l’ensemble des d´erivations invariantes
` a gauche de l’alg`ebre K[G]. L’alg`ebre de Lie g s’identifie `a l’espace tangent en e
` a G, c’est ` a dire `a l’intersection des noyau Ker(dP(e)), pour P ∈ I(G). On note
g
k
les k-points de g. Lorsque k = R, C ou une extension finie de Q
p
, g
k
est aussi
l’alg`ebre de Lie du groupe de Lie k-analytique G
k
.
Avant de poursuivre cette importante liste de d´efinitions, faisons une pause
pour d´ecrire quelques propri´et´es des k-groupes et leurs actions.
4.3 Actions alg´ebriques
L’un des int´erˆets majeurs des “groupes et actions alg´ebriques” est
la propri´et´e suivante de leurs orbites qui contraste fortement avec les
orbites des actions ergodiques.
Proposition 4.4 Les orbites d’une k-action alg´ebrique sont ouvertes dans leur
adh´erence (pour la topologie de Zariski).
D´emonstration Le th´eor`eme 4.1 prouve qu’au moins un point de l’orbite est
dans l’int´erieur de l’adh´erence cette l’orbite. Ils y sont donc tous.
Corollaire 4.5 L’image ϕ(G) d’un k-morphisme de k-groupes ϕ : G → H est
un k-sous-groupe.
D´emonstration L’adh´erence de Zariski ϕ(G) est un k-sous-groupe. D’apr`es la
proposition 4.4, l’image ϕ(G) est ouverte dans cette adh´erence. Or un sous-groupe
ouvert est aussi ferm´e.
Nous aurons souvent besoin de la proposition suivante qui joue un rˆ ole central
dans la th´eorie des groupes alg´ebriques et qui affirme que tout espace homog`ene
G/H de k-groupes peut se r´ealiser comme une orbite dans l’espace projectif d’une
k-repr´esentation de G.
Proposition 4.6 (Chevalley) Soit G un k-groupe et H ⊂ G un k-sous-groupe.
Alors, il existe une k-repr´esentation de G dans un espace vectoriel V
k
et un
point x dans l’espace projectif P(V
k
) dont le stabilisateur dans G est H, i.e.
H = ¦g ∈ G / g x = x¦.
37
En particulier, l’espace homog`ene G/H a une structure naturelle de k-vari´et´e
quasiprojective.
D´emonstration de la proposition 4.6 Nous aurons besoin des notations :
I(H) := ¦P ∈ K[G] [ P[
H
= 0¦, K
m
[G] := ¦P ∈ K[G] [ d

P ≤ m¦ et I
m
(H) :=
I(H)∩K
m
[G]. Puisque K[G] est noeth´erien, on peut trouver m tel que I
m
(H) en-
gendre l’id´eal I(H) de K[G]. L’action de G sur K
m
[G] donn´ee par (π(g)P)(g
t
) :=
P(g
t
g) est une k-repr´esentation. La k-repr´esentation que nous cherchons est la
repr´esentation dans la p
i`eme
puissance exterieure V := Λ
p
(K
m
[G]), o` u p :=
dimI
m
(H) et x est la droite de V d´efinie par x := Λ
p
(I
m
(H)). Par construc-
tion, on a l’´egalit´e requise H = ¦g ∈ G / g x = x¦.
Corollaire 4.7 Soit G un k-groupe et H ⊂ G un k-sous-groupe. Supposons que
H n’a pas de k-caract`ere non trivial. Alors, il existe une k-repr´esentation de G
dans un espace vectoriel V
k
et un point v ∈ V
k
dont le stabilisateur dans G est
H, i.e. H = ¦g ∈ G / g v = v¦.
D´emonstration L’action de H sur la droite x est triviale puisque tous les k-
caract`eres de H sont triviaux. On prend v sur cette droite.
Lorsque le corps k n’est pas alg´ebriquement clos, on ne peut pas esp´erer des
´enonc´es aussi nets que la proposition 4.4 au niveau des k-points. N´eanmoins
lorsque le corps de base k est R, C ou une extension finie de Q
p
on obtient de tels
´enonc´es au niveau des k-points mais pour la topologie analytique, i.e. celle issue
de la topologie du corps localement compact k.
Proposition 4.8 Soient k = R, C ou une extension finie de Q
p
et G un k-
groupe.
a) Si G est Zariski-connexe, le groupe G
k
est Zariski dense dans G.
b) Soit ρ : GZ →Z une k-action de G sur une k-vari´et´e Z. Alors, pour tout
v ∈ Z
k
, les orbites de G
k
dans (Gv)
k
:= Gv ∩Z
k
sont ouvertes et ferm´ees (pour
la topologie analytique).
Remarque l’assertion a) est encore vraie sans aucune hypoth`ese sur le corps
infini k. Voir [7] cor. 18.3.
D´emonstration a) Le groupe G
k
est un groupe de Lie sur k dont l’alg`ebre de
Lie g
k
s’identifie aux k-points de l’alg`ebre de Lie de G. L’adh´erence de Zariski
H de G
k
est un k-sous-groupe de G dont l’alg`ebre de Lie contient g. On a donc
H = G.
b) On peut supposer que Z = Gv. En particulier, G et Z sont des k-vari´et´es
lisses. Leurs k-points G
k
et Z
k
sont donc des k-vari´et´es analytiques lisses dont
les espaces tangents analytiques s’identifient aux k-points des espaces tangents
alg´ebriques `a G et Z. Notons ρ
v
: G →Z; g →gv l’application orbitale. C’est une
38
application surjective. Par le corollaire 4.3, sa diff´erentielle est donc surjective sur
un ouvert de Zariski non vide. Par G-invariance, la diff´erentielle dρ
v
: T
e
G →T
v
Z
est surjective. Par le th´eor`eme des fonctions implicites, l’application ρ
v
: G
k
→Z
k
est donc ouverte au voisinage de e. Donc les G
k
-orbites dans (Gv)
k
sont ouvertes
dans (Gv)
k
. Par suite ces orbites sont aussi ferm´ees.
Remarques - On peut aussi montrer que G
k
n’a qu’un nombre fini d’orbites
dans Gv ∩ Z
k
.
- Lorsque k = R, ces G
k
-orbites dans (Gv)
k
sont des unions de composantes
connexes analytiques de (Gv)
k
.
4.4 El´ements semisimples et unipotents
Rappelons dans ce cadre les d´efinitions d’´el´ements semisimple et
unipotent et leurs principales propri´et´es.
Un ´el´ement g ∈ End(V) est semisimple si il est diagonalisable sur K et uni-
potent si g −1 est nilpotent. Le lemme suivant est la classique d´ecomposition de
Jordan.
Lemme 4.9 Soient g ∈ GL(V) et G ⊂ GL(V) un k-groupe.
i) g peut s’´ecrire de fa¸con unique g = su = us avec s semisimple et u unipotent.
ii) Tout sous-espace W⊂ V invariant par g est aussi invariant par s et u.
iii) g ∈ G =⇒s, u ∈ G.
iv) g ∈ G
k
=⇒s, u ∈ G
k
.
D´emonstration i) Classique.
ii) Les composantes s et u peuvent ˆetre exprim´ees comme des polynˆ omes en g.
iii) Consid´erer l’action de G sur K
m
[EndV] := ¦P ∈ K[EndV] / d

P ≤ m¦
donn´ee par (π(g)P)(x) := P(xg). On remarque tout d’abord que l’action sur
K
m
[EndV] d’un ´el´ement semisimple ou unipotent de GL(V) est encore semi-
simple ou unipotente.
Le sous-espace I
m
[G] := I[G] ∩ K
m
[EndV] est invariant par g. Donc il est
aussi invariant par sa composante semisimple et unipotente qui n’est autre que
π(s) et π(u). Donc pour tout P ∈ I
m
[G], on a P(s) = (π(s)P)(1) = 0 et P(u) =
(π(u)P)(1) = 0. Donc s et u sont dans G.
iv) Par unicit´e, s et u sont invariants par le groupe de Galois Gal(K/k).
Remarques - Soit g ∈ G
k
. Comme chark = 0, on peut ´ecrire u = e
N
avec N
nilpotent. La mˆeme preuve assure que, pour tout t ∈ k, l’´el´ement u
t
:= e
tN
est
dans G
k
.
- Lorsque k = R, on peut ´ecrire de fa¸ con unique s = hk = kh avec h = e
H
o` u H est diagonalisable sur R et k semisimple `a valeurs propres de module 1. La
mˆeme preuve assure que, pour tout t ∈ R, l’´el´ement h
t
:= e
tH
est dans G
R
.
39
Lemme 4.10 Soient ρ : G →H un k-morphisme de k-groupes et g ∈ G.
a) g est semisimple =⇒ ρ(g) est semisimple.
b) g est unipotent =⇒ ρ(g) est unipotent.
Proof. On peut supposer que k = K et que Gest le plus petit K-groupe contenant
g. Le point principal est alors de prouver que tous les k-morphismes ϕ : G
a
→G
m
et ψ : G
m
→ G
a
sont triviaux. On a k[G
a
] = k[x] et k[G
m
] = k[y, y
−1
]. Alors
y ◦ ϕ est un ´el´ement inversible de k[x], donc est une constante, et x ◦ ψ est un
´el´ement F(y) ∈ k[y, y
−1
] tel que F(y) = F(y
n
)/n pour tout n ≥ 1, et est donc
une constante.
4.5 Groupes alg´ebriques (suite)
Reprenons maintenant la liste des d´efinitions relatives aux groupes
alg´ebriques.
Voici tout d’abord des notions stables par changement de corps de base.
Un k-groupe Gest connexe si il est connexe pour la topologie de Zariski (lorsque
k = C, cela ´equivaut `a la connexit´e pour la topologie analytique).
Un k-groupe G est simplement connexe si toute k-isog´enie H → G avec H
connexe est injective (lorsque k = C, cela ´equivaut `a la simple connexit´e pour la
topologie analytique).
Un k-groupe est unipotent si tous ses ´el´ements sont unipotents.
Le radical unipotent d’un k-groupe est le plus grand sous-groupe distingu´e
unipotent.
Un k-groupe est un k-tore si il est ab´elien et si tous ses ´el´ements sont semi-
simples i.e. s’il est isomorphe sur K ` a une puissance (G
m
)
r
du groupe multipli-
catif.
Un k-groupe est r´eductif si son radical unipotent est trivial.
Un k-groupe est semisimple si il ne contient pas de k-sous-groupe distingu´e
connexe ab´elien. Autrement dit il est semisimple ssi il est r´eductif ` a centre fini.
Un k-groupe semisimple est dit adjoint si son centre est trivial.
Une k-repr´esentation d’un k-groupe est semisimple si tout k-sous-espace inva-
riant admet un suppl´ementaire invariant.
Voici maintenant des notions qui d´ependent fortement du corps de base.
Un k-tore est k-d´eploy´e si il est isomorphe sur k ` a une puissance (G
m
)
r
.
Un k-groupe est k-d´eploy´e si il contient un k-sous-tore maximal qui est k-
d´eploy´e.
Un k-groupe G est dit k-isotrope si il contient un k-sous-tore k-d´eploy´e non
trivial et k-anisotrope sinon.
Un k-groupe G est dit k-quasisimple si il est connexe et si tout k-sous-groupe
distingu´e propre est fini.
40
Une k-repr´esentation d’un k-groupe G est k-irr´eductible si 0 et W sont les
seuls k-sous-espaces G-invariants.
Proposition 4.11 Lorsque G est semisimple, on a l’´equivalence : G est k-
isotrope ssi G
k
contient des ´el´ements unipotents non triviaux.
D´emonstration Pour l’implication directe on diagonalise l’alg`ebre de Lie g pour
l’action adjointe d’un tore k-isotrope T. Chaque espace propre g
χ
associ´e ` a un
caract`ere non trivial χ de T est d´efini sur k et est form´e d’´el´ements nilpotents.
On retrouvera cet argument en montrant le lemme 5.5.b.
La r´eciproque r´esulte de la proposition 2.14 et du th´eor`eme 2.15 de Jacobson
Morozov. Chaque ´el´ement nilpotent X de g
k
fait partie d’un sl
2
-triplet (X, H, Y )
dont l’´el´ement H engendre l’alg`ebre de Lie d’un k-tore d´eploy´e de dimension 1.
Proposition 4.12 Une k-repr´esentation d’un k-groupe semisimple G est semi-
simple.
D´emonstration Pour montrer cela on peut, comme pour la proposition 2.14
supposer k = C, et appliquer l’astuce unitaire avec le sous-groupe compact K ⊂
G
C
dont l’alg`ebre de Lie k est une forme r´eelle compacte de l’alg`ebre de Lie g de
G
C
. On a vu que ce groupe K existe dans le th´eor`eme 3.1.
Remarque La cat´egorie des R-groupes semisimples simplement connexes G est
´equivalente la cat´egorie des groupes de Lie semisimples r´eels simplement connexes
G ou `a celle des alg`ebres de Lie semisimples r´eelles g. Une ´equivalence entre ces
cat´egories est donn´ee par les foncteurs G → G → g o` u G est le revˆetement
universel de G
R
et g := Lie(G). C’est un yoga utile de passer d’un language `a
l’autre.
Par exemple, un sous-espace de Cartan a de g n’est rien d’autre que “l’alg`ebre
de Lie des points r´eels d’un tore R-d´eploy´e maximal A de G”. Ou encore, la
cat´egorie des repr´esentations de dimension finie de g est ´equivalente `a la cat´egorie
des R-repr´esentations de G.
Les g´eom`etres diff´erentiels et les analystes pr´ef`erent souvent le deuxi`eme lan-
guage car il est plus adapt´e aux questions g´eom´etriques et topologiques. Les
g´eom`etres alg´ebristes et les arithm´eticiens pr´ef`erent souvent le premier language
car il ouvre la voie ` a des extensions ` a d’autres corps que R. Ces languages parlent
presque du mˆeme objet, tout comme le coffee am´ericain et le caff`e italien d´esi-
gnent presque la mˆeme boisson...
On a vu `a plusieurs reprises ces deux points de vue s’´eclairer l’un l’autre.
Rappelons en deux exemples particuli`erement importants : L’astuce unitaire pour
montrer la semisimplicit´e des k-repr´esentations. La d´ecomposition de Jordan dans
G pour montrer la d´ecomposition de Cartan de G.
41
5 Groupes arithm´etiques
Nous avons montr´e dans le chapitre 1, que, pour une forme qua-
dratique enti`ere non d´eg´en´er´ee, le sous-groupe G
Z
des matrices or-
thogonales enti`eres est un r´eseau dans le groupe G
R
des matrices
orthogonales r´eelles.
Le but de ce chapitre est de montrer comment la preuve s’adapte
` a tous les Q-groupes et d’obtenir ainsi le th´eor`eme de Borel et Harish-
Chandra.
5.1 Groupes arithm´etiques
Donnons tout d’abord la d´efinition d’un sous-groupe arithm´etique
d’un Q-groupe et v´erifions qu’elle ne d´epend pas, ` a commensurabilit´e
pr`es, du plongement du Q-groupe dans un groupe de matrices.
Rappelons que l’expression Q-groupe est un raccourci pour groupe alg´ebrique
lin´eaire d´efini sur Q. On renvoie au chapitre 4 pour les d´efinitions pr´ecises des
notions relatives aux groupes alg´ebriques que nous utiliserons.
D´efinition 5.1 Soit G un Q-groupe. Le sous-groupe G
Z
de G est appel´e sous-
groupe arithm´etique.
Cette d´efinition 5.1 est provisoire : nous l’´etendrons dans le chapitre 11.
Deux sous-groupes Γ
1
et Γ
2
d’un groupe Γ sont dits commensurables si l’inter-
section Γ
1
∩ Γ
2
est d’indice fini `a la fois dans Γ
1
et Γ
2
.
Le corollaire ci-dessous affirme que le sous-groupe arithm´etique d’un Q-groupe
G est bien d´efini `a commensurabilit´e pr`es, ind´ependamment de “la r´ealisation de
G comme groupe de matrices”.
Lemme 5.2 Soit ρ une Q-repr´esentation d’un Q-groupe G dans un Q-espace
vectoriel V
Q
. Alors,
a) Le groupe G
Z
pr´eserve un r´eseau ∆ ⊂ V
Q
.
b) Tout r´eseau ∆
0
⊂ V
Q
est pr´eserv´e par un sous-groupe d’indice fini de G
Z
.
D´emonstration a) Choisissons une base de V
Q
. Les coefficients des matrices
ρ(g)−1 s’expriment comme des polynˆ omes ` a coefficients dans Q en les coefficients
des matrices g −1. Le coefficient constant de ces polynˆ omes est nul. Donc il existe
un entier m ≥ 1 tel que, si g est dans le sous-groupe de congruence
Γ
m
:= ¦g ∈ G
Z
/ g = 1 mod m¦,
alors ρ(g)a des coefficients entiers. Puisque Γ
m
est d’indice fini dans G
Z
, ce groupe
G
Z
pr´eserve aussi un r´eseau de V
Q
.
42
b) C’est une cons´equence du a) puisqu’on peut trouver des entiers N, N
0
≥ 1
tels que N∆ ⊂ N
0

0
⊂ ∆.
On en d´eduit facilement le corollaire suivant.
Corollaire 5.3 Soit ϕ : G
1
→ G
2
un Q-isomorphisme de Q-groupes. Alors les
groupes ϕ(G
1,Z
) et G
2,Z
sont commensurables.
Le but principal de ce chapitre est de d´emontrer le th´eor`eme suivant dont le
point a) est dˆ u `a Borel, Harish-Chandra et le point b) `a Godement.
Th´eor`eme 5.4 Soit G un Q-groupe.
a) Si G n’a pas de Q-caract`ere non trivial, alors G
Z
est un r´eseau de G
R
.
b) Si G n’a pas de Q-cocaract`ere non trivial, alors G
Z
est cocompact dans G
R
.
Remarque Les r´eciproques des points a) et b) sont vraies et beaucoup plus
facile :
Lemme 5.5 Soit G un Q-groupe.
a) Si G a un Q-caract`ere non trivial, alors G
Z
n’est pas un r´eseau de G
R
.
b) Si G a un Q-cocaract`ere non trivial, alors G
Z
n’est pas cocompact dans G
R
.
Remarque Un k-groupe G a un k-caract`ere non trivial ssi il a un k-cocaract`ere
central non trivial. En effet, pour le v´erifier, on peut supposer, en quotientant G
par son radical unipotent, que G est r´eductif. Comme G est presque produit de
son centre connexe et de son groupe d´eriv´e, on peut supposer que G est un tore.
On remarque alors que G est presque produit d’un tore k-isotrope par un tore
k-anisotrope. On renvoie ` a [7] pour plus de d´etails.
D´emonstration du lemme 5.5 a) Par la proposition 4.8, l’image χ(G
R
)
contient R

+
, alors que, par le lemme 5.2, l’image χ(G
Z
) est incluse dans (G
m
)
Z
=
¦±1¦.
b) D’apr`es le lemme 4.10, l’alg`ebre de Lie de l’image d’un Q-cocaract`ere est
de dimension 1 et est engendr´ee par un ´el´ement H diagonalisable. Comme les
seuls carat`eres du groupe multiplicatif G
m
sont les puissances z → z
n
, on peut
supposer que les valeurs propres de H sont enti`eres. Par le a) et la remarque
ci-dessus, cet ´el´ement H n’est pas dans le centre de g. Il existe donc un entier
p = 0 et un ´el´ement non nul X ∈ g ` a coefficients entiers tel que [H, X] = pX.
Par le th´eor`eme 2.4 de Lie, cet ´el´ement X est nilpotent. En particulier, l’orbite
adjointe AdG
R
(X) contient 0 dans son adh´erence. Si G
Z
´etait cocompact dans
G
R
, comme AdG
Z
(X) est un ensemble discret form´ee de matrices ` a coefficients
entiers, l’orbite adjointe AdG
R
(X) serait ferm´ee. Contradiction.
Corollaire 5.6 Soit G un Q-groupe semisimple.
a) Alors G
Z
est un r´eseau de G
R
.
b) G
Z
est cocompact dans G
R
ssi G
Z
n’a pas d’´el´ement unipotent non trivial.
43
Remarque On a les ´equivalences : G
Z
n’a pas d’´el´ement unipotent non trivial
⇔ G
Q
n’a pas d’´el´ement unipotent non trivial ⇔ g
Q
n’a pas d’´el´ement nilpotent
non nul.
En effet, l’application X →e
X
−1 et son inverse X →log(1+X) sont donn´ees
par des polynˆ omes `a coefficients rationnels quand on les applique `a des matrices
nilpotentes.
D´emonstration de : th´eor`eme 5.4 ⇒ corollaire 5.6
a) Un groupe semisimple n’a pas de caract`ere.
b) On a d´ej`a vu dans la d´emonstration du point b) du lemme 5.5 que si G
a des Q-cocaract`eres non triviaux alors g
Q
contient des ´el´ements nilpotents non
nuls.
R´eciproquement, lorsque G est semisimple, un r´eseau cocompact Γ de G
R
ne
peut pas contenir d’´el´ement unipotent non trivial. Voici pourquoi.
D’une part, la classe de conjugaison d’un ´el´ement unipotent contient e dans son
adh´erence : c’est facile pour SL(2, R), le cas g´en´eral s’en d´eduit par le th´eor`eme
2.15 de Jacobson Morozov.
D’autre part, la classe de conjugaison d’un ´el´ement γ
0
∈ Γ est ferm´ee car
l’ensemble des conjugu´es ¦γγ
0
γ
−1
[ γ ∈ Γ¦ est discret et G
R
/Γ est compact.
Remarque Soit G un Q-groupe sans Q-caract`ere. Alors G
R
est unimodulaire.
En effet, comme l’application adjointe Ad est d´efinie sur Q, le caract`ere g →
det(Ad(g)) est un Q-caract`ere. Il est donc trivial. Or, la fonction module est la
valeur absolue de la restriction ` a G
R
de ce caract`ere.
5.2 Strat´egie de d´emonstration du th´eor`eme 5.4.a
Soit G un Q-groupe sans Q-caract`ere. On veut montrer que la
mesure G
R
-invariante λ sur G
R
/G
Z
est finie.
La premi`ere ´etape est un joli argument de plongement (proposition 5.7) qui
permettra, d`es qu’on se donne une Q-repr´esentation fid`ele de G dans V
Q
, de
voir cette mesure λ comme une mesure de Radon sur l’espace X des r´eseaux de
volume 1 de V
R
.
On veut alors appliquer encore une combinaison des corollaires 1.5 et 1.14. Pour
cela, il suffit de construire une probabilit´e µ port´ee par G
R
v´erifiant la condition
[HI]. Remarquons de nouveau que cette condition ne fait plus intervenir le groupe
G
Z
. Cette strat´egie aboutira uniquement lorsque G est Q-simple, adjoint et Q-
isotrope. Ce sera la deuxi`eme ´etape du raisonnement. Notons que cette ´etape est
la plus d´elicate, le groupe G
Z
y apparaissant comme un r´eseau non cocompact.
La troisi`eme ´etape, le cas o` u G est Q-simple, adjoint et Q-anisotrope, est une
application du crit`ere de Mahler. Elle prouvera que dans ce cas le quotient G
R
/G
Z
est compact. Cette ´etape contient le crit`ere de compacit´e de Godement.
44
Dans la quatri`eme ´etape, on passera du cas Q-simple adjoint au cas r´educ-
tif sans Q-caract`ere. Ce sera de nouveau une application du crit`ere de Mahler
(proposition 5.11). Cette ´etape importante contient le cas o` u G est un tore Q-
anisotrope. Elle contient donc en particulier le th´eor`eme des unit´es de Dirichlet.
Enfin, dans la cinqui`eme et derni`ere ´etape, la d´ecomposition de Levi pour les
Q-groupes G = RU comme produit semidirect d’un Q-groupe reductif R et
d’un Q-groupe unipotent U (d´ecomposition que nous admettrons) permettra de
montrer le th´eor`eme pour tous les Q-groupes sans Q-caract`ere.
5.3 Le plongement dans l’espace des r´eseaux
Le plongement suivant permet de relier l’´etude du quotient G
R
/G
Z
` a celle de l’espace des r´eseaux de R
d
.
Proposition 5.7 Soit G ⊂ H = GL(d, C) un Q-groupe sans Q-caract`ere non
trivial. Alors l’injection G
R
/G
Z
→X = H
R
/H
Z
est propre.
Autrement dit, cette injection est un hom´eomorphisme sur une partie ferm´ee
de X
D´emonstration Nous devons montrer que pour toute suite g
n
∈ G
R
, telle que
g
n
H
Z
converge dans dans H
R
/H
Z
, la suite g
n
G
Z
converge dans G
R
/G
Z
.
D’apr`es la proposition 4.6 (avec H pour G et G pour H), il existe une Q-
repr´esentation de H dans un Q-espace vectoriel V
Q
et un pointr x ∈ P(V
Q
) dont
le stabilisateur dans H est G. Puisque tous les Q-caract`eres de G sont triviaux,
le stabilisateur de tout point non nul v sur la droite x est aussi ´egal `a G. Par le
lemme 5.2, le groupe H
Z
stabilise un r´eseau ∆ ⊂ V
Q
. On peut choisir ∆ contenant
v. Donc la H
Z
-orbite de v est discr`ete dans V
R
.
Soit h
n
∈ H
Z
tel que lim
n→∞
g
n
h
n
= h. La suite h
−1
n
v converge vers h
−1
v et est
donc constante pour n grand. On peut donc ´ecrire, pour n grand, h
n
= γ
n
h avec
γ ∈ G
Z
, h ∈ H
Z
. La suite g
n
γ
n
est alors convergente.
5.4 Le cas Q-simple et Q-isotrope
Voici un cas particulier du th´eor`eme de Borel et Harish-Chandra
qui se trouve ˆetre le cas le plus d´elicat.
Lemme 5.8 Soit G un Q-groupe Q-simple, adjoint et Q-isotrope Alors G
Z
est
un r´eseau de G
R
D´emonstration Le premier point est de voir que, comme Gest adjoint, Gadmet
une Q-repr´esentation fid`ele ρ qui est R-irr´eductible. La repr´esentation adjointe est
somme directe ρ
1
⊕ ⊕ρ

de repr´esentations irr´eductibles de G = G
1
G

qui correspondent aux id´eaux g
i
de l’alg`ebre de Lie de G. Chaque repr´esentation
45
ρ
i
est irr´eductible sous l’action de G
i
et ces repr´esentations sont permut´ees par le
groupe de Galois Gal(C, Q). On prend pour ρ le produit tensoriel ρ = ρ
1
⊗ ⊗ρ

de ces repr´esentations. C’est une repr´esentation fid`ele de G d´efinie sur Q qui est
C-irr´eductible. Elle est donc R-irr´eductible.
Le deuxi`eme point est de voir que, comme G est Q-simple et Q-isotrope, le
groupe G
R
n’a pas de facteur compact. En effet, comme G est Q-simple, un
tel facteur est le groupe (G
i
)
R
des R-points d’un facteur R-simple G
i
de G vu
comme R-groupe. Mais, comme G est Q-simple et Q-isotrope, un tel facteur est
R-isotrope et donc non compact.
Le troisi`eme point est d’utiliser le lemme 5.9 suivant qui permet de construire
une probabilit´e µ port´ee par G
R
v´erifiant la condition [HI]. Ce qui permet de
conclure grˆ ace ` a la strat´egie d´ecrite ci-dessus.
Lemme 5.9 Soit G ⊂ GL(d, C) un R-groupe semisimple.Alors
a) il existe un produit scalaire euclidien sur R
d
tel que, pour tout g dans G,
l’adjoint
t
g est aussi dans G.
b) Dans ce cas, si G
R
n’a pas de facteur compact, G
R
est engendr´e par G
R
∩S
+
Rappelons que S
+
est l’ensemble des matrices sym´etriques d´efinies positives.
D´emonstration L’alg`ebre de Lie g
R
de G
R
admet une involution de Cartan
θ qui correspond ` a une d´ecomposition de Cartan g
R
= k ⊕ q (voir chapitre 3).
La sous-alg`ebre u = k ⊕iq a une forme de Killing d´efinie n´egative. Elle est donc
l’alg`ebre de Lie d’un sous-groupe compact U
R
de GL(d, C). Ce groupe U
R
pr´eserve
une forme hermitienne sur C
d
. On prend pour produit scalaire la partie r´eelle de
la restriction ` a R
d
de cette forme hermitienne.
b) Dans la d´ecomposition g
R
= k ⊕q, les ´el´ements M de q sont sym´etriques et
leurs exponentielles exp(M) sont sym´etriques d´efinies positives. Comme [q, q] ⊕q
est un id´eal de g
R
et que G
R
n’a pas de facteur compact, on a l’´egalit´e g
R
=
[q, q] ⊕q et G
R
est engendr´e par exp(q).
5.5 Le cas Q-simple et Q-anisotrope
Cette ´etape est plus simple que la pr´ec´edente : Elle n’utilise que
le plongement et le crit`ere de Mahler.
Corollaire 5.10 Soit G un Q-groupe Q-simple et Q-anisotrope.
Alors G
Z
est un r´eseau cocompact de G
R
D´emonstration Comme G est adjoint, on peut supposer que G est inclus dans
le groupe Aut(g) des automorphismes de l’alg`ebre de Lie g.
Par la proposition 5.7, le quotient G
R
/G
Z
est hom´eomorphe au sous-ensemble
ferm´e ¦Adg(g
Z
) [ g ∈ G
R
¦ de l’ensemble des r´eseaux de g
R
. En outre tous ces
r´eseaux sont de mˆeme covolume. Si le quotient n’´etait pas compact, le crit`ere de
46
compacit´e de Mahler, i.e. la proposition 1.8, assurerait qu’il existerait g
n
∈ G
R
et X
n
∈ g
Z
− ¦0¦ tel que Ad(g
n
)(X
n
) converge vers 0. Pour tout i ≥ 1, la suite
d’entiers n → tr(X
i
n
) converge vers 0. Elle donc nulle pour n grand. Donc pour
n grand, X
n
est nilpotent. Et G n’est pas Q-anisotrope. Contradiction.
5.6 Le cas r´eductif
Le lemme clef pour passer du cas Q-simple adjoint au cas r´eductif
est la proposition suivante.
Proposition 5.11 Soit G un Q-groupe r´eductif, C le centre de G et H le Q-
groupe quotient H = G/C. On suppose que G n’a pas de Q-caract`ere. Alors,
l’application induite π : G
R
/G
Z
→H
R
/H
Z
est une application propre.
Remarques Ce quotient H est un Q-groupe semisimple adjoint. Il est donc
produit de groupes Q-simples adjoints.
D´emonstration Soit G ⊂ End(V) notre Q-groupe et A := End
C
(V) le com-
mutant de C dans End(V). Comme le centre C est r´eductif, l’alg`ebre associative
A est semisimple. Comme C est d´efini sur Q, A est aussi d´efinie sur Q, car tous
deux sont invariants par le groupe de Galois Gal(C/Q). En particulier, l’anneau
A
Z
= A∩End(V
Z
) est un r´eseau de A
R
:= A∩End(V
R
) que l’on peut supposer
de covolume 1.
Le groupe G agit de deux fa¸ cons sur l’alg`ebre A : l’action ρ par translation ` a
gauche et l’action σ par conjugaison qui factorise en une action de H. Rappelons
que G n’a pas de Q-caract`ere. En appliquant deux fois la proposition 5.7 on
obtient, d’une part, que le quotient G
R
/G
Z
est hom´eomorphe ` a l’ensemble des
translat´es ¦gA
Z
[ g ∈ G
R
¦ et, d’autre part, le quotient H
R
/H
Z
est hom´eomorphe
` a l’ensemble des conjugu´es ¦h(A
Z
) [ h ∈ H
R
¦. En outre tous ces r´eseaux sont de
covolume 1. Supposons par l’absurde que l’application π n’est pas propre, il existe
donc une suite g
n
∈ G
R
telle que g
n
A
Z
n’est pas born´ee tandis que g
n
A
Z
g
−1
n
est
born´ee.
Le crit`ere de compacit´e de Mahler, i.e. la proposition 1.8, assure qu’il existe
une suite a
n
∈ A
Z
−¦0¦ telle que g
n
a
n
converge vers 0 et que toute suite a
t
n
∈ A
Z
telle que g
n
a
t
n
g
−1
n
converge vers 0 est nulle pour n grand.
Puisque l’alg`ebre associative semisimple A est somme directe de ses id´eaux
bilat`eres d´efinis sur Q minimaux B, on peut supposer que a
n
est dans l’un des
B
Z
− ¦0¦. Soit b
i
une base de B
Z
. Puisque det
B
g
n
= 1, par le lemme 1.10 de
Minkowski, on peut trouver C
0
> 0 et des ´el´ements non nuls c
n
∈ B
Z
tels que
|c
n
g
−1
n
| ≤ C
0
. Les ´el´ements g
n
a
n
b
i
c
n
g
−1
n
convergent aussi vers 0. Donc, pour
n 0, on a successivement, a
n
b
i
c
n
= 0, a
n
Bc
n
B = 0, a
n
B = 0, et a
n
= 0.
Contradiction.
Corollaire 5.12 Soit ϕ : G →H une Q-isog´enie entre deux Q-groupes r´eductifs.
Alors les groupes ϕ(G
Z
) et H
Z
sont commensurables.
47
D´emonstration Quitte ` a remplacer G et H par l’intersection des noyaux de
leurs Q-caract`eres, on peut supposer G et H sans Q-caract`ere. Notons Z
G
le
centre de G et Z
H
le centre de H. On remarque que l’application ϕ induit un
isomorphisme G/Z
G
· H/Z
H
. On applique alors deux fois la proposition 5.11 ` a
G puis ` a H pour en d´eduire que l’application G
R
/G
Z
→H
R
/H
Z
est propre.
Remarque L’analogue de ce corollaire pour les Q-points est inexact : les groupes
ϕ(G
Q
) et H
Q
ne sont pas toujours commensurables. Prendre par exemple G =
SL(2) et H = PGL(2) et regarder les ´el´ements de H
Q
donn´es par

p 0
0 1

.
5.7 Conclusion
En utilisant la structure des Q-groupes, nous pouvons maintenant
terminer par r´ecurrence notre raisonnement.
D´emonstration du th´eor`eme 5.4 Remarquons tout d’abord que si G = HN
est une d´ecomposition d’un Q-groupe G en un produit semidirect d’un Q-sous-
groupe H et d’un Q-sous-groupe distingu´e N, alors le groupe H
Z
N
Z
est inclus
dans G
Z
. En particulier si H
Z
est un r´eseau de H
R
et N
Z
est un r´eseau de N
R
,
alors G
Z
est un r´eseau de G
R
D’apr`es la d´ecomposition de Levy, valable sur tout corps k de caract´eristique
0, tout k-groupe G est un produit semidirect L U d’un k-groupe r´eductif L et
d’un k-sous-groupe distingu´e unipotent U.
En outre, tout k-groupe unipotent de dimension n ≥ 1 est un produit semidirect
du k groupe additif G
a
de dimension 1 et d’un k-sous-groupe distingu´e unipotent
U
t
de dimension n −1.
Puisque le sous-groupe arithm´etique (G
a
)
Z
· Z est un r´eseau cocompact du
groupe de Lie (G
a
)
R
· R, ces remarques ram`enent la d´emonstration du th´eor`eme
5.4 au cas r´eductif que nous avons obtenu dans la proposition 5.11.
48
6 M´elange et comptage
Ce chapitre est encore au coeur des th`emes de ce cours reliant th´eo-
rie des nombres et th´eorie ergodique `a travers la th´eorie des groupes.
L’objectif arithm´etique est de donner l’asymptotique en r du nom-
bre de matrices de SL(d, Z) de norme au plus r. Nous obtiendrons plus
g´en´eralement un tel asymptotique pour tous les r´eseaux Γ des groupes
de Lie quasisimples G.
La propri´et´e ergodique est ici le m´elange de l’action des ´el´ements
de G sur le quotient de volume fini G/Γ.
La th´eorie des repr´esentations unitaires joue un rˆ ole central dans
cette propri´et´e de m´elange.
Les d´emonstrations ci-dessous sont self-contained pour SL(d, Z),
sauf pour une formule explicite pour la mesure de Haar dans la d´e-
composition de Cartan . Dans le cas g´en´eral, nous utiliserons en plus
quelques propri´et´es sur la structure des groupes de Lie semisimples
r´eels, d´ecompositions de Cartan et d’Iwasawa, que nous avons d´emon-
tr´ees au chapitre 3.
6.1 Repr´esentations unitaires et m´elange
Commen¸cons par la partie th´eorie des repr´esentations unitaires et
´enon¸ cons une propri´et´e g´en´erale, due `a Howe et Moore, de d´ecrois-
sance des coefficients des repr´esentations unitaires.
D´efinition 6.1 Une repr´esentation unitaire π d’un groupe localement compact
G dans un espace de Hilbert (s´eparable) H
π
est un morphisme de G dans le
groupe U(H
π
) des transfomations unitaires de H
π
, tel que, pour tout v dans H
π
,
l’application G →H
π
; g →π(g)v est continue.
Pour tout v, w dans H
π
, le coefficient est la fonction continue c
v,w
: G → C
donn´ee par c
v,w
(g) = <π(g)v, w>.
Exemples - La repr´esentation triviale est la repr´esentation constante π(g) = Id.
Ses coefficients sont des fonctions constantes.
- Quand G est compact, toute repr´esentation unitaire est une somme hilbertienne
orthogonale de repr´esentations unitaires irr´eductibles. Par Peter-Weyl, elles sont
de dimension finie.
- Supposons que G agisse continˆ ument sur un espace localement compact X en
pr´eservant une mesure de Radon ν. Alors la formule (π(g)ϕ)(x) := ϕ(g
−1
x) d´efinit
une repr´esentation unitaire π de G dans L
2
(X, ν) Pour montrer la continuit´e des
applications g → π(g)ϕ, on la montre tout d’abord pour les fonctions continues
` a support compact puis on utilise la densit´e de ces fonctions dans L
2
(X, ν).
Les coefficients
c
ϕ,ψ
: g →

X
ϕ(x)ψ(gx)dν(x)
49
de cette repr´esentation sont aussi appel´es coefficients de corr´elation.
Pour tout sous-groupe H de G, notons
H
H
π
:= ¦v ∈ H
π
/ ∀h ∈ H, π(h)v = v¦
le sous-espace des vecteurs H-invariants.
Rappelons qu’un groupe de Lie G est semisimple si son alg`ebre de Lie g est
semisimple, et que G est quasisimple si g simple (voir chapitre 3). Par exemple
les groupes de Lie SL(d, R) et SO(p, q) sont quasisimples pour d ≥ 2 et p+q ≥ 3.
Th´eor`eme 6.2 (Howe, Moore) Soit G un groupe de Lie r´eel connexe semi-
simple `a centre fini et π une repr´esentation unitaire de G. Supposons que H
G
i
π
= 0
pour tout sous-groupe connexe normal G
i
= 1.
Alors, pour tout v, w dans H
π
, on a lim
g→∞
<π(g)v, w> = 0.
Remarques - La preuve de ce th´eor`eme est report´ee ` a la section 6.3.
- Le symbole g →∞ signifie que g sort de tout compact de G.
- D’apr`es le th´eor`eme 2.7, il n’y a qu’un nombre fini de G
i
.
- Quand g est simple, l’hypoth`ese est H
G
π
= 0.
Corollaire 6.3 Soit G un groupe de Lie r´eel connexe semisimple `a centre fini et
π une repr´esentation unitaire de G sans vecteur G-invariant non nul. Soit H un
sous-groupe ferm´e de G dont les images dans tous les groupes quotients G/G
i
= 1
sont non compactes. Alors H
H
π
= 0.
Remarque - Quand g est simple, l’hypoth`ese sur H ´equivaut ` a H non compact.
D´emonstration Par r´ecurrence, en ´ecrivant H
π
= H
G
i
π
⊕(H
G
i
π
)

, on peut sup-
poser que H
G
i
π
= 0 pour tout i. Soit v un vecteur H-invariant. Le coefficient c
v,v
est constant sur H. Par le th´eor`eme 6.2, il doit ˆetre nul. Donc v = 0.
Corollaire 6.4 Soit G un groupe de Lie r´eel connexe quasisimple `a centre fini,
Γ ⊂ G un r´eseau. Alors l’action de G est m´elangeante sur X = G/Γ, i.e. on a la
propri´et´e suivante de “d´ecroissance des corr´elations”: pour tout ϕ, ψ ∈ L
2
(X, dx),
lim
g→∞

X
ϕ(x)ψ(gx)dx =

X
ϕ(x)dx

X
ψ(x)dx.
- Pour simplifier, on a not´e dx = λ
X
la probabilit´e G-invariante sur X.
- Une extension aux r´eseaux irr´eductibles sera donn´ee dans le corollaire 7.7.
Remarque En particulier, pour tout ´el´ement g ∈ G qui engendre un sous-groupe
non-born´e de G, l’action de g sur X est ergodique, i.e. toute partie mesurable g-
invariante A de X v´erifie λ
X
(A) = 0 ou 1 (voir chapitre 8).
50
D´emonstration du corollaire 6.4 Ecrivons L
2
(X, dx) = C1 ⊕ L
2
0
(X, dx)
o` u L
2
0
(X, dx) d´esigne le sous-espace des fonctions d’int´egrale nulle. D’apr`es le
th´eor`eme 6.2, il suffit de remarquer que les fonctions G-invariantes ϕ de L
2
0
(X, dx)
sont nulles. Cela r´esulte de Fubini car si, pour tout g dans G, ϕ(gx) = ϕ(x) pour
presque tout x ∈ X, alors on peut trouver x ∈ X tel que, ϕ(gx) = ϕ(x) pour
presque tout g ∈ G. Et donc ϕ est presque sˆ urement constante. Donc ϕ = 0.
6.2 Vecteurs invariants pour SL(2)
Commen¸cons par une preuve directe du corollaire 6.3 pour le
groupe SL(2, R).
Pour t > 0 et s dans R, soit
a
t
:=

t 0
0 t
−1

, u
s
:=

1 s
0 1

, u

s
:=

1 0
s 1

.
Proposition 6.5 Soit π une repr´esentation unitaire de G = SL(2, R), t = 1,
s = 0 et v ∈ H
π
. Si v est soit a
t
-invariant, u
s
-invariant ou u

s
-invariant alors, il
est G-invariant.
Remarque La proposition 6.5 et sa d´emonstration sont encore valables pour
le groupe S revˆetement universel de SL(2, R), en rempla¸cant les groupes ` a un
param`etre a
t
, u
s
et u

s
par leur rel`evement dans S.
On utilisera le lemme suivant.
Lemme 6.6 (Mautner) Soit π une repr´esentation unitaire d’un groupe loca-
lement compact G. Pour v dans H
π
, notons S
v
= ¦g ∈ G / π(g)v = v¦ son
stabilisateur dans G. Alors
a) S
v
= ¦g ∈ G / c
v,v
(g) = |v|
2
¦.
b) Soit g dans G tel qu’il existe g
n
dans G, s
n
, s
t
n
dans S
v
avec
lim
n→∞
g
n
= g , lim
n→∞
s
n
g
n
s
t
n
= e. Alors g est dans S
v
.
D´emonstration a) Utiliser l’´egalit´e |π(g)v −v|
2
= 2 |v|
2
−2 Re(c
v,v
(g)).
b) Faire tendre n vers l’infini dans l’´egalit´e c
v,v
(g
n
) = c
v,v
(s
n
g
n
s
t
n
) pour obtenir
c
v,v
(g) = |v|
2
.
D´emonstration de la proposition 6.5 Il suffit de montrer que l’invariance
de v par l’un des trois a
t
, u
s
, u

s
implique l’invariance par les deux autres. Grˆ ace
aux sym´etries, il n’y a que deux cas `a traiter :
a
t
-invariant =⇒ u
s
-invariant. On peut supposer t > 1. On utilise le
lemme 6.6.b avec g
n
= g = u
s
, s
n
= a
−n
t
et s
t
n
= a
n
t
. On v´erifie facilement
que lim
n→∞
s
n
g
n
s
t
n
= lim
n→∞
u
t
−2n
s
= e.
51
u
s
-invariant =⇒a
t
-invariant. On peut supposer que t est rationnel, t =
p
q
.
On utilise le lemme 6.6.b avec g = a
t
, g
n
=

p
q
0
t−1
snp
q
p

, s
n
= u
−np
s
and s
t
n
= u
nq
s
.
On v´erifie facilement que lim
n→∞
s
n
g
n
s
t
n
= lim
n→∞

1 0
t−1
snp
1

= e.
6.3 D´ecroissance des coefficients
Dans cette section, nous donnons la preuve du th´eor`eme 6.2.
Nous aurons besoin du lemme suivant qui est un cas sp´ecial du corollaire 6.3
que nous n’avons pas encore d´emontr´e.
Lemme 6.7 Soit π une repr´esentation unitaire d’un groupe de Lie r´eel connexe
quasisimple G `a centre fini, a = 1 un ´el´ement hyperbolique de G, et u = 1 un
´el´ement unipotent de G. Si un ´el´ement v de H
π
est soit a-invariant ou u-invariant
alors il est G-invariant.
Rappelons qu’un ´el´ement g ∈ G est unipotent (resp. hyperbolique) si g = e
X
avec X ∈ g et adX nilpotent (resp. diagonalisable sur R).
D´emonstration 1
er
cas : v est a-invariant. Ecrivons a = e
X
et d´ecomposons
g en g = u ⊕l ⊕u

o` u u (resp. l, u

) sont la somme des espaces propres de adX
associ´es aux valeurs propres strictement n´egatives (resp. nulles, strictement posi-
tives). Ce sont des sous-alg`ebres de Lie. On note U (resp L, U

) les sous-groupes
de Lie connexes correspondants. Le mˆeme argument que dans la proposition 6.5
montre que v est invariant par U et U

. On conclut que v est G-invariant grˆ ace
au fait suivant : les deux groupes U et U

engendrent G. Pour montrer ce fait,
on remarquera juste que la somme directe u

⊕([u

, u] ∩ l) ⊕u est un id´eal de g
et est donc ´egal ` a g.
2
`eme
cas : v est u-invariant. Notons u = e
N
avec N ∈ g nilpotent. D’apr`es le
th´eor`eme 2.15 de Jacobson-Morozov, il existe une sous-alg`ebre de Lie s · sl(2, R)
de g contenant X. Par la proposition 6.5, v est invariant par le sous-groupe S
d’alg`ebre de Lie s. La proposition 2.14 qui classifie les repr´esentations de s prouve
que S contient des ´el´ements hyperboliques, nous sommes de nouveau dans le
premier cas.
Remarque Lorsque g = sl(d, R), la d´emonstration du th´eor`eme de Jacobson
Morozov est tr`es facile. On veut montrer que toute matrice nilpotente N est dans
l’image d’une repr´esentation de l’alg`ebre de Lie s = sl(2, R). Rappelons que s a
pour base X, H, Y avec
X :=

0 1
0 0

, H :=

1 0
0 −1

, Y :=

0 0
1 0

.
qui v´erifient les relations
[H, X] = 2X , [H, Y ] = −2Y et [X, Y ] = H.
52
Dans une base convenable, N est une matrice form´ee de blocs de Jordan. On se
ram`ene facilement au cas o` u N est un seul bloc de Jordan. Or la repr´esentation
ρ
d
de sl(2, R) dans l’espace vectoriel V
d
des polynˆ omes de degr´e d − 1 sur R
2
envoie X, H, Y respectivement sur
x

∂y
, x

∂x
−y

∂y
et y

∂x
.
En particulier, dans la base x
d−1
, x
d−2
y, . . . , y
d−1
, ρ
d
(X) est un bloc de Jordan de
taille d et ρ
d
(H) est diagonale. C’est ce que l’on voulait.
D´emonstration du th´eor`eme 6.2 L’id´ee est d’utiliser la compacit´e faible de
la boule unit´e de H
π
et la d´ecomposition de Cartan G = KA
+
K de G pour
construire dans H
π
un vecteur v
0
invariant par un unipotent u ∈ G.
La d´ecomposition de Cartan de G (voir chapitre 3) affirme qu’il existe un sous-
groupe compact K de G et une partie A
+
, appel´ee chambre de Weyl, d’un sous
groupe commutatif A form´e d’´el´ements hyperboliques tels que G = KA
+
K.
Si le coefficient <π(g)v, w> ne d´ecroit pas vers 0, on peut trouver des suites
g
n
= k
n
a
n
k
t
n
∈ G = KAK telles que
lim
n
<π(g
n
)v, w>= = 0 , lim
n
k
n
= k , lim
n
k
t
n
= k
t
,
et pour certaines racines α de A dans g, lim
n
α(a
n
) = ∞. En particulier,il existe
un ´el´ement unipotent u ∈ G non trivial tel que a
−1
n
ua
n
→ e. On peut supposer
que k = k
t
= e.
La compacit´e faible de la boule unit´e de H
π
affirme que, toute suite v
n
∈ H
π
avec |v
n
| ≤ 1 a une sous-suite v
n
k
qui converge faiblement vers un vecteur v

i.e. pour tout v
t
∈ H
π
, on a lim
k→∞
'v
n
k
, v
t
` = 'v

, v
t
`.
On peut donc, quitte `a extraire, supposer que la suite π(a
n
)v a une limite faible
v
0
∈ H
π
. V´erifions que ce vecteur v
0
est non nul.
Comme lim
n
|π(k
t
n
)v −v| = lim
n
|π(k
−1
n
)v −v| = 0, on a bien
<v
0
, w> = lim
n
<π(a
n
)v, w> = lim
n
<π(a
n
)π(k
t
n
)v, π(k
−1
n
)w>
= lim
n
<π(g
n
)v, w>= 0
En outre, ce vecteur est u-invariant, parce que, comme a
−1
n
ua
n
→e, on a
|π(u)v
0
−v
0
| ≤ lim
n
|π(a
n
)(π(a
−1
n
ua
n
)v −v)| = 0 .
Ceci contredit le lemme 6.7.
Remarque Pour G = SL(d, R), le groupe K est le groupe SO(d, R) et la chambre
de Weyl A
+
est l’ensemble des ´el´ements diagonaux de G ` a coefficients positifs et
rang´es en ordre d´ecroissant. La d´ecomposition de Cartan G = KA
+
K est une
cons´equence des deux faits ´el´ementaires suivants. Primo : toute matrice r´eelle
inversible est (de fa¸con unique) le produit d’une matrice orthogonale et d’une
matrice sym´etrique d´efinie positive. Secundo : toute matrice sym´etrique d´efinie
positive est diagonalisable dans une base orthonorm´ee.
53
6.4 Comptage des points d’un r´eseau
Rappelons que notre objectif dans ce chapitre est de compter les
points dans SL(d, Z). Ce comptage sera un corollaire imm´ediat du
th´eor`eme g´en´eral suivant dˆ u `a Duke, Rudnick et Sarnak.
Soit G → SL(d, R) un sous-groupe de Lie quasisimple connexe, K un sous-
groupe compact maximal de G, || une norme euclidienne K-invariante sur R
d
.
On note de la mˆeme fa¸con la norme induite sur les matrices.
Notons B
r
:= ¦g ∈ G [ |g| ≤ r¦ la trace sur G de la boule de rayon r.
Soit Γ un r´eseau de G. On veut estimer #(Γ ∩ B
r
). Notons λ
G
la mesure de
Haar sur G que l’on normalise de sorte que la mesure induite λ
X
sur le quotient
X := G/Γ soit de volume 1. Posons v
r
:= λ
G
(B
r
).
Lorsque f et g sont deux fonctions positives sur ]0, ∞[, on dira que f et g sont
asymptotiquement ´equivalentes et on notera f ∼ g lorsque lim
r→∞
f(r)
g(r)
= 1.
Th´eor`eme 6.8 (Duke, Rudnick, Sarnak) #(Γ ∩ B
r
) ∼ v
r
La fin de ce chapitre est consacr´ee ` a la d´emonstration du th´eor`eme 6.8. Nous
suivrons la d´emonstration d’Eskin et Mc Mullen.
Corollaire 6.9 Soit || une norme euclidienne sur R
d
et, pour g ∈ GL(d, R),
notons |g| = sup
|v|=1
|gv|. Alors, il existe c > 0, tel que,
#¦g ∈ SL(d, Z) [ |g| ≤ r¦ ∼ c r
d
2
−d
.
Remarques - Il est possible, ` a partir du raisonnement ci-dessous de calculer
explicitement la constante c.
- La croissance de v
r
est donc exponentielle... comme fonction de R := log r.
6.5 Equidistribution des grandes sph`eres
La premi`ere ´etape de la d´emonstration consiste ` a pousser une pro-
babilit´e K-invariante sur le quotient X = G/Γ par de grands ´el´ements
de G et ` a montrer que les mesures obtenues ainsi s’´equir´epartissent
i.e. ces mesures convergent vers la probabilit´e G-invariante sur X.
Notons x
0
= Γ le point base de X = G/Γ, Y = Kx
0
sa K-orbite et λ
Y
la
probabilit´e K-invariante sur Y .
Proposition 6.10 On a lim
g→∞
g

λ
Y
= λ
X
.
54
Cette limite est la limite pour la convergence faible des mesures. Elle signifie
que pour toute fonction continue ` a support compact ϕ ∈ C
c
(X),
lim
g→∞

Y
ϕ(gy)dλ
Y
(y) =

X
ϕ(x)dλ
X
(x).
Remarque Cette proposition a une signification g´eom´etrique importante : elle
implique que l’image dans le quotient Γ`G/K des “grandes sph`eres de l’espace
sym´etrique riemannien” G/K s’´equir´epartissent dans ce quotient.
D´emonstration On va non seulement utiliser la d´ecomposition de Cartan G =
KA
+
K de G comme dans la d´emonstration du th´eor`eme 6.2 mais aussi la d´ecom-
position d’Iwasawa G = U

AK o` u U

est le groupe de Lie connexe dont l’alg`ebre
de Lie u

est la somme des espaces radiciels associ´es aux racines n´egatives (voir
chapitre 3).
1
er
cas : Supposons que g = a est dans A
+
. Fixons ε > 0. Par uniforme
continuit´e de ϕ, il existe un voisinage ouvert G
ε
de e dans G tel que
[ϕ(ux) −ϕ(x)[ ≤ ε pour tout u ∈ G
ε
et x ∈ X.
Soit W le groupe r´esoluble W = U

A. La d´ecomposition d’Iwasawa donne un
diff´eomorphisme W K →G; (w, k) →wk. Dans cette carte, la mesure de Haar
λ
G
de G est le produit λ
W
⊗ λ
K
de la mesure de Haar ` a gauche de W et de la
mesure de Haar de K.
Comme l’action adjointe de A
+
sur l’alg`ebre de Lie de W est simultan´ement
diagonalisable avec des valeurs propres toujours de modules au plus 1, on peut
trouver un ouvert W
ε
⊂ W ∩ G
ε
tel que
aW
ε
a
−1
⊂ W
ε
pour tout a ∈ A
+
.
Par compacit´e de K, on peut aussi supposer W
ε
suffisamment petit pour que
l’application W
ε
Y → X; (w, y) → wy soit un diff´eomorphisme sur son image
W
ε
Y ⊂ X. Notons alors β
ε
la fonction L
2
sur X, β
ε
=
1
λ
X
(W
ε
Y )
1
W
ε
Y
. On veut
montrer que, lorsque a ∈ A
+
tend vers l’infini, l’int´egrale
I
a
:=

Y
ϕ(ay)dλ
Y
(y)
converge vers I :=

X
ϕ(x)dλ
X
(x). Pour cela on compare l’int´egrale I
a
` a l’int´egrale
J
a
:=

X
ϕ(ax)β
ε
(x)dλ
X
(x).
D’une part, la propri´et´e de m´elange pour l’action de G sur X (corollaire 6.4)
prouve que
lim
a→∞
J
a
= I.
55
D’autre part, pour tout a ∈ A
+
, on a
J
a
=
1
λ
W
(W
ε
)

W
ε
Y
ϕ(awy)dλ
W
(w)dλ
Y
(y)
et, par le choix de W
ε
, on a, en ´ecrivant awy = (awa
−1
)ay,
[ϕ(awy) −ϕ(ay)[ ≤ ε pour tout w ∈ W
ε
et a ∈ A
+
.
On en d´eduit la majoration,
[I
a
−J
a
[ ≤ ε pour tout a ∈ A
+
.
Donc pour a suffisamment grand, on a [I
a
−I[ ≤ 2ε et donc lim
a→∞
I
a
= I.
2
`eme
cas : Cas g´en´eral. On peut supposer que g tend vers l’infini selon une suite
g
n
. Ecrivons grˆace `a la d´ecomposition de Cartan g
n
= k
n
a
n
k
t
n
avec k
n
, k
t
n
∈ K
et a
n
∈ A
+
. La K-invariance de λ
Y
permet de supposer k
t
n
= 1. Comme K est
compact, on peut aussi supposer que la suite k
n
converge vers un ´el´ement k

∈ K.
La suite de fonctions ϕ◦ k
n
converge alors uniform´ement vers ϕ◦ k

. On a donc,
en utilisant le premier cas,
lim
n→∞

Y
ϕ(g
n
y)dλ
Y
(y) = lim
n→∞

Y
ϕ(k

a
n
y)dλ
Y
(y)
=

X
ϕ(k

x)dλ
X
(x) =

X
ϕ(x)dλ
X
(x).
C’est ce que l’on voulait.
Remarque Pour G = SL(d, R), La d´ecomposition d’Iwasawa G = U

AK est
une cons´equence du proc´ed´e d’orthonormalisation de Gramm-Schmidt qui affirme
que toute matrice r´eelle inversible est (de fa¸con unique) le produit d’une matrice
orthogonale et d’une matrice triangulaire inf´erieure `a coefficients diagonaux po-
sitifs.
6.6 Comptage faible
Dans la deuxi`eme ´etape de la d´emonstration du th´eor`eme 6.8,
plutˆot que d’estimer directement le nombre N
r
de points de Γ dans une
boule B
r
, on va tout d’abord estimer une moyenne sur g du nombre
de points des translat´es gΓ dans ces boules B
r
.
On introduit donc la fonction
F
r
: X → N
x = gΓ → F
r
(x) := #(B
r
∩ gΓ) =
¸
γ∈Γ
1
B
r
(gγ).
56
Lemme 6.11 On a la convergence faible lim
r→∞
F
r
v
r
= 1.
Autrement dit, pour toute fonction continue `a support compact ϕ ∈ C
c
(X),
lim
r→∞
1
v
r

X
F
r
(x)ϕ(x)dλ
X
(x) =

X
ϕ(x)dλ
X
(x).
D´emonstration On commence par un simple calcul du membre de gauche, en
remarquant que la boule B
r
est K-invariante.
1
v
r

X
F
r
(x)ϕ(x)dλ
X
(x) =
1
v
r

G/Γ
¸
γ∈Γ
1
B
r
(gγ)ϕ(gx
0
)dλ
X
(gΓ)
=
1
v
r

G
1
B
r
(g)ϕ(gx
0
)dλ
G
(g)
=
1
v
r

B
r

K
ϕ(gkx
0
)dλ
K
(k)


G
(g)
La proposition 6.10 assure que la fonction g →

K
ϕ(gkx
0
)dλ
K
(k) converge pour
g → ∞ vers la constante

X
ϕ(x)dλ
X
(x). La moyenne de cette fonction sur la
boule B
r
a la mˆeme limite pour r →∞ car le volume v
r
tend vers l’infini.
6.7 Estimation de volumes
La derni`ere ´etape de la d´emonstration du th´eor`eme 6.8 consiste
` a d´eduire le comptage `a partir du comptage faible. Pour cela on a
besoin d’un ´equivalent asymptotique pour le volume v
r
. Nous ne d´e-
montrerons cet ´equivalent que pour G = SL(d, R).
Lemme 6.12 Il existe a > 0, b ≥ 0, c > 0 tels que v
r
∼ c r
a
(log r)
b
.
Montrons tout d’abord comment on en d´eduit le comptage.
D´emonstration du th´eor`eme 6.8 Fixons ε > 0. Introduisons l’ouvert de G,
G
ε
:= ¦g ∈ G [ max(|g|, |g
−1
|) ≤ e
ε
¦. C’est, pour ε petit, un petit voisinage de
l’identit´e dans G que l’on peut identifier via la projection p : G →X = G/Γ ` a un
voisinage de x
0
. Choisissons une fonction continue positive ¯ ϕ ∈ C
c
(G) d’int´egrale
´egale ` a 1 et dont le support est inclus dans G
ε
. Notons ϕ ∈ C
c
(X) la fonction ` a
support dans p(G
ε
), donn´ee par ϕ(p(g)) = ¯ ϕ(g), pour tout g ∈ G
ε
. On a donc les
in´egalit´es
¯ ϕ(g)1
B
re
−ε
(gγ) ≤ ¯ ϕ(g)1
B
r
(γ) ≤ ¯ ϕ(g)1
B
re
ε
(gγ),
En sommant ces in´egalit´es pour γ ∈ Γ et en les int´egrant pour g ∈ G
ε
, on obtient,
1
v
r

X
ϕ(x)F
re
−ε(x)dλ
X
(x) ≤
1
v
r
N
r

1
v
r

X
ϕ(x)F
re
ε(x)dλ
X
(x).
57
En faisant tendre r vers l’infini, on obtient, grˆ ace au lemme 6.11 de comptage
faible et au lemme 6.12 qui donne l’asymptotique du volume
e
−aε
= lim
r→∞
v
re
−ε
v
r
≤ liminf
r→∞
N
r
v
r
≤ limsup
r→∞
N
r
v
r
≤ lim
r→∞
v
re
ε
v
r
= e

.
Comme ε > 0 est arbitrairement petit, le quotient
N
r
v
r
tend bien vers 1.
Pour montrer le lemme 6.12, nous aurons besoin de la formule suivante pour la
mesure de Haar dans la d´ecomposition de Cartan G = KA
+
K. On note, comme
dans la section 3.5, Σ
+
l’ensemble des racines positives de A
+
dans g et m
α
la
dimension de l’espace radiciel g
α
associ´e `a une racine α.
Lemme 6.13 Il existe c
0
> 0, tel que, pour tout f ∈ C
c
(G), on a

G
f(g)dg = c
0

Ka
+
K
f(ke
X
k
t
)

¸
α∈Σ
+
sinh(α(X))
m
α

dkdXdk
t
.
Nous avons simplifi´e dans cette formule les notations dλ
G
(g) et dλ
K
(k) en dg
et dk, et nous avons consid´er´e les racines restreintes α comme des formes lin´eaires
sur a et not´e a
+
= log(A
+
) = ¦X ∈ a [ α(X) ≥ 0, pour tout α ∈ Σ
+
¦.
Nous admettrons cette formule 6.13 dont la d´emonstration se ram`ene ` a un
calcul de Jacobien et peut ˆetre trouv´ee dans le livre de Helgason p.186.
D´emonstration du corollaire 6.9 et du lemme 6.12 pour SL(d, R)
C’est un calcul dont nous donnons simplement les grandes lignes. Appliquons
la formule pour la mesure de Haar pour G = SL(d, R), en notant les ´el´ements
X ∈ a
+
sous la forme
X = diag(u, u −t
1
, . . . , u −t
1
− −t
d−1
),
avec u =
1
d
((d −1)t
1
+ (d −2)t
2
+ + t
d−1
). On obtient,
v
r
= c
0

[0,∞[
d−1
1
|e
u
≤r¦
¸
1≤i<j≤d−1
sinh(t
i
+ + t
j
)dt
1
. . . dt
d−1
.
On cherche un ´equivalent pour v
r
. Pour tout ε > 0, on obtiendra le mˆeme ´equi-
valent en restreignant l’int´egrale au cˆ one donn´e par max(t
1
, . . . , t
d−2
) ≤ εt
d−1
.
On peut donc remplacer les d − 1 facteurs sinh(t
i
+ + t
d−1
) par
1
2
e
t
i
++t
d−1
sans changer l’´equivalent. On int`egre alors en la variable t
d−1
sur l’intervalle
[0, d log r −(d −1)t
1
− −2t
d−2
]. Tous calculs faits, on obtient, avec une int´e-
grale qui est finie,
v
r

c
0
r
d(d−1)
(d−1)2
d−1

[0,∞[
d−2
¸
1≤i<j≤d−2
sinh(t
i
+ + t
j
)
¸
1≤i≤d−2
e
−d(d−i−1)t
i
dt
1
. . . dt
d−2
.
On obtient bien l’´equivalent v
r
= c r
d(d−1)
annonc´e o` u c/c
0
est un nombre ration-
nel.
58
7 R´eseaux
Nous ´etudions dans cette partie les r´eseaux Γ des groupes de Lie
semisimples r´eels. En particulier comment une action de Γ induit une
action Γ-´equivariante entre les bords. L’´etude des propri´et´es de cette
application aux bords sera la clef de la superrigidit´e. Les applica-
tions les plus int´eressantes de ces m´ethodes, par exemple le th´eor`eme
d’arithm´eticit´e, nous obligent ` a travailler non seulement sur R ou C
mais aussi sur des extensions finies de Q
p
.
7.1 Zariski densit´e des r´eseaux
Le th´eor`eme suivant, dˆ u ` a Borel, est souvent bien utile. La d´e-
monstration ci-dessous, due `a Furstenberg, est bien dans l’esprit de
ce cours : Elle utilise, d’une part, un th´eor`eme de Chevalley sur les es-
paces homog`enes de groupes alg´ebriques et, d’autre part, l’´etude des
groupes de transformations lin´eaires qui pr´eservent une probabilit´e
sur l’espace projectif.
Th´eor`eme 7.1 Soient k = R et G = G
k
le groupe des k-points d’un k-groupe
Zariski connexe. On suppose qu’il n’existe pas de sous-groupe distingu´e Zariski
ferm´e G
t
G tel que le quotient G/G
t
est compact. Alors tout r´eseau Γ de G est
Zariski dense.
Remarque L’hypoth`ese du th´eor`eme 7.1 est tr`es facile ` a v´erifier en pratique.
Elle est satisfaite par exemple lorsque G est quasisimple et isotrope.
Plus g´en´eralement, soit G le produit d’un nombre fini de groupes G
p
avec p
premier ou ∞, o` u G
p
est le groupe des Q
p
-points d’un Q
p
-groupe Zariski connexe
et o` u Q

= R. On appelle topologie de Zariski sur G la topologie produit des
topologies de Zariski sur les G
p
. Alors, la mˆeme preuve donnera aussi.
Th´eor`eme 7.1 (bis) Soit G le produit d’un nombre fini de groupes G
p
avec p
premier ou ∞, o` u G
p
est le groupe des Q
p
-points d’un Q
p
-groupe Zariski connexe.
On suppose qu’il n’existe pas de sous-groupe distingu´e Zariski ferm´e G
t
G tel
que le quotient G/G
t
est compact. Alors tout r´eseau de G est Zariski dense dans
G.
D´emonstration du th´eor`eme 7.1 Soit H l’adh´erence de Zariski de Γ. D’apr`es
le lemme 7.2 ci-dessous, le groupe H est d´efini sur k. D’apr`es le th´eor`eme 4.6 de
Chevalley, il existe une k-repr´esentation ρ de G dans un espace vectoriel V = K
d
de dimension d et une droite x
0
∈ P(k
d
) dont H est le stabilisateur : H = ¦g ∈ G [
ρ(g)x
0
= x
0
¦. On peut supposer que l’orbite Gx
0
engendre K
d
. Par la proposition
4.8, le groupe G est Zariski dense dans G et donc Gx
0
engendre l’espace vectoriel
59
k
d
. Cette mˆeme proposition et le corollaire 4.5 prouvent aussi que le groupe image
ρ(G) est ferm´e dans les k-points du groupe alg´ebrique image ρ(G) ⊂ PGL
d
.
Comme x
0
est Γ-invariant, on a une application G-´equivariante i : G/Γ →
P(k
d
) donn´ee par i(gΓ) = ρ(g)x
0
. La probabilit´e i

(µ) image de la probabilit´e G
invariante µ sur G/Γ est une probabilit´e ρ(G)-invariante sur P(k
d
). Le lemme 7.3
ci-dessous prouve alors que ρ(G) est compact pour la topologie analytique. Ceci
contredit notre hypoth`ese ` a moins que ρ(G) = 1. On a donc H = G.
Lemme 7.2 Soit k ⊂ K deux corps, V = K
d
et Z ⊂ K
d
une K-vari´et´e telle que
l’ensemble des k-points Z
k
est Zariski dense dans Z. Alors Z est d´efinie sur k.
D´emonstration du lemme 7.2 Soit I ⊂ K[V] l’id´eal annulateur de Z et
I
m
= I ∩ K
m
[V]. Comme Z
k
est Zariski dense dans Z, les sous-espaces I
m
sont
d´efinis par un syst`eme d’´equations lin´eaires `a coefficients dans k. Ils ont donc une
base ` a coefficients dans k. L’id´eal I aussi.
Lemme 7.3 (Furstenberg) Soit k = R, C ou une extension finie de Q
p
. Soient
E = k
d
, P(E) l’espace projectif de E, PGL(E) le groupe des transformations
projectives de E et ν une probabilit´e sur P(E). Supposons que le support de ν ne
peut ˆetre inclus dans une r´eunion P(E
1
) ∪ P(E
2
) pour deux sous-espaces propres
E
1
, E
2
E tels que dimE
1
+ dimE
2
= dimE. Alors
a) le stabilisateur S := ¦g ∈ PGL(E) [ g

ν = ν¦ de ν est compact.
b) Plus g´en´eralement, il n’existe pas de probabilit´e µ sur P(E) et de suite g
p
∈ G
non born´ee telle que lim
p→∞
(g
p
)

µ = ν.
D´emonstration Il est clair que S est ferm´e. Il suffit donc de montrer le point b).
Supposons par l’absurde que µ et g
p
existent. Quitte ` a extraire, on peut supposer
que la suite g
p
a une limite g ∈ P(EndE) qui n’est pas inversible. Notons Kerg
et Img le noyau et l’image de g. Plus pr´ecis´ement il s’agit du noyau et de l’image
communs ` a tous les ´el´ements non nuls de la droite g. On peut supposer que la
limite E
1
= lim
p→∞
g
p
(Kerg) existe et on pose E
2
= Img.
Remarquons que si x ∈ P(Kerg), alors lim
p→∞
g
p
x = gx ∈ P(E
2
) et que si x ∈
P(Kerg), alors toutes les valeurs d’adh´erence de la suite g
p
x sont dans P(E
1
).
Donc, pour toute fonction ϕ continue `a support dans P(E)−(P(E
1
) ∪ P(E
2
)),
le th´eor`eme de convergence domin´ee prouve que

P(E)
ϕ ◦ g
p
dµ −→0.
Mais cette limite est

P(E)
ϕdν. Donc cette int´egrale est nulle. Le support de ν
est inclus dans P(E
1
) ∪ P(E
2
). Contradiction.
60
7.2 R´eseaux irr´eductibles
Nous montrons dans cette section que l’´etude des r´eseaux des
groupes de Lie semisimples se ram`ene ` a celle des r´eseaux irr´eductibles.
On dit qu’un groupe localement compact G est presque produit de sous-groupes
distingu´es ferm´es H
i
si la multiplication
¸
i
H
i
→G a un noyau fini et une image
d’indice finie dans G. On dit qu’un groupe G est sans facteur compact si il n’admet
pas de d´ecomposition en presque produit H
1
H
2
avec H
1
compact infini.
Par exemple, soit k = R, C ou une extension finie de Q
p
. Le groupe G des
k-points d’un k-groupe G semisimple est presque produit des groupes G
j
des
k-points de ses facteurs k-quasisimples G
j
. Le groupe G est sans facteur compact
ssi le k-groupe G n’a pas de facteur G
j
qui soit k-anisotrope.
D´efinition 7.4 Un r´eseau Γ d’un groupe localement compact G est dit r´eductible
si G admet une d´ecomposition en presque produit H
1
H
2
o` u H
1
et H
2
sont des
sous-groupes distingu´es ferm´es infinis tels que (Γ ∩ H
1
)(Γ ∩ H
2
) est d’indice fini
dans Γ.
Le r´eseau Γ est dit irr´eductible sinon.
Exemples - Tout r´eseau du groupe G = G
k
des k-points d’un k-groupe G
connexe k-quasisimple est irr´eductible.
- Le groupe Γ = ¦(g, g
σ
) [ g ∈ SL(2, Z[

2])¦, o` u σ est l’automorphisme non
trivial du corps Q[

2], est un r´eseau irr´eductible de SL(2, R) SL(2, R).
- Le groupe Γ = ¦(g, g) [ g ∈ SL(2, Z[
1
p
])¦ est un r´eseau irr´eductible de
SL(2, R) SL(2, Q
p
).
Proposition 7.5 Soit k = R et G = G
k
le groupe des k-points d’un k-groupe
G semisimple connexe. On suppose G sans facteur compact. Donnons-nous une
d´ecomposition G = H
1
H
2
de G en presque produit de deux sous-groupes distingu´es
H
i
et notons Γ
i
:= Γ ∩ H
i
et π
i
: G → G/H
i
la projection. Alors les assertions
suivantes sont ´equivalentes :
i) π
1
(Γ) est discret.
ii) Γ
1
est un r´eseau de H
1
.
iii) π
2
(Γ) est discret.
iv) Γ
2
est un r´eseau de H
2
.
v) Γ
1
Γ
2
est d’indice fini dans Γ.
Remarque Plus g´en´eralement, la conclusion et la d´emonstration de la proposi-
tion 7.5 est valable pour un groupe G sans facteur compact qui est produit d’un
nombre fini de groupes G
p
avec p premier ou ∞, o` u G
p
est le groupe des Q
p
-points
d’un Q
p
-groupe semisimple connexe.
D´emonstration de la proposition 7.5
61
i) →ii) Cela r´esulte de la fibration H
1

1
→G/Γ →H
2

1
(Γ).
ii) →iii) Le groupe Γ
t
1
:= π
2

1
) est donc un r´eseau de H
t
1
:= G/H
2
normalis´e
par le groupe ∆
1
:= π
2
(Γ). Or, le normalisateur N de Γ
t
1
dans H
t
1
est discret. En
effet, les petits ´el´ements de N commutent avec les ´el´ements de Γ
t
1
, donc l’alg`ebre
de Lie n de N est centralis´e par les ´el´ements de Γ
t
1
. Comme G est sans facteur
compact, le th´eor`eme de densit´e de Borel prouve que H
t
1
centralise n. Donc n = 0,
N est discret et ∆
1
aussi.
iii) →iv) et iv) →i) se montrent comme ci-dessus.
ii) +iv) →v) Le groupe Γ
1
Γ
2
est un r´eseau de G inclus dans le r´eseau Γ. Il est
donc d’indice fini ´egal au rapport des covolumes.
v) →ii) +iv) Si l’un des Γ
i
n’est pas un r´eseau dans H
i
le groupe discret Γ
1
Γ
2
ne peut pas ˆetre un r´eseau dans le presque produit H
1
H
2
.
Lemme 7.6 Soit k = R et G = G
k
le groupe des k-points d’un k-groupe G se-
misimple connexe. On suppose G sans facteur compact. Pour tout r´eseau Γ de G,
il existe une d´ecomposition G = H
1
H
m
en presque produit de k-sous-groupes
distingu´es connexes H
i
tels que, pour tout i, Γ ∩H
i
est un r´eseau irr´eductible du
groupe H
i
des k-points de H
i
.
Cette d´ecomposition est unique
D´emonstration On prend pour H
i
les k-sous-groupes distingu´es connexes mi-
nimaux de G pour lesquels Γ ∩ H
i
est un r´eseau du groupe H
i
.
Par minimalit´e, Γ∩H
i
est un r´eseau irr´eductible de H
i
. En effet un sous-groupe
distingu´e ferm´e de H
i
est ouvert dans son adh´erence de Zariski.
D’apr`es la proposition 7.5, le produit des H
i
est ´egal `a G. Il reste ` a v´erifier
que, pour tout i = j, H
i
∩ H
j
est fini. Grace ` a la proposition 7.5, il suffit pour
cela de remarquer que, comme les images de Γ dans G/H
i
et G/H
j
sont discr`etes,
l’image de Γ dans G/(H
i
∩ H
j
) est aussi discr`ete.
Le th´eor`eme d’ergodicit´e de Howe Moore s’´etend facilement aux r´eseaux irr´e-
ductibles.
Corollaire 7.7 Soient k = R et G = G
k
le groupe des k-points d’un k-groupe
semisimple, Γ ⊂ G un r´eseau irr´eductible. Notons G
e
le plus petit sous-groupe
ouvert de G et supposons que ΓG
e
= G. Alors, l’action de G est m´elangeante sur
X = G/Γ. En particulier, pour tout ´el´ement g ∈ G qui engendre un sous-groupe
non-born´e de G, l’action de g sur X est ergodique
Remarque Comme k = R, le groupe G
e
est la composanre connexe de G. Mais
bien sˆ ur, le corollaire est encore valable pour une extension finie k de Q
p
.
D´emonstration du corollaire 7.7 D’apr`es le th´eor`eme 6.2, il suffit de remar-
quer que pour tout sous-groupe distingu´e ferm´e non compact G
t
de G les seules
fonctions G
t
-invariantes de L
2
(X, dx) sont les fonctions constantes.
62
Soit ϕ une telle fonction. On peut supposer que G
t
est le plus grand sous-groupe
distingu´e laissant ϕ invariante. On peut aussi supposer ϕ born´ee. Supposons par
l’absurde que dimG
t
< dimG. Comme G
t
est distingu´e, on peut voir ϕ comme une
fonction mesurable sur G invariante par translation ` a droite par le groupe G
t
Γ.
Comme la translation de G sur L

(G) pour la topologie faible est continue, ϕ est
aussi invariante par le groupe H adh´erence de G
t
Γ. Comme Γ est irr´eductible, la
proposition 7.5 prouve que l’on a dimH > dimG
t
. Par Zariski densit´e, l’alg`ebre
de Lie h de H est un id´eal de g. Ceci contredit la maximalit´e de G
t
. Donc G
t
est
ouvert dans G. L’hypoth`ese G = ΓG
e
assure alors que G
t
= G.
7.3 Groupes moyennables
Un espace vectoriel topologique localement convexe est dit espace de Fr´echet
s’il est m´etrisable et complet.
D´efinition 7.8 Un groupe topologique G est moyennable si, pour tout espace de
Fr´echet E, tout compact convexe non vide C ⊂ E et toute action lin´eaire continue
de G sur E laissant stable C, il existe un point fixe c de G dans C.
Voici quelques exemples.
Lemme 7.9 a) Un groupe compact est moyennable.
b) Un groupe ab´elien est moyennable.
c) Une extension de groupes moyennables est moyennable.
d) Un groupe de Lie semisimple connexe non compact n’est pas moyennable.
D´emonstration a) Notons G ce groupe compact et dg sa probabilit´e de Haar.
Alors, pour tout point v ∈ C, le barycentre c :=

G
g.v dg convient.
b) Notons G ce groupe ab´elien. Pour tout sous-groupe H de G, on note E
H
le
Fr´echet E
H
:= ¦v ∈ E [ Hv = v¦ et C
H
le compact convexe C
H
:= C ∩ E
H
. On
veut montrer que C
G
est non vide. Montrons tout d’abord que si H est engendr´e
par un ´el´ement g, alors C
H
est non vide. On emploie l’argument classique de
Kakutani. On part d’un point v ∈ C et on consid`ere la suite v
n
=
1
n
(v+ +g
n−1
v)
dans C. Elle admet une valeur d’adh´erence c ∈ C. Comme g
n
v reste dans C, la
suite gv
n
−v
n
=
1
n
(g
n
v −v) converge vers 0. Donc le point c est g invariant.
Par r´ecurrence sur le nombre de g´en´erateurs, on en d´eduit que, pour tout sous-
groupe H de type fini de G, on a C
H
= ∅. Cette famille de compacts non vide
C
H
est stable par intersection finie, donc l’intersection C
G
de tous ces compacts
est non vide. Le groupe G a bien un point fixe dans C.
c) Notons 1 →H →G →K →1 cette extension o` u H et K sont moyennable.
Comme H est moyennable l’ensemble C
H
:= ¦v ∈ C [ Hv = v¦ est un compact
convexe non vide du Fr´echet E
H
:= ¦v ∈ E [ Hv = v¦ sur lequel le groupe
moyennable K = G/H agit continument. Le groupe K a donc un point fixe dans
C
H
, c’est le point cherch´e.
63
d) Notons G ce groupe de Lie semisimple, P un sous-groupe parabolique mi-
nimal de G, X = G/P, E = ´(X) l’espace des mesures finies sur X. Comme
X est compact, E est le dual de l’espace C(X) des fonctions continues sur X.
On munit C(X) de la norme |ϕ|

= sup
x∈X
[ϕ(x)[. On munit E de la topologie
faible : elle est d´efinie par la famille de semi-normes p
ϕ
: µ → p
ϕ
(µ) =

X
ϕdµ

avec ϕ ∈ C(X). C’est un Fr´echet.
Soit C = {(X) ⊂ E le convexe des probabilit´es sur X. Ce convexe C est un
ferm´e dans la boule unit´e de E pour la norme forte |µ| = sup
|ϕ|

=1
[P
ϕ
(µ)[.
Comme la boule unit´e est faiblement compact, C aussi.
Mais G n’a pas de points fixes dans C. En effet, le compact maximal K de G
agit transitivement sur X. Il y a donc une seule probabilit´e K-invariante ν sur
X. Malheureusement cette probabilit´e n’est pas invariante par un ´el´ement a de
l’int´erieur de la chambre de Weyl car, en notant x
0
le point base de G/P, pour
tout x dans l’ouvert U

x
0
, on a lim
n→∞
a
n
x = x
0
.
Corollaire 7.10 a) Un groupe de Lie connexe est moyennable ssi le quotient par
son radical r´esoluble est compact.
b) Soit G un groupe de Lie r´eel semisimple connexe et P un sous-groupe parabo-
lique minimal de G. Alors P est moyennable.
D´emonstration a) Cela r´esulte directement du lemme 7.9.
b) Cela r´esulte du th´eor`eme 3.14.b et du lemme 7.9.
Remarques - On a donc trouv´e dans G un sous-groupe moyennable P tel que
le quotient G/P est compact.
- Plus g´en´eralement, soit k = R, C ou une extension finie de Q
p
. Soit G un
k-groupe semisimple et P un k-sous-groupe parabolique minimal. Alors le groupe
P
k
est moyennable et le quotient G
k
/P
k
est compact.
7.4 L’application aux bords
Partant de l’action d’un r´eseau Γ sur un espace compact X, on va
construire une application aux bords.
Proposition 7.11 (Furstenberg) Soient G un groupe de Lie semisimple, Γ ⊂
G un r´eseau et P ⊂ G un sous-groupe parabolique minimal. Pour toute action
continue de Γ sur un espace m´etrique compact X, il existe une application mesu-
rable Γ-´equivariante Φ : G/P →{(X).
- Rappelons qu’on a not´e C(X) := ¦fonctions continues sur X¦, ´(X) :=
¦mesures born´ees sur X¦ et {(X) := ¦probabilit´es sur X¦.
- Nous avons muni implicitement G/P d’une mesure G-quasiinvariante, par
exemple une mesure K-invariante ν
0
.
64
- Mesurable signifie que pour toute partie borelienne E
t
de l’espace m´etrique
compact {(X), l’image inverse Φ
−1
(E
t
) est mesurable dans G/P i.e. ´egale `a une
partie bor´elienne G/P modulo une partie n´egigable.
- Γ-´equivariante signifie que pour tout γ ∈ Γ et presque tout ξ ∈ G/P, on a
Φ(γξ) = γΦ(ξ).
- L’application Φ est appel´ee application aux bords, puisque G/P peut ˆetre vue
comme un bord de l’espace sym´etrique G/K.
D´emonstration Soit F := L
1
Γ
(G, C(X)) l’espace des applications mesurables
Γ-´equivariantes f : G → C(X) telles que |f| :=

Γ\G
|f(g)|

dg < ∞. Soit
E := L

Γ
(G, ´(X)) l’espace des applications mesurables born´ees Γ-´equivariantes
m : G →´(X). La dualit´e
<m, f >:=

Γ\G
<m(g), f(g)> dg
identifie E avec le dual continu F, parce que si Y est un domaine fondamental
de Γ dans G, on a F · L
1
(Y, C(X)) et E · L

(Y, C(X)

) · F

. La partie
A = L

Γ
(G, {(X)) ⊂ E est convexe, ferm´ee et born´ee, elle est donc faiblement
compacte. La translation `a droite sur G induit des actions continues de G sur F,
E et A.
Par le corollaire 7.10.b, le groupe P est moyennable, il a donc un point fixe
Φ dans A. Ce point Φ est l’application mesurable cherch´ee. En effet, un ´el´ement
P-invariant de E est presque sˆ urement ´egal ` a une fonction mesurable qui est
constante sur les orbites de P.
- Cette application au bord jouera pour le th´eor`eme de superrigidit´e le rˆ ole de
l’application au bord construite par Mostow par des m´ethodes g´eom´etriques pour
montrer son th´eor`eme de rigidit´e. Nous aurons besoin d’outils issus de la th´eorie
ergodique pour l’exploiter
65
8 Th´eorie ergodique
Ce court chapitre est constitu´e de rappels de th´eorie ergodique, en
vue de leur utilisation dans la d´emonstration du th´eor`eme de super-
rigidit´e et du th´eor`eme de Ratner.
8.1 Probabilit´es ergodiques
Soit (X, B, µ, f) un syst`eme dynamique probabilis´e, autrement dit B est une
σ-alg`ebre de parties de X, µ est une mesure de probabilit´e sur B et f : X → X
une application B-mesurable qui pr´eserve µ.
Plus g´en´eralement, soit f une transformation B-mesurable qui pr´eserve la classe
de µ.
D´efinition 8.1 On dit que f est ergodique (pour µ) si toute partie mesurable f-
invariante est n´egligeable ou de compl´ementaire n´egligeable, i.e. pour tout A ∈ B,
f
−1
(A) = A =⇒µ(A) = 0 ou 1.
Remarque Lorsque la transformation f est sous-entendue, c’est la mesure µ que
l’on qualifie d’ergodique.
La proposition suivante donne une interpr´etation L
2
de l’ergodicit´e d’une trans-
formation f qui pr´eserve une probabilit´e µ. Cette interpr´etation relie donc les
propri´et´es dynamiques de f aux propri´et´es spectrales de l’op´erateur unitaire
U
f
: ϕ →ϕ ◦ f de L
2
(X, µ).
Proposition 8.2 La transformation f est ergodique ssi les fonctions constantes
sont les seuls ´el´ements f-invariants de L
2
(X, µ).
D´emonstration ⇐La fonction caract´eristique ϕ = 1
A
d’une partie f-invariante
est un ´el´ement f-invariant de L
2
(X, µ). On a donc ϕ = 0 ou ϕ = 1.
⇒ Soit ϕ ∈ L
2
(X, µ) un ´el´ement f-invariant. Cela signifie que ϕ ◦ f = ϕ
µ-presque sˆ urement. Une telle fonction ϕ est µ-presque sˆ urement ´egale ` a une
fonction ϕ
0
telle que ϕ
0
(x) = ϕ
0
(f(x)) pour tout x ∈ X. Les parties A
t
=
ϕ
−1
0
([t, ∞)) sont f-invariantes et donc de mesure 0 ou 1. La fonction ϕ
0
est donc
presque sˆ urement constant.
8.2 Dynamique des transformations ergodiques
Voici une proposition qui permet de comprendre la force de la no-
tion d’ergodicit´e. Cette proposition ´etaye l’intuition“je passe partout”
sous-jacente au mot ergodique dans un contexte topologique.
66
Proposition 8.3 Soit X un espace m´etrique localement compact s´eparable, µ
une probabilit´e bor´elienne sur X et f : X →X un hom´eomorphisme qui pr´eserve
la classe µ. Si f est ergodique alors µ-presque toute orbite O
x
:= ¦f
n
(x) [ n ∈ Z¦
est dense dans supp(µ).
D´emonstration On peut supposer que X = supp(µ) Soient D une partie d´e-
nombrable dense de X et T l’ensemble des boules ouvertes centr´ees en D de rayon
rationnel positif. Pour tout B ∈ T, l’ensemble A
B
:= ∪
p∈Z
f
−p
(B) des points dont
l’orbite passe dans B v´erifie f
−1
(A
B
) = A
B
. Par ergodicit´e de f, on a µ(A
B
) = 1.
L’intersection A = ∩
B∈T
A
B
v´erifie aussi µ(A) = 1. Les orbites des points de A
sont denses dans X.
Remarque Toute transformation continue f d’un espace compact X pr´eserve
au moins une probabilit´e bor´elienne. Cela r´esulte du lemme 7.9.b. En outre, cette
probabilit´e f-invariante peut-ˆetre choisie ergodique. Cela r´esulte du th´eor`eme de
Krein-Milman car une probabilit´e G-invariante est ergodique ssi c’est un point
extr´emal du convexe ferm´e {(X)
G
des probabilit´es G invariantes sur X.
Plus g´en´eralement, soit G un groupe localement compact s´eparable qui agit de
fa¸con mesurables sur un espace probabilis´e (X, B, µ) en pr´eservant la classe de
µ. Cette action est dite ergodique si les seules parties mesurables G-invariantes
v´erifient µ(A) = 0 ou 1.
On a l’extension suivante de la proposition 8.3.
Proposition 8.4 Soit X un espace m´etrique localement compact s´eparable, µ
une probabilit´e bor´elienne sur X et G un groupe localement compact s´eparable qui
agit continument sur X en pr´eservant la classe de µ. On suppose l’action de G
ergodique. Alors µ-presque toute orbite Gx est dense dans supp(µ).
D´emonstration C’est la mˆeme que celle de la proposition 8.3.
Corollaire 8.5 On garde les notations et hypoth`eses de la proposition 8.4. Soit
1 une relation d’´equivalence sur X dont les classes d’´equivalence sont localement
ferm´ees et G-invariantes. Alors il existe une classe d’´equivalence Ω telle que
µ(Ω) = 1.
D´emonstration Soit Ω une classe d’´equivalence rencontrant une des orbites Gx
dont l’adh´erence est Gx = supp(µ). On a donc supp(µ) ⊂ Ω. Si µ(Ω) = 0, comme
Ω est localement ferm´ee, on aurait supp(µ) ⊂ Ω Ω, ce qui contredirait le fait
que x est dans supp(µ). Par ergodicit´e, on a donc µ(Ω) = 1.
Remarque Ce corollaire est utile lorsque G est un sous-groupe d’un groupe H
R
o` u H est un R-groupe agissant de fa¸con alg´ebrique sur une R-vari´et´e X : comme
les H
R
-orbites dans X
R
sont localement ferm´ees, les mesures G-ergodiques sur
X
R
sont alors port´ees par des H
R
-orbites.
67
8.3 Th´eor`eme ergodique
Le th´eor`eme ergodique de Birkhoff exprime de fa¸con pr´ecise une
id´ee intuitive pour une transformation ergodique : pour toute partie
mesurable A, la proportion de temps pass´e dans A par presque toutes
les orbites est ´egale `a la mesure de A.
Th´eor`eme 8.6 (Birkhoff) Soit (X, B, µ, f) un syst`eme dynamique probabilis´e.
Pour tout ϕ ∈ L
1
(X, µ), on note ϕ
n
(x) =
¸
0≤i<n
ϕ(f
i
(x)).
a) La limite ¯ ϕ(x) := lim
n→∞
1
n
ϕ
n
(x) existe µ-presque partout.
b) On a ¯ ϕ ◦ f = ¯ ϕ µ-presque partout.
c) On a |¯ ϕ|
L
1 ≤ |ϕ|
L
1.
d) La convergence a lieu dans L
1
, i.e. lim
n→∞
|
1
n
ϕ
n
− ¯ ϕ|
L
1 = 0.
e) Pour toute partie f-invariante A de X, on a

A
¯ ϕdµ =

A
ϕdµ.
f ) En particulier, si µ est ergodique, on a ¯ ϕ(x) =

X
ϕdµ µ-presque partout.
Remarques - La somme ϕ
n
(x) s’appelle somme orbitale ou somme de Birkhoff de
ϕ. L’int´egrale

X
ϕdµ s’appelle la moyenne spatiale de ϕ. Le th´eor`eme de Birkhoff
affirme donc, dans le cas ergodique, que les moyennes orbitales convergent presque
partout vers la moyenne spatiale.
- L’assertion e) signifie que ¯ ϕ est l’esp´erance conditionnelle de ϕ relativement
` a la σ-alg`ebre B
f
des parties f-invariantes : ¯ ϕ = E(ϕ[B
f
).
Lemme 8.7 (in´egalit´e maximale) Soient ϕ
n
∈ L
1
R
(X, µ) une suite sous-
additive i.e. telle que, pour tout m, n ≥ 1, on a ϕ
m+n
≤ ϕ
m
◦ f
n
+ ϕ
n
. On
note ϕ = ϕ
1
et ϕ

= sup
n≥1
ϕ
n
. Alors, on a



>0¦
ϕdµ ≥ 0.
D´emonstration Soient ψ
n
= max¦0, ϕ, ϕ
2
, . . . , ϕ
n
¦ et E
n
= ¦x ∈ X [ ψ
n
(x) >
0¦. Sur E
n
, on a ψ
n
≤ ϕ + ψ
n−1
◦ f tandis que sur le compl´ementaire E
c
n
, on a
ψ
n
= 0 et ψ
n−1
◦ f ≥ 0. On a donc

E
n
ϕ ≥

E
n
ψ
n

E
n
ψ
n−1
◦ f ≥

X
ψ
n

X
ψ
n−1
◦ f ≥

X
ψ
n
−ψ
n−1
≥ 0.
Or ¦ϕ

> 0¦ = ∪E
n
. On a donc



>0¦
ϕdµ ≥ 0.
D´emonstration du th´eor`eme 8.6 a) Pour d´emontrer l’existence de la limite,
il suffit de voir que, pour tous rationnels α < β, l’ensemble
E
α,β
:= ¦x ∈ X [ liminf
n→∞
1
n
ϕ
n
(x) < α < β < limsup
n→∞
1
n
ϕ
n
(x)¦
68
est de mesure nulle. Remarquons que
lim
n→∞
1
n

n+1
(x) −ϕ
n
(f(x))) = lim
n→∞
1
n
ϕ(x) = 0
et donc que f
−1
(E
α,β
) = E
α,β
. On peut donc appliquer l’in´egalit´e maximale sur
la partie E
α,β
aux fonctions ϕ −β et α −ϕ. On obtient

E
α,β
(ϕ −β) ≥ 0 et

E
α,β
(α −ϕ) ≥ 0.
On en d´eduit

E
α,β
(α −β) ≥ 0 et donc µ(E
α,β
) = 0.
b) C’est clair car
1
n

n+1
(x) −ϕ
n
(f(x))) converge vers 0.
c) On peut supposer que ϕ est positive. Cela r´esulte alors du lemme de Fatou :

X
¯ ϕ =

X
lim
n→∞
1
n
ϕ
n
(x) ≤ lim
n→∞
1
n

X
ϕ
n
(x) =

X
ϕ.
d) Lorsque ϕ est born´ee, cela r´esulte du th´eor`eme de convergence domin´ee. Le
cas g´en´eral s’en d´eduit par densit´e. En effet, pour tout ε > 0, on peut trouver ψ
born´ee telle que |ϕ−ψ|
L
1 ≤ ε/3. On a donc, pour tout n ≥ 1, |
1
n
ϕ
n

1
n
ψ
n
| ≤ ε/3
et, par c), |¯ ϕ −
¯
ψ|
L
1 ≤ ε/3. Pour n grand, on a alors |
1
n
ψ
n

¯
ψ| ≤ ε/3 et donc
|
1
n
ϕ
n
− ¯ ϕ| ≤ ε. C’est ce que l’on voulait.
e) Cela r´esulte de d) car

A
ϕ =

A
1
n
ϕ
n
.
f) Par b), la fonction ¯ ϕ est constante presque partout.
La proposition suivante due `a Egorov permet de remplacer dans le th´eor`eme
de Birkhoff la convergence presque sure par une convergence uniforme en dehors
d’un ensemble de mesure arbitrairement petite.
Proposition 8.8 Soit (X, B, µ) un espace probabilis´e et f
n
une suite de fonctions
mesurables sur X qui converge µ-presque sˆ urement vers une fonction f.
Alors pour tout ε > 0, il existe une partie mesurable Z ⊂ X tel que µ(Z
c
) ≤ ε
et la convergence f
n
(x) →f(x) est uniforme pour x ∈ Z.
D´emonstration Posons Z
m,n
:= ¦x ∈ X [ [f
i
(x) − f
j
(x)[ ≤
1
m
, pour i, j ≥ n¦.
Choisissons une suite n
m
telle que µ(Z
m,n
m
) ≥ 1−ε/2
p
et posons Z = ∪
m≥1
Z
m,n
m
.
Par construction, la convergence f
n
(x) → f(x) est uniforme pour x ∈ Z et on a
µ(Z) ≥ 1 −ε.
8.4 Martingales
Le th´eor`eme des martingales est avec le th´eor`eme de Birkhoff l’un
des piliers de la th´eorie des probabilit´es.
Soit (X, B, µ) un espace probabilis´e et B
n
une suite croissante de sous-σ-
alg`ebres.
69
D´efinition 8.9 Soit f
n
une suite de fonctions int´egrables et B
n
-mesurables.
La suite f
n
est une martingale si f
n
= E(f
n+1
[B
n
).
La suite f
n
est une sousmartingale si f
n
≤ E(f
n+1
[B
n
).
La suite f
n
est une surmartingale si f
n
≥ E(f
n+1
[B
n
).
Pour t ∈ R, on note t
+
= max(t, 0).
Remarques - Une martingale peut ˆetre vue comme un objet dont les f
n
ne sont
que des approximations. Un peu comme la donn´ee d’un r´eel par son d´eveloppe-
ment d´ecimal.
- Seules les martingales nous seront utiles par la suite. Nous n’utiliserons les
sousmartingales et surmartingales. que pour d´emontrer le th´eor`eme de conver-
gence des martingales. Elles sont utiles car si une suite f
n
est une sousmartingale,
les suites f
+
n
et [f
n
[ sont encore des sousmartingales.
Exemple Soient X = ¦0, 1¦
N

muni de la probabilit´e de Bernoulli µ = α
⊗N
avec α =
1
2

0
+ δ
1
), p
n
: X → ¦0, 1¦
n
l’application donn´ee par p
n
(x
1
, x
2
, . . .) =
(x
1
, . . . , x
n
) et B
n
la σ-alg`ebre form´ee des parties p
−1
n
(E) pour E ⊂ ¦0, 1¦
n
. Dans
ce cas la donn´ee d’une martingale f
n
´equivaut ` a la donn´ee d’une mesure born´ee
ν sur X. Le lien entre les deux est donn´e par f
n
(x) = 2
−n
ν(F
n
(x)), pour x ∈ X,
o` u F
n
(x) est la fibre de p
n
contenant x. Le fait que ces deux donn´ees soient
´equivalentes est dˆ u au th´eor`eme de Carath´eodory.
Comme dans l’exemple ci-dessus, dans la plupart des applications, l’espace X
est muni d’une famille de surjections mesurables p
n
: (X, B) →(Y
n
, (
n
) telles que
B
n
= p
−1
n
((
n
). Ces surjections sont de plus en plus fines de sorte que la suite B
n
est croissante. La martingale est donc un objet sur X dont les fonctions f
n
ne
sont que ses “moyennes sur les fibres de p
n
” .
Voici le th´eor`eme de convergence ps des martingales
Th´eor`eme 8.10 (Doob) Soit f
n
une sous-martingale sur (X, B, µ) telle que
sup
n≥0
|f
n
|
L
1 < ∞. Alors la limite f

(x) = lim
n→∞
f
n
(x) existe µ-presque sˆ urement..
Nous dirons que f
n
est L
1
-born´ee si sup
n≥0
|f
n
|
L
1 < ∞.
Exemple Reprenons l’exemple ci-dessus et ´ecrivons grˆ ace au th´eor`eme de d´e-
composition des mesures ν = fµ + ν
s
avec ν
s
´etrang`ere ` a µ. On a alors l’´egalit´e
f

= f. La limite presque sˆ ure ne donne donc aucun renseignement sur la partie
singuli`ere ν
s
.
Remarque En g´en´eral la limite presque sˆ ure f

d’une martingale ne permet
pas de reconstituer la martingale. C’est le cas si et seulement si la convergence
de f
n
vers f

est une convergence L
1
. On a alors f
n
= E(f

[B
n
). Une condition
70
suffisante qui l’assure est sup
n≥0
|f
n
|
Llog L
< ∞ o` u cette norme est la norme L
1
de
la fonction [f
n
[ log
+
[f
n
[.
D´emonstration du th´eor`eme de Doob Elle r´esulte des trois lemmes 8.11,
8.12 et 8.13 suivants.
Le premier lemme est la d´ecomposition de Kricheberg.
Lemme 8.11 Toute sousmartingale L
1
-born´ee f
n
s’´ecrit f
n
= m
n
− s
n
o` u m
n
est une martingale positive L
1
-born´ee et s
n
une surmartingale positive L
1
-born´ee.
D´emonstration La suite f
+
n
est une sousmartingale positive et on a, pour k ≥ n
E(f
+
k
[B
n
) ≤ E(f
+
k+1
[B
n
).
Notons m
n
= lim
k→∞
E(f
+
k
[B
n
). C’est une martingale positive telle que E(m
n
) ≤
sup
n≥0
E(f
+
n
) < ∞ car l’esp´erance conditionnelle commute ` a la limite croissante.
Donc m
n
est L
1
-born´ee et s
n
= m
n
−f
n
est une surmartingale L
1
-born´ee.
Le deuxi`eme lemme affirme qu’une surmartingale est un jeu d´efavorable quelle
que soit la strat´egie : plus on arrˆete tard la surmartingale plus l’esp´erance de gain
est faible.
On appelle temps d’arrˆet une application B-mesurable σ : X →N∪ ¦∞¦ telle
que, pour tout n ≥ 0, l’ensemble σ
−1
(n) est B
n
-mesurable.
On note alors s
τ
: ω →s
τ(ω)
(ω) avec la convention s

= 0.
Lemme 8.12 Soit s
n
une surmartingale positive et σ, τ deux temps d’arrˆet avec
σ ≤ τ. Alors

X
s
σ
dµ ≥

X
s
τ
dµ.
D´emonstration Pour m ≤ n, on a

|σ=m, τ>n¦
s
n

|σ=m, τ>n¦
s
n+1
car τ et σ sont des temps d’arrˆet et s
n
est une surmartingale. On en d´eduit, en
notant τ ∧ n := inf(τ, n),

|σ=m¦
s
τ∧n

|σ=m¦
s
τ∧(n+1)
et donc en mettant bout ` a bout ces in´egalit´es pour n ≥ m, en se souvenant que
τ ≥ σ, et en utilisant Fatou

|σ=m¦
s
m
≥ ≥

|σ=m¦
s
τ∧n
≥ ≥

|σ=m¦
s
τ
d’o` u, en sommant sur m,

X
s
σ

X
s
τ
.
71
Lemme 8.13 Toute surmartingale positive s
n
converge µ-presque sˆ urement.
D´emonstration Pour d´emontrer l’existence de la limite de s
n
, il suffit de voir
que, pour tous rationnels α < β, l’ensemble
E
α,β
:= ¦x ∈ X [ liminf
n→∞
s
n
(ω) < α < β < limsup
n→∞
s
n
(ω)¦
est de mesure nulle pour µ-presque tout ω. Pour cela, on introduit par r´ecurrence
des temps d’arrˆet τ
i
par τ
0
= 0 et, pour i ≥ 1,
τ
2i+1
= inf¦n > τ
2i
[ s
n
> β¦
τ
2i
= inf¦n > τ
2i−1
[ s
n
< α¦.
On a alors, en notant p
i
:= µ(¦τ
i
< ∞¦), et en utilisant le lemme 8.12
β p
2i+1

X
s
τ
2i+1

X
s
τ
2i
≤ αp
2i
≤ αp
2i−1
.
Donc µ(E
α,β
) ≤ p
2i+1
≤ (
α
β
)
i
p
1
pour tout i ≥ 1 et µ(E
α,β
) = 0.
72
9 Mesures stationnaires
Les mesures stationnaires sont des mesures qui d´ecrivent le com-
portement asymptotique des marches al´eatoires.
Nous montrons dans ce chapitre comment les utiliser pour montrer
des th´eor`emes d’existence et d’unicit´e pour des “applications mesu-
rables ´equivariantes entre les bords”.
9.1 Existence d’une mesure limite
Soit G un groupe localement compact s´eparable, µ une probabilit´e bor´elienne
sur G et X un espace localement compact m´etrisable muni d’une action continue
de G. On note {(X) l’espace des probabilit´es bor´eliennes sur X.
Pour toute probabilit´e (bor´elienne) ν sur X, on note µ ∗ ν la convol´ee
µ ∗ ν :=

G
g

ν dµ(g).
On note µ
∗n
la probabilit´e µ∗ . . . ∗ µ convol´ee de n probabilit´es toutes ´egales `a µ.
D´efinition 9.1 Une probabilit´e bor´elienne ν sur X est dite µ-harmonique ou
µ-stationnaire si on a µ ∗ ν = ν.
Remarque Le terme harmonique vient de ce que ν coincide avec la moyenne de
ses translat´ees. Le terme stationnaire exprime le fait que ν est une loi asympto-
tique possible pour une “marche al´eatoire sur X dont les lois de transitions sont
ind´ependantes et donn´ees par µ”.
Lemme 9.2 Lorsque X est compact, il existe toujours des mesures stationnaires.
D´emonstration Comme X est compact, l’espace {(X) est un convexe compact
dans le Fr´echet ´(X) des mesures born´ees muni de la topologie faible. L’argu-
ment de Kakutani prouve l’existence d’un point fixe par l’op´erateur de convolution
par µ : on part de n’importe quelle probabilit´e ν
0
∈ {(X) et on prend pour ν
une valeur d’adh´erence de la suite ν
n
:=
1
n

0
+ µ ∗ ν
0
+ + µ
∗n
∗ ν
0
) ∈ {(X).
Comme ν
n
−µ ∗ ν
n
tend vers 0, la probabilit´e ν est µ-stationnaire.
On note Ω l’espace produit Ω = G
N
, B sa tribu bor´elienne et µ la probabilit´e
produit sur (X, B). C’est l’unique probabilit´e dont l’image dans chaque G
n
est
la probabilit´e produit µ
⊗n
. Par le th´eor`eme de Carath´eodory, cette probabilit´e µ
existe et est unique. On note g
i
: Ω →G; ω →g
i
(ω) les fonctions coordonn´ees.
Lemme 9.3 a) La limite
ν
ω
:= lim
n→∞
g
0
(ω)

g
n
(ω)

ν ∈ {(X)
73
existe pour µ-presque tout ω.
b) Pour tout k ≥ 1, on a l’´egalit´e, pour µ
∗k
-presque tout g et µ-presque tout ω,
lim
n→∞
g
0
(ω)

g
n
(ω)

g

ν = ν
ω
.
c) On a l’´egalit´e ν =


ν
ω
dµ(ω).
D´emonstration Nous ne donnerons la preuve que pour X compact.
a) Notons B
n
= 'g
0
, . . . , g
n
` la σ-alg`ebre engendr´ee par les fonctions g
0
, . . . , g
n
.
Pour ϕ ∈ C(X), on note Φ ∈ C(G) la fonction
g →Φ(g) = (g

ν)(ϕ) =

X
ϕ(gx)dν(x).
Le fait que ν soit µ-stationaire se traduit par l’´egalit´e, pour tout g ∈ G,
Φ(g) =

G
Φ(gh)dµ(h).
La suite de fonction f
n
∈ L

(Ω)
f
n
: ω →Φ(g
0
(ω) g
n
(ω))
est une martingale pour B
n
. En effet, on a l’´egalit´e, pour tout n ≥ 1,
E(f
n+1
[B
n
)(ω) =

G
Φ(g
0
(ω) g
n
(ω)g)dµ(g)
= Φ(g
0
(ω) g
n
(ω)) = f
n
(ω).
Comme cette martingale est born´ee par |ϕ|

, le th´eor`eme 8.10 de Doob prouve
qu’elle converge µ-ps. En utilisant une famille d´enombrable dense de fonctions
ϕ ∈ C(X), la limite ν
ω
= lim
n→∞
g
0
(ω)

g
n
(ω)

ν existe pour µ-presque tout ω.
b) En plus des fonctions Φ et f
n
ci-dessus, introduisons les fonctions f
g
n

L

(Ω) pour g ∈ G donn´ees par
f
g
n
: ω →Φ(g
0
(ω) g
n
(ω)g)
et calculons les int´egrales
I
n
=

G
[f
n
(ω) −f
g
n
(ω)[
2

∗k
(g) dµ(ω)
=

G

G
[Φ(h) −Φ(hg)[
2

∗k
(g) dµ
∗(n+1)
(h)
=


[f
n
(ω) −f
n+k
(ω)[
2
dµ(ω)
= |f
n+k
|
2
L
2 −|f
n
|
2
L
2.
74
Dans ce calcul, on a utilis´e le fait que f
n
est une martingale ` a travers l’´egalit´e


f
n
f
n+k
dµ =


[f
n
[
2
dµ.
On d´eduit de ce calcul que

¸
0
I
n
≤ k|ϕ|
2

.
On en d´eduit que la fonction suivante est int´egrable

¸
0
[f
n
(ω) −f
g
n
(ω)[
2
∈ L
1
(Ω G, µ ⊗µ
∗k
).
En particulier, pour µ
∗k
-presque tout g et µ-presque tout ω, la suite f
n
(ω)−f
g
n
(ω)
converge vers 0.
c) Par le th´eor`eme de convergence domin´ee et le point a), on a


lim
n→∞
g
0
(ω)

g
n
(ω)

ν dµ(ω) = lim
n→∞


g
0
(ω)

g
n
(ω)

ν dµ(ω)
= lim
n→∞
µ
∗n
∗ ν = ν
D’o` u


ν
ω
dµ(ω) = ν.
9.2 Contraction et proximalit´e
Dans cette section, on montre qu’une marche al´eatoire lin´eaire
contracte presque sˆ urement autant que son support peut le permettre.
Soit k = R, C ou une extension finie de Q
p
. Dans cette partie µ est une
probabilit´e sur le groupe G = GL(d, k). Ce groupe G agit sur V = k
d
ainsi que
sur l’espace projectif X = P(V ).
On note Γ
µ
le plus petit sousgroupe ferm´e de G qui contient le support de µ.
D´efinition 9.4 On dit qu’un sous-groupe Γ ⊂ G est fortement irr´eductible (sur
V ) si Γ ne laisse invariant aucune union finie de sous-espaces propres de V .
Il est ´equivalent de dire que la composante connexe de l’adh´erence de Zariski
de Γ agit de fa¸con irr´eductible sur V .
On note p = p
Γ
le plus petit entier non nul pour lequel il existe une matrice
π ∈ ´(d, k) de rang p telle que π = lim
n→∞
λ
n
γ
n
avec λ
n
∈ k et γ
n
∈ Γ.
D´efinition 9.5 On dit que Γ est proximal si p
Γ
= 1.
La proposition suivante donne les premi`eres propri´et´es des marches al´eatoires
lin´eaires.
75
Proposition 9.6 Soit µ une probabilit´e bor´elienne sur G = GL(d, k) telle que
Γ
µ
est fortement irr´eductible. On note p = p
Γ
µ
.
a) Il existe une application mesurable J : Ω →Gr
p
(V ); ω →J
ω
de Ω = G
N
dans
la Grassmannienne des p-plans de V telle que, pour µ-presque tout ω ∈ Ω, toute
valeur d’adh´erence non nulle M d’une suite λ
n
g
0
(ω) g
n
(ω), avec λ
n
∈ k, a
pour image Im(M) = J
ω
.
b) Pour tout hyperplan W ⊂ V , on a µ(¦ω ∈ Ω [ J
ω
⊂ W¦) = 0.
La d´emonstration repose sur l’´etude des probabilit´es µ-stationnaires sur P(V ).
On sait par le lemme 9.2 qu’il en existe toujours.
Lemme 9.7 Soit µ une probabilit´e bor´elienne sur G = GL(d, k) telle que Γ
µ
est
fortement irr´eductible. Soit ν une probabilit´e µ-stationnaire sur P(V ).
Pour tout hyperplan W ⊂ V , on a ν(P(W)) = 0.
D´emonstration du lemme 9.7 Soit r la plus petite dimension d’un espace
W ⊂ V tel que ν(P(W)) = 0. On a, pour tous sous-espaces W
1
= W
2
de dimension
r,
ν(P(W
1
) ∪ P(W
2
)) = ν(P(W
1
)) + ν(P(W
2
)).
De sorte que, pour tout α > 0, il n’existe qu’un nombre fini de sous-espaces W
de dimension r tels que ν(P(W)) ≥ α. Notons
α
0
= max¦ν(P(W)) [ dimW = r¦,
F = ¦W [ dimW = r et ν(P(W)) = α
0
¦.
Cet ensemble F est fini. Comme ν est µ-stationnaire, on a l’´egalit´e
ν(P(W)) =

G
ν(P(gW)) dµ(g).
On en d´eduit que F est Γ
µ
-invariant. Ceci contredit la forte irr´eductibilit´e de Γ
µ
.
D´emonstration de la proposition 9.6 Par d´efinition, la valeur d’adh´erence
M est de rang ≥ p.
Soit ν une probabilit´e µ-stationnaire sur P(V ). Notons J
ω
le plus petit sous-
espace vectoriel de V tel que P(J
ω
) contient le support de ν
ω
. Par le lemme 9.7,
on a ν(P(KerM)) = 0. La probabilit´e M

ν a donc un sens et on a, par le lemme
9.3.a, l’´egalit´e
M

ν = ν
ω
.
En cons´equence, par le mˆeme lemme 9.7, l’image ImM est le plus petit sous-espace
W tel que P(W) contient le support de ν
ω
. On a donc ImM = J
ω
.
76
Ceci prouve simultan´ement que l’image ImM ne d´epend pas du choix de la va-
leur d’adh´erence M, que J
ω
ne d´epend pas du choix de la probabilit´e stationnaire
ν et que dimJ
ω
≥ p.
Il reste ` a montrer que dimJ
ω
= p. Le mˆeme raisonnement avec le lemme 9.3.b
prouve que, pour µ
∗k
-presque tout g, on a
M

g

ν = ν
ω
.
Par continuit´e, cette ´egalit´e est encore vraie, pour tout g ∈ Γ
µ
. Choisissons une
limite non nulle π de rang p d’une suite λ
n
g
n
avec λ
n
∈ k et g
n
∈ Γ
µ
. On peut
supposer, par irr´eductibilit´e de Γ
µ
que Imπ ⊂ KerM. On a encore
M

π

ν = ν
ω
.
Donc Im(M ◦ π) = J
ω
et dimJ
ω
≤ p. On a bien dimJ
ω
= p.
9.3 Proximalit´e
Dans cette section, on montre que dans une situation proximale,
la probabilit´e stationnaire ν est unique.
On en d´eduit des r´esultats d’existence et d’unicit´e d’applications
mesurables ´equivariantes entre les bords qui joueront un rˆ ole central
dans la d´emonstration du th´eor`eme de superrigidit´e.
Proposition 9.8 Soit µ une probabilit´e bor´elienne sur G = GL(d, k) telle que
Γ
µ
est proximal et fortement irr´eductible.
a) Il existe une unique probabilit´e µ-stationnaire ν ∈ {(P(V )).
b) Il existe une unique probabilit´e µ-stationnaire σ ∈ {({(P(V ))). Son support
est inclus dans l’ensemble δ
P(V )
des masses de Dirac sur P(V ).
D´emonstration L’existence de ν et de σ r´esulte du lemme 9.2.
a) On note j : Ω → P(k
d
); ω → j
ω
l’application donn´ee par la proposition 9.6
de sorte que ν
ω
= δ
j
ω
. D’apr`es le lemme 9.3, la probabilit´e ν est donc donn´ee par
ν =


δ
j
ω
dµ(ω).
b) Notons ν
σ
le centre de gravit´e de σ,
ν
σ
=

1(P(V ))
λdσ(λ) ∈ {(P(V )).
Cette probabilit´e ν
σ
est aussi µ-stationnaire. Par le lemme 9.3, pour µ-presque
tout ω, on a
lim
n→∞
g
0
(ω)

g
n
(ω)

ν
σ
= δ
j
ω
On en d´eduit que, pour µ-presque tout ω, pour tout ε > 0, pour toute fonction
ϕ ∈ C(P(V )),
lim
n→∞
σ(¦λ [ (g
0
(ω)

g
n
(ω)

λ)(ϕ) −ϕ(j
ω
) ≥ ε¦) ≤
lim
n→∞
σ(¦λ [ (g
0
(ω)

g
n
(ω)

λ)([ϕ −ϕ(j
ω
)[) ≥ ε¦) = 0
77
et donc, en notant d une distance compatible sur l’espace m´etrisable compact
{(P(V )),
lim
n→∞
σ(¦λ [ d(g
0
(ω)

g
n
(ω)

λ, δ
P(V )
) ≥ ε¦) = 0.
Par le th´eor`eme de convergence domin´ee, on a donc
lim
n→∞
σ ⊗µ(¦(λ, ω) [ d(g
0
(ω)

g
n
(ω)

λ, δ
P(V )
) ≥ ε¦) = 0.
Comme σ est µ-stationnaire, cette suite est constante ´egale ` a
σ(¦λ [ d(λ, δ
P(V )
) ≥ ε¦) = 0.
Donc σ est port´ee par le ferm´e δ
P(V )
⊂ {(P(V )) des masses de Dirac sur P(V ).
Elle peut donc ˆetre vue comme une probabilit´e sur P(V ). Cette probabilit´e est
µ-stationnaire, elle est donc ´egale `a ν.
Proposition 9.9 Soient Γ un groupe localement compact m´etrisable s´eparable,
µ ∈ {(Γ) une probabilit´e telle que Γ
µ
= Γ. Soient X
0
un espace compact m´etri-
sable sur lequel Γ agit continument et ν
0
∈ {(X
0
) une probabilit´e µ-stationnaire.
On se donne aussi une repr´esentation proximale et fortement irr´eductible de Γ
dans un espace vectoriel V .
a) Toute application mesurable Γ-´equivariante ϕ : X
0
→ {(P(V )) prend ν
0
-
presque sˆ urement ses valeurs dans l’ensemble δ
P(V )
des masses de Dirac.
b) Il existe au plus une application ν
0
-mesurable Γ-´equivariante Φ : X
0
→P(V ).
Le point a) permettra, dans la section 10.3, de construire des applications ν
0
-
mesurable Γ-´equivariante ϕ : X
0
→P(V ).
D´emonstration a) La probabilit´e σ = ϕ


0
) ∈ {({(P(V ))) est µ-stationnaire.
D’apr`es la proposition 9.8, elle est port´ee par des masses de Dirac.
b) Soient Φ
1
, Φ
2
: X
0
→P(V ) deux applications ν
0
-mesurables Γ-´equivariantes.
D’apr`es le point a), l’application ϕ : X
0
→ {({(P(V ))); ξ →
1
2

Φ
1
(ξ)
+ δ
Φ
2
(ξ)
)
prend ses valeurs dans l’espace des masses de Dirac. Donc, pour ν
0
-presque tout
ξ ∈ X
0
, on a Φ
1
(ξ) = Φ
2
(ξ).
9.4 Mesures stationnaires K-invariantes
Pour tout r´eseau Γ d’un groupe de Lie semisimple r´eel G, on
construit une probabilit´e µ de support Γ dont l’unique mesure station-
naire ν
0
sur G/P est K-invariante. On pourra alors appliquer dans la
section 10.3 la proposition 9.9 ` a cette probabilit´e K-invariante.
Soient k = R, G un k-groupe semisimple et G = G
k
. Soient P un sous-groupe
parabolique de G et K un sous-groupe compact de G tel que G = KP (voir
th´eor`eme 3.14) et ν
0
la probabilit´e K-invariante sur la vari´et´e drapeau X
0
= G/P.
78
Proposition 9.10 Pour tout r´eseau Γ ⊂ G, il existe une probabilit´e µ ∈ {(Γ)
de support Γ et telle que µ ∗ ν
0
= ν
0
.
Remarques - Comme l’action de K sur G/P est transitive, il y a une unique pro-
babilit´e K-invariante ν
0
sur G/P. En particulier, pour toute mesure K-invariante
µ
0
∈ {(G), on a l’´egalit´e µ
0
∗ ν
0
= ν
0
.
- Autrement dit, en d´epit du caract`ere discret de Γ, les trajectoires sur G/P
de la marche al´eatoire ind´ependante sur Γ de loi µ s’´equir´epartissent sur le bord
G/P selon la probabilit´e K-invariante ν
0
.
D´emonstration de la proposition 9.10 Soit µ
0
une probabilit´e K-invariante
sur G ` a support compact et ayant une densit´e non nulle par rapport ` a la mesure
de Haar sur un ouvert U de G dont les puisances U
n
recouvrent G.
Posons
τ(g) = inf¦t ∈ [0, 1] [ g

ν
0
= (1−t)µ
t
∗ν
0
+tµ
tt
∗ν
0
, µ
t
, µ
tt
∈ {(G) , suppµ
t
= Γ¦.
On esp`ere bien sˆ ur que cette fonction est constante ´egale ` a 0.
a) Montrons tout d’abord que, pour tout g ∈ G, on a τ(g) < 1. Remarquons
que pour tout γ ∈ Γ, on peut trouver n
γ
≥ 1 et ε
γ
> 0 tels que
g

µ
∗n
γ
0
> ε
γ
γ

µ
0
.
Donc
g

ν
0
= ε
γ
γ

ν
0
+ µ
tt
γ
∗ ν
0
avec µ
tt
γ
= g

µ
∗n
γ
0
−εγ

µ
0
. On choisit alors une famille a
γ
> 0 telle que
¸
γ∈Γ
a
γ
=
1. Une somme de ces ´egalit´es pond´er´ees par a
γ
donne
τ(g) ≤ 1 −
¸
γ∈Γ
a
γ
ε
γ
< 1.
b) Montrons maintenant que τ(g) est une fonction constante. Cela va r´esulter
de l’ergodicit´e de l’op´erateur de convolution par µ
0
dans L
2
(X, λ
X
) o` u X = Γ`G
et λ
X
est la probabilit´e G-invariante sur X. Plus pr´ecis´ement, remarquons que
d’une part, pour tout γ ∈ Γ, on a τ(γg) = τ(g), et, d’autre part, comme ν
0
est
µ
0
-harmonique τ(g) ≤

G
τ(gh) dµ
0
(h). On note encore τ : X →[0, 1] la fonction
induite sur X. Elle v´erifie donc
τ(x) ≤

G
τ(xh) dµ
0
(h).
C’est une fonction µ
0
-sous-harmonique born´ee. Elle est donc constante. En effet,
dans le calcul suivant bas´e sur l’in´egalit´e de Cauchy-Schwartz et sur Fubini

X
τ(x)
2

X
(x) ≤

X

G
τ(xh)
2

X
(x) dµ
0
(h) ≤

X
τ(x)
2

X
(x),
79
on doit avoir ´egalit´e dans ces in´egalit´es et donc la fonction h → τ(xh) est µ
0
-
presque sˆ urement constante. Donc τ est constante.
c) Il r´esulte de ces arguments qu’il existe < 1 tel que τ(g) < , pour tout
g ∈ G. En particulier, on peut ´ecrire, pour tout µ
1
∈ {(G),
µ
1
∗ ν
0
= (1 −)µ
t
1
∗ ν
0
+ µ
2
∗ ν
0
= (1 −)µ
t
1
∗ ν
0
+ (1 −)µ
t
2
∗ ν
0
+
2
µ
3
∗ ν
0
= (1 −)µ
t
1
∗ ν
0
+ (1 −)µ
t
2
∗ ν
0
+ (1 −)
2
µ
t
3
∗ ν
0
+
avec µ
i
∈ {(G) et µ
t
i
∈ {(Γ). Si on part de µ
1
= δ
e
, on obtient donc l’´egalit´e
ν
0
= µ ∗ ν
0
avec µ = (1 −)
¸
i≥1

i−1
µ
t
i
∈ {(Γ).
80
10 Superrigidit´e
Le but de ce chapitre est de montrer le th´eor`eme de superrigidit´e
de Margulis.
10.1 Superrigidit´e
Le th´eor`eme de superrigidit´e permet de d´ecrire toutes les repr´e-
sentations des r´eseaux d’un groupe de Lie semisimple r´eel G.
Pour pouvoir utiliser ce th´eor`eme de superrigidit´e pour montrer
le th´eor`eme d’arithm´eticit´e, on doit consid´erer non seulement des re-
pr´esentations dans des espaces vectoriels r´eels mais aussi dans des
espaces vectoriels p-adiques.
Nous verrons en outre que ces th´eor`emes s’´etendent ` a des groupes
G produit de groupes semisimples r´eels et p-adiques.
Th´eor`eme 10.1 (Margulis) Soient = R, G = G

le groupe des -points
d’un -groupe semisimple G connexe. On suppose G sans facteur compact et
rang

(G) ≥ 2. Soit Γ un r´eseau irr´eductible de G.
Soit k = R, C ou une extension finie de Q
p
, H = H
k
le groupe des k-points
d’un k-groupe simple H. Soit π : Γ → H un morphisme dont l’image π(Γ) est
Zariski dense et non born´ee.
Alors π s’´etend en un morphisme continu de G dans H.
Remarque Lorsque k est un corps p-adique, il n’existe pas de morphisme continu
non constant de G dans H. La conclusion du th´eor`eme dans ce cas est donc qu’un
tel morphisme π : Γ →H ne peut pas exister.
La d´emonstration occupe l’ensemble de ce chapitre.
Commen¸cons par quelques commentaires sur les hypoth`eses de ce th´eor`eme.
L’hypoth`ese G sans facteur compact n’est pas tr`es contraignante, on s’y ra-
m`ene en rempla¸cant Γ par un sous-groupe fini sans torsion puis en consid´erant le
r´eseau image de Γ dans le quotient de G par son sous-groupe distingu´e compact
maximal. De mˆeme, l’hypoth`ese π(Γ) Zariski dense n’est pas tr`es restrictive. On
peut souvent s’y ramener.
Exemple A V´erifions que l’hypoth`ese π(Γ) non born´ee est indispensable.
Notons q la forme quadratique sur R
5
, q(x) = x
2
1
+x
2
2
+x
2
3


2x
2
4


2x
2
5
. Le
groupe Γ = SL(5, Z[

2]) ∩ SO(q, R) est un r´eseau de SO(q, R).
En effet, notons σ l’automorphisme non trivial du corps Q[

2] et q
σ
l’image
de q par σ. Le groupe ¦(g, g
σ
) [ g ∈ SL(5, Z[

2]) ∩ SO(q, R)¦, est un sous-
groupe arithm´etique du Q-groupe dont les points r´eels sont le produit SO(q, R)
SO(q
σ
, R). Comme le groupe SO(q
σ
, R) est compact, Γ est bien un r´eseau.
81
Remarquons que le morphisme π : Γ → SO(q
σ
, R) donn´e par π(g) = g
σ
ne se
prolonge pas `a G. Dans ce cas, le groupe image est born´e.
Exemple B Voici un deuxi`eme exemple avec image p-adique qui met en valeur
l’hypoth`ese π(Γ) non born´ee.
Le r´eseau Γ = SL(d, Z) du groupe G = SL(d, R) s’injecte dans le groupe p-
adique H = SL(d, Q
p
). Cette injection ne se prolonge pas en un morphisme de G
dans H. Dans ce cas aussi, le groupe image est born´e.
Exemple C L’hypoth`ese de rang sur G est aussi importante : il n’existe pas de
tels ph´enom`enes de superrigidit´e pour les groupes G = SO(n, 1) qui sont de rang
r´eel 1. Par exemple, pour n = 2, G contient des r´eseaux Γ qui sont des groupes
libres non ab´eliens ou des π
1
de surface compacte. Il existe alors de nombreux
morphismes π : Γ → G qui sont d’image dense, ceux-ci ne se prolongent pas en
des morphismes de G dans G.
Exemple D L’hypoth`ese d’irr´eductibilit´e est aussi importante : le produit de
deux r´eseaux Γ
1
Γ
2
⊂ G G avec G = SO(2, 1) fournit ais´ement des contre-
exemples.
Exemple E L’hypoth`ese de simplicit´e sur Hest aussi utile mˆeme si on s’y ram`ene
facilement en composant π par la projection sur les facteurs simples de H.
Par exemple, si Γ est le r´eseau du groupe G = SL(d, R) donn´e par Γ = ¦g ∈
SL(d, Z) [ g ≡ Id mod 2¦. Comme le groupe d´eriv´e [Γ, Γ] est form´e de matrices
congrues `a l’identit´e modulo 4, il existe des morphismes non triviaux ε : Γ →
¦±1¦. Mais alors le morphisme π : Γ →H = SL(d, R), donn´e par π(γ) = ε(γ)γ,
ne se prolonge pas en un morphisme de G dans H.
De mˆeme, si Γ est l’image dans G = PGL(d, R) du groupe Γ
0
= ¦g ∈ SL(d, Z) [
g ≡ Id mod 3¦. Le rel`evement π : Γ →Γ
0
⊂ H = SL(d, R) ne se prolonge pas en
un morphisme de G dans H.
Exemple F Lorsque G est simplement connexe et k = R, le morphisme π s’´etend
alors en une R-repr´esentation de G dans H.
L’hypoth`ese de simple connexit´e sur G est utile pour cela. Par exemple, les
R-groupes G = PGL(3) et H = SL(3) ont des points r´eels isomorphes G
R
· H
R
sans ˆetre R-isomorphe.
- Le th´eor`eme de superrigidit´e et sa d´emonstration sont valables dans un cadre
beaucoup plus large : non seulement, on peut remplacer le corps = R par un
corps p-adique, mais, plus g´en´eralement, on peut prendre pour G un groupe sans
facteur compact qui est un produit fini G =
¸
G
p
, avec p premier ou ∞ et avec
G
p
le groupe des Q
p
-points d’un Q
p
-groupe semisimple simplement connexe sous
l’hypoth`ese
¸
p
rang
Q
p
G
p
≥ 2.
82
Strat´egie de la d´emonstration du th´eor`eme 10.1
Soit P un sous-groupe parabolique minimal de G, K un sous-groupe compact
maximal de G, V une k-repr´esentation de H. Le groupe H := H
k
agit donc dans
V := V
k
. On note ν
0
la probabilit´e K-invariante sur la vari´et´e des drapeaux G/P.
Dans la section 7.4, on a montr´e qu’il existe une application ν
0
-mesurable Γ-
´equivariante
ϕ : G/P →{(P(V ))
de la vari´et´e des drapeaux G/P muni d’une probabilit´e K-invariante ν
0
dans
l’espace des probabilit´es sur l’espace projectif P(V ). On v´erifie tout d’abord en
10.2 que l’on peut choisir la repr´esentation de H dans V de sorte que π(Γ) soit
proximal.
La deuxi`eme ´etape en 10.3 consiste `a remplacer l’espace d’arriv´ee par l’espace
projectif P(V ) lui-mˆeme en montrant que l’image de ϕ est form´ee de masses
de Dirac. Pour cela, on utilise la probabilit´e sur Γ dont la mesure stationnaire
correspondante sur G/P est ν
0
, probabilit´e que nous avons construit dans la
section 9.4. On obtient ainsi une application mesurable Γ-´equivariante
Φ : G/P →P(V ).
En utilisant aussi la repr´esentation duale, on pourra remplacer cet espace projectif
par un espace vectoriel W. Le prix `a payer sera de perdre une partie de la P-
invariance : on obtiendra une application mesurable Γ-´equivariante
Θ : G →W
qui est seulement invariante `a droite par un sous-espace de Cartan A de G.
La troisi`eme ´etape en 10.4 consiste ` a montrer que l’espace vectoriel E engendr´e
par les translat´es `a droite de Θ par les ´el´ements de G est de dimension finie. C’est
dans cette ´etape que l’on utilise l’hypoth`ese de rang au moins 2 via l’ergodicit´e
des sous-groupes A
t
de codimension 1 dans A.
La derni`ere ´etape en 10.5 consiste ` a remarquer que la repr´esentation de G dans
E est mesurable et donc continue, par suite que l’application Θ est aussi continue.
C’est grˆ ace ` a l’application δ : E →W d’´evaluation en e que l’on construira alors
le morphisme de G dans H qui prolonge π.
10.2 Valeurs propres de mˆeme module
Dans cette section, on montre que, comme π(Γ) n’est pas born´e,
on peut remplacer la k-repr´esentation irr´eductible de H dans V par
une dans laquelle π(Γ) est proximal (c.f. d´efinition 9.5).
Pour cela, on appliquera le lemme suivant au groupe ∆ := π(Γ).
Lemme 10.2 Soit k = R, C ou une extension finie de Q
p
. Soient V = k
d
et
∆ ⊂ End(V ) un sous-groupe tel que V est irr´eductible et tel que tout ´el´ement de
∆ a toutes ses valeurs propres de module 1. Alors ∆ est born´e.
83
Remarque L’hypoth`ese ”V irr´eductible” est utile, comme le prouve le groupe
des matrices unipotentes triangulaires sup´erieures.
D´emonstration du lemme 10.2 Le sous-espace vectoriel A de End(V ) engen-
dr´e par ∆ est une alg`ebre.
V´erifions tout d’abord que la forme bilin´eaire sym´etrique sur A donn´ee par
(a, b) →tr(ab) est non d´eg´en´er´ee. Soit I le noyau de cette forme bilin´eaire, c’est
un id´eal de A. Pour tout a ∈ I, on a tr(a) = tr(a
2
) = = tr(a
d
) = 0. Donc a est
nilpotent. Le th´eor`eme 2.3 d’Engel assure que le sous-espace V
t
:= ∩
a∈I
Ker(a)
est non nul. Ce sous-espace est A-invariant. Il est donc ´egal ` a V . Mais alors I = 0.
C’est ce que l’on voulait
Montrons maintenant que ∆ est born´e. Choisissons une famille (δ
i
) d’´el´ements
de ∆ qui forment une base de l’espace vectoriel A et notons (e
i
) la base de A
duale. On a l’´egalit´e, pour tout g dans ∆ : g =
¸
i
Tr(gδ
i
)e
i
. Les ´el´ements gδ
i
sont dans ∆. L’hypoth`ese sur les valeurs propres des ´el´ements de ∆ assure que,
pour tout i, [Tr(gδ
i
)[ ≤ d. Donc ∆ est born´e.
Proposition 10.3 Sous les hypoth`eses du th´eor`eme 10.1, il existe une k-repr´e-
sentation irr´eductible de H dans un espace vectoriel V telle que π(Γ) est proximal.
D´emonstration D’apr`es le lemme 10.2, il existe au moins un ´el´ement δ
0
∈ π(Γ)
qui admet une valeur propre de module diff´erent de 1. Notons V
0
le sous-espace
de V somme des sous-espaces caract´eristiques de δ
0
associ´es aux valeurs propres
de module maximum. Comme H est simple, il agit sur V par des matrices de
d´eterminant 1 et l’entier d
0
:= dimV
0
est inf´erieur ` a d. Comme H est simple,
on peut d´ecomposer la repr´esentation de H dans Λ
d
0
V en repr´esentations irr´e-
ductibles (proposition 4.12). Notons V
t
la sous-repr´esentation irr´eductible Λ
d
0
V
dans laquelle apparait l’unique valeur propre de module maximum de Λ
d
0
δ
0
. L’ac-
tion de π(Γ) sur P(V
t
) est proximale, car, par construction, la suite n → Λ
d
0
δ
n
0
convenablement renormalis´ee converge vers un op´erateur de rang 1.
10.3 Construction de Θ
Dans cette section, on utilise tous les pr´eparatifs du chapitre 9
pour construire l’application aux bord Φ : G/P → P(V ) ainsi que
l’application Θ.
Rappelons que ν
0
est la probabilit´e K-invariante sur G/P.
Proposition 10.4 Sous les hypoth`eses du th´eor`eme 10.1. Soit V une k-repr´e-
sentation irr´eductible de H dans laquelle π(Γ) est proximal.
a) Toute application ν
0
-mesurable Γ-´equivariante ϕ : G/P →{(P(V )) prend ses
valeurs dans l’ensemble δ
P(V )
des masses de Dirac.
b) Il existe une et une seule application ν
0
-mesurable Γ-´equivariante Φ : G/P →
P(V ).
84
Remarque Nous n’utiliserons pas l’unicit´e de Φ dans la suite du raisonnement.
Il est n´eanmoins rassurant de savoir que cette application au bord Φ est unique.
D´emonstration a) D’apr`es la proposition 9.10, il existe une probabilit´e µ ∈
{(Γ) de support Γ telle que ν
0
est µ-stationnaire. Le point a) r´esulte alors de la
proposition 9.9.a.
b) L’existence d’une application ϕ r´esulte de la proposition 7.11 de Furstenberg.
L’existence de l’application Φ s’en d´eduit par a). L’unicit´e de l’application Φ
r´esulte de la proposition 9.9.b.
Notre tache consiste maintenant ` a “remplacer” l’espace projectif P(V ) par un
k-espace vectoriel W. C’est ce que fait la proposition suivante. Notons A un
sous-espace de Cartan de G.
Proposition 10.5 Sous les hypoth`eses du th´eor`eme 10.1. Il existe une k-repr´e-
sentation ρ de H dans un espace vectoriel W et une application mesurable Γ-
´equivariante non constante Θ : G →W
k
, qui est A-invariante.
De fa¸con plus pr´ecise, notons W = W
k
, F
Γ
(G, W), le k-espace vectoriel des
(classes de) fonctions mesurables Γ-´equivariantes de G dans W, c’est-`a-dire des
fonctions f : G → W telles que f(γg) = ρ(γ)f(g), pour tout γ ∈ Γ, g ∈ G.
Le groupe G agit sur F
Γ
(G, W) par, pour tous g, x ∈ G, (T(g)f)(x) = f(gx) .
La proposition 10.5 affirme que l’espace F
Γ
(G, W) contient une fonction Θ non
constante telle que T(A)Θ = Θ.
D´emonstration de la proposition 10.5 On applique la proposition 10.4 ` a la
repr´esentation de H dans V donn´ee par la proposition 10.3 ainsi qu’`a sa repr´esen-
tation duale. On obtient ainsi deux applications ν
0
-mesurables et Γ-´equivariantes
ϕ : G/P → P(V ) et ψ : G/P → P(V

). On a donc une application ν
0
⊗ ν
0
-
mesurable et Γ-´equivariante
ϕ ψ : G/P G/P →P(V ) P(V

).
V´erifions tout d’abord que le produit G/P G/P s’identifie `a un quotient
de G/A, ` a une partie ν
0
⊗ ν
0
-n´egligeable pr`es. Conform´ement aux notations de
la section 3.5, fixons un sous-espace de Cartan A de G, une chambre de Weyl
A
+
⊂ A, une involution de Cartan θ de G telle que θ(A) = A. On peut supposer
que le parabolique minimal P est celui associ´e ` a A
+
. On note P

le parabolique
oppos´e et on note K le sous-groupe compact maximal K = G
θ
. Par le mˆeme
argument que dans la d´emonstration du th´eor`eme 3.13.b, on construit un ´el´ement
w
0
∈ K tel que w
0
normalise A et tel que w
0
(A
+
) est la chambre de Weyl oppos´ee
de sorte que P

= w
0
Pw
−1
0
. Autrement dit, le stabilisateur dans G du point
w
0
P ∈ G/P est le groupe P

.
Par le th´eor`eme 3.14.c, la P-orbite de cet ´el´ement w
0
P ∈ G/P est ouverte de
mesure pleine dans G/P · G/P

. Donc la G-orbite dans G/P G/P du point
(P, w
0
P) est ouverte, de mesure pleine et de groupe d’isotropie P ∩ P

.
85
V´erifions maintenant que l’image de ϕ ψ ne rencontre pas la quadrique
Q(V ) := ¦(x, y) ∈ P(V ) P(V

) [ y(x) = 0¦. Cela r´esulte de ce que la me-
sure image (ϕ ψ)


0
⊗ν
0
) est une mesure produit et que, par le lemme 9.7, la
probabilit´e µ-stationnaire ϕ


0
) ne masse pas les hyperplans.
On note W l’espace vectoriel End(V ). Pour tout (x, y) ∈ P(V )P(V

)Q(V ),
on note p
x,y
∈ W le projecteur sur x parall`element ` a y. La formule
Θ(g) = p
ϕ(gP),ψ(gw
0
P)
donne alors l’application Θ cherch´ee.
10.4 L’espace E des translat´es de Θ
Nous disposons enfin d’une application Γ-´equivariante, A-inva-
riante, non constante Θ de G dans un espace vectoriel W. On ´etudie
dans cette section la repr´esentation de G dans l’espace E des trans-
lat´es de Θ.
Rappelons que ρ est la repr´esentation de H dans W et que F
Γ
(G, W) est le
k-espace vectoriel des fonctions mesurables Γ-´equivariantes de G dans W. G´eo-
m´etriquement, ce sont les sections mesurables d’un fibr´e vectoriel sur Γ`G appel´e
le fibr´e induit par W. Rappelons aussi que nous avons not´e T l’action mesurable
du groupe G sur F
Γ
(G, W) Cette action est donn´ee par, pour tous g, x ∈ G,
(T(g)f)(x) = f(xg) .
Par construction la fonction Θ est un ´el´ement A-invariant de F
Γ
(G, W). Cette
action T est mesurable si on munit F
Γ
(G, W) de la convergence en mesure.
Proposition 10.6 Si rang
R
(G) ≥ 2, l’espace vectoriel E = 'T(g)Θ [ g ∈ G` est
de dimension finie.
En outre, la fonction Θ est continue.
Remarque En particulier, comme Θ n’est pas constante, le corps k ne peut pas
ˆetre totalement discontinu. On a donc que k = R ou C.
Cette proposition 10.6 sera une cons´equence des trois lemmes 10.7 et 10.8 ci-
dessous.
Lemme 10.7 Soit A
t
⊂ A un sous-groupe non trivial, Z(A
t
)le centralisateur de
A
t
dans G et I ⊂ F
Γ
(G, W) un sous-espace vectoriel A-invariant de dimension
finie. Alors le sous-espace vectoriel I
t
= 'T(g)f [ g ∈ Z(A
t
) , f ∈ I` est encore
A-invariant et de dimension finie.
86
D´emonstration du lemme 10.7 Comme A normalise A
t
, ce sous-espace vec-
toriel I
t
est bien A-invariant. Montrons que I
t
est de dimension finie. Regardons
pour cela I comme un A
t
-module. Il suffit de montrer que le k-espace vectoriel
S = Hom
A
(I, F
Γ
(G, W)) est de dimension finie, car chaque ´el´ement g de Z(A
t
)
agit sur I via un ´el´ement de cet espace vectoriel S. Or on a une identification
naturelle
S · F
Γ
(G, Hom(I, W))
A

de S avec l’ensemble des sections mesurables A
t
-invariantes du fibr´e sur Γ`G
induit par Hom(I, W).
Comme A
t
= 1, le corollaire 7.7 affirme que l’action de A
t
sur Γ`Gest ergodique.
Nous allons en d´eduire que S est de dimension finie.
Plus pr´ecis´ement, pour toute famille f
1
, . . . , f
i
∈ S et g ∈ G , on note,
m(g) := dim('f
j
(g) [ 1 ≤ j ≤ i`).
La fonction mesurable m : G →N v´erifie, pour tout γ ∈ Γ, a
t
∈ A
t
m(γga
t
) = m(g), pour presque tout g.
Par ergodicit´e, la fonction m est donc constante ´egale ` a un entier m
0
. Cet entier
m
0
est major´e par dim(Hom(I, W)). On peut choisir la famille f
1
, . . . , f
i
de sorte
que m
0
soit maximal. On peut aussi choisir cette famille de sorte que i = m
0
.
Soit f ∈ S. Par maximalit´e de m
0
, on peut trouver des fonctions mesurables
c
j
: G →k telles que, pour presque tout g ∈ G, on ait
f(g) =
¸
1≤j≤m
0
c
j
(g)f
j
(g).
L’ind´ependance des f
j
(g) et les propri´et´es de Γ-´equivariance et de A
t
-´equivariance
des fonctions f et f
j
prouvent que, pour tout γ ∈ Γ, a
t
∈ A
t
c
j
(γga
t
) = c
j
(g), pour presque tout g.
De nouveau, par ergodicit´e, les fonctions c
j
sont constantes. L’espace vectoriel S
est donc de dimension finie.
Lemme 10.8 Soient G un R-groupe semisimple connexe, G = G
R
et A un sous-
espace de Cartan de G. Si rang
R
(G) ≥ 2, il existe une suite A
1
, . . . , A
s
de sous-
groupes non triviaux de A telle que, en notant Z(A
i
) le centralisateur de A
i
dans
G, la multiplication
Z(A
1
) Z(A
s
) −→ G
(z
1
, . . . , z
s
) → z
1
z
s
est surjective.
87
D´emonstration Notons Σ
+
= ¦λ
1
, . . . λ
t
¦ un syst`eme de racines positives de A
dans G et A
i
⊂ A le noyau de λ
i
. Comme rang
R
(G) ≥ 2, ces groupe A
i
sont
non triviaux. L’ensemble X = Z(A
1
) Z(A
t
) contient le parabolique minimal
P associ´e `a Σ
+
ainsi que le parabolique oppos´e P

. Donc l’ensemble Y = X X
contient l’ouvert U = P

P. D’apr`es la d´emonstration du th´eor`eme 3.14.c, cet
ouvert est dense dans G. Donc G = Y Y . C’est ce que l’on voulait.
C’est le lemme 10.9.b ci-dessous qui nous fera passer du monde mesurable au
monde continu.
Lemme 10.9 Soient G
1
et G
2
deux groupes localement compacts s´eparables.
a) Pour toute partie W
1
⊂ G
1
de mesure positive pour la mesure de Haar de G
1
,
l’ensemble W
1
W
−1
1
contient un voisinage de e.
b) Tout morphisme de groupes mesurable ϕ : G
1
→G
2
est continu.
D´emonstration a) On note µ
1
la mesure de Haar de G
1
. Quitte ` a r´eduire W
1
,
on peut supposer que µ
1
(W
1
) < ∞. Or si α, β ∈ L
2
(G
1
, µ
1
), la convol´ee g →
(α∗β)(g) =

G
α(gx)β(x
−1
)dµ
1
(x) est une fonction continue : on le v´erifie d’abord
pour α, β continues ` a support compact et on conclut par densit´e.
Donc la fonction 1
W
1
∗ 1
W
−1
1
est une fonction continue qui vaut µ(W
1
) en
l’identit´e. Elle est donc strictement positive dans un voisinage de l’identit´e. Or
elle est nulle en dehors de W
1
W
−1
1
. Donc W
1
W
−1
1
contient un voisinage de e.
b) Soit V
2
⊂ G
2
un voisinage de l’identit´e dans G
2
. On veut montrer que V
1
:=
ϕ
−1
(V
2
) est un voisinage de l’identit´e dans G
1
. Choisissons un ouvert W
2
⊂ G
2
tel que W
2
W
−1
2
⊂ V
2
. Comme G
2
est s´eparable, il existe une famille d´enombrable
d’´el´ements g
p
∈ G
2
tels que les translat´es W
2
g
p
recouvrent G
2
. Mais alors les
images inverses ϕ
−1
(W
2
g
p
) recouvrent G
1
. L’une d’elles W
1
= ϕ
−1
(W
2
g
p
0
) est
donc de mesure non nulle. Comme W
1
W
−1
1
⊂ V
1
, on conclut ` a l’aide du a).
D´emonstration de la proposition 10.6 Posons I
0
:= 'Θ` et, pour i = 1, . . . , s,
posons I
i
= 'T(Z(A
i
))I
i−1
`. Par une application r´ep´et´ee du lemme 10.7, l’espace
I

est de dimension finie. Par le lemme 10.8, il est ´egal ` a E.
Montrons maintenant la continuit´e de Θ. Plus g´en´eralement, on va montrer que
toute fonction f ∈ E est continue. Comme E est de dimension finie, le lemme
10.9 prouve que le morphisme mesurable T : G → GL(E) est continu. Notons
f
1
, . . . , f
i
une base de E. On a donc des fonctions continues c
j
: G →k telles que,
pour tout g dans G, on a
T(g)f =
¸
j
c
j
(g)f
j
.
Par Fubini, pour presque tout x
0
∈ G, on a l’´egalit´e
f(x
0
g) =
¸
j
c
j
(g)f
j
(x
0
)
pour presque tout g ∈ G. Donc f est continue et Θ aussi.
88
Remarque Comme Θ n’est pas constant, cela ne peut se produire que si k = R
ou C.
10.5 Prolongement de π `a G
Nous pouvons maintenant construire le prolongement de π que
nous cherchons grˆace ` a la repr´esentation de G dans E et grˆace ` a
l’´evaluation en e qui relie E et W.
Notons δ : E → W; f → f(e) l’´evaluation en l’identit´e et rappelons que ρ est
la repr´esentation de H dans W.
Lemme 10.10 a) L’application δ est Γ-´equivariante, i.e. pour tout γ ∈ Γ, on a
δ ◦ T(γ) = ρ(π(γ)) ◦ δ.
b) L’application δ est injective.
c) Son image δ(E) est un sous-espace H-invariant de W.
D´emonstration Comme G = G
R
est semisimple et connexe, la repr´esentation
T de G s’´etend en une R-repr´esentation de G encore not´ee T. C’est vrai du moins
si G est le quotient du R-groupe alg´ebrique simplement connexe
¯
G dont l’alg`ebre
de Lie est Lie(G)
C
par le noyau Z du morphisme (
¯
G)
R
→ G, ce que l’on peut
supposer. Rappelons aussi que ρ est la restriction d’une R-repr´esentation ρ de H.
a) On a les ´egalit´es, pour f ∈ E,
δ ◦ T(γ) (f) = f(γ) = ρ(π(γ))(f(e)) = ρ(π(γ)) ◦ δ (f).
b) Le noyau Ker(δ) est un sous-espace Γ-invariant de E. Par le th´eor`eme 7.1
de densit´e de Borel, le r´eseau Γ est Zariski dense dans G, et donc le noyau
Ker(δ) est aussi G-invariant. Donc, si f est dans Ker(δ), pour tout g ∈ G, on a,
f(g) = δ(T(g)f) = 0 et f = 0.
c) L’ image δ(E) est π(Γ)-invariante. Par hypoth`ese π(Γ) est Zariski dense dans
H. Donc δ(E) est H-invariant.
Fin de la d´emonstration du th´eor`eme 10.1 On sait d´ej`a que k = R ou
C. Grace au lemme 10.10, on peut identifier E avec son image δ(E). On dispose
donc dans E d’une repr´esentation T de G et d’une repr´esentation ρ de H telles
que, pour tout γ ∈ Γ, on a
T(γ) = ρ(π(γ)).
Par le corollaire 4.5, l’image ρ(H) est Zariski ferm´ee. Par le th´eor`eme 7.1 de
densit´e de Borel, le r´eseau Γ est Zariski dense dans G. Donc T(G) est inclus dans
ρ(H) . Comme H est simple, ρ est injectif et est donc un R-isomorphisme sur son
image. Le R-morphisme ρ
−1
◦ T : G −→H prolonge π.
89
11 Arithm´eticit´e
Nous avons montr´e dans le chapitre 5 le th´eor`eme de Borel Harish-
Chandra qui affirme que “tout groupe arithm´etique est un r´eseau”. Le
but de ce chapitre est de d´emontrer le th´eor`eme d’arithm´eticit´e de
Margulis qui en est une r´eciproque en rang r´eel au moins 2.
11.1 Groupes arithm´etiques
Nous devons tout d’abord ´etendre l´eg`erement la d´efinition 5.1 de
groupes arithm´etiques
D´efinition 11.1 Soit G = G
R
le groupe des R-points d’un R-groupe semisimple
connexe `a centre trivial. Un r´eseau Γ ⊂ G est dit arithm´etique si il existe un Q-
groupe semisimple H et un morphisme continu p : H
R
→G de noyau compact et
d’image d’indice fini dans G tel que les r´eseaux p(H
Z
) et Γ sont commensurables.
Th´eor`eme 11.2 (Margulis) Soit G = G
R
le groupe des R-points d’un R-
groupe semisimple. On suppose G sans facteur compact et rang
R
(G) ≥ 2.
Alors tout r´eseau irr´eductible Γ ⊂ G est arithm´etique.
Exemple Reprenons l’exemple A de la section 10.1.
Pour la forme quadratique q sur R
5
, q(x) = x
2
1
+ x
2
2
+ x
2
3


2x
2
4


2x
2
5
, le
groupe Γ = SL(5, Z[

2])∩SO(q, R) est un sous-groupe arithm´etique de SO(q, R).
En effet, le groupe H
Z
= ¦(g, g
σ
) [ g ∈ SL(5, Z[

2]) ∩ SO(q, R)¦ est un sous-
groupe arithm´etique d’un Q-groupe not´e H = R
Q[

2][Q
(SO(q)) tel que H
R
=
SO(q, R)SO(q
σ
, R). Comme le groupe SO(q
σ
) est compact, Γ est bien un groupe
arithm´etique.
Strat´egie de d´emonstration du th´eor`eme 11.2
On v´erifie tout d’abord que Γ est un groupe de type fini de sorte que le corps
K engendr´e par les traces des ´el´ements de Γ est un corps de type fini.
On rappelle ensuite comment construire de nombreux plongements des corps
de type fini dans les corps locaux.
On utilise ces plongements pour construire des repr´esentations de Γ ` a coeffi-
cients dans les corps locaux, repr´esentations auxquelles on applique le th´eor`eme
de superrigidit´e pour montrer que le corps K est une extension finie de Q.
Cela permet alors, grˆace ` a la “restriction de Weil” de construire une repr´e-
sentation de Γ ` a coefficients dans Q, repr´esentation ` a laquelle on applique la
superrigidit´e p-adique pour montrer que les d´enominateurs qui apparaissent dans
les coefficients matriciels sont uniform´ement born´es. On aura ainsi r´ealis´e un
sous-groupe d’indice fini Γ
t
de Γ comme un sous-groupe de GL(d, Z).
On verra que Γ
t
est d’indice fini dans le groupe des points entiers de son adh´e-
rence de Zariski. La superrigidit´e r´eelle sera utile pour cela.
90
11.2 Les r´eseaux sont de type fini
Nous admettrons dans cette section un point certes crucial mais
pas tr`es surprenant.
Proposition 11.3 Un r´eseau Γ du groupe des R-points G = G
R
d’un R-groupe
G est de type fini.
Cette proposition s’´etend aux r´eseaux des produits finis G =
¸
G
p
de groupes
r´eels et p-adiques.
Nous admettrons cette proposition 11.3 dans sa g´en´eralit´e. N´eanmoins, il y a
un cas o` u la d´emonstration est assez rapide :
1
er
cas : Si Γ est cocompact dans G.
Dans ce cas, Γ est le groupe fondamental d’une vari´et´e compacte. Il est donc
de type fini, et mˆeme de pr´esentation finie.
2
`eme
cas : Si G ne contient pas de facteurs quasisimples G
i
de rang r´eel 1.
Dans ce cas, la proposition est due ` a Kazhdan et la d´emonstration repose sur
la propri´et´e T de Kazhdan. Elle est d´etaill´ee dans le chapitre 3 de [4] dans un
esprit tr`es proche de ce cours. Je ne la recopie pas ici. Les grandes lignes sont :
comme rang
R
(G
i
) ≥ 2, le groupe G a la propri´et´e T de Kazhdan, donc le r´eseau
Γ aussi et donc Γ est de type fini.
3
`eme
cas : Si G contient un facteur quasisimple de rang r´eel 1.
Le fait que Γ soit de type fini est dˆ u ` a Raghunathan, voir [21] corollaire 13.10.
11.3 Alg´ebricit´e des valeurs propres
Dans cette section on utilise la superrigidit´e pour montrer l’alg´e-
bricit´e des valeurs propres des ´el´ements de AdΓ.
Proposition 11.4 Sous les hypoth`eses du th´eor`eme 11.2.
Pour tout γ ∈ Γ, les valeurs propres de Adγ sont des nombres alg´ebriques.
Pour montrer cette proposition, nous aurons besoin de construire des plonge-
ments des extensions de type fini de Q.
Lemme 11.5 Soit K une extension de type fini de Q, λ un ´el´ement de K trans-
cendant sur Q. Alors il existe un corps local p-adique k et un morphisme de corps
σ : K →k tel que [σ(λ)[ > 1.
D´emonstration du lemme 11.5 Mettons λ dans une famille maximale λ
1
=
λ, λ
2
, . . . , λ
r
d’´el´ements de K alg´ebriquement ind´ependants sur Q et notons
91
K
t
= Q(λ
1
, . . . , λ
r
) ⊂ K. Il est facile de trouver un plongement σ
t
: K
t
→Q
p
tel
que [σ
t
(λ)[ > 1. On ´etend alors ce plongement en un morphisme de l’extension
finie K de K
t
vers une extension finie k de Q
p
.
D´emonstration de la proposition 11.4 D´ecomposons l’alg`ebre de Lie g de
G en somme d’id´eaux simples et fixons une base de ces id´eaux. Soit K
0
le corps
engendr´e par les coefficients matriciels d’une famille finie g´en´eratrice du groupe
AdΓ. Ce corps est de type fini. Le groupe adjoint G
t
de G est donc un groupe
semisimple d´efini sur K
0
tel que AdΓ ⊂ G
t
K
0
.
Supposons que l’adjoint Adγ d’un ´el´ement γ ∈ Γ a une valeur propre λ trans-
cendante sur Q. Le lemme 11.4 permet de construire un morphisme de corps
K
0
[λ] →k dans un corps local p-adique tel que [σ(λ)[ > 1.
Comme le groupe G
t
est un produit de groupes k-simples et que l’image de Γ
est Zariski dense dans G
t
, le th´eor`eme 10.1 de superrigidit´e affirme que l’image
de Γ dans G
t
k
est born´ee. Mais par construction, le groupe engendr´e par Adγ
n’est pas born´e. Contradiction.
Remarque On a bas´e la d´emonstration de la proposition 11.4 sur la superrigidit´e
p-adique. On aurait pu aussi bien utiliser ici la superrigidit´e r´eelle.
11.4 Corps de d´efinition de G
Nous d´eterminons dans cette section le plus petit corps de d´efini-
tion de Γ
Notons K le corps engendr´e par les traces Tr(Adγ) pour γ ∈ Γ.
Proposition 11.6 Sous les hypoth`eses du th´eor`eme 11.2.
a) Le corps K est un corps de nombre i.e. une extension finie de Q.
b) Il existe un R-morphisme injectif i : G →GL(m) tel que i(Γ) ⊂ SL(m, K)
c) Le groupe i(G) est d´efini sur K.
D´emonstration de la proposition 11.6
a) D’apr`es la proposition 11.4, le corps K est une extension alg´ebrique de Q.
Or ce corps K est une extension de type fini de Q. C’est donc une extension finie
de Q.
b) Notons R[G] l’anneau des fonctions r´eguli`eres et r´eelles sur G. Le groupe G
agit sur R[G] par translation `a droite. Pour tout ϕ ∈ R[G] et g, x ∈ G
(T(g)ϕ)(x) = ϕ(xg)
Soit ϕ
0
l’´el´ement de R[G] donn´e par ϕ
0
(g) = Tr(Adg) et E := 'T(G)ϕ
0
` le R-
sous-espace vectoriel de dimension finie m engendr´e par les translat´es de ϕ
0
. Le
morphisme i = T[
E
provient d’un R-morphisme i : G →GL(m).
92
Montrons que i est injectif. Soit g ∈ G un ´el´ement du noyau de i. Pour tout
x ∈ G on a donc
Tr(AdxAdg) = Tr(Adx).
On a donc pour tout n ≥ 0
Tr(Adg
n
) = Tr(Adg
n−1
) = = dimg.
L’´el´ement g est donc unipotent. Le noyau de i est donc un sous-groupe semisimple
de G dont tous les ´el´ements sont unipotents. Il est donc trivial. Le morphisme i
est bien injectif.
Montrons qu’il existe une base ϕ
1
, . . . , ϕ
m
de E dans laquelle les ´el´ements de
i(Γ) sont `a coefficients dans K. Par le th´eor`eme 7.1 de densit´e de Borel, Γ est
Zariski dense dans G et il existe γ
1
, . . . , γ
m
∈ Γ tels que les m translat´es ϕ
i
=
T(γ
i

0
forment une base de E. Ecrivons, pour γ ∈ Γ,
T(γ)ϕ
j
=
¸
i
a
γ
i,j
ϕ
i
.
De nouveau, comme Γ est Zariski dense dans G, les restrictions des fonctions ϕ
j
sont encore lin´eairement ind´ependantes. On peut donc trouver γ
t
1
, . . . , γ
t
m
∈ Γ tels
que la matrice (ϕ
i

t
k
)) est une matrice mm inversible. Les ´egalit´es
¸
i
a
γ
i,j
ϕ
i

t
k
) = (T(γ)ϕ
j
)(γ
t
k
) = ϕ
0

t
k
γγ
j
) ∈ K
prouvent que les coefficients a
γ
i,j
sont dans K.
c) D’apr`es le corollaire 4.5, le groupe i(G) est alg´ebrique. Le fait qu’il soit d´efini
sur K r´esulte du th´eor`eme 7.1 de densit´e de Borel et du lemme 7.2.
11.5 Restriction de K `a Q
La derni`ere ´etape consiste `a remplacer le corps de nombre K par
Q grˆ ace au proc´ed´e de restriction `a la Weil.
On utilise dans cette ´etape, ` a la fois la superrigidit´e r´eelle et la
superrigidit´e p-adique.
Le th´eor`eme 11.2 d’arithm´eticit´e est une cons´equence de la proposition sui-
vante.
Proposition 11.7 Sous les hypoth`eses du th´eor`eme 11.2.
Il existe un Q-groupe semisimple H `a centre trivial, un morphisme ϕ : Γ → H
Q
et un morphisme continu p : H
R
→G tels que
a) π = p ◦ ϕ.
b) Le sous-groupe Γ
t
:= ¦γ ∈ Γ [ ϕ(Γ) ∈ H
Z
est d’indice fini dans Γ.
c) Le noyau Ker p est compact.
d) Les groupes Γ et p(H
Z
) sont commensurables.
93
D´emonstration de la proposition 11.7
D’apr`es la proposition 11.6, on peut supposer que G ⊂ GL(m) est d´efini sur
un corps de nombre K et que Γ ⊂ G
K
.
a) Commen¸cons par rappeler la construction et les propri´et´es de la “restriction
de Weil” H = R
K[Q
(G). Identifions K ` a un sous-corps de R et notons σ
1
, . . . , σ
r
1
les morphismes de K dans R, avec σ
1
= Id, et σ
r
1
+1
, . . . , σ
r
1
+r
2
, σ
r
1
+1
, . . . , σ
r
1
+r
2
les morphismes de K dans C de sorte que le morphisme σ
R ⊗
Q
K
σ
−→ R
r
1
C
r
2
k → (σ
1
(k), . . . , σ
r
1
+r
2
(k))
soit un isomorphisme d’alg`ebres. Regardons K comme un Q-espace vectoriel de
dimension . Notons
ϕ : GL(m, K) −→GL(m, Q)
le morphisme de groupes qui s’en d´eduit. Ce morphisme a son image dans
GL(m, R ⊗
Q
K) · GL(m, R)
r
1
GL(m, C)
r
2
⊂ GL(m, R).
Notons
p : GL(m, R ⊗
Q
K) −→GL(m, R)
la projection sur le premier facteur.
Le groupe GL(m, K) s’identifie ainsi au groupe R
Q
des Q-points d’un Q-
sous-groupe R de GL(m), dont le groupe des R-points s’identifie `a R
R
·
GL(m, R)
r
1
GL(m, C)
r
2
. Ce Q-groupe est not´e R
K[Q
(GL(m)) et est appel´e
la restriction de K `a Q de GL(m).
Notons H = R
K[Q
(G) l’adh´erence de Zariski de ϕ(G
K
). Comme ϕ(G
K
) est
inclus dans GL(m, Q), le lemme 7.2 affirme que H est un Q-groupe. En outre,
par construction, on a, pour tout alg`ebre A contenant Q, l’´egalit´e H
A
· G
K⊗
Q
A
.
En particulier, H est encore un Q-groupe dont les Q-points s’identifient aux K-
points de G. Le groupe des points complexes H
C
s’identifie ` a (G
C
)
r
1
+2r
2
. On en
d´eduit que le Q-groupe H est donc semisimple. Par construction, on a p(H
R
) = G
et p(ϕ(γ)) = γ, pour tout γ ∈ Γ.
b) Comme Γ est de type fini, il existe des nombres premiers p
1
, . . . , p
r
tels que
ϕ(Γ) ⊂ H
Z[p
−1
1
,..., p
−1
r
]
.
Soit ϕ
i
la compos´ee Γ → H
Q
⊂ H
Q
p
i
. D’apr`es le th´eor`eme de superrigidit´e,
l’image ϕ
i
(Γ) est relativement compacte dans H
Q
p
i
. Notons Z
p
l’anneau des en-
tiers de Q
p
. Comme le sous-groupe H
Z
p
i
est ouvert dans H
Q
p
i
, le sous groupe
Γ
t
:= ∩
i
ϕ
−1
i
(H
Z
p
i
) est d’indice fini dans Γ et v´erifie ϕ(Γ
t
) ⊂ H
Z
.
c) Montrons que le noyau Ker(p) est compact. Sinon, on pourrait d´ecomposer
H en produit de R-groupes H = GFF
t
o` u p est la projection sur le premier
facteur et o` u F est simple et F
R
non compact. Notons q la projection sur ce
94
deuxi`eme facteur. L’image q ◦ϕ(Γ) est Zariski dense dans F. En particulier, cette
image n’est pas born´ee. Le th´eor`eme 10.1 de superrigidit´e prouve que q ◦ ϕ se
prolonge en un morphisme continu ψ : G → F. L’image ϕ(Γ) serait alors inclus
dans le sous-groupe ferm´e Graphe(ψ) F
t
. Ce groupe n’est pas Zariski dense
dans H. Ceci contredit la Zariski densit´e de ϕ(Γ) dans H. Donc le noyau Ker(p)
est compact.
d) D’apr`es le c) ϕ(Γ
t
) est un r´eseau de H
R
. Donc ϕ(Γ
t
) est d’indice fini dans
H
Z
et Γ et p(H
Z
) sont commensurables.
Remarques (voir [16].IX) - Comme pour le th´eor`eme de superrigidit´e, le th´eo-
r`eme d’arithm´eticit´e et sa d´emonstration sont valables dans un cadre beaucoup
plus large : on peut prendre pour G un produit fini G =
¸
G
p
, avec p premier
ou ∞ et G
p
le groupe des Q
p
-points d’un Q
p
-groupe semisimple sous l’hypoth`ese
¸
p
rang
Q
p
G
p
≥ 2.
- On peut en outre remplacer cette hypoth`ese de rang par
Γ est d’indice infini dans son commensurateur Com(Γ)
o` u Com(Γ) := ¦g ∈ G [ gΓg
−1
et Γ sont commensurables ¦.
- Si k = R ou C, le groupe G
k
des k-points d’un k-groupe semisimple Gcontient
toujours des r´eseaux cocompacts et des r´eseaux non cocompacts.
- Si k est un corps p-adique, le groupe G
k
des k-points d’un k-groupe semisimple
G contient toujours des r´eseaux et ceux-ci sont toujours cocompacts.
- Si k est un corps local de caract´eristique non nulle, le groupe G
k
des k-points
d’un k-groupe semisimple G contient toujours des r´eseaux non cocompacts mais
pas toujours des r´eseaux cocompacts.
95
12 Mesures invariantes
12.1 Mesures U-invariantes sur SL(2,R)/Γ
Dans cette partie, nous montrons le th´eor`eme mesur´e de Ratner
pour G = SL(2, R). Il est dˆ u ` a Dani dans ce cas.
Proposition 12.1 Soit G = SL(2, R), U = ¦u
s
:=

1 s
0 1

[ s ∈ R¦. Soient
Γ ⊂ G un sous-groupe discret et µ une probabilit´e U-invariante U-ergodique sur
le quotient X = G/Γ.
Alors ou bien cette probabilit´e µ est port´ee par une U-orbite p´eriodique ou bien
cette probabilit´e µ est G-invariante.
Remarques - Lorsque Γ est cocompact, le premier cas est impossible car Γ ne
contient pas d’´el´ement unipotent non trivial. (voir la d´emonstration du corollaire
5.6.b)
- Lorsque Γ n’est pas un r´eseau, le deuxi`eme cas est impossible car µ(X) = 1.
Dans cette section on notera aussi A = ¦a
t
:=

t 0
0 t
−1

[ t > 0¦, B=AU,
U

= ¦u

s
:=

1 0
s 1

[ s ∈ R¦ et B

= AU

.
D´emonstration de la proposition 12.1 Elle r´esulte des lemmes suivants.
Lemme 12.2 Si µ n’est pas port´ee par une U-orbite p´eriodique, alors µ est A-
invariante.
Lemme 12.3 Si µ est B-invariante, alors µ est G-invariante.
D´emonstration du lemme 12.2 Expliquons tout d’abord la d´emarche que
nous allons suivre. Soit
Z = ¦x ∈ X [ lim
t→∞
1
t

t
0
ϕ(u
s
x)ds =

X
ϕdµ pour tout ϕ ∈ C
c
(X)¦.
Le th´eor`eme 8.6 de Birkhoff appliqu´e `a une famille d´enombrable dense de fonc-
tions de C
c
(X) prouve que µ(Z) = 1. L’id´ee est de prendre deux points proches
x et gx dans Z et de comparer les moyennes orbitales de ϕ issues de x et de gx.
On ´ecrit
u
s
gx = D(s)u
d(s)
x
avec D(s) dans B

. La quantit´e d(s) est la d´erive du param´etrage et D(s) la
d´erive transverse. On verra que, lorsque g n’est pas dans B, on peut trouver un
96
“long” intervalle de temps I pendant lequel D(s) est presque ´egal ` a un ´el´ement
non trivial a de A. On aura alors, en posant ϕ
a
(y) = ϕ(ay),

X
ϕdµ ·
1
(I)

I
ϕ(u
s
gx)ds ·
1
(I)

I
ϕ
a
(u
d(s)
x)ds ·

X
ϕ
a
dµ.
Ce qui implique que µ est A-invariant, ` a moins que g ne soit toujours dans B.
Il reste `a justifier ces ·. C’est l’objet de la d´emonstration que nous d´etaillons
maintenant.
Pour tout ε
0
> 0, on peut trouver une partie compacte Z
0
⊂ Z de mesure
µ(Z
0
) ≥ 1 −ε
0
telle que, pour tout ϕ ∈ C
c
(X), la limite
lim
t→∞
1
t

t
0
ϕ(u
s
x)ds =

X
ϕdµ (3)
soit uniforme pour x dans Z
0
.
En effet, la proposition 8.8 d’Egorov appliqu´ee ` a une fonction f d’une partie
d´enombrable dense F de C
c
(X) permet de construire des parties compactes Z
ϕ
de mesure µ(Z
ϕ
) ≥ 1 − ε
ϕ
telles que la limite (3) soit uniforme pour x ∈ Z
ϕ
. Il
suffit de prendre Z
0
= ∩
ϕ∈F
Z
ϕ
o` u les ε
ϕ
sont choisis de sorte que
¸
ϕ∈F
ε
ϕ
≤ ε
0
.
En effet, l’ensemble des fonctions ϕ ∈ C
c
(X) pour lesquelles la limite (3) soit
uniforme pour x ∈ Z
0
est un ferm´e de C
c
(X).
Distinguons deux cas.
1
er
cas : Il existe une suite g
n
∈ G, g
n
∈ B, g
n
→e telle que g
n
Z
0
∩ Z
0
= ∅.
Notons g
n
=

α
n
β
n
γ
n
δ
n

et choisissons x
n
∈ Z
0
tel que g
n
x
n
∈ Z
0
. On peut
supposer γ
n
> 0. Un calcul matriciel avec λ
n
= γ
−1
n
→∞ donne
u
λ
n
s
g
n
= D
n
(s)u
λ
n
d
n
(s)
o` u
D
n
(s) =

α
n
+ s 0
γ
n
1
α
n
+s

−→D(s) :=

1 + s 0
0
1
1+s

et
d
n
(s) =
β
n
γ
n
+ δ
n
s
α
n
+ s
−→d(s) :=
s
1 + s
.
Soient ϕ ∈ C
c
(X) et a =

1 + s
0
0
0
1
1+s
0

∈ A. On va montrer que

X
ϕdµ =

X
ϕ
a
dµ, ce qui prouvera que µ est A-invariante. On peut supposer que |ϕ|

≤ 1.
Par d´efinition de Z
0
, on a, pour tout s
1
< s
2
, la convergence uniforme pour
x ∈ Z
0
,
lim
λ→∞
1
s
2
−s
1

s
2
s
1
ϕ(u
λs
x)ds =

X
ϕdµ.
97
En effet, par simple soustraction pond´er´ee de moyennes sur [0, s
2
] et [0, s
1
], on
peut se ramener `a de telles moyennes sur des portions d’orbites. En particulier,
pour tout s
1
< s
2
,
lim
n→∞
1
s
2
−s
1

s
2
s
1
ϕ(u
λ
n
s
g
n
x
n
)ds =

X
ϕdµ. (4)
De la mˆeme fa¸con, pour σ
1
< σ
2
, qu’on prend ´egal ` a σ
1
= d(s
1
) et σ
2
= d(s
2
), on
a
lim
n→∞
1
σ
2
−σ
1

σ
2
σ
1
ϕ
a
(u
λ
n
σ
x
n
)dσ =

X
ϕ
a
dµ. (5)
Expliquons tout d’abord dans quel ordre on choisit les param`etres. Soit ε > 0,
on peut choisir s
1
< s
2
suffisamment proche de s
0
pour que, pour s ∈ [s
1
, s
2
], on
ait

D(s)
−ϕ
a
|

≤ ε (6)
et

1
d
t
(s)
σ
2
−σ
1
s
2
−s
1
−1

≤ ε. (7)
On choisit alors n
0
tel que, pour tout n ≥ n
0
et s ∈ [s
1
, s
2
], on ait

D
n
(s)
−ϕ
D(s)
|

≤ ε, (8)
[s
i
−d
−1
n

i
)[ ≤ ε(s
2
−s
1
) (9)
pour i = 1, 2 et

σ
2
−σ
1
s
2
−s
1

1
d
t
n
(s)

1
d
t
(s)

≤ ε. (10)
On a alors, pour n ≥ n
0
1
s
2
−s
1

s
2
s
1
ϕ(u
λ
n
s
g
n
x
n
)ds −

s
2
s
1
ϕ
a
(u
λ
n
d
n
(s)
x
n
)ds

≤ 2ε
d’apr`es (6) et (8)
1
s
2
−s
1

s
2
s
1
ϕ
a
(u
λ
n
d
n
(s)
x
n
)ds −

σ
2
σ
1
ϕ
a
(u
λ
n
σ
x
n
)
1
[d
t
n
(s)[

≤ 2ε
d’apr`es (9), o` u σ = d
n
(s)

1
s
2
−s
1

σ
2
σ
1
ϕ
a
(u
λ
n
σ
x
n
)
1
[d
t
n
(s)[
dσ −
1
s
2
−s
1

s
2
s
1
ϕ
a
(u
λ
n
σ
x
n
)dσ

≤ 2ε
d’apr`es (7) et (10).
98
Ces trois majorations avec (4) et (5) donnent

X
ϕdµ −

X
ϕ
a

≤ 6ε.
Comme ε est arbitraire, on a

X
ϕdµ =

X
ϕ
a
dµ.
2
`eme
cas : Il n’y a pas de suite g
n
∈ G, g
n
∈ B, g
n
→e avec g
n
Z
0
∩ Z
0
= ∅.
Montrons tout d’abord que µ est port´ee par une B-orbite. Pour cela, notons D
un voisinage de e dans G tel que les ´el´ements g ∈ D, g ∈ B v´erifient gZ
0
∩Z
0
= ∅.
Il existe un point x = gΓ ∈ Z
0
tel que µ(Dx∩Z
0
) > 0. Cette intersection Dx∩Z
0
est incluse dans l’orbite Bx. Donc µ(Bx) > 0 et par ergodicit´e, µ(Bx) = 1.
Le groupe ∆ := B ∩ gΓg
−1
est un sous-groupe discret de B et µ est une
probabilit´e U-invariante sur B/∆. Il est facile de d´ecrire tous les sous-groupes
discrets de B. A conjugaison pr`es, on a soit ∆ ⊂ A ou ∆ ⊂ U. Dans les deux cas,
toutes les orbites de U dans B/∆ sont ferm´ees. Comme µ est ergodique, µ est
port´ee par une U-orbite (cf. proposition 8.3). Ce qui termine la d´emonstration
du lemme 12.2.
D´emonstration du lemme 12.3 Remarquons que µ est B-invariante et U-
ergodique. On en d´eduit que µ est A-ergodique. En effet, un ´el´ement ϕ ∈ L
2
(X, µ)
qui est A-invariant est forc´ement U-invariant `a cause du lemme 6.6 de Mautner
et de l’´egalit´e lim
t→0
a
t
u
s
a
−1
t
= e.
Pour x ∈ X et ϕ ∈ C
c
(X), on note
¯ ϕ(x) = liminf
t→∞
1
t

t
0
ϕ(a
e
sx) ds et Y = ¦x ∈ X [ ¯ ϕ(x) =

X
ϕdµ¦.
D’apr`es le th´eor`eme 8.6 de Birkhoff, on a µ(Y
c
) = 0. Soit λ une mesure G-
invariante sur G/Γ. Montrons que λ(Y
c
) = 0.
Remarquons que, par uniforme continuit´e de ϕ, pour tout u

s
∈ U

lim
t→∞
(ϕ(a
e
t u

s
x) −ϕ(a
e
t x)) = lim
t→∞
(ϕ(u

e
−2t
s
a
e
t x) −ϕ(a
e
t x)) = 0.
Ce calcul traduit le fait que les deux g´eod´esiques issues de x et de u

s
x se rap-
prochent exponentiellement vite vers +∞. On dit qu’elles sont sur la mˆeme feuille
stable du flot g´eod´esique. On en d´eduit que ¯ ϕ(u

s
x) = ¯ ϕ(x) puis que U

Y = Y .
Comme la probabilit´e µ est B-invariante, et que µ(Y ) = 1, le th´eor`eme de
Fubini prouve que, pour µ-presque tout x ∈ X, l’ensemble B
x
= ¦b ∈ B [ bx ∈ Y ¦
est de compl´ementaire n´egligeable pour la mesure de Lebesgue de B.
La multiplication induit un diff´eomorphisme entre
U

B et ¦g =

α β
γ δ

∈ G [ α = 0¦.
On d´eduit des trois paragraphes pr´ec´edents que λ(Y
c
) = 0. C’est-` a-dire que
¯ ϕ(x) =

X
ϕdµ pour λ-presque tout x.
99
Montrons que λ(X) < ∞. Pour cela choisissons ϕ ≥ 0 tel que

X
ϕdµ = 1. Le
lemme de Fatou donne alors
λ(X) =

X
¯ ϕdλ ≤ liminf
t→∞

X

1
t

t
0
ϕ(a
e
sx) ds

dλ =

X
ϕdλ < ∞.
On peut donc supposer que λ(X) = 1. Pour conclure, on peut soit reprendre le
calcul pr´ec´edent en rempla¸cant le lemme de Fatou par le th´eor`eme de convergence
domin´ee et les limites inf´erieures par des limites. On peut aussi remarquer que λ
est A-invariante et A-ergodique par le corollaire 6.4 de Howe-Moore. Donc, par
le th´eor`eme 8.6 de Birkhoff, on a ¯ ϕ(x) =

X
ϕdλ pour λ-presque tout x. On en
d´eduit que

X
ϕdλ =

X
ϕdµ. C’est-`a-dire µ = λ.
12.2 Petites valeurs des formes quadratiques
Dans cette section, on donne une d´emonstration directe et rapide
de la conjecture d’Oppenheim qui fut la premi`ere des motivations des
travaux de Ratner.
Proposition 12.4 (Margulis) Soit Q une forme quadratique sur R
3
de signature
(1, 2) qui n’est pas multiple d’une forme quadratique enti`ere. Alors Q prend des
valeurs arbitrairement petites sur Z
3
0.
Cette proposition sera une cons´equence de la version faible suivante du th´eo-
r`eme topologique de Ratner.
Proposition 12.5 Soient G = SL(3, R), Γ = SL(3, Z), X = G/Γ et H =
SO(2, 1). Alors toute H-orbite born´ee Hx ⊂ X est compacte.
Remarques - Born´ee signifie relativement compacte.
- La d´emonstration directe que nous suivons ne se g´en´eralise pas pour d´ecrire
les adh´erences de toutes les H-orbites. Son d´efaut principal est de ne faire appel a
aucun argument de th´eorie ergodique. En contre-partie, elle est assez ´el´ementaire.
La strat´egie de la preuve de la proposition 12.5 consiste ` a partir d’un ferm´e U-
invariant minimal K de l’adh´erence de l’orbite F = Hx. Par un argument proche
de l’argument de d´erive de la section 12.1, on montre que K est A-invariant puis
que l’image de K par un sous-semigroupe de G reste dans F, semigroupe trop
gros pour avoir des orbites born´ees dans X.
D´emonstration de l’implication Proposition 12.5 =⇒ Proposition 12.4
L’argument qui suit, dˆ u ` a Raghunathan, n’est pas propre `a la dimension 3.
Supposons par l’absurde qu’il existe ε > 0 tel que Q(Z
3
0) ne rencontre pas
] − ε, ε[. Notons x
0
le r´eseau Z
3
, H = SO(Q, R) et Hx
0
la H-orbite de x
0
dans
X. La proposition 12.5 est bien sˆ ur aussi valable pour ce groupe H. Le crit`ere 1.8
100
de Mahler prouve que cette orbite est relativement compacte. En effet, l’ouvert
Ω := Q
−1
(] − ε, ε[) est un voisinage de 0 qui ne rencontre qu’en 0 les r´eseaux
Λ ∈ Hx
0
. La proposition 12.5 prouve alors que cette orbite Hx
0
est compacte.
Montrons que cela implique que Q est multiple d’une forme quadratique enti`ere.
Ecrivons Q(x) =
¸
a
i,j
x
i
x
j
avec a
i,j
= a
j,i
.
On peut supposer que l’un des coefficients a
i,j
est ´egal `a 1. Montrons que Q est
alors `a coefficients dans Q. Soit σ ∈ Gal(C[Q) et Q
σ
(x) =
¸
a
σ
i,j
x
i
x
j
. Il suffit de
montrer que Q = Q
σ
. Remarquons que le groupe Γ ∩H est un r´eseau cocompact
de H. Par le th´eor`eme 7.1 de densit´e de Borel, il est donc Zariski dense dans H.
Comme on a l’inclusion Γ ∩ H ⊂ SO(Q
σ
, C), on en d´eduit que H ⊂ SO(Q
σ
, C).
Soit µ ∈ C tel que Q
σ
−µQ est d´eg´en´er´ee. Le groupe H pr´eserve donc le noyau de
Q
σ
−µQ. L’irr´eductibilit´e de l’action de H sur C
3
prouve que Q
σ
= Q. Forc´ement
µ = 1 et Q
σ
= Q.
Le lemme suivant est bas´e sur l’aspect polynomial des flots unipotents. Cet
argument nous est maintenant bien familier. Il jouera le rˆole de l’argument de
d´erive de la section 12.1.
Lemme 12.6 Soient E un R-espace vectoriel de dimension d < ∞, U = ¦u
s
[
s ∈ R¦ un groupe `a un param`etre de transformations unipotentes et F l’ensemble
des points fixes de U dans E. Soient D une partie de E F et v
0
un point de
D ∩ F. Alors UD ∩ F contient un chemin polynomial non constant passant par
v
0
.
D´emonstration du lemme 12.6 Soient v
n
une suite de points de D tels que
lim
n→∞
v
n
= v
n
. On choisit λ
n
> 0 tels que
sup
s∈[−1,1]
|u
λ
n
s
v
n
−v
n
| = 1.
C’est possible car l’application s →u
s
v
n
est polynomiale non constante de degr´e
born´e par d.
En outre, on a lim
n→∞
λ
n
= ∞car v
0
est un point fixe de U. La suite des polynˆomes
ϕ
n
: s →u
λ
n
s
v
n
est born´ee sur [−1, 1]. Quitte ` a extraire, on peut supposer qu’elle
converge uniform´ement sur [−1, 1] vers un polynˆome ϕ. Ce polynˆ ome est non
constant car ϕ(0) = 0 et
sup
s∈[−1,1]
|ϕ(s) −v
0
| = 1.
Par construction, on a ϕ(R) ⊂ UD. En outre, ϕ prend ses valeurs dans F car,
pour u
t
∈ U, on a
u
t
ϕ(s) = lim
n→∞
u
t
ϕ
n
(s) = lim
n→∞
ϕ
n
(s + t/λ
n
) = ϕ(s)
101
par uniforme convergence.
Certains sous-groupes ` a un param`etre de G vont jouer un rˆole important dans la
d´emonstration. Fixons les notations : on peut supposer que la forme quadratique
s’´ecrit, pour v = (x
1
, x
2
, x
3
) ∈ R
3
, Q(v) = x
2
2
−2x
1
x
3
. Le groupe H contient alors
les deux groupes
A = ¦a
t
:=

¸
e
t
0 0
0 1 0
0 0 e
−t

[ t ∈ R¦ , U = ¦u
s
:=

¸
1 s s
2
/2
0 1 s
0 0 1

[ s ∈ R¦.
Notons V = ¦v
s
:=

¸
1 0 s
0 1 0
0 0 1

[ s ∈ R¦. Le groupe V n’est pas inclus dans
H. On v´erifie facilement que U et V commutent, que A normalise U et V , que
les produits B := AU et W := UV sont des groupes et que le normalisateur de
U est le groupe N
G
(U) = AUV . On notera V
±
:= ¦v
s
∈ V [ ±s > 0¦.
Les gros sous-semi groupes dont nous parlions ci-dessus sont AUV
±
.
Lemme 12.7 Pour tout y ∈ X, les orbites AUV
+
y et AUV

y ne sont pas
born´ees dans X.
D´emonstration Le point y ∈ X est un r´eseau de R
3
. On peut choisir un point
p = (x
1
, x
2
, x
3
) dans ce r´eseau tel que x
3
= 0 et ±(x
2
2
−2x
1
x
3
) > 0. On pose
g
t
= a
t
u
−x
2
/x
3
v
(x
2
2
−2x
1
x
3
)/2x
2
3
∈ AUV
±
et on calcule g
t
p = (0, 0, e
−t
x
3
) → 0 quand t → ∞. Le crit`ere 1.8 de Mahler
prouve donc que AUV
±
y n’est pas relativement compact.
D´emonstration de la proposition 12.5 Rappelons que, par un argument ` a la
Zorn, tout compact U-invariant non vide de X contient un compact U-invariant
minimal. Soit F = Hx. On suppose par l’absurde que F = Hx.
On va appliquer deux fois le lemme 12.6. La premi`ere fois via le lemme 12.8.
La deuxi`eme fois via le lemme 12.9.
Soit K un compact U-invariant minimal de F. D’apr`es le lemme 12.8, ce com-
pact K est aussi AU-invariant. D’apr`es le lemme 12.8, on a soit AUV
+
(K) ⊂ F
ou AUV

(K) ⊂ F. Mais, d’apr`es le lemme 12.7, les ensembles AUV
±
(K) ne sont
pas born´es dans X. Contradiction.
Dans cette d´emonstration, on a utilis´e les deux lemmes suivants.
Lemme 12.8 Soit K un compact U-invariant minimal du compact F = Hx.
Alors K est AU-invariant.
D´emonstration du lemme 12.8 Remarquons tout d’abord que K n’est pas
une U-orbite compacte. Sinon, on pourrait trouver y dans K et s = 0 tels que
102
u
s
y = y. On aurait alors u
e
−t
s
a
t
y = a
t
y. Or les points de X ont un stabilisateur
discret dans G et lim
t→∞
u
e
−t
s
= e. Donc a
t
y tend vers l’infini, ce qui contredit la
compacit´e de F.
L’ensemble M := ¦g ∈ G [ gK ∩ K = ∅¦ v´erifie les trois propri´et´es suivantes.
M est U-invariant `a droite et `a gauche.
M est ferm´e.
Il existe une suite g
n
dans M U convergeant vers e.
Pour v´erifier cette derni`ere affirmation, on choisit un point y ∈ K. Par minimalit´e
de K, il existe une suite u
s
n
∈ U avec s
n
→∞ telle que u
s
n
y →y. On ´ecrit alors
y = g
n
u
s
n
y avec g
n
→e.
Pour pouvoir appliquer le lemme 12.6 ` a l’image D de la suite g
n
dans G/U,
remarquons qu’il existe une repr´esentation lin´eaire de G dans un espace vectoriel
E de dimension finie et un point v
0
∈ E tel que Gv
0
· G/U. Cela r´esulte du
r´esultat g´en´eral 4.7 de Chevalley. On peut ˆetre aussi tr`es explicite en prenant
E = ¦ formes quadratiques sur R
3
¦ R
3
et v
0
= (Q, (1, 0, 0)).
L’ensemble des points fixes de U dans G/U est ´egal ` a N
G
(U)/U · AV .
Le lemme 12.6 et les trois propri´et´es ci-dessus prouvent que l’on est dans l’un
des deux cas suivants :
1
er
cas La suite g
n
est dans AV U pour n 0.
2
`eme
cas Il existe une application continue non constante ϕ : R →AV ∩ M.
Notons L la composante connexe du groupe engendr´e par M ∩ AV . Dans les
deux cas, c’est un sous-groupe de Lie connexe non trivial de AV . Montrons que K
est L-invariant. Pour tout g dans dans M ∩AV , le ferm´e gK ∩Kest U-invariant
et non vide et, par minimalit´e de K, on a gK = K. Donc K est bien L-invariant.
Pour conclure, il reste ` a montrer que L contient A.
Supposons par l’absurde que ce ne soit pas vrai. On est alors dans l’un des
deux cas suivants : L = V ou v
s
0
Av
−s
0
avec s
0
= 0. Dans ce deuxi`eme cas, on a
V
+
⊂ AL, car a
t
v
s
0
a
−t
v
−s
0
= v
(e
2t
−1)s
0
. Dans les deux cas, pour tout y ∈ K, on
a donc AUV
+
y ⊂ HLy ⊂ F. Ce qui contredit le lemme 12.7.
Lemme 12.9 On suppose que l’orbite Hx n’est pas compacte. Soit K un compact
AU-invariant minimal du compact F = Hx.
Alors on a soit AUV
+
(K) ⊂ F ou AUV

(K) ⊂ F.
D´emonstration du lemme 12.9 Le raisonnement est tr`es proche de celui du
lemme 12.8.
Comme H/AU est compact et que l’orbite Hx n’est pas compacte, K ne peut
pas ˆetre inclus dans Hx.
L’ensemble M := ¦g ∈ G [ gF ∩ K = ∅¦ v´erifie alors les trois propri´et´es
suivantes.
M est H-invariant `a droite et AU-invariant `a gauche.
M est ferm´e.
Il existe une suite g
n
dans M H convergeant vers e.
103
Pour v´erifier cette derni`ere affirmation, on prend un point y ∈ K hors de l’orbite
Hx. On a alors une suite h
n
∈ H telle que h
n
x → y. On ´ecrit alors y = g
n
h
n
x
avec g
n
→e.
Pour appliquer le lemme 12.6 ` a l’image D de la suite g
n
dans G/H, on remarque
de nouveau ` a l’aide du corollaire 4.7 qu’il existe une repr´esentation lin´eaire de
G dans un espace vectoriel E de dimension finie et un point v
0
∈ E tel que
Gv
0
· G/H. On peut ˆetre aussi explicite que dans le lemme 12.8 en prenant
E = ¦ formes quadratiques sur R
3
¦ et v
0
= Q.
Comme tous les sous-groupes unipotents de H sont conjugu´es, l’ensemble des
points fixes de U dans G/H est ´egal ` a N
G
(U)H/H = V H/H · V .
Le lemme 12.6 et les trois propri´et´es ci-dessus prouvent que l’on est dans l’un
des deux cas suivants :
1
er
cas La suite g
n
est dans V H pour n 0.
2
`eme
cas Il existe une application continue non constante ϕ : R →V ∩ M.
Dans les deux cas, on a M ∩ V = e. Comme M est invariant par conjugaison
par A, on en d´eduit que V
+
⊂ M ou V

⊂ M.
Supposons par exemple V

⊂ M. Pour tout v ∈ V

, l’intersection vF ∩K est
non vide et U-invariante. Le lemme 12.8 assure que K est un ferm´e U-invariant
minimal. On a donc K ⊂ vF, puis V
+
K ⊂ F et enfin AUV
+
K ⊂ AU F = F.
104
13 R´ecurrence des groupes unipotents
Le but de ce chapitre est de montrer des propri´et´es de r´ecurrence
pour les flots unipotents sur les espaces homog`enes X de volume fini.
A cause du th´eor`eme d’arithm´eticit´e de Margulis le cas crucial est celui o` u
X = SL(d, R)/SL(d, Z) est l’espace des r´eseaux de volume 1 dans R
d
. Ce que
nous supposerons dans ce chapitre.
Notons alors t →u
t
= e
tN
un groupe `a un param`etre d’´el´ements unipotents. Le
but de cette section est le th´eor`eme suivant. On note [I[ la mesure de Lebesgue
d’une partie I de R.
Th´eor`eme 13.1 (Dani, Margulis) Soit X = SL(d, R)/SL(d, Z). Pour tout
ε > 0, x ∈ X, il existe un compact K = K
x
⊂ X tel que, pour tout T ≥ 0
[¦t ∈ [0, T] [ u
t
x ∈ K¦[ ≥ (1 −ε)T.
On notera l’analogie entre ce th´eor`eme 13.1 et le lemme 1.4 de r´ecurrence pour
les marches al´eatoires qui s’applique `a X.
En outre, le compact K
x
peut ˆetre choisi uniforme pour tout x dans un compact
K
t
de X. Ce th´eor`eme affirme donc que les orbites du flot u
t
sur X passent la
plus grande partie de leur temps ` a distance finie.
13.1 Le cas d = 2
Dans le cas d = 2, la d´emonstration du th´eor`eme 13.1 est tr`es
courte :
On note b
ε
la boule de rayon ε dans R
2
. Le crit`ere de Mahler assure que
l’ensemble des r´eseaux ∆ ∈ X qui ne rencontrent b
ε
qu’en 0 est un compact.
Choisissons une boule b
α
avec α ≤ 1 qui ne rencontre le r´eseau de d´epart ∆ = x
qu’en 0.
Pour chaque paire ±v ∈ ∆ de vecteurs primitifs, le vecteurs u
t
v se d´eplace
` a vitesse constante. Donc dans l’intervalle de temps I
v
qu’il a pass´e dans b
α
la
proportion de temps qu’il a pass´e dans une boule beaucoup plus petite b
αε/2
est
au plus ε.
Ces intervalles I
v
sont disjoints car, comme u
t
∆ est de volume 1, la boule b
α
contient ` a chaque instant t au plus une paire de points ±u
t
v avec v ∈ ∆ primitif.
Donc la proportion du temps entre 0 et T pendant lequel u
t
∆ avait un point dans
cette boule b
αε/2
est au plus ε. C’est ce que l’on voulait.
13.2 Pr´eliminaires sur les r´eseaux
Nous aurons besoin d’une version plus maniable du crit`ere 1.8 de
compacit´e de Mahler
105
Munissons R
d
d’une norme euclidienne |.|. Rappelons que, pour ∆ r´eseau de
R
d
, un sous-espace ∆-rationnel L ⊂ R
d
est un sous-espace tel que ∆∩ L est un
r´eseau de L. On note alors
d

(L) := covol
L
(∆∩ L).
Par exemple d

:= d

(R
d
) est le covolume de ∆. Notons S(∆) l’ensemble des
sous-espaces ∆-rationnels. On appelle drapeau ∆-rationnel de longueur , un en-
semble F de sous-espaces ∆-rationnels non triviaux qui est totalement ordonn´e.
On pourrait noter un tel drapeau F sous la forme
F : 0 L
i
1
L
i

R
d
.
Nous ne le ferons pas car, au cours de la d´emonstration, les sous-espaces L
i
n’ap-
paraitrons pas forc´ement dans l’ordre croissant. On note alors S
F
= S
F
(∆) l’en-
semble des sous-espaces ∆-rationnels propres L tels que F ∪ ¦L¦ est un drapeau
∆-rationnel de longueur k + 1. Autrement dit,
S
F
:= ¦L ∈ S , 0 L R
d
[ pour tout M ∈ F, on a M L ou L M ¦.
On dit que le drapeau F est complet si = d −1. Dans ce cas S
F
(∆) est vide.
Proposition 13.2 (Mahler) Soient X = SL(d, R)/SL(d, Z) et Y ⊂ X. Les
assertions suivantes sont ´equivalentes.
(i) Y est relativement compact.
(ii) Il existe a > 0 tel que, pour tout ∆ ∈ Y , inf
v∈∆−0
|v| ≥ a.
(iii) Il existe b > 0 tel que, pour tout ∆ ∈ Y , inf
L∈S(∆)
d

(L) ≥ b.
(iv) Il existe β > α > 0 tels que, pour tout ∆ ∈ Y , il existe un drapeau ∆-rationnel
complet F tels que α ≤ d

(L) ≤ β, pour tout L ∈ F.
Rappelons tout d’abord quelques affirmations que nous avons d´ej` a utilis´ees
dans la section 1.4. On note c
d
la constante c
d
= 2(1/v
d
)
1
d
o` u v
d
=
π
d
2
d
2
Γ(
d
2
)
est le
volume de la boule euclidienne dans R
d
. La valeur pr´ecise de cette constante ne
jouera pas de rˆole dans la d´emonstration. On remarque juste que c
d
≥ 1 et que
c
d
croˆıt avec d.
Lemme 13.3 a) Tout r´eseau ∆ ⊂ R
d
contient un vecteur v avec 0<|v| ≤ c
d
d
1
d

.
b) Pour tout C > 0, l’ensemble ¦L ∈ S(∆) [ d

(L) ≤ C¦ est fini.
c) L’application X →]0, ∞[; ∆ → min
L∈S(∆)
d

(L) est continue.
D´emonstration C’est le lemme 1.10 de Minkowski et le lemme 1.12.
Le lemme suivant permet de compl´eter les drapeaux ∆-rationnels incomplets
en des drapeaux dont on contrˆ ole les covolumes.
106
Lemme 13.4 Soient β ≥ 1, ∆ ∈ X et F un drapeau ∆-rationnel incomplet tel
que, pour tout L ∈ F, d

(L) ≤ β.
Alors il existe M ∈ S
F
(∆) tel que d

(M) ≤ c
d
β.
D´emonstration Comme le drapeau F est incomplet, on peut trouver deux sous-
espaces ∆-rationnels successifs L
1
⊂ L
2
de dimension d
1
< d
2
avec δ := d
2
−d
1
≥ 2
avec L
i
∈ F ∪¦0, R
d
¦. En appliquant le lemme 13.3.a de Minkowski `a l’image de
L
2
∩ ∆ dans L
2
/L
1
, on peut trouver un vecteur v ∈ L
2
L
1
dont l’image v dans
L
2
/L
1
est de norme au plus
|v| ≤ c
d
(d

(L
2
)/d

(L
1
))
1
δ
.
Le sous-espace M = L
1
⊕Rv est alors dans S
F
(∆) et v´erifie
d

(M) ≤ |v|d

(L
1
) ≤ c
d
d

(L
1
)
1−
1
δ
d

(L
2
)
1
δ
≤ c
d
β.
C’est la majoration cherch´ee.
D´emonstration de la proposition 13.2 (i) ⇐⇒(ii) C’est la proposition 1.8.
(ii) =⇒ (iii) Cela r´esulte du lemme 13.3.c. En effet, une fonction continue
strictement positive sur un compact est minor´ee par une constante strictement
positive.
(iii) =⇒ (iv) La minoration est claire. Pour la majoration, on peut prendre
pour constante β = (c
d
)
d
. Pour cela, on construit le drapeau F par r´ecurrence ` a
l’aide du lemme 13.4. On perd au plus un facteur c
d
` a chaque ´etape.
(iv) =⇒(ii) On peut supposer 0 < α < 1 < β. Soit v un vecteur non nul dans
un des r´eseaux ∆ ∈ Y . Notons L
1
L
d−1
le drapeau ∆-rationnel complet
F donn´e par la condition (iv) et posons L
0
= 0 et L
d
= R
d
. Soit i l’entier tel que
v ∈ L
i
−L
i−1
. On a alors
|v| ≥ d(L
i
)/d(L
i−1
) ≥ α/β.
C’est la minoration cherch´ee.
13.3 Autres lemmes pr´eliminaires
Voici deux lemmes ´el´ementaires dont nous aurons besoin, l’un sur
les polynˆomes en une variable, l’autre sur les recouvrements d’un in-
tervalle.
Notons P
m
l’espace des polynˆomes sur R de degr´e au plus m. Le lemme suivant
exprime qu’un polynˆome ne peut pas ˆetre petit trop longtemps et ce avec un
contrˆ ole uniforme qui ne d´epend que du degr´e du polynˆome.
107
Lemme 13.5 Pour tout ε > 0, il existe M
ε
> 0 tel que pour tout intervalle I et
tout polynˆome p ∈ P
m
, on a

¦t ∈ I [ [p(t)[ ≤
1
M
ε
sup
I
[p[ ¦

≤ ε[I[.
D´emonstration Sinon il existerait m ≥ 0, ε > 0 et une suite de polynˆ omes p
n

P
m
telle que sup
[0,1]
[p
n
[ = 1 et

¦t ∈ [0, 1] [ [p
n
(t)[ ≤
1
n
¦

≤ ε. Cet ensemble
est une r´eunion d’au plus 2m intervalles. Par compacit´e de la sph`ere unit´e de P
m
,
cette suite p
n
une valeur d’adh´erence p

∈ P
m
. Ce polynˆome p

est non nul,
mais l’ensemble de ses racines est de mesure au moins ε. Contradiction.
Lemme 13.6 Soit I = ∪
α∈A
I
α
un recouvrement d’un intervalle compact I ⊂ R
par des intervalles I
α
ouverts dans I. Alors, il existe un sous-recouvrement I =

α∈A
I
α
de chevauchement au plus 2.
Le chevauchement est le nombre maximum d’intervalles I
α
dont l’intersection est
d’int´erieur non vide.
D´emonstration On extrait tout d’abord un recouvrement fini. On prend alors
un intervalle I
α
0
= [x
0
, y
0
[ contenant l’extr´emit´e gauche de I avec y
0
maximum.
Puis un intervalle I
α
1
=]x
1
, y
1
[ contenant y
0
avec y
1
maximum. Et on continue.

Pour montrer le th´eor`eme 13.1 de r´ecurrence, on partira d’un point x = ∆ dans
un compact K
t
⊂ X, ce qui nous donne une constante b par le crit`ere (iii) de
Mahler. On veut contrˆ oler, pour L ∈ S(∆), le covolume dans L de u
t
(∆∩L). On
introduit donc le polynˆome sur R
p
L
: t →d
u
t

(u
t
L)
2
.
C’est un polynˆ ome de degr´e au plus 2d
2
car on a l’´egalit´e p
L
(t) = |u
t
e
1
∧ ∧u
t
e
i
|
o` u e
1
, . . . , e
i
est une base de ∆∩ L.
13.4 La r´ecurrence qui prouve la r´ecurrence
Pour d´ecrire le compact K dans lequel u
t
∆ passe plus de 1 − ε
de son temps, on va utiliser le crit`ere (iv) de Mahler. Il s’agira donc
de construire `a chaque instant t convenable un drapeau complet F de
sous-espaces ∆-rationnels L
i
dont on contrˆ olera les covolumes carr´es
p
L
i
(t).
On proc`edera par r´ecurrence, en ajoutant `a chaque ´etape, pour tout temps t un
nouveau sous-espace ` a un drapeau ∆-rationnel de longueur . Le nombre d’´etape
dans cette r´ecurrence est donc d −1. La proposition technique qui met en place
cette r´ecurrence est la suivante.
108
Proposition 13.7 Soit β > 1 > α > 0 et posons β
t
= c
d
β et α
t
= α. Soient I
un intervalle compact et F un drapeau ∆-rationnel incomplet tel que
(a) inf
L∈S
F
(sup
t∈I
p
L
(t)) ≥ α
(b) sup
t∈I
( inf
L∈S
F
p
L
(t)) < β
(c) sup
t∈I
p
L
(t) < β ∀L ∈ F.
Il existe un recouvrement fini de chevauchement au plus 2 de I par des intervalles
compacts I
t
tels que sur chaque I
t
, il existe un drapeau F
t
= F∪¦L
0
¦ avec L
0
∈ S
F
tel que
(a
t
) inf
L∈S
F

(sup
t∈I

p
L
(t)) ≥ α
t
(b
t
) sup
t∈I

( inf
L∈S
F

p
L
(t)) < β
t
(c
t
) sup
t∈I

p
L
(t) < β
t
∀L ∈ F
t
(d
t
) sup
t∈I

p
L
0
(t) ≥ α
t
.
Remarque On ne peut pas en g´en´eral r´eduire la taille des intervalles I
t
de sorte
qu’ils soient d’int´erieur disjoint sans perdre les conditions (a
t
) et (d
t
).
D´emonstration de la proposition 13.7 Pour tout t
0
∈ I, on doit fournir un
intervalle I
t
contenant t
0
dans son int´erieur et un sous-espace L
0
∈ S
F
v´erifiant
(a
t
), (b
t
), (c
t
) et (d
t
). On extraira alors le sous-recouvrement de chevauchement
au plus 2 `a l’aide du lemme 13.6. On distingue deux cas.
1
er
cas : Il existe L ∈ S
F
tel que p
L
(t
0
) ≤ α.
D’apr`es le lemme 13.3, il n’y a qu’un nombre fini de tels sous-espace ∆ ra-
tionnels L. On choisit donc un intervalle compact I
t
de longueur maximal dont
l’int´erieur contient t
0
, pour lequel il existe L
0
∈ S
F
tel que sup
t∈I

p
L
0
(t) ≤ α.
Par la condition (a) et la maximalit´e de I
t
, cette in´egalit´e est une ´egalit´e
sup
t∈I

p
L
0
(t) = α et on a, sup
t∈I

p
L
(t) ≥ α, pour tout L ∈ S
F
.
La condition (a
t
) est donc v´erifi´ee d`es que α
t
≤ α.
Par la condition (c) et le lemme 13.4, la condition (b
t
) est vraie d`es que β
t
≥ c
2
d
β.
Par (c) et l’´egalit´e sup
t∈I

p
L
0
(t) = α, la condition (c
t
) est vraie d`es que β
t
≥ β.
La mˆeme ´egalit´e prouve que la condition (d
t
) est valide d`es que α
t
≤ α.
2
`eme
cas : Pour tout L ∈ S
F
, on a p
L
(t
0
) ≥ α.
On choisit, grˆ ace ` a la condition (b) un sous-espace L
0
∈ S
F
tel que p
L
0
(t
0
) < β.
On choisit alors un intervalle compact I
t
dont l’int´erieur contient t
0
sur lequel on
a encore sup
t∈I

p
L
0
(t) < β
Dans ce cas, la condition (a
t
) est automatique d`es que α
t
≤ α.
109
Par la condition (c) et le lemme 13.4, la condition (b
t
) est vraie d`es que β
t
≥ c
2
d
β.
Par (c) et le choix ci-dessus, la condition (c
t
) est aussi v´erifi´ee d`es que β
t
≥ β.
La minoration p
L
0
(t
0
) ≥ α garantit la condition (d
t
) d`es que α
t
≤ α.
D´emonstration du th´eor`eme 13.1 On applique d−1 fois la proposition 13.7.
On commence la premi`ere ´etape avec I = [0, T] et F = ∅. Pour valider la
condition (a), il suffit de la comprendre en t = 0. D’apr`es la condition (iii) du
crit`ere 13.2 de Mahler, la condition (a) est vraie avec une constante α = α
0
= b
2
uniforme pour ∆ dans un compact K
t
de X. Pour valider la condition (b), on
applique le lemme 13.3 de Minkowski : chaque r´eseau u
t
∆ contient un vecteur
non nul de norme au plus c
d
. La condition (b) est donc satisfaite avec β = β
0
= c
2
d
.
Noter qu’` a ce stade, la condition (c) est vide.
On construit ensuite successivement d−1 couples de r´eels α
k
= α
k−1
et β
k
=
(c
d
)
2
β
k−1
ainsi que d−1 recouvrement de [0, T] par des intervalles compacts. Le
premier ayant un chevauchement au plus 2, le deuxi`eme un chevauchement au
plus 4,... , le dernier un chevauchement au plus 2
d−1
. Le chevauchement total est
donc au plus 2
d
. On a donc α
d−1
= b
2
et β
d−1
= (c
d
)
2d
. Posons ε
0
= 2
−d
ε. Par
le lemme 13.5 et les conditions (d
t
), dans chacun des intervalles I
t
, on a pour le
sous-espace L
0
correspondant
[¦t ∈ I
t
[ p
L
0
(t) <
α
d−1
M
ε
0
¦[ ≤ ε
0
[I
t
[.
On retire de chacun de ces intervalles I
t
les points t tels que p
L
0
(t) <
α
d−1
M
ε
0
.
L’ensemble J de tous ces points t est de mesure au plus
2
d
ε
0
T = εT.
Les r´eseaux u
t
∆ correspondant aux temps t hors de J contiennent un drapeau
complet de sous-espaces ∆-rationnel dont les covolumes carr´es sont dans l’inter-
valle [
α
d−1
M
ε
0
, β
d−1
]. On applique la condition (iv) du crit`ere 13.2 de Mahler avec les
constantes α = b/M
1
2
ε
0
et β = (c
d
)
d
. Ces r´eseaux u
t
∆ pour t ∈ J sont donc dans
un compact K qui ne d´epend que de ε et de b.
110
R´ef´erences
[1] N.A’Campo, M.Burger - R´eseaux arithm´etiques et commensurateur d’apr`es G. A.
Margulis, Invent. Math. 116 (1994) p.1-25.
[2] R.Alperin - An elementary account of Selberg’s lemma, Ens. Math.33 (1987) p.269-
273.
[3] Y.Benoist - Pavages du plan, in Journ´ees X-UPS 2001,Editions de l’Ecole Polytech-
nique.
[4] Y.Benoist - Five lectures on lattices in semisimple Lie groups, Un cours `a l’´ecole
d’´et´e de Grenoble 2004***.
[5] A.Borel - Compact Clifford-Klein forms of symmetric spaces, Topology 2 (1963)
p.111-122.
[6] A.Borel - Introduction aux groupes arithm´etiques, Hermann (1969).
[7] A.Borel - Linear algebraic groups, GTM 126 Springer (1991).
[8] A.Borel, G.Harder - Existence of discrete cocompact subgroups of reductive
groups over local fields, J. Reine Angw. Math. 298 (1978) p.53-64.
[9] N.Bourbaki - Groupes et alg`ebres de Lie, Paris (1975).
[10] A.Eskin, G.Margulis - Recurrence properties of random walks on finite volume
homogeneous spaces, ***
[11] M.Gromov, P.Pansu - Rigidity of lattices : an introduction, Lect. Notes in Math.
1504 (1991) p.39-137.
[12] P.de la Harpe, A.Valette - La propri´et´e T de Kazhdan, Asterisque (1989).
[13] S.Helgason - Differential geometry, Lie groups and symmetric spaces, Acad. Press
(1978).
[14] S.Helgason - Groups and geometric analysis, Acad. Press (1984).
[15] R.Howe, E.Tan - Non-abelian harmonic analysis, Universitext Springer (1992).
[16] G.Margulis - Discrete subgroups of semisimple Lie groups, Springer Ergebnisse
(1991).
[17] G.Margulis - Random walks on the spaces of lattices and the finiteness of covolumes
of arithmetic subgroups, in Algebraic groups and arithmetic, Tata Inst. Fund. Res.
Stud. Math. 17 (2004) p.409-425.
[18] B.Maskit- Kleinian groups, Springer GTM (1988).
[19] G.Mostow - Quasiconformal mappings in n-space and the rigidity of hyperbolic
space forms, Publ. Math. IHES 34 (1967) p.53-107.
[20] V.Platonov, A.Rapinchuk - Algebraic groups and number theory, Ac. Press
(1994).
[21] M.Raghunathan - Discrete subgroups of Lie groups, Springer(1972).
[22] P.Samuel - Theorie alg´ebrique des nombres, Hermann Paris (1971).
[23] A.Selberg - On discontinuous groups in higher dimensional symmetric spaces, in
Contribution to function theory, Tata (1960) p.147-164.
[24] J-P. Serre - Cohomologie des groupes discrets, Ann. of Math. Studies 70,p.77-169.
[25] J.Tits - Sur la classification des groupes alg´ebriques semi-simples, C. R. Acad. Sci.
249 (1959) p.1438-1440.
[26] J.Tits - Structure des groupes de Weyl, S´eminaire Bourbaki 288 (1965).
[27] E.Vinberg, V.Gorbatsevich, O.Shvartsman - Discrete subgroups of Lie groups,
in Encyclopedia of Math. Sc. 21 Springer (2000).
[28] A.Weil - Algebras with involutions and the classical groups, J. Indian Math. Soc.
24 (1961) p.589-623.
[29] A.Weil - Basic number theory, Springer (1973).
[30] D.Witte-Morris - Introduction to arithmetic groups, preprint (2003).
[31] R.Zimmer - Ergodic theory and semisimple groups, Birkhauser (1984).
Univ. Paris-Sud & CNRS yves.benoist@math.u-psud.fr www.dma.ens.fr/˜benoist
111

Table des mati`res e
1 Construction de r´seaux e 1.1 Un exemple : le groupe orthogonal 1.2 R´currence des marches al´atoires e e 1.3 Marches al´atoires lin´aires . . . . e e 1.4 L’espace des r´seaux . . . . . . . . e 1.5 Construction d’une fonction f . . . 1.6 Application au groupe orthogonal . 2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4 . 4 . 5 . 7 . 9 . 11 . 13 14 14 16 19 20 22 25 25 27 28 29 30 32 32 34 34 36 37 39 40 42 42 44 45 45 46 47 48 49 49 51 52 54 54 56 57

Alg`bres de Lie semisimples e 2.1 Alg`bres de Lie nilpotentes et r´solubles e e 2.2 Alg`bres de Lie semisimples . . . . . . . e 2.3 Repr´sentations de sl2 . . . . . . . . . . e 2.4 El´ments nilpotents et sl2 -triplets . . . e 2.5 Syst`mes de racines . . . . . . . . . . . e

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

3 Groupes de Lie semisimples 3.1 Groupes de Lie compacts . 3.2 Involutions de Cartan . . . 3.3 Sous-alg`bres de Cartan . . e 3.4 Sous-espaces de Cartan . . 3.5 D´composition de Cartan et e 3.6 Sous-groupes paraboliques . 3.7 Exemples . . . . . . . . . .

. . . . . . . . . . . . . . . . . . . . Iwasawa . . . . . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

4 Groupes alg´briques e 4.1 Vari´t´s alg´briques . . . . . . . . ee e 4.2 Groupes alg´briques . . . . . . . . e 4.3 Actions alg´briques . . . . . . . . . e 4.4 El´ments semisimples et unipotents e 4.5 Groupes alg´briques (suite) . . . . e

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

5 Groupes arithm´tiques e 5.1 Groupes arithm´tiques . . . . . . . . . . . . . e 5.2 Strat´gie de d´monstration du th´or`me 5.4.a e e e e 5.3 Le plongement dans l’espace des r´seaux . . . e 5.4 Le cas Q-simple et Q-isotrope . . . . . . . . . 5.5 Le cas Q-simple et Q-anisotrope . . . . . . . 5.6 Le cas r´ductif . . . . . . . . . . . . . . . . . e 5.7 Conclusion . . . . . . . . . . . . . . . . . . . 6 M´lange et comptage e 6.1 Repr´sentations unitaires et m´lange e e 6.2 Vecteurs invariants pour SL(2) . . . . 6.3 D´croissance des coefficients . . . . . . e 6.4 Comptage des points d’un r´seau . . . e 6.5 Equidistribution des grandes sph`res . e 6.6 Comptage faible . . . . . . . . . . . . 6.7 Estimation de volumes . . . . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

. . . . . . .

2

7 R´seaux e 7.1 Zariski densit´ des r´seaux e e 7.2 R´seaux irr´ductibles . . . e e 7.3 Groupes moyennables . . 7.4 L’application aux bords .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

59 59 61 63 64 66 66 66 68 69 73 73 75 77 78 81 81 83 84 86 89 90 90 91 91 92 93

8 Th´orie ergodique e 8.1 Probabilit´s ergodiques . . . . . e 8.2 Dynamique des transformations 8.3 Th´or`me ergodique . . . . . . e e 8.4 Martingales . . . . . . . . . . .

. . . . . . . ergodiques . . . . . . . . . . . . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

9 Mesures stationnaires 9.1 Existence d’une mesure limite . . . . 9.2 Contraction et proximalit´ . . . . . . e 9.3 Proximalit´ . . . . . . . . . . . . . . e 9.4 Mesures stationnaires K-invariantes 10 Superrigidit´ e 10.1 Superrigidit´ . . . . . . . . . . . e 10.2 Valeurs propres de mˆme module e 10.3 Construction de Θ . . . . . . . . 10.4 L’espace E des translat´s de Θ . e 10.5 Prolongement de π ` G . . . . . a 11 Arithm´ticit´ e e 11.1 Groupes arithm´tiques . . . . . e 11.2 Les r´seaux sont de type fini . . e 11.3 Alg´bricit´ des valeurs propres e e 11.4 Corps de d´finition de G . . . . e 11.5 Restriction de K ` Q . . . . . a

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

12 Mesures invariantes 96 12.1 Mesures U -invariantes sur SL(2,R)/Γ . . . . . . . . . . . . . . . . . . . . . . . . . 96 12.2 Petites valeurs des formes quadratiques . . . . . . . . . . . . . . . . . . . . . . . 100 13 R´currence des groupes unipotents e 13.1 Le cas d = 2 . . . . . . . . . . . . . . . 13.2 Pr´liminaires sur les r´seaux . . . . . . e e 13.3 Autres lemmes pr´liminaires . . . . . . e 13.4 La r´currence qui prouve la r´currence e e 105 105 105 107 108

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

3

e ` Rappelons qu’un sous-groupe Γ de G est dit discret si la topologie de G induite sur Γ est discr`te.e. Rappelons que G admet une mesure (bor´lienne) positive λG invariante par toutes les translations ` droite x → xg. e D’une part. On note alors λX la mesure sur X qui co¨ e ıncide localement via p avec la mesure de Haar λG . les motivations de cet ´nonc´ sont arithm´tiques : il s’agit d’une e e e impressionante g´n´ralisation non commutative du th´or`me des unit´s de Dirie e e e e chlet.1 Construction de r´seaux e Ce premier chapitre donne un bon aper¸u de l’ensemble du cours. nous y e a montrerons. Pour cela. e e e e 1. e Ceci nous permettra de d´montrer le th´or`me de Borel Harish-Chandra pour e e e les groupes orthogonaux (il est dˆ a Siegel dans ce cas). ceux pour lesquels le quotient X est compact. e e Autrement dit. e a que cette mesure est unique a multiplication pr`s par un scalaire positif et qu’elle ` e est appel´e la mesure de Haar a droite de G. e Commen¸ons par une simple remarque.1 Un exemple : le groupe orthogonal Nous allons d´tailler dans cette section notre objectif principal e (proposition 1. nous devons d´finir ce qu’est un r´seau. D’autre part la m´thode due a Margulis que nous allons utiliser pour le d´e e montrer est issue de la th´orie ergodique : nous allons utiliser des propri´t´s de e ee r´currence de marches al´atoires ainsi que des propri´t´s de croissance exponene e ee tielle des marches al´atoires lin´aires. c’est grˆce a la compr´hension de la structure des groupes alg´briques a ` e e que nous d´montrerons par les mˆme m´thodes dans le chapitre 5 une version e e e g´n´rale du th´or`me de Borel et Harish-Chandra. D´finition 1. nous e e e d aurons besoin de diverses propri´t´s de l’espace des r´seaux de R dont le crit`re ee e e de compacit´ de Mahler. le th´or`me de Borel et e e Harish-Chandra qui affirme que “les groupes arithm´tiques sont des e r´seaux”.1 Un sous-groupe discret Γ de G est un r´seau si λX (X) < ∞. Pour faire fonctionner cette m´thode. c On y trouvera d´j` la mixture th´orie des nombres + th´orie erea e e godique + th´orie des groupes propre ` ce cours. e e Soit G un groupe localement compact.3). sont des r´seaux. Par exemple les sous-groupes discrets cocompacts. La projection p : g → gΓ de G dans X := G/Γ est alors un e revˆtement. c 4 . pour les groupes orthogonaux. i. u Enfin. un sous-groupe discret Γ de G est un r´seau si il existe une e partie mesurable F de G telle que λG (F ) < ∞ et F Γ = G. En effet.

Ce volume est pr´serv´ par g. Comme annonc´. X un espace localement compact et (g. . e Remarques . Comme Γ ee est un r´seau. Proposition 1.Mais cet ´nonc´ est faux pour d = 2 lorsque la forme quadratique Q est e e isotrope sur Q i. pour tout entier p ≥ 2 non carr´.2 R´currence des marches al´atoires e e Nous allons commencer par donner dans le corollaire ci-dessous un crit`re qui assure que le volume d’une mesure invariante est fini.e. 1. xd ) = ai. lorsque l’´quation Q(x) = 0 n’a pas de solutions enti`res e e non nulles.j xi xj une forme quadratique non d´g´n´r´e ` coefficients entiers. on a e e e donc ∆(g) = 1. e e e e e . C’est la ` “th´orie de la r´duction”. Q(x1 .Nous verrons que cette proposition est un cas particulier d’un ´nonc´ bien plus g´n´ral valable pour tous les “Q-groupes sans Q-caract`re”. le volume total λX (X) est fini. . .3 (Siegel) Soient d ≥ 3.La m´thode traditionnelle pour montrer cette proposition consiste a construire e ` explicitement un domaine F dit “domaine de Siegel” et a calculer λG (F ). e e ee e e Soient G un groupe localement compact. R) = {g ∈ GL(d. . m). c. [6]. b > 0 telles que Aµ (f ) ≤ af + b 5 .2 Un groupe localement compact G qui contient un r´seau Γ est unie modulaire Autrement dit. ∞[. GR le groupe des transformations e e e e a orthogonales ` coefficients r´els et GZ le sous-groupe discret des transformations a e orthogonales ` coefficients entiers : a GR = O(Q. R) | Q ◦ g = Q} et GZ = GR ∩ GL(d. . Donc la translation a gauche ` ` sur X par un ´l´ment g de G multiplie aussi la mesure λX par ∆(g). On suppose HC Il existe une fonction propre f : X → [0. une probabilit´ µ sur G et des e constantes a < 1.Cet ´nonc´ est encore vrai pour d = 2 lorsque la forme quadratique Q est e e anisotrope sur Q i. Rappelons qu’une application continue est propre si l’image inverse de tout compact est compacte. Cela r´sulte de ce que. lorsque l’´quation Q(x) = 0 n’a pas de solutions enti`res non e e nulles. l’´quation e e e de Pell-Fermat n2 − pm2 = 1 a une infinit´ de solutions enti`res (n. nous allons suivre une m´thode e e e e plus rapide mais qui ne donne pas d’estimation sur le domaine fondamental. La a ` mesure λX est donc aussi invariante par translation ` gauche. Ce e crit`re est bas´ sur des propri´t´s de r´currence de marches al´atoires. Z). e e . la mesure de Haar ` droite est aussi invariante a gauche. x) → gx une action continue de G sur X.Lemme 1. a D´monstration La translation ` gauche x → gx par un ´l´ment g de G multiplie e a ee la mesure de Haar a droite λG par un scalaire ∆(g).e. Alors GZ est un r´seau dans GR .f.

Ce lemme est un lemme de r´currence pour les marches al´atoires sur X. toute mesure de Radon G-invariante ν sur e X est finie. on a. pour tout x dans X. D´monstration D’apr`s l’hypoth`se HC. e a une constante pr`s. u e En outre. il affirme que si on marche au hasard sur X en partant du point x. pour tout point x ∈ X. An (1K )(x) ≥ 1 − ε . la probabilit´ d’ˆtre e e ` e e hors de K est au plus ε. il existe M = Mx tel que pour tout n ≥ M . u e e Aµ (f )(x) = G f (gx)dµ(g) Cet op´rateur Aµ est donc l’op´rateur de convolution par la probabilit´ µ image e e e ˇ de µ par l’inversion g → g −1 . an An (1K c )(x) ≤ µ d`s que n est suffisamment grand pour que f (x) ≤ e Rappelons qu’une mesure de Radon sur X est une mesure bor´lienne finie sur e les compacts. pour tout ε > 0. l’entier Mx est uniforme sur les compacts de X. 1−a Comme f est propre.o` Aµ est l’op´rateur de moyennisation donn´ par. ` e Lemme 1. a partir d’un moment. une fonction propre f sur X . µ o` 1K est la fonction caract´ristique de K. En e e effet. 2B On a alors les majorations ε n εan ε Aµ (f )(x) ≤ f (x) + ≤ ε 2B 2B 2 B .4 Sous l’hypoth`se HC. Corollaire 1. avec des d´placements donn´s par la loi µ. 6 . pour tout n ≥ 1 e e e An (f ) ≤ an f + b(1 + · · · + an−1 ) ≤ an f + B µ avec B = b . il existe un compact K ⊂ X e tel que.5 Sous l’hypoth`se HC. Remarque Cette hypoth`se HC signifie que la moyennisation par µ contracte. on peut prendre pour compact K = {y ∈ X | f (y) ≤ 2B } ε de sort que 1K c ≤ ε f.

a 1 D´monstration D’apr`s le lemme 1. Aµ (f )dν(x) = G G f dν(x). log( G G | log g |dµ(g) < ∞. e ˇ Lemme 1. g −1 v )dµ(g) log( v )dµ(g) G = 2 7 . Notons supp(µ) le e e e support de µ et Γµ le plus petit sous-groupe ferm´ de G le contenant. associ´e ` un produit scalaire euclidien . la norme euclidienne induite sur l’espace des matrices M (d. On dit que e µ est sym´trique si µ = µ. pour toute fonction positive e e f sur X. e e e on a donc ν(X) = supL ν(L) ≤ 2ν(K). e e e a e d Munissons R d’une norme . R) le groupe lin´aire et S ⊂ G l’ensemble des matrices e sym´triques d´finies positives.3 Marches al´atoires lin´aires e e Dans cette partie.6 On suppose µ sym´trique.4 avec ε = 2 . L’hypoth`se HC assure aussi que X est une r´union d´nombrable de compacts. e + Notons G = GL(d.. . c’est-`-dire le fait que la mesure ν sur X est µ-stationnaire.Remarque Nous allons uniquement utiliser l’´galit´. Soit µ une probabilit´ sur G. On calcule en appliquant tout e d’abord l’´galit´ µ = µ puis l’in´galit´ de Cauchy-Schwarz et enfin le fait que les e e ˇ e e matrices g sont µ-presque surement sym´triques : e 2 G log( gv )dµ(g) = G log( gv g −1 v )dµ(g) ≥ G log( gv. nous construisons des fonctions ϕi sur lequelles la moyennisation Aµ est une contraction. Cette propri´t´ de contracee tion est li´e a une propri´t´ de croissance exponentielle pour la marche e ` ee al´atoire lin´aire associ´e ` une probabilit´ µ. il existe un compact K ⊂ X e e tel que pour tout compact L ⊂ X et n suffisamment grand on a ν(L) ≤ 2 X An (1K )(x)dν(x) = 2 µ X 1K (x)dν(x) = 2ν(K). gv )dµ(g) ≥ 0 v avec ´galit´ ssi Γµ stabilise la droite Rv. et e a notons aussi . supp(µ) ⊂ S + et e d Alors pour tout v ∈ R non nul. R). Le lemme suivant est un cas particulier ´l´mentaire d’un th´or`me de Furstenee e e berg sur la croissance exponentielle des marches al´atoires matricielles. e e D´monstration Notons Iv le membre de gauche. 1.

La mesure G-invariante sur Wi est de masse totale infinie. ∞[ la fonction sur Wi donn´e par e ϕi (v) = v −1 pour tout v ∈ Wi . cela ne contredit pas le corollaire 1. supp(µ) compact et e d que l’action de Γµ dans R est irr´ductible. v est alors aussi u e vecteur propre de g et la droite engendr´e par v est stabilis´e par Γµ . le cas d’´galit´ dans cette e e in´galit´ n’est atteint que si v est vecteur propre de g 2 pour µ-presque tout g.L’hypoth`se d’irr´ducibilit´ signifie que Rd ne contient pas de souse e e espace vectoriel Γµ invariant. on a Iv > 0. Par Cauchy-Schwarz. g −d )) | g ∈ supp(µ)}. Alors il existe δ > 0 et a0 < 1 tels e que. avec δ = min(1/M. Posons M = sup{log(max( g d . . 8 dµ(g) G .Ceci donne la majoration Iv ≥ 0. e e i d Il laisse invariant le cˆne Wi ⊂ Λ R des vecteurs d´composables non nuls o e Wi := {v = v1 ∧ · · · ∧ vi = 0 | vj ∈ Rd }. C/M 2 ). il existe une constante C > 0 telle que Iv ≥ 2C. ∞[ n’est pas propre. e e Comme les matrices g sont µ-presque sˆrement d´finies positives. supp(µ) ⊂ S + . e e Pour 1 ≤ i ≤ d. On remarque que pour tout r´el t ∈ [−1. On note ϕi : Wi →]0.6 assure que pour tout v dans Wi . Le e e i d groupe G = GL(d. On calcule alors. comme l’hypoth`se d’irv r´ducibilit´ assure que l’action de Γµ sur la grassmanienne Gd n’a pas de points e e i fixes. R) agit naturellement sur Λ R par l’´galit´ gv = gv1 ∧· · ·∧gvi . on a Aµ (ϕδ ) ≤ a0 ϕδ . Comme la grassmanienne est compacte et que l’application v → Iv est continue.5 car la fonction ϕδ : Wi → [0.7 On suppose µ sym´trique. l’int´grale e e e e Iv = G log( gv )dµ(g) est non n´gative : Iv ≥ 0. Corollaire 1. 1].. o e Le quotient Gd de ce cˆne Wi par les homoth´ties positives est la Grassmanienne i des i-plans de Rd . pour tout 0 < i < d. la norme euclidienne naturelle sur les puissances ext´rieures Λi Rd : c’est l’unique norme euclidienne pour laquelle le e produit ext´rieur v = v1 ∧ · · · ∧ vi d’une famille orthonorm´e est de norme 1. i D´monstration Le lemme 1. i i Remarques . Mieux. on a la majoration e et ≤ 1 + t + t2 . pour tout v ∈ Wi . on note encore . Aµ (ϕδ )(v) i = ϕδ (v) i e−δ log( G gv v ) dµ(g) gv log( ) v 2 gv )dµ(g) + δ 2 ≤ 1−δ log( v G 2 2 ≤ 1 − 2Cδ + M δ ≤ 1 − Cδ.. Il suffit de prendre a0 = 1 − Cδ.

∞[ est continue et propre.10 Notons p la projection de Rd sur le quotient e d T = Rd /∆ et introduisons le plus grand rayon R tel que cette projection p est injective sur la boule ouverte de rayon R. Le vecteur non nul vε = u1 − u2 est dans ∆ et de norme au plus 2R + 2ε. Z). L’ensemble X des r´seaux de R est une vari´t´ comme espace e ee quotient X := GL(d. e e Le r´el d∆ = covol(∆) := d∆ (Rd ) est le covolume de ∆. la maximalit´ de R assure que.d de ∆n qui converge vers une base f1 . Le groupe discret ∆ contient donc un vecteur v non nul de norme au plus 2R. R)/SL± (d. Notons vd le volume de la e boule euclidienne de rayon 1 dans Rd : v1 = 2. Le voici.1. nous utiliserons l’in´galit´ e e e e d’Hermite-Minkowski si utile en th´orie des nombres.4 L’espace des r´seaux e Pour construire la fonction f v´rifiant HC. vi est une base de ∆∩L. . Lemme 1. .10 (Hermite. . v2 = π. 9 . . D´monstration du lemme 1.1 . On note alors d(L) = d∆ (L) := v1 ∧ · · · ∧ vi o` e u v1 . . pour tout e ε > 0. . Pour montrer le crit`re de compacit´ de Mahler. v∈∆−0 Corollaire 1. Cette quantit´ ne d´pend pas du choix de la base.9 La fonction α1 : X → [0. une e suite ∆n de r´seaux de Rd converge vers un r´seau ∆ de Rd ssi il existe une base e e fn. il existe deux vecteurs u1 . e e Proposition 1. . Minkowski) Tout r´seau ∆ de Rd contient un vecteur e 1 non nul de norme v ≤ 2(d∆ /vd ) d . Autrement dit les parties relativement compactes sont caract´ris´es par une e e majoration du covolume et de l’inverse de la systole α1 (∆) = ( inf v )−1 . Nous r´utiliserons plus tard ces propri´t´s e ee pour d´montrer les th´or`mes de Ratner.. nous aurons besoin de e quelques propri´t´s de l’espace des r´seaux de Rd . nous aurons besoin d’un crit`re simple e et utile de compacit´ dans l’espace des r´seaux. . que nous d´monee e e trons dans cette section. fn. . e Pour construire notre fonction propre f .. Par d´finition de la topologie quotient. Un sous-espace vectoriel L de Rd est dit ∆-rationnel e si ∆ ∩ L est un r´seau de L. e e e Rappelons qu’un r´seau de Rd est un sous-groupe discret de Rd qui est ab´lien e e d libre de rang d. pour tout ∆ ∈ Y d∆ ≤ α et v∈∆−0 inf v ≥ β. Soit ∆ un r´seau de Rd . D’autre part. fd de ∆. .8 (Mahler) Une partie Y ⊂ X de l’espace des r´seaux de Rd e est relativement compacte ssi il existe α. β > 0 tels que. La comparaison des volumes donne la majoration vd Rd ≤ d∆ . . On note X l’ensemble e des r´seaux de covolume 1. . u2 de norme au plus R + ε qui ont mˆme image e dans Td ..

e D´monstration On peut supposer que ∆ = Zd . . . R). e R´ciproquement. ces deux fonctions sont donc born´es sur Y . ` l’aide du proc´d´ d’orthoe e e c a e e gonalisation de Gramm-Schmidt. La suite ∆n sous-converge e e alors vers un r´seau de Rd . . e ` Ceci prouve que L + M est ∆-rationnel. montrons que toute partie Y de X sur laquelle ces deux e fonctions sont born´es est relativement compacte. Alors les sous-espaces L + M et L ∩ M sont ∆-rationnels et on a la majoration d(L ∩ M )d(L + M ) ≤ d(L)d(M ). On remarque aussi qu’un sous-espace est ∆-rationnel ssi il est d´fini par des e ´quations lin´aires a coefficients rationnels. v1 . Si Y est une partie relativement compacte. uk . ces e r´seaux ∆n sous-convergent vers un r´seau de (Rv∞ )⊥ . w1 . . uk . . La suite vn sous-converge donc vers un vecteur non e nul v∞ ∈ Rd que l’on peut supposer de norme v∞ = 1. Quitte a modifier chacun ` des ∆n par une petite similitude. . Lemme 1. . uk . Choisissons un vecteur non nul vn ∈ ∆n de norme minimum. Remarque Par convention. . la famille u1 . v . les e e normes vn sont major´es. on part d’une base u1 . w1 . . v de ∆ ∩ L et en une base e u1 . Notre assertion r´sulte e alors de la majoration u u∧v∧w ≤ u∧v u∧w . . e Dans la partie suivante nous aurons aussi besoin des lemmes techniques suivants.11 Soient ∆ un r´seau de Rd et L. . . v1 . wm de ∆ ∩ M . e e ` Pour montrer la majoration. on a pos´ d(0) = 1 pour le sous-espace nul. wm est alors libre et engendre un sous-groupe d’indice fini de ∆ ∩ (L + M ). . . . . . . . Ceci prouve que L∩M est ∆-rationnel. . . w1 . Comme α1 (∆n ) est major´. On note u = u1 ∧ · · · ∧ uk . les normes vn sont positivement minor´es. . . . . On raisonne par r´currence sur d. . . . v1 . Par hypoth`se de r´currence.8 et du corollaire 1. . . Les images des e e ∆n de ∆n dans l’orthogonal (Rv∞ )⊥ sont √ r´seaux dont le volume est major´ 3 e e par α et dont la systole est minor´ par 2 β. . . v . uk . On veut donc montrer que toute e suite ∆n dans Y sous-converge dans X . uk de ∆ ∩ L ∩ M que l’on compl`te en une base u1 . .D´monstration de la proposition 1. On remarque alors qu’un souse espace est ∆-rationnel ssi il est engendr´ par des vecteurs a coefficients rationnels. . La famille u1 . En outre e e par l’in´galit´ d’Hermite-Minkowski et la majoration du covolume de ∆n . . . Cette derni`re in´galit´ se montre en rempla¸ant. Donc les fonctions ∆ → d∆ et ∆ → α1 (∆) sont des fonctions continues sur X . . C’est e clair pour d = 1.9 Les fonctions e g → |det(g)| et g → α1 (gZd ) sont continues sur GL(d. wm par 10 . . . . . M deux sous-espaces ∆-rationnels e de Rd . . v = v1 ∧ · · · ∧ v et w = w1 ∧ · · · ∧ wm . on peut aussi supposer que vn = v∞ . . .

On notera α0 = 1. l’´l´ment e1 ∧ · · · ∧ ei est dans Λi (Z) et de norme born´e par C. Pour tout r´seau ∆ de R . w1 . On a vu que αi est continue. Lemme 1. v1 . . . . e Le lemme suivant permettra de construire la fonction f que nous cherchons. 11 . a) Pour tout C > 0. r−1 d∆ (L) ≤ dg∆ (gL) ≤ rd∆ (L). . . e αi (∆) := sup{d∆ (L)−1 | L ⊂ Rd ∆-rationnel. On a donc une probabilit´ µ sur e G = GL(d. . Lemme 1. . dim L = i}. ∞[.3. w1 . L∈Si (∆) D´monstration a) On peut supposer ∆ = Zd . Si e1 .12 Notons Si (∆) := {sous-espaces ∆-rationnels de dimension i}.une famille u1 . Pour 0 < i ≤ d. d − i). .13 Soit µ une probabilit´ sur GL(d. . R) telle que HI µ est sym´trique. d´finissons une fonction αi de l’espace des r´seaux X dans e e d [0. nous allons e e maintenant construire explicitement la fonction f v´rifiant HC dont e nous avons besoin pour montrer la proposition 1. e e Reprenons les notation du corollaire 1. l’int´grale Aµ (αi )(∆).7 et posons cette fois. wm sont orthogonales et telle que u = u1 ∧ · · · ∧ uk . j>0 1 o` le max est pris sur les entiers j avec 0 < j ≤ min(i. v . . wm telle que les deux familles u1 . uk . e e e 1. u ∧ v = u ∧ v1 ∧ · · · ∧ v et u ∧ w = u ∧ w1 ∧ · · · ∧ wm . . et l’action e du groupe Γµ dans Rd est irr´ductible. .7. ∆ → min d∆ (L) sont continues. v et u1 .5 Construction d’une fonction f En combinant les r´sultats des deux derni`res sections. ei est une base de e L ∩ Zd . . le support de µ est compact et inclus dans S + . on a δ δ δ δ Aµ (αi ) ≤ a0 αi + b0 max(αi−j αi+j ) 2 . . . . . e b) Cela r´sulte des in´galit´s g −1 −d d∆ (L) ≤ dg∆ (gL) ≤ g d d∆ (L). pour tout 0 < i < d. . . pour tout sous-espace ∆-rationnel L ⊂ Rd . uk . . g −1 d ) | g ∈ supp(µ)} de sorte que. Cela ne ee e laisse qu’un nombre fini de possibilit´s. . . . . . u δ D´monstration On veut majorer. uk . ∞[ . . pour ∆ ∈ X. Alors il existe e e a0 < 1 et b0 > 0 tels que. e e Choisissons a0 < 1 et δ > 0 comme dans le corollaire 1. . v1 . r = sup{max( g d . b) Les application X →]0. . . on a #{L ∈ Si (∆) | d∆ (L) ≤ C} < ∞. . R) qui v´rifie [HI]. on ait. La fonction α1 co¨ ıncide avec celle introduite dans la partie pr´c´dente. . pour µ-presque tout g. .

On obtient alors avec a0 < 1 et b0 > 0. e Voici enfin la construction de la fonction f cherch´e. par le corollaire 1.14 Soit µ une probabilit´ sur SL(d. δ δ δ Aµ (αi )(∆) ≤ b0 max(αi−j (∆)αi+j (∆)) 2 . avec b0 = r2δ . e D´monstration La propret´ de f r´sulte du corollaire 1. b > 0. On a bien a < 1 si ε est choisi suffisamment petit. dg∆ (gLi )δ d∆ (Li )δ 2 cas : Ψi contient un autre ´l´ment Li .11. pour tout sous-espace ∆ee rationnel L de dimension i. Appliquons le lemme 1. et µ-presque tout g. l’´galit´ e e 2(d − i)i = (d − i − j)(i + j) + (d − i + j)(i − j) + 2j 2 . grˆce au lemme 1. pour µ-presque tout g.7. ∞[ f := 0<i<d δ ε(d−i)i αi v´rifie [HC] : elle est propre et il existe a < 1. Alors il e e existe δ > 0 et ε > 0 tels que la fonction f : X → [0. On ee a alors. on a dg∆ (gL) ≥ dg∆ (gLi ) d’o`. d∆ (L) ≤ r2 d∆ (Li )}. et donc. et la majoration 2(st) 2 ≤ s + t.13. u δ Aµ (αi )(∆) = G `me e 1 1 δ dµ(g) ≤ a0 = a0 αi (∆). Notons j := dim(Li + Li ) − i. dim L = i. 1er cas : Ψi contient un seul ´l´ment Li . On va distinguer deux cas. R) qui v´rifie [HI]. j>0 1 1 1 1 On obtient la majoration annonc´e en combinant ces deux cas. Aµ f ≤ a0 0<i<d 1 βi + b0 maxj>0 εj (βi−j βi+j ) 2 ≤ (a0 + b0 εd) 2 1 0<i<d βi + b0 εd et donc Aµ f ≤ af + b avec a = a0 + b0 εd et b = b0 εd. pour tout s. a αi (g∆) ≤ rαi (∆) = rd∆ (Li )−1 ≤ r2 (d∆ (Li )d∆ (Li ))− 2 ≤ r2 (d∆ (Li ∩ Li )d∆ (Li + Li ))− 2 ≤ r2 (αi−j (∆)αi+j (∆)) 2 .9. t ≥ 0. 12 . e e e δ Notons βi = ε(d−i)i αi de sorte que f = 0<i<d βi .Choisissons un sous-espace ∆-rationnel Li ⊂ Rd de dimension i tel que d∆ (Li ) = αi (∆)−1 et introduisons l’ensemble (fini) Ψi := {L ⊂ Rd | ∆-rationnel. e Corollaire 1. Alors. tels que Aµ (f ) ≤ af + b.

On peut choisir un produit scalaire euclidien de Rd et une base orthonorm´e de Rd tels que. La e ee e mesure ν sur le quotient GR /GZ induite par la mesure de Haar est donc GR invariante. Le groupe Γµ est donc la composante connexe e e e du groupe GR .3 Ce groupe GR est unimodulaire (parce e qu’il est engendr´ par des ´l´ments d’ordre 2 : les r´flexions hyperplanes). . Nous reprendrons ces id´es plus en d´tail dans un cadre g´n´ral e e e e dans le chapitre 5 D´monstration de la proposition 1.6 Application au groupe orthogonal Terminons cette partie en montrant comment les id´es ci-dessus e s’organisent pour montrer que le groupe GZ = O(Q. Notons (p. On prend pour µ la mesure sur GR image par l’application exponentielle d’une probabilit´ sym´trique µ0 sur q dont le support est une boule centr´e en 0. l’action de la composante connexe de GR sur Rd est irr´ductible. xp+q ) = x2 + · · · x2 − x2 − · · · − x2 . q) la signature de Q.15 Pour d ≥ 2. e La suite gn γn est donc convergente et l’injection i est propre. e Cette probabilit´ µ v´rifie bien la condition [HI]. . | C = t B}. R). Z) est un r´seau e du groupe GR = O(Q. On veut montrer que cette mesure ν est finie. alors la suite gn GZ converge dans GR /GZ .5 et 1. On remarque tout d’abord que l’injection i : GR /GZ → HR /HZ est propre. On d´compose l’alg`bre de Lie p+q p+1 p 1 g de GR en une somme directe g = k ⊕ q. on peut ´crire. Pour v´rifier cela. On veut bien sˆr appliquer une combinaison e u des corollaires 1.1. e e e Q(x1 . on doit montrer que si une suite gn HZ avec gn ∈ GR converge e dans HR /HZ . il suffit de construire une probabilit´ µ e port´e par GR v´rifiant la condition [HI]. On e e e v´rifie facilement l’´galit´ k = [q. . Comme d ≥ 3. Z). pour n grand hn = γn h avec γn ∈ GZ et h ∈ HZ . Pour cela. le groupe SL(d. R) et HZ = SL± (d. Comme l’injection GZ \HZ → GR \HR est d’image discr`te (elle s’identifie a un ensemble de formes quadratiques a coeffie ` ` cients entiers).14. q]. Remarquons que cette condition ne e e fait plus intervenir le groupe GZ . e 13 . Notons HR = SL± (d. D = −t D}. . La mesure ν peut donc ˆtre vue comme une mesure de Radon sur l’espace e HR /HZ des r´seaux de covolume 1. R). e e La mˆme d´monstration permet de retrouver le e e Corollaire 1. o` u k = {M ∈ g | M = −t M } = { q = {M ∈ g | M = t M } = { A 0 0 D 0 C B 0 | A = −t A . Notons hn une suite de HZ telle que gn hn converge dans HR . Z) est un r´seau de SL(d.

.2 Un id´al de g est un sous-espace h tel que [g. adY ]. ` e D´finition 2. Celui-ci est uniquement d´termin´ e e par g. . . z := {X ∈ g | [X. Ce morphisme est appel´ e le morphisme adjoint.2 Alg`bres de Lie semisimples e Ce chapitre est constitu´ de quelques rappels sur les alg`bres de e e Lie semisimples 2. B] = AB − BA. Rappelons que toute R-alg`bre de Lie g est l’alg`bre de Lie d’un e e e groupe de Lie connexe et simplement connexe. pour tout Y ∈ g.L’alg`bre de Lie End(k d ) avec le crochet [A. pour tout Y. .] v´rifiant l’identit´ de e e a e e e Jacobi : pour tout X. g] = 0. mˆme si nous n’utiliserons pas ce fait. e e Pour tout X dans g.Un endomorphisme D ∈ End(g) d’une alg`bre de Lie g est une d´rivation si e e D([Y.1 Une alg`bre de Lie est un k-espace vectoriel g muni d’une applie e cation bilin´aire antisym´trique ` valeurs dans g not´e [. Y ]. p. r´soe e e luble) si il existe un drapeau d’id´aux 0 = g0 ⊂ · · · ⊂ gi ⊂ · · · ⊂ gp = g tels que e [g. Historiquement. [Y. gi ] ⊂ gi−1 (resp. Z]] Exemples fondamentaux . D´finition 2.L’alg`bre de Lie d’un groupe de Lie G. e e Une alg`bre de Lie g est ab´lienne si [g. par le th´or`me d’Ado. h] ⊂ h. Z ∈ g. Z] + [Y. Elle est nilpotente (resp. le mot d´rivation est un raccourci pour l’expression “d´rivation e e d’un groupe a un param`tre d’automorphismes”.1 Alg`bres de Lie nilpotentes et r´solubles e e Commen¸ons par ´tudier les alg`bres de Lie r´solubles c’est-`-dire c e e e a celles obtenues par extensions successives d’alg`bres ab´liennes. pour tout i = 1. Y ] = [adX. DZ]. on note adX la d´rivation int´rieure donn´e par adX(Y ) = e e e [X. L’application ad : g → Derg est un morphisme d’alg`bres e de Lie. Y ]. Z] + [Y. Z ∈ g. gi /gi−1 est ab´lienne).e. Y ∈ g. toute alg`bre de Lie s’identifie ` une e e a sous-alg`bre de Lie de End(V ). Remarquons e que. . . g] = 0}. ad[X. Z]) = [DY. est une Ra alg`bre de Lie. Y. e e e . . Z]] = [[X. pour tout X. son noyau est le centre z de g. [X. i. L’ensemble Der(g) des d´rivations de g est une sous-alg`bre de Lie de End(g). c’est-`-dire e a l’espace des champs de vecteurs invariants par translation ` gauche. [X. e e Toutes nos alg`bres de Lie sont de dimension finie sur un corps k de caract´e e ristique nulle. e 14 .

pour X ∈ g. X] = 0.L’alg`bre de Lie = u+ ⊂ End(k d ) des matrices strictement triangulaires sue d p´rieures est nilpotente. e On remarque tout d’abord que.4 (Lie) Soient K un corps alg´briquement clos. ee D´monstration On proc`de par r´currence sur dim g. e Les deux th´or`mes suivants expliquent en quoi ces exemples sont fondamene e taux.3 (Engel) Soit V un k-espace vectoriel de dimension d et g ⊂ e e End(V ) une sous-alg`bre de Lie dont tout ´l´ment est nilpotent. h est une sous-alg`bre e de Lie de g. (adX)n (Y ) = r r n−r Y 0≤r≤n (−1) Cn X 0 1 1 0 est nilpotente. Soient h un id´al de codimension 1 de g et X ∈ g h. il suffit de trouver dans e e e V une droite g-invariante.Exemples fondamentaux . e En raisonnant par r´currence sur dim g. Soit h g une sous-alg`bre de Lie maximale. on a h = g et h est un id´al de codimension 1 e e dans g. Posons alors W = {w ∈ V | hw = 0}. En effet. L’hypoth`se de r´currence e e e appliqu´e ` l’action adjointe de h dans g/h prouve qu’il existe un sous-espace e a h = kX ⊕ h de g tel que [h. ` Th´or`me 2. pour tout Y ∈ EndV . adX est nilpotent. on peut supposer qu’il existe un vecteur e 15 0 1 1 0 est r´soluble. Il suffit de trouver un e e e vecteur v dans V annul´ par g. Alors e e + il existe une base de V telle que g ⊂ pd . Remarque L’alg`bre de Lie g = R e elle ne stabilise pas de droite dans R2 . mais e e . Par maximalit´ de h. C’est un sous-espace g-invariant de V . e . e e . Remarque L’alg`bre de Lie g = C e ses ´l´ments ne sont pas nilpotents.L’alg`bre de Lie p+ = ad ⊕ u+ des matrices triangulaires sup´rieures est e d d r´soluble. Il suffit de prendre v dans le noyau de la restriction de X a W . Comme [X. D´monstration En proc´dant par r´currence sur dim V . V un K-espace e e e vectoriel de dimension d et g ⊂ End(V ) une sous-alg`bre de Lie r´soluble. Th´or`me 2. mais e Xr est nul pour n ≥ 2 dim V . h ] ⊂ h. car ab´lienne.L’alg`bre de Lie ad ⊂ End(k d ) des matrices diae gonales est ab´lienne. Alors il existe e ee + une base de V telle que g ⊂ ud . car ab´lienne.

5 La forme de Killing B = Bg d’une alg`bre de Lie g est la forme e e bilin´aire sym´trique sur g donn´e par B(X. on peut pour e le v´rifier. En effet.7 Les quatre affirmations suivantes sont ´quivalentes e e e i) Tout id´al ab´lien de g est nul. W est h-invariant. Posons vi = X i v0 et notons W l’espace vectoriel engendr´ par tous les e vi . . e e e Le radical r de g est le plus grand id´al r´soluble de g. .2 Alg`bres de Lie semisimples e Comme pour les alg`bres associatives de dimension finie. 2. la semisimplicit´ est invariante par changement e de corps de base : pour toute extension de corps k ⊂ K. e e e e Remarques . Mais r est invariant par tous les automorphismes de e g et en particulier par les automorphismes etD . supposer k = C. les e ` plus subtiles et les mieux comprises. . Une alg`bre de Lie g est simple si 0 et g sont les seuls id´aux de g et si e e dim g > 1. gi ] ⊂ a∩gi = 0 et donc a est dans le centre de g. pour tout H ∈ h. on a [a. vi−1 . e .Le radical r est invariant par toute d´rivation D de g. pour tout t ∈ k. e e Remarques . pour tout H ∈ h. On en d´duit que λ([H. Y ) = trg (adXadY ). si a est un id´al simple diff´rent de e e e tous les gi . 16 .Comme corollaire. X]) = e 1 trW ([H. En effet.6 Une alg`bre de Lie g est semisimple si tout id´al ab´lien de g est e e e e nul. e e ii) Le radical r est nul. Un tel vecteur existe car K est alg´briquement e clos. On peut alors pr´ciser le calcul pr´c´dent par r´currence e e e e dim W sur i et obtenir Hvi = λ(H)vi .Le radical r existe.Comme autre corollaire. D´finition 2. ce sont e les alg`bres de Lie semisimples qui sont a la fois les plus utiles.v0 ∈ V et une forme lin´aire λ ∈ h∗ tels que. Il suffit alors de prendre pour v un vecteur propre de X dans W . la somme de deux id´aux r´solubles e e de g est encore un id´al r´soluble. Contradiction. En effet. on a Hv0 = e λ(H)v0 . une alg`bre de Lie semi-simple g n’a qu’un nombre e fini d’id´aux simples : ce sont les gi . . e iv) La forme de Killing Bg est non d´g´n´r´e. D´finition 2. une k-alg`bre de Lie g e est semisimple ssi son extension g ⊗k K est une K-alg`bre de Lie semisimple. e e . On v´rifie par r´currence sur i que Hvi − λ(H)vi est combinaison lin´aire e e e de v0 . iii) g est une somme directe d’id´aux simples g = ⊕i gi . X]) = 0. En particulier. Voici d’autres d´finitions ´quivalentes pour les alg`bres de Lie semisimples e e e Th´or`me 2.

Son conjugu´ ϕ = ψs est aussi dans M . a) = 0} est un id´al de g. e b) La forme de Killing de a est la restriction de celle de g.Lemme 2. pour X. B(gi . g] car. Par l’implication iii) ⇒ iv). gj ] = 0 et. c] avec b. On peut pour cela supposer que a = [b.8 e a) Cela r´sulte de l’´galit´ B([X. e e e Contradiction. A]. A] ⊂ A}. e D´monstration du th´or`me 2. on a tr(ϕa) = 0. la forme de Killing de a e est non d´g´n´r´e.9 Soit V = k d . en notant λi les valeurs propres e de ψ. On en d´duit que g = a ⊕ a⊥ et que la forme de Killing de e e ee e l’id´al a⊥ est non d´g´n´r´e. Soit ψ ∈ M tel que. donc a = 0. par suite. Y ∈ a. Y ]. e a Il suffit de montrer que B est non nul. e e e b) Cela r´sulte de l’inclusion adXadY (g) ⊂ a. pour a ∈ A et ϕ ∈ M . Z ∈ g. Y. On a alors tr(ϕa) = tr([ϕ.8 Soit a un id´al d’une alg`bre de Lie g. Par r´currence. Dj r]. l’alg`bre de Lie A est nilpotente. Il e e e est soit nul. On a B(a. c ∈ A. Soit a un id´al non nul minimal de g. comme dim g > 1. on a tr(ϕψ) = 0. soit ´gal ` g. pour X. D´monstration du lemme 2. Montrons que. iv) ⇒ i) Soit a un id´al ab´lien de g. Dj+1 r = [Dj r. Il est donc nul. On a utilis´ le e Lemme 2. e e iii) ⇒ iv) Comme [gi . Z) + B(Y. e e D’apr`s les remarques suivant la d´finition 2. A] ⊂ A}. le radical r´soluble de a est un e e e id´al de g. Alors ψ est nilpotent. On peut supposer ψs diagonale et ψn strictement triangulaire sup´rieure. on peut supposer g simple. i |λi |2 = tr(ϕψ) = 0. Ecrivons ψ = ψs + ψn la d´e e composition de Jordan de ψ. pour tout ϕ ∈ M . On note A = adg et e M := {ϕ ∈ Endg | [ϕ. C’est le point le plus d´licat de la e d´monstration. g) = 0. Remarquons qu’on a g = [g. Le noyau de la forme de Killing B est un id´al de g. g] et donc A = [A.7 e e e i) ⇒ ii) Si r = 0. L’´galit´ ad(ψ) = ad(ψs ) + ad(ψn ) est aussi la d´compoe e e e sition de Jordan de ad(ψ). b]c) = 0 car la forme de Killing est nulle. gj ) = 0 pour i = j. donc par le th´or`me de Engel. Donc ψs = 0. 17 . car on a g = [g. Supposons par l’absurde que B est nul. on pose D0 r = r. g ne peut pas ˆtre ab´lienne. le lemme ci-dessous prouve que tout ´l´ment de ee A est nilpotent. On a alors. Comme A est inclus dans M . Le dernier id´al d´riv´ e e e j non nul D r est un id´al ab´lien de g. [X. Z]) = 0. e e ii) ⇒ iii) Par r´currence sur dim g. D´monstration On peut supposer que k = C.5. A un k-sous-espace vectoriel de EndV et M = {ϕ ∈ EndV | [ϕ. a⊥ est une somme directe d’id´aux e e e ee e e simples et g aussi. La partie semisimple ψs est donc aussi dans M . e e a) L’orthogonal a⊥ := {X ∈ g | B(X.

Xn ] = 0. Cela r´sulte ee e de l’´galit´. Y. r´elles). Xh e hyperbolique et Xn nilpotent qui commutent deux ` deux. hyperboee lique) si adX est semisimple ` valeurs propres imaginaires pures (resp.10 Toute d´rivation d’une alg`bre de Lie semisimple g est int´e e e rieure. Xn nilpotent et [Xs . pour tout D ∈ d et X ∈ g. D´monstration e Unicit´ La d´composition de Jordan de adX est ad(Xs ) + ad(Xn ). e e Notons a⊥ l’orthogonal dans d de a pour la forme de Killing de d. (adX − µ)p−r Z] 18 . L’´l´ment (adX)s agit sur gλ par multiplication par λ. cette proposition permet d’identifier g avec l’alg`bre de Lie Derg des d´rivations de g. Z ∈ g. Soit gλ = p≥1 Ker((adX − λ)p ) de sorte que g = ⊕λ∈C gλ . pour tout X ∈ g et de l’injectivit´ e e e de l’application adjointe. adX] = ad(DX). gµ ] ⊂ gλ+µ . adX] ∈ a ∩ a⊥ = 0. Il suffit donc ee de v´rifier que [gλ . Tout ´l´ment X de g admet une d´composition unique X = Xs + Xn ee e avec Xs semisimple.11 Un ´l´ment X d’une alg`bre de Lie semisimple est dit nilpotent e ee e si l’endomorphisme adX est nilpotent. C’est tr`s e e e utile car cela permet de voir toute alg`bre de Lie semisimple comme l’alg`bre de e e Lie d’un groupe alg´brique : le groupe de ses automorphismes. a e On a encore une ´criture unique X = Xe + Xh + Xn avec Xe elliptique. e e ee e e Il suffit pour conclure de montrer que tout ´l´ment D ∈ a⊥ est nul. on a l’´galit´ d = a ⊕ a⊥ . Z] = pour tout X. Proposition 2. Comme la forme de Killing de a est non d´g´n´r´e.10 prouvera qu’il existe Xs dans g tel que ad(Xs ) = e (adX)s .Proposition 2. Un ´l´ment X de g est dit elliptique (resp. ad(DX) = [D. D´monstration L’alg`bre de Lie a := adg est un id´al de l’alg`bre de Lie e e e e d := Derg car on a l’´galit´ [D. Un ´l´ment X est dit semisimple si adX ee est semisimple. Ce qui r´sulte de la formule suivante que l’on e e d´montre par r´currence sur p : e e (adX − λ − µ)p [Y.12 (d´composition de Jordan) Soit g une alg`bre de Lie e e semisimple. D´finition 2. Remarque Lorsque k = R. a 0≤r≤p r Cp [(adX − λ)r Y. e e Existence Il suffit de voir que la partie semisimple (adX)s de adX est une d´rivation car la proposition 2. Voici une applicae tion utile de ce fait. On peut supposer k = C. Comme l’application adjointe ad : g → Derg est injective.

H. a) V est somme directe de repr´sentations simples. ∂ ∂ ∂ L’action de cette base dans Vd est donn´e par X → x ∂y . Y := 0 1 0 0 qui v´rifient les relations e [H. k) est X. e . k)-module de dimension finie. d−2. . [H. les ficelles symbolisant e l’action de X et Y sur les vecteurs propres de H correspondant. X] = 2X . . H := 1 0 0 −1 . Exemples fondamentaux . toute alg`bre de Lie semisimple contient de nome e breuses copies de s. Notons p : V → V /V la projection e naturelle. On peut supposer que le corps de base est C car l’ensemble {σ ∈ Homs (V /V . −d+2. H → x ∂x − y ∂y et e ∂ e e e Y → y ∂x . Il suffit de montrer que tout sous-espace s-invariant V ⊂ V admet un suppl´mentaire V s-invariant. une repr´sentation dans e e le k-espace vectoriel Vd de dimension d + 1 des polynˆmes homog`nes de degr´ d o e e sur k 2 .13 Une repr´sentation d’une k-alg`bre de Lie g dans un k-espace e e e vectoriel V est un morphisme de g dans EndV . Elle est dite simple ou irr´ductible si les seuls sous-espaces g-invariants sont 0 e ou V . Y ] = −2Y et [X. e b) Si V est simple alors V est isomorphe ` une des repr´sentations Vd de plus a e haut poids d. . D´crivons plus pr´cis´ment ces repr´sentations. . En effet. sur un corps ale g´briquement clos.L’alg`bre de Lie s = sl(2.14 Soit V un sl(2. On dit aussi que V est un gmodule. D´finition 2. Y avec X := 0 0 1 0 . V ) | p ◦ σ = Id} est un espace affine d´fini sur k : s’il a un point a coefficients dans une extension e ` de k il en a aussi un a coefficients dans k. Son ´tude est fondamentale car. d de H. Y ] = H. pour tout d ≥ 0. tout syst`me d’´quations ` e e 19 . k) est une alg`bre de Lie simple de e e dimension minimale.La repr´sentation adjointe ad. D´monstration a) Nous allons utiliser un argument transcendant appel´ l’astuce e e unitaire de Weyl. Proposition 2. k) admet. On repr´sente parfois Vd par un diagramme ”ficelles” form´ de d + 1 noeuds e e labell´s par les valeurs propres −d.3 Repr´sentations de sl2 e L’alg`bre de Lie s = sl(2. Une base de l’alg`bre de e e e e e Lie s = sl(2. Cette repr´sentation de s dans Vd est appel´e la repr´sentation de plus haut poids d car d y est la plus grande valeur propre de H.2.

Y j+1 ] = (j + 1)Y j (H − j). Comme K est simplement connexe. |a|2 + |b|2 = 1} Son alg`bre de Lie k = {matrices antihermitiennes de trace nulle} est une forme e r´elle de s i. on peut e donc recommencer cet argument sans supposer k alg´briquement clos. Donc. On a donc λ = n. il est facile de v´rifier que Vd est un s-module simple. e R´ciproquement. e Un triplet (x. (H − µ − 2)j X = X(H − µ)j et (H − µ + 2)j Y = Y (H − µ)j . x] = 2x . Munissons V . . y) dans une alg`bre de Lie qui v´rifie les relations de commue e tation [h. Notons alors K = SU(2) le groupe sp´cial unitaire e K := { a b −b a | a. v0 . h. b ∈ C . toute repr´sentation e e de s s’int`gre donc en une repr´sentation de K. vn est une base de V . et posons vi = Y i v0 . pour 0 ≤ i ≤ n. e [X. s k⊗R C. e e 2. Il suffit de prendre pour V l’orthogonal de V . . d’un produit scalaire hermitien K-invariant. grˆce a la mesure e e a ` de Haar de K. y] = h est appel´ un sl2 -triplet. Ce sous-espace est K-invariant.affines a coefficients dans k qui a des solutions dans une extension de k en a aussi ` dans k. Cette mˆme e formule permet de calculer. Soit v0 un vecteur propre de H pour une valeur propre λ de partie r´elle e maximum. Il est donc aussi s-invariant. Xvi = (n − i + 1)ivi−1 .4 El´ments nilpotents et sl2 -triplets e Une des raisons qui rend tr`s utile la classification des repr´sentae e tions de sl2 est la th´orie des sl2 -triplets. [h. b) Supposons tout d’abord k alg´briquement clos et d´composons V en somme e e directe V = ⊕µ∈C Vµ de sous-espaces caract´ristiques de H pour la valeur propre e µ. Par r´currence. Comme V est simple. on a 0 = XY n+1 v0 = (n + 1)(λ − n)vn . pour i ≥ 0. on a la formule dans EndV . Hvi = (n − 2i)vi . Soit n ≥ 0 tel que Y n v0 = 0 et Y n+1 v0 = 0. y] = −2y et [x. e 20 . Y vi = vi+1 . ` Comme on sait maintenant que les valeurs propres de H sont enti`res. . pour tout j ≥ 1. On reconnait le s-module Vn a l’aide de l’identification vi → n(n − 1) · · · (n − i + 1)xn−i y i . On a X(Vµ ) ⊂ Vµ+2 et Y (Vµ ) ⊂ Vµ−2 car on a les formules dans EndV . On a Hv0 = λv0 et Xv0 = 0. .e.

[X. y).15 e e e Construction de h L’endomorphisme (adx)2 est autoadjoint pour la forme de Killing de g. z ∈ g. Alors les valeurs propres de H dans le noyau KerX sont des entiers positifs. Notons u un vecteur tel que X p u = v. On aimerait que u soit nul. Soit v un vecteur propre de XZ pour la valeur propre λ et p le plus petit entier tel que X p v = 0. D´monstration du lemme 2. e e ee ⊥ N2 est aussi l’image de (adx)2 . D´monstration du th´or`me 2. D´monstration On peut supposer k alg´briquement clos. Y ∈ End(k d ) trois matrices telles que [X. Cet entier existe car X est nilpotent. H. c’est-`-dire que. x] = 2x. Comme X et W commutent. z) = B(y. x] = 2x. on a a B((adx)2 y. Alors le produit XZ est nilpotent. Remarquons que le noyau N1 de adx est invariant par adh car [h. pour tout p ≥ 1. on a [x.16 On peut supposer le corps k alg´briquement e e clos. Construction de y Notons u := [h. X p+1 ] = −(p + 1)(H − p)X p . Cela r´sulte du lemme suivant. Par suite. (adx)2 z).17 Soient X. pour y. en notant h = [x. Soit W := [X. le e produit adx adz est nilpotent et donc B(x. pour tout z dans le noyau N2 de (adx)2 . z] = 0 et [h. y ] + 2y . Il suffit donc de voir que −2 n’est pas valeur propre de adh dans N1 . ZW p−1 ] et donc tr(W p ) = 0. Z]] = 0. e Commen¸ons par un lemme. z] + 2z = u. On cherche donc un ´l´ment z := y − y de g tel que ee [x. On reprend la partie e e de la d´monstration de la classification des sl(2. Comme v est dans le noyau de X. Soit e v un vecteur non nul du noyau de X qui est vecteur propre de H pour la valeur propre λ.16. Remarquons que [X p . Donc on a λ = p. Y ) : On montre par r´currence sur p ≥ 0 que [Y . Y ] = H et [H. X] = 2X. Par Jacobi. c Lemme 2. W p = [X.Th´or`me 2. On a λX p−1 v = X p Zv = pW X p−1 v. e Lemme 2. Il existe donc y ∈ g tel que. y ]. Z]. On a l’´galit´ (p + 1)(λ − p)v = X p+1 (Y u). z) = 0. k)-modules simples qui est encore e valable pour (X.15 (Jacobson. C’est-`-dire que x est dans a ⊥ l’orthogonal N2 de N2 pour la forme de Killing. il existe un plus grand entier p ≥ 0 tel que v soit dans l’image de X p . d’apr`s le lemme 2. u] = 0. h. W est nilpotent. Donc λ = 0 et XZ est nilpotent.16 Soient X et Z deux ´l´ments de End(k d ) tels que X est nilpotent ee et [X. Comme B est non d´g´n´r´e. on a. Donc λ/p est une valeur propre de W qui est nilpotent. D’autre part. on a [h. Z] = pW X p−1 . Morozov) Tout ´l´ment nilpotent x d’une ale e ee g`bre de Lie semisimple g fait partie d’un sl2 -triplet (x. H. e e 21 .

e e e a) On a g0 = h. h est commutative maximale. Pour α ∈ E. on a α(Hα ) = 0. Alors. a e e e e ∗ c) Pour λ ∈ h . Xα ] = B(X−α . e e Le th´or`me suivant affirme en particulier que le syst`me de racines de g est e e e un syst`me de racines abstrait.β que.19 Soit E un espace vectoriel r´el muni d’un produit scalaire eue e clidien . Les deux outils clefs sont la construction de sl2 -triplets ` l’aide de la forme de Killing et la a classification des repr´sentations de sl(2). on a [X−α . Alors (Xα . e Nous rappelons maintenant la structure de g. X] = α(H)X pour tout H ∈ h}.5 Syst`mes de racines e Dans cette section g est une alg`bre de Lie semisimple complexe. D´finition 2. e e R 22 . e) i) dim gα = 1 pour tout α ∈ ∆.2. β → β − 2 α. L’ensemble ∆ = {α ∈ h∗ | gα = 0 et α = 0} est appel´ le syst`me de racines de g. pour tout α. on a 2 α. X−α ) = α(Hα ) . ii) [gα . β ∈ ∆. e Th´or`me 2. α = 0 on note sα la sym´trie orthogonale sα : E → e α. b) ∆ = −∆ et la forme de Killing B restreinte ` h est non d´g´n´r´e. on note Hλ ∈ h l’´l´ment tel que B(Hλ . Notons Hα := α(Hα ) et choisissons Xα ∈ gα α 2 tels que B(Xα .α ∈ Z et sα (β) ∈ ∆. X−α ) est un sl2 -triplet.. Hα . gβ ] = gα+β pour tout α. pour tout X±α ∈ g±α . H) = λ(H) pour tout ee H ∈ h.20 Soit g une alg`bre de Lie semisimple complexe. est qu’on peut diagonaliser simultan´ment g sous ee e ∗ l’action adjointe des ´l´ments de h : pour α ∈ h . e ee ee L’int´rˆt de cette notion. En particulier. On a la d´composition e e g = g0 ⊕ (⊕α∈∆ gα ) . on pose ee gα = {X ∈ g | [H. β ∈ ∆.18 Une sous-alg`bre de Cartan h de g est une sous-alg`bre come e e mutative form´e d’´l´ments semisimples et qui est maximale pour ces propri´t´s. Le syst`me de racines abstrait ∆ est dit “r´duit” si α ∈ ∆ ⇒ 2α ∈ ∆. e g) ∆ est un syst`me de racines abstrait r´duit de l’espace euclidien dual E = h∗ . 2H d) Pour tout α ∈ ∆. .β e E. iii) α et −α sont les seules racines proportionnelles ` α. . On appelle “syst`me de racines abstrait” une partie ∆ telle α. L’espace gα associ´ a une racine α ∈ ∆ est e e e` appel´ l’espace radiciel.α α. a f ) La forme B est d´finie positive sur hR := α∈∆ RHα et on a h = hR ⊕ ihR . Xα )Hα . e D´finition 2.

il existe Xα ∈ gα un ´l´ment tel que B(X−α . e e a) Soit X ∈ g0 . H)2 (1) 23 . X−α ] = Hα . Hβ ).Remarques . Ce qui contredit l’´galit´ [Hs . Donc g0 = h. X−α ] = 0 et [Xα . X−α ) = 1. gβ ) = 0 si α + β = 0. on a e β(Hα ) ≥ 0 et β(Hα ) + 2 ≤ 0. . X] = 2X. Donc e e Hα = 0.Nous verrons que toutes les sous-alg`bres de Cartan sont conjugu´es. X−α ]. la dimension r de E. B induit une e e ee dualit´ non d´g´n´r´e entre gα et g−α . En outre.12). Xα ] = 0 et Xα engendre un sα -module de plus bas poids 2. Contradiction. Cela n’existe pas d’apr`s la proposition 2. e Comme 1 n’est pas valeur propre de Hα et que 2 est une valeur propre de multiplicit´ 1. gβ ] = 0. Alors on a [Hα . on a d’apr`s la proposition 2. Xs est dans h. Xα ] = [Hα . On peut d´composer le sα -module V := ⊕z∈C gzα en modules ficelles. Comme α(Hα ) = 2. gβ ] ⊂ gα+β . Notons X = Xs + Xn sa d´composition de Jordan (voir e proposition 2. on peut e classifier les syst`mes de racines abstraits. La somme V := ⊕n∈N gβ−nα est un sα -sous-module de la somme V := ⊕n∈Z gβ+nα .14. X−α ] = −2X−α et e e [Xα .On appelle rang de g ou rang de ∆. X−α )α(H). V = g−α ⊕ g0 ⊕ gα . [X−α . Comme B est non d´g´n´r´e. Ce sous-module V a pour plus haut poids β(Hα ) et V /V a pour plus bas poids β(Hα ) + 2. X−α ] = Hα . β ∈ E. Pour tout H ∈ hR . e e f) Montrons que la restriction de B a hR est positive.14. Xα ] = 2Xα . B([Xα . H]) = B(Xα . on a ` B(H. ee Mais alors [X−α . il est donc e ee a dans h. Donc. L’´l´ment Hs commute encore ` h. on peut supposer que H est dans g0 . d’apr`s la proposition 2. On peut donc supposer ` que X = Xn est nilpotent. Quitte ` remplacer H par sa projection sur g0 a parall`lement a [h.15 de Jacobson Morozov. [Hα . e e a chaque alg`bre de Lie semisimple complexe est associ´ un unique syst`me de ` e e e racines abstrait r´duit. Le th´or`me de Lie appliqu´ a e e e` l’alg`bre de Lie r´soluble RX−α ⊕ RHα ⊕ RXα prouve que Hα est nilpotent. H) = B(Xα . Sauf si X = 0. g]. Donc. X] = 2X. d) Si α(H) = 0. e D´monstration Nous utiliserons fr´quemment l’inclusion [gα . Comme Xs commute a h. H) = α∈∆ α(H)2 = α∈∆ B(Hα . Xα ) = 0. e ii) Si [gα . on a bien [Hα . il existe e e H ∈ g tel que [H. e e e ee c) En effet.On a E = α∈∆ Rα et le produit scalaire sur E est donn´ par e α. Notons H = Hs + Hn e ` la d´composition de Jordan de H. β = B(Hα . On note gα la sous-alg`bre de Lie de g engendr´e par ce sl2 triplet. iii) Quitte a remplacer α par α/2. On choisit X±α ∈ g±α tels que B(Xα . e .14. e) i) Si dim gα ≥ 2. pour tout α. Contradiction. on peut montrer que tout syst`me de racines abstrait r´duit e e e provient d’une unique alg`bre de Lie semisimple complexe.R´ciproquement. e e b) On a B(gα . Par le th´or`me 2. on peut supposer que α/2 n’est pas une ` racine. .

Or e 1 B(Hα . C) (r ≥ 2). e e e comme ∆ engendre h. C) (r ≥ 1). Hβ ) est r´el. E8 . Donc on a hR ∩ ihR = 0. Hβ ) = β(Hα ) = 2 α(Hα )β(Hα ). Donnons pour finir la liste de toutes les alg`bres de Lie simples complexes. En effet. F4 .Il suffit donc de voir que. ses valeurs propres β(Hα ) sont dans Z. Soient α. Remarquons maintenant que ∆ engendre h∗ . B(Hα . C) (r ≥ 4) E6 . En e R particulier ∆ est inclus dans E et engendre E. Hα ) = 4 α(Hα )2 B(Hα .β e de racines abstrait. liste e qui se d´duit de celle des syst`mes de racines abstraits. un ´l´ment e e ee e ee H ∈ hR tel que B(H. Montrons que B est non d´g´n´r´e sur hR . Cela r´sulte des ´galit´s ` e e e e 1 1 α(Hα ) = B(Hα . Hα ) = 4 α(Hα )2 β∈∆ β(Hα )2 . si un ´l´ment H ∈ h est ee dans le noyau de toutes les racines. Dr = so(2r. C) (r ≥ 3). les valeurs propres de Hα dans les modules ficelles sont enti`res et sym´triques par rapport a l’origine. Cr = sp(r. En effet. puis. E7 . Donc gβ−qα est non nul et e e ` β − qα est une racine. e c) L’espace E = h∗ est euclidien et on a l’´quivalence λ ∈ E ⇔ Hλ ∈ hR . Il r´sulte de la proposition 2. Comme Hα fait partie d’un sl2 -triplet. Br = so(2r + 1. Montrons que ∆ est un syst`me e α. Les quatre familles dites e e classiques et les cinq alg`bres simples dites exceptionnelles e Ar = sl(r + 1. β ∈ ∆. H) = 0 serait dans le noyau de toutes les racines et serait donc nul. On peut supposer q ≥ 0. On en d´duit que B est d´fini n´gatif sur ihR . pour α.14 appliqu´ au e e sα -module V := ⊕n∈Z gβ+nα que la valeur propre q = β(Hα ) est un entier et que (adX−α )q (Xβ ) = 0. En effet. il est dans le centre de g et donc H = 0. d’apr`s (1). On doit v´rifier que q ∈ Z et que β − qα ∈ ∆. Il reste a voir que α(Hα ) est r´el. G2 . on en d´duit h = hR ⊕ ihR . β ∈ ∆. 24 .α . q = 2 α.

1 L’application U → uC met en bijection e e alg`bres de Lie e groupes de Lie compacts ←→ semisimples complexes connexes ` centre trivial a . Ad est un morphisme de groupes e e de Lie de U dans le groupe des automorphismes Aut(u). c Pour tout groupe de Lie U . que tout groupe simple compact est.1 Comme AdU est compact. e e On va montrer dans cette partie la surjectivit´. e D´finition 3. il existe une e e e forme bilin´aire d´finie positive B0 sur u qui est AdU -invariante. R´sultats que nous utilie e sons ` plusieurs reprises dans ce cours. un des groupes classiques Ar = SU(r +1). e e e e . R). Remarques . Cr = Sp(r). En particulier.5.2. e e Adu est la d´riv´e de la conjugaison g → ugu−1 .1 Groupes de Lie compacts Commen¸ons par la descriptions des groupes de Lie compacts. 3. Cartan sur la structure des e u ` groupes et des alg`bres de Lie semisimples. D´monstration du th´or`me 3. Donc u est semisimple et uC aussi. N´anmoins. Une forme r´elle gR est dite compacte si la forme de Killing e de gR est d´finie n´gative.3 Groupes de Lie semisimples Nous d´montrons enti`rement dans ce chapitre un certains nome e bres de r´sultats classiques dˆs a E. avec la section 2. Pour tout X ∈ u e e non nul. E8 . Comme dans le cas complexe. nous rappellerons la signification e e de ces concepts pour G = SL(d. donc tr((adX)2 ) < 0.On en d´duit. plus u pr´cis´ment d’une “´quivalence de cat´gories”. e e 25 . e Soit g une alg`bre de Lie semisimple complexe. Br = SO(2r +1). Th´or`me 3.F4 . La forme de e Killing B de u est d´finie n´gative. E7 . on note u = Lie(U ) son alg`bre de Lie et uC := e u ⊗R C son alg`bre de Lie comlexifi´e. adX est antisym´trique pour B0 . a le language des syst`mes de racines permet de g´rer tous les groupes e e de Lie semisimples r´els. modulo e le centre. G2 . la d´composition de Cartan G = KA+ K e et la d´composition d’Iwasawa G = KAU + . l’existence e d’une involution de Cartan. On note Ad l’action adjointe : pour u ∈ U . e e L’injectivit´ de l’application U → uC sera montr´e dans la section 3. Dr = SO(2r) ou un des cinq groupes exceptionnels E6 .Il s’agit bien sˆr d’une bijection “modulo isomorphisme” ou.2 On appelle forme r´elle de g une sous-alg`bre de Lie r´elle gR e e e e telle que g = gR ⊗R C.

a e e Pour montrer que g a une forme r´elle compacte. Lemme 3. En effet. C’est un groupe compact car il est ferm´ et pr´serve la forme de Killing. C). c) Pour α.3 Choisissons un ordre total sur h∗ tel e R que la somme de deux ´l´ments positifs est positif .β Nγ. Xβ ] = Nα.4 a) Clair.β = −N−α. e Grace a cette proposition.δ + Nγ.β = Nβ.γ = Nγ.−β pour tout α. Xα ] = Hα et d´finissons. e b) Comme α + β + γ = 0.α+β > 0. Xβ .γ Hα + Nγ. β.14 qui classifie les sl(2)-modules prouve que u e [X−α . reprenons les notations de e la section 2. Les ´galit´s Nα. X −Y = . Car alors la composante e connexe U := Aut(u)e du groupe des automorphismes de u convient. β.β = −N−α.−β < 0.β Xβ o` aα. D’autre part. i(X +Y ) = . par exemple l’ordre lexicograee phique pour les coordonn´es dans une base de h∗ . Xβ ]] = aα.δ + Nβ.α Nβ.α Hβ + Nα. Proposition 3. Son alg`bre de e e e Lie est isomorphe ` u car toute d´rivation de u est int´rieure. on a Nα.β = −N−α.Il suffit de montrer que g a une forme r´elle compacte u. Pour α ∈ ∆.β = e ` Nβ.β = −Nβ.β Hγ = 0. Or. pour α ∈ ∆ρ tels que Nα. le nombre Nα. on a a e Nα. β ∈ ∆ avec α + β = 0. On note ∆+ = {α ∈ ∆ | α > 0} e R l’ensemble des racines positives. posons ∆ρ = {α ∈ ∆ | −ρ ≤ α ≤ ρ} et montrons par r´currence e sur #∆ρ qu’on peut choisir les Xα .γ Nα.β est un entier strictement positif.−β ∈ R assurent e e e e que u est une alg`bre de Lie.β = 0 sinon. γ. on a Hα + Hβ + Hγ = 0. les facteurs de cette somme directe sont orthogonaux et B est donc d´finie n´gative sur u. Xγ . par construction. α+β ∈ ∆ρ 26 (2) . on peut prendre pour forme r´elle compacte de g ` e u = ihR ⊕ (⊕α∈∆ Ri(Xα +X−α )) ⊕ (⊕α∈∆ R(Xα −X−α )) . β ∈ ∆.5. On en d´duit que Nα.β sont alors r´els.−β . Xγ donne Nβ. choisissons Xα dans gα tels que [X−α . la proposition 2. e ` D´monstration de la proposition 3.4 a) Pour α.β par e [Xα .γ = Nγ.α . D´monstration du lemme 3. b) Pour α.β Xα+β si α + β est dans ∆ et par Nα. γ ∈ ∆ avec α + β + γ = 0. Donc Nα. c) Appliquer l’identit´ de Jacobi a Xα . [Xα . l’identit´ de Jacobi e appliqu´e a Xα .α . Pour ρ ∈ ∆+ . Les nombres Nα. pour α. on obtient la base de su(2) iH = i 0 0 i 0 i i 0 0 −1 1 0 .δ = 0.3 On peut choisir les Xα de sorte que Nα. δ ∈ ∆ non deux ` deux colin´aires. β.β N−α. Xβ .α et Nα.β N−α. e Remarque Pour g = sl(2. on a Nα.

R) ou g = so(p. Ce qui r´sulte e ` e e de l’´galit´ du c) appliqu´e a α. on a Bσ (N X. Y ) = B(τ X. Xδ ] et e X−ρ = λ[X−γ . −δ et a −α.Le nombre Nα. il ne reste ` choisir que Xρ car X−ρ s’en d´duit. on prend Xρ = λ[Xγ . −β.6 a) Toute alg`bre de Lie semisimple r´elle g admet une involue e tion de Cartan θ. on peut prendre θ(X) = −t X. C’est un des grands ach`vement du d´but du vingti`me si`cle. e e a e + Si on ne peut pas ´crire ρ = γ + δ avec γ. Y ) est d´finie positive. τ Y ) = Bσ (X.2 Involutions de Cartan Ce sont les involutions de Cartan qui nous permettront de comprendre la structure des groupes de Lie semisimples et leurs liens avec les espaces sym´triques. X−ρ ) = 1. Il reste a u ` v´rifier (2). e Par hypoth`se de r´currence. e e e Exemples .Le point b) prouve l’injectivit´ de l’application U → uC du th´or`me 3. on choisit Xρ arbitrairement. il suffit de v´rifier (2) lorsque α + β = ρ.5 Une involution de Cartan d’une alg`bre de Lie semisimple r´elle e e e 2 g est un automorphisme θ tel que θ = 1 et tel que la forme bilin´aire sym´trique e e Bθ donn´e par Bθ (X. −γ. Le th´or`me 3.6 a) Soient τ la conjugaison complexe e par rapport a g et N l’automorphisme de gC produit N = στ o` σ est comme ` u dans l’exemple. δ ∈ ∆ . e e ee . Signalons que c’est ` seulement ` la fin du vingti`me si`cle que cette derni`re sera compl´t´e. . q).1.1 donne donc la classification des groupes compacts e e connexes simples. N Y ).Pour g = sl(d. X−δ ] o` λ ∈ C∗ est choisi de sorte que B(Xρ .Conjugu´ signifie “conjugu´ par un ´l´ment de Aut(g)e ”. e e e e Il ouvre la voie a la classification des groupes finis simples. Grace a b). γ. Y ) = B(X.β est alors automatiquement r´el par b). Ces sous-espaces k et q sont orthogonaux pour la forme de Killing B qui est d´finie n´gative sur k et d´finie positive sur q. β. e D´finition 3. b) Deux involutions de Cartan θ et θ1 de g sont toujours conjugu´es. 27 . δ et de l’hypoth`se de e e e ` ` e r´currence. δ ∈ ∆+ . e e On a alors la d´composition de Cartan g = k ⊕ q o` k = {X ∈ g | θ(X) = X} e u et q = {X ∈ g | θ(X) = −X}. Proposition 3. e e e D´monstration de la proposition 3. e Si on peut ´crire ρ = γ + δ avec γ. On a alors k = u et q = iu.L’alg`bre de Lie gC consid´r´e comme une alg`bre de Lie r´elle admet comme e ee e e involution de Cartan la conjugaison σ par rapport a une forme r´elle compacte ` e u. e Remarques . Pour tout X. Y ∈ g. Y ) = −B(θX. e Remarque On peut montrer que tout groupe topologique compact simple connexe est de Lie. a e e e ee 3.

Le sous groupe K = {g ∈ G | gθ = θg} est un sous-groupe compact maximal de G. P commute ` N et on a σP t σ −1 = P −t . puis k = k et q = q . P est dans Aut(gC ). e ` 1 1 3. L’application g ←→ ` e G/K est une bijection entre les alg`bres de Lie semisimples r´elles et ces espace e e sym´triques. on peut poser Q := ((θθ1 )2 )− 4 ∈ Aut(g). u e La forme de Killing est d´finie n´gative sur k et k et est d´finie positive sur q et e e e q .a est valable pour k = R. 28 . muni de la m´trique riemannienne G-invariante donn´e e e par la forme de Killing sur q est un “espace sym´triques riemanniens simplement e connexe a courbure n´gative ou nulle sans facteur euclidien”. On pose alors Q = P − 4 et σ = QσQ−1 . Alors a) La complexifi´e hC est une sous-alg`bre de Cartan de gC . e D´monstration a) La d´monstration du th´or`me 2.20. e e e e Donc h est commutative maximale et hC aussi.Donc N est semisimple ` valeurs propres r´elles. On en d´duit que σ (g) ⊂ g et que θ := σ |g est une involution de Cartan de g. L’espace G/K.Les ´l´ments de k sont elliptiques.Notons G = Aut(g)e le groupe de Lie connexe a centre trivial d’alg`bre de Lie ` e g. On calcule σ τ = QσQ−1 τ = Q2 στ = P − 2 N = N −1 P 2 = τ σQ−2 = τ QσQ−1 = τ σ . e 1 b) Comme en a).9 car ces affirmations sont poe 1 lynomiales et vraies pour t entiers. On a e ee peut donc ´crire P = P 1 pour un groupe a un param`tre t → P t de bjections e ` e lin´aires de l’espace vectoriel r´el gC qui sont semisimples ` valeurs propres posie e a t t tives. cela r´sulte de la remarque du lemme 4. ee . e e D´finition 3. Soit P l’´l´ment P := N 2 . Ceux de q sont hyperboliques. a En effet.3 Sous-alg`bres de Cartan e Soit g une alg`bre de Lie semisimple r´elle. Cette bijection est due a E. Donc.8 Soit h une sous-alg`bre de Cartan de g et θ une involution de e Cartan de g. c’est-`-dire θ = θ . a Remarques . e e b) Il existe un conjugu´ de h qui est θ-stable. on a k ∩ q = q ∩ k = 0. Cartan. Pour tout t. On diagonalise alors simultan´ment θ et θ : on a e g = (k ∩ k ) ⊕ (k ∩ q ) ⊕ (q ∩ k ) ⊕ (q ∩ q ) o` g = k ⊕ q et g = k ⊕ q sont les d´compositions de Cartan de g pour θ et θ .7 Une sous-alg`bre de Cartan h de g est une sous-alg`bre commue e e tative form´e d’´l´ments semisimples et maximale pour cette propri´t´. e ee ee Proposition 3. θ := Qθ1 Q−1 et prouver que θ et θ commutent.

σ := Q ◦ σ ◦ Q−1 . X2 ]) = 0. 3. e ee On peut diagonaliser g sous l’action adjointe de a. X2 ] = 0. puis e [a1 . on a a ⊂ q. on en d´duit [X1 .8 que h est θ-stable. i.10 a) Tout sous-espace de Cartan a de g est conjugu´ ` un sousea espace de Cartan inclus dans q. On a une d´composition e e g = l ⊕ (⊕λ∈Σ gλ ).e.9 Un sous-espace de Cartan a de g est une sous-alg`bre commutae e tive form´e d’´l´ments hyperboliques et maximale pour cette propri´t´. Choisissons Xi ∈ ai en dehors des noyaux des racines restreintes de sorte qu’un ´l´ment X de g qui ee commute ` Xi commute aussi ` ai . on a θ (h) = h. la th´orie des sl2 -triplets permet de montrer que Σ est un syst`me e e de racines abstrait (pas toujours r´duit).4 Sous-espaces de Cartan Soit g une alg`bre de Lie semisimple r´elle. [Z. Soit u une forme r´elle compacte de gC construite ` e a partir de hC par la m´thode de la section 3. e Proposition 3.b) D’apr`s la proposition 3. Comme h ∩ q est l’ensemble des ´l´ments hyperboliques de h. Comme en 2. a2 deux sous-espaces de Cartan dans q. X2 ] est dans k. B(X1 . 29 . g). Mais alors h = (h ∩ k) ⊕ a a (h ∩ q). e e D´finition 3. ee b) Soient a1 . e ee ee Par d´finition tout ´l´ment hyperbolique fait partie d’un sous-espace de Cartan.6. Comme Q(hC ) = hC . a a On peut supposer que la fonction d´finie sur K g → B(X1 .6. gX2 ) atteint son e minimum pour g = e. θ := σ |g et montrer que θ est une involution de Cartan de g. On d´signe par Σ l’ensemble e des racines restreintes. b) Deux sous-espaces de Cartan inclus dans q sont toujours conjugu´s par un e ´l´ment de Ke . Notons σ (resp. On peut e e supposer grˆce ` la proposition 3. Ce groupe K est compact et son alg`bre de Lie est k. o` u gλ := {Y ∈ g / ∀X ∈ a . Comme dans la proposition 3. [X1 . e` Soient g = k ⊕ q une d´composition de Cartan associ´e ` une involution de e e a Cartan θ et K := {g ∈ Aut(g) | θg = gθ}. l’ensemble des poids non triviaux pour cette action. X2 ]) = 0 et donc B(Z. il suffit de construire une involution de Cartan e θ de g telle que θ (h) = h. ee D´monstration a) Mettons a dans une sous-alg`bre de Cartan h de g. adX(Y ) = λ(X)Y } est l’espace radiciel associ´ a λ et l est le centralisateur de a. On a alors.a.1. a2 ] = 0 et enfin a1 = a2 . on peut ` 1 poser Q := ((στ )2 )− 4 . Comme [X1 . pour tout Z ∈ k.5. τ ) la conjugaison e complexe par rapport a u (resp.

c’est a dire des ´l´ments minimaux de ` ee + ± ± g Σ .b. c) Fixons un sous-espace de Cartan a dans p. b) Soient h1 et h2 deux sous-alg`bres de Cartan de gC . D’apr`s la construction e e du th´or`me 3. On a. z1 le centre de m1 et m1 = m1 /z1 .6. On applique alors le a). ` Lemme 3. e e b) Toutes les sous-alg`bres de Cartan de gC sont conjugu´es. est une base de a . Le a) e permet alors de conclure.12 On a la d´composition d’Iwasawa g = k ⊕ a ⊕ u+ .b. si h2 est une autre sous-alg`bre de Cartan θ-stable a e telle que h2 ∩ q = a1 . alors h1 et h2 sont conjugu´es. e La dimension commune des sous-alg`bres (resp. Soient m1 le centralisateur de e a1 dans k. e e c) g n’a qu’un nombre fini de classes de conjugaison de sous-alg`bres de Cartan. Comme a1 contient a1 et que tout ´l´ment de a1 commute au commutant de a1 . rang r´el) de g. u) une alg`bre de Lie semisimple complexe e (resp. Il reste ` comprendre que.1. Donc a1 est enti`rement d´termin´ par Σ1 qui ne peut prendre qu’un nombre fini de valeurs. Chaque classe de conjugaison contient une sous-alg`bre de Cartan θ-stable h1 . il existe des formes r´elles compactes ui telles que ti := ui ∩ hi e e e est une sous-alg`bre de Cartan de ui . sous-espaces) de Cartan de g e est appel´ le rang (resp. r´elle compacte).Corollaire 3. on a ee e e e e a1 = a1 . Si t e e e e est un sous-alg`bre de Cartan de u. on e e peut supposer que a1 := h1 ∩q est inclus dans a. On peut donc appliquer la proposition 3.11 Soit gC (resp. e On garde les notations ci-dessus. r´elle. c’est ` dire une partie de Σ e a telle que Σ+ ∩ −Σ+ = ∅. g. on peut supposer e e u1 = u2 . Σ+ ∪ −Σ+ = Σ et (Σ+ + Σ+ ) ∩ −Σ+ = ∅.10. Les sous alg`bres u := ⊕λ∈Σ λ sont nilpotentes et la e sous-alg`bre p = l ⊕ u+ est appel´e la sous-alg`bre parabolique minimale associ´e e e e e + aΣ . L’ensemble Π des racines simples de Σ+ .5 D´composition de Cartan et Iwasawa e Soit G un groupe de Lie semisimple connexe de centre fini d’alg`bre de Lie g. par maximalit´ de h1 . D’apr`s la proposition 3. D’apr`s la proposition 3. L’alg`bre de Lie m1 est semisimple e compacte et les ti := (hi ∩ k)/z1 sont des sous-alg`bres de Cartan de m1 . e D´monstration Cela r´sulte de l’´galit´ θ(gλ ) = g−λ .10. it est un sous-espace de Cartan de uC inclus e dans iu. Notons Σ+ un syst`me de racines positives de Σ. e e e e 3. e e D´monstration a) L’´galit´ uC = u ⊕ iu est une d´composition de Cartan. Soient Σ1 := {λ ∈ Σ | λ(a1 ) = 0} et a1 := {X ∈ a1 | λ(X) = 0 pour tout λ ∈ Σ1 }. en particulier. e e a) Toutes les sous-alg`bres de Cartan de u sont conjugu´es. choisi une involution de 30 .

pour λ ∈ Σ. e e D´monstration On peut supposer G a centre trivial i.13 e e a) L’application K × q → G.Cartan θ de G. un sous-espace de Cartan a ⊂ q et un syst`me de racines positives e Σ+ . α(a) ≥ 1} la chambre de Weyl dans A associ´e ` Σ+ . On prend q = eX et ` e −1 k = gq . e le rang r´el de G est la dimension de A.e. Notons aussi e e A+ := {a ∈ A / ∀α ∈ Σ+ . Notons a+ := {X ∈ a / ∀α ∈ Σ+ . Comme θ(g) g est sym´trique d´finie positive pour la forme e e Bθ . e a On a la d´composition de Cartan. de relever les sym´tries sλ en des ´l´ments du normalisateur e ee de a dans K et donc de conjuguer tout ´l´ment de a en un ´l´ment de la chambre ee ee de Weyl a+ . On utilise encore la remarque du lemme 4. R).14 e e a) La multiplication donne un diff´omorphisme K ×A×U + G. G = Aut(g)e . (k. α(X) ≥ 0} la chambre de Weyl dans a associ´e ` Σ+ . Notons L le centralisateur de a dans G et U ± les sous-groupes e ` connexes d’alg`bre de Lie u± . si il est conjugu´ ` un ´l´ment de A.e. ea ee 31 . Utiliser enfin la th´orie des petits sl2 qui e ` ee e permet.9 pour e e conclure que le groupe a un param`tre etX est dans G. e Th´or`me 3. e ` a) C’est la mˆme que pour SL(d. Le normalisateur P := NG (p) est appel´ le sous-groupe parabolique minimal e associ´ a Σ+ . b) Utiliser le a) et la proposition 3. e + b) On a l’´galit´ G = KA K. X) → keX est un diff´omorphisme. Par d´finition. Un ´l´ment g de G est dit hyperbolique si on peut ´crire g = eX avec X ∈ g ee e hyperbolique i. c) La multiplication m : U − × P → G est un diff´omorphisme sur un ouvert de e mesure pleine.10 qui assure que tout ´l´ment de q est ee conjugu´ sous K a un ´l´ment de a. e Th´or`me 3. on peut ´crire θ(g)−1 g = e2X avec etX groupe a un param`tre de matrices e ` e sym´triques d´finies positives. e a Notons K l’ensemble des points fixes de θ dans G et A := exp(a). On veut ´crire g = kq avec k ∈ K e e −1 et q ∈ exp(q). e On a la d´composition d’Iwasawa. e + b) Le quotient P/AU est compact. L’ensemble des caract`res r´els du groupe e e e de Lie A peut ˆtre identifi´ au dual a .

Comme W ne contient pas de sous-groupe compact. e e a Proposition 3. UC les sous-groupes connexes d’alg`bre de Lie u± =: u± ⊗R C e C − et PC le normalisateur de pC := p ⊗R C. ce la r´sulte du a). Il est donc de mesure nulle. L’intersection PC ∩ UC est triviale car − l’action adjointe d’un ´l´ment g de PC ∩ UC doit pr´server les pC -sous-modules ee e − e et les uC -sous-modules de gC . On a alors les assertions. ea ee Un ´l´ment g de G est dit elliptique si il est conjugu´ ` un ´l´ment de K. Aθ := {a ∈ A / ∀α ∈ θ . Lθ le centralisateur de Aθ dans G. θ Σ± θ Pour toute partie θ ⊂ Π.6 Sous-groupes paraboliques Σ± := Σθ ∩ Σ± . w ne rencontre aucun conjugu´ ee e de k et donc. si il est conjugu´ ` un ´l´ment de U + . Par injectivit´ de mC . d’apr`s la proposition 4.7 Exemples D´crivons explicitement ces notations pour G = SL(d. la multiplication A × U → W est un diff´omorphisme. D´monstration e 3. e Comme w ne contient pas d’´l´ment elliptique.Un ´l´ment g de G est dit unipotent si on peut ´crire g = eX avec X ∈ g ee e nilpotent i. e C − La multiplication mC : UC × PC → GC est injective d’image ouverte. Soit pθ := lθ ⊕ u+ and Pθ := Lθ Uθ les θ sous-alg`bres et sous-groupes paraboliques associ´s ` θ. α(a) = 1}. A+ := e θ + + A ∩ Aθ . ee ea ee D´monstration du th´or`me 3. on a U − P = UC PC ∩ G. les doubles classes KgW sont ouvertes. e a b) Pθ est engendr´ par les sous-groupes P{α} pour α ∈ θ. e Donc G = KW . alors Σθ1 ⊂ Σθ2 . l’image est un ouvert de e e − Zariski. Pθ1 ⊂ Pθ2 et Uθ1 ⊃ Uθ2 .14 On peut supposer G a centre trivial. lθ := l ⊕ ⊕α∈Σθ gα . ± Uθ les groupes connexes associ´s. e e e ` + a) Notons W le groupe r´soluble W = AU et w son alg`bre de Lie. b) Comme AU + est inclus dans P . u± := ⊕α∈Σ± θ gα . Notons e ± GC = Aut(gC ). Comme en outre u− ⊕ pC = gC . e + + c) Si θ1 ⊂ θ2 .e. e c) On montre tout d’abord une version complexifi´e de cette assertion. il doit donc pr´server tous les espaces radiciels complexifi´s (gλ )C et agir trivialement dessus. Donc le compl´mentaire e e − de U P est un ferm´ de Zariski de G. Comme ces groupes sont alg´briques. e Σθ := Σ ∩ < θ > . e 3.15 a) Tout sous-groupe contenant P est ´gal ` l’un des Pθ .4. On peut prendre e 32 . Comme e e + + A ∩ U = {e}. on note < θ > l’espace vectoriel engendr´ par θ. on a K ∩ W = {e}. Elles sont donc aussi ferm´es. R).

R). p= > > >B < B B >@ > > : ∗ ∗ pθ = Aθ = . . Σ = {εi − εj . . A = {a = diag(a1 . u− =  ∗ 0 0  θ     0 0 ∗ ∗ ∗ 0   b1 Id 0 0  0 b2 Id 0 ∈A . 1 ≤ i < j ≤ d}. Σ+ = {εi − εj .. > > C> = C C A> > > . . 1 ≤ i < d}. .j avec Ei. . e e 33 . 0 0 b3 Id . . . ..j = ej ⊗ ei . 0  ∗  ∗   0  0  0   ∗ > > C> = C C A> > > . a1 · · · ad = 1}. A+ = Aθ ∩A+ . 19 > > > C= C C A> > > . 0 ∗  ∗ 0     ∗ ∗ ∗   0 0 0   0 ∗ ∗  ..K = SO(d. On a pris θc avec seulement deux racines simples. ad ) / ai > 0 . o` εi ∈ a est donn´ par : εi (a) = ai . Π = {εi+1 − εi . A+ = {a ∈ A / a1 ≥ · · · ≥ ad }. . j ≤ d}. i = j . Une autre partie θ θ aurait donn´ un nombre et des tailles diff´rentes de matrices blocs. . u e gεi −εj = REi. 1 ≤ i. . . u− = > > >B < B B >@ > > : 0 0 . l = a 80 80 80 19 19 u+ = 0  0 ∗ u+ =  0 0 θ  0 0  ∗ 0  lθ =  0 ∗  0 0 > > >B < B B >@ > > : 0 ∗ .

4 Groupes alg´briques e Rappelons quelques d´finitions de la th´orie des groupes alg´e e e briques. Un point z ∈ Z est e o e lisse si m = dim(Tz Z) est minimum. La toplogie induite sur Zk s’appelle aussi topologie de Zariski. et pour les ape plications que nous avons en vue.. C ou une extension finie de Qp . Nous avons choisi un point de vu na¨ probablement pas ıf. l’ensemble Zk des k-points de e Z est une sous-vari´t´ k-analytique lisse de k d de dimension dim Z dont l’espace ee tangent en un k-point z s’identifie aux k-points de l’espace tangent en z a la ` k-vari´t´ Z. 4. i. ` Une vari´t´ (alg´brique) affine Z ⊂ V ou ferm´ de Zariski est un sous-ensemble ee e e qui est l’ensemble des z´ros d’une famille de polynˆmes sur V. Autrement dit. On ee parlera ainsi de parties Zariski connexes ou de parties Zariski denses. L’anneau quotient k[Z] := k[V]/Ik (Z) est l’anneau des fonctions k-r´guli`res sur Z. L’ensemble Zk := k d ∩ Z est l’ensemble des k-points de Z. Vk ∼ k un k-espace vectoriel. Par noeth´rianit´ de k[Z]. e o On dit que Z est une k-vari´t´ si I(Z) est engendr´ par l’intersection Ik (Z) := ee e I(Z) ∩ k[V].1 Vari´t´s alg´briques e e e Tout d’abord quelques mots sur les vari´t´s alg´briques. ee e Soient K un corps alg´briquement clos de caract´ristique nulle. Z s’identifie aux z´ros de d−m polynˆmes Pi tels que Tz Z = ∩i dPi (z). ee e e On note alors k(Z) le corps des fractions de k[Z]. k un sous-corps e e d de K. e La topologie de Zariski sur Z est la topologie dont les ferm´s sont les souse vari´t´s de Z. e e Un k-morphisme ou application k-r´guli`re de k-vari´t´s ϕ : Z1 → Z2 est une e e ee application telle que. la compos´e f ◦ ϕ est dans k[Z1 ]. pour tout f dans k[Z2 ]. On note I(Z) ⊂ e o K[V] l’id´al des polynˆmes nuls sur Z. ce qui est ´quivalent. V = K ⊗k Vk K d et k[V] l’anneau des polynomes sur Vk a valeurs dans k.. suffisamment pr´cis. Une vari´t´ Z est dite k-irr´ductible si on ne peut pas l’´crire comme r´union de ee e e e deux k-sous-vari´t´s propre ou. toute k-vari´t´ est r´union e e ee e finie de k-sous-vari´t´s k-irr´ductibles. On dit que Z est lisse e o si tous ses points sont lisses. si l’anneau k[Z] est int`gre. on a e dim(Tz Z) = m = dim Z. En un point lisse z. Les ´l´ments de k(Z) sont les ee fonctions k-rationnelles. mais qui e e e e suffit bien pour une premi`re approche de ce sujet. localement au voisinage de z. k est un corps local de caract´ristique nulle. ee 34 .e. Lorsque Z est lisse et que le corps de base k est R. ee e La dimension dim Z d’une vari´t´ k-irr´ductible Z est le degr´ de transcendance ee e e sur k de k(Z). L’ensemble des points lisses d’une k-vari´t´ ee est donc un ouvert de Zariski non vide d´fini sur k. intrins`que et g´n´ral pour le puriste. L’espace tangent Tz Z a Z en un point z ∈ Z est l’intersection ` des diff´rentielles dP (z) des polynˆmes P de l’id´al I(Z).

Par exemple ϕ : R → R. L’application ϕ induit alors une injection entre les anneaux de fonctions r´guli`res A := K[Z2 ] → B := e e K[Z1 ]. t → t2 . e Th´or`me 4. Remarquons que la donn´e d’un point x de Z1 ´quivaut a la donn´e d’un e e ` e morphisme d’anneaux ψ : B → K : le morphisme donn´ par ψ(P ) = P (x) pour e tout P ∈ B. ee Le th´or`me suivant est au coeur de la th´orie de l’´limination des quantificae e e e teurs ou th´orie des ensembles constructibles. on peut supposer que B est engendr´ par un ´l´ment x. Notons aussi Q = qi T i ∈ A[T ] un polynˆme non nul de degr´ au plus − 1 o e tel que b divise Q(x). Une k-vari´t´ (alg´brique) quasiprojective est un ouvert de Zariski d´fini sur k ee e e d’une k-vari´t´ projective. Remarque ϕ((Z1 )k ) ne contient pas toujours un ouvert de Zariski de l’ensemble des k-points de ϕ(Z1 ). que l’int´rˆt de ce point de vue qui consiste a c ee ` “travailler avec les points dans une clˆture alg´brique K mais avec des formules a o e ` coefficients dans k”. de fa¸on heuristique. de topologie de Zariski e e sur Z et sur Zk . L’id´al I := {P1 ∈ L[T ] | P1 (x) = 0} annulateur de x dans L[T ] est engendr´ e e par P . Le th´or`me est donc une cons´quence du lemme suivant. est qu’il permet de d´velopper le sujet sans savoir s’il existe e des k-points. e e e Lemme 4. Alors l’image ϕ(Z1 ) contient un ouvert de son adh´ee e e rence (pour la topologie de Zariski). e e ` Ainsi une k-vari´t´ (alg´brique) projective Z ⊂ P(V) ou ferm´ de Zariski est un ee e e sous-ensemble qui est l’ensemble des z´ros d’une famille de polynˆmes homog`nes e o e d sur V a coefficients dans k..2 Soit A → B des K-alg`bres telles que B est une A-alg`bre de type e e fini int`gre. Il est souvent utile d’´tendre les d´finitions ci-dessus a un cadre projectif.1 (Chevalley) Soit ϕ : Z1 → Z2 une application r´guli`re entre e e e e deux vari´t´s alg´briques. L’ensemble Zk := P(k )∩Z est l’ensemble des k-points ` de Z.Disons. tout morphisme e ψ : A → K tel que ψ(a) = 0 se prolonge en un morphisme ψ : B → K tel que ψ(b) = 0. il existe a ∈ A tel que. D´monstration On peut supposer que les vari´t´s Z1 et Z2 sont affines et irr´e ee e ductibles sur K et que ϕ(Z1 ) est Zariski dense dans Z2 . On a encore une notion d’applications k-r´guli`res.2 est claire. D´monstration Par r´currence sur le nombre de g´n´rateurs de B comme Ae e e e alg`bre.. et notons r un ´l´ment non nul de A tel qu’il existe deux ee 35 . Notons alors e e ee i P (T ) = 0≤i≤ pi T ∈ A[T ] un polynˆme non nul de degr´ minimal tel que o e P (x) = 0. Notons L le corps des fractions de A. Remarquons tout d’abord que si le polynˆme P n’existe pas alors o B A[T ] et la conclusion du lemme 4. Alors pour tout b ∈ B non nul.

3 Soit ϕ : Z1 → Z2 une application r´guli`re dominante entre e e deux vari´t´s alg´briques irr´ductibles. 36 . A) est un sous-groupe de G. e Remarque Le th´or`me de Chevalley dit que l’image de tout morphisme domie e nant contient un ouvert de Zariski dense. On dit que ϕ est un plongement si ϕ induit une surjection k[Z2 ] → k[Z1 ] i. Si on examine la preuve du th´or`me e e de Chevalley. le k-groupe multiplicatif Gm := { y 0 0 z | y. xy = 1} ou le k-groupe lin´aire GL(V) {(g. Le polynˆme 0≤i≤ ψ(pi )T i ∈ K[T ] a o alors racines distinctes. le k-groupe additif Ga := { 0 1 | x ∈ K}. plus bri`vement un k-groupe e e e e est une k-vari´t´ G ⊂ GL(V) ⊂ End(V) qui est un groupe pour la composition ee des endomorphismes. si ϕ est injective d’image Zariski ferm´e. y −1 ]. La formule ψ( ai x ) = o ψ(ai )λi d´finit bien un morphisme de B dans K qui prolonge ψ et tel que ψ(b) divise e i i ψ(qi )λ = 0. u 4. Voici e e donc quelques d´finitions.polynomes R1 et R2 de A[T ] avec r = R1 P + R2 P . exemple : y → y 2 dans Gm ). Alors.2 Groupes alg´briques e Nous ne parlerons ici que de groupes alg´briques lin´aires. il existe un ouvert de Zariski dense ee e e Z1 ⊂ Z1 lisse d´fini sur k sur lequel ϕ est une submersion i. On note Gk := G ∩ GL(d. si l’image de ϕ est Zariski dense. la constante a = p qi e par a = δp qi o` δ est le discriminant de P . e Un groupe alg´brique (lin´aire) d´fini sur k ou. sur lequel la e diff´rentielle dϕ est surjective. Une k-isog´nie est un k-morphisme surjectif de noyau fini (on notera que le e morphisme entre les k-points n’est pas toujours surjectif . Un k-morphisme de k-groupes ϕ : G1 → G2 est un k-morphisme de k-vari´t´s ee qui est aussi un morphisme de groupes. e D´monstration Remplacer dans la preuve du lemme 4. e On a k[Ga ] = k[x] et k[Gm ] = k[y.e. Notons alors λ ∈ K une racine de ce polynˆme qui n’est o i i pas racine du polynˆme non nul i ψ(qi )T .e. k) le groupe des k-points de G. Soit ϕ : Z1 → Z2 une application k-r´guli`re entre deux vari´t´s alg´briques e e ee e irr´ductibles. z ∈ K.e. δ) ∈ End(V) × K | δ detg = 1} . 1 x Par exemple.2. e e pour tout sous-anneau A de K. on obtient la pr´cision suivante : e Corollaire 4. GA = G ∩ GL(d. On prend alors a = p qi r o` u qi est un des coefficients non nuls de Q. On dit que ϕ est dominante si ϕ induit une injection k[Z2 ] → k[Z1 ] e i. et plus g´n´ralement.

Ils y sont donc tous. il existe une k-repr´sentation de G dans un espace vectoriel Vk et un e point x dans l’espace projectif P(Vk ) dont le stabilisateur dans G est H. e Proposition 4. Une k-action de G sur une k-vari´t´ Z est une action G × Z → Z qui est ee donn´e par une application k-r´guli`re. l’image ϕ(G) est ouverte dans cette adh´rence. i. On note ` ` a gk les k-points de g. e e e L’alg`bre de Lie g d’un k-groupe G est l’ensemble des d´rivations invariantes e e a gauche de l’alg`bre K[G]. gk est aussi l’alg`bre de Lie du groupe de Lie k-analytique Gk . e D´monstration L’adh´rence de Zariski ϕ(G) est un k-sous-groupe. Alors.6 (Chevalley) Soit G un k-groupe et H ⊂ G un k-sous-groupe. L’alg`bre de Lie g s’identifie ` l’espace tangent en e ` e e a a G. c’est a dire ` l’intersection des noyau Ker(dP (e)). Lorsque k = R. C ou une extension finie de Qp . e Un k-cocaract`re de G est un k-morphisme χ : Gm → G.Un k-caract`re de G est un k-morphisme χ : G → Gm .4 Les orbites d’une k-action alg´brique sont ouvertes dans leur e adh´rence (pour la topologie de Zariski).4. e Une k-repr´sentation de G dans un k-espace vectoriel Wk est un k-morphisme e ρ : G → GL(W).3 Actions alg´briques e L’un des int´rˆts majeurs des “groupes et actions alg´briques” est ee e la propri´t´ suivante de leurs orbites qui contraste fortement avec les ee orbites des actions ergodiques. pour P ∈ I(G). H = {g ∈ G / g x = x}. Proposition 4. e D´monstration Le th´or`me 4. D’apr`s la e e proposition 4. e e Corollaire 4. faisons une pause e pour d´crire quelques propri´t´s des k-groupes et leurs actions. 37 .1 prouve qu’au moins un point de l’orbite est e e e dans l’int´rieur de l’adh´rence cette l’orbite. e Avant de poursuivre cette importante liste de d´finitions.e. Or un sous-groupe e ouvert est aussi ferm´. e Nous aurons souvent besoin de la proposition suivante qui joue un rˆle central o dans la th´orie des groupes alg´briques et qui affirme que tout espace homog`ne e e e G/H de k-groupes peut se r´aliser comme une orbite dans l’espace projectif d’une e k-repr´sentation de G. e ee 4.5 L’image ϕ(G) d’un k-morphisme de k-groupes ϕ : G → H est un k-sous-groupe.

3. L’adh´rence de Zariski e e H de Gk est un k-sous-groupe de G dont l’alg`bre de Lie contient g. Notons ρv : G → Z. celle issue e e de la topologie du corps localement compact k. e Lorsque le corps k n’est pas alg´briquement clos. H = {g ∈ G / g v = v}. les orbites de Gk dans (Gv)k := Gv ∩ Zk sont ouvertes et ferm´es (pour e la topologie analytique). Puisque K[G] est noeth´rien. C ou une extension finie de Qp et G un kgroupe. 18. C’est une e a 38 . e e Corollaire 4.8 Soient k = R.e. Alors. D´monstration a) Le groupe Gk est un groupe de Lie sur k dont l’alg`bre de e e Lie gk s’identifie aux k-points de l’alg`bre de Lie de G. i. on a l’´galit´ requise H = {g ∈ G / g x = x}. Proposition 4. b) Soit ρ : G × Z → Z une k-action de G sur une k-vari´t´ Z.e.4 au niveau des k-points.En particulier. i. Supposons que H n’a pas de k-caract`re non trivial. il existe une k-repr´sentation de G e e dans un espace vectoriel Vk et un point v ∈ Vk dont le stabilisateur dans G est H. a) Si G est Zariski-connexe. Alors. l’espace homog`ne G/H a une structure naturelle de k-vari´t´ e ee quasiprojective.7 Soit G un k-groupe et H ⊂ G un k-sous-groupe. le groupe Gk est Zariski dense dans G. on ne peut pas esp´rer des e e ´nonc´s aussi nets que la proposition 4. pour tout ee v ∈ Zk . K m [G] := {P ∈ K[G] | d◦ P ≤ m} et I m (H) := I(H)∩K m [G]. C ou une extension finie de Qp on obtient de tels ´nonc´s au niveau des k-points mais pour la topologie analytique. Remarque l’assertion a) est encore vraie sans aucune hypoth`se sur le corps e infini k. on peut trouver m tel que I m (H) ene gendre l’id´al I(H) de K[G]. Voir [7] cor. o` p := e u m p m dim I (H) et x est la droite de V d´finie par x := Λ (I (H)). L’action de G sur K m [G] donn´e par (π(g)P )(g ) := e e P (g g) est une k-repr´sentation. On a donc e H = G. b) On peut supposer que Z = Gv. G et Z sont des k-vari´t´s ee lisses. D´monstration de la proposition 4.6 Nous aurons besoin des notations : e I(H) := {P ∈ K[G] | P |H = 0}. N´anmoins e e e lorsque le corps de base k est R. Leurs k-points Gk et Zk sont donc des k-vari´t´s analytiques lisses dont ee les espaces tangents analytiques s’identifient aux k-points des espaces tangents alg´briques ` G et Z. D´monstration L’action de H sur la droite x est triviale puisque tous les ke caract`res de H sont triviaux. Par construce tion. On prend v sur cette droite. En particulier. g → gv l’application orbitale. La k-repr´sentation que nous cherchons est la e e e repr´sentation dans la pi`me puissance exterieure V := Λp (K m [G]).

Soit g ∈ Gk . on a P (s) = (π(s)P )(1) = 0 et P (u) = (π(u)P )(1) = 0. 4. pour tout t ∈ k. i) g peut s’´crire de fa¸on unique g = su = us avec s semisimple et u unipotent. e e o m iii) Consid´rer l’action de G sur K [EndV] := {P ∈ K[EndV] / d◦ P ≤ m} e donn´e par (π(g)P )(x) := P (xg).9 Soient g ∈ GL(V) et G ⊂ GL(V) un k-groupe. e Remarques . . Par le corollaire 4. Le sous-espace I m [G] := I[G] ∩ K m [EndV] est invariant par g. ces Gk -orbites dans (Gv)k sont des unions de composantes connexes analytiques de (Gv)k . l’´l´ment ut := etN est e ee dans Gk . Donc il est aussi invariant par sa composante semisimple et unipotente qui n’est autre que π(s) et π(u).Lorsque k = R. on peut ´crire u = eN avec N e nilpotent. Lemme 4. u ∈ G.On peut aussi montrer que Gk n’a qu’un nombre fini d’orbites dans Gv ∩ Zk .3. Le lemme suivant est la classique d´composition de e Jordan. . e Remarques . Par G-invariance. u ∈ Gk . sa diff´rentielle est donc surjective sur e un ouvert de Zariski non vide. Donc les Gk -orbites dans (Gv)k sont ouvertes dans (Gv)k . la diff´rentielle dρv : Te G → Tv Z e est surjective. ee Un ´l´ment g ∈ End(V) est semisimple si il est diagonalisable sur K et uniee potent si g − 1 est nilpotent. La mˆme preuve assure que. l’application ρv : Gk → Zk e e est donc ouverte au voisinage de e. Donc pour tout P ∈ I m [G]. Comme chark = 0. e c ii) Tout sous-espace W ⊂ V invariant par g est aussi invariant par s et u. Par suite ces orbites sont aussi ferm´es. On remarque tout d’abord que l’action sur e K m [EndV] d’un ´l´ment semisimple ou unipotent de GL(V) est encore semiee simple ou unipotente. Donc s et u sont dans G. Par le th´or`me des fonctions implicites. D´monstration i) Classique.4 El´ments semisimples et unipotents e Rappelons dans ce cadre les d´finitions d’´l´ments semisimple et e ee unipotent et leurs principales propri´t´s. on peut ´crire de fa¸on unique s = hk = kh avec h = eH e c o` H est diagonalisable sur R et k semisimple ` valeurs propres de module 1. e ii) Les composantes s et u peuvent ˆtre exprim´es comme des polynˆmes en g. iv) Par unicit´. iii) g ∈ G =⇒ s. s et u sont invariants par le groupe de Galois Gal(K/k). e ee 39 . La u a mˆme preuve assure que. l’´l´ment ht := etH est dans GR .application surjective. iv) g ∈ Gk =⇒ s.Lorsque k = R. pour tout t ∈ R.

e 40 . e Un k-groupe est semisimple si il ne contient pas de k-sous-groupe distingu´ e connexe ab´lien. Le point principal est alors de prouver que tous les k-morphismes ϕ : Ga → Gm et ψ : Gm → Ga sont triviaux. b) g est unipotent =⇒ ρ(g) est unipotent. Un k-groupe G est connexe si il est connexe pour la topologie de Zariski (lorsque k = C. et est donc ee une constante. y −1 ]. On peut supposer que k = K et que G est le plus petit K-groupe contenant g. On a k[Ga ] = k[x] et k[Gm ] = k[y.10 Soient ρ : G → H un k-morphisme de k-groupes et g ∈ G. e a e Un k-groupe G est simplement connexe si toute k-isog´nie H → G avec H e connexe est injective (lorsque k = C. et x ◦ ψ est un ee ´l´ment F (y) ∈ k[y. Un k-groupe est r´ductif si son radical unipotent est trivial. e e Un k-groupe G est dit k-isotrope si il contient un k-sous-tore k-d´ploy´ non e e trivial et k-anisotrope sinon. e e ` Un k-groupe semisimple est dit adjoint si son centre est trivial. Un k-groupe est unipotent si tous ses ´l´ments sont unipotents. donc est une constante. Un k-groupe est un k-tore si il est ab´lien et si tous ses ´l´ments sont semie ee r simples i. ee Le radical unipotent d’un k-groupe est le plus grand sous-groupe distingu´ e unipotent. Une k-repr´sentation d’un k-groupe est semisimple si tout k-sous-espace invae riant admet un suppl´mentaire invariant. Autrement dit il est semisimple ssi il est r´ductif a centre fini.5 Groupes alg´briques (suite) e Reprenons maintenant la liste des d´finitions relatives aux groupes e alg´briques. s’il est isomorphe sur K a une puissance (Gm ) du groupe multipli` catif. e Un k-tore est k-d´ploy´ si il est isomorphe sur k a une puissance (Gm )r . 4. Un k-groupe G est dit k-quasisimple si il est connexe et si tout k-sous-groupe distingu´ propre est fini. Proof.e. e Voici tout d’abord des notions stables par changement de corps de base. y −1 ] tel que F (y) = F (y n )/n pour tout n ≥ 1.Lemme 4. a) g est semisimple =⇒ ρ(g) est semisimple. e e ` Un k-groupe est k-d´ploy´ si il contient un k-sous-tore maximal qui est ke e d´ploy´. cela ´quivaut ` la simple connexit´ pour la e a e topologie analytique). Alors y ◦ ϕ est un ´l´ment inversible de k[x]. cela ´quivaut ` la connexit´ pour la topologie analytique). e Voici maintenant des notions qui d´pendent fortement du corps de base.

14 et du th´or`me 2. e Les g´om`tres diff´rentiels et les analystes pr´f`rent souvent le deuxi`me lane e e ee e guage car il est plus adapt´ aux questions g´om´triques et topologiques. e e e ee On retrouvera cet argument en montrant le lemme 5. Ou encore. et appliquer l’astuce unitaire avec le sous-groupe compact K ⊂ GC dont l’alg`bre de Lie k est une forme r´elle compacte de l’alg`bre de Lie g de e e e GC .Une k-repr´sentation d’un k-groupe G est k-irr´ductible si 0 et W sont les e e seuls k-sous-espaces G-invariants. e On a vu ` plusieurs reprises ces deux points de vue s’´clairer l’un l’autre. Une ´quivalence entre ces a e e e cat´gories est donn´e par les foncteurs G → G → g o` G est le revˆtement e e u e universel de GR et g := Lie(G). Par exemple. un sous-espace de Cartan a de g n’est rien d’autre que “l’alg`bre e de Lie des points r´els d’un tore R-d´ploy´ maximal A de G”. D´monstration Pour montrer cela on peut.12 Une k-repr´sentation d’un k-groupe semisimple G est semie simple.14 e supposer k = C... Chaque ´l´ment nilpotent X de gk fait partie d’un sl2 -triplet (X. on a l’´quivalence : G est ke isotrope ssi Gk contient des ´l´ments unipotents non triviaux. la e e e cat´gorie des repr´sentations de dimension finie de g est ´quivalente ` la cat´gorie e e e a e des R-repr´sentations de G. tout comme le coffee am´ricain et le caff` italien d´sie e e e gnent presque la mˆme boisson. On a vu que ce groupe K existe dans le th´or`me 3. comme pour la proposition 2. H. La d´composition de Jordan dans e e e G pour montrer la d´composition de Cartan de G.b. La r´ciproque r´sulte de la proposition 2. C’est un yoga utile de passer d’un language ` a l’autre. Proposition 4. e e Remarque La cat´gorie des R-groupes semisimples simplement connexes G est e ´quivalente la cat´gorie des groupes de Lie semisimples r´els simplement connexes e e e G ou ` celle des alg`bres de Lie semisimples r´elles g. Les e e e g´om`tres alg´bristes et les arithm´ticiens pr´f`rent souvent le premier language e e e e ee car il ouvre la voie a des extensions a d’autres corps que R.11 Lorsque G est semisimple. ee e e e Proposition 4. e 41 . a e Rappelons en deux exemples particuli`rement importants : L’astuce unitaire pour e montrer la semisimplicit´ des k-repr´sentations. Chaque espace propre gχ associ´ a un e` caract`re non trivial χ de T est d´fini sur k et est form´ d’´l´ments nilpotents.15 de Jacobson e e e e Morozov.1. Y ) ee dont l’´l´ment H engendre l’alg`bre de Lie d’un k-tore d´ploy´ de dimension 1.5. Ces languages parlent ` ` presque du mˆme objet. ee D´monstration Pour l’implication directe on diagonalise l’alg`bre de Lie g pour e e l’action adjointe d’un tore k-isotrope T.

Lemme 5. Alors. ind´pendamment de “la r´alisation de e a e e e e G comme groupe de matrices”.1 Soit G un Q-groupe. Donc il existe o un entier m ≥ 1 tel que.1 est provisoire : nous l’´tendrons dans le chapitre 11. On renvoie au chapitre 4 pour les d´finitions pr´cises des e e e e notions relatives aux groupes alg´briques que nous utiliserons. e e b) Tout r´seau ∆0 ⊂ VQ est pr´serv´ par un sous-groupe d’indice fini de GZ . e Le but de ce chapitre est de montrer comment la preuve s’adapte a tous les Q-groupes et d’obtenir ainsi le th´or`me de Borel et Harish` e e Chandra. a Le corollaire ci-dessous affirme que le sous-groupe arithm´tique d’un Q-groupe e G est bien d´fini ` commensurabilit´ pr`s. e e Deux sous-groupes Γ1 et Γ2 d’un groupe Γ sont dits commensurables si l’intersection Γ1 ∩ Γ2 est d’indice fini ` la fois dans Γ1 et Γ2 . Les coefficients des matrices e ρ(g)−1 s’expriment comme des polynˆmes a coefficients dans Q en les coefficients o ` des matrices g − 1. 5. alors ρ(g)a des coefficients entiers. e Rappelons que l’expression Q-groupe est un raccourci pour groupe alg´brique e lin´aire d´fini sur Q.1 Groupes arithm´tiques e Donnons tout d’abord la d´finition d’un sous-groupe arithm´tique e e d’un Q-groupe et v´rifions qu’elle ne d´pend pas. e e e D´monstration a) Choisissons une base de VQ . a) Le groupe GZ pr´serve un r´seau ∆ ⊂ VQ .2 Soit ρ une Q-repr´sentation d’un Q-groupe G dans un Q-espace e vectoriel VQ . e e 42 . Le coefficient constant de ces polynˆmes est nul. pour une forme quae dratique enti`re non d´g´n´r´e. ce groupe GZ pr´serve aussi un r´seau de VQ . a commensurabilit´ e e ` e pr`s. Puisque Γm est d’indice fini dans GZ . si g est dans le sous-groupe de congruence Γm := {g ∈ GZ / g = 1 mod m}. Le sous-groupe GZ de G est appel´ souse e groupe arithm´tique. le sous-groupe GZ des matrices ore e e ee thogonales enti`res est un r´seau dans le groupe GR des matrices e e orthogonales r´elles. e Cette d´finition 5. que.5 Groupes arithm´tiques e Nous avons montr´ dans le chapitre 1. du plongement du Q-groupe dans un groupe de matrices. e D´finition 5.

comme AdGZ (X) est un ensemble discret form´e de matrices a coefficients e ` entiers. Le but principal de ce chapitre est de d´montrer le th´or`me suivant dont le e e e point a) est dˆ ` Borel. On en d´duit facilement le corollaire suivant.Z sont commensurables. Harish-Chandra et le point b) ` Godement. e Remarque Un k-groupe G a un k-caract`re non trivial ssi il a un k-cocaract`re e e central non trivial.6 Soit G un Q-groupe semisimple. e e On remarque alors que G est presque produit d’un tore k-isotrope par un tore k-anisotrope. ` e D´monstration du lemme 5. ua a Th´or`me 5. cet ´l´ment X est nilpotent. que G est r´ductif. alors GZ n’est pas cocompact dans GR . alors GZ est un r´seau de GR . N0 ≥ 1 e tels que N ∆ ⊂ N0 ∆0 ⊂ ∆. l’alg`bre de Lie de l’image d’un Q-cocaract`re est e e e de dimension 1 et est engendr´e par un ´l´ment H diagonalisable. pour le v´rifier.Z ) et G2. ee ` Par le th´or`me 2. par le lemme 5. En effet. cet ´l´ment H n’est pas dans le centre de g. a) Alors GZ est un r´seau de GR . en quotientant G e par son radical unipotent. e Corollaire 5.b) C’est une cons´quence du a) puisqu’on peut trouver des entiers N. Comme les e ee seuls carat`res du groupe multiplicatif Gm sont les puissances z → z n . e b) GZ est cocompact dans GR ssi GZ n’a pas d’´l´ment unipotent non trivial. Comme G est presque produit de e son centre connexe et de son groupe d´riv´.5 a) Par la proposition 4. Par le a) et la remarque e ci-dessus. on peut supposer que G est un tore.2. l’orbite e e ee adjointe AdGR (X) contient 0 dans son adh´rence. l’orbite adjointe AdGR (X) serait ferm´e. X] = pX.3 Soit ϕ : G1 → G2 un Q-isomorphisme de Q-groupes.8. e Corollaire 5. Si GZ ´tait cocompact dans e e GR . Alors les groupes ϕ(G1. Il existe donc un entier ee p = 0 et un ´l´ment non nul X ∈ g a coefficients entiers tel que [H. on peut supposer. En particulier. on peut e supposer que les valeurs propres de H sont enti`res.4 de Lie. alors que. e Remarque Les r´ciproques des points a) et b) sont vraies et beaucoup plus e facile : Lemme 5. alors GZ est cocompact dans GR . e e b) Si G a un Q-cocaract`re non trivial.4 Soit G un Q-groupe. b) D’apr`s le lemme 4. e e b) Si G n’a pas de Q-cocaract`re non trivial.10.5 Soit G un Q-groupe. alors GZ n’est pas un r´seau de GR . e e a) Si G n’a pas de Q-caract`re non trivial. a) Si G a un Q-caract`re non trivial. l’image χ(GR ) e contient R+ . On renvoie a [7] pour plus de d´tails. l’image χ(GZ ) est incluse dans (Gm )Z = {±1}. Contradiction. ee 43 .

de e e e voir cette mesure λ comme une mesure de Radon sur l’espace X des r´seaux de e volume 1 de VR . e Remarque Soit G un Q-groupe sans Q-caract`re. e e e 44 . e b) On a d´j` vu dans la d´monstration du point b) du lemme 5. En effet. est une e e u application du crit`re de Mahler.6 e e e a) Un groupe semisimple n’a pas de caract`re. ` e 5. lorsque G est semisimple. Ce sera la deuxi`me ´tape du raisonnement. Cette strat´gie aboutira uniquement lorsque G est Q-simple.4 ⇒ corollaire 5. R´ciproquement.a e e e e Soit G un Q-groupe sans Q-caract`re. D´monstration de : th´or`me 5. Pour cela. la fonction module est la e valeur absolue de la restriction a GR de ce caract`re. Cette ´tape contient le crit`re de compacit´ de Godement.5 et 1. R). Elle prouvera que dans ce cas le quotient GR /GZ e est compact.15 de Jacobson Morozov. e e La troisi`me ´tape. ee D’une part. D’autre part. Or. Il est donc trivial. e En effet. le cas g´n´ral s’en d´duit par le th´or`me e e e e e e 2.7) qui e e permettra. Notons que cette ´tape est e e e la plus d´licate. On veut alors appliquer encore une combinaison des corollaires 1.2 Strat´gie de d´monstration du th´or`me 5.Remarque On a les ´quivalences : GZ n’a pas d’´l´ment unipotent non trivial e ee ⇔ GQ n’a pas d’´l´ment unipotent non trivial ⇔ gQ n’a pas d’´l´ment nilpotent ee ee non nul. la classe de conjugaison d’un ´l´ment unipotent contient e dans son ee adh´rence : c’est facile pour SL(2. d`s qu’on se donne une Q-repr´sentation fid`le de G dans VQ . un r´seau cocompact Γ de GR ne e e peut pas contenir d’´l´ment unipotent non trivial. comme l’application adjointe Ad est d´finie sur Q. La premi`re ´tape est un joli argument de plongement (proposition 5. adjoint et Q-anisotrope. la classe de conjugaison d’un ´l´ment γ0 ∈ Γ est ferm´e car ee e −1 l’ensemble des conjugu´s {γγ0 γ | γ ∈ Γ} est discret et GR /Γ est compact. adjoint et Qe isotrope. Alors GR est unimodulaire.5 que si G ea e a des Q-cocaract`res non triviaux alors gQ contient des ´l´ments nilpotents non e ee nuls. le cas o` G est Q-simple. On veut montrer que la e mesure GR -invariante λ sur GR /GZ est finie. le groupe GZ y apparaissant comme un r´seau non cocompact. l’application X → eX − 1 et son inverse X → log(1 + X) sont donn´es e par des polynˆmes ` coefficients rationnels quand on les applique ` des matrices o a a nilpotentes. Voici pourquoi. Remarquons de nouveau que cette condition ne fait plus intervenir le groupe GZ .4. il suffit de construire une probabilit´ µ port´e par GR v´rifiant la condition e e e [HI]. le caract`re g → e e det(Ad(g)) est un Q-caract`re.14.

Autrement dit. 5. G admet e une Q-repr´sentation fid`le ρ qui est R-irr´ductible. e Soit hn ∈ HZ tel que lim gn hn = h. Chaque repr´sentation e e e 45 . e le stabilisateur de tout point non nul v sur la droite x est aussi ´gal ` G. e e Lemme 5. on passera du cas Q-simple adjoint au cas r´duce e e tif sans Q-caract`re.8 Soit G un Q-groupe Q-simple.2. adjoint et Q-isotrope Alors GZ est un r´seau de GR e D´monstration Le premier point est de voir que. dans la cinqui`me et derni`re ´tape. Puisque tous les Q-caract`res de G sont triviaux.11). ` e Proposition 5. hn = γn h avec e γ ∈ GZ . Par le e a lemme 5.6 (avec H pour G et G pour H).7 Soit G ⊂ H = GL(d. Cette ´tape importante contient le cas o` G est un tore Qe u anisotrope. Alors l’injection GR /GZ → X = HR /HZ est propre.Dans la quatri`me ´tape.3 Le plongement dans l’espace des r´seaux e Le plongement suivant permet de relier l’´tude du quotient GR /GZ e d a celle de l’espace des r´seaux de R . Ce sera de nouveau une application du crit`re de Mahler e e (proposition 5. La repr´sentation adjointe est e e e e somme directe ρ1 ⊕ · · · ⊕ ρ de repr´sentations irr´ductibles de G = G1 × · · · × G e e qui correspondent aux id´aux gi de l’alg`bre de Lie de G. h ∈ HZ . la suite gn GZ converge dans GR /GZ . pour n grand. On peut choisir ∆ contenant e v. le groupe HZ stabilise un r´seau ∆ ⊂ VQ . la d´composition de Levi pour les e e e e Q-groupes G = RU comme produit semidirect d’un Q-groupe reductif R et d’un Q-groupe unipotent U (d´composition que nous admettrons) permettra de e montrer le th´or`me pour tous les Q-groupes sans Q-caract`re. comme G est adjoint. Elle contient donc en particulier le th´or`me des unit´s de Dirichlet.4 Le cas Q-simple et Q-isotrope Voici un cas particulier du th´or`me de Borel et Harish-Chandra e e qui se trouve ˆtre le cas le plus d´licat. On peut donc ´crire. D’apr`s la proposition 4. cette injection est un hom´omorphisme sur une partie ferm´e e e de X D´monstration Nous devons montrer que pour toute suite gn ∈ GR . Donc la HZ -orbite de v est discr`te dans VR . La suite gn γn est alors convergente. il existe une Qe repr´sentation de H dans un Q-espace vectoriel VQ et un pointr x ∈ P(VQ ) dont e le stabilisateur dans H est G. e e e Enfin. e e e 5. La suite h−1 v converge vers h−1 v et est n n→∞ donc constante pour n grand. telle que e gn HZ converge dans dans HR /HZ . C) un Q-groupe sans Q-caract`re non e trivial.

10 Soit G un Q-groupe Q-simple et Q-anisotrope. Si le quotient n’´tait pas compact. On prend pour ρ le produit tensoriel ρ = ρ1 ⊗· · ·⊗ρ de ces repr´sentations. a ` e e Lemme 5. Ce qui permet de e e e conclure grˆce a la strat´gie d´crite ci-dessus. le e groupe GR n’a pas de facteur compact. Elle est donc e e e l’alg`bre de Lie d’un sous-groupe compact UR de GL(d. Q). comme G est Q-simple. les ´l´ments M de q sont sym´triques et e ee e leurs exponentielles exp(M ) sont sym´triques d´finies positives. e 5.7. Le troisi`me point est d’utiliser le lemme 5. l’adjoint t g est aussi dans G.5 Le cas Q-simple et Q-anisotrope Cette ´tape est plus simple que la pr´c´dente : Elle n’utilise que e e e le plongement et le crit`re de Mahler. ` b) Dans la d´composition gR = k ⊕ q. e e Le deuxi`me point est de voir que.Alors a) il existe un produit scalaire euclidien sur Rd tel que. b) Dans ce cas.ρi est irr´ductible sous l’action de Gi et ces repr´sentations sont permut´es par le e e e groupe de Galois Gal(C. e e D´monstration L’alg`bre de Lie gR de GR admet une involution de Cartan e e θ qui correspond a une d´composition de Cartan gR = k ⊕ q (voir chapitre 3). comme G est Q-simple et Q-isotrope. on a l’´galit´ gR = e e e [q.9 Soit G ⊂ GL(d. En effet. un tel facteur est R-isotrope et donc non compact. Elle est donc R-irr´ductible. En outre tous ces e e r´seaux sont de mˆme covolume. C’est une repr´sentation fid`le de G d´finie sur Q qui est e e e e C-irr´ductible. On prend pour produit scalaire la partie r´elle de e d la restriction a R de cette forme hermitienne. Alors GZ est un r´seau cocompact de GR e D´monstration Comme G est adjoint. Mais. C). Ce groupe UR pr´serve e e d une forme hermitienne sur C . Comme [q. le quotient GR /GZ est hom´omorphe au sous-ensemble e ferm´ {Adg(gZ ) | g ∈ GR } de l’ensemble des r´seaux de gR . comme G est Q-simple et Q-isotrope. ` e La sous-alg`bre u = k ⊕ iq a une forme de Killing d´finie n´gative. le crit`re de e e e e 46 . C) un R-groupe semisimple. q] ⊕ q e e est un id´al de gR et que GR n’a pas de facteur compact. on peut supposer que G est inclus dans e le groupe Aut(g) des automorphismes de l’alg`bre de Lie g. e Par la proposition 5. si GR n’a pas de facteur compact. un tel facteur est le groupe (Gi )R des R-points d’un facteur R-simple Gi de G vu comme R-groupe. e Corollaire 5. q] ⊕ q et GR est engendr´ par exp(q). GR est engendr´ par GR ∩ S + e Rappelons que S + est l’ensemble des matrices sym´triques d´finies positives. pour tout g dans G.9 suivant qui permet de construire e une probabilit´ µ port´e par GR v´rifiant la condition [HI].

5. 47 . En particulier. car tous e e deux sont invariants par le groupe de Galois Gal(C/Q). Pour tout i ≥ 1. que le quotient GR /GZ est hom´omorphe a l’ensemble des e ` translat´s {gAZ | g ∈ GR } et.12 Soit ϕ : G → H une Q-isog´nie entre deux Q-groupes r´ductifs. e l’application induite π : GR /GZ → HR /HZ est une application propre. Rappelons que G n’a pas de Q-caract`re. C le centre de G et H le Qe groupe quotient H = G/C. la proposition 1.11 Soit G un Q-groupe r´ductif. Comme C est d´fini sur Q. la suite i d’entiers n → tr(Xn ) converge vers 0. On suppose que G n’a pas de Q-caract`re.compacit´ de Mahler. i. Remarques Ce quotient H est un Q-groupe semisimple adjoint. on a successivement. Donc.e. an bi cn = 0. Proposition 5. l’anneau AZ = A ∩ End(VZ ) est un r´seau de AR := A ∩ End(VR ) que l’on peut supposer e de covolume 1.e. e Le crit`re de compacit´ de Mahler. la proposition 1. assure qu’il existe e e une suite an ∈ AZ − {0} telle que gn an converge vers 0 et que toute suite an ∈ AZ −1 telle que gn an gn converge vers 0 est nulle pour n grand. D´monstration Soit G ⊂ End(V) notre Q-groupe et A := EndC (V) le come mutant de C dans End(V). Le groupe G agit de deux fa¸ons sur l’alg`bre A : l’action ρ par translation a c e ` gauche et l’action σ par conjugaison qui factorise en une action de H. et an = 0. pour ee n 0.7 on e obtient. on peut trouver C0 > 0 et des ´l´ments non nuls cn ∈ BZ tels que ee −1 −1 cn gn ≤ C0 . on peut supposer que an est dans l’un des e e BZ − {0}.8. Et G n’est pas Q-anisotrope. Comme le centre C est r´ductif. Puisque l’alg`bre associative semisimple A est somme directe de ses id´aux e e bilat`res d´finis sur Q minimaux B.6 Le cas r´ductif e Le lemme clef pour passer du cas Q-simple adjoint au cas r´ductif e est la proposition suivante. Puisque detB gn = 1. Soit bi une base de BZ . A est aussi d´finie sur Q. le quotient HR /HZ est hom´omorphe e e a l’ensemble des conjugu´s {h(AZ ) | h ∈ HR }.8. assurerait qu’il existerait gn ∈ GR e et Xn ∈ gZ − {0} tel que Ad(gn )(Xn ) converge vers 0.10 de Minkowski. d’autre part. En appliquant deux fois la proposition 5. l’alg`bre associative e e A est semisimple. Supposons par l’absurde que l’application π n’est pas propre. e e Alors les groupes ϕ(GZ ) et HZ sont commensurables. il existe −1 donc une suite gn ∈ GR telle que gn AZ n’est pas born´e tandis que gn AZ gn est e born´e. an Bcn B = 0. Elle donc nulle pour n grand. d’une part. i. Alors. Contradiction. an B = 0. Corollaire 5. par le lemme 1. Il est donc produit de groupes Q-simples adjoints. Donc pour n grand. Les ´l´ments gn an bi cn gn convergent aussi vers 0. Contradiction. En outre tous ces r´seaux sont de ` e e covolume 1. Xn est nilpotent.

5. e En outre.4 au cas r´ductif que nous avons obtenu dans la proposition 5. Prendre par exemple G = SL(2) et H = PGL(2) et regarder les ´l´ments de HQ donn´s par ee e p 0 0 1 . En particulier si HZ est un r´seau de HR et NZ est un r´seau de NR . e e alors GZ est un r´seau de GR e D’apr`s la d´composition de Levy. nous pouvons maintenant terminer par r´currence notre raisonnement. tout k-groupe G est un produit semidirect L U d’un k-groupe r´ductif L et e d’un k-sous-groupe distingu´ unipotent U. valable sur tout corps k de caract´ristique e e e 0.D´monstration Quitte a remplacer G et H par l’intersection des noyaux de e ` leurs Q-caract`res. on peut supposer G et H sans Q-caract`re. ` e Remarque L’analogue de ce corollaire pour les Q-points est inexact : les groupes ϕ(GQ ) et HQ ne sont pas toujours commensurables.4 Remarquons tout d’abord que si G = H N e e e est une d´composition d’un Q-groupe G en un produit semidirect d’un Q-souse groupe H et d’un Q-sous-groupe distingu´ N.7 Conclusion En utilisant la structure des Q-groupes. On remarque que l’application ϕ induit un isomorphisme G/ZG H/ZH . e D´monstration du th´or`me 5. alors le groupe HZ NZ est inclus e dans GZ . Puisque le sous-groupe arithm´tique (Ga )Z e Z est un r´seau cocompact du e groupe de Lie (Ga )R R. tout k-groupe unipotent de dimension n ≥ 1 est un produit semidirect du k groupe additif Ga de dimension 1 et d’un k-sous-groupe distingu´ unipotent e U de dimension n − 1. Notons ZG le e e centre de G et ZH le centre de H. e 48 .11. ces remarques ram`nent la d´monstration du th´or`me e e e e 5. On applique alors deux fois la proposition 5.11 a ` G puis a H pour en d´duire que l’application GR /GZ → HR /HZ est propre.

e a e L’objectif arithm´tique est de donner l’asymptotique en r du nome bre de matrices de SL(d. de d´croise c ee e e a e sance des coefficients des repr´sentations unitaires. que nous avons d´mone e e tr´es au chapitre 3. ν). e D´finition 6. le coefficient est la fonction continue cv. e 6.ψ : g → ϕ(x)ψ(gx)dν(x) X 49 . toute repr´sentation unitaire est une somme hilbertienne e orthogonale de repr´sentations unitaires irr´ductibles. La th´orie des repr´sentations unitaires joue un rˆle central dans e e o cette propri´t´ de m´lange.Quand G est compact. . Dans le cas g´n´ral. tel que. Pour tout v. w dans Hπ .Supposons que G agisse continˆment sur un espace localement compact X en u pr´servant une mesure de Radon ν. Alors la formule (π(g)ϕ)(x) := ϕ(g −1 x) d´finit e e une repr´sentation unitaire π de G dans L2 (X. . e e Ses coefficients sont des fonctions constantes. e sauf pour une formule explicite pour la mesure de Haar dans la d´e composition de Cartan . e Exemples .1 Repr´sentations unitaires et m´lange e e Commen¸ons par la partie th´orie des repr´sentations unitaires et c e e ´non¸ons une propri´t´ g´n´rale. Par Peter-Weyl.1 Une repr´sentation unitaire π d’un groupe localement compact e e G dans un espace de Hilbert (s´parable) Hπ est un morphisme de G dans le e groupe U (Hπ ) des transfomations unitaires de Hπ .w (g) = < π(g)v. ` e Les coefficients cϕ.w : G → C donn´e par cv. Nous obtiendrons plus g´n´ralement un tel asymptotique pour tous les r´seaux Γ des groupes e e e de Lie quasisimples G. Z).6 M´lange et comptage e Ce chapitre est encore au coeur des th`mes de ce cours reliant th´oe e rie des nombres et th´orie ergodique ` travers la th´orie des groupes. on la montre tout d’abord pour les fonctions continues a support compact puis on utilise la densit´ de ces fonctions dans L2 (X. w >. La propri´t´ ergodique est ici le m´lange de l’action des ´l´ments ee e ee de G sur le quotient de volume fini G/Γ. g → π(g)v est continue. d´compositions de Cartan et d’Iwasawa. ν) Pour montrer la continuit´ des e e applications g → π(g)ϕ. elles sont e e de dimension finie. pour tout v dans Hπ . due ` Howe et Moore. ee e Les d´monstrations ci-dessous sont self-contained pour SL(d. l’application G → Hπ . nous utiliserons en plus e e quelques propri´t´s sur la structure des groupes de Lie semisimples ee r´els. Z) de norme au plus r.La repr´sentation triviale est la repr´sentation constante π(g) = Id.

3 Soit G un groupe de Lie r´el connexe semisimple ` centre fini et e a π une repr´sentation unitaire de G sans vecteur G-invariant non nul. i. dx).2 (Howe. Remarque . e e e Remarque En particulier.D’apr`s le th´or`me 2. e Corollaire 6. Alors.Pour simplifier. Soit v un vecteur H-invariant. Alors Hπ = 0. e 50 . l’hypoth`se sur H ´quivaut a H non compact. toute partie mesurable ge invariante A de X v´rifie λX (A) = 0 ou 1 (voir chapitre 8). e a Γ ⊂ G un r´seau.7. Le coefficient cv. notons H Hπ := {v ∈ Hπ / ∀h ∈ H. il n’y a qu’un nombre fini de Gi . en ´crivant Hπ = Hπ i ⊕ (Hπ i )⊥ . on a not´ dx = λX la probabilit´ G-invariante sur X. on a la e e propri´t´ suivante de “d´croissance des corr´lations” : pour tout ϕ. q) sont quasisimples pour d ≥ 2 et p + q ≥ 3.4 Soit G un groupe de Lie r´el connexe quasisimple ` centre fini. e e e G .e. Donc v = 0.La preuve de ce th´or`me est report´e a la section 6. pour tout ´l´ment g ∈ G qui engendre un sous-groupe ee non-born´ de G.Le symbole g → ∞ signifie que g sort de tout compact de G.2. Alors l’action de G est m´langeante sur X = G/Γ.Quand g est simple. . . e e e Pour tout sous-groupe H de G. Par exemple les groupes de Lie SL(d.de cette repr´sentation sont aussi appel´s coefficients de corr´lation.Une extension aux r´seaux irr´ductibles sera donn´e dans le corollaire 7. Th´or`me 6. i.3. on a lim < π(g)v. on peut supe e e Gi poser que Hπ = 0 pour tout i. e e e ` . pour tout v. e e e Corollaire 6. g→∞ Remarques . Rappelons qu’un groupe de Lie G est semisimple si son alg`bre de Lie g est e semisimple.v est constant sur H. Moore) Soit G un groupe de Lie r´el connexe semie e e G simple ` centre fini et π une repr´sentation unitaire de G. e e .Quand g est simple. Soit H un e sous-groupe ferm´ de G dont les images dans tous les groupes quotients G/Gi = 1 e H sont non compactes.7. l’action de g sur X est ergodique. π(h)v = v} le sous-espace des vecteurs H-invariants. il doit ˆtre nul. e e ` G G D´monstration Par r´currence. w dans Hπ . Par le th´or`me 6. et que G est quasisimple si g simple (voir chapitre 3). w > = 0. R) et SO(p. l’hypoth`se est Hπ = 0. ee e e lim ϕ(x)ψ(gx)dx = X X g→∞ ϕ(x)dx X ψ(x)dx. ψ ∈ L2 (X.e. Supposons que Hπ i = 0 a e pour tout sous-groupe connexe normal Gi = 1.

Alors a) Sv = {g ∈ G / cv.D´monstration du corollaire 6. soit t 0 at := 0 t−1 . u− implique l’invariance par les deux autres. On utilise le lemme 6. Cela r´sulte de Fubini car si. Remarque La proposition 6. n→∞ n→∞ 51 .b avec gn = g = us . R). Si v est soit at -invariant. dx) = C1 ⊕ L2 (X. e e On utilisera le lemme suivant. t = 1. il n’y a que deux cas ` traiter : e a at -invariant =⇒ us -invariant. ϕ(gx) = ϕ(x) pour presque tout g ∈ G. dx) e 0 o` L2 (X. us .3 pour le c groupe SL(2. en rempla¸ant les groupes a un e c ` − param`tre at .4 Ecrivons L2 (X. R). il suffit de remarquer que les fonctions G-invariantes ϕ de L0 (X. lim sn gn sn = e. sn dans Sv avec lim gn = g . Proposition 6. alors on peut trouver x ∈ X tel que.6 (Mautner) Soit π une repr´sentation unitaire d’un groupe locae lement compact G. Donc ϕ = 0. D´monstration de la proposition 6. Pour v dans Hπ .2 Vecteurs invariants pour SL(2) Commen¸ons par une preuve directe du corollaire 6. On peut supposer t > 1. us et us par leur rel`vement dans S. pour tout g dans G.5 Il suffit de montrer que l’invariance e de v par l’un des trois at . R). Alors g est dans Sv . u 6. sn . e e e b) Faire tendre n vers l’infini dans l’´galit´ cv.v (g) = v 2 }. dx) d´signe le sous-espace des fonctions d’int´grale nulle. Grˆce a s aux sym´tries. b) Soit g dans G tel qu’il existe gn dans G. Lemme 6. us -invariant ou u− -invariant alors. sn = a−n et sn = an . On v´rifie facilement e t t que lim sn gn sn = lim ut−2n s = e.6.v (sn gn sn ) pour obtenir e e cv. Et donc ϕ est presque sˆrement constante. ϕ(gx) = ϕ(x) pour e presque tout x ∈ X. us := 1 0 s 1 .v (g) = v 2 .v (g)). D’apr`s le u 0 e e e 2 th´or`me 6.5 et sa d´monstration sont encore valables pour e le groupe S revˆtement universel de SL(2.2. dx) e e sont nulles.v (gn ) = cv. il s est G-invariant. e s = 0 et v ∈ Hπ . u− := s 1 s 0 1 . n→∞ n→∞ D´monstration a) Utiliser l’´galit´ π(g)v − v 2 = 2 v 2 − 2 Re(cv.5 Soit π une repr´sentation unitaire de G = SL(2. notons Sv = {g ∈ G / π(g)v = v} son stabilisateur dans G. Pour t > 0 et s dans R.

R). nulles. Y ] = −2Y et [X.5 e montre que v est invariant par U et U − . nous sommes de nouveau dans le ee premier cas. q On utilise le lemme 6. [H. U − ) les sous-groupes e de Lie connexes correspondants. H := 0 −1 . Si un ´l´ment v de Hπ est soit a-invariant ou u-invariant ee ee alors il est G-invariant. s s 0 1 1 t−1 snp = e. On note U (resp L. e e Nous aurons besoin du lemme suivant qui est un cas sp´cial du corollaire 6. hyperbolique) si g = eX ee avec X ∈ g et adX nilpotent (resp. Y avec 0 1 1 0 0 0 X := 0 0 . H. Notons u = eN avec N ∈ g nilpotent.3 D´croissance des coefficients e Dans cette section. X] = 2X .3 e que nous n’avons pas encore d´montr´. la d´monstration du th´or`me de Jacobson e e e Morozov est tr`s facile. t = p . Ce sont des sous-alg`bres de Lie. et u = 1 un a ee ´l´ment unipotent de G. Le mˆme argument que dans la proposition 6. v est invariant par le sous-groupe S d’alg`bre de Lie s. Rappelons qu’un ´l´ment g ∈ G est unipotent (resp. 6. u ) sont la somme des espaces propres de adX u associ´s aux valeurs propres strictement n´gatives (resp. Par la proposition 6. On peut supposer que t est rationnel.b avec g = at .14 qui classifie les repr´sentations de s prouve e e que S contient des ´l´ments hyperboliques.2. Remarque Lorsque g = sl(d. e ` e 2`me cas : v est u-invariant. l. strictement posie e tives). gn = On v´rifie facilement que lim sn gn sn = lim e n→∞ n→∞ p q t−1 snp 0 q p . u] ∩ l) ⊕ u est un id´al de g e et est donc ´gal a g. Rappelons que s a e e pour base X. Ecrivons a = eX et d´composons e e − − g en g = u ⊕ l ⊕ u o` u (resp. On conclut que v est G-invariant grˆce a − au fait suivant : les deux groupes U et U engendrent G. D’apr`s le e th´or`me 2. diagonalisable sur R).7 Soit π une repr´sentation unitaire d’un groupe de Lie r´el connexe e e quasisimple G ` centre fini. Y ] = H.5. R). on remarquera juste que la somme directe u− ⊕ ([u− .6.us -invariant =⇒ at -invariant. nous donnons la preuve du th´or`me 6. qui v´rifient les relations e [H. 52 . On veut montrer que toute matrice nilpotente N est dans e l’image d’une repr´sentation de l’alg`bre de Lie s = sl(2. D´monstration 1er cas : v est a-invariant. Y := 1 0 . Pour montrer ce fait.15 de Jacobson-Morozov. La proposition 2. R) e e e de g contenant X. e e Lemme 6. il existe une sous-alg`bre de Lie s sl(2. sn = u−np and sn = unq . a = 1 un ´l´ment hyperbolique de G.

e −1 Comme limn π(kn )v − v = limn π(kn )v − v = 0. ce vecteur est u-invariant. dans la base xd−1 . D´monstration du th´or`me 6. N est une matrice form´e de blocs de Jordan. supposer que la suite π(an )v a une limite faible a v0 ∈ Hπ . w >= = 0 . On peut donc. xd−2 y. v . En particulier.e. La compacit´ faible de la boule unit´ de Hπ affirme que. lim kn = k . R). H. . . R) et la chambre de Weyl A+ est l’ensemble des ´l´ments diagonaux de G a coefficients positifs et ee ` rang´s en ordre d´croissant. On peut supposer ee n que k = k = e. v = v∞ . Remarque Pour G = SL(d. C’est ce que l’on voulait. e 53 . R) dans l’espace vectoriel Vd des polynˆmes de degr´ d − 1 sur R2 o e envoie X. on a bien < v0 . w > = lim < π(an )π(kn )v. . on peut trouver des suites e gn = kn an kn ∈ G = KAK telles que lim < π(gn )v. w > = −1 lim < π(an )v. on a n π(u)v0 − v0 ≤ lim π(an )(π(a−1 uan )v − v) = 0 . Or la repr´sentation e u e ρd de sl(2. n n n et pour certaines racines α de A dans g. La d´composition de Cartan G = KA+ K est une e e e cons´quence des deux faits ´l´mentaires suivants. le groupe K est le groupe SO(d.7. π(kn )w > n n n n = lim < π(gn )v. parce que. quitte ` extraire. La d´composition de Cartan de G (voir chapitre 3) affirme qu’il existe un souse groupe compact K de G et une partie A+ . on a limk→∞ vnk . appel´e chambre de Weyl. w > ne d´croit pas vers 0.2 L’id´e est d’utiliser la compacit´ faible de e e e e e + la boule unit´ de Hπ et la d´composition de Cartan G = KA K de G pour e e construire dans Hπ un vecteur v0 invariant par un unipotent u ∈ G. n n Ceci contredit le lemme 6. .il existe un ´l´ment unipotent u ∈ G non trivial tel que a−1 uan → e. y d−1 . On se e ram`ne facilement au cas o` N est un seul bloc de Jordan. Primo : toute matrice r´elle e ee e inversible est (de fa¸on unique) le produit d’une matrice orthogonale et d’une c matrice sym´trique d´finie positive. comme a−1 uan → e. Y respectivement sur ∂ ∂ ∂ ∂ x ∂y . ρd (X) est un bloc de Jordan de taille d et ρd (H) est diagonale. lim α(an ) = ∞. d’un sous e groupe commutatif A form´ d’´l´ments hyperboliques tels que G = KA+ K. Secundo : toute matrice sym´trique d´finie e e e e positive est diagonalisable dans une base orthonorm´e. lim kn = k . toute suite vn ∈ Hπ e e avec vn ≤ 1 a une sous-suite vnk qui converge faiblement vers un vecteur v∞ i. x ∂x − y ∂y et y ∂x . e ee Si le coefficient < π(g)v.Dans une base convenable. V´rifions que ce vecteur v0 est non nul. En particulier. pour tout v ∈ Hπ . w >= 0 En outre.

tel que.. Remarques .6. ces mesures convergent vers la probabilit´ G-invariante sur X. pour g ∈ GL(d. Nous e ` e e e suivrons la d´monstration d’Eskin et Mc Mullen. asymptotiquement ´quivalentes et on notera f ∼ g lorsque lim e r→∞ g(r) Th´or`me 6. 6. K un sousgroupe compact maximal de G. Y = Kx0 sa K-orbite et λY la probabilit´ K-invariante sur Y . ∞[. Alors.e. notons g = sup v =1 gv . Lorsque f et g sont deux fonctions positives sur ]0. on dira que f et g sont f (r) = 1.5 Equidistribution des grandes sph`res e La premi`re ´tape de la d´monstration consiste a pousser une proe e e ` babilit´ K-invariante sur le quotient X = G/Γ par de grands ´l´ments e ee de G et a montrer que les mesures obtenues ainsi s’´quir´partissent ` e e i. Rudnick et Sarnak. Soit Γ un r´seau de G. Sarnak) #(Γ ∩ Br ) ∼ vr e e La fin de ce chapitre est consacr´e a la d´monstration du th´or`me 6. e c Notons Br := {g ∈ G | g ≤ r} la trace sur G de la boule de rayon r.La croissance de vr est donc exponentielle. Posons vr := λG (Br ). . e Notons x0 = Γ le point base de X = G/Γ. Notons λG la mesure de e Haar sur G que l’on normalise de sorte que la mesure induite λX sur le quotient X := G/Γ soit de volume 1. comme fonction de R := log r. une norme euclidienne K-invariante sur Rd . e e e e ua Soit G → SL(d. Z). e Corollaire 6.10 On a lim g λY = λX . g→∞ 54 . R) un sous-groupe de Lie quasisimple connexe.4 Comptage des points d’un r´seau e Rappelons que notre objectif dans ce chapitre est de compter les points dans SL(d. On veut estimer #(Γ ∩ Br ). R). Ce comptage sera un corollaire imm´diat du e th´or`me g´n´ral suivant dˆ ` Duke. a partir du raisonnement ci-dessous de calculer ` explicitement la constante c.8.Il est possible.8 (Duke. Z) | g ≤ r} ∼ c rd 2 −d . Rudnick. il existe c > 0. On note de la mˆme fa¸on la norme induite sur les matrices. #{g ∈ SL(d.9 Soit une norme euclidienne sur Rd et. e Proposition 6..

Par uniforme continuit´ de ϕ. Notons alors βε la fonction L sur X. Fixons ε > 0. Elle signifie que pour toute fonction continue a support compact ϕ ∈ Cc (X). Pour cela on compare l’int´grale Ia a l’int´grale e ` e Ja := X ϕ(ax)βε (x)dλX (x).4) ee e prouve que lim Ja = I. βε = λX (Wε Y ) 1Wε Y . Remarque Cette proposition a une signification g´om´trique importante : elle e e implique que l’image dans le quotient Γ\G/K des “grandes sph`res de l’espace e sym´trique riemannien” G/K s’´quir´partissent dans ce quotient. Comme l’action adjointe de A+ sur l’alg`bre de Lie de W est simultan´ment e e diagonalisable avec des valeurs propres toujours de modules au plus 1. On veut montrer que. e e e D´monstration On va non seulement utiliser la d´composition de Cartan G = e e + KA K de G comme dans la d´monstration du th´or`me 6.2 mais aussi la d´come e e e position d’Iwasawa G = U − AK o` U − est le groupe de Lie connexe dont l’alg`bre u e − de Lie u est la somme des espaces radiciels associ´s aux racines n´gatives (voir e e chapitre 3). Dans cette carte. Par compacit´ de K. 1er cas : Supposons que g = a est dans A+ . la mesure de Haar e λG de G est le produit λW ⊗ λK de la mesure de Haar a gauche de W et de la ` mesure de Haar de K. (w. ` g→∞ lim ϕ(gy)dλY (y) = Y X ϕ(x)dλX (x). k) → wk. a→∞ 55 . la propri´t´ de m´lange pour l’action de G sur X (corollaire 6. on peut trouver un ouvert Wε ⊂ W ∩ Gε tel que aWε a−1 ⊂ Wε pour tout a ∈ A+ . l’int´grale e Ia := Y ϕ(ay)dλY (y) converge vers I := X ϕ(x)dλX (x). (w. Soit W le groupe r´soluble W = U − A.Cette limite est la limite pour la convergence faible des mesures. il existe un voisinage ouvert Gε de e dans G tel que e |ϕ(ux) − ϕ(x)| ≤ ε pour tout u ∈ Gε et x ∈ X. La d´composition d’Iwasawa donne un e e diff´omorphisme W × K → G. lorsque a ∈ A+ tend vers l’infini. on peut aussi supposer Wε suffisamment petit pour que e l’application Wε × Y → X. y) → wy soit un diff´omorphisme sur son image e 1 2 Wε Y ⊂ X. D’une part.

e On introduit donc la fonction Fr : X → N x = gΓ → Fr (x) := #(Br ∩ gΓ) = γ∈Γ 1Br (gγ). Comme K est compact. on peut aussi supposer que la suite kn converge vers un ´l´ment k∞ ∈ K. e en utilisant le premier cas. Ecrivons grˆce ` la d´composition de Cartan gn = kn an kn avec kn .6 Comptage faible Dans la deuxi`me ´tape de la d´monstration du th´or`me 6. a→∞ e 2`me cas : Cas g´n´ral. 6. pour tout a ∈ A+ . par le choix de Wε . on a Ja = 1 λW (Wε ) ϕ(awy)dλW (w)dλY (y) Wε ×Y et. kn ∈ K a a e + et an ∈ A . ee La suite de fonctions ϕ ◦ kn converge alors uniform´ment vers ϕ ◦ k∞ . R). C’est ce que l’on voulait. n→∞ lim ϕ(gn y)dλY (y) = Y n→∞ lim ϕ(k∞ an y)dλY (y) Y = X ϕ(k∞ x)dλX (x) = X ϕ(x)dλX (x). on a. e e e e e plutˆt que d’estimer directement le nombre Nr de points de Γ dans une o boule Br . On a donc. On en d´duit la majoration.8. La d´composition d’Iwasawa G = U − AK est e une cons´quence du proc´d´ d’orthonormalisation de Gramm-Schmidt qui affirme e e e que toute matrice r´elle inversible est (de fa¸on unique) le produit d’une matrice e c orthogonale et d’une matrice triangulaire inf´rieure ` coefficients diagonaux poe a sitifs. e |ϕ(awy) − ϕ(ay)| ≤ ε pour tout w ∈ Wε et a ∈ A+ . on a |Ia − I| ≤ 2ε et donc lim Ia = I.D’autre part. on va tout d’abord estimer une moyenne sur g du nombre de points des translat´s gΓ dans ces boules Br . e |Ia − Ja | ≤ ε pour tout a ∈ A+ . La K-invariance de λY permet de supposer kn = 1. 56 . On peut supposer que g tend vers l’infini selon une suite e e gn . Donc pour a suffisamment grand. en ´crivant awy = (awa−1 )ay. Remarque Pour G = SL(d.

on obtient. e e e 1 vr ϕ(x)Fre−ε (x)dλX (x) ≤ X 1 1 Nr ≤ vr vr 57 ϕ(x)Freε (x)dλX (x). e D´monstration du th´or`me 6. Choisissons une fonction continue positive ϕ ∈ Cc (G) d’int´grale e ´gale a 1 et dont le support est inclus dans Gε . Pour cela on a ` e a besoin d’un ´quivalent asymptotique pour le volume vr .7 Estimation de volumes La derni`re ´tape de la d´monstration du th´or`me 6.11 On a la convergence faible lim Fr = 1. Montrons tout d’abord comment on en d´duit le comptage. e Lemme 6. 1 vr Fr (x)ϕ(x)dλX (x) = X 1 vr 1Br (gγ)ϕ(gx0 )dλX (gΓ) G/Γ γ∈Γ 1 vr 1 = vr = 1Br (g)ϕ(gx0 )dλG (g) G ϕ(gkx0 )dλK (k) dλG (g) Br K La proposition 6. g −1 ) ≤ eε }.10 assure que la fonction g → K ϕ(gkx0 )dλK (k) converge pour g → ∞ vers la constante X ϕ(x)dλX (x). Introduisons l’ouvert de G.8 consiste e e e e e a d´duire le comptage ` partir du comptage faible. R). e e e Gε := {g ∈ G | max( g . Notons ϕ ∈ Cc (X) la fonction a e ` ` support dans p(Gε ). c > 0 tels que vr ∼ c ra (log r)b . En sommant ces in´galit´s pour γ ∈ Γ et en les int´grant pour g ∈ Gε . un petit voisinage de l’identit´ dans G que l’on peut identifier via la projection p : G → X = G/Γ a un e ` voisinage de x0 . e 6. pour ε petit. pour toute fonction continue ` support compact ϕ ∈ Cc (X).Lemme 6. La moyenne de cette fonction sur la boule Br a la mˆme limite pour r → ∞ car le volume vr tend vers l’infini. Nous ne d´e e montrerons cet ´quivalent que pour G = SL(d. en e remarquant que la boule Br est K-invariante. X . b ≥ 0. a 1 r→∞ vr lim Fr (x)ϕ(x)dλX (x) = X X ϕ(x)dλX (x). D´monstration On commence par un simple calcul du membre de gauche.8 Fixons ε > 0. donn´e par ϕ(p(g)) = ϕ(g). C’est. r→∞ vr Autrement dit. On a donc les e in´galit´s e e ϕ(g)1Bre−ε (gγ) ≤ ϕ(g)1Br (γ) ≤ ϕ(g)1Breε (gγ).12 Il existe a > 0. pour tout g ∈ Gε .

Nous avons simplifi´ dans cette formule les notations dλG (g) et dλK (k) en dg e et dk. u − t1 − · · · − td−1 ). dtd−1 . On note. tel que. on obtiendra le mˆme ´quie e e valent en restreignant l’int´grale au cˆne donn´ par max(t1 . On int`gre alors en la variable td−1 sur l’intervalle e e [0. e o e 1 On peut donc remplacer les d − 1 facteurs sinh(ti + · · · + td−1 ) par 2 eti +···+td−1 sans changer l’´quivalent.En faisant tendre r vers l’infini. nous aurons besoin de la formule suivante pour la mesure de Haar dans la d´composition de Cartan G = KA+ K. vr ∼ c0 rd(d−1) (d−1)2d−1 sinh(ti + · · · + tj ) [0. .186. .13 dont la d´monstration se ram`ne a un e e ` calcul de Jacobien et peut ˆtre trouv´e dans le livre de Helgason p.11 de comptage a faible et au lemme 6. 1{eu ≤r} [0. R) e C’est un calcul dont nous donnons simplement les grandes lignes. 1≤i≤d−2 On obtient bien l’´quivalent vr = c rd(d−1) annonc´ o` c/c0 est un nombre ratione e u nel. comme e + dans la section 3. . Tous calculs faits. .12 pour SL(d. . . dtd−2 . r→∞ vr r→∞ vr r→∞ vr vr r→∞ Nr vr Comme ε > 0 est arbitrairement petit. On cherche un ´quivalent pour vr . d log r − (d − 1)t1 − · · · − 2td−2 ]. le quotient tend bien vers 1. pour tout α ∈ Σ }. . . Pour tout ε > 0. Σ l’ensemble des racines positives de A+ dans g et mα la dimension de l’espace radiciel gα associ´ ` une racine α.12. on obtient. Pour montrer le lemme 6.5. 58 . pour tout f ∈ Cc (G).12 qui donne l’asymptotique du volume e−aε = lim vre−ε Nr Nr vreε ≤ lim inf ≤ lim sup ≤ lim = eaε . on a f (g)dg = c0 G f (keX k ) K×a ×K + sinh(α(X))mα α∈Σ+ dkdXdk . on obtient. e Nous admettrons cette formule 6. avec u = 1 d ((d − 1)t1 + (d − 2)t2 + · · · + td−1 ). .∞[d−2 1≤i<j≤d−2 e−d(d−i−1)ti dt1 . td−2 ) ≤ εtd−1 . . ea Lemme 6. u − t1 .∞[d−1 1≤i<j≤d−1 vr = c0 sinh(ti + · · · + tj )dt1 .13 Il existe c0 > 0. On obtient. e e D´monstration du corollaire 6. avec une int´e grale qui est finie. . et nous avons consid´r´ les racines restreintes α comme des formes lin´aires ee e + + + sur a et not´ a = log(A ) = {X ∈ a | α(X) ≥ 0. R). en notant les ´l´ments ee + X ∈ a sous la forme X = diag(u. Appliquons la formule pour la mesure de Haar pour G = SL(d. grˆce au lemme 6.9 et du lemme 6. .

1 Soit H l’adh´rence de Zariski de Γ. est bien dans l’esprit de a ce cours : Elle utilise. Par la proposition 4. Th´or`me 7. Alors tout r´seau de G est Zariski dense dans e G. soit G le produit d’un nombre fini de groupes Gp avec p e e premier ou ∞. dˆ a Borel. La d´e e u ` e monstration ci-dessous. e Th´or`me 7. Les applicae tions les plus int´ressantes de ces m´thodes.1 est tr`s facile a v´rifier en pratique. o` Gp est le groupe des Qp -points d’un Qp -groupe Zariski connexe. D´monstration du th´or`me 7. Alors.1 Zariski densit´ des r´seaux e e Le th´or`me suivant. Alors tout r´seau Γ de G est e Zariski dense.6 de e e e e Chevalley. On peut supposer que l’orbite Gx0 engendre K d .7 R´seaux e Nous ´tudions dans cette partie les r´seaux Γ des groupes de Lie e e semisimples r´els. un th´or`me de Chevalley sur les ese e paces homog`nes de groupes alg´briques et.1 (bis) Soit G le produit d’un nombre fini de groupes Gp avec p e e premier ou ∞. nous obligent a travailler non seulement sur R ou C e e ` mais aussi sur des extensions finies de Qp . Remarque L’hypoth`se du th´or`me 7. est souvent bien utile. e e e e ` e Elle est satisfaite par exemple lorsque G est quasisimple et isotrope. D’apr`s le th´or`me 4. o` Gp est le groupe des Qp -points d’un Qp -groupe Zariski connexe u et o` Q∞ = R.2 ci-dessous. l’´tude des e e e groupes de transformations lin´aires qui pr´servent une probabilit´ e e e sur l’espace projectif. par exemple le th´or`me e e e e d’arithm´ticit´. le groupe H est d´fini sur k. Plus g´n´ralement. 7.8. D’apr`s e e e e e le lemme 7. En particulier comment une action de Γ induit une e action Γ-´quivariante entre les bords. d’autre part. u On suppose qu’il n’existe pas de sous-groupe distingu´ Zariski ferm´ G e e G tel que le quotient G/G est compact. On suppose qu’il n’existe pas de sous-groupe distingu´ Zariski e ferm´ G e G tel que le quotient G/G est compact. il existe une k-repr´sentation ρ de G dans un espace vectoriel V = K d e de dimension d et une droite x0 ∈ P(k d ) dont H est le stabilisateur : H = {g ∈ G | ρ(g)x0 = x0 }. due ` Furstenberg. L’´tude des propri´t´s de cette e e ee application aux bords sera la clef de la superrigidit´. la mˆme preuve donnera aussi. le groupe G est Zariski dense dans G et donc Gx0 engendre l’espace vectoriel 59 .1 Soient k = R et G = Gk le groupe des k-points d’un k-groupe e e Zariski connexe. On appelle topologie de Zariski sur G la topologie produit des u topologies de Zariski sur les Gp . d’une part.

Le support de ν e est inclus dans P(E1 ) ∪ P(E2 ). alors toutes les valeurs d’adh´rence de la suite gp x sont dans P(E1 ). V = K d et Z ⊂ K d une K-vari´t´ telle que ee l’ensemble des k-points Zk est Zariski dense dans Z. C ou une extension finie de Qp .3 (Furstenberg) Soit k = R. e D´monstration du lemme 7. a le th´or`me de convergence domin´e prouve que e e e ϕ ◦ gp dµ −→ 0. Comme Zk est Zariski dense dans Z. on a une application G-´quivariante i : G/Γ → e d P(k ) donn´e par i(gΓ) = ρ(g)x0 . ` e Lemme 7. les sous-espaces I m sont d´finis par un syst`me d’´quations lin´aires ` coefficients dans k. Soient E = k d . La probabilit´ i∗ (µ) image de la probabilit´ G e e e invariante µ sur G/Γ est une probabilit´ ρ(G)-invariante sur P(k d ). Quitte a extraire. PGL(E) le groupe des transformations projectives de E et ν une probabilit´ sur P(E). Contradiction. e e Comme x0 est Γ-invariant. on peut supposer ` que la suite gp a une limite g ∈ P(EndE) qui n’est pas inversible. Cette mˆme proposition et le corollaire 4. alors lim gp x = gx ∈ P(E2 ) et que si x ∈ p→∞ P(Kerg).2 Soit I ⊂ K[V] l’id´al annulateur de Z et e e I m = I ∩ K m [V].k d . p→∞ Remarquons que si x ∈ P(Kerg). e ` Lemme 7. b) Plus g´n´ralement. On peut supposer que la ` ee limite E1 = lim gp (Kerg) existe et on pose E2 = Img. Ceci contredit notre hypoth`se a moins que ρ(G) = 1. Donc cette int´grale est nulle. Alors Z est d´finie sur k. e p→∞ D´monstration Il est clair que S est ferm´.2 Soit k ⊂ K deux corps. Notons Kerg et Img le noyau et l’image de g. e e Supposons par l’absurde que µ et gp existent. On a donc H = G. Il suffit donc de montrer le point b). Supposons que le support de ν ne e peut ˆtre inclus dans une r´union P(E1 ) ∪ P(E2 ) pour deux sous-espaces propres e e E1 . pour toute fonction ϕ continue ` support dans P(E)−(P(E1 ) ∪ P(E2 )). 60 .3 e ci-dessous prouve alors que ρ(G) est compact pour la topologie analytique. Le lemme 7. Plus pr´cis´ment il s’agit du noyau et de l’image e e communs a tous les ´l´ments non nuls de la droite g. P(E) l’espace projectif de E.5 prouvent aussi que le groupe image e ρ(G) est ferm´ dans les k-points du groupe alg´brique image ρ(G) ⊂ PGLd . E2 E tels que dim E1 + dim E2 = dim E. Ils ont donc une e e e e a base a coefficients dans k. L’id´al I aussi. P(E) Mais cette limite est P(E) ϕ dν. il n’existe pas de probabilit´ µ sur P(E) et de suite gp ∈ G e e e non born´e telle que lim (gp )∗ µ = ν. e Donc. Alors a) le stabilisateur S := {g ∈ PGL(E) | g∗ ν = ν} de ν est compact.

5 Soit k = R et G = Gk le groupe des k-points d’un k-groupe G semisimple connexe. Donnons-nous une d´composition G = H1 H2 de G en presque produit de deux sous-groupes distingu´s e e Hi et notons Γi := Γ ∩ Hi et πi : G → G/Hi la projection. D´monstration de la proposition 7. e Par exemple. la conclusion et la d´monstration de la proposie e e tion 7. g) | g ∈ SL(2. iv) Γ2 est un r´seau de H2 . Proposition 7. e √ σ u . e v) Γ1 Γ2 est d’indice fini dans Γ.7. On dit qu’un groupe G est sans facteur compact si il n’admet pas de d´composition en presque produit H1 H2 avec H1 compact infini. R). soit k = R. g ) | g ∈ SL(2. e e Exemples .Tout r´seau du groupe G = Gk des k-points d’un k-groupe G e connexe k-quasisimple est irr´ductible. Le groupe G est sans facteur compact ssi le k-groupe G n’a pas de facteur Gj qui soit k-anisotrope. On suppose G sans facteur compact.Le groupe Γ = {(g. o` Gp est le groupe des Qp -points u d’un Qp -groupe semisimple connexe. R) × SL(2. D´finition 7. ii) Γ1 est un r´seau de H1 .2 R´seaux irr´ductibles e e Nous montrons dans cette section que l’´tude des r´seaux des e e groupes de Lie semisimples se ram`ne a celle des r´seaux irr´ductibles. e e 1 e e . o` σ est l’automorphisme non √ trivial du corps Q[ 2]. Z[ p ])} est un r´seau irr´ductible de SL(2. C ou une extension finie de Qp . Z[ 2])}. Le groupe G des k-points d’un k-groupe G semisimple est presque produit des groupes Gj des k-points de ses facteurs k-quasisimples Gj . R) × SL(2. e ` e e On dit qu’un groupe localement compact G est presque produit de sous-groupes distingu´s ferm´s Hi si la multiplication i Hi → G a un noyau fini et une image e e d’indice finie dans G. Alors les assertions suivantes sont ´quivalentes : e i) π1 (Γ) est discret.Le groupe Γ = {(g. Le r´seau Γ est dit irr´ductible sinon. est un r´seau irr´ductible de SL(2.5 e 61 .5 est valable pour un groupe G sans facteur compact qui est produit d’un nombre fini de groupes Gp avec p premier ou ∞.4 Un r´seau Γ d’un groupe localement compact G est dit r´ductible e e e si G admet une d´composition en presque produit H1 H2 o` H1 et H2 sont des e u sous-groupes distingu´s ferm´s infinis tels que (Γ ∩ H1 )(Γ ∩ H2 ) est d’indice fini e e dans Γ. Qp ). e iii) π2 (Γ) est discret. Remarque Plus g´n´ralement.

le normalisateur N de Γ1 dans H1 est discret.2. En effet un sous-groupe e e e distingu´ ferm´ de Hi est ouvert dans son adh´rence de Zariski. Comme G est sans facteur e ee compact. Γ ∩ Hi est un r´seau irr´ductible du e e e groupe Hi des k-points de Hi . l’action de G est m´langeante sur e X = G/Γ. donc l’alg`bre ee ee de Lie n de N est centralis´ par les ´l´ments de Γ1 . iii) → iv) et iv) → i) se montrent comme ci-dessus.7 Soient k = R et G = Gk le groupe des k-points d’un k-groupe semisimple. Alors. les petits ´l´ments de N commutent avec les ´l´ments de Γ1 . Notons Ge le plus petit sous-groupe e e ouvert de G et supposons que ΓGe = G. le groupe Ge est la composanre connexe de G.6 Soit k = R et G = Gk le groupe des k-points d’un k-groupe G semisimple connexe. e il existe une d´composition G = H1 · · · Hm en presque produit de k-sous-groupes e distingu´s connexes Hi tels que. e Le th´or`me d’ergodicit´ de Howe Moore s’´tend facilement aux r´seaux irr´e e e e e e ductibles. Pour tout r´seau Γ de G. comme les images de Γ dans G/Hi et G/Hj sont discr`tes. Γ ⊂ G un r´seau irr´ductible.i) → ii) Cela r´sulte de la fibration H1 /Γ1 → G/Γ → H2 /π1 (Γ). Mais bien sˆr. pour tout i = j. ii) + iv) → v) Le groupe Γ1 Γ2 est un r´seau de G inclus dans le r´seau Γ. il suffit de remare e e e quer que pour tout sous-groupe distingu´ ferm´ non compact G de G les seules e e 2 fonctions G -invariantes de L (X. l’action de g sur X est ergodique e Remarque Comme k = R.5. le produit des Hi est ´gal ` G. dx) sont les fonctions constantes. Γ∩Hi est un r´seau irr´ductible de Hi . e l’image de Γ dans G/(Hi ∩ Hj ) est aussi discr`te. le corollaire est encore valable pour une extension finie k de Qp . u D´monstration du corollaire 7. 62 . pour tout ´l´ment g ∈ G qui engendre un sous-groupe ee non-born´ de G. Cette d´composition est unique e D´monstration On prend pour Hi les k-sous-groupes distingu´s connexes mie e nimaux de G pour lesquels Γ ∩ Hi est un r´seau du groupe Hi . e ii) → iii) Le groupe Γ1 := π2 (Γ1 ) est donc un r´seau de H1 := G/H2 normalis´ e e par le groupe ∆1 := π2 (Γ). e v) → ii) + iv) Si l’un des Γi n’est pas un r´seau dans Hi le groupe discret Γ1 Γ2 e ne peut pas ˆtre un r´seau dans le presque produit H1 H2 . On suppose G sans facteur compact. En e effet. il suffit pour ` cela de remarquer que. Or. Donc n = 0. Grace a la proposition 7. Il est e e donc d’indice fini ´gal au rapport des covolumes. e e e D’apr`s la proposition 7. e e Lemme 7.5. pour tout i. Corollaire 7. Il reste a v´rifier e e a ` e que. En particulier. e Par minimalit´. Hi ∩ Hj est fini.7 D’apr`s le th´or`me 6. e e e N est discret et ∆1 aussi. le th´or`me de densit´ de Borel prouve que H1 centralise n.

Cette famille de compacts non vide C H est stable par intersection finie. Donc le point c est g invariant.Soit ϕ une telle fonction.8 Un groupe topologique G est moyennable si. Voici quelques exemples. d) Un groupe de Lie semisimple connexe non compact n’est pas moyennable. la e 1 suite gvn − vn = n (g n v − v) converge vers 0.5 prouve que l’on a dim H > dim G . le barycentre c := G g. On e veut montrer que C G est non vide. Elle admet une valeur d’adh´rence c ∈ C. donc l’intersection C G de tous ces compacts est non vide. e 7. e 63 . on peut voir ϕ comme une e fonction mesurable sur G invariante par translation a droite par le groupe G Γ. On part d’un point v ∈ C et on consid`re la suite vn = n (v+· · ·+g n−1 v) e n dans C. On peut supposer que G est le plus grand sous-groupe distingu´ laissant ϕ invariante. On emploie l’argument classique de ee 1 Kakutani. b) Notons G ce groupe ab´lien. u H Comme H est moyennable l’ensemble C := {v ∈ C | Hv = v} est un compact convexe non vide du Fr´chet E H := {v ∈ E | Hv = v} sur lequel le groupe e moyennable K = G/H agit continument. Ceci contredit la maximalit´ de G . Par Zariski densit´. Montrons tout d’abord que si H est engendr´ e par un ´l´ment g.9 a) Un groupe compact est moyennable. Donc G est e e ouvert dans G. D´monstration a) Notons G ce groupe compact et dg sa probabilit´ de Haar. la e e proposition 7. e D´finition 7. c’est le point cherch´. Comme Γ est irr´ductible. on en d´duit que. alors C H est non vide. Comme g v reste dans C. L’hypoth`se G = ΓGe assure alors que G = G. Pour tout sous-groupe H de G. pour tout espace de e Fr´chet E. on a C H = ∅. Lemme 7. e c) Une extension de groupes moyennables est moyennable. Supposons par e e l’absurde que dim G < dim G. tout compact convexe non vide C ⊂ E et toute action lin´aire continue e e de G sur E laissant stable C. Le groupe K a donc un point fixe dans C H . l’alg`bre e e de Lie h de H est un id´al de g. pour tout point v ∈ C. On peut aussi supposer ϕ born´e. Par r´currence sur le nombre de g´n´rateurs. Le groupe G a bien un point fixe dans C. on note E H le e H Fr´chet E := {v ∈ E | Hv = v} et C H le compact convexe C H := C ∩ E H . b) Un groupe ab´lien est moyennable.v dg convient. il existe un point fixe c de G dans C. Comme G est distingu´.3 Groupes moyennables Un espace vectoriel topologique localement convexe est dit espace de Fr´chet e s’il est m´trisable et complet. c) Notons 1 → H → G → K → 1 cette extension o` H et K sont moyennable. ` Comme la translation de G sur L∞ (G) pour la topologie faible est continue. e e Alors. pour tout souse e e e groupe H de type fini de G. ϕ est aussi invariante par le groupe H adh´rence de G Γ.

Alors le groupe Pk est moyennable et le quotient Gk /Pk est compact. e b) Soit G un groupe de Lie r´el semisimple connexe et P un sous-groupe paraboe lique minimal de G. e Soit C = P(X) ⊂ E le convexe des probabilit´s sur X. e e Comme la boule unit´ est faiblement compact. en notant x0 le point base de G/P .Rappelons qu’on a not´ C(X) := {fonctions continues sur X}. Pour toute action e continue de Γ sur un espace m´trique compact X.Nous avons muni implicitement G/P d’une mesure G-quasiinvariante. Malheureusement cette probabilit´ n’est pas invariante par un ´l´ment a de e ee l’int´rieur de la chambre de Weyl car.9. C aussi. e e . e e b) Cela r´sulte du th´or`me 3. e . X = G/P . on a limn→∞ an x = x0 . on va e construire une application aux bords. E = M(X) l’espace des mesures finies sur X. 7. Comme X est compact. Γ ⊂ G un r´seau et P ⊂ G un sous-groupe parabolique minimal. Proposition 7. soit k = R. On munit C(X) de la norme ϕ ∞ = supx∈X |ϕ(x)|. il existe une application mesue rable Γ-´quivariante Φ : G/P → P(X). M(X) := e {mesures born´es sur X} et P(X) := {probabilit´s sur X}.Plus g´n´ralement. Il y a donc une seule probabilit´ K-invariante ν sur e X. pour e tout x dans l’ouvert U − x0 .d) Notons G ce groupe de Lie semisimple. le compact maximal K de G agit transitivement sur X.b et du lemme 7. 64 .11 (Furstenberg) Soient G un groupe de Lie semisimple.10 a) Un groupe de Lie connexe est moyennable ssi le quotient par son radical r´soluble est compact. . D´monstration a) Cela r´sulte directement du lemme 7. e e e Remarques .4 L’application aux bords Partant de l’action d’un r´seau Γ sur un espace compact X. C’est un Fr´chet. Soit G un e e k-groupe semisimple et P un k-sous-groupe parabolique minimal.On a donc trouv´ dans G un sous-groupe moyennable P tel que e le quotient G/P est compact. par exemple une mesure K-invariante ν0 . E est le dual de l’espace C(X) des fonctions continues sur X. P un sous-groupe parabolique minimal de G. On munit E de la topologie faible : elle est d´finie par la famille de semi-normes pϕ : µ → pϕ (µ) = X ϕ dµ e avec ϕ ∈ C(X). En effet. e Mais G n’a pas de points fixes dans C. Ce convexe C est un e ferm´ dans la boule unit´ de E pour la norme forte µ = sup ϕ ∞ =1 |Pϕ (µ)|.9. C ou une extension finie de Qp . Corollaire 7. Alors P est moyennable.14.

Ce point Φ est l’application mesurable cherch´e.b. f >:= Γ\G < m(g). La dualit´ e < m. on a e Φ(γξ) = γΦ(ξ). Nous aurons besoin d’outils issus de la th´orie e e e e ergodique pour l’exploiter 65 . il a donc un point fixe Φ dans A. parce que si Y est un domaine fondamental de Γ dans G. En effet. elle est donc faiblement e e compacte.. C(X) ) F .Mesurable signifie que pour toute partie borelienne E de l’espace m´trique e compact P(X). Par le corollaire 7. P(X)) ⊂ E est convexe. e e . e D´monstration Soit F := L1 (G. l’image inverse Φ−1 (E ) est mesurable dans G/P i. C(X)) l’espace des applications mesurables e Γ Γ-´quivariantes f : G → C(X) telles que f e := Γ\G f (g) ∞ dg < ∞. ferm´e et born´e. le groupe P est moyennable.e. puisque G/P peut ˆtre vue e e comme un bord de l’espace sym´trique G/K. La translation ` droite sur G induit des actions continues de G sur F . un ´l´ment e ee P -invariant de E est presque sˆrement ´gal a une fonction mesurable qui est u e ` constante sur les orbites de P . Soit E := L∞ (G.Cette application au bord jouera pour le th´or`me de superrigidit´ le rˆle de e e e o l’application au bord construite par Mostow par des m´thodes g´om´triques pour e e e montrer son th´or`me de rigidit´. . M(X)) l’espace des applications mesurables born´es Γ-´quivariantes e e Γ m : G → M(X). La partie ∞ A = LΓ (G. on a F L1 (Y. . C(X)) et E L∞ (Y. a E et A.L’application Φ est appel´e application aux bords.10. f (g) > dg identifie E avec le dual continu F . ´gale ` une e a partie bor´lienne G/P modulo une partie n´gigable.Γ-´quivariante signifie que pour tout γ ∈ Γ et presque tout ξ ∈ G/P .

µ. Cela signifie que ϕ ◦ f = ϕ ee µ-presque sˆrement.1 On dit que f est ergodique (pour µ) si toute partie mesurable f e invariante est n´gligeable ou de compl´mentaire n´gligeable. ∞)) sont f -invariantes et donc de mesure 0 ou 1. f ) un syst`me dynamique probabilis´. Les parties At = ϕ−1 ([t. La fonction ϕ0 est donc 0 presque sˆrement constant. ee ⇒ Soit ϕ ∈ L2 (X. Remarque Lorsque la transformation f est sous-entendue. µ). c’est la mesure µ que l’on qualifie d’ergodique.e. u 8.1 Probabilit´s ergodiques e Soit (X. Cette interpr´tation relie donc les e e e propri´t´s dynamiques de f aux propri´t´s spectrales de l’op´rateur unitaire ee ee e 2 Uf : ϕ → ϕ ◦ f de L (X. e e e f −1 (A) = A =⇒ µ(A) = 0 ou 1. On a donc ϕ = 0 ou ϕ = 1. µ). e Plus g´n´ralement.8 Th´orie ergodique e Ce court chapitre est constitu´ de rappels de th´orie ergodique. en e e vue de leur utilisation dans la d´monstration du th´or`me de supere e e rigidit´ et du th´or`me de Ratner. µ est une mesure de probabilit´ sur B et f : X → X e e une application B-mesurable qui pr´serve µ. µ) un ´l´ment f -invariant. pour tout A ∈ B.2 Dynamique des transformations ergodiques Voici une proposition qui permet de comprendre la force de la notion d’ergodicit´. Proposition 8. i. Une telle fonction ϕ est µ-presque sˆrement ´gale a une u u e ` fonction ϕ0 telle que ϕ0 (x) = ϕ0 (f (x)) pour tout x ∈ X. La proposition suivante donne une interpr´tation L2 de l’ergodicit´ d’une transe e formation f qui pr´serve une probabilit´ µ.2 La transformation f est ergodique ssi les fonctions constantes sont les seuls ´l´ments f -invariants de L2 (X. e e e 8. soit f une transformation B-mesurable qui pr´serve la classe e e e de µ. 66 . ee D´monstration ⇐ La fonction caract´ristique ϕ = 1A d’une partie f -invariante e e 2 est un ´l´ment f -invariant de L (X. autrement dit B est une e e σ-alg`bre de parties de X. Cette proposition ´taye l’intuition “je passe partout” e e sous-jacente au mot ergodique dans un contexte topologique. B. D´finition 8. µ).

b. En outre. comme e Ω est localement ferm´e. µ e e une probabilit´ bor´lienne sur X et G un groupe localement compact s´parable qui e e e agit continument sur X en pr´servant la classe de µ.5 On garde les notations et hypoth`ses de la proposition 8. on a µ(AB ) = 1. On suppose l’action de G e ergodique.3. soit G un groupe localement compact s´parable qui agit de e e e fa¸on mesurables sur un espace probabilis´ (X. Remarque Toute transformation continue f d’un espace compact X pr´serve e au moins une probabilit´ bor´lienne. µ e e une probabilit´ bor´lienne sur X et f : X → X un hom´omorphisme qui pr´serve e e e e n la classe µ. ce qui contredirait le fait e que x est dans supp(µ). l’ensemble AB := ∪p∈Z f (B) des points dont l’orbite passe dans B v´rifie f −1 (AB ) = AB . D´monstration On peut supposer que X = supp(µ) Soient D une partie d´e e nombrable dense de X et D l’ensemble des boules ouvertes centr´es en D de rayon e −p rationnel positif. e On a l’extension suivante de la proposition 8. les mesures G-ergodiques sur e XR sont alors port´es par des HR -orbites. e e e Plus g´n´ralement. cette e e e probabilit´ f -invariante peut-ˆtre choisie ergodique. µ) en pr´servant la classe de c e e µ.3 Soit X un espace m´trique localement compact s´parable. Pour tout B ∈ D. on aurait supp(µ) ⊂ Ω Ω. Cela r´sulte du th´or`me de e e e e e Krein-Milman car une probabilit´ G-invariante est ergodique ssi c’est un point e extr´mal du convexe ferm´ P(X)G des probabilit´s G invariantes sur X. Les orbites des points de A e sont denses dans X.Proposition 8. Soit e R une relation d’´quivalence sur X dont les classes d’´quivalence sont localement e e ferm´es et G-invariantes.4. Si µ(Ω) = 0. Proposition 8.3. e Remarque Ce corollaire est utile lorsque G est un sous-groupe d’un groupe HR o` H est un R-groupe agissant de fa¸on alg´brique sur une R-vari´t´ X : comme u c e ee les HR -orbites dans XR sont localement ferm´es. B. on a donc µ(Ω) = 1.4 Soit X un espace m´trique localement compact s´parable. e 67 . Cela r´sulte du lemme 7. e e Corollaire 8.9. Si f est ergodique alors µ-presque toute orbite Ox := {f (x) | n ∈ Z} est dense dans supp(µ). Cette action est dite ergodique si les seules parties mesurables G-invariantes v´rifient µ(A) = 0 ou 1. Alors il existe une classe d’´quivalence Ω telle que e e µ(Ω) = 1. D´monstration Soit Ω une classe d’´quivalence rencontrant une des orbites Gx e e dont l’adh´rence est Gx = supp(µ). e e L’intersection A = ∩B∈D AB v´rifie aussi µ(A) = 1. Par ergodicit´. D´monstration C’est la mˆme que celle de la proposition 8. On a donc supp(µ) ⊂ Ω. Par ergodicit´ de f . Alors µ-presque toute orbite Gx est dense dans supp(µ).

Sur En . On a donc ϕ≥ En En ψn − En ψn−1 ◦ f ≥ X ψn − X ψn−1 ◦ f ≥ X ψn − ψn−1 ≥ 0. si µ est ergodique. e a Th´or`me 8. 1 a) La limite ϕ(x) := lim n ϕn (x) existe µ-presque partout.e. ϕ.3 Th´or`me ergodique e e Le th´or`me ergodique de Birkhoff exprime de fa¸on pr´cise une e e c e id´e intuitive pour une transformation ergodique : pour toute partie e mesurable A.7 (in´galit´ maximale) Soient ϕn ∈ L1 (X. µ) une suite souse e R additive i. On note ϕ = ϕ1 et ϕ∗ = sup ϕn . µ. Alors. e) Pour toute partie f -invariante A de X. on a ψn ≤ ϕ + ψn−1 ◦ f tandis que sur le compl´mentaire En . D´monstration du th´or`me 8. f ) En particulier. i.La somme ϕn (x) s’appelle somme orbitale ou somme de Birkhoff de ϕ. D´monstration Soient ψn = max{0. µ). . . On a donc {ϕ∗ >0} ϕ dµ ≥ 0. Remarques . B. n→∞ b) On a ϕ ◦ f = ϕ µ-presque partout. Le th´or`me de Birkhoff e e e affirme donc. ϕn } et En = {x ∈ X | ψn (x) > e c 0}. on a ϕ(x) = X ϕ dµ µ-presque partout. . L’int´grale X ϕ dµ s’appelle la moyenne spatiale de ϕ.e. que les moyennes orbitales convergent presque partout vers la moyenne spatiale. ϕ2 . e e e e il suffit de voir que.6 (Birkhoff ) Soit (X. e e e e 1 i Pour tout ϕ ∈ L (X. c) On a ϕ L1 ≤ ϕ L1 . pour tout m. on note ϕn (x) = 0≤i<n ϕ(f (x)). on a e ψn = 0 et ψn−1 ◦ f ≥ 0. lim n→∞ 1 ϕ n n −ϕ L1 = 0. . on a n≥1 {ϕ∗ >0} ϕ dµ ≥ 0. .6 a) Pour d´montrer l’existence de la limite.8. on a A ϕ dµ = A ϕ dµ. d) La convergence a lieu dans L1 .β := {x ∈ X | lim inf n ϕn (x) < α < β < lim sup n ϕn (x)} n→∞ n→∞ 68 . Or {ϕ∗ > 0} = ∪En . f ) un syst`me dynamique probabilis´.L’assertion e) signifie que ϕ est l’esp´rance conditionnelle de ϕ relativement e f a la σ-alg`bre B des parties f -invariantes : ϕ = E(ϕ|B f ). l’ensemble 1 1 Eα. la proportion de temps pass´ dans A par presque toutes e les orbites est ´gale ` la mesure de A. n ≥ 1. telle que. dans le cas ergodique. ` e Lemme 8. on a ϕm+n ≤ ϕm ◦ f n + ϕn . pour tous rationnels α < β.

β ) = Eα. Cela r´sulte alors du lemme de Fatou : e ϕ= X lim 1 ϕn (x) n→∞ n X ≤ lim 1 n→∞ n ϕn (x) = X X ϕ. e e Soit (X. on peut trouver ψ e e e e 1 1 born´e telle que ϕ−ψ L1 ≤ ε/3. On a donc. on a alors n ψn − ψ ≤ ε/3 et donc 1 ϕ − ϕ ≤ ε.β Eα.β (α − β) ≥ 0 et donc µ(Eα. e 1 b) C’est clair car n (ϕn+1 (x) − ϕn (f (x))) converge vers 0. n n 1 e) Cela r´sulte de d) car A ϕ = A n ϕn .est de mesure nulle.n := {x ∈ X | |fi (x) − fj (x)| ≤ m .4 Martingales Le th´or`me des martingales est avec le th´or`me de Birkhoff l’un e e e e des piliers de la th´orie des probabilit´s.nm ) ≥ 1−ε/2p et posons Z = ∪m≥1 Zm.β ) = 0. pour tout n ≥ 1. pour tout ε > 0. Pour n grand. µ) un espace probabilis´ et Bn une suite croissante de sous-σe alg`bres. La proposition suivante due ` Egorov permet de remplacer dans le th´or`me a e e de Birkhoff la convergence presque sure par une convergence uniforme en dehors d’un ensemble de mesure arbitrairement petite.β (α − ϕ) ≥ 0. C’est ce que l’on voulait.nm . par c). d) Lorsque ϕ est born´e.8 Soit (X. On en d´duit Eα. 1 D´monstration Posons Zm. On obtient (ϕ − β) ≥ 0 et Eα. j ≥ n}. il existe une partie mesurable Z ⊂ X tel que µ(Z c ) ≤ ε et la convergence fn (x) → f (x) est uniforme pour x ∈ Z. c) On peut supposer que ϕ est positive. ϕ − ψ L1 ≤ ε/3. pour i. 8. Le e e e e e cas g´n´ral s’en d´duit par densit´. e 69 . la fonction ϕ est constante presque partout. u Alors pour tout ε > 0.β aux fonctions ϕ − β et α − ϕ. Proposition 8. e f) Par b). B. B. Par construction. n ϕn − n ψn ≤ ε/3 e 1 et. On peut donc appliquer l’in´galit´ maximale sur e e la partie Eα. e Choisissons une suite nm telle que µ(Zm. cela r´sulte du th´or`me de convergence domin´e. En effet. la convergence fn (x) → f (x) est uniforme pour x ∈ Z et on a µ(Z) ≥ 1 − ε. Remarquons que lim 1 (ϕn+1 (x) n→∞ n − ϕn (f (x))) = lim 1 ϕ(x) n→∞ n =0 et donc que f −1 (Eα. µ) un espace probabilis´ et fn une suite de fonctions e mesurables sur X qui converge µ-presque sˆrement vers une fonction f .β .

La limite presque sˆre ne donne donc aucun renseignement sur la partie u singuli`re νs . e Remarque En g´n´ral la limite presque sˆre f∞ d’une martingale ne permet e e u pas de reconstituer la martingale. . Le fait que ces deux donn´es soient u e ´quivalentes est dˆ au th´or`me de Carath´odory. e . On a alors l’´galit´ e e ` e e f∞ = f . Exemple Reprenons l’exemple ci-dessus et ´crivons grˆce au th´or`me de d´e a e e e composition des mesures ν = f µ + νs avec νs ´trang`re a µ. 0). + les suites fn et |fn | sont encore des sousmartingales. La suite fn est une sousmartingale si fn ≤ E(fn+1 |Bn ). La martingale est donc un objet sur X dont les fonctions fn ne sont que ses “moyennes sur les fibres de pn ” . on note t+ = max(t.9 Soit fn une suite de fonctions int´grables et Bn -mesurables.D´finition 8. Pour t ∈ R.) = e 2 −1 (x1 . e e La suite fn est une martingale si fn = E(fn+1 |Bn ). e o` Fn (x) est la fibre de pn contenant x. . l’espace X est muni d’une famille de surjections mesurables pn : (X. 1}n l’application donn´e par pn (x1 . Cn ) telles que −1 Bn = pn (Cn ). Ces surjections sont de plus en plus fines de sorte que la suite Bn est croissante. . Une condition 70 .Seules les martingales nous seront utiles par la suite. Un peu comme la donn´e d’un r´el par son d´veloppee e e ment d´cimal. . B. . e u e e e Comme dans l’exemple ci-dessus. . Nous n’utiliserons les sousmartingales et surmartingales.Une martingale peut ˆtre vue comme un objet dont les fn ne sont e que des approximations. . B) → (Yn . pn : X → {0. C’est le cas si et seulement si la convergence de fn vers f∞ est une convergence L1 . 1}n . Elles sont utiles car si une suite fn est une sousmartingale.. 1}N muni de la probabilit´ de Bernoulli µ = α⊗N e avec α = 1 (δ0 + δ1 ). Alors la limite f∞ (x) = lim fn (x) existe µ-presque sˆrement. On a alors fn = E(f∞ |Bn ). xn ) et Bn la σ-alg`bre form´e des parties pn (E) pour E ⊂ {0. Exemple Soient X = {0. µ) telle que e e sup fn L1 < ∞. Le lien entre les deux est donn´ par fn (x) = 2−n ν(Fn (x)). x2 .10 (Doob) Soit fn une sous-martingale sur (X. Dans e e ce cas la donn´e d’une martingale fn ´quivaut a la donn´e d’une mesure born´e e e ` e e ν sur X. dans la plupart des applications. u n≥0 n→∞ ∗ Nous dirons que fn est L1 -born´e si sup fn e n≥0 L1 < ∞. Voici le th´or`me de convergence ps des martingales e e Th´or`me 8. Remarques . La suite fn est une surmartingale si fn ≥ E(fn+1 |Bn ). pour x ∈ X. que pour d´montrer le th´or`me de convere e e gence des martingales.

pour k ≥ n e + + E(fk |Bn ) ≤ E(fk+1 |Bn ). en e e notant τ ∧ n := inf(τ. e e e e 8.12 et 8. 1 Donc mn est L -born´e et sn = mn − fn est une surmartingale L1 -born´e.11 Toute sousmartingale L1 -born´e fn s’´crit fn = mn − sn o` mn e e u 1 1 est une martingale positive L -born´e et sn une surmartingale positive L -born´e. l’ensemble σ −1 (n) est Bn -mesurable. en sommant sur m. On en d´duit. τ >n} {σ=m . Alors X sσ dµ ≥ X sτ dµ.suffisante qui l’assure est sup fn n≥0 L log L < ∞ o` cette norme est la norme L1 de u la fonction |fn | log+ |fn |.13 suivants.12 Soit sn une surmartingale positive et σ. On note alors sτ : ω → sτ (ω) (ω) avec la convention s∞ = 0. Lemme 8. 71 . Le premier lemme est la d´composition de Kricheberg. on a e sn ≥ {σ=m . et en utilisant Fatou sm ≥ · · · ≥ {σ=m} {σ=m} X sτ ∧n ≥ · · · ≥ {σ=m} X sτ d’o`. u sσ ≥ sτ . en se souvenant que ` e e τ ≥ σ. e e k→∞ Le deuxi`me lemme affirme qu’une surmartingale est un jeu d´favorable quelle e e que soit la strat´gie : plus on arrˆte tard la surmartingale plus l’esp´rance de gain e e e est faible. sτ ∧n ≥ {σ=m} {σ=m} sτ ∧(n+1) et donc en mettant bout a bout ces in´galit´s pour n ≥ m. C’est une martingale positive telle que E(mn ) ≤ + e ` supn≥0 E(fn ) < ∞ car l’esp´rance conditionnelle commute a la limite croissante. e e + D´monstration La suite fn est une sousmartingale positive et on a. e Lemme 8.11. τ >n} sn+1 car τ et σ sont des temps d’arrˆt et sn est une surmartingale. D´monstration Pour m ≤ n. pour tout n ≥ 0. n). On appelle temps d’arrˆt une application B-mesurable σ : X → N ∪ {∞} telle e que. + Notons mn = lim E(fk |Bn ). τ deux temps d’arrˆt avec e σ ≤ τ . D´monstration du th´or`me de Doob Elle r´sulte des trois lemmes 8.

pour tous rationnels α < β. Donc µ(Eα. on introduit par r´currence e des temps d’arrˆt τi par τ0 = 0 et.β ) ≤ p2i+1 ≤ ( α )i p1 pour tout i ≥ 1 et µ(Eα.13 Toute surmartingale positive sn converge µ-presque sˆrement.β := {x ∈ X | lim inf sn (ω) < α < β < lim sup sn (ω)} n→∞ n→∞ est de mesure nulle pour µ-presque tout ω.12 β p2i+1 ≤ X sτ2i+1 ≤ X sτ2i ≤ αp2i ≤ αp2i−1 . et en utilisant le lemme 8. en notant pi := µ({τi < ∞}). pour i ≥ 1. On a alors. Pour cela. e τ2i+1 = inf{n > τ2i | sn > β} τ2i = inf{n > τ2i−1 | sn < α}.β ) = 0.Lemme 8. l’ensemble Eα. il suffit de voir e e que. β 72 . u D´monstration Pour d´montrer l’existence de la limite de sn .

On note µ∗n la probabilit´ µ ∗ . C’est l’unique probabilit´ dont l’image dans chaque G est e ⊗n la probabilit´ produit µ . µ une probabilit´ bor´lienne e e e sur G et X un espace localement compact m´trisable muni d’une action continue e de G. Par le th´or`me de Carath´odory. L’argue e ment de Kakutani prouve l’existence d’un point fixe par l’op´rateur de convolution e par µ : on part de n’importe quelle probabilit´ ν0 ∈ P(X) et on prend pour ν e 1 une valeur d’adh´rence de la suite νn := n (ν0 + µ ∗ ν0 + · · · + µ∗n ∗ ν0 ) ∈ P(X). B). il existe toujours des mesures stationnaires. ω → gi (ω) les fonctions coordonn´es. e Comme νn − µ ∗ νn tend vers 0. e On note Ω l’espace produit Ω = GN . la probabilit´ ν est µ-stationnaire. . on note µ ∗ ν la convol´e e e e µ ∗ ν := G g∗ ν dµ(g). B sa tribu bor´lienne et µ la probabilit´ e e n produit sur (X. Remarque Le terme harmonique vient de ce que ν coincide avec la moyenne de ses translat´es. ∗ µ convol´e de n probabilit´s toutes ´gales ` µ. e Lemme 9. e e e e a D´finition 9. e e Pour toute probabilit´ (bor´lienne) ν sur X. e 9.1 Une probabilit´ bor´lienne ν sur X est dite µ-harmonique ou e e e µ-stationnaire si on a µ ∗ ν = ν.3 a) La limite νω := lim g0 (ω)∗ · · · gn (ω)∗ ν ∈ P(X) n→∞ 73 .1 Existence d’une mesure limite Soit G un groupe localement compact s´parable. On note P(X) l’espace des probabilit´s bor´liennes sur X. e e Lemme 9. . cette probabilit´ µ e e e e e existe et est unique. On note gi : Ω → G. D´monstration Comme X est compact.2 Lorsque X est compact.9 Mesures stationnaires Les mesures stationnaires sont des mesures qui d´crivent le come portement asymptotique des marches al´atoires. l’espace P(X) est un convexe compact e dans le Fr´chet M(X) des mesures born´es muni de la topologie faible. Le terme stationnaire exprime le fait que ν est une loi asymptoe tique possible pour une “marche al´atoire sur X dont les lois de transitions sont e ind´pendantes et donn´es par µ”. e Nous montrons dans ce chapitre comment les utiliser pour montrer des th´or`mes d’existence et d’unicit´ pour des “applications mesue e e rables ´quivariantes entre les bords”.

Comme cette martingale est born´e par ϕ ∞ . la limite νω = lim g0 (ω)∗ · · · gn (ω)∗ ν existe pour µ-presque tout ω.existe pour µ-presque tout ω. introduisons les fonctions fn ∈ ∞ L (Ω) pour g ∈ G donn´es par e g fn : ω → Φ(g0 (ω) · · · gn (ω)g) n→∞ et calculons les int´grales e In = Ω G g |fn (ω) − fn (ω)|2 dµ∗k (g) dµ(ω) = G G |Φ(h) − Φ(hg)|2 dµ∗k (g) dµ∗(n+1) (h) |fn (ω) − fn+k (ω)|2 dµ(ω) Ω = = fn+k 2 L2 − fn 2 L2 . 74 . La suite de fonction fn ∈ L∞ (Ω) fn : ω → Φ(g0 (ω) · · · gn (ω)) est une martingale pour Bn . on note Φ ∈ C(G) la fonction g → Φ(g) = (g∗ ν)(ϕ) = X ϕ(gx)dν(x). En utilisant une famille d´nombrable dense de fonctions ϕ ∈ C(X). g b) En plus des fonctions Φ et fn ci-dessus. pour µ∗k -presque tout g et µ-presque tout ω. . . e e E(fn+1 |Bn )(ω) = G Φ(g0 (ω) · · · gn (ω)g)dµ(g) = Φ(g0 (ω) · · · gn (ω)) = fn (ω). le th´or`me 8. D´monstration Nous ne donnerons la preuve que pour X compact. e a) Notons Bn = g0 . e e n→∞ lim g0 (ω)∗ · · · gn (ω)∗ g∗ ν = νω . En effet. gn la σ-alg`bre engendr´e par les fonctions g0 . . .10 de Doob prouve e e e e qu’elle converge µ-ps. c) On a l’´galit´ ν = e e Ω νω dµ(ω). gn . on a l’´galit´. pour tout n ≥ 1. . e e Pour ϕ ∈ C(X). . pour tout g ∈ G. on a l’´galit´. . . b) Pour tout k ≥ 1. Le fait que ν soit µ-stationaire se traduit par l’´galit´. e e Φ(g) = G Φ(gh)dµ(h).

Dans ce calcul.4 On dit qu’un sous-groupe Γ ⊂ G est fortement irr´ductible (sur e e V ) si Γ ne laisse invariant aucune union finie de sous-espaces propres de V . la suite fn (ω)−fn (ω) converge vers 0. pour µ∗k -presque tout g et µ-presque tout ω. 9. Ce groupe G agit sur V = k d ainsi que e sur l’espace projectif X = P(V ). c e On note p = pΓ le plus petit entier non nul pour lequel il existe une matrice π ∈ M(d. k). e 75 . On note Γµ le plus petit sousgroupe ferm´ de G qui contient le support de µ. on a utilis´ le fait que fn est une martingale a travers l’´galit´ e ` e e f n fn+k dµ = Ω Ω ∞ |fn |2 dµ. On d´duit de ce calcul que e In ≤ k ϕ 0 2 ∞. u Soit k = R. C ou une extension finie de Qp . on montre qu’une marche al´atoire lin´aire e e contracte presque sˆrement autant que son support peut le permettre. Il est ´quivalent de dire que la composante connexe de l’adh´rence de Zariski e e de Γ agit de fa¸on irr´ductible sur V . 0 g En particulier. Dans cette partie µ est une probabilit´ sur le groupe G = GL(d. e D´finition 9. D´finition 9.2 Contraction et proximalit´ e Dans cette section. on a e e e Ω n→∞ lim g0 (ω)∗ · · · gn (ω)∗ ν dµ(ω) = = n→∞ n→∞ lim g0 (ω)∗ · · · gn (ω)∗ ν dµ(ω) Ω ∗n lim µ ∗ν = ν D’o` u Ω νω dµ(ω) = ν. On en d´duit que la fonction suivante est int´grable e e ∞ g |fn (ω) − fn (ω)|2 ∈ L1 (Ω × G.5 On dit que Γ est proximal si pΓ = 1. µ ⊗ µ∗k ). e La proposition suivante donne les premi`res propri´t´s des marches al´atoires e ee e lin´aires. k) de rang p telle que π = limn→∞ λn γn avec λn ∈ k et γn ∈ Γ. c) Par le th´or`me de convergence domin´e et le point a).

toute valeur d’adh´rence non nulle M d’une suite λn g0 (ω) · · · gn (ω). La probabilit´ M∗ ν a donc un sens et on a.3. On a. on a ν(P(KerM )) = 0. pour tout α > 0. e e e On sait par le lemme 9. Notons α0 = max{ν(P(W )) | dim W = r}. F = {W | dim W = r et ν(P(W )) = α0 }. Soit ν une probabilit´ µ-stationnaire sur P(V ).Proposition 9. l’´galit´ e e M∗ ν = νω . Comme ν est µ-stationnaire. la valeur d’adh´rence e e e M est de rang ≥ p. pour µ-presque tout ω ∈ Ω. On note p = pΓµ . on a l’´galit´ e e ν(P(W )) = G ν(P(gW )) dµ(g). La d´monstration repose sur l’´tude des probabilit´s µ-stationnaires sur P(V ). b) Pour tout hyperplan W ⊂ V . Lemme 9. pour tous sous-espaces W1 = W2 de dimension r. on a ν(P(W )) = 0. ω → Jω de Ω = GN dans la Grassmannienne des p-plans de V telle que. Par le lemme 9. e e Pour tout hyperplan W ⊂ V .a.2 qu’il en existe toujours. k) telle que e e Γµ est fortement irr´ductible. e a) Il existe une application mesurable J : Ω → Grp (V ). Cet ensemble F est fini. D´monstration du lemme 9. avec λn ∈ k. k) telle que Γµ est e e fortement irr´ductible. par le mˆme lemme 9. l’image ImM est le plus petit sous-espace e e W tel que P(W ) contient le support de νω .7 Soit r la plus petite dimension d’un espace e W ⊂ V tel que ν(P(W )) = 0. il n’existe qu’un nombre fini de sous-espaces W de dimension r tels que ν(P(W )) ≥ α. e e e D´monstration de la proposition 9. 76 . on a µ({ω ∈ Ω | Jω ⊂ W }) = 0. Ceci contredit la forte irr´ductibilit´ de Γµ .6 Soit µ une probabilit´ bor´lienne sur G = GL(d.7.7 Soit µ une probabilit´ bor´lienne sur G = GL(d. De sorte que. ν(P(W1 ) ∪ P(W2 )) = ν(P(W1 )) + ν(P(W2 )). On a donc ImM = Jω . On en d´duit que F est Γµ -invariant.7.6 Par d´finition. En cons´quence. Soit ν une probabilit´ µ-stationnaire sur P(V ). par le lemme e 9. a e pour image Im(M ) = Jω . Notons Jω le plus petit souse espace vectoriel de V tel que P(Jω ) contient le support de νω .

D’apr`s le lemme 9. par irr´ductibilit´ de Γµ que Imπ ⊂ KerM .3 Proximalit´ e Dans cette section. Le mˆme raisonnement avec le lemme 9. k) telle que e e Γµ est proximal et fortement irr´ductible. pour µ∗k -presque tout g. D´monstration L’existence de ν et de σ r´sulte du lemme 9.8 Soit µ une probabilit´ bor´lienne sur G = GL(d. On a encore e e M∗ π∗ ν = νω . On peut supposer. On a bien dim Jω = p. Donc Im(M ◦ π) = Jω et dim Jω ≤ p. n→∞ n→∞ lim σ({λ | (g0 (ω)∗ · · · gn (ω)∗ λ)(ϕ) − ϕ(j ω ) ≥ ε}) ≤ lim σ({λ | (g0 (ω)∗ · · · gn (ω)∗ λ)(|ϕ − ϕ(jω )|) ≥ ε}) = 0 77 . b) Notons νσ le centre de gravit´ de σ. Son support e est inclus dans l’ensemble δP(V ) des masses de Dirac sur P(V ).Ceci prouve simultan´ment que l’image ImM ne d´pend pas du choix de la vae e leur d’adh´rence M . Par continuit´.3.b ` e prouve que. Il reste a montrer que dim Jω = p. Par le lemme 9. ω → j ω l’application donn´e par la proposition 9. que Jω ne d´pend pas du choix de la probabilit´ stationnaire e e e ν et que dim Jω ≥ p. e e a) On note j : Ω → P(k d ).3. Choisissons une e e e limite non nulle π de rang p d’une suite λn gn avec λn ∈ k et gn ∈ Γµ . e e e e Proposition 9.6 e de sorte que νω = δj ω . e a) Il existe une unique probabilit´ µ-stationnaire ν ∈ P(P(V )). pour µ-presque tout ω. e On en d´duit des r´sultats d’existence et d’unicit´ d’applications e e e mesurables ´quivariantes entre les bords qui joueront un rˆle central e o dans la d´monstration du th´or`me de superrigidit´. on a M∗ g∗ ν = νω . 9. cette ´galit´ est encore vraie. e νσ = P(P(V )) λ dσ(λ) ∈ P(P(V )). la probabilit´ stationnaire ν est unique. la probabilit´ ν est donc donn´e par e e e ν = Ω δj ω dµ(ω). pour tout ε > 0. on a lim g0 (ω)∗ · · · gn (ω)∗ νσ = δj ω n→∞ On en d´duit que. pour µ-presque e tout ω.2. e b) Il existe une unique probabilit´ µ-stationnaire σ ∈ P(P(P(V ))). on montre que dans une situation proximale. pour toute fonction e ϕ ∈ C(P(V )). Cette probabilit´ νσ est aussi µ-stationnaire.3. pour tout g ∈ Γµ .

e D´monstration a) La probabilit´ σ = ϕ∗ (ν0 ) ∈ P(P(P(V ))) est µ-stationnaire. Φ2 : X0 → P(V ) deux applications ν0 -mesurables Γ-´quivariantes.3. Comme σ est µ-stationnaire.9 Soient Γ un groupe localement compact m´trisable s´parable. e e b) Soient Φ1 . pour ν0 -presque tout ξ ∈ X0 . G un k-groupe semisimple et G = Gk . elle est port´e par des masses de Dirac. e a Proposition 9. u b) Il existe au plus une application ν0 -mesurable Γ-´quivariante Φ : X0 → P(V ). de construire des applications ν0 mesurable Γ-´quivariante ϕ : X0 → P(V ). Soient X0 un espace compact m´trie e sable sur lequel Γ agit continument et ν0 ∈ P(X0 ) une probabilit´ µ-stationnaire. on a donc e e e n→∞ lim σ ⊗ µ({(λ.et donc. e Le point a) permettra. e e Elle peut donc ˆtre vue comme une probabilit´ sur P(V ). ω) | d(g0 (ω)∗ · · · gn (ω)∗ λ. δP(V ) ) ≥ ε}) = 0. e e D’apr`s la proposition 9. On pourra alors appliquer dans la section 10. n→∞ Par le th´or`me de convergence domin´e. Donc.14) et ν0 la probabilit´ K-invariante sur la vari´t´ drapeau X0 = G/P . l’application ϕ : X0 → P(P(P(V ))).9 a cette probabilit´ K-invariante. a) Toute application mesurable Γ-´quivariante ϕ : X0 → P(P(V )) prend ν0 e presque sˆrement ses valeurs dans l’ensemble δP(V ) des masses de Dirac. on e e construit une probabilit´ µ de support Γ dont l’unique mesure statione naire ν0 sur G/P est K-invariante. ` e Soient k = R. e e µ ∈ P(Γ) une probabilit´ telle que Γµ = Γ. 9. dans la section 10. δP(V ) ) ≥ ε}) = 0. ξ → 2 (δΦ1 (ξ) + δΦ2 (ξ) ) e prend ses valeurs dans l’espace des masses de Dirac. e e e ee 78 . en notant d une distance compatible sur l’espace m´trisable compact e P(P(V )). on a Φ1 (ξ) = Φ2 (ξ). Cette probabilit´ est e e e µ-stationnaire. Soient P un sous-groupe parabolique de G et K un sous-groupe compact de G tel que G = KP (voir th´or`me 3. Donc σ est port´e par le ferm´ δP(V ) ⊂ P(P(V )) des masses de Dirac sur P(V ). δP(V ) ) ≥ ε}) = 0.8. e 1 D’apr`s le point a).4 Mesures stationnaires K-invariantes Pour tout r´seau Γ d’un groupe de Lie semisimple r´el G. e On se donne aussi une repr´sentation proximale et fortement irr´ductible de Γ e e dans un espace vectoriel V . elle est donc ´gale ` ν. cette suite est constante ´gale a e ` σ({λ | d(λ.3 la proposition 9. lim σ({λ | d(g0 (ω)∗ · · · gn (ω)∗ λ.

e u e ` a) Montrons tout d’abord que. on a l’´galit´ µ0 ∗ ν0 = ν0 . On choisit alors une famille aγ > 0 telle que 1. suppµ = Γ}. on peut trouver nγ ≥ 1 et εγ > 0 tels que g∗ µ0 Donc g∗ ν0 = εγ γ∗ ν0 + µγ ∗ ν0 avec µγ = g∗ µ0 γ − εγ∗ µ0 . Une somme de ces ´galit´s pond´r´es par aγ donne e e ee τ (g) ≤ 1 − γ∈Γ ∗n γ∈Γ ∗nγ > εγ γ∗ µ0 . On esp`re bien sˆr que cette fonction est constante ´gale a 0. C’est une fonction µ0 -sous-harmonique born´e.Proposition 9. pour tout g ∈ G. Posons τ (g) = inf{t ∈ [0. 1] la fonction induite sur X. comme ν0 est µ0 -harmonique τ (g) ≤ G τ (gh) dµ0 (h). Elle v´rifie donc e τ (x) ≤ G τ (xh) dµ0 (h). pour toute mesure K-invariante e µ0 ∈ P(G).Comme l’action de K sur G/P est transitive. Remarquons que pour tout γ ∈ Γ. e dans le calcul suivant bas´ sur l’in´galit´ de Cauchy-Schwartz et sur Fubini e e e τ (x)2 dλX (x) ≤ X X G τ (xh)2 dλX (x) dµ0 (h) ≤ X τ (x)2 dλX (x). En particulier. On note encore τ : X → [0. e D´monstration de la proposition 9. λX ) o` X = Γ\G e e u et λX est la probabilit´ G-invariante sur X. 79 . on a τ (g) < 1. on a τ (γg) = τ (g). e e . µ ∈ P(G) . b) Montrons maintenant que τ (g) est une fonction constante. Plus pr´cis´ment.10 Pour tout r´seau Γ ⊂ G. µ . Remarques . aγ = aγ εγ < 1. remarquons que e e e d’une part. 1] | g∗ ν0 = (1−t)µ ∗ ν0 + tµ ∗ ν0 . il existe une probabilit´ µ ∈ P(Γ) e e de support Γ et telle que µ ∗ ν0 = ν0 . et. en d´pit du caract`re discret de Γ.10 Soit µ0 une probabilit´ K-invariante e e sur G a support compact et ayant une densit´ non nulle par rapport a la mesure ` e ` n de Haar sur un ouvert U de G dont les puisances U recouvrent G.Autrement dit. les trajectoires sur G/P e e de la marche al´atoire ind´pendante sur Γ de loi µ s’´quir´partissent sur le bord e e e e G/P selon la probabilit´ K-invariante ν0 . il y a une unique probabilit´ K-invariante ν0 sur G/P . En effet. Cela va r´sulter e 2 de l’ergodicit´ de l’op´rateur de convolution par µ0 dans L (X. pour tout γ ∈ Γ. d’autre part. Elle est donc constante.

pour tout µ1 ∈ P(G). Donc τ est constante. Si on part de µ1 = δe . u c) Il r´sulte de ces arguments qu’il existe < 1 tel que τ (g) < . on peut ´crire. pour tout e g ∈ G. 80 . En particulier. e µ1 ∗ ν0 = (1 − )µ1 ∗ ν0 + µ2 ∗ ν0 = (1 − )µ1 ∗ ν0 + (1 − ) µ2 ∗ ν0 + 2 µ3 ∗ ν0 = (1 − )µ1 ∗ ν0 + (1 − ) µ2 ∗ ν0 + (1 − ) 2 µ3 ∗ ν0 + · · · avec µi ∈ P(G) et µi ∈ P(Γ).on doit avoir ´galit´ dans ces in´galit´s et donc la fonction h → τ (xh) est µ0 e e e e presque sˆrement constante. on obtient donc l’´galit´ e e i−1 ν0 = µ ∗ ν0 avec µ = (1 − ) i≥1 µi ∈ P(Γ).

R)}. Le groupe {(g. Z[ 2]) ∩ SO(q. l’hypoth`se π(Γ) Zariski dense n’est pas tr`s restrictive. La d´monstration occupe l’ensemble de ce chapitre. R). Z[ 2]) ∩ SO(q. Exemple A V´rifions que l’hypoth`se π(Γ) non born´e est indispensable. H = Hk le groupe des k-points d’un k-groupe simple H. e Remarque Lorsque k est un corps p-adique. R) est un r´seau de SO(q. On e e e peut souvent s’y ramener. G = G le groupe des -points e e d’un -groupe semisimple G connexe. Comme le groupe SO(q . q(x) = x1 + x2 + x2 − 2x2 − 2x2 .1 Superrigidit´ e Le th´or`me de superrigidit´ permet de d´crire toutes les repr´e e e e e sentations des r´seaux d’un groupe de Lie semisimple r´el G. C ou une extension finie de Qp . Nous verrons en outre que ces th´or`mes s’´tendent a des groupes e e e ` G produit de groupes semisimples r´els et p-adiques. il n’existe pas de morphisme continu non constant de G dans H. notons σ l’automorphisme non trivial du corps Q[ 2] et q σ l’image √ de q par σ. Γ est bien un r´seau. on s’y rae e m`ne en rempla¸ant Γ par un sous-groupe fini sans torsion puis en consid´rant le e c e r´seau image de Γ dans le quotient de G par son sous-groupe distingu´ compact e e maximal. La conclusion du th´or`me dans ce cas est donc qu’un e e tel morphisme π : Γ → H ne peut pas exister. est un sousgroupe arithm´tique du Q-groupe dont les points r´els sont le produit SO(q. Le 4 5 2 3 groupe Γ = SL(5. R) × e e σ σ SO(q . e Commen¸ons par quelques commentaires sur les hypoth`ses de ce th´or`me. On suppose G sans facteur compact et rang (G) ≥ 2. g σ ) | g ∈ SL(5. on doit consid´rer non seulement des ree e e e e pr´sentations dans des espaces vectoriels r´els mais aussi dans des e e espaces vectoriels p-adiques. R). e Alors π s’´tend en un morphisme continu de G dans H. e Th´or`me 10.1 (Margulis) Soient = R. R) est compact. De mˆme. c e e e L’hypoth`se G sans facteur compact n’est pas tr`s contraignante.10 Superrigidit´ e Le but de ce chapitre est de montrer le th´or`me de superrigidit´ e e e de Margulis.√ e En effet. e e Soit k = R. e e e √ √ 5 2 Notons q la forme√ quadratique sur R . Soit π : Γ → H un morphisme dont l’image π(Γ) est Zariski dense et non born´e. e 81 . e e Pour pouvoir utiliser ce th´or`me de superrigidit´ pour montrer e e e le th´or`me d’arithm´ticit´. Soit Γ un r´seau irr´ductible de G. 10.

e Exemple C L’hypoth`se de rang sur G est aussi importante : il n’existe pas de e tels ph´nom`nes de superrigidit´ pour les groupes G = SO(n. G contient des r´seaux Γ qui sont des groupes e e libres non ab´liens ou des π1 de surface compacte. mais. De mˆme. Dans ce cas. Par exemple. Exemple E L’hypoth`se de simplicit´ sur H est aussi utile mˆme si on s’y ram`ne e e e e facilement en composant π par la projection sur les facteurs simples de H. si Γ est le r´seau du groupe G = SL(d. avec p premier ou ∞ et avec Gp le groupe des Qp -points d’un Qp -groupe semisimple simplement connexe sous l’hypoth`se p rangQp Gp ≥ 2. Dans ce cas aussi. ceux-ci ne se prolongent pas en des morphismes de G dans G. Qp ). le groupe image est born´. le morphisme π s’´tend e alors en une R-repr´sentation de G dans H. Par exemple. Γ] est form´ de matrices e e e congrues ` l’identit´ modulo 4. donn´ par π(γ) = ε(γ)γ. Mais alors le morphisme π : Γ → H = SL(d. les e e R-groupes G = PGL(3) et H = SL(3) ont des points r´els isomorphes GR HR e sans ˆtre R-isomorphe. R) donn´ par π(g) = g σ ne se e prolonge pas ` G. Comme le groupe d´riv´ [Γ. R) donn´ par Γ = {g ∈ e e SL(d. le groupe image est born´. Exemple D L’hypoth`se d’irr´ductibilit´ est aussi importante : le produit de e e e deux r´seaux Γ1 × Γ2 ⊂ G × G avec G = SO(2. Z) du groupe G = SL(d. e e Le r´seau Γ = SL(d. 1) qui sont de rang e e e r´el 1. si Γ est l’image dans G = PGL(d.Le th´or`me de superrigidit´ et sa d´monstration sont valables dans un cadre e e e e beaucoup plus large : non seulement. R) du groupe Γ0 = {g ∈ SL(d. Exemple F Lorsque G est simplement connexe et k = R. pour n = 2. il existe des morphismes non triviaux ε : Γ → a e {±1}. Z) | g ≡ Id mod 2}. e ne se prolonge pas en un morphisme de G dans H. e L’hypoth`se de simple connexit´ sur G est utile pour cela. R). a e Exemple B Voici un deuxi`me exemple avec image p-adique qui met en valeur e l’hypoth`se π(Γ) non born´e. 1) fournit ais´ment des contree e exemples. Z) | e g ≡ Id mod 3}. Par exemple. R) ne se prolonge pas en e un morphisme de G dans H. on peut prendre pour G un groupe sans e e facteur compact qui est un produit fini G = Gp . R) s’injecte dans le groupe pe adique H = SL(d. Cette injection ne se prolonge pas en un morphisme de G dans H. e 82 . Le rel`vement π : Γ → Γ0 ⊂ H = SL(d. Il existe alors de nombreux e morphismes π : Γ → G qui sont d’image dense.Remarquons que le morphisme π : Γ → SO(q σ . on peut remplacer le corps = R par un corps p-adique. e . plus g´n´ralement.

Alors ∆ est born´. probabilit´ que nous avons construit dans la e section 9. On obtient ainsi une application mesurable Γ-´quivariante e Φ : G/P → P(V ).5). La derni`re ´tape en 10. on a montr´ qu’il existe une application ν0 -mesurable Γe ´quivariante e ϕ : G/P → P(P(V )) de la vari´t´ des drapeaux G/P muni d’une probabilit´ K-invariante ν0 dans ee e l’espace des probabilit´s sur l’espace projectif P(V ). par suite que l’application Θ est aussi continue.3 consiste ` remplacer l’espace d’arriv´e par l’espace e e a e projectif P(V ) lui-mˆme en montrant que l’image de ϕ est form´e de masses e e de Dirac. on appliquera le lemme suivant au groupe ∆ := π(Γ). Soient V = k d et ∆ ⊂ End(V ) un sous-groupe tel que V est irr´ductible et tel que tout ´l´ment de e ee ∆ a toutes ses valeurs propres de module 1. e Pour cela.2 Valeurs propres de mˆme module e Dans cette section. C ou une extension finie de Qp . V une k-repr´sentation de H. on utilise la probabilit´ sur Γ dont la mesure stationnaire e correspondante sur G/P est ν0 .1 e e e e Soit P un sous-groupe parabolique minimal de G.4. a La troisi`me ´tape en 10. Le groupe H := Hk agit donc dans e V := Vk .f.Strat´gie de la d´monstration du th´or`me 10. e ee Dans la section 7. on montre que.5 consiste a remarquer que la repr´sentation de G dans e e ` e E est mesurable et donc continue. d´finition 9. on pourra remplacer cet espace projectif e par un espace vectoriel W . e on peut remplacer la k-repr´sentation irr´ductible de H dans V par e e une dans laquelle π(Γ) est proximal (c.4.4 consiste a montrer que l’espace vectoriel E engendr´ e e ` e par les translat´s ` droite de Θ par les ´l´ments de G est de dimension finie.2 que l’on peut choisir la repr´sentation de H dans V de sorte que π(Γ) soit e proximal. La deuxi`me ´tape en 10. e 83 . Le prix ` payer sera de perdre une partie de la P a invariance : on obtiendra une application mesurable Γ-´quivariante e Θ:G→W qui est seulement invariante ` droite par un sous-espace de Cartan A de G. K un sous-groupe compact maximal de G. En utilisant aussi la repr´sentation duale. Lemme 10. C’est grˆce a l’application δ : E → W d’´valuation en e que l’on construira alors a ` e le morphisme de G dans H qui prolonge π. On v´rifie tout d’abord en e e 10. Pour cela. On note ν0 la probabilit´ K-invariante sur la vari´t´ des drapeaux G/P .2 Soit k = R. C’est e a ee dans cette ´tape que l’on utilise l’hypoth`se de rang au moins 2 via l’ergodicit´ e e e des sous-groupes A de codimension 1 dans A. comme π(Γ) n’est pas born´. 10.

L’hypoth`se sur les valeurs propres des ´l´ments de ∆ assure que.2. il existe une k-repr´e e e e sentation irr´ductible de H dans un espace vectoriel V telle que π(Γ) est proximal. Comme H est simple. la suite n → Λd0 δ0 convenablement renormalis´e converge vers un op´rateur de rang 1. il existe au moins un ´l´ment δ0 ∈ π(Γ) e e ee qui admet une valeur propre de module diff´rent de 1. pour tout g dans ∆ : g = i Tr(gδi )ei .12). 84 . Comme H est simple. par construction. on utilise tous les pr´paratifs du chapitre 9 e pour construire l’application aux bord Φ : G/P → P(V ) ainsi que l’application Θ. Rappelons que ν0 est la probabilit´ K-invariante sur G/P . on a tr(a) = tr(a2 ) = · · · = tr(ad ) = 0. e e V´rifions tout d’abord que la forme bilin´aire sym´trique sur A donn´e par e e e e (a.1. b) → tr(ab) est non d´g´n´r´e. Donc a est e nilpotent.3 d’Engel assure que le sous-espace V := ∩a∈I Ker(a) e e est non nul. Soit I le noyau de cette forme bilin´aire. c’est e e e e e un id´al de A. e ee pour tout i. Il est donc ´gal a V .3 Construction de Θ Dans cette section. |Tr(gδi )| ≤ d. car.Remarque L’hypoth`se ”V irr´ductible” est utile. e D´monstration du lemme 10. e D´monstration D’apr`s le lemme 10. Notons V la sous-repr´sentation irr´ductible Λ V e e dans laquelle apparait l’unique valeur propre de module maximum de Λd0 δ0 . Soit V une k-repr´e e e e sentation irr´ductible de H dans laquelle π(Γ) est proximal. e e 10. Le th´or`me 2. b) Il existe une et une seule application ν0 -mesurable Γ-´quivariante Φ : G/P → e P(V ). e e ` on peut d´composer la repr´sentation de H dans Λd0 V en repr´sentations irr´e e e e d0 ductibles (proposition 4. Pour tout a ∈ I. e Proposition 10.3 Sous les hypoth`ses du th´or`me 10. Ce sous-espace est A-invariant. L’acn tion de π(Γ) sur P(V ) est proximale.1. comme le prouve le groupe e e des matrices unipotentes triangulaires sup´rieures. On a l’´galit´. e a) Toute application ν0 -mesurable Γ-´quivariante ϕ : G/P → P(P(V )) prend ses e valeurs dans l’ensemble δP(V ) des masses de Dirac. Choisissons une famille (δi ) d’´l´ments e ee de ∆ qui forment une base de l’espace vectoriel A et notons (ei ) la base de A duale.2 Le sous-espace vectoriel A de End(V ) engene dr´ par ∆ est une alg`bre. Mais alors I = 0. Notons V0 le sous-espace e de V somme des sous-espaces caract´ristiques de δ0 associ´s aux valeurs propres e e de module maximum. e ` C’est ce que l’on voulait Montrons maintenant que ∆ est born´. e Proposition 10. Les ´l´ments gδi e e ee sont dans ∆. Donc ∆ est born´.4 Sous les hypoth`ses du th´or`me 10. il agit sur V par des matrices de d´terminant 1 et l’entier d0 := dim V0 est inf´rieur a d.

4 a la e ` repr´sentation de H dans V donn´e par la proposition 10.b. c’est-`-dire des e a fonctions f : G → W telles que f (γg) = ρ(γ)f (g). Le groupe G agit sur FΓ (G. fixons un sous-espace de Cartan A de G. x ∈ G. Conform´ment aux notations de ` e e e la section 3. On a donc une application ν0 ⊗ ν0 mesurable et Γ-´quivariante e ϕ × ψ : G/P × G/P → P(V ) × P(V ∗ ). La proposition 10.13. Autrement dit. On obtient ainsi deux applications ν0 -mesurables et Γ-´quivariantes e ϕ : G/P → P(V ) et ψ : G/P → P(V ∗ ). On peut supposer que le parabolique minimal P est celui associ´ a A+ . Proposition 10. qui est A-invariante. e D´monstration a) D’apr`s la proposition 9.b. Donc la G-orbite dans G/P × G/P du point (P.14. pour tous g.9. pour tout γ ∈ Γ. FΓ (G.10. V´rifions tout d’abord que le produit G/P × G/P s’identifie ` un quotient e a de G/A. une involution de Cartan θ de G telle que θ(A) = A. Il existe une k-repr´e e e e sentation ρ de H dans un espace vectoriel W et une application mesurable Γ´quivariante non constante Θ : G → Wk . W ) contient une fonction Θ non constante telle que T (A)Θ = Θ. e De fa¸on plus pr´cise. Notons A un sous-espace de Cartan de G.5 Sous les hypoth`ses du th´or`me 10. e L’existence de l’application Φ s’en d´duit par a). g ∈ G. Le point a) r´sulte alors de la e proposition 9.9. on construit un ´l´ment e e e ee + w0 ∈ K tel que w0 normalise A et tel que w0 (A ) est la chambre de Weyl oppos´e e −1 de sorte que P − = w0 P w0 .3 ainsi qu’` sa repr´sene e a e tation duale.Remarque Nous n’utiliserons pas l’unicit´ de Φ dans la suite du raisonnement. (T (g)f )(x) = f (gx) .1.a. On note P − le parabolique e` oppos´ et on note K le sous-groupe compact maximal K = Gθ . le k-espace vectoriel des c e (classes de) fonctions mesurables Γ-´quivariantes de G dans W .11 de Furstenberg. D´monstration de la proposition 10. e Il est n´anmoins rassurant de savoir que cette application au bord Φ est unique. 85 . W ) par. une chambre de Weyl A+ ⊂ A. il existe une probabilit´ µ ∈ e e e P(Γ) de support Γ telle que ν0 est µ-stationnaire. de mesure pleine et de groupe d’isotropie P ∩ P − . la P -orbite de cet ´l´ment w0 P ∈ G/P est ouverte de e e ee − mesure pleine dans G/P G/P . Par le th´or`me 3. L’unicit´ de l’application Φ e e r´sulte de la proposition 9. Par le mˆme e e argument que dans la d´monstration du th´or`me 3. w0 P ) est ouverte.5 affirme que l’espace FΓ (G. e Notre tache consiste maintenant a “remplacer” l’espace projectif P(V ) par un ` k-espace vectoriel W . notons W = Wk . b) L’existence d’une application ϕ r´sulte de la proposition 7. C’est ce que fait la proposition suivante. a une partie ν0 ⊗ ν0 -n´gligeable pr`s.c. le stabilisateur dans G du point w0 P ∈ G/P est le groupe P − .5 On applique la proposition 10. W ).5.

W ) Cette action est donn´e par. pour tous g. comme Θ n’est pas constante. On ´tudie e dans cette section la repr´sentation de G dans l’espace E des transe lat´s de Θ. 86 . e Cette proposition 10. x ∈ G.7 et 10. Cette ee action T est mesurable si on munit FΓ (G.V´rifions maintenant que l’image de ϕ × ψ ne rencontre pas la quadrique e Q(V ) := {(x. l’espace vectoriel E = T (g)Θ | g ∈ G est de dimension finie. Remarque En particulier. la fonction Θ est continue. y) ∈ P(V )×P(V ∗ ) Q(V ). ce sont les sections mesurables d’un fibr´ vectoriel sur Γ\G appel´ e e e le fibr´ induit par W . Rappelons aussi que nous avons not´ T l’action mesurable e e du groupe G sur FΓ (G. G´oe e m´triquement. Proposition 10. Z(A )le centralisateur de A dans G et I ⊂ FΓ (G. En outre. W ) de la convergence en mesure. Par construction la fonction Θ est un ´l´ment A-invariant de FΓ (G. e 10. Alors le sous-espace vectoriel I = T (g)f | g ∈ Z(A ) . par le lemme 9. W ). On a donc que k = R ou C. la probabilit´ µ-stationnaire ϕ∗ (ν0 ) ne masse pas les hyperplans. non constante Θ de G dans un espace vectoriel W . Cela r´sulte de ce que la mee sure image (ϕ × ψ)∗ (ν0 ⊗ ν0 ) est une mesure produit et que. A-invae riante. e On note W l’espace vectoriel End(V ).6 sera une cons´quence des trois lemmes 10. La formule e ` Θ(g) = pϕ(gP ). e Rappelons que ρ est la repr´sentation de H dans W et que FΓ (G. y) ∈ P(V ) × P(V ∗ ) | y(x) = 0}. on note px. e (T (g)f )(x) = f (xg) .8 cie dessous. Pour tout (x. Lemme 10.ψ(gw0 P ) donne alors l’application Θ cherch´e. W ) un sous-espace vectoriel A-invariant de dimension finie. f ∈ I est encore A-invariant et de dimension finie.y ∈ W le projecteur sur x parall`lement a y. le corps k ne peut pas ˆtre totalement discontinu. W ) est le e k-espace vectoriel des fonctions mesurables Γ-´quivariantes de G dans W .4 L’espace E des translat´s de Θ e Nous disposons enfin d’une application Γ-´quivariante.7.6 Si rangR (G) ≥ 2.7 Soit A ⊂ A un sous-groupe non trivial.

. . . zs ) → z1 · · · zs est surjective. Par ergodicit´. pour presque tout g. . pour toute famille f1 . W ). ce sous-espace vece toriel I est bien A-invariant. Nous allons en d´duire que S est de dimension finie.7 affirme que l’action de A sur Γ\G est ergodique. fi de sorte e que m0 soit maximal. en notant Z(Ai ) le centralisateur de Ai dans G. 87 . on peut trouver des fonctions mesurables e cj : G → k telles que. fi ∈ S et g ∈ G . Lemme 10. La fonction mesurable m : G → N v´rifie. . . As de sousgroupes non triviaux de A telle que. .7 Comme A normalise A . On peut choisir la famille f1 . . pour presque tout g. W )). il existe une suite A1 . les fonctions cj sont constantes. De nouveau. pour tout γ ∈ Γ.D´monstration du lemme 10. .8 Soient G un R-groupe semisimple connexe. pour presque tout g ∈ G. . Il suffit de montrer que le k-espace vectoriel S = HomA (I. W )) est de dimension finie. e Plus pr´cis´ment. FΓ (G. Hom(I. a ∈ A cj (γga ) = cj (g). par ergodicit´. Si rangR (G) ≥ 2. e e m(g) := dim( fj (g) | 1 ≤ j ≤ i ). On peut aussi choisir cette famille de sorte que i = m0 . . . L’ind´pendance des fj (g) et les propri´t´s de Γ-´quivariance et de A -´quivariance e ee e e des fonctions f et fj prouvent que. a ∈ A e m(γga ) = m(g). Soit f ∈ S. la fonction m est donc constante ´gale a un entier m0 . . Or on a une identification ee naturelle S FΓ (G. on ait f (g) = 1≤j≤m0 cj (g)fj (g). car chaque ´l´ment g de Z(A ) ee agit sur I via un ´l´ment de cet espace vectoriel S. Regardons pour cela I comme un A -module. . . . W ))A de S avec l’ensemble des sections mesurables A -invariantes du fibr´ sur Γ\G e induit par Hom(I. on note. L’espace vectoriel S e est donc de dimension finie. Comme A = 1. Par maximalit´ de m0 . Montrons que I est de dimension finie. la multiplication Z(A1 ) × · · · × Z(As ) −→ G (z1 . Cet entier e e ` m0 est major´ par dim(Hom(I. pour tout γ ∈ Γ. G = GR et A un sousespace de Cartan de G. le corollaire 7.

D´monstration Notons Σ+ = {λ1 , . . . λt } un syst`me de racines positives de A e e dans G et Ai ⊂ A le noyau de λi . Comme rangR (G) ≥ 2, ces groupe Ai sont non triviaux. L’ensemble X = Z(A1 ) · · · Z(At ) contient le parabolique minimal P associ´ ` Σ+ ainsi que le parabolique oppos´ P − . Donc l’ensemble Y = X X ea e contient l’ouvert U = P − P . D’apr`s la d´monstration du th´or`me 3.14.c, cet e e e e ouvert est dense dans G. Donc G = Y Y . C’est ce que l’on voulait. C’est le lemme 10.9.b ci-dessous qui nous fera passer du monde mesurable au monde continu. Lemme 10.9 Soient G1 et G2 deux groupes localement compacts s´parables. e a) Pour toute partie W1 ⊂ G1 de mesure positive pour la mesure de Haar de G1 , −1 l’ensemble W1 W1 contient un voisinage de e. b) Tout morphisme de groupes mesurable ϕ : G1 → G2 est continu. D´monstration a) On note µ1 la mesure de Haar de G1 . Quitte a r´duire W1 , e ` e 2 on peut supposer que µ1 (W1 ) < ∞. Or si α, β ∈ L (G1 , µ1 ), la convol´e g → e −1 (α∗β)(g) = G α(gx)β(x )dµ1 (x) est une fonction continue : on le v´rifie d’abord e pour α, β continues a support compact et on conclut par densit´. ` e −1 Donc la fonction 1W1 ∗ 1W1 est une fonction continue qui vaut µ(W1 ) en l’identit´. Elle est donc strictement positive dans un voisinage de l’identit´. Or e e −1 −1 elle est nulle en dehors de W1 W1 . Donc W1 W1 contient un voisinage de e. b) Soit V2 ⊂ G2 un voisinage de l’identit´ dans G2 . On veut montrer que V1 := e ϕ−1 (V2 ) est un voisinage de l’identit´ dans G1 . Choisissons un ouvert W2 ⊂ G2 e −1 tel que W2 W2 ⊂ V2 . Comme G2 est s´parable, il existe une famille d´nombrable e e d’´l´ments gp ∈ G2 tels que les translat´s W2 gp recouvrent G2 . Mais alors les ee e images inverses ϕ−1 (W2 gp ) recouvrent G1 . L’une d’elles W1 = ϕ−1 (W2 gp0 ) est −1 donc de mesure non nulle. Comme W1 W1 ⊂ V1 , on conclut a l’aide du a). ` D´monstration de la proposition 10.6 Posons I0 := Θ et, pour i = 1, . . . , s, e posons Ii = T (Z(Ai ))Ii−1 . Par une application r´p´t´e du lemme 10.7, l’espace e ee I est de dimension finie. Par le lemme 10.8, il est ´gal a E. e ` Montrons maintenant la continuit´ de Θ. Plus g´n´ralement, on va montrer que e e e toute fonction f ∈ E est continue. Comme E est de dimension finie, le lemme 10.9 prouve que le morphisme mesurable T : G → GL(E) est continu. Notons f1 , . . . , fi une base de E. On a donc des fonctions continues cj : G → k telles que, pour tout g dans G, on a T (g)f = j cj (g)fj . Par Fubini, pour presque tout x0 ∈ G, on a l’´galit´ e e f (x0 g) =
j

cj (g)fj (x0 )

pour presque tout g ∈ G. Donc f est continue et Θ aussi.

88

Remarque Comme Θ n’est pas constant, cela ne peut se produire que si k = R ou C.

10.5

Prolongement de π ` G a
Nous pouvons maintenant construire le prolongement de π que nous cherchons grˆce a la repr´sentation de G dans E et grˆce a a ` e a ` l’´valuation en e qui relie E et W . e

Notons δ : E → W ; f → f (e) l’´valuation en l’identit´ et rappelons que ρ est e e la repr´sentation de H dans W . e Lemme 10.10 a) L’application δ est Γ-´quivariante, i.e. pour tout γ ∈ Γ, on a e δ ◦ T (γ) = ρ(π(γ)) ◦ δ. b) L’application δ est injective. c) Son image δ(E) est un sous-espace H-invariant de W . D´monstration Comme G = GR est semisimple et connexe, la repr´sentation e e T de G s’´tend en une R-repr´sentation de G encore not´e T . C’est vrai du moins e e e si G est le quotient du R-groupe alg´brique simplement connexe G dont l’alg`bre e e de Lie est Lie(G)C par le noyau Z du morphisme (G)R → G, ce que l’on peut supposer. Rappelons aussi que ρ est la restriction d’une R-repr´sentation ρ de H. e a) On a les ´galit´s, pour f ∈ E, e e δ ◦ T (γ) (f ) = f (γ) = ρ(π(γ))(f (e)) = ρ(π(γ)) ◦ δ (f ). b) Le noyau Ker(δ) est un sous-espace Γ-invariant de E. Par le th´or`me 7.1 e e de densit´ de Borel, le r´seau Γ est Zariski dense dans G, et donc le noyau e e Ker(δ) est aussi G-invariant. Donc, si f est dans Ker(δ), pour tout g ∈ G, on a, f (g) = δ(T (g)f ) = 0 et f = 0. c) L’ image δ(E) est π(Γ)-invariante. Par hypoth`se π(Γ) est Zariski dense dans e H. Donc δ(E) est H-invariant. Fin de la d´monstration du th´or`me 10.1 On sait d´j` que k = R ou e e e ea C. Grace au lemme 10.10, on peut identifier E avec son image δ(E). On dispose donc dans E d’une repr´sentation T de G et d’une repr´sentation ρ de H telles e e que, pour tout γ ∈ Γ, on a T (γ) = ρ(π(γ)). Par le corollaire 4.5, l’image ρ(H) est Zariski ferm´e. Par le th´or`me 7.1 de e e e densit´ de Borel, le r´seau Γ est Zariski dense dans G. Donc T (G) est inclus dans e e ρ(H) . Comme H est simple, ρ est injectif et est donc un R-isomorphisme sur son image. Le R-morphisme ρ−1 ◦ T : G −→ H prolonge π.

89

11

Arithm´ticit´ e e
Nous avons montr´ dans le chapitre 5 le th´or`me de Borel Harishe e e Chandra qui affirme que “tout groupe arithm´tique est un r´seau”. Le e e but de ce chapitre est de d´montrer le th´or`me d’arithm´ticit´ de e e e e e Margulis qui en est une r´ciproque en rang r´el au moins 2. e e

11.1

Groupes arithm´tiques e
Nous devons tout d’abord ´tendre l´g`rement la d´finition 5.1 de e e e e groupes arithm´tiques e

D´finition 11.1 Soit G = GR le groupe des R-points d’un R-groupe semisimple e connexe ` centre trivial. Un r´seau Γ ⊂ G est dit arithm´tique si il existe un Qa e e groupe semisimple H et un morphisme continu p : HR → G de noyau compact et d’image d’indice fini dans G tel que les r´seaux p(HZ ) et Γ sont commensurables. e Th´or`me 11.2 (Margulis) Soit G = GR le groupe des R-points d’un Re e groupe semisimple. On suppose G sans facteur compact et rangR (G) ≥ 2. Alors tout r´seau irr´ductible Γ ⊂ G est arithm´tique. e e e Exemple Reprenons l’exemple A de la section 10.1. √ √ Pour la forme quadratique q sur R5 , q(x) = x2 + x2 + x2 − 2x2 − 2x2 , le 4 5 3 2 1 √ groupe Γ = SL(5, Z[ 2])∩SO(q, R) est un sous-groupe arithm´tique de SO(q, R). e √ En effet, le groupe HZ = {(g, g σ ) | g ∈ SL(5, Z[ 2]) ∩ SO(q, R)} est un sousgroupe arithm´tique d’un Q-groupe not´ H = RQ[√2]|Q (SO(q)) tel que HR = e e σ SO(q, R)×SO(q , R). Comme le groupe SO(q σ ) est compact, Γ est bien un groupe arithm´tique. e Strat´gie de d´monstration du th´or`me 11.2 e e e e On v´rifie tout d’abord que Γ est un groupe de type fini de sorte que le corps e K engendr´ par les traces des ´l´ments de Γ est un corps de type fini. e ee On rappelle ensuite comment construire de nombreux plongements des corps de type fini dans les corps locaux. On utilise ces plongements pour construire des repr´sentations de Γ a coeffie ` cients dans les corps locaux, repr´sentations auxquelles on applique le th´or`me e e e de superrigidit´ pour montrer que le corps K est une extension finie de Q. e Cela permet alors, grˆce a la “restriction de Weil” de construire une repr´a ` e sentation de Γ a coefficients dans Q, repr´sentation a laquelle on applique la ` e ` superrigidit´ p-adique pour montrer que les d´nominateurs qui apparaissent dans e e les coefficients matriciels sont uniform´ment born´s. On aura ainsi r´alis´ un e e e e sous-groupe d’indice fini Γ de Γ comme un sous-groupe de GL(d, Z). On verra que Γ est d’indice fini dans le groupe des points entiers de son adh´e rence de Zariski. La superrigidit´ r´elle sera utile pour cela. e e 90

e e e 2`me cas : Si G ne contient pas de facteurs quasisimples Gi de rang r´el 1. Les grandes lignes sont : e comme rangR (Gi ) ≥ 2. u` 11. la proposition est due a Kazhdan et la d´monstration repose sur ` e la propri´t´ T de Kazhdan. D´monstration du lemme 11. Je ne la recopie pas ici. e Dans ce cas. e e e Pour tout γ ∈ Γ. les valeurs propres de Adγ sont des nombres alg´briques. . λ2 . . e Gp de groupes Nous admettrons cette proposition 11.10.4 Sous les hypoth`ses du th´or`me 11. λr d’´l´ments de K alg´briquement ind´pendants sur Q et notons ee e e 91 . voir [21] corollaire 13. e Proposition 11. nous aurons besoin de construire des plongements des extensions de type fini de Q. .3 Un r´seau Γ du groupe des R-points G = GR d’un R-groupe e G est de type fini.3 Alg´bricit´ des valeurs propres e e Dans cette section on utilise la superrigidit´ pour montrer l’alg´e e bricit´ des valeurs propres des ´l´ments de AdΓ. N´anmoins. . λ un ´l´ment de K transee cendant sur Q. Il est donc ee de type fini. e 3`me cas : Si G contient un facteur quasisimple de rang r´el 1. Cette proposition s’´tend aux r´seaux des produits finis G = e e r´els et p-adiques. Lemme 11. le groupe G a la propri´t´ T de Kazhdan.5 Mettons λ dans une famille maximale λ1 = e λ . Γ est le groupe fondamental d’une vari´t´ compacte.2 Les r´seaux sont de type fini e Nous admettrons dans cette section un point certes crucial mais pas tr`s surprenant. e Le fait que Γ soit de type fini est dˆ a Raghunathan. Alors il existe un corps local p-adique k et un morphisme de corps σ : K → k tel que |σ(λ)| > 1. et mˆme de pr´sentation finie. donc le r´seau ee e Γ aussi et donc Γ est de type fini. il y a e e e e un cas o` la d´monstration est assez rapide : u e 1er cas : Si Γ est cocompact dans G.2. Elle est d´taill´e dans le chapitre 3 de [4] dans un ee e e esprit tr`s proche de ce cours.5 Soit K une extension de type fini de Q.11. e Pour montrer cette proposition. Dans ce cas. e ee Proposition 11.3 dans sa g´n´ralit´.

Comme le groupe G est un produit de groupes k-simples et que l’image de Γ est Zariski dense dans G . Le groupe G e e e agit sur R[G] par translation ` droite. Pour tout ϕ ∈ R[G] et g. D´monstration de la proposition 11. e D´monstration de la proposition 11. . le groupe engendr´ par Adγ n’est pas born´. b) Il existe un R-morphisme injectif i : G → GL(m) tel que i(Γ) ⊂ SL(m. b) Notons R[G] l’anneau des fonctions r´guli`res et r´elles sur G. . K) c) Le groupe i(G) est d´fini sur K.6 Sous les hypoth`ses du th´or`me 11.4. e Proposition 11. le th´or`me 10.6 e a) D’apr`s la proposition 11. e e 11. Ce corps est de type fini. C’est donc une extension finie de Q. On aurait pu aussi bien utiliser ici la superrigidit´ r´elle. Il est facile de trouver un plongement σ : K → Qp tel que |σ (λ)| > 1. λr ) ⊂ K.1 de superrigidit´ affirme que l’image e e e e e de Γ dans Gk est born´e. Le lemme 11. On ´tend alors ce plongement en un morphisme de l’extension e finie K de K vers une extension finie k de Qp . 92 .4 D´composons l’alg`bre de Lie g de e e e G en somme d’id´aux simples et fixons une base de ces id´aux.4 sur la superrigidit´ e e e p-adique. le corps K est une extension alg´brique de Q. une extension finie de Q. Mais par construction. . e Remarque On a bas´ la d´monstration de la proposition 11. Contradiction.4 Corps de d´finition de G e Nous d´terminons dans cette section le plus petit corps de d´finie e tion de Γ Notons K le corps engendr´ par les traces T r(Adγ) pour γ ∈ Γ. . Le groupe adjoint G de G est donc un groupe semisimple d´fini sur K0 tel que AdΓ ⊂ GK0 . e Supposons que l’adjoint Adγ d’un ´l´ment γ ∈ Γ a une valeur propre λ transee cendante sur Q. e e e a) Le corps K est un corps de nombre i.K = Q(λ1 . Soit K0 le corps e e engendr´ par les coefficients matriciels d’une famille finie g´n´ratrice du groupe e e e AdΓ.e. e e Or ce corps K est une extension de type fini de Q. Le e e morphisme i = T |E provient d’un R-morphisme i : G → GL(m).2. x ∈ G a (T (g)ϕ)(x) = ϕ(xg) Soit ϕ0 l’´l´ment de R[G] donn´ par ϕ0 (g) = Tr(Adg) et E := T (G)ϕ0 le Ree e sous-espace vectoriel de dimension finie m engendr´ par les translat´s de ϕ0 .4 permet de construire un morphisme de corps K0 [λ] → k dans un corps local p-adique tel que |σ(λ)| > 1.

. γm ∈ Γ tels que les m translat´s ϕi = e T (γi )ϕ0 forment une base de E.5. . . pour γ ∈ Γ. i.2 d’arithm´ticit´ est une cons´quence de la proposition suie e e e e vante. b) Le sous-groupe Γ := {γ ∈ Γ | ϕ(Γ) ∈ HZ est d’indice fini dans Γ. e e e e 11. . T (γ)ϕj = i aγ ϕi . Le noyau de i est donc un sous-groupe semisimple ee de G dont tous les ´l´ments sont unipotents. γm ∈ Γ tels e e que la matrice (ϕi (γk )) est une matrice m × m inversible.2. . a la fois la superrigidit´ r´elle et la e ` e e superrigidit´ p-adique. Soit g ∈ G un ´l´ment du noyau de i.7 Sous les hypoth`ses du th´or`me 11.5 Restriction de K ` Q a La derni`re ´tape consiste ` remplacer le corps de nombre K par e e a Q grˆce au proc´d´ de restriction ` la Weil. les restrictions des fonctions ϕj sont encore lin´airement ind´pendantes. Par le th´or`me 7. Montrons qu’il existe une base ϕ1 . Les ´galit´s e e aγ ϕi (γk ) = (T (γ)ϕj )(γk ) = ϕ0 (γk γγj ) ∈ K i. c) Le noyau Ker p est compact.Montrons que i est injectif. comme Γ est Zariski dense dans G. Le fait qu’il soit d´fini e e e sur K r´sulte du th´or`me 7. Proposition 11. le groupe i(G) est alg´brique. Pour tout ee x ∈ G on a donc Tr(AdxAdg) = Tr(Adx). i. a e e a On utilise dans cette ´tape. L’´l´ment g est donc unipotent. .1 de densit´ de Borel et du lemme 7. Il est donc trivial. 93 . On peut donc trouver γ1 . Γ est a e e e Zariski dense dans G et il existe γ1 .j c) D’apr`s le corollaire 4. . . d) Les groupes Γ et p(HZ ) sont commensurables. Le morphisme i ee est bien injectif. ϕm de E dans laquelle les ´l´ments de ee i(Γ) sont ` coefficients dans K. e Le th´or`me 11.j De nouveau. .j i prouvent que les coefficients aγ sont dans K. .2. un morphisme ϕ : Γ → HQ a et un morphisme continu p : HR → G tels que a) π = p ◦ ϕ. . . e e e Il existe un Q-groupe semisimple H ` centre trivial. On a donc pour tout n ≥ 0 Tr(Adg n ) = Tr(Adg n−1 ) = · · · = dim g.1 de densit´ de Borel. Ecrivons.

σr1 +r2 (k)) soit un isomorphisme d’alg`bres. on peut supposer que G ⊂ GL(m) est d´fini sur e e un corps de nombre K et que Γ ⊂ GK .. . . l’´galit´ HA GK⊗Q A .. Identifions K a un sous-corps de R et notons σ1 . . pour tout alg`bre A contenant Q. dont le groupe des R-points s’identifie ` RR a GL(m. . Le groupe des points complexes HC s’identifie a (GC )r1 +2r2 . il existe des nombres premiers p1 . p−1 ] .6. Notons q la projection sur ce u 94 GL(m.2 affirme que H est un Q-groupe. En outre. . σ . . Comme le sous-groupe HZpi est ouvert dans HQpi . . on a.. . Le groupe GL(m.. Q). . . . Par construction. Regardons K comme un Q-espace vectoriel de e dimension . R)r1 × GL(m. e i c) Montrons que le noyau Ker(p) est compact. pr tels que ϕ(Γ) ⊂ HZ[p−1 . . pour tout γ ∈ Γ. Notons ϕ : GL(m. . . on a p(HR ) = G e et p(ϕ(γ)) = γ. Ce morphisme a son image dans e GL(m. Sinon. . Ce Q-groupe est not´ RK|Q (GL(m)) et est appel´ e e la restriction de K ` Q de GL(m).7 e D’apr`s la proposition 11. Comme ϕ(GK ) est e inclus dans GL(m . R) la projection sur le premier facteur. e e e e e l’image ϕi (Γ) est relativement compacte dans HQpi . . par construction. R ⊗Q K) −→ GL(m. Notons Zp l’anneau des entiers de Qp . avec σ1 = Id. R)r1 × GL(m. le sous groupe Γ := ∩i ϕ−1 (HZpi ) est d’indice fini dans Γ et v´rifie ϕ(Γ ) ⊂ HZ . a Notons H = RK|Q (G) l’adh´rence de Zariski de ϕ(GK ). R ⊗Q K) Notons p : GL(m. σ r1 +r2 les morphismes de K dans C de sorte que le morphisme σ R ⊗Q K −→ Rr1 × Cr2 k → (σ1 (k). . R). σ r1 +1 . σr1 ` les morphismes de K dans R. . σr1 +r2 . . C)r2 ⊂ GL(m . . b) Comme Γ est de type fini. K) −→ GL(m .D´monstration de la proposition 11. H est encore un Q-groupe dont les Q-points s’identifient aux Kpoints de G. on pourrait d´composer e H en produit de R-groupes H = G × F × F o` p est la projection sur le premier u facteur et o` F est simple et FR non compact. a) Commen¸ons par rappeler la construction et les propri´t´s de la “restriction c ee de Weil” H = RK|Q (G). D’apr`s le th´or`me de superrigidit´. r 1 Soit ϕi la compos´e Γ → HQ ⊂ HQpi . K) s’identifie ainsi au groupe RQ des Q-points d’un Qsous-groupe R de GL(m ). et σr1 +1 . C)r2 . On en ` d´duit que le Q-groupe H est donc semisimple. Q) le morphisme de groupes qui s’en d´duit. le lemme 7. e e e En particulier.

On peut en outre remplacer cette hypoth`se de rang par e Γ est d’indice infini dans son commensurateur Com(Γ) o` Com(Γ) := {g ∈ G | gΓg −1 et Γ sont commensurables }. le groupe Gk des k-points d’un k-groupe semisimple G contient toujours des r´seaux cocompacts et des r´seaux non cocompacts. Donc ϕ(Γ ) est d’indice fini dans e e HZ et Γ et p(HZ ) sont commensurables. d) D’apr`s le c) ϕ(Γ ) est un r´seau de HR . Remarques (voir [16]. Ceci contredit la Zariski densit´ de ϕ(Γ) dans H. .Si k est un corps p-adique.Si k = R ou C. u . L’image q ◦ ϕ(Γ) est Zariski dense dans F. En particulier. avec p premier ou ∞ et Gp le groupe des Qp -points d’un Qp -groupe semisimple sous l’hypoth`se e p rangQp Gp ≥ 2. L’image ϕ(Γ) serait alors inclus dans le sous-groupe ferm´ Graphe(ψ) × F . Donc le noyau Ker(p) e est compact. e .Si k est un corps local de caract´ristique non nulle. le groupe Gk des k-points e d’un k-groupe semisimple G contient toujours des r´seaux non cocompacts mais e pas toujours des r´seaux cocompacts. Ce groupe n’est pas Zariski dense e dans H. cette e image n’est pas born´e.IX) .Comme pour le th´or`me de superrigidit´.deuxi`me facteur. Le th´or`me 10.1 de superrigidit´ prouve que q ◦ ϕ se e e e e prolonge en un morphisme continu ψ : G → F . le groupe Gk des k-points d’un k-groupe semisimple G contient toujours des r´seaux et ceux-ci sont toujours cocompacts. le th´oe e e e r`me d’arithm´ticit´ et sa d´monstration sont valables dans un cadre beaucoup e e e e plus large : on peut prendre pour G un produit fini G = Gp . e e . e 95 .

e Remarques .3 Si µ est B-invariante. | s ∈ R} et B − = AU − . U = {us := 1 0 s 1 | s ∈ R}. (voir la d´monstration du corollaire ee e 5. R). e e Dans cette section on notera aussi A = {at := U − = {u− := s 1 s 0 1 t 0 0 t−1 | t > 0}. e e Lemme 12. alors µ est Ae e invariante. Le th´or`me 8.Lorsque Γ est cocompact. R).1 Soit G = SL(2.2 Si µ n’est pas port´e par une U -orbite p´riodique.Lorsque Γ n’est pas un r´seau.1 Elle r´sulte des lemmes suivants.6. le premier cas est impossible car Γ ne contient pas d’´l´ment unipotent non trivial. on peut trouver un e 96 . D´monstration de la proposition 12. u` Proposition 12. B=AU.b) . La quantit´ d(s) est la d´rive du param´trage et D(s) la e e e d´rive transverse. lorsque g n’est pas dans B.R)/Γ Dans cette partie. le deuxi`me cas est impossible car µ(X) = 1. Alors ou bien cette probabilit´ µ est port´e par une U -orbite p´riodique ou bien e e e cette probabilit´ µ est G-invariante.12 12.6 de Birkhoff appliqu´ ` une famille d´nombrable dense de fonce e ea e tions de Cc (X) prouve que µ(Z) = 1. alors µ est G-invariante. On verra que. Lemme 12. Il est dˆ a Dani dans ce cas. D´monstration du lemme 12.1 Mesures invariantes Mesures U -invariantes sur SL(2.2 Expliquons tout d’abord la d´marche que e e nous allons suivre. Soient Γ ⊂ G un sous-groupe discret et µ une probabilit´ U -invariante U -ergodique sur e le quotient X = G/Γ. Soit Z = {x ∈ X | lim 1 t→∞ t t ϕ(us x)ds = 0 X ϕ dµ pour tout ϕ ∈ Cc (X)}. L’id´e est de prendre deux points proches e x et gx dans Z et de comparer les moyennes orbitales de ϕ issues de x et de gx. nous montrons le th´or`me mesur´ de Ratner e e e pour G = SL(2. On ´crit e us gx = D(s)ud(s) x avec D(s) dans B − .

u En effet. e Distinguons deux cas. αn + s 1+s 1 + s0 0 0 1 1+s0 ∈ A. pour tout s1 < s2 . la convergence uniforme pour e x ∈ Z0 . αn βn Notons gn = et choisissons xn ∈ Z0 tel que gn xn ∈ Z0 .“long” intervalle de temps I pendant lequel D(s) est presque ´gal a un ´l´ment e ` ee non trivial a de A. Par d´finition de Z0 . On va montrer que X ϕ dµ = ϕa dµ. en posant ϕa (y) = ϕ(ay). Ce qui implique que µ est A-invariant. ` Il reste ` justifier ces . λ→∞ s2 − s1 s X 1 97 . On aura alors. ce qui prouvera que µ est A-invariante. pour tout ϕ ∈ Cc (X). ϕ dµ X 1 (I) ϕ(us gx)ds I 1 (I) ϕa (ud(s) x)ds I X ϕa dµ. Pour tout ε0 > 0. On peut supposer que ϕ ∞ ≤ 1. gn → e telle que gn Z0 ∩ Z0 = ∅. Un calcul matriciel avec λn = γn → ∞ donne uλn s gn = Dn (s)uλn dn (s) o` u Dn (s) = et dn (s) = Soient ϕ ∈ Cc (X) et a = X αn + s γn 0 1 αn +s −→ D(s) := 1+s 0 0 1 1+s βn γn + δn s s −→ d(s) := . on a. s2 1 lim ϕ(uλs x)ds = ϕ dµ. on peut trouver une partie compacte Z0 ⊂ Z de mesure µ(Z0 ) ≥ 1 − ε0 telle que. Il suffit de prendre Z0 = ∩ϕ∈F Zϕ o` les εϕ sont choisis de sorte que ϕ∈F εϕ ≤ ε0 . C’est l’objet de la d´monstration que nous d´taillons a e e maintenant. En effet. l’ensemble des fonctions ϕ ∈ Cc (X) pour lesquelles la limite (3) soit uniforme pour x ∈ Z0 est un ferm´ de Cc (X). gn ∈ B. la proposition 8.8 d’Egorov appliqu´e a une fonction f d’une partie e ` d´nombrable dense F de Cc (X) permet de construire des parties compactes Zϕ e de mesure µ(Zϕ ) ≥ 1 − εϕ telles que la limite (3) soit uniforme pour x ∈ Zϕ . la limite 1 t→∞ t lim t ϕ(us x)ds = 0 X ϕ dµ (3) soit uniforme pour x dans Z0 . 1er cas : Il existe une suite gn ∈ G. a moins que g ne soit toujours dans B. On peut γ δ n n −1 supposer γn > 0.

e 98 . qu’on prend ´gal a σ1 = d(s1 ) et σ2 = d(s2 ). pour σ1 < σ2 . En particulier. dn (s) d (s) (10) ϕ(uλn s gn xn )ds − s1 s1 ϕa (uλn dn (s) xn )ds ≤ 2ε ϕa (uλn dn (s) xn )ds − s1 σ1 ϕa (uλn σ xn ) 1 dσ ≤ 2ε |dn (s)| d’apr`s (9). 1 n→∞ s2 − s1 lim s2 ϕ(uλn s gn xn )ds = s1 X ϕ dµ. (4) De la mˆme fa¸on. s2 ]. on e c e ` a σ2 1 lim ϕa (uλn σ xn )dσ = ϕa dµ. pour n ≥ n0 1 s2 − s1 d’apr`s (6) et (8) e 1 s2 − s1 s2 σ2 s2 s2 1 1 − ≤ ε. on ait ϕDn (s) − ϕD(s) ∞ (7) ≤ ε. e on peut choisir s1 < s2 suffisamment proche de s0 pour que. o` σ = dn (s) e u 1 s2 − s1 σ2 σ1 1 1 ϕ (uλn σ xn ) dσ − |dn (s)| s2 − s1 a s2 ϕa (uλn σ xn )dσ ≤ 2ε s1 d’apr`s (7) et (10). on ee peut se ramener ` de telles moyennes sur des portions d’orbites. s2 ] et [0. on ait ϕD(s) − ϕa ∞ ≤ ε (6) et 1 σ2 − σ1 − 1 ≤ ε. (8) (9) |si − d−1 (σi )| ≤ ε(s2 − s1 ) n pour i = 1. Soit ε > 0. s2 ]. par simple soustraction pond´r´e de moyennes sur [0. s1 ]. 2 et σ2 − σ1 s2 − s1 On a alors. d (s) s2 − s1 On choisit alors n0 tel que. a pour tout s1 < s2 . pour tout n ≥ n0 et s ∈ [s1 . pour s ∈ [s1 .En effet. (5) n→∞ σ2 − σ1 σ X 1 Expliquons tout d’abord dans quel ordre on choisit les param`tres.

99 .6 de Mautner e a et de l’´galit´ lim at us a−1 = e. e toutes les orbites de U dans B/∆ sont ferm´es. µ(Bx) = 1. On en d´duit que ϕ(u− x) = ϕ(x) puis que U − Y = Y . pour µ-presque tout x ∈ X. Dans les deux cas. Donc µ(Bx) > 0 et par ergodicit´. D´monstration du lemme 12. Il est facile de d´crire tous les sous-groupes e e discrets de B.3 Remarquons que µ est B-invariante et U e ergodique. µ est e port´e par une U -orbite (cf. Comme µ est ergodique. Ce qui termine la d´monstration e e du lemme 12.3). pour tout u− ∈ U − e s t→∞ lim (ϕ(aet u− x) − ϕ(aet x)) = lim (ϕ(u− s aet x) − ϕ(aet x)) = 0. s e−2t t→∞ Ce calcul traduit le fait que les deux g´od´siques issues de x et de u− x se rape e s prochent exponentiellement vite vers +∞. Cette intersection Dx ∩ Z0 est incluse dans l’orbite Bx. gn ∈ B. notons D e un voisinage de e dans G tel que les ´l´ments g ∈ D. Soit λ une mesure Ge e e invariante sur G/Γ. On d´duit des trois paragraphes pr´c´dents que λ(Y c ) = 0. e e t t→0 Pour x ∈ X et ϕ ∈ Cc (X). gn → e avec gn Z0 ∩ Z0 = ∅. et que µ(Y ) = 1. ee e Il existe un point x = gΓ ∈ Z0 tel que µ(Dx ∩ Z0 ) > 0. l’ensemble Bx = {b ∈ B | bx ∈ Y } est de compl´mentaire n´gligeable pour la mesure de Lebesgue de B. e 2`me cas : Il n’y a pas de suite gn ∈ G. µ) e ee qui est A-invariant est forc´ment U -invariant ` cause du lemme 6. On dit qu’elles sont sur la mˆme feuille e stable du flot g´od´sique. on a µ(Y c ) = 0. e e e s Comme la probabilit´ µ est B-invariante. e −1 Le groupe ∆ := B ∩ gΓg est un sous-groupe discret de B et µ est une probabilit´ U -invariante sur B/∆.6 de Birkhoff. C’est-`-dire que e e e a ϕ(x) = X ϕ dµ pour λ-presque tout x. X Comme ε est arbitraire. On en d´duit que µ est A-ergodique. on note ϕ(x) = lim inf t→∞ 1 t t ϕ(aes x) ds et Y = {x ∈ X | ϕ(x) = 0 X ϕ dµ}. Montrons que λ(Y c ) = 0.Ces trois majorations avec (4) et (5) donnent ϕ dµ − X X X ϕa dµ ≤ 6ε. D’apr`s le th´or`me 8. g ∈ B v´rifient gZ0 ∩Z0 = ∅. un ´l´ment ϕ ∈ L2 (X. En effet. A conjugaison pr`s. Pour cela. proposition 8. e e La multiplication induit un diff´omorphisme entre e α β − U × B et {g = γ δ ∈ G | α = 0}. on a soit ∆ ⊂ A ou ∆ ⊂ U . on a ϕ dµ = ϕa dµ. le th´or`me de e e e Fubini prouve que.2. Remarquons que. par uniforme continuit´ de ϕ. Montrons tout d’abord que µ est port´e par une B-orbite.

On peut donc supposer que λ(X) = 1. e Remarques . Proposition 12. Cette proposition sera une cons´quence de la version faible suivante du th´oe e r`me topologique de Ratner.5 consiste a partir d’un ferm´ U e ` e invariant minimal K de l’adh´rence de l’orbite F = Hx. elle est assez ´l´mentaire.La d´monstration directe que nous suivons ne se g´n´ralise pas pour d´crire e e e e les adh´rences de toutes les H-orbites. C’est-`-dire µ = λ. u` a Supposons par l’absurde qu’il existe ε > 0 tel que Q(Z3 0) ne rencontre pas ] − ε. e D´monstration de l’implication Proposition 12. La proposition 12. Son d´faut principal est de ne faire appel a e e aucun argument de th´orie ergodique. on donne une d´monstration directe et rapide e de la conjecture d’Oppenheim qui fut la premi`re des motivations des e travaux de Ratner. semigroupe trop gros pour avoir des orbites born´es dans X. Z).1. on montre que K est A-invariant puis e que l’image de K par un sous-semigroupe de G reste dans F . par le th´or`me 8. e ee La strat´gie de la preuve de la proposition 12. Γ = SL(3. ε[.6 de Birkhoff. Pour conclure. Alors Q prend des e valeurs arbitrairement petites sur Z3 0.5 Soient G = SL(3. Alors toute H-orbite born´e Hx ⊂ X est compacte. On en e e d´duit que X ϕ dλ = X ϕ dµ. dˆ a Raghunathan. R) et Hx0 la H-orbite de x0 dans e X. Notons x0 le r´seau Z3 . R).5 =⇒ Proposition 12.8 u e 100 . Donc. on peut soit reprendre le calcul pr´c´dent en rempla¸ant le lemme de Fatou par le th´or`me de convergence e e c e e domin´e et les limites inf´rieures par des limites.4 (Margulis) Soit Q une forme quadratique sur R3 de signature (1. Le ϕ dλ ≤ lim inf t→∞ X 1 t t ϕ(aes x) ds dλ = 0 X ϕ dλ < ∞. on a ϕ(x) = X ϕ dλ pour λ-presque tout x. e . H = SO(Q. Pour cela choisissons ϕ ≥ 0 tel que lemme de Fatou donne alors λ(X) = X X ϕ dµ = 1. En contre-partie. 1). e Proposition 12. X = G/Γ et H = SO(2. e a 12.Born´e signifie relativement compacte. On peut aussi remarquer que λ e e est A-invariante et A-ergodique par le corollaire 6.Montrons que λ(X) < ∞.2 Petites valeurs des formes quadratiques Dans cette section. n’est pas propre ` la dimension 3.4 de Howe-Moore. 2) qui n’est pas multiple d’une forme quadratique enti`re.4 e L’argument qui suit. Par un argument proche e de l’argument de d´rive de la section 12.5 est bien sˆr aussi valable pour ce groupe H. Le crit`re 1.

On peut supposer que l’un des coefficients ai. On choisit λn > 0 tels que n→∞ sup s∈[−1. Quitte a extraire.1] ϕ(s) − v0 = 1. e Soit µ ∈ C tel que Qσ − µQ est d´g´n´r´e. La suite des polynˆmes o n→∞ ϕn : s → uλn s vn est born´e sur [−1.de Mahler prouve que cette orbite est relativement compacte. U = {us | s ∈ R} un groupe ` un param`tre de transformations unipotentes et F l’ensemble a e des points fixes de U dans E.1 de densit´ de Borel. Remarquons que le groupe Γ ∩ H est un r´seau cocompact e de H. on a ut ϕ(s) = lim ut ϕn (s) = lim ϕn (s + t/λn ) = ϕ(s) n→∞ n→∞ 101 . ε[) est un voisinage de 0 qui ne rencontre qu’en 0 les r´seaux e Λ ∈ Hx0 . Alors U D ∩ F contient un chemin polynomial non constant passant par v0 . on peut supposer qu’elle e ` converge uniform´ment sur [−1. Soit σ ∈ Gal(C|Q) et Q (x) = a aσ xi xj . Par le th´or`me 7. En effet. on en d´duit que H ⊂ SO(Qσ .j est ´gal ` 1. 1] vers un polynˆme ϕ.j σ montrer que Q = Q . Soient D une partie de E F et v0 un point de D ∩ F . il est donc Zariski dense dans H. Par construction. Cet e argument nous est maintenant bien familier. Ce polynˆme est non e o o constant car ϕ(0) = 0 et sup s∈[−1. e En outre.6 Soient E un R-espace vectoriel de dimension d < ∞. L’irr´ductibilit´ de l’action de H sur C prouve que Qσ = Q.1] uλn s vn − vn = 1.1. C’est possible car l’application s → us vn est polynomiale non constante de degr´ e born´ par d. pour ut ∈ U .i . Forc´ment e e e σ µ = 1 et Q = Q. D´monstration du lemme 12. Le groupe H pr´serve donc le noyau de e e ee e σ 3 Q −µQ. l’ouvert Ω := Q−1 (] − ε. Le lemme suivant est bas´ sur l’aspect polynomial des flots unipotents. 1].j xi xj avec ai. e e e Comme on a l’inclusion Γ ∩ H ⊂ SO(Qσ . Il jouera le rˆle de l’argument de o d´rive de la section 12. on a ϕ(R) ⊂ U D. En outre. C). e Lemme 12. on a lim λn = ∞ car v0 est un point fixe de U . ϕ prend ses valeurs dans F car. Montrons que cela implique que Q est multiple d’une forme quadratique enti`re. Montrons que Q est e a σ alors ` coefficients dans Q.j = aj. La proposition 12. C).6 Soient vn une suite de points de D tels que e lim vn = vn .5 prouve alors que cette orbite Hx0 est compacte. e Ecrivons Q(x) = ai. Il suffit de i.

on a soit AU V + (K) ⊂ F e − ou AU V (K) ⊂ F .5 Rappelons que. e D´monstration Le point y ∈ X est un r´seau de R3 . Lemme 12. Le groupe H contient alors e 2 les deux groupes     A = {at := et  0 0 0 0 1 0  | t ∈ R} . Certains sous-groupes a un param`tre de G vont jouer un rˆle important dans la ` e o d´monstration. x2 . 0. e La deuxi`me fois via le lemme 12. pour v = (x1 . les ensembles AU V ± (K) ne sont e pas born´s dans X. Fixons les notations : on peut supposer que la forme quadratique e s’´crit. La premi`re fois via le lemme 12. On suppose par l’absurde que F = Hx. D´monstration du lemme 12. Soit F = Hx. On notera V ± := {vs ∈ V | ±s > 0}. Sinon.8. x2 . Les gros sous-semi groupes dont nous parlions ci-dessus sont AU V ± . e e Lemme 12. On pose e 2 gt = at u−x2 /x3 v(x2 −2x1 x3 )/2x2 ∈ AU V ± 2 3 et on calcule gt p = (0. On v´rifie facilement que U et V commutent.7.8 Remarquons tout d’abord que K n’est pas e une U -orbite compacte. Le crit`re 1. On peut choisir un point e e p = (x1 .8. Notons V = R}.8. d’apr`s le lemme 12.6.8 Soit K un compact U -invariant minimal du compact F = Hx. les orbites AU V + y et AU V − y ne sont pas born´es dans X. x3 ) ∈ R3 . On va appliquer deux fois le lemme 12.8 de Mahler e ± prouve donc que AU V y n’est pas relativement compact. D’apr`s le lemme 12. 0 e−t   1 0 s {vs :=  0 1 0  | s ∈ 0 0 1 U = {us := 1  0 0 s 1 0 s2 /2 s  1 | s ∈ R}. D´monstration de la proposition 12. on a utilis´ les deux lemmes suivants. e−t x3 ) → 0 quand t → ∞. x3 ) dans ce r´seau tel que x3 = 0 et ±(x2 − 2x1 x3 ) > 0.7 Pour tout y ∈ X. on pourrait trouver y dans K et s = 0 tels que 102 . e Dans cette d´monstration. Le groupe V n’est pas inclus dans H.9. D’apr`s le lemme 12. tout compact U -invariant non vide de X contient un compact U -invariant minimal. Mais. que e les produits B := AU et W := U V sont des groupes et que le normalisateur de U est le groupe NG (U ) = AU V .par uniforme convergence. e Soit K un compact U -invariant minimal de F . que A normalise U et V . ce come pact K est aussi AU -invariant. par un argument a la e ` Zorn. Alors K est AU -invariant. Q(v) = x2 − 2x1 x3 . Contradiction.

Pour pouvoir appliquer le lemme 12. 103 . Dans les deux cas.8. on a gK = K. e ` Le lemme 12. Pour v´rifier cette derni`re affirmation. Montrons que K est L-invariant. pour tout y ∈ K. Dans les e deux cas.9 On suppose que l’orbite Hx n’est pas compacte. le ferm´ gK ∩ Kest U -invariant e et non vide et. Comme H/AU est compact et que l’orbite Hx n’est pas compacte. L’ensemble des points fixes de U dans G/U est ´gal a NG (U )/U AV . Cela r´sulte du e r´sultat g´n´ral 4. Pour tout g dans dans M ∩ AV .9 Le raisonnement est tr`s proche de celui du e e lemme 12. e Il existe une suite gn dans M H convergeant vers e. a a M est ferm´. ` remarquons qu’il existe une repr´sentation lin´aire de G dans un espace vectoriel e e E de dimension finie et un point v0 ∈ E tel que Gv0 G/U . e L’ensemble M := {g ∈ G | gK ∩ K = ∅} v´rifie les trois propri´t´s suivantes. e Pour conclure.7. (1. K ne peut pas ˆtre inclus dans Hx. c’est un sous-groupe de Lie connexe non trivial de AV . ce qui contredit la t→∞ compacit´ de F .6 et les trois propri´t´s ci-dessus prouvent que l’on est dans l’un ee des deux cas suivants : 1er cas La suite gn est dans AV U pour n 0. car at vs0 a−t v−s0 = v(e2t −1)s0 . il existe une suite usn ∈ U avec sn → ∞ telle que usn y → y. on a donc AU V + y ⊂ HLy ⊂ F. par minimalit´ de K. Par minimalit´ e e e de K. D´monstration du lemme 12. `me e 2 cas Il existe une application continue non constante ϕ : R → AV ∩ M .7 de Chevalley. on a e + V ⊂ AL.6 a l’image D de la suite gn dans G/U . Notons L la composante connexe du groupe engendr´ par M ∩ AV . a a M est ferm´. On est alors dans l’un des deux cas suivants : L = V ou vs0 Av−s0 avec s0 = 0. e ee M est U -invariant ` droite et ` gauche. On peut ˆtre aussi tr`s explicite en prenant e e e e e E = { formes quadratiques sur R3 } × R3 et v0 = (Q.us y = y. on choisit un point y ∈ K. Dans ce deuxi`me cas. ` Supposons par l’absurde que ce ne soit pas vrai. Donc at y tend vers l’infini. M est H-invariant ` droite et AU -invariant ` gauche. e L’ensemble M := {g ∈ G | gF ∩ K = ∅} v´rifie alors les trois propri´t´s e ee suivantes. il reste a montrer que L contient A. Lemme 12. Donc K est bien L-invariant. On ´crit alors e y = gn usn y avec gn → e. Alors on a soit AU V + (K) ⊂ F ou AU V − (K) ⊂ F . Ce qui contredit le lemme 12. e Il existe une suite gn dans M U convergeant vers e. On aurait alors ue−t s at y = at y. Soit K un compact AU -invariant minimal du compact F = Hx. 0. 0)). Or les points de X ont un stabilisateur discret dans G et lim ue−t s = e.

On peut ˆtre aussi explicite que dans le lemme 12. puis V K ⊂ F et enfin AU V K ⊂ AU F = F . l’intersection vF ∩ K est non vide et U -invariante. Pour tout v ∈ V − . Le lemme 12. `me e 2 cas Il existe une application continue non constante ϕ : R → V ∩ M . Comme M est invariant par conjugaison par A.6 et les trois propri´t´s ci-dessus prouvent que l’on est dans l’un ee des deux cas suivants : 1er cas La suite gn est dans V H pour n 0. Pour appliquer le lemme 12.6 a l’image D de la suite gn dans G/H. e Supposons par exemple V − ⊂ M . on a M ∩ V = e.8 assure que K est un ferm´ U -invariant e + + minimal. On a alors une suite hn ∈ H telle que hn x → y.7 qu’il existe une repr´sentation lin´aire de ` e e G dans un espace vectoriel E de dimension finie et un point v0 ∈ E tel que Gv0 G/H. on remarque ` de nouveau a l’aide du corollaire 4.8 en prenant e E = { formes quadratiques sur R3 } et v0 = Q. On a donc K ⊂ vF . On ´crit alors y = gn hn x e avec gn → e. l’ensemble des e points fixes de U dans G/H est ´gal a NG (U )H/H = V H/H V . Comme tous les sous-groupes unipotents de H sont conjugu´s. on en d´duit que V + ⊂ M ou V − ⊂ M . Dans les deux cas. 104 .Pour v´rifier cette derni`re affirmation. on prend un point y ∈ K hors de l’orbite e e Hx. e ` Le lemme 12.

4 de r´currence pour e e e les marches al´atoires qui s’applique ` X. e Choisissons une boule bα avec α ≤ 1 qui ne rencontre le r´seau de d´part ∆ = x e e qu’en 0. ` Donc la proportion du temps entre 0 et T pendant lequel ut ∆ avait un point dans cette boule bαε/2 est au plus ε. e A cause du th´or`me d’arithm´ticit´ de Margulis le cas crucial est celui o` e e e e u X = SL(d. Ce que e nous supposerons dans ce chapitre. e a En outre. C’est ce que l’on voulait. R)/SL(d. pour tout T ≥ 0 |{t ∈ [0. On notera l’analogie entre ce th´or`me 13. comme ut ∆ est de volume 1. On note |I| la mesure de Lebesgue e e d’une partie I de R. la d´monstration du th´or`me 13. Notons alors t → ut = etN un groupe ` un param`tre d’´l´ments unipotents. il existe un compact K = Kx ⊂ X tel que.1 Le cas d = 2 Dans le cas d = 2. Ces intervalles Iv sont disjoints car.1 est tr`s e e e e courte : On note bε la boule de rayon ε dans R2 .2 Pr´liminaires sur les r´seaux e e Nous aurons besoin d’une version plus maniable du crit`re 1. x ∈ X. Z) est l’espace des r´seaux de volume 1 dans Rd .1 et le lemme 1. Z). ` 13. Le a e ee but de cette section est le th´or`me suivant.1 (Dani. Ce th´or`me affirme donc que les orbites du flot ut sur X passent la e e plus grande partie de leur temps a distance finie.8 de e compacit´ de Mahler e 105 .13 R´currence des groupes unipotents e Le but de ce chapitre est de montrer des propri´t´s de r´currence ee e pour les flots unipotents sur les espaces homog`nes X de volume fini. R)/SL(d. Pour tout e e ε > 0. Th´or`me 13. Pour chaque paire ±v ∈ ∆ de vecteurs primitifs. le vecteurs ut v se d´place e a vitesse constante. 13. Le crit`re de Mahler assure que e l’ensemble des r´seaux ∆ ∈ X qui ne rencontrent bε qu’en 0 est un compact. la boule bα contient a chaque instant t au plus une paire de points ±ut v avec v ∈ ∆ primitif. Donc dans l’intervalle de temps Iv qu’il a pass´ dans bα la ` e proportion de temps qu’il a pass´ dans une boule beaucoup plus petite bαε/2 est e au plus ε. le compact Kx peut ˆtre choisi uniforme pour tout x dans un compact e K de X. T ] | ut x ∈ K}| ≥ (1 − ε)T. Margulis) Soit X = SL(d.

. Z) et Y ⊂ X. e b) Pour tout C > 0. pour tout ∆ ∈ Y . On appelle drapeau ∆-rationnel de longueur . il existe un drapeau ∆-rationnel complet F tels que α ≤ d∆ (L) ≤ β. Notons S(∆) l’ensemble des sous-espaces ∆-rationnels. ıt d Lemme 13. Par exemple d∆ := d∆ (Rd ) est le covolume de ∆. L∈S(∆) inf d∆ (L) ≥ b. v∈∆−0 (iii) Il existe b > 0 tel que. (iv) Il existe β > α > 0 tels que. ∆ → min d∆ (L) est continue. (ii) Il existe a > 0 tel que. On dit que le drapeau F est complet si = d − 1. Les assertions suivantes sont ´quivalentes. un ensemble F de sous-espaces ∆-rationnels non triviaux qui est totalement ordonn´. On note cd la constante cd = 2(1/vd ) d o` vd = 1 d volume de la boule euclidienne dans Rd . au cours de la d´monstration. On note alors SF = SF (∆) l’ene semble des sous-espaces ∆-rationnels propres L tels que F ∪ {L} est un drapeau ∆-rationnel de longueur k + 1. c) L’application X →]0. un sous-espace ∆-rationnel L ⊂ Rd est un sous-espace tel que ∆ ∩ L est un r´seau de L. pour tout ∆ ∈ Y . pour tout L ∈ F .3 a) Tout r´seau ∆ ⊂ Rd contient un vecteur v avec 0 < v ≤ cd d∆ . Rappelons que. e (i) Y est relativement compact. on a M L ou L M }. Dans ce cas SF (∆) est vide. inf v ≥ a. Rappelons tout d’abord quelques affirmations que nous avons d´j` utilis´es ea e u dans la section 1.Munissons Rd d’une norme euclidienne . e On pourrait noter un tel drapeau F sous la forme F : 0 L i1 ··· Li Rd . Nous ne le ferons pas car. o 106 . les sous-espaces Li n’ape paraitrons pas forc´ment dans l’ordre croissant. 0 L Rd | pour tout M ∈ F . Autrement dit. l’ensemble {L ∈ S(∆) | d∆ (L) ≤ C} est fini. pour tout ∆ ∈ Y . SF := {L ∈ S .4.12. R)/SL(d.2 (Mahler) Soient X = SL(d. On remarque juste que cd ≥ 1 et que o e cd croˆ avec d. 1 π2 d Γ( d ) 2 2 est le L∈S(∆) D´monstration C’est le lemme 1. e Le lemme suivant permet de compl´ter les drapeaux ∆-rationnels incomplets e en des drapeaux dont on contrˆle les covolumes. La valeur pr´cise de cette constante ne e jouera pas de rˆle dans la d´monstration. ∞[. On note alors e d d∆ (L) := covolL (∆ ∩ L).10 de Minkowski et le lemme 1. Proposition 13. pour ∆ r´seau de e R .

3. ∆ ∈ X et F un drapeau ∆-rationnel incomplet tel que. On a alors v ≥ d(Li )/d(Li−1 ) ≥ α/β. On perd au plus un facteur cd a chaque ´tape. C’est la majoration cherch´e. on construit le drapeau F par r´currence a e ` l’aide du lemme 13.a de Minkowski ` l’image de a L2 ∩ ∆ dans L2 /L1 . Pour la majoration. Soit v un vecteur non nul dans un des r´seaux ∆ ∈ Y . Pour cela.4 Soient β ≥ 1. Notons P m l’espace des polynˆmes sur R de degr´ au plus m. l’autre sur les recouvrements d’un ino tervalle. on peut prendre pour constante β = (cd )d . on peut trouver deux souse espaces ∆-rationnels successifs L1 ⊂ L2 de dimension d1 < d2 avec δ := d2 −d1 ≥ 2 avec Li ∈ F ∪ {0. Alors il existe M ∈ SF (∆) tel que d∆ (M ) ≤ cd β. on peut trouver un vecteur v ∈ L2 L1 dont l’image v dans L2 /L1 est de norme au plus v ≤ cd (d∆ (L2 )/d∆ (L1 )) δ .8. C’est la minoration cherch´e. D´monstration Comme le drapeau F est incomplet. pour tout L ∈ F . e 1 1 1 13. (iii) =⇒ (iv) La minoration est claire. Rd }. l’un sur ee les polynˆmes en une variable. e D´monstration de la proposition 13.2 (i) ⇐⇒ (ii) C’est la proposition 1. Notons L1 · · · Ld−1 le drapeau ∆-rationnel complet e F donn´ par la condition (iv) et posons L0 = 0 et Ld = Rd . Le sous-espace M = L1 ⊕ Rv est alors dans SF (∆) et v´rifie e d∆ (M ) ≤ v d∆ (L1 ) ≤ cd d∆ (L1 )1− δ d∆ (L2 ) δ ≤ cd β. ` e (iv) =⇒ (ii) On peut supposer 0 < α < 1 < β. Soit i l’entier tel que e v ∈ Li − Li−1 .3 Autres lemmes pr´liminaires e Voici deux lemmes ´l´mentaires dont nous aurons besoin. En appliquant le lemme 13. Le lemme suivant o e exprime qu’un polynˆme ne peut pas ˆtre petit trop longtemps et ce avec un o e contrˆle uniforme qui ne d´pend que du degr´ du polynˆme. o e e o 107 . d∆ (L) ≤ β.c. En effet. e (ii) =⇒ (iii) Cela r´sulte du lemme 13.3. une fonction continue e strictement positive sur un compact est minor´e par une constante strictement e positive.4.Lemme 13.

Le nombre d’´tape ` e dans cette r´currence est donc d − 1. Lemme 13. u 13. Pour montrer le th´or`me 13. Le chevauchement est le nombre maximum d’intervalles Iα dont l’intersection est d’int´rieur non vide. on va utiliser le crit`re (iv) de Mahler. Alors. .6 Soit I = ∪α∈A Iα un recouvrement d’un intervalle compact I ⊂ R par des intervalles Iα ouverts dans I. ei est une base de ∆ ∩ L. e e e e cette suite pn une valeur d’adh´rence p∞ ∈ P m .4 La r´currence qui prouve la r´currence e e Pour d´crire le compact K dans lequel ut ∆ passe plus de 1 − ε e de son temps. . ce qui nous donne une constante b par le crit`re (iii) de e Mahler. y1 [ contenant y0 avec y1 maximum. Par compacit´ de la sph`re unit´ de P m . On prend alors e un intervalle Iα0 = [x0 .1] |pn | = 1 et {t ∈ [0. e o mais l’ensemble de ses racines est de mesure au moins ε. e D´monstration On extrait tout d’abord un recouvrement fini. On veut contrˆler. e 108 . C’est un polynˆme de degr´ au plus 2d2 car on a l’´galit´ pL (t) = ut e1 ∧· · ·∧ut ei o e e e o` e1 . Et on continue. La proposition technique qui met en place e cette r´currence est la suivante. il existe un sous-recouvrement I = ∪α∈A Iα de chevauchement au plus 2. on partira d’un point x = ∆ dans e e e un compact K ⊂ X. Contradiction. en ajoutant ` chaque ´tape. on a {t ∈ I | |p(t)| ≤ Mε supI |p| } ≤ ε|I|. e e Puis un intervalle Iα1 =]x1 . ε > 0 et une suite de polynˆmes pn ∈ e o 1 m P telle que sup[0. y0 [ contenant l’extr´mit´ gauche de I avec y0 maximum. On o introduit donc le polynˆme sur R o pL : t → dut ∆ (ut L)2 . . pour tout temps t un e e a e nouveau sous-espace a un drapeau ∆-rationnel de longueur .1 de r´currence. .5 Pour tout ε > 0. il existe Mε > 0 tel que pour tout intervalle I et 1 tout polynˆme p ∈ P m . On proc`dera par r´currence. 1] | |pn (t)| ≤ n } ≤ ε. Ce polynˆme p∞ est non nul. o D´monstration Sinon il existerait m ≥ 0. le covolume dans L de ut (∆ ∩ L). Il s’agira donc e de construire ` chaque instant t convenable un drapeau complet F de a sous-espaces ∆-rationnels Li dont on contrˆlera les covolumes carr´s o e pLi (t).Lemme 13. pour L ∈ S(∆). Cet ensemble est une r´union d’au plus 2m intervalles.

la condition (b ) est vraie d`s que β ≥ c2 β. e e e Par la condition (c) et le lemme 13. t∈I t∈I La condition (a ) est donc v´rifi´e d`s que α ≤ α. il existe un drapeau F = F ∪{L0 } avec L0 ∈ SF tel que (a ) inf (sup pL (t)) ≥ α L∈SF t∈I t∈I L∈SF (b ) sup( inf pL (t)) < β (c ) (d ) sup pL (t) < β t∈I ∀L ∈ F sup pL0 (t) ≥ α . (b ). t∈I Remarque On ne peut pas en g´n´ral r´duire la taille des intervalles I de sorte e e e qu’ils soient d’int´rieur disjoint sans perdre les conditions (a ) et (d ). sup pL (t) ≥ α. On distingue deux cas. D’apr`s le lemme 13. on doit fournir un e intervalle I contenant t0 dans son int´rieur et un sous-espace L0 ∈ SF v´rifiant e e (a ).6.7 Pour tout t0 ∈ I. e d Par (c) et l’´galit´ sup pL0 (t) = α. e e e t∈I La mˆme ´galit´ prouve que la condition (d ) est valide d`s que α ≤ α.4.7 Soit β > 1 > α > 0 et posons β = cd β et α = α. cette in´galit´ est une ´galit´ e e e e e sup pL0 (t) = α et on a. la condition (a ) est automatique d`s que α ≤ α. Il existe un recouvrement fini de chevauchement au plus 2 de I par des intervalles compacts I tels que sur chaque I . a ` On choisit alors un intervalle compact I dont l’int´rieur contient t0 sur lequel on e a encore sup pL0 (t) < β t∈I Dans ce cas. (c ) et (d ).3. On choisit. la condition (c ) est vraie d`s que β ≥ β.Proposition 13. pour tout L ∈ SF . e e e e e 2`me cas : Pour tout L ∈ SF . on a pL (t0 ) ≥ α. e D´monstration de la proposition 13. On choisit donc un intervalle compact I de longueur maximal dont l’int´rieur contient t0 . On extraira alors le sous-recouvrement de chevauchement au plus 2 ` l’aide du lemme 13. il n’y a qu’un nombre fini de tels sous-espace ∆ rae tionnels L. grˆce a la condition (b) un sous-espace L0 ∈ SF tel que pL0 (t0 ) < β. e 109 . a 1er cas : Il existe L ∈ SF tel que pL (t0 ) ≤ α. pour lequel il existe L0 ∈ SF tel que sup pL0 (t) ≤ α. Soient I un intervalle compact et F un drapeau ∆-rationnel incomplet tel que (a) L∈SF inf (sup pL (t)) ≥ α t∈I (b) sup( inf pL (t)) < β t∈I L∈SF (c) sup pL (t) < β t∈I ∀L ∈ F. e t∈I Par la condition (a) et la maximalit´ de I .

e 1 110 . . il suffit de la comprendre en t = 0. a On construit ensuite successivement d−1 couples de r´els αk = αk−1 et βk = e 2 (cd ) βk−1 ainsi que d−1 recouvrement de [0. T ] et F = ∅. On a donc αd−1 = b2 et βd−1 = (cd )2d . La condition (b) est donc satisfaite avec β = β0 = c2 . Ces r´seaux ut ∆ pour t ∈ J sont donc dans e un compact K qui ne d´pend que de ε et de b. Les r´seaux ut ∆ correspondant aux temps t hors de J contiennent un drapeau e complet de sous-espaces ∆-rationnel dont les covolumes carr´s sont dans l’intere αd−1 e valle [ Mε . e e e La minoration pL0 (t0 ) ≥ α garantit la condition (d ) d`s que α ≤ α. on a pour le sous-espace L0 correspondant |{t ∈ I | pL0 (t) < αd−1 }| ≤ ε0 |I |.4. Pour valider la condition (b).2 de Mahler avec les 0 constantes α = b/Mε20 et β = (cd )d . la condition (b ) est vraie d`s que β ≥ c2 β. Le premier ayant un chevauchement au plus 2. le deuxi`me un chevauchement au e plus 4.Par la condition (c) et le lemme 13. Mε0 αd−1 Mε0 On retire de chacun de ces intervalles I les points t tels que pL0 (t) < L’ensemble J de tous ces points t est de mesure au plus 2d ε0 T = εT.1 On applique d−1 fois la proposition 13. le dernier un chevauchement au plus 2d−1 . T ] par des intervalles compacts.2 de Mahler. on applique le lemme 13.5 et les conditions (d ). d Noter qu’` ce stade. Le chevauchement total est donc au plus 2d . e d Par (c) et le choix ci-dessus. Pour valider la e e condition (a).7. .. D’apr`s la condition (iii) du e crit`re 13. βd−1 ]. e e e On commence la premi`re ´tape avec I = [0. e D´monstration du th´or`me 13. dans chacun des intervalles I ..3 de Minkowski : chaque r´seau ut ∆ contient un vecteur e non nul de norme au plus cd . Posons ε0 = 2−d ε.. la condition (c ) est aussi v´rifi´e d`s que β ≥ β. Par le lemme 13. On applique la condition (iv) du crit`re 13. la condition (a) est vraie avec une constante α = α0 = b2 e uniforme pour ∆ dans un compact K de X. la condition (c) est vide.

33 (1987) p.Alperin . [14] S.1-25. e [10] A.Algebraic groups and number theory. Tata Inst. Publ.Editions de l’Ecole Polyteche nique. Springer GTM (1988).Tits .Recurrence properties of random walks on finite volume homogeneous spaces.Random walks on the spaces of lattices and the finiteness of covolumes of arithmetic subgroups. 24 (1961) p. [21] M. Acad.Cohomologie des groupes discrets.Non-abelian harmonic analysis. Serre . R.Theorie alg´brique des nombres.Algebras with involutions and the classical groups. Math. [6] A. in Journ´es X-UPS 2001. [17] G. preprint (2003). Ac.Benoist .111-122. Studies 70.ens. in Encyclopedia of Math. e 249 (1959) p. Asterisque (1989). in Contribution to function theory.Valette .Structure des groupes de Weyl.Introduction aux groupes arithm´tiques.A’Campo. Lect.Howe. V.Kleinian groups.409-425. A.On discontinuous groups in higher dimensional symmetric spaces.Harder . S´minaire Bourbaki 288 (1965). [19] G.Zimmer . e e e Margulis. A. [8] A.Burger . Stud.147-164. Res. [3] Y. 21 Springer (2000).Witte-Morris .de la Harpe. E. Math.Tits .Sur la classification des groupes alg´briques semi-simples. Tata (1960) p.53-107.u-psud.Bourbaki . Birkhauser (1984). Un cours ` l’´cole a e d’´t´ de Grenoble 2004***. Hermann (1969).589-623. G.R´seaux arithm´tiques et commensurateur d’apr`s G.Raghunathan . Hermann Paris (1971). J.Discrete subgroups of semisimple Lie groups. ee [5] A.La propri´t´ T de Kazhdan.Maskit.Vinberg. of Math.p.Groups and geometric analysis.Tan . P. Reine Angw. GTM 126 Springer (1991).Eskin.Rapinchuk . [12] P.Ergodic theory and semisimple groups.Weil . Paris-Sud & CNRS yves.Borel .Benoist . e [23] A. Springer(1972). Sci.Rigidity of lattices : an introduction. [15] R.Compact Clifford-Klein forms of symmetric spaces. Indian Math. *** [11] M.dma. G.Helgason . Ens.39-137. Press (1994).An elementary account of Selberg’s lemma.Platonov. [26] J. Sc.Selberg .Discrete subgroups of Lie groups. [20] V. [2] R.Existence of discrete cocompact subgroups of reductive groups over local fields.Margulis . Topology 2 (1963) p. A.Shvartsman . Springer Ergebnisse (1991).Borel. [30] D. [25] J. J. Universitext Springer (1992). ee [13] S.Margulis . Soc.Weil . Acad. IHES 34 (1967) p. [29] A.1438-1440. Fund. e [27] E. 116 (1994) p. [18] B.Differential geometry. C.Gorbatsevich.Margulis .benoist@math.Discrete subgroups of Lie groups. [24] J-P. M.Basic number theory.Pansu . 298 (1978) p. O. Notes in Math.Samuel . Press (1978). Paris (1975).Five lectures on lattices in semisimple Lie groups. Univ. [16] G.Linear algebraic groups. Ann. Math. 1504 (1991) p.Introduction to arithmetic groups.fr/˜benoist 111 .Groupes et alg`bres de Lie. [22] P. [28] A.269273.fr www. 17 (2004) p. Math. [4] Y.Gromov.77-169. [9] N.Borel .53-64.Helgason .Borel . Press (1984). Acad. Math.R´f´rences ee [1] N.Pavages du plan.Mostow . Lie groups and symmetric spaces. Invent. Springer (1973). e [7] A. [31] R. in Algebraic groups and arithmetic.Quasiconformal mappings in n-space and the rigidity of hyperbolic space forms.

You're Reading a Free Preview

Download
scribd
/*********** DO NOT ALTER ANYTHING BELOW THIS LINE ! ************/ var s_code=s.t();if(s_code)document.write(s_code)//-->