Chapitre II

Repr~.sentations d~equelques groupes compacts

§ t . Etude des groupes U(n) e_~t S~J(n)

Soit H un espace de Hilbert de dimension finie n. On appelle ~roupe unitaire

sur H, ou U(n) = U H ( n ) , l e groupe des t r a n s f o r m a t i o n s u n i t a i r e s de H. On a p p e l l e

~roupe s p ~ c i a l u n i t a i r e , ou SU(n), l e groupe des t r a n s f o r m a t i o n s u n i t a i r e s de d6%ermi-

nan% 1 °

L'application qui, ~ tout uEU(n), fair correspondre la transformation unitaire u

sur H d6fini% une r e p r 4 s e n t a t i o n I de U(n) sur H. On a vu dans l e c h a p i t r e p r ~ -

U

c6dent q u ' i l 6%air n a t u r e l d ' 6 t u d i e r les produits tensoriels de c e t t e r e p r 6 s e n t a t i o n avec

elle-mSme. Sol% donc k un e n t i e r fix6~ ~(k) le produit tensoriel

~(k) = H @ H @ ... @ H .

k fois
Tu la representation de U(n) sur d4finie par :

T =Tk=l @I @ . . . @ I .
U U U U U

k fois

Nous a l l o n s montrer que l a r e p r e s e n t a t i o n T n ' e s t pas i r r 6 d u c t i b l e si k > 1. Soit

U

.~(k) le produit tensoriel sym~trique de k e x e m p l a i r e s de H z i l peut ~ t r e i d e n t i f i ~

oh xl, ..., xk appar~iennent ~ H e% O"k d~signe l ' e n s e m b l e des p e r m u t a t i o n s de

1 , 2, . o . , k.
 25

Lemme (1.1)o ~ ( k ) es% un sous-espace invarian% sous l'action de T

u

Soien% Xl, x2, ..., x k k 41~ments de H, lu(Xj) = y j .

~(~'-r. x¢(1) ®'" -@ x¢(k)) ffi ~E~k Iu(X¢(1 )) ®"" @Iu(X¢(k))

CEffk
Nous u t i l i s e r o n s une i d e n t i f i c a t i o n na%urelle ~, en%re .~(k) et l'ensemble

R(k) des polyn~mes homog~nes ~ n v a r i a b l e s de degr6 k.

Sol% e l , . . . ~ en une base orthonor~ale de H. On appelle ~ l'ensemble des ~ 1 -

%iindices m = (ml, . . . , ink) %els que, pour i = 1, 2, . . . ~ k~ lgmi4n. L'ensemble

Sol% m = (m1, . . . , mk) E &. On d 4 f i n i t =i(m), pour i = 1, 2, . . . , n, comme le

nombre des mj, j = 1, 2, . . . , k, 6gaux ~ i . I1 est c l a i r que al(m ) + a2(m ) + . . .

. . + an(m ) = k . Sol%

A= a = (~1' , an) E ~u ; al + a2 + . . . + a n

ba = {mEA J ViE {1,.. ,n} ai(m ) =ait oh ~ = (al,.O,an).

aEA
416men~s de ~= sent tous les 414ments de la for~e (m~o), . . . , , (k)), oh ~C~ k.

k!
Le hombre des 614men%s de A¢ es% 4gal ~ ~lt a2! . . . ~n ! ' qu'on notera encore (~)

k!
ou ~ , en posant ~ = a l ! a2! . . . an! .

Posons ~ =~ Cm• I1 r4sulte de la d 6 f i n i t i o n de ~(k) que les ~ formen%

une base orChogonale de

a ~(k), consid4r4e come sous-espace de
~(k). On d 4 f i n i t

l'applica%ion ~ par z

(k~zal an k a
(1.2) n~ = Pa ~ Pa (z) =Pa(Zl'""Zn ) = a" 1 ... Zn = (a)z
 26

si
~I an
Co~e les p~ formen% une base de
~k l'application ~ est
Z ---- Z I .*. Z~ .

inversible.

On peut munir ~(k) d'un produit sealaire p a r :

(P 1, q) = (I].-lp , ll-lq),~

ou encore,si p=~E%p= , q=T-1.%p~,

~EA

(1.3) (p,q) = ~ C~(~)

aEA
p~isque II~]] 2 = (~). si p = ~ aazU , q = ~, baz~ ,
~£X ~EA

(,.~,) k l , 7q~a
(9,q) =~aaEA ba(~) =~" ~EA a ~"

si p(D) d4signe l'op4rateur d i f f 6 r e n t i e l a(~--~-_)~1 ... (Z~) alors

] n

(1.3")

L 'application llp si ~(k) e s t m u n i e de ce p r o d u i t s c a l a i r e , estune isom4trie.

Soit Su la repr6ssntation de U(n) sur ~a~k) d6finie par Su = I~ u 11-1 . N o u s

identifierons darts l'4nonc4 du lemme suivant la transformation u et sa matrice dans la

base el, ..., en, fix4e true fois pour routes, de mauibre ~ en simplifier l'4criture.

Le~e (1.4). S u p(z) = p(u'z), o~/ u' est la matrice transpos4e d Ke u .

II suffit de montrer que, pour tout ~EA,

Soit L l'~ppnca~ion ae ~k) da~s ~(k) d~fini~ par , Le z ~.e z • I1 est

m m1 mk

clair que (L~a)(z) : (a)z

k ~ = (~)(z) Dono, L[~5(k) n st

S p a ( z ) = L Tu G'a(z ) = ~ L TuCm(z ) .
mEAa

Appelons (uij) l a m a t r i c e de u r e l a t i v e m e n t A l a base e 1, . . . , en.

T ¢ = I e @ ...@I e = ~--~u . . . . u e @ ...@e

u m u mI u mk jEA Jlml 3kmk J1 3k
 27
n

LTue m = ~ . u .... u. z .... Z. = (~'~. u. z.),,,(~'~. U. Z.)

jEb 31ml 3kink "11 3k j=l 3m1 3 j=l 3mk 3

LTu ¢m = (u'z)mI "'" (u'z)~ (oh (u'z)~ est la ~ com~s~te de u'z).

Le lemme (1.4) s'en d6duit imm4diatement.

Th4or~ne ( 1 . 5 ) . L a r e p r ~ s e n t a t i o n S est irr~ductible.

Supposons qu'il existe un sous-espace V de ~k) invariant sous l'action de S

qui ne soit ni ~k ni {0}. II existerait alors une application lin4aire P de ~(k)

darts lui-m@me (la projection sur V) qui ne soit ni nulle ni l'identit4 et telle que

S P.
P u SNous a l l o n s montrer que ceci est impossible.
u = i@1

@ = (81, ..., en) 4tant donn4, soit e(@) l a matrice die4onale CA.........
.... •
~J ......... e i

Si u admet, daus la base el, ..., en, la matrice e(@),

(~ ial@1 al Jan e n a n eia.@ pa.

SuPE(Z ) = )e zI . . . e zn =

Soit (p~) ia matrice de P dens la base {p~) de ~p(k)

£SUP~ = ~'~EA Ppaeia'eP~ ' SuP Pa = ~ e i P ' ' PpaP~"

PtLisque 1~u = SuP et e est arbitraire, ~p = 0 si p ~ a : lamatrice (f~a) est

aiagonale. Si (~) est ~ e matrice qui commute avoc (%~), on en d6dui¢ i/mn4diate-

merit que, quels que soient E et ~, ~p~a = a p~ • Ii suffit done de trouver,

6rant fix6 et quel que soit p~ un 414ment u tel que le coefficient (u p p) de la

m a t r i c e de S sol% non nul pour en d4duire que P e s t de l a forme AI. Mais c h o i s i s -

U

sons ~ = (k, O, . . . , 0), de t e l l e sor%e que pa(z) = z~. A/ors :

s p~(=) = p~(u,=) = (=1Ull + 5u21 +...+ ,Unl )k

~1 f~n zl~.
~-~'u11 "'" Unl
pEA
~1 Pn es% non nulo On
Mais, l e produi% Ull . . o u 1 n'est pas nul si, quel que soit J, Ujl
 28

peut toujours trouver une transformation unitaire u telle qu'il en soit ainsi.

Th~orbme (I .6). La restriction de S ~ SU(n) est une representation irr~ductible.

La restriction d'une representation irr~ductible d'un groupe ~ un sous-groupe n'est

en g6n6ral pas irr~ductible : nous verrons en particulier que ce n'est pas vrai pour le

sous-groupe O(n) de U(n) form~ de matrices ~t coefficients r~els, et la representation

S. On peut refaire, dans le cas de SU(n), la d~monstration pr~c6dente. Consid6rant le

sous-groupe de ~J(n) form~ des matrices de la forme

i@
~ I ...... Oh

oh @I + @2 + ' " + @n = 0 (rood 2~), on montre que si, pour tout uESU(n), PSu = SuP

i~.@ i~.@
alors p~= e = pp=e quel que s o i t @ = (@1 . . . . ' @n) ' @1 + @2 + ' ' ' + @n = 0.

mi~ue T ~ . ( = i - Pi ) = F , = i - Y~.Pi = k~ = 0, on ~ . t choisir O = r(= - +), o~

est r6el. Donc, quel que soit r, p (eir(a-~)'(a-p) - 1) = 0, ce qui ne peut avoir
@a

lieu que si a = ~, ou P~a = Oo La suite de la d~monstration reste inchang~e.

Remarque. Sol% ~p,q> un produit scalaire sur

~(k) vis ~ vis duquel 3 est
U

encore, quel clue soit uESU(n) tmitaire : il existe une constante ~ telle que, quels

que soient p et q, <p,q> = ~(p,q).

Soit en effet A l'op~rateur autoadjoin% de

p(k) darts lui-m~me tel que

<p,q~ = (Ap,q). Ii r~sulte de l'hypoth~se que ASu = SuA- En vertu du lemme (1.1) du

Chapitre I, A est donc tmmultiple de l'identit~.

En particulier, si <p,q> e s t un p r o d u i t s c a l a i r e de l a forme

<p,q> = J,~ p(z) q-~ ~o(IM)~(-.) ,

il existe une constante = ~n,k telle que <P'q> = ~n,k P(D)q*#*
 29

2. Base de l'anal.yse harmonique sur le grouse SU(2)

Nous allons, tout d'abord, rechercher un syst~me de parambtres du groupe SU(2).

A tout point de R 4, nous allons faire correspondre une matrice de deux lignes et deux

colonnes ~t coefficients complexes. Pour cela, si x = (x1, x2, x3, x4) est un point de

R 4, posons : X I = x I + ix2, X 2 = x 3 + ix4 et associons-lui la matrice

~(x)

x1 x

C o n s i d 4 r o n s l a restriction de a ~ la sphbre unit4 ~'~ de R 4. La matrice

~(X) es% alors da~s SU(2).

I1 est imm4dia% de v4rifier que 1'application ainsi d~finie de ~ dans SU(2)

es% bij ective.

L'application u ~tablit donc une bijection entre R4-{OJ et R+XSU(2) - l'ensem-

ble des matrices de deux lignes et deux colonnes de la forme r u o~l r est un nombre

r6el strictement positif et u est dans le groupe 81/(2) .

Ceci va nous permettre de plonger le groupe SU(2) darts le groupe des rotations de

R 4, c'est-~ire le groupe S0(4)I

Sol% u un 416ment de SU(2). L'application ~(u) de R4 dans lui-mSme est

ainsi d4finie ; ~ x de R4 on fait correspondre l'unique 416ment y tel que

a(y) -- u . a(x).

Cette ~6finition a bien un sens puisque u.~(x) = Ixl u ~ ( ~ ) (six ~ O) est darts

a+,(~(2).
L'application ~(u) est lin4aire et conserve la norme. Ea effet l'image de ~3
 ~0

pax cette application est dans ~ et ~(u) commute avec les homothdties de centre 0.

Pour montrer que c'est une rotation nous montrerons que le d6terminant est @gal ~ I.

Mais i l e s t imm~diat de v ~ r i f i e r que l ' a p p l i c a t i o n a i n s i d d f i n i e de SU(2) dans

0(4) est un homomorphisme de groupe. D'autre part, on a l e lemme suivant :

Lemme (2.1). S_~ u e~t v sont deux matrices semblables de ~J(2), il existe une

matrice w d~e ~J(2) telle que

V=WUW -I .

Ii existe s~rementun @16ment w' de U(2) tel que v = w' u w '-I. La matrice

w = ~ w' o~ k est une racine carrie de l'inverse du d~terminant de w' satisfait aux

c o n d i t i o n s du lemne.

Pax consequent, il suffit de calculer le d~terminant de la transformation de R4

darts lui-m@me, a s s o c i ~ e A l a m a t r i c e

~i@ 0 \

Cette transformation, rapport~e ~ la base canonique de R 4, s'~crit :

cos @ - sin @ 0 0

r(e)
0 cos @ sin @
0 0 -sin @ cos

dont le d~terminant est bien +I.

Lemme ( 2 . 2 ) . ~uel que sol% u dans SU(2), il existe v dans SU(2) t e l que

-1 -1
vu v ~u •

-1
En e f f e t , u e s t s e m b l a b l e ~ une m a t r i c e e(e) et u e s t semblable ~ e(-@).

Or les matrices e(@) et e(-@) sont semblables Ixlisque l'on passe de l'une ~ l'autre

en ~changeant les vecteurs de base. D'aprbs le lerrxne 2.1, la matrice de passage peut @tre
 31

trouv~e dans SU(2).

Si f estune fonction centrale, ella est bien d~finie par sa restriction

l'ensemble des matrices e(@).

Donc f(u) = fo(e)

i@ -iO
o~ e et e sont les valeurs propres de u et - ~ ~ @ ~ +~.

Th~orbme (2.3). La fonction fo(@) est une fonction paire.

Ceci r6sulte imm~diatement du lemme 2.2.

Th~orbme (2.4)° Les caractbres du groupe SU(2) sont r~els.

En effet~ les caract~res sent des fonctions centrales et l'on a

?C(u) = ?C(u- 1 ) = X--~"

Appliquons les r6sultats du paragraphe precedent sur les representations de SU(n)

I
darts le cas n = 2. Soit ~ un ~1~ment de 1'ensemble des demi-entiers : y Z. Labase

orthonormale pour ~(2~) l'espace des polynSmes de deux variables zI et z2 homog~-

nes de degr~ 2~, est formde des vecteurs :

ca (2e~ = (2~)~ et j est un indice prenant les valeurs comprises entre -

et +~ telles que e- j soit entier.

S e d~signant le reprdsentation d6finie par :

U

S~p(-.) = p(.'-.)
on a i ~ d i a t e m e n t
Se
e(e) sj(z) =

e-2ije e,(z).
3

D'oh l e s v a l e u r s des c a r a c t b r e s du groupe ~(2)

 32

1 + 2~,cos 2je si 8 est en~ier

,x,e(~(e) ) = X,~(e) = )---:J--+ee2ij e

,i=.-6

A / o r s on a l a formule s u i v a n t e :
=

I 2 ~
j=I/2
j=l

cos 2je si est demi-entier.

(2.5)
~(e)o sin(2~ + I)@
= sin @ "

Enparticulier :
1

Remarquons que :
~ +1 - ~ = cos(2~ + 2)@ si 2e = O, 1, 2, ...

L ' a l g ~ b r e engendr6e par l o s f o n c t i o n s ~(@) contient routes les fonctions cos me pour

m = O~ I, 2... La fermeture uuiforme de cette algbbre contient donc routes les fonctions

continues p~ir~ ~r C-', d" L'a~br~ ~ n g ~ n ~ p~r I~ ~C-) oontio~t do~c ~ou~e~

les fonctions centrales continues ;donc la famille des caractbres %~ constitue %ous les

caract~res du groupe SU(2). On en ddduit :

e
Th~orbme (2.6). Les representations S formen% une f a m i l l e complete d e r e p r ~ s e n t a -

tions irr~ductibles du ~ ou pe ~J(2).

Si f es% une fonc%ion centrale~ mon%rons que :

(2.7) f ( u ) a u = ~1 J+" fo(@)sin2@ ae.

(2) -,c

I1 s u f f i t de l e prouver pour une combinaison l i n ~ a i r e f i n i e des f o n c t i o n s

f = ~a~ e On a a l o r s :

Js~(2) f(u)au = o
e% en utilisan% (2o5),

1 j+~ f o ( e ) s i n 2 e d@ = ~ - ~ ' a e -K sin(2e+l)@ s i n @ d@ = ao.

, J+"
Calculons maintenan% l e s c o e f f i c i e n t s .(u) des m a t r i c e s des r e p r d s e n t a t i o n s
 33

irr4ductibles du groupe SU(2) daus l a base c h o i s i e (exprim~s en termes des coordonn~es

de u(x). +~
De la relation : Su~ej
(z)=k~ tk~j(u)ek(z)
on tire
- - - +e .~-k ,~+k
(_i)2e (-X2Zl + XIZ2) ~ J (XlZI + X2z2) ~+j tk~j(u)
(~.8)

Restreignons cette ~galitd auxvaleurs z = (z I , z2) = (eiO e-iO)o On trouve

alors

(~.9) tekj (u) = (-i)2~2e V(e-j)i(~÷j)~

~e-k)~(e+k), J+z
-~ (~2eie ÷ X~e-ie)~-J(Xlei%X2e-~) e+Je~*~ae"
^(~

Daus l a f o r ~ l e (2.9) en l a i s s a u t prendre ~ (X1 , X2) r o u t e s v a l e u r s de C2 e t en

posant X1 = x I + i x 2 9 X2 = x 3 + i x 4, on d d f i n i t des f o n c t i o n s W~On a in~6diate-

men~ :
~~

~~
Th~or~me (2.10). Les polvnSmes ~j(X) sont harmoniques.

- 2 ei@ + XI e-i@)~-J(llei@ + 12e-iO)e+J"

En effet, soit g(x) = (-X

Nous allons montrer que g e s t u n e f o n c t i o n harmonique. Pour c e l a , i l e s t ~quiva-

lent de montrer que g(r(-~)x) est harmonique. Or
go(X) = g(r(-@)x) = (X1 - X2)e-J(Xl + X2)~+J"

Mais : = u ° appartient ~ SU(2) et dgfinit une rotation r de

o
I
m~
et g o ( r e x) e s t ~gale, ~ une c o n s t a n t e pros ~ x I~- J X2 • Cette dernibre fonction est

(*) Pour r e t r o u v e r l e s formules c l a s s i q u e s , on parambtre SU(2) de ia fagon s u i v a n t e :

a
et ,,l l 2 ÷ i612 = , .

On a a l o r s :

(2.9,) = -- (~eiQ + ~e-i@) ~-j (~ei@ + de

~j ) 2m ~(&-j)i(e+j)' -~
 34

4videmment harmonique, d'oh le thdorbme.

De la formule (2.9) on ddduit que :

(~.,o> ~(~) = (-,)~-J ~,_j(u).

Remar@ue. Du fait que ~ = E ~ , puisque les caract~res de SU(2) sont r4els, on

savait a priori que ~ j (u) 4fair une combinaison lin4aire des fonctions %~n(U)o Cette

combinaison lin6aire s'6cri% d'une mani~re particuli~rement simple darts la base de ~e

choisie.
Avec les notations introduites darts ce chapitre, on peut d6duire de la formule (2.9)

que z
e -2i(Je1+ke2) e
(2.11) tjk(e(el)U e(02) ) = e %jk(U).

§ 3. Analyse harmonique sur ~ - 1

~_, ,,~si~no~, sphere d~ rayon , ~,~ ,e. ~_, --l,,~,,~ , Ixl --'}..~o~t
G un sous-groupe de O(n) (groupe des transformations orthogonales de Rn) qui agi%

sur ~ - I de mani~re transitive, et soit cl~ une mesure sur ~ - I invariante sous

IIaction de G de masse totale I. Alors~ quelle que soit la fonction f continue sur

n-1

(3.1) ~_~n f(~)d~=~ f(u ~o)dU.

-1
En effet, puisque d~ est invariom%e sous l'ac%ion de G,

Soit UoEG tel clue Uo~ ° = ~.

On utilisera (3.1) dams le cas o~ d~ est la mesure de bebesgue normalis4e sur ~-I'
 35

don% on sait qu'elle est invariante sous l'action de 0(n).

Consid4rons le cas particulier oh n = 4 z on a vu, dans le paragraphe 3p qu'il

exis%ait une bijeetion ~ entre ~-3 e% SO(2), d6finie par :

¢-i~4 ~i+i~2~
~(~)= ~ = - i

e t que SU(2) peut 8 i r e consid4r4 comme un sous-groupe de S0(4), s i l ' o n f a i t c o r r e s p o n -

dre ~ u £ 57/(2) la transformation x ~ - ~ l x I - 1 (Uux,X.*) SU(2) opbre donc t r a n s i t i v e -

ment s u r ~, et, si f est continue sur ~q'3' d ' a p r b s (3.1) :

La mesure de Haar s u r SU(2) e s t donc l ' i m a g e de l a mesure de Lebesgue sur C3.

La d6composi%ion de L2(SU(2)) obtenue au paragraphe pr6c6dent donne donc 6galemen%

udle d4composi%ion de L2(~)) en sous-espaces invarian%s ~ droite et ~ gauche sous

l'action de SU(2)o Or nous verrons qu'~ %ou%e transformation ffESO(4) on peut faire

correspondre u1 et u2 dans SU(2) t e l s que U ~ x , ) =UlUx,U2o Les sous-espaces de

l a d6composition sont donc i n v a r i a n t s sous 1 ' a c t i o n de S0(4).

Nous a l l o n s , p l u s g6n6ralement, chercher une d6composition de L2(~_~_1 ) en sous-

espaces i n v a r i a n t s sous l ' a c t i o n de SO(n). D6signons dans ce paragraphe par ~(k)

l ' e s p a c e des polynSmes homog~nes de degr6 k en n variables r4elles~ et par S la

repr6senta%ion de SO(n) sur ~-~k) d4finie par SuP(X ) = p(u'x). ~(k) est suppos6

I
muni du produit scalaire diff6rentiel (p,q) = ~ p(D)~ d4fini au paragraphe I.

La repr4sentation S de O(n) sur n'est pas irr4duetible : le sous-espace

Ixi2 ~(k-2): IN 2 (k-2)lj

est invariant sous 1'action de S. Sol% ~ ~,n l'orthogonal de Ixl ~ ~(k-2) la
= Ixlx,.
 :)6

restriction de S A 2 .

Lemme (3.2). L'espace Hk °st l'espace de tousles pol,TnSmes harmoniques homogbnes

~_~edeKr~ k e_~t ~k) =~ • Ix[2~~-2~

j=o
Soit pE~, k>2 (le lemme est ~vident s i k ~ 2 ) = quel que s o i t r~lxl ~ #k-~,
( r , p ) = O. En p a x t i c u l i e r , 0 = (tx)2bp,p) = (k!)-l&(&p(D))~ = ( k - 2 ) ! ( k ! ) - l ( b p , & p ) . Donc

&p = O.

Soit, rdciproquement, h harmonique : quel que soit p6 ~ ( k - 2 ) ,

2p, h 1 p(D)&h= O.

rout ~1~Sme p~ ~(k) peut .'6crire come some ae po1~Sm~ Ixl2Jhj , h ~ # -2j =
3

c'est une consequence directe de la d6finition de ~ . Soient j > £ : montrons que

Ixl2J~ -2j et I x 1 2 ~ -2~ sont °rthogonauxp °u encore que, quels que soient h. et h e
J

darts ~-2j et ~-2~ respectivement, (Ixl2Jhj p Ixl 2~h~) =0. Or:

(ixl2Jhj'i~12ehe)= (l~12J-~j'&(l~12eh~)~(k-2) = =l()~[2J-~j ' l~12e-~e) ~isqu~

A(l~12eht) = (2e{~-2,2(e+k)}~12~-2h~ d~ ~it ~ue he e~t h ~ o n i ~ et homo~ne ae

degr~ k (voir exemple 3, page 41 ). Alors,

(l~12Jhj,l~12ehe) = =l(l~12J-~j,l~12e-~e) ..... =e(lxj2(J-e)hj,he) = o par

d ~ f i n i t i o n de Hk-2~.
Le r ~ s u l t a t p r i n c i p a l de c e t t e s e c t i o n e s t le suivant :
Th~orbme ( 3 . 3 ) . L_~arepr~sentation ~ sur Hk est irr~ductible.

Le groupe SO(n-l) peut 8tre identifi6 au sous-groupe de SO(n) qui laisse inva-

riaut le vecteur I = (0, ..., O, I) de R n :

SO(n-l) = luESO(n) ; ui = |I"

Montrons, en rue du thdorbme (3.3), le lemme suivant :

Lemme (3.4)° Soit V un sous-espace d_~e ~(k) invariant sous l'action de S

U
 37

(uESO(n)), V ~ {0}. II e x i s t e PoEV t e l que Sup ° = Po q , e l que s o i t u£SO(n-1).

L'application p ~ p(|) d4finit une forme lin4aire continue sur V : il existe

done PoEV tel que p(1) = (p , po) , et Po est d6termin4 de mani~re unique par cette

propri6t4. Or, si u appartient ~ SO(n-l), (p,SVo) = (s _ip,%) = p(u~) = p(,) = (p,pj.

u
Du fait de l'unicit6, Po = PO"

Si V n'est pas un sous-espace invarimut minimal, ii existe done um sous-espace de

V de dimension 2 an moins dont tousles 414ments sont ]aiss~s invariants par Su,

u6SO(n-1). Pour montrer que ~ est irr6duetihle~ il est suffismlt de montrer que le

sous-espace de Hk invariant sous l'action de Su, u6SO(n-1), es% de dimension I.

k )
Supposons donc que pEI{- e s t tel que SuP = p pour tout u£SO(n-1
k
p(x) = TZ ~-J 5(~1 ~-~ ( ~ . . . . , ~_~)
j=o
oh les polyn6mes pj sont homog~nes de flegr4 j. Si uESO(n-1 ) alors
k k

j=o
Donc, si j = O, 1, . . . , k, u~SO(n-1), ?j(u~) = .pj(~) ." ;es pot~m6mes P4J sont de~

fonctions radiales. Puisque pj es% un polynSme homog~ne de deKr~ J, pj(×) =

(co.st)IxlJ.~ i s , ~isque 5 estunpolynSme,pj(%)=0 si est impair. Posons

P2j (~) = c.s (x2' +'" .+ x2-1 ) j , Par consequent

p(x) = [~] c. k-2j. 2 +...+ Xn2_l)j •

j=O 3 Xn ~Xl

Mais, peisque p est harmonique,

~ k-2j 2
0 = (ap)(x) = (~jcj + pjcj_l~ ~ (~12 + ' ' ' + ~n--1)J-1 ,
j=l
oh aj = 2j(n+2j-3) et ~j = (k-2j+l)(k-2j+2)° Puisque ~ ~ 0 si n> I~ les coeffi-
3

cients c. s ' o b t i e n n e n t done par r4currence : c 3 = (-I) j ~% i~ ~2 "2 ""5~ co, et l'espace des
3

polynSmes p£~ tels que, pour tout uESO(n-1) SuP = p. est de dimension 1. Lo
 38

th~orbme (3.3) est donc d~montr~.

Consid~rons les restrictions des polynSmes de ~(k) ~ ~ - I ; elles peuvent

s'~crire, en vertu de (3.2), comme sommmde restrictions de polynSmes harmoniquea

~----~n-1 : s i p appartient ~ ~(k) et si ~E ~'n-1 '

p(~) = ho(~) + hl(~) + . . . + hj(~) + . . . + h[k/2](~) , o~ h'EHk-2j3 "

La r e s t r i c t i o n ~ ~ n - 1 d'un polynSme harmonique homogbne de degr~ k est appel~e har-

monique sph@rique d e d e g r d k. L'espace v e c t o r i e l engendr~ par les r e s t r i c t i o n s ~ Zn-1

de, poly~Sme~ de e(k), k = O, 1, 2 , . . . , dt~nt ~enae dana ~(~_~) e~ , e r t ~ ~u

th~orbme de Weierstrass~ on en d~duit le c o r o l l a i r e suivant.

Corollaire (3.5)° Le__~sharmoniquessph~riques sont denses dans ~(~.n_1) e_t.t

J(~n-~)"
~me Po de ~ te~ que, q.e~ ~ue soit p ~ , (P'Po) = P(~) (o~ ~e~_,)

est appel6 polynSme harmonique zonal relatif an pSle ~ et notd Z~ = ~ . Pour tous

pEHk on a (p, u~Z~) = (~u*p,ZR) = p(u~ = ( p , Z ) ° Alors, Zu~(X) = (u~Z~)(x) = Z~(u-'x),

d'oh
Z(u~) = z~(~)

Four tous lea uESO(n) °

Soit IY1, . . . , Y~} une base orthonormale de ~ (dk ddsignant la dimension de

~k, 6gale ~ d~ e (k) - d~ e(k-2)). Z~ es~ ~gal

%
j=1
appellera ~ le prod.it scalaire (Z, , Zl) = Z,(*) (= Z~(~)).

Th~or~me (3.6). Soit {YI' Y2' ' ' ' ' Ydk} une base orthonormale de Hk t e l l e que

Y1 = ~ I z i . Alors, si ~ck(u) = (tj£(u))~k uES0(n)p est la matrice de u

relativement

oette base, ~(uZ) = ~ t k ~ ( . ) po~ j = 1, 2, . . . , ~ .

 39

Par hypothbse

= <,° = (o>

~isque ~e(1)= (~e ' z l ) = ° si e~1.

Ooron=i~e ().7). S,oit ~ l__esous-esp~cedj L2(SO(n)) fo~ d~. fo.~t~o.s

de la forme ~(u) = p ( u ' ) , pEHko Si j ~ e, les sous-espa~es ~J e_~t ~ sent

orthogonaux dams L2(SO(n)) ; les r e s t r i c t i o n s de ~ e.~% H~ ~ ~.. , son___~%

orthogc-

~u~les ~ s L2(~_m_l)O

Ii r6sulte d'un calcul combinatoire que la dimension de ~(k) est 6gale

n+k-1
k ""~ La dimension de ~ est 6gale & : % = dim ~(k) - dim ~(k-2) = (k+n-3):(~+n-2)
%-2) : k : "

Soit j ~ ~. Les repr4sentations 8j e% 8 ~, sur ~ et H~ respectJvemen%, ne sent

pas 4quivalenteslmisque ~ et H ~ sent de dimensions diff4rentes. Envertu du corolla~

re (3.4) du premier chapitre, les sous-espaces ~$2• et ~S de L2(SO(n)) sent ortho-

gonaux. Or, d'apr~s (3°6), ~J C ~Sj . e% ~[~C ~S' doric ~J e~ ~ sent o r i h o g o ~ .

Soit peaj , q~He. ~ v e r t u de (3.1),

p(u,)q-ra7 an -- 0.

La fin du corollaire (3°7) s'en d6duit.

Th6or~me (3°8)° ll existe une constante ~ telle que, sil p appaJ:tient ~ Hk et

q a~ient A ~(k),

Supposons tout d'abord qE~t <P'q> = ,Iv~ P(%) q - ~ d~ d4finit un produit

-I
scalaire sur ~ pour lequel ~u est, quel que soit u6SO(n), ~itaire. Co.me ~ est

irr6ductible, on en d6duit, comme dans la remarque ~ la fin du paragraphe 1 l'existence

d'une constante Ak %elle que <p,q> = k| ~(p,q). Soit mainteuant qE ~(k) •

 40

q(x) = ho(X ) + 1*15,,(*) +.... Ixl 2J hj(.) *..., o~ h.

3
appartient ~ ~~.-2~, j = O, I,.

• ", L~- mel que soit j ~,, I,12%(x) et p(x) sont orthogonaux pour l'un et l'au-

tre des produits scalaires d'apr~s (3.7). Donc <p,q> = <P,ho> = k&~(P,ho) = k~(p,~.

Sol% ~E Zn-l' UoESO(n) %el que ~= Uol. Tout 414sent u de S0(n) tel que

= u| est de la forme UoV , vES0(n-1)o On a ainsi d4fini une application de ~-1

sur S0(n)/SO(n-1), dont on v6rifie sans peine que c'est un hom4omorphisme. A une fonc-

%ion f sur SO(n) on peut f a i r e correspondre une f o n c t i o n sur ~-1 si f(vu) = f(v)

quel que soit u dans SO(n-l). L'6galit4 suivante montre que les seuls coefficients de

lamatrice tk qui peuvent d4finir des fonctions sur ~ - I sont les coefficients de la

premiere colonne

(n-+) e(~)du= / k
tit(v) si e=1
Appelons W le sous-espace de ~ form4 des polynSmes p tels que, pour tout uESO(n-1)

SuP = p ; on a vu, dams la d4monstration du th4or~me (3.3), que W est de dimension 1.

C ' e s t c l a i r que l ' a p p l i c a t i o n B de ~ darts lui-m@me d 6 f i n i e par ,

(n-1)
e s t l a p r o j e c t i o n sur V. II est aussi clair que la matrice de cet op@rateur dans la

base or%honormale {Y], $ i

Y~, est Jsor ~k(u)du. l~isque Best la projection
(,-,-1)
sur le sous-espace engendr~ par Y1 nou8 avons ,

I.~ /1 o...0\
:/.o
(n-1 \0 0 ... O/

L'4gali%4 (3.9) s ' en +dui+, en ~ c r i v a n t que f

/ ,k (,,,>du---h,O,r ~k(u)du.
~so(n-+ ) J'~(n-+ )
Th6or~me (3.10). S o i t F une fonction continue de R n - { 0 } ~ valeurs dans ¢-- telle
 41

que, quel que ,S,,pi

~ uESO(n), P(u-1~) = (~(u)),F(x). Alors il existe une fonction f

radiale ~ valeurs dans C telle que :

F(x) ~(I~I)(~i(~),
. . . . , ~(~)).

Soient 5(x) les c o o r d o m u + e s de F(x), vESO(n) tel que x = l~Iv,° Quel que

sol% uESO(n-1),

En vertu de la relation (3.9),

s, l(l~l) = F,(I~I,) ~ ' .

Lenlne ( 3 . 1 1 ) . S o i t L u n o p + r a t e u r l i n + a i r e d + f i n i s u r un espace de f o n c t i o n s

c o n t e n a n t l e s f o n c t i o n s de l a forme T(x) = f ( ] x l ) Y ( x ) , o~ yEHkp e_~t f e s t une

f e n c t i o n c o n t i n u e donn~e. Supposons a u s s i q u e p o u r une t e l l e f o n c t i o n , LT est continue

+ur ~n-~01, e__t
VuESO(n), L(~u) = (L~)u o~ ~u = ~(u-'x).
Alors il existe fk tel que, quel que soit YE~,

LIf(N)Y(x~)= tk( 'Yl )Y(Y)"

Po~o~ G(~) f(N)(~l(X), ..., ~%(x)),

=

F(~) =m(~) = (L(f(H)~I)(~), ..., ~(f(lyl)~)(x))=

a %(~) = (~k(u))'Q(~).

Done Fu(X) = I~u(X) = (~k(u))'F(x).

On applique le th4orbme (3o10) ~ F : F(x) = ~k(Ixl)(~(~),..., ~%(~)), o~

~k(Ixl) = ~L 5(I~I,)o
Th+or+me ( 3 . 1 2 ) . Les harmoniques ,sph+riques sont des vecteurs propres de tousles

op+rateur+ d+finis ~ C=(~,) ~ valeurs d ~ + r(~_,) q.i co--tent a~e~ lee

 42

rotations.

I1 suffit d'appliquer le lemme (3o11) clans le cas r([.I) ~ ~ apr~s avoir 4tendu

les fonctions su~ ~n~1 ~ Rn{oJ comme fonctions homog~nes de d e g r 4 0 .

Les exemples qui suivent montrent des op6rateurs qui commutent avec les rotations

au sens des th6or~mes (3.10) et (3.12) ou du l e ~ e (3.11).

P
Exemple I. L(f)&')4 k(x'.y')f(y')dy', oh k est une fonction num4rique sur
J,
~_1 [-1,1].

Exemple 2. L est la transformation de Fourier dans R n :

^ ~ y
(z(l*l)z{*')) (y) = &(lyl)z(y') si z,nk st . ' = ~ , y' = ~ .

On peut montrer que :

2-n

= ~kpnt f (r)Jk~(2,tr)rn/2dr.
0
2

Si YE~ alors (LjY)(x) = fk,j(Ix[)Y(x). I~ fonction fk,j dolt 6tre homogAne

de deer6 2j-2, donc %j(Ix]) = ~k,jlx122-2. Un calcul direct va nous permettre

d'expliciter les constantes Ak, j - supposons que YE ~ ( k ) alors

A ( I . I 2J z ( ~ ) ) = 2j(2j+n-2)lxl2J-ZZ(x) + 4jlxl 2j-2 ~ x i 4~.. + I~1 ~<*)

1

= 2j(2j + ~ + ~ 2 ) z ( x ) l . I 2j-2 + I~12j ~ ( * ) ,

Faisque Y est homog~ne de deRr6 k (et, alors si x = rx', avec Ix'l = I,

 43

~x i ~T(x)~Y = r dr/d)k Y ( x ' ) } = k k Y(x') = k Y(x)). Si Y{H (k), (u) se r ~ d u i t

i

(~) a(Ixl ~j ~(x)) : 2j(n+2(k+j-~))lxl2J-~(x).

I~nc Ak,j : 2j(n+2(k+j-1)).

n
Consid6rons le cas o~ j = I - k - ~ ; alors Ak, j : 0 et~ d'apr~s (~)~

a(Ixl-(n-2)~(x/Ixl2)) : A(I~I -n-~+2 ~(~)) : I~1 -n-~+~ ~(x)

pour YE ~ ( k ) . C'est-~dire : yE~(k) e s t harmonique s i e t seulement s i

ixF(n-2)y( x ) e s t harmonique. Puisque l a a e r n i ~ r e expression ne d~pend pas de k, l e

f a i r que p(x) es% harmonique s i e t seulement s i I x l - ( n - 2 ) p ( l ~) 1_ 2 e s t harmonique e s t

v r a i pour t o u s l e s polyn6mes e t , donc pour l e s f o n c t i o n s continues d ~ f i n i e s sur Rn.

X
Remarque. La transformation x --~ (x ~ O) est 1'inversion qui ~change l'in-

tgrieur et l'ext4rieur de la sphere unit6. La formule pr4cgdente 4tablit la correspondance

e n t r e l a s o l u t i o n au probl~me de D i r i c h l e t ~ l ' i n t ~ r i e u r de l a sphere e t l a s o l u t i o n ~ ce

m@me probl~me ~ l'ext~rieur (nulle ~ l'infini).

Appelons H la projection de ~(k) sur ~ : H(p) = h0 si

k / ~ x 2j , o~ h EHk-2j ;
p(x) = • ^. I I hi(x) 3
3=u
~J~ [~l 1~12J_~j(x ) [k_/2_l .

~(:) [k/~4]2eJ', (n+2(.-j-m))(n+2(~-j)) (n+2(k-j+e-2))lxl ~j-2~ hi(:).

H(p) peut done s ' o b t e n i r comme combinaison l i n ~ a i r e des polynSmes 1,12'Alp(~) en r 6 s o l -

vant un syst~me d'~quations lin6aires A matrices triangulaires. Un calcul explicite montre

que

(3.13) H(p)(x) : p(~) +~] (-i) ~ i~l 2e a~p(x)

~=I 2 ~ ~! Tn+2(k--2))(n+2(k-3)),..(n+2(~aLi)}' "
 44

Lorsque p(x) = xjh(x), oh h appartient ~ Bk-1 , le calcul est particuli~rement simple

puisque Ap(x) = 2 ~h
~qT(~), A 2 p(x) = o.

3 x~ ~h
Corollaire (3.14). _Si
_
h appartient _h ~, H(xjh) = x.h
j
-
~°
3
×~ ~h
Cette dgalit6 peat encore s'$crire x hj = h + ~, oh ~E}~ +I I

3
Remarques. 1. Consid4rons la fonetion sur SO(n) (xjh~u) = ( u | ) j h ( u l ) . Crest, sui-

vant les notations du premier chapitre, le produit de deux polynSmes trigonom4triques

g6n4ralis6s, appartenant respectivement aux espaces ~I et ~sk (d'apr&s (3.6)). C'est

done, en vertu du lemme (4.4) du premier chapitre un polyn6me trigonom4trique g4n4ralis6.

Le corollaire (3.14) donne d'une mani~re explicite sa d4composition en somme d'un 416ment

de ~+I et d'un 414ment de ~_i o

2. Dams l'espace ~(k) le polynSme zonal relatif an p61e I est facile h trouver:

k
(p , xn) = p(~) quel que soit pE ~(k) Sip apl~rtient ~ ~,

p(Z). Donc Zz(x ) = H(xkn). De m~me, Z~(x) = H ( ( x . ~ k ) .

Exemple 4.Lp(x) = p(D) I pour tout polyn~me p (nest suppos4 sup6rieur ~ 2) : L

Ixln-2
con~nute avec les rotations (*). Pour le d6montrer, consid4rons, dans ~(k) consid4r6

comme espeme de polynSmes sur Cn, le sous-espace engendr4 par les polyn6mes de la forme

(x.a)k, oh a appartient h Cu. Ce sous-espace est invariant sous l'action de la repr6-

sentation S de ~J(n) 6tudi6e darts le paragraphe I. Comme S est irr4ductible

(ef. (I.6)), ce sous-espaee est ~k) tout entier. II suffit donc de montrer, quel que

soit aECn, que, si ~ ( x ) = (x.a)k,

a

~(~) = L ~-I (x) pour tout u~SO(n)

ua

(*) Ceci se voit aussi en utilisant la transform6e de Fourier dans B~.

 45

puisque ~(ux) = (ux.a)k = (x.u-la)k = ~-I (x).

U a

0r LPk(x)--
a
= Pa' ( D ) L ~a- I ( x ) , e t i l e s t s i s + de montrer que : PI(D)
a
Ixl m =
n
mm
. x-.2a ,/ (z~xl, l P (D)(x.a) = ~ - ~ a . . La r e l a t i o n cherch+e s ' e n d+duit par r + c u r r e n c e .
I 3+
S o i t maintenant p(x) = H(p)(x) + I x l 2 q ( x ) , o~ pE ~ ( k ) , H(p)Ettk. Du f a i t que

Ix[ ~+2 e s t harmonique, i l d+coule que Lp e s t harmonique, e t que Lp=LH(p) : en e f f e t ,

L[I~I2~ = q(D) A(ix~n_2 ) = O.

i i

1~ a p p l i q u a n t l e th~or~me (3.11) e t en t e n a n t compte de l'homog+n+it~ de Lp, on

!

en d ~ u i t l'existence d'une constante ck telle que

Lp(x) = p(D) 1 - - = L ( m p ) ) ( x ) = ok ixl12+~n- m p ) C x ) Bur tout pe e C k ) .

I~1n-2

Calculons e x p l i c i t e m e n t l a c o n s t a n t e ck en u t i l i s a n t le corollaire (3z14).

%+, +~i.+~ L(h)(x)=L(~+h)(+)= h(+)l~l 2-n %

= ~ = ~+ I~I " - 2 + ~ j
1 12 ah
1 ,x,
xjh(x)}(n+2(k-R))

~(x)
= - ck(n+2(k-1)) ~ x ~ "

Done Ok+1 = - ck(n+2(k-1))o Puisque Co = 1, on obtient

ck = (-1)k(n-2)n(n+2) . . . (n+2k-4).

Une m+thode analogue permet de c a l c u l e r l a c o n s t a n t e Ak de p r o p o r t i o n n a l i t + e n t r e

les produits scalaires diff+rentiel e t i n t + g r a l sur ~, t e l l e quep q u e l s que s o i e n t

ppqEh"k,

~n-1

Soit hEHk ; en appliquant le th6orbme (3.8) nous obtenons :

,[~ ~h - .~
-1 3 3 3
D t a u t r e partp en v e r t u de (3.14) e t du f a i r que Zes r e s t r i c t i o n s ~t ~ n - 1 de Hk-1 et
 46

~+1 sont orthogonales dans L2(,~__~_,) ,

["*2(k-I)] -I jI 'li)h
~ . ' 12 d~ =Ak_ 1 ~--~Ux.(D)~-~-T[n+2(k-1~ .
Bh B~ -I
-I 3 En-1 J 3 3

Cozn~e A = 1,
o

(3.~5) Ak =
n(n+2)...(n+2(k-1))
~O
Remarque. Soit u(x) u-he fonction harmonique sur Rn, u(x) = k ~ ( x ) , oh ~ E ~ .

A/ors, quel que soit le polynSme harmonique hE~,

~-,n-1 -I
Cette formule apparait comme une g 4 n 6 r a l i s a t i o n de l a f o r m u l e de Cauchy p o u r l s s fonctions

holomorphes de z = x I + ix2 :

u(z)z-k dz I B k =I( ~_B__ i~)ku(o).

Izl =~ = ~ ( ~ ) u(O) 2~: aXl
Remarquons que l a f o r m u l e de Canchy permet~ d a n s l e c a s oh l a d i m e n s i o n n est 4gale & 2,

I
de r e t r o u v e r l a v a l e u r de l a c o n s t a n t e A = -:----.

A partir de maintenant, on utilisera le produit scalaire int4gral plutSt que le

produi% scalaire diff6rentiel. Red4finissons le polynSme zonal, en particulier~ comme le

polyn6me Zk
I tel que I ~ p(~) Z~I(~) d~= p(') pour %0U% pEI{k.
-1
Plus ggn4ralement, si ~ appartient & ~ - I ' on d6finit Z~ conlne le polynSme

de ~ tel que L - p(~')~(~')d~' = p(~) pour tout pEBk.

I

Soi% Y1 " " Ydk une bese orthonermsle de ~ pour le produit scalaire int4gral.
%

Or ?,(,)=?u,(U,) quel q.e soit u~(n). Done:

 47

+,('>--+oo(o>[++u.>do=j +=, Eo_,.+++.+..:..

Avec cette d+finition de ~I' on salt, d'aprbs les calculs fairs sur l'exemple (4)

qua(+)
(~_a_~k(x _ ~ = k' Zk - x )1
%" "Nn-2" ~ck.(ixl2l~In-2"
Si l ' o n remplace ck et Ak par l e u r s v a l e u r s e x p l i c i t e s ( v o i r (3.15)) on o b t i e n t :

d k ( ix_t1+lln_2)(0) -- (-1)k k' A"c

(~,~) k k~ II( " ~' J ~" I k' n-l-2k-2
-- ixln-2 n-2 ~ ( " ~x ).

I -- n-2 ~ zl~]( x / I x l 2 ) t k
-1<t<1.
Ix-ill n-2 lxl n-2 m--o n+2(k-1)

Supposons XEEn_l : l a v a l e u r de ~(x) ne dSpend que de l a ni&me cooraonn6e xa.

Dans ee c~s
n-2
n-2 k (x)tk .
Z|
(3.16) (I - 2Xnt + t 2) 2 =E

~(x) apparait com~e ~gal :

n-2
n+2(k-1 ) ~-2-
(3.17) (x) = n-2 k (Xn)
n-2
o~ ~k 2 est un polyn6me de Gegenbauer (ces polynSmes ~tant les coefficients de Taylor
de (1-2at + t2)-x).
Reformulons (3.16) relativement & un pSle y'E~n_1 arbitraire :

,(x)
(3.18) +' +' r = Ixl<1.
llxly' - ~i~2_-ix_y, ln_2 = (n-2) k--oE~'
Cette formule nous permet d'obtenir l'expressiondunoyau de Poisson :

2
I -r
(3.19) P (x',y') = P(x,y') =
r (I - 2r(x'.y') + r2)n/2

O0

Pour le voir on diff6rencie, par rapport ~ t, la fonction

(*) Voir la remarque 2 qui pr6c&de l'exemple 4. Ii faut aussi utiliser le fair que
~. = k . ' ~ oh ~ est l'harmonique zonale par rapport au produit scalaire diff6ren-
tiell.
 I tn-2 oo t 2k+n-2 c
it2x _ y, in-2 = k~ n+2~-2
r,(x)
et~ aprbs, on prend % = I.

4 . Couples s y m ~ t r i q u e s

Nous avons vu, d a n s l e p a r a g r a p h e pr~c~dent~ comment l a c e n s i d 6 r a t i e n de l ' h e m ~ o -

morphisme entre ~-I et SO(n)/SO(n-1) permet d'6tudier les fonctions d~finies sur

-I" Soit, plus g6n~ralement~ G un groupe compact, K un sous-groupe ferm6 de G,

M = G/K l'ensemble des classes A gauche de G relativement ~ K. Le groupe G op~re

transitivement sur M. Nous allons montrer qu'il existe une d~composition spectrale

conamme ~ tousles op~rateurs sur L2(M) qui commtent avec l'action de G.

Appelons | la classe A gauche form6e par le sous-groupe K, a la projection

canenique de G sur G/K. Ii est clair que, quel que soit gEG~ u(g) = g|. Soit f

une f o n c t i o n c o n t i n u e s u r M : on n o t e r a p a r f# la fonction f#(g) = f(u(g)) = f(g|)

sur G. Soit dx l a mesure s u r M image de l a mesure de Haar s u r G par l'application

u, c'est-A-dire telle que

(4.1) IMf(X)dx=~G f#(g)dg= ~f(g,)dg.

u.n
On montre ais~ment, par~aisonnement d6jA 6crit dans le cas de la sphere, que dx est la

seule mesure sur M invariante sous l'action de G de masse total¢ I (voir (3.1)).

Lemme (4.2). Soi% T une representation irr~ductible de G su__~r H, et soit W

l e s o u s - e s p a c e de H form6 d e s ~l~ments wEH t e l s q u e , q u e ! que soi___~t kEK,

Tkw= ~. Alors [ . Tk~ est la projection ae H su__~ W.

¢1%
I1 e s t c l a i r en e f f e t q u e , q u e l que s o i t hEHp .l~ Tkh dk appartient A W~ e t e s t

L ' ~ A
6gal ~ h si h appartient ~ W. F-~est n u l l e m h appartient A W : q u e l que s o i t
 49

w6W, dans ce dernier c a s ,

~IK Tkhdk , w > = I K <Tkh , w > d k = ~ <h p Tk_lW>dk = < h , w > = O.

Soit c l a dimension de V, {el, e2, . . . , ed} une base de H telle que {el,..

•., ec} consti%ue une base de W, ~ - ~ = (%--~'~) la matrice de T dans ce%te base.
g
c
D'apr~s ce qui pr4c~de, I,I O ... O
c.~/O I ... O

et, ~isque ~(0~) = ~(g)~,(k),

(4.3)
~0 sinon

(4.y)
~K tmn(g) si m¢c
%mn(kg)dkffi I 0 sinon •

Iien r6sulte que, si n4c, tmn(gk) = tmn(g ) quel que soit kEK ; si m¢c,

%mm(kg) = tmm(g ) quel que s o i t k.

Soit V le sous-espace de ~T engendr4 par les fonctions de la forme g~,<h,TgW>,

u/le
oh h~H et wEW. Si ~ appar%ient ~ l'orthogonal de V dans ~ est Icombinaison

lin6aire des t m , n > c et donc ~K ~(Sk)dk = 0 ; si ~ appartient ~ V, alors

T(gk) = T(g) quel que s o i t kEK, e t i l e x i s t e une f o n c t i o n f continue sur M telle

que ~ = f#.

Soit ~ l'ensemble des classes d'4quivalence de repr4sentations irr6ductibles

pour lesquels la dimension de W est au moins 6gale A I~ ces repr4sentations sont

appel4es de c l a s s e 1 par r a p p o r t ~ K.

On appelle ~M) le sous espace de L2(M) form4 des fonctions ~ telles que

~# appartien% ~ hA(G ). Soit T u n e repr4sentation de la classe d'4quivalence sur

 5O

l ' e s p a c e de H i l b e r t H, W d6finie eomme pr4c6demment, VAle sous-espace de ~A(G)

engendr4 par les fonctions de la forme g ~ > ~ h ~ TgW> 9 oh hEH et wEN. En vertu de

(4.3), ~ACM) et V~ sont en bijeetion. Si ~ n'~ppartient p~s ~ ~, &A(M) est

{o}.
Corollaire (4.4). L2(M) = @) ~A(M).

Le s sous-espaees ~A(M) sent form4s de fonctions continues et sent invariants sons

l'action de G.

Puisque VA est form4 de fonctions continues, il en est de m~me de ~M).

De m~me, VA est invariant sons l'action de la repr4sentation R, done ~S) est

i n v a r i a n t sous l ' a c t i o n de G. Les sons-espaces VA 4tant deux ~ deux orthogonaux~ les

sous-espaces ~M) sent deux ~ deux orthogonaux. Comme L2(G) = E ~ ~%G), et comme,

quel que s o i t AEA, PA~0# =dA1)~A(g)Rg~#dg est de la forme p#, L2(M) = A£~ ~)~A(M)"
K
Remarque. Soi% T la repr6sentation de G sur L2(M) d4finie par Tgf(x) =

f(g-lx), et soit h A l a f a m i l l e de p r o j e c t i o n s associ6e (cf. ~ 3, chapitre I) :

II est imm4diat de voir que h A est la projection sur ~M). La d4composition trouv4e

de L2(M) coTncide done avee la d6composition obtenue dans le paragraphe 3~ chapitre I.

Montrons que, dans le can particulier oh G = SO(n)9 K = SO(n-1)~ toute repr6sen-

ration irr6ductible de G de classe I est telle que la dimension de W est 1.

Oonsid4rons, en effet, la repr6sentation ~ de SO(n) sur ~ et appelons A(k) sa

classe d'4quivalence. On a vu que ~ est de classe 1, que l ' e s p a c e W e s t engendr4

par l'harmoniqne zonale ~ et que le sous-espace ~(k)(~_l) est form6 des r e s t r i c -

tions & ~n-1 des polynSmes de Hk (thdor~me (3.6)). Les sous-espaces ~k(k)(~_l)
 51

formen% donc un syst~me t o t a l dans L2(~,n_1) ( c o r o l l a i r e (3.5)), et 1 ' a p p l i c a t i o n

k~(k) d 6 f i n i t une b i j e c t i o n de N sur ~.

Comme nous l ' a v o n s vu dans le cas de ~n-1 c ' e s t l a c a r a c t 4 r i s a t i o n de l a fonc-

t i o n harmonique zonale comme 4rant 1'unique f o n c t i o n harmonique dens ~ invariante

sous 1 ' a c t i o n de SO(n-l) qui nous a v a i t permis d ' o b t e n i r l a d6composition s p e c t r a l e des

o l ~ r a t e u r s qui cemmutent avee l ' a c t i o n de SO(n). Or, 4nonc6e diff~re,~ment, c e t t e

propri4t6 e s t 4quivalente au f a i t que t o u t e r e p r 6 s e n t a t i o n i r r 6 d u c t i b l e de SO(n) de

classe 1 par rapport A SO(n-l) a un sous-espa~e ~ fixe de dimension ~)Or

cette situation se produit plus g6n4ralement~ en particulier lorsque G 9K forment un

couple sym4trique :

D 6 f i n i t i o n . On dira que (G , K) est un couple sEm4trique s'il existe un automor-

phisme S d_.ee G ~y,ant les propri6t4s suivantes :

~) S(uv) = S(u)S(v)

s(s(u)) = u

7) S(k) = k quel que soit k6K ;

6) quel que soit u6G, il existe kI e__~t k 2 appartenant ~ K t e l s que

S(u) = klu-lk 2 .

Th6orbme (4.5)° Supposons que (G , K) e s t un couple s y m 4 % r i q u e . .Pour

- - route repr4-

sentation irr4ductible de Q de classe I le sous-espace WK fixe est de dimension I.

Supposons qu'il n'en soit pas ainsi : soit T une repr6sentation irr6ductible de G

sur H telle que le sous-espaee ~= lwEH ; VkEK , TkW = w} est de dimension c am

moins 4gale A 2, {el, ..., ed3 une base de T telle que {el, ..., eel forme une

base de ~, (~) la matrice de T relativement ~ cette base. Envertu de (4.3) et

(*) c ' e s t - ~ - d i r e W = WK = ~w : TkW = w, kEK} ok K, ici, est SO(n-1)o

 52
( 4 . 3 ' ) , quels que soien% m,n ~c e% quels que soien% kl,k2EK , %mn(klUk2) = tam(u ) .

~ono, ~uel ~ne ,oi~ ,~, ~(u) = ~[S(u-')] ~ ~=~i~u~iar, queZs ~ue soien~

u,vEG, e% k,k'EK,

%era((uk) -1 ( v k ' ) ) = %ranLS( (vk')-1 )S(uk)].

o~ + ((uk) - l ( , k ' ) ) = E ~e((uk)-~)~en(~k') ,

tmn~S( (vk')-1 )S(uk~ = ~ tmg ~S( (vk')-1 )] ten(S(uk))"

On en d6dui%, en int~gran% sur Kx K e% en utilisant (4.3) et (4.3') que

c c
__ltme(U-1)%En(V) = %me(S(v-1))%tn(S(u))

c
= ~ tree(v) %en(U-1).
Ce%te derni~re relation contredi% les rela%ions dtorthogonali%~ entre les t nul lorsque

c>1.

Revenons ~ la d~composition de L2(M) obtenue dans le c o r o l l a i r e ( 1 . 4 ) , dans le cas

oh toute r e p r e s e n t a t i o n i r r ~ d u c t i b l e de c l a s s e 1 a un sous-espace ~ de dimension 1 :

lee soue-espaces ~M) sont a l o r s de dimension d~ et sont dee sous-espaces minimaux

K -

de L2(M) invariants sous l'action de G. En effet le sous-espace V~ de ~A(G) form~

des fonctions T # telles que • appartienne ~ ~A(H) est invariaut sous 1'action de

la repr6sentation r6guli~re ~ gauche de G et de dimension dA. Ii est donc minimal

(cf. le th~or~me ~.10) du chapitre I), et il en est de m~me de ~A(M).

Montrons 9 r6ciproquement, que si H est un soue-espace de L2(M) minimal invariant

sous l'ae%ion de G, il exis%e 1%el que H = ~A(M): le sous-eepaee V de L2(G)

d6fini par V = {~# ; ~EHJ ee% minimal invarian% SOUS l'action de la repr6sentation R.

I1 exiete done A %el que V C ~(G), et le sous-eepace H es% form~ de fonctions

continuee. Soi~ ~ ~ ~epr+sen~+ion de G e ~ " d+finie par T~(~)=~ ( e - l x ) .

 53

Elle est irr4ductible, e% 4quivalente ~ RV, donc elle appar%ient ~ la classe d'4quiva-

lence A. Sol% alors ~ l'unique 616ment de H tel que, quel que soit ~EH,

<~, ~> = T(~). Ii est ais6 de voir que TkT = ~ quel que sol% k6K : la repr4sen-

ration T e s t done de c l a s s e 1 et le sous-espace WK c o r r e s p o n d a n t e s t l ' e s p a c e engen-

dr4 par V o Quel que soit ~EH, < ~ , Tg~> = < T _I~, ~ > = ~(g|). L'espace Ex(M)
g
est done encore l'espace H.

Len~ne (4.6). Soit ~ l'imiqu.e fonc%ion de E~M) telle ~ue, guel que soit

~E ~ ( M ) , JM~(Y)~x~Ty(y)ay=~(X)o Alors, queZZe que soit la fonction fEL2(M), I ~

projection ~Af d__~e f .sur ~M) est donn4e par :

On calcule ais4ment, comme da/ls le cas de ~ - 1 ' ' ~ ( ' ) = 11'~11~ = dA" Sol% T ~

la repr4sentation de G sur EA(M) d6finie p= : T ~ ( x ) =~(g-lx). En prenant pour

premier 414ment de la base de M) la fonction ~I' on voit ais6ment que le

coefficient (1,1) de la matrice de TA est 4gal ~ ~A ~| ' et donc, en vertu de

(4.3)

¢~f)#(~)

Mais on montre facilement que, quel que soit ono

Exemples d__eecouples sym6triques.

-1
I) G es% un groupe ab41ien, K = •,~e| : il suffit de prendre S(u) = u @

2) L'action de G = GIX G I sur GI par translation, A gauche et A droite (c'est-A-

 54

-I
dire (x,y)g = x g y ), nous permet d'identifier G I comme l'espace homogSne G/K oh

K = {(x,y): ( x , y ) e = e] = { ( x , x ) : x E G 1 } . L'automorphisme S sur G d4fini p=

S(x,y) = (y,x) v4rifie a), ~), ~), 6). Les f o n c t i o n s f sur G invariantes ~ g a u c h e

et ~ droite par K son% de l a forms f(x,y) = fo(XY - 1 ) oh fo(X) = f(x,e) e s t une f o n c -

tion centrals sur G1.Le corollaire (4.4) donne donc une d4composition de L2(GI) en

sous-espaces invariants sous l'action de G qui coincide en fair avec la d4cempesition

6tudi6e dans le chapitre I, et la fonction ~IA sur GI coTncide avec le caract~re ~A

sur G1 ( * ) .

3) s = SO(n), K = so(n-l) : appelons ¢ 1~ ~ a t r i ~ e de ~ . s ~ t r i e d~s Rn p=

rapport ~ l'axe x
n
~ -1 0 ... 0 0

0 0 .., -t 0

~ 0 0 .,, 0 I

et posons S(u) : ~ u ~ I . La matrice ~ appartient ~ 0(n), donc S(u) est bien dans

S0(n). Les propri4t4s ~), ~), ~) se montrent inlm6diatement. Soit u de la forms :

~I o ....... o o ~

IY..I.:::::::..Y .... ?
~o= ~o o...i o o
0 0 ... 0 cose sine
0 0 .,, 0 s i n O cosOP

Ii est imm6diat que ~u@~-1 = U-o" Soit alsrs u quslcenque : il exists 0 tel que

U|o~ = u@|.~. Donc, il exists k6SO(n-1) tel que ku~ = uol. D'oh u =k-lu@k ' avec

k' ds~ns 80(n-I). En vertu de ~) et ~),

S(u) = S(k-lu~ ') = k-1(~uo~-1)k ' = k-lu~k ' = (k-lk')u-1(k-lk ')

et nous obtsnons 6) ayes k I = k 2.

4) L'exempls pr6c4dent~ ~_~_Ip est un espace riemannien globs/emsnt sym4trique,

c'est-~-dire une vazi6t6 riemanienne analy%ique X tells que cheque point x sst un

point fixe isol6 d'une isom6trie involutive appel6e sym4trie autour de x (voir Helgason

( * ) Les i d e n t i f i c a t i o n s SU(2) x S U ( 2 ) / S U ( 2 ) - ~ S U ( 2 ) - v E 3 ~ s o ( 4 ) / S O ( 3 ) nous f o u r n i s s e n t

un ben exempleo
 ~5

p. 170). Le groupe G p e u t 8 t r e prim c o ~ e l a composante connexe de l ' i d e n t i t 6 dans l e

groupe de routes les isom6tries de X ; et K comme le sous-groupe des transformations

laissant un point x fixe. Si ~ est la sym6trie autour de x on peut obtenir

O X
O

l'automorphisme S en d4finissant

O O

et on v6rifie que les conditions ¢, p, ~ 6 sont satisfaites (Helgason, th. 3 . 3 , p. 173).

De m~me que, darts le premier chapitre, Is d4composition de L2(G) en A E ~ e ~A(G)

nous avait permis d'obtenir une d6composition spectrale commune ~ tousles op4rateurs

lin6aires q u i conmrutent avec R, de mSme l a d 4 c o m p o s i t i o n de L2(M)"

" en .~ 8~M) va
K
nous p e r m e t t r e d ' o b t e n i r une d 6 c o m p o s i t i o n s p e c t r a l e convnune A t o u s l e s op4rateurs sur M

q u i commutent avec l ' a c t i o n de G. Appelons e n c o r e polynSme t r i g o n o m 6 t r i q u e gdndralis6

sur M route combinaison lin4aire d'dl4ments de ~A(M).

Thdorbme (4.8). Soit L u n op4rateur d4fini sur les polynSmes trigonom6triques

g6n4ralis4s sur M ~ valeurs dans ~(M) q u i commute avec l ' a c t i o n de G. ~ u e l que

soit IE A
K

et il existe une fonction kA sur ~(MXM) telle que k~(ux , uy) =k~(x,y) pour tout

uEG, e_~t

Ik~(x,y)~(y)~y= 0 ,~ 9~(~X(M))±. (*)

(*) Observons que ce thdorbme e s t v a l a b l e pour t o u t e s p a c e homog~ne M = G/K, et

se r 4 d u i t an th~or~me ( 2 . 1 ) au c h a p i t r e I en p r e n ~ t K ffi [ e } .
 56

Consid~rons la r e s t r i c t i o n de L A ~A (M). La fonctionnelle lin~aire

f , (Lf)(|) admet la repr6senta%ion (Lf)(~) • J . f(y)kA(y)dy, ou kXE ~X(M) et

f E ~A(M). Du f a i r que L commute avec l'ac%ion de G i l vient (avec k~(v) = kA(v-11))

(Lf)(v 1) = (LRv_lf)(I) =~ f(y)k~(vly)dy

~[f(u 1 ) k ~ ( v - l u , ) d n f f i J G f#(u) k~(u-lv)du.

cG

Posons L'f # si =0 si nsi, L#

~tant l a r e s t r i c t i o n d~un op~rateur g~n~ralis~ de convolution ~ gauche, on obtient du

n i t i o n i l vient que k~(~y) = k~(y) si v3 ffi 1 ; d'o~ k~(~ 1 u w2) = k~(u) quand ~1 |ffi

1 v 2 ~. Cela nous permet de poser k~(x,y) ffi k~(u-lv)

~ si x ffi u 1 et y = v |.

Les autres conclusions du ~h6or~me sont ~videntes.

Corollaire (4.9). Sous l'~ypothbse suppl~mentaire que les representations i r r ~ d n c t i -

bles de G de classe 1 ont un espace WK de dimension 1, l e sous-espace ~/H) est

l ' e s p a c e des vecteurs propres de l ' o p ~ r a t e u r L associ~ h une valeur propre a X ffi £(~).

En e f f e t , d'apr~s ce qui pr6c~de (cf (4.3), ( 4 . 3 ' ) , (4.7)) i l e x i s t e , ~ un facteur

m u l t i p l i c a t i f pr~s, une seule fonction t R dans ~(G) t e l l e que tX(klgk2) = t~(g)

quels que soient k 1 ,k2EK : l a fonction ~1~$. I1 existe donc des constantes a X telles

que k # ~ = ~ A ,A~, e t , quel qne s o i t ~E~R(M), (L,)~f~,~#~,#=aX~ ~ en vertu

de (4.7).
 57

D6finition. Soit p ~ 1. Nous a p p e l l e r o n s LP(K%G/K) l e s o u s - e s p a c e de LP(G)

form4 des fonctions f telles que, quels que soient kl,k2EG , f(klUk2) = f(u).LP(x\S/K)

est une sous-alg~bre de LP(G) pour la convolution. On d6finit de mani~re analogue

~(KkG/K) (on se restreindra ~ la convolution ~ gauche).

Th4orbme (4.10). Les alg~bres LP(K\G/K) sent commutatives si et seulement si les

repr4sentations irr6ductibles de G de c l a s s e 1 ont un s o u s - e s p a c e fixe ~ d_~e

dimension I.

Montrons tout d'abord que la condition est n6cessaire : soit T une repr6sentation

irr4ductible de G sur H telle que le sous-espace W, W = {w6H ; VkEK, TkW = w] est

de dimension c aumoins 6gale ~ 2, {el, ..., e J une base de H telle que

~1, "", ec~ forme une base de W, (tmn) la matrice de T relativement ~ cette base.

D'apr~s (4.3) e% (4.3'), les fonctions (%mn 4c appartiennent ~(x \G/K), a~si
c [n~c
que l e u r s combinaisons l i n 6 a i r e s ~ ~mntmn • Or ( v o i r page 1 4 ) ,
m~n=l
c c c
(~ ~mn%nm) * ( ~ @mn~nm) --m~1 ~mn%nm' oh la matrice d(Imn) est ie produit des
m,n=1 m pn=l =
=atrices (~m~) et (pm~). Le produit des matrices c xc (ou c ~2) ~taut non

commutatif, il en est de mSme du produit de convolution sur LP(K %G/K).

Supposons donc maintenant que route repr6sentation de G de classe I a un sous-

une constante mul%iplicativep_~_~
espace fixe de dimension I. Quel que soit IE%, la seule f o n o t i o n ~ e ~G) qui

appartient ~ ~(K\ G/K) est la fonction tA = ~AI ~#. Or t A . t ~= 0 si A~.

Les polynSmes g4n4ralis6s 4taut denses dans LP(K \ G/K)~ on en d4duit imm4diatement que

c'estune alg~bre commutative.

Remarque. On a montr6 en p a r t i c u l i e r que s i (GpK) e s t un couple sym6trique, l e s

alg~bres LP(K %G/K) s e n t commutatives. Nous a l l o n s en donner une d4monstration d i r e c t e ,

 58

qui ne n4cessite pas d'hypoth~se de compacit6 sur G et K. Soit S l'involution

associ4e au couple (G , K). Quelle que soit fELP(K\ G/K), f(S(u)) = f(u-1). Posons

fS(u) = f(S(u)), fi(u) = f(u-1). Soien% f et g6LP(K\G/K). On v6rifie ais4ment que

(f * g)i = g i * f l (f * g)S = fS * g S : cette derni~re propri6t6 d6coule du fair que

S est un automorphisme~ et que d(S(u)) = du en vertu de l'unicit6 de la mesure de Hs~r.

Finalemen%, f . g = g . f.

Lorsque les repr6sentations irr4ductibles de G de classe I ont leurs espaces

1 A#
f~xes W
K de dimension , , ~l ~6su~te ~ d i ~ t e ~ e n t de (4.3) que I~ fonction t~ = ~ I

satisfait ~ l'6quation fonctioDnelle

(4.11) ~KtA(ukv)~ = %A(u)tA(v).

Nous allons montrer que cette propri4t6 caract6rise lee fonctions t ~,

Leme (4.12). On suppose que lee rgpr4sentations irr4ductibles de G de classe I

ont un espace WK de dimension I. Soit ~ une forme lin6aire sur LI(K ~G/K) telle

que ~(f . g) = ~(f)~(g)o Alors, il existe A6~ telle que :

e(r) = J~_r(u) ~(u-1)~.

Rn ver%u du %h4orbme de Hahn-Banach, la forme ~ se prolonge A LI(G), et il

existe donc %ELO°(G) telle que, quel que soit fELI(K\G/K), t(f) = JQf(u)~-~7au.
f i
Grace aux propri4t6s de f, [(f)= J~. f ( u ) t - - ~ - ~ d n = JG

On peut donc supposer que % appartien% ~ L OO (K\ G/K). Donc

% = E dA aA %A

la convergence ayan% lieu an sens de L 2. Soi% A tel que uA ~ O. A partir de la

d6finition de t on obtien%
 59

~(t~) = t~(y) t - ~ dy = ~ . De la relation t ~ * t ~ = ~ et en utilisant la

JG ~gt~
6
p~opridt~ multipZic~tive de e nous obtenons ~ = ~(t~)~(t~) = ~(t~ * t~) = ~--~(t ~) ffi
d~

= d b ~A" Donc, ~ g = 0 si g ~ A , et ~ ffid~"

I

Et,u d e d u cas de (SO(n) , SO(n-l)).

Sol% f une f o n c t i o n continue sur E-1 , 1] . On peut lui f a i r e correspondre une

fonction ~ continue sur SO(n) par

~(U) = f(u~ • 4).

I~t fonction ~ appaxtien% ~ ~(SO(n-1) k SO(n)/SO(n-1)), R~ciproquement, il est imm6flia%

que route f o n c t i o n de ~(SO(n-1) \SO(n)/SO(n-1)) e s t de la forme g#, oh g appartient

~(~_1) et g(kx) = g(x), quel que s o i t kESO(n-1), et done de la forme ~ lmisque

une %elle f o n c t i o n de ~n-1 ne d~pend que de l a dernibre coordonn~e de x. Un c a l c u l

~l~mentaire montre l'existence d'une constante ~n telle que, quel que soit y E ~ _ I
n-3
(4.13) f(y.x)~ = ~n _1 f ( t ) (1 - t 2) 2 dr.
-1
n-3

Donc [~ ; I
f(t)(1 - t 2) 2 dt ---
j
SO(~)
~(u)a~

Soient f et g darts ~(E-I , I~). On peu% leur faire correspondre h tel que

(.) (n)

h(x.|) =I~_1 f(x.y)g(y.|)dy .

1
Soi% = (Xl' " ' " Xn) ' y= (Yl' . . . , y~), ~ = (1 - X ~ n _ ( x - ~ )
 60
1
2,2(
= (1 - YnJ y - Yn ~)
1 1

h(Xn) = I ~1 g(yn)f(XnYn + (1-x2) ~ (1 - 2)2 ~.~)dy

1 1 n-..33
2
' {J
= In J -1 g(yn) ~-2 f(XnYn
* (i_Xn2)2(I- yn)
2~ 2
~'~)dl} (1 - yn)

siit on rem~r~tle qne

1 n-3
~(yn ~ + (1--yn2)~ ~)(1 -- yn2)-~- d~dyn.
I

Utilisons (4.13). Nous obtenons

1 1 n-3 n-4
I 1
f(sr + (1-s2)2(1-r2)2t)g(r)(1-r2)-2-(1-t2)-2-dr at.
(4.14) h(s) = ,n~[n_lI_1 J_ 1

La formule (4.14) d~finit une c o n v o l u t i o n a b s t r a i t e sur ies f o n c t i o n s ae ~([-1 , 1]),

qui a 6t4 4tudi6e par Bochner.

Les f o n c t i o n s ~1 sur 7~,n_1 sont l e s z o n a l e s i n t r o d u i t e s dans l e paragraphe

p r 6 c 4 d e n t . On avait 6tabli en (3.16) l a formule

n-2
n-2 ~1(x) = ~ k 2 ( x . ~)
n-2
l

oh ~ k 2 est un polynSme de Gegenbauer. Donc

n-2
t).(k) n + 2(k-1) 1 ~-~-
= n-2 ~-- k

et la relation (4.11) peut s'6crire :

n-2 n-2 n-2
T(v ) =
IS
'e 2
--(kvl'u-1|)dk
O(n-1) k
n-2 1 1
= ISO(n_l)~k-~'(xnYn+(1-x2)~(1-y2)~k~["~)dk

si x = u-l|, et y = v]. On utilise la relation (4.13) pour obtenir

n-2 n-2 n-2 1 1 n-4
n+2 (k-1) - - -- 1 --
~k 2 (r)~k 2 (s) = ~'n-1 J-1 ~k2 (rs + (1-r2)~(1-s2)2t)(1-t2) -~- d t .
n-2
Th6or~me (4.15). Les pol,Tn6mes ~k 2 forment ~ syst~me ' o r t h o g o n a l complet dans
 61
n-3
l'espace L2([-1 , f i ) 2
relativement ~ l a m e ~ r e (1 - t 2) dt. II existe des constan-

telles sue •
n-2 n-3 n-3+2k
-r(t)
Ek ¢k,n (1 -
t2~T ok
~%k (1 -
t21 2

La premibre assertion r4sulte imm4diatement de l'orthogonalit4 des polynSmes zonanx

dens L2(~_,n_1 ), de (4.13), et dU fair que les polynSmes son% denses clans L2([-I , I]).
n-2
Les polynSmes Tk2 sont de degr4 k. Mais on v4rifie ais6ment que les polynSmes
- n--__~3 k n-3+2k
Q~k(t) = (1 - %2) 2 _~d (1 _%2) 2
dt ~

forment 6galement un systbme orthogonal complet daus L2([-I , I] ), relativement ~ la

n-3
mesure (1 - t 2) 2 dr, form4 de polynSmes de degr6 croissant. Ii existe donc ¢k,n tel
n-2
que ~k 2 " %,aN"

Remarque. La th4orie d4velopp4e darts cette section n'exige pas de mani~re fondamen-

tale que G soi% compact. En effe%, comme le montre l'exemple 4, il existe une grande

quantit6 d'exemples non compacts et il est en effet possible dans ces cas d'obtenirune

dgcomposition s p e c t r a l e c o ~ J n e des o p 6 r a t e u r s s u r G/K qui commutent avec l ' a c t i o n de

G.

Un autre type d'exemples non compacts de couples sym4triques s'obtient de la mani~re

suivante :

Soit A un groupe ab41ien localement compact, K un groupe compact d'automorphis-

rues de A. Soit

G(A , K) = {(k,a) ; kEK, aEA}

le groupe muni du produit (k,a)(k',a') = (kk' , ka'+a).

Le couple (G(A,K),K) muni de l'involution S(k,a) = (k,-a) est sym6trique.

Le q u o t i e n t G(A,K)/K es% hom4omorphe h A et l'action de G(A,K) sur G(A,K)/K

 62

se traduit par la composition d'un automorphisme de K et d'une translation. Si en

particulier A =R net K = SO(n), on peut obtenir, en consid~rant Rn comme

G(Rn,SO(n))/SO(n) une d~composition spectrale des op~rateurs qui commutent avec les

d~placements. Les fonctlons bi-invariantes sont dans ce cas les fonctions radiales

de Rn°

§ 5. Fmltiplicateurs

Soit G un groupe compact. Nous avons vu an chapitre I que tout op~rateur g6n6ralis~

L de convolution ~ gauche (ou ~ droite) est enti~rement d6termin~ par la donn6e de la

suite de ses coefficients de Fourier matricicls L(A) relativement A la base de

L2(G). Si f(A) est la suite des coefficients de Fourier matriciels de f, alors :

R~ciproquement, il est clair que route suite de matrices L(A) d~finit un op6rateur

L de convolution g6n6ralis6e A gauche (ou A droite). Ii est 6vident qu'une telle suite

nous donne un op~rateur born6 sur L2(G) si et seulement si

La suite (L(k)) est appel6e multiplicateur matriciel A gauche (ou A droite). Si

les matrices £(A) sont de la forme mAIA o~ IA est la matrice identit~ (dA X dr),

la suite scalaire (mA) est appel6e mu!tiplicateur central. (Formellement, Lf est la

c o n v o l u t i o n de f avec une f o n c t i o n c e n t r a l e ) .

Soit maintenant K ~ G un s o u s - g r o u p e t e l que (G ~ K) formeuncouple symm6trique

chaque c p ~ r a t e u r L d 6 f i n i s u r l e s pclynSmes t r i g o n o m ~ t r i q u e s g ~ n ~ r a l i s ~ s de M = G/K

v a l e u r s darts C(M) e t q u i commute avec l ' a c t i o n de G, nous pouvons a s s o c i e r une s u i t e

(mA)A~ ~ telle que

 63

Lf = m A f quel que soit f E ~A(M).

Une %elle s u i t e (mA)AE~ e s t appel4e un m u ! t i p l i c a t e u r zonal ( l o r s q u e M = GXG/G,

l e s m u l t i p l i c a t e u r s zonaux s o n t encore l e s m u l t i p l i c a t e u r s c e n t r a u x s u r G). Elle

d4finit un op4rateur born4 sur L2(M) si et seulement si

sup [mA[ < co.

Une autre classe importante d'op6rateurs sur les polyn6mes trigonom4triques g6n4ra-

lis4s de M s'obtient A partir des op6rateurs de convolution h droite sur G : un tel

op4rateur, N, pr6serve l e s f o n c t i o n s de L2(G) c o n s t a n t e s sur l e s c l a s s e s d ' 4 q u i v a -

l e n c e h d r o i t e de K, e t doric, quel que soit AE~, N~(M)~ ~(M). On d6finit

l'op4rateur lin4aire L sur les polyn~mes trigonom6triques de M par :

, (Lf)

Ltop6rateur L pr6serve l e s s o u s - e s l ~ c e s ~A(M). Soient {%iron} ia base de L2(G),

{finAl} l a base correspondante de L2(M), ~l(),) = (n)' .). . l a suite des coefficients de
i3 i , 3

Fourier matriciels de N. Quel que sol* le polyn6me trigonom4trique ~ sur G,

N~=~d~ tr((A) N(A)ZA),

donc quel clue soit le polynSme trigonom6trique f sur M,

d
A

j=1 ~ 31 '

Lf est donn6 par :

d d
A
i ij'D"
AE~ j=1 i=1
A

La matrice N(A)' est la matrice de la restriction ~i ~(M) de L.

Les op4rateurs sur M ainsi obtenus sent tousles op4rateurs lin6aires sur l'espace

des polyn6mes trigonom4triques qui pr4servent les espaces ~A(M) (ou encore les op4ra-
 64

teurs lin4aires L t e l s que NL = LN pour tout ep4rateur L qui commute avec 1'action
^

de G). L~ suite (M(A))A~~ es% appel6e nmltiplicateur matriciel associ6 ~ l'espace

M.

L~ e n c o r e , un c a s p a r t i c u l i e r int6ressant est obtenu lorsque M = GxG/G.

L'isemorphisme entre M et G nous permet d ' i d e n t i f i e r les op6rateurs lin@aires

sur G qui pr4servent les espaces ~.(G) ( * ) e t l e s o p 6 r a t e u r s de c o n v o l u t i o n g 6 n 4 r a -

A -

lis4e A droite s u r l e groupe GxG.

Nous nous p r o p o s o n s d ' 4 t u d i e r dans l e s c h a p i t r e s s u i v a n t s des c o n d i t i o n s s u f f i s a n t e s

pour que des m u l t i p l i c a t e u r s d6finissant des o p 6 r a t e u r s b o r n 6 s s u r L2(M) ou L2(G)

s'4tendent en d e s o p 4 r a t e u r s b o r n 6 s s u r LP~ p ~ 2. Ces c o n d i t i o n s q u i g 6 n 6 r a l i s e n t le

th4orbme des m u l t i p l i c a t e u r s de M a r c i n k i e w i c z s o n t b a s 4 e s s u r une t h 4 o r i e d ' i n t 4 g r a l e s

singuli~res q u i e s t d6velopp4e an c h a p i t r e suivant.

6. Commentaires e t r 4 f 6 r e n c e s

Pour d ' a u t r e s pr6sentations du c o n t e n u de ce c h a p i t r e , consulter Vilenkin [1],

coi~ et Weiss [ 1 ] . L~ f o ~ l e ( 2 . 9 ) se trouve d ~ s V i l e ~ i n [11- Les rapperts e~tre

Q
les fonctions ~j qu'elle d 4 f i n i % e t une b a s e o r t h o g o n a l e d ' h a r m o n i q u e s s p h 4 r i q u e s s o n t

~t~di6~ d ~ s Bate~a~ ( ~ t e ~ ~uscri~ ~oject ; voir ~ ~del~ [1]) ~ ~ e i r aussi l e

c h a p i t r e IV de c e s n o t e s . Le p r o d u i t s c a l a i r e diff4rentiel (p,q) a 4%4 4 t u d i 4 de d i v e r s

cSt4s. C'est l'interpr6tation de ce p r o d u i t s c a l a i r e comme p r o d u i t s c a l a i r e sur les

t e n s e u r s s y m 4 t r i q u e s q u i permet d ' o b t e n i r r a p i d e m e n t l e s p r o p r i 6 t 6 s des h a r m o n i q u e s s p h 4 r i -

(*) Observons de nouveau q u ' u n e s u i t e quelconque d ' o p 4 r a t e u r s lin6aires NA d 4 f i n i s s u r

A(G) d 4 t e r m i n e u n t e l o p 6 r a t e u r N. Pour que N s o i t un o p 4 r a t e u r de c o n v o l u t i o n
g6n4ralis6e, i l f a u t ( c f . Ch° I § 2) que l e s m a t r i c e s NA s e i e n t de ferme p a r t i c u -
li~re.
 65

ques (voir, par exemple le th~or~me (3.8)). On trouvera une d&uonstration du fait que

= dans Stein et Go %/eiss [2]. Le thgor~me (3.12) est une version du

th6or~me de Funk -Hecke. La formule

p(D) ( ~ ) = (-i)k ~ k-1

]--~(n+2(j-l)) } .p
Ixl
nous fournit une expression ~16gante pour la projection de ~(k) sur ~. La formule

~tait connue de Hobson (volt Erdelyi [I]) dans le cas o~t p e s t harmonique. Elle semble

8tre nouvelle dans le cas g@n@ral. Son rSle peut 8tre compar~ k celui de la formule de

Rodrigues pour les polynSmes orthogonaux (voir E~delyi CI] ). Le paragraphe 4 est une

g~n~ralisation du paragraphe 3, et les notions qui y sont introduites serviront de

cadre abstrait aux th~or~mes de multiplicateurs. L'hypoth~se de compacit~ du groupe G

nous pormet de rend_re i~ pr6sentation particuli~rement agr~able, sans faire appel ~ des

th6or~mes de structure sur les ~TOUpeS de Lie. Nous remercions Gangolli des conversations

fruotueuses que nous avons eues avec lui ~ ce sujet, et renvoyons le lecteur ~ Gangolli

['I