Les sous-groupes ferm s de rang maximum des groupes de Lie clos*)

Par A. BOREL, Zurich, et J. DE SIEBENTHAL, Lausanne

Dans un groupe de Lie compact G, tout sous-groupe ab61ien maximum est clos, puisqu'il est ferm4, et de plus connexel); c'est donc un produit direct de l groupes clos ~ un param~tre~), appelg toroide h I dimensions; 1 ne d~pend que de G e t non du sous-groupe ab61ien consid6r6 et dgfinit le rang de G (au point de rue global).

L'objet de ce travail est l'6tude des sous-groupes ferm6s (donc de Lie) connexes d 'un group de Lie clos possgdant le m~me rang que le groupe, ou, si l'on veut, ayant avec le groupe un toroide maximum commun. Ils sont compl~tement caract~ris~s par le th6or~me suivant, d~montr~ au N ~ 6:

Soient G ~ u n sous-groupe /ermd connexe de rang m a x i m u m d ' u n groupe

de L i e clos G e t Z r le centre de Gr ; alors, G I est la composante connexe du

normal isateur dans G de Z ~.

Par normalisateur dans G d'un sous-groupe Z ~, nous entendons ici, selon l'usage habituel, l'ensemble des dl~ments x de G pour lesquels:

x - 1 Z r x c Z ~

c'est un sous-groupe ferm~ de G, de rang maximum si Z ~ est abdlien. On peut aussi dire qu'un sous-groupe connexe de rang maximum est

enti~rement d~fini par son centre. Cette ~tude se fera s l'aide du diagramme .ou, ce qui revient au m~me,

des vecteurs racines de G, dont nous rappelons les ddfinitions et princi- pales propri~t~s au N ~ 1. Leur emploi m~ne rapidement au but ici grs au fait que les vecteurs racines d 'un sous-groupe de m6me rang sont

*) Un r6sum6 de cet article a paru darts les Comptes Rendus, t. 226 (1948) p. 1662/4.

i) H. Hop.f, ~ b e r d e n R a n g g e s c h l o s s e n e r L i e s c h e r G r u p p e n , Comm.:Math. Helv. 13 (1940---41), p. 119--143, N ~ 23.

3) E. Caftan, L a t h ~ o r i e d e s g r o u p e s f i n i s e t c o n t i n u s e t l ' a n a l y s i s s i t u s , M6- morial Sc. Math. XLII, Paris 1930, N ~ 42.

200

aussi vecteurs racines du groupe (Th~or~me 2), ce qui n 'es t en g~n~ral pas vrai pour les sous-groupes de rangs inf6rieurs s celui du groupe. Cet te proposit ion nous condui t s chercher un crit~re pour qu 'un syst~me de vecteurs racines pris parmi ceux de G corresponde ~ un sous-groupe fe rmi . Nous donnons ~ cet effet au N ~ 4 une condit ion n6oessaire (Th~o- r~me 3) d 'oh nous d~duisons une borne sup~rieure pour le hombre des param~tres d ' un sous-groupe de mSme rang. Ensuite, une propri~t~ des vecteurs racines d~montr~e au N ~ 2, jointe au th~or~me 3, nous pe rmet d 'ob ten i r au N ~ 5 uno condit ion ngcessaire e t suffisante, qui ~quivaut l '~nonc6 donn6 plus haut . Enfin, le N ~ 7 est consacr~ s la dSterminat ion explicite des plus grands sous-groupes de mSme rang des groupes simples clos.

E n nous proposant l ' examen des sous-groupes ]ermds, nous nous pla~ons a u toma t iquemen t s un point de r u e global, et effect ivement nous consid~rons dans ce t ravai l toujours les groupes ,,en g r a n d " ; mais il est ~ r emarque r que l 'on pourra i t t ra i te r le probl~me par la m~thode infinit~simale car tout sou~-groupe de Lie local d'un groupe clos G qui est de rang maximum, c'est-~-dire contient un noyau de sous-groupe abdlien maximum dans G, est le noyau d'un sous-groupe en grand ]ermd dans G. Nous reviendrons sur ce point au N ~ 8.

Dans ce m~moire, nous nous occupons exclus ivement des sous-groupes de mSme rang que le groupe, nous r~servant pour plus t a rd l '~tude des sous-groupes de rang quelconque. Mentionnons cependant clue les con- sid~rations du N ~ 4 s '~tendent avec peu de modifications au cas g~ngral, ce qui n 'es t pas le cas pour le N ~ 5.

I1 nous est agr~able de remereier ici MM. H. H o p f et E. Stiefel de leurs conseils. C'est d i rec tement s l ' inst igation de ce dernier clue l 'un de nous (A. Borel) s 'est occup~ de la quest ion trai t~e ici, ~ l '~tude de la- quelle J . de Siebenthal a ~t~ amen~ par l ' examen de probl~mes topolo- giques propos6s par M. Hopf .

1. Darts la suite G d~signera toujours , mSme si nous ne le ment ion- nons pas express6ment, un groupe de Lie compact connexe et G I un sous- groupe ferm6 connexe de rang m a x i m u m de G.

Soit T t u n toroide m a x i m u m de G. On peu t toujours rappor te r un en- tourage U (e) de l '~l~ment neut re s des coordonn~es orthogonales cano- niques x l , x 2 . . . . . x n (de premiere esp~ce) dans lesquelles 3) :

s) Pour les th6or&mes de ce paragraphe, voir E. Stiefel, ]~ber e ine B e z i e h u n g zwi - s c h e n g e s c h l o s s e n e n L ie schen Gruppen u n d . . . , Comm. Math. Helv. 14, 1941142, p. 350--379.

201

a) le groupe adjo in t lin~aire de G est or thogonal .

b) x l , . . . , x~ sont les coordonn~es de Tt~, U(e) ; la mul t ip l ica t ion dans T t e s t repr~sent~e pa r l ' addi t ion des eoordonn~es et l ' image de T l dans le g roupe adjo in t lin~aire de G est form~e pa r des mat r ices du t y p e : (0)

D~(x) (cos 2 ~ , (x) -- sin 2 ~ , (x)~ 0 D~(x) = \s in 2~vq~(x) cos 2 ~ v ~ ( x ) /

D m (x)

• vql (x), =k vq2 (x) . . . . . • vqm (x) ~ tant des formes lin~aires en x 1 . . . . . x~; ce sont les param~tres angulaires de G ; deux p a r a m ~ t r e s vqi, vq i quel- conques sont l in~airement ind~pendants .

P renons x~ . . . . . x z c o m m e coordonn~es dans un espace R t ~ l d imen- sions ; l ' addi t ion vectoriel le fair de R z le groupe de r ecouvremen t universel s implemen t connexe de T I ; r~ciproquement , on ob t i endra T t s pa r t i r de R l en ident i f iant en t re eux les points ~quivalents pa r r a p p o r t s un r6seau ~ 1 dimensions, le r~seau unit~, qui est le noyau de l ' homomor - phisme de R l sur T 1. Cet te correspondance ent re R z et T t p e r m e t de con- sid~rer un sys t~me (x x . . . . . x~) comme caract6r isant indi f f~remment un point de R z ou un ~l~ment de T ~, ce dont nous ferons c o n s t a m m e n t usage. Les plans s 1 - - 1 d imens ions :

vq~(x) - - 0 (modulo 1) , i ---- 1 , 2 . . . . . m

d6finissent dans R ~ le diagramme de G que nous noterons D(G). Ces plans cont iennent les dldments singuliers de T~4), c 'est-s ceux dont le normal i sa teu r dans G est plus g rand que T~; si un point se t rouve sur k plans, son normal i sa teu r connexe poss6de 1 -k 2/c param~tres .

Nous consid~rerons R ~ comme un espace euclidien, a v e c l a m~tr ique x~ q- x~ -k" -" �9 x~ ; les sym~tr ies aux p lans du d i a g r a m m e laissent ce dernier et le r~seau des points ~quivalents ~ l '~l~ment neu t re invar iants . E n t a n t que t r ans fo rma t ions de T ~, elles sont fournies pa r des auto- morph i smes int~rieurs de G la issant T ~ invar ian t . Les t r ans fo rmat ions de T t ob tenues ~ l 'a ide de ces au t om orph i s m es cons t i tuen t un groupe qui est i somorphe (holo~drique) au groupe kg engendr~ par les sym~tr ies aux

plans du d i a g r a m m e con tenan t l 'origine. ~v est un groupe fini.

4) Les formes • 2 r c ~ / ~ t sont les racines de G, au sens de la th6orie infinit6simale; les ~l~ments singuliers du texte et contenus dans Tl ~ U (e) sont port,s par les groupes

un param~tre qu'engendrent les transformations infinit~simales de T l dont le polynSme caract6ristique admet la racine z~ro avec une multiplicit8 plus grande que 1.

202

On peut aussi caract6riser le diagramme par un systbme de 2m vec-

teurs racines =~ 01, ~ 0~ . . . . , ~= 0~ introduits par H. Weyl. 0~ est le vecteur contravar iant dont les composantes covariantes sont les coeffi-

--).

cients du param~tre angulaire --0~ ; 0~ est donc perpendiculaire au plan 0~ ~- 0. Ces vecteurs vdrifient les conditions ~) :

(1) 2 (0i, 0 t) est un nombre entier ((0 i, 0j) (0i, 0i) ordinaire).

est le produit scalaire

(2) si 2 ( ~ 1 7 6 (0i, oi)

--k, 0j--ev~ i ,0~-2e0~ . . . . . 0 s - k 0 t , (e : signe de k) sont aussi des vecteurs racines.

(2) est du reste une consequence de (1) et du fair que les vecteurs racines sont deux s deux oppos4s.

Toutes ces propri~tds sont en gdn~ral dnoncdes pour les groupes com- pacts semi-simples, mais elles s '6tendent d'elles-m~mes aux groupes clos quelconques, qui sont toujours localement isomorphes au produit direct d 'un groupe semi-simple et d 'un groupe commutat i f indiquant la pre- sence d 'un centre continu ; si celui-ci est s s param~tres, les plans 0 t = 0, i = 1 , . . . , m se couperont suivant un espace R s s s dimensions; les vecteurs racines sous-tendent l 'espace R t-s eompldmentaire de R 8, et r~ciproquement. R t-s recouvre le toro'ide max imum de la composante semi-simple ; si cette derni~re n 'es t pas simple, elle est (au moins locale- ment) produit direct de k groupes simples et les vecteurs racines se r6- partissent en k syst~mes de vecteurs, mutue l lement orthogonaux, corres- pondant aux diffdrents groupes simples, et rdciproquement.

Si le centre continu de G a s param~tres, le domaine fondamenta l de e s t l i m i t 6 p a r 1 - - s plans, disons 0 1 = 0 , 0 2 : 0 . . . . ,0~_ 8 = 0 ; tous les autres param~tres angulaires sont combinaisons lin~aires s coeffi- cients entiers de 01, 02 . . . . ,0t_ 8, qui sont dits pour cela former un sys- t~me de param~tres /ondamentaux; en mult ipl iant dventuellement cer- tains param~tres par (--1) , on peut faire en sorte que t o u s l e s coeffi- cients soient positifs ou nuls, le domaine fondamenta l de T grant alors donn~ par les relations 0~(x) > 0, i = 1 . . . . . l -- s.

b) Voir B. L. van der Waerden, D i e K l a s s i f i k a t i o n d e r e i n f a c h e n L i e s c h e n G r u p p e n , Math . Zei tschr . 37, 1933, pp . 448; auss i E. Stiefel, 1. c. n o t e 3, p. 378; les vec- t eurs d~finis pa r M. Stiefel ne son t pa s e x a c t e m e n t les vec t eu r s racines , m a i s o n t les lon. gueu r s i n v e r s 6 m e n t proport iormelles.

203

Rappelons encore que, d 'apr6s un th60r6me de E. Cartan 6) tou t 616- m en t de G a au moins un conjugu6 par un au tomorphisme int6rieur dans t ou t domaine fondamenta l du groupe engendr6 par les sym6tries s tous les plans du diagramme. Ce domaine est un simplexe e) si le groupe est simple, un produi t topologique de simplexes et d ' un espace R ~ dans le cas g6n6ral. L 'angle de deux faces est toujours de la forme g / k , k entier, ce qui pe rmet de repr6senter ce poly~dre par un graphe tr6s simple, dfi

Schl~fli, que nous uti l iserons au N ~ 7. Si G est simple, on obt iendra les points du simplexe en a jou tan t au

syst~me 0 , (x) ~ 0 , i----- 1 . . . . . 1 une 6quation 0(x) <: 1 off 0 : c I 0, + c2 02 ~-- �9 �9 ~- c, 0~ est le param~tre dominant, ainsi nomm6 parce que c~ est le plus grand coefficient de 0, qui in tervienne dans les expres- sions des param~tres angulaires en fonct ion de O,, 02 . . . . . 0, .

2. Une propri6t~ des vecteurs racines

Thbori~me 1. Soient G u n groupe compact et O, 0 1 , . . . , O h h -~- 1 vec- teurs racines de G tels que :

(a) O 1, O~,. . . , O a soient inddpendants.

(b) O ~- a l O 1 ~ - . . �9 -~ a~O~--a~+lO~l . . . . . ahOa, les a i d tan t positi/s. --) .

Alors, il existe au moins un indice k tel que, ou bien O -- Ok, si ]c ~ p , --).

ou bien O-~ OR si lc :>p soit un vecteur racine de G.

Prenons les vec teurs 01,02 . . . . , 0 h comme base de l 'espace vectoriel

qu'ils engendren t ; les composantes cont ravar ian tes de 0 dans ce syst~me

sont 61, . . . , a~, - - a~+ 1 , . . . , -- a h. __> _> Supposons que l ' indice k de l '6nonc6 n 'exis te pas ; alors, 0 - O~

n '6 t an t pas un vec teur racine pour i -~ 1 p l 'ent ier 2 (0 ,0 , ) (Oi, 0~)

est n6gatif ou nul, d 'apr~s la propri6t6 (2) des vecteurs du d iagramme ;

de m~me, 0 ~- 0~ n '6 t an t pas un vec teur racine, pour ] ~ p ~- 1 . . . . . h ,

2 (0,0~) est positif ou nu l ; on a done ( 0 , 0 i ) ~ 0 i = 1 , . . , p e t

e) E. Cartan, La g 6 o m 6 t r i e des g r o u p e s s i m p l e s , Armali di Matematica t. 4, 1927, pp. 211, sp6c. Chap. I e t t . 5, 1928, pp. 253, oh 1'on trouve du reste une gra~de partie des notions et th6or~mes indiqu6s dons le N o 1, mais introduits k 1'aide de la th6orie infini- t6simale.

204

(t?, v~) ~ O, ] ~ p d- 1 . . . . . h. En rdsumg, le produi t d 'une composante cont ravar ian te c ~ de v~ par la composante covar iante c, de mSme indice est nggatif ou nul, i ~ 1 . . . . , h. I1 en rdsulte que :

(~)~, ~) = Cl C~I -4" C2 c2 "2V'" " " "JF Ch Ch ~ 0

ce qui est impossible. L 'exis tence de l ' indice k dtant assurde, la propo- sition est ~tablie.

Corollaire. S i a l , a 2 . . . . . a h sont entiers, il exists un vecteur v~ choisi

parmi 01, ~ , . . . , ~h tel qu'on puisse relier ~ ~ ~ par une suite finie

~i, ~ ! ~k . . . . , ~ de vecteurs racines, le ~-~me se ddduisant du (~ -- 1)-~me

par addition de l' un des vecteurs :[: 01, ~ ~2 . . . . . �9 ~m.

Pour obtenir ce corollaire, il suffira d 'appl iquer h plusieurs reprises le th~or~me 1, en observant qu'apr~s chaque pas, la somme des valeurs ab- solues des composantes du vec teur ob tenu est plus pet i te d 'une unitd que pour le vec teur prdcddent.

3. Prdcisons tou t d ' abord que par recherche des sous-groupes, nous entendons plutSt recherche des structures de sous-groupes, sans dist inguer en t re groupes localement i somorphes ; par exemple, ,,G cont ient G I'' signifiera s implement qu 'un groups localement isomorphe ~ G r, mais pas forc~ment G r lui-m~me, se t rouve dans G.

Des groupes clos localement isomorphes a d m e t t e n t un recouvrement fini commun, produi t direct de groupes simples clos 7) ; de 1s on d~duit ais~ment que la propri6t6 de contenir un sous-groupe G ~ fe rmi , au sens donnd ci-dessus ~ cet te expression, est commune s tous le s ~ldments d 'une famille de groupes clos localement isomorphes, e t il suffira d 'g tudier un repr~sentant de la famille. On peu t m~me, si l 'on veut , se borner aux groupes simples en ve r tu du thgor~me :

Un 8ous-groupe G ~ /erred de rang m a x i m u m d 'un produit direct G 1 x G2 x . . . x Gk de groupes ctos eat isomorphe ~ un produit direct G~ X G~ X . . . x G i , 04 G~ est un sous-groupe /ermd de m~me rang de G,, (i -~ 1 . . . . . k ) .

Ddmonstration. Un toroide m a x i m u m T t de G ~ est aussi m a x i m u m dans G, c 'est donc un produi t direct T 1 x T~ x �9 �9 �9 X Tk, T~ m a x i m u m

~) Vo i r par exemple E. Caftan, 1. c. n o t e 2, N ~ 52.

205

dans G t. T o u s l e s a t E G i qui f igurent dans les expressions ( a l , . . . , a~ . . . . . a~) des ~16ments a de G t fo rmen t un sous-groupe G~ de G~, de m~me rang que G i , car il cont ient T t . G r sera i somorphe au produi t direct des G~ s' i l . renferme, avec (a 1 . . . . . a~ . . . . , ak) t o u s l e s dl~ments ~ = (e 1 . . . . . et_l, a t , e~+ 1 . . . . . e~), i = 1 . . . . . k , off Q d~signe l 'uni t6 de Gj, ee que nous allons j u s t e m e n t mont re r .

Selon u n thdor~me rappel~ au N ~ 1, a est conjugu~ ~ au moins un 61~- m e n t de T l ; soit b = ( b I . . . . . b t . . . . . bk) dans G 1 tel q u e :

b - l a b = ( t 1 . . . . . ti . . . . . t ~ ) c T ~ en par t icul ier

b71 a~ b t = t t ~ T t

mais G I cont ient ~ = (e I . . . . . e t _ i , t t, ei+ 1 . . . . . ek), donc aussi b ~ b -1, qui est pr6cis4ment a t -

Ce th~or6me m o n t r e en par t icul ier q u ' u n sous-groupe m a x i m u m de rang m a x i m u m , e 'est-~-dire non contenu dans un sous-groupe diff6rent du groupe tota l , d ' u n p rodu i t d i rect G 1 X (~2 X ' ' " X G k est de la fo rme

G l x ' ' " XGI_ 1XG~XGt+ 1 x ' ' " xG k

G~ m a x i m u m dans Gt. L a possibilit6 d 'u t i l i ser le d i a g r a m m e ou les vec teurs racines pour

l ' 6 tude des sous-groupes de m~me rang r~sulte du

Thliori~me 2. Soient G u n group compact, d'ordre n ----- 1 ~- 2m, G ~ un

8ous-groupe connexe /ermg de rang max imum, 5 n 1 = l-Jr-2m ~ para-

m~tres. Le diaqramme de G tes t [ormd de m ~ ]amilles completes de plans

parall~les du diagramme D (G); autrement dit, les vecteurs racines de G ~

sont des vecteurs racines de G.

Soit T z un toroide m a x i m u m de G I. P renons dans un en tourage U (e) de l 'uni t~ dans G un sys t~me de coordonn~es canoniques r e n d a n t le g roupe ad jo in t lin6aire or thogonal . U (e) ~, T t et U (e) ~ G ~ sont des por t ions de plans ; ~ l 'a ide d ' un e h a n g e m e n t de coordonn~es or thogonal , on peu t fa i re en sorte que ces p lans a ien t les ~quations :

X~+ 1 ~ X~+ 2 ~ . - ' ~ X~ ~--- 0 ,

X n l + l ~ X n t + 2 ~ - " " "~--- ~ n ----- 0 .

A un 616ment x de G ~ correspond dans le g roupe adjo in t de G une ma t r i ce (or thogonale) du t y p e :

206

les matrices S~ (x), de degr~ n t, forment le groupe adjoint lin~aire de G z. Si x ~ T l, on aura

S ( x ) = ( ~ 0 S~(x)/

les matrices S~(x), x ~ T z, constituent un groupe ab41ien orthogonal ; un changement de coordonndes orthogonal portant sur x~+ 1 . . . . . x,~, permettra de les mettre simultandment sous la forme

D,~,/ \ s i n 2~ Oi(x ) cos 2~ O~(x) /

de m6me, les matrices S2(x ) pourront ~tre r6duites ~ la forme

D,~,+i ksin 2~0,~,+~(x) cos 2~0m,+~(x)/ D,~

Par d6finition (el. N ~ 1), les plans 0 ~ ( x ) - 0(1), i = 1 , 2 , . . . , m z Iorment D(G r) et, puisque T ~ est aussi maximum dans G, les plans vgj(x) _.~ 0(1), ] = 1 . . . . . m, donnent D(G), ce qui d6montre le thgo- rgme.

Remarquons que l'essentiel du th6orbme pr6c~dent est le mot com- plete de la conclusion ; en effet, un ~l~ment singulier de G r ~tant ~videm- ment singulier dans G, il est clair que D(G ~) fera toujours partie de D(G), mais il importait de voir que D(G r) ne peut contenir un plan sans comprendre tousles plans de D (G) qui lui sont parall~les, ou si l'on veut, qu'un vecteur racine de G r n'est jamais un multiple (different de • 1) d 'un vecteur de G.

La r~ciproque du th~or~me 2 est fausse ; il se peut trbs bien que D (G) poss~de un sous-diagramme D r auquel ne corresponde aucun sous-groupe, comme nous le verrons bient6t. Notre ts est pr~cisdment de savoir quand une inclusion de diagrammes permet de conclure ~ une inclusion de groupes.

207

4. U n e c o n d i t i o n n6cessa ire

pour q u ' u n s o u s - d i a g T a m m e ind ique u n s o u s . g r o u p e

Soit G t, s l -4- 2m ~ parambtres, un sous-groupe ferm6 de rang maxi- m u m de G. Nous reprenons les coordonndes et notat ions du th~or~me 2 ; G ~ est done repr6sentd dans le groupe adjoint lin6aire de G par des ma- trices :

les matrices S 2 (x) d6finissent un groupe homomorphe ~ G r. Nous nous proposons de montrer que :

S i G est s imple , le n o y a u N de l 'homomorphisme de G ~ sur le groupe

des matrices S 2 (x), x ~ G ~, est identique au centre de G.

Le centre de G est dans chaque toroide maximum, donc dans G ~ et m~me dans N , puisque l ' image du centre de G dans le groupe adjoint lindaire de G se r6duit ~ la matrice identit6 ; il nous reste ~ prouver que, inversdment, N e s t contenu dans le centre de G; pour cela, il sera commode de considdrer l 'espace homog~ne de G ddfini par G ~ s). Pour l 'obtenir, on associe s chaque classe x G ~ d'dldments de G u n point d 'un nouvel espace H ; la topologie de G permet d ' y introduire de fagon naturel le une topologie, qui fair de H une varidt6 compacte ~ n -- n ~ dimensions. (xn,+l, xn,+2 . . . . . x,) peuvent 6tre prises comme coor- donn6es dans un entourage V(e) dupo in t e de H associd s G ~ .

L 'ensemble des t ransformations de H sur lui-m~me :

/a :-x --> (a x) , a e G

opbre t rans i t ivement sur H , qui est done un espace homogbne de G. G ~ se compose de t o u s l e s ~ldments g~ de G pour lesquels /~, {e)-= ~ : c'est le groupe d' isotropie de H, et les matrices S 2 (x) indiquent pr6- cis~ment comment le groupe d'isotropie ol~re sur V(e). Si S 2 (x) : E , la t ransformat ion laisse V(e), pa r tan t H , fixe point par point. N n 'est autre que l 'ensemble des ~ldments de G qui induisent dans H la trans- format ion identique. On en d~duit immddia tement que N e s t invar iant dans G ; comme il est de plus ferm6, et que G est simple, N e s t discret et fair alors pat t ie du centre de G.

Pour dnoncer faeilement la condition n6cessaire que nous avons en vue, il est commode d ' introduire la ddfinition suivante :

8) of. E. Caftan, 1. c.2), n ~ 17, 18, 28, 29. t

208

D 6 f l n i t i o n . Le centre de k [amilles de plans parall~les de R test l' ensemble des points par lesquel8 passent un plan de chaque [amiUe.

E n particulier, le centre d ' un d iagramme D (G) recouvre le centre du groupe G.

D6signons par D - - D I le compl6ment d ' un sous-diagramme D r de D, c'est-s l 'ensemble des plans de D non compris dans Dr ; nous pou- vons alors ~noncer le th6or6me :

Th6or~me 3. Supposons que les m I premieres/amilles de plans paral- l~les du diagramme D (G) dun groupe simple G ]orment un sous-diagramme D r. Pour que G contienne un sous-groupe/ermd G r de diagramme D r, il /aut que le centre du compldment D -- D r de D r dana D soit identique au centre de D.

C'est une consdquence imm6diate du th~or~me pr6c6dent ; en effet, s i x est un point de D - - D r , on a :

d'ofi #~,+t(x) ~ 0 ( 1 ) , i ~ 1 . . . . . m - - m r

S2 (x) = E

et x repr~sente un 61~ment de N , e t fa i t done par t ie du centre de D (G).

Exemple 1. D(B2 ) 9) est form6 par les p lans :

x l • (1)

x 1 -~ 0 x 2 ---- 0(1)

les deux derni~res familles d6finissent un d iagramme D r de D. Le point (�89 �89 est dans le centre de D -- D r, mais pas dans celui de D(B~); B, ne cont ient pas de sous-groupe ayan t le d iagramme D r.

Exemple 2. On peut prendre comme diagramme du groupe except ion- nel G 2 les plans

~) Selon l'usage habituel, B I d6signe la structure du groupe tmimodulaire orthogonal 21 + 1 variables, D l eeUe du groupe tmimodulaire orthogonal k 2 1 variables.

14 Commentarii Mathematici Helvetici 209

x 1 -=0 , x ~ = 0 , x 1 + x 2 ~ 0 (1)

x 1 - x 2 = 0 , 2x l + x 2 = 0 , x 1 + 2x 2 = 0 (1)

oh x 1 et x2 sont coordonndes dans un syst6me dont les vecteurs base ont la longueur un et font entre eux un angle de 60 degrds. Les trois families de la premibre ligne forment un diagramme de A2 auquel ne correspond aucun sous-groupe, car le point (�89 �89 est dans le centre de son compl~- ment, mais pas dans celui de D(G2).

Corollaire. Soit G u n groupe simple clos de rang l, ~ n parambtres. Un sous-groupe fermd de m~me rang a au maximum n -- 21 parambtres.

Ddmonstration. Le centre de D -- D I est ~gal au centre de D(G) qui est un r~seau de points ; en particulier, les plans de D -- D I passant par l'origine ne peuvent avoir que ce point en commun et leur nombre est au moins 1. Or, la difference entre les ordres de G e t de G ~ est dgale ~ deux lois le nombre de familles de plans formant D - D ~, d'o5 le corollaire.

Remarques sur un mdmoire de B. L. van der Waerden. Dans le travail cit6 en note ~), l 'auteur construit par induction les syst~mes de vecteurs racines des groupes simples clos et en dresse le tableau p. 461, indiquant par une fl~che quand un syst~me est une extension d'un autre. Signa- lons tout d'abord qu'il y manque les relations D s ~ Ee, De-+ET, d~ablies au w 17, sous n = 5 et n = 6, et que, autour de F 4, ,le tableau correct est

B3 C3 r r

ce qui r~sulte du texte: au w 7, l 'extension de C 3 donne un syst~me F 4 englobant C4, de m~me au w 6 pour les B .

Dans une phrase pr4c~dant imm6diatement ce tableau, l 'auteur dit que les fl~ches indiquent aussi des inclusions de groupes, ce qui n'est pas toujours exact. Le thdor~me 3 permet de voir ais6ment que D4->C4->F4 et D~->C n(n>/3) ne sont pas des inclusions de groupes. Du th~orbme 4 ~tabli ci-dessous on d6duit par contre que les autres relations entre syst~mes de m~me rang correspondent ~ des inclusions de groupes. Ajoutons enfin pour compldter que les fl~ches reliant 2 syst~mes de rang s diff6rents indiquent toujours des inclusions de groupes.

210

5. Un critgre n6cessaire et sufflsant pour qu'un sous-diagramme indique un sous-groupe

Pour parvenir /~ ce crit6re, nous aurons besoin d u :

Lemme. Soit G ~un sous-groupe [ermg de rang m a x i m u m de G. Si ~1

et ~2 song des vecteurs racines de G ~ et si 01 + i~ est un vecteur racine de G, c'ezt aussi un vecteur de G ~ ~o).

Po ur la d6monstrat ion, nous dist inguons deux cas:

a) rang de G = 2. Les seules s t ructures semi-simples de rang deux non isomorphes song A 2, B 2, D 2, G2; un coup d'ceil sur leurs dia- grammes 11) mont re que dans deux cas seulement on peu t t rouver un sous-diagramme ne v6rifiang pas notre l emme; ce song jus tement les deux exemples traitds apr6s le gh6or6me 3 ; nous avons vu qu'i l ne cor- respond pas de sous-groupe ~ ces sous-diagrammes, ce qui ddmontre la proposi t ion sous l 'hypoth6se a).

b) Rang de G > 2 . Les plans V~l(X ) = 0 eg ~ ( x ) = 0 se coupent suivant un espace R t-~ ~ 1 - - 2 dimensions. Le central isateur connexe 12) N de R l-2 a comme diagramme gous les plans de D (G) parall61es ~ R z-~ ses vecteurs racines song donc tous les vecteurs racines de G situ6s dans

le p lan ~ deux dimensions d6termin6 par v~l et v~2, en par t icul ier v~l, v~2, - ~ -->

z71 + ~2- N est localement le produi t direct d ' un toroide ~ 1 -- 2 dimen- sions recouver t par R t-2 avec un groupe semi-simple N~ de rang 2 ayang les m~mes vecteurs que N (cf. N ~ 1).

E n ra isonnant de m6me sur G r, on voi t que tous les vecteurs racines de

G l coplanaires avec v~ 1 et v~2 song vecteurs racines d ' un groupe N~ de rang

deux, qui esg l ' intersecgion de N2 avec G ~. D'apr~s a), v~ 1 ~ v~ est u n vec teur racine de N~' donc aussi de G ~.

10) D u po in t de vue inf in i tes imal , ce l e m m e r~isulte, pou r les g roupes ~ p a r a m ~ t r e s complexes , de th~or~mes c o n n u s (cf. Caftan, Th~se, p. 55, th . 5).

11) I ls se t r o u v e n t p a r exemp l e d a n s : E. Stiefel, 1. c. no t e 3.

la) N o u s d~signons a ins i l ' en semble des ~l~ments de G 6changeables avec t o u s l e s 616- m e n t s de T l repr~sent~s p a r des po i n t s de R 1-~. R l-~ recouvre u n sous -groupe fermd 1 - 2 p a r a m ~ t r e s de T I, ear R 1-2 a en c o m m u n avec le r6seau un i t6 u n r6seau k l - 2 d imens ions (eL E. Stiefel, 1. c., p. 361).

211

Th6or~me 4. Soient G un groupe compact de rang l, q- O1, q- O~ . . . . , q- O,~ ,

ses vecteurs racines. Pour que q-O I, q-O.z . . . . . q-Ore,, soient les vecteurs ra- cines d 'un sous-groupe G' /erred de G il /aut et il su/fit que :

- ~ - ) . -.).

(a) Si h (h ~ l) est le rang de 01, 0~ . . . . . ~,~, , on puisse trouver parmi

01, ~ . . . . . Ore, h vecteurs dont tous lea autres soient combinaisons lindaires coe/ficients entiers.

(b) Tout vecteur racine de G combinaison lindaire 5 coe[ficients entiers de

01,03 . . . . . O,,, ]asse partie du syst~me q-~l , q-t~ . . . . , q-O,~,.

1) Ces conditions sont ne'cessaires. Supposons donc que q-Vql, q-0~ . . . . ,

q-vq~, soient les vecteurs racines d 'un sous-groupe G' ferm6 de G. Si h est le rang de ces vecteurs, nous savons qu'i l est possible d 'en choisir h don t les autres sont combinaisons lin6aires ~ coefficients entiers ; on peu t par exemple prendre h vecteurs perpendiculaires aux h faces d 'un do- maine fondamenta l de kY(G'), cf. N ~ 1, donc (a) est bien ndcessaire ; il est

loisible d ' adme t t r e que ces vecteurs sont ~ , ~ . . . . . v~a ; alors tou te com-

binaison s coefficients entiers de 0~, ~ . . . . . v~, est d6js combinaison

coefficients entiers de 0~, ~ . . . . . ~a. Soit ma in t enan t

v~ = a~ 01 + a S vq~ + - - . + a~ 0 a (a~ entiers)

un vec teur de G. E n ve r tu du corollaire au thdorbme 1, on peu t t rouver

un vec teur • i (i < h) reli~/~ v ~ par une suite de vecteurs racines de

G, i 0 ~ , • q- z~k . . . . . 0 le j-~me se d~duisant du (j - - 1)-~me par ad-

di t ion de l 'un des vecteurs q-O1, q-vqz . . . . . q-On ; mais le lemme ci-dessus

assure que ! O t q- 0~, puis le troisi6me vec teur de la suite, le quatri6me,

. . . , enfin 0 sont des vecteurs racines de G' , c. q. f. d.

2) Ces condit ions sont su/fisantes. Soient donc vqi, 02 . . . . . 0 n h vec-

teurs racines de G inddpendants e t • • i O ~ , tous tes vec-

teurs de G combinaisons lin6aires h coefficients ent iers de 01 , v~ . . . . . 0 h .

212

Nous avons s mon t r e r que i O ~ , • 4-0~, sont les veeteurs d 'un sous-groupe G r de G. Considdrons pour cela l 'ensemble Z des points x de R t pour lesquels 8~(x) ~ 0(1), i = 1 , . . . , mf. Z e s t ident ique au centre des h familles de plans 8 t (x ) - - 0(1), i ~ h par suite de (a). Appelons G ~ la composante connexe du central isateur de Z dans G. Le d iagramme de G ~ comprend en tou t cas les plans 8~(x) ~ 0(1), i = 1 , 2 , . . . , m r, en ver tu de la ddfinition m~me des dldments singuliers d 'un groupe clos (voir N ~ 1), e t nous allons ma in t enan t mon t re r qu'il n 'en contient pas d 'au t res ; il suffit pour cela d 'dtablir qu 'aucune famille de plans 8~,+~(x) _----0(1) ne renferme Z , puisque Z , fa isant par t ie du centre de G r doit se t rouver

sur chaque famille de plans parall~les de D(G~). Or, 8~,+~ n 'd tan t pas

une combinaison s coefficients entiers de 8~, 02 . . . . . 8 h on a deux possi- bilitds: ou bien, ..~ --). .->

8 m , +i ------. a 1 81 -~- a 2 8 2 ~ - . . , ~ - aa 8h

et l 'un des coefficients au moins, disons a~, est ra t ionnel non entier, e t alors un point z solution de

8a(z ) = 1 8z(Z ) = 83(z ) . . . . . tgh(z ) = 0 TM)

se t rouve dans Z mais pas sur un des plans 8m,+~(x) =_ 0(1) ; ou bien

~m,+~ est inddpendant de 8~, 8 2 , . . . , 8h (ce qui ne peu t du reste se pro- duire que si h < l ) . Dans ce cas, l ' intersect ion des plans 8 ~ ( x ) = 0, i ~-- 1 , 2 , . . . , h est un espace h 1 -- h dimensions possddant au moins une droi te qui n ' a avec v~m,+i(x)= 0 que l 'origine en e o m m u n ; les points de cet te droi te sont dans Z mais ne seront pas tous sur un des plans 0m,+~ ~ 0(1).

6. Soient G u n groupe clos, G I un sous-groupe connexe d e rang maxi- mum, Z le centre de G I. De la ddmonstra t ion du thdor~me 4 il rdsulte immddia tement que G 1 est le plus g rand sous-groupe connexe de G formd par les dldments de G dchangeables avec tous ceux de Z ; G / est donc centra l isa teur connexe de Z dans G. On peu t m~me affirmer clue G r est ident ique s la composante connexe du normal isa teur de Z dans G. E n effet, t ou t au tomorphisme x - Z Z x de Z fourni par un dldment de la composante connexe de ce normal isa teur peu t ~tre relid s l ' identi td pa r une suite cont inue d 'au tomorphismes de Z ; mais Z e s t un groupe abdlien compact (connexe ou non, dventuel lement discret) et ses automorphismes

as) Ce systbme est compatible, car les formes lindaires 8 1 , . . . ,Sh sont ind6pendantes (et h ~ l).

213

continus f o m e n t un groupe diseret; l 'automorphisme prfc~dent est donc l'identit6 et x est dchangeable avec chaque dldment de Z ; le norma- lisateur com~exe de Zes t dgal au centralisateur eonnexe de Z. Nous avons ddmontrd :

Thbor~me 5. Soient G un groupe de Lie clos, G I un sous-groupe /erred connexe de rang max imum, Z ' le centre de G r ; G' est dgal d la composante connexe du normalisateur dans G de Z ' .

Corollaire. Tout sous-groupe /erred connexe m a x i m u m 14) de rang maxi- m um est le normalisateur connexe d 'un dldment de G.

Pour prouver ce corollaire, considdrons un dl6ment z qui soit dans ]e centre de G' mais pas dans celui de G (z existe certainement si G r ~ G d'apr~s le thdor~me 5). Le normalisateur connexe de zes t diffdrent de G, il contient G ~ et doit lui gtre 6gal si ce dernier est maximum.

La rdciproque du corollaire est fausse, comme on pent s 'y attendre ; un sous-groupe pent fitre normalisateur d 'un dl6ment sans ~tre maximum (voir le N ~ 7). On pent mfime se demander si tout sous-groupe fermd de rang maximum ne pent pas ~tre ddfini comme normalisateur d'un dlgment de G ; cela revient s savoir s'il existe toujours un point dans le centre du diagramme de G r par lequel ne passe aucun plan du diagramme de G qui ne fasse ddjs partie du diagramme D(Gt). I1 n'en est rien, comme le montre l'exemple suivant :

Exemple. D (Ca) se compose des plans

2x~ ___ 0(1) i = 1 ,2 , 3.

x~ ~ xj - - 0/1) i r j

les trois premieres familles forment un diagramme D' du produit direct A1 x A1 • A1. Le centre de D' se compose des points (nl/2, n~/2, n 3 / 2), n~ entiers quelconques. I1 est facile de voir que les vecteurs racines de D ~ satisfont aux conditions (a) et (b) du th~or~me 4 ; par cons6quent D' est le diagramme d 'un sous-groupe G' de C 3. G' ne pent ~tre d~fini comme normalisateur d 'un ~lgment de G. En effet, si c'~tait le cas, on pourrait trouver un point P -~ (nl]2, n~/2, n812 ) du centre de D' par lequel ne passe aucun plan de D -- D'. Or, cela est impossible ; en effet deux au moins dea coordonn~es de P sont congrues entre elles modulo �89 soient i et i leurs indices, P e s t alors sur un des plans x~ + xj :__ 0(1), et le nor- malisateur de P e s t plus grand que G'.

~) Ic i e t d a n s la su i te de ce t rava i l , G' sous -groupe m a x i m u m de 6/s ignif ie : G' n ' e s t con t~nu clans a u c u n sous -groupe connexr de G diff6rent de G ou de G t.

214

7. D6termination explicite des sous-groupes maxima de rang maximum des groupes simples clos

Rappelons tou t d ' abord que les plus grands sous-groupes de rang max imum des groupes de Lie compacts sont connus d~s que ceux des groupes simples le sont (N ~ 3) ; ce n 'es t done pas restreindre la g~n~ralit~ que de se l imiter ~ ces derniers.

Un sous-groupe max imum de m~me rang d 'un groupe simple clos G est normal isa teur d 'un ~ldment x de G (th~or~me 5, corollaire) ; bien entendu, nous ne cherchons que les types de sous-groupes maxima, sans dist inguer en t re des sous-groupes isomorphes, en part iculier ent re les normalisa- teurs de deux ~l~ments conjugu~s. I1 est donc loisible de supposer que x se t rouve dans un toroide m a x i m u m d~termind T t, ou m~me dans un simplexe fondamenta l du diagramme D(G), qui cont ient toujours au moins un repr~sentant de toutes les classes d'gl~ments conjugu6s de G (cf. N ~ 1).

Soit done x un point du simplexe S(G) ; si x est s l ' intdrieur de S , le normal isa teur N(x ) est T l, qui u 'es t pas m a x i m u m si l > l ; s i x est sur une face ~ k > 2 dimensions de S (mais pas sur une ar~te) on voit faci lement que le normal isa teur d 'un point d 'une ar~te de S contenue dans ce k-plan est plus grand que N ( x ) , qui n ' es t done pas maximum. S i x est sur une ar~te don t une extrdmit6 x ~ au moins n ' appa r t i en t pas au centre de D(G), N{x) est eontenu dans N ( x I) et n 'es t pas non plus m a x i m u m ; supposons ma in tenan t que les deux extr6mitfis de l 'ar~te fassent par t ie du centre de D(G) et soit z l 'une d'elles ; z repr6sente un 616ment du centre de G e t le normal isa teur N (z -1 x) du produi t (z -1 x) est le mfime que celui de x. Le point (z -1 x) est sur une argte d ' un sim- plexe S I, issue de l 'origine 0 (car la mult ipl icat ion dans T l est donnde par l 'addi t ion vectorielle dans Rl). I1 existe une t ransformat ion de ~ qui ambne S ~ et S (cf. N ~ 1) et z - i x en un point x r d 'une ar~te de S passant par 0 ; x I e t (z- ix) sont conjuguds, et leurs normalisateurs isomorphes.

Notons d ' au t r e par t que les normal isateurs des points intdrieurs ~ une arfite sont tons les m~mes ; ehaeun a en effet comme diagramme tons les plans de D (G) parall~les ~ cet te ar~te e t aueun aut re puisque S (G) n 'es t t ravers6 par aucun plan de D(G).

P a r consdquent, pour obtenir tou8 les types de sous-groupes maxima, il su]fit d' examiner les normalisateurs des sommets du simplexe S qui n ' appar- tiennent 7wts au centre de D (G) et ceux des milieux des ar~tes issues de 0 dont la deuxi~me extrdmitd est dans le centre de D(G), d 'oh le th6or~me :

215

Un sous-groupe m a x i m u m de rang m a x i m u m d 'un groupe aimple com- pact est soit semi-aimple salt de la structure G~_~ • T , o~ G~_~ eat un sous- groupe semi-simple de rang 1 -- 1 et T un grouped un param~tre.

Le premier cas est celui du normal isa teur d ' un sommet , le deuxibme celui du normal isa teur du milieu d 'une ar6te (car alors tous ]es vecteurs raeines du sous-groupe sont perpendiculaires /L cet te ar6te).

Mais il couvient d 'e t re plus pr6cis, car nous ne savons pas encore si tous les normal isateurs envisag6s sont v ra imen t maxima.

Soient 01(x ) ~ 0, 02(x ) : > 0 , . . . , 0 ~ ( x ) ~ 0 , 0 ( x ) _ ~ 1 les 6quations du simplexe S (G). 01, 02 . . . . . 0~ sont les param~tres fondamentaux , 0 m 101 ~- m 2 02 %. �9 �9 ~- m~ 0~ (m~ entiers positifs) est le param6tre dominant (voir N ~ 1). 01,02 . . . . . 0~ sont des formes lin6aires ind6pendantes, e t on peu t les util iser pour d6finir dans R z de nouvelles coordonn6es, ce que nous ferons. Dans ce syst6me, le centre de D(G) est le r6seau des points

coordonn6es enti6res. Les sommets de S autres que l 'origine sont les points

x i--- (0 . . . . . 0 , 1 / m ~ , 0 . . . . ,0) i : 1 , 2 . . . . . 1 ,

pour que x i soit dans le centre de G, il fau t e t il suffit que m i : 1; notons en passant que le nombre des mi 6gaux s un donne l 'ordre, dimi- nu6 de un, du groupe de Poincar6 du groupe adjoint lin6aire de G15).

Th6or6me 6. Soient G u n groupe simple compact, x~ ~ (0 . . . . . O, 1/ mi , 0 , . . . , 0) un aommet du aimplexe S(G).

(a) Si m i ~ 1, le normaliaateur du milieu de l'ar~te 0 x~ eat m a x i m u m dans G, et rdciproquement.

(b) Le norrnalisateur N (x~) de xi est m a x i m u m ai et seulement 8i m i eat premier ~ 1.

On obtient de la 8orte tousles types de sous-groupes max ima de rang maxi- m u m de Gle).

La r6ciproque de (a) a y a n t d6js 6t6 6tablie plus haut , il nous reste d6montrer trois points.

1) Si m~ ~ 1, le normaliaateur N ( y ) du milieu y de Ox i eat maxi- mum. Le d iagramme de N ( y ) se compose de t o u s l e s plans de D(G)

15) Voir E. Uartan, 1. c., note 6; aussi I. c., note 2, N ~ 48. is) I1 n'est pas exclu que certains des sous-groupes maxima donn6s par (a) et (b) soient

isomorphes; tout au moins est-on sSr qu'ils ne sont pas homologues dans le groupo ad: joint connexe.

216

parallNes/~ Ox i. Si ma in t enan t N 1 est un sous-groupe plus grand que N ( y ) , D ( N ~) a au moins un plan non parall~le s 0x~; soit 0 ~ : nl ~1 "~- T$2 ~2 @-" " " ~ ~/'l ~l le param~tre angulaire correspondant ; n~ : 1 car n~ 7e 0 et n~ < m i = 1 (~ param~tre dominant) ; pa r suite le sys- t~me de congruences 0 =__~l(x) = . . . =v~i_l(x ) - 0 i + x (x) - - . . . - - ~ l ( x ) =va~(x) est ~quivalent ~ va~(x) -~ 0, (j = 1 . . . . . /) , et t ou t ~l~ment du centre de N ~ est dans le centre de G, d'ofi N ~ = G (thdor~me 5) ; N e s t bien maximum.

2) Si m i = a.b (aet b entiers di~drents de 1), N(xi) n'est pas maxi- mum. D(N) est form6 par toutes les familles de plans de D(G) qui cont iennent x~ ; les param~tres angulaires de N(x~) sont donc t o u s l e s param~tres angulaires de G qui, exprimds en fonct ion de tT1, v~2,..., 0z, ont m i comme coefficient de vat. Soit y = x~ le point (0 . . . . , 0 , 1/b, 0 . . . . . 0) ; N (y) a eomme param~tres tous ceux don t le coefficient de 0~ est b ou un mult iple ent ier de b, donc N(y) ) N(x t ) . Mais G a au moins un param~tre v~ pour lequel le coefficient de v~ est b; pour s 'en con-

vaincre, il suffit d 'appl iquer le corollaire du thdor~me 1 s 01, t72 . . . . , tTz, v ~. Ainsi v q~ est param~tre angulaire de N ( y ) mais pas de N(xi) . N (y ) est effect ivement plus grand que N(x~) et, comme N (y ) : / : G, N(x t ) n 'es t pas max imum.

3) Si m e est premier > 1, N(x~) est maximum. Si N(xi ) n 'dta i t pas max imum, il serait contenu dans un sous-groupe max imum, c'est-/~-dire dans le normal isa teur N (y) d ' un certain 616ment y de T l ; il nous suffira donc de mont re r que t ou t normal isa teur N(y) :/: G con tenan t N(x~) est dgal s N(xi ) .

t71 , . . . , v~i_l, van+l,..., 0t vq sont des param~tres de N (x~) e t N (y) ; y est dans le centre de N ( y ) , donc ses coordonndes ( n I . . . . , nt) seront toutes enti~res sauf la i-~me ; quan t s ce t te dernibre, l '6quat ion v~(y) ~_~ 0(1) indique qu'elle est de la forme q/m~, et l 'on est stir que q ~ 0(m~), sinon y aura i t routes ses coordonndes enti~res, ferai t par t ie du centre de G, e t alors N ( y ) = G . Ddsignons par z le point (n 1, n2 . . . . . n~_ 1, 0, hi+ 1 . . . . . n t ) ; z e s t dans le centre de G et de plus y = x[ .z .

m i grant premier e t q ~ 0(m~), on peu t t rouver un ent ier r tel que q.r = 1 (m~), e t on voi t alors aisdment que

yt = x~. z ~ (z ~ dans le centre de G).

Chaque 616ment de N(y ) est bien en tendu dchangeable avec yr, d 'oh

N(y ) c N ( y r) = N(x~z ' ) = N(x~)

217

ce qui, joint s l'hypoth~se N(y) )N'(x~), entraine N(y) : N(xi) , q . e . d .

Nous savons maintenant exactement quels points du simplexe sont consid6rer. I1 nous faut encore pouvoir indiquer la structure des sous- groupes trouv~s; il suffit pour cela de connMtre un syst~me de para- m~tres fondamentaux du sous-groupe, ce qui est imm6diat ; en effet, si nous prenons le normalisateur d 'un sommet x~, les plans 0 : 1, 8j : 0 (j < l, j r i) d61imitent un angle poly~dre contenant S(G) et par con- s6quent travers6 par aucun plan singulier issu de x~; donc les plans 8 = 0 , 8 ~ : 0 ( j ~ l , j r boruent un domaine fondamental du groupe W de N(x~), et 8, 81 . . . . . 8t-1,8i+1 . . . . . 8 z sont des param~tres fondamentaux de N (x~) ; si le sous-groupe envisag6 est normalisateur du milieu d'une ar~te 0 x~, on voit de m~me que 81 . . . . . 8t_ 1,8t+1,... ,8~ sont des param~tres angulaires fondamentaux de sa composante semi-simple.

Pour effectuer l'6num6ration des sous-groupes maxima, il est commode de repr6senter le simplexe S (G) selon un proc6d6 dfi k Schl~fli : s chaque face 8~ : 0, ~ ~ l, et 8 : 1 on fait correspondre un point P j , ] < l, P , et on joint P~ s P~ par k -- 2 traits si l'angle non obtus des deux faces est ~ / k ; si on enl~ve le point P e t les traits issus de P on a une repr6sentation de l'angle poly~dre k 1 faces, domaine fondamental de ~(G) ; en g6n6ral, cet angle poly~dre caract6rise d6j~ le groupe ; parmi les groupes simples, seuls B~ et C~ ont le m~me angle poly~dre sans ~tre localement isomorphes pour 1 ~ 3.

Si m~ est premier > 1, on enl~vera ~ la repr6sentation de S l e point P~ et les traits partant de P~, la figure restante donne l'angle poly~dre de N(x~). Si on enl~ve les points P et Pj , on obtient l'angle poly~dre du normalisateur d 'un point int6rieur de l'ar~te O x~.

Dans le tableau qui suit, nous 6num6rons les sous-groupes maximums des groupes simples ; dans les deux premieres colonnes se trouvent la representation du simplexe du groupe et son param~tre dominant, dans les deux derni~res les sous-groupes maxima de rang maximum ; sous G~ figurent les sous-groupes simples ou semi-simples, sous G~_~ • T, les sous-groupes s centre continu.

Dans les deux remarques ci-dessous, G d6sigue le groupe adjoint lin6- aire de la structure simple close G.

Remarque I. Le centre de (~ se r6duit h l'616ment neutre e, et le centre de son diagramme est le recouvrement dans R t de e ; les sommets x~ du simplexe pour lesquels m~ = 2 et les milieux des ar~tes O x~ lorsque

m~ = 1 repr6sentent des 6Mments d'ordre 2 de (~; leurs normalisateurs

218

x

I! o ~ v

1 !

•

x

x

a~

219

connexes ne sont autres que les sous-groupes caractdristiques des auto- morphies involut ives de G, e t les espaces homogbnes correspondants sont sym&riques irr6ductibles ; s ce point de rue , ces sous-groupes sont connus depuis longtemps 17). Le tableau prdc6dent mont re en part ieul ier que tous les sous-groupes max ima de rang m a x i m u m des groupes simples At , Bt , C z , Dt engendrent des espaces symdtriques. Les groupes exceptionnels se compor ten t diff6remment e t chacun cont ient au moins un sous-groupe max imum earaetdrist ique d 'une au tomorphie non involut ive (d 'ordre 3 ou 5).

Remarque II . L'ordre de connexion des sous-groupes maxima. En s'ap- p u y a n t sur le fair que les points ~ coordonn~es enti~res f o m e n t le r6seau

unit6 de G, on ddmontre ais6ment que le normal isa teur dans G d 'un sommet x t du simplexe a comme centre exac tement le groupe cyclique, d 'o rdre m~, engendr6 par x~ ; cela pe rmet d ' indiquer faci lement des exem- ples de groupes simples s implement connexes contenant des sous-groupes max ima semi-simples non s implement connexes. P a r exemple, le groupe adjoint de E s est s implement connexe et renferme A s qui est normalisa- t eur de x s a v e c m 5 ~-- 3. Comme le groupe s implement connexe A s re- couvre neuf fois son groupe adjoint , le groupe de Poincar~ du A 8 ( E s est d 'o rdre 3. I1 en est de m~me pour le groupe A 2 • 2 1 5 2 qui se t rouve dans le groupe s implement connexe de s t ruc ture E 6 .

8. Les sous-groupes locaux de rang maximum des groupes clos

Th6or~me. Soit G u n groupe de Lie compact de rang l, K un sous- groupe local continu 5 n t param~tres TM) de rang I, c'est-5-dire contenant un sous-groupe (local) abdlien ~ 1 param~tres. Alors, K est le noyau d 'un sous- groupe /erred G z de G d n I param$tres.

Soit U (e) un en tourage de l 'unitd de G rappor td k des coordonn6es eanoniques ; K est alors dans l ' intersect ion de U avec un plan ~ n ~ dimen- sions is) ; on peu t supposer U assez pe t i t pour que K remplisse tou te cet te intersection.

1~) E. Caftan, S u r u n e c l a s s e r e m a r q u a b l e d ' e s p a c e s d e R i e m a n n , Bull . Soe. Ma th . France , t . 55, 1927, p. 126--132.

is) Cela v e u t dire que les 616ments de K son t d a n s u n en tou rage U de l 'uni t~ e de (7, c o m p r e n n e n t e e t d6penden t de fa9on con t i nue de n ~ pa r am~t r e s ; de p lus le p rodu i t de doux 616ments de K a p p a r t i e n t ~ K s'il es t c o n t e n u d a n s U; d ' ap rbs u n th6or6me de Cartan, I. c., n o t e 2, No. 26, K es t u n g roupe de Lie e t ses po i n t s f o r m e n t u n e vari6t6 a n a l y t i q u e d a n s u n sy s tbme de coordonn6es a n a l y t i q u e s de G. C 'es t en par t icu l ie r u n e por t ion de p l an

n ' d imens ions d a n s u n sy s t bme de eoordonn6es canon iques ; enfin, en r e s t r e ignan t ~ven- t ue l l emen t la var i6t6 de K , on p e u t suppose r que K possi~de l ' inverse de c h a c u n de ses 616ments.

220

L 'ensemble des produi t s que l 'on peu t fo rmer avec un h o m b r e fini d 'dl~ments de K const i tue un sous-ensemble G 1 de G qui est en tou t cas un

groupe abs t ra i t . Soit G ' son adh6rence dans G, e 'es t -s l ' ensemble

compos6 de G ' e t des points d ' accumula t ion de G ~ dans G ; (~ est un sous-

groupe ferm6 de G (done de Lie e t compact) . Soit enfin K ~ -~ G ' ~ U (e). K / cont ient K , c 'es t l ' in tersect ion de U avec un p lan ~ p ~ n ~ dimen- sions.

Les t r ans format ions (lindaires en coordonn6es canoniques) x - l U x laissent le p lan de K invar i an t s i x est dans K , done aussi s i x e G ' , et

pa r raison de continuit6, s i x �9 G ' . K est done un sous-groupe local in-

va r i an t dans K / ; mais K ~ est le noyau d ' u n groupe clos C~ ~ ; si p > n ~, K ~ est i somorphe ~ un p rodu i t direct K• oh L est ~ p - - n ~ para- mbtres . Or, L cont ient au moins un groupe ~ un parambt re , qui ddter- mine ra avec le groupe ab61ien d 'o rdre 1 de K un groupe abdlien s I + 1 pa ram~t res ; celui-ci engendre ra dans G u n groupe dont l 'adhdrence sera un toroide s au moins l + 1 dimensions, ce qui contredi t l 'hypoth~se sur le rang de G ; ainsi, K et K ~ ont la m6me dimension et K = K r ; K est

un voisinage de l 'unit6 pour le sous-groupe G~ ferm6 darts G. Nous aurions done pu nous placer au point de vue local pour rechercher

les sous-groupes ferm6s de r ang m a x i m u m . On sai t d ' a u t r e pa r t qu ' i l y a correspondance b iunivoque en t re les sous-groupes locaux d ' u n groupe de Lie G e t les sous-anneaux de Lie de l ' anneau des t r ans fo rmat ions in- finitdsimales de G. No t re th6or~me 4 doit done, convenab lemen t inter- prdt6, fournir un critbre pour q u ' u n sous-ensemble de l ' anneau de G qui r en fe rme 1 t r ans fo rmat ions dchangeables en t re elles fo rme un anneau de Lie. On p e u t s ' assurer que te l est le cas ; un critbre ana logue a du reste d6j~ dt6 ob tenu par Kill ing (Math. Annalen 36, pp. 239) darts l 'd tude des sous-anneaux m a x i m a des s t ruc tures s imples complexes. Inversdment , nous aurions pu opdrer d i rec tement dans l ' anneau de G, mais bien en- tendu, la earactdrisat ion des sous-groupes comme normal i sa teurs dchappe

ce t te mdthode.

(Regu le 1 er s ep tembre 1948.)

xs) .E. Ca,'tan, 1. c., no te 2, No 41.

221