C. R. Acad. Sci. Paris, t. 325, Serie I, p. 471-474, 1997Theorie des groupes/Group Theory

Groupes Iineair-es it valeurs propres positiveset automorpbismes des cones convexes

Yves BENOIST

CNRS, Universite Paris VlI, UFR de Mathernatiques, 2, place Jussieu , 75251 Paris Cedex OS, France.E-mail : benoist@math.jussieu .fr

Resume, Je montre que Ie groupe lineaire GL(m, R) contient un sous-groupe Zariski-dense donttous les elements n'ont que des valeurs propres positives si et seulement si m ;E 2modulo 4. Je generalise cet enonce a taus les groupes algebriques reels.

Je decris les adherences de Zariski possibles pour les sous-groupes r de GL( m , R)qui preservent un cone ouvert convexe saillant n de Rm et dont l'action sur Rm estirreductible.

Je montre comment ces deux problemes sont relies.

Linear groups with positive eigenvaluesand outomorpldsms of convex cones

Abstract. I show that the linear group GL( m ,R) contains a Zariski dense subgroup all of whoseeigenvalues are positive if and only if m ;E 2 modulo 4. I extend this statement to anyreal algebraic group.

I describe the Zariski closure of the subgroups r of GL( m, R) which preserve aproperly convex open cone n of Rna and whose action on Rna is irreducible.

I show how these two problems are related.

1. Groupes lineaires it valeurs propres positives

On munit le groupe lineaire GL(m, R) de la topologie de Zariski. Les fermes de cette topologiesont les ensembles des zeros d'une famille de polynomes, On parlera de parties Zariski-ouvertes,Zariski-fermees, Zariski-connexes, Zariski-denses, ... etc .

Dans cette Note, un groupe lineaire algebrique reel G est un sous-groupe Zariski-ferme de GL(m, R)et une representation de G est un morphisme rationnel p de G dans Ie groupe lineaire GL(V) d'unespace vectoriel reel V de dimension tinie. Remarquons que Ie fait qu'un element 9 de G soit avaleurs propres reelles (resp. positives) ne depend pas du plongement de G dans GL(m, R). Le groupeG est dit deploy« si {g E G / 9 est avaleurs propres positives} est une partie Zariski-dense de G.

Un sous-groupe r de GL(m, R) est dit avaleurs propres reelles (resp. positives) si toutes les valeurspropres de tous les elements de r sont reelles (resp. positives).

Note presentee par Michel DUFLO.

0764-4442197/03250471 © Acadernie des Sciences/Elsevier, Paris 471

Y. Benoist

Rappelons que dans un groupe algebrique deploye, tout sous-groupe Zariski-dense contient unsous-groupe Zariski-dense a valeurs propres reelles (voir I'appendice A.6 de [3]).

La premiere partie du theoreme suivant decrit les adherences, pour la topologie de Zariski, desgroupes lineaires a valeurs propres positives.

TfffioRtME 1. - Soit G un groupe linea ire algebrique reel deploye. On a les equivalences suivantes :1) G contient un sous-groupe Zariski-dense a valeurs propres positives <==> G n 'admet pas de

representations irreductibles symplectiques non triviales.2) Tout sous-groupe de G Zariski-dense contient un sous-groupe Zariski-dense a valeurs propres

positives <==> Toutes les representations irreductibles de G sont orthogonales.

Exemples

GL(m, R) et SL(m, R)Spin(p, p + 1)

Spin(p,p)SO(p,p) et SO(p,p + 1)

G semi-simple adjoint

Condition 1

m"!- 2 modulo 4p et p + 1 "!- 2 modulo 4

p"!- 2 modulo 4toujourstoujours

Condition 2

jamaisp et p + 1 "!- 2 modulo 4

p == 0 modulo 4toujours

Wo =-1

Remarque. - En particulier, tout sous-groupe Zariski-dense de 8L(2, R) conticnt un element avaleurs propres negati ves (ce fait est demontre dans [4]), et iI existe des sous-groupes zariski­denses de 8L(3, R) a valeurs propres positives (par exemple, les groupes d'holonomie des structuresprojectives convexes sur les surfaces, construits dans [5]).

2. Automorphismes des cones convexes saillants

Un cone ouvert convexe n de V = Rm est dit sail/ant si son adherence ne contient pas de droites.La premiere partie du theorerne ci-dessous decrit les adherences de Zariski G des sous-groupes I' de

GL(m,R) qui preservent un cone convexe saillant f! de Rm et dontl'action sur Rm est irreductible.Remarquons que Ie groupe G est un groupe reductif et que Vest une representation irreductible de Gdans un espace vectoriel reel de dimension finie. Void quelques rappels de theorie des representationsdont nous avons besoin.

Soient G un groupe algebrique reel reductif Zariski-connexe. Notons AO la composante connexed'un sous-tore deploye maximal A de G et A+ une chambre de Weyl de AO. On note P Iereseau des poids (relatif au systeme de racines restreintes de AO). II est muni de l'ordre habituel :" ~ JL <==> "(a) ~ JL(a) Va E A+ . Soit (V,p) une representation irreductible reelle de G. Pour"dans P, on note VA I'espace de poids correspondant VA := {v E V / Va E AO p(a)v = "(a)v}et rnA := dim VA la multiplicite de ce poids. L'ensemble des poids de AO dans V contient ununique element maximal Xv appele le plus haut poids restreint de V. La representation (V, p) estdite proximale si Ia multiplicite du plus haut poids est 1. Deux representations irreductibles reellesproximales de G seront dites egales modulo 2 si Ia difference de leur plus haut poids restreint estdans 2P.

THtORtiME 2. - Soient V = Rm et G c GL(V) un sous-groupe algebrique Zariski-connexe. On ales equivalences suivantes :

1) G contient un sous-groupe Zariski-dense r qui preserve un cone ouvert convexe sail/ant n deV <==> Vest une representation irreductible proximale de G et n'est pas egale modulo 2 a unerepresentation irreductible proximale symplectique non trivia Ie.

472

Groupes lineaires avaleurs prop res positives et automorphismes des cones convexes

2) Tout sous-groupe de G Zariski-dense contient un sous -groupe Zariski-dense qui preserve un coneouvert convexe sail/ant 0 de V ¢=::} Vest une representation irreductible proximale de G et est egalemodulo 2 aune representation irreductible proximale orthogonale.

Remarques. - (I) Lorsque G est deploye, toutes les representations irreductibles reelles de G sontpro ximales.

(2) Une representation irreductible proximale de G est absolument irreductible,(3) On note L Ie centralisateur de A dans G et P" Ie reseau des caracteres rationnels deployes

de L. Un tel caractere est entierernent determine par sa restriction a AO, ce qui permet d'identifierP" avec un sous-reseau du reseau P' des caracteres rationnels de A, lui meme etant un sous-reseaude P. On a les inclusions 2P C P'' c P' C P. Remarquons que I'application V -+ X\ · induit unebijection de I'ensemble des representations irreductibles proximales de G dans I'ensemble des poidsdominants (relativement a A+) de P" (voir [I]).

(4) II est facile de determiner au vu du plus haut poids restreint d'une representation irreductibleproximale si celle-ci est orthogonale, symplectique ou non autoduale.

(5) Les representations irreductibles reelles proximales dont Ie plus haut poids restreint est dans2P ne sont autres que les repre sentations spheriques, i.e. celles qui admettent un vecteur non nulinvariant par un sous-groupe compact maximal K de G (voir [7]). II n'est pas difficile de verifierque les representations spheriques sont exactement celles pour lesquelles il existe dan s V un coneouvert convexe saillant G-invariant.

3. Cones strictement convexes saillants divisibles

Un cone convexe saillant de R'" est dit strictement convexe si les segments ouverts inclus dansl'adherence de n qui ne sont pas radiaux sont inclus dans O. On dit qu'un sous-groupe discret I'de GL(m..R) divise un cone convexe saillant n de Rill s'il preserve n et si Ie quotient f\n estcompact. On dit alors que n est divisible (voir [13]) .

Exemple. - soient 'l une form e quadratique lorentzienne sur Rm et n un cone de futur pour q.i.e. une des composantes connexes convexes de {v E Rm / q(v) #- O} . Alors n est divi sible: lessous-groupes r qui divi sent H sont les reseaux cocompacts du groupe des similitudes de q.

Le resultat suivant se dernontre avec les memes idees que Ie theoreme 2.

COROLLAIRE. - Soit T un sous-groupe discret de GL(m , R) qui divise un cone strictement convexesail/ant n qui n'est pas un cone de futur pour une forme quadratique lorentzienne sur R"'. Alors I'est Zariski-dense dans GL(m , IR).

Remarques. - (1) Reciproquernent, D. Johnson et J. Millson construisent dans [9], en toutesdimensions m ~ 3 et pour certains reseaux cocompacts I' de SO(m - 1, I), des deformations Pt(r)dans GL(m, R) qui sont Zariski-denses. II resulte de [10] et [II] que, pour t petit, pt(f) divise uncone convexe saillant Ot. On peut montrer que ces cones Ot sont strictement convexes.

(2) Une etude tres complete des cones convexes saillants divisibles en dimension 3 est due a W.Goldman dans [5] .

4. Positlvite dans I'ensemble limite

Donnons maintenant la structure de la demonstration du theoreme 2.Soient V = Rm et Q(V) = {(v , f) E P(V) x P(V·) / I (v) = O}. On dit qu 'un triplet

((Vi ' II) , (V2 ' h) , (V3 ' fJ)) de Q(V) est positif (resp. negatif) si II I,(v)) > 0 (resp. < 0).

' # )

473

Y. Benoist

Soient G un groupe algebrique reel reductif Zariski-connexe, (V, p) une representation irreductiblede G et r un sons-groupe de G Zariski-dense. On montre tout d'abord :

LEMME I. - Si r preserve un cone ouvert convexe sail/ant de V, alors pest proximale.On suppose desormais la representation p proximale. On peut alors considerer I'ensemble limite

Ar de r dans Q(V) (voir [6] et [2]).

LEMME 2. - r contient un sous-groupe Zariski-dense qui preserve un cone ouvert convexe sail/antde V si et seulement si l'ensemble limite Ar contient un triplet positif.

Remarquons que l'ensemble limite Aa n'est autre que la G-orbite du couple (v+, f+) OU v+ (resp.f+) est la droite de plus haut poids de V (resp. V·). Pour Y dans l'algebre de Lie g de G, on notenv(Y) := inf'[n E N / f+(Yn v+) ::f:. O} EN U 00. Le theorerne 2 se deduit alors du lemme :

LEMME 3. - On a les equivalences suivantes : Aa contient un triplet positif (resp. negatif) <===?

Il existe Y dans g tel que nv(Y) est pair (resp. impair) <===? V n'est pas egal modulo 2 a unerepresentation irreductible proximale symplectique (resp. orthogonale).

Le theoreme I se demontre de la merne facon en procedant simultanement avec toutes lesrepresentations irreductibles proximales de g.

Note remise Ie 28 mai 1997, acceptee Ie 19 juin 1997.

References bibliographiques

[I] Abels H., Margulis G. et Soifer G., 1995. Semigroups containing proximal linear maps, Israel J. Math., 91, p. 1-30.[2] Benoist Y., 1997. Proprietes asymptotiques des groupes lineaires, Geom. Funct. Anal. 7, p. 1-47. .[3] Benoist Y. et Labourie F., 1993. Sur les diffeomorphismes d'Anosov affines afeuilletages stable et instable differentlables,

Invent. Math. Ill, p. 285-308.[4] Choi S. et Goldman W., 1993. Convex real projective structures on closed surfaces are closed, Proc. Amer. Math. Soc.

118, p. 657-661.[5] Goldman W., 1990. Convex real projective structures on compact surfaces, J. Differential Geom.• 31, p. 791-845.[6] Guivarc'h W., 1990. Produits de matrices aleatoires et applications, Ergodic Theory Dynamical Systems. 10. p. 483-512.(7) Helgason S., 1984. Groups and geometric analysis. Acad. Press.(8) Humphreys J., 1975. Linear algebraic groups, 21 Springer.[9] Johnson D. et Millson J., 1984. Deformation spaces associated to compact hyperbolic manifolds, in Discrete subgroups...

Progr. in Math. 67, p. 48-106.[10) KOSIUI J ••L., 1968. Deformation des connexions localement plates, Ann. lnst. Fourier. p. 103-114.[II] Thurston W. The geometry and topology of three manifolds. in preparation.[12) Tits J., 1972. Free subgroups in linear groups, J. Algebra 20. p. 250-270.(13) Vey J., 1970. Sur les automorphismes affines des ouverts convexes saillants, Ann. Scuola Norm. Sup. Pisa, 24. p. 641-665.

474