Ann. scient. .I&. Norm. Sup., 4e shie, t. 30, 1997, p. 147 a 167.

SUR LES AUTOMORPHISMES EXT&IEURS DES GROUPES HYPERBOLIQUES

PAR FRBD~RIC PAULIN

ABSTRACT. -We prove that an infinite nilpotent group of outer automorphisms in any word-hyperbolic group fixes projectively an action on an R-tree. In particular, we give short proofs of the theorem that any outer automorphism of a free group has a fixed point in the compactified Culler-Vogtmann Outer Space, and of Scott’s conjecture on the rank of the fixed points subgroup of a free group automorphism. (‘)

Introduction

Dans [Grol], M. Gromov definit une classe de groupes, les groupes hyperboliques, qui gCnCralise largement la classe des groupes fondamentaux de vari&& compactes 9 courbure negative. Nous renvoyons a [Grol, Gro2, GH, Ghy] pour la definition et les premieres proprittes.

Un arbre r&e1 est un espace metrique tel qu’il existe un unique arc topologique entre deux points distincts donnes, et dans lequel tout arc est isometrique 3 un intervalle de W. Nous renvoyons B [Shal, Sha2, Mor, Pau4] pour les motivations et les premieres proprietes.

Si l? est un groupe, notons Out (I’) = Aut (l?)/Int(f’) le groupe de ses automorphismes exdrieurs. Si H est un sous-groupe de Aut(l’), nous noterons I’xlH le produit semidirect de l? par H pour I’action naturelle de H sur l?. Une action afine d’un groupe l? sur un espace metrique X est une action de I’ sur X pour laquelle il existe un morphisme de groupe A : r + w; tel que d(g.z, g.9) = A(g)d(z, y) pour tous 2, y dans X et g dans P. Nous renvoyons a [Lio] pour les generalit& sur les actions affines de groupe sur les arbres reels.

T@ORBME A. - Soit I? un groupe hyperbolique, et H un sowgroupe de Aut (I’) dont l’image duns Out (I’) est moyennable, de centre in.ni. Zl existe un arbre r&e1 T, muni d’une action afine de EaH, telle que la restriction de l’action d I’ est isomktrique, suns point jixe global, et d stabilisateurs d’art virtuellement cycliques.

Avant de donner des applications de ce resultat, expliquons-en les origines. Soit X une surface de Riemann compacte, connexe, de genre g 2 2. Rappelons que

I’ = wiX est un exemple typique de groupe hyperbolique. L’espace de Teichmtiller 7(X) de X s’identifie (voir [Thu, PLP]) a l’espace des classes de conjugaison de morphismes

(I) Codes AMS : 20 E 05, 20 E 08, 20 E 36.

148 F. PAULIN

de groupe l? --t PSLa(R) injectifs d’image discrete. Le groupe Out (I’) (plus connu sous le nom de groupe modulaire de Teichmtiller ou “mapping class group”) agit sur I(X) par precomposition.

W. Thurston [Thu, FLP] a construit une compactification I(X) de l’espace de Teichmtiller, homeomorphe a la boule fermee unite de I@Je6, sur laquelle l’action de Out (I’) s’etend continuement. Les points du bord correspondent a des classes d’equivalence de feuilletages transversalement mesures, a singularites isolees de type selles a k 2 3 branches, sur X (voir [Thu, FLP]). Le revetement universe1 X est muni d’une pseudodistance, qui entre deux points z, r~ de X vaut la borne inferieure des mesures transverses des chemins de z a y. L’espace metrique T, obtenu en identifiant deux points Q pseudodistance nulle, est un arbre reel, muni d’une action isomttrique de I’, a stabilisateurs d’art cycliques (voir [MS]).

Le theoreme du point fixe de Brouwer dit alors que tout [4] E Out (I’) possede un point fixe dam 7(X). Si le point fixe est dam 7(X), alors [4] est d’ordre fini (voir [Thu, FLP]). Dire qu’un point du bord est fix6 par [$I revient a dire que l’action de I’ sur l’arbre reel T correspondant s’etend en une action affine de l?xlZ, pour le groupe h engendre par 4. Ce fait, redemontre par le theoreme A, est le resultat de base pour montrer qu’un sous-groupe virtuellement resoluble du groupe modulaire est en fait virtuellement abelien (voir [BLM]), et done pour comprendre la structure des sous-groupes du groupe modulaire (voir [Iva]).

Nous pouvons esperer que le theoreme A (ou ses variantes, voir section 3.4) sera utile pour l’etude (des sous-groupes) de Out (I’), p our d’autres groupes hyperboliques r. Pour un groupe libre de type fini (qui est l’autre exemple typique ayant un Out (l?) indressant), nous renvoyons a [BFH]. Notons que si I est un groupe hyperbolique, alors Out (I’) est infini si et seulement si I’ se decompose en extension HNN ou en somme amalgamee non triviale au-dessus d’un groupe virtuellement cyclique, comme il resulte des travaux de E. Rips, M. Bestvina-M. Feighn, F. Paulin (voir par exemple [PauS, Theo. 3.31).

La metbode de preuve du theoreme A remonte a [Pau3]. L’article [Pau3] est aussi l’un des ingredients utilises par E. Rips-Z. Sela [RSl, RS2, Sell, Se121 pour leur etude profonde des automorphismes exterieurs de groupes hyperboliques (sans torsion). Les autres ingredients sont les travaux de E. Rips et M. Bestvina-M. Feighn sur les actions de groupe sur les arbres reels (voir par exemple [PauS]).

Nous n’utilisons pas ces travaux dam ce papier. Donnons maintenant quelques applications du theoreme A.

M. Gromov [Grol] (et C. Champetier [Cha], A. Ol’shanski [Ols]) ont developpe une notion de genericite pour les groupes de presentation finie. Precisement, une propriete P sur les groupes a p generateurs et 4 relations est asymptotiquement presque slire si le rapport du nombre de (classes d’isomorphismes de) groupes a ‘p generateurs et q relations de longueurs nl,“‘,nq, verifiant P, sur le nombre total, tend vers 1 quand ni, . . . , nq tend vers +cc.

COROLLAIRE A. - Asymptotiquement presque slirement, le groupe des automorphismes extbieurs d’un groupe de prksentation jinie (ci deux geWrateurs) est jini.

L’espace de Culler-Vogtmann joue pour Out (F,) un role analogue a celui de l’espace de Teichmtiller pour le groupe modulaire (voir [CVl]). C’est l’espace 0, des graphes metriques connexes (sans sommets de valence 1) marques (par un isomorphisme de F, sur

4= Sl?RIE - TOME 30 - 1997 - No 2

SUR LES AUTOMORPHISMES EXTl?RIEURS 149

leur groupe fondamental), modulo homothetie dans la bonne classe d’homotopie. Out (F,) agit par precomposition du marquage.

L’espace 0, a Cte utilise pour obtenir des informations globales sur le groupe Out (F,) (voir [CVl, CV2, Bra] et les travaux de K. Vogtmann, dont [Vog]) et pour obtenir des informations individuelles sur les automorphismes (voir [BH, Lusl, CL]) en Ctudiant la dynamique de Out (F,) sur une compactification 0, naturelle pour l’action (voir par exemple [CVl, CV2, Sha2, Sko2]).

Dans le cas des groupes infinis cycliques, le theoreme suivant est dQ a M. Lustig [LUST], connu de M. Bestvina-M. Handel (cas irreductibles : [BH], cas general : afiirmation orale), et aussi montre par R. Skora (expose, Albany Conference, 1992, qui prouve que 0, possbde la propriete de point fixe). Notons encore que R. Kenyon (communication orale) a construit de maniere explicite, pour l? = F, et H engendre par un automorphisme dont 1’abClianisC possbde deux valeurs propres Xi > X2 > 0, un arbre reel T comme dans le theoreme A, l’action &ant de plus libre.

COROLLAIRE C. - Tout sow-groupe nilpotent de Out (F,) admet un pointjixe dans 0,.

Ensuite, nous donnons une preuve du theoreme suivant (anciennement conjecture de Scott) qui n’utilise ni reseaux ferroviaires (comme dans [BH]), ni les m&odes de E. Rips (comme dans [Se12]), ni le thboreme de M. Lustig d’existence d’un point fixe dans 0, ayant stabilisateurs d’art triviaux (comme dans [GLL]), mais utilise l’etude de D. Gaboriau- G. Levitt [GL] du nombre d’orbites de points de branchement des arbres reels munis d’une action du groupe libre.

COROLLAIRE D. - (&I. Bestvina-h4. Handel [BH]) Le rang du groupe des points&es d’un automorphisme d’un groupe libre de rang n est infe’rieur ou &gal h n.

Enfin, le theoreme A souleve un certain nombre de questions. Nous reprenons ses notations et conclusions. Nous supposerons que H est cyclique, d’ordre infini dans Out (I’), engendre par h. Nous noterons X = X(h) le cczfficient de dilatation de la metrique de T par h.

Dans [PauS, 552.11, nous definissons une notion de mesure sur un arbre reel T muni d’une action isometrique d’un groupe P, adaptee a l’absence de compacite locale. Nous munissons l’espace M(T) de ces mesures d’une structure d’espace vectoriel topologique localement convexe. Cet espace contient en particulier l’espace D(T) des distances geodesiques Cquivariantes sur T, topologiquement Cquivalentes a la distance originelle (voir [Lev, Chap. IV] pour l’analogue dans le cas des surfaces). Nous dirons que T est uniquement ergodique (pour l’action de I) si M(T) est de dimension 1.

Questions : X est-il un nombre algebrique ? Peut-on majorer la dimension de D(T) uniquement en fonction du groupe I? ? Si X # 1, T est-il uniquement ergodique ?

Si I? est le groupe fondamental dune surface X comme ci-dessus, les travaux de R. Skora [Skol] (qui permettent de se ramener au cadre gbometrique connu) et de W. Thurston [Thu, PLP] montrent le fait suivant. Si X # 1, alors il existe exactement deux arbres reels T verifiant les conclusions du theoreme (A) (I’un avec dilatation A > 1, l’autre avec dilatation b = i < l), ils sont uniquement ergodiques, et X est une unite algbbrique.

ANNALES SCIENTIFIQUES DE L’kOLE NORMALE SUPgRIEURE

1.50 F. PAULIN

11 n’y a pas toujours unicite de T dam le cas du groupe libre, meme si X > 1 (voir [Lusl]). D. Gaboriau-G. Levitt [GL] ont construit un exemple d’automorphisme du groupe libre de rang n, agissant par dilatation sur deux arbres T, T’ avec dilatations X, X’ oti X > 1 n’est pas un entier algebrique, et de plus 1 > X’ # i. 11s montrent toutefois ([GL] Corollary IV.5) que X(h) est toujours un nombre algebrique de degrk inferieur ou Cgal B 3n - 4.

Ce travail, commence en 1988 lors d’un sejour au MSRI (que je remercie pour son support financier), n’existerait pas sans Particle [Se121 de Z. Sela, qui m’a fait remarquer qu’il n’y avait pas besoin de conjuguer pour assurer la convergence. Je remercie aussi Z. Sela pour ses Cclaircissements sur [Se12], qui ont contribue a la section 5. Je remercie encore F. Bonahon, J.P. Otal pour leurs conseils d’alors, et tout particulierement D. Gaboriau et G. Levitt (la demibre section 5 decoule de leurs travaux et de nombreuses discussions et corrections). Je remercie enfin l’arbitre pour ses suggestions.

1. Rappels de notations et d6finitions

Sauf mention contraire, une action d’un groupe sur un espace metrique est une action isometrique a gauche.

Un espace metrique est gkodksique si entre deux points passe une gkodksique, i.e. un chemin de longueur (minimale) Cgale a la distance entre ces points. Un espace metrique est hyperbolique s’il existe une constante S 1 0 telle que pour tout triangle geodesique, tout point d’un cot6 est a distance inferieure a 6 d’un point de I’un des autres c&es. Un groupe de type fini est hyperbolique si l’un de ses graphes de Cayley est hyperbolique. Voir [Grol, GH]. Rappelons la caracterisation suivante des arbres reels [AB, Theo. 3.171 : un arbre reel est un espace metrique hyperbolique pour 6 = 0.

Un point de brunchement dans un arbre reel T est un point z tel que T \ {x} possbde au moins trois composantes connexes, appelees brunches. Un arbre jni est un arbre reel, union finie d’arcs, done n’ayant qu’un nombre fini de points de branchement.

Si g est une isometric d’un arbre reel T, la distance de translation de g sur T est l,(g) = inf{d(z,gz)/x E T}. S i un groupe I? agit sur T, la distance de translation est constante sur ses classes de conjugaison. L’isometrie g est dite hyperbolique si [r(g) # 0, et elliptique darts le cas contraire. Voir [Shall.

Si g est hyperbolique, A, = {z E T / d(z, gz) = [r(g)} est isometrique a R, et appele l’axe de translation de g. De plus, z E A, si et seulement si 5, gz, g2z sont align&.

Nous appellerons ensemble caruct&istique de g E I?, et noterons A,, l’axe de translation de g si g est hyperbolique, ou le sous-arbre Fix(g) des points fixes de g sinon. D’apres [AB], le milieu de tout arc [z,gz] appartient a A,.

Une action d’un groupe sur un arbre reel T est dite triviule s’il existe un point fixe global. Elle est dite minimule s’il n’y a pas de sous-arbre invariant propre. Elle est dite simpliciule si elle est conjuguee par un homeomotphisme a une action simpliciale de I? sur un 1-complexe. Elle est dite ci domuine fuiblement fondumentuljini s’il existe un sous-arbre fini K de T tel que tout arc compact de T est recouvert par un nombre fini de translates de K. En particulier, la reunion des translates de K est alors T.

4e Sl?RIE - TOME 30 - I997 - No 2

SUR LES AUTOMORPHISMJZS EXtiRIEURS 151

Tome action non triviale d’un groupe de type fini admet un unique sow-arbre non vide invariant minimal [CM, Prop. 3.11. Une action minimale d’un groupe de type fini sur un arbre reel est a domaine faiblement fondamental fini (voir [AB] [Paul, Prop. 2.51).

Une action d’un groupe r sur un arbre reel T est petite (voir [CM]) si le stabilisateur de toute paire de points distincts ne contient pas de groupe libre de rang 2.

Rappelons (voir par exemple [GH, Theo. 37, p. 1571) qu’un sous-groupe d’un groupe hyperbolique ne contient pas de groupe libre non-abklien si et seulement s’il est virtuellement cyclique.

Une action d’un groupe I? sur un arbre reel T est trh petite (voir [CL]) si elle est petite et si pour tout g E r d’ordre infini, le sous-arbre Fix(g) d’une part est Cgal a Fix(g”) si n # 0, de l’autre ne contient pas de tripode. Un tripode est un arbre fini, reunion des arcs entre trois points non align&. Notons L7(I’) C Rr (voir [AB, CM]) l’ensemble des elements de Wr qui sont de la forme CT pour une action de I’ sur T.

11 est montre dans [CM, Theo. 3.71 qu’une action minimale de I’ sur un arbre reel, dont les distances de translations ne sont pas les valeurs absolues d’un morphisme de I’ dans R, est determine, a isometric Cquivariante p&s, par ses distances de translation, Nous noterons ZC3(r) I’espace de ces fonctions distances de translations, SLF(I’) celui des actions petites, VslF(I?) celui des actions tres petites et 7L7(I’) celui des actions libres (i.e. pour lesquelles seule l’identite a un point fixe). On a, dbs que I’ est de type fini et contient un groupe libre de rang 2 (voir [AB, CM] pour les inclusions non triviales)

59(r) c vsqr) c scqr) c zqr) c u(r) c 12~ Munissons Rr de la topologie produit et P(Wr), le quotient de Wr par la relation d’equivalence II: N Xa pour X # 0, de la topologie quotient. Nous dirons qu’un sous-espace X de Wr est projectivement compact si son image P(X) dam P(H’) est compacte.

11 est montre dans [CM, Theo. 3.51 (voir aussi [Pau2]) que SCF(I’) est m&risable et projectivement compact si r‘ est de type fini. Soient (X, d), (X’, d’) deux espace metriques et E 2 0, X > 0. Une application f : X -+ X’ est une (A, f)-quasi-isomkrie si pour tous z,y de X,

Si E = 0, f est dite X-bilipschitz.

2. Limite d’actions de groupes sur des espaces mkiques

Fixons-nous w un ultratiltre sur N ([Bou] I, p. 39) plus fin que le filtre de Frechet des complementaires des parties finies ([Bou] I, p. 36). Un tel ultrafiltre existe par ([Bou] I, p. 39, Theo. 1). Pour toute suite (Q)~~N bomee de reels, nous noterons lim, ri la limite de l’ultrafiltre de Fd engendre par l’image directe de w par i H xi ([Bou] I, p. 41).

Soit (Xi, di, *i)iEN une suite d’espaces metriques point&. Soit

X, = {x E n Xi / l’,m di(zi, *i) < +oc}. iEN

ANNALFS SCIENTIFIQUES DE L’6COLE NORMALE SUPl?RIEURE

152 F. PAULIN

Par passage a la limite dans l’inegalite triangulaire, nous pouvons definir (z, : X, x X, + P + 4 Par

11 est facile de voir que (z, est une pseudo-distance. Nous noterons (Xw , d,, *w) l’espace metrique point6 quotient de (X,, d,, (*i)icN) par la relation d’equivalence z - y si 2, y sont a pseudo-distance nulle. Nous l’appellerons l’ultrulimite de la suite (Xi, &, *i)iEN (voir [DW, Gro2]). Nous noterons z = 1iF xi I’image dans X, d’une suite (zJ~)~Q+,.

Soit l? un groupe agissant par isometrics sur X;, tel que pour tout y E P,

limdi(y*i, *i) < cc. w

Alors l’action produit de l’ sur X, induit une action isometrique de I’ sur X,. Soit w un filtre sur N, et soient {Yi}iENU(ool des espaces metriques munis d’une action

isometrique d’un groupe l?. Nous dirons que la suite (Yi& converge pour la topologie de Huusdorf-Gromov t!quivariunte vers Y, pour le filtre w, si l’assertion suivante est vCrifiCe. Pour toute partie finie K de Y,, pour toute partie finie P de r, pour tout t > 0, il existe un Clement R du filtre w tel que pour tout i dans R, il existe une partie finie Ki de yi, et une relation Ri c K x Ki, dont les projections sur K, Ki sont surjectives, telles que pour tous g, h E P, si zRizi et yR;yi,

Id&m hyi) - dm(gz, hy)l < t.

Une modification de ceci permet de munir d’une topologie tout ensemble d’actions isometriques de r sur des espaces mttriques [PauS, Chap. 11. Pour plus d’informations sur cette topologie, voir [Paul, Pau2], oti la definition contient une leg&e erreur, comme nous l’a signale R. Skora, tous les resultats restant vrais avec la definition ci-dessus. Rappelons que cette topologie n’est en g&&al pas separee. En particulier, toute partie invariante de Y, est aussi limite de (K)iE~. 11 faut done imposer au moins des conditions de type minimalite pour avoir des proprietes de separabilite.

Comme nous l’a fait remarquer G. Levitt, la difference heuristique entre la convergence forte (au sens de [GS]) et la convergence de Gromov Cquivariante est que si T est la limite des Ti, alors dans le premier cas, on peut relever isometriquement toute partie finie de T dans T; avec n assez grand, tandis que pour la seconde, on ne peut relever qu”‘isom&riquement a E pres”. La proposition suivante est immediate. Voir par exemple [KL, Prop. 3.61 pour les assertions (l), (2) et [KL, Prop. 3.121 pour l’assertion (3).

PROPOSITION 2.1. (1) Si Xi est g&odksique pour tout i, ulors X, l’est. (2) Si Xi est Si-hyperbolique uvec S = lim, & < 00, ulors X, est S-hyperbolique (done

un urbre si 6 = 0). (3) Si fi : Xi + Yi est une suite de (Xi, ci)-quasi-isomktries uvec X = lim, Xi < 00,

e = lim, E; < 00, et si lim, d(fi(*i), *i) < 00, ulors l’upplicution fw : X, -+ Y, induite par (xi) H (fi(zi)) est une (X,E)-quasi-isomktrie.

4e S,iRIE - TOME 30 - 1997 - No 2

SUR LES AUTOMORPHISMES EXTfiRIEURS 1.53

(4) Soit I’ un groupe agissant par isome’tries sur Xi, tel que lim, di(y*i, *i) < 00 pour tout y E F. Alors l’action de I? sur Xi converge (pour le jiltre w) pour la topologie de Hausdog-Gromov kquivariante vers l’action de r sur X,. 0

11 est montre dans [Pau2, p. 1981 que la topologie de Gromov Cquivariante sur ZL3(I?) (vu comme l’espace des actions minimales de I sur des arbres reels, dont les distances de translations ne sont pas les valeurs absolues d’un morphisme de I7 dans W, modulo isometrics Cquivariantes) coincide avec la topologie induite par celle de Rr.

De la meme man&e, nous pouvons donner une preuve t&s courte du theoreme suivant de M. Cohen-M. Lustig [CL] (voir aussi [RSl, Lemma 4.11) :

THBORBME 2.2. - VSL3(I’) est compact.

Preuve. - D’apres la section 1, il suffit de montrer que VSL3(r) est (stquentiellement) ferme dans %3(r). Soit (Tn)nEN une suite dans VSL3(r) qui converge (pour la topologie de Gromov Cquivariante et le filtre de FrCchet) vets T E SL3(l?).

Si z, y, .z sont les sommets d’un tripode dans T fixe par g E I’, soit E > 0 suffisamment petit devant la longueur des branches de ce tripode. Pour n assez grand, il existe z,, yn, Z, dans T, tels que d(gz,,z,), d(gy,, y,), d(gz,,z,) 5 E et Id(z,,y/,) - d(s,~y)l,ld(z,,y~) - d(z,y)l,ld(z,,z,) - d(z,z)l I G done les milieux des arcs kwv4, [~~,gyJ, hmJ sont les sommets d’un tripode. Comme ces points appartiennent a l’ensemble caracteristique de g, on en deduit que g n’est pas hyperbolique (les axes de translation sont des droites), done possede un tripode fixe dans T,, ce qui est impossible.

Si z est un point fixe par g”, qui n’est pas fixe par g, soit y le point fixe de g le plus proche de x (c’est le milieu de [x, gz], voir [AB]). Posons z = 92. Pour n assez grand, il existe z,, yn,z, dans T, tels que d(gkz,,z,), d(gz,,z,),d(gy,, yn) 5 E et Id(Zn> Yn) - 4x7 ?/)I, Id(zn, yn) - dk> y)l, I4 x,, z,) - d(x, z)] 5 6. Done le milieu m de [z,, , gkx,], qui est fixe par g” et proche de z,, n’est pas proche du milieu m’ de [m, gm], car gm est proche de gxn. Puisque m’ est le point fixe de g le plus proche de m, ceci montre que g” possede un point fixe darts T, qui n’est pas fixe par g, contradiction. q

3. Limites d’automorphismes de groupes hyperboliques

3.1. DCmonstration du thCor&me A

Soit I’ un groupe hyperbolique et H un sous-groupe de Aut (I’). Notons T : Aut (I?) + Out (r) la projection canonique.

Supposons le centre de x(H) infini. Notons ($,). 2 Zen une suite infinie d’elements de H, avec les I deux a deux distincts, et dans le centre de r(H).

Notons S = {si, e . e, Sk} une partie g&i&at&e finie de I, stable par passage a l’inverse. Le groupe des automorphismes exterieurs d’un groupe virtuellement cyclique est fini. Done r n’est pas virtuellement cyclique. Done r contient un groupe libre non abelien (voir section 1). Nous pouvons done supposer que si,52 engendrent un groupe libre non abelien.

ANNALES SCIENTIF’IQUES DE L’lkOLE NORMALE SUPeRIEURE

154 F. PAULIN

Nous noterons 1 lg(/ la longueur minimale d’un mot en S repksentant g E r (avec 0 pour l’tlkment neutre). Nous munirons I? de la m&rique des mots associke B S, i.e. d(g, g’) = l/g-lg’(l. Rappelons que pour tout automorphisme 4 de r, si

alors par inCgalitC triangulaire, 4 est C-bilipschitz. Posons

xi = in& “:$I d(x, $J’i(s)5). *

Puisque d prend des valeurs entikres, cette borne infkrieure est atteinte. Nous choisissons arbitrairement un point si rCalisant le minimum. Remarquons que par l’inCgalit6 triangulaire, pour tout g E IT,

(1) d(*i,$&>*i) 5 llgll~i.

D’aprks [Pau3, Case 1, p. 3381, comme les + sont deux ?I deux distincts dans Out (I’), la suite (Xi) tend vers +oo quand i + CCL

Notons Xi l’ensemble r muni de la distance di = *, point6 en z;, muni de l’action de I’ par translation & gauche tordue par $Q

Notons (Xw, d,, *w) l’ultralimite de la suite (Xi, di, *i) (voir section 2). D’apri% l’kquation (1) et la section 2, l’action g H {(z~)~Qu H (+i(g)Zi)iEN} induit une action isom&rique de IT sur X,.

Si Xs est le graphe de Cayley de I? pour S, alors Xs est gCodCsique. De plus, si on remplace r par X dans la construction ci-dessus, l’ultralimite obtenue est la m$me, puisque lim, Xi = 00. Done par la proposition 2.1 (l),(2), X, est un arbre reel, puisque lim, $ = 0.

D’aprhs la proposition 2.1 (4) et [Pau3, p. 3401 , [Pau3, Prop. 2.41, l’action de r sur X, est non triviale, et a stabilisateurs d’art virtuellement cycliques.

Nous allons maintenant montrer que l’action (isomkrique) de I’ s’Ctend en une action de l?xlH par homComorphismes bilischitz.

Soit cp E H. Puisque les TT(&) sont dans le centre de r(H), il existe un 61Cment -yi = yp,i E r tel que

(2) $i O Cp = I-y% O Cp O 4%

avec IT, : 9 H TigTtY1 la conjugaison par yi. ConsidCrons l’application fi = fv,i : Xi + Xi dkfinie par

.fi(x> = YicP(x)*

Alors fi est C,-bilipschitz pour la distance di. Nous allons montrer que fi ne bouge le point base *i que d’une distance majorke uniformkment en i. Par la proposition 2.3 (3),

4e SfiRIE - TOME 30 - 1997 - No 2

SUR LES AUTOMORPHISMES EXTl?RIEURS 155

l’application (xi)iE~ H (fi(~i))i~~ induira un homeomorphisme C,-bilipschitz fV : X” + x,.

LEMME 3.1. - 11 existe une constante D, ne dkpendant que de IT et (o, telle que d(f&), ei) 5 DXi pour tout i E N.

Preuve. - Nous allons tout d’abord montrer qu’il existe une constante D’ 2 1 telle que pour tout i E N,

Su~d(fi(*i),~~(s)fi(*i)) I D'k. SES

En effet, par la relation de commutation (2), puisque yi est une isometric, puisque cp est C,-bilipschitz, et par l’equation (l), il vient, pour s E S,

= 4%cp(*i),w 0 ~iw(s>>(P(*i)) I cpd(*i,lJi(cp-l(s))*i) 5 c,llP-‘(s>ll~i.

Ceci montre notre premiere affirmation. Montrons maintenant le lemme, par un argument inspire de [Se12]. Soit S 1 0 tel que le

graphe de Cayley Xs de I’ pour la partie gCn&atrice S est S-hyperbolique. Notons 2186 le cardinal de la bottle de rayon 86 dans I?. Supposons par l’absurde que

d(*i, fi(*i)) > 2(4v8& + 8)D’&.

Par ce qui precede, les isometrics 1(1; (sl), $i(sz) bougent les points *i, fi( +) de moins de D/Xi. Notons I le segment geodesique [*i, fi(*;)] darts Xs. Soit m le milieu de I. Par S-hyperbolicite de X s, un sous-segment de I centre en m, de longueur au moins 2(4%9i + 5)D’Xi (pour i assez grand) reste a distance au plus 26 de T,!Q(s~)I et &(sz)I.

En particulier, (rappelons que des translations commutent), le milieu du segment I est p=g”; par les commutateurs [G;(s~)~, &(sz)‘] = T,!I~( [s;, sg]) de moins de 86 pour tout

. . . 7 , 2186 + 1. Comme le groupe engendre par ~1, sz est libre, les commutateurs [si, $1 sont deux a deux distincts. Comme T,/I~ est injective, et I? agit transitivement et librement sur lui-meme par translation a gauche, ceci contredit la definition de 2186. 0

Montrons maintenant que l’application H -+ HomCo(X,) definie par cp H f, est un morphisme de groupe.

Soient ‘p, cp’ E H. Par la relation de commutation (2), il vient

11; O Cp O (P’ = I-fv,$ O Cp O +i O (P’ = IT,,, O Cp O Iyq~,i O 9’ O lcli = I-fy,2.‘p(y+,,,,) O Cp O Cp’ O $i.

Puisque $i 0 ‘p 0 ‘p’ est inversible, IyVaV, t = I,+ i.‘p(yV, i). Done z = r,-,‘,, i . yv,i . p(yq,,i) est dans le centre de I?. Maintenant, pour tout i E I?, ‘et puisque z est central,

d(.f+mqj,i (21, fip,i 0 fpt,i(x)) = d(Tqo,l,i ’ Cp O cP’Cxc>7 rYy,i . 'P(T@,i * d(z)>)

= d(Ywv’,i . CP 0 d(x), ~‘po’p~,i ‘2 . CP 0 d(x)) = I/(P 0 CP’(Z>>-’ . .Z . CP 0 I’ll = 11211. Mais il decoule de [GH, Theo. 37, p. 1573 que le centre d’un groupe hyperbolique non virtuellement cyclique est fini. Done ] 1.~1 ] es uniformement borne. Puisque lim, r = 0, t

ANNALES SCIENTIFlQUEs DE L’fiCOLE NORMALE SUPhIEURE

156 F. PAULIN

on en deduit que fp,-+l = fip o fVt. Done H opere par homeomorphismes bilipschitz sur X,. Montrons ensuite que le groupe l? xlH opere par homeomorphismes bilipschitz. 11 s’agit de montrer que les actions de I et H sont compatibles, au sens que pour tout p E H, z E X, et y E I,

(3) Par passage a la limite, ceci decoule des Cgalites suivantes, pour tout z E l? et i E N,

Notons T’ le sow-arbre de X, invariant minimal pour l’action de I’ (voir section 1). Pour tout cp E H, fc+,(T’) es un sous-arbre de X,, car f, est un homeomorphisme. 11 est invariant t par I par l’equation (3). Done fp(T’) contient T’ par minimalite de T’. En utilisant ‘p-l, il vient f,(T’) = T’. Done T’ est invariant par I’>aH. Montrons enfin comment changer T’ de sorte que l’action de r>aH devienne affine. Considerons pour cela la partie D(T’) de l’espace vectoriel R T’ ‘r’, forme des applications S : T’ x T’ -+ R telles que

(i) S est une distance geodesique, dont la topologie induite coincide avec la topologie induite par la distance d’ = dwlTt de T’,

(ii) S est invariante par l’action diagonale de l? sur T’ x T’.

11 est clair que D(T’) est un cone convexe tpointt. Tout 6 E D(T’) munit l’ensemble T’ d’une structure d’arbre reel, pour laquelle l’action de l? est isometrique, non triviale et a stabilisateurs d’art virtuellement cycliques (car les arcs topologiques de (T’, 6) sont precistment ceux de (T’, d’)). Un Clement de I a le mCme ensemble caracteristique (voir section 1) pour (T’, S) que pour (T’, d’). En effet, l’axe de translation d’un Clement y a une caracterisation purement topologique : c’est l’ensemble des points x tels que x, yx, y2x sont align&i.

Notons 0 : D(T’) --+ S,CF(I?) l’application qui a (T’, S) associe sa fonction distance de translation k’(T,,6). Notons que 0 est lineaire, car @rt,6)(g) = G(x,gx) pour tout point x dans l’ensemble caracteristique de g. Done C(T’) = O(D(T’)) est un cone convexe tpointe (non vide) dans Rr.

Le groupe H agit sur D(T’) de la man&e suivante: si cp E H, alors

6 H {‘p. s : (a,b) ++ W&)l MW

Le fait que cp . S verifie la condition (i) vient de ce que f, est un homeomorphisme. L’invariance de cp . S (condition (ii)) vient de ce que fV conjugue l’action a gauche de r a celle tordue par l’automorphisme cp (voir l’equation (3)). L’action de H sur D(T’) correspond a l’action naturelle de H sur C(T’) c Rr par precomposition. En effet, par la caracterisation topologique des axes de translation, par le fait que fV est un homeomorphisme, et par l’tquation (3), f9 envoie l’axe de translation de g E I’ sur l’axe de translation de cp(g). Done, pour tout x sur l’axe de translation de g E I,

Le cone convexe CpointC C(T’) de l’espace vectoriel topologique localement convexe Rr (muni de la topologie produit), est projectivement compact, d’apres la section 1. Le

4e S,?RIE - TOME 30 - 1997 - No 2

SUR LES AUTOMORPHISMES EXtiRIEURS 157

groupe moyennable H agit par applications lineaires continues sur BBr en preservant C(T’) par ce qui precede. Done par le theoreme de point fixe [Gre, Theo. 3.3.51, il existe un Clement e dans C(T’) projectivement fixe par H. Ceci signifie que pour tout cp E H, il existe X(v) > 0 tel que pour tout g E I,

(4) e 0 cpw = Gw). 11 est facile de voir que cp H X(v) est un morphisme de H dans R$..

Rappelons (voir [CM, Theo. 3.71 et la section 1) que tout Clement de SLT(I’) est la fonction distance de translation d’une action de I’ sur un arbre reel, unique a isometric Cquivariante p&s. Soit done T un arbre reel, de distance d, muni d’une action isometrique de I, de fonction distance de translation e. Par unicite et par l’equation (4), il existe pour tout cp E H, une isometric Cquivariante h, de (T, d), muni de l’action de l? tordue par p-l, dam (T, A(cp)d), muni de l’action de I’. Ceci signifie precidment que h, : T -+ T est affine de coefficient de dilatation X(p), et verifie, pour tout g E I? et z E T,

Ceci termine la preuve du theoreme A. 0

3.2. Compl6ment.s gCn&aux au thCor&me A

Faisons quelques remarques sur cette preuve, dont nous conservons les notations, en particulier l?, H, T+!I~, Ai, (T’, d’), (T, d) , h, et X(q), le ccefficient de dilatation de l’application affine h, de (T, d).

REMARQUE 3.2. - Si g E I? est elliptique dans T’, alors g est elliptique dans T.

Preuve. - Par continuite des fonctions distances de translations, ceci vient du fait que les ensembles caractCristiques dans D(T’) sont constants. 0

LEMME 3.3. - Pour tout cp E H et g E r, l’axe de translation de cp(g) est l’image par h, de l’axe de translation de g.

Preuve. - Pour tout z dans l’axe de translation de g et tout y dans T,

d(cp(g)h,(z),h,(z))=d(h,(gz),h,(z))=Xd(gz,2)IXd(gy,y) = d(cp(g)h,(y),h,(y)).

Le resultat decoule alors du fait que h, est une bijection.

REMARQUE 3.4. - L’action de r sur T est en fait tr& petite.

q

Preuve. - Montrons tout d’abord que l’action de I’ sur T’ est t&s petite. Si g est une isometric d’ordre infini d’un groupe hyperbolique l?, alors g possbde

exactement deux point fixes dans le bord dI’ de I (voir [GH, Chap. g]). Nous appellerons quasi-axe de translation n’importe quelle geodesique dans un graphe de Cayley Xs de I? entre ces deux points fixes. Deux telles geodtsiques sont a distance de Hausdorff inferieure a 46 si X est S-hyperbolique. Le lemme suivant est 1aissC en exercice.

ANNALES SCIENTIFIQUES DE L’6COLE NORMALE SlJPl?RIEURE

158 F. PAULIN

LEMME 3.5. - I1 existe une constante c = c(I’, 5’) telle que pour tout g E F d’ordre in&i, pour tout x E XS, le milieu de toute giodtfsique entre x et gx est h distance infe’rieure ii c d’un quasi-axe de translation de g. Cl

Supposons par l’absurde que T’ contienne un tripode fixe par g d’ordre infini. Notons x = gx, y = gy, z = g.z les sommets de ce tripode. Nous pouvons supposer, quitte a le reduire, que x, y, z sont a la mCme distance d > 0 du sommet du tripode. Soit t > 0 petit devant d. Puisque T’ est limite de Xi (voir proposition 2.1 (4)), il existe R E w tel que pour tout i E 0, il existe xi, yi, zi dans r tels que Id(xi, yi) - 2dXi 1 < cXi et d(xi, &(9)x;) 5 cXi (et de meme par permutation circulaire de xi, yi, zi). Puisque X; tend vers cc et par hyperbolicite de I’, tout quasi-axe de translation de $i(g), devant passer a distance au plus c du milieu de [xi, gxi] et [yi, gyi] ne peut passer a distance inferieure a c du milieu de [zi, gzi]. Ceci donne une contradiction.

La demonstration du fait que tout point de T’ fixe par g” pour k # 1 est encore fixe par g, se fait de mar&e analogue B celui dans la preuve du theoreme 2.2, en utilisant le lemme precedent.

Pour passer de T a T’, il suffit de remarquer que puisque les ensembles caracteristiques sont constants sur D(T’), le convexe C(T’) est contenu dans VsU(I’). Par compacite de VsD=(I’) (theoreme 2.2), le reste de l’argument montre alors que T est dans VSLF(I’). q

Si IY est un groupe muni une partie generatrice finie, rappelons ue la longueur stable ] ] ]r]]] de y E I? est la limite quand n tend vers l’infini de Ll z . Cette limite existe par sous-additivite (I ]yn+ I I 5 I ]Y~]] + I ]ym] I). Si l? est un groupe S-hyperbolique, alors ]I ]y]]] = 0 si et seulement si y est d’ordre fini. Et si y est d’ordre infini, alors I l/y]]] vaut, a quelques S p&s, la distance de translation infIEF d(x, yx) = inf{ ]]a]] /a conjugue a 7). Pour cela, voir par exemple [GS].

REMARQUE 3.6. - Si g E I?, alors la distance de translation &, (9) de g duns T’ v&Be :

eTl(g) = li&-&&d(x,&(g)x) = li&#k(g)]]]~ 2

En particulier, si @i(g) = g pour tout i, alors la distance de translation de g duns T’ est nulle. Et si &f(g), & (9’) # 0, alors

Preuve. - La deuxieme Cgalite dans la premiere equation decoule de la discussion prectdente et du fait que X; tend vers cc.

Supposons d’abord que g est elliptique dans T’. Soit 3: un point fixe de g, avec x = lim, xi. Alors lim, x, Id(xi,&(g)) = 0 puisque d’(x,gx) = 0. Comme &V(g) = 0 par hypothbse, le resultat “en decoule.

Supposons done g hyperbolique (en particulier d’ordre infini). Soit x un point de l’axe de translation de g dans T’. Alors d(x,gx) + d(gx,g2x) = d(x,g2x), puisque x,gx,g2x sont align& darts cet ordre sur l’axe de g. Si z = lim, xi, alors pour tout E > 0, petit

4e SeRIE - TOME 30 - 1997 - No 2

SUR LES AUTOMORPHISMES EXTl?RIEURS 159

devant .&j(g) = d(z, gz) > 0, il existe R E w tel que pour tout i E R,

14% 1cI&>~c;> + d($i(g)G, 4&d2~i) - d(% &(g)2xi)I < A&

et

Or par hyperbolicite, il existe une constante c’ > 0 (ne dependant que de la constante d’hyperbolicite 6) telle que pour tout y E I, et 7 E I? d’ordre infini, si A, est un quasi-axe de translation de y darts Xs,

I~(Y,YY) - 24~,-4,) - lIlyIll 1 I c’.

amme 11192111 = 21119111~ la P rem&e des equations precedentes entraine que kd(zi, A,$(,,) tend vers 0. La deuxieme entraine alors le resultat.

Les deux demibres affirmations de la remarque decoulent aisement de la premiere, commeXi+m. cl

Si 4 est un automorphisme du groupe I’ et y E I, alors la croissance stable de y par 4 est

4-7) = wdr) = limw 1 log IllP(~) . n+m n Le gros avantage de cette croissance stable par rapport a la croissance obtenue en remplacant longueur stable par longueur est qu’elle ne depend que de la classe de 4 dans Out(I).

LEMME 3.7. - Pour tout g E I? tel que &(g) # 0, pour tout cp E H, on a log X( cp) 5 wV (g).

Preuve. - Soit g E r tel que e,(g) # 0, en particulier g est d’ordre infini. Prenons z. un point base dam T. Alors

avec c = sup,es d(zo, SQ) > 0 une constante dependant de T mais pas de g. Rappelons que eT est constante sur les classes de conjugaison, et que ]]]g]]] vaut a quelques S p&s la borne inferieure des I ]h] / pour h conjugue a g. 11 existe done des constantes c > 0, c’ > 0 telles que pour tout i E N,

w&?)) I clllY+(dlll + c’* Or&(@(g)) = x((p)i&(g). Le resultat en decoule. cl

Un sous-groupe H’ de Out (I’) est dit ci dilatation sous-exponentielle des mots si pour tout Clement y de I’, pour tout [cp] E H’, la croissance stable r.+(y) de 7 par cp (definie section 1) est nulle. 11 suffit bien stk de le verifier pour les y elements de la par-tie gCnCratrice S de I.

PROPOSITION 3.8. - Si Z’image H’ de H dans Out (I’) est ci dilatation sous-exponentielle des mots, alors Z’action de I’xH sur T est isomh-ique.

Preuve. - Puisque T n’a pas de point fixe global pour l’action de I?, il existe g E I’ tel que e,(g) # 0. Pour cp E H, en appliquant le lemme 3.7 a cp et cp-‘, on a done X(p) = 1. Ceci montre le resultat. cl

ANNALES SCIENTIFIQUES DE L’lkOLE NORMALE SUPl?RIEURE

160 F. PAULIN

Notons que la dynamique de l’arbre T obtenu dans le thdoreme A est en general t&s riche.

REMARQUE 3.9. - Si T est un arbre simplicial, alors X(p) = 1 pour tout cp E H. En fait, si 1 ‘action de I? XIH n ‘est pas isome’trique, alors tome orbite de I’ duns T est dense.

Preuve. - La premiere assertion, qui decoule de la seconde, peut se montrer directement ainsi. Soient x, y deux points quelconques de branchement. Ceux-ci existent, car l’action &ant petite et le groupe derive de I? non virtuellement cyclique, T n’est pas isometrique a R.

Si X(V)*~ < 1, il suffit d’iterer d(h$“(z), h:n(y)) = X(~)*~d(z, y) pour voir qu’il existe des paires de points de branchement a distances arbitrairement proches, ce qui empeche T d’etre simplicial. La deuxieme assertion decoule de la proposition suivante, car l’action de r sur T dans la construction de la preuve du theoreme A est minimale.

PROPOSITION 3.10. - Si T est un arbre reel muni d’une action minimale d’un groupe de typejni r, si cp est un automorphisme de r tel qu’il existe une application afine f : T --+ T de rapport X > 1 qui conjugue l’action sur T h celle tordue par cp, alors toute orbite pour r est dense.

Preuve. - (G. Levitt) Si une boule de centre IC et de rayon T > 0 ne rencontre pas l’orbite d’un point y, alors la boule de centre fn(z) et de rayon X”r ne rencontre pas l’orbite de f”(y). Mais l’existence d’un domaine faiblement fondamental de rayon borne (voir section 1) donne une contradiction. 0

3.3. ComplCments au thCor&me A pour les automorphismes individuels

Dans la suite de cette section, cp est un automorphisme de r d’ordre infini dans Out(r). Voyons ce que la preuve du theoreme A nous permet de dire sur l’automorphisme individuel ‘p. Nous notons H le sous-groupe de Aut (I’) engendre par cp, et $~i = ‘pi. La preuve du theoreme A foumit une action minimale petite de r sur un arbre reel T, et une application affine h = h, : T -+ T de coefficient de dilatation X = X(p), telle que h(gz) = cp(g)h(x) pour 9 E I? et z E T.

Notons Fix(p) le sous-groupe de l? des points fixes de cp et Stabr (I’) (resp. Fixr (P)) le stabilisateur (resp. fixateur) d’une partie P de T par r.

F'ROP~SITION 3.11. - Si Fix(p) n’est pas virtuellement cyclique, il existe un point x de T, jibe par h, tel que

1. Fix(p) C Stabr(z). 2. cp(Stabr(rc)) = Stabr(x).

Preuve. - (G. Levitt) D’aprbs les remarques 3.6 et 3.2, tout Clement de Fix(p) est elliptique. Comme Fix(v) est de type fini (voir [Pau4, p. 6511, aussi prouve independamment par D. Cooper), d’aprbs un argument bien connu (voir par exemple [AB]), le groupe Fix(p) possede un point fixe commun x.

Pour tout g E Fix(p), il vient gh(s) = p(g)h(x) = h(gz) = h(s) done si h(x) # x, l’arc non trivial [x, h(z)] est fixe par le sous-groupe non virtuellement cyclique Fix( cp), ce qui contredit le fait que l’action soit tres petite.

4e SkRlE - TOME 30 - 1997 - No 2

SUR LES AUTOMORPHISMES EXTfiRIEURS 161

Maintenant, si g E Stabr(z), alors (p(g)x = cp(g)h(z) = h(gz) = h(z) = z, ce qui montre la dernibre assertion. 0

LEMME 3.12. - Si Fix( cp) n ‘est pas virtuellement cyclique, si h n ‘est pas une isometric ekptique avec Fixr (Fix( h) ) fi ni, alors le point x ci-dessus est l’unique point&e de h.

Preuve. - Supposons qu’il existe z, y des points fixes distincts de h. Alors

4x, Y) = Wb), h(y)) = Wx, Y>.

Done X = 1 et h est une isometric. Supposons tout d’abord que h est elliptique. L’ensemble des points fixes K de h

contenant le segment [x, y], son fixateur est contenu dans le fixateur du segment [z, y]. Puisque l’action est petite (et qu’un sous-groupe d’un groupe virtuellement cyclique est virtuellement cyclique), Fixr (K) est virtuellement cyclique. Puisque Fixr (K) est distingue dans Stabr(K), et que r est hyperbolique, on en deduit (voir [GH, Chap. 8, $21) que les ensembles limites de Fixr (K) et de Stabr (K) coincident, done que Stabr(K) est virtuellement cyclique. Si y E Fix(p) et z E K, alors h(yx) = cp(y)h(x) = yx, done yx E K. Par consequent, Fix(p) est un sow-groupe de Stabr (K), done est virtuellement cyclique.

Supposons maintenant que h est hyperbolique. Si A est l’axe de translation de h, alors son stabilisateur Stabr (A) est virtuellement cyclique. Si y E Fix (cp) et z E A, alors d(yx, h(rx)) = d(yx, cp(y)h(x)) = d(yx, yh(x)) = d(x, h(x)), done yz E A. Par consequent, Fix (‘p) c Stabr (A) est virtuellement cyclique. q

LEMME 3.13. - Si A est un arc de T et g un genne’rateur de F&(A), alors Fixr (h(A)) est engendre’ par cp(g).

Preuve. - Si y E A et y E G, alors yy = y Cquivaut a h(yy) = h(y), qui Cquivaut a cp(yMd = h(y). cl

3.4. Variation sur le thCor&me A

Nous indiquons ici un &once analogue au theoreme A, qui en est un corollaire.

THI?OR&ME 3.14. - Soit I? un groupe hyperbolique, et H un sous-groupe de Aut (I?) dont l’image duns Out (r) est injinie, nilpotente, de type fini. I1 existe un arbre reel T, muni d’une action afJine de l?>aH, telle que la restriction de l’action a I? est isometrique, suns point jixe global, minimale et tres petite.

LEMME 3.15. - (P. Hall, voir par exemple [Bau, L.em. 0.1, p. 31) Un groupe nilpotent, dont le centre est de torsion, est de torsion. Un groupe nilpotent de type fini et de centre jini est jini.

Preuve. - Soit (Gk)k=l...s la serie centrale ascendante, dtfinie par recurrence par Gr est le centre Z(G) de G, et Gk+r/Gk = Z(G/Gk), avec G, = G (par definition de la nilpotence de G). Remarquons que [Gk+r, G] c Gk.

ANNALES SCIENTIFIQUES DE L’6COLE NORMALE SUPfiRIEURE

162 F. PAULIN

Montrons la premiere assertion par recurrence sur s. C’est clair si s = 1. Supposons s > 1. Soit a E Gs et z E G. Alors [~,a] E G1. Soit n l’ordre de [z, a]. Rappelons la formule universelle [a, bc] = [a, !,#[a, c]b-l. Alors,

[qa”] = [Lzyq = 1.

Done un E G1. Done Gs/Gi est de torsion. Comme G2/G1 est le centre de G/Gi, qui est nilpotent de longueur s - 1, le resultat en decoule par r&rrence.

La deuxibme assertion decoule du fait qu’un groupe nilpotent de type fini est polycyclique et qu’un groupe polycyclique de torsion est fini (voir [Bau, p. 11). cl

Un groupe nilpotent est moyennable (voir par exemple [Gre]). Done le theoreme 3.14 decoule du theoreme A et de la deuxibme assertion du lemme preddent. 0

Remarque. - L’hypothbse de type fini dans le theoreme 3.14 est en fait inutile. 11 decoule en effet des travaux de [RSl, Sell] qu’il n’y a pas de groupe de torsion infini dans Out (I’) pour r un groupe hyperbolique. Dans le cas d’un groupe libre I = F”, ceci nous a Cte communique par K. Vogtmann : d’apres le theoreme de forme normale des automorphismes exterieurs d’ordre fini (premier) [Cul, Theo. 5.21, tout sous-groupe de torsion de Out (F,) s’injecte dans GL,(Z) par l’application canonique Out (F,) --+ GL,(Z) induite par l’abklianisation F, + Z”. Or il n’y a pas de groupe infini de torsion lit&ire.

3.5. Demonstration du corollaire B

Nous terminons la section par la preuve du corollaire B de l’introduction. Elle repose sur le resultat de C. Champetier suivant.

THBOR~XME 3.16. - (C. Champetier [Cha]) Asymptotiquement presque stirement, un groupe de prt%entation jinie (& dew gknkrateurs) est hyperbolique au sens de Gromov, de bord une courbe de Menger. cl

Voir par exemple [Gro2, GH] pour la definition du bord d’un groupe hyperbolique. Une courbe de Menger est un espace topologique compact, m&risable de dimension 1, connexe par arcs, localement connexe par arcs, sans point de coupure local (i.e. sans point qui &pare tout voisinage suffisamment petit), et non plongeable dans H2. Tous ces espaces sont homeomorphes.

Comme rappel6 dans l’introduction, si I est un groupe hyperbolique et si Out (I’) est infini, alors I se decompose en extension HNN ou en somme amalgamee non triviale au-dessus d’un groupe virtuellement cyclique G. Si G est fini, alors le bord de l? n’est pas connexe (via le theoreme de Stallings sur les bouts des groupes, voir [GH, p. 1341). Si G est infini, alors le bord de l? possede un point de coupure local (par exemple les points fixes d’un element d’ordre infini dans G c I’) (voir par exemple [Bow]). cl

4e SfiRlE - TOME 30 - 1997 - No 2

SUR LES AUTOMORPHISMES EXtiRIEURS 163

4. Points fixes dans l’espace de Culler-Vogtmann

Soit F, un groupe libre de rang n. L’espace de Culler-Vogtmann 0, est l’ensemble des actions simpliciales, libres et minimales de IF, sur des arbres reels, modulo isom&ries Cquivtiantes (voir [CVl, Sha2]). Out@=,) agit sur 0, de la man&e suivante : si cp est un automorphisme de F, et T E 0, un arbre avec une action . de F,, alors cpT est l’arbre reel T muni de l’action g H {z E T H cp(g) . z E T}. Notons que les automorphismes intCrieurs agissent trivialement, car induisent une isomCtrie Cquivariante de l’arbre.

Cette action permet d’apporter des informations sur la structure de Out@=,). M. Culler et K. Vogtmann [CVl] ont montre par exemple que 0, est un (3n - 3)-complexe cellulaire contractile, se r&ractant de man&e Cquivatiante sur un (2n - 3)-complexe cellulaire de quotient compact, ce qui implique en particulier que la dimension cohomologique virtuelle de Out(F,) est 2n - 3. 11 dCcoule des rappels (section 1) que l’application

est injective et que I’adhCrence 0, de 0, dans Bar est projectivement compacte. En fait, M. Bestvina et M. Feighn [BF2] ont montr& que 0, est pr&idment l’espace VSLF(F,) des fonctions distances de translation des actions t&s petites de F, sur les arbres reels. En restriction aux actions simpliciales, ceci est dfi & M. Cohen-M. Lustig [CL]. La technique d’iteration permet de donner une preuve t&s courte du thCor&me suivant, d9 B M. Bestvina-M. Handel, R. Skora, M. Lustig dans le cas infini cyclique.

THBORBME 4.1. - Tout sous-groupe moyennable de centre in&i de Out (IF,) admet un point $xe ohs P(0,). Tout sous-groupe nilpotent de Out (F,) admet un point jixe duns $(a&).

Preuve. - Le cas des groupes finis dCcoule de [Cul, Theo. 21. Sinon, nous appliquons le thCor&me 3.14 et la remarque de la section 3.4. Nous pow-ions alors invoquer le thCor&me de Bestvina-Feighn ci-dessus pour dire que l’action T obtenue, &ant t&s petite (remarque 3.4), est dans le bord de l’espace de Culler-Vogtmann.

Mais ceci peut se voir directement en reprenant la dCmonstration du thCor&me A (avec ses notations). Nous supposons que la partie gCnCratrice 5’ de I? = F” est libre. Done le graphe de Cayley XS est un arbre simplicial. L’action de F” par translation ?I gauche tordue par l’automorphisme l(li sur X; = +Xs est encore libre, minimale et simpliciale. Rappelons que T’ est limite de ces actions iour le filtre w (pour la topologie de Gromov tquivariante, done pour la topologie de IWr). Done T’ est dans 0,. 11 n’est pas difficile de montrer que tout (T’, S) avec S E D(T’), est encore limite des Ti oti l’on a modifiC les longueurs des a&es. Cl

5. SW la conjecture de Scott

M. Bestvina et M. Handel [BH] ont montrg la conjecture de Scott, 2 savoir que le rang du groupe des points fixes d’un automorphisme de groupe libre de rang n est inf&ieur ou Cgal B n. Le fait qu’une preuve de ce thCor2me puisse Ctre dtduit d’arguments de

ANNALES SCIENTIMQUES DE L’lkOLE NORMALE SUPl?RIEURE

164 F. PAULIN

convergence Cquivariante de Gromov est dQ a Z. Sela [Sel2]. La demonstration ci-dessous, bien stir inspiree de [Se12], Cvite tout recours aux m&odes de E. Rips et offre certains raccourcis et Cclaircissements sur la preuve de [Se12]. Elle decoule de conversations avec D. Gaboriau et G. Levitt dans les couloirs du Seminaire Bourbaki de Novembre 1992, de leurs travaux [GL], et de ceux avec M. Lustig [GLL].

THBORJ~ME 5.1. - (Bestvina-Handel) Le rang du groupe des points fixes d’un automorphisme de groupe libre de rang n est inferieur ou &al h n.

Preuve. - L’argument principal de la preuve est le suivant :

THBORBME 5.2. - (Levitt) Soit T un arbre reel muni d’une action minimale tres petite du groupe libre F,. Supposons qu ‘il existe un point x dans T tel que le rang de StabF, (x) soit n. Alors T est un arbre simplicial, isomorphe a l’arbre de Bass-Serre d’un bouquet de k cercles, avec stabilisateur de sommet F, et stabilisateurs d’arete Z.

Preuve. - Rappelons les resultats suivants de [GL]. Si z est un point d’un arbre reel T muni d’une action de F,, posons

i(X) = 2l-g StabF,(X) +211(X) - 2

oii wl(x) est le nombre (qui pourrait a priori &re infini) d’orbites sous Stab(x) de branches en x dont le stabilisateur est trivial. Notons (voir [GL], Prop. 111.1) que si x est un point de branchement, alors i(x) > 0.

THI?O&ME 5.3. - ([GL] Theorem 111.2) Si T est un arbre reel muni d’une action minimale tres petite du groupe libre F,, alors

C i(x) 5 2n - 2 XET/I-

avec egalite si et seulement si l’action est une action geome’trique (voir [GL]). Cl

PROPOSITION 5.4. - (E. Rips, [BF2] Remark 1.9, [GL] Proposition I.10) Soit T un arbre reel muni d’une action geometrique petite de F,. S’il existe une unique orbite de points de branchement, et si toutes les branches en un point de branchement ont un stabilisateur inJni cyclique, alors l’action de F, sur T est simpliciale. De plus, T est isometrique a 1 ‘arbre de Bass-Serre d’un bouquet de k cercles (de longueurs eventuellement dijf&entes de l), avec stabilisateur de sommet Fk pour k 1. n et stabilisateurs d’aretes { 1) ou Z.

Preuve. - Soit Tfi- une action gCom&ique de F,. Si l’action n’est pas simpliciale, les points de branchement doivent s’accumuler sur IC E TK, done (voir [GL] Proposition 1.10) sur un arc non trivial A issu de x. Soit g un generateur de Stabr#< (A) - { 1). Si hx est un point de branchement different de x suffisamment proche de x, alors hgh-’ fixe un voisinage de hx dans A (voir [GL] Proposition I.lO), done commute avec g. Puisque g, IL sont dam un groupe libre, avec g primitif (l’action est t&s petite), ceci implique que h est une puissance de g. Ceci contredit l’accumulation des points de branchement sur x dam E.

La demibre assertion est alors Claire, k L: n decoulant du theoreme 5.3. 0 Ceci termine la preuve du theoreme 5.2. cl

4’ SfiRIE - TOME 30 - 1997 - No 2

SUR LES AUTOMORPHISMES EXtiRIEURS 165

Preuve. - (de 5.1) Soit cp un automorphisme de F,. Si cp est d’ordre fini dam Out(F,), alors le resultat est connu (par un theoreme de Dyer-Scott, voir [Cul, Coro. 3.21). Sinon, considerons la paire (T, h = hV) obtenue par application du theoreme A au groupe H c Aut (F,) engendre par cp (voir le premier paragraphe de la section 3.3). D’apres la proposition 3.11, nous pouvons supposer que le sous-groupe des points fixes de cp est contenu dam le stabilisateur, preserve par cp, d’un point z de T. Si le rang T de ce stabilisateur est strictement inferieur a n, le resultat est obtenu par recurrence. Si T 2 n, alors le theoreme 5.3 montre que T = n, qu’il y a une unique orbite de points de branchement, et que tous les stabilisateurs des branches issues d’un point de branchement sont infini cycliques. La remarque et la proposition donnent done la situation suivante : T = TO est un arbre simplicial, munie d’une action simpliciale de F, et d’une isometric h telle que h(y) = cp(y)h(z). De plus Go = To/F, est un bouquet de Ica cercles, de sommet la projection de z, de stabilisateur de sommet Go libre de rang n et de stabilisateurs d’aretes Z. Notons que 1 5 ka 5 n, car l’action est non triviale, et le groupe fondamental d’un graphe de groupes se surjecte sur le groupe fondamental du graphe sous-jacent.

Iterons la construction (comme dam [Se12]), en supposant par l’absurde que le rang de Fix(q) est au moins n + 1. Ainsi Ga (qui est preserve par cp et contient Fix(p)) est de la meme man&e le groupe fondamental d’un graphe de groupes, de graphe un bouquet de ICI cercles, de stabilisateur de sommet Gi libre de rang n et avec stabilisateurs d’aretes Z. Montrons que les images dans Go des genne’rateurs des groupes d’ar&es de & sont en fait contenues dans G1. Ceci montrera que F, s’ecrit comme groupe fondamental de graphe de groupe, de graphe un bouquet de ka + k1 cercles. Ceci donnera une contradiction, en it&ant n + 1 fois.

Soit A une a&e de To d’origine 2. Notons g un generateur du groupe cyclique Fixr, (A). L’isometrie h, fixant z, induit une permutation des germes d’aretes au sommet de Go. Done il existe p E fhl - (0) et y E Go tels que hp(A) = yA. Done FixF,(hP(A)) = yPiXF,(A)y-I. Par le lemme 3.13, il vient ($(g) = ygy-l. La classe de conjugaison de g dans Ga est done periodique sous ‘pIGo.

Notons Ti, Tl les arbres obtenus dans la preuve du tbeoreme A pour I = Go, H C Aut(Ga) le sous-groupe engendre par (PIG,,, et $J~ de la forme (pl&,)n’, avec ni une sous-suite de la suite des periodes de la classe de conjugaison de g. (Ceci est possible, par finitude du nombre de germes d’aretes au sommet de Go.) Par la deuxieme assertion de la remarque 3.6, nous en deduisons done que g est elliptique dans Ti. I1 en est de m$me dans l’arbre Tl d’apres la remarque 3.2. Comme il y a unicite de l’orbite des sommets, cela termine la preuve. Cl

COROLLAIRE 5.5. - Si cp est un automorphisme du groupe libre de rang n, dont le rang du sous-groupe des points &es est n, alors il existe une decomposition de F, en groupe fondamental de graphe de groupes, de graphe le bouquet de k < n cercles, de stabilisateur de sommet libre de rang n et de stabilisateurs d’ar2tes Z, la restriction de cp au stabilisateur de sommet &ant l’identite, les classes de conjugaison des groupes d’ar&es &ant&&es.

Preuve. - J. Dyer et G. Scott (voir par exemple [Cul, Coro. 3.21) ont montre qu’un automorphisme du groupe libre de rang n, dont le rang du sous-groupe des points fixes est

ANNALES SCIENTIFIQLJES DE L’6COLE NORMALE SUPl?RIEURE

166 F. PAULIN

n, et qui est d’ordre fini dans le groupe des automorphismes ext&ieurs, est l’identitk Le ksultat dkcoule alors de la nkurrence ci-dessus. ci

Added in proof. - Dans [BFH], il est dCmontrk qu’un sous-groupe de Out(F,) ne contenant pas de groupe libre de rang deux est virtuellement abelien.

BIBLICMXAPHIE

[AB] R. ALPERIN et H. BASS, Length junctions of group actions on A-trees, (Combinatorial group theory and topology, S. Gersten, J. Stallings eds, Princeton Univ. Press 1987, p. 265-378).

[Bau] G. BAUMSLAG, Lecture notes on nilpotent groups, (CBMS Reg. Conf Ser. Math., vol. 2, Amer. Math. Sot. 1971).

[Bes] M. BESTVINA, Degenerations ofthe hyperbolic spnce, (Duke Math. J., vol. 56, 1988, p. 143-161. [BFl] M. BESTVINA et M. FEIGHN, Stable actions ofgroups on real trees, (Inv. Math, vol. 121, 1995, p. 287-321). [BF2] M. BESTVINA et M. FEIGHN, Outer limits, prepublication, Oct. 1992. [BFHI M. BESTVINA, M. FEIGHN et M. HANDEL, The Tits alternative for Out(F,) I: Dynamics of exponentially

growing automorphisms, II: A Kolchin type theorem, III: Solvable subgroups, Prepublications Univ. Utah, 1996.

[BH] M. BE~TVINA et M. HANDEL, Train tracks and automorphisms offree groups, (Ann. Math., vol. 135, 1992, p. 1-51).

[BLM] J. BIRMAN, A. LUBOTZKY et J. MCCARTHY, Abelian and solvable subgroups of the mapping class group, (Duke Math. J., vol. 50, 1983, p. 1107-I 120).

[Bou] N. BOURBAKI, Topologie generale, chap. 1 a 4, Hermann, Paris, 1971. [Bow] B. BOWDITCH, Group actions on trees and dendrons, Prtpublication Univ. Southampton, Nov. 1995. [Bra] T. BRADLY, The integral cohomology of Out+ (Fs), a paraitre dans J. Pure App. Alg. [Cha] C. CHAMPETIER, Proprier& statistiques des groupes de presentation fini, (Adv. Math., vol. 116, 1995,

p. 197-262). [CL] M. COHEN et M. LUSTIG, Very small group actions on R-trees and Dehn twist automorphisms, (Topology,

vol. 34, 1995, p. 575-617). [CM] M. CULLER et J. MORGAN, Groups actions on R-trees, (Proc. Lond. Math. Sot, vol. 55, 1987, p. 571604). [CVl] M. CULLER et K. VOGTMANN, Moduli of graphs and automorphisms of free groups, (Invent. Math., vol. 84,

1986, p. 91-l 19). [CV2] M. CULLER et K. VOGTMANN, The boundary of Outer Space in rank 2, (Arboreal group theory, R. Alperin

ed., pp 189-230, Pub. M.S.R.I. Vol. 19, Springer Verlag 1991). [Cull M. CULLER, Finite groups of outer automorphisms of a free group, (Contributions to group theory, K. Appel,

J. Ratcliffe, P. Schupp, eds, pp 197-207, Contemp. Math. Amer. Math. Sot). [DW] L. VAN DEN DRIES et A. WILKIE, On Gromov’s theorem concerning groups of polynomial growth and

elementary logic, (J. Alg., vol. 89, 1984, p. 349-374). [FLP] A. FATHI, F. LAUDENBACH et V. POENARU, Travaux de Thurston sur les surfaces, (Aste’risque, vol. 66-67,

Sot. Math. France, 1979). [GH] E. GHYS et P. DE LA HARPE, Sur les groupes hyperboliques d’apres Mikhael Gromov (Prog. in Math.,

vol. 83, Birkhluser 1990). [Ghy] E. GHYS, Les groupes hyperboliques, (Seminaire Bourbaki, ~01.722, Asterisque, Sot. Math. France, 1991). [GL] D. GABORIAU et G. LEVITT, The rank of actions on R-trees, (Ann. Scien. EC. Norm. Sup. (4) vol. 28, 1995,

p. 549-570). [GLL] D. GABORIAU, G. LEVITT et M. LUSTIG, A dendrological proof of the Scott conjecture for automotphisms of

free groups, prepublication Toulouse, Mars 1993. [Gre] F.P. GREENLEAF, Invariant means on topological groups, (tin Nostrand Math. Stud., vol. 16, Van Nostrand

1969). [Grol] M. GROMOV, Groups of polynomial growth and expanding maps, (Pub. I.H.E.S., vol. 53, 1981, p. 53-78). [Gro2] M. GROMOV, Hyperbolic groups, (Essays in group theory, S. Gersten ed., pp. 75-263, MSRI Pub., vol. 8,

Springer Verlag 1987).

4= S,?RIE - TOME 30 - 1997 - No 2

SUR LES AUTOMORPHISMES EX’l%RIEURS 167

[Gro3] M. GROMOV, Asymptotics invariants of injinite groups, (Vol. 2 de Geometric group theory, A. Niblo, M. Roller eds, LMS LNS, vol. 182, Cambridge Univ. Press, 1993).

[GSI H. GILLET et P. SHALEN, Dendrology of groups in low Q-ranks, (J. Dt$ Geom., vol. 32, 1990, p. 605-712). [Iv4 N. IVANOV, Subgroups of Teichmiiller modular groups, (Transl. Math. Mono., vol. 115, Amer. Math. Sot.

1992). WI M. KAPOVICH et B. LEEB, On asymptotic cones and quasi-isometry classes of fundamental groups of

S-manifolds, (GAFA, vol. 5, 1995, p. 582-603). [Lev] G. LEVITT, Feuilletages des surfaces, These d’Etat, Univ. Orsay, 1983. ]Lio] I. LIOUSSE, Feuilletages afines de surfaces et actions af/Ines sur les arbres reels, These, Toulouse (Fev.

1994). [Lusl] M. LUSTIG, Habilitationsschrif, Bochum, 1992. [LUST] M. LUSTIG, Automorphisms, train tracks, and non-simplicial R-tree actions, Prepublication Bochum, 1993. [Mor] J. MORGAN, A-trees and their applications, (Bull. Amer. Math. Sot., vol. 26, 1992, p. 87-112). [MS] J. MORGAN et P. SHALEN, Free actions of surface groups on R-trees, (Topology, vol. 30, 1991, p. 143-154). [Olsl A.Yu. OL’SHANSKII, Almost every group is hyperbolic, (Int. J. Alg. Comp., vol. 2, 1992, p. l-17). [Paul] F. PAULIN, The Gromov topology on W-trees, (Topology and its App., vol. 32, 1989, p. 197-221). [Pau2] F. PAULIN, Topologie de Gromov Pquivariante, structures hyperboliques et arbres reels, (Invent. Math.,

vol. 94, 1988, p. 53-80). [Pau3] F. PAULIN, Outer automorphisms of hyperbolic groups and small actions on R-trees, (Arboreal group theory,

R. Alperin ed., pp 331-343, Pub. M.S.R.I., vol. 19, Springer Verlag, 1991). [Pau4] F. PAULIN, Points fixes des automorphismes de groupe hyperbolique (Ann. Inst. Fourier, vol. 39, 1989,

p. 65 I-662). [PauS] F. PAULIN, De la geometric et la dynamique des groupes discrets, (Memoire d’Habilitation, ENS Lyon,

Juin 1995). [RSl] E. RIPS et Z. SELA, Structure and rigidity in hyperbolic groups I, (Geom. and Func. Ana., vol. 4, 1994,

p. 337-371). [RS2] E. RIPS et Z. SELA, Cyclic splittings of finitely presented groups and the canonical JSJ decomposition,

Prepublication Columbia, Avril 1995. [Se] I] Z. SELA, Structure and rigidity in (Gromov) hyperbolic groups and discrete groups in rank I Lie groups II,

Prepublication Princeton, 1993. [Se121 Z. SELA, On the Nielsen-Thurston classification and automorphisms of free groups I, II, a paraitre dans

Duke Math. J. [Shall P. SHALEN, Dendrology of groups : an introduction, (Essays in group theory (S.M. Gersten ed.), M.S.R.1

Pub., vol. 8, Springer Verlag, 1987). ]Sha2] P. SHALEN, Dendrology and its applications, (Group theory from a geometrical viewpoint (E. GHYS,

A. HAEFLIGER et A. VERIOVSKY eds.), World Scientific, 1991). [Skol] R. SKORA, Splittings of surfaces, (Jour. Amer. Math. Sot., vol. 9, 1996, p. 605-616). [Sko2] R. SKORA, Deformations of length functions, prepublication, 1989. [Thu] W. THURSTON, On the geometry and dynamics of diffeomorphisms of s&aces, (Bull. Amer. Math. Sot.,

vol. 19, 1988, p. 417-432). [Vog] K. VOGTMANN, End invariants of the group of outer automorphisms of a free group, (Topology, vol. 34,

1995, p. 533-545).

(Manuscrit recu le 9 janvier 1996.)

F. PAULIN

Unite de Mathematiques Pures et Appliquees, UMR 128 C.N.R.S.,

Ecole Normale Sup&ieure de Lyon, 46, allee d’Italie,

69364 Lyon Cedex 07, France paulin@umpa.ens-lyonfr

ANNALES SCIENTIFIQUES DE L’I?COLE NORMALE SUPGRIEURE