Embed Size (px)
Citation preview
Math. Ann. 306, 323-340 (1996) Nallmullu
�9 Springer-Ver|ag 1996
Stabilit6 isop6rim6trique
Gilles Carron UMPA, ENS Lyon, 46 All6e d'Italie, F-69364 Lyon Cedex 07, France (e-mail: [email protected], fr)
Re~u le 25 f6vrier 1995/Version r6vls6e revue le 28 septembre 1995
Mathematics Subject Classification (1991).'58C07, 47A60, 47J22
Introduction
a L'inkqalitO de Bonnesen
Rappelons l'in6galit6 isop6rim6trique dans le plan, si cg est une courbe plane C 1 de longueur L, bordant un domaine d'aire A, nous avons
L 2 - 4teA > O.
On aimerait savoir en quoi le d&aut isop6rim~trique L z - 4zA contr61e la g6om6trie de cg, c'est l 'objet de l'in~galit6 de Bonnesen:
0.1. Th6or~me. Si ~g est une courbe jermbe simple C 1 par morceaux de lon queur L, bordant un domaine d'aire A, alors il existe un anneau circu- laire d'kpaisseur d contenant cg avec
d 2 <= I ( L 2 - 4 1 t A ) .
Cette in6galit6 a 6t6 d6montr6e par T. Bonnesen ([1]) dans le cas d'une courbe convexe et le cas g6n6ral est du/ t B. Fuglede ([7]).
Remarque. On peut reformuler ce r6sultat ainsi: il existe un cercle cg0 tel que
16~d~(~,~0) ~ L 2 - 4hA ,
o~ d~ repr6sente la distance de Hausdorff entre deux compacts d'un espace m6trique (ici R2).
324 G. Carton
Fig. 1.
i #' t
C i
G
c
On aimerait g6n&aliser un tel r6sultat; en dimension sup6rieure, on a aussi une in6galit6 isop6rim&rique: tout domaine r+gulier D de R n+l v6rifie l'in6galit6
= (voln(OD))~
vol.+l D
n+l ( n + l ) , (co,+1), > 0 ,
l'6galit6 ayant lieu si et seulement si D est une boule euclidienne, o/l on a not6 COn+l le volume de la boule unit6 B n+! dans R "+1.
Cependant en dimension sup&ieure ou 6gale a trois, il est impossible de minorer le d&aut isop&im&rique 6(D) ~ l 'aide de la distance de Hausdorff entre 0D et une sph6re euclidienne, en effet on peut trouver des suites de domaines {Dk}keN, tels que les volumes de Dk et de 0Dk tendent respectivement vers ceux de B "+1 et de S ~ quand k tend vers l'infini et tels que la distance de Hausdorff de 0D~ /t toute sph6re tende vers l'infini.
Fig. 2.
Remarque. Signalons que R. Osserman ([11]) a obtenu une majoration du rapport entre les rayons exinscrit et inscrit d'un domaine convexe de R n+l en fonction du d6faut isop6rim&rique 6, voir aussi un r6sultat similaire de B. Fuglede ([6]).
Cependant, B. Fuglede obtient un r6sultat de stabilit6 pour des domaines presque-sph&iques, i.e. qui sont proches, au sens C 1, d'une boule.
Stabilit6 isop6rim6trique 325
b L'in~galitO de Fuytede
Pour v -- ~o.+l volume de la boule unite Do de R "+l, un voisinage de Do, dans l'ensemble, go, des domaines C l de volume v e t de barycentre l'origine, est donn6 par l'intersection avec go de l 'ensemble des domaines dont le bord est (en coordonn6es polaires) un graphe au-dessus de la sphere ODo, ce sont les domaines D., ot~ u est une fonction C t sur c3D0, avec
aDu = {x(l + u(x)), x e ODo}.
Fig. 3.
. ----i" . . . . .
/' \ ( / x,,
~l t e
On d6finit alors une distance H 1 par d:_tl(Du, Dv)= Ilu--vIIH1<ODo>, o4 2 Ilullm(0oo) = f, VDo[ldul(O) 2+ u(0) 2] dO est la norme de l 'espace de Sobolev
H 1(aDo).
0.2. Th6or~me [6]. 1l existe un Cl-voisinage V de Do clans gv et une constante strictement positive C tels que tout domaine D de V vkrifie d ~ ( D , Do) 2 < C(voln(~D) - voln(0D0)).
Fuglede obtient aussi une majoration de la distance de Hausdorff.
0.2 t. Th6or~me. De plus, lorsque n + 1 > 4, il existe une constante strictement positive C I telle que tout domaine D de V vkrifie
2
d~,(D, Do) < C'(vol 0/9 - vol ODo) ~;7~ �9
Et lorsque n + 1 = 3, il existe une autre constante strictement positive C", telle que tout domaine D de V v&ifie
dH(D, Do) < C"v/ (vo l 0/9 - vol 0/90) ILog(vol OD - vol ~Do)[ .
Remarque. C, C t, C" et V sont explicit6s dans l'article de Fuglede. La m6thode employ6e utilise la d6composition L 2 de u en hannoniques
sph6riques (ce qui g6n6ralise les s6ries de Fourier sur S n) et des estim6es de voln(~Du), voln+l(Du) et du barycentre de Du.
326 G. Ca~on
e PrOsentation du thOorkme principal
On se propose de g6n6raliser ce r6sultat aux vari6t6s riemanniennes. Soit
( ~ + l , ~7)une vari&6 riemannienne de dimension n + 1, compl&e, orient6e (ca fait cette demi~re hypoth~se n'est pas n6cessaire).
Une in6galit6 isop6rim&rique sur (M,~) est une minoration du profil isop6rim6trique
Is(v) = inf{vol 8D; v o l D = v},
c 'es t / t dire que si nous notons g~ l'ensemble des domaines compacts de bord C l e t de volume v fix6, Is(v) est le minimum sur g~ de la fonctionnelle D ~ voln(dD). Si un domaine Do, de volume v, r6alise ce minimum, il sera dit un point critique pour cette fonctionnelle: pour toute variation Dt de Do de classe C 2, on a classe C2, on a
d voln(dDt)lt= 0 =- 0
(i.e. t3Do est/l courbure moyenne constante). De plus il v&ifiera une condition du second ordre, il sera stable: toute variation v6rifie
d 2 (eD) l > 0 ~--~voln t t=o = "
Remarquons cependant qu'un domaine v&ifiant ces deux conditions n'est pas forc6ment un minimum, m~me local, de la fonctionnelle. N+anmoins, certaines variations donnent trivialement des d6riv6es secondes nulles: celles s'obtenant par Faction sur ODo d'un groupe fi un param&re d'isom&ries d'un voisinage de
OD0 dans (~n+l ,~) . C'est pourquoi nous introduisons la notion de domaines g6om&riquement stables:
D6finition. Un domaine critique sera dit "gkom~triquement stable" si
d 2 voln(ODt)lt= o . -, > 0 dt--- 5
pour un ensemble de variations transverse aux variations triviales cities ci- dessus
Le bord OD de tout domaine D E gv qui appartient ~t un CI-voisinage V de Do peut s'6crire (en coordonn6es normales fi ODo) comme un graphe au- dessus de dDo. On peut donc comme en 0.b d6finir une distance H 1 sur V e t une distance d~/t (DI , D2 ) = inf,, j ~ Isom(~) dnt (IDh JD2 ) sur un voisinage de
la classe de Do dans gv/Isom(M), on a alors le:
0.3. Th~or~me principal. Si Do est un point critique 9kom~triquement stable, il existe un voisinage V de Do dans $~ (pour la topologie C i ) et une constante
Stabilit6 isop6rim6trique 327
strictement positive C tels que tout domaine D de V vOrifie
d~l(D, Do) 2 < C(vol,(OD) - vol,(SD0)).
Et en cons6quence, nous obtiendrons un contrble de la distance de Hausdorff modulo-isom&ries entre Do et les domaines voisins de m~me volume:
0.4. Corollaire. De plus, pour tout p > n, il existe une constante strictement positive Cp tel que tout domaine D de V vkrifie
l inf _ dH(ID, JDo ) <= C(vol ,( OD ) - vol~(SDo))~; .
L J E Isom(M)
Ceci g6n6ralise le r6sultat sus-cit6 de Fuglede. Ainsi, un domaine g6om6- triquement stable r6alise localement le minimum de la fonctionnelle isop6rim6trique et mieux v6rifie une propri6t6 de stabilit6 "~ la Bonnesen- Fuglede"; c'est h dire que localement, on peut majorer un 6cart entre la g6om6trie de D et celle de Do seulement en fonction du volume de leurs bords.
Dans une premibre partie, nous pr6senterons le cadre exact du th6or~me, nous donnerons ensuite des r6sultats de stabilit6 isop6rim&rique, on &endra notamment le r6sultat de Fuglede aux boules g6od6siques des espaces formes et de l 'espace hyperbolique complexe. La preuve de ce th6or~me se fait en deux temps, d'abord nous param&rons convenablement g,/Isom(M,~7), puis une proposition assez g6n6rale nous donnera la continuit6 de l'op6rateur varia- tion seconde de l'aire pour ce param&rage et pour de bonnes topologies, nous pourrons alors montrer le th6or~me.
Notons que la proposition c16 (3.2) nous a permis dans [4] d'6noncer un principe g~n6ral de stabilit6 et d'en donner d'autres applications.
Je tiens h remercier le r6f6r6 pour m'avoir sugg6r6 judicieusement l'&ude de la stabilit6 isop6rim6trique des domaines 6tudi6s dans [2].
1 Pr6sentation du cadre
~ n + l _. Soit ~ , y) une vari6t6 riemannienne complete orient6e de dimension n + 1. On note 8 l 'ensemble des domaines compacts de classe C 1 de M et gv le sous- ensemble de g form6s des domaines de volume v. Dans toute la suite Do est un domaine lisse de M, de volume v, on notera M son bord et f': M ---* TM le champ normal unitaire.
~t Coordonn~es normates
Nous param&rons un voisinage de M dans M par M • e,~[. En effet, pour ~: assez petit, l'application d6finie par
,/5 : M • --+ M
(x, s) ~-~ eXpx(SY(X)) ,
328 G. Carron
est un diff6omorphisme sur son image. Nous pouvons alors identifier M• e[ et son image par ~. L'expression de la m6trique ~ est ~*~ = gs @ ds 2, c'est ~t dire que, s i v E TxM et si t E R, alors nous avons
~(x,.~)((v, t),(v, t)) = gs(v, v) + fl ;
off g~, est la m6trique riemannienne de ~(M • {s}) ramen6e par ~b sur M, Les domaines Cl-voisins de Do sont alors des domaines dont le bord est
un graphe au-dessus de M = 0D0. Un Cl-voisinage de Do est done {D., u E Cl (M,] -e ,e [ )} , oft D~ est le domaine dont le bord est le graphe de u dans les coordonn6es M • ~[, Le bord de D~ est done param&r6 par:
x ~ ~ ( x , u ( x ) ) ~- ( x , u ( x ) )
b Lesjbnctions d'aire et de volume
Darts ce voisinage, nous avons une formule explicite pour les fonctions d'aire et de volume; la mesure du bord d'un domaine D,, est:
vol(~D,,) = d ( u ) = f r 1 + gu(x)(du, du) a(x, u(x))dv.q o , M
et le volume de D. est donn6 par la formule:
[7' ] vol(Du) = voID0 + f a(x, s)ds dvao = volDo + Of(u) M
off on a nots g.~ la m&rique duale de gs, dvgo la forme volume induite sur M par ~ et a(x,s)dvgods la forme volume de ( M , j ) dans les coordonn~es M• on a done a(x,s) 2 = detgo(x)gs(x ).
1.1. Lemme. Les jbnctions d et • sont Coo sur Cl(M,]-e ,~[) .
Ce lemme nous permet de faire du calcul variationnel.
Preuve. En effet, d~finissons
: J ) ( M ) -~ M • R
(t, ~) E R • TriM ~ (x, X/1 + g~(~,~)a(x,t)),
off J I ( M ) ~ - R • est le fibr+ des l-jets sur M e t J~(M)~_]-e ,e[ • T*M est un voisinage du 1-jet nul. A est une application Coo. Si f : CI(M, R) ~ C~ est l'applieation naturelle qui ~t une fonction u associe son 1-jet ja(u) E C~ alors u ~ A(j l(u)) est un op6rateur diffbrentiei d'ordre 1, et d'aprbs [12], l'applieation d6finie sur Cl(M,]-s ,e[) par ~ ' ( u ) = fgA(jl(u))dvgo est C ~176
Stabilit6 isop6rim&fique 329
De m~me, en consid6rant
V : M x ]-e,*:[ ~ M • R
(x , t ) ~-, x, a (x , s )ds ,
qui est C ~176 la fonctionnelle ~ d6finie par ~ ( u ) = f m V(x, u(x))dvg o est bien Coo sur C~ ] - e , e[). []
Suivant [2], les d6riv6es premibres et secondes de d et ~ en 0 ont les expressions suivantes:
1.2. Lemme.
d'(0)(u) = f k u dvoo, M
off k = trgoL est ta courbure moyenne de M relativement gt Y..
W'(0)(u) = f u dv~o . M
d" (O) (u , u) = f ldu[ 2 + (k 2 - IILII 2 - ~ ( ~ , ~ ) ) ~ 1 2 d V g o ,
M
oh tic est le tenseur de courbure de Ricci de (M, j) .
~U"(O)(u, u) = f k u2dvgo . M
c Etude des domames voisins
L'ensemble des domaines voisins de Do et de m~me volume que Do est param6tr6 par l 'ensemble 2; des fonctions qui annulent "U, i.e. 27 = {u c CI (M, ] -~ , ~:[), r = 0}. Nous allons montrer que, au voisinage de la fonc- tion nulle, 27 est une sous-vari6t6 de CI(M, ] - e, e[) model6e sur son espace tan- gent en z6ro, i.e. l 'espace des fonctions de dvgo-int6grale nulle, not6 C~(M,R).
1.3. Lemme. La Jonction dkfinie par:
G : Cl(M,]-*: ,e[ ) ~ Col(M, ]-*: ,e[) x R
( 1 mf ) U ~-~ u vo /M u dvoo, U ( u ) ,
est un difJ~omorphisme local en O.
Preuve. Comme G est Coo, d'apr~s le th6or~me d'inversion locale, il suffit de calculer sa diff6rentielle en 0 et v6rifier qu'elle est bijective: on a
( ' D o G ( w ) = w , ~ j a # f w d v g o , f w d v o o , v v , ~v. M M . ]
qui est bien inversible. []
330 G. Ca~on
Ainsi, le diffromorphisme rrciproque F de G nous foumit un param~trage local de S:
C~(M,]-~,e[) --* Z
u ~ F(u, O) .
I1 est alors clair, grftce au lemme (1.2), que Do est un point critique de la fonctionnelle d'aire ~ ' sur ~ (c'est ~ dire que 0 est un point critique de la restriction ~r de ~r g 22) si et seulement si la courbure moyenne k de M est une fonction constante. Nous supposons que c'est drsormais le cas, Maintenant nous nous intrressons /l la condition de stabilit~ infinit~simale de Do. Puisque 0 est un point critique de a/ lz , la variation seconde (~r est bien drfinie et selon [2], elle a l'expression suivante
1.4. Lemme. Si w E C01(M,R) = To22 alors
r162 = f(Idwl 2 - ( l l t l l ~ + Wcc(~, ~'))w2)dvo0 M
d Action des isom~tries et stabilit~ 9domOtrique
La condition de stabilit6 infinitrsimale est donc que la forme quadratique ( ~ l s ) " ( 0 ) soit positive ou nulle. Le noyau de cette forme quadratique est
celui de l'oprrateur elliptique L2-autoadjoint A - (IILII 2 + ~ ( r v-)) agissant sur les fonctions d'intrgrales nulles, il est donc de dimension finie. On a not6 A le Laplacien associ~ /l la mrtrique 90 sur M. Les isometries de M laissent invariants ~e" et sO, elles induisent donc infinit~simalement des 61+ments de ce noyau. Selon [2], si I est un champ de Killing sur (M, 0), il induit 1'61~ment .fl suivant de Ker(dlz.)"(O):
1.5. Lemme. f l (x ) = ~(I(x ), ~'(x ) )
Le fait pour Do d'etre grom&riquement stable se traduit de la fagon suivante pour la fonction nulle par rapport ~ l'oprrateur ~r
1.6. Drfinition. On dira que 0 est un point critique gOomOtriquement stable si 0 est un point critique de d [ z et si l'opdrateur variation seconde de l'aire
( s / Iz )" (0) est posi t i f ou nul avec un espace de nullit~ provenant d'isombtries
infinitOsimales de (M, ~). Une condition suffisante pour cela est ta suivante:
1.7. Condition suffisante. Notons oY- l'espace vectoriel des champs de Killing sur M, la condition pr~crdente est 6quivalente au fait que l'application:
~ff --, Ker(sglz)"(0 )
~r ~ (x ~ ~(I(x), ~'(x)))
soit surjective, ou encore qu'il existe un sous-espace vectoriel off de ~ff tel que la restriction de i'application prrc~dente ~t o~ soit bijective. Si GM est le sous-groupe de Isom(M, 0) constitu6 des isom&ries laissant M globalement invariant, un tel ~ est forcrment un suppl~mentaire dans ~ de l'espace des
Stabilit6 isop6rim6trique 331
champs de Killing tangents ~t GM. Donc l'espace de nullit6 provient d'isom&ries infinit6simales de l 'espace ambiant (M,~) si et seulement si:
dim(Ker(aClz)"(0)) = dim Isom(M, .0) - dim GM.
1.8. Notation. Pour une isom6trie z de M et une fonction C 1 sur M u, on note ~.u, lorsqu'elle est d6finie, la fonction C 1 sur M telle que t(D~) = D,. , .
e Th~or~me
En termes d'analyse fonctJonnelle, le th6or~me de stabilit6 0.3 est donc le suivant:
1.9. Th6or~me. Si 0 est un point critique de aglz, yOom~triquement stable, ators il existe un voisinaye U de 0 clans ~, une sous-vari~tk V de U et une sous-variktb W de Isom(M, ~) tels que
V x W - - + U
( u , O ~ z .u
soit un difjOomorphisme et i! existe une constante strictement positive C telle que
Vu ~ v, Cllull~, _-_ a t (u) - a t ( 0 ) .
En cons6quence, nous pouvons ~noncer le corollaire suivant:
1.10. Corollaire. Avec les mdmes hypothkses et notations qu'au thkorkme precedent, pour tout p > dim 0D0, il existe une constante strictement positive Cp telle que
Vu ~ v, GllullLoo _-< ( a r ~r vp ;
autrement dit tout domaine D~, Cl-voisin de Do, vkrifie
C e inf dr4 (I(Du),J(Do)) < (vol c~D - vol ODo) I/; . /, J E I s o m ( ~ r ,~)
Preuve. C'est une simple consequence de l'inclusion de Sobolev Lt p --+ L ~ , pour p > dim 819o. Ceci implique qu'il y a une constante C(ODo) telle que
Ilull~'oo < c f [Idu[(O) p + [u(O)l p] dO, Vu ~ C'(OD0), ODo
mais, quitte fi r~duire le voisinage V, on peut le supposer bom~ dans Cl(8Do), il existe alors une constante A telle que tout u de V v6rifie IldullL~ < A, ]]ullLoo < A; ainsi un tel u v&ifie, d'apr~s le th6or~me pr6cedent
Ilu[ILPoo < C f [Idul(O) p + lu(O)l p] dO ODo
< CA p-2 f [Idul(O) z + u(O) z] dO OD o
< c ' ( s C ( u ) - ~r
332 G. Ca~on
1.11. Rernarques. i) En fait, on a un contrble de u en norme C a, pour tout
< 1, ceci ~ cause de l'inclusion de L p ~ C ~, pour 1 dim 0Do > cc P
ii) Ce th6or~me est encore valable lorsque dD0 ne borde pas un domaine, il suffit de supposer que M est une hypersurface ~t courbure moyenne constante, et de consid&er les hypersurfaces voisines de M telles que le volume alg6brique d61imit6 par M e t cette hypersurface voisine soit nul.
2 Exemples
a Les espaces formes
Soit Mn+l(c) une vari&6 riemannienne complete, simplement connexe, courbure sectionnelle constante ~gale ~t c E {-1 ,0 , 1}. Selon [2] et [5], les sph&es g6od6siques sont les uniques hypersurfaces compactes ~ courbures moyennes constantes stables; et mieux comme dans le cas euclidien, les boules g6od~siques sont les domaines qui r6alisent l'in6galit~ isop&im&rique, i.e. si D
est un domaine r6gulier de-Mn+I(c) alors vol(~D) > vol(~D*), o~ D* est une boule g6od6sique de m6me volume que D (voir [3] par exemple). Montrons que les sph&es g6od6siques sont aussi g6om&riquement stables. Une sph&e g6od6sique de rayon p, Sp, est isom&rique ~ une sph$re euclidienne de rayon R, off
sinhp s i c = - l , R = p s i c = 0 ,
sin p s i c = 1 .
Et l'espace de nullit6 de l'op6rateur variation seconde de l'aire est l'espace propre associ6 ~t la premiere valeur propre non nulle du Laplacien de Sp, il est donc de dimension n + 1 (cf. [8]). De plus, si G est le groupe d'isom6tries de
M~+l(c), alors l'espace homogSne G/Gsp est exactement Mn+l(c), la condition 1.7 est donc bien v6rifi6e, et nous pouvons 6noncer le th6or~me suivant qui 6tend le r6sultat de Fuglede:
2.1. Proposition. Si Do est une boule g~od~sique de -H~+l (c), alors il existe un C l voisinage V de Do, clans l'ensemble des domaines C l de m~me volume que Do, et une constante strietement positive C tels que tout domaine D de V vkr(fie
inf d#l(I(Do),D) 2 =< C(vol(OD) - vol(dD0)),
off l'infimum est pris sur les isom~tries I de "Mn+l(c).
b Les espaees projeetifs
Dans [2], les auteurs montrent des r6sultats de stabilit4 pour certains voisi- nages tubulaires de sous-espaces projectifs, en fait ees domaines sont aussi g6om6triquement stables:
Stabilit6 isop~rim~Irique 333
Soit P r - l ( K ) ---- Kr/K * l'espace projectif sur le corps K qui est munit de la l~&rique de diam6tre ~/2 et de eourbure comprise entre 1 et 4, off K est l'un des trois corps R, C ou ~f. Soit 1 __< q < r, on note Up(Pq-1(K)) le voisinage tubulaire de rayon p autour du sous-espace totalement g6od6sique P q-I(K) de P~-I(K) et on pose Tp(q) = #Ut,(pq-I(K)), par exemple T~,(1) est une sphbre g6odbsique de rayon p. Pour des raisons d'orientabilit6, on suppose r pair dans le eas reel. Alors, si d -- dimR K, le th6or~me 1.3. de [2] est le suivant
2.2. Th6or6me. Lorsque q r [2, r - 2], alors T;(q) est stable si et seulement si
( r - q ) d - 1 < (tanp) 2 < ( r - q ) d + l qd + 1 q d - 1
et lorsque q = 1 ou q = r - 1 aIors Tp(q) est stable si et seulement si
(tanp)2 < ( r - 1 ) d + l = d - 1
En fait la preuve de [2] fournit aussi la stabilit6 g6om&rique:
2.2 r. Propostion. Dans les conditions du th4orkme pr4c4dent, Tp(q) est g4om4- triquement stable.
Preuve. L'&ude faite en [2] montre que l'espace de nullit6 de l'op6rateur vari- ation seconde de l'aire est de dimension dr(r - q). De plus, si G est le groupe d'isom&rie de P~- l (K) et si K est le stabilisateur de Pq- t (K) qui est aussi eelui de T~,(q), alors l'espace homogbne G/K est la grassmanienne des K-sous- espaces vectoriels de dimension q de K r, e'est ~ dire l'espace des sous-espaces pmjeetifs, de dimension (q - 1), de Pr - l (K) ; G/K est de dimension dr(r - q), la condition 1.7 est done v6rifi6e, Tp(q) est done g6om6triquement stable, on peut lui appliquer le th6orbme 0.3.
e L'eapace hyperbolique complexe
Toujours dans [2] les auteurs montrent un r6sultat de stabilite pour les spheres g6od~siques S t, de l'espace hyperbolique complexe ~,~(C). En fait, 1'6tude faite pour prouver la stabilit~ montre que l'espace de nullit~ de l'op~rateur vari- ation seconde de l'aire pour Sp est de dimension 2n; mais le groupe d'isom6trie de ~ " ( C ) est PU(n, 1 ) qui est de dimension n(n + 2), et le stabilisateur de Sp est P(U(n) x S 1 ) qui est de dimension n z, la condition 1.7. est done satisfaite, nous pouvons done 6noncer
2.3. Proposition. Les boules ,q(odksiques de l'eapace hyperbolique complexe sont ,qOom~triquement stables.
Remarque. Notons que l'on ignore si les exemples trait~s dans ces deux para- graphes r6alisent l'in6galit6 isop6rim~trique. Cependant nos r6sultats montrent qu'ils r6alisent localement le minimum de la fonetionnelle isop6rim~trique.
334 G. Carron
d Cas des hypersurfaces totalement ombilicales
Soit (M', g) une hypersurface h courbure moyenne constante, totalement ombil-
icale de (~,,+1, g) (i.e. ayant toutes ses courbures principales ~gales). Si nous supposons que ric(~, 9*) est constant le long de M, alors l'op6rateur variation seconde de l'aire en M est l'op6rateur A + V, off V e s t une fonction con- stante sur M; exprimons cette constante d'une autre fagon: soit ~ la courbure sectionnelle de (M,~), on a, d'apr~s la formule de Gauss (cf. [14]),
ric(X,X) = ri--c(X,X)- aM---(X, v') + (~nl ) llL[[2
pour tout X unitaire tangent h M, tic d~signant la courbure de Ricci de (M,g). On en d~duit
V - n-~ln r i c (X 'X)+ n - ~ ( X , X ) - n - l -n -c (V 'V) -a -g (X 'v ) )
Et si on suppose que crM-----(X, 9' ) <__ cr~-(X, Y)
pour t ous l e s vecteurs X, Y unitaires tangents h M tels que X _l_ Y, alors le second terme est positif. Choisissons alors un vecteur unitaire X tel que ric(X,X) = r_ soit le minimum de la courbure de la courbure de Ricci, i.e. pour tout vecteur Y tangent ~ M, on a tic(Y, Y) >= r_lY[ 2. Ainsi nous obtenons que
n l'op6rateur variation seconde de l'aire est minor6 par l'op6rateur A n_--~r_;
mais, d'apr~s le th~orbme de Lichnerowicz-Obata ([9], [10]), cet op~rateur est strictement positif en restriction aux fonctions d'int6grales nu|les dbs que (M,g) n'est pas homoth&ique h la sphere canonique. Le th6or6me de stabilit6 s'applique done aussi dans ce cas, et nous pouvons 6noncer
2.4. Proposition. Soit M est une hypersurface totalement ombilicate d'une varikt~ riemannienne complOte (M, ~), telle que rio(if, V) est constant le long de M e t telle que les courbures de (M, g) vkrifient le long de M
aN(X, V) ~ (r-~(X, Y)
pour tousles vecteurs X, Y unitaires tangents h M tels que X _k Y. AIors, d~s que M n' est pas isom~trique h une sphere euclidienne, M est g~om~triquement stable, i,e. il existe un Cl-voisinage de M clans l'ensemble des hypersurfaces C 1 de -Met une constante strictement positive C tels que route hypersurface M ~ de ce voisinage, dklimitant avec M un domaine de volume aIg~brique nul, v~rifie
dl t~(M' ,M) 2 < C(volM' - vo lM) .
Exemple. Les vari+t~s non-compactes, de volume fini, de dimension 3 et de courbure - 1 contiennent, d'apr~s les travaux de Thurston ([14]), des families de tores plats totalement ombilicaux et ~ courbure moyenne constante, les hypotheses du th~or~me de stabilit~ sont satisfaites pour chacun de ces tores.
Stabilit6 isop&im6trique 335
3 Preuve du th4or~me
a Dkcomposition de C~(M, ] - ~:, e[)
Pour montrer la premiere partie du th6or~me, nous allons montrer que Z se d6compose sous l'action des isom6tries de (M,~ff) en tranches sur lesquelles la fonction d'aire est constante. L'op6rateur variation seconde de l'aire est l 'op&ateur d - (I ILl 12 + ~ ( r r c'est un op6rateur elliptique LZ-autoadjoint donc, si H est l 'espace LZ-orthogonal, dans ToS = C01(M,R), au noyau Ker((~c[z) ' (0)) , H est ferm6 pour la topologie C I, et on a la dbcomposition
C~(M, R) = Ker((~Clz) '(0)) ~ H ,
c'est ~ dire que cette d6composition est un isomorphisme d'espaces de Banach. Les hypotheses du th6or~me foumissent un sous-espace vectoriel ~ de l'alg6bre de Lie des champs de Killing de (M, ~) tel que l'application d6finie par
:f: --, Ke r ( (d l z ) " (0 ) )
I ~ ~(~,:)
soit un isomorphisme. On note G l'image de 9f ~ par l'application exponentielle dans Isom(M,(7). L'espace tangent en 0 ~ C~(M' , ] -e , eD est isomorphe ~t R • ToX donc ~ R • ~ x H, le lemme suivant montre que cette d6composition infinit6simale s'6tend en une d6eomposition locale; nous aurons alors montr6 la premi6re partie du th6or6me.
3.1. Lemme. La Jbnction:
5 r R x G x H ~ C I ( M , ] - e , ~ [ )
(t, t,u) ~ t.F(u,t)
est bien dkfinie au voisinaoe de (0,/de, 0) et est gn diff~omorphisme local en (O, IdG, O).
Rappelons que F, d6fini au lemme (1.3), permet une param6trisation de X par son espace tangent en 0.
Preuve. Montrons d'abord que 5: est bien d6finie, pour cela il suffit de mon- trer que l'application 0 , u ) ~ ~-u est bien d6finie sur un voisinage de (Id, O) darts Isom(M,.~)x CI(M,R). Rappelons que la fonction 1.u est d6finie par ~(D~) = D,.~. S i t est clans un voisinage de Id dans Isom(M,~) et si u est petit en norme C ~ alors t(OD~) est situ6 dans un e-voisinage de M clans M e t , clans le param&rage de 1.a., nous avons z(x,t)= (q(x,t), 12(x,t)); alors darts ces coordonn6es, ~(SD~) sera param6tr4 par x ~ (h(x, u(x)), z2(x, u(x))). Si l'application q h , , , ( ' ) - h ( - , u ( . ) ) est un diff6omorphisme de M alors z.u sera d6fini par
, . u ( x ) - I -1 = ~2(~,,. (x), u(~o,,. ( x ) ) ) .
336 G. Ca~on
II suffit donc de v6rifier qu'au voisinage de (/d,0) l'application cp,,u est un diff6omorphisme. Or l'application
Isom(M,~7) x Ct(M,R)--~ CI(M,M)
( z , u ) ~ ~,,u
est C ~ et elle v6fifie q~:a,o = IdM; or l'ensemble des diff6omorphismes de M est un ouvert de C1(M,M), done ~0~,u est un diff6omorphisme pour (t, u) voisin de (M,0). La diff6rentielle de l'application (i,u)--+ ~.u en (M,0) est alors (/, v) ~-4 .~(I, V) + v, off I est un champ de Killing sur M e t v une fonction C l sur M. Nous en d6duisons la diff6rentielle de 50: D(o, la,o)Se (t,I, v) = t / vo lM +
~7(/, ~') + v. Or, en vertu des hypotheses, d'une part nous avons la d6composition infinit6simale
CI(M, R) = R. 1 @ Ker ( (~ l z ) " (0 ) ) | H ,
et d'autre part l'applieation qui /l un champ de Killing I associe la fonc- tion d6finie par (x ~-~ O(r est, en restriction /l W, un isomorphisme sur K e r ( ( d l z ) " ( 0 ). Done cette diff6rentielle est inversible et, d'apr6s le th6or~me d'inversion locale sur les espaces de Banach, 5 ves t un diff6omorphisme local.
[]
Ainsi, on a montr6 la premiere pattie du th6or+me, i.e. Z _~ G x F(H x {0}); pour ia seconde, il suffit de voir que:
5 f f (F (v ,0 ) ) - ~ ( 0 ) > CHF(v,o)II~,, pour v cl-voisin de 0 dans H. Pour cela on a besoin de la proposition 3.2 de la section suivante.
b Calcul des variations
Soit E un fibr~ vectoriel sur une vari6t6 riemannienne compacte M, nous munissons E d'une m~trique riemannienne, on note L~(E) l 'espace de Sobolev des sections de E dont toutes les d6riv6es jusqu'h l'ordre k sont dans L t.
D~finition. Une jbnctionnelle Lagrangienne ~ d'ordre k est une application de Ck(E) darts R d~finie, 3 partir d'un op~rateur diffdrentiel d'ordre k P : Ck(E) ---+ C~ par ~ ( ~ ) = f gP(a ) ( x )dx pour route section a, de classe C k, de E; on a notO dx la mesure riemannienne de M.
On note 5~t(Ltk(E)) l 'espaee de Banaeh des applications l-lin6aires sy- m6triques continues sur L~(E), muni de sa topologie naturelle. La proposition suivante dit pour quelles topologies l'application d6riv~e lieme de #~, ~ t , est continue.
3.2. Proposition. Si ~ est une jbnctionnelle Lagrangienne d'ordre k sur E alors l'apptication d~rivOe lieme de
est continue.
Stabilit6 isop6rim6trique 337
Preuve. Soit ~ une fonctionnelle Lagrangienne d'ordre k et P l 'op6rateur diff6rentiel d6finissant ~ , on a pour a, 7. deux sections de E
d ~ t o ~ t ( a ) ( v . . . . , r ) = ~(o" + tr) = f P l ( a ) ( r , . . . , O d x , = M
d~ t=o oft Pl(cr)(z . . . . , r ) = P(cr + tT.); soit p : Jk(E) --* M x R le morphisme
de fibr6 d6finissant P:
P(a)(x) = p(x, jk(a)(x))
(oh jk est l 'application nature[le qui h une section de E associe son k-jet, qui est une section de Jk(E)). On a donc
dd-~t t=o Pt(a)(7.,...,'c)(x) = p(x, jk(a + tT.))
= pI(x, jk(a)(x)).(jk('c)(x) . . . . . jk(v)(X)),
Ofa pl(x,j~(~)(X)) est l'616ment de I 'espace vectoriel 5~lJ~(E)x des applications l-lin6aires sym6triques sur Jxk(E) d6fini par
d~ t=0 pZ(x, jk(a)(x))(J, . . . . J ) = p(x, jk(~)(x) + t J), pour J E Jxk(E).
Si 5elJk(E) est le fibr6 sur M de fibre en x 5r alors pl : j k (E ) 5erJk(E) est C ~ et
I~/(rrl ) - ~/(o'2)l(v . . . . . 7")
= f ( p l ( j k ( a ~ ) ) - - pt( jk(r dx
< sup I l P l ( j k ( a l ) ( x ) ) I .k = - P (Y (~ , k , - , f [Jk(r)[ 1 dx xEM ~l" t'~)x M
_-_% ~ ( 1 1 o ~ - ~r211c, ) f lJ~(v)l * dx , M
off
co(6) = sup x tiM, J2 E Jxk(E) IIJ'~('rl ) - J 2 II < ~;
[pZ(jk(al )(X)) -- pl(Jz)[
tend vers z6ro avec 3, par continuit6 de p~ et compacit6 de M. []
338 G. Carron
c Fin de la preuve
I1 suffit maintenant de minorer ~r - ~r pour u = F(v, 0), v ~tant voisin de 0 dans H. Pour cela, on 6crit la formule de Taylor avec reste integral
1 d 2 d ( u ) - d ( O ) = ~r + f ( 1 - t ) - d ~ ( t u ) d t ;
0
une premiere difficult6 vient du fait que u r ToS et done que d~(0)u 4 = 0; une
d~ t=0 seconde difficult6 vient du fait que ~r u)4: (SClz)"(0)(u, u), ce terme
peut done ~tre n6gatif. C'est pourquoi, on consid~re la fcnctionnelle
d6finie sur CI(M,] - e , e [ ) , od k est la courbure moyenne de M. Cette fone- tionnelle est toujours C ~ et elle v&ifie
~ ' ( 0 ) = 0 et ~ ' ( O ) ( u , u ) = f Idul 2 - (llZll 2 § -~(r dvgo . M
De plus on a ~ ( u ) - ~1"(0) = d ( u ) - d ( 0 ) , car "/#(u) = 0. On va donc mon- trer que
J ( ~ ) - d ( o ) = ~,(~) - ~ ( o ) >= C'Oll~ll~,,
dans un voisinage de 0 dans F ( H x {0}). Les trois fails suivant, valables pour tout v situ6 dans un voisinage (9 de 0 dans H, nous permettent de eonelure.
Fait 1. ~ r ~ ( 0 ) _>- O~llvl[,~,.
Fait 2. u = F(v, O) et v ont des normes H l bquivaJentes.
Fait 3. I J ( u ) - ~ ( v ) l N C'olI.IIL= II"ll~,,-
En effet, on Bcrit, pour v dans (9 et u = F(v, 0),
~r - d ( o ) = J ( u ) - ~ ( o ) = +
>_- - I J ( u ) - ~ ( v ) l + C'~ ceei grfice a u fait 1
=> ct~llvl[~(1 - c '~ u L ooa J,' ceci grgce aux faits 2 et 3 ,'
quitte /t r~duire le voisinage od est pris v, nous obtenons, grgce au fait 2:
~ r => C'~
ce qui est le r~sultat annonc&
Prouvons le 1 ~ fai t: ~ e s t une fonctionnelle Lagrangienne d'ordre 1; d'apr6s la proposition 3.2, l 'applieation qui associe fi chaque ~16ment v de CI(M,] - e , ~ [ ) la d6riv6e seeonde de ~ (notre z~"(v)) est une application continue de
Stabilit~ isop6rim6trique 339
CI(M, ] - e , ~:[) dans l 'espace vectoriel des formes bilin~aires sym6triques con- tinues sur HI(M}. Or, par hypothbse, i f " ( 0 ) est d6fini positif en restric- tion h H x H, ii existe done une constante C strictement positive telle que ~"(0)(w, w) >__ c/wll~, pour tout w E H. La continuitb de v ~ ~ " ( v ) im-
plique alors i 'existence d'un voisinage convexe d) de 0 dans H i ( M ) tel que C 2 pour tout v E (9 et tout w �9 H, ~#'(v)(w, w) -> ~ Ib~l[H1 : le premier fait s 'en
d6duit alors par la formule de Taylor:
l C .s~c~(v)-.s~(O) = f ( l - t ) ~ ' ( t v ) ( v , v ) d t >__ ~-Ilvllff~, �9
o
1 Prouvons le 2 eme fa#." d'apr~s le lemme 1.3, nous avons v = u - ~,,,vol---- ~ f u
1 done [[vll~ = I}ull~ - v o J u - q " ' ( fu )2" Cependant u est un 616ment de 1;, done
1
~ ( u ) = o = f u + f (1 - t )~"( tu ) ( . , u ) d t . o
~f est une fonctionnelle Lagrangienne d'ordre 0, donc d'aprbs la proposition 3.2, pour v situ6 duns un voisinage de 0 duns C~ on a " f " ( v ) ( w , w ) < C t~ f Iwl 2. D'ofl
ainsi
If~l <= c~ ' l l . lLoo ' f lu l <= I l u l ~ / . I . , . M
I-tt~, >-_ II~ll~,~ ~ I lu /~ , ( l - c '~ I l u l l ~ ) .
Quitte h r6duire (9 on obtient Ilull~l ~ Ilvllff~, ~ lullS,/2; c 'est le fait 2.
Prouvons le 3 eme Jait.. pour ([u[{r assez petit, on a
] v)d t t ~ [ r _ _ I J O ' ) - J ( ~ ) l = ~ ' ( v ) ( ~ - v ) + f ( 1 - ) (,=+._,),,r v . . o
Mais ~1"(0) = 0 donc s f ' ( v ) (u - v) = fd ~r"(tv)(u - v, v)dt; compte tenu de
ia continuit6 de v ~--~r sur un certain voisinage (9 de 0 il y a une constante C telle que s fr ' (v)(wl ,w2) < CIw~ll.llw2llH,. vv e (9, Vwj,w2 �9 HI(M) . Ainsi
IJ(u) - S(v)l 6 c'~ - vllwEIvl . , + lu - vl~,]
c'~llulIH, lu - DI[HI ,
Mais, d'apr~s la preuve du deuxi~me fait, nous avons
[ l u - v l l ~ , = J f u -5_ c t ~ lullS-, ,
340
d'ofi, grace au fait 2:
I d ' ( u ) - g ' ( v ) l _-< C'~ l lu l l . , Ilu - v i i . , =< ct~llu[lLo~ I1~11~, �9
C ' e s t le fait 3.
G. CarTon
[]
R6f6rences
1. Bonnesen, T.: Les problbmes des isop~rim~tres et des is~piphanes. Gauthier-Villars, Paris, 1929, p. 135
2. Barbosa, L., Do Carmo, M., Eschenburg, J.: Stability of hypersurfaces of constant mean curvature in riemannian manifolds. Math. Z. 197 (1988), 123-138
3. Burago, Y.D., Zalgaller, V.A.: Geometric ~nequalities. Springer, 1980 4. Carron, G.: In6galit~s isop~rim~triques sur les vari&~s riemanniennes. Th~se, 1994 5. El Soufi, A., llias, S.: Une in6galit6 de type "Reilly" pour les sous-vari6t6s de I'espace
hyperbolique. Comment. Math. HeN. 67 (1992), 167-181 6. Fuglede, B.: Stability for convex or nearly spherical domain in R n. Trans. Amer. Math.
Soc. 314 (1989), 619-638 7. Fuglede, B.: Bonnesen's inequality for isoperimetric deficiency of closed curves in the
plane. Geometriae Dedicata 38 (1991), 283-300 8. Gallot, S., Hullin, D., Lafontaine, J.: Riemannian geometry. Universitext. Springer, 1987 9. Lichnerowicz, A.: G~om6trie des groupes de transformations. Dunod, 1958
10. Obata, M.: Certains conditions for Riemannian Manifold to be isometric with a sphere. J. Math. Soc. Japan 14 (1962), 333-340
11. Osserman, R.: A strong form of the isoperimetric inequality in R n. Complex Variables, Theory and Application 9 (1987), 241-249
12. Palais, R.S.: Foundations of global non-linear Analysis. New-York, Benjamin, 1968 13. Spivak, M.: A comprehensive introduction to differential geometry. Publish or Perish
Inc., tome 3, 1973 14. Thurston, W.P.: The geometry and topology of 3-manifolds. Lecture Notes, Princeton,
1978
