25
Math. Z. 230, 21–45 (1999) c Springer-Verlag 1999 Espace de Hardy pour les quotients Γ \G Dehbia Achab Universit´ e Pierre et Marie Curie, Institut de Math´ ematiques, Analyse Alg´ ebrique - Case 82, Tour 46-0, 3 e ´ etage, 4, place Jussieu, F-75252 Paris Cedex 05, France (e-mail: [email protected]) Received April 30, 1997; in final form September 18, 1997 esum´ e Soit G un groupe lin´ eaire r´ eel simple hermitien, Γ un sous-groupe arithm´ etique de covolume fini. Soit C uncˆ one r´ egulier Ad(G)-invariant dans l’alg` ebre de Lie g de G, C l’int´ erieur de C , et S (C )= Gexp(iC ) le semi- groupe complexe d’Olshanski. L’espace de Hardy associ´ e` a ces donn´ ees est l’espace des fonctions holomorphes sur S (C ), Γ -invariantes ` a gauche telles qu’une certaine norme soit finie. C’est un espace de Hilbert, qui se plonge de mani` ere isom´ etrique dans l’espace L 2 (Γ \G). On donne une d´ ecomposition de l’espace de Hardy en repr´ esentations unitaires irr´ eductibles avec des multiplicit´ es ´ egales ` a des dimensions d’espaces de formes automorphes. Les r´ esultats les plus importants sont obtenus dans le cas de G = SL(2, R) et Γ = SL(2, Z), o` u l’on d´ emontre que l’espace des vecteurs distributions des repr´ esentations de la s´ erie discr` ete, qui sont Γ -invariants et qui v´ erifient une condition de carr´ e int´ egrabilit´ e, s’identifie ` a l’espace des formes modu- laires paraboliques correspondant, ce qui nous permet de d´ ecrire explicite- ment la d´ ecomposition de l’espace de Hardy cuspidal en repr´ esentations irr´ eductibles et d’en calculer le noyau reproduisant (appel´ e noyau de Cauchy-Szeg¨ o) ` a l’aide des noyaux reproduisants des espaces de cusp forms. L’espace de Hardy cuspidal s’identifie au ”morceau holomorphe” du spectre cuspidal L 2 (Γ \G). 1. Introduction Soient W un espace vectoriel r´ eel de dimension finie, G GL(W ) un sous-groupe ferm´ e simple, connexe, K un sous-groupe compact maximal, Mathematics Subject Classification (1991): 22E

Espace de Hardy pour les quotients

Embed Size (px)

Citation preview

Page 1: Espace de Hardy pour les quotients

Math. Z. 230, 21–45 (1999)

c© Springer-Verlag 1999

Espace de Hardy pour les quotientsΓ\G

Dehbia Achab

Universite Pierre et Marie Curie, Institut de Mathematiques, Analyse Algebrique - Case 82,Tour 46-0, 3e etage, 4, place Jussieu, F-75252 Paris Cedex 05, France(e-mail: [email protected])

Received April 30, 1997; in final form September 18, 1997

Resume SoitG un groupe lineaire reel simple hermitien,Γ un sous-groupearithmetique de covolume fini. SoitC un cone regulier Ad(G)-invariant dansl’algebre de Lieg deG,C◦ l’int erieur deC, etS(C) = Gexp(iC) le semi-groupe complexe d’Olshanski. L’espace de Hardy associe a ces donnees estl’espace des fonctions holomorphes surS(C◦),Γ -invariantesa gauche tellesqu’une certaine norme soit finie. C’est un espace de Hilbert, qui se plonge demaniere isometrique dans l’espaceL2(Γ\G). On donne une decompositionde l’espace de Hardy en representations unitaires irreductibles avec desmultiplicites egalesa des dimensions d’espaces de formes automorphes.Les resultats les plus importants sont obtenus dans le cas deG = SL(2,R)etΓ = SL(2,Z), ou l’on demontre que l’espace des vecteurs distributionsdes representations de la serie discrete, qui sontΓ -invariants et qui verifientune condition de carre integrabilite, s’identifiea l’espace des formes modu-laires paraboliques correspondant, ce qui nous permet de decrire explicite-ment la decomposition de l’espace de Hardy cuspidal en representationsirreductibles et d’en calculer le noyau reproduisant (appele noyau deCauchy-Szego) a l’aide des noyaux reproduisants des espaces de cusp forms.L’espace de Hardy cuspidal s’identifie au ”morceau holomorphe” du spectrecuspidal◦L2(Γ\G).

1. Introduction

SoientW un espace vectoriel reel de dimension finie,G ⊂ GL(W ) unsous-groupe ferme simple, connexe,K un sous-groupe compact maximal,

Mathematics Subject Classification (1991):22E

Page 2: Espace de Hardy pour les quotients

22 D. Achab

g = L(G) etk = L(K) leurs algebres de Lie respectives. SoitGC un groupede Lie complexe tel que son algebre de LieL(GC) = gC est la complexifieedeg etG est un sous-groupe ferme deGC.On supposera queG est hermitien, i.e. dimz(k) = 1, ou z(k) est le centredek. Alors il existe dansg des cones reguliers (i.e. convexesfermes pointusgenerateurs) Ad(G)-invariants.SoitΓ un sous-groupe arithmetique deG, c’esta dire un sous-groupe com-mensurable avec le groupeGL defini par

GL = {g ∈ GQ | g(L) = L}ouL est un reseau dans le sous-espaceWQ des vecteurs deW a coordonneesrationnelles relativementa une base deW . et ouGQ est le groupe des pointsrationnels deG.On supposera queΓ esta covolume fini.On noteX = Γ\G.SoientC ⊂ g un cone regulier Ad(G)-invariant etS(C) = Gexp(iC) lesemi-groupe complexe associe (appele semi-groupe d’Olshanski).L’espace de Hardy associe est par definition l’espaceH2

Γ (C) des fonctionsholomorphesf surS(C◦), Γ -invariantesa gauche et telles que

‖f‖2 := sups∈S(C◦)

∫X

|f(xs)|2dx < ∞

ou dx designe une mesure invariante surX.Le semi-groupeS(C) opere dansH2

Γ (C) par

π(s)f(x) = f(xs) s ∈ S(C), x ∈ S(C◦), f ∈ H2Γ (C).

Soit b l’operateur valeur au bord defini parb : H2

Γ (C) → L2(X)

bf(x) = lims∈S(C◦),s→e

f(xs) f ∈ H2Γ (C), x ∈ X

ou e est l’element neutre deG.

Dans cet article, on montre que l’espace de HardyH2Γ (C) se decompose en

somme de representations unitaires irreductibles de la serie discrete holo-morphe relative (a Γ\G), avec des multiplicites finies, dont on montre,en admettant une certaine conjecture, qu’elles sontegalesa des dimen-sions d’espaces de formes automorphes. On considere notamment le casou G = SL(2,R) et Γ = SL(2,Z). Dans ce cas, l’imageH2

Γ (C) =b(H2

Γ (C)) est egalea la somme du spectre residuel reduit aux fonctionsconstantes et du ”morceau holomorphe” du spectre cuspidal deL2(Γ\G).Une decomposition explicite deH2

Γ (C) en representations irreductibles est

Page 3: Espace de Hardy pour les quotients

Espace de Hardy pourΓ\G 23

obtenue en utilisant les formes modulaires paraboliques et les multiplicitessontegalesa des dimensions d’espaces de cusp forms. On introduit aussiun certain sous-espace ferme ◦H2

Γ (C) de H2Γ (C), qu’on appelle espace

de Hardy cuspidal, dont on determine la decomposition en composantesirreductibles et dont on calcule le noyau de Cauchy-Szego. Cet espace deHardy cuspidal ne differe deH2

Γ (C) que par le spectre residuel des fonctionsconstantes.

2. Preliminaires

Dans la premiere Sect. de ce paragraphe, on rappelle le procede d’inductionholomorphe (a partir d’un sous-groupe compact maximal) pour les groupeshermitiens. La deuxieme Sect. porte sur quelques resultats d’Olshanski surles representationsC-dissipatives irreductibles.

2.1. Representations unitaires holomorphes

Il existe dans le centrez dek un elementZ◦ tel que ad(Z◦) ait pour valeurspropresi, 0,−i et soit

gC = p+ ⊕ kC ⊕ p−la decomposition correspondante degC en sous-espaces propres. On noteraquep+ etp− sont des sous-algebres abeliennes degC.On noteP+,KC etP− les sous-groupes analytiques deGC d’algebres deLie respectivesp+, kC etp−.Le sous-groupeKC normaliseP− etQ = KC.P

− est un sous-groupe deGC. Le quotientM = GC/Q est une variete complexe compacte. Soitm◦ = e.Q ou e est l’element neutre deG. On montre queQ ∩ G = K.L’orbite D = G.m◦ est ouverte dansM et D ' G/K. C’est la realisationde Borel de l’espace riemannien hermitien symetriqueG/K.D’autre part, commeP+ ∩ Q = {e}, alorsP+.m◦ ⊆ M est une orbiteouverte et l’application

ψ : p+ → M

X 7→ expX.m◦

est un diffeomorphisme sur son imageP+.m◦.On montre queG ⊆ P+.KC.P

−, ce qui signifie que l’imageP+.m◦ con-tient D. SoitD = ψ−1(D) ⊆ p+, alorsD ' G/K. C’est la realisation deHarish Chandra de l’espace symetriqueG/K.CommeG ⊆ P+.KC.P

−, on peutecrire toutelementg deGg =exp(u).k.exp(v), k ∈ KC, u ∈ p+, v ∈ p−

et on noterak = k(g).

Page 4: Espace de Hardy pour les quotients

24 D. Achab

Pourg ∈ G, z ∈ p+ tel queg−1exp(z) ∈ P+.Q, on definit z.g ∈ p+ par :g−1exp(z) =exp(z.g)k(g−1exp(z)).exp(v) v ∈ p−.

Ceci definit l’action (a droite) deG dansD.

Soit τλ une representation unitaire irreductible deK, de plus haut poidsλ,dans un espace complexeVλ. On note aussiτλ son prolongement holomor-pheaKC.Pourg ∈ GC, z ∈ p+ on definit :

µλ(z, g) = τλ[k(g−1exp(z))].Alors µ verifie la propriete de cocycle :

µλ(z, g1.g2) = µλ(z.g1, g2)µλ(z, g1).SoitEλ l’espace des fonctionsF : G → Vλ telles que

F (gk) = τλ(k)−1F (g) ∀k ∈ K,∀g ∈ G.Le groupeG opere dansEλ par la representation reguliere gaucheT1 :

(T1(g)F )(x) = F (g−1x).A tout F ∈ Eλ, on associe la fonctionf definie surD par

F (g) = f(0.g−1)µλ(0, g−1)−1.La correspondanceF 7→ f est bijective entreEτ et l’ensembleF(D;Vλ)des fonctions definies surD a valeurs dansVλ.Le groupeG opere dansF(D;Vλ) par :

(T2(g)f)(z) = µλ(z, g)−1f(z.g).On montre que la correspondanceA : F 7→ f entrelace les representationsT1 etT2 deG. En effet, soitz = 0.g−1

0 , alors pour toutg ∈ G et pour toutF ∈ Eλ, on a

(T2(g) ◦AF )(z) = T2(g)f(z)= µλ(z, g)−1f(z.g) = µλ(0.g−1

0 , g)−1f(0.g−10 g)

= µλ(0, g−10 µλ(0, g−1

0 g)−1f(0.g−10 g)

= µλ(0, g−10 )F (g−1g0)

et

(A ◦ T1(g)F )(z) = µλ(0, g−10 )T1(g)F (g0) = µλ(0, g−1

0 )F (g−1g0).

L’espaceO(D,Vλ) des fonctions holomorphes surD a valeurs dansVλ estinvariant parT2. On noteT la restriction deT2 aO(D,Vλ).Onecrit queτλ ∈ R (resp.λ ∈ R), s’il existe dansO(D,Vλ) un sous-espacehilbertien non trivialHλ invariant parT et avec une injection continue.Pourτλ ∈ R, on noteπλ la restriction de la representationT aHλ.

2.1.1 Proposition. Si τλ ∈ R, alors(πλ,Hλ) est une representation uni-taire irreductible deG. Par suite, si un tel sous-espace hilbertien existe, ilest unique.(cf. [D-F] and [A.])

Page 5: Espace de Hardy pour les quotients

Espace de Hardy pourΓ\G 25

2.1.2. Definition. La representation(πλ,Hλ) est appelee representationunitaire holomorphe deG. (On dit aussi que c’est la representation obtenuepar induction holomorphea partir deτλ.)

2.1.3. Theoreme. Toute representation unitaire holomorphe est une repre-sentation de plus haut poids. Son plus haut poids est celui de la representationunitaire irreductible deK a partir de laquelle elle est induite.(cf. [D-F] and [A.])

2.2. RepresentationsC-dissipatives irreductibles

SoitC un cone regulier Ad(G)-invariant dansg. Une representation unitaire(π,H) est diteC-dissipative si

i(dπ(X)ξ | ξ) ≤ 0 ∀X ∈ C, ∀ξ ∈ H∞.

On suppose queC contientZ◦ et on noteC∗ le cone dual deC. Soit t ⊂ kune sous-algebre de Cartan compacte deg. Le theoreme suivant donne unecaracterisation des representationsC-dissipatives irreductibles.

2.2.1. Theoreme.(i) Pour λ ∈ R, la representationπλ estC-dissipative si et seulement siλ ∈ i(C ∩ t)∗.(ii) Reciproquement, siπ est une representation unitaire irreductible qui estC-dissipative, alorsπ = πλ pour un certainλ ∈ R ∩ i(C ∩ t)∗.

(cf. [O.1], Theorem 2.5, see also [A.])

3. Generalit es sur l’espace de Hardy

3.1. Espace de Hardy

L’espace de HardyH2Γ (C) est l’espace des fonctions holomorphes sur

S(C◦), Γ -invariantesa gauche telles que

‖f‖2 := sups∈S(C◦)

∫X

|f(xs)|2dx < ∞

3.1.1. Theoreme.(i) L’espace de HardyH2

Γ (C) est un espace de Hilbert.(ii) L’op erateur ”valeur au bord”b est un plongement isometrique deH2

Γ (C)dansL2(X).(iii) L’op erateurb entrelace la representationπ deG dansH2

Γ (C) et larepesentation reguliere droite deG dansL2(X).

Page 6: Espace de Hardy pour les quotients

26 D. Achab

(iv) L’imageH2Γ (C) := b(H2

Γ (C)) est le plus grand sous-espaceC-dissipa-tif deL2(X).

La demonstration est analoguea celle de Olshanski qui a introduit l’ espacede Hardy pour les groupes simples hermitiens (cf. [O.2])

3.2. Serie discrete holomorphe relative

Soit (π,H) une representation unitaire deG.On dit que(π,H) se realise dans l’espaceD′(Γ\G) des distributions surΓ\G, s’il existe un plongementG-equivariant

H ↪→ D′(Γ\G).

La representation(π,H) se realise dansD′(Γ\G) si et seulement si il existeun vecteur distribution non nulψ ∈ H−∞ qui estΓ -invariant (ou H−∞designe le dual topologique de l’espaceH∞ des vecteursC∞ de(π,H)). Onnotera (H−∞)Γ l’espace des vecteurs distributionsΓ -invariants et(H−∞)Γ2l’espace des vecteurs distributionsΓ -invariantsψ qui verifient la conditionde carre integrabilite∫

Γ\G| < π(x)f | ψ > |2dx < ∞ ∀f ∈ H∞

Pour qu’il existe un plongementequivariantH ↪→ L2(Γ\G) il faut et ilsuffit que(H−∞)Γ2 6= {0}. On dit alors que(π,H) appartienta la seriediscrete relative (SDR).Si de plus,(π,H) est de plus haut poids, on dit qu’elle est dans la seriediscrete holomorphe relative (SDHR).

3.3. Decomposition de l’espace de Hardy

SoitH2Γ (C) ⊂ L2(X) l’image de l’espace de HardyH2

Γ (C) par l’operateurvaleur au bordb.Pourλ ∈ K, on note, lorsqu’elle existe,(πλ,Hλ) la representation unitaireholomorphe de plus haut poidsλ.

3.3.1.Theoreme.

H2Γ (C) =

⊕λ∈i(C∩t)?,πλ∈SDHR

mλHλ

avecmλ =dim(H−∞λ )Γ2 , ouC? est le cone dual deC.

Page 7: Espace de Hardy pour les quotients

Espace de Hardy pourΓ\G 27

Preuve.D’apres le theoreme de decomposition de Neeb, on a

H2Γ (C) =

⊕λ∈S(C)

mλHλ

avecmλ ∈ N, et ou S(C) designe l’ensemble des classes d’equivalence desrepresenta-tions unitairesC-dissipatives irreductibles deG.

Or S(C) = i(C ∩ t)? ∩ R, ou R = {λ ∈ K | (πλ,Hλ) existe}.

Pour toutλ ∈ S(C), si Hλ intervient dans la decomposition deH2Γ (C),

alorsπλ ∈ SDHR.

Reciproquement, soitλ ∈ S(C) tel queπλ ∈ SDHR. La question qui se poseest alors : peut-on plongerHλ dansH2

Γ (C) de maniereG-equivariante? Eneffet, si(H−∞

λ )Γ2 6= {0}, alors pour toutψ ∈ (H−∞λ )Γ2 6= {0}, l’operateur

Aλ(ψ) : Hλ → L2(Γ\G)

defini par

(Aλ(ψ)f)(Γg) =< πλ(g)f | ψ > ∀f ∈ H∞λ

est un plongementG-equivariant. De plus, tout plongementG-equivariantdeHλ dansL2(Γ\G) est de cette forme. En effet, soitA : Hλ ↪→ L2(Γ\G)un tel plongement. Alors

A : H∞λ ↪→ L2(Γ\G)∞ ⊂ C∞(Γ\G).

L’application :H∞λ → C, f 7→ Af(Γe)

est une forme lineaire continue surHλ. Elle est donc donnee par un vecteurdistribution,

∃ψ ∈ H−∞λ | Af(Γe) =< f | ψ >

CommeA estG-equivariant, on en deduit que

Af(Γg) =< πλ(g)f | ψ > ∀g ∈ G

etψ est necessairementΓ -invariant et verifie la condition de carre integrabi-lit e. On deduit que si(πλ,Hλ) intervient dans la decomposition deL2(Γ\G),alors(H−∞

λ )Γ2 6= {0}.

De plus, sachant queH2Γ (C) est le plus grand sous-espaceC-dissipatif de

L2(Γ\G) et que pour toutλ ∈ S(C), la representation(πλ,Hλ) estC-dissipative, on deduit queAλ est un plongement deHλ dansH2

Γ (C).

Page 8: Espace de Hardy pour les quotients

28 D. Achab

Par suite, siA(λ) designe l’espace des operateurs d’entrelacement de larepresentation(πλ,Hλ) et de la representation reguliere droite dansH2Γ (C) ⊂ L2(Γ\G), l’application lineaire

(H−∞λ )Γ2 → A(λ), ψ 7→ Aλ(ψ)

est un isomorphisme vectoriel. En effet, il reste justea prouver qu’il estinjectif : en effet, siAλ(ψ) = 0, alors pour toutf ∈ H∞

λ , et pour toutg ∈ G,< πλ(g−1)f | ψ >= 0 et comme(πλ,Hλ) est irreductible,ψ = 0.On en deduit que la multiplicitemλ de (πλ,Hλ) dansH2

Γ (C) estegaleadim(H−∞

λ )Γ2 .

3.4. Lien avec les formes automorphes

Dans ce paragraphe, nous allons expliquer, en utilisant la theorie generaledes formes automorphes, et en admettant la conjecture 3.4.2, la raison pourlaquelle la dimension de(H−∞

λ )Γ2 est finie.Les notationsetant les memes que dans la Sect. 2, on demontre d’abord laproposition suivante :

3.4.1. Proposition. Les vecteurs distributions de(πλ,Hλ) se realisentcomme des fonctions holomorphes surD a valeurs dansVλ (ou D est larealisation de Harish Chandra de l’espace riemannien symetriqueG/K),i.e. il existe un plongementH−∞

λ ↪→ O(D,Vλ).

Cette proposition est un corollaire du theoreme suivant :

Theoreme. (Cartier)Soit (π,H) une representation unitaire d’un groupe de LieG, d’algebre deLie g. Alors

H∞ = {f ∈ H,∀u ∈ U(g), dπ(u)f ∈ H}et pour toutf ∈ H−∞, il existeu ∈ U(g) etf0 ∈ H tels quef = dπ(u)f0.

(cf.[C.]).

Preuve de la proposition.On considere la representation(πλ,Hλ) de G. Par construction,Hλ ⊂O(D,Vλ) etG opere viaπλ par

πλ(g)f(z) = µλ(z, g)−1f(z.g) g ∈ G, f ∈ Hλ, z ∈ D.

Par suite, pour toutu ∈ U(g), dπλ(u) est un operateur differentiela coef-ficients holomorphes et pour toutf ∈ Hλ ⊂ O(D,Vλ), on adπλ(u)f ∈O(D,Vλ).

Page 9: Espace de Hardy pour les quotients

Espace de Hardy pourΓ\G 29

On deduit que toutf ∈ H−∞λ est dansO(D,Vλ) puisque, d’apres le

theoreme ci-dessus, il existeu ∈ U(g), et f0 ∈ Hλ ⊂ O(D,Vλ) telsquef = dπλ(u)f0 et alorsf ∈ O(D,Vλ).

3.4.2. Conjecture. Soitf ∈ O(D,Vλ). Alors

f ∈ H−∞λ ⇐⇒ ∃ C > 0, N ∈ N,

|µλ(0, g−1)|−1|f(0.g−1)| ≤ C‖g‖N

ou ‖g‖2 = tr(gtg), gt etant l’adjoint deg relativementa une structurehilbertienne surW , invariante parK et ou |.| designe une norme surVλ.Lorsquef verifie cette condition, on dit qu’elle esta croissance moderee.Cette conjecture est vraie dans le cas deSL(2,R) (cf. Sect. 5.2).

Par ailleurs, gracea la correspondance bijectiveF 7→ f entre les fonctionsF : G → Vλ telles queF (gk) = τλ(k−1)F (g) et les fonctionsf : D → Vλdonnee par la relation :

f(0.g−1) = µλ(0, g−1)F (g) g ∈ G

ou µλ(z, g) designe le facteur d’automorphie, on deduit que l’espace(H−∞

λ )Γ2 s’identifiea un sous-espace de l’espaceA(G;Γ ; τλ;χ) des formesautomorphes de type(τλ, χ) surG relativementa Γ , c’est a dire l’espacedes fonctionsC∞, F : G → Vλ telles que :(i) F (γgk) = τλ(k−1)F (g) k ∈ K, γ ∈ Γ, g ∈ G.

(ii) ZF = χ(Z)F pour toutZ ∈ Z(g), ou Z(g) est le centre de l’algebreenveloppanteU(g) et ou χ designe un caractere deZ(g).(iii) F esta croissance moderee, c’esta dire,∃C > 0, N ∈ N, |F (g)| ≤C‖g‖N .

En effet, il s’agit de montrer que sif ∈ (H−∞λ )Γ2 alors il existe un caractere

χ deZ(g) tel queF ∈ A(G;Γ ; τλ;χ). Soitf ∈ (H−∞λ )Γ2 , alorsf est une

fonction holomorphe surD a valeurs dansVλ, a croissance moderee et, pourtoutγ ∈ Γ , etz ∈ D,

f(z.γ) = µλ(z, γ)f(z).

SoitF defini parF (g) = µλ(0, g−1)−1f(0.g−1).F est necessairementC∞et, vu les proprietes de cocycle du facteur d’automorphieµλ, on montrefacilement que(i)F (γgk) = τλ(k)−1F (g) ∀γ ∈ Γ, g ∈ G, k ∈ K.

De plus,(ii) il existe un caractereχ deZ(g) tel que pour toutZ ∈ Z(g), ZF =χ(Z)F . C’est une consequence du fait que la representation(πλ,Hλ) estirreductible et qu’alors l’action du centre est scalaire.

Page 10: Espace de Hardy pour les quotients

30 D. Achab

(iii) La propriete de croissance moderee deF estequivalentea celle def(cf. 3.4.2.).

On sait par la theorie generale des formes automorphes (cf.[HC]), quel’espaceA(G;Γ ; τλ;χ) est de dimension finie. Par suite, il en est de memede son sous-espace(H−∞

λ )Γ2 .

4. Noyau de Cauchy-Szego

Lesevaluationsf 7→ f(s) , s ∈ S(C◦) sont des formes lineaires continuessur l’espace hilbertien de fonctions holomorphesH2

Γ (C) et donc , pour touts ∈ S(C◦), il existe une fonctionKs ∈ H2

Γ (C) telle que

f(s) = (f | Ks) f ∈ H2Γ (C), s ∈ S(C◦).

On poseK(s, s′) = Ks′(s) s, s′ ∈ S(C◦).

K est le noyau reproduisant de l’espaceH2Γ (C), appele noyau de Cauchy-

Szego : sif est une fonction deH2Γ (C),

f(s) =∫Γ\G

K(s, y)bf(y)dy.

Le noyauK est invariant parG, il s’ecrit alors

K(s1, s2) = K◦(s1s]2)

ou K◦ est une fonction definie surS(C◦).

5. Cas deG = SL(2, R) et Γ = SL(2, Z)

5.1. Generalites

SoientG = SL(2,R), Γ = SL(2,Z),. SoitC un cone regulier Ad(G)-invariant dans l’algebre de Lieg deG etC◦ l’int erieur deC.SoitS(C) = Gexp(iC) etS(C◦) = Gexp(iC◦).L’ espace de Hardy associe est l’espaceH2

Γ (C) des fonctionsf holomorphessurS(C◦), Γ -invariantesa gauche (f(γs) = f(s) ∀γ ∈ Γ, s ∈ S(C◦))telles que

sups∈S(C◦)

∫Γ\G

|f(xs)|2dx < ∞

ou dx designe une mesureG-invariante surΓ\G.

Page 11: Espace de Hardy pour les quotients

Espace de Hardy pourΓ\G 31

On definit aussi l’espace de Hardy cuspidal◦H2Γ (C) par

◦H2Γ (C) = {f ∈ H2

Γ (C) |∫ 1

0f(n(x)s)dx = 0 ∀s ∈ S(C)}

ou n(x) =(

1 x0 1

).

Le semi-groupeS(C) opere dansH2Γ (C) par

π(s)f(x) = f(xs) x, s ∈ S(C), f ∈ H2Γ (C).

Le sous-espace ferme ◦H2Γ (C) est invariant pour cette action :

∀f ∈ ◦H2Γ (C), s, s′ ∈ S(C)∫ 1

0(π(s)f)(n(x)s′)dx =

∫ 1

0f(n(x)s′s)dx = 0.

Soit b l’operateur valeur au bord defini par

b : H2Γ (C) → L2(Γ\G)

f 7→ bf

tel quebf(x) =lims∈S(C◦),s→ef(xs) ou e est l’element neutre deG.

NotonsH2Γ (C) := b(H2

Γ (C)) et◦H2Γ (C) := b(◦H2

Γ (C)). AlorsH2Γ (C) ⊂

L2(Γ\G) et

◦H2Γ (C) ⊂ ◦L2(Γ\G)

= {f ∈ L2(Γ\G) |∫ 1

0f(n(x)g)dx = 0 ∀g ∈ G}.

On montrera par la suite, gracea la decomposition deH2Γ (C) en representa-

tions unitaires irreductibles, que ces espaces de Hardy ne sont pas reduitsa{0} et que

H2Γ (C) = C ⊕ ◦H2

Γ (C).

Dans les deux Sects. suivantes, nous rappelons quelques resultats con-nus sur les representations unitaires holomorphes deSL(2,R), les formesmodulaires et le spectre deL2(Γ\G), qui nous permettront d’expliciter ladecomposition de l’espace de Hardy cuspidal en representations irreductibleset de calculer son noyau de Cauchy-Szego.

Page 12: Espace de Hardy pour les quotients

32 D. Achab

5.2. Representations unitaires holomorphes deSL(2,R)

Les representations unitaires holomorphes, notees(πλ,Hλ) dans les sec-tions precedentes, sont dans ce cas (i.e. pourG = SL(2,R)), les representa-tions(πk,Hk) definies ci-dessous :SoientΠ+ le demi-plan de Poincare etO(Π+) l’ensemble des fonctionsholomorphes surΠ+.Pour tout entierk ≥ 2, soit (πk,Hk(Π+)) la representation de la seriediscrete deG definie par :

Hk(Π+) = {f ∈ O(Π+) |∫Π+

|f(z)|2yk dxdyy2 < ∞ (z = x+ iy)}

et

πk(g)f(z) = f(z.g)µr(z, g)−k = f(az + c

bz + d)(bz + d)−k

g =(a bc d

)∈ G.

Pourk = 1, soit(π1,H1) la representation deG definie par

H1 = {f ∈ O(Π+) | supy>0

∫R

|f(x+ iy)|2dx < ∞}

et

π1(g)f(z) = f(z.g)µr(z, g)−1 = f(az + c

bz + d)(bz + d)−1

g =(a bc d

)∈ G.

Soitπ0 la representation triviale.SoitD le disque ouvert unite deC. Pour tout entierk ≥ 2, on noteHk(D)l’espace

Hk(D) = {f ∈ O(D) |∫D

|f(ω)|2(1 − |ω|2)k dudv

(1 − |ω|2)2 < ∞}(ω = u+ iv).

On sait qu’on a un isomorphisme d’espaces de Hilbert entreHk(Π+) etHk(D), donne par

Hk(Π+) → Hk(D)f(z) 7→ f(ω) = (1 − ω)−kf(ωρ−1)

Page 13: Espace de Hardy pour les quotients

Espace de Hardy pourΓ\G 33

avecz ∈ Π+, ω ∈ D, ρ =(

1 1−i i

). De plus, on a

∫Π+

|f(z)|2yk dxdyy2 = 4

∫D

|f(ω)|2(1 − |ω|2)k dudv

(1 − |ω|2)2 .

Pourk ≥ 2, la conjecture 3.4.2. s’exprime de la maniere suivante

f ∈ H−∞k ⇐⇒ ∃N1, N2 ∈ N, C > 0, |f(z)| ≤ Cy−N1(1 + |z|2)N2

ce qui est la condition necessaire et suffisante pour qu’une fonction holomor-phe surΠ+ soit un vecteur distribution de la representation(πk,Hk(Π+))(demontree par J. Faraut et H. Chebli, dans un travail en cours).

5.3. Formes modulaires et spectre deL2(Γ\G)

Dans cette Sect. , nous allons rappeler quelques definitions et resultats clas-siques dont nous aurons besoin, notamment pour donner une descriptionde l’espace(H−∞

λ )Γ2 , ainsi qu’une decomposition explicite de l’espace deHardyHΓ (C) et ◦HΓ (C) en representations irreductibles.

5.3.1. Formes modulaires

Definition 1. Une fonctionf(z) est dite forme modulaire de poidsk ∈ N

si elle verifie les proprietes suivantes :

(i) f(az+cbz+d ) = (bz+d)kf(z) ∀γ =(a bc d

)∈Γ (condition d’automorphie).

(ii) f est holomorphe surΠ+.(iii) f est holomorphea l’infini.

Remarques.(1) CommeSL(2,Z) est engendre par les matrices(

1 01 1

)et

(0 1

−1 0

)

la condition d’automorphieequivauta

f(z + 1) = f(z) etf(−1z) = zkf(z) ∀z ∈ Π+.

(2) Sik est impair, alors toute forme modulaire de poidsk est nulle.(3) Soit q = e2iπz. On posef(q) = f(z). Alors f est holomorphe surle disque unite D prive de l’origine. Sif se prolonge en une fonctionholomorphea l’origine, on dit quef est holomorphea l’infini et on posef(∞) = f(0).

Page 14: Espace de Hardy pour les quotients

34 D. Achab

Toute forme modulairef admet un developpement de Fourier de la forme

f(z) =∞∑n=0

ane2inπz (a0 = f(∞).)

Definition 2.Une forme modulaire est dite parabolique ( ou cusp form), si elle est nullea l’infini.

Theoreme 1. Soit f une fonction meromorphe surΠ+ qui verifie lacondition d’automorphie

f(az + c

bz + d) = (bz + d)2kf(z) ∀γ =

(a bc d

)∈ Γ.

Alors f est une forme parabolique si et seulement sif(z)Im(z)k est bornesurΠ+.

(cf. [M.])

Pour toutk ∈ N, on noteraMk(Γ ) (resp.M◦k (Γ )) l’espace des formes

modulaires (resp. formes modulaires paraboliques) de poids2k. Ces espacessont connus pouretre de dimension finie et on a des formules explicites pourles dimensions.

Definition 3.Le produit scalaire de Petersson de deux formes modulaires paraboliquesψ1, ψ2 de poids2k est defini par

(ψ1 | ψ2) =∫Fψ1(z)ψ2(z)y2k dxdy

y2

ou F designe un domaine fondamental deΓ dansΠ+ (cf. [M.]).

5.3.2. Spectre deL2(Γ\G)

Theoreme 1. SoitL2d(Γ\G) la somme directe de tous les sous-espaces

deL2(Γ\G) invariants irreductibles sous l’action reguliere droite deG (i.e.le spectre discret). Alors(i) L2

d(Γ\G) = ◦L2(Γ\G) ⊕ C.(ii) ◦L2(Γ\G) esta multiplicite finie.(iii) le complement orthogonal deL2

d(Γ\G) est une somme continue derepresentations de la serie principale de classe 1.

(cf. [G.])

Theoreme 2. La representationπ2k, k ≥ 1 intervient dans◦L2(Γ\G)avec une multiplicite egalea la dimension de l’espaceM◦

k (Γ ) des formesmodulaires paraboliques de poids2k.

(cf. [G.])

Page 15: Espace de Hardy pour les quotients

Espace de Hardy pourΓ\G 35

5.4. Decomposition de l’espace de Hardy

- Les representations irreductibles deG qui interviennent dansH2Γ (C) sont

les representationsC-dissipatives irreductibles qui sont dans la serie discreterelativeaΓ\G.- Une representation unitaire irreductible deG estC-dissipative si et seule-ment si elle estequivalentea l’une desπk, k ≥ 0.Par suite, et gace au theoreme 2 ci-dessus, les representations unitairesirreductibles deG qui interviennent dansH2

Γ (C) sont donc parmi lesπ2k,k ≥ 0, telles que dimM◦

k (Γ ) 6= 0.L’un des principaux resultats de cet article est le theoreme suivant, qui faitle lien entre des vecteurs distributionsΓ -invariants de(π2k,H2k(Π+)) etles formes modulaires.

5.4.1. Theoreme.(H−∞

2k )Γ2 = M◦k (Γ ).

Notons que, les theoremes 5.4.1. et 3.3.1. ainsi que les theoremes 1 et 2ci-dessus, entrainent que l’espace de HardyH2

Γ (C) s’identifie exactementala somme du spectre residuel reduit aux fonctions constantes et du ”morceauholomorphe” du spectre cuspidal◦L2(Γ\G).

Preuve du theoreme 5.4.1.Soitψ ∈ M◦

k (Γ ).- Montrons queψ est un vecteur distribution de(π2k,H2k(Π+)). Pour toutentierk ≥ 2 et pour toutφ ∈ H∞

2k, l’int egrale

< φ | ψ >:=∫Π+

φ(z)ψ(z)y2k dxdy

y2

est convergente. En effet, on pose pourω ∈ D,

φ(ω) = (1 − ω)−2kφ(ω.ρ−1) et ψ(ω) = (1 − ω)−2kψ(ω.ρ−1).

(cf. section 5.2.)On a alors,∫Π+

φ(z)ψ(z)y2k dxdy

y2 = 4∫Dφ(ω)ψ(ω)(1 − |ω|2)2k dudv

(1 − |ω|2)2 := I

Or, commeψ est une cusp form, il existe une constanteM > 0 telle que

[Im(ω.ρ−1)]k|ψ(ω.ρ−1)| ≤ M ∀ω ∈ D

(cf. section 5.3.1., thm1).

Page 16: Espace de Hardy pour les quotients

36 D. Achab

De plus,

|ψ(ω.ρ−1)| = |1 − ω|2k|ψ(ω)| et Im(ω.ρ−1) =1 − |ω|22|ω − 1|2

d’ou

[Im(ω.ρ−1)]k =(1 − |ω|2)k2k|1 − ω|2k

et alors,

[Im(ω.ρ−1)]k|ψ(ω.ρ−1)| =12k

(1 − |ω|2)k|ψ(ω)| ≤ M

et finalement,(1 − |ω|2)k|ψ(ω)| ≤ 2k.M

Revenonsa notre integraleI, on a alors

|I| ≤ 2kM∫D

|φ(ω)|(1 − |ω|2)2k−2dudv.

Par ailleurs, commeφ ∈ H∞2k(Π+), alorsφ ∈ H∞

2k(D), par suite

φ(ω) =+∞∑n=0

anωn

ou (an) est une suitea decroissance rapide, c’esta dire,

∀N ∈ N, ∃C > 0, |an| ≤ C

(1 + n)N

ce qui entraine, en particulier, queφ est bornee surD.Sachant par ailleurs que pourk ≥ 2,∫

D(1 − |ω|2)k−2dudv =

π

k − 1

on deduit que l’integraleI converge.

On obtient donc une forme lineaire

H∞2k(Π+) → C; φ 7→< φ | ψ >

Il s’agit maintenant de montrer qu’elle est continue. En effet, on a montreci-dessus que

| < φ | ψ > | ≤ 2kM(ψ)∫D

|φ(ω)|(1 − |ω|2)2k−2dudv

Page 17: Espace de Hardy pour les quotients

Espace de Hardy pourΓ\G 37

et

φ(ω) =∞∑n=0

φn(ω) avecφn(ω) = anωn

la suite(an) etanta decroissance rapide.De plus, d’apres les resultats de Neeb sur les vecteursC∞ (cf.[N.3]), l’espaceH∞

2k(D) est muni de la structure d’espace de Frechet definie par la familledes semi-normes

pr(φ) = (∑n∈N

n2r‖φ‖2)12 r ∈ N

et cette famille de semi-normes estequivalentea celle donnee par

qr(φ) := supn∈Nnr‖φn‖ r ∈ N

On en deduit que si(φ(m)) est une suite qui converge versφ dansH∞2k(Π+),

alors la suite(φ(m)) converge versφ dansH∞2k(D), et alors pour toutr ∈ N,

supn∈Nnr‖φ(m)

n − φn‖ → 0.

On en deduit que siφ(m)n (ω) = a

(m)n ωn, alors

limm→∞a(m)n = an ∀n ∈ N

et par suite,limm→∞ < φ(m) − φ | ψ >= 0.

Ainsi, ψ s’identifie a un vecteur distribution de la representation(π2k,H2k(Π+)), i.e.ψ ∈ H−∞

2k . Il est evident queψ estΓ -invariant.

-Montrons que pour toutφ ∈ H∞2k(Π+), l’int egrale∫

Γ\G| < π2k(g)φ | ψ > |2dg

est convergente. Il suffit de le montrer pour une fonction particuliereφk ∈H∞

2k(Π+).Soit

φk(z) = 4k(−1)k(z + i)−2k z ∈ Π+

cette fonctionφk est celle qui corresponda la fonctionφk ≡ 1 sur le disqueunite ouvertD, par l’isomorphisme d’espaces de Hilbert

H2k(Π+) → H2k(D)f(z) 7→ f(ω) = (1 − ω)−2kf(ωρ−1)

Page 18: Espace de Hardy pour les quotients

38 D. Achab

Dans ce qui suit, nous allons calculer l’integrale∫Γ\G

| < π2k(g)φk | ψ > |2dg

on a

< π2k(g)φk | ψ >= < φk | π2k(g−1)ψ >=

∫Π+

φk(z)π2k(g−1)ψ(z)y2k dxdy

y2

= 4∫Dφk(ω) ˜π2k(g−1)ψ(ω)(1 − |ω|2)2k dudv

(1 − |ω|2)2= ˜(π2k(g−1)ψ)(0)

car pourf0 ≡ 1 surD, (f | f0) = f(0) pour toutf ∈ H−∞.

Or, la fonction ˜π2k(g−1)ψ est donnee par

˜π2k(g−1)ψ(ω) = (1 − ω)−2kψ(ω.ρ−1g−1)(bω.ρ−1 + d)−2k

g−1 =(a bc d

)

donc

˜π2k(g−1)ψ(0) = ψ(i.g−1)(bi+ d)−2k, g−1 =(a bc d

)

d’ou< π2k(g)φk | ψ >= ψ(i.g−1)(bi+ d)−2k.

On note

µr(z, g) = bz + d etµl(g, z) = cz + d

pour toutg =(a bc d

)et pour toutz ∈ Π+

les facteurs d’automorphie correspondants respectivement aux actionsadroite eta gauche

z.g =az + c

bz + detg.z =

az + b

cz + dpourg =

(a bc d

).

Ainsi< π2k(g)φk | ψ >= ψ(i.g−1)µr(i, g−1)−2k.

On montre facilement que

ψ(g.i)µl(g, i)−2k = (−1)kψ(i.g−1)µr(i, g−1)−2k.

Page 19: Espace de Hardy pour les quotients

Espace de Hardy pourΓ\G 39

Par suite,∫Γ\G

| < π2k(g)φk | ψ > |2dg = 16∫Γ\G

|ψ(g.i)µl(g, i)−2k|2dg.

On normalise la mesure de Haar surG par :∫Gφ(g)dg =

12π

∫ 2π

0

∫ +∞

0

∫ +∞

−∞φ(x, y, θ)

dxdy

y2 dθ

et pour toute forme modulaire paraboliqueψ de poids2k, on pose

φψ(g) = ψ(i.g−1)µr(i, g−1)−2k g ∈ G

alors, ∫Γ\G

|φψ(g)|2dg =∫F

|ψ(z)|2y2k dxdy

y2 = ‖ψ‖2 < ∞

ouF est un domaine fondamental deΓ dansΠ+ (cf. [G.]). On remarqueraque le second membre estegala ‖ψ‖2, ou ‖ψ‖ est la norme deψ pour leproduit scalaire de Petersson.Finalement, ∫

Γ\G| < π2k(g)φk | ψ > |2dg = 16‖ψ‖2.

Reciproquement, soitψ ∈ (H−∞2k )Γ2 . Il s’agit de demontrer queψ s’identifie

a une forme modulaire parabolique de poids2k. En effet, on sait queψs’identifiea une fonction holomorphe surΠ+.De plus,ψ verifie la condition d’automorphie des formes modulaires depoids2k , en effet, commeψ estπ2k(Γ )-invariante comme distribution,alors

< π2k(γ−1)π2k(g−1)φk | ψ >=< π2k(g)φk | ψ > ∀g ∈ G, γ ∈ Γ

d’ouψ(i.gγ)µr(i, gγ)−2k = ψ(i.g)µr(i, g)−2k

or,µr(i, gγ) = µr(i.g, γ)µr(i, g) et on a donc

ψ(z.γ)µr(z, γ)−2k = ψ(z) ∀γ ∈ Γ, z ∈ Π+

ce qui est la condition d’automorphie pourψ.Il restea montrer queψ est holomorphea l’infini et parabolique, c’esta direque siψ(q) =

∑n∈Z anq

n est le developpement de Laurenta l’origine de lafonctionψ(q) = ψ(z) ou q = e2iπz, alorsan = 0 pour toutn ≤ 0. Ceci estun corollaire du fait queψ est une forme automorphe (meromorphe) et du

Page 20: Espace de Hardy pour les quotients

40 D. Achab

fait queψ verifie la condition de carre integrabilite qui donne, en particulier,pourφ = φk ∫

F|ψ(z)|2dxdy

y2 < ∞

(On trouvera dans [M.], p.229, la demonstration du fait que pour une formeautomorphe meromorphe surΠ+, la finitude de l’integrale ci-dessus entrainela nullite desan pour toutn ≤ 0.Ici se termine la preuve de la proposition.

On deduit le theoreme suivant sur la decomposition de l’espaceH2Γ (C).

5.4.2. Theoreme.H2Γ (C) = C ⊕

⊕k∈N

mkHk

ou N est l’ensemble des entiersk ≥ 2 tels quemk 6= 0, avecmk =dimM◦

k (Γ ) et ou pour toutk, Hk est un sous-espace deH2Γ (C) invari-

ant et irreductible pour l’action reguliere droite deG et equivalenta larepresentation(π2k,H2k(Π+)).

Dans ce qui suit, nous allons expliciter les espacesHk.

5.4.3. Proposition. Pour toutψ ∈ M◦k (Γ ),∫

Γ\G| < π2k(g)φ|ψ > |2dg =

2k − 1π

‖ψ‖2‖φ‖2 ∀φ ∈ H∞2k.

ou ‖ψ‖ est la norme deψ pour le produit scalaire de Petersson.

Preuve.On montre, grace aux relations d’orthogonalite demontrees par J.Farautdans le cas des espaces homogenes (cf. [F-G]), qu’il existe une constantec(k;ψ) > 0 telle que∫

Γ\G| < π2k(g)φ|ψ > |2dg = c(k;ψ)‖φ‖2 ∀φ ∈ H∞

2k.

De plus, pourφ = φk, on a

16‖ψ‖2 = c(k;ψ)‖φk‖2 = 16c(k;ψ)∫D

(1 − |ω|2)2k−2dudv

= 16c(k;ψ)π

2k − 1

d’ou c(k;ψ) = 2k−1π ‖ψ‖2.

On deduit le corollaire suivant

Page 21: Espace de Hardy pour les quotients

Espace de Hardy pourΓ\G 41

5.4.4. Corollaire. Soientφ1, φ2 ∈ H∞2k etψ1, ψ2 ∈ M◦

k (Γ ). Alors∫Γ\G

| < π2k(g)φ1 | ψ1 > < π2k(g)φ2 | ψ2 >dg

=2k − 1π

< φ1 | φ2 > < ψ1 | ψ2 >.

On rappelle que

S(C) = {s =(a bc d

)∈ SL(2,C) | z.s :=

az + c

bz + d∈ Π+ ∀z ∈ Π+}.

Pour toute fonctionψ ∈ M◦k (Γ ), notonsφψ la fonction definie sur le semi-

groupeS(C) par

φψ(s) = ψ(i.s])µr(i, s])−2k =< π2k(s])φk | ψ > ∀s ∈ S(C◦)

ou ] est l’antiautomorphisme deS(C) defini par

s = gexp iY 7→ s] = exp iY g−1 ∀g ∈ G, Y ∈ C

et ou φk est la fonction particuliere dansH∞2k(Π+) definie a la page 16,a

savoir,φk(z) = 4k(−1)k(z + i)−2k z ∈ Π+.

Cette fonctionφψ(s) appartienta l’espace de Hardy cuspidal◦H2Γ (C) et sa

fonction valeur au bordφψ(g) = ψ(i.g−1)µr(i, g−1)−2k est connue pouretre dans◦L2(Γ\G). En effet, il est clair queφψ est dans l’espace de HardyH2Γ (C) et qu’elle verifie la condition cuspidale :∫ 1

0φψ(n(x)s0)dx =

∫ 1

0ψ(i.s]0n(−x))µr(i, s]0n(−x))−2kdx

=∫ 1

0ψ(z.n(−x))µr(z, n(−x))−2kµr(i, s

]0)

−2kdx

= µr(i, s]0)

−2k∫ 1

0ψ(z − x)dx = 0

carψ est une ”cusp form” (ou z = is]0).

SoitR(g) (resp.L(g)) l’action reguliere droite (resp. gauche) deG. Remar-quons que pourg0 ∈ G, etψ une fonction surΠ+, la fonctionR(g0)φψ esten general differente deφπ2k(g0)ψ. Par contre,

L(g0)φψ = φπ2k(g0)ψ.

Soit maintenantψ une forme modulaire parabolique de poids2k. NotonsH(ψ) (resp.H(ψ)) le plus petit sous-espace ferme deH2

Γ (C) (resp. de

Page 22: Espace de Hardy pour les quotients

42 D. Achab

H2Γ (C)) qui contient tous lesR(s)φψ, s ∈ S(C) (resp. lesR(g)φψ, g ∈

G). AlorsH(ψ) = b(H(ψ)) ou b est l’operateur valeur au bord. L’espaceH(ψ) est irreductible (cf. [K.]) sous l’action deG. Il en est donc de memepourH(ψ) sous l’action deS(C). Les representations(R,H(ψ)) et (π2k,H2k(Π+)) sontequivalentes. En effet, soitAψ l’operateur lineaire continudeH2k(Π+) dansH(ψ) tel que

Aψ(φk) = φψ etAψ(π2k(g)φ) = R(g)(Aψφ) ∀ φ ∈ H∞2k,∀ g ∈ G.

Aψ est un isomorphisme qui entrelace les deux representations.

Soit maintenant{ψ(k)1 , ψ

(k)2 , . . . , ψ

(k)mk} une base orthonormee deM◦

k (Γ )(pour le produit scalaire de Petersson).

5.4.5. Proposition. Les sous-espacesH(ψ(k)j ), k ∈ N, 1 ≤ j ≤ mk (de

H2Γ (C)) sont orthogonaux deuxa deux.

Preuve.- Pourk ∈ N donne, et pour1 ≤ i, j ≤ mk aveci 6= j, les sous-espacesH(ψ(k)

j ) etH(ψ(k)i ) sont orthogonaux gracea la proposition 5.4.3. et son

corollaire 5.4.4. En effet, il s’agit de montrer que la fonctionφψ

(k)i

est or-

thogonalea la fonctionR(g0)φψ(k)j

pour toutg0 ∈ G. On a∫Γ\G

R(g0)φψ(k)j

(g)φψ

(k)i

(g)dg

=∫Γ\G

< π2k(g)π2k(g0)φk | ψ(k)j > < π2k(g)φk | ψ(k)

i >dg

=2k − 1π

< π2k(g0)φk | φk > < ψ(k)j | ψ(k)

i > = 0

gracea la relation d’orthogonalite du corollaire 5.4.4.

- Pourk, l ∈ N aveck 6= l donnes, soientψk ∈ M◦k (Γ ) etψl ∈ M◦

l (Γ ). Ils’agit de montrer que la fonctionφψl

est orthogonalea la fonctionR(g0)φψk

et ce, pour toutg0 ∈ G, c’esta dire, pour toutg0 ∈ G∫Γ\G

< π2k(g)π2k(g0)φk | ψk > < π2l(g)φl | ψl >dg = 0.

C’est une consequence du fait que les representations(π2k,H2k(Π+)) et(π2l,H2l(Π+)) ne sont pasequivalentes lorsquek 6= l.

5.4.6. Theoreme.

(i) ◦H2Γ (C) =

⊕k∈N

mk⊕j=1

H(ψ(k)j )

(ii) H2Γ (C) = ◦H2

Γ (C) ⊕ C.

Page 23: Espace de Hardy pour les quotients

Espace de Hardy pourΓ\G 43

5.5. Noyau de Cauchy-Szego

Dans cette Sect. nous allons calculer le noyau de Cauchy-Szego de l’espacede Hardy cuspidal◦H2

Γ (C).

Pour toutk ∈ N, on note{ψ(k)1 , . . . , ψ

(k)mk} une base orthonormee (pour le

produit de Petersson) deM◦k (Γ ) et (u(i)

k,j)i∈Ak,june base hilbertienne de

l’espaceH2k(Π+). Alors, grace au corollaire 5.4.4., les fonctionsφ(i)k,j , k ∈

N, 1 ≤ j ≤ mk, i ∈ Ak,j definies par

φ(i)k,j(g) =

√π

2k − 1< π2k(g)u

(i)k,j | ψ(k)

j > g ∈ G

forment une base hilbertienne de◦H2Γ (C). Le noyau reproduisant est alors

donne par

K(s1, s2) =∑k∈N

mk∑j=1

∑i∈Ak,j

φ(i)k,j(s1)φ

(i)k,j(s2)

=∑k∈N

π

2k − 1

mk∑j=1

< π2k(s1)ψ(k)j | π2k(s2)ψ

(k)j >

=∑k∈N

π

2k − 1

mk∑j=1

< π2k(s]2s1)ψ

(k)j | ψ(k)

j >

= K◦(s]2s1)

avec

K◦(s) =∑k∈N

π

2k − 1

mk∑j=1

< π2k(s)ψ(k)j | ψ(k)

j > s ∈ S(C◦).

Dans ce qui suit, on exprimera la sommemk∑j=1

< π2k(s)ψ(k)j | ψ(k)

j > a l’aide

du noyau reproduisant de l’espaceM◦k (Γ ).

On rappelle que le noyau reproduisant deH2k(Π+) est donne par

Kk(z1, z2) =2k − 1

4π(z1 − z2

2i)−2k ∀z1, z2 ∈ Π+

et que celui deM◦k (Γ ) est donne par la serie absolument convergente

KΓk (z1, z2) =

12

∑γ∈Γ

Kk(γz1, z2)µl(γ, z1)−2k.

Page 24: Espace de Hardy pour les quotients

44 D. Achab

Par ailleurs, si{ψ(k)1 , . . . , ψ

(k)mk} est une base orthonormee deM◦

k (Γ ) pourle produit de Petersson, alors

KΓk (z1, z2) =

mk∑j=1

ψ(k)j (z1)ψ

(k)j (z2).

Par suite,

mk∑j=1

< π2k(s)ψ(k)j | ψ(k)

j >

=mk∑j=1

∫Π+

(π2k(s)ψ(k)j )(z)ψ(k)

j (z)y2k dxdy

y2

=mk∑j=1

∫Π+

µr(z, s)−2kψ(k)j (z.s)ψ(k)

j (z)y2k dxdy

y2

=∫Π+

(µr(z, s)−2kKΓk (z.s, z)y2k dxdy

y2 .

On en deduit

5.5.1. Proposition. Le noyau de Cauchy-Szego de l’espace de Hardycuspidal◦H2

Γ (C) est donne par la serie absolument convergente

K◦(s) =∑k∈N

π

2k − 1

∫Π+

µr(z, s)−2kKΓk (z.s, z)y2k dxdy

y2 ∀s ∈ S(C◦)

ou N = {k ∈ N,dimM◦k (Γ ) 6= 0} et ouKΓ

k designe le noyau reproduisantde l’espaceM◦

k (Γ ) des formes modulaires paraboliques de poids2k.

Remarque. Pour toute forme modulaireψ ∈ M◦k (Γ ), et pour touts ∈

S(C◦), on considere la serie formelle (de type serie de Poincare)

P(ψ; s)(z) =∑α∈Γ.s

ψ(z.α)µr(z, α)−2k z ∈ Π+.

Si cette serie converge, elle definirait une cusp form de poids2k. De plus,si (. | .) designe le produit scalaire de Petersson, on a

< π2k(s)ψ | ψ >= (P(ψ; s) | ψ).

Par suite, la correspondance (formelle)

Ts : M◦k (Γ ) → M◦

k (Γ )ψ 7→ P(ψ; s)

Page 25: Espace de Hardy pour les quotients

Espace de Hardy pourΓ\G 45

definit un operateur lineaire et la sommemk∑j=1

< π2k(s)ψ(k)j | ψ(k)

j >, est

egalea la trace de cet operateur.Malheureusement, cette interpretation est purement formelle, car la serie dePoincare ci-dessus est divergente.

References

[A.] D. Achab, RepresentationsC-dissipatives irreductibles, Colloque ”Programme deGelfand-Gindikin”, Univ. Paris VI, (1996).

[B.] A. Borel, Introduction to automorphic forms, Proc. Symp. Pure Math. 9, Amer.Math. Soc. (1966) 199–210.

[C.] M. Chadli, Espace de Hardy d’un espace symetrique de type Cayley, These del’universite Paris VI, (1996).

[D.] P. Deligne, Formes modulaires et representations de GL(2), Lecture Notes in Math.349, (1973).

[D-F] M.G. Davidson, R.C. Fabec, Geometric realizations for highest weight represen-tations, Contemp. Math., in press.

[F-G] J. Faraut, P. Graczyk, Espace de Hardy d’un espace symetrique de type hermitien,en preparation.

[F-O] J. Faraut, G. Olafsson, Causal semisimple symmetric spaces, the geometry and har-monic analysis, Semigroups in Algebra, Geometry and Analysis, K.H. Hofmannet al., eds., de Gruyter expos. in Math., 20, 1995, p. 3–32.

[G.] S. Gelbart, Automorphic forms for Adele groups, Princeton University Press,(1975).

[HC] Harish-Chandra, Automorphic forms on semisimple Lie groups, Lecture Notes inMath.62, (1968).

[H-O-O] J. Hilgert, G.Olafsson, B.Orsted, Hardy spaces on affine symmetric spaces, J. reineund angew. Math.,415, (1991), 189–218.

[K.] T. Kubota, Elementary theory of Eisenstein series, (1973).[M.] T. Miyake , Modular forms, Springer-Verlag, (1989)[N.1] K.H. Neeb, Holomorphic representations I, Math. Ann.,301, (1995) 155–181.[N. 2] K.H. Neeb, Holomorphic representations II, Acta. Math.,173, (1994), 103–133.[N.3] K.H. Neeb, Smooth vectors for highest weight representations, preprint (1997).[O.1] G.I. Olshanski, Invariant cones in Lie algebras, Lie semigroups and the holomor-

phic discrete series, Funct. Anal. and Appl.,15, 275–285, (1981).[O.2] G.I. Olshanski, Complex semigroups, Hardy spaces and the Gelfand-Gindikin

program, conference report, Differential Geometry and its Applications,1, (1982),235–246.