C. R. Acad. Sci. Paris, t. 333, Série I, p. 745–750, 2001Analyse harmonique/Harmonic Analysis

Groupes engendrés par des réflexions, designssphériques et réseau de Leech*

Pierre de la HARPEa, Boris VENKOV b

a Section de mathématiques, C.P. 240, CH-1211 Genève 24, Suisseb St. Petersbourg’s Department of the Steklov Mathematical Institute, Fontanka 27, St. Petersbourg, Russie

Courriel : Pierre.delaHarpe@math.unige.ch; bvenkov@pdmi.ras.ru

(Reçu le 27 août 2001, accepté le 21 septembre 2001)

Résumé. Si X est un sous-ensemble fini de Rn de vecteurs unité, GX désigne le groupe engendrépar les réflexions rx par rapport aux hyperplans orthogonaux aux vecteurs x ∈ X.Lorsque X est un t-design sphérique et π

(k)har la représentation de GX dans les polynômes

harmoniques en n variables de degré k, on analyse le spectre de l’opérateur de Markov1

|X|∑

x∈Xπ

(k)har(rx). Si k est assez petit, cet opérateur est un multiple scalaire de l’identité.

Par ailleurs, si X est le 11-design sphérique des vecteurs courts d’un réseau de Leech,on montre d’une part que le groupe infini GX contient le groupe fini de Conway Co etd’autre part qu’il est quotient d’un groupe de Coxeter remarquable. 2001 Académie dessciences/Éditions scientifiques et médicales Elsevier SAS

Reflection groups, spherical designs and Leech lattice

Abstract. For a finite subset X ⊂ Rn of unit vectors, GX denotes the group generated by reflectionsrx fixing hyperplanes orthogonal to x ∈ X. When X is a spherical t-design and π

(k)har the

representation of GX in the harmonic polynomials in n variables of degree k, the spectrumof the Markov operator 1

|X|∑

x∈Xπ

(k)har(rx) is analyzed. If k is small enough, this operator

is a scalar multiple of the identity. When X is the spherical 11-design of short vectors in aLeech lattice, it is shown that the infinite group GX contains the finite Conway group Coand is a quotient of a remarkable Coxeter group. 2001 Académie des sciences/Éditionsscientifiques et médicales Elsevier SAS

Abridged English version

Let G be a group generated by a finite set S. For a representation π of G in a vector space V , we areinterested in the spectrum of the Markov operator π(MS) = 1

|S|∑

s∈S π(s). The seminal paper for thisis [13]; later work include [11,12,4,3], and [10].

Let E be a Euclidean space, S = SEρ the sphere in E of some radius ρ > 0, and X a finite subset

of S; let GX denote the group generated by the reflections fixing hyperplanes orthogonal to vectors in X .For k � 0, denote by P(k)(E) the complex vector space of all homogeneous polynomial functions of

degree k on E, by H(k)(E) the subspace of harmonic polynomials, and by π(k)har(MX) the Markov operator

associated to the natural representation of GX on H(k)(E).

Note présentée par Étienne GHYS.

S0764-4442(01)02142-5/FLA 2001 Académie des sciences/Éditions scientifiques et médicales Elsevier SAS. Tous droits réservés 745

P. de la Harpe, B. Venkov

For an integer t� 1, the following conditions are equivalent (see, for example, [8] and [18]). We denoteby SO(E) the special orthogonal group of E and by dx the SO(E)-invariant probability measure on S.

(i)∫

Sf(x) dx= 1

|X|∑

x∈X f(x) for all f ∈ P(k)(E) and k ∈ {0,1, . . . , t}.

(ii)∑

x∈X f(x) =∑

x∈X f(σx) for all f ∈ P(k)(E), k ∈ {0,1, . . . , t}, and σ ∈ SO(E).(iii)

∑x∈X f(x) = 0 for all f ∈ H(k)(E) and k ∈ {1, . . . , t}.

(iv) If p is the largest even integer such that 0 � p� t, there exists a constant cp such that

1|X |

∑x∈X

〈x | u〉p = cp ρp〈u | u〉p/2 for all u ∈E,

and, if i is the largest odd integer such that 0 � i� t, then 1|X|

∑x∈X〈x | u〉i = 0, for all u ∈E.

When these conditions hold, X is said to be a spherical t-design. If n denotes the dimension of E, theconstant in (iv) is then given by

cp =1 · 3 · 5 · · · (p− 1)

n (n+ 2) (n+ 4) · · · (n+ p− 2)

for p � 2, and c0 = 1 for p = 0. Root systems are standard examples: (i) Al (l � 1), Dl (l � 4), and El

(l = 6, 7, 8) are spherical 3-designs; (ii) A1, A2, D4, E6, and E7 are spherical 5-designs; (ii) E8 is aspherical 7-design. (For the 3-design condition, see [5], Chapter V, § 6, no 2, Corollary on page 121.) Theset L4 consisting of the 196 560 short vectors in a Leech lattice L < R24 is a spherical 11-design [18].Spherical t-designs in Rn are known to exist for all n� 2 and t� 1 [16]. Designs L4 and E8 are uniquelycharacterized by some extremal conditions (minimal number of vectors for givenn and t— see [1] and [2]).

ForX a spherical t-design, Theorem 1 shows that π(k)har(MX) is a scalar multiple of the identity whenever

k � t/2. In case X = L4, Theorem 2 shows that each of π(6)har(MX) and π

(7)har(MX) has exactly two

eigenvalues. Similar results hold for the spherical 7-design X = E8 of size 240 and its correspondingfinite group GX .

For X = L4, it can be shown that GX contains the finite Conway group Co (Proposition 3), and that GX

itself is a discrete subgroup of an appropriate 2-adic orthogonal group O(24,Q2). MoreoverGX is naturallya quotient of a Coxeter group on 98 280 generators, of which the canonical invariant bilinear form is positivedefinite (resp. negative definite) on a subspace of dimension 17 250 (resp. 81 030); see Theorem 4.

1. Introduction

Soient G un groupe de type fini, S un système fini de générateurs de G et π : G → GL(V ) unereprésentation de G dans un espace vectoriel complexe V . À ces données sont associés l’élémentMS = 1

|S|∑

s∈S s ∈ Q[G], l’opérateur de Markov π(MS) = 1|S|

∑s∈S π(s) ∈ End(V ) et son spectre

{λ ∈ C : λ − π(MS) non inversible}. Pour la représentation régulière π de G dans l’espace de Hilbert�2(G), l’opérateur de Markov joue un rôle important [13] dans l’étude de la marche aléatoire simple sur legraphe de Cayley de la paire (G,S) ; pour d’autres cas, voir [11,12,4,3] et [10].

On considère un espace euclidien E, un rayon ρ > 0, la sphère S = SEρ d’équation 〈x | x〉 = ρ2 dans E

et un sous-ensemble fini X de S. Tout vecteur x ∈X définit une réflexion rx :E u �→ u− 2 〈x|u〉〈x|x〉x ∈E.

On note GX le sous-groupe du groupe orthogonal O(E) de E engendré par {rx : x ∈ X} et on poseMX = 1

|X|∑

x∈X rx.

Pour tout entier k � 0, soient P(k)(E) l’espace vectoriel complexe des applications polynomialesE→ C

homogènes de degré k et H(k)(E) le sous-espace des polynômes harmoniques de degré k, noyau du

746

Groupes engendrés par des réflexions

Laplacien P(k)(E) → P(k−2)(E). Rappelons que P(k)(E) = H(k)(E) ⊕ ωP(k−2)(E), où ω(x) = 〈x | x〉,que cette somme directe est O(E)-invariante, et que la représentation naturelle π(k)

har de O(E) dans H(k)(E)est irréductible. Nous notons encore π(k)

har sa restriction à tout sous-groupe de O(E). Si X est un sous-

ensemble fini de SEρ , on a ainsi un opérateur de Markov π(k)

har(MX) ∈ End(H(k)(E)

).

L’objet de ce travail est de mettre en évidence les propriétés remarquables des groupesGX et de groupes« apparentés » pour certains t-designs sphériques X , et des spectres des opérateurs π(k)

har(MX) pour de« petites » valeurs de k.

2. Spectres des opérateurs de Markov

Soit X ⊂ SEρ un t-design sphérique dans la sphère de rayon ρ d’un espace euclidien E, et soient GX ,

MX comme ci-dessus.Si E est de dimension n, il est facile de calculer la dimension de H(k)(E) et la trace de π(k)

har(MX), qui

est aussi celle de π(k)har(rx) pour x ∈X . On trouve ainsi la moyenne des valeurs propres de π(k)

har(MX) :

trace(π(k)har(MX))

dim(H(k)(E))=

n− 2n+ 2(k− 1)

.

En particulier, cette trace normalisée tend vers 0 lorsque k tend vers l’infini.Pour k assez petit, il n’y a qu’une valeur propre ! Plus précisément :

THÉORÈME 1. – Pour tout entier k tel que 1 � k � t/2, l’opérateur de Markov π(k)har(MX) est un

multiple de l’identité dans H(k)(E).

Esquisse de démonstration. – Si k = 1, la propriété (iv) des 2-designs sphériques montre que

1|X |

∑x∈X

rx(u) = u− 2|X |

∑x∈X

〈u | x〉〈x | x〉 x= u− 2c2u=

n− 2n

u

pour tout u ∈E. Si k � 2, on choisit pour f ∈ H(k)(E) une écriture de la forme f(u) =∑

z∈Z γz〈z | u〉k ,où Z est un sous-ensemble fini ad hoc de E. On développe

(π

(k)har(M)f

)(u) =

∑z∈Z

γz1|X |

∑x∈X

(〈z | u〉 − 2

〈z | x〉〈x | x〉 〈x | u〉

)k

=∑z∈Z

γz

k∑j=0

k! (−2)j

j! (k− j)!〈z | u〉k−j 1

|X |∑x∈X

〈z | x〉j〈x | u〉j〈x | x〉j

et on utilise des identités, obtenues par polarisation à partir de la propriété (iv), du type

1|X |

∑x∈X

〈x | u〉j〈x | v〉j =∑

0�a�j/2

dj,a 〈u | u〉a〈u | v〉j−2a〈v | v〉a

pour tous u, v ∈E et j ∈ N avec 0 � 2j � t, où les dj,a ∈ R sont des constantes convenables. ✷Les plus petites valeurs de k non couvertes par ce premier résultat révèlent également des propriétés

remarquables.

THÉORÈME 2. – Soit X = L4 le 11-design sphérique des vecteurs courts d’un réseau de Leech. Alorsπ

(6)har(MX) a exactement deux valeurs propresB, B+B′, respectivement de multiplicités 376 740 et 80 730,

747

P. de la Harpe, B. Venkov

où

B =3 · 157

23 · 7 · 13≈ 0,646978 et B′ =

123 · 3 · 7 · 13

≈ 4,58 · 10−4.

Et π(7)har(M) a exactement deux valeurs propres C, C + C′, respectivement de multiplicités 1 841 840 et

95 680, où

C =17 · 157

24 · 3 · 7 · 13≈ 0,611 et C′ =

32

26 · 7 · 13≈ 1,545 · 10−3.

Esquisse de démonstration. – Soit f ∈H(6)(R24). Un calcul fastidieux mais élémentaire montre que

(π

(6)har(M)f

)(u) =Bf(u) +

2−6

|X |∑y∈X

〈y | u〉6f(y)

pour tout u ∈ E et que 2−6

|X|∑

y∈X〈y | x〉6f(y) = B′ f(x) pour tout x ∈ X . Ainsi, l’espace propre de

π(6)har(MX) de valeur propre B correspond aux fonctions de H(6)(R24) dont la restriction à X est nulle.

La preuve pour π(7)har(MX) procède par pas analogues, et utilise de plus la propriété de X = L4 d’être un

11 12 -design sphérique, c’est-à-dire d’être tel que 1

|X|∑

x∈X f(x) = 0 pour tout f ∈ H(k)(R24) lorsquek � 11 et lorsque k = 14, mais pas lorsque k = 12. (Cette propriété se vérifie elle-même à l’aide defonctions thêta associées au réseau de Leech. Voir [17] ; voir aussi le § 3.2 de [9].) ✷

De même, pour un 7-design sphérique de typeE8, on peut montrer que l’opérateur de Markov π(4)har(MX)

a exactement deux valeurs propres : 2/5 de multiplicité 252 et 1/2 de multiplicité 42 ; et que π(5)har(MX) a

également deux valeurs propres : 7/20 de multiplité 112 et 1/2 de multiplicité 560.

3. Les groupesGX etWX associés au11-design sphériqueL4

Rappelons que le groupe Co = Aut(L) des automorphismes d’un réseau de Leech L < R24 est unsous-groupe fini de O(24) de centre {±Id}, qu’il coïncide avec son groupe des commutateurs, qu’ilopère transitivement sur l’ensemble L4 des vecteurs x ∈ L tels que 〈x | x〉 = 4, et que le quotientCo1 = Co/{±Id} est le plus grand des trois groupes sporadiques simples de Conway [7].

PROPOSITION 3. – Pour X = L4, le groupe GX défini plus haut contient Co comme sous-groupe fini.

Esquisse de démonstration. – Étant donné un modèle de réseau de LeechL [9], on construit explicitementdes vecteurs x1, . . . , x8 ∈ L4 tels que le produit des réflexions définies par les xi soit dans Co et ne soitpas un multiple de l’identité. Par suite, N = {σ ∈ Co : il existe x1, . . . , xk ∈ L4 tels que σ = rx1 · · ·rxk

}est un sous-groupe normal non central de Co. Il résulte de la simplicité de Co1 et de la perfection de Coque N = Co est un sous-groupe de GX . ✷

La multiplicité 80 730 qui apparaît au théorème 2 est la dimension du caractère irréductible de Co1 notéχ10 dans [6].

Le groupe GX est un groupe infini qui mérite sans doute d’être analysé plus précisément. Notonsdésormais O(24,R) le groupe orthogonal de l’espace euclidien standard de dimension 24 ; notonsO(24,Q2) le groupe orthogonal de la forme quadratique naturelle sur L ⊗Z Q2, qui est isomorphe surles 2-adique à

∑24i=1 q

2i (voir [14], page 86). Bien que les réflexions rx (où x ∈X) ne laissent pas le réseau

de Leech L invariant, elles laissent invariante l’extension L ⊗Z Z[

12

]. Cette extension étant elle-même

un sous-groupe discret de R24 ⊕ Q242 , il en résulte que GX est un sous-groupe discret du produit direct

O(24,R)×O(24,Q2), donc aussi de O(24,Q2).

748

Groupes engendrés par des réflexions

On peut par exemple déduire de cela des majorations de la dimension cohomologique virtuelle de GX ,comme dans [15]. Nous ignorons si GX est Zariski-dense (et a fortiori si c’est un réseau) dans O(24,R)×O(24,Q2) ; dans cet ordre d’idée, on peut définir comme suit des sur-groupes naturels de GX . Pour toutk � 2, soit L2k l’ensemble des vecteurs x ∈ L tels que 〈x | x〉 = 2k et G(k) le sous-groupe de O(24,R)engendré par les réflexions rx pour x ∈ L4∪L8∪· · ·∪L2k . AlorsGX =G(2) ⊂G(3) ⊂ · · · ⊂G(k) ⊂ · · · etchacun de ces groupes laisse invariant L⊗Z Z

[12

]. Par suite, chaque G(k) est naturellement un sous-groupe

discret de O(24,R)×O(24,Q2).SoitX ′ ⊂X une partie qui contient exactement l’un des vecteur x, −x pour tout x ∈X , de sorte queGX

est engendré par l’ensemble {rx : x ∈ X ′} à 98 280 éléments. Soit WX le groupe de Coxeter ayant unsystème de générateurs (sx)x∈X′ en bijection avec X ′ et des relations

s2x = 1 pour tout x ∈X ′ ;(sxsy)2 = 1 pour x, y ∈X ′ tels que 〈x | y〉 = 0 ;(sxsy)3 = 1 pour x, y ∈X ′ tels que 〈x | y〉 = ±2

(et sxsy d’ordre infini pour 〈x | y〉 = ±1). Notons que le groupe GX est naturellement un quotient de WX .Soit RX′

l’espace vectoriel des fonctions de X ′ dans R, muni de la base canonique (ex)x∈X′ et de laforme bilinéaireB pour laquelleB(ex, ey) vaut 1 (resp. 0, −1, − 1

2 ) lorsque 〈x | y〉 vaut 4 (resp. 0, ±1, ±2).

La représentation géométrique σ : WX → O(RX′,B) est fidèle et conserve la forme B (voir [5], chap. V,

§ 4).

THÉORÈME 4. – Avec les notations ci-dessus, la forme bilinéaire BX est non dégénérée de signature(17 250, 81 030).

Remarque. – La proportion de signes négatifs dans cette signature dépasse 80 %, ce qui semble être unrecord. ✷

Esquisse de démonstration. – Dans l’algèbre des matrices à lignes et colonnes indexées parX ′, on définitd’abord V0 = J (la matrice dont tous les coefficients sont 1) et V2, V4 par (V2j)x,y = 〈x | y〉j , puis lesmatrices

e0 =(∣∣X ′∣∣)−1

V0 =(23 · 33 · 5 · 7 · 13

)−1V0,

e2 =(24 · 32 · 5 · 7

)−1V2 − 13 e0,

e4 =(27 · 32

)−1V4 − 15 e2 − 105 e0.

La propriété (iv) des designs sphériques implique des conditions du type

1X

∑y∈X

〈x | y〉j〈y | z〉k =∑

0�b�min{j,k} et b pair

dj,k,b〈x | z〉b

pour tous x, z ∈X , qui permettent d’écrire les produits de deux matrices V0, V2, V4 comme combinaisonslinéaires de ces mêmes matrices. Il résulte des calculs que les quatre éléments e0, e2, e4, I − e0 − e2 − e4sont des idempotents orthogonaux deux à deux. En calculant de plus leurs traces, on montre que les sous-espaces correspondants de RX′

sont respectivement de dimensions 1, 299, 17 250 et 80 730.Certains de ces calculs apparaissent déjà dans [17]. Ils montrent aussi que, sur l’ensemble X ′, les

relations définies par 〈x | y〉 = 0, 〈x | y〉 = ±1, 〈x | y〉 = ±2 (et x= y), définissent un schéma d’associationà trois classes (et la diagonale), de matrices d’incidence les Aj ci-dessous (et l’identité).

On définit les matrices A0, A1 et A2 par

(Aj)x,y ={

1 si 〈x | y〉 ∈ {j,−j},

0 sinon,

749

P. de la Harpe, B. Venkov

de telle sorte que

V0 = I +A2 +A1 +A0, V2 = 16I + 4A2 +A1, V4 = 256I + 16A2 +A1, B = I − 12 A2 −A1,

où B est la matrice de la forme BX . Réciproquement, les matrices Aj et B sont des combinaisons linéairesdes idempotents :

A2 = 25 · 3 · e4 + 22 · 3 · 5 · 17 · e2 + 22 · 3 · 5 · 7 · 11 · e0 − 22 · 5 · I,A1 = −27 · 3 · e4 + 26 · 3 · 5 · e2 + 26 · 3 · 5 · 72 · e0 + 26 · I,B = 283 e4 − 13 · 109 e2 − 49297 e0 − 53 (I − e0 − e2 − e4).

Cette écriture de B et les calculs des traces des idempotents rendent le résultat du théorème immédiatementvisible. (On obtiendrait de même d’autres informations, par exemple le déterminant de B.) ✷

* Les auteurs ont bénéficié d’un soutien du « Fonds national suisse de la recherche scientifique » (FNSRS).

Références bibliographiques

[1] Bannai E., Damerell R.M., Tight spherical designs, I, J. Math. Soc. Japan 31 (1979) 199–207.[2] Bannai E., Damerell R.M., Tight spherical designs, II, J. London Math. Soc. 21 (1979) 13–30.[3] Bartholdi L., Grigorchuk R., On the spectrum of Hecke operators related to some fractal groups, Trudy Math. Inst.

Steklov 231 (2000) 5–45.[4] Béguin C., Valette A., Zuk A., On the spectrum of a random walk on the discrete Heisenberg group and the norm

of Harper’s operator, J. Geom. and Phys. 21 (1997) 337–356.[5] Bourbaki N., Groupes et algèbres de Lie, chapitres 4, 5 et 6, Hermann, Paris, 1968.[6] Conway J.H., Curtis R.T., Norton S.P., Parker R.A., Wilson R.A., Atlas of Finite Groups, Clarendon Press, 1985.[7] Conway J.H., Sloane N.J.A., Sphere Packings, Lattices and Groups, Die Grundlehren der mathematischen

Wissenschaften, Band 290, Springer-Verlag, 1999.[8] Delsarte P., Goethals J.M., Seidel J.J., Spherical codes and designs, Geometriae Dedicata 6 (1977) 303–388.[9] Ebeling W., Lattices and Codes, a Course Partially Based on Lectures by F. Hirzebruch, Vieweg, 1994.

[10] Grigorchuk R., Zuk A., The lamplighter group as a group generated by a 2-state automaton and its spectrum,Prépublication.

[11] Harpe P. (de la), Robertson G., Valette A., On the spectrum of the sum of generators for a finitely generated group,Israel J. Math. 81 (1993) 65–96.

[12] Harpe P. (de la), Robertson G., Valette A., On the spectrum of the sum of generators for a finitely generated group,part II, Colloquium Math. 65 (1993) 87–102.

[13] Kesten H., Symmetric random walks on groups, Trans. Amer. Math. Soc. 92 (1959) 336–354.[14] Serre J.-P., Cours d’arithmétique, Presses univ. de France, 1970.[15] Serre J.-P., Cohomologie des groupes discrets, in: Prospects in Mathematics, Annals of Math. Studies, Vol. 70,

Princeton University Press, 1971, pp. 77–169.[16] Seymour P.D., Zaslavsky T., Averaging sets: a generalization of mean values and spherical designs, Adv. Math. 52

(1984) 213–240.[17] Venkov B., Even unimodular extremal lattices, Trudy Mat. Inst. Steklov 165 (1984) 43–48.[18] Venkov B., Réseaux et « designs » sphériques (Notes par Martinet J.), Monographie 37 de l’Enseignement mathé-

matique, 2001.

750