Journal of Lie Theory 10 (2000) 221–254 \begin{matrix}c \\ ◯ \end{matrix} 2000 Heldermann Verlag Berlin

Une dualité entre G_{ℝ} et G_{ℂ}/G_{ℝ}

Abderrazak Bouaziz

Communicated by J. Faraut

Abstract. Soit G un groupe algébrique semi-simple défini sur ℝ. On suppose que son groupe de Weyl contient −1. Nous montrons qu’il existe une correspondance bijective entre l’ensemble des orbites stables dans le groupe G_{ℝ} des points réels de G, et l’ensemble des orbites stables dans l’espace symétrique G_{ℂ}/G_{ℝ}. Cette correspondance transforme les distributions stablement invariantes (resp. les fonctions orbitales stables) sur G_{ℝ} en des fonctions orbitales stables (resp. en des distributions stablement invariantes) sur G_{ℂ}/G_{ℝ}. Comme application, nous montrons que la formule d’inversion des intégrales orbitales sur G_{ℝ} implique la formule de Plancherel de G_{ℂ}/G_{ℝ}.

Introduction

Soit G un groupe algébrique semi-simple défini sur ℝ. On note G_{ℂ} (resp. G_{ℝ}) le groupe de ses points complexes (resp. réels). Les travaux de S. Sano, N. Bopp et P. Harinck ont montré que l’ analyse harmonique invariante sur l’espace symétrique G_{ℂ}/G_{ℝ} présente, par plusieurs aspects, des analogies avec l’analyse invariante sur G_{ℝ}, qui s’expliquent en partie par le fait que G_{ℂ}/G_{ℝ} et G_{ℝ} sont localement les mêmes; plus précisément, l’espace tangent en G_{ℝ} de G_{ℂ}/G_{ℝ} s’identifie au sousespace i𝔤_{ℝ} de 𝔤_{ℂ}, donc aussi, à la multiplication par i près, à 𝔤_{ℝ}. Toutefois, la multiplication par i n’est pas complètement sans effet, puisqu’elle transforme les éléments elliptiques en éléments hyperboliques et vice versa; ceci est à l’origine d’un phénomène appelé par Sano dualité [19].

Cette dualité est encore plus frappante dans les formules d’inversion des intégrales orbitales (voir [2] pour G_{ℝ}, et [12] pour G_{ℂ}/G_{ℝ}). Rappelons brièvement ces formules. On note G^{reg} l’ensemble des éléments semi-simples réguliers de G et G_{ℝ}^{reg} = G_{ℝ} ∩ G^{reg}. L’intégrale orbitale d’une fonction f ∈ C_{c}^{∞}(G_{ℝ}), que l’on note I_{G_{ℝ}}(f), est la fonction G_{ℝ}-invariante (par automorphismes intérieurs) et de classe C^{∞} sur G_{ℝ}^{reg} obtenue par intégration le long des orbites (pour un choix convenable de mesures invariantes). L’espace des fonctions ainsi définies sur G_{ℝ}^{reg}, que l’on note I(G_{ℝ}), a été décrit dans [1]; il est muni d’une topologie d’espace LF qui

ISSN 0949–5932 / $2.50 \begin{matrix}c \\ ◯ \end{matrix} Heldermann Verlag fait de I_{G_{ℝ}} une application linéaire continue, et de sa transposée un isomorphisme entre I(G_{ℝ})′, le dual de I(G_{ℝ}), et l’espace des distributions invariantes sur G_{ℝ}. L’algèbre Z(𝔤) des opérateurs différentiels bi-invariants sur G_{ℝ} opère sur I(G_{ℝ}) de sorte que I_{G_{ℝ}} soit un morphisme de Z(𝔤)-modules. En général Z(𝔤) n’a pas de vecteurs propres dans I(G_{ℝ}); l’obstruction étant une condition sur les supports vérifiée par les éléments de I(G_{ℝ}). Si on la supprime, on obtient un espace plus gros, que l’on note E(G_{ℝ}), et que l’on munit d’une topologie d’espace de Fréchet. L’action de Z(𝔤) se prolonge à E(G_{ℝ}) avec “suffisament” de vecteurs propres. Dans la suite les éléments de I(G_{ℝ}) ou E(G_{ℝ}) seront appelés fonctions orbitales.

Si A est un sous-groupe de Cartan de G_{ℝ}, on note Â le groupe de ses caractères unitaires. Alors, à tout caractère a^{∗} de A, on associe une distribution G_{ℝ}-invriante Θ_{a^{∗}}^{G_{ℝ}} sur G_{ℝ} (combinaison linéaire de caractères de G_{ℝ}), et une fonction orbitale propre Ψ_{a^{∗}}^{G_{ℝ}} ∈ E(G_{ℝ}). La formule d’inversion décrit I_{G_{ℝ}}(f) comme “somme” de fonctions orbitales propres:

I_{G_{ℝ}}(f) = ∑_{⟨A⟩} ∫_{A}⟨Θ_{a^{∗}}^{G_{ℝ}}, f⟩Ψ_{a^{∗}}^{G_{ℝ}}da^{∗},

où ∑_{⟨A⟩} signifie qu’on fait la somme sur un ensemble de représentants des classes de conjugaison de sous-groupes de Cartan.

L’intégrale orbitale I_{G_{ℂ}/G_{ℝ}}(f) d’une fonction f ∈ C_{c}^{∞}(G_{ℂ}/G_{ℝ}) est définie comme ci-dessus en intégrant le long des orbites régulières de G_{ℂ}/G_{ℝ}. On introduit de même les espaces I(G_{ℂ}/G_{ℝ}) et E(G_{ℂ}/G_{ℝ}) avec leurs topologies. L’application I_{G_{ℂ}/G_{ℝ}}(f) est continue et sa transposée identifie I(G_{ℂ}/G_{ℝ})′ à l’espace des distributions invariantes sur G_{ℂ}/G_{ℝ}. L’algèbre Z(𝔤) s’identifie à l’algèbre des opérateurs différentiels G_{ℂ}-invariants sur G_{ℂ}/G_{ℝ}; elle opère aussi sur I(G_{ℂ}/G_{ℝ}) et E(G_{ℂ}/G_{ℝ}), et commute avec I_{G_{ℂ}/G_{ℝ}}.

La formule d’inversion sur G_{ℂ}/G_{ℝ} est similaire à celle décrite sur G_{ℝ}: les sous-espaces de Cartan se substituent aux sous-groupes de Cartan, mais, comme ceux-là ne sont pas des groupes, le groupe des caractères est remplacé par un ensemble de fonctions élémentaires, que l’on notera aussi Â pour un sous-espace de Cartan A; les notations Θ_{a^{∗}}^{G_{ℂ}/G_{ℝ}} et Ψ_{a^{∗}}^{G_{ℂ}/G_{ℝ}} désignent encore une fonction généralisée sphérique et une fonction orbitale propre associées à a^{∗} ∈ Â. Alors

I_{G_{ℂ}/G_{ℝ}}(f) = ∑_{⟨A⟩} ∫_{A}⟨Θ_{a^{∗}}^{G_{ℂ}/G_{ℝ}}, f⟩Ψ_{a^{∗}}^{G_{ℂ}/G_{ℝ}}da^{∗},

où, comme ci-dessus, ∑_{⟨A⟩} signifie qu’on fait la somme sur un ensemble de représentants des classes de conjugaison de sous-espaces de Cartan.

Dans les deux formules les Θ_{a^{∗}} forment une “base” de l’espace des distributions invariantes et les Ψ_{a^{∗}} forment “ la base duale”. Toutefois les Θ_{a^{∗}}^{G_{ℝ}} ressemblent plus aux Ψ_{a^{∗}}^{G_{ℂ}/G_{ℝ}} qu’aux Θ^{G_{ℂ}/G_{ℝ}}, et vice versa; par exemple, les Θ_{a^{∗}}^{G_{ℝ}} et les Ψ_{a^{∗}}^{G_{ℂ}/G_{ℝ}} sont obtenus par “recollement” de transformées de Fourier d’orbites sur certaines sous-algèbres de 𝔤_{ℝ}, alors que les Θ^{G_{ℂ}/G_{ℝ}} et les Ψ_{a^{∗}}^{G_{ℝ}} sont obtenus par des séries à la Duflo-Vergne [6]; d’ailleurs c’est en nous inspirant de la construction de certaines fonctions Θ^{G_{ℂ}/G_{ℝ}} [11] que nous avons construit les Ψ_{a^{∗}}^{G_{ℝ}} dans [2].

Le but de cet article est d’apporter quelques éléments d’explication au phénomène de dualité que l’on vient de décrire. En nous inspirant de la théorie des groupes endoscopiques de Langlands-Shelstad, nous avons chercher à établir une correspondance entre les orbites qui pourrait expliquer la dualité. L’idée est la suivante. On identifie G_{ℂ}/G_{ℝ} avec la sous-variété 𝕄 de G_{ℂ} formée des éléments de la forme gσ(g^{−1}), g ∈ G_{ℂ} (σ désigne la conjugaison de G_{ℂ} par rapport à G_{ℝ}). On pourrait alors associer à la G_{ℝ}-orbite d’un élément x ∈ G_{ℝ} l’intersection de sa G_{ℂ}-orbite G_{ℂ}[x] avec 𝕄; mais, pour certains groupes, par exemple SL_{3}, cette intersection est trop souvent vide, et quand elle ne l’est pas on obtient plutôt ce qu’on appelle une classe de conjugaison stable (deux éléments x et y de G_{ℝ} ou 𝕄 sont dits stablement conjugués s’il existe g ∈ G tel que y = gxg^{−1}) ou simplement une orbite stable, qui est une réunion finie d’orbites. Cela nous force à faire deux concessions : la première concerne la classe de groupes pour lesquels la correspondance pourrait être établie, on verra au paragraphe 2 qu’il suffit de se restreindre aux groupes déployés dont le groupe de Weyl contient −1, la seconde est qu’il faut remplacer les orbites ordinaires par les orbites stables, et donc travailler avec des objets stablement invariants (i.e. constants sur les orbites stables) plutôt qu’avec des invariants.

Signalons que la correspondance ci-dessus n’est pas l’unique façon d’aborder le problème de la dualité. Par exemple, si G est obtenu par restriction des scalaires à partir d’un groupe semi-simple défini sur ℝ, alors G_{ℂ}/G_{ℝ} s’identifie canoniquement à G_{ℝ}; pourtant G n’est pas déployé et n’entre donc pas dans le cadre où nous nous plaçons.

Décrivons brièvement le contenu de cet article. Soit G un groupe algébrique semi-simple connexe et simplement connexe défini et déployé sur ℝ. On suppose que le groupe de Weyl de G contient −1. On note O_{G_{ℝ}} (resp. O_{𝕄}) l’ensemble des orbites stables de G_{ℝ} (resp. 𝕄). Nous montrons que l’application

ι : O_{G_{ℝ}} ⟶ O_{𝕄},

définie par ι(ω) = ω ∩ 𝕄, est bijective.

Par intégration le long des orbites stables dans G_{ℝ}^{reg}, on définit comme ci-dessus l’intégrale orbitale stable d’une fonction f ∈ C_{c}^{∞}(G_{ℝ}), que l’on note I_{G_{ℝ}}^{st}(f); elle est constante sur chaque orbite stable. Tout ce qu’on a dit sur les intégrales orbitales a un analogue pour les intégrales orbitales stables; on utilise alors les mêmes notations avec l’exposant “st” pour désigner les objets relatifs aux intégrales orbitales stables. Ainsi on a I^{st}(G_{ℝ}) et E^{st}(G_{ℝ}) avec leurs topologies. On introduit de même les objets analogues sur 𝕄.

On peut énoncer la dualité sous la forme suivante qui sera précisée au paragraphe 5. Pour z ∈ Z(𝔤), on note ž son image (dans Z(𝔤)) par l’antiautomorphisme principal de l’algèbre enveloppante de 𝔤.

Théorème . Il existe une application bilinéaire non nulle ⟨⟨·, ·⟩⟩ sur I^{st}(G_{ℝ}) × E^{st}(𝕄) séparément continue telle que,

⟨⟨z · ψ, φ⟩⟩ = ⟨⟨ψ, ž · φ⟩⟩, pourtout z ∈ Z(𝔤).

Cette dualité induit une application de E^{st}(𝕄) dans I^{st}(G_{ℝ})′, et donc, en composant avec la transposée de I_{G_{ℝ}}^{st} , une application u de E^{st}(𝕄) dans l’espace des distributions stablement invariantes sur G_{ℝ}. Soit Ψ ∈ E^{st}(𝕄). Alors la distribution u(Ψ) est définie par une fonction localement sommable Θ de classe C^{∞} sur G_{ℝ}^{reg}. Pour la décrire remarquons que la fonction Ψ^{∘}ι est définie sans ambiguïté, car Ψ est constante sur les orbites stables. Soit T un tore maximal de G défini sur ℝ. On fixe R^{+} un système de racines positives de T, et on note h_{α} la coracine d’une racine α de T. Alors

Θ(x) = \frac{1}{∏_{α∈R^{+}}(e^{α/2} − e^{−α/2})(x)}∂( ∏_{α∈R^{+}} h_{α}) · (Ψ^{∘}ι)_{|T} , x ∈ T ∩ G_{ℝ}^{reg}.

On peut remplacer dans l’énoncé du théorème l’espace I^{st}(G_{ℝ}) × E^{st}(𝕄) par E^{st}(G_{ℝ}) × I^{st}(𝕄). Ceci permet, comme ci-dessus, d’associer à toute fonction orbitale stablement invariante propre sur G_{ℝ} une distribution sphérique sur 𝕄.

Comme application de la dualité, on montrera comment on peut déduire la formule de Plancherel de 𝕄 de la formule d’inversion des intégrales orbitales sur G_{ℝ}.

Je remercie Patrice Tauvel pour m’avoir fourni la démonstration du lemme 2.4.1, et P. Harinck pour ses commentaires sur une première version de ce texte.

1. Généralités

Si H est un groupe algébrique défini sur ℝ, on l’identifie au le groupe de ses points complexes et on note H_{ℝ} le groupe de ses points réels, 𝔥 (resp. 𝔥_{ℝ}) l’algèbre de Lie de H (resp. H_{ℝ}). On note σ_{H} (ou simplement σ quand aucune confusion n’en résulte) la conjugaison complexe de H (resp. 𝔥) par rapport à H_{ℝ} (resp. 𝔥_{ℝ}).

Si A est une partie de H, on note H[A] = {hah^{−1}, h ∈ H, a ∈ A}.

1.1 Sous-groupes de Cartan

Dans ce paraggraphe H désigne un groupe semi-simple, simplement connexe, défini et déployé sur ℝ.

Si T est un tore maximal de H, on notera R(H, T) l’ensemble des racines de 𝔱 dans 𝔥; on dira, par abus de langage, que R(H, T) est l’ensemble des racines de T dans H. Si α ∈ R(H, T), on note e^{α} le cractère de T correspondant. On notera N(H, T) le normalisateur de T dans H et W (H, T) = N(H, T)/T. Le groupe W (H, T) sera identifié au le groupe de Weyl du système de racines R(𝔥, 𝔱). Quand aucune confusion n’est à craindre on notera R(T), N(T), W (T) à la place de R(H, T), N(H, T), W (H, T). Quand le tore T est défini sur ℝ, on a une action naturelle de σ sur R(T), N(T) et W (T).

Rappelons qu’un sous-groupe de Cartan de H_{ℝ} est l’ensemble des points réels d’un tore maximal de H défini sur ℝ. On note T_{ℝ}(H) l’ensembles des tores maximaux de H définis sur ℝ. L’application: T ↦ T_{ℝ} est une bijection de T_{ℝ}(H) sur l’ensemble des sous-groupes de Cartan de H_{ℝ}.

Le groupe H_{ℝ} opère par conjugaison dans T_{ℝ}(H); on notera ⟨T ⟩ la classe de conjugaison d’un tore T et \overline{T}_{ℝ}(H) l’ensemble des classes de conjugaison dans T_{ℝ}(H). D’après ([18], page 44), pour tout T ∈ T_{ℝ}(H), le groupe T_{ℝ} est dense (pour la topologie de Zariski) dans T; il en découle que deux tores T, T′ ∈ T_{ℝ}(H) sont conjugués si et seulement si T_{ℝ} et T′_{ℝ} sont conjugués. Donc l’application T ↦ T_{ℝ} induit une bijection de \overline{T}_{ℝ}(H) sur l’ensemble des classes de conjugaison de sous-groupes de Cartan de H_{ℝ}.

Fixons A ∈ T_{ℝ}(H) déployé sur ℝ. Soit T un tore maximal de H défini sur ℝ et soit h ∈ H tel que hT h^{−1} = A. Alors σ(h)h^{−1} ∈ N(A). La classe w de σ(h)h^{−1} dans le groupe de Weyl W (A) vérifie σ(w) = w^{−1}. Or A étant déployé, tout élément de W (A) est fixé par σ; on a donc σ(w) = w, d’où w = w^{−1}. Cette involution dépend du choix de h, mais sa classe de conjugaison (par automorphismes intérieurs) dans W (A) ne dépend que de T. En effet, soit x est un autre élément de H vérifiant xT x^{−1} = A. On note u (resp. v) la classe de σ(x)x^{−1} (resp. xh^{−1}) dans W (A). Comme σ fixe chaque élément de W (A), v est aussi la classe de σ(xh^{−1}) dans W (A). On déduit alors de

σ(x)x^{−1} = σ(xh^{−1})σ(h)h^{−1}(xh^{−1})^{−1}

que u = vwv^{−1}. Ainsi, à chaque tore maximal de H défini sur ℝ, on associe une classe de conjugaison dans W (A) formée d’involutions que l’on notera w_{T}; dans la suite, w_{T} désignera indistinctement la classe de conjugaison ou un élément de cette classe. Il est clair que si T, T′ ∈ T_{ℝ}(H) sont conjugués (sous l’action de H_{ℝ}), alors w_{T} = w_{T′}.

Cette correspondance est souvent présentée en termes de cohomologie galoisienne de la façon suivante. Notons Γ = {1, σ} le groupe de Galois de ℂ/ℝ. Alors l’ensemble des classes de conjugaison d’involutions dans W (A) s’identifie au groupe de cohomologie H^{1}(Γ, W (A)): à l’involution w on associe le cocycle c_{w} défini par

c_{w}(1) = 1; c_{w}(σ) = w.

La proposition suivante, valable en fait pour tout groupe semi-simple quasidéployé, est bien connue, mais, faute de référence précise, on en donne une preuve dans le cas qui nous intéresse (voir [7], chapitre III, pour l’analogue p-adique).

Proposition 1.1.1. La correspondance ci-dessus établit une bijection entre \overline{T}_{ℝ}(H) et l’ensemble des classes de conjugaison d’involution dans W (A).

Démonstration. Commençons par la surjectivité. Soit w une involution dans W (A). On considère le tore A′ obtenu à partir de A en tordant par le cocycle c_{w}; le groupe des points complexes de A′ s’identifie à celui de A, donc selon nos conventions A′ = A, et l’action de Γ est donnée par

σ_{A′}(a) = w · σ_{A}(a), pour tout a ∈ A.

D’après le résultat de Rosenlicht ([18], page 44) cité plus haut, le groupe A′_{ℝ} est dense dans A′; il contient donc un élément a_{0} régulier dans H, car l’ensemble des éléments réguliers est un ouvert non vide de A′. On a donc w · σ(a_{0}) = a_{0}, d’où σ(a_{0}) = w · a_{0}; cela montre que la classe de conjugaison de a_{0} dans H est définie sur ℝ. Donc, d’après ([24], théorème 1.7), elle contient un élément de H_{ℝ}. Il existe donc h ∈ H tel que

σ(ha_{0}h^{−1}) = ha_{0}h^{−1}.

Le tore T = hAh^{−1} est donc stable par σ, c’est à dire défini sur ℝ. De plus, on a

w · a_{0} = σ(a_{0}) = σ(h^{−1})ha_{0}h^{−1}σ(h).

Comme H est simplement connexe, A est le centralisateur de a_{0} et de σ(a_{0}) dans H [25]; il en découle que σ(h^{−1})h appartient au normalisateur de A et que l’élément de W (A) correspondant est égal à w. Ceci prouve la surjectivité.

Pour prouver l’injectivité, considérons T, T′ ∈ T_{ℝ}(H) et h, h′ ∈ H tels que hT h^{−1} = A, h′T′h′^{−1} = A, et supposons que les deux involutions définies par σ(h)h^{−1} et σ(h′)h′^{−1} sont conjuguées. Il existe donc x ∈ N(H, A) et a ∈ A tels que

σ(h′)h′^{−1} = xσ(h)h^{−1}x^{−1}a.

Sachant que σ(x) ∈ xA, un calcul simple montre que l’aplication:

t ↦ h′^{−1}xhth^{−1}x^{−1}h′

de T dans T′ est définie sur ℝ; les tores T et T′ sont donc stablement conjugués (terminologie de [17]). L’injectivité découle alors du lemme suivant (voir [22], corollaire 2.3) dont on aura besoin dans la suite.

Lemme 1.1.2. Deux tores dans T_{ℝ}(H) sont stablement conjugués si et seulement s’ils sont conjugués par H_{ℝ}.

Par la bijection de la proposition 1.1.1, la classe de A correspond à l’identité. Notons ι_{A} l’automorphisme involutif de A: a ↦ a^{−1}, alors H_{ℝ} contient un sousgroupe de Cartan compact si et seulement si ι_{A} ∈ W (A); dans ce cas la classe de conjugaison des sous-groupes de Cartan compacts correspond à ι_{A}. Ceci découle de la proposition ci-dessous.

Rappelons que deux racines α, β ∈ R(A) sont dites fortement orthogonales, si α ≠ ±β et α ± β ne sont pas des racines.

Proposition 1.1.3. Les assertions suivantes sont équivalentes:

(i) H_{ℝ} contient un sous-groupe de Cartan compact (ii) R(A) contient un ensemble de racines fortement orthogonales deux à deux ayant dim A éléments. (iii) ι_{A} ∈ W (A) (iv) les composantes irréductibles de R(A) sont de type A_{1}, B_{n}, C_{n}, D_{2n}, E_{7}, E_{8}, F_{4} ou G_{2}.

Démonstration. L’équivalence entre (i) et (ii) est établie dans ([26], proposition 11). Pour les équivalences entre (ii), (iii) et (iv) voir par exemple ([15], proposition 2.7).

1.2 Hypothèses sur G

Dans la suite G désignera un groupe algébrique semi-simple connexe et simplement connexe défini et déployé sur ℝ et vérifiant les propriétés de la proposition 1.1.3.

On notera 𝕄 la composante connexe, contenant l’élément neutre de G, de l’ensemble des x ∈ G tels que σ(x) = x^{−1}. C’est une sous-variété (réelle) fermée de G. Le groupe G opère dans 𝕄 par

g · x = gxσ(g)^{−1}.

On note p la projection canonique de G sur G/G_{ℝ}. Alors l’application

φ : p(g) ↦ gσ(g)^{−1}

est un difféomorphisme G-équivariant de G/G_{ℝ} sur 𝕄.

L’action de G_{ℝ} dans 𝕄, obtenue par restriction de celle de G, n’est autre que l’action par automorphismes intérieurs; dans la suite, on supposera que G_{ℝ} opère de cette façon dans 𝕄.

1.3 Sous-espaces de Cartan dans l’espace symétrique

Définition 1.3.1. On appelle sous-espace de Cartan de 𝕄 l’intersection de 𝕄 avec un tore maximal de G défini sur ℝ; si T est un tel tore, on note T_{𝕄} = T ∩𝕄.

Modulo l’identification de 𝕄 à G/G_{ℝ}, cette définition coïncide avec la définition habituelle des sous-espaces de Cartan dans l’espace symétrique G/G_{ℝ}.

Comme pour les sous-groupes de Cartan, il est clair que l’application T ↦ T_{𝕄} est une bijection de T_{ℝ}(G) sur l’ensemble des sous-espaces de Cartan de 𝕄. Elle induit aussi une bijection de l’ensemble \overline{T}_{ℝ}(G) sur l’ensemble des classes de conjugaison de sous-espaces de Cartan.

1.4 Ordre de Hiraï

Nous allons rappeler la définition de l’ordre de Hiraï; pour des détails voir [14], [21].

Soit S ∈ T_{ℝ}(G). Rappelons qu’une racine α ∈ R(T) est dite réelle ou imaginaire selon que σ · α = α ou σ · α = −α. Si α est imaginaire, la sous-algèbre de Lie 𝔰 de 𝔤 engendrée par les sous-espaces radiciels correspodant à α et −α est de dimension 3 et est définie sur ℝ; on dit que α est compacte ou non compacte selon que 𝔰_{ℝ} est isomorphe à 𝔰o(3, ℝ) ou 𝔰l(2, ℝ).

Soit T ∈ T_{ℝ}(G) et soit α une racine réelle de T. On note

Σ_{α} = {x ∈ T; e^{α}(x) = 1}.

On choisit deux vecteurs radiciels X_{α}, X_{−α} dans 𝔤_{ℝ} de poids α, −α tels que si l’on note H_{α} = [X_{α}, X_{−α}] on ait

[H_{α}, X_{α}] = 2X_{α}, [H_{α}, X_{−α}] = 2X_{−α}.

On appellera élément de Cayley associée à α l’élément de G

n_{α} = exp −\frac{i}{4}π(X_{α} + X_{−α}).

Cet élément a les propriétés suivantes. Il commute avec tout élément de Σ_{α}, les éléments n_{α}^{−1}σ(n_{α}) et σ(n_{α}^{−1})n_{α} de N(T) représentent la réflexion s_{α} ∈ W (T) par rapport à la racine α, le tore T′ = n_{α}T n_{α}^{−1} appartient à T_{ℝ}(G) et la racine β de T′ image par Ad n_{α} de α est imaginaire non compacte. On a T ∩ T′ = Σ_{α} et 𝔱′ = ker α ⊕ ℂ(X_{α} − X_{−α}). Le tore T′ dépend du choix de X_{α} et X_{−α}, un autre choix fournit un tore dans la même classe que T′.

L’application

ν_{α} = Ad n_{α} : T ⟶ T′

sera appelée transformation de Cayley associée à α.

On définit la relation d’ordre de Hiraï sur \overline{T}_{ℝ}(G) par: ⟨S⟩ ≤ ⟨T ⟩ s’il existe une suite finie T_{0}, …, T_{k} ∈ T_{ℝ}(G) tels que ⟨T_{0}⟩ = ⟨T ⟩, ⟨T_{k}⟩ = ⟨S⟩ et chaque T_{j}, 1 ≤ j ≤ k, est obtenu par une transformation de Cayley par rapport à une racine réelle de T_{j−1}. Il existe un unique élément minimal et un unique élément maximal pour cet ordre qui sont respectivement la classe d’un tore anisotrope et la classe d’un tore déployé dans T_{ℝ}(G).

Plus précisément l’ordre que nous avons défini est l’inverse de celui de Hiraï. Nous allons en donner une autre présentation due à W. Schmid: il s’agit d’inverser la procédure décrite ci-dessus.

Si S ∈ T_{ℝ}(G) et si β est une racine imaginaire non compacte de S, on choisit deux vecteurs radiciels X_{β}, X_{−β} dans 𝔤 de poids β, −β tels que si l’on note H_{β} = [X_{β}, X_{−β}] on ait

[H_{β}, X_{β}] = 2X_{β}, [H_{β}, X_{−β}] = 2X_{−β}, σ(X_{β}) = X_{−β}.

Comme précédemment, on appelle élément de Cayley associée à β l’élément de G

m_{β} = exp \frac{1}{4}π(X_{−β} − X_{β}).

Alors m_{β} commute avec tout élément de Σ_{β}, m_{β}^{−1}σ(m_{β}) ∈ N(S) représente la réflexion s_{β}, le tore S′ = Ad m_{β}S appartient à T_{ℝ}(G) et la racine α de S′ image par Ad m_{β} de β est réelle. On a S ∩ S′ = Σ_{β} et 𝔰′ = ker β ⊕ ℂ(X_{β} + X_{−β}). Le tore S est l’image d’une transformation de Cayley par rapport à la racine α. On peut maintenant décrire la relation d’ordre de Hiraï par: ⟨S⟩ ≤ ⟨T ⟩ s’il existe une suite finie S_{0}, …, S_{k} ∈ T_{ℝ}(G) tels que ⟨S_{0}⟩ = ⟨S⟩, ⟨S_{k}⟩ = ⟨T ⟩ et chaque S_{j}, 1 ≤ j ≤ k, est obtenu par une transformation de Cayley par rapport à une racine imaginaire non compacte de S_{j−1}.

L’application

c_{β} = Ad c_{β} : S ⟶ S′

sera appelée transformation de Cayley associée à β.

1.5 Inversion de l’ordre de Hiraï

On reprend les notations du paragraphe 1.1. Comme ι_{A} est central dans W (A), la multiplication par ι_{A} induit une bijection dans H^{1}(Γ, W (A)). On notera τ l’application correspondante dans \overline{T}_{ℝ}(G); pour T, T′ ∈ T_{ℝ}(G), on a T′ ∈ τ⟨T ⟩ si et seulement si w_{T′} = ι_{A}w_{T}.

Soient T ∈ T_{ℝ}(G) et T′ ∈ τ⟨T ⟩. Il existe alors x, y ∈ G tels que

xT x^{−1} = A; yT′y^{−1} = A; σ(y)y^{−1} = ι_{A}σ(x)x^{−1}(dans W (A)).

On pose g = y^{−1}x. On vérifie alors facilement que

σ(gtg^{−1}) = gσ(t^{−1})g^{−1} pour tout t ∈ T.  (1)

Pour simplifier la référence aux éléments de G vérifiant la propriété (1), on dira qu’un tel élément est une inversion de T.

Proposition 1.5.1. La bijection τ renverse l’ordre de Hiraï (i.e. si ⟨T ⟩ ≤ ⟨S⟩, on a τ⟨S⟩ ≤ τ⟨T ⟩).

Démonstration. Il suffit de montrer que si T ∈ T_{ℝ}(G) et si α est une racine réelle de T, alors τ⟨T ⟩ ≤ τ⟨ν_{α} · T ⟩, où ν_{α} est une transformation de Cayley correspondant à α.

Soit g une inversion de T. On note T′ = gT g^{−1} et β = g · α. Alors β est une racine imaginaire de T′. Notons W (T′)^{σ} le sous-groupe de W (T′) formé des éléments qui commutent avec σ. Comme G est déployé, d’après ([23], lemme 9.2), il existe w ∈ W (T′)^{σ} tel que w · β soit imaginaire non compacte. Soit z ∈ N(T′) un représentant w, alors en remplaçant g par zg, on voit que l’on peut supposer que β est imaginaire non compacte.

Fixons des éléments de Cayley n_{α} et m_{β} correspondant respectivement à α et β, et posons h = m_{β}gn_{α}^{−1}. Alors en utilisant le fait que σ(n_{α}^{−1})n_{α} et m_{β}^{−1}σ(m_{β}) représentent respectivement s_{α} et s_{β}, un calcul simple montre que h est une inversion de n_{α}T n_{α}^{−1}. De plus hn_{α}T n_{α}^{−1}h^{−1} = m_{β}gT g^{−1}m_{β}^{−1}; ce qui montre notre assertion.

2. Correspondance d’orbites stables

On se propose d’établir une correspondance entre l’ensemble des orbites stables dans G_{ℝ} et l’ensemble des orbites stables dans 𝕄.

2.1 Orbites stables

Rappelons la notion d’orbite stable dans G_{ℝ} et dans 𝕄. Pour simplifier les énoncés, dans la suite la lettre 𝕏 désignera G_{ℝ} ou 𝕄, et si T ∈ T_{ℝ}(G), T_{𝕏} désignera T ∩ 𝕏, c’est à dire le sous-groupe ou le sous-espace de Cartan associé à T selon que 𝕏 = G_{ℝ} ou 𝕄. On notera G^{reg} l’ensemble des éléments semi-simples réguliers de G, et, pour toute partie P de G, P^{reg} = P ∩ G^{reg}.

Définition 2.1.1. On appelle orbite stable de x ∈ 𝕏 l’ensemble G[x] ∩ 𝕏, que l’on notera ω_{x}. On notera O_{𝕏} l’ensemble des orbites stables dans 𝕏 et O_{𝕏}^{reg} le sous-ensemble des orbites stables des éléments de 𝕏^{reg}.

Cette définition est adaptée aux groupes simplement connexes. Pour la définition dans le cas général, voir par exemple [16].

Chaque classe de conjugaison stable dans 𝕏 est réunion d’un nombre fini de classes de conjugaison sous l’action de G_{ℝ}. On va les décrire brièvement pour les éléments de O_{𝕏}^{reg}.

Soit x ∈ 𝕏^{reg} et soit y ∈ ω_{x}; on note T (resp. S) l’unique tore maximal de G qui contient x (resp. y); T et S appartiennent à T_{ℝ}(G). Il existe g ∈ G tel que y = gxg^{−1}. Comme σ(x) = x ou x^{−1} (idem pour y), selon que x ∈ G_{ℝ} ou x ∈ 𝕄, on en déduit que g^{−1}σ(g) commute avec x, d’où g^{−1}σ(g) ∈ T, car G est simplement connexe. Cela montre que l’application

Ad g : T ⟶ S = gT g^{−1}  (2)

est définie sur ℝ (quand G n’est pas simplement connexe, cette propriété fait partie de la définition de la conjugaison stable). Donc T et S sont stablement conjugués, et, d’après le lemme 1.1.2, ils sont conjugués par G_{ℝ}. On en déduit que la G_{ℝ}-orbite de y rencontre T. On note W (T)^{σ} le sous-groupe du groupe de Weyl W (T) formé par les éléments qui commutent avec σ. On déduit alors de (1) que

ω_{x} ∩ T = {W (T)^{σ} · x} ∩ T_{𝕏}.

Maintenant pour décrire les G_{ℝ}-orbites dans ω_{x}, il suffit de reconnaître les éléments conjugués par G_{ℝ} dans {W (T)^{σ} · x} ∩ T_{𝕏}.

Lorsque 𝕏 = G_{ℝ}, on a

{W (T)^{σ} · x} ∩ T_{𝕏} = {W (T)^{σ} · x},

mais ces deux ensembles peuvent être distincts quand 𝕏 = 𝕄, car W (T)^{σ} ne stabilise pas forcément T_{M}.

Remarque 2.1.2. Le fait que W (T)^{σ} ne stabilise pas T_{M} peut compliquer la correspondance entre les orbites stables de G_{ℝ} et de 𝕄 que l’on se propose d’établir. Pour pallier cet inconvénient, on pourrait, comme nous l’avions fait dans une première version de ce texte, introduire l’espace G^{−σ} des x ∈ G tels que σ(x) = x^{−1} (il est égal à 𝕄 si et seulement si H^{1}(Γ, G) est trivial). On peut alors définir tous les objets qui interviennent dans cet article pour G^{−σ} de la même façon que pour 𝕄. L’avantage, dans ce cas, est que W (T)^{σ} stabilise T_{G^{−σ}}.

2.2 Conjugaison stable et sous-espaces de Cartan

On reprend les notations du paragraphe précédent, en particulier, pour tout groupe algébrique H défini sur ℝ, on note H^{−σ} l’ensemble des x ∈ H tels que σ(x) = x^{−1}.

Lemme 2.2.1. Soit T ∈ T_{ℝ}(G). Alors, pour toute composante connexe C de T^{−σ}, il existe w ∈ W (T)^{σ} tel que w · C ⊂ 𝕄.

Démonstration. On note Car^{0}(G^{−σ}) l’ensemble des composantes connexes des T^{−σ}, T parcourant T_{ℝ}(G). Chaque élément C de Car^{0}(G^{−σ}) est inclus dans un unique élément de T_{ℝ}(G): son centralisateur dans G. Le lemme est alors équivalent à la propriété (P) suivante: (P) Pour tout C ∈ Car^{0}(G^{−σ}), si T désigne l’unique élément de

T_{ℝ}(G) qui le contient, il existe w ∈ W (T)^{σ} tel que w · C ⊂ 𝕄.

Suivant Hiraï ([14], §3.4), on définit une relation d’ordre ≺ sur l’ensemble des classes de conjugaison par G_{ℝ} dans Car^{0}(G^{−σ}): comme pour les espaces de Cartan, on note ⟨C⟩ la classe de conjugaison d’une composante C. On écrit alors ⟨C⟩ ≺ ⟨C′⟩ s’il existe C^{0}, …, C^{k} ∈ Car^{0}(G^{−σ}) tels que ⟨C^{0}⟩ = ⟨C⟩, ⟨C^{k}⟩ = ⟨C′⟩ et, si l’on note T^{j}, 1 ≤ j ≤ k, l’unique élément de T_{ℝ}(G) contenant C^{j}, alors chaque T^{j} est obtenu par une transformation de Cayley par rapport à une racine imaginaire non compacte β de T^{j−1} telle que Σ′_{β} ∩ C^{j−1} ∩ C^{j} ≠ Ø, où Σ′_{β} désigne l’ensemble des éléments x ∈ Σ_{β} tels que e^{γ}(x) ≠ 1 pour toute racine γ ∈ R(T) différente de ±β.

Supposons que la propriété (P) n’est pas vérifiée. Fixons une composante C ∈ Car^{0}(G^{−σ}) dont la classe est maximale pour ≺ parmi les éléments de Car^{0}(G^{−σ}) ne vérifiant pas la propriété (P), en particulier C ⊄ 𝕄. On note T le tore maximal de G qui la contient.

On commence par montrer que T n’est pas déployé. Supposons qu’il l’est. Alors T^{−σ} est le sous-groupe compact maximal de T; il est donc connexe. Cela montre qu’il est forcément égal à C, et, puisqu’il contient l’élément neutre, il est inclus dans 𝕄. Donc C ⊂ 𝕄 contrairement à l’hypothèse.

Puisque, comme on vient de le voir, T n’est pas déployé, R(T) contient des racines imaginaires. Toute racine imaginaire de T ne prend que des valeurs réelles sur T^{−σ}. Donc, comme C est connexe, pour toute racine imaginaire α, on a ou bien e^{α}(C) ⊂ ℝ_{+}^{×} ou bien e^{α}(C) ⊂ ℝ_{−}^{×}.

Supposons qu’il existe β ∈ R(T) imaginaire telle que e^{β}(C) ⊂ ℝ_{+}^{×}. Il existe alors w ∈ W (T)^{σ} tel que w·β soit une racine imaginaire non compacte ([23], lemme 9.2). Donc, quitte à remplacer C par w·C, on peut supposer que β est imaginaire non compacte. On voit facilement que Σ′_{β} ∩ C ≠ Ø; on fixe alors un élément x_{0} de cet ensemble. On considère la transformation de Cayley c_{β} associée à β, et on note T′ = c_{β} · T et C′ la composante connexe de T′^{−σ} contenant x_{0}. Alors ⟨C⟩ ≺ ⟨C′⟩. Donc C′ vérifie la propriété (P). Il existe donc w ∈ W (T′)^{σ} tel que w · C′ ⊂ 𝕄. On note R_{I}(T′) le système de racines imaginaires de T′, W (R_{I}(T′)) le groupe de Weyl de ce système de racines et W_{ℝ}(T′) = N(G_{ℝ}, T_{ℝ})/T_{ℝ}. Alors W (R_{I}(T′)) et W_{ℝ}(T′) s’identifient naturellement à des sous-groupes de W (T′) et on a, d’après ([22], théorème 2.1), W (T′)^{σ} = W_{ℝ}(T′)W (R_{I}(T′)). On écrit alors w = uv, u ∈ W_{ℝ}(T′), v ∈ W (R_{I}(T′)). Comme le groupe N(G_{ℝ}, T_{ℝ}) laisse stable toutes les composantes connexes de G^{−σ}, on obtient v · C′ = vw^{−1} · C′ ⊂ 𝕄. En particulier on a v · x_{0} ∈ 𝕄, et donc, tenant compte du fait que v · Σ_{β} ⊂ Σ_{β}, on obtient

v · x_{0} ∈ 𝕄 ∩ Σ_{β}.

Or c_{β} ·x = x pour tout x ∈ Σ_{β}, donc c_{β}vc_{β}^{−1}·x_{0} = v·x_{0}. On pose τ = c_{β}vc_{β}^{−1}, alors τ · x_{0} ∈ 𝕄. Comme c_{β} identifie l’orthogonal de β dans R_{I}(T) à R_{I}(T′), on voit que τ appartient W (R_{I}(T)) et celui-ci est inclus dans W (T)^{σ}. Il est clair que τ ·C est inclus dans l’une des composantes connexes de G^{−σ}; comme son intersection avec 𝕄 contient τ ·x_{0} est donc non vide, on a forcément τ ·C ⊂ 𝕄. Ceci contredit l’hypothèse faite sur C. Donc e^{β}(C) ⊂ ℝ_{−}^{×} pour toute racine imaginaire β de T.

On déduit de ce qui précède que la somme (resp. la différence) de deux racines imaginaires n’est pas une racine, car une telle racine enverrait C dans ℝ_{+}^{×}. Donc R_{I}(T) est un produit de systèmes de racines de type A_{1}. Le tore T se décompose de façon unique en produit direct de deux tores définis sur ℝ: T = T_{a}T_{d}, T_{a} anisotrope (i.e. le groupe de ses points réels est compact) et T_{d} est déployé; on note respectivement 𝔱_{a}, 𝔱_{d} les algèbres de Lie de ces tores. On note

Λ(R(T)) = {λ ∈ 𝔱^{∗}; 2(λ, α)(α, α)^{−1} ∈ ℤ pour tout α ∈ R(T)}
Λ(R_{I}(T) = {λ ∈ 𝔱_{a}^{∗}; 2(λ, α)(α, α)^{−1} ∈ ℤ pour tout α ∈ R_{I}(T)},

où (·, ·) désigne le produit scalaire sur l’ensemble des racines déduit de la forme de Killing. Alors

tout λ ∈ Λ(R_{I}(T)) est la restriction à 𝔱_{a} d’un élément λ̃ ∈ Λ(R(T)). (3)

On va déduire cette propriété de l’assertion 2.41 de [21]. On fixe une inversion g de T, et on note S = gT g^{−1}. Alors S_{a} = gT_{d}g^{−1} et S_{d} = gT_{a}g^{−1}. On note R_{R}(S) l’ensemble des racines réelles de S, et on définit comme ci-dessus Λ(R(S)) et Λ(R_{R}(S)) ⊂ 𝔰_{d}^{∗}. Il est alors clair que g ·R_{I}(T) = R_{R}(S), g ·Λ(R(T)) = Λ(R(S)) et g · Λ(R_{I}(T)) = Λ(R_{R}(S)). L’assertion 2.41 de [21] affirme que tout élément de Λ(R_{R}(S)) est la restriction à 𝔰_{d} d’un élément de Λ(R(S)); donc (3) en découle.

Comme R_{I}(T) est un produit de systèmes de type A_{1}, pour toute racine α ∈ R_{I}(T), on a \frac{α}{2} ∈ Λ(R_{I}(T); il existe donc λ_{α} ∈ Λ(R(T)) tel que

\frac{α}{2}(X) = λ_{α}(X)∀X ∈ 𝔱_{a}.

Si c ∈ C, on a C = c exp i𝔱_{ℝ}, comme on a aussi T = exp 𝔱_{ℝ} exp i𝔱_{ℝ}, on voit facilement qu’il exsite X_{0} ∈ 𝔱_{ℝ} tel que C = exp X_{0} exp i𝔱_{ℝ}; les relations σ(exp X_{0}) = exp −X_{0}, car exp X_{0} ∈ 𝕄, et σ(exp X_{0}) = exp X_{0}, car X_{0} ∈ 𝔱_{ℝ}, impliquent que exp 2X_{0} = 1, et donc X_{0} ∈ 𝔱_{a,ℝ}. Puisque G est simplement connexe, tout λ ∈ Λ(R(T)) est la différentielle d’un caractère de T; en particulier on a λ(X_{0}) ∈ iπℤ. Donc pour tout α ∈ R_{I}(T), on a \frac{α}{2}(X_{0}) = λ_{α}(X_{0}) ∈ iπℤ; d’où e^{α}(exp X_{0}) = 1. Ceci contredit le fait que e^{α}(C) ⊂ ℝ_{−}^{×}. Donc tout élément de Car^{0}(G^{−σ}) vérifie la propriété (P); ceci achève la preuve de la proposition.

2.3 Correspondance entre les orbites stables régulières

La proposition suivante décrit la correspondance dont on aura besoin dans la suite.

Proposition 2.3.1. Pour toute orbite stable ω ∈ O_{G_{ℝ}}^{reg}, on a G[ω] ∩ 𝕄 ≠ Ø. De plus l’application

ι : O_{G_{ℝ}}^{reg} ⟶ O_{𝕄}^{reg}

définie par ι(ω) = G[ω] ∩ 𝕄 est une bijection.

Démonstration. Soit x ∈ G_{ℝ}^{reg} et soit T le tore maximal de G qui le contient. Comme on l’a vu plus haut, T ∈ T_{ℝ}(G). Soit alors g ∈ G une inversion de T. Comme σ(x) = x, on voit que σ(gxg^{−1}) = gx^{−1}g^{−1} = (gxg^{−1})^{−1}, donc gxg^{−1} appartient à 𝕋^{−σ}. On note C la composante connexe de T^{−σ} qui contient gxg^{−1}. Il existe, d’après le lemme 2.2.1, w ∈ W (gT g^{−1})^{σ} tel que w · C ⊂ 𝕄. On choisit n ∈ N(gT g^{−1}) un représentant de w. Alors ngxg^{−1}n^{−1} ∈ 𝕄. Donc l’ensemble G[ω_{x}] ∩ 𝕄 est non vide; il est clair que c’est une orbite stable de 𝕄. L’application ι est donc bien définie. Son injectivité est une conséquence immédiate des définitions. Pour la surjectivité, considérons un élément x ∈ 𝕄^{reg}. Alors, en prenant une inversion g du tore maximal qui le contient, on voit que gxg^{−1} ∈ G_{ℝ}.

2.4 Correspondance entre les orbites stables

Dans la suite, nous n’aurons pas besoin des résultats de ce paragraphe, mais il nous semble que leur validité explique un peu le résultat principal de cet article.

Lemme 2.4.1. Soit H un groupe algébrique réductif connexe défini sur ℂ et soit γ un automorphisme de H. On suppose qu’il existe un tore maximal T de H tel que γ(t) = t^{−1} pour tout t ∈ T. Alors γ fixe toutes les orbites unipotentes de H.

Démonstration. On note aussi γ la différentielle de γ. L’application exponentielle réalise un isomorphisme H -équivariant de la variété des éléments nilpotents de l’algèbre de Lie 𝔥 de H sur la variété des éléments unipotents de H; il suffit donc de prouver que γ fixe toutes les orbites nilpotentes dans 𝔥. Si e est un élément nilpotent de 𝔥, il existe un sl_{2}-triplet {e, h, f} dans 𝔥 contenant e, c’est à dire [h, e] = 2e, [h, f] = −2f et [e, f] = h. Quitte à remplacer e par un conjugué, on peut supposer que h appartient à l’algèbre de Lie 𝔱 de T. Les éléments e et γ(e) sont conjugués par H si et seulement si il en est de même pour h et γ(h) (voir [5], proposition 5.6.4). Or γ(h) = −h, et il est facile de voir que h et −h sont conjugués; en effet, notons φ l’homomorphisme d’algèbres de Lie φ : sl_{2}(ℂ) ⟶ 𝔥 définie par

φ(( \begin{matrix}0 & 1 \\ 0 & 0 \end{matrix} )) = e, φ(( \begin{matrix}1 & 0 \\ 0 & −1 \end{matrix} )) = h, φ(( \begin{matrix}0 & 0 \\ 1 & 0 \end{matrix} )) = f.

Il existe alors un homomorphisme de groupes de Lie φ̃ de SL_{2}(ℂ) dans H dont

la différentielle est φ. On note m = ( \begin{matrix}0 & 1 \\ −1 & 0 \end{matrix} ). Alors

Ad m · ( \begin{matrix}1 & 0 \\ 0 & −1 \end{matrix} ) = − ( \begin{matrix}1 & 0 \\ 0 & −1 \end{matrix} ) .

D’où Ad φ̃(m) · h = −h.

Proposition 2.4.2. Pour toute orbite stable ω ∈ O_{G_{ℝ}}, on a G[ω] ∩ 𝕄 ≠ Ø. De plus, l’application ι : ω ↦ G[ω] ∩ 𝕄 est une bijection de O_{G_{ℝ}} sur O_{𝕄}.

Démonstration. Soit ω ∈ O_{G_{ℝ}} et soit x ∈ ω. On écrit x = sn la décomposition de Jordan de x. Alors s et n appartiennent à G_{ℝ}. On note Z le centralisateur de s dans G. C’est un sous-groupe réductif connexe (voir [25], corollaire 8.5) défini sur ℝ de même rang que G. On a s ∈ Z.

On fixe un tore maximal T de Z défini sur ℝ tel que T_{ℝ} soit un sousgroupe de Cartan fondamental de Z_{ℝ}, c’est à dire R(Z, T) ne contient aucune racine réelle, et on fixe une inversion g de T.

On note u = g^{−1}σ(g). Alors u ∈ N(G, T) et utu^{−1} = t^{−1} pour tout t ∈ T. En particulier usu^{−1} = s^{−1}; cela implique que uZu^{−1} = Z. D’après le lemme 2.4.1, Ad(u) fixe toutes les orbites unipotentes dans Z. On en déduit que unu^{−1} ∈ Z[n]. Il existe donc z ∈ Z tel que

g^{−1}σ(g)nσ(g^{−1})g = znz^{−1}.

On note T′ = gT g^{−1} et s′ = gsg^{−1}. Alors s′ ∈ T′ et σ(s′) = (s′)^{−1}. On note C′ la composante connexe de T′^{−σ} contenant s′ et on choisit, d’après le lemme 2.2.1, w ∈ W (T′)^{σ} tel que w · C′ ⊂ 𝕄. Soit h ∈ N(T′) un représentant de w. Alors hg est aussi une inversion de T et hgsg^{−1}h^{−1} ∈ 𝕄. Donc, quitte à remplacer g par hg, on peut supposer que s′ ∈ 𝕄.

On note Z′ le centralisateur de s′ dans G. C’est un sous-groupe réductif connexe de G défini sur ℝ. Comme Z′ = gZg^{−1} et R(Z, T) ne contient pas de racines définies sur ℝ, on voit que R(Z′, T′) ne contient pas de racines α vérifiant σ(α) = −α; c’est à dire R(Z′, T′) ne contient pas de racines imaginaires. Donc Z′ est un groupe quasi-déployé sur ℝ. On a

σ(gng^{−1}) = gg^{−1}σ(g)nσ(g^{−1})gg^{−1} = gznz^{−1}g^{−1} = (gzg^{−1})gng^{−1}(gz^{−1}g^{−1}).

Donc σ(gng^{−1}) ∈ Z′[gng^{−1}]. Comme Z′ est quasi-déployé, Z′[gng^{−1}] ∩ Z′_{ℝ} ≠ Ø ([16], théorème 4.2). Mais une Z′-orbite unipotente dans Z′ qui rencontre Z′_{ℝ} rencontre aussi 𝕄; en effet, si X ∈ 𝔷 est nilpotent, exp X et exp iX sont conjugués et exp iX ∈ 𝕄. Donc Z′[gng^{−1}] ∩ 𝕄 ≠ Ø. Il existe alors z′ ∈ Z′ tel que z′gng^{−1}z′^{−1} ∈ 𝕄. D’où l’on déduit que z′gsng^{−1}z′^{−1} ∈ 𝕄, donc G[x] ∩ 𝕄 est non vide et il est évident que c’est une orbite stable dans 𝕄.

L’application ι est donc bien définie et clairement injective. Pour la surjectivité, il faut montrer que pour tout y ∈ 𝕄, G[y]∩G_{ℝ} ≠ Ø. La démonstration est la même que ci-dessus (avec la simplification due au fait que l’on considère tout G_{ℝ} et pas seulement la composante connexe de l’élément neutre); nous omettons les détails.

3. Intégrales orbitales stables

On reprend les notations des paragraphes précédents; en particulier 𝕏 désignera G_{ℝ} ou 𝕄.

3.1 Normalisation de mesures

Nous adoptons la normalisation de mesures de [6], que nous rappelons brièvement pour la commodité du lecteur. On note κ la forme de Killing de l’algèbre de Lie réelle sous-jacente à 𝔤.

Si V est un sous-espace vectoriel de 𝔤 sur lequel κ est non dégénérée (on dira dans la suite simplement que V est non dégénéré), on note β_{V} la densité sur V définie par

β_{V} (ξ_{1}, …, ξ_{n}) = | det(κ(ξ_{i}, ξ_{j}))|^{1/2}; n = dim V.

Soit X une sous-variété (réelle) fermée de G. Si en tout point x ∈ X l’espace tangent T_{x}X de X est non dégénéré, on munit X de la mesure associée à la densité définie en x ∈ X par β_{T_{x}X}. En particulier, si de plus X est un sous-groupe (donc forcément unimodulaire), cette mesure est une mesure de Haar.

Soient H et K deux sous-groupes de Lie fermés de G vérifiant K ⊂ H. On suppose que 𝔥 et 𝔨 sont non dégénérés et on note V l’orthogonal de 𝔨 dans 𝔥. On munit alors H/K de la mesure H -invariante associée à l’unique densité H -invariante définie par β_{V} .

Les sous-groupes et les sous-quotients de G que l’on munira dans la suite de mesures entrent dans le cadre défini ci-dessus; la vérification des hypothèses est toujours immédiate et sera souvent omise.

3.2 Formules intégrales

Comme on l’a déjà remarqué, l’espace 𝕄 s’identifie à G/G_{ℝ}; mais l’isomorphisme naturel φ (voir paragraphe 1.2) n’envoie pas la mesure de G/G_{ℝ} sur celle de 𝕄. Plus précisément, on a pour toute fonction intégrable f sur 𝕄:

∫_{𝕄} f(m)dm = 2^{dim_{ℂ} 𝔤} ∫_{G/G_{ℝ}} f(φ(g))dḡ.

On note ℓ le rang de G et D, ou D_{G} s’il y a risque de confusion, la fonction analytique complexe sur G définie par:

det(1 + λ − Ad x) ≡ D(x)λ^{ℓ} (mod λ^{ℓ+1}).

Alors G^{reg} est l’ensemble des x ∈ G tels que D(x) ≠ 0.

Si x ∈ 𝕏^{reg} et si on note T son centralisateur dans G, qui est l’unique tore maximal de G qui le contient car G est simplement connexe, alors l’orbite G_{ℝ}[x] s’identifie à G_{ℝ}/T_{ℝ}, et, pour toute fonction intégrable f sur G_{ℝ}[x], on a

∫_{G_{ℝ}[x]} f(y)dy = |D(x)| ∫_{G_{ℝ}/T_{ℝ}} f(gxg^{−1})dḡ.

Si T ∈ T_{ℝ}(G), on note W_{ℝ}(T) le groupe N(G_{ℝ}, T)/T_{ℝ}. On note |E| le cardinal d’un ensemble fini E. Avec ces notations on a la formule d’intégration de Weyl pour toute fonction intégrable f sur 𝕏

∫_{𝕏} f(x)dx = ∑_{⟨T ⟩} \frac{1}{|W_{ℝ}(T)|} ∫_{T reg_{𝕏}} ∫_{G_{ℝ}[γ]} f(y)dydγ,

la notation ∑_{⟨T ⟩} signifie que la somme est prise sur un ensemble de représentants des classes de conjugaison dans T_{ℝ}(G).

Soit x ∈ 𝕏^{reg}. La mesure définie selon les conventions du paragraphe précédent sur son orbite stable ω_{x} est G_{ℝ}-invariante, et sa restriction à chaque G_{ℝ}-orbite dans ω_{x} coïncide avec la mesure fixée sur celle-ci. On définit l’intégrale orbitale stable de f ∈ C_{c}^{∞}(𝕏) en x par

I_{𝕏}^{st}(f)(x) = |D(x)|^{− \frac{1}{2}} ∫_{ω_{x}} f(y)dy.

En utilisant les intégrales orbitales stables, on déduit facilement de la description des orbites stables du paragraphe 2.1 la formule d’intégration suivante sur G_{ℝ}:

∫_{G_{ℝ}} f(x)dx = ∑_{⟨T ⟩} \frac{1}{|W^{σ}(T)|} ∫_{T_{ℝ}} |D(γ)|^{1/2}I_{G_{ℝ}}^{st}(f)(γ)dγ.  (4)

Pour écrire la formule analogue sur 𝕄, on introduit sur chaque sous-espace de Cartan T_{𝕄} la fonction localement constante c_{T} définie par c_{T} (γ) = |G[γ]∩T_{𝕄}|. On a alors

∫_{𝕄} f(x)dx = ∑_{⟨T ⟩} ∫_{T_{𝕄}} \frac{1}{c_{T} (γ)}|D(γ)|^{1/2}I_{𝕄}^{st}(f)(γ)dγ.  (5)

On dira qu’une fonction sur 𝕏^{reg} est stablement invariante si elle est constante sur chaque orbite stable dans 𝕏^{reg}.

Rappelons la bijection ι de O_{G_{ℝ}}^{reg} sur O_{𝕄}^{reg} (voir proposition 2.3.1). Soit f une fonction stablement invariante dans 𝕄^{reg}. Alors si x ∈ G_{ℝ}^{reg} et si y ∈ ι(ω_{x}), le scalaire f(y) ne dépend que l’orbite stable de x: on définit ainsi une fonction stablement invariante dans G_{ℝ}^{reg} que l’on notera f^{∘}ι. Si h est une fonction stablement invariante sur G_{ℝ}^{reg}, on définit de même la fonction h^{∘}ι^{−1} sur 𝕄^{reg}.

Lemme 3.2.1. Soit f une fonction stablement invariante sur G_{ℝ}^{reg} telle que, pour tout T ∈ T_{ℝ}(G), la restriction de f à T_{ℝ} est intégrable. Alors, pour tout T ∈ T_{ℝ}(G), la restriction de f^{∘}ι à T_{𝕄} est intégrable; de plus, on a

∑_{⟨T ⟩} \frac{1}{|W^{σ}(T)|} ∫_{T_{ℝ}} f(x)dx = ∑_{⟨T ⟩} ∫_{T_{𝕄}} \frac{1}{c_{T} (y)}f^{∘}ι^{−1}(y)dy.

Démonstration. Soit T ∈ T_{ℝ}(G) et soit g une inversion de T. On note T′ = gT g^{−1}. Alors gT_{𝕄}g^{−1} est un ouvert de T_{ℝ}, et il résulte facilement du choix des mesures que, pour toute fonction intégrable h sur T_{ℝ}, on a

∫_{gT_{𝕄}g^{−1}} h(x)dx = ∫_{T_{𝕄}} h(gyg^{−1})dy.

Cela montre l’intégrabilité de la restriction de f^{∘}ι à T_{𝕄}. La formule intégrale en découle aussi par un calcul simple vu le lemme 2.2.1.

3.3 Fonctions orbitales

Nous introduisons les espaces de fonctions orbitales stables sur 𝕏, voir [1] pour 𝕏 = G_{ℝ} et [12] pour 𝕏 = 𝕄. Les relations de sauts sont présentées ici d’une façon légèrement différente de celle de la bibliographie citée. Cette présentation, valable seulement pour les groupes que nous manipulons, est adaptée aux besoins de cet article; le point essentiel qui simplifie les relations de sauts est le fait que dans un tore T ∈ T_{ℝ}(G) les racines imaginaires compactes sont conjuguées par W^{σ}(T) à des racines imaginaires non compactes.

Soit T ∈ T_{ℝ}(G). On note 𝔱_{𝕏} = {ξ ∈ 𝔱; exp tξ ∈ T_{𝕏} ∀t ∈ ℝ}; c’est une forme réelle de 𝔱. A chaque ξ ∈ 𝔱_{𝕏}, on associe un champ de vecteurs ∂(ξ) sur T_{𝕏} par

∂(ξ)f(x) = \frac{d}{dt}f(x exp tξ)_{|t=0}.

L’application ∂ se prolonge en un homomorphisme d’algèbres sur ℂ de l’algèbre symétrique S(𝔱) dans l’algèbre des opérateurs différentiels sur T_{𝕏} invariants par translations par le groupe T_{𝕏}^{0}.

On notera I^{st}(𝕏) l’espace des fonctions ψ ∈ C^{∞}(𝕏^{reg}) stablement invariantes et vérifiant les quatre propriétés suivantes pour tout T ∈ T_{ℝ}(G). On notera ψ_{T} la restriction de ψ à T_{𝕏}^{reg}.

I_{1}(𝕏) Pour toute partie compacte K de T_{𝕏} et pour tout u ∈ S(𝔱), on a

sup_{x∈K∩T reg_{𝕏}} |∂(u)ψ_{T} (x)| < ∞.

I_{2}(𝕏) On note T′_{𝕏}(I) l’ouvert des x ∈ T_{𝕏} tels que e^{α}(x) ≠ 1 pour toute racine imaginaire α de T. Alors ψ_{T} se prolonge en une fonction C^{∞} dans T′_{𝕏}(I).

Pour énoncer la troixième propriété nous avons besoin de quelques notations. Soit β une racine imaginaire non compacte de T et soit T′ ∈ T_{ℝ}(G) un tore obtenu par une transformation de Cayley c_{β} par rapport à β. Rappelons les notations:

Σ_{β} = T ∩T′ = {x ∈ T; e^{β}(x) = 1}, Σ′_{β} = {x ∈ Σ_{β}; e^{α}(x) ≠ 1, ∀α ∈ R(T), α ≠ ±β}.

On pose alors Σ′_{β,𝕏} = Σ′_{β} ∩ 𝕏. Puisqu’aucune racine dans R(T) ne s’annule sur 𝔱_{𝕏}, on voit facilement que Σ′_{β,𝕏} est non vide. Remarquons que Σ′_{β,𝕏} est inclus dans T′_{𝕏}(I); donc ψ_{T′} se prolonge en une fonction C^{∞} au voisinage de chaque élément de Σ′_{β,𝕏}.

I_{3}(𝕏) Pour tout u ∈ S(𝔱) vérifiant s_{β}·u = u, la fonction ∂(u)ψ_{T} se prolonge en une fonction continue au voisinage de chaque élément de Σ′_{β,𝕏} et on a

∂(u)ψ_{T} (x) = ∂(c_{β} · u)ψ_{T′}(x), ∀x ∈ Σ′_{β,𝕏}.

I_{4}(𝕏) L’ensemble des x ∈ T_{𝕏}^{reg} tels que ψ(x) ≠ 0 est relativement compact dans T_{𝕏}.

Remarque 3.3.1. Dans la relation de saut décrite dans I_{3}(𝕏), on ne fait intervenir que les u ∈ S(𝔱) invariants par s_{β}. Pour les u tels que s_{β} · u = −u, la ”relation de saut” découle de l’invariance de ψ par s_{β}.

On notera E^{st}(𝕏) l’espace des fonctions ψ ∈ C^{∞}(𝕏^{reg}) stablement invariantes et vérifiant les trois propriétés I_{1}(𝕏), I_{2}(𝕏) et I_{3}(𝕏) ci-dessus.

3.4 Topologie sur l’espace des fonctions orbitales

On notera K(𝕏) l’ensemble des parties fermées L de 𝕏 telles que L contient l’orbite stable de chacun de ses éléments et son intersection avec tout sous-espace de Cartan est compacte.

Si L ∈ K(𝕏), on notera I^{st}(L) l’espace des fonctions orbitales ψ ∈ I^{st}(𝕏) nulles sur 𝕏^{reg} \L. On munit I^{st}(L) de la topologie d’espace vectoriel topologique définie par la famille de semi-normes p_{T,u}, T ∈ T_{ℝ}(G), u ∈ S(𝔱):

p_{T,u}(ψ) = sup_{x∈T reg_{𝕏}} |∂(u)ψ_{T} (x)|.

Muni de cette topologie, I^{st}(L) est un espace de Fréchet. Il est facile de voir que I^{st}(𝕏) est la réunion des I^{st}(L), L parcourant K(𝕏). On munit alors I^{st}(𝕏) de la topologie de la limite inductive des I^{st}(L). On montre facilement que I^{st}(𝕏) est une limite inductive stricte d’une suite croissante d’espaces de Fréchet.

On munit E^{st}(𝕏) de la topologie d’espace vectoriel définie par la famille de semi-normes p_{L,T,u}, T ∈ T_{ℝ}(G), u ∈ S(𝔱) et L ∈ K(𝕏):

p_{L,T,u}(ψ) = sup_{x∈L∩T reg_{𝕏}} |∂(u)ψ_{T} (x)|.

C’est un espace de Fréchet et l’inclusion I^{st}(𝕏) ⊂ E^{st}(𝕏) est continue à image dense.

3.5 Caractérisation des intégrales orbitales

On rappelle qu’une distribution sur 𝕏 est dite stablement invariante si elle est dans l’adhérence, pour la topologie faible, de l’espace vectoriel engendré par les mesures invariantes sur les orbites ω_{x}, x ∈ 𝕏^{reg}. On notera Dist^{st}(𝕏) l’espace de ces distributions, et E′ le dual d’un espace vectoriel topologique E. Alors

Théorème 3.5.1. Pour toute fonction f ∈ C_{c}^{∞}(𝕏), I_{𝕏}^{st}(f) appartient à I^{st}(𝕏). L’application: I_{𝕏}^{st} : C_{c}^{∞}(𝕏) ⟶ I^{st}(𝕏) est continue, surjective, et sa transposée est une bijection de (I^{st}(𝕏))′ sur Dist^{st}(𝕏). Ce théorème est démontré dans [1] pour 𝕏 = G_{ℝ}, et dans [12] pour 𝕏 = 𝕄.

3.6 Action du centre de l’algèbre enveloppante

Une des particularités de l’espace symétrique 𝕄, qui le distingue parmi les espaces symétriques semi-simples, est l’existence d’un isomorphisme naturel entre le centre de l’algèbre enveloppante de 𝔤 et l’algèbre des opérateurs différentiels sur 𝕄 invariants par l’action de G. Nous allons le décrire brièvement.

On notera 𝔻(𝕄) l’algèbre des opérateurs différentiels sur 𝕄 invariants par G. On notera U(𝔥) l’algèbre enveloppante d’une algèbre de Lie 𝔥, et Z(𝔥) le centre de U(𝔥). On notera u ↦ ǔ l’antiautomorphisme de U(𝔥) définie par X̌ = −X. L’algèbre Z(𝔤) s’identifie à l’algèbre des opérateurs différentiels sur G_{ℝ} invariants par translation à droite et à gauche.

L’algèbre de Lie 𝔤 est l’algèbre des champs de vecteurs holomorphes sur G invariants par translation à gauche. L’algèbre de Lie réelle sous-jacente à 𝔤, que l’on notera 𝔤̃ pour éviter toute confusion, s’identifie à l’algèbre de Lie du groupe de Lie réel sous-jacent à G de la façon suivante. A chaque élément ξ de 𝔤 on associe le champ de vecteurs ξ̃ sur G définie par

ξ̃f(g) = \frac{d}{dt}f(g exp tξ)_{|t=0}, f ∈ C^{∞}(G).

La structure complexe de G se traduit par l’isomorphisme d’espace vectoriel J de 𝔤̃ qui correspond à la multiplication par i dans 𝔤, c’est à dire J(ξ̃) = iξ̃ pour tout ξ ∈ 𝔤. On a une décomposition de l’algèbre complexifiée de 𝔤̃ en somme directe de deux idéaux correspondant aux valeurs propres ±i de J:

𝔤̃_{ℂ} = 𝔤̃_{ℂ}^{+} ⊕ 𝔤̃_{ℂ}^{−}.

L’algèbre 𝔤 s’identifie à l’idéal 𝔤̃_{ℂ}^{+} par l’isomorphisme d’algèbres de Lie complexes: ξ ↦ \frac{1}{2}(ξ̃ − iJ(ξ̃)). Dans la suite on regardera 𝔤 comme un idéal de 𝔤̃_{ℂ} par cette identification. L’idéal 𝔤̃_{ℂ}^{−} est l’algèbre des champs de vecteurs antiholomorphes sur G (i.e. annulant toutes les fonctions holomorphes) invariants par translation à gauche. L’automorphisme σ permute les deux idéaux 𝔤̃_{ℂ}^{+} et 𝔤̃_{ℂ}^{−}.

A tout élément η ∈ 𝔤̃ on associe un champ de vecteurs ν(η) sur 𝕄 par

ν(η)f(x) = \frac{d}{dt}f(exp −tη x exp tσ(η))_{|t=0}, f ∈ C^{∞}(𝕄).

L’application ν se prolonge de façon unique en un morphisme d’algèbres sur ℂ de U(𝔤̃_{ℂ}) dans l’algèbre des opérateurs différentiels sur 𝕄. L’image de tout élément de Z(𝔤̃_{ℂ}) appartient à l’algèbre 𝔻(𝕄). Pour z ∈ Z(𝔤), on pose μ(z) = ν(ž).

Pour tout T ∈ T_{ℝ}(G), on note γ_{T} l’isomorphisme de Harish-Chandra de Z(𝔤) sur l’algèbre S(𝔱)^{W (T)} formé des éléments de S(𝔱) invariants par le groupe de Weyl. Pour tout système de racines positives R^{+} dans R(T), on note

Δ_{R^{+}} = ∏_{α∈R^{+}}(e^{\frac{1}{2} α} − e^{− \frac{1}{2} α});

cette fonction est bien définie sur T, car G est simplement connexe.

Proposition 3.6.1. i) Pour toute fonction holomorphe F sur G, on a

(z · F)_{|𝕄} = μ(z) · (F_{|𝕄}), pour tout z ∈ Z(𝔤).

ii) Pour toute fonction f ∈ C^{∞}(𝕄) invariante par G_{ℝ}, pour tout z ∈ Z(𝔤) et pour tout T ∈ T_{ℝ}(G), on a

μ(z) · f(x) = (Δ_{R^{+}}(x))^{−1}γ_{T} (z) · (Δ_{R^{+}}f_{|T})(x), ∀x ∈ T_{𝕄}^{reg}.

Démonstration. Voir [20] ou [3]; remarquons que μ est en fait un isomorphisme de Z(𝔤) sur 𝔻(𝕄).

On définit une action de Z(𝔤) dans E^{st}(𝕏), 𝕏 désigne toujours G_{ℝ} ou 𝕄, comme suit. Pour z ∈ Z(𝔤), pour ψ ∈ E^{st}(𝕏), et pour T ∈ T_{ℝ}(G), on pose

z · ψ(x) = γ_{T} (z) · ψ_{T} (x), x ∈ T_{𝕏}^{reg}.

Cette action laisse stable le sous-espace I^{st}(𝕏).

Proposition 3.6.2. Pour tout z ∈ Z(𝔤), on a

I_{G_{ℝ}}^{st}(z · f) = z · I_{G_{ℝ}}^{st}(f), pour tout f ∈ C_{c}^{∞}(G_{ℝ}).
I_{𝕄}^{st}(μ(z) · f) = z · I_{𝕄}^{st}(f), pour tout f ∈ C_{c}^{∞}(𝕄).

Démonstration. Voir ([10], théorème 3) pour 𝕏 = G_{ℝ}, et ([3], lemme 7.13) pour 𝕏 = 𝕄.

4. Un lemmme de Hiraï

4.1 Un espace de fonctions sur G_{ℝ}

Pour tout tore maximal T de G, la notation R^{+} désignera un système de racines positives de T; on pose

ϵ_{R^{+}} = \frac{Δ_{R^{+}}}{|Δ_{R^{+}}|};

c’est une fonction sur T^{reg}, sa restriction à T_{ℝ}^{reg} (ou T_{𝕄}^{reg}) est localement constante à valeurs dans l’ensemble des racines quatrièmes de l’unité.

On introduit l’espace J^{st}(G_{ℝ}) des fonctions φ ∈ C^{∞}(G_{ℝ}^{reg}) stablement invariantes et vérifiant les quatre propriétés J_{1}, J_{2}, J_{3} et J_{4} suivantes pour tout T ∈ T_{ℝ}(G).

J_{1}- Pour toute partie compacte K de T_{ℝ} et pour tout u ∈ S(𝔱), on a

sup_{x∈K∩T reg_{ℝ}} |∂(u)φ_{T} (x)| < ∞.

J_{2}- On note T′_{ℝ}(R) l’ouvert des x ∈ T_{ℝ} tels que e^{α}(x) ≠ 1 pour toute racine réelle de T. Alors ϵ_{R^{+}}φ_{T} se prolonge en une fonction C^{∞} dans T′_{ℝ}(R).

Pour énoncer la troixième propriété nous avons besoin de quelques notations. Soit α une racine réelle de T et soit T′ ∈ T_{ℝ}(G) un tore obtenu par une transformation de Cayley ν_{α} par rapport à α. Rappelons les notations:

Σ_{α} = T ∩T′ = {x ∈ T; e^{α}(x) = 1}, Σ′_{α} = {x ∈ Σ_{α}; e^{β}(x) ≠ 1, ∀β ∈ R(T), β ≠ ±α}.

On pose alors Σ′_{α,ℝ} = Σ′_{α} ∩ T_{ℝ}. Remarquons que Σ′_{α,ℝ} est inclus dans T′_{ℝ}(R); donc φ_{T′} se prolonge en une fonction C^{∞} au voisinage de chaque élément de Σ′_{α,ℝ}.

J_{3}- Pour tout u ∈ S(𝔱) vérifiant s_{β} · u = −u, la fonction ∂(u)(ϵ_{R^{+}}φ_{T}) se prolonge en une fonction continue au voisinage de chaque élément de Σ′_{α,ℝ} et on a

∂(u)(ϵ_{R^{+}}φ_{T})(x) = ∂(ν_{α} · u)(ϵ_{ν_{α}·R^{+}}φ_{T′})(x), ∀x ∈ Σ′_{α,ℝ}.

J_{4}- L’ensemble des x ∈ T_{ℝ}^{reg} tels que φ(x) ≠ 0 est relativement compact dans T_{ℝ}.

On notera F^{st}(G_{ℝ}) l’espace des fonctions φ ∈ C^{∞}(G_{ℝ}^{reg}) stablement invariantes et vérifiant les trois propriétés J_{1}, J_{2} et J_{3} ci-dessus.

On définit une action de Z(𝔤) dans F^{st}(G_{ℝ}), comme suit. Pour z ∈ Z(𝔤), pour φ ∈ F^{st}(𝕏), et pour T ∈ T_{ℝ}(G), on pose

z · φ(x) = γ_{T} (z) · φ_{T} (x), x ∈ T_{𝕏}^{reg}.

Cette action laisse stable le sous-espace J^{st}(G_{ℝ}). Ces définitions se justifient par le théorème suivant. Rappelons que, par le théorème de régularité de Harish-Chandra, toute distribution invariante Θ sur G_{ℝ}, vecteur propre de Z(𝔤), est donnée par une fonction localement intégrable, analytique sur l’ouvert des éléments réguliers; dans la suite cette fonction sera aussi notée Θ.

Théorème 4.1.1. Soit Θ une distribution stablement invariante sur G_{ℝ}, vecteur propre de Z(𝔤). Alors la fonction φ = |D|^{1/2}Θ appartient à F^{st}(G_{ℝ}). Réciproquement, soit Ψ ∈ F^{st}(G_{ℝ}), vecteur propre de Z(𝔤). Alors la fonction |D|^{−1/2}Ψ définit une distribution stablement invariante sur G_{ℝ}. La partie directe du théorème est due à Harish-Chandra, et la réciproque est due à Hiraï (plus précisément, les théorèmes de Harish-Chandra et Hiraï concernent les distributions invariantes, mais le passage aux distributions stablement invariantes est trivial). Remarquons qu’avec les notations du théorème, pour tout z ∈ Z(𝔤), on a

z · φ = |D|^{1/2}(z · Θ);  (6)

c’est à dire que la correspondance Θ ↦ φ commute avec l’action de Z(𝔤).

Comme pour les fonctions orbitales (§3.), on définit, pour toute partie L ⊂ K(G_{ℝ}), le sous-espace J^{st}(L) de J^{st}(G_{ℝ}) que l’on munit de la topologie définie par la famille de semi-normes q_{T,u}, T ∈ T_{ℝ}(G), u ∈ S(𝔱):

q_{T,u}(φ) = sup_{x∈T reg_{ℝ}} |∂(u)φ_{T} (x)|.

On vérifie aisément que J^{st}(L), muni de cette topologie, est un espace de Fréchet. On munit J^{st}(G_{ℝ}) de la topologie de la limite inductive des J^{st}(L), L parcourant K(G_{ℝ}).

De même on munit F^{st}(G_{ℝ}) de la topologie, qui en fait un espace de Fréchet, définie par la famille de semi-normes q_{L,T,u}, L ∈ K(G_{ℝ}), T ∈ T_{ℝ}(G), u ∈ S(𝔱):

q_{L,T,u}(φ) = sup_{x∈L∩T reg_{ℝ}} |∂(u)φ_{T} (x)|.

L’inclusion de J^{st}(G_{ℝ}) dans F^{st}(G_{ℝ}) est clairement continue.

4.2 Énoncé du lemme

Pour φ ∈ F^{st}(G_{ℝ}) et ψ ∈ I^{st}(G_{ℝ}), ou bien φ ∈ J^{st}(G_{ℝ}) et ψ ∈ E^{st}(G_{ℝ}), on pose

⟨φ, ψ⟩ = ∑_{⟨T ⟩} \frac{1}{|W^{σ}(T)|} ∫_{T_{ℝ}} φ(γ)ψ(γ)dγ.

Pour expliquer l’origine de cette formule, considérons la situation où on a φ = |D|^{1/2}Θ, Θ étant une distribution stablement invariante propre sur G_{ℝ}, et ψ = I^{st}(f), f ∈ C_{c}^{∞}(G_{ℝ}), il découle alors de la formule (1) du paragraphe 3.2 que

⟨φ, ψ⟩ = ⟨Θ, f⟩.

Continuons avec ces notations et soit z ∈ Z(𝔤). Il découle alors de la formule (6) et de la proposition 3.6.2 que

⟨z · φ, ψ⟩ = ⟨z · Θ, f⟩
= ⟨Θ, ž · f⟩
= ⟨φ, ž · ψ⟩.

Le lemme suivant affirme que ceci est vrai pour tout φ dans F^{st}(G_{ℝ}) ou dans J^{st}(G_{ℝ}).

Lemme 4.2.1. Avec les notations ci-dessus, pour tout z ∈ Z(𝔤), on a

⟨z · φ, ψ⟩ = ⟨φ, ž · ψ⟩.

De plus la forme bilinéaire (φ, ψ) ↦ ⟨φ, ψ⟩ est séparément continue.

Démonstration. Cet énoncé est l’analogue ”stable” d’un lemme de Hiraï ([14], lemme 6.4); on le déduit de celui-ci en faisant la moyenne sur les groupes de Weyl W^{σ}(T). Dans loc. cit. l’énoncé diffère légèrement de celui-ci en deux points: d’une part les fonctions φ et ψ sont multipliées sur chaque sous-groupe de Cartan par une fonction ”signe” (i.e. localement constante sur l’ouvert des éléments réguliers et à valeurs dans {−1, 1}), mais dans la formule définissant ⟨φ, ψ⟩ les deux signes se compensent, d’autre part l’énoncé de Hiraï ne concerne que les fonctions φ vecteurs propres de Z(𝔤) (et donc ψ ∈ I^{st}(G_{ℝ})), mais dans la démonstration il n’utilise que la traduction des propriétés de φ en termes des propriétés J_{1}, J_{2} et J_{3}; le cas φ ∈ J^{st}(G_{ℝ}) et ψ ∈ E^{st}(G_{ℝ}) se traite de la même façon.

Pour la continuité séparée de la forme bilinéaire sur F^{st}(G_{ℝ}) × I^{st}(G_{ℝ}), il suffit de montrer que, pour tout L ⊂ K(G_{ℝ}), sa restriction à F^{st}(G_{ℝ}) × I^{st}(L) est continue. Or pour tout φ ∈ F^{st}(G_{ℝ}) et tout ψ ∈ I^{st}(L), on a

|⟨φ, ψ⟩| ≤ ∑_{⟨T ⟩} \frac{vol(L ∩ T)}{|W^{σ}(T)|}q_{L,T,1}(φ)q_{T,1}(ψ);

où vol(L ∩ T) désigne le volume de la partie compacte L ∩ T. Ceci prouve notre assertion.

La continuité sur J^{st}(L) × E^{st}(G_{ℝ}) se démontre de la même façon.

5. Dualité

5.1 Transfert d’intégrales orbitales

On continue de noter κ la forme de Killing de l’algèbre de Lie réelle sousjacente à 𝔤. Si T ∈ T_{ℝ}(G) et si α ∈ R(T), on note h_{α} l’unique élément de 𝔱 tel que α(X) = κ(X, h_{α}) pour tout X ∈ 𝔱, et, pour tout système de racines positives R^{+} dans R(T), on pose

ϖ_{T,R^{+}} = ∏_{α∈R^{+}} h_{α}.

On voit alors facilement, comme dans ([8], lemme 36), qu’il existe un opérateur différentiel invariant \overline{∇}_{G_{ℝ}} sur G_{ℝ}^{reg} tel que, pour toute fonction f indéfiniment différentiable et G_{ℝ}-invariante sur G_{ℝ}^{reg}, pour tout T ∈ T_{ℝ}(G) et pour tout système de racines positives R^{+} dans R(T), on ait

\overline{∇}_{G_{ℝ}} · f(x) = \frac{1}{ϵ_{R^{+}}(x)}∂(ϖ_{T,R^{+}}) · f_{T} (x), x ∈ T_{ℝ}^{reg};

où f_{T} désigne la restriction de f à T_{ℝ}^{reg}.

Proposition 5.1.1. Pour toute fonction φ dans I^{st}(𝕄) (resp. E^{st}(𝕄)), on pose

τ_{𝕄}^{G_{ℝ}}(φ) = \overline{∇}_{G_{ℝ}} · (φ^{∘}ι).

Alors τ_{𝕄}^{G_{ℝ}}(φ) appartient à J^{st}(G_{ℝ}) (resp. F^{st}(G_{ℝ})). De plus l’application τ_{𝕄}^{G_{ℝ}} est continue et commute avec l’action de Z(𝔤).

Démonstration. Posons ψ = τ_{𝕄}^{G_{ℝ}}(φ). Il est clair que ψ est stablement invariante.

Si T ∈ T_{ℝ}(G) et si C est une composante connexe de T_{ℝ}, il existe une inversion g de T telle que, notant S = gT g^{−1}, on ait gCg^{−1} ⊂ 𝕄. Alors

φ^{∘}ι(x) = φ(gxg^{−1}), ∀x ∈ C^{reg}.

Cela montre que φ^{∘}ι est de classe C^{∞}; il en est donc de même de ψ. Le même argument montre que la fonction ψ vérifie la propriété J_{1}, et, lorsque φ ∈ I^{st}(𝕄), elle vérifie de plus la propriété J_{4}.

On fixe T ∈ T_{ℝ}(G) et R^{+} un système de racines positives dans R(T). Soit C une composante connexe de T_{ℝ} et soit g une inversion de T comme ci-dessus. Alors, pour tout x ∈ C^{reg}, on a

ϵ_{R^{+}}ψ_{T} (x) = ϵ_{R^{+}} \frac{1}{ϵ_{R^{+}}} ∂(ϖ\overline{R}^{+})(φ_{S}^{∘} Ad g)(x)
= ∂(ϖ_{g·\overline{R}^{+}})φ_{S}(gxg^{−1}).  (7)

Comme Ad g échange les racines réelles de T et les racines imaginaires de S, il induit un isomorphisme entre C ∩ T′_{ℝ}(R) et (gCg^{−1}) ∩ S′_{𝕄}(I). Or d’après I_{2}(𝕄), la fonction φ_{S} se prolonge en une fonction C^{∞} sur S′_{𝕄}(I), donc ϵ_{R^{+}}ψ_{T} se prolonge en une fonction C^{∞} sur C ∩ T′_{ℝ}(R), et ceci pour toute composante connexe de T_{ℝ}; donc ψ vérifie J_{2}.

Soient α une racine réelle de T et C une composante connexe de T_{ℝ} tels que Σ′_{α,ℝ} ∩ C ≠ Ø. On a alors l’assertion suivante

(A) Il existe une inversion g de T vérifiant: gCg^{−1} ⊂ 𝕄 et g · α

est une racine imaginaire non compacte. Supposons que cette assertion soit démontrée. On pose β = g ·α, on fixe un

élément de Cayley n_{α} (resp. m_{β}) associé à α (resp. β), et on note U = n_{α}T n_{α}^{−1} et V = m_{β}Sm_{β}^{−1}. Alors (voir démonstration de la proposition 1.5.1) y = m_{β}gn_{α}^{−1} est une inversion de U et V = yUy^{−1}.

D’après I_{3}(𝕄), pour tout u ∈ S(𝔰) vérifiant s_{β} · u = u, on a

∂(u)φ_{S}(x) = ∂(m_{β} · u)φ_{V} (x), ∀x ∈ Σ′_{β,𝕄}.

Donc, par un calcul analogue à celui fait ci-dessus, pour tout u ∈ S(𝔱) vérifiant s_{α} · u = −u et tout x ∈ Σ′_{α,G_{ℝ}} ∩ C, on a

∂(u)(ϵ_{R^{+}}ψ)(x) = ∂(g · (uϖ\overline{R}^{+}))φ_{S}(gxg^{−1}) (d’après (1))
= ∂(m_{β}g · (uϖ\overline{R}^{+}))φ_{V} (gxg^{−1}) (d’après I_{3}(𝕄))
= ∂(yn_{α} · (uϖ\overline{R}^{+}))φ_{V} (yxy^{−1}) (car yn_{α} = m_{β}g, yxy^{−1} = gxg^{−1})
= ∂(n_{α} · (uϖ\overline{R}^{+}))(φ_{V} ^{∘} Ad y)(x)
= ∂(n_{α} · u)ϵ_{n_{α}·R^{+}}ψ_{U}(x) (d’après (1)).

Donc ψ vérifie J_{3}. La continuité de τ_{𝕄}^{G_{ℝ}}, ainsi que sa commutation avec l’action de Z(𝔤), est évidente.

Il nous reste à prouver l’assertion (A). Fixons une inversion g_{1} de T telle que g_{1}Cg_{1}^{−1} ⊂ 𝕄 et notons T_{1} = g_{1}T g_{1}^{−1}. La racine β_{1} = g_{1} · α de T_{1} est imaginaire, et on sait, d’après ([23], lemme 9.2), qu’il existe w ∈ W^{σ}(T_{1}) tel que w · β_{1} soit une racine imaginaire non compacte; comme W^{σ}(T_{1}) ne stabilise pas forcément T_{1}_{𝕄}, il faudrait montrer qu’on peut choisir w de sorte que de plus w · (g_{1}Cg_{1}^{−1}) reste dans 𝕄.

On note T_{a} (resp. T_{d}) la composante anisotrope (resp. déployé) de T, de sorte que T = T_{a}T_{d}, 𝔥 la sous-algèbre de Lie de 𝔤 engendrée par l’algèbre de Lie 𝔱_{d} de T_{d} et les sous-espaces radiciels correspondant aux racines réelles de T dans 𝔤, et H le sous-groupe de Lie connexe de G correspondant à 𝔥. Alors H est défini sur ℝ et, d’après ([21], proposition 2.44), il est semi-simple déployé (T_{d} y est un tore maximal déployé), et vérifie les propriétés de la proposition 1.1.3; de plus si T_{ℝ}^{0} désigne la composante connexe de l’élément neutre de T_{ℝ}, on a C ⊂ T_{ℝ}^{0}Z(H), Z(H) désigne le centre de H (pour être precis, l’énoncé de Schmid ne concerne que le groupe des points réels de H, mais il est facile d’en déduire la formulation que nous en avons donnée).

Le groupe H_{1} = g_{1}Hg_{1}^{−1} est aussi défini sur ℝ, car T_{d}_{1} = g_{1}T_{d}g_{1}^{−1} est défini sur ℝ et l’ensemble de ses racines dans H_{1}, qui sont toutes imaginaires, est stable par σ. Le tore T_{d}_{1} est anisotrope et R(H_{1}, T_{d}_{1}) contient un système de racines fortement orthogonales deux-à-deux ayant dim T_{d} éléments (par transport d’un tel système de racines dans R(H, T_{d}), qui existe d’après la proposition 1.1.3). Donc H_{1} est déployé d’après ([21], lemme 2.15).

Comme β_{1} (ou plutôt sa restriction à T_{d}_{1}) est imaginaire, d’après ([23], lemme 9.2), il existe w ∈ W (H_{1}, T_{d}_{1})(= W^{σ}(H_{1}, T_{d}_{1})) tel que w·β_{1} soit imaginaire non compacte. Soit n ∈ N(H_{1}, T_{d}_{1})) un représentant de w. Alors n ∈ N(G, T_{1}), car g_{1}T_{a}g_{1}^{−1} commute avec H_{1}; donc n représente un élément de W^{σ}(T_{1}) et n · β_{1} est une racine imaginaire non compacte. Montrons que ng_{1}Cg_{1}^{−1}n^{−1} ⊂ 𝕄. On a vu que C ⊂ T_{ℝ}^{0}Z(H), et il est clair que g_{1}Z(H)g_{1}^{−1} = Z(H_{1}) et g_{1}T_{ℝ}^{0}g_{1}^{−1} = T_{1}_{𝕄}^{0}, où T_{1}_{𝕄}^{0} désigne la composante neutre de T_{1}_{𝕄}; donc g_{1}Cg_{1}^{−1} ⊂ T_{1}_{𝕄}^{0}Z(H_{1}), c’est à dire qu’il existe z ∈ Z(H_{1}) ∩ 𝕄 tel que g_{1}Cg_{1}^{−1} = T_{1}_{𝕄}^{0}z. Alors

ng_{1}Cg_{1}^{−1}n^{−1} = T_{1}_{𝕄}^{0}z = g_{1}Cg_{1}^{−1} ⊂ 𝕄.

Ceci prouve l’assertion (A) et complète la démonstration de la proposition.

On définit, comme pour G_{ℝ} (au signe près), un opérateur différentiel invariant \overline{∇}_{𝕄} sur 𝕄^{reg} par

\overline{∇}_{𝕄} · f(x) = ϵ_{R^{+}}(x)∂(ϖ_{T,R^{+}}) · f_{T} (x),

où T désigne le tore maximal contenant x et R^{+} désigne un système de racines positives de T. Il existe une unique fonction stablement invariante η_{G_{ℝ}} (resp. η_{𝕄}) sur G_{ℝ}^{reg} (resp. 𝕄^{reg}), à valeurs dans {±1}, telle que, utilisant les mêmes notations que ci-dessus, on ait

η_{𝕏}(x) = ϵ_{R^{+}}(x)^{2}, 𝕏 = 𝕄 ou G_{ℝ}.

Alors η_{G_{ℝ}} = η_{𝕄}^{∘}ι, et si f est une fonction stablement invariante de classe C^{∞} sur 𝕄^{reg}, on a

\overline{∇}_{G_{ℝ}} · (f^{∘}ι) = η_{𝕄}^{∘}ι(\overline{∇}_{𝕄} · f)^{∘}ι.  (8)

Proposition 5.1.2. Pour toute fonction φ dans J^{st}(G_{ℝ}) (resp. F^{st}(G_{ℝ})), on pose

τ_{G_{ℝ}}^{𝕄}(φ) = \overline{∇}_{𝕄} · (φ^{∘}ι^{−1}).

Alors τ_{G_{ℝ}}^{𝕄}(φ) appartient à I^{st}(𝕄) (resp. E^{st}(𝕄)). De plus l’application τ_{G_{ℝ}}^{𝕄} est continue et commute avec l’action de Z(𝔤).

Démonstration. Elle est en tout point analogue à la démonstration de la proposition précédente, sauf qu’on n’a pas besoin de l’assertion (A).

On note ω_{𝔤} l’élément de Z(𝔤) tel que pour tout tore maximal T de G et pour tout système de racines positives R^{+} de T, on ait

γ_{T} (ω_{𝔤}) = ∏_{α∈R^{+}} h_{α}^{2}.

Proposition 5.1.3. Pour toute fonction φ dans J^{st}(G_{ℝ}) (resp. F^{st}(G_{ℝ})), on a

τ_{𝕄}^{G_{ℝ}} ^{∘}τ_{G_{ℝ}}^{𝕄}(φ) = ω_{𝔤} · φ.

De même, pour toute fonction φ dans I^{st}(𝕄) (resp. E^{st}(𝕄)), on a

τ_{G_{ℝ}}^{𝕄}^{∘}τ_{𝕄}^{G_{ℝ}}(φ) = ω_{𝔤} · φ.

Démonstration. Elle découle des définitions et de la formule (8).

Remarque 5.1.4. Comme pour G_{ℝ}, on peut définir les espaces J (𝕄) et F(𝕄) sur 𝕄, et leurs analogues stables J^{st}(𝕄) et F^{st}(𝕄). Je pense qu’il est plus simple d’établir la formule d’inversion dans ces espaces et en déduire la formule d’inversion des intégrales orbitales dans 𝕄 comme dans le paragraphe 6. En effet, l’espace I(G_{ℝ}) est naturellement filtré, et son gradué associé est (topologiquement) isomorphe à une somme directe ⊕_{⟨T ⟩}C_{c}^{∞}(T_{ℝ})^{∗}, où C_{c}^{∞}(T_{ℝ})^{∗} désigne un sous-espace de C_{c}^{∞}(T_{ℝ}) formé de fonctions vérifiant une propriété d’invariance par rapport au groupe de Weyl W_{ℝ}(T) ([1], corollaire 7.4.3). Mais la filtration analogue de I(𝕄) n’est pas scindée; ceci est à l’origine de nombreuses difficultés pour établir la formule d’inversion [13]. Par contre on peut montrer que la filtration naturelle de J (𝕄) est scindée.

5.2 Description de la dualité

On peut maintenant énoncer le résultat principal de cet article. Pour ψ ∈ I^{st}(G_{ℝ}) et φ ∈ E^{st}(𝕄) (resp. ψ ∈ E^{st}(G_{ℝ}) et φ ∈ I^{st}(𝕄)), on pose

⟨⟨ψ, φ⟩⟩ = ⟨ψ, τ_{𝕄}^{G_{ℝ}}φ⟩.

Théorème 5.2.1. La forme bilinéaire: (ψ, φ) ↦ ⟨⟨ψ, φ⟩⟩ est séparément continue sur I^{st}(G_{ℝ}) × E^{st}(𝕄) (resp. E^{st}(G_{ℝ}) × I^{st}(𝕄)). De plus on a

⟨⟨z · ψ, φ⟩⟩ = ⟨⟨ψ, μ(ž) · φ⟩⟩, ∀z ∈ Z(𝔤).

Démonstration. Découle du lemme 4.2.1 et de la proposition 5.1.1.

On en déduit:

Corollaire 5.2.2. La dualité du théorème définit deux applications linéaires qui commutent avec l’action de Z(𝔤):

u : E^{st}(𝕄) ⟶ I^{st}(G_{ℝ})′ ≃ Dist^{st}(G_{ℝ})
v : E^{st}(G_{ℝ}) ⟶ I^{st}(𝕄)′ ≃ Dist^{st}(𝕄).

Remarque 5.2.3. Les applications u et v sont continues lorsqu’on munit I^{st}(G_{ℝ})′ et I^{st}(𝕄)′ des topologies fortes; en effet, pour 𝕏 = G_{ℝ} ou 𝕏 = 𝕄, E^{st}(𝕏) est un espace de Fréchet et I^{st}(𝕏) est une limite inductive stricte d’une suite d’espaces de Fréchet, donc ils sont tous les deux des espaces tonnelés ([27], corollaires 1 et 3 de la proposition 33.2), il s’en suit ([27], théorème 41.2) que l’application bilinéaire du théorème est hypocontinue; notre assertion est une conséquence immédiate de l’hypocontinuité.

Explicitons les applications u et v. Soit Ψ ∈ E^{st}(𝕄). Il découle aisément des définitions que la distribution u(Ψ) est définie par la fonction Θ suivante: pour tout T ∈ T_{ℝ}(G), et, pour tout système de racines positives R^{+} de T, on a

Θ(x) = \frac{1}{|D_{G}(x)|^{1/2}} \overline{∇}_{G_{ℝ}} · (Ψ^{∘}ι)(x)
= \frac{1}{Δ_{R^{+}}(x)}∂(ϖ_{T,R^{+}}) · (Ψ^{∘}ι)(x), x ∈ T_{ℝ}^{reg}.  (9)

Quand Ψ est vecteur propre de Z(𝔤), la distribution Θ est celle associée à τ_{𝕄}^{G_{ℝ}}(Ψ) par le théorème 4.1.1. Le lemme suivant décrit v(Ψ), Ψ ∈ E^{st}(G_{ℝ}).

Lemme 5.2.4. Soit Ψ ∈ E^{st}(G_{ℝ}). Alors la distribution v(Ψ) est définie par une fonction Θ sur 𝕄^{reg}. Si T ∈ T_{ℝ}(G) et si R^{+} est un système de racines positives de T, on a

Θ(y) = (−1)^{\frac{1}{2} (dim 𝔤−rang 𝔤)} \frac{1}{Δ_{R^{+}}(y)}∂(ϖ_{T,R^{+}}) · (Ψ^{∘}ι^{−1})(y).  (10)

Démonstration. Par définition, pour tout f ∈ C_{c}^{∞}(𝕄), on a

⟨v(Ψ), f⟩ = ∑_{⟨T ⟩} \frac{1}{|W^{σ}(T)|} ∫_{T_{ℝ}} Ψ(x)\overline{∇}_{G_{ℝ}} · (I^{st}(f)^{∘}ι)(x)dx

= ∑_{⟨T ⟩} ∫_{T_{𝕄}} \frac{η_{𝕄}(y)}{c_{T} (y)}(Ψ^{∘}ι)(y)\overline{∇}_{𝕄} · I^{st}(f)(y)dy;  (11)

la deuxième égalité découle de la formule (8) ci-dessus et du lemme 3.2.1.

Si f est à support dans 𝕄^{reg}, la restriction de I^{st}(f) à T_{𝕄} est de classe C^{∞} et son support est inclus dans T_{𝕄}^{reg}. Comme Ψ est C^{∞} sur cet ouvert, on peut appliquer la formule d’intégration par parties dans les intégrales qui figurent dans la formule (11); d’où

Θ(y) = (−1)^{\frac{1}{2} (dim 𝔤−rang 𝔤)} \frac{1}{|D_{G}(y)|^{1/2}} η_{𝕄}(y)ϵ_{R^{+}}(y)∂(ϖ_{T,R^{+}}) · (Ψ^{∘}ι^{−1})(y).

Le lemme découle alors de

η_{𝕄}(y) = \frac{1}{η_{𝕄}(y)} = \frac{1}{(ϵ_{R^{+}}(y))^{2},}

et

|D_{G}(y)|^{1/2} = |Δ_{R^{+}}(y)|.

Les applications u et v ne sont ni injectives ni surjectives. Toutefois si, pour chaque caractère χ de Z(𝔤), on note avec un indice χ le sous-espace propre correspondant à ce caractère, et u_{χ}, v_{χ} les restrictions à ces sous-espaces de u et v, alors

Proposition 5.2.5. Les applications

u_{χ} : E^{st}(𝕄)_{χ} ⟶ Dist^{st}(G_{ℝ})_{χ}
v_{χ} : E^{st}(G_{ℝ})_{χ} ⟶ Dist^{st}(𝕄)_{χ}

sont des isomorphismes si χ est régulier et nulles si χ est singulier.

Démonstration. L’expression locale des éléments de E^{st}(𝕄)_{χ} et la formule (9) montrent que l’application u_{χ} est nulle si χ est singulier et est injective si χ est régulier. Supposons que χ est régulier et considérons l’application

w_{χ} : Dist^{st}(G_{ℝ})_{χ} ⟶ E^{st}(𝕄)_{χ}

définie par w_{χ}(Θ) = τ_{G_{ℝ}}^{𝕄}(|D_{G}|^{1/2}Θ). Alors

u_{χ}^{∘}w_{χ} = χ(ω_{𝔤})Id_{Distst(G_{ℝ})_{χ}}.

Cela montre la surjectivité de u_{χ}, car χ(ω_{𝔤}) ≠ 0. On montre de la même façon, à partir de la formule (10), que v_{χ} est un isomorphisme.

6. Application

Pour illustrer la dualité, on va montrer comment on peut obtenir la formule de Plancherel de 𝕄 à partir de la formule d’inversion des intégrales orbitales sur G_{ℝ}. On le fera avec peu de détails; voir [13] pour une description plus complète.

6.1 Rappel de la formule d’inversion

Dans ce paragraphe, nous rappelons la formule d’inversion des intégrales orbitales dans G_{ℝ}, voir [2] pour les détails.

On note sans l’exposant “st” les objets concernant les intégrales orbitales (non stables) dont la définition est analogue à ceux du paragraphe 3, mais où la conjugaison ordinaire par G_{ℝ} remplace la conjugaison stable (voir [1] ou [2] pour les détails). Ainsi on dispose des espaces I(G_{ℝ}) et E(G_{ℝ}) (noté I^{∞}(G_{ℝ}) dans loc. cit.), et de l’intégrale orbitale de toute fonction f ∈ C_{c}^{∞}(G_{ℝ}), notée I_{G_{ℝ}} (f); l’application

I_{G_{ℝ}} : C_{c}^{∞}(G_{ℝ}) ⟶ I(G_{ℝ})

est continue, surjective, et sa transposée réalise une bijection entre le dual I(G_{ℝ})′ de I(G_{ℝ}) et l’espace Dist(G_{ℝ})^{G_{ℝ}} des distributions invariantes sur G_{ℝ}.

Soit T ∈ T_{ℝ}(G). On note T̂_{ℝ} le groupe des caractères (unitaires) de T_{ℝ}, que l’on munit de la mesure duale de celle de T_{ℝ}. On associe à tout t^{∗} ∈ T̂_{ℝ} une distribution invariante Θ_{t^{∗}} sur G_{ℝ} ([2], p.171), et donc un élément θ_{t^{∗}} de I(G_{ℝ})′ tel que ^{t}I_{G_{ℝ}}(θ_{t^{∗}}) = Θ_{t^{∗}}, et un élément Ψ_{t^{∗}} de E(G_{ℝ}) vecteur propre de Z(𝔤) ([2],p. 161). En fait Θ_{t^{∗}} et Ψ_{t^{∗}} dépendent aussi du choix d’un système de racine imaginaires positives R_{I}^{+} de T, et sont notés Θ_{t^{∗},R_{I}^{+}} , Ψ_{t^{∗},R_{I}^{+}} dans [2]; mais, pour alléger les notations, nous avons préféré omettre l’indice R_{I}^{+}. Pour simplifier les formules, on modifie aussi légèrement la normalisation et la paramétrisation des Ψ_{t^{∗}} de sorte que, si t̃^{∗} désigne le caractère x ↦ t^{∗}(x^{−1}), Ψ_{t^{∗}} désigne ici la fonction

|W_{ℝ}(T)|Ψt̃^{∗}

de [2].

On peut maintenant énoncer la formule d’inversion ([2], corollaire 8.3.2). Pour toute fonction f ∈ C_{c}^{∞}(G_{ℝ}), on a

I_{G_{ℝ}}(f) = ∑_{⟨T ⟩} \frac{1}{|W_{ℝ}(T)|} ∫_{T_{ℝ}}⟨Θ_{t^{∗}}, f⟩Ψ_{t^{∗}}dt^{∗},  (12)

comme au paragraphe 3., ∑_{⟨T ⟩} signifie que l’on prend la somme sur un ensemble de représentants des éléments de ⟨T_{ℝ}(G)⟩. Dans cette formule l’intégrale converge scalairement dans l’espace réflexif E(G_{ℝ}) (voir [4] pour des détails sur l’intégration des fonctions à valeurs dans un espace vectoriel localement convexe).

6.2 Formule d’inversion stable

Dans ce paragraphe, nous allons déduire de la formule d’inversion (12) une formule d’inversion des intégrales orbitales stables.

On dispose d’une application linéaire continue surjective ([1], page 593):

S : E(G_{ℝ}) ⟶ E^{st}(G_{ℝ})

définie, pour ψ ∈ E(G_{ℝ}) et x ∈ G_{ℝ}^{reg}, par

S(ψ)(x) = \frac{1}{|W_{ℝ}(T)|} ∑_{w∈W^{σ}(T)/W_{ℝ}(T)} ψ(w^{−1} · x),

où T désigne le tore maximal de G contenant x.

En appliquant ([4], §1, No 1, proposition 1) à la formule d’inversion (12), on obtient

(S^{∘}I_{G_{ℝ}})(f) = ∑_{⟨T ⟩} \frac{1}{|W_{ℝ}(T)|} ∫_{T_{ℝ}}⟨Θ_{t^{∗}}, f⟩S(Ψ_{t^{∗}})dt^{∗} ∀f ∈ C_{c}^{∞}(G_{ℝ});  (13)

chacune des intégrales dans cette formule est scalairement convergente et sa somme est un élément de E^{st}(G_{ℝ}).

Par définition de S on a I_{G_{ℝ}}^{st}(f) = (S^{∘}I_{G_{ℝ}})(f). Pour tout T ∈ T_{ℝ}(G) et tout t^{∗} ∈ T̂_{ℝ}, on pose

Ψ_{t^{∗}}^{st} = S(Ψ_{t^{∗}}).

La formule (13) s’écrit alors

I_{G_{ℝ}}^{st}(f) = ∑_{⟨T ⟩} \frac{1}{|W_{ℝ}(T)|} ∫_{T_{ℝ}}⟨Θ_{t^{∗}}, f⟩Ψ_{t^{∗}}^{st}dt^{∗}.  (14)

Soit T ∈ T_{ℝ}(G) et soit t^{∗} ∈ T̂_{ℝ}. Comme nous l’avons remarqué plus haut, la définition de Ψ_{t^{∗}} et Θ_{t^{∗}} dépend du choix d’un système de racines imaginaires positives. Cela nous amène à définir une action de W^{σ}(T) dans T̂_{ℝ}, qui en tient compte. Soit R_{I}^{+}un tel système, on note ρ = 1/2 ∑_{α∈R_{I}^{+}} α, alors wρ − ρ est une somme de racines; donc le caractère e^{wρ−ρ} de T est bien défini. On pose alors

w • t^{∗}(x) = t^{∗}(w^{−1} · x)e^{wρ−ρ}(x), w ∈ W^{σ}(T).

On définit la signature imaginaire ϵ_{I}(w) de w ∈ W^{σ}(T) par

Π_{α∈R_{I}^{+}}w · α = ϵ_{I}(w)Π_{α∈R_{I}^{+}}α.

Alors ([2], pages 163 et 171)

Ψ_{w•t^{∗}} = ϵ_{I}(w)Ψ_{t^{∗}}, Θ_{w•t^{∗}} = ϵ_{I}(w)Θ_{t^{∗}}, w ∈ W_{ℝ}(T).  (15)

L’argument de ([2], proposition 7.5.4) montre alors

Ψ_{w•t^{∗}}^{st} = ϵ_{I}(w)Ψ_{t^{∗}}^{st}, w ∈ W^{σ}(T).  (16)

On pose

Θ_{t^{∗}}^{st} = \frac{1}{|W_{ℝ}(T)|} ∑_{w∈W^{σ}(T)} ϵ_{I}(w)Θ_{w•t^{∗}}.  (17)

Le même type d’argument que celui de la démonstration de ([2], proposition 7.5.4), basé sur le théorème d’unicité de Harish-Chandra, montre que Θ_{t^{∗}}^{st} est stablement invariante. Il existe donc une forme θ_{t^{∗}}^{st} ∈ E^{st}(G_{ℝ})′ telle que

⟨Θ_{t^{∗}}^{st}, f⟩ = ⟨θ_{t^{∗}}^{st}, I_{G_{ℝ}}^{st}(f)⟩;

elle est définie par la fonction |D_{G}|^{1/2}Θ_{t^{∗}}^{st} , que l’on note aussi θ_{t^{∗}}^{st} , c’est à dire

⟨θ_{t^{∗}}^{st}, ψ⟩ = ∑_{⟨T ⟩} \frac{1}{|W^{σ}(T)|} ∫_{T_{ℝ}} |D_{G}(x)|^{1/2}Θ_{t^{∗}}^{st}(x)ψ(x)dx.  (18)

Les formules (15), (16) et (17) donnent

\frac{1}{|W_{ℝ}(T)|} ∑_{w∈W^{σ}(T)}⟨Θ_{w•t^{∗}}, f⟩Ψ_{w•t^{∗}}^{st} = \frac{1}{|W_{ℝ}(T)|} ∑_{w∈W^{σ}(T)} ϵ_{I}(w)⟨Θ_{w•t^{∗}}, f⟩Ψ_{t^{∗}}^{st}
= ⟨Θ_{t^{∗}}^{st}, f⟩Ψ_{t^{∗}}^{st}.

On déduit alors de (14):

I_{G_{ℝ}}^{st}(f) = ∑_{⟨T ⟩} \frac{1}{|W^{σ}(T)|} ∫_{T_{ℝ}}⟨Θ_{t^{∗}}^{st}, f⟩Ψ_{t^{∗}}^{st}dt^{∗}, ∀f ∈ C_{c}^{∞}(G_{ℝ}),  (19)

et donc, en utilisant la surjectivité de I_{G_{ℝ}}^{st} ,

ψ = ∑_{⟨T ⟩} \frac{1}{|W^{σ}(T)|} ∫_{T_{ℝ}}⟨θ_{t^{∗}}^{st}, ψ⟩Ψ_{t^{∗}}^{st}dt^{∗}, ∀ψ ∈ I^{st}(G_{ℝ}),  (20)

6.3 Une formule limite

Soit T ∈ T_{ℝ}(G) et soit x_{0} ∈ T_{ℝ}^{reg}. Il existe alors un voisinage V de x_{0} dans T_{ℝ}^{reg} tel que pour tout w ∈ W^{σ}(T), w ≠ 1, on a w · V ∩ V = Ø. On voit alors facilement que toute fonction f ∈ C_{c}^{∞}(V), se prolonge de façon unique en une fonction F stablement invariante de classe C^{∞} à support dans G_{ℝ}^{reg}. La fonction F appartient à I^{st}(G_{ℝ}). On peut alors construire une suite de fonctions (ψ_{n})_{n∈ℕ} dans I^{st}(G_{ℝ}) ayant les propriétés suivantes:

(i) ψ_{n}(x) ≥ 0 pour tout x ∈ G_{ℝ}^{reg}, (ii) le support supp ψ_{n} de ψ_{n} est inclus dans G_{ℝ}[T_{ℝ}^{reg}], supp ψ_{n+1} ⊂ supp ψ_{n} et ∩_{n} supp ψ_{n} est égale à l’orbite stable de x_{0}. (iii) \frac{1}{|W^{σ}(T)|} ∫_{T_{ℝ}} ψ_{n}(x)dx = 1.

Lemme 6.3.1. On utilise les notations ci-dessus.

a) Pour tout S ∈ T_{ℝ}(G) et pour tout s^{∗} ∈ Ŝ_{ℝ}, on a

lim_{n→∞}⟨θ_{s^{∗}}^{st}, ψ_{n}⟩ = θ_{s^{∗}}^{st}(x_{0}).

b) Pour toute fonction φ ∈ I^{st}(𝕄) (resp. φ ∈ E^{st}(𝕄)), on a

lim_{n→∞}⟨⟨φ, ψ_{n}⟩⟩ = η_{𝕄}(ι(x_{0}))\overline{∇}_{𝕄} · φ(ι(x_{0})).

Démonstration. La suite de fonctions (ψ_{n}) a été choisie de telle sorte que si f est une fonction intégrable au voisinage de x_{0} dans T_{ℝ} et continue en x_{0}, alors

lim_{n→∞} \frac{1}{|W^{σ}(T)|} ∫_{T_{ℝ}} ψ_{n}(x)f(x)dx = f(x_{0}).

Alors la première assertion est une conséquence immédiate de la formule (18). On a

⟨⟨φ, ψ_{n}⟩⟩ = \frac{1}{|W^{σ}(T)|} ∫_{T_{ℝ}} ψ_{n}(x)\overline{∇}_{G_{ℝ}} · (φ^{∘}ι)(x)dx
= \frac{1}{|W^{σ}(T)|} ∫_{T_{ℝ}} ψ_{n}(x)η_{𝕄}(ι(x))\overline{∇}_{𝕄} · φ(ι(x))dx (d’après §.5 (8);

la seconde assertion en découle par passage à la limite.

6.4 Formule de Plancherel de 𝕄

Lemme 6.4.1. Soient φ ∈ I^{st}(𝕄) et x ∈ 𝕄^{reg}. Alors, pour tout T ∈ I_{ℝ}(G), la fonction t^{∗} ↦ |(θ_{t^{∗}}^{st}^{∘}ι^{−1})(x)⟨⟨Ψ_{t^{∗}}^{st}, φ⟩⟩| est intégrable sur T̂_{ℝ}, et on a

η_{𝕄}(x)\overline{∇}_{𝕄} · φ(x) = ∑_{⟨T ⟩} \frac{1}{|W^{σ}(T)|} ∫_{T_{ℝ}}(θ_{t^{∗}}^{st}^{∘}ι^{−1})(x)⟨⟨Ψ_{t^{∗}}^{st}, φ⟩⟩dt^{∗}.  (21)

Démonstration. Soit S ∈ T_{ℝ}(G). Alors les fonctions |θ_{s^{∗}}^{st}| sont uniformément (relativement à s^{∗}) bornées; pour S compact, cela résulte de ([9], corollaire du lemme 60); le cas général s’en déduit par induction.

Tenant compte des estimations de ([2], lemme 7.5.2) et du fait que, pour tout z ∈ Z(𝔤), on a

⟨⟨z · Ψ_{t^{∗}}^{st}, φ⟩⟩ = ⟨⟨Ψ_{t^{∗}}^{st}, μ(ž) · φ⟩⟩,

on montre par un argument standard, voir par exemple la démonstration de ([1], lemme 7.2.2) que la fonction t^{∗} ↦ |⟨⟨Ψ_{t^{∗}}^{st}, φ⟩⟩| est intégrable; d’où la première assertion du lemme.

Dans la formule d’inversion (20) les intégrales convergent scalairement dans I^{st}(G_{ℝ}), donc, utilisant les notations du paragraphe précédent, pour tout n ∈ ℕ et tout φ ∈ I^{st}(𝕄), on a

⟨⟨ψ_{n}, φ⟩⟩ = ∑_{⟨T ⟩} \frac{1}{|W^{σ}(T)|} ∫_{T_{ℝ}}⟨θ_{t^{∗}}^{st}, ψ_{n}⟩⟨⟨Ψ_{t^{∗}}^{st}, φ⟩⟩dt^{∗}.  (22)

Comme pour tout S ∈ T_{ℝ}(G), les fonctions |θ_{s^{∗}}^{st}| sont uniformément bornées, il est clair qu’il existe une constante C_{S} telle que

|⟨θ_{s^{∗}}^{st}, ψ_{n}⟩| ≤ C_{S}, ∀s^{∗} ∈ Ŝ_{ℝ}, ∀n ∈ ℕ.

On peut donc passer à la limite dans les intégrales de la formule (22); le lemme 6.3.1 implique alors la formule (21).

On va déduire du lemme précédent la formule de Plancherel de 𝕄. Pour cela rappelons la formule limite suivante. Soit B ∈ T_{ℝ}(G) anisotrope; alors d’après ([12], lemme 7.1), pour toute fonction f ∈ C_{c}^{∞}(𝕄), la restriction à B_{𝕄}^{reg} de \overline{∇}_{𝕄} · I_{𝕄}^{st}(f) se prolonge en une fonction continue sur B_{𝕄}, et il existe une constante c_{𝕄} (indépendante de f) telle que

\overline{∇}_{𝕄} · I_{𝕄}^{st}(f)_{|B_{𝕄}}(1) = c_{𝕄}f(1)

(la fonction b_{R^{+}} de [12] est égale à \frac{|e^{ρ}|}{e^{ρ}}ϵ_{R^{+}} ).

Soit A ∈ T_{ℝ}(G) déployé. Alors d’après ([14], théorème 1), pour tout T ∈ T_{ℝ}(G) et tout t^{∗} ∈ T̂_{ℝ} la fonction θ_{t^{∗}}^{st} se prolonge en une fonction continue dans A_{ℝ}; sa valeur en 1 ne dépend pas du tore déployé A, on la note simplement θ_{t^{∗}}^{st}(1). Notons alors que pour B ∈ T_{ℝ}(G) anisotrope, la restriction à B_{𝕄}^{reg} de la fonction θ_{t^{∗}}^{st}^{∘}ι^{−1} se prolonge en une fonction continue dans B_{𝕄}, qui vaut donc θ_{t^{∗}}^{st}(1) en 1, car toute inversion de B l’envoie sur un tore déployé.

Comme e^{α}(B_{𝕄}) ⊂ ℝ pour toute racine α de B, la fonction η_{𝕄} est constante et vaut 1 sur B_{𝕄}^{reg}. Donc lorsque x tend vers 1, la formule (21) donne

c_{𝕄}f(1) = ∑_{⟨T ⟩} \frac{1}{|W^{σ}(T)|} ∫_{T_{ℝ}} θ_{t^{∗}}^{st}(1)⟨⟨Ψ_{t^{∗}}^{st}, I_{𝕄}^{st}(f)⟩⟩dt^{∗}, ∀f ∈ C_{c}^{∞}(𝕄).

Le calcul de la constante c_{𝕄} a été fait dans [12]; celui de la constante θ_{t^{∗}}^{st}(1) est analogue à ([12], proposition 7.2). Pour comparer cette formule avec la formule donnée dans ([12], théorème 7.4), il faudrait comparer les distributions f ↦ ⟨⟨Ψ_{t^{∗}}^{st}, I_{𝕄}^{st}(f)⟩⟩ aux distributions sphériques C(μ) qui interviennent dans la formule de [12]; ceci n’est pas difficile vu la construction de ces distributions, mais nous ne le ferons pas.

References

[1] Bouaziz, A., Intégrales orbitales sur les groupes de Lie réductifs, Ann. Scient. Éc. Norm. Sup. 27 (1994), 573–609.

[2] —, Formule d’inversion des intégrales orbitales sur les groupes de Lie réductifs, J. Funct. Anal. 134 (1995), 100–182.

[3] Bopp, N., Analyse sur un espace symétrique pseudo-riemannien, Thèse, Strasbourg 1987.

[4]  Bourbaki, N., Intégration, Chap. 6, Hermann, Paris, 1964.

[5] Carter, R. W., Finite Groups of Lie Type, Conjugacy classes and Characters, John Wiley and Sons, New York, 1985.

[6] Duflo, M., et M. Vergne, La formule de Plancherel des groupes de Lie semisimples réels, Adv. Studies in Pure Mathematics 14 (1988), 289–336.

[7] Gérardin, P, Construction de Séries Discrètes p-adiques, Lectures Notes in Math.(Springer) 462 (1975).

[8] Harish-Chandra, Invariant eigendistributions on a semisimple Lie group, Trans. Amer. Math. Soc. 119 (1965), 457–508.

[9] —, Discrete series for semisimple Lie groups I, Acta Math. 113 (1966), 241-318.

[10] —, A formula for semisimple Lie groups, Amer. J. Math. 79 (1957), 733– [11] Harinck, P., Fonctions généralisées sphériques sur G_{ℂ}/G_{ℝ}, Ann. Scient. Éc. Norm. Sup. 23 (1990), 1–38.

[12] —, Correspondance de distributions sphériques entre deux espaces symétriques du type G_{ℂ}/G_{ℝ}, J. Funct. Anal. 124 (1994), 427–473.

[13] —, Fonctions orbitales sur G_{ℂ}/G_{ℝ}. Formule d’inversion des inté-grales orbitales et formule de Plancherel, J. Funct. Anal. 153 (1998), 52–107.

[14] Hiraï, T., Invariant eigendistributions of Laplace operators on real simple Lie groups II, Japan J. Math. 2 (1976), 27–89.

[15] Helminck, A. G., Tori invariant under an involutorial automorphism I, Adv. in Math. 85 (1991), 1–38.

[16] Kottwitz, R., Rational conjugacy classes in reductive groups, Duke Math. J. 49 (1982), 785–806.

[17] Langlands, R., Stable conjugacy: definitions and lemmas, Can. J. Math. 31 (1979), 700–725.

[18] Rosenlicht, M., Some rationality questions on algebraic groups, Ann. di Mat. 43 (1957), 25–50.

[19] Sano, S., Distributions sphériques invariantes sur l’espace symétrique semisimple et son c-dual, Lectures Notes in Math. (Springer) 1243 (1987), 283–309.

[20] —, Invariant spherical distributions and the Fourier inversion formula on GL(n, ℂ)/GL(n, ℝ), J. Math. Soc. Japan 36 (1984), 191–219.

[21] Schmid, W., On the characters of the discrete series, the hermitian symmetric case, Invent. Math. 30 (1995), 47–144.

[22] Shelstad, D., Characters and inner forms of a quasi-split group over ℝ, Compositio Math. 39 (1979), 11–45.

[23] —, Orbital integrals and a family of groups attached to a real reductive group, Ann. scient. Éc. Norm. Sup. 12 (1979), 1–31.

[24] Steinberg, R., Regular elements of semisimple algebraic groups, Publ. Math. IHES 25 (1965), 281–312.

[25] —, Endomorphisms of linear algebraic groups, Memoirs of Amer. Math. Soc., Amer. Math. Soc., Providence, R.I. 80 (1960).

[26] Sugiura, M., Conjugate classes of Cartan subalgebras in real semisimple Lie algebras, J. Math. Soc. Japan 11(1959), 374–434.

[27] Trèves, F., “Topological vector spaces, distributions and kernels, ” Academic Press, New-York, London 1967.

[28] Varadarajan, V.S., “Harmonic analysis on real reductive groups, ” Lect. Notes Math. (Springer) 576 (1997).

Université de Poitiers Département de Mathématiques SP2MI Boulevard 3 - Téléport 2 - BP 179 86960 Futuroscope Cedex France e-mail: bouaziz@mathlabo.univ-poitiers.fr Received February 3, 1999 and in final form April 14, 1999