Journal of Lie Theory Volume 12 (2002) 137–190 \begin{matrix}c \\ ◯ \end{matrix} 2002 Heldermann Verlag

Méthode des orbites et formules du caractère pour les représentations tempérées d’un groupe

algébrique réel réductif non connexe

Jean-Yves Ducloux

Communicated by J. Faraut

Abstract. Let G be a non-connected reductive real Lie group. In this paper, I parametrize the set of irreductible tempered characters of G. Afterwards, I describe these characters by means of some “Kirillov’s formulas”, using the descent method near each elliptic element in G.

If G is linear and connected, the parameters that I use are “final basic” parameters in the sense of Knapp and Zuckerman (cf. [KZ 82, p. 453]).

Table des matières

Introduction et notations générales . . . . . . . . . . . . . . . . . . . . . . . 138

I. Les paramètres « forme linéaire » . . . . . . . . . . . . . . . . . . . . . . 142 1. Les paramètres λ̃ ∈ 𝔤̃^{∗}_{reg,G} . . . . . . . . . . . . . . . . . . . . . . . . 142 2. Les mesures β_{G·λ̃} . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 146 3. Points fixés par un élément elliptique . . . . . . . . . . . . . . . . . . 150

II. Les paramètres « représentation projective » . . . . . . . . . . . . . . . . 151 4. Rappels sur les groupes spécial-métalinéaire et métaplectique …. 151 5. Les paramètres τ ∈ X_{G}^{Ind}(λ̃) . . . . . . . . . . . . . . . . . . . . . . 156 6. Condition d’intégrabilité . . . . . . . . . . . . . . . . . . . . . . . . . 160

III. Construction de représentations . . . . . . . . . . . . . . . . . . . . . . 161 7. Le cas où G est connexe . . . . . . . . . . . . . . . . . . . . . . . . 161 8. Les représentations T_{λ̃,𝔞^{∗}^{+},τ_{+}}^{G} . . . . . . . . . . . . . . . . . . . . . . . 163

9. L’injection G · (λ̃, τ) ↦ T_{λ̃,τ}^{G} de G \ X_{G}^{Ind} dans Ĝ . . . . . . . . . . . 166

IV. Caractères des représentations . . . . . . . . . . . . . . . . . . . . . . . 172 10. Formule de restrictions des caractères . . . . . . . . . . . . . . . . . 172 11. Passage de T_{λ̃,τ_{M′}}^{M′} à T_{λ̃,𝔞^{∗}^{+},τ_{+}}^{G} . . . . . . . . . . . . . . . . . . . . . . 176 12. Translation au sens de G. Zuckerman . . . . . . . . . . . . . . . . . 177 13. Passage de T_{λ_{r},σ_{r}}^{M′} à T_{λ̃,τ_{M′}}^{M′} . . . . . . . . . . . . . . . . . . . . . . . 182

ISSN 0949–5932 / $2.50 \begin{matrix}c \\ ◯ \end{matrix} Heldermann Verlag Index des notations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 187

Références . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 188

Introduction et notations générales

Dans cet article, je vais décrire par la méthode des orbites le dual tempéré d’un groupe de Lie réel réductif, en m’appuyant sur les quatre travaux suivants :

– la description du dual tempéré d’un groupe de Lie réel réductif connexe par J. Adams, D. Barbasch et D. Vogan dans [ABV 92, ch. 11] ;

– la paramétrisation par M. Duflo des classes d’équivalence des représentations d’un groupe de Lie réel réductif qui sont tempérées irréductibles avec un caractère infinitésimal régulier, obtenue via la « théorie de Mackey » dans [Duf 82a, III] ;

– la formule du caractère « à la Kirillov » de A. Bouaziz dans [Bou 87], qui exprime le caractère de ces représentations à l’aide des transformées de Fourier d’orbites coadjointes semi-simples régulières ;

– les formules de W. Rossmann dans [Ros 82] (où « principal » se traduit par « régulier », et « regular » par « semi-simple régulier ») qui relient les transformées de Fourier des orbites régulières à celles des orbites semi-simples régulières.

Un théorème de M. Duflo dans [Duf 82b, p. 189] ramène la classification des duaux unitaires des groupes linéaires algébriques réels à la classification des duaux unitaires des groupes réductifs « presque algébriques à noyau fini ». Ce sont donc ces groupes réductifs qui m’intéressent.

Hypothèse. On se donne un groupe de Lie réel à base dénombrable G d’algèbre de Lie notée 𝔤, un groupe linéaire algébrique 𝔾 défini sur ℝ, et un morphisme de groupes de Lie de G dans 𝔾(ℝ) de noyau fini central dont l’image est ouverte pour la topologie usuelle. Ainsi, tout élément de G (respectivement 𝔤) a une « décomposition de Jordan réelle » en composantes elliptique, positivement hyperbolique et unipotente (respectivement composantes infinitésimalement elliptique, hyperbolique et nilpotente) décrite dans [DV 93, haut p. 36 et lem. 31 p. 38]. On suppose que 𝔤 est réductive avec un centre formé d’éléments semi-simples.

M. Duflo a paramétré dans [Duf 82a, lem. 8 p. 173] une partie du dual unitaire Ĝ de G (précisée ci-dessus), en termes d’orbites coadjointes semi-simples régulières, en se ramenant par induction aux séries discrètes de certains sousgroupes de G. Quand G est connexe, cette partie de Ĝ avait été décrite par Harish-Chandra (cf. [Har 76, th. 1 p. 198]). Je paramètre ici dans le théorème 9.6 (b) p. 169, en termes d’orbites coadjointes régulières « généralisées », la partie plus grosse de Ĝ, égale au dual tempéré de G, obtenue en remplaçant au début de l’induction les représentations des séries discrètes par les représentations limites de séries discrètes. Quand G est connexe, mon énoncé reproduit une partie du théorème 11.14 de [ABV 92, p. 131] (voir aussi [Kna 86, th. 14.76 p. 598]) avec l’apport suivant : l’égalité de deux représentations se traduit exactement par la conjugaison sous G de couples de « bons paramètres » qui leur sont associés.

L’expression « bons paramètres » renvoie aux contraintes imposées à ces paramètres. En voici le principe heuristique (cf. [Duf 82a, th. 1 p. 193] et [Duf 82b, th. 19 p. 211]). Une représentation unitaire irréductible T de G sera paramétrée dans les cas favorables par l’orbite sous G d’un couple (λ̃, τ). Le terme λ̃ doit être une sorte de forme linéaire dont la composante semi-simple l correspond au caractère χ_{i l}^{U𝔤_{ℂ}} par lequel le centralisateur (U𝔤_{ℂ})^{G} de G dans U𝔤_{ℂ} agit sur l’espace des vecteurs C^{∞} de l’espace de T (cf. 8.4 (a)). Dans cet article, ce premier paramètre est relié à une limite de série discrète dont T va en gros être une induite. Pour cette raison, il s’écrira sous la forme λ̃ = (λ, F^{+}), où F^{+} est une chambre de Weyl pour des racines imaginaires (cf. [Zuc 77, th. 5.7 p. 305]). Sa « composante semi-simple » est la forme linéaire l := λ, en un sens compatible avec les définitions concernant le cas des orbites coadjointes (cf. 2.2 (a)). On note G(λ̃) le stabilisateur de λ̃ dans G. Le terme τ doit être une représentation projective de G(λ̃)/G(λ̃)_{0}, remontée en une représentation unitaire d’un revêtement de degré 2 de G(λ̃), telle que d_{1}τ = i l id et le caractère central de τ prolonge celui de T (cf. 8.4 (b)). Dans cet article, ce second paramètre est une représentation unitaire (peut-être non irréductible) d’un analogue adéquat pour λ̃ du revêtement « de Duflo » du stabilisateur G(f) dans G d’un élément f de 𝔤^{∗}. En fait, mes constructions utiliseront un couple de paramètres ((λ̃, 𝔞^{∗}^{+}), τ_{+}) au lieu de (λ̃, τ), où 𝔞^{∗}^{+} est une certaine chambre de Weyl pour des racines restreintes, et τ_{+} est une représentation unitaire irréductible d’un revêtement de N_{G(λ̃)}(𝔞^{∗}^{+}). Ce nouveau couple de paramètres satisfait encore les conditions décrites ci-dessus. Le couple (λ̃, τ) se révèlera être « plus canonique » quand le caractère de T aura été calculé, mais il n’aura qu’un rôle secondaire. Les G-orbites de (λ̃, 𝔞^{∗}^{+}) et ((λ̃, 𝔞^{∗}^{+}), τ_{+}) s’identifient respectivement à celles de λ̃ et (λ̃, τ). Dans l’énoncé des résultats ci-dessous, je ferai intervenir l’ensemble X_{G}^{Ind} des couples (λ̃, τ). Il sera défini plus précisément dans la partie II., en relation avec la notion de « caractère final » (cf. 5.5 (c)).

Le résultat principal de cet article est le théorème 10.2 p. 173 qui décrit le caractère des représentations tempérées T de G en terme de transformées de Fourier des mesures canoniques sur certaines orbites coadjointes régulières reliées à un paramètre λ̃ attaché à T. Ces formules du caractère montrent la nécessité d’adapter le point de vue « orbites nilpotentes » de la méthode des orbites en oubliant l’aspect « orbite coadjointe » de G·λ̃. Par exemple les orbites coadjointes associées aux deux limites de la série discrète de SL(2, ℝ), qui sont l’un ou l’autre des deux demi-cônes nilpotents ouverts, n’ont pas de point fixe sous l’action de la « rotation » Ad^{∗}(\begin{matrix}0 & −1 \\ 1 & 0 \end{matrix}) (cf. remarque 3.3 (3)); elles doivent être remplacées par les ensembles des demi-droites incluses dans l’intérieur de leurs enveloppes convexes respectives, au produit par i près. On verra aussi dans la remarque 6.2 que ce nouveau point de vue permet de comprendre pourquoi certaines orbites nilpotentes « admissibles » au sens de M. Duflo ne correspondent à aucune représentation.

Mes deux théorèmes se résument comme suit (voir l’index des notations).

Résultats. Il existe une bijection « canonique » G·(λ̃, τ) ↦ T_{λ̃,τ}^{G} de G \ X_{G}^{Ind} sur le dual tempéré de G. Elle est déterminée par des formules du type :

k_{e}(X) tr T_{λ̃,τ}^{G}(e exp X) = ∑_{λ̃′^{.} ∈ G(e)\ G·λ̃ ∩ 𝔤̃^{∗}_{reg} (e) tel que λ̃′[e] ∈ \begin{matrix} \\ 𝔤(e) & ^{∗} \end{matrix}_{reg}}c_{ê′,λ̃} tr τ(ê′) β̂_{G(e)·λ̃′[e]}(X)

où (λ̃, τ) ∈ X_{G}^{Ind}, e décrit l’ensemble des éléments elliptiques de G, X est un élément d’un certain voisinage V_{e} de 0 dans 𝔤(e) tel que e exp X est semi-simple régulier dans G (auquel cas X est semi-simple régulier dans 𝔤(e)), ê′ est un élément du revêtement double G(λ̃)^{𝔤/𝔤(λ)(iρ_{F^{+}})} (en posant λ̃ = (λ, F^{+})) qui se projette sur e′ = g^{−1}eg pour un g ∈ G tel que λ̃′ = gλ̃, et, k_{e}(X) et c_{ê′,λ̃} sont certains nombres complexes non nuls.

Les idées qui m’ont permis d’obtenir ces résultats sont les suivantes. Les constructions de M. Duflo reprises étape par étape vont fournir une bijection d’un ensemble d’orbites sur le dual tempéré de G, grâce au lemme 9.3 (b) p. 166. Pour passer du cas connexe au cas non connexe, j’aurai besoin d’une généralisation d’un résultat de D. Vogan utilisé par M. Duflo pour une construction homologique. Celle-ci se trouve à la page 555 du livre [KV 95] de A. Knapp et D. Vogan. Au vu du cas connexe (cf. [Ros 80, p. 64]), il est ensuite naturel de chercher à récupérer les caractères des représentations tempérées irréductibles par passage à la limite à partir de ceux associés aux orbites semi-simples régulières. Dans le cas non connexe, le calcul du caractère des représentations se décomposera avant tout en deux étapes dont la première est peu commode.

Étape 1. On induit une représentation limite de la série discrète d’un sous-groupe de G à la composante neutre de la composante de Levi M′ (en général hors de la classe d’Harish-Chandra) d’un certain « sous-groupe parabolique » M′U de G. L’analogue de cette représentation induite dans le cas connexe était seulement une représentation limite de la série discrète de la composante de Levi M d’un sous-groupe parabolique cuspidal MAN de G. La méthode ici comme dans le cas connexe, est d’appliquer le foncteur de translation de Zuckerman (adapté au cas du groupe non connexe M′) pour se ramener aux représentations de M′ dont on connaît le caractère. Une difficulté est qu’on passe de M′_{0} à M′ avec une étape homologique. Sur le conseil d’A. Bouaziz, je me suis inspiré des points (i) et (ii) de la page 550 de son article [Bou 84] pour calculer l’action d’un groupe M′(λ̃)^{𝔪′/𝔥} dans un espace poids de l’homologie d’un M′_{0}-module translaté au sens de G. Zuckerman.

Étape 2. On induit ensuite de M′U à G. Le terrain aura été préparé dans la partie I. par des rappels et compléments concernant des résultats de W. Rossmann pour le calcul des limites de transformées de Fourier des mesures canoniques sur des orbites semi-simples régulières. En particulier, dans la section 3., j’aurai mis en évidence ce que donne le passage de G à G(e) au niveau des paramètres λ̃. Le reste de cette étape consiste à utiliser les méthodes et résultats d’A. Bouaziz.

Les définitions et notations qui suivent vont me permettre, d’abord de préciser mes conventions générales, et ensuite d’introduire les conventions relatives aux groupes réductifs que j’utiliserai le plus fréquemment.

Conventions 1. (a) On note |A| le cardinal d’un ensemble A et ȧ la classe d’un élément a de A modulo une relation d’équivalence ∼ sur A, f _{B′} : B′ → C la restriction d’une application f : B → C à une partie B′ de B, \overline{F} l’adhérence d’un sous-ensemble F d’un espace topologique E (dans les sections 2. et 12.), l^{ℂ} la complexifiée d’une application ℝ-linéaire l, \overline{w} et \overline{W} les conjugués d’un vecteur w et d’un sous-espace vectoriel W dans le complexifié V_{ℂ} d’un espace vectoriel réel V (dans les sections 1., 3., 4., 5., 8. et 9.), u_{Y} et u_{X/Y} les endomorphismes induits sur Y et X/Y par un endomorphisme u d’un espace vectoriel X laissant invariant un sous-espace vectoriel Y de X.

(b) Soient A un groupe de Lie réel à base dénombrable et 𝔞 son algèbre de Lie. On note 1 l’élément neutre de A, A_{0} la composante neutre de A, exp_{A} (ou exp) l’application exponentielle de 𝔞 dans A, Ad^{∗} et ad^{∗} les représentations coadjointes de A et de 𝔞, int 𝔞 le sous-groupe du groupe linéaire de 𝔞 engendré par les éléments exp(ad X) quand X décrit 𝔞, Z(A) et D(A) le centre et le groupe dérivé de A, Z(𝔞) et D(𝔞) le centre et l’algèbre dérivée de 𝔞, Z(U𝔞_{ℂ}) le centre de l’algèbre enveloppante U𝔞_{ℂ} de 𝔞_{ℂ}, Â le dual unitaire de A. À toute sous-algèbre de Lie 𝔟 de 𝔞, on associe les sous-groupes de Lie

C_{A}(𝔟) = {x ∈ A | (Ad x) _{𝔟} = id} et N_{A}(𝔟) = {x ∈ A | Ad x.𝔟 ⊆ 𝔟} de A, dont les algèbres de Lie sont

C_{𝔞}(𝔟) = {X ∈ 𝔞 | (ad X) _{𝔟} = 0} et N_{𝔞}(𝔟) = {X ∈ 𝔞 | ad X.𝔟 ⊆ 𝔟}.

(c) Soit M une variété C^{∞} séparée à base dénombrable de dimension m. Une densité C^{∞} sur M est une mesure de Radon complexe ρ sur M qui se lit dans toute carte de M centrée en un point x sous la forme a dx_{1}⋯ dx_{m}, où a est une fonction C^{∞} sur un voisinage ouvert de 0 dans ℝ^{m}. Elle « s’identifie » à la famille formée des applications ρ(x) avec x ∈ M qui envoient un élément de ⋀^{m} T_{x}M \{0} d’image ω_{0} par la carte précédente, sur a(0) |(dx_{1} ∧ ⋯ ∧ dx_{m})(ω_{0})|. Une fonction généralisée sur M est une forme linéaire continue sur l’espace des densités C^{∞} à support compact sur M, muni de la topologie de Schwartz.

(d) Soient A un groupe de Lie réel à base dénombrable et d_{A} une mesure de Haar à gauche sur A. Une représentation continue T de A dans un espace de Hilbert complexe est dite traçable si les opérateurs T (φ d_{A}) avec φ ∈ C_{c}^{∞}(A) sont traçables ; dans ce cas tr T : φ d_{A} ↦ tr T (φ d_{A}) est une fonction généralisée sur A. Pour toute représentation unitaire continue π d’un sous-groupe fermé B de A muni d’une mesure de Haar à gauche d_{B}, on note Ind_{B}^{A} π la représentation unitaire de A « induite » à partir de π comme dans [B.. 72, p. 99].

(e) Soit V un espace vectoriel réel de dimension finie. La transformée de Fourier d’une distribution tempérée μ sur V^{∗} est la fonction généralisée μ̂ sur V

définie par l’égalité μ̂(v) = ∫_{V^{∗}} e^{i l(v)}dμ(l) de fonctions généralisées en v ∈ V .

Conventions 2. (a) On note Car 𝔤 l’ensemble des sous-algèbres de Cartan de 𝔤. Soit 𝔥 ∈ Car 𝔤. On fixe un système de racines positives R^{+}(𝔤_{ℂ}, 𝔥_{ℂ}) , arbitrairement (sauf indication contraire), dans l’ensemble R(𝔤_{ℂ}, 𝔥_{ℂ}) des racines de 𝔥_{ℂ} dans 𝔤_{ℂ}.

On note W (G, 𝔥) le groupe fini N_{G}(𝔥)/C_{G}(𝔥), 𝔱 et 𝔞 les composantes infinitésimalement elliptique et hyperbolique de 𝔥, 𝔥_{(ℝ)} = i 𝔱 ⊕ 𝔞, T_{0} = exp 𝔱 et A = exp 𝔞, ρ_{𝔤,𝔥} la demi-somme des éléments de R^{+}(𝔤_{ℂ}, 𝔥_{ℂ}), et H_{α} la racine duale d’une α dans le système de racines R(𝔤_{ℂ}, 𝔥_{ℂ}).

Une racine α ∈ R(𝔤_{ℂ}, 𝔥_{ℂ}) est dite complexe (respectivement réelle, imaginaire, ou compacte) quand sa conjuguée \overline{α} : X ∈ 𝔥_{ℂ} ↦ \overline{α(\overline{X})} vérifie \overline{α} ∉ \{α, −α\} (respectivement \overline{α} = α, \overline{α} = −α, ou (ℂH_{α} ⊕ 𝔤_{ℂ}^{α} ⊕ 𝔤_{ℂ}^{−α}) ∩ 𝔤 ≃ 𝔰u(2)).

(b) On fixe une forme bilinéaire G-invariante non dégénérée ⟨ , ⟩ sur 𝔤 dont la complexifiée (encore notée ⟨ , ⟩) se restreint en un produit scalaire sur chaque 𝔥_{(ℝ)}, 𝔥 ∈ Car 𝔤. On note ⊥^{⟨ , ⟩} la relation de ⟨ , ⟩-orthogonalité. Soient x ∈ G et X ∈ 𝔤 semi-simples. On note G(x) (resp. G(X)) et 𝔤(x) (resp. 𝔤(X)) les commutants de x (resp. X) dans G et 𝔤. Le G(x)-module 𝔤(x)^{∗} (resp. le G(X)-module 𝔤(X)^{∗}) est canoniquement isomorphe par restriction à l’ensemble 𝔤^{∗}(x) (resp. 𝔤^{∗}(X)) des éléments de 𝔤^{∗} fixes sous Ad^{∗} x (resp. annulés par ad^{∗} X), c’est-à-dire nuls sur 𝔤(x)^{⊥^{⟨ , ⟩}} (resp. 𝔤(X)^{⊥^{⟨ , ⟩}}).

(c) Soit f ∈ 𝔤^{∗}. On note G(f) le stabilisateur de f dans G et 𝔤(f) l’algèbre de Lie de G(f). Dans la mesure du possible, je désignerai par μ, ν, λ = μ+ν, et ξ les « composantes infinitésimalement elliptique, hyperbolique, semi-simple et nilpotente de f » (notions issues de 𝔤 à l’aide de ⟨ , ⟩). On identifie 𝔤(λ)^{∗} à l’ensemble des éléments de 𝔤^{∗} nuls sur 𝔤(λ)^{⊥^{⟨ , ⟩}}.

(d) Soit 𝔪 le commutant dans 𝔤 d’un élément semi-simple X de 𝔤. Étant données des mesures de Haar d_{𝔤} et d_{𝔪} sur 𝔤 et 𝔪, on pose pour tout f ∈ 𝔪^{∗}: |Π_{𝔤,𝔪}|(f) = \frac{1}{k!} |(B_{f} _{[𝔤,X]^{2}})^{k}(ω)| × (d_{[𝔤,X]}(0)(ω))^{−1} (cf. (b) et conventions 1 (c)),

avec k = \frac{1}{2} dim[𝔤, X], B_{f} = f([·, ·]), ω ∈ ⋀^{2k}[𝔤, X] \\{0\}, et d_{[𝔤,X]} = d_{𝔤}/d_{𝔪}.

Les autres notations utilisées dans les énoncés sont accessibles au moyen de l’index des notations qui se trouve à la fin de cet article.

I. Les paramètres « forme linéaire »

La méthode des orbites, proposée initialement par A. Kirillov dans le cas des groupes de Lie nilpotents simplement connexes, consiste à paramétrer les représentations unitaires irréductibles d’un groupe de Lie à l’aide des orbites de sa représentation coadjointe. Quand la représentation est traçable, son caractère au voisinage de l’élément neutre doit être relié à la transformée de Fourier (à supposer qu’elle existe) de la mesure canonique sur l’orbite associée.

Une légère modification de ce point de vue va être nécessaire ici. À chaque représentation tempérée irréductible de G sera associée une orbite Ω̃ de G dans un certain ensemble 𝔤̃^{∗}_{reg} autre que 𝔤^{∗}, et à cette orbite Ω̃ sera attachée une somme finie de mesures canoniques sur des orbites coadjointes. En vue d’un prochain article, j’introduis aussi ci-dessous des parties 𝔤̃^{∗}_{I} et 𝔤̃^{∗}_{Inc} de 𝔤̃^{∗}_{reg}.

Je vais exploiter dans cette partie certains résultats de W. Rossmann.

1. Les paramètres λ̃ ∈ 𝔤̃^{∗}_{reg,G}

On construit dans cette section un ensemble 𝔤̃^{∗}_{reg} muni d’une action de G dans lequel l’ensemble des λ ∈ 𝔤^{∗} semi-simples régulières s’injectera de manière Géquivariante.

Définition 1.1. On note 𝔤_{reg}^{∗} l’ensemble des f ∈ 𝔤^{∗} régulières (c’est-à-dire l’ensemble des f ∈ 𝔤^{∗} pour lesquelles la dimension de 𝔤(f) est égale au rang de 𝔤), 𝔤_{ss}^{∗} l’ensemble des f ∈ 𝔤^{∗} semi-simples et 𝔤∗_{ss reg} = 𝔤_{ss}^{∗} ∩ 𝔤_{reg}^{∗}.

On note aussi 𝔤_{ssI}^{∗} (respectivement : 𝔤_{ssInc}^{∗}) l’ensemble des λ∈ 𝔤_{ss}^{∗} telles que 𝔤(λ) a une sous-algèbre de Cartan 𝔥 pour laquelle les racines de (𝔤(λ)_{ℂ}, 𝔥_{ℂ}) sont imaginaires (respectivement : imaginaires non compactes).

Soient λ∈ 𝔤_{ss}^{∗} et 𝔥 ∈ Car 𝔤(λ). On note C(𝔤(λ), 𝔥) l’ensemble des chambres (ouvertes) dans 𝔥_{(ℝ)}^{∗} pour les racines imaginaires de (𝔤(λ)_{ℂ}, 𝔥_{ℂ}) et C(𝔤(λ), 𝔥)_{reg} l’ensemble des F^{+}∈ C(𝔤(λ), 𝔥) telles que les racines imaginaires de (𝔤(λ)_{ℂ}, 𝔥_{ℂ}) qui sont simples relativement à F^{+} sont non compactes.

On pose 𝔤̃^{∗}_{reg} = {(λ, F^{+}) ; λ∈𝔤_{ss}^{∗}, 𝔥∈Car 𝔤(λ) et F^{+}∈ C(𝔤(λ), 𝔥)_{reg}}

et 𝔤̃^{∗}_{reg,G} = {(λ, F^{+}) ∈ 𝔤̃^{∗}_{reg} | ∀Z ∈ Ker exp_{T_{0}} e^{(i λ+ρ_{𝔤,𝔥})(Z)} = 1}

indépendamment du choix d’un système de racines positives R^{+}(𝔤_{ℂ}, 𝔥_{ℂ}) associé à l’élément 𝔥 de Car 𝔤(λ) attaché à F^{+}.

On pose aussi 𝔤̃^{∗}_{fond} = {(λ, F^{+}) ; λ∈𝔤_{ss}^{∗}, 𝔥∈Car 𝔤(λ) fondamentale et F^{+}∈ C(𝔤(λ), 𝔥)_{reg}}

et 𝔤_{ssfond,G}^{∗} = {λ∈𝔤_{ss}^{∗} | ∀Z ∈ Ker exp_{T_{0}} e^{(i λ+ρ_{𝔤,𝔥})(Z)} = 1}

indépendamment du choix d’une 𝔥 ∈ Car 𝔤(λ) fondamentale et d’un système de racines positives R^{+}(𝔤_{ℂ}, 𝔥_{ℂ}), 𝔤_{ssI,G}^{∗} = 𝔤_{ssI}^{∗} ∩ 𝔤_{ssfond,G}^{∗} et 𝔤_{ssInc,G}^{∗} = 𝔤_{ssInc}^{∗} ∩ 𝔤_{ssfond,G}^{∗}.

On note ensuite 𝔤̃^{∗}_{I}, 𝔤̃^{∗}_{Inc}, 𝔤̃^{∗}_{fond,G}, 𝔤̃^{∗}_{I,G} et 𝔤̃^{∗}_{Inc,G} les images réciproques de 𝔤_{ssI}^{∗}, 𝔤_{ssInc}^{∗}, 𝔤_{ssfond,G}^{∗}, 𝔤_{ssI,G}^{∗} et 𝔤_{ssInc,G}^{∗} par la première projection de 𝔤̃^{∗}_{fond} dans 𝔤_{ss}^{∗}.

Remarque 1.2. (1) En appliquant [Ros 82, th. p. 217] à 𝔤(λ) pour trois sousalgèbres de Cartan (une égale à 𝔥, une sans racine imaginaire, une fondamentale) et tenant compte de [Ros 82, lem. a (a)⇒(c) p. 220 et suppl. c p. 218], on constate que les images des applications canoniques de 𝔤̃^{∗}_{reg} et 𝔤̃^{∗}_{fond} dans 𝔤^{∗} sont formées des λ∈ 𝔤_{ss}^{∗} tels que 𝔤(λ) a une sous-algèbre de Cartan sans racine imaginaire.

(2) D’après [Kna 96, th. 6.74 p. 341 et th. 6.88 p. 344], chaque algèbre de Lie semi-simple complexe a, à isomorphisme près, une unique forme réelle 𝔤_{0} qui possède une sous-algèbre de Cartan 𝔥_{0} pour laquelle le système de racines R(𝔤_{0}_{ℂ}, 𝔥_{0}_{ℂ}) a une base constituée de racines imaginaires non compactes. Compte tenu de (1) ci-dessus (ou de [Kna 96, pb. 18 p. 369 et p. 557]), l’image de l’application canonique de 𝔤̃^{∗}_{I} dans 𝔤^{∗} est formée des λ∈ 𝔤_{ss}^{∗} tels que chacun des idéaux simples de 𝔤(λ) est isomorphe à l’une des algèbres de Lie suivantes : 𝔰𝔲(p, p) avec p ≥ 1 et 𝔰𝔲(p, p − 1) avec p ≥ 2, 𝔰𝔬(p, p − 1) avec p ≥ 3, 𝔰𝔭(2n, ℝ) (notée 𝔰𝔭(n, ℝ) dans [Kna 96]) avec n ≥ 3, 𝔰𝔬(p, p) avec p pair ≥ 4 et 𝔰𝔬(p, p−2) avec p pair ≥ 6, E II, E V , E VIII, F I, G.

(3) La somme de deux racines imaginaires non compactes n’est jamais une racine non compacte d’après [Kna 96, (6.99) p. 352]. Ainsi, 𝔤_{ssInc}^{∗} est formé des λ∈ 𝔤^{∗} semi-simples telles que les idéaux simples de l’algèbre de Lie réductive 𝔤(λ) sont isomorphes à 𝔰𝔩(2, ℝ).

À partir de certains paramètres enrichis (λ̃, 𝔞^{∗}^{+}), je vais construire canoniquement deux systèmes de racines positives pour (𝔤_{ℂ}, 𝔥_{ℂ}), qui auront les mêmes racines non complexes. Le système de racines positives R^{+}(𝔤_{ℂ}, 𝔥_{ℂ}) est attaché à une certaine forme linéaire régulière λ_{+}. Il permettra, par des passages à la limite (section 11.) et par une translation (section 13.), de construire dans la partie III. des représentations en se ramenant au cas d’un caractère infinitésimal régulier. Le système de racines positives R_{λ̃,𝔞^{∗}^{+}}^{+} a pour sous-ensemble de racines complexes

à conjuguée négative, une partie invariante sous l’action du groupe G(λ̃) défini ci-dessous. Il interviendra dans la définition 5.5 (c) et dans le lemme 9.3 (b). On verra dans le lemme 9.1 une autre paramétrisation des classes de représentations dans laquelle le paramètre (λ̃, 𝔞^{∗}^{+}) sera remplacé par λ̃, et le rôle de (R_{λ̃,𝔞^{∗}^{+}}^{+}, λ_{+})

sera tenu par un certain couple (R+ ; λ̃, λ_{can}) déduit de λ̃.

Définition 1.3. Soient λ ∈ 𝔤_{ss}^{∗}, 𝔥 ∈ Car 𝔤(λ) et F^{+}∈ C(𝔤(λ), 𝔥). On note μ et ν (resp. 𝔱 et 𝔞) les composantes infinitésimalement elliptique et hyperbolique de λ (resp. 𝔥). On pose λ̃ = (λ, F^{+}).

(a) On note G(λ̃) le normalisateur de F^{+} dans G(λ) et 𝔤(λ̃) son algèbre de Lie. On associe à λ̃ la demi-somme ρ_{F^{+}} ∈ i𝔱^{∗} des α ∈ R(𝔤(λ)_{ℂ}, 𝔥_{ℂ}) imaginaires tels que F^{+}(H_{α}) ⊆ ℝ^{+} \{0}. (Ainsi 𝔥 est une sous-algèbre de Cartan de 𝔤(λ)(iρ_{F^{+}}) sans racine imaginaire, et donc G · (λ, iρ_{F^{+}}) détermine G · λ̃.)

On fixe pour la suite de cette définition une chambre 𝔞^{∗}^{+} de (𝔤(λ)(iρ_{F^{+}}), 𝔞).

(b) On introduit le système de racines positives suivant :

R^{+}(𝔤(λ)(iρ_{F^{+}})_{ℂ}, 𝔥_{ℂ}) = { α∈R(𝔤(λ)(iρ_{F^{+}})_{ℂ}, 𝔥_{ℂ}) | 𝔞^{∗}^{+}(H_{α}) ⊆ ℝ^{+}\{0} }.

On fixe ϵ > 0 assez petit pour que, en posant ν_{+} = ν+ϵ ρ_{𝔤(λ)(iρ_{F^{+}}),𝔥} ∈ 𝔞^{∗} on ait : a · ν_{+} ≠ ν_{+} pour tout automorphisme a du système de racines R(𝔤_{ℂ}, 𝔥_{ℂ}) tel que a·ν ≠ ν. On choisit même ϵ de façon que la propriété précédente reste valable quand on remplace ϵ par tϵ, t∈]0, 1]. On a donc : 𝔤(ν_{+}) = 𝔤(ν)(ρ_{𝔤(λ)(iρ_{F^{+}}),𝔥}).

On utilisera les systèmes de racines positives suivants :

R^{+}(𝔤(ν_{+})_{ℂ}, 𝔥_{ℂ}) = \{ α ∈ R(𝔤(ν_{+})_{ℂ}, 𝔥_{ℂ}) | iμ(H_{α}) > 0 ou \{ \begin{matrix}iμ(H_{α})=0 \\ et \\ ρ_{F^{+}}(H_{α})>0 \end{matrix} \}

et R^{+}(𝔤_{ℂ}, 𝔥_{ℂ}) = {α ∈ R(𝔤_{ℂ}, 𝔥_{ℂ}) | ν_{+}(H_{α})>0} ∪ R^{+}(𝔤(ν_{+})_{ℂ}, 𝔥_{ℂ}).

On pose μ_{+} = μ − 2iρ_{𝔤(ν_{+}),𝔥} ∈ 𝔱^{∗} et λ_{+} = μ_{+}+ ν_{+} (donc R^{+}(𝔤(ν_{+})_{ℂ}, 𝔥_{ℂ}) = { α ∈ R(𝔤(ν_{+})_{ℂ}, 𝔥_{ℂ}) | iμ_{+}(H_{α}) > 0}).

Dans certains cas on notera λ_{𝔤,λ̃,𝔞^{∗}^{+},ϵ}, μ_{𝔤,λ̃,𝔞^{∗}^{+}} et ν_{𝔤,λ̃,𝔞^{∗}^{+},ϵ} pour λ_{+}, μ_{+} et ν_{+}.

(c) On introduit l’ensemble

R+ ; λ̃ = \{α ∈ R(𝔤_{ℂ}, 𝔥_{ℂ}) | ν(H_{α})>0 ou \{ \begin{matrix}ν(H_{α})=0 \\ et \\ iμ(H_{α})>0 \end{matrix} ou \{ \begin{matrix}λ(H_{α})=0 \\ et \\ ρ_{F^{+}}(H_{α})>0 \end{matrix} \},

la demi-somme ρ_{can} des éléments de R+ ; λ̃ ∩ R(𝔤(ν)_{ℂ}, 𝔥_{ℂ}), et le système de racines

positives R_{λ̃,𝔞^{∗}^{+}}^{+} = R+ ; λ̃ ∪ R^{+}(𝔤(λ)(iρ_{F^{+}})_{ℂ}, 𝔥_{ℂ}) de R(𝔤_{ℂ}, 𝔥_{ℂ}).

On pose μ_{can} = μ − 2iρ_{can} ∈ 𝔱^{∗} et λ_{can} = μ_{can}+ ν (donc en utilisant [KV 95, cor. 4.69 p. 271], on constate que 𝔤(λ_{can}) = 𝔤(λ)(iρ_{F^{+}})

et R+ ; λ̃ ∩ R(𝔤(ν)_{ℂ}, 𝔥_{ℂ}) = { α ∈ R(𝔤(ν)_{ℂ}, 𝔥_{ℂ}) | iμ_{can}(H_{α}) > 0}).

Voici maintenant le lemme clef qui permettra de se ramener de 𝔤̃^{∗}_{reg} à 𝔤∗_{ss reg}.

Lemme 1.4. On se place dans les conditions de la définition précédente. Soit t∈]0, 1]. On pose ν_{t} = ν + tϵ ρ_{𝔤(λ)(iρ_{F^{+}}),𝔥}, μ_{t} = μ − 2itρ_{𝔤(ν_{+}),𝔥} et λ_{t} = μ_{t} +ν_{t}.

On a : 𝔤(λ̃) = 𝔥, λ_{t} ∈ 𝔤∗_{ss reg} et N_{G(λ̃)}(𝔞^{∗}^{+}) = G(λ_{t}).

Donc G(λ_{+}) = G(λ̃) quand 𝔞^{∗}^{+} = 𝔞^{∗} (par exemple quand λ̃ ∈ 𝔤̃^{∗}_{I}).

Démonstration du lemme. On a G(λ̃) ⊆ N_{G}(𝔥), donc 𝔤(λ̃) = 𝔥.

Par construction de ϵ, on a 𝔤(ν_{t}) = 𝔤(ν)(ρ_{𝔤(λ)(iρ_{F^{+}}),𝔥}) = 𝔤(ν_{+}). En outre, on a iμ_{t}(H_{α}) = iμ(H_{α})+2tρ_{𝔤(ν_{+}),𝔥}(H_{α}) > 0 pour tout α ∈ R^{+}(𝔤(ν_{+})_{ℂ}, 𝔥_{ℂ}). Donc λ_{t} ∈ 𝔤∗_{ss reg} . Un argument de continuité en t permet d’en déduire que :

R^{+}(𝔤_{ℂ}, 𝔥_{ℂ}) = \{ α ∈ R(𝔤_{ℂ}, 𝔥_{ℂ}) | ν_{t}(H_{α}) > 0 ou \{ \begin{matrix}ν_{t}(H_{α})=0 \\ et \\ iμ_{t}(H_{α})>0 \end{matrix} \}.

L’inclusion N_{G(λ̃)}(𝔞^{∗}^{+}) ⊆ G(λ_{t}) est immédiate. Soit g ∈ G(λ_{t}). On a g ·𝔥 = g ·𝔤(λ_{t}) = 𝔥 et (Ad g) _{𝔥} est un automorphisme du système de racines R(𝔤_{ℂ}, 𝔥_{ℂ}) tel que g·ν_{t} = ν_{t}, donc g·(ν_{t} −ν) = (ν_{t} −ν) puis g·ν_{+} = ν_{+}. Comme g laisse stable R(𝔤(ν_{+})_{ℂ}, 𝔥_{ℂ}) ∩ R^{+}(𝔤_{ℂ}, 𝔥_{ℂ}), on a: g · ρ_{𝔤(ν_{+}),𝔥} = ρ_{𝔤(ν_{+}),𝔥} puis g · μ = μ. Ensuite, comme g laisse stable l’ensemble des racines imaginaires de R(𝔤(λ)_{ℂ}, 𝔥_{ℂ})∩ R^{+}(𝔤_{ℂ}, 𝔥_{ℂ}), on a : g · F^{+} = F^{+}. Enfin, comme g laisse stable l’ensemble des α _{𝔞} avec α ∈ R(𝔤(λ)(iρ_{F^{+}})_{ℂ}, 𝔥_{ℂ}) ∩ R^{+}(𝔤_{ℂ}, 𝔥_{ℂ}), on a : g · 𝔞^{∗}^{+} = 𝔞^{∗}^{+}.

Le lemme qui suit expliquera pourquoi, dans certaines formules que j’écrirai plus tard dans un autre article, et dans lesquelles apparaissent en facteur les valeurs absolues de Pfaffiens |Π_{𝔤,C_{𝔤(μ)}(𝔞)}|, seuls interviennent les éléments de 𝔤_{ssI}^{∗}.

Pour rendre ces Pfaffiens plus accessibles au calcul, je précise d’abord une formule de [DV 88, p. 301]. La forme bilinéaire ⟨ , ⟩ des conventions 2 (b) détermine une mesure de Haar d_{V} sur tout sous-espace vectoriel V de 𝔤 sur lequel elle a une restriction non dégénérée, par la condition d_{V} (0)(v_{1} ∧ ⋯ ∧ v_{n}) = |det(⟨v_{i}, v_{j}⟩)_{1≤i,j≤n}|^{\frac{1}{2}} pour toute base (v_{1}, …, v_{n}) de V . Soit 𝔥 ∈ Car 𝔤. On fixe λ_{0} = μ_{0} + ν_{0} ∈ 𝔥^{∗} régulière dans 𝔤^{∗}. On lui associe le système de racines positives

R_{0}^{+}(𝔤_{ℂ}, 𝔥_{ℂ}) = \{ α ∈ R(𝔤_{ℂ}, 𝔥_{ℂ}) | ν_{0}(H_{α}) > 0 ou \{ \begin{matrix}ν_{0}(H_{α})=0 \\ et \\ iμ_{0}(H_{α})>0 \end{matrix} \}.

On prend pour d_{𝔤} et d_{𝔥} les mesures de Haar sur 𝔤 et 𝔥 déduites de ⟨ , ⟩. Pour tout λ ∈ 𝔥^{∗} et tout ω_{0} ∈ ⋀^{2k}[𝔤, 𝔥]\{0} élément de l’orientation O(B_{λ_{0}})_{𝔤/𝔥} (cf. 4.2 (b) et 5.1 (a)) de (𝔤/𝔥, B_{λ_{0}}), on a

(∗) \frac{1}{k!} (B_{λ} _{[𝔤,𝔥]^{2}})^{k}(ω_{0}) × (d_{[𝔤,𝔥]}(0)(ω_{0}))^{−1}= i^{n_{0}} ∏_{α∈R_{0}^{+}(𝔤_{ℂ},𝔥_{ℂ})}⟨λ, α⟩

avec k = \frac{1}{2} dim[𝔤, 𝔥], d_{[𝔤,𝔥]} = d_{𝔤}/d_{𝔥} et n_{0} = |\{α ∈ R_{0}^{+}(𝔤_{ℂ}, 𝔥_{ℂ}) | \overline{α} ∉ R_{0}^{+}(𝔤_{ℂ}, 𝔥_{ℂ})\}|, en notant encore ⟨ , ⟩ la forme bilinéaire sur 𝔥_{ℂ}^{∗} duale de la restriction à 𝔥_{ℂ} de ⟨ , ⟩.

Lemme 1.5. Soit f ∈ 𝔤^{∗} de composantes infinitésimalement elliptique, hyperbolique, semi-simple et nilpotente μ, ν, λ = μ+ν et ξ. On fixe 𝔥 ∈ Car 𝔤 telle que λ ∈ 𝔥^{∗}. On note 𝔞 la composante hyperbolique de 𝔥.

(a) On a f ∈ 𝔤_{reg}^{∗} si et seulement si ξ ∈ 𝔤(λ)_{reg}^{∗}.
(b) On a λ ∈ 𝔤_{ssI}^{∗} et 𝔥 ∈ Car 𝔤(λ) est fondamentale,

si et seulement si |Π_{𝔤,C_{𝔤(μ)}(𝔞)}|(λ) ≠ 0.

Démonstration du lemme. (a) Il est clair que l’égalité dim 𝔤(f) = rg 𝔤 équivaut à dim 𝔤(λ)(ξ) = rg 𝔤(λ).

(b) Pour tous X ∈ 𝔥 et λ′ ∈ 𝔥^{∗}, les sous-espaces vectoriels supplémentaires [𝔤, 𝔤(X)] = [𝔤, X] et [𝔤(X), 𝔥] ⊆ 𝔤(X) de [𝔤, 𝔥] étant à la fois orthogonaux pour B_{λ′} et pour ⟨ , ⟩, on a : |Π_{𝔤,𝔥}|(λ′) = |Π_{𝔤,𝔤(X)}|(λ′) × |Π_{𝔤(X),𝔥}|(λ′). En choisissant X ∈ 𝔥 tel que 𝔤(X) = C_{𝔤(μ)}(𝔞), on trouve d’après (∗) que :

|Π_{𝔤,C_{𝔤(μ)}(𝔞)}|(λ) = ∏_{\begin{matrix}α∈R(𝔤_{ℂ},𝔥_{ℂ}) \\ α∉R(C_{𝔤(μ)}(𝔞)_{ℂ},𝔥_{ℂ}) \end{matrix}}|⟨λ, α⟩|^{\frac{1}{2}} .

Cela donne le résultat.

2. Les mesures β_{G·λ̃}

On va maintenant attacher à chaque orbite Ω̃ ∈ G\𝔤̃^{∗}_{reg} une mesure de Radon βΩ̃ sur 𝔤^{∗} de façon que β_{G·λ̃} coïncide avec la mesure canonique sur G·λ quand

λ ∈ 𝔤∗_{ss reg} , 𝔥 = 𝔤(λ) et λ̃ = (λ, 𝔥_{(ℝ)}^{∗}).

Définition 2.1. Soient λ∈ 𝔤_{ss}^{∗}, 𝔥 ∈ Car 𝔤(λ) et F^{+}∈ C(𝔤(λ), 𝔥).

(a) On note F_{𝔥}^{+} = 𝔞^{∗} + 𝔱^{∗}^{+}, où 𝔱 et 𝔞 sont les composantes infinitésimalement elliptique et hyperbolique de 𝔥 et F^{+} s’écrit F^{+} = 𝔞^{∗} + i𝔱^{∗}^{+} avec 𝔱^{∗}^{+} ⊆ 𝔱^{∗}.

(b) On note Supp_{𝔤^{∗}}(G·(λ, F^{+})) la réunion dans 𝔤_{reg}^{∗} des G·(ω +{λ}), où ω décrit l’ensemble des orbites nilpotentes régulières de G(λ) dans 𝔤(λ)^{∗} incluses dans l’adhérence de G(λ) · F_{𝔥}^{+} (cf. le lemme 1.5 (a) et la remarque 2.4 (1)).

La proposition suivante est donnée dans le but de faciliter l’utilisation de la formule du caractère 10.2. Elle permettra aussi, dans certains cas, de passer directement des caractères des représentations aux paramètres associés (cf. 9.7).

Proposition 2.2. (a) L’ensemble G \𝔤̃^{∗}_{fond} est en bijection avec G \𝔤_{reg}^{∗} par l’application R_{G} qui envoie G · λ̃ sur Supp_{𝔤^{∗}}(G · λ̃).

(b) Soient λ ∈ 𝔤_{ss}^{∗}, 𝔥 ∈ Car 𝔤(λ) et F^{+} ∈ C(𝔤(λ), 𝔥). La partie Supp_{𝔤^{∗}}(G · (λ, F^{+})) de 𝔤_{reg}^{∗} est la réunion des R_{G}(G · (λ, F′^{+})) avec 𝔥′ ∈ Car 𝔤(λ) fondamentale et F′^{+} ∈ C(𝔤(λ), 𝔥′)_{reg} vérifiant G(λ)·ρ_{F^{+}} ∩\overline{F′^{+}} ≠ Ø. Démonstration de la proposition. (a) Soit tout d’abord (λ, F^{+}) ∈ 𝔤̃^{∗}_{fond}. D’après [Ros 82, th. p. 217 et suppl. a(b) p. 218] appliqué à G_{0}(λ), il existe une unique orbite nilpotente régulière ω_{0} de G_{0}(λ) dans \overline{G_{0}(λ) · F_{𝔥}^{+}}. L’ensemble ω := G(λ)·ω_{0} est donc une orbite nilpotente régulière de G(λ) dans \overline{G(λ) · F_{𝔥}^{+}}. Toute orbite nilpotente régulière ω′ de G(λ) dans \overline{G(λ) · F_{𝔥}^{+}} coupe u·\overline{G_{0}(λ) · F_{𝔥}^{+}} pour un certain u ∈ G(λ), donc vérifie ω′ ⊇ u · ω_{0} puis ω′ = ω. Cela permet de définir R_{G}.

On abandonne maintenant les notations du début de cette démonstration. Soit f ∈ 𝔤_{reg}^{∗} de composantes semi-simple et nilpotente λ et ξ. On fixe 𝔥 ∈ Car 𝔤(λ) fondamentale. D’après le lemme 1.5 (a) et [Ros 82,

lem. a p. 220], on peut passer par une suite finie de transformations de Cayley inverses (cf. [Ros 82, p. 218]) de 𝔥 à une sous-algèbre de Cartan de 𝔤(λ) sans racine imaginaire. D’après [Ros 82, suppl. a(a) et b et c p. 218, et th. p. 221], il existe F^{+}∈ C(𝔤(λ), 𝔥)_{reg} unique à l’action de N_{G_{0}(λ)}(𝔥) près pour lequel ω_{0} := G_{0}(λ)·ξ est l’orbite nilpotente régulière de G_{0}(λ) dans \overline{G_{0}(λ)·F_{𝔥}^{+}}. Ainsi, G·f est l’image de G·(λ, F^{+}) par R_{G}.

Soit G·(λ′, F′^{+}) un antécédent de G·f par R_{G}. On a F′^{+} ∈ C(𝔤(λ′), 𝔥′)_{reg} pour une certaine 𝔥′ ∈ Car 𝔤(λ′) fondamentale. On note ω′_{0} l’orbite nilpotente régulière de G_{0}(λ′) dans \overline{G_{0}(λ′)·F′_{𝔥′}^{+}}. Vu le début de cette démonstration, il existe g ∈ G tel que gξ ∈ ω′_{0} et gλ = λ′. Les sous-algèbres de Cartan 𝔥 et g^{−1}𝔥′ de 𝔤(λ) étant fondamentales, il existe x ∈ G(λ)_{0} tel que g^{−1}𝔥′ = x𝔥. Par conséquent, ω_{0} qui est égal à g^{−1}ω′_{0} est aussi l’orbite nilpotente régulière de G_{0}(λ) dans \overline{G_{0}(λ)·x^{−1}g^{−1}F′^{+}}. D’où : x^{−1}g^{−1}·(λ′, F′^{+}) ∈ N_{G_{0}(λ)}(𝔥)·(λ, F^{+}). Il s’ensuit que G·(λ, F^{+}) est l’unique antécédent de G·f par R_{G}.

(b) Avec un argument du début de la démonstration du (a), on constate que Supp_{𝔤^{∗}}(G · (λ, F^{+})) est le saturé sous G de Supp_{𝔤^{∗}}(G_{0} · (λ, F^{+})). On est donc ramené à prouver le (b) pour G_{0} avec λ = 0. On se place dans ce cas. On fixe une sous-algèbre de Cartan fondamentale 𝔥′ de 𝔤 qui contient la forme linéaire infinitésimalement elliptique −i ρ_{F^{+}} . On pose l_{0} = −i ρ_{F^{+}} dans F_{𝔥}^{+}. On va reprendre rapidement les idées de [Ros 82, proof of suppl. c p. 228].

D’après [Var 77, th. 23 p. 50] et [Ros 82, (L1)⇔(L2)⇔(L3) p. 216], on a :

∑_{Ω ∈ G_{0}\ Supp_{𝔤^{∗}}(G_{0}·(0,F^{+}))} β_{Ω}(φ) = lim_{t→0^{+}} ∑_{Ω′∈L_{t}} β_{Ω′}(φ) pour tout φ ∈ C_{c}^{∞}(𝔤^{∗}),

où on utilise 2.3 (c) et pose L_{t} = lim_{\begin{matrix}l′∈F_{𝔥}^{+}∩ 𝔤_{reg}^{∗} \\ l′→tl_{0} \end{matrix}} G_{0} · l′ dans G_{0}\𝔤_{reg}^{∗} quand t > 0.

Par [Ros 82, lignes 2 à 9 p. 217], l’application canonique de G_{0}(l_{0})\𝔤(l_{0})_{reg}^{∗} dans G_{0}\𝔤_{reg}^{∗} se restreint en une bijection de lim_{\begin{matrix}l′′∈F^{+}[l_{0}]_{𝔥}∩ 𝔤(l_{0})_{reg}^{∗} \\ l′′→tl_{0} \end{matrix}} G_{0}(l_{0}) · l′′ sur L_{t}

pour tout t > 0, où la limite est prise dans G_{0}(l_{0})\𝔤(l_{0})_{reg}^{∗} et F^{+}[l_{0}] est l’élément de C(𝔤(l_{0}), 𝔥) contenant F^{+}.

Les racines de (𝔤(l_{0})_{ℂ}, 𝔥_{ℂ}) sont non imaginaires et celles de (𝔤(l_{0})_{ℂ}, 𝔥′_{ℂ}) sont non réelles. D’après [Ros 82, suppl. c p. 218], on en déduit que :

lim_{\begin{matrix}l′′∈F^{+}[l_{0}]_{𝔥}∩ 𝔤(l_{0})_{reg}^{∗} \\ l′′→tl_{0} \end{matrix}} G_{0}(l_{0}) · l′′ =  ⋃_{Ḟ′^{+} ∈ W (G_{0}(l_{0}),𝔥′)\E} lim_{\begin{matrix}l′′∈F′^{+}[l_{0}]_{𝔥′}∩ 𝔤(l_{0})_{reg}^{∗} \\ l′′→tl_{0} \end{matrix}} G_{0}(l_{0}) · l′′

où E := \{ F′^{+} ∈ C(𝔤, 𝔥′) | l_{0} ∈ \overline{F′_{𝔥′}^{+}} \} et F′^{+}[l_{0}] est l’élément de C(𝔤(l_{0}), 𝔥′)

contenant F′^{+}. En outre, la réunion précédente est une réunion d’ensembles deux à deux disjoints au vu de [Ros 82, suppl. b p. 218].

Les mesures de Radon β_{Ω} avec Ω ∈ G_{0}\𝔤_{reg}^{∗} (cf. 2.3 (c)) sont linéairement indépendantes. À l’aide de [Ros 82, th. p. 217], on trouve que Supp_{𝔤^{∗}}(G_{0} · (0, F^{+})) est réunion disjointe des R_{G_{0}}(G_{0} · (0, F′^{+})) où Ḟ′^{+} ∈ W (G_{0}(l_{0}), 𝔥′)\C(𝔤, 𝔥′)_{reg} et ρ_{F^{+}} ∈ \overline{F′^{+}}. Cela conduit au résultat.

Définition 2.3. (a) On note D_{𝔤} la fonction sur 𝔤 dont la valeur en X ∈ 𝔤 est le coefficient de T^{r} dans det(T id − ad X), où r est le rang de 𝔤. Elle est polynomiale et invariante sous Ad G.

(b) On note 𝔤_{ss reg} l’ensemble des X ∈ 𝔤 semi-simples tels que 𝔤(X) est commutative. Donc 𝔤_{ss reg} est l’ouvert dense de complémentaire négligeable de 𝔤 formé des points où D_{𝔤} ne s’annule pas (cf. [Var 77, (2) et lem. 1 p. 9]).

(c) Soit Ω ∈ G \𝔤^{∗}. On note β_{Ω} la mesure positive image sur 𝔤^{∗} de la mesure de Liouville de la variété symplectique Ω (cf. [B.. 72, 2.6 p. 20]). C’est une mesure de Radon sur 𝔤^{∗} (cf. [Ran 72, th. 2 p. 509]).

(d) Soit Ω̃_{0} ∈ G_{0} \𝔤̃^{∗}_{reg}. On pose βΩ̃_{0} = ∑_{Ω_{0} ∈ G_{0}\ Supp_{𝔤^{∗}}(Ω̃_{0})} β_{Ω_{0}} .
(e) Soit Ω̃ ∈ G \𝔤̃^{∗}_{reg}. On pose βΩ̃ = ∑_{Ω̃_{0} ∈ G_{0}\Ω̃} βΩ̃_{0} (cf. fin 2.6 (a)).

Remarque 2.4. (1) Soit Ω̃ ∈ G \𝔤̃^{∗}_{reg}. D’après le début de la démonstration de la proposition 2.2 (b), l’ensemble Supp_{𝔤^{∗}}(Ω̃) est la réunion des orbites Ω ∈ G \𝔤_{reg}^{∗} telles que βΩ̃(Ω) ≠ 0.

Il découle aussi de la définition ci-dessus que βΩ̃ = ∑_{Ω_{0} ∈ G_{0} \ Supp_{𝔤^{∗}}(Ω̃)} m_{Ω_{0}} β_{Ω_{0}}

où m_{Ω_{0}} est le nombre (non nul) de Ω̃_{0} ∈ G_{0}\Ω̃ vérifiant Ω_{0} ⊆ Supp_{𝔤^{∗}}(Ω̃_{0}). En particulier : βΩ̃ = β_{R_{G}(Ω̃)} quand Ω̃ ∈ G \𝔤̃^{∗}_{fond}.

(2) L’exemple de G égal au produit semi-direct de ℤ/2ℤ par SL(2, ℝ)^{2} où l’élément non trivial de ℤ/2ℤ opère sur SL(2, ℝ)^{2} par permutation des coordonnées, et de Ω̃ de la forme G·(0, F^{+}) pour une chambre F^{+} associée à 𝔥 ∈ Car 𝔤 ni fondamentale ni déployée, montre que les coefficients m_{Ω_{0}} du (1) ci-dessus peuvent prendre des valeurs différentes de 1.

(3) D’après (1) et 2.2 (a), l’application Ω̃ ↦ βΩ̃ est injective sur G \𝔤̃^{∗}_{fond}. Quand G = SL(3, ℝ), les deux éléments Ω̃ de G \𝔤̃^{∗}_{reg} de la forme G·(0, F^{+})

(dont l’un est dans G \𝔤̃^{∗}_{fond}) correspondent à une même mesure βΩ̃, égale à la mesure de Liouville de l’unique orbite nilpotente régulière de G dans 𝔤^{∗}.

Voici un résultat bien connu. Comme le (b) ne me sera pas utile, je me contente d’en donner une démonstration abrégée, suggérée par J.-Y. Charbonnel.

Proposition 2.5. (a) La fonction |D_{𝔤}|^{−1/2} est localement intégrable sur 𝔤.

(b) Les mesures de Radon β_{Ω} sur 𝔤^{∗} avec Ω∈G \ 𝔤^{∗} sont tempérées.

(c) Soit Ω∈G \ 𝔤^{∗}. La fonction généralisée β̂_{Ω} est (la classe modulo l’égalité presque partout d’) une fonction localement intégrable sur 𝔤 et analytique sur 𝔤_{ss reg} .

Démonstration de la proposition. (a) Cette première assertion est démontrée dans [Var 77, prop. 15 p. 66].

(b) On considère un groupe linéaire algébrique réel H. On note 𝔥 son algèbre de Lie. On se donne une orbite coadjointe Ω de H dont la mesure de Liouville β_{Ω} est une mesure de Radon sur 𝔥^{∗}. On reprend les arguments de [Cha 96, 3.2 p. 220]. Soient W_{0} un ouvert de ℙ(𝔥^{∗} ×ℝ) correspondant à la non-nullité d’une coordonnée homogène, et U un ouvert relativement compact dans W_{0} pour la topologie usuelle. On construit une certaine fonction régulière q : U → ℝ^{+} \{0}. Soit s ∈ ℂ. D’après [Cha 96, p. 217], l’application qui à ϕ ∈ C_{c}^{∞}(𝔥^{∗} ∩ U) associe l’intégrale (holomorphe en s) ∫_{Ω∩U} q(l)^{s} ϕ(l) dβ_{Ω}(l) est continue pour la topologie de S(𝔥^{∗}). Il en résulte que la mesure β_{Ω} sur 𝔥^{∗} est tempérée.

(c) Voir [Var 77, prop. 13 p. 65, th. 17 p. 66, th. 28 p. 95, et bas p. 105].

La proposition suivante sera intéressante quand on voudra se ramener, par passage à la limite ou par translation, à des formes linéaires semi-simples régulières.

Proposition 2.6. Soient λ ∈ 𝔤_{ss}^{∗}, 𝔥 ∈ Car 𝔤(λ) et F^{+} ∈ C(𝔤(λ), 𝔥). On pose λ̃ = (λ, F^{+}). On note 𝔞 la composante hyperbolique de 𝔥, et se donne une chambre 𝔞^{∗}^{+} de (𝔤(λ)(iρ_{F^{+}}), 𝔞).

(a) Les mesures positives βΩ̃ avec Ω̃∈G \𝔤̃^{∗}_{reg} sont des mesures de Radon tempérées. Soit φ ∈ S(𝔤^{∗}). On a

lim_{\begin{matrix}λ′∈F_{𝔥}^{+}∩ 𝔤_{reg}^{∗} \\ λ′→λ \end{matrix}} (|W (G,𝔥) (λ′)| β_{G·λ′}(φ)) = \begin{cases}|W (G,𝔥) (λ_{+})| β_{G·λ̃}(φ) & si λ̃ ∈ 𝔤̃^{∗}_{reg} \\ 0 & sinon. \end{cases}

En particulier β_{G·λ̃}(φ) = lim_{t→0^{+}} β_{G·λ_{t}}(φ) quand λ̃ ∈ 𝔤̃^{∗}_{reg} (cf. 1.4).

(b) Pour tout X ∈ 𝔤_{ss reg} , on a en tenant compte de 2.5 (c)

lim_{\begin{matrix}λ′∈F_{𝔥}^{+}∩ 𝔤_{reg}^{∗} \\ λ′→λ \end{matrix}} (|W (G,𝔥) (λ′)| β̂_{G·λ′}(X)) = \begin{cases}|W (G,𝔥) (λ_{+})| β̂_{G·λ̃}(X) & si λ̃ ∈ 𝔤̃^{∗}_{reg} \\ 0 & sinon. \end{cases}

En particulier β_{G·λ̃}(X) = lim_{t→0^{+}} β_{G·λ_{t}}(X) quand λ̃ ∈ 𝔤̃^{∗}_{reg} (cf. 1.4).

Plus précisément, étant donnés 𝔧 ∈ Car 𝔤, y ∈ int(𝔤_{ℂ}) pour lequel 𝔧_{ℂ} = y𝔥_{ℂ}, un système de racines positives R^{+}(𝔤_{ℂ}, 𝔧_{ℂ}) de R(𝔤_{ℂ}, 𝔧_{ℂ}), une composante connexe Γ de 𝔧 ∩ 𝔤_{ss reg} et une composante connexe 𝔥^{∗}^{+} de F_{𝔥}^{+} ∩ 𝔤_{reg}^{∗} à laquelle λ est adhérent, il existe une famille (c_{w})_{w∈W (𝔤_{ℂ},𝔧_{ℂ})} de nombres complexes telle que, pour tout X ∈Γ, on ait

∑_{w∈W (𝔤_{ℂ},𝔧_{ℂ})}c_{w} e^{i wyλ′ (X)} = ∏_{α∈R^{+}(𝔤_{ℂ},𝔧_{ℂ})}α(X) × β̂_{G_{0}·λ′}(X) quand λ′ ∈ 𝔥^{∗}^{+}

et

∑_{w∈W (𝔤_{ℂ},𝔧_{ℂ})}c_{w} e^{i wyλ (X)} = \begin{cases}∏_{α∈R^{+}(𝔤_{ℂ},𝔧_{ℂ})}α(X) × β̂_{G_{0}·λ̃}(X) & si λ̃ ∈ 𝔤̃^{∗}_{reg} \\ 0 & sinon. \end{cases}

Démonstration de la proposition. (a) Soit φ ∈ C_{c}^{∞}(𝔤^{∗}) positive. D’après [Ros 82, (L1)⇔(L2)⇔(L3) p. 216, lignes 9 à 12 p. 217, et th. p. 217], on a

lim_{\begin{matrix}λ′∈F_{𝔥}^{+}∩ 𝔤_{reg}^{∗} \\ λ′→λ \end{matrix}} β_{G_{0}·λ′}(φ) = \begin{cases}β_{G_{0}·λ̃}(φ) & si λ̃ ∈ 𝔤̃^{∗}_{reg} \\ 0 & sinon. \end{cases}

On fixe une norme ∥·∥ sur 𝔤^{∗}. D’après [Var 77, (i) p. 40], il existe N ∈ ℕ tel que

la famille formée des ∫_{𝔤^{∗}}(1 + ∥l∥)^{−N}dβ_{Ω_{0}}(l) avec Ω_{0} ∈ G_{0}\𝔤∗_{ss reg} est bornée. On

en déduit que β_{G_{0}·λ̃} est une mesure de Radon tempérée quand λ̃ ∈ 𝔤̃^{∗}_{reg}, et que le passage à la limite ci-dessus reste valable en remplaçant la condition « φ ∈ C_{c}^{∞}(𝔤^{∗}) positive » par « φ ∈ S(𝔤^{∗}) ».

On obtient ensuite, pour tout φ ∈ S(𝔤^{∗}) :

lim_{\begin{matrix}λ′∈F_{𝔥}^{+}∩ 𝔤_{reg}^{∗} \\ λ′→λ \end{matrix}} ∑_{ẋ∈G/G_{0}}β_{G_{0}·xλ′}(φ) = \begin{cases}∑_{ẋ∈G/G_{0}}β_{G_{0}·xλ̃}(φ) & si λ̃ ∈ 𝔤̃^{∗}_{reg} \\ 0 & sinon. \end{cases}

On transforme d’abord la somme de gauche pour λ′ ∈ F_{𝔥}^{+} ∩ 𝔤_{reg}^{∗} :

∑_{ẋ∈G/G_{0}}β_{G_{0}·xλ′} = |G(λ′)G_{0}/G_{0}| β_{G·λ′} = \frac{|W (G,𝔥)(λ′)|}{|C_{G}(𝔥)/C_{G_{0}}(𝔥)|} β_{G·λ′}.

Par ailleurs, les chambres de (𝔤(λ)(iρ_{F^{+}}), 𝔞) sont conjuguées sous N_{G(λ)(iρ_{F^{+}})_{0}}(𝔞) et a fortiori sous G_{0}(λ̃), ce qui prouve que G(λ̃) = G_{0}(λ̃) N_{G(λ̃)}(𝔞^{∗}^{+}). Quand λ̃ ∈ 𝔤̃^{∗}_{reg}, on a donc d’autre part à l’aide du lemme 1.4 :

∑_{ẋ∈G/G_{0}}β_{G_{0}·xλ̃} = |G(λ̃)G_{0}/G_{0}| β_{G·λ̃} = \frac{|W (G,𝔥)(λ_{+})|}{|C_{G}(𝔥)/C_{G_{0}}(𝔥)|} β_{G·λ̃}.

Cela fournit (a).

(b) L’avant dernière égalité de cet énoncé est extraite de [Var 77, th. 4 p. 108]. Elle montre que β̂_{G_{0}·λ′} converge simplement sur 𝔤_{ss reg} vers une fonction G_{0}-invariante continue quand λ′ → λ avec λ′ ∈ 𝔥^{∗}^{+}. Soit ψ ∈ C_{c}^{∞}(𝔤_{ss reg}). D’après la démonstration de (a), on a

lim_{\begin{matrix}λ′∈𝔥^{∗}^{+} \\ λ′→λ \end{matrix}} ∫_{𝔤_{ss reg}} β̂_{G_{0}·λ′}(X) ψ(X) d_{𝔤}(X) = \begin{cases}β̂_{G_{0}·λ̃}(ψ d_{𝔤}) & si λ̃ ∈ 𝔤̃^{∗}_{reg} \\ 0 & sinon. \end{cases}

Compte tenu des majorations |c_{w} e^{i wyλ′ (X)}| ≤ |c_{w}| de [Var 77, th. 7 p. 111], on voit que les fonctions G_{0}-invariantes |D_{𝔤}|^{1/2}× β̂_{G_{0}·λ′} sur 𝔤_{ss reg} avec λ′ ∈ 𝔥^{∗}^{+} sont uniformément bornées. La proposition 2.5 (a) permet donc d’appliquer le théorème de convergence dominée de Lebesgue dans le passage à la limite ci-dessus. D’où la dernière égalité de l’énoncé.

Le passage de G_{0} à G se fait comme dans la démonstration du (a).

3. Points fixés par un élément elliptique

On se donne un élément elliptique e de G.

L’algèbre de Lie 𝔤(e) est réductive car 𝔤(e)_{ℂ} a pour forme réelle 𝔠(e), où 𝔠 est l’algèbre de Lie d’un sous-groupe compact maximal de 𝔾(ℂ) qui contient la projection dans 𝔾(ℝ) de l’élément e de G. De plus toute sous-algèbre de Cartan 𝔥_{e} de 𝔤(e) coupe 𝔤_{ss reg} , ce qui signifie que le commutant 𝔥 de 𝔥_{e} dans 𝔤 est une sous-algèbre de Cartan de 𝔤 (cf. [Bou 87, lem. 1.4.1 p. 6]). Par conséquent G(e) vérifie l’hypothèse de l’introduction portant sur G (cf. [DV 93, bas p. 38]).

Définition 3.1. On note 𝔤_{reg}^{∗}(e) (respectivement 𝔤̃^{∗}_{I}(e), 𝔤̃^{∗}_{Inc}(e), 𝔤̃^{∗}_{fond}(e) et 𝔤̃^{∗}_{reg}(e)) l’ensemble des éléments de 𝔤_{reg}^{∗} (respectivement 𝔤̃^{∗}_{I}, 𝔤̃^{∗}_{Inc}, 𝔤̃^{∗}_{fond} et 𝔤̃^{∗}_{reg}) qui sont fixes sous l’action de e.

Parmi les résultats du lemme qui suit, seul le point (a) est important. Le point (b) sera utilisé dans la remarque 9.7 et le point (c) dans un article ultérieur.

Lemme 3.2. Soient λ ∈ 𝔤_{ss}^{∗}, 𝔥 ∈ Car 𝔤(λ) de composantes infinitésimalement elliptique et hyperbolique 𝔱 et 𝔞, et F^{+}∈ C(𝔤(λ), 𝔥) tels que e fixe λ̃ := (λ, F^{+}). On suppose qu’il existe une chambre 𝔞^{∗}^{+} de (𝔤(λ)(iρ_{F^{+}}), 𝔞) stable par e.

(a) On a λ ∈ 𝔤(e)_{ss}^{∗}, 𝔥(e) ∈ Car 𝔤(e)(λ), et l’élément ρ_{F^{+}} de 𝔥(e)_{(ℝ)}^{∗} est régulier pour les racines imaginaires de (𝔤(e)(λ)_{ℂ}, 𝔥(e)_{ℂ}).

On note par définition F^{+}[e] l’élément de C(𝔤(e)(λ), 𝔥(e)) contenant ρ_{F^{+}} et λ̃[e] = (λ, F^{+}[e]). (On dira que « λ̃[e] existe » quand e stabilise une chambre 𝔞^{∗}^{+}.)

(b) Il existe e_{0} ∈ e exp 𝔱(e) tel que : si F′^{+}∈ C(𝔤(λ), 𝔥) et ρ_{F′}^{+} ∈ F^{+}[e_{0}], alors F′^{+} =F^{+}. Quand λ̃ ∈ 𝔤̃^{∗}_{I} on peut même choisir e_{0} tel que λ̃[e_{0}]∈ \begin{matrix} \\ 𝔤(e_{0}) & ∗ \end{matrix}_{I}.

(c) On suppose que λ̃ ∈ 𝔤̃^{∗}_{I}. Le cardinal de l’ensemble des λ̃′ ∈ 𝔤̃^{∗}_{I}(e) vérifiant λ̃′[e] = λ̃[e] est égal à \frac{|W (𝔤(λ)_{ℂ},𝔥_{ℂ})(Ad^{∗} e)|}{|W (𝔤(e)(λ)_{ℂ},𝔥(e)_{ℂ})|}, où W (𝔤(λ)_{ℂ}, 𝔥_{ℂ})(Ad^{∗} e) désigne le commutant de (Ad^{∗} e^{ℂ})_{𝔥_{ℂ}^{∗}} dans W (𝔤(λ)_{ℂ}, 𝔥_{ℂ}). Démonstration du lemme. (a) D’après le lemme 1.4, on a : λ_{+} ∈ 𝔤(e)∗_{ss reg} , puis 𝔥(e) = 𝔤(e)(λ_{+}) ∈ Car 𝔤(e)(λ). Soit α′ ∈ R(𝔤(e)(λ)_{ℂ}, 𝔥(e)_{ℂ}) imaginaire. Il existe α ∈ R(𝔤(λ)_{ℂ}, 𝔥_{ℂ}) tel que α′ = α _{𝔥(e)_{ℂ}}. On a : ⟨ν_{+}, α⟩ = ⟨ν_{+}, α′⟩ = 0 et ⟨ρ_{F^{+}}, α⟩ = ⟨ρ_{F^{+}}, α′⟩. Donc ⟨ρ_{F^{+}}, α′⟩ ≠ 0, car R^{+}(𝔤(ν_{+})_{ℂ}, 𝔥_{ℂ}) est un système de racines positives.

(b) Soit B la base de R(C_{𝔤}(𝔞)(λ)_{ℂ}, 𝔥_{ℂ}) associée à F^{+}. Pour chaque α∈B, on note mα̇ le cardinal de l’orbite α̇ de α sous l’action dans B du sous-groupe ⟨e⟩ de G engendré par e, et on choisit tα̇ ∈ ℝ tel que ((Ad e^{ℂ})^{mα̇})_{𝔤_{ℂ}^{α}} = e^{i tα̇} id. On prend e_{0} = e exp(X_{0}), où X_{0} est l’unique élément de 𝔥_{ℂ} ∩ D(C_{𝔤}(𝔞) (λ)_{ℂ}) tel que α(X_{0}) = −itα̇/mα̇ pour tout α∈B. Il est clair que λ̃[e_{0}] existe. Chaque α _{𝔥(e)_{ℂ}} avec α ∈ B est un poids de 𝔥(e)_{ℂ} dans 𝔤(e_{0})_{ℂ} dont l’espace propre contient (1 + e_{0} + ⋯ + e_{0}^{mα̇−1}) · 𝔤_{ℂ}^{α}. Soit F′^{+} ∈ C(𝔤(λ), 𝔥) tel que ρ_{F′}^{+} ∈ F^{+}[e_{0}], (donc e_{0}F′^{+} = F′^{+}). Pour tout α ∈ B, on a : ⟨ρ_{F^{+}}, α _{𝔥(e)_{ℂ}}⟩ = ⟨ρ_{F^{+}}, α⟩ > 0 et ⟨ρ_{F′}^{+}, α⟩ = ⟨ρ_{F′}^{+}, α _{𝔥(e)_{ℂ}}⟩, donc la racine α _{𝔥(e)_{ℂ}} de R(C_{𝔤(e_{0})}(𝔞(e))(λ)_{ℂ}, 𝔥(e)_{ℂ}) est positive relativement à F^{+}[e_{0}] et ensuite ⟨ρ_{F′}^{+}, α⟩ > 0. D’où F′^{+} = F^{+}.

On suppose maintenant que λ̃ ∈ 𝔤̃^{∗}_{I}. Toute racine de (𝔤(e_{0})(λ)_{ℂ}, 𝔥(e)_{ℂ}) est restriction d’une racine de (𝔤(λ)_{ℂ}, 𝔥_{ℂ}). Les racines α′ = α _{𝔥(e)_{ℂ}} avec α̇ ∈ ⟨e⟩\B décrivent donc lorsque α̇ varie (de façon injective car dim 𝔤(e_{0})_{ℂ}^{α′} = 1) l’ensemble des racines simples relativement à F^{+}[e_{0}] dans R(𝔤(e_{0})(λ)_{ℂ}, 𝔥(e)_{ℂ}). Ces racines α′ sont non compactes car α([ · , \overline{·}]) est positive sur le sous-espace vectoriel 𝔤(e_{0})_{ℂ}^{α′} de la somme directe orthogonale 𝔤_{ℂ}^{α} ⊕ e_{0}𝔤_{ℂ}^{α} ⊕ ⋯ ⊕ e_{0}^{mα̇−1}𝔤_{ℂ}^{α}.

(c) L’application π_{e} : W (𝔤(λ)_{ℂ}, 𝔥_{ℂ}) · ρ_{F^{+}} ∩ 𝔥(e)_{ℂ}^{∗} → C(𝔤(e)(λ), 𝔥(e)) qui à une forme linéaire associe la chambre qui la contient, commute à l’action du groupe W (𝔤(e)(λ)_{ℂ}, 𝔥(e)_{ℂ}). Les groupes W (𝔤(λ)_{ℂ}, 𝔥_{ℂ})(Ad^{∗} e) et W (𝔤(e)(λ)_{ℂ}, 𝔥(e)_{ℂ}) opèrent simplement transitivement respectivement sur les ensembles de départ et d’arrivée de π_{e}. Les fibres de π_{e} ont donc un cardinal égal à \frac{|W (𝔤(λ)_{ℂ},𝔥_{ℂ})(Ad^{∗} e)|}{|W (𝔤(λ)(e)_{ℂ},𝔥(e)_{ℂ})|}.

L’ensemble des λ̃′ = (λ′, F′^{+}) ∈ 𝔤̃^{∗}_{I}(e) tels que λ̃′[e] = λ̃[e], dont les éléments vérifient λ′ = λ et 𝔤(λ̃′) = C_{𝔤}(𝔤(e)(λ̃′[e])) = 𝔥, est en bijection avec π_{e}^{−1}({F^{+}[e]}) par l’application (λ′, F′^{+}) ↦ π_{1}^{−1}(F′^{+}). Cela permet de calculer son cardinal.

Remarque 3.3. (1) Il peut arriver qu’un λ̃ ∈ 𝔤̃^{∗}_{I}(e) vérifie λ̃[e] ∉ \begin{matrix} \\ 𝔤(e) & ∗ \end{matrix}_{I}. (Cependant la condition λ̃ ∈ 𝔤̃^{∗}_{Inc}(e) implique λ̃[e] ∈ \begin{matrix} \\ 𝔤(e) & ∗ \end{matrix}_{Inc}.) Par exemple : G = Sp(4, ℝ), λ̃ = (0, F^{+}) tel que 𝔥 := 𝔤(λ̃) est égale à sa composante infinitésimalement elliptique et le système de racines positives de (𝔤_{ℂ}, 𝔥_{ℂ}) associé à F^{+} s’écrit { α_{1}, α_{2}, α_{1} + α_{2}, 2α_{1} + α_{2} } avec pour seule racine compacte α_{1} + α_{2}. En prenant e = exp E où E ∈ 𝔥 est déterminé par α_{1}(E) = −α_{2}(E) = iπ, l’algèbre de Lie 𝔤(e) est ici isomorphe à 𝔲(2) et donc C(𝔤(e), 𝔥(e))_{reg} = Ø.

(2) On peut aussi trouver des λ̃_{e} ∈ \begin{matrix} \\ 𝔤(e) & ∗ \end{matrix}_{reg} qui ne sont pas de la forme λ̃[e] pour un λ̃ ∈ 𝔤̃^{∗}_{reg}(e). Par exemple : G = SU(2), e = (\begin{matrix}0 & −1 \\ 1 & 0 \end{matrix}) et λ̃_{e} = (0, i 𝔰𝔬(2)^{∗}).

(3) Pour certains λ̃ ∈ 𝔤̃^{∗}_{fond}(e) il n’existe pas de f ∈ 𝔤_{reg}^{∗}(e) tel que G · f = R_{G}(G · λ̃). C’est le cas, avec G = SL(2, ℝ) et e = (\begin{matrix}0 & −1 \\ 1 & 0 \end{matrix}), des éléments de 𝔤̃^{∗}_{fond}(e) de la forme (0, F^{+}) tels que F^{+} ⊆ i 𝔰𝔬(2)^{∗}.

II. Les paramètres « représentation projective »

Les paramètres de cette partie sont calqués sur ceux introduits par M. Duflo, qui étaient adaptés au cas des orbites coadjointes semi-simples régulières de G.

4. Rappels sur les groupes spécial-métalinéaire et métaplectique

Ma référence concernant le groupe métaplectique et les fonctions orientation de M. Duflo et M. Vergne qui lui sont attachées, est leur article [DV 93]. Je choisis comme eux d’éviter l’utilisation du caractère de la représentation métaplectique en suivant le point de vue de [Ver 94, conjecture p. 291] (au signe de la forme symplectique sur les orbites coadjointes près).

Définition 4.1. On considère un ℝ-espace vectoriel V de dimension finie.

(a) On note DL(V) → SL(V) « le » revêtement double de SL(V), unique à isomorphisme de revêtements près, qui est connexe quand dim V ≥ 2. (Le (b) cidessous fournira une description canonique d’un tel revêtement, comme ensemble de couples formés d’un élément de SL(V) et d’une orientation d’un certain sousespace vectoriel de V.)

(b) Soit â ∈ DL(V) au-dessus d’un a ∈ SL(V) elliptique.

Quand dim V ≥ 2, on note

O(â)_{(1−a)·V} = (−1)^{\frac{α_{1}+···+αp}{2π}} sg(sin(\frac{β_{1}}{2} ) … sin(\frac{β_{q}}{2} )) × ℝ^{+} \\{0\} (w_{1} ∧ ⋯ ∧ w_{2q}), où « sg » représente la fonction signe sur ℝ \{0}, indépendamment du choix d’un A ∈ 𝔰𝔩(V) infinitésimalement elliptique tel que â = exp_{DL(V)}A, et d’une base (v_{1}, …, v_{2p}, w_{1}, …, w_{2q}) de A · V dans laquelle la matrice de la restriction de A est de la forme

(∗∗) (\begin{matrix}( & \begin{matrix}0 & −α_{1} \\ α_{1} & 0 \end{matrix} & ) \\ & & ^{.} & . & _{.} \\ & & & & & ( & \begin{matrix}0 & −α_{p} \\ α_{p} & 0 \end{matrix} & ) \\ & & & & & & & ( & \begin{matrix}0 & −β_{1} \\ β_{1} & 0 \end{matrix} & ) \\ & & & & & & & & & ^{.} & . & _{.} \\ & & & & & & & & & & & & ( & \begin{matrix}0 & −β_{q} \\ β_{q} & 0 \end{matrix} & ) \end{matrix})

avec α_{1}, …, α_{p} ∈ 2πℤ \{0} et β_{1}, …, β_{q} ∈ ℝ \2πℤ.

Quand dim V ≤ 1, O(â)_{{0}} vaut ℝ^{+} \{0} ou ℝ^{−} \{0} suivant que â est trivial ou non.

(c) Soit A ∈ 𝔰𝔩(V) infinitésimalement elliptique. On note

O(A)_{A·V} = sg(β_{1} … β_{q}) × ℝ^{+} \{0} (w_{1} ∧ ⋯ ∧ w_{2q}), indépendamment du choix d’une base (w_{1}, …, w_{2q}) de A · V dans laquelle la matrice de la restriction de A est de la forme

(\begin{matrix}( & \begin{matrix}0 & −β_{1} \\ β_{1} & 0 \end{matrix} & ) \\ & & & . & . & . \\ & & & & & & ( & \begin{matrix}0 & −β_{q} \\ β_{q} & 0 \end{matrix} & ) \end{matrix})

avec β_{1}, …, β_{q} ∈ ℝ \{0}.

Définition 4.2. On considère un ℝ-espace vectoriel V de dimension finie muni d’une forme bilinéaire B alternée non dégénérée. On désigne encore par B le prolongement bilinéaire complexe de cette forme bilinéaire à V_{ℂ}.

(a) On note Mp(V) l’image réciproque de Sp(V) dans DL(V).

(b) On note O(B)_{V} l’orientation de V sur laquelle B^{\frac{1}{2} dim V} est positive. On appelle « base symplectique » de (V, B) toute base (P_{1}, …, P_{n}, Q_{1}, …, Q_{n}) de V telle que B(P_{i}, P_{j}) = B(Q_{i}, Q_{j}) = 0 et B(P_{i}, Q_{j}) = δ_{i,j} (symbole de Kronecker) pour 1 ≤ i, j ≤ n.

(c) On appelle « lagrangien » de (V_{ℂ}, B) tout sous-espace vectoriel de V_{ℂ} égal à son orthogonal pour B. On appelle « lagrangien positif » de (V_{ℂ}, B) tout lagrangien de (V_{ℂ}, B) sur lequel la forme sesquilinéaire hermitienne (v, w) ↦ i B(v, \overline{w}) est positive.

Soit L un lagrangien de (V_{ℂ}, B). On note Mp(V)_{L} le normalisateur de L dans Mp(V). À chaque x̂∈Mp(V)_{L} au-dessus d’un élément x de Sp(V), on associe le nombre n_{L}(x) de valeurs propres comptées avec multiplicité dans ]1, +∞[ de la restriction de x^{ℂ} à L, et le nombre q_{L}(x) de composantes strictement négatives dans la matrice de la forme sesquilinéaire hermitienne (v, w) ↦ i B(v, \overline{w}) sur (1 − x^{ℂ}) · L relativement à une base orthogonale.

(d) Soit L un lagrangien de (V_{ℂ}, B). Pour tout x̂ ∈ Mp(V)_{L} de composante elliptique x̂_{e} (au sens de [DV 93, lem. 31 p. 38]) au-dessus d’un élément x de Sp(V) de composante elliptique x_{e}, on pose

ρ_{L}(x̂) = (−1)^{q_{L}(x_{e})} \frac{O(x̂_{e})_{(1−xe)·V}}{O(B)_{(1−xe)·V}} ∏_{1≤k≤n}(\sqrt{r_{k}} e^{i θ_{k}/2}),

où r_{1}e^{i θ_{1}}, …, r_{n}e^{i θ_{n}} sont les valeurs propres comptées avec multiplicité de la restriction de x^{ℂ} à L, avec r_{1}, …, r_{n} ∈ ℝ^{+} \{0} et θ_{1}, …, θ_{n} ∈ ]−2π, 0].

(e) Soit x̂ ∈ Mp(V) de composante elliptique x̂_{e} au-dessus d’un élément semi-simple x de Sp(V) de composante elliptique x_{e}. On pose

δ(x̂) = \frac{O(x̂_{e})_{(1−xe)·V}}{O(B)_{(1−xe)·V}} ∏_{1≤k≤n} e^{i θ_{k}/2},

indépendamment (compte tenu de la démonstration du (c) de la proposition cidessous) du choix d’un E ∈ 𝔰𝔭(V) infinitésimalement elliptique tel que x_{e} = exp_{Sp(V)}E, et d’une base symplectique (P_{1}, …, P_{n}, Q_{1}, …, Q_{n}) de (V, B) pour laquelle la matrice de E relativement à (P_{1}, Q_{1}, …, P_{n}, Q_{n}) est de la forme

(\begin{matrix}( & \begin{matrix}0 & θ_{1} \\ −θ_{1} & 0 \end{matrix} & ) \\ & & & . & . & . \\ & & & & & & ( & \begin{matrix}0 & θ_{q} \\ −θ_{q} & 0 \end{matrix} & ) \end{matrix})

avec θ_{1}, …, θ_{n} ∈ ]−2π, 0].

(f) Soit x̂ ∈ Mp(V) de composante elliptique x̂_{e} au-dessus d’un élément semi-simple x de Sp(V) de composante elliptique x_{e}. On pose

Φ(x̂) = \frac{O(x̂_{e})_{(1−xe)·V}}{O(B)_{(1−xe)·V}} i^{− \frac{1}{2} dim(1−x_{e})·V} | det (1 − x)_{(1−x)·V} |^{−1/2}.

On va maintenant voir, comme le sous-entend M. Vergne dans [Ver 94, prop. p. 289] (avec la représentation de Weil contragrédiente de celle utilisée dans [DHV 84], déduite de celle de [DHV 84] en remplaçant au choix B par −B ou le caractère central du groupe de Heisenberg par son conjugué), que les fonctions que je viens d’introduire dans les points (d), (e), (f) sont les fonctions ρ_{L} et δ de [Duf 82a] et la fonction Φ de [DHV 84].

Proposition 4.3. On considère un ℝ-espace vectoriel V de dimension finie muni d’une forme bilinéaire B alternée non dégénérée.

(a) Le revêtement Mp(V) → Sp(V) est connexe quand V ≠ {0}.

(b) Soit L un lagrangien de (V_{ℂ}, B). La fonction ρ_{L} est un morphisme de groupes de Lie de Mp(V)_{L} dans ℂ \\{0\} tel que d_{1}ρ_{L} = \frac{1}{2} tr( ·^{ℂ})_{L}. Pour tout x̂ ∈ Mp(V)_{L} au-dessus d’un élément semi-simple x de Sp(V), on a

Φ(x̂) = (−1)^{n_{L}(x) + q_{L}(x)} ρ_{L}(x̂) (det (1 − x^{ℂ})_{(1−x^{ℂ})·L})^{−1}.

(c) Soit x̂ ∈ Mp(V) au-dessus d’un x ∈ Sp(V) de composante elliptique x_{e}. Il existe un lagrangien positif de (V_{ℂ}, B) stable par x^{ℂ}. Pour tout lagrangien L de (V_{ℂ}, B) stable par x^{ℂ}, on a

ρ_{L}(x̂) |ρ_{L}(x̂)|^{−1} = δ(x̂) ∏_{z∈Sp(x_{e})} z^{q_{z}},

où Sp(x_{e}) est le spectre de x_{e} et, pour chaque z ∈ Sp(x_{e}), (p_{z}, q_{z}) est la signature de la forme sesquilinéaire hermitienne (v, w)↦i B(v, \overline{w}) sur le sous-espace propre de (x_{e}^{ℂ})_{L} associé à z.

Démonstration de la proposition. (a) On suppose que V est non nul. Soit (P_{1}, …, P_{n}, Q_{1}, …, Q_{n}) une base symplectique de (V, B). On note T_{Sp} le tore maximal de Sp(V) formé des endomorphismes de V dont les matrices dans la base (P_{1}, Q_{1}, …, P_{n}, Q_{n}) sont diagonales par blocs avec des blocs dans SO(2), et 𝔱 son algèbre de Lie. Le tore T_{Mp} := exp_{Mp(V)}𝔱 est un tore maximal de DL(V).

On choisit un élément A de Ker exp_{T_{Sp}} tel que O(exp_{DL(V)}A)_{{0}} = ℝ^{−}\{0} (il en existe). Le chemin t ∈ [0, 1] ↦ exp_{T_{Mp}}(tA) joint dans Mp(V) les deux points du noyau du morphisme de groupes canonique de Mp(V) dans Sp(V).

(b) Soit x̂ ∈ Mp(V)_{L} au-dessus d’un élément semi-simple x de Sp(V) de composante elliptique x_{e}.

On note ρ̃_{L} le morphisme de groupes de Lie de Mp(V)_{L} dans ℂ\{0} défini dans [Duf 84, p. 107]. D’après [Duf 84, (10) p. 108], on a

|ρ̃_{L}(x̂)| = |det(x^{ℂ})_{L}|^{1/2} = |ρ_{L}(x̂)| et d_{1}ρ̃_{L} = \frac{1}{2} tr( ·^{ℂ})_{L}.

Ces égalités permettent de prouver, compte tenu de [DV 93, fin du lemme 30 p. 37], que les applications ρ̃_{L} et ρ_{L} commutent aux prises de composantes elliptique, positivement hyperbolique et unipotente sur les groupes Mp(V)_{L} et GL(ℂ), et ont mêmes restrictions aux parties de Mp(V)_{L} formées de ses éléments positivement hyperboliques ou de ses éléments unipotents.

On note Φ̃ la fonction (indépendante de L) de l’ensemble des éléments semi-simples de Mp(V) dans ℂ\{0} définie dans [DHV 84, p. 102]. Elle s’écrit

Φ̃(x̂) = (−1)^{n_{L}(x) + q_{L}(x)} ρ̃_{L}(x̂) (det (1 − x^{ℂ})_{(1−x^{ℂ})·L})^{−1}.

En outre, l’application v̇ ↦ B(v, .) de (1−x^{ℂ})·V_{ℂ} / (1−x^{ℂ})·L dans ((1−x^{ℂ})·L)^{∗} est une bijection linéaire qui commute à l’action de 1−x. Il s’ensuit que

|Φ̃(x̂)| = | det (1 − x)_{(1−x)·V} |^{−1/2} = |Φ(x̂)|.

Pour montrer que Φ̃ = Φ (respectivement ρ̃_{L} = ρ_{L}), vu [Duf 84, (9) p. 108] il reste à prouver que Φ̃/|Φ̃| et Φ/|Φ| (respectivement ρ̃_{L} et ρ_{L}) coïncident en un des deux points de Mp(V) situés au-dessus de x (respectivement de x_{e}).

On note V^{z} (respectivement V_{ℂ}^{z}) le sous-espace propre de x (respectivement x^{ℂ}) associé à une valeur propre z ∈ ℝ\{0} (respectivement z ∈ ℂ\{0}), et ⊥^{B} la relation de B -orthogonalité. On considère maintenant une valeur propre z ∈ ℂ\{0} de x^{ℂ} telle que Im z ≥ 0 et |z| ≥ 1. On va lui associer une certaine base symplectique B_{z} de ((V_{ℂ}^{z} + V_{ℂ}^{z^{−1}}+ V z̄ ; ℂ + V_{ℂ}^{z̄^{−1}}) ∩ V, B).

Si z ∈ ℝ et |z| ≥ 1 : quand |z| = 1, on fixe une base symplectique B_{z} = (P_{1}^{0}, …, P_{n^{0}}^{0}, Q_{1}^{0}, …, Q_{n^{0}}^{0}) de V^{z} ; quand |z| > 1, on fixe une base (P_{1}^{0}, …, P_{n^{0}}^{0}) de V^{z}, et en déduit une unique base symplectique B_{z} = (P_{1}^{0}, …, P_{n^{0}}^{0}, Q_{1}^{0}, …, Q_{n^{0}}^{0}) de V^{z} ⊕ V^{z^{−1}} telle que Q_{1}^{0}, …, Q_{n^{0}}^{0} ∈ V^{z^{−1}}, car V^{z} et V^{z^{−1}} sont en dualité avec V^{z} ⊥^{B} V^{z} et V^{z^{−1}}⊥^{B} V^{z^{−1}} .

Si Im z > 0 et |z| > 1 : on fixe une base (P_{1} +iP_{2}, …, P_{2n−1} +iP_{2n}) de V_{ℂ}^{z} telle que P_{1}, …, P_{2n} ∈ V ; on en déduit une unique base symplectique (P_{1} + iP_{2}, …, P_{2n−1} + iP_{2n}, Q_{1} − iQ_{2}, …, Q_{2n−1} − iQ_{2n}) de V_{ℂ}^{z} ⊕ V_{ℂ}^{z^{−1}} muni de B/2 telle que Q_{1}−iQ_{2}, …, Q_{2n−1}−iQ_{2n} ∈ V_{ℂ}^{z^{−1}} et Q_{1}, …, Q_{2n} ∈ V, car V_{ℂ}^{z} et V_{ℂ}^{z^{−1}} sont en dualité avec V_{ℂ}^{z} ⊥^{B} V_{ℂ}^{z} et V_{ℂ}^{z^{−1}}⊥^{B} V_{ℂ}^{z^{−1}} ; puis on obtient la base

symplectique B_{z} := (P_{1}, …, P_{2n}, Q_{1}, …, Q_{2n}) de (V_{ℂ}^{z} ⊕ V_{ℂ}^{z^{−1}}⊕ V z̄ ; ℂ ⊕ V_{ℂ}^{z̄^{−1}}) ∩ V,

car V_{ℂ}^{z} ⊥^{B} V z̄ ; ℂ, V_{ℂ}^{z^{−1}} ⊥^{B} V_{ℂ}^{z̄^{−1}} et V_{ℂ}^{z} ⊥^{B} V_{ℂ}^{z̄^{−1}}.

Si Im z > 0 et |z| = 1 : on fixe une base (P′_{1}+iQ′_{1}, …, P′_{p}+iQ′_{p}, P′′_{1}−iQ′′_{1}, …, P′′_{q} − iQ′′_{q}) de V_{ℂ}^{z} telle que P′_{1}, Q′_{1}, …, P′_{p}, Q′_{p}, P′′_{1}, Q′′_{1}, …, P′′_{q}, Q′′_{q} ∈ V, dans laquelle la forme sesquilinéaire hermitienne non dégénérée (v, w) ↦ iB/2 (v, \overline{w}) a pour matrice (\begin{matrix}I_{p} & 0 \\ 0 & −I_{p} \end{matrix}); elle fournit la base symplectique B_{z} := (P′_{1}, …, P′_{p}, P′′_{1}, …,

P′′_{q}, Q′_{1}, …, Q′_{p}, Q′′_{1}, …, Q′′_{q}) de (V_{ℂ}^{z} ⊕ V z̄ ; ℂ) ∩ V, car V_{ℂ}^{z} ⊥^{B} V_{ℂ}^{z} et V z̄ ; ℂ ⊥^{B} V z̄ ; ℂ.

On constate que le sous-espace vectoriel L_{x}^{+} (respectivement L_{x,e}^{+}) de V_{ℂ} engendré par les différents vecteurs P_{1}^{0}, …, P_{n^{0}}^{0} , ou, P_{1}, …, P_{2n}, ou, P′_{1} + iQ′_{1}, …, P′_{p} +iQ′_{p}, P′′_{1} +iQ′′_{1}, …, P′′_{q} +iQ′′_{q} (respectivement P_{1}^{0} +iQ_{1}^{0}, …, P_{n^{0}}^{0} +iQ_{n^{0}}^{0} , ou, P_{1}+iQ_{1}, …, P_{2n}+iQ_{2n}, ou, P′_{1}+iQ′_{1}, …, P′_{p}+iQ′_{p}, P′′_{1}+iQ′′_{1}, …, P′′_{q}+iQ′′_{q} ) lorsque z varie, est un lagrangien positif de (V_{ℂ}, B) stable par x^{ℂ} (respectivement x_{e}^{ℂ}).

On note E (respectivement H) l’élément de 𝔰p(V) stabilisant les espaces

vectoriels (V_{ℂ}^{z} + V_{ℂ}^{z^{−1}}+ V z̄ ; ℂ + V_{ℂ}^{z̄^{−1}}) ∩ V avec z = re^{i θ}, r ≥ 1, −2π < θ ≤ 0,

et dont la restriction à un tel espace a dans la base B_{z} une matrice diagonale par blocs dont les blocs sont les matrices (\begin{matrix}0 & θ \\ −θ & 0 \end{matrix}) (resp. (\begin{matrix}ln r & 0 \\ 0 & − ln r \end{matrix})) relativement à (P_{k}^{0}, Q_{k}^{0}),

ou, (\begin{matrix}0 & θ \\ −θ & 0 \end{matrix} ; \begin{matrix}0 & −θ \\ θ & 0 \end{matrix}) (resp. (\begin{matrix}ln r \\ & ln r \\ & & − ln r \\ & & & − ln r \end{matrix} )) relativement à (P_{2k−1}, P_{2k}, Q_{2k−1}, −Q_{2k}),

ou, (\begin{matrix}0 & θ \\ −θ & 0 \end{matrix}) (resp. ( \begin{matrix}0 & 0 \\ 0 & 0 \end{matrix} )) relativement à (P′_{k}, Q′_{k}) et (\begin{matrix}0 & −θ \\ θ & 0 \end{matrix}) (resp. ( \begin{matrix}0 & 0 \\ 0 & 0 \end{matrix} )) relativement à (P′′_{l}, Q′′_{l}).

Les éléments x̂_{E,H} = exp_{Mp(V)}E exp_{Mp(V)}H et x̂_{E} = exp_{Mp(V)}E de Mp(V) sont respectivement au-dessus de x et x_{e}. D’après [Duf 84, (15) p. 109], on a :

\frac{ρ̃_{L_{x}^{+}}}{|ρ̃_{L_{x}^{+}}|}(x̂_{E,H}) = ρ̃_{L_{x,e}^{+}}(exp_{Mp(V)}E) = e^{\frac{1}{2} tr(E^{ℂ})_{L{+ \atop x,e}}}.

D’où les égalités suivantes, qui permettent d’obtenir le résultat :

\frac{Φ̃}{|Φ̃|}(x̂_{E,H}) = (−1)^{n_{L^{+}_{x}}(x)} e^{\frac{1}{2} tr(E^{ℂ})_{L{+ \atop x,e}}} (\frac{det (1−x^{ℂ})_{(1−x^{ℂ})·L^{+}_{x}}}{|det (1−x^{ℂ})_{(1−x^{ℂ})·L^{+}_{x}}|})^{−1} = ⋯ = \frac{Φ}{|Φ|}(x̂_{E,H})

et ρ̃_{L}(x̂_{E})= (−1)^{q_{L}(x_{e})} \frac{Φ}{|Φ|}(x̂_{E}) \frac{det (1−exp E^{ℂ})_{(1−exp E^{ℂ})·L}}{|det (1−exp E^{ℂ})_{(1−exp E^{ℂ})·L}|} = ⋯ = ρ_{L}(x̂_{E}).

(c) L’existence d’un lagrangien positif de (V_{ℂ}, B) stable par x^{ℂ} est démontrée dans [B.. 72, cor. p. 82]. On suppose V non nul et note x̂_{e} la composante elliptique de x̂. Par définition δ(x̂) est égal à ρ_{ℂ(P_{1}+iQ_{1})+···+ℂ(P_{n}+iQ_{n})}(x̂_{e}), avec les notations de 4.2 (e). L’égalité [Duf 84, (15) p. 109] prouve que ce nombre complexe est indépendant du choix de (P_{1}, …, P_{n}, Q_{1}, …, Q_{n}).

On se donne un lagrangien L de (V_{ℂ}, B) stable par x^{ℂ} et un supplémentaire S de L ∩ \overline{L} dans L qui est stable par x_{e}^{ℂ}. On note W le sous-espace symplectique de (V, B) égal à l’orthogonal de S + \overline{S} dans V. On fixe une base (P_{1}^{0}, …, P_{n^{0}}^{0}, P_{1}^{ℝ}, …, P_{2m}^{ℝ}) du lagrangien L ∩ \overline{L} de (W_{ℂ}, B), formée de vecteurs de V, telle que P_{1}^{0}, …, P_{n^{0}}^{0} sont des vecteurs propres de x_{e} associés à des valeurs propres réelles et P_{1}^{ℝ} +iP_{2}^{ℝ}, …, P_{2m−1}^{ℝ} +iP_{2m}^{ℝ} sont des vecteurs propres de x_{e}^{ℂ} associés à des valeurs propres non réelles. Elle se complète en une base symplectique (P_{1}^{0}, …, P_{n^{0}}^{0}, P_{1}^{ℝ}, …, P_{2m}^{ℝ}, Q_{1}^{0}, …, Q_{n^{0}}^{0}, 2Q_{1}^{ℝ}, …, 2Q_{2m}^{ℝ}) de (W, B) telle que Q_{1}^{0}, …, Q_{n^{0}}^{0} et Q_{1}^{ℝ}+iQ_{2}^{ℝ}, …, Q_{2m−1}^{ℝ}+iQ_{2m}^{ℝ} sont des vecteurs propres de x_{e}^{ℂ}.

En effet, on peut construire (Q_{1}^{ℝ}, …, Q_{2m}^{ℝ}) par récurrence sur m= \frac{1}{2} dim(x_{e}^{2}−1)·W, en associant au vecteur P := P_{2m−1}^{ℝ}+iP_{2m}^{ℝ} de (x_{e}^{2}−1)· (L ∩ \overline{L}) un vecteur propre Q = Q_{2m−1}^{ℝ}−iQ_{2m}^{ℝ} de x_{e}^{ℂ} avec Q_{2m−1}^{ℝ}, Q_{2m}^{ℝ} ∈ (x_{e}^{2} − 1)·W tel que B(P, Q) = 1 et B(Q, \overline{Q}) = 0 (cette dernière égalité se réalise en remplaçant Q par Q − \frac{1}{2}B(Q, \overline{Q}) \overline{P}). On fixe aussi une base (P′_{1}+iQ′_{1},…, P′_{p}+iQ′_{p}, P′′_{1}−iQ′′_{1}, …, P′′_{q}−iQ′′_{q}) de S formée de vecteurs propres de x_{e}^{ℂ} avec P′_{1}, Q′_{1}, …, P′_{p}, Q′_{p}, P′′_{1}, Q′′_{1}, …, P′′_{q}, Q′′_{q} ∈ V, dans laquelle la forme sesquilinéaire hermitienne non dégénérée x_{e}^{ℂ}-invariante

(v, w) ↦ iB/2 (v, \overline{w}) a pour matrice (\begin{matrix}I_{p} & 0 \\ 0 & −I_{p} \end{matrix}).

La base de L constituée des vecteurs propres P_{1}^{0}, …, P_{n^{0}}^{0}, P_{1}^{ℝ}+iP_{2}^{ℝ},P_{1}^{ℝ}−iP_{2}^{ℝ}, …, P_{2m−1}^{ℝ}+iP_{2m}^{ℝ}, P_{2m−1}^{ℝ}−iP_{2m}^{ℝ} et P′_{1}+iQ′_{1}, …, P′_{p}+iQ′_{p}, P′′_{1}−iQ′′_{1}, …, P′′_{q}−iQ′′_{q} de x_{e}^{ℂ} fournit une expression pour ρ_{L}(x̂_{e}). On calcule δ(x̂) à l’aide de la base symplectique (P_{1}^{0}, …, P_{n^{0}}^{0}, P_{1}^{+}, …, P_{2m}^{+}, P′_{1}, …, P′_{p}, P′′_{1}, …, P′′_{q}, Q_{1}^{0}, …, Q_{n^{0}}^{0}, Q_{1}^{+}, …, Q_{2m}^{+}, Q′_{1}, …, Q′_{p}, Q′′_{1}, …, Q′′_{q}) de (V, B), où P_{2k−1}^{+}+iQ_{2k−1}^{+} := (P_{2k−1}^{ℝ}+iP_{2k}^{ℝ}) + i(Q_{2k−1}^{ℝ}+iQ_{2k}^{ℝ}) et P_{2k}^{+}−iQ_{2k}^{+} := −i(P_{2k−1}^{ℝ}+iP_{2k}^{ℝ}) − (Q_{2k−1}^{ℝ}+iQ_{2k}^{ℝ}) pour 1 ≤ k ≤ m.

On en déduit facilement le résultat.

5. Les paramètres τ ∈ X_{G}^{Ind}(λ̃)

Dans les deux sections qui suivent, on se donne λ̃ = (λ, F^{+}) ∈ 𝔤̃^{∗}_{reg}. On pose 𝔥 = 𝔤(λ̃). On note 𝔞 la composante hyperbolique de 𝔥 et fixe une chambre 𝔞^{∗}^{+} de (𝔤(λ)(iρ_{F^{+}}), 𝔞). On note aussi μ et ν les composantes infinitésimalement elliptique et hyperbolique de λ.

Afin de fournir une paramétrisation canonique d’un sous-ensemble de Ĝ qui permette de donner une description de la formule de Plancherel, M. Duflo a introduit les objets du (a) de la définition ci-dessous. Quand λ ∈ 𝔤∗_{ss reg} , ces objets seront compatibles avec les miens, car on pourra prendre t∈[0, 1] en posant λ_{0} =λ dans le lemme 5.2, et on aura X_{G}^{Ind}(λ̃) = X_{G}^{irr}(λ) dans la définition 5.5 (c).

Définition 5.1. (a) Soit f ∈ 𝔤^{∗}. On note B_{f} la forme bilinéaire alternée non dégénérée (Ẋ, Ẏ) ↦ f([X, Y]) sur 𝔤/𝔤(f), G(f)^{𝔤/𝔤(f)} le sous-groupe de Lie de G(f) × DL(𝔤/𝔤(f)) formé des couples (x, â) tels que (Ad x)_{𝔤/𝔤(f)} est l’image de â dans SL(𝔤/𝔤(f)) (cf. 4.3 (a)), {1, ι} et G(f)_{0}^{𝔤/𝔤(f)} les images réciproques de {1} et G(f)_{0} par le morphisme de groupes de Lie surjectif canonique de G(f)^{𝔤/𝔤(f)} dans G(f), X_{G}^{irr}(f) l’ensemble fini des classes d’isomorphisme de représentations unitaires irréductibles τ de G(f)^{𝔤/𝔤(f)} telles que τ(ι) = − id et τ(exp X) = e^{i f(X)} id pour X ∈𝔤(f) (dans ce cas τ est de dimension finie).

(b) On note G(λ̃)^{𝔤/𝔤(λ)(iρ_{F^{+}})} l’image réciproque de G(λ̃) dans G(λ_{can})^{𝔤/𝔤(λ_{can} )}. On posera aussi G(λ̃)_{0}^{𝔤/𝔥} = G(λ_{+})_{0}^{𝔤/𝔥} (cf. G(λ̃)_{0} = G(λ_{+})_{0} et 𝔤(λ_{+}) = 𝔥).

Lorsque 𝔞^{∗}^{+} = 𝔞^{∗}, on a 𝔤(λ)(iρ_{F^{+}}) = 𝔥 et G(λ̃) = G(λ_{+}), et on notera dans ce cas G(λ̃)^{𝔤/𝔥} pour désigner G(λ̃)^{𝔤/𝔤(λ)(iρ_{F^{+}})} et G(λ_{+})^{𝔤/𝔥}.

Dans la suite, on identifiera les fonctions complexes sur G(λ_{+}) aux fonctions complexes sur le revêtement G(λ_{+})^{𝔤/𝔥} qui sont constantes sur les fibres.

Lemme 5.2. On fixe un réel t ∈ ]0, 1]. On utilise les systèmes de racines positives de la définition 1.3 (b) et la notation λ_{t} du lemme 1.4. On pose L_{λ_{t}} = 𝔥_{ℂ}⊕ ∑_{α∈R^{+}(𝔤_{ℂ},𝔥_{ℂ})}𝔤_{ℂ}^{α} et, 𝔪′ = 𝔤(ν_{+}) en anticipant sur la partie III.

(a) On a G(λ_{t})^{𝔤/𝔥} = G(λ_{+})^{𝔤/𝔥} et L_{λ_{t}}/𝔥_{ℂ} est un lagrangien de (𝔤_{ℂ}/𝔥_{ℂ}, B_{λ_{t}}) stable par G(λ_{t}). La fonction complexe δ_{λ_{t}}^{𝔤/𝔥} sur G(λ_{+})^{𝔤/𝔥} et le morphisme de groupes de Lie ρ_{λ_{t}}^{𝔤/𝔥} de G(λ_{+})^{𝔤/𝔥} dans ℂ\{0} qu’on en déduit (cf. 4.2 (e) et 4.3 (b)) sont indépendants de t, et donc respectivement égaux à δ_{λ_{+}}^{𝔤/𝔥} et ρ_{λ_{+}}^{𝔤/𝔥}. On a d_{1}ρ_{λ_{+}}^{𝔤/𝔥} = ρ_{𝔤,𝔥}.

(b) Soit ê ∈ G(λ_{+})^{𝔤/𝔥} au-dessus d’un élément elliptique e de G(λ_{+}). On a

ρ_{λ_{+}}^{𝔤/𝔥}(ê) = δ_{λ_{+}}^{𝔤/𝔥}(ê) × det (Ad e^{ℂ})_{∑ ; α′∈R_{K}^{+}(𝔤_{ℂ},𝔥_{ℂ})𝔤_{ℂ}^{α′}} × ∏_{O∈⟨e⟩\R̃_{ℂ}^{+}(𝔪′_{ℂ},𝔥_{ℂ})} (−1)^{m_{O}−1} u_{O}

où R_{K}^{+}(𝔤_{ℂ}, 𝔥_{ℂ}) est l’ensemble des α′ ∈ R^{+}(𝔤_{ℂ}, 𝔥_{ℂ}) compactes, R̃_{ℂ}^{+}(𝔪′_{ℂ}, 𝔥_{ℂ}) est l’ensemble des classes des β ∈ R^{+}(𝔪′_{ℂ}, 𝔥_{ℂ}) complexes modulo l’identification de β avec −\overline{β}, et, pour chaque orbite O d’un élément \{β,−\overline{β}\} de R̃_{ℂ}^{+}(𝔪′_{ℂ}, 𝔥_{ℂ}) sous l’action du sous-groupe ⟨e⟩ de G engendré par e, on note m_{O} le cardinal de O et u_{O} l’unique valeur propre de (Ad e^{ℂ})^{m_{O}} associée à un vecteur propre qui s’écrive X_{β} −\overline{X_{−β}} pour au moins un X_{β} ∈ 𝔤_{ℂ}^{β} et un X_{−β} ∈ 𝔤_{ℂ}^{−β} vérifiant [X_{β}, X_{−β}] = H_{β}. Démonstration du lemme. (a) La première égalité provient du lemme 1.4. Il est immédiat que L_{λ_{t}}/𝔥_{ℂ} est un lagrangien de (𝔤_{ℂ}/𝔥_{ℂ}, B_{λ_{t}}) stable par G(λ_{t}).

On note φ_{t} la forme sesquilinéaire hermitienne (v, w) ↦ i B_{λ_{t}}(v, \overline{w}) sur (𝔤/𝔥)_{ℂ}. On va se servir des notations de l’énoncé du (b). L’espace vectoriel L_{λ_{t}}/𝔥_{ℂ} est somme directe des projections des espaces vectoriels suivants qui sont deux à deux orthogonales pour φ_{t} avec une signature de forme hermitienne restreinte précisée entre parenthèse : les 𝔤_{ℂ}^{α′} avec α′ ∈R_{K}^{+}(𝔤_{ℂ}, 𝔥_{ℂ}) (signature (0, 1)), les 𝔤_{ℂ}^{α′′} avec α′′ ∈ R^{+}(𝔤_{ℂ}, 𝔥_{ℂ}) imaginaire non compacte (signature (1, 0)), les 𝔤_{ℂ}^{β} ⊕ 𝔤_{ℂ}^{−\overline{β}} avec \{β,−\overline{β}\} ∈ R̃_{ℂ}^{+}(𝔪′_{ℂ}, 𝔥_{ℂ}) (signature (1, 1)), et les 𝔤_{ℂ}^{γ} avec γ ∈R^{+}(𝔤_{ℂ}, 𝔥_{ℂ}) hors de R^{+}(𝔪′_{ℂ}, 𝔥_{ℂ}) (signature (0, 0)).

Soit e un élément elliptique de G(λ_{+}). Par ce qui précède, la forme sesquilinéaire hermitienne φ_{t} est non dégénérée sur (L_{λ_{t}} ∩ 𝔪′_{ℂ})/𝔥_{ℂ} et nulle sur son orthogonal. De plus, (L_{λ_{t}} ∩ 𝔪′_{ℂ})/𝔥_{ℂ} est somme directe orthogonale pour φ_{t} de l’image et du noyau de 1 − Ad e^{ℂ}. Donc la restriction de φ_{t} à chacun d’entre eux est non dégénérée. Un argument de continuité prouve ensuite que les signatures de ces restrictions, et a fortiori q_{L_{λ_{t}}}(e), sont indépendants de t. De même, l’orientation O(B_{λ_{t}})_{(1−Ad e)·(𝔤/𝔥)} est indépendante de t. Cela peut être précisé comme dans la preuve de 5.4. On utilise ensuite la définition 4.2 (d) et la proposition 4.3 (c).

La formule pour d_{1}ρ_{λ_{+}}^{𝔤/𝔥} se déduit de la proposition 4.3 (b).

(b) Il s’agit d’appliquer la proposition 4.3 (c) en tenant compte de la démonstration du (a). On utilise la notation φ_{t} de cette démonstration.

Soit O l’orbite sous ⟨e⟩ d’un \{β,−\overline{β}\} ∈ R̃_{ℂ}^{+}(𝔪′_{ℂ}, 𝔥_{ℂ}). On fixe (X_{β}, X_{−β}) ∈ 𝔤_{ℂ}^{β} × 𝔤_{ℂ}^{−β} tel que [X_{β}, X_{−β}] = H_{β}. La condition « X_{β} −\overline{X_{−β}} est vecteur propre de (Ad e^{ℂ})^{m_{O}} » est satisfaite (pour une unique valeur propre de (Ad e^{ℂ})^{m_{O}}) quand e^{m_{O}} β = β, et se réalise (à nouveau avec unicité de la valeur propre) en remplaçant X_{β} et X_{−β} par certains de leurs multiples quand e^{m_{O}} β = −\overline{β}. Sous cette condition, les vecteurs propres ∑_{0≤k≤m_{O}−1}ζ^{−k}(Ad e^{ℂ})^{k} (X_{β} −\overline{X_{−β}}) de Ad e^{ℂ}, où ζ décrit l’ensemble des racines m_{O}^{ièmes} de u_{O}, ont des projections dans L_{λ_{t}}/𝔥_{ℂ} deux à deux orthogonales pour φ_{t} avec des « carrés » strictement négatifs. Cela conduit à la formule annoncée.

Remarque 5.3. Soit f ∈ Supp_{𝔤(λ)^{∗}}(G(λ)_{0} · λ̃).

On note ξ la composante nilpotente de f. Il existe une unique sous-algèbre de Borel 𝔟 de 𝔤(λ)_{ℂ} sur laquelle ξ est nulle. En effet, d’après le lemme 1.5 (a) et [Kos 59, cor. 5.3 p. 997 et cor. 5.6 p. 1001], l’élément de D(𝔤(λ)) auquel ξ s’identifie à l’aide de la forme bilinéaire ⟨ , ⟩ appartient à une unique sous-algèbre formée d’éléments nilpotents maximale de 𝔤(λ)_{ℂ}, dont l’orthogonal pour ⟨ , ⟩ convient. L’unicité de 𝔟 montre que \overline{𝔟} = 𝔟.

On note 𝔫_{λ} la somme des espaces propres pour l’action de Z(𝔤(λ))_{ℂ} dans 𝔤_{ℂ}, dont le poids α ∈ Z(𝔤(λ))_{ℂ}^{∗} (toujours restriction d’un poids de 𝔥_{ℂ}) vérifie : ⟨ν, α⟩ > 0 ou (⟨ν, α⟩ = 0 et i⟨μ, α⟩ > 0). On pose L_{f} = 𝔟 ⊕ 𝔫_{λ}. On constate que L_{f} est une sous-algèbre de Borel de 𝔤_{ℂ} en décomposant L_{f} en sous-espaces propres relativement à une sous-algèbre de Cartan de 𝔤_{ℂ} incluse dans 𝔟.

Les inclusions [𝔟, 𝔟] ⊆ 𝔟 ⊆ Ker ξ et [L_{f}, 𝔫_{λ}] ⊆ 𝔫_{λ} ⊆ (𝔤(λ)_{ℂ})^{⊥^{⟨ , ⟩}} fournissent les égalités f([𝔟, 𝔟]) = 0 et f([L_{f}, L_{f}]) = 0. Donc 𝔤(f)_{ℂ} ⊆ 𝔟 et L_{f}/𝔤(f)_{ℂ} est un lagrangien de (𝔤_{ℂ}/𝔤(f)_{ℂ}, B_{f}), clairement stable par G(f). D’après 4.3 (b) le morphisme de groupes de Lie ρ_{f}^{𝔤/𝔤(f)} de G(f)^{𝔤/𝔤(f)} dans ℂ \{0} qu’on en déduit vérifie d_{1}ρ_{f}^{𝔤/𝔤(f)} = \frac{1}{2} tr(ad ·^{ℂ})_{L_{f} /𝔤(f)_{ℂ}}.

J’adapte maintenant les paramètres de Duflo à la situation qui m’intéresse.

Lemme 5.4. (a) L’espace vectoriel L_{λ̃,𝔞^{∗}^{+}} = 𝔥_{ℂ} ⊕ ∑_{α∈R_{λ̃,𝔞^{∗}^{+}}^{+}}𝔤_{ℂ}^{α} (cf. 1.3 (c))

fournit le lagrangien L_{λ̃,𝔞^{∗}^{+}}/𝔥_{ℂ} de (𝔤_{ℂ}/𝔥_{ℂ}, B_{λ_{+}}). On note ρ_{λ̃,𝔞^{∗}^{+}}^{𝔤/𝔥} le caractère com-

plexe de G(λ_{+})^{𝔤/𝔥} qui lui est associé (cf. 4.3 (b)). La restriction de ρ_{λ̃,𝔞^{∗}^{+}}^{𝔤/𝔥}(δ_{λ_{+}}^{𝔤/𝔥})^{−1} à C_{G_{0}}(𝔥) est indépendante de 𝔞^{∗}^{+}.

(b) La restriction de B_{λ_{+}} au sous-espace vectoriel 𝔤(λ)(iρ_{F^{+}})/𝔥 de 𝔤/𝔥 est non dégénérée. L’orthogonal de 𝔤(λ)(iρ_{F^{+}})/𝔥 dans 𝔤/𝔥 muni de B_{λ_{+}} est la projection dans 𝔤/𝔥 de la trace sur 𝔤 de la somme des 𝔤_{ℂ}^{α} lorsque α décrit R(𝔤_{ℂ}, 𝔥_{ℂ}) privé de R(𝔤(λ)(iρ_{F^{+}})_{ℂ}, 𝔥_{ℂ}). On l’identifiera à 𝔤/𝔤(λ)(iρ_{F^{+}}).

Soit e ∈ G(λ_{+}) elliptique. Les orientations O(B_{λ_{+}})_{(1−Ad e)(𝔤/𝔤(λ)(iρ_{F^{+}}))} et O(B_{λ_{can}} )_{(1−Ad e)(𝔤/𝔤(λ)(iρ_{F^{+}}))} sont égales.

(c) L’espace vectoriel Lλ̃ = 𝔤(λ)(iρ_{F^{+}})_{ℂ} ⊕ ∑_{α∈R+ ; λ̃}𝔤_{ℂ}^{α} (cf. 1.3 (c)) fournit le

lagrangien Lλ̃/𝔤(λ)(iρ_{F^{+}})_{ℂ} de 𝔤_{ℂ}/𝔤(λ)(iρ_{F^{+}})_{ℂ}, à la fois pour B_{λ_{can}} et pour B_{λ_{+}} . On note ρ𝔤/𝔤(λ)(iρ_{F^{+}}) ; λ̃ le caractère complexe de G(λ̃)^{𝔤/𝔤(λ)(iρ_{F^{+}})} qui est associé à (𝔤_{ℂ}/𝔤(λ)(iρ_{F^{+}})_{ℂ}, B_{λ_{can}} ) (cf. 4.3 (b)). Il prolonge le caractère complexe de l’image réciproque de G(λ_{+}) dans G(λ̃)^{𝔤/𝔤(λ)(iρ_{F^{+}})} qui est associé à (𝔤_{ℂ}/𝔤(λ)(iρ_{F^{+}})_{ℂ}, B_{λ_{+}}). Démonstration du lemme. (a) Soit e ∈ C_{G_{0}}(𝔥) elliptique. L’indépendance de (ρ_{λ̃,𝔞^{∗}^{+}}^{𝔤/𝔥}(δ_{λ_{+}}^{𝔤/𝔥})^{−1})(e) par rapport à 𝔞^{∗}^{+} s’obtient en reprenant la démonstration du lemme 5.2 (b).

(b) Au début, on utilise le fait que 𝔤_{ℂ}/𝔥_{ℂ}est somme directe B_{λ_{+}}-orthogonale des projections des sous-espaces vectoriels 𝔤_{ℂ}^{α} ⊕ 𝔤_{ℂ}^{−α} de 𝔤_{ℂ} avec α ∈ R^{+}(𝔤_{ℂ}, 𝔥_{ℂ}).

On pose V = 𝔤/𝔤(λ)(iρ_{F^{+}}) et V (e) = 𝔤(e)/𝔤(e)(λ)(iρ_{F^{+}}). L’espace vectoriel V est somme directe des sous-espaces vectoriels V (e) et (1−Ad e)(V), qui sont orthogonaux simultanément pour B_{λ_{can}} et pour B_{λ_{+}} . Pour chaque α ∈ R^{+}(𝔤_{ℂ}, 𝔥_{ℂ}), on fixe X_{α} ∈ 𝔤_{ℂ}^{α} et X_{−α} ∈ 𝔤_{ℂ}^{−α} tels que [X_{α}, X_{−α}] = H_{α}. On constate que les orientations O(B_{λ_{+}})_{V} et O(B_{λ_{can}} )_{V} sont toutes deux dirigées par le produit extérieur des vecteurs suivants : les X_{α} ∧ X_{−α} avec α ∈ R+ ; λ̃ réelle, les i(X_{α} ∧ X_{−α}) avec α ∈ R+ ; λ̃ imaginaire, et les X_{α} ∧ X_{−α} ∧ \overline{X_{α}} ∧ \overline{X_{−α}} où α̇ décrit les classes des β ∈ R(𝔤_{ℂ}, 𝔥_{ℂ})\R(𝔤(λ)(iρ_{F^{+}})_{ℂ}, 𝔥_{ℂ}) complexes modulo l’action du groupe engendré par la conjugaison et le passage à l’opposé. On prouve de même que les orientations O(B_{λ_{+}})_{V (e)} et O(B_{λ_{can}} )_{V (e)} sont égales, en utilisant le système de racines R(𝔤(e)_{ℂ}, 𝔥(e)_{ℂ}) et le couple (λ, ρ_{F^{+}}). Donc O(B_{λ_{+}})_{(1−Ad e)(V)} = O(B_{λ_{can}} )_{(1−Ad e)(V)}.

(c) Soient e ∈ G(λ_{+}) elliptique et ê ∈ G(λ̃)^{𝔤/𝔤(λ)(iρ_{F^{+}})} au-dessus de e. On note φ_{can} et φ_{+} les formes sesquilinéaires hermitiennes (v, w) ↦ i B_{λ_{can}} (v, \overline{w}) et (v, w) ↦ i B_{λ_{+}}(v, \overline{w}) sur 𝔤_{ℂ}/𝔤(λ)(iρ_{F^{+}})_{ℂ}. L’espace vectoriel L := Lλ̃/𝔤(λ)(iρ_{F^{+}})_{ℂ} est somme directe des sous-espaces vectoriels L(e) := (Lλ̃ ∩ 𝔤(e)_{ℂ})/𝔤(e)(λ)(iρ_{F^{+}})_{ℂ} et (1 − Ad e)(L), qui sont orthogonaux simultanément pour φ_{can} et pour φ_{+}. On s’inspire du début de la démonstration du lemme 5.2 (b). Le nombre de composantes strictement négatives dans la matrice de l’une ou l’autre des formes sesquilinéaires φ_{can} et φ_{+} sur L, relativement à une base orthogonale, est égal à : la moitié du nombre de racines compactes dans R(𝔤_{ℂ}, 𝔥_{ℂ})\R(𝔤(λ)(iρ_{F^{+}})_{ℂ}, 𝔥_{ℂ}) plus le quart du nombre de racines complexes dans R(𝔤(ν)_{ℂ}, 𝔥_{ℂ})\R(𝔤(λ)(iρ_{F^{+}})_{ℂ}, 𝔥_{ℂ}). On a une propriété analogue pour L(e). D’après (b) et la définition 4.2 (d), les fonctions ρ associées à B_{λ_{can}} et B_{λ_{+}} prennent donc les mêmes valeurs en ê.

Définition 5.5. (a) Soit α ∈ R(𝔤_{ℂ}, 𝔥_{ℂ}) réelle. On note n_{α} = \frac{1}{2} ∑_{β} β(H_{α}) où

la somme porte sur les β ∈ R(𝔤_{ℂ}, 𝔥_{ℂ}) tels que β + \overline{β} ∈ ℝ^{+}α. À deux vecteurs X_{α} ∈ 𝔤_{ℂ}^{α} ∩ 𝔤 et X_{−α} ∈ 𝔤_{ℂ}^{−α} ∩ 𝔤 tels que [X_{α}, X_{−α}] = H_{α}, on associe l’élément elliptique γ_{α} = exp(π(X_{α} − X_{−α})) de C_{G_{0}}(𝔥). (On sait que n_{α} ∈ ℕ et que l’ensemble {γ_{α}, γ_{α}^{−1}} est indépendant du choix de (X_{α}, X_{−α}), cf. [DV 88, p. 327].)

(b) On note X_{G}^{irr,+}(λ̃, 𝔞^{∗}^{+}) l’ensemble fini des classes d’isomorphisme des représentations unitaires irréductibles τ_{+} de G(λ_{+})^{𝔤/𝔥} telles que τ_{+}(ι) = − id et τ_{+}(exp X) = e^{i λ(X)} id pour X ∈ 𝔥 (une telle τ_{+} est de dimension finie), et X_{G}^{final,+}(λ̃, 𝔞^{∗}^{+}) l’ensemble des τ_{+} ∈ X_{G}^{irr,+}(λ̃, 𝔞^{∗}^{+}) tels que pour toute racine α ∈ R(𝔤(λ)_{ℂ}, 𝔥_{ℂ}) réelle, (δ_{λ_{+}}^{𝔤/𝔥}τ_{+})(γ_{α}) n’admette pas la valeur propre (−1)^{n_{α}}. (Quand G est connexe, la démonstration de 9.3 (b) montrera que cette condition peut être remplacée par (δ_{λ_{+}}^{𝔤/𝔥}τ_{+})(γ_{α}) ≠ (−1)^{n_{α}} id.)

On note aussi X_{G}^{final,+} l’ensemble des (λ̃′, 𝔞′^{∗}^{+}, τ′_{+}) avec λ̃′ = (λ′, F′^{+}) ∈ 𝔤̃^{∗}_{reg}, 𝔥′ = 𝔤(λ̃′), 𝔞′ est la composante hyperbolique de 𝔥′, 𝔞′^{∗}^{+} est une chambre de (𝔤(λ′)(iρ_{F′}^{+}), 𝔞′), et τ′_{+} ∈ X_{G}^{final,+}(λ̃′, 𝔞′^{∗}^{+}).

(c) On note X_{G}(λ̃) (resp. X_{G}^{irr}(λ̃)) l’ensemble des classes d’isomorphisme des représentations unitaires (resp. unitaires irréductibles) τ de G(λ̃)^{𝔤/𝔤(λ)(iρ_{F^{+}})} telles que τ(ι)=− id et τ(exp X) = e^{i λ(X)} id pour X ∈ 𝔥, et X_{G}^{Ind}(λ̃) l’ensemble (indépendant du choix de 𝔞^{∗}^{+}) formé des classes d’isomorphisme des représentations unitaires τ de G(λ̃)^{𝔤/𝔤(λ)(iρ_{F^{+}})} telles que

\frac{ρ𝔤/𝔤(λ)(iρ_{F^{+}}) ; λ̃}{|ρ𝔤/𝔤(λ)(iρ_{F^{+}}) ; λ̃|} τ = Ind_{G(λ_{+})}^{G(λ̃)} (\frac{ρ_{λ̃,𝔞^{∗}^{+}}^{𝔤/𝔥}}{|ρ_{λ̃,𝔞^{∗}^{+}}^{𝔤/𝔥}|} τ_{+})

pour un τ_{+} ∈ X_{G}^{final,+}(λ̃, 𝔞^{∗}^{+}) (donc X_{G}^{Ind}(λ̃) ⊆ X_{G}(λ̃)).

On pose aussi : X_{G}^{Ind} = {(λ̃′, τ′) ; λ̃′ ∈ 𝔤̃^{∗}_{reg} et τ′ ∈ X_{G}^{Ind}(λ̃′)}.

6. Condition d’intégrabilité

On conserve les notations de la section précédente.

Le lemme suivant est une adaptation de [Duf 82a, remarque 2 p. 154]. Il ne sera pas utilisé dans la suite de cet article.

Lemme 6.1. Les propriétés suivantes sont équivalentes :

(i) X_{G}^{irr,+}(λ̃, 𝔞^{∗}^{+}) ≠ Ø ;

(ii) il existe un caractère unitaire χG ; λ̃ (unique) de G(λ̃)_{0}^{𝔤/𝔥} tel que :

χG ; λ̃(ι) = −1 et d_{1}χG ; λ̃ = iλ _{𝔥} ;

(iii) λ̃ ∈ 𝔤̃^{∗}_{reg,G}.

Démonstration du lemme. (i)⇔ (ii) L’implication « (i) ⇒ (ii) » est claire. On suppose (ii) vérifié. La restriction à G(λ̃)_{0}^{𝔤/𝔥} de la représentation unitaire Ind_{G(λ_{+})_{0}^{𝔤/𝔥}}^{G(λ_{+})^{𝔤/𝔥}} χG ; λ̃ de G(λ_{+})^{𝔤/𝔥} est non nulle (car induite à partir d’un espace non nul)

et multiple de χG ; λ̃. Le théorème 8.5.2 de [Dix 64, p. 153] montre donc l’existence d’un élément de X_{G}^{irr,+}(λ̃, 𝔞^{∗}^{+}).

(ii) ⇔ (iii) D’après le lemme 5.2 (a), en multipliant χG ; λ̃ par ρ_{λ_{+}}^{𝔤/𝔥} la condition (ii) équivaut à l’existence d’un caractère complexe du groupe de Lie G(λ_{+})_{0} de différentielle iλ + ρ_{𝔤,𝔥}. Cette dernière propriété s’écrit: λ̃ ∈ 𝔤̃^{∗}_{reg,G}.

Remarque 6.2. Soit f ∈ Supp_{𝔤(λ)^{∗}}(G(λ)_{0} · λ̃). En particulier, on a f ∈ 𝔤_{reg}^{∗}.

Le groupe de Lie réel G(f)_{0} est commutatif (cf. [B.. 72, th. p. 17]). Le stabilisateur de la composante nilpotente de f dans le groupe adjoint de G(λ)_{0} est linéaire algébrique unipotent d’après [Spr 66, th. 5.9 (b) p. 138]. Le tore maximal de G(f)_{0} est donc égal à celui de Z(G(λ)_{0}). Compte tenu de la remarque 5.3, les arguments de la démonstration du lemme précédent permettent d’en déduire que :

X_{G}^{irr}(f) ≠ Ø ⟺ ∀Z ∈ Ker exp_{Z(G(λ)_{0})} e^{(i λ+ρ_{𝔤,𝔥})(Z)} = 1.

Donc la condition « X_{G}^{final,+}(λ̃, 𝔞^{∗}^{+}) ≠ Ø » implique la condition « X_{G}^{irr}(f) ≠ Ø ».

La réciproque est fausse, comme le montre le cas où G = P SL(2, ℝ), λ = 0 et 𝔥 = 𝔰𝔬(2), donc X_{G}^{final,+}(λ̃, {0}) = Ø, X_{G}^{irr}(f) ≠ Ø, et aussi X_{G}^{irr}(−f) ≠ Ø. Cela traduit le fait que P SL(2, ℝ) n’a pas de représentation limite de sa série discrète hors de sa série discrète. Pour généraliser la méthode des orbites proposée par M. Duflo, il était naturel d’imaginer que les orbites coadjointes régulières de G susceptibles d’être l’orbite G·l associée à une représentation T_{l,τ}^{G} à caractère infinitésimal nul seraient G·f et G·(−f) (cf. 8.4 (a), en remplaçant (λ̃, 𝔞^{∗}^{+}) et λ par l). Cette généralisation aurait créé des difficultés, car G·f ≠ G·(−f) et le dual unitaire de G n’a qu’un seul élément à caractère infinitésimal nul.

III. Construction de représentations

Cette partie suit de près l’article [Duf 82a] de M. Duflo, pages 160 à 180.

On se donne λ̃ = (λ, F^{+}) ∈ 𝔤̃^{∗}_{reg}. On pose 𝔥 = 𝔤(λ̃). On note μ et ν (resp. 𝔱 et 𝔞) les composantes infinitésimalement elliptique et hyperbolique de λ (resp. de 𝔥). On fixe aussi une chambre 𝔞^{∗}^{+} de (𝔤(λ)(iρ_{F^{+}}), 𝔞) et τ_{+} ∈ X_{G}^{final,+}(λ̃, 𝔞^{∗}^{+}). D’où R^{+}(𝔤_{ℂ}, 𝔥_{ℂ}) et λ_{+} = μ_{+}+ ν_{+} (cf. 1.3 (b)). On pose μ̃ = (μ, F^{+}∩ i𝔱^{∗}).

7. Le cas où G est connexe

Dans toute cette section, on suppose G connexe.

L’inclusion Ad G ⊆ int 𝔤_{ℂ} assure que G(λ_{+}) est égal à C_{G}(𝔥), et que δ_{λ_{+}}^{𝔤/𝔥} est un caractère unitaire de G(λ_{+})^{𝔤/𝔥} (cf. 4.3, et aussi [Duf 84, haut p. 118]). En effet pour toute composante connexe 𝔞^{∗}_{0}^{+} de l’ensemble des éléments de 𝔞^{∗} qui ne s’annulent sur aucun H_{α} avec α ∈ R(𝔤_{ℂ}, 𝔥_{ℂ}) non imaginaire, l’espace vectoriel

L^{+} := 𝔥_{ℂ} ⊕  ∑_{α∈R^{+}(𝔤_{ℂ},𝔥_{ℂ}) α imaginaire non compacte}𝔤_{ℂ}^{α} ⊕ ∑_{α∈R^{+}(𝔤_{ℂ},𝔥_{ℂ}) α compacte}𝔤_{ℂ}^{−α} ⊕ ∑_{\begin{matrix}α∈R(𝔤_{ℂ},𝔥_{ℂ}) \\ 𝔞^{∗}_{0}^{+}(H_{α}) ⊆ ℝ^{+}\\{0\} \end{matrix}}𝔤_{ℂ}^{α}

fournit le lagrangien positif L^{+}/𝔥_{ℂ} de (𝔤_{ℂ}/𝔥_{ℂ}, B_{λ_{+}}) stable par G(λ_{+}).

On note M l’intersection des noyaux des caractères réels positifs de C_{G}(𝔞) et 𝔪 son algèbre de Lie (donc μ̃ ∈ 𝔪̃^{∗}_{I,M} par 7.3 (a) et X_{M}^{irr}(μ̃) = X_{M}^{final,+}(μ̃, {0})), R^{+}(𝔪_{ℂ}, 𝔱_{ℂ}) = R(𝔪_{ℂ}, 𝔱_{ℂ})∩R^{+}(𝔤_{ℂ}, 𝔥_{ℂ}) (notation de 1.3 (b) relative à 𝔪 et (μ̃, {0})), μ_{+,𝔪} = μ_{𝔪,μ̃,{0}} l’élément μ − 2iρ_{𝔪,𝔱} de 𝔱^{∗} (donc M(μ̃) = C_{M}(𝔱) et δ_{μ_{+,𝔪}}^{𝔪/𝔱} est un caractère unitaire de M(μ̃)^{𝔪/𝔱}),

𝔫_{M} = ∑_{α∈R^{+}(𝔪_{ℂ},𝔱_{ℂ})}𝔤_{ℂ}^{α} et 𝔟_{M} = 𝔱_{ℂ} ⊕ 𝔫_{M},

q = |{α ∈ R^{+}(𝔪_{ℂ}, 𝔱_{ℂ}) | α compacte}|,

𝔨_{M} = 𝔱 ⊕ ( ∑_{α∈R^{+}(𝔪_{ℂ},𝔱_{ℂ}) α compacte}𝔤_{ℂ}^{α} ) ∩ 𝔤 et K_{M_{0}} = exp 𝔨_{M}.

Définition 7.1. (a) On note T M_{0} ; μ̃ la classe de représentation « limite de la série discrète de M_{0} » appartenant à M̂_{0}, dont l’espace des vecteurs K_{M_{0}} -finis est isomorphe à l’image du caractère unitaire de T_{0} de différentielle iμ−ρ_{𝔪,𝔱} par le foncteur « d’induction cohomologique » R_{M_{0}}^{q} := (^{u}R_{𝔟_{M} ,T_{0}}^{𝔪_{ℂ},K_{M_{0}}})^{q} ( • ⊗ ⋀^{max} 𝔫_{M}) décrit dans [KV 95, (11.73) p. 677]. (Elle est notée π_{iμ,𝔟_{M}} dans [KV 95, bas p. 734], en tenant compte de [KV 95, proposition 11.180 p. 733].)

(b) On note T_{μ̃,σ}^{M} = Ind_{C_{M} (𝔪).M_{0}}^{M}(δ_{μ_{+,𝔪}}^{𝔪/𝔱}σ ⊗ T M_{0} ; μ̃) pour tout σ ∈ X_{M}^{irr}(μ̃),

où on a pu définir une représentation δ_{μ_{+,𝔪}}^{𝔪/𝔱}σ ⊗ T M_{0} ; μ̃ de C_{M}(𝔪)M_{0} par l’égalité

(δ_{μ_{+,𝔪}}^{𝔪/𝔱}σ ⊗ T M_{0} ; μ̃) (xy) = (δ_{μ_{+,𝔪}}^{𝔪/𝔱}σ)(x) ⊗ T M_{0} ; μ̃(y) pour x ∈ C_{M}(𝔪) et y ∈ M_{0}

(dans laquelle (δ_{μ_{+,𝔪}}^{𝔪/𝔱}σ)(x) = σ(x, 1)), car le groupe Z(M_{0}) opère dans « l’espace » de T M_{0} ; μ̃ par le caractère unitaire (δ_{μ_{+,𝔪}}^{𝔪/𝔱}σ) _{Z(M_{0})} d’après [KV 95, (11.184c) p. 734].

Remarque 7.2. On fixe un sous-groupe compact maximal K de G dont l’involution de Cartan normalise 𝔥. Donc K_{M} := K ∩ M est un sous-groupe compact maximal de M contenant C_{M}(𝔪)K_{M_{0}} . Tout π ∈ (C_{M}(𝔪)M_{0}) est relié à certaines représentations π_{1} ∈ (C_{M}(𝔪)) et π_{2} ∈ (M_{0}) par les égalités π(xy) = π_{1}(x) ⊗ π_{2}(y) pour x ∈ C_{M}(𝔪) et y ∈ M_{0} (cf. [Dix 64, prop. 13.1.8 p. 251]). Soit σ ∈ X_{M}^{irr}(μ̃). D’après [KV 95, (11.187) p. 735 et dem. de prop. 11.192 (a) p. 737] et 5.2 (b) pour passer de M_{0} à C_{M}(𝔪)M_{0}, et [KV 95, prop. 11.57 p. 672 et fin (5.8) p. 332] pour passer du « sous-groupe parabolique » C_{M}(𝔪)M_{0} de M à M, le (𝔪_{ℂ}, K_{M})-module associé à T_{μ̃,σ}^{M} est isomorphe à R_{M}^{q}((ρ_{μ_{+,𝔪}}^{𝔪/𝔱})^{−1}σ), où R_{M}^{q} est le foncteur d’induction cohomologique relatif à 𝔟_{M}.

Lemme 7.3. (a) On a G(λ_{+}) = C_{M}(𝔪) exp 𝔥 et M(μ̃) = C_{M}(𝔪) exp 𝔱. Il existe donc un unique τ_{M} ∈ X_{M}^{irr}(μ̃) tel que δ_{μ_{+,𝔪}}^{𝔪/𝔱}τ_{M} = (δ_{λ_{+}}^{𝔤/𝔥}τ_{+}) _{M(μ̃)}. (Cette notation ne tient pas compte du fait que τ_{M} dépend de 𝔞^{∗}^{+}.)

(b) La classe de représentation Ind_{M.A.N}^{G}(T_{μ̃,τ_{M}}^{M} ⊗ e^{i ν∘Log} ⊗ 1l_{N}) construite à partir du choix d’un sous-groupe N de G qui est radical unipotent d’un sousgroupe parabolique de G de composante déployée A, appartient à Ĝ et est indépendante de N. Démonstration du lemme. (a) On a G(λ_{+}) = C_{G}(𝔥) ⊆ C_{G}(𝔞) = MA et M(μ̃) = C_{M}(𝔱). Vu [Var 77, th. 17 p. 199], on en déduit que M(μ̃) = C_{M}(𝔪) exp 𝔱, puis G(λ_{+}) = C_{M}(𝔪) exp 𝔥.

(b) Soit N le radical unipotent d’un sous-groupe parabolique de G de composante déployée A. D’après [Var 77, th. 18 p. 289], il existe une composante connexe 𝔞^{∗}_{0}^{+} de l’ensemble des éléments de 𝔞^{∗} qui ne s’annulent sur aucun H_{α} avec α ∈ R(𝔤_{ℂ}, 𝔥_{ℂ}) non imaginaire, telle que

N = exp 𝔫 avec 𝔫 = ( ∑_{α∈R(𝔤_{ℂ},𝔥_{ℂ}) et 𝔞^{∗}_{0}^{+}(H_{α}) ⊆ ℝ^{+}\{0}}𝔤_{ℂ}^{α} ) ∩ 𝔤.

Soient ν_{0} ∈ 𝔞^{∗}_{0}^{+} et λ_{0} ∈ (𝔱^{∗} + ν_{0}) ∩ 𝔤_{reg}^{∗}. On utilise la proposition 11.1 (a) avec λ_{0} à la place de λ (auquel cas « (M′, U) » devient « (C_{M}(𝔪) M_{0} A, N) ») et

π = (δ_{μ_{+,𝔪}}^{𝔪/𝔱}τ_{M} ⊗T M_{0} ; μ̃)⊗e^{i ν∘Log} . Comme la classe de Ind_{M.A.N}^{G}(T_{μ̃,τ_{M}}^{M}⊗e^{i ν∘Log} ⊗1l_{N})

est déterminée par son caractère (cf. [Cow 88, p. 64]), elle ne dépend pas de N.

On choisit z = 1 et Λ = (Λ^{can}, R_{i ℝ}^{+}, R_{ℝ}^{+}) dans [ABV 92, ligne 7 du bas p. 121], où Λ^{can} ⊗ ρ(R^{+}(𝔤_{ℂ}, 𝔥_{ℂ})) = ρ_{λ_{+}}^{𝔤/𝔥} τ_{+} (cf. [ABV 92, lignes 9 et 10 du bas p. 129]) et les systèmes de racines positives R_{i ℝ}^{+} et R_{ℝ}^{+} sont inclus dans R^{+}(𝔤_{ℂ}, 𝔥_{ℂ}). D’après le lemme 5.2 (b), la représentation Λ̃ de [ABV 92, p. 123] est Λ̃ = δ_{λ_{+}}^{𝔤/𝔥}τ_{+}. Vu la proposition 11.1 (a), on a π(Λ) = Ind_{M.A.N}^{G}(T_{μ̃,τ_{M}}^{M} ⊗ e^{i ν∘Log} ⊗ 1l_{N}) dans [ABV 92, (11.2)(e) p. 122]. Les idées de la démonstration du lemme 5 de [DV 88, p. 335] permettent de montrer que Λ est « final » au sens de [ABV 92, def. 11.13 p. 130]. On applique enfin [ABV 92, th. 11.14 (a) p. 131].

Remarque 7.4. On se place dans le cas où G = SL(3, ℝ) et λ est l’élément de 𝔤_{ssInc,G}^{∗} image de (\begin{matrix}1 \\ 1 \\ −2 \end{matrix}) par l’isomorphisme de G-modules qui envoie A ∈ 𝔤 sur tr(A .) ∈ 𝔤^{∗}. Le groupe MA qui est ici égal à G(λ), est l’image de GL(2, ℝ) par le plongement de groupes de Lie qui envoie x ∈ GL(2, ℝ) sur (\begin{matrix}x \\ (det x)^{−1} \end{matrix}) ∈ G.

Mais l’induite Ind_{M.A.N}^{G}(T_{μ̃,τ_{M}}^{M}⊗e^{i ν∘Log}⊗1l_{N}) n’est pas donnée par « nondegenerate data » au sens de [KZ 82, p. 473], car le groupe de Weyl d’une sous-algèbre de Cartan fondamentale de 𝔤𝔩(2, ℝ) se représente dans GL(2, ℝ).

Définition 7.5. On note T_{λ̃,𝔞^{∗}^{+},τ_{+}}^{G} = Ind_{M.A.N}^{G}(T_{μ̃,τ_{M}}^{M} ⊗ e^{i ν∘Log} ⊗ 1l_{N}), indépendamment du choix de N comme dans le lemme ci-dessus.

Ainsi lorsque M est connexe, X_{M}^{irr}(μ̃) a pour seul élément χM ; μ̃, et les classes des représentations T_{μ̃,χM ; μ̃}^{M} et T_{μ̃,{0},χM ; μ̃}^{M} sont toutes deux égales à T M_{0} ; μ̃.

8. Les représentations T_{λ̃,𝔞^{∗} ^{+},τ_{+}}^{G}

On va appliquer la construction du cas connexe à M′_{0} := G(ν_{+})_{0}. Un passage par l’homologie va permettre (grâce à un résultat de D. Vogan) de normaliser des opérateurs d’entrelacement de façon à prolonger T M′_{0} ; λ̃ en une représentation d’un certain groupe M′.

On note M′ = G(λ_{+})G(ν_{+})_{0} et 𝔪′ = 𝔤(ν_{+}) son algèbre de Lie (donc λ̃ ∈ 𝔪̃′^{∗}_{fond,M′} par 8.2 (a), 𝔪′(λ)(iρ_{F^{+}}) = 𝔥 et X_{M′}^{irr}(λ̃) = X_{M′}^{final,+}(λ̃, 𝔞^{∗})), R^{+}(𝔪′_{ℂ}, 𝔥_{ℂ}) = R(𝔪′_{ℂ}, 𝔥_{ℂ})∩R^{+}(𝔤_{ℂ}, 𝔥_{ℂ}) (notation de 1.3 (b) relative à 𝔪′ et (λ̃, 𝔞^{∗})), λ_{+,𝔪′} = λ_{𝔪′,λ̃,𝔞^{∗},1} l’élément μ_{+} + ν de 𝔥^{∗} où μ_{+} représente encore μ_{𝔤,λ̃,𝔞^{∗}^{+}} (donc B_{λ_{+,𝔪′}} est restriction de B_{λ_{+}} , M′(λ̃) = G(λ_{+}) et ρ𝔪′/𝔥 ; λ̃ = ρ_{λ_{+,𝔪′}}^{𝔪′/𝔥}),

𝔫_{M′} = ∑_{α∈R^{+}(𝔪′_{ℂ},𝔥_{ℂ})}𝔤_{ℂ}^{α} et 𝔟_{M′} = 𝔥_{ℂ} ⊕ 𝔫_{M′},

q′ = |\{α ∈ R^{+}(𝔪′_{ℂ}, 𝔥_{ℂ}) | α compacte\}| + \frac{1}{2} |\{α ∈ R^{+}(𝔪′_{ℂ}, 𝔥_{ℂ}) | α complexe\}|, M_{ν_{+}} l’intersection des noyaux des caractères réels positifs de C_{M′_{0}}(𝔞),

T M_{ν_{+}} ; μ̃ = T_{μ̃,χM ; μ̃}^{M_{ν_{+}}} (cf. 7.1 (b)) et T M′_{0} ; λ̃ = T_{λ̃,𝔞^{∗},χM′ ; λ̃}^{M′_{0}} où M_{ν_{+}}(μ̃) = exp 𝔱 et M′_{0}(λ̃) = exp 𝔥,

𝔲 =( ∑_{α∈R(𝔤_{ℂ},𝔥_{ℂ}) et ν_{+}(H_{α})>0}𝔤_{ℂ}^{α})∩𝔤 et U = exp 𝔲 (donc int M′.U ⊆U et M′∩U = {1}).

Proposition 8.1. On note H « l’espace » de T M′_{0} ; λ̃ et H^{∞} l’ensemble de ses vecteurs C^{∞}.

(a) Le sous-espace propre de H_{q′}(𝔫_{M′}, H^{∞})^{∗} de poids −(iλ + ρ_{𝔪′,𝔥}) sous l’action de 𝔥_{ℂ} issue de l’action de 𝔥_{ℂ} dans ⋀ 𝔫_{M′} ⊗_{ℂ} H^{∞}, est de dimension 1. On le note (H_{q′}( 𝔫_{M′}, H^{∞})^{∗})_{−(i λ+ρ_{𝔪′,𝔥})}.

(b) Il existe une unique représentation unitaire continue S de M′(λ̃)^{𝔪′/𝔥} dans H satisfaisant les conditions (i) et (ii) suivantes :

(i) S(x̂) T M′_{0} ; λ̃(y) S(x̂)^{−1} = T M′_{0} ; λ̃(xyx^{−1}) pour x̂ ∈ M′(λ̃)^{𝔪′/𝔥} au-

dessus de x ∈ M′(λ̃) et y ∈ M′_{0} ;

(ii) l’action de M′(λ̃)^{𝔪′/𝔥} dans (H_{q′}( 𝔫_{M′}, H^{∞})^{∗})_{−(i λ+ρ_{𝔪′,𝔥})} issue de

l’action de M′(λ̃)^{𝔪′/𝔥} dans ⋀ 𝔫_{M′} ⊗_{ℂ} H^{∞} déduite de S, est (ρ_{λ_{+,𝔪′}}^{𝔪′/𝔥})^{−1} id.

Démonstration de la proposition. (a) On suppose G connexe et utilise les notations de la section 7.

On fixe un sous-groupe compact maximal K de G dont l’involution de Cartan normalise 𝔥. Donc K_{M′_{0}} := K∩M′_{0} et K_{M_{ν_{+}}} := K∩M_{ν_{+}} sont des sous-groupes compacts maximaux de M′_{0} et M_{ν_{+}} . D’après la remarque 7.2, le (𝔪_{ℂ}, K_{M_{ν_{+}}})-

module associé à T M_{ν_{+}} ; μ̃ est isomorphe à R_{M_{ν_{+}}}^{q}((ρ_{μ_{+,𝔪}}^{𝔪/𝔱})^{−1}χM ; μ̃), où R_{M_{ν_{+}}}^{q} est le foncteur d’induction cohomologique relatif à 𝔟_{M}.

Compte tenu de la définition 4.2 (d), et du lemme 5.2 (b) avec ses notations, pour tout e ∈ C_{M}(𝔪)T_{0} on a

\frac{(ρ_{λ_{+,𝔪′}}^{𝔪′/𝔥}δ_{λ_{+,𝔪′}}^{𝔪′/𝔥})(e)}{(ρ_{μ_{+,𝔪}}^{𝔪/𝔱}δ_{μ_{+,𝔪}}^{𝔪/𝔱})(e)} = det(Ad e^{ℂ})_{𝔫_{M′}/𝔫_{M}} × \frac{((ρ_{λ_{+,𝔪′}}^{𝔪′/𝔥})^{−1}δ_{λ_{+,𝔪′}}^{𝔪′/𝔥})(e)}{((ρ_{μ_{+,𝔪}}^{𝔪/𝔱})^{−1}δ_{μ_{+,𝔪}}^{𝔪/𝔱})(e)} = u_{1} ⋯ u_{b}

où \{β_{1},−\overline{β_{1}}\}, …, \{β_{b},−\overline{β_{b}}\} sont les éléments de R̃_{ℂ}^{+}(𝔪′_{ℂ}, 𝔥_{ℂ}) et u_{1}, …, u_{b} sont les rapports des homothéties (Ad e^{ℂ})_{𝔤_{ℂ}^{β_{1}}}, …, (Ad e^{ℂ})_{𝔤_{ℂ}^{β_{b}}}.

On applique [KV 95, th. 11.225 p. 759 et cor. 8.28 p. 566] au groupe M′_{0} et à la sous-algèbre parabolique 𝔟_{M′} de 𝔪′_{ℂ}. Le (𝔪′_{ℂ}, K_{M′_{0}})-module H^{f} associé à T M′_{0} ; λ̃ est donc irréductible et isomorphe à R_{M′_{0}}^{q′}((ρ𝔪′/𝔥 ; λ̃)^{−1}χM′ ; λ̃), où R_{M′_{0}}^{q′} est le foncteur d’induction cohomologique relatif à 𝔟_{M′}. On obtient

dim Hom_{𝔥_{ℂ},T_{0}}(H_{q′}(𝔫_{M′}, H^{f}), ρ𝔪′/𝔥 ; λ̃χM′ ; λ̃) = 1

en prenant X = R_{M′_{0}}^{q′}(Z) avec Z = (ρ𝔪′/𝔥 ; λ̃)^{−1}χM′ ; λ̃ dans [KV 95, prop. 8.11 p. 555], et en tenant compte du lemme de Schur (cf. [Wal 88, lem. 3.3.2 p. 80]). Comme le morphisme canonique de (𝔥_{ℂ}, T_{0})-modules de H_{q′}( 𝔫_{M′}, H^{f}) dans H_{q′}( 𝔫_{M′}, H^{∞}) est bijectif d’après [Duf 82a, lem. 4 p. 165], cela donne le résultat.

(b) D’après 9.6 (a), on a int x · T M′_{0} ; λ̃ = T M′_{0} ; λ̃ pour tout x ∈ M′(λ̃). On reprend ensuite la démonstration de [Duf 82a, lem. 6 p. 169], quasiment mot à mot. (L’unicité de S provient bien sûr de 7.3 (b) et du lemme de Schur.)

Lemme 8.2. On conserve les notations de la proposition précédente.

(a) Il existe un unique τ_{M′} ∈ X_{M′}^{irr}(λ̃) tel que δ_{λ_{+,𝔪′}}^{𝔪′/𝔥}τ_{M′} = δ_{λ_{+}}^{𝔤/𝔥}τ_{+}. On note

τ_{M′} ⊗ ST M′_{0} ; λ̃ la représentation de M′ définie (clairement sans ambiguïté) par

(τ_{M′} ⊗ ST M′_{0} ; λ̃)(xy) = τ_{M′}(x̂) ⊗ S(x̂) T M′_{0} ; λ̃(y)

pour x̂ ∈ M′(λ̃)^{𝔪′/𝔥} au-dessus de x ∈ M′(λ̃) et y ∈ M′_{0}.

(b) Lorsque G est connexe, on a : T_{λ̃,𝔞^{∗}^{+},τ_{+}}^{G}= Ind_{M′.U}^{G}((τ_{M′} ⊗ S T M′_{0} ; λ̃) ⊗ 1l_{U}).

Démonstration du lemme. (a) D’après le lemme 5.2 (b), on a l’égalité

\frac{ρ_{λ_{+,𝔪′}}^{𝔪′/𝔥}}{|ρ_{λ_{+,𝔪′}}^{𝔪′/𝔥}|} (δ_{λ_{+,𝔪′}}^{𝔪′/𝔥})^{−1} = \frac{ρ_{λ_{+}}^{𝔤/𝔥}}{|ρ_{λ_{+}}^{𝔤/𝔥}|} (δ_{λ_{+}}^{𝔤/𝔥})^{−1}, où ρ_{λ_{+,𝔪′}}^{𝔪′/𝔥} et ρ_{λ_{+}}^{𝔤/𝔥} sont des morphismes de

groupes de Lie. Cela permet de définir τ_{M′}.

(b) On suppose G connexe et utilise les notations de la section 7. On a donc M′ = C_{M}(𝔪)M′_{0}, M′(λ̃) = C_{M}(𝔪) exp 𝔥 et δ_{λ_{+,𝔪′}}^{𝔪′/𝔥} est un caractère

unitaire de M′(λ̃)^{𝔪′/𝔥}.

On choisit une composante connexe 𝔞^{∗}_{0}^{+} de l’ensemble des éléments de 𝔞^{∗} qui ne s’annulent sur aucun H_{α} avec α ∈ R(𝔤_{ℂ}, 𝔥_{ℂ}) non imaginaire, dont l’adhérence contient ν_{+}. On pose

𝔫 = ( ∑_{α∈R(𝔤_{ℂ},𝔥_{ℂ}) et 𝔞^{∗}_{0}^{+}(H_{α}) ⊆ ℝ^{+}\{0}}𝔤_{ℂ}^{α} ) ∩ 𝔤, N = exp 𝔫 et N_{ν_{+}} = N ∩ M′_{0}.

Le groupe N (resp. N_{ν_{+}} ) est radical unipotent d’un sous-groupe parabolique de G (resp. M′_{0}) de composante déployée A. De plus, le produit de G se restreint en un difféomorphisme de N_{ν_{+}} × U sur N.

On note V et W « les espaces » de τ_{M′} et T M_{0} ; μ̃. L’espace de T M′_{0} ; λ̃ se réalise sous la forme H := Ind_{M_{0}.A.N_{ν_{+}}}^{M′_{0}}(W ⊗ e^{i ν∘Log} ⊗ 1l_{N_{ν_{+}}}). On identifie V ⊗_{ℂ} H à un ensemble de fonctions sur M′_{0} à valeurs dans V ⊗_{ℂ} W. L’application Φ ↦ Φ _{M′_{0}}

de l’espace de Ind_{C_{M} (𝔪).M_{0}.A.N_{ν_{+}}}^{C_{M} (𝔪) M′_{0}}(δ_{λ_{+,𝔪′}}^{𝔪′/𝔥}τ_{M′} ⊗ T M_{0} ; μ̃ ⊗ e^{i ν∘Log} ⊗ 1l_{N_{ν_{+}}}) dans V ⊗_{ℂ} H

muni de 1 ⊗ T M′_{0} ; λ̃ est un isomorphisme unitaire de M′_{0}-modules. L’action d’un x ∈ C_{M}(𝔪) sur V ⊗_{ℂ} H qui s’en déduit s’écrit τ_{M′}(x̂) ⊗ S_{0}(x̂), où x̂ ∈ M′(λ̃)^{𝔪′/𝔥} est au-dessus de x et S_{0}(x̂) · φ = δ_{λ_{+,𝔪′}}^{𝔪′/𝔥}(x̂) × φ(x^{−1}• x) pour φ ∈ H. On considère un sous-groupe fermé Γ de C_{M}(𝔪). On pose M_{Γ} = ΓM_{ν_{+}} et M′_{Γ} = ΓM′_{0}. On fixe une composante irréductible τ_{M′,Γ} (dans X_{M′_{Γ}}^{irr}(λ̃)) de la restriction de τ_{M′} à

M′_{Γ}(λ̃)^{𝔪′/𝔥}. On obtient comme ci-dessus un isomorphisme unitaire de M′_{0}-modules avec transport de l’action de Γ, en remplaçant C_{M}(𝔪) par Γ, τ_{M′} par τ_{M′,Γ} et V par l’espace V_{Γ} de τ_{M′,Γ}. On détermine un élément τ_{M,Γ} de X_{M_{Γ}}^{irr}(μ̃) par l’égalité δ_{μ_{+,𝔪}}^{𝔪/𝔱}τ_{M,Γ} = (δ_{λ_{+,𝔪′}}^{𝔪′/𝔥}τ_{M′,Γ}) _{ΓT_{0}} .

On va voir que S_{0} = S. L’égalité annoncée deviendra une conséquence du théorème d’induction par étages et du fait que Ind_{H_{1}}^{G_{1}}(π ∘ p _{H_{1}}) ≃ (Ind_{H_{2}}^{G_{2}} π) ∘ p quand p : G_{1} → G_{2} est un morphisme de groupes de Lie réels surjectif, H_{1} est l’image réciproque par p d’un sous-groupe fermé H_{2} de G_{2}, et π est une représentation unitaire continue de H_{2}.

On reprend les arguments et notations de la démonstration de 8.1 (a). Les groupes K_{M′_{Γ}} := K ∩ M′_{Γ} et K_{M_{Γ}} := K ∩ M_{Γ} sont des sous-groupes compacts maximaux de M′_{Γ} et M_{Γ}. On constate que le (𝔪_{ℂ}, K_{M_{Γ}})-module associé à la représentation Ind_{Γ.M_{0}}^{M_{Γ}}(δ_{μ_{+,𝔪}}^{𝔪/𝔱}τ_{M,Γ} ⊗ T M_{0} ; μ̃) du groupe M_{Γ} est isomorphe à R_{M_{Γ}}^{q}((ρ_{μ_{+,𝔪}}^{𝔪/𝔱})^{−1}τ_{M,Γ}), où R_{M_{Γ}}^{q} est le foncteur d’induction cohomologique relatif à 𝔟_{M}. Ensuite, à l’aide du théorème d’induction par étages on voit que le (𝔪′_{ℂ}, K_{M′_{Γ}})- module associé à Ind_{Γ.M_{0}.A.N_{ν_{+}}}^{M′_{Γ}}(δ_{λ_{+,𝔪′}}^{𝔪′/𝔥}τ_{M′} ⊗ T M_{0} ; μ̃ ⊗ e^{i ν∘Log} ⊗ 1l_{N_{ν_{+}}}) est isomorphe à

R_{M′_{Γ}}^{q′}((ρ𝔪′/𝔥 ; λ̃)^{−1}τ_{M′,Γ}), où R_{M′_{Γ}}^{q′} est le foncteur d’induction cohomologique relatif à 𝔟_{M′}. Enfin, on trouve que

dim Hom_{𝔥_{ℂ},ΓT_{0}} (V_{Γ} ⊗_{ℂ} H_{q′}(𝔫_{M′}, H^{f}), ρ𝔪′/𝔥 ; λ̃τ_{M′,Γ}) = 1,

où chaque y ∈ Γ projection d’un ŷ ∈ M′(λ̃)^{𝔪′/𝔥} opère sur V_{Γ} ⊗_{ℂ}H_{q′}(𝔫_{M′}, H^{f}) par le produit tensoriel de τ_{M′,Γ}(ŷ) et de l’endomorphisme déduit de S_{0}(ŷ).

On se donne x̂ ∈ M′(λ̃)^{𝔪′/𝔥} au-dessus d’un x ∈ C_{M}(𝔪). On choisit pour Γ le sous-groupe fermé de C_{M}(𝔪) engendré par x. Donc dim V_{Γ} = 1 et le calcul qui précède prouve que l’action de x̂ sur (H_{q′}( 𝔫_{M′}, H^{∞})^{∗})_{−(i λ+ρ_{𝔪′,𝔥})} issue de S_{0}(x̂) est bien l’homothétie de rapport ρ𝔪′/𝔥 ; λ̃(x̂)^{−1}.

Définition 8.3. On garde les notations de la proposition 8.1 et du lemme 8.2.

On note T_{λ̃,𝔞^{∗}^{+},τ_{+}}^{G} = Ind_{M′. U}^{G}((τ_{M′} ⊗ S T M′_{0} ; λ̃) ⊗ 1l_{U}).

Pour simplifier la notation T_{λ̃,𝔞^{∗}^{+},τ_{+}}^{G}, j’enlèverai 𝔞^{∗}^{+} quand 𝔞^{∗}^{+} = 𝔞^{∗} (com-

patible à 9.2) et τ_{+} quand X_{G}^{irr,+}(λ̃, 𝔞^{∗}^{+}) est un singleton, et je remplacerai λ̃ par λ quand λ̃ = (λ, 𝔥_{(ℝ)}^{∗}) (conventions appliquées pour T M_{0} ; μ̃, T_{μ̃,σ}^{M}, T M_{ν_{+}} ; μ̃ et T M′_{0} ; λ̃).

Proposition 8.4. (a) Pour chaque l ∈ 𝔤_{ℂ}^{∗} semi-simple, on note χ_{l}^{U𝔤_{ℂ}} le caractère χ_{l} de Z(U𝔤_{ℂ}) canoniquement associé à l’orbite de l sous l’action de int 𝔤_{ℂ} (cf. [KV 95, (4.114) p. 297]). Le centralisateur (U𝔤_{ℂ})^{G} de G dans U𝔤_{ℂ} opère dans l’espace des vecteurs C^{∞} de T_{λ̃,𝔞^{∗}^{+},τ_{+}}^{G} par restriction du caractère χ_{iλ}^{U𝔤_{ℂ}} de Z(U𝔤_{ℂ}).

(b) Le morphisme de groupes z ↦ (z, 1) de Z(G) dans G(λ_{+})^{𝔤/𝔥} est injectif. Le caractère central de T_{λ̃,𝔞^{∗}^{+},τ_{+}}^{G} est « restriction » de celui de τ_{+}.

Démonstration de la proposition. (a) Le corollaire 5.25 (b) de [KV 95, p. 344] permet de calculer le caractère infinitésimal de τ_{M′} ⊗ S T M′_{0} ; λ̃ (égal à

celui de T M′_{0} ; λ̃). Pour passer ensuite à G, la démonstration de [KV 95, prop. 11.43 p. 665] s’adapte immédiatement.

(b) Soit z ∈ Z(G). L’égalité S(z, 1) = id permet d’obtenir le résultat.

9. L’injection G · (λ̃, τ) ↦ T_{λ̃,τ}^{G} de G \ X_{G}^{Ind} dans Ĝ

Le théorème 9.6 va généraliser l’essentiel de celui écrit par M. Duflo dans [Duf 82a, lem. 8 p. 173]. Ma démonstration est similaire à la sienne, mis à part un résultat inattendu: le lemme 9.3 (b). Je rappelle qu’une classe d’équivalence de représentation unitaire irréductible traçable d’un groupe de Lie réel est déterminée par son caractère (cf. [Cow 88, p. 64]).

Soit τ la représentation induite à partir de τ_{+} de la définition 5.5 (c).

Lemme 9.1. Les paramètres λ̃ et τ déterminent T_{λ̃,𝔞^{∗}^{+},τ_{+}}^{G}.

Démonstration du lemme. Ce résultat découlera du théorème 10.2, en y enlevant dans un premier temps toute référence à T_{λ̃,τ}^{G} (pour la cohérence du raisonnement).

Définition 9.2. (a) On note T_{λ̃,τ}^{G} = T_{λ̃,𝔞^{∗}^{+},τ_{+}}^{G}. Dans la notation T_{λ̃,τ}^{G}, j’enlèverai

τ quand X_{G}^{Ind}(λ̃) est un singleton, et je remplacerai λ̃ par λ quand λ̃ = (λ, 𝔥_{(ℝ)}^{∗}).

(b) Soit a un automorphisme du groupe de Lie G. Il induit des isomorphismes canoniques encore notés a, d’espaces vectoriels de 𝔤/𝔤(λ)(iρ_{F^{+}}) sur 𝔤/𝔤(aλ)(iρ_{aF^{+}}), d’algèbres de Lie de 𝔰𝔩(𝔤/𝔤(λ)(iρ_{F^{+}})) sur 𝔰𝔩(𝔤/𝔤(aλ)(iρ_{aF^{+}})) par conjugaison, de groupes de Lie de DL(𝔤/𝔤(λ)(iρ_{F^{+}})) sur DL(𝔤/𝔤(aλ)(iρ_{aF^{+}})) par intégration, et enfin de groupes de Lie de G(λ̃)^{𝔤/𝔤(λ)(iρ_{F^{+}})} sur G(aλ̃)^{𝔤/𝔤(aλ)(iρ_{aF^{+}})}.

Lemme 9.3. Soit τ_{0} ∈ (G_{0}(λ_{+})^{𝔤/𝔥}) qui intervient dans τ_{+} _{G_{0}(λ_{+})^{𝔤/𝔥}}.

(a) On a : τ_{0} ∈ X_{G_{0}}^{final,+}(λ̃, 𝔞^{∗}^{+}) et G_{0}(λ_{+}) = C_{G_{0}}(𝔥).

(b) On pose : τ̇_{0} = \frac{ρ_{λ̃,𝔞^{∗}^{+}}^{𝔤/𝔥}}{|ρ_{λ̃,𝔞^{∗}^{+}}^{𝔤/𝔥}|} τ_{0} (cf. 5.5 (a)). L’action du groupe G_{0}(λ̃) sur

la classe de représentation τ̇_{0} est triviale. Démonstration du lemme. (a) La définition 5.5 (b) assure que τ_{0} est final. L’égalité G_{0}(λ_{+}) = C_{G_{0}}(𝔥) découle du lemme 1.4.

(b) On prouve que tr τ̇_{0}(xγx^{−1}) = tr τ̇_{0}(γ) pour x ∈ G_{0}(λ̃) et γ ∈ G_{0}(λ_{+}). Soit G_{1} le sous-groupe de G_{0} formé des éléments qui fixent μ et iρ_{F^{+}} .

On note 𝔤_{1} son algèbre de Lie. Comme les formes linéaires μ et iρ_{F^{+}} sont infinitésimalement elliptiques, 𝔤_{1} est réductive, 𝔥 ∈ Car 𝔤_{1}, et G_{1} est connexe. Le système de racines R(𝔤_{1}_{ℂ}, 𝔥_{ℂ}) n’a pas de racine imaginaire. On note W (𝔤_{1}(ν), 𝔞) le groupe de Weyl du système de racines formé des racines restreintes de (𝔤_{1}(ν), 𝔞). D’après [Kna 86, th. 5.17 p. 125, (5.5) p. 126 et lemma 5.16 p. 124] appliqué à G_{1} d’une part, et [Kna 86, prop. 4.12 p. 81] d’autre part, l’application canonique de G_{0}(λ̃)/G_{0}(λ_{+}) dans W (𝔤_{1}(ν), 𝔞) est bijective. On se donne β ∈ R(𝔤_{1}(ν)_{ℂ}, 𝔥_{ℂ}), X ∈ 𝔤_{1}(ν)^{β ^{𝔞}} et Y ∈ 𝔤_{1}(ν)^{−β _{𝔞}} tels que [X, Y] est la racine duale de β _{𝔞} dans 𝔞. On pose g = exp(\frac{π}{2}(X − Y)). Donc g ∈ G_{0}(λ̃) se projette dans W (𝔤_{1}(ν), 𝔞) sur la réflexion s_{(β _{𝔞})} au vu de la démonstration de [Kna 86, prop. 5.15 (c) p. 123]. On se contente maintenant de montrer l’égalité tr τ̇_{0}(gγg^{−1}) = tr τ̇_{0}(γ) pour γ ∈ G_{0}(λ_{+}).

Un calcul dans SL(2, ℂ) montre que pour toute α ∈ R(𝔤_{ℂ}, 𝔥_{ℂ}) réelle, on a Ad γ_{α} = exp(iπ ad H_{α}) et Ad γ_{α}^{2} = id dans GL(𝔤) ⊆ GL(𝔤_{ℂ}). Donc γ_{α}^{2} ∈ Z(G_{0}). D’après [Kna 86, lemma 12.30 (c) p. 469] et (a), tout élément γ de G_{0}(λ_{+}) s’écrit γ = h z γ_{α_{1}}… γ_{α_{k}} avec h ∈ exp 𝔥, z ∈ Z(G_{0}) et α_{1}, …, α_{k} ∈ R(𝔤_{ℂ}, 𝔥_{ℂ}) réelles.

Compte tenu de la proposition 4.3 (b), la différentielle en 1 de \frac{ρ_{λ̃,𝔞^{∗}^{+}}^{𝔤/𝔥}}{|ρ_{λ̃,𝔞^{∗}^{+}}^{𝔤/𝔥}|} est la demi-

somme des α ∈ R(𝔤(ν)_{ℂ}, 𝔥_{ℂ}) tels que: iμ(H_{α}) > 0 ou, iμ(H_{α}) = 0 et ρ_{F^{+}}(H_{α}) > 0. Donc G_{0}(λ̃) laisse invariants les caractères unitaires par lesquels exp 𝔥 et Z(G_{0}) agissent dans l’espace de τ̇_{0}. Dans la suite de cette démonstration, on prendra pour cette raison γ de la forme γ = γ_{α_{1}} ⋯ γ_{α_{k}} avec α_{1}, …, α_{k} ∈ R(𝔤_{ℂ}, 𝔥_{ℂ}) réelles.

Pour toute α ∈ R(𝔤_{ℂ}, 𝔥_{ℂ}) réelle, γ_{α}gγ_{α}^{−1} (resp. γ_{α}g^{−1}γ_{α}^{−1}) est égal à g (resp. g^{−1}) si β(H_{α}) est pair et à g^{−1} (resp. g) sinon. Par conséquent, on a :

g(γg^{−1}γ^{−1}) = \{ \begin{matrix}1 & si β(H_{α_{1}} + ⋯ + H_{α_{k}}) est pair \\ g^{2} & sinon. \end{matrix}

On se place tout d’abord dans le cas où β est réelle et gγg^{−1}γ^{−1} ≠ 1. On rend les choix de g et de γ_{β} compatibles en imposant X = X_{β} et Y = X_{−β} (cf. 5.5 (a)). On note ζ le rapport de l’homothétie τ̇_{0}(γ_{β}^{2}). On a γ_{β} = g^{2} puis γ_{β}γγ_{β}^{−1} = γ_{β}^{2}γ et γ_{β}(gγg^{−1})γ_{β}^{−1} = γ_{β}^{2}(gγg^{−1}). Donc tr τ̇_{0}(γ) = 0 = tr τ̇_{0}(gγg^{−1}) quand ζ ≠ 1. On va raisonner autrement quand ζ = 1. L’élément γ_{β} + γ_{β}^{−1} de l’algèbre du groupe G_{0}(λ_{+}) est central. Donc τ̇_{0}(γ_{β}) est égal à l’homothétie (τ̇_{0}(γ_{β}) + τ̇_{0}(γ_{β}^{−1}))(τ̇_{0}(γ_{β}^{2})^{−1} + id)^{−1} lorsque ζ ≠ −1. En particulier, comme τ_{0} est final, on a τ̇_{0}(gγg^{−1})τ̇_{0}(γ)^{−1} = τ̇_{0}(γ_{β}) avec (δ_{λ_{+}}^{𝔤/𝔥}τ_{0})(γ_{β}) = (−1)^{n_{β}+1} id quand ζ = 1. On note F le sous-groupe de G engendré par les γ_{α} avec α ∈ R(𝔤_{ℂ}, 𝔥_{ℂ}) réelle. D’après [DV 88, (42) p. 335], à corriger, il existe un caractère unitaire de F qui envoie γ_{α} sur (−1)^{n_{α}+1} pour toute α ∈ R(𝔤_{ℂ}, 𝔥_{ℂ}) réelle. Par ailleurs, la

restriction de \frac{ρ_{λ̃,𝔞^{∗}^{+}}^{𝔤/𝔥}}{|ρ_{λ̃,𝔞^{∗}^{+}}^{𝔤/𝔥}|}(δ_{λ_{+}}^{𝔤/𝔥})^{−1} à G_{0}(λ_{+}) est invariante sous G(λ̃) d’après 5.4 (a).

Ainsi, il existe un caractère unitaire G(λ̃)-invariant χ de F, tel que quand ζ = 1 on ait : τ̇_{0}(γ_{β}) = χ(γ_{β}) id puis τ̇_{0}(γ_{β}) = χ(gγg^{−1}) χ(γ)^{−1} id = id.

On suppose pour finir que β n’est pas réelle et que gγg^{−1}γ^{−1} ≠ 1. On note R_{β} le système de racines (ℝβ ⊕ ℝ\overline{β}) ∩ R(𝔤_{1}(ν)_{ℂ}, 𝔥_{ℂ}) sans racine imaginaire et avec des racines non réelles. En examinant le diagramme de Satake de la sous-algèbre de Lie semi-simple de 𝔤_{1}(ν) de complexifiée (ℂH_{β} ⊕ℂH\overline{β})⊕ ∑_{α∈R_{β}} 𝔤_{ℂ}^{α}, on constate qu’il

existe un morphisme d’algèbres de Lie injectif η : 𝔤_{0} → 𝔤_{1}(ν), avec 𝔤_{0} = 𝔰𝔩(2, ℂ) _{ℝ} ou 𝔤_{0} = 𝔰𝔲(1, 2), qui envoie pour tout (x, y) ∈ ℝ^{2} et selon la valeur de 𝔤_{0}, la

matrice ( \begin{matrix}x+iy & 0 \\ 0 & −(x+iy) \end{matrix} ) ou la matrice ( \begin{matrix}iy & x & 0 \\ x & iy & 0 \\ 0 & 0 & −2iy \end{matrix} ) sur x (H_{β} +H\overline{β}) + iy (H_{β} −H\overline{β}).

On choisit X et Y dans (𝔤_{ℂ}^{β} ⊕ 𝔤\overline{β} ; ℂ) ∩ 𝔤 et (𝔤_{ℂ}^{−β} ⊕ 𝔤_{ℂ}^{−\overline{β}}) ∩ 𝔤 égaux, selon 𝔤_{0}, à :

X = η(( \begin{matrix}0 & 1 \\ 0 & 0 \end{matrix} )) et Y = η(( \begin{matrix}0 & 0 \\ 1 & 0 \end{matrix} )), ou, X = η(( \begin{matrix}0 & 0 & 1 \\ 0 & 0 & 1 \\ 1 & −1 & 0 \end{matrix} )) et Y = η(( \begin{matrix}0 & 0 & 1 \\ 0 & 0 & −1 \\ 1 & 1 & 0 \end{matrix} )).

Un calcul dans l’un des groupes simplements connexes SU(2) ou {1} × SU(2) montre ensuite que g^{2} appartient à exp(𝔥 ∩ D(𝔤_{1}(ν))). La définition de 𝔤_{1} assure que W (𝔤_{1}(ν)_{ℂ}, 𝔥_{ℂ}) fixe d_{1}τ̇_{0}. Donc τ̇_{0} est trivial sur exp(𝔥 ∩ D(𝔤_{1}(ν))). Ainsi, on obtient : τ̇_{0}(gγg^{−1}γ^{−1}) = τ̇_{0}(g^{2}) = id.

Dans la proposition qui suit, j’énonce les résultats de la théorie du petit groupe de Mackey qui me seront utiles dans la démonstration du prochain théorème. Je ne rappellerai pas les notions de « groupe de type I » et « intégrale hilbertienne » (voir [Dix 69]). On se donne pour cette proposition un groupe localement compact à base dénombrable A, et un sous-groupe fermé distingué B de A qui est de type I. Le groupe A agit canoniquement sur B̂.

Voici quelques précisions concernant le vocabulaire. On appellera cocycle mesurable unitaire de A une application mesurable c de A × A dans l’ensemble des nombres complexes de module 1 qui vérifie c(1, 1) = 1 et c(xy, z) c(x, y) = c(x, yz) c(y, z) pour x, y, z ∈ A. Dans ce cas, étant donné un espace de Hilbert complexe séparable V , on appellera c-représentation projective de A dans V une application π̃ de A dans le groupe unitaire de V , pour laquelle chacune des fonctions x ∈ A ↦ ⟨π̃(x) · v, w⟩ ∈ ℂ avec v, w ∈ V est mesurable, et telle que π̃(1) = id et π̃(xy) = c(x, y) × π̃(x) π̃(y) pour x, y ∈ A.

Proposition 9.4. (Mackey) (a) Soit π ∈ B̂. On note A_{π} le stabilisateur de π dans A et pr la projection canonique de A_{π} sur A_{π}/B. Le groupe A_{π} est fermé dans A. Il existe un cocycle mesurable unitaire c de A_{π}/B et une classe d’isomorphisme π̃ de c ∘(pr × pr)-représentation projective de A_{π} qui prolonge π dans le même espace de Hilbert. Par ailleurs, il existe une mesure σ-finie non nulle m sur B̂, unique à équivalence près, telle que l’orbite de π sous A dans B̂ a un complémentaire m-négligeable et a · m est équivalente à m pour tout a ∈ A.

(b) On conserve les notations du (a). L’application η̃ ↦ Ind_{A_{π}}^{A}(η̃∘ pr ⊗π̃) de l’ensemble des classes d’isomorphisme des c^{−1}-représentations projectives irréductibles de A_{π}/B, dans l’ensemble des classes d’isomorphisme des représentations unitaires de A, est injective. Son image est formée des éléments de Â dont la restriction à B est multiple de ∫B̂ ρ dm(ρ).

(c) Quand l’espace mesurable quotient A\B̂ est dénombrablement séparé (c’est-à-dire qu’on peut trouver une suite (E_{n})_{n∈ℕ} de parties mesurables de E = A\B̂ telle que pour x ≠ y dans E, il existe m ∈ ℕ vérifiant x ∈ E_{m} et y ∉ E_{m}), tout élément de Â s’obtient comme au (b) pour une unique orbite de A dans B̂. Démonstration de la proposition. (a) L’hypothèse « metrically smooth of type I » de Mackey va se traduire par « de type I » d’après [Dix 64, prop. 4.6.1 p. 95 et th. 9.1 p. 168]. Le groupe A_{π} est fermé dans A et m existe d’après [Mac 58, th. 7.5 p. 295]. L’existence de c et de π̃ est donnée par [Mac 58, th. 8.2 p. 298].

(b) Ce résultat est cité dans [Mac 58, th. 8.1 p. 297 et 8.3 p. 300]. Il se réfère à la classe de représentation de B associée à m, construite à la fin de sa section 7 p. 296, qui renvoie aux lignes 4 à 6 p. 273.

(c) Résulte de [Mac 58, th. 9.1 p. 302] et de la fin de sa section 7 p. 296.

Les représentations classifiées un peu plus loin sont les représentations unitaires irréductibles « tempérées » de G. Cette notion mérite une définition.

Définition 9.5. (a) Soit π_{0} ∈ Ĝ_{0}. On dit que π_{0} est tempérée si elle est équivalente à une sous-représentation d’une représentation IndG_{0} ; P̃(σ̃ ⊗ η̃ ⊗ 1lÑ), où P̃ est un sous-groupe parabolique de G_{0} de décomposition de Langlands P̃ = M̃ÃÑ, σ̃ est une représentation de la série discrète de M̃, et η̃ est un caractère unitaire de Ã. On peut montrer comme dans [Kna 86, th. 8.53 p. 260 et th. 12.23 p. 456] que cela équivaut à la condition suivante : |D_{G_{0}}|^{1/2} tr π_{0} est bornée sur G_{0}_{ss reg} .

(b) Soit π ∈ Ĝ. D’après 9.4 fin (b) et (c), il existe n ∈ ℕ et π_{1}, …, π_{n} ∈ Ĝ_{0} tels que π _{G_{0}} = ⊕_{1≤k≤n} π_{k}. On dit que π est tempérée si π_{1}, …, π_{n} sont tempérées.

Théorème 9.6. (a) On a : a · T_{λ̃,τ}^{G} = T_{a·λ̃,a·τ}^{G} pour tout automorphisme a du groupe de Lie G.

(b) L’ensemble G \ X_{G}^{Ind} (resp. G \ X_{G}^{final,+}) s’injecte dans Ĝ par l’application qui envoie l’orbite de (λ̃′, τ′) (resp. (λ̃′, 𝔞′^{∗}^{+}, τ′_{+})) sur T_{λ̃′,τ′}^{G} (resp. T_{λ̃′,𝔞′^{∗}^{+},τ′_{+}}^{G}).

Son image est formée des classes de représentation dans Ĝ qui sont tempérées. (D’après le lemme 6.1, les λ̃′ ∈ 𝔤̃^{∗}_{reg} qui interviennent ici appartiennent à 𝔤̃^{∗}_{reg,G}).

Démonstration du théorème. On va utiliser les notations du début de la partie III. et des sections 7. et 8.

(a) Au vu d’une propriété de l’induction citée dans la démonstration du lemme 8.2 (b), on est ramené à prouver que a · T M_{0} ; μ̃ = T_{a·μ̃}^{a·M_{0}} quand G est connexe. Cette égalité provient des formules pour les caractères de a·T M_{0} ; μ̃ et T_{a·μ̃}^{a·M_{0}} obtenues (sans le th. 9.6) dans la dernière partie de la démonstration du théorème 10.2.

(b) On suppose dans un premier temps que G est connexe. Tout d’abord, les représentations limites de la série discrète de G sont tempérées d’après [Wal 88, th. 6.8.1 p. 202, prop. p. 142, prop. p. 139] (voir aussi [Kna 86, corollary 12.27 p. 461] pour une étude de la propriété du caractère donnée dans la définition 9.5 (a)). On en déduit que la classe de représentation T_{λ̃,𝔞^{∗}^{+},τ_{+}}^{G} de la définition 7.5 est tempérée en adaptant la preuve de l’implication (3)⇒(1) de [BW 80, proposition 3.7 p. 124], et appliquant l’implication (1)⇒(3) de cette même proposition. On se donne une représentation unitaire irréductible tempérée de G dans un espace de Hilbert V. Soit K un sous-groupe compact maximal de G. D’après le théorème 11.14 (b) de [ABV 92, p. 131] avec z = 1, il existe un « caractère limite final Λ_{V} » tel que le (𝔤_{ℂ}, K)-module sous-jacent à V est isomorphe à celui de la représentation π(Λ_{V}) qui est définie dans [ABV 92, p. 122] modulo [KV 95, 5) p. 742]. J’utilise le dictionnaire proposé dans la démonstration du lemme 7.3 (b). L’égalité (11.196) de [KV 95, p. 740] fait apparaître la représentation π(Λ_{V}) comme quotient d’une représentation Ind_{M̃.Ã.Ñ}^{G}(T M̃ ; λ̃′,𝔞′^{∗}^{+},τ′_{+}⊗ η̃ ⊗ 1lÑ) induite à partir d’un sous-groupe

parabolique M̃ÃÑ de G, pour un (λ̃′, 𝔞′^{∗}^{+}, τ′_{+}) ∈ Xfinal,+ ; M̃ et un caractère η̃ de Ã réel. On a donc M̃ÃÑ = G d’après [BW 80, lemma 4.9 p. 130] et [KV 95, (11.197) p. 741], et le groupe G agit dans V par une représentation de classe T_{λ̃′,𝔞′^{∗}^{+},τ′_{+}}^{G}.

On se place dans le cas où (λ̃′, 𝔞′^{∗}^{+}, τ′_{+}) vérifie T_{λ̃′,𝔞′^{∗}^{+},τ′_{+}}^{G}= T_{λ̃,𝔞^{∗}^{+},τ_{+}}^{G}. On introduit

les triplets (Λ^{can}, R_{i ℝ}^{+}, R_{ℝ}^{+}) et (Λ′^{can}, R′_{i ℝ}^{+}, R′_{ℝ}^{+}) attachés à τ_{+} et τ′_{+} comme dans la démonstration de 7.3 (b), et pose 𝔥′ = 𝔤(λ̃′). Les différentielles des caractères centraux de Λ^{can} et Λ′^{can} sont égales à iλ _{𝔥} et à iλ′ _{𝔥′}. D’après [ABV 92, th. 11.14 (c) p. 131 et def. 11.6 p. 124], il existe g ∈ G tel que, en notant ζ l’application qui envoie x ∈ G(λ_{+}) sur le déterminant de la restriction de Ad x^{ℂ} à la somme des 𝔤_{ℂ}^{α} avec α ∈ R_{ℝ}^{+} et gα ∉ R′_{ℝ}^{+}, on ait : λ̃′ = gλ̃ et Λ′^{can} = g · (Λ^{can} ⊗ \frac{ζ}{|ζ|}). Grâce au lemme 5.4 (a) et à un calcul fait dans la démonstration de 7.3 (b), on

obtient: \frac{ρ_{λ̃,𝔞′^{∗}^{+}}^{𝔤/𝔥′}}{|ρ_{λ̃,𝔞′^{∗}^{+}}^{𝔤/𝔥′}|} τ′_{+} = g·(\frac{ρ_{λ̃,𝔞^{∗}^{+}}^{𝔤/𝔥}}{|ρ_{λ̃,𝔞^{∗}^{+}}^{𝔤/𝔥}|} τ_{+}). Comme les chambres de (𝔤(λ)(iρ_{F^{+}}), 𝔞) sont

conjuguées sous N_{G(λ)(iρ_{F^{+}})_{0}}(𝔞), il existe u ∈ G(λ̃) tel que (λ̃′, 𝔞′^{∗}^{+}) = gu·(λ̃, 𝔞^{∗}^{+}). A fortiori, on a τ′_{+} = gu · τ_{+} d’après le lemme 9.3 (b).

On ne suppose plus G connexe. Il s’agit d’adapter la démonstration de M. Duflo dans [Duf 82a, p. 176 à p. 179]. On remarque que les sous-groupes fermés distingués B_{1} = G_{0}(λ_{+})^{𝔤/𝔥} et B_{2} = G_{0}, respectivement de A_{1} = G(λ_{+})^{𝔤/𝔥} et A_{2} = G, sont de type I d’après [Dix 69, prop. 2.1 p. 425]. En particulier, les espaces mesurables B̂_{1} et B̂_{2} sont standards d’après [Dix 64, prop. 4.6.1 p. 95 et th. 9.1 p. 168]. Leurs quotients sous les actions à gauche des groupes finis respectivement égaux à A_{1}/B_{1} et A_{2}/B_{2} sont donc dénombrablement séparés.

On va introduire plus bas un certain τ_{0} ∈ (G_{0}(λ_{+})^{𝔤/𝔥}) . On notera G(λ_{+})_{τ_{0}}^{𝔤/𝔥} le stabilisateur de τ_{0} dans G(λ_{+})^{𝔤/𝔥}, G(λ_{+})_{τ_{0}} l’image de G(λ_{+})_{τ_{0}}^{𝔤/𝔥} dans G(λ_{+}) et M′(λ̃)_{τ_{0}}^{𝔪′/𝔥} l’image réciproque de G(λ_{+})_{τ_{0}} dans M′(λ̃)^{𝔪′/𝔥}. On désignera par la même notation pr les projections canoniques de G(λ_{+})_{τ_{0}}^{𝔤/𝔥}, G(λ_{+})_{τ_{0}}G_{0} et M′(λ̃)_{τ_{0}}^{𝔪′/𝔥} sur G(λ_{+})_{τ_{0}}/G_{0}(λ_{+}). D’après la proposition 9.4 (a) et (c), il existe une sousreprésentation irréductible τ_{0} de τ_{+} _{G_{0}(λ_{+})^{𝔤/𝔥}}, un cocycle mesurable unitaire c de G(λ_{+})_{τ_{0}}/G_{0}(λ_{+}), une classe d’isomorphisme τ̃_{0} de c ∘(pr × pr)-représentation projective de G(λ_{+})_{τ_{0}}^{𝔤/𝔥} qui prolonge τ_{0} dans son espace, et une classe d’isomorphisme η̃ de c^{−1}-représentation projective irréductible de G(λ_{+})_{τ_{0}}/G_{0}(λ_{+}), tels que :

τ_{+} = Ind_{G(λ_{+})_{τ_{0}}^{𝔤/𝔥}}^{G(λ_{+})^{𝔤/𝔥}} (η̃ ∘ pr ⊗τ̃_{0}).

On construit maintenant trois isomorphismes de représentations unitaires. Le premier, relatif au groupe M′(λ̃)^{𝔪′/𝔥}, va de l’espace de Ind_{G(λ_{+})_{τ_{0}}^{𝔤/𝔥}}^{G(λ_{+})^{𝔤/𝔥}} (η̃ ∘ pr ⊗τ̃_{0})

muni de τ_{M′} sur celui de Ind_{M′(λ̃)_{τ_{0}}^{𝔪′/𝔥}}^{M′(λ̃)^{𝔪′/𝔥}} (η̃∘ pr ⊗(τ̃_{0})_{M′}), où (τ̃_{0})_{M′} est la c ∘(pr × pr)-

représentation projective de M′(λ̃)_{τ_{0}}^{𝔪′/𝔥} telle que δ_{λ_{+,𝔪′}}^{𝔪′/𝔥}(τ̃_{0})_{M′} = δ_{λ_{+}}^{𝔤/𝔥}τ̃_{0} sur G(λ_{+})_{τ_{0}} .

Il s’écrit φ↦φ_{M′} avec (δ_{λ_{+,𝔪′}}^{𝔪′/𝔥})^{−1}φ_{M′} =(δ_{λ_{+}}^{𝔤/𝔥})^{−1}φ (cf. la démonstration de 8.2 (a)).

Le second, relatif à M′, va de l’espace de (Ind_{M′(λ̃)_{τ_{0}}^{𝔪′/𝔥}}^{M′(λ̃)^{𝔪′/𝔥}} (η̃ ∘ pr ⊗(τ̃_{0})_{M′})) ⊗ ST M′_{0} ; λ̃

muni par transport de T_{λ̃,τ_{M′}}^{M′} sur celui de Ind_{G(λ_{+})_{τ_{0}}M′_{0}}^{M′}((η̃∘ pr ⊗(τ̃_{0})_{M′}) ⊗ ST M′_{0} ; λ̃) où la représentation de G(λ_{+})_{τ_{0}}M′_{0} à laquelle il est fait allusion est construite comme T_{λ̃,τ_{M′}}^{M′} dans 8.2 (a). Il envoie un élément de la forme φ⊗v sur l’élément ψ vérifiant

ψ(xy) = φ(x̂) ⊗ T M′_{0} ; λ̃(y)^{−1}S(x̂)^{−1}· v

pour x̂∈M′(λ̃)^{𝔪′/𝔥} au-dessus de x ∈ G(λ_{+}) et y ∈ M′_{0}.

On note (M′_{G_{0}}, (τ_{0})_{M′}) le « couple (M′, τ_{M′}) » obtenu à partir de (G_{0}, λ̃, 𝔞^{∗}^{+}, τ_{0}) au lieu de (G, λ̃, 𝔞^{∗}^{+}, τ_{+}). Il existe une unique c ∘(pr × pr)-représentation projective T̃_{0} de G(λ_{+})_{τ_{0}}G_{0} qui prolonge T_{λ̃,𝔞^{∗}^{+},τ_{0}}^{G_{0}} de façon que son action sur un élément ϕ

de l’espace de Ind_{M′_{G_{0}}.U}^{G_{0}}(((τ_{0})_{M′} ⊗ ST M′_{0} ; λ̃) ⊗ 1l_{U}) vérifie

(T̃_{0}(xg)·ϕ)(h) = |det(Ad x)_{𝔲}|^{1/2} × ((τ̃_{0})_{M′}(x̂) ⊗ S(x̂)) · ϕ(g^{−1}x^{−1}hx)

pour x̂ ∈ M′(λ̃)_{τ_{0}}^{𝔪′/𝔥} au-dessus de x ∈ G(λ_{+})_{τ_{0}} et g, h ∈ G_{0}. Le troisième isomorphisme, relatif à G(λ_{+})_{τ_{0}}G_{0}, est fourni par l’application de

restriction à G_{0}, de l’espace de Ind_{(G(λ_{+})_{τ_{0}}M′_{0}).U}^{G(λ_{+})_{τ_{0}}G_{0}}(((η̃ ∘ pr ⊗(τ̃_{0})_{M′}) ⊗ ST M′_{0} ; λ̃) ⊗ 1l_{U})

sur celui de η̃ ∘ pr ⊗T̃_{0} (identifié à un espace de fonctions sur G_{0}). En récapitulant, on trouve que :

T_{λ̃,𝔞^{∗}^{+},τ_{+}}^{G} = Ind_{G(λ_{+})_{τ_{0}}G_{0}}^{G}(η̃ ∘ pr ⊗T̃_{0}).

Il reste à appliquer la théorie de Mackey. D’après l’étude du cas connexe faite ci-dessus, on a T_{λ̃,𝔞^{∗}^{+},τ_{0}}^{G_{0}} ∈ Ĝ_{0} et le stabilisateur de T_{λ̃,𝔞^{∗}^{+},τ_{0}}^{G_{0}} dans G est égal à

G(λ_{+})_{τ_{0}}G_{0}. La proposition 9.4 (b) fournit la bijection σ̃ ↦ Ind_{G(λ_{+})_{τ_{0}}G_{0}}^{G}(σ̃∘pr ⊗T̃_{0}) de l’ensemble des classes d’isomorphisme des c^{−1}-représentations projectives irréductibles de G(λ_{+})_{τ_{0}}/G_{0}(λ_{+}) sur l’ensemble des éléments de Ĝ dont la restriction à G_{0} est égal à la somme hilbertienne des g · T_{λ̃,𝔞^{∗}^{+},τ_{0}}^{G_{0}} avec ġ ∈ G/G(λ_{+})_{τ_{0}}G_{0}. Ainsi, au vu du cas connexe, on a: la classe de représentation T_{λ̃,𝔞^{∗}^{+},τ_{+}}^{G} est tempérée

irréductible, toute π ∈ Ĝ tempérée est atteinte d’après la proposition 9.4 (c), et par un calcul facile tout (λ̃′, 𝔞′^{∗}^{+}, τ′_{+}) ∈ X_{G}^{final,+} tel que T_{λ̃′,𝔞′^{∗}^{+},τ′_{+}}^{G} = T_{λ̃,𝔞^{∗}^{+},τ_{+}}^{G} est

conjugué à (λ̃, 𝔞^{∗}^{+}, τ_{+}) sous G. A fortiori pour un tel triplet (λ̃′, 𝔞′^{∗}^{+}, τ′_{+}) on a (λ̃′, τ′) ∈ G · (λ̃, τ), où τ′ se déduit de τ′_{+} comme dans la définition 5.5 (c).

Remarque 9.7. On suppose dans cette remarque que λ̃ ∈ 𝔤̃^{∗}_{I} et pose τ = τ_{+}. On va retrouver explicitement l’orbite de (λ̃, τ) sous G à partir de tr T_{λ̃,τ}^{G}.

Dans un premier temps, je vais récupérer G · λ̃. Le théorème 10.2 fournit l’égalité (tr T_{λ̃,τ}^{G})_{1} = dim τ × β̂_{G·λ̃} _{V_{1}} où V_{1} est un voisinage ouvert de 0 dans 𝔤, qui coupe donc chaque composante connexe de 𝔤_{ss reg} . D’après la proposition 2.5 (c) et la fin de la remarque 2.4 (1), on en déduit que T_{λ̃,τ}^{G} détermine β_{R_{G}(G·λ̃)}. Les mesures de Radon tempérées β_{Ω} sur 𝔤^{∗} avec Ω ∈ G\𝔤_{reg}^{∗} sont linéairement indépendantes, car chaque β_{Ω} est non nulle concentrée sur Ω. Compte tenu de la proposition 2.2 (a), la classe de représentation T_{λ̃,τ}^{G} détermine l’orbite G·λ̃.

Je vais maintenant reconstruire tr τ à partir de T_{λ̃,τ}^{G} et de λ̃. On sait déjà que τ(exp X) = e^{i λ(X)} id pour X ∈ 𝔥. Soit ê ∈ G(λ_{+})^{𝔤/𝔥} au-dessus d’un e ∈ G(λ_{+}) elliptique. On lui associe un e_{0} ∈ e exp 𝔱(e) comme dans le lemme 3.2 (b). Le théorème 10.2 exprime (tr T_{λ̃,τ}^{G})_{e_{0}} comme combinaison linéaire des

classes de fonction localement intégrable β̂_{G(e_{0})·λ̃′_{e_{0}}} _{V_{e_{0}}} avec λ̃′_{e_{0}}^{.}∈ G(e_{0})\\begin{matrix} \\ 𝔤(e_{0}) & ∗ \end{matrix}_{I} qui

sont linéairement indépendantes. Le coefficient de (tr T_{λ̃,τ}^{G})_{e_{0}} suivant β̂_{G(e_{0})·λ̃[e_{0}]} _{V_{e_{0}}} fournit tr τ(ê).

IV. Caractères des représentations

À nouveau, on considère un élément λ̃=(λ, F^{+}) de 𝔤̃^{∗}_{reg} et pose 𝔥 = 𝔤(λ̃). On note μ et ν (resp. 𝔱 et 𝔞) les composantes infinitésimalement elliptique et hyperbolique de λ (resp. 𝔥). Soit 𝔞^{∗}^{+} une chambre de (𝔤(λ)(iρ_{F^{+}}), 𝔞). J’utiliserai les autres notations de la partie III. (dont M, 𝔪, τ_{M} pour la section 7., et, M′, 𝔪′, U, τ_{M′} pour la section 8.) sans rappeler ce qu’elles représentent.

On se donne dans cette partie un élément elliptique e de G (à ne pas confondre avec la base e des logarithmes népériens).

10. Formule de restrictions des caractères

La formule que je vais maintenant écrire généralise celle d’A. Bouaziz dans [Bou 87, th. 5.5.3 p. 52] (voir aussi [DHV 84, th. (7) p. 106]), tout en s’y ramenant, et celle de W. Rossmann [Ros 80, p. 64] relative au cas e = 1.

Définition 10.1. (a) On note D_{G} la fonction sur G dont la restriction à chaque composante connexe G^{+} de G envoie x ∈ G^{+} sur le coefficient de T^{r^{+}} dans det(T id + id − Ad x), où r^{+} est le rang commun aux algèbres de Lie réductives 𝔤(x^{+}) quand x^{+} décrit l’ensemble des éléments semi-simples de G^{+} (cf. [Bou 87, lem. 1.4.1 p. 6]). Elle est analytique et invariante sous int G.

(b) On note G_{ss reg} l’ensemble des x ∈ G semi-simples tels que 𝔤(x) est commutative. Donc G_{ss reg} est l’ouvert dense de complémentaire négligeable de G formé des points où D_{G} ne s’annule pas (cf. [Bou 87, 1.3 p. 5]).

(c) On note d_{e} = \frac{1}{2} dim(1−Ad e)(𝔤/𝔧) et D_{e} = det(1−Ad e)_{(1−Ad e)(𝔤/𝔧)} > 0, indépendamment du choix de 𝔧_{e} ∈Car 𝔤(e) auquel on associe 𝔧 := C_{𝔤}(𝔧_{e}) ∈ Car 𝔤.

(d) On note

V_{e} = { X ∈ 𝔤(e) | |Im z| < ε_{e} pour toute valeur propre z de ad_{𝔤} X }

et k_{e}(X) = (det (\frac{e^{ad X/2} − e^{− ad X/2}}{ad X} )_{𝔤(e)} \frac{det(1 − Ad(e exp X))_{𝔤/𝔤(e)}}{det(1 − Ad e)_{𝔤/𝔤(e)}})^{1/2}> 0

pour X ∈ V_{e}, où ε_{e} = inf{ θ ∈ ]0, 2π] | e^{i θ} est valeur propre de Ad_{G} e } ≤ 2π.

(e) À toute fonction généralisée int G-invariante Θ sur G, on associe (cf. [DHV 84, (6) p. 98]) la fonction généralisée Ad G(e)-invariante Θ_{e} sur V_{e}, déterminée par l’égalité Θ_{e}(X) = k_{e}(X) × Θ _{e exp V_{e}} (e exp X) de fonctions généralisées en X ∈ V_{e}.

L’égalité G = ⋃_{e_{0}∈G e_{0} elliptique}int G · (e_{0} exp V_{e_{0}}) de [Bou 87, lem. 8.1.1 p. 72] (cf.

[DV 93, lem. 40 p. 41]) montre que dans la situation du (d), les Θ_{e_{0}} avec e_{0} ∈ G elliptique déterminent Θ.

D’après [Bou 87, 3.1 haut p. 21], toute représentation unitaire topologiquement irréductible π de G est traçable, avec pour caractère une fonction tr π localement intégrable sur G invariante sous int G dont la restriction à G_{ss reg} est analytique.

Théorème 10.2. Étant donnés τ ∈ X_{G}^{Ind}(λ̃) et τ_{+} ∈ X_{G}^{final,+}(λ̃, 𝔞^{∗}^{+}) associés comme dans 5.5 (c), on a

(tr T_{λ̃,τ}^{G})_{e} = D_{e}^{− \frac{1}{2}} ∑_{λ̃′_{e}^{.} ∈ G(e)\\begin{matrix} \\ 𝔤(e) & ^{∗} \end{matrix}_{reg}}|\{𝔞′_{e}^{∗}^{+}\}|^{−1}( ∑_{λ̃′∈ G·λ̃ ∩ 𝔤̃^{∗}_{reg} (e) tel que λ̃′[e] existe et λ̃′[e] = λ̃′_{e}}±ê′ i^{−d_{e′,λ̃}} tr τ(ê′)) β̂_{G(e)·λ̃′_{e}} _{V_{e}}

= (tr T_{λ̃,𝔞^{∗}^{+},τ_{+}}^{G})_{e} = i^{−d_{e}}D_{e}^{− \frac{1}{2}} ∑_{λ̃′_{e}^{.} ∈ G(e)\\begin{matrix} \\ 𝔤(e) & ^{∗} \end{matrix}_{reg}}|\{𝔞′_{e}^{∗}^{+}\}|^{−1}( ∑_{\begin{matrix}λ′_{+}∈ G·λ_{+}∩ 𝔤(e)^{∗} \\ tel que λ̃′[e] = λ̃′_{e} \end{matrix}} ±ê′_{+}tr τ_{+}(ê′_{+}))β̂_{G(e)·λ̃′_{e}} _{V_{e}}

où on donne un sens à la somme portant sur λ̃′ en choisissant g ∈ G tel que λ̃′ = gλ̃ puis fixant ê′ ∈ G(λ̃)^{𝔤/𝔤(λ)(iρ_{F^{+}})} au-dessus de e′ = g^{−1}eg (resp. : on donne un sens à la somme portant sur λ′_{+} en choisissant g ∈ G tel que λ′_{+} = gλ_{+} puis posant λ̃′ = gλ̃ et fixant ê′_{+} ∈ G(λ_{+})^{𝔤/𝔥} au-dessus de e′ = g^{−1}eg), ±ê′ est le signe tel que O(ê′)_{(1−Ad e′)(𝔤/𝔤(λ)(iρ_{F^{+}}))} = ±ê′ O(B_{λ_{can}} )_{(1−Ad e′)(𝔤/𝔤(λ)(iρ_{F^{+}}))} (resp. : ±ê′_{+} est le signe tel que O(ê′_{+})_{(1−Ad e′)(𝔤/𝔥)} = ±ê′_{+} O(B_{λ_{+}})_{(1−Ad e′)(𝔤/𝔥)}),

d_{e′}^{𝔤(λ)(iρ_{F^{+}})} est le coefficient d_{e′} relatif à 𝔤(λ)(iρ_{F^{+}}) et d_{e′,λ̃} = d_{e′} − d_{e′}^{𝔤(λ)(iρ_{F^{+}})},

𝔥′_{e} = 𝔤(e)(λ̃′[e]) et 𝔞′_{e} est la composante infinitésimalement hyperbolique de 𝔥′_{e}, (λ′, F′_{e}^{+}) = λ̃′[e] et {𝔞′_{e}^{∗}^{+}} est l’ensemble des chambres de (𝔤(e)(λ′)(iρ_{F′_{e}}^{+}), 𝔞′_{e}).

Les sommations portant sur G(e)\\begin{matrix} \\ 𝔤(e) & ∗ \end{matrix}_{reg} font intervenir un nombre fini de termes sommés non nuls. Les autres sommations portent sur des ensembles finis. La condition « λ̃′[e] existe » peut être oubliée, car elle est réalisée quand tr τ(ê′) ≠ 0.

En particulier, pour presque tout X ∈ V_{1} on a

det (\frac{e^{ad X/2}−e^{− ad X/2}}{ad X} )_{𝔤}^{1/2} × tr T_{λ̃,𝔞^{∗}^{+},τ_{+}}^{G}(exp X) = dim τ_{+} × β̂_{G·λ̃}(X).

Remarque 10.3. Voici deux exemples et une précision importante. (1) Premier exemple : G = GL(2, ℝ) et e = (\begin{matrix}0 & −1 \\ 1 & 0 \end{matrix}), λ̃ = (0, F^{+}) avec

F^{+} ⊆ i 𝔰𝔬(2)^{∗} ⊕Z(𝔤)^{∗} et τ = χG ; λ̃. Donc λ̃[e] existe dans \begin{matrix} \\ 𝔤(e) & ∗ \end{matrix}_{reg}. La somme portant sur G · λ̃ ∩ 𝔤̃^{∗}_{reg}(e) fait ici intervenir deux nombres complexes non nuls et opposés.

(2) Deuxième exemple : G est produit semi-direct de ℤ/2ℤ par SL(2, ℝ)^{2} où l’élément non trivial de ℤ/2ℤ opère sur SL(2, ℝ)^{2} par permutation des coordonnées et e = ((\begin{matrix}0 & −1 \\ 1 & 0 \end{matrix}) , (\begin{matrix}0 & −1 \\ 1 & 0 \end{matrix})), λ̃ = (0, F^{+}) avec F^{+} ⊆ (i 𝔰𝔬(2)^{∗})^{2} non stable

sous ℤ/2ℤ et τ = χG ; λ̃. Donc λ̃[e] existe dans \begin{matrix} \\ 𝔤(e) & ∗ \end{matrix}_{reg}. Les deux éléments λ̃′ de

G · λ̃ ∩ 𝔤̃^{∗}_{reg}(e) sont conjugués sous G(e), et vérifient : λ̃′[e] existe et λ̃′[e] = λ̃[e]. Les nombres complexes sommés correspondants sont non nuls, et bien sûr égaux.

(3) Il peut arriver que des mesures β̂_{G(e)·λ̃′_{e}} non linéairement indépendantes interviennent avec des coefficients non nuls dans la formule du caractère. En effet, plaçons nous dans le cas suivant : G est le produit semi-direct canonique du groupe symétrique 𝔖_{4} par SL(3, ℝ)^{4}, λ = 0, 𝔥 est produit de 2 copies d’une sous-algèbre de Cartan déployée de 𝔰𝔩(3, ℝ) avec 2 copies d’une sous-algèbre de Cartan fondamentale de 𝔰𝔩(3, ℝ), 𝔞^{∗}^{+} est stable par permutation des 2 premières composantes. On note e = (1 2) et g = (1 3)(2 4) dans 𝔖_{4}. Donc G · λ̃ ∩ 𝔤̃^{∗}_{reg}(e) = G(e)·λ̃ ∪ G(e)·gλ̃, λ̃[e] et (gλ̃)[e] existent dans \begin{matrix} \\ 𝔤(e) & ∗ \end{matrix}_{reg}, G(e)·λ̃[e] ≠ G(e)·(gλ̃)[e] et β̂_{G(e)·λ̃[e]} = β̂_{G(e)·(gλ̃)[e]} (cf. 2.4 (3)). En outre, il existe τ_{+} ∈ X_{G}^{final,+}(λ̃, 𝔞^{∗}^{+}) pour lequel les coefficients de β̂_{G(e)·λ̃[e]} _{V_{e}} et de β̂_{G(e)·(gλ̃)[e]} _{V_{e}} sous formes de sommes

portant sur λ̃′ sont égaux et non nuls.

Remarque 10.4. On suppose que G est connexe et utilise les notations de la section 7. Différents auteurs ont utilisé dans certaines situations des formules du caractère équivalentes à celle du théorème précédent, mais relatives à d’autres paramétrisations. Pour relier ces formules, je fixe un système de racines positives R_{0}^{+}(𝔤_{ℂ}, 𝔥_{ℂ}) de R(𝔤_{ℂ}, 𝔥_{ℂ}) qui contient les conjuguées de ses racines non imaginaires. On note ρ_{𝔤,𝔥,0} et ρ_{𝔪,𝔱,0} les demi-sommes de racines positives associées à R_{0}^{+}(𝔤_{ℂ}, 𝔥_{ℂ}) et à R_{0}^{+}(𝔤_{ℂ}, 𝔥_{ℂ}) ∩ R(𝔪_{ℂ}, 𝔱_{ℂ}).

(a) L’application de C(𝔤(λ), 𝔥) dans l’ensemble des chambres de (𝔪_{ℂ}, 𝔱_{ℂ}) dans i 𝔱^{∗} dont l’adhérence contient iμ, qui à un élément F′^{+} de C(𝔤(λ), 𝔥) associe la chambre de (𝔪_{ℂ}, 𝔱_{ℂ}) contenant iμ_{𝔪,(λ,F′^{+}),{0}}, est bijective. On note C^{+} l’image de F^{+} par cette application. On pose

sg_{0}(F^{+}, μ) = ∏_{α ∈ R_{0}^{+}(𝔤_{ℂ},𝔥_{ℂ}) α compacte}sg(C^{+}(H_{α})) × ∏_{α ∈ R_{0}^{+}(𝔤_{ℂ},𝔥_{ℂ}) α imaginaire non compacte}sg(−C^{+}(H_{α})).

(b) On note T = C_{M}(𝔱) = C_{M}(𝔪) exp 𝔱. L’application de X_{M}^{irr}(μ̃) dans l’ensemble des caractères unitaires de T de différentielle i μ − ρ_{𝔪,𝔱,0} qui à σ ∈ X_{M}^{irr}(μ̃) associe le caractère unitaire η de T tel que η(x exp X) = σ(x, 1) e^{(i μ−ρ_{𝔪,𝔱,0})(X)} pour x ∈ C_{M}(𝔪) et X ∈ 𝔱, est bijective.

(c) Soit σ ∈ X_{M}^{irr}(μ̃). On note η son image par l’application du (b). La fonction Θ_{η}^{(C^{+})} de [Var 77, th. 23 p. 260] relative au groupe M s’écrit :

Θ_{η}^{(C^{+})} = sg_{0}(F^{+}, μ) × tr T_{μ̃,σ}^{M}.

En particulier, quand M_{0} est semi-simple et « acceptable », la fonction Θ_{i μ,C^{+}} de [Har 65, p. 305] relative au groupe M_{0} s’écrit :

Θ_{i μ,C^{+}} = sg_{0}(F^{+}, μ) × tr T M_{0} ; μ̃.

Par ailleurs, quand G est linéaire, tr T_{μ̃,σ}^{M} est noté Θ^{M}(iμ, C^{+}, σ(•, 1) _{Z(M)}) dans [KZ 82, p. 397] en identifiant 𝔱 et 𝔱^{∗}.

(d) On se place dans le cas où G est la composante neutre du groupe des points réels d’un groupe linéaire algébrique complexe défini sur ℝ semi-simple et simplement connexe. On dispose ainsi d’un caractère complexe ξ_{ρ} de exp 𝔥_{ℂ} de différentielle ρ_{𝔤,𝔥,0}. On fixe un caractère unitaire η de T comme au (b). Lorsque ν est (𝔤, 𝔞)-régulière, la fonction θ(T A, ξ_{ρ} η, ν) de [Her 83, p. 244] s’écrit :

θ(T A, ξ_{ρ} η, ν) = |C(𝔤(λ), 𝔥)|^{−1} × ∑_{F′^{+}∈ C(𝔤(λ),𝔥)_{reg}}sg_{0}(F′^{+}, μ) × tr T_{λ̃′,τ′}^{G}

où λ̃′ = (λ, F′^{+}), λ′_{+} est associé à (λ̃′, 𝔞^{∗}) comme dans 1.3 (b), et τ′ ∈ X_{G}^{irr}(λ̃′) est déterminé par l’égalité (δ_{λ′_{+}}^{𝔤/𝔥}τ′) _{Z(M)}= η _{Z(M)}.

La démonstration du théorème va se faire en trois étapes. Les deux premières étapes suivent l’article de Bouaziz : on passe de G à G(λ_{+})G_{0}, puis de G(λ_{+})G_{0} à M′. Dans la dernière étape, une variante du foncteur de translation de Zuckerman va me permettre de relier les caractères des représentations de M′ qui m’intéressent aux caractères étudiés par Bouaziz.

Début de la démonstration du théorème. Soient ê′_{+} ∈ G(λ_{+})^{𝔤/𝔥} et ê′ ∈ G(λ̃)^{𝔤/𝔤(λ)(iρ_{F^{+}})} au-dessus d’un même élément elliptique e′ de G(λ_{+}). Les valeurs propres autres que −1 et 1 de la restriction de Ad e′^{ℂ} à 𝔳_{ℂ} := ∑_{α∈R^{+}(𝔤(λ)(iρ_{F^{+}})_{ℂ},𝔥_{ℂ})}𝔤_{ℂ}^{α}

sont non réelles deux à deux conjuguées de module 1. Comme L_{λ̃,𝔞^{∗}^{+}}/𝔥_{ℂ} (cf. 5.4 (a)) est somme directe des sous-espaces Ad e′^{ℂ}-invariants Lλ̃/𝔤(λ)(iρ_{F^{+}})_{ℂ} (cf. 5.4 (c)) et 𝔳_{ℂ}, on a q_{L_{λ̃,𝔞^{∗}^{+}}/𝔥_{ℂ}}((Ad e′)_{𝔤/𝔥}) = q_{Lλ̃/𝔤(λ)(iρ_{F^{+}})_{ℂ}}((Ad e′)_{𝔤/𝔤(λ)(iρ_{F^{+}})}) relativement à B_{λ_{+}} , puis d’après 5.4 et 4.2 (d) :

±ê′_{+} ρ_{λ̃,𝔞^{∗}^{+}}^{𝔤/𝔥}(ê′_{+}) = ±ê′ ρ𝔤/𝔤(λ)(iρ_{F^{+}}) ; λ̃(ê′) × i^{−1/2 dim(1−Ad e′)(𝔤(λ)(iρ_{F^{+}})/𝔥)}

où les signes ±ê′_{+} et ±ê′ sont définis comme dans le théorème.

Soient λ̃′_{0} ∈ G·λ̃∩𝔤̃^{∗}_{reg}(e), g_{0} ∈ G vérifiant λ̃′_{0} = g_{0}λ̃, et ê′_{0} ∈ G(λ̃)^{𝔤/𝔤(λ)(iρ_{F^{+}})} au-dessus de e′_{0} = g_{0}^{−1}eg_{0}. Par la définition 5.5 (c) et ce qui précède, on obtient

±ê′_{0} i^{−d_{e′_{0},λ̃}} tr τ(ê′_{0}) = ∑_{\begin{matrix}ẋ ∈ G(λ̃)/G(λ_{+}) \\ tel que x^{−1}e′_{0} x ∈ G(λ_{+}) \end{matrix}}±ê′_{+,x} i^{−d_{e}} tr τ_{+}(ê′_{+,x})

indépendamment du choix de ê′_{+,x} ∈ G(λ_{+})^{𝔤/𝔥} au-dessus de e′_{x} = x^{−1}e′_{0} x.

Ensuite, pour tout λ̃′_{e} ∈ \begin{matrix} \\ 𝔤(e) & ∗ \end{matrix}_{reg} on obtient l’égalité de sommes finies

∑_{λ̃′_{0}∈ G·λ̃ ∩ 𝔤̃^{∗}_{reg} (e) tel que λ̃′_{0}[e] = λ̃′_{e}}±ê′_{0} i^{−d_{e′_{0},λ̃}} tr τ(ê′_{0}) = ∑_{\begin{matrix}λ′_{+}∈ G·λ_{+}∩ 𝔤(e)^{∗} \\ tel que λ̃′[e] = λ̃′_{e} \end{matrix}}±ê′_{+} i^{−d_{e}} tr τ_{+}(ê′_{+}).

Les deux expressions du caractère proposées dans le théorème sont donc égales.

Soit λ̃′ (resp. λ′_{+}) un terme associé à un λ̃′_{e} comme dans le théorème. On a: { gλ̃ ∈ G · λ̃ ∩ 𝔤̃^{∗}_{reg}(e) | (gλ̃)[e] = λ̃′_{e} et gλ̃ ∈ G(e) · λ̃′ } = G(e)(λ̃′_{e}) · λ̃′ (resp. { gλ_{+} ∈ G · λ_{+} ∩ 𝔤(e)^{∗} | (gλ̃)[e] = λ̃′_{e} et gλ_{+} ∈ G(e) · λ′_{+} } = G(e)(λ̃′_{e}) · λ′_{+} ). Le théorème équivaut donc à chacune des formules (F) et (F_{+}) suivantes :

(tr T_{λ̃,τ}^{G})_{e} =^{(F)} D_{e}^{− \frac{1}{2}} ∑_{λ̃′^{.} ∈ G(e)\ G·λ̃ ∩ 𝔤̃^{∗}_{reg} (e) tel que λ̃′[e] ∈ \begin{matrix} \\ 𝔤(e) & ^{∗} \end{matrix}_{reg}}±ê′ i^{−d_{e′,λ̃}} \frac{|G(e)(λ̃′[e])·λ̃′|}{|\{𝔞′_{e}^{∗}^{+}\}|} tr τ(ê′) β̂_{G(e)·λ̃′[e]} _{V_{e}} ;

(tr T_{λ̃,𝔞^{∗}^{+},τ_{+}}^{G})_{e} =^{(F_{+})} i^{−d_{e}}D_{e}^{− \frac{1}{2}} ∑_{λ′_{+}^{.} ∈ G(e)\ G·λ_{+}∩ 𝔤(e)^{∗} tel que λ̃′[e] ∈ \begin{matrix} \\ 𝔤(e) & ^{∗} \end{matrix}_{reg}}±ê′_{+} \frac{|G(e)(λ̃′[e])·λ′_{+}|}{|\{𝔞′_{e}^{∗}^{+}\}|} tr τ_{+}(ê′_{+}) β̂_{G(e)·λ̃′[e]} _{V_{e}}.

Cela permet en particulier de préciser les résultats énoncés dans l’introduction.

D’après la définition 2.3 (e), on a β̂_{ω} = ∑_{ω_{0}∈G(e)_{0}\ω} β̂_{ω_{0}} pour ω ∈ G(e)\\begin{matrix} \\ 𝔤(e) & ∗ \end{matrix}_{reg}.

Ainsi le théorème équivaut à l’énoncé qu’on obtient en y remplaçant G(e) par G(e)_{0}, et donc aussi à celui qu’on obtient en remplaçant G(e) par G(e)_{0} dans (F_{+}). Soient λ′_{+} et λ̃′ comme dans (F_{+}). Le groupe G(e)_{0}(λ̃′[e]) opère transitivement sur {𝔞′_{e}^{∗}^{+}} par l’action de certains éléments de W (𝔤(e)_{ℂ}, 𝔥′_{e}_{ℂ}) (notations du théorème). Comme λ′_{+} appartient à 𝔥′_{e}^{∗} ∩ 𝔤(e)∗_{ss reg} , le stabilisateur d’un élément de {𝔞′_{e}^{∗}^{+}} est

égal à G(e)_{0}(λ̃′[e])(λ′_{+}) d’après le lemme 1.4. Donc |G(e)_{0}(λ̃′[e]) · λ′_{+}| = |{𝔞′_{e}^{∗}^{+}}|.

Par conséquent, les formules à démontrer équivalent à la formule suivante :

(tr T_{λ̃,𝔞^{∗}^{+},τ_{+}}^{G})_{e} = i^{−d_{e}} D_{e}^{− \frac{1}{2}} ∑_{λ′_{+}^{.}∈ G(e)_{0}\ G·λ_{+}∩ 𝔤(e)^{∗} tel que (gλ̃)[e] ∈ \begin{matrix} \\ 𝔤(e) & ^{∗} \end{matrix}_{reg}} \frac{O(ê′_{+})_{(1−Ad e′)(𝔤/𝔥)}}{O(B_{λ_{+}})_{(1−Ad e′)(𝔤/𝔥)}} tr τ_{+}(ê′_{+}) β̂_{G(e)_{0}·(gλ̃)[e]} _{V_{e}}

où g ∈ G vérifie λ′_{+} = gλ_{+} et ê′_{+} ∈ G(λ_{+})^{𝔤/𝔥} est au-dessus de e′ = g^{−1}eg. On remarque pour la suite (section 11.) que dans le raisonnement précédent, on peut remplacer G(e)_{0} par n’importe quel sous-groupe L de G(e) qui contient G(e)_{0} et dont le groupe adjoint est inclus dans int 𝔤(e)_{ℂ}.

Les orbites sur lesquelles on somme étant semi-simples régulières, on va pouvoir reproduire la plupart des arguments de [Bou 87].

On a T_{λ̃,𝔞^{∗}^{+},τ_{+}}^{G} = Ind_{G(λ_{+}) G_{0}}^{G} T_{λ̃,𝔞^{∗}^{+},τ_{+}}^{G(λ_{+}) G_{0}} par « induction par étages », puis

(tr T_{λ̃,𝔞^{∗}^{+},τ_{+}}^{G})_{e} = ∑_{ẋ ∈ G/G(λ_{+}) G_{0} tel que x^{−1}ex ∈ G(λ_{+}) G_{0}}Ad x · (tr T_{λ̃,𝔞^{∗}^{+},τ_{+}}^{G(λ_{+}) G_{0}})_{x^{−1}ex}.

Comme l’ensemble G · λ_{+} ∩ 𝔤(e)^{∗} est réunion des ensembles disjoints Ad^{∗} x·(G(λ_{+})G_{0} ·λ_{+} ∩ 𝔤(x^{−1}ex)^{∗}) où ẋ ∈ G/G(λ_{+})G_{0} vérifie x^{−1}ex ∈ G(λ_{+})G_{0}, on peut supposer que G = G(λ_{+}) G_{0}. …

11. Passage de T_{λ̃,τ_{M′}}^{M′} à T_{λ̃,𝔞^{∗} ^{+},τ_{+}}^{G}

Dans cette section, on va se ramener à montrer le théorème pour T_{λ̃,τ_{M′}}^{M′} en reprenant mot à mot la preuve de Bouaziz concernant le cas semi-simple régulier.

Les résultats énoncés dans la proposition suivante sont démontrés dans [Bou 87, lem. 7.1.3 p. 65 et lem. 4.2.1 p. 38].

Proposition 11.1. (Bouaziz) (a) Soit π une représentation unitaire topologiquement irréductible de M′. On lui associe Π = Ind_{M′U}^{M′G_{0}}( π ⊗ 1l_{U} ). La représentation unitaire Π de M′G_{0} est somme hilbertienne d’un nombre fini de sousreprésentations topologiquement irréductibles (cf. [Dix 64, prop. 5.4.13 (i) p. 110] ou [Wal 88, prop. p. 25]).

On suppose que e ∈ M′G_{0}. Pour tout 𝔧_{e} ∈ Car 𝔤(e) et tout X ∈ 𝔧_{e} tel que e exp X ∈ (M′G_{0})_{ss reg} , on a

|D_{G}(e exp X)|^{1/2} (tr Π)(e exp X)

= ∑_{(M′∩G_{0}) g ∈ M′∩G_{0} \ {g_{0}∈G_{0} | g_{0} e exp 𝔧_{e} g_{0}^{−1}⊆M′}}|D_{M′}(ge exp Xg^{−1})|^{1/2} (tr π)(ge exp Xg^{−1})

où la somme de droite porte sur un ensemble fini.

(b) Soient ν′ ∈ 𝔤^{∗} une forme linéaire hyperbolique, 𝔥′ une sous-algèbre de Cartan fondamentale de 𝔤(ν′), et M′_{1} un sous-groupe de G_{0}(ν′) qui contient le groupe C_{G_{0}}(𝔥′)G(ν′)_{0}. Pour tous λ′ ∈ 𝔥′^{∗} ∩ 𝔤∗_{ss reg} , 𝔧 ∈ Car 𝔤 et X ∈ 𝔧 ∩ 𝔤_{ss reg} , on a

|D_{𝔤}(X)|^{1/2} β̂_{G_{0}·λ′}(X) = ∑_{M′_{1} x ∈ M′_{1} \ {x_{0}∈G_{0} | x_{0}𝔧 ⊆ 𝔤(ν′)}}|D_{𝔤(ν′)}(x X)|^{1/2} β̂_{M′_{1}·λ′}(x X)

où la somme de droite porte sur un ensemble fini. Suite de la démonstration du théorème. On suppose réalisée ici l’égalité G = G(λ_{+}) G_{0}, à laquelle on s’est ramené. On admet (provisoirement) que le théorème est vrai pour T_{λ̃,τ_{M′}}^{M′}.

Pour obtenir la formule du caractère pour tr T_{λ̃,𝔞^{∗}^{+},τ_{+}}^{G}, il suffit de la vérifier sur l’ouvert inclus dans 𝔤(e)_{ss reg} de complémentaire négligeable (cf. [Bou 87, avant lem. 1.4.1 p. 6]) et sur lequel les deux membres de l’égalité sont des fonctions analytiques, formé des X ∈ V_{e} tels que e exp X ∈ G_{ss reg} .

On fixe 𝔧_{e} ∈ Car 𝔤(e) et X ∈ 𝔧_{e} ∩ V_{e} tels que e exp X ∈ G_{ss reg} . On a : k_{e}(X) = | det(1 − Ad e)_{𝔤/𝔤(e)}|^{−1/2} × |D_{𝔤(e)}(X)|^{−1/2} × |D_{G}(e exp X)|^{1/2}.

En paraphrasant les calculs de Bouaziz, on fixe des représentants g_{1}, …, g_{n} des doubles classes dans M′ ∩ G_{0} \ {g_{0} ∈ G_{0} | g_{0}eg_{0}^{−1} ∈ M′} / G(e)_{0}. On pose e_{1} =g_{1}eg_{1}^{−1}, …, e_{n} =g_{n}eg_{n}^{−1}. La réunion disjointe des ensembles

M′ ∩ G(e_{j})_{0} \ {x_{0} ∈ G(e_{j})_{0} | x_{0}g_{j} 𝔧_{e} ⊆ 𝔪′(e_{j})} où 1 ≤ j ≤ n

est en bijection avec l’ensemble

M′ ∩ G_{0} \ {g_{0} ∈ G_{0} | g_{0} e exp 𝔧_{e} g_{0}^{−1} ⊆ M′}

par l’application qui envoie (j, ẋ) sur ẋg_{j}. On écrit (tr T_{λ̃,𝔞^{∗}^{+},τ_{+}}^{G})_{e}(X) à l’aide de la proposition 11.1 (a) en prenant π = T_{λ̃,τ_{M′}}^{M′} et en tenant compte de cette

bijection. On utilise ensuite l’expression de (tr T_{λ̃,τ_{M′}}^{M′})_{e_{j}} proposée au début de la démonstration du théorème, avec L = M′ ∩G(e_{j})_{0}. Cela fournit trois sommations. On intervertit les deux dernières et tombe sur :

∑_{1≤j≤n} ∑_{ġλ_{+} ∈ M′∩G(e_{j})_{0} \ M′·λ_{+}∩ 𝔪′(e_{j})^{∗} tel que (gλ̃)[e_{j}] ∈ \begin{matrix} \\ 𝔤(e_{j}) & ^{∗} \end{matrix}_{reg}} ∑_{ẋ ∈ M′∩G(e_{j})_{0} \ \{x_{0}∈G(e_{j})_{0} | x_{0} g_{j}𝔧_{e} ⊆ 𝔪′\}} · · · .

La dernière somme se calcule en appliquant la proposition 11.1 (b) après avoir remplacé G par G(e_{j}), ν′ par ν_{+}, 𝔥′ par (g𝔥)(e_{j}), M′_{1} par M′ ∩ G(e_{j})_{0}, λ′ par gλ_{t} avec t ∈ ]0, 1] (cf. 1.4), 𝔧 par g_{j}𝔧_{e} ,et X par g_{j}X, puis en passant à la limite t → 0^{+} (cf. 2.6 (b)). En outre, la réunion disjointe des ensembles M′ ∩ G(e_{j})_{0} \ M′ · λ_{+} ∩ 𝔪′(e_{j})^{∗} où 1 ≤ j ≤ n est en bijection avec l’ensemble G(e)_{0} \ G · λ_{+}∩ 𝔤(e)^{∗} par l’application qui envoie (j, l̇) sur ġ_{j}^{−1}l. Cela permet de regrouper les deux premières sommations en une seule.

Soient ê′_{+} ∈ G(λ_{+})^{𝔤/𝔥} et ê′_{𝔪′} ∈ M′(λ̃)^{𝔪′/𝔥} au-dessus d’un élément elliptique e′ de G(λ_{+}). Les valeurs propres autres que −1 et 1 de la restriction de Ad e′^{ℂ} à 𝔲_{ℂ} sont non réelles deux à deux conjuguées de module 1. Comme L_{λ_{t}}/𝔥_{ℂ} (cf. 5.2) est somme directe des sous-espaces Ad e′^{ℂ}-invariants 𝔟_{M′}/𝔥_{ℂ} et 𝔲_{ℂ}, on a q_{L_{λ_{t}}/𝔥_{ℂ}}((Ad e′)_{𝔤/𝔥}) = q_{𝔟_{M′}/𝔥_{ℂ}}((Ad e′)_{𝔪′/𝔥}) relativement à B_{λ_{+}} , puis d’après 4.2 (d):

\frac{O(ê′_{+})_{(1−Ad e′)(𝔤/𝔥)}}{O(B_{λ_{+}})_{(1−Ad e′)(𝔤/𝔥)}} ρ_{λ_{+}}^{𝔤/𝔥}(ê′_{+}) = \frac{O(ê′_{𝔪′})_{(1−Ad e′)(𝔪′/𝔥)}}{O(B_{λ_{+,𝔪′}})_{(1−Ad e′)(𝔪′/𝔥)}} ρ_{λ_{+,𝔪′}}^{𝔪′/𝔥}(ê′_{𝔪′}) × i^{−1/2 dim(1−Ad e′)(𝔤/𝔪′)}.

À l’aide de l’égalité écrite dans la démonstration du lemme 8.2 (a), on en déduit la formule du caractère pour tr T_{λ̃,𝔞^{∗}^{+},τ_{+}}^{G} (en l’admettant pour tr T_{λ̃,τ_{M′}}^{M′})….

12. Translation au sens de G. Zuckerman

Dans cette section, il s’agit de créer un outil pour la seule étape délicate : le calcul du caractère de la représentation définie après un passage dans l’homologie.

Je commence par rappeler quelques résultats classiques.

Lemme 12.1. Soient π une représentation linéaire continue de G_{0} dans un espace de Hilbert complexe V et K_{0} un sous-groupe compact maximal de G_{0}. Dans ces conditions, on notera V_{K_{0}} la réunion des sous-espaces vectoriels de dimension finie de V stables par K_{0}.

Pour chaque N ∈ ℕ, les propriétés (i) et (ii) suivantes sont équivalentes :

(i) il existe une suite finie V_{0} = V ⊇ V_{1} ⊇ ⋯ ⊇ V_{N} = {0} de sous-G_{0}-modules fermés de V tels que les quotients V_{j−1}/V_{j} avec 1 ≤ j ≤ N sont topologiquement irréductibles sous G_{0} et possèdent un caractère infinitésimal ;

(ii) les multiplicités des éléments de K̂_{0} dans V_{K_{0}} sont finies, ce qui implique que 𝔤 opère sur V_{K_{0}} par dérivation de l’action de G_{0} (cf. [Var 77, th. 14 p. 313]), et il existe une suite finie (V_{K_{0}})_{0} = V_{K_{0}} ⊇ (V_{K_{0}})_{1} ⊇ ⋯ ⊇ (V_{K_{0}})_{N} = {0} de sous-(𝔤_{ℂ}, K_{0})-modules de V_{K_{0}} tels que les quotients (V_{K_{0}})_{j−1} / (V_{K_{0}})_{j} avec 1 ≤ j ≤ N sont des (𝔤_{ℂ}, K_{0})-modules irréductibles.

Quand ces propriétés sont vérifiées, π est traçable, et les « composantes Z(U𝔤_{ℂ})-primaires » V^{χ} de V associées aux caractères χ de l’algèbre unifère Z(U𝔤_{ℂ}), définies comme les adhérences dans V des sous-espaces vectoriels

(V^{∞})^{χ} := { v ∈ V^{∞} | ∀u ∈ Z(U𝔤_{ℂ}) (u − χ(u))^{n}· v = 0 } pour « n grand », sont en somme directe de somme dense dans V ; de plus l’ensemble P des poids de Z(U𝔤_{ℂ}) dans V^{∞}, formé des caractères χ de Z(U𝔤_{ℂ}) tels que V^{χ} ≠ {0}, est fini. Démonstration du lemme. On constate d’abord que pour tout sous-G_{0}- module fermé W de V, l’injection canonique de V_{K_{0}}/W_{K_{0}} dans (V/W)_{K_{0}} est surjective. En effet, en notant pr_{V/W} la projection canonique de V sur V/W, pour tout sous-K_{0}-module F de dimension finie de V/W le sous-espace vectoriel dense pr_{V/W} (V_{K_{0}} ∩ pr_{V/W}^{−1} (F)) de F est égal à F. Par ailleurs, on dispose pour chaque δ ∈ K̂_{0} d’un isomorphime de K_{0}-modules canonique de V_{δ}/W_{δ} sur (V_{K_{0}}/W_{K_{0}})_{δ} (en notant E_{δ} la composante isotypique de type δ d’un K_{0}-module E). Donc pour chaque δ ∈ K̂_{0}, les K_{0}-modules V_{δ}/W_{δ} et (V/W)_{δ} sont isomorphes.

Quand (i) est vérifié, les espaces vectoriels (V_{j−1}/V_{j})_{δ} avec 1 ≤ j ≤ N et δ ∈ K̂_{0} sont de dimension finie d’après [Var 77, prop. 16 p. 314 et th. 19 p. 316], puis les espaces vectoriels V_{δ} avec δ ∈ K̂_{0} sont de dimension finie; la suite (V_{0})_{K_{0}} = V_{K_{0}} ⊇ (V_{1})_{K_{0}} ⊇ ⋯ ⊇ (V_{N})_{K_{0}} = {0} satisfait la condition de (ii) d’après [Var 77, fin de th. 14 p. 313].

Quand (ii) est vérifié, la suite \overline{(V_{K_{0}})_{0}} = V ⊇ \overline{(V_{K_{0}})_{1}} ⊇ ⋯ ⊇ \overline{(V_{K_{0}})_{N}} = \{0\} satisfait la condition de (i), à nouveau d’après [Var 77, th. 14 p. 313].

On suppose dorénavant que les propriétés (i) et (ii) sont vérifiées. Le résultat « π est traçable » est dû à Harish-Chandra (cf. [Wal 88, 8.1.2 p. 292]).

D’après (ii) et [KV 95, cor. 7.207 p. 530], on peut appliquer [KV 95, prop. 7.20 p. 446] à la fois à V^{∞} et à ses composantes Z(U𝔤_{ℂ})-primaires (ici a priori au sens de [KV 95]). Par conséquent, le membre droite de l’égalité qui définit (V^{∞})^{χ} stationne en n et V^{∞} est somme directe d’un nombre fini de ses composantes Z(U𝔤_{ℂ})-primaires. On fixe n ∈ ℕ qui convienne relativement aux définitions de tous les (V^{∞})^{χ}, χ ∈ P.

Soit Q⊆P. Les caractères de Z(U𝔤_{ℂ}) étant linéairement indépendants, on a

∑_{χ∈Q}(V^{∞})^{χ} = { v ∈ V^{∞} | ∀u ∈ Z(U𝔤_{ℂ}) ∏_{χ∈Q}(u − χ(u))^{n} · v = 0 }.

On se donne une mesure de Haar d_{G_{0}} sur G_{0} et une suite (φ_{k})_{k∈ℕ} d’éléments positifs de C_{c}^{∞}(G_{0}) d’intégrale 1 pour d_{G_{0}} , dont les supports « rentrent dans tout voisinage de 1 dans G_{0} ». On a (\overline{∑_{χ∈Q} V^{χ}})^{∞} = ∑_{χ∈Q}(V^{∞})^{χ} car pour tout u ∈ Z(U𝔤_{ℂ}) les endomorphismes continus π(φ_{k}d_{G_{0}} ∗ ∏_{χ∈Q}(u − χ(u))^{n}) de V avec k ∈ ℕ sont

nuls sur ∑_{χ∈Q}(V^{∞})^{χ} puis sur \overline{∑_{χ∈Q} V^{χ}}, et d’autre part convergent simplement sur

(\overline{∑_{χ∈Q} V^{χ}})^{∞} quand k → +∞ vers l’opérateur associé à ∏_{χ∈Q}(u − χ(u))^{n}.

Pour chaque χ_{0} ∈ P, on a donc (V^{χ_{0}} ∩\overline{∑_{χ∈P \\{χ_{0}\}} V^{χ}})^{∞} = \{0\}, ce qui montre

que les espaces vectoriels V^{χ} avec χ ∈ P sont en somme directe.

Définition 12.2. On appelle « G_{0}-module de longueur finie admissible » (ou « G_{0}-module de Harish-Chandra ») tout espace de Hilbert complexe V muni d’une représentation linéaire continue π de G_{0} en son sein qui vérifie les propriétés équivalentes du lemme précédent.

L’objet de la proposition suivante est d’adapter le foncteur de translation de Zuckerman (cf. [Zuc 77]) au cas d’une représentation d’un groupe non connexe.

Proposition 12.3. On fixe un groupe de Lie réel \underline{G} dont la composante neutre est égale à G_{0} et un élément \underline{a} de \underline{G} qui opère par automorphisme intérieur sur G_{0} comme un certain élément a de G. On suppose pour simplifier que le groupe \underline{G} est engendré par \underline{a}G_{0}.

Soit π une représentation linéaire continue de \underline{G} dans un espace de Hilbert complexe V dont la restriction à G_{0} est un G_{0}-module de longueur finie admissible.

(a) On définit une fonction généralisée (tr π)_{aG_{0}} sur aG_{0}, invariante sous int G_{0}, localement intégrable sur aG_{0} et analytique sur aG_{0} ∩ G_{ss reg} , en posant

(tr π)_{aG_{0}}(φ d_{G}) = tr π(\underline{φ} d\underline{G}) pour tout φ ∈ C_{c}^{∞}(aG_{0}),

où \underline{φ} ∈ C_{c}^{∞}(\underline{a}G_{0}) est définie par \underline{φ}(\underline{a}x_{0}) = φ(ax_{0}) pour x_{0} ∈ G_{0} et, d_{G} et d\underline{G} sont des mesures de Haar sur G et \underline{G} dont les restrictions à G_{0} coïncident.

Elle s’écrit :  (tr π)_{aG_{0}} =  ∑_{χ∈P tel que \underline{a} χ=χ}(tr πχ̇)_{aG_{0}} ,

où P est l’ensemble des poids de Z(U𝔤_{ℂ}) dans V^{∞} et πχ̇ désigne pour chaque χ ∈ P tel que \underline{a} χ = χ la représentation de \underline{G} dans V^{χ} issue de π.

(b) On suppose qu’il existe un caractère χ de Z(U𝔤_{ℂ}) tel que V = V^{χ}. Soit x ∈ aG_{0} ∩ G_{ss reg} . Donc 𝔧_{x} := 𝔤(x) est commutative (cf. 10.1 (b)) et

𝔧 := C_{𝔤}(𝔧_{x}) est une sous-algèbre de Cartan de 𝔤 (cf. [Bou 87, lem. 1.4.1 p. 6]). On note 𝔧(x)_{1} la composante connexe de 0 dans { Y ∈ 𝔧(x) | x exp Y ∈ G_{ss reg}}.

Il existe des éléments p_{l} de S(𝔧(x)_{ℂ}^{∗}) associés aux l ∈ 𝔧(x)_{ℂ}^{∗} vérifiant χ=χ_{l}^{U𝔤_{ℂ}} (notation de 8.4 (a)), tels que pour tout Y ∈ 𝔧(x)_{1} on ait

|D_{G}(x exp Y)|^{1/2} (tr π)_{aG_{0}}(x exp Y) = ∑_{l∈𝔧(x)_{ℂ}^{∗} tel que χ=χ_{l}^{U𝔤_{ℂ}}}p_{l}(Y) e^{l(Y)}.

De plus, quand χ est « régulier » (c’est-à-dire associé à une orbite semisimple régulière de int 𝔤_{ℂ} dans 𝔤_{ℂ}^{∗}) chaque p_{l} est un scalaire.

(c) On suppose que π a un caractère infinitésimal régulier χ. On choisit Λ ∈ 𝔤_{ℂ}^{∗} semi-simple régulière telle que χ = χ_{Λ}^{U𝔤_{ℂ}}. On note C l’unique chambre de R(𝔤_{ℂ}, 𝔤_{ℂ}(Λ)) dans 𝔤_{ℂ}(Λ)^{∗}∩D(𝔤_{ℂ})^{∗} telle que Λ ∈ C +Z(𝔤_{ℂ})^{∗}, et \overline{C} son adhérence.

Soit π_{F} une représentation linéaire de \underline{G} dans un espace de Hilbert complexe de dimension finie F, dont la restriction à G_{0} est irréductible, et telle que le plus bas poids de 𝔤_{ℂ}(Λ) dans F relativement à C, noté Λ_{F}, vérifie Λ+Λ_{F} ∈ \overline{C} +Z(𝔤_{ℂ})^{∗}.

La restriction à G_{0} de la représentation π ⊗ π_{F} de \underline{G} donne un G_{0}-module de longueur finie admissible et \underline{G} opère dans sa composante Z(U𝔤_{ℂ})-primaire (V ⊗_{ℂ} F)^{χ_{Λ+Λ_{F}}^{U𝔤_{ℂ}}} au moyen d’une représentation π_{Zuc} ayant encore cette propriété.

Soit x ∈ aG_{0} ∩ G_{ss reg} . On lui associe une sous-algèbre de Cartan 𝔧 de 𝔤 et des nombres complexes p_{l} comme au (b). Pour tout Y ∈ 𝔧(x)_{1}, on a

|D_{G}(x exp Y)|^{1/2} (tr π_{Zuc})_{aG_{0}}(x exp Y) = ∑_{l ∈ 𝔧(x)_{ℂ}^{∗} tel que χ=χ_{l}^{U𝔤_{ℂ}}}\underline{x}_{l_{F}} p_{l} e^{(l + l_{F})(Y)},

où l_{F} ∈ 𝔧_{ℂ}^{∗} est défini à partir de l comme Λ_{F} à partir de Λ et \underline{x}_{l_{F}} est le scalaire par lequel l’élément \underline{x} := \underline{a} (a^{−1} x) de \underline{G} (qui fixe l_{F}) agit sur l’espace propre (de dimension 1) de poids l_{F} pour l’action de 𝔧(x)_{ℂ} dans F. Démonstration de la proposition. On utilisera l’action canonique par opérateurs différentiels invariants à gauche de l’algèbre enveloppante d’un groupe de Lie réel sur l’espace vectoriel des fonctions généralisées sur ce groupe de Lie.

(a) La représentation π est traçable d’après le lemme 12.1. La fonction généralisée (tr π)_{aG_{0}} , égale à δ_{a} ∗ (δ\underline{a}^{−1} ∗ tr π _{\underline{a}G_{0}}), est invariante sous int G_{0}.

Soient u_{0} ∈ Z(U𝔤_{ℂ}) et \underline{φ} ∈ C_{c}^{∞}(\underline{a}G_{0}). On pose u = ∏_{χ∈P}(u_{0} − χ(u_{0})). La

démonstration de [KV 95, cor. 7.207 p. 530] fournit l’existence d’une suite finie W_{0} = V ⊇ W_{1} ⊇ ⋯ ⊇ W_{N} = \{0\} de sous-\underline{G}-modules fermés de V tels que les quotients W_{k−1}/W_{k} avec 1 ≤ k ≤ N′ sont topologiquement irréductibles sous \underline{G}.

Soit k ∈ \{1, …, N′\}. On note π_{k} la représentation de \underline{G} dans W_{k−1}/W_{k}. Tout sous-quotient d’un G_{0}-module de longueur finie admissible est un G_{0}-module de longueur finie admissible. Donc W_{k−1}/W_{k} a un sous-G_{0}-modules fermé topologiquement irréductible E qui possède un caractère infinitésimal. L’action de u sur ∑_{n∈ℤ} \underline{a}^{n} E^{∞} est nulle. Donc π_{k}(\underline{φ}d\underline{G} ∗ u) = 0.

Ainsi : ∂_{u}(tr π) (\underline{φ}d\underline{G}) = tr π_{1}(\underline{φ}d\underline{G} ∗ u) + ⋯ + tr π_{N′}(\underline{φ}d\underline{G} ∗ u) = 0 (cf. [Wal 88, lem. 8.1.3 p. 293]). De plus, on a \underline{a} u = u. Il en résulte que :

∂_{u}((tr π)_{aG_{0}}) = δ_{a} ∗ ((δ\underline{a}^{−1} ∗ tr π _{\underline{a}G_{0}}) ∗ (δ\underline{a} ∗ ǔ ∗ δ\underline{a}^{−1})) = 0.

D’après [Bou 87, th. 2.1.1 p. 10] et [KV 95, th. 4.95 p. 286 et th. 7.30 (a) p. 450], (tr π)_{aG_{0}} est localement intégrable sur aG_{0} et analytique sur aG_{0} ∩ G_{ss reg} .

Soient χ ∈ P tel que \underline{a} χ ≠ χ et (à nouveau) \underline{φ} ∈ C_{c}^{∞}(\underline{a}G_{0}). On note m le cardinal de l’orbite χ̇ de χ sous l’action du sous-groupe ⟨\underline{a}⟩ de \underline{G} engendré par \underline{a}, et πχ̇ la représentation de \underline{G} dans W := \overline{∑_{n∈ℤ} \underline{a}^{n} V^{χ}}. La restriction de πχ̇(\underline{φ}d\underline{G})

à la somme directe V^{χ} ⊕ \underline{a}V^{χ} ⊕ ⋯ ⊕ \underline{a}^{m−1}V^{χ} se décompose en blocs avec des blocs diagonaux nuls. J’exploite cette propriété en utilisant une suggestion de G. Skandalis pour me ramener au cas de la dimension finie.

La sous-algèbre de L(W) formée des endomorphismes qui stabilisent simultanément V^{χ}, \underline{a}V^{χ}, …, \underline{a}^{m−1}V^{χ} est fermée. D’après [B 67, remarque p. 55 et prop. 7 p. 47], les sous-espaces primaires W^{z} de la restriction de πχ̇(\underline{φ}d\underline{G})^{m} à W associés aux z ∈ ℂ \{0}, qui sont de dimension finie, sont tous sommes de leurs intersections avec V^{χ} et ⋯ et \underline{a}^{m−1}V^{χ}. En outre, chaque W^{z} avec z ∈ ℂ \\{0\} est égal à la somme des sous-espaces primaires de la restriction de πχ̇(\underline{φ}d\underline{G}) à W associés aux racines m^{ièmes} de z. La formule de Lidskij (« la trace est la somme des valeurs propres ») donne ensuite l’égalité tr πχ̇(\underline{φ} d\underline{G}) = ∑_{z∈ℂ\\{0\}}tr (πχ̇(\underline{φ} d\underline{G}) _{W^{z}}) = 0.

D’où, en utilisant cette fois-ci [B 67] relativement à L(V) (cf. dem. de 12.1):

(tr π)_{aG_{0}} = ∑_{χ̇∈⟨\underline{a}⟩\P}(tr πχ̇)_{aG_{0}} = ∑_{χ∈P tel que \underline{a} χ=χ}(tr πχ̇)_{aG_{0}} .

(b) Je vais préciser ici les calculs de [Bou 87, p. 33 et p. 34].

On pose θ(Y) = |D_{G}(x exp Y)|^{1/2} (tr π)_{aG_{0}}(x exp Y) pour tout Y ∈ 𝔧(x)_{1}. On note W le groupe W (𝔤_{ℂ}, 𝔧_{ℂ}) et pr la projection canonique de S 𝔧_{ℂ} sur S 𝔧(x)_{ℂ} obtenue comme dans les conventions 2 (b). La démonstration du (a) montre que (tr π)_{aG_{0}} est vecteur propre de Z(U𝔤_{ℂ}) associé à χ. On fixe un élément l_{0} de 𝔧_{ℂ}^{∗} tel que χ = χ_{l_{0}}^{U𝔤_{ℂ}}. D’après [Bou 87, ligne 4 de 2.5 p. 20], on a :

q(l_{0}) θ = ∂_{pr(q)}θ pour tout q ∈ (S 𝔧_{ℂ})^{W}.

On répète dans ce qui suit les arguments de [Kna 86, p. 369 à p. 371]. Soit X ∈ 𝔧_{ℂ}. On note q_{0}, …, q_{|W |−1} les éléments de (S 𝔧_{ℂ})^{W} pour lesquels

on a l’égalité suivante de polynômes en l’indéterminée T :

∏_{w∈W}(T − wX) = T^{|W |} + q_{|W |−1}T^{|W |−1} + ⋯ + q_{0} dans (S 𝔧_{ℂ})[T].

À partir de là, d’une part en remplaçant T par X, et d’autre part en prenant la valeur de chaque membre en l_{0} puis remplaçant T par X, on obtient dans S 𝔧_{ℂ} :

X^{|W |} + X^{|W |−1}q_{|W |−1} + ⋯ + q_{0} = 0

et X^{|W |} + X^{|W |−1}q_{|W |−1}(l_{0}) + ⋯ + q_{0}(l_{0}) = ∏_{w∈W}(X − l_{0}(wX)).

On utilise l’équation aux dérivées partielles vérifiée ci-dessus par θ avec q successivement égal à q_{|W |−1}, …, q_{0}. Elle donne l’égalité suivante, qu’il reste à exploiter:

∏_{w∈W}(∂_{pr(X)} − l_{0}(wX)) · θ = 0.

On fait décrire à X une base de 𝔧(x)_{ℂ}. D’aprs̀ [Var 77, prop. 3 p. 58], il existe une unique famille (p_{l})_{l∈𝔧(x)_{ℂ}^{∗}} d’éléments de S(𝔧(x)_{ℂ}^{∗}) à support fini telle que

θ(Y) = ∑_{l∈𝔧(x)_{ℂ}^{∗}} p_{l}(Y) e^{l(Y)} pour tout Y ∈ 𝔧(x)_{1}.

On va obtenir des renseignements plus précis en substituant cette expression de θ dans l’égalité qui précédait (et prolongeant analytiquement à 𝔧(x)).

Soit l ∈ 𝔧(x)_{ℂ}^{∗} tel que p_{l} ≠ 0. On note d le degré de p_{l} dans S(𝔧(x)_{ℂ}^{∗}) et p_{l}^{[d]} la composante homogène de p_{l} de degré d. Soit X ∈ 𝔧_{ℂ}. Pour tout w ∈ W, on a

(∂_{pr(X)} − l_{0}(wX)) · p_{l} e^{l} = (l(X) − l_{0}(wX)) p_{l} e^{l} + (∂_{pr(X)}p_{l}) e^{l}.

Le polynôme nul e^{−l}× ∏_{w∈W}(∂_{pr(X)} − l_{0}(wX)) · p_{l} e^{l} admet ∏_{w∈W}(l − w^{−1}l_{0})(X) × p_{l}^{[d]}

comme composante homogène de degré d. Vu que l’anneau S 𝔧_{ℂ}^{∗} est intègre, cela montre que l ∈ W · l_{0}, puis χ = χ_{l}^{U𝔤_{ℂ}}.

On suppose maintenant p_{l} non scalaire. On choisit X ∈ 𝔧_{ℂ} tel que, pour tout w ∈ W hors de W (l) on ait (w l)(X) ≠ l(X), et p_{l}^{[d]}(pr(X)) ≠ 0. On note (pr(X)^{∗}) la base de (ℂ pr(X))^{∗} duale de (pr(X)). La restriction du polynôme nul

e^{−l} × ∏_{w∈W (l)}(∂_{pr(X)} − l(wX)) · ( ∏_{w∈W et w∉W (l)}(∂_{pr(X)} − l(wX)) · p_{l} e^{l})

à ℂ pr(X) est somme d’un polynôme de la forme ζ × (∂_{pr(X)})^{|W (l)|}·(pr(X)^{∗})^{d} avec ζ ∈ ℂ \{0} et de monômes de degrés strictement plus petits. D’où |W (l)| > 1.

(c) Je m’inspire de [Zuc 77, p. 301].

D’après [KV 95, cor. 7.207 p. 530], π ⊗ π_{F} et les représentations de G_{0} sur les composantes Z(U𝔤_{ℂ})-primaires de V ⊗_{ℂ} F donnent des G_{0}-modules de longueur finie admissibles.

Par hypothèse, on a \underline{a} χ = χ. Il existe donc σ ∈ (Ad \underline{a})^{ℂ} int 𝔤_{ℂ} tel que σ(Λ) = Λ. On a: σ(𝔤_{ℂ}(Λ)) = 𝔤_{ℂ}(Λ) et σ(C) = C, puis σ(Λ_{F}) = Λ_{F}. On en déduit que \underline{a} χU𝔤_{ℂ}_{Λ+Λ_{F}} = σ χU𝔤_{ℂ}_{Λ+Λ_{F}} = χU𝔤_{ℂ}_{Λ+Λ_{F}}. Le groupe \underline{G} laisse donc stable (V ⊗_{ℂ} F)^{χ_{Λ+Λ_{F}}^{U𝔤_{ℂ}}}.

On note P′ l’ensemble des poids de Z(U𝔤_{ℂ}) dans (V ⊗_{ℂ} F)^{∞}, P (F, 𝔧(x)_{ℂ}) l’ensemble des poids de 𝔧(x)_{ℂ} dans F et F^{γ} l’espace propre de 𝔧(x)_{ℂ} associé à un élément γ de P (F, 𝔧(x)_{ℂ}). Pour tout Y ∈ 𝔧(x)_{1}, on a grâce au (a) :

(tr π)_{aG_{0}}(x exp Y) × tr π_{F} (\underline{x} exp Y) = ∑_{χ′∈P′ tel que \underline{a} χ′=χ′}(tr(π ⊗ π_{F})_{}_{χ̇′})_{aG_{0}}(x exp Y)

et tr π_{F} (\underline{x} exp Y) = ∑_{γ∈P (F,𝔧(x)_{ℂ})}tr(π_{F} (\underline{x}) _{F^{γ}}) e^{γ(Y)}.

On applique le (b) à π, et aux (π ⊗ π_{F})_{}_{χ̇′} avec χ′ ∈ P′ tel que \underline{a} χ′ = χ′, parmi lesquels se trouve π_{Zuc}. En identifiant les facteurs polynomiaux écrits devant les fonctions e^{l} avec l ∈ 𝔧(x)_{ℂ}^{∗}, on trouve que pour tout Y ∈ 𝔧(x)_{1} on a

|D_{G}(x exp Y)|^{1/2} (tr π_{Zuc})_{aG_{0}}(x exp Y) = ∑_{(l,γ) ∈ A} tr(π_{F} (\underline{x}) _{F^{γ}}) p_{l} e^{(l + γ)(Y)},

où on a posé A = {(l, γ) ∈ 𝔧(x)_{ℂ}^{∗} × P (F, 𝔧(x)_{ℂ}) | χ = χ_{l}^{U𝔤_{ℂ}} et χU𝔤_{ℂ}_{Λ+Λ_{F}} = χ_{l+γ}^{U𝔤_{ℂ}}}.

Pour finir, on vérifie que A = {(l, γ) ∈ 𝔧(x)_{ℂ}^{∗} × 𝔧_{ℂ}^{∗} | χ = χ_{l}^{U𝔤_{ℂ}} et γ = l_{F} }, et dim F^{γ} = 1 pour (l, γ) ∈ A. L’inclusion ⊇ est claire. On considère un (l, γ) ∈ A. On modifie le choix de Λ en prenant Λ = l. On va montrer que γ = Λ_{F}, et calculer dim F^{γ}. On fixe un w ∈ W (𝔤_{ℂ}, 𝔧_{ℂ}) tel que l + γ = w(Λ + Λ_{F}). On a γ − Λ_{F} = w(Λ + Λ_{F}) − (Λ + Λ_{F}) et w(Λ + Λ_{F}) − (Λ + Λ_{F}) ≤ 0 pour l’ordre associé à C, car Λ + Λ_{F} ∈ \overline{C} + Z(𝔤_{ℂ})^{∗}. D’autre part, il existe un poids ζ de 𝔧_{ℂ} dans F tel que γ = ζ _{𝔧(x)_{ℂ}}. L’inclusion 𝔧(x)_{ℂ}^{∗} ⊆ 𝔧_{ℂ}^{∗} identifie γ à l’isobarycentre de la partie finie {Ad^{∗} x^{n} · ζ}_{n∈ℤ} de l’ensemble des poids de 𝔧_{ℂ} dans F. Donc γ − Λ_{F} ≥ 0 pour l’ordre associé à C. Par conséquent γ = Λ_{F}. Comme γ est un poids extrémal de 𝔧_{ℂ} dans F qui est isobarycentre d’un ensemble fini de poids de 𝔧_{ℂ} dans F, il est égal en particulier à ζ. Ainsi le sous-espace propre de F de poids γ sous l’action de 𝔧(x)_{ℂ} est de dimension 1.

13. Passage de T_{λ_{r},σ_{r}}^{M′} à T_{λ̃,τ_{M′}}^{M′}

Pour simplifier les notations, on pose dans cette section : 𝕄′ = 𝔾(ν_{+}), ρ = ρ_{𝔪′,𝔥}, σ = τ_{M′}, et λ_{r} = λ_{+,𝔪′}. On a donc λ_{r} = (μ − 2iρ) + ν ∈ 𝔪′∗_{ss reg} . On va voir qu’en gros, le caractère tr T_{λ̃,σ}^{M′} se déduit d’un caractère de la forme tr T_{λ_{r},σ_{r}}^{M′} par translation au sens de Zuckerman.

La proposition suivante va s’obtenir en prouvant une variante des résultats de Bouaziz dans [Bou 84, (i) et (ii) p. 550] (cf. aussi [KV 95, p. 547 et p. 548]). Elle a pour origine le lemme 3.1 p. 406 de [KZ 82], qui fournit l’égalité des restrictions à M′_{0} des caractères considérés au (b) ci-dessous.

Proposition 13.1. On fixe â ∈ M′(λ̃)^{𝔪′/𝔥} au-dessus d’un élément elliptique a de M′(λ̃). On note \underline{M′} le produit semi-direct de ℤ par M′_{0} tel que \underline{a} := 1 ∈ ℤ agisse sur M′_{0} par int a.

(a) Il existe une représentation linéaire continue π_{F} de \underline{M′} dans un espace de Hilbert complexe de dimension finie F, unique à isomorphisme près, dont la restriction à M′_{0} est irréductible avec pour plus bas poids −2ρ pour l’action de 𝔥_{ℂ} et relativement à l’ordre déduit de R^{+}(𝔪′_{ℂ}, 𝔥_{ℂ}), telle que \underline{a} agisse trivialement sur l’espace propre de poids −2ρ.

(b) On prolonge les représentations unitaires T M′_{0} ; λ̃ et T_{λ_{r}}^{M′_{0}} de M′_{0} « d’espaces » notés H et V, en des représentations linéaires continues πλ̃ et π_{λ_{r}} de \underline{M′} par les conditions πλ̃(\underline{a}) = Sλ̃(â) et π_{λ_{r}}(\underline{a}) = S_{λ_{r}}(â), où Sλ̃ et S_{λ_{r}} sont les représentations de M′(λ̃)^{𝔪′/𝔥} (qui est égal à M′(λ_{r})^{𝔪′/𝔥}) attachées à λ̃ et λ_{r} dans la proposition 8.1 (b).

Les représentations de \underline{M′} dans H et (V ⊗_{ℂ} F)^{χ_{i λ}^{U𝔪′_{ℂ}}} sont traçables et ont même caractère.

Démonstration de la proposition. (a) Il existe — et on se donne — une représentation linéaire irréductible de 𝔪′_{ℂ} dans un espace de Hilbert complexe F de dimension finie, de plus bas poids −2ρ pour l’action de 𝔥_{ℂ} relativement à l’ordre déduit de R^{+}(𝔪′_{ℂ}, 𝔥_{ℂ}). Elle s’intègre en une représentation « du » revêtement universel de M′_{0} avec un caractère central trivial, puis en une représentation de M′_{0} notée π_{F,0}. Comme \underline{a} normalise 𝔥 et fixe −2ρ, il existe un unique opérateur d’entrelacement Φ de (F, int \underline{a} · π_{F,0}) sur (F, π_{F,0}) qui agit trivialement sur le sous-espace propre de F de poids −2ρ sous l’action de 𝔥_{ℂ}, commun aux deux représentations et de dimension 1. On construit π_{F} en prolongeant π_{F,0} et choisissant π_{F} (\underline{a}) égal à Φ.

(b) On remarque d’abord que \underline{M′} stabilise H_{0} := (V ⊗_{ℂ} F)^{χ_{i λ}^{U𝔪′_{ℂ}}}. D’après le lemme 12.1 et la proposition 12.3 (c), les représentations de \underline{M′} dans H et H_{0} sont traçables.

On fixe un sous-groupe compact maximal K_{M′_{0}} de M′_{0} stable par int a et dont l’involution de Cartan normalise 𝔥. Par exemple exp(𝔠_{M′} ∩ 𝔪′), où 𝔠_{M′} est l’algèbre de Lie d’un sous-groupe compact maximal du produit semi-direct de {1, c} (c : conjugaison de 𝕄′(ℂ)) par 𝕄′(ℂ) qui contient à la fois c et le sous-groupe engendré par le produit de la projection dans 𝕄′(ℝ) de a avec exp_{𝕄′(ℂ)}(i 𝔥_{(ℝ)}). On note H^{f}, H_{0}^{f} et V^{f} les (𝔪′_{ℂ}, K_{M′_{0}})-modules stables par \underline{a} associés à H, H_{0} et V. D’après [Kna 86, prop. 10.5 p. 336] avec sa démonstration (cf. [Kna 86, cor. 8.8 p. 211]), les représentations de \underline{M′} dans H et H_{0} ont même caractère s’il existe un isomorphisme de (𝔪′_{ℂ}, K_{M′_{0}})-modules de H^{f} sur H_{0}^{f} compatible à l’action de \underline{a}.

On a vu au cours de la démonstration de 8.1 (a) que H^{f} et V^{f} sont irréductibles, isomorphes à R_{M′_{0}}^{q′}(ℂ_{i λ−ρ}) et R_{M′_{0}}^{q′}(ℂ_{i λ_{r}−ρ}) où R_{M′_{0}}^{q′} est le foncteur d’induction cohomologique relatif à 𝔟_{M′} et ℂ_{Λ} est pour chaque Λ ∈ i 𝔥^{∗} le (𝔥_{ℂ}, T_{0})-module ℂ sur lequel 𝔥 agit par Λ. D’après [KV 95, th. 7.237 p. 544] et en utilisant la notation ψ_{l}^{l′} de [KV 95, (7.141) p. 493], on a

R_{M′_{0}}^{q′}(ψ_{i λ_{r}−ρ}^{i λ−ρ}(ℂ_{i λ_{r}−ρ})) ≃ ψ_{i λ_{r}}^{i λ}(R_{M′_{0}}^{q′}(ℂ_{i λ_{r}−ρ})).

Ainsi, les (𝔪′_{ℂ}, K_{M′_{0}})-modules H^{f} et H_{0}^{f} sont isomorphes.

Compte tenu de la caractérisation de Sλ̃(â) dans 8.1 (b), du lemme de Schur de [Wal 88, lem. 3.3.2 p. 80] et de l’identification H_{q′}(𝔫_{M′}, H^{∞})^{∗} = H_{q′}(𝔫_{M′}, H^{f})^{∗} de [Duf 82a, lem. 4 p. 165], pour obtenir la compatibilité à l’action de \underline{a} d’un isomorphisme de (𝔪′_{ℂ}, K_{M′_{0}})-modules fixé de H^{f} sur H_{0}^{f}, il suffit de montrer que

\underline{a} agit à partir de π_{λ_{r}}(\underline{a}) ⊗ π_{F} (\underline{a}) dans (H_{q′}(𝔫_{M′}, H_{0}^{f})^{∗})_{−(i λ+ρ)} par ρ𝔪′/𝔥 ; λ̃(â)^{−1} id,

c’est-à-dire par ρ_{λ_{r}}^{𝔪′/𝔥}(â)^{−1} id.

L’idée de Bouaziz consiste en gros à vérifier la compatibilité à l’action de \underline{a} de l’isomorphisme qu’on obtiendrait au niveau de l’homologie en prenant 𝔮 égal au conjugué de 𝔟_{M′} et X égal à V^{f} dans [KV 95, th. 7.242 p. 546]. Malheureusement, l’hypothèse « i λ_{r} est au moins autant singulier que i λ » n’est pas satisfaite. Au lieu de passer de V^{f} à H_{0}^{f}, on va passer de H_{0}^{f} à V^{f} en utilisant une propriété de la composée de deux foncteurs de translation de Zuckerman.

D’après [KV 95, th. 7.220 p. 536], le morphisme de (𝔪′_{ℂ}, K_{M′_{0}})-modules compatible à l’action de \underline{a} de (H_{0}^{f} ⊗_{ℂ}F^{∗})^{χ_{i λr}^{U𝔪′_{ℂ}}} dans V^{f} obtenu par restriction à partir de l’application canonique de V^{f} ⊗_{ℂ} F ⊗_{ℂ} F^{∗} dans V^{f}, est non nul donc surjectif. Les composantes Z(U𝔥_{ℂ})-primaires associées à χ_{i λ_{r}+ρ}^{U𝔥_{ℂ}} dans la suite exacte de 𝔥_{ℂ}-modules d’homologie issue de cette surjection fournissent un morphisme de 𝔥_{ℂ}- modules de H_{q′}(𝔫_{M′}, (H_{0}^{f} ⊗_{ℂ} F^{∗})^{χ_{i λr}^{U𝔪′_{ℂ}}})^{χ_{i λr+ρ}^{U𝔥_{ℂ}}} dans H_{q′}(𝔫_{M′}, V^{f})^{χ_{i λr+ρ}^{U𝔥_{ℂ}}} compatible à l’action de \underline{a}, qui est surjectif d’après [KV 95, lem. 8.9 p. 553].

Soit v_{0}^{∗} un vecteur non nul de F^{∗} de poids 2ρ pour l’action de 𝔥_{ℂ}. On a 𝔫_{M′} · v_{0}^{∗} = \{0\} et \underline{a} · v_{0}^{∗} = v_{0}^{∗} d’après (a). Il reste à prouver que chacun des deux morphismes de 𝔥_{ℂ}-modules compatibles à l’action de \underline{a} déduits des injections canoniques de (H_{0}^{f} ⊗_{ℂ}F^{∗})^{χ_{i λr}^{U𝔪′_{ℂ}}} et H_{0}^{f} ⊗_{ℂ}ℂv_{0}^{∗} dans H_{0}^{f} ⊗_{ℂ}F^{∗}, définis respectivement sur H_{q′}(𝔫_{M′}, (H_{0}^{f} ⊗_{ℂ} F^{∗})^{χ_{i λr}^{U𝔪′_{ℂ}}})^{χ_{i λr+ρ}^{U𝔥_{ℂ}}} et H_{q′}(𝔫_{M′}, H_{0}^{f})^{χ_{i λ+ρ}^{U𝔥_{ℂ}}} ⊗_{ℂ} ℂv_{0}^{∗}, et tous deux à valeurs dans H_{q′}(𝔫_{M′}, H_{0}^{f} ⊗_{ℂ} F^{∗})^{χ_{i λr+ρ}^{U𝔥_{ℂ}}}, est bijectif. En effet, dans ce cas et avec la notation ℂ_{Λ} introduite plus haut dans cette démonstration, la droite formée des morphismes de 𝔥_{ℂ}-modules de H_{q′}(𝔫_{M′}, V^{f}) dans ℂ_{i λ_{r}+ρ} s’injectera de manière compatible à l’action de \underline{a} dans celle formée des morphismes de 𝔥_{ℂ}-modules de H_{q′}(𝔫_{M′}, H_{0}^{f}) dans ℂ_{i λ+ρ}.

Le premier des deux morphismes précédents est bijectif d’après [KV 95, (7.243) p. 547, cf. prop. 7.166 p. 506]. Pour le second, on pose W = F^{∗}/ ℂv_{0}^{∗}.

La suite exacte de 𝔟_{M′} -modules 0→H_{0}^{f} ⊗_{ℂ}ℂv_{0}^{∗} →H_{0}^{f} ⊗_{ℂ}F^{∗} →H_{0}^{f} ⊗_{ℂ}W →0 fournit le morceau suivant de la suite exacte de 𝔥_{ℂ}-modules d’homologie :

{H_{q′+1}(𝔫_{M′}, H_{0}^{f} ⊗_{ℂ} W) → H_{q′}(𝔫_{M′}, H_{0}^{f}) ⊗_{ℂ} ℂv_{0}^{∗} \atop → H_{q′}(𝔫_{M′}, H_{0}^{f} ⊗_{ℂ} F^{∗}) → H_{q′}(𝔫_{M′}, H_{0}^{f} ⊗_{ℂ} W).}

On termine la démonstration en montrant que H_{•}(𝔫_{M′}, H_{0}^{f} ⊗_{ℂ} W)^{χ_{i λr+ρ}^{U𝔥_{ℂ}}} = {0}.

Par le théorème de Lie, il existe — et on fixe — une suite {0} = W^{(−1)} ⊆ W^{(0)} ⊆ ⋯ ⊆ W^{(N)} = W de sous-𝔟_{M′} -modules de W avec dim W^{(j)}/ W^{(j−1)} = 1 pour 0 ≤ j ≤ N. D’après [KV 95, prop. 3.12 p. 188], pour tout (𝔟_{M′}, T_{0})-module E et tout n ∈ ℕ, le 𝔥_{ℂ}-module H_{n}(𝔫_{M′}, E) est isomorphe à P_{n}(E), où P_{n} est le n^{ième} foncteur dérivé du foncteur exact à droite de la catégorie des (𝔟_{M′}, T_{0})- modules dans celle des (𝔥_{ℂ}, T_{0})-modules noté P_{𝔟_{M′},T_{0}}^{𝔥_{ℂ},T_{0}} dans [KV 95, (2.8) p. 104]. D’après [KV 95, prop. D.57 (b) p. 887, cf. (2.123) p. 162], il existe — et on fixe — une filtration {0} = C(−1)_{•} ⊆ C(0)_{•} ⊆ ⋯ ⊆ C(N)_{•} = C_{•} d’un complexe de chaines C_{•} en (𝔥_{ℂ}, T_{0})-modules nul en degré strictement négatif, dont chaque 𝔥_{ℂ}- modules d’homologie H_{n}(C_{•}) est isomorphe à H_{n}(𝔫_{M′}, H_{0}^{f} ⊗_{ℂ} W) pour n ∈ ℕ, et dont la suite spectrale (E^{r})_{r≥0} fournit des 𝔥_{ℂ}-modules E_{p,q}^{1} isomorphes à H_{p+q}(𝔫_{M′}, H_{0}^{f}) ⊗_{ℂ} (W^{(p)}/ W^{(p−1)}) pour 0 ≤ p ≤ N et p + q ≥ 0. D’après [KV 95, prop. 7.56 p. 460], les composantes Z(U𝔥_{ℂ})-primaires de chacun de ces 𝔥_{ℂ}-modules E_{p,q}^{1} sont associées à des caractères de la forme χU𝔥_{ℂ}_{w i λ+ρ+ γ} avec w ∈ W (𝔪′_{ℂ}, 𝔥_{ℂ}), où on a noté γ le poids de 𝔥_{ℂ} dans W^{(p)}/ W^{(p−1)}. Ainsi, au vu de [KV 95, prop. 7.166 p. 506], on a (E_{p,q}^{1})^{χ_{i λr+ρ}^{U𝔥_{ℂ}}} = {0}. Par ailleurs, pour n ∈ ℕ et q ∈ ℤ, le 𝔥_{ℂ}-module E_{n−q,q}^{∞} est un sous-quotient de E_{n−q,q}^{1} isomorphe au quotient de pr_{H_{n}(C_{•})}(H_{n}(C(n−q)_{•})) par pr_{H_{n}(C_{•})}(H_{n}(C(n−q−1)_{•})), où on a utilisé la même notation pr_{H_{n}(C_{•})} pour les applications canoniques à valeurs dans H_{n}(C_{•}). D’où pour chaque n ∈ ℕ les relations suivantes entre 𝔥_{ℂ}-modules :

{H_{n}(𝔫_{M′}, H_{0}^{f} ⊗_{ℂ} W)^{χ_{i λr+ρ}^{U𝔥_{ℂ}}} ≃ pr_{H_{n}(C_{•})}(H_{n}(C(N)_{•}))^{χ_{i λr+ρ}^{U𝔥_{ℂ}}} \atop = ⋯ = pr_{H_{n}(C_{•})}(H_{n}(C(−1)_{•}))^{χ_{i λr+ρ}^{U𝔥_{ℂ}}} = \{0\}.}

Cela achève la démonstration.

Remarque 13.2. On conserve les notations de la démonstration précédente. En particulier, K_{M′_{0}} est stable par int a. On fixe un opérateur d’entrelacement Φ de (H, int a · T M′_{0} ; λ̃) sur (H, T M′_{0} ; λ̃) et un isomorphisme Ψ de (𝔪′_{ℂ}, K_{M′_{0}})-modules de H^{f} sur H_{0}^{f}. On note Φ^{f} la restriction de Φ à H^{f} et π_{0}(\underline{a})^{f} l’opérateur par lequel \underline{a} agit sur H_{0}^{f}. D’après le lemme de Schur, il existe z ∈ ℂ \\{0\} tel que Φ^{f} = z Ψ^{−1}∘ π_{0}(\underline{a})^{f} ∘ Ψ. La démonstration de la proposition 13.1 (b) montre que la représentation S de la proposition 8.1 (b) vérifie S(â) = z^{−1} Φ. Par ailleurs, K_{M′_{0}} est inclus dans un sous-groupe compact maximal de M′ qui contient a, et les sous-groupes compacts maximaux de M′ sont conjugués sous M′_{0} (cf. [Hoc 65, th. 3.1 p. 180 et lignes avant le th. 3.7 p. 186]). Il est facile d’en déduire que z est indépendant du choix de K_{M′_{0}} . On aurait donc pu définir S en se ramenant au cas semi-simple régulier traité par M. Duflo (pour les valeurs sur les éléments elliptiques) et en s’arrangeant pour que S(exp X) = e^{−iλ(X)} T M′_{0} ; λ̃(exp X) quand X ∈ 𝔥. Il resterait à prouver à partir de cette nouvelle définition que S est une représentation (unitaire) de M′(λ̃)^{𝔪′/𝔥}.

Fin de la démonstration du théorème. Il reste à prouver le théorème pour la représentation T_{λ̃,σ}^{M′}. La situation de référence est celle de [Zuc 77, lem. 5.4 p. 304], dans laquelle M′ est remplacé par M_{0} et e est remplacé par un élément semi-simple régulier de M_{0}.

On suppose que e ∈ M′. On note V_{e}^{M′}, d_{e}^{M′} et D_{e}^{M′} les objets analogues à V_{e}, d_{e} et D_{e} attachés à M′. On choisit â ∈ M′(λ̃)^{𝔪′/𝔥} au-dessus d’un a ∈ M′(λ̃) elliptique tel que e ∈ a M′_{0}. On lui associe \underline{M′}, πλ̃ et π_{λ_{r}} comme dans la dernière proposition. On va utiliser les notations de la proposition 12.3 (a) relatives au groupe \underline{M′}. On introduit l’élément σ_{r} de X_{M′}^{irr}(λ_{r}) tel que :

σ_{r}(û) = det(Ad u^{ℂ})_{𝔫_{M′}} σ(û) pour û ∈ M′(λ̃)^{𝔪′/𝔥}.

Il vérifie: tr T_{λ̃,σ}^{M′} _{e M′_{0}} = tr σ(â) × (tr πλ̃)_{aM′_{0}}
et tr T_{λ_{r},σ_{r}}^{M′} _{e M′_{0}} = tr σ_{r}(â) × (tr π_{λ_{r}})_{aM′_{0}}.

Pour terminer la démonstration, on remarque que compte tenu de la proposition 13.1, la proposition 12.3 va ensuite permettre de relier (tr T_{λ̃,σ}^{M′})_{e} à (tr T_{λ_{r},σ_{r}}^{M′})_{e}.

On vérifie la formule du caractère pour tr T_{λ̃,σ}^{M′} (sous la forme proposée dans le début de la démonstration du théorème) sur l’ouvert inclus dans 𝔪′(e)_{ss reg} de complémentaire négligeable et sur lequel les deux membres de l’égalité sont des fonctions analytiques, formé des X ∈ V_{e}^{M′} tels que e exp X ∈ M ′_{ss reg} .

Soit X ∈ V_{e}^{M′} tel que x := e exp X ∈ M ′_{ss reg} . On pose 𝔧_{x} := 𝔪′(x). Donc 𝔧_{x} = 𝔪′(e)(X) ∈ Car 𝔪′(e) (vu les dimensions) et 𝔧 := C_{𝔪′}(𝔧_{x}) ∈ Car 𝔪′. On note Γ la composante connexe de X dans 𝔧(x) ∩ 𝔪′(e)_{ss reg} . Pour poursuivre le calcul, on considère un Y ∈ 𝔧(x)_{1} (cf. 12.3 (b) pour G = M′) tel que X +Y ∈ Γ ∩ V_{e}^{M′}.

D’après [Bou 87, th. 5.5.3 p. 52] et grâce à 4.3 (b), la formule du caractère est acquise pour tr T_{λ_{r},σ_{r}}^{M′}. Par conséquent, on a :

tr σ_{r}(â) × |D_{M′}(x exp Y)|^{1/2} (tr π_{λ_{r}})_{aM′_{0}}(x exp Y) = | det (1 − Ad e)_{𝔪′/𝔪′(e)}|^{1/2} |D_{𝔪′(e)}(X +Y)|^{1/2} (tr T_{λ_{r},σ_{r}}^{M′})_{e}(X +Y)

=^{(⋆)} i^{−d_{e}^{M′}} (D_{e}^{M′})^{− \frac{1}{2}} | det (1 − Ad e)_{𝔪′/𝔪′(e)}|^{1/2} ∑_{λ′_{r}^{.} ∈ M′(e)_{0}\M′_{0}·λ_{r}∩ 𝔪′(e)^{∗}}

\frac{O(ê′)_{(1−Ad e′)(𝔪′/𝔥)}}{O(B_{λr})_{(1−Ad e′)(𝔪′/𝔥)}} tr σ_{r}(ê′) |D_{𝔪′(e)}(X +Y)|^{1/2} β̂_{M′(e)_{0}·λ′_{r}}(X +Y)

où g ∈ M′_{0} vérifie λ′_{r} = gλ_{r} et ê′ ∈ M′(λ̃)^{𝔪′/𝔥} est au-dessus de e′ = g^{−1}eg.

On se donne g ∈ M′_{0} comme ci-dessus. On note pr l’application canonique de M′ dans 𝕄′(ℂ). On associe à g un élément y^{g} de 𝕄′(ℂ)(pr(e))_{0} vérifiant 𝔧(x)_{ℂ} = y^{g} · (g𝔥)(e)_{ℂ}. On fixe un système de racines positives R^{+}(𝔪′(e)_{ℂ}, 𝔧(x)_{ℂ}) de R(𝔪′(e)_{ℂ}, 𝔧(x)_{ℂ}). D’après la proposition 2.6 (b), il existe des nombres complexes c_{w}^{g} indépendants de Y et indexés par les w ∈ W (𝔪′(e)_{ℂ}, 𝔧(x)_{ℂ}) tels qu’on ait

∏_{α∈R^{+}(𝔪′(e)_{ℂ},𝔧(x)_{ℂ})}α(X +Y) × β̂_{M′(e)_{0}·gλ_{r}}(X +Y) =^{(⋆⋆)} ∑_{w∈W (𝔪′(e)_{ℂ},𝔧(x)_{ℂ})}c_{w}^{g} e^{i wy^{g}gλ_{r}(X+Y)}

et  ∏_{α∈R^{+}(𝔪′(e)_{ℂ},𝔧(x)_{ℂ})}α(X) × β̂_{M′(e)_{0}·(gλ̃)[e]}(X) = ∑_{w∈W (𝔪′(e)_{ℂ},𝔧(x)_{ℂ})}c_{w}^{g} e^{i wy^{g}gλ (X)}

quand (gλ̃)[e] ∈ \begin{matrix} \\ 𝔪′(e) & ∗ \end{matrix}_{reg}, et ∑_{w∈W (𝔪′(e)_{ℂ},𝔧(x)_{ℂ})}c_{w}^{g} e^{i wy^{g}gλ (X)} = 0 si (gλ̃)[e] ∉ \begin{matrix} \\ 𝔪′(e) & ∗ \end{matrix}_{reg}.

En outre, la fonction |D_{𝔪′(e)}|^{1/2} × ( ∏_{α∈R^{+}(𝔪′(e)_{ℂ},𝔧(x)_{ℂ})}α)^{−1} sur Γ est à valeurs

dans l’ensemble des racines quatrièmes de l’unité, donc constante. On déduit des égalités (⋆) et (⋆ ⋆) une formule pour tr σ_{r}(â) × (tr π_{λ_{r}})_{aM′_{0}}(x exp Y) qui fait intervenir cette constante.

D’après la proposition 8.4 (a), la représentation π_{λ_{r}} de \underline{M′} admet pour caractère infinitésimal χ_{i λ_{r}}^{U𝔪′_{ℂ}}. On applique la proposition 12.3 (c) à \underline{M′} avec π = π_{λ_{r}}, Λ = i λ_{r} et Λ_{F} = −2ρ (π_{F} ci-dessous). On dispose d’une représentation (π_{λ_{r}})_{Zuc} de \underline{M′} et, vu ce qui précède, d’une formule pour tr σ_{r}(â) × (tr(π_{λ_{r}})_{Zuc})_{aM′_{0}}(x exp Y). Par la proposition 13.1 (b), on a aussi tr(π_{λ_{r}})_{Zuc} = tr πλ̃ par choix de π_{F}.

On choisit maintenant Y = 0, et récapitule. On constate que (tr T_{λ̃,σ}^{M′})_{e}(X) se déduit de l’expression de (tr T_{λ_{r},σ_{r}}^{M′})_{e}(X) obtenue ci-dessus, en remplaçant le coefficient c_{w}^{g} e^{i wy^{g}g λ_{r}(X)} par (det(Ad a^{ℂ})_{𝔫_{M′}})^{−1} × \underline{x}_{l_{F}} c_{w}^{g} e^{i wy^{g}g λ_{r}(X)} pour chaque w ∈ W (𝔪′(e)_{ℂ}, 𝔧(x)_{ℂ}), où l_{F} := −2 wy^{g}g ρ.

Soit w ∈ W (𝔪′(e)_{ℂ}, 𝔧(x)_{ℂ}). On va calculer le terme \underline{x}_{l_{F}} qui lui est associé. On se donne un représentant w̃ de w dans 𝕄′(ℂ)(pr(e))_{0}. On note \underline{M′}_{ℂ} le produit semi-direct de ℤ par 𝕄′(ℂ)_{0} tel que 1 ∈ ℤ agisse sur 𝕄′(ℂ)_{0} par int pr(a), et \underline{pr} l’application canonique de \underline{M′} dans \underline{M′}_{ℂ}. Il existe une unique représentation holomorphe π_{F,ℂ} de \underline{M′}_{ℂ} dans F telle que π_{F} = π_{F,ℂ}∘\underline{pr}. On fixe un vecteur non nul v_{0} de F de poids −2ρ pour l’action de 𝔥_{ℂ} dans F. On s’intéresse au vecteur non nul w̃y^{g}g ·v_{0} de F qui a pour poids l_{F} sous l’action de 𝔧(x)_{ℂ}. On pose encore e′ = g^{−1}eg. En se plaçant dans le produit semi-direct de ℤ par 𝕄′(ℂ) au moyen de int pr(a) et utilisant la définition de \underline{x} (cf. 12.3 (c)), on obtient :

\underline{pr}(\underline{x}) w̃y^{g} pr(g) \begin{matrix}= & pr(x) w̃y^{g} pr(g) pr(a)^{−1} \underline{pr}(\underline{a}) \\ = & pr(exp X) w̃y^{g} pr(g) pr(e′a^{−1}) \underline{pr}(\underline{a}) \end{matrix}

puis \underline{x} · (w̃y^{g}g · v_{0}) = exp X · (w̃y^{g}g · ((e′a^{−1}) · v_{0})). La propriété e′a^{−1} ∈ M′_{0}(λ̃) = exp 𝔥 permet d’en déduire que :

\underline{x}_{l_{F}} = det(Ad a^{ℂ})_{𝔫_{M′}} (det(Ad e′^{ℂ})_{𝔫_{M′}})^{−1} e^{−2 wy^{g}g ρ(X)}. Cela permet de conclure.

Index des notations

⟨ , ⟩, 141, 145 𝔞, 141 A, 141 B_{f}, 156 𝔟_{M′}, 163 Car 𝔤, 141 c_{ê′,λ̃} cf. (F) p. 175 C(𝔤(λ), 𝔥), 143 C(𝔤(λ), 𝔥)_{reg}, 143 d_{e}, 172 D_{e}, 172 D_{𝔤}, 147 D_{G}, 172 DL(V), 152 F^{+}[e], 150 F_{𝔥}^{+}, 146 𝔤, 138 G, 138 𝔾, 138 Ĝ, 138 𝔤(f), 142 G(f), 142 G(f)^{𝔤/𝔤(f)}, 156 𝔤(x), 142 G(x), 142 𝔤(X), 142 G(X), 142 𝔤(λ̃), 144 G(λ̃), 144 G(λ_{+})^{𝔤/𝔥}, 156 G(λ_{+})_{0}^{𝔤/𝔥}, 156 G(λ̃)^{𝔤/𝔤(λ)(iρ_{F^{+}})}, 156 G(λ̃)^{𝔤/𝔥}, 156

G(λ̃)_{0}^{𝔤/𝔥}, 156 𝔤_{ss reg} , 147 G_{ss reg} , 172 𝔤^{∗}(x), 142 𝔤^{∗}(X), 142 𝔤̃^{∗}_{fond}, 143 𝔤̃^{∗}_{fond,G}, 143 𝔤̃^{∗}_{fond}(e), 150 𝔤̃^{∗}_{I}, 143 𝔤̃^{∗}_{I}(e), 150 𝔤̃^{∗}_{I,G}, 143 𝔤̃^{∗}_{Inc}, 143 𝔤̃^{∗}_{Inc}(e), 150 𝔤̃^{∗}_{Inc,G}, 143 𝔤_{reg}^{∗}, 142 𝔤̃^{∗}_{reg}, 143 𝔤_{reg}^{∗}(e), 150 𝔤̃^{∗}_{reg}(e), 150 𝔤̃^{∗}_{reg,G}, 143 𝔤_{ss}^{∗}, 142 𝔤_{ssfond,G}^{∗}, 143 𝔤_{ssI}^{∗}, 142 𝔤_{ssI,G}^{∗}, 143 𝔤_{ssInc}^{∗}, 142 𝔤_{ssInc,G}^{∗}, 143

𝔤∗_{ss reg} , 142

𝔥 cf. 1.4, 144 H, 163 𝔥_{(ℝ)}, 141 H_{α}, 141

𝔧(x)_{1}, 179

k_{e}, 172

𝔪, 161

M, 161 𝔪′, 163 M′, 163 Mp(V), 152 Mp(V)_{L}, 153 n_{L}, 153 𝔫_{M′}, 163 O(A)_{A·V} , 152 O(â)_{(1−a)·V} , 152 O(B)_{V} , 152 q, 161 q′, 163 q_{L}, 153 R(𝔤_{ℂ}, 𝔥_{ℂ}), 141 R^{+}(𝔤_{ℂ}, 𝔥_{ℂ}), 141, 144 R_{G}, 146 R+ ; λ̃, 144 R_{λ̃,𝔞^{∗}^{+}}^{+} , 144 S, 163 sg, 152 Supp_{𝔤^{∗}} Ω̃, 146 𝔱, 141 T_{0}, 141 T_{λ̃,𝔞^{∗}^{+},τ_{+}}^{G}, 163, 165 T_{λ̃,τ}^{G}, 166 T_{λ_{r},σ_{r}}^{M′}, 165 T_{λ_{r}}^{M′_{0}} , 165 T M′_{0} ; λ̃, 163 𝔲, 163 U, 163 V_{e}, 172

V^{χ}, 178

W (G, 𝔥), 141

X_{G}^{final,+}, 159 X_{G}^{final,+}(λ̃, 𝔞^{∗}^{+}), 159 X_{G}^{Ind}, 159 X_{G}^{Ind}(λ̃), 160 X_{G}^{irr}(f), 156 X_{G}^{irr}(λ̃), 159 X_{G}^{irr,+}(λ̃, 𝔞^{∗}^{+}), 159

β_{Ω}, 147 βΩ̃, 147

δ, 153 δ_{λ_{+}}^{𝔤/𝔥}, 157

Θ_{e}, 172

ι, 156

λ, 142

λ_{+} = λ_{𝔤,λ̃,𝔞^{∗}^{+},ϵ}, 144 λ_{+,𝔪′}, 163 λ̃, 144 λ̃[e], 150 λ_{can}, 144

μ, 142

μ_{+} = μ_{𝔤,λ̃,𝔞^{∗}^{+}}, 144 μ_{+,𝔪}, 161 μ̃, 161

ν, 142

ν_{+} = ν_{𝔤,λ̃,𝔞^{∗}^{+},ϵ}, 144

ξ, 142

|Π_{𝔤,𝔪}|, 142 ; ρ_{F^{+}} , 144 ; ρ_{𝔤,𝔥}, 141 ; ρ_{L}, 153  ρ_{λ_{+}}^{𝔤/𝔥}, 157 ; ρ𝔤/𝔤(λ)(iρ_{F^{+}}) ; λ̃, 158 ; ρ_{λ̃,𝔞^{∗}^{+}}^{𝔤/𝔥}, 158  τ, 159 ; τ_{+}, 159 ; τ_{M}, 162 ; τ_{M′}, 164  Φ, 153 ; χ_{l}^{U𝔤_{ℂ}}, 165 ; χG ; λ̃, 160

Références

[ABV 92] Adams, J., D. Barbasch, and D. A. Vogan, “The Langlands classification and irreducible characters for real reductive groups,” Birkhäuser, Boston, 1992.

[B.. 72] Bernat, P., N. Conze, M. Duflo, M. Lévy-Nahas, M. Raïs, P. Renouard, et M. Vergne, “Représentations des groupes de Lie résolubles,” Dunod, Paris, 1972.

[BW 80] Borel, A., and N. Wallach, “Continuous cohomology, discrete subgroups, and representations of reductive groups,” Annals of Math. Studies 94, Princeton University Press, 1980. Seconde édition : Math. Surveys 67, Amer. Math. Soc., 2000.

[Bou 84] Bouaziz, A., Sur les représentations des groupes de Lie réductifs non connexes, Math. Ann. 268 (1984), 539–555.

[Bou 87] —, Sur les caractères des groupes de Lie réductifs non connexes, J. Funct. Anal. 70 (1987), 1–79.

[B 67] Bourbaki, N., “Théories spectrales,” Hermann, Paris, 1967.

[Cha 96] Charbonnel, J.-Y., Orbites fermées et orbites tempérées, II, J. Funct. Anal. 138 (1996), 213–222.

[Cow 88] Cowling, M., On the characters of unitary representations, J. Austral. Math. Soc. Ser. A 45 (1988), 62–65.

[Dix 64] Dixmier, J., “Les C* algèbres et leurs représentations,” Gauthier-Villars, Paris, 1964.

[Dix 69] —, Sur la représentation régulière d’un groupe localement compact connexe, Ann. Sci. École Norm. Sup. 2 (1969), 423–436.

[Duf 82a] Duflo, M., Construction de représentations unitaires d’un groupe de Lie, In: “Harmonic analysis and group representations,” Cours d’été du C.I.M.E., Cortona 1980, Liguori, Naples, 1982, 129–221

[Duf 82b] —, Théorie de Mackey pour les groupes de Lie algébriques, Acta Math. 149 (1982), 153–213.

[Duf 84] —, On the Plancherel formula for almost algebraic real Lie groups, In: “Lie group representations III,” Lect. Notes in Math. 1077, Springer-Verlag, Berlin etc., 1984, 101–165.

[DHV 84] Duflo, M., G. Heckman, et M. Vergne, Projection d’orbites, formule de Kirillov et formule de Blattner, Mém. Soc. Math. Fr. (N.S.) 15 (1984), 65–128.

[DV 88] Duflo, M., et M. Vergne, La formule de Plancherel des groupes de Lie semi-simples réels, In: “Representations of Lie groups,” numéro 14 in Adv. Stud. Pure Math., Academic Press, 1988, 289–336.

[DV 93] —, Cohomologie équivariante et descente, Astérisque 215 (1993), 5–108.

[Har 65] Harish-Chandra, Discrete series for semisimple Lie groups I. Construction of invariant eigendistributions, Acta Math. 113 (1965), 241–318.

[Har 76] —, Harmonic analysis on real reductive groups III. The Maass-Selberg relations and the Plancherel formula, Ann. of Math. 104 (1976), 117– 201.

[Her 83] Herb, R. A., Discrete series characters and Fourier inversion on semisimple real Lie groups, Trans. Amer. Math. Soc. 277 (1983), 241– 262.

[Hoc 65] Hochschild, G., “The Structure of Lie Groups,” Holden-Day, San Francisco 1965.

[Kna 86] Knapp, A. W., “Representation Theory of Semisimple Groups,” Princeton University Press, 1986.

[Kna 96] —, “Lie Groups beyond an Introduction,” Birkhäuser, Boston, 1996.

[KV 95] Knapp, A. W., and D. A. Vogan, “Cohomological Induction and Unitary Representations,” Princeton University Press, 1995.

[KZ 82] Knapp, A. W., and G. J. Zuckerman, Classification of irreductible tempered representations of semisimple groups, Ann. of Math. 116 (1982), 389–501. (Typesetter’s correction: Ann. of Math. 119 (1984), 639).

[Kos 59] Kostant, B., The principal three-dimensional subgroup and the Betti numbers of a complex simple Lie group, Amer. J. Math., 81 (1959), 973–1032.

[Mac 58] Mackey, G. W., Unitary representations of group extension I, Acta Math. 99 (1958), 265–311.

[Ran 72] Ranga Rao, R., Orbital integrals in reductive groups, Ann. of Math., 96 (1972), 505–510.

[Ros 80] Rossmann, W., Limit characters of reductive Lie groups, Invent. Math. 61 (1980), 53–66.

[Ros 82] —, Limit orbit in reductive Lie algebras, Duke Math. J. 49 (1982), 215– 229.

[Spr 66] Springer, T. A., Some arithmetical results on semi-simple Lie algebras, Inst. Hautes Études Sci. 30 (1966), 115–141.

[Var 77] Varadarajan, V. S., “Harmonic analysis on real reductive groups,” Lect. Notes in Math. 576, Springer-Verlag, Berlin etc., 1977.

[Ver 94] Vergne, M., Geometric quantization and equivariant cohomology, In: “First European Congress of Mathematics I, Paris 1992,” Progr. Math. 119, Birkhaüser, Boston, 1994, 249–295.

[Wal 88] Wallach, N., “Real Reductive Groups I, ” Academic Press, New York etc., 1988.

190 Ducloux

[Zuc 77] Zuckerman, G., Tensor products of finite and infinite dimensional representations of semisimple Lie groups, Ann. of Math. 106 (1977), 295–308.

Jean-Yves Ducloux Université Paris 7 UFR de Mathématiques, UMR 7586 2 place Jussieu, F-75251 Paris Cedex 05, France ducloux@math.jussieu.fr

Received September 22, 2000 and in final form June 28, 2001