Journal of Lie Theory Volume 8 (1998) 311–324 ◯^{C}1998 Heldermann Verlag

Restrictions à un sous-espace de Cartan des fonctions C^{∞} invariantes sur l’espace tangent d’un espace symétrique

Nouri Kamoun

Communicated by J. Faraut

Abstract. Let G be a real connected reductive Lie group, σ an involution of G, and H the identity component of the group of its fixed points. Let 𝔤 denote the Lie algebra of G, 𝔤=𝔥⊕𝔮 its decomposition into ±1-eigenspaces for σ, and 𝔞 a Cartan subspace of 𝔮. We study the restriction to 𝔞 of H - invariant differentiable functions on 𝔮, and we give a description of the image of this map.

Introduction

Soient 𝔤 une algèbre de Lie semi-simple complexe, G son groupe adjoint, 𝔥 une sous-algèbre de Cartan de 𝔤 et W le groupe de Weyl de G dans 𝔥. On note P (𝔤)^{G} (resp. P (𝔥)^{W}) l’algèbre des fonctions polynomiales sur 𝔤 (resp. 𝔥) invariantes par G (resp.W). Alors , d’après Chevalley, l’application de restriction est un isomorphisme de P (𝔤)^{G} sur P (𝔥)^{W}. Cette application de restriction est encore injective de l’espace C^{∞}(𝔤)^{G} des fonctions C^{∞}-invariantes par G sur 𝔤, dans l’espace C^{∞}(𝔥)^{W} des fonctions C^{∞} -invariantes par W sur 𝔥, mais elle n’est pas surjective en général (voir [2], exemple 8.2). Dans ([2], corollaire 7.1 ), nous avons donné une caractérisation de l’image.

Dans cet article, nous nous proposons d’étudier le problème analogue pour les algèbres de Lie semi-simples réelles. Comme nos résultats sont aussi valables pour l’espace tangent d’un espace symétrique réductif, nous nous plaçons plutôt dans ce cadre.

Supposons dans la suite que G est un groupe réductif réel, connexe, muni d’une involution notée σ. La différentielle de σ sera aussi noteé σ; c’est une involution de l’algèbre de Lie 𝔤 de G. Alors on a la décomposition de 𝔤 en somme directe 𝔤 = 𝔥 ⊕ 𝔮 où 𝔥 = {X ∈ 𝔤; σ(X) = X} et 𝔮 = {X ∈ 𝔤; σ(X) = −X}. La paire (𝔤, 𝔥) est dite paire symétrique. On notera 𝔤_{ℂ} l’algèbre de Lie complexifiée de 𝔤, et toujours par la même lettre σ le prolongement par linéarité de σ à 𝔤_{ℂ}. L’involution σ ainsi définie se relève en une involution σ du groupe adjoint

ISSN 0949–5932 / $2.50 ◯^{C} Heldermann Verlag G_{ℂ} de 𝔤_{ℂ}. On note H la composante neutre du groupe G^{σ} des points fixes de σ et H_{ℂ} la composante neutre du groupe G_{ℂ}^{σ}. On rappelle que le groupe H agit sur 𝔮. On dira que X ∈ 𝔤 est semi-simple si l’endomorphisme ad X est semi-simple, c’est-à-dire diagonalisable sur ℂ. On rappelle qu’un sous-espace 𝔞 de 𝔮 est appelé sous-espace de Cartan de 𝔮 s’il est abélien, formé d’éléments semi-simples et s’il est maximal pour ces deux propriétés.Tous les sous-espaces de Cartan de 𝔮 ont la même dimension qu’on appelle le rang de 𝔮. Le nombre de classes de conjugaison sous H de sous-espaces de Cartan est fini ([4]). Si 𝔞 est un sous-espace de Cartan de 𝔮, on notera N(H, 𝔞) = {g ∈ H; g𝔞 = 𝔞}, Z(H, 𝔞) = {g ∈ H; gX = X, ∀X ∈ 𝔞} et W = W (H, 𝔞) = N(H, 𝔞)/Z(H, 𝔞).

Si on note Res: C^{∞}(𝔮)^{H} ⟶ C^{∞}(𝔞)^{W} l’application de restriction de l’espace des fonctions C^{∞} et H -invariantes sur 𝔮 dans l’espace des fonctions C^{∞} et W -invariantes sur 𝔞, on sait [1] que dans le cas d’une paire symétrique riemanienne, cette restriction est un isomorphisme et on sait aussi [2] qu’en général, cette restriction n’est pas surjective. Le but de ce travail est de déterminer pour une paire symétrique quelconque, l’image de l’application Res ci-dessus (Théorème 4.1). Les outils fondamentaux de la démonstration sont: le théorème de prolongement de Whitney, le théorème de recollement de Lojasiewicz et le théorème 5.1 de [2] qui donne une condition nécessaire et suffisante pour qu’une fonction continue et H -invariante sur 𝔮 soit C^{∞}. Cette condition nécessaire et suffisante porte sur des propriétés de raccordement vérifiées par les restrictions d’une telle fonction aux différents sous-espaces de Cartan de 𝔮. Je tiens à remercier A.Bouaziz pour ses encouragements.

1. Fonctions C^{∞} invariantes sur l’espace tangent d’un espace symétrique.

Pour la commodité du lecteur et suivant une suggestion du referee, nous donnons un résumé de [2]. L’objet de ce travail est de donner une condition nécessaire et suffisante qui porte sur les restrictions aux différents sous-espaces de Cartan de 𝔮, pour qu’une fonction continue et H -invariante sur 𝔮 soit C^{∞}. Le résultat principal de [2] est

Théoréme 1.1. ([2], théorème 5.1) Soit f: 𝔮 ⟶ ℂ une fonction continue et H -invariante, alors f ∈ C^{∞}(𝔮)^{H} si et seulement si f vérifie les deux propriétés suivantes:

i) Pour tout sous-espace de Cartan 𝔞 de 𝔮, f_{|𝔞} est C^{∞} et W (H, 𝔞)-invariante. ii) Pour tout élément semi-simple X de 𝔮, si 𝔞 et 𝔟 sont deux sous-espaces de Cartan de 𝔮 qui contiennent X et si h.X = X et h.𝔞_{ℂ} = 𝔟_{ℂ}, alors pour tout u dans S(𝔞_{ℂ})

(∂(u).f_{|𝔞})(X) = (∂(h.u).f_{|𝔟})(X).

Pour un sous-espace de Cartan 𝔞 de 𝔮, nous avons noté dans [2] C^{∞}(𝔞)^{inv} l’ensemble des fonctions f: 𝔞 ⟶ ℂ vérifiant

i) f C^{∞} et W (H, 𝔞)-invariante. ii) ∀X ∈ 𝔞, si h ∈ N(H_{ℂ}, 𝔞_{ℂ}) et h.X = X, alors

∀u ∈ S(𝔞_{ℂ}) (∂(u).f)(X) = (∂(h.u).f)(X).

On a alors obtenu le corollaire suivant:

Corollaire 1.2. ([2], corollaire 7.1) On suppose que dans 𝔮, il y ait une seule classe de conjugaison de sous-espaces de Cartan. Soit 𝔞 un sous-espace de Cartan de 𝔮, alors l’application de restriction de C^{∞}(𝔮)^{H} dans C^{∞}(𝔞)^{inv} est un isomorphisme.

Dans [2], nous avons aussi donné une description des fonctions continues H -invariantes sur 𝔮 en fonction de leurs restrictions aux différents sous-espaces de Cartan. On a le lemme suivant:

Lemme 1.3. ([2], lemme 6.1) Notons 𝔞_{1}, …, 𝔞_{r} des représentants des classes de conjugaison sous H des sous-espaces de Cartan de 𝔮. Supposons que f_{1}, …, f_{r} soient des fonctions continues respectivement sur 𝔞_{1}, …, 𝔞_{r} et vérifiant: pour tout i = 1, …, r, tout X dans 𝔞_{i} et tout h ∈ H tels que h.X ∈ 𝔞_{j}, on ait f_{j}(h.X) = f_{i}(X) (en particulier f_{i} est supposée W (H, 𝔞_{i})-invariante). Alors, il existe une unique fonction f continue et H -invariante sur 𝔮 telle que, pour tout i = 1, …, r , on ait f_{|𝔞_{i}} = f_{i}.

2. Fonctions C^{∞} au sens de Whitney.

Si E est un fermé de ℝ^{n}, un jet de Whitney d’ordre infini sur E est la donnée d’une famille (f^{k})_{k∈ℕ^{n}} de fonctions numériques complexes continues sur E. On notera J^{∞}(E) l’ensemble de tous les jets de Whitney d’ordre infini sur E. L’ensemble J^{∞}(E) est naturellement muni d’une structure d’espace vectoriel. Si E est compact, on définit un sous-espace c^{∞}(E) de J^{∞}(E) comme suit. Un élément f de J^{∞}(E) appartient à c^{∞}(E) si et seulement si pour tout m > 0, pour tout k ∈ ℕ^{n}, |k| ≤ m, pour tout ε > 0, il existe δ > 0 tel que, pour tout X, X_{0} ∈ E, X ≠ X_{0},

|X − X_{0}| < δ ⇒ |f^{k}(X) − ∑_{|ℓ|≤m−|k|} \frac{(X − X_{0})^{ℓ}}{ℓ!} f^{k+ℓ}(X_{0})| < ε|X − X_{0}|^{m−|k|}.

Les éléments de c^{∞}(E) sont appelés fonctions c^{∞} au sens de Whitney sur E.

Si E est un fermé quelconque de ℝ^{n} et si f ∈ J^{∞}(E), on dira que f est c^{∞} au sens de Whitney sur E si, pour tout compact K de E, (f_{|K}^{k})_{k∈ℕ^{n}} ∈ c^{∞}(K). On notera c^{∞}(E) l’espace des fonctions c^{∞} au sens de Whitney sur E.

Remarque 2.1. i) Si E et F sont deux fermés de ℝ^{n}, si F ⊂ E et f ∈ c^{∞}(E), on notera f_{∥F} = (f_{|F}^{k})_{k∈ℕ^{n}}. Il est clair alors, d’après la définition, que f_{∥F} ∈ c^{∞}(F).

ii) On note C^{∞}(ℝ^{n}) l’espace des fonctions numériques complexes C^{∞} sur ℝ^{n}. Si f ∈ C^{∞}(ℝ^{n}), il découle de la formule de Taylor que le jet (\frac{∂^{|k|}f}{∂x^{k}})_{k∈ℕ^{n}} ∈ c^{∞}(ℝ^{n}).

D’après cette remarque, pour tout fermé F de ℝ^{n}, on obtient une application f ⟼ f_{∥F} de C^{∞}(ℝ^{n}), identifié à un sous-espace de c^{∞}(ℝ^{n}), dans c^{∞}(F). Le théorème de prolongement de Whitney s’énonce comme suit.

Théoréme 2.1. [6] Pour tout fermé F de ℝ^{n}, l’application de restriction,

C^{∞}(ℝ^{n}) ⟶ c^{∞}(F),
f ⟼ (\frac{∂^{|k|}f}{∂x^{k}} _{|_{F}})_{k∈ℕ^{n}},

est surjective.

Corollaire 2.2. Si n = p + q, p ≥ 1 et si E = ℝ^{p} × 0 considéré comme sousespace vectoriel de ℝ^{n}, alors si (f^{(k,k′)})_{(k,k′)∈ℕ^{n}} ∈ J^{∞}(E), le jet (f^{(k,k′)})_{(k,k′)∈ℕ^{n}} est dans c^{∞}(E) si et seulement si

a) f^{(k,k′)} est une fonction de classe C^{∞} sur E pour tout (k, k′) ∈ ℕ^{n}.

b) \frac{∂^{|ℓ|}}{∂x^{ℓ}} f^{(k,k′)} = f^{(k+ℓ,k′)} pour tout ℓ ∈ ℕ^{p} et pour tout (k, k′) ∈ ℕ^{n}.

Démonstration. La condition nécessaire découle immédiatement du théorème de prolongement de Whitney, théorème 2.1. Pour la condition suffisante, soit f = (f^{(k,k′)})_{(k,k′)} un jet de J^{∞}(E). D’après la définition, f ∈ c^{∞}(E) si et seulement si, pour tout compact K de ℝ^{p}, ∀m > 0, ∀(k, k′) ∈ ℕ^{n} et |k| + |k′| ≤ m, ∀ε > 0, ∃δ > 0 tel que ∀x, x_{0} ∈ K, 0 < |x − x_{0}| < δ, on ait

(1). |f^{(k,k′)}(x)−  ∑_{|(ℓ,ℓ′)|≤m−(|k|+|k′|)} \frac{(x − x_{0}, 0)^{(ℓ,ℓ′)}}{(ℓ, ℓ′)!} f^{(k+ℓ,k′+ℓ′)}(x_{0})| < ε|x−x_{0}|^{m−|(k,k′)|}

Or (x − x_{0}, 0)^{(ℓ,ℓ′)} = 0 si ℓ′ ≠ 0, donc (1) est équivalente à l’inégalité

(2). |f^{(k,k′)}(x) − ∑_{|ℓ|≤m−(|k|+|k′|)} \frac{(x − x_{0})^{ℓ}}{ℓ!} f^{(k+ℓ,k′)}(x_{0})| < ε|x − x_{0}|^{m−|(k,k′)|}

D’après b), cette inégalité devient

(3) |f^{(k,k′)}(x) − ∑_{|ℓ|≤m−(|k|+|k′|)} \frac{(x − x_{0})^{ℓ}}{ℓ!} \frac{∂^{|ℓ|}}{∂x^{ℓ}} f^{(k,k′)}(x_{0})| < ε|x − x_{0}|^{m−|(k,k′)|}

Comme f^{(k,k′)} est une fonction C^{∞} sur ℝ^{p}, (3) découle de la formule de Taylor appliquée à f^{(k,k′)}.

Définition 2.3. Soient X et Y deux fermés de ℝ^{n} d’intersection non vide, X et Y sont dits régulièrement situés si, pour tout couple de compacts (K, L) avec K ⊂ X, L ⊂ Y , il existe des constantes C, α > 0 telles que , si x ∈ K, d(x, L) > Cd(x, X ∩ Y)^{α}.

L’intérêt de la définition 2.3 vient du théorème de recollement de Lojasiewicz suivant.

Théoréme 2.4. ([6], p.83) Soient X et Y deux fermés de ℝ^{n} d’intersection non vide. Si X et Y sont régulièrement situés, alors la suite suivante est exacte:

0 ⟶ c^{∞}(X ∪ Y) ⟶^{δ} c^{∞}(X) ⊕ c^{∞}(Y) ⟶^{π} c^{∞}(X ∩ Y) ⟶ 0

où δ(f) = f_{∥X} + f_{∥Y} et π(f_{1} ⊕ f_{2}) = f_{1∥}_{X∩Y} − f_{2∥}_{X∩Y} .

Proposition 2.5. ([6], p.88) Deux ensembles analytiques réels X et Y d’intersection non vide sont toujours régulièrement situés.

3. Les espaces “Whit_{V} (F)”

On se propose dans ce paragraphe de présenter les résultats du paragraphe 2 sous une forme plus adaptée à nos besoins.

Si V est un espace vectoriel de dimension finie sur ℝ, on note S(V_{ℂ}) l’algèbre symétrique de V_{ℂ}. Dans la suite on identifiera S(V_{ℂ}) à l’algèbre des opérateurs différentiels à coefficients complexes sur V . On notera ∂(u) l’opérateur différentiel correspondant à u ∈ S(V_{ℂ}). Soit F un fermé de V . On pose

Whit_{V} (F) = l’ensemble des familles (φ(u))_{u∈S(V_{ℂ})}; où φ(u): F ⟶ ℂ continue et telle qu’il existe une fonction f de classe C^{∞} sur V vérifiant pour tout u ∈ S(V_{ℂ}), ∂(u)f_{|F} = φ(u). D’après le théorème 2.1, l’espace Whit_{V} (F) s’identifie à c^{∞}(F) moyennant le choix d’une base de V .

Les deux lemmes suivants sont une retranscription du corollaire 2.2 et du théorème 2.4.

Lemme 3.1. Si F est un sous-espace vectoriel de V , l’application

Hom_{S(F_{ℂ})}(S(V_{ℂ}), C^{∞}(F)) ⟶ Whit_{V} (F),
φ ⟼ (φ(u))_{u∈S(V_{ℂ})},

est un isomorphisme d’espaces vectoriels.

Lemme 3.2. Si X et Y sont deux ensembles analytiques de V , si φ ∈ Whit_{V} (X) et ψ ∈ Whit_{V} (Y) sont tels que, pour tout u ∈ S(V_{ℂ}), φ(u) et ψ(u) coïncident sur X ∩ Y , alors l’application Φ définie sur X ∪ Y par Φ(u)_{|X} = φ(u) et Φ(u)_{|Y} = ψ(u) est un élément de Whit_{V} (X ∪ Y).

4. Théorème principal

Soit 𝔞 un sous-espace de Cartan de 𝔮. On note C^{∞}(𝔞)^{inv} l’espace des fonctions numériques complexes de classe C^{∞} sur 𝔞 vérifiant la propriété (P) suivante.

(P) pour tout X ∈ 𝔞, pour tout h ∈ H, pour tout x ∈ H_{ℂ}, tels que hX ∈ 𝔞, x(hX) = hX et x(h𝔞)_{ℂ} = 𝔞_{ℂ}, on a : ∀u ∈ S(𝔞_{ℂ}), (∂(xhu)f)(hX) = (∂(u)f)(X)

Avant d’énoncer le théorème principal, remarquons que, comme il est rappelé dans le paragraphe 1, ([2],paragraphe 7), il y a une autre définition de C^{∞}(𝔞)^{inv} . La complication supplémentaire qui apparaît ici provient du fait qu’en général on peut avoir X dans 𝔞, h dans H, h.X dans 𝔞 sans que h.X ne soit dans l’orbite de X sous l’action du groupe de Weyl W (H, 𝔞). Donnons un exemple de cette situation.

Exemple 4.1. On considère le cas du groupe de Lie G = SL(4, ℝ) considéré comme espace symétrique. Alors 𝔮 s’identifie à 𝔤 = 𝔰𝔩(4, ℝ) et H s’identifie à SL(4, ℝ) agissant dans 𝔤 par la représentation adjointe. Les sous-espaces de Cartan de 𝔮 sont les sous-algèbres de Cartan de 𝔰𝔩(4, ℝ). Notons

𝔞 = \{ ( \begin{matrix}( \begin{matrix}λ & 0 \\ 0 & μ \end{matrix} ) & 0 \\ 0 & ( \begin{matrix}a & −ν \\ ν & a \end{matrix} ) \end{matrix} ) ; 2a = −(λ + μ)\}

𝔞′ = \{ ( \begin{matrix}( \begin{matrix}a & −ν \\ ν & a \end{matrix} ) & 0 \\ 0 & ( \begin{matrix}λ & 0 \\ 0 & μ \end{matrix} ) \end{matrix} ) ; 2a = −(λ + μ)\}

Soit X = diag (1, 1, −1, −1), on a X ∈ 𝔞 ∩ 𝔞′. Les parties déployées des sousalgèbres de Cartan 𝔞 et 𝔞′ étant de même dimension, on peut trouver g ∈ SL(4, ℝ) tel que g𝔞 = 𝔞′ ([8], p.397), alors X ∈ 𝔞′ et g.X ∈ 𝔞′. S’il existait w ∈ W (G, 𝔞′) tel que w.X = g.X, on aurait w^{−1}gX = X et donc w^{−1}g ∈ H^{X} = le centralisateur de X dans H. Si on pose x = w^{−1}g, alors x 𝔞 = w^{−1}g 𝔞 = w^{−1}𝔞′ = 𝔞′. Donc 𝔞 et 𝔞′ seraient conjuguées par un élément du groupe H^{X}, ce qui est faux puisque H^{X} opère dans son algèbre de Lie 𝔤^{X} par automorphismes intérieurs. En effet, l’algèbre dérivée 𝔤_{der}^{X} de 𝔤^{X} est 𝔰𝔩(2, ℝ) × 𝔰𝔩(2, ℝ), et si l’on note

𝔟 = ℝ ( \begin{matrix}1 & 0 \\ 0 & −1 \end{matrix} ) et 𝔱 = ℝ ( \begin{matrix}0 & −1 \\ 1 & 0 \end{matrix} ) ,

on a 𝔞 ∩ 𝔤_{der}^{X} = 𝔟 × 𝔱 et 𝔞′ ∩ 𝔤_{der}^{X} = 𝔱 × 𝔟. Il est bien connu que 𝔟 × 𝔱 et 𝔱 × 𝔟 ne sont pas conjuguées par un automorphisme intérieur de 𝔤^{X}. Cependant les deux définitions de C^{∞}(𝔞)^{inv} coïncident si 𝔞 est un sous-espace de Cartan fondamental ou maximalement déployé.

Nous énonçons maintenant

Théoréme 4.1. L’application de restriction Res: C^{∞}(𝔮)^{H} ⟶ C^{∞}(𝔞)^{inv} est surjective.

Remarque 4.2. i) Si σ est une involution de Cartan, le théorème 4.1 permet de retrouver l’isomorphisme bien connu C^{∞}(𝔭)^{K} ⟶ C^{∞}(𝔞)^{W}.

ii) Si W (H, 𝔞) = W (𝔤_{ℂ}, 𝔞_{ℂ}), on a C^{∞}(𝔞)^{inv} = C^{∞}(𝔞)^{W} et la surjectivité resulte dans ce cas d’un théorème de Luna ([3]).

iii) L’application de restriction ci-dessus n’est injective que si tous les sousespaces de Cartan de 𝔮 sont conjugués par H ; dans ce cas la description de C^{∞}(𝔞)^{inv} est plus simple (voir paragraphe 1).

5. Démonstration du théorème 4.1

Nous noterons Car(𝔮) l’ensemble des sous-espaces de Cartan de 𝔮. Rappelons que si 𝔞 ∈ Car(𝔮) et si λ est une forme linéaire sur 𝔞_{ℂ}, on définit

𝔤_{ℂ}^{λ} = {X ∈ 𝔤_{ℂ}; [A, X] = λ(A)X, ∀A ∈ 𝔞_{ℂ}}
Σ(𝔤_{ℂ}, 𝔞_{ℂ}) = {λ ∈ 𝔞_{ℂ}^{∗}; 𝔤_{ℂ}^{λ} ≠ 0} \ {0},

alors Σ(𝔤_{ℂ}, 𝔞_{ℂ}) est un système de racines (voir [5], théorème 2.11). On notera W (𝔤_{ℂ}, 𝔞_{ℂ}) le groupe de Weyl associé. Rappelons aussi que

W (𝔤_{ℂ}, 𝔞_{ℂ}) = N(H_{ℂ}, 𝔞_{ℂ})/Z(H_{ℂ}, 𝔞_{ℂ}).

On note F l’ensemble des sous-espaces F de 𝔮 tels qu’il existe X ∈ 𝔮 semisimple pour lequel F = (centre 𝔤^{X}) ∩ 𝔮. On notera {m_{0}, m_{1}, …, m_{k}} l’ensemble {dim F; F ∈ F} et on supposera que m_{0} < m_{1} < … < m_{k}. Pour j ∈ {0, 1, …, k}, on notera

F_{j} = {F ∈ F; dim F ≤ m_{j}}

Alors F_{0} contient le seul élement F_{0} = (centre 𝔤) ∩ 𝔮.

Lemme 5.1. i) On a Car(𝔮) ⊂ F.

ii) Pour tout F ∈ F, il existe 𝔟 ∈ Car(𝔮) tel que F ⊂ 𝔟.

iii) Si 𝔟 ∈ Car(𝔮), les sous-espaces de 𝔟 qui appartiennent à F sont exactement ceux qui sont de la forme (⋂_{α∈Σ_{1}} Ker α) ∩ 𝔟 où Σ_{1} ⊂ Σ(𝔤_{ℂ}, 𝔟_{ℂ}).

iv) Si F_{1}, F_{2} ∈ F, alors F_{1} ∩ F_{2} ∈ F.

v) Pour tout F ∈ F, le cardinal de l’ensemble des éléments de F contenus dans F est fini.

Démonstration. i) Soient 𝔟 ∈ Car(𝔮) et X ∈ 𝔟 tel que λ(X) ≠ 0 pour tout λ ∈ Σ(𝔤_{ℂ}, 𝔟_{ℂ})}, alors ([7] ,1.11) 𝔟 = 𝔮^{X} = (centre 𝔤^{X}) ∩ 𝔮 ∈ F.

ii) Soit F ∈ F. Il existe donc X ∈ 𝔮 semi-simple tel que F = (centre 𝔤^{X})∩ 𝔮. Le sous-espace centre 𝔤^{X} est formé d’éléments semi-simples et est abélien, donc (centre 𝔤^{X}) ∩ 𝔮 aussi; celui-ci est inclu dans un sous-espace de 𝔮 maximal pour ces deux propriétés; c’est-à-dire un sous-espace de Cartan de 𝔮.

iii) Soient F ∈ F et soit X semi-simple dans 𝔮 tel que F = (centre 𝔤^{X})∩𝔮. Soit 𝔟 ∈ Car(𝔮) tel que F ⊂ 𝔟. Notons Σ_{F} = {α ∈ Σ(𝔤_{ℂ}, 𝔟_{ℂ}); α|F = 0}. Soit Y ∈ F tel que α(Y) ≠ 0, pour tout α ∈ Σ(𝔤_{ℂ}, 𝔟_{ℂ}) \ Σ_{F}. L’élément Y étant semisimple, 𝔤^{Y} est alors réductive et invariante par σ et (𝔤^{Y} , 𝔤^{Y} ∩ 𝔥) est une paire symétrique ([7], 1.5), 𝔟 est un sous-espace de Cartan de 𝔮^{Y} et Σ(𝔤_{ℂ}^{Y}, 𝔟_{ℂ}) = Σ_{F}. Par suite

( ⋂_{α∈Σ_{F}} Ker α) ∩ 𝔮 = (centre 𝔤_{ℂ}^{Y}) ∩ 𝔮 = (centre 𝔤^{Y}) ∩ 𝔮.

Or F ⊂ (⋂_{α∈Σ_{F}} Ker α) ∩ 𝔮 et centre 𝔤^{Y} ⊂ centre 𝔤^{X}, car 𝔤^{X} ⊂ 𝔤^{Y} puisque Y appartient au centre de 𝔤^{X}. Donc F = (⋂_{α∈Σ_{F}} Ker α) ∩ 𝔟.

Réciproquement, soient Σ_{1} ⊂ Σ(𝔤_{ℂ}, 𝔟_{ℂ}) et F = ⋂_{α∈Σ_{1}} Ker α) ∩ 𝔟. Soit Σ′_{1} = {α ∈ Σ(𝔤_{ℂ}, 𝔟_{ℂ}); α_{|F} = 0}. Alors F = (⋂_{α∈Σ′_{1}} Ker α) ∩ 𝔟. Soit X ∈ F tel que α(X) ≠ 0 pour tout α ∈ Σ(𝔤_{ℂ}, 𝔟_{ℂ}) \ Σ′_{1} , alors la démonstration ci-dessus montre que F (centre 𝔤^{X}) ∩ 𝔮, et donc F ∈ F.

iv) Supposons F_{i} = (centre 𝔤^{X_{i}}) ∩ 𝔮, i = 1, 2. Soit 𝔟 ∈ Car(𝔮) tel que F_{1} ⊂ 𝔟; alors F = F_{1} ∩ F_{2} ⊂ 𝔟. Soient Σ_{F} = {α ∈ Σ(𝔤_{ℂ}, 𝔟_{ℂ}); α|F = 0} et F′ = {X ∈ F; ∀β ∈ Σ(𝔤_{ℂ}, 𝔟_{ℂ}), β(X) = 0 ⟹ β ∈ Σ_{F} }. Si X ∈ F′ ; on a (centre 𝔤^{X}) ∩ 𝔮 ⊃ F. Or centre 𝔤^{X_{i}} ⊃ centre 𝔤^{X} car 𝔤^{X} ⊃ 𝔤^{X_{i}} du fait que X soit dans le centre de 𝔤^{X_{i}}, donc F_{1} ∩ F_{2} = F ⊃ (centre 𝔤^{X}) ∩ 𝔮 ⊃ F; par suite F = (centre 𝔤^{X}) ∩ 𝔮.

v) Découle de iii).

Lemme 5.2. i) Soient F ∈ F, 𝔟 ∈ Car(𝔮), 𝔟′ ∈ Car(𝔮) tels que F ⊂ 𝔟 ∩ 𝔟′. Alors il existe x ∈ H_{ℂ}^{F} = {g ∈ H_{ℂ}, gZ = Z; Z ∈ F } tel que x𝔟_{ℂ} = 𝔟′_{ℂ}.

ii) Si X ∈ 𝔮 semi-simple et F = (centre 𝔤^{X}) ∩ 𝔮, alors H_{ℂ}^{X} = H_{ℂ}^{F}.

Démonstration. i) Par définition il existe X_{0} ∈ F tel que F ⊂ centre 𝔤^{X_{0}} . Alors H_{ℂ}^{X_{0}} étant connexe, H_{ℂ}^{X_{0}} ⊂ H_{ℂ}^{Z} pour tout Z ∈ centre 𝔤^{X_{0}} ; donc H_{ℂ}^{X_{0}} = H_{ℂ}^{F}. Comme 𝔥_{ℂ}^{X_{0}} est réductive complexe ([7], 1.5), 𝔟_{ℂ} et 𝔟′_{ℂ} sont deux sous-espaces de Cartan de 𝔮_{ℂ}^{X_{0}} , et il existe x ∈ H_{ℂ}^{X_{0}} tel que x𝔟_{ℂ} = 𝔟′_{ℂ}.

ii) Soient X ∈ 𝔮 semi-simple et F = (centre 𝔤^{X}) ∩ 𝔮. Alors F ∈ F et d’après la démonstration de i), on a H_{ℂ}^{X} = H_{ℂ}^{F}.

Proposition 5.3. Soit f ∈ C^{∞}(𝔮)^{H}, F ∈ F et 𝔟 ∈ Car(𝔮) tel que F ⊂ 𝔟. On pose, pour u ∈ S(𝔟_{ℂ}), φ_{𝔟,F} (u) = ∂(u)f_{|F}. Alors on a les propriétés suivantes: P_{1}. φ_{𝔟,F} ∈ Whit_{𝔟}(F). P_{2}. Pour tout g ∈ H, X ∈ F et u ∈ S(𝔟_{ℂ}),

φ_{g𝔟,gF} (g.u)(gX) = φ_{𝔟,F} (u)(X).

P_{3}. Pour tout F ∈ F, 𝔟, 𝔟′ ∈ Car(𝔮) tels que F ⊂ 𝔟, F ⊂ 𝔟′, si x ∈ H_{ℂ}^{F} et x.𝔟_{ℂ} = 𝔟′_{ℂ}, on a

∀u ∈ S(𝔟_{ℂ}), φ_{𝔟′,F} (x.u) = φ_{𝔟,F} (u).

P_{4}. Si F, F′ ∈ F, 𝔟 ∈ Car(𝔮) et F′ ⊂ F ⊂ 𝔟, alors

∀u ∈ S(𝔟_{ℂ}), φ_{𝔟,F′}(u) = φ_{𝔟,F} (u)_{|F′}.

Réciproquement, si pour tout F ∈ F et tout 𝔟 ∈ Car(𝔮) contenant F, on se donne φ_{𝔟,F} : S(𝔟_{ℂ}) ⟶ c^{∞}(F) vérifiant les propriétés P_{1}, …, P_{4}, alors il existe une unique fonction f ∈ C^{∞}(𝔮)^{H} telle que

φ_{𝔟,F} (u) = ∂(u)f_{|F} , ∀u ∈ S(𝔟_{ℂ}), ∀F ∈ F et ∀𝔟 ∈ Car(𝔮)

tels que 𝔟 ⊃ F.

Démonstration. Si f ∈ C^{∞}(𝔮)^{H}, il est clair que P_{1}, P_{2}, P_{4} sont vérifiées. La propriété P_{3} découle de la condition nécessaire du théorème 5.1 de [2].

Pour la réciproque, soit 𝔟 ∈ Car(𝔮); d’après P_{1} et le lemme 3.1, φ_{𝔟,𝔟}(1) ∈ C^{∞}(𝔟). D’après P_{2}, P_{4} et le lemme 5.1.(i et iv), les fonctions φ_{𝔟,𝔟}(1), 𝔟 ∈ Car(𝔮), vérifient le lemme 1.3, par suite il existe une fonction continue et H -invariante unique f: 𝔮 ⟶ ℂ telle que, pour tout 𝔟 ∈ Car(𝔮), f_{|𝔟} = φ_{𝔟,𝔟}(1). Pour montrer que f est C^{∞}, nous allons utiliser le théorème 1.1. Pour ceci, nous avons à vérifier les deux propriétés suivantes :

i) Pour tout sous-espace de Cartan 𝔟 ∈ Car(𝔮), f_{|𝔟} est C^{∞} et W (H, 𝔟)- invariante.

ii) Si X ∈ 𝔮 est semi-simple, si 𝔟, 𝔟′ ∈ Car(𝔮) et contiennent X, alors pour x ∈ H_{ℂ}, x.X = X et x𝔟_{ℂ} = 𝔟′_{ℂ}, on a

∀u ∈ S(𝔟_{ℂ}), (∂(x.u)f_{|𝔟′})(X) = (∂(u)f_{|𝔟})(X).

Or la propriété i) est clairement vérifiée par f, puisque pour tout 𝔟 ∈ Car(𝔮), f_{|𝔟} = φ_{𝔟,𝔟}(1) ∈ C^{∞}(𝔟) et comme φ_{𝔟,𝔟} vérifie P_{2}, f_{|𝔟} est W (H, 𝔟)-invariante. Si X est semi-simple dans 𝔮, si 𝔟, 𝔟′ sont dans Car(𝔮) et contiennent X, si x ∈ H_{ℂ} tel que x.X = X et x𝔟_{ℂ} = 𝔟′_{ℂ}, soit F = (centre 𝔤^{X}) ∩ 𝔮; alors on a F ∈ F, F ⊂ 𝔟 ∩ 𝔟′ et x ∈ H_{ℂ}^{F} (lemme 5.2). Par P_{3}, on a donc φ_{𝔟′,F} (x.u) = φ_{𝔟,F} (u) pour tout u ∈ S(𝔟_{ℂ}). Pour obtenir la propriété (ii), il reste à vérifier que pour tout F de F, pour tout 𝔟 ∈ Car(𝔮) tel que F ⊂ 𝔟 et pour tout u ∈ S(𝔟_{ℂ}), φ_{𝔟,F} (u) = ∂(u)f_{|F}. Or d’après P_{4}, il suffit de le vérifier pour F = 𝔟, et comme φ_{𝔟,𝔟} ∈ Whit_{𝔟}(𝔟) = Hom_{S(𝔟_{ℂ})}(S(𝔟_{ℂ}), C^{∞}(𝔟)) ≃ C^{∞}(𝔟), on a

φ_{𝔟,𝔟}(u) = ∂(u).φ_{𝔟,𝔟}(1) = ∂(u)f_{|𝔟} ∀u ∈ S(𝔟_{ℂ}).

Ceci termine la démonstration de la proposition 5.3.

Il s’ensuit que le théorème 4.1 découle de la proposition suivante.

Proposition 5.4. Soit 𝔞 un sous-espace de Cartan de 𝔮 et soit θ ∈ C^{∞}(𝔞)^{inv} , alors on peut définir une famille d’applications φ_{𝔟,F}: S(𝔟_{ℂ}) ⟶ c^{∞}(F), avec 𝔟 ∈ Car(𝔮), F ∈ F tel que F ⊂ 𝔟, vérifiant les propriétés P_{1}, …, P_{4} de 5.3 et tels que

(∗)  Si F ⊂ 𝔞,  φ_{𝔞,F} (u) = ∂(u)θ _{|F}  ∀ u ∈ S(𝔞_{ℂ})

Démonstration. La définition des applications φ_{𝔟,F} va être faite par récurrence sur la dimension de F. Remarquons que F_{0} est réduit au seul élément F_{0},

F_{0} = centre 𝔤 ∩ 𝔮

et dim F_{0} = m_{0}. Soit 𝔟 ∈ Car(𝔮), alors F_{0} ⊂ 𝔟. Soit x ∈ H_{ℂ} tel que x𝔟_{ℂ} = 𝔞_{ℂ}. Pour tout u ∈ S(𝔟_{ℂ}), on pose

φ_{𝔟,F_{0}}(u) = ∂(x · u)θ_{|F_{0}}

Alors φ_{𝔟,F_{0}} est bien définie ; en effet si y ∈ H_{ℂ} et y𝔟_{ℂ} = 𝔞_{ℂ}, alors xy^{−1}.𝔞_{ℂ} = 𝔞_{ℂ} et, comme H_{ℂ} fixe les éléments de F_{0}, d’après la définition de C^{∞}(𝔞)^{inv} ,

∀u ∈ S(𝔟_{ℂ}) et ∀X ∈ F_{0} , ∂(x · u)θ(X) = ∂(xy^{−1}y · u)θ(X) = ∂(y · u)θ(X).

Il est clair que,

∀u ∈ S(𝔟_{ℂ}), φ_{𝔟,F_{0}}(u) ∈ c^{∞}(F_{0});

de plus, si u_{0} ∈ S(F_{0ℂ}),

φ_{𝔟,F_{0}}(u_{0}u) = ∂(x · u_{0}u)θ_{|F_{0}} = ∂(u_{0}).φ_{𝔟,F_{0}}(u),

donc φ_{𝔟,F_{0}} ∈ Hom_{S(F_{0ℂ})}(S(𝔟_{ℂ}), c^{∞}(F_{0})) = Whit_{𝔟}(F_{0}).

Il est immédiat que les propriétés P_{1}, …, P_{4}, ainsi que la propriété (∗) sont vérifiées par les applications φ_{𝔟,F_{0}}, 𝔟 ∈ Car(𝔮).

Soit i fixé dans {0, 1, …, k−1}. On rappelle que F_{i} désigne l’ensemble des F ∈ F tels que dim F ≤ m_{i}. Supposons qu’on ait défini une famille d’applications φ_{𝔟,F} ∈ Whit_{𝔟}(F), F ∈ F_{i}, 𝔟 ∈ Car(𝔮) et F ⊂ 𝔟, vérifiant les propriétés P_{1}, …, P_{4} de la proposition 5.3, où l’on a remplacé F par F_{i}, et tels que

(∗)  si F ∈ F_{i} et F ⊂ 𝔞, on a φ_{𝔞,F} (u) = ∂(u)θ_{|F} ∀u ∈ S(𝔞_{ℂ}).

Nous allons construire les applications φ_{𝔟,F} , F ∈ F_{i+1} \ F_{i}. Remarquons que si L_{1}, L_{2} ∈ F_{i+1} \ F_{i} ne sont pas conjugués par H, alors la vérification, par la famille φ_{𝔟,F} , F ∈ F_{i+1}, des propriétés P_{1}, …, P_{4} et (∗) ne fait intervenir aucune relation directe entre deux applications φ_{𝔟_{1},L_{1}} et φ_{𝔟_{2},L_{2}} ; ceci nous permet de faire la construction par blocs, en ne considérant à la fois que les F ∈ F_{i+1} \F_{i} qui sont conjugués par H.

Soit F ∈ F_{i+1} \ F_{i}. On note conj(F) = {gF, g ∈ H}. On distinguera deux cas, suivant que conj(F) contient un sous-espace de 𝔞 ou non. Premier cas: La classe conj(F) contient un sous-espace de 𝔞.

On note E = {(g, E)| g ∈ H, E ∈ conj(F), gE ⊂ 𝔞}. Pour tout (g, E) ∈ E, 𝔟 ∈ Car(𝔮) tel que E ⊂ 𝔟 , x ∈ H_{ℂ}^{gE} tel que x(g𝔟)_{ℂ} = 𝔞_{ℂ} (cf. lemme 5.2), u ∈ S(𝔟_{ℂ}) et pour tout X ∈ E posons

φ_{𝔟,E}(u)(X) = (∂(xg · u)θ)(gX)

Vérifions que φ_{𝔟,E} est bien définie. Soient (g_{1}, E), (g_{2}, E) ∈ E, 𝔟 ∈ Car(𝔮), x_{1} ∈ H_{ℂ}^{g_{1}E}, x_{2} ∈ H_{ℂ}^{g_{2}E} tels que E ⊂ 𝔟, x_{1}(g_{1}𝔟)_{ℂ} = 𝔞_{ℂ} et x_{2}(g_{2}𝔟)_{ℂ} = 𝔞_{ℂ}. Posons g_{3} = g_{1}g_{2}^{−1} et x_{3} = x_{1}g_{3}x_{2}^{−1}g_{3}^{−1}. Soit X ∈ E, alors g_{2}X ∈ 𝔞 et g_{3}(g_{2}X) = g_{1}X ∈ 𝔞. On a aussi x_{3}(g_{1}X) = g_{1}X et x_{3}(g_{3}𝔞)_{ℂ} = 𝔞_{ℂ}. Par suite, comme θ ∈ C^{∞}(𝔞)^{inv} ,

∀u ∈ S(𝔟_{ℂ}), ∂(x_{1}g_{1} · u))θ(g_{1}X) = ∂(x_{3}g_{3}(x_{2}g_{2} · u))θ(g_{3}g_{2}X) = ∂(x_{2}g_{2}u)θ(g_{2}X).

Montrons maintenant que les applications ainsi définies vérifient les propriétés P_{1}, …, P_{4} et la propriété supplémentaire (∗). La propriété (∗) est vérifiée, puisque si E ⊂ 𝔞, φ_{𝔞,E}(u) = ∂(u)θ_{|E}. P_{1}. Remarquons que les applications φ_{𝔟,E}(u), u ∈ S(𝔟_{ℂ}), sont des applications C^{∞} sur E. Soient (g, E) ∈ E, 𝔟 ∈ Car(𝔮) tels que E ⊂ 𝔟, et soit x ∈ H_{ℂ}^{gE} tel que x(g𝔟)_{ℂ} = 𝔞_{ℂ}. Soient Z ∈ E, u ∈ S(𝔟_{ℂ}) et X ∈ E. Alors

φ_{𝔟,E}(Zu)(X) = ∂(x · (gZu))θ(gX)
= ∂((xg · Z)(xg · u))θ(gX)
= ∂(xg · Z)∂(xg · u)θ(gX)
= ∂(Z)∂(xg · u)θ(gY)(X),  car x ∈ H_{ℂ}^{gE}
= ∂(Z)φ_{𝔟,E}(u)(X).
Donc φ_{𝔟,E} ∈ Hom_{S(E_{ℂ})}(S(𝔟_{ℂ}), C^{∞}(E)) = Whit_{𝔟} (E).

P_{2}. Soient (g_{0}, E) ∈ E, 𝔟 ∈ Car(𝔮), E ⊂ 𝔟, et x ∈ H_{ℂ}^{g_{0}E} tels que x(g_{0}𝔟)_{ℂ} = 𝔞_{ℂ}. Soit g ∈ H, alors, comme (g_{0}g^{−1})g.E ⊂ 𝔞, x ∈ H_{ℂ}^{(g_{0}g^{−1})gE} et (x g_{0} g^{−1})(g𝔟)_{ℂ} = 𝔞_{ℂ}, on a par définition: pour tout u ∈ S(𝔟_{ℂ}), X ∈ E,

φ_{g𝔟,gE}(g.u)(g.X) = ∂(xg_{0} g^{−1}.gu)θ (g_{0}X) = ∂(xg_{0}u)θ(g_{0}X) = φ_{𝔟,E}(u)(X).

P_{3}. Soient (g_{0}, E) ∈ E , 𝔟, 𝔟′ ∈ Car(𝔮) tels que E ⊂ 𝔟, E ⊂ 𝔟′, et soit y ∈ H_{ℂ}^{E} tel que y𝔟_{ℂ} = 𝔟′_{ℂ} (voir lemme 5.2). Soit x′ ∈ H_{ℂ}^{g_{0}E} tel que x′(g_{0}𝔟′)_{ℂ} = 𝔞_{ℂ}. Alors, si on pose x = x′g_{0}y g_{0}^{−1}, x ∈ H_{ℂ}^{g_{0}E} et xg_{0}𝔟_{ℂ} = 𝔞_{ℂ}. Par suite, pour tout u ∈ S(𝔟_{ℂ}) et pour tout X ∈ E, par définition de φ_{𝔟′,E},

φ_{𝔟′,E}(y · u)(X) = (∂(x′ g_{0}y · u)θ)(g_{0} X)
= (∂(x g_{0} · u)θ)(g_{0}X)
= φ_{𝔟,E}(u)(X).

P_{4}. Soit E ∈ conj(F) et soit E′ ∈ F tels que E′ ⊂ E et dim E′ ≤ m_{i}. Soient 𝔟 ∈ Car(𝔮), g_{0} ∈ H et x ∈ H_{ℂ}^{g_{0}E} tels que E ⊂ 𝔟, g_{0}E ⊂ 𝔞 et xg_{0} · 𝔟_{ℂ} = 𝔞_{ℂ}. Alors, pour tout u ∈ S(𝔟_{ℂ}) et pour tout X ∈ E′,

φ_{𝔟,E′}(u)(X) = φ_{g_{0}𝔟,g_{0}E′}(g_{0} · u)(g_{0}X) (P_{2} de l’hypothèse de récurrence)
= φ_{𝔞,g_{0}E′}(x g_{0} · u)(g_{0}X) (P_{3} de l’hypothèse de récurrence)
= ∂(x g_{0} · u)θ(g_{0}X) (propriété (∗) de l’hypothèse de récurrence)
= φ_{𝔟,E}(u)(X) (par définition de φ_{𝔟,E}).

Deuxième Cas: La classe conj(F) ne contient pas de sous-espace de 𝔞.

Notons F_{1}, …, F_{r} tous les sous-espaces stricts de F qui appartiennent à F. Ces sous-espaces sont en nombre fini d’après le lemme 5.1(v). D’après l’hypothèse de récurrence, les fonctions φ_{𝔟,F_{j}} sont définies si 𝔟 est un sous-espace de Cartan de 𝔮 contenant F_{j}, j = 1, …, r.

Soit 𝔟_{0} ∈ Car(𝔮) fixé tel que F ⊂ 𝔟_{0}. Comme l’intersection de deux éléments de l’ensemble {F_{1}, F_{2}, ⋯, F_{r}} est encore un élement de cet ensemble, la propriété P_{4} de l’hypothèse de récurrence permet de définir, pour tout u ∈ S(𝔟_{0}_{ℂ}), l’application

ψ_{1}(u):  ⋃_{j=1}^{r} F_{j} ⟶ ℂ,
X ∈ F_{j} ⟼ φ_{𝔟_{0},F_{j}}(u)(X).

Alors, d’après le lemme 3.2, ψ_{1} ∈ Whit_{𝔟_{0}} ( ⋃_{j=1}^{r} F_{j}) et, d’après le lemme 3.1,

il existe ψ ∈ C^{∞}(𝔟_{0}) telle que

∀u ∈ S(𝔟_{0}_{ℂ}), ∂(u)ψ_{| ⋃_{j=1}^{r} F_{j}} = ψ_{1}(u).

Posons alors pour u ∈ S(𝔟_{0}_{ℂ}), ψ_{𝔟_{0},F} (u) = ∂(u)ψ_{|F}. Il est clair que ψ_{𝔟_{0},F} ainsi définie, vérifie P_{1} et P_{4}.

On va modifier ψ_{𝔟_{0},F} pour préparer la définition des applications ψ_{𝔟,F} , 𝔟 ∈ Car(𝔮) et F ⊂ 𝔮.

Notons W_{ℂ}^{F} = {w ∈ W (𝔤_{ℂ}, 𝔟_{0}_{ℂ}); w.X = X ∀X ∈ F } et ♯W_{ℂ}^{F} le cardinal de W_{ℂ}^{F}. Pour u ∈ S(𝔟_{0}_{ℂ}), posons

ψ̃_{𝔟_{0},F} (u) = \frac{1}{♯W_{ℂ}^{F}} ∑_{w∈W_{ℂ}^{F}} ψ_{𝔟_{0},F} (w.u).

Commençons par voir que cette fonction vérifie encore P_{1} et P_{4}. Puisque si v ∈ S(F_{ℂ}), on a w.v = v, w ∈ W_{ℂ}^{F}, et ψ_{𝔟_{0},F} ∈ Whit_{𝔟_{0}}(F). Par suite ψ̃_{𝔟_{0},F} ∈ Hom_{S(F_{ℂ})}(S(𝔟_{0}_{ℂ}), C^{∞}(F)). Donc ψ̃_{𝔟_{0},F} vérifie P_{1}. Il en est de même de P_{4}; en effet, si u ∈ S(𝔟_{0}_{ℂ}) et j ∈ {1, ⋯, r},

ψ̃_{𝔟_{0},F} (u)_{|F_{j}} = \frac{1}{♯W_{ℂ}^{F}} ∑_{w∈W_{ℂ}^{F}} ψ_{𝔟_{0},F} (w.u)_{|F_{j}}

= \frac{1}{♯W_{ℂ}^{F}} ∑_{w∈W_{ℂ}^{F}} ψ_{𝔟_{0},F_{j}}(w.u) (par définition de ψ_{𝔟_{0},F})

= \frac{1}{♯W_{ℂ}^{F}} ∑_{w∈W_{ℂ}^{F}} ψ_{𝔟_{0},F_{j}}(u) (P_{3} de l’hypothèse de récurrence)
= φ_{𝔟_{0},F_{j}}(u).

Pour 𝔟 ∈ Car(𝔮) et x ∈ H_{ℂ}^{F} tels que F ⊂ 𝔟 et x𝔟_{ℂ} = 𝔟_{0}_{ℂ}, et en vue de vérifier P_{3}, on pose pour u ∈ S(𝔟_{ℂ}),

ψ̃_{𝔟,F} (u) = ψ̃_{𝔟_{0},F} (x.u).

Alors ψ̃_{𝔟,F} est bien définie ; en effet, si y ∈ H_{ℂ}^{F} et y.𝔟_{ℂ} = 𝔟_{0}_{ℂ}, alors (xy^{−1})𝔟_{0}_{ℂ} = 𝔟_{0}_{ℂ}. Si on note w_{0} = classe de xy^{−1} dans W (𝔤_{ℂ}, 𝔟_{0}_{ℂ}), alors w_{0} ∈ W_{ℂ}^{F} et

ψ̃_{𝔟_{0},F} (xu) = \frac{1}{♯W_{ℂ}^{F}} ∑_{w∈W_{ℂ}^{F}} ψ_{𝔟_{0},F} (w.x.u)

= \frac{1}{♯W_{ℂ}^{F}} ∑_{w∈W_{ℂ}^{F}} ψ_{𝔟_{0},F} (w.w_{0}y.u)

= \frac{1}{♯W_{ℂ}^{F}} ∑_{w′∈W_{ℂ}^{F}} ψ_{𝔟_{0},F} (w′yu)
= ψ̃_{𝔟_{0},F} (y.u).

Il est clair que ψ̃_{𝔟,F} ∈ Whit_{𝔟} (F) et que P_{3} est vérifiée.

Notons

N(H, F) = {g ∈ H; g.F = F }
Z(H, F) = {g ∈ H; g.X = X ∀X ∈ F }
W (H, F) = N(H, F)/Z(H, F).

On va modifier les applications ψ̃_{𝔟,F} afin que les nouvelles applications obtenues vérifient la propriété P_{2} en plus des propriétés P_{1}, P_{3}, P_{4}. Pour tout 𝔟 ∈ Car(𝔮) tel que F ⊂ 𝔟 et pour tout u ∈ S(𝔟_{ℂ}) , on définit l’application φ_{𝔟,F} (u) sur F par

φ_{𝔟,F} (u)(X) = \frac{1}{♯W_{F}} ∑_{w∈W_{F}} ψ̃_{w𝔟,F} (w · u)(w · X),  (1)

et pour tout g ∈ H, on définit l’application φ_{g𝔟,gF} (g · u) par

φ_{g𝔟,gF} (g · u)(g.X) = φ_{𝔟,F} (u)(X)  (2)

Remarquons que si g_{0} ∈ H et g_{0}F = F, (1) et (2) donnent la même expression ; en effet

φ_{g_{0}𝔟,F} (g_{0}u)(g_{0}X) = \frac{1}{♯W_{F}} ∑_{w∈W_{F}} ψ̃_{wg_{0}𝔟,F} (wg_{0}u)(wg_{0}X)
= \frac{1}{♯W_{F}} ∑_{w′∈W_{F}} ψ̃_{w′𝔟,F} (w′u)(w′X)
= φ_{𝔟,F} (u)(X)

On vient donc de définir φ_{𝔟,E}, E ∈ conj(F), 𝔟 ∈ Car(𝔮) tel que 𝔟 ⊃ E, de façon que P_{2} soit vérifiée. Montrons que les propriétés P_{1}, P_{3}, P_{4}, le sont aussi. Quant à la propriété (∗) de la proposition 5.4 , elle est vide dans le deuxième cas. P_{1}. Soit Z ∈ F, u ∈ S(𝔟_{ℂ}), X ∈ F, alors

φ_{𝔟,F} (Zu)(X) = \frac{1}{♯W_{F}} ∑_{w∈W_{F}} ψ̃_{w𝔟,F} (w.Zu)(w.X)
ψ̃_{w𝔟,F} (w.Zu)(w.X) = ψ̃_{w𝔟,F} (wZ.wu)(w.X)
= [∂(wZ)ψ̃_{w𝔟,F} (w.u)](w.X) car ψ̃ vérifie P_{1}
= ∂(Z)[X ⟼ ψ̃_{w𝔟,F} (w.u)(w.X)].

Donc φ_{𝔟,F} (Zu)(X) = (∂(Z).φ_{𝔟,F} (u))(X) pour tout Z ∈ F. On peut déduire alors que φ_{𝔟,F} appartient à Whit_{𝔟}(F). P_{3}. Soient 𝔟, 𝔟′ ∈ Car(𝔮), x ∈ H_{ℂ}^{F} tels que F ⊂ 𝔟 ∩ 𝔟′ et x𝔟_{ℂ} = 𝔟′_{ℂ}. Alors pour tout u ∈ S(𝔟_{ℂ}) ,

φ_{𝔟′,F} (x.u)(X) = \frac{1}{♯W_{F}} ∑_{w∈W_{F}} ψ̃_{w𝔟′,F} (w.xu)(w.X)
= \frac{1}{♯W_{F}} ∑_{w∈W_{F}} ψ̃_{w𝔟′,F} (w.xw^{−1}w.u)(wX)
= \frac{1}{♯W_{F}} ∑_{w∈W_{F}} ψ̃_{w𝔟,F} (w.u)(wX) car wxw^{−1}(w𝔟)_{ℂ} = (w𝔟′)_{ℂ}.
= φ_{𝔟,F} (u)(X).

P_{4}. Soient j ∈ {1, 2, …, k}, X ∈ F_{j}, alors

φ_{𝔟,F} (u)(X) = \frac{1}{♯W_{F}} ∑_{w∈W_{F}} ψ̃_{w𝔟,F} (w · u)(w · X)
= \frac{1}{♯W_{F}} ∑_{w∈W_{F}} ψ̃_{w𝔟,F} (wu)_{|F_{j}}(w.X), (car les ψ̃_{w𝔟,F} vérifient P_{4}).
= \frac{1}{♯W_{F}} ∑_{w∈W_{F}} φ_{w𝔟,wF_{j}}(wu)(w.X)
= \frac{1}{♯W_{F}} ∑_{w∈W_{F}} φ_{𝔟,F_{j}}(u)(X) (P_{2} de l’ hypothèse de récurrence)
= φ_{𝔟,F_{j}}(u)(X).

Ceci achève la preuve de la proposition 5.4 et donc celle du théorème 4.1.

6. Références

[1] Dadok, J. On the C^{∞} Chevalley’s theorem, Advances in Math. 44 (1982), 121–131.

[2] Kamoun, N. Fonctions indéfiniment différentiables invariantes sur l’espace tangent d’un espace symétrique, Annales de la Faculté des Sciences de Toulouse, à paraître.

[3] Luna, D. Fonctions différentiables invariantes sous l’action d’un groupe réductif, Ann. Inst. Fourier Grenoble 26 (1976), 33–49.

[4] Oshima, T., and T. Matsuki, Orbits on affine symmetric spaces under the action of the isotropy subgroups, J. Math. Soc. Japan. 32 (1980), 399–414.

[5] Oshima, T., and J. Sekiguchi, The restricted root system of a semisimple symmetric pair, Advanced Studies in Pure Math. 4 (1984), 433–497.

[6] Poenaru, V. “Analyse différentielle,” (Springer) Lecture Notes in Math 371, 1974, 228 pp.

[7] Sekiguchi, J. Invariant spherical hyperfunctions on the tangent space of a symmetric space, Advanced Studies in Pure Mathematics. 6 (1985), 83–96.

[8] Sugiura, M. Conjugate classes of Cartan subalgebras in real semisimple Lie algebras, Math. Soc. of Japan 11 (1959), 374–434.

Département de Mathématiques, Faculté des Sciences, 5019 Monastir, Tunisie.

Received June 29, 1997 and in final form March 24, 1998