Journal of Lie Theory Volume 14 (2004) 165–198 \begin{matrix}c \\ ◯ \end{matrix} 2004 Heldermann Verlag

Classification des structures CR invariantes pour les groupes de Lie compacts.

Jean-Yves Charbonnel et Hella Ounaïes Khalgui

Communicated by J. Faraut

Abstract. Let G_{0} be a compact Lie group of dimension N whose Lie algebra is 𝔤_{0} . The notion of CR structure on a C^{∞} manifold is known a long time ago. In this note we are interested by the CR stuctures on G_{0} which are invariant by the left action of the group on the tangent bundle and which are of maximal rank. Such a structure is defined by its fibre 𝔥 at the neutral element which is a subalgebra of the complexification 𝔤 of 𝔤_{0} whose dimension is the entire part [N/2] of N/2 and whose intersection with 𝔤_{0} is equal to {0}. Up to conjugation by the adjoint group of 𝔤_{0} , these subalgebras are classified. When N is even, there is only one type, type CR0. When N is odd, there are two types, type CR0 and type CRI. These types are given in terms of Cartan subalgebras and root systems. In any case, these subalgebras are solvable. Following [3], we introduce the notion of CR structures which are G_{0} -invariant and invariant by the transverse action of a G_{0} -invariant Lie subgroup. When this group is commutative, we get the notion of G_{0} -rigidity. We then prove, when N is odd, that a G_{0} -invariant CR structure, of maximal rank, is G_{0} -rigid if and only if the fibre of the CR structure at the neutral element, is of type CR0. Following [13], we introduce the canonical fibre bundle K of a G_{0} -invariant CR structure, of maximal rank, when N is odd. We prove that K contains a closed G_{0} -invariant form if and only if the fibre of the CR structure at the neutral element, is of type CR0 or type CRII. As for type CR0 and CRI, the CRII type is defined up to conjugation by the adjoint group of 𝔤_{0} in terms of Cartan subalgebras an root systems. In fact, every subalgebra of type CRII is of type CRI.

1. Introduction.

Soient X une variété réelle C^{∞} de dimension positive N et T un sous fibré de rang r du complexifié du fibré tangent. On note L l’espace des sections C^{∞} de T et on dit que T est formellement intégrable si L est stable pour la structure d’algèbre de Lie sur les champs de vecteurs sur X.

Définition. Le couple (X, T) est appelé variété CR si T est formellement intégrable et si pour tout x dans X l’intersection de T_{x} et de \overline{T_{x}} est nulle. On note T_{x} la fibre en x de T et \overline{T_{x}} le conjugué de T_{x} par la conjugaison du complexifié du fibré tangent dont l’ensemble des points fixes est le fibré tangent à X.

ISSN 0949–5932 / $2.50 \begin{matrix}c \\ ◯ \end{matrix} Heldermann Verlag

Le fibré T sera dit structure CR de rang maximum sur X si l’entier r est le plus grand entier pour lequel il existe une structure CR de rang r sur X.

Soit G_{0} un groupe de Lie compact de dimension N. On désigne par 𝔤_{0} l’algèbre de Lie de G_{0} et par 𝔤 le complexifié de 𝔤_{0}. Pour tout ξ dans 𝔤_{0} et pour tout g dans G_{0}, on note g.ξ l’image de ξ par la différentielle en l’élément neutre e de l’application h ↦ gh de G_{0} dans G_{0}. L’application (g, ξ) ↦ g.ξ est alors un isomorphisme de G_{0} × 𝔤_{0} sur le fibré tangent T G_{0} à G_{0}. Dans ce qui suit, on identifie G_{0} × 𝔤_{0} et T G_{0} au moyen de cet isomorphisme. Le complexifié ℂ ⊗_{ℝ}T G_{0} de T G_{0} s’identifie alors à G_{0} × 𝔤. Une structure CR, G_{0}-invariante, sur G_{0} est une structure CR sur G_{0} qui est stable par les automorphismes (g, ξ) ↦ (hg, ξ) de ℂ ⊗_{ℝ}T G_{0}. En particulier, une structure CR sur G_{0}, qui est G_{0}-invariante, est déterminée par sa fibre en e qui est une sous-algèbre 𝔥 de 𝔤 d’intersection nulle avec 𝔤_{0}. L’application T ↦ 𝔥 est alors une bijection de l’ensemble des structures CR sur G_{0}, G_{0}-invariantes, sur l’ensemble des sous-algèbres de 𝔤 d’intersection nulle avec 𝔤_{0}.

Dans ce mémoire, on donne une classification des structures CR sur G_{0} qui sont de rang maximum et G_{0}-invariantes. Cela revient à classer les sous-algèbres de 𝔤 de dimension maximale qui ont une intersection nulle avec 𝔤_{0}. Pour cela, on fixe une sous-algèbre de Cartan 𝔞_{0} de 𝔤_{0}. On désigne par 𝔞 le complexifié de 𝔞_{0}, par R l’ensemble des racines de 𝔞 dans 𝔤 et par R_{+} un système de racines positives dans R. Conformément à l’usage, pour tout α dans R, on note 𝔤_{α} le sous-espace radiciel de poids α. La somme 𝔟_{u} des 𝔤_{α}, pour α dans R_{+}, est une sous-algèbre de 𝔤 dont tous les éléments sont nilpotents et la somme 𝔞 + 𝔟_{u} est une sous-algèbre résoluble maximale de 𝔤 dont 𝔟_{u} est l’ensemble des éléments nilpotents. On rappelle que la dimension l de 𝔞 est le rang de 𝔤 et que N est égal à l + 2n, en désignant par n le cardinal de R_{+}. Si 𝔪 est un sous-espace de 𝔞 de dimension [l/2] et d’intersection nulle avec 𝔤_{0}, la somme Φ(𝔪) de 𝔪 et de 𝔟_{u} est une sous-algèbre de dimension [N/2] et d’intersection nulle avec 𝔤_{0}. Pour x réel,

[x] désigne la partie entière de x. On pose alors la définition :

Définition. On dira qu’une sous-algèbre 𝔥 de 𝔤 est de type CR0 relativement à 𝔤_{0} si elle est conjuguée, sous l’action du groupe adjoint de 𝔤_{0} dans 𝔤, à une sous-algèbre Φ(𝔪) où 𝔪 est un sous-espace de dimension [l/2] de 𝔞 d’intersection nulle avec 𝔤_{0}.

Dans le cas, où N est impair, on introduit l’ensemble D(R_{+}) des quadruplets (α, 𝔪, x, t) où α est une racine simple de R_{+}, où 𝔪 est un sous-espace de dimension [l/2] du noyau de α dans 𝔞 dont l’intersection avec 𝔤_{0} est nulle, où x est un élément non nul de 𝔤_{α} et où t est un élément de 𝔞_{0}. Pour tout quadruplet (α, 𝔪, x, t) dans D(R_{+}), on pose :

Θ(α, 𝔪, x, t) = 𝔪 ⊕ ⨁_{β∈R_{+}\{α}} 𝔤_{β} ⊕ ℂ(t + x) .

Alors Θ(α, 𝔪, x, t) est une sous-algèbre de 𝔤 de dimension [N/2] et d’intersection nulle avec 𝔤_{0}. On pose alors la définition :

Définition. On dira qu’une sous-algèbre de 𝔤 est de type CRI relativement à 𝔤_{0} si elle est conjuguée, sous l’action du groupe adjoint de 𝔤_{0} dans 𝔤, à une sous-algèbre Θ(α, 𝔪, x, t) où (α, 𝔪, x, t) est un élément de D(R_{+}).

Dans le cas de la dimension impaire, il n’y a pas d’inclusion entre l’ensemble des sous-algèbres de type CR0 relativement à 𝔤_{0} et l’ensemble des sous-algèbres de type CRI relativement à 𝔤_{0}. Néanmoins si D(R_{+}) contient (α, 𝔪, x, 0), alors Θ(α, 𝔪, x, 0) est de type CR0 relativement à 𝔤_{0}. En effet, dans ce cas, Θ(α, 𝔪, x, 0) est égal à Φ(𝔪). On peut alors énoncer le théorème principal de ce mémoire :

Théorème. Soit T une structure CR, G_{0}-invariante, sur G_{0} et de rang maximum. Alors T est de rang [N/2] et la fibre de T en e est une sous-algèbre de 𝔤 de type CR0, relativement à 𝔤_{0}, si N est pair et de type CR0 ou CRI, relativement à 𝔤_{0}, si N est impair. En outre, pour toute sous-algèbre 𝔥 de 𝔤 qui est de type CR0, relativement à 𝔤_{0}, dans le cas N pair, et de type CR0 ou CRI, relativement à 𝔤_{0}, dans le cas N impair, il existe une unique structure CR, G_{0}-invariante, de rang [N/2], sur G_{0} dont la fibre en e est 𝔥.

Le cas où 𝔤_{0} est égal à 𝔰𝔲_{2} a été étudié par Debiard et Gaveau. Ils ont montré l’existence d’un type de structure CR dans [7]. M. Rais a montré l’existence des deux types de structures CR en identifiant 𝔰𝔲_{2} et 𝔰𝔬_{3}(ℝ). Dans le cas de la dimension paire, les structures CR qu’on trouve sont en fait des structures complexes sur la variété analytique sous-jacente à G_{0}. Dans [14], H. Samelson donne un exemple de structure complexe G_{0}-invariante sur un groupe de Lie compact de dimension paire. Le premier théorème ci-dessus dit en particulier que les structures analytiques complexes invariantes données par H. Samelson sont les seules. Le cas de la dimension impaire a été étudié par G. Gigante et G. Tomassini [9]. Ils montrent le théorème ci-dessus pour N impair sous une hypothèse de torsion. Le théorème principal de ce mémoire montre en particulier que cette hypothèse de torsion est superflue. Dans [2], M. S. Baouendi et L. P. Rothschild s’intéressent au problème de la réalisation locale d’une structure CR sur X. Il s’agit de trouver un plongement local de la variété X dans un espace ℂ^{m} qui est annulé par les sections locales de T. Dans le cas traité ici, c’est toujours possible car les structures sont analytiques. Une démontsration de ce dernier point est donnée dans [15]. M. S. Baouendi et L. P. Rothschild montrent qu’une condition nécessaire et suffisante pour qu’un tel plongement local existe, est que la structure CR soit localement invariante par l’action transverse d’un groupe de Lie. Dans [3] est introduite la notion de structure rigide :

Soient M une variété C^{∞} et T M son fibré tangent. On dira que la structure CR T sur M est rigide si elle est invariante par l’action transverse d’un groupe de Lie commutatif. Cela revient à dire qu’il existe une sous-algèbre de Lie commutative 𝔭, de dimension finie, de l’algèbre de Lie des champs de vecteurs C^{∞} sur M qui satisfait les deux conditions suivantes :

[𝔭, L] ⊂ L , T_{x} ⊕ \overline{T_{x}} ⊕ ℂ𝔭(x) = ℂ ⊗_{ℝ} T_{x}M ,

pour tout x appartenant à M, en désignant par L l’espace des sections C^{∞} de T au dessus de M.

Dans le contexte de ce mémoire, on pose par analogie la définition suivante :

Définition. Soit G un groupe de Lie qui opère de manière C^{∞} sur une varitété C^{∞} X. Soit T une structure CR, G-invariante, sur X. On désigne par T X le fibré tangent à X et par L l’espace des sections C^{∞} de T au dessus de X. On dira que T est invariant par la G-action transverse d’un groupe de Lie s’il existe une sous-algèbre 𝔭, de dimension finie, de l’algèbre de Lie des champs de vecteurs C^{∞} sur X qui est G-invariante et qui satisfait les deux conditions suivantes :

[𝔭, L] ⊂ L , T_{x} ⊕ \overline{T_{x}} ⊕ ℂ𝔭(x) = ℂ ⊗_{ℝ} T_{x}X ,

où x est dans X.

Dans le cas où 𝔭 est une algèbre commutative, on dira que la structure CR T est G-rigide.

On montre alors le théorème :

Théorème. On suppose G_{0} de dimension impaire. Soit T une structure CR, G_{0}-invariante, de rang maximum, sur G_{0}. Alors T est G_{0}-rigide si et seulement si la fibre en e de T est une sous-algèbre de type CR0 de 𝔤 relativement à 𝔤_{0}.

On remarque en particulier que ce théorème montre en quoi les sous-algèbres de type CR0 de 𝔤, relativement à 𝔤_{0}, sont meilleures que les sous-algèbres de type CRI. Dans [13], H. Jacobowitz s’intéresse au problème de la réalisation locale dans le cas où N est égal à 2M + 1 et où la structure CR est de rang M. Pour cela, il introduit l’espace K des sections globales du fibré canonique relatif à la structure CR. Par définition, K est l’espace des M +1-formes différentielles sur X, à valeurs complexes, qui sont annulées par les produits intérieurs par les sections globales de T. En outre, il montre que l’existence d’une forme fermée dans K est liée à une propriété de la \overline{∂}_{b}-cohomologie de la structure CR sur X. Dans le cas où X est le groupe G_{0}, on étudie le problème de l’existence d’une forme fermée, G_{0}-invariante dans K. On est alors conduit à poser la définition suivante :

Définition. Soit 𝔥 une sous-algèbre de 𝔤. On dira que 𝔥 est une sous-algèbre de type CRII de 𝔤 relativement à 𝔤_{0} si elle est conjuguée sous l’action du groupe adjoint de 𝔤_{0} dans 𝔤 à une sous-algèbre Θ(α, 𝔪, x, t) où (α, 𝔪, x, t) est un élément de D(R_{+}) qui a la propriété suivante :

∑_{β∈R_{+}\{α}}⟨β, t⟩ = 0 .

Par définition, une sous-algèbre de type CRII relativement à 𝔤_{0} est une sous-algèbre de type CRI relativement à 𝔤_{0}. On a alors le théorème :

Théorème. On suppose G_{0} de dimension 2M +1. Soient T une structure CR sur G_{0}, G_{0}-invariante, de rang M et K l’espace des sections globales de son fibré canonique. Alors les conditions suivantes :

1) la fibre en e de T est une sous-algèbre de type CR0 ou de type CRII relativement à 𝔤_{0},

2) K contient une forme fermée G_{0}-invariante et non nulle,

sont équivalentes.

La suite de ce mémoire est divisée en 6 sections. Dans la section 2, on montre qu’une sous-algèbre 𝔥 de 𝔤 de dimension [N/2] et d’intersection nulle avec 𝔤_{0} est résoluble. Pour cela, on utilise une propriété métrique des groupes semi-simples réels. On rappelle aussi une propriété élémentaire des sous-algèbres de Borel de 𝔤. Dans la section 3, on introduit les sous-algèbres de type CR0 relativement à 𝔤_{0} et on en donne une caractérisation géométrique. En particulier, une sous-algèbre de dimension [N/2] et d’intersection nulle avec 𝔤_{0} est de type CR0 relativement à 𝔤_{0} si et seulement si elle est normalisée par une sous-algèbre de Cartan de 𝔤_{0}. Dans la section 4, on introduit les sous-algèbres de type CRI et de type CRII relativement à 𝔤_{0}, dans le cas où 𝔤 est de dimension impaire. On donne une caractérisation géométrique des sous-algèbres de type CR0 ou de type CRI. En particulier, une sous-algèbre de dimension [N/2] et d’intersection nulle avec 𝔤_{0} est de type CR0 ou de type CRI relativement à 𝔤_{0} si et seulement si le sous-espace de ses éléments nilpotents est de dimension n − 1 ou n et normalisé par une sous-algèbre de Cartan de 𝔤. On montre en outre que tout automorphisme de 𝔤_{0} laisse stable chacun des trois types, CR0, CRI, CRII, de sous-algèbres de 𝔤. On montre dans la section 6 que toute sous-algèbre 𝔥 de 𝔤 de dimension [N/2] et d’intersection nulle avec 𝔤_{0} est de type CR0 relativement à 𝔤_{0} dans le cas de la dimension paire et de type CR0 ou CRI relativement à 𝔤_{0} dans le cas de la dimension impaire. Pour cela, on raisonne par récurrence sur la dimension de 𝔤 en utilisant les centralisateurs dans 𝔤 de sous-algèbres commutatives non centrales de 𝔤_{0}. On commence par monter que le normalisateur de 𝔥 dans 𝔤_{0} contient une sous-algèbre commutative non centrale. Dans la section 5, on donne quelques lemmes utiles aux démonstrations de 6. On termine la section 5 par deux lemmes qui montrent un corollaire dont découle une partie du deuxième théorème. Enfin dans la section 7, on donne les trois théorèmes avec leurs démonstrations.

2. Sous-algèbres résolubles.

Soit G_{0} un groupe compact connexe d’algèbre de Lie 𝔤_{0}. On note 𝔤 l’algèbre de Lie complexifiée de 𝔤_{0}. Puisque G_{0} est un groupe compact, il a une représentation fidèle dans un espace vectoriel réel V_{0} de dimension finie. On désigne par V le complexifié de V_{0} et on identifie 𝔤 à une sous-algèbre de l’algèbre de Lie 𝔤𝔩(V) des endomorphismes de V . La sous-algèbre 𝔤 de 𝔤𝔩(V) est alors réductive et algébrique. On trouvera en [6](Ch. II, §14) une introduction à la notion de sousalgèbres algébriques. On note G le sous-groupe analytique de GL(V) d’algèbre de Lie 𝔤. On rappelle que [x] désigne la partie entière du nombre réel x. Le but de cette section est la proposition :

Proposition. Soit 𝔥 une sous-algèbre de 𝔤 de dimension [N/2] et d’intersection nulle avec 𝔤_{0}. Alors 𝔥 est résoluble.

2.1 Puisque la représentation de G_{0} dans V_{0} est fidèle, G_{0} s’identifie au sousgroupe analytique de G d’algèbre de Lie 𝔤_{0}. Soit H le sous-groupe analytique de G d’algèbre de Lie 𝔥. On désigne par \overline{H} l’adhérence de H dans G.

Lemme 2.1. Soient 𝔮 la somme 𝔤_{0} + 𝔥 et 𝔥̃ l’algèbre de Lie de \overline{H}. i) La sous-algèbre 𝔥 de 𝔥̃ est un idéal. ii) Le sous-espace 𝔮 de 𝔤 est un sous-espace réel de codimension au plus 1

de 𝔤 qui contient 𝔤_{0}. En outre, lorsque N est pair, 𝔮 est égal à 𝔤.

i) La sous-algèbre [𝔥, 𝔥] de 𝔤 est algébrique d’après [6](Ch. II, Théorème 15). En outre, elle est l’algèbre de Lie du sous-groupe dérivé [H, H] de H ; donc [H, H] est un sous-groupe fermé de G. Par suite, [H, H] contient les commutateurs du sous-groupe \overline{H} ; donc [H, H] est le sous-groupe dérivé de \overline{H} et [𝔥, 𝔥] est l’algèbre dérivée de 𝔥̃. En particulier, 𝔥 est un idéal de 𝔥̃.

ii) Puisque l’intersection de 𝔥 et de 𝔤_{0} est nulle, la dimension du sous-espace réel 𝔮 est égale à :

2[\frac{N}{2} ] + N .

Lorsque N est pair, cet entier est égal à 2N. Quand N est impair, cet entier est égal à 2N − 1, d’où l’assertion.

2.2 Soit X la variété des classes à gauche de G modulo G_{0}. On note θ l’application canonique de G sur X et 𝔤_{ℝ} l’algèbre de Lie réelle sous-jacente à 𝔤. Puisque 𝔤_{0} est une forme réelle de 𝔤, G_{0} est un sous-groupe compact maximal de G. Soit B une extension non dégénérée à 𝔤_{ℝ} × 𝔤_{ℝ} de la forme de Killing de l’algèbre dérivée de 𝔤_{ℝ}. Il résulte alors de [10](Ch. V, Theorem 3.1) que pour un bon choix de B, B définit sur X une structure riemannienne G-invariante à courbure négative.

Proposition 2.2. Soit Y l’image de \overline{H} par θ. Alors Y est une sous-variété fermée connexe de X. En outre, la restriction à Y de la structure riemannienne sur X est une structure riemannienne à courbure négative.

Soit τ l’application :

\overline{H} × G_{0} → G , (g, h) ↦ gh .

Puisque G_{0} est compact, l’image de τ est fermée dans G ; or cette image est l’image réciproque de Y par θ ; donc Y est fermé dans X car θ est une application ouverte. En outre, Y est l’orbite sous \overline{H} du point θ(G_{0}) de X ; donc Y est une sous-variété fermée connexe de X car \overline{H} est connexe.

On note x_{0} l’image de G_{0} par θ, ρ la structure riemannienne sur X, D̃ la connexion de Levi-Cività sur X et D la connexion de Levi-Cività sur Y . Soient 𝔭 l’orthogonal de 𝔤_{0} dans 𝔤 relativement à B et 𝔭′ l’intersection de 𝔭 avec 𝔤_{0} + 𝔥̃. D’après l’assertion (ii) du lemme 2.1, 𝔭′ est un sous-espace de codimension au plus 1 de 𝔭. Si 𝔭′ est égal à 𝔭, X est égal à Y . On peut donc supposer 𝔭′ distinct de 𝔭. On désigne par ν un champ de vecteurs sur un ouvert X′ de X qui contient x_{0} et qui est normal à Y en tout point de l’intersection Y′ de X′ et de Y . Soit E l’espace des champs de vecteurs sur X′ qui sont tangents à Y en tout point de Y′. Si ξ est un champ de vecteurs sur X′, on désigne par le même symbole sa restriction à Y′. Il existe alors une fonction λ et une seule sur E × E, à valeurs dans l’espace des fonctions sur Y′, qui est définie par la relation suivante :

D̃_{ξ}η = D_{ξ}η + λ(ξ, η)ν ,

pour tout ξ et pour tout η dans E.

D’après les relations satisfaites par les connexions, λ est une forme bilinéaire sur E × E.

Assertion. Pour tout ξ et pour tout η dans E, on a la relation :

λ(ξ, η) = −ρ(η, D̃_{ξ}ν) .

Pour tout champ de vecteurs ξ sur X′ et pour toute fonction ϕ sur X′, on note ξ.ϕ la dérivée de Lie de ϕ dans la direction définie par ξ. Puisque η et ξ sont dans E, les fonctions ρ(η, ν) et ξ.ρ(η, ν) sont nulles sur Y′ ; or la fonction ρ(D_{ξ}η, ν) sur Y′ est nulle et on a :

ξ.ρ(η, ν) = ρ(D̃_{ξ}η, ν) + ρ(η, D̃_{ξ}ν) ;

donc d’après la définition de λ, il vient :

λ(ξ, η) = −ρ(η, D̃_{ξ}ν) .

On désigne par R̃ la courbure sur X et par R la courbure sur Y .

Assertion. Soient ξ, η, ζ dans E. Alors le champ de vecteurs sur Y′ :

R̃(ξ, η)ζ − R(ξ, η)ζ + ρ(ζ, D̃_{η}ν)D̃_{ξ}ν − ρ(ζ, D̃_{ξ}ν)D̃_{η}ν ,

est le produit de ν et d’une fonction sur Y′.

D’après la première assertion, on a :

D_{ξ}D_{η}ζ = D_{ξ}(D̃_{η}ζ + ρ(ζ, D̃_{η}ν)ν)

= D̃_{ξ}D̃_{η}ζ + ρ(D̃_{η}ζ, D̃_{ξ}ν)ν + ρ(ζ, D̃_{η}ν)D̃_{ξ}ν + ξ.ρ(ζ, D̃_{η}ν)ν + ρ(ζ, D̃_{η}ν)ρ(D̃_{ξ}ν, ν)ν . En outre, on a :

D_{[ξ,η]}ζ = D̃_{[ξ,η]}ζ + ρ(ζ, D̃_{[ξ,η]}ν)ν ;

donc il vient :

R(ξ, η)ζ = R̃(ξ, η)ζ + ρ(ζ, D̃_{η}ν)D̃_{ξ}ν − ρ(ζ, D̃_{ξ}ν)D̃_{η}ν + ψν ,

où ψ est une fonction sur Y′.

Pour tout ξ dans 𝔭, on désigne par ξ^{∗} le champ de vecteurs G-invariant sur X dont la valeur en x_{0} est l’image de ξ par l’application linéaire tangente à θ en l’élément neutre. Pour tout ξ dans 𝔭′, la restriction de ξ^{∗} à X′ appartient à E.

Assertion. Soient ξ et η dans 𝔭′. Alors on a :

ρ(R(ξ^{∗}, η^{∗})η^{∗}, ξ^{∗}) = ρ(R̃(ξ^{∗}, η^{∗})η^{∗}, ξ^{∗})+ρ(D̃_{η^{∗}}η^{∗}, ν)ρ(D̃_{ξ^{∗}}ξ^{∗}, ν)−ρ(D̃_{ξ^{∗}}η^{∗}, ν)ρ(D̃_{η^{∗}}ξ^{∗}, ν) .

Puisque ν est orthogonal à ξ^{∗} sur Y′, l’égalité suivante résulte de la deuxième assertion :

ρ(R(ξ^{∗}, η^{∗})η^{∗}, ξ^{∗}) = ρ(R̃(ξ^{∗}, η^{∗})η^{∗}, ξ^{∗})+ρ(η^{∗}, D̃_{η^{∗}}ν)ρ(D̃_{ξ^{∗}}ν, ξ^{∗})−ρ(η^{∗}, D̃_{ξ^{∗}}ν)ρ(D̃_{η^{∗}}ν, ξ^{∗}) .

Puisque les fonctions ρ(η^{∗}, ν) et ρ(ξ^{∗}, ν) sont nulles sur Y′, on a :

ρ(η^{∗}, D̃_{η^{∗}}ν) = −ρ(D̃_{η^{∗}}η^{∗}, ν) , ρ(ξ^{∗}, D̃_{ξ^{∗}}ν) = −ρ(D̃_{ξ^{∗}}ξ^{∗}, ν) ,
ρ(η^{∗}, D̃_{ξ^{∗}}ν) = −ρ(D̃_{ξ^{∗}}η^{∗}, ν) , ρ(ξ^{∗}, D̃_{η^{∗}}ν) = −ρ(D̃_{η^{∗}}ξ^{∗}, ν) ,

d’où l’assertion.

Par définition, le groupe \overline{H} opère transitivement sur Y ; or la structure riemannienne sur X étant G- invariante, la structure riemannienne sur Y est \overline{H} - invariante ; donc il suffit de montrer que pour tout ξ et pour tout η dans 𝔭′, la valeur en x_{0} de la fonction ρ(R(ξ^{∗}, η^{∗})η^{∗}, ξ^{∗}) est négative. D’après [10](Ch. IV, Theorem 4.2), la valeur en x_{0} de R̃(ξ^{∗}, η^{∗})η^{∗} est égale à [η, [ξ, η]] et d’après [10](Ch. IV, Theorem 4.1 and Theorem 4.3, (iii)), les valeurs en x_{0} de D̃_{η^{∗}}η^{∗} et D̃_{ξ^{∗}}ξ^{∗} sont respectivement égales à η et ξ ; donc d’après la troisième assertion, la valeur en x_{0} de ρ(R(ξ^{∗}, η^{∗})η^{∗}, ξ^{∗}) est égale à :

B([ξ, η], [ξ, η]) − ρ(D̃_{ξ^{∗}}η^{∗}, ν)(x_{0})ρ(D̃_{η^{∗}}ξ^{∗}, ν)(x_{0}) .

D’après les propriétés d’une connexion, on a :

D̃_{ξ^{∗}}η^{∗} − D̃_{η^{∗}}ξ^{∗} = [ξ^{∗}, η^{∗}] ;

or 𝔤_{0} contient [ξ, η] et 𝔤_{0} est orthogonal à la valeur en x_{0} de ν pour B ; donc les valeurs en x_{0} de ρ(D̃_{ξ^{∗}}η^{∗}, ν) et de ρ(D̃_{η^{∗}}ξ^{∗}, ν) sont égales. Puisque B([ξ, η], [ξ, η]) est négatif, la valeur en x_{0} de ρ(R(ξ^{∗}, η^{∗})η^{∗}, ξ^{∗}) est négative.

2.3 Dans cette section, on démontre la proposition 2. On suppose 𝔥 non résoluble. Il s’agit d’aboutir à une contradiction. L’algèbre de Lie 𝔥 contient alors une sous-algèbre semi-simple 𝔰. Soient 𝔨 une forme compacte de 𝔰 et K le sous-groupe analytique de G d’algèbre de Lie 𝔨. Alors K est un sous-groupe semi-simple, compact, connexe de \overline{H}. D’après le lemme 2.1, il suffit de trouver un élément h de \overline{H} pour lequel h^{−1}Kh est contenu dans G_{0}. Cela revient à dire que le point θ(h) de la sous-variété Y de X est fixe pour l’action de K dans X.

Puisque K est un sous-groupe de \overline{H}, Y est invariant par l’action de K. On note Ỹ le revêtement universel de Y et K̃ le revêtement universel de K. Il existe alors une unique action de K̃ dans Ỹ qui définit par passage au quotient l’action de K dans Y . De même, il existe sur Ỹ une unique structure riemannienne qui définit par passage au quotient la structure riemannienne sur Y . D’après la proposition 2.2, la structure riemannienne sur Ỹ est invariante par K̃, complète et à courbure négative. Puisque K est compact et semi-simple, K̃ est compact ; donc d’après [10](Ch. I, Theorem 13.5), l’action de K̃ dans Ỹ a un point fixe. Par suite, l’action de K dans Y a un point fixe.

2.4 On rappelle qu’une sous-algèbre de Borel de 𝔤 est une sous-algèbre résoluble maximale de 𝔤 et qu’une sous-algèbre de Cartan de 𝔤_{0} est une sous-algèbre commutative maximale de 𝔤_{0}. Les sous-algèbres de Cartan de 𝔤_{0} sont conjuguées sous l’action adjointe de G_{0} dans 𝔤_{0} d’après [11](Theorem 34.4). La dimension l d’une sous-algèbre de Cartan de 𝔤_{0} est le rang de 𝔤_{0} et de 𝔤. On note 2n le nombre de racines dans 𝔤 d’une sous-algèbre de Cartan de 𝔤.

Lemme 2.3. Soit 𝔟 une sous-algèbre de Borel de 𝔤. Alors l’intersection de 𝔟 et de 𝔤_{0} est une sous-algèbre de Cartan de 𝔤_{0}. En outre, toute sous-algèbre de Borel de 𝔤 est conjuguée à 𝔟 sous l’action adjointe de G_{0}.

Puisque 𝔟 est une sous-algèbre de Borel de 𝔤, sa dimension est l+n. Soit 𝔱_{0} l’intersection de 𝔟 et de 𝔤_{0}. Alors 𝔱_{0} est une sous-algèbre résoluble de 𝔤_{0} ; or tous les éléments de 𝔤_{0} sont semi-simples ; donc 𝔱_{0} est une sous-algèbre commutative de 𝔤_{0} et sa dimension est au plus égale à l. Les dimensions des espaces vectoriels réels sous-jacents à 𝔟 et à 𝔤 sont respectivement 2l + 2n et 2l + 4n ; or 𝔤_{0} est de dimension l + 2n ; donc 𝔱_{0} est de dimension au moins 3l + 4n − (2l + 4n). Par suite, 𝔱_{0} est une sous-algèbre de Cartan de 𝔤_{0}.

Soient 𝔡 une sous-algèbre de Borel de 𝔤 et 𝔰_{0} son intersection avec 𝔤_{0}. Alors 𝔰_{0} est une sous-algèbre de Cartan de 𝔤_{0} ; or les sous-algèbres de Cartan de 𝔤_{0} sont conjuguées sous l’action adjointe de G_{0} dans 𝔤_{0} ; donc 𝔡 est conjuguée sous l’action adjointe de G_{0} à une sous-algèbre de Borel de 𝔤 qui contient 𝔱_{0}. D’après [11](24.1, Proposition A), le groupe de Weyl de 𝔱_{0} permute les sous-algèbres de Borel de 𝔤 qui contiennent 𝔱_{0} ; donc 𝔟 et 𝔡 sont conjugués sous l’action adjointe de G_{0} dans 𝔤.

3. Sous-algèbres de type CR0.

Comme en 2, G_{0} est un sous-groupe connexe compact du groupe des automorphismes linéaires d’un espace vectoriel réel de dimension finie et 𝔤 est le complexifié de l’algèbre de Lie 𝔤_{0} de 𝔤. Dans cette section, on définit une classe de sous-algèbres de 𝔤. Pour cela on utilisera les notations qui suivent et qui resteront fixées dans la suite de ce mémoire. Soient 𝔞_{0} une sous-algèbre de Cartan de 𝔤_{0} et 𝔞 son complexifié. Alors 𝔞 est une sous-algèbre de Cartan de 𝔤. On note R le système de racines de 𝔞 dans 𝔤 et on choisit un système de racines positives R_{+} dans R. Conformément à l’usage, pour tout α dans R, 𝔤_{α} désigne le sous-espace poids, de poids α, de l’action adjointe de 𝔞 dans 𝔤. On note l la dimension de 𝔞 et n le cardinal de R_{+}. Alors la dimension N de 𝔤 est égale à l + 2n. On désigne par 𝔟_{u} la somme des sous-espaces 𝔤_{α} où α est dans R_{+} et 𝔟 la somme 𝔞 + 𝔟_{u}. Alors 𝔟 est une sous-algèbre de Borel de 𝔤 et 𝔟_{u} est le sous-espace de ses éléments nilpotents.

3.1 Soient V_{0} un espace vectoriel réel de dimension m et V son complexifié. On note v ↦ \overline{v} la conjugaison de V dont l’ensemble des points fixes est V_{0}.

Lemme 3.1. Soit W un sous-espace de V dont l’intersection avec V_{0} est nulle. Alors la dimension de W est au plus égale à [m/2]. En outre, il existe des sousespaces de V de dimension [m/2] et d’intersection nulle avec V_{0}.

L’intersection de W et de \overline{W} est un sous espace de V qui est engendré par son intersection avec V_{0} ; or l’intersection de W et de V_{0} est nulle ; donc l’intersection de W et de \overline{W} est nulle. Par suite, la dimension de la somme de W et de \overline{W} est le double de la dimension de W ; donc la dimension de W est au plus égale à [m/2]. On note p l’entier [m/2] et v_{1}, …,v_{2p} des vecteurs linéairement indépendants de V_{0}. Alors les vecteurs de V :

v_{1} + iv_{2} , …, v_{2p−1} + iv_{2p} ,

sont linéairement indépendants et engendrent un sous-espace d’intersection nulle avec V_{0}.

3.2 Pour tout sous-espace 𝔪 de 𝔞, Φ(𝔪) désigne la somme de 𝔪 et de 𝔟_{u}.

Proposition 3.2. Soit 𝔪 un sous-espace de 𝔞 dont l’intersection avec 𝔞_{0} est nulle.

i) Le sous-espace Φ(𝔪) est une sous-algèbre résoluble de 𝔤, d’intersection nulle avec 𝔤_{0}.

ii) Si la dimension de 𝔪 est égale à [l/2], Φ(𝔪) est une sous-algèbre de 𝔤 d’intersection nulle avec 𝔤_{0} et de dimension maximale.

i) Puisque 𝔟 contient 𝔪, il contient Φ(𝔪). Puisque 𝔟_{u} est l’algèbre dérivée de 𝔟 et que Φ(𝔪) contient 𝔟_{u}, Φ(𝔪) est une sous-algèbre de 𝔟. Par suite, Φ(𝔪) est résoluble. La sous-algèbre de Cartan 𝔞_{0} de 𝔤_{0} est contenue dans 𝔟 ; donc d’après le lemme 2.3, 𝔞_{0} est l’intersection de 𝔟 et de 𝔤_{0}. Par suite, l’intersection de Φ(𝔪) et de 𝔤_{0} est contenue dans l’intersection de 𝔞 et de 𝔤_{0} ; or 𝔪 est l’intersection de 𝔞 et de Φ(𝔪) ; donc l’intersection de Φ(𝔪) et de 𝔤_{0} est nulle car l’intersection de 𝔪 et de 𝔞_{0} est nulle.

ii) On suppose 𝔪 de dimension [l/2]. Alors Φ(𝔪) est de dimension [N/2] ; donc d’après le lemme 3.1, Φ(𝔪) est une sous-algèbre de 𝔤 d’intersection nulle avec 𝔤_{0} et de dimension maximale.

Définition 3.3. On dira qu’une sous-algèbre 𝔥 de 𝔤 est de type CR0 relativement à 𝔤_{0} si elle est conjuguée, sous l’action adjointe de G_{0} dans 𝔤, à une sous-algèbre Φ(𝔪) où 𝔪 est un sous-espace de dimension [l/2] de 𝔞 d’intersection nulle avec 𝔤_{0}. Dans le cas où 𝔤_{0} est fixé, on dira qu’une sous-algèbre de 𝔤 est de type CR0 lorsqu’elle est de type CR0 relativement à 𝔤_{0}.

3.3 Si 𝔥 est une sous-algèbre de 𝔤, on note N_{𝔤}(𝔥) son normalisateur dans 𝔤.

Proposition 3.4. Soit 𝔥 une sous-algèbre de 𝔤 de dimension [N/2] et d’intersection nulle avec 𝔤_{0}. On note 𝔥_{u} l’ensemble des éléments nilpotents de 𝔥.

i) La sous-algèbre 𝔥 est de type CR0 relativement à 𝔤_{0} si et seulement si N_{𝔤}(𝔥) contient une sous-algèbre de Cartan de 𝔤_{0}.

ii) La sous-algèbre 𝔥 est de type CR0 si et seulement si 𝔥_{u} contient le sous-espace des éléments nilpotents d’une sous-algèbre de Borel de 𝔤.

D’après la proposition 2, 𝔥 est une sous-algèbre résoluble de 𝔤 ; donc 𝔥_{u} est une sous-algèbre de 𝔤.

i) Pour tout sous-espace 𝔪 de 𝔞, 𝔞 normalise la sous-algèbre Φ(𝔪) définie en 3.2 ; or toute sous-algèbre de 𝔤_{0} conjuguée à 𝔞_{0} sous l’action adjointe de G_{0} est une sous-algèbre de Cartan de 𝔤_{0} ; donc N_{𝔤}(𝔥) contient une sous-algèbre de Cartan de 𝔤_{0} si 𝔥 est de type CR0. Réciproquement, on suppose que N_{𝔤}(𝔥) contient une sous-algèbre de Cartan de 𝔤_{0}. Puisque les sous-algèbres de Cartan de 𝔤_{0} sont conjuguées à 𝔞_{0} sous l’action adjointe de G_{0}, on peut supposer que N_{𝔤}(𝔥) contient 𝔞. Alors 𝔞 normalisant 𝔥, 𝔞+𝔥 est une sous-algèbre résoluble de 𝔤 ; donc il existe une sous-algèbre de Borel 𝔡 de 𝔤 qui contient 𝔞 et 𝔥. D’après le lemme 2.3, 𝔡 est conjugué à 𝔟 sous l’action adjointe de G_{0} ; donc on peut supposer 𝔟 égal à 𝔡. Les poids de l’action adjointe de 𝔞 dans 𝔥 sont alors soit nuls soit contenus dans R_{+}. Soit P l’ensemble des éléments de R_{+} pour lesquels 𝔥 contient 𝔤_{α}. On note 𝔤^{P} le sous-espace de 𝔤 :

𝔤^{P} = ⨁_{α∈P} 𝔤_{α} .

Puisque 𝔞 nomalise 𝔥, 𝔥 est la somme de 𝔤^{P} et d’un sous-espace 𝔪 de 𝔞, d’après [5](Ch. VIII, §3, Proposition 1). Puisque l’intersection de 𝔪 et de 𝔞_{0} est nulle, la dimension de 𝔪 est au plus égale à [l/2] d’après le lemme 3.1 ; or la dimension de 𝔥 est [N/2] et le cardinal de P est au plus égal à n ; donc 𝔪 est de dimension [l/2], P est égal à R_{+} et 𝔥 est égal à Φ(𝔪). Par suite, 𝔥 est de type CR0.

ii) Par définition, la condition est nécessaire. On suppose que 𝔥_{u} contient le sous-espace des éléments nilpotents d’une sous-algèbre de Borel de 𝔤. Puisque 𝔥 est résoluble, il est contenu dans une sous-algèbre de Borel de 𝔤 ; donc d’après le lemme 2.3, on peut supposer que 𝔟 contient 𝔥_{u}. Alors 𝔟_{u} est égal à 𝔥_{u} car la dimension de 𝔥_{u} est au moins égale à celle de 𝔟_{u} ; or 𝔟_{u} contient [𝔞, 𝔟] ; donc 𝔞_{0} normalise 𝔥. Il résulte de (i) que 𝔥 est une sous-algèbre de type CR0.

4. Sous-algèbres de type CRI et de type CRII.

Dans cette section, on suppose la dimension N de 𝔤 impaire. On définit les notions de sous-algèbre de type CRI et de type CRII relativement à 𝔤_{0}. Par définition, toute sous-algèbre de type CRII relativement à 𝔤_{0} est de type CRI relativement à 𝔤_{0}. Comme en 2, 𝔤 est identifié à une sous-algèbre algébrique de l’algèbre de Lie des endomorphismes d’un espace vectoriel complexe de dimension finie et le groupe G_{0} est un groupe connexe compact d’algèbre de Lie 𝔤_{0}. On utilise les notations 𝔞_{0}, 𝔞, R, R_{+}, 𝔟, 𝔟_{u} de 3. On rappelle que l est le rang de 𝔤, que 2n est le cardinal de R et que N est égal à l + 2n. Puisque N est impair, l est impair.

4.1 Soit D(R_{+}) l’ensemble des quadruplets (α, 𝔪, x, t) où α est une racine simple de R_{+}, où 𝔪 est un sous-espace de dimension [l/2] du noyau de α dans 𝔞 dont l’intersection avec 𝔤_{0} est nulle, où x est un élément non nul de 𝔤_{α} et où t est un élément de 𝔞_{0}. Pour tout quadruplet (α, 𝔪, x, t) dans D(R_{+}), on pose :

Θ(α, 𝔪, x, t) = 𝔪 ⊕ ⨁_{β∈R_{+}\{α}} 𝔤_{β} ⊕ ℂ(t + x) .

Lemme 4.1. Soit (α, 𝔪, x, t) dans D(R_{+}). Alors le sous-espace Θ(α, 𝔪, x, t) de 𝔤 est une sous-algèbre de dimension [N/2] dont l’intersection avec 𝔤_{0} est nulle.

La dimension de Θ(α, 𝔪, x, t) est (l − 1)/2 + n ; or N est égal à l + 2n ; donc Θ(α, 𝔪, x, t) est de dimension [N/2]. Soit 𝔭 la somme des sous-espaces 𝔤_{β} où β est dans R_{+}\{α}. Puisque α est une racine simple, 𝔭 est un idéal de 𝔟 ; or α étant nul sur 𝔪, 𝔪 centralise t + x ; donc Θ(α, 𝔪, x, t) est une sous-algèbre de 𝔤. D’après le lemme 2.3, 𝔞_{0} est l’intersection de 𝔟 et de 𝔤_{0} ; or l’intersection de 𝔞 et de Θ(α, 𝔪, x, t) est égale à 𝔪 ; donc l’intersection de Θ(α, 𝔪, x, t) et de 𝔤_{0} est nulle.

Définition 4.2. On dira qu’une sous-algèbre de 𝔤 est de type CRI relativement à 𝔤_{0} si elle est conjuguée, sous l’action adjointe de G_{0} dans 𝔤, à une sousalgèbre Θ(α, 𝔪, x, t) où (α, 𝔪, x, t) est un élément de D(R_{+}). Dans le cas où 𝔤_{0} est fixé, on dira qu’une sous-algèbre de 𝔤 est de type CRI lorsqu’elle est de type CRI relativement à 𝔤_{0}.

4.2 Soit 𝔥 une sous-algèbre de 𝔤 de dimension [N/2] et d’intersection nulle avec 𝔤_{0}. D’apès la proposition 2, 𝔥 est une sous-algèbre résoluble.

Proposition 4.3. On note 𝔥_{u} le sous-espace des éléments nilpotents de 𝔥. Soit 𝔪 un sous-espace de 𝔞 de dimension [l/2] et d’intersection nulle avec 𝔤_{0}.

i) La sous-algèbre Φ(𝔪) est de type CRI si et seulement si 𝔪 est contenu dans le noyau d’une racine simple de R_{+}.

ii) Si 𝔥_{u} est de dimension n−1 et normalisé par une sous-algèbre de Cartan de 𝔤, alors le normalisateur de 𝔥_{u} dans 𝔤 contient une sous-algèbre de Borel de 𝔤.

iii) On suppose que 𝔥 est contenu dans 𝔟 et que 𝔥_{u} est un sous-espace de dimension n−1, normalisé par 𝔟. Alors il existe un élément (α, 𝔪, x, t) de D(R_{+}) pour lequel 𝔥 est égal à Θ(α, 𝔪, x, t).

iv) La sous-algèbre 𝔥 est de type CR0 ou de type CRI si et seulement si 𝔥_{u} est de dimension au moins n − 1 et normalisé par une sous-algèbre de Cartan de 𝔤. En outre, 𝔥 est de type CRI si 𝔥_{u} est de dimension n − 1 et normalisé par une sous-algèbre de Cartan de 𝔤.

Puisque 𝔥 est une sous-algèbre résoluble, 𝔥_{u} est une sous-algèbre de 𝔤.

i) On suppose que 𝔪 est contenu dans le noyau d’une racine simple α de R_{+}. Soit x un élément non nul de 𝔤_{α}. Alors D(R_{+}) contient (α, 𝔪, x, 0) et Φ(𝔪) est égal à Θ(α, 𝔪, x, 0). Réciproquement, on suppose que Φ(𝔪) est une sous-algèbre de type CRI. Alors il existe un élément (α, 𝔭, x, t) de D(R_{+}) et un élément g de G_{0} pour lesquels Adg(Φ(𝔪)) est égal à Θ(α, 𝔭, x, t). Le sous-espace des éléments nilpotents de Φ(𝔪) est égal à 𝔟_{u} et contient le sous-espace des éléments nilpotents de Θ(α, 𝔭, x, t) dont la dimension est celle de 𝔟_{u} ; donc g normalise 𝔟_{u}. D’après [11](23.1, Corollary D), le normalisateur de 𝔟_{u} dans le groupe adjoint de 𝔤 est le sous-groupe de Borel d’algèbre de Lie 𝔟 ; donc pour tout ξ dans 𝔟, Adg(ξ) − ξ est un élément nilpotent. Puisque g est dans G_{0}, 𝔞_{0} contient Adg(ξ) − ξ pour tout ξ dans 𝔞_{0} car 𝔞_{0} est l’intersection de 𝔟 et de 𝔤_{0} ; or tout élément de 𝔞_{0} est semi-simple ; donc g centralise 𝔞_{0} et 𝔞. Par suite 𝔪 est égal à Adg(𝔪) ; or 𝔭 est l’intersection de Θ(α, 𝔭, x, t) et de 𝔞 ; donc 𝔪 est contenu dans 𝔭 et le noyau de la racine simple α.

ii) On suppose 𝔥_{u} de dimension n − 1 et normalisé par une sous-algèbre de Cartan 𝔱 de 𝔤. Soit N_{𝔤}(𝔥_{u}) le normalisateur de 𝔥_{u} dans 𝔤. Alors 𝔱 + 𝔥_{u} est une sous-algèbre résoluble de N_{𝔤}(𝔥_{u}) ; donc elle est contenue dans une sous-algèbre de Borel 𝔡 de N_{𝔤}(𝔥_{u}). On rappelle qu’une sous-algèbre de Borel de N_{𝔤}(𝔥_{u}) est une sous-algèbre résoluble maximale de N_{𝔤}(𝔥_{u}). Le sous-espace 𝔡_{u} des éléments nilpotents de 𝔡 contient 𝔥_{u}. Si 𝔡_{u} contient strictement 𝔥_{u}, alors il est de dimension n et 𝔡 est de dimension au moins l + n ; donc dans ce cas, 𝔡 est une sous-algèbre de Borel de 𝔤. Dans le cas contraire, 𝔥_{u} est l’ensemble des éléments nilpotents du radical de N_{𝔤}(𝔥_{u}) ; donc d’après [5](Ch. VIII, §10, Théorème 2), N_{𝔤}(𝔥_{u}) est une sous-algèbre parabolique de 𝔤. Par suite, N_{𝔤}(𝔥_{u}) contient une sous-algèbre de Borel de 𝔤.

iii) Puisque 𝔞_{0} normalise 𝔥_{u}, il existe un élément α de R_{+} pour lequel 𝔟_{u} est le sous-espace engendré par 𝔥_{u} et 𝔤_{α}. En outre, 𝔥_{u} est somme de sousespaces poids de l’action adjointe de 𝔞 dans 𝔤 ; or pour tout β dans R_{+}, 𝔤_{β} est de dimension 1 ; donc 𝔥_{u} est somme directe des sous-espaces 𝔤_{β} où β est dans R_{+}\{α}. Puisque 𝔥_{u} est une sous-algèbre de 𝔥, α est une racine simple. Soit 𝔞′ l’intersection de 𝔞 et de 𝔥 + ℂx. Puisque 𝔥 est de dimension [l/2] + n, 𝔞′ est de dimension [l/2] + 1 ; donc d’après le lemme 3.1, son intersection avec 𝔞_{0} est non nulle. Soit t un élément non nul de cette intersection. Alors il existe un nombre complexe non nul a pour lequel 𝔥 contient t + ax car t n’est pas dans 𝔥. Par suite, 𝔞′ + 𝔟_{u} est le sous-espace engendré par 𝔞′, 𝔥_{u} et t + ax ; or 𝔥 est contenu dans 𝔞′ + 𝔟_{u} ; donc 𝔥 est le sous-espace engendré par 𝔥_{u}, t + ax et l’intersection 𝔪 de 𝔞′ avec 𝔥. Puisque 𝔥 est de dimension [l/2] + n, 𝔪 est de dimension [l/2]. En outre, l’intersection de 𝔪 et de 𝔤_{0} est nulle. Pour tout y dans 𝔪, 𝔥 contient [y, t + ax] qui est égal à a[y, x] ; or [y, x] est colinéaire à x ; donc il est nul. Par suite, 𝔪 est contenu dans le noyau de α, D(R_{+}) contient (α, 𝔪, x, t) et 𝔥 est égal à Θ(α, 𝔪, x, t).

iv) Soit (α, 𝔪, x, t) un quadruplet dans D(R_{+}). Le sous-espace des éléments nilpotents de Θ(α, 𝔪, x, t) contient 𝔤_{β} si β est un élément de R_{+} distinct de α. En outre, il contient x si et seulement si t est nul car t est dans 𝔞_{0}. Alors 𝔞_{0} normalise le sous-espace des éléments nilpotents de Θ(α, 𝔪, x, t) qui est de dimension au moins n−1. Par conjuguaison sous l’action adjointe de G_{0}, 𝔥 satisfait la condition de l’assertion si 𝔥 est de type CRI. D’après l’assertion (ii) de la proposition 3.2, il en est de même si 𝔥 est de type CR0.

On suppose que 𝔥_{u} est de dimension au moins n − 1 et normalisé par une sous-algèbre de Cartan de 𝔤. D’après l’assertion (ii), N_{𝔤}(𝔥_{u}) contient une sousalgèbre de Borel de 𝔤 ; or 𝔥 est une sous-algèbre résoluble de N_{𝔤}(𝔥_{u}) ; donc 𝔥 est contenu dans une sous-algèbre de Borel de 𝔤 qui normalise 𝔥_{u}. D’après le lemme 2.3, quitte à remplacer 𝔥 par un conjugué sous l’action de G_{0}, on peut supposer que 𝔟 contient 𝔥 et normalise 𝔥_{u}. Si 𝔥_{u} est égal à 𝔟_{u}, 𝔥 est une sous-algèbre de type CR0 d’après l’assertion (ii) de la proposition 3.4. Si 𝔥_{u} est de dimension n − 1, 𝔥 est une sous-algèbre de type CRI d’après l’assertion (iii).

4.3 Soit g un automorphisme de l’algèbre de Lie 𝔤_{0}. Par extension des scalaires de ℝ à ℂ, g est un automorphisme de 𝔤.

Définition 4.4. Soit 𝔥 une sous-algèbre de 𝔤. On dira que 𝔥 est une sousalgèbre de type CRII de 𝔤 relativement à 𝔤_{0} si elle est conjuguée sous l’action adjointe de G_{0} dans 𝔤 à une sous-algèbre Θ(α, 𝔪, x, t) où (α, 𝔪, x, t) est un élément de D(R_{+}) qui a la propriété suivante :

∑_{β∈R_{+}\{α}}⟨β, t⟩ = 0 .

Dans le cas où 𝔤_{0} est fixé, on dira qu’une sous-algèbre de 𝔤 est de type CRII lorsqu’elle est de type CRII relativement à 𝔤_{0}.

Par définition, une sous-algèbre de type CRII est de type CRI. D’après l’assertion (i) de la proposition 4.3, 𝔥 est une sous-algèbre de type CRII si elle est de type CR0 et de type CRI.

Lemme 4.5. Soit 𝔥 une sous-algèbre de 𝔤.

i) La sous-algèbre 𝔥 est de type CR0, au sens de 3.2, si et seulement si g(𝔥) est de type CR0.

ii) La sous-algèbre 𝔥 est de type CRI, au sens de 4.1, si et seulement si g(𝔥) est de type CRI.

iii) La sous-algèbre 𝔥 est de type CRII si et seulement si g(𝔥) est de type CRII.

Puisque g est un automorphisme de 𝔤_{0}, 𝔥 et g(𝔥) ont même dimension et l’intersection de 𝔥 avec 𝔤_{0} est nulle si et seulement si l’intersection de 𝔥 avec 𝔤_{0} est nulle. Puisque g est un automorphisme de 𝔤, l’image par g d’une sous-algèbre de Borel 𝔡 de 𝔤 est une sous-algèbre de Borel de 𝔤 ; or le sous-espace 𝔡_{u} des éléments nilpotents de 𝔡 est l’algèbre dérivée de 𝔡 ; donc l’image de 𝔡_{u} par g est le sous-espace des éléments nilpotents de la sous-algèbre de Borel g(𝔡). L’assertion (i) résulte alors de l’assertion (ii) de la proposition 3.4. Puisque l’image par g d’une sous-algèbre de Cartan de 𝔤_{0} est une sous-algèbre de Cartan de 𝔤_{0}, l’assertion (ii) résulte de ce qui précède et de l’assertion (iv) de la proposition 4.3.

iii) On suppose 𝔥 de type CRII. Il s’agit de montrer que g(𝔥) est de type CRII. Vu l’arbitraire de l’automorphisme g, on peut supposer 𝔥 égal à Θ(α, 𝔪, x, t) où (α, 𝔪, x, t) est un élément de D(R_{+}) qui satisfait l’égalité suivante :

∑_{β∈R_{+}\{α}}⟨β, t⟩ = 0 .

On rappelle que 𝔥_{u} désigne le sous-espace des éléments nilpotents de 𝔥. D’après ce qui précède, tout élément de g(𝔥_{u}) est nilpotent ; donc g(𝔥_{u}) est le sous-espace des éléments nilpotents de g(𝔥). La sous-algèbre g(𝔟) est une sous-algèbre de Borel de 𝔤 qui normalise g(𝔥_{u}). D’après le lemme 2.3, il existe un élément h de Ad(G_{0}) pour lequel hg(𝔟) est égal à 𝔟. Alors 𝔟 normalise hg(𝔥_{u}). En outre, hg normalise 𝔞_{0} et 𝔞 car 𝔞_{0} est l’intersection de 𝔟 et de 𝔤_{0}.

Pour tout β dans R, la forme linéaire ξ ↦ ⟨β, hg(ξ)⟩ sur 𝔞 appartient à R. On la note ι(β). Alors ι est une permutation de R. Pour tout ξ dans 𝔞 et pour tout y dans 𝔤_{β}, on a :

hg([ξ, y]) = ⟨β, ξ⟩hg(y) = [hg(ξ), hg(y)] ;

donc hg(𝔤_{β}) est égal à 𝔤_{ι^{−1}(β)}. Pour tout β dans R_{+}, 𝔟 contient hg(𝔤_{β}) car hg normalise 𝔟 ; donc ι(R_{+}) est égal à R_{+}.

Le sous-espace 𝔥_{u} étant de dimension n − 1 ou n, on considère successivement les deux cas suivants :

1) 𝔥_{u} est de dimension n − 1,

2) 𝔥_{u} est de dimension n.

1) D’après l’assertion (iii) de la proposition 4.3, il existe un élément (α′, 𝔪′, x′, t′) de D(R_{+}) pour lequel hg(𝔥) est égal à Θ(α′, 𝔪′, x′, t′). Puisque 𝔪 et 𝔪′ sont les intersections respectives de 𝔞 avec 𝔥 et hg(𝔥), 𝔪′ est égal à hg(𝔪). Puisque α est nul sur 𝔪 et \overline{𝔪}, ι^{−1}(α) est nul sur 𝔪′ et \overline{𝔪′} ; donc les racines α′ et ι^{−1}(α) ont même noyau. Par suite, ι^{−1}(α) est égal à α′ et 𝔤_{α′} contient hg(x) ; donc D(R_{+}) contient (α′, 𝔪′, hg(x), hg(t)). En outre, hg(𝔥) est égal à Θ(α′, 𝔪′, hg(x), hg(t)) ; or on a :

∑_{β∈R_{+}\{α′}}⟨β, hg(t)⟩ = ∑_{β∈R_{+}\{α}}⟨β, t⟩ = 0 ;

donc hg(𝔥) et g(𝔥) sont des sous-algèbres de type CRII.

2) Dans ce cas, t est nul et 𝔥_{u} est égal à 𝔟_{u}. Alors hg(𝔥) est la somme de 𝔟_{u} et d’un sous-espace 𝔪′ de 𝔞. Puisque 𝔪′ est l’intersection de 𝔞 et de hg(𝔥), 𝔪′ est égal à hg(𝔪) ; donc 𝔪′ + \overline{𝔪′} est le noyau de la racine ι^{−1}(α). Puisque la permutation ι^{−1} de R_{+} est compatible à la somme des racines, ι^{−1}(α) est une racine simple ; donc D(R_{+}) contient (ι^{−1}(α), 𝔪′, hg(x), 0). En outre, hg(𝔥) est égal à Θ(ι^{−1}(α), 𝔪′, hg(x), 0). Par suite, hg(𝔥) et g(𝔥) sont des sous-algèbres de type CRII.

5. Résultats préliminaires.

Dans cette section, on donne quelques lemmes préliminaires à la démonstration du théorème principal de 6. On utilise les notations 𝔞_{0}, 𝔞, R, R_{+}, 𝔟, 𝔟_{u} de 3. On rappelle que l est la dimension de 𝔞 et que n est le cardinal de R_{+}. On désigne par x ↦ \overline{x} la conjugaison de 𝔤 dont l’ensemble des points fixes est 𝔤_{0}.

5.1 Soit 𝔱_{0} une sous-algèbre commutative de 𝔤_{0}. On note Z_{𝔤}(𝔱_{0}) et Z_{𝔤_{0}}(𝔱_{0}) les centralisateurs de 𝔱_{0} dans 𝔤 et 𝔤_{0}. Alors Z_{𝔤}(𝔱_{0}) est une sous-algèbre réductive dans 𝔤, égale à la complexifiée de Z_{𝔤_{0}}(𝔱_{0}).

Lemme 5.1. Soit 𝔥 une sous-algèbre de 𝔤 de dimension [N/2] et d’intersection nulle avec 𝔤_{0}. On suppose que 𝔱_{0} est contenu dans l’intersection de 𝔤_{0} et d’une sous-algèbre résoluble 𝔯 de 𝔤 qui contient 𝔥. On pose :

𝔭 = 𝔥 + \overline{𝔥} , Z_{𝔥}(𝔱_{0}) = 𝔥 ∩ Z_{𝔤}(𝔱_{0}) , Z_{𝔭}(𝔱_{0}) = 𝔭 ∩ Z_{𝔤}(𝔱_{0}) .

i) Le sous-espace Z_{𝔭}(𝔱_{0}) est la somme des sous-espaces Z_{𝔥}(𝔱_{0}) et \overline{Z_{𝔥}(𝔱_{0})}. En outre, Z_{𝔭}(𝔱_{0}) est un sous-espace de codimension au plus 1 de Z_{𝔤}(𝔱_{0}).

ii) Si la dimension de 𝔤 est paire, la dimension de Z_{𝔤}(𝔱_{0}) est paire. iii) La sous-algèbre Z_{𝔥}(𝔱_{0}) de Z_{𝔤}(𝔱_{0}) satisfait les relations suivantes :

Z_{𝔥}(𝔱_{0}) ∩ Z_{𝔤_{0}}(𝔱_{0}) = \{0\} et dim Z_{𝔥}(𝔱_{0}) = [\frac{dim Z_{𝔤}(𝔱_{0})}{2}] .

D’après la proposition 2, 𝔥 est une sous-algèbre résoluble de 𝔤. On désigne par 𝔱′_{0} l’intersection de 𝔯 et de 𝔤_{0}. Alors 𝔱′_{0} est une sous-algèbre résoluble de 𝔤_{0} dont tous les éléments sont semi-simples ; donc 𝔱′_{0} est une sous-algèbre commutative de 𝔤_{0}. On note 𝔱′ le sous-espace de 𝔤 engendré par 𝔱′_{0}. Alors 𝔱′ est l’intersection de 𝔯 et de \overline{𝔯}.

i) Soit x dans Z_{𝔭}(𝔱_{0}). Alors il existe des éléments x_{1} et x_{2} de 𝔥 pour lesquels x est la somme de x_{1} et de \overline{x_{2}}. Puisque 𝔱_{0} centralise x, pour tout t dans 𝔱_{0}, on a :

[t, x_{1}] = −\overline{[t, x_{2}]} ;

or 𝔯 contient [t, x_{1}] et [t, x_{2}] ; donc 𝔱′ contient [t, x_{1}] et [t, x_{2}]. Puisque 𝔱′ est une sous-algèbre commutative qui contien 𝔱_{0}, on a :

[t, [t, x_{1}]] = [t, [t, x_{2}]] = 0 ,

pour tout t dans 𝔱_{0} ; or adt est un endomorphisme semi-simple pour tout t dans 𝔱_{0} ; donc 𝔱_{0} centralise x_{1} et x_{2}. Par suite, x appartient à la somme de Z_{𝔥}(𝔱_{0}) et de \overline{Z_{𝔥}(𝔱_{0})}. D’après le lemme 3.1, 𝔭 est un sous-espace de codimension au plus 1 dans 𝔤 ; donc la codimension de Z_{𝔭}(𝔱_{0}) dans Z_{𝔤}(𝔱_{0}) est au plus égale à 1.

ii) Si 𝔤 est de dimension paire, 𝔭 est égal à 𝔤 ; donc Z_{𝔭}(𝔱_{0}) est égal à Z_{𝔤}(𝔱_{0}). Puisque l’intersection de Z_{𝔥}(𝔱_{0}) et de 𝔤_{0} est nulle, la dimension de Z_{𝔭}(𝔱_{0}) est le double de la dimension de Z_{𝔥}(𝔱_{0}) d’après (i) ; donc la dimension de Z_{𝔤}(𝔱_{0}) est paire quand la dimension de 𝔤 est paire.

iii) Puisque Z_{𝔭}(𝔱_{0}) est un sous-espace de codimension au plus 1 de Z_{𝔤}(𝔱_{0}), l’assertion résulte de (i).

5.2 Soit 𝔪 un sous-espace de 𝔞 pour lequel 𝔪 + \overline{𝔪} est de codimension au plus 1 dans 𝔞. On note 𝔞′_{0} l’intersection de 𝔞_{0} et de 𝔪+\overline{𝔪}. Alors 𝔞′_{0} est un sous-espace de codimension au plus 1 de 𝔞_{0}.

Lemme 5.2. Soit 𝔥 une sous-algèbre de 𝔤 normalisée par 𝔪. Soient α et β des éléments de la réunion de R et de {0}.

i) Si α et β ont même restriction à 𝔪, alors α et β ont même restriction à 𝔞′_{0}.

ii) Soit Q l’ensemble des poids non nuls de l’action adjointe de 𝔪 dans 𝔥. Pour tout λ dans Q, λ est la restriction à 𝔪 d’un unique élément α de R. En outre, 𝔤_{α} est le sous-espace des éléments de 𝔥 de poids λ.

iii) La sous-algèbre 𝔞′_{0} normalise 𝔥.

iv) Soit Z_{𝔥}(𝔞′_{0}) le sous-espace des éléments de 𝔥 qui centralisent 𝔞′_{0}. Alors il existe une partie P de R pour laquelle 𝔥 est somme directe de Z_{𝔥}(𝔞′_{0}) et des sous-espaces 𝔤_{α} où α est dans P.

i) On suppose que α et β ont même restriction à 𝔪. Soit x dans 𝔪. Puisque 𝔞 est le complexifié de 𝔞_{0}, il existe des éléments x_{1} et x_{2} de 𝔞_{0} qui satisfont la relation :

x = x_{1} + ix_{2} .

Puisque les restrictions de α et de β à 𝔞_{0} prennent des valeurs imaginaires pures, on a :

⟨α, x_{1}⟩ = ⟨β, x_{1}⟩ et ⟨α, x_{2}⟩ = ⟨β, x_{2}⟩;

donc α et β prennent la même valeur en \overline{x}. Vu l’arbitraire de x, α et β ont même restriction à 𝔞′_{0}.

ii) Soit λ dans Q. On note 𝔥_{λ} et 𝔤_{λ} les sous-espaces des vecteurs de poids λ pour les actions adjointes de 𝔪 dans 𝔥 et 𝔤. Alors 𝔥_{λ} est l’intersection de 𝔤_{λ} et de 𝔥. Puisque 𝔞 contient 𝔪, 𝔤_{λ} est la somme des espaces poids 𝔤_{α} étendue à l’ensemble éléments α de R qui prolongent λ ; or d’après l’assertion (i), cet ensemble n’a qu’un seul élément α ; donc 𝔥_{λ} est égal à 𝔤_{α} car 𝔤_{α} est de dimension 1.

iii) Soit R_{0} l’ensemble des éléments de R qui sont nuls sur 𝔪. Soient Z_{𝔤}(𝔪) le sous-espace des éléments de 𝔤 qui commutent à 𝔪 et Z_{𝔥}(𝔪) l’intersection de 𝔥 avec Z_{𝔤}(𝔪). Puisque 𝔪 est contenu dans 𝔞, Z_{𝔤}(𝔪) est la somme de 𝔞 et des sous-espaces 𝔤_{α} où α est dans R_{0}. D’après (i), tout élément de R_{0} est nul sur 𝔞′_{0} ; donc 𝔞′_{0} centralise Z_{𝔤}(𝔪). Soit 𝔥′ la somme des sous-espace 𝔥_{λ} où λ est dans Q. D’après (ii), 𝔞 normalise 𝔥′. Puisque 𝔪 est une sous-algèbre commutative dont tous les éléments sont semi-simples, 𝔥 est somme directe de Z_{𝔥}(𝔪) et de 𝔥′ ; donc 𝔞′_{0} normalise 𝔥.

iv) Soit P l’ensemble des éléments de R dont la restriction à 𝔪 appartient à Q. D’après (ii), 𝔥′ est la somme des sous-espaces 𝔤_{α} où α est dans P. D’après (i), pour tout α dans P, la restriction de α à 𝔞′_{0} n’est pas nulle ; donc le sous-espace des éléments de 𝔥′ qui commutent à 𝔞′_{0} est nul. Puisque 𝔥 est somme directe de Z_{𝔥}(𝔪) et de 𝔥′, Z_{𝔥}(𝔪) est égal à Z_{𝔥}(𝔞′_{0}) car Z_{𝔥}(𝔪) centralise 𝔞′_{0} d’après (iii).

5.3 On note 𝔠 le centre de 𝔤, N_{1} et N_{2} les dimensions de 𝔠 et de [𝔤, 𝔤]. Alors N est la somme N_{1} + N_{2}. L’intersection 𝔠_{0} de 𝔠 et de 𝔤_{0} est le centre de 𝔤_{0}.

Lemme 5.3. Soit 𝔥 un sous-espace de dimension [N/2] et d’intersection nulle avec 𝔤_{0}. On désigne par 𝔥′ l’intersection de [𝔤, 𝔤] et de 𝔥 + 𝔠. Alors la dimension de 𝔥′ est au moins égale à [N_{2}/2].

La dimension de 𝔥′ est égale à :

dim 𝔥 − dim[𝔥 ∩ 𝔠] = [\frac{N_{1} + N_{2}}{2} ] − dim[𝔥 ∩ 𝔠] ;

or l’intersection de 𝔠_{0} et de 𝔥 étant nulle, la dimension de 𝔥 ∩ 𝔠 est au plus égale à [N_{1}/2] d’après le lemme 3.1 ; donc la dimension de 𝔥′ est au moins égale à [N_{2}/2].

5.4 On note 𝔞′_{0} l’intersection de 𝔞_{0} avec [𝔤_{0}, 𝔤_{0}] et 𝔞′ son complexifié. Selon les notations de 5.3, l − N_{1} est la dimension de 𝔞′. Soient α une racine simple dans R_{+}, x un élément non nul de 𝔤_{α} et t un élément de 𝔞′_{0}. On désigne par 𝔭 la somme des sous-espaces radiciels 𝔤_{β} où β est dans R_{+}\{α}.

Lemme 5.4. On suppose l − N_{1} impair. Soit 𝔪 un sous-espace de dimension (l − N_{1} − 1)/2 de 𝔞′ qui est d’intersection nulle avec 𝔞′_{0} et qui est contenu dans le noyau de α. Soit 𝔥 une sous-algèbre de 𝔤 pour laquelle l’intersection 𝔥′ de [𝔤, 𝔤] et de 𝔥 + 𝔠 est le sous-espace engendré par 𝔪, x + t et 𝔭. Alors le noyau de α normalise 𝔥.

Par définition, 𝔥′ est une sous-algèbre résoluble dont l’ensemble des éléments nilpotents contient 𝔭. Soient β dans R_{+}\{α} et y dans 𝔤_{β}. D’après l’assertion (i) du lemme 5.2, β n’est pas nul sur 𝔪. Soit u un élément de 𝔪 en lequel β est non nul. Alors [u, y] est un multiple non nul de y ; or 𝔥′ est contenu dans 𝔥 + 𝔠 ; donc y appartient à l’algèbre dérivée de 𝔥. Vu l’arbitraire de β, 𝔭 est contenu dans 𝔥. Puisque 𝔠 est contenu dans le noyau de α, 𝔥 est contenu dans le sousespace engendré par 𝔭, x + t et le noyau de α ; donc 𝔥 est la somme de 𝔭 et d’un sous-espace du sous-espace engendré par x + t et le noyau de α. Puisque le noyau de α est une sous-algèbre commutative qui centralise x + t et qui normalise 𝔭, il normalise 𝔥.

5.5 Soit 𝔪 un sous-espace de 𝔞′ de dimension [(l − N_{1})/2] et d’intersection nulle avec 𝔤_{0}.

Lemme 5.5. Soit 𝔥 une sous-algèbre de 𝔤 pour laquelle l’intersection 𝔥′ de [𝔤, 𝔤] et de 𝔥 + 𝔠 est le sous-espace engendré par 𝔪 et 𝔟_{u}. Alors le normalisateur 𝔥 dans 𝔤 contient un hyperplan de 𝔞_{0}.

Par définition, 𝔥′ est une sous-algèbre résoluble dont l’ensemble des éléments nilpotents est 𝔟_{u}. D’après l’assertion (i) du lemme 5.2, il existe au plus un élément de R_{+} qui est nul sur 𝔪. On désigne par α l’élément de R_{+} qui est nul sur 𝔪 quand il existe. Dans le cas contraire, α est nul. On note 𝔭 la somme des 𝔤_{β} où β est dans R_{+}\{α}. On montre comme en 5.4 que 𝔥 contient 𝔭. Alors 𝔥 est la somme de 𝔭 et d’un sous-espace du sous-espace engendré par 𝔞 et 𝔤_{α}. Si α est nul, 𝔤_{α} est nul. Puisque le noyau de α est une sous-algèbre commutative qui normalise 𝔭 et centralise 𝔤_{α}, il normalise 𝔥. Le lemme résulte alors de ce que le noyau de α contient un hyperplan de 𝔞_{0}.

5.6 On rappelle que 𝔤_{0} est une sous-algèbre de l’algèbre de Lie des endomorphismes linéaires d’un espace vectoriel réel, de dimension finie, V_{0} que G_{0} est le sous-groupe analytique de GL(V_{0}) d’algèbre de Lie 𝔤_{0}, que V est le complexifié de V_{0} et que G est le sous-groupe analytique de GL(V) d’algèbre de Lie 𝔤.

On utilise les notations de 4.1 et on considère un élément (α, 𝔪, x, t) de D(R_{+}) pour lequel t est non nul. On désigne par 𝔥 la sous-algèbre Θ(α, 𝔪, x, t) et par 𝔥_{u} le sous-espace de ses éléments nilpotents. On désigne par 𝔩 la sous-algèbre de 𝔤 engendrée par 𝔤_{α} et 𝔤_{−α}. Puisque α est une racine simple, 𝔩 est une algèbre semi-simple de dimension 3.

Lemme 5.6. Soient u un élément de 𝔤_{0} et μ une forme linéaire sur 𝔟 qui satisfont les conditions suivantes :

1) μ est nul sur 𝔟_{u},

2) μ prend des valeurs imaginaires sur 𝔞_{0},

3) pour tout ξ dans 𝔥, 𝔥 contient [u, ξ] − ⟨μ, ξ⟩u.

i) Le normalisateur de 𝔥_{u} dans 𝔤 est la sous-algèbre parabolique 𝔭 de 𝔤 égale à 𝔩 + 𝔟.

ii) L’intersection 𝔩_{0} de 𝔤_{0} et de 𝔩 est le sous-espace engendré par les éléments i[x, \overline{x}], x + \overline{x}, i(x − \overline{x}).

iii) Soit K_{0} le sous-groupe analytique de G_{0} d’algèbre de Lie 𝔩_{0}. Alors il existe un élément g de K_{0} pour lequel 𝔟 contient Adg(𝔥) et Adg(u).

iv) Si g est un élément de K_{0} qui satisfait la condition de l’assertion (iii), alors il existe un élément non nul t′ de 𝔞_{0} et un nombre complexe non nul a pour lesquels Adg(𝔥) est égal Θ(α, 𝔪, ax, t′).

v) La restriction de μ à 𝔞 est colinéaire à α.

vi) Le normalisateur de 𝔥 dans 𝔤 est contenu dans 𝔟.

vii) Le normalisateur de 𝔥 dans 𝔤_{0} est le noyau de la restriction de α à 𝔞_{0}.

i) On rappelle que N_{𝔤}(𝔥_{u}) désigne le normalisateur de 𝔥_{u} dans 𝔤. Puisque 𝔥_{u} est contenu dans 𝔟_{u} et que t est non nul, 𝔥_{u} est la somme des sous-espaces 𝔤_{β} où β est dans R_{+}\{α} ; donc 𝔞 et 𝔤_{α} normalisent 𝔥_{u}. Puisque α est une racine simple, pour tout β dans R_{+}, β − α n’est pas dans R ; donc 𝔤_{−α} normalise 𝔥_{u}. Puisque N_{𝔤}(𝔥_{u}) est une sous-algèbre qui contient 𝔞, N_{𝔤}(𝔥_{u}) est somme de sousespaces poids de l’action adjointe de 𝔞 dans 𝔤 ; or pour tout β dans R_{+}, [𝔤_{β}, 𝔤_{−β}] est un sous-espace non nul de 𝔞 ; donc N_{𝔤}(𝔥_{u}) est la somme des sous-espaces 𝔥_{u}, 𝔞, 𝔤_{α}, 𝔤_{−α}. Par suite, N_{𝔤}(𝔥_{u}) est égal à 𝔭. En particulier, 𝔭 est une sous-algèbre de 𝔤 qui contient 𝔟 ; donc elle est parabolique.

ii) Puisque x est un élément non nul de 𝔤_{α}, \overline{x} engendre le sous-espace 𝔤_{−α} qui est égal à \overline{𝔤_{α}} car 𝔞 est le complexifié d’une sous-algèbre de Cartan de 𝔤_{0}. Alors 𝔤_{0} contient les trois éléments i[x, \overline{x}], x + \overline{x}, i(x − \overline{x}). Ces éléments étant linéairement indépendants sur ℂ, ils engendrent le sous-espace 𝔩, d’où l’assertion.

iii) D’après la condition (3), le sous-espace engendré par 𝔥 et u est une sousalgèbre résoluble ; or u normalise 𝔥_{u} d’après les conditions (1) et (3) ; donc d’après l’assertion (i), il existe une sous-algèbre de Borel 𝔡 de N_{𝔤}(𝔥_{u}) qui contient 𝔥 et u. Soit B le sous-groupe analytique de G d’algèbre de Lie 𝔟 et P le sous-groupe analytique de G d’algèbre de Lie 𝔭. On désigne par τ l’application :

K_{0} × B → P , (k, b) ↦ kb .

Puisque 𝔟 contient 𝔞 et x, 𝔩_{0} + 𝔟 contient 𝔩 ; donc τ est une submersion en tout point. Puisque K_{0} est compact, l’image de τ est égale à P car elle y est fermée et ouverte. D’après [11](Theorem 21.3), deux sous-algèbres de Borel de 𝔭 sont conjuguées sous l’action adjointe de P ; or 𝔟 est contenu dans 𝔭 ; donc d’après ce qui précède, deux sous-algèbres de Borel de 𝔭 sont conjuguées sous l’action adjointe de K_{0} dans 𝔭. Par suite, il existe un élément g de K_{0} pour lequel 𝔟 contient Adg(𝔥) et Adg(u).

iv) Puisque K_{0} normalise 𝔥_{u}, 𝔥_{u} est contenu dans Adg(𝔥) ; or l’action adjointe de K_{0} dans 𝔤 laisse fixe tout élément de 𝔪 car 𝔩 centralise 𝔪 ; donc Adg(𝔥) contient 𝔪. Par suite, Adg(𝔥) est le sous-espace engendré par 𝔪, 𝔥_{u} et Adg(t + x). Puisque Adg(x) est un élément nilpotent de 𝔩 qui appartient à 𝔟, il existe un nombre complexe non nul a pour lequel Adg(x) est égal à ax. Puisque 𝔟 contient Adg(t+x) et Adg(x), 𝔟 contient Adg(t) ; or Adg(t) est un élément non nul de 𝔤_{0} ; donc Adg(t) est un élément non nul de 𝔞_{0}. Par suite, D(R_{+}) contient (α, 𝔪, ax, Adg(t)) et Adg(𝔥) est égal à Θ(α, 𝔪, ax, Adg(t)).

v) On utilise un élement g de K_{0} qui satisfait la condition de l’asertion (iii). D’après la condition (3), pour tout ξ dans 𝔥, Adg(𝔥) contient [Adg(u), Adg(ξ)]− ⟨μ, ξ⟩Adg(u). Puisque Adg(u) est dans 𝔤_{0} et 𝔟, il appartient à 𝔞_{0} ; or Adg(𝔪) est égal à 𝔪 d’après (iv) ; donc Adg(𝔥) contient ⟨μ, ξ⟩Adg(u) pour tout ξ dans 𝔪. Puisque l’intersection de 𝔤_{0} et de Adg(𝔥) est nulle, μ est nul sur 𝔪. Par hypothèse, μ prend des valeurs imaginaires sur 𝔞_{0} ; donc pour tout ξ dans 𝔞, on a :

⟨μ, \overline{ξ}⟩ = −\overline{⟨μ, ξ⟩} .

Par suite, μ est nul sur le noyau de α qui est la somme de 𝔪 et de \overline{𝔪} ; donc la restriction de μ à 𝔞 est colinéaire à α.

vi) On rappelle que N_{𝔤}(𝔥) désigne le normalisateur de 𝔥 dans 𝔤. Puisque N_{𝔤}(𝔥_{u}) contient N_{𝔤}(𝔥), N_{𝔤}(𝔥) est contenu dans 𝔩 + 𝔟 d’après l’assertion (i) ; or le noyau de α normalise 𝔥 et 𝔟 est contenu dans la somme de 𝔩, 𝔥 et du noyau de α ; donc le normalisateur de 𝔥 dans 𝔤 est la somme de 𝔥, du noyau de α et du sousespace des éléments de 𝔩 qui normalisent 𝔥. Soit y un élément de 𝔩 qui normalise 𝔥. On note a, b, c ses coordonnées dans la base \overline{x}, i[x, \overline{x}], x. Si t centralise x, il centralise 𝔩 et [y, t + x] est un élément de 𝔩 qui est non nul lorsque a ou b n’est pas nul ; or t n’étant pas nul, l’intersection de 𝔩 et de 𝔥 est nulle dans ce cas ; donc le normalisateur de 𝔥 est le sous-espace engendré par 𝔥, x et le noyau de α lorsque t centralise x. On suppose que t ne centralise pas x. Alors [y, t + x] est un élément de 𝔩 dont la coordonnée en \overline{x} n’est pas nulle si a n’est pas nul ; donc a est nul et [y, t + x] est colinéaire à x. Par suite, [y, t + x] est nul car t n’est pas nul ; donc y est colinéaire à la projection de t + x sur 𝔩 parallèlement au noyau de α. Alors y appartient à la somme de 𝔥 et du noyau de α. Le normalisateur de 𝔥 dans 𝔤 est donc contenu dans 𝔟.

vii) Puisque 𝔞_{0} est l’intersection de 𝔟 et de 𝔤_{0}, 𝔞_{0} contient le normalisateur de 𝔥 dans 𝔤_{0} d’après l’assertion (vi). Si v est un élément de 𝔞_{0} en lequel α n’est pas nul, [v, t + x] est un multiple non nul de x qui n’appartient pas à 𝔥 car t est non nul ; or le noyau de α normalise 𝔥 ; donc le normalisateur de 𝔥 dans 𝔤_{0} est le noyau de la restriction de α à 𝔞_{0}.

5.7 Dans cette sous-section, on donne un résultat utile à la démonstration du théorème 7.4. On utilise les notations de 5.6. Pour tout g dans G et pour tout ξ dans 𝔤, g.ξ désigne le vecteur tangent à G en g, image de ξ par l’application linéaire tangente, en l’élément neutre e de G, à l’application h ↦ gh. Si g est dans G_{0} et si ξ est dans 𝔤_{0}, g.ξ est tangent à G_{0}. Pour toute fonction C^{∞} φ sur G_{0}, on note φ′(g) sa différentielle en g.

Lemme 5.7. Soit E un sous-espace vectoriel, de dimension finie, de l’espace des fonctions C^{∞} sur G_{0}, à valeurs complexes, qui est non nul et stable par la représentation régulière gauche de G_{0}. Soit u un élément de 𝔤_{0}. On suppose que u et E satisfont les conditions suivantes :

1) pour tout φ et pour tout ψ dans E, on a :

φ(g)⟨ψ′(g), g.u⟩ = ψ(g)⟨φ′(g), g.u⟩ ,

pour tout g dans G_{0},

2) pour tout φ dans E, pour tout g dans G_{0} et pour tout ξ dans 𝔥, 𝔥 contient l’élément :

φ(g)[u, ξ] − ⟨φ′(g), g.ξ⟩u ,

3) l’élément u ne normalise pas 𝔥.

i) Tout élément de E est la restriction à G_{0} d’une fonction polynomiale sur l’anneau des endomorphismes linéaires de V_{0}.

ii) Il existe une forme linéaire λ sur 𝔥 qui satisfait l’égalité :

⟨φ′(g), g.ξ⟩ = ⟨λ, ξ⟩φ(g) ,

pour tout g dans G_{0}, pour tout ξ dans 𝔥 et pour tout φ dans E.

iii) Il existe un nombre complexe z qui satisfait l’égalité :

⟨φ′(g), g.u⟩ = zφ(g) ,

pour tout g dans G_{0} et pour tout φ dans E.

iv) Il existe une forme linéaire μ sur 𝔟 qui satisfait les conditions (1), (2), (3) du lemme 5.6. En outre, si u est dans 𝔞_{0}, on peut trouver μ satisfaisant l’égalité :

⟨φ′(g), g.ξ⟩ = ⟨μ, ξ⟩φ(g) ,

pour tout g dans G_{0}, pour tout ξ dans 𝔟 et pour tout φ dans E.

v) L’élément t n’appartient pas au noyau de α. En outre, si 𝔞_{0} contient u, il existe un réel non nul a qui satisfait les deux conditions suivantes : la restriction de μ à 𝔞_{0} est égale à −aα et u est égal à at.

vi) Soit φ la restriction à G d’une fonction polynomiale sur l’anneau des endomorphismes linéaires de V . On suppose que pour tout g dans G, φ satisfait les égalités :

\frac{d}{dt}φ(g exp(tξ)) |_{t=0} = −⟨α, ξ⟩φ(g) , \frac{d}{dt}φ(g exp(tη)) |_{t=0} = \frac{d}{dt}φ(exp(t\overline{η})g) |_{t=0} = 0 ,

pour tout ξ dans 𝔞 et pour tout η dans 𝔟_{u}. Alors φ est nul.

i) Soient φ dans E et φ_{1}, …,φ_{l} une base de E. Il existe des fonctions a_{1}, …,a_{l} sur G_{0} qui sont définies par la relation :

φ(gh) = a_{1}(g)φ_{1}(h) + ⋯ + a_{l}(g)φ_{l}(h) ,

pour tout g et pour tout h dans G_{0}. Alors les fonctions a_{1}, …,a_{l} sont des coefficients de la restriction à E de la représentation régulière gauche de G_{0} qui est une représentation de dimension finie de G_{0} ; donc elles sont les restrictions à G_{0} de fonctions polynomiales sur l’anneau des endomorphismes linéaires de V_{0}. D’après l’égalité ci-dessus, pour h = e, φ est combinaison linéaire des fonctions a_{1}, …,a_{l} ; donc φ est la restriction à G_{0} d’une fonction polynomiale sur l’anneau des endomorphismes linéaires de V_{0}.

ii) Soit g dans G_{0}. Puisque u n’appartient pas à 𝔥, pour tout φ dans E et pour tout ξ dans 𝔥, φ′(g) est nul en g.ξ si φ est nul en g. Puisque E est un sous-espace non nul, G_{0}-invariant, de l’espace des fonctions sur G_{0}, il existe un élément φ de E qui n’est pas nul en g. Soit λ(g) la forme linéaire sur 𝔥 qui est définie par la relation :

⟨φ′(g), g.ξ⟩ = φ(g)⟨λ(g), ξ⟩ ,

pour tout ξ dans 𝔥. Puisque u ne normalise pas 𝔥, la forme linéaire λ(g) n’est pas nulle d’après la condition (2) ; or pour tout ξ dans 𝔥, les formes linéaires sur E :

ψ ↦ ψ(g) et ψ ↦ ⟨ψ′(g), g.ξ⟩ ,

sont colinéaires d’après ce qui précède ; donc pour tout ψ dans E et pour tout ξ dans 𝔥, on a :

⟨ψ′(g), g.ξ⟩ = ψ(g)⟨λ(g), ξ⟩ .

Alors d’après (2), 𝔥 contient l’élément :

[u, ξ] − ⟨λ(g), ξ⟩u ,

pour tout ξ dans 𝔥. Soit h un point de G_{0} distinct de g. Vu l’arbitraire de g, il existe une forme linéaire λ(h) sur 𝔥 qui satisfait les deux relations :

⟨ψ′(h), h.ξ⟩ = ψ(h)⟨λ(h), ξ⟩ et [u, ξ] − ⟨λ(h), ξ⟩u ∈ 𝔥 ,

pour tout ξ dans 𝔥. Si λ(h) est distinct de λ(g), alors pour tout ξ dans un ouvert non vide de 𝔥, 𝔥 contient [u, ξ] ; or u ne normalise pas 𝔥 ; donc λ(g) est égal à λ(h). Par suite, il existe une forme linéaire λ sur 𝔥 qui satisfait la condition de l’assertion.

iii) Soit g dans G_{0}. D’après la condition (1), pour φ dans E, ⟨φ′(g), g.u⟩ est nul si φ(g) est nul car E contient des éléments qui ne sont pas nuls en g ; donc il existe un nombre complexe z(g) qui satisfait l’égalité :

⟨φ′(g), g.u⟩ = z(g)φ(g) ,

pour tout φ dans E. Vu l’arbitraire de g, pour h dans G_{0}, il existe un nombre complexe z(h) qui satisfait la condition analogue en h. Puisque E est stable par la représentation régulière gauche, pour φ dans E, E contient la fonction k ↦ φ(gh^{−1}k). Par suite, il vient :

⟨φ′(g), g.u⟩ = z(h)φ(g) ;

donc z(h) est égal à z(g), d’où l’assertion.

iv) Soient B, B_{u}, H les sous-groupes analytiques de G d’algèbres de Lie respectives 𝔟, 𝔟_{u}, 𝔥. Puisque 𝔟 est une sous-algèbre de Borel de 𝔤, B est le sous-groupe de Borel de G d’algèbre de Lie 𝔟. En particulier, B est un sousgroupe algébrique. D’après l’assertion (i), φ s’étend de manière unique en une fonction sur G qui est la restriction à G d’une fonction polynomiale sur l’anneau des endomorphismes linéaires de V . On note φ cette extension. Puisque G_{0} est dense dans G pour la topologie de Zariski, pour tout ψ dans E, pour tout g dans G et pour tout ξ dans 𝔥, on a :

⟨ψ′(g), g.ξ⟩ = ψ(g)⟨λ, ξ⟩ ,

d’après (ii). Alors il existe un homomorphisme analytique χ de H dans ℂ^{∗} dont la différentielle en e est λ et qui satisfait l’égalité :

ψ(gh) = χ(h)ψ(g) ,

pour tout ψ dans E, pour tout g dans G et pour tout h dans H. Soit H′ l’ensemble des éléments h de G qui satisfont la condition suivante : pour tout ψ dans E, les fonctions sur G, ψ et g ↦ ψ(gh) sont colinéaires. Alors H′ est un sous-groupe algébrique de G qui contient H. En outre, il existe un caractère rationnel χ′ de H′ qui prolonge χ. Soit 𝔥′ l’algèbre de Lie de H′. Si x est dans 𝔪, il existe des éléments x_{1} et x_{2} de 𝔞_{0} pour lesquels x est égal à x_{1} + ix_{2}. Alors x_{1} et x_{2} sont répliques de x ; donc d’après [6](Ch. II, §14, Proposition 2), 𝔥′ contient x_{1}, x_{2} et \overline{x}. Vu l’arbitraire de x, 𝔥′ contient la somme de 𝔪 et \overline{𝔪} qui est le noyau de α. Puisque 𝔟 est le sous-espace de 𝔤 engendré par 𝔥, \overline{𝔪} et 𝔟_{u}, il existe donc un caractère rationnel de B qui prolonge la restriction de χ′ à l’intersection de B et de H′. Soit μ la différentielle en e de ce caractère. Alors μ est une forme linéaire sur 𝔟 qui prolonge λ et qui est nulle sur 𝔟_{u}. Puisque le sous-groupe analytique de G d’algèbre de Lie 𝔞_{0} est compact, tout caractère rationnel de B prend des valeurs complexes de module 1 sur ce sous-groupe ; donc μ prend des valeurs imaginaires sur 𝔞_{0}. Par suite, μ satisfait les conditions (1), (2), (3) du lemme 5.6.

On suppose que u appartient à 𝔞_{0}. D’après l’assertion (iii), u appartient à 𝔥′ ; donc l’intersection de 𝔟 et de 𝔥′ contient 𝔥, \overline{𝔪} et u. Puisque u ne normalise pas 𝔥, il n’est pas dans le noyau de α ; donc l’intersection de 𝔥′ et de 𝔟 contient 𝔞. Par suite, elle contient x et est égale à 𝔟. L’assertion résulte alors de ce qui précède.

v) D’après les conditions (1) et (3) du lemme 5.6, u normalise 𝔥_{u} ; donc d’après la condition (3) du lemme, 𝔥 ne contient pas [u, t + x]. Par suite, μ n’est pas nul en t ; or d’après l’assertion (v) du lemme 5.6, la restriction de μ à 𝔞 est colinéaire à α ; donc α n’est pas nul en t.

On suppose que 𝔞_{0} contient u. Alors il existe un réel a pour lequel u − at appartient au noyau de α. L’élément [u, t + x] est alors égal à a⟨α, t⟩x ; or 𝔥 contient [u, t + x] − ⟨μ, t⟩u ; donc a⟨α, t⟩ est égal à −⟨μ, t⟩. Par suite, a n’est pas nul, μ est égal à −aα et u est égal à at.

vi) Soit L le sous-groupe analytique de G dont l’algèbre de Lie est la sous-algèbre engendrée par 𝔤_{α} et 𝔤_{−α}. Alors L est un sous-groupe algébrique de G. Puisque le groupe SL_{2}(ℂ) est simplement connexe, il existe un morphisme π du groupe algébrique SL_{2}(ℂ) sur L. Soient U le sous-groupe analytique de G d’algèbre de Lie \overline{𝔟_{u}} et ζ le caractère rationnel de B dont la différentielle en e est la forme linéaire qui prolonge −α et qui est nulle sur 𝔟_{u}. D’après les hypothèses sur φ, φ(ugb) est égal à ζ(b)φ(g) pour tout u dans U, pour tout g dans G et pour tout b dans B.

Pour tout nombre complexe non nul a et pour tout couple (b, c) de nombre complexes, on a :

φ^{∘}π([ \begin{matrix}1 & 0 \\ c & 1 \end{matrix} ] [ \begin{matrix}a & b \\ 0 & a^{−1} \end{matrix} ]) = a^{−1}φ(e) ;

or φ^{∘}π est une fonction régulière sur SL_{2}(ℂ) ; donc φ(e) est nul. Par suite, φ est nul sur UB. Puisque 𝔤 est la somme de 𝔟 et de \overline{𝔟_{u}}, UB est un ouvert de G ; donc φ est nul car φ est la restriction à G d’une fonction polynomiale sur l’anneau des endomorphismes de V .

Corollaire 5.8. Soit E un sous-espace vectoriel, de dimension finie, de l’espace des fonctions C^{∞} sur G_{0}, à valeurs complexes, qui est non nul et stable par la représentation régulière gauche de G_{0}. Soit u un élément de 𝔤_{0}. On suppose que u et E satisfont les deux conditions suivantes :

1) pour tout φ et pour tout ψ dans E, on a :

φ(g)⟨ψ′(g), g.u⟩ = ψ(g)⟨φ′(g), g.u⟩ ,

pour tout g dans G_{0},

2) pour tout φ dans E, pour tout g dans G_{0} et pour tout ξ dans 𝔥, 𝔥 contient l’élément :

φ(g)[u, ξ] − ⟨φ′(g), g.ξ⟩u ,

Alors u appartient à 𝔥 + \overline{𝔥}.

D’après l’assertion (vii) du lemme 5.6, il suffit de montrer que u normalise 𝔥. On suppose que u ne normalise pas 𝔥. Il s’agit d’aboutir à une contradiction. D’après l’assertion (iv) du lemme, il existe une forme linéaire μ sur 𝔟 qui satisfait les conditions (1), (2), (3) du lemme 5.6. Alors d’après les assertions (iii) et (iv) du lemme 5.6, on peut supposer que 𝔞_{0} contient u. D’après l’assertion (v) du lemme, quitte à remplacer u par un multiple scalaire, on peut supposer u égal à t. Alors d’après cette assertion, −α est la restriction de μ à 𝔞 et α n’est pas nul en t.

D’après l’assertion (iv) du lemme, pour tout φ dans E, pour tout g dans G_{0} et pour tout ξ dans 𝔟, on a :

⟨φ′(g), g.ξ⟩ = φ(g)⟨μ, ξ⟩ .

Puisque E est stable par la représentation régulière gauche de G_{0}, par différentiation de cette action, on a des représentations de 𝔤_{0} et de 𝔤 dans E ; donc d’après le théorème de Lie, il existe un élément non nul φ de E qui est annulé par \overline{𝔟_{u}}. D’après l’assertion (i) du lemme, φ est la restriction à G_{0} d’une fonction sur G qui est la restriction d’une fonction polynomiale sur l’anneau des endomorphismes linéaires de V . On la note φ. Puisque G_{0} est partout dense dans G pour la topologie de Zariski :

\frac{d}{dt}φ(g exp(tξ)) |_{t=0} = −⟨α, ξ⟩φ(g) , \frac{d}{dt}φ(g exp(tη)) |_{t=0} = \frac{d}{dt}φ(exp(t\overline{η})g) |_{t=0} = 0 ,

pour tout ξ dans 𝔞, pour tout η dans 𝔟_{u} et pour tout g dans G. Ceci est absurde d’après l’assertion (vi) du lemme.

6. Sous-algèbres de type CRM.

On dira qu’une sous-algèbre 𝔥 de 𝔤 est de type CRM relativement à 𝔤_{0} si 𝔥 est une sous-algèbre de type CR0 relativement à 𝔤_{0}, au sens de 3.2, ou si 𝔥 est une sous-algèbre de type CRI relativement à 𝔤_{0}, au sens de 4.1, lorsque 𝔤 est de dimension impaire. Dans le cas où 𝔤_{0} est fixé, on dira qu’une sous-algèbre de 𝔤 est de type CRM lorsqu’elle est de type CRM relativement à 𝔤_{0}. Le but de cette section est le théorème :

Théorème. Soit 𝔥 une sous-algèbre de 𝔤 qui vérifie les deux conditions suivantes :

dim 𝔥 = [N/2] et 𝔥 ∩ 𝔤_{0} = {0} .

Alors 𝔥 est une sous-algèbre de type CRM relativement à 𝔤_{0}.

On démontrera le théorème en raisonnant par récurrence sur N. Lorsque 𝔤_{0} est une algèbre de Lie commutative, toute sous-algèbre de 𝔤 qui vérifie les deux relations :

dim 𝔥 = [N/2] et 𝔥 ∩ 𝔤_{0} = {0} ,

est de type CRM. Dans ce qui suit, on suppose que le théorème est vrai en dimension inférieure à celle de 𝔤 et que 𝔤_{0} n’est pas une algèbre de Lie commutative. D’après la proposition 2, 𝔥 est une sous-algèbre résoluble. On utilisera les notations 𝔞_{0}, 𝔞, R, R_{+}, 𝔟, 𝔟_{u} de 3.

6.1 On rappelle que d’après 2, 𝔤 est identifié à une sous-algèbre algébrique de l’algèbre de Lie des endomorphismes d’un espace vectoriel de dimension finie. On désigne par 𝔥_{u} l’ensemble des éléments nilpotents de 𝔥. Puisque 𝔥 est résoluble, 𝔥_{u} est un idéal de 𝔥. On appelle tore de 𝔤 une sous-algèbre algébrique commutative de 𝔤 dont tous les éléments sont semi-simples [6](Ch. II, §14). De même, on appelle tore de 𝔤_{0} une sous-algèbre algébrique commutative de 𝔤_{0} dont tous les éléments sont semi-simples. Puisqu’une sous-algèbre de 𝔤 ou de 𝔤_{0} est algébrique si et seulement si elle contient les répliques de chacun de ses éléments, l’intersection de 𝔤_{0} et d’une sous-algèbre algébrique de 𝔤 est une sous-algèbre algébrique de 𝔤_{0}. Si 𝔭 est une sous-algèbre algébrique de 𝔤_{0}, elle est réunion de ses tores maximaux car toute sous-algèbre résoluble de 𝔭 est commutative et contenue dans un tore de 𝔤_{0}.

Proposition 6.1. On suppose [𝔤, 𝔤] de rang au moins 2. Soit 𝔠_{0} le centre de 𝔤_{0} et 𝔠 son complexifié. On note N_{𝔤_{0}}(𝔥) le normalisateur de 𝔥 dans 𝔤_{0}. Soit 𝔱_{0} un tore maximal de N_{𝔤_{0}}(𝔥). Alors 𝔱_{0} contient strictement 𝔠_{0}.

Puisque N_{𝔤_{0}}(𝔥) une sous-algèbre algébrique de 𝔤_{0}, N_{𝔤_{0}}(𝔥) est la réunion de ses tores maximaux ; donc il suffit de montrer que N_{𝔤_{0}}(𝔥) contient strictement 𝔠_{0}. On désigne par 𝔥′ l’intersection de [𝔤, 𝔤] et de 𝔥 + 𝔠. Soient N_{1} et N_{2} les dimensions respectives de 𝔠 et de [𝔤, 𝔤]. On distingue successivement les deux cas suivants :

1) N_{1} n’est pas nul,

2) N_{1} est nul.

1) L’algèbre 𝔤 est somme directe de 𝔠 et de [𝔤, 𝔤]. D’après le lemme 5.3, la dimension de 𝔥′ est au moins égale à [N_{2}/2]. Si l’intersection de 𝔥′ et de [𝔤_{0}, 𝔤_{0}] est non nulle, N_{𝔤_{0}}(𝔥) contient strictement 𝔠_{0} car 𝔥′ normalise 𝔥. On peut donc supposer que l’intersection de 𝔥′ et de [𝔤_{0}, 𝔤_{0}] est nulle. Alors d’après le lemme 3.1, la dimension de 𝔥′ est égale à [N_{2}/2] ; donc d’après l’hypothèse de récurrence pour [𝔤_{0}, 𝔤_{0}], 𝔥′ est une sous-algèbre de type CRM de [𝔤, 𝔤]. Par suite, d’après les lemmes 5.4 et 5.5, le normalisateur de 𝔥 dans 𝔤_{0} contient un hyperplan d’une sous-algèbre de Cartan de 𝔤_{0} ; or par hypothèse, [𝔤_{0}, 𝔤_{0}] est de rang au moins 2 ; donc N_{𝔤_{0}}(𝔥) contient strictement 𝔠_{0}.

2) Dans ce cas, 𝔤 est semi-simple et de rang au moins 2. Soient N_{𝔤}(𝔥) et N_{𝔤}(𝔥_{u}) les normalisateurs de 𝔥 et de 𝔥_{u} dans 𝔤.

Assertion. Soit 𝔯 une sous-algèbre de Borel de N_{𝔤}(𝔥_{u}) qui contient 𝔥. Alors l’intersection de 𝔯 et de 𝔤_{0} est non nulle.

Puisque 𝔥 est une sous-algèbre résoluble de N_{𝔤}(𝔥_{u}), elle est contenue dans une sous-algèbre de Borel 𝔯 de N_{𝔤}(𝔥_{u}). On rappelle qu’une sous-algèbre de Borel de N_{𝔤}(𝔥_{u}) est une sous-algèbre résoluble maximale de N_{𝔤}(𝔥_{u}). On suppose l’assertion fausse. Il s’agit d’aboutir à une contradiction. Puisque 𝔥 est de dimension [N/2], 𝔯 est égal à 𝔥 d’après le lemme 3.1 ; donc 𝔥_{u} est le sous-espace des éléments nilpotents de 𝔯 ; or 𝔥_{u} est un idéal de N_{𝔤}(𝔥_{u}) ; donc 𝔥_{u} est l’ensemble des éléments nilpotents du radical de N_{𝔤}(𝔥_{u}). Par suite, d’après [5](Ch. VIII, §10, Théorème 2), N_{𝔤}(𝔥_{u}) est une sous-algèbre parabolique de 𝔤 et 𝔯 est une sous-algèbre de Borel de 𝔤. Ceci est absurde d’après l’assertion (i) du lemme 2.3.

Soit 𝔱_{0} l’intersection de 𝔯 et de 𝔤_{0}. D’après l’assertion (iii) du lemme 5.1, l’intersection Z_{𝔥}(𝔱_{0}) de 𝔥 et de Z_{𝔤}(𝔱_{0}) est une sous-algèbre qui satisfait les deux relations suivantes :

Z_{𝔥}(𝔱_{0}) ∩ Z_{𝔤_{0}}(𝔱_{0}) = {0} et dim Z_{𝔥}(𝔱_{0}) = [M/2] ,

où M est la dimension de Z_{𝔤}(𝔱_{0}) ; donc d’après l’hypothèse de récurrence, Z_{𝔥}(𝔱_{0}) est une sous-algèbre de type CRM de Z_{𝔤}(𝔱_{0}) relativement à Z_{𝔤_{0}}(𝔱_{0}). Par suite, Z_{𝔥}(𝔱_{0}) contient un sous-espace 𝔪 qui satisfait la condition suivante : l’intersection de 𝔤_{0} et de 𝔪 + \overline{𝔪} est un sous-espace de codimension au plus 1 d’une sousalgèbre de Cartan 𝔰_{0} de 𝔤_{0}. Alors d’après l’assertion (iii) du lemme 5.2, il existe un hyperplan de 𝔰_{0} qui normalise 𝔥. Puisque 𝔤 est de rang au moins 2, cet hyperplan est non nul.

6.2 Dans le cas où [𝔤, 𝔤] est de rang 1, 𝔤 est isomorphe au produit direct de 𝔰𝔩_{2}(ℂ) et de son centre 𝔠.

Lemme 6.2. On suppose [𝔤, 𝔤] de rang 1. Alors 𝔥 est une sous-algèbre de type CRM relativement à 𝔤_{0}.

On rappelle que 𝔥′ désigne l’intersection de [𝔤, 𝔤] et de 𝔥 + 𝔠. Puisque 𝔥 est résoluble, 𝔥′ est résoluble ; donc la dimension de 𝔥′ est au plus égale à 2. On note 𝔥_{2} l’intersection de 𝔥 et de 𝔠. On distingue les deux cas suivants :

1) 𝔠 est de dimension impaire 2M_{1} + 1,

2) 𝔠 est de dimension paire 2M_{1}.

1) La sous-algèbre 𝔥 est de dimension M_{1} + 2 ; or d’après le lemme 3.1, la dimension de 𝔥_{2} est au plus égale à M_{1} ; donc 𝔥′ est de dimension 2 et 𝔥_{2} est de dimension M_{1}. Alors 𝔥′ est une sous-algèbre de Borel de [𝔤, 𝔤] ; donc d’après le lemme 2.3, 𝔥′ est le sous-espace engendré par un élément t de [𝔤_{0}, 𝔤_{0}] et par un élément u de [𝔤, 𝔤] normalisé par t. Par suite, il existe des éléments x_{1} et x_{2} de 𝔠 pour lesquels 𝔥 est le sous-espace engendré par t + x_{1}, u + x_{2} et 𝔥_{2} ; donc t normalise 𝔥. La sous-algèbre 𝔥 est alors normalisée par une sous-algèbre de Cartan de 𝔤_{0} ; donc 𝔥 est une sous-algèbre de type CR0 de 𝔤 d’après l’assertion (i) de la proposition 3.4.

2) La sous-algèbre 𝔥 est de dimension M_{1}+1 et 𝔥′ est de dimension 2 ou 1. Si 𝔥′ est de dimension 2, on conclut comme en (1). On suppose 𝔥′ de dimension 1. Alors 𝔥_{2} est de dimension M_{1}. D’après le lemme 2.3, toute sous-algèbre de Borel de [𝔤, 𝔤] est engendrée par un élément de [𝔤_{0}, 𝔤_{0}] et un élément nilpotent ; or 𝔥′ est contenu dans une sous-algèbre de Borel de [𝔤, 𝔤] ; donc il existe un élément t de [𝔤_{0}, 𝔤_{0}] et un élément nilpotent non nul x de [𝔤, 𝔤] pour lesquels t+x engendre 𝔥′. Si 𝔥 contient t+x, 𝔥 est engendré par 𝔥_{2} et t+x ; donc 𝔥 est une sous-algèbre de type CRI. On suppose que t + x n’appartient pas à 𝔥. Puisque 𝔠 est la somme de 𝔥_{2} et de \overline{𝔥_{2}}, il existe un élément non nul u de \overline{𝔥_{2}} pour lequel 𝔥 contient t + x + u. Par suite, 𝔥 contient t+u+\overline{u}+x. La sous-algèbre 𝔥 est donc de type CRI d’après l’assertion (iv) de la proposition 4.3. On rappelle que dans ce cas n est égal à 1.

6.3 On démontre le théorème dans le cas où 𝔤 est de dimension paire. D’après le lemme 6.2, on peut supposer [𝔤, 𝔤] de rang au moins 2. D’après la proposition 6.1, le normalisateur de 𝔥 dans 𝔤_{0} contient un tore non central 𝔱_{0}. Le sous-espace 𝔯 de 𝔤 engendré par 𝔱_{0} et 𝔥 est alors une sous-algèbre résoluble qui contient 𝔱_{0}. Soient Z_{𝔤}(𝔱_{0}) et Z_{𝔤_{0}}(𝔱_{0}) les centralisateurs de 𝔱_{0} dans 𝔤 et 𝔤_{0}. D’après l’assertion (ii) du lemme 5.1, Z_{𝔤}(𝔱_{0}) est une sous-algèbre réductive de dimension paire, inférieure à celle de 𝔤. On note M cette dimension et Z_{𝔥}(𝔱_{0}) l’intersection de 𝔥 avec Z_{𝔤}(𝔱_{0}). Alors d’après l’assertion (iii) du lemme 5.1, la dimension de Z_{𝔥}(𝔱_{0}) est M/2 et son intersection avec Z_{𝔤_{0}}(𝔱_{0}) est nulle ; donc d’après l’hypothèse de récurrence, Z_{𝔤}(𝔱_{0}) étant de dimension paire, Z_{𝔥}(𝔱_{0}) est une sous-algèbre de type CR0 de Z_{𝔥}(𝔱_{0}), relativement à Z_{𝔤_{0}}(𝔱_{0}). En particulier, il existe une sous-algèbre de Cartan 𝔰_{0} de Z_{𝔤_{0}}(𝔱_{0}) et un sous-espace 𝔪 du complexifié 𝔰 de 𝔰_{0} qui est contenu dans Z_{𝔥}(𝔱_{0}) et dont la dimension est la moitié de la dimension de 𝔰. Alors 𝔰 est égal à la somme 𝔪 + \overline{𝔪} ; donc d’après l’assertion (iii) du lemme 5.2, 𝔰_{0} normalise 𝔥. Il résulte alors de l’assertion (i) de la proposition 3.4 que 𝔥 est de type CR0.

6.4 Soit 𝔱_{0} un tore maximal du normalisateur de 𝔥 dans 𝔤_{0}. Alors la sousalgèbre de 𝔤 engendrée par 𝔱_{0} et 𝔥 est une sous-algèbre résoluble de 𝔤 ; donc elle est contenue dans une sous-algèbre de Borel de 𝔤. Quitte à remplacer 𝔥 par un conjugué sous l’action adjointe de G_{0}, on peut supposer que 𝔟 contient 𝔥 et 𝔱_{0}.

Lemme 6.3. On suppose que N est impair et que 𝔟 contient 𝔥 et 𝔱_{0}. i) Le sous-espace 𝔱_{0} contient un hyperplan de 𝔞_{0}. ii) Il existe une partie P de R_{+} pour laquelle 𝔥 est somme directe de Z_{𝔥}(𝔱_{0})

et des sous-espaces 𝔤_{α} où α est dans P.

i) Puisque 𝔞_{0} est l’intersection de 𝔟 et de 𝔤_{0}, 𝔞_{0} contient 𝔱_{0}. D’après la proposition 6.1, 𝔱_{0} contient strictement le centre de 𝔤_{0}. D’après l’hypothèse de récurrence et l’assertion (iii) du lemme 5.1, Z_{𝔥}(𝔱_{0}) est une sous-algèbre de type CRM de Z_{𝔤}(𝔱_{0}) relativement à Z_{𝔤_{0}}(𝔱_{0}). En particulier, il existe une sous-algèbre de Cartan 𝔱′_{0} de Z_{𝔤_{0}}(𝔱_{0}) et un sous-espace 𝔪 de dimension [l/2] du complexifié 𝔱′ de 𝔱′_{0} qui est contenu dans Z_{𝔥}(𝔱_{0}) et d’intersection nulle avec 𝔤_{0}. Alors d’après l’assertion (iii) du lemme 5.2, la somme 𝔪+\overline{𝔪} est un hyperplan de 𝔱′ qui normalise 𝔥. Puisque 𝔱_{0} est un tore maximal du normalisateur de 𝔥 dans 𝔤_{0}, sa dimension est au moins égale à la dimension de 𝔪+\overline{𝔪} qui est égale à 2[l/2] ; donc 𝔱_{0} contient un hyperplan de 𝔞_{0}.

ii) Soit 𝔱 le complexifié de 𝔱_{0}. Alors 𝔱 normalise 𝔥 ; donc d’après l’assertion (iv) du lemme 5.2, en prenant pour sous-espace 𝔪 l’espace 𝔱, il existe une partie P de R pour laquelle 𝔥 est somme directe de Z_{𝔥}(𝔱_{0}) et des 𝔤_{α} où α est dans P. Puisque 𝔥 est contenu dans 𝔟, R_{+} contient P.

6.5 Dans cette section, on termine la démonstration du théorème 6. D’après 6.3, on peut supposer N impair. D’après 6.2, on peut supposer [𝔤, 𝔤] de rang au moins 2. Soit 𝔱_{0} un tore maximal du normalisateur de 𝔥 dans 𝔤. D’après 6.4, on peut supposer que 𝔟 contient 𝔱_{0} et 𝔥. On considére les deux cas suivants :

1) 𝔱_{0} est contenu dans le noyau d’un élément α de R_{+},

2) 𝔱_{0} n’est pas contenu dans le noyau d’un élément de R_{+}.

On rappelle que Z_{𝔥}(𝔱_{0}) est l’intersection de 𝔥 et du centralisateur Z_{𝔤}(𝔱_{0}) de 𝔱_{0} dans 𝔤.

1) Soit 𝔤_{1} l’algèbre dérivée de Z_{𝔤}(𝔱_{0}). Alors 𝔤_{1} contient 𝔤_{α} et 𝔤_{−α}. D’après l’assertion (i) du lemme 6.3, 𝔱_{0} est de dimension l − 1 ; or Z_{𝔤}(𝔱_{0}) est une sousalgèbre réductive de rang l ; donc 𝔤_{1} est de rang 1 et de dimension 3. D’après l’assertion (ii) du lemme 6.3, il existe une partie P de R_{+} pour laquelle 𝔥 est somme directe de Z_{𝔥}(𝔱_{0}) et des sous-espaces 𝔤_{β} où β est dans P. D’après l’assertion (iii) du lemme 5.1, Z_{𝔥}(𝔱_{0}) est de dimension (l − 1)/2 + 1 ; or 𝔥 est de dimension (l − 1)/2 + n ; donc P est de cardinal n − 1. Puisque P ne contient pas α, P est égal à R_{+}\{α} ; donc le sous-espace 𝔥_{u} des éléments nilpotents de 𝔥 est de dimension n ou n − 1. Si 𝔥_{u} est de dimension n − 1, il est la somme des 𝔤_{β} où β est dans P ; donc il est normalisé par 𝔞_{0}. Par suite, 𝔥 est une sous-algèbre de type CRI d’après l’assertion (iv) de la proposition 4.3. Si 𝔥_{u} est de dimension n, il est égal à 𝔟_{u} car 𝔟 contient 𝔥 ; donc dans ce cas, 𝔥 est de type CR0 d’après l’assertion (ii) de la proposition 3.4.

2) L’espace 𝔤 est somme directe de 𝔞 et des sous-espaces 𝔤_{α} où α est dans R ; or pour tout α dans R, α n’est pas nul sur 𝔱_{0} ; donc 𝔞 est le centralisateur de 𝔱_{0} dans 𝔤. D’après l’assertion (ii) du lemme 6.3, il existe une partie P de R_{+} pour laquelle 𝔥 est somme directe de Z_{𝔥}(𝔱_{0}) et des sous-espaces 𝔤_{α} où α est dans P. D’après l’assertion (iii) du lemme 5.1, Z_{𝔥}(𝔱_{0}) est de dimension (l − 1)/2 ; or 𝔥 est de dimension (l − 1)/2 + n ; donc P est de cardinal n. Par suite, 𝔥 contient 𝔟_{u} ; donc 𝔥 est une sous-algèbre de type CR0 de 𝔤 d’après l’assertion (ii) du lemme 3.4.

7. Structures CR.

On note N la dimension de 𝔤_{0} et 𝔤 le complexifié de 𝔤_{0}. L’application (g, ξ) ↦ g.ξ est alors un isomorphisme de G_{0} × 𝔤_{0} sur le fibré tangent T G_{0} à G_{0}. On note ici g.ξ l’image de ξ par la différentielle en l’élément neutre de l’application h ↦ gh de G_{0} dans G_{0}. Dans ce qui suit, on identifie G_{0} × 𝔤_{0} et T G_{0} au moyen de cet isomorphisme. Le complexifié ℂ ⊗_{ℝ} T G_{0} de T G_{0} s’identifie alors à G_{0} × 𝔤. On rappelle qu’une structure CR sur G_{0} de rang n est la donnée d’un sous fibré T de rang n du fibré ℂ ⊗_{ℝ} T G_{0} qui satisfait les deux conditions suivantes :

1) pour tout g dans G_{0}, l’intersection de la fibre de T en g et de l’espace tangent à G_{0} en g est nulle,

2) T est formellement intégrable.

On rappelle que T est formellement intégrable si pour tout ouvert U de G_{0}, l’espace des sections de T au dessus de U est stable pour la structure d’algèbre de Lie sur les champs de vecteurs sur G_{0}. D’après la condition (1) et le lemme 3.1, le rang d’une structure CR sur G_{0} est au plus égal à [N/2].

7.1 On utilise sur ℂ ⊗_{ℝ} T G_{0} l’action de G_{0} donnée par g.(h, ξ) = (gh, ξ) où ξ est dans 𝔤, où g et h sont dans G_{0}. La structure CR T sur G_{0} est dite invariante si et seulement si T est stable par l’action de G_{0} dans ℂ ⊗_{ℝ} T G_{0}. Pour tout sousespace 𝔥 de 𝔤, on note τ(𝔥) l’image de G_{0} × 𝔥 par l’isomorphisme canonique de G_{0}×𝔤 dans ℂ⊗_{ℝ}T G_{0}. Alors τ(𝔥) est un sous-fibré du complexifié du fibré tangent à G_{0}.

Lemme 7.1. Soit 𝔊_{0} l’ensemble des sous-algèbres de 𝔤 d’intersection nulle avec 𝔤_{0}. Alors la restriction à 𝔊_{0} de l’application 𝔥 ↦ τ(𝔥) est une bijection de 𝔊_{0} sur l’ensemble des structures CR, G_{0}-invariantes, sur G_{0}.

Par définition, le fibré τ(𝔥) est G_{0}-invariant. En outre, il est déterminé par sa fibre en l’élément neutre e ; donc l’application τ est injective. Soit 𝔥 une sous-algèbre de 𝔤. On note L l’espace des sections C^{∞} de τ(𝔥). On désigne par L_{∗} le sous-espace de L qui est l’image de 𝔥 par l’application qui à ξ associe le champ de vecteurs g ↦ g.ξ sur G_{0}. Alors L_{∗} est une sous-algèbre de Lie de la complexifiée de l’algèbre de Lie des champs de vecteurs sur G_{0}. En outre, L a une structure naturelle de module sur l’anneau des fonctions C^{∞} sur G_{0} ; or pour tout g dans G_{0}, la fibre en g de τ(𝔥) est l’espace des valeurs en g de L_{∗} ; donc L est le sous-module engendré par L_{∗}. Par suite, τ(𝔥) satisfait la condition (2) ci-dessus ; donc τ(𝔥) est une structure CR, G_{0}-invariante, sur G_{0} si 𝔊_{0} contient 𝔥.

Soit T une structure CR, G_{0}-invariante, sur G_{0}. On note 𝔥 la fibre en e de T. Alors l’intersection de 𝔥 et de 𝔤_{0} est nulle d’après la condition (1). Puisque T est G_{0}-invariant, T est égal à τ(𝔥). Si ξ et η sont des éléments de 𝔥, les champs de vecteurs g ↦ g.ξ et g ↦ g.η sont des sections C^{∞} de T au dessus de G_{0} ; or pour tout g dans G_{0}, la valeur en g du crochet de ces deux champs de vecteurs est g.[ξ, η] ; donc 𝔥 contient [ξ, η]. Vu l’arbitraire de ξ et de η, 𝔥 est une sous-algèbre de 𝔤. Par suite, 𝔊_{0} contient 𝔥.

Théorème 7.2. Soit T une structure CR, G_{0}-invariante, sur G_{0} et de rang maximum. Alors T est de rang [N/2] et la fibre de T en e est une sous-algèbre de 𝔤 de type CRM, relativement à 𝔤_{0}, au sens de 6. En outre, pour toute sous-algèbre 𝔥 de 𝔤 de type CRM, relativement à 𝔤_{0}, τ(𝔥) est l’unique structure G_{0}-invariante, de rang [N/2], sur G_{0} dont la fibre en e est 𝔥.

D’après le lemme 3.1, la dimension d’un élément de 𝔊_{0} est au plus égale à [N/2] ; or d’après la proposition 3.2, il existe des éléments de 𝔊_{0} de dimension [N/2] ; donc d’après le lemme, le rang maximum d’une structure CR sur G_{0} est [N/2]. D’après le théorème 6, l’ensemble des éléments de 𝔊_{0} de dimension [N/2] est l’ensemble des sous-algèbres de 𝔤 de type CRM relativement à 𝔤_{0} ; or pour tout 𝔥 dans 𝔊_{0}, la fibre de τ(𝔥) en e est 𝔥 ; donc le théorème résulte du lemme.

7.2 Dans [3], on définit la notion d’action transverse d’un groupe de Lie à une structure CR. De manière analogue, on pose la définition suivante :

Définition 7.3. Soit G un groupe de Lie qui opère de manière C^{∞} sur une varitété C^{∞} X. Soit T une structure CR, G-invariante, sur X. On désigne par T X le fibré tangent à X et par L l’espace des sections C^{∞} de T au dessus de X. On dira que T est invariant par la G-action transverse d’un groupe de Lie s’il existe une sous-algèbre 𝔭, de dimension finie, de l’algèbre de Lie des champs de vecteurs C^{∞} sur X qui est G-invariante et qui satisfait les deux conditions suivantes :

[𝔭, L] ⊂ L , T_{x} ⊕ \overline{T_{x}} ⊕ ℂ𝔭(x) = ℂ ⊗_{ℝ} T_{x}X ,

où x est dans X.

Dans le cas où 𝔭 est une algèbre commutative, on dira que la structure CR T est G-rigide.

On rappelle que l’application ξ ↦ \overline{ξ} est la conjugaison du complexifié ℂ ⊗_{ℝ} T X, du fibré tangent T X à X, dont l’ensemble des points fixes est T X.

Théorème 7.4. On suppose G_{0} de dimension impaire. Soit T une structure CR, G_{0}-invariante, de rang maximum, sur G_{0}. Alors T est G_{0}-rigide si et seulement si la fibre en e de T est une sous-algèbre de type CR0 de 𝔤 relativement à 𝔤_{0}, au sens de 3.2.

Par hypothèse, il existe un entier M pour lequel 2M + 1 est la dimension de G_{0}. On note L l’espace des sections C^{∞} de T au dessus de G_{0}. Soient 𝔥 la fibre en e de T et L_{∗} le sous-espace des champs de vecteurs g ↦ g.ξ où ξ est dans 𝔥. D’après le théorème 7.2, 𝔥 est une sous-algèbre de type CRM de 𝔤. En particulier, elle est de dimension M. Si 𝔥 est de type CR0, il existe une sousalgèbre de Cartan 𝔱_{0} de 𝔤_{0} qui normalise 𝔥 d’après l’assertion (i) de la proposition 3.4. Soit u un élément non nul de 𝔱_{0}. On désigne par 𝔭 le sous-espace des champs de vecteurs C^{∞} sur G_{0} qui est engendré par le champ de vecteurs g ↦ g.u. Alors 𝔭 est une sous-algèbre de dimension 1 de l’algèbre de Lie des champs de vecteurs C^{∞} sur G_{0} qui satisfait la relation :

g.𝔤 = g.𝔥 ⊕ g.\overline{𝔥} ⊕ 𝔭(g) ,

pour tout g dans G_{0}. En outre, u normalisant 𝔥, L_{∗} contient [𝔭, L_{∗}] et L contient [𝔭, L].

Réciproquement, on suppose que T est G_{0}-rigide et que 𝔥 est égal Θ(α, 𝔪, x, t) où D(R_{+}) contient (α, 𝔪, x, t). Pour cela on utilise les notations de 4. Alors il existe existe une sous-algèbre 𝔭 de l’algèbre de Lie des champs de vecteurs sur G_{0} qui est G_{0} invariante, de dimension finie, et qui satisfait l’égalité :

g.𝔤 = g.𝔥 ⊕ g.\overline{𝔥} ⊕ 𝔭(g) ,

pour tout g dans G_{0}. Alors 𝔭(g) est de dimension 1. Soit u un élément non nul de 𝔭(e). Soit φ dans 𝔭. Puisque 𝔭 est G_{0}-invariant, pour tout g dans G_{0}, φ(g) est colinéaire à u ; donc il existe une fonction C^{∞} λ sur G_{0} pour laquelle φ(g) est égal à λ(g)g.u pour tout g dans G_{0}. Vu l’arbitraire de φ, il existe un sousespace E, de dimension finie, de l’espace des fonctions C^{∞} sur G_{0} pour lequel 𝔭 est l’image de E par l’application :

λ ↦ ( g ↦ λ(g)g.u ) .

Puisque 𝔭 est G_{0}-invariant, E est G_{0}-invariant. En outre, L contenant [𝔭, L], pour tout λ dans E et pour tout ξ dans 𝔥, on a :

λ(g)[u, ξ] − ⟨λ′(g), g.ξ⟩u ∈ 𝔥 ,

pour tout g dans G_{0}. On rappelle que λ′(g) désigne la différentielle de λ en g. Puisque 𝔭 est une sous-algèbre commutative, pour tout λ et pour tout μ dans E, on a :

μ(g)⟨λ′(g), g.u⟩ = λ(g)⟨μ′(g), g.u⟩ ,

pour tout g dans G_{0}. Soient G_{0}^{0} la composante neutre de G_{0} et E′ l’ensemble des restrictions à G_{0}^{0} des éléments de E. Alors E′ est un sous-espace de dimension finie, G_{0}^{0}-invariant, de la représentation régulière gauche de G_{0}^{0} dans l’espace des fonctions C^{∞} sur G_{0}^{0}. En outre, E′ satisfait les conditions (1) et (2) du corollaire 5.8 d’après ce qui précède ; or u n’appartient pas à la somme 𝔥 + \overline{𝔥} ; donc d’après ce corollaire, t est nul. Cela revient à dire que 𝔥 est de type CR0 relativement à 𝔤_{0}.

7.3 On suppose la dimension de 𝔤 égale à 2M + 1 et on utilise les notations de 4. Soient (α, 𝔪, x, t) dans D(R_{+}) et 𝔥 la sous-algèbre Θ(α, 𝔪, x, t). On choisit une base ε_{1}, …,ε_{M} de 𝔥 dont les éléments sont soit des vecteurs poids de l’action adjointe de 𝔞 dans 𝔤 soit des éléments de la réunion de 𝔪 et de {t + x}. On suppose cette base ordonnée de façon que 𝔪 contienne ε_{1}, …,ε_{l′} et que ε_{l′+1} soit égal à t + x. Selon ces notations, le rang l de 𝔤 est égal à 2l′ + 1. Soit u l’élément de 𝔤_{0} égal à i[x, \overline{x}]. On rappelle que x ↦ \overline{x} est la conjugaison de 𝔤 dont l’ensemble des points fixes est 𝔤_{0}. Puisque u normalise 𝔟_{u}, il est dans 𝔟 donc dans 𝔞_{0}. En outre, 𝔪 ne contient pas u car 𝔪 centralise x.

Lemme 7.5. Soit ν une forme (M + 1)-linéaire alternée sur 𝔤 qui est nulle en tout (M + 1)-uplet d’éléments de 𝔤 dont un au moins est dans 𝔥. Alors on a l’égalité :

∑_{j=1}^{M} ν(u, \overline{ε_{1}}, …, \overline{ε_{j−1}}, [t + x, \overline{ε_{j}}], \overline{ε}_{j+1}, …, \overline{ε_{M}}) = − ∑_{β∈R_{+}}⟨β, t⟩ν(u, \overline{ε_{1}}, …, \overline{ε_{M}}) .

Pour j = 1, …, l′, [t + x, \overline{ε_{j}}] est nul car \overline{𝔪} centralise x. Puisque \overline{ε_{l′+1}} est égal à t + \overline{x}, on a :

[t + x, \overline{ε_{l′+1}}] = −⟨α, t⟩(x + \overline{x}) + [x, \overline{x}] = −iu − ⟨α, t⟩x − ⟨α, t⟩\overline{ε_{l′+1}} + ⟨α, t⟩t .

Par suite la somme du lemme est égale à :

∑_{j=l′+2}^{M} ν(u, \overline{ε_{1}}, …, \overline{ε_{j−1}}, [t + x, \overline{ε_{j}}], \overline{ε}_{j+1}, …, \overline{ε_{M}}) − ⟨α, t⟩ν(u, \overline{ε_{1}}, …, \overline{ε_{M}})

+ ⟨α, t⟩ν(u, \overline{ε_{1}}, …, \overline{ε_{l′}}, t, \overline{ε}_{l′+2}, …, \overline{ε_{M}}) .

Puisque t est dans 𝔞, il est la somme d’un élément de 𝔪, d’un élément de \overline{𝔪} et d’un multiple de u ; donc d’après la propriété de ν, le dernier terme de la somme précédente est nul. Pour j indice strictement supérieur à l′ + 1, on note β_{j} la racine positive pour laquelle 𝔤_{−β_{j}} contient \overline{ε_{j}}. Alors on a :

[t + x, \overline{ε_{j}}] = −⟨β_{j}, t⟩\overline{ε_{j}} + [x, \overline{ε_{j}}] ;

or [x, \overline{ε_{j}}] est colinéaire à un des éléments \overline{ε_{l′+2}}, …, \overline{ε_{M}} ; donc la somme du lemme est égale à :

[−⟨α, t⟩ − ∑_{j=l′+2}^{M}⟨β_{j}, t⟩]ν(u, \overline{ε_{1}}, …, \overline{ε_{M}}) ,

d’où le lemme.

7.4 On suppose la dimension de 𝔤 égale à 2M + 1. On fixe une structure CR, G_{0}-invariante, T sur G_{0}. On note L l’espace des sections C^{∞} de T au dessus de G_{0}. Pour toute forme différentielle ω sur G_{0}, de degré d, et pour φ dans L, on note ι_{φ}(ω) le produit intérieur de φ par ω. Pour cela, on considère l’extension complexe de ω au complexifié de la d-ième puissance extérieure du fibré tangent à G_{0}.

Théorème 7.6. Soit K l’espace des formes différentielles C^{∞} sur G_{0}, de degré M + 1, à valeurs complexes, qui sont annulées par les produits intérieurs ι_{φ} où φ est dans L. Alors les conditions suivantes :

1) la fibre en e de T est une sous-algèbre de type CR0 ou de type CRII relativement à 𝔤_{0}, au sens de 3.2 et 4.3,

2) K contient une forme fermée G_{0}-invariante et non nulle,

sont équivalentes.

Soit 𝔥 la fibre de T en e. D’après le théorème 7.2, 𝔥 est une sous-algèbre de type CRM relativement à 𝔤_{0}. Quitte à remplacer 𝔥 par un conjugué sous l’action du groupe adjoint de 𝔤_{0} dans 𝔤, on peut supposer :

𝔥 = Φ(𝔪) ou 𝔥 = Θ(α, 𝔪, x, t) .

Dans le premier cas, 𝔪 est un sous-espace de 𝔞 de dimension [l/2] et d’intersection nulle avec 𝔤_{0}. Dans le deuxième cas, (α, 𝔪, x, t) est un élément de D(R_{+}). Pour cela, on utilise les notations de 3 et de 4. Soit ν une forme (M +1)-linéaire alternée sur 𝔤 qui définit par passage au quotient une forme (M + 1)-linéaire alternée non nulle sur 𝔤/𝔥. On désigne par ω la M + 1-forme différentielle G_{0}-invariante sur G_{0} dont la valeur en e est ν. Alors la différentielle dω de ω est G_{0}-invariante et sa valeur en e est la forme M + 2-linéaire alternée ν′ :

(ξ_{1}, …,ξ_{M+2}) ↦

∑_{1≤i<j≤M+2}(−1)^{i+j}ν([ξ_{i}, ξ_{j}], ξ_{1}, …,ξ_{i−1}, ξ_{i+1}, …,ξ_{j−1}, ξ_{j+1}, …,ξ_{M+2}) .

Il s’agit de montrer que ν′ est nul si et seulement si 𝔥 est de type CR0 ou de type CRII.

Soit ε_{1}, …,ε_{M} une base de 𝔥 dont les éléments sont soit des vecteurs poids de l’action adjointe de 𝔞 dans 𝔤 soit des éléments de 𝔪 ou de la réunion de 𝔪 et de {t+x} selon que 𝔥 est de type CR0 ou de type CRI. Soit u un élément de 𝔞_{0} qui n’appartient pas à 𝔪 + \overline{𝔪}. Alors ε_{1}, …,ε_{M}, \overline{ε_{1}}, …, \overline{ε_{M}}, u est une base de 𝔤. Soient ξ_{1}, …,ξ_{M+2} des éléments qui appartiennent à cette base. Puisque 𝔥 est une sousalgèbre, ν′ est nul en (ξ_{1}, …,ξ_{M+2}) si au moins deux de ces éléments sont dans 𝔥. Puisque \overline{𝔥} est une sous-algèbre de dimension M, ν′ est nul en (ξ_{1}, …,ξ_{M+2}) si la réunion de \{u\} et de \overline{𝔥} contient ξ_{1}, …,ξ_{M+2}. On note 𝔥′ le sous-espace de 𝔥 égal à 𝔥 si 𝔥 est de type CR0 et égal au sous-espace engendré par 𝔪 et les sous-espaces 𝔤_{β} où β est dans R_{+}\{α} dans le cas contraire. Alors u normalise 𝔥′ ; donc ν′ est nul en (ξ_{1}, …,ξ_{M+2}) si ξ_{1} est dans 𝔥′ et si ξ_{2} est égal à u. Si ξ_{1} est dans 𝔥 et si ξ_{2}, …,ξ_{M+2} sont dans \overline{𝔥}, deux des M + 1 éléments ξ_{2}, …,ξ_{M+2} sont égaux. Supposant ξ_{2} égal à ξ_{3}, on a alors :

ν([ξ_{i}, ξ_{j}], ξ_{1}, …,ξ_{i−1}, ξ_{i+1}, …,ξ_{j−1}, ξ_{j+1}, …,ξ_{M+2}) = 0 ,

pour i strictement supérieur à 1 car ξ_{1} est dans 𝔥,

ν([ξ_{1}, ξ_{j}], ξ_{2}, …,ξ_{j−1}, ξ_{j+1}, …,ξ_{M+2}) = 0 ,

pour j strictement supérieur à 3 et :

ν([ξ_{1}, ξ_{2}], ξ_{3}, …,ξ_{M+2}) − ν([ξ_{1}, ξ_{3}], ξ_{2}, ξ_{4}, …,ξ_{M+2}) = 0 ;

donc ν′ est nul en (ξ_{1}, …,ξ_{M+2}) dans ce cas.

Il reste alors à voir que dans le cas où 𝔥 est de type CRI, 𝔥 est de type CRII si et seulement si ν′ est nul en (ξ_{1}, …,ξ_{M+2}) dans le cas suivant :

ξ_{1} = t + x , ξ_{2} = u , ξ_{3} = \overline{ε_{1}}, …, ξ_{M+2} = \overline{ε_{M}} .

On peut supposer la base ε_{1}, …,ε_{M} ordonnée de façon que 𝔪 contienne ε_{1}, …,ε_{l′} et que ε_{l′+1} soit égal à t + x. Puisque 𝔪 centralise x, on a alors :

−ν′(ξ_{1}, …,ξ_{M+2}) = ν([t + x, u], \overline{ε_{1}}, …, \overline{ε_{M}})

+ ∑_{j=l′+1}^{M} ν(u, \overline{ε_{1}}, …, \overline{ε_{j−1}}, [t + x, \overline{ε_{j}}], \overline{ε}_{j+1}, …, \overline{ε_{M}}) .

On rappelle que ν est nul en tout (M + 1)-uplet d’éléments de 𝔤 dont au moins un est dans 𝔥. D’après le lemme 7.5, il vient :

−ν′(ξ_{1}, …,ξ_{M+2}) = ν([t + x, u], \overline{ε_{1}}, …, \overline{ε_{M}}) − ∑_{β∈R_{+}}⟨β, t⟩ν(u, \overline{ε_{1}}, …, \overline{ε_{M}}) .

Puisque t est dans 𝔞_{0}, il existe un réel a et un élément v de 𝔪 pour lesquels t est égal au + v + \overline{v}. Si a est nul, [t + x, u] est nul et ν′ est nul en (ξ_{1}, …,ξ_{M+2}) si et seulement si :

∑_{β∈R_{+}\{α}}⟨β, t⟩ = 0 ,

car α est nul en t dans ce cas. Si a est non nul, on a :

[t + x, u] = a^{−1}[t + x, t] = −a^{−1}⟨α, t⟩[(t + x) − t] ;

or t étant égal à au + v + \overline{v}, on a :

ν(t, \overline{ε_{1}}, …, \overline{ε_{M}}) = aν(u, \overline{ε_{1}}, …, \overline{ε_{M}}) ;

donc la valeur de ν′ en (ξ_{1}, …,ξ_{M+2}) est égale à :

∑_{β∈R_{+}\\{α\}}⟨β, t⟩ν(u, \overline{ε_{1}}, …, \overline{ε_{M}}) .

Par suite, ν′ est nul en (ξ_{1}, …,ξ_{M+2}) si et seulement si 𝔥 est de type CRII.

Bibliographie

[1] Alekseevsky, D. V., and A. F. Spiro, Invariant CR Strucures on compact homogeneous manifolds, hep-DG/9904054.

[2] Baouendi, M. S., and L. P. Rothschild, Embedability of abstract CR structures and integrability of related systems, Annales de l’Institut Fourier 37 (1987), 131–141.

[3] Baouendi, M. S., L. P. Rothschild, and F. Treves, CR structures with group action and extendability of CR functions, Inventiones Mathematicae 82 (1985), 359–396.

[4] Bourbaki, N., ,,Éléments de Mathématiques. Groupes et Algèbres de Lie. Chapitres 4, 5 et 6“, Hermann (1972), Paris.

[5] —, ,,Éléments de Mathématiques. Groupes et Algèbres de Lie. Chapitres 7 et 8“, Diffusion C.C.L.S (1975), Paris.

[6] Chevalley, C., ,,Théorie des Groupes de Lie. Tome II. Groupes Algébriques“, Actualités Scientifiques et Industrielles 1152, Hermann & C^{ie}, Éditeurs (1951), Paris.

[7] Debiard, A., et B. Gaveau, Equations de Cauchy-Riemann sur SU(2) et leurs enveloppes d’holomorphie, Canadian Journal of Mathematics 28 (1986), 1009–1024.

[8] Folland, G. B., and J. J. Kohn, “The Neumann Problem for the Cauchy-Riemann Complex,” Annals of Mathematics Studies, Princeton University Press (1972), Princeton.

[9] Gigante, G., and G. Tomassini, CR-structures on real Lie algebras, Advances in Mathematics 94 (1992), 67–81.

[10] Helgason, S., “Differential Geometry and Symmetric Spaces,” Academic Press (1962), New-York, Berlin.

[11] Humphreys, J. E., “Linear algebraic groups,” Graduate Texts in Mathematics 21, Springer-Verlag (1975), New-York, Heidelberg, Berlin.

[12] Jacobowitz, H., and F. Treves, Non Realizable CR Structures, Inventiones Mathematicae 66 (1982), 231–249.

[13] Jacobowitz, H., The canonical bundle and realizable CR hypersurfaces, Pacific Journal of Mathematics 127 (1987), 91–101.

[14] Samelson, H., A class of complex-analytic manifolds, Portugaliae Mathematica 12 (1953),129–132.

[15] Trèves, F., “Approximation and representation of functions and distributions annihilated by a system of complex vector fields, ” Ecole polytechnique, Centre de Mathematiques (1981).

Jean-Yves Charbonnel Université Paris 7 - CNRS Institut de Mathématiques de Jussieu, Théorie des groupes, Case 7012, 2 Place Jussieu, 75251 Paris Cedex 05, France. jyc@math.jussieu.fr Hella Ounaïes Khalgui Université de Tunis Faculté des Sciences Département de Mathématiques Campus Universitaire 1060 Tunis. Tunisie o.khalgui@fst.rnu.tn

Received October 29, 2002 and in final form June 2, 2003