Journal of Lie Theory Volume 11 (2001) 273–303 C ◯2001 Heldermann Verlag

Estimations à l’infini des fonctions de Bessel associées aux représentations d’une algèbre de Jordan

Antonis Kalliterakis

Communicated by J. Faraut

Résumé. Nous donnons le développement asymptotique et des estimations uniformes et précises pour la fonction de Bessel associée à une représentation d’une algèbre de Jordan euclidienne.

Abstract. We give asymptotic expansions and sharp uniform estimates for the Bessel function associated to a representation of a Euclidean Jordan Algebra.

Introduction

L’étude des fonctions spéciales définies sur des espaces de matrices et en particulier de la fonction de Bessel a été entreprise par C. Herz [8]. Cette étude a ensuite été reprise pour des applications à la statistique par A.G. Constantine [4] et R. Muirhead [9]. Dans le cadre des algèbres de Jordan euclidiennes, les fonctions de Bessel ont été introduites par J. Faraut et G. Travaligni [7]. Plus précisément: soit V une algèbre de Jordan simple euclidienne de dimension n, de rang r et d’élément neutre e. Soit Ω le cône symétrique associé à V . Soit ϕ: V → H(E) une représentation où H(E) est l’algèbre de Jordan des endomorphismes symétriques de l’espace euclidien E. Il lui correspond une application quadratique Q: E → V , qui est à valeurs dans \overline{Ω}. En supposant la représentation régulière (cf., [2]) on peut définir la variété de Stiefel Σ = {σ ∈ E | Q(σ) = e} qui est une sous-variété analytique compacte de E.

La fonction de Bessel associée à la représentation ϕ est définie comme la transformée de Fourier de la mesure normalisée dσ induite sur Σ par la structure euclidienne de E.

j(ξ) = ∫_{Σ} exp(−i⟨ξ, σ⟩_{E}) dσ.

Dans [7] il a été montré que j est radiale et que son profil J s’écrit

J(x^{2}) = ∫_{Σ} exp(−i⟨ϕ(x)σ, σ_{0}⟩_{E}) dσ,

ISSN 0949–5932 / $2.50 ^{_{C} ◯} Heldermann Verlag où x ∈ \overline{Ω} et σ_{0} est un point fixe, mais arbitraire, de la variété de Stiefel. On montre également que J est K -invariante où K est la composante connexe de l’identité de Aut(V ). Et par conséquent on peut supposer que x appartient à une chambre de Weyl fermée de V .

En utilisant la méthode de la phase stationnaire nous déterminons le développement asymptotique de la fonction J(x^{2}) quand x tend vers l’infini le long d’un rayon singulier, (le cas régulier a été traité par J. Faraut et G. Travaligni ([7], [11]). La fonction de phase associée à x est g_{x}: Σ → ℝ et elle est définie par g_{x}(σ) = ⟨ϕ(x)σ, σ_{0}⟩_{E}. Les points critiques de la fonction de phase forment des variétés qui en général ne sont ni connexes ni de dimension pure mais elles sont non dégénérées (transversalement). Nous avons quand τ → ∞

J(τ^{2}x^{2}) ∼ ∑_{m∈M(x)}exp(iτg_{x}(σ) + \frac{1}{4}iπ sgn g′′_{x}(σ)) ∑_{l=0}^{∞} τ^{− \frac{1}{2} n_{m}−l}p_{ml}

où M(x) est un ensemble de multi–indices qui dépend seulement de la multiplicité des valeurs propres de x.

Ensuite nous obtenons des estimations uniformes de J(x^{2}) sur \overline{Ω} en utilisant les résultats des J. J. Duistermat, J. A. C. Kolk et V. S. Varadarajan [5] sur les intégrales oscillantes dépendant d’un paramètre. Nous montrons que le paramètre de l’intégrale oscillante définissant J(x^{2}) prend ses valeurs dans une chambre de Weyl ouverte qu’on fixe. Nous définissons une filtration de la variété de Stiefel accosiée à une partition en “secteurs” multidimensionels de la chambre de Weyl fermée de V .

Il existe alors une constante positive C telle que pour tout x ∈ \overline{Ω}

|J(x^{2})| ≤ CB(x)

où

B(x) = ( ∑_{ϵ∈\{1,−1\}^{r}} ∏_{γ∈Ξ_{1}}(1 + | γ(ϵx) |)^{− \frac{d}{2}} ) ∏_{γ∈Ξ_{2}} (1+ | γ(x) |)^{− \frac{δ}{2}} .

Ξ_{1}, Ξ_{2} sont deux parties du système des racines positives de V , d une constante positive qui ne dépend que l’algèbre et δ est une constante positive qui dépend de l’espace de la représentation. Les estimations sont précises, en ce sens que dans chaque direction l’estimation est exactement de l’ordre de grandeur du terme dominant du développement asymptotique.

1. Notations et résultats préliminaires

Afin de décrire les propriétés de l’ensemble critique de la fonction de phase nous aurons besoin de quelques résultats sur la variété différentielle des éléments involutifs d’une algèbre de Jordan et sur la variété de Stiefel associée à une représentation régulière d’une sous-algèbre de Jordan.

On considère un système complet d’idempotents primitifs orthogonaux (s.c.i.p.o) (c_{i})_{1≤i≤r} de l’algèbre de Jordan euclidienne qu’on fixe. Soit A le sous-espace vectoriel de V engendré par les c_{i}. Soit (λ_{i})_{1≤i≤r} la base duale de (c_{i})_{1≤i≤r}. Ainsi, si a = ∑_{1≤i≤r} μ_{i}c_{i} avec μ_{i} ∈ ℝ, on a λ_{i}(a) = μ_{i}.

Considérons maintenant une nouvelle base (b_{i})_{1≤i≤r} de A, définie par

b_{i} = ∑_{j=1}^{i} c_{j}

pour 1 ≤ i ≤ r. Notons que chaque b_{i} est un idempotent de trace i. Soit (α_{i})_{1≤i≤r} la base de A^{∗} duale de (b_{i}). Elle est donnée par

α_{i} = λ_{i} − λ_{i+1}

pour 1 ≤ i ≤ r, avec la convention λ_{r+1} = 0. Notons que, pour 1 ≤ i ≤ r, λ_{i} = α_{i} + ⋯ + α_{r}.

Notons Δ l’ensemble {α_{1}, …, α_{r}}, Ξ_{1} l’ensemble des λ_{i} + λ_{j} pour 1 ≤ i < j ≤ r, Ξ_{2} l’ensemble {λ_{1}, …, λ_{r}}, et Ξ la réunion de Ξ_{1} et de Ξ_{2} . On appelle racines de l’algèbre de Jordan V les éléments de Δ ∪ Ξ.

On définit enfin la chambre de Weyl fermée de A par rapport à Δ comme étant

C(Δ) = {α ∈ A | α_{i}(a) ≥ 0 pour i = 1, …, r}

c’est à dire l’ensemble des ∑_{i=1}^{r} μ_{i}c_{i} pour lesquels μ_{1} ≥ … ≥ μ_{r} ≥ 0.

On sait que le groupe K des automorphismes de V opère transitivement sur l’ensemble des s.c.i.p.o. de V ([6], Corollary IV.2.7). Par conséquent, d’après le théorème de la décomposition spectrale ([6],Theorem III.1.1), tout x ∈ V s’écrit x = ka où k ∈ K et a ∈ A, où

a = ∑_{i=1}^{r} μ_{i}c_{i} , μ_{i} ∈ ℝ .

Les éléments k et a ne sont pas uniquement déterminés à partir de x. Quitte à remplacer k par kk_{1}^{−1} et a par k_{1}a pour un automorphisme k_{1} de V induisant une permutation des c_{i}, on peut supposer que μ_{1} ≥ … ≥ μ_{r}. Sous cette restriction, l’élément a de A est bien déterminé. On l’appelle la a–composante de x et on le note a(x). L’ensemble des a–composantes de V est le cône

\overline{A}^{+} = \{a ∈ A | il existe μ_{1} ≥ … ≥ μ_{r} tels que a = ∑_{i=1}^{r} μ_{i}c_{i}\}.

On appelle décomposition polaire de x l’écriture x = ka(x), où k ∈ K et a(x) ∈ \overline{A}^{+} .

Soit x ∈ \overline{Ω}. Soit Sp(x) l’ensemble des valeurs propres de x. D’après ([6], Theorem III.2.1) elles sont positives ou nulles. Comme Sp(x) = Sp(kx), x ∈ \overline{Ω} si et seulement si les valeurs propres de sa a–composante sont positives ou nulles. Ce qui précède et le théorème de la décomposition spectrale montrent que l’ensemble des a–composantes de \overline{Ω} est exactement C(Δ).

La décomposition spectrale d’un élément x ∈ C(Δ) s’écrit alors

x = ∑_{i=1}^{k} β_{i}(x)C_{i}

où β_{i}(x) sont les valeurs propres distinctes non nulles de x, plus précisément vérifient

β_{i}(x) > … > β_{k}(x) > 0.

Les idempotents C_{i} sont donnés par

C_{i} = ∑_{j=r_{i−1}+1}^{r_{i}} c_{j}

où r_{0} = 0 et, pour 1 ≤ i ≤ r, r_{i} = rg(C_{1} + ⋯ + C_{i}).

La multiplicité de la valeur propre β_{i}(x) est égale à tr(x) = r_{i} − r_{i−1} . Si 0 est valeur propre de x, sa multiplicité est égale à la trace de l’idempotent C_{0} := e − e_{k}, où

e_{k} := ∑_{i=1}^{k} C_{i}.

On sait que les éléments involutifs J de V sont de la forme J = e − 2c, où c est un idempotent de V . On note J l’ensemble des éléments involutifs de V . On fixe un s.c.i.p.o. (c_{i})_{1≤i≤r}. Pour chaque entier m ∈ {0, …, r}, on pose

W_{m} := ∑_{i=1}^{m} c_{i} − ∑_{i=m+1}^{r} c_{i}.

Considérons l’action naturelle de K sur J . On note O_{m} l’orbite de W_{m} suivant K et K_{m} le stabilisateur de W_{m} dans K. Il est clair que O_{m} est difféomorphe à l’espace homogène K/K_{m} et par conséquent, est une variété compacte connexe, puisque K l’est.

Lemme 1.1. L’ensemble J des éléments involutifs de V est réunion disjointe des orbites O_{m}:

J = ∪_{0≤m≤r}O_{m}.

Démonstration. Soit J ∈ J . Il existe un s.c.i.p.o. (c′_{i})_{1≤i≤r} de V tel que

J = ∑_{i=1}^{r} ϵ_{i}c′_{i}

pour un r-uplet ϵ = (ϵ_{i})_{1≤i≤r} ∈ {−1, 1}^{r}. Soit m le nombre d’indices i pour lesquels ϵ_{i} = 1. On sait que le groupe K opère transitivement sur l’ensemble des s.c.i.p.o. d’une algèbre de Jordan simple et, comme Sp(x) = Sp(kx), J ∈ O_{m}. Par conséquent,

J ⊂ ∪_{0≤m≤r}O_{m}.

et cette inclusion est une égalité, l’inclusion inverse étant triviale. De plus, la réunion est disjointe. En effet, si J ∈ O_{m}, les valeurs propres éventuelles de J sont 1 et −1 et m est égale à la multiplicité de la valeur propre 1. Par conséquent, les orbites O_{m} sont distinctes.

Lemme 1.2. Soit C un idempotent de V . Alors l’algèbre V (C, 1) est simple.

Démonstration. Supposons que l’algèbre V (C, 1) ne soit pas simple. Il existe alors un idempotent non trivial c de V (C, 1) tel que l’on ait

V (c, 1) ∩ V (c, \frac{1}{2}) = \{0\}.

D’après ([6], Théorème III.1.1), il existe un système complet d’idempotents orthogonaux d_{1}, …, d_{s} tels que C = ∑_{i=1}^{s} d_{i} avec s ≤ r. Le résultat ([6], Theorem IV.2.1), les relations Cc = c et c^{2} = c et le fait que c est un idempotent non trivial impliquent qu’on peut écrire c = ∑_{i=1}^{t} d_{i} avec 1 ≤ t < s (en réordonnant les d_{i} si nécessaire). En utilisant ([6], Proposition IV.2.3) il existe x ∈ V (d_{1}, \frac{1}{2}) ∩ V (d_{s}, \frac{1}{2}) (x ≠ 0). On a alors Cx = x et cx = \frac{1}{2} autrement dit x ∈ V (c, 1) ∩ V (c, \frac{1}{2}) ce qui est absurde.

On note J_{x,i} l’ensemble des éléments involutifs de V (c, 1).

Un élément involutif J de la sous-algèbre V (e_{k}, 1) sera dit adapté à la décomposition spectrale de x s’il a la forme

J = ∑_{i=1}^{k} J_{i}

où J_{i} ∈ J_{x,i}. On désigne par J_{i} ∈ J_{x} l’ensemble de ces éléments.

Soit i ∈ {1, …, k}. Pour chaque entier m ∈ {0, …, r_{i}−r_{i−1}}, définissons l’élément involutif W_{i,m} de J_{x,i} par

W_{i,m} := ∑_{j=r_{i−1}+1}^{r_{i}+m} c_{j} − ∑_{j=r_{i−1}+m+1}^{r_{i}} c_{j}.

Soit M(x) l’ensemble des k -uplets (m_{1}, …, m_{k}) d’entiers tels que 0 ≤ m_{i} ≤ r_{i} − r_{i−1} pour tout i ∈ {1, …, k}. Pour chaque m = (m_{i})_{1≤i≤k} ∈ M(x), soit

W_{m} := ∑_{i=1}^{k} W_{i,m_{i}}.

C’est un élément involutif adapté à la décomposition spectrale de x.

Par ailleurs, soit K_{i} la composante connexe de l’identité du groupe Aut(V (C_{i}, 1)) des automorphismes de l’algèbre V (C_{i}, 1). On définit Γ_{k} := ∏_{i=1}^{k} K_{i} et il est clair que c’est un groupe de Lie compact et connexe. On définit l’action de Γ_{k} sur J_{x} par

(g, J) ⟼ gJ := ∑_{i=1}^{k} g_{i}J_{i},

où g = (g_{i})_{1≤i≤r} avec g_{i} ∈ K_{i} et J = ∑_{i=1}^{k} J_{i} avec J_{i} ∈ J_{x,i}. Pour m ∈ M(x), on note O_{m} l’orbite de W_{m} sous l’action de Γ_{k}.

Lemme 1.3. Soit x ∈ C(Δ). Avec les notations précédentes, la variété J_{x} des éléments involutifs adaptés à la décomposition spectrale de x est réunion disjointe d’orbites suivant Γ_{k}.

J_{x} = ∪_{m∈M(x)} O_{m}.

Démonstration. Soit J = ∑_{i=1}^{k} J_{i} un élément de J_{x} avec J_{i} ∈ J_{x,i}. La décomposition spectrale de J_{i} est

J_{i} = ∑_{j=r_{i−1}+1}^{r_{i}} ϵ_{i}c′_{j},

où (c′_{j}) est un s.c.i.p.o. de l’algèbre V (C_{i}, 1) et ϵ_{j} = ±1. Soit m_{i} le nombre d’indices j pour lesquels r_{i−1} ≤ j ≤ r_{i} et ϵ_{i} = 1. En appliquant le lemme 1.1, à l’algèbre V (C_{i}, 1) on aura J_{i} = g_{i}W_{i,m_{i}} pour g_{i} ∈ K_{i}.

Finalement, si g = (g_{1}, …, g_{k}) ∈ Γ_{k} et m = (m_{1}, …, m_{k}) ∈ M(x), on aura J = gW_{m} .

Les orbites O_{m} sont distinctes car, étant donné un élément de J de O_{m} , l’entier m_{i} est égal à la multiplicité de la valeur propre 1 de JC_{i}, donc m est entièrement détermineé par J.

En utilisant le fait que la représentation ϕ est régulière et la décomposition polaire de E nous obtenons la décomposition orthogonale de E,

E = ϕ(V)σ ⊕ T_{σ}Σ,

où T_{σ}Σ est l’espace tangent de la variété de Stiefel Σ au point σ.

Dans [11] G. Travaligni a construit une base orthonormée de E contenant une base orthonormée de T_{σ}Σ.

Plus précisement on considère la décomposition de Peirce de V par rapport au s.c.i.p.o. (c_{i})_{1≤i≤r}

V = ⊕_{1≤i≤j≤r} V_{i,j},

où V_{ii} = ℝc_{i} et pour tout i ≠ j, dimV = d. On fixe une base orthonormale de V en réunissant (c_{i})_{1≤i≤r} et une base orthonormale (v_{ij}^{t})_{1≤t≤d} de chaque V_{ij}. On montre ([11], Lemma 9) que la famille formée par les vecteurs ϕ(c_{i}−c_{j})ϕ(v_{ij}^{t})σ de E (1 ≤ i < j ≤ r, 1 ≤ t ≤ d) est orthonormale. Soit F le sous-espace vectoriel de E engendré par ces vecteurs. Pour 1 ≤ j ≤ r, on définit le sous-espace vectoriel

A_{j} = E_{j} ∩ (F ⊕ ϕ(V)σ),

où E_{j} = ϕ(c_{j})E. Les sous-espaces F et ϕ(E)σ sont orthogonaux ([11], Lemma 8). Soit R_{j} le supplémentaire orthogonal de A_{j} dans E_{j}. On a la décomposition en somme directe orthogonale

E_{j} = A_{j} ⊕ R_{j}.

Pour tout j (1 ≤ j ≤ r) la dimension de R_{j} est égale à δ = \frac{N}{r} −rd+d−1 où N = dimE. Dans chaque R_{j}, on fixe une base orthonormée r_{h}^{j} (1 ≤ h ≤ δ) et comme les E_{j} sont deux à deux orthogonaux, on obtient une base orthonormée de

R = ⊕_{1≤j≤r} R_{j}.

D’après ce qui précède on a la décomposition en somme directe orthogonale

E = ϕ(V)σ ⊕ F ⊕ R,

et par conséquent

T_{σ}Σ = F ⊕ R.

La famille B formée par les vecteurs r_{h}^{j} et ϕ(c_{i} − c_{j})ϕ(v_{ij}^{t})σ (1 ≤ h < j ≤ δ, 1 ≤ i < j ≤ r, 1 ≤ t ≤ d) est une base orthonormée de T_{σ}Σ. Une telle base B de T_{σ}Σ sera appelée base orthonormée standard.

Soit C un idempotent de V . Soit E_{C} le sous-espace vectoriel de E défini par E_{C} = ϕ(C)E. On considère la représentation ϕ_{C}: V (C, 1) → H(ϕ(C)E) qui est définie par

(∗)  ϕ_{C}(y) = ϕ(y)|_{E_{C}}

et l’application quadratique à valeurs vectorielles associée à ϕ_{C}.

Proposition 1.4. La représentation ϕ_{C} est régulière.

Démonstration. Il suffit d’établir qu’il existe ξ_{C} ∈ E_{C} tel que Q_{C}(ξ_{C}) = C ([2], Proposition 4.1). Or, il est clair qu’il existe ξ_{C} ∈ E_{C} tel que Q_{C}(ξ_{C}) = C il suffit pour cela de choisir ξ_{C} = ϕ_{C}(C) où σ ∈ Σ. En particulier, Q(ξ) ∈ V (C, 1). Par ailleurs, pour tout z ∈ V (C, 1) et pour tout η_{C} ∈ E_{C}, on a

⟨Q(η_{C}), z⟩_{V} = ⟨Q(η_{C}), z⟩_{V (C,1)}

Compte tenu du fait que Q(ξ_{C}) = C, la relation (∗) implique Q_{C}(ξ_{C}) = C.

On définit la variété de Stiefel correspondant à la représentation ϕ_{C} par

Σ_{C} = {σ_{C} ∈ E_{C} | Q_{C}(σ_{C}) = C}.

Lemme 1.5. L’application ϕ(C): Σ → Σ_{C} est une submersion.

Démonstration. Compte tenu de la forme des vecteurs de la base B l’image de l’espace tangent T_{σ}Σ par l’application linéaire tangente ϕ(C) admet une base formée par:

(i) les vecteurs r_{h}^{j} (1 ≤ h ≤ δ) pour lesquels c_{j}C = c_{j}, (ii) les vecteurs ϕ(c_{i} − c_{j})ϕ(v_{ij}^{s})σ (1 ≤ s ≤ d) pour lesquels c_{i}C = c_{j} et (iii) les vecteurs ϕ(c_{j})ϕ(v_{ij}^{s})σ (1 ≤ s ≤ d) pour lesquels c_{i}C = 0 et

c_{j}C = c_{j}.

Si l’on pose r′ = rg(C), alors

(1)  dim ϕ(C)T_{σ}Σ = r′δ + \frac{r′(r′ − 1)}{2}d + r′(r − r′),

où δ = dimR_{i} = \frac{N}{r} −rd+d−1. Si σ′ = ϕ(C)σ, la dimension de l’espace tangent à Σ_{C} en σ′ est donnée par la relation

(2) dim T_{σ′}Σ = dim ϕ(C)E − dim ϕ(V (C, 1))σ′ = r′ \frac{N}{r} − (r′ + \frac{r′(r′ − 1)}{2}d)

Les relations (1) et (2) impliquent que dim ϕ(C)T_{σ}Σ = dim T_{σ′}Σ_{C}, et par conséquent ϕ(C) est une submersion.

Proposition 1.6. La fonction de Bessel J est K –invariante.

Démonstration. Pour tout ξ ∈ E on a l’identité

∫_{E} e^{−∥ξ∥^{2}−i⟨ξ,η⟩_{E}} dξ = π^{\frac{N}{2}} e^{− \frac{1}{4} ∥η∥^{2}},

en changeant ξ en ϕ(z^{\frac{1}{2}} )ξ et η en ϕ(z^{− \frac{1}{2}} )σ, où z ∈ Ω + iV , il vient

∫_{E} e^{⟨z,Q(ξ)⟩_{E}−⟨ξ,σ⟩_{E}} dξ = π^{\frac{N}{2}} det^{\frac{−N}{2r}} (z)e^{− \frac{1}{4} ⟨z^{−1},Q(σ)⟩_{E}}.

La formule intégrale pour la décomposition polaire généralisée ([7], proposition p.130) et la définition de la fonction de Bessel impliquent (∗)

∫_{Ω} e^{−⟨z,x⟩_{E}}j(ϕ(x^{1/2})σ)(det^{N/2r−n/r}x) dx = Γ_{Ω}(N/r)det^{−N/2r}(z)e^{− \frac{1}{4} ⟨z^{−1},e⟩_{E}}.

Le changement de x en kx dans (∗) et l’injectivité de la transformée de Laplace montrent que j(ϕ(x^{1/2})σ) = j(ϕ(kx^{1/2})σ), mais j est radiale ce qui implique que J est K –invariante.

2. Ensemble critique de la fonction de phase

Désormais, compte tenu du fait que la fonction de Bessel J est K -invariante (proposition 1.6.), et de la décomposition polaire des éléments de V , on supposera que x appartient à C(Δ).

On sait ([7]) qu’un élément σ de la variété de Stiefel Σ est un point critique de la fonction de phase g_{x} si et seulement s’il existe y ∈ V tel que

(∗)  ϕ(x)σ_{0} = ϕ(y)σ.

D’après ([7], Lemma 1), pour tout x ∈ V et ξ ∈ E, Q(ϕ(x)ξ) = P (x)Q(ξ), où P est la représentation quadratique de V , et par conséquent,

P (x)Q(σ_{0}) = P (y)Q(σ).

Mais σ_{0} ,σ ∈ Σ, d’où Q(σ_{0}) = Q(σ) = e, ce qui implique y^{2} = x^{2} .

Lemme 2.1. Soient x ∈ C(Δ) et y ∈ V . Alors, x^{2} = y^{2} si et seulement s’il existe des éléments J_{i} ∈ J_{x,i} tels que y = ∑_{i=1}^{k} β_{i}(x)J_{i}.

Démonstration. Considérons la décomposition spectrale de y. Elle sera de la forme y = ∑_{j=1}^{k} μ_{j}c′_{j}. Les nombres μ_{j} sont les valeurs propres de y et (c′_{j})_{1≤j≤r} est un s.c.i.p.o. de V . L’égalité x^{2} = y^{2} implique

∑_{j=1}^{r} μ_{j}^{2}c′_{j} = y^{2} = x^{2} = ∑_{i=1}^{k} β_{j}^{2}(x)C_{j}

Le théorème de la décomposition spectrale implique qu’il existe une partition (A_{i})_{0≤i≤k} de {1, …, r} telle que, pour tout i ∈ {0, …, k},

∑_{j∈A_{i}} c′_{j} = C_{i},

et, pour tout j ∈ A_{i}, μ_{j}^{2} = β_{i}^{2} , donc μ_{j} = ±β_{i}(x), où l’on a posé β_{0} = 0. Dans cette partition, les A_{i} sont non vides pour i ≥ 1. Soient alors, pour 1 ≤ i ≤ k,

P_{i} := {j ∈ A_{i} | μ_{j} = β_{i}(x)}, N_{i} := {j ∈ A_{i} | μ_{j} = −β_{i}(x)}

et

J_{i} := ∑_{j∈P_{i}} c′_{j} − ∑_{j∈N_{i}} c′_{j}.

Il est clair que J_{i} est un élément involutif de V (C_{i}, 1) et que y = ∑_{i=1}^{k} β_{i}(x)J_{i}. Et inversement, tout élément y de cette forme vérifie

y^{2} = ∑_{i=1}^{k} β_{i}^{2}(x)J_{i}^{2} = ∑_{i=1}^{k} β_{i}^{2}(x)C_{i} = x^{2}.

On a la caractérisation suivante des points critiques.

Lemme 2.2. Soit x ∈ C(Δ). Soit g_{x} la fonction de phase associée à x. Un élément σ de la variété de Stiefel Σ est un point critique pour la fonction g_{x} si et seulement s’il existe un élément involutif J ∈ J_{x} tel que

ϕ(e_{k})σ = ϕ(J)σ_{0}.

Démonstration. Le point σ est un point critique de g_{x} si et seulement s’il existe y ∈ V tel que

(∗)  ϕ(x)σ_{0} = ϕ(y)σ.

D’après le lemme 2.1, il existe des éléments involutifs J_{i} ∈ J_{x,i} tels que y = ∑_{i=1}^{k} β_{i}(x)J_{i}. Posons

z = ∑_{i=1}^{k} (β_{i}(x))^{−1}J_{i},

ce qui est possible, puisque β_{i}(x) > 0. Alors, xz = J et yz = e_{k}. De plus, les opérateurs symétriques ϕ(x), ϕ(y) et ϕ(z) commutent deux à deux, puisqu’ils sont combinaisons linéaires des ϕ(c_{j}), qui sont des projecteurs deux à deux orthogonaux.

De la relation (∗) on déduit, en composant par ϕ(z), que

ϕ(e_{k})σ = ϕ(yz)σ = ϕ(z)ϕ(y)σ = ϕ(z)ϕ(x)σ_{0} = ϕ(xz)σ_{0} = ϕ(J)σ_{0},

ce qui montre que la relation est nécessaire.

Et réciproquement, s’il existe J ∈ J_{x} tel que ϕ(e_{k})σ = ϕ(J)σ_{0} , alors il suffit de poser y = xJ pour avoir (∗). En effet, si J = ∑ J_{i}, avec J_{i} ∈ J_{x,i}, on a y = ∑ β_{i}(x)J_{i} et les opérateurs ϕ(x), ϕ(y), ϕ(J) commutent deux à deux. Donc, comme xJe_{k} = ye_{k},

ϕ(x)σ_{0} = ϕ(xJ^{2})σ_{0} = ϕ(xJ)σ_{0} = ϕ(xJ)ϕ(J)σ_{0} = ϕ(y)ϕ(e_{k})σ = ϕ(y)σ.

Les notations étant les mêmes, si m ∈ M(x), on considère la partie

Σ_{m} := {σ ∈ Σ | ϕ(e_{k})σ ∈ ϕ(O_{m})σ_{0}} de Σ.

Proposition 2.3. Soit x ∈ C(Δ). Chaque Σ_{m} est une sous-variété compacte de Σ. Les variétés Σ_{m} sont deux à deux disjointes et leur réunion, quand m parcourt M(x), est l’ensemble Σ_{x} des points critiques de la fonction de phase g_{x}:

Σ_{x} = ∪_{m∈M(x)} Σ_{m}.

Si m ≠ m′, alors Σ_{m} et Σ_{m′} ne sont pas contenues dans la même composante connexe de Σ.

Démonstration. Nous savons déjà que Σ_{x} est réunion des Σ_{m} . En effet, il résulte des lemmes 2.1 à 2.2, qu’un point critique de la fonction g_{x} correspond à un élément involutif J ∈ J_{x}, et, comme J_{x} est réunion des orbites O_{m} , Σ_{x} est réunion des Σ_{m} .

Montrons que la réunion est disjointe. Pour commencer, nous constatons que, si σ ∈ Σ_{x}, alors l’élément y de V qui vérifie y^{2} = x^{2} et ϕ(x)σ_{0} = ϕ(y)σ est unique. En effet si un élément z avait les mêmes propriétés, on aurait

ϕ(y − z)σ = ϕ(y)σ − ϕ(z)σ = 0,

donc y − z = 0, car σ est régulier ([2]), en tant qu’élément de Σ. Ainsi, la décomposition

y = ∑_{i=1}^{k} β_{i}(x)J_{i} (J_{i} ∈ J_{x,i})

est bien déterminée par σ. Si l’on note m_{i} la multiplicité de la valeur propre 1 dans J_{i}, alors m est bien déterminé à partir de σ, donc la réunion des Σ_{m} est disjointe.

Montrons que les Σ_{m} sont des sous-variétés compactes de Σ. Chaque O_{m} est une sous-variété compacte et connexe de V difféomorphe à l’espace homogène Γ_{k}/S(W_{m}), où S(W_{m}) est le stabilisateur de W_{m} . Les notations étant celles du paragraphe 1 ci-dessus, on considère la variété de Stiefel

Σ_{k} = {σ ∈ ϕ(e_{k})E | Q_{k}(σ_{k}) = e_{k}}.

On définit l’application χ: O_{m} → Σ_{k} par χ(J) = ϕ(J)σ_{o} qui vérifie χ(O_{m}) = ϕ(O_{m})σ_{0}. L’application χ est injective, car, si χ(J) = χ(J′), alors ϕ(J′−J)σ_{0} = 0. Donc, comme ϕ est régulière et Q(σ_{0}) = e, on aura J′ = J. Par un argument identique, on montre que χ est une immersion. Il est clair par ailleurs que l’image réciproque de ϕ(O_{m})σ_{0} par ϕ(e_{k}) est Σ_{m} . Mais ϕ(e_{k}) est une submersion (lemme 1.5) et, par conséquent, Σ_{m} est une sous-variété fermée donc compacte de Σ.

Supposons que Σ_{m} et Σ_{m′} soient contenues dans la même composante connexe de Σ. Il existe alors un chemin dans Σ joignant le point σ à σ′ où σ ∈ Σ_{m} et σ′ ∈ Σ_{m′}. Compte tenu de la connexité des ϕ(O_{m})σ_{0} et ϕ(O_{m′})σ_{0} nous avons un chemin dans ϕ(e_{k})Σ joignant le point ϕ(W_{m})σ_{0} à ϕ(W_{m′})σ_{0} . Comme m ≠ m′ il existe i ∈ {1, …, rg e_{k}} tel que ϕ(c_{i})ϕ(W_{m})σ_{0} = ϵ_{i}ϕ(c_{i})σ_{0} et ϕ(c_{i})ϕ(W_{m′})σ_{0} = ϵ′_{i}ϕ(c_{i})σ_{0} avec ϵ_{i}ϵ′_{i} = −1 par conséquent il existe donc dans l’image du chemin un élément ϕ(e_{k})σ_{1} tel que ϕ(c_{i})ϕ(e_{k})σ_{1} = 0. Nous avons, alors σ_{1} = ∑_{j=2}^{r} ϕ(c_{j})σ_{1} et Q(σ_{1}) = e = ∑_{j=2}^{r} c_{j} ce qui est absurde.

Remarque. Il est clair que Σ_{x} ne dépend pas des valeurs propres de x mais seulement de leurs multiplicités.

3. Développement asymptotique de la fonction de Bessel

Soit x un élément de la chambre de Weyl C(Δ). On considère sa décomposition spectrale x = ∑_{i=1}^{k} β_{i}(x)C_{i}. On sait que les C_{i} s’expriment par C_{i} = ∑_{j=r_{i−1}+1}^{r_{i}} c_{j}. Soit ϵ = (ϵ_{1}, …, ϵ_{r}) ∈ {−1, 1}^{r}. On définit les éléments

ϵC_{i} = ∑_{j=r_{i−1}+1}^{r_{i}} ϵ_{j}c_{j} et on pose ϵx = ∑_{i=1}^{k} β_{i}(x)(ϵC_{i}).

Pour ϵ ∈ {−1, 1}^{r}, on définit les ensembles de racines de V

Ξ_{1}(ϵ, x) := {γ ∈ Ξ_{1} | γ(ϵx) ≠ 0} et Ξ_{2}(ϵ, x) := {γ ∈ Ξ_{2} | γ(ϵx) ≠ 0}.

Pour i ∈ {1, …, k}, on désigne par m_{i}(ϵ) la multiplicité de la valeur propre 1 dans ϵC_{i}, c’est à dire le nombre d’indices j tels que r_{i−1} < j ≤ r_{i} et ϵ_{j} = 1. On pose

m(ϵ) := (m_{1}(ϵ), …, m_{k}(ϵ)) ∈ M(x).

de sorte que J_{ϵ} ∈ O_{m(ϵ)} . Si ϵ, ϵ′ ∈ {−1, 1}^{r} vérifient m(ϵ) = m(ϵ′), alors les ensembles Ξ_{2}(ϵ, x) et Ξ_{2}(ϵ′, x) sont égaux, tandis que les ensembles Ξ_{1}(ϵ, x) et Ξ_{1}(ϵ′, x) sont de même cardinal. Par conséquent on peut parler, pour m ∈ M(x), de Card(Ξ_{1}(ϵ, x)) = Card(Ξ_{1}(ϵ′, x)).

On sait que le hessien de la fonction de phase g_{x} au point critique σ ∈ Σ_{m} ([7], [11]) est donné par

g′′_{x}(σ)(X, X) = −⟨ϕ(y)X, X⟩_{E} où X ∈ T_{σ}Σ,

où y est de la forme ∑_{i=1}^{k} β_{i}(x)J_{i} avec J_{i} ∈ J_{x,i}.

Soit J l’élément involutif de V (e_{k}, 1) défini par

J = ∑_{i=1}^{k} J_{i}.

Nous allons déterminer une base de T_{σ}Σ, orthogonale pour g′′_{x}. On considère un s.c.i.p.o. (c̃_{i}) de V contenant les idempotents primitifs à l’aide desquels J s’exprime. Ensuite on considère une base orthonormée de V formée par les c̃_{i} (1 ≤ i ≤ r) et les vecteurs ṽ_{ij}^{t} (1 ≤ i < j ≤ r,1 ≤ t ≤ d) obtenus à partir des c̃_{i} exactement comme les v_{ij}^{t} ont été obtenus à partir des c_{i}.

Proposition 3.1. Soit m ∈ M(x). Soit σ un point critique de g_{x} appartenant à Σ_{m} . Alors la base orthonormée B de T_{σ}Σ formée par les vecteurs

r̃_{h}^{j} (1 ≤ h ≤ δ) et ϕ(c̃_{i} − c̃_{j})ϕ(ṽ_{ij}^{t})σ (1 ≤ i < j ≤ r, 1 ≤ t ≤ d)

est orthogonale par rapport au hessien de g_{x}.

La dimension du noyau, le rang et la signature du hessien g′′_{x}(σ) sont constants sur Σ_{m} et valent respectivement

dim ker g′′_{x}(σ) = d Card{γ ∈ Ξ_{1} | γ(ϵx) = 0} + δ Card{γ ∈ Ξ_{2} | γ(ϵx) = 0}

rg g′′_{x}(σ) = d Card(Ξ_{1}(ϵ, x)) + δ Card(Ξ_{2}(ϵ, x))

sgn g′′_{x}(σ) = −d ∑_{γ∈Ξ_{1}(ϵ,x)} sgn(γ(ϵx)) − δ ∑_{γ∈Ξ_{2}(ϵ,x)} sgn(γ(ϵx)).

Le déterminant de la forme bilinéaire induite par le hessien sur l’espace quotient

N(σ) := T_{σ}Σ/ ker g′′_{x}(σ)

est donné par

det(g′′_{x}(σ)|_{N(σ)}) = (−1)^{rgg′′_{x}(σ)} ∏_{γ∈Ξ_{1}(ϵ,x)}(\frac{1}{2}γ(ϵx))^{d} ∏_{γ∈Ξ_{2}(ϵ,x)}(\frac{1}{2}γ(ϵx))^{δ}.

La fonction de phase est constante sur Σ_{m} , avec comme valeur

g_{x}(σ) = ∑_{γ∈Ξ_{2}(ϵ,x)} γ(ϵx).

Démonstration. On considère le hessien

gx^{′′}(σ)(X, X) = −⟨ϕ(y)X, X⟩_{E} où X ∈ T_{σ}Σ.

Notons Ψ la forme bilinéaire qui lui est canoniquement associée. En utilisant ([11], Lemma 8) on montre que B est orthogonale par rapport à Ψ. Nous allons calculer ses éléments diagonaux. On a Q(r̃_{h}^{j}) = c̃_{j} et

(1)  Ψ(r̃_{h}^{j}, r̃_{h}^{j}) = ⟨ϕ(y)r̃_{h}^{j}, r̃_{h}^{j}⟩_{E} = −⟨y, Q(r̃_{h}^{j})⟩_{V} = −⟨y, r̃_{j}⟩_{V} .

Alors le dernier membre de (1) est non nul si et seulement s’il est de la forme γ(ϵx) pour une racine γ ∈ Ξ_{2}(ϵ, x). La multiplicité de γ(ϵx) est alors égale à δ, la dimension commune des espaces R_{j}. On a aussi

(2)  \begin{matrix}Ψ(ϕ(c̃_{i} − c̃_{j})ϕ(ṽ_{ij}^{t})σ, ϕ(c̃_{i} − c̃_{j})ϕ(ṽ_{ij}^{t})σ) \\ = & ⟨y, Q(c̃_{i} − c̃_{j})ϕ(ṽ_{ij}^{t})σ⟩_{V} = −\frac{1}{2}⟨y, c̃_{i} + c̃_{j}⟩_{V} \end{matrix} .

En effet, d’après ([7], Lemma 1),

Q(ϕ(c̃_{i} − c̃_{j})ϕ(ṽ_{ij}^{t})σ) = P (c̃_{i} − c̃_{j})Q(ϕ(ṽ_{ij}^{t})σ) = P (c̃_{i} − c̃_{j})P (ṽ_{ij}^{t})Q(σ)

et

P (ṽ_{ij}^{t})e = [2L^{2}(ṽ_{ij}^{t}) − L(ṽ_{ij}^{t})^{2})]e = (c̃_{i} + c̃_{j}) − \frac{1}{2}(c̃_{i} + c̃_{j})

d’où (2). Donc

Ψ(ϕ(y)r̃_{h}^{j}, ϕ(y)r̃_{h}^{j}) = −\frac{1}{2}(ϵ_{i}β_{i}(x) + ϵ_{j}β_{j}(x)).

Le deuxième membre de (2) est non nul si et seulement si γ ∈ Ξ_{1}(ϵ, x), auquel cas sa multiplicité est égale à la dimension d de l’espace V_{i,j}.

Les formules donnant dim ker(σ), rg g′′_{x}(σ), sgn g′′_{x}(σ), det(g′′_{x}(σ)|_{N(σ)}) sont alors immédiates.

Comme σ ∈ Σ_{m} , il existe un élément J ∈ J_{x} tel que

σ = ϕ(e_{k})σ + ϕ(C_{0})σ = ϕ(J)σ_{0} + ϕ(C_{0})σ.

Les vecteurs ϕ(C_{0})σ et ϕ(x)σ_{0} étant orthogonaux dans E, on a

g_{x}(σ) = ⟨ϕ(x)σ, σ_{0}⟩_{E} = ⟨σ, ϕ(x)σ_{0}⟩_{E} = ⟨ϕ(J)σ_{0}, ϕ(x)σ_{0}⟩_{E} = ⟨σ_{0}, ϕ(J)ϕ(x)σ_{0}⟩_{E}

et, compte tenu de la décomposition spectrale de x x = ∑ β_{i}(x)C_{i} et du fait que ϕ(J) commute avec ϕ(x), on obtient la valeur critique g_{x}(σ).

On rappelle que y est un point critique non dégénéré par rapport à une sous-variété Y de X par rapport à la fonction de phase g si g′′_{y} induit une forme bilinéaire non dégénérée sur l’espace normal

N_{y}Y/X := T_{y}X/T_{y}Y

à Y dans X. Si cette propriété a lieu pour tout y ∈ Y , on dira que Y est une variété critique non dégénérée.

On détermine l’espace tangent T_{σ}Σ_{m} en chaqun de ses points. On considère le groupe de Lie Γ_{k} = ∏_{i=1}^{k} K_{i}. Soit 𝔤_{k} son algèbre de Lie. Alors, 𝔤_{k} = ⊕_{1≤i≤k} 𝔨_{i} où 𝔨_{i} est l’algèbre de Lie de K_{i}, laquelle est canoniquement isomorphe à l’algèbre des dérivations de V_{i}.

Soit σ ∈ Σ_{m} . On sait qu’il s’écrit sous la forme

σ = ϕ(e_{k})σ + ϕ(C_{o})σ = ϕ(J)σ_{0} + ϕ(C_{0})σ_{0}

où J ∈ O_{m} ⊂ J_{x}. Comme e = e_{k} + C_{0} , tout vecteur tangent X ∈ T_{σ}Σ_{m} vérifie

(1)  X = ϕ(e_{k})X + ϕ(C_{0})X.

Le vecteur ϕ(e_{k})X appartient à l’espace tangent T := T_{ϕ(W_{m})σ_{0}}(ϕ(O_{m})σ_{0}) à ϕ(O_{m})σ_{0} au point ϕ(W_{m})σ_{0} . Mais χ: O_{m} → ϕ(O_{m})σ_{0} est un difféomorphisme (proposition 2.3), et l’espace tangent T est engendré par les vecteurs du type

ϕ(∑_{i=1}^{k} D_{i}J_{i})σ_{0} oú D_{i} ∈ 𝔨_{i},

et, par conséquent, (1) implique

(2)  X = ϕ(∑_{i=1}^{k} D_{i}J_{i})σ_{0} + ϕ(C_{0})X.

Proposition 3.2. Soit m ∈ M(x). Si σ est un point critique de g_{x} appartenant à Σ_{m} alors, T_{σ}Σ_{m} = ker g′′_{x}(σ). Démonstration. Soit σ un point critique appartenant à Σ_{m} . On sait qu’il s’écrit sous la forme

σ = ϕ(e_{k})σ + ϕ(C_{0})σ = ϕ(J)σ_{0} + ϕ(C_{0})σ,

où J ∈ O_{m} ⊂ J_{x} et J = ∑_{l=1}^{k} J_{l}. Posons Ψ = g′′_{x}(σ) comme précédemment. Nous montrerons que ker Ψ = T_{σ}Σ_{m} .

L’inclusion T_{σ}Σ_{m} ⊂ ker Ψ étant évidente, montrons l’inclusion inverse. Soit X ∈ ker Ψ. On sait (proposition 3.1) que ker Ψ a une base formée

par

(i) les vecteurs r̃_{h}^{j} où 1 ≤ h ≤ δ et Jc̃_{j} = 0, (ii) les vecteurs ϕ(c̃_{i} − c̃_{j})ϕ(ṽ_{ij}^{t})σ où 1 ≤ i < j ≤ r, 1 ≤ t ≤ d et Jc̃_{i} = Jc̃_{j} = 0, et (iii) les vecteurs ϕ(c̃_{i} − c̃_{j})ϕ(ṽ_{ij}^{t})σ pour lesquels il existe l ∈ {1, ..., k} tel que

J_{l}c̃_{i} = ϵ_{i}c̃_{i}, J_{l}c̃_{j} = ϵ_{j}c̃_{j} et ϵ_{i}ϵ_{j} = −1.

Si X est du type (i) ou (ii), alors la relation (2) ci-dessus implique que X ∈ T_{σ}Σ_{m} .

Si X est du type (iii), alors il suffit de montrer qu’il existe une dérivation D de l’algèbre V (C_{l}, 1) telle que le vecteur ϕ(c̃_{i}−c̃_{j})ϕ(ṽ_{ij}^{s})σ soit égal à ϕ(DJ_{l})σ_{0} . En supposant que ϵ_{i} = 1 et ϵ_{j} = −1, on a

ϕ(c̃_{i} −c̃_{j})ϕ(ṽ_{ij}^{s})σ = ϕ(c̃_{i} −c̃_{j})ϕ(ṽ_{ij}^{s})ϕ(c̃_{i} −c̃_{j})σ_{0} = ϕ(P (c̃_{i} −c̃_{j})ṽ_{ij}^{s})σ_{0} = −ϕ(ṽ_{ij}^{s})σ_{0}.

Soit D la dérivation de l’algèbre V (C, 1) définie par D = [L(c̃_{i} − c̃_{j}), L(ṽ_{ij}^{s})].

Comme DJ_{l} = −ṽ_{ij}^{s}, on a ϕ(c̃_{i} − c̃_{j})ϕ(ṽ_{ij}^{s})σ = ϕ(DJ_{l})σ_{0} . Comme dim ker Ψ a une base formée de vecteurs de T_{σ}Σ_{m} , on a le résultat.

Remarque. D’après la proposition 3.2. une variété critique Σ_{m} est dégénérée si et seulement si, rg g′′_{x}(σ) = 0, et d’après la proposition 3.1, il faut et il suffit que Ξ_{1}(ϵ, x) = Ø et δ = 0. L’ensemble Ξ_{1}(ϵ, x) est vide si rg V = 2, x = s(c_{1} + c_{2}) avec s > 0 et ϵ = (ϵ_{1}, ϵ_{2}) où ϵ_{1}ϵ_{2} = −1. Une algèbre de Jordan euclidienne et simple de rang 2 est isomorphe à l’algèbre associée au cône de Lorentz ([6]). Une telle algèbre est de la forme V = ℝ × W où W est un espace euclidien de dimension q. En utilisant le théorème 3 de [2] on détermine les représentations régulières des algèbres de Jordan de rang 2 dont l’espace de la représentation E est tel que δ = 0. Elles sont données par la liste (i) q = 4 et dim E = 8, (ii) q = 8 et dim E = 16, (iii) q = 2 et dim E = 4. Mais dim V_{12} = q − 1 et δ = 0 et par conséquent dim Σ = q − 1. Par conséquent toutes les variétés critiques de la fonction de phase g_{x} sont non dégénérées sauf celles qui apparaissent dans les cas cités plus haut.

Notons, pour m ∈ M(x), l’espace normal N(σ) = T_{σ}Σ/T_{σ}Σ_{m} et

n_{m} = dimN(σ) = dimT_{σ}Σ − dimT_{σ}Σ_{m}.

Théorème 3.3. Soit x ∈ C(Δ) tel que pour tout m ∈ M(x) la variété critique Σ_{m} soit non dégénérée. Alors, la fonction de Bessel

J(τ^{2}x^{2}) = ∫_{Σ} exp(−iτg_{x}(σ)) dσ

admet quand τ → ∞ le développement asymptotique

J(τ^{2}x^{2}) ∼ ∑_{m∈M(x)} exp(iτg_{x}(σ) + \frac{1}{4}iπ sgn g′′_{x}(σ)) ∑_{l=0}^{∞} τ^{− \frac{1}{2} n_{m}−l}p_{ml}

Le coefficient de plus haut degré p_{m0} est donné par

p_{m0} = |det(g′′_{x}(σ) |_{N(σ)})|^{− \frac{1}{2}} ∫_{Σ_{m}} dσ_{m}

où dσ_{m} désigne la mesure riemannienne induite sur la sous-variété Σ_{m} de Σ. Démonstration. Soient A_{1}, …, A_{h} les composantes connexes de Σ_{m} . Pour j ∈ {1, …, h}, on note

U_{j} := (Σ \ Σ_{m}) ∪ A_{j},

qui est un voisinage ouvert de A_{j} dans Σ tel que U_{j} ∩Σ_{m} = A_{j}. Les U_{j} forment un recouvrement ouvert de Σ. On considère une partition de l’unité (a_{j})_{1≤j≤h} subordonnée à (U_{j}) et on applique le théorème de la phase stationnaire ([1], [3]) à la variété U_{j}, avec fonction de phase g_{x} |_{U_{j}}, et variété critique A_{j}. Ensuite, on prend la somme des h développements asymptotiques ainsi obtenus et on obtient le résultat.

Remarque. La signification précise du développement asymptotique est que le reste d’ordre q, défini comme

R_{q}(τ) := J(τ^{2}x^{2}) − ∑_{m∈M(x)} exp(iτg_{x}(σ) + \frac{1}{4}iπ sgn g′′_{x}(σ)) ∑_{l=0}^{∞} τ^{− \frac{1}{2} n_{m}−l}p_{ml},

vérifie

|R_{q}(τ)| = O(τ^{− \frac{1}{2} n_{m}−q−1}).

Proposition 3.4. Soient ϕ: V → H(E) la représentation d’une algèbre de Jordan de rang deux où E est un espace euclidien tel que δ =0. Alors il existe x ∈ \overline{Ω} tel que la fonction de Bessel J(τ^{2}x^{2}) tend vers une constante c ≠ 0 quand τ → ∞.

Démonstration. On sait que les composantes connexes (Σ_{j})_{1≤j≤p} de Σ sont ouvertes et fermées. Soit x = s(c_{1} + c_{2}) où s > 0. Soit ϵ = (ϵ_{1}, ϵ_{2}) avec ϵ_{1}ϵ_{2} = −1. On considère la sous-variété Σ_{x,ϵ} de la variété critique Σ_{x}. D’après la proposition 2.3, Σ_{x,ϵ} = ϕ(O_{ϵ})σ_{0} et par conséquent est une sous-variété compacte et connexe de Σ. Il existe alors j ∈ {1, …, p} tel que Σ_{x,ϵ} ⊂ Σ_{j}, en particulier Σ_{x,ϵ} est un fermé de Σ_{j}. L’espace tangent T_{σ}Σ_{x,ϵ} est égal à ker Ψ (proposition 3.2.), dont la dimension est égale à q − 1, d’où T_{σ}Σ_{x,ϵ} = T_{σ}Σ_{j} par conséquent Σ_{x,ϵ} est un ouvert de Σ_{j} d’où Σ_{x,ϵ} = Σ_{j}. Pour σ ∈ Σ_{x,ϵ} on a g_{x}(σ) = ⟨ϕ(ϵ_{1}c_{1} + ϵ_{2}c_{2})σ_{0}, σ_{0}⟩_{E} = 0 par conséquent la fonction de Bessel s’écrit

J(τ^{2}x^{2}) = ∫_{Σ_{j}} dσ_{j} + ∑_{1≤l≠j≤p} ∫_{Σ_{l}} exp(−iτg_{x}(σ)) dσ_{l},

et d’après ce qui précède J(τ^{2}x^{2}) → c quand τ → ∞ où c = ∫_{Σ_{j}} dσ_{j}.

Remarque. Si S est une sous-variété analytique compacte d’un espace euclidien E dont aucune composante connexe n’est contenue dans un hyperplan affine de E, alors la transformée de Fourier de la mesure induite par la structure euclidienne sur S tend vers 0 à l’infini ([10], Theorem 2). D’après le théorème 3.3. et la proposition 3.4, les seuls cas où une composante connexe de la variété de Stiefel est contenue dans un hyperplan affine sont ceux qui sont cités dans la remarque qui suit la proposition 3.2.

4. Estimations uniformes pour la fonction de Bessel

Soit B la fonction K -invariante définie sur \overline{Ω} par

B(x) = ( ∑_{ϵ∈\{1,−1\}^{r}} ∏_{γ∈Ξ_{1}}(1 + | γ(ϵx) |)^{− \frac{d}{2}} ) ∏_{γ∈Ξ_{2}} (1+ | γ(x) |)^{− \frac{δ}{2}} .

Théorème 4.1. Il existe une constante positive C telle que pour tout x ∈ \overline{Ω},

|J(x^{2})| ≤ CB(x).

Remarque. Les estimations ainsi obtenues sont précises, car, pour tout x ∈ \overline{Ω} et tout ϵ ∈ {−1, 1}^{r} fixé, le développement asymptotique de J(τ^{2}x^{2}) quand τ → ∞ obtenu au théorème 3.3 est équivalent, modulo des facteurs constants, au terme correspondant de B(x).

La démonstration du théorème 4.1 occupe tout ce paragraphe. On commence par une réduction du problème. La K -invariance de la fonction J(x^{2})

(proposition 1.6.), nous permet de supposer que x appartient à une chambre de Weyl C(Δ) de V , qu’on fixe.

Nous allons démontrer le théorème en utilisant les résultats de [5] sur les intégrales oscillantes dépendant d’un paramètre. Plus précisement on appliquera à la fonction de Bessel la proposition suivante qui est une conséquence directe de ([5], Proposition 12.2., Corollary 12.3.).

Proposition 4.2. Soit X une variété compacte de classe C^{∞} de dimension d. On suppose qu’elle est munie d’une densité positive dx de classe C^{∞}. Soit Θ une variété différentielle. Pour chaque θ ∈ Θ on considère la fonction vectorielle de classe C^{∞}

g_{θ} = (g_{1,θ}, …, g_{s,θ}): X → ℝ^{s}

Pour τ = (τ_{1}, …, τ_{s}) ∈ ℝ^{s}, on note τ g_{θ}(x) = ∑_{j=1}^{s} τ_{j}g_{j,θ}(x) et on considère l’intégrale oscillante

I(g_{θ}, τ) := ∫_{X} exp(−iτ g_{θ}(x)) dx.

On considére la partie Θ_{0} compacte de Θ. On fait les hypothèses suivantes:

1. Il existe une filtration

X = X_{0} ⊃ X_{1} ⊃ … ⊃ X_{s} ⊃ X_{s+1} = Ø

de X par des sous-variétés compactes, chacune munie d’une densité positive, et un ensemble fini P d’indices satisfaisant les conditions:

(i) Pour tout p ∈ P et tout i ∈ {1, …, s}, X_{i,p} est une sous-variété compacte de X de dimension pure d_{i,p}, munie d’une densité positive de classe C^{∞}. (ii) Pour tout i ∈ {1, …, s}, X_{i} est une réunion disjointe des X_{i,p}:

X_{i} = ∪_{p∈P (i)} X_{i,p}

où P (i) est une partie de P dépendant de i. (iii) Pour tout p ∈ P fixé, on a la filtration

X = X_{0,p} ⊃ X_{1,p} ⊃ … ⊃ X_{s,p} ⊃ X_{s+1,p} = Ø

2. Pour tout i ∈ {0, …, s − 1}, X_{i+1} est la variété critique non dégénérée de la fonction g_{i+1,θ} |_{X_{i}}.

3. Pour tout i ∈ {0, …, s − 1}, on considère le fibré tangent TX_{i+1} comme un sous-fibré vectoriel de (TX_{i}) |_{X_{i+1}} . On suppose qu’il existe un sous-fibré N_{i+1} de (TX_{i}) |_{X_{i+1}} tel que

(a) (TX_{i})|_{X_{i+1}} = TX_{i+1} ⊕ N_{i+1} et

(b) pour tout j > i + 1, dg_{j,θ} |_{N_{i+1}}= 0.

On fixe une fonction de classe C^{∞} croissante l: [0, +∞[→ ℝ telle que

l(τ) = \{ \begin{matrix}1 & si τ ≤ 1 \\ τ & si τ ≥ 2 \end{matrix}

Alors il existe une constante C > 0 et un réel η ≥ 1 suffisament grand tel que pour tout θ ∈ Θ_{0} et tout τ qui vérifie τ_{1} ≥ ητ_{2} ≥ … ≥ η^{s−1}τ_{s} ≥ 0, on ait

|I(g_{θ}, τ)| ≤ C ∑_{p∈P} ∏_{j=1}^{s} l(τ_{j})^{− \frac{d_{j,p}−d_{j+1,p}}{2}} .

Nous allons maintenant montrer que la fonction de Bessel J(x^{2}) est une intégrale oscillante dépendant d’un paramètre qui appartient à la chambre de Weyl ouverte C(Δ)^{∘}. Pour cela à chaque partition ordonnée de Δ on associera une partie conique de C(Δ). Plus précisement soit Π l’ensemble des partitions ordonnées de l’ensemble Δ des racines de V . Un élément de Π aura la forme π = (S_{1}, …, S_{s}) où chaque S_{l} est une partie non vide de Δ et

Δ = ∪_{1≤l≤s} S_{l}.

Pour x ∈ C(Δ) et π = (S_{1}, …, S_{s}) ∈ Π, et pour chaque l ∈ {1, …, s}, on définit la S_{l} -composante de x comme étant

S_{l}[x] = ∑_{α∈S_{l}} α(x)α^{∗},

et, si τ = (τ_{1}, …, τ_{s}) ∈ ℝ^{s}, on pose

(τ x)_{π} := ∑_{l=1}^{s} τ_{l}S_{l}[x].

Pour μ ≥ 1, on considère la partie compacte P (μ) de la chambre de Weyl ouverte C(Δ)^{∘}

P (μ) = \{x ∈ C(Δ)^{∘} | pour tout α ∈ Δ, \frac{1}{μ} ≤ α(x) ≤ 1\}.

Pour tout η ≥ 1, on définit l’ensemble

P (π, μ, η) = {x = (τ x′)_{π} | x′ ∈ P (μ) et τ_{1} ≥ ητ_{2} ≥ … ≥ η^{s−1}τ_{s} ≥ 0}.

D’après ([5], Lemma 11.5 et la relation 11.24, p.376) la chambre de Weyl est une réunion finie d’ensembles de la forme P (π, μ, η). Par conséquent pour un élément x de C(Δ) on peut supposer x ∈ P (π, μ, η). La fonction de phase g_{x}(σ) de J(x^{2}) s’écrit alors

g_{x}(σ) = ⟨σ, ϕ(x)σ_{0}⟩_{E} = ∑_{j=1}^{s} τ_{j}g_{j,x′}(σ),

où

g_{j,x′}(σ) = ⟨σ, ϕ(S_{j}[x′])σ_{0}⟩_{E}.

La fonction J(x^{2}) avec les notations de la proposition 4.2 s’écrit

J(x^{2}) = ∫_{Σ} exp(−iτ g(σ)) dσ = I(g_{x′}, τ)

où g_{x′} est la fonction vectorielle g_{x′} = (g_{1,x′}, …, g_{s,x′}): Σ → ℝ^{s} c’est-à-dire l’intégrale oscillante associée à la fonction g_{x′}.

Nous allons définir une filtration de la variété de Stiefel Σ qui vérifie les hypothèses de la proposition 4.2. Compte tenu de l’hypothèse 1. (ii) de la proposition 4.2, et les fonctions de la phase g_{j,x′} pour j ∈ {1, …, s}, les éléments de la filtration seront les sous-variétés critiques décrites à la proposition 2.3, qui dépendent de la donnée d’une partition ordonnée π ∈ Π. Pour les définir nous aurons besoin d’introduire quelques notations.

Soit π = (S_{1}, …, S_{s}) ∈ Π. Pour chaque j ∈ {1, …, s}, on note

S̃_{j} := S_{1} ∪ … ∪ S_{j} et k(j) := Card S̃_{j}

ce qui implique évidemment que k(s) = CardΔ = r.

On considère l’ensemble des idempotents α^{∗} ∈ A tels que α ∈ S̃_{j}. On ordonne ces éléments selon l’ordre croissant de leur rang:

{α^{∗} ∈ A | α ∈ S̃_{j}} = {α_{1,j}^{∗}, …, α_{k(j),j}^{∗}} r_{1,j} < … < r_{k(j),j} où r_{i,j} := rg α_{i,j}^{∗}.

Ensuite on pose, pour 1 ≤ i ≤ k, C_{i,j} := α_{i,j}^{∗} −α_{i−1,j}^{∗} en convenant que α_{0,j}^{∗} = 0 (et donc r_{0,j} = 0). Les idempotents C_{i,j} s’expriment aussi en fonction du s.c.i.p.o. (c_{l}) qu’on a fixé: C_{i,j} = ∑_{l=r_{i−1,j}+1}^{r_{i,j}} c_{l}. Notons e_{j} l’idempotent

e_{j} = ∑_{i=1}^{k(j)} C_{i,j}.

Soit alors m_{j} = (m_{1,j}, …, m_{k(j),j}) ∈ M_{j} := ∏_{i=1}^{k(j)}{0, …, r_{i,j} − r_{i−1,j}} un k(j)– uplet d’entiers vérifiant les inégalités 0 ≤ m_{i,j} ≤ r_{i,j} − r_{i−1,j}. On lui associe l’élément involutif de l’algèbre V (e_{j}, 1)

W_{j,m_{j}} := ∑_{i=1}^{k(j)} W_{i,j,m_{j}},

où

W_{i,j,m_{j}} := ∑_{l=r_{i−1,j}+1}^{r_{i−1,j}+m_{i,j}} c_{l} − ∑_{l=r_{i−1,j}+m_{i,j}+1}^{r_{i,j}} c_{l}

est un élément involutif de V (C_{i,j}, 1).

Soit K_{i,j} la composante connexe de l’identité du groupe Aut(V (C_{i,j}, 1)) des automorphismes de l’algèbre de Jordan V (C_{i,j}, 1). Soit O_{i,j,m_{j}} l’orbite de W_{j,m_{j}} sous l’action de K_{i,j}. Un élément involutif J_{i,j} de O_{i,j,m_{j}} sera de la forme

J_{i,j} = ∑_{l=r_{i−1,j}+1}^{r_{i,j}} ϵ_{l}c′_{l},

où ϵ_{l} ∈ {−1, 1}, m_{j} est le nombre d’indices l pour lesquels ϵ_{l} = 1 et (c′_{l}) est un s.c.i.p.o. de V (C_{i,j}, 1).

Un élément involutif J de V (e_{j}, 1) sera dit compatible à π s’il a la forme J_{j} = ∑_{i=1}^{k(j)} J_{i,j} où J_{i} est un élément involutif de V (C_{i,j}, 1). On note J_{j}(π) l’ensemble de ces éléments J. Le groupe produit Γ_{j} := ∏_{i=1}^{k(j)} K_{i,j} opère naturellement sur J_{j}(π). Soit O_{j,m_{j}} l’orbite de W_{j,m} sous l’action de Γ_{j}. Les éléments de O_{j,m_{j}} sont de la forme J_{j} = ∑_{i=1}^{k(j)} J_{i,j} où chaque J_{i,j} appartient à O_{i,j,m_{j}}.

On fixe maintenant une partition π = (S_{1}, …, S_{s}) ∈ Π. Pour chaque j ∈ {1, …, s}, pour chaque m_{j} ∈ M_{j}, on définit la sous-variété Σ_{j,m_{j}} de Σ par

Σ_{j,m_{j}} := {σ ∈ Σ | ϕ(∑_{i=1}^{k(j)} C_{i,j})σ ∈ ϕ(O_{j,m_{j}})σ_{0}},

en convenant que Σ_{0,m_{0}} = Σ et Σ_{j,m_{j}} = Ø pour j > s. Soit maintenant ϵ = (ϵ_{1}, …, ϵ_{r}) ∈ {−1, 1}^{r}. On lui associe l’élément involutif J_{ϵ} = ∑_{l=1}^{r} ϵ_{l}c_{l} ce qui nous permet de définir ϵC_{i,j} = J_{ϵ}C_{i,j}.

Soit alors m_{i,j}(ϵ) la multiplicité de la valeur propre 1 de ϵC_{i,j}. C’est aussi le nombre d’indices l tels que r_{i−1,j} < j ≤ r_{i,j} et ϵ_{l} = 1. Il nous permet de poser

m_{j}(ϵ) := (m_{1,j}(ϵ), …, m_{k(j),j}(ϵ)) ∈ M_{j} et Σ_{j,ϵ} := Σ_{j,m_{j}(ϵ)}.

Proposition 4.3. Soient π = (S_{1}, …, S_{s}) ∈ Π et ϵ = (ϵ_{1}, …, ϵ_{r}) ∈ {−1, 1}^{r}. Pour chaque j tel que 1 ≤ j ≤ s, la sous-variété Σ_{j,ϵ} de Σ est compacte et de dimension pure. On a les inclusions Σ_{j,ϵ} ⊂ Σ_{j−1,ϵ}.

Démonstration. D’après la proposition 2.3, Σ_{j,ϵ} est une sous-variété compacte de Σ. La proposition 3.2 montre qu’elle est de dimension pure. Soit σ ∈ Σ_{j,ϵ}. Il faut montrer que

(∗)  ϕ( ∑_{i=1}^{k(j−1)} C_{i,j−1})σ ∈ ϕ(O_{j−1,m_{j−1}(ϵ)})σ_{0}.

Soient r_{j} = min rg β^{∗}, et R_{j} = max rg β^{∗}, où β ∈ S̃_{j}. Dans un premier temps, on suppose que S_{j} ne contient qu’une racine, soit α. Ainsi S̃_{j} = S̃_{j−1} ∪ {α}. On distingue trois cas: Premier cas: rg α^{∗} < r_{j}. Soit β l’unique élément de S̃_{j} tel que rg β^{∗} = r_{j}. L’hypothèse σ ∈ Σ_{j,ϵ} implique alors

ϕ(∑_{i=1}^{k(j)} C_{i,j})σ ∈ ϕ(O_{j,m_{j}}(ϵ))σ_{0}.

Compte tenu de l’hypothèse rg α^{∗} < r_{j}, on a α^{∗} = C_{l,j} et β^{∗}−α^{∗} = C_{l+1,j}. Il est clair par ailleurs que C_{l,j} + C_{l+1,j} = β^{∗} = C_{l,j−1} . Par définition même des m_{i,j}, la multiplicité de la valeur propre 1 de l’involutif W_{l,j,m_{j}(ϵ)} est m_{l,j} + m_{l+1,j} = m_{l,j−1} . Donc W_{l,j,m_{j}(ϵ)} + W_{l+1,j,m_{j}(ϵ)} ∈ O_{l,j,m_{j}(ϵ)} . Comme K_{l,j} × K_{l+1,j} est un sous-groupe de K_{l,j−1} , et comme, par hypothèse, S̃_{j} = S̃_{j−1} ∪ {a}, on a (∗).

Second cas: r_{j} < rgα^{∗} < R_{j}. Soient β et β_{1} les deux racines appartenant à S̃_{j−1} dont les rangs sont consécutifs et telles que β^{∗} < α^{∗} < β_{1}^{∗}. L’hypothèse σ ∈ Σ_{j,ϵ} implique que σ s’écrit sous la forme σ = ϕ(J)σ_{0} + ϕ(e − e_{j})σ pour un élément involutif J de V (e_{j}, 1) appartenant à O_{j,m_{j}(ϵ)} . Soit l l’indice (1 ≤ l ≤ k(j)) tel que C_{l,j−1} = β_{1}^{∗} − β^{∗}. L’idempotent C_{l,j−1} se décompose en C_{l,j−1} = C_{l,j} + C_{l+1,j} où C_{l,j} = α^{∗} − β^{∗} et C_{l+1,j} = β_{1}^{∗} − α^{∗} la multiplicité de la valeur propre 1 de l’élément involutif W_{l,j,m_{j}(ϵ)} est m_{l,j−1} = m_{l,j} + m_{l+1,j}. Donc W_{l,j} + W_{l+1,j} ∈ O_{l,j,m_{j}(ϵ)} . Il est clair que K_{l,j} × K_{l+1,j} est un sous-groupe de K_{l,j−1} . Par conséquent σ vérifie (∗). Troisième cas: rg α^{∗} > R_{j} L’hypothèse σ ∈ Σ_{j,m} implique que σ a la forme σ = ϕ(J)σ_{0}+ϕ(e−e_{j})σ pour un élément involutif J ∈ O_{j,m} . Comme les algèbres V (C_{i,j}, 1) sont orthogonales

( ∑_{i=1}^{k(j−1)} C_{i,j−1})J = J′ ∈ O_{j−1,m_{j−1}(ϵ)} et ( ∑_{i=1}^{k(j−1)} C_{i,j−1})(e − e_{j}) = 0

et par conséquent

ϕ( ∑_{i=1}^{k(j−1)} C_{i,j−1})σ = ϕ(J′)σ_{0}

ce qui montre (∗) dans le troisième cas aussi.

Si S_{j} contient plusieurs racines, on raisonne de proche en proche en combinant les trois cas précédents, et on obtient le résultat.

Pour 1 ≤ j ≤ s, on considère la sous-variété réunion disjointe des Σ_{j,ϵ}

Σ_{j} := ∪_{ϵ∈{−1,1}^{r}}Σ_{j,ϵ}

de la variété de Stiefel, ce qui d’après la proposition 4.3, nous donne bien une filtration

Σ = Σ_{0} ⊃ Σ_{1} ⊃ … ⊃ Σ_{s} ⊃ Σ_{s+1} = Ø.

Proposition 4.4. Pour 0 ≤ j ≤ s, l’ensemble critique de la restriction de la fonction g_{j+1,x′} à Σ_{j} est la sous-variété Σ_{j+1} .

Démonstration. Soit Σ′ = {σ ∈ Σ | g′_{j+1,x′}(σ) = 0} l’ensemble critique de la fonction g_{j+1,x′}. Il faut alors montrer que Σ′ ∩ Σ_{j} = Σ_{j+1} . On suppose que S_{j+1} ne contient qu’une racine, qu’on note α. Si σ ∈ Σ′ ∩ Σ_{j}, d’après le lemme 2.2, et la définition de Σ_{j}, σ vérifie les deux conditions

σ = ϕ(J)σ_{0} + ϕ(e − α^{∗})σ avec J^{2} = α^{∗}σ = ϕ(J_{i})σ_{0} + ϕ(e − e_{j})σ.

Avec les notations de la proposition 4.3 on distingue trois cas: Premier cas: rg α^{∗} < r_{j}. Alors on a ϕ(C_{1,j})σ = ϕ(J_{1,j})σ_{0} avec J_{1,j}^{2} = C_{1,j} et

ϕ(C_{1,j})σ = ϕ(α^{∗})σ + ϕ(C_{1} − α^{∗})σ = ϕ(J)σ_{0} + ϕ(C_{1} − α^{∗})σ

il vient donc

ϕ(J_{1,j} − J)σ_{0} = ϕ(C_{1,j} − α^{∗})σ.

On calcule Q(ϕ(J_{1,j} −J)σ_{0}) = Q(ϕ(C_{1,j} −α^{∗})σ) ce qui implique que J_{1,j} −J est un élément involutif de l’algèbre V (C_{1,j} − α^{∗}, 1), et par conséquent σ ∈ Σ_{j+1}. Second cas: r_{j} < rg α^{∗} < R_{j}. Soient β et β_{1} les deux racines appartenant à S̃_{j} dont les rangs sont consécutifs et telles que rg β^{∗} < rg α^{∗} < rg β_{1}^{∗}. Soit l l’indice (1 ≤ l ≤ k(j)) tel que C_{l,j} = β_{1}^{∗} − β^{∗}. On a alors ϕ(C_{l,j})σ = ϕ(J_{l,j})σ_{0} avec J_{l,j}^{2} = C_{l,j} et ϕ(α^{∗})σ = ϕ(J)σ_{0} = ϕ(β^{∗})σ_{0} + ϕ(α^{∗} − β^{∗})σ et comme ϕ(β^{∗})σ = ϕ(J′)σ_{0} on montre comme dans le premier cas que J′′ = J − J′ est un élément involutif de l’algèbre V (α^{∗} − β^{∗}, 1). Mais ϕ(β_{1}^{∗} − β^{∗})σ = ϕ(β_{1}^{∗} − α^{∗})σ + ϕ(α^{∗} − β^{∗})σ ce qui implique que ϕ(β_{1}^{∗} − α^{∗})σ = ϕ(J_{l,j} − J′′)σ_{0} donc J_{l,j}−J′′ est un élément involutif de l’algèbre V (β_{1}^{∗}−α^{∗}, 1) et par conséquent σ ∈ Σ_{j+1} . Troisième cas: rg α^{∗} > R_{j}. Alors ϕ(α^{∗})σϕ(J)σ_{0} = ϕ(α^{∗} − e_{j})σ + ϕ(e_{j})σ, donc ϕ(α^{∗} −e_{j})σ = ϕ(J −J_{j})σ_{0} , ce qui implique que J −J_{j} est un élément involutif de l’algèbre V (α^{∗} − e_{j}, 1) et par conséquent σ ∈ Σ_{j+1} . Si S_{j+1} contient plusieurs racines, on raisonne de proche en proche en combinant les trois cas précédents, d’où l’inclusion Σ′ ∩ Σ_{j} ⊂ Σ_{j+1}.

Réciproquement soit σ ∈ Σ_{j+1} . Compte tenu de la proposition 4.3 il sufffit de montrer que σ ∈ Σ′. On peut supposer que σ ∈ Σ_{j+1,ϵ}. Soit α ∈ S_{j+1} la racine telle que rg α^{∗} = max rg β^{∗} où β ∈ S_{j+1} . Il suffit de montrer qu’il existe y ∈ V (α^{∗}, 1) tel que ϕ(S_{j+1}[x′])σ_{0} = ϕ(y)σ. Mais, comme σ ∈ Σ_{j+1,ϵ}, il existe un élément involutif J_{j+1} ∈ O_{j+1,m_{j+1}} tel que l’on ait σ = ϕ(J_{j+1})σ_{0} + ϕ(e − e_{j+1})σ. Cet élément vérifie J_{j+1} = ∑_{i=1}^{k(j+1)} J_{i,j+1} avec J_{i,j+1}^{2} = C_{i,j+1} et J_{i,j+1}J_{i′,j+1} = 0 pour i ≠ i′. Soit S_{j+1} = {α_{1,j+1}, …, α_{p,j+1}} avec, pour tout i ∈ {1, …, p − 1}, rg α_{i,j+1}^{∗} < rg α_{i+1,j+1}^{∗}. Alors

S_{j+1}[x′] = ∑_{i=1}^{p} α_{i,j+1}(x′)α_{i,j+1}^{∗} = ∑_{l=1}^{p} β_{l,j+1}(x′)(α_{l,j+1}^{∗} − α_{l−1,j+1}^{∗})

où β_{l,j+1} := ∑_{i=j}^{p} α_{i,j+1} .

On considère les éléments J′_{l} de V (α^{∗}, 1) définis par J′_{l} := α_{l,j+1}^{∗}J_{j+1} pour 1 ≤ l ≤ p. Il est clair alors que J_{l}^{′2} = α_{l,j+1}^{∗}. En effet, il existe un indice s ∈ {1, …, k(j + 1)} tel que α_{l,j+1}^{∗} = ∑_{i=1}^{s} C_{i,j+1} , donc

J′_{l} = α_{l,j+1}^{∗}J_{j+1} = (∑_{i=1}^{s} C_{i,j+1})( ∑_{i=1}^{k(j+1)} J_{i,j+1}) = ∑_{i=1}^{s} J_{i,j+1} = J′_{l},

et

J_{l}^{′2} = ∑_{i=1}^{s} J_{i,j+1}^{2} = ∑_{i=1}^{s} C_{i,j+1} = α_{l,j+1}^{∗}.

Soit y l’élément de V (α^{∗}, 1) défini par y = ∑_{l=1}^{p} β_{l,j+1}(x′)J_{l,j+1} . On a donc

\begin{matrix}ϕ(y)σ = ϕ(y)ϕ(J_{j+1})σ_{0} = & ϕ(yJ_{j+1})σ_{0} \\ = & ϕ(∑_{l=1}^{p} β_{l,j+1}(x′)J_{l,j+1}^{2})σ_{0} = ϕ(S_{j+1}[x′])σ_{0}, \end{matrix}

et par conséquent σ ∈ Σ′ ∩ Σ_{j}, d’où le résultat.

Soient G_{j,x′} les fonctions définies sur la variété de Stiefel par

G_{j,x′}(σ) = ⟨ϕ(S̃_{j}[x′])σ, σ_{0}⟩_{E}.

pour 0 ≤ j ≤ s. D’après la proposition 2.3, l’ensemble critique de G_{j,x′} est Σ_{j}.

Proposition 4.5. Pour tout j ∈ {0, …, s − 1}, le hessien g′′_{j+1,x′}(σ) de la restriction de la fonction g_{j+1,x′} à Σ_{j,ϵ} est non-dégénéré sur l’espace normal

N_{j+1,ϵ} := T_{σ}Σ_{j,ϵ}/T_{σ}Σ_{j+1,ϵ}.

Démonstration. Pour chaque j ∈ {0, …, s − 1}, on considère l’élément

y_{j} = ∑_{i=1}^{k(j)} β_{i,j}(S̃_{j}[x′])J_{i,j}

de sorte que, pour X ∈ T_{σ}Σ,

(1)  G′′_{j,x′}(σ)(X, X) = −⟨ϕ(y_{j})X, X⟩_{E}.

On utilisera aussi cette relation avec j + 1 à la place de j. Il s’ensuit que

(2)  G′′_{j,x′}(σ)(X, X) − G′′_{j−1,x′}(σ)(X, X) = ⟨ϕ(y_{j} − y_{j+1})X, X⟩_{E}

et, par polarisation,

(3)  G′′_{j,x′}(σ)(X, Y) − G′′_{j+1,x′}(σ)(X, Y) = ⟨ϕ(y_{j} − y_{j+1})X, Y ⟩_{E}.

On considère maintenant la restriction de la forme bilinéaire définie par (3) à l’espace tangent T_{σ}Σ_{j,ϵ}. D’après la proposition 3.2, ker G′′_{j,x′}(σ) = T_{σ}Σ_{j,ϵ}, et par conséquent (3) implique

(4)  G′′_{j+1,x′}(σ)(X, Y) = ⟨ϕ(y_{j} − y_{j+1})X, Y ⟩_{E}.

pour X, Y ∈ T_{σ}Σ_{j,ϵ}. Et comme y_{j} et y_{j+1} sont tels que ϕ(y_{j})σ = ϕ(S̃_{j}[x′])σ_{0} et ϕ(y_{j+1})σ = ϕ(S̃_{j+1}[x′])σ_{0} , on a

(5)  ϕ(y_{j} − y_{j+1})σ = ϕ(S̃_{j+1}[x′])σ_{0}

ce qui montre que σ est un point critique de la restriction de g_{j+1,x′} à Σ_{j,ϵ} (proposition 4.4), et par conséquent on a l’égalité

(6)  G′′_{j+1,x′}(σ)(X, Y) = g′′_{j+1,x′}(σ)(X, Y) X, Y ∈ T_{σ}Σ_{j,ϵ}.

Donc pour montrer que g′′_{j+1,x′}(σ) est une forme bilinéaire non dégénérée sur l’espace normal N_{j+1,ϵ} := T_{σ}Σ_{j,ϵ}/T_{σ}Σ_{j+1,ϵ} , il suffit de montrer que G′′_{j+1,x′}(σ) est non dégénérée sur ce même espace.

On considère l’élément involutif J_{j,ϵ} = ∑_{i=1}^{k(j)} J_{i,j} avec la convention J_{0,ϵ} = 0. D’après la proposition 3.1, une base standard B de T_{σ}Σ est orthonormée pour le produit scalaire de E et orthogonale pour G′′_{j+1,x′}(σ). Une base de N_{j+1,ϵ} est formée par les vecteurs des trois types suivants de la base B:

(i) les vecteurs r̃_{h}^{i} où 1 ≤ h ≤ δ, c̃_{i}J_{j,ϵ} = 0 et c̃_{i}J_{j+1,ϵ} ≠ 0, (ii) les vecteurs ϕ(c̃_{i} − c̃_{l})ϕ(ṽ_{il}^{s})σ où 1 ≤ i < l ≤ r, 1 ≤ s ≤ d et c̃_{i}J_{j,ϵ} = c̃_{l}J_{j,ϵ} = 0 = c̃_{l}J_{j+1,ϵ} = 0, et c̃_{i}J_{j+1,ϵ} ≠ 0 et (iii) les vecteurs les ϕ(c̃_{i} − c̃_{j})ϕ(ṽ_{ij}^{s})σ pour lesquels il existe:

(a) un indice l ∈ {1, …, k(j)} tel que c̃_{i}J_{l,j} = ϵ_{i}c̃_{i}, c̃_{i}J_{l,j} = ϵ_{j}c̃_{j}, ϵ_{i}ϵ_{j} = −1,

(b) deux indices p, q ∈ {1, …, k(j + 1)} tels que

c̃_{i}J_{p,j+1} = ϵ_{i}c̃_{i} et c̃_{j}J_{q,j+1} = ϵ_{j}c̃_{j}.

(les vecteurs (i) et (ii) apparaissent si et seulement si rg e_{j} < rg e_{j+1} et δ ≠ 0). La matrice de G′′_{j+1,x′}(σ) par rapport à cette base étant diagonale, il suffit d’en calculer les éléments diagonaux. Les calculs sont analogues à ceux faits dans la preuve de la proposition 3.1,

(7) \begin{matrix}G′′_{j+1,x′}(σ)(r̃_{h}^{i}, r̃_{h}^{i}) = −⟨ϕ(y_{j+1}r̃_{h}^{i}, r̃_{h}^{i}⟩_{E} = & − ⟨ϕ(y_{j+1}), Q(r̃_{h}^{i})⟩_{E} \\ = & − ⟨y_{j+1}, c̃_{i}⟩_{V} = ϵ_{i}β_{i}(S̃_{j+1}[x′]) \end{matrix}

qui est non nul car c̃_{i}J_{j+1,ϵ} ≠ 0.

Pour les vecteurs du type (ii), on a

(8)  \begin{matrix}G′′_{j+1,x′}(σ)(ϕ(c̃_{i} − c̃_{l})ϕ(ṽ_{il}^{s})σ, ϕ(c̃_{i} − c̃_{l})ϕ(ṽ_{il}^{s})σ) \\ = & − ⟨y_{j+1}, Q(ϕ(c̃_{i} − c̃_{l})ϕ(ṽ_{il}^{s})σ)⟩_{V} \\ = & − \frac{1}{2}⟨y_{j+1}, c̃_{i} + c̃_{l}⟩_{V} = −\frac{1}{2}ϵ_{i}β_{i,j+1}(S̃_{j+1}[x′]) \end{matrix}

qui est non nul car c̃_{i}J_{j+1,ϵ} ≠ 0.

Pour les vecteurs du type (iii), on a

(9)  \begin{matrix}G′′_{j+1,x′}(σ)(ϕ(c̃_{i} − c̃_{l})ϕ(ṽ_{il}^{s})σ, ϕ(c̃_{i} − c̃_{l})ϕ(ṽ_{il}^{s})σ) \\ = & \frac{1}{2}ϵ_{i}β_{q,j+1}(S̃_{j+1}[x′]) − \frac{1}{2}ϵ_{l}β_{p,j+1}(S̃_{j+1}[x′]) \end{matrix}

qui est non nul car β_{q,j+1}(S̃_{j+1}[x′]) ≠ β_{p,j+1}(S̃_{j+1}[x′]).

Donc G′′_{j+1,x′}(σ) est non dégénérée, puisque sa matrice dans la base B est diagonale avec tous ses éléments diagonaux non nuls.

Remarque. Les relations (7), (8) et (9) ci-dessus nous permettent, connaissant une partition π ∈ Π et un élément x′ de C(Δ)^{∘}, d’exprimer la dimension de l’espace normal N_{j,ϵ}(σ) en fonction des racines de V . Pour cela, considérons l’élément S̃_{j}[x′] = ∑_{i=1}^{k(j)} S_{l}[x′] de C(Δ), dont la décomposition spectrale est

S̃_{j}[x′] = ∑_{i=1}^{k(j)} β_{i,j}(S̃_{j}[x′])C_{i,j}.

Les racines β_{i,j} appartiennent à Ξ_{2} et les β_{i,j}(S̃_{j}[x′]) sont les valeurs propres strictement positives et distinctes de S̃_{j}[x′]. Pour ϵ ∈ {−1, 1}^{r}, on note comme précédemment

ϵS̃_{j}[x′] = ∑_{i=1}^{k(j)} β_{i,j}(S̃_{j}[x′])J_{i,j,ϵ},

où pour tout i ∈ {1, …, k(j)}, J_{i,j,ϵ} = ϵC_{i,j} = ∑_{l=r_{i−1,j}+1}^{r_{i,j}} ϵ_{l}c_{l} avec

r_{i,j} = rg ∑_{p=1}^{j} C_{p,j}. Posons

Ξ′_{1}(ϵ, S̃_{j}[x′]) := {γ ∈ Ξ_{1}|γ(ϵS̃_{j}[x′]) ≠ 0 et γ(ϵS̃_{j−1}[x′]) = 0},
Ξ′_{2}(ϵ, S̃_{j}[x′]) := {γ ∈ Ξ_{2}|γ(ϵS̃_{j}[x′]) ≠ 0 et γ(ϵS̃_{j−1}[x′]) = 0}.

Soient ν_{j} = Card Ξ′_{1}(ϵ, S̃_{j}[x′]) et μ_{j} = Card Ξ′_{2}(ϵ, S̃_{j}[x′]). Le nombre μ_{j} s’exprime aussi par μ_{j} = r_{i,j} −r_{i+1,j+1} . Alors, la dimension du sous-espace vectoriel N_{1} de N_{j+1,ϵ} engendré par les vecteurs du type (i) est égale à δμ_{j+1} . La dimension du sous-espace vectoriel N_{2} de N_{j+1,ϵ} engendré par les vecteurs du type (ii) et (iii) est égale à dν_{j+1} . Comme N_{j+1,ϵ} = N_{1} ⊕ N_{2} ,

(∗)  dim N_{j+1,ϵ} = δμ_{j+1} + dν_{j+1}.

Enfin on remarque que, pour x′ ∈ C(Δ)^{∘} et pour π ∈ Π fixée, les nombres μ_{j+1} et ν_{j+1} ne dépendent que des multiplicités des valeurs propres de S̃_{j}[x′], S̃_{j+1}[x′] et J_{ϵ}. On considère l’injection canonique i_{j+1}: Σ_{j+1,ϵ} → Σ_{j,ϵ} et on identifie le fibré tangent TΣ_{j+1,ϵ} à son image dans i_{j+1}^{∗}TΣ_{j,ϵ} par l’injection canonique. On note N_{j+1,ϵ} le supplémentaire orthogonal de TΣ_{j+1,ϵ} dans i_{j+1}^{∗}TΣ_{j,ϵ}, de sorte que i_{j+1}^{∗}TΣ_{j,ϵ} = TΣ_{j+1,ϵ} ⊕ NΣ_{j,ϵ}. C’est un fibré vectoriel sur Σ_{j+1,ϵ}, dont la fibre au-dessus de σ, notée N_{j+1,ϵ}, est canoniquement isomorphe à T_{σ}Σ_{j,ϵ}/T_{σ}Σ_{j+1,ϵ}.

Lemme 4.6. Pour tout α ∈ Δ pour tout j ∈ {1, …, s − 1}, et pour tout ϵ ∈ {−1, 1}^{r},

⟨N_{j+1,ϵ}, ϕ(α^{∗})σ_{0}⟩_{E} = 0.

Démonstration. Soit σ ∈ Σ_{j+1,ϵ}. On considère la base de l’espace normal N_{j+1,ϵ} vue dans la démonstration de la proposition 4.5. On montre que, si ϕ(c̃_{i} − c̃_{j})ϕ(ṽ_{ij}^{s})σ est de type (iii), alors quel que soit α ∈ Δ,

⟨ϕ(c̃_{i} − c̃_{j})ϕ(ṽ_{ij}^{s})σ, ϕ(α^{∗})σ_{0}⟩_{E} = 0.

On a

ϕ(c̃_{i} − c̃_{j})ϕ(ṽ_{ij}^{s})σ = ϕ(c̃_{i} − c̃_{j})ϕ(ṽ_{ij}^{s})(ϵ_{i}ϕ(c̃_{i})σ_{0} + ϵ_{j}ϕ(c̃_{j})σ_{0}) = ±ϕ(c̃_{i} − c̃_{j})ϕ(ṽ_{ij}^{s})σ_{0}

et, par la décomposition orthogonale de E = ϕ(V)σ ⊕ T_{σ}Σ on a

⟨ϕ(c̃_{i} − c̃_{j})ϕ(ṽ_{ij}^{s})σ_{0}, ϕ(α^{∗})σ_{0}⟩_{E} = 0.

En particulier ceci montre le résultat si rg e_{j+1} = rg e_{j}.

On suppose maintenant que rg e_{j} < rg e_{j+1} . L’élément σ de Σ_{j+1,ϵ} s’écrit alors

σ = ϕ(J_{j+1,ϵ})σ_{0} + ϕ(e − e_{j+1})σ

où

J_{j+1,ϵ} = ∑_{t=1}^{rg e_{j+1}} ϵ_{t}c̃_{t}, e − e_{j+1} = ∑_{p=rg e_{j+1}+1}^{r} c̃_{p}.

On note A_{1} = {1, …, rg e_{j+1}}, A_{2} = {rg e_{j+1} + 1, …, r}. On considère les vecteurs de la base de l’espace normal des (i) et (ii), à savoir

(i) les vecteurs r̃_{h}^{i} où 1 ≤ h ≤ δ, c̃_{i}J_{j,ϵ} = 0 et c̃_{i}J_{j+1,ϵ} ≠ 0, (ii) les vecteurs ϕ(c̃_{i} − c̃_{l})ϕ(ṽ_{il}^{s})σ où 1 ≤ i < l ≤ r, 1 ≤ s ≤ d et c̃_{i}J_{j,ϵ} = c̃_{l}J_{j,ϵ} = 0 = c̃_{l}J_{j+1,ϵ} = 0, et c̃_{i}J_{j+1,ϵ} ≠ 0, On distingue deux cas. Premier cas: rg α^{∗} ≤ rg e_{j+1} . Alors,

(1)  \begin{matrix}⟨ϕ(c̃_{i} − c̃_{l})ϕ(ṽ_{il}^{s})σ, ϕ(α^{∗})σ_{0}⟩_{E} \\ = & − ϵ_{i}⟨ϕ(ṽ_{il}^{s})ϕ(c̃_{i})σ_{0}, ϕ(α^{∗})σ_{0}⟩_{E} + −ϵ_{i}⟨ϕ(ṽ_{il}^{s})ϕ(c̃_{l})σ, ϕ(α^{∗})σ_{0}⟩_{E}. \end{matrix}

Le premier terme du second membre de (1) est nul car ϕ(α^{∗})E ⊂ ϕ(e_{j+1})E et ⟨ϕ(e_{j+1})E, ϕ(c̃_{l})E⟩_{E} = 0 quel que soit l ∈ A_{2} . L’espace ϕ(c̃_{i})E = E_{i} admet la décomposition en somme directe orthogonale

E_{i} = ϕ(V_{ii})σ ⊕ (ϕ(c_{i})ϕ(⊕_{1≤i≠j≤r}V_{ij}σ)) ⊕ R̃_{i}.

En utilisant le résultat ([11], Lemma 7), on a encore la décomposition en somme directe orthogonale

(∗) E_{i} = ϕ(V_{ii})σ ⊕ (ϕ(c_{i})ϕ(⊕_{j∈A_{1}\{i}}V_{ij})σ) ⊕ (ϕ(c_{i})ϕ(⊕_{p∈A}V_{ip})σ) ⊕ R̃_{i}.

On a évidemment

(2)  r̃_{h}^{i} ∈ R̃_{i}

et, comme l ∈ A_{2} ,

(3)  ϕ(ṽ_{il}^{s})ϕ(c̃_{l})σ ∈ ϕ(c_{l})ϕ(⊕_{p∈A}V_{ip})σ.

Le fait que i ∈ A_{1} implique que

(4) ϕ(V_{ii})σ ⊕ (ϕ(c_{i})ϕ(⊕_{j∈A_{1}\{i}}V_{ij})σ) = ϕ(V_{ii})σ_{0} + ⊕(ϕ(c_{i})ϕ(⊕_{j∈A_{1}\{i}}V_{ij})σ_{0}).

L’hypothèse que α ∈ Δ et que rg α^{∗} ≤ rg e_{j+1} implique que α^{∗} ∈ V (e_{j+1}, 1). On considère la décomposition de Peirce de l’algèbre V (e_{j+1}, 1) par rapport au s.c.i.p.o. (c̃_{j})_{j∈A_{1}} . Par conséquent α^{∗} s’écrit

(5)  α^{∗} = ∑_{j∈A_{1}} α_{jj} + ∑_{j<m} α_{jm},

où α_{jj} ∈ V_{jj} et α_{jm} ∈ V_{jm}. Alors, comme i ∈ A_{1}

(6)  ϕ(c̃_{i})ϕ(α^{∗})σ_{0} ∈ ϕ(V_{ii})σ_{0} + (ϕ(c_{i})ϕ(⊕_{j∈A_{1}\{i}}V_{ij})σ_{0}).

Compte tenu de la décomposition (∗), ⟨r̃_{h}^{i}, ϕ(c̃_{i})ϕ(α^{∗})σ_{0}⟩_{E} = 0 et par conséquent

(7)  ⟨r̃_{h}^{i}, ϕ(α^{∗})σ_{0}⟩_{E} = 0.

Reste à étudier le second terme du second membre de (1). Il est égal à

⟨ϕ(ṽ_{il}^{s})ϕ(c̃_{l})σ, ϕ(α^{∗})σ_{0}⟩_{E} = ⟨ϕ(ṽ_{il}^{s})ϕ(c̃_{l})σ, ϕ(c̃_{i})ϕ(α^{∗})σ_{0}⟩_{E} = 0.

Compte tenu des relations (6) et (3) et de la décomposition (∗) de E_{i},

(8)  ⟨ϕ(ṽ_{il}^{s})ϕ(c̃_{l})σ, ϕ(α^{∗})σ_{0}⟩_{E} = 0.

Par conséquent le résultat est établi dans le cas où rg α^{∗} ≤ rg e_{j+1} . Deuxlème cas: rg e_{j+1} ≤ rg α^{∗}. On considère à nouveau les vecteurs des types (i) et (ii). L’hypothèse implique que α^{∗} s’écrit comme somme de deux idempotents orthogonaux

(9)  α^{∗} = e_{j+1} + α^{∗} − e_{j+1}.

Pour un vecteur du type (ii), c’est à dire de la forme ϕ(c̃_{i} − c̃_{l})ϕ(ṽ_{il}^{s})σ où c̃_{i}J_{j+1,ϵ} = ϵ_{i}c̃_{i} et c̃_{l}J_{j+1,ϵ} = c̃_{i}J_{j,ϵ} = c̃_{l}J_{j,ϵ} = 0,

(10)  \begin{aligned}⟨ϕ(c̃_{i} − c̃_{l})ϕ(ṽ_{il}^{s})σ, ϕ(α^{∗})σ⟩_{E} & = −ϵ_{i}⟨ϕ(ṽ_{il}^{s})ϕ(c̃_{i})σ_{0}, ϕ(e_{j+1})σ_{0}⟩_{E} \\ & − ϵ_{i}⟨ϕ(ṽ_{il}^{s})ϕ(c̃_{i})σ_{0}, ϕ(α^{∗} − e_{j+1}))σ_{0}⟩_{E} \\ & + ⟨ϕ(ṽ_{il}^{s})ϕ(c̃_{l})σ, ϕ(e_{j+1})σ_{0}⟩_{E} \\ & + ⟨ϕ(ṽ_{il}^{s})ϕ(c̃_{l})σ, ϕ(α^{∗} − e_{j+1}))σ_{0}⟩_{E}. \end{aligned}

Le premier terme du second membre de (10) est égal à 0 car ∀(i, j) ∈ A_{2} ×A_{1} les espaces E_{i} et E_{j} sont orthogonaux. Le troisième terme est égal à 0 comme on l’a vu au premier cas en prenant rg e_{j+1} = rg α^{∗}. Le quatrième terme est égal à 0 car E_{i} ⊂ ϕ(e_{j+1})E et ⟨ϕ(e_{j+1})E, ϕ(α^{∗} − e_{j+1})E⟩_{E} = 0. Il nous reste donc à montrer que

(11)  ⟨ϕ(ṽ_{il}^{s})ϕ(c̃_{i})σ_{0}, ϕ(α^{∗})σ_{0}⟩_{E} = 0.

On considère la sous-algèbre V (e − e_{j+1}, 1). Alors

(e − e_{j+1})(α^{∗} − e_{j+1}) = α^{∗} − e_{j+1} − e_{j+1} + e_{j+1} = α^{∗} − e_{j+1}

et par conséquent, α^{∗} − e_{j+1} ∈ V (e − e_{j+1}, 1). On considère le s.c.i.p.o. de V (e − e_{j+1}, 1) et la décomposition de Peirce de V (e − e_{j+1}, 1) par rapport à ce s.c.i.p.o. Alors

(12)  α^{∗} = ∑_{p∈A_{2}} α_{pp} + ∑_{p<m} α_{pm}

où α_{pm} ∈ V_{pp} (et en particulier α_{pp} ∈ V_{pp}). Comme l ∈ A_{2} ,

(13)  ϕ(c̃_{l})ϕ(α^{∗} − e_{j+1})σ_{0} = ϕ(α_{ll})σ_{0} + ϕ(c̃_{l})( ∑_{m∈A_{2}\{l}} ϕ(α_{lm})σ_{0}).

Comme ϕ(c̃_{l})ϕ(ṽ_{il}^{s})σ_{0} = ϕ(ṽ_{il}^{s})ϕ(c̃_{l})σ_{0} , la relation (11) s’écrit

⟨ϕ(c̃_{l})σ_{0}, ϕ(α^{∗} − e_{j+1})σ_{0}⟩_{E} = 0

et à l’aide de (13), ainsi que des lemmes ([11], Lemmas 6, 7) (i ∈ A_{1} , j ∈ A_{2} ), on trouve

(14) ⟨ϕ(ṽ_{il}^{s})σ_{0}, ϕ(α_{ll})σ_{0}⟩_{E} + ⟨ϕ(ṽ_{il}^{s})σ_{0}, ϕ(c̃_{l})( ∑_{m∈A_{2}\{l}}ϕ(α_{lm})σ_{0})⟩_{E} = 0.

Il nous reste donc à montrer que, pour les vecteurs du type (i),

(15)  ⟨r̃_{h}^{i}, ϕ(α^{∗})σ_{0}⟩_{E} = 0 où c̃_{i}J_{j+1,ϵ} = ϵ_{i}c̃_{i} et c̃_{i}J_{j,ϵ} = 0.

En utilisant à nouveau (9),

(16)  ⟨r̃_{h}^{i}, ϕ(e_{j+1})σ_{0}⟩_{E} + ⟨r̃_{h}^{i}, ϕ(α^{∗} − e_{j+1})σ_{0}⟩_{E}.

Le premier terme est égal à 0 car on est dans le premier cas avec rg α^{∗} = rg e_{j+1} . Le second terme est égal à 0 car E_{i} ⊂ ϕ(e_{j+1})E et ⟨ϕ(e_{j+1})E, ϕ(α^{∗}−e_{j+1})E⟩_{E} = 0. Par conséquent, l’assertion est démontrée.

Proposition 4.7. Pour tout σ ∈ Σ_{j+1,ϵ} et tout k > j + 1, on a

g′_{k,x′}(σ) |_{N_{σ}Σ_{j+1,ϵ}}= 0.

Démonstration. Supposons que S_{k} = {α_{1,k}, ..., α_{1,k}} avec rg α_{1,k}^{∗} < … < rg α_{p,k}^{∗}. Soit

S_{k}[x′] = ∑_{i=1}^{p} α_{i,k}(x′)α_{i,k}^{∗}.

On considère l’application g_{k,x′}(σ) = ⟨σ, ϕ(S_{k}[x′])σ_{0}⟩_{E} où σ ∈ Σ_{j,ϵ}. On a

g_{k,x′}(σ) = ∑_{i=1}^{p} α_{i,k}(x′)⟨σ, ϕ(α_{i,k}^{∗})σ_{0}⟩_{E}.

Si σ ∈ Σ_{j+1,ϵ} , on a g′_{k,x′}(σ) = ∑_{i=1}^{p} α_{i,k}(x′)⟨X_{σ}, ϕ(α_{i,k}^{∗})σ_{0}⟩_{E} où X_{σ} ∈ T_{σ}Σ_{j+1,ϵ}. Mais d’après le lemme 4.6,

g′_{k,x′}(σ) |_{N_{σ}Σ_{j+1,ϵ}}= 0.

Démonstration du théorème 4.1: Les propositions 4.3. à 4.7. impliquent que les hypothèses de la proposition 4.2. sont satisfaites pour les fonctions g_{j,x′} et la filtration (Σ_{j}) de la variété de Stiefel.

On prend comme Θ_{0} la partie compacte P (μ) (μ ≥ 1) de la chambre de Weyl ouverte C(Δ)^{∘}. D’après la Proposition 4.2, pour tout π ∈ Π et tout μ ≥ 1, il existe une constante positive C′ et un réel η(π, μ) ≥ 1 tels que pour tout x ∈ P (π, μ, η(π, μ)) on ait

(∗)  |J(x^{2})| ≤ C′ ∑_{ϵ∈\{−1,1\}^{r}} ∏_{j=1}^{s} l(τ_{j})^{− \frac{1}{2} n_{j,ϵ}}

où d’après la remarque suivant la proposition 4.5 la dimension de l’espace normal est donnée par

(1)  n_{j,ϵ} = dim N_{j,ϵ} = δμ_{j} + dν_{j}.

Soit x ∈ P (π, μ, η(π, μ)). Soit p le plus grand indice j tel que, pour tout α ∈ S_{j}, α(x) > 0. Ainsi, S_{p+1}[x] = … = S_{s}[x] = 0, ou, de façon équivalente, τ_{p+1} = … = τ_{s} = 0.

Pour ϵ ∈ {−1, 1}^{r} fixé,

(∗∗)  ∏_{j=1}^{s} l(τ_{j})^{− \frac{1}{2} n_{j,ϵ}} ≤ ∏_{j=1}^{p} l(τ_{j})^{− \frac{1}{2} n_{j,ϵ}}

puisque l(τ_{j}) ≥ 1 pour tout j.

Soit γ ∈ Ξ_{1} . Soit le plus petit indice j ∈ {1, …, p} tel que γ ∈ Ξ′_{1}(ϵ, S̃_{j}[x]), ce qui implique que γ(ϵS̃_{j}[x])) ≠ 0. Ceci entraîne que, parmi les racines dont γ est combinaison linéaire, il y a α ∈ S_{j}. Il est alors clair que α(S_{j}[x]) > 0. Par conséquent,

(2)  1 + |γ(ϵx)| ≤ (2r + 1)τ_{j}.

Soit γ ∈ Ξ_{2} . On suppose que γ ∈ Ξ′_{2}(ϵ, S̃_{l}[x]) pour un indice l ∈ {1, …, p}. A nouveau γ(ϵS̃_{l}[x]) ≠ 0 et, pour la même raison que ci-dessus,

(3)  1 + |γ(ϵx)| ≤ (2r + 1)τ_{l}.

Les relations (∗∗), (1), (2) et (3) impliquent

(4) ∏_{j=1}^{p} l(τ_{j})^{− \frac{1}{2} n_{j,ϵ}} ≤ C′(2r + 1)^{dim Σ} ∏_{γ∈Ξ_{1}} (1 + |γ(ϵx)|)^{− \frac{d}{2}} ∏_{γ∈Ξ_{2}} (1 + |γ(ϵx)|)^{− \frac{δ}{2}} .

On en déduit l’estimation de la fonction de Bessel

(5) |J(x^{2})| ≤ C′(2r + 1)^{dim Σ} ∏_{γ∈Ξ_{1}}(1 + |γ(ϵx)|)^{− \frac{d}{2}} ∏_{γ∈Ξ_{2}}(1 + |γ(ϵx)|)^{− \frac{δ}{2}} ,

comme pour γ ∈ Ξ′_{2} on a |γ(ϵx)| = |γ(x)| en posant C′(2r + 1)^{dim Σ} = C′′ on obtient

(6) |J(x^{2})| ≤ C′′ ( ∑_{ϵ∈\{−1,1\}^{r}} ∏_{γ∈Ξ_{1}}(1 + |γ(ϵx)|)^{− \frac{d}{2}} ) ∏_{γ∈Ξ_{2}}(1 + |γ(ϵx)|)^{− \frac{δ}{2}} .

L’estimation (6) est uniforme sur P (π, μ, η(π, μ)). Mais la chambre de Weyl C(Δ) est réunion finie d’ensembles de la forme P (π, μ, η(π, μ)) ([5], Lemma 11.5. et la relation 11.24, p.376), par conséquent il existe une constante positive C telle que pour tout x ∈ C(Δ)

(7) |J(x^{2})| ≤ C ( ∑_{ϵ∈\{−1,1\}^{r}} ∏_{γ∈Ξ_{1}} (1 + |γ(ϵx)|)^{− \frac{d}{2}} ) ∏_{γ∈Ξ_{2}} (1 + |γ(ϵx)|)^{− \frac{δ}{2}} .

Compte tenu de la K -invariance de la fonction de Bessel, on obtient l’estimation uniforme sur \overline{Ω}

|J(x^{2})| ≤ CB(x)

et le théorème est complètement démontré.

Références

[1] Chazarain, J., Formule de Poisson pour les varétés riemanniennes, Inv. Math. 24 (1974), 65–82.

[2] Clerc, J.–L., Représentations d’une algèbre de Jordan, polynômes invariants et harmoniques de Stiefel, J. reine ang. Math. 423 (1992), 47–71.

[3] Colin de Verdière, Y., Spectre du Laplacien et longueurs des géodésiques périodiques. Comp. Math. 27 (1973), 159–184.

[4] Constantine, A. G., Some non-central Distribution Problems and Multivariate Analysis, Ann. Math. Statist. 34 (1963), 1270–1285.

[5] Duistermaat, J. J., J.A.C. Kolk, V.S. Varadarajan, Functions, Flows and Oscillatory Integrals on Flag Manifolds and Conjugacy Classes in Real Semisimple Lie Groups, Comp. Math. 49 (1989), 309–398.

[6]  Faraut, J., and A. Korányi, “Analysis on symmetric cones”, Oxford 1994.

[7] Faraut, J., and G. Travaligni, Bessel Functions associated with Representations of Formally Real Jordan Algebras, J. Funct. Anal. 71 (1987), 123–141.

[8] Herz, C., Bessel Functions of Matrix Arguments, Ann. of Math. 61 (1955), 474–523.

[9] Muirhead, R., “Aspects of Multivariate Statistical Theory”, John Wiley & Sons, 1982.

[10] Stein, E. M., “Beijing lectures in Harmonic Analysis”, Ann. of Math. Studies 112, 1986.

Kalliterakis 303

[11] Travaligni, G., Representations of Jordan Algebras and Special Functions, Colloquium Math. 62 (1991), 259–266.

Antonis Kalliterakis 7 av. Watteau 94130 Nogent sur Marne FRANCE antonis.kalliterakis@free.fr

Received August 11, 1998 and in final form November 3, 2000