Journal of Lie Theory Volume 12 (2002) 325–356 \begin{matrix}c \\ ◯ \end{matrix} 2002 Heldermann Verlag

Algèbre de Lie nilpotente graduée de rang 3 et inverse d’un opérateur différentiel

Maxime Gouleau

Communicated by Jean Ludwig

Résumé. Dans le cadre d’une algèbre G nilpotente graduée de rang 3, nous établissons d’abord quelques résultats algébriques et topologiques d’une transformation de Fourier introduite par N.J. Wildberger [13] sur un groupe de Lie nilpotent général. Ensuite, si P est un opérateur différentiel homogène invariant à gauche sur le groupe de Lie connexe et simplement connexe d’algèbre de Lie G et π_{(ξ,H_{ξ})} une représentation unitaire irréductible de ce groupe, nous contruisons, sous une hypothèse d’homéomorphisme linéaire, une paramétrix de l’opérateur π_{(ξ,H_{ξ})}(P). Sous une deuxième hypothèse plus forte d’homéomorphisme linéaire, nous construisons un inverse exact de π_{(ξ,H_{ξ})}(P). Cet inverse est un opérateur pseudo-différentiel dont le symbole est dans une classe de R. Beals.

Introduction

Soient G une algèbre de Lie réelle nilpotente et G le groupe de Lie connexe et simplement connexe d’algèbre de Lie G, l’application exponentielle est un difféomorphisme global de G sur G et nous identifierons dans la suite le groupe G avec l’algèbre G.

L’algèbre de Lie G est graduée de rang r si G est la somme directe de sous-espaces G_{i}, 1 ≤ i ≤ r, tels que [G_{i}, G_{j}] ⊂ G_{i+j} avec G_{i+j} = {0} si i + j > r.

Si l’algèbre de Lie G est graduée de rang r et si P est un opérateur différentiel homogène invariant à droite sur le groupe G qui vérifie la condition de Rockland, c’est-à-dire tel que pour toute représentation unitaire irréductible π de G, l’opérateur π(P) est injectif dans l’espace de Schwartz de la représentation π, Melin construit dans [10] une paramétrix de π(P) après avoir développé un calcul symbolique utilisant la transformation de Fourier classique.

Également dans le cas du groupe de Heisenberg, Melin donne dans [11] une version sous forme de paramétrix des résultats de Geller [5] et dans le cas d’un groupe de Lie nilpotent homogène, Christ, Geller, GLowacki et Polin développent dans [4] un calcul pseudo-différentiel sur le groupe et, généralisant la condition de Rockland, ces auteurs donnent un critère général d’existence d’une paramétrix.

Dans la suite, nous supposons que l’algèbre est graduée et nous considérons ξ ∈ G^{∗} tel que l’orbite O(ξ) dans la représentation coadjointe de G dans G^{∗} soit

ISSN 0949–5932 / $2.50 \begin{matrix}c \\ ◯ \end{matrix} Heldermann Verlag en position générale. Si H est une sous-algèbre de G maximale subordonnée à ξ (< ξ, [H, H] >= {0}), nous notons π_{(ξ,H)} la représentation unitaire de G induite par la représentation h ↦ e^{i<ξ,h>} de H dans ℂ, d’après [8] la représentation π_{(ξ,H)} est irréductible .

Si G est graduée de rang r = 2 et φ appartient à l’espace de Schwartz S(G), alors l’opérateur π_{(ξ,H)}(φ) a un noyau qui ne dépend que de la restriction de la transformée de Fourier ordinaire φ̂ à l’orbite O(ξ) de ξ dans la représentation coadjointe de G dans G^{∗}. Si r ≥ 3, le même résultat est obtenu en remplaçant la transformée de Fourier ordinaire par une transformée de Fourier introduite par Wildberger dans [13]. Cette transformée de Fourier utilise le calcul de Weyl (voir [7]) pour composer des symboles définis sur l’orbite O(ξ).

Dans notre article, nous nous limitons au cas où l’algèbre de Lie G est graduée de rang 3.

Au premier paragraphe, nous construisons une sous-algèbre H_{ξ} subordonneé à ξ maximale et nous réalisons explicitement la représentation π_{(ξ,H_{ξ})} de G dans un espace L^{2}(X) (où X est un certain sous-espace supplémentaire de H_{ξ} dans l’algèbre G), nous en déduisons une carte θ_{ξ}(x, p), (x, p) ∈ ℝ^{q} × ℝ^{q}, de O(ξ). L’opérateur π_{(ξ,H_{ξ})}(φ) a alors un noyau qui ne dépend que de la restriction de la transformée de Fourier au sens de Wilbberger F^{W} φ à l’orbite O(ξ) (voir (1.18)).

Aux deux paragraphes suivants, à partir de la carte θ_{ξ}(x, p) nous introduisons des fonctions poids Φ(x, p), ϕ(x, p) au sens de Beals [2],[3]. Ces fonctions poids permettent de définir une métrique de Hormander [7] et des classes de symboles S^{m′}(O(ξ)), m′ ∈ ℝ, adaptées à l’étude d’un opérateur sur ℝ^{q} de la forme π_{(ξ,H_{ξ})}(P) où P est un opérateur homogène appartenant à l’algèbre enveloppante complexifiée U(G).

À l’aide du calcul symbolique sur l’orbite nous prouvons le résultat suivant (Théorème 3.5):

Théorème. Soit G une algèbre de Lie graduée de rang 3, P ∈ U_{m}(G) tel que π_{(ξ,H_{ξ})}(P) soit un homéomorphisme linéaire de H_{π_{ξ}}^{m}(X) sur L^{2}(X) et σ_{P} le symbole de P. Il existe q ∈ S^{−m}(O(ξ)) et r ∈ S^{0,−∞}(O(ξ)) tels que

σ_{P,ξ}#q = 1 + r où σ_{P,ξ}(x, p) = σ_{P} (θ_{ξ}(−x, p)).

Dans cet énoncé, σ_{P,ξ} est le symbole de Weyl de l’opérateur π_{(ξ,H_{ξ})}(P) (voir la proposition 2.1) et la composition σ_{P,ξ}#q des deux symboles σ_{P,ξ} et q définis sur l’orbite O(ξ) est donnée par le calcul symbolique de Weyl.

En supposant de plus que l’opérateur P vérifie l’hypothèse (H), c’est-à-dire si pour tout s de ℕ, l’opérateur π_{(ξ,H_{ξ})}(P) est un homéomorphisme linéaire de H_{π_{ξ}}^{s+m}(X) sur H_{π_{ξ}}^{s}(X), nous contruisons aux deux derniers paragraphes un inverse de l’opérateur π_{(ξ,H_{ξ})}(P), plus précisément nous démontrons le théorème suivant (Théorème 6.10):

Théorème. Soit G une algèbre de Lie graduée de rang 3. Si P ∈ U_{m}(G) vérifie l’hypothèse (H), alors nous pouvons trouver un symbole q ∈ S^{−m}(O(ξ)) tel que :

σ_{P,ξ}#q = 1  où  σ_{P,ξ}(x, p) = σ_{P} (θ_{ξ}(−x, p)).

Si G est graduée de rang r > 3, l’opérateur π_{(ξ,H_{ξ})}(P) peut encore s’exprimer sous la forme (2.3) qui suit et permet d’envisager l’introduction d’un calcul symbolique par orbite.

1. Transformation de Fourier (au sens de Wildberger) et représentation unitaire irréductible π_{(ξ,H_{ξ})}

Lemme 1.1. Posons n_{i} = dim G_{i} , 1 ≤ i ≤ 3, n = dim G et notons: - B_{ξ} la forme bilinéaire définie sur G par

B_{ξ}(α, β) = ⟨ξ, [α, β]⟩,

- 2q le rang de B_{ξ},

- N_{1} le sous-espace de G_{1} défini par:

N_{1} = {α ∈ G_{1} | la forme linéaire ξ ∘ ad α s’annule sur G_{2}} ,

- S_{1} un sous-espace de G_{1} supplémentaire de N_{1}.

- {e_{1}, e_{2}, …, e_{n′_{1}}} une base de S_{1}. Avec ces données, nous avons q ≤ n_{1} et il existe une suite libre de vecteurs (e_{n′_{1}+1}, e_{n′_{1}+2}, …, e_{n_{1}}) de N_{1}, une suite libre de vecteurs (u_{1}, u_{2}, …, u_{q}) de G vérifiant:

i) ⟨ξ, [u_{i}, e_{j}]⟩ = −δ_{ij}, 1 ≤ i, j ≤ q ;

ii) Si nous posons X =^{déf} Vect(e_{1}, e_{2}, …, e_{q}), Y =^{déf} Vect(e_{q+1}, e_{q+2}, …, e_{n_{1}}), H_{ξ} =^{déf} Y ⊕ G_{2} ⊕ G_{3}, alors G = X ⊕ H_{ξ} où H_{ξ} est un idéal de G subordonné à ξ maximal;

iii) u_{j} ∈ G_{2} si 1 ≤ j ≤ n′_{1} et u_{j} ∈ H_{ξ} si 1 ≤ j ≤ q.

Démonstration. Soit {f_{n′_{1}+1}, f_{n′_{1}+2}, …, f_{n_{1}}} une base de N_{1}. L’application S_{1} → G_{2}^{∗}, α ↦ ξ ∘ ad α|_{G_{2}} est linéaire et injective, donc les formes linéaires ℓ_{j} = ξ ∘ ad e_{j}|_{G_{2}}, 1 ≤ j ≤ n′_{1} forment une suite libre dans G_{2}^{∗} que l’on peut compléter pour obtenir une base B^{∗} = {ℓ_{1}, ℓ_{2}, …, ℓ_{n′_{1}}, ℓ_{n′_{1}+1}, …, ℓ_{n_{2}}} de G_{2}^{∗}. Il existe alors une base B = {u_{1}, u_{2}, …, u_{n′_{1}}, v_{n′_{1}+1}, …, v_{n_{2}}} de G_{2} dont la base duale est B^{∗}. Nous obtenons ⟨ξ, [u_{j}, e_{k}]⟩ = −δ_{jk}, 1 ≤ j, k ≤ n′_{1} et ⟨ξ, [e_{k}, v_{ℓ}]⟩ = 0, 1 ≤ k ≤ n′_{1}, n′_{1} + 1 ≤ ℓ ≤ n_{2}. Soit le sous-espace E = S_{1} ⊕ Vect(u_{1}, u_{2}, …, u_{n′_{1}}). L’orthogonal E^{⊥} de E dans G pour B_{ξ} est un sous-espace supplémentaire de E dans G donné par E^{⊥} = F ⊕ Vect(v_{n′_{1}+1}, v_{n′_{1}+2}, …, v_{n_{2}}) ⊕ G_{3} où F = Vect(f̃_{n′_{1}+1}, f̃_{n′_{1}+2}, …, f̃_{n_{1}}) avec f̃_{j} = f_{j} + ∑_{k=1}^{n′_{1}}⟨ξ, [f_{j}, e_{k}]⟩u_{k}, n′_{1} + 1 ≤ j ≤ n_{1} . La restriction B_{ξ}^{F} de B_{ξ} à F est de rang 2q − 2n′_{1} et nous pouvons trouver une base (w_{j})_{1≤j≤n_{1}−n′_{1}} de F dont la base duale (w_{j}^{∗})_{1≤j≤n_{1}−n′_{1}} dans F^{∗} vérifie:

B_{ξ}^{F} = w_{1}^{∗} ∧ w_{q−n′_{1}+1}^{∗} + w_{2}^{∗} ∧ w_{q−n′_{1}+2}^{∗} + ⋯ + w_{q−n′_{1}}^{∗} ∧ w_{2q−2n′_{1}}^{∗} .

Soit p la projection de G = G_{1} ⊕ G_{2} ⊕ G_{3} sur G_{1} sur parallèlement à G_{2} ⊕ G_{3} et posons:

e_{n′_{1}+j} =^{déf} p(w_{j}), 1 ≤ j ≤ n_{1} − n′_{1}, u_{n′_{1}+k} =^{déf} w_{q−n′_{1}+k}, 1 ≤ k ≤ q − n′_{1} .

Avec ces définitions, la sous-algèbre H_{ξ} est subordonnée à ξ, de plus étant de dimension n − q, elle est maximale.

En adaptant une méthode décrite dans Helffer-Nourrigat ([6]), nous réalisons la représentation induite π_{(ξ,H_{ξ})} dans un espace L^{2}(X), puis nous en déduisons une expression d’une carte θ_{ξ}(x, p) de l’orbite O(ξ) de ξ dans G^{∗} et explicitons la transformée de Fourier F^{W} φ au sens de Wildberger [13] d’une fonction φ de S(G). Le calcul de Weyl (voir par exemple [7]) donne ensuite une expression des opérateurs π_{(ξ,H_{ξ})}(β), β ∈ G et π_{(ξ,H_{ξ})}(φ), φ ∈ S(G), en fonction de F^{W} φ et θ_{ξ}(x, p) (proposition 1.8). Établissons d’abord deux lemmes:

Lemme 1.2. Soient e_{ℓ_{1}}, e_{ℓ_{2}}, …, e_{ℓ_{k}}, k vecteurs linéairement indépendants de G_{1} et l’application

γ_{k} : ℝ^{k} ⟶ G , t = (t_{1}, t_{2}, …, t_{k}) ⟼ γ_{k}(t) = (t_{1}e_{ℓ_{1}})(t_{2}e_{ℓ_{2}}) … (t_{k}e_{ℓ_{k}}),

où γ_{k}(t) est le produit dans le groupe G de t_{1}e_{ℓ_{1}}, t_{2}e_{ℓ_{2}}, …, t_{k}e_{ℓ_{k}}.

Si, pour u ∈ ℝ^{k}, nous définissons une application A_{k}(u) : ℝ^{k} ⟶ G par

A_{k}(u).v = \frac{d}{ds}γ_{k}(u + sv)[γ_{k}(u)]^{−1}|_{s=0} ,  (1.1)

alors A_{k}(u) est linéaire et a pour expression, pour v ∈ ℝ^{k},

A_{k}(u).v = v_{1}e_{ℓ_{1}} + e^{ad u_{1}e_{ℓ_{1}}} .v_{2}e_{ℓ_{2}} + e^{ad u_{1}e_{ℓ_{1}}} ∘ e^{ad u_{2}e_{ℓ_{2}}} .v_{3}e_{ℓ_{3}} + ⋯ +
e^{ad u_{1}e_{ℓ_{1}}} ∘ e^{ad u_{2}e_{l_{2}}} ∘ ⋯ ∘ e^{ad u_{k−1}e_{ℓ_{k−1}}} .v_{k}e_{ℓ_{k}}.  (1.2)

Démonstration. Par récurrence sur k. La propriété (1.2) est vraie pour k = 1, supposons qu’elle soit vraie pour k. Posons

φ(s) = γ̃_{k}(u_{2} + sv_{2}, …, u_{k+1} + sv_{k+1})[γ̃_{k}(u_{2}, …, u_{k+1})]^{−1} ,

où

γ̃_{k}(t_{2}, …, t_{k+1}) = (t_{2}e_{ℓ_{2}})(t_{3}e_{ℓ_{3}}) … (t_{k+1}e_{ℓ_{k+1}}) , (t_{2}, …, t_{k+1}) ∈ ℝ^{k}.

Nous pouvons écrire

γ_{k+1}(u + sv)[γ_{k+1}(u)]^{−1} = (((u_{1} + sv_{1})e_{ℓ_{1}})(−u_{1}e_{ℓ_{1}}))((u_{1}e_{ℓ_{1}})φ(s)(u_{1}e_{ℓ_{1}})^{−1}).

En dérivant par rapport à s à l’origine, nous obtenons que la propriété est vraie pour k + 1.

A l’orbite O(ξ) en position générale correspond une représentation unitaire irréductible du groupe G. A une équivalence unitaire près, cette représentation peut être déterminée comme une représentation π_{(ξ,H_{ξ})} de G dans L^{2}(ℝ^{q}) induite par une représentation scalaire de H_{ξ}.

Notons S′ = {ℓ_{1}, ℓ_{2}, …, ℓ_{q}} une suite obtenue à partir d’un réarrangement de la suite (1, 2, …, q). L’application H_{ξ} × ℝ^{q} ↦ G donnée par

(h, (t_{1}, t_{2}, …, t_{q})) ⟼ hγ(t) où γ(t) = (t_{1}e_{ℓ_{1}})(t_{2}e_{ℓ_{2}}) … (t_{q}e_{ℓ_{q}})

est un difféomorphisme global, l’image de la mesure de Lebesgue sur H_{ξ} ×ℝ^{q} étant la mesure de Lebesgue sur G. Ce difféomorphisme permet de définir une action à droite de G dans ℝ^{q} , (t, a) ↦ σ(t, a) telle que

γ(t)a = h(t, a)γ(σ(t, a)) .  (1.3)

Pour définir la représentation π_{(ξ,H_{ξ})} du groupe G induite par la représentation h ↦ e^{i⟨ξ,h⟩} du sous groupe H_{ξ} dans ℂ, nous introduisons l’espace E = E_{ξ} des fonctions définies sur G, à valeurs complexes, ayant les deux propriétés suivantes:

i) ∀h ∈ H_{ξ}, ∀g ∈ G, f (hg) = e^{i⟨ξ,h⟩} f (g).

ii) La fonction φ(x) = |f(g)|^{2} où x désigne la classe de g dans H_{ξ} \ G (pour toute fonction f vérifiant i), |f(g)|^{2} ne dépend que de x), vérifie

∫_{H_{ξ}\G} φ(x) dx < +∞ .

L’espace E est muni du produit scalaire (f_{1}, f_{2}) = ∫_{H_{ξ}\G} (f_{1}(g), f_{2}(g)) dx et la représentation π_{(ξ,H_{ξ})} de G dans E est définie par :

∀f ∈ E, ∀g ∈ G, ∀a ∈ G [π_{(ξ,H_{ξ})}(a)f] (g) = f(ga) .  (1.4)

Pour le produit scalaire ci-dessus, la représentation π_{(ξ,H_{ξ})} est unitaire. D’après (1.3), (1.4) et la propriété i), nous avons:

∀f ∈ E, ∀t ∈ ℝ^{q}, ∀a ∈ G [π_{(ξ,H_{ξ})}(a)f](γ(t)) = f(γ(t)a)
= e^{i⟨ξ,h(t,a)⟩}(f ∘ γ)(σ(t, a)) .  (1.5)

La dernière égalité nous permet de considérer que la représentation π_{(ξ,H_{ξ})} est définie dans l’espace L^{2}(ℝ^{q}) de la manière suivante:

∀f ∈ L^{2}(ℝ^{q}), ∀t ∈ ℝ^{q}, ∀a ∈ G [π_{(ξ,H_{ξ})}(a)f](t) = e^{i⟨ξ,h(t,a)⟩} f(σ(t, a)) . (1.6)

En notant pr_{2} la projection de G = H_{ξ} ⊕ X sur X parallèlement à H_{ξ}, puis pour a ∈ G, pr_{2}(a) = ∑_{k=1}^{q} a_{k}e_{l_{k}}, nous avons σ(t, a) = (t_{1} + a_{1}, t_{2} + a_{2}, …, t_{q} + a_{q}). La différentielle de la représentation π_{(ξ,H_{ξ})} est alors l’opérateur

π_{(ξ,H_{ξ})}(a) = i⟨ξ, h′(t, a)⟩ + ∑_{k=1}^{q} a_{k} \frac{∂}{∂t_{k}} ,

où, par définition h′(t, a) = \frac{d}{ds}h(t, sa)|_{s=0} .

L’expression de h′(t, a) dépend de l’appartenance de a à H_{ξ} ou X et découle du lemme 1.2 ci-dessus.

330 Gouleau Lemme 1.3. Avec les notations ci-dessus, nous avons pour a ∈ H_{ξ}

h′(t, a) = e^{ad γ(t)} .a ,  (1.7)

et pour a ∈ X

h′(t, a) = [γ(t), a] + \frac{1}{2}[γ(t), [γ(t), a]] − pr_{1}\{a_{1}e_{ℓ_{1}} + e^{ad t_{1}e_{ℓ_{1}}}.a_{2}e_{ℓ_{2}}+

+e^{ad t_{1}e_{ℓ_{1}}} ∘ e^{ad t_{2}e_{ℓ_{2}}}.a_{3}e_{ℓ_{3}} + ⋯ + e^{ad t_{1}e_{ℓ_{1}}} ∘ e^{ad t_{2}e_{ℓ_{2}}} ∘ ⋯ ∘ e^{ad t_{q−1}e_{ℓ_{q−1}}}.a_{q}e_{ℓ_{q}}} , (1.8)

où pr_{1} est la projection de G sur H_{ξ} parallèlement à X. Démonstration. D’après (1.3), nous avons

∀s ∈ ℝ e^{ad γ(t)} ·sa = γ(t)(sa)[γ(t)]^{−1} = h(t, sa)γ(σ(t, sa))[γ(t)]^{−1} . En dérivant par rapport à s à l’origine, nous obtenons

e^{ad γ(t)} .a = h′(t, a) + A_{q}(t).(a_{1}, a_{2}, ⋯, a_{q}) .

Cette relation donne ensuite (1.7) et (1.8).

Le symbole complet de l’opérateur différentiel π_{(ξ,H_{ξ})}(a) est

σ(t; ξ, p, a) = i(⟨ξ, h′(t, a)⟩ + ∑_{k=1}^{q} a_{k}p_{k}) .

Ce symbole donne une carte θ_{ξ}(x, p) de l’orbite O(ξ): Proposition 1.4. Une carte ℝ^{2q} ↦ G^{∗} , (x, p) ↦ θ_{ξ}(x, p) de l’orbite O(ξ) de ξ dans G^{∗} est donnée par:

∀a ∈ G, ⟨θ_{ξ}(x, p), a⟩ = \frac{1}{i}σ(−x; ξ, p, a) où x = (x_{1}, x_{2}, …, x_{q}) (1.9)

c’est à dire

∀a ∈ H_{ξ} , ⟨θ_{ξ}(x, p), a⟩ = ⟨ξ ∘ e^{ad γ(−x)}, a⟩  (1.10)

∀a = ∑_{k=1}^{q} a_{k}e_{ℓ_{k}} ∈ X , ⟨θ_{ξ}(x, p), a⟩ = ∑_{k=1}^{q} a_{k}p_{k} + ⟨ξ ∘ e^{ad γ(−x)}, a⟩−

⟨ξ, a_{1}e_{ℓ_{1}} + e^{− ad x_{1}e_{ℓ_{1}}} .a_{2}e_{ℓ_{2}} + e^{− ad x_{1}e_{ℓ_{1}}} ∘ e^{− ad x_{2}e_{ℓ_{2}}} .a_{3}e_{l_{3}} +

⋯ + e^{− ad x_{1}e_{ℓ_{1}}} ∘ e^{− ad x_{2}e_{ℓ_{2}}} ∘ ⋯ ∘ e^{− ad x_{q−1}e_{ℓ_{q−1}}} .a_{q}e_{ℓ_{q}}⟩ .  (1.11)

Proposition 1.5. Dans le cas où la suite (e_{ℓ_{k}})_{1≤k≤q} est :

e_{ℓ_{1}} = e_{n′_{1}+1} , e_{ℓ_{2}} = e_{n′_{1}+2} , …, e_{ℓ_{q−n′_{1}}} = e_{q},

e_{ℓ_{q−n′_{1}+1}} = e_{1} , e_{ℓ_{q−n′_{1}+2}} = e_{2} , …, e_{ℓ_{q}} = e_{n′_{1}},  (1.12)

une carte ℝ^{2q} ↦ G^{∗} , (x, p) ↦ θ_{ξ}(x, p) de l’orbite O(ξ) de ξ dans G^{∗} est donnée par :

∀u ∈ H_{ξ} ⟨θ_{ξ}(x, p), u⟩ = ⟨ξ ∘ e^{− ∑_{σ=1}^{q} x_{σ} ad e_{ℓσ}} , u⟩ = ⟨ξ, u⟩−
− ∑_{σ=1}^{q} x_{σ}⟨ξ, [e_{ℓ_{σ}}, u]⟩ + \frac{1}{2} ∑_{σ,τ=q−n′_{1}+1}^{q} x_{σ}x_{τ}⟨ξ, [e_{ℓ_{σ}}, [e_{ℓ_{τ}} , u]]⟩.  (1.13)

∀k ∈ [1, q] ⟨θ_{ξ}(x, p), e_{ℓ_{k}}⟩ = p_{k} − ∑_{σ=k+1}^{q} x_{σ}⟨ξ, [e_{ℓ_{σ}}, e_{ℓ_{k}}]⟩+

+ ∑_{\begin{matrix}q−n′_{1}+1≤σ<τ≤q \\ τ>k \end{matrix}} x_{σ}x_{τ}⟨ξ, [e_{ℓ_{σ}}, [e_{ℓ_{τ}} , e_{ℓ_{k}}]]⟩ + ∑_{\begin{matrix}σ=k+1 \\ q−n′_{1}+1≤σ \end{matrix}}^{q} \frac{x_{σ}^{2}}{2} ⟨ξ, [e_{ℓ_{σ}}, [e_{ℓ_{σ}}, e_{ℓ_{k}}]]⟩. (1.14)

Dans la suite de cet article, nous considérons uniquement la carte parti-culière donnée par (1.13) et (1.14). A partir de cette carte, nous pouvons calculer le symbole de Weyl exp^{∗} i⟨η, β⟩ de l’opérateur π_{(ξ,H_{ξ})}(β) donné par (1.6), et définir la transformée de Fourier (par orbite) correspondante, comme dans [13].

Proposition 1.6. Le symbole de Weyl exp^{∗} i⟨θ_{ξ}(−x, p), β⟩ de l’opérateur π_{(ξ,H_{ξ})}(β), β ∈ G, est donné par:

exp^{∗} i⟨θ_{ξ}(−x, p), β⟩ = e^{i⟨θ_{ξ}(−x,p),β⟩} ×
e^{−i⟨ξ_{3}, ^{\frac{β_{n′_{1}} e_{n′_{1}}}{2}} ^{\frac{β_{n′_{1}−1}e_{n′_{1}−1}}{2}} ··· \frac{β_{1}e_{1}}{2} (∑_{k=n′_{1}+1}^{n_{1}} β_{k}e_{k}) \frac{β_{1}e_{1}}{2} ··· ^{\frac{β_{n′_{1}−1}e_{n′_{1}−1}}{2}} ^{\frac{β_{n′_{1}} e_{n′_{1}}}{2}} ⟩} , (1.15)

où β = β_{G_{2}⊕G_{3}} + ∑_{k=1}^{n_{1}} β_{k}e_{k}.

Démonstration. D’après (1.10) et (1.11), l’opérateur π_{(ξ,H_{ξ})}(β) s’écrit, pour f ∈ E_{ξ} telle que f ∘γ ∈ S(ℝ^{q}) et pour β = β_{H_{ξ}} +β_{X} où β_{H_{ξ}} = β_{G_{2}⊕G_{3}} +∑_{j=q+1}^{n_{1}} β_{j}e_{j} et β_{X} = ∑_{k=1}^{q} β_{ℓ_{k}}e_{ℓ_{k}}:

[π_{(ξ,H_{ξ})}(β)f](γ(x)) = ∫_{(ℝ^{q})_{∗}} e^{i⟨p,x⟩} dp ∫_{ℝ^{q}} e^{−i⟨p,y⟩}e^{i ∑_{k=1}^{q} β_{ℓ_{k}} p_{k}}e^{iφ(x)}(f ∘ γ)(y) dy ,

avec φ(x) = ∫_{0}^{1} ψ(x, u) du où

ψ(x, u) = ⟨ξ ∘ e^{ad(x_{1}+β_{ℓ_{1}}u)e_{ℓ_{1}}} ∘ e^{ad(x_{2}+β_{ℓ_{2}}u)e_{ℓ_{2}}} ∘ ⋯ ∘ e^{ad(x_{q}+β_{ℓq} u)e_{ℓq}} , β⟩

−⟨ξ, β_{ℓ_{1}}e_{ℓ_{1}} + e^{ad(x_{1}+β_{ℓ_{1}}u)e_{ℓ_{1}}} · β_{ℓ_{2}}e_{ℓ_{2}} + e^{ad(x_{1}+β_{ℓ_{1}}u)e_{ℓ_{1}}} ∘ e^{ad(x_{2}+β_{ℓ_{2}}u)e_{ℓ_{2}}} · β_{ℓ_{3}}e_{ℓ_{3}}

+ ⋯ + e^{ad(x_{1}+β_{ℓ_{1}}u)e_{ℓ_{1}}} ∘ e^{ad(x_{2}+β_{ℓ_{2}}u)e_{ℓ_{2}}} ∘ ⋯ ∘ e^{ad(x_{q−1}+β_{ℓ_{q−1}}u)e_{ℓ_{q−1}}} · β_{ℓ_{q}}e_{ℓ_{q}}⟩,

donc son symbole de Weyl est exp^{∗} i⟨θ_{ξ}(−x, p), β⟩ = e^{i ∑_{k=1}^{q} β_{ℓ_{k}} p_{k}}e^{iΨ(x)}, où

Ψ(x) = ∫− \frac{1}{2}^{\frac{1}{2}} ψ(x, u) du = ψ(x, o)−

−⟨ξ_{3}, \frac{1}{12} ∑_{k=2}^{q} [v(β, k), [v(β, k), β_{ℓ_{k}}e_{ℓ_{k}}]] + \frac{1}{24} ∑_{k=1}^{q} [β_{ℓ_{k}}e_{ℓ_{k}}, [β_{ℓ_{k}}e_{ℓ_{k}}, v(β, k)]]⟩ .

avec v(β, k) = ∑_{j=q+1}^{n_{1}} β_{j}e_{j} + β_{ℓ_{1}}e_{ℓ_{1}} + ⋯ + β_{ℓ_{k−1}}e_{ℓ_{k−1}} .

Si la suite (e_{ℓ_{k}}) est donnée par (1.12), alors l’orthogonalité à G_{2} pour B_{ξ} des vecteurs e_{ℓ_{1}}, ⋯, e_{ℓ_{q−n′_{1}}} montre alors que le symbole de Weyl peut s’écrire sous la forme (1.15).

Proposition 1.7. La transformée de Fourier F^{W} (au sens de Wildberger) définie par

(F^{W} f)(η) =^{déf} ∫_{G} exp^{∗}(−i⟨η, β⟩)f(β) dβ pour f ∈ S(G) et η ∈ G^{∗},  (1.16)

possède les propriétés suivantes:

1) L’application f ↦ F^{W} f est une application continue de S(G) dans S(G^{∗}).

2) Pour f ∈ S(G), l’application ℝ^{q} ⊕(ℝ^{q})^{∗} → ℂ, (x, p) → (F^{W} f) (θ_{ξ}(x, p)) est dans S(ℝ^{q} ⊕ (ℝ^{q})^{∗}).

Démonstration. Le résultat 2) provient du fait que nous pouvons exprimer les variables x_{1}, x_{2}, …, x_{q} et p_{1}, p_{2}, …, p_{q} comme des fonctions polynomiales de ⟨η, u_{k}⟩, 1 ≤ k ≤ q et ⟨η, e_{ℓ_{k}}⟩, 1 ≤ k ≤ q.

Nous allons exprimer l’opérateur π_{(ξ,H_{ξ})}(φ) , φ ∈ S(G) en fonction de la transformée de Fourier de φ restreinte à l’orbite de ξ.

Proposition 1.8. Soit f ∈ E_{ξ} tel que f ∘ γ ∈ S(ℝ^{q}), nous avons :

∀β ∈ G , [π_{(ξ,H_{ξ})}(β)f](γ(x)) = f(γ(x)β)
= ∫_{(ℝ^{q})_{∗}} e^{i⟨p,x⟩} dp ∫_{ℝ^{q}} e^{−i⟨p,y⟩} exp^{∗} i⟨θ_{ξ}(−\frac{x+y}{2}, p), β⟩(f ∘ γ)(y) dy (1.17)

∀φ ∈ S(G) , [π_{(ξ,H_{ξ})}(φ)f](γ(x)) =
∫∫_{ℝ^{q}⊕(ℝ^{q})^{∗}} e^{i⟨p,x−y⟩}(F^{W} φ̌) (θ_{ξ}(−\frac{x+y}{2}, p)) (f ∘ γ)(y) dydp .  (1.18)

Démonstration. (1.17) résulte de la définition de exp^{∗} i⟨η, β⟩, β ∈ G, prouvons (1.18), nous avons:

[π_{(ξ,H_{ξ})}(φ)f](γ(x)) = ∫_{G} φ(β)f(γ(x)β) dβ

= ∫_{G} φ (β) dβ ∫_{(ℝ^{q})_{∗}} e^{i⟨p,x⟩}dp ∫_{ℝ^{q}} e^{−i⟨p,y⟩} exp^{∗} i⟨θ_{ξ} (−\frac{x+y}{2}, p) , β⟩ (f ∘ γ) (y) dy .

Soit N assez grand tel que _{∫ℝ^{q}} _{\frac{1}{(1+|p|^{2})^{N}}} dp < +∞, le deuxième membre peut

s’écrire

∫_{G} φ (β) dβ ∫_{(ℝ^{q})_{∗}} e^{i⟨p,x⟩}_{\frac{1}{(1+|p|^{2})^{N}}} dp ∫_{ℝ^{q}} e^{−i⟨p,y⟩}(I − Δ_{y})^{N}
\{exp^{∗} i⟨θ_{ξ} (−\frac{x+y}{2}, p) , β⟩ (f ∘ γ) (y)\} dy ,

ce qui s’exprime aussi par l’intégrale d’une fonction intégrable sur ℝ^{q} ⊕ (ℝ^{q})^{∗} ⊕ G

∫∫∫_{ℝ^{q}⊕(ℝ^{q})^{∗}⊕G} e^{i⟨p,x−y⟩}_{\frac{1}{(1+|p|^{2})^{N}}} (I − Δ_{y})^{N}
\{exp^{∗} i ⟨θ_{ξ} (−\frac{x+y}{2}, p) , β⟩ (f ∘ γ) (y)\} φ (β) dydpdβ ,

ou encore par

∫_{(ℝ^{q})_{∗}} e^{i⟨p,x⟩}_{\frac{1}{(1+|p|^{2})^{N}}} dp ∫∫_{ℝ^{q}⊕G} e^{−i⟨p,y⟩} (I − Δ_{y})^{N}
\{exp^{∗} i ⟨θ_{ξ} (−\frac{x+y}{2}, p) , β⟩ (f ∘ γ) (y)\} φ (β) dydβ
= ∫_{(ℝ^{q})_{∗}} e^{i⟨p,x⟩}_{\frac{1}{(1+|p|^{2})^{N}}} dp ∫_{ℝ^{q}} e^{−i⟨p,y⟩} (I − Δ_{y})^{N}
\{F^{W} φ̌ (θ_{ξ} (−\frac{x+y}{2}, p)) (f ∘ γ) (y)\} dy
= ∫∫_{ℝ^{q}⊕(ℝ^{q})^{∗}} e^{i⟨p,x−y⟩}(F^{W} φ̌)(θ_{ξ}( − \frac{x+y}{2}, p))(f ∘ γ)(y) dydp.

L’opérateur π_{(ξ,H_{ξ})}(φ) est à noyau:

Proposition 1.9. Pour φ ∈ S(G), f ∈ E_{π_{ξ}}, nous avons:

[π_{(ξ,H_{ξ})}(φ)f](γ(x)) = ∫_{ℝ^{q}} K_{φ}(γ(x), γ(y))f(γ(y))dy ,  (1.19)

où le noyau K_{φ} est défini par

K_{φ}(a, b) =^{déf} ∫_{H_{ξ}} e^{i⟨ξ,h⟩}φ(a^{−1}hb) dh ,  a ∈ G , b ∈ G ,  (1.20)

et peut s’écrire

K_{φ}(γ(x), γ(y)) = ∫_{(ℝ^{q})^{∗}} e^{i⟨p,x−y⟩}(F^{W} φ̌) (θ_{ξ}(−\frac{x+y}{2}, p)) dp  (1.21)

Démonstration. Nous avons

[π_{(ξ,H_{ξ})}(φ)f](γ(x)) = ∫_{G} φ(β)f(γ(x)β) dβ

et nous obtenons (1.19) et (1.20) en utilisant l’invariance à gauche de la mesure dβ et le difféomorphisme :

H_{ξ} × ℝ^{q} → G , (h, y) → β = hγ(y)

qui vérifie dβ = dhdy. L’expression (1.21) du noyau K_{φ} résulte alors de (1.18).

D’après Wildberger ([13], Proposition III.3.1), pour φ et ψ ∈ S(G) la transformée de Fourier F^{W} (φ ∗ ψ) du produit de convolution φ ∗ ψ s’obtient en composant sur chaque orbite F^{W} φ avec F^{W} ψ, cette composition, notée F^{W} φ#F^{W} ψ, peut s’exprimer sous la forme d’une intégrale et est donnée par le calcul de Weyl [7] .

Proposition 1.10. Pour φ et ψ ∈ S(G), nous avons:

(F^{W} (φ ∗ ψ))(θ_{ξ}(x, p))(= (F^{W} φ#F^{W} ψ)(θ_{ξ}(x, p))) =
∫∫_{ℝ^{q}⊕(ℝ^{q})^{∗}} e^{−i(⟨p,t⟩−⟨x,τ⟩)}(F^{W} φ)(θ_{ξ}(x + \frac{t}{2}, p + \frac{τ}{2})) ; (F^{W} ψ)(τ, t) dtdτ,(1.22)

où

 ; (F^{W} ψ)(τ, t) = ∫∫_{ℝ^{q}⊕(ℝ^{q})^{∗}} e^{−i(⟨x′,τ⟩−⟨p,t⟩)}(F^{W} ψ)(θ_{ξ}(x′, p)) dx′dp.  (1.23)

2. Symbole σ_{P} de P ∈ U(G) et fonctions poids

Soit P un opérateur différentiel invariant à gauche sur G élément de l’algèbre universelle enveloppante (complexifiée) U(G) de G. Comme dans [6], désignons par U_{m}(G) le sous espace de U(G) formé par les opérateurs P quasi-homogènes de degré m de la forme

P = ∑_{∥(α,β,γ)∥=m} a_{α,β,γ}X_{1}^{α_{1}} … X_{n_{1}}^{α_{n_{1}}}Y_{1}^{β_{1}} … Y_{n_{2}}^{β_{n_{2}}}Z_{1}^{γ_{1}} … Z_{n_{3}}^{γ_{n_{3}}}

où ∥(α, β, γ)∥ = |α| + 2 |β| + 3 |γ|, (X_{j})_{1≤j≤n_{1}} est une base de G_{1}, (Y_{j})_{1≤j≤n_{2}} une base de G_{2} et (Z_{j})_{1≤j≤n_{3}} une base de G_{3}.

Nous définissons le symbole σ_{P} de P en posant:

σ_{P} (η) = P (exp^{∗} i⟨η, β⟩)|_{β=0}  (2.1)

Proposition 2.1. Le symbole possède les propriétés suivantes:

1) Pour P ∈ U(G), σ_{P} est une fonction polynomiale de η ∈ G^{∗}.

2) Pour X vecteur de G, σ_{X} (η) = i⟨η, X⟩.

3) Si P ∈ U_{m}(G), nous avons: ∀t > 0, σ_{P} (δ_{t}η) = t^{m}σ_{P} (η) et

∀α ∈ ℕ^{n_{1}}, ∀β ∈ ℕ^{n_{2}}, ∃C = C_{α,β} : |(∂_{η_{1}}^{α}∂_{η_{2}}^{β}σ_{P} ) (η)| ≤ C (1 + ∥η∥)^{m−∥(α,β)∥} , (2.2)

où ∥(α, β)∥ = |α| + 2 |β| et ∥η∥ = |η_{1}| + |η_{2}|^{\frac{1}{2}} + |η_{3}|^{\frac{1}{3}} , |η_{i}| étant la norme euclidienne de η_{i} ∈ G_{i}^{∗}, 1 ≤ i ≤ 3,

∀f ∈ E_{ξ}, (π_{(ξ,H_{ξ})} (P) f) (γ (x)) =
∫_{(ℝ^{q})_{∗}} e^{i⟨p,x⟩} dp ∫_{ℝ^{q}} e^{−i⟨p,y⟩}σ_{P} (θ_{ξ} (−\frac{x+y}{2}, p)) f (γ (y)) dy .  (2.3)

Démonstration. Le résultat 2) résulte de l’expression de exp^{∗} i⟨η, β⟩. Prouvons 3), P ∈ U_{m}(G) vérifie ∀t > 0, ∀f ∈ C^{∞} (G) , P (f ∘ δ_{t}) = t^{m} (P f) ∘ δ_{t}, donc σ_{P} (δ_{t}η) = P (exp^{∗} i⟨δ_{t}η, β⟩)|_{β=0} = P (exp^{∗} i⟨η, δ_{t}β⟩)|_{β=0} = t^{m}σ_{P} (η).

Le résultat (2.2) découle de la compacité de la sphère Σ = {η ∈ G^{∗}, ∥ η ∥= 1} et (2.3) s’établit par dérivation à partir de (1.17).

Proposition 2.2. Soit η = θ_{ξ}(x, p) la carte donnée par (1.13) et (1.14). Nous avons:

∀a ∈ H_{ξ}, \frac{∂}{∂x_{j}} ⟨η, a⟩ = − ⟨η, [e_{ℓ_{j}}, a]⟩ .  (2.4)

Il existe une constante C > 0 telle que

∀j ∈ [1, q] , ∀k ∈ [1, q] |\frac{∂}{∂x_{j}} ⟨η, e_{ℓ_{k}}⟩| ≤ C(1 + |η_{2}|) ,  (2.5)

où |η_{2}| désigne la norme euclidienne de la restriction de η à G_{2}.

Démonstration. L’égalité (2.4) découle de (1.13) et du fait que a est orthogonal à G_{2} pour B_{ξ}. Prouvons (2.5), d’après (1.14) la dérivée \frac{∂}{∂x_{j}} ⟨η, e_{ℓ_{k}}⟩ ne dépend pas des variables x_{1}, x_{2}, …, x_{q−n′_{1}} et est une fonction affine de x_{q−n′_{1}+1}, …, x_{q}. En considérant la base B = {u_{1}, u_{2}, …, u_{n′_{1}}, v_{n′_{1}+1}, …, v_{n_{2}}} de G_{2} de la démonstration du lemme 1.1 nous pouvons exprimer \frac{∂}{∂x_{j}} ⟨η, e_{ℓ_{k}}⟩ comme fonction affine de la restriction de η à G_{2}.

Proposition 2.3. Soit η = θ_{ξ}(x, p) = θ_{ξ}^{G_{1}^{∗}}(x, p) + θ_{ξ}^{G_{2}^{∗}⊕G_{3}^{∗}}(x) ∈ G_{1}^{∗} ⊕ (G_{2}^{∗} ⊕ G_{3}^{∗}) la carte associée à la suite (e_{ℓ_{k}})_{1≤k≤q} donnée par (1.13) et (1.14) et posons:

Φ(x, p) = 1 + ∥θ_{ξ}(−x, p)∥ , ϕ (x, p) = (1 + ∥θ_{ξ}^{G_{2}^{∗}⊕G_{3}^{∗}}(−x)∥)^{−1},  (2.6)

où ∥.∥ désigne la norme homogène donnée à la proposition 2.1.

1) Le symbole σ_{P} de P ∈ U_{m}(G)vérifie:

∀α ∈ ℕ^{q}, ∀β ∈ ℕ^{q}, ∃C_{α,β} = C_{α,β}(ξ) > 0 :
|∂_{x}^{α}∂_{p}^{β}σ_{P} (θ_{ξ} (−x, p))| ≤ C_{α,β} [Φ(x, p)]^{m−|β|} [ϕ(x, p)]^{−|α|} . (2.7)

2) Les fonctions Φ, ϕ sont des fonctions poids au sens de Beals ([2],[3]).

Démonstration. Le premier point résulte des deux propositions précédentes.

D’après [2],[3] et [7], les fonctions Φ, ϕ sont des fonctions poids si elles vérifient les trois propriétés suivantes:

i) Φϕ ≥ 1.

ii) Il existe des constantes strictement positives c, C telles que:

c ≤ Φ(x, p)/Φ(x′, p′) ≤ C et c ≤ ϕ(x, p)/ϕ(x′, p′) ≤ C
si |x − x′| ≤ cϕ(x, p) et |p − p′| ≤ cΦ(x, p) .

iii) Si nous posons R(x, p) = \frac{Φ(x, p)}{ϕ(x, p)} , alors il existe des constantes strictement

positives c, C, δ telles que R(x′, p′)/R(x, p) ≤ C si:

R(x, p)|x − x′|^{2} + |p − p′|^{2}/R(x′, p′) ≤ c(R(x′, p′)/R(x, p))^{δ} .

D’après leurs définitions, il est clair que Φ, ϕ vérifient la propriété i). Pour prouver qu’elles vérifient aussi ii), nous remarquons d’abord que la fonction ϕ(x, p) ne dépend que de x̄ = (x_{q−n′_{1}+1}, x_{q−n′_{1}+1}, …, x_{q}) et est du même ordre que (1+|x̄|)^{\frac{1}{2}} , donc l’encadrement de ϕ(x, p)/ϕ(x′, p′) résulte de l’inégalité:

\frac{1 + |x̄′|}{1 + |x̄|} ≤ 1 + |x̄ − x̄′|.

Ensuite, d’après la proposition 2.2, les valeurs absolues des dérivées par rapport à x de chaque composante de θ_{ξ}(−x, p) sont majorées par cϕ(x, p)^{−2} (c constante > 0), d’où, par la formule de Taylor à l’ordre 2 et Φϕ ≥ 1, l’encadrement de Φ(x, p)/Φ(x′, p′). Prouvons finalement la propriété iii) avec δ ∈]0, \frac{2}{3}[. Posons

X = \frac{R(x′, p′)}{R(x, p)} = \frac{Φ(x′, p′)}{Φ(x, p)} \frac{ϕ(x, p)}{ϕ(x′, p′)}

et montrons que X est borné si

|x − x′| ≤ cX^{\frac{δ}{2}} R(x, p)^{− \frac{1}{2}} et |p − p′| ≤ cX^{\frac{δ}{2}} R(x′, p′)^{\frac{1}{2}} .

Nous avons, avec des constantes C:

\frac{ϕ(x, p)}{ϕ(x′, p′)} ≤ C(1 + |x − x′|)^{\frac{1}{2}} ≤ C(1 + X^{\frac{δ}{2}} R(x, p)^{− \frac{1}{2}} )^{\frac{1}{2}} ≤ C(1 + X^{\frac{δ}{4}} ) .

Par Taylor à l’ordre 2 au point (x, p) pour chaque composante de θ_{ξ}(−x, p), nous obtenons:

Φ(x′, p′) ≤ C(Φ(x, p) + X^{\frac{δ}{2}} R(x′, p′)^{\frac{1}{2}} + ϕ(x, p)^{−2}X^{\frac{δ}{2}} R(x, p)^{− \frac{1}{2}} +

X^{δ}R(x, p)^{−1} + X^{\frac{δ}{4}} R(x, p)^{− \frac{1}{4}} ) .

D’une part

X^{\frac{δ}{2}} \frac{R(x′, p′)^{\frac{1}{2}}}{Φ(x, p)} = X^{\frac{δ}{2}} \frac{R(x′, p′)^{\frac{1}{2}}}{R(x, p)^{\frac{1}{2}}} \frac{R(x, p)^{\frac{1}{2}}}{Φ(x, p)} = X^{\frac{δ}{2} + \frac{1}{2}} [Φ(x, p)ϕ(x, p)]^{− \frac{1}{2}} ≤ X^{\frac{δ}{2} + \frac{1}{2}} ,

d’autre part

ϕ(x, p)^{−2}R(x, p)^{− \frac{1}{2}} Φ(x, p)^{−1} = [Φ(x, p)ϕ(x, p)]−\frac{3}{2} ≤ 1 ,

donc

X ≤ C(1 + X^{\frac{δ}{2} + \frac{1}{2}} + X^{\frac{δ}{2}} + X^{δ} + X^{\frac{δ}{4}} )(1 + X^{\frac{δ}{4}} ) ,

où C est une constante indépendante de X, ceci montre que X est borné si on choisit δ dans l’intervalle ]0, \frac{2}{3}[.

3. Paramétrix de π_{(ξ,H_{ξ})}(P), P ∈ U_{m}(G)

Dans ce paragraphe, nous allons, sous une hypothèse sur π_{(ξ,H_{ξ})}(P), cons-truire une paramétrix de cet opérateur (Théorème 3.5).

Lemme 3.1. Soient (e_{i})_{1≤i≤n} la base de G_{1} définie au lemme 1.1, X = Vect(e_{1}, e_{2}, …, e_{q}),

ẽ_{j} =^{déf} e_{j} + ∑_{k=1}^{n′_{1}}⟨ξ, [e_{j}, e_{k}]⟩u_{k} , q + 1 ≤ j ≤ n_{1},

G′_{1} =^{déf} X ⊕ Ỹ où Ỹ =^{déf} Vect(ẽ_{q+1}, ẽ_{q+2}, …, ẽ_{n_{1}}).

Notons δ_{t}^{∗} la transposée de la dilatation δ_{t} : G = G_{1} ⊕ G_{2} ⊕ G_{3} → G donnée par δ_{t} (β_{1}, β_{2}, β_{3}) = (tβ_{1}, t^{2}β_{2}, t^{3}β_{3}), et soient

Γ la fermeture dans G^{∗} de l’ensemble {δ_{t}^{∗}θ_{ξ}(x, p) | t > 0, (x, p) ∈ ℝ^{q} ⊕ (ℝ^{q})^{∗}}, p_{1}^{∗} la projection de G^{∗} = G′_{1}^{∗} ⊕ G_{2}^{∗} ⊕ G_{3}^{∗} sur G′_{1}^{∗} parallèlement à G_{2}^{∗} ⊕ G_{3}^{∗}, τ_{η_{1}^{0}} la translation G′_{1}^{∗} → G′_{1}^{∗} de vecteur η_{1}^{0} = −p_{1}^{∗}(θ_{ξ}(0, 0)) . Ω(ξ) l’ensemble Ω(ξ) = (τ_{η_{1}^{0}} ∘ p_{1}^{∗})(O(ξ)).

Avec ces notations, nous avons l’inclusion

\overline{Ω(ξ)} × \{(0, 0)\} ⊂ Γ  (3.1)

et \overline{Ω(ξ)} est un ensemble conique (sω ∈ \overline{Ω(ξ)} si s > 0 et ω ∈ \overline{Ω(ξ)}).

Démonstration. Introduisons d’abord quelques notations. Soit p(t) la forme linéaire de (ℝ^{q})^{∗} définie pour t > 0 par

∀k ∈ [1, q] , (p(t)_{k} = \frac{1}{t}p_{k} + \frac{1}{t} ∑_{q−n′_{1}+1≤σ≤q , σ>k} x_{σ}⟨ξ, [e_{ℓ_{σ}}, e_{ℓ_{k}}]⟩ .

Posons ℝ^{q} = ℝ^{q−n′_{1}} × ℝ^{n′_{1}}, x = (y, z) où y = (x_{1}, x_{2}, …, x_{q−n′_{1}}) , z = (x_{q−n′_{1}+1}, …, x_{q}) et, pour t > 0

η(t) = δ_{t}^{∗}θ_{ξ}(\frac{y}{t} , \frac{z}{\sqrt{t}}, p(t)) .

Pour obtenir l’inclusion (3.1)), nous allons montrer que la limite lim_{t→0^{+}} η(t) existe dans G^{∗} et est une forme linéaire η qui vérifie

η|_{G_{2}⊕G_{3}} = 0 et ∀u ∈ G′_{1} , ⟨η, u⟩ = ⟨θ_{ξ}(x, p) − θ_{ξ}(0, 0), u⟩ .  (3.2)

D’après (1.14), nous avons

lim_{t→0^{+}}⟨η(t), e_{ℓ_{k}}⟩ = ⟨θ_{ξ}(x, p), e_{ℓ_{k}}⟩ , 1 ≤ k ≤ q .

Les vecteurs ẽ_{k}, q + 1 ≤ k ≤ n_{1}, sont dans H_{ξ} et vérifient d’après (1.13)

lim_{t→0^{+}}⟨η(t), ẽ_{k}⟩ = ⟨θ_{ξ}(x, p) − θ_{ξ}(0, 0), ẽ_{k}⟩ , q + 1 ≤ k ≤ n_{1} .

Également, pour v ∈ G_{2} ⊕ G_{3},

lim_{t→0^{+}}⟨η(t), v⟩ = 0 .

Nous obtenons ainsi (3.2)). L’ensemble Ω(ξ) est conique car en notant θỸ ; ξ (x) la restriction de θ_{ξ}(x, p) à Ỹ, nous avons p_{1}^{∗}(O(ξ)) = {(p, θỸ ; ξ (x)) | (x, p) ∈ ℝ^{q} ⊕ (ℝ^{q})^{∗}} et

∀s > 0, ∀p, ∀y, ∀z, s(p, θỸ ; ξ (y, z) − θỸ ; ξ (0, 0)) = (sp, θỸ ; ξ (sy, \sqrt{s}z) − θỸ ; ξ (0, 0)) .

Définition 3.2. Pour simplifier l’écriture, nous notons π_{ξ} la représentation induite π_{ξ} = π_{(ξ,H_{ξ})} de G dans L^{2}(X) définie en (1.6). Soient p ∈ ℕ et U^{p}(G) = ⊕_{j=0}^{p}U_{j}(G), nous notons H_{π_{ξ}}^{p}(X) l’espace de Sobolev:

H_{π_{ξ}}^{p}(X) = {u ∈ L^{2}(X)| π_{ξ}(Q)u ∈ L^{2}(X) quel que soit Q ∈ U^{p}(G)} . (3.3)

Soit, pour chaque j ∈ [0, p], une base (Q_{jk}) de U_{j}(G), nous posons:

|||u|||_{j,π_{ξ}} = (∑_{k} ||π_{ξ}(Q_{jk})u||_{L^{2}(X)}^{2})^{\frac{1}{2}} , 0 ≤ j ≤ p.

L’espace H_{π_{ξ}}^{p}(X) est muni de la norme

||u||_{p,π_{ξ}} = (∑_{j=0}^{p} |||u|||_{j,π_{ξ}}^{2})^{\frac{1}{2}} .  (3.4)

Lemme 3.3. Soit P ∈ U_{m}(G) tel que π_{(ξ,H_{ξ})}(P) soit un homéomorphisme linéaire de H_{π_{ξ}}^{m}(X) sur L^{2}(X) et Ω(ξ) le sous-ensemble (τ_{η_{1}^{0}} ∘ p_{1}^{∗})(O(ξ)) de G′_{1}^{∗}. Pour m′ ∈ ℝ, notons S^{m′}(G′_{1}^{∗}) l’espace

{a ∈ C^{∞}(G′_{1}^{∗}) | ∀α ∈ ℕ^{n_{1}}, |(∂_{η_{1}}^{α}a)| ≤ C_{α}(1 + |η_{1}|)^{m′−|α|}}

et soit σ_{P} le symbole de P , nous avons:

i) La fonction σ définie par σ(η_{1}) = σ_{P} (η_{1}, 0, 0) appartient à S^{m}(G′_{1}^{∗}) et ne s’annule pas sur \overline{Ω(ξ)} \ \{0\}.

ii) Il existe q_{0} ∈ S^{−m}(G′_{1}^{∗}) tel que

σq_{0} = 1 + φ avec φ ∈ C^{∞}(G′_{1}^{∗}) , φ(η_{1}) = 0 pour η_{1} ∈ \overline{Ω(ξ)} et |η_{1}| > \frac{3}{4},

| · | désignant une norme euclidienne dans G′_{1}^{∗}.

Démonstration. D’après ([12], théorème 5.10), pour tout η_{1} ∈ \overline{Ω(ξ)} \ \{0\}, l’opérateur π_{(η_{1},0,0)}(P) est injectif. L’algèbre de Lie G est subordonneée maximale pour la forme linéaire (η_{1}, 0, 0) de G^{∗}, donc la représentation induite π_{((η_{1},0,0),G)} est scalaire et, pour β = (β_{1}, β_{2}, β_{3}) ∈ G′_{1} ⊕ G_{2} ⊕ G_{3}, l’opérateur π_{((η_{1},0,0),G)}(β) est l’application ℂ → ℂ, u ↦ e^{i<η_{1},β_{1}>} u, l’opérateur π_{((η_{1},0,0),G)}(P) est alors l’application u ↦ σ(η_{1})u. Le polynôme σ(η_{1}) est homogène de degré m et nous avons le résultat i). Soient | · | une norme euclidienne dans G′_{1}^{∗}, d la distance définie par cette norme et S la sphère unité de G′_{1}^{∗}. L’ensemble K = \overline{Ω(ξ)} ∩ S est compact et la fonction σ(η_{1}) ne s’annule pas sur K, donc il existe r > 0 tel que, en désignant d(η_{1}, K) la distance de η_{1} à K:

d(η_{1}, K) < r implique σ(η_{1}) ≠ 0.

Soient θ une fonction de C_{0}^{∞}(G′_{1}^{∗}) égale à 1 sur un voisinage de K et à support dans {η_{1} ∈ G′_{1}^{∗} | d(η_{1}, K) < r} et χ une fonction de C^{∞}(G′_{1}^{∗}) égale à 0 pour |η_{1}| < \frac{1}{4} et à 1 pour |η_{1}| > \frac{3}{4} .

Si nous posons q_{0}(η_{1}) = \frac{1}{σ(η_{1})}χ(η_{1})θ(\frac{η_{1}}{|η_{1}|}) pour η_{1} ∈ G′_{1}^{∗}, alors nous avons

q_{0} ∈ C^{∞}(G′_{1}^{∗}) et, pour |η_{1}| > \frac{3}{4} et t > 1, q_{0}(tη_{1}) = t^{−m}q_{0}(η_{1}), donc q_{0} ∈ S^{−m}(G′_{1}^{∗}), d’où le résultat ii).

Introduisons une classe de symboles.

Définition 3.4. Si f est une fonction définie sur O(ξ), nous posons f_{ξ}(x, p) = f(θ_{ξ}(−x, p)). Pour m′ ∈ ℝ et N ∈ ℕ, nous notons S^{m′,−N}(O (ξ)) la classe

S^{m′,−N}(O(ξ)) = {f : O(ξ) ↦ ℂ | f_{ξ} ∈ C^{∞}(ℝ^{q} ⊕ (ℝ^{q})^{∗}) et
∀(α, β) ∈ (ℕ^{q})^{2}, ∃C_{α,β} > 0 : |(∂_{x}^{α}∂_{p}^{β}f_{ξ})(x, p)| ≤
C_{α,β}[Φ(x, p)]^{m′−|β|}[ϕ(x, p)]^{−|α|}[Φ(x, p)ϕ(x, p)]^{−N}} .

Nous posons S^{m′,−∞}(O (ξ)) = ∩_{N∈ℕ}S^{m′,−N}(O (ξ)) et S^{m′}(O(ξ)) = S^{m′,0}(O(ξ)).

Les espaces S^{m′,−N}(O (ξ)) munis des semi-normes habituelles sont des espaces de Fréchet.

La classe de symboles S^{m′,−N}(O (ξ)) peut être associée à une métrique Riemannienne sur ℝ^{q} × (ℝ^{q})^{∗} selon Hormander [7]. Reprenons les notations de la preuve de la proposition 2.3, la propriété ii) des fonctions poids Φ et ϕ exprime que la métrique

g_{(x,p)}(x′, p′) = \frac{|x′|^{2}}{ϕ(x, p)^{2}} + \frac{|p′|^{2}}{Φ(x, p)^{2}}

varie lentement, de plus si σ est la forme symplectique définie par

σ(x, p; x′, p′) =< p, x′ > − < p′, x >

et g^{σ} la métrique duale de g par rapport à σ:

g_{(x,p)}^{σ}(x′, p′) = |x′|^{2}Φ(x, p)^{2} + |p′|^{2}ϕ(x, p)^{2} ,

la propriété Φϕ ≥ 1 exprime que g ≤ g^{σ} et la propriété iii) implique que g est σ tempérée, c’est à dire vérifie:

Φ(x, p)/Φ(x′, p′) + ϕ(x, p)/ϕ(x′, p′) ≤ C(1 + g_{(x′,p′)}^{σ}(x − x′, p − p′))^{N} .

Cette inégalité implique également que, pour m′ ∈ ℝ et N ∈ ℕ, la fonction m(x, p) = [Φ(x, p)]^{m′}[Φ(x, p)ϕ(x, p)]^{−N} est σ, g tempérée et la classe S^{m′,−N}(O (ξ)) est la classe notée S(m′, g) dans [7]. Dans la suite de cet article, la composition des symboles est alors donnée par le calcul de Weyl.

Théorème 3.5. Soit G une algèbre de Lie graduée de rang 3, P ∈ U_{m}(G) tel que π_{(ξ,H_{ξ})}(P) soit un homéomorphisme linéaire de H_{π_{ξ}}^{m}(X) sur L^{2}(X) et σ_{P} le symbole de P. Il existe q ∈ S^{−m}(O(ξ)) et r ∈ S^{0,−∞}(O(ξ)) tels que

σ_{P,ξ}#q = 1 + r où  σ_{P,ξ}(x, p) = σ_{P} (θ_{ξ}(−x, p)).  (3.5)

Démonstration. A toute fonction f définie sur C^{∞}(G′_{1}^{∗}), associons la fonction translatée définie par τ_{η_{1}^{0}}f(η_{1}) = f(η_{1} −η_{1}^{0}) et posons, avec les notations du lemme précédent :

σ_{1} = τ_{η_{1}^{0}}σ , q_{1} = τ_{η_{1}^{0}}q_{0} , φ_{1} = τ_{η_{1}^{0}}φ.

Ces fonctions appartiennent respectivement aux espaces S^{m}(G′_{1}^{∗}), S^{−m}(G′_{1}^{∗}), C^{∞}(G′_{1}^{∗}) et vérifient

σ_{1}q_{1} = 1+φ_{1} avec φ_{1} ∈ C^{∞}(G′_{1}^{∗}) , φ_{1}(η_{1}) = 0 pour η_{1} ∈ p_{1}^{∗}(O(ξ)) et |η_{1}−η_{1}^{0}| > \frac{3}{4}.

Introduisons, pour m′ ∈ ℝ et τ ∈ ℝ, les espaces

S^{m′,τ}(G′_{1}^{∗} ⊕ G_{2}^{∗}) = {a ∈ C^{∞}(G′_{1}^{∗} ⊕ G_{2}^{∗}) | ∀(α, β) ∈ ℕ^{n_{1}} × ℕ^{n_{2}}, ∃C = C_{α,β} > 0 :

|(∂_{η_{1}}^{α}∂_{η_{2}}^{β}a)(η_{1}, η_{2})|≤C(1 + |η_{1}| + |η_{2}|^{\frac{1}{2}} )^{m′−|α|−2|β|}(\frac{1 + |η_{2}|^{\frac{1}{2}}}{1 + |η_{1}| + |η_{2}|^{\frac{1}{2}}} )^{τ−Min(τ,|β|)}\}

et soient ψ ∈ C_{0}^{∞}(G′_{1}^{∗}), ψ = 1 dans un voisinage de l’origine et χ_{1} la fonction

définie sur G′_{1}^{∗} ⊕ G_{2}^{∗} par χ_{1}(η_{1}, η_{2}) = 1 − ψ(\frac{η_{1}}{(1 + |η_{2}|^{2})^{\frac{1}{4}}} ). Sur le support de

1 − χ_{1}, les fonctions 1 + |η_{2}|^{\frac{1}{2}} et 1 + |η_{1}| + |η_{2}|^{\frac{1}{2}} sont du même ordre et nous pouvons alors vérifier que 1 − χ_{1} ∈ S^{0,1}(G′_{1}^{∗} ⊕ G_{2}^{∗}) et χ_{1} ∈ S^{0,0}(G′_{1}^{∗} ⊕ G_{2}^{∗}). Il existe une constante C > 0 telle que χ_{1}(η_{1}, η_{2}) ≠ 0 implique |η_{1}| ≥ C(1 + |η_{1}| + |η_{2}|^{\frac{1}{2}} ) et il est alors facile de voir que la fonction q_{2} définie par q_{2}(η_{1}, η_{2}) = q_{1}(η_{1})χ_{1}(η_{1}, η_{2}) appartient à S^{−m,0}(G′_{1}^{∗} ⊕ G_{2}^{∗}).

Posons θ_{ξ}(x, p) = (θ_{ξ}^{G′_{1}}(x, p), θ_{ξ}^{G_{2}}(x), θ_{ξ}^{G_{3}}) ∈ G′_{1}^{∗} ⊕ G_{2}^{∗} ⊕ G_{3}^{∗} et introduisons les fonctions de C^{∞}(ℝ^{q} ⊕ (ℝ^{q})^{∗}),

\begin{aligned}q_{2,ξ}(x, p) & = q_{2}(θ_{ξ}^{G′_{1}}(−x, p), θ_{ξ}^{G_{2}}(−x)) ∈ S^{−m}(O(ξ)), \\ σ_{1,ξ}(x, p) & = σ_{1}(θ_{ξ}^{G′_{1}}(−x, p))∈ S^{m}(O(ξ)), \\ χ_{1,ξ}(x, p) & = χ(θ_{ξ}^{G′_{1}}(−x, p), θ_{ξ}^{G_{2}}(−x))∈ S^{0}(O(ξ)), \\ q_{1,ξ}(x, p) & = q_{1}(θ_{ξ}^{G′_{1}}(−x, p), ) ∈ S^{−m}(O(ξ)). \end{aligned}

Etudions σ_{P,ξ}#q_{2,ξ} − 1 = (σ_{P,ξ} − σ_{1,ξ})#q_{2,ξ} + [σ_{1,ξ}#(χ_{1,ξ}q_{1,ξ}) − χ_{1,ξ}σ_{1,ξ}q_{1,ξ}] + χ_{1,ξ}(σ_{1,ξ}q_{1,ξ} − 1) + χ_{1,ξ} − 1 en examinant chaque terme du second membre. Nous avons σ_{P} − σ_{1} ∈ S^{m,1}(G′_{1}^{∗} ⊕ G_{2}^{∗}), donc σ_{P,ξ} − σ_{1,ξ} ∈ S^{m,−1}(O(ξ)) et le premier terme (σ_{P,ξ} −σ_{1,ξ})#q_{2,ξ} appartient à S^{0,−1}(O(ξ)). Le deuxième terme et le dernier χ_{1,ξ}−1 sont dans S^{0,−1}(O(ξ)), le troisième est dans C_{0}^{∞}(ℝ^{q}⊕(ℝ^{q})^{∗}) ⊂ S^{0,−1}(O(ξ)). Finalement, nous avons σ_{P,ξ}#q_{2,ξ} − 1 ∈ S^{0,−1}(O(ξ)). Le calcul symbolique classique nous permet alors de trouver une fonction q ∈ S^{−m}(O(ξ)) et une fonction r ∈ S^{0,−∞}(O(ξ)) qui vérifient (3.5).

Aux symboles de la classe S^{m′}(O(ξ)) avec m′ ≤ 0 correspondent des opérateurs continus :

Proposition 3.6. Si a est un symbole de S^{m′}(O(ξ)) avec m′ ≤ 0, alors l’opérateur a^{Weyl}(x, D) de symbole de Weyl a est continu de L^{2}(ℝ^{q}) dans L^{2}(ℝ^{q}).

Démonstration. Il suffit d’appliquer le théorème 5.3 de [7].

4. Propriétés générales des opérateurs π_{(ξ,H_{ξ})}(Q), Q ∈ U(G)

Nous établissons d’abord quelques propriétés essentiellement algébriques des fonctions de l’espace S(G), puis nous introduisons un espace s(O(ξ)) de fonctions à décroissance rapide définies sur l’orbite O(ξ) sur lequel nous faisons agir les opérateurs π_{(ξ,H_{ξ})}(Q), Q ∈ U(G).

Proposition 4.1. Si, pour a ∈ ℝ^{q}, f ∈ S(G), g ∈ G, nous posons:

(L_{a}f) (g) =^{déf} ∫_{H_{ξ}} e^{−i⟨ξ,h⟩}f (γ (a)^{−1} hg)dh  (4.1)

alors L_{a}f ∈ E_{π_{ξ}} et vérifie :

i) ∀x ∈ ℝ^{q}, (L_{a}f) (γ (x)) = Kf̌(γ (x) , γ (a))

ii) ∀Q ∈ U (G) , L_{a} (Qf) = π_{(_{ξ,H_{ξ}})} (Q) · (L_{a}f)

Démonstration. Les deux premiers points se vérifient sur les définitions. Pour prouver ii), il suffit de considérer un champ de vecteurs U, il vient :

[π_{(_{ξ,H_{ξ}})} (U) · L_{a}f](g) = \frac{d}{dt} (L_{a}f) (g exp tU)|_{t=0}
= ∫_{H_{ξ}} e^{−i⟨ξ,h⟩} \frac{d}{dt}f (γ (a)^{−1} hg exp tU)|_{t=0} dh
= (L_{a} (Uf)) (g) .

Proposition 4.2. Soit l’espace s(O(ξ)) =^{déf} ∩_{m′∈ℝ}S^{m′}(O(ξ)). La fonction f appartient à s(O(ξ)) si et seulement si f_{ξ} = f (θ_{ξ}(−x, p))) appartient à l’espace C^{∞} (ℝ^{q} ⊕ (ℝ^{q})^{∗}) et vérifie

∀N ∈ ℕ , ∀(α, β) ∈ (ℕ^{q})^{2} , ∃C = C_{N,α,β} > 0 : |(∂_{x}^{α}∂_{p}^{β}f_{ξ}) (x, p)| ≤ C [Φ(x, p)]^{−N} ,

ou, en posant γ_{1}(x) = ∑_{i=1}^{q} x_{i}e_{i},

∀N ∈ ℕ , ∀(α, β) ∈ (ℕ^{q})^{2} , ∃C = C_{N,α,β} > 0 :

|(∂_{x}^{α}∂_{p}^{β}f_{ξ}) (x, p)| ≤ C (1 + |p| + ∥ξ ∘ e^{− ad γ_{1}(x)}|_{H_{ξ}} ∥)^{−N} .

Définition 4.3. Pour f ∈ s(O(ξ)), nous notons (L̂_{a}f)(x) le noyau de l’opérateur pseudo-différentiel f_{ξ}^{Weyl}(x, D) de symbole de Weyl f_{ξ}(x, p), c’est à dire

∀a ∈ ℝ^{q}, ∀x ∈ ℝ^{q} (L̂_{a}f) (x) =^{déf} ∫_{_{(ℝ^{q})}_{∗}} e^{i⟨p,x−a⟩}f_{ξ} (\frac{x+a}{2}, p) dp  (4.2)

Pour a = 0, nous notons simplement L̂f la fonction L̂_{0}f

Proposition 4.4. Nous avons les propriétés suivantes:

1) Pout tout h ∈ S(G), la restriction à O(ξ) de la transformée de Fourier F^{W} h appartient à s(O(ξ)) et vérifie

∀x ∈ ℝ^{q} , (L_{a}h)(γ(x)) = (L̂_{a}(F^{W} h))(x).  (4.3)

2) Si f ∈ s(O(ξ)), l’application (x, a) ↦ k_{f}(x, a) = (L̂_{a}f)(x) est dans l’espace de Schwartz S(ℝ^{q} × ℝ^{q}).

3) Si f ∈ s(O(ξ)) vérifie L̂_{a}f = 0 quel que soit a ∈ ℝ^{q}, alors f = 0.

4) Pour f, g ∈ s(O(ξ)) et Q ∈ U(G), la relation

σ_{Q}#g = f ,  (4.4)

où (σ_{Q}#g)_{ξ}(x, p) = (σ_{Q,ξ}#g_{ξ})(x, p) avec σ_{Q,ξ}(x, p) = σ_{Q}(θ_{ξ}(−x, p)) et g_{ξ}(x, p) = g(θ_{ξ}(−x, p)), est équivalente à

∀a ∈ ℝ^{q}, π_{(ξ,H_{ξ})}(Q).L̂_{a}g = L̂_{a}f .  (4.5)

Démonstration. 1) découle des définitions et de la proposition 1.9.

2) se vérifie à partir de l’expression de θ_{ξ}(x, p) .

3) est obtenu en posant x + a = 2u et x − a = v

∀(u, p) ∈ ℝ^{q} ⊕ (ℝ^{q})^{∗} f_{ξ}(u, p) = ∫_{ℝ^{q}} e^{−i<p,v>}(L̂_{u− \frac{v}{2}} f)(u + \frac{v}{2}) dv = 0.

4) résulte du fait que σ_{Q}#f est le noyau de l’opérateur π_{(ξ,H_{ξ})}(Q) ∘ f_{ξ}^{Weyl}(x, D) et du point précédent.

5. Hypothèse (H), espace s(O(ξ)) et opérateur π_{(ξ,H_{ξ})}(P)

Définition 5.1. Soient a ∈ X et τ_{a} la translation S(X) → S(X), f ↦ τ_{a}f définie par (τ_{a}f)(x) = f(x + a) et notons π_{(ξ,H_{ξ})}^{a}(P), ou plus simplement π_{ξ}^{a}(P), l’opérateur translaté

π_{(ξ,H_{ξ})}^{a}(P) = τ_{a} ∘ π_{(ξ,H_{ξ})}(P) ∘ τ_{a}^{−1}  (5.1)

Soit p ∈ ℕ, U^{p}(G) = ⊕_{j=0}^{p}U_{j}(G), nous désignons par H_{π_{ξ}^{a}}^{p}(X) l’espace de Sobolev:

H_{π_{ξ}^{a}}^{p}(X) = {u ∈ L^{2}(X)| π_{ξ}^{a}(Q)u ∈ L^{2}(X) quel que soit Q ∈ U^{p}(G)} . (5.2)

Soit, pour chaque j ∈ [0, p], une base (Q_{jk}) de U_{j}(G), nous posons:

|||u|||_{j,π_{ξ}^{a}} = (∑_{k} ||π_{ξ}^{a}(Q_{jk})u||_{L^{2}(X)}^{2})^{\frac{1}{2}} , 0 ≤ j ≤ p.

L’espace H_{π_{ξ}^{a}}^{p}(X) est muni de la norme

||u||_{p,π_{ξ}^{a}} = (∑_{j=0}^{p} |||u|||_{j,π_{ξ}^{a}}^{2})^{\frac{1}{2}} .  (5.3)

Pour a = 0, nous avons π_{ξ}^{a} = π_{ξ} et nous retrouvons l’espace défini par (3.3) avec la norme (3.4).

Définition 5.2. Nous disons que P ∈ U_{m}(G) vérifie l’hypothèse (H) si, pour tout s de ℕ, l’opérateur π_{ξ}(P) = π_{(ξ,H_{ξ})}(P) est un homéomorphisme linéaire de H_{π_{ξ}}^{s+m}(X) sur H_{π_{ξ}}^{s}(X).

Proposition 5.3. Si P ∈ U_{m}(G) vérifie (H), alors

i) L’opérateur π_{ξ}^{a}(P) est, pour tout s ∈ ℕ un homéomorphisme linéaire de H_{π_{ξ}^{a}}^{s+m}(X) sur H_{π_{ξ}^{a}}^{s}(X) tel que

∥π_{ξ}^{a}(P)∥ = ∥π_{ξ}(P)∥ et ∥[π_{ξ}^{a}(P)]^{−1}∥ = ∥[π_{ξ}(P)]^{−1}∥ .

ii) Les opérateurs π_{ξ}(P) et π_{ξ}^{a}(P) sont des isomorphismes d’espaces de Fréchet de S(X) sur S(X).

Démonstration. i) résulte des définitions. Prouvons ii), la représentation π_{ξ} étant irréductible, nous avons ∩_{k∈ℕ}H_{π_{ξ}}^{km}(X) = S(X). Soit φ ∈ S(X), son antécédent ψ = [π_{ξ}(P)]^{−1}φ par l’application π_{ξ}(P) : H_{π_{ξ}}^{m}(X) ↦ L^{2}(X) est un élément de H_{π_{ξ}}^{m}(X). Pour tout k ∈ ℕ^{∗}, nous avons [π_{ξ}(P)]^{k}ψ = [π_{ξ}(P)]^{k−1}φ ∈ S(X), donc, d’après l’hypothèse (H), ψ appartient à chaque espace H_{π_{ξ}}^{km}(X) et par suite à S(X). Si p est une semi-norme dans S(X), alors il existe C > 0 et k ∈ ℕ assez grand tel que p(ψ) ≤ C∥ψ∥_{H_{π_{ξ}}^{km}(X)}, la continuité de [[π_{ξ}(P)]^{k}]^{−1} de L^{2}(X) dans H_{π_{ξ}}^{km}(X) implique que [π_{ξ}(P)]^{−1} est continu de S(X) dans S(X).

Définition 5.4. Nous désignons par ṡ(O(ξ)) l’espace

ṡ(O(ξ)) = { ψ ∈ C^{∞} (ℝ^{q} ⊕ ℝ^{q})| ∀N ∈ ℕ , ∀(α, β) ∈ (ℕ^{q})^{2} ,

∃C = C_{N,α,β} > 0 : |(∂_{x}^{α}∂_{a}^{β}ψ) (a, x)| ≤ C (1 + |x| + ∥ξ ∘ e^{− ad γ_{1}(a)}|_{H_{ξ}} ∥)^{−N} }.

Lemme 5.5. L’espace ṡ(O(ξ)) possède les propriétés:

1) La transformée de Fourier ordinaire F par rapport à la seconde variable est un isomorphisme d’espaces de Fréchet de ṡ(O(ξ)) sur s(O(ξ)).

2) Si, pour ψ ∈ ṡ(O(ξ)), nous posons

(Λψ)(a, x) = ψ(a + \frac{x}{2}, x),

alors nous obtenons un isomorphisme de ṡ(O(ξ)) sur ṡ(O(ξ)).

3) Si f = f(a, p) appartient à s(O(ξ)), alors τ_{a}(L̂_{a}f) = (Λ∘F^{−1})(f) ∈ ṡ(O(ξ)).

Démonstration. Pour 2), il suffit de remarquer qu’il existe une constante C > 0 telle que:

∀(a, x) ∈ (ℝ^{q})^{2} , 1 + |x| + ∥ξ ∘ e^{− ad γ_{1}(a− \frac{x}{2} )}|_{H_{ξ}} ∥ ≤ C(1 + |x| + ∥ξ ∘ e^{− ad γ_{1}(a)}|_{H_{ξ}} ∥)^{3} .

Le résultat 3) découle de 1) et 2).

Proposition 5.6. Soit P ∈ U_{m}(G) vérifiant (H).

Si, pour a ∈ X, nous associons à chaque fonction φ de ṡ(O(ξ)) la fonction ψ(a, ·) définie sur X par ψ(a, ·) = (π_{(ξ,H_{ξ})}^{a}(P))^{−1}φ(a, ·), alors la fonction ψ(a, x) est dans ṡ(O(ξ)) et l’application Q_{ξ} : ṡ(O(ξ)) → ṡ(O(ξ)), φ ↦ ψ est un isomorphisme d’espaces de Fréchet.

Démonstration. La fonction ψ vérifie ψ(a, · + a) = (π_{(ξ,H_{ξ})}(P))^{−1}φ(a, · + a) et est donc de classe C^{∞} sur X × X. Montrons que la fonction (F ψ)(a, p) est dans s(O(ξ)). Soient N ∈ ℕ^{∗} et 4M > q, nous avons les estimations suivantes avec des constantes C > 0,

(1 + |p| + ∥ξ ∘ e^{ad γ_{1}(a)}|_{H_{ξ}} ∥)^{2N} |∫_{ℝ^{q}} e^{−i<p,x>} x^{α}(∂_{a}^{β}ψ)(a, x)dx|

≤ C|∫_{ℝ^{q}} e^{−i<p,x>}(1 + (−1)^{N} ∑_{k=1}^{q} ∂_{x_{k}}^{2N} + ∥ξ ∘ e^{adγ_{1}(a)}|_{H_{ξ}} ∥^{2N})x^{α}(∂_{a}^{β}ψ)(a, x)dx|

≤ C∥(1+|x|^{2})^{M}(1+(−1)^{N} ∑_{k=1}^{q} ∂_{x_{k}}^{2N} +∥ξ ∘ e^{adγ_{1}(a)}|_{H_{ξ}} ∥^{2N})x^{α}(∂_{a}^{β}ψ)(a, x)∥_{L^{2}(X)}.

D’après (1.13) et (1.14), chaque dérivée ∂_{x_{k}} est une somme ∑_{Q∈U^{4}(G)} π_{ξ}^{a}(Q), de même, d’après (1.13), ξ ∘ e^{adγ_{1}(a)}|_{H_{ξ}} = ξ ∘ e^{ad[γ_{1}(a+x)−γ_{1}(x)]}|_{H_{ξ}} est de la forme ∑_{Q_{γ}∈U^{4}(G)} x^{γ}π_{ξ}^{a}(Q_{γ}), donc d’après le lemme 5.7 qui suit, nous avons:

(1 + |p| + ∥ξ ∘ e^{ad γ_{1}(a)}|_{H_{ξ}} ∥)^{2N}|(∂_{p}^{α}∂_{a}^{β}(F ψ))(a, p)| ≤ ∑_{α′} ∥x^{α′}(∂_{a}^{β}ψ)(a, ·)∥_{8N,π_{ξ}^{a}}.

Le lemme 5.8 ci-dessous avec km ≥ 8N permet de majorer le second membre par une combinaison linéaire de semi-normes de φ dans ṡ(O(ξ)).

Lemme 5.7.

1) Soit, pour k = 1, 2, …, q, un champ de vecteurs U_{k} = \frac{∂}{∂x_{k}} + c_{k}(a, x) où c_{k} ∈ C^{∞}(X ⊕ X) et U^{α} = U_{1}^{α_{1}}U_{2}^{α_{2}} … U_{q}^{α_{q}}. Nous avons, pour tout x^{β} = x_{1}^{β_{1}}x_{2}^{β_{2}} … x_{q}^{β_{q}} et pour toute fonction V ∈ C^{∞}(X ⊕ X)

[U^{α}V, x^{β}] = ∑_{0≠γ≤α,γ≤β} λ_{αβγ}(U^{α−γ}V)x^{β−γ},  (5.4)

où les λ_{αβγ} sont des constantes indépendantes de (a, x).

2) Si Q = ∑_{||(α,β,γ)||=|α|+2|β|+3|γ|=p} a_{αβγ}X^{α}Y^{β}Z^{γ} ∈ U_{p}(g), alors:

[π_{ξ}^{a}(Q), x^{β}] = ∑_{{0≠γ≤β,|γ|≤p \atop Q_{βγ} ∈U^{p−|γ|}(G)}} π_{ξ}^{a}(Q_{βγ})x^{β−γ}.  (5.5)

Démonstration. Montrons d’abord par récurrence que

[U^{α}, x^{β}] = ∑_{0≠γ≤α,γ≤β} λ_{αβγ}U^{α−γ}x^{β−γ} , λ_{αβγ} constante .

Si U = U_{k}, la propriété est vérifiée car:

[U, x^{β}] = β_{k}x_{1}^{β_{1}} ⋯ x_{k−1}^{β_{k−1}}x_{k}^{β_{k}−1}x_{k+1}^{β_{k+1}} ⋯ x_{q}^{β_{q}} = β_{k}x^{β−e_{k}}

où e_{k} = (0, …, 0, 1, 0, …, 0), 1 occupant la position k. Supposons qu’elle soit vérifiée pour U^{α} = U_{1}^{α_{1}}U_{2}^{α_{2}} … U_{j}^{α_{j}}, 1 ≤ j ≤ q, il vient, pour k ∈ [j, q]:

U^{α}U_{k}x^{β} = (U^{α}x^{β})U_{k} + β_{k}U^{α}x^{β−e_{k}}
= x^{β}U^{α}U_{k} + ∑_{0≠γ≤α,γ≤β} λ_{αβγ}U^{α−γ}(x^{β−γ}U_{k}) + β_{k}U^{α}x^{β−e_{k}}
= x^{β}U^{α}U_{k} + ∑_{0≠γ≤α,γ≤β} λ_{αβγ}U^{α−γ}(U_{k}x^{β−γ} + (γ_{k} − β_{k})x^{β−γ−e_{k}}) + β_{k}U^{α}x^{β−e_{k}},

donc la propriété est vérifiée pour tout U^{α}. Nous avons alors (5.4) et nous en déduisons (5.5).

Lemme 5.8. Soit k ∈ ℕ^{∗}. L’opérateur π_{ξ}^{a}(P) : S(X) → S(X) vérifie

∀k ∈ ℕ^{∗}, ∀α ∈ ℕ^{q}, ∀β ∈ ℕ^{q}, ∃C > 0 :
∀a ∈ X, ||x^{α}(∂_{a}^{β}ψ)(a, ·)||_{km,π_{ξ}^{a}} ≤ C ∑_{γ} ∑_{δ≤β}||x^{γ}(∂_{a}^{δ}φ)(a, ·)||_{(k−1)m,π_{ξ}^{a}} (5.6)

quelles que soient les fonctions φ et ψ de C^{∞}(ℝ^{q} ⊕ ℝ^{q}) telles que

∀a ∈ X φ(a, ·) ∈ S(X) , ψ(a, ·) ∈ S(X) et π_{ξ}^{a}(P) · ψ(a, ·) = φ(a, ·). (5.7)

Démonstration. Par récurrence sur |α| pour β = 0, puis sur |β| à α fixé.

1) Considérons d’abord le cas β = 0, nous avons

π_{ξ}^{a}(P) · x^{α}ψ(a, x) = [π_{ξ}^{a}(P), x^{α}]ψ(a, x) + x^{α}φ(a, x).

D’après la Proposition 5.3, il existe une constante C > 0 telle que pour tout a ∈ X:

||x^{α}ψ(a, x)||_{km,π_{ξ}^{a}} ≤ C(||[π_{ξ}^{a}(P), x^{α}]ψ(a, x)||_{(k−1)m,π_{ξ}^{a}} + ||x^{α}φ(a, x)||_{(k−1)m,π_{ξ}^{a}}).

D’après (5.5), nous avons pour α ≠ 0,

(||[π_{ξ}^{a}(P), x^{α}]ψ(a, x)||_{(k−1)m,π_{ξ}^{a}} ≤ C ∑_{0≠γ≤α}||x^{α−γ}ψ(a, x)||_{km,π_{ξ}^{a}}

et nous pouvons alors raisonner par récurrence sur |α|.

2) Supposons que l’on ait (5.6) pour tout β tel que |β| ≤ p et montrons que l’on a une inégalité du même type avec β′ vérifiant |β′| = p + 1. En dérivant par rapport à a, à l’aide de la formule de Leibniz, la relation π_{ξ}^{a}(P)ψ(a, x) = φ(a, x), nous pouvons, d’après 1), (1.13), (1.14) et (5.5), trouver une constante C > 0 (indépendante de φ et ψ) telle que:

∀a ∈ X, ||x^{α}(∂_{a}^{β′}ψ)(a, ·)||_{km,π_{ξ}^{a}} ≤ C(∑_{γ}||x^{γ}(∂_{a}^{β′}φ)(a, ·)||_{(k−1)m,π_{ξ}^{a}}+

∑_{γ′} ∑_{μ≤β′, |μ|≤p}||x^{γ′}(∂_{a}^{μ}ψ)(a, ·)||_{km,π_{ξ}^{a}})

d’où, d’après l’hypothèse de récurrence:

∀a ∈ X, ||x^{α}(∂_{a}^{β′}ψ)(a, ·)||_{km,π_{ξ}^{a}} ≤ C ∑_{γ} ∑_{δ≤β′}||x^{γ}(∂_{a}^{δ}φ)(a, ·)||_{(k−1)m,π_{ξ}^{a}}

et l’inégalité est établie pour β′.

Proposition 5.9. Si P ∈ U_{m}(G) vérifie (H), alors l’application

L_{P,ξ} : s(O(ξ)) → s(O(ξ)) , f ↦ σ_{P} #f  (5.8)

est un isomorphisme d’espaces de Fréchet.

Démonstration. L’application L_{P,ξ} est linéaire continue et, d’après 3) et 4) de la proposition 4.4, elle est injective. Pour montrer qu’elle est surjective, considérons une fonction g ∈ s(O(ξ)) et φ = τ_{a}(L̂_{a}g) ∈ ṡ(O(ξ)). D’après la proposition 5.6, la fonction ψ = Q_{ξ}φ appartient à ṡ(O(ξ)), donc, d’après le lemme 5.5, la fonction f = F (Λ^{−1}ψ)appartient à s(O(ξ))et vérifie

∀a ∈ ℝ^{q} , π_{(ξ,H_{ξ})}(P) · L̂_{a}f = L̂_{a}g,

soit, d’après 4) de la proposition 4.4, σ_{P} #f = g.

6. Hypothèse (H) et inverse de l’ opérateur π_{(ξ,H_{ξ})}(P)

La démonstration du Théorème principal 6.10 repose sur différents lemmes.

Lemme 6.1.

∀m′ pair ∈ ℕ, ∃C = C_{m′} > 0 : ∀ψ ∈ s(O(ξ)), ∀a ∈ ℝ^{q},

∥[Φ(a, p)]^{m′}ψ(a, p)∥_{L_{p}^{2}(ℝ^{q})} ≤ C ∑_{α} ∥x^{α}(F^{−1}ψ)(a, x)∥_{m′+|α|,π_{ξ}^{a}} .

Démonstration. Posons η = θ_{ξ}(−a, p). La restriction de η à G_{2} ne dépend que de la variable ā = (a_{q−n′_{1}+1}, …, a_{q}), de plus, d’après le lemme 1.1 et (1.13), nous pouvons trouver une base Y_{1}, Y_{2}, …, Y_{n′_{1}}, Y_{n′_{1}+1}, …, Y_{n_{2}} de G_{2} telles que

⟨η, Y_{k}⟩ = ⟨ξ, Y_{k}⟩ + a_{q−n′_{1}+k} 1 ≤ k ≤ n′_{1}

et, pour n′_{1} + 1 ≤ ℓ ≤ n_{2}, ⟨η, Y_{ℓ}⟩ ne dépend que de la restriction de ξ à G_{3}. Nous avons, pour 1 ≤ k ≤ n′_{1},

∥⟨η, Y_{k}⟩^{\frac{m′}{2}} ψ(a, p)∥_{L_{p}^{2}(ℝ^{q})}

≤ C(∥(⟨ξ, Y_{k}⟩ + (a_{q−n′_{1}+k} + x_{q−n′_{1}+k}))^{\frac{m′}{2}} (F^{−1}ψ)(a, x)∥_{L_{x}^{2}(ℝ^{q})}+

+∥xq−n′_{1}+k^{\frac{m′}{2}}(F^{−1}ψ)(a, x)∥_{L_{x}^{2}(ℝ^{q})})

≤ C(∥π_{ξ}^{a}(Yk^{\frac{m′}{2}} )(F^{−1}ψ)(a, x)∥_{L_{x}^{2}(ℝ^{q})} + ∥xq−n′_{1}+k^{\frac{m′}{2}}(F^{−1}ψ)(a, x)∥_{L_{x}^{2}(ℝ^{q})})

≤ C ∑_{α} ∥x^{α}(F^{−1}ψ)(a, x)∥_{m′+|α|,π_{ξ}^{a}}.

Etudions maintenant ∥⟨η, e_{ℓ_{k}}⟩^{m′}ψ(a, p)∥_{L_{p}^{2}(ℝ^{q})} où la suite (e_{ℓ_{k}})_{1≤k≤q} est donnée par (1.12). Nous pouvons écrire d’après (1.14)

⟨η, e_{ℓ_{k}}⟩ = p_{k} − iL_{k}(a) − iq_{k}(ā)

avec L_{k} forme linéaire et q_{k} forme quadratique, d’où:

∥⟨η, e_{ℓ_{k}}⟩^{m′}ψ(a, p)∥_{L_{p}^{2}(ℝ^{q})}=(2π)^{\frac{q}{2}} ∥(\frac{∂}{∂x_{k}} + L_{k}(a) + q_{k}(ā))^{m′}(F^{−1}ψ)(a, x)∥_{L_{x}^{2}(ℝ^{q})}.

Nous avons:

π_{ξ}^{a}(e_{ℓ_{k}}) = \frac{∂}{∂x_{k}} + L_{k}(x + a) + q_{k}(x̄ + ā).

et il existe une forme bilinéaire b_{k} sur ℝ^{n′_{1}} × ℝ^{n′_{1}} telle que: q_{k}(ā) = q_{k}(x̄ + ā) + q_{k}(x̄) − 2b_{k}(x̄ + ā, x̄). Si nous posons c_{k}(ā, x) = −L_{k}(x) + q_{k}(x̄) − 2b_{k}(x̄ + ā, x̄), il vient

∥⟨η, e_{ℓ_{k}}⟩^{m′}ψ(a, p)∥_{L_{p}^{2}(ℝ^{q})} = (2π)^{\frac{q}{2}} ∥(π_{ξ}^{a}(e_{ℓ_{k}}) + c_{k}(ā, x))^{m′}(F^{−1}ψ)(a, x)∥_{L_{x}^{2}(ℝ^{q})}.

Par récurrence sur n ∈ ℕ^{∗}, l’opérateur (π_{ξ}^{a}(e_{ℓ_{k}}) + c_{k}(ā, x))^{n} est une somme finie de la forme ∑_{Q∈U^{n+|α|}(G)} π_{ξ}^{a}(Q)x^{α}, donc il existe alors une constante C > 0 telle que:

∥⟨η, e_{ℓ_{k}}⟩^{m′}ψ(a, p)∥_{L_{p}^{2}(ℝ^{q})} ≤ C ∑_{α} ∥x^{α}(F^{−1}ψ)(a, x)∥_{m′+|α|,π_{ξ}^{a}}.

De même, pour u ∈ H_{ξ} ∩ G_{1}, ⟨η, u⟩ est de la forme ⟨ξ, u⟩ − iL_{k}(a) − iq_{k}(ā), L_{k} linéaire, q_{k} quadratique, donc nous avons encore des estimations analogues pour ∥⟨η, u⟩^{m′}ψ(a, p)∥_{L_{p}^{2}(ℝ^{q})}.

Pour simplifier l’écriture, nous notons dans la suite ϕ(x) la fonction ϕ(x, p) définie en (2.6).

Lemme 6.2. Les propriétés suivantes sont vérifiées

∀α ∈ ℕ^{q}, ∀n ∈ ℕ, ∃C = C_{α,n} > 0 : ∥x^{α}f∥_{m+n+|α|,π_{ξ}^{a}} ≤ C ∑_{β≤α} ∥x^{β}g∥_{n+|β|,π_{ξ}^{a}} , (6.1)

quelles que soient les fonctions f et g de S(X) vérifiant π_{ξ}^{a}(P).f = g.

∀α ∈ ℕ^{q}, ∀β ∈ ℕ^{q}, ∀n ∈ ℕ , ∃C = C_{α,β,n} > 0 :

∥x^{α}[ϕ(a)]^{2|β|}(∂_{a}^{β}f)(a, x)∥_{m+n+|α|+|β|,π_{ξ}^{a}} ≤ C ∑_{γ,δ} ∥x^{δ}[ϕ(a)]^{2|γ|}(∂_{a}^{γ}g)(a, x)∥_{n+|γ|+|δ|,π_{ξ}^{a}}, (6.2)

quels que soient a ∈ ℝ^{q} et les fonctions f et g de ṡ(O(ξ)) vérifiant π_{ξ}^{a}(P).f(a, ·) = g(a, ·).

Démonstration. (6.1) se démontre par récurrence sur |α|. Nous avons

π_{ξ}^{a}(P)x^{α}f(x) = [π_{ξ}^{a}(P), x^{α}]f(x) + x^{α}g(x)

et nous pouvons montrer, comme au lemme 5.7, que

[π_{ξ}^{a}(P), x^{α}] = ∑_{{0≠β≤α,|β|≤m \atop Q_{αβ} ∈U^{m−|β|}(G)}} π_{ξ}^{a}(Q_{αβ})x^{α−β}.

Prouvons (6.2). Nous appliquons (6.1) pour β = 0, puis nous raisonnons par récurrence sur |β| à α fixé. Supposons que (6.2) soit vraie pour tout β vérifiant |β| = p et soit β′ tel que |β′| = p + 1. D’après la formule de Leibniz, la relation π_{ξ}^{a}(P)f(a, x) = g(a, x) implique

π_{ξ}^{a}(P) · (∂_{a}^{β′}f)(a, x) = (∂_{a}^{β′}g)(a, x) − ∑_{μ+ν=β′,μ≠0} C_{β′}^{μ}(∂_{a}^{μ}π_{ξ}^{a}(P))(∂_{a}^{ν}f)(a, x).

(6.1) avec n remplacé par n + |β′| implique qu’il existe une constante C > 0 telle que

∥x^{α}[ϕ(a)]^{2|β′|}(∂_{a}^{β′}f)(a, x)∥_{m+n+|α|+|β′|,π_{ξ}^{a}} ≤

C(∑_{λ≤α} ∥x^{λ}[ϕ(a)]^{2|β′|}(∂_{a}^{β′}g)(a, x)∥_{n+|β′|+|λ|,π_{ξ}^{a}}+

∑_{λ≤α,μ+ν=β′,μ≠0} ∥x^{λ}[ϕ(a)]^{2|β′|}(∂_{a}^{μ}π_{ξ}^{a}(P))(∂_{a}^{ν}f)(a, x)∥_{n+|β′|+|λ|,π_{ξ}^{a}}).

L’opérateur ∂_{a}^{μ}π_{ξ}^{a}(P) est une somme finie de termes de la forme π_{ξ}^{a}(Q_{ρ})(x̄+ā)^{ρ} où x̄ = (x_{q−n′_{1}+1}, …, x_{q}), ā = (a_{q−n′_{1}+1}, …, a_{q}), ρ ∈ ℕ^{n′_{1}} , Q_{ρ} ∈ U^{m−μ′}(G), μ′ ≥ |μ| ≥ |ρ|. Nous avons

x^{λ}π_{ξ}^{a}(Q_{ρ}) = ∑_{σ≤λ} π_{ξ}^{a}(Q_{ρ,σ})x^{σ} , Q_{ρ,σ} ∈ U^{m−μ′−|λ−σ|}(G) ,

donc ∥x^{λ}[ϕ(a)]^{2|β′|}(∂_{a}^{μ}π_{ξ}^{a}(P))(∂_{a}^{ν}f)(a, x)∥_{n+|β′|+|λ|,π_{ξ}^{a}} est majorée par une somme finie de termes de la forme

∥[ϕ(a)]^{2(|β′|−|ν|)}(x̄ + ā)^{ρ}x^{σ}[ϕ(a)]^{2|ν|}(∂_{a}^{ν}f)(a, x)∥_{m+n+|β′|−μ′+|σ|,π_{ξ}^{a}}

avec |β′| − μ′ ≤ |β′| − |μ| = |ν| et |ρ| ≤ |β′| − |ν| et par suite par

C ∑_{σ′} ∥x^{σ′}[ϕ(a)]^{2|ν|}(∂_{a}^{ν}f)(a, x)∥_{m+n+|σ′|+|ν|,π_{ξ}^{a}}

avec |ν| ≤ p, on utilise alors l’hypothèse de récurrence.

Lemme 6.3. Soient B la forme quadratique dans le dual (ℝ^{q})^{∗} ⊕ ℝ^{q} de ℝ^{q} ⊕ (ℝ^{q})^{∗} donnée par B(τ, x) = −\frac{1}{2} < τ, x >= −\frac{1}{2} ∑_{k=1}^{q} τ_{k}x_{k} et B(D) = \frac{1}{2} ∑_{k=1}^{q} \frac{∂^{2}}{∂a_{k}∂p_{k}} l’opérateur différentiel vérifiant B(D) e^{i<τ,a>+i<p,x>} = B(τ, x) e^{i<τ,a>+i<p,x>} . Si nous posons, pour f ∈ s(O(ξ)):

(Mf)(a, p) = ∫_{ℝ^{q}} e^{−i<p,x>}(L̂_{a}f)(x + a) dx =
∫_{ℝ^{q}} e^{−i<p,x>} dx ∫_{(ℝ^{q})^{∗}} e^{i<p′,x>} f_{ξ}(a + \frac{x}{2}, p′) dp′,  (6.3)

alors M est un opérateur linéaire de s(O(ξ)) qui possède les propriétés suivantes:

i) Mf = exp{iB(D)}f_{ξ}.

ii) M est inversible, d’inverse M^{−1} = exp{−iB(D)}.

iii) ∥Mf∥_{L_{(a,p)}^{2}} = ∥f_{ξ}∥_{L_{(a,p)}^{2}} .

iv) Si, pour m′ ∈ ℝ, on note s_{m′}(O(ξ)) l’espace s(O(ξ)) muni de la topologie induite par S^{m′}(O(ξ), alors M et M^{−1} sont continues de s_{m′}(O(ξ)) dans s_{m′}(O(ξ)).

Démonstration. D’après la définition de exp{iB(D)}f_{ξ}, nous avons:

[exp{iB(D)}f_{ξ}] (a′, p′) =

∫∫ e^{i<p′,x>+i<τ,a′>− \frac{i}{2} <τ,x>}dτdx∫∫ e^{−i<p,x>−i<τ,a>}f_{ξ}(a, p)dadp.

Mais

e^{− \frac{i}{2} <τ,x>} ∫∫ e^{−i<p,x>−i<τ,a>}f_{ξ}(a, p) dadp =

∫∫ e^{−i<p,x>−i<τ,a′′>}f_{ξ}(a′′ − \frac{x}{2}, p) da′′dp,

d’où i). Nous vérifions de même ii) par des intégrations. Prouvons iii), d’après Plancherel:

∥(Mf)_{ξ}|_{L_{(a,p)}^{2}}^{2} = (2π)^{q} ∫∫_{ℝ^{q}×ℝ^{q}} |∫_{(ℝ^{q})^{∗}} | e^{i<p′,x>} f_{ξ}(a + \frac{x}{2}, p′) dp′|^{2} dadx

= (2π)^{q} ∫∫_{ℝ^{q}×ℝ^{q}} |(F^{−1}f_{ξ})(a, x)|^{2} dadx = ∥f_{ξ}∥^{2} .

Pour prouver iv), il suffit d’utiliser le théorème 3.5’ de [7] après avoir remarqué que la forme quadratique duale g^{B} de la métrique g par rapport à B est donnée par g_{(x,p)}^{B}(x′, p′) = \frac{1}{16}(|x′|^{2}Φ(x, p)^{2} + |p′|^{2}ϕ(x, p)^{2}).

Introduisons une partition de l’unité liée à la métrique sur ℝ^{q} définie par

g_{a}(y) = \frac{|y|^{2}}{[ϕ(a)]^{2}} où |y|est la norme euclidienne de y.

L’inégalité ϕ(a) ≤ 1 quel que soit a ∈ ℝ^{q} implique que cette métrique est à variation lente: il existe des constantes c > 0 et C > 0 telles que

g_{a}(y) ≤ c ⇒ \frac{1}{C} g_{a}(t) ≤ g_{a+y}(t) ≤ Cg_{a}(t) quel que soit t ∈ ℝ^{q}.

Pour ρ > 0, désignons par B(a, ρ) la boule ouverte

B(a, ρ) = {y ∈ ℝ^{q} | g_{a}(a − y) < ρ^{2}},

nous avons une partition de l’unité [7]:

Proposition 6.4. Il existe un réel R > 0, une suite (γ_{ν})_{ν∈ℕ} dans C_{0}^{∞}(ℝ^{q}) et une suite (a_{ν})_{ν∈ℕ} telles que

i) Il existe N_{0} > 0 tel que au plus N_{0} boules B(a_{ν}, R) ont une intersection non vide;

ii) ℝ^{q} = ∪_{ν∈ℕ}B(a_{ν}, R), supp (γ_{ν}) ⊂ B(a_{ν}, R), ∑_{ν∈ℕ} γ_{ν} = 1;

iii) La suite (γ_{ν})_{ν∈ℕ} est bornée dans l’espace

S(1, g) =^{déf} {γ ∈ C^{∞}(ℝ^{q}) | ∀α ∈ ℕ^{q}, ∃C_{α} : |(∂^{α}γ)(x) ≤ C_{α}[ϕ(x)]^{−|α|}}.

Le lemme technique suivant sera utilisé dans la preuve du théorème principal de cet article.

Lemme 6.5. Pour tout n ∈ ℕ, pour tout N ∈ ℕ vérifiant N > n + q, il existe une constante C > 0 et une semi-norme Ñ dans l’espace S^{n,−N}(O(ξ)) telles que, pour tout ν ∈ ℕ, pour tout f ∈ S^{n,−N}(O(ξ)) vérifiant suppf(·, p) ⊂ B_{ν} = {a ∈ ℝ^{q}||a − a_{ν}| ≤ Rϕ(a_{ν})} quel que soit p, on ait

||[ϕ(a)]^{n}(L̂_{a}^{ξ}f)(x)||_{L^{2}(ℝ_{a}^{q}×ℝ_{x}^{q})} ≤ CÑ(f) ·

Démonstration. La fonction L̂_{a}^{ξ}f est définie par l’intégrale oscillante (4.2).

Introduisons les nouvelles variables u = x − a, v = \frac{a + x}{2} et la fonction f̃(u, v) =

(L̂_{v− \frac{u}{2}}^{ξ} f)(v + \frac{u}{2}) = ∫_{(ℝ^{q})^{∗}} e^{i<p,u>} f(v, p) dp sur ℝ^{q} × ℝ^{q} qui vérifie suppf̃(u, ·) ⊂ B_{ν} quel que soit u.

Soit M un entier que nous choisirons suffisamment grand et L_{p} l’opérateur différentiel défini, à partir du laplacien Δ_{p}, par

L_{p} = \frac{1}{1 + [ϕ(v)]^{−2M}|u|^{2M}} (1 + (−1)^{M}[ϕ(v)]^{−2M}Δ_{p}^{M}) ·

Nous avons L_{p} e^{i<p,u>} = e^{i<p,u>} et f̃(u, v) = ∫_{(ℝ^{q})^{∗}} e^{i<p,u>} L_{p}f(v, p) dp, donc il

existe une semi-norme Ñ dans S^{n,−N}(O(ξ)) telles que

|f̃(u, v)| ≤ \frac{Ñ(f)}{1 + [ϕ(v)]^{−2M}|u|^{2M}} ∫_{(ℝ^{q})^{∗}} [Φ(v, p)]^{−N+n}[ϕ(v)]^{−N} dp

et une constante C > 0 telle que

|f̃(u, v)| ≤ \frac{CÑ(f)}{1 + [ϕ(v)]^{−2M}|u|^{2M}} ∫_{0}^{+∞} \frac{r^{q−1}[ϕ(v)]^{−N}}{(r + [ϕ(v)]^{−1})^{N−n}} dr ·

Faisons le changement de variable r = [ϕ(v)]^{−1}s et prenons N > n + q, il vient,

avec une constante C > 0, |f̃(u, v)| ≤ \frac{CÑ(f)[ϕ(v)]^{−q−n}}{1 + [ϕ(v)]^{−2M}|u|^{2M}} . Il existe également

une constante C′ telle que ∀u ∈ ℝ^{q} , ∀v ∈ ℝ^{q} , [ϕ(v − \frac{u}{2})]^{n}[ϕ(v)]^{−n} ≤ C′[ϕ(u)]^{−n} quel que soit (u, v) ∈ ℝ^{q} × ℝ^{q}. Nous avons donc, avec une constante C > 0:

||[ϕ(a)]^{n}(L̂_{a}^{ξ}f)(x)||_{L^{2}(ℝ_{a}^{q}×ℝ_{x}^{q})}^{2} ≤ [CÑ(f)]^{2} ∫∫_{ℝ^{q}×B_{ν}} \frac{[ϕ(u)]^{−2n}[ϕ(v)]^{−2q}}{(1 + [ϕ(v)]^{−2M}|u|^{2M})^{2}} dudv .

En introduisant les nouvelles variables u′ = [φ(v)]^{−1}u, v′ = v, nous obtenons:

||[φ(a)]^{n}(L̂_{a}^{ξ}f)(x)||_{L^{2}(ℝ_{a}^{q}×ℝ_{x}^{q})}^{2}≤ [CÑ(f)]^{2}(∫_{B_{ν}} [φ(v′)]^{−q} dv′)(∫_{ℝ^{q}} \frac{[φ(u′)]^{−2n}}{(1 + |u′|^{2M})^{2}} du′).

Il existe une constante c > 0 telle que [φ(v′)]^{−q} ≤ c[φ(a_{ν})]^{−q} quel que soit v′ ∈ B_{ν}, la première intégrale du deuxième membre est alors majorée par une constante indépendante de ν. La seconde intégrale est finie si on prend M assez grand.

Lemme 6.6. Soit G ∈ C^{∞}(ℝ) une fonction à valeurs dans ℝ_{+}^{∗} vérifiant

∃α ∈ ℝ , ∃C > 0 : G(x) ∼_{x→+∞} C|x|^{α} ,  (6.4)

alors, pour toute fonction g ∈ S(ℝ), nous avons:

∀x ∈ ℝ , |g(x)|^{2} ≤ ||\frac{1}{G}g||_{L^{2}(ℝ)}^{2} + ||Gg′||_{L^{2}(ℝ)}^{2}.  (6.5)

Démonstration. Les fonctions \frac{1}{G}g et Gg′ sont dans l’espace L^{2}(ℝ), donc d’après l’inégalité de Cauchy-Schwarz,

∀x ∈ ℝ , |g(x)|^{2} = 2|∫_{x}^{+∞} \frac{1}{G(t)}g(t)G(t)g′(t) dt|

≤ 2|∫_{x}^{+∞} \frac{1}{[G(t)]^{2}} (g(t))^{2} dt||∫_{x}^{+∞}[G(t)]^{2}(g′(t))^{2} dt|

et nous en déduisons immédiatement (6.5).

Lemme 6.7. Soit ψ une fonction de classe C^{∞} sur ℝ, à valeurs dans ℝ_{+}^{∗}, vérifiant

∃α ∈ ℝ , ∃C > 0 : ψ(x) ∼_{x→+∞} C|x|^{α}

et Ψ une fonction de classe C^{∞} sur ℝ^{2}, à valeurs dans ℝ_{+}^{∗}, vérifiant les deux propriétés suivantes i) Il existe un réel β tel que: ∀x ∈ ℝ, ∃C = C(x) > 0 : Ψ(x, p) ∼_{p→+∞} C|p|^{β};

ii) ∀(x, p) ∈ ℝ^{2} , ψ(x)Ψ(x, p) ≥ 1.

Pour toute fonction f de S(ℝ^{2}), nous avons

sup_{(x,p)∈ℝ^{2}} |f(x, p|^{2} ≤ ||f||_{L^{2}(ℝ^{2})}^{2}+

||Ψ\frac{∂f}{∂p} ||_{L^{2}(ℝ^{2})}^{2} + ||ψ \frac{∂f}{∂x}||_{L^{2}(ℝ^{2})}^{2} + ||ψΨ\frac{∂^{2}f}{∂x∂p}||_{L^{2}(ℝ^{2})}^{2}.  (6.6)

Démonstration. En appliquant deux fois le lemme précédent, nous avons:

|f(x, p)|^{2} ≤ ∫_{ℝ} \frac{1}{ψ(x)}|f(x, p)|^{2} dx + ∫_{ℝ} ψ(x)|\frac{∂f}{∂x}(x, p)|^{2} dx

≤ ∫_{ℝ} \frac{1}{ψ(x)}[∫_{ℝ} \frac{1}{Ψ(x, p)}|f(x, p)|^{2} dp + ∫_{ℝ} Ψ(x, p)|\frac{∂f}{∂p} (x, p)|^{2} dp] dx
+ ∫_{ℝ} ψ(x)[∫_{ℝ} \frac{1}{Ψ(x, p)}|\frac{∂f}{∂x}(x, p)|^{2} dp + ∫_{ℝ} Ψ(x, p)|\frac{∂^{2}f}{∂x∂p}(x, p)|^{2} dp] dx
≤ ∫∫_{ℝ^{2}} \frac{1}{ψ(x)Ψ(x, p)}|f(x, p)|^{2} dxdp + ∫∫_{ℝ^{2}} \frac{Ψ(x, p)}{ψ(x)}|\frac{∂f}{∂p} (x, p)|^{2} dxdp
+ ∫∫_{ℝ^{2}} \frac{ψ(x)}{Ψ(x, p)}|\frac{∂f}{∂x}(x, p)|^{2} dxdp + ∫∫_{ℝ^{2}} ψ(x)Ψ(x, p)|\frac{∂^{2}f}{∂x∂p}(x, p)|^{2} dxdp.

En utilisant la propriété ii), nous obtenons (6.6).

Lemme 6.8. (Inégalité du type Sobolev).

∃C > 0 : ∀f ∈ S(ℝ^{q} × (ℝ^{q})^{∗})
sup_{(x,p)∈ℝ^{q}×(ℝ^{q})^{∗}} |f(x, p)|^{2} ≤ C ∑_{(α,β)∈{0,1}^{q}×{0,1}^{q}} ||Φ^{|α|}ϕ^{|β|}(∂_{p}^{α}∂_{x}^{β}f)||_{L^{2}(ℝ^{q}×(ℝ^{q})^{∗})}. (6.7)

Démonstration. Il suffit d’établir (6.7) avec les fonctions poids Φ, ϕ remplacées par les fonctions Φ̃ et ϕ̃ de classe C^{∞} données par

Φ̃(x, p) = (1 + |η_{1}(x, p)|^{4} + |η_{2}(x)|^{2})^{\frac{1}{4}} , ϕ̃(x) = (1 + |η_{2}(x)|^{2})^{− \frac{1}{4}}  (6.8)

où les fonctions η_{1} et η_{2} sont définies par η = θ_{ξ}(−x, p) = η_{1}(x, p) + η_{2}(x) + η_{3} ∈ G_{1}^{∗} ⊕ G_{2}^{∗} ⊕ G_{3}^{∗}. et | · | est la norme euclidienne. D’après les estimations de la proposition 2.2, la fonction Φ̃ vérifie:

∀m ∈ ℕ , ∃C = C_{m} > 0 :
∀k ∈ [1, q] |\frac{∂Φ̃^{m}}{∂p_{k}} | ≤ CΦ̃^{m−1} , |\frac{∂Φ̃^{m}}{∂x_{k}} | ≤ CΦ̃^{m}ϕ̃^{−1}  (6.9)

et de même la fonction ϕ̃ ne dépend que des variables x_{n′_{1}+1}, …, x_{q} et vérifie

∀m ∈ ℕ , ∃C = C_{m} > 0 : ∀k ∈ [n′_{1} + 1, q] |\frac{∂ϕ̃^{m}}{∂x_{k}} | ≤ Cϕ̃^{m−1}.  (6.10)

Les variables x et p′ = (p_{1}, p_{2}, …, p_{k−1}, p_{k+1}, …, p_{q}) étant fixées, la fonction de p_{k} donnée par Φ̃_{x,p′}(p_{k}) = Φ̃(x, p) vérifie

∃C > 0 : |Φ̃_{x,p′}(p_{k})| ∼_{p_{k}→+∞} C|p_{k}|.

Egalement, en fixant la variable x′ = (x_{1}, …, x_{k−1}, x_{k+1}, …, x_{q}) dans ℝ^{q−1}, la fonction de x_{k} donnée par ϕ̃_{x′}(x_{k}) = ϕ̃(x) est soit constante, soit équivalente à C|x_{k}|^{− \frac{1}{2}} quand x_{k} → −∞, C constante.

Si les variables x_{2}, x_{3}, …, x_{q}, p_{2}, p_{3}, …, p_{q} sont fixées, alors la fonction g(x_{1}, p_{1}) = f(x, p) est dans S(ℝ^{2}) et, d’après le lemme 6.8

|f(x, p)|^{2} = |g(x_{1}, p_{1})|^{2} ≤ ∫∫_{ℝ^{2}} [|f(x, p)|^{2} + |Φ̃(x, p)\frac{∂f}{∂p_{1}} (x, p)|^{2}

+|ϕ̃(x)\frac{∂f}{∂x_{1}} (x, p)|^{2} + |ϕ̃(x)Φ̃(x, p)\frac{∂^{2}f}{∂x_{1}∂p_{1}} (x, p)|^{2}] dx_{1}dp_{1}.

Fixant ensuite les variables x_{1}, x_{3}, …, x_{q}, p_{1}, p_{3}, …, p_{q}, nous majorons les fonctions à intégrer grâce au lemme 6.6 et aux estimations (6.9) et (6.10), nous obtenons alors

∃C > 0 : ∀(x, p) ∈ ℝ^{q} × (ℝ^{q})^{∗} |f(x, p)|^{2} ≤

C ∑_{(α,β)∈{0,1}^{2}×{0,1}^{2}} ∫ ∫_{ℝ^{2}×(ℝ^{∗})^{2}} |Φ̃^{α}(x, p)ϕ̃^{β}(x)(∂_{p}^{α}∂_{x}^{β}f)(x, p)|^{2} dx_{1}dx_{2}dp_{1}dp_{2}.

Par récurrence, nous avons l’estimation (6.7).

Le symbole σ_{P} étant un polynôme, la fonction σ_{P,ξ}#f_{ξ}, f ∈ s(O(ξ)), est une somme finie:

(σ_{P,ξ}#f_{ξ}) (x, p) = ∑_{α,β} (−1)^{|β|} (\frac{i}{2})^{|α|+|β|} \frac{1}{α!β!} (∂_{x}^{α}∂_{p}^{β}σ_{P,ξ}) (∂_{p}^{α}∂_{x}^{β}f_{ξ}) (x, p) ,

cette expression nous permet de prolonger à l’espace C^{∞}(ℝ^{q} ⊕ (ℝ^{q})^{∗}) l’application L_{P,ξ} de la proposition 5.9. Pour φ ∈ C^{∞}(ℝ^{q} ⊕ (ℝ^{q})^{∗}), nous posons

σ_{P,ξ}#φ = ∑_{α,β} (−1)^{|β|} (\frac{i}{2})^{|α|+|β|} \frac{1}{α!β!} (∂_{x}^{α}∂_{p}^{β}σ_{P,ξ}) (∂_{p}^{α}∂_{x}^{β}φ) (x, p)  (6.11)

et nous notons L_{P,ξ} l’application linéaire C^{∞}(ℝ^{q} ⊕(ℝ^{q})^{∗}) → C^{∞}(ℝ^{q} ⊕(ℝ^{q})^{∗}), φ ↦ σ_{P,ξ}#φ.

Proposition 6.9. Si P ∈ U_{m}(G) vérifie (H), alors l’image de l’application

L_{P,ξ} : S^{−m}(O(ξ)) → S^{0}(O(ξ)) , f ↦ σ_{P} #f  (6.12)

contient S^{0,−∞}(O(ξ)).

Démonstration. Soit g ∈ S^{0,−∞}(O(ξ)) et (γ_{ν}) la partition de l’unité de la proposition 6.4. La fonction h_{ν,ξ} = g_{ξ}γ_{ν} appartient à s(O(ξ)) et, d’après la proposition 5.9, il en est de même de f_{ν,ξ} = L_{P,ξ}^{−1}(h_{ν,ξ}). En tout point (x, p) de ℝ^{q} ×(ℝ^{q})^{∗}, le nombre d’indices ν tels que f_{ν,ξ}(x, p) ≠ 0 est inférieur ou égal au nombre N_{0} de la proposition 6.4, donc pour montrer que la fonction f_{ξ} = ∑_{ν} f_{ν,ξ} appartient à l’espace S^{−m}(O(ξ)), il suffit de montrer que la suite (f_{ν,ξ})_{ν∈ℕ} est une suite bornée de S^{−m} (O(ξ)).

La relation σ_{P} #f_{ν,ξ} = h_{ν,ξ} implique, d’après la proposition 4.4 et la définition de l’opérateur π_{ξ}^{a}(P)

π_{(ξ,H_{ξ})}^{a}(P) · [(L̂_{a}f_{ν,ξ})(x + a)] = (L̂_{a}h_{ν,ξ})(x + a) .  (6.13)

D’après iv) du lemme 6.3, il suffit alors de prouver que la fonction Mf_{ν,ξ} est dans S^{−m} (O(ξ)) avec des semi-normes indépendantes de ν, donc, compte tenu de Φϕ ≥ 1, de prouver que

∀α ∈ ℕ^{q}, ∀β ∈ ℕ^{q}, ∃C_{α,β} > 0 indépendant de ν :
sup_{(a,p)∈(ℝ^{q}×(ℝ^{q})^{∗})}[Φ(a, p)]^{m+|α|+|β|}[ϕ(a)]^{2|β|}|∂_{p}^{α}∂_{a}^{β}(Mf_{ν,ξ})(a, p)| ≤ C_{α,β}. (6.14)

Dans ces inégalités, nous pouvons remplacer les fonctions poids Φ, ϕ par les fonctions Φ̃, ϕ̃ de classe C^{∞} données par (6.8). D’après Φ̃ϕ̃ ≥ 1, (6.14) est alors une conséquence des deux assertions:

∀α ∈ ℕ^{q}, ∀β ∈ ℕ^{q}, m + |α| + |β| pair , ∃C_{α,β} > 0 indépendant de ν :

sup_{(a,p)}[Φ̃(a, p)]^{m+|α|+|β|}[ϕ̃(a)]^{2|β|}|∂_{p}^{α}∂_{a}^{β}(Mf_{ν,ξ})(a, p)| ≤ C_{α,β}.  (6.15)

∀α ∈ ℕ^{q}, ∀β ∈ ℕ^{q}, m + |α| + |β| impair , ∃C_{α,β} > 0 indépendant de ν :

sup_{(a,p)}[Φ̃(a, p)]^{m+1+|α|+|β|}[ϕ̃(a)]^{2|β|+1}|∂_{p}^{α}∂_{a}^{β}(Mf_{ν,ξ})(a, p)| ≤ C_{α,β}. (6.16)

Montrons d’abord l’assertion (6.15). Soit la fonction ψ_{ν} de s(O(ξ))

ψ_{ν}(a, p) = [Φ̃(a, p)]^{m+|α|+|β|}[ϕ̃(a)]^{2|β|}∂_{p}^{α}∂_{a}^{β}(Mf_{ν,ξ})(a, p) ,

d’après le lemme 6.8, nous avons à montrer que, pour chaque multi-indice (α′, β′) ∈ {0, 1}^{q} ×{0, 1}^{q}, les normes ||Φ^{|α′|}ϕ^{|β′|}(∂_{p}^{α′}∂_{x}^{β′}ψ_{ν})||_{L^{2}(ℝ^{q}×(ℝ^{q})^{∗})} sont majorées par des constantes indépendantes de ν.

Considérons d’abord la norme ||ψ_{ν}||_{L^{2}(ℝ^{q}×(ℝ^{q})^{∗})}. D’après le lemme 6.1 avec m′ = m + |α| + |β|, il existe une constante C > 0 telle que

∀a ∈ ℝ^{q}, ∀ν ∈ ℕ, ∥ψ_{ν}(a, ·)∥_{L^{2}((ℝ^{q})^{∗})} ≤

C[ϕ(a)]^{2|β|} ∑_{α′}∥x^{α′}∂_{a}^{β}[(L̂_{a}f_{ν,ξ})(x + a)]∥_{m+|α′|+|β|,π_{ξ}^{a}} .

Le lemme 6.2 et (6.13) impliquent alors l’existence d’une autre constante C > 0 telle que, pour tout a ∈ ℝ^{q} et pour tout ν ∈ ℕ, on ait :

∥ψ_{ν}(a, ·)∥_{L^{2}((ℝ^{q})^{∗})}^{2} ≤ C ∑_{γ, δ}∥x^{δ}[ϕ(a)]^{2|γ|}∂_{a}^{γ}[(L̂_{a}h_{ν,ξ})(x + a)]∥_{|γ|+|δ|,π_{ξ}^{a}}^{2} .

= C ∑_{γ, δ}∥[ϕ(a)]^{2|γ|}L̂_{a}(∂_{a}^{γ}∂_{p}^{δ}h_{ν,ξ})(x)||_{|γ|+|δ|,π_{ξ}}^{2}

= C ∑_{γ, δ} ∑_{Q∈U^{|γ|+|δ|}}∥[ϕ(a)]^{2|γ|}[π_{(ξ,H_{ξ})}(Q)L̂_{a}(∂_{a}^{γ}∂_{p}^{δ}h_{ν,ξ})](x)∥_{L_{x}^{2}(ℝ^{q})}^{2}

= C ∑_{γ, δ} ∑_{Q∈U^{|γ|+|δ|}}∥[ϕ(a)]^{2|γ|}L̂_{a}(σ_{Q}#(∂_{a}^{γ}∂_{p}^{δ}h_{ν,ξ}))(x)∥_{L_{x}^{2}(ℝ^{q})}^{2}

Nous appliquons le lemme 6.5 à la fonction σ_{Q}#(∂_{a}^{γ}∂_{p}^{δ}h_{ν,ξ}) qui appartient à l’espace S^{2|γ|,−N}(O(ξ)). En choisissant N > 2|γ| + q, il existe une constante C > 0 et des semi-normes Ñ_{γ} dans S^{2|γ|,−N}(O(ξ))(O(ξ)) telles que

||ψ_{ν}||_{L^{2}(ℝ^{q}×(ℝ^{q})^{∗})}^{2} ≤ C ∑_{γ,δ} ∑_{Q∈U^{|γ|+|δ|}}[Ñ_{γ}(σ_{Q}#(∂_{a}^{γ}∂_{p}^{δ}h_{ν,ξ}))]^{2} .

D’après (6.11) et la formule de Leibniz, les semi-normes du second membre sont majorées par une constante indépendante de ν.

Soit (α′, β′) ∈ {0, 1}^{q} ×{0, 1}^{q}, d’après (6.9), (6.10) et à nouveau la formule de Leibniz, le module de [Φ̃(a, p)]^{|α′|}[ϕ̃(a)]^{|β′|}(∂_{p}^{α′}∂_{x}^{β′}ψ_{ν})(a, p) est majorée par une combinaison linéaire de termes de la forme

[Φ̃(a, p)]^{m+|α′′|+|β′′|}[ϕ̃(a)]^{2|β′′|}|∂_{p}^{α′′}∂_{a}^{β′′}(Mf_{ν,ξ})(a, p)|,

nous pouvons alors trouver une constante C > 0 telle que

∀ν ∈ ℕ , ||Φ^{|α′|}ϕ^{|β′|}(∂_{p}^{α′}∂_{x}^{β′}ψ_{ν})||_{L^{2}(ℝ^{q}×(ℝ^{q})^{∗})} ≤ C

et nous avons prouvé (6.15). La seconde assertion (6.16) se démontre de manière analogue.

Théorème 6.10. Soit G une algèbre de Lie graduée de rang 3. Si P ∈ U_{m}(G) vérifie l’hypothèse (H), alors nous pouvons trouver un symbole q ∈ S^{−m}(O(ξ)) tel que :

σ_{P,ξ}#q = 1  où  σ_{P,ξ}(x, p) = σ_{P} (θ_{ξ}(−x, p)).  (6.17)

Démonstration. D’après le théorème 3.5, il existe q_{0} ∈ S^{−m}(O(ξ)) et r ∈ S^{0,−∞}(O(ξ)) tels que : σ_{P,ξ}#q_{0} = 1 + r. D’après la proposition 6.9, nous pouvons trouver f ∈ S^{−m}(O(ξ)) tel que σ_{P,ξ}#f = r, d’où le théorème.

Références

[1] Arnal, D., and J. C. Cortet, Nilpotent Fourier transform and applications, Lett. Math. Phys. 9 (1985), 25–34.

[2] Beals, R., A general calculus of pseudo-differential operators, Duke Math. J. 42 (1975), 1–42.

[3] —, Characterization of pseudo-differential operators and applications, Duke Math. J. 44 (1977), 45–57.

[4] Christ, M., D. Geller, P. GLowacki, and L. Polin, Pseudodifferential operators on groups with dilations, Duke Math. 68 (1992), 31–65.

[5] Geller, D., Local solvability and homogenoeous distributions on the Heisenberg group, Commun. Partial Differ. Equations. 5 (1980), 475–560.

[6] Helffer, B., et J. Nourrigat, “Hypoellipticité maximale pour des opérateurs polynômes de champs de vecteurs,”Progress in Math. 58 (1985).

[7] Hörmander, L., The Weyl calculus of Pseudo-Differential Operators, Comm. Pure Appl. Math. 32 (1979), 359–443.

[8] Kirillov, A. A., Unitary representations of nilpotent Lie groups, Russ. Math. Surveys 17 (1962), 53–104.

[9] Manchon, D., Formule de Weyl pour les groupes de Lie nilpotents, J. reine angew. Math. 418 (1991), 77–129.

[10] Melin, A., Parametrix constructions for right invariant differential operators on nilpotent groups, Ann. Global Anal. Geom. 1 (1983), 79–130.

[11] —, Parametrix constructions for some classes of right invariant differential operators on the Heisenberg group, Commun. Partial Diff. Equations 6, (1981) 1363–1405.

[12] Nourrigat, J., L^{2}-inequalities and representations of nilpotent groups, CIM-PA School of Harmonic Analysis, Wuhan (China), April-May 1991.

[13] Wildberger, N., “Quantization and Harmonic Analysis on Nilpotent Lie Groups,” Ph. D. thesis, Yale University, 1983.

Maxime Gouleau Département de Mathématiques CNRS-UMR 6629 Faculté des Sciences et des Techniques BP92208 F-44322 Nantes Cédex 03 Maxime.Gouleau@math.univnantes.fr

Received October 24, 2000 and in final form February 1, 2002