Journal of Lie Theory Volume 10 (2000) 147–155 \begin{matrix}c \\ ◯ \end{matrix} 2000 Heldermann Verlag

Conjugaison géodésique des nilvariétés de rang deux

H.-R. Fanaï

Communicated by J. Ludwig

Abstract. We prove that any strongly in resonance two-step riemannian nilmanifold which satisfies a certain uniformity condition is C^{0} -geodesically rigid within the class of all riemannian nilmanifolds.

1. Introduction

On dit que deux variétés riemanniennes (M, g) et (N, h) ont les flots géodésiques C^{k} -conjugués, s’il existe un homéomorphisme F : S_{g}(M) → S_{h}(N) de classe C^{k} qui commute avec les flots géodésiques sur les fibrés unitaires tangents S_{g}(M) et S_{h}(N).

Une variété riemannienne compacte (M, g) est dite C^{k} -géodésiquement rigide dans une classe de variétés riemanniennes, si toute variété riemannienne (N, h) dans cette classe ayant son flot géodésique C^{k} -conjugué à celui de (M, g) est isométrique à (M, g).

Dans ce texte, nous nous intéressons à la classe des nilvariétés de rang deux. Une nilvariété de rang deux est un quotient compact d’un groupe de Lie nilpotent de rang deux par un sous-groupe discret, muni d’une métrique riemannienne dont le relevé est invariant à gauche.

Soit N un groupe de Lie nilpotent simplement connexe. On note N son algèbre de Lie. On dit que N (ou bien N) est de rang deux, si le groupe dérivé [N, N] est inclu dans le centre de N (ou bien le crochet de Lie [N , N] est inclu dans le centre de N). Soit g une métrique riemannienne invariante à gauche sur N. La métrique g définit un produit scalaire ⟨ , ⟩ sur l’algèbre de Lie N. Soient Z = [N , N] et V le supplémentaire orthogonal de Z dans N par rapport à ⟨ , ⟩.

Supposons que (N, g) est de rang deux. Soit Γ un sous-groupe discret cocompact de N. Un tel sous-groupe existe si et seulement si, il existe une base de N telle que les constantes de structures relatives à cette base soient rationnelles ([9]). On a alors une nilvariété (M, g) de rang deux, où M = Γ\N, munie de la métrique induite notée toujours g.

ISSN 0949–5932 / $2.50 \begin{matrix}c \\ ◯ \end{matrix} Heldermann Verlag

Maintenant, on définit l’application J : Z → 𝔰𝔬(V) de la manière suivante : pour tout z dans Z, la transformation linéaire antisymétrique J (z) : V → V est donnée par l’équation suivante:

⟨J (z)x, y⟩ = ⟨[x, y], z⟩ ∀x, y ∈ V.

En étudiant le flot géodésique de (N, g), les transformations J (z) interviennent de manière naturelle. Par exemple, si γ(t) est une géodésique de (N, g) avec γ(0) = e l’élément neutre de N et si γ′(0) = X_{0} + Z_{0}, où X_{0} ∈ V, Z_{0} ∈ Z et N = T_{e}N = V⊕Z, alors la proposition 3.2 de [1] implique que : γ′(t) = dL_{γ(t)} (e^{tJ (Z_{0})}X_{0} + Z_{0}), pour tout t, où L_{m} désigne la translation

à gauche sur N par m ∈ N et e^{tJ (Z_{0})} = ∑_{n=0}^{+∞} \frac{t^{n}J (Z_{0})^{n}}{n!} . L’application expo-

nentielle du groupe de Lie N notée exp : N → N, étant un difféomorphisme, on peut écrire γ(t) = exp(X(t) + Z(t)), où X(t) ∈ V et Z(t) ∈ Z vérifient: X′(0) = X_{0}, Z′(0) = Z_{0}. Supposons que la transformation J (Z_{0}) est inversible. Alors, la proposition suivante (proposition 3.5 de [1]) donne une formule explicite pour la géodésique γ(t). Proposition 1.1. Les deux courbes X(t) et Z(t) sont données par:

1. X(t) = (e^{tJ} − Id) J^{−1}X_{0}, pour tout t ∈ ℝ, où J = J (Z_{0}).

2. Z(t) = tZ_{1}(t) + Z_{2}(t), où:

Z_{1}(t) = Z_{0} + \frac{1}{2} ∑_{i=1}^{N}[J^{−1}ξ_{i}, ξ_{i}]
Z_{2}(t) = \frac{1}{2} [e^{tJ}J^{−1}X_{0}, J^{−1}X_{0}]
−\frac{1}{2} ∑_{i≠j=1}^{N} \frac{1}{ϑ_{j}^{2}−ϑ_{i}^{2}} \{[e^{tJ}Jξ_{i}, e^{tJ}J^{−1}ξ_{j}] − [e^{tJ}ξ_{i}, e^{tJ}ξ_{j}]\}
+\frac{1}{2} ∑_{i≠j=1}^{N} \frac{1}{ϑ_{j}^{2}−ϑ_{i}^{2}} \{[Jξ_{i}, J^{−1}ξ_{j}] − [ξ_{i}, ξ_{j}]\}

et \{±ϑ_{i}\sqrt{−1}, i = 1, …, N\} sont les valeurs propres distinctes de J et \{ξ_{j}\} les vecteurs distincts tels que ∑_{j} ξ_{j} = X_{0} et J^{2}ξ_{j} = −ϑ_{j}^{2}ξ_{j}.

L’étude du flot géodésique dans le cadre des nilvariétés de rang deux a vu ainsi du progrès grâce à deux articles [1] et [2], et plus particulièrement, le problème de conjugaison des flots géodésiques. Dès lors, l’intérêt s’est porté vers la rigidité de telles variétés. Dans ce cadre, les résultats principaux obtenus sont dus à C. Gordon et Y. Mao (voir [4], aussi [1] et [5]). Avant de présenter ces résultats, nous rappelons la définition de deux types particuliers de nilvariétés: Définition 1.2. Une nilvariété (M, g) est dite:

• de type Heisenberg, si J (z)^{2} = −|z|^{2} Id sur V, pour tout z ∈ Z.

• en résonance forte, si pour tout z ∈ Z non nul, il existe une constante t = t(z) telle que e^{tJ (z)} = − Id sur V.

Il est facile de voir que les nilvariétés de type Heisenberg sont en résonance forte. En fait dans ce cas, pour tout z ≠ 0 on a

e^{tJ (z)} = cos(t|z|) Id +{sin(t|z|)/|z|}J (z).

Les nilvariétés de type Heisenberg peuvent être considérées comme les analogues des espaces localement symétriques parmi toutes les nilvariétés, aussi il y a des liens intéressants entre la densité des vecteurs périodiques dans le fibré unitaire tangent et la condition de résonance (forte) (voir [1], [2] ou [7] et [8] pour plus de détails).

Nous avons alors les deux théorèmes suivants (voir [4]): Théorème 1.3. Toute nilvariété de rang deux de type Heisenberg est C^{0}- géodésiquement rigide dans la classe de toutes les nilvariétés. Théorème 1.4. Toute nilvariété de rang deux en résonance forte est C^{2}- géodésiquement rigide dans la classe de toutes les nilvariétés.

On sait que si deux nilvariétés ont leurs flots géodésiques conjugués, alors elles ont même rang ([4], p.2). On peut donc considérer dans l’énoncé de ces deux théorèmes, seulement la classe des nilvariétés de rang deux.

Il est naturel de penser que ce dernier théorème resterait vrai si l’on ne considère que des conjugaisons de classe C^{0}. En effet, on ne connaît aucun exemple de nilvariétés non isométriques et C^{0}- géodésiquement conjuguées. Par contre, il existe bien sûr des nilvariétés de rang deux en résonance forte qui ne sont pas de type Heisenberg et une famille d’exemple de telles nilvariétés a été donnée dans [4]. Dans [3], nous avons démontré que ces exemples sont aussi C^{0}- géodésiquement rigides: Théorème 1.5. Les exemples de Gordon et Mao (voir [4]) sont tous C^{0}- géodésiquement rigides.

Notre objectif dans ce texte est de prouver un résultat plus général dans cette direction. En effet, nous allons considérer les nilvariétés de rang deux en résonance forte vérifiant l’hypothèse d’uniformité suivante: Hypothèse d’uniformité: Une nilvariété de rang deux (Γ\N, g) vérifie l’hypothèse d’uniformité, si J^{∗}J = C Id_{Z}, pour une constante C > 0. Remarque. Nous avons appris récemment que cette hypothèse apparaît aussi dans les travaux de R. Gornet et M. Mast (voir [6]) où les auteurs introduisent la notion de ressemblance à de type Heisenberg (“Heisenberg-like”).

Nous allons démontrer dans la partie suivante que les nilvariétés de rang deux en résonance forte vérifiant cette hypothèse sont C^{0}-géodésiquement rigides. Le résultat de ce texte est donc le suivant: Théorème 1.6. Toute nilvariété de rang deux en résonance forte vérifiant l’hypothèse d’uniformité est C^{0}-géodésiquement rigide dans la classe de toutes les nilvariétés.

2. Preuve du résultat

Soit (Γ_{0}\N_{0}, g_{0}) une nilvariété de rang deux en résonance forte vérifiant l’hypothèse d’uniformité que l’on fixe une fois pour toutes. On pose N_{0} = V_{0} ⊕Z_{0}.

Soient dim(Z_{0}) = m et {Z_{1}, …, Z_{m}} une base orthonormée de Z_{0}. Pour tout 1 ≤ i ≤ m, on pose: J_{i} = J (Z_{i}). Lemme 2.1. Pour tout Z ∈ Z_{0} avec |Z| = 1, les transformations J (Z) ont les mêmes valeurs propres et les mêmes multiplicités. Démonstration. Tout vecteur Z ∈ Z_{0} de norme 1 s’écrit sous la forme Z = z_{1}Z_{1} + ⋯ + z_{m}Z_{m} avec z_{1}^{2} + ⋯ + z_{m}^{2} = 1. On a J (Z) = z_{1}J_{1} + ⋯ + z_{m}J_{m} et donc

tr(J (Z)^{2}) = tr(J_{1}^{2})

car J^{∗}J est un multiple de l’identité, d’après l’hypothèse d’uniformité.

La condition de résonance forte implique que J (Z) est inversible et que les rapports de ses valeurs propres sont rationnels. Par ailleurs, on sait que les valeurs propres de J (Z) varient de manière continue par rapport à Z, on en déduit ainsi que les rapports de valeurs propres de J (Z) sont constants. L’égalité tr(J (Z)^{2}) = tr(J_{1}^{2}) implique alors que pour tout Z de norme 1, la transformation J (Z)^{2} a les mêmes valeurs propres et les mêmes multiplicités que J_{1}^{2}. Ceci prouve le lemme.

Soient −ϑ_{1}^{2}, …, −ϑ_{N}^{2} les valeurs propres distinctes de J_{1}^{2}, où on suppose : 0 < ϑ_{1} < ⋯ < ϑ_{N}. Alors les valeurs propres distinctes de J (Z)^{2} avec Z ≠ 0 sont −ϑ_{1}^{2}|Z|^{2}, …, −ϑ_{N}^{2}|Z|^{2}. On pose ϑ_{i}(Z) = ϑ_{i}|Z|.

Soient W_{1}(Z), …, W_{N}(Z) les espaces invariants par J (Z) tels que J (Z)^{2} = −ϑ_{i}(Z)^{2} Id sur W_{i}(Z). On a V_{0} = ⊕W_{i}(Z). Pour tout X ∈ V_{0}, on obtient donc X = ξ_{1}(Z) + ⋯ + ξ_{N}(Z), où ξ_{i}(Z) ∈ W_{i}(Z). On a alors le lemme suivant (voir [7], lemme 3.2) Lemme 2.2. On a

∑_{i=1}^{N} [J (Z)^{−1}ξ_{i}(Z), ξ_{i}(Z)] = ∑_{i=1}^{N} c_{i}^{2} ∇(log ϑ_{i}(Z))

où c_{i} = |ξ_{i}| et ∇ désigne le gradient.

Maintenant, les deux lemmes précédents nous permettent de démontrer le théorème 1.6, exactement avec la même démarche que nous avons utilisée dans [3]. En effet, toutes les étapes, notamment les lemmes 3.1 et 3.7 de [3], marchent bien. Lemme 2.3. On a avec les notations de la proposition 1.1

Z_{1}(t) = (1 + \frac{|X_{0}|^{2}}{2|Z_{0}|^{2}} ) Z_{0}, ∀Z_{0} ≠ 0.

Démonstration. Il suffit de remarquer que si Z = z_{1}Z_{1} + ⋯ + z_{m}Z_{m} est un vecteur non nul de Z_{0}, alors

∇(log ϑ_{i}(Z)) = \frac{z_{1}}{|Z|^{2}} Z_{1} + ⋯ + \frac{z_{m}}{|Z|^{2}} Z_{m} = \frac{1}{|Z|^{2}} Z.

Ceci termine la preuve à l’aide du lemme précédent.

Lemme 2.4. Si pour un t_{0} ∈ ℝ, e^{t_{0}J (Z_{0})} = Id, alors Z_{2}(t_{0}) = 0. Démonstration. Ceci est une conséquence directe de la proposition 1.1 et le fait que les applications J (Z), J (Z)^{−1} et e^{tJ (Z)} préservent les espaces W_{i}(Z) pour tout Z ∈ Z_{0} et tout t ∈ ℝ.

Corollaire 2.5. Soit γ(t) une géodésique de (N_{0}, g_{0}) avec γ(0) = e et γ′(0) = X_{0} + Z_{0}, où X_{0} ∈ V_{0}, 0 ≠ Z_{0} ∈ Z_{0}. Si pour un t_{0} ∈ ℝ, e^{t_{0}J (Z_{0})} = Id, alors

γ(t_{0}) = exp (t_{0}(1 + \frac{|X_{0}|^{2}}{2|Z_{0}|^{2}} )Z_{0}).

Démonstration. Il suffit d’appliquer les lemmes précédents.

Maintenant, on considère une conjugaison F : S_{g}(Γ\N) → S_{g^{∗}}(Γ^{∗}\N^{∗}) de classe C^{0} entre les fibrés unitaires tangents de deux nilvariétés de rang deux (Γ\N, g) et (Γ^{∗}\N^{∗}, g^{∗}).

D’après [1], on peut supposer que (Γ^{∗}\N^{∗}, g^{∗}) = (Φ(Γ)\N, g), où Φ est un automorphisme Γ- presque intérieur de N, i.e. ∀γ ∈ Γ, Φ(γ) est conjugué à γ. On sait qu’il existe une dérivation ϕ de N = T_{e}N définie par Φ_{∗} = e^{ϕ}. Cette dérivation ϕ est alors une dérivation Γ-presque intérieure, i.e. ∀x ∈ log Γ, ϕ(x) ∈ image(ad(x)), et on a e^{ϕ} = Id +ϕ. On considère maintenant le cas

F : S_{g}(Γ\N) → S_{g}(Φ(Γ)\N).

On note F̃ : S_{g}N → S_{g}N, le relevé de F, on a F̃ ∘ L_{γ∗} = L_{Φ(γ)∗} ∘ F̃, et bien sûr F̃ ∘ φ_{t} = φ_{t} ∘ F̃ où φ_{t} désigne le flot géodésique sur S_{g}N. On a les identifications naturelles suivantes

S_{g}(N) = N × S(N)
S_{g}(Γ\N) = Γ\N × S(N)

où S(N) désigne la sphère unité de N définie par la métrique g. Pour tout m ∈ N, la translation à gauche L_{m} induit un difféomorphisme L_{m∗} de S_{g}(N), et avec ces identifications on peut écrire L_{m∗}(n, u) = (mn, u), pour tous n ∈ N, u ∈ S(N). On pose aussi

∀(n, u) ∈ S_{g}(N), F̃(n, u) = (exp(A(n, u) + B(n, u))n, I(n, u) + H(n, u))

où A(n, u) ∈ Z, B(n, u) ∈ V, I(n, u) ∈ V et H(n, u) ∈ Z.

Le lemme suivant (propositions 2.9 et 3.14 de [4]) exprime complètement le changement de ces applications par les éléments du sous-groupe Γ et par le flot géodésique φ_{t}. Lemme 2.6. Soit (n, u) ∈ S_{g}(N), où n ∈ N et u ∈ S(N).

• On a pour tout γ ∈ Γ

\begin{matrix}1. & B(γn, u) = B(n, u) \\ 2. & H(γn, u) = H(n, u) \\ 3. & I(γn, u) = I(n, u) \\ 4. & A(γn, u) = A(n, u) + ϕ(log γ) − [B(n, u), log γ]. \end{matrix}

• Soit γ(t, u) la géodésique de N définie par γ(0, u) = e et γ′(0, u) = u. On suppose γ(t, u) = exp(X(t, u) + Z(t, u)) avec X(t, u) ∈ V et Z(t, u) ∈ Z. Alors

\begin{matrix}1. & I(φ_{t}(n, u)) = e^{tJ (H(n,u))}I(n, u) \\ 2. & H(φ_{t}(n, u)) = H(n, u) \\ 3. & B(φ_{t}(n, u)) = B(n, u) + X(t, I(n, u) + H(n, u)) − X(t, u). \end{matrix}

Revenons à la question de savoir, si les deux nilvariétés de rang deux (Γ\N, g) et (Φ(Γ)\N, g) sont isométriques, lorsqu’elles ont leurs flots géodésiques conjugués par F. Pour cela, on sait qu’il suffit de montrer que Φ est un automorphisme intérieur de N, ce qui voudrait dire que ϕ est une dérivation intérieure de N. La proposition suivante (proposition 2.11 de [4]) décrit la nature de ϕ Proposition 2.7. L’application ϕ est une dérivation presque intérieure de N “de type continue”. Il existe une application continue B̄ : S_{g}(N) → S_{g}(N) telle que pour tous n ∈ N, 0 ≠ v ∈ V

ϕ(v) = [B̄(n, \frac{v}{|v|}), v].

De plus, on a pour tout n ∈ N, B̄(n, v) = B̄(e, v).

En fait B̄ est définie de la manière suivante:

B̄(n, u) = ∫_{T} B(x·n, u) dx

où T est le tore Γ ∩ [N, N]\[N, N] et dx désigne la mesure de Haar normalisée. On note que T agit isométriquement sur Γ\N par translation à gauche.

L’application B̄(n, v) = B̄(e, v) étant continue sur V \ {0}, on dit que ϕ est de type continue. Il est important de remarquer qu’il existe des nilvariétés de rang deux, dont toute dérivation presque intérieure de type continue est intérieure. En conséquence, ces nilvariétés sont C^{0}-géodésiquement rigides. Notre nilvariété (Γ_{0}\N_{0}, g_{0}) ne se situe pas dans cette famille particulière.

La proposition suivante (proposition 3.16 de [4]) est un critère essentiel dans la preuve: Proposition 2.8. Supposons que ϕ peut être écrite sous la forme ϕ(x) = [ξ(x), x] où ξ vérifie : ξ (e^{J (z)}x) = ξ(x) pour tous x ∈ V, z ∈ Z. Alors ϕ est une dérivation intérieure.

L’étape cruciale dans la preuve est le lemme 4.2 de [4], qui a été démontré pour les nilvariétés de type Heisenberg. On montre que ce lemme reste vrai pour notre variété (N_{0}, g_{0}). Lemme 2.9. Pour tous (n, v + z) ∈ S_{g_{0}}(N_{0}), v ∈ V_{0}, z ∈ Z_{0}, on a

H(n, v + z) = z.

Démonstration. On suppose que les deux vecteurs v et z sont non nuls, sinon le résultat découle de la proposition 2.7 de [4]. On sait qu’il existe un t_{0} non nul tel que e^{t_{0}J (z)} = − Id et on pose t_{1} = 2t_{0}. On a donc d’après le corollaire 2.5:

φ_{t_{1}}(n, v + z) = (n exp(t_{1}(1 + \frac{|v|^{2}}{2|z|^{2}} )z), v + z) = dL_{γ_{0}}(n, v + z)

où γ_{0} = exp(t_{1}(1 + \frac{|v|^{2}}{2|z|^{2}} )z).

On remarque que l’ensemble des vecteurs (n, v + z) ∈ S_{g_{0}}(N_{0}) tels qu’il

existe un nombre k ∈ ℤ^{∗} vérifiant kt_{1}(1 + \frac{|v|^{2}}{2|z|^{2}} )z ∈ log(Γ_{0} ∩ [N_{0}, N_{0}]), est dense dans S_{g_{0}}(N_{0}), (voir [4], p. 35) et il suffit de montrer que pour tels vecteurs on a H(n, v+z) = z. On suppose donc γ_{0} ∈ Γ_{0}∩[N_{0}, N_{0}] (en multipliant éventuellement t_{1} par un entier k ∈ ℤ^{∗}) et ainsi Φ(γ_{0}) = γ_{0} et

φ_{t_{1}} ∘ F̃(n, v + z) = F̃ ∘ φ_{t_{1}}(n, v + z) = F̃ ∘ dL_{γ_{0}}(n, v + z) = dL_{γ_{0}} ∘ F̃(n, v + z).

Soit F̃(n, v + z) = (n′, v′ + z′). La proposition 2.7 de [4], montre que les vecteurs v′ et z′ sont non nuls. En appliquant la proposition 1.1 et le lemme 2.3, on trouve

\begin{matrix}φ_{t_{1}} ∘ F̃(n, v + z) = \\ = (n′ exp[(e^{t_{1}J (z′)} − Id)J (z′)^{−1}v′ + t_{1}(1 + \frac{|v′|^{2}}{2|z′|^{2}} )z′ + Z_{2}(t_{1})], e^{t_{1}J (z′)}v′ + z′) \end{matrix}

où Z_{2}(t) est l’application associée à z′ et v′ dans la proposition 1.1.

D’autre part, dL_{γ_{0}} ∘ F̃(n, v + z) = (γ_{0}n′, v′ + z′) et donc

φ_{t_{1}} ∘ F̃(n, v + z) = (γ_{0}n′, v′ + z′).

En comparant les deux égalités obtenues, on trouve: e^{t_{1}J (z′)}v′ = v′. En écrivant v′ = v′_{1} + ⋯ + v′_{N} avec v′_{i} ∈ W_{i}(z′), on trouve pour tout i tel que v′_{i} est non nul:

e^{t_{1}J (z′)}_{|_{W_{i}(z′)}} = Id

ce qui est facile à vérifier, grâce à l’égalité suivante:

e^{tJ (Z)} = cos(tϑ_{i}(Z)) Id + (\frac{sin(tϑ_{i}(Z))}{ϑ_{i}(Z)}) J (Z) sur W_{i}(Z).

Le lemme 2.4 nous donne dans ce cas Z_{2}(t_{1}) = 0 et on trouve

(1 + \frac{|v|^{2}}{2|z|^{2}} ) z = (1 + \frac{|v′|^{2}}{2|z′|^{2}} ) z′.

Maintenant, avec |v|^{2} +|z|^{2} = |v′|^{2} +|z′|^{2} = 1 on obtient H(n, v +z) = z′ = λ(z)z, où λ(z) = 1 ou 1/|z|^{2}. La continuité de H donne λ(z) ≡ 1 (voir [4], p. 35).

Maintenant, considérons la dérivation ϕ. On sait que ϕ(v) = [B̄(e, \frac{v}{|v|}), v]

pour tout 0 ≠ v ∈ V. On a alors: ϕ(v) = −ϕ(−v) = −[B̄(e, −\frac{v}{|v|}), −v] =

[B̄(e, −\frac{v}{|v|}), v] et donc: ϕ(v) = [B̃(v), v] où

B̃(v) = \frac{1}{2} \{B̄(e, \frac{v}{|v|}) + B̄(e, −\frac{v}{|v|})\} .

La preuve du résultat est complète, une fois que l’on montre que l’application B̃ vérifie la condition B̃ (e^{J (z)}v) = B̃(v) de la proposition 2.8. Ceci se fait exactement comme dans la démonstration du théorème 4.3 de [4], sans aucun changement important. En fait, d’abord pour tout (n, v + z) ∈ S_{g_{0}}(N_{0}), d’après les lemmes 2.6, 2.9 et la proposition 1.1, on a:

B(φ_{t}(n, v + z)) = B(n, v + z) + (e^{tJ (z)} − Id) J (z)^{−1}(I(n, v + z) − v)

B(φ_{t}(n, −v + z)) = B(n, −v + z) + (e^{tJ (z)} − Id) J (z)^{−1}(I(n, −v + z) + v).

Ensuite, les lemmes 2.6 et 2.9 nous donnent: I(φ_{t}(n, v + z)) = e^{tJ (z)}I(n, v + z) et donc pour t = t_{0}, on a:

I(nγ(t_{0}, v + z), −v + z) = −I(n, v + z)

où γ(t, v + z) est la géodésique définie par γ(0) = e, γ′(0) = v + z. En remplaçant n par nγ(t_{0}, v + z) dans la deuxième égalité, en additionnant avec la première et en considérant la troisième égalité, on obtient:

\begin{matrix}B(φ_{t}(n, v + z)) + B(φ_{t}(nγ(t_{0}, v + z), −v + z)) = \\ B(n, v + z) + B(nγ(t_{0}, v + z), −v + z) \end{matrix}

d’où:

\begin{matrix}B̄(φ_{t}(n, v + z)) + B̄(φ_{t}(nγ(t_{0}, v + z), −v + z)) = \\ B̄(n, v + z) + B̄(nγ(t_{0}, v + z), −v + z). \end{matrix}

Maintenant, en remplaçant v par cos(s)v, z par sin(s)z et t par \frac{t}{sin(s)} et

prenant en compte le fait que B̄(n, v) est indépendant de n, quand s tend vers 0, on obtient:

B̄(e, e^{tJ (z)}v) + B̄(e, −e^{tJ (z)}v) = B̄(e, v) + B̄(e, −v)

on en déduit l’égalité recherchée B̃ (e^{J (z)}v) = B̃(v) et on termine donc la preuve du théorème 1.6.

Remerciements: Je remercie Gérard Besson pour son aide constante.

References

[1] Eberlein, P., Geometry of 2-step nilpotent groups with a left invariant metric, Ann. Scient. Ec. Norm. Sup. 27 (1994), 611–660.

[2] —, Geometry of 2-step nilpotent groups with a left invariant metric II , Trans. Amer. Math. Soc. 343 (1994), 805–828.

[3] Fanaï, H.-R., Rigidité du flot géodésique de certaines nilvariétés de rang deux, Séminaire de théorie spectrale et géométrie, Grenoble 15 (1997), 25–36.

[4] Gordon, C., et Y. Mao, Geodesic conjugacies of two-step nilmanifolds, à paraître dans Mich. Math. Journal.

[5] Gordon, C., Y. Mao et D. Schueth, Symplectic rigidity of geodesic flows on two-step nilmanifolds, Ann. Scient. Ec. Norm. Sup. 30 (1997), 417–427.

[6] Gornet, R., et M. B. Mast, The length spectrum of Riemannian two-step nilmanifolds, à paraître dans Ann. Scient. Ec. Norm. Sup.

[7] Lee, K. B., et K. Park, Smoothly closed geodesics in 2-step nilmanifolds, Indiana Univ. Math. J. 45 (1996), 1–14.

[8] Mast, M. B., Closed geodesics in 2-step nilmanifolds, Indiana Univ. Math. J. 43 (1994), 885–911.

[9] Raghunathan, M. S., “Discrete subgroups of Lie groups,” Springer-Verlag, 1972.

ENS de Lyon Laboratoire de Mathématiques 46, allée d’Italie, 69364 Lyon cedex 07 France

Received November 11, 1998 and in final form May 26, 1999