Journal of Lie Theory Volume 6 (1996) 271–289 C ◯1996 Heldermann Verlag

Opérateurs différentiels invariants hyperboliques sur un espace symétrique ordonné

Jacques Faraut

Communicated by K.-H. Neeb

Abstract. Let M be a homogeneous and globally causal manifold and D an invariant differential operator on M. We study conditions under which D permits a causal fundamental solution. For the cases that M is an ordered symmetric space of Ol’shanskiĭ type or an ordered symmetric space of rank 1 we show that an invariant hyperbolic operator admits a causal fundamental solution.

Soit M une variété causale globale et homogène, et soit D un opérateur différentiel invariant sur M. La question que nous étudions est de savoir à quelle condition l’opérateur D admet une solution élémentaire causale. Lorsque M est un espace symétrique ordonné de type Ol’shanskiĭ, ou un espace symétrique ordonné de rang un, nous montrons qu’un opérateur différentiel invariant hyperbolique admet une solution élémentaire causale.

Ce travail a été achevé pendant un séjour que j’ai fait à l’Institut Mittag-Leffler en mai 1996, et je remercie les organisateurs de l’année spéciale Analysis on Lie groups de m’y avoir invité.

1. Variété causale et solution élémentaire causale

Soit M une variété causale, c’est à dire une variété M munie d’un champ de cônes : pour tout x ∈ M, C_{x} est un cône régulier dans l’espace tangent T_{x}(M) (régulier signifie convexe, fermé, pointu et d’intérieur non vide). On suppose que la variété causale M est homogène : M = G/H où G est un groupe de Lie connexe, H est un sous-groupe fermé, et le champ de cônes (C_{x}) est invariant par G, c’est à dire que

C_{gx} = (Dτ(g))_{x}(C_{x})

(τ(g) désigne l’application x ↦ g · x). Une structure causale invariante sur M est déterminée par la donnée d’un cône C_{x_{0}} ⊂ T_{x_{0}}(M) invariant par H (x_{0} est le point de base, x_{0} = eH). Nous supposons que la structure causale est globale, c’est à dire qu’il n’existe pas de courbe causale fermée non triviale. Elle définit

ISSN 0949–5932 / $2.50 ^{_{C} ◯} Heldermann Verlag alors un ordre sur M : on note x ≤ y s’il existe une courbe causale allant de x à y.

Soit D un opérateur différentiel invariant sur M. Une solution élémentaire de D est une distribution E sur M invariante par H telle que

DE = δ_{0},

où δ_{0} désigne la distribution de Dirac au point x_{0} . Elle permet de résoudre l’équation

Du = f, f ∈ C_{c}^{∞}.

Une solution de cette équation est en effet donnée formellement par

u(x) = ∫_{G/H} E(ẏ^{−1}x)f(ẏ)dẏ.

La solution élémentaire E est dite causale si son support est contenu dans {x ≥ x_{0}}. Notons que, dans ce cas, la valeur de u au point x ne dépend que des valeurs de f sur l’ensemble {y ≤ x} (le ‘passé’ de x).

Dans cet article nous considérons la question suivante : à quelle condition l’opérateur différentiel invariant D possède-t-il une solution élémentaire causale ?

Nous rappelons dans la section 2 des résultats classiques sur les opérateurs différentiels à coefficients constants hyperboliques. Ceux-ci utilisent la caractérisation des transformées de Laplace de distributions tempérées et un théorème de Hörmander sur la minoration d’un polynôme par une puissance de la distance à l’ensemble de ses zéros. Dans la section 3 nous proposons une définition de l’hyperbolicité pour un opérateur différentiel invariant sur un espace symétrique ordonné. Dans le cas d’un espace symétrique de type Ol’shanskiĭ (section 4) et dans le cas d’un espace symétrique ordonné de rang un (section 5) la méthode des intégrales orbitales permet de se ramener à l’étude d’un opérateur différentiel à coefficients constants sur un sous-espace de Cartan. Nous montrons alors que tout opérateur différentiel invariant hyperbolique admet une solution élémentaire causale.

2. Opérateurs différentiels hyperboliques à coefficients constants

Soit V un espace vectoriel de dimension finie, V ≃ ℝ^{n}, et soit G le groupe des translations. Une structure causale invariante sur V est définie par un cône régulier C ⊂ V . Un opérateur différentiel invariant D est un opérateur différentiel à coefficients constants,

D = P (\frac{∂}{∂x}),

où P est un polynôme. Une solution élémentaire de D est une distribution E telle que

DE = δ.

Elle est causale si supp(E) ⊂ C. Le cône dual C^{∗} est défini par

C^{∗} = {λ ∈ V^{∗} | ∀x ∈ C, ⟨λ, x⟩ ≥ 0}.

Si D admet une solution élémentaire causale E elle est unique. En effet si T est une distribution solution de DT = 0 et dont le support est contenu dans C, alors T = 0, car le produit de convolution E ∗ T est bien défini et

\begin{aligned}D(E ∗ T) & = DE ∗ T = T \\ & = E ∗ DT = 0. \end{aligned}

Notons Ω l’intérieur de C^{∗}. Nous dirons qu’un opérateur différentiel à coefficients constants D = P (\frac{∂}{∂x}) est hyperbolique par rapport au cône Ω s’il existe λ_{0} ∈ V tel que P (λ) ne s’annule pas dans le tube λ_{0} + Ω + iV .

Théorème 2.1. Si D = P (\frac{∂}{∂x}) est hyperbolique par rapport à Ω, alors il possède une solution élémentaire dont le support est contenu dans C.

Si n = 1 tout opérateur différentiel à coefficients constants D = P (\frac{d}{dx}) non nul est hyperbolique (par rapport à Ω =]0, ∞[). Si le polynôme P est unitaire la solution élémentaire causale E de D s’écrit

⟨E, φ⟩ = ∫_{0}^{∞} u(x)φ(x)dx,

où u est la solution de Jean Mineur de l’équation différentielle

Du = 0,

c’est à dire la solution qui vérifie les conditions de Cauchy (0, 0, …, 0, 1) :

\begin{aligned}u(0) & = 0, \\ u′(0) & = 0, \\ ⋯ & ⋯ \\ u^{(k−2)}(0) & = 0, \\ u^{(k−1)}(0) & = 1, \end{aligned}

si deg P = k.

La démonstration du théorème 2.1 utilise la transformation de Laplace. Celle que nous présentons ici est inspirée de Vladimirov [14]. Nous en avons simplifié certains points. (Voir aussi Atiyah-Bott-Gårding [1], Bogoljubov-Vladi-mirov [2].)

Fixons un produit scalaire euclidien sur V , et notons d la distance euclidienne associée. Pour y ∈ C^{∗} on note δ(y) la distance de y au bord ∂C^{∗} de C^{∗},

δ(y) = d(y, ∂C^{∗}) = inf_{z∈∂C^{∗}} d(y, z).

Lemme 2.2. Pour y ∈ C^{∗},

(i)  inf_{x∈C,∥x∥=1}(x|y) = δ(y),

et, pour k > 0, y ∈ (C^{∗})^{0} ,

(ii)  sup_{x∈C} ∥x∥^{k}e^{−(x|y)} = (\frac{k}{e} )^{k}δ(y)^{−k}.

Démonstration. (a) Le cône C^{∗} est l’intersection des demi-espaces fermés

H_{x} = {y ∈ V | (y|x) ≥ 0} (x ∈ C, ∥x∥ = 1)

et son complémentaire est la réunion des demi-espaces ouverts

H_{x}^{c} = {y ∈ V | (y|x) < 0}.

Pour y ∈ C^{∗},

δ(y) = inf_{x∈C,∥x∥=1} d(y, H_{x}^{c}).

Puisque

d(y, H_{x}^{c}) = (x|y),

(i) s’en déduit.

(b) Soit k > 0 et y ∈ (C^{∗})^{0} , et fixons x ∈ C, ∥x∥ = 1, alors (x|y) > 0. Soit f la fonction définie sur [0, ∞[ par

f(t) = t^{k}e^{−t(x|y)}.

Le maximum de f est atteint en t_{0} = \frac{k}{(x|y)} et

f(t_{0}) = (\frac{k}{e} )^{k}(x|y)^{−k}.

Par suite

sup_{x∈C} ∥x∥^{k}e^{−(x|y)} = (\frac{k}{e} )^{k} sup_{x∈C,∥x∥=1}(x|y)^{−k}

= (\frac{k}{e} )^{k}δ(y)^{−k}.

Exemples. Si C est le cône de Lorentz,

C = {x ∈ ℝ^{n} | x_{1}^{2} − x_{2}^{2} − ⋯ − x_{n}^{2} ≥ 0, x_{1} ≥ 0},

alors C = C^{∗} et

δ(x) = \frac{1}{\sqrt{2}}(x_{1} − \sqrt{x_{2}^{2} + ⋯ + x_{n}^{2}}).

Soit V = Sym(m, ℝ) ≃ ℝ^{n} l’espace des matrices symétriques réelles m × m (n = \frac{1}{2}m(m + 1)), muni du produit scalaire (x|y) = tr xy, et soit Ω = (C^{∗})^{0} le cône des matrices symétriques définies positives. Alors δ(x) est égal à la plus petite valeur propre de x, ce qui peut aussi s’écrire

δ(x) = |x^{−1}|^{−1},

où |u| désigne la norme spectrale de u.

Ce dernier résultat se généralise au cas des cônes symétriques (voir J. Unterberger [12]).

Lemme 2.3. Il existe un polynôme p sur V tel que, pour λ ∈ C^{∗} + iV ,

|p(λ)|^{2} ≥ (1 + ∥λ∥^{2}).

Démonstration. Soit (e_{1}, …, e_{n}) une base de V constituée de vecteurs appartenant à C^{0} . Posons

p(λ) = ∏_{j=1}^{n}(1 + (λ|e_{j})).

Pour λ = μ + iν, μ ∈ C^{∗},

|p(μ + iν)|^{2} = ∏_{j=1}^{n}((1 + (μ|e_{j}))^{2} + (ν|e_{j})^{2})

≥ ∏_{j=1}^{n}(1 + (μ|e_{j})^{2} + (ν|e_{j})^{2}) ≥ 1 + A∥λ∥^{2}.

On note S′(C) l’espace des distributions tempérées de support contenu dans C. C’est le dual de l’espace S(C) des fonctions φ sur C qui sont restrictions à C de fonctions de S(V). Si T ∈ S′(C) il existe M, k, ℓ tels que

|⟨T, φ⟩| ≤ M sup_{x∈C,|α|≤ℓ}(1 + ∥x∥^{2})^{\frac{k}{2}} |D^{α}φ(x)|.

Si λ ∈ Ω+iV , alors la fonction φ_{λ}(x) = e^{−(λ,x)} appartient à S(C). Soit T ∈ S′(C). La transformée de Laplace de T est la fonction T̂ = L(T) définie sur Ω + iV par

T̂(λ) = ⟨T, φ_{λ}⟩,

ce qu’on peut écrire formellement

T̂(λ) = ∫_{C} e^{−(λ|x)}T (x)dx.

On note H(Ω) l’espace des fonctions holomorphes f dans le tube Ω+iV vérifiant la propriété suivante : il existe M, α, et β ≥ 0 tels que

|f(λ)| ≤ M(1 + ∥λ∥^{2})^{\frac{α}{2}} (1 + δ(μ)^{−β}) (λ = μ + iν, μ ∈ Ω).

Théorème 2.4. La transformation de Laplace établit un isomorphisme entre les espaces S′(C) et H(Ω).

Démonstration. (a) Soit T ∈ S′(C). Posons

f(λ) = T̂(λ) (λ ∈ Ω + iV).

Alors il existe M, k, ℓ tels que

|f(λ)| ≤ M sup_{x∈C,|α|≤ℓ}(1 + ∥x∥^{2})^{\frac{k}{2}} |D^{α}φ_{λ}(x)|.

D’une part

D^{α}φ_{λ}(x) = (−λ)^{α}e^{−(λ|x)},

et

|D^{α}φ_{λ}(x)| ≤ M_{1}(1 + ∥λ∥^{2})^{\frac{ℓ}{2}} e^{−(μ|x)}.

D’autre part, pour x ∈ C,

(1 + ∥x∥^{2})^{\frac{k}{2}} e^{−(μ|x)} ≤ M_{2}(1 + ∥x∥^{k})e^{−(μ|x)} ≤ M_{3}(1 + δ(μ)^{−k}),

d’après le lemme 2.2.

(b) Soit f une fonction holomorphe dans Ω + iV vérifiant

|f(λ)| ≤ M(1 + ∥λ∥^{2})^{\frac{α}{2}} (1 + δ(μ)^{−β}).

Supposons d’abord α < −n. Alors (1 + ∥ν∥^{2})^{\frac{α}{2}} est intégrable sur V . Posons

g_{μ}(x) = \frac{1}{(2π)^{n}} ∫_{V} f(μ + iν)e^{i(ν|x)}dν.

A l’aide du lemme IX.3.2 de Faraut-Korányi [6] on montre que

g_{μ}(x) = e^{−(μ|x)}g(x),

où g est une fonction qui ne dépend pas de μ. De la majoration vérifiée par f on déduit que

|g(x)| ≤ M_{1}e^{(μ|x)}(1 + δ(μ)^{−β}) (μ ∈ Ω),

avec

M_{1} = M ∫_{V} (1 + ∥ν∥^{2})^{\frac{α}{2}} dν.

Si x ∉ C, il existe μ ∈ Ω tel que (μ|x) < 0, et, pour tout t > 0,

|g(x)| ≤ M_{1}e^{t(μ|x)}(1 + t^{−β}δ(μ)^{−β}),

donc g(x) = 0.

Si ∥μ∥ = 1, alors (x|μ) ≤ ∥x∥, donc

|g(x)| ≤ M_{1}e^{t∥x∥}(1 + t^{−β}δ(μ)^{−β}),

et, pour t = \frac{1}{∥x∥},

|g(x)| ≤ M_{1}e(1 + δ(μ)^{−β}∥x∥^{β}) ≤ M_{1}(1 + ∥x∥^{β}).

Ainsi la fonction g définit une distribution tempérée de support contenu dans C et on vérifie que f est la transformée de Laplace de g.

Si α ≥ −n, choisissons N ≥ \frac{1}{2} (α + n) et posons

f_{N}(λ) = \frac{f(λ)}{p(λ)^{N}} ,

où p est le polynôme du lemme 2.3. La fonction f_{N} vérifie une majoration semblable avec α_{1} = α − 2N. On se trouve donc dans la situation précédente. Soit g_{N} la fonction correspondante. Finalement f est la transformée de Laplace de la distribution

T = p(\frac{∂}{∂x})^{N}g_{N}.

Exemple. Soit Ω ⊂ V = Sym(n, ℝ) le cône des matrices symétriques définies positives. Pour tout s ∈ ℂ la fonction f définie sur Ω + iV par

f(λ) = det(λ)^{s}

appartient à H(Ω). Il existe en effet une constante C telle que

| det(λ)| ≤ C∥λ∥^{n}.

D’autre part, si μ ∈ Ω, il existe γ ∈ GL(n, ℝ) tel que μ = γγ^{T} . Ainsi, si λ = μ + iν,

det(λ) = det μ det(I + iγ^{−1}ν(γ^{−1})^{T}),

et

| det(I + iγ^{−1}ν(γ^{−1})^{T})| ≥ 1, det(μ) ≥ δ(μ)^{n}.

Par suite, si ℜs ≥ 0,

| det(λ)^{s}| ≤ M(1 + ∥λ∥^{2})^{\frac{1}{2} nℜs},

et si ℜs ≤ 0,

| det(λ)^{s}| ≤ 1 + δ(μ)^{−nℜs}.

Soit D = P (\frac{∂}{∂x}) un opérateur différentiel à coefficients constants sur V . Supposons que D possède une solution élémentaire tempérée E de support contenu dans C. La transformée de Laplace f = Ê de E est

f(λ) = \frac{1}{P (λ)} (λ ∈ Ω + iV).

En particulier cela implique que P ne s’annule pas dans le tube Ω + iV . Ainsi, d’après le théorème 2.4, l’opérateur D admet une solution élémentaire tempérée de support contenu dans C si et seulement si f = \frac{1}{P} appartient à l’espace H(Ω).

Pour démontrer le théorème 2.1 nous utiliserons le

Théorème 2.5. Soit P un polynôme qui ne s’annule pas sur Ω + iV , alors f = \frac{1}{P} appartient à H(Ω). Démonstration. C’est une conséquence du lemme 2 de Hörmander [8] (qui lui-même résulte du théorème de Seidenberg-Tarski), qu’on applique à P (μ + iν) considéré comme polynôme de 2n variables. Soit N l’ensemble des zéros de P, et soit d(λ, N) la distance du point λ à l’ensemble N. Alors il existe des constantes C, α, β telles que

|P (λ)| ≥ C(1 + ∥λ∥^{2})^{\frac{α}{2}} d(λ, N)^{β}.

Puisque N ⊂ (Ω + iV)^{c}, pour λ = μ + iν, μ ∈ Ω,

d(λ, N) ≥ δ(μ),

et par suite

\frac{1}{|P (λ)|} ≤ \frac{1}{C} (1 + ∥λ∥^{2})^{− \frac{α}{2}} (1 + δ(μ)^{−β}).

Exemple. Soient V = Sym(m, ℝ), et Ω le cône des matrices symétriques définies positives. Le polynôme P, P (λ) = det λ se n’annule pas dans le tube Ω + iV .

Démonstration du théorème 2.1. Soit D = P (\frac{∂}{∂x}) un opérateur hyperbolique par rapport au cône Ω. Il existe λ_{0} ∈ V tel que P_{1}(λ) = P (λ_{0} + λ) ne s’annule pas dans le tube Ω + iV . D’après le théorème 2.5 la fonction f = \frac{1}{P_{1}} appartient à H(Ω), et, d’après le théorème 2.4, f est la transformée de Laplace d’une distribution E_{1} ∈ S′(C). La distribution E = e^{(λ_{0}|x)}E_{1} est une solution élémentaire de D dont le support est contenu dans C.

3. Opérateurs hyperboliques invariants sur un espace symétrique ordonné

Nous supposons maintenant que M est un espace symétrique : il existe un automorphisme involutif σ de G tel que

(G^{σ})_{0} ⊂ H ⊂ G^{σ},

où G^{σ} = {g ∈ G | σ(g) = g} et (G^{σ})_{0} est la composante connexe de l’élément neutre dans G^{σ}. Notons 𝔤 et 𝔥 les algèbres de Lie de G et H,

𝔥 = {X ∈ 𝔤 | σ(X) = X},

et

𝔮 = {X ∈ 𝔤 | σ(X) = −X} ≃ T_{x_{0}}(M).

Une structure causale invariante sur M = G/H est déterminée par un cône régulier C ⊂ 𝔮 qui est invariant par Ad(H). Nous supposons que G est semisimple de centre fini, et que (𝔤, 𝔥) est une paire symétrique irréductible. Il existe une involution de Cartan θ qui commute avec σ, σ ∘ θ = θ ∘ σ. Soit 𝔤 = 𝔨 + 𝔭 la décomposition de Cartan correspondante. Nous fixons un cône régulier C ⊂ 𝔮 invariant par Ad(H) tel que C ∩ 𝔨 = {0}. La structure causale invariante correspondante est globale, et définit un ordre sur M (Faraut-Hilgert-Ólafsson [5], Theorem 4.1).

Il existe un sous-espace de Cartan 𝔞 ⊂ 𝔭 qui est contenu dans 𝔭∩𝔮. Soit Δ = Δ(𝔤, 𝔞) le système de racines associé. On choisit dans Δ un système positif Δ^{+} et on pose

𝔫 = ∑_{α∈Δ^{+}} 𝔤^{α}, ρ = \frac{1}{2} ∑_{α∈Δ^{+}} m_{α}α,

A = exp 𝔞, N = exp 𝔫.

L’ensemble NAH est un ouvert de G, et, pour un choix convenable de Δ^{+} , exp C ⊂ NAH ([5], Theorem 4.2). Pour x ∈ NA · x_{0} on pose

x = n exp A(x) · x_{0} (n ∈ N, A(x) ∈ 𝔞).

L’homomorphisme de Harish-Chandra associe à tout opérateur différentiel invariant D un polynôme γ_{D} ∈ S(𝔞) invariant par le groupe de Weyl W du système Δ. La partie horisphérique de D s’exprime à l’aide de γ_{D}. Soit en effet f une fonction de classe C^{∞} sur l’ouvert NA · x_{0} ⊂ M invariante par N. Une telle fonction peut s’écrire

f(x) = f_{0}(A(x)),

où f_{0} est une fonction définie sur 𝔞. La fonction Df est aussi invariante par N et s’écrit

Df(x) = e^{⟨ρ,X⟩}γ_{D}(\frac{∂}{∂X} )e^{−⟨ρ,X⟩}f_{0}(X)|_{X=A(x)}.

En particulier, si

f_{0}(X) = e^{⟨ρ−λ,X⟩}, λ ∈ 𝔞_{ℂ}^{∗},

alors f est une fonction propre de D,

Df = γ_{D}(−λ)f.

Soit f une fonction définie sur M invariante par H et dont le support est contenu dans {x ≥ x_{0}}. La transformée de Laplace sphérique de f est définie par

L(f)(λ) = ∫_{M} e^{⟨ρ−λ,A(x)⟩}f(x)dx,

si toutefois l’intégrale converge. La transformation de Laplace sphérique possède la propriété fondamentale suivante. Soit D un opérateur différentiel invariant sur M. Sous des hypothèses convenables de différentiabilité et d’intégrabilité sur la fonction f,

L(Df)(λ) = γ_{D}(λ)L(f)(λ).

Ainsi, si E est une solution élémentaire causale de D, et s’il est possible de définir la transformée de Laplace sphérique de E, on doit avoir

L(E)(λ) = \frac{1}{γ_{D}(λ)}.

Notons Ω ⊂ 𝔞^{∗} l’intérieur du cône dual de C ∩ 𝔞. Nous dirons qu’un opérateur différentiel invariant D sur M = G/H est hyperbolique par rapport à Ω s’il existe λ_{0} ∈ 𝔞^{∗} tel que γ_{D}(λ) ne s’annule pas dans le tube λ_{0}+Ω+i𝔞^{∗} ⊂ 𝔞_{ℂ}^{∗}, et nous énonçons la conjecture suivante : si D est un opérateur différentiel invariant hyperbolique par rapport à Ω, alors D possède une solution élémentaire causale. Dans la section 4 nous démontrons cette conjecture dans le cas d’un espace symétrique ordonné de type Ol’shanskiĭ, et dans la section 5 pour un espace symétrique ordonné de rang un.

Terminons cette section par une remarque concernant la transformation d’Abel. Si f est une fonction continue sur {x ≥ x_{0}}, nulle en dehors de {x ≥ x_{0}} et invariante par H, la transformée d’Abel de f est définie sur 𝔞 par

Af(X) = e^{−⟨ρ,X⟩} ∫_{N} f(n exp X)dn,

Soit D un opérateur différentiel invariant. Sous des hypothèses convenables de différentiabilité et d’intégrabilité,

A(Df) = γ_{D}(\frac{∂}{∂X} )Af.

Si E est une solution élémentaire causale de D, et s’il est possible de définir la transformée d’Abel de E, alors E_{0} = A(E) doit être une solution élémentaire de l’opérateur différentiel à coefficients constants

D_{0} = γ_{D}(\frac{∂}{∂X} ).

4. Opérateurs différentiels invariants sur un espace symétrique de type Ol’shanskiĭ

Soient 𝔥 une algèbre de Lie simple hermitienne, G un groupe de Lie connexe d’algèbre de Lie 𝔤 = 𝔥^{ℂ}, et H un sous-groupe fermé de G d’algèbre de Lie 𝔥. L’espace symétrique M = G/H est un espace symétrique de type Ol’shanskiĭ ([5], section 3). On note 𝔱 une sous-algèbre de Cartan compacte de 𝔥, et 𝔞 = i𝔱. Si λ ∈ 𝔞^{∗} il existe T_{λ} ∈ 𝔞 tel que λ(X) = B(X, T_{λ}), où B désigne la forme de Killing de 𝔤, et, pour λ, μ ∈ 𝔞^{∗}, on pose ⟨λ, μ⟩ = B(T_{λ}, T_{μ}). Il existe X_{0} ∈ 𝔞 tel que ad X_{0} aient pour valeurs propres −1, 0, 1. On note

𝔤 = 𝔤_{−1} + 𝔤_{0} + 𝔤_{1}

la décomposition de 𝔤 en sous-espaces propres de ad X_{0} . Soient Δ = Δ(𝔤, 𝔞) le système de racines de la paire (𝔤, 𝔞), et

Δ_{i} = {α ∈ Δ | 𝔤_{α} ⊂ 𝔤_{i}}, (i = −1, 0, 1).

Soit Δ^{+} un système positif contenant Δ_{1} . On fixe dans la suite un cône régulier C ⊂ i𝔥 invariant par Ad(H) tel que X_{0} ∈ C. L’ensemble des éléments réguliers de 𝔞 sera noté 𝔞′,

𝔞′ = {X ∈ 𝔞 | ∀α ∈ Δ, α(X) ≠ 0}.

Pour λ ∈ 𝔞^{∗}, on pose

ϖ(λ) = ∏_{α∈Δ^{+}}⟨α, λ⟩,

et pour X ∈ 𝔞

J(X) = ∏_{α∈Δ^{+}} sh α(X).

Soit D un opérateur différentiel invariant sur M. La partie radiale de D relativement à 𝔞 s’écrit

Df(h exp X) = \frac{1}{J(X)}γ_{D}(\frac{∂}{∂X})(Jf)(X),

pour f ∈ C^{∞}(M)^{H}, X ∈ 𝔞′.

Théorème 4.1. Si D un opérateur différentiel invariant hyperbolique par rapport à Ω, alors D possède une solution élémentaire causale. La démonstration utilise le théorème 2.1 et les propriétés des intégrales orbitales. Si f ∈ C_{c}^{∞}(M), la fonction Mf est définie pour X ∈ C^{0} ∩ 𝔞′ par

Mf(X) = J(X) ∫_{H} f(h exp X)dh.

La définition habituelle utilise une intégrale sur le quotient H/Z_{H}(𝔞), mais, dans la situation présente, Z_{H}(𝔞) est un sous-groupe compact ([5], Lemma 5.1), et elle fait intervenir un facteur ε(X) qui serait ici

ε(X) = sgn ∏_{α∈Δ_{1}} α(X),

mais les racines α ∈ Δ_{1} sont positives sur C^{0} ∩ 𝔞. En effet

C^{0} ∩ 𝔞 ⊂ C_{max}^{0} ∩ 𝔞,

et

C_{max}^{0} ∩ 𝔞 = {X ∈ 𝔞 | ∀α ∈ Δ_{1}, α(X) > 0}.

Proposition 4.2. (i) Mf se prolonge en une fonction de classe C^{∞} sur C ∩𝔞. (ii) Si D est un opérateur différentiel invariant sur M,

M(Df) = γ_{D}(\frac{∂}{∂X})Mf.

(iii) Il existe une constante c ≠ 0 telle que

ϖ(\frac{∂}{∂X})Mf(0) = cf(x_{0}).

Démonstration. L’application

X ↦ exp X, C → exp(C),

est un homéomorphisme, dont la restriction à C^{0} est un difféomorphisme (Ol’- shanskiĭ [10], Theorem 3.5). Par suite la proposition se déduit des propriétés des intégrales orbitales qui ont été établies par Harish-Chandra dans le cas d’une algèbre de Lie. On peut trouver ces résultats dans Varadarajan [13]. La propriété (i) est une conséquence du théorème 23, Part I, Section 3, p.47. En effet la fonction Mf est définie sur C_{max} ∩ 𝔞′. De ce théorème on déduit les faits suivants. Si Γ est une composante connexe de C_{max} ∩ 𝔞′, alors la fonction Mf, ainsi que ses dérivées, se prolongent continuement à l’adhérence Γ̄ de Γ. De plus la fonction Mf, ainsi que ses dérivées, n’admettent pas de discontinuité le long d’un mur d’équation ⟨α, X⟩ = 0 si α ∈ Δ_{0} . Il en résulte que Mf est de classe C^{∞} dans C_{max}^{0} ∩𝔞 et se prolonge par continuité à C_{max} ∩𝔞 ainsi que ses dérivées. Par suite Mf est égale à la restriction à C_{max} ∩ 𝔞 d’une fonction de classe C^{∞} sur 𝔞. En effet, du théorème de prolongement de Whitney, on déduit que si U est un ouvert convexe de ℝ^{n}, et si F ∈ C^{∞}(U) se prolonge par continuité à Ū ainsi que chacune de ses dérivées, alors F est égale à la restriction à U d’une fonction de classe C^{∞} sur ℝ^{n}.

La propriété (ii) se déduit du théorème 9, Part I, Section 3, p.37, et la propriété (iii) du théorème 11, Part I, section 8, p.126 car 𝔱 = i𝔞 est une sousalgèbre de Cartan compacte de 𝔤. (Voir aussi Bouaziz [3].)

Démonstration du théorème 4.1. D’après le théorème 2.1 l’opérateur γ_{D}(\frac{∂}{∂X}) possède une solution élémentaire E_{0} de support contenu dans C ∩ 𝔞, qu’on peut supposer W_{0} -invariante, W_{0} = N_{H}(𝔞)/Z_{H}(𝔞). Pour une fonction f de C_{c}^{∞}(M) on pose

⟨E, f⟩ = \frac{1}{c}⟨E_{0}, ϖ(\frac{∂}{∂X})Mf⟩.

Ceci est bien défini puisque Mf est de classe C^{∞} sur C ∩𝔞 (Proposition 3.1 (i)). Ainsi E est une distribution H -invariante sur M dont le support est contenu dans {x ∈ M | x ≥ x_{0}}. Montrons que E est une solution élémentaire de l’opérateur D :

\begin{aligned}⟨DE, f⟩ & = ⟨E, D^{T} f⟩ \\ & = \frac{1}{c}⟨E_{0}, ϖ(\frac{∂}{∂X})M(D^{T} f)⟩. \end{aligned}

D’après la propriété (ii) de la proposition 3.1,

= \frac{1}{c}⟨E_{0}, ϖ(\frac{∂}{∂X})γ_{D^{T}} (\frac{∂}{∂X})Mf⟩.

Puisque γ_{D^{T}} (λ) = γ_{D}(−λ),

= \frac{1}{c}⟨γ_{D}(\frac{∂}{∂X})E_{0}, ϖ(\frac{∂}{∂X})Mf⟩.

On utilise maintenant la propriété (iii) de la proposition 3.1,

= f(x_{0}).

Exemple. Soient G = Sp(n, ℂ) et H = Sp(n, ℝ) ∩ SU(n, n). On peut prendre pour 𝔞 l’espace des matrices

X = ( \begin{matrix}t_{1} \\ & . & . & . \\ & & & & t_{n} \\ & & & & & −t_{1} \\ & & & & & & . & . & . \\ & & & & & & & & & −t_{n} \end{matrix} ) (t_{1}, …, t_{n} ∈ ℝ),

et C ⊂ 𝔮 est le cône invariant par Ad H tel que C ∩ 𝔮 soit défini par t_{1} ≥ 0, …, t_{n} ≥ 0. Si λ ∈ 𝔞^{∗} nous notons

λ(X) = ∑_{i=1}^{n} λ_{i}t_{i}.

Pour a ∈ ℝ il existe un opérateur différentiel invariant D tel que

γ_{D}(λ) = ∏_{i=1}^{n}(λ_{i}^{2} + a).

et cet opérateur est hyperbolique par rapport à Ω,

Ω = {λ ∈ 𝔞^{∗} | λ_{1} ≥ 0, …, λ_{n} ≥ 0}.

5. Espaces symétriques ordonnés de rang un

Dans cette section M = G/H avec G = SO_{0}(1, n), H = SO_{0}(1, n−1). L’espace M s’identifie à l’hyperboloïde à une nappe d’équation

−(x^{0})^{2} + (x^{1})^{2} + ⋯ + (x^{n})^{2} = 1,

avec le point de base x_{0} = (0, …, 0, 1). On considère dans 𝔮,

𝔮 = \{( \begin{matrix}0 & v \\ v^{T} & 0 \end{matrix} ) |v ∈ ℝ^{n}\},

le cône de Lorentz C défini par

(v^{0})^{2} − (v^{1})^{2} − ⋯ − (v^{n−1})^{2} ≥ 0, v^{0} ≥ 0.

Ce cône, qui est invariant par Ad H, définit sur M une structure causale invariante globale. La forme quadratique lorentzienne ci-dessus définit sur M une structure pseudo-riemannienne de Lorentz invariante.

Le sous-espace de Cartan 𝔞 est de dimension un. Nous le choisisons égal à 𝔞 = ℝX_{0} avec

X_{0} = ( \begin{matrix}0 & 0 & 1 \\ 0 & 0 & 0 \\ 1 & 0 & 0 \end{matrix} ) ,

et A = {a_{t} = exp tX_{0} | t ∈ ℝ}.

Dans le cas de cet espace symétrique ordonné tout opérateur différentiel invariant non nul est hyperbolique.

Théorème 5.1. Tout opérateur différentiel invariant non nul possède une solution élémentaire causale. Comme celle du théorème 4.1 la démonstration utilise les propriétés des intégrales orbitales. Si f ∈ C_{c}^{∞}(M) on note 𝔐f la fonction définie pour t > 0 par

𝔐f(t) = ∫_{H} f(ha_{t} · x_{0})dh.

La fonction 𝔐f est de classe C^{∞} sur ]0, ∞[, de support limité à droite.

Si F est une fonction définie sur M qui est H -invariante, de support contenu dans {x ≥ x_{0}},

∫_{M} F (x)f(x)dx = ∫_{0}^{∞} F (a_{t} · x_{0})𝔐f(t)(sh t)^{n−1}dt,

pour un choix convenable de la mesure de Haar dh sur H.

Si désigne le pseudo-laplacien de M, alors

𝔐( f) = L𝔐f,

où L est la partie radiale de ,

L = \frac{1}{(sh t)^{n−1}} \frac{d}{dt}((sh t)^{n−1} \frac{d}{dt}).

Notons F_{n} l’espace des fonctions φ de classe C^{∞} sur ]0, ∞[, de support limité à droite et admettant en 0 un développement asymptotique de la forme suivante : si n est impair,

φ(t) ∼ t^{−n+2} ∑_{k=0}^{∞} α_{k}t^{2k} + ∑_{k=0}^{∞} β_{k}t^{2k},

et, si n est pair

φ(t) ∼ t^{−n+2} ∑_{k=0}^{∞} α_{k}t^{2k} + log t ∑_{k=0}^{∞} β_{k}t^{2k}.

Ceci signifie que, si n est impair,

t^{n−2}φ(t) = φ_{0}(t) + t^{n−2}φ_{1}(t),

et, si n est pair,

t^{n−2}φ(t) = φ_{0}(t) + t^{n−2} log tφ_{1}(t),

où φ_{0} et φ_{1} sont deux fonctions paires de C_{c}^{∞}(ℝ). Les coefficients α_{k} et β_{k} sont des formes linéaires sur l’espace F_{n}. Nous noterons α_{k} = α_{k}(φ), β_{k} = β_{k}(φ).

Proposition 5.2. Si f ∈ C_{c}^{∞}(M), alors 𝔐f appartient à l’espace F_{n}. De plus

β_{0}(𝔐f) = a_{n}f(x_{0}),

où a_{n} est une constante non nulle. Démonstration. C’est une conséquence de résultats de Méthée [9], généralisés par Tengstrand [11]. Voir aussi Faraut [4] p.432.

L’espace F_{n} est muni d’une topologie pour laquelle l’application 𝔐 de C_{c}^{∞}(M) dans F_{n} est continue.

Soit D un opérateur différentiel invariant sur M. Supposons qu’il admette une solution élémentaire causale E. S’il est possible de l’écrire

⟨E, f⟩ = ∫_{{x≥x_{0}}} E(x)f(x)dx,

où E est une fonction H -invariante, alors

⟨E, f⟩ = ∫_{0}^{∞} E(a_{t} · x_{0})φ(t)(sh t)^{n−1}dt,

où φ = 𝔐f. Supposons que la transformée d’Abel E_{0} = A(E) soit bien définie. Pour exprimer la distribution E à l’aide de E_{0} nous allons introduire un opérateur W tel que

⟨E, f⟩ = c ∫ Wφ(t)E_{0}(t)dt.

Dans [5] p.963, nous avons montré que, si n est impair, n = 2m + 1,

E(a_{t} · x_{0}) = c_{n}(\frac{1}{sh t} \frac{d}{dt})^{m}E_{0}(t),

et si n est pair, n = 2m,

E(a_{t} · x_{0}) = c_{n}(\frac{1}{sh t} \frac{d}{dt})^{m} ∫_{0}^{t} E_{0}(τ)(ch t − ch τ)^{− \frac{1}{2}} sh τdτ.

Ceci conduit à définir l’opérateur W comme suit : si n = 2m + 1,

Wφ = (\frac{d}{dt} \frac{1}{sh t})^{m}((sh t)^{2m}φ),

et si n = 2m,

Wφ(t) = sh t ∫_{t}^{∞}(ch s − ch t)^{− \frac{1}{2}} (\frac{d}{ds} \frac{1}{sh s})^{m}((sh s)^{2m−1}φ(s))ds.

Théorème 5.3. L’opérateur W est une application continue de F_{n} dans C_{c}^{∞}([0, ∞[) vérifiant

(i) WL = (\frac{d^{2}}{dt^{2}} − ρ^{2})W, où ρ = \frac{n−1}{2} ,
(ii) (Wφ)(0) = b_{n}β_{0}(φ), où b_{n} est une constante non nulle.

Démonstration. Il est clair que W applique F_{n} dans C_{c}^{∞}(]0, ∞[). Si le support de φ est contenu dans l’intervalle [0, τ], il en est de même du support de Wφ. La propriété (i) résulte du fait que W est l’opérateur transposé de l’inverse de la transformation d’Abel. Montrons que si φ ∈ F_{n} alors Wφ(t) a une limite Wφ(0) quand t → 0, et que

Wφ(0) = b_{n}β_{0}(φ).

Si n = 2m + 1,

Wφ = sh t(\frac{1}{sh t} \frac{d}{dt})^{m}((sh t)^{2m−1}φ),

et

(sh t)^{2m−1}φ = φ_{0} + t^{2m−1}φ_{1},

où φ_{0} et φ_{1} sont deux fonctions paires de C_{c}^{∞}(ℝ). La fonction

ψ_{0} = sh t(\frac{1}{sh t} \frac{d}{dt})^{m}φ_{0}

est de classe C^{∞} et impaire. La fonction

ψ_{1} = sh t(\frac{1}{sh t} \frac{d}{dt})^{m}(t^{2m−1}φ_{1})

est C^{∞} et paire. De plus

ψ_{1}(0) = (2m − 1)(2m − 3) ⋯ 3 · 1φ_{1}(0).
Si n = 2m,
(sh t)^{2m−2}φ(t) = φ_{0}(t) + t^{2m−2} log tφ_{1}(t),

où φ_{0} et φ_{1} sont deux fonctions paires de C_{c}^{∞}(ℝ),

(\frac{1}{sh t} \frac{d}{dt})^{m}(φ_{0}) = ψ_{0},
(\frac{1}{sh t} \frac{d}{dt})^{m}(t^{2m−2} log tφ_{1}) = \frac{1}{t^{2}} ψ_{1} + log tψ_{2},

où ψ_{0} , ψ_{1} , et ψ_{2} sont des fonctions paires de classe C^{∞}. De plus

ψ_{1}(0) = (2m − 2)(2m − 4) ⋯ 2φ_{1}(0).

On peut écrire

Wφ(t) = sh t ∫_{t}^{∞}(ch s − ch t)^{− \frac{1}{2}} ψ(s) sh sds,

avec

ψ(s) = (\frac{1}{sh t} \frac{d}{dt})^{m}((sh t)^{2m−2}φ).

En posant x = ch s, l’intégrale s’écrit

∫_{ch t}^{∞}(x − ch t)^{− \frac{1}{2}} Ψ(x)dx,

puis, en posant Ψ_{0}(x) = (x − 1)Ψ(x) on obtient

Wφ(t) = \frac{sh t}{\sqrt{ch t − 1}} ∫_{0}^{∞} \frac{1}{\sqrt{u}(1 + u)}Ψ_{0}(ch t + (ch t − 1)u)du.

L’intégrale ci-dessus a une limite quand t → 0. Ceci montre que Wφ a une limite quand t → 0, et que

Wφ(0) = b_{n}β_{0}(φ).

En utilisant la propriété (i) on en déduit que toutes les dérivées d’ordre pair de Wφ ont des limites quand t → 0. Par suite Wφ se prolonge en une fonction de C_{c}^{∞}([0, ∞[).

Démonstration du théorème 5.1. Puisque l’algèbre 𝔻(G/H) est engendrée par , et puisque

γ (λ) = λ^{2} − ρ^{2},

il résulte du théorème 5.3 que, pour tout D ∈ 𝔻(G/H),

W𝔐D = γ_{D}(\frac{d}{dt})W𝔐.

Soit D ∈ 𝔻(G/H) et soit E_{0} la solution élémentaire causale de l’opérateur γ_{D}(d/dt) : E_{0} est une distribution sur ℝ de support contenu dans [0, ∞[ vérifiant

γ_{D}(\frac{d}{dt})E_{0} = δ.

Soit E la distribution sur M = G/H définie par

⟨E, f⟩ = \frac{1}{a_{n}b_{n}} ⟨E_{0}, W𝔐f⟩.

Le support de E est contenu dans {x ≥ x_{0}} et

⟨DE, f⟩ = ⟨E, Df⟩

= \frac{1}{a_{n}b_{n}} ⟨E_{0}, W𝔐Df⟩

= \frac{1}{a_{n}b_{n}} ⟨E_{0}, γ_{D}(\frac{d}{dt})W𝔐f⟩

= \frac{1}{a_{n}b_{n}} ⟨γ_{D}(\frac{d}{dt})E_{0}, W𝔐f⟩

= \frac{1}{a_{n}b_{n}} (W𝔐f)(0)

= \frac{1}{a_{n}} β_{0}(𝔐f) = f(x_{0}).

Exemple. Considérons l’opérateur différentiel invariant D = + aI (a ∈ ℂ). Alors

γ_{D}(λ) = λ^{2} − α^{2},

avec α^{2} = ρ^{2} − a et

E_{0}(t) = Y (t)\frac{sh(αt)}{α},

où Y est la fonction d’Heaviside.

Pour n = 3, la solution élémentaire causale E de D est une fonction localement intégrable,

\begin{aligned}E(a_{t} · x_{0}) & = \frac{1}{2π} (\frac{1}{sh t} \frac{d}{dt})E_{0}(t) \\ & = \frac{1}{2π} Y (t)\frac{ch(αt)}{sh t}. \end{aligned}

288 Faraut

Pour n = 2, la solution élémentaire causale de E est aussi une fonction localement intégrable,

E(a_{t} · x_{0}) = \frac{1}{π} ∫_{0}^{t} \frac{ch(ατ)}{\sqrt{ch t − ch τ}} dτ,

et s’exprime à l’aide de la fonction de Legendre,

E(a_{t} · x_{0}) = \frac{1}{2} P_{s}(ch t),

avec s + \frac{1}{2} = α. En particulier, pour a = 0, α = \frac{1}{2} , ⟨E, f⟩ = \frac{1}{2} ∫_{\{x≥x_{0}\}} f(x)dx.

References

[1] Atiyah, M., R. Bott, and L. Gårding, Lacunas for hyperbolic differential equations with constant coefficients, Acta. Math. 124 (1970), 109–189.

[2] Bogoljubov, N. N., and V. S. Vladimirov, Representations of n-points functions, Proc. Steklov Inst. Math. 112 (1971), 1–18.

[3] Bouaziz, A., Intégrales orbitales sur les groupes de Lie réductifs, Ann. scient. Éc. Norm. Sup. 27 (1994), 573–609.

[4] Faraut, J., Distributions sphériques sur les espaces hyperboliques, J. Math. pures et appl.58 (1979), 369–444.

[5] Faraut, J., J. Hilgert and G. Ólafsson, Spherical functions on ordered symmetric spaces, Ann. Inst. Fourier 44 (1994), 927–966.

[6] Faraut, J., Korányi, A., ,,Analysis on symmetric cones,“ Oxford University Press, 1994.

[7]  Helgason, S., ,,Groups and geometric analysis,“ Academic Press, 1984.

[8] Hörmander, L., On the division of distributions by polynomials, Ark. Math. 3 (1958), 555–568.

[9] Méthée, P. D., Sur les distributions invariantes dans le groupe des rotations de Lorentz, Comment. Math. Helvetici 28 (1954), 225–269.

[10] Ol’shanskiĭ, G. I., Invariant cones in Lie algebras, Lie semi-groups and the holomorphic discrete series Funct. Anal. and Appl. 15 (1981), 275– 285.

[11] Tengstrand, A., Distributions invariant under an orthogonal group of arbitrary signature, Math. Scand. 8 (1960), 201–218.

[12] Unterberger, J., Inégalités de Carleman sur les cônes symétriques, J. Math. pures appl. 7 (1992), 527–542.

[13] Varadarajan, V. S., ,,Harmonic analysis on real reductive groups“, Lecture Notes in Math. 576, Springer Verlag, 1977.

[14] Vladimirov, V. S., ,,Distributions en physique mathématique“, Editions Mir, 1979.

Institut de Mathématiques de Jussieu (UMR 9994 du CNRS) Université Pierre et Martie Curie Case 247, 4 place Jussieu 75252 Paris Cedex 05 e.mail faraut@mathp6.jussieu.fr

Received May 25, 1996 and in final form September 12, 1996