Theoremes d’Annulation et Lieux

de Degenerescence en Petit Corang

Pierre-Emmanuel Chaput

Received: April 19, 2004

Communicated by Thomas Peternell

Abstract. After giving an explicit description of all the non vanishing Dolbeault cohomology groups of ample line bundles on grassmannians, I give two series of vanishing theorems for ample vector bundles on a smooth projective variety. They imply a part of a conjecture by Fulton and Lazarsfeld about the connectivity of some degeneracy loci.

2000 Mathematics Subject Classification: 14F17

Keywords and Phrases: Théorèmes d’annulation, grassmannienne.

Introduction

Soit X une variété projective complexe, E un fibré vectoriel sur X et L un fibré en droites. Supposons que l’on ait une forme quadratique sur E à valeurs dans L, soit une section de S^{2}E^{∗} ⊗ L. Si k est un entier, on note D_{k}(E) le sous-schéma de X où cette section est au plus de rang k. Dans [FL 81, Remark 2,p.50], on peut lire la conjecture suivante (t(x) := \frac{x(x+1)}{2}) :

Conjecture 1 Soit E un fibré vectoriel de rang e, sur une variété X lisse, projective, connexe et de dimension n. Supposons que E est muni d’une forme quadratique à valeurs dans un fibré en droites L. Soit k un entier et supposons que

– dim D_{k}(E) = ρ := n − t(e − k) ≥ 1.

– S^{2}E^{∗} ⊗ L est ample. Alors, D_{k}(E) est connexe.

Dans cet article, je montre cette conjecture sous l’hypothèse supplémentaire que e − k ≤ 4 et ρ ≥ 2. J’obtiens en fait les résultats plus précis suivants :

Théorème 3 : Sous les hypothèses de la conjecture précédante, à part que X n’est plus supposée connexe, et si de plus ρ ≥ 2 et e − k ≤ 4, alors l’application de restriction H^{q}(X, O_{X}) → H^{q}(D_{k}(E), O_{D_{k}(E)}) est un isomorphisme pour 0 ≤ q < ρ − 1, et est injective pour q = ρ − 1.

La conjecture de Fulton et Larzarsfeld a été résolue en utilisant une technique différente par Tu [Tu 89], dans le cas où k est pair. Par ailleurs, [Tu 88] montre aussi la connexité, mais à condition que ρ ≥ e − k. Si e − k = 3 ou 4, ma borne, 2, est donc meilleure. J’espère aussi que ce travail est un pas de plus vers une parfaite compréhension des phénomènes combinatoires qui permettent d’établir les théorèmes d’annulation. Mentionnons enfin que [Lay 96, prop 2.3] donne en utilisant la même technique que moi la connexité d’un lieu de dimension strictement positive, mais pour e − k ≤ 2, ce qui, comme le lecteur pourra le mesurer, simplifie considérablement le problème.

Il est bien connu que la conjecture découle de théorèmes d’annulation adéquats [Man 97] : il suffit en effet d’utiliser une résolution du faisceau structural de D_{k}(E) par des fibrés vectoriels qui sont des puissances de Schur de E, et d’appliquer les théorèmes d’annulation aux termes de cette résolution. Dans le cas où e − k ≤ 2, seuls des crochets, à savoir des partitions dont seule la première part est éventuellement supérieure à 2, interviennent, et le théorème 2.1 dans [LN 02] convient. Dans cet article, je propose une généralisation de ce résultat pour des produits tensoriels de crochets. Cette généralisation donne bien entendu un théorème d’annulation pour toutes les partitions ; malheureusement, la borne obtenue est insuffisante pour établir la conjecture. Je propose donc dans cet article une méthode un peu nouvelle, de “comparaison de suites spectrales”, pour établir des théorèmes d’annulation plus puissants. Le théorème 3 est alors conséquence des théorèmes d’annulation obtenus par cette méthode.

L’efficacité des théorèmes d’annulation obtenus dépend directement de notre compréhension de la cohomologie des fibrés en droites homogènes amples sur une grassmannienne ; Snow [Sno 86] a donné pour la calculer une méthode diagrammatique commode. L’inconvénient de cette méthode est qu’il est difficile d’en déduire, pour r < e et l des entiers fixés, l’entier maximal p tel qu’il existe q avec H^{p,q}[G(r, e), O(l)] ≠ 0 (G(r, n) désigne la grassmannienne des r-plans vectoriels dans un espace vectoriel de dimension n et O(l) est la l-ième puissance du déterminant du fibré quotient). Pourtant, comme nous allons le voir, la détermination de cet entier est cruciale pour obtenir des théorèmes d’annulation. Je propose donc une description nouvelle de la cohomologie de O(l) sur une grassmannienne, basée sur celle de Snow, et j’en déduis le théorème 1 qui permet de déterminer cet entier.

Je remercie mon directeur de thèse Laurent Manivel pour son aide tout au long de l’élaboration de cet article.

1 Cohomologie de Dolbeault des fibres O(l) sur une grassmannienne

1.1 Description explicite de toutes les partitions admissibles

Rappelons tout d’abord la description de Snow [Sno 86] des groupes de cohomologie non nuls sur une grassmannienne. Une partition est suite décroissante finie d’entiers. Je note λ_{i} le i-ième entier de λ; c’est par convention la i-ième part de λ. Le poids de λ, noté |λ|, est la somme de ses parts. Sa longueur, l(λ), est le nombre de parts non nulles. Dans de nombreuses circonstances, il est pratique de représenter les partitions par un diagramme comme le suggère l’exemple qui suit :

partition (6, 4, 1).

A chaque partition λ correspond un foncteur de la catégorie des espaces vectoriels dans elle-même que j’appelle “de Schur” et que je note S_{λ} [FH 91]. Lorsque λ est une partition, on peut attribuer à chaque case de cette partition son nombre de crochet qui est le nombre de cases de λ situées en-dessous ou à droite de cette case, cette case comprise. Par exemple, les cases de la partition suivante ont été numérotées par leurs nombres de crochets :

6 4 2 1 3 1 1 .

Convenons alors, si l est un entier, que λ sera appelée l-admissible si toutes les cases reçoivent un numéro différent de l. Snow [Sno 86] a montré qu’il existe une bijection, à r < e et l fixés, entre les composantes des groupes de cohomologie H^{p,q}[G(r, e), O(l)] et les partitions de longueur inférieure ou égale à r dont toutes les parts sont inférieures ou égales à e − r (par la suite je les appellerai simplement partitions de taille (e − r, r)) qui sont l-admissibles. Si λ est une partition l-admissible, soit ^{h}λ^{−} (respectivement vλ^{−}) la suite d’entiers telle que ^{h}λ_{i}^{−} (respectivement ^{v}λ_{j}^{−}) est le nombre de cases situées sur la i-ième ligne (respectivement sur la j-ème colonne) dont le nombre de crochet est strictement inférieur à l. Nous allons voir que^{h}λ^{−} et^{v}λ^{−} sont des partitions. Si p = |λ| et q est le nombre de cases qui ont un nombre de crochets strictement supérieur à l, alors H^{p,q}[G(r, e), O(l)] contient S_{μ}ℂ^{e}, si μ est la partition obtenue en réordonnant toutes les parts (l −^{h}λ_{i}^{−}) et ^{v}λ_{j}^{−}. Le seul inconvénient de cette méthode est que l’ensemble des partitions ladmissibles n’est pas aisé à décrire. Je propose dans ce paragraphe de montrer qu’il est en bijection avec l’ensemble de toutes les partitions de taille (l − 1, r), et d’étudier des propriétés de cette bijection.

Proposition 1 L’application λ ↦ ^{h}λ^{−} est une bijection de l’ensemble des partitions l-admissibles dans l’ensemble des partitions de taille (l − 1, r).

Demonstration : Tout d’abord si λ est l-admissible, alors ∀i,^{h}λ_{i}^{−} < l puisque les nombres de crochet sont strictement décroissants sur une ligne. Introduisons quelques notations.

Definition 1

– Soit h_{i,j} le nombre de crochet de la case située sur la i-ième ligne et la j-ème colonne. Convenons que h_{i,0} = +∞.

– Pout tout i, soit (g_{i,j})_{j∈ℕ} la suite strictement croissante d’entiers dont l’image est le complémentaire dans ℕ de l’ensemble des h_{i,j}.

– Notons δ_{i} l’entier l −^{h}λ_{i}^{−}, tel que g_{i,δ_{i}} = l. Notons enfin x_{i,j} le numéro de colonne de la dernière case sur la i-ième ligne de nombre de crochet supérieur à g_{i,j}.

Ainsi, on a g_{i,0} = 0, x_{i,0} = λ_{i} et pour j >> 1, x_{i,j} = 0, par nos conventions. Alors, par la définition des nombres de crochet, on a h_{i−1,j} = h_{i,j} +λ_{i−1}−λ_{i}+1. Les nombres de crochet qui apparaissent sur la (i − 1)-ième ligne sont donc 1, ⋯, λ_{i−1} − λ_{i} et les h_{i,j} + λ_{i−1} − λ_{i} + 1. Ainsi, g_{i−1,j+1} = g_{i,j} + λ_{i−1} − λ_{i} + 1. En particulier, g_{i−1,δ_{i}+1} > l, donc δ_{i−1} ≤ δ_{i} et donc ^{h}λ^{−} est une partition. On démontre maintenant un résultat plus précis que la proposition 1 :

Lemme 1 Pout toute partition ν de taille (l−1, r), il existe une unique partition l-admissible λ telle que ^{h}λ^{−} = ν; pour celle-ci, on a :

– λ_{i} = λ_{i+l−ν_{i}} + ν_{i}.

– x_{i,j} = λ_{i+j}.

Demonstration : On démontre par récurrence descendante sur i_{0} qu’une partition a ses nombres de crochet différents de l à partir de la ligne i_{0} et vérifie ^{h}λ_{i}^{−} = ν_{i} pour i ≥ i_{0} si et seulement si elle vérifie les deux points du lemme pour i ≥ i_{0}. On a λ_{r} = ν_{r}, x_{r,0} = λ_{r} et x_{r,j} = 0 pour j > 0, de sorte que la propriété de récurrence est vraie pour i_{0} = r. Soit maintenant i_{0} fixé tel que cette hypothèse est vérifiée pour i_{0} + 1. Alors posons δ = δ_{i_{0}}(= l − ν_{i_{0}}) et d = λ_{i_{0}} − λ_{i_{0}+1} (d dépend de λ_{i_{0}} qui est pour l’instant inconnu). On a vu que g_{i_{0},0} = 0 et g_{i_{0},j+1} = g_{i_{0},j} + d + 1 pour j ≥ 0. Les nombres de crochet de λ en-dessous et sur la i_{0}-ième ligne sont différents de l si et seulement si g_{i_{0},δ} = l, ce qui équivaut donc à d = l−1−g_{i_{0}+1,δ_{i_{0}−1}}. Il existe donc exactement une possibilité pour λ_{i_{0}}. De plus, on a toujours x_{i_{0},j+1} = x_{i_{0}+1,j} = λ_{i_{0}+j+1} et le fait qu’effectivement

hλ_{i_{0}}^{−} = ν_{i_{0}} implique que λ_{i_{0}} = x_{i_{0},δ} + ν_{i_{0}} = λ_{i_{0}+δ} + ν_{i_{0}}. •

Notation 2 Si ν est une partition de taille (l − 1, r), je noterai ν̂ la partition λ telle que ^{h}λ^{−} = ν. Par aileurs je noterai p(ν) et q(ν) le poids et le nombre de cases de nombre de crochet supérieur à l de λ.

J’ai affirmé qu’aussi ^{v}λ^{−} est une partition, cela découle du fait que λ^{∗} est ladmissible et ^{v}λ^{−} = ^{h}(λ^{∗})^{−}, où λ^{∗} désigne la partition dont la i-ième part est la longueur de la i-ième colonne du diagramme représentant λ.

Si λ_{1}, λ_{2} sont des partitions, on note λ_{1} ⊂ λ_{2} le fait que ∀i, λ_{1,i} ≤ λ_{2,i}. Par une récurrence immédiate, le lemme 1 implique :

Proposition 2 Si ν_{1} ⊂ ν_{2}, alors ν̂_{1} ⊂ ν̂_{2}.

Proposition 3 Soient k et l deux entiers et λ une partition. Si λ est ladmissible, alors elle est (kl)-admissible.

Demonstration : En effet, si G_{i} désigne l’ensemble des entiers naturels qui n’apparaissent pas parmi les nombres de crochet sur la i-ième ligne, on sait que pour tout i, l ∈ G_{i} et il existe d_{i} tel que G_{i−1} = (d_{i} + 1 + G_{i}) ∪ {0}. Une récurrence immédiate prouve alors que pour tout i, G_{i} vérifie la propriété x ∈ G_{i} ⇒ x + l ∈ G_{i}. La proposition en découle.

•

La contraposée de cette proposition implique que pour toute partition λ exactement inscrite dans un rectangle r × (e − r) (c’est-à-dire que λ_{1} = e − r et l(λ) = r), il existe une case dont le nombre de crochet est d pour tout d diviseur de e − 1. Une telle partition n’est donc pas d-admissible. Si λ correspond à une composante non nulle de H^{∗,∗}[G(r, ℂ^{e}), O(d)], on a donc soit λ_{1} < e − r soit l(λ) < r. Ainsi, si S_{μ}ℂ^{e} ⊂ H^{∗,∗}[G(r, ℂ^{e}), O(d)], on a soit μ_{e} = 0, soit μ_{1} = d.

1.2 Partitions admissibles de poids maximal

Comme nous le verrons au paragraphe suivant, pour démontrer des théorèmes d’annulation pour la cohomologie de fibrés vectoriels amples, il est utile de bien comprendre la cohomologie des fibrés homogènes sur une grassmannienne, et plus précisément quelle est, pour l, n et r des entiers quelconques, la valeur maximale de p telle qu’il existe un entier q avec H^{p,q}(G(r, n), O(l)) non nul. Si n > rl, cet entier a été déterminé par Laurent Manivel [Man 92, proposition 1.2.1, p.111] et cela a permis de démontrer de nombreux théorèmes d’annulation, dont celui de F. Laytimi et W. Nahm concernant les partitions en forme de crochets [LN 02]. Lorsque n, r et l ne satisfont plus cette inégalité, la combinatoire des partitions l-admissibles devient nettement plus compliquée et aucun résultat ne donne cet entier p. Soit n, r, l des entiers fixés. Si a, α, β, c, γ sont des entiers, notons μ(a, α, β, c, γ) la partition μ définie par :

\{ \begin{matrix}∀ i ≤ α(l − a), & μ_{i} = a \\ ∀ α(l − a) < i ≤ α(l − a) + β(l − a + 1), & μ_{i} = a − 1 \\ ∀ α(l − a) + β(l − a + 1) < i ≤ α(l − a) + β(l − a + 1) + γ, & μ_{i} = c \end{matrix}

Cette partition est de longueur (α+β)(l−a)+β +γ et un calcul direct utilisant le lemme 1 montre que μ̂_{1}(a, α, β, c, γ) = (α + β)a − β + c. Notons δ(α, β) = min{α, β} si β ≠ 0, et δ(α, 0) = α. Rappelons que si μ est une partition, μ̂ a été définie comme l’unique partition telle que ^{h}μ^{−} = μ (cf lemme 1).

Theoreme 1 Soient n, r et l des entiers, et λ une partition l-admissible de longueur r et telle que λ_{1} ≤ n − r. Alors, soit λ est de la forme μ̂(a, α, β, c, γ) avec γ ≤ l − a, soit il existe des entiers a, α, β, c, γ avec γ ≤ l−a et tels que μ̂(a, α, β, c, γ) soit aussi l-admissible de longueur r et de première part inférieure ou égale à n − r, et que de plus |μ̂(a, α, β, c, γ)| ≥ |λ| + δ(α, β). De plus, ces entiers sont tels que α + β et γ + c sont le quotient et le reste de la division euclidienne de n par l.

Demonstration : Considérons n > r et l trois entiers, et soit λ une partition l-admissible de longueur au plus r et telle que λ_{1} ≤ n − r. On va raisonner sur la partition ^{h}λ^{−} : nous allons voir que dans trois cas, on peut modifier cette partition pour en obtenir une de poids supérieur et encore de longueur au plus r et de même première part. Définissons une suite a_{i} par

\{ \begin{matrix}a_{1} = 1 \\ a_{i+1} = min\{a_{i} + l −^{h}λ_{a_{i}}^{−}, r + 1\}. \end{matrix}

Soit A le plus grand entier i tel que a_{i} ≤ r. Le lemme 1 montre que pour i ≤ A,

λ_{a_{i}} = ∑_{i≤j≤A}^{h}λ_{a_{j}}^{−}.

En particulier, si μ est une partition telle que ∀i ≤ A, μ_{a_{i}} = ^{h}λ_{a_{i}}^{−}, alors on a μ̂_{1} = λ_{1}. Par exemple, si μ la partition définie par ∀i ≤ A, ∀j ∈ [a_{i}, a_{i+1} − 1], μ_{j} = ^{h}λ_{a_{i}}^{−}, on a, par la proposition 2, μ̂ ⊃ λ, et μ̂_{1} = λ_{1}. Par exemple, pour

l = 5, on remplace la partition  par  .

Supposons qu’il existe des entiers i, a et b avec b ≤ a − 2 et tels que

\{ \begin{matrix}∀j ∈ [i + 1, i + l − a], & ^{h}λ_{j}^{−} = a \\ ∀j ∈ [i + l − a + 1, i + 2(l − a) + 1], & ^{h}λ_{j}^{−} = b. \end{matrix}  a  l − a b  l − a

Alors, considérons la partition μ définie par

\{ \begin{matrix}∀j ∈ [i + 1, i + l − a], & μ_{j} = a − 1 \\ ∀j ∈ [i + l − a + 1, i + 2(l − a) + 1], & μ_{j} = b + 1 \\ ∀j ∉ [i + 1, i + 2(l − a) + 1], & μ_{j} = ^{h}λ_{j}^{−}. \end{matrix}  a − 1  l − a b + 1 l − a

Le lemme 1 implique que

\{ \begin{matrix}∀j ∈ [i + 1, i + l − a], & μ̂_{j} = λ_{j} \\ ∀j ∈ [i + l − a + 1, i + 2(l − a) + 1], & μ̂_{j} ≥ λ_{j} + 1 \\ ∀j ∉ [i + 1, i + 2(l − a) + 1], & μ̂_{j} = λ_{j}. \end{matrix}

Documenta Mathematica 9 (2004) 499–525

Par conséquent, on a |μ̂| ≥ |λ| + l − a + 1. Appelons “transformation A” le fait de remplacer ^{h}λ^{−} par μ.

Supposons enfin l’existence d’entiers i, a, b, β ≥ 1 tels que

\{ \begin{matrix}∀j ∈ [i + 1, i + l − a − 1], & ^{h}λ_{j}^{−} = a + 1 \\ ∀j ∈ [i + l − a, i + (1 + β)(l − a) − 1], & ^{h}λ_{j}^{−} = a \\ ∀j ∈ [i + (1 + β)(l − a), i + (2 + β)(l − a) − 1], & ^{h}λ_{j}^{−} = b. \end{matrix} a + 1 l − a − 1 a  β(l − a) b l − a

Alors, considérons la partition μ définie par

\{ \begin{matrix}∀j ∈ [i + 1, i + (1 + β)(l − a) − 1], & μ_{j} = a \\ ∀j ∈ [i + (1 + β)(l − a), i + (2 + β)(l − a) − 1], & μ_{j} = b + 1 \\ ∀j ∉ [i + 1, i + (2 + β)(l − a) − 1], & μ_{j} = ^{h}λ_{j}^{−}. \end{matrix}  a  l − a − 1 a  β(l − a)_{b}_{+}_{1} l − a

Le lemme 1 implique que

\{ \begin{matrix}∀j ∈ [i, i + l − a − 1], & μ̂_{j} = λ_{j} \\ ∀j ∈ [i + l − a, i + (2 + β)(l − a) − 2], & μ̂_{j} = λ_{j} + 1 \\ ∀j ∉ [i + 1, i + (2 + β)(l − a) − 1], & μ̂_{j} = λ_{j}. \end{matrix}

En particulier, on a donc |μ̂| ≥ |λ| + 2(l − a). Appelons “transformation B” le fait de remplacer ^{h}λ^{−} par μ.

On peut donc construire une suite finie de partitions μ^{i} par récurrence : tout d’abord, on pose μ^{0} = ^{h}λ^{−}. Ensuite, on impose que pour passer de μ^{i} à μ^{i+1}, soit on ajoute une case, soit on fait l’une des deux transformations A ou B, lorsque cela est possible de façon à ce que μ^{i+1} reste dans un rectangle de taille r × (n − r). A un certain indice N, on ne peut plus faire aucune de ces trois opérations. Soit (b_{i}) les nombres définis comme a_{i} pour la partition μ^{N} :

\{ \begin{matrix}b_{1} = 1 \\ b_{i+1} = inf\{b_{i} + l − μ_{b_{i}}^{N}, r + 1\}. \end{matrix}

Comme on ne peut plus ajouter de cases, on a μ_{j}^{N} = μ_{b_{i}}^{N} pour b_{i} ≤ j ≤ b_{i+1} −1, et comme aucune des deux configurations étudiées ne peut avoir lieu, μ^{N} est de type μ(a, α, β, c, γ) avec γ ≤ l − a. De plus, puisque l’on ne peut pas ajouter une case, on a soit l[μ(a, α, β, c, γ)] = r, soit c = 0. Si c = 0, μ(a, α, β, c, γ) ne dépend pas de γ; on peut donc dans tous les cas supposer que

α(l − a) + β(l − a + 1) + γ = r.

Pour montrer que |μ^{N}| ≥ |λ|+δ(α, β), il suffit de montrer que |μ^{N}| ≥ |μ^{N−1}|+ δ(α, β). Or, quand on applique l’opération A, on obtient une partition qui a exactement l − a parts égales à a − 1, et quand on applique l’opération B, on obtient une partition qui a exactement 2(l − a) − 1 parts égales à a : ce ne sont donc pas des partitions de type μ(a, α, β, c, γ). On en déduit donc que pour passer de μ^{N−1} à μ^{N} = μ(a, α, β, c, γ), on a ajouté une case. Soit cette case se trouvait sur la r-ième ligne, et on a |μ^{N}|−|μ^{N−1}| = α+β +1 ; soit, si β > 0, elle se trouvait sur la α(l−a)+β(l−a+1)-ième ligne, et on a |μ^{N}|−|μ^{N−1}| = β; soit, enfin, elle se trouvait sur la α(l−a)-ième ligne, et dans ce cas |μ^{N}|−|μ^{N−1}| = α; on voit que dans tous les cas, |μ^{N}| − |μ^{N−1}| ≥ δ(α, β). Pour achever la preuve du théorème, il ne reste plus qu’à calculer α+β et γ +c. Or, on a vu que μ̂_{1}(a, α, β, c, γ) = (α + β)a − β + c; comme les transformations effectuées ne changent pas la première part, on en déduit λ_{1} = (α+β)a−β +c. Par ailleurs, on a r = (α + β)(l − a) + β + γ. On en déduit donc que

n = r + λ_{1} = (α + β) l + (γ + c).  (1)

Or, on a vu que γ ≤ l−a et c ≤ a. Par convention, on exclut les égalités γ = l−a et c = a, car μ(a, α, 0, a, l − a) = μ(a, α + 1, 0, 0, 0) ; on a donc γ + c < l. La formule (1) exprime donc la division euclidienne de n par l, concluant la preuve du théorème.

•

2 Suite spectrale de Borel Le-Potier

Dans ce paragraphe, je rappelle la définition de la suite spectrale de Borel Le-Potier, qui est à la base de mes théorèmes d’annulation. Soit π : Y → X une fibration localement triviale propre et E un fibré vectoriel sur Y. Soit Ω_{Y/X}^{i} le fibré des i-formes sur Y relatives à π, défini par Ω_{Y/X}^{i} = Λ^{i}Ω_{Y/X} et la suite exacte de fibrés sur Y suivante :

0 → π^{∗}ΩX →^{π^{∗}} ΩY → Ω_{Y/X} → 0.

Soient aussi les fibrés G^{t,p} := Ω_{Y/X}^{p−t} ⊗ π^{∗}Ω_{X}^{t}. Pour chaque p, on a [LP 77] une suite spectrale aboutissant sur H^{p,q}(Y, E) et dont les termes d’ordre 1 sont :

pE_{1}^{t,q−t} = H^{q}(Y, G^{t,p} ⊗ E).

Pour calculer les groupes de cohomologie H^{q}(Y, G^{t,p} ⊗ E), on utilise une suite spectrale de Leray. La suite spectrale de termes d’ordre 2

p,tE_{2}^{k,j−k} = H^{k}(X, R^{j−k}π_{∗}G^{t,p}) = H^{t,k}[X, R^{j−k}π_{∗}(E ⊗ Ω_{Y/X}^{p−t})] (2)

aboutit sur ^{p}E_{1}^{t,j}. Introduisons enfin une notation :

Notation 3 Si π : Y → X est une fibration et E un fibré vectoriel sur Y, notons R^{p,q}π_{∗}E le faisceau R^{q}π_{∗}(E ⊗ Ω_{Y/X}^{p}).

3 Theoreme d’annulation pour un produit tensoriel de crochets

W. Nahm et F. Laytimi ont montré un théorème d’annulation pour la cohomologie d’une puissance de Schur correspondant à un crochet d’un fibré ample [LN 02, th 2.1]. Dans ce paragraphe, je généralise leur résultat à un produit de crochets. Si α et β sont des entiers, notons Z^{α,β} le foncteur S_{λ} pour la partition λ de longueur α+1 et de poids β telle que λ_{1} = β −α et ∀1 < i ≤ α+1, λ_{i} = 1.

Proposition 4 Soit E un fibré ample de rang e sur une variété X projective et lisse de dimension n. Soit a ∈ ℕ, (k_{i})_{1≤i≤a} et (α_{i})_{1≤i≤a} des entiers tels que α_{i} < k_{i}; soit σ = ∑ α_{i} et k = ∑ k_{i}; alors,

H^{p,q}(X, ⊗_{i}Z^{k_{i}−α_{i}−1,k_{i}}E) = 0 si q > n−p+[δ(n−p)+σ][ae−k+2σ]−σ(σ+1).

Posons Q(p, σ) = n − p + [δ(n − p) + σ][ae − k + 2σ] − σ(σ + 1). Demonstration : Reprenant les idées de [LN 02], soit C_{2}^{k} = \frac{k(k−1)}{2} et δ la fonction définie par ∀n ∈ ℕ, C_{2}^{δ(n)} ≤ n < C_{2}^{δ(n)+1}. On peut alors définir un ordre sur ℕ^{2}. Celui-ci est donné par l’ordre lexicographique sur ℕ^{3} et l’injection (x, σ) ↦ (δ(x) + σ, x − C_{2}^{δ(x)}, σ). Notons N l’ensemble ℕ^{2} muni de cet ordre. L’intérêt principal de N est qu’il vérifie :

Lemme 2 [LN 02] : Pour tous (x, σ) ∈ N , μ ∈ ℤ − {0}, si r = δ(x) et si x + μr ∈ ℕ, alors (x + μr, σ − μ) < (x, σ).

On démontre la proposition par récurrence sur les couples (n−p, σ) ∈ N. Cette récurrence peut sembler peu naturelle et troubler le lecteur ; aussi, je donne les 10 premiers éléments de N pour qu’il puisse suivre plus aisément les premiers pas de la récurrence.

n − p σ δ(n − p) + σ n − p − C_{2}^{δ(n−p)} σ
1  0  0  1  0  0
2  1  0  2  0  0
3  0  1  2  0  1
4  2  0  2  1  0
5  3  0  3  0  0
6  1  1  3  0  1
7  0  2  3  0  2
8  4  0  3  1  0
9  2  1  3  1  1
10  5  0  3  2  0

Si on place ces numéros d’apparition sur un plan repéré par n − p selon l’axe des abscisses et σ selon l’axe des ordonnées, on obtient le schéma suivant :

σ ↑ 7

9 6 3
n − p ← 10 8 5 4 2 1

La méthode employée est celle maintenant classique qui consiste à constater que les groupes de cohomologie que l’on cherche à annuler apparaissent dans une suite spectrale qui calcule la cohomologie d’un fibré en droites ample sur une variété adéquate Y elle-même fibrée au-dessus de X. Ce dernier groupe est nul par le théorème de Kodaira si q est suffisant ; il suffit donc de s’assurer que ces groupes “passent à travers” la suite spectrale, ce qui fait intervenir une récurrence. Soit donc X^{n}, E^{e}, p, q, (k_{i}) et σ_{0} vérifiant les hypothèses de la proposition fixés. On va montrer l’annulation de H^{p,q}(X, ⊕_{α_{i}:∑ α_{i}=σ_{0}} ⊗_{i} Z^{k_{i}−α_{i}−1,k_{i}}E) en supposant la proposition vraie pour tous les couples (p′, σ) tels que (n − p′, σ) < (n − p, σ_{0}). Supposons la suite (k_{i}) croissante. Soit r = δ(n − p) ; soit aussi l_{i} et s_{i} les quotients et restes de la division de k_{i} par r : k_{i} = rl_{i} + s_{i}. Un premier lemme assure que l’on peut supposer que e > r tous les l_{i} sont supérieurs ou égaux à

l_{0} = \{ \begin{matrix}\frac{rσ_{0}+(n−p)}{r−1} & si & r > 2 \\ σ + 1 & si & r = 1 \end{matrix}

Lemme 3 Soit l un entier tel que la proposition 4 soit vraie pour une certaine valeur de n − p et de σ, et pour toutes les variétés et tous les fibrés vectoriels amples, à la condition que tous les l_{i} soient supérieurs ou égaux à l et que e > δ(n − p). Alors cette proposition est vraie sans restrictions pour ces valeurs de e et de σ.

Demonstration : Soit E un fibré sur une variété X et L un fibré en droites ample sur X. On peut supposer l > δ(n − p). La proposition est vraie pour l′_{i} = l_{i}+l (c’est-à-dire, puisque k′_{i} = rl′_{i}+s_{i}, pour k′_{i} = k_{i}+rl) et les fibrés amples E′ de rang supérieur à δ(n − p). Pour le fibré ample E′ = E ⊕ L^{⊕rl} de rang e+rl, et pour k′_{i} = k_{i} +rl, on a donc l’annulation de H^{p,q}(X, ⊗_{i}Z^{k′_{i}−α_{i}−1,k′_{i}}E′) si

\begin{aligned}q & > & [δ(n − p) + σ][a(e + rl) − k′ + 2σ] − σ(σ + 1) \\ & = & [δ(n − p) + σ][ae − k + 2σ] − σ(σ + 1). \end{aligned}

Mais comme Z^{k′_{i}−α_{i}−1,k′_{i}}E′ ⊃ Z^{k_{i}−α_{i}−1,k_{i}}E ⊗ L^{⊗rl}, on en déduit que pour toute variété X, tous fibrés E et L, H^{p,q}(X, ⊗_{i}Z^{k_{i}−α_{i}−1,k_{i}}E ⊗ L^{⊗arl}) = 0 si q > [δ(n−p)+σ][ae−k+2σ]−σ(σ +1). En vertu du lemme suivant, ce résultat reste vrai si L est trivial, et le lemme 3 est donc prouvé.

•

Lemme 4 Soient n, p, q_{0}, e des entiers et λ une partition tels que H^{p,q}(X, S_{λ}E⊗ L) = 0 pour toute variété projective lisse X de dimension n, tout fibré vectoriel ample E de rang e et tout fibré en droites ample L sur X, si q > q_{0}. Alors H^{p,q}(X, S_{λ}E ⊗ L) = 0 sous les mêmes conditions, sauf que L est seulement nef.

Demonstration : La démonstration du lemme 1.5.1 p.128 dans [Man 97] est valable sous ces hypothèses.

•

On suppose donc dorénavant que l_{1} ≥ l_{0} et e > r. Si 0 < s < r < e sont des entiers et V un espace vectoriel de dimension e, on notera M_{s,r}(V) la variété de drapeaux absolue constituée de l’ensemble des couples (V_{r}, V_{s}) de sous-espaces vectoriels de V avec

0 ⊂ V_{r} ⊂ V_{s} ⊂ V, codim(V_{r}) = r, codim(V_{s}) = s.

Soit alors M_{s,r}(E) la variété de drapeaux relative à E, c’est-à-dire la variété fibrée au-dessus de X dont la fibre au-dessus du point x s’identifie à la variété M_{s,r}(E_{x}) des drapeaux de la forme

(0 ⊂ E_{r} ⊂ E_{s} ⊂ E_{x}), codim(V_{r}) = r, codim(V_{s}) = s.

Soit aussi Q^{l+1,l} le fibré en droites sur M_{s,r}(V) dont la fibre au-dessus du drapeau précédent s’identifie à (det(E_{x}/E_{s}))^{l+1}⊗(det(E_{s}/E_{r}))^{l} = det(E/E_{s})⊗ (det(E/E_{r}))^{l}. Considérons alors le produit au-dessus de X défini par Y := ×M_{s_{i},r}(E) et le fibré en droites L au-dessus de Y égal au produit ⊗π_{i}^{∗}Q_{i}, si π_{i} désigne la projection de Y sur M_{s_{i},r_{i}}(E) et Q_{i} le fibré Q^{l_{i}+1,l_{i}} sur cette variété de drapeaux relative. Comme e > r > s_{i} pour tout i, cette variété a bien un sens.

Laurent Manivel a étudié une partie de la cohomologie des fibrés en droites Q^{l+1,l} sur une variété de drapeaux absolue, partie suffisante pour établir notre proposition. Néanmoins, j’ai besoin de généraliser ses résultats à un produit de variétés de drapeaux. Cette généralisation sera une conséquence facile de la formule de Kunneth.

Soit M_{s,r}(V) une variété de drapeaux absolue et Q^{l+1,l} comme précédemment. Notons λ = l − 1, t(r) = \frac{r(r+1)}{2} et k = rl + s. Notons π_{r,s} = \frac{s(2r−s+1)}{2} et pour π un entier,

n_{s}(π) = #{c ∈ {0, 1}^{r}, |c| = s et ∑ ic_{i} = π}

Ainsi n_{s}(π) = 0 si π < 0 ou π > π_{r,s}. Alors, on a [Man 92, proposition 1.2.1, p.111 et lemme 1.3.1, p.114] :

Proposition 5 Supposons p = λ.t(r) + π avec π ≥ π_{r,s} − k + l. Alors

H^{p,q}(M_{s,r}(V), Q^{l+1,l}) = ⨁_{α=0}^{l} n_{s}(π + rα)δ_{q,p−rλ−s+α}Z^{k−α−1,k}V.

Considérons maintenant un produit Y = ×M_{s_{i},r}(V) de variétés de drapeaux et le fibré en droites L = ⊗π_{i}^{∗}Q_{i}, avec Q_{i} le fibré Q^{l_{i}+1,l_{i}} sur M_{s_{i},r}(V) et π_{i} la projection naturelle de Y sur M_{s_{i},r}. Je propose alors la généralisation suivante de la proposition 5, si λ_{i} désigne l_{i} − 1, λ = ∑ λ_{i}, l = ∑ l_{i}, s = ∑ s_{i}, et k = ∑ k_{i} :

Proposition 6 Supposons que p = λ.t(r) + π avec π ≥ ∑ π_{r,s_{i}} − k + l. Soit σ = q + rλ + s − p. Alors

H^{p,q}(Y, L) = n_{s}(π + rσ) ⨁ ; α_{i}:∑ α_{i}=σ ⊗_{i}Z^{k_{i}−α_{i}−1,k_{i}}V.

Dans cette proposition, n_{s}(π) désigne le nombre

n_{s}(π) := ∑ ; ∑ π_{i}=π n_{s_{i}}(π_{i}) = #{c_{i,j} ∈ {0, 1}^{r^{2}} : ∀i |c_{i}| = s_{i} et ∑_{i,j} jc_{i,j} = π}.

Cette proposition montre que le fait qu’un groupe ⊗_{i}Z^{k_{i}−α_{i}−1,k_{i}}V soit ou non dans H^{p,q}(Y, L) ne dépend que de la somme σ des α_{i}, et non des valeurs de tous les α_{i}; c’est ce qui fait que l’on obtient un théorème d’annulation où la borne ne dépend aussi que de σ.

Demonstration : On applique tout d’abord la formule de Kunneth :

H^{p,q}(Y, L) = ⨁ ; ∑ p_{i}=p,∑ q_{i}=q ⊗H^{p_{i},q_{i}}(M_{s_{i},r}, Q^{l_{i},l_{i}+1}).

Ecrivons chaque p_{i} comme λ_{i}t(r) + π_{i}. Si une telle suite d’entiers p_{i} fournit un groupe non nul, alors par la proposition 5, on a pour tout i la relation π_{i} ≤ π_{r,s_{i}}. Si donc il existe i tel que π_{i} < π_{r,i} − k_{i} + l_{i}, comme π = ∑ π_{i}, on en déduit que π < ∑ π_{r,_{i}} − k + l, ce qui contredit l’hypothèse de la proposition. Ainsi, pour tout i on a π_{r,s_{i}} − k_{i} + l_{i} ≤ π_{i} ≤ π_{r,s_{i}}, et donc on peut en déduire par la proposition 5 que

H^{p_{i},q_{i}}(M_{s_{i},r}, Q^{l_{i},l_{i}+1}) = ⊕_{α_{i}}n_{s}(π_{i} + rα_{i})δ_{q_{i},p_{i}−rλ_{i}−s_{i}+α_{i}}Z^{k_{i}−α_{i}−1,k_{i}}V.

Si donc ⊗_{i}Z^{k_{i}−α_{i}−1,k_{i}}V apparaît dans notre groupe de cohomologie, cela implique que q_{i} = p_{i} − rλ_{i} − s_{i} + α_{i}, et par sommation que q = p − rλ − s + σ. Enfin, la multiplicité de ce groupe est bien la somme sur les π_{i} des produits

des multiplicités de Z^{k_{i}−α_{i}−1,k_{i}}V dans H^{p_{i},q_{i}}(M_{s_{i},r}, Q^{l_{i},l_{i}+1}), soit n_{s}(π). •

Notons Pmax = λ.t(r) + ∑ π_{r,s_{i}} et Qmax = λ.t(r − 1) + ∑ π_{r,s_{i}} − S. Une conséquence de la proposition 6 est :

Proposition 7 Soit p et q deux entiers. Alors :

– Si p > Pmax ou q > Qmax, alors H^{p,q}(Y, L) = 0.

– Si p ≥ Pmax − rσ ou q ≥ Qmax − (r − 1)σ, alors

H^{p,q}(Y, L) ⊂ ⨁ ; ∑ α_{i}≤σ ⊗_{i}Z^{k_{i}−α_{i}−1,k_{i}}V.

On considère maintenant la fibration en variétés de drapeaux π : Y → X introduite précédemment. Soit ^{P}E_{m}^{i,j} la suite spectrale de Borel-Le Potier, avec P = p + Pmax − rσ_{0}. Le résultat souhaité va être conséquence de propriétés de cette suite spectrale. La première exhibe un terme de la suite spectrale de Borel-Le Potier qui contient le groupe que l’on veut annuler :

Lemme 5 Soit q_{0} = Qmax − (r − 1)σ_{0}. Alors

PE_{1}^{p,q+q_{0}−p} ⊃ H^{p,q}(X, ⊕_{α_{i}:∑ α_{i}=σ_{0}} ⊗_{i} Z^{k_{i}−α_{i}−1,k_{i}}E).

Demonstration : Comme on a supposé que l_{1}(r − 1) ≥ rσ_{0} + (n − p), on a

n + Pmax − k_{1} + l_{1} = n + Pmax − l_{1}(r − 1) − s_{1}
≤ n + Pmax − rσ_{0} − (n − p)
= Pmax + p − rσ_{0} = P.

Ainsi, si p ≤ n, alors P − p ≥ P − n ≥ Pmax − k_{1} + l_{1}. Si p > n, il est clair que PE_{1}^{p,q+q_{0}−p} = 0. On peut donc utiliser les propositions 6 et 7 pour obtenir des renseignements sur les H^{P −p,q′}(Y, L) pour tous q′. Pour tous les entiers q_{1} et q_{2}, on a (cf notation 3)

P,pE_{2}^{q_{1},q_{2}} = H^{p,q_{1}}[X, R^{P −p,q_{2}}π_{∗}L].

Si f_{i,j} sont les applications de changement de cartes de E, on a vu que R^{P −p,q_{2}}π_{∗}L est un fibré vectoriel de fibre type H^{P −p,q_{2}}(Y, L) (soit x ∈ X; Y = π^{−1}(x) et L est la restriction du fibré en droites L à Y), et dont les changements de carte sont induits par f_{i,j}. Supposons que H^{P −p,q_{2}}(Y, L) = S_{λ}E_{x}. Nous savons que |λ| = ∑ rl_{i} + s_{i}. On en déduit donc que pour g ∈ GL(E_{x}), l’application induite par g sur H^{P −p,q_{2}}(Y, L) est S_{λ}g. En effet, c’est vrai g ∈ SL(E_{x}) par le théorème de Bott et pour g une homothétie, puisque l’application induite par λ.Id est λ^{∑ rl_{i}+s_{i}} (l’action de λ.Id sur le fibré tangent est triviale). Les applications de changement de cartes de R^{P −p,q_{2}}π_{∗}L sont donc les applications S_{λ}f_{i,j}, si f_{i,j} est une application de changement de cartes de E. On a donc R^{P −p,q_{2}}π_{∗}L = S_{λ}E.

Or H^{P −p,q_{0}}(Y, L) = ⊕_{α_{i}:∑ α_{i}=σ_{0}} ⊗_{i} Z^{k_{i}−α_{i}−1,k_{i}}V. En effet, si un terme de la forme ⊕_{α_{i}:∑ α_{i}=σ} ⊗_{i} Z^{k_{i}−α_{i}−1,k_{i}}V est une composante de ce groupe, alors on doit avoir σ = q_{0} + rL + S − (P − p) = σ_{0}. Par ailleurs, il est clair que n_{s}(∑ π_{r,s_{i}}) = 1. On en déduit donc que ^{P,p}E_{2}^{q,q_{0}} = H^{p,q}(X, ⊕_{α_{i}:∑ α_{i}=σ_{0}} ⊗_{i} Z^{k_{i}−α_{i}−1,k_{i}}E). Par ailleurs, si q_{2} > q_{0} et q_{1} est quelconque, alors la proposition 7 montre que P,p_{1}E_{2}^{q_{1},q_{2}} = 0. Enfin, si q_{1} > q et q_{2} < q_{0}, et si H^{p,q_{1}}(X, ⊕_{α_{i}:∑ α_{i}=σ} ⊗_{i} Z^{k_{i}−α_{i}−1,k_{i}}E) ⊂ ^{P,p_{1}}E_{2}^{q_{1},q_{2}}, alors on a σ < σ_{0} et H^{p,q_{1}}(X, ⊕_{α_{i}:∑ α_{i}=σ} ⊗_{i} Z^{k_{i}−α_{i}−1,k_{i}}E) = 0 par l’hypothèse de récurrence.

Toutes les différentielles d_{m} issus de ou aboutissant sur ^{P,p}E_{m}^{q_{0},q} sont donc nulles, et ^{P,p}E_{∞}^{q_{0},q} = H^{p_{1},q_{1}}(X, ⊕_{α_{i}:∑ α_{i}=σ_{0}} ⊗_{i} Z^{k_{i}−α_{i}−1,k_{i}}E), ce qui implique notre lemme.

•

Pour vérifier que ce groupe passe à travers la suite spectrale de Borel-Le Potier, il suffit de montrer l’annulation des groupes ^{P}E_{1}^{p+m,q−p−m+sgn(m)+q_{0}}, pour tous les entiers m non nuls. Soit donc m un tel entier et p_{1}, q_{1} et q_{2} des entiers tels que ^{P,p_{1}}E_{∞}^{q_{1},q_{2}} soit un élément d’une filtration de ^{P}E_{1}^{p+m,q−p−m+sgn(m)+q_{0}}, c’est-à-dire des entiers tels que : p_{1} = p + m et q_{1} + q_{2} − p_{1} = q − p − m + sgn(m) + q_{0}. Remarquons que de manière équivalente, on a p_{1} = p + m et q_{1} + q_{2} = q + q_{0} + sgn(m). De nouveau, il suffit de montrer que tous les groupes ^{P,p_{1}}E_{2}^{q_{1},q_{2}} sont nuls. Or ceux-ci valent H^{p_{1},q_{1}}[X, H^{P −p_{1},q_{2}}(Y, L)]. Supposons que

⊕_{α_{i}:∑ α_{i}=σ} ⊗_{i} Z^{k_{i}−α_{i}−1,k_{i}}V ⊂ H^{P −p_{1},q_{2}}(Y, L).

Alors par la proposition 7, P − p_{1} ≤ Pmax − rσ = (P − p) − r(σ − σ_{0}), donc p_{1} ≥ p + r(σ − σ_{0}), soit m ≥ r(σ − σ_{0}). Par ailleurs cette même proposition assure que q_{2} ≤ Qmax − (r − 1)σ = q_{0} − (r − 1)(σ − σ_{0}). L’égalité q_{1} +q_{2} = q +q_{0} +sgn(m) donne alors q_{1} ≥ q +sgn(m)+(r−1)(σ −σ_{0}). Notons μ = σ − σ_{0}, comme nous avons vu que m ≥ rμ, sgn(m) ≥ sgn(μ) et nous avons donc établi :

σ = σ_{0} + μ
p_{1} ≥ p + μr
q_{1} ≥ q + sgn(μ) + (r − 1)μ.

Sous ces hypothèses, il ne nous reste plus, en utilisant l’hypothèse de récurrence, qu’à prouver l’annulation de H^{p_{1},q_{1}}(X, ⊕_{α_{i}:∑ α_{i}=σ} ⊗_{i} Z^{k_{i}−α_{i}−1,k_{i}}E). Remarquons tout d’abord que l’on peut supposer que ae − k + σ ≤ 0, car sinon ⊕_{α_{i}:∑ α_{i}=σ} ⊗_{i} Z^{k_{i}−α_{i}−1,k_{i}}E = 0.

Lemme 6 Dans l’ensemble ordonné N, on a : (n − p_{1}, σ) < (n − p, σ_{0})

Demonstration : Cet ordre étant croissant selon les deux coordonnées (c’està-dire que si x ≤ x′, y ∈ ℕ, alors (x, y) ≤ (x′, y) et (y, x) ≤ (y, x′)), cela découle

du lemme 2. •

Lemme 7 Si q > Q(p, σ_{0}) alors q_{1} > Q(p_{1}, σ).

Demonstration : On peut supposer que p_{1} = p + μr et q_{1} = q + μ(r − 1) + sgn(μ). Calculons alors Q(p, σ_{0}) − Q(p + μr, σ_{0} + μ) + sgn(μ) + (r − 1)μ. Cette quantité vaut : 2μr + 2μσ_{0} + μ^{2} + sgn(μ) + (r + σ_{0})(ae − k + 2σ_{0}) − [δ(n − p − μr) + σ_{0} + μ][ae − k + 2σ_{0} + 2μ]. En remarquant que 2μr + 2μσ_{0} = 2μ(r + σ_{0}) et en factorisant par r + σ_{0}, on en déduit que cette quantité égale (ae−k+2σ_{0}+2μ)(r+σ_{0})−(ae−k+2σ_{0}−2μ)[δ(n−p+μr)+σ_{0}−μ]+μ^{2}+sgn(μ), soit (ae − k + 2σ)[r + μ − δ(r + μr)] + μ^{2} + sgn(μ). Comme ae−k +σ ≥ 0, il découle de la définition de δ que ce nombre est positif.

•

Enfin, on a l’inégalité suffisante pour assurer que ^{P}E_{∞}^{p,q−p+q_{0}} = 0 :

Lemme 8 On a P + q + q_{0} − dim Y > 0.

Demonstration : Tout d’abord,

2 ∑ π_{r,s_{i}} − S = 2rS + S − ∑ s_{i}^{2} − S ≥ rS et k = (L + a)r + S.

Ainsi :

P + q + q_{0} − dim Y
= p + q + Lt(r) + Lt(r − 1) + 2 ∑ π_{r,s_{i}} − S − (2r − 1)σ_{0} − n − ar(e − r)
≥ σ_{0}(ae − k + σ_{0}) •

Nous avons ainsi (péniblement) achevé la preuve de la proposition 4. Nous allons maintenant montrer une autre proposition qui rétablit la symétrie entre p et q :

Proposition 8 Soit E un fibré ample de rang e sur une variété X projective lisse et de dimension n. Soit a ∈ ℕ, (k_{i})_{1≤i≤a} et (α_{i})_{1≤i≤a} des entiers tels que α_{i} < k_{i}; soit σ = ∑ α_{i} et k = ∑ k_{i}, alors

H^{p,q}(X, ⊗_{i}Z^{k_{i}−α_{i}−1,k_{i}}E) = 0 si p > n−q+[δ(n−q)+σ][ae−k+2σ]−σ(σ+1).

Demonstration : Posons P (q, σ) = n−q+[δ(n−q)+σ][ae−k+2σ]−σ(σ+1). La démonstration est très similaire à celle de la proposition 4. En effet, soit r = δ(n − q) et comme précédemment Y := ×M_{s_{i},r}(E) et le fibré en droites L au-dessus de Y égal au produit ⊗π_{i}^{∗}Q_{i} , où l_{i} et s_{i} sont le quotient et le reste de la division euclidienne de k_{i} par r et Q_{i} = Q^{l_{i},l_{i}+1}. Soit aussi p+P_{max} −rσ_{0}, le lemme 5 reste vrai et pour voir que ce groupe passe à travers la suite spectrale, il suffit comme précédemment de montrer en utilisant l’hypothèse de récurrence que si

σ = σ_{0} + μ
p_{1} ≥ p + μr
q_{1} ≥ q + sgn(μ) + (r − 1)μ,

alors H^{p_{1},q_{1}}(X, ⊕_{α_{i}:∑ α_{i}=σ} ⊗_{i} Z^{k_{i}−α_{i}−1,k_{i}}E) = 0. Ceci découle du fait que le lemme 8 reste vrai et que l’on a l’analogue des lemmes 6 et 7 :

Lemme 9 Dans l’ensemble ordonné N, on a : (n − q_{1}, σ) < (n − q, σ_{0}).

Demonstration : On peut aussi supposer que q_{1} = q + sgn(μ) + (r − 1)μ et σ = σ_{0} + μ. Alors si μ < 0, q_{1} ≥ q + rμ et le lemme 2 s’applique. Si μ = 1, ce même lemme fonctionne car q_{1} = q + r. Pour μ > 1, en posant x = n − (q + r), ce lemme donne (n − (q + r) − (μ − 1)δ(n − (q + r)), σ + μ) < (n − (q + r), σ + 1). Comme δ(n − (q + r)) ≤ δ(n − q) − 1, on a (n − (q + r) − (μ − 1)(r − 1), σ + μ) < (n−(q+r), σ+1).L’égalité n−q_{1} = n−q−1−μ(r−1) = n−(q+r)−(μ−1)(r−1) donne alors (n − q_{1}, σ) < (n − q, σ_{0}), et le lemme est démontré.

•

Lemme 10 Si p > P (q, σ_{0}) alors p_{1} > P (q_{1}, σ).

Demonstration : On peut supposer que p_{1} = p + μr et q_{1} = q + μ(r − 1) + sgn(μ). Calculons alors P (q, σ_{0}) − P (q + μ(r − 1) + sgn(μ), σ_{0} + μ) + μr. Cette quantité vaut :

\begin{matrix}2μr + 2μσ_{0} + μ^{2} + sgn(μ) + (r + σ_{0})(ae − k + 2σ_{0}) \\ −[δ(n − q − sgn(μ) − μ(r − 1)) + σ_{0} + μ][ae − k + 2σ_{0} + 2μ]. \end{matrix}

En remarquant que 2μr + 2μσ_{0} = 2μ(r + σ_{0}) et en factorisant par r + σ_{0}, on voit que cette quantité égale

\begin{matrix}μ^{2} + sgn(μ) + (ae − k + 2σ_{0} + 2μ)(r + σ_{0}) \\ −(ae − k + 2σ_{0} + 2μ)[δ(n − q − sgn(μ) − μ(r − 1)) + σ_{0} + μ], \end{matrix}

soit (ae − k + 2σ)[r − μ − δ(n − q − sgn(μ) − μ(r − 1))] + μ^{2} − sgn(μ). Comme ae − k + σ ≥ 0 et que le lemme 9 implique δ(n − q − sgn(μ) − μ(r − 1)) + μ ≤ δ(n − q) = r, ce dernier nombre est donc

positif. •

On peut maintenant regrouper les propositions 4 et 8 sous la forme du

Theoreme 2 Soit E un fibré ample de rang e sur une variété X de dimension n, a ∈ ℕ, (k_{i})_{1≤i≤a} et (α_{i})_{1≤i≤a} des entiers tels que α_{i} < k_{i}; soit σ = ∑ α_{i} et k = ∑ k_{i}, alors

H^{p,q}(X, ⊗_{i}Z^{k_{i}−α_{i}−1,k_{i}}E) = 0

si p + q > n + [min[δ(n − p), δ(n − q)] + σ][ae − k + 2σ] − σ(σ + 1).

4 Resultats topologiques en petit co-rang

4.1 Resultats topologiques

L’objet de ce paragraphe est la démonstration du Theoreme 3 Soit E un fibré vectoriel de rang e, sur une variété X lisse, projective et de dimension n. Supposons que E est muni d’une forme quadratique à valeurs dans un fibré en droites L. Soit k un entier et supposons que

– dim D_{k}(E) = ρ := n − t(e − k).

– S^{2}E^{∗} ⊗ L est ample.

– e − k ≤ 4. Alors, l’application de restriction H^{q}(X, O_{X}) → H^{q}(D_{k}(E), O_{D_{k}(E)}) est un isomorphisme pour 0 ≤ q < ρ − 1, et est injective pour q = ρ − 1.

Demonstration : Notons D := D_{k}(E). Tout d’abord, il existe une résolution du faisceau O_{D} sur O_{X} par des fibrés vectoriels : le i-ième terme R^{i} d’une telle résolution est donné par

R^{i} := ⨁ ; \begin{matrix}λ = (2l, μ, μ^{∗}) \\ |μ| + l(2l − 1) = i \end{matrix} S_{λ(k−1)}E ⊗ L^{−l(2l+k−1)}.

Dans cette formule, l’expression λ = (2l, μ, μ^{∗}) signifie que la partition λ est de rang 2l, que λ_{i} = 2l + μ_{i} si 1 ≤ i ≤ 2l et λ_{i+2l} = μ_{i}^{∗}. Si λ est une partition, λ(k − 1) est obtenue en intercalant k − 1 parts égales au rang de λ à λ : si par

exemple λ =  , alors λ(2) =  . Si k = 0, alors (2l, μ, μ^{∗})(−1) est

la partition ν telle que ν_{i} = 2l + μ_{i} pour 1 ≤ i ≤ 2l − 1, ν_{2l} = μ_{1}^{∗} + μ_{2l}, et ν_{2l−1+i} = μ_{i}^{∗} pour i ≥ 2.

L’existence de cette résolution, bien connue des spécialistes, peut se justifier de la façon suivante : soit Y l’espace total du fibré S^{2}E^{∗} ⊗ L et D ⊂ Y le schéma des formes symétriques de rang au plus k. Par [JPW 81, théorème 3.19, p.139] et [Nie 81], on a une résolution de O_{D} par des O_{Y} -modules localement libres analogue à celle que j’ai décrite. La section s de S^{2}E^{∗} ⊗ L induit un morphisme X → Y et, comme l’explique Nielsen [Nie 81], on peut tirer en arrière cette résolution pour obtenir la résolution de O_{D_{k}(E)} souhaitée. Pour cela, il suffit en effet d’annuler les faisceaux \underline{T or}_{i}^{Y} (O_{D}, O_{X}) pour i > 0, ce qui résulte d’une version du corollaire 1.10 de [PS 73], où l’on peut remplacer, avec leurs notations, l’hypothèse prof(B_{𝔭}) ≥ prof(A_{φ^{−1}(𝔭)}) par l’hypothèse prof(B_{𝔭}) ≥ dp_{A}(M). Pour annuler \underline{T or}_{i}^{Y} (O_{D}, O_{X}), on applique ce corollaire à Spec(B) un ouvert affine de X trivialisant S^{2}E^{∗} ⊗ L, Spec(A) ⊂ Y l’image réciproque de Spec(B) par la projection Y → X et M le A-module définissant le faisceau O_{D} sur Spec(A). Pour tout idéal 𝔭 ⊂ B correspondant à un point du support de M ⊗_{A} B, on a prof(B_{𝔭}) ≥ t(e − k), puisque X est supposée lisse et dim D_{k}(E) = n − t(e − k). L’hypothèse prof(B_{𝔭}) ≥ dp_{A}(M) est donc bien vérifiée.

Convenons qu’une partition λ de la forme (2l, μ, μ^{∗})(k − 1) sera dite (k − 1)- symétrique (si k − 1 = 0, ceci signifie que λ^{∗} = λ). Si λ est (k − 1)-symétrique, notons i(λ, k) l’entier tel que S_{λ}E^{∗} ⊗ L^{−l(2l+k−1)} ⊂ R^{i(λ,k)}.

En utilisant cette résolution, il est facile de montrer que le théorème 3 est conséquence de la proposition suivante (cet argument est par exemple expliqué dans [Man 97]) :

Proposition 9 Soit F un fibré vectoriel ample de rang e sur une variété X projective lisse de dimension n. Soit k un entier tel que 0 < e − k ≤ 4 et λ une partition (k−1)-symétrique. Alors, H^{n,q}(X, S_{λ}F) = 0 si q > t(e−k)+1−i(λ, k).

Demonstration : Puisque e − k ≤ 4, le rang 2l d’une partition (k − 1)- symétrique et de longueur inférieure ou égale à e est nécessairement inférieur ou égal à 4 ; on a donc l = 1 ou l = 2. Les partitions obtenues avec l = 2 ne nous posent pas de problème, car le théorème A’ de [Man 97] donne la borne 10 − i. Il suffit donc de traiter le cas l = 1. Pour simplifier les notations, j’ai supposé, dans le tableau suivant, que de plus k = 1, et l’ai listé toutes les partitions λ à considérer, et indiqué, en face, l’entier q_{0} tel que si q > q_{0}, alors H^{n,q}(X, S_{λ}E) = 0 pour tout fibré E ample de rangs 4 et 5. La dernière colonne indique le numéro du lemme qui montre l’annulation du groupe de cohomologie pour la borne indiquée. L’indication A’ renvoie au théorème A’ de [Man 97]. La colonne intermédiaire indique la valeur t(e − k) + 1 − i de q_{0} maximale pour montrer le théorème 3. Lorsque k prend d’autres valeurs que 1 mais que e − k reste égal à 3 ou 4, puisque les lemmes indiqués donnent une borne qui ne dépend que de e − k, on obtient encore la proposition 9.

Theoremes d’Annulation 517

rang(E) = 4  rang(E) = 5

partition  q_{0} 7-i lemme
4 6  A’

{5 \atop 4} 5  {11 \atop 12}

4 4  15

2 4  A’

0 2  A’

2 3  17

partition  q_{0} 11-i lemme

0  4  A’

3  7  A’

6 10  A’

8  9  11

{4 \atop 3}  5  {13 \atop 14}

8  8  15

8  8  15

6  6  16

4  6  17

{7 \atop 6}  7  {19 \atop 20}

Documenta Mathematica 9 (2004) 499–525

4.2 Theoremes d’annulation

Dans ce paragraphe, je montre les lemmes annoncés dans le précédent. Soit X une variété projective lisse de dimension n, E un fibré ample de rang e sur X, et L un fibré en droites nef. Pour des raisons qui sont expliquées après le lemme 13, je note λ = [a, b, c, d] la partition de rang 2 telle que λ_{1} = a + 2, λ_{2} = b + 2, λ_{1}^{∗} = e − c, λ_{2}^{∗} = e − d. Par exemple, S_{[0,0,0,0]}E = (det E)^{2}. De même, je note λ = [a, b] la partition de rang 1 telle que λ_{1} = a + 1 et λ_{1}^{∗} = e − b. Par la suite, a ≤ b, c ≤ d, t, q sont des entiers positifs ou nuls.

Lemme 11 \begin{aligned}H^{n,q}(X, S_{[1,c+1]}E ⊗ S_{[0,d]}E ⊗ L^{t}) & = 0 & si q > 2c + d + 2, et \\ H^{n−1,q}(X, S_{[0,c]}E ⊗ S_{[0,d]}E ⊗ L^{t}) & = 0 & si q > 2c + d + 1. \end{aligned}

Remarque : Le théorème 2 donne la borne 2c + 2d + 2 au lieu de 2c + d + 2 et les autres résultats que je connais ont une borne qui dépend de k (par exemple, [Man 97, théorème A] donne la borne k +c+d) ; il est clair que pour démontrer le théorème 3 par cette méthode, il faut une borne indépendante de k. Demonstration : Pour montrer ce lemme, je vais appliquer la technique, nouvelle à ma connaissance, de “comparaison de suites spectrales”. Tout d’abord, on peut supposer que e − c est pair. En effet, supposons que ce lemme est vrai pour e − c pair. Si e − c est impair et M est un fibré en droites ample sur X, alors on peut considérer le fibré vectoriel E ⊕ M de rang e + 1 ; comme e + 1 − c est alors pair, on peut appliquer le lemme, et comme pour le lemme 3, on en déduit que H^{n,q}(X, S_{[1,c+1]}E ⊗S_{[0,d]}E ⊗L^{t}) = 0 si q > 2c+d+2 et H^{n−1,q}(X, S_{[0,c]}E ⊗ S_{[0,d]}E ⊗ L^{t}) = 0 si q > 2c + d + 1. Soit alors un entier l tel que e − c = 2l. Considérons d’abord la variété Y = ℙE^{∗} ×_{X} ℙE^{∗}, notons π : Y → X la projection naturelle, et considérons le fibré en droites L = O(2l, e−d)⊗π^{∗}L^{t} sur Y. Comme O(2l, e−d) est ample (en effet, E est ample) et π^{∗}L nef, L est ample. Soit aussi P = n+(2l−1)+(e−d−1)−1. Déterminons les groupes ^{P,t}E_{2}^{i,j} de la suite spectrale de Leray introduite au paragraphe 2. Ceux-ci valent, par la formule (2), H^{t,i}[X, R^{P −t,j}π_{∗}O(2l, e−d)⊗ L^{t}]. Ces groupes sont donc nuls si t > n ou P − t > (2l − 1) + (e − d − 1). En effet, si V est un espace vectoriel fixé et l et m sont des entiers positifs, alors H^{i,j}[ℙV, O(l)] = 0 si i ≥ l (conséquence directe de la proposition 1), et donc H^{i,j}[ℙV × ℙV, O(l, m)] = 0 si i ≥ l + m (formule de Künneth). Les seules valeurs possibles sont donc t = n ou t = n − 1, et on a

P,n−1E_{2}^{i,0} = H^{n−1,i}(X, S_{[0,c]}E ⊗ S_{[0,d]}E ⊗ L^{t}), et
P,nE_{2}^{i,0} = H^{n,i}(X, L^{t} ⊗ R^{(2l−1)+(e−d−1)−1,0}π_{∗}O(2l, e − d))
= H^{n,i}(X, S_{[1,c+1]}E ⊗ S_{[0,d]}E ⊗ L^{t})
⊕ H^{n,i}(X, S_{[0,c]}E ⊗ S_{[1,d+1]}E ⊗ L^{t}).

Ces suites spectrales sont donc dégénérées, et on en déduit que

PE_{1}^{n−1,q−n+1} = H^{n−1,q}(X, S_{[0,c]}E ⊗ S_{[0,d]}E ⊗ L^{t}),
PE_{1}^{n,q−n} = H^{n,q}(X, S_{[1,c+1]}E ⊗ S_{[0,d]}E ⊗ L^{t})
⊕ H^{n,q}(X, S_{[0,c]}E ⊗ S_{[1,d+1]}E ⊗ L^{t}),

et les autres termes sont nuls. Par ailleurs, ^{P}E_{∞}^{p,q−p} est une composante de H^{P,q}(X, L) ; il est donc nul par le théorème de Kodaira si

P + q > n + 2(e − 1), soit q > n + 2(e − 1) − P = c + d + 1.

On en déduit donc que dans ce cas, la flêche connectant ^{P}E_{1}^{n−1,q−n+1} et PE_{1}^{n,q−n+1} est un isomorphisme, ce qui conduit à :

H^{n−1,q}(X, S_{[0,c]}E ⊗ S_{[0,d]}E ⊗ L^{t})
= H^{n,q+1}(X, S_{[1,c+1]}E ⊗ S_{[0,d]}E ⊗ L^{t})
⊕ H^{n,q+1}(X, S_{[0,c]}E ⊗ S_{[1,d+1]}E ⊗ L^{t}) si q > c + d + 1.

En considérant une autre suite spectrale, on va obtenir une autre égalité faisant intervenir ces termes ; en comparant ces égalités, on prouvera qu’ils sont nuls. Soit donc maintenant Y = G_{2}(E^{∗}) ×_{X} ℙE^{∗} et L = O(l, e − d) sur Y, et posons P = n + 3(l − 1) + (e − d − 1) − 1. On a alors de façon similaire ^{P}E_{1}^{n−1,q−n+l} = H^{n−1,q}(X, S_{[0,c]}E ⊗ S_{[0,d]}E ⊗ L^{t}), mais par contre, PE_{1}^{n,q−n+l−1} = H^{n,q}(X, S_{[0,c]}E ⊗ S_{[1,d+1]}E ⊗ L^{t}). Ceci conduit à l’égalité

\begin{aligned}H^{n−1,q}(X, S_{[0,c]}E ⊗ S_{[0,d]}E ⊗ L^{t}) & = & H^{n,q+1}(X, S_{[0,c]}E ⊗ S_{[1,d+1]}E ⊗ L^{t}) \\ & si & q > 2c + d + 1. \end{aligned}

En comparant ces égalités, on obtient

H^{n,q}(X, S_{[1,c+1]}E ⊗ S_{[0,d]}E ⊗ L^{t}) = 0,

soit la première affirmation du lemme. En utilisant la règle de Littlewood-Richardson, on va montrer l’autre résultat du lemme. En effet, rappelons que c ≤ d; si c = d, on peut conclure ; supposons donc c < d. Cette règle implique que

\begin{aligned}S_{[1,c+1]}E ⊗ S_{[0,d]}E & = & ⨁_{0≤x≤c+1} S_{[1,0,x,d+c+1−x]}E ⨁ R_{1} \\ S_{[0,c]}E ⊗ S_{[1,d+1]}E & = & ⨁_{0≤x≤c} S_{[1,0,x,c+d+1−x]}E ⨁ R_{2}, \end{aligned}

où R_{1} et R_{2} sont des sommes de composantes de type S_{[0,0,x,y]}, que l’on sait déjà annuler. L’annulation de la cohomologie de S_{[1,c+1]}E⊗S_{[0,d]}E⊗L^{t} entraine donc celle de S_{[0,c]}E ⊗ S_{[1,d+1]}E ⊗ L^{t}, et le lemme est alors conséquence d’une des égalités démontrées.

•

Notons que ce lemme montre par exemple H^{n,q}(X, S_{[1,0,c,c+1]}E) = 0 si q > 3c + 2, car S_{[1,0,c,c+1]}E ⊂ S_{[1,c+1]}E ⊗ S_{[0,c]}E. Ce n’est pas la borne indiquée dans le tableau p. 517. En effet, pour cette partition particulière, on peut un peu raffiner le raisonnement précédent. Auparavant, je souhaite faire une remarque d’ordre général qui allègera les calculs. En généralisant le raisonnement utilisé pour le lemme précédent, on voit que l’on obtient simultanément l’annulation de H^{p_{1},q}(X, S_{λ_{1}}E) et celle de H^{p_{2},q}(X, S_{λ_{2}}E) ; supposons que p_{1} < p_{2} : la borne q_{1} obtenue pour le groupe H^{p_{1},q}(X, S_{λ_{1}}E) est la différence entre la dimension de Y et la somme i+j +p_{1}, où i et j sont les entiers tels que si V est un espace vectoriel fixé, Y_{V} la fibre de la projection Y → X, et L_{V} la restriction du fibré en droites L sur une telle fibre, alors H^{i,j}(Y_{V} , L_{V}) = S_{λ}V. La borne q_{2} pour H^{p_{2},q}(X, S_{λ_{2}}E) vaut q_{1} + t, où t est l’entier tel que les flêches de la suite spectrale connectent H^{p_{1},q}(X, S_{λ_{1}}E) et H^{p_{2},q+t}(X, S_{λ_{2}}E). Attention, cette recette n’est bien sûr valable que si aucun autre terme de la suite spectrale ne vient compenser les termes que l’on veut annuler. Par ailleurs, on peut facilement exprimer cette différence :

Remarque 4 Une suite spectrale donnée par un fibré en droites sur G_{r}(E^{∗})×_{X} G_{s}(E^{∗}) peut montrer l’annulation de H^{p,q}(X, S_{[a,b]}E ⊗ S_{[c,d]}E ⊗ L^{t}) pour q > (r − 1)a + rb + (s − 1)c + sd.

Demonstration : En effet, comme je l’ai expliqué, il s’agit d’évaluer la différence entre dim G_{r}(V) et i + j, où i et j sont les entiers tels que H^{i,j}(G_{r}(V), O(l)) = S_{[a,b]}V. Cette différence vaut ra + (r − 1)b, car i =

(l − 1)t(r) − ar, j = (l − 1)t(r − 1) − a(r − 1), et dim V = rl − a + b. •

Dans le lemme qui suit, je traite des partitions qui sont un cas particulier de celles traitées par le lemme 11 ; pour ces partitions particulières, je peux réduire de 1 la borne donnée par le lemme 11.

Lemme 12 Supposons c > 0.

\begin{aligned}H^{n,q}(X, S_{[1,0,c+1,c]}E ⊗ L^{t}) & = 0 & si q > 3c + 1, et \\ H^{n−1,q}(X, S_{[0,0,c,c]}E ⊗ L^{t}) & = 0 & si q > 3c. \end{aligned}

Demonstration : Tout d’abord, on peut supposer que e − c est impair et e − c >> 0. Dans la démonstration du lemme 11, j’ai montré comment tenir compte de L^{t}; pour alléger les notations, je suppose dorénavant que t = 0. Soit alors l un entier tel que e − c = 2l + 1. Considérons d’abord la variété Y = ℙE^{∗} ×_{X} ℙE^{∗}, et le fibré O(2l + 1, 2l + 1) sur Y. Comme dans la démonstration du lemme précédent, on montre que

2H^{n,q+1}(X, S_{[1,c+1]}E ⊗ S_{[0,c]}) = H^{n−1,q}(X, S_{[0,c]}E ⊗ S_{[0,c]}E) si q > 2c + 1.

Soit maintenant O(2l, l + 1) → ℙE^{∗} ×_{X} G_{2}(E^{∗}). On a alors de façon similaire H^{n,q+1}(X, S_{[1,c+2]}E ⊗ S_{[0,c−1]}E) = H^{n−1,q}(X, S_{[0,c+1]}E ⊗ S_{[0,c−1]}E) si q > 3c. Par la règle de Littlewood-Richardson, S_{[1,c+1]}E ⊗ S_{[0,c]}E = S_{[1,c+2]}E ⊗ S_{[0,c−1]}E ⊕ S_{[1,0,c,c+1]}E (à des termes de type S_{[0,0,x,y]}E près), et S_{[0,c]}E ⊗ S_{[0,c]}E = S_{[0,c−1]}E ⊗ S_{[0,c+1]}E ⊕ S_{[0,0,c,c]}E. Je donne maintenant une dernière égalité faisant intervenir les groupes H^{n,q+1}(X, S_{[1,0,c,c+1]}E) et H^{n−1,q}(S_{[0,0,c,c]}E), qui permettra de conclure. Considérons O(e − c) → G_{2}(E^{∗}). La proposition 1 montre que toute partition λ, de taille au plus (e − 2) × 2 et (e − c)-admissible, vérifie soit λ_{1}, λ_{2} ≤ e − c − 2, soit λ_{1} = λ_{2} + e − c − 1. Dans le deuxième cas, on a |λ| = λ_{1} + λ_{2} ≤ [e − 2 − (e − c − 1)] + [e − 2] = e + c − 3. Par contre, la partition (e−c−2, e−c−2) est de poids 2(e−c−2). Il est clair qu’à c fixé, si e est grand, le poids de cette partition est strictement supérieur à toute constante plus le poids d’une partition du deuxième type. Quitte à augmenter e, on peut donc faire comme si seules les partitions du premier type intervenaient. En posant P = n + 2(e − c − 2) − 1, on montre alors que

H^{n,q+1}(X, S_{[1,0,c,c+1]}E) = H^{n−1,q}(X, S_{[0,0,c,c]}E) si q > 2c + 1.

Les trois égalités montrent que si q > 3c, alors H^{n,q+1}(X, S_{[1,c+1]}E ⊗S_{[0,c]}E) = 0. La première implique alors le reste du lemme.

•

Lemme 13 \begin{aligned}H^{n,q}(X, S_{[a,0]}E ⊗ S_{[b+1,1]}E ⊗ L^{t}) & = & 0 & si q > a + 2, et \\ H^{n−1,q}(X, S_{[a,0]} ⊗ S_{[b,0]}E ⊗ L^{t}) & = & 0 & si q > a + 1. \end{aligned}

Remarque : Ce lemme me donne l’occasion de justifier mes notations. Les partitions les plus faciles à traiter sont celles qui correspondent à une puissance du déterminant : en effet, puisque (det E)^{l} est ample pour tout l, le théorème de Kodaira donne directement que H^{p,q}(X, (det E)^{l}) = 0 si p + q > n. Lorsqu’on s’écarte de cette partition, je vais expliquer qu’il existe une symétrie entre le fait d’allonger les premières parts et le fait de creuser le bas de la partition. Autrement dit, dans la notation λ = [a, b, c, d], a et c, et b et d, jouent des rôles symétriques. On peut d’ailleurs remarquer que le théorème 2 n’échappe pas à ce principe : si l’on note r = min{δ(n − p), δ(n − q)}, alors la borne vaut q_{0} = n − p + (r + σ)(ae − k + 2σ) − σ(σ + 1). Or, avec mes notations, on a Z^{k_{i}−α_{i}−1,k_{i}} = [α_{i}, e − k_{i} + α_{i}]. Notons β_{i} = e − k_{i} + α_{i}; on a ae − k + σ = ∑_{i}(e − k_{i} + α_{i}) = ∑_{i} β_{i} =: τ. Ainsi, on a donc

q_{0} = n − p + (r + σ)(τ + σ) − σ(σ + 1) = n − p + r(σ + τ) + σ(τ − 1). (3)

On voit bien que cette formule est symétrique en σ et τ (−1). Le lecteur intrigué pourra s’amuser de constater que la démonstration du théorème 2 fonctionne de façon tout à fait similaire si l’on fait jouer par τ le rôle joué par σ, et donne le même résultat. Il est vraisemblable que le démonstration de théorèmes d’annulation efficaces pour des partitions de rang strictement supérieur à 1 utilise une récurrence qui fasse intervenir de façon combinée σ et τ. Le lemme 13, pour cette symétrie, est le symétrique du lemme 11 ; il se démontre de façon tout à fait similaire : Demonstration : On se ramène comme précédemment au cas e+a pair, puis on considère le fibré en droites O(e + a, e + b) sur ℙE^{∗} ×_{X} ℙE^{∗}, et le fibré en droites O(e + b, \frac{e+a}{2}) sur ℙE^{∗} ×_{X} G_{2}(E^{∗}). On utilise aussi, comme pour démontrer le lemme 11, la règle de Littlewood-Richardson. En tenant compte de la remarque 4, on trouve ainsi H^{n−1,q}(X, S_{[a,0]} ⊗ S_{[a+1,1]}E) = 0 si q > a + 1. Dans la suite spectrale, il y a une flèche entre H^{n,q+1}(X, S_{[a,0]}E ⊗ S_{[a+1,1]}E) et H^{n−1,q}(X, S_{[a,0]} ⊗ S_{[a+1,1]}E) ; H^{n,q}(X, S_{[a,0]}E ⊗ S_{[a+1,1]}E) s’annule donc si q > a + 2.

•

Par ailleurs, on peut, comme le fait le lemme 12, raffiner un peu le lemme précédent pour traiter certains cas particuliers :

Lemme 14 Supposons a > 0.

\begin{aligned}H^{n,q}(X, S_{[a+1,a,0,1]}E ⊗ L^{t}) & = 0 & si q > a + 1, et \\ H^{n−1,q}(X, S_{[a,a,0,0]}E ⊗ L^{t}) & = 0 & si q > a. \end{aligned}

Demonstration : Similaire à celle du lemme 12.

•

Lemme 15 H^{n,q}(X, S_{[1,c+1]}E ⊗ S_{[1,c+1]}E ⊗ L^{t}) = H^{n,q}(X, S_{[0,c+2]}E ⊗ S_{[0,c]}E ⊗ L^{t}) = 0 si q > 4c + 4, et H^{n−1,q}(X, S_{[1,c+1]} ⊗ S_{[0,c]}E ⊗ L^{t}) = 0 si q > 4c + 3.

Demonstration : Comme précédemment, on peut supposer que e − c est pair et t = 0 ; soit donc l tel que e − c = 2l. Considérons le fibré en droites O(2l, 2l) sur ℙE^{∗}×_{X} ℙE^{∗}, et la suite spectrale correspondante pour P = n+2(2l−1)−2. Les termes ^{P}E_{1}^{i,j} ne peuvent être non nuls que si i vaut n, n − 1, ou n − 2. Or PE_{1}^{n−2,q−n+2} = H^{n−2,q}(X, S_{[0,c]}E ⊗ S_{[0,c]}E), qui est nul si q > 4c + 2 par le théorème 2. On en déduit donc que si q > 4c + 2, alors

\begin{aligned}& H^{n,q+2}(X, S_{[1,c+1]}E ⊗ S_{[1,c+1]}E) ⊕ 2H^{n,q+2}(X, S_{[2,c+2]}E ⊗ S_{[0,c]}E) \\ = & 2H^{n−1,q+1}(X, S_{[1,c+1]} ⊗ S_{[0,c]}E). \end{aligned}

De même, en considérant O(2l, l) → ℙE^{∗} ×_{X} G_{2}(E^{∗}), on montre que

H^{n,q+2}(X, S_{[2,c+2]}E ⊗ S_{[0,c]}E) = H^{n−1,q+1}(X, S_{[1,c+1]} ⊗ S_{[0,c]}E) si q > 4c + 2.

Ce système donne H^{n,q+2}(X, S_{[1,c+1]}E ⊗ S_{[1,c+1]}E) = 0. Mais comme

S_{[1,c+1]}E ⊗ S_{[1,c+1]}E ⊃ S_{[2,c+2]}E ⊗ S_{[0,c]}E,

on en déduit qu’aussi H^{n,q+2}(X, S_{[2,c+2]}E ⊗ S_{[0,c]}E) = 0, et donc

H^{n−1,q+1}(X, S_{[1,c+1]} ⊗ S_{[0,c]}E) = 0. •

Le symétrique du lemme précédent est :

Lemme 16 H^{n,q}(X, S_{[a+1,1]}E⊗S_{[a+1,1]}E⊗L^{t}) = H^{n,q}(X, S_{[a+2,2]}E⊗S_{[a,0]}E⊗ L^{t}) = 0 si q > 2a + 4 et H^{n−1,q}(X, S_{[a+1,1]} ⊗ S_{[a,0]}E ⊗ L^{t}) = 0 si q > 2a + 3.

Demonstration : Comme pour le lemme précédent, on pose 2l = a+e et t = 0, et on compare les suites spectrales correspondant à O(2l, 2l) → ℙE^{∗} ×_{X} ℙE^{∗}

et O(2l, l) → ℙE^{∗} ×_{X} G_{2}(E^{∗}). •

Jusqu’à maintenant, nous avons considéré des partitions de type [a, ϵ] ⊗ [b, ϵ′] (ϵ, ϵ′ = 0 ou 1), ou de type [ϵ, a] ⊗ [ϵ′, b]. Etudions finalement des partitions “panachées”, c’est-à-dire de type [a, ϵ, b, ϵ′].

Lemme 17 Si a et c ont même parité, alors H^{n,q}(X, S_{[a,0]}E ⊗S_{[1,c+1]}E ⊗L^{t}) = 0 si q > 2c + 2, et H^{n,q}(X, S_{[a+1,1]}E ⊗ S_{[0,c]}E ⊗ L^{t}) = 0 si q > a + 2. Si q > max(a, 2c) + 1, alors H^{n−1,q}(X, S_{[a,0]}E ⊗ S_{[0,c]}E ⊗ L^{t}) = 0.

Remarque : Ce lemme illustre la difficulté du problème qui consiste à obtenir des théorèmes d’annulation optimaux : le lemme 16 avec a = 1 donne la borne 6

pour la partition (si e = 5) ; cette borne convient pour démontrer

le théorème 3 mais n’est pas optimale, puisque le lemme 17 donne la borne 4 (a = 3, c = 1). Par contre, j’aurai besoin de cette bonne borne pour montrer le lemme 19. Pour démontrer un analogue du théorème 3 en tous rangs, il faut probablement prendre en compte ce genre de subtilités. Demonstration : On suppose que a + e = 2l, e − c = 2m et t = 0. Si l’on considère O(2l, 2m) → ℙE^{∗} ×_{X} ℙE^{∗}, alors on obtient

H^{n−1,q}(X, S_{[a,0]}E ⊗ S_{[0,c]}E) =

H^{n,q+1}(X, S_{[a,0]}E ⊗ S_{[1,c+1]}E) ⊕ H^{n,q+1}(X, S_{[a+1,1]}E ⊗ S_{[0,c]}E) si q > c + 1.

Avec O(2l, m) → ℙE^{∗} ×_{X} G_{2}(E^{∗}), on a

H^{n−1,q}(X, S_{[a,0]}E ⊗ S_{[0,c]}E) = H^{n,q+1}(X, S_{[a+1,1]}E ⊗ S_{[0,c]}E) si q > 2c + 2.

Enfin, O(l, 2m) → G_{2}(E^{∗}) ×_{X} ℙE^{∗}, donne

H^{n−1,q}(X, S_{[a,0]}E ⊗ S_{[0,c]}E) = H^{n,q+1}(X, S_{[a,0]}E ⊗ S_{[1,c+1]}E) si q > a + 2.

Le lemme découle de ces trois remarques.

•

Lemme 18 Si a et c ont même parité, alors

H^{n−2,q}(X, S_{[a,0]}E ⊗ S_{[0,c]}E ⊗ L^{t}) = 0 si q > a + 2c + 2.

Demonstration : Si t = 0, 2l = e + a et 2m = e − c, on regarde la suite spectrale associée à O(l, m) → G_{2}(E^{∗}) ×_{X} G_{2}(E^{∗}), pour P = n + (2e − l − 3) + (3(m − 1)) − 2. Par la remarque 4, pour q > a + 2c + 2, celleci compare H^{n−2,q}(X, S_{[a,0]}E ⊗ S_{[0,c]}E) et H^{n,q+2}(X, S_{[a+1,1]}E ⊗ S_{[0,c]}E) ⊕ H^{n,q+2}(X, S_{[a,0]}E ⊗ S_{[1,c+1]}E). Or, ces deux derniers groupes sont nuls, grâce au lemme 17, si q > max{a, 2c}.

•

Lemme 19 Si a et c ont même parité, alors

H^{n,q}(X, S_{[a+1,1]}E ⊗ S_{[1,c+1]}E ⊗ L^{t}) = 0 si q > a + 2c + 4.

Demonstration : Si t = 0, 2l = e + a et 2m = e − c, alors O(2l, 2m) → ℙE^{∗} ×_{X} ℙE^{∗} donne, pour q > a + 2c + 2,

H^{n,q+2}(X, S_{[a+1,1]}E ⊗ S_{[1,c+1]}E) ⊕ H^{n,q+2}(X, S_{[a+2,2]}E ⊗ S_{[0,c]}E)
⊕ H^{n,q+2}(X, S_{[0,a]}E ⊗ S_{[2,c+2]}E)
= H^{n−1,q+1}(X, S_{[1,a+1]}E ⊗ S_{[0,c]}E) ⊕ H^{n−1,q}(X, S_{[0,a]}E ⊗ S_{[1,c+1]}E).

En effet, H^{n−2,q}(X, S_{[a,0]} ⊗ S_{[0,c]}E) = 0 si q > a + 2c + 2 par le lemme 18. De même, O(l, 2m) → G_{2}(E^{∗}) ×_{X} ℙE^{∗} et O(2l, m) → ℙE^{∗} ×_{X} G_{2}(E^{∗}) donnent respectivement, pour q > 2a + c + 2,

\begin{aligned}H^{n,q+2}(X, S_{[a+2,2]}E ⊗ S_{[0,c]}E) & = & H^{n−1,q+1}(X, S_{[1,a+1]}E ⊗ S_{[0,c]}E) et \\ H^{n,q+2}(X, S_{[0,a]}E ⊗ S_{[2,c+2]}E) & = & H^{n−1,q}(X, S_{[0,a]}E ⊗ S_{[1,c+1]}E). \end{aligned}

•

Remarquons enfin que l’on peut améliorer la borne pour S_{[2,1]}E ⊗ S_{[1,2]}E. En effet, en généralisant la démonstration du lemme précédent, on voit que l’annulation H^{n−2,q}(X, S_{[1,0]}E ⊗ S_{[0,1]}E) = 0 si q > q_{0} implique H^{n,q}(X, S_{[2,1]}E ⊗ S_{[1,2]}E) = 0 si q > q_{0} +2. Le lemme précédent utilisait la borne q_{0} = 5 montrée dans le lemme 18 ; je vais montrer que H^{n−2,q}(X, S_{[1,0]}E ⊗S_{[0,1]}E) = 0 si q > 4 par un argument qui ne fonctionne que pour S_{[1,0]}E ⊗ S_{[0,1]}E. La remarque spécifique est que, par la règle de Littlewood-Richardson,

S_{[1,0]}E ⊗ S_{[0,1]}E = (det E)^{2} ⊕ det E ⊗ S_{[1,1]}E.

Puisqu’on a H^{n−2,q}(X, (det E)^{2}) = 0 si q > 2, il suffit de montrer que H^{n−2,q}(X, det E ⊗ S_{[1,1]}E) = 0 si q > 4. Pour cela, on peut supposer que le rang de E est multiple de 4, e = 4f, et on regarde la suite spectrale correspondant à O(f, 4f) → G_{4}(E) ×_{X} ℙE. Dans cette suite spectrale, notre groupe, H^{n−2,q}(X, det E⊗S_{[1,1]}E) = 0, est connecté à H^{n−3,q−1}(X, (det E)^{2}) (qui s’annule si q − 1 > 3), H^{n−1,q+1}(X, det E ⊗ S_{[2,2]}E) (nul pour q + 1 > 5 : lemme 17), et enfin H^{n,q+1}(X, det E ⊗S_{[3,3]}E) = 0 (nul pour q +1 > 3 par le théorème A’ de [Man 97]). On a donc démontré

Lemme 20 H^{n,q}(X, S_{[2,1]}E ⊗ S_{[1,2]}E) = 0 si q > 6.

Ceci illustre à nouveau la complexité du sujet : on obtient de meilleures bornes pour des partitions spécifiques que celles obtenues par la méthode générale. Par ailleurs, comme nous utilisons une récurrence, le fait de ne pas obtenir le théorème d’annulation optimal pour une partition précise se répercute sur de nombreuses autres partitions, entrainant progressivement la “catastrophe”.

Références

[FH 91] W. Fulton, J. Harris, Representation theory. A first course. Graduate Texts in Mathematics, 129. Readings in Mathematics, Springer-Verlag, New York, 1991.

[FL 81] W. Fulton et R. Lazarsfeld, Connectivity and its applications in algebraic geometry. Algebraic geometry (Chicago, Ill., 1980), pp. 26–92, Lecture Notes in Math., 862, Springer, Berlin-New York, 1981.

[JPW 81] T. Józefiak, P. Pragacz, J. Weyman, Resolutions of determinantal varieties and tensor complexes associated with symmetric and antisymmetric matrices. Young tableaux and Schur functors in algebra and geometry (Toruń, 1980), Astérisque, pp. 109–189, 87-88, Soc. Math. France, Paris, 1981.

[Lay 96] F. Laytimi, On degeneracy loci. Internat. J. Math. 7 (1996), no. 6,

745–754 [LN 02] F. Laytimi, W. Nahm, A generalization of Le Potier’s vanishing theo-

rem. math.AG/0210010. [LP 77] J. Le Potier, Cohomologie de la grassmannienne à valeurs dans les

puissances extérieures et symétriques du fibré universel. Math. Ann. 226 (1977), no. 3, 257–270.

[Man 97] L. Manivel, Vanishing theorems for ample vector bundles. Invent.

Math. 127 (1997), no. 2, 401–416. [Man 92] L. Manivel, Théorèmes d’annulation pour la cohomologie des fibrés

vectoriels amples, thèse. [Nie 81] H.A. Nielsen, Free resolutions of tensor forms. Young tableaux and

Schur functors in algebra and geometry 289–302, Astérisque, 87-88. [PS 73] C. Peskine ; L. Szpiro, Dimension projective finie et cohomologie locale.

Applications à la démonstration de conjectures de M. Auslander, H. Bass et A. Grothendieck. Inst. Hautes Études Sci. Publ. Math. 42, (1973), 47–119.

[Sno 86] D.M. Snow, Cohomology of twisted holomorphic forms on Grassmann manifolds and quadric hypersurfaces. Math. Ann. 276 (1986), no. 1, 159– 176.

[Tu 89] L.W. Tu, The connectedness of symmetric and skew-symmetric dege-

neracy loci : even ranks. Trans. Amer. Math. Soc. 313 (1989), 381–392. [Tu 88] L.W. Tu, J. Harris, The connectedness of symmetric degeneracy loci :

odd ranks. Banach Center of publications, 26 : Topics in algebra, Part 2 (1988), 249–256.

Pierre-Emmanuel Chaput Université Grenoble 1 Institut Fourier UFR de Mathématiques UMR 5582 BP 74 38402 Saint-Martin-d’Heres CEDEX France 526

Documenta Mathematica 9 (2004)