Sur les paquets d’Arthur des groupes classiques réels

Sur les paquets d’Arthur des groupes classiques réels

Colette Moeglin CNRS, Institut Mathématique de Jussieu colette.moeglin@imj-prg.fr    David Renard Centre de Mathématiques Laurent Schwartz, Ecole Polytechnique david.renard@polytechnique.edu
26 juillet 2019
Résumé

Cet article s’insère dans un projet d’étude des paquets d’Arthur pour les groupes classiques réels commencé dans [AMR]. Notre but est de donner une description explicite de ces paquets et d’établir la propriété de multiplicité un pour ceux-ci (qui est connue pour les groupes -adiques et complexes). Le résultat principal est ici une construction de paquets à partir de paquets unipotents de facteurs de Levi (-Levi) par induction cohomologique. Un outil important de la démonstration est un énoncé de commutativité entre induction cohomologique et transfert endoscopique spectral.

Abstract.  —  This article is part of a project started in [AMR] which consists of investigating Arthur packets for real classical groups. Our goal is to give an explicit description of these packets and to establish the multiplicity one property (which is known to hold for -adic and complex groups). The main result in this paper is a construction of packets from unipotent packets on -Levi factors using cohomological induction. An important tool used in the argument is a statement of commutativity between cohomological induction and spectral endoscopic transfer.

thanks: Le deuxième auteur a bénéficié d’une aide de l’agence nationale de la recherche ANR-13-BS01-0012 FERPLAY

1 Introduction

Soit un groupe classique réel, c’est-à-dire un groupe symplectique ou bien un groupe spécial orthogonal. Notre but dans cet article, ainsi que dans une série d’articles compagnons ([MRb], [MRc]) est de décrire de manière aussi explicite que possible les représentations irréductibles de qui sont composantes locales d’une représentation automorphe de carré intégrable. Plus précisément, soit un corps de nombres et soit un groupe algébrique réductif connexe défini sur . Les représentations automorphes de carré intégrables de sont les représentations irréductibles du groupe ( est le groupe des adèles de ) apparaissant comme sous-représentations dans . Pour les décrire, J. Arthur a introduit des paramètres locaux

décrit l’ensemble des places de , et est le groupe de Deligne-Weil de (si est une place archimédienne, est le groupe de Weil de ). Ces paramètres, en plus de leur propriétés locales, doivent satisfaire à une propriété de compatibilité globale qui ne nous intéresse pas directement ici; disons simplement que pour les groupes classiques quasi-déployés et leurs variantes, elle n’est décrite qu’artificiellement dans [Art13], et que pour l’exprimer plus généralement, il faudra attendre la description des groupes tannakiens associés aux corps de nombres.

Soit donc un paramètre d’Arthur local et notons le groupe des composantes connexes du centralisateur de dans (en fait, il faut en général passer à un revêtement cf. [Art13], chapitre 9, mais ceci est inutile dans le cas des groupes quasi-déployés, et des groupes classiques même non quasi-déployés). Arthur suggère qu’au paramètre est attaché une combinaison linéaire de représentations irréductibles de à coefficients dans l’espace des fonctions à valeurs complexes sur le groupe , fonctions invariantes par conjugaison. On note cette combinaison linéaire. Ces objets doivent être compatible à l’endoscopie. Cela ne suffit pas à les définir dans le cas quasi-déployé. Pour compléter la définition dans ce cas et pour les groupes classiques, Arthur ajoute la compatibilité à l’endoscopie tordue et cela suffit alors. Limitons nous dans ce qui suit aux cas des groupes classiques. Le groupe est alors abélien (c’est même un -groupe), les fonctions invariantes par conjugaison sur ce groupe sont donc directement des combinaisons linéaires à coefficients complexes de caractères de ce groupe et on cherche donc une combinaison linéaire à coefficients complexes de représentations irréductibles de .

Quand le groupe classique est quasi-déployé, Arthur montre dans [Art13] que est une représentation unitaire de , c’est-à-dire que la combinaison linéaire est à coefficients entiers positifs (au lieu d’être des nombres complexes), on a donc une représentation semi-simple (par construction) et la propriété supplémentaire est que cette représentation est unitaire. Remarquons que les dépendent du choix des facteurs de transfert géométrique et en suivant Kottwitz et Shelstad, les facteurs de transfert sont normalisés par des choix de données de Whittaker.

Pour les formes intérieures pures des groupes classiques quasi-déployés sur , la compatibilité à l’endoscopie suffit encore à caractériser ; ce qui n’est pas clair, c’est que soit une représentation unitaire de ([Art13], Conjecture 9.4.2) comme dans le cas quasi-déployé. Ceci est établi pour les paramètres unipotents dans [MRc], en utilisant les mêmes méthodes globales qu’Arthur (c’est-à-dire la stabilisation de la formule des traces (tordue)). Les résultats de cet article et de [MRb] montrent alors que cette propriété est en fait vraie pour tous les paramètres .

Une question importante qui se pose alors est celle de la décomposition de la représentation en représentations irréductibles et du calcul des coefficients. Pour les groupes classiques et une place archimédienne complexe, ce problème est résolu dans [MRa], le cas des places réelles avec l’hypothèse supplémentaire que le caractère infinitésimal est entier et régulier est traité en [AMR] et dans ces deux cas les coefficients sont un et les représentations irréductibles apparaissant sont simples à décrire. Pour le cas des places réelles, cela se fait avec l’induction parabolique ordinaire et l’induction cohomologique. Disons tout de suite, avant de détailler, que cet article généralise les méthodes et les résultats de [AMR] et que l’on obtient le même type de description très explicite mais sous l’hypothèse que les paramètres des séries discrètes intervenant dans sont grands les uns par rapport aux autres et grand par rapport à la partie unipotente. Donc par rapport à [AMR], on montre que de «  rajouter  »  une partie unipotente ne change pas les résultats. Pour avoir le cas général, on utilise les techniques usuelles de translation du caractère infinitésimal, c’est l’objet de l’article [MRb], mais là on perd la description précise puisque la translation traverse des murs. Soyons plus précis sur le contenu de cet article.

Nous ne considérons donc que le cas des places archimédiennes réelles, et dans la suite de cette introduction, est maintenant un groupe classique défini sur dont on note le groupe de ses points réels. On considère la représentation standard du -groupe de , , et par composition avec cette représentation standard, on peut voir un paramètre d’Arthur pour comme une représentation de . Cette représentation est complètement réductible et dans sa décomposition en irréductibles, on va distinguer une partie de bonne parité et une partie de mauvaise parité. De plus, dans la partie de bonne parité, nous distinguons une partie discrète, et une partie unipotente. Une première réduction, qui fera l’objet d’un article ultérieur, est de montrer que la description des représentations se ramène au cas où les paramètres sont de bonne parité, par une induction parabolique qui préserve l’irréductibilité des composantes. On se limite donc ici au cas de bonne parité.

La réduction établie dans cet article dans le théorème 9.3 donne une description de la représentation, cherchée comme une induite cohomologique d’un caractère d’un groupe unitaire convenable et de l’analogue de associée à un paramètre spécial unipotent (cf. [Moe]) d’un groupe de même type que . Le problème est que l’on ne sait pas décrire la décomposition de cette induite cohomologique sans une hypothèse de régularité. Pour les experts, disons que l’induite cohomologique se fait dans le weakly fair range et que l’on sait bien décrire le résultat dans le weakly good range. Dans le cas où la condition de régularité que l’on décrit ci-dessous, est satisfaite, on a alors une description exacte en irréductibles de . En particulier cette représentation est sans multiplicité et même la composante isotypique d’une représentation irréductible de dans est réduite à . Expliquons cette condition de régularité.

On suppose que l’on a un paramètre d’Arthur pour notre groupe classique , qui après composition avec la représentation standard, donne une représentation de de dimension , et que celle-ci admet une décomposition . On suppose que est une représentation irréductible de la forme . Ici est une représentation algébrique irréductible de de dimension et est une représentation irréductible de dimension 2 de , paramètre de Langlands d’une série discrète auto-duale de notée , de caractère infinitésimal , étant un entier supérieur ou égal à . Ainsi est le paramètre d’Arthur d’une représentation de Speh, notée . La condition de bonne parité devant être vérifiée ici est pair si le groupe dual de est orthogonal, impair s’il est symplectique. A torsion près par le caractère signe de , le paramètre est obtenu à partir d’un paramètre d’un groupe classique de même type que , de rang si est le rang de , par composition avec la représentation standard de . La propriété de régularité exigée est ici que soit suffisamment grand par rapport au caractère infinitésimal du paramètre (la condition exacte est (8.1.2)). Remarquons que l’on ne suppose pas ici une forme particulière pour , même si comme nous l’avons expliqué ci-dessus, l’application principale sera de partir de paramètres unipotents de bonne parité et d’ajouter un à un des blocs discrets pour obtenir tous les paramètres de bonne parité réguliers.

L’idée est de proposer une formule pour la représentation à partir de la représentation et des entiers et , et de montrer qu’elle satisfait bien les propriétés voulues relativement à l’endoscopie et à l’endoscopie tordue qui caractérisent la représentation d’Arthur (théorème 8.3). La formule donnant fait intervenir les foncteurs d’induction cohomologique de Vogan-Zuckerman à partir de sous-groupe de Levi de (-Levi) de la forme

est un groupe unitaire réel attaché à une signature et est une forme intérieure pure du groupe . La vérification de l’identité endoscopique tordue vers le groupe tordu se fait essentiellement comme dans [AMR], en reprenant de manière cruciale certains résultats qui y ont été établis. Dans [AMR], les identités endoscopiques ordinaires n’apparaissent pas car elles avaient déjà été établies par Adams et Johnson mais ce n’est le cas ici, et leur vérification est le point technique principal de l’article. Elle se fait grâce à un principe de commutation entre transfert endoscopique et induction cohomologique, qui nous semble présenter un intérêt intrinsèque et constitue à ce titre le deuxième résultat important de l’article. Un tel principe doit être valide en général, mais ce que montre le cas des groupes classiques pour lequel nous l’établissons ici est que l’énoncé en est nécessairement subtil. Ceci se devine du fait que si l’induction parabolique ordinaire commute au transfert, elle ne commute pas aux foncteurs d’induction cohomologique de Vogan-Zuckerman. Pour avoir des formules de commutation, il faut introduire certains caractères de torsion sur les sous-groupes de Cartan (voir l’appendice) que l’on retrouve dans la proposition 7.1. Pour avoir des formules agréables, nous préférons renormaliser les foncteurs de Vogan-Zuckerman pour y inclure les torsions. Ces foncteurs renormalisés, dans les cas des groupes orthogonaux, commutent aux tranferts endoscopiques (Eq. (7.2.3)) et pour les groupes symplectiques, il reste une torsion.

Donnons maintenant rapidement une idée de l’organisation de l’article. La section 2 fixe les notations et donne quelques rappels sur les paramètres et la classification de Langlands, puis sur les paramètres d’Arthur et les propriétés des représentations qui leur sont conjecturalement attachées, en particulier les identités de transfert endoscopiques ordinaires (Eq. (2.3.5)). La section 3.1 introduit les groupes classiques quasi-déployés considérés dans cet article : groupes symplectiques et groupes spéciaux orthogonaux quasi-déployés. La section 3.2 explique une partie des résultats de [Art13], en particulier l’existence de la représentation attachée à un paramètre d’Arthur, et sa caractérisation par les identités endoscopiques (2.3.5) (pour les données endoscopiques elliptiques du groupe ) et l’identité endoscopique tordue (3.2.4). La section 3.3 est une simple remarque sur l’extension dans [MRc] des résultats d’Arthur aux groupes classiques non nécessairement quasi-déployés. La section 4 a pour but d’expliquer avec plus de détails qu’au début de cette introduction les motivations de notre travail et les résultats obtenus. La façon dont les paramètres se décomposent la définition des parties de bonne parité, de mauvaise parité, discrète et unipotente sont donnés en 4.1. On donne ensuite les principaux énoncés de réduction obtenus dans cet article et les articles attenants ainsi que ce qui est connu dans le cas unipotent. Dans la section 5, nous revenons à un groupe algébrique réductif connexe défini sur quelconque, pour rappeler quelques résultats de la littérature qui nous seront utiles, en particulier le lien entre donnée de Whittaker et paire fondamentale de type Whittaker, la notion de -sous-groupe de Levi (ce sont les sous-groupes de Levi à partir desquels se fait l’induction cohomologique de Vogan-Zuckerman), la paramétrisation des séries discrètes selon Adams et Shelstad, etc. Dans la section 5.4 on énonce un résultat de stabilité de certaines représentations virtuelles obtenue par induction cohomologique (proposition 5.6) essentiel à la formulation même de notre résultat de commutation entre transfert endoscopique et induction cohomologique. Toutefois, pour éviter de trop alourdir le texte, nous ne le démontrerons que pour les groupes classiques un peu plus loin dans le texte, section 6.4. Dans la section 6 nous revenons au cadre des groupes classiques, et nous spécialisons à ceux-ci les discussions sur les séries discrètes et -Levi, ce qui fait apparaître naturellement les (classes d’équivalence de) formes intérieures pures des groupes spéciaux orthogonaux quasi-déployés. Dans les sections 6.5 et 6.6 nous rappelons de manière explicite les données endoscopiques elliptiques des groupes classiques, et les -Levi maximaux des groupes endoscopiques correspondants. Ceci détermine le cadre pour notre énoncé de commutation entre l’induction cohomologique et transfert endoscopique qui est établi dans la section 7 (proposition 7.1) et après renormalisation des foncteurs d’induction cohomologique dans la section 7.2, dans le théorème 7.6. L’extension aux groupes classiques non quasi-déployés est discutée dans la section 7.3. La section 8 décrit le résultat de l’ajout d’un bloc discret de paramètre suffisamment grand à un paramètre d’Arthur, que nous avons déjà décrit ci-dessus. Par une recurrence immédiate, mise en place dans la section 9, on en tire le théorème de réduction 9.3. Enfin l’appendice, tiré en grande partie de [AV92], introduit les caractères de torsion apparaissant dans notre énoncé de commutation entre induction cohomologique et transfert endoscopique et les calcule explicitement pour les groupes classiques.

2 Notations et généralités

On note le groupe de Galois de . Si est un groupe algébrique réductif connexe défini sur , on identifie au groupe de ses points complexes, et l’on note l’action de sur . On note le groupe des points réels de . On fixe alors une involution de Cartan , qui commute avec . On pose et , c’est un sous-groupe compact maximal de . Lorsqu’il n’y a pas d’ambigüité, on écrit simplement et plutôt que et . Par représentation de , nous entendons un -module de longueur finie, et par représentation virtuelle, un élément du groupe de Grothendieck de la catégorie des représentations de . On note l’image d’une représentation dans ce groupe de Grothendieck. On note l’ensemble des classes d’équivalence de représentations irréductibles de .

Introduisons un invariant important d’un tel groupe . On pose

(2.0.1)

est la moitié de la dimension de la partie déployée d’un sous-groupe de Cartan fondamental (i.e. maximalement compact) de . C’est un entier, et si les rangs de et sont égaux, cet entier est égal à la moitié de la dimension de l’espace symétrique .

Le signe de Kottwitz attaché au groupe est

(2.0.2)

est une forme intérieure quasi-déployée de .

Exemple 2.1.

Pour un groupe unitaire réel attaché à un espace hermitien de signature , on a et pour un groupe spécial orthogonal réel attaché à un espace quadratique de signature , on a .

Lorsque l’on a un groupe algébrique défini sur ou , on note par la lettre gothique correspondante l’algèbre de Lie du groupe de ses points complexes.

2.1 Paramètres de Langlands

Dans cette section, nous rappelons brièvement la classification de Langlands utilisant le -groupe, principalement dans le but d’introduire les notations utilisées dans le reste de l’article. Nous renvoyons le lecteur à [Bor79] pour plus de détails.

Le groupe de Weil de est . Le groupe de Weil de est une extension non scindée de par :

(2.1.1)

En identifiant avec son image dans et avec , on voit que est engendré par et un élément qui se projette sur , avec les relations :

(2.1.2)

Soit un groupe algébrique réductif connexe défini sur , et soit le dual de Langlands de . On fixe un épinglage de . On construit le -groupe de comme un produit semi-direct

(2.1.3)

où l’action de sur se factorise par la projection , et l’action de sur , que l’on note laisse stable .

Définition 2.2.

Un paramètre de Langlands est un morphisme continu :

tel que

  • ,

  • la restriction à pour image des éléments dont la composante dans est semi-simple.

Le groupe agit par conjugaison sur l’ensemble des paramètres de Langlands, et l’on note l’ensemble de ces classes de conjugaison. On note l’ensemble des classes de conjugaison de paramètres de Langlands d’image bornée.

Là encore, nous commettrons fréquemment l’abus de langage consistant à ne pas distinguer entre un paramètre de Langlands et l’élément de qu’il définit.

Le théorème de classification de Langlands est l’existence d’une partition de :

(2.1.4)

où les , appelés -paquets, ou paquets de Langlands, sont des ensembles finis (de classes d’équivalence infinitésimales) de représentations irréductibles. Le point essentiel est bien entendu l’ensemble des propriétés de cette partition. Donnons-en quelques unes. Tous les éléments d’un paquet ont même caractère infinitésimal. Pour les représentations tempérées, on a

(2.1.5)

Pour tout , la représentation virtuelle

(2.1.6)

est stable. Rappelons ce que cela signifie. L’application qui à une représentation de longueur finie associe son caractère passe au groupe de Grothendieck et induit une application linéaire injective du groupe de Grothendieck dans l’espace des distributions sur invariantes par conjugaison. Dire qu’une représentation virtuelle est stable signifie que son caractère est une distribution stablement invariante sur . Pour ce qui concerne la notion de stabilité, nous renvoyons par exemple à [She79] et [Bou04]. Ceci n’est plus vrai pour un paquet non tempéré. Soit , non nécessairement tempéré. Les représentations sont obtenues dans la classification de Langlands comme uniques sous-représentations irréductibles de représentations standard , obtenues par induction parabolique à partir d’un sous-groupe parabolique de , et d’un paquet «  essentiellement tempéré  »  de .

Définition 2.3.

Appelons «  pseudo-paquet  », et notons , l’ensemble des pour . Définissons la représentation virtuelle

(2.1.7)

Le paquet est aussi obtenu de la manière suivante dans la classification de Langlands : il existe un sous-groupe parabolique de défini sur , et un paramètre de Langlands discret qui factorise par l’inclusion tels que les éléments du paquet sont les sous-représentations irréductibles des , où les parcourent le paquet de séries discrètes (i.e. essentiellement de carré intégrable modulo le centre) . On a alors

(2.1.8)

Il est bien connu ([She79], [AJ87], Lemma 4.3) que est une représentation virtuelle stable de .

Remarques 2.4.

1. Remarquons que lorsque est tempéré, est aussi égale à (2.1.6).

— 2. Selon le contexte, on appelle «  représentations standard  »  les représentations de (2.1.7) ou les représentations de (2.1.8).

— 3. Les forment une base du sous-groupe du groupe de Grothendieck constitué des représentations virtuelles stables

2.2 Paramètres d’Arthur

Les notations sont les mêmes que dans la section précédente.

Définition 2.5.

Un paramètre d’Arthur pour est un morphisme de groupes continu

tel que

  • la restriction de à est un paramètre de Langlands tempéré,

  • la restriction de à est algébrique.

Le groupe agit par conjugaison sur l’ensemble des paramètres d’Arthur, et l’on note l’ensemble de ces classes de conjugaison. On identifie à l’ensemble des paramètres d’Arthur de restriction triviale à .

A tout paramètre d’Arthur , on associe un paramètre de Langlands

(2.2.1)

est le morphisme de groupe de dans défini par et si .

2.3 Paquets d’Arthur

Dans [Art84], [Art89], J. Arthur conjecture l’existence de paquets attachés aux paramètres , devant posséder certaines propriétés. Parmi les principales, citons le fait que les sont finis, constitués de (classes d’équivalence) de représentations unitaires, ayant toutes le même caractère infinitésimal. Le paquet d’Arthur contient le paquet de Langlands . Ils doivent satisfaire les identités de caractères attendues dans la théorie de l’endoscopie (standard et tordue), c’est ce qui est appelé le transfert spectral. En revanche, ces paquets ne sont pas disjoints, et ne sont pas des réunions de -paquets.


Donnons quelques précisions au sujet des conjectures d’Arthur, en faisant quelques hypothèses simplificatrices qui seront vérifiées pour les groupes que nous allons étudier. Certains termes («  forme intérieure pure  »,  «  donnée de Whittaker   ») seront précisés plus loin dans le texte. On suppose que quasi-déployé, ou bien est une forme intérieure pure d’un groupe quasi-déployé.

Soit un paramètre d’Arthur pour le groupe . Soit le centralisateur de l’image de dans et sa composante connexe neutre. On pose

(2.3.1)

On suppose que les groupes sont abéliens. Notons le groupe des caractères de .

Comme nous l’avons expliqué dans l’introduction, Arthur conjecture l’existence d’une combinaison linéaire à coefficients complexes de représentations irréductibles de , notée devant vérifier un certain nombre de propriétés, dont nous allons détailler certaines. Le paquet est alors l’ensemble des représentations irréductibles de qui apparaissent dans .

Pour tout , on considère la représentation virtuelle obtenue en évaluant en , à savoir

(2.3.2)

est l’image dans de l’élément , . Ce sont ces représentations virtuelles qui apparaissent dans les identités de transfert endoscopiques.

Lorsque , (2.3.2) doit être une représentation virtuelle stable, que l’on note simplement

(2.3.3)

Lorsque est un paramètre tempéré, l’élément est trivial, et de plus il résulte des travaux de Shelstad (voir [She10] et [She08]) que est de la forme

(2.3.4)

où les sont des représentations irréductibles tempérées de ou et celles qui sont non nulles décrivent exactement le paquet et sont donc en particulier non isomorphes deux à deux. La notation (2.3.3) pour paramètre de Langlands tempéré est bien compatible avec (2.1.7) grâce à la remarque 2.4.

Soit un élément dans le centralisateur de dans tel que , et notons encore l’image de dans . Soit une donnée endoscopique elliptique de , qui factorise . Nous renvoyons à [LS87] et [KS99] pour la définition d’une donnée endoscopique. Nous considérons ici le transfert spectral, pour lequel, outre ces deux références, on peut aussi consulter [She08]. Pour simplifier, nous supposons que est isomorphe au -groupe de , et que cet isomorphisme composé avec donne un plongement de -groupes .

Le paramètre se factorise en , ce qui définit la paramètre d’Arthur pour dans la formule ci-dessous. Le transfert est normalisé par le choix d’une donnée de Whittaker pour . L’identité de transfert endoscopique s’écrit:

(2.3.5)

Remarquons que dans le cas d’un paramètre de Langlands tempéré , l’identité endoscopique devient (Shelstad,[She10] et [She08]), avec les notations introduites en (2.3.4)

(2.3.6)
Remarque 2.6.

Remarquons que lorsque on prend , le groupe endoscopique associé est la forme intérieure quasi-déployée de , notons-la , et l’identité endoscopique devient, pour tout paramètre d’Arthur

Lorsque est un groupe classique quasi-déployé, J. Arthur donne dans [Art13] une définition des . Il montre que ce sont des représentations unitaires de , qui sont caractérisées par les identités endoscopiques (2.3.5), pour toutes les données endoscopiques elliptiques de , ainsi qu’une identité d’endoscopie tordue, où apparaît comme un groupe endoscopique pour un groupe tordu , étant l’automorphisme extérieur de . Nous en dirons plus sur tout ceci dans la section 3.2.

3 Les groupes classiques et leurs paquets d’Arthur

3.1 Les groupes classiques

Les «  groupes classiques   »  quasi-déployés que nous considérons sont ceux qui apparaissent dans les données endoscopiques elliptiques simples des groupes tordus selon la terminologie d’Arthur cf. [Art13], §I.2 (voir le paragraphe suivant). Le plus commode est encore d’en faire la liste, et de fixer quelques notations pour pouvoir s’y référer facilement. Pour , on considère les groupes de rang suivants:

  • Le groupe symplectique .

    C’est un groupe déployé. Son dual de Langlands est et son -groupe est le produit direct .

  • Le groupe spécial orthogonal impair .

    C’est un groupe déployé. Son dual de Langlands est et son -groupe est le produit direct .

  • Le groupe spécial orthogonal pair déployé , .

    C’est un groupe déployé. Son dual de Langlands est et son -groupe est le produit direct .

  • Le groupe spécial orthogonal pair quasi déployé, non déployé , .

    C’est un groupe quasi-déployé. Son dual de Langlands est et son -groupe est le produit semi-direct .


Pour chacun de ces groupes, on dispose d’une représentation naturelle du -groupe dans un :

(3.1.1)

Dans le cas , elle est donnée par l’inclusion de dans , dans le cas , par l’inclusion de dans , dans le cas , par l’inclusion de dans . Le cas , est plus délicat car le groupe étant non déployé, le -groupe est un produit semi-direct non trivial . Mais l’action de sur est donnée par l’action d’un élément de , de sorte que l’on a un morphisme

et la composition avec l’inclusion de dans nous donne la représentation voulue. On a donc dans les cas , , , et dans le cas .

Dans la section 6.6 ci-dessous, nous allons considérer des -sous-groupes de Levi des groupes classiques et de leurs données endoscopiques elliptiques, qui vont avoir des groupes unitaires comme facteurs. A la liste ci-dessus, on rajoute donc :

  • Le groupe unitaire . C’est un groupe quasi-déployé. Son dual de Langlands est et son -groupe est le produit semi-direct .

3.2 Paquets d’Arthur des groupes classiques

Comme nous l’avons expliqué à la fin de la section 2.3, lorsque est un groupe classique quasi-déployé et est un paramètre, J. Arthur établit dans [Art13] l’existence de vérifiant les propriétés voulues et montre que c’est une représentation unitaire de . On la décompose en somme de produits tensoriels extérieurs de représentations de ces deux groupes:

(3.2.1)

Les résultats d’Arthur nous disent en particulier que la représentation virtuelle définie en (2.3.3) est stable. Il montre que les identités endoscopiques (2.3.5), pour toutes les données endoscopiques elliptiques de , ainsi qu’une égalité endoscopique tordue que nous allons décrire ci-dessous caractérisent . Remarquons simplement que l’identité endoscopique (2.3.5) se réécrit en tenant compte de (3.2.1) sous la forme

(3.2.2)

Décrivons maintenant l’identité endoscopique tordue. On note l’involution de Cartan de . Soit la matrice antidiagonale

On note l’automophisme défini par . On définit le produit semi-direct . C’est un groupe algébrique réductif non connexe. L’automorphisme étant d’ordre 2, ce groupe compte deux composantes connexes, et l’on note celle qui ne contient pas l’élément neutre. On note l’ensemble des points réels de . On obtient ainsi un espace tordu au sens de Labesse [LW13].

La donnée de est celle d’une donnée endoscopique tordue elliptique pour . Nous renvoyons le lecteur à [KS99] et [Art13] pour tout ce qui concerne la théorie de l’endoscopie tordue. Rappelons seulement que dans une telle situation, Kottwitz et Shelstad définissent un facteur de transfert, permettant de définir une application («  transfert géométrique   ») entre l’espace des intégrales orbitales sur et l’espace des intégrales intégrales orbitales stables sur . Ceci est démontré par D. Shelstad dans [She12]. Ce facteur de transfert n’est défini a priori qu’à une constante multiplicative près, mais le choix de la donnée de Whittaker sur (cf. [AMR] section 5.2) permet de fixer cette constante ([KS99], section 5.3).

Par dualité, ce transfert d’intégrales orbitales définit un transfert spectral entre représentations virtuelles stables de et représentations virtuelles de , noté

(3.2.3)

Soit un paramètre d’Arthur pour le groupe . Posons . C’est un paramètre d’Arthur (auto-dual) pour le groupe . Soit la représentation irréductible autoduale de associée à ce paramètre (cf. [AMR], §3.1).

L’identité endoscopique tordue est alors

(3.2.4)

le membre de droite étant la trace tordue, normalisée par la donnée de Whittaker (cf. [AMR], Définition 5.4).

Lorsque le paramètre est trivial sur le facteur , le paquet est un paquet de Langlands tempéré, la représentation virtuelle est la somme des représentations du paquet, et l’identité (3.2.4) est alors démontrée par P. Mezo [Mez16], à un facteur multiplicatif près. Nous avons démontré dans [AMR] qu’en fait l’identité (3.2.4) est valide, autrement dit que le facteur multiplicatif restant à déterminer dans Mezo est . Le résultat de Mezo et le fait que le transfert endoscopique commute à l’induction entraîne le résultat suivant pour les pseudo-paquets (cf. Définition 2.3).

Proposition 3.1.

Soient un groupe classique quasi-déployé comme ci-dessus et un paramètre de Langlands pour . Posons . On a alors

3.3 Formes intérieures pures

Dans [MRc] les résultats d’Arthur sont étendus aux formes intérieures pures des groupes spéciaux orthogonaux quasi-déployés. Soit l’une de ces formes intérieures pures, que l’on peut voir comme un groupe (voir sections 6.1 et 6.2). Pour les groupes symplectiques, il n’y a pas de forme intérieure pure de qui ne soit pas équivalente à .

Les sont alors simplement caractérisées par les identités endoscopiques (2.3.5). Remarquons que lorsque est la forme quasi-déployée, l’identité endoscopique avec est tautologique. Ce n’est pas le cas lorsque l’on a une forme intérieure non quasi-déployée, l’identité endoscopique avec (le groupe endoscopique est alors la forme intérieure quasi-déployée de ) donne une relation supplémentaire qui remplace celle donnée par le transfert endoscopique tordu et suffit à compléter la caractérisation de .

Dans ce cadre, les ne sont pas supposées a priori être des représentations unitaires de , mais on montre dans loc. cit. que tel est bien le cas pour les paramètres unipotents. Les résultats de réduction énoncés dans la section suivante permettent au final d’étendre ce résultat à tous les paramètres. Notons ce résultat.

Proposition 3.2.

Soit une forme intérieure pure d’un groupe orthogonal quasi-déployé, et soit un paramètre d’Arthur pour . Alors est une représentation unitaire de .

4 Enoncé des résultats de réduction

Comme nous l’avons expliqué dans les deux sections précédentes, les attachées aux paramètres des groupes classiques sont caractérisées par des identités endoscopiques, mais l’on aimerait en savoir plus sur celles-ci. En particulier, on aimerait déterminer la décomposition des et montrer que les coefficients sont 1 (propriété de multiplicité un). Pour cela, nous obtenons des résultats de réduction que nous allons maintenant décrire.

4.1 Décomposition des paramètres

Soit l’un des groupes classiques de la section 3.1.

Définition 4.1.

On définit la bonne parité pour le groupe comme étant si le groupe dual est symplectique (cas B), et si le groupe dual est orthogonal (cas A, C, D).

Soit un paramètre d’Arthur de . Posons

Cette représentation de est semi-simple. Rappelons que les représentations irréductibles de sont de deux types (cf. [AMR], §3.1 ) : les représentations , , , de dimension (c’est le paramètre de Langlands de la représentation de ), et les représentations , , (c’est le paramètre de Langlands de la représentation essentiellement de carré intégrable modulo le centre de caractère infinitésimal de ). On note un représentant de l’unique classe d’équivalence de représentations algébriques de dimension de .

Avec ces notations, on peut donc écrire la décomposition en irréductibles de sous la forme générale:

Dans la première somme, les sont dans et les dans . Dans la deuxième somme, les sont dans et les dans . Dans la troisième somme, les sont dans et la parité des est mauvaise. Dans la quatrième somme, les sont dans et la parité de est mauvaise. Dans la cinquième somme, les sont dans et la parité des est bonne. Dans la sixième somme, les sont dans et la parité de est bonne.

En effet, le paramètre est -stable. La contribution des facteurs irréductibles non -stable apparaît alors sous la forme de la première et deuxième somme. Ce qu’il faut remarquer ensuite, c’est que la multiplicité d’un facteur (resp. ) dans est paire lorsque la parité de (resp. ) est mauvaise. La contribution de ces facteurs apparaît alors sous la forme de la troisième et quatrième somme.

On note le paramètre formé avec les quatre premières sommes, et celui formé avec les deux dernières. On a alors . On décompose aussi en (cinquième somme) et (sixième somme).

On remarque que s’écrit sous la forme ( est la contrégrédiente de ). Une telle décomposition n’est pas unique.

4.2 Réduction aux paramètres de bonne parité

Les résultats de cette section seront démontrés ailleurs. Soit l’un des groupes classiques de la section 3.1. Soit un paramètre d’Arthur pour , et comme précédemment posons . Considérons une décomposition de de la forme :

(4.2.1)

où, dans , il n’apparaît que des facteurs de mauvaise parité. Le paramètre se factorise par le -groupe d’un groupe classique quasi-déployé de même type que . Soit le paramètre d’Arthur pour le groupe tel que . Notons la dimension de la représentation de , et soit la représentation de de paramètre d’Arthur (cf. [AMR], §3.1). Le groupe admet un sous-groupe de Levi maximal standard isomorphe à , et ceci fournit une injection

(4.2.2)

de sorte que .

Remarque 4.2.

Les groupes et sont naturellement isomorphes.

Proposition 4.3.

Soit et soient et les représentations semi-simples de et respectivement attachées par Arthur (cf. (3.2.1), où pour on tient compte de la remarque ci-dessus). On a alors

(4.2.3)

est un sous-groupe parabolique standard maximal de de facteur de Levi .

Théorème 4.4.

Soit . Alors est irréductible.

Corollaire 4.5.

Si les ont la propriété de multiplicité et sont disjointes, il en est de même des . Ainsi la propriété de multiplicité 1 pour découle de celle pour . D’autre part, si la décomposition en irréductibles de est connue, alors elle l’est en principe pour .

Evidemment, la formulation de la seconde partie est un peu vague, connaître la décomposition en irréductible de , cela veut dire savoir donner les paramètres des composantes irréductibles des dans une classification connue. Il faut savoir ensuite ce que donne une induction parabolique irréductible dans cette classification, ce qui est le cas pour les classifications usuelles ([KV95], Chapter 11).

Si est maintenant un groupe spécial orthogonal non quasi-déployé de rang , donc une forme intérieure pure de l’un des groupes de la section 3.1, cas B,C,D, il faut légèrement adapter la formulation de ces résultats (voir la section 3.3). Si , on a . Si , admet un sous-groupe de Levi maximal standard isomorphe à , où est un groupe spécial orthogonal de rang . Si l’on fait l’hypothèse que est une représentation unitaire de , alors les sont bien définis pour tout et la formule (4.2.3) définit une représentation unitaire de pour tout . On en déduit une représentation unitaire de :

et l’on vérifie qu’elle satisfait bien aux identités endoscopique voulues. La proposition, le théorème et le corollaire ci-dessus sont donc toujours valides, mais ils sont précédés de

Proposition 4.6.

Si est une représentation unitaire de , alors est une représentation unitaire de .

Ainsi, la description des paquets d’Arthur est réduite au cas des paramètres de bonne parité.

4.3 Cas des paramètres unipotents de bonne parité

Dans cette section, désigne un groupe classique non nécessairement quasi-déployé, c’est-à-dire l’un des groupes quasi-déployés de la section 3.1 ou bien une forme intérieure pure d’un groupe spécial orthogonal. On considère le cas des paramètres unipotents de bonne parité. On suppose donc que est tel que .

Théorème 4.7.

Soit un paramètre d’Arthur pour tel que . Alors est une représentation unitaire de qui vérifie la propriété de multiplicité un.

Pour les groupes classiques quasi-déployés (les groupes classiques sur sont aussi traités), on sait d’après Arthur que est une représentation unitaire de , ceci a déjà été dit. La propriété de multiplicité un est établie par le premier auteur dans [Moe]. Le cas des groupes classiques non quasi-déployés est réglé en [MRc].

Le problème de classification est lui aussi essentiellement résolu dans [Moe], en termes de correspondance de Howe. D’autre part, on a le résultat suivant.

Théorème 4.8.

Soit . Alors est une representation faiblement unipotente au sens de [KV95], Chapter XII.

Ceci est démontré dans [MRb].

4.4 Réduction du cas des paramètres de bonne parité réguliers au paramètres unipotents

Soit un groupe classique, et soit un paramètre d’Arthur pour . Supposons que soit de bonne parité, on décompose donc en

est unipotent de bonne parité. On suppose que vérifie la condition de régularité suivante :

(4.4.1)

Le théorème 9.3 donne une formule pour la représentation unitaire utilisant l’induction cohomologique et les repésentations attachée à la partie unipotente du paramètre. Ceci résout le problème de classification et celui de multiplicité un pour de tels paramètres.

4.5 Réduction du cas des paramètres de bonne parité au cas régulier

On se place dans le même contexte que la section précédente, mais l’on ne suppose plus la condition de régularité (4.4.1). Dans [MRb], nous obtenons une formule pour en introduisant un paramètre de vérifiant

et la condition de régularité (4.4.1). D’après le paragraphe précédent, les problème de classification et de multiplicité un sont résolus pour . La formule pour est obtenue en appliquant les techniques usuelles de translation du caractère infinitésimal (foncteur de translation de Zuckerman). Malheureusement, il apparaît des réductibilités difficiles à contrôler, ce qui nous empêche pour le moment de conclure sur les problèmes de décomposition en irréductibles et de multiplicité un.

5 Quelques résultats généraux

5.1 Donnée de Whittaker et paires de Borel fondamentales

Si est quasi-déployé, on fixe un épinglage stable par . On note le radical unipotent de , le groupe de ses points réels, et l’on fixe un caractère de de sorte que est une donnée de Whittaker de . Le rôle d’une telle donnée dans la théorie d’Arthur-Langlands-Shelstad est de distinguer certaines représentations, celle qui admettent un modèle de Whittaker, et de normaliser les facteurs de transfert endoscopiques de [LS87] et [KS99].

Nous allons plutôt utiliser une donnée équivalente, celle d’une paire de Borel fondamentale de type Whittaker (cf. [She15], §2.2, 2.3, 2.4). Rappelons qu’une paire de Borel de est un couple constitué d’un tore maximal de et d’un sous-groupe de Borel .

Définition 5.1.

Une paire de Borel de est dite fondamentale si les conditions suivantes sont réalisées :

est stable sous et est un sous-groupe de Cartan fondamental (i.e. maximalement compact) de ,

est un sous-groupe de Borel contenant tel que l’ensemble des racines de dans soit stable par (cette condition est automatique lorsque est anisotrope car toute les racines sont imaginaires. Comme est fondamental, il n’y a pas de racines réelles, et c’est donc une condition sur les racines complexes).

Une paire de Borel fondamentale de est dite de type Whittaker si de plus la condition suivante est réalisée :

les racines simples imaginaires de dans sont imaginaires non compactes.

Dans [AV92], les auteurs utilisent la terminologie «  large  »  pour la propriété . Le fait que possède une paire de Borel fondamentale de type Whittaker est équivalent au fait que soit quasi-déployé (cf. [AV92], Prop. 6.24). Le choix d’une telle paire fondamentale est équivalent au choix d’une donnée de Whittaker , la correspondance entre les deux étant réalisée de la manière suivante : une paire de Borel fondamentale de type Whittaker de détermine, en se fixant un caractère infinitésimal entier, une représentation générique de la série fondamentale. Cette représentation admet donc un modèle de Whittaker, et détermine donc à conjugaison près une donnée de Whittaker . Cette construction induit une bijection entre classes de conjugaison sous de données de Whittaker et classes de conjugaison de paire de Borel fondamentales de type Whittaker.

On fixe donc dans la suite une paire de Borel fondamentale de , et si est quasi-déployé, on suppose que cette paire est de type Whittaker et est compatible avec le modèle de Whittaker choisi. On peut supposer, ce que l’on fera, que est -stable. La condition est alors équivalente au fait que est aussi -stable.

5.2 -Levi

Soit un sous-groupe parabolique standard de . Ceci signifie que et . Les racines simples de dans sont soit dans , soit dans , et l’on fait l’hypothèse que l’action de sur les racines simples préserve cette partition.

Soit une paire de Borel fondamentale dans . L’identification entre racines simples de dans et coracines simples de dans permet de définir un sous-groupe parabolique de contenant .

Lemme 5.2.

Le groupe est stable sous , autrement dit, c’est un sous-groupe de défini sur . Si de plus, est -stable, il en est de même de et .

Démonstration. Le sous-groupe est stable par par définition, il suffit donc de démontrer que l’ensemble des racines de dans est stable sous l’action de . Soit un représentant de l’élément le plus long du groupe de Weyl. Alors