Invariant eigendistributions on the symmetric pair (gl(4,R)/gl(2,R)*gl(2,R))

Distributions propres invariantes sur la paire symétrique (gl(4,R)/gl(2,R)*gl(2,R))

Nicolas Jacquet (1)

1 CMLS - Centre de Mathématiques Laurent Schwartz

We look for invariant eigendistributions for the symmetric pair (gl (4, R) / gl (2, R) *gl (2, R)). For this, I first describe the semisimple orbits of this quotient under Gl(2,R)*Gl(2,R) action. I then generalize certain results on orbital integral of rank one (of J.Faraut) in the rank two. So I describe the behavior of the orbital integrals in the neighborhood of the semi-regular points. Then I study the invariant eigendistributions which are given by locally integrable functions. I thus determine all invariant eigenfunctions on the open dense set of regular elements. For this I use the expression of radial parts of invariant differential operators with constant coefficients in terms of Dunkl's operators. The behavior of the orbital integrals gives matching conditions on these functions to be invariant eigendistributions on the whole space without the nilpotents. We obtain a vectoriel space of dimension 6.

Nous construisons des distributions propres invariantes pour la paire symétrique (gl(4,R)/gl(2,R)*gl(2,R)). Pour ceci, j'ai dans un premier temps décrit les orbites de GL(2,R)*Gl(2,R) sur ce quotient. J'ai ensuite généralisé certains résultats sur les intégrales orbitales de rang un (de J.Faraut) au rang deux. Ainsi j'ai obtenu le comportement des intégrales orbitales au voisinage des points semi-réguliers. Je me suis restreint à l'étude des distributions invariantes, propres sous l'action des opérateurs différentiels invariants à coefficients constants. données par des fonctions localement intégrables. J'ai d'abord déterminé les fonctions propres invariantes sur l'ouvert dense des éléments réguliers. Ceci est rendu possible par l'expression des parties radiales des opérateurs différentiels considérés en terme des opérateurs de Dunkl. Le comportement des intégrales orbitales m'a permis de déterminer lesquelles de ces fonctions donnaient une distribution propre invariante sur l'ensemble des éléments privés des nilpotents. Nous obtenons un espace vectoriel de dimension 6 dont certaines se prolongent naturellement à tout l'espace.

Mots clés: orbital integrals; invariant eigendistributions; symmetric pairs

Mots clés: intégrales orbitales; distributions propres invariantes; paires symétriques

Domaines: Théorie des groupes [math.GR]

Nicolas Jacquet. Distributions propres invariantes sur la paire symétrique (gl(4,R)/gl(2,R)*gl(2,R)). Théorie des groupes [math.GR]. Ecole Polytechnique X, 2010. Français. ⟨NNT : ⟩. ⟨pastel-00561472⟩