Les Groupes de Transvections
par Daniel Piollet

Cette famille réunit de nombreux groupes connus et parfois abondamment étudiés, comme le groupe d'automorphismes du groupe libre et nombre de ses sous-groupes, les groupes d'automorphismes des groupes fuschéens, les groupes d'automorphismes des surfaces orientables (groupe modulaire), le groupe des tresses et des tresses pures, le groupe Gln(Z), le groupe symplectique modulaire, Spn(Z) et enfin au moins deux des groupes de 3-transpositions de Fischer qui sont le groupe symétrique et Spn(F₂).

Soit F un groupe libre, librement engendré par un ensemble X, Aut(F) son groupe d'automorphismes, une transvection (E ; e), où E est une partie de X union X^-1 et où e est un élément de F, est un automorphisme qui envoie tout élément x de X sur x ou xe ou e^-1x ou e^-1xe. Un groupe de transvections est un groupe admettant une présentation <T; R > où T est un ensemble fini de transvections de Aut(F) et R un ensemble fini de relations vérifiées par les éléments de T. Ces conditions définissent donc les groupes quotients des groupes de transvections du groupe libre. Nombreux sont linéaires, par construction ou de façon non évidente comme le groupe des tresses, c'est une conjecture ouverte en ce qui concerne les groupes d'automorphismes des surfaces. Ces derniers, dans le cas d'une surface orientable dont le groupe fondamentale est libre, sont représentés fidèlement par des groupes de transvections de Aut(F), c'est une conséquence du théorème de Dhen-Nielsen. Dans ce cas les transvections génératrices sont des transvections symplectiques ou torsions algébriques, ce sont les images des torsions de Dehn, les automorphismes de tresse en font partie. La parenté des Groupes de Transvections avec les groupes classiques et évidente et elle l'est encore plus si l'on considère aussi les groupes engendrés par les rotations - une rotation est le produit d'une transvection et d'une d'une permutation - car on élargit la famille aux groupes d'automorphismes des surfaces non orientables qui sont l'analogue des groupes orthogonaux (le cas orientable étant l'analogue des groupes symplectiques). C'est ce qui nous a amené à considérer la sous famille des groupes préclassiques qui est grosso modo celle des stabilisateurs d'ensembles de mots quadratiques du groupe libre et de leur groupes quotients. Les principales questions suscitées par ces groupes sont celles de leur présentation, de leur linéarité, de leur automaticité ou biautomaticité. Ce domaine d'investigation appartient essentiellement à la théorie combinatoire des groupes dans son aspect classique de combinatoire des mots, mais avec des liens importants avec la géométrie, essentiellement la topologie géométrique, dont les méthodes et les résultats ont toujours eu un énorme impact depuis Dehn, Whitehead, Artin, Magnus, Lyndon et beaucoup d'autres, sur la théorie combinatoire des groupes. Leurs “traductions” dans un langage algébrique approprié, que l'on peut considérer comme des problèmes “d'effectivité”, offrent un énorme champ d'investigation et ne sont pas du tout un travail évident, que l'on songe par exemple au 40 années environ qu'il a fallu pour traduire correctement un lemme de Whitehead de 1936 en “lemme de réduction des pics” (McCool 1974) et au 80 ans qu'il a fallu attendre avant de pouvoir rendre effectif le théorème de Dhen Nielsen (Piollet 1999).