` ` SOLUTIONS A DIVERS PROBLEMES DE DECISION DANS UN GROUPE HYPERBOLIQUE Jean-Philippe PREAUX1

arXiv:math.GR/0702117v1 5 Feb 2007

Resum. Nous tablissons des solutions algorithmiques ` divers probl`mes de dcision e e a e e dans un groupe hyperbolique au sens de Gromov.

Introduction Nous tablissons divers algorithmes dans un groupe hyperbolique G : dterminer e e le centre de G, ses lments de torsion, les racines dun lment dordre inni, son ee ee centralisateur, le centralisateur dun sous-groupe de type ni, maximalit et malnore malit de sous-groupes cycliques innis, solution au probl`me du mot gnralis dun e e e e e sous-groupe virtuellement Z, etc... Notre tude est enti`rement base sur une poigne de proprits lmentaires de e e e e e e ee lhyperbolicit : dune part deux proprits concernant les quasigodsiques dans un e ee e e espace hyperbolique (stabilit des quasigodsiques de longueur innie et godsicit e e e e e e locale implique quasigodsicit globale) et dautre part une solution au probl`me du e e e e mot et de la conjugaison dans un groupe hyperbolique. 1. Rappels sur les groupes hyperboliques Il existe de multiples faons de dnir la notion de groupe et despace hyperboc e lique au sens de Gromov (cf. [Gr], [CDP], [GdlH], [GHVS]). Nous utilisons lapproche caractrisant lhyperbolicit par la proprit dite des triangles ns. Nous nous rese e ee treindrons dans la suite ` des groupes de type ni. Soit G un groupe de type ni, et a S une famille gnratrice nie pour G. Nous notons S le mono libre sur S. Un e e de lment de S est appel un un mot sur S, i.e. s1 si sn , avec n 0 ee e et pour tout i = 1 n, si S S 1 ; il reprsente un lment de G. Nous notons e ee lgrS (), la longueur du mot , cest ` dire lentier n. Soit g un lment de G. On a ee dnit lentier |g| par, e |g| = inf {lgrS ()| est un mot reprsentant g} e Clairement cette borne est atteinte, cest ` dire quil existe un mot de longueur |g|, a reprsentant g (en gnral non unique). Nous dnissons alors une distance sur G, e e e e appele mtrique du mot, en posant pour tout g1 , g2 G, e e
1 dS (g1 , g2) = |g1 g2 |

Centre de recherche de lArme de lAir, Ecole de lair, F-13661 Salon de Provence air e Centre de Mathmatiques et dinformatique, Universit de Provence, 39 rue F.Joliot-Curie, Fe e 13453 marseille cedex 13 E-mail : preaux@cmi.univ-mrs.fr Mathematical subject classication : 20F67, 20F10
2

` ` frenchSOLUTIONS A DIVERS PROBLEMES DE DECISION DANS UN GROUPE HYPERBOLIQUE 2

Cette mtrique dpend de la famille gnratrice S considre. Cependant lorsquune e e e e ee famille gnratrice S sera suppos xe, nous aurons coutume de noter lgr et d au e e e e lieu de lgrS et dS et commettrons labus de langage consistant ` noter || pour un a mot . Plus gnralement, donn un mot, nous le confondrons souvent avec llment e e e ee quil reprsente dans le groupe. e Donn un groupe G un groupe muni dune famille gnratrice nie S, on dnit un e e e e graphe connexe, orient et localement ni, appel le graphe de Cayley, not (G, S), e e e de la faon suivante : c Les sommets de (G, S) sont en bijection avec les lments de G. Si g G, on note ee g le sommet de (G, S) lui correspondant. e e Il existe une arte ayant pour origine g1 et pour extrmit g2 , lorsque il existe e 1 s S S tel que g2 = g1 .s dans G. On munit alors cette arte du label s. e Un chemin a naturellement pour label un mot sur S obtenu par concatnation e des labels des artes successives le composant. Il existe dans (G, S) un chemin de e label du sommet g1 au sommet g2 si et seulement si g2 = g1 w dans G. On munit (G, S) de la mtrique simpliciale en assignant ` chaque arte la longueur e a e 1. Cela fait de (G, S) un espace mtrique godsique propre. Lensemble de ses e e e sommets muni de la mtrique induite est isomtrique ` (G, dS ). Si un chemin ayant e e a pour label est une godsique, on dira que est un mot godsique. e e e e Pour tout g G on pose, si h est un sommet de (G, S), g.h = gh, et si est larte de label s entre h1 et h2 , g. est larte de label s entre g.h1 et g.h2 . Cel` e e a dnit une action ` gauche de G sur (G, S) ; elle seectue par isomtrie. e a e Soit E un espace mtrique godsique. Nous appelons triangle godsique [x, y, z], e e e e e la donne de 3 points distincts x, y, z de E, et de godsiques les reliant deux ` deux, e e e a [x, y], [y, z], [x, z]. Etant donn un triangle godsique [x, y, z] de E, il est possible e e e de le plonger isomtriquement dans un triangle [A, B, C] de lespace euclidien 2e dimensionnel. Appelons lisomtrie : [x, y, z] [A, B, C], telle que (x) = e A, (y) = B, (z) = C.

Fig. 1. Le tripde et lapplication . o Notons I le centre du cercle inscrit dans [A, B, C], et a, b, c ses points de contact (voir la gure 1). Considrons le tripde constitu des segments [A, I], [B, I], [C, I]. e o e On construit lapplication continue de [A, B, C] dans de la faon suivante : la c restriction de sur [A, c] est lunique application ane qui prserve A, et qui envoie c e sur I. On dnit de faon similaire sur [A, b], [C, b], [C, a], [B, a], [B, c] ; cel` dnit e c a e

` ` frenchSOLUTIONS A DIVERS PROBLEMES DE DECISION DANS UN GROUPE HYPERBOLIQUE 3

sur [x, y, z]. Remarquons que est bijective sur A, B, C, la pr-image de I est e {a, b, c}, et que tout autre point admet deux pr-images. On construit ainsi lapplicae tion de [x, y, z], qui est unique, ` composition par une isomtrie du plan pr`s. a e e Soit R+ ; nous dirons que E est -hyperbolique, si pour tout triangle godsique, e e et pour tout point m (o` est obtenu par cette construction), le diam`tre de u e 1 ( ) (m) dans E est major par . Nous dirons que E est hyperbolique si il existe e R+ , tel que E soit -hyperbolique. Un groupe de type ni G, muni dune famille gnratrice S sera dit -hyperbolique e e si son graphe de Cayley (G, S) est -hyperbolique. Cette dnition dpend du choix e e de S. Nanmoins, si S est une autre famille gnratrice nie pour G, et si (G, S) e e e est -hyperbolique, alors (G, S ) est -hyperbolique pour un certain (en fait ` a dfaut dtre isomtrique ils sont quasi-isomtriques, cf. [CDP]). Nous dirons quun e e e e groupe est hyperbolique si pour une (toute) famille gnratrice S nie, il existe un e e rel positif tel que (G, S) soit -hyperbolique. Ainsi tre hyperbolique ne dpend e e e pas du choix dune famille gnratrice nie. e e

Fig. 2. Foliation dun triangle godsique dans le graphe de Cayley. e e Considrons un groupe -hyperbolique G, et (G, S) son graphe de Cayley pour e cette famille gnratrice. Soit [x, y, z] un triangle godsique dans (G, S). Soit le e e e e tripde et lapplication comme dnis plus haut. Par dnition, si u, v sont o e e deux sommets dans [x, y, z], ayant mme image par , alors ils sont relis dans e e (G, S) par un chemin de longueur au plus . La donne dun chemin godsique e e e pour tout couple de sommet de [x, y, z] ayant mme image par , sappelle une e foliation de [x, y, z]. Dans la suite on se donne un groupe G hyperbolique, S une famille gnratrice e e nie et = (G, S) son graphe de Cayley. Soit un chemin (ni ou inni) dans et soient des rels l 1, 0. Nous dirons e que est une (l, )-quasigodsique, si pour tout sous-chemin de , si u est le label e e de , alors, lgr(u) l|u| + Un chemin sera dit quasigodsique si cest une (l, )-quasigodsique, pour l 1, e e e e 0. Nous appelerons quasigodsique (resp. bi-)innie, ou rayon quasigodsique, un e e e e chemin (resp. bi-)inni qui est une quasigodsique. e e Il est possible de dnir le bord dun espace hyperbolique ([CDP]). Succinctement e ici, le bord de peut tre vu comme lensemble des classes dquivalence de e e rayons quasigodsiques par la relation rester ` distance de Hausdor borne. On dira e e a e

` ` frenchSOLUTIONS A DIVERS PROBLEMES DE DECISION DANS UN GROUPE HYPERBOLIQUE 4

quune suite de sommets (sn )nN de converge vers si un chemin constitu e des godsiques successives [sn , sn+1] reste ` distance de Hausdor born dun rayon e e a e quasigodsique dans la classe de . Laction de G sur stend naturellement ` e e e a . On peut tablir que pour tout couple de points p, q il existe une godsique e e e bi-innie (en gnral non unique) abusivement note [p, q] ayant p, q comme points e e e limites dans . Nous ferons un usage exclusif et intensif des faits admis qui suivent ; les deux premiers constituent le lemme 10.6.5 et le thor`me 3.3.1 de [CDP] : e e Lemme 1.1. Soit G un groupe hyperbolique ; si g G est dordre inni alors le chemin bi-inni H = nZ hn .[1, h] est une quasigodsique. Il dnit deux points e e e limites g et g + dans . Lemme 1.2. Soit G un groupe -hyperbolique et des rels l 1, 0. Il existe e une constante calculable k > 0 ne dpendant que de , l, , telle que toute (l, )e quasigodsique bi-innie ayant pour points limites h et h+ dans reste ` distance e e a + de Hausdor au plus k de toute godsique [h , h ]. e e

Fig. 3. La (l, )-quasi-godsique H ; elle admet deux points limites e e + h , h dans (G, S), et reste ` distance de Hausdor au plus k de a toute godsique [h , h+ ], o` k ne dpend que de , l, . e e u e Soit C N ; un chemin dans sera appel une C-godsique locale si tout souse e e chemin de de longueur au plus C est une godsique. Le lemme suivante est une e e consquence immdiate du thor`me III.1.4 de [CDP] (quasi-godsit locale implique e e e e e e e quasi-godsit globale). e e e Lemme 1.3. Soit G un groupe muni de la famille gnratrice nie S, de faon ` e e c a ce que (G, dS ) soit -hyperbolique. Il existe des constantes calculables, C > 0, l 1, 0, telles que tout C-godsique locale est une (l, )-quasigodsique. e e e e Enn, nous ferons un usage intensif des solutions aux probl`mes du mot et de la e conjugaison dans un groupe hyperbolique, et en particulier de lalgorithme, dit de Dehn, de rduction monotone dun mot en mot godsique (cf. [CDP]). e e e Thor`me 1.1. Dans un groupe hyperbolique G : e e (i) On dispose dun algorithme nommment l algorithme de Dehn qui donn un e e mot reprsentant un lment de G retourne un mot godsique reprsentant le e ee e e e mme lment de G. En particulier le probl`me du mot est rsoluble dans G. e ee e e (ii) Le probl`me de conjugaison est rsoluble dans G. e e

` ` frenchSOLUTIONS A DIVERS PROBLEMES DE DECISION DANS UN GROUPE HYPERBOLIQUE 5

e 2. Propriet prliminaire e Nous commenons par dmontrer une proprit des groupes hyperboliques. Elle c e ee nous sera utile tout au long de ce travail. Proposition 2.1. Soient G un groupe hyperbolique et h G un lment dordre ee + + inni ; il dnit h , h . Le stabilisateur de {h , h } contient < h > comme e sous-groupe dindice ni. Si de plus il existe a G et p, q Z, tels que hq = ahp a1 dans G alors p = q et si a est dordre inni p = q ; < a >G est une extension nie dun sous-groupe de < h >G . Dmonstration On se place dans le graphe de Cayley = (G, S), pour S une e famille gnratrice nie. On suppose que pour cette famille G est -hyperbolique. e e Notons [1, h], un chemin godsique entre 1 et h, et considrons le chemin inni H e e e n dni par H = nZ h .[1, h]. Remarquons que les sommets hn sont dans H. Puisque e h est sans torsion, avec le lemme 10.6.5 de [CDP], H est une (l, )-quasigodsique, e e avec l, ne dpendant que de h. Ainsi H admet deux points limites h et h+ , et si e nous notons [h , h+ ] une godsique de h ` h+ , alors [h , h+ ] est dans le K-voisinage e e a de H, avec K calculable ne dpendant que de l, et (thor`me 3.3.1 de [CDP]). e e e Nous utiliserons le lemme suivant : Lemme 2.1. Soient G un groupe -hyperbolique, et h G tel que H = nZ hn .[1, h] soit une (l, )-quasigodsique de (G). Il existe une constante calculable K > 0 ne e e dpendant que de , l, tel que toute classe ` gauche de Stab(h , h+ ) modulo < h > e a admet un reprsentant dans G de longueur au plus K. e Dmonstration du lemme 2.1. Soit g Stab(h , h+ ) ; g.H est une (l, )-quasigodsique e e e + ayant h , h comme point limite dans . Comme nous lavons vu plus haut g.H et H sont ` distance de Hausdor au plus 2K(, l, ), avec K calculable, et donc il existe a un mot g de longueur au plus 2K + lgr(h) tel que g = hn g . Ce dernier lemme montre que Stab(h , h+ ) a un nombre ni de classes ` gauche a modulo < h >, i.e. Stab(h , h+ ) contient < h > comme sous-groupe dindice ni. Supposons dans la suite quil existe a G comme dans lnonc. Le calcul montre e e que pour tout n Z, n n hq = an hp an Pour n Z, considrons Hn = an .H, image de H sous laction de an G. e Puisque G agit par isomtrie, pour tout n, Hn est une (l, )-quasigodsique. Puisque e e e n n hq = an hp an dans G, les quasi-godsiques H et Hn restent ` une distance borne e e a e (dpendant de p, q, n, |a|, |h|). Avec le corollaire 2.1.3 de [CDP], Hn a alors pour e points limites h et h+ , et avec le thor`me 3.3.1 de [CDP], pour tout n, [h , h+ ] est e e dans le K-voisinage de Hn . Considrons un point x de [h , h+ ]. Pour tout n Z, il existe un chemin de x ` un e a point de Hn , de longueur au plus K ; et donc pour tout n, il existe un entier i, et un a e e chemin de x ` an hi , de longueur au plus K + |h|. Ainsi la boule ferme centre en x n hi , pour un de rayon K + |h|, contient pour tout entier n, un sommet de la forme a certain i Z. Puisque le graphe est localement ni, une boule contient un nombre

` ` frenchSOLUTIONS A DIVERS PROBLEMES DE DECISION DANS UN GROUPE HYPERBOLIQUE 6

ni de sommets. Ainsi, il existe n, m, i, j, avec n = m, tels que an hi = am hj dans G. Et donc, il existe r Z , s Z, tels que ar = hs Ainsi dune part < a > est clairement une extension nie de < hs >, et dautre part ar et h commutent, et donc, hp = ar hp ar = hq
r r r

ce qui, puisque h est dordre inni, nest possible que si p = q. De plus hqs = ahps a1 = arp = hps et donc ps = qs. Si a est dordre inni alors s = 0 et ncessairement p = q. e Corollaire 2.1. Soit G un groupe hyperbolique et h G un lment dordre inni. Le ee centralisateur et le normalisateur de < h > contiennent < h > comme sous-groupe dindice ni. Corollaire 2.2. Un groupe hyperbolique ne contient pas de groupe de BaumslagSolitar comme sous-groupe. Corollaire 2.3. Dans un groupe hyperbolique un lment dordre inni a une strucee ture de racines presque triviale. En particulier, un groupe hyperbolique sans torsion a une structure de racines triviale. Corollaire 2.4. Soient G un groupe hyperbolique et K un sous-groupe qui nest pas de torsion. Le centralisateur ZG (K) de K est virtuellement cyclique. Si ZG (K) est virtuellement Z alors K est aussi virtuellement Z. Dmonstration. Puisque K nest pas de torsion il contient un lment k dordre inni. e ee ZG (K) est contenu dans ZG (k) qui avec le corollaire 2.1 contient < k > comme sousgroupe dindice ni. Ainsi ZG (K) est virtuellement cyclique, et inni si et seulement si ZG (K) < k >= {1}. Dans ce dernier cas, il existe p = 0 tel que pour tout u K, uk p u1 = k p , et en particulier K Stab(k , k + ) ; avec la proposition 2.1, K doit tre e virtuellement cyclique inni. Remarquer que K peut tre virtuellement Z sans que ZG (K) le soit (considrer e e G = K = Z2 Z2 ). Corollaire 2.5. Soit G un groupe hyperbolique qui nest pas de torsion et Z(G) son centre. Alors soit : G est lmentaire, Z(G) est virtuellement cyclique, ee G nest pas lmentaire, Z(G) est ni, ee G nest pas lmentaire et est sans torsion, Z(G) est trivial. ee 3. Procdures de rduction cyclique e e On la vu : si h est un lment sans torsion de G hyperbolique, alors le chemin ee bi-inni H = nZ hn .[1, h] est une (l, )-quasigodsique. Peut-on, donn un mot e e e sur les gnrateurs reprsentant h, dterminer algorithmiquement les param`tres l, e e e e e

` ` frenchSOLUTIONS A DIVERS PROBLEMES DE DECISION DANS UN GROUPE HYPERBOLIQUE 7

de quasigodsit de H ? Lapproche que nous emploierons sera inverse. Donn un e e e e lment h sans torsion, nous le transformerons en un lment h sans torsion tel que ee ee (h )n .[1, h ] soit une (l, )-quasigodsique pour l, connus, et tel que h vrie e e e nZ une proprit P recherche, si et seulement si h vrie une proprit P analogue. ee e e ee Nous introduirons pour cela la notion de mot C-rduit. e Dnition. Considrons un groupe G hyperbolique pour une famille gnratrice e e e e S donne. Soit C > 0 une constante. Un mot sur S S 1 sera dit C-rduit si e e lgr() > C et si et tous ses conjugus cycliques sont des mots godsiques. e e e Donns les constantes calculables C, l, provenant du lemme 1.3, si est un mot e C-rduit alors le chemin inni W = nZ n .[1, ] de (G, S) est une (l, )-quasie godsique ; en particulier, reprsente un lment sans torsion de G. e e e ee Considrons un groupe G, -hyperbolique, muni de la famille gnratrice nie S. e e e Fixons durant la n de cette section, la constante C provenant du lemme 1.3. Nous dcrivons maintenant la procdure permettant donn un mot sur S S 1 reprsentant e e e e un lment h sans torsion de G, de lui associer un mot C-rduit reprsentant un ee e e conjugu dune puissance de h. e Procdure de C-rduction : Donn un mot sur S S 1 reprsentant un lment e e e e ee non trivial h G, la procdure de C-rduction retourne, d`s-lors que h est dordre e e e inni, un 3-uplet (h1 , u, n) S S N tel que h1 est un mot C-rduit et h1 = uhn u1 e dans G. Initialement on applique ltape 1 au 3-uplet (, 1, 1) (S , S , N). e Etape 1 : Donn (, u, n) on applique dabord lalgorithme de Dehn pour transformer e en un mot godsique. Un conjugu cyclique de peut ne pas tre godsique ; par e e e e e e exemple a b et il existe un mot godsique 1 , tel que e e b a = 1 et lgr(1 ) < lgr(b a ) = lgr(b ) + lgr(a ) = lgr() On applique lalgorithme de Dehn ` tous les conjugus cycliques de pour en dcider a e e et le cas chant dterminer 1 comme ci-dessus ; il reprsente dans G le conjugu e e e e e 1 de par a . On applique la mme procdure ` 1 , pour obtenir ventuellement e e a e 2 , et ainsi de suite. Puisque la longueur des mots diminue strictement, la procdure e sarrte, et on obtient un mot 0 non vide, et un mot v, tels que tous les conjugus e e 1 cycliques de 0 soient godsiques, et tels que 0 = vv dans G. Si 0 est de e e longueur au moins C, la procdure sarrte et retourne (0 , vu, n), sinon on applique e e ltape 2 ` (w0 , vu, n). e a Etape 2 : Donn (, u, n0) o` est un mot de longueur infrieure ` C, on consid`re e u e a e les puissances successives de et on applique lalgorithme de Dehn pour les transformer en mots godsiques jusqu` trouver un entier n tel que dans G, |w n | C. Si h e e a est dordre inni la procdure sarrte (car la boule de rayon C contient un nombre e e ni dlments) et on applique alors ltape 1 ` ( n , u, nn0 ) ; sinon on nit par trouver ee e a n tel que n = 1 dans G. Dans le cas o` nous traiterons avec deux lments h, h , nous aurons besoin de u ee raner la procdure de C-rduction. e e dans G

` ` frenchSOLUTIONS A DIVERS PROBLEMES DE DECISION DANS UN GROUPE HYPERBOLIQUE 8

Procdure de C-rductions jumeles : Donns deux mots h, h reprsentant des e e e e e lments dordre inni de G, la procdure retourne deux mots C-rduits h1 , h1 , ee e e u, u G et un entier n N tels que h1 et h1 soient conjugus respectivement e ` hn par u et ` h n par u. Pour cel` on adapte la procdure de C-rduction de faon a a a e e c ` lappliquer ` deux 3-uplets (h, u, n) et (h , u , n ) de S S N simultanment, de a a e la faon suivante : c On se donne initialement les deux 3-uplets (h, 1, 1) et (h , 1, 1) de S S N, auxquels on applique ltape 1. e Etape 1 : Il sagit de ltape 1 de lalgorithme de C-rduction appliqu en parall`le e e e e ` deux 3-uplets (h, u, n) et (h , u, n ). A la n de cette tape, on retourne un rsultat a e e seulement si lon obtient des reprsentants C-rduits des classes de conjugaison et de e e h et de h et sinon on passe ` ltape 2. a e Etape 2 : Cest ltape 2 de lalgorithme de C-rduction appliqu simultanment e e e e aux deux 3-uplets (h, u, n) et (h , u, n ), et ce jusqu` dterminer un N N , tel que a e ` la fois |hN | C et |h N | C ; on passe alors ` ltape 1. a a e Le mme argument que dans de le cas de la C-rduction montre que la procdure e e e sarrte. e

4. Les algorithmes Maintenant que nous avons dni les notions dlment C-rduit et de procdure e ee e e de C-rduction nous allons apporter des solutions ` divers probl`mes algorithmiques e a e dans les groupes hyperboliques. Nous utiliserons de faon systmatique les solutions c e aux probl`mes du mot et de la conjugaison. Nous considrons dans la suite un groupe e e G muni dune famille gnratrice nie S avec (G, dS ) -hyperbolique et nous xons e e les constantes C, l, , provenant du lemme 1.3. 4.1. Dterminer la torsion. Comme consquence directe du paragraphe prcdent, e e e e on obtient : Thor`me 4.1 (Dterminer la torsion). Un groupe hyperbolique G contient un e e e nombre ni de classes de conjugaison dlments de torsion. ee Donn un mot sur les gnrateurs on peut dcider algorithmiquement sil reprsente e e e e e ou non un lment de torsion de G. ee On peut algorithmiquement se donner un reprsentant de chaque classe de conjue gaison dlment de torsion. ee Dmonstration. Pour dcider si un mot reprsente un lment de torsion il sut de e e e ee lui appliquer la procdure de C-rduction. On nira par trouver soit un conjugu e e e C-rduit (et donc dordre inni) soit son ordre (ni). e Tout lment de torsion a un conjugu dans la boule centre en 1 de rayon C. ee e e Cette derni`re ne contient quun nombre ni dlments. Ainsi dune part G contient e ee un nombre ni de classes de conjugaison dlments de torsion, et dautre part, en ee dcidant pour chaque lment de B(1, C) sil est dordre inni on dtermine un e ee e reprsentant pour chaque classe de conjugaison dlments de torsion. e ee

` ` frenchSOLUTIONS A DIVERS PROBLEMES DE DECISION DANS UN GROUPE HYPERBOLIQUE 9

4.2. Sous-groupes cycliques et probl`me du mot gnralis. e e e e Lemme 4.1. Soit G un groupe -hyperbolique, muni de la famille gnratrice nie, e e S. Soient 1, 0, et C comme dans le lemme 1.3. Soient h et deux mots sur S, C-rduits. Si est conjugu dans G ` hn , alors il existe une constante calculable e e a L = L(, , l, ||, |h|), tel que n L. Dmonstration On se place dans le graphe de Cayley. On note [1, h] le chemin e godsique de label h, et H le chemin bi-inni : e e H=
nZ

hn .[1, h]

Puisque h est C-rduit, avec le lemme 1.3, H est une (l, )-quasigodsique de (G, S). e e e Avec le thor`me III.3.1 de [CDP], (thor`me de stabilit des quasi-godsiques e e e e e e e de longueur innie), H a exactement deux points daccumulation, h et h+ dans (G, S), et il existe une constante calculable k, ne dpendant que de , l, , telle e que H est dans un k-voisinage de toute godsique joignant h ` h+ , et inversement, e e a toute godsique joignant h ` h+ est dans le k-voisinage de H. e e a Notons [1, ], le chemin godsique de label . Supposons que hn = uu1 dans G. e e Puisque est C-rduit, et que G agit par isomtrie sur (G, S), le chemin bi-inni, e e W = u.(
nZ

n .[1, ])

est une (l, )-quasi-godsique, et a donc deux points daccumulation dans (G, S). e e Maintenant, puisque hn = uu1, H et W restent ` distance de Hausdor borne. a e Avec le corollaire II.1.3 de [CDP], W a donc h et h+ comme points daccumulation. Considrons maintenant, [h , h+ ], une godsique reliant h et h+ . Avec ce qui e e e prc`de, H est dans le k-voisinage de [h , h+ ] qui est elle-mme dans le k-voisinage e e e de W . Ainsi il existe un chemin reliant 1 ` un point de W, de longueur infrieure ` a e a

Fig. 4. 2k (cf. gure 4). Notons v le label de ce chemin. Alors, il existe p Z, tel que dans G, v = u p i

` ` frenchSOLUTIONS A DIVERS PROBLEMES DE DECISION DANS UN GROUPE HYPERBOLIQUE 10

1 o` i est un sous-mot initial de , i.e. i .t . Ainsi, u = vi p , et puisque u hn = uu1, 1 hn = vi p pi v 1 1 1 = (vi )(vi )1

= v v

1 On obtient donc un lment v = vi de longueur majore par 2k + |w|, qui ee e conjugue en hn . Maintenant, puisque H est une (l, )-quasi-godsique, e e

lgr(hn ) l|hn | + nlgr(h) l(4k + 3||) + 1 (l(4k + 3||) + ) n lgr(h) et ainsi, n est major par une constante L, ne dpendant que de , l, , ||, |h|. e e Thor`me 4.2 (Probl`me du mot gnralis ` conjugaison pr`s de Z dans G). Soit e e e e e ea e G un groupe hyperbolique, et h G un lment dordre inni. Donn un lment ee e ee G, on peut dcider si est conjugu dans G ` un lment de < h >. De plus, si e e a ee cest le cas, est conjugu ` au plus deux lments (resp. un lment si G est sans ea ee ee torsion) de < h >. Dmonstration. On consid`re une famille gnratrice S pour laquelle (G, dS ) soit e e e e hyperbolique. On suppose h et donns par des mots sur S. On xe l 1 et 0, e et C donns par le lemme 1.3. Si les mots h et sont C-rduits, alors le lemme e e 4.1 nous donne une borne calculable L, ne dpendant que de , l, , ||, |h|, telle que e si est conjugu ` hn , pour n Z, alors |n| L. On utilise ensuite lalgorithme e a de la conjugaison pour dcider si est conjugu ` hp , pour tout entier p vriant e e a e L p L. On dtermine ainsi tous les lments p Z, tels que soit conjugu ` e ee ea p h (avec la proposition 2.1, il y en a au plus deux, un seul si G na pas de torsion). Si h ou ne sont pas C-rduits, alors on leur applique la procdure de C-rduction e e e jumele, dune part, et dautre part, on utilise lalgorithme du mot pour tester si une e puissance de reprsente lidentit de G. Si est de torsion, cet algorithme nit e e par le dterminer, et ne peut dnitivement pas tre conjugu ` une puissance non e e e ea triviale de h. Sinon, on nit par obtenir les mots h1 , 1 C-rduits, conjugus respectifs e e N N de h et pour un certain N. Si est conjugu ` hn , alors 1 est conjugu ` hn . En utilisant le lemme 4.1, on ea ea 1 dtermine au plus deux lments n Z tel que 1 soit conjugu ` hn . Il sut pour e ee ea 1 conclure dutiliser lalgorithme de la conjugaison, pour dcider si est conjugu ` hn e ea pour un tel n. Thor`me 4.3 (Probl`me du mot gnralis de Z dans G). Soient G un e e e e e e groupe hyperbolique, et h G un lment dordre inni. Donn G on peut ee e dcider si < h >. e Dmonstration. Appliquer lalgorithme du mot, pour dcider si est gal ` un des e e e a lments de < h > qui lui sont conjugus, fournis par lalgorithme du thor`me 4.2. ee e e e

` ` frenchSOLUTIONS A DIVERS PROBLEMES DE DECISION DANS UN GROUPE HYPERBOLIQUE 11

Thor`me 4.4 (Probl`me du mot gnralis dun sous-groupe virtuellement Z). Soit e e e e e e G un groupe hyperbolique et H un sous-groupe virtuellement Z de G. Le probl`me du e mot gnralis de H dans G est rsoluble. e e e e Dmonstration. Supposons que H = H0 h1 H0 hn H0 avec H0 cyclique inni ; e pour dcider si H il sut de dcider avec lalgorithme du thor`me 4.3 si , ou e e e e h1 , ..., ou h1 est dans H0 . 1 n 4.3. Malnormalit de sous-groupes cycliques innis. e Lemme 4.2. Soit G un groupe -hyperbolique, muni dune famille gnratrice nie e e S. Soient l 1, 0, et C la constante dont lexistence provient du lemme 1.3. Soient h1 et h2 des mots sur S, C-rduits, et u et v des lments de G. e ee n1 n2 Supposons quil existe n1 , n2 Z tels que u = h1 vh2 dans G. Alors il existe une constante calculable K > 0, ne dpendant que de , l, , |u|, |v|, |h1|, |h2 | et du cardinal e de S, et deux entiers m1 , m2 avec |m1 | < K ,|m2 | < K, tels que u = hm1 vhm2 dans 1 2 G. Dmonstration. On se place dans le graphe de Cayley (G, S), et on suppose que e u = hn1 vhn2 . Notons [1, h1 ], et [1, h2 ] les chemins godsiques de labels respectifs e e 1 2 h1 , h2 . On note H1 = [1, h1 ] h1 .[1, h1 ] hn1 1 .[1, h1 ] 1
1n H2 = [1, h1 ] h1 .[1, h1 ] h2 2 .[1, h1 ] 2 2 2 2 Puisque h1 et h2 sont des mots C-rduits, avec le lemme 1.3, ce sont des chemins e (l, )-quasigodsiques de longueur nie. Puisque G agit par isomtrie sur (G, S), le e e e chemin u.H1 est aussi une (l, )-quasi-godsique. e e

Fig. 5. Avec le thor`me de stabilit des quasi-godsiques de longueur nie (thor`me e e e e e e e III.1.3 de [CDP], il existe une constante calculable k ne dpendant que de , l, , telle e a 1 que u.H1 , est dans le k-voisinage de toute godsique joignant u ` uhn1 . e e n Considrons un quadrilat`re godsique Q, de sommets 1, u, uhn1 , h2 2 . Soit 0 e e e e 1 n n1 , et notons Hn le point uhn . Il existe un chemin de Hn ` la godsique a e e 1 n1 1 [u, uh1 ]. Appelons Hn son extrmit. En considrant une godsique de 1 ` uhn1 , e e e e e a 1 puis une foliation des deux triangles godsiques obtenus ` partir de Q et de cette e e a

` ` frenchSOLUTIONS A DIVERS PROBLEMES DE DECISION DANS UN GROUPE HYPERBOLIQUE 12

n 1 e godsique, on peut construire un chemin reliant Hn ` [1, h2 2 ], de longueur infrieure e e a 2 ` k1 = 3 +max{|u|, |v|}. Appelons Hn son extrmit. Puisque H2 est une (l, )-quasia e e godsique, avec le thor`me de stabilit des quasi-godsiques de longueur nie, il e e e e e e e 2 existe un chemin de Hn ` H2 , de longueur infrieure ` k. Ainsi, on peut trouver a e a m 2 e a 0 m n2 , et un chemin de Hn ` h2 , de longueur infrieure ` k + |h2 |. Et a nalement, pour tout n, 0 n n1 , On peut trouver un chemin de Hn ` hm de a 2 longueur majore par K1 = 2k + 3 + max{|u|, |v|} + |h2 | (cf. gure 5). e Il existe au plus card(S)K1 lments de G pouvant scrire en un mot de longueur ee e K1 au plus K. Supposons que n1 > card(S) . Alors il existe c G, 0 < r < n1 , et s Z n tels que hr = chs c1 dans G. Ainsi u = h1 1 r vhn2 +s , avec n1 r < n1 (cf. gure 6). 1 2 2 Ainsi on peut trouver m1 , m2 , avec m1 card(S)K1 , tels que u = hm1 vhm2 . 1 2 Il ne reste plus qu` majorer m2 (on ne peut pas utiliser un argument par symtrie, a e car lorsque n1 diminue n2 peut augmenter, et rciproquement). Le chemin [1, h1 ] e 2 1n2 1 e e h2 [1, h2 ] est une (l, )-quasi-godsique, ainsi,

lgr(hm2 ) l|hm2 | + 2 2 m2 |h2 | l(|u| + |v| + m1 |h1 |) + 1 m2 (l(|u| + |v| + m1 |h1 |) + ) |h2 |

Fig. 6. Ainsi m2 est major par une constante K2 ne dpendant que de , l, , |u|, |v|,|h1|, e e et |h2 |. Maintenant on pose K = max{card(S)K1 , K2 }. Thor`me 4.5. Soit G un groupe hyperbolique et soient h1 et h2 des lments de e e ee G dordre inni. Donns u, v G, on peut dcider si il existe n1 , n2 Z tels que e e u = hn1 vhn2 , et le cas chant donner un tel couple (n1 , n2 ) e e 1 2 Dmonstration. On se donne une famille gnratrice S telle que (G, dS ) soit -hyperbolique e e e ainsi que l 1, 0, et C comme dans le lemme 1.3. On se donne h1 , h2 , u, v par des mots sur S. Si h1 et h2 sont C-rduits, le lemme 4.2 nous donne une constante cale culable K, et on peut alors utiliser lalgorithme du mot pour dterminer, si il existe, e m1 deux entiers m1 , m2 , avec |m1 | < K, |m2 | < K, tels que u = h1 vhm2 . 2

` ` frenchSOLUTIONS A DIVERS PROBLEMES DE DECISION DANS UN GROUPE HYPERBOLIQUE 13

Si h1 ou h2 nest pas C-rduit, on applique le procd de C-rduction jumele ` e e e e e a h1 et h2 . On obtient des mots H1 , H2 , C-rduits, les mots a1 , a2 , et N N, tels que e H1 = a1 hN a1 et H2 = a2 hN a1 dans G. Alors, n1 = q1 N + r1 et n2 = q2 N + r2 , pour 1 1 2 2 q1 , q2 Z, et r1 , r2 {0, . . . , N 1}, et u = hn1 vhn2 1 2 = hq1 N +r1 vhq2 N +r2 2 1 uhr2 = (hN )q1 hr1 v(hN )q2 2 1 1 2 a1 uhr2 a1 = a1 (hN )q1 a1 a1 hr1 va1 a2 (hN )q2 a1 2 2 1 1 1 2 2 2 a1 uhr2 a1 = H1 q1 (a1 hr1 va1 )H2 q2 2 2 1 2

Pour 0 i < N, on pose Ui = a1 uhi a1 2 2 Vi = a1 hi va1 1 2 Ainsi il existe n1 , n2 Z , tels que u = hn1 vhn2 , si et seulement si il existe q1 , q2 Z, 1 2 et i, j {0, . . . , N 1} tels que Ui = h1 q1 Vj h2 q2 , ce dont on peut dcider puisque e {0, . . . , N 1} est ni, et que H1 , H2 sont C-rduits. e Lemme 4.3. Soit G un groupe -hyperbolique muni dune famille gnratrice S. e e Soient , et C comme dans le lemme 1.3, et soient h1 , h2 des mots sur S, C-rduits. e Si un lment non trivial de < h1 > est conjugu dans G ` un lment de < h2 >, ee e a ee alors il existe une constante L = L(, , l, |h1 |, |h2|), et n1 , n2 Z tels que |n1 | L, ea 2 |n2 | L, et hn1 est conjugu ` hn2 . 1 Dmonstration. Supposons quil existe u G, qui conjugue hp1 en hp2 . Notons [1, h1 ] e 1 2 et [1, h2 ] les chemins godsiques de labels respectifs h1 , h2 . Avec le lemme 1.3, puisque e e h1 , h2 sont C-rduits, les chemins bi-innis de (G, S), H1 = nZ hn .[1, h1 ], et H2 = e 1 n h2 .[1, h2 ] sont des (l, )-quasi-godsiques. Puisque u conjugue hp1 en hp2 , H1 e e 1 2 nZ et H2 sont ` distance de Hausdor borne, et donc avec le thor`me III.3.1, et le a e e e corollaire II.1.3 de [CDP], elles ont mme points daccumulation dans le bord du e graphe de Cayley, h et h+ . Avec le thor`me III.3.1 de [CDP] elles sont dans un e e 2k-voisinage lune de lautre, o` k ne dpend que de , l, . De la mme faon que dans u e e c la dmonstration du lemme 4.1, on peut alors trouver un lment v G de longueur e ee infrieure ` 2k + |h1 | + |h2 |, qui conjugue hp1 en hp2 . En appliquant le lemme 4.2 il e a 1 2 existe donc une constante L = L(, , l, |h1 |, |h2 |), et n1 , n2 Z tels que |n1 | L, |n2 | L, et hn1 est conjugu ` hn2 . ea 2 1 Thor`me 4.6 (Malnormalit dun sous-groupe cyclique inni). Soient G un groupe e e e hyperbolique et h un lment dordre inni de G. Il existe un algorithme permettant de ee dcider sil existe un lment de G < h > qui conjugue deux lments non triviaux e ee ee de < h >. En particulier on peut dcider si < h > est malnormal dans G. e Dmonstration. Commenons par remarquer, bien que cela ne soit pas ncessaire, e c e p q quavec la proposition 2.1, si a conjugue h en h , alors ncessairement p = q et e ar = hs . Supposons tout dabord que h soit C-rduit. Avec le lemme 4.3, on peut prendre e 0 < p L o` L est un entier calculable ne dpendant que de , l, , |h|. Reprenons la u e dmonstration du lemme 4.1. Si u conjugue hp en hq , alors il existe v qui conjugue e

` ` frenchSOLUTIONS A DIVERS PROBLEMES DE DECISION DANS UN GROUPE HYPERBOLIQUE 14

hp en hq vriant en outre |v | 2k + |h| (o` k ne dpend que de , l, ). De plus, e u e t u = v h , et ainsi, u < h > v < h >. Ainsi il sut dutiliser lalgorithme du mot pour dcider si hp = uhq u1, pour 0 < p L, p = q, et |u| 2k + |h|, et e lalgorithme du thor`me 4.3 pour dcider si u < h >, pour conclure. e e e Si h nest pas C-rduit, on le rduit en un lment C-rduit h = ahn a1 . Il est ais e e ee e e de vrier que sil existe un lment hors de < h >, qui conjugue deux lments non e ee ee triviaux de < h >, alors il existe un lment hors de < aha1 >< h > (de longueur ee borne), qui conjugue deux lments non triviaux de < h >. Rciproquement, sil e ee e existe un lment hors de < h > qui conjugue deux lments non triviaux de ee ee < h >, alors soit < aha1 >, soit il existe un lment hors de < h > conjuguant ee deux lments non triviaux de < h >. Ainsi il sut pour en dcider de combiner ee e lalgorithme du thor`me 4.3, ` une rsolution pour h . e e a e Thor`me 4.7 (Malnormalit dun famille nie de sous-groupe cycliques innis). e e e Soit G un groupe hyperbolique, et h1 , h2 G des lments dordre inni. On peut ee dcider si il existe un lment non trivial de < h1 > conjugu ` un lment de e ee e a ee < h2 >. En particulier, donne une famille nie de sous-groupes cycliques innis de e G, on peut dcider si cette famille est malnormale dans G. e Dmonstration. On se donne l 1, 0, et C comme dans le lemme 1.3. e Si h1 et h2 sont des mots C-rduits, le lemme 4.3 donne une constante calculable e L, telle que si un lment non trivial de < h1 > est conjugu ` un lment de h2 , il ee ea ee n1 existe n1 , n2 Z , tels que |n1 | < L, |n2 | < L, et h est conjugu ` hn2 . On peut ea alors utiliser lalgorithme de la conjugaison pour dcider si cest ou non le cas. e Si h1 ou h2 nest pas C-rduit. On applique le procd de C-rduction jumele, e e e e e pour obtenir les mots C-rduits H1 , H2 , conjugus respectifs de hN et hN pour un e e 1 2 certain N. Clairement, un lment non trivial de < h1 > est conjugu ` un lment ee ea ee de < h2 > si et seulement si un lment non trivial de < H1 > est conjugu ` un ee ea lment de < H2 >. On peut donc conclure. ee 4.4. Centre, racines, normalisateur et centralisateur. Thor`me 4.8 (Centralisateur et normalisateur dun sous-groupe cyclique inni). e e Soient G un groupe hyperbolique et h G un lment dordre inni. On peut algorithee miquement dterminer le centralisateur ZG (h) et le normalisateur NG (h) de < h >. e Plus prcisemment, ils contiennent tous deux < h > comme sous-groupe dindice ni e et lon peut algorithmiquement dterminer des reprsentants de leurs classes ` gauche e e a modulo < h >. Dmonstration. Dans la suite on note indiremment (h) pour le centralisateur et e e le normalisateur de < h >, largument tant identique dans les deux cas en prenant e soin de noter e = 1 lorsque (h) = ZG (h) et e = 1 lorsque (h) = NG (h). On se donne une famille gnratrice de G pour laquelle G est -hyperbolique, et les e e constantes C, l, et provenant du lemme 1.3. a) Si h est C-rduit. Clairement < h > (h) Stab(h , h+ ) ; avec le lemme e 2.1 il existe une constante calculable k = k(, l, ) tel que toute classe ` gauche de a + + Stab(h , h ) mod < h > a un reprsentant dans Stab(h , h ) de longueur au plus e k. On utilise lalgorithme du mot pour dcider si uhu1he = 1 pour chaque u G e dans la boule de rayon k. Cel` permet de dterminer u1 , . . . , up G qui avec h a e

` ` frenchSOLUTIONS A DIVERS PROBLEMES DE DECISION DANS UN GROUPE HYPERBOLIQUE 15

forment une famille gnratrice de (h). En utilisant une solution au probl`me du e e e mot gnralis de < h > (thor`me 4.3) on dtermine une famille 1, u1 , . . . , uq de e e e e e e reprsentants des classes ` gauche de (h) mod < h >. e a b) Si h nest pas C-rduit on applique la procdure de C-rduction pour obtenir e e e h1 C-rduit, n N , et a G tels que h1 = ahn a1 . On dtermine (h1 ) avec a) puis e e (hn ) = a1 (h1 )a. Cel` fournit des reprsentants 1, v1 , . . . , vr des classes ` gauche a e a de (hn ) mod < hn >, et on en dduit avec le thor`me 4.3 des reprsentants e e e e 1, v1 , . . . , vs des classes ` gauche de (hn ) mod < h >. Puisque < h > (h) a n (h ) il sut de dcider avec lalgorithme du mot pour i = 1, . . . , s si vi hvi he = 1 e pour obtenir les reprsentants 1, v1 , . . . , vt de (h) mod < h >. e Thor`me 4.9 (Racines dun lment dordre inni). Soit G un groupe hyperbolique e e ee et h G un lment dordre inni. On peut algorithmiquement dterminer toutes les ee e racines de h (leur nombre est ni, major par lindice de < h > dans Z(h)). e Dmonstration. Toutes les racines de h sont contenues dans Z(h). On dtermine des e e reprsentants 1, a1 , . . . , ar des classes ` gauche de Z(h) mod < h > avec lalgorithme e a du thor`me prcdent. Pour tout i = 1, . . . , r il existe pi N tel que an < h > si e e e e i n et seulement si pi divise n ; posons api = hqi . Soit ri = hxi ai Z(h) ; ri < h > si et i seulement si pi divise n. p ri i = (hxi ai )pi = hpi xi +qi Ainsi ri est une racine de h si et seulement si pi xi +qi = 1 cest ` dire si et seulement si a xi = (1 qi )/pi . Ainsi pour chaque i = 1, . . . , r, h admet une racine ri si et seulement si pi divise 1 qi . On utilise les algorithmes des thor`mes 4.1 et 4.3 avec lalgorithme e e du mot pour dterminer chacun des pi et qi . Cel` permet de dterminer toutes les e a e racines de h. Thor`me 4.10 (Maximalit dun sous-groupe cyclique inni). Soient G un groupe e e e hyperbolique et H un sous-groupe cyclique inni de G. On peut dcider si H est e maximal dans G. Dmonstration. On se donne un lment arbitraire de H que lon choisit non trivial ` e ee a laide de lalgorithme du mot. Il sut dappliquer lalgorithme du thor`me 4.9 pour e e dterminer toutes ses racines puis pour chacune dentre-elles lalgorithme de 4.3 pour e dcider si elle est dans H. e Thor`me 4.11 (Centralisateur dun sous-groupe de type ni qui nest pas de tore e sion). Soit G un groupe hyperbolique et K un sous-groupe de type ni qui nest pas de torsion. On peut algorithmiquement dterminer le centralisateur ZG (K) de K dans e G. Dmonstration. Soient k1 , . . . , kn des gnrateurs de K et k K un lment dordre e e e ee inni. Clairement ZG (K) ZG (k). On utilise lalgorithme du thor`me 4.8 pour e e dterminer des reprsentants 1, a1 , . . . , ar de ZG (k) mod < k >. On utilise lalgoe e rithme du thor`me 4.5 pour dterminer pour chaque i = 1, . . . , r tous les entiers n e e e tels que ai k n a1 = k n ; cel` permet de dterminer ZG (K) < k >. a e i Si ZG (K) < k >= {1} alors ZG (K) est ni. Chaque classe de ZG (k) mod < k > contient au plus un lment de torsion que lon dtermine aisment en trouvant pour ee e e chaque ai les entiers pi et qi dnis comme dans la preuve du thor`me 4.9. Il ne e e e

` ` frenchSOLUTIONS A DIVERS PROBLEMES DE DECISION DANS UN GROUPE HYPERBOLIQUE 16

reste alors qu` utiliser lalgorithme du mot pour dcider pour chacun dentre eux sil a e commute avec les gnrateurs de K. e e Si ZG (K) < K >=< k n > ; on dduit de a1 , . . . , ar des reprsentants 1, b1 , . . . , bs e e n des classes ` gauche de ZG (k) mod < k >. Etre dans ZG (K) ne dpend pas du a e reprsentant mod < k n > considr. Pour chaque bi on dcide avec lalgorithme e ee e du mot sil commute avec les gnrateurs de K ce qui permet de dterminer les e e e reprsentants 1, b1 , . . . , bt des classes ` gauche de ZG (K) mod < k n >. e a Corollaire 4.1 (Dterminer le centre). Soit G un groupe hyperbolique qui nest pas e de torsion. On peut algorithmiquement dterminer le centre de G. e Rfrences e e
[CDP] M.Coornaert, T.Delzant, and A.Papadopoulos, Gomtrie et thorie des groupes, les e e e groupes hyperboliques de Gromov, Lecture Notes in Mathematics 1441, Springer-Verlag, 1991. [GHVS] E.Ghys, A.Haefliger, A.Verjovsky, and H.Short, Notes on word hyperbolic groups in Group theory from a geometrical viewpoint, (H.Short ed.), World Scientic, 1991. [GdlH] E.Ghys and P.de la Harpe (ed.), Les groupes hyperboliques dapr`s Gromov, Progress in e Mathematics, Birkhuser, 1990. a [Gr] M.Gromov, Hyperbolic groups in Essays in group theory, MSRI Publications, Springer (1987), 75263.