Le calcul paralléle Les systémes de transitions sont des systémes formels permettant de décrire les comportements de systémes réels, comme par exemple les centraux téléphoniques. Ils sont particuli¢rement utiles lorsque des opérations s'effectuent simultanément, c’est-d-dire en paralléle. par G. Ruggiu, F. Boussinot, H. Alaiwan, Tran Van Khai intention de trois, philosophes, on a dressé une table ronde, avec trois assiettes; en face de chacune elles, on a disposé une chaise et entre deux assiettes est posée une fourchette oir la figure 1). Chaque philosophe Deut venir s'asseoir & Ia chaise qui lui est réservée et manger, & condition de disposer des deux fourchettes qui se ‘rouvent l'une & sa gauche et l'autre & sa droite, Un seul philosophe peut done manger 3 Ta fois. Aprés avoir mangé, tun philosophe doit remetire les four. chettes & leur place et quitter Ia table our réfgchir. Comment permettre aux shes de manger autant de fois iii vewest TImaginons que, successivement, les trois philosophes arrivent & table, s'as- seyent, prennent chacun leur fourchette de droite, avec Pespoir de manger. Il leur faut pour cela une seconde four- chette, mais aucune n'est. libre. Le systime est bloqué, car les éléments du systéme global (les. philosophes) ne peuvent poursuivre leur idée sans tenir compte les uns des autres. existe de nombreux systémes phy ques pouvant se bloquer, comme les philosophes ; c'est notamment le cas des Systdmes informatiques tels les centraux tléphoniques, dont le réle est de mettre des abonnés en communication. En fait, Ja métaphore du diner des philosophes, énoneé par M. Dijkstra, de l'Université @’Bindhoven, a permis de préviser Ia notion cle enignl et de mettre an paint tun cadre théorique pour étude des systémes. Ce cadre était indispensable pour éviter les pannes des systemes de Commande des fusées, par exemple, ou les défaillances des centraux télephoni- ques, qui sont des systémes exiréme- ment complexes consiruits & partir d'un cahier des charges établi,en France, par Je Centre national d'études des 1slé- ‘communications. Les études théoriques de la notion de calcul ont récemment permis de dépister dans ce cahier des charges des oublis conduisant & des erreurs de logique ou des blocages. Au Laboratoire central de recherches du ‘groupe Thomson, nous avons fondé 66 notre analyse sur la notion de calcul paralléle que nous allons tout d'abord Lexpression « calcul paralléle » évoque la possibilité d'exécuter simulta. nément plusieurs opérations dis afin d'effectuer un calcul. Considérons par exemple le probléme qui consiste & ealeuler le nombre (5 3) + (7 x 2) A aide d’une machine, par exemple un ordinateur. Cette machine peut ealculer @abord 5 X 3, puis 7 X-2 et ajouter enfin le résulist'des deux opérations, ‘mais on peut également calculer 'abord 7X 2, puis 5 X 3 et ajouter les deux its. Les, deux, programmes ainsi Sei ont givin ar Ue ces tuent Ie méme calcul ce sont des programmes séquentiels, car ils effec- tuent tous es ealculs les uns la suite des autres, Imaginons maintenant que ‘nous uiilisions une machine munie de deux systémes & faire des _multiplica- tions; Ia machine pourrait alors calculer simulisnément, en paralléle, les. pro- duits 5X3 et 7 x 2, avant de faire Ja somme des résultats ‘Ceest ainsi un nouveau type d'opéra- tion que Yon introduit ~ calculer en parallele ~ opération qui difere profon- ément de celles utilisées dans les deux programmes exposés précédemment, ui sont « séquentiels». Depuis 1960, certains ordinateurs, par exemple le célebre ordinateur Gamma 60, qui fut réalisé parla Société Bul, effectuent des taleste parables ;aajourho, ta plo part des machines &calcuer, des micro- Ordinateurs aux. supercalculateurs, effectuent ce type de calcul. Hiormis une rapidité de calcul supé- rieure, le type de parallélisme exposé & propos du caleul de (5 x 3) + (7 x 2) présente peu d'intérét : Je programme qui caleule en paraléle Ia. valeur de expression (a xb) +(e Xd) effectue Je méme caleul que ies deux premiers programmes séquentiels; ils calculent Ja méme fonction (celle qui associe aux quatre nombres a, b cd, la valeur de Vexpression (a Xb) + (¢’x d); on dit u's ont la méme sémantique, équiva- Tant & une sémantique séquentielle. Peut-on toujours ramener un pro- bleme paraléle & un probleme séquen- tiel Gquivalent ? De nombreux systemes montrent qu'il existe des sémantiques paralleesirréductibles: par exemple, les centraux téléphoniques, qui sont des ‘machines informatiques pilotées par des programmes et servent& faire communi quer les abonnés, fonctionnent en paral- Jele et rattendent pas, pour établir une communication entre deux abonnés, que Ja communication précédente, entre deux autres abonnés dja conneciés, soit achevée. Le parallélisme est inhérent & la tache : aucun programme séquentiel ne peut exécuter cette fonction ‘es. algorithmes, comme ceux par exemple qui permettent de calculer expression (a x 8) + (¢ X d), réalisent des calculs; méme les algori- thmes qui ne manipulent pas de nombre, ‘mais par exemple des lettres ou des mots comme dans les programmes de traite- ment de textes, réalisent des calcul lors d'une recherche de mot, par exem= ple, on associe & une entrée (le mot recherché) une valeur de sortie : Ia position du mot. Dans tous les cas, on btient un résultat si Texécution’ du programme qui concrétise algorithme Stachéve au bout d'un temps fini. Les problémes sont moins simples pour les systémes paralléles comme par exemple Jes centraux téléphoniques : Talgori- thme doit alors permettre le fonctionne- ment du central a tout instant et ce fonctionnement set théociquemeat. in fini; les demandes de communication ne cessent pas et la tache du central tElgphonique ne s'achéve quavec sa <éfaillance ou sa déconnexion. En d’au- ‘es termes, pour les systémes et pro- ‘grammes paralléles comme les centraux ‘éléphoniques, le programme semble ne rien calculer au sens defini précédem- ‘ment. Et pourtant, les centraux effec- tuent une ticke. C'est pour décrire le fonctionnement des programmes paral- Teles que 'on a cherché & généraliser Ia notion de calcul; pour cela, ila fallu defini de facon mathématique a signif- cation des opérations qui sont iréduct- bes & des opérations séquentilles. Pour la Selonce, Mars 1985La notion de calcul Les études sur le parallélisme ont débuté vers 1970, sans doute parce gu'on navait pas, auparavant, ressenti IE bescin etudier cos problimes. En fait, les notions de caleul et de raisonne- ment ont toujours été traitées de fagon intuitive. Aristote avait tenté de les formaliser, mais il sétait limité aux syllogismes, qu'il considérait comme un modele de {out raisonnement déductif fa connatt le celebre exeraple * (J) tous les hommes sont mortels et (2) Soeraie est un homme, donc (3) Socrate est Tmortel, Le cadre formel défini_ par Aristote était trop étroit. Au xvIF sigele, Gottfried Leibniz voulut ensuite réduire toutes les formes du raisonne- ment a un calcul, cesta-dire a une ‘manipulation de symboles a Taide de ‘gles opératoires. I avait résumé son point de vue avec la formule célebre Sedeamus er caleulemus, qui sinifie que tout probleme doit pouvoir étre résohn par ‘un calcul. Leibniz tenta de onstrire un langage formel (un ensem= ble de symboles et de régles de manipu- Tation “de ees symboles). permettant Gexprimer tous les probl&ines et de tcouver un algorithme universel de resolution, mais il 'aboutit pas. 1 ln fn dn xix sibel, des Ingiciens comme Gottlob Frege et Bertand Rus- sell mirent au point ce langage, que on appelle le calcul des prédicats, mais le programme defn: par Leibniz se revela top ambitieux + en 1931, Kurt GBdel décourit en eff des problémes arith- tctiques insolubles «let Snonodeindéot ables que on peut ramener au para- tion de trois philosophies, on a dressé une table, avee trols chaiss, trois assiettes et trois’ fourchettes. seulement (a). Chague philosophe peut venir sassenir 4 su chaise ft manger sl dispose des denr fourchettes sites 8 gauche el doite de son asi, fe mangé, il remet les Foure Etur plac, gute la table et part m Tl peut recormencer ce cyele dopérations aytant de fois qu'l le veut. Pour étudier un tel rystéme, on uilse “une description formelle que on appelle un systéme de transitions, od Von représente les différents tats de chaque philosophe ot de chaque Tn ctctic yan des roads vellés entre exe par des Miches désignant les diverses actions. Pour étudier Te systdme global, on doit consider simultanément les six’ systémes fe transitions alast defies © trols pour les philosophes et trois pour les fourchettes. Sur Te sehima bon u représenté le systeme de transitions du philosophe / et sur le schéma ele. systime’ de lar fourchette j. Cette feseription permet détudier de fagom alge brique le comportement des systémes. Pour i Seience. Mars 1988 ‘a SASGEOIR A SA PLACE fu: SAISIT LA FOURCHETTE PLACE A LA OROITE OU PHILOSOPKE i ost BAIS LA FOURCHETTE PLACEE A LA GAUIPHE nil Bua ASHONE rm: MANGER. fh) REMETTRE LA FOURCHETTE DROITE A SA PLACE, fast REMETTRE LA FOURCHETTE GAUCHE A SA PLACE. 4: QUITTER SA PLACE NE REN PARE, 5: EME SAIS ETRE REWISE A $a PLACE 1): PAS DE MOUVEMENT. 6doxe logique du menteur qui ment toujours et déclare un jour « Je mens Mentil en disant cette phrase? Si rent, est qu'il dt la vénte Il mentirait done’effectivement, mais alors, il dit 1a vérté. etl exten definitive, impossible de determiner si cette proposition est raie ov non. En fait, Godel sétait inspiré de cet exemple ef avait construit tune proposition arithmetique indécida- ble, oi Vimprécision du langage n‘intee venait pas. On découvre aujourd'hui de {els énoncés dans de nombreuses spécia- Ttés des mathématiques.) Cetwe déeou- verte était d'une importance eonsidéra- ble, ear Giidel montra ainsi qu'l n'eniste ‘pas Oalgorthme universel de resolution de probleanes, mémes formalises avee le langage des prédicats Ta raison’ profonde de ce résulat gai tient essetillement aus limita- tions formalise. En ait, la sémant que (la fonction csleulée) n'est pas rédductible la syntaxe, cesta-dire a des riples d'éeritures. Or tout calcul est syntaxique et effeetuer une opération, ds tare te South 2, UN ALGORITHME est =O in ensemble fini de régles que applique a une donnée initiale pour obtenir une nouvelle donnée, est appliquer une régle de calcul. La difference fondamentale entre la séman- fique ct Ia syntaxe est & Vorigine de Véchee de nombreuses recherches oit Yon cherchait & mécaniser des activités de nature sémantique, comme Ia tradue- tion des langues naturelles. (Dans ce dernier cas, Ia sémantique est alors Ia fonction qui associe @ une phrase d'une langue donnée une phrase dans une autre langue, sa traduction.) A moins de limiter considérablement ies abjectifs (par exemple en remplagant les langues naturelles par des langages artifciels analogues aux langages de programma tion ou en admetiant intervention ‘manuelle de tradueteurs humains), ces Schees doivent éire considérés comme défnitits. Pour en revenir aux résultats de Giidel, les logiciens furent surpris, car li oi: Pon s'aitendait & des dificultés ( ‘propos de la formalisation de la logique pure), le probléme trouva une solution Je calcul des prédicars est a In fois cohérent (non contradictaire) et chet les ‘mal Otel NGS “GEE 0 déacer de p ilomitre mn Ieealeul sequent! défini par le systéme qui réaise ce cule par ume site de données ccomplet (tous les énoncés vrais sont ), la division (/), soit des parenthises, Les mots sont soit des nombres, soit des groupes de symboles formés d'une parenthése uvrante (0, dun mot, d'un symbote opératore, d'un second mot ct dune parcnthéseformante (0), Om peut utiliser, pour reconnaitre les formes, un automate & piles, cesti-dire une machine munie de deax systémes oi Ton empile les lettres de « Palphabet aithmétique » ct dune unitéarithmétigue oi Ton effeetue les caleuls; on wa aecis qu'a la deraidre lettre Sockée située au sommet de la pile. Pour interpreter une formule comme (2 + (3. 3), automate stocke, au fur ef d mesure quills it, les nombres et les parenthises ou ‘dans une premiére pile, et les symaboles opératoires dans une seconde formantes ont une action plus complexe :lorsq'il en lt une, Pautomate pile le dernier symbole opératoire stocké, il eherche dans la premiére pile les deus: deraiers nombre stockés et les remplace par le résultat de opération ainsi définie, aprés avoir Supprimé Ia parenthise ouvrante se trowvant aundessous de ces deux nombres. 70 premiers. En France, c'est & partir de 1970 que om a commence & rechercher de telles sémantiques, notamment pour les réseaux déterministes. G. Kahn, de institut national de recherches’ en informatique et automatique, a effectué les premitres études. Les réseaux déterministes et non déterministes est déterministe : en effet, il n'est composé gue de processus don Ie caleal est détcrministe t les scales justi actions entrée ou de sortie sont les instruc- tions «prendre d'un canal » et « mettre dans un canal». Ainsi, chaque instant, les processus sont soit en train de caleuler, soit en train d'atiendre une valeur en provenance un canal unique. Les réseaux deterministes ont une propriété fondamentale : les histoires es canaux de sortie d'un réveau déter- ‘ministe ne dépendent que des histoires des canaux d'entrée, En effet, le fone: tionnement d'un réseau déterministe ne depend notamment pas de la rapidité exécution des processus du réseau, Aussi est-il possible de déterminer la fonction la sémantique du réseau ~ qui, 8 une histoire des canaux d'entrée, associe une histoire des canaux de sortie. Grice a ees propriétés, on peut définir sur Tensemble des histoires d'un canal lune relation d'ordre et une notion de fimiwe qui permeitent de calculer la sémantique du processus Q_: cette sémantique associe la suite des nombres premiers Ia suite formée par les nombres entiers naturels. ‘Les réseaux déterministes sont cepen- dant rares. Dans un central téléphoni- que, par exemple, histoire des etablis- sements de communication ne dépend pas uniquement des histoires des de- andes reeves par le central; en effet, sideux demandes de communication (4 vers’ et B vers 2") arrivent simultané- ment au central, alors que les deux correspondants recherches (4 et ') ne sont pas encore en ligne, le central Grablit en premier, soit la communica tion 4-A", soit la communication B-B™ Ce choix, qui dépend d’événements indépendants de 4, 4, B, BY est eonsidéré comme nom "déterministe Diautre part, i existe plusieurs types de non déterminisme, soit que plusieurs régles puissent s'appliquer & une méme donnée, soit que le réseau de processus fonctionne avec d'autres régles d'accés sanaux que « prendre » et « met- tre w Par exemple, si un pracessts peut tester si un canal est vide, il apparait lun non déterminisme Iié au temps. Considérons par exemple un pro- ‘cessus de « mélange » qui doit accepter les éléments de deux canaux X; et Xs ct les transmetire a un autre processus Pour le Science. Mars 1985par un canal Y. Les canaux X; et Xe sont chacun alimentés par une suite finie ou infinie de valeurs. Ce processus est alors doublement non déterministe si son fonctionnement est le suivant : (2) choisir au hasard le canal X; ou le canal Xa; (6) tester si le canal choisi est vide et, sicrest le cas, recommencer 'instruc- tien (@): sinon prendre la. premiére valeur du canal sélectionné et la placer dans le canal Y de sortie et recommen- cer Vinstruction (a). Avec ce processus, histoire du canal de sortie Y dépend des histoires des canaux d’entrées X; et X2, mais aussi des choix effectués par le procoraus de mélange, ainei que doe instants darrivée des valeurs dans les canaux d'entrée, Les centraux téléphoniques fonction- nent comme ce processus de mélange, car ils explorent les lignes téléphoniques pat lesquelles ils regoivent les demandes de mise en communication et ne restent pas bloqués quand aucune demande arrive sur T'une de ces lignes. ‘Outre le non déterminisme de ce type de processus, un probleme nouveau apparait : rien n’interdit que le pro: ccessus, au cas oli Thistoire de l'un des ccanaux d'entrée serait infinie, choisisse toujours ce canal et « défavorise » les autres canaux. De plus, pour les pro- ccessus ayant plusieurs canaux de sortie, rien niinterdit non plus que le meme ‘canal de sortie sit toujours sélectionné Ce probléme de 'équité est fondamental pour la construction des centraux télé Phoniques + le fonctionnement de ree Gemiets serait inacceptable si les de- ‘mandes de communication provenant de Tun des abonnés n'éiaient jamais satisfaites. En fait, Tétude des problémes aéquité a permis en 1981 4 Pun d’entre nous (F. Boussinot) de construire une déterministes et équitables. Ainsi, on peut demir la fonetion calculee par un réseau de processus parallles, cycli- gues, non déterministes, ce qui donne tun sens aux calculs réalisés par de tals, réseaux. Cela nous a conduit & détermi ner un ensemble de mécanismes fond ‘mentaux pour le caleu! paralléle, qui ont 41é appliqués a la conception des cen traux téléphoniques. Liétude algébrique des comportements La sémantique caructérise statique- ment un réseau parce qu’elle indique ce {que le réseau ealeule ; pour la concep- tion des réseaux de ‘processus, il est indispensable d'utiliser un modéle des processus qui permet d’étudier explicite- PROGRAMME LURE WY DANS LE CANAL X. 2 2 EFINIR UNE SUITE VIDE U 4 sa) sa DEFINA LA SUITE T DES NOMBRES ENTIERS COMPRIS ENTRE 2 ET W. EXECUTER 4 6 © JUSQU'A CE QUE TOUS LES ELEMENTS DE LA SUITE r SolENT RAVES 5. SOIT J LE PREMIER ELEMENT NON RAYE DE T. 2 sJOUTER JA La sumTe U. (¢ RAYER JT SES MULTIPLES DANS 7 5 onine Lee ELEMENTE BE U DANE LE CANAL ¥ @n@-m exewrie -une 8 error) -v=|| ~2 EST EMER ELEMENT NON RAYE DET -u= bl t fini du philosophe est tune suite finie et ordonnée actions, comme par exemple, pour le philosophe Py + ais i, 5 my Try Ty gue Cette liste écrit de fagon formelle Ie fait que le philosopbe Pi s'assied, saisit sa four- chette droite, puis sa fourchette gauche, mange, repose les fourchettes dans Vordre od il les a prises et quitte sa Naturellement, pour étudier le comportement simultané (paralléle) des trois philosophes et de leur environne- ment, il faut réunir les systémes de transitions en un systme global. Le plus simple est de décrire état du systeme complet, @ un instant donné, par un sextuplet de la forme (pi, Pas Ps fis fo, 5), ol ps, pa, ps sont respectivement les Giats des philosophes Ps, Pa, Ps et od fi ffs sont respectivement les éats des fourchettes Fi, Fa, Fs. Aims, le sextu- plet (a, $2 qs, Fi, So, #3) représente la Situation ot le philosophe P, s'assied, (it Ie philosophe Po saist sa fourchette Groite et oi le philosophe Ps quitte 1a table, Tous les Sextuplets ne sont pas ppossbles et Ion doit adjoindre des régles de cohérence : Taction qu’effectue un philosophe sur une fourchette doit par La rewe trimestriele Nouvelles de la Science et des Technologies (ancée en décembre 1983) a pour objectt de faire connaitre I'état des recherches et des activités scientifiques de la communauté de langue francaise. ‘Trois rubrique: ‘Articles de fond Vie des laboratoires Sommaires des Numéros déia parus Les pares industels & vocation scientique | Numéros a paraitre = 7 Pharmacologie = Ingariere gendtigus Th monde & découvrir (Equi |. Prigagin) ance magnétique nuciéaire rewes ‘niceares en Bagaue Les atces sont récigés par des experts universes et / ou des chercheurs ef managers industils ‘Abonnement Le numero Tart Paiement ‘SGB 210-0070855-97 du GORDES (CCP 000-0837577-17 du GORDES cheque bancaire (sauf France) ou mandat postal adressé au GORDES CP, 124 - Bureau 1105 Pour fs Selonce. Mars 1985 ‘Av. Jeanne 44 - B-1050 Bruxelles - Tél 02/6478994 B7. DES SITUATIONS DE BLOCAGE pparaissentparfols dans les systémes paral- [ales complexes, comme par exemple les centranx télephoniques. On étudie ces pro- bidmes sur Pexemple du diner des philoso phes. Lorsque les trois philosophes arrivent succescivement& table et prement successi- vement chacun la fourchette qui se trouve leur droite, aeun ne peut manger, car deux fourchettes leur sont nécessaires. On peut également décrire avec les. systimes de transitions les situations de famine 0d, & partir d'un certain moment, un ou plusieurs ‘Processus (mais pas tous) ne peuvent plus prolonger leur comportement propre : par ‘exemple, lorsque les trois philosophes arri- Te troisiéme de manger s'ls conservent Ia ‘main la fourchette q's « partageat » avee le trolsidme philosopbe et rls se pastent In fourchette située entre eux. On a représenté fel Varrivée successive des philosophes conduisant a Ia situation de blocage. exemple coincider avec « action » subie par cette fourchette ; deux philo- sophes ne peuvent simultanément saisir la méme fourchette, etc. En fait, ces regles de cohérence’ sont des descrip- tions de la synchronisation. Nous avons vu au début de cet article comment peuvent apparaitre des blo cages : le début de comportement décrit par les deux sextuplets successifs sui- ants : (a1, 2 83, Vi Va, Ys) (Sy St Sa, 5, 51, $2) correspond au fait que les trois philosophes arrivent a table et prennent fen méme temps leur fourchette gauche : bien que synchronisé, ce début de comportement conduit & un blocage Diautre part, on dit quill y a famine Jorsqu’a partir d’un moment donné, un ‘ou plusieurs processus (mais pas tous) ‘ne parvient plus a prolonger leur ‘comportement propre. Imaginons par exemple que les philosophes arrivent & table & des instants échelonnés. Si le dernier arrivé ne saisit une fourchette que ds qu’elle est libre, alors les deux autres philosophes peuvent se liguer et empécher Yautre de manger. Les études récentes commencent permetire de formaliser le calcul paral- Tile; ces études ont déji une influence sur la conception des langages de spécification ou de programmation des systémes en temps réel, car elles permet- tent de définir correctement la sémanti- que de langages ainsi que les instruc- tions de base. Le probleme est Jourd’hui de suivre fidélement tes prin- Cipes théoriques dégagés, dans Ia réalisa- tion effective des systémes en temps réel : ce probléme est fort ardu, mais seul le respect absolu des régles for- elles permet de faire bénéficier les applications pratiques des apports, théorique. . Pout le Scionee, Mars 1985