4 A.M. TURING _ Les ordinateurs et l'intelligence Le jeu de Vimitation Je propose de considérer Ia question « Les machines peuvent-elles penser? » Il faudrait commencer par définir le sens des termes « ma- Chine » ct « penser ». Les définitions pourraient étre congues de ma- igre a relléter autant que possible l'utilisation normale des mots, mais cette attitude est dangereuse. Sion doit trouver ta signification des mots temachine » et « penser » en examinant comment ils sont communé tment utilisé, il est difficile d'échapper 2 la conclusion que la significa tiomde la question « Les machines pensent-elles? » et la réponse & cette {question doivent étre recherchées dans une Gude statistique telle que le Sondage d’opinion, Mais ceci est absurce, Au liew de m'essayer A une telle définition, je remplacerai la question par une autre, qui lui est etroitement lige’ et qui est cxprimée en des termes relacivement non ambigus. Le problame reformulé peut étre décrit dans les termes d'un jeu que nous ‘appellerons le «jeu de V'imitation ». I se joue & trois, un homme (A), une femme (B), et un interrogateur (C} qui peut éwve de Tun ou Pautre sexe, L'interrogateur se trouve dans une pitce & part, aéporé dec deux autres. Liobjer div jen pour Vinterrogateur est de Géterminer lequel des deux est "homme et lequel est la femme. Tl les connait sous les appeliations X et Y et & la fin du jeu il doit déduire soit SBatrait de Posteo machine trait de Vane tions da Champ Vallon pour la traduction fra Mediteur Patrice Blanchard, ie, Avec Uaimable a |62 A.M, TURING que X est Act ¥ est B », soit que « Xest Bet ¥ est A», L'interroge- teur peut poser des questions & A et B de la maniére suivante : C: «X peucil ou peucelle me dire, s'il yous plait, quelle est Ia longueur de ses cheveux? » Suppose & présent que X soit vraiment A, alors A doit répondre. La finalité du jeu pour A est d'essayer d'induire C en erreur. Sa réponse pourrait done étre « Mes cheveux sont coupés & fa gargonne ct les méches les plus, longues ont & peu prés vingt centimetres de tong. » Pour que le ton de In voix ne puisse pas aider l'interrogateur, les réponses devraient étre écrites. ou mieux, dactylographiées. Einstalla- tion idéale serait une téléimprimante communiquant entre les deux pitces. A défaut les questions et réponses peuvent tre répétées par un intermédiaire. L’objet du jew pour le troisiéme joueur (B) est d’aider Minterrogateur. La meilleure stratégi¢ pour elle est probablement de donner les réponses vraies, Elle peut ajouter A ses réponses des choses telles que : « Jesuis la ferme, ne "écouter pas ! » mais cela ne servira & rien, car l'homme peut faire des remarques similaires. ‘Nous posons maintenant la question « Qu’arrive-til si une machine prend la place de A dans le jeu? L'interrogateur se trompera-t-il aussi souvent que lorsque le jeu se déroute entre un homme et une femme? » Ces questions remplacent la question originale «Les machines peuvent-elles penser? » Critique du nouveau probléme Aussi bien que de demander « Quelle est la réponse & cette nouvelle forme de question? » on peut demander « La nouvelle question vaul- elle ta peine d’étre cxaminée? » Nous examinons cette derniére question sans autre forme de proces, coupant par IA court & une rétrogression infinie. Le nouveau probltme a Vavantage de wacer une figne assez nevte entre les capacités physiques et intellectuelles de 'homme. Aucun igénicur ou chimiste ne se dit capable de produire un matériau que Von ne puisse distinguer de fa peati humaine. Il est possible que cela puisse Gere fait un jour, mais méme cn supposant que cette jnveutiun soit réalisée, nous jugerions sans intérat de rendre une machine pensante » plus humaine en I'habillant d'une telle chair artificielle. La forme sous laquelle nous avons post le problime vellate ce fait & eravers les conditions qui empéchent l'interrogateur de voir ou de touicher les autres participants, ou d’entendre leur voix. On peut monteer d'autres avantages du critére proposé & travers un spécimen de questions et de réponses. Les ordinateurs et I'intelligence 63 Ains Q: Pouves-vous, s'il vous plait, m’écrire un sonnet au sujet du pont de Ia rividee Forth? R : Ne comptes pas sur mot pour ga. Je n'ai jamais réussi& écrire de le poésie. Q: Ajouter $4 957 & 70 764, Ri (Un silence d’& peu prés 30 secondes, puis vient 1a réponse) TOS 721. Clos, E2VY HL dawg Coctiele de Tarony Q.: Jouez-vous aux échecs? 7 R: Oui. Q.: J'ai mon roi en C8 ct aucune autre pidce. Vous avez seulement votre Toi en Go et une tour en Al. C'est vous de jouer, que jouez-vous? R: (Aprés un silence de 15 secondes) Tour en A8, échec et mat. La méthode des questions e réponses semble étre adaptée pour introduire presque n’importe quel champ des capacités humaines que nous souhaitons inclure. Nous ne souhaitons pas pénaliser la machine pour son incapacité & briller dans des concours de beauté, et nous ne voulons pas pénaliser "homme parce qu'il perd quand il court contre un avion, Les conditions de notre jeu rendent ces incapacités non per tinentes, S'ils le jugent soubaitable, les « témoins » peuvent se vanter autant qu'il leur plait & propos de leurs charmaes, de leur force ou de leur hércisme, Mais Pinterrogateur ne peut exiger une démonstration pratique. Il est pevt-dtre possible de critiquer le jeu sous le prétexte que la machine y est lourdement désavantagée. Si l'homme essayait de faire semblant d°écre la machine, il est clair qu'il s’en sortirai¢ fort mal. I serait immédiatement trahi par sa lenteur et son inexactitude en arithmétique. Les machines ne peavent-elles exécuter quelque chose qui reléve d'une forme de « pensée », mais qui est trés different de ce qu'un homme fait? Gette objection est tcts forte, mais nous pouvons au moins dire que s'il est possible de construire une machine pour qu'elle joue le jeu de l'imitation de maniére satisfaisante, nous n'avons pas besoin de nous occuper de cette objection. (On pourrait objecter que lorsqu’elle joue au jeu de f'imitation, la meilleure stratégie pour la machine peut étre autre que limitation du comportement humain, C'est possible, mais je pense qu'il est probable que cela n’ait pas beaucoup d'influence. De toute fagon, nous navons pas l'intention d’étadier ici la théorie du jeu et 'on présupposera que la eilleure strarégie est d'essayer ce fournir des réponses qui seraient naturellement données par homme. Les machines pouwant prendre part a ce jew La question que nous avons posée dans le premier paragraphene sera pas totalement définie jusqu’d ce que nous ayons spéciié ce que le mot eemachine » signife4 A.M. TURING 1 eat naturel que nous souhaitions permetire I'utilisation dans nos machines de n'importe quel type de technologie. Nous voulons aussi Secepter la possibilité qu'un ingénicur, ow unc équipe d'ingénieurs, puisse construire une machine qui fonctionne, mais dont les modalités Ge fonctionnement ne peuvent pas étre décrites de maniére satisfaisance par ses constructeurs, parce qu'ils ont appliqué une méthode en grande partic expérimentale. Nous souhaitons enfin exclure de la catégorie des machines les hommes nés de la manitre habicuelle. I est difficile de cerner les définitions qui satisfassent & ces trois conditions, On pourrait par ‘exemple insister sur le fait que les ingénieurs sont tous de méme sexe, mais ceci ne serait pas vraiment satisfaisant, car il est probablement possible de créer un individu complet & partir d'une seule cellule fdisons) de la peau dun homme. Le faire serait un exploit de la technique biologique méritant les. plus hauis éloges, mais nous ne setions pas tentés de le considérer comme un cas de « consteuction de machine pensante ». Cela nous pousse a abandonner l'idée que nous puissions accepter toutes les techniques. Nous sommes dautant plus Uisposés & le faire que P'intérék actuel pour les « machines pensantes » a &é soulevé par un type particulier de machine, habituellement appelé ordinateur électronique », ou « ordinateur digital ». A ta suite de cette suggestion, nous aautoriserons que les ordinateurs digitaux & prendre part & notre jeu On décrit cette propriété particuliére des ordinateurs digitaux (qu'ils puissent imiter n'importe quelle machine discréte) en disant que ce sont Ges machines unierselles, Lexistence de machines possédant cette propriété entraine la consequence importante, en dehors de toute considération de vitesse, qu'il est inutile de concevoir différences nou- Welles machines pour eéaliser différentes opérations de calcul, Eites peuvent tire effectuées a l'aide d'un seul ordinaccur digital, conve- hablement programmé pour chaque cas. On verra qu’en conséquence Tous les ordinatenrs digitatix sont en un sens équivalents Fues contradiclaires sur la question principale Nous pouvons maintenant considérer que nous avons déblayé le terrain, et que nous sommes préts % entrer dans le débar sur notre question « Les machines peuventelles penscr? »... Nous ne pouvons pas complétement abandonner la forme digitale du probléme car les Spinions différeront en ce qui uuncerne fa justesse dle [n substitution, et nous devons au moins écouter ce qui doit en étre dit ‘Cela simpliliera les choses pour le lecteur si j'expose d'abord mes propres vues sur le sujet. Examinons en premicr lieu la forme la plus exacte de Ia question. Je crois que cans une cinguantaine d'années il sera possible de programmer des ordinateurs, avec une eapacité dle mémoice d’A peu prés 10%, pour les faire si bien jouer au jeu de Vimitation qu'un interrogateur moyen a’aura pas plus de 70% de Les ordinateurs et l'intelligence 65 chances de procéder & identification exacte aprés cing minutes d'inter- rogation. ‘fe crois que la question originale « Les machines peuvent-elles penser? » 8 lop peu de sens pour mériter une discussion. Néanmoins je trois qu’a la fin du siecle Pusage, les mots et 'éducation de lopinion générale auront tant changé, que Yon pourra parler de, machines pensantes sans s’attendre &@ Zire contcedit, Je crois de plug qu'il ne sert 3 Hen de dissimuler ces croyances. L'idée populaire que les savants favancent inexorablement d'un fait bien érabli & un autre, sans étre Jnfluencés par des hypothéses non vérifiées, est absolument fausse Pourvu que nous sachions clairement quels sont Ics faits prouvés et quelles sont les hypotheses, aucun mal ne peut en résulter. Les hypo- theses sont de grande importance puisqu’elles suggérent dutiles voies de recherches. "Je vais maintenant envisager les opinions opposées & 1a mienne 1. Lnbjection thdologigne. Penser est une fonction de me immortelle de Phomme. Dicu a donné une ame immortelle & tout homme ou femme, mais & aucun animal, ni A aucune machine, En conséquence, ni animal, ni la machine ne peuvent penser* ‘je ne peux accepter en rien cette objection, mais j'essaierai dy sépondre’ en termes théologiques. Je trouverais Pargumens plus convaincant si les animaux étaient classés avec les hommes, car ily & tune plus grande différence, & mon avis, entre animé et Pinanimé qu'll n'y ena entre Phomme et les autres animaux. Le caractére arbitraire du point de vue orthodoxe devient plus clair si nous considérons comment [pourrait apparaitre A un membre de quelque autre communaucé fellgieure, Comment les cheétens corsidérentils opinion mnusul- mane les femmes n'ont pas dime? Mais laissons ecla de c6té, et Fevenons A la discusison principale. Tl m'apparait que l'argument Enoncé ci-cessus implique tne séricuse restriction de la toute-puissance de Dicu, [lest admis qu'il ya certaines choses qu'Tl ne peut pas faire, comme de faire que un soit égal & deux, mais ne devrions-nous pas roive qu’'ll a [a libesté de donner une Ame & un éléphant si cela lui semble convenable? Nous pourrions nous attendre & ce qu'il exerce seulement ce pouvoir en conjonction avec une mutation qui fournirait & Méléphant un cerveau convenablement amélioré pour s'occuper des besains de son Ame. On pout imaginer un argument similaire pour le eas les machines, qui peut sembler différent parce qu'il est plus difficile & tcayaler ». Mais cela signific seulement que nous envisageons comme ‘moins probable l'éventualicé qu'Tl considlére que les circonstances sont favorables pour qu'll leu donne une &me. On discutera lee cireons- tances en question dans la suite de cet article. * teat posible que cette vue des choses sot hérézique. aint Thomasd’Aquin (Somme thdologgue, ete por Bertrand Russell, aiae de le philosphe occidentale, Paris, Gali tneeds"1999) die que Dieu ne peut pa faire qu'un homme nat pas dane. Mais il se peut que exla ne soit par une restriction réelle de ses pouvoirs mais seulement 4 Pua de fae que Péene fhunaine est imortele. et dane indestructible i Eee ee66 AM. TURING Bn essayant de construire de telles machines, nous ne devrions pas plus usurper irrévérencieusement Ses pouvoirs de créer des ames que hous ne le faisons en engendrant des enfants : nous sommes plutat, dans les deux cas, des instruments de Sa volonté, fournissant des demeures aux Ames qu’ rée Gependant, ceci est pure spéculation. Les arguments théologiques miimpressionnent peu quel que soit objet quills défendent. De tels arguments se sont souvent montrés peu satisfaisants dans le passé. AU temps de Galilée on disait que les textes « Et le soleil s'aréta.. et nese hata pas de descendre pendant toute une journée » (Josué X, 13) et « Th psa les fondations de la terre pour qu'elle ne bouge & aucun moment » (Psaume G V, 5) 6caient une réfutation appropriée de la théovie coper- ficienne, Avec nos connaissances actuelles, un tel argument parait futile. Quand ces connaissances n'étaient pas établies, il (aisait une impression tout & fait cifférente 2. Labjection de Uautnuche. « Les consequences du fait que les machines, pensent seraient trop terribles. Tl vaut mieux croire et espérer qu’elles, ne peuvent pas le faire. » Liargument est rarement exprimé. aussi ouvertement gue ci-dessus. Mais il affecte la plupart de ccux d'entce nous qui rélléchissent & ce sujet. Nous aimerions croire que Homme est de quelque subtile facon supérieur au reste de la création. {l serait encore mieux de pouvoir montrer qu’il est nécessairement supérieur, car alors il n'y aurait aucun risque qu'il perde sa position de dominateur. La popularité de Pargument théologique est clairement lige A ce sentiment. {I sera probablement plus fort parmi les intellectuels. puis- quils vatorisent plus que les autres la capacité de penser comme hase de leur croyance en Ia supériorité de I'Hamme. Je ne pense pas que cet sagument sok aulemment scbatantil pou, rendre néceasire, une rélutation. La consolation serait plus appropriée : peut-dtre devrait-on 3. Liobjection mathimatique, Un certain nombre de résultats de la logique mathématique peuvent étre utilisés pour montrer qu'il ¥ a des limites aux pouvoirs des machines & étars diserers. Le plus connui de ces résultats est connu sous le nom de théoréme de Gédlel et montre que dans tout systéme logique sullisamment puissant, on peut formuler des affiemations qui ne peuvent ni Bre prouvées, ni Bere refutées & ints. rieur du systéme, & moins que le systtme lui-méme ne soit illogique. U existe dautres résultats similaires & certains égaras, dus & Chucch, Keene, Rosser ot Turing. Le dernier de ces résultats est le plus pratique A examiner, puisqu'il se réfere directement aux machines. alors que les autres ne peuvent étre utiises que comme des arguments comparauve- ment indirects : par exemple, sil'on utilise le théoréme de Géde, il nous fauten plus nous donner des moyens de décrire les systémes logiques en termes de machines, et les machines en termes de systémes logiques. Le résultat en question se référe & un type de machine qui est essentielle- ment un ordinateur digital A capacité infinie, Ce résultat établic quill y certaines choses qu'une celle machine ne peut pas faire. Si elle est programmée pour répondeo A dex questions comme dans le jeu de Les ordinateurs et Pintelligence 67 imitation, il y aura certaines questions, auxquelles soit elle donnera tune réponse feusee, soit elle ne donnera pas de réponse du tout, quel que soit le temps qui lui sera imparti pour répondre. Il se peut bien sie qu'il J ait beaucoup de questions de ce genre, et des question auxquelles une machine donnée ie saura pas répondre obtiendront peut-ttre une réponse satisfuisante de la part d'une autre, Nous supposons bien sir pour le moment des questions appelant une réponse en « oui » ou en Kenan », plutdt que des questions telles que : « Que pensez-vous de Picasso? » Nous savons que les machines doivent échouer dans des questions du type: « Considérez la machine spécifiée comme suit. Cette machine répondra-t-elle “Oui” & nimporte quelle question? » Tes points de suspension daivent étre remplacés par la description d'une machine de forme standard, Quand ta machine décrite présente tune relation évidente et comparativement simple avec la machine que Ton interroge, on peut montrer soit que la réponse est fausse, soit qu'elle n'apparaitra jamais. Voici le résultat mathématique : on en déduit que cela prouve une incapacité des machines qui ne se retrouve pas dans esprit humain Pour réponcire bi Wvement a cet égard il faut dire que, bien quill soit ftabli qu'il ya des limites & la puissance de n'importe quelle machine il a seulement été affirmé, sans aucune sorte de preuve, que de tclles limites ne s'appliquaient pas & Pesprit humain, Mais je ne pense pas que nous puissions rejeter ce point de vue si légtrement, Chaque fois que Ton pose A l'une de ces machines la question critique appropriée et quielle donne une réponse définie, nous savons que cette réponse est forcément fausse, ce qui nous procure un certain sentiment de super té. Ce sentiment estil illusoire? Test sans aucun doute tout & fa sincere, mais je ne pense pas qu'il faille y attacher trop dimportance, Nous donnoris nous-mémes trop souvent des réponses fausses & des questions pour que nous ayons le droit de nous réjouir d'une elle preuve de failiblité des machines. Nous ne pouvons de plus, en de telles Bceasions, ressentir notre supériorité que par rappart 4 fa machine particuliére sur laquelle nous avons remporté un triomphe insigaifiant, Mi'ne serait pas question de triompher simultangment de taules les machines. En bref, il se pourrait alors qu'il y ait des hommes plus Jntelligents que n'importe quelle machine donnée, mais il se pourrait aussi quil y ait d'autres machines encore plus intelligentes, et ainsi de suite, Ceux qui tiennent & Pargument mathématique accepteraient pour la plupart volontiers, 4 mon avis, le jeu de limitation comme base de discussion, Ceux qui eroient aux deux objections précédentes ne s"inté- resseraient probablement & aucun critere 44, Largument issu de la conscience. Cet argument est trés bien exprimé dans le discours Lister de 1949 du professcur Jefferson dont jtextrais cette citation : « Nous ne pourrons pas accepter Midée que la machine gale le cerveau jusqu'a ce qu'une machine puisse écrire un sonnet ot composer un concert & partir de pensées ou démotions ressenties et not pas en choisissant des symboles au hasard, et non seulement Pécrire fais savoir quelle Ia écrit, Aucun mécanisme ne pourrait ressentir (€68 AM. TURING ement un signal, ce qui reléve éussit, du chagrin quand ses lampes grillent; il ne serait pas ému par la flatterie, malheureux de ses erreurs, charmé par le sexe, et ne se mettrait pas en colére ou ne se sentirait pas déprimé quand il ne peut pas obtenir ce qu'il veut. » Cet argument semble Eire la négation de la validité de note épreuve. Selon ce point de vue exiréme Ia seule maniére dont on pourrait s'agsurer qu’une machine pense serait d'die Ia machine et de ressentir qu'on pense. On pourrait alors décrire ses sentiments au monde, mais bien sir personne n'aurait de raisons d’en tenir compte. De meme, suivant ce point de vue, la seule maniére de savoir qu'un homme pense est d'éere cer homme luieméme. C'est en fait le poinc de vue solipsiste. Il se peut que ce soit la position ta plus logique & tenir, mais cela rend difficile la communication des idées. A est enclin & croire ce que « A pense, mais B ne pense pas ». Au lieu de discuter continuellement ce point, on utilise habitueliement ia convention polie stipulant que tout le mionde pense. Je suis sir que le professeur jefferson ne souhaite pas adopter ce point de vue extréme et solipsiste. Il accepterait volontiers le jeu de imitation comme épreuve. Le jeu (en omettant le joueur B) est fréquemment utilisé en pratique sous le nom d'examen oral pour découvrir si quelqu'un comprend véritablement quelquie chose ou l'a ‘«appris comme un perroquet », Imaginons une partie d'un tel exa- Lrexaminateur : Dans le premier vers de votre sonnet qui dit: « Te compareraije A un jour dé », est-ce que «un jour de prin- temps » serait aussi bien ou mieux? Le ténoin : Cela ne rimerait pas, Lexaminaters: Ex «un jour dhiver »? Gela rimerait tres bien. Ge tina: Oui mais personne wa envie dire compacé & un jour iver. Lxamincleus : Dirice-vous que Monsieur Pickwick vous fait penser & Noal? Le ténain : Dune cectaine manitre, ou Cevamninateur “Et pourtant Nosl est un jour d’hiver, et je ne pense pas ™ qué [a comparaison ennuierait Monsieur Pickwick P Le tinoin : Je ne pense pas que vous soyce sérieux. Par un jour dhiver, ‘on veut dire un jour @hiver typique, plutét qu'une journée spéciale comme Nod Ex sinsi de suite, Que dirait le professcur Jefferson si la wachine i ¢ des sonnets était capable de épondire ainsi & un examen? Je ne pas s'il considérerait que lz machine « produit implement et artificellement un signal » avec ees réponses, mais si les réponses €caient aussi satisfaisantes et fermes que dans le passage ci-dessus, je ne pense pas qu’il la décriraic comme « un artifice facile ». Cette ex- pression a, je pense, pour but de recouvrir des disposi comme Les ordinateurs et Pintelligence 6 Finclusion dans la maine de Penrgistcmené de quelqu'un fisant un ronnet, qu’un systeme appropré mettrat en tnarche de temps en «Dome, en bref ' der ta plupart a ric, en bref je pense que 'on pourrait persuader la plupartde ceux qui souiennent argument issu de la conscience de 'abandonner plutat Aye d'tre contraints adopter Ia postion slipeste, Ils accepteront thors probablement volonters notre éprewve. ; SJ ne voudrais pas donner Fmpeession de penser qu'il n'y a pas de mmjsdre relas Ala conscience. Il 2, par exemple, une sorte de frvadone He toute tentative lite pour Is localises. Mais ene ool pat aie ees mysites doivent nécessacement etre résolus avant que nous Fifesions répondce 4 fa question qui nous intéesse dens cet article Les arguments preven de dines ncpaciln, Ces argomentsprennent la forme suivante «Je vous concéde que vous pouver labriquer des tmtchines qui fastent toot ce que vous avez menionné, mals vous ne Serer jamais capable den fabriquer une qui fesse X. » On éourbre ce momaneit diftrents traits X. jen présente une section, Quelle soit gentille, débrouillarde, belle, amicale, qu'elle ait de Pinitiative, un sens de humour, qu'elle fasse la différence entre le bier ct le mal, qu'elle fasse des erreurs, qu'elle tombe amoureuse, qu'elle aime les fraises & la créme, qu’elle rende quelqu'un amoureux d'clle, qu'elle apprenne & partir de son expérience, qu'elle utilise les mots correctement, qu'elle soit Pobjet de ses propres pensées, qu'elle ait des ‘comportements aussi divers qu'un humain, qu'elle fasse quelque chose de vraiment nouveau, ‘Aucune preuve n'est habituellement fournie pour soutenir ces affir- mations, Je crois qu’elles sont surtout fondées sur le principe de induction scientifique. Un homme a vu des milliers de machines dans sa vie, De ce qu'il en voit, il tire an certain nombre de conclusions ‘générales. Elles sont laides, chacune est congue pour un buc trés limit, quand on leur demande wn travail légérement différent, elles sont incapables de le réaliser, la variété de comportements de n'importe laquelle d’entre elles est trés restreinte, etc., ete. I en conclut na- turellement que ce sont des propriéiés nécessaires des machines en iganéisl Beaucoup de ees limites sont assocézs& la wis faible capacté de mémoire de la plupart des machines. (Je suppose que T'idée de capacité de mémoire est étendue de manitre & recouvrir des machines {qui ne sont pas des machines & états discrets. La définition exacte n'a pas d'importance puisque cans Ia présente discussion on ne revendique suvuite exactitude wiathématique.) [ly a quelques années, alors qu'on avait peu entendu parler des ordinaceurs digicaux, il était possible de faire disparaitre une grande partie de I'incrédulité & leur égard, en mentionnant leurs propriéiés sans décrire leur réalisation. Cola était probablement di a une application similaire dus principe de induction scientifique. Les applications de ce principe sont, bien sir, en grande partie inconscientes. Quand un enfant qui sest brilé craint le fen et | '70 AM. TURING montee quill le craint en Pévitant, je devrais dire qu'il applique induction scientifique. (Je pourrais aussi, bien sir, décrire son com- portement de dien d'autres maniéres.) Les travaux et les coutumes de Phumanité ne semblene pas étre un matériau tres adapté A application deT'induction scientifique. On doit étudier une grande partie d’espace- temps sion veut obtenir des résultats fiables. Autrement, nous poutvons décider (comme le font la plupart des enfants anglais) que tout fe monde parle anglais et qu'il est idiot d'apprendre Je francais Ihy a, cependant, des remarques particuligres & faire concernant beaucoup des incapacicés mentionnées. Le lectcur a pu étre Ireppé par Ta futlité de Vincapacicé & aimer les fraises i la créme. Il est possible 4quon puisse laive aimer ce plat délicieux & une machine, mais toute tentative pour le faire serait idiote. Ge qui importe en ce qui concerne cette incapaciré, est qu'elle contribuc a certaines des autres incapacités, par exemple une amitié liant un homme & une machine comme wn homme blane & un autre homme bianc, ou un homme noir & un autre homme noir. Le fait de revendiquer que « la machine ne peut pas faice d'erreurs » semble curieuy. On est tenté de répondre : « En sont-elles pires & cause de cela? » Mais adoptons une attitude plus sympathique et essayons de voir ce que ecla veut dire. Je pense que cette eritique peut ewe expliquée dans {es termes du jeu de imitation. On aflirme que linterrogateur pourrait distinguer ia machine de Phomme, simplement en lui posant un certain nombre de problémes darithmétique. La machine serait démasquée & cause de son exactitude implacable. La réplique est simple, J.a machine (programmiée pour jouer le jeu) u’essaieraic pas de donner les réponses justes aux problémes d’arithmétique. Elle introdui- rait délibérément des erreurs d'une maniére calculée pour découter Vineerrogateur. Une erreur mécanique se révélerait probablement & cause d'une décision inopportune & propos du type erreur & com- mettre en avithétique. Meme ceste interprétation de ls critique ws: pas sulfisamment sympathique. Mais la place nous manque pour ¥ centrer plus avant, [me semble que cette critique vient de la contusion entre deux types erreur. Nous pouvons les appeler «erreurs ce foncsionnement » et « erreurs de conclusion ». Les erreurs de fone tionnement sont cues & quelque Faute mécanique ou électrique qui fait gue la machine ne se comporte pas comme elle fe devrait. Dans les discussions philosophiques on préfere ignorer la possibilité de telles scree, on discte donc de «machines absuaites ». Ces machines abstraites sont des fictions mathématiques plutét que des objets phy- Siques. Eller sont par dition incapables d'errcurs de fonction. nement. fn ce sens nous pouvons ellectiverent dire que « les machines peuvent jamais faire d'erreurs », Les erreurs de conclusion appa- raissent seulement quand une signifieation est attribuée aux signaux de sortie de la machine, La machine peut, par exemple, imprimer des aquations mathématiques, ou des phrases en anglais. Quand une proposition fausse se trouve imprimée, nous disons que Is machine a commis une erreur de conclusion, TI 'n'y a évidemment absolument Les ordinateurs et intelligence n aucune raison de dire qu'une machine ne peut pus erreur. Elle pourrait ne rien faire d'autre que d'imprimer sans cesse O= [ >. Pour prendre un exemple moins méchant, elle pourrait disposer dune méthode pour tirer des conclusions par induction Sciemifique. Nous pouvons nous attendre & ce qu'une telle méthode conduise occasionnellement & des résultats erronés ‘On ne peut répondre & laffirmation qu'une machine ne saurait are objet de ses propres pensées que si Von parvient & démontrer que la machine a des pensées, et qu’elles ont des objets. Néanmoins, « objet es opérations d'une machine » semble bien avoir uve signification, du soins pout les gens qui travaillent dessus. Si, par exemple, la machine essayait de trouver une solution & Péquation x? — 40x — 11 = 0, on serait conté de décrire 'équation comme une partie de Vobjet de te machine 2 ce moment-la, Dans ce sens une machine peut sans aucun Goute sre son propre abjet. Bille peut ewe utilisée pour aider & Ia onfection de ses propres programmes ou pour prévoir les effets de modifications de sa propre structure. Bn observant les résultats de son propre comportement, elle peut modifier ses propres programmes pour Aueindre un but de manizre plus elficace. (1 s'agit lé de possibilites du fucur proche, plutdt que de reves utopiques. Gritiquer le fait qu'une machine ne peut pas avoir une grande diversite de comportements, cest dire simplement quelle ne peut pas avoir une grande capacité de mémoire. Jusqu’a tne période assez recente une capacité de mémoire méme de mille chiffres Gait aes rare [Les critiques que nous considérons ick sont souvent des formes déguisées de Vargument issu de In conscience, Habituellement, si an Soultient qu'une machine peu! vraiment faire Uune de ces choses, et sion déerit le type de méthode que fa machine est susceptible dutiliser, on ne fera pas une forte impression. La méthode (quelle qu'elle soit, car elle cst forcément mécanique) est en effet estimée plurdt vile. A preuve, les parenthises dans la précédente citation de elterson, 1, L’objection de Ledr Lovelace. Les renseignements les plus détaillés que tnows possédons sur la Machine Analytique de Babbage proviennent dy mmémoire de Lady Lovelace. Elle y déclare: w La Machive Analyigue ma pas la prétention de donner neissance i quoi que ce soit. Elle peut Uhtchaee tlt ce que now svons ui donne de Cave » (les italiques sont de Lacly Lovelace). Gee extrait est cité par Hartree qui ajouie : « Geet rrimplique pas qu'll ne soit pas possible de construire des machines lectroniques qui ® pensseronc par elles-mémes ou dans lesquelles, en termes biologiques, on pourrait inclure un réflexe condivionné qui fui servirait de base & “un apprentissage ". Que ceci soit en principe possible ou wen eat une question passionnante cv stimalaate, Suge par certains de ces développements récents. Mais il ne semble pas que fes machines réalisées ou qui étaient a l'état de projet & ceite époque aient eu cette propriété. » ‘Je suis entidrement d'accord avec Hactree & ce sujet. On remarquers quill r’affirme pas que les machines en question n'avaient pas cetc propriété, mais plutdt que les preuves dont Lady Lovelace dispasait ne fe ce gencen AM. TURING Vencourageaicat pas & croire qu’elles avaient cette propriété, I est fort possible que, en un sens, les machines en question 'aicnt eve. Car Supposors qu’une queleonque machine & états discrete ait cette proprié- terLa Machine Analytique était un ordinateur digital universel, et en consequence, si sa capacité de mémoire et sa vitesse étaient adéquates, fon pourrait, avec un programme adapté, lui faire imiter la machine en question. {lest probable que cet argument ne vint pas & Mesprit de la Comtesse, ni & celui de Babbage. De toute fagon, ils n’étaient pas dans obligation davancer tout ce qu'il y avait & avancer. On reconsidérera entigrement [a question dans le chapitre sur les mmachines 3 facutté d'apprentissage. . Une vatiante de Pabjection de Lady Lovelace affirme qu'une ma chine « ne peut jamais rien (aire de vraiment nouveau ». On peut y répondee pour Finstant avec le dicton : « Itn’ya rien de nouveau sous le soleil,» Qui peut tre certain que le « cravail original » qu’it a effectué était pas simplement la croissance de Ia semence plantée en lui par Tenseignement. ou la conséquence du fait d'avoit des prineipes géné- rau bien connus? Une meilleure variante de Vobjection affirme que la machine ne peat jamais « nous prendre par surprise ». Cette aflirma- tion est un défi pls direct et on peut y faire face plus franchement. Les machines me prennent trés [réquemment par surprise. Le raison principale en est que je ne fais pas de calculs sulfsants pour décider de Ee A quoi je peux m‘attendre de leur part ou plutdt parce que, bien que je Taste des caleuls je les fais de unanire rapide ct baclée, en prenant des Fisques.Je me dis peut-dtre: « Je suppose que le voltage ici devrait etre Te mime que la: de toute facon, supposons qu'il en soit ainsi, » Naturellement, je me trompe souvent et te résultas est surprenant, car au moment do Vexpérience ces suppositions ont &€é oubliges, Ces suppositions justifient les remonerances ju’an pourrait me faire sur mes pratiques dourcuscs, mais ne jettent pas Vombre d'un doute sur ma ‘erédibilité quand je parle des surprises que je ressens, “Je ne mattends pas A ce que ceice réponse fasse taire les critiques. On méobjectera prohablement que cle cilles surprises sont dues @ quelque acte de création mentale le ma part, el ne sont pas d porter au erédit de Ta machine. Ceci nous raméne i argument issu de la cunscience e+ nous Gloigne de Pidée de surprise. C'est une suite d'arguments que nous devons considérer comme close, mais il faut peut-ttre remarquer que le fait de trouver quelque chose Surprenane requiert de toute fagon an ‘«acte de eréation mentale », que Ia surprise trouve son origine chez un homme, ua livre, une machine ou quoi que ce soit d'autre Cette opinion selon laquelle les machines ne peuvent pas nous surprendre est duc, & mon avis, & un snobisme dont les philosophes et Tes tuathématiciens sont coutumiers, a savoir 'hypothése que dés qu'un fait se présente & Mesprit, toutes les conséquences cle ce fait jaillissent simultanément avec lui dans Vesprit. C'est une bypothese trés utile dans de nombreuses circonstances, mais an aublic trop facilement qu'elle est fausse, Une consequence de cola est qu'on suppase qu'il n'y a aucun Les ordinateurs et Vintelligence B intérét & découvrir simplement les conséquences d'une information ou de prineipes généraux. Pare ee dela cil dans elie nas. Le aytéme nervex west ceriainement pas une machine a états diserets. Une petite erreur dans Vinformation, & peu pres de la taille d’une impulsion nerveuse feurtant un neurone, peut beaucoup changer la taille de Vimpulsion de sortie. On peut dire que, puisqu'll en est ainsi il ne faut pas s'attendre & pouvoir imiter le comportement du systéme nerveux avec un systéme & beats discrets. Test vrai quiune machine & états discrets est forcément différente lune machine continue, Mais si nous acceptons les conditions du jew Ge Pimication, Vinterrogateur ne pourra pas tirer avantage de cette différence. On peut rendre la situation plus claire en considérant une machine continue plus simple, Un analyseur différentiel conviendra tits bien (un analyscur dfférenciel est un type de machine qui a’est pas A Grats digerets, et qu’on utilise pour certains types de calculs). Certains Grentre cux impriment leurs réponses ct peavent ainsi facilement prendre part au jeu. Ine serait pas possible & un ordinateur digital de prédice exactenrent quelles réponses 'analyseur dilférentiel donnerait& tn probleme, mais ii serait rout a fait capable de donner le genre de réponse adéquat. Par exemple, sion lui demandait de donner la valeur de (en réalité & peu prés 3,1416), il serait raisonnable de choisir au hhasard entre les valeurs : 3,12; 3,13; 3,15; 3,16 avec des probabitités disons de : 0,05; 0,15; 0,55; 0,19; 0,06. Dans ces circonstances il serait ie pour Pintersogateur de distinguer l'analyseur dilferentiel de Vordinaccur digital 3. Largument de Uinformalité du comportement, Tl n'est pas possible de créer un ensemble de régles qui ait la prétention de décrire ce qu'un home devrait faire dans tout ensemble concevable de circonstances, On devrait pac exemple établir une régle définissant qu'on doit s'arréter quand on soit un feu rouge et passer quand on voit wn feu vert, rm Guarrive-vil si par suite d'une erreur les deux apparaissent en meme temps? On peut peut-étre décider qu'il est plus sir de sacréter. Mais quelque autre dificulté peut bien se faire jour plus tard & cause de cette decision. Il parait impossible d'alaborer des réglet de conduite pour parer x toutes les éventualités, méme A celles concernant les Teux fricolores. Je partage entirement ce point de vue. "A partir de ld nous afliemons que nous ne pouvons pas étre des machines, Jessaierai de reproduire argument, maisj'ai peur de ne pas dice tres juste a son égard, Il semble qu'il corresponde & peu prés &ceci «Si chaque homme disposait d'un ensemble défini de régles de Conduite Wapits lesquclles il organiserait sa vie, il ne serait pas Supéricur A la machine. Mais de telles régles n’existent pas, ainsi les hommes ne peuvent pas tre des machines. » Le dénombrement impar- fait est manifeste. Je ne pense pas que argument soit jamais énonce exactement dans ces termes, mais je crois néanmoins que c'est bien Pargumenc utilisé. Il se peut cependant qu'il y ait une certaine confu- sion entre « les rbgles de conduite » et « les lois du comportement » qui74 AM. TURING fnisse d’obscurcir le sujet. Par « régles de conduite » jfentends des préceptes tels que : « Arrétez-vous quand vous voyez un feu rouge », Sur lesquels on peut agir et dont on peut étre conscient. Par « lois de Comportement » jfentends des lois naturelles comme celles qui s'ap- pliquent au corps humain, par exemple : « Si vous le pincea, ileriera. » §i ous substituons « les lois du comportement qui régient sa vie » & t les lois de conduites d'aprés lesquelles il regle sa vie » dans argument ite, le dénombrement imparfait n'est plus un obstacle insurmontable. Gar nous croyons qui n'est pas seulement vrai que le fait Petre régle par des lois de conduite implique que l'on est une machine (bien que hon nécessairement une machine A éats discrets), mais que, réci proquement, le fait d'Gtre une telfe machine implique que l'on est réglé par de elles lois. Cependant nous ne pouvons pas nous convainere de Pabsonce d'un ensemble complet cle lois duu comportement aussi [a> Gilement que nous Pavons fait pour ensemble complet cles ragles de conduite. La seule manitee que nous connaissions de découvrir de tlles fois est observation scientifique, et nous ne pouvons certainement pas imaginer des circonstances nous permettant de dire ; « Nous avons assez cherché, de telles lois n'existent pas. » Nous pouvons démontrer de manitre plus convaincante qu’aucune des allirmations de ce type ne serait justifige, Car supposons que nous puissions étre stirs de découvrir de celles lois si elles exiscaient. Alors, & partir d'une machine & tats discrets donnée, il devrait certainement tre possible de découvrir, par Pobservation, assez d’éléments & son sujet pour prédire son comportement futur, ct ceci cans une période de temps raisonnable, disons mille ans. Mais il ne semble pas que ce soit le ‘eas. [ai intraduit dans ordinateur de Manchester un petit programme utilisant seulement mille unités de stockage, par lequel la machine, lorsqu'on ui fournit un wombre de seize chiflies, répond par un ausre nombre en deux secondes. Je déficrais quiconque d’cn apprendre asser. au sujet du programme & partir de ces réponses pour étre capable de prédice Ia réponse pour des valeurs non encore utilisées. 9, Llargument de la perception exir-censorele. Je pars du principe que le lecteur est familinrisé avec Pidée de In perception extra-seasoriell et les quatre éléments quien font partie, cestadire ; Ia télepathie, la clairvoyance, la préconnaissance et Ia psychokinésie, Ces phénorénes. troublants semblent remetire en cause (outes nos idées scientitiquies habituelles. Comme nous aimerions les discréditer ! Malheureusement evidence statistique, au moins pour la télépathie, est accablante. Il est Urbs difficile de réorganiser ses idées pour y intégrer ces nouveau faite Une fois que nous les avons acceptés, ce n’est pas progresser beaucoup que de croire aux fantémes et aux spectres. L'idee que notre corps se déplace simplement suivant des lois connues de la physique, et suivant quelques autres qui n'ont pas encore été découvertes mais qui leur sont telacivement similaires, serait In premidre & disparaitr. Get argument est, & mon avis, tres fort. On peut répondre que Iyeaucoup de théories scientifiques semblent continuer & fonctionner dans la pratique malgré les conics avec In perception extra-sensoriele Les ordinateurs et Pintelligence 5 que Von peut, en fait, rs bien se débrouiller si on Voublic, C'est un Seeonfort relatif, ct on craint que la pensée soit justement le type de pphénoméne potir lequel la perception extra-sensorielle est particu- ligremenc adequate. ‘Un argument plus spécifique, basé sur la perception extracsenso- riclle, pourrait étee rédigé en ces termes: « Jouons au jeu de Pimitation, én uulisant comme témoins un homme qui est un bon récepteur télépathique et un ordinateur digital. L'interrogateur peut poser des questions comme : “Quelle est la couleur de la carte que jai dans ta train droite?” L'homme, par télépathic ou clairvoyance, donne 130 fais {a bonne réponse sur 400 cartes. La machine peut seulement deviner au hasaed et peut-éire obtenir 104 bonnes réponses. L'interrogateur peut ainsi identifier. » ‘Une possibilité intéressante apparait ici, Supposons que l'ordinateur digital renferme un générateur de nombres aléatoires. MI est alors haturel qu'il Putilise pour décider de la réponse & donner. Mais alors, le géntrateur de nombres aléacoires sera sujet aux pouvoirs psychokiné- Sques de Pinterrogateur. Cette psychokinésie fera peutetre que la mnachine devinera juste plus souvent que Pon ne s'y attend d’aprés le Caleul des probabilités, et ainsi linterrogateur ne pourra toujours pas Pidentifier correctement. D'un autre cété, il se pourrait qu'il soit capable de deviner juste sans poser de questions, par clairvoyance, Avec Ia perception extra-sensorielle, tout peut arriver. Sila telépathie est admise, il sera nécessaire de préciser notre épreuve de contrdle. La situation pourrait étre considérée comme analogue & celle qui se produirait si linterrogateur se parlait & lui-méme et si Pur ddes participants écoutait avee lorcille collée au mur. Le fait de placer les participants dans une « pice aménagée pour éliminer la télépa- thie» satisferait toutes les exigences. Réflexions Notre réponse & cet article remarquable et lucide est en grande partie contenue dans le dialogue qui suit, Nous voudrions routefois commenter bbritvement la volonté allichée par Turing de eroire que la perception textea-censorielle pourrait apparattre comme l'ultime difference entre les humains et les machines qu'ils eréent. Si cette remarque doit etre prise tu pied de la letire (et non pas comme quelque douce plaisanterie), i! faut se demander ce qui 'a motive. Turing était apparerament convaincu que la réalité de la télépathie €tait bien érablic. Si c'étaitle cas fen 1950, ce n’est en tout cas plus vrai maintenant, trente-cing ans plas tard; on y croit probablement moins, Depuis 1950, de nombrouses16 Réflexions personnes ont revendiqué des dons psychiques d’un genre ou d'un autre, bien souvencavecle témoignage de physiciens assez renommés. Certains deces physiciens ont parla suite eu Pimpression d’avoir é16 dupés etsont revenus sur leurs déclarations publiques en_faveur de la perception ‘extra-sensorielle pour suivre; le mois suivant, le moiivement de quelque autre phénoméne paranormal. On peut néanimoins dice avee certitude que 1a majorité des physiciens — et probablement la. majorité des psychologues, spécialistes de la compréhension de 'esprit— dontent de existence de la perception extra-sensorielle, sous quelque forme que ce soit. Turing a trouvé un « confort relat» dans Vidée que les phénoménes paranormaux pourraient étre réconciliables avec des théories scient fiques bien écablies. Nous n'éprouvons pas les mémes sentiments. Nous pensons que si Pon se rendait compte que des phénoménes comme lz {élépathie, la préconnaissance et la télékinésie existent bien (et ont bien les propriétés remarquables qu’on leur préte généralement), les lois de [2 physique ne seraient pas simplement modifiables de facon & s'en accom moder; il faudrait un véritable bouleversement de notre conception scientifique du monde pour leur rendre justice, On peut attendre ce bouleversement avec une grande excitation, mais celle-ci devrait étre tcintéede tristesse etde perplexité. En effet, comment a science qui avait 465i bien adaptée tantde choses pourrait-elle se révéler sierronée ?Ce serait une grande aventure intellectuelle quede repenser toute la science depuis ses hypotheses les plus fondamentales, mais on ne peut pas dire que les justifications d'une telle entreprise se soient accurnulées au cours des années. DH. D.