Professional Documents
Culture Documents
Logique
et calcul
Sommes-nous réels ?
La logique spéculative rejoint la science-fiction... et n’en est que plus réjouissante.
Nous sommes peut-être les participants d’une gigantesque simulation du monde
orchestrée par nos descendants.
L
es images de synthèse deviennent indis- réflexions philosophiques ; ce n’est, au fond, que la formulation
cernables des images réelles. Le cinéma, moderne de la question posée par Platon dans le mythe de la
dans des films comme Immortel ad vitam caverne ou, plus près de nous, par Descartes dans la Pre-
de Enki Bilal ou Final Fantasy du Japonais mière méditation métaphysique. Descartes émet l’hypothèse
Hironobu Sakaguchi, utilise des person- que tout autour de nous pourrait n’être qu’une illusion créée
nages qui sont de pures créations infor- par un mauvais génie. Pour lui, cette attitude de doute total est
matiques. Un cinéma sans acteurs et sans un moyen de ne pas tomber dans l’erreur (voir l’encadré 2).
décor est aujourd’hui envisageable. Au-delà du plaisir extrême qu’apporte le doute généra-
Dans le domaine des jeux vidéo, dont l’importance lisé et auquel Descartes s’adonne avec fierté, on peut
économique rattrape celle de l’industrie cinématographique, mener des raisonnements sur la probabilité d’être dans une
les simulations informatiques de mondes imaginaires devien- simulation et de ne pas le savoir.Nick Bostrom, un philosophe
nent si détaillées que certains passionnés accordent plus de l’Université d’Oxford, a découvert, il y a trois ans, un rai-
d’importance aux aventures illusoires qu’ils y vivent qu’à sonnement convaincant qui montre que nous pourrions être
celles réellement vécues. Le jeu des SIMS propose ainsi une à notre insu les jouets d’une simulation. Cet argument de la
simulation des relations sociales entre un personnage que simulation a, depuis sa découverte, provoqué une intense
vous pilotez – votre SIMS – et les habitants d’un monde discussion chez les philosophes et les amateurs de spécu-
artificiel, mais cohérent et complexe ; c’est l’un des grands lations métaphysiques.
succès du commerce des jeux informatiques et il a su séduire
de nombreuses femmes alors qu’habituellement, seuls les
hommes sont intéressés par les jeux vidéo. On évoque aussi
Prudence et tolérance
une nouvelle maladie mentale : la dépendance au SIMS. Avant d’exposer le raisonnement de N. Bostrom, j’invite les
Il ne fait aucun doute que la capacité de nos ordina- lecteurs à faire preuve de tolérance. S’interroger sur une
teurs à simuler avec réalisme des mondes imaginaires pro- possible illusion des sens est une tradition philosophique
gresse à grands pas et que, dans l’avenir, nous serons ancienne et même si l’on ne peut aboutir à des certitudes,
confrontés à des reconstructions informatiques du monde il n’est pas absurde d’explorer aussi sérieusement que
réel encore plus frappantes de vérité. Les techniques de réa- possible de telles hypothèses. Pourquoi ne pas examiner
lité virtuelle suggèrent qu’un jour, les simulations seront indis- avec la plus grande rigueur les conclusions que des rai-
cernables du monde réel pour celui qui y est plongé. sonnements précis et contrôlés établissent sur les problèmes
Cette idée a été explorée par divers livres et films de métaphysiques fondamentaux ?
science-fiction, par exemple : Total Recall de Paul Verhoeve, Ne soyez pas choqué – c’est une réaction que l’on observe
la version cinématographique d’une nouvelle de Philip Dick, en France quand on aborde de tels sujets –, amusez-vous,
ou plus récemment Matrix des frères Wachowski, ou et si vous voyez des objections ou des éléments de rai-
encore Simulacron-3 de Daniel Galouye dont on a aussi sonnement oubliés par les débatteurs, participez à l’élabo-
tiré le film The Thirteenth Floor. ration de positions nouvelles mieux argumentées.
Tout cela conduit à la question : « Sans que je m’en rende Les croyances religieuses sont bien souvent fondées
compte, ne suis-je pas dans une simulation ? » Cette interro- sur des considérations aussi spéculatives que celles de la
gation semble ridicule, pourtant elle est au cœur de certaines métaphysique moderne pratiquée par Nick Bostrom.
Jean-Paul Delahaye
1. Fumio Hara, de l’Université de Tokyo, a construit une tête important du raisonnement est l’hypothèse d’indépendance du sub-
d’une femme japonaise commandée par des vérins hydrauliques et strat : selon cette hypothèse, si deux processus analogues se dérou-
qui peut exprimer six expressions faciales distinctes (et évidemment lent, l’un dans un cerveau, l’autre dans une machine, celui qui se déroule
tous les intermédiaires). Peut-être pourrons-nous un jour fabriquer dans le cerveau n’a pas de propriété distinctive particulière. Il en résulte
des robots qui ne seront pas distinguables d’un être humain et dont qu’en simulant avec assez de précision un cerveau, la conscience de soi
les cerveaux simuleront parfaitement le cerveau humain. La connais- présente dans le cerveau biologique se trouvera aussi présente dans
sance des sensations imposées de l’extérieur ne leur permettrait pas le cerveau simulé. Selon ce principe, on doit croire que la simulation
de savoir s’ils sont réels ou virtuels. La question posée par l’article est : détaillée d’un organisme humain produirait un être qui aurait un senti-
cette situation arrivera-t-elle et sommes-nous des robots ? Un point ment d’exister analogue au nôtre.
2. Le doute de Descartes faites des capacités demandées pour mener des simulations
Descartes pense qu’il serait possible que nous vivions dans une
de cerveaux humains et l’utilisation de la loi de Moore (dou-
illusion créée sur nos sens par un mauvais génie.
blement des performances informatiques tous les 18 mois)
« Je supposerai donc qu’il y a, non point un vrai Dieu, qui est
conduisent à prévoir qu’en 2050 au plus tard nous disposerons
la souveraine source de vérité, mais un certain
mauvais génie, non moins rusé et trompeur que
des capacités à simuler des cerveaux humains. Cependant le
puissant qui a employé toute son industrie à me raisonnement de N. Bostrom ne s’appuie pas sur ces prévi-
tromper. Je penserai que le ciel, l’air, la terre, les sions (parfois controversées) et même si notre technologie ne
couleurs, les figures, les sons et toutes les choses permet ces simulations que dans 500 ans ou dans 10 000
extérieures que nous voyons, ne sont que des illu- ans, son raisonnement reste valide.
sions et tromperies, dont il se sert pour surprendre Le cap de la simulation des cerveaux humains franchi (ce
ma crédulité. Je me considérerai moi-même que nous nommons « la maturité »), une civilisation technolo-
comme n’ayant point de mains, point d’yeux, point gique intéressée comme nous par son histoire, par les variantes
de chair, point de sang, comme n’ayant aucun de cette histoire, par la psychologie, par la sociologie, par l’évo-
sens, mais croyant faussement avoir toutes ces lution des mentalités, des langues, etc.ne manquerait pas d’uti-
choses. Je demeurerai obstinément attaché à cette liser cette capacité pour simuler des cerveaux, des interactions
pensée ; et si, par ce moyen, il n’est pas en mon sociales, des processus historiques, etc. Elle mènerait massi-
pouvoir de parvenir à la connaissance d’aucune vérité, à tout le moins vement toutes sortes de simulations incluant des cerveaux
il est en ma puissance de suspendre mon jugement. » par milliards pour comprendre tous les aspects de ce qu’étaient
Après avoir vu l’enjeu du débat de cet article, qui n’est qu’un les hommes ayant précédé l’époque de la maturité. Le
jeu, vous pourrez imiter Descartes et oublier ce que le doute nous nombre de cerveaux simulés correspondant à des êtres humains
conduit à envisager et endosser à nouveau les bonnes vieilles cer- serait incomparablement plus grand que le nombre de cer-
titudes concernant la réalité car : veaux réels ayant existé.
« [...] ce dessein [de douter de tout] est pénible et laborieux, et
En résumé, si (hypothèse 1) une civilisation technolo-
une certaine paresse m’entraîne insensiblement dans le train de
gique ne disparaît pas avant d’avoir acquis la capacité à
ma vie ordinaire. Et tout de même qu’un esclave qui jouissait dans
mener des simulations massives de cerveaux humains, et si
le sommeil d’une liberté imaginaire, lorsqu’il commence à soup-
(hypothèse 2) elle souhaite mener de telles simulations, alors
çonner que sa liberté n’est qu’un songe, craint d’être réveillé, et
conspire avec ces illusions agréables pour en être plus longue-
il y aura au total bien plus de consciences simulées dans des
ment abusé, ainsi je retombe insensiblement de moi-même dans machines que de consciences réelles provenant de cerveaux
mes anciennes opinions, et j’appréhende de me réveiller de cet assou- composés de neurones réels.Aussi, je dois m’interroger :« Suis-
pissement, de peur que les veilles laborieuses qui succéderaient à je réel ou suis-je dans une simulation ? ».Si je prends en compte
la tranquillité de ce repos, au lieu de m’apporter quelque jour et qu’il y a un bien plus grand nombre de consciences simulées
quelque lumière dans la connaissance de la vérité, ne fussent pas que d’authentiques humains, je dois considérer très probable
suffisantes pour éclaircir les ténèbres des difficultés qui viennent que je suis dans une simulation.
d’être agitées. » Ce dernier pas dans le raisonnement de N. Bostrom pro-
vient du « principe d’indifférence » utilisé pour évaluer des pro-
loin aujourd’hui ! –, on considérera que ce fonctionnement est babilités. Ainsi quand nous prenons une bille dans un sac
indépendant du substrat matériel, et que neurones ou tran- contenant 10 000 billes rouges et 10 billes bleues et que nous
sistors se valent. En particulier, la conscience de soi sera pré- n’avons aucune information sur la bille saisie, nous considé-
sente dans le cerveau artificiel simulé par la machine comme rons très probable d’avoir pris une bille rouge (probable à 1 000
elle l’est dans le cerveau biologique. Nick Bostrom précise contre 1). Dans le raisonnement de N. Bostrom, je sais que je
que ce principe d’indépendance du substrat, discuté par cer- suis un être humain situé dans une civilisation n’ayant pas atteint
tains philosophes, est considéré comme allant de soi par nombre la maturité, je sais (sous réserve des hypothèses 1 et 2) qu’il
d’entre eux (les fonctionnalistes), et par la majorité des spé- y a un bien plus grand nombre d’humains simulés (les billes
cialistes des sciences cognitives.Nous reviendrons sur ce prin- rouges) que d’êtres humains réels (les billes bleues), donc selon
cipe, mais, pour l’instant, retenons que Nick Bostrom l’intègre toute vraisemblance, je suis un être simulé (bille rouge).
dans son argument.
Si une civilisation technologique parvient à simuler des cer-
veaux humains et leur environnement, alors les cerveaux simu-
Reformulation équivalente
lés auront l’illusion d’être dans des corps réels, entourés Le raisonnement que nous venons de présenter établit que
d’environnements réels ;pourtant ils n’existeront que de manière soit, l’une des hypothèses est fausse, soit la conclusion est
virtuelle. De tels cerveaux simulés auraient raison de douter vraie. Autrement dit, comme annoncé plus haut, l’une des
comme Descartes le propose, car pour eux « le ciel, l’air, la trois affirmations suivantes est vraie :
terre, les couleurs, les figures, les sons et toutes les choses – Éventualité 1.L’hypothèse 1 est fausse.Toute civilisation tech-
extérieures [...] ne sont que des illusions et tromperies ». nologique disparaît avant qu’elle ait atteint la maturité.
Le niveau technologique permettant de réaliser de telles – Éventualité 2. L’hypothèse 2 est fausse. Les civilisations
simulations atteint, il serait possible de les mener à très technologiques à maturité ne souhaitent pas mener des
grande échelle, car faire fonctionner des machines de simula- simulations de grande précision incluant des cerveaux humains.
tion est d’un coût dérisoire comparé à celui du développe- – Éventualité 3. Ma vie et mon environnement sont des illu-
ment et de la mise au point des simulateurs. Les évaluations sions, car je vis dans une simulation.
Une autre idée encore a été évoquée par B. Dainton sous faits incohérents, des parasites ou l’équivalent des gros pixels
la forme d’un paradoxe autoréférent. D’après cette idée, il faut carrés qu’on voit apparaître sur nos écrans de télévision et
envisager que les générations futures informées de l’argument qui sont l’indice d’un processus de décompression d’images.
de la simulation prendront des mesures pour y échapper et Si nous étions simulés, d’après J. Barrow, nous le saurions
édicteront des lois pour interdire la simulation de cerveaux immanquablement à cause des imperfections inévitables de
humains. L’argument là encore semble peu convainquant : si toute technique de simulation. Puisque rien de tel ne se pro-
les simulations sont possibles, et qu’elles ont, comme aujour- duit, nous ne sommes donc pas simulés.
d’hui, des intérêts ludiques, scientifiques et pratiques, on ima- Si J. Barrow a raison, l’hypothèse 5 doit être retenue :
gine mal qu’on y renonce sur la base d’un éventuel retour de le principe d’indifférence ne peut pas s’appliquer comme le
manivelle métaphysique, plus amusant que sérieux. Au total, propose Bostrom car, à cause des défauts inhérents aux
aucune forme de l’éventualité 2 ne paraît vraisemblable. simulations, tout se passe comme si nous voyions la cou-
leur de la bille choisie. On pourrait répondre à J. Barrow
L’âme ou le vitalisme que rien ne permet d’affirmer que les simulations menées
dans le futur seront toujours imparfaites, mais il y a une
Venons-en à l’éventualité 4, c’est-à-dire à la remise en cause meilleure réponse encore.
du principe d’indépendance du substrat. Est-il bien certain que nous ne sommes pas sans cesse
Bien que ce principe ne soit pas admis par tout le monde confrontés à des imperfections et incohérences de la simula-
(John Searle, Roger Penrose et J.-C. Eccles par exemple le tion dans laquelle nous sommes peut-être plongés ? Notre
mettent en doute), il est difficile de comprendre pourquoi deux monde physique n’est-il pas étrange ? La mécanique quan-
processus en tout point similaires – l’un se déroulant avec de tique n’est-elle pas illogique ! Pourquoi n’arrive-t-on pas à récon-
vrais neurones, l’autre dans les mémoires d’un calculateur – cilier la théorie de la relativité et la mécanique quantique qui,
ne donneraient pas tous les deux naissance à de la conscience jusqu’à présent, sont contradictoires ? Ces bizarreries ne sont-
si l’un y parvient. Y aurait-il quelque chose de magique dans elles pas des preuves indirectes que nous sommes dans une
la matière vivante qui permettrait à la conscience d’apparaître ? simulation ? Les paradoxes rencontrés en logique, les com-
Le croire amène à soutenir les théories religieuses sur le portements humains incompréhensibles (par exemple l’ab-
dépôt d’une âme par Dieu dans les cerveaux humains (exclu- surde attitude des Américains voulant à tout prix attaquer l’Irak),
sivement), ou des théories ressemblant au vitalisme du XIXe siècle mille autres faits du monde qui nous entoure ne pourraient-ils
que la biologie et la médecine modernes ont rejeté. pas être interprétés comme des indices qu’il y a des bugs
Le principe d’indépendance du substrat s’impose logi- dans le logiciel de simulation qui commande notre monde ?
quement ; c’est une forme particulière de l’affirmation que des Finalement, la critique de J. Barrow niant qu’on puisse uti-
causes semblables produisent des effets semblables. Aucun liser le principe d’indifférence ne sera pas retenue.
argument compatible avec les conceptions scientifiques Puisqu’aucune des éventualités 1, 2, 4 et 5 ne semble
majoritairement admises aujourd’hui ne le remet en cause. sérieusement envisageable, reste donc uniquement l’éven-
L’éventualité 4 ne paraît donc guère plus défendable que les tualité 3 : je suis dans une simulation.
deux premières et doit donc, comme elles, être écartée. Bien sûr, nous ne prétendons pas dans les lignes qui pré-
cèdent avoir définitivement tranché la question, mais en argu-
Bugs dans la simulation mentant contre toutes les propositions qui auraient pu conduire
à retenir une autre éventualité que l’éventualité 3, nous avons
Reste l’éventualité 5 :contester qu’on puisse appliquer, comme montré que le problème soulevé par le raisonnement de N.Bos-
N. Bostrom le propose, le principe d’indifférence. La compa- trom est délicat et qu’il n’est vraiment pas commode d’exclure
raison avec le choix d’une bille dans un sac où les billes que nous sommes dans une simulation.
rouges sont largement majoritaires est naturelle :toutes choses Suivons maintenant Descartes, oublions tout cela et retour-
étant égales, si parmi les consciences ressentant ce que je res- nons à nos préoccupations habituelles.
sens, il y a 1 000 fois plus de consciences simulées que de
consciences réelles, et que rien ne me permet de percevoir la
différence entre « être une conscience simulée » et « être
Auteur
une conscience réelle », pourquoi devrais-je croire que je Jean-Paul DELAHAYE est professeur d’informatique à l’Université de Lille.
suis dans le cas ultraminoritaire des consciences réelles ? Nick BOSTROM, Simulation Argument : site internet donnant accès aux prin-
L’éventualité 5 d’une erreur dans l’utilisation du principe d’in- cipaux articles sur le sujet : http://www.simulation-argument.com/
& Bibliographie
différence n’est donc défendable que si, lorsqu’un cerveau Nick BOSTROM, Are You Living In a Computer Simulation ? in Philosophical
est simulé, il réussit à le savoir. Quarterly, vol. 53, pp. 243-255, 2003.
Se pose donc la question suivante sur laquelle John Bar- Brian WEATHERCON, Are You a Sim ? in Philosophical Quarterly,vol. 53, pp.425-
row (le célèbre physicien-cosmologiste de Cambridge) a 31, 2003.
attiré l’attention :ne pourrait-on pas découvrir que nous sommes R. KURZWEIL, The Age of Spiritual Machines: When computers Exceed Human
Intelligence, Viking, New York, 1999.
simulés à l’aide d’indices indirects ?
Robin HANSON, How to Live in a Simulation, vol. 7, in Journal of Evolution
Pour J. Barrow, la réponse est qu’aucune simulation ne and Technology, 2001.
peut se faire sans que les cerveaux simulés ne s’en aperçoi-
Bruno MARCHAL (voir http://iridia.ulb.ac.be/~marchal/) propose une réflexion
vent.Si nous sommes dans une simulation, les inévitables bugs originale sur les questions de cet article.
et imperfections dans le logiciel de simulation produisent des