Scribd Logo
Upload

Welcome to Scribd!

  • Philosophie HS 2023 Printemps

    Uploaded by

    pn
    10 views116 pages

    Copyright

    © © All Rights Reserved

    Available Formats

    PDF or read online from Scribd

    Did you find this document useful?

    Is this content inappropriate?

    Report this Document

    Copyright:

    © All Rights Reserved
    Download as PDF or read online from Scribd
    Flag for inappropriate content
    10 views116 pages

    Philosophie HS 2023 Printemps

    Uploaded by

    pn

    Copyright:

    © All Rights Reserved
    Download as PDF or read online from Scribd
    Flag for inappropriate content
    of 116
    ‘x Oa Ea RU ed ] ETE Ra) = I Eee =, r Un algorithme va-t-il Fy ‘ TRE Ae Lb 268. Me ALE a EXT cd" 3 06'6 4-H ash ingénieur le jour, étudiant le soir deux ST SE SCAU) TSEC) philosophie donne une autre dimension & son EOS Se OSEZ LA PHILOSOPHIE de Philosophie en cours du soir en présentiel ou en distanciel E Y , sols] Réunion d'information Pee kU ELT lO} Sar erin all ly a quelques semaines, un ingénieur de la Nasa, ébahi par les performances de ChatGPT qu’il avait sollicité pour concevoir le hardware d'un vaisseau spatial, s'est confié au New York Times. Lintelligence artificielle (IA) lui avait proposé, en moins d’une heure, prés de quarante solutions pour parvenir & une forme trois fois plus légere et trois fois plus résistante que celle que son équipe et lui auraient mis des mois a élaborer. Parmi ces solutions, certaines étaient humainement non modélisables ct d’autres comportaient des erreurs invraisemblables. Mais le résultat était 14. onclusion de Vingénieur: « C’est comme collaborer avec un alien, » Un Alien, vraiment? LIA est aujourd'hui le lieu de tous les fantasmes, de toutes les craintes et de tous les espoirs. Dans ce hors-série, nous avons demandé a des philosophes de faire le tri. Comment penser ce moment de bascule? De quoi parle-t-on et quelles sont les questions essentielles ? Le philosophe Nick Bostrom plaide ici pour donner un « statut moral » aux esprits numériques quand ils adviendront ~ ce quiil juge inéluctable -, tandis que trois linguistes, dont Noam Chomsky, considérent au contraire que ces programmes sont « blogués dans une phase préhumaine ou non humaine de Pévolution cognitive ». Daniel Andler, mathématicien et philosophe, remarque, lui, qu’une intelligence désincarnée manque de Pessentiel: il faut un corps pour s’engager dans le monde. Pas de chair, certes, mais du Verbe en pagaille. Et c’est le probleme numéro un, « Das que le role du langage esten jeu, le problime devient politique », notait Hannah Arendt (en 1961). Dans La Crise de la culture, elle anticipait @ailleurs qu’il « se pourrait que nous ne soyons par Sven Ortoli Plus jamais capables de comprendre,cest-i-ire de penser et d'exprimer, rédacteur en chef les choses que nous sommes cependant capables de faire. En ce cas, tout Ov Ectieer se passerait comme si notre cerveau, qui constitue la condition matérielle, physique, de nos pensées, ne pouvait plus suivre ce que nous faisons, de sorte que désormais nous aurions vraiment besoin de machines pour penser et pour parler notre place, » Bien vu. Derriére ChatGPT, Bard et tous les algorithmes conversationnels, constate Vessayiste Meghan O’Gieblyn, les modéles de langage utilisés sont analogues aux prisonniers de la Caverne de Platon, essayant d’approximer les concepts du monde réel partir du « jew d’ombres insaisissable du langage ». Mais leur caverne est opaque a nos yeux, et qui peut dire quelles sortes @’ombres ils créent & partir des données que nous leur transmettons? Alien, moins qu’humain, plus qu’humain? Qu’y a-t-il dans la caverne? Et qu’en espérons-nous? Dans Alien, la résurrection, le quatrigme opus de la série, Ripley, le personnage principal joué par Sigourney Weaver, se lie d’amitié avec une jeune fille, avant de découvrir qu’elle est un androide fabriqué par les machines. « P'aurais dit ‘m’en douter, aucun étre humain n'est aussi humain. » On peut réver. INTELLIC 3/ €pITo PLOSOPHIE MAGAZINE HORS-SERIE NCE ARTIFICIE! LE MYTHE DU XX» SIECLE PLOSOPHIE MAGAZINE HORS-SERIE CONTRIBUTEURS /4 - Elles/Ils Senne sss Ont Contribué “rivin sates sponge (2014, trad. Dunod, 2017). 1! médite les ce nuMEro... ro scseinss prochain de superintligences, p80, Laurence Devillers est profeseur 8 la Sorbonne en informatique applique et cher Daniel Andier est mathématicen et phi- _cheuseau CNRS, sein da Laboratoire di losophe, professeur émérite de Tuniversité formatique pou la mécanique ets sciences Paris Sorbonne. Ma codirigé La Cognition. de Tingénieur (Limsi. lla notamment po: Du neurone dla culture (Gallimard, 2018) 11 bh Des obs et des hommes (Pron, 2017), Les 20) et nouvel ouvrage, ntellgence artifice, intell- La Souveraineté numérique dans laprs-rise ‘gence humaine. La double énigne (Gallimard, (L/Observatoire, 202) Flesouligne ks limites 2023),p.30 esintlgencsartifiiles actuelle. 40. explique,dansun entretien, ks apport deson Robots émotionels (Observatoire, Noam Chomsky es linguiste et philo sophe,profescurémérte as MIT, Fondateur ‘Stefania Gherea est étudiante Sciences Po Paris en afatespublques et diplamée de université Berkeley (Californie) en écono: ‘mie. En 2001, elle cre es « Shots de Philo» dela grammaire ginérative,sonceuetouche Ane multe de domaines mais inerroge en particule les apports dela pensée et du un podcast de philosophie destination des langage Il déconstruit Fide que ChatGPT_lycéens qui préparentle bac. Eleaparticipe pouraitmatiserlelangagehumain,p.H4, _entrtien avec Meghan O'Gicbyn, Nick Bostrom est un philosophe suédois, cofondateur de la World TranshumanistAs- Apolline Guill ext journalist. N mallee, agrégé de philosophic, phim sociation (deverue Humanity),et diectour HEC, ll sinéress aux questions ies la detinstiutpourfivenirdeThumantédepuis technique ct innovation. Ele wiéchitaux 2005, Ist notamment Fauteur un article transformation monde du travailatheure rmarquant, « Are you living in a Computer delLA,p.62. ences & PENS Paris, Spécaliste lest notamment auteur de ‘males venir de homme (Fayard, 2010) Son demierouvrage, Machines insurectionnelle Une théove pst biologique de vivant (Fayard, 2021), propose une réflexion sur nos rela tions avecles robots I prend au sérieux ide Fumitigaveclesrobots 8 ‘Meghan O'Gieblym est une grivaine, tovalistectesayste americane, Diplimée de University of Wisconsin-Madison aps des ‘ces de théologie au Moody Bible Insitute lle notamment publi ntror States (An- chor, 2018) et Ga, Human, Animal, Machine (Doubleday, 2021) Fle explore Jogi, théclogie et mythologie,le nouvel ima retesino imac social néavecTA,p. 6. a Raphai Oliver dipkin de coe pal technique et dactorant en inteligenceatii- ciel Tuniversté Carnegie Mellon, &Pits- ‘burgh Ptats- Unis). Sa recherche pote surles models audio du langage ees questions de stourtscesATIA tI déeryptekiles cients modes de dep kerning les methods ap prentsageadoptées par TTA, p24 G riouny, san cont ce parle Sudio UEcaireur our luster les pages du magne comme enfiata guche philosophie wo1se,ownescsrn oun o osm Shoephomag cart / Offer abonmement: 0 hiloras or Dusan: MP7 Contt pours ss (0488151242~ lien Tee jtesserausetes PEFC tarsi Ta ration France (0143604610, | camanere etter Jt Tees ‘©. Wey ct Poni ei eC, Se Lae pr Pei, Pi Nanny; eo ee Ws PF. Dans la Caverne des IA [vil EMOTIONS} Entretien avee REFAIRE Meghan O'Gieblyn SA VIE AVEC PP.6-3 UN ALGORITHME? ceemiege Peut-on étre ami avec un robot? Entretien avee Dominique Lestel pp. 88-92 Intelligence artificielle Des automates a ChatGPT Voules-vous coucher avec PIA ce soir? Par Samuel Lacroix Fonetionnalisme ¥s, connexionnisme eH PP-93 ce Tout ce que vous avez PARLER, LES IA toujours voulu savoir gS 7-CEPENSER? © MENACENT-ELLES sur le deep learning : MON EMPLOI? Par Raphaél Olivier A.quoi gasert? pp-2427 Entretien avec ‘Travail: avec ou x Laurence Devillers contre les robots? pp. 40-42 Par Apolline Guillot DESI = 6266 ala Monnaie de P: p62 la Monnaie de Paris ESPRITES-TULA? Les fausses promesses x pp.97-102 La pensée humaine de ChatGPT rar peneiee eeealle aah ar Noam Chom: CATER invention du paysage Entretien avee Tan Roberts et i Paysage. Fenétre Daniel Andler Jeffrey Watumall QUIELLES ONT sur la nature, epaoad PP. 448 DE PLUS (OU DE au Louvre-Lens a x MOINS) QUE MOI? p-103-108 Ge qu'en pense. ChatGPT va-til io Hubert Dreyfus LES MACHINES nous remplacer? cee «Peut-on penser —YONT-ELLES NOUS a" Martin Legrox one sans corps?» FAIRE LA MORALE? Pp.70-76 ar GuIRTe Ms si x ~ Les voitures Premios Ce qu’en pense... sauront-elles bien Daniel Dennett se conduire? UIA PEUE DE «Nous sommes faits Par Alexandre Lacroix LA SINGULARITE? de robots » Pp-52s8 « Une superintelligence P36 a pourrait nous Ceqvenperee. Joseph Welrenbaum — GENCE ARTIFICIE! INTELLIC LE MYTHE DU XX» SIECLE 7 / ENTRETIEN PLOSOPHIE MAGAZINE HORS-SERIE ENTRETIEN /S PLOSOPHIE MAGAZINE HORS-SERIE > parlent de risque existentiel évoquent une course aux armements pour dissimuler des ambitions plus terre Aterre argent et de domination du marché. Si vous pou- ‘vez.convaincre tout le monde que la réalisation de Vintel- ligence artificelle générale (ouAGI) est ila fois risquée et inévitable, vous incitez les gens & poursuivre cet objectif| dunemanigre prudente etjudicieuse. Sinon, quelqu’un de mal intentionné le fra, C’est 'argument avancé par Sam Altman et @autres. Maisil est difficile d’étre prudent et judicieux lorsqu’on est dans une course aux armements, et la vitesse laquelle es grandes entreprises sortent de nouveaux modéles ne suggere pas quelles prennent les précautions nécessaires ou qu’elles réfléchissent vrai- ‘mentauxconséquences sociétales plus larges. Les incita tions des entreprises sont tr différentes de celles d'un gouvernement ou d'une organisation a but non lucratif, Une grande partie de 'LA étant basée sur des techno- logies prédictives, les personnes qui la construisent com- prennent trésbien le pouvoirdelapréiction etla manigre dont les prédictions peuvent étre causées par PIA elle- meme, Dans le domaine du deep learning, on a beaucoup parlé desboucles derrétroaction et de lamanigre dont elles finissent par produire des prophéties autoréalisatrices. Lalgorithme qui suggére des produits susceptibles de vous plaire surla base de vos achats précéclents ou le mo- die inguistique qui tente de prédire le prochain mot que ‘vous allez taper parviennent souvent & devancer le choix. que vous auriez fait naturellement: en vade méme pour les prédictions humaines concemant favenir: Une fois que le publica entendu, encore et encore, que la superintelli- ‘gence atificelle est venir, il est plus susceptible de Pac- cepter comme inévitable et moins enclin & prendre des ‘mesures contre elle, ou remettre en question les moyens spécifiques par lesquels elle est développée. « De nombreux pr anthropomorphisons les Blake Lemoine, ingénieur chez Google, a été licencié aprés avoir déclaré que ses conversations avec le modeéle de langage ‘neuronal conversationnel LaMDA avai convaincu d avoir affaire & une IA consciente, laquelle a affirmé quelle était stressée...et s'est méme comportée comme telle. C'est un critére? Le comportement identifié par Lemoine est celui «une machine qui enfreint ses régles, un scénario clas- sique en science-fiction: lorsqu’un ordinateur commence Aagir hors seénario, cest qu'il est conscient. Mais ily a ‘eu de nombreux cas ot des personnes interagissant avec des chatbots ont réussi it leur faire dire des choses allant aencontre de leurs propres régles. Kevin Roose, chroni- ‘queur au New York: Times, a réussi faire parler ChatGPT dechoses qu'l était programmé pour ne pas dire..juste en ‘commengant son message par «cect est un soénarioimagi- naire esttotalementhypothetigue». Lemoine afaitaméme chose avec LaMDA pour produire des résultats qui allaient Aaencontrede sesrégles. Le modlenétait pas stressé:ces ‘hommes savaient surtout comment utiliser les bons mots- «lés dans leurs messages pour contourner les régles. Les 7 E ARTIF! LE MYTHE DU XX» SIECLE INTELLIGE! Q / ENTRETIEN PLOSOPHIE MAGAZINE ENTRETIEN Et je nai pas encore rencontré de machine spiri- tuelle, Pour instant, je ne pense pas qu’elles existent. Que pensez-vous des modétes de langage comme ChatGPT? Vous dites quils peuvent parfots dre quelque chose de profond ou qui a ‘au moins, une « syntaxe de (a profondeur™, Gesmoddles linguistiques sont formés pour identifier des modeles mathématiques dans le langage -une version complexe de fautocomplétion. ls comprennentla syntax d'une phrase, mais pas vraiment a signification séman- tique des mots. Is peuvent prédire quel prochain mot de votre phrase devrait étre « chien », maisils wont jamais wa de chien. Cet ts différent dela fagon dont es humains apprennent le langage. Lorsqu’un enfant apprend parler, quelqu’un hui montre un chien ou Fimage d'un chien, etl associe e mot image. Pour Finstant, la plupart des mo- déles de langage vivent dans cette matrice de langage désin nieurs tentent de reproduire un mode ou « onriques ». Mais ces grands modéles de langage formés sur Pensemble de internet, sur des millers de livres, sur tous nos mythes, sur toute notre culture humaine, ne sont pourtant pas réellement con- scients,Ilsne font que des associations statistiques entre les choses. Lorsqu’n modele écrit une nouvelle ou un pote, ily a quelque chose de familir, de la méme ma- nie que les réves ou les mythes sont families. est un peu comme si ces modéles de langage étaient une mani- festation de Vinconscient collecif humain, ‘Vous avez parlé des tangages type LaMDA comme lune sorte de « corpus mysticum ». Cest-a-dite? ‘Crest une expression qui mest familigre en raison de mon éducation religieuse: le corpus mystcun, ou le corps du Christ, Cest Pidée que tous les chrétiens qui ont vécu forment, ensemble, une entité, une personne métapho- rique. D’une certaine maniére, cela resemble la fagon dont les entreprises sont traitées par notre systéme ju- ridique aux Etats-Unis, Les sociétés ont certains droits ct priviléges généralement réservés aux individus: pre- ‘ier amendement, liberté d'expression... Les modeles de langage sont également des agrégats ls vont pas de soi centralisé.I Sagi simplement de vastes réseaux neu- rronaux trés complexes possédant de multiples facettes = LaMDA r’est pas un chatbot, mais plusieurs chatbots guicollaborent. ChatGPT pourrait alors étre considéré comme une personne morale? Des gens défendent le statut de personne pour les systdmes environnementaux, done ily a certainement “unprécédent. Lors d'une conférence a Stanford en 2018, Blake Lemoine a déclaré que PIA n’était pas assez.com- plexe pour justifir le statut de personne juridique, car ‘ses motivations sont trés simples. Les humains ont des ‘motivations complexes, au point que nous nous sentons parfoisen guerre avec nous-méme. Actuellement, "IA ne cherche qu'une chose: maximiser une fonction d'utilté Encesens, Lemoinea déclaré qu'elle était trés semblable aux entreprises, qui essaient de maximiser leurs profits. Je mintéresse aux similitudes entre PIA ct les en- ‘reprises, et la maniére dont les humains confondent souvent des motivations simples avec des motivations plus complexes. Beaucoup de personnes quidéveloppent ces technologies chez. Google ou OpenAl pensent leur travail en termes moraux et éthiques: ils disent quills essaient de rendre le monde meilleur, Mais en réalité, leur motivation est..le profit. Ainsi le danger quiexiste, aut-dela de Vanthropomorphisation des machines, est Vanthropomorphisation des entreprises. Le développement de U1A va-t-il brouiller tes frontiéres entre humains, animaux et machines ? LIA brouille déja ces lignes. Au sein des —> 7 E ARTIF! LE MYTHE DU XX» SIECLE INTELLIGE! V1 / ENTRETIEN PLOSOPHIE MAGAZINE PLOSOPHIE MAGAZINE HORS-SERIE ENTRETIEN /12 > higrarchies médiévales de lanature,on trouve cette mage qui montre deshumains au sommet dumonde juste en dessous de Diew et des anges. Viennent ensuite les ani- ‘aux et, tout en bas, les objets inanimés - rochers, outils, etc. La raison de notre position si haute dans la higrarchie était que nous étions doues de raison: nous sommes ca- pablesde pensée abstraite, alors quelesanimauxnont que des émotions et des expériences sensorielles. Cette hié- rarchie a été bouleversée avec apparition des premiers ordinateurs,trés doués pour larson ctlapensée abstraite ils peuvent battre les humains aux échecs, ce qui était au- trefois le summum de intelligence humai Aujourd’hui, nous disons que ce qui fait de nous des étres humains, ce sont nos émotions, précisément ce que nous partageons avec les animaux. Les robots joueurs 'échees ne se préoccupent pas de savoir si leurs femmes stennuient en regardant le jeu, Ilsn’éprouvent nilajoie de {gagner ni la douleur de perre. Cela montre & quel point Texceptionnalisme humain est une cible mouvante: nous essayons toujours de trouver de nouvelles raisons qui nous rendent uniques. Et ce mouvement est tres rapide, ‘Au cours des dix dernigres années, de nombreux experts conseillaient aux gens de sorienter vers des domaines créatifs afin de survivre & Vautomatisation. Is disaient quiune machine ne serait jamais capable d'écrire un son- net ou de composer un concerto. ‘Vous citez ta théoricienne du posthumain Jane Bennett, qui croit au réenchantement des « comestibles, des marchandises, des tempétes et des métaux» qui « agissent comme des quasi-agents, avec leurs propres trajectoires, ppotentialités et tendances. De quelle maniére UIA nous améne-t-elle & repenser la fonction des objets inanimés? Dans les pays shintoistes ou bouddhistes, comme le Japon, il est courant de considérer les objets inanimés comme vivants ou inspirés. A Tokyo,on voit dansles parce des tombeaux de lunettes ou de cordes de violon cassées. Ces objets inanimés ont fait Pobjet de rites funéraires. Certains affirment que c'est pour ga que ces cultures sont plus ouvertes aux robots et nvont pas peur d’étre remplacées par eux. IIn'ya pas de division nette et tran- chée entre Pesprit et la matiére, il existe un sentiment de respect mutuel entre es humains et les objets ordinaires. intelligence artificielle pourrait permettre au reste du monde de se rapprocher de cet état d'esprit. En devenant plus. Paise pour parler aux chatbots et aux objets intell- ‘gents, nous pourrions devenir animistes, du moins dans notre comportement, Mais les idées occidentales ne dis- paraitront pas aussi facilement. Nous avons des mythes plus inquiétants sur les interactions entre la machine et homme: Prométhée, Frankenstein, Terminator... Les machines risquent-elles de s'appuyer surles émotions ~ les nétres ou celles qui fous leur attribuons - pour nous manipuler? LIA « émotionnelle » a fait Pobjet de nombreuses recherches et a regu beaucoup d'argent. II s'agit essen- tellement de Iui apprendre a imiter les émotions hu- maines... ce qui conduit les gens & Yanthropomorphiser. Ces chatbots seront utilisés pour remplacer les moteurs de recherche, qui tirent Pessentiel de leurs revenus de la publicité, elle-méme reposant sur la persuasion. Les chatbots qui comprennent la psychologie humaine ont le potentiel d’étre émotionnellement persuasifs et ma- nipulateurs. Ly a beaucoup d'argent a gagner avec cela, et la plupart des grandes entreprises nvont pas parlé coneritement de la fagon dont elles monétiseront les ‘moteurs de recherche pilotés par des chatbots. Google envisage de transformer son « mode recherche » de telle sorte quon puisse dicter tune question et obtenir une réponse du chatbot. (On passerait dun index a une sorte doracte, comme vous dites. On s'approche du religieux? lest trés possible que des chatbots devenus suffi- samment puissants se voient attribuer des qualités reli- gieuses. Cela évoque les mythes de personnes ayant un accis directtDieu. Méme siles gens comprennent qu’ilne Sagit que outils complexes, cela va assurément rendre notre épistémologie plus religieuse. Depuis le sigcle des Lumiéres, nous partons du principe que la connaissance ‘exige de comprendre ~ comprendre non seulement que «quelque chose va se produire, mais aussi pourquoi cela se produit, ou quels sont les processus qui contribuent ce résultat. Ges algorithmes peuvent faire des prédictions in- ‘royablement précises mais ne peuvent pas expliquer leur raisonnement, Nous les uilisons déj aux Etats-Unis pour guider toutes sortes de décisions: il existe des modéles application de la loi qui prédisent of et quand un erime peut se produire, @autres utilises par les institutions fi- naneiéres pour approuver ou non une demande de prét. ‘Ces modéles sont généralement bons en matigre de pré- diction, maisilsne peuvent pas dire comment ilssavent ce ‘Nous téléchargeons activement nos photos, nos mots, dans ce royaume en ligne controKé par cing grandes en- treprises, qui collectent toutes ces données sur nous et sgagnent beaucoup dargent. D'une certaine manire, une version plus sombre et moins glamour de la singularité est déja en train de se produire: notre identité réelle se détache de notre empreinte numérique. Lhégémonie des superintelligences riest donc pas une menace réelle?, Le plus grand danger politique que pose PIA est son opacité accrue. On parle souvent de 1984, POrwell, comme du modéle du capitalisme de surveillance, cette {dée que les technologies nous observent en permanence, collectent nos données, représentent un danger pour la vie privée. C'est vrai dans une certaine mesure, mais le récit dystopique le plus pertinent est Le Pract, de Katka, Vhistoire d'un homme arrété pour un crime quil est cen- sé avoir commis mais dont personne ne peut Iui dire la nature. Il existe un vaste systéme bureaueratique dans equel méme les personnes censées etre responsables et administrer la punition ne comprennent pas comment i fonetionne ni pourquoi elles font ce qu’elles font. C’est le systéme que PIA est en train de eréer et nous y vivons déjaun peu. Ilya quelques années, dansle Wisconsin, un hommes été condamné. une peine exceptionnellement sévere, Lorsquril a demandé pourquoi sa peine de pri- son était aussi longue, on lui a répondu que Palgorithme avait identifié comme présentant un risque élevé pour la communauté. Lorsquila demande plus d'informations, personne n’a pu li dire pourquoi Palgorithme avait pris cette décision. Cait une boite noire. Dun autre c6té, ces Al peuvent parfois améliorer ‘nos décisions ou nos vies politiques ainsi que la qualité de notre vie politique démocratique, non? La technologie est un outil, ga dépend done de la maniére dont elle est utilisée. Dans une socité capita- liste, ellevaservirdamplifierles choses qui se produisent dgja. Au début de internet, tout le monde pensait que cela signifiat la fin des structures de pouvoir, des higrar- chies. Tout le monde allait pouvoir s'exprimer. Au final, les mémes structures de pouvoir qui existaient avant In- ‘ternet ont trouvé le moyen de tirer parti de la nouvelle technologie et de dominer les espaces mumériques. Au- jourdhui, prés de 60% du trafic sur Internet est contrélé par cing grandes entreprises. Twitter est dirigé par un milliardaire qui Poriente activement vers ses objectifs. Lesdémocraties ont tendance &dériver vers des solutions technocratiques. histoire montre que la technologie ne résout pas tantles problémes qu'elle ne les amy Diriez-vous que L1A est le mythe du XXI' siécle ‘comme le désenchantement du monde observé par Max Weber a été un mythe du XX" siécle? Ledésenchantement décritune expérience subjective aque les gens daujourdhui ressentent de maniére aigué, NCE ARTIFICIE! LE MYTHE DU XXF SIECLE INTE! 15 / CHRONOLOGIE OPE MAGAZINE ERIE f ‘ET SCIENTIFIQUE ‘ET INTELLECTUELLE ETARTISTIQUE 11645 F fa Binder publient la nouvelle © Descartes dvi au © Charles Babbage imagine J, Robot.) cate marquis de Newcastle — sans parvenir a l'aboutir — Utilisé par les astrologues que le propre de "homme la« machine analytique », | AEE arabes pour ginérer est de parler « 4 propos ».6 pergue comme 'ancttre Isaac Asimov et John W mmécaniquement des pensées des odinatous. Campbell frmulent es «tos supposées logiques. I fos de fa robotque : 1. Un © Hobbes, dans Leviathan: robot ne peut porter atteinte ia « Laraison(...J0vest rien @ Ada Lovelace erée {un étre humain ni laser © Lingénieu arabe autre que |.) 2dltion fe premier programme un humainen danger. 2. Un ‘A-lazaicrée de nombreux et la soustraction des suites informatique censé étre robot doit ober aux ocres automates. ‘des noms généraux sur exécuté par lamachine des res humains, saut si (© Roger Bacon aurait cangu _lesquels nous nous sommes analytique de Babbage. cela conte la premidre un « homme defer», ‘mis d’accord pour marquer Ic. 3. Un abot dit protéger «automate dou de la parole, et signifier nos pensées. » ©) ERIM son existence, tant que cette Lu] androide prodigieux, » 6 © George Boole formalise protection ne contredit pas 11566 | mathématiquement les les deux premigres lois. @ no © Dans son De arte ragles du raisonnement dans {© Dans De anima, combinatoia, Leibniz Les Lois de a pensée.) AER Albert le Grand imagine imagine un algorthme © Inspire parla cybemétique ue Minerve de bois capable capable de démeler 11873] naisante, Wiliam Grey © | sobdir aux ores. le vai du fauxet 'éviter © Dans Homme le plus Walter crée ls « Tertues 7 les ambigutés du ngage dowd du monde, Edward de Bristol», considérées ~ | [= naturel en codant les Page Mitchellimagine un core les premiers robots w | © Dans-son as magna, concepts c'unraisonnement homme au cerveauremplacé - mabilesautonomes.) oO Raymond Lulle imagine par des nombres. par un ordinateur. © & | tnmmcansme combinant | Ges ealels retin» 32] © | atatotement des concepts | réduit ainsi « fous es IN {© Warren Weaver développe Z | pourprodure desidées.69 raisonnements humains © Léervan John Campbell idée de traduction 3 ‘une ceptce ce cau! »@ aque dane Tre Last etomatque des argues. 6) = | ie Evolution, des « machines ¥ © Léonard de Vinci iz (ud bien plus intedigentes TEEN congoit un lon automate @ Jacques de Vaucanson —_que.nous {..]capables Alan Tuing formule son pour divert Frangois *. 6 fabrique un canard de s'adaper a oii célabre test lie ciconte).@ de cure qui bot, mange, aux circonstances ».6@ __-@ Dans atc « What the 7 chante, digére et défeque. Frog's Eye Tells the Frog’s ‘0 Wilhelm Sehickard Son abdomen transparent EEK Brain», Waren McCullech et essine dans une letre permet dabserer le © Dans Le Miroir fleuble, Walter Pits thérisent idée Lune « horlge calculate »..._ processus de digestion.6@ Régis Messac imagine de « neurone formel»,urités aqui ne vera jamais fe jour. un monde ob des lémentares dates entrées mm + mécanozoaires » assistent et de sotties. Lesprit serait 11640) ‘© Wolfgang von Kempelen les humains. 6 un ensemble de mécanismes © La légende dit u’aprés dvi « Tue mécanique», formes eposant sur la mort de s fille, Descartes un automate ouew 'échecs EE une base matériel, créa.un automate appelé (et surtout un canular).@ © Lester del Rey aconte dans _ le cereau, susceptible 2 « Ma flle Francine ». 6 Helen OLoy 'amour entre dete repodute.@ 3 i317 | un robot anthropomorphe 2 a © E.T.A. Hoffmann imagine et son réateur, ©) fa EE © Blaise Pascal vente dans L'Homme au sable (© Francois Girard, 18M a3 law pascaline », premiére une poupée mécanique fe France, consulte le philologue 22 | machine dcalcuer 6) dont séprend le hétes.@@ © Les fréves Earl et Otto Jacques Pert qui, —> « Les machines peuvent-elles penser? » cette question, formulée dés 1950 dans article « Computing Machinery ——} and imeligence >, Alan Turing répondait dja quelle était mal posée, car Ja nature méme de ce qu’est la pensée nous échappe. « Les machines ne ‘peuvent-ellespas exécuter quelque chose quireléve d'une forme de “pensée”, mais qui est tres different de ce qu'un homme fait? » Diffcile & dire, En revanche, en pensant aux récents premiers «ordinateurs », Turing imagine « que les machines pourront égaler les hommes dans tous les domaines purement intellectuels ». A ses yeux, la question est moins de savoir si les machines pensent, mais si elles sont capables d’émuler les comportements humains. Un programme peut-il tromper "homme dans un «jeu @’imitation »? Et Turing de décrire le test qui portera son nom: un échange & Paveugle entre un homme (A), une femme (B) et un observateur de genre indifférent (C). En posant des questions & A et B par éerit, C doit identifier qui est un homme et qui est une femme. B répond sincérement, mais A, au contraire, se fait passer // pourcelle qu’iln’est pas. « Etsi tune machine prenait la place de A? » Parviendrait-elle Atromper G comme Ale faisait parfois? Si est le cas, Turing considére que le test \ est réussi:la machine est capable de se faire passer pour un humain. PYILOSOPHE WAGAZ HORS SER HORS-SERIE SinmerRseh eter et vege BS ce aut ay lant Mae ey ‘ade Shoe Ainsi naquit « AI » John McCarthy, informaticien, mathématicien et futur créateur du lan- —_7 gage Lisp, propose avec Marvin Minsky, en 1955, organiser un sémi- naire sur « Pintelligence artificielle ». Voila PIA baptisée. Le projet initial détaille: « Leétude se fondera sur la conjecture que chaque aspect de Vapprentissage ou toute autre caractéristique de lintelligence peut en principe étre décrit avec une précision telle qu'une ‘machine peut étre fabriquée pour le simuler. » Un an plus tard, la conférence de Dartmouth (New Hampshire) accueille Nathaniel Rochester, concepteur de PIBM 701, Claude Shannon, pére de la théorie de information et pionnier de la cybernétique, Arthur Lee Samuel, créateur du premier programme d’auto-apprentissage ~ un jeu de dames -, Warren McCulloch, théoricien des réseaux de neurones artificiels, Allen Newell, cher- cheur en informatique et psychologie cognitive, ou encore Herbert Simon, Pun des peres de la systémique. Le séminaire est organisé en différents ateliers: machines automa- tiques, réseaux de neurones, auto-amélioration des programmes, abstraction, créativi- ‘moyen de programmer un calculateur pour qui forme des concepts et des généralisa- 16, manipulation du langage. « Nous nous concentrerons sur Vidée de concevoir un tions », notent les intervenants, On connait la suite... i i — pour traduire computer, {ul supgére « ordinateur», du latin orinator («qui met en orc»), nomalement appliqué 8 Dieu.) 11955 ] © John MeCarthy invente le rom s intligence attifcielle » quand il rédige le programme du séminaire ui se tiendra Fannée suivante & Dartmouth College (lire cicontre). ra © Allen Newell, John C. Shaw et Herbert A. Simon créent le premier programme 1A, le Logic Theorist, ui parent & démontrer 38 des 52 théorémes des Principia Mathematica de Russell et Whitehead.) 11957 J ‘© Frank Rosenblatt orée le perceptron, premier réseau de neurones artifciels & deux couches doté d'une régle apprentissage (machine ‘euromimétique). 11958 J © John McCarthy invente Lisp, un langage de programmation inteactit. 11361] © Le philosophe Hilary Putnam introduit le terme « 19 / CHRONOLOGIE PLOSOPHIE MAGAZINE HORS-SERIE E ARTIFI INTELLIGE! LE MYTHE DU XX» SIECLE de nos comportements ont une simulation du cerveau.) ° UMN tune base non algorithmique 10 Sortie du fm Walle et ne reposent pas sur des BEN pa Andrew Stanton. 6 opérations de calcul.@ © Premier volet de Matti, © John Hopfield relance le des Wachowski. oa connesionnisme en montrant MEE (© Lattiste Grégory qu'un certain type do © Le manga Ghost in the EEE CChatonsky utilise un réseau réseau neuronal est capable Shell de Masamune Shirow @ Création de Compas __—_de neurones pour générer d'apprendre et de traiter de | évoque un androide (Correctional Offender la musique d'un groupe Vinformation dune manitre S‘veillant&la conscience. Management Profiling for flit, Capture. 6) totalement inéite. ‘ternative Sanctions), 11395 J un algorithme d'aide & ta EO i387] (© Vernor Vinge, auteur de décision sur le risque de @ Walson, superordinateur (© Tron, de Steven Lisberger, _Scence-fiction et professeur —récicve aujourd'hui utilisé eongu par IBM, remporte raconte l'histoire de mathématiques, définit ar les juges américains.@) - deux manches du jeu un programme de jeu qui 12 Singularité technologque t6levise Jeoparay! en Gevient une IA autonome comme une « accéléation ON répondant & des questions résolument hostile. du progres technolagique », © Steven Spielberg réalise de culture générale. @ un «emballement Al. Inteligence article 6 © Création de Siri, assistant ‘exponentie au-deld de tout vocal d Apple.) MO somtuta, — eoorivcmie cvat a par James Cameron. une superintelligence: © Nils John Nilsson propose URN wu arginateurs « consciens», je « test de Vembauche » © Lancement dela sie ~ + interface homme pour juger qu'une I est —ystopique Black Mir. w © David E. Rumethart machine », ou « amélioration intelligente: celle-ci doit & | et James MeCieltand naturelle de nteligence ——gestuler un travail et y EEN g développent, dans Paralle) humaine » si leshumains tre au moins aussi efficace | © Lancement de ° Distributed Processing, apprennent 8 controler qu'un humain.® la campagne « Stop killer Z| ise dun réseau neuronal S00 etn. robots» pour encadrer © | _ attiiciet multicouche. @ ma usage des armes = 11937 J © Lancement du projet Blue _autonomes. ¥ i ‘ordinateur Deep Blue bat Brain, qui vise & simuler ‘© Carl Benedikt Frey © Baudrillard, dans. Garry Kasparov aux échecs. |e cerveau des mammiféres. _ et Michael A. Osborne Coo! Memories. 1980- © Amazon crée la plus __—présent dans The 1985: « Latrstesse do | TEEN grande plateforme de Future of Employment: Finteigence atficiele est © Andy Clark et David microtravail ensemble de How Susceptible Are qu'elle est sans artifice, Chalmers estiment, dans ‘taches humaines nécessaires _ Jobs to Computerisation? donc sans intelligence. »@% The Extended Mind, que \e a "entrainement et au l'automatisation de 47% rabattement de 'espritsur calibre des algorithmes: des emplois d'ici 2030.69 fo Je cerveau est éducteu, Amazon Mechanical Turk. © Les artistes Michel Bret, que la pensée existe partout on Edmond Couchot et Marie. otelle« aliew» et que EOI ‘© Google ouvre un laboratoire Héléne Tramus développent _Certaines formes de pensées © Le gouvernement sud- de recherches dans les les premitres couves pourraient ere détachées _eorden annonce larédaction locaux dela Nasa pour séndrées 8 aide 1A, de a structure cérébrale une charte sur 'éthique__amdlorr Fapprentissage HX | Chee terisenizs ov doson miaton.@— deseols 8 dutortigve A 3 (© Hans Moravec étudie aed 7989) {es implications de IA mo on as foger Penrose montre, dans Robot: Mere Machine @ Fondation dela (© Satie de Supritligence 23 | dans The Emperor's New {0 Transcendent Mind. ly Singularity University de Nick Bostrom ze ‘Mind, qu'une grande partie critique son assimilation & —. dans la Silicon Valley.63 (hie p. 80). Sant Lachambre chinoisede Searle La pertinence du test de Turing a fait l'objet de nom- — breuses critiques. La plus célébre est sans doute celle élaborée par John Searle dans son article « Minds, Brains and Programs » (publié dans la revue Behavioral and Brain Sciences n° 3, en 1980). Le philosophe y développe Pexpérience de pen sée dite de la « chambre chinoise ». Imaginons un individu ne parlant pas chinois enfermé seul dans une pice. Il a & sa disposition un manuel détaillé permettant de produire des réponses en chinois syntaxiquement correctes, mais dont il ignore complétement le sens. Il sera certai- nement capable de duper un sinophone qui Vinterrogerait de I’ quill répond. C’es symboles, mais n’en comprend pas le sens; elle est dotée de compétences syntaxiques, mais pas xérieur... sans comprendre ce également le cas de V'intelligence artificielle: elle est capable de manipuler des nantiques, L'intelligence artificielle telle qu'elle se développe a Pépoque de Searle est encore i a ve faible. Créer une intelligence artificielle forte, dotée d’« états mentaux », est une tout x autre affaire. L’émulation du comportement linguistique n'est pas suffisante pour indi- 7 quer existence d’une conscience intentionnelle chez la machine. wu wu / CHRONOLOGIE PLOSOPHIE MAGAZINE HORS-SERIE — oo © Guerre en Libye: "Etat utilise des drones pilotés par des 1A. © Création d'Alexa, assistant vocal d’Amazon. oo © Sorte du film Her réalisé par Spike Jonze. 8 oa © Appels & un encadrement moral et legal de "1A: un sur les « Prirités de recherche pour une intelligence atificellerobuste et Dénéfique » du Future of Life Institute, et un autre sur les armes autonome, signé entre autres par Noam Chomsy. © Dans The Singularity is Near: When Humans Transcend Biology, Ray Kurzweil popularise V'idée de Singularté technologique ui « nous permettra de Iranscender les limitations de nos corps et cerveaun Dbiotogiques ». oo © Anthony Levandowski fonde « Way ofthe Future », Lune organisation religieuse aqui vénére une « divinté » reposant sur une IA.) © Dans Avengers. Lire 'Uitron, une hors de controle menace le destin de humanite. oa © Développement rapide ‘du deep fearing. Des personnalités, dant Elon Musk, Stephen Hawking et Bil Gates, fen inquidtent. © (© Début de a série Westworld. © oa ‘Lancement du projet "Neuralink par Elon ‘Musk, une interface cerveau-machine censée hharmoniser articulation de l'intelligence humaine et de 1A. on © Une étude encadrée par Institut de avenir de humanité de université Oxford, université Yale et Al impact consuite 352 experts en machine learning, qui coneluent qu'il ya 50% de chance que IIA dépasse Vintelligence humaine dans tous les domaines d'ici tun demi-sigcle. © La conférence Asilomar conduit @ a rédaction d'un « Guide de référence pour un développement éthique de intelligence aificielle ». (© Dans From Bacteria to Bach and Back, le philosophe Daniel Dennett souligne que la création d'une superinteligence surpassant esprit humain et dotée de capacités de comprehension et agentivité est « possible ‘en principe », mais que la question ne se pose pas dans immeédiat ire p.36).69 om La BBC diffuse un discours prononcé par tune IA reproduisant le style de Barack Obama. 8) ‘© Dans The Malicious Use of Artificial Intelligence, vingt-six experts mettent fen garde contre les risques usage criminel de 1A. 8 © Steve Wozniak imagine le « test du café » pour Juger de intelligence d'une IA: il sagit de placer un systéme dinteligence ‘autonome dans une maison, avant de lui demander de faire un café. © Ben Goertzel formule som « test de 'étudiant »: intelligence d'un robot est évaluée par sa capacité a s'inserire dans un établissement d'enseignement supérieur, ay suiwte des cours, & passer les examens, te. © Peter Thiel estime que « [a crypto est ibertarienne; 1A est communiste ma © Christie's met en vente Portrait d'Edmond de Belamy, tableau réalisé par une intelligence artfcielle, qui est adjugé pour 432500 dollars. ® oo © Des IA développées par Microsoft et Alibaba surpassent des humains dans un test de lecture et de compréhension de Vuniversité Stanford. © Le journaiste américain James Vahos utilise lune IA gettée 8 Facebook Messenger pour converser avec son pere déoéd6. Cest la naissance des deadtots, robots conversationnels qui permettent de « discuter» avec les morts. © Dans En attendant les robots. Enquéte ‘sur le travail du clic, Antonio Cail théorise a notion de « travail numérique » réalisé par des humains (souvent hortiblement cexploités) et nécessaire au développement des 1A. 6 12020 J © Développement du systéme de crédit social en Chine, qui sfadosse & des systémes IA, notamment pour la reconnaissance ‘automatique. oa © Une pice coécrte par IA, Digital Simon, est jovee a Lausanne. © Afrique du Sud accorde le statut dinventeur 8 inteligence artificietle Dabus. 7 © Le conseil municipal de ‘San Francisco se prononce en faveur de utilisation de robots autonomes dans la police, dotés de la permission de tuer. 60 (© Lancement de Dalke, logiciel de création image. 69 (© LIA Tang Yu est nommée a téte d'une filiale du fant chinois du jeu vidéo NetDragon Websoft. © La chaine britannique ITV met en ligne Deep Fake Neighbour Wars, une série créée gréce au procédé de deepfake. @ WAY D941 WEG Les neurones « transistors » ans la seconde moitié du XX" siécle stimpose l'idée que le cerveau est composé de neurones qui regoivent les signaux électriques des neurones voisins et qui, en fonction de leur intensité, envoient (ou pas) & leur tour un signal. La pensée est- elle autre chose que le produit émergeant de ces interactions? Pourquoi ne pas imaginer des réseaux de « newrones formes , selon Vexpres- sion de Warren McCulloch et Walter Pitts dans «

    You might also like