Capitulo 3 O homem reduzido 4 maquina? Concluamos ousadamente que o homem € uma méquina € que em todo o universo existe apenas uma tnica substincia, diversamente modificada Julien Offroy de La Mettrie (1747) D e da cena politica, uma nova “guerra de religiao” perdura desde os anos 60. Ela nao opde os membros de uma confisséo aos de uma outra, Ela nao levanta os racionalistas contra os crentes. Ela dilacera a prépria comunidade cientifica. O mecanismo dessa “guerra” nao ber se 0 homem pode ser assemelhado a mplexo das cone: stante do grande piiblico, longe dos meios de comunicacéo é anddino. Trata-se de des uma maquina, se seu cérebro se liga ao jogo neuronais, ou se nele permanece, apesar de tudo, um principio ina- tingivel: alma, espirito, consciéncia... Essa primeira questo a¢ artet: uma segunda:[poderemos um dia fabricar uma mq ao cérebro humano)ou esse projeto, de fato, € 0 produto de um re- ducionismo estreito? E bem desse modo que podemos querela implacdvel que surgiw hi cerca de quarenta anos no ah? das pesquisas sobre a inteligéncia artificial, rebatizada "1A" mss P ina comparivel apresentar esquematicamente a anos no quadro 870 Principio de Humanidade cages cientificas, Essa querela tornou-se tanto mais viva, ap meno nos primeiros tempos, pelo fato de os partiddrios mais decididos . intcligéncia artificial, os dlefensores da “teoria Forte” (srong Ay, 43° terem dado provas de prudéncia nem de modéstia em suas proc, maces. Crendo neles, deverfamos fazer definitivamente nosso luto a respeito de uma pretensa espe ificidade humana. Essa fronteira me. tafisica, que pensdvamos separar 0 homem da maquina, explicayan, eles, cederé cedo ou tarde, porque doravante se sabe que, de um pon. to de vista cientifico, ela nao é fundada. Tal era a mensagem injcj [*Nos alicerces tedricos dessas pesquisas [sobre a inteligéncia arif.. ial], acha-se a id¢ia de que nao existe diferenga ontoldgica entre os seres humanos ou os organismos vivos, em geral, e as méquinas” wT] Proclamagées triunfais? Citemos algumas pérolas ou ambi- giiidades de linguagem. Em 1955, 0 neurofisiologista Warren McCulloch, apressado em desconstruir qualquer idéia de espe- cificidade humana, nao hesitava em afirmar: “Os homens nio so apenas andlogos as mdquinas; eles sao maquinas”.* Em 1965, witnco pitmio Nebel de economia, Herbert Simon, declarava que “as mdquinas, daqui a vinte anos, [seriam] capazes de fazer tudo aquilo que um homem pode fazer”.> Outro pesquisador, Marvin Minsky, garantia, sem qualquer ceriménia: “A proxima geracao de computadores serd t4o inteligente que teremos logo a oportunidade, caso consintam, de nos aproximarmos deles como animais de estimagao”.4 Um dos primeiros tedricos da in- teligéncia artificial, Christopher Langton, do Centro de estudos ' Hervé Kempf, La Révolution biolithique, op. ? Citado por Jean-Michel Besnier, “ 'ame?”, Esprit, maio de 1990. * Citado por Hubert L. Dreyfus, Intelligence artificielle. Mythes et limites trad. fr. Flammarion, 1984, “Citado por John Searle, Du cerveau au savoir, trad, fr. Hermann, 1985. it. s cognitives ont-elles raison de Les sciencsO homem reduzido a maquina? nao alinhados de Los Alamos, também defendia esse tipo de hipotese. Por sua vez, 0 inglés Alan Turing (1912-1954), verda- deiro inventor do computador digital, g arantia que este ultimo seria um dia capaz de reali ar todas as tarefas do pensamento humano. Hoje, alguns dos mais determinados adeptos da robé- tica aderem ainda a essa visdo estrit amente maquinista. Certo Hans Moravec, por exemplo, anuncia 0 aparecimento, “antes de quarenta anos”, de m&quinas que atingirao a equivaléncia do homem.° Outro adepto da robética, o britanico Hugo de Garis, vai mais longe: ele anuncia que o ser humano ser4 forgosamente substitufdo por maquinas inteligentes que ele chama de “artilec- tos” (artificial intellect).® Aos olhos desses partiddrios da “teoria forte”, os velhos de- fensores da fronteira homem/maquina, os advogados da irre- dutivel humanidade do homem nao passam de idealistas fora da moda, nostdlgicos da ontologia ou, pior, os guerreiros ocultos de nao se sabe qual obscurantismo religioso. Algumas vezes, os ar- gumentos sao realmente articulados com esse tom! Sem dtivida, uma parte dos pesquisadores que hoje trabalha com a inteligén- cia artificial renunciou a esse discurso rigido e prefere a relativa modéstia de uma “teoria fraca” (weak Al). Alguns especialistas da inteligéncia artificial recusam até que suas pesquisas sejam utilizadas como “maquina de guerra” contra o estatuto metaf sico do homem. Isso nao impede de ser sempre a “teoria forte” due impregna o clima do tempo. F ela que influencia a cada dia 0s nio-especialistas. A opinido publica e os meios de comunica- $40 continuam confusamente a se convencer de que nenhuma grande coisa distingue a méquina do homem. Esporadicamente, > Hans Moravec, Une vie apres la vie. Odile Jacob, 1992. ° Le Monde, 9 de novembro de 2000. 89O Principio de Humanidade ln fantastica e 0 cinema agi. os jornais, o audiovisual, a literatura 0 ‘oem cendrios povoados tam essa hipétese “sensacional” e constr de robés triunfantes. Acredita-se até que seja conforme com a utopia pés-moderna exaltar nossa felicidade “de viver em uma s, COM OS quais nos natureza povoada de novos seres artifici -ntit ‘felizes’ por estabelecer e manter um Novo género Ses sociais”,’ O apego a humanidade do homem, nesse devemo: de ‘rela ; clima geral, aparece de fato como uma nostalgia. Hi fogo também nessa fronteira! Arevolugao do cognitivismo A corrente de pesquisa sobre a inteligéncia artificial se inscreve, na realidade, no quadro muito mais amplo do cognitivismo (do latim cognoscere: conhecer). Um quadro ou um territério que nao € muito facil de delimitar.|Em principio, as ciéncias cognitivas se interessam pelos processos mentais que permitem a aquisigao de conhecimen- tos. Elas tomam como objeto de estudo o préprio conhecimento e tudo aquilo que, concretamente, o torna possfvel, quer se trate do homem, do animal ou da méquina. Para simplificar, digamos que as ciéncias cognitivas se esforcam para responder & seguinte questao: 0 que permite a alguém (ou a “alguma coisa’) se lembrar, compreender ou conhecer? Na pratica, elas formam uma nebulosa e mobilizam dis tao diferentes como a psicologia, a lingiiistica, a neurobiologia, a log atica (a lista nao é limitativa). Essas disciplinas encon- tram-se, retinem-se, combinam- iplinas ca ou a inform se ¢ interpenetram-se, mas conforme configuragées mutantes no es Pago € no tempo. Esse agrupament? Giorgio Israel, Le Jardin au noyer. Pour un nouveau rationalise. Seuil 2000O home reduzido a maquina? adores é, porta emi portanto, eminentemente heterogéneo, multiplo, dep qu dividido em correntes ou fr agment 2m castas, & fi a f ado em castas, entre as quais se tem dificuldade de encontrar 0 préprio caminho.’ E i: is aind: ma lade de encontrar a ." E isso mais ainda pelo fato de que 0 cognitivismo jé possui uma longa histéria. O: aes a s ria, Os tedricos do inicio concordam hoje i: a elerniuinatreanvalinedotin ee Je em uma reavaliagio mais fina ~ € P Sane andlise, com o aparecimento das correntes chama- das de “conexionistas” e, depois, com o s i ; Fie oe mca “poi © sucesso relativo da nogao agao”, popularizada principalmente pelo neurobidlogo chileno Francisco Varela, e que — @ Ali i Fran rela, € que entre outras andlises — promove as intera- goes de um sistema com o meio ambiente.” Mas tal mudanga teérica nao € geral; longe disso. E preciso saber também que uma enorme literatura cognitivista, Onica, acumulou-se desde os anos 60. Ora, principalmente anglo-sax pelas formulagées elipticas ¢ a fri- a inclinagao para o jargao, 0 gosto volidade semantica no esto ausentes de didlogos, trabalhos de laboratério ou corpus inumeraveis, difundidos Esse emaranhado de conceitos € essa complexidade mo- ardando as proporgées, a situagao que prevalecia decorrer dos anos 60 ¢ 70. Af encontramos lade, criatividade, mas também as mesmas cheiras em torno de uma vulgata -sses textos volumosos, teses, via internet. vediga recordam, gu nas ciéncias humanas no muita abertura, curiosid: crispagoes de jargao € as mesmas trin normativa, até intolerante. rcexn, sobre a questio do cognith 87, em Cerisy-la Salle, entado por Daniel s, em Ifngua fran * Uma das melhores introdugo junho de 19) ida sobre um coldquio de > Conjunto reunido € apres Gallimard-Folio, 1992. que descreviam a re ele devia “aday 1 meio ambiente Jnr "influencia € reeiproca. Essa reciprocidade € a propria Varela, Evan Thompson, Eleanot Rosch, Linscription vives ex experience humaine. Seuil, 1993. vismo éa colevinea funda imtitulado “Approches de ‘Andler, com 0 titulo buiroduction aux scien ° Francisco Varela e seus amigos contest) dade de um organismo vivo, dizendo que Ia cognition” es cognitive. ; : 7 1 hoje as teorias prar-se” a um preexistente. Na realidade, definigao da vida. Cf. Francisco corporelle de Vesprit. Sciences cog 9192 Tudo isso sempre torna dificil 0 ac rios. O curioso que vem de fora arrisca~ tinas, até incompreensfveiss as querelas que do cognitivismo. Este Ultimo exerce, portantor um efeito de intimidacao, que ma ates — no entanto, atravessam 0 campo de modo inegavel, dos intelectuais enciais. A mesma abor- afastados desses del dagem pode ser feita com 0 poder de intimidagio que exerceram, em seu tempo, o pos-modernismo, o estrut ou, ainda, algumas décadas antes, 0 marxism: ‘Althusser. Tanto hoje como ontem, cada um teme aventurar-se nessas disciplinas novas em que © “ingénuo” € logo vitima de zombaria, tachado de simplismo ou suspeito de incompeténcia. ‘Afastarao facilmente, em nome das grandes obras fundadoras, as objegdes que The vém aos labios. E, entao, acrescentando um sor riso complacente... Quanto a reencontrar o proprio caminho no dédalo dos grupos, subgrupos ou castas, nada serd mais penoso que isso. Livres de demonstrar temeridade, queriamos, entretanto, tentar uralismo, a psicanilise 0 revisto por Louis —— tao simplesmente quanto posstvel, os principais postu- ado we . s do cognitivismo. Ainda que apenas para medir os mecanismos (considerdveis) do debate em curso. O primeir 2 ém A te ‘ en se atém A nova definigao do funcion® cérebro, dire inspi 4 i §ric a etamente inspirado na metdfora informatic?- vista necricho ex} f a sa tas, cs descrigao exige que se distingam dois »* stintos: cérel . 0 do cérebro, entendido como realidade ma rial, Fisica petals > , que depende das FA : $s neurociéncias; e o do mesmo cé ebro entendido como um “proces s3 € 0 do mesmo cer fungio que a légica informa 0” informacional, ou seja, como uma (a organizacao material ¢ a ra permite analisar’Esses dois “nivel® pans cueimem eee mantém entre si relagoes com re) € um computador en: Omputador enquanto maquina (hardwe sao (software). Alguns quanto sistema de tratamento da inform” sAlguns tedricos da vida artificial, como Christoph——Phomem ez & maquina Langton, insis' a gton, insistem, por outro lado, ¢do que constitui verdadeiramente matéria de que ela é feita. sobre o fa : Re 0 fato de que éa organiza- a maquina néquina e de modo nenhuma Parao se refere a es: 1 gi a cognitivo do ‘ que se refere a essa organizagao, o siste iti homem é andlogo, dizem, ao dos mami a a: 1 7 amiferos superi pe SS ores. El a " ‘le se ca- ra te tiza (segundo postulado) por uma série de estados repre en: tacionals Sucessivos; a pas governada agem de um para é por Processos analisdveis. Terceiro postulsdor ee ae se sucessivos se ligam a férmulas semanticas, uma “linguagem” com, pardvel as linguagens formais da Idgica. Quanto aos proceso: que os regem, eles sao redutiveis a um pequeno numero de a originais, cuja “execug4o por uma maquina é evidente”."" Eles sio de algum modo decomponiveis em uma seqiiéncia de puros refle- xos, que no exigem qualquer interpretacao subjetiva. Sao andlogos —e talvez semelhantes! — Aqueles que regem o “progr: de um computador. Para dizer as coisas d até o presente, aquilo que se chai processo, tributario unicamente da org or outro lado, de proprieda compardvel em todos os aspectos aquelas que poden [hos deles, isso significa que © pensa- pende do “me- uma rede de autématos. Aos 0! mento humano equivale a uma formula de cdleulo ¢ de — canico”. Eles rejeitam qualquer idéia de de sen’ de finalidade. Esses conceitos humanists i éme cerebrais que designariam, a seu ver, de fendmenos cerebrals 4 ian’ puramente fisicos. Doravane € F ‘ama-sistema” le outra forma, os cognitivistas afirmam que, mava de consciéncia é redutivel a um anizacao cerebral. Essa organi- des auto-organizadoras, zagio é dotada, p demos observar em intencionalidade, ws idealistas de a resultam de pro- vel de- nreontem cessos auto-organizados, compor esses processos ¢ portanto, Te ‘farm aniel Andler em 5 explicagses Proposes PO” Daniel eae cognitivess Introduction aux sciences © © Retomo aqui a fSrmul: op. cit sua apresentagao da coletanea 9394 Principio de Humanidade « sdicacoes — muito sucintas ~ Lembremo-nos dessas poucas indicagoes — muito sucintas ~ que, tora considerévamo, em uma perspectiva cognitivista, aquilo que out do homem & desse como uma dimensio essencial da humanidade modo, apagado, Nem espirito, nem consciéncia, nem l cantado ¢ arrancado de si mesmo. Ele nao é mais que uma mecinica.“O homem e a maquina nio Sio de natureza diferente, Globalmente, Henri Adan toma consciéncia des. sa expulsio quando escreve: “A questao da finalidade e da intencio persegue a biologia hd quase trés séculos. Essa questao parece ter sido liquidada hoje para a biologia fisico-quimica € molecular que conse- n alma, nem in. Eis o homem, desen tengio.. guiu, finalmente, eliminar as almas do ser vivo . _———_—___— Aaversao decidida pelo religioso ‘Além disso, 0 nascimento do cognitivismo est4 ligado ao da in- formatica e, previamente, da cibernética. Como aval, a influéncia exercida por esse tipo de anilise (e de alguns conceitos como 0 de auto-reproducio) sobre os pioneiros da biologia molecular ¢ inegavel. ‘A observagio € importante, porque 0 cognitivismo constitui, des modo, o exemplo perfeito de uma interacdéo permanente entre as ris revolugées (econdmica, informatica, genética) que evocdvamos no ini- cio deste livro.'? Ele é um campo de encontro. Jean-Pierre Dupuy foi, na Franca, um dos primeiros a salienta! esse parentesco direto entre as ciéncias cognitivas de hoje ¢ a cibe™ oe do imediato pés-guerra."5/O que ele diz a respeito dessa filia- 40 ajuda-nos a descobrir 0 que poderfamos chamar de “ideologi " Henti 7 "enti Atlan, Tout, non, peut-étve, Seuil, 1991. Cf. anteriormente, capitulo 1. Brain jean-| . - 1994 u ‘n-Piere Dupuy, Aus origins des sciences cognitves. La Découser® . Podemos citar igua ouvert 0s citar igualmente, entre as obras recentes, 0 livro muito mins do francés Alain Prochiantz, Machine-esprit. Odile Jacob, 2001___O homem reduzido & méquina? oculta” do cognitivismo, Porque, no ponto de partida pelo meno: havia de fato uma intengdo ideoldgica. Nao é garantido que ela wenha desaparecido. Uma série de dez reunides ou conferéncias, feitas entre 1946 e 1953, no hotel Beckman de New York ¢ no hotel Nassau Inn de Princeton, em New Jersey, desempenharam um papel fundador. Essas reunides entraram na histéria das ciéncias sob o titulo de “Con- feréncias Macy”, do nome da fundagao filantrépica Josiah Macy Jr., que as organizava. Elas reuniam matematicos, logicistas, psicdlogos € antropdlogos, mas também economistas. O objetivo combinado desses participantes era ambicioso: cons-_ truir, de modo transdisciplinar, uma ciéncia geral do funcionamento do espirito, mas uma ciéncia puramente fisicalista, distante de qual- quer idealismo; uma ciéncia que permitiria reintegrar no proprio seio da matéria entidades vagas como 0 espirito. Eles julgavam que seu programa estaria acabado quando tivessem chegado, “do mesmo Criador do Universo, [a fabricar] um cérebro priedades que sio atribuidas 20 esp que esses pesquisadores, vindos ham em comum uma aversde ca, Um pou- modo que 0 suposto capaz de manifestar todas as pro} rito”."" Jean-Pierre Dupuy acrescenta de disciplinas muitissimo diferentes, tin decidida pelo religiosoye um desprezo pela antiga metafis : co mais tarde, de 1958 a 1976, a cibernética enquanto movimento se sob o impulso de Hei como quadro © iversificard nar Forstes, diversificar4, com a emergéncia, nz von E da “segunda cibernética”, que tera principalmente Biological Computer Laboratory da Universidade de bana-Champaign. Illinois, em Ur- “Conferencias Macy” Na mesma época em que aconteceram as Conferéne Me Y" i : 5 i ndadores dois grandes tedricos, considerados hoje como os Pals THN cannes she ic us trabalho: da cibernética ¢, depois, da informatica, publicavam seus Jui-eméme”, Le Débat, n. 109, anisé par “Jean P; sag, eam Piette Dupuy, “Lesprit m 'arco-abril de 2000. 95O Principio de Humanidade 957) ¢ Norbert Wiener in von Neumann (1903-1 realizada em n uma célebre ¢ jada Teoria gera vem conceitual entre mputador) € 0s seres vivos. de simulagio cada vez respectivos: Johan! (1894-1964). O primeiro, er 1948, em Pasadena, ¢ intitul punha as bases de uma abord: Fratamento informacional (ancestral do co (Ele postulava que, pot meio dos algoritmos hegarfamos um dia ou outro a reproduzir 0 princi- a artificial comparavel. Von ou ainda de uma vid e significativamente, 0 sistema onferéncia, Le ligica dos automatos, maquina de mais complexos, ct pio da vida natural Neumann designava, nervoso como um “automate natural”. O segundo, autor de um livro essenc chegava até a concluséo, mas fazendo intervir a nogao de encropia do grego entrop volta para tras, reco). Essa nogao de entropia é, por outro lado, de um extremo Pars outro, fundamental. Ela designa rendéncia natural de codo sistema organizado — ¢ do proprio uni- verso — a se orientar para uma desordem crescente. E 0 que chamamos de segundo principio da termodindmica,,Em outras palavras, a flecha do tempo dirige inevitavelmente a matéria organizad: qiientemente, 0 universo inteiro — para uma entropia, u dem, uma degradagao crescentes. Uma xicara de café que uma massa que se desagrega, a decomposigao de um corpo # a fragmentagao de um jogo de cartas so fendmenos que corres) dem a um aumento da entropia. Ora, para Wiener, existe muito extraordinariamente “encravos” ar no oposto da do univers0- ar de “bolsdes de res* por outro lado, ial, publicado em 1954," a — €, conse ma desor- entorna, imal, pon em que a evolugio tendencial parece est , as : Para usar uma imagem disso, poderfamos fal: téncia”, Neles se manifesta, escreve ele, “uma tendéncia limitada ¢ id Soc % Norbert Wiener, The Human Use of Human Beings. Cybernetics an Ke Houghton Milllin, New York, 1954; trad. fiz Gybernétique er Societe: umain des étres humains. UGE, “10/18”, 1962. Lusisehomem reduzido & maquina? temporiria ao aumento da organizagao”, ou seja, a uma diminuigio da entropia. Ora, essa capacidade de resistir a entropia, a seu ver, é “COMMMYaos seres vivos € a certas maquinas, A vida real, sem duvi- da, é uma forma de resisténcia & desordem da morte, simbolizada pela decomposigao, que fragmenta a matéria até entao reunida. Toda criatura viva constitui, portanto, um desses “encravos”. Quanto as miquinas, por meio da retroagao, da emergéncia ou da auto-organi- zagao, fazem exatamente_o mesmo. Elas resistem a entropia de fora o criar ordem onde ha desordem (ou caos). Para Wiener, essa seme- aoe Ihanga “anti-entrépica” entre 0 ser vivo ¢ as maquinas € tao forte que torna muito simplesmente obsoleto um conceito como o de. vida!) “Segundo penso ~ escreve ele — também é preferivel evitar todas essas palavras geradoras de problemas, como vida, alma, vitalismo etc. E melhor dizer simplesmente que nao ha razdo para que as maquinas nao se possam assemelhar aos seres vivos, na medida em que elas representem bolsées de entropia decrescente no seio de um sistema em que a entropia tende a aumentar”."° A seriedade imperturbavel da proposicao, o tom glacial — ou humor irénico — da constatagao, tudo isso corresponde muito bem ao estilo de discurso que prevalece (ou prevalecia) nas ciéncias cognitivas. Os tedricos € pesquisadores mais recentes, sem duvida, enrique- ceram e matizaram os argumentos cognitivistas, mas permaneceram globalmente na linha dos pais fundadores, citados acima. Podemos evocar, a titulo de exemplo, os trabalhos do fisico dinamarqués Steen Rasmussen ou os do neurobiologista americano Gerald M. Edelman, prémio Nobel de medicina, que tentou estabelecer uma teoria unifi- cada. Na Franga, Jean-Pierre Changeux, que suscitou fortes polémi- : “ BEE as © Citado por Marc Jeannerod, “La complexité du vivant", em Jacques Hoc mann, Marc Jeannerod, Esprit, oit es-tu? Psychanalyse et neurosciences. Odile Jacob, 1991 (reeditado em formato de livro de bolso em 1996). 9798 ee O Principio de Humanidade re neuronal iSCTEVE-Se ng ro LHlomn : “ ce ‘Thar o cérebro humano g as, em 1983, ao publicar se ao asseme ° + de pensamentor e, no inf} Mesma corrente de pensa™ espantoso salientar que, NO inicig im tao inovador quanto hado, tanto na Franca um computador. Por outro ladoy ¢ a } isolado dos anos 80, esse livro nao foi 10 19 ‘cedido ou acompal se acreditou. Ele for p ve obras comparaveis. Todos esses por divers 5 quadro de uma ” Eles marcavam, com uma como no estrangeit, “moda”, no sentido pejo- textos se inscreviam Nao NC deur uma “tendéncia -ativo do termo, mas de a Bees, Dae ado provisério de uma reflexdo oy simultaneidade perturbadora, 0 est is de uma abordagem. ; / Ora, “a conseqiiéncia dessa abordagem € que aquilo que se pode saber a respeito do funcionamento das maquinas pode ser transposto para os organismos vivos e vice-versa. Portanto, deveria ser possivel ravida nas mdquinas”.'® Sobre esse ponto preciso, as proprias ci- éncias cognitivas reatavam, na verdade, com um fantasma recorrente que encontramos ao longo de toda a histéria das ciéncias. Do robé flautista ao homem-maquina Alguns observadores sugerem que a antigiiidade desse fantasma explica o siléncio relativo dos fildsofos sobre esses assuntos. Se as provocagées dos cognitivistas ou dos fisicalistas, que assemelham o homem a uma maquina, 9 suscitaram mais criticas do lado da filo- " Entre os livros mais o fun in-Pierre Chai os livros mais préximos, i i no fun ci Changeux podemos citar: Mare viele taias eas ® Jeannerod, Le Corn chine, F. aa » Le Cerveau-machine, Fayard, 1983; Douglas R. ie ae ae ad Bach: An Eternal Golden Brain, Vintage Books, New » wad. fr. de J. Henry e R. French: Godel, Escher, Bach, Les brins d'une Suirlande éternelle. Inter-LEdi tis, 19 co. ‘ons, Are Computer ali ; “ditions, Paris, 1985; Geoff Si live Evolution and New Life Forms. The Harvest Press, is ‘Sous “ 7 Hervé Kempf, La Revolution biolithique, op. ci Op. cit, a© homem reduzido & maquina? sofia, é justamente porque essas provocagées n it ; fo eram novas. Apenas aamnesia contemporanea autoriza a considerd-las “revoluciondrias”. “Sempre existiram Concepgdes mecanicistas do sistema nervoso — ob- iorquino Oliver Sacks, No século XVII, Leibniz o comparava a um moinho; no século XIX. compara- vam-no freqiientemente com uma central telefonica; computador”.” serva o célebre neurologista nova- hoje, com um Sem remontar a antigiiidade greco-latina, encontramos de fato, na histéria do pensamento europeu, numerosos exemplos dessa visio mecanicista do homem. No século XVII, 0 livro do filésofo e chan- celer Francis Bacon, A Nova Atlantida, recende uma artificializacio geral da natureza, inclusive do nivel cerebral dos homens. O materia- lista inglés Thomas Hobbes (1588-1649) j4 descrevia o pensamento como um calculo. No século seguinte, o fildsofo e historiador escocés David Hume (1711-1776), ateu militante e aluno de Newton, apre- senta a inteligéncia humana como uma simples associagao mecanica de idéias, obedecendo a leis comparaveis As que submetem os planetas a gravitacao. Por sua vez, o mecanicista francés Jacques de Vaucanson (1709-1782), que se tornara conhecido por construir trés autématos famosos, entre os quais o Tocador de Flauta transversa (1737), tinha como ambic4o confessa construir um verdadeiro “homem artificial”. Em uma outra perspectiva, 0 violento adversdrio do cristianismo, Paul Henri Thiry, bardo d’Holbach (1723-1789), publicou em 1770 um Sistema da natureza, no qual ironizava os defensores da “alma” ou do “espirito”. a Mas é sem nenhuma duivida 0 médico e filésofo francés Julien Offroy de La Mettrie (1709-1751) que aparece como © Pe dos fisicalistas ou cognitivistas de is direto — e mais dogmtico — Pe eerie “Pierre Changeux... Ele hoje. E ele o verdadeiro “ancestral” de Jean 1 Oliver Sacks, “La neurologie de I’ame”, em Esprit, julho de 1992.Ny iE ili Publicou duas obras importantes para demonstrar que 0 pensamento humano era to-somente um fendmeno material: Ldistoire naturelle de lime (1745), e principalmente EHtonmne machine (1747), que foi Proibida. La Mettrie nao hesitava em aplicar a0 homem as amosas teorias de Descartes sobre o animal-maquina. Ele punha nisso uma €nergia militante que lhe valeu ser pers guido, perder seu) Posto de médico, e 0 obrigou a se exilar junto de Frederico da Priiss 2 Um outro livro de La Mettrie, Politique de médecine (1746), também fo; proibido e queimado por ordem do Parlamento. - A tese de La Mettrie é, sem qualquer dtivida, a menos matizada (¢ também, em certos aspectos, a mais chocante). Em sous livros, ele recusa qualquer distingao entre o homem ea maquina: © corpo hu- mano, escreve ele, é uma maquina que monta seus proprios motores; imagem viva do movimento perpétuo”. Mas ele recusa igualmente qualquer descontinuidade entre 0 homem e o animal. Adiantando- se aos militantes atuais da “libertagao animal” ¢ os émulos de Peter Singer,” La Mettrie afirma, sem hesitar um segundo, os imbecis, os loucos, os homens selvagens”, certos anim: que “os surdos, menos inteligentes que S, ndo merecem pertencer a uma “classe particular”, ou ja, beneficiarem-se com o estatuto de Por vezes se diz que, pensando desse modo, La M a5 texes de Descartes sobre 0 animal-m: do. A expresso é fi se} homem,?! lettrie interpreta dquina, mas as radicalizan- a. Na verdade, ele faz de Descartes uma lei- ira € deliberadamente seletiva, Como observa Luc crado que seus discfpul tra de Deus”? De cum Deus f tura muito prosse Ferry, “Dese permaneci artes foi menos cxag © animal cartes, com e abricador, 0 que L it [para cle} uma criat , postula a existencia ¢ fei- a Mettrie “CL caphulo precedeme, a . Retomo aqui, em substincia, uma observacio de Momme artifice, Le sen Dominique Bourg, 4, Op. cit, 1 ela technigua “Law Ferry € Claudine Germé "Des animaux et des hommes, op. cita _Ohomem reduzido a mquina? evidentemente recusa, Além disso, 0 animal-maquina de Descartes continuava animado por um sopro vital, o que relativizava a hipétese puramente maquin Quanto 2 ender a pente : 2 nto a estender ao homem a comparagao maquindria, Descartes sem diivida nem imaginava isso Em todo caso, de m C1 é preci i 7 Em t nodo nenhum € preciso pesquisar muito tem- po no passado para perceber que muitas querclas “cognitivistas” de hoje reproduzem, por vezes palavra por palavra, debates muito anti- gos Compreendemos entao que elas tenham apenas suscitado até o presente “entre 0s fildsofos uma indiferenga polida’.”* Ao menos na Europa. Veremos que essa “desculpa” hoje nao € mais valida. Galatéia, Afrodite e o golem ‘A ciéncia nao foi, por outro lado, a tinica, na histéria ocidental, a levar em conta esse fantasma mecanicista. A mitologia ¢ a tradigao religiosa ou poética carregam igualmente sua pegada, uma pegada corrente como um fio vermelho através de nossa cultura. Nossa me- méria coletiva é desse modo, povoada de criaturas fabulosas, robés transfigurados ou autdmatos que cobram vida, que os poetas € os romancistas nao cessaram de por em cena. Todas essas figuras parti- cipam de uma mesma fascinagio pela “fronteira” indizivel e impal- pavel, que é considerada separar 0 humano da maquina. Lembremos alguns exemplos. . Um mito grego nos mostra que © rei Pigmali: ilha de Creta, certo dia se apaixonou por uma estat que ele esculpira ¢ que representava uma mulher. E Pigmaliao tinha batizado de Galatéia sua estitua, que representava a fio, que reinava na acueta de marfim scultor famoso, 23 Jean-Michel Vencer, “Les sciences cognitives ont-elles raison de l'ame?”, op. cit. NE EL 101—_— o pang de Humanisaee_ . esforgou para aper afim de que ela se animava. ele se 19 de desejo POF ela, seu Corpo» finar seus (1a¢¢ des P' a vida. Mas foi em vao. A matéria nao dio de Afrodite, deusa tutelar de te, Pigmaliao designa mulher ideal. Consumid feigod-la e re! se, in fines ye de solicitar gs e as curvas linguagem corren hoje o mentor de um ser que © ajuda a se educa aduzia uma relagao de fascinagao pela da com forma humana. ble faz, principalmente, conse de Pigmaliao uma impossibilidade para 0 homem de insuflar vida na matéria sem 0 socorro dos deuses. E uma ligao antimaterialista. Em um dos célebres contos de Hoffmann, L’'Homme au sable, que foi abundantemente comentado por Freud,*4 um jovem se apaixona por uma mulher-automato chamada Olimpia, que ele sonha deses- peradamente fazer chegar & vida. No conto, a boneca fora criada pelo “grande fisico Spallanzani”, mas ela ser destruida por Coppelius, sv mac Fl soe Hein ev ce ralisa italiano, Lazzaro Spallanzani asta) eee a realizar, em 1777, uma fecundagio in vitro. )), que foi o primeiro sitro. r, a se construir. Na matéria inanima- rvar do mito origem, ele tr Encontramos si i a mes ine ge mesmo imagindrio em numerosas obras . om Juan de Moliére, . - Festin de Pi + por exemplo (cujo subtitulo é Z erre s itulo é Le acabard por ee no ato IV, a estdtua do comandante, que pirou-se di imar eo levar & morte. Moliére, para 7 Peclem@diversos . , Para esse tema, ins- Tirso de Molina, Predecessores, entre os quais o escrito hol i ais 0 escritor espa utor do Trompeur de Séville et Vinvité Se hol invité de Pierre, jgmund Freud, “Linquiétante étran; pliquée, Gallimard, col. “Mees”, 1975. Nessa a em Evsais de psychanalyse ap lise, b i écni » bastante cientifici r onsidera que, se a técnica e 0 maquinismo nos amedro te cientificista, Freud ntam, € po > rque eles nos | gecordam uma situagao infantil superada, | 2 Citado por Michel Tibon-Comillot, Les Co + , Corps transfig | ‘gurés, op. cit. 102O homem reduzido 4 maquina? cuja mais antiga edigao data de 1630. Uma tematica comparavel é apresentada na famosa Vénus d'Tlle (1837), considerada por Prosper Meérimée “sua obra-prima”, que pe em cena uma estitua que che- gaa vida. E notério que Mérimée também reinterpretou uma len- da muito mais antiga, relatada no século XII pelo historiador ingles Guillaume de Malmesbury em sua Chronique des rois d’Angleterre. Mas é sem dtivida no simbolismo judaico do golem que esse so- nho da matéria que cobra vida é expresso mais fortemente. Em he- braico, a palavra golem significa “embrido” ¢, no Antigo Testamento (SI 139,16), ele designa um homem inacabado. A lenda pretende que o profeta Jeremias tenha criado um golem que, logo que foi anima- do, teria censurado seu criador por té-lo concebido porque, por causa dele, encontrava-se abolida a diferenga entre um homem, criatura de Deus, e uma maquina, criatura do homem. O golem simbolizava, portanto, uma éransgresso, e Jeremias resolveu destruir sua criagao. Esse tema do golem reapareceré diversas vezes no pensamento judaico, principalmente nos textos magicos do século XII, em que o golem é um bloco de argila que figura um animal ou um homem, mas que cobra vida quando o migico escreve sobre sua fronte o nome de Deus. Encontramos a mesma figura na histéria legendaria do maharal de Praga, rabi Yehudah Loew, que viveu no século XVI. ipulos, teria modelado um golem oO signo Jeus O maharal, auxiliado por seus di de argila, antes de Ihe dar a vida, inscrevendo em sua fronte divino, o Tetragrama. Ele Ihe atribuiu a tarefa de proteger 0s jud contra as perseguigGes, De infcio aliado fiel do rabi Yehudab na sina- eae gnenschul de Praga, o golem acabou ur, numa recorrente tarde, de seu criador, que teve de 2 Meytink aes diversos romances, entre ea avs Vida gracas ae (1915), em que vemos uma estes . imposigao de sinais cabalisticos. . telato, a Tecentemente ~ ¢ isso nao € um acaso —, diferent * foram publicados, reexaminando essa lenda 3 luz das ¢ por se emancip’ festrui-lo. Essa lenda ais o de Gustav de argila cobrar es ensaios € iéncias 103© Principio de Humanidade do ser vivo. Citamos a volumosa obra erudita de Moshe Tdel, espe. cialis aciada pelo bidlogs ana mistica judaica e na cabala, obra pre ¢ filésofo Henri Atlan. “Eis que a questio de fabricar seres vivos ¢ talvez logo homens — escreve ele, nado sem malicia, em seu preficig = nao pertence mais & lenda ow a ilustio dos magos. Ela se torna atual 26 em nossos laboratérios € nossas clinicas”- Domesticar logiciais selvagens Fabricar seres vivos? A férmula de Atlan é, sem duivida, prema. tura. Ela nos convida, no entanto, a medir 0 caminho realizado hoje pela ciéncia aplicada e pela técnica na dire¢ao desses confins, des- sas margens, dessas fronteiras incriveis, em que a vida e a maquina parecem reunir-se. Sem ter sempre clara consciéncia disso, estamos ja cercados por experiéncias-limite, maquindrios animados, criagées virtuais e artefatos, cuja onipresenga contribui para confundir nossos pontos de referéncia. Em relagao ao passado, tudo mudou. A “m+ quina viva” se tornou banal. Ela habita nosso cotidiano. Vivemos, e™ suma, no meio de golems. Eles proliferam como nunca na Hist6ria. Sao téo numerosos que seriamos incapazes de propor uma enumet Gao exaustiva deles. Mas podemos, ao menos, designar algumas & tegorias. Poderfamos, em primeiro lugar, classificar no capitulo das simul $6es informaticas as numerosas experiéncias que visam a reconstitu! os procedimentos virtuais que se aproximam de modo perturbado! daqueles due regem 0 ser vivo. Desde a época das primeiras “red de autématos”, estudados hé cerca de vinte anos, principalmente P™ Henri Adan, a técnica caminhou. J éramos capazes, desde as exper | 26 Moshe Idel, Le Golem, trad. do inglés de Cyrille Aslanoff. Cerf 19° 104ee) : © homem reduzido a maquina? ancias de Warren MeCulloch e Walter Pitts (em 1943) de de neurdnios informiiticos” ou “neurénios formais” criar “redes , reproduzindo as células nervosas verdadeiras. Gragas a um método regulado por John Holland, chegamos hoje a combinar essas redes com aquilo que se ama de algoritmos genéticos, que thes possibilitam adquirir uma cl verdadeita autonomia, Esses algoritmos permitem, em poucas pala- vras, aplicar os prineipios da selegao natural em milhoes de informa- goes codificadas, de modo que seja mantida a solugdo mais apta. Isso significa que 0 comportamento dessas redes de neurénios virtuais torna-se imprevisivel e ndo mais determinado previamente por um operador. Elas adquirem uma forma de inteligéncia e de “liberdade” (as aspas se impéem). A titulo de exemplo, sio citados os bancos de peixes virtuais criados por Demetri Terzopoulos e que, sobre o moni- tor do computador, evoluem de modo aleatério e auténomo. Em janeiro de 1990, um engenheiro ecologista, Tom Ray, tra- balhando em um laboratério japonés, foi mais longe nesse caminho, recriando um ecossistema virtual. Ele transformou de algum modo a meméria de um computador em um “territério” que equivalia a um meio ambiente vivo. Esse ecossistema artificial foi batizado como Tierra (a terra) por seu criador. Este tiltimo, em seguida, introduziu Programas complexos nesse espago informatico, programas que pos- suem a capacidade de se duplicar, de aumentar, de se diversificar, de se combinar etc. Ora, muito extraordinariamente, esses programas, que podem adotar estratégias de sobrevivéncia ou de conquista, co- lonizaram em menos de uma noite toda a meméria do computador. ao hesita mais em predizer Jiciais”, explicando que Apoi. es Poiado nessa experiéncia, Tom Ray ctiacs “e. A azo futura de “fazendas de c deveremos aprender um dia a “domesticar alguns desses organtsmes selvagens”, io de log Com efeito, parecem um pouco em u ‘odo lugar. P as “criaturas” desse Upo . . i i Oo VIt= esquisadores japoneses conseguiram eriar um idol tu: Z : . a per- al, batizado como Kyoko Date, vestindo os tragos de uma per 105O Principio de Humanidade turbadora jovem, capaz de cantar, dangar, responder a emissdcs de televisio ao lado de “verdadeiros” convidados. Podemos prever uma multiplicagio desses “seres vivos” do terceiro tipo na internet, em que sera dificil distingui-los dos homens ou das mulheres verdadeiras. Um passo suplementar foi transposto com as novas geragoes de robés, dos quais os meios de comunicagao gostam tanto de celebrar, periodicamente, as faganhas. Eles, com efeito, nao sao mais virtuais, mas concretos. Essa nova robética se inspira diretamente nas pesqui- sas realizadas no dominio da inteligéncia artificial, principalmente as feitas por Rodney Brooks em nome do MIT. Em relagao a antiga, essa nova robética renuncia 4 idéia de programagao ou representagio prévia que, outrora, governava as reagdes de um robé, para substitui- la por um procedimento de adaptagao permanente, gragas 4 multipli- cacéo de “médulos programaticos”, entre os quais 0 robé pode “es- colher”. Com o auxilio dos progressos do imaginario de sintese ¢ da sensibilidade dos captadores sonoros, alguns robés se tornam capazes de reconhecer e de identificar nado sé uma linguagem humana, mas também emogoes simplesmente decifréveis em um rosto. A primeita experiéncia desse tipo foi realizada pela equipe de Fumio Hara, da universidade das ciéncias de Téquio. Durante o ano 2000, os japoneses se entusiasmaram por Aibo. um rob6-c4o, capaz de trazer de novo uma bola e de obedecer 3s ordens de seu dono. Os dirigentes da filial da Sony, que produit esse “cao”, vendido por 10.000 francos, explicavam que os caes-robés eram mais bem adaptados ao meio ambiente urbano do Japao do que os “cdes naturai Outros cientistas inspiram-se nos ensinamentos da entomologi# para criar enxames de insetos virtuais, que chegam a estabelecer €” tre si modos de comunicag coletivos coerentes. M; Jo que desembocam em comportamentos s espantoso ainda, esses “insetos” se revela™ capazes de organizar estratégias de cooperagio que Ihes permite 8 breviver e assegurar, desse modo, a perenidade do enxame. Ora, ¢5* | 106_Ohomem reduzido & maquina? peragio de modo nenhum fora programada. E-uma “emergéncia” coo| , o . . uma “auto-organizagao do sistema informatico, que se aproxima, vida real.?” desse modo, . ‘Um pesquisador da universidade da California do Sul, Michael Arbib, chegou a cri ‘atric. Ela é munida de microcimeras aperfeicoadas, de uma verda- deira retina artificial e de um pseudo-sistema nervoso, Gragas a esses umentos, ela pode contornar obstéculos ¢ reconhecer “presas”, ar uma “rd virtual”, batizada como Rana compu- instr Outros pesquisadores estudam “modelos informaticos de gafanhotos ou lesmas do mar, utilizando esses simulacros para obter previsées comportamentais que sao, em seguida, testadas com animais reais, colocados em condigées particulares de experiéncia”.’* Amaquina “no” homem Mas essa confusio perturbadora entre a méquina € o ser vivo pode também tomar outros caminhos, completamente diferentes. Em vez de serem elaboradas para simular ou reconstituir a vida, as maquinas podem ser concebidas para serem colocadas, implanta- das, dentro do préprio ser vivo, até aderir a ele. O encontro entre a maquina e 0 ser vivo nao se faz mais por imitagdo, mas por imbri- cacao. Abre-se aqui o campo imenso, constitufdo pela aparelhagem do corpo humano, as préteses, os implantes de todos os tipos. Cada ver mais aperfeigoados, eles servem para paliar uma fungio biol6- 8ica deficiente ou melhorar os desempenhos de um drgao. O mito, os he A maioria desses exemplos sio tomados de empréstime de Hervé ‘volution biolithique, op. cit. * Daniel Parrochia, “Le statut épistemologiqu biologique, ordre technologique (ed. por Frank Ti Kempf, e de la ‘vie artificielle”, em Or- “ inland). Champ-Valon, 1994. bi one 107E————_—rlelelests—s—‘“‘“‘i‘i‘i‘i‘i—i—i‘<‘<‘ ‘i MH 0 Principio de Humanidade desta vez, nZo é mais o de um golem, mas do cyborg, versio moder- na do homem-maquina, cujo corpo incorporou “extensdes” eletro- nicas ou informaticas que decuplicam suas capacidades fisicas ou mentais.” Ele é homem e maquina, esperando tornar-se maquina ¢ homem, Nao estamos mais diante de um problema de fronteira, e sim de proporgao ou de dosagem. Qual parte para o homem, qual parte para 0 maquindrio? E preciso saber que, no decorrer destas cinco ultimas déca- das, essas possibilidades de aparelhagem do corpo humano foram multiplicadas e complexificadas de modo espetacular. Isso se fez passo a passo. No inicio dos anos 40, realizavam-se os primeiros transplantes de aparelhos capazes de suprir, de infcio, o rim, de- pois outros érgios. Chegou-se, em seguida, a instalagao de esti- muladores cardiacos — 0s marcapassos —, cujo uso rapidamente se espalhou pelo mundo. Depois chegaram, em 1989, as primeiras bombas de insulina e os estimuladores musculares, que permitem restabelecer tal ou tal fungdo deficiente. Citam-se freqiientemente os implantes chamados de cocleares,*” eletrodos e circuitos eletré- nicos ligados ao cérebro e que permitem curar certas formas de surdez profunda. “A sociedade americana House Ear Institute de- senvolve até eletrodos implantados diretamente no cérebro, junto dos nticleos cocleares”.*! A imprensa cientifica constantemente ecoa novas inovagGes 0 Pesquisas, sem cessar mais promissoras. Dois neurocirurgiGes ame- ricanos, Roy Bakay e Philip Kennedy, da universidade Emory, ¢™ Adanta, instalaram no cértex de um paralitico mintisculos implantes Trg Tratei sobre o cyborg em La Refondation du monde. Seuil, 1999. 0 termo “ termo “coclear” designa a pa ido i : uae coclear” designa a parte do ouvido interno, enrolada em espitah ntendo as terminagées do nervo auditivo | * Laurence Plévert, “Cybore. [’ - 7 erie yborg. LHomme augmenté”, em Euréka, n. 53, ma 108lisse O homem reduzido & maquina? eletrénicos que lhe permitem — em certa i peoisaente um cotad, fando caital dion Od ficiente em questao, Johnny Ray, que viv vom tn cotton Ode. a a re cletrodo implan- Fatadoe Unidos. Tamibém se pensa em fcr ur vradei lo rado r fabricar um verdadeiro olho artificial, dotado de uma camera e de um microprocessador capaz de alto desempenho, que seria ligado diretamente ao cérebro e devolve- ria a visdo a um cego. Outros pesquisadores refletem ousadamente na possibilidade de fabricar, ao menos parcialmente, um cérebro artificial, que se- constituido de milhares de microprocessadores capazes de ter um “comportamento emergente” ¢ que substituiriam os neurdnios. Pro- jeco ainda inatingfvel, sem duivida, Mas nada impede! “A sofisticagao Futura dos implantes — considera Hervé Kempf — permiriré um con- trole ao menos parcial de certa a visio, a audi¢ao, o controle dos membros, mas tam lecto”.22 A maquina coloniza 0 homem, E nesse contexto ria s fungdes mentais: bém fungdes do humor ou do inte- penetra-o, completa-o ¢,tal- perturbado —¢ perturbador vez, por fim, 0 abole... obre 0 homem-maquina. — que se inscrevem doravante os debates s casos em que esses implant nao substitu 9. Citemos 0 caso do Hé outros es, incorporados em tor- no ou dentro do corpo humano, fungio & do organism rcomp — munido de bio em um 6rgao doente, mas acrescentam uma computador-veste — 0 wed do com fios condutores, que possibilidades de meméria, de célculo ou de com computador. Citemos também os chips eletrénicos, plantados sob a pele, que dotam es corpos das mest re de identificagao ou de estocagem informatica que aS de um cartdo com chip (abrir o acesso a um est onamento, pagar uma transagao captadores ou teci- permitem bencficiae permancnrementé unicagto de um diretamente im- nas capacidades » Hervé Kempf, La Revolution biolithique, op. cits 109110 © Principio de Humanidade etc,). “Kevin Warwick, professor de cibernética na universidade de Reading (G de 1998. Ele se servia desse chip como de um sésamo em uma ‘cons- trugao inteligente”.* r4-Bretanha), enxertou um chip sob sua pele em agosty Evoquemos, por fim, em uma palavra, os progressos espetacu- lares na fabricagio de tecidos, substancias ou drgaos, suscetiveis de substituir seus equivalentes organicos. Para eles apenas se justifica- riam paginas inteiras de descrig4o. Sabemos doravante cultivar célu- las da epiderme destinadas a enxertos de pele. Aprendemos a fabricar implantes ésseos com base de coral, recolonizado em seguida pelas células dsseas do organismo. Reconstituimos artificialmente diferen- tes formas de hemoglobina para as transfusdes. Sao feitas ativas pes- quisas sobre a regeneracao artificial dos nervos, e nao esta excluido que estejam a ponto de, em um futuro préximo, fabricar um figado artificial. O marfim de que era feita Galatéia se confunde hoje com o cor po vivo... A lamentagao dos Tamagotchi Esse triunfo do maquinal, essa engenhosidade na hibridagao e™” tre 0 ser vivo € a m&quina, esses “tecordes” de implantagao sem cess ultrapassados, tudo isso gera um discurso tecnocientifico habitad? por uma infatigdvel jubilaga (meios de comunic: io esportiva. A crénica contemporine? cio, ensino, discurso politico...) celebra essa fic- da. Ela evoca os “limites recuados”, a “onip” téncia” técnica, ou entéo a marcha para a “satide perfeita’. O im pacto dessas proezas, por outro lado, é tal, que o efeito de antincios cdo cientifica real 33 Euréka, n. 53, margo de 2000.O homem reduzido & maquina? como vimos, determina cada vez mais a atividade dos laboratérios. Rivaliza-se em rapidez. para anunciar (ainda que premaeuramente) um novo método de aparelhagem ou um novo tipo de implante ele- trénico. Nao nos preocupamos mais, em troca, com as significagoes simbolicas, ideoldgicas ou éticas da questao. EI las so, no entanto, consideraveis. “Novos termos investiram a lingua, pondo em muita evidéncia ue os critérios de delimitag4o do humano hoje se encontram abala- dos. [...] Individuos “ciberassistidos’ sd0 seres humanos débeis, pouco vigorosos, votados a uma vida curta, e que nao podem chegar a certa nalidade social, sendo a preco de muletas tecnoldgicas: siste- biochip em fase Ifquida, ciberéptica, circuitos de amplificadores de influxos nervosos, mas de memorizagio, tomadas de do mesmo género”.* alo dos critérios do hu- iva entre o homem funcio: mas de estimulagao, bioplastica, drogas modificadas, membros e érgios artificiais, siste interface neuronal, e outros dispositivos Concordar preguigosamente com esse ab: mano, tomar o partido de uma confusio progress a maquina, nao deixa, todavia, de ter suas conseqti plano imediato. Um professor do departamento “Ciéncia, recnolo- gia e sociedade” do Massachusetts Institute of Technology (MIT), Sherry Turkle, salienta que a “cibercon ” das criangas os leva a “ver os sistemas informaticos como se r de um conceito explicativo para outro, © a quisas a degradar ¢ éncias. Até no sciéncia res ‘quase vivos’s @ pas brincar com as fronteiras sobre a inteligéncia arti- 5 termo “inteligén- ssa desvalorizagao gencia” de seus ler fazer a me- entre 0 ser vivo ¢ 0 objeto”. As pes ficial, explica ela, contribuiram par in - As criangas integraram espontaneamente © © conceito, Elas falam indiferent inteli Jogos eletrénicos ou de seus comp# mente da nheiros, sem pod “ Dorothy Nelkin e Susan Lindee, La Mystique de IADN, op. cit« 11112 O Principio de Humanidade : assistimos nesmo desvi nor distingao. Mais perturbador Foe eens ue ad lingiiistico no campo afetivo. As criangas mF ae em relagio a seus animais virtuais 07 seus cies € gatos is . : os, sem notar mais qualquer diferenca. Para Sherry Turkle, “os debates tradicionais sobre a inteligéncia artificial se ligavam as capacidades técnicas das maquinas. Os novos dirao respeito & vulnerabilidade emocional dos seres humanos”.** Do mesmo modo, descobrimos certos efeitos induzidos pela co- mercializacio maciga de animais virtuais destinados &s criangas — 0s Tamagotchi. Esses pequenos seres que devemos alimentar, cuidar, distrair sob pena de vé-los deteriorar-se contribuem para uma des- realizacao do ser vivo, freqiientemente desastrosa. Na Alemanha, a sociedade protetora dos animais protestou contra os Tamagotchi, acusados de des-responsabilizar as criancas diante de um “verdadei. ro” ser vivo. Acontece 0 mesmo com o jogo eletrénico Criaturas, que apareceu em 1996, pondo em agao criaturas computadoriza- das aperfeigoadas, os Norns. Essas criaturas, de aparéncia humana, agem em um cendrio virtual (ruas, apartamento etc.) ¢ dependem da atengao que 0 usudrio do jogo lhes da. Esse jogo sugere a crianga certa idéia de sua onipoténcia, que nao € sem risco, porque ela nao € compensada por nenhuma espécie de responsabilidade, limites ou sangao. “A tendéncia do jo ; = go — observa um Pesquisador do Ins- ututo de genética de Estrasburgo — sringida ee de Bstrasburgo ~ deseja que, se uma criatura é Bis por uma deficigncia, é preciso fazé-la passar pela eutandsia pata que essa falha nao se perpetue”* Percebemos, fin: almente, que da, na realidade, um principio de morte obse- © mundo das m Aquinas, Os robés simbolizam » Sherry Turkle, “Cilins dec TUNESCO, setembro de 2000, NS Pour cyberenfants”, Courrier * Le Monde, 10-11 de novembro de 1996,© homem reduzido a mSquina? gjaténcia sem sofrimento, sem fragilidade, sem sintomas. £ uma € por isso que el vr como Jean-Claude Beaune, para quem o automato es geram confusamente a angiistia. Ea tese de um pesquisado pretensamente vida. Ele oferece ao olhar do homem a imagem de um corpo frag- mentado € congelado; a idéia de uma presenga morta no proprio 40 do set vivo. Nesse sentido, ele € uma “maquina de mor- inteligente” introduz definitivamente a morte na corag te’, de modo nenhum porque seja capaz de perpetra-la ou porque seja perigoso, mas porque ele representa e “faz viver” a morte em nosso cotidiano.” Tudo acontece como se, a respeito das fronteiras do humano, a técnica tivesse caminhado muito mais depressa que a reflexao e até Parte dos cognitivis a Teoria forte” do inicio, O Saunt mesmo da comunidade ciéncias. E ‘as a renunciar Mus célebre desses criticos, John * Friedrich von Hi on Hayck, Scientisme ep gc 7 sme et Sciences soe Hl i wsage de la raison. Plon, 19X86, WNC elas, Bai sur te mau ” Kal R Pome Kal R. Popper, “Meceani ‘ ae enzione ¢ i Hi ide~ Tazioni st cl aperto” ‘ “re ° i wt un problema apetto”, Lauroma Pirituae, Men, eee consid Laterza, Roma-Bati 1991. Actigo civale POF Giorgio Israeh me ¢ compute Pour un nouveau ration, siorgi . lion, op ca, Bo eral, Le Jardin au noe SMI CONtrO iny, 114O homem reduzido 4 maquina? Searle, professor no instituto de filosofia de Berkeley, zombou da pretensa “inteligéncia” de um computador,” Para fazé la, ele usou um racioeinio que toma a forma de piada ontoldgica: 0 famoso ar- gumento da “cimara chinesa’, que the permitia criticar a pretensa inteligéncia da “méquina de Turing”, metéfora do computador que empanturramos de “dados” ¢ que fornece “respostas”. Esse argumento se tornou banal para qualquer reflexao critica sobre a inteligéncia artificial. Searle supde que estd fechado em uma camara escura € que se pode comunicar como exterior por meio de um teclado dotado de caracteres... chineses. Ele nao conhece o chinés, mas dispe de instrugdes apropriadas, ou seja, de um “guia” que lhe indica as se- qiiéncias de ideogramas a dar como resposta a tal ou tal questio, ieualmente em chinés. Se as instrugées forem corretamente estabe- lecidas, ele poderd “responder” as quest6es, mas “sem ter compre- endido o que quer que seja”. “Tudo o que eu teria feito — explica Searle — € manipular simbolos que, para mim, nao tém nenhuma significagéo. Um computador se encontra exatamente na mesma situacéo que eu na camara chinesa: ele dispde apenas de simbolos e de regras que regem sua manipulacio”."" Em outras palavras, Searle recorda que, se 0 cérebro humano é de fato um “mecanismo” (e, portanto, em certa medida, uma “ma- quina”), € um mecanismo causal que “tem a propriedade extraor- dindria de produzir consciéncia”, ao passo que 0 computador “nao ‘on ce 0 livro maior de John Searle, La Redécouverte de lesprit. Gallimard, 2. Seis outras obras do fildsofo estao disponiveis em francés, entre as quais & Precso citar La Construction de la réalité sociale, Gallimard, 1998; Le Mystre de la conscience, Odile Jacob, 1999, "John R. Searle, “Langage, conscience, rationalité” (entrevista com Philippe de ) lan), Le Débar, n, 109, margo-abril de 2000. 115Principio de Humar idade produz absolutamente nad, , a nfo ser a etapa seguinte da execucig do programa”.? Quanto a questio de saber se 0 cérebro é “inttin. secamente um computador”, ela the parece absurda, porque “um computador nada é intrinsecamente, s€ Nao Bore um ser cons- ciente que faz computagoes. Um computador é tdo-somente algu- ma coisa 4 qual foi atribuida uma interpretagao. E possivel atribuir uma interpretagao computacional ao funcionamento do cérebro da mesma forma que a qualquer outra coisa”. Se as criticas de Searle abalaram a suficiéncia dos primeiros cog- nitivistas, € sem dtivida gragas a sua luminosa simplicidade, acompa- nhada em acréscimo de uma ponta de humor. Mas é também porque elas nao eram feitas em nome de um idealismo que os colegas de Se- arle teriam rejeitado imediatamente. O fildsofo de Berkeley apresen- ta-se sempre como um naturalista decidido. Se ele cré na existéncia da consciéncia humana, diz ele, é porque ela parece “natural ¢ real, da mesma forma que a digestdo ou a fotossintese”. Afastando-se do antigo dualismo cartesiano, que opde 0 corpo € 0 espirito, ele parece, Pportanto, recusar eliminar a consciéncia como o faz a maioria dos cognitivistas. O computador é emotivo? As criticas do filésofo Hubert L. Dreyfus, colega de John Searle em Berkeley, sao expressas em si de talvez ainda mais decisiva lados fundamentai dizer que 0 cérebro modo menos imagistico, mas ° “4 : i Dreyfus contesta totalmente os post do cognitivismo, Para ele, é inteiramente fal’? funciona como um computador; falso acredit © Ibid. ” Ibid. “Hubert L. Dreyfus, Intelligence anifii elle. Mythes et limites, Flammarion, 195* 16O homem reduzido 4 maquina? smpreender a psigque huma- que tal computador possa ajudar-nos 3 ar que possamos formalizar — ou numerizar — tod ar — todo na; falso acredi conhecimento; ingénuo pensar que possamos analisarasinformagie que nos fazem agir como se clas fossem grandezas mensurdvei efi ao passo que elas proprias dependem das situagoes. aoe a partir desse tiktimo ponto que Dreyfus se retine com a erttica chamada de “humanista”, Diversamente do computador, diz ele, 0 definido de uma vez por todas. Ele esté em perpétuo XaSs homem nao é devi, O homem nao é um estado, mas um projeto. Sua “natureza” stud em movimento permanente, tendido para um fim, transformado sem cessar por seu “interesse tiltimo” (ultimate concern). E 0 préprio do homem, de sua humanidade, ser capaz de se construir para além ue um homem regrida, a de si mesmo. Sem dtivida, pode acontecer 4 mportar t4o mecanicamente quanto um computador, ponto de se co: vel.’ Um computador nao pode ir além de mas 0 contrério € impossi seu programa. Esse tema d: um outro adversdrio re Weizenbaum. Mirando os li duvida que a andlise de seu funci quer ajuda para o homem. Qual sentido pode de inteligéncia artificial diante de certos probl “emor, amor ~ que 0 how cedlecisdes” de um computade instrument nao é& portanto, lugar, mas se im estado de p' igualmente presente em artificial, Joseph utador, ele la intencionalidade es pucado da inteligéncia mites evidentes do comp! onamento possa ser de qual- ter a propria idéia emas ou situagdes nem sozinho or proce- dia — esperanga, sofrimento, © deve enfrentar? As pretens dem no maximo da razao0 de responsabilidade. A questao ¥ Jecidir em nosso — esté em U ale ignoram qualquer i saber se podemos devemos fazé-lo- programé-lo para d ermanente O individuo — escreve cle yeaveis de Peter Kemp, inteiramente 0 4 Apéio-me aqui nas anslises nique, op. it. Lirremplagable. Une éthique de la tec 7118 O Principio de Humanidade devir. A preservagio desse estado, ou seja, de sua humanidade e de sua vida, depende essencialmente daquilo que ele préprio considera e daquilo que seus semelhantes consideram © que signi- Frey cot am ser humano”.* Dreyfus considera, na realidade, que a 1a a fazer nao importa o qué, porque pesquisa cientifica nao autori o homem é dotado de responsabilidade. O computador, em si, é incapaz de responsabilidade e de intencionalidade. Da intengao ao sentimento, a distancia € pequena. Ora, é pouco dizer que um computador é desprovido de sentimentos, Somos gratos por Weizenbaum nos lembrar disso. Sobre esse pon- to preciso, alguns criticos do cognitivismo yao mais longe que ele. Eles se perguntam se o sentimento, as emogoes humanas, nao desempenham um papel decisive na prépria racionalidade. Se tal fosse 0 caso, o conceito de inteligéncia artificial deveria ser com- pletamente reexaminado. Ea tese estimulante do neurobiologista ‘Antonio R. Damasio, diretor do departamento de neurologia da universidade de Iowa nos Estados Unidos. “Ser racional — escreve ele — nao é se separar de suas emogoes. O cérebro que pensa, que calcula, que decide nao é diferente daquele que ri, que chora, que ama, que experimenta prazer € desconforto. O coracao tem razoes que a razio... esta longe de ignorar”.” Damasio api ia sua argumentagao sobre uma extraordinatia historia, bem conhecida nos Estados Unidos: a de Phinéas P. Cage com a idade de vinte e cinco anos em 1848, chefe de equipe &™ um canteiro de obras de vias férreas, no Vermont, perto da cidaue nas “! _ de Cavendish. Com a explosio prematura de uma carg? de © 46 a 7 us __ “Joseph Weizenbaum, Puissance de Vordinateur et raison de Uhomme tions d’informatique, 1981. ile a7 A ar , Antonio R. Damasio, L’Erreur de Descartes. La raison des emotion’: Jacob, 1995. dtO homem reduzido a maquina? plosivo, ele teve 0 cranio atravessado por uma barra de fern, penetrou obliquamente sua face esquerda e saiu do lado dirchede seu crinio, depois de ter destrufdo uma parte de seu cérebre, Osa, Cage nao s6 no morreu, como também nio perdeu a coneiag cia, e chegou a se curar rapidamente. Nenhuma de suas Fungo es vitais (motricidade, linguagem, equilibrio, meméria) foi afetada Em compensagio, seu comportamento social mudou completa, mente. Ele se tornou grosseiro, imprevisivel em suas decisées, entemente incapaz de tomar uma decisio refletida. Damasio aproxima esse caso ao de um de seus préprios pacientes, “Elliot” (é um pseudénimo), que, nos anos 1970, teve uma mudanga de atitude social compardvel por causa da ablagao de um tumor, um meningioma cujo crescimento havia lesado uma parte dos tecidos cerebrais. Por causa dessa intervengao, “Elliot”, assim como Cage um século e meio antes, conservou suas faculdades cerebrais, mas se tornou incapaz de se comportar de modo razodvel. Exames mais aprofundados mostraram que Elliot, na realida- de, nao sentia mais emogées. “Ele parecia encarar a vida de modo neutro — comenta Damasio. [...] Poderiamos definir em poucas palavras a infeliz condigao de Elliot dizendo que estava, doravan- te, em grau de conhecer, mas nao de sentir”.** Dam: que tal jd fosse o caso de Phinéas P. Cage. Ele deduz, reditamos em geral jo & razao (0 delirio das omiantico etc.), 74s asio considera entio, que a emogao, contrariamente ao que ac) , nado desem- penha um papel “perturbador” em relag: paixdes, a irracionalidade afetiva, 0 pathos ¥ que a emogao faz parte dela. Para ele, a emogio € um dos compo- nentes da racionalidade humana. Essa funcionalidade das emo- S6es poderia ser muito bem o produto da evolugao, assim como a 119120 0 Principio de Humanidade descreve Darwin. Ela provaria a incrivel complexidade dos meca. nismos cerebrais humanos, complexidade diante da qual, segundy Damasio, devemos ficar “maravilhados”. “A perc pcdo das emo. 4 na base daquilo que os seres humanos crescenta cle — Ges — te 8 49. chamam, hé milénios, de alma ou de espirito”. smotivo? Imaginariamos um computador emotivot Uma espécie de autismo Em suma, € a subjetividade, entendida em todos os sentidos do termo, que faz a verdadeira diferenga. E dessa subjetividade nenhum estudo neurobiolégico pode dar conta. Nem para o animal nem, a fortiori, para 0 homem. Abordando uma questao diferente, mas vi- zinha, o fildsofo americano Thomas Nagel havia redigido um artigo célebre, em 1974, para explicar que podfamos, sem duivida, estudar a fundo o sistema nervoso de um morcego, mas que ninguém jamais poderia saber que tipo de sensagao ele experimentava. Seu artigo se chamava, por outro lado: “O que é como ser um morcego?” (What is it like to be a bat?). Um computador poderia compreender “o que ¢ como ser um ser humano”? Claro que nao. © pesquisador de quem tomo de empréstimo essa imagem tem razo ao escrever que “as teorias neurobiolégicas da consciéncia apresentam uma lacuna maior, que éa de nao pode ua a le nao poder compreender 0 aspecto interior, subjetivo, da ‘vida do espirito”. © Wid. ® Jean-Noél Missa, ce", em Ordre biol Vallon, 1994, 00 Le cervas, Fondinateur et es modes de la conscie™ + ordre technologique (ed. Por Frank Tinland), Cha?”© homem reduzido & maquina? Sobre esse ponto, nao nos admiraremos de que alguns psics nalistas sejam ainda mais severos. No quadro de um apaixonante com um neurobiologista, um deles nao hesita em diilogo epistol falar de autism a respeito dessa pretensa “inteligéncia artificial”, , cu olhava funcionar a méquina de imprimir de minha “Outro d secretiria — diz ele. Sem se preocupar com o sentido, a impressora imprimia com a mesma rapidez uma linha da direita para a esquer- da, e depois uma linha da esquerda para a direita. Do mesmo modo fasia uma crianga autista de meu conhecimento, que lia com tanta facilidade um livro para a frente e para trds, sem se preocupar com asignificagio daquilo que lia’. Sem pretender repisar a polémica, podemos perguntar-nos se 0 termo autismo nao poderia ser aplicado a alguns dos préprios cog- nitivistas que, no siléncio de seus laboratérios, chegam a perder o contato com o que ha de mais evidente nas paragens da verdadeira vida. E possfvel que, inconscientemente, esses pesquisadores perma- negam mentalmente influenciados por aquilo que um universitario de Carolina do Norte, David Bolter, chama de “tecnologia definido- ra’. Com essa expresso, ele designa as diferentes tecnologias que, a0 longo de nossa histéria, forneceram metaforas e imagens que toma- mos, de modo durdvel, como “explicagdes”.” Platdo usava a metifora do oleiro para evocar o criador do mun- do, metéfora retomada na Biblia, que fala de um Deus que fabrica ou modela sua criatura; na Idade Média, € a fabricagao do primeiro mee invengdo da micromecanica que incitou — durante sécu- 4 escartes — a falar do universo como que movido por me- a oe fraltts Hochman, “La rupture et les analogies neuro-psychiques”, em Ja- le Jaco ty Mate Jeannetod, Eiprit ot ereu? Prchunalyse et neurosciences. Chad {feds em formato de bolso em 1996). : : ‘ter Kemp, Limemplagable, Une éthigque dela technique, op. cit. 121 a© Principio de Humanidade canismos e criado por um “grande relojociro” etc. Cada invengio técnica produz, desse modo, um modelo descritivo da realidade, um modelo provisério, metaférico, mas que confundimos de bom grado com a “verdade”, por fim descoberta. Hoje, ainda que ele préprio seja o produto de uma revolugao conceitual, o préprio computador se tornou, sem dtivida, uma tecnologia definidora. A maioria das me- tiforas cientificas (programa, codificagao etc.) inspira-se, doravante, na informatica. E esquecemos de bom grado que se trata apenas de metéforas. Ora, esse novo reducionismo ndo deixa de ter consequiéncia para nossa visdo do homem. Peter Kemp tem raz4o ao observar, com uma ponta de inquietacao, que, “se 0 computador se tornou uma ‘tecno- logia definidora’ para nossa compreensao do homem, este se arrisca muito a ficar fechado nesse modelo”. °° Em outras palavras, quando comparamos ou permitimos comparar 0 homem a uma maquina, nao € porque isso seja verdadeiro, seja. Isso nao € uma constatacio, E essa opcao é louca... €sim porque queremos que assim 0 mas uma op¢io.