You are on page 1of 6

Vad r unikt med naturliga intelligenser?

I Luciano Floridis artikel Open Problems in the philosophy of information (2004) tar Floridi upp ett flertal problem som kvarstr att lsa inom det informationsfilosofiska fltet. Ett av problemen Floridi tar upp kallar han Turing's problem och definierar det s hr Can (forms of) natural intelligence be fully and satisfactorily implemented nonbiologically?. Floridi frgar ocks om man antar att egenskaperna hos naturliga intelligenser inte r verfrbara till artificiella intelligenser vilka aspekter av naturlig intelligens som gr att implementera i artificiella intelligenser, han nmner medvetande, kreativitet, frihet och frkroppsligande. Han stller frgan om det bara r en frga om komplexitet hos det intelligenta systemet, eller om det finns ngon med substantiell skillnad mellan naturliga och artificiella intelligenser. Jag har frutom Floridi lst tv filosofer som diskuterar frgan. Jag har lst John R. Searle's Minds, brains and programs (1980) och J.r. Lucas' Minds, Machines and Gdel (1961) och Minds, Machines and Gdel: a Retrospect (1996). Jag kommer att diskutera de invndningar de har mot tanken att egenskaperna hos naturliga intelligenser r fullt implementerbara hos artificiella intelligenser. Slutligen kommer jag sjlv att frska bemta deras invndningar.

Searles invndning
Searle diskuterar framfr allt tv egenskaper hos naturliga intelligenser som han hvdar r frnvarande (och mste vara frnvarande) i artificiella intelligenser, frstelse och intentionalitet. Han brjar med att diskutera naturliga intelligensers story-understanding capacity, deras frmga att lsa mellan raderna i berttelser. Fr att visa vad han menar med frmgan ger han fljande exempel: A man went into a restaurant and ordered a hamburger. When the hamburger arrived it was burned to a crips, and the man stormed out of the restaurant angrily, without paying for the hamburger or leaving a tip. Now, if you are asked Did the man eat the hamburger? you will presumably answer No, he did not. Similarily, if you are given the following story: A man went into a restaurant and ordered a hamburger; when trhe hamburger came he was very pleased with it; and as he left the restaurant he gave the waitress a large tip before paying his bill, and you were asked the question Did the man eat the hamburger? you will presumably answer Yes, he ate the hamburger. (Searle, 1980:2)

Searle menar att det r fullt tnkbart fr artificiell intelligenser att imitera mnskligt beteende och veta precis vad de ska svara, men att de inte kan frst varfr svaret r rtt. Det enda de skulle veta r att en naturlig intelligens som blev tillfrgad samma sak skulle ge det svaret artificiell intelligensen gav p frgan. Det r ocks drfr de ger det. De har ingen djupare frstelse fr vad i historien som gav informationen om huruvida personen t hamburgaren eller inte. Searle motiverar inte sina sikter p punkten verhuvudtaget. Dremot frsker han att ytterligare frklara dem genom att g ver till ett annat exempel som han menar handlar om samma problematik, exemplet om det kinesiska rummet. Det kinesiska rummet ser ut som fljande: En person helt utan ngra kunskaper om det kinesiska sprket verhuvudtaget lses in i ett rum med en stor hg kinesisk text. Personen fr sedan en till hg med kinesisk text, och regler p engelska fr hur de kinesiska texterna korrelerar med varandra. Personen r engelsktalande och frstr reglerna utmrkt. Personen fr sedan ven en tredje hg med kinesisk text och regler fr hur dessa korrelerar till de tv frsta hgarna. Personerna som skickar dessa hgar kallar den frsta hgen fr manus, den andra hgen fr historia och den tredje hgen fr frgor. Nr den inlsta personen har skrivit nya symboler efter reglerna denne ftt och skickat tillbaka symbolerna ser personerna som tar emot detta som svar p frgorna. Den inlsta personen fr ven en historia och frgor om historien p engelska. Denne skriver svar p frgorna och skickar tillbaka. Efter ett tag blir personen s bra p sysslorna att denne skriver lika bra svar p bde engelska och kinesiska. Frgan r d, frstr han verkligen bde kinesiska och engelska? Searle menar att en person som hvdar att artificiella intelligenser kan ha samma frmga till frstelse som naturliga intelligenser mste erknna att personen frstr kinesiska lika bra som engelska. Searle sjlv menar att personen i frga har lrt sig allt en artificiell intelligens kan lra sig av det kinesiska sprket, men nd inte frstr ett dugg. Searle tar sedan upp ett par invndningar till sin slutledning. Han tar bland annat upp the systems reply som hller med om att personen inte frstr kinesiska, men menar att man istllet mste ha ett mer emergent synstt p artificiella intelligenser. Det r inte personen i sig som motsvarar den artificiella intelligensen, utan summan av personen, reglerna denne ftt, informationen denne behandlat och s vidare, rummet s att sga. Personen r bara en kugg i artificiell intelligenseriet. Searle menar att personen fortfarande inte kan sgas ha ngon frstelse fr kinesiska, han menar att man omjligtvis kan frst kinesiska fr att man vet att man ska skriva squoggle squoggle efter squiggle squiggle.

En annan intressant invndning mot Searles slutsatser r the brain stimulator reply som invnder: om man kan bygga en artificiell intelligens som helt och hllet simulerar hur hjrnan fungerar hos en naturlig intelligens, som simulerar nervbanorna, synapserna, och s vidare, kan man inte sga att den intelligensen har samma egenskaper som en naturlig intelligens? Mot det invnder Searle att hjrnsimulationen simulerar fel saker hos hjrnan. Den simulerar bara den formella strukturen som hjrnan anvnder sig av, innehllet och sekvensen hos signalerna. Hjrnsimulationen kommer aldrig att kunna simulera what really matters about the brain, namely its causal properties, its ability to produce intentional states. (Searle, 1980:8). Tyvrr frdjupar Searle aldrig varfr intentioner r s viktiga, vad intentioner har att gra med frstelse eller hur intentioner r beskaffade. Det r tre frgor som r helt avgrande fr att kunna kritisera hans slutsatser. Jag terkommer till intentioner senare. Searles syn p hjrnsimulatorn kan ocks frklaras av en annan passage, som diskuterar grnsdragningen mellan naturliga och artificiella intelligenser. Han skriver: I see no reason in principle why we coudn't give a machine the capacity to understand English or Chinese, since in an important sense our bodies with our brains are precisely such machines. Bur I do see very strong arguments for saying rhat we could not give such a thing to a machine where the operation of the machine is defined solely in terms of computational processes over formally defined elements; that is, where the operation of the machine is defined as an instantiation of a computer program. (Searle, 1980:10) Searle menar allts att skillnaden mellan naturliga och artificiella intelligenser inte ligger i hur intelligenserna skapats eller vilket material de r gjorda av. Istllet definierar han artificiella intelligenser som computational processes over formally defined elements, och ser naturliga intelligenser som de intelligenser som r intentionella i sig sjlva. Det r, i min uppfattning, knappast en definition som motsvarar hur vi anvnder sprket till vardags. I en annan definition menar han att [t]he computer, to repeat, has a syntax but no semantics (Searle, 1980:12). Det r ett allvarligt problem att Searles slutsatser r s question-begging. Sjlvklart kan en artificiell intelligens inte vara identisk med en naturlig intelligens om man definierar artificiella intelligenser p ett stt som utesluter intelligenser med egenskaper som gs av naturliga intelligenser. Searles definitioner gr hans teser till tautologier.

Mina invndningar mot Searle


Fr det frsta vill jag invnda mot exemplet i det kinesiska rummet, som enligt mig representerar en vldigt skev bild av vad en artificiell intelligens kan syssla med. Personen i exempel har ntt s mycket kunskap om kinesiska denne kan n baserat p den information den ns av. Men om vi istllet hade sagt t personen att verstta till engelska, och skickat in regler i formen Tecken X korrelerar med det engelska ordet Y eller till och med korrelerat med bilder, vad hade den substantiella skillnaden varit? Varfr skulle inte en artificiell intelligens klara av det? Det handlar fortfarande om samma typ av informationsbehandling. En symboluppsttning motsvarar en annan, personen byter ut symboluppsttning. Systemet av data blir komplexare, men jag kan inte se att det skulle stlla hgre krav p personen i frga. Den pstdda intentionaliteten r ocks problematisk ur en determinists synvinkel. Vad r skillnaden mellan biologisk motivation (hunger, stress, smnbehov med mera) och artificiell (frprogrammerad) motivation? Hur kan den ena skapa en intentionalitet som r s vsensskild frn den andra? Det r problematiskt fr en ickedeterminist ocks, som behver frklara varfr intentionaliteten och viljan hos en naturlig intelligens inte finns hos en artificiell intelligens. Men det faller tillbaka p den strre frgan om hur intentionalitet och vilja skapas i en icke-deterministisk vrld.

Lucas invndning
I sin artikel Minds, machines and Gdel fokuserar J.R. Lucas mycket p Gdels teorem, och vad det innebr i frgan om artificiella intelligensers frmga till frstelse. Gdels teorem sger att i varje motsgelsefritt formellt system som r tillrckligt komplext fr att kunna beskriva aritmetik fr naturliga tal, gr det att formulera satser som varken kan bevisas eller motbevisas inom ramen fr det formella systemet, samt att inget "tillrckligt starkt" motsgelsefritt formellt system kan bevisa sin egen motsgelsefrihet. Lucas utvecklar: Gdel's theorem states that in any consistent system which is strong enough to produce simple arithmetic there are formulae which cannot be proved-in-thesystem, but which we can see to be true. Essentially; we consider the formula which says, in effect, This formula is unprovable-in-the-system. (Lucas, 1961:1) Om Gdels teorem har rtt kan det allts inte bevisas, nd kan jag frst det och acceptera det. Det

blir omjligt fr ett formellt och motsgelsefritt system allts fr en artificiell intelligens, enligt Lucas att frst och acceptera Gdels teorem. Lucas delar iallafall till viss del Searles syn p vad som r en artificiell och vad som r en naturlig intelligens. De bde hvdar att artificiella intelligenser mste agera formellt, s formellt att man i Lucas ord kan skildra alla operationer en artificiell intelligens kan gra med p papper i rtt sekvens. Lucas fortstter sedan sitt argument med att man nr man byggt en artificiell intelligens som inte kan hantera Gdels teorem kan bygga en ny artificiell intelligens som har logiken fr att hantera Gdels teorem inprogrammerad, men att den artificiell intelligensen sedan kommer att behva slss med samma Gdelska problem. Den kommer att ha sina egna satser som inte kan bevisas inom sitt formella system, men som vi kan se r sanna. Det kommer sedan enligt Lucas att fortstta fr alltid. Vi kommer aldrig att kunna bygga en artificiell intelligens utan det problemet. Man kan d invnda att det verkar konstigt att man kan bygga en maskin som kan lsa vilket problem som helst som en mnniska kan, men som inte kan lsa alla problem mnniskor kan. Fr att besvara det invnder Gdel med att ta talsystemet som exempel. Det finns ingen motsttning mellan det faktum att det fr vilket tal som helst finns ett strre tal, och faktat att det inte finns ngot tal som r strre n alla tal. Lucas diskuterar mjligheten att skapa informellt agerande artificiella intelligenser, men avslr mjligheten med fljande pstende: The construction of such a machine, however, presents difficulties. It cannot accept all unprovable formulae, and add them to its axioms, or it will find itself accepting both the Gdelian formula and its negation, and so be inconsitent. (Lucas, 1961:5) Enligt Lucas verkar det allts frmgan att utan formellt resonerande kunan resonera rtt vara ngot specifikt fr naturliga intelligenser. Fr att en artificiell intelligens ska kunna bedma om ett pstende r rtt eller fel mste den ha en formulerad metod.

Mina invndningar mot Lucas


Min frsta invndning bygger p Lucas definition av en artificiell intelligens. ven hans definition r question-begging. Skillnaden mellan Lucas och Searle r att Lucas verkligen frsker motivera definitionen. Men inte heller Lucas kan klara sig frn hjrnsimulatorn. Om vi bygger en artificiell intelligens som helt och hllet simulerar en hjrna, borde inte den klara Gdels teorem lika bra som hjrnan hos en naturlig intelligens?

Min andra invndning tar Lucas upp i sin andra artikel i mnet, Minds, Machines and Gdel: a Retrospect, och den kommer frn brjan frn Douglas R. Hofstadter, och det handlar om frmgan hos naturliga intelligenser. Hur vet vi att naturliga intelligenser r kapabla att lsa problemet med Gdels teorem? Enligt Lucas formuleras invndningen shr: What he [Lucas] must prove is that he personally can always make the improvement: it is not suficient to believe it since belief is a matter of probability and Turing machines are not supposed to be capable of probability judgements. But no such proof is possible since, if it were given, if could be used for the design of a machine that could always do the improving. (Lucas, 1996:6) Lucas erknner att det inte gr att argumentet inte gr att stta bort med ett motbevis, just fr att om vi hade kunnat formellt bevisa att naturliga intelligenser kan lsa Gdels teorem, hade vi varit tvungna att formalisera vrt accepterande av Gdels teorem. S istllet fr att frska motbevisa Hofstadter frsker Lucas bevisa att argumentet inte rcker fr att flla honom. I sin kontring anvnder han en fiktiv diskussion mellan en realist och en fenomenalist som exempel. Realisten hvdar att det finns entiteter ingen kan uppfatta, fenomenalisten efterfrgan bevis, om realisten icke lyckas bevisa entitetens existens fortstter fenomenalisten att vara skeptisk, men om realisten lyckas r entiteten uppfattad. Sklart hvdar jag samma sak som Hofstadter, att vi inte har ngra skl att tro att naturliga intelligenser r s vlfungerande som Lucas ger dem. Innan det r vederlagt finns det inga skl att tro att Lucas resonemang stmmer. Inte fr att artificiella intelligenser r lika avancerade som naturliga intelligenser, utan fr att naturliga intelligenser kan vara lika primitiva som artificiella intelligenser.

Kllfrteckning
Floridi, L., 2004. Open Problems in the Philosophy of Information. Metaphilosophy, 35(4), pp. 554576. Lucas, J. R., 1961. Minds, Machines and Gdel. Philosophy, 36. pp. 112-127. Lucas, J. R., 1996. Minds, Machines and Gdel: A Retrospect. In Machines and Thought: The Legacy of Alan Turing, edited by P. Millican and A. Clark. pp. 103-24. Oxford Clarendon Press. Searle, J. R., 1980. Minds, brains and programs. Behavioral and Brain Sciences, 3(3), pp. 417-457.