Фс 12/21

Да ли рачунари могу имати ментална стања?

(Аргумент кинеске собе)
 Серлов аргумент кинеске собе представља мисаони експеримент којим се оспорава
јака теза о вештачкој интелигенцији (ВИ). Јаком тезом о ВИ тврди се да рачунари који
функционишу извршавајући програме могу разумети природни језик и имати ментална
стања каква имају људи. При том се подразумева да је свест за мозак оно што је програм за
компјутерски хардвер. Према јакој тези о ВИ за рачунар бисмо рекли да заиста
интелигентно игра шах, а не само да симулира потезе у игри. Слабом тезом о ВИ се тврди
да рачунари само опонашају менталне процесе без икаквог разумевања и ту тезу Серл не
оспорава.1 Серл сматра да они који заступају јаку тезу о ВИ сматрају да је интелигенција
ствар формалног манипулисања симболима и ничега више. Тиме се искључује могући
значај физичких особина материјалних структура хардвера који реализује интелигенцију.
Свеједно је да ли је хардвер биолошки или неоргански, јер је једино релевантна форма
програма који над њим постоји.2 У Серловом аргументу се претпоставља да је форма
програма бинарног типа, компјутер на улазу добија низове апстрактних симбола нула и
јединица које у складу са одређеним задатим правилима (комплексним алгоритмима)
трансформише у низове нула и јединица на излазу.

Серл сматра да то што су програми дефинисани чисто формално (синтаксички) није

спојиво са идејом да су ментални и физички процеси идентични. Он сматра да имати свест
значи имати извесне врсте садржаја, свест не чини само извршавање формалног процеса
манипулације над симболима који је омогућен правилима синтаксе. Свест поред синтаксе
садржи и семантику коју мисао добија тиме што је мисао о неком предмету. Уколико
имамо мисли представљене само као низове симбола тиме још немамо значење, за значење
је неопходно да постоји и нешто што низове симбола чини мислима о стварима, а то је
садржај мисли.3 Како би нас уверио да ствар тако стоји Серл наводи мисаони експеримент
кинеске собе.

У том експерименту замишљамо човека који не зна кинески и који се налази затворен
у соби у којој су кутије са кинеским симболима и свеска са правилима за превођење
кинеских симбола на српски језик. У собу бивају убачени папири са кинеским симболима
којима човек манипулише помоћу правила и избацује напоље одговарајући кинески
симбол у складу са процедуром коју је прочитао на српском језику. Замислимо да је човек
тако добро научио да интерпретира симболе помоћу правила да се његови одговори не
могу разликовати од одговора некога коме је кинески матерњи језик. Човек у соби
манипулише симболима на потпуно формалан начин, он узима у обзир само правила
превођења и не интересује га на шта би се ти симболи могли односити, он чак не мора ни
замислити да се ти симболи на било шта односе. Он не зна да поступајући по правилима
заправо даје одговоре на постављена питања на кинеском. Серлов закључак је да се човек
у соби понаша као да зна кинески али да он заправо не зна кинески. Серл затим тврди да
уколико смо себе замишљали унутар кинеске собе и дошли до закључка да не разумемо
1
http://plato.stanford.edu/entries/chinese-room/ , поглавље 3, датум приступа: 5.1. време: 20:30.
2
Серл, Џон, Свест, мозак и наука, Београд, ФДС, 1990, стр. 32.
3
Серл, Џон, Свест, мозак и наука, стр. 34.
кинески онда то повлачи да ни компјутерски програм не може знати кинески с обзиром да
је начин функционисања компјутерског програма такође чисто формалан. 4 Иако компјутер
може проћи Тјурингов тест ипак се не може рећи да компјутер разуме језик. Дејвид Кол
тврди да се Серлов аргумент састоји из три главна корака:

(1) Тврди се да човек који се служи инструкцијама на матерњем језику не разуме кинески.
(2) Закључује се на то да неки компјутер следећи програм не може разумети кинески.
(3) Из претходног се изводи закључак да се програмирањем не може произвести
разумевање природног језика.5
Кол тврди да уколико прихватимо (1) и (2) као истинито из тога неће следити (3). Из
тога што неко не разуме кинески не следи да нико не може разумети кинески. Кол заправо
сматра да се цео Серлов аргумент ослања на скривену премису у којој се подразумева
једна теорија личног идентитета која може бити оспорена и на тај начин ће закључак (3)
који у принципу побија јаку тезу о ВИ пасти. 6 Како би разјаснио своју тврдњу Кол излаже
мисаони експеримент Корејске собе: У соби замишљамо човека који прати процедуре за
поступање са њему потпуно страним симболима који долазе испод врата. Људи који су ван
собе убацују папире и добијају одговоре као и код кинеске собе. Међутим неки од њих
убацују кинеске симболе и добијају одговоре на кинеском, а неки убацују корејске
симболе и добијају одговоре на корејском. Неки од људи напољу верују да је у соби особа
која говори кинески, а неки да та особа говори корејски. Они закључују да заправо унутра
морају бити две особе, јер одговори на кинеском изгледају као да их даје паметна и
образована старија особа женског пола која зна пуно података о Кини, а одговори на
корејском као да их даје глупа млада особа мушког пола која не воли Кину. (Ово је
омогућено тиме што је базу упутстава за поступање са кинеским симболима правила једна
особа, а ону за поступање са корејским друга.) Према бихејвиористичком критеријуму
особе ван собе ће закључити да се у соби налазе две различите индивидуе. 7 Али
критеријум понашања овде не мора бити одлучујући. Када узмемо у обзир информације
које немају они који су ван собе закључићемо у складу са Серловом идејом да особа у соби
не разуме ни кинески ни корејски. Дакле, у соби се не налази индивидуа која у исто време
разуме и кинески и корејски. (Особа у соби не зна чак ни да су базе упутстава за одговоре
на кинеском и на корејском одвојене, искључујуће и да међу њима нема комуникације). Да
ли ћемо онда и када занемаримо бихејвиористички критеријум закључити да се у соби
налазе две различите особе? Постојање различитих база података за одговоре на кинеском
и на корејском као да нам то сугерише. Међутим закључак неће следити непосредно из те
чињенице на основу неке законитости (садржаја), јер ће се показати да је та разлика

4
Серл, Џон, Свест, мозак и наука, стр. 35 и 36.
5
Дејвид Кол (David Cole), „Artificial Intelligence and Personal Identity “, Synthese, Vol. 88, No. 3, 1991. стр.
401.
6
Дејвид Кол (David Cole), „Artificial Intelligence and Personal Identity“, стр. 399 и 401.
7
Дејвид Кол (David Cole), „Artificial Intelligence and Personal Identity“, стр. 402 и 403.
издвојена на случајан начин. Разлози на основу којих бисмо тврдили да је особа која
говори кинески (Окин) идентична са особом у соби подједнако су привилеговани као и
разлози на основу којих бисмо тврдили да је особа која говори корејски (Окор) идентична
са особом у соби. Међутим не можемо истовремено тврдити да су и (Окин) и (Окор)
идентични са индивидуом која је у соби, јер бисмо јој тако приписали инконзистентна
својства, дакле особа у соби није ни (Окин) ни (Окор). Долазимо до закључка да особа која
разуме кинески уколико уопште постоји није особа која се налази у соби, али не и до тога
да нико не разуме кинески.8 Чак и да предикати који се односе на веровања и ставове
(Окин) и (Окор) нису инконзистентни, ми немамо разлучиве критеријуме на основу којих
бисмо прво утврдили да (Окин) мора бити особа у соби, затим да (Окор) мора бити особа у
соби, па затим помоћу неког трећег критеријума закључити да су (Окин) и (Окор) модуси
једне исте особе. Због тога нам се отвара један простор у којем можемо тврдити да особа у
соби није ни (Окин) ни (Окор), да особа у соби није јединствена индивидуа, али да тамо
нису ни две разллучиве индивидуе са атрибутима (Окин) и (Окор), јер у соби можемо
замислити бесконачно много виртуелних идентитета и једино је наша имагинација
критеријум на основу кога ћемо рећи да разлучујемо атрибуте неколико личности. То је
тако због тога што не постоји некакав а приори критеријум којим бисмо одредили шта
неки језик чини јединственим, као што не постоји ни такав критеријум који одређује
квалитет и интегритет човекове особности, уколико човекову особност разумемо на
формалан начин, као јединство психичких диспозиција у неком времену. Када прихватимо
овакво схватање које лични идентитет распршује у безброј потенцијалних виртуелних
идентитета онда долазимо до закључка да онај који је у соби (један потенцијални лични
идентитет) не разуме кинески али да то не значи да нико не разуме кинески, јер постоји
још потенцијално бесконачно много других личних идентитета.
Човек који је у соби исто као и компјутер не разуме кинески. Жеље и веровања која
чине садржај питања и одговора на кинеском нису његове, јер он не разуме кинески. Онај
ко разуме кинески не може бити тај човек у соби. Али из тога не следи да програмирање не
може створити разумевање језика, јер да би се то тврдило неопходно је доказати да постоји
само једна особа у соби.9 Кол тврди да то није могуће доказати јер: 1) могуће је да у соби
постоји још један виртуелни лични идентитет реализован над активности човека из собе и
2) тај идентитет може бити реализован и од стране неког другог, а не оног ко је у соби
(човек у соби може бити замењиван другим људима док конверзација на кинеском траје). 10
Због чега важи тврдња 1) коју Кол даље не експлицира? Она важи јер нама недостаје
критеријум на основу кога би интегритет личности био формално доказан као нужан. Не
постоји некакав а приори и нужан критеријум на основу кога бисмо оправдали наше
схватање да постоје баш нпр. два инконзистентна својста и стога два лична идентитета а не
рецимо пет. У позадини свега тога лежи имплицитна претпоставка да је формално логички
начин доказивања једини начин који ту може бити употребљен. 2) аналитички следи из 1),
8
Дејвид Кол (David Cole), „Artificial Intelligence and Personal Identity“, стр. 403 и 404.
9
Дејвид Кол (David Cole), „Artificial Intelligence and Personal Identity“, стр. 406.
10
Дејвид Кол (David Cole), „Artificial Intelligence and Personal Identity“, стр. 406.
када се привидно самостално значење синтагме: „други од оног у соби“ изанализира
постаје јасно да је 2) садржано у 1) и да не садржи ништа више од тога.
Када расправљамо о томе да ли рачунари могу бити попут људи неопходно је да прво
одговоримо на питање на који начин човек има свест и разуме ствари. Али да бисмо дошли
до тог питања прво морамо размотрити шта је супстрат тог разумевања тј. да ли постоји
лични идентитет онога ко разумева. Међутим та два питања су повезана и немогуће је без
неког предразумевања одговорити на питање који је то ентитет коме тек треба да
припишемо разумевање. У Коловом приговору Серлу једно предразумевање је већ
одредило метод испитивања личног идентитета. То предразумевање претпоставља
могућност редуковања појма личности на мрежу диспозиционих својстава која се
временом развијају из почетних услова. Почетни услов остаје константан, једино се кроз
време мењају начини његове реализације и ти начини чине психичке диспозиције. Нпр. у
психоанализи почетни услов је урођени сексуални нагон чији се начини реализације
мењају градећи тако разнолика психичка својства. Када се овакво схватање не би
предразумевало онда ни формално питање о идентитету личности не би било одлучиво.
Особа Х не би могла бити фиксирана као особа Х за коју се питамо да ли је преко неког
атрибута у релацији идентитета са неком другом особом или са самом собом. Без тога Кол
не би могао да тврди да су два својства инконзистентна, јер би тврђење да су
инконзистентна било потпуно произвољно (била би инконзистентна само на основу тога
што је замисливо да две променљиве буду логички инконзистентне). Видљива је
асиметрија у Коловом аргументу, јер он прво повлачи разлике у језику (у базама података
за одговоре) на чисто формалан начин апстрахујући од било каквих случајних особености
језичке праксе и то је сасвим у реду. Међутим када уводи контрадикцију између својстава
која треба да покрене аргумент он мора имлицитно претпоставити неку а приори
законитост језика и менталног интегритета, јер стварна (не апстрактно логичка)
контрадикција може постојати само тамо где постоји константност у времену на основу
неке законитости. У супротном можемо замислити и то да контрадикција никад не
настане, јер је могућа бесконачна ревизија у погледу избора својстава која изражавају
разлике у језику.

Схватање основе личности као константне (као супстрата који се развија у времену)
никако се не може а приори доказати, а оно се претпоставља као основа једне формалне
анализе појма личности. Оно је једна метафизичка претпоставка. Она је искуствено
непроверљива због тога што се она и не види као подложна испитивању, јер је
заборављена. Ствар би се требала преокренути и требало би се прво на основу конкретног
искуства одредити шта је то човекова душа и да ли је она сводива на коначан однос
супстрата и диспозиција. Тек накнадно би се поставило питање да ли се тај однос може
представити помоћу машине. Серл то такође нема у виду и зато његов аргумент остаје
апстрактан и на језичкој граници стварности а не у самој стварности. И најсавременије
замисли мрежа вештачке интелигенције које се саме прилагођавају мењајући своје
структуре попут неуронских мрежа могу бити мишљене као аналогне човековом уму само
ако се ментални развој човека може објаснити као константан развој из неког почетног
услова, ма какав тај услов био.
 Литература:

1. Серл, Џон, Свест, мозак и наука, Београд, ФДС, 1990.

2. Дејвид Кол (David Cole), „Artificial Intelligence and Personal Identity“, Synthese, Vol. 88,
No. 3, 1991.
3. http://plato.stanford.edu/entries/chinese-room/ , поглавље 3, датум приступа: 5.1.
време: 20:30.