Nicholas Carr

STAKLENI
KAVEZ
Kako računala mijenjaju nas

S engleskog preveo
Ognjen Strpić

Naklada Jesenski i Turk

Zagreb, studeni 2016.
 BIBLIOTEKA
42
Izdavač:
Naklada Jesenski i Turk

Za izdavača:
Mišo Nejašmić

Urednik:
Ognjen Strpić

Grafički urednik: Boris Kuk

Tisak: Znanje, d.o.o., Zagreb

www.jesenski-turk.hr

Copyright © 2014 by Nicholas Carr

Copyright © za hrvatski jezik: Jesenski i Turk, 2016.
Za Ann
 Sadržaj

Uvod: Upozorenje avioprijevoznicima

1. Putnici
2. Robot na vratima
3. Na autopilotu
4. Učinak degeneracije
Interludij o miševima koji plešu
5. Računala: iz tvornice u ured
6. Svijet i zaslon
7. Automatizacija za ljude
Interludij o pljačkašu grobova
8. Vaša unutarnja bespilotna letjelica
9. Ljubav što livadu zbija
Zahvale
Kazalo
Bilješke
Nikoga
da opazi
i ugodi, nikoga da vozi ovaj auto
— William Carlos Williams
 Uvod: Upozorenje
avioprijevoznicima

Četvrtog siječnja 2013., prvoga petka u novoj godini - što je mrtav dan kad
su u pitanju vijesti - američka je Savezna uprava za zračni promet izdala
kratku obavijest. Bez naslova, samo s oznakom SAFO, “sigurnosno
upozorenje avioprijevoznicima”. Škrto i bez jasnih pojedinosti, poslano je
svim zrakoplovnim tvrtkama, a glasilo je ovako. “SAFO: preporučuje se
avioprijevoznicima da prema vlastitoj procjeni promiču manualno
izvoĎenje pilotskih postupaka. Uprava za zračni promet prikupila je dokaze
- dobivene na temelju istraga o padovima, izvještaja o nesrećama i studija
postupaka u kokpitu - koji ukazuju na to da se piloti previše oslanjaju na
autopilote i druge kompjuterizirane sustave. Uslijed neumjerene upotrebe
automatizacije letenja, upozoravaju iz Uprave, “sposobnosti pilota da brzo
izvuku zrakoplov mogu oslabjeti”. Manje uvijeno, to bi moglo ugroziti
avion i putnike. Upozorenje završava preporukom da avioprijevoznici, u
sklopu operativnih naputaka, naloţe pilotima da manje lete na autopilotu.1
Ovo je knjiga o automatizaciji, o upotrebi računala i softvera za to da
se pomoću njih učini nešto što smo dosad činili sami. Ona ne govori o
tehnologiji ni ekonomici automatizacije, niti o budućnosti robota, kiborga i
kompjuteriziranih ureĎaja, iako će i to biti dio priče. Riječ je o
posljedicama automatizacije na ljude. Prvi su se na udaru toga vala našli
piloti, ali on nas sve zapljuskuje. Sve je više posla koji nastojimo prebaciti
na računala, unutar i izvan radnog vremena, i za njima se vodimo u sve
više svakodnevnih postupaka. Danas kad poţelimo napraviti bilo što,
veoma često sjednemo za ekran ili otvorimo laptop, izvadimo mobitel ili
pričvrstimo kakav umreţeni ureĎaj na tijelo. Pokrećemo aplikacije, bacamo
pogled na zaslon, savjetujemo se sa simuliranim glasovima. Prepuštamo se
mudrosti algoritama.
Računalna automatizacija čini nam ţivot lakšim, a nuţne poslove
manje tegobnima. Često tako uspijevamo napraviti više za manje vremena
- ili učiniti nešto što prije jednostavno nismo mogli. Ali automatizacija ima
i dublje, skrivene učinke, a avijatičari su spoznali da nisu svi blagotvorni.
Automatizacija nas moţe i koštati, u poslu, u stvaralaštvu i u ţivotu. Moţe
nam suziti obzorje i smanjiti prostor odlučivanja. Moţe nas otvoriti
nadziranju i manipulaciji. A kako računala postaju naši stalni suputnici,
poznati i usluţni pomagači, čini se mudrim pobliţe razmotriti kako ona
točno mijenjaju to što radimo i ono što jesmo.
 1.
Putnici

Jedno od poniţenja mojeg tinejdţerskog razdoblja moglo bi se nazvati

psihomehaničkim: bili su to moji vrlo javni pokušaji da rukujem
manualnim mjenjačem brzina. Vozačku dozvolu dobio sam početkom
1975., nedugo nakon što sam bio napunio šesnaest. Prethodne sam jeseni
išao u auto-školu, s još nekoliko nas iz razreda. Instruktorov Oldsmobile,
kojim sam se sluţio na satovima voţnje i na ispitu, bio je automatik.
Stišćete gas, okrećete volan, nagazite na kočnicu. Bilo je i par nezgodnih
manevara - puni okret uz pokrajnju cestu, ravna voţnja unatrag, bočno
parkiranje - ali uz nešto vjeţbe na školskom parkiralištu i oni su postali
rutinski.
S dozvolom u dţepu, bio sam spreman za pokret. Preda mnom je bila
još samo jedna prepreka: jedini auto koji mi je kod mojih bio na
raspolaganju bio je stari Subaru s ručnim mjenjačem. Otac, koji nije bio
najspretnija osoba, dao mi je jednu jedinu lekciju. Jednog me je subotnjeg
jutra poveo u garaţu, posjeo na suvozačko mjesto i sjeo za volan. Lijevi
dlan mi je stavio na ručicu mjenjača i drţeći me za ruku vodio: “Ovo je
prva.” Kratka stanka. “Druga.” Stanka. “Treća.” Stanka. “Četvrta.” Stanka.
“Tu dolje”, zapešće me zaboljelo kad ga je iskrenuo u neprirodan poloţaj,
“tu je rikverc.” Pogledao me da vidi jesam li sve shvatio. Bespomoćno sam
kimnuo glavom. “A ovo” - promrdao mi je ruku amo-tamo - “ovo je ler”.
Dao mi je još par savjeta o tome kad treba promijeniti brzinu. Onda je
pokazao prstom na pedalu spojke. “Pazi da je stisneš do kraja kad mijenjaš
brzine.”
Uslijedili su nezaboravni prizori za susjede mog gradića u Novoj
Engleskoj. Auto je čas zapinjao, dok sam pokušavao ući u brzinu, čas se
trzao, kad bih u krivom trenutku otpustio spojku. Na svakom sam semaforu
stvarao guţvu pri kretanju, a kad bih se konačno pokrenuo, ukopao bih se
nasred kriţanja. Uzbrdice su mi bile čisti uţas. Spojku sam otpuštao ili
prebrzo ili presporo, a auto bi se samo vratio nizbrdo i potom stao na
braniku vozila koje se našlo iza mene. Trube su trubile, psovke pljuštale,
ljudi su mi pokazivali srednji prst. Sve skupa je bilo još gore zato što je
Subaru bio ţut - ţut kao dječja kabanica ili zlatna ribica. Sve su se oči
lijepile za taj auto i moju sramotu je bilo nemoguće previdjeti.
Suosjećanja nije bilo ni kod, recimo, prijatelja. Moje su im muke bile
povod za beskrajno i gromoglasno zbijanje šala. “Sameljite mi pola kile”,
dobacivao mi je jedan, zavaljen na straţnje sjedalo, kad bi zakrčali
zupčanici jer nisam bio do kraja pritisnuo spojku. “Dobar potez”, dobacio
bi mi je drugi kad mi je stao motor. Znalo je doletjeti i “Koji si ti invalid” -
tada još nije postojala politička korektnost. Gajio sam ozbiljne sumnje da
su mi se u ekipi iza leĎa rugali zbog moje nespretnosti s mjenjačem. Nisu
mi promaknule ni metaforičke posljedice po moju muškost
šesnaestogodišnjaka.
Ali, bio sam uporan - nisam baš imao ni izbora - i nakon tjedan-dva
mi je sve skupa pomalo sjelo. Mjenjač se razradio i lakše je opraštao
greške. Ruke i noge su mi prestale ići svaka svojim putem i počele su se
slagati. Auto se više nije gasio, trzao i krčao. Više nisam strahovao od
uzbrdica i kriţanja. Prijenos i ja postali smo suradnici. Uklopili smo se.
Potiho sam se ponosio svojim postignućem.
Svejedno, priţeljkivao sam automatik. Iako su ručni mjenjači u ono
doba bili uobičajeni, barem u jeftinijim autima kakve su vozili klinci, već
su bili poprimili obiljeţje zastarjelosti. Onako, malo su davali na plijesan.
Tko bi nešto htio ručno kad moţe “automatski”? Kao da perete posuĎe na
ruke umjesto da ga ubacite u perilicu. Ispalo je da nisam morao previše
čekati da mi se ţelja ostvari. Dvije godine nakon što sam dobio vozačku
dozvolu, napravio sam totalku na Subaruu za jedne noćne nepodopštine i
nedugo poslije sam dobio na korištenje rabljeni beţ Ford Pinto. Auto je bio
ţivi krš - neki ga danas smatraju simbolom američke industrije dvadesetog
stoljeća - ali u mojim ga je očima iskupljivao automatski mjenjač.
Postao sam novi čovjek. Lijeva noga, osloboĎena zahtjeva pritiskanja
papučice spojke, postala mi je ud za dokoličarenje. Dok sam se vozikao
gradom, elegantno je lupkala s Charliejem Wattsom i treskala s Johnom
Bonhamom - Pinto je imao i kazetofon za stereo-osmicu, još jedan dašak
modernosti - ali najčešće je opruţena drijemala u udubini lijevo od
instrument-table. Desna ruka je preuzela poslove drţanja pića. Osjećao sam
se ne samo novo i ukorak sa svijetom: osjećao sam se kao da sam
osloboĎen.
Nije potrajalo. Uţitak u smanjenju posla bio je stvaran, ali je blijedio.
Pojavio se novi osjećaj: dosada. Nisam to nikome priznavao, jedva i sebi,
ali pomalo su mi nedostajali ručica mjenjača i pedala spojke. Nedostajao
mi je osjećaj kontrole i angaţmana - mogućnost da zavrtim motor koliko ja
hoću, osjećaj da se snaga “prima” kako otpuštam spojku, blago uzbuĎenje
kad u brzoj voţnji prebacujem u niţu brzinu. S automatikom sam se
osjećao manje kao vozač a više kao putnik. Na kraju sam ga zamrzio.

Carstvo neodređenosti
Odvezimo se trideset i pet godina dalje, do jutra 9. listopada 2010. Jedan
od Googleovih kućnih izumitelja, robotičar njemačkog podrijetla Sebastian
Thrun, na svome blogu donosi izvanrednu izjavu. Tvrtka je napravila
“automobile koji voze sami”. I ne neki trapavi štreberski prototip koji mili
po parkiralištu Googleplexa. Ovo su pravi pravcati auti koji smiju na cestu
- Priusi, da budemo precizniji - i, otkriva Thrun, već su napravili dvjesto
tisuća kilometara po ulicama i autocestama Kalifornije i Nevade. Zatim su
prokrstarili Bulevarom Hollywood i Obalnom pacifičkom autocestom,
vratili se po mostu Golden Gate pa obišli jezero Tahoe, Uključivali su se na
autocestu, prolazili kroz prometna kriţanja, probijali su se kroz gradsku
guţvu. Morali su naglo sretati da izbjegnu sudar. Sve su to izveli sami. Bez
pomoći čovjeka. “Smatramo da je to prvi put u robotici”, piše Thrun, s
vještom poniznošću.2
Napraviti auto koji sam vozi u osnovi nije jako teško. Inţenjeri i
domišljati ljudi konstruiraju robotizirane automobile i automobile na
daljinsko upravljanje bar od 1980-ih godina. Samo, većinom su to samo
kutije na kotačima. Mogle su se koristiti samo na zatvorenim stazama,
trkalištima, u pustinji ili u drugim zabačenim prostorima daleko od pješaka
i policije. Googlemobile je nešto posebno, bilo je to jasno iz Thrunova
priopćenja. I u povijesti prijevoza i u povijesti automatizacije, to je prvo
vozilo koje moţe samo upravljati u stvarnom svijetu, u svoj njegovoj
nesreĎenoj, burnoj kompleksnosti. Uz pomoć laserskih daljinomjera, radara
i sonara, detektora pokreta, video-kamera i GPS-a, automobil dobiva
podroban opis okoline. Vidi kamo ide. A budući da se cijeli taj tok
informacija obraĎuje trenutačno - u “realnom vremenu” - ugraĎena
računala stiţu upravljati motorom, volanom i kočnicama dovoljno brzo za
voţnju pravom cestom i glatko reagirati na nepredviĎene dogaĎaje na
kakve vozač uvijek nailazi. Googleov vozni park samoupravljanih
automobila napravio je već gotovo pola milijuna kilometara a vozila su
uzrokovala samo jednu ozbiljnu nezgodu, bio je to peterostruki lančani
sudar 2011. u blizini sjedišta tvrtke u Silicijskoj dolini. Taj se sudar doduše
i ne broji: do njega je došlo, kako je Google poţurio objaviti, “dok je
automobil vozila osoba, manualno”.3
Pred autonomnim je automobilima još dug put prije nego nas počnu
razvoziti na posao a našu djecu na nogomet. Iako u Googleu kaţu da
očekuju da će se komercijalne verzije njihovih automobila pojaviti na
trţištu do kraja ovog desetljeća, to je vjerojatno više ţelja nego procjena.
Senzorski sustavi vozila još su nepremostivo preskupi, i samo krovni laser
stoji osamdeset tisuća dolara. Još predstoje mnogi tehnički izazovi, kao što
su voţnja po snijegu i lišću, neočekivana obilaţenja i tumačenje znakova
koje rukama daju prometni policajci i radnici na cesti. Čak je i
najsnaţnijim računalima teško raspoznati što je bezopasno smeće na cesti
(recimo, spljoštena kartonska kutija), a što opasna prepreka (odlomljena
daska iz koje strše čavli). Od svega toga još su gore mnoge pravne,
kulturne i etičke poteškoće. Tko je kriv, i tko odgovoran, ako automobil s
kompjuterskim vozačem prouzroči nesreću u kojoj netko pogine ili bude
ozlijeĎen? Vlasnik vozila? ProizvoĎač sustava za upravljanje? Programeri?
Dok se ne riješe ta sporna pitanja, teško da će posve automatizirani
automobili krasiti autosalone.
Unatoč tome, napredak juri dalje. Mnogo će Googleova hardvera i
softvera biti ugraĎeno u buduće generacije automobila i kamiona. Otkad je
tvrtka objavila da radi na autonomnim vozilima, većina je najvećih
svjetskih proizvoĎača automobila dala na znanje javnosti da i oni vode
slična istraţivanja. Cilj, bar zasad, i nije prvenstveno napraviti
besprijekornog robota na kotačima koliko nastaviti s usavršavanjem
automatiziranih dodataka koji poboljšavaju sigurnost i udobnost i time
potiču na kupnju novih automobila. Otkad sam prvi put okrenuo ključ na
starom Subaruu, automatizacija voţnje daleko je uznapredovala. Današnji
su automobili krcati elektronikom. Mikročipovi i senzori upravljaju radom
ureĎaja za odrţavanje stalne brzine, ABS-a i ASR-a, stabilizacije podvozja,
a u skupljim modelima i kontinuiranim prijenosima brzina, sustavima za
pomoć pri parkiranju i izbjegavanje udara, prilagodljivim farovima i
zaslonima upravljačke ploče. Softver već danas stvara stanovitu tampon-
zonu izmeĎu nas i ceste. U manjoj mjeri mi upravljamo vozilom, a u većoj
šaljemo elektroničke poruke računalu koje upravlja.
U sljedećim će se godinama odgovornost za mnoge aspekte voţnje
prebaciti s ljudi na programe. Infiniti, Mercedes i Volvo već izbacuju
modele s ugraĎenim radarskim sustavima za odrţavanje brzine, koji rade
čak i u voţnji gradskom guţvom; kompjuterizirani upravljački sustavi
preuzimaju i volan, kako bismo vozili po sredini trake; a u slučaju nuţde
kočnice same zaustavljaju vozilo. Drugi se proizvoĎači ţure uvesti još
sofisticiranije sustave. Tesla Motors, pionir na području električnih
automobila, radi na autopilotu za osobna vozila koji “bi trebao moći
izvoziti do 90% kilometraţe”, prema riječima ambicioznog direktora te
tvrtke, Elona Muska.4
Dolazak Googleovih samoupravljanih automobila uzdrmalo je naše
poimanje voţnje, ali ne samo to. On nas tjera da preispitamo što računala i
roboti mogu a što ne mogu. Sve do tog sudbonosnog listopadskog dana
uzimalo se zdravo za gotovo da mnoge vaţne vještine leţe izvan domašaja
automatizacije. Računala mogu mnogo toga, ali ne sve. U svojoj utjecajnoj
knjizi Nova podjela rada: kako računala stvaraju novo tržište rada iz
2004., ekonomisti Frank Levy i Richard Murnane uvjerljivo tvrde da
postoje vrlo praktične granice mogućnosti programa u podraţavanju
ljudskih sposobnosti, osobito kad je riječ o percepciji, prepoznavanju
obrazaca i pojmovnom znanju. Konkretno navode primjer voţnje
automobila na otvorenoj cesti, jer to naše umijeće zahtijeva trenutačnu
interpretaciju obilja vidnih podraţaja te sposobnost brze prilagodbe
promjenjivim i često nepredviĎenim situacijama. Jedva nam je i samima
jasno kako nam to uspijeva, i činilo se promašenim i pomisliti da bi
programeri mogli svesti sve te naše vozačke začkoljice, slučajnosti i
nespoznatljivosti na niz uputa, na linije programskog koda. “Lijevo
skretanje po prometnoj dvosmjernoj ulici”, pišu Levy i Murnane, “sadrţi
tako puno različitih elemenata da je teško i zamisliti takav skup pravila koji
bi podrţavao vozačko ponašanje”. Činilo se posve izvjesnim, i njima i
manje-više svima ostalima, da će ruke za volanom i nadalje čvrsto drţati
ljudi.5
Razmatrajući što računala mogu, ekonomisti i psiholozi već se dugo
pozivaju na osnovno razlikovanje meĎu dvama vrstama znanja: prešutnom
i eksplicitnom. Prešutno znanje, koje se katkad naziva i proceduralno
znanje, odnosi se na sve ono što znamo raditi bez aktivnog razmišljanja o
tome: voziti bicikla, čitati knjigu, voziti auto. Te vještine nisu uroĎene -
sve to moramo naučiti, i nekim ljudima idu bolje a nekima slabije - ali se i
ne mogu izraziti nekim jednostavnim receptom, slijedom precizno
definiranih koraka. Istraţivanja su pokazala da se, kad skrećete na nekom
prometnom kriţanju, napreţu mnoga područja mozga; ona istodobno
obraĎuju osjetne podraţaje, procjenjuju brzine i udaljenosti te koordiniraju
rad ruku i nogu.6 Ali kad bi se od vas traţilo da dokumentirate sve što je
bilo na djelu pri tom skretanju, ne biste to mogli učiniti, bar ne bez
generalizacija i apstrakcija. Ta sposobnost počiva duboko u vašem
ţivčanom sustavu, izvan domašaja svjesnog uma. Mentalna se obrada
odvija a da je niste svjesni.
Veliki dio naše sposobnosti da ocjenjujemo situacije u kojima se
naĎemo i brzo donosimo odluke o njima, svoje podrijetlo ima u
neodreĎenom području prešutnoga znanja. Tu počiva i većina naših
stvaralačkih i umjetničkih vještina. Eksplicitno znanje, poznato i pod
nazivom deklarativno znanje, ono je što uvijek moţete staviti na papir:
kako zamijeniti probušenu gumu, kako izraditi ţdrala od papira, kako
riješiti kvadratnu jednadţbu. Ti se postupci mogu rastaviti na jasno
definirane korake. Pisanim ili usmenim uputama moţemo ih objasniti jedni
drugima: učini ovo, pa ovo, pa ovo.
Program u osnovi jest niz preciznih, pisanih uputa - učini ovo, pa
ovo, pa ovo - i zato smo pretpostavljali da računala mogu podraţavati
vještine koje se temelje na eksplicitnom znanju, ali da neće biti tako
uspješna s umijećima koja izviru iz prešutnog znanja. Kako nešto
neizrecivo prevesti u linije programskog koda, u krute, postupne upute
algoritma? Granica izmeĎu eksplicitnog i prešutnog uvijek je bila porozna -
mnogi naši talenti vrte se oko te granice - no činilo se da ona adekvatno
odreĎuje granice automatizacije u pritom ocrtava ekskluzivno ljudska
područja.
Sofisticirani poslovi koje su Levy i Murnane svrstali meĎu one izvan
domašaja računala - uz voţnju, to su i poučavanje i medicinska
dijagnostika - bili su kombinacija mentalnog i manualnog, ali svi su se
temeljili na prešutnom znanju.
Googleov automobil premješta tu granicu izmeĎu čovjeka i računala,
i to dramatičnije, presudnije nego dotadašnja postignuća u programiranju.
On nam poručuje da je naša zamisao o granicama automatizacije oduvijek
bila pomalo fiktivna. Nismo baš tako posebni kako nam se činilo.
Razlikovanje prešutnog od eksplicitnog znanja i dalje je korisno u području
ljudske psihologije, ali je umnogome izgubilo na relevantnosti u
raspravama o automatizaciji.

Sutrazemska
To ne znači da računala sada vladaju nekim prešutnim znanjem, ni da su
počela razmišljati, ni da će ubrzo moći raditi sve što i ljudi. Nemaju, nisu, i
neće. Umjetna inteligencija nije ljudska inteligencija. Ljudi su umni a
računala bezumna. No, kad je riječ o obavljanju zahtjevnih zadaća, bilo
mozgom bilo tijelom, računala mogu replicirati naše ciljeve a da pritom ne
repliciraju sredstva kojima mi do tih ciljeva dolazimo. Kad automobil bez
vozača obavlja lijeva skretanja, on ne crpi iz izvora intuicije i vještine,
nego slijedi program. No, iako se strategije razlikuju, ishod je u praktičnom
smislu isti. Nadljudska brzina kojom računala izvršavaju upute,
izračunavaju vjerojatnosti, šalju i primaju podatke, znači da na osnovi
eksplicitnog znanja uspijevaju obaviti mnoge komplicirane zadaće koje mi
izvodimo na osnovi prešutnog znanja. U nekim slučajevima, zbog tih
posebnih mogućnosti računala izvode ono što su za nas prešutne vještine i
bolje od nas. U svijetu automobila kojima upravljaju računala, ne bi nam
bili potrebni semafori ni prometni znakovi. Imajući stalan i brz dotok
podataka, vozila bi glatko mogla koordinirati prolaţenje kroz najzagušenija
kriţanja - baš onako kako računala danas koordiniraju protok nezamislivo
velikog broja podataka po prometnicama Interneta. Ono što je u našem
umu neizrecivo postaje sasvim izrecivim u sklopovima mikročipa.
Za mnoge se spoznajne talente koje smo smatrali jedinstveno
ljudskima pokazalo da to uopće nisu. Čim računala postanu dovoljno brza,
počinju replicirati naše sposobnosti prepoznavanja obrazaca, donošenja
odluka i učenja iz iskustva. Tome nas je prvi put 1997. poučilo IBM-ovo
šahovsko super-računalo Deep Blue, koje je evaluiralo milijardu mogućih
poteza u svakih pet sekundi, i pobijedilo svjetskog prvaka Garija
Kasparova. S Googleovim inteligentnim automobilom, koji obraĎuje
milijun očitanja iz okoliša u sekundi, još jednom dobivamo istu pouku. Za
mnoge vrlo pametne stvari koje ljudi rade, mozak zapravo nije nuţan.
Intelektualne vještine školovanih stručnjaka nisu ništa zaštićenije od
automatizacije nego lijeva skretanja. Vidi se to posvuda. Stvaralački i
analitički poslovi svake vrste posredovani su softverom. Liječnici uz
pomoć računala postavljaju dijagnoze, a arhitekti projektiraju zgrade.
Pravnici ocjenjuju dokaze, glazbenici simuliraju glazbala i dotjeruju notne
zapise. Učitelji poučavaju i ocjenjuju. Računala ne preuzimaju te poslove u
cijelosti, ali zalaze u mnoge njihove aspekte. A definitivno mijenjaju način
njihova obavljanja.
Ne kompjuteriziraju se samo zanimanja, nego i slobodno vrijeme.
Zahvaljujući sve većoj rasprostranjenosti pametnih telefona, tableta i
drugih malih, pristupačnih pa i nosivih računala, danas softveru
prepuštamo izvoĎenje mnogih svakodnevnih postupaka, što korisnih što
ugodnih. Imamo aplikacije za kupovinu, kuhanje, tjelovjeţbu pa čak i
pronalaţenje partnera i odgoj djece. Od kriţanja do kriţanja pratimo upute
GPS-a ne bismo li se dovezli do odredišta. Uz pomoć društvenih mreţa
odrţavamo prijateljstva i izraţavamo osjećaje. Od softvera za preporuke
traţimo savjete o tome što gledati, čitati i slušati. Na naša pitanja
odgovaraju, i naše probleme rješavaju, Google i Appleova Siri. Računalo
postaje svenamjenskim pomagalom u navigaciji, manipulaciji i
razumijevanju svijeta, i u njegovoj fizičkoj i u društvenoj manifestaciji.
Pomislite samo na to što se danas dogaĎa kad ljudi zagube mobitel ili im se
prekine veza s Internetom. Bez svojih digitalnih asistenata osjećaju se
bespomoćno. Kako piše Katherine Hayles, profesorica knjiţevnosti na
Sveučilištu Duke u svojoj knjizi iz 2012. Kako mislimo, “kad mi na
računalu padne sistem ili kad pukne veza, osjećam se izgubljeno,
dezorijentirano, nemoćna za rad - upravo kao da mi je netko amputirao
ruku”7
Naša nas oslonjenost na računala katkad uznemiruje, ali uglavnom je
smatramo dobrodošlom. Novim se ureĎajima i aplikacijama veselimo.
Njima se hvalimo - i ne samo zato što su tako korisni i moderni. Ima nešto
čarobno u kompjuterskoj automatizaciji. Promatrati kako iPhone
prepoznaje neku opskurnu pjesmu koja svira u kafiću doţivljaj je koji bi
bilo kojem prethodnom naraštaju bio nezamisliv. Zbor jarko obojenih
tvorničkih robota koji bez napora sastavljaju solarne ploče ili motor
mlaţnjaka nalikuje na neki teškometalni balet, čija je svaka sekunda
koreografirana do u tisućinku milimetra i djelić sekunde. Ljudi koji su se
vozili u Googleovim automobilima kaţu da je to uzbuĎenje gotovo
onostrano; njihovom mozgu, vezanom za zemaljske stvari, trebalo je
vremena i truda da obradi to iskustvo. Čini se da danas zaista ulazimo u
neki vrli novi svijet, Sutrazemsku u kojoj će nam računala i automati stajati
na usluzi, olakšavati nam teret, ispunjavati ţelje, i katkad nam samo praviti
društvo. Vrlo ćemo brzo - uvjeravaju nas naši čarobnjaci iz Silicijske
doline - imati robotsku poslugu i robotske šofere. Razne će nam sitnice
izraĎivati 3D-printeri i do vrata donositi bespilotne letjelice. Na pomolu je
svijet iz Jetsona, ili barem Knight Ridera.
Teško se svime time ne šokirati. A teško je i ne osjećati nelagodu.
Automatski mjenjač moţda izgleda kao sitnica u odnosu na Googleov
nabildani Prius bez vozača, ali on mu jest prethodnica, mali korak na putu
automatizacije, i ne mogu se ni sjetiti kako sam bio razočaran kad mi je
pod rukom nestao mjenjač brzina - ili, da poštenije kaţem, kad mi se
ostvarilo preklinjanje da mi pod rukom nestane mjenjač brzina. Ako me
komfor automatskog mjenjača ostavio s blagim osjećajem nedostatka, da
sam nekako nedovoljno iskorišten, kako bi rekli ekonomisti rada, kako će li
biti kad zaista postanem putnik u vlastitom automobilu?

Krive želje
Problem je s automatizacijom u tome što nam ona često daje nešto što ne
trebamo a košta nas nečega što trebamo. Da bismo shvatili zašto je tako, i
zašto smo skloni pristati na takvu trgovinu, razmotrimo kako nam stanovite
spoznajne pristranosti - mane u našem mišljenju - iskrivljuju predodţbe.
Kad je u pitanju vrijednost rada i dokolice, oko uma se lako zamuti.
Mihaly Csikszentmihalyi, profesor psihologije i autor popularne
knjige Flow iz 1990., opisao je fenomen koji naziva “paradoks rada”.
Uočio ga je u istraţivanju koje je 1980-ih proveo s kolegicom Judith
LeFevre sa Sveučilišta u Chicagu. Uzorak im je bio stotinu radnika viših i
niţih razina stručnosti, iz pet čikaških tvrtki. Svakome su dali elektronički
dojavljivač (pejdţer - mobitel je tada još bio luksuz), programiran tako da
kroz jedan tjedan nasumce emitira zvuk upozorenja sedam puta na dan.
Ispitanici su tada trebali ispuniti kratak upitnik i opisati što su radili u tom
trenutku, s kojim su se izazovima suočavali, koje su vještine razvijali, i
psihološko stanje u kojem su se našli, a izraţeno motivacijom,
zadovoljstvom, aktivnošću, kreativnošću i tako dalje. Namjera tog
“uzorkovanja doţivljaja”, kako je Csikszentmihalyi nazvao tu tehniku, bila
je saznati kako ljudi provode dan, na poslu i izvan radnog vremena, i kako
im njihova aktivnost utječe na “kvalitetu doţivljaja”.
Rezultati su bili neočekivani. Ljudi su bili sretniji, osjećali su se
ispunjenije onime što rade, dok su bili na poslu. U slobodno vrijeme su
osjećali dosadu i tjeskobu. No, svejedno nisu voljeli biti na poslu. Unutar
radnog vremena izraţavali su jako ţelju da ne budu na poslu, a izvan
radnog vremena raditi im je bilo posljednje što bi poţeljeli. Kako
izvještavaju Csikszentmihalyi i LeFevre, “imamo paradoksalnu situaciju da
se ljudi puno pozitivnije osjećaju dok su na poslu nego u slobodno vrijeme,
a svejedno kaţu da bi “voljeli da sada rade nešto drugo” kad su na poslu, a
ne kad nisu.8 Taj pokus pokazuje da potpuno pogrešno procjenjujemo koje
će nas aktivnosti zadovoljavati a koje onezadovoljavati. Kao da čak i usred
neke aktivnosti nismo u stanju točno ocijeniti njezine psihičke posljedice.
To su simptomi jedne općenitije tegobe, kojoj su psiholozi nadjenuli
poetski naziv kriva želja: ţelimo ono što nam se ne sviĎa, a sviĎa nam se
ono što ne ţelimo. “Kad priţeljkivani dogaĎaji ne pridonose našoj sreći, a
pridonose joj oni koje ne priţeljkujemo”, primjećuju kognitivni psiholozi
Daniel Gilbert i Timothy Wilson, “slobodno moţemo reći da smo krivo
ţeljeli”.9 A kako pokazuje niz sumornih istraţivanja, krivo ţelimo stalno.
Naša sklonost da pogrešno ocjenjujemo radno i slobodno vrijeme ima i
svoju društvenu komponentu. Kako su svojim pokusima otkrili
Csikszentmihalyi i LeFevre, i kako većina nas znade i iz vlastitog iskustva,
ljudi si dopuštaju da ih vode društvene konvencije - u ovom slučaju,
duboko ukorijenjena ideja da je “ne biti na poslu” poţeljnije, i prestiţnije,
nego “biti na poslu” - umjesto da se vode za vlastitim osjećajima.
“Očigledno”, zaključuju istraţivači, “takvo sljepilo prema stvarnom stanju
stvari vjerojatno će imati nesretne posljedice i za dobrobit pojedinca i za
zdravlje društva. Postupajući u skladu s iskrivljenom percepcijom “trudit
će se činiti što više onoga što im donosi najmanje pozitivnih doţivljaja, a
izbjegavat će činiti ono iz čega im potječu najpozitivniji i najintenzivniji
osjećaji”.10 Teško da bi to bio recept za dobar ţivot.
Nije tu riječ o tome da bi posao koji radimo za plaću bio sam po sebi
superioran onome što činimo za zabavu ili razbibrigu. Daleko od toga.
Mnogi poslovi su dosadni i poniţavajući, a mnogi hobiji i slobodne
aktivnosti su poticajni i ispunjavajući. Ali, posao nameće strukturirano
vrijeme, i ta se struktura gubi kad smo prepušteni sebi. Na poslu nas se
potiče na takvu aktivnost koja ljudskom biću donosi najviše zadovoljstva.
Najsretniji smo kad se zadubimo u kakav teţak zadatak, koji ima jasan cilj
i koji od nas da radimo ono što umijemo, ali i to da svoje znanje
proširujemo. Kada radimo, mi toliko uranjamo u tok svoga posla da se
isključujemo iz svega što nas inače ometa, tišti i brine. “Svaki postupak,
pokret, misao, neumitno slijede jedno iz drugoga”, objašnjava
Csikszentmihalyi. “Cijelo se vaše biće više upreţe, i maksimalno
iskorištavate svoje umijeće.”11 Do takvih stanja duboke uronjenosti mogu
dovesti raznovrsni napori, od postavljanja pločica preko pjevanja u zboru
do utrkivanja brdskim biciklom. Ne morate dobivati plaću da biste uţivali
u tome da vas nosi tok.
MeĎutim, kad nismo na poslu disciplina nam najčešće popušta a
misli vrludaju. Moţda jedva čekamo kraj radnog vremena da malo trošimo
plaću i zabavljamo se, ali slobodno vrijeme nam se najčešće rastoči.
Bjeţimo od napornih poslova i tek se rijetko bavimo kakvim zahtjevnim
hobijem. Radije ćemo gledati TV, otići u trţni centar ili pogledati
Facebook. Ulijenimo se. A onda nas hvata dosada i razdraţljivost. Kad
nema vanjskog ţarišta, paţnja nam se okreće prema unutra i na kraju
dospijemo u ono što Emerson naziva zatvorom samosvijesti. U poslu, čak i
lošem, “zapravo je lakše uţivati nego u slobodnom vremenu”, kaţe
Csikszentmihalyi, jer svaki posao “u sebi sadrţi” ciljeve i izazove koji nas
“potiču da se udubimo u rad, da se koncentriramo i prepustimo poslu”.12
Ali naš se um zavara i ne dopušta nam povjerovati u to. Ako imamo
priliku, rado ćemo pobjeći pred strogosti rada i osuditi se na
besposličarenje.

Karte su posložene
Zar je onda čudno što nas automatizacija privlači? Ona nam nudi
smanjenje količine nuţnoga rada, i obećava da će nam ispuniti ţivot
lakoćom, udobnošću i komforom. Računala i druge tehnologije koje nam
olakšavaju posao privlačne su našoj krivoj ţelji za oslobaĎanjem od onoga
što doţivljavamo kao muku. Na radnom mjestu, automatizacijom se cilja
na poboljšanje brzine i djelotvornosti - motiv za to je zarada a ne neka
osobita briga za ljudsku dobrobit - i njezina posljedica često bude
uklanjanje sloţenosti iz rada, čime se smanjuje i njegova izazovnost pa
onda i poticaj za uţivljavanje u posao. Automatizacija moţe umanjiti
odgovornost radnika do te mjere da se posao često uglavnom svede na
praćenje računalnog zaslona ili unošenje podataka u predviĎena polja. Čak
su i stručni analitičari i drugi radnici visoke naobrazbe suočeni s time da im
posao biva odreĎen sustavima za potporu pri odlučivanju, koji donošenje
odluka pretvaraju u rutinski postupak obrade podataka. Aplikacije i drugi
programi kojima se sluţimo u privatnom ţivotu imaju sličan učinak. Kad
takav softver uzima na sebe teške ili dugotrajne poslove, ili ih naprosto
olakšava, tada se još rjeĎe upuštamo u izazovne i zahtjevne djelatnosti koje
nam daju osjećaj postignuća i zadovoljstva. Automatizacija nas i prečesto
oslobaĎa upravo onoga od čega se zapravo osjećamo slobodno.
Nije riječ o tome da bi automatizacija bila nešto loše. Automatizacija,
kao i njena predšasnica, mehanizacija, na djelu su već stoljećima, i u
velikoj su mjeri dovele do ţivotnih poboljšanja. Kad se mudro uvodi,
automatizacija nas moţe osloboditi nezanimljivih poslova i otvoriti prostor
za neki izazovniji zadatak koji će nas više ispunjavati. Riječ je o tome da
nam racionalno razmišljanje o automatizaciji i shvaćanje toga što ona sve
za sobom nosi - ne ide baš dobro. Ne znamo kada reći “dosta”, pa čak ni
“stanimo na čas”. Karte su posloţene, ekonomski i emocionalno, u korist
automatizacije. Korist od prebacivanja poslova s ljudi na strojeve i
računala lako je prepoznati i mjeriti. Tvrtka moţe numerički analizirati
kapitalna ulaganja i proračunati dobitak od automatizacije “u valuti”: u
smanjenju troškova rada, povećanom produktivnosti, brţem obrtu, većem
prometu, većoj dobiti. U osobnom ţivotu, očigledno nam je na koliko nam
načina računala omogućuju da uštedimo vrijeme i izbjegnemo gnjavaţu. A
budući da se prema radu odnosimo pristrano u korist razbibrige, a prema
naporu pristrano u korist lakoće, precjenjujemo dobrobiti automatizacije.
Njezina nam cijena manje upada u oči. Znamo da računala čine neke
struke zastarjelima i da zbog nje netko gubi posao, ali povijest sugerira, i
većina ekonomista pretpostavlja, da će se pokazati da će eventualni pad
zaposlenosti biti privremen i da će na dulji rok tehnologija koja poboljšava
produktivnost stvoriti nova atraktivna zanimanja i podići ţivotni standard.
Još se manje vidi njezina osobna cijena. Kako mjeriti pad truda i
predanosti, jenjavanje angaţmana i autonomije, ili neopipljiv nestanak
vještine? Nikako. Sve su to one fine stvari iz sjene, koje rijetko cijenimo
dok ih ne izgubimo, a čak i tada teško jer takvu štetu nije lako izraziti
dovoljno konkretno. Ali i ta je cijena stvarna. Odluke o tome što ćemo
prepustiti računalima a što ćemo zadrţati za sebe nisu samo pitanja
praktičnosti ili ekonomičnosti. Ta su pitanja etička. Ona utječu na bit
našega ţivota i na mjesto u svijetu na koje se stavljamo. Automatizacija
nas suočava s najvaţnijim mogućim pitanjem: što znači biti čovjek?
Csikszentmihalyi i LeFevre su istraţujući naše svakodnevne
postupke saznali još nešto. MeĎu svim slobodnim aktivnostima njihovih
ispitanika, najjači su osjećaj toka imali dok voze auto.
 2.
Robot na vratima

Početkom 1950-ih godina Leslie Illingworth, cijenjeni politički

karikaturist britanskog satiričkog magazina Punch, nacrtao je jedan mračan
i prijeteći crteţ. U suton nekog olujnog, jesenskog dana radnik bojaţljivo
proviruje s dovratka neimenovane tvornice. U jednoj ruci steţe neku
alatku; druga mu je šaka stisnuta. Gleda preko blatnog tvorničkog dvorišta
prema glavnom ulazu. A tamo, pokraj natpisa “traţe se radnici” stoji
divovski robot širokih ramena. Na prsima mu blista tiskanim slovima
ispisana riječ “automatizacija”.
Ta je ilustracija bila znak svoga vremena, odraz jedne nove tjeskobe
koja je prodirala kroz društvo Zapada. Iznova je otisnuta 1956. na
naslovnici tanašne ali utjecajne knjige Automatizacija: prijatelj ili
neprijatelj? Roberta Hugha Macmillana, inţenjera i profesora na
Sveučilištu Cambridge. Macmillan na prvoj stranici postavlja uznemirujuće
pitanje: “Jesmo li se našli u opasnosti da nas unište vlastite tvorevine?”
Kako je objasnio, ne radi se o poznatim “opasnostima neograničenog
ratovanja „na gumb‟”. Riječ je o jednoj skrovitoj a opakoj prijetnji o kojoj
se manje raspravlja: “sve brţe rastućem udjelu što ga automatski ureĎaji
imaju u mirnodopskom industrijskom ţivotu svih civiliziranih zemalja”.13
Baš kao što su prijašnji strojevi “zamijenili čovjekove mišiće”, smatrao je
da bi ti novi ureĎaji mogli “zamijeniti njegov mozak”. Preuzimajući na
sebe mnoge dobre, i dobro plaćene poslove, oni prijete općom
nezaposlenošću, koja će voditi društvenim nemirima i previranjima -
upravo onakvima kakve je Karl Marx bio predvidio jedno stoljeće prije.14
Ali, nastavlja Macmillan, ne mora tako biti. Ako se “ispravno
primjenjuje”, automatizacija bi mogla dovesti do ekonomske stabilnosti i
općeg blagostanja, te osloboditi ljudski rod od napornih poslova. “Ja se
nadam da će nam ta nova grana tehnologije omogućiti da skinemo
prokletstvo Adamovo s čovjekovih pleća, jer strojevi bi uistinu mogli
postati sluge čovječje a ne gospodari, sada kad su smišljene praktične
tehnike da ih se automatski kontrolira.”15 Neovisno o tome hoće li se
tehnike automatizacije na kraju pokazati prokletstvom ili blagoslovom,
upozorava Macmillan, jedno je sigurno: imat će sve veću ulogu u društvu i
proizvodnji. Ekonomski imperativi “izrazito kompetitivnog svijeta” to su
učinili neizbjeţnim. Ako robot bude mogao raditi brţe, jeftinije i bolje
nego čovjek, posao će dobiti robot.16

Neobično srodstvo
“Mi smo našim strojevima braća i sestre”, jednom je napomenuo
povjesničar tehnologije George Dyson.17 Mi naše strojeve volimo - ne
samo zato što su nam korisni, nego zato što nam je s njima ugodno, čak su
nam i lijepi. U dobro izraĎenu stroju prepoznajemo neke od naših
najdubljih teţnji: ţelju da razumijemo svijet i njegov ustroj, ţelju da moć
prirode usmjerimo prema našim ciljevima, ţelju da u svemir unesemo
nešto novo što smo sami napravili, ţelju da nekoga oduševimo i da nas se
poštuje. Domišljat stroj izvor je divljenja i ponosa.
No, strojevi su i ruţni, i predosjećamo da prijete onome što nam je
priraslo srcu. Strojevi moţda sprovode ljudsku moć, ali tom moći obično
rukuju industrijalci i financijaši koji su vlasnici ureĎaja, a ne ljudi koji su
plaćeni da upravljaju tim strojevima. Strojevi su hladni i bezumni, i u
njihovu izvršavanju propisanih postupaka naziremo sliku mračnih
mogućnosti društva. Strojevi moţda unose nešto ljudsko u tuĎinski
svemir, ali unose i nešto tuĎe u ljudski svijet. Matematičar i filozof
Bertrand Russell jezgrovito je u svom ogledu iz 1924. zapisao sljedeće:
“Strojeve se oboţava zato što su lijepi, a cijeni ih se zato što donose moć;
mrzi ih se zato što su ruţni, a prezire ih se zato što uvode u ropstvo.”18
Iz Russellova se komentara vidi da napetost u Macmillanovu pogledu
na automatske strojeve - da će nas ili uništiti ili izbaviti, osloboditi ili
porobiti - ima dugu povijest. Ista se napetost provlači i kroz reakcije na
tvornička postrojenja još od početaka industrijske revolucije prije više od
dvije stotine godina. Dok su se mnogi naši preci radovali dolasku
mehanizirane proizvodnje, smatrajući je simbolom napretka i jamcem
blagostanja, neki su bili zabrinuti da će im strojevi ukrasti posao, pa čak i
dušu. Od tada do danas, priča o tehnici priča je o brzoj, često zbunjujuće
brzoj promjeni. Zahvaljujući domišljatosti naših izumitelja i poduzetnika,
gotovo da i nije bilo desetljeća bez nastupa novih, doraĎenijih i moćnijih
strojeva. No naša je ambivalentnost prema tim čudesnim tvorevinama,
djelima naših ruku i umova, ostala konstantnom. Gotovo kao da, gledajući
u stroj pred sobom, makar nejasno, vidimo nešto o sebi čemu zapravo ne
vjerujemo.
 U svom majstorskom Bogatstvu naroda iz 1776., temeljnom tekstu
slobodnog poduzetništva, Adam Smith je hvalio veliku raznovrsnost “vrlo
zgodnih strojeva” što su ih proizvoĎači uvodili u poslovanje ne bi li se
“skratili i olakšali rad”. Omogućavajući “jednom čovjeku da obavi posao
mnogih”, predviĎao je Smith, modernizacija će silno povećati industrijsku
produktivnost.19 Tvorničar će imati veću dobit, koju će uloţiti u širenje
proizvodnje - u nove tvornice, nove strojeve, i upošljavanje novih ljudi.
Svaki taj stroj skraćuje rad, i to nije loše za radnike, dapače time se
dugoročno potiče potraţnja za radnicima.
Drugi su mislioci prihvatili i razradili taj Smithov sud. Zahvaljujući
većoj produktivnosti - koju omogućuju postrojenja koja skraćuju rad -
predviĎali su, poslovi će se mnoţiti, nadnice rasti, a cijene dobara padati.
Radnici će imati više novca u lisnici, i njime će kupovati proizvode
proizvoĎača koji ih upošljavaju. To će donijeti još više kapitala i omogućiti
širenje poslovanja. Na taj način mehanizacija pokreće začarani krug -
ubrzava ekonomski rast društva, uvećava i širi njegovo bogatstvo, i ljudima
donosi, kako kaţe Smith, “ugodu i luksuz”.20 Činilo se da taj pogled na
tehnologiju kao na ekonomski eliksir ţivota sretno proizlazi iz rane
povijesti industrijalizacije, i postao je okosnicom ekonomske teorije. Ta
ideja nije bila privlačna jedino ranim kapitalistima i njihovoj akademskoj
subraći. Mehanizaciju su s odobravanjem dočekali i mnogi reformatori
društva, vidjevši u njoj najveću nadu u izdizanju gradskih masa iz
siromaštva i sluţništva.
Ekonomisti, reformatori i kapitalisti mogli su si priuštiti gledanje na
dugi rok. To nije bio slučaj i sa samim radnicima. Čak i privremeno
“skraćivanje” rada moglo je stvarno i neposredno zaprijetiti njihovoj
egzistenciji. UvoĎenje novih tvorničkih postrojenja ostavilo je mnoge bez
posla, a mnoge druge je prisililo da zanimljiv, stručan posao zamijene za
muku i dosadu povlačenja poluga i pritiskanja pedala. U mnogim
dijelovima Britanije u osamnaestom i početkom devetnaestog stoljeća
stručni su radnici posezali za sabotaţom novih postrojenja kao načinom
obrane svojih poslova, svojih struka i svojih zajednica. “Uništavanje
strojeva”, tako su nazvali taj pokret, nije bio samo napad na tehnološki
napredak. Bio je to koordinirani pokušaj stručnih radnika da zaštite svoj
način ţivota, u velikoj mjeri vezan za njihovo umijeće, i da si potvrde
ekonomsku i graĎansku autonomiju. “Ako se radniku neki stroj nije
sviĎao”, piše povjesničar Malcolm Thomis pozivajući se na onodobne
opise te pobune, “razlog je bio način njihove upotrebe, a ne to što je stroj i
što je nov”.21
Uništavanje strojeva kulminiralo je ludditskom pobunom koja je
bjesnila pokrajinama središnje Engleske od 1811. do 1816. godine. Tkalci i
pletači, bojeći se propasti lokalnih manufaktura, organizirali su se u
gerilske skupine namjeravajući spriječiti uvoĎenje mehaniziranih pletaćih i
tkalačkih strojeva u tvorničke preraĎivače tekstila. Ludditi su svoj danas
zloglasni naziv preuzeli od legendarnog uništavača strojeva iz
Leicestershirea znanog kao Ned Ludlam, a poduzimali su noćne racije u
kojima su napadali tvorničke pogone, često pritom kvareći nova
postrojenja. U borbi protiv pobunjenika bile su angaţirane tisuće britanskih
vojnika koji su pobunu slomili čistom silom, mnoge pobivši a druge
strpavši u zatvor.
Iako su ludditi i drugi uništavači strojeva imali nešto sporadičnog
uspjeha u usporavanju tempa mehanizacije, definitivno je nisu uspjeli
zaustaviti. Strojevi su ubrzo postali tako uobičajeni u tvornicama, tako bitni
za industrijsku proizvodnju i trţišno natjecanje, da se opiranje njihovoj
upotrebi počelo smatrati posve zaludnim. Radnici su pristali na nov
tehnološki reţim, iako su zadrţali nepovjerenje prema strojevima.

Doba strojeva
Najsnaţniji i najutjecajniji izraz te duboke podjele u društvenim nazorima
prema tehnologiji dao je, nekoliko desetljeća nakon što su ludditi izgubili
bitku, Karl Marx. U svojim napisima Marx tvorničkim strojevima često
pridaje stanovitu demonsku, parazitsku volju, opisujući ih kao “mrtvi rad”
koji “gospodari ţivom radnom snagom i iscrpljuje je”. Radnik postaje
“puki ţivi dodatak” tom “beţivotnom mehanizmu”.22 U jednoj mračnoj
proročkoj primjedbi koju je dao u govoru 1856. rekao je sljedeće: “Sva
naša domišljatost i sav naš napredak kao da su doveli do toga da se
materijalne sile obdare umnim ţivotom, a da se ljudski ţivot zatupi u
materijalnu silu.”23 Marx, meĎutim, ne govori samo o “paklenskim
učincima” strojeva. Kako objašnjava teoretičar medija Nick Dyer-
Witheford, Marx je uviĎao i pozdravljao “njihovo emancipacijsko
obećanje”.24 Moderni strojevi, primjećuje Marx u istom govoru, imaju
“divnu moć da ljudski rad skrate i učine ga plodnijim”.25 OslobaĎajući
radnike od uske specijaliziranosti struke, strojevi bi im mogli dopustiti da
ispune svoj potencijal kao “potpuno razvijeni” pojedinci koji se mogu
prebacivati meĎu “različitim društvenim funkcijama”. 26 U pravim rukama -
u rukama radnika a ne kapitalista - tehnologija više ne bi bila sredstvo
tlačenja. Postala bi uzdiţućom polugom samoispunjenja.
Kako se bliţilo dvadeseto stoljeće, ideja o strojevima kao o nečem
što emancipira sve se dublje primala u kulturi Zapada. U članku iz 1897. u
kojemu hvali mehaniziranost američke industrije, francuski ekonomist
Émile Levasseur nabraja blagodati koje je nova tehnologija donijela
“radnim klasama”. Podignula je radničke nadnice i snizila cijene koje
plaćaju za razna dobra, i ponudila im veći materijalni komfor. Potaknula je
obnavljanje tvornica pa su radna mjesta postala čišća, bolje osvijetljena i
općenito prijaznija nego što su to bile mračne sotonske radionice koje su
obiljeţile rane godine industrijske revolucije. A najvaţnije, podignula se
kvaliteta rada koji obavljaju ruke radnika u tvornici. “Rad im je postao
manje naporan jer stroj radi sve što zahtijeva veliku snagu; radnik, umjesto
da upotrebljava mišiće, postaje nadzornik i sluţi se umom.” Levasseur
priznaje da radnici i dalje negoduju što moraju rukovati strojevima.
“Zazorno im je što [stroj] zahtijeva tako ustrajnu pozornost da to počinje
ići na ţivce”, piše on, i optuţuju strojeve za to što “poniţavaju čovjeka
pretvarajući ga u stroj, koji znade napraviti neki pokret, ali uvijek jedan te
isti”. No, takve prituţbe odbacuje kao sljepilo: radnici jednostavno ne
shvaćaju koliko su dobro prošli.27
Neki umjetnici i intelektualci, vjerujući da je maštovit umni rad po
sebi superioran proizvodnom radu tijela, smatrali su da nadolazi neka vrsta
tehnološke utopije. Oscar Wilde, u ogledu objavljenom iste godine kao i
Lavasseurov, iako napisanom za posve drukčiju publiku, predviĎao je da će
doći dan kad će strojevi ne samo olakšavati rad, nego ga i dokinuti. “Sav
jednoličan, dosadan posao, svaki posao u kojem se barata groznim tvarima,
koji se mora obavljati u neugodnim uvjetima, sve to moraju obavljati
strojevi”, piše on. “Budućnost svijeta počiva na mehaničkom ropstvu, na
robovanju strojeva.” Da će strojevi preuzeti ulogu robova gotova je stvar,
činilo se Wildeu: “Nema nimalo sumnje da je sve to budućnost strojeva, i
baš kao što stabla rastu dok gospoda spavaju, tako će se i čovječanstvo
zabavljati, ili uţivati u kultiviranoj razonodi - a ona je, a ne rad, cilj
čovjeka - ili izraĎivati prelijepe stvari, ili čitati prelijepo štivo, ili
jednostavno misliti o svijetu s uţitkom i divljenjem, dok će strojevi
obavljati sav nuţan i neugodan posao.”28
Velika ekonomska kriza 1930-ih sputala je taj entuzijazam.
Ekonomski slom potaknuo je veliku gorčinu prema onom što se u “ludim
dvadesetima” veselo nazivalo Dobom strojeva. Radnički sindikati i vjerske
skupine, kriţarski raspoloţeni kolumnisti i očajni graĎani - svi su se oni
okrenuli protiv strojeva zbog kojih nestaju poslovi te pohlepnih poslovnih
ljudi, vlasnika strojeva. “Strojevi nisu stvorili pojavu nezaposlenosti”,
pisao je autor uspješne knjige naslova Ljudi i strojevi, “ali su je iz manje
neugodnosti prometnuli u jednu od najvećih bolesti čovječanstva”. Čini se,
nastavlja on, “da će nam odsada biti to gore što nam proizvodnja bude išla
bolje.”29 Gradonačelnik Palo Alta u Kaliforniji napisao je pismo
predsjedniku Herbertu Hooveru u kojem ga poziva na akciju protiv tog
“frankenštajnskog čudovišta” industrijske tehnologije, pošasti koja
“proţdire našu civilizaciju”.30 Katkad je strahove u javnosti raspaljivala i
vlada. U jednom se izvještaju drţavne sluţbe tvorničko postrojenje naziva
“opasnim poput divlje ţivotinje”. Nekontrolirano ubrzanje napretka, piše
autor, društvo je ostavilo kronično nepripremljenim za to da se nosi s
njegovim posljedicama.31
No, ekonomska kriza nije posve ugušila wildeovski san o strojnom
raju. U nekom smislu utopijska je vizija napretka postala još ţivopisnija,
još neophodnija. Što smo više u strojevima vidjeli neprijatelje, to smo jače
ţudjeli da nam postanu prijatelji. “Zadesila nas je” pisao je veliki britanski
ekonomist John Maynard Keynes 1930., “jedna nova bolest za čije ime
neki čitatelji moţda nisu čuli, ali o kojoj će itekako još slušati u vremenu
koje je pred nama - a naziv joj je tehnološka nezaposlenost.” Moć strojeva
da na sebe preuzimaju poslove razvijala se brţe nego mogućnost
ekonomije da stvara nove korisne poslove koje će obavljati ljudi. No, taj je
problem, uvjeravao je Keynes čitatelja, samo simptom “privremene faze
neprilagoĎenosti”. Rast i blagostanje će se vratiti. Dohodak po stanovniku
će rasti. A ubrzo, zahvaljujući našoj poduzetnosti te djelotvornosti naših
mehaničkih robova, nećemo više ni morati brinuti o poslovima. Keynes je
mislio da je sasvim moguće da će za stotinu godina, do 2030., tehnološki
napredak osloboditi čovječanstvo od “bitke za preţivljavanje” i potjerati ga
do “našeg odredišta ekonomskog blaţenstva”. Strojevi će obavljati još više
posla za nas, ali to više nećemo smatrati razlogom za brigu ili očaj. Dotad
ćemo smisliti kako proširiti materijalno bogatstvo do svakoga. Naš će
jedini problem biti kako dobro iskoristiti beskrajne sate dokolice - naučiti
“uţivati” umjesto “naprezati se”.32
Još se uvijek trudimo, i sva je prilika da ekonomsko blaţenstvo na
našem planetu neće uzaći do 2030. No, iako su Keynesa 1930- ih bile
prevarile njegove nade, u osnovi je bio u pravu kad je riječ o budućnosti
ekonomije. Kriza se pokazala privremenom. Rast se vratio, došli su novi
poslovi, plaće su skočile a tvrtke su i dalje kupovale još više boljih
strojeva. Ekonomska neravnoteţa, nesavršena i krhka kao uvijek, ponovno
se uspostavila. Čarobni krug Adama Smitha vrti se i dalje.
Godine 1962. predsjednik Kennedy je, u govoru odrţanom u
Zapadnoj Virginiji, tako mogao izjaviti: “Vjerujemo da, ako čovjek ima dar
za izum novih strojeva zbog kojih čovjek gubi posao, onda ima i dar za to
da se čovjek vrati na posao”.33 Već od otvaranja ta rečenica zvuči kao
kennedyjevska. Jednostavne riječi dobivaju na rezonantnosti kad se
ponavljaju: čovjek, dar, čovjek, posao, dar, čovjek, posao. Bubnjajući,
ritam dovodi do razrješenja - “na posao” - dajući mu prizvuk neumitnosti.
Onima koji su ih slušali, Kennedyjeve su riječi mogle zazvučati kao kraj
priče. Ali nije bio kraj. Bio je to svršetak jednog poglavlja, a novo je već
započinjalo.

Pražnjenje
Zabrinutost zbog tehnološke nezaposlenosti ponovno raste, pogotovo u
Sjedinjenim Drţavama. Recesija ranih 1990-ih, u kojoj su entuzijastične
američke tvrtke poput General Motorsa, IBM-a i Boeinga otpustile desetke
tisuća radnika za golemih “restrukturiranja”, potaknula je strahove da će
nove tehnologije, a osobito jeftina računala i pametni programi, izbrisati
namještenja za srednju klasu. Sociolozi Stanley Aronowitz i William
DiFazio 1994. su objavili knjigu Budućnost bez posla o “tehnološkoj
promjeni na štetu rada”, koju su vidjeli u “trendu koji ide prema sve više
slabo plaćenih privremenih poslova bez radničkih prava za tvorničke i
uredske namještenike, i sve manje stalnih poslova u objema
kategorijama”.34 Godinu dana poslije izlazi uznemirujući Kraj rada
Jeremyja Rifkina. Jačanje računalne automatizacije pokrenulo je “treću
industrijsku revoluciju”, izjavljuje Rifkin. “U godinama koje su pred nama,
sve sofisticiranije softverske tehnologije dovest će civilizaciju sasvim blizu
svijeta bez radnika.” Društvo je na prekretnici, piše on. Računala bi mogla
“dovesti do masovne nezaposlenosti a moţda i do globalne ekonomske
krize”, ali bi nas mogla i “osloboditi za ţivot sa sve više dokolice” ako
budemo spremni prepraviti okosnice suvremenog kapitalizma.35 Te su
dvije knjige, i druge slične njima, uznemirile čitatelje, ali strahovi od
tehnologizirane budućnosti bez posla ubrzo su minuli. Novi ekonomski rast
sredinom i potkraj 1990-ih, koji je kulminirao u bezglavom dot-com
boomu, skrenuo je pozornost s apokaliptičnih predviĎanja masovne
nezaposlenosti.
Desetak godina poslije, u osvit velike ekonomske krize 2008.,
tjeskoba se vratila, jača no ikad prije. Sredinom 2009. američko je
gospodarstvo, još u opravku nakon sloma, ponovno počelo jačati.
Korporacijama se vratila dobit. Kapitalna ulaganja u tvrtkama su se popela
na predrecesijsku razinu. Burze su ojačale. Ali, zapošljavanje se nikako
nije vraćalo. Iako nije neobično da tvrtke pričekaju da se oporavak učvrsti
prije nego počnu nova zapošljavanja, toj stanci ovaj put kao da nije bilo
kraja. Rast zapošljavanja ostao je neobično blag a stopa nezaposlenosti
tvrdoglavo visoka. U potrazi za objašnjenjem - i krivcem - ljudi su uprli
pogled u deţurnog sumnjivca: tehnologiju koja štedi rad.
Potkraj 2011. dva su ugledna istraţivača s MIT-a, Erik Brynjolfsson i
Andrew McAfee, objavila kratku e-knjigu pod naslovom Utrka sa
strojevima, u kojoj su blago ukorili ekonomiste i kreatore javnih politika
što ne shvaćaju ozbiljno mogućnost da tehnologija rada bitno smanjuje
potrebe tvrtki za novim uposlenicima. “Empirijska činjenica” da je
tehnologija stoljećima poticala zapošljavanje “prikriva jednu ruţnu tajnu”,
pišu oni. “Nema tog ekonomskog zakona koji bi rekao da svatko, pa čak ni
većina, automatski ima koristi od tehnološkog napretka.” Iako su
Brynjolfsson i McAfee sve samo ne tehnofobni - sve vrijeme oni
zadrţavaju optimizam u pogledu mogućnosti robota i strojeva da povećaju
produktivnost i na dugi rok poboljšaju ţivot ljudima - oni iznose veoma
jake argumente u prilog realnosti tehnološke nezaposlenosti, te tvrde da je
ona postala općom pojavom i da će se stanje vjerojatno još znatno
pogoršati. Ljudska bića, upozoravaju oni, gube bitku protiv strojeva.36
Njihova je e-knjiga pala na plodno tlo. Potaknula je ţustru, katkad i
preburnu raspravu meĎu ekonomistima, i uskoro je privukla paţnju
novinara. Izraz “tehnološka nezaposlenost”, koji je pomalo iščeznuo iz
upotrebe nakon Velike ekonomske krize, ponovno je zaokupio javni um.
Početkom 2013. TV-emisija 60 minuta donosi reportaţu pod naslovom
“Strojevi marširaju” u kojoj se istraţuje kako se tvrtke sluţe novim
tehnologijama umjesto radnika u skladištima, bolnicama, pravnim uredima
i tvornicama. Izvjestitelj Steve Kroft sa ţaljenjem govori o “golemoj
industriji visoke tehnologije koja je američkoj privredi donijela neizmjernu
produktivnost i bogatstvo, ali iznenaĎujuće malo toga kad je riječ o
zapošljavanju”.37 Ubrzo nakon emitiranja, ekipa novinara Associated
Pressa objavila je trodijelnu istraţivačku reportaţu o ustrajnosti visoke
nezaposlenosti. Njihov je sumoran zaključak: “tehnologija je poslove
učinila suvišnima”. Primjećujući da pisci znanstvene fantastike već odavno
“upozoravaju na budućnost u kojoj ćemo sami graditi vlastitu suvišnost u
kojoj će nas zamijeniti strojevima”, izvjestitelji AP-a ustvrĎuju da je “ta
budućnost stigla”.38 Citirali su jednog analitičara koji je predvidio da će
stopa nezaposlenosti do kraja stoljeća dosegnuti 75 posto.39
Takve je prognoze lako opisati kao neutemeljene. U njima kao da
odjekuje panika s kojom se svako malo suočavamo još od osamnaestog
stoljeća. Iz svakog gospodarskog pada uzdiţe se sablast
frankenštajnovskog čudovišta koje proţdire radna mjesta. A kad se val
ekonomskog ciklusa izdigne iz dola i poslovi se vrate, čudovište se vraća u
kavez i briga jenjava. Ovaj put, meĎutim, ekonomija se ne ponaša kao
inače. Sve je više dokaza za to da je na djelu neka nova i neugodna
dinamika. Pridruţujući se Brynjolfssonu i McAfeeju, nekolicina je
istaknutih ekonomista počela preispitivati pretpostavku omiljenu u njihovoj
struci, da povećanja produktivnosti zbog novih tehnologija dovode do rasta
plaća i zaposlenosti. Oni ukazuju na to da je produktivnost u SAD-u u
prošlom stoljeću rasla brţe nego u zadnjem tridesetgodišnjem razdoblju, da
je dobit korporacija probila plafone kakve nismo vidjeli već pedeset
godina, i da se investicije u novu opremu strmo uspinju. Ta bi kombinacija
trebala dovesti do robusnog rasta zaposlenosti. MeĎutim, ukupan broj
poslova u zemlji povećao se tek nezamjetno. Rast se od zaposlenosti u
“razvijenim zemljama odvojio”, kaţe ekonomist-nobelovac Michael
Spence, a glavni razlog je tehnologija: “zamjena rutinskih manualnih
poslova strojevima i robotima snaţan je, trajan a moţda i ubrzavajući trend
u proizvodnji i logistici, a računala i mreţe zamjenjuju rutinske uredske
poslove u obradi informacija”.40
Dio velikih izdataka posljednjih godina na robote i druge vidove
automatizacije moţda odraţava trenutačne ekonomske okolnosti, osobito
stalne napore političara i središnjih banaka da potiču rast. Niske kamatne
stope i agresivni drţavni poticaji kapitalnih ulaganja izgledno su hrabrili
tvrtke na kupnju strojeva i strojeva koji štede rad, i onih koje inače moţda
ne bi bili kupili.41 No, čini se da su na djelu i dublji, dugotrajniji trendovi.
Alan Krueger, ekonomist s Princetona koji je od 2011. do 2013.
predsjedavao Vijećem ekonomskih savjetnika Baracka Obame, ističe da ni
prije krize “privreda SAD-a nije stvarala dovoljno poslova, osobito poslova
srednje klase, a proizvodne poslove smo gubili alarmantnom brzinom”.42
Slika je od tada postajala samo mračnija. Moglo bi se pretpostaviti da, bar
kad je riječ o proizvodnji, poslovi ne nestaju nego samo prelaze u zemlje s
niţim nadnicama. To ne stoji. Ukupni svjetski zbroj radnih mjesta u
proizvodnji već godinama opada, čak i u industrijski najsnaţnijim
zemljama, poput Kine, dok je ukupna proizvodnost jako rasla.43 Strojevi
zamjenjuju tvorničke radnike brţe nego što privredna ekspanzija stvara
nova proizvodna radna mjesta. Industrijski roboti postaju jeftiniji i
upotrebljiviji, pa će razlika izmeĎu izgubljenih i novostvorenih radnih
mjesta skoro sigurno bivati sve veća. Čak se i vijesti da tvrtke poput
General Electrica i Applea vraćaju dio proizvodnih poslova u SAD
doimaju istovremeno dobre i loše. Jedan od razloga zbog kojih se poslovi
vraćaju upravo je to što se veći dio izrade odvija bez ljudskih bića.
“Tvorničke su hale danas gotovo ispraţnjene od ljudi jer programirljivi
strojevi obavljaju veći dio posla”, izvještava ekonomist i profesor Tyler
Cowen.44 Trošak rada ne mora brinuti tvrtku ako radnike i ne upošljava.
Industrijska privreda - privreda strojeva - fenomen je novijega
datuma. S nama je samo dva i pol stoljeća, dakle samo jedan mali otkucaj
sata povijesti. IzvoĎenje konačnih zaključaka o vezi tehnologije i
zapošljavanja na temelju tako kratkog iskustva vjerojatno je bilo ishitreno.
Logika kapitalizma, kad je kombiniramo s povijesti znanstvenog i
tehničkog napretka, doima se pomalo kao recept za konačno uklanjanje
rada iz procesa proizvodnje. Strojevi, za razliku od radnika, ne zahtijevaju
udjel u kapitalistovu ulaganju. Oni se ne razbolijevaju, ne očekuju plaćeni
dopust, ne traţe povišicu. Za kapitalista, rad je problem čije je rješenje
napredak. Daleko od toga da bude iracionalan, strahu da će tehnologija
smanjiti zaposlenost sudbina je da će se ostvariti “na jako dugi rok”, tvrdi
ugledni ekonomski povjesničar Robert Skidelsky: “Prije ili poslije, poslova
više neće biti.”45
Koliko je dug taj jako dugi rok? To ne znamo, iako Skidelsky
upozorava na to da bi za neke drţave mogao biti “neugodno kratak”.46
Utjecaj moderne tehnologije na kraći bi se rok mogao osjetiti više u
raspodjeli poslova nego u ukupnim stopama zaposlenosti. Mehanizacija
manualnog rada u vrijeme industrijske revolucije istisnula je neke dobre
poslove, ali je dovela do stvaranja cijelih novih skupina poslova srednje
klase. Kako su se tvrtke širile ne bi li zadovoljile veća i udaljenija trţišta,
zapošljavale su cijele čete nadzornika i računovoĎa, dizajnera i stručnjaka
za prodaju. Rasla je potraţnja za učiteljima, liječnicima, odvjetnicima,
knjiţničarima, pilotima i raznim drugim stručnjacima. Sastav trţišta rada
nikad nije stalan; ono se mijenja u skladu s tehnološkim i društvenim
trendovima. No, ništa ne jamči da će te promjene uvijek ići na ruku
radnicima, niti da će povećavati srednju klasu. Kako se računala sve više
programiraju tako da na sebe preuzimaju poslove srednje klase, mnogi
stručni radnici bivaju prisiljeni raditi slabo plaćene poslove, ili s punog
radnog vremena prelaze na pola.
Većina poslova koji su izgubljeni u posljednjoj recesiji pripadala je
dobro plaćenim djelatnostima, dok gotovo tri četvrtine poslova otvorenih
nakon recesije otpada na nisko plaćene sektore. Proučivši uzroke
“nevjerojatno mlakog rasta zaposlenosti” u Sjedinjenim Drţavama od
2000. godine, ekonomist sa sveučilišta MIT David Autor zaključuje da je
informacijska tehnologija “uistinu izmijenila razdiobu zanimanja” te stvara
sve veći nesrazmjer u dohotku i bogatstvu. “U prehrambenim uslugama je
obilje posla, obilje posla je i u financijama, ali je manje poslova srednjeg
dohotka, srednje plaće.”47 Ako nove računalne tehnologije sliju još više
dobiti stvorene privredom u još manje ruku, lako je moguće da će se taj
trend još više ubrzati, srednja klasa još više prošupljiti a gubitak poslova
ubrzati čak i kod najbolje plaćenih stručnjaka. “Pametni strojevi moţda
omogućuju još viši BDP”, primjećuje Paul Krugman, još jedan dobitnik
Nobelove nagrade za ekonomiju, “ali oni i smanjuju potraţnju za ljudima -
pa i pametnim ljudima. Pred nama je, dakle, društvo koje postaje sve
bogatije, ali u kojemu svu dobit grabi vlasnik robota, tko god to bio.”48
Ipak, nisu sve vijesti loše. Privreda SAD-a se zahuktala potkraj 2013.
i u 2014., i zapošljavanje je raslo u nekoliko sektora, uz ostale u graĎevini i
zdravstvu, i u nekim bolje plaćenim strukama došlo je do ohrabrujućih
pomaka. Potraţnja za radnicima ostaje vaţnom za ekonomski ciklus, makar
moţda ne onako čvrsto kao prije. Povećanje upotrebe računala i softvera i
samo je stvorilo neke vrlo privlačne nove poslove, kao i mnoštvo
poduzetničkih prilika. MeĎutim, mjereno povijesnim standardima, broj
ljudi uposlenih u računarstvu i srodnim područjima ostaje skroman.
Sveukupno, privatni sektor ne stvara nove, dobro plaćene poslove u onoj
mjeri koja bi bila potrebna da se apsorbiraju svi oni radnici srednje klase
koji su izbačeni sa svojih tradicionalnih poslova. Ne moţemo svi postati
programeri i robotičari. Ne moţemo svi sklopiti šatore i preseliti se u
Silicijsku dolinu pa zaraĎivati na zgodnim aplikacijama za pametne
telefone.49 Ako prosječne plaće stagniraju a dobit korporacija ne prestaje
rasti, obilja privrede će po svoj prilici i dalje teći tek sretnoj nekolicini. A
Kennedyjeve bodre riječi zvučat će sve sumnjivije i sumnjivije.
Što bi ovaj put moglo biti drugačije? Što se to točno promijenilo, i
moţda razbija staru sponu izmeĎu novih tehnologija i novih poslova? Da
bismo odgovorili na to pitanje morat ćemo se još jednom osvrnuti na onog
divovskog robota s vratnica iz karikature Leslieja Illingwortha - robota
zvanog automatizacija.

Na pritisak gumba
Riječ automatizacija ušla je u jezik prilično nedavno. Koliko nam je
poznato, prvi je put izgovorena 1946., kad su inţenjeri tvrtke Ford osjetili
potrebu da je skuju pri opisu najnovijih postrojenja uvedenih na tvrtkine
tvorničke trake. “Dajte nam još malo tih automatskih”, navodno je na
nekom sastanku rekao Fordov potpredsjednik. “Još te... automatizacije.”50
Fordove su tvornice već bile slavne po mehanizaciji, i sofisticirani su
strojevi već usavršavali svaki posao na proizvodnoj traci. No, tvornički su
radnici još uvijek morali rukama prenositi materijal i poludovršene
proizvode s jednog na drugi stroj. Utoliko su tempo proizvodnje
kontrolirali radnici. Strojevi koji su uvedeni 1946. to su promijenili.
Funkcije prenošenja i baratanja materijalom preuzeli su strojevi, pa se cijeli
proces sklapanja mogao početi odvijati automatski. Ta se promjena toka
posla radnicima tada moţda nije činila prijelomnom. No, jest bila
prijelomna. Kontrola nad sloţenim industrijskim procesom prešla je s
radnika na stroj.
A glas se brzo širio. Dvije godine poslije, u izvještaju o Fordovim
postrojenjima, pisac časopisa American Machinist definirao je
automatizaciju kao “umjetnost primjene mehaničkih naprava u baratanju
radnim dijelovima... pri čemu je proizvodnja vremenski usklaĎena tako da
se proizvodnom linijom moţe djelomično ili u cijelosti upravljati pritiskom
na gumbe na strateškim mjestima.”51 Kako je automatizacija stizala u sve
više djelatnosti i proizvodnih procesa, i zadobivala sve veću metaforičku
teţinu u kulturi, njezina se definicija sve više rastezala. “Malo je riječi koje
su se posljednjih godina toliko iskrivljavale u značenju, za toliko različitih
svrha i fobija, kao što je to automatizacija”, ţalio se jedan profesor
Harvardske poslovne škole 1958. godine. “Rabi se kao poziv na akciju, kao
cilj u proizvodnji, kao inţenjerski izazov, kao reklamni slogan, kao
radnička parola, i kao simbol znakovitog tehničkog napretka.” Potom on
nudi svoju, uzvišeno pragmatičku definiciju: “Automatizacija jednostavno
znači nešto značajno više automatsko od onog što je prethodno postojalo u
toj tvornici, ili djelatnosti, ili na tom mjestu”52 Automatizacija nije bila
toliko neka stvar ili tehnika, nego više stanovita sila. Bila je to više
manifestacija napretka nego neki odreĎeni način proizvodnje. Svaki
pokušaj da se njezine posljedice objasne ili predvide bio bi nuţno
provizoran. Kao što je to slučaj s mnogim tehničkim trendovima,
automatizacija će uvijek biti i stara i nova, i trebat će je iznova vrednovati
u svakoj fazi njezina napredovanja.
To, što se Fordova automatizirana postrojenja pojavila upravo nakon
kraja Drugog svjetskog rata nije bila slučajnost. Moderna se automatizacija
formirala upravo u ratu. Kad su nacisti počeli s navalom bombardiranja
Velike Britanije 1940., engleski i američki znanstvenici su se suočili s
istodobno teškim i hitnim izazovom: kako obarati brze bombardere koji
lete na velikoj visini a jedino što imate je troma protuzračna obrana teškim
projektilima? Mentalni izračuni i baţdarenja, potrebni za precizno ciljanje -
ne trenutnog poloţaja aviona nego njegovog vjerojatnog budućeg poloţaja
- bili su daleko prekomplicirani da ih vojnik izvede dovoljno brzo i ispali
hitac dok mu je avion još uvijek u dosegu. Putanja se projektila, uvidjeli su
znanstvenici, morala izračunati računskim strojem, koristeći se podacima
dobivenim radarskim praćenjem aviona i statističkim predviĎanjima kursa
aviona, i ti su se izračuni morali automatski prenijeti u mehanizam ciljnika.
Uz to, pri svakom se ciljanju moralo uzeti u obzir i eventualno odstupanje
prethodnih hitaca.
Kad je riječ o članovima posade protuzračnog topništva, njihov će se
posao morati promijeniti uslijed nadolaska nove generacije automatskog
naoruţanja. Topnici su ubrzo zasjeli u zatamnjene kamione u kojima su
odabirali mete na zaslonu radara. Na njih se više i nije “gledalo kao na
vojnike”, kako piše jedan povjesničar, “nego kao na tehničare koji
očitavaju prikaze svijeta i barataju tim prikazima.”53
U protuzračnim topovima nastalim radom savezničkih znanstvenika
vidimo sve elemente onoga što danas čini neki automatizirani sustav. Prvo,
i to je jezgra sustava, tu je brz računski stroj - računalo. Drugo, tu je
senzorni mehanizam (u ovom slučaju radar) kojim se motri na okoliš,
stvarni svijet, i koji bitne podatke šalje računalu. Treće, tu je
komunikacijska veza koja računalu omogućuje kontrolu nad pomicanjem
fizičkog postrojenja koje obavlja stvarni rad, sa ili bez ljudske asistencije. I
konačno, tu je metoda povratne sprege - sredstvo kojim se računalu
prosljeĎuju informacije o rezultatima njegovih naputaka, tako da ih moţe
uvrstiti u daljnje proračune, ispraviti pogreške i uračunati promjene u
okolišu. Senzorni aparat kao osjetni organ, računalo kao mozak i protok
poruka kojim se nadziru fizički pomaci (kretnje), te povratna sprega kao
učenje; tu imate sve što je za automatizaciju bitno - bit svakog robota. Ali
to je i bit svakog ţivog bića, i ta sličnost nije nikakva slučajnost. Da bi
zamijenio čovjeka, automatizirani sustav prvo ga mora moći replicirati (ili
barem neki aspekt njegovih sposobnosti).
Automatizirani strojevi postojali su prije Drugog svjetskog rata.
Parni stroj Jamesa Watta, stvarni pokretač industrijske revolucije, imao je
neobično domišljato sredstvo odrţavanja povratne sprege - centrifugalni
regulator. Kako je stroj ubrzavao rad, rotirao je par metalnih kuglica koje
su pak stvarale centrifugalnu silu kojom se povlačila poluga zatvarača
parnog ventila, tako da stroj pretjerano ne ubrza. Jacquardov tkalački stroj,
francuski izum nastao oko 1800. godine, upravljao je pomacima kalema s
koncima različitih boja pomoću bušenih kartica i tako automatski prenosio
komplicirane uzorke na tkanje. Godine 1866. britanski je inţenjer imenom
J. Macfarlane Gray patentirao parobrod, kojim su se registrirali pomaci
brodskog kormila da bi se u skladu s njima, povratnom spregom
izvedenom zupčanicima kormilarskog mehanizma, kormilo okretalo tako
da se zadrţi zadani pravac leta.54 No, razvoj brţih računala, i ostalih vidova
elektroničkog upravljanja pomoću senzora, otvorilo je novo poglavlje u
povijesti strojeva. Time su se mogućnosti automatizacije neusporedivo
povećale. Kako je u svojoj knjizi iz 1950., Kibernetika i društvo: ljudska
upotreba ljudskih bića, objasnio matematičar Norbert Wiener (koji je
sudjelovao u pisanju algoritama predviĎanja za automatizirano topništvo
Saveznika), napredak je 1940-ih godina omogućio izumiteljima i
inţenjerima da naprave iskorak u odnosu na “sporadične projekte
pojedinačnih automatskih mehanizama” Nove su tehnologije, iako
projektirane imajući u vidu oruţje, otvorile prostor za “opću strategiju u
konstrukciji automatiziranih mehanizama najrazličitijih vrsta”. Ona su utrla
put “novom automatskom dobu”.55
Osim teţnje za napretkom i produktivnosti, automatsko doba imalo je
još jedan pokretač: politiku. Poslijeratne godine obiljeţile su intenzivne
radničke borbe. U većini američkih proizvodnih sektora vodili su se pravi
ratovi direktora poduzeća i sindikata, a napetosti su često bile najjače u
djelatnostima ključnim za hladnoratovsko gomilanje vojne opreme i
naoruţanja. Štrajkovi, organizirana napuštanja radnih mjesta i usporavanja
proizvodnje bili su svakodnevni dogaĎaji. Samo je 1950. godine u jednoj
jedinoj Westinghouseovoj tvornici u Pittsburghu organizirano osamdeset i
osam obustava rada. U mnogim su tvornicama sindikalci imali veću moć
nad proizvodnjom od upravitelja - zadnju riječ imali su radnici. Vojni i
industrijski planeri automatizaciju su smatrali načinom da se ravnoteţa
moći vrati upravi. Postrojenja kojima se upravlja elektronički, ustvrĎuje
časopis Fortune u naslovnoj reportaţi pod naslovom “Strojevi bez ljudi”,
pokazat će se “neizmjerno nadmoćnim ljudskom mehanizmu”, uz ostalo i
zato što su strojevi “uvijek zadovoljni uvjetima na radu i nikad ne traţe
povišicu”.56 Jedan je od direktora tvrtke Arthur D. Little, ugledne
konzultantske kuće u područjima upravljanja i inţenjeringa, napisao da
uspon automatizacije poslovnom svijetu donosi “emancipaciju od ljudskih
radnika”.57
Osim što smanjuju potrebe za radnicima, osobito stručnim,
automatizirana postrojenja vlasnicima tvrtki nude i tehničko sredstvo
nadzora nad brzinom i tokom proizvodnje elektroničkim programiranjem
pojedinih strojeva i cijelih proizvodnih linija. Kad se, kao u Fordovim
tvornicama, nadzor nad tempom proizvodnje prebaci na nova
automatizirana postrojenja, radnici su izgubili velik dio autonomije. Do
sredine 1950-ih godina utjecaj je radničkih sindikata na način rada u
tvornicama znatno pao.58 Ta će se lekcija pokazati vaţnom: u
automatiziranom sustavu moć se koncentrira u rukama onoga tko ima
nadzor nad programima.
Wiener je zastrašujuće jasno predvidio što slijedi. Tehnologije
automatizacije napredovat će brţe nego što je itko mogao zamisliti.
Računala će biti manja i brţa. Brzina i kapacitet elektroničkih
komunikacijskih sustava i sustava pohrane narast će eksponencijalno.
Senzori će sve preciznije gledati, slušati i opipavati svijet. Robotički će
mehanizmi “vjernije replicirati funkcije ljudskog uma potpomognutog
ljudskim okom”. Troškovi proizvodnje svih tih novih ureĎaja i sustava
drastično će pasti. Upotreba automatizacije u sve će više područja postati i
moguća i ekonomična. A budući da će se računala moći programirati tako
da izvode logičke funkcije, doseg automatizacije će se s rada ruku proširiti
na rad uma - na područje analize, prosudbe i odlučivanja. Kompjuterizirani
stroj ne mora raditi s nekim materijalom, primjerice topovima. Moţe raditi
i s informacijama. “Od ove faze nadalje, sve moţe ići strojno”, napisao je
Wiener. “Stroju su manualni i intelektualni poslovi podjednako dragi.”
Činilo mu se očigledno da će automatizacija prije ili poslije stvoriti
“situaciju nezaposlenosti” u usporedbi s kojom će teškoće Velike
ekonomske krize “zvučati kao zgodan vic”.59
Ljudska upotreba ljudskih bića bila je bestseler, kao i Wienerova
prethodna i u većoj mjeri tehnička rasprava Kibernetika, ili kontrola i
komunikacija u životinjskom i strojnom. Analiza putanje tehnologije toga
matematičara postala je dijelom intelektualne teksture 1950-ih. Na osnovi
nje, ili njome nadahnuti, napisani su i mnogi članci i knjige toga desetljeća,
i meĎu njima nije bila najmanje vaţna knjiţica Roberta Hugha
Macmillana. Već vremešni Bertrand Russell je 1951. u ogledu je “Jesu li
ljudska bića nuţna?” napisao da je s Wienerovim radovima postalo jasno
da ćemo “morati promijeniti neke temeljne pretpostavke prema kojima se
upravlja svijetom od početka civilizacije”.60 Wiener se čak nakratko
pojavio i kao zaboravljeni prorok u prvom romanu Kurta Vonneguta,
distopijskoj satiri Mehanički pijanino iz 1952., u kojem se pobuna mladog
inţenjera protiv kruto automatiziranog svijeta završava epskom epizodom
razbijanja stroja.

Roboti posvuda
Ideja o invaziji robota moţda se doimala prijeteće (ako ne i apokaliptično)
publici koju je već prodrmala atomska bomba, ali tehnologije
automatizacije su 1950-ih još bile u povojima. Njihove su se krajnje
posljedice mogle zamisliti u spekulativnim traktatima i znanstvenoj
fantastici, ali još je trebalo proći puno do toga da se te posljedice i doţive.
Kroz cijele je 1960-e većina automatiziranih strojeva još uvijek podsjećala
na primitivne robotizirane nosače s Fordovih poslijeratnih tvorničkih traka.
Bili su veliki, skupi i nepametni. Većinom su mogli obavljati samo jednu,
repetitivnu funkciju i prilagoĎavati kretanje u skladu s nekolicinom
osnovnih elektroničkih komandi: ubrzaj, uspori; kreni lijevo, kreni desno;
prihvati, otpusti. Ti su strojevi bili izvanredno precizni ali drugih darova
baš i nisu imali. Bezimeni, crnčili su po tvornicama, često u kavezu pod
ključem kako bi se ljude u prolazu zaštitilo od njihovih bezumnih trzanja i
treskanja, i definitivno nisu izgledali kao nešto što će osvojiti svijet. Više
su sličili teglećoj stoci, samo veoma poslušnoj i s vrlo dobrom
koordinacijom pokreta.
No, roboti i drugi automatizirani sustavi imali su jednu veliku
prednost u odnosu na čisto mehaničke naprave koje su im prethodile.
Moglo ih se programirati, što ih je ukrcalo na ekspresni vlak Mooreova
zakona. Išla su im u prilog sva poboljšanja koja će obiljeţiti razvoj
računala - brzine procesora, algoritama, mreţne propusnosti, kapaciteta
pohrane, dizajna sučelja te minijaturizacije. A kako je Wiener bio i
predvidio, to se i dogodilo. S boljim senzorima, osjetila su im se izoštrila;
mozak im je radio brţe i fleksibilnije; razgovor im je postao tečniji a
sposobnost učenja znatnija. Početkom 1970-ih već su na sebe preuzeli dio
proizvodnje koji zahtijeva fleksibilnost i spretnost - rezanje, varenje,
sastavljanje. Krajem desetljeća takvi su sustavi upravljali avionima, a i
gradili su ih. A zatim, osloboĎeni fizičkog utjelovljenja i pretvoreni u čistu
logiku i kod, prešli su u poslovni svijet kroz mnoštvo specijaliziranog
softvera. Ušli su u intelektualne struke, katkad kao zamjena, mnogo češće
kao asistencija.
Roboti su 1950-ih moţda bili na dovratcima tvornica, no tek su
nedavno umarširali, na našu zapovijed, i u urede, trgovine i domove. Danas
nam je softver “onog tipa koji zamjenjuje prosuĎivanje”, kako ga je nazvao
Wiener, s radnog stola ušao u dţep, i konačno počinjemo osjećati pravi
potencijal automatizacije da promijeni ono što činimo i kako to činimo.
Sve se automatizira. Ili, kako je to formulirao osnivač Netscapea i velikan
Silicijske doline Marc Andreessen, “softver proţdire svijet”61
Moţda je to i najvaţnija pouka koja se moţe izvući iz Wienerova
rada - a kad je o tome riječ, i iz duge i burne prošlosti strojeva koji štede
rad. Tehnologija se mijenja, i mijenja se brţe nego ljudi. Dok računala
sprintaju brzinom Mooreova zakona, naše uroĎene sposobnosti puze
kornjačinim korakom Darwinova zakona. Dok se roboti mogu konstruirati
na bezbroj načina i oblika, koji oponašaju sve od zmija koje gmiţu po tlu,
preko letećih čudovišta koja haraju nebom, do riba što plivaju morima,
nama nema druge nego drţati se svojih račvastih tijela. To ne znači da će
nas strojevi ostaviti u ropotarnici evolucije. Ni u najsnaţnijem računalu ne
vidimo ni tračka svijesti, ništa više no što bi je imao kakav čekić. To znači
da će naš softver i naši roboti, uz naše vodstvo, i dalje iznalaziti nove
načine da nešto obave bolje od nas - da rade brţe, jeftinije, solidnije. A mi
ćemo, poput onih protuzračnih topnika iz Drugog svjetskog rata, morati
prilagoditi svoj posao, ponašanje i vještine mogućnostima i načinu rada
strojeva na koje se oslanjamo.
 3.
Na autopilotu

Dvanaestog veljače 2009. navečer, putnički s avion kompanije Continental

Connection probijao kroz nevrijeme na letu Newark-Buffalo. Kao što
najčešće biva kod današnjih putničkih aviona, dva pilota na tom
jednosatnom letu nisu imala previše posla. Kapetan, ugodan
četrdesetsedmogodišnjak s Floride imenom Marvin Renslow, zakratko je
preuzeo upravljanje pri polijetanju i poveo turbopropelerac Bombardier
Q400 ka nebu, a zatim je uključio autopilot. On i njegova kopilotkinja,
svjeţe udana dvadesetčetverogodišnjakinja iz Seattlea Rebecca Shaw,
drţali su na oku očitanja računala koja su treperila na pet velikih LCD
zaslona u kokpitu. Izmijenili su nekoliko radio-poruka s kontrolorima leta.
Obavili su par rutinskih provjera. No, najveći dio vremena proveli su u
prijateljskom ćaskanju - o obitelji, napredovanju u karijeri, o kolegama, o
novcu - dok je zrakoplov krstario svojom rutom na visini od pet
kilometara.62
Bombardier se već uvelike pribliţavao zračnoj luci u Buffalu,
spuštena podvozja i podignutih krilaca, kad se kapetanova upravljačka
palica počela bučno tresti. Aktiviralo se vibriranje palice, što je signal da
avion gubi potisak i da je postoji opasnost od propadanja. Autopilot se
isključio jer je tako i programiran za slučaj takvog upozorenja, i kapetan je
preuzeo upravljanje. Reagirao je brzo, ali je postupio točno onako kako
nije smio. Povukao je palicu k sebi, čime je uzdignuo nos aviona i smanjio
mu brzinu, a trebao ju je pogurnuti ne bi li malo nagnuo avion prema dolje
i ubrzao. Nato se uključio automatski sustav za izbjegavanje propadanja i
počeo micati palicu prema naprijed, no kapetan ju je tada jednostavno
krenuo još jače vuči prema sebi. Umjesto da preduhitri propadanje,
Renslow ga je prouzročio. Q400 se izmakao kontroli i počeo se obrušavati.
“Padamo”, rekao je kapetan, i avion se zabio u kuću u predgraĎu Buffala.
Taj se pad, a u njemu je poginulo svih četrdeset i devet osoba u
avionu i jedna na zemlji, uopće nije trebao dogoditi. Istraga Drţavnog
odbora za sigurnost u prometu nije pronašla ništa što bi ukazivalo na neki
mehanički problem sa zrakoplovom. Na avionom se nakupilo nešto leda,
ali ne više nego što je uobičajeno u zimskim uvjetima. UreĎaju za
odleĎivanje su bili ispravni i u funkciji, jednako kao i drugi ureĎaji u
zrakoplovu. Renslow je u prethodna dva dana imao dosta gust raspored
letenja, a Shaw je mučila prehlada, ali čini se da su u kokpitu oboje bili
budni i bistri. Bili su dobro školovani, a iako ih je podrhtavanje upravljačke
palice bilo iznenadilo, imali su dovoljno vremena i zračnog prostora da
poduzmu sve što je potrebno za izbjegavanje propadanja. Odbor je
zaključio da je uzrok nesreće pilotska greška. No Renslow ni Shaw nisu
razumjeli “jasne znakove” neposredne opasnosti od propadanja, a takav
previd ukazuje “na ozbiljan propust u izvršavanju djelatnosti nadziranja”.
Čim se oglasilo upozorenje, izvještavaju istraţitelji, reakcija kapetana je
“morala biti automatska, ali njegovi postupci pri upravljanju bili su
suprotni onome što je trebao znati i za što je bio školovan”, te pokazuju
“zatečenost i zbunjenost”. Jedan je od direktora tvrtke koja je odradila taj
let za Continental, regionalnog avioprijevoznika Colgan Air, priznao da je
pilotima po svemu sudeći manjkala “situacijska svijest” uoči izvanredne
situacije.63 Da je posada adekvatno reagirala, avion bi vjerojatno sigurno
prizemljio.
Ta nesreća nije izolirana pojava. Njoj se neugodno slična katastrofa,
s daleko više ţrtava, dogodila nekoliko mjeseci kasnije. U noći 31. svibnja
Airbus A330 Air Francea uzletio je iz Rio de Janeira i krenuo za Pariz.64
Nakon oko tri sata avion je uletio u oluju nad Atlantikom. Senzori brzine
letenja orošeni ledom počeli su davati potpuno pogrešna očitanja, uslijed
čega se autopilot isključio. Kopilot koji je upravljao avionom, Pierre-
Cedric Bonin, smeteno je povukao upravljačku palicu. A330 se propeo i
oglasilo se bučno upozorenje o mogućem propadanju zrakoplova, no Bonin
je i dalje bezglavo povlačio palicu k sebi. Kako se sve strmije uspinjao,
avion je izgubio brzinu. Senzori brzine leta ponovno su proradi i predočili
posadi točne rezultate. Tada je trebalo postati posve jasno da avion leti
presporo. No, Bonin je ustrajao na svojoj pogrešci i još više usporio. A330
je zastao i počeo propadati. Da je Bonin samo pustio palicu, avion bi se
vjerojatno bio sam ispravio. Ali nije. Posadu je zadesio, kako će francuski
istraţivači to formulirati, “potpun gubitak kognitivne kontrole nad
situacijom”.65 Nakon još nekoliko mučnih sekundi upravljanje je preuzeo
drugi pilot, David Robert. Prekasno. U tri minute avion je izgubio više od
devet kilometara visine.
- Ovo je nemoguće, rekao je Robert.
- Ali što se dogodilo? odgovorio mu je Bonin, još izvan sebe.
 Tri sekunde kasnije avion je tresnuo u ocean. Poginulo je svih 228
putnika i članova posade.

Avion koji sam leti

Ako ţelite razumjeti posljedice automatizacije na ljude, prvo trebate
pogledati - uvis. Aviokompanije i avioindustrija, kao i drţavne i vojne
sluţbe, već su dugo naročito agresivne i posebno inventivne u pronalaţenju
načina da se posao prenese s ljudi na strojeve. To što s računalima danas
rade projektanti automobila u avioindustriji se radi već desetljećima. A
budući da već i samo jedna pogreška u kokpitu moţe odnijeti mnogo ţivota
i puno milijuna dolara, velike su količine javnog i privatnog novca otišle na
financiranje psiholoških i bihevioralnih istraţivanja učinaka
automatizacije. Znanstvenici i inţenjeri već desetljećima proučavaju kako
automatizacija utječe na vještine, percepciju, mišljenje i postupke pilota. O
tome što se dogaĎa kad ljudi rade uz računala najviše znamo upravo iz tih
istraţivanja.
Priča o automatizaciji letenja počinje prije stotinu godina, 18. lipnja
1914. u Parizu. Taj je dan, koliko je poznato, bio sunčan i ugodan, a
plavetnilo neba savršena pozadina za spektakl. Velika se gomila bila
okupila na obalama Seine, blizu mosta Argentevil na zapadnome rubu
grada, kako bi svjedočila avijatičarskom natjecanju Concours de la Sécurité
en Aéroplane, organiziranom da prikaţe najnovija dostignuća u sigurnosti
letenja.66 Sudjelovalo je skoro šezdeset aviona i pilota, demonstrirajući
pritom impresivne tehničke i letačke sposobnosti. Zadnji na programu toga
dana, u dvokrilcu Curtiss C-2, bio je zgodan američki pilot imenom
Lawrence Sperry. U otvorenom kokpitu C-2 pokraj njega je sjedio
mehaničar, Francuz Emil Cachin. Nadlijećući gledatelje i pribliţavajući se
sudačkoj klupi, Sperry je pustio upravljač i digao ruke. Gomila je
oduševljeno klicala: avion sam leti!
Sperry je tek bio počeo. Okrenuvši se, još jednom je nadletio suce,
opet s rukama u zraku. No, ovaj put Cachin mu se izvukao iz kokpita i
počeo hodati po desnom krilu, pridrţavajući se za prečku izmeĎu dva reda
krila. Avion se načas nagnuo pod Cachinovom teţinom, da bi se odmah
sam izravnao, bez Sperryjeve pomoći. Gomila ih je ispratila još glasnije.
Sperry se još jednom okrenuo. U trećem prolazu, Francuz je opet bio na
desnom krilu, ali sada se i Sperry pentrao po lijevom krilu. C-2 je letio
ravno i mirno bez ikoga u kokpitu. Gledatelj i suci su ostali zabezeknuti.
Sperry je odnio glavnu nagradu - pedeset tisuća franaka - i sljedećega dana
lice mu je iskakalo s naslovnih stranica novina u pola Europe.
U Curtiss C-2 bio je ugraĎen prvi automatski pilot na svijetu.
“Ţiroskopski stabilizacijski ureĎaj” izumili su dvije godine prije Sperry i
njegov otac, slavni američki inţenjer i industrijalac Elmer A. Sperry.
Sastojao se od dva ţiroskopa, od kojih se jedan montirao vodoravno a
drugi okomito. UgraĎivao se ispod pilotskog sjedala a napajao ga je
vjetreni generator smješten iza propelera. Ţiroskopi su se vrtjeli na više
tisuća okretaja u minuti i izvanredno su precizno detektirali orijentaciju
aviona po sve tri osi rotacije poniranje i uspinjanje, lijevo i desno klizanje,
te skretanje s kursa. Ako bi zrakoplov odstupi od zadane visine, električki
nabijene metalne četkice spojene na ţiroskope dodirnule bi kontakte na
okviru aviona i zatvorile strujni krug. Električna bi struja potekla ka
servomotorima na kontrolnoj ploči, koji upravljaju zakretnim krilcima na
krilima aviona, te uzdizačima i skretačima kormila na repu, i upravljač bi
automatski korigirao poloţaj tako da se otkloni odstupanje. Vodoravni
ţiroskop stabilizirao je krila i uzdizanje, a vodoravni se brinuo za skretanje.
Trebalo je još gotovo dvadeset godina testiranja i usavršavanja veći
dio provela je vojska SAD-a - prije nego što će ţiroskopski autopilot biti
spreman za svoj prvi nastup na komercijalnom letu. Ali kad je do toga
došlo, ta se tehnologija doimala jednako čudesnom. Pisac za časopis
Popular Science 1930. je godine dao impresioniran opis leta avionom
opremljenim autopilotom, “velikim tromotornim Fordom” koji je “bez
pomoći čovjeka” tri sata letio od Daytona do Washingtona. “Četiri su
čovjeka opušteno sjedila u putničkom odjeljku”, izvještava on, “no pilotska
je kabina bila prazna. Palicu je drţao metalni avijatičar jedva nešto veći od
automobilskog akumulatora.”67 Kad je tri godine poslije američki pilot
Wiley Post uspješno izvršio svoj prvi samački let oko svijeta sluţeći se
Sperryjevim autopilotom kojem je nadjenuo ime “Mehanički Mike”,
novine su najavile novu eru u zrakoplovstvu. “Prošli su ti dani kad su samo
ljudska vještina i gotovo ptičji osjećaj za smjer omogućavali letaču da
satima “odrţava kurs kroz noći bez zvijezda ili maglu”, izvijestio je New
York Times. Komercijalni letovi u budućnosti će biti automatski.68
UvoĎenje ţiroskopskog autopilota utrlo je put golemoj ekspanziji
uloge avijacije u ratovanju i prijevozu. Preuzevši na sebe veliki dio
manualnog rada potrebnog da se avion odrţi na kursu i u stabilnom
poloţaju, taj je ureĎaj oslobodio pilote od konstantne borbe s polugama,
pedalama, kabelima i zupčanicima. Time se smanjio umor pilota na dugim
letovima; no, to im je i oslobodilo ruke, oči - i što je najvaţnije, um - za
druge, suptilnije poslove. Mogli su pratiti više instrumenata, izvesti više
proračuna, riješiti više problema, i uopće razmišljati o tome što rade s više
analitičnosti i kreativnosti. Letjeti više i dalje, i s manje rizika od pada.
Mogli su ući u nevrijeme zbog kojeg inače ne bi bili ni uzlijetali. Bilo da
nose putnike ili ispuštaju bombe, piloti su postali sposobniji i vredniji kad
su na pomoć dobili autopilot. Promijenili su se i avioni: postali su veći, brţi
i puno kompliciraniji.
UreĎaji za automatsko upravljanje i stabilizaciju brzo su napredovali.
Fizičari su 1930-ih naučili dovoljno o aerodinamici, a inţenjeri su u
autopilotske mehanizme počeli ugraĎivati mogućnosti baţdarenja ovisno o
promjenama tlaka, zatim pneumatičke upravljače, amortizere i mnoga
druga poboljšanja. Do prijelomnice je došlo 1940-ih, kad je korporacija
Sperry izbacila na trţište svoj prvi elektronički model, A-5. Uz pomoć
vakuumskih cijevi, koje su pojačavale signale iz ţiroskopa, A-5 je
prilagoĎavao i korigirao kurs brţe i preciznije. Uz to, reagirao je i na
promjene brzine i akceleracije. U kombinaciji s najnovijom tehnologijom
za pomoć u navoĎenju bombi, elektronički je autopilot osobito mnogo
pridonio savezničkim zračnim napadima u Drugom svjetskom ratu.
Ubrzo nakon rata, jedne rujanske večeri 1947., američke su zračne
snage provele eksperimentalni let kojim će potvrditi koliko su autopiloti
daleko dogurali. Kapetan Thomas J. Wells, vojni testni pilot, po jednom je
zabačenom uzletištu u Newfoundlandu vozio C-54 Skymaster, transportni
avion sa sedmočlanom posadom. Tada je pustio upravljačku palicu,
pritisnuo gumb za aktiviranje autopilota pa se, kako se poslije prisjećao
jedan od njegovih kolega u kokpitu, “zavalio u sjedalo i spustio ruke u
krilo”.69
Avion je sam od sebe uzletio, automatski regulirajući snagu motora i
poloţaj krilaca, da bi, sada već u zraku, uvukao podvozje. Zatim je preletio
Atlantik, izvodeći niz “sekvenci” koje su mu unaprijed programirali u,
kako se posada izrazila, njegov “mehanički mozak”. Svaka je sekvenca bila
vezana za odreĎenu visinu ili prijeĎenu udaljenost. Ljudima u avionu nije
bilo rečeno ni kamo će ni kuda letjeti; zrakoplov je sam odrţavao pravac
leta praćenjem radijskih signala za navoĎenje, smještenih na kopnu i na
brodovima. U zoru sljedećeg dana C-54 je doletio do obale Engleske. I
dalje pod kontrolom autopilota, počeo se spuštati, izbacio je podvozje,
poravnao se s pistom Kraljevske zračne baze u Oxfordshireu i izveo
savršeno slijetanje. Kapetan Wells tada je digao ruke s krila i dovezao
avion po pisti do hangara.
 Nekoliko tjedana nakon tog povijesnog Skymasterovog leta, pisac je
britanskog avijatičarskog časopisa Flight razmatrao što će to značiti. Čini
se neizbjeţnim, piše on, da će nova generacija autopilota “dokinuti potrebu
za navigatorima, radio-telegrafistima i inţenjerima” na letu. Strojevi će te
poslove učiniti suvišnima. Piloti, dopušta, neće biti tako lako rješivi.
Njihova će prisutnost, barem u predvidljivoj budućnosti, i dalje biti nuţna
u kokpitu, ako i samo za to “da gledaju razne kazaljke i brojače ne bi li se
uvjerili da sve ide po planu”70

Stakleni kokpit
Godine 1988., četrdeset godina nakon što je C-54 prešao Atlantik, europski
je avio-konzorcij Airbus Industrie predstavio putnički avion A320. Taj je
avion sa svojih 150 sjedišta bio manja verzija modela A330 iste tvrtke, ali
za razliku od svog konvencionalnog i pomalo dosadnog prethodnika, A320
je bio pravo čudo. Bio je to prvi komercijalni zrakoplov koji se uistinu
mogao nazvati kompjuteriziranim, i nagovještavao je sve ono što će se
dogoditi u projektiranju aviona. Pilotska kabina bila mu je takva da je
Wiley Post ili Lawrence Sperry ne bi ni prepoznali. Baterija analognih
kazaljki i regulatora, koja je odavno vizualni sinonim za kokpit aviona,
potpuno je nestala. Na njenom je mjestu sada šest bliještećih staklenih
zaslona, onih s katodnom cijevi, uredno posloţenih ispod vjetrobrana.
Pilotima oni prikazuju najsvjeţije podatke i očitanja s mreţe računala
ugraĎenih u avion.
Pilotska kabina A320 optočena monitorima - njegov “stakleni
kokpit”, kako su ga piloti nazvali - nije bio njegovo najznačajnije obiljeţje.
Inţenjeri NASA-inog Istraţivačkog centra Langley deset su godina prije
uveli prikaz informacija o letu na zaslonu, a proizvoĎači su počeli
ugraĎivati ekrane u putničke avione još potkraj 1970-ih godina.71 A320 se
prije svega odlikovao - a riječima američkog pisca i pilota Williama
Langewieschea bio je to “najodvaţniji civilni avion nakon Flyera braće
Wright”72 - svojim digitalnim sustavom navoĎenog upravljanja. Prije nego
se pojavio A320, komercijalni su avioni još funkcionirali mehanički. Trup i
krila bili su im premreţeni kablovima, polugama i zupčanicima,
minijaturnim vodoskocima u hidrauličkim cijevima, pumpama i ventilima.
Upravljački ureĎaji kojima je rukovao pilot - palica, poluge motora, pedale
kormila - bili su mehanički povezani s pokretnim dijelovima koji su ravnali
orijentacijom, smjerom i brzinom aviona. Akcija pilota stvarala je reakciju
aviona.
 Kad ţelite zaustaviti bicikl, povučete ručicu kočnice, čime povlačite
sajlu, koja stisne noţice kočnice, koje pritisnu gumice o obruč kotača. U
osnovi, šakom šaljete zapovijed - signal zaustavljanja - a kočioni
mehanizam na tu zapovijed prenosi snagu vaše šake sve do kotača. Vaša
šaka tada prima potvrdu da je vaša zapovijed primljena: kroz istu onu
ručicu kočnice osjećate otpor noţica o kotač, otpor kotača o cestu. Tako je,
u malom, bilo pilotirati avionom s mehaničkim upravljanjem. Pilot bi
postao dijelom stroja, tjelesno bi osjetio kako radi i kako reagira, i takav je
stroj postao provodnikom njihove volje. Takva je duboka prepletenost
čovjeka i stroja bila dubinski izvor letačkog uzbuĎenja. Mora biti da je to
imao na umu slavni pilot-pjesnik Antoine de Saint-Exupéry kad je,
prisjećajući se letenja poštanskim avionima 1920-ih, napisao kako ga
“stroj, koji na prvi pogled izgleda kao sredstvo za izoliranje čovjeka od
velikih problema prirode, u njih zapravo još više uvlači”.73
Sustav za programirano upravljanje A320 presjekao je tu taktilnu
sponu pilota i aviona a izmeĎu zapovijedi čovjeka i reakcije stroja umetnuo
je digitalno računalo. Kad bi pilot pomaknuo upravljačku ručicu, okrenuo
sklopku ili pritisnuo gumb u kokpitu Airbusa, njegova se uputa
pretvornikom prevela u električni signal koji bi ţicom dotrčao do računala.
Računala bi pak, u skladu s koracima algoritma svojih programa,
proračunala kojim se mehaničkim postupcima treba ostvariti pilotova ţelja.
Računalo tada šalje svoje upute digitalnim procesorima koji upravljaju
radom pokretnih dijelova aviona. Zamjena mehaničkih pokreta digitalnim
signalima dovela je i do drukčije izvedbe kontrolnih ureĎaja u kokpitu.
Glomazni volan za dvije ruke, kojim su se povlačili kabeli i otpuštale
komprimirane hidrauličke tekućine zamijenjen je malom bočnom palicom,
smještenom pokraj pilotova sjedala, kojom se upravljalo jednom rukom.
Duţ prednje konzole, pilot je podešavao ţeljenu brzinu, visinu i smjer
okretnim sklopkama s malim, brojčanim LED-zaslonima i tako davao
upute avio-računalu.
Nakon pojave A320 priča o zrakoplovima i priča o računalima se
objedinjuju. Svaki hardverski i softverski napredak, svako poboljšanje
senzora, kontrolnog sučelja i tehnologije izrade zaslona snaţno se odrazilo
na projektiranje komercijalnih aviona, a proizvoĎači i prijevoznici su se
trsili maksimalno se automatizirati. U današnjim putničkim mlaţnjacima
autopilot koji odrţava smjer i stabilnost aviona samo je jedan od mnogih
kompjuteriziranih sustava. Snaga motora odreĎuje se automatskim gasom.
Sustavi za upravljanje letom prikupljaju podatke o poloţaju aviona GPS-
om i drugim senzorima, na temelju tih informacija zadaju i odrţavaju
putanju leta. Sustavi za izbjegavanje sudara pretraţuju nebo i paze na
obliţnje zrakoplove. Karte i druga papirologija koju su piloti nekad vukli
sa sobom na let sada se pohranjuju u digitalnom obliku. Još je tu računala:
jedna uvlače i izvlače podvozje, druga reguliraju kočenje, treća tlak zraka u
putničkim prostorima. Ona su preuzela te i mnoge druge funkcije koje su
nekoć bile u rukama posade. Za programiranje tih računala i praćenje
njihova rada pilotima su na raspolaganju veliki, šareni ekrani koji slikovno
prikazuju podatke što ih proizvode elektronički letni instrumenti, a tu je i
sva sila manjih i većih tipkovnica, pokazivačkih kuglica i drugih ureĎaja za
unos podataka. U današnjim je zrakoplovima računalna automatizacija
postala “sveobuhvatna”, kaţe Dan Harris, profesor avijacije i stručnjak za
ljudski faktor. Pilotska kabina “moţe se promatrati kao jedno ogromno
letačko računalno sučelje”.74
A što s modernim letačima i letačicama, koji su se ugnijezdili u tim
staklenim kokpitima visoke tehnologije i jure zrakom pokraj duhova
Sperryja, Posta i Saint-Exuperyja? Očigledno, posao komercijalnog pilota
je izgubio auru romantičnog i avanturističnog. Opjevani letač po osjećaju
danas spada više u legendu nego u ţivot. Na tipičnom putničkom letu pilot
će danas imati upravljač u rukama sveukupno pune tri minute - minutu-
dvije pri uzlijetanju i još minutu-dvije pri slijetanju. Ono na što pilotima
odlazi vrijeme je gledanje po ekranima i ukucavanje podataka. “Od svijeta
u kojem je automatika bila sredstvo kojim se pilotu olakšava rad”,
primjećuje Bili Voss, predsjednik Zaklade za sigurnost letenja, “došli smo
do toga da je automatika istinski, pravi i prvenstveni sustav kontrole leta u
avionu”.75 A kako piše istraţivač avijacije i savjetnik američke Savezne
uprave za zračni promet Hemant Bhana, “kako se automatika sve više
usavršavala, uloga pilota se pomaknula prema motrenju i nadziranju iste te
automatike”.76 Pilot komercijalnog aviona postao je operater na računalu.
Mnogi stručnjaci za avijaciju i automatizaciju zaključili su da je to -
problem.

Nova vrsta nesreće

Lawrence Sperry umro je 1923. godine. Avion mu je pao u La Manche.
Wiley Post je umro 1935. Avion mu se srušio na Aljasci. Antoine de Saint-
Exupéry je umro 1944. - avion mu je nestao negdje u Sredozemnom moru.
Prerana smrt bila je uobičajeni profesionalni rizik pilota u ranim danima
avijacije; romantičnost i avanturizam imali su visoku cijenu. Alarmantno
često pogibali su i putnici. Dok se 1920-ih godina avioindustrija tek
formirala, nakladnik je američkog časopisa za avijaciju uputio javni poziv
vlastima da povećaju sigurnost letenja, s primjedbom da se “mnoge nesreće
sa smrtnim ishodom svakodnevno dogaĎaju putnicima aviona s neiskusnim
pilotima”.77
Smrtonosni dani zračnih putovanja srećom su iza nas. Letenje je
danas sigurno, i manje-više svatko tko se bavi tim poslom vjeruje da je
jedan od razloga tome i napredak automatizacije. Uz napredak u
projektiranju aviona, sigurnosnih postupaka avioprijevoznika, školovanja
posada te kontrola letenja, mehanizacija i kompjuterizacija letova
pridonijele su brzom i već desetljećima trajnom prorjeĎivanju avionskih
nesreća i smrtnih slučajeva. U Sjedinjenim Drţavama i drugim zapadnim
zemljama smrtonosne su nesreće postale iznimno rijetke. Od više od sedam
milijardi ljudi koji su se ukrcali na putničke letove u Sjedinjenim
Drţavama u deset godina izmeĎu 2002. i 2011., samo je njih 153 skončalo
u olupini aviona, dakle to su dvije smrti na svakih milijun putnika. U deset
godina od 1962. do 1971. letjelo je 1,3 milijarde ljudi od kojih je poginulo
njih 1696 - to znači 133 smrti na milijun.78
No, ta vedra priča u sebi nosi mračnu fusnotu. Opći pad broja
avionskih nesreća prikriva pojavu “jednog spektakularnog novog tipa
nesreće”, kaţe Raja Parasuraman, profesor psihologije na Sveučilištu
George Mason i jedan od najvećih svjetskih autoriteta za automatizaciju.79
Kad avionski računalni sustavi zataje ili se pojavi neki drugi neočekivani
problem za vrijeme leta, piloti moraju prijeći na ručno upravljanje. Naglo
stjerani u tu, sada rijetku ulogu, oni prečesto griješe. Posljedice mogu biti
katastrofalne, kako pokazuju nesreće Continental Connectiona i Air
Francea. U posljednjih su trideset godina deseci psihologa, inţenjera,
ergonoma i istraţivača “ljudskog faktora” proučavali što se dobilo a što
izgubilo kad piloti letački posao obavljaju uz softver. A saznali su da tako
veliko oslanjanje na računalnu automatiku umanjuje stručnost u postupanju
pilota, otupljuje im reflekse i umanjuje pozornost, što dovodi do
“onestručenja posade”, kako to naziva Jan Noyes, stručnjakinja za
kognitivnu ergonomiju pri Sveučilištu u Bristolu.80
Zabrinutost zbog nenamjeravanih popratnih pojava automatizacije
letenja nije ništa novo. Jedan izvještaj NASA-inog Istraţivačkog centra
Ames iz 1989. navodi da, kako su se računala u avionima počela mnoţiti u
tom desetljeću, istraţivači iz drţavnih i industrijskih krugova imaju “sve
veću nelagodu pri pomisli da kokpit postaje toliko automatiziran, i
smatraju da će od postupne zamjene ljudskog djelovanja ureĎajima biti
koliko koristi toliko i štete”. Usprkos općem entuzijazmu prema
kompjuteriziranom letenju, mnogi su u avijacijskoj djelatnosti brinuli da će
se “piloti previše oslanjati na automatiku, da će im vještina normalnog
letenja zaostati, i da će im se umanjiti situacijska svjesnost”.81
Kasnija su istraţivanja mnoge nesreće ili umalo-nesreće povezala s
kvarovima automatiziranih sustava i “pogreškama proizašlim iz
automatizacije” koje čine posade aviona.82 Savezna uprava za zračni
promet (FAA) 2010. je godine objavila preliminarne rezultate velikog
istraţivanja na linijskim letovima posljednjih deset godina, koje je
pokazalo da je u gotovo dvije trećine svih nesreća, uz ostalo, došlo i do
pilotskih pogrešaka. U istraţivanju se nadalje navodi mišljenje Kathy
Abbott, znanstvenice pri FAA, da je automatizacija uzrok povećanju
učestalosti takvih pogrešaka. Interakcija s letnim računalima, kaţe Abbott,
pilotima odvlači paţnju, i oni “u prevelikoj mjeri prebacuju vlastitu
odgovornost na automatizirane sustave”.83 Opširan drţavni izvještaj o
automatizaciji kokpita iz 2013., koji je sastavio stručni savjet a poziva se
na iste podatke FAA, okrivio je probleme vezane za automatizaciju - uz
ostalo, smanjenu situacijsku svjesnost i oslabljene vještine manualnog
letenja - za više od pola svih nesreća koje su se dogodile u posljednje
vrijeme.84
Anegdotalni dokazi prikupljeni kroz izvještaje i ankete o nesrećama
dobili su i empirijsku potporu u jednom strogo provedenom istraţivanju
Matthewa Ebbatsona, mladog stručnjaka za ljudski faktor sa Sveučilišta
Cranfield, vrhunskog britanskog tehničkog fakulteta.85 Frustriran
nepostojanjem provjerenih, objektivnih podataka o “gubitku vještina
manualnog letenja kod pilota na izrazito automatiziranim letovima”, kako
se izrazio, Ebbatson si je dao u zadatak da ispuni tu prazninu. Angaţirao je
šezdeset i šest iskusnih pilota jedne britanske kompanije i svakoga je
smjestio u simulator letenja u kojem je trebao izvesti zahtjevan manevar -
dovesti Boeing 737 s pokvarenim motorom do piste po lošem vremenu.
Simulator je isključio automatske sustave te je pilot morao letjeti
manualno. Neki su piloti na tom testu prošli izvanredno dobro, izvještava
Ebbatson, ali mnogi su bili izrazito loši, jedva “prelazeći granicu
prihvatljivog”. Ebbatson je zatim usporedio detaljna mjerenja rada pilota u
simulatorima - snagu rukovanja upravljačem, stalnost brzine, odstupanja od
kursa - s arhivskim podacima iz osobnih dnevnika letova svakog pilota.
Pokazalo se da postoji izravna korelacija izmeĎu vještine pilota za
komandama i količine vremena letenja bez pomoći automatizacije. Ta je
korelacija bila osobito jaka kad je riječ o manualnom letenju u prethodna
dva mjeseca. Ebbatsonova analiza ukazuje na to da bez relativno česte
prakse “vještine manualnog letenja brzo opadaju prema rubovima
tolerabilnog”. Osobito “lako propada”, biljeţi on, uspješnost pilota u
“nadzoru nad brzinom leta” - što je ključna vještina za prepoznavanje i
izbjegavanje zastoja i drugih opasnih situacija, te za vraćanje stabilnosti
letenja.
Nije tajna zašto automatizacija oslabljuje pilotsku vještinu. Poput
mnogih drugih zahtjevnih poslova, pilotiranje podrazumijeva spoj
psihomotoričkih i kognitivnih sposobnosti - promišljeno djelovanje i
djelatno promišljanje. Pilot treba precizno rukovati instrumentima a pritom
brzo i točno računati, prognozirati vrijeme i ocjenjivati mnoge elemente
leta, i sve to u glavi. A dok prolazi kroz sve te osjetljive mentalne i fizičke
manevre, treba stalno biti pozoran i imati u vidu što se zbiva oko njega, i
biti u stanju razlučiti bitno od nebitnog. Ne smije si dopustiti ni gubitak
koncentracije ni suţavanje svijesti, slično voţnji kroz tunel. Vladati tako
raznorodnim skupom vještina moţe se jedino rigoroznim uvjeţbavanjem.
Pilot-početnik obično je za upravljačem nespretan, i ručicu gura i povlači
ţustrije nego što bi trebalo. Često mora zastati da razmisli što mu je činiti, i
metodično proći kroz sve korake nekog postupka. Bude mu teško brzo se
prebacivati s manualnih na kognitivne zadaće i obratno. Kad doĎe do
napete situacije, lako ga zateknu i zbune, i lako previdi neku kritičnu
promjenu okolnosti.
S vremenom, i nakon puno vjeţbe, početnik stječe sigurnost. Manje
zapinje u radu i postupci su mu precizniji. Ne upotrebljava preveliku silu.
A kako mu se iskustvo produbljuje, u mozgu mu se razvijaju takozvani
mentalni modeli - skupine neurona koje rade zajedno. Tako uspijeva
prepoznavati obrasce u onome što ga okruţuje. Ti mu modeli omogućuju
da intuitivno tumači podraţaje i da na njih reagira a da ga pritom ne zavlači
svjesna analiza. Konačno, misli i djela se glatko nadovezuju. Pilotiranje mu
postaje druga priroda. Godinama prije nego što će istraţivači početi kopati
po tome kako radi mozak pilota, Wiley Post je, jednostavno i precizno,
ovako opisao doţivljaj stručnog letenja. On leti, napisao je 1935., “bez
mentalnog napora, a postupci su [mu] u cjelini pod nadzorom nesvjesnog
uma”.86 S tom se sposobnošću nije rodio. Razvio ju je uz puno truda.
Kad su na scenu stupila računala, priroda i strogost rada su se
promijenili, kao i učenje radom. Budući da redovnu kontrolu nad letenjem
preuzima softver, pilot je većim dijelom razriješen duţnosti manualnog
rada. Ta preraspodjela obaveza donosi vaţne prednosti. Ona smanjuje
naprezanje pilota i omogućuje mu da se koncentrira na kognitivne aspekte
letenja. No, ona ima i svoju cijenu. Psihomotoričke vještine zahrĎaju, što
postaje štetno u rijetkim ali kritičnim trenucima kad pilot mora preuzeti
upravljanje. Sve je više dokaza za to da širenje opsega automatizacije
dovodi u opasnost i kognitivne vještine. Kad sofisticiranija računala počnu
na sebe preuzimati funkcije planiranja i analize, kao što su odreĎivanje i
prilagoĎavanje plana letenja, pilot biva sve manje angaţiran, ne samo
fizički nego i mentalno. A budući da preciznost i brzina prepoznavanja
obrazaca, čini se, ovise o redovitoj vjeţbi, um pilota postaje manje agilan
pri tumačenju situacija koje se brzo mijenjaju, te reagiraju na njih. Moţe
mu se dogoditi da mu “vještina izblijedi”, kako mentalna tako i motorička.
Pilotima nije promaklo da automatizacija uzima svoj danak. Oni su
oduvijek zazirali od prepuštanja odgovornosti strojevima. Zrakoplovci
Prvog svjetskog rata, a razumljivo je da su se ponosili svojom vještinom
manevriranja u zračnim dvobojima, nisu htjeli imati posla sa Sperryjevim
šminkerskim autopilotima.87 Prvi su astronauti Mercuryja 1959. dignuli
pobunu protiv NASA-inog plana da izbaci mogućnost manualnog
upravljanja.88 No, njihova je zabrinutost danas akutniji problem. Iako s
odobravanjem gledaju na golemu dobrobit novih tehnologija letenja, i slaţu
se da su one pridonijele sigurnosti i djelotvornosti, brine ih opadanje
njihove vještine. Dio Ebbatsonova istraţivanja bila je i anketa na uzorku
komercijalnih pilota, u kojoj ih se pitalo jesu li “osjetili da im iskustvo
upravljanja jako automatiziranim avionima utječe na sposobnost
manualnog letenja”. Više od tri četvrtine ispitanika odgovorilo je da im je
“vještina oslabjela”; tek je nekolicina osjećala da im se vještina povećala.89
Anketa koju je provela Europska agencija za sigurnost letenja dala je slične
rezultate - 95% pilota izjavilo je da s automatizacijom osjećaju tendenciju
opadanja “osnovnih manualnih i kognitivnih letačkih sposobnosti”.90 Rory
Kay, dugogodišnji kapetan u United Airlinesu koji je donedavno radio kao
visoki duţnosnik za sigurnost u Udruzi linijskih pilota, strahuje da avijacija
kao djelatnost pati od “ovisnosti o automatizaciji” U intervjuu koji je 2011.
dao Associated Pressu, taj je problem iznio oštrim riječima: “Mi
zaboravljamo kako se leti.”91

Braća Wright bili su prava stvar

Cinici te strahove olako pripisuju pukom interesu. Pravi razlog za gunĎanje
zbog automatizacije je, smatraju oni, to što se piloti boje da će izgubiti
posao, ili da će im smanjiti plaću. U stanovitoj mjeri, cinici jesu u pravu.
Kao što je pisac časopisa Flight predvidio još 1947., tehnologija
automatizacije je srezala veličinu posade aviona. Prije šezdeset godina
kokpit aviona avioprijevoznika često je predviĎao petero školovanih i
dobro plaćenih stručnjaka: u njemu su sjedili navigator, radio-operater,
zrakoplovni inţenjer i dva pilota. Vezist je ostao bez svog mjesta u 1950-
ima, a njegove je duţnosti preuzela inercijska navigacija. Inţenjer, čiji je
posao bio očitavati bateriju instrumenata i prenositi vaţne informacije
pilotima, zadrţao je radno mjesto do kraja 1970-ih, kad je uveden stakleni
kokpit. Nastojeći umanjiti izdatke nakon deregulacije zračnih putovanja
1978., tvrtka American Airlines pokušala je izbaciti inţenjera iz kokpita i
letjeti samo s kapetanom i kopilotom. Uslijedila je gorka bitka sa
sindikatima pilota, koji su se mobilizirali na spašavanju radnih mjesta
inţenjera. Borba je trajala sve do 1981., kad je predsjednička komisija
SAD-a donijela proglas da inţenjeri više nisu nuţni za sigurno upravljanje
na putničkim letovima. Dvočlana posada od tada je norma - barem zasad.
Neki stručnjaci, pozivajući se na uspjehe vojnih bespilotnih letjelica, počeli
su predlagati da je dva pilota upravo za dva previše. 92 “Jednom će se
pojaviti bespilotni putnički avion”, izjavio je James Albaugh, visoko
pozicionirani direktor u Boeingu na jednoj konferenciji odrţanoj 2011.,
“samo je pitanje kada”.93
Širenje automatizacije pratio je i stalni pad naknada za posao
komercijalnog pilota. Iako veterani meĎu kapetanima velikih mlaţnjaka još
mogu izvući i preko sto tisuća kuna mjesečno, piloti-početnici danas se
plaćaju i manje od dvanaest tisuća mjesečno. Prosječna početna plaća
iskusnog pilota u velikim kompanijama kreće se oko dvadeset tisuća kuna,
što je, kako piše Wall Street Journal “vraški malo za stručnu osobu na vrhu
karijere”.94 Usprkos takvim plaćama, u javnosti se još uvijek vjeruje da su
piloti preplaćeni. Jedan članak na web-stranicama Salary.com navodi da su
piloti komercijalnih mlaţnjaka “najpreplaćeniji” stručnjaci u današnjoj
ekonomiji, ustvrĎuje da su “mnogi njihovi zadaci automatizirani” te dodaje
da je taj posao postao “pomalo dosadan”.95
No, interesi pilota kad je riječ o pitanjima automatizacije dublji su od
sigurnosti zaposlenja i plaće, pa čak i od njihove osobne sigurnosti. Njihov
se posao i uloga u letenju mijenjaju sa svakim tehničkim napredovanjem, i
time se mijenja to kako oni gledaju na sebe i kako ih vide drugi. U pitanju
je i njihov društveni status pa čak i osjećaj identiteta. Kada, dakle, piloti
govore o automatizaciji, tada nije riječ samo o tehnici nego i o
autobiografiji. Jesam li ja gospodar stroja ili njegov sluga? Da li ja u svijetu
djelujem ili sam mu samo promatrač? Jesam li ja objekt ili nešto činim?
Kako piše povjesničar tehnologije s MIT-a David Mindell u svojoj knjizi
Digitalni Apolon, “rasprave o kontroli i automatizaciji u avijaciji u biti su
rasprave o tome koliko je vaţan čovjek a koliko stroj. U avijaciji, kao i u
svakoj djelatnosti u kojoj ljudi rade s nekim alatom, “tehničke promjene
prepleću se s društvenima”.96
Piloti su sami sebe uvijek definirali u nekom odnosu prema svom
umijeću. Wilbur Wright u pismu Octaveu Chanuteu, još jednom pioniru
avijacije, o pilotovoj je ulozi 1900. godine napisao: “Potrebna je prije
svega vještina, a tek onda mašina.”97 Time nije naprosto izrazio neko opće
mjesto. Riječ je o tome da je, dok je ljudski let još bio u začecima, već
postojala bitna napetost izmeĎu mogućnosti pilota i mogućnosti aviona.
Kad su se gradili prvi avioni, njihovi su projektanti već raspravljali o tome
koliko stabilan avion treba biti sam po sebi - odnosno, koliko mu treba biti
jaka tendencija da u svim uvjetima leti ravno i odrţava visinu. Moglo bi se
činiti da bi kod stroja za letenje više stabilnosti uvijek trebalo biti bolje, ali
nije tako. Stabilnost i mogućnost manevriranja su suprotni ciljevi, i treba ih
postaviti u pravi omjer. Što je stabilnost veća, pilotu će biti teţe kontrolirati
let. Kako objašnjava Mindell: “Što je avion stabilniji, trebat će više napora
da ga se makne iz točke ravnoteţe. Utoliko će biti manje upravljiv. Vrijedi
i obrat - što je upravljiviji, što su mu manevarske sposobnosti aviona veće
to će mu stabilnost biti manja.”98 Autor knjige o zrakoplovstvu iz 1910.
izvijestio je da je pitanje ekvilibrija preraslo u “spor koji avijatičare dijeli
na dvije škole”. S jedne strane bili su oni koji su tvrdili da bi ravnoteţa “u
vrlo velikoj mjeri morala funkcionirati automatski” - da bi tako avion
trebalo već unaprijed projektirati. S druge strane bili su oni koji su tvrdili
da bi ravnoteţa morala biti “stvar vještine avijatičara”.99
Wilbur i Orville Wright pripadali su toj drugoj školi. Vjerovali su da
bi zrakoplov trebao biti fundamentalno nestabilan, nalik biciklu ili čak,
kako se Wilbur izrazio, “svojeglavom konju”.100 Tako će pilot imati
najveću moguću autonomiju i slobodu. Braća su tu svoju filozofiju ugradila
i u svoje avione, koji su manevarskim sposobnostima davali prednost pred
stabilnosti. Izum braće Wright na početku dvadesetog stoljeća, tvrdi
Mindell, “nije bio samo funkcionalni zrakoplov, nego i sama ideja
zrakoplova kao dinamičnog stroja pod nadzorom pilota čovjeka”. 101 Prije
inţenjerske, donesena je etička odluka: napraviti aparat podloţan osobi
koja njime upravlja, instrument ljudskog talenta i htijenja.
U debati o ravnoteţi braća Wright će biti gubitnici. Kad su avioni
počeli nositi putnike i druge vrijedne terete duţ velikih udaljenosti, sloboda
i virtuoznost pilota pale su u drugi plan. Prvenstveno su vaţne postale
sigurnost i djelotvornost, a da bi se one povećale - ubrzo je postalo jasno -
područje djelovanja pilota morat će se smanjiti a veće ovlasti trebat će
prenijeti na stroj. Taj je pomak kontrole bio postupan, ali uvijek bi
tehnologiji pripalo još malo više moći, a piloti bi se osjetili još malo više
izbačeni. U jednom donkihotskom članku iz 1957., protiveći se pokušajima
daljnje automatizacije letenja, vrhunski je testni pilot vojnih lovačkih
aviona, imenom J. O. Roberts, bjesnio na to kako autopiloti pretvaraju
čovjeka u kokpitu u jedva nešto više od “suvišne prtljage, osim u duţnosti
nadziranja.” Pilot se, kako piše Roberts, mora upitati “je li uopće zaradio
svoju plaću.”102
No, sve su inovacije ţiroskopa, elektromehaničkih ureĎaja,
instrumenata i hidraulike bile samo slutnja onoga što će sa sobom donijeti
digitalizacija. Računalo je izmijenilo karakter letenja; ali promijenilo je i
karakter automatizacije. Ona ulogu pilota zaobilazi u toj mjeri da već i
sama zamisao “manualnog upravljanja” počinje zvučati anakrono. Ako je
bit pilotskog posla slanje digitalnih naputaka računalu, te nadziranje
digitalnih rezultata - a u meĎuvremenu računala upravljaju pokretnim
dijelovima aviona i odreĎuju mu kurs - gdje je u svemu tome “manualno
upravljanje”? Čak i kad piloti kompjuteriziranih aviona povlače i odguruju
volan ili palicu, oni zapravo izvode simulaciju manualnog letenja. Svaki je
postupak posredovan, filtriran kroz mikroprocesore. To ne znači da ta
vještina nije vaţna. Jer jest. MeĎutim, to više nije ista vještina: sada se
postupci izvode neizravno, s onu stranu pokrova od softvera. U mnogim
današnjim komercijalnim mlaţnjacima letački softver kod iznimno
sloţenih manevara čak moţe isključiti pilota iz rada sustava. Zadnja karika
lanca kontrole pripada računalu. “On nije samo pilotirao”, rekao je za
Wileya Posta njegov kolega pilot, “on je svoj avion odijevao”. 103 Današnji
piloti ne odijevaju svoje avione. Oni odijevaju avioračunala - ili moţda
računala odijevaju pilote?
Transformacija kroz koju je avijacija prošla u proteklih nekoliko
desetljeća - prijelaz s mehaničkih na digitalne sustave, raširenost softvera i
zaslona, automatizacija kako umnog tako i manualnog rada, nejasnoća oko
toga što uopće znači biti pilot - sve nam to daje nacrt za ovu mnogo širu
transformaciju kroz koju društvo danas prolazi. Stakleni kokpit, ističe Don
Harris, moţe se smatrati prototipom svijeta u kojem “računala rade u
svemu”104 Iskustvo pilota otkriva i jednu suptilnu ali često vaţnu
povezanost izmeĎu načina na koji se projektiraju automatizirani sustavi i
načina na koje radi um i tijelo osobe koja takav sustav upotrebljava. Sve
više dokaza za slabljenje vještina, otupljivanje osjetila i usporavanje
reakcija trebali bi nas sve navesti na to da zastanemo. Počinjemo ţivjeti
svoj ţivot unutar staklenog kokpita, i čini se da nam je sudbina da
otkrijemo ono što piloti već znaju: stakleni kokpit moţe biti i stakleni
kavez.
 4.
Učinak degeneracije

Prije stotinu godina britanski je filozof Alfred North Whitehead u knjizi

Uvod u matematiku napisao: “Civilizacija napreduje uvećavanjem broja
vaţnih postupaka koje moţemo izvoditi a da o njima ne razmišljamo”
Whitehead nije pisao o strojevima. Pisao je o upotrebi matematičkih
simbola u predstavljanju ideja i logičkih procesa - što je rani primjer za to
kako se intelektualni rad moţe obuhvatiti kodom. No namjera mu jest bila
da se njegova primjedba shvati općenito. Uvrijeţena predodţba da “bismo
trebali njegovati naviku da razmišljamo o onom što radimo”, pisao je,
“duboko je pogrešna”. U što većoj mjeri uspijemo razriješiti svoj um
rutinskih poslova i prenijeti ih na tehničku ispomoć, to ćemo više umne
snage sačuvati za najdublje, najkreativnije vrste razmišljanja i smišljanja.
“Postupci uma slični su napadima konjice u bitci - strogo su ograničeni
brojem, zahtijevaju svjeţe konje, i moraju se poduzimati samo u presudnim
trenucima.”105
Teško je i zamisliti jezgrovitiji i samopouzdaniji izraz vjere u
automatizaciju kao temelj napretka. Whiteheadove riječi podrazumijevaju
vjeru u hijerarhiju ljudskih djelatnosti. Svaki put kad prenesemo neki posao
na alat ili stroj, ili na simbol ili softverski algoritam, oslobaĎamo sebe za
uspon ka nekom višem cilju, za koji će trebati veća spretnost, bogatija
inteligencija ili šira perspektiva. Sa svakim korakom naviše moţda nešto
izgubimo, ali na kraju dobivamo mnogo više. Dovedeno do ekstrema,
Whiteheadovo poimanje automatizacije kao osloboĎenja pretvara se u
tehno-utopizam Wildea i Keynesa, ili Marxa u najvedrijim izdanjima - u
san da će nas strojevi izbaviti od zemaljskog rada i vratiti nas u rajski vrt
uţitaka dokolice. No, Whitehead nije imao glavu u oblacima. Njegov je
zaključak pragmatičan i govori o tome kako provoditi vrijeme i na što
usmjeravati napor. U jednoj je publikaciji iz 1970-ih Ministarstvo rada
SAD-a opisalo posao sekretarice na sljedeći način: one “od svojih
poslodavaca preuzimaju rutinske obaveze da i se mogli baviti vaţnijim
stvarima”.106 Softver i druge tehnologije automatizacije, prema
Whiteheadovu gledištu, imaju analognu ulogu.
Povijest daje mnoštvo dokaza u prilog Whiteheadu. Nuţne poslove,
kako fizičke tako i umne, ljudi prenose na alate još od izuma poluge,
kotača i računaljke. Takvo nam je prenošenje posla omogućilo da se
hvatamo u koštac sa zakučastim problemima i da dorastemo do većih
postignuća. To vrijedi bilo da je riječ o farmi, tvornici, laboratoriju ili
domu. No Whiteheadovu primjedbu ne bismo trebali shvatiti kao
univerzalnu istinu. On je pisao u vrijeme kad je automatizacija zahvaćala
tek manji broj zaokruţenih, jasno definiranih i repetitivnih poslova - tkanje
pomoću parnog tkalačkog stroja, ţetvu kombajnom, mnoţenje
logaritamskim računalom. Danas je automatizacija nešto drugo. Računala
se, kako smo vidjeli, mogu programirati za izvoĎenje ili pomoć u
izvoĎenju sloţenih postupaka u kojima se niz strogo koordiniranih
zadataka izvodi kroz evaluaciju mnogih parametara. Danas u
automatiziranim sustavima računalo na sebe preuzima intelektualne
poslove - uočavanje, osluškivanje, napipavanje; analizu i prosudbu, pa čak
i odlučivanje - koji su se donedavno smatrali navlastito ljudskima. Osobi
koja radi kao operater na računalu ostavljena je uloga visokotehnološkog
činovnika koji unosi podatke, motri na rezultate i pazi na greške. Umjesto
da svojim ljudskim suradnicima otvara nova obzorja mišljenja i djelovanja,
softver nam suţava ţarište paţnje. Sada svoja suptilnija, specijaliziranija
umijeća mijenjamo za rutinske i ni po čemu naročite.
Kao i Whitehead, većina nas pretpostavlja da je automatizacija
benigna, da nas uzdiţe do viših poziva ali inače nam ne mijenja način
ponašanja i mišljenja. To nije točno. To je jedan od izraza onoga što su
istraţivači automatizacije nazvali “mitom o supstituciji”. UreĎaj koji štedi
rad neće samo nadomjestiti neku izoliranu sastavnicu posla. On mijenja
karakter cijele zadaće, uključujući uloge, stavove i vještine ljudi koji na
tom poslu rade. Kako u svom članku iz 2000. objašnjava Raja
Parasuraman: “Ljudska aktivnost automatizacijom ne biva tek istisnuta,
ona se i mijenja, to često onako kako njeni projektanti nisu ni predvidjeli ni
namjeravali.”107 Automatizacija mijenja i rad i radnika.

Povjerenje u stroj
Kad se ljudi hoće uhvatiti u koštac s nekom zadaćom, često bivaju ţrtvom
dviju kognitivnih boljki: to su samozadovoljstvo automatizacijom i
automatizacijska pristranost. I jedno i drugo otkrivaju klopke koje nas
dočekuju kad poĎemo Whiteheadovim putem izvoĎenja vaţnih postupaka a
da o njima ne razmišljamo.
Samozadovoljstvo automatizacijom nastupa kad nas računalo uljuljka
u laţni osjećaj sigurnosti. Postajemo tako uvjereni u to da će stroj raditi bez
greške i odraditi svaki izazov s kojim se suoči, da si dopustimo da nam
paţnja odluta. Više ne prianjamo poslu, barem onom dijelu kojim barata
softver, i zbog toga moţemo propustiti signale po kojima bismo znali da je
nešto pošlo po zlu. Većina nas takvo je samozadovoljstvo doţivjela za
računalom. Kad se sluţimo programom za pisanje, manje ćemo pozorno
korigirati tekst ako nam je uključena provjera pravopisa. 108 To je
jednostavan primjer, koji u najgorem slučaju moţe dovesti do kakve
neugodnosti. MeĎutim, samozadovoljstvo automatizacijom moţe dovesti i
do smrtnih posljedica, kako pokazuju katkad tragična iskustva avijatičara.
U najgorem slučaju, ljudi postanu u toj mjeri povjerljivi prema tehnologiji
da im svijest o onome što se oko njih dogaĎa posve izblijedi. Samo se
isključe. Ako najednom izbije neki problem, ostanu zatečeni i gube
dragocjene trenutke nastojeći se nanovo orijentirati.
Samozadovoljstvo automatizacijom dokumentirano je u mnogim
visokorizičnim situacijama, od bojnog polja preko kontrolne prostorije
tvornice, do zapovjednog mosta broda ili podmornice. Jedan klasičan
slučaj odnosi se na kruzer Royal Majesty, koji moţe primiti do 1500
putnika, a koji je u proljeće 1995. plovio od Bermuda ka Bostonu,
posljednjoj etapi sedmodnevnog krstarenja. Brod je bio opremljen
najsuvremenijim automatizacijskim navigacijskim sustavom, koji je
odrţavao kurs pomoću signala GPS-a. Nakon sat vremena plovidbe, kabel
antene GPS-a se otkvačio i navigacijski sustav je izgubio uporište. I dalje
je slao očitanja, ali više nisu bila točna. Više od trideset sati brod je pomalo
gubio zadani kurs a ni kapetan ni posada to nisu opazili, unatoč jasnim
signalima da je sustav zatajio. U jednome trenutku kormilar u smjeni ne
opaţa vaţnu lokacijsku oznaku kraj koje je brod trebao proći. O tome
nikoga nije izvijestio. Njegovo je povjerenje u navigacijski sustav bilo tako
potpuno da je pretpostavio da su prošli oznaku, samo je on nije vidio.
Gotovo dvadeset milja izvan kursa, brod se konačno nasukao na pješčani
sprud pokraj otoka Nantucket. Srećom, nitko nije bio ozlijeĎen, iako je
tvrtka vlasnik kruzera imala višemilijunske troškove. Istraţitelji drţavne
sluţbe za sigurnost plovidbe zaključili su da je uzrok nezgode
samozadovoljstvo automatizacijom. Brodski su se časnici “pretjerano
oslonili” na automatizirani sustav, do te mjere da su ignorirali druga
“navigacijska pomagala i informacije dobivene opaţanjem”, što bi im bilo
pokazalo da su opasno skrenuli s kursa. Automatizacija je, izvijestili su
istraţitelji, “imala taj učinak da je pomorca ispustila iz procesa smislenog
nadzora i aktivnog sudjelovanja u radu broda”.109
Samozadovoljstvo moţe spopasti ljude koji rade uredske poslove
jednako kao i one koji lete nebom i plove morem. U istraţivanju o
učincima projektantskog softvera na graditeljske djelatnosti, sociologinja s
MIT-a Sherry Turkle dokumentirala je kod arhitekata promjenu u
pozornosti nad detaljima. Kad su se projekti crtali ručno, arhitekti su se
itekako morali truditi da paze na sve dimenzije prije nego predaju nacrte
graĎevinarima. Arhitekti su znali da mogu pogriješiti, da im se nešto moţe
i omaknuti, pa su se vodili za starom stolarskom: mjeri dvaput, reţi
jednom. Sada, kad im planove generira softver, manje paze na provjeru
mjerenja. Očigledna preciznost računalnih prikaza navodi ih na
pretpostavku da su im brojke točne. “Čini mi se pretenciozno provjeravati”,
rekao je Turkle jedan arhitekt, “pa kako bih ja to mogao napraviti bolje od
računala? Ono izvodi proračune do stotinke centimetra.” Takvo je
samozadovoljstvo, koje znaju imati i graĎevinari i graditelji, već dovodilo
do skupih pogrešaka i u projektiranju i u graĎenju. Kompjuteru se ništa ne
moţe omaknuti, govorimo sebi, iako znamo da ona daju onakve rezultate
kakve im damo upute. “Što je neki računalni program ušminkaniji”,
primijetio je jedan Turklein student, “to više počinjete pretpostavljati da
vam ispravlja greške, to više počinjete vjerovati da je ono što izlazi iz
računala upravo ono što bi i trebalo biti. To je potpuno instinktivno.”110
Automatizacijska pristranost usko je vezana za samozadovoljstvo
automatizacijom. Ona nam se provuče onda kad pripisujemo preveliku
teţinu onome što vidimo na monitorima. Čak i kad informacije budu
pogrešne ili varljivo nepotpune, čovjek im povjeruje. Povjerenje u softver
postaje toliko da ljudi zanemare druge izvore informacija, uključujući
vlastita osjetila. Ako ste se ikad negdje izgubili, ili shvatili da idete u krug
jer ste ropski slijedili manjkave ili zastarjele upute GPS-ureĎaja ili
digitalne karte, doţivjeli ste učinak automatizacijske pristranosti. Čak i
ljudi kojima je voţnja posao katkad pokaţu nevjerojatan manjak zdravog
razuma kad se oslanjaju na satelitsku navigaciju. Zanemarujući prometne
znakove i druga opaţanja iz okoliša, nastavljaju voziti opasnim putem i
katkad se zabiju u kakav nizak nadvoţnjak ili zapnu u uskim uličicama.
Vozač četiri metra visokog autobusa, koji je prevozio srednjoškolsku
sportsku momčad u Seattleu je 2008. naprosto uletio u betonski most visok
tri metra. Razbio je cijeli vršni dio autobusa, a dvadeset i jedan učenik
zbog ozljeda je završio u bolnici. Vozač je rekao policiji da je slijedio
upute GPS-a i “nije vidio” znakove ni trepereča svjetla na cesti koja su
upozoravala na pribliţavanje niskom mostu.111
Automatizacijska pristranost osobito je riskantna za ljude koji se
sluţe softverom za potporu u odlučivanju i puštaju da ih on vodi kroz
postupak analize ili donošenje dijagnoze. Od kasnih 1990-ih godina
radiolozi se koriste računalnim sustavima za detekciju, koji istaknu
sumnjiva područja na mamogramu ili kakvom drugom rendgenskom
nalazu. Digitalizirana verzija slike skenira se u računalo gdje prolazi kroz
program za pronalaţenje podudaranja, koji pak prikaţe strelicu ili neko
drugo “upozorenje” kako bi se liječniku sugeriralo na koja područja treba
obratiti više paţnje. U nekim slučajevima takvo isticanje olakšava
otkrivanje bolesti i pomaţe radiolozima da identificiraju potencijalne
karcinome koji bi liječniku moţda bili promakli. No istraţivanja otkrivaju
da takvo isticanje moţe imati i suprotan učinak. Sugestije programa
liječnika učine tako pristranim da neistaknute dijelove slike smo preleti
pogledom i katkad previdi tumor u ranoj fazi ili kakvo drugo odstupanje od
normale. Isticanja, nadalje, mogu povećati vjerojatnost laţne uzbune, zbog
koje radiolog šalje pacijenta na nepotrebnu biopsiju.
Nedavno razmatranje mamogramskih podataka, koje je provela ekipa
istraţivača s Gradskog sveučilišta London, ukazuje na to da je
automatizacijska pristranost imala veći učinak na radiologe i druge
stručnjake koji očitavaju dijagnostičke slike nego što se prije mislilo.
Istraţivači su otkrili da detekcija potpomognuta računalima ima tendenciju
poboljšanja pouzdanosti kod “manje pozornih očitavača” kad razmatraju
“relativno lake slučajeve”, ali čak smanjuje uspješnost boljih stručnjaka
kad razmatraju teţe slučajeve. Kad se oslanjaju na softver, takvi će
stručnjaci vjerojatnije previdjeti odreĎene tumore.112 Ta suptilna
pristranost, nadalje, koju potiču kompjuterizirana pomagala u odlučivanju,
moţda je “sastavni dio ljudskog kognitivnog ustroja pri reagiranju na
moguće opasnosti i upozorenja”.113 Time što nam usmjeravaju pogled,
takva nam pomagala iskrivljuju vid.
I samozadovoljstvo i pristranost, čini se, izviru iz ograničenja naših
sposobnosti paţnje. Naša sklonost samozadovoljstvu pokazuje kako nam
koncentracija i budnost lako izblijede kad ih rutinski ne upotrebljavamo u
interakciji s okolišem. Naša podloţnost pristranostima pri ocjenjivanju i
pridavanju teţine informacijama pokazuje da je ţarište paţnje našega uma
selektivno, i lako ga je zavesti neprimjerenim povjerenjem pa čak i
prikazivanjem naizgled korisnih naputaka. I samozadovoljstvo i pristranost
imaju tendenciju pogoršanja koje nastupa s poboljšanjem kvalitete i
pouzdanosti automatiziranog sustava.114 Pokusi pokazuju da ostajemo u
stanju visoke pozornosti kad sustav prilično često proizvodi greške. Tada
zadrţavamo svjesnost o onom što nas okruţuje i paţljivo pratimo
informacije iz različitih izvora. Ali kad je sustav pouzdaniji, kad se kvari ili
griješi samo povremeno, mi se ulijenimo. Počnemo pretpostavljati da je
sustav nepogrešiv.
Budući da automatski sustavi obično dobro rade i onda kad smo
smanjeno svjesni ili objektivni, rijetko budemo kaţnjeni zbog svog
samozadovoljstva ili pristranosti.. Time se problemi samo nagomilavaju
kako je istaknuo Parasuraman u članku 2010., u koautorstvu sa svojim
njemačkim kolegom Dietrichom Manzeyem. “Imajući u vidu obično veliku
pouzdanost automatiziranih sustava, čak i izrazito samozadovoljno i
pristrano ponašanje operatera rijetko dovodi do očitih posljedica”, pišu
znanstvenici. Nedostatak negativnih povratnih informacija s vremenom
moţe potaknuti “kognitivni proces koji podsjeća na ono što nazivamo
“naučena nebriga”.115 Sjetite se kako vam je voziti auto kad ste pospani.
Ako zadrijemate i izaĎete iz svoje trake, obično ćete naletjeti na tvrdo rame
suvozača, ili zapeti za zemlju pokraj ceste, ili će vam drugi vozači ljubazno
potrubiti - što će vas vrlo uspješno razbuditi. Ako ste u automobilu koji vas
automatski drţi u traci prateći oznake na kolniku i podešavajući volan,
takvih upozorenja neće biti. Past ćete u dublji san. Ako se tada dogodi
nešto neočekivano - ako na cestu, recimo, dotrči neka ţivotinja, li se pred
vama zaustavi automobil - puno je vjerojatnije da ćete doţivjeti nesreću.
Izolirajući nas od negativnih povratnih informacija, automatizacija nam
oteţava da budemo prisebni i pozorni. Isključujemo se još i više.

Lijeni um
Naša podloţnost samozadovoljstvu i pristranosti objašnjava kako nas
oslanjanje na automatizaciju moţe navesti na greške, i činjenjem i
nečinjenjem. Tada prihvaćamo informacije za koje se pokaţe da su netočne
i nepotpune, te postupamo u skladu s njima ili ne vidimo ono što bismo
trebali vidjeti. Ali način na koji nam oslanjanje na računala oslabljuje
budnost i pozornost ukazuje i na jedan mračniji problem. Automatizacija
nas od djelatnih osoba pretvara u promatrače. Umjesto da baratamo
pilotskom palicom, mi gledamo u ekran. Time nam ţivot moţda postaje
lakši, ali isti se pomak moţe dogoditi i s našom sposobnošću da učimo i
razumijemo svoja znanja i vještine. Bilo da automatizacija poboljšava ili
pogoršava našu uspješnost u nekoj konkretnoj zadaći, na dugi rok ona nam
moţe oslabiti umješnost, ili zbog nje ne uspijevamo stjecati nova znanja.
Još od kraja 1970-ih godina kognitivni psiholozi dokumentiraju
pojavu zvanu učinak generiranja. Prvi je put uočena u istraţivanju
vokabulara, u kojem se pokazalo da ljudi puno bolje pamte riječi kad ih
sami aktivno prizovu u mišljenje - kad ih generiraju - nego kad ih
pročitaju. U jednom od prvih i najpoznatijih takvih eksperimenata, koje je
proveo psiholog Norman Slamecka sa Sveučilišta u Torontu, ispitanici su
trebali pamtiti parove pojmova suprotnih značenja koristeći se zapisima na
pomoćnim karticama. Jedni su ispitanici dobili kartice na kojima su bile
ispisane obje riječi:
VRUĆE:HLADNO
Drugi su pak dobili kartice na kojima je stajalo samo prvo slovo
druge riječi, to jest:
VRUĆE:H
Oni koji su dobili kartice na kojima su nedostajala slova bili su
mnogo uspješniji na idućem testu, kojima se mjerilo koliko je parova riječi
upamtio. Samo time što su bili prisiljeni u glavi popunjavati praznine,
djelovati a ne opaţati, postignuto je bolje zadrţavanje informacija.116
Do danas je postalo jasno da učinak generiranja utječe na učenje i
pamćenje u mnogo različitih okolnosti. Eksperimenti su taj učinak dokazali
ne samo u zadaćama pamćenja riječi i slova nego i kod pamćenja brojeva,
slika i zvukova; dovršavanja rješenja matematičkih problema; odgovaranja
na pitanja poput onih iz kvizova o trivijalnim znanjima, te kod čitanja s
razumijevanjem. Novija su istraţivanja, nadalje, demonstrirala korist od
učinka generiranja i u zahtjevnijim oblicima učenja i poučavanja. U
jednom se članku objavljenom 2011. u časopisu Science pokazalo da su
učenici koji su u zadanom razdoblju učili o nekoj sloţenoj temi iz znanosti
a zatim su proveli neko vrijeme prisjećajući se toga bez pomoći, bolje
naučili gradivo nego učenici koji su četiri puta zaredom ponavljali period
učenja istog gradiva.117 Mentalni čin generiranja u čovjeku uvećava
sposobnost izvoĎenja aktivnosti koje, kako je napisala istraţivačica
edukacije Britte Haugan Cheng, “zahtijevaju pojmovno mišljenje i
preduvjet im je dublja kognitivna obrada”.
Štoviše, kaţe Cheng, čini se da učinak generiranja biva to jači što je
tema koju um generira sloţenija.118
Psiholozi i neuroznanstvenici još uvijek samo pokušavaju dokučiti
uslijed čega točno u našemu umu dolazi do učinka generiranja. No, jasno je
da su u to uključeni duboki kognitivni i memorijski procesi. Kad se oko
nečega jako potrudimo, kad nam to postane ţarište paţnje i truda, naš nas
um nagraĎuje boljim razumijevanjem. Pamtimo više, učimo bolje. S
vremenom, stječemo umijeće, taj osobit dar za točno, stručno i svrhovito
djelovanje u svijetu. Nije to neko iznenaĎenje. Veći nas znade da je jedini
način da u nečemu budemo dobri taj da se time zaista i bavimo. Lako je
samo prikupljati podatke s ekrana računala - ili iz knjige, kad smo već kod
toga. No, istinsko znanje, osobito ono koje nam se duboko ugraĎuje u
sjećanje i manifestira se u vještini, teţe se stječe. Za njega je potreban ţivlji
i dulji angaţman na nekoj zahtjevnoj zadaći.
Australski psiholozi Simon Farrell i Stephen Lewandowsky u svom
su članku objavljenom 2000. pronašli vezu izmeĎu automatizacije i učinka
generiranja. NavoĎenje drugog dijela para antonima u Slameckinom
pokusu (umjesto da se ispitanika prisili da sam prizove odgovarajuću riječ
u sjećanje) “moţe se smatrati činom automatizacije jer se time čovjekova
aktivnost - generiranje riječi „hladno‟ - preduhitruje podraţajem otisnute
riječi”. Ako to dalje proširimo, “pad uspješnosti uočen kad se generiranje
zamijeni čitanjem moţe se smatrati manifestacijom samozadovoljstva
[automatizacijom]”.119 To nam pomaţe rasvijetliti kognitivne troškove
automatizacije. Čini se da mentalni procesi nisu isti kad neku zadaću ili
posao obavljamo sami i kad se oslanjamo na pomoć računala. Kada softver
smanjuje naš angaţman u poslu, a osobito kad nas gura u pasivniju ulogu
promatrača, time zaobilazimo dubinsku spoznajnu obradu koja stoji u
podlozi učinka generiranja. Posljedica je narušavanje naše sposobnosti
zadobivanja one vrste bogatoga znanja o stvarnom svijetu na temelju koje
postiţemo umijeće. Učinak generiranja zahtijeva upravo onakav trud kakav
se automatizacijom nastoji umanjiti.
Christoph van Nimwegen, kognitivni psiholog sa Sveučilišta u
Utrechtu, 2004. je godine započeo niz jednostavnih ali veoma djelotvornih
pokusa kojima je htio istraţiti učinke softvera na stvaranje sjećanja i razvoj
stručnosti.120 Angaţirao je dvije skupine ljudi i dao im je da igraju
računalnu igru koja se temeljila na klasičnom logičkom problemu
misionara i kanibala. Igrač je, dakle, morao čamcem prevesti preko rijeke
pet misionara i pet kanibala (odnosno, u van Nimwegenovoj verziji, pet
ţutih kuglica i pet plavih kuglica), s tim da u čamac ne stane više od tri
putnika. Problem je u tome što ni u kojem trenutku na jednom mjestu ne
smije biti više kanibala nego misionara, bilo u čamcu bilo na obali. (Po
pretpostavci, misionari bi završili kao ručak kanibalima ako ih ovi brojčano
nadvladaju.) Da bi se domislilo kakvim se nizom prelazaka rijeke taj
zadatak najuspješnije obavlja, potrebni su jasna analiza i paţljivo
planiranje.
Jedna od Nimwegenovih skupina taj je zadatak rješavala koristeći se
softverom koji im je nudio pomoć u postupku: pokazivao je, na primjer,
koji su potezi dopušteni a koji nisu. Druga se skupina sluţila
jednostavnijim programom koji nije nudio nikakvu pomoć. Kako biste i
očekivali, oni koji su imali program koji nudi pomoć u početku su brţe
napredovali. Samo su pratili pokazivač, umjesto da se prije svakog poteza
prisjete pravila i dokuče kako su ona primjenjiva na novu situaciju. No,
kako je igra napredovala, briljirati su počeli igrači koji su se sluţili
jednostavnijim softverom. U svom je izvještaju o rezultatima pokusa van
Nimwegen zaključio da su ispitanici koji su imali jednostavniji program
razvili jasnije konceptualno razumijevanje te zadaće. Bilo im je lakše
misliti unaprijed i planirati uspješnu strategiju. Oni koji su se oslanjali na
upute softvera, naprotiv, često bi se zbunili i počeli “besciljno klikati po
ekranu”.
Kognitivna naplata koju donosi pomoćni softver postala je još
jasnijom osam mjeseci poslije, kad je vam Nimwegen istim ljudima zadao
da ponovno rješavaju zadatak. Oni koji su se prije sluţili jednostavnijim
programom završili su igru gotovo dvostruko brţe od svojih suparnika.
Ispitanici s jednostavnijim programom, piše on, pokazali su “više
usredotočenosti” u rješavanju zadatka. Van Nimwegen i neki od njegovih
kolega iz Utrechta nastavili su se baviti tom temom i proveli su više
eksperimenata s realističnijim zadacima, primjerice s uporabom
softverskog kalendara za planiranje sastanaka, te softvera za organizaciju
skupova koji pomaţe pri izradi razmještaja sudionika konferencije.
Rezultati su bili isti. Ljudi koji su se oslanjali na ono što im sugerira
softver bili su lošiji u strateškom mišljenju, činili su više suvišnih koraka i
na koju su završili sa slabijim konceptualnim razumijevanjem zadatka. Oni
koji su se sluţili programom koji ne nudi pomoć planirali su bolje, radili
pametnije, i naučili više.121
Ono što je van Nimwegen uočio u laboratoriju - da, kad
automatiziramo zadatke kakav je rješavanje problema, radimo na štetu
sposobnosti uma da prevodi informacije u znanja i znanja u umijeća -
dokumentirao je i u stvarnom svijetu. U mnogim se djelatnostima
menadţeri i drugi stručnjaci oslanjaju na takozvane ekspertne sustave, uz
čiju pomoć razvrstavaju i analiziraju informacije i koji im sugeriraju
daljnje postupke. RačunovoĎe, primjerice, u korporativnoj reviziji rabe
softver za potporu u odlučivanju. Takvi programi ubrzavaju rad, no ima
znakova koji ukazuju na to da, što su ti programi moćniji, računovoĎe
postaju slabiji. Jedno istraţivanje, koji je provela skupina australskih
profesora, bavilo se učincima ekspertnih sustava u trima meĎunarodnim
računovodstvenim tvrtkama. Dvije su koristile napredni program koji je na
osnovi računovoĎinih odgovora na osnovna pitanja o klijentu preporučivao
skup relevantnih poslovnih rizika koje valja uvrstiti u revizorski izvještaj.
Treća se tvrtka koristila jednostavnijim programom koji nudi popis
mogućih rizika ali zahtijeva od računovoĎe da ih pregleda i samostalno
odabere relevantne, te ih uvrsti u izvještaj. Znanstvenici su testirali
računovoĎe sve tri tvrtke u njihovu poznavanju rizika u djelatnostima za
koje su radile revizije. Oni iz tvrtke s manje usluţnim softverom iskazali su
značajno bolje razumijevanje različitih oblika rizika u odnosu na svoje
kolege iz druge dvije tvrtke. Pad učenosti povezan s naprednim softverom
zahvatio je čak i veterane, revizore s više od pet godina iskustva u tvrtci.122
Druga istraţivanja ekspertnih sustava otkrivaju slične učinke.
Pokazalo se da programi za potporu u odlučivanju kratkoročno mogu
pomoći analitičarima početnicima da donose bolje prosudbe, ali ih mogu
učiniti i mentalno lijenima. Slabeći im intenzitet razmišljanja, takav im
softver umanjuje sposobnost ugraĎivanja informacija u pamćenje, i stoga
će oni manje vjerojatno razviti bogato prešutno znanje koje je bit svake
prave ekspertize.123 Negativne strane automatiziranih sustava za pomoć u
odlučivanju moţda su suptilne ali imaju vrlo realne posljedice, osobito u
onim područjima u kojima analitičke pogreške imaju dalekoseţne
posljedice. Pogrešno proračunavanje rizika, zaoštreno programima za brzo
kompjuterizirano burzovno trgovanje, imalo je golemu ulogu u krahu do
kojega je gotovo došlo na svjetskim financijskim trţištima 2008. godine.
Profesor menadţmenta sa Sveučilišta Tufts Amar Bhide smatra da su
“robotske metode” odlučivanja dovele do veoma raširenog “deficita u
odlučivanju” meĎu bankarima i drugim profesionalcima s Wall Streeta.124
Iako moţda jest nemoguće precizno reći u kojoj je mjeri automatizacija
pridonijela nekoj katastrofi, ili nastanku fijaska poput “munjevite propasti”
na burzama SAD-a 2010., čini se mudrim ozbiljno shvatiti svaku indikaciju
da neka široko rasprostranjena tehnologija potencijalno šteti znanjima ili
sposobnostima zaključivanja ljudi na osjetljivim poslovima. U svom su
članku iz 2013. informatičari Gordon Baxter i John Cartlidge upozorili da
oslanjanje na automatiku erodira znanja i vještine financijskih stručnjaka,
dok sustavi za računalno trgovanje vrijednosnicama istodobno čine
financijska trţišta riskantnijima.125
Pojedini se programeri zabrinjavaju da olako ublaţavanje napora u
programiranju uzima danak i njihovoj vještini. Danas se programeri kao
pomoći u pisanju sluţe softverom zvanim “integrirana razvojna okolina” ili
IDE. Takve aplikacije automatiziraju mnoge pipave ili vremenski
zahtjevne a rutinske postupke. Najčešće je riječ o automatskom
dovršavanju riječi ili izraza, o automatskoj korekturi pisanja, te o pomoći u
prepoznavanju logičkih pogrešaka, dok one sofisticiranije analiziraju
strukturu programa i nude moguće izmjene kroz takozvani “refactoring”
programskog koda. No, kako aplikacije na sebe preuzimaju posao pisanja
programa, programeri gube priliku za vjeţbanje i njegovanje svoga
umijeća. “Suvremeni IDE katkad bude toliko „usluţan da se povremeno
osjećam kao operater IDE-a a ne kao programer”, piše Vivek Halder,
veteran programiranja u Googleu. “Ponašanje koje svi ti alati potiču nije
„dobro promisli o svom kodu i paţljivo ga piši‟ nego „samo naţvrljaj nešto
traljavo i alat će ti reći ne samo što ne valja nego i kako to popraviti?‟
Njegova presuda glasi: “britak alat, tupav um”.126
U Googleu priznaju da su taj učinak otupljivanja čak uočili meĎu
općom publikom, kad su svoj pretraţivao činili responzivnijim i
podrobnijim u predviĎanju naših upita. Google nam ispravlja pogreške u
tipkanju, ali i sugerira nam sadrţaj upita još dok tipkamo, raspliće
semantičke nejasnoće naših formulacija i anticipira naše potrebe na temelju
toga gdje se nalazimo i kako smo se dosad ponašali. Pretpostavili bismo da
ćemo, kako Google postaje sve bolji pomagač u pretraţivanju, i mi učiti na
njegovom primjeru. Ključne riječi birat ćemo vještije, i na druge načine
brusiti svoje tragalačke sposobnosti. No, dogaĎa se suprotno, tvrdi glavni
istraţivač pretraţivanja Amit Singhal. Jedan je izvjestitelj londonskog lista
Observer 2013. godine razgovarao sa Singhalom o mnoštvu poboljšanja što
ih je Google s godinama uvodio u svoj pretraţivač. “Pretpostavljam”,
natuknuo je novinar, “da smo sluţeći se Googleom postali precizniji u
pretraţivanju”. Singhal je na to uzdahnuo i “pomalo umorno” ispravio
svog sugovornika: “Zapravo ne, naprotiv. Što je stroj točniji, pitanja su
manje promišljena”127 Moguće je, štoviše, da usavršenost pretraţivača
negativno djeluje i šire nego samo na naše sposobnosti formuliranja
sofisticiranih upita. Niz eksperimenata o kojima j 2011. izvijestio časopis
Science ukazuje na to da nam lakoća dostupnosti informacija na Internetu
oslabljuje sposobnosti pamćenja činjenica. U jednom su od tih pokusa
ispitanici čitali nekoliko desetaka jednostavnih, istinitih izjava - na primjer,
“u noja je veće oko nego mozak” - i pritom su ih trebali utipkati u računalo.
Polovici ispitanika rečeno je da će računalo pohraniti to što utipkaju;
drugoj je polovici rečeno da se sve briše. Zatim su svi ispitanici trebali
ispisati sve izjave kojih se sjećaju. Oni koji su vjerovali da se informacije
pohranjuju u računalu, upamtili su značajno manje činjenica nego oni koji
su pretpostavljali da se brišu. Već i samo to što znamo da će informacije
biti dostupne u nekoj bazi podataka, kao da smanjuje, vjerojatnost da će se
naš mozak potruditi formirati sjećanje. “Budući da su nam pretraţivači
kontinuirano dostupni, moguće je da smo često u takvom stanju u kojem ne
osjećamo da moramo interno pohranjivati podatke”, zaključuju istraţivači.
“Kad nam bude trebalo, potraţit ćemo ih.”128
Ljudi su tisućljećima nadomještali svoje biološko pamćenje
tehnologijama pohrane, od svitaka i knjiga do mikrofiša i magnetske trake.
Sredstva za zapisivanje i distribuiranje informacija temelj su civilizacije.
No, vanjska pohrana i biološko pamćenje nisu ista stvar. Znanje nije samo
pronalaţenje podataka; da bismo nešto znali, činjenice i dogaĎaje je nuţno
pohraniti u vlastito pamćenje. Istinsko znanje u nečemu podrazumijeva da
smo to prepleli u našem ţivčanom sklopovlju, i potom to znanje višekratno
upotrijebili i prisjetili ga se. S pretraţivačima i drugim mreţnim resursima
za pohranu i dohvat informacija, automatizirali smo neusporedivo više
nego ikad prije. U nekim pogledima, naizgled uroĎena sklonost našega
mozga da si olakša ili eksternalizira posao prisjećanja čini naše mišljenje
djelotvornijim. Činjenice koje smo smetnuli s uma brzo i lako pronalazimo.
No, ista ta sklonost postaje patološka kad zbog automatizacije umnog rada
i suviše lako izbjegavamo rad prisjećanja i zaboravljanja.
Naravno, posao se Googlea i drugih softverskih tvrtki sastoji u tome
da nam olakšaju ţivot. To je ono što od njih traţimo, i zbog toga smo im
lojalni. No, njihovi programi sve doraĎenije misle umjesto nas i mi se tada
prirodno pomalo i sve više oslanjamo na softver a sve manje na vlastitu
pamet. Postaje sve manje vjerojatno da ćemo si tjerati um da obavlja posao
generiranja. A to završava tako da na kraju sve slabije učimo i sve manje
znamo. Postajemo nesposobniji. Kao što o današnjem softveru kaţe i
profesor računarstva sa Sveučilišta Texas, Mihai Nadin: “Što sučelje više
zamjenjuje ljudski trud, to će se korisnik manje dobro prilagoĎavati novim
situacijama.”129 Učinak generiranja računalna automatizacija zamjenjuje
njegovom suprotnošću: učinkom degeneriranja.
 Mišljenje na djelu
Dopustite mi da vas pozovem da još jednom obratite paţnju na onaj
zlosretni Subaru boje ţute kabanice s ručnim mjenjačem brzina. Kako se
sjećate, nakon samo par tjedana vjeţbe od nesretnog sam brusača
prijenosnih zupčanika postao umjereno vrstan majstor na mjenjaču. Pokreti
ruku i nogu kojima me tata poučio (u glavnim crtama), sada su mi se činili
instruktivnijima. Nije baš da sam bio stručnjak, ali svaka promjena brzine
više mi nije predstavljala ni borbu. Izvodio sam to bez razmišljanja: postalo
mi je ... automatski.
To mi moje iskustvo daje model za to kako ljudska bića stječu
komplicirane vještine. Često krenemo s nekom osnovnom podukom, koju
dobivamo izravno od učitelja ili mentora, ili pak neizravno iz knjige,
priručnika ili video-snimke s YouTubea, čime se u našu svijest prenosi
eksplicitno znanje o tome kako izvesti neku zadaću: učini to, pa to, pa to.
Tako je postupio moj otac kad mi je pokazivao gdje je koja brzina i
objašnjavao kada pritisnuti spojku. Kao što sam ubrzo saznao, eksplicitno
znanje na tome i staje, osobito kad zadaća ima i psihomotoričku sastavnicu,
a ne samo spoznajnu. Da biste njome ovladali, morate razviti i prešutna
znanja, a ona se stječu jedino stvarnim doţivljajima - višekratnim
činjenjem i uvjeţbavanjem. Što ste uvjeţbaniji manje ćete morati
razmišljati o tome što radite. Odgovornost za ono što radite premješta vam
se iz svjesnog uma na nesvjesni, brz i fluidan. Pritom si svjesni um
oslobaĎate za bavljenje suptilnijim aspektima te vještine, pa kad vam i oni
postanu automatski idete još dalje. Ustrajete, trudite se i na kraju - pod
pretpostavkom da ste prirodno sposobni za tu zadaću - stiţe nagrada
stručnosti.
Taj se proces kojim ste se izvještili, i kojim se vaš dar realizira bez
svjesnog razmišljanja nesklapno se naziva automatiziranje, ili još ruţnije
proceduralizacija. Pri automatiziranju dolazi do dubokih i rasprostranjenih
promjena i prilagodbi u mozgu. Neke se stanice u mozgu, neuroni,
specijaliziraju za tu zadaću, i usklaĎuju se putem elektrokemijskih veza
koje pruţaju sinapse. Kognitivni psiholog Gary Marcus sa Sveučilišta New
York nudi podrobnije objašnjenje: “Na razini ţivčanih stanica,
proceduralizacija se sastoji od cijelog dijapazona podrobno koordiniranih
procesa, uz ostalo i promjena kako sive moţdane tvari (tijela ţivčanih
stanica) tako i bijele moţdane tvari (aksona i dendrita kojima se ţivčane
stanice povezuju). Postojeće ţivčane veze (sinapse) treba učiniti
djelotvornijima, treba stvoriti nove dendritičke trnove, sintetizirati nove
bjelančevine”130 Kroz ţivčane promjene automatiziranje mozak stvara
automatičnost, sposobnost za brzu, nesvjesnu percepciju, interpretaciju i
akciju, što umu i tijelu omogućuje trenutačno prepoznavanje obrazaca i
reagiranje na promjene okolnosti.
Sve smo mi doţivjeli automatiziranje i postigli automatičnost kad
smo naučili čitati. Promatrajte dijete dok uči čitati i svjedočit ćete
tegobnom mentalnom naporu. Dijete prvo mora proučiti oblik svakog
slova kako bi ih znalo raspoznavati. Mora razumjeti kako se zvuk niza
slova slaţe u oblik sloga i kako se niz slogova slaţe u riječ. Ako mu ta riječ
nije poznata, dijete će je morati nastojati shvatiti, ili će ga netko morati
poučiti što znači. A zatim će, riječ po riječ, morati protumačiti značenje
rečenice, pri čemu će često morati raspletati nejasnoće koje jezik nuţno
sadrţi. To je spor i teţak proces, koji zahtijeva punu paţnju svjesnog uma.
No, na kraju se slova a onda i riječi zabiljeţe u neuronima vidnog dijela
moţdane kore - područje mozga koje obraĎuje osjet vida - i mladi čitatelj i
čitateljica ih počinju prepoznavati a da o tome ne moraju svjesno
razmišljati. Kroz simfoniju moţdanih mijena, počinjemo čitati s lakoćom.
Što veću automatičnost dijete postigne, čitanje će mu biti brţe i bolje.131
Bilo da je riječ o Wileyu Postu u kokpitu, Sereni Williams na
teniskom terenu ili o Magnusu Carlsenu za šahovskom pločom, taj
onosvjetski dar virtuoznosti izvire iz automatičnosti. To moţda izgleda kao
nagon, ali riječ je o umijeću koje smo stekli velikim trudom. Do takvih
promjena u mozgu ne dolazi pasivnim promatranjem. One nastaju tijekom
višekratnih sučeljavanja s nečim neočekivanim. Za to je potrebno, kako
piše filozof uma Hubert Dreyfus, “iskustvo u mnoštvu različitih situacija,
na koje gledamo iz iste perspektive ali koje zahtijevaju zasebne taktičke
odluke”.132 Bez puno prakse, puno ponavljanja i uvjeţbavanja te vještine u
različitim okolnostima, vi i vaš mozak nikad nećete postati zaista dobri ni u
čemu, ako je riječ o nečem kompliciranom. A ako ste i postigli neko
umijeće, ono će ubrzo zakrţljati bez kontinuirane prakse.
Danas je popularno reći da je za sve potrebna samo vjeţba. Bavite se
nečime desetak tisuća sati i postat ćete blagoslovljeni stručnošću - postat
ćete novi veliki kuhar tjestenine ili slavno lijevo krilo. Na nesreću, to je
pretjerivanje. Genske odlike, i fizičke i intelektualne, imaju vaţnu ulogu u
razvoju nove vještine, osobito na najvišim razinama. Čak i naša ţelja i
spremnost na vjeţbu imaju svoju gensku sastavnicu: “To, kako iskustvo
djeluje na nas pa i to kakva iskustva traţimo, takoĎer je djelomično
funkcija gena s kojima se raĎamo”.133 No, ako geni bar ugrubo postavljaju
gornju granicu nekog individualnog dara, svatko će jedino vjeţbom moći
dosegnuti te granice i ispuniti svoj potencijal. A iako uroĎene sposobnosti
čine veliku razliku, pišu profesori psihologije David Hambrich i Elizabeth
Meinz, “istraţivanja ne ostavljaju mjesta sumnji da je jedan od najvećih
izvora individualnih razlika u uspješnosti u sloţenim zadacima jednostavno
to koliko i što tko zna: deklarativno, proceduralno i strateško znanje
skupljeno kroz godine vjeţbe i prakse u nekom području.”134
Automatičnost se, jasno je već iz naziva, moţe smatrati nekom
vrstom pounutrenog automatiziranja. To je način na koji tijelo čini teţak ali
repetitivan posao rutinskim. Fizički pokreti i postupci postaju
programiranima u mišićnom pamćenju; tumačenja i prosudbe donose se
trenutačnim prepoznavanjem obrazaca u okolišu (dobivenih osjetilima).
Svjesnije um, kako su znanstvenici odavno otkrili, iznenaĎujuće skučen, i
njegove su sposobnosti prihvata i obrade informacija ograničene. Da nije
automatičnosti, naša bi svjesnost bila vječno preopterećena. Čak i vrlo
jednostavni postupci, kakav je čitanje rečenice u knjizi ili rezanje odreska
noţem i viljuškom, naprezali bi naše spoznajne sposobnosti. Automatičnost
nam otvara više manevarskog prostora. Njome uvećavamo, da malo
preokrenemo primjedbu Alfreda Northa Whiteheada, “broj vaţnih
postupaka koje moţemo izvoditi a da o njima ne razmišljamo”.
Alati i druge tehnologije, u najsretnijem slučaju, čine nešto slično, i
Whitehead je to uviĎao. I kapacitet mozga za automatičnost ima svoje
granice. Naš nesvjesni um moţe izvesti mnogo funkcija brzo i efikasno, ali
ne moţe sve. Moţda moţete uspjeti upamtiti tablicu mnoţenja do dvanaest
ili dvadeset, ali vjerojatno će vam biti teško doći puno dalje. I ako vam ne
popusti pamćenje, popustit će vam strpljenje. Običnim dţepnim
kalkulatorom, meĎutim, moţete automatizirati čak i vrlo komplicirane
matematičke postupke, kakvi bi vam prenaprezali mozak bez pomoćnih
sredstava, a oslobodit ćete si i svjesni um za razmišljanje o tome što sa
svom tom matematikom. No, sve to funkcionira jedino ako ste već
savladali osnove aritmetike, učenjem i vjeţbom. Ako se kalkulatorom
sluţite da biste izbjegli učenje, da biste izvodili postupke koje niste naučili
ili ih ne razumijete, vaš vam alat neće proširiti obzore. Neće vam pomoći u
stjecanju novih matematičkih znanja i vještina. Bit će to samo crna kutija,
misteriozni mehanizam za proizvodnju brojeva. Bit će prepreka, a ne
poticaj višem mišljenju.
Računalna automatika danas, meĎutim, često dovodi upravo do toga,
i zato Whiteheadova primjedba sada zavodi na pogrešan put kad je riječ o
posljedicama tehnologije. Umjesto da proširuje sposobnosti automatičnosti
mozga, automatika i prečesto sputava automatičnost. Izbavljujući nas od
repetitivne mentalne vjeţbe, ona nas izbavljuje i od dubinskog učenja. I
samozadovoljstvo i pristranost simptomi su uma koji pred sobom nema
izazova, koji nije posve angaţiran praksom u realnom svijetu koja pak
dovodi do generiranja znanja, obogaćuje pamćenje i gradi vještinu.
Problem je to teţi time što nas računalni sustavi udaljavaju od izravne i
trenutačne povratne veze s našim postupcima. Kako ističe K. Anders
Ericsson, stručnjak za razvoj vještina, bit izgradnje svake vještine je
redovita povratna veza. Ona nam omogućuje da učimo na svojim
uspjesima i pogreškama. “U odsutnosti adekvatne povratne veze”,
objašnjava Ericsson, “učinkovito je učenje nemoguće a napredak tek
minimalan čak i kod izrazito motiviranih ispitanika”.135
Automatičnost, generiranje, tok: ti su mentalni fenomeni različiti,
komplicirani su i njihovo biološko ustrojstvo nam je tek mutno poznato.
No, oni jesu povezani, i nešto nam vaţno govore o nama. One vrste truda
koje dovode do dara u nečemu - a svojstveni su im izazovnost zadaće,
jasan cilj i izravna povratna veza - vrlo su slične onima koje nam daju
osjećaj toka. Sve su to doţivljaji u koje uranjamo. Svi se odnose na poslove
koji nas tjeraju na to da aktivno generiramo znanje a ne da samo pasivno
unosimo informacije. Njegovanje vještine, uvećavanje razumijevanja i
postizanje osobnog zadovoljstva i ispunjenosti, sve to ima svoju ulogu. I
sve zahtijeva čvrste veze, i fizičke i mentalne, izmeĎu pojedinaca i svijeta.
Za sve je potrebno, da citiram američkog filozofa Roberta Talissea,
“zasukati rukave i dodirnuti svijet, pa pustiti svijet da na neki način
uzvrati”.136 Automatičnost je zapis što ga svijet ostavlja u aktivnom umu i
u aktivnom ja. Vještina je dokaz bogatstva toga zapisa.
Od slobodnih penjača na stijene do pijanista, objašnjava Mihaly
Csikszentmihalyi, ljudi koji “rutinski nalaze zadovoljstvo u nekoj
aktivnosti ilustriraju kako organizirani skup izazova i odgovarajući skup
vještina dovode do optimalnog doţivljaja”. Poslovi ili hobiji kojima se
takvi ljudi bave “nude obilje mogućnosti djelovanja”, a vještine koje tako
razvijaju omogućuju im da najpotpunije iskoriste te prigode. Mogućnost
samosvjesnog djelovanja u svijetu sve nas pretvara u umjetnike. “Onoj
lakoći prianjanja poslu kakvu doţivljava iskusan umjetnik dok radi na
nečemu zahtjevnom, prethodi ovladavanje sloţenim gradivom vještina.”137
Kad nas automatizacija udalji od našega posla, kad se uplete izmeĎu nas i
svijeta, iz našeg ţivota ona tada briše umjetnost.
 Interludij o miševima koji plešu

“Od 1903. sam godine do danas u kontinuitetu promatrao izmeĎu dvoje i

stotinu miševa koji plešu” To priznaje harvardski psiholog Robert M.
Yerkes u početnom poglavlju svoje knjige Miš koji pleše iz 1907., u kojoj
je na 290 stranica opjevao jednog - glodavca. Miš koji pleše, predviĎa
Yerkes, pokazat će se onoliko vaţnim za bihevioriste koliko je za anatome
bila ţaba.
Kad je mjesni kembrički liječnik Harvardskom psihološkom
laboratoriju na dar donio par japanskih miševa koji plešu, Yerkes nije bio
oduševljen. Činilo se da je to “nevaţna zgoda mog znanstvenog rada”.
Ubrzo su ga, meĎutim, opčinila ta sićušna bića i njihov običaj da
“nevjerojatnom brzinom jure oko jednog te istog mjesta”. Uzgojio ih je
cijelo mnoštvo; svakome je dodijelio broj i u dnevnik je za svakoga
paţljivo biljeţio svojstvene oznake, spol, datum roĎenja i rodoslov. Miš
koji pleše bio je “ţivotinja vrijedna divljenja”: manji i slabiji od prosječnog
miša, jedva se uspijevao drţati u uspravnom poloţaju i “uhvatiti za kakav
predmet” - no, pokazao se “idealnim ispitanikom za eksperimentalna
istraţivanja mnogih pitanja o ponašanju ţivotinja”. Za tu se vrstu bilo “lako
skrbiti, bilo ih je lako pripitomiti, bili su bezopasni i neumorno aktivni, i
zadovoljavajuće su pristajali na velik broj eksperimentalnih postupaka”.138
Upotreba ţivotinja u psihološkim istraţivanjima u to je vrijeme još
bila novost. Ivan Pavlov tek je bio počeo sa svojim eksperimentima 1890-
ih, a američki postdiplomac Willard Small tek je 1900. godine ubacio
štakora u labirint i promatrao ga kako trčkara. Sa svojim je miševima koji
plešu Yerkes silno proširio opseg istraţivanja na ţivotinjama. Kao što se
vidi iz knjige Miš koji pleše, ti su mu glodavci posluţili kao ispitne
ţivotinje u istraţivanju, meĎu ostalim, osjećaja za ravnoteţu i odrţavanja
ravnoteţe, vida i percepcije, učenja i pamćenja, te nasljednosti
bihevioralnih značajki. Miševi su sami “tjerali na eksperimentiranje”,
izvještava Yerkes. “Što sam ih više promatrao i s njima eksperimentirao, to
su brojniji postajali problemi za koje su mi nudili rješenja moji plesači.”139
Početkom 1906. Yerkes je krenuo sa, ispostavit će se, svojim
najvaţnijim i najutjecajnijim pokusima s plesačima. U suradnji s Johnom
Dillinghamom Dodsonom, četrdesetak je miševa jednog po jednog stavio u
drvenu kutiju. Na jednom su kraju kutije bila dva prolaza, jedan bijel a
drugi crn. Ako bi miš pokušao ući u crni prolaz, dobio bi, kako su Yerkes i
Dodson poslije napisali, “neugodan strujni šok”. Intenzitet elektrošoka su
varirali: neki su miševi dobili blagi udar, neki jaki, a neki umjereni.
Istraţivači su htjeli saznati hoće li jakost podraţaja utjecati na brzinu s
kojom miševi uče izbjegavati crni prolaz i ulaziti u bijeli. Odgovor su
dobili, i iznenadili su se. Miševi koji su primali slabe elektrošokove
relativno su sporo uočavali razliku izmeĎu crnog i bijelog prolaza, što bi se
i očekivalo. No, miševi koji su primali jake šokove učili su jednako sporo.
Svoj su poloţaj najbrţe shvaćali i ponašanje mijenjali oni koji su primali
umjereno jake elektrošokove. “Suprotno našim očekivanjima”, izjavili su
znanstvenici, “taj skup pokusa nije dokazao da se brzina formiranja navika
povećava s povećanjem jakosti električnog podraţaja, ako nisu toliko jaki
da bi im naudili. Ne: pokazalo se da je umjereni raspon jakosti stimulacije
najpovoljniji za stjecanje navike.”140
Sljedeći je niz ispitivanja donio još jedno iznenaĎenje. Novu skupinu
miševa znanstvenici su upregli u isti postupak, ali su ovaj put jače
osvijetlili bijeli prolaz a zamračili crni, čime su povećali vizualni kontrast
meĎu njima. U tim su uvjetima miševi koji su dobivali najjače
elektrošokove najbrţe naučili izbjegavati crni prolaz. Sada brzina učenja
nije opadala s jakosti udara, kao u prvom pokusu. Yerkes i Dodson su tu
razliku u ponašanju glodavaca pratili do činjenice da je ustroj pokusa
ţivotinjama olakšao posao. Zahvaljujući jačem vizualnom kontrastu miševi
su morali manje razmišljati kako bi razlučili crni od bijelog prolaza, i
povezali šok s crnim. “Odnos jakosti električnog podraţaja i brzine učenja
ili formiranja navike ovisi o teţini ciljne navike”, objašnjavaju oni.141 Kako
zadaća postaje teţa, optimalna se jakost podraţaja smanjuje. Drugim
riječima, kad se miš suočava sa zaista velikim izazovom, i neobično blag i
neobično jak podraţaj mu oteţavaju učenje. Pomalo nalik efektu
Zlatokose, umjereni je podraţaj poticao na najbolji uspjeh.
Od 1908. godine, kada je objavljen, članak “Odnos jakosti podraţaja
i brzine formiranja navike” postao je općeprepoznat kao jedan od temeljnih
radova u povijesti psihologije. Fenomen što su ga otkrili, danas poznat kao
Yerkes-Dodsonov zakon, uočen je u puno širem rasponu okolnosti i djeluje
i kod ljudi a ne samo kod glodavaca. U svojoj ljudskoj manifestaciji taj se
zakon obično predočava kao Gaussova krivulja koja odnos uspjeha osobe u
nekoj teškoj zadaći vezuje za mentalni podraţaj koji ta osoba proţivljava.
Na vrlo niskim razinama stimulacije osoba je toliko neangaţirana i
nenadahnuta da je uspjeh ništavan. Kako stimulacija raste, uspjeh je sve
bolji i raste lijevom stranom Gaussove krivulje dok ne dosegne vrhunac.
Zatim, kako se stimulacija i dalje pojačava, uspjeh opada i nastavlja
ustrajno padati duţ desne strane krivulje. Kad stimulacija dosegne najveću
jakost, osoba u biti biva paralizirana stresom - i opet ništa. Kao i miševi
koji plešu, i mi ljudi najbolje učimo i radimo kad smo na vrhu Yerkes-
Dodsonove krivulje: kad nam je situacija izazovna ali nas ne baca na
koljena. Na vrhu Gaussove krivulje ulazimo u stanje toka.
Pokazalo se da je Yerkes-Dodsonov zakon osobito vaţan za
proučavanje automatizacije. Uz njegovu se pomoć objašnjavaju mnoge
neočekivane posljedice uvoĎenja računala na radna mjesta i u radne
procese. U ranim danima automatizacije mislilo se da će softver,
preuzimajući na sebe rutinske poslove, radnicima smanjiti opterećenje i
povećati uspješnost. Pretpostavka je bila da su opterećenje i uspješnost u
obrnutoj korelaciji. Smanjite si mentalni napor i bit ćete pametniji i
oštroumniji u radu. Pokazalo se da je stvarnost kompliciranija. Ponekad
računala uspijevaju ublaţiti naprezanja tako da time omoguće osobi da
zablista na poslu jer je punu paţnju posvetile najvaţnijim zadaćama. U
drugim slučajevima, automatizacija dovede do toga da se opterećenost
previše smanji. Radna uspješnost tada pati jer se premještamo na lijevu
stranu Yerkes-Dodsonove krivulje.
Svi poznajemo štetne učinke preopterećenosti informacijama. No,
pokazalo se da i podopterećenje moţe biti jednako otupljujuće. Ma koliko
namjere bile dobre, olakšati ljudima baš sve moţe nam se obiti o glavu.
Ergonomi Mark Young i Neville Stanton pronašli su dokaze za to da se
“kapacitet paţnje” osobe “smanjuje u skladu s umanjenim mentalnim
zahtjevima”. U radu automatiziranih sustava, tvrde oni, “podopterećenje
moţda još više zabrinjava [nego preopterećenje] jer ga je teţe
detektirati”.142 Istraţivači se brinu da će letargija koju stvara informacijsko
podopterećenje biti osobito opasna kod nadolazećih generacija
automobilske automatizacije. Softver na sebe preuzima sve više rutinskih
poslova pri upravljanju i kočenju, pa osoba za volanom više neće imati
dosta posla i mentalno će se isključivati. Da bi stvar bila gora, vozač će biti
slabo ili nikako školovan za upotrebu automatizacije te neupućen u rizike
koje ona sa sobom nosi. Neke se rutinske nesreće tako moţda i izbjegnu,
ali na kraju ćemo imati još više loših vozača na cesti.
U najgorima slučajevima, automatizacija čak postavlja dodatne, i
neočekivane, zahtjeve - i time ljude opterećuje suvišnim poslovima, čime
ih pak gura na desnu stranu Yerkes-Dodsonove krivulje. Istraţivači to
nazivaju “paradoks automatizacije”. Kako objašnjava Mark Scerbo,
stručnjak za ljudski faktor na Sveučilištu Old Dominion u saveznoj drţavi
Virginiji, “ironija se u automatizaciji javlja nakon sve većeg broja
istraţivanja koja pokazuju kako automatizirani sustavi često povećavaju
opterećenost i stvaraju nesigurne radne uvjete.”143 Ako se, primjerice,
operater nekog izrazito automatiziranog kemijskog postrojenja najednom
naĎe usred krize u kojoj se sve brzo odvija, moţe mu se dogoditi da
poklekne pred nuţdom očitavanja zaslona s informacijama i podešavanja
odgovarajućih parametara na računalu, dok istodobno slijedi predviĎene
stavke postupaka, pazi na obavijesti i upozorenja, i poduzima druge mjere
u skladu s uzbunom. Umjesto da mu smanji ometanja i stres,
kompjuterizacija ga prisiljava da se bavi svom silom dodatnih zadatka i
podraţaja. Slični se problemi javljaju za vrijeme uzbuna u kokpitu: pilot bi
tada trebao unositi podatke u letno računalo i motriti na zaslone s
informacijama u isto vrijeme dok se mora potruditi oko manualnog
upravljanja zrakoplovom. Svatko tko je u automobilu pogrešno skrenuo
slijedeći upute kartografske aplikacije iz prve ruke zna kako računalna
automatizacija moţe prouzročiti iznenadna prenaprezanja. Nije lako prčkati
po mobitelu dok vozite.
Ono što znamo je da automatizacija ima ponekad tragičnu tendenciju
uvećanja kompleksnosti posla u najgorem mogućem trenutku - kad je
radnik već ionako krajnje opterećen. Računalo, uvedeno kao pomoć pri
smanjivanju šansi za ljudsku grešku, na kraju je postalo nešto što uvećava
mogućnosti da čovjek, kao miš pod elektrošokom, završi u krivoj ulici.
 5.
Računala: iz tvornice u ured

Kasnoga ljeta 2005. istraţivači su časne kalifornijske Korporacije RAND

izrekli jedno uzbunjujuče predviĎanje o budućnosti američke medicine.
Nakon, kako kaţu, “najpodrobnije ikad provedene analize o potencijalnim
koristima od elektroničke medicinske dokumentacije”, proglasili su da bi
američki zdravstveni sustav “uštedio više od 81 milijun dolara na godinu i
uz to poboljšao kvalitetu usluge” ako bolnice i liječnici automatiziraju
kartoteke. Imajući u vidu uštede i druge koristi, a koje je RAND procijenio
“na osnovi računalnih simulacijskih modela”, jasno je - rekao je jedan od
najistaknutijih znanstvenika toga intelektualnog kolektiva - “da je došlo
vrijeme da drţave i svi drugi koji plaćaju zdravstvo počnu agresivno
promicati informacijsku tehnologiju u zdravstvu”.144 Posljednja rečenica u
izvještaju o pojedinostima tog istraţivanja naglašava hitnost: “Vrijeme je
za akciju.”145
U vrijeme kad se pojavila RAND-ova studija uzbuĎenje je oko
kompjuterizacije medicine već bilo na visini. Još je početkom 2004.
George W. Bush donio predsjednički ukaz kojim osniva Inicijativu za
uvoĎenje informacijske tehnologije u zdravstvu, a s ciljem da se većina
zdravstvenih kartona u SAD-u digitalizira unutar deset godina. Krajem
2004. savezna je vlada već dijelila milijune dolara subvencija kojima je
poticala liječnike i bolnice da kupuju sustave za elektroničku medicinsku
dokumentaciju (EMR) i uvode e-kartone. U lipnju 2005. Ministarstvo
zdravstva SAD-a osnovalo je radnu grupu drţavnih duţnosnika i voditelja
zdravstvenih djelatnosti, Američku zajednicu za informiranje o zdravstvu,
kojom je trebala potaknuti uvoĎenje e-kartona. RAND-ovo istraţivanje,
time što je očekivanu dobrobit od uvoĎenja e-kartona pretočilo u konkretne
i naizgled objektivne brojke, raspalilo je i uzbuĎenje i potrošnju. Kako će
kasnije izvijestiti New York Times, to je istraţivanje “pridonijelo
eksplozivnom rastu djelatnosti uključenih u rad na elektroničkoj
zdravstvenoj dokumentaciji i obodrilo saveznu vladu da milijardama dolara
financijski potiče bolnice i liječnike na uvoĎenje takvih sustava.”146 Ubrzo
nakon što je prisegnuo za predsjednika 2009., Barack Obama se pozvao na
RAND-ove brojke najavljujući program ubacivanja dodatnih 30 milijardi
dolara u subvencije za kupnju EMR sustava. Uslijedila je ulagačka
groznica i nekih tristo tisuća liječnika i četiri tisuće bolnica prepustilo se
dareţljivosti Washingtona.147
Zatim je 2013., netom nakon što je Obama prisegnuo na drugi
predsjednički mandat, RAND izdao novi i posve drugačiji izvještaj o
informacijskoj tehnologiji u zdravstvu. Euforije je nestalo; ton teksta sada
je krotak i u njemu se čuje isprika: “Iako se upotreba IT-a u zdravstvu
povećala”, pišu autori, “kvaliteta i učinkovitost skrbi o pacijentima
poboljšali su se tek marginalno. Istraţivanje o učinku IT-a u zdravstvu
polučilo je neravnomjerne rezultate. A još gore, ukupni godišnji izdaci na
zdravstvo u Sjedinjenim Drţavama narasli su s pribliţno bilijun dolara u
2005. na oko 2,8 bilijuna.” I najgore, sustavi za zdravstvenu dokumentaciju
što su ih liječnici poţurili instalirati o trošku poreznih obveznika stalno su
upadali u probleme s “interoperabilnosti”. Jedan se sustav, naime, nije
mogao sporazumijevati s drugim, čime su kritični podaci o pacijentima
ostali zaključani po bolnicama i ordinacijama. Jedno od velikih obećanja
IT-a u zdravstvu uvijek je bilo to da će, kako su primijetili RAND-ovi
autori, omogućiti “pacijentu i pruţatelju medicinske usluge pristup
zdravstvenim informacijama u bilo koje vrijeme i na bilo kojem mjestu”.
MeĎutim, svaki današnji sustav za medicinsku dokumentaciju ima vlastite
formate i protokole, čime oni “prisiljavaju na lojalnost proizvoĎaču
pojedinog EMR sustava”. RAND još uvijek polaţe puno nade u budućnost,
ali priznaje da se “ruţičasti scenarij” prvotnog izvještaja nije ostvario.148
I druga su istraţivanja potvrdila RAND-ove zaključke. Iako EMR
sustavi postaju uobičajena stvar u Sjedinjenim Drţavama, a u nekim je
zemljama tako već godinama (primjerice, u Velikoj Britaniji i Australiji),
dokazi za njihovu uspješnost i dalje su nejasni. U jednom je vrlo
obuhvatnom pregledu 2011. tim britanskih stručnjaka za javno zdravstvo
pregledao više od stotinu istraţivanja kompjuteriziranih medicinskih
sustava objavljenih u posljednje vrijeme. Zaključili su da, ako govorimo o
skrbi za pacijente te o sigurnosti pacijenata, postoji “golem procijep
izmeĎu teorijske i empirijski pokazane koristi”. Istraţivanja kojima se
promicalo uvoĎenje tih sustava, pokazuju oni, “provedena su slabo i
nedosljedno”, a “dokazi u prilog povoljnom omjeru troškova i učinaka su
neuvjerljivi”. Kad je pak konkretno riječ o medicinskoj dokumentaciji,
autori pregleda izvještavaju da postojeća istraţivanja nude “samo
anegdotalne dokaze za fundamentalne rizike i dobrobiti”.149 Neki su drugi
istraţivači iznijeli minimalno povoljnije ocjene. Još jedan pregledni rad
koji je 2011. objavilo osoblje Ministarstva zdravstva SAD-a otkriva da
“velika većina nedavno provedenih istraţivanja pokazuje mjerljive koristi
od uvoĎenja informacijske tehnologije”. No, govoreći o ograničenjima
postojećih istraţivanja, zaključuje se da “postoje samo posredni dokazi za
to da napredniji sustav, odnosno komponenta IT-a u zdravstvu pridonose
povećanoj dobrobiti”.150 Do danas ne postoji jaka empirijska potpora
tvrdnjama da će automatiziranje voĎenja medicinske dokumentacije voditi
ozbiljnijem smanjenju zdravstvenih troškova ili značajnijim poboljšanjima
dobrobiti pacijenata.
Ako su liječnici i pacijenti dosad imali malo koristi od jagme za
automatiziranjem dokumentacije, na dobiti su svakako bile tvrtke koje
takve sustave isporučuju. Korporaciji Cerner, specijaliziranoj za
medicinski softver, dobit se izmeĎu 2005. i 2013. utrostručila, s milijardu
na tri milijarde dolara. Uzgred, Cerner je bila jedna od pet tvrtki koje su
financirale prvotnu RAND-ovu studiju iz 2005. Drugi su pokrovitelji,
meĎu njima General Electric i Hewlett Packard, takoĎer imali značajne
poslovne interese na području informatizacije zdravstva. U postupku kojim
se današnji, manjkavi sustavi zamjenjuju novima ili se nadograĎuju kako bi
se ispravili problemi s interoperabilnosti i drugi nedostaci, informatičkim
tvrtkama teku nove rijeke novca.

Nuspojave
U toj priči nema ništa neobično. Ţurba da se instaliraju novi i neprovjereni
računalni sustavi, osobito kad je velikim riječima potiču tehnološke
kompanije i analitičari, gotovo uvijek donosi velika razočarenja kupcima i
veliku dobit dobavljačima. To ne znači da je takvim sustavima suĎeno da
propadnu. Greške se poprave, mogućnosti poboljšaju a cijene spuste, pa
čak i prenapuhani sustavi tvrtkama mogu uštedjeti mnogo novca, osobito
smanjivanjem potrebe za onom vrstom radnika koji plaću očekuju svakoga
mjeseca. (Do atraktivnih povrata ulaganja još će, naravno, mnogo lakše
doći kad tvrtke troše novac poreznih obveznika a ne svoj.) Čini se da bi se
taj povijesni obrazac mogao lako ponovno dogoditi s EMR sustavima i
njima sličnima. Kako liječnici i bolnice nastavljaju kompjuterizirati
dokumentacijske i druge sustave - a velikodušne subvencije i dalje pritječu
- u nekim područjima moţe doći do vidljivog napretka u djelotvornosti, i
lako je moguće da se za neke pacijente poboljša skrb, osobito onda kad je
potrebna koordinacija više specijalista. Fragmentacija i zatvorenost
podataka o pacijentima stvarni su problemi u medicini u čijem rješavanju
mogu pomoći dobro projektirani, standardizirani informacijski sustavi.
Osim kao još jedna poučna priča o zbrzanim ulaganjima u
nedokazani softver, izvorni RAND-ov izvještaj i reakcije na njega mogu
nas naučiti još nečem dubljem. Prije svega, na projekcije “računalnih
simulacijskih modela” uvijek treba gledati sa skepsom. Svaka je simulacija
i simplifikacija; one daju tek nesavršenu repliku stvarnog svijeta, i njihovi
rezultati često odraţavaju pristranosti njihovih stvaralaca. A što je još
vaţnije, taj izvještaj i njegov epilog otkrivaju koliko je mit o supstituciji
duboko urastao u to kako društva percipiraju i evaluiraju automatizaciju.
RAND- ovi istraţivači su pretpostavili da će prelazak s upisivanja podataka
na kartone na njihov unos u računalo - osim očitih tehničkih zahtjeva i
potreba za obukom - ići glatko. Liječnici, sestre i drugi zdravstveni radnici
će manualnu metodu zamijeniti automatiziranom, ali neće se značajno
promijeniti to kako prakticiraju medicinu. Naprotiv, računala mogu “bitno
promijeniti radne procese skrbi za pacijenta”, kako je 2006. izvijestila
skupina liječnika i profesora u časopisu Pediatrics. “Iako je namjera
kompjuterizacije poboljšanje skrbi za pacijenta, jer bi ona tako postala
sigurnija i djelotvornija, negativni učinci i neţeljene posljedice u smislu
narušavanja radnog toka mogu znatno pogoršati situaciju”.151
Bivajući ţrtvom mita o supstituciji, RAND-ovi istraţivači nisu
dovoljno ozbiljno uzeli u obzir mogućnost da e-kartoni uz dobrobit mogu
stvoriti i štetu - isti problem hara mnogim prognozama o posljedicama
automatizacije. Preoptimistične analize vode preoptimističnim politikama.
Kako su primijetili liječnici i profesori medicine Jerome Groopman i
Pamela Hartzband u svojoj oštroj kritici Obaminih mjera poticaja, RAND-
ov izvještaj iz 2005. “u biti je ignorirao mane elektroničke medicinske
dokumentacije”, a uz to je otpisao prijašnja istraţivanja koja nisu
zabiljeţila prednosti prelaska na e-kartone.152 RAND-ova se pretpostavka,
da će automatizacija biti supstitut za manualni pokazala pogrešnom, kako
su stručnjaci za ljudski faktor bili i predvidjeli. No, šteta je već bila
napravljena, kako u protraćenom novcu poreznih obveznika tako i u
nesvrhovitim instalacijama softvera.
Medicinski dokumentacijski (ili EMR) sustavi ne sluţe samo za unos
i distribuciju biljeţaka. Većina njih sadrţe i softver za potporu u
odlučivanju koji, popisima postupaka i pokazivačkim sredstvima sugeriraju
liječnicima što činiti pri pregledu ili savjetovanju. Informacije koje u EMR
unosi liječnik zatim teku u administrativne sustave ordinacije ili bolnice, i
tako se automatizira izrada računa, recepata, zahtjeva za pretrage i drugih
formulara i dokumenata. Jedna od nepredviĎenih posljedica je ta da
liječnici pacijentima često na kraju obračunavaju sve više i više skupih
usluga u odnosu na stanje prije instalacije sustava. Kako liječnik ispunjava
računalni obrazac tijekom pregleda, sustav mu automatski preporučuje
konkretne postupke, na primjer pregled očiju za dijabetičara. Klikom na
kućicu kojim potvrĎuje da je obavio preporučeni postupak, liječnik stvara
zabilješku ali u mnogim slučajevima istodobno daje i nalog za naplatu
dodatne usluge. Takve preporuke mogu biti korisne kao podsjetnici, a u
rijetkim slučajevima mogu i spriječiti previd kakve vaţne sastavnice
pregleda. Ali, mogu i prenapuhati račune - čime su se dobavljači takvih
sustava i podičili u svojim reklamnim brošurama.153
Prije nego što su liječnici imali softver koji bi ih na to upozoravao,
rjeĎe su dodatno naplaćivali sitnije postupke, i smatrali su ih dijelom
glavnog računa - za, primjerice, “pregled” ili “sistematski pregled”. Kad se
te stavke nude, automatski se dodatno i naplaćuju. Već time što se neki
postupak učinio malo lakšim ili rutinskim, sustav mijenja ponašanje
liječnika, malo ali primjetno. Činjenica da će na kraju zaraditi više ako se
povodi za softverom dodatno potiče liječnika da se prepusti prosudbama
sustava. Neke stručnjake brine i to da je novčani poticaj moţda i prejak.
Odgovarajući na izvještavanje medija o nepredviĎenom rastu liječničkih
računa zbog uvoĎenja EMR sustava, američka je savezna vlada u listopadu
2012. pokrenula istragu kojom je trebala utvrditi dovode li novi sustavi do
prenaplate, ili je čak riječ o pravoj prevari unutar sustava Medicare.
Izvještaj Ministarstva zdravstva iz 2014. upozorava na to da “pruţatelji
zdravstvenih usluga mogu rabiti funkcije [EMR] programa koje prikrivaju
pravo autorstvo liječničkog kartona i iskrivljuju informacije u e-kartonu,
uslijed čega dolazi do porasta zahtijevanih iznosa za zdravstvene
usluge”.154
Ima dokaza i za to da e-kartoni potiču liječnika na naručivanje
nepotrebnih pretraga, što na kraju takoĎer uvećava, a ne smanjuje trošak
zdravstva. Jedno istraţivanje objavljeno u časopisu Health Affairs 2012.
pokazalo je da će liječnici, kad im je lako otvoriti prijašnje rendgenske i
druge dijagnostičke snimke na računalu, vjerojatnije naručivati novo
slikanje nego što to čine ako nemaju izravan pristup prijašnjim snimkama.
Liječnici s kompjuteriziranim sustavima naručivali su nove takve pretrage
u 18 posto posjeta pacijenata, dok su ih oni bez takvih sustava naručivali u
samo 13 posto posjeta. Jedna od čestih pretpostavki kad je riječ o e-
kartonima bila je pak da će se učestalost dijagnostičkih pretraga smanjiti
ako se rezultati prijašnjih pretraga učine lako i izravno dostupnima. To je
istraţivanje, meĎutim, pokazalo da je, kako kaţu autori, “istina moţda
obrnuta”. Čini se da time što rezultate pretraga postaje tako lako primiti i
pregledati, automatizirani sustavi kao da “suptilno potiču liječnike da
naručuju dodatke slikovne pretrage”, tvrde istraţivači. “U graničnim
situacijama kad se vremenski zahtjevniji postupak praćenja rezultata iz
dijagnostičke ustanove zamijeni postupkom koji zahtijeva tek par pritisaka
tipke, to već moţe presuditi u korist naručivanja pretrage.”155 I tu još
jednom vidimo kako automatizacija ljudima mijenja ponašanje i način
rada, i da je taj utjecaj gotovo nemoguće predvidjeti (a moguće je da bude i
suprotan od očekivanog).

Izrezi i zalijepi
UvoĎenje automatizacije u medicinu, baš kao i u avijaciju i druge
djelatnosti, ima posljedica ne samo na djelotvornost i troškove. Već smo
vidjeli kako softverski pokazivači na mamogramima utječu - nekad
povoljno a nekad nepovoljno - na način na koji radiolozi očitavaju snimke.
Kako su se liječnici počeli sve više oslanjati na računala u sve više
aspekata svoga posla, tehnologije su počele utjecati na to kako oni uče,
kako donose odluke, pa čak i na to kako postupaju s pacijentima.
Jedno istraţivanje provedeno na liječnicima opće prakse koji su uveli
e-kartone, a proveo ga je Timothy Hoff s Fakulteta za javno zdravstvo
Albany pri Drţavnom sveučilištu New York, donosi dokaze za, kako kaţe
Hoff, “slabljenje vještina”, uz ostalo “opadanje kliničkog znanja” i “sve
stereotipniji pristup pacijentima”. Hoff je 2007. i 2008. intervjuirao
sedamdeset i osam liječnika opće prakse u većim i manjim ordinacijama
Savezne drţave New York. Tri četvrtine liječnika rutinski se sluţilo EMR
sustavima, i većina njih je rekla da se pribojavaju da kompjuterizacija vodi
manje temeljitoj i manje personaliziranoj skrbi za pacijente. Liječnici koji
se sluţe računalima rekli su Hoffu da manje-više stalno ubacuju tekst s
predloška u izvještaje s vizita - da ga samo “izreţu i zalijepe” - a dok su
bilješke diktirali ili su ih sami pisali rukom “obraćali su više paţnje na
kvalitetu i jedinstvenost informacija koje ulaze u karton”. Štoviše, kaţu
liječnici, baš im je taj postupak zapisivanja i diktiranja bio sluţio kao neka
vrsta “crvene zastavice” koja bi ih natjerala da uspore i “razmisle o tome
što imaju reći”. Liječnici su se potuţili Hoffu da homogenizirani tekst e-
kartona potencijalno umanjuje bogatstvo njihova razumijevanja pacijenta, i
slabi im “sposobnost za donošenje utemeljenih odluka u pogledu dijagnoze
i terapije”.156
To što se liječnici sve više prepuštaju recikliranju, ili “kloniranju”
teksta, prirodno proizlazi iz rada s e-kartonima. EMR sustavi mijenjaju
način na koji kliničari vode zabilješke, upravo onako kako su programi za
obradu teksta prije mnogo godina promijenili način na koji pisci pišu i
ureĎuju zapisano. Tradicionalni postupci diktiranja, i sastavljanja biljeţaka,
unatoč svojim prednostima, sada su se doimali spori i nespretni u usporedbi
s lakoćom i brzinom koju nudi klikanje po ekranu. Stephen Levinson,
liječnik i autor standardnog udţbenika o voĎenju medicinske
dokumentacije i načinima naplate usluga, vidi itekako mnogo dokaza za
nepromišljeno i rutinirano iskorištavanje postojećeg teksta u stvaranju
novih zapisa. Liječnici se sve više sluţe računalima pri voĎenju biljeţaka o
pacijentima, i kako kaţe, “bilješke sa svakog pregleda gotovo su od riječi
do riječi iste, izuzevši manje varijacije koje se gotovo isključivo odnose na
njihov glavni medicinski problem” Iako takva “klonirana dokumentacija”
“klinički nema nikakvog smisla” i “ne zadovoljava potrebe pacijenta”,
svejedno je postala polazišnom metodom jednostavno zato što je brţa i
djelotvornija - ali i zato što klonirani tekst čest sadrţava popis postupaka
koji sluţe kao još jedan pokretač za dodavanje troškova na pacijentov
račun.157
Kloniranje ne poznaje fine detalje. Gotovo je sav sadrţaj tipičnog e-
kartona “nastao po predlošku”, kako je jedan internist rekao Hoffu. “Tu
nema nikakvog logičnog slijeda. Ni u mojim bilješkama ni kod drugih
liječnika”. Manjak detaljnosti i konkretnosti ima svoju cijenu, i ona se
umnaţa time što klonirane bilješke cirkuliraju meĎu drugim liječnicima.
Liječnik na kraju ostaje bez jednog od najvaţnijih izvora učenja na poslu.
Čitanje diktiranih ili rukom pisanih biljeţaka specijalista odavna je
iznimno korisno za edukaciju liječnika primarne zaštite, i njima se
produbljivalo njihovo razumijevanje ne samo pojedinačnih pacijenata nego
i koječega drugog, “od terapija za konkretne bolesti i njihove djelotvornosti
do novih vrsta dijagnostičkih pretraga”, piše Hoff. Kako se te bilješke sve
više i više sastoje od recikliranog teksta, one gube na suptilnosti i
originalnosti pa postaju puno manje vrijedne kao sredstvo učenja.158
Danielle Ofri, internistica u bolnici Bellevue u New Yorku koja je
napisala nekoliko knjiga o medicinskoj praksi, u prelasku s papira na e-
kartone uočava i druge suptilne gubitke. Iako se prelistavati tradicionalne
kartone danas moţda doima arhaično i nedjelotvorno, njima liječnik stječe
brz i smislen uvid u zdravstvenu povijest pacijenta, koja se proteţe na
mnogo godina. Krutost s kojom računala prikazuju te informacije najčešće
zamagljuje taj dugoročni pogled. “U računalu”, piše Ofri, “svaki posjet
liječniku izvana izgleda isto, pa je nemoguće razlikovati zapis o kakvom
podrobnom i temeljitom dijagnostičkom postupku od toga da je pacijent
navratio po recept za nastavak terapije.” Suočeni s relativno nefleksibilnim
sučeljem računala, liječnici na kraju često pregledavaju samo “posljednja
dva-tri posjeta; sve prije toga efektivno je prepušteno elektroničkom
skupljanju prašine”159
Jedno je istraţivanje, nedavno provedeno o prelasku s papirne na
elektroničku dokumentaciju na sveučilišnim bolnicama Sveučilišta u
Washingtonu, donijelo daljnje dokaze za to kako forma elektroničkih
zapisa liječnicima oteţava snalaţenje u e-kartonu pacijenta, te pronalaţenje
“relevantnih” biljeţaka. Kad su bilješke pisali rukom, liječnici su
“prepoznavali rukopis” različitih specijalista pa su tako brţe pronalazili
bitne informacije. Forma e-kartona je homogenizirana i takve se suptilne
odlike brišu.160 Osim problema sa snalaţenjem, Ofri brine i to da će
organizacija elektroničke dokumentacije promijeniti i to kako liječnici
razmišljaju: “Sustav potiče na fragmentiranu dokumentaciju, u kojoj su
različiti aspekti pacijentova stanja odijeljeni u nepovezana polja, pa je puno
teţe imati u vidu opću sintezu o pacijentu.”161
Automatizacija voĎenja biljeţaka u ordinaciju uz to dovodi i “treću
stranu”, kako kaţe profesorica Beth Lown s harvardskog Medicinskog
fakulteta. U svom lucidnom članku koji je 2012. objavila sa svojim
studentom Dayronom Rodriguezom, Lown prepričava kako se i samo
računalo “s pacijentom natječe za liječnikovu paţnju, što utječe na njegovu
sposobnost da mu se potpuno posveti, i to mijenja narav njihove
komunikacije i odnosa, kao i osjećaj za profesionalnu ulogu kod
liječnika”.162 Svatko tko je bio na pregledu kod liječnika koji tipka po
računalu vjerojatno je iz prve ruke doţivio bar nešto od onoga što opisuje
Lown, a znanstvenici pronalaze i empirijske dokaze za to da računala i ne
samo formalno mijenjaju interakciju liječnika i pacijenta. U
jednom istraţivanju provedenom na Klinici uprave za ratne veterane,
pacijenti koje su pregledavali liječnici koji vode elektroničke bilješke
izvijestili su da “računalo negativno utječe na to koliko će vremena liječnik
utrošiti na razgovor, pregledavanje i ispitivanje”, a uz to su posjet često
“doţivljavali kao manje osoban”163 Liječnici su se uglavnom sloţili sa
svojim pacijentima. Još je jedno istraţivanje provedeno u jednoj velikoj
upravnoj zdravstvenoj ustanovi u Izraelu, a tamo su EMR sustavi
uvrijeţeni u mnogo većoj mjeri nego u SAD-u. Znanstvenici su tako
utvrdili da liječnici primarne zdravstvene zaštite provedu 25-55 posto
vremena pregleda gledajući u ekran. Više od 90% izraelskih liječnika koji
su sudjelovali u tom istraţivanju izjavilo je da im voĎenje elektroničke
dokumentacije “ometa komunikaciju s pacijentima”.164 Takvo slabljenje
paţnje u skladu je s nalazima psihologa o tome koliko nas rukovanje
računalom ometa pri obavljanju neke druge zadaće. “Obraćati paţnju i na
računalo i na pacijenta zahtijeva višezadaćni pristup”, primjećuje Lown, a
višezadaćnost “je oprečna prisutnosti duhom”.165
Nametljivost računala stvara još jedan, veoma dobro dokumentiran
problem. EMR i slični sustavi podešeni su tako da na ekran izbacuju
upozorenja, što bi liječnicima trebalo pomoći u izbjegavanju opasnih
previda i pogrešaka. Ako liječnik, primjerice, pacijentu prepiše
kombinaciju lijekova na koju bi on loše reagirao, softver će naglasiti taj
rizik. MeĎutim, većina upozorenja pokaţe se nepotrebnima. Ili nisu
relevantna, ili su suvišna, ili upravo pogrešna. Čini se da se generiraju
manje zbog toga da se pacijenta zaštiti od reakcija i nuspojava, a više zato
da se proizvoĎača softvera zaštiti od sudskih sporova. (Ta treća strana u
ordinaciji, računalo, sa sobom nosi i ekonomske i pravne interese treće
strane.) Istraţivanja pokazuju da liječnici primarne zaštite rutinski
odbacuju oko devet desetina svih upozorenja s ekrana. Tako nastaje stanje
koje se naziva zamor upozorenjima: tretirajući softver kao Peću koji stalno
viče Vuk!, liječnici malo-pomalo počinju zanemarivati sva upozorenja.
Odbacuju ih toliko brzo da im promaknu i onda kad jesu relevantna. Osim
što, dakle, narušavaju odnos liječnika i pacijenta, ona gube smisao i zbog
načina na koji se iznose.166
Liječnički pregled i savjetovanje s liječnikom izvanredno su fin i
intiman oblik osobne komunikacije. Od liječnika to zahtijeva istodobno i
empatičnu osjetljivost na riječi i govor tijela, ali i hladno racionalnu analizu
simptoma. Da bi proniknuo u sloţen medicinski problem ili prituţbu,
kliničar mora paţljivo slušati što mu pacijent govori i u isto vrijeme voditi i
filtrirati njegove riječi kroz adekvatni dijagnostički okvir. Ključ je u tome
da se pogodi ravnoteţa izmeĎu razumijevanja specifičnosti stanja pacijenta
i zaključivanja o općim obrascima i vjerojatnostima na temelju literature i
iskustva. Popisi simptoma i druga pomoćna sredstva u odlučivanju mogu
biti vrijedna pomoć u tom procesu. Ona unose red u komplicirane i katkad
kaotične okolnosti. MeĎutim, kako navodi kirurg i pisac Atul Gawande,
“dobre strane uvoĎenja takvih reţima” ne poništavaju potrebu za
“hrabrošću, pameti i improvizacijom”. Najbolji će se kliničari uvijek
odlikovati “ekspertnom odvaţnošću”.167 Ako od liječnika traţi da suviše
ropski slijedi predloške i upozorenja, računalna automatizacija moţe
poremetiti odnos liječnika i pacijenta. Time katkad jest lakše organizirati
posjet pacijenta i doći do korisnih informacija, ali, piše Lown, tako se
moţe i “ishitreno suziti raspon pitanja”, a čak i potiče automatizacijsku
pristranost i pridavanje više paţnje ekranu nego pacijentu, što moţe dovesti
do pogrešne dijagnoze. Ponašanje liječnika tada postaje “motivirano onim
što se dogaĎa na ekranu, ponašanje sakupljača informacija koji prebire po
popisima pitanja kako se oni pojavljuju na zaslonu, umjesto da slijede nit
pripovijedanja pacijenta”.168
Ako vas vodi ekran a ne pacijent bit će osobito opasno ako ste mladi
liječnik, smatra Lown, jer si time zatvarate mogućnost da izučite
najsuptilnije i najljudskije aspekte medicine - prešutna znanja koja se ne
mogu pokupiti iz udţbenika ni od softvera. Na dugi rok, to moţe biti i
zapreka liječnicima da razviju intuiciju koja im omogućuje da reagiraju u
hitnim situacijama i drugim neočekivanim dogaĎajima, kad o sudbini
pacijenta odlučuje već i nekoliko minuta. U takvim trenucima liječnici ne
mogu biti analitični i postupni; nemaju vremena prikupljati i analizirati
informacije, ni prolaziti kroz bilo kakve predloške. Računalo im tada ne
pomaţe. Liječnik mora donositi gotovo trenutačne odluke o dijagnozi i
terapiji. Mora djelovati. Kognitivni znanstvenici koji su proučavali
misaone procese liječnika tvrde da ekspertni kliničari u hitnim situacijama
ne razmišljaju svjesno, odnosno unutar formalnih skupova pravila. Na
osnovi znanja i iskustva oni jednostavno “vide” što ne valja - prečesto
donose radnu dijagnozu u sekundama - te dalje postupaju u skladu s time.
“Ključni se znakovi pacijentova stanja”, objašnjava Jerome Groopman u
knjizi Kako razmišljaju liječnici, “saţimaju u obrazac koji liječnik
prepoznaje kao odreĎenu bolest ili poremećaj”. To je dar veoma visoke
razine, u kojemu je, kako kaţe Groopman, “mišljenje neodvojivo od
djelovanja”.169 A kao i drugi oblici mentalne automatičnosti, razvija se
jedino kontinuiranom praksom uz izravnu, neposredovanu povratnu vezu.
Ako postavite ekran izmeĎu liječnika i pacijenta, stvorili ste distancu meĎu
njima, i zbog toga će se intuicija i automatičnost razvijati puno teţe.

Pitanje vještine
Nije prošlo dugo i ludditi koji su preţivjeli slamanje svoje nasilne pobune
mogli su gledati kako se njihovi strahovi obistinjuju. Izrada tekstila, kao i
manufaktura mnogih drugih dobara, u samo se nekoliko kratkih godina
preselila iz radionica u tvornice. Ono što se dotad proizvodilo u kući ili
kakvoj seoskoj gospodarskoj zgradi sada je nastajalo u velikim gradskim ili
prigradskim tvornicama, koje su se tamo morale graditi zbog dostatne
količine radnika, materijala i potrošača. Stručni su radnici išli za poslom, i
tako iskorijenili svoje obitelji u velikom valu urbanizacije, dodatno
naraslom uslijed gubitka poslova u poljoprivredi zbog pojave vršilica i
drugih ratarskih strojeva. U novim su tvornicama radila sve djelotvornija i
sposobnija postrojenja, zbog čega je rasla produktivnost ali se suţavala
odgovornost i autonomija onih koji su strojevima rukovali. Stručni obrtnik
pretvoren je u nekvalificiranog tvorničkog radnika.
Adam Smith je uočio kako će specijalizacija tvorničkih poslova
dovesti do slabljenja vještina radnika. “Čovjek koji cijeli ţivot potroši na
izvoĎenje nekoliko jednostavnih radnji, čiji je učinak moţda takoĎer uvijek
jednak ili podjednak, nema prilike da iskaţe razum ili domišljatost u
pronalaţenju načina da se uklone teškoće koje se nikad i ne pojavljuju”,
napisao je u Bogatstvu naroda. “Stoga on prirodno gubi naviku takvoga
nastojanja, i općenito uzevši postaje onoliko glup i neuk koliko je to
ljudskom biću uopće moguće.”170 Smith je slabljenje vještina smatrao
nesretnom ali neizbjeţnom popratnom pojavom djelotvorne tvorničke
proizvodnje. U svom je slavnom primjeru podjele rada u tvornici
pribadača, na mjesto majstora koji je nekoć mukotrpno izraĎivao svaku
pribadaču sada dolazi cijela četa radnika bez struke, od koji svaki obavlja
neki uski dio posla: “Jedan izvlači ţicu, drugi je izravnava, treći reţe,
četvrti oštri a peti drugu stranu brusi da dobije podlogu za glavu; za izradu
glave potrebne su dvije ili tri radnje; zaseban posao je namicanje glave na
pribadaču, a zaseban izbjeljivanje pribadače; umetanje pribadača u papir je
pak sasvim drugo radno mjesto; vaţan posao izrade pribadače na taj je
način razdijeljen na osamnaest zasebnih radnji.”171 Nijedan od radnika ne
zna izraditi cijelu pribadaču, ali zajedno, svaki radeći svoj poseban posao,
napravit će daleko više pribadača nego isti broj obrtničkih majstora koji
rade odvojeno. A budući da radniku za to ne treba mnogo dara ni vjeţbe,
proizvoĎaču je na raspolaganju velik izbor potencijalnih radnika pa nema
potrebe ni plaćati ih dodatno za stručnost.
Smith je nadalje shvaćao kako podjela rada utire put mehanizaciji,
uz koju će vještina radnika još dalje opadati. Čim proizvoĎač razbije neki
sloţeni proces u niz jasno definiranih “jednostavnih postupaka”, postaje
relativno lako projektirati stroj koji će izvoditi svaki takav postupak.
Podjelom rada u tvornici dobiva se skup specifikacija za njezina
postrojenja. Početkom dvadesetog stoljeća onestručavanje tvorničkih
radnika pak izrijekom postaje ciljem tvorničara, a zahvaljujući učenju o
“znanstvenom upravljanju” Fredericka Winslowa Taylora. Taylor je, na
Smithovu tragu, vjerovao da se “najveće blagostanje” postiţe “jedino onda
kad se rad [u tvrtkama] obavlja uz najmanji ukupni utrošak ljudskoga
truda”. Vlasnike tvornica Taylor je zato savjetovao da pripreme stroge
upute prema kojima će svaki uposlenik rukovati strojevima - sinopsis
izvoĎenja svakog tjelesnog i umnog pokreta radnika.172 Veliki je
nedostatak tradicionalnih načina rada, vjerovao je Taylor, bio u tome što je
pojedincima davao previše inicijative i prostora. Optimalna se
djelotvornost postiţe jedino standardizacijom rada, koju treba provesti
“pravilima, uredbama i formulama”, koje treba preslikati pri projektiranju
strojeva.173
Mehanizam tvornica, kao sustav u kojemu se radnik i stroj pretapaju
u strogo kontroliranu i savršeno produktivnu jedinicu, bila je trijumf
djelotvornosti i inţenjerstva. Kad je riječ o osobama koje su postale
kotačići njezina stroja, a kako su ludditi i bili predvidjeli, njihova je radna
vještina i neovisnost - ţrtvovana. I taj gubitak autonomije nije bio jedino
ekonomski, nego i egzistencijalni, kako će 1958. istaknuti Hannah Arendt
u knjizi Vita activa: “Za razliku od alata u obrtnika, koji u svakom trenutku
radnog procesa ostaje u sluţbi ruke, strojevi zahtijevaju da radnik sluţi
njima, da prirodni ritam svojega tijela prilagodi njihovim mehaničkim
pokretima.”174 Tehnologija je napredovala - ako je to prava riječ - od
jednostavnih alata koji su proširivali sposobnosti radnika do kompleksnih
strojeva koji ih suţavaju.
U drugoj je polovini prošlog stoljeća odnos radnika i stroja postao
kompliciraniji. Tvrtke su rasle, tehnika je sve brţe napredovala, a potrošnja
graĎana eksplodirala; istodobno su se vidovi zapošljavanja počeli granati.
Bilo je sve više menadţerskih, stručnjačkih i uredskih poslova, te poslova u
usluţnim djelatnostima. Strojevi su se počeli javljati u svakakvim novim
oblicima, i ljudi su se njima sluţili na kojekakve načine, na poslu i izvan
njega. Taylorovskom etosu postizanja djelotvornosti standardizacijom
radnih procesa, iako i dalje veoma utjecajnom u voĎenju poslovanja, neke
su tvrtke suprotstavile ţelju za iskorištavanjem domišljatosti i kreativnosti
radnika. Radnik-zupčanik prestaje biti ideal, i u toj situaciji računalo
preuzima dvostruku ulogu. Ono obavlja taylorovsku funkciju motrenja,
mjerenja i nadziranja ljudskog rada; tvrtke su naime uočile da softver moţe
biti moćno sredstvo standardizacije procesa i prevencije odstupanja. No, u
obličju PC- a, računalo je postalo i fleksibilan, osoban alat koji pojedincu
daje dodatnu inicijativu i autonomiju. Računalo je postalo i izvršilac i
emancipator.
Kako su se načini iskorištavanja automatizacije mnoţili i širili od
tvornica k uredima, snaga povezanosti tehnološkog napretka i
onestručavanja rada postali su temom ţustre rasprave meĎu sociolozima i
ekonomistima. Vrhunac je dosegnula 1974. kad je Henry Braverman,
teoretičar društva i nekadašnji kotlar, objavio strastvenu knjigu suhoga
naslova Rad i monopolski kapital: degradacija rada u dvadesetom stoljeću.
Govoreći o onodobnim kretanjima u tehnologijama zapošljavanja i radne
snage, Braverman je ustvrdio da se većina radnika usmjerava prema
rutinskim poslovima bez mnogo odgovornosti i izazova, i bez mnogo
mogućnosti za stjecanje bilo kakvih vaţnijih znanja i vještina. Često su
obavljali posao asistiranja kakvom stroju ili računalu. “S razvojem
kapitalističkog načina proizvodnje”, napisao je, “sam se pojam stručnosti
degradira kako se degradira i rad, i sveo se na to da se danas radnika ili
radnicu smatra stručnima ako im je za obavljanje nekog posla potreban
tečaj od nekoliko tjedana; više mjeseci naučavanja smatra se neobično
zahtjevnim, dok posao koji zahtijeva razdoblje učenja od šest mjeseci ili
godinu dana - poput programiranja računala - izaziva prave provale
čuĎenja.”175 Uobičajeno obrtničko naukovanje, ističe on, usporedbe radi
trajalo je barem četiri godine a često i do sedam. Bravermanova gusto
pisana i pomno argumentirana rasprava bila je veoma čitana. Njezino se
marksističko motrište upravo savršeno uklapalo u radikalnu atmosferu
1960-ih i ranih 1970-ih godina.
Bravermanovo se zaključivanje nije dojmilo svakoga.176 Kritičari su
ga - a bilo ih je puno - optuţivali da prenaglašava vaţnost tradicionalnog
obrta, na koji ček ni u 18. i 19. stoljeću nije otpadao tako velik udjel radne
snage. Uz to, smatrali su da pridaje preveliku vrijednost manualnim
vještinama povezanima s proizvodnim poslovima, a na štetu
interpersonalnim i analitičkim vještinama koje izbijaju u prvi plan u
mnogim uredskim i usluţnim poslovima. Tom se drugom kritikom upućuje
i na veći problem, zbog kojeg se komplicira svaki pokušaj dijagnoze i
interpretacije velikih promjena stručnosti u svim privrednim granama.
Pojam vještine nije jednoznačan. Mnogo je vrsta i vidova talenata i
umijeća, i ne postoji nikakav dobar, objektivan način da ih se mjeri i
meĎusobno usporeĎuje. Je li vještina postolara koji je u 18. stoljeću na
radnoj klupi izraĎivao par cipela manja ili veća od vještine stručnjakinje za
prodaju koja za računalom izraĎuje marketinški plan za plasman nekog
proizvoda? Čija je vještina veća, štukatera ili frizera? Ako brodski
vodoinstalater izgubi posao pa se nakon usavršavanja zaposli kao serviser
računala, je li napredovao ili nazadovao na ljestvici vještina? Nemamo
kriterije prema kojima bismo mogli ponuditi dobre odgovore na ta pitanja.
Uslijed toga, rasprave o trendovima onestručavanja, da i ne spominjemo
kvalificiranje i prekvalificiranje, često zapinju na prepirkama oko
vrijednosti.
Ako, meĎutim, opće teorije promjena u stručnosti poput
Bravermanove i njoj sličnih moraju ostati prijeporne, slika postaje jasnija
ako se usredotočimo na pojedinačne zanate i struke. Dosad se redovito
pokazivalo da, što strojevi postaju sofisticiraniji, posao koji preostane
ljudima biva manje sofisticiran. Iako je danas uvelike zaboravljeno, jedno
od najrigoroznijih istraţivanja učinaka automatizacije na vještine proveo je
1950-ih godina profesor Harvardske poslovne škole James Bright.
Iscrpljujuće podrobno, on je istraţio posljedice automatizacije na radnike u
trinaest djelatnosti, od onih u tvornici strojeva do onih u industrijskoj
pekarnici i strojnoj glodalici. Na temelju tih studija slučajeva izveo je
veoma razraĎenu hijerarhiju automatizacije. Ona počinje upotrebom
jednostavnih ručnih alata, da bi preko sedamnaest razina završila sloţenim
strojevima koji programiranjem reguliraju vlastiti rad uz pomoć senzora,
povratne sprege i elektroničkih sklopova. Bright je analizirao kako se
različiti zahtjevi za vještinama - fizički napor, mentalni napor, spretnost,
pojmovno razumijevanje i tako dalje - mijenjaju s porastom
automatiziranosti strojeva. Pokazalo se da zahtjevi za vještinama rastu
samo u početnim stadijima automatizacije, s uvoĎenjem ručnih alata. S
kompleksnijim strojevima vještine pomalo ogrubljuju, da bi se zahtjevi na
kraju strmoglavili kad se radnici počnu sluţiti izrazito automatiziranim,
samoregulirajućim postrojenjima. “Čini se”, pisao je Bright 1958. u knjizi
Automatizacija i upravljanje, “da što je stroj više automatski, to operater
ima manje posla”.177
Kako bi ilustrirao razvoj onestručavanja, Bright se posluţio
primjerom metalskog radnika. Kad radnik rukuje jednostavnim ručnim
alatima, poput smika ili turpije, glavni zahtjev mu je poznavanje posla, u
ovom slučaju razumijevanje odlika i upotrebe metala, te fizička spretnost.
S uvoĎenjem električnih alata posao postaje kompliciraniji a greške
skuplje. Od radnika se očekuje “nova razina spretnosti te sposobnosti
donošenja odluka”, kao i više pozornosti. Metalac postaje “mašinist”. Kad
se ručni alati zamijene mehanizmima koji izvode niz operacija, poput
glodalica koje izrezuju i gloĎu komade metala u precizne trodimenzionalne
oblike, “paţnja, odlučivanje i kontrola, sve se te odgovornosti djelomice ili
uglavnom smanjuju” a “zahtjevi za tehničkim znanjima o funkcioniranju i
podešavanju stroja dramatično se smanjuju” Mašinist postaje “operater
stroja”. Kad mehanizacija postane istinski automatska - kad se strojevi
programiraju tako da upravljaju sami sobom - radnik daje “mali ili nikakav
doprinos u proizvodnoj djelatnosti, bilo fizičkim bilo mentalnim naporom”.
Čak mu nije potrebno ni mnogo znanja o poslu, jer je to znanje zapravo
prešlo na stroj njegovim projektiranjem i programiranjem. Posao mu se,
ako ga još ima, sve na ophodnju. Metalac je postao “nekom vrstom
nadglednika, nadzornika, ispomoći”. O njemu je najbolje misliti kao o
“posredniku izmeĎu stroja i operativne uprave”. Sve u svemu, zaključuje
Bright, “učinak automatizacije razvija se tako da operatera prvo razriješi
manualnog truda, a potom i potrebe da se kontinuirano mentalno trudi”.178
Kad je Bright započeo svoje istraţivanje, jednako meĎu direktorima,
političarima i akademskim znanstvenicima prevladavala je pretpostavka da
će automatizirani strojevi zahtijevati od radnika više stručnosti i
usavršavanja. Bright je na svoje iznenaĎenje uvidio da češće biva upravo
obrnuto: “Zapanjio sam se kad sam vidio da tog učinka nadogradnje nema
ni pribliţno onoliko koliko se često pretpostavlja. Naprotiv, više je dokaza
govorilo u prilog tome da automatizacija smanjuje zahtjeve za stručnošću
operativne radne snage.” U izvještaju koji je 1966. iznio Drţavnom
povjerenstvu za automatizaciju i zapošljavanje, Bright daje osvrt na svoje
izvorno istraţivanje, te raspravlja o razvoju tehnologije do kojeg je potom
došlo. Automatizacija, biljeţi on, i dalje se razvija istim tempom, a gura je
brz razvoj centralnih računala u industriji i poslovanju. Ti su rani dokazi
pokazivali da će se sa širenjem broja korisnika računala trend
onestručavanja nastaviti a ne preokrenuti. “Pouka bi”, kako piše, “trebala
biti sasvim jasna - da nije nuţno istina da izrazito sloţena oprema zahtijeva
kvalificirane operatere. Te se „kvalifikacije mogu ugraditi u stroj.”179

Logika u zbivanjima
Moţda se čini da tvornički radnik za bučnim tvorničkim strojem ima malo
toga zajedničkog s izobraţenim stručnjakom koji u nekom tihom uredu u
računalo unosi ezoterične informacije za tipkovnicom ili zaslonom
osjetljivim na dodir. I u jednom i u drugom slučaju, meĎutim, imamo
osobu koja svoj posao dijeli s trećom stranom - automatiziranim sustavom.
A kako jasno pokazuju Brightova i kasnije studije automatizacije,
sofisticiranost sustava, bila ona mehanička ili digitalna, odreĎuje podjelu
uloga i odgovornosti, te skup vještina koje se u skladu s tim zahtijevaju od
svake strane. A kako se u stroj ugraĎuje sve više kvalifikacija, on na sebe
preuzima sve veću kontrolu nad poslom. Radnik tada ima sve manje prilike
da se angaţira i da dublje razvija svoju darovitost, primjerice kad je riječ o
umijeću tumačenja i prosuĎivanja. Kad automatizacija dosegne najviši
stupanj, kad preuzme zapovjedništvo nad poslom, radniku preostaje samo
nazadovanja u pogledu stručnosti. Neposredni proizvod udruţenog rada
čovjeka i stroja, vaţno je naglasiti, pritom moţe biti izvrstan, mjereno
kriterijima djelotvornosti, pa čak i kvalitete, ali odgovornost i angaţman
čovjeka svejedno se srozavaju. “Što ako je cijena strojeva koji misle čovjek
koji ne misli?” upitao je 2008. povjesničar tehnologije George Dyson. 180 A
budući da i dalje na računala prebacujemo odgovornost za analiziranje i
odlučivanje, to pitanje samo dobiva na teţini.
Sve veći broj značajki koje sustavima za potporu odlučivanju daju
mogućnost voĎenja misli liječnika, kao i preuzimanje kontrole nad
pojedinim aspektima odlučivanja u medicini, sve to odraţava dramatičan
napredak računarstva u posljednje vrijeme. Kad liječnik daje dijagnozu,
oslanja se na svoje poznavanje velikog broja specijaliziranih informacija,
stečeno kroz godine strogog školovanja i staţiranja te trajnim praćenjem
medicinskih časopisa i druge relevantne literature. Sve donedavno bilo je
teško, ako ne i nemoguće, postići da računala podraţavaju takvo duboko,
specijalizirano i često prešutno znanje. Ustrajnim povećanjem procesorske
snage, brzim padom troškova pohrane podataka i rada mreţe, te napretkom
metoda umjetne inteligencije poput obrade prirodnog jezika i
prepoznavanja obrazaca, stanje se korjenito mijenja. Računala tako sve
umješnije pregledavaju i interpretiraju goleme količine teksta i drugih
informacija. Zapaţajući korelacije u podacima - obiljeţja ili fenomene za
koje postoji tendencija grupiranja, ili istodobnog ili susljednog
pojavljivanja - računala često daju točna predviĎanja, primjerice izračunom
vjerojatnosti da pacijent koji iskazuje neki skup simptoma ima ili će dobiti
odreĎenu bolest, ili vjerojatnost da će oboljela osoba dobro reagirati na
odreĎeni lijek ili terapijski reţim.
Primjenom tehnika strojnog učenja kao što su stabla odlučivanja i
neuralne mreţe, koje dinamički modeliraju kompleksne statističke odnose
meĎu fenomenima, računala profinjuju način izvoĎenja predviĎanja jer
obraĎuju više podataka i primaju povratne informacije o točnosti
prethodnih predviĎanja.181 Ocjena različitih varijabli postaje preciznija,
izračuni vjerojatnosti bolje odraţavaju ono što se zbiva u stvarnom svijetu.
Kao i ljudi, današnja računala postaju pametnija s iskustvom. Protokoli
strojnog učenja ugraĎuju se i u hardver: kako vjeruju računalni
znanstvenici, novi će “neuromorfni” čipovi još povećati sposobnosti učenja
računala. Strojevi će postati rafiniraniji. Moţda nam se koţa jeţi od
pomisli da su računala “pametna” ili “inteligentna”, ali činjenica je da
računala uspješno repliciraju mnoge odluke liječnika sluţeći se
statističkom analizom velikih količina digitalnih informacija - danas to
nazivamo “big data” - iako im eto manjka razum, suosjećanje i mudrost
liječnika. Mnoge su stare rasprave o značenju pojma inteligencije postale
bespredmetne uslijed puke numeričke sile današnjih strojeva za obradu
podataka.
Dijagnostičke će sposobnosti računala samo napredovati. U e-
kartonima se prikuplja sve više podataka o pacijentima; u njima su
digitalizirane slike i rezultati pretraga te ljekarničke transakcije, a u ne tako
dalekoj budućnosti i očitanja s osobnih bioloških senzora i aplikacija za
zdravstveni nadzor. Sa svim tim računala će postati uspješnija u
pronalaţenju korelacija i izračunavanju vjerojatnosti sve podrobnijih
pojedinosti. Predlošci i vodiči postat će obuhvatniji i sloţeniji. Imajući u
vidu današnje isticanje vaţnosti veće djelotvornosti zdravstva, vjerojatno je
da će cijelo područje medicine zahvatiti tejloristički etos optimizacije i
standardizacije. Već sada jak trend nadomještanja osobnog kliničkog
prosuĎivanja statističkim rezultatima tzv. medicine temeljene na dokazima
još će više uhvatiti maha. Liječnici će se suočiti sa sve većim pritiskom,
ako ne i izravnom samovoljom uprave, da softveru prepuste više kontrole
nad odlukama o dijagnozama i terapijama.
Nelijepo ali ne i netočno rečeno, mnogi bi se liječnici mogli naći u
ulozi ljudskih senzora koji prikupljaju informacije na temelju kojih će
odluke donositi računalo. Liječnik će pregledati pacijenta i unijeti podatke
u elektroničke obrasce, ali računalo će preuzeti glavnu riječ u predlaganju
dijagnoza i preporučivanju terapija. Zahvaljujući ustrajnom povećavanju
računalne automatizacije po Brightovoj hijerarhiji, čini se da će liječnici
morati preţivjeti, bar u nekim vidovima svoga posla, isti onaj učinak
onestručavanja koji se svojedobno zaustavljao na tvorničkim radnicima.
I u tome neće biti sami. Najezda računala u stručne poslove na djelu
je posvuda. Već smo vidjeli kako na razmišljanje korporativnih revizora
utječu ekspertni sustavi koji donose predviĎanja o rizicima i drugim
varijablama. Drugi se financijski stručnjaci, od kreditnih savjetnika do
investicijskih menadţera, u donošenju odluka takoĎer oslanjaju na
računalne modele, i Wall Street je danas većim dijelom pod kontrolom
računala koja love korelacije, odnosno numeričkih znalaca koji ta računala
programiraju. Broj ljudi uposlenih u svojstvu trgovaca vrijednosnicama
izmeĎu 2010. i 2013. je skresan za trećinu, sa 150 000 na 100 000, unatoč
tome što tvrtke na Wall Streetu često biljeţe rekordnu dobit. Opći cilj
tvrtki za bankovna ulaganja i posredovanja je “automatizacija sustava i
kresanje broja brokera” kako je Bloombergovom izvjestitelju pojasnio
jedan financijski analitičar. Preostali “ionako samo klikću po ekranu”.182
To vrijedi ne samo za burze običnih dionica i obveznica, nego i za
trgovanje i sastavljanje sloţenih financijskih instrumenata. Ashwin
Parameswaran, analitičar tehnologije i nekadašnji investicijski bankar,
primjećuje da su “banke uloţile značajan napor da smanje udio znanja i
vještina potrebnih za odreĎivanje cijena izvedenih vrijednosnica, odnosno
za trgovanje takvim vrijednosnicama. Sustavi za burzovno trgovanje sve se
više modificiraju tako da se što više znanja ugradi u sam softver.”183
Prediktivni algoritmi uselili su se čak i u eterični svijet ulagačkog kapitala,
u kojemu su se najveći investitori dugo ponosili time što imaju dobar nos
za posao i inovacije. Ugledne investicijske tvrtke kakve su grupa Ironstone
i Google Ventures danas pomoću računala njuškaju za obrascima u
izvještajima o poduzetničkim uspjesima, i svojim se ulozima kockaju u
skladu s njima.
Sličan se trend sprema i u odvjetništvu i pravosuĎu. Pravnici već
godinama na računalima pripremaju spise i pretraţuju baze podataka.
Softver odnedavna preuzima i još vaţniju ulogu u odvjetničkim uredima.
Ključni postupak otkrivanja dokumenata, gdje mladi odvjetnici i vjeţbenici
iščitavaju dopise, elektroničku poštu i zabilješke u potrazi za dokaznim
materijalom, već je danas većim dijelom automatiziran. Računalo u samo
par sekundi pretraţi na tisuće stranica digitaliziranih spisa. Uz pomoć
softvera za elektroničko otkrivanje s algoritmima za analizu jezika strojevi
ne uočavaju samo relevantne riječi i fraze nego i lance dogaĎaja, odnose
meĎu ljudima pa čak i osobne osjećaje i motivacije. Već i samo jedno
računalo moţe na sebe preuzeti posao desetka dobro plaćenih stručnjaka.
Napredovao je i softver za pripremu spisa: popunjavanjem jednostavnog
obrasca odvjetnik će sastaviti sloţen ugovor za sat-dva - za taj su posao
nekad trebali dani.
 Na obzorju su i veće promjene. Tvrtke za izradu pravničkog softvera
počinju razvijati algoritme za statističko predviĎanje koji rade tako što
analiziraju na tisuće starih slučajeva i na temelju njih preporučuju parnične
strategije s velikim izgledima za uspjeh. Softver će uskoro moći donositi
takve odluke za koje su dosad bili potrebni iskustvo i mudrost parničara
veterana.184 Lex Machina, tvrtka koju je 2010. pokrenula skupina profesora
s Pravnog fakulteta Sveučilišta Stanford, nudi prikaz svoje ponude: bazu
podataka od nekih 150.000 slučajeva iz prava intelektualnog vlasništva, na
temelju kojih se izvodi računalna analiza koja predviĎa ishod patentnih
sporova u različitim scenarijima. Uzimaju se u obzir nadleţni sud, sudac
koji vodi spor, odvjetnici koji rade na slučaju, presude u sličnim
slučajevima i drugi elementi.
Prediktivni algoritmi preuzimaju sve veću kontrolu i nad operativnim
poslovnim odlučivanjem. Tvrtke svake godine troše milijarde i milijarde
dolara na softver za “analizu ljudskih potencijala” koji automatizira odluke
o upošljavanju, plaćama i promociji. Xerox se danas oslanja isključivo na
računala pri odabiru meĎu kandidatima za svojih pedeset tisuća radnih
mjesta na korisničkoj podršci. Polusatni test ličnosti svodi se na to da
kandidati pola sata sjede za računalom a softver za izbor uposlenika
trenutačno ih ocjenjuje tako što izračunava vjerojatnost da će dobro
obavljati posao, da će dolaziti na vrijeme, i da će htjeti zadrţati radno
mjesto. Kandidatima s najviše bodova nudi se posao, ostale se šalje kući.185
UPS se pak sluţi prediktivnim algoritmima pri odreĎivanju ruta svojih
dostavnih vozila. Maloprodajnim tvrtkama oni pomaţu optimalno
razmjestiti proizvode na police. Marketinške i oglašivačke agencije tako
biraju mjesto i vrijeme emitiranja oglasa te generiranje promotivnih poruka
na društvenim mreţama. Menadţeri se tako sve češće naĎu u podreĎenoj
ulozi u odnosu na softver. Na njima je da pregledaju i odobre planove i
odluke koje su generirala računala.
I evo ironije: premjestivši središte ekonomije s fizičkih dobara na
tokove podataka, računala su posljednjih desetljeća informacijskim
radnicima donijela status i bogatstvo. Ljudi koji su ţivjeli od manipulacije
znakovima i simbolima na zaslonu postali su zvijezde nove ekonomije, a
pritom su mnogi tvornički poslovi, na kojima se odrţavala srednja klasa,
odlazili u inozemstvo ili su prelazili na robote. Činilo se da mjehur dot-com
tvrtki kasnih 1990-ih, tih nekoliko euforičnih godina u kojima su se
bogatstva računalnih mreţa odlila na račune burzovnih trgovaca, najavljuje
nadolazak zlatnog doba neobuzdanih ekonomskih prilika - navijači su to
tada nazivali “dugim rastom”. No, pokazalo se da dobra vremena proĎu.
Danas vidimo da, kako je bio predvidio Norbert Wiener, automatizacija ne
favorizira nikoga. Računala su jednako dobra u analizi simbola i u
“svakom vidu prepoznavanja obrazaca i upravljanja informacijama, kao i u
upravljanju pokretima industrijskih robota. Čak i ljudi koji rade sa
sloţenim računalnim sustavima gube radna mjesta od softvera, budući da
se i podatkovni centri, poput tvornica, sve više automatiziraju. Goleme
farme posluţitelja koje vode tvrtke poput Googlea, Amazona i Applea u
biti rade same. Zahvaljujući virtualizaciji, inţenjerskoj tehnici koja
softverski replicira funkcije hardvera posluţitelja, rad postrojenja mogu
nadzirati i kontrolirati algoritmi. Mreţni problemi i nesavršenosti u radu
aplikacija mogu se detektirati i ispraviti automatski, često već u
sekundama. Moglo bi se pokazati da je “intelektualizacija rada”
devetnaestog stoljeća, kako to naziva talijanski teoretičar medija Franco
Berardi,186 bila samo prethodnica automatizacije intelekta s početka
dvadeset i prvog stoljeća.
Uvijek je riskantno spekulirati o tome koliko će daleko računala ići u
oponašanju uvida i prosudbi ljudi. Ekstrapolacije koje se temelje na
nedavnim trendovima itekako se znaju pretvoriti u maštarije. Ali čak i ako
pretpostavimo, nasuprot ekstravagantnim obećanjima evangelizatora “big
data” da postoje ograničenja primjenjivosti i korisnosti predviĎanja koja se
temelje na korelacijama i drugim vrstama statističke obrade, čini se jasno
da računalima predstoji još dug put prije nego nabasaju na ta ograničenja.
Kad je početkom 2011. IBM-ovo superračunalo Watson preotelo
krunu kralja kviza Izazov!, pomevši preostala dva natjecatelja, u tome smo
mogli očitati naznake budućeg razvoja analitičkih sposobnosti računala.
Watsonovo umijeće da dešifrira tendencije pitanja bilo je zapanjujuće, ali
po današnjim mjerilima u programiranju umjetne inteligencije, to nije ništa
naročito. U osnovi, riječ je o pretraţivanju goleme baze podataka ne bi li se
pronašli mogući odgovori, da bi se zatim pomoću niza predikcijskih
postupaka ocijenilo koji od njih nosi najveću vjerojatnost da bude ispravan.
No, računalo je taj posao obavljalo tako brzo da je u tome bilo uspješnije i
od izvanredno pametnih ljudi na ispitu poznavanja trivijalnosti,
prepoznavanju igara riječi, te prisjećanja.
Watson predstavlja procvat jedne nove, pragmatične forme umjetne
inteligencije. Pedesetih i šezdesetih godina prošlog stoljeća, kad su
digitalna računala još bila novost, mnogi su matematičari i inţenjeri, a i
popriličan broj psihologa i filozofa, došli do zaključka da ljudski mozak
mora funkcionirati kao neka vrsta digitalnog računalnog stroja. U računalu
su vidjeli metaforu za um i model uma. Iz toga je pak slijedilo da bi
stvaranje umjetne inteligencije trebao biti manje-više jasan zadatak: treba
dokučiti koji se to algoritmi vrte u našoj glavi, i onda ih programiranjem
prevesti u softver. Nije upalilo. Prvotna je strategija u umjetnoj inteligenciji
neslavno propala. Što god se nama u glavi dogaĎalo, to se ne moţe svesti
na proračune koji bi se izvodili na računalu.187 Današnji računalni
znanstvenici imaju sasvim drugi pristup umjetnoj inteligenciji, koji je
istodobno i manje ambiciozan i efikasniji. Cilj više nije replicirati proces
ljudskog mišljenja - to nam je dalje nedohvatljivo - nego rezultate tog
procesa. Gleda se, dakle, neki konkretni proizvod uma - recimo odluka o
upošljavanju ili odgovor na beznačajno pitanje iz kviza - a zatim se
računalo programira tako da postigne isti rezultat na svoj bezuman način.
Rad Watsonovih sklopova izrazito je nesličan onome što se odvija u umu
osobe koja sudjeluje u Izazovu, ali Watson svejedno postiţe bolje rezultate.
Britanski je matematičar i pionir računarstva Alan Turing 1930-ih
godina radeći na doktoratu došao na ideju “proročkog stroja”. Bilo bi to
takvo računalo koje primjenjuje neki skup eksplicitnih pravila nad zadanim
podacima i na “neki nespecificirani način” dolazi do odgovora na pitanja
za čiji bi odgovor inače bilo nuţno prešutno ljudsko znanje. Turinga je
zanimalo u kojoj je mjeri moguće ukloniti intuitivnost spoznavanja tako da
ostane samo ostvarivanje cilja, inţenjerska domišljatost. U svrhu tog
misaonog eksperimenta zamislio je da bi snaga takvog računskog stroja
bila bezgranična, i u pogledu brzine računanja i u pogledu količine
podataka koji se uzimaju u obzir. “Nije nam vaţno koliko bi za to trebalo
inţenjerske domišljatosti”, piše Turing, “pa pretpostavljamo da nam je
dostupna u neograničenim količinama”.188 Turing je, kao i obično, bio
ispred svog vremena. Shvatio je, kao malo tko u to doba, latentnu
inteligentnost algoritama, i predvidio je kako će se ona oslobaĎati s
njihovom brzinom. Računala i baze podataka uvijek će imati svoje granice,
ali u sustavima kakav je Watson moţe se nazrijeti nadolazak proročkih
strojeva. Ono što je Turing samo zamišljati, inţenjeri danas stvaraju. Na
mjesto intuitivnosti spoznaje nastupa inţenjerska domišljatost.
Watsonova snaga u analizi podataka sada se i u praksi koristi kao
ispomoć pri dijagnostici u onkologiji i drugim specijalizacijama medicine,
a IBM predviĎa i daljnje primjene u područjima poput prava, financija i
obrazovanja. Špijunske sluţbe poput CIA- e i NSA-a navodno takoĎer
ispituju taj sustav. Ako je Googleov auto bez vozača otkrio novu
sposobnost računala da repliciraju naše psihomotoričke vještine, da
dosegnu ili nadmaše naše umijeće snalaţenja u fizičkom prostoru, Watson
demonstrira novu sposobnost računala da replicira naše spoznajne vještine,
i da dosegne ili premaši naše umijeće snalaţenja u svijetu simbola i ideja.

Bez atmosfere
Repliciranje rezultata mišljenja, meĎutim, nije mišljenje. Kako je isticao i
sam Turing, algoritmi nikad neće potpuno nadomjestiti intuiciju. Uvijek će
biti mjesta za “spontane prosudbe koje nisu rezultat svjesnih lanaca
zaključivanja”.189 Ono što nas stvarno čini pametnima nije naša sposobnost
da izvlačimo činjenice iz dokumenata ili raskrivamo statističke obrasce u
tablicama podataka. Riječ je o našoj sposobnosti da uviĎamo smisao u
nečemu - da znanje koje smo stekli opaţanjem i doţivljavanjem,
življenjem, moţemo satkati u bogato i fluidno razumijevanje svijeta, koje
tada primjenjujemo na bilo koji zadatak ili izazov. Ta gipkost uma, koja
obuhvaća i svjesno i nesvjesno razumijevanje, i razumnost i nadahnutost,
omogućuje ljudskim bićima da razmišljaju: pojmovno, kritički,
metaforički, spekulativno, duhovito - da čine iskorake logike i mašte.
Hector Levesque, računalni znanstvenik i robotičar sa Sveučilišta u
Torontu, nudi primjer jednog jednostavnog pitanja na koje čovjek odgovori
u trenu a računalima sasvim izmiče:
Velika kugla isti je čas probila dasku jer je bila od stiropora.
- Što je bilo od stiropora, velika kugla ili daska?
Mi ćemo na to lako odgovoriti jer razumijemo što je stiropor i što se
dogodi kad nam, primjerice, nešto padne na stol ili klupu, kako obično
izgleda daska, i što se podrazumijeva pridjevom “velik”. Jasan nam je i
kontekst situacije i kontekst riječi koje je opisuju Računalo nema nikakvih
uvida o svijetu pa mu je jezik pitanja neproničan. Ono se jednostavno
zaplete u algoritmima. SvoĎenje inteligencije na statističku analizu velikih
skupova podataka “moţe nas dovesti”, kaţe Levesque, “do sustava čije su
performanse veoma impresivne a svejedno se svodi na idiota koji boluje od
savantizma”. Takav će sustav moţda biti sjajan u šahu ili na kvizu, u
prepoznavanju lica ili nekoj drugoj strogo omeĎenoj zadaći, ali su
“potpuno beznadni izvan svog područja ekspertize”.190 Njihova preciznost
jest zapanjujuća, ali ona je često simptom suţenosti njihove percepcije.
Čak i kad se usmjeri na pitanja podoba za probabilističke odgovore,
računalna analiza podloţna je pogreškama. Brzina, te prividna egzaktnost
računalnih izračuna, znaju prikriti ograničenja i nejasnoće u podacima nad
kojima se izvode, da i ne spominjem nesavršenosti u samim algoritmima za
kopanje po podacima. Svaki veliki skup podataka, uz pouzdane sadrţi i
obilje sumnjivih korelacija. Nije teško biti zaveden pukom koincidencijom,
ili smisliti potpuno fiktivnu povezanost.191 Nadalje, kad se odreĎeni skup
podataka jednom učvrsti kao osnova za vaţne odluke, i podaci i njihova
analiza postaju veoma podloţni korupciji. U potrazi za novčanim,
političkim ili društvenim probitkom, ljudi će pokušati izigrati sustav. Kako
je u svom znamenitom članku 1976. objasnio sociolog Donald T.
Campbell: “Što se neki kvantitativni društveni indikator više rabi u
odlučivanju o društvu, to će on biti podloţniji korupcijskim pritiscima i to
će lakše iskvariti i iskriviti društvene procese na koje je trebao motriti.”192
Uslijed manjkavosti podataka i algoritama, za stručnjake se - a i za
sve ostale - otvara opasnost od jednog osobito pogubnog oblika
automatizacijske pristranosti. “Prijetnja se sastoji u tome da si dopustimo
da se bezumno veţemo za rezultate naše analize čak i onda kad imamo na
temelju čega razumno sumnjati da je nešto pošlo krivo”, upozoravaju
Viktor Mayer-Schönberger i Kenneth Cukier u knjizi Big Data iz 2013. “Ili
pak da ćemo pripisati neki stupanj istinitosti podacima koji ga ne
zavreĎuju.”193 Osobiti rizik s algoritmima koji proračunavaju korelacije
proistječe iz njihova oslanjanja na podatke iz prošlosti pri predviĎanju
budućnosti. U većini slučajeva budućnost se odvija u skladu s
očekivanjima, odnosno prati presedane. No, u tim posebnim prilikama u
kojima okolnosti vrludaju u odnosu na uvrijeţene obrasce, algoritmi znaju
davati upravo ludo netočna predviĎanja - i ta je činjenica već donijela
propast nekim izrazito kompjuteriziranim osiguravajućim društvima i
burzovnim tvrtkama. Uza sve svoje sposobnosti, računala još uvijek
iskazuju zastrašujući nedostatak zdravog razuma.
U što većoj mjeri prihvatimo ono što Kate Crawford, znanstvenica iz
Microsofta, naziva “podatkovnim fundamentalizmom”,194 to ćemo biti u
većem iskušenju da umanjimo vrijednost mnogih sposobnosti koje računala
ne mogu oponašati - i prenesemo toliko kontrolne moći na softver da time
ljudima ograničimo mogućnost upotrebe onakvog znanja i umijeća koje
proizlazi iz stvarnog iskustva, i kakvo često dovodi do kreativnih,
protuintuitivnih uvida. Kako pokazuju neke od nepredviĎenih posljedica
elektroničkog voĎenja medicinske dokumentacije, predlošci, obrasci i
formule nuţno su reduktivni i sasvim lako uvlače um u luĎačku košulju.
Lawrence Weed, liječnik i profesor medicine iz Vermonta još od 1960-ih
godina snaţno zagovara upotrebu računala koja bi liječnicima trebala
pomoći da odlučuju pametno i utemeljeno.195 Nazivaju ga ocem e-kartona.
Ali čak i on upozorava na to da današnja “neupućena upotreba statističkih
znanja” u medicini “sustavno isključuje individualizirano znanje i podatke
koji su bitni za skrb o pacijentima”.196
Garry Klein, psiholog koji proučava kako ljudi donose odluke, još je
dublje zabrinut. Prisiljavajući liječnike da slijede skupove pravila,
medicina zasnovana na dokazima “moţe biti preprekom napretku
znanosti”. Ako bolnice i zdravstvena osiguranja “propišu postupanje prema
pravilima medicine zasnovane na dokazima, a pod prijetnjom sudskih
sporova u slučaju da nepovoljan ishod bude praćen bilo kakvim
odstupanjima od uvrijeţene prakse, liječnici će se početi kloniti
alternativnih strategija liječenja koje još nisu ispitane nasumičnim
kontroliranim testovima. Napredak znanosti guši se ako klinički liječnici,
koji ekspertizu u liječenju spajaju s poštovanjem prema rezultatima
znanosti budu spriječeni u istraţivanju i obeshrabreni u otkrivanju.”197
Ako ne budemo pazili, automatizacija umnog rada, mijenjajući narav
i cilj intelektualnog napora, moţe potkopati i jedan od temelja same
kulture: našu teţnju da razumijemo svijet. Prediktivni algoritmi moţda jesu
nadnaravno uspješni u otkrivanju korelacija, ali su nezainteresirani za
uzroke tih obiljeţja i pojava. A upravo će raskrivanje uzročnosti -
pomnjivo raspletanje onoga kako se i zašto nešto zbiva onako kako se
zbiva - to što širi dosege ljudskog razumijevanja i na koncu daje smisao
našoj potrazi za znanjem. Ako doĎemo na to da automatizirane izračune
vjerojatnosti počnemo smatrati dostatnima u svojim poslovnim i
društvenim ciljevima, riskiramo da izgubimo ili oslabimo svoju teţnju k
potrazi za objašnjenjima, da se lišeni motivacije počnemo spuštati tim
vijugavim stazama što vode čuĎenju i mudrosti. Čemu, ako računalo
izbacuje “odgovore” u milisekundi ili dvije?
U svom je ogledu “Racionalizam u politici” iz 1947. britanski filozof
Michael Oakeshott ponudio jedan ţivi opis modernog racionalista: “U
njegovu umu nema atmosfere, mijena godišnjih doba ni promjena topline;
njegovi su intelektualni procesi, koliko je god moguće, izolirani od svakog
vanjskog utjecaja i kreću se ka praznini.” Racionalista ne zanimaju kultura
i povijest; osobno gledište on niti njeguje niti pokazuje. Njegovo se
mišljenje odlikuje jedino “brzinom kojom raznolikost i zamršenost
doţivljaja” svodi na “formulu”.198 Oakeshottove nam riječi nude i savršen
opis računalne inteligencije: eminentno praktične i produktivne a posve
manjkave znatiţeljom, maštom i oslonjenošću na svijet.
 6.
Svijet i zaslon

Otočić Igloolik leţi duţ obale poluotoka Melville u Nunavutu na sjeveru

Kanade, i zimi bi na njemu svatko podivljao. Prosječna se temperatura
zadrţava na oko -20°C. Okovan je debelim morskim ledom. Sunca nema.
Unatoč brutalnim uvjetima inuitski lovci već nekih četiri tisuće godina
napuštaju svoje otočne nastambe i putuju po ledu i tundri na tisuće
kilometara u potrazi za sobovima i drugom lovinom. Njihovo umijeće
snalaţenja u golemim arktičkim prostranstvima, u kojima je malo toga
prema čemu bi se čovjek orijentirao, snjeţne formacije se stalno mijenjaju
a tragovi nestaju preko noći, zadivljuju putnike i znanstvenike još od 1822.,
kad je engleski istraţivač William Edward Parry u svom dnevniku unio
zabilješku o “zapanjujućoj preciznosti” zemljopisnog znanja njegova
vodiča Inuita.199 Izvanredna vještina snalaţenja u prostoru Inuita ne počiva
na umijeću vladanja tehnologijom - karte, busole i druge instrumente oni
izbjegavaju - nego na dubinskom poznavanju vjetrova, obrazaca snjeţnih
nanosa, ponašanja ţivotinja, zvijezda, plime i oseke te morskih struja.
Inuiti su majstori percepcije.
To jest, nekoć su to bili. Na prijelazu tisućljeća nešto se promijenilo
u kulturi Inuita. Godine 2000. vlada SAD-a je ukinula mnoga dotadašnja
ograničenja civilne upotrebe GPS-a, globalnog sustava za odreĎivanje
pozicije. Točnost GPS ureĎaja se podigla a cijene su im pale. Iglulički
lovci, koji su pseće zaprege već bili zamijenili motornim sanjkama, počeli
su se orijentirati po softverskim kartama i smjerokazima. Novu su
tehnologiju osobito rado prihvaćali mlaĎi Inuiti. Mladi je lovac u prošlosti
morao izdrţati dugo i tegobno naukovanje sa starijima, ne bi li s vremenom
pomalo razvio svoje orijentacijske talente. Nabavkom jeftinog GPS
prijemnika mogao je preskočiti uvjeţbavanje i prebaciti odgovornost za
orijentaciju na ureĎaj. Na put je mogao krenuti i u pojedinim uvjetima u
kojima su lovački pohodi nekoć bili neizvedivi, primjerice za guste magle.
Tradicionalnije su se inuitske tehnike u usporedbi s lakoćom upotrebe i
preciznosti automatizirane navigacije doimale zastarjelo i nepraktično.
No, kako su se GPS ureĎaji na Iglooliku uvrijeţili, počele su
pristizati vijesti o ozbiljnim nezgodama pri lovu, u kojima je bilo teških
ozljeda pa čak i smrtnih slučajeva. Često se pokazalo da je uzrok nesreće
bilo pretjerano oslanjanje na satelite. Kad se prijemnik pokvari, ili mu se
smrznu baterije, lovac bez dobro razvijenih orijentacijskih sposobnosti lako
se izgubi u bezobličnoj pustari i nastrada od izloţenosti surovoj prirodi. A
ureĎaji sa sobom nose odreĎene opasnosti čak i kad su ispravni. Rute,
besprijekorno ucrtane na satelitskim kartama u lovaca mogu stvoriti jednu
vrstu suţene percepcije. Vjerujući GPS-u zajurit će se u opasno tanak led,
iznenadit će ih litica ili kakva druga opasnost koju bi iskusan navigator bio
izbjegao već zdravim razumom i razmišljanjem unaprijed. Neki bi se od tih
problema mogli ublaţiti poboljšanjima ureĎaja za navigaciju ili boljim
uputama za upotrebu. Ali neće se ublaţiti gubitak nečega što jedan
plemenski starješina naziva “mudrošću i znanjem jednog Inuita”.200
Antropolog Claudio Aporta sa Sveučilišta Carleton u Ottawi
proučava Inuite već niz godina. Prema njegovim izvještajima, satelitska
navigacija im je donijela mnoge prednosti, ali njezinim usvajanjem
nazadovale su im orijentacijske sposobnosti i općenito osjećaj tla. Kad se
lovac na motornim sanjkama opremljenim GPS-om usredotočuje na upute
koje mu daje računalo, on gubi iz vida ono što ga okruţuje. Kako kaţe
Aporta, on putuje “vezanih očiju”.201 Jedan jedinstven dar, koji je taj narod
definirao i obiljeţio kroz tisuće godina, moţda iščezne već za jedan ili dva
naraštaja.

Božica satelita
Svijet je jedno čudno, promjenjivo i opasno mjesto. Snalaţenje u njemu od
ţivotinje traţi mnogo napora, kako mentalnog tako i fizičkog. Ljudi
vjekovima izraĎuju pomagala koja im ublaţavaju teškoće putovanja.
Povijest je, uz ostalo, zapis o otkrivanju domišljatih načina da si olakšamo
prolazak kroz okoliš, da si omogućimo prelaţenje većih i tegobnijih
razdaljina i pritom se ne gubimo, ozljeĎujemo niti budemo pojedeni. Prvo
su došle rudimentarne karte i ucrtane staze, zatim karta neba, pomorske
karte i zemaljski globus a potom i instrumenti poput utega na konopcu za
mjerenje dubine, kvadranta, astrolaba, kompasa, oktanta i sekstanta,
teleskopa, pješčanog sata i kronometra. Duţ obala i otoka podignuti su
svjetionici a na pličinama plutače. Popločani su putovi, postavljeni
znakovi, a autoceste su povezane i obrojčane. Mnogi od nas pri snalaţenju
u svijetu već se poduţe ne oslanjamo na vlastitu pamet.
NajmlaĎe pridošlice meĎu našim navigacijskim pomagalima su GPS
prijemnici i drugi automatizirani kartografski ureĎaji koji sluţe odreĎivanju
poloţaja i trase. Ovoj staroj priči oni daju i jedan nov, zabrinjavajući
zaplet. Prijašnja navigacijska pomagala, osobito ona koja su bila dostupnija
i cijenom pristupačnija običnim ljudima - bila su upravo to: pomagala.
Projektirali su ih tako da putnici uz njih steknu bolji dojam o svijetu koji ih
okruţuje: da im izoštre osjećaj za smjer, da ih pravodobno upozore na
opasnost, da istaknu obliţnje orijentire i općenito, da im pomognu da se
lakše smjeste kako u poznatom tako i u nepoznatom okolišu. Sustavi za
satelitsku navigaciju mogu sve to, i ne samo to, ali se ne projektiraju tako
da nam prodube osjećaj za ono što nas okruţuje. Projektiraju se tako da nas
oslobode potrebe za tim osjećajem. Ti sustavi preuzimaju kontrolu nad
mehanikom orijentacije i našu ulogu pritom svode na praćenje rutinskih
uputa - nakon 500 metara skrenite lijevo, siĎite s autoceste na sljedećem
izlazu, ostanite u desnoj traci, odredište je pred vama - i na kraju nas
izoliraju od našeg okruţenja, bilo da su posrijedi ureĎaji na upravljačkoj
ploči, pametni telefoni ili zasebni GPS prijemnici. Kako je to formulirao
tim znanstvenika sa Sveučilišta Cornell u članku iz 2008. godine: “Uz GPS
više ne morate znati gdje se nalazite ni gdje vam je odredište, ne morate
pratiti fizičke orijentire na putu, ne morate traţiti pomoć od suputnika ni
zapitkivati mještane.” Automatizacija pronalaţenja puta sluţi “inhibiranju
procesa doţivljavanja fizičkog svijeta orijentacijom u njemu”.202
Kao što je često slučaj s ureĎajima i uslugama koje nam olakšavaju
prolazak kroz ţivot, pojavom pristupačnih GPS-ova bili smo oduševljeni.
David Brooks je u svom komentaru u New York Timesu naslovljenom “The
Outsorced Brain” 2007. govorio u ime mnogih euforično pišući o
navigacijskom sustavu koji je dobio s novim autom: “Ubrzo sam se
romantično vezao za svoj GPS. Njegov mi je miran ţenski glas blagog
britanskog naglaska čak bio pomalo utješan. Dok sam slijedio njezinu
tanku plavu liniju, osjećao sam toplinu i sigurnost.” Njegova ga je “GPS
boţica”, kaţe, “oslobodila” dugogodišnjeg “baktanja” s orijentacijom.
Ipak, kako s negodovanjem priznaje, ta emancipacija što mu ju je donijela
njegova muza s instrument-table imala je i svoju cijenu: “Nakon nekoliko
tjedana sinulo mi je da bez nje više ne znam nikamo ići. Svaka voţnja do
imalo neuobičajenog odredišta značila je da joj moram odmah utipkati
adresu u sustav, da bih potom blaţen slijedio njezine upute sa satelita.
Pokazalo se da vrlo brzo nestaju i posljednji preostaci mog poznavanja
zemljopisa.” Cijena pogodnosti, piše Brooks, bio je gubitak
“autonomije”.203 Ova je boţica, eto, i sirena.
Na računalne karte nastojimo gledati istim očima kao na papirne,
samo što bi ove bile interaktivne i proizvod visoke tehnologije. To je
preduvjerenje pogrešno, i riječ je o još jednoj manifestaciji mita o
supstituciji. Tradicionalne karte daju kontekst. Nude nam pregled nekog
područja i od nas traţe da dokučimo gdje se nalazimo i da zatim
isplaniramo i vizualiziramo put do svoje sljedeće postaje. Da, one
zahtijevaju nešto truda - tako je sa svakim dobrim alatom - ali mentalni
napor našem umu pomaţe u stvaranju osobne kognitivne karte odreĎenog
područja. Čitanje karata, kako pokazuju istraţivanja, jača osjećaj za
prostornost i potiče razvoj orijentacijskih sposobnosti - i to tako da se lakše
snalazimo u prostoru i kad nemamo kartu. A da to i ne znamo, čini se da se
nesvjesno prisjećamo onoga što smo upamtili s papirnih karata, i tako se
orijentiramo, odnosno pronalazimo smjer koji će nas dovesti do odredišta.
U jednom su osobito relevantnom eksperimentu znanstvenici otkrili da je
osjećaj za smjer ljudima zaista najizoštreniji kad su okrenuti ka sjeveru -
onamo, dakle, kamo pokazuju karte.204 Papirne karte nisu puki pastiri koji
nas vodaju s mjesta na mjesto; one nas uče razmišljati o prostoru.
Karte koje generiraju računala spojena na satelite su drugačije. One
nam u pravilu nude tek minimalne prostorne informacije i orijentire. A
umjesto da od nas traţe da dokučimo gdje se točno nalazimo, GPS ureĎaj
nas postavlja u središte karte tako da svijet kruţi oko nas. U toj
minijaturnoj parodiji predkopernikanskog svemira moţemo se snalaziti a
da ni ne znamo gdje smo, od kuda dolazimo ni kamo idemo. Treba nam
samo adresa, raskriţje, naziv zgrade ili trgovine i ureĎaj će obaviti
potrebne proračune. Julia Frankenstein, njemačka kognitivna znanstvenica
koja proučava osjećaj uma za orijentaciju, vjeruje da “što se pri snalaţenju
više oslanjamo na tehnologiju manje ćemo nadograĎivati naše kognitivne
karte”. Budući da računalni navigacijski sustavi nude samo “najosnovnije
informacije o ruti, bez prostornog konteksta cjelovitog područja”,
objašnjava ona, naš mozak ne prima izvorni materijal potreban za
izgradnju bogatstva prostornog pamćenja. “Razviti kognitivnu kartu na
osnovi tako reduciranih informacija bilo bi pomalo kao da ţelite odsvirati
cijelu kompoziciju a imate samo nekoliko nota.”205
I drugi se znanstvenici slaţu. Jedno je britansko istraţivanje otkrilo
da vozači sluţeći se papirnim kartama razvijaju jače pamćenje ruta i
orijentira nego oni koji se oslanjaju na upute satelitskih sustava. Korisnici
karata nakon dovršenog puta umjeli su skicirati preciznije i detaljnije
dijagrame prijeĎenih ruta. Ti rezultati, izvješćuju istraţivači, “jasno govore
u prilog tome da upotreba navigacijskih sustava u vozilima negativno
utječe na stvaranje kognitivnih karata u vozača”. 206 U istraţivanju
provedenom na vozačima pri Sveučilištu Utah pronaĎeni su dokazi za
“sljepoću odsutnosti” kod korisnika GPS-a, koja im je narušila “uspjeh u
orijentaciji”, kao i njihovu sposobnost stvaranja vizualnih sjećanja na
okruţenje.207 Čini se da i pješaci koji barataju GPS-om pate od istih
poteškoća. U eksperimentu provedenom u Japanu istraţivači su skupini
ljudi zadali kamo da hodaju, i takvih je odredišta bilo nekoliko. Polovica
ispitanika dobila je ručne GPS ureĎaje; ostali su se sluţili planom grada na
papiru. Ispitanici s kartama išli su brţim putem, rjeĎe su zastajali i kasnije
su se sjećali gdje su bili nego ispitanici s ureĎajima. Još jedan prijašnji
eksperiment, u kojem su ispitanici hodali po nekom zoološkom vrtu u
Njemačkoj, polučio je slične rezultate.208
Umjetnica i dizajnerica Sara Hendren u svome komentaru snalaţenja
u nepoznatom gradu u kojemu je pohaĎala konferenciju opisala je kako je
danas lako oslanjati se na računalne karte - i kako se time oteţava razvoj
osjećaja za prostor i uništavaju orijentacijske sposobnosti uma. “Shvatila
sam da više dana zaredom upotrebljavam kartografsku aplikaciju na
mobitelu, koja daje govorne upute, za jednu te istu petminutnu šetnju
izmeĎu hotela i konferencijskog centra”, prisjeća se ona. “Jednostavno sam
svojevoljno isključivala cijelu jednu sferu percepcije na koju se oslanjam
čitav ţivot: nisam ni pokušavala pamtiti orijentire i prostorne odnose, niti
dojam koji mi daje neka ulica, baš ništa.” Sve je to zabrinjava: “svoju
višenačinsku pozornost i umijeće pamćenja”, kaţe, “prenijela sam na nešto
drugo” i time “osiromašila svoj ukupni osjetilni doţivljaj svijeta”.209

Kad se izgubimo
Kako pokazuju priče o pogubljenim pilotima, vozačima i lovcima, gubitak
navigacijskih vještina moţe imati teške posljedice. Za većinu je nas malo
vjerojatno da ćemo se naći na tako opasnim mjestima u svakodnevnoj
voţnji, šetnji i općenito snalaţenju u svijetu. Što nas dovodi do očitog
pitanja: koga briga? Ako stiţemo na odredište, zar je zaista vaţno
njegujemo li osjećaj orijentacije ili se prepuštamo stroju? Inuitski starješina
na Iglooliku moţda s pravom oplakuje usvajanje GPS-ova kao kulturnu
tragediju, ali svi mi koji ţivimo u zemljama iskriţanim dobro označenim
cestama i opremljenim benzinskim crpkama, mobitelima i odmorištima, svi
smo mi odavno izgubili i naviku i sposobnost junačkog snalaţenja u
prirodi. Naše su sposobnosti topografskog zamjećivanja i tumačenja,
osobito u prirodi, već načete. Njihovo daljnje slabljenje, ili čak potpuno
odricanja, moţda i nije tako bitno, osobito ako si pritom olakšavamo ţivot.
Ali ako kao kultura više i ne dobivamo puno čuvanjem svojih
orijentacijskih sposobnosti, osobni gubitak je svejedno tu. Na kraju
krajeva, mi jesmo zemaljska stvorenja. Nismo nikakve apstraktne točkice
koje se miču duţ plavih linija iscrtanih na zaslonu računala: mi smo
zbiljska bića u zbiljskom tijelu na zbiljskom mjestu. Upoznati to mjesto
moţda traţi truda, ali tako ovladavamo znanjem i to nas ispunjava. Tako
dolazimo do osobnog postignuća i autonomije, ali i osjećaja da tu
pripadamo, svijest da smo negdje “kao kod kuće” a ne “samo u prolazu”.
Orijentacijom si otvaramo prolaz od otuĎenosti do privrţenosti, bili mi
lovci na sobove na santi leda ili lovci na dobre prilike u gradskim
trgovinama. Moţemo se mrštiti kad čujemo nekoga kako kaţe da je
“pronašao sebe”, ali taj izraz, koliko god bio otrcan i zaludan, odraţava naš
dubinski osjećaj da je to tko smo prepleteno s onim gdje smo. Ne moţemo
se izlučiti iz svog staništa, barem ne tako da nešto vaţno ne ostavimo za
sobom.
GPS ureĎaj nam omogućuje da stignemo od točke A do točke B s
najmanje truda i gnjavaţe, i time nam moţda olakšava ţivot i podaruje taj
tup osjećaj blaţenosti, kako kaţe David Brooks. Ipak, kad ga prečesto
uključujemo on nam oduzima radost i zadovoljstvo razumijevanja svijeta
oko nas, ali i toga da taj svijet činimo dijelom sebe. Tim Ingold, antropolog
sa Sveučilišta Aberdeen u Škotskoj, razlikuje dva izrazito različita načina
kretanja svijetom: putovanje i prevoženje. Putovanje je, objašnjava, “naš
najosnovniji način bivanja u svijetu”. Uronjen u krajolik, ugoĎen na
njegove teksture i značajke, putnik uţiva u “takvom doţivljaju kretanja u
kojem se djelovanje i zamjećivanje intimno proţimaju”. Putovanje postaje
“trajni proces rasta i razvoja, ili samoobnavljanja”. Prevoţenje je, naprotiv,
“u biti usmjereno jedino odredištu”. Ono nije toliko proces otkrivanja
“kamo nas ţivot vodi” koliko puko “prenošenje ljudi i robe s mjesta na
mjesto na taj način da im osnovna narav ostane nepromijenjena”. Onaj tko
se prevozi zapravo se ne kreće ni sa kakvim smislom. “Ne, on je prenošen,
i postao je prolaznikom u vlastitom tijelu.”210
Putovanje je zamršenije i manje djelotvorno nego prevoţenje, i zbog
toga se našlo na udaru automatizacije. “Ako imate mobilni telefon s
Googleovim kartama”, kaţe Michael Jones, direktor u Googleovom
kartografskom odjelu, “moţete poći bilo kamo na planetu i pouzdati se u to
da ćemo vas uputiti kuda ćete moći ići lako i sigurno”. Rezultat je,
progovara on, sljedeći: “Nijedno se ljudsko biće više ne mora osjećati
izgubljeno.”211 To svakako zvuči privlačno, kao da je sada zauvijek riješen
neki temeljni egzistencijalni problem čovječanstva. Osim toga, to se uklapa
i u opsesiju Silicijske doline da se ljudi uz pomoć softvera otarase
“zapinjanja”. MeĎutim, što o tome više razmišljate, postaje vam sve jasnije
da nikad se ne suočiti s mogućnošću da budete izgubljeni znači ţivjeti u
stanju permanentne dislociranosti. Ako se nikad ne morate brinuti da
nećete znati gdje ste, onda nikad ni ne morate znati gdje ste. To nadalje
znači ţivjeti u stanju vezanosti za pratnju telefona i njegovih aplikacija.
U ţivotu čovjek zbog problema zapinje, ali to zapinjanje djeluje i kao
katalizator, nešto što nas vuče punijoj svjesnosti o vlastitoj situaciji i
njezinom dubljem razumijevanju. “Kad na bilo koji način zaobilazimo
zahtjeve što ih pred nas postavlja mjesto kojim putujemo”, primjećuje
pisac Ari Schulman u svom ogledu naslovljenom “GPS i kraj puta” i
objavljenom u časopisu New Atlantis 2011., završit ćemo tako da ćemo
dokinuti “najbolji mogući pristup mogućnosti nastanjivanja toga mjesta - a
utoliko i mogućnosti da igdje zaista i budemo”212
Još se toga moţe tako dokinuti. Neuroznanstvenici su došli do niza
vaţnih otkrića o tome kako mozak percipira i pamti prostor i poloţaj, i ta
otkrića još više podvlače ulogu orijentacije kao elementarne funkcije uma,
pamćenja i prisjećanja. Početkom 1970- ih John O‟Keefe i Jonathan
Dostrovsky s University Collegea u Londonu proveli su prijelomno
istraţivanje u kojemu su pratili rad mozga laboratorijskih štakora dok se
kreću unutar zadanog, omeĎenog prostora.213 Kako se štakor sve bolje
upoznaje s prostorom, neuroni u hipokampusu - dijelu mozga koji ima
glavnu ulogu u tvorbi sjećanja - počinju okidati svaki put kad ţivotinja
proĎe pokraj nekog mjesta. Ti lokacijski ugoĎeni neuroni, znanstvenici su
ih prozvali “stanice mjesta” i u meĎuvremenu su pronaĎeni i u mozgu
ostalih sisavaca, djeluju pomalo nalik oznakama kojima se mozak sluţi da
obiljeţi neki teritorij. Svaki put kad doĎete na neko mjesto, bio to gradski
trg ili susjedova kuhinja, to područje vrlo brzo kartografiraju ţivčane
stanice mjesta. Čini se, objašnjava O‟Keefe, da te ţivčane stanice aktiviraju
vrlo različiti signali, uz ostale i vidni, slušni i opipni, “i svaki takav osjet
ţivotinja moţe percipirati kad se naĎe u odgovarajućem dijelu okoliša.”214
U jednom je novijem istraţivanju, 2005., tim norveških znanstvenika
koje je vodio par Edvard i May-Britt Moser, otkrio još jedan novi skup
neurona uključenih u kartografiranje, odmjeravanje udaljenosti i prostornu
orijentaciju, a nazvali su ih “stanice rešetke” One se nalaze u unutarnjem
nosnom dijelu moţdane kore, koji je usko vezan za hipokampus, i u mozgu
stvaraju preciznu geografsku prostornu rešetku koju čine ravnomjerno
rasporeĎeni trokuti. Tu su rešetku Moseri usporedili s listom papra u našem
umu, na kojemu se ucrtava poloţaj ţivotinje u pokretu.215 Stanice mjesta
kartografiraju poloţaj, stanice rešetke daju apstraktniju prostornu kartu
koja ostaje nepromijenjena kamo god se ţivotinja kretala, čime nam daju
unutarnji osjećaj za smještaj. (Stanice rešetke dosad su pronaĎene u mozgu
više vrsta sisavaca, a nedavno provedeni pokusi s moţdanim elektrodama
ukazuju na to da ih imamo i mi.216) Stanice mjesta i stanice rešetke rade u
tandemu, a na osnovi signala dobivenih od drugih neurona koji motre na
smjer i poloţaj tijela, riječima znanstvenog pisca Jamesa Gormana, djeluju
“kao neka vrsta ugraĎenog navigacijskog sustava u samom središtu onoga
što u ţivotinja čini spoznaju o tome gdje su, kamo idu i otkud dolaze.”217
Usto što sudjeluju u orijentaciji i navigaciji, čini se da su takve
specijalizirane stanice vaţne i općenitije u tvorbi sjećanja, osobito sjećanja
na dogaĎaje i doţivljaje. Štoviše, O‟Keefe i Moseri su, uz druge
znanstvenike, počeli teoretizirati o tome da “mentalnim putovanjima” u
sjećanjima upravljaju isti oni moţdani sustavi koji nam omogućuju
snalaţenje u svijetu. U članku koji su 2013. objavili u časopisu Nature
Neuroscience Edvard Moser i njegov kolega György Buzsaki iznose
mnogo eksperimentalnih dokaza za to da isti oni “ţivčani mehanizmi koji
su evoluirali tako da se njima definiraju prostorni odnosi meĎu
orijentirima, mogu biti i utjelovljenje poveznica meĎu različitim
predmetima, dogaĎajima i drugim različitim predmetima, dogaĎajima i
drugim vrstama informacija o činjenicama”. A iz takvih poveznica tkamo
naša ţivot na sjećanja. Lako je moguće da je osjećaj za orijentaciju u
našem mozgu - njegov prastar, fm način biljeţenja i pamćenja kretanja
kroz prostor - upravo evolucijsko vrelo svakog pamćenja.218
Pri svemu tome malo je (i ne samo malo) strašno gledati što se zbiva
kad to vrelo presuši. Osjećaj za prostor obično nam slabi s godinama, a u
najgorem slučaju moţemo ga i potpuno izgubiti.219 Jedan od prvih i
najgorih simptoma demencije (u što spada i Alzheimerova bolest)
propadanje je stranica u hipokampusu i unutarnjem nosnom dijelu
moţdane kore, čija je posljedica gubitak lokacijskog pamćenja. 220 Ţrtve
počinju zaboravljati gdje su. Véronique Bohbot, psihijatrica istraţivačica i
stručnjakinja za pamćenje na Sveučilištu McGill u Montrealu, provela je
istraţivanja koja pokazuju da način na koji se sluţimo svojim
orijentacijskim umijećem utječe na rad pa čak i na veličinu hipokampusa - i
da se tako moţemo zaštiti od propadanja sposobnosti pamćenja.221 Što više
izgraĎujemo kognitivne prostorne karte, to će nam, čini se, biti snaţniji
sklopovi koji tvore takvo pamćenje. Dapače, tako nam još i raste količina
sive moţdane tvari u hipokampusu - taj je fenomen dokumentiran kod
londonskih taksista - analogno porastu mišićne mase uslijed fizičkih
napora. MeĎutim, ako puko “robotski” slijedimo upute kamo trebamo
skrenuti, upozorava Bohbot, time nećemo “stimulirati hipokampus” i
rezultat moţe biti veća podloţnost gubitku pamćenja.222 Bohbot je
zabrinuta da, ako hipokampus počne atrofirati uslijed manjka upotrebe u
orijentaciji, rezultat moţe biti gubitak pamćenja i porast rizika od
demencije. “Ovo društvo u mnogo čemu pogoduje smanjivanju
hipokampusa”, kako je izjavila u jednom intervjuu. “Mislim da će se u
sljedećih dvadesetak godina demencija javljati sve ranije i ranije.”223
Jedan odgovor na to je sljedeći: čak i ako se rutinski sluţimo GPS
ureĎajima u voţnji ili pješačenju, svejedno se moramo oslanjati na vlastiti
um kad se krećemo unutar zgrada i drugih prostora u koje signal GPS-s ne
dopire. Mentalna vjeţba koju dobivamo navigacijom zatvorenim
prostorima po toj je teoriji moţda dovoljna za zaštitu od propadanja
hipokampusa i s njim povezanog ţivčanog sklopovlja. Taj je argument
prije nekoliko godina još moţda mogao zvučati umirujuće, ali danas više
baš i ne moţe. Gladni podataka o našem kretanju i u potrazi za novim
prilikama za plasman reklamnih i drugih poruka usklaĎenih s našim
poloţajem, tvrtke koje proizvode softver i mobilne telefone sve brţe
nastoje ponuditi svoje usluge računalne kartografije i u zatvorenim
prostorima poput zračnih luka, trgovačkih centara i uredskih zgrada.
Google već danas u svojim kartama ima na tisuće tlocrta zgrada, i počeo je
slati fotografe u trgovine, prostore javnih sluţbi, muzeje pa čak i
samostane, sve kako bi izgradio podrobne karte i panoramske snimke
zatvorenih prostora. Početkom 2013. Apple je kupio WiFiSlam, tvrtku za
kartografiju zatvorenih prostora koja je izumila postupak kojim se poloţaj
moţe odrediti uz tek nekoliko centimetara odstupanja a bez GPS-a, samo
pomoću signala lokalne beţične mreţe i Bluetootha. Tu je tehnologiju
Apple, a naziva je iBeacon, ubrzo ugradio u iPhone i iPad. Smješteni u
trgovinama i drugim zatvorenim prostorima, iBeacon predajnici
funkcioniraju poput umjetnih stanica mjesta i aktiviraju se kad god im se
netko naĎe u blizini. Oni su vjesnici onoga što je časopis Wired nazvao
“mikrolokacijskim praćenjem”.224
Kartografija zatvorenih prostora sa sobom donosi obećanje da će
potaknuti našu ovisnost o računalnoj navigaciji i još više smanjiti
mogućnost da se samostalno krećemo svijetom. Ako osobni zasloni koji se
nose na glavi, poput Google Glassa, uĎu u širu upotrebu, podrobne upute
za kretanje po svijetu bit će nam neprestano, lako i neposredno dostupne.
Dobivat ćemo, kako kaţe Michael Jones iz Googlea, “besprekidni tok
uputa” koje će nas usmjeravati kamo god se uputili.225 Google i Mercedes-
Benz već danas suraĎuju na aplikaciji koja će Googleove naočale
povezivati s GPS ureĎajem ugraĎenim u kontrolnu ploču automobila, što
će, kako tvrde u Mercedesu, omogućiti “navigaciju od vrata do vrata”.226 A
dok nam boţica GPS-a šapće na uho ili baca signale na mreţnicu, rijetko
ćemo morati uposliti svoje talente za mentalnu kartografiju. Ili nikada.
Bohbot i drugi istraţivači istaknuli su da treba provesti još
istraţivanja prije nego budemo sa sigurnošću znali slabi li dugotrajna
upotreba GPS-a pamćenje, odnosno povećavali rizik od senilnosti. No,
kako saznajemo sve više o uskoj povezanosti orijentacije, hipokampusa i
pamćenja, posve je vjerojatno da izbjegavanje truda oko saznavanja gdje
smo i kamo idemo moţe sa sobom donijeti nepredviĎene i nimalo zdrave
posljedice. A budući da nam pamćenje omogućuje ne samo prisjećanje na
protekle dogaĎaje nego i inteligentno reagiranje na one aktualne te
planiranje za one buduće, svako slabljenje sposobnosti pamćenja moţe nas
dovesti jedino padu kvalitete ţivota.
Već stotine tisuća godina evolucija usklaĎuje naše tijelo i um s
okruţenjem. Mi se tvorimo bivanjem, da prisvojim ova dva stiha pjesnika
Wordswortha:
Kotrljana u svagdanjem ritmu zemlje,
Sa stijenjem, kamenjem i drvećem.

Automatizacijom putovanja distanciramo se od okruţja koje nas je

formiralo. Ona nas potiče da zamjećujemo simbole na zaslonu i baratamo
njima, umjesto da posvećujemo paţnju stvarnim stvarima na stvarnim
mjestima. Trud, koji nam naša usluţna boţanstva predstavljaju kao muku,
moţda je ţivotno vaţan za našu gipkost, sreću i dobrobit. Koga briga?
dakle ipak nije pravo pitanje. Trebali bismo se upitati: Koliko se daleko od
svijeta želimo povući?

Kreativna računala
To je pitanje s kojim se ljudi koji projektiraju zgrade i javne prostore bave
već godinama. Avijatičari su bili prva profesija koja je doţivjela puni udar
računalne automatizacije, ali ni arhitekti i drugi projektanti nisu puno
kasnili. Početkom 1960-ih mladi je inţenjer s MIT-a Ivan Sutherland
izumio Sketchpad, revolucionarni program za crtanje i skiciranje u kojemu
je prvi put primijenjeno grafičko korisničko sučelje. Sketchpad je utro put
razvoju softvera za računalno projektiranje, ili CAD. Nakon što su 1980-ih
godina CAD programi prilagoĎeni za rad na osobnim računalima, počele
su se mnoţiti aplikacije koje su automatizirale izradu dvodimenzionalnih
crteţa i trodimenzionalnih modela. Ti su programi ubrzo postali bitni
arhitektima, stručnjacima za oblikovanje proizvoda, grafičarima i
projektantima strojeva. Na prijelazu stoljeća William J. Mitchell, bivši
dekan Arhitektonskog fakulteta pri Sveučilištu MIT, uočio je da je
“arhitektonska praksa bez tehnologije CAD-a postala jednako
nezamislivom kao pisanje bez programa za obradu teksta”. 227 Nova su
softverska pomagala izmijenila proces, karakter i stil projektiranja i te su
promjene na djelu i danas. Nedavna povijest arhitektonske struke nudi
dobar pogled na utjecaj automatizacije u kreativnim zanimanjima.
Arhitektura je elegantan posao. U njoj se spajaju umjetničko traganje
za lijepim i obrtnička posvećenost funkciji, a uz to zahtijeva i senzibilitet
za financijska, tehnička i druga praktična ograničenja. “Arhitektura je
rubna, negdje izmeĎu umjetnosti i antropologije, izmeĎu društva i znanosti,
tehnike i povijesti”, objašnjava talijanski arhitekt Renzo Piano, projektant
pariškog Centra Pompidou i zgrade New York Timesa na Manhattanu.
“Katkad je humanistička a katkad materijalistička.”228 Posao arhitekta
spona je izmeĎu uma maštanja i uma proračunavanja, ta dva načina
mišljenja koja su često u stanju napetosti, ako ne i otvorenog sukoba.
Budući da većina nas provodi većinu vremena u projektiranim prostorima -
konstruirani svijet danas nas se doima prirodnije od same prirode -
arhitektura na nas ima dubok i katkad neopaţen utjecaj, i individualno i
kolektivno. Dobrom arhitekturom ţivot se uzdiţe, a ona loša i osrednja čini
ga tričavim i manje vrijednim. Čak i mali detalji, kao što su veličina i
poloţaj prozora ili ventilacijskog okna, mogu značajno utjecati na estetiku,
upotrebljivost i efikasnost zgrade - kao i na komfor i raspoloţenje onih koji
se u njoj nalaze. “Mi oblikujemo zgrade”, primijetio je Winston Churchill,
“a poslije one oblikuju nas.”229
Unatoč tome što računalno generirani projekti katkad navode na
samozadovoljstvo kad je riječ o provjeravanju izmjera, projektantski
softver je, općenito uzevši, podigao razinu efikasnosti projektnih ureda.
CAD sustavi su ubrzali i pojednostavili izradu konstrukcijskih
dokumenata, i arhitektima su olakšali njihovu distribuciju klijentima,
inţenjerima, izvoĎačima i javnim sluţbama. U proizvodnim djelatnostima
dobivene se CAD datoteke koriste pri programiranju robota koji izraĎuju
pojedine sastavnice zgrada, što olakšava upotrebu ţeljenih materijala a
pritom i smanjuje potreban rad pri unošenju podataka i kontroli kvalitete.
Takvi sustavi arhitektima nude mogućnost cjelovitog uvida u sloţene
projekte: tlocrte svih katova odjednom, svih nagiba i materijala, kao i u
raznorazne sustave grijanja i hlaĎenja, električne struje, rasvjete i
instalacija. Val promjena u projektima je očit, jer mnogošto nije bilo
moguće izvesti dok su se projekti sastojali od velikih snopova papirnih
dokumenata. Crtanje na računalu omogućuje da se u proračune uvedu sve
varijable pa arhitekt moţe precizno proračunavati energetsku efikasnost
budućih struktura u mnogim uvjetima, što je sve vaţnije i unutar struke i za
društvo. Nadalje, detaljne su se trodimenzionalne ilustracije i animacije
pokazale nenadmašnim načinom vizualiziranja eksterijera i interijera
zgrade. Prije nego gradnja i otpočne, naručilac moţe virtualno prošetati
svojom zgradom ili je isto tako virtualno nadlijetati.
Neovisno o svim praktičnim koristima, brzina i preciznost
proračunavanja i vizualiziranja u CAD-u otvorila je arhitektima i
inţenjerima mogućnost da eksperimentiraju s novim oblicima i
materijalima. Danas se gradi ono što je nekad postojalo samo u mašti.
Projekt Experience Music Franka Gehryja, muzej u Seattleu koji izgleda
kao zbirka voštanih skulptura koje se tope na suncu, ne bi postojao da
nema računala. Iako je izvorni Gehryjev projekt nastao u obličju fizičke
makete - izradio ju je od drva i kartona - prevoĎenje finih, fluidnih oblika u
izvoĎački projekt nije se moglo napraviti ručno. Za to je bio nuţan jaki
CAD sustav koji će digitalno skenirati maketu i izraziti njezinu razigranost
kao niz brojeva. (Sustav je izvorno bio namijenjen projektiranju mlaznih
aviona a proizvela ga je francuska tvrtka Dassault.) Materijali zgrade bili
su tako brojni, meĎusobno tako različiti i tako neobično oblikovani da se i
izrada morala automatizirati. Tisuće precizno uklopljenih ploča koje čine
čeličnu i aluminijsku fasadu muzeja izrezane su tako da su izmjere koje je
proračunao CAD program izravno unesene u računalni proizvodni sustav.
Gehry je dugo radio na samom tehnološkom rubu arhitekture, no
danas se ručna izrada maketa doima posve arhaičnom. Mladi su se arhitekti
izvještili u računalnom skiciranju i modeliranju, a CAD programi su od
pomagala za pretvaranje idejnog u izvedbeni projekt postali pomagala za
samo projektiranje. Sve popularnija tehnika parametarskog projektiranja,
kojom se algoritamski odreĎuju formalni odnosi meĎu različitim
elementima projekta, premještaju proračunske mogućnosti računala u samo
središte stvaralačkog procesa. Sluţeći se softverskim upitnicima ili
formularima nalik onima u tabličnim kalkulatorima, arhitekt-programer u
računalo ubacuje niz matematičkih pravila, parametara - na primjer, odnos
veličine prozora i površine prostorije, ili vektore kakve zakrivljene
površine - i prepušta stroju da mu izbaci gotov projekt. U najagresivnijim
programima te vrste projektant više ništa ne sastavlja ručno: na osnovi
algoritama automatski se generira kompletna forma zgrade.
Kako s novim tehnikama često biva, parametarsko projektiranje sa
sobom je donijelo i novi stil u arhitekturi, takozvani parametrizam.
Nadahnut geometrijskom kompleksnošću digitalne animacije i frenetičnim,
aseptičnim kolektivizmom društvenih mreţa, parametrizam odbacuje
pravilnosti klasične arhitekture u korist nesputanih sloţaja baroknih,
futurističkih formi. Neki tradicionalisti parametrizam smatraju neukusnim i
pomodnim, te njegove proizvode otpisuju kao “jedva nešto više od mrlja
koje se s minimalnim trudom daju napraviti za računalom”, da citiram
njujorškog arhitekta Dina Marcantonija.230 U svojoj umjerenijoj kritici
objavljenoj u New Yorkeru arhitektonski pisac Paul Goldberger primjećuje
da “naleti, krivine i obrati” u digitalnom projektiranju imaju svoju
privlačnost, ali “često se doimaju nepovezanima s bilo čime osim vlastite
stvarnosti koju generira računalo”.231 Pojedini mlaĎi arhitekti meĎutim
parametrizam i druge vidove “programskog projektiranja” smatraju
ključnim dogaĎajima našega doba, centrom energije cijele struke. Na
Bijenalu arhitekture 2008. u Veneciji, Patrick Schumacher, direktor
utjecajne londonske tvrtke Zaha Hadid, objavio je “manifest
parametrizma” u kojemu ustvrĎuje da je “parametrizam veliki novi stil
nakon modernizma”. Zahvaljujući računalima, kaţe on, strukture
izgraĎenog svijeta ubrzo će tvoriti “valovi koji se šire, slojevi ljuski u
pokretu, vrtloţne spirale” koje podsjećaju na “tekućine u gibanju”, a
“rojevi zgrada” će “vrludati krajolicima” u skladu s “dinamičnim rojenjem
ljudskih tijela”.232
Neovisno o tome hoće li se ti harmonični rojevi materijalizirati ili
neće, prijepori oko parametarskog projektiranja izveli su na površinu
raspravu o srţi arhitekture koja traje još od početaka uvoĎenja CAD
programa. Prije svega, ţurbu da se počne koristiti projektantski softver
pratila je sjena sumnji i strepnji. Mnogi su od najcjenjenijih arhitekata i
profesora arhitekture upozoravali na to da pretjerano oslanjanje na računala
projektantima moţe suziti obzorja i okrnjiti im darovitost i kreativnost.
Renzo Piano za početak priznaje da su računala postala “presudna” unutar
arhitektonskog procesa, no istodobno se i boji da projektanti previše toga
prepuštaju softveru. Iako arhitektu automatizacija dopušta da u kratkom
vremenu generira precizne i naizgled umješno izvedene trodimenzionalne
pokazne projekte, upravo ta brzina i egzaktnost stroja prekida mukotrpan i
sitničav proces istraţivanja koji dovodi do najnadahnutijih i najsmislenijih
projekata. Privlačnost rada proisteklog iz računalnog zaslona moţda je
samo prividna. “Znate”, kaţe Piano, “računala postaju tako pametna da
pomalo nalikuju na one klavire kod kojih samo pritisnete gumb i on vam
odsvira ča-ča-ča, pa onda malo rumbu. Moţete svirati jako loše a samom
sebi čete zvučati kao veliki pijanist. Isto danas vrijedi i u arhitekturi.
Moţete se naći u poziciji da vam se učini da samo stišćete gumbe i gradite
što vam se prohtije. Ali u arhitekturi se radi o razmišljanju. Na neki način
baš o sporosti. Treba vam vremena. Kod računala je loše to što se s njima
sve jako ubrzava.”233 Arhitekt i kritičar Witold Rybczynski iznosi sličnu
misao. Iako hvali goleme tehničke iskorake koji su proteklih godina
preobrazili struku, tvrdi da “ta nesmiljena produktivnost koju sa sobom
nose računala ima i svoju cijenu - više vremena pred ekranom, manje
vremena u mislima”234

Odrubljene ruke
Arhitekti o sebi oduvijek razmišljaju kao o umjetnicima, i prije dolaska
CAD-a izvorište te njihove umjetnosti bilo je crtanje. Skiciranje rukom
slično je računalnom prikazu utoliko što ima očitu komunikacijsku
funkciju. Arhitektu ono daje upečatljiv vizualni medij kojim svoju
projektnu misao iznosi klijentu ili suradniku. Ali čin crtanja nije samo vid
izraţavanja misli nego i vid mišljenja. “Ja nemam takvu maštu koja bi mi
pokazala na čemu sam ako to nisam nacrtao”, kaţe modernistički arhitekt
Richard MacCormack. “Crtanje je za mene i proces otkrivanja i proces
kritike.”235 Izrada nacrta tjelesni je spoj apstraktnog i opipljivog. “Crteţ
nije samo konačni proizvod: to je dio misaonog procesa projektiranja u
arhitekturi”, objašnjava Michael Graves, slavni arhitekt i dizajner na
području oblikovanja proizvoda. “Crteţ izraţava interakciju našega uma,
oka i ruke.”236 Filozof Donald Schön moţda je to najbolje formulirao
napisavši da arhitekt sa svojim crteţima vodi “refleksivnu konverzaciju” i
ta je konverzacija već time što je fizička ujedno i dijalog sa stvarnim
konstrukcijskim materijalima.237 Ideja se oblikuje u tom su-djelovanju
ruke, oka i uma, i kreativna iskra otud započinje svoj spori prelazak iz
mašte u svijet.
Taj intuitivni dojam arhitekta veterana središnjoj ulozi skiciranja u
kreativnom mišljenju dobio je podršku i u istraţivanjima kognitivne
osnove crtanja, odnosno njegovih kognitivnih učinaka. Skice na papiru
sluţe proširivanju kapaciteta radnog pamćenja. One time omogućuju
arhitektu da ima na umu mnogobrojne projektne opcije i varijacije. Fizički
čin crtanja istodobno pomaţe i u stvaranju dugoročnih sjećanja jer
zahtijeva snaţnu vizualnu koncentraciju i odmjeren rad mišića. Ono
pomaţe arhitektu da se prisjeti svojih prijašnjih crteţa dok iskušava nove
mogućnosti.
“Kad nešto nacrtam, toga se i sjećam”, objašnjava Graves. “Crteţ je
podsjetnik na misao zbog koje je nastao.”238 Nadalje, arhitekt se dok crta
moţe brzo prebacivati na različite razine detalja i na različite stupnjeve
apstrakcije - svoj projekt tako moţe promatrati iz više motrišta
istovremeno, i odmjeravati utjecaj svake izmjene neke pojedinosti na
cjelokupnu strukturu. Kako piše britanski teoretičar dizajna Nigel Cross u
knjizi Designerly Ways of Knowing, arhitekt crtanjem napreduje prema
dovršenom projektu, ali i raščlanjuje problem koji pokušava riješiti:
“Vidjeli smo kako skice sadrţavaju ne samo crteţe mogućih konceptualnih
rješenja, nego i brojke, simbole i tekstove - projektant tako povezuje ono
što znade o problemu s onim što će nastati kao rješenje. Crtanje omogućuje
da se istraţivanje problemskog prostora vodi zajedno s istraţivanjem
prostora rješenja.” Kad njime rukuje talentirani arhitekt, crtaći blok postaje
“svojevrsno pojačalo inteligencije”, zaključuje Cross.239
O crtanju je moţda najbolje razmišljati kao o manualnom
razmišljanju. Ono je jednako cerebralno koliko i taktilno, oslanja se na
ruku jednako koliko i na mozak. Čin skiciranja je, čini se, sredstvo kojim
se otključavaju tajna spremišta prešutnog znanja u mozgu - tajnovit proces
presudan za svaki čin umjetničkog stvaranja, a nemoguće ga je ili barem
teško postići jedino svjesnim promišljanjem. “Znanje oblikovanja je
djelatno znanje”, primjećuje Schön, i ono je “najvećim dijelom prešutno”.
Projektant će “najlakše (ili jedino) pristupiti svom djelatnom znanju tako
da se stavi u djelatnu situaciju”.240 Dizajniranje programom na zaslonu
računala takoĎer je djelatna situacija, ali drugačija. Njome se ističe
formalna strana posla - logično razmišljanje kroz funkcionalne zahtjeve
graĎevine, te razmišljanje o tome kako najbolje kombinirati različite
arhitektonske elemente kako bi se ti zahtjevi ostvarili. Umanjujući vaţnost
ruke, tog “alata nad alatima”, kako ju je nezaboravno opisao Aristotel,
računalo zaobilazi fizički aspekt rada i arhitektu suţava vidno polje.
Umjesto organskih, tjelesnih formi kakve nastaju pod vrškom olovke ili
ugljena, CAD programi, kako piše Schön, supstituiraju “simboličke,
proceduralne prikaze” koji “nuţno bivaju nepotpuni ili neadekvatni u
odnosu na zbiljske pojave koje se dizajniraju”.241 Onako kako zaslon GPS-
a umrtvljuje Inuita kad je riječ o slabim ali obilnim osjetnim signalima
arktičkog okoliša, zaslon CAD-a arhitektu omeĎuje percepciju i oslabljuje
uvaţavanje materijalnosti njegova ili njezina posla. Svijet se povlači.
Arhitektonski fakultet Sveučilišta Yale 2012. je godine odrţao
simpozij pod naslovom “Je li crtanje mrtvo?” Oštrina formulacije odraţava
sve jači dojam da računalo malo-pomalo čini crtaći blok zastarjelim.
Prijelaz s bloka na zaslon, vjeruju mnogi arhitekti, sa sobom nosi gubitak
kreativnosti, avanturizma. Zahvaljujući preciznosti i prividnoj dovršenosti
ekranskih prikaza, projektant koji radi za računalom sklon je zatvoriti svoj
koncept, i vizualno i kognitivno, već u ranoj fazi. Tako se umnogome
lišava refleksivne i istraţivačke zaigranosti koja izvire iz nabacaj a i slutnji
svojstvenih crtanju. Taj fenomen istraţivači nazivaju “preuranjenom
fiksacijom” a uzrok joj nalaze u “sputanosti interesa da se projekt mijenja
kad CAD model već (prebrzo) sadrţi veliku količinu detalja i
meĎuodnosa”.242 Projektant za računalom, nadalje, obično prenaglašava
formalne eksperimente na štetu izraţajnosti. Time što u arhitekta slabi
“osobnu, emocionalnu povezanost s poslom”, piše Michael Graves, CAD
softver stvara projekte kojima, “iako jesu kompleksni i na svoj način
zanimljivi” često “nedostaje emocionalni sadrţaj projekta izvedenog iz
ruke”.243
Istaknuti finski arhitekt Juhani Pallasmaa ustvrdio je nešto s time
povezano u svojoj knjizi Ruka koja misli iz 2009. On smatra da je
projektantima, budući da se sve jače oslanjaju na računala, sve teţe
zamišljati ljudske kvalitete svojih graĎevina - nastaniti se u svojim djelima
u nastajanju onako kako će se ljudi na kraju nastaniti u dovršenim
zdanjima. Dok rukom crtane skice i ručno izraĎene makete imaju “isto
meso fizičke materijalnosti kao i materijalni predmet koji se projektira, ali i
kao i sam arhitekt”, računalne operacije i prikazi opstoje “u
matematiziranom i apstrahiranom nematerijalnom svijetu”. Pallasmaa
vjeruje da “laţna preciznost i prividna dovršenost računalnog prikaza” u
arhitektu otupljuju osjećaj za estetsko, što dovodi do tehnički upečatljivih
ali emocionalno sterilnih projekata. Kad crta tušem ili olovkom, piše on,
“ruka prati obrise, oblike i obrasce objekta”; ako pak manipulira sličnom
slikom unutar programa “ruka najčešće bira linije iz zadanog skupa
simbola koji nemaju analoški - pa posljedično ni haptički i emocionalni -
odnos s objektom”.244
Kontroverza oko upotrebe računala meĎu profesionalnim
projektantima će se nastaviti, i svaka će strana nuditi čvrste dokaze i
uvjerljive argumente. Projektantski softver takoĎer će napredovati i moţda
rješavati neka od ograničenja postojećih digitalnih pomagala. Ali što god
budućnost sa sobom donijela, iz iskustva arhitekata i drugih projektanata
jasno je da računalo nikad nije neutralni alat. Na dobro ili zlo, ono utječe
na to kako netko radi i misli. Svaki program prati odreĎenu rutinu uz koju
su jedni načini rada lakši a drugi teţi, a korisnik programa se na tu rutinu
adaptira. Mogućnosti stroja tako odreĎuju karakter i cilj rada, baš kao i
kriterije prema kojima se rad ocjenjuje. Kad umjetnik ili obrtnik (ili bilo
tko drugi, kad smo već kod toga) postane ovisan o programu, on ili ona s
njime preuzimaju i pretpostavke tvorca tog programa. S vremenom će
početi cijeniti ono što taj program moţe, a ono što ne moţe smatrat će
nevaţnim, irelevantnim ili upravo nezamislivim. A ako se ne adaptiraju,
riskirat će da ih kolege marginaliziraju.
Nije tu riječ samo o specifikacijama programa: već samo prenošenje
rada iz svijeta na zaslon sa sobom nosi golemu promjenu perspektive. Veća
se teţina pridaje apstraktnosti a manja materijalnosti. Snaga izračunavanja
raste, angaţman osjetila slabi. Ono precizno i eksplicitno preuzima primat
nad nabačenim i naslućenim. Osnivač male arhitektonske tvrtke Archll iz
Bouldera u drţavi Colorado, E. J. Meade, hvali efikasnost projektantskog
softvera ali je zabrinut da popularni programi poput Revita i SketchUpa
postaju suviše preskriptivni. Projektant samo utipka dimenzije zida, poda
ili neke druge površine, i pritiskom na gumb program generira sve
pojedinosti, automatski iscrta svaku ploču ili betonski blok, sve potpornje,
izolaciju, cement, gips, što god hoćete. Meade vjeruje da način rada
arhitekata zbog toga postaje homogeniziran a njihove graĎevine
predvidljivije. “Kad listate arhitektonske časopise 1980-ih”, priča mi,
“vidite ruku individualnog arhitekta”. Danas se u pravilu vidi kako
funkcionira softver: “Iz konačnog se proizvoda moţe očitati rad
tehnologije.”245
Kao i njihovi kolege liječnici, mnogi veterani meĎu projektantima
strahuju da će zbog sve većeg oslanjanja na automatizirana pomagala i
rutine studentima i mladim kolegama biti sve teţe naučiti finese svog
zanata. Jacob Brillhart, profesor arhitekture na Sveučilištu Miami, vjeruje
da te olakšavajuće prečice kakve nude programi poput Revita potkopavaju
“proces naukovanja”. Prepustiti softveru da popunjava pojedinosti projekta
i specificira materijale “samo donosi banalnije, ljenije i monotonije
projekte, lišene intelekta, mašte i emocije” Osim toga, i opet skupa s
liječnicima, on primjećuje i kako se u njegovoj struci razvija kultura
kopiranja, u kojoj mladi arhitekti “s uredskog posluţitelja vuku detalje,
nagibe i dijelove zidova iz prijašnjih projekata i samo ih preslaguju”.246
Veza izmeĎu znanja i činjenja puca.
Opasnost koja se kreativnim zanimanjima sprema u tome je što će
projektanti, dizajneri i umjetnici, opijeni nadljudskom brzinom,
preciznošću i efikasnošću računala, naposljetku uzimati zdravo za gotovo
da je automatski način rada i najbolji. Bez razmišljanja će pristajati na
kompromise što im ih nameće softver. Pojurit će linijom manjeg otpora
iako bi ponešto otpora, trenja, moţda iz njih bilo izvuklo ono najbolje.

Tjelesnost uma
“Ako ţelite nešto zaista znati o vezicama za cipele”, primijetio je politolog
i mehaničar za motocikle Matthew Crawford, “morate vezivati cipele”. To
je jednostavna ilustracija duboke istine koju Crawford istraţuje u svojoj
knjizi Shop Class as Soulcraft iz 2009.: “Ako je mišljenje vezano za
djelovanje, onda zadatak adekvatnog shvaćanja svijeta, intelektualno, ovisi
o tome da na tom svijetu nešto činimo.”247 Crawford se tu naslanja na rad
njemačkog filozofa Martina Heideggera koji je tvrdio da je najdublji vid
razumijevanja koji nam je dostupan “ne puka zamjedbena spoznaja:
rukovanje, baratanje stvarima, upotreba i briga za njih, sve to je jedna
navlastita vrsta „znanja'”.248
O spoznajnom radu obično govorimo kao da je to nešto drukčije od
manualnog rada, ili s njime čak nespojivo - priznajem da sam i sam činio
nešto slično u prijašnjim dijelovima ove knjige - ali to je razlikovanja
samodopadno i proizvoljno. Sav rad je spoznajni rad. Um aktuara nije ništa
ţivlji i angaţiraniji od stolarova uma. Postignuća arhitekta jednako ovise o
tijelu i njegovim osjetilima kao i postignuća lovca. Ono što vrijedi za druge
ţivotinje vrijedi i za nas: um nije zapečaćen u lubanji, on se proteţe cijelim
tijelom. Ne razmišljamo mi samo mozgom nego i očima i ušima, nosom i
ustima, udovima i trupom. A kad se uhvatimo alata kojim širimo
mogućnosti dohvaćanja, i njime ćemo misliti i shvaćati. “Mišljenje, ili
stjecanje znanja, daleko je od toga da bude smo sjedilački posao, kakvim
ga se često smatra”, napisao je 1916. američki filozof i društveni
reformator John Dewey. “Ruke i noge, aparati i pomagala svake vrste, u
njemu sudjeluju jednako kao i promjene u mozgu.”249 Postupanje je
razmišljanje, i razmišljanje je postupanje.
Iz naše se teţnje da razdvojimo razglabanja uma od gibanja tijela vidi
koliko smo još uvijek sputani kartezijanskim dualizmom. Kad razmišljamo
o mišljenju, naprečac lociramo naš um, pa tako i naše ja, u sivoj tvari
unutar lubanje. Ostatak tijela pak smatramo mehaničkim sustavom za
odrţavanje ţivota koji opsluţuje ţivčano sklopovlje. Taj dualistički pogled
na tijelo i um, prema kojemu oni funkcioniraju u uzajamnoj izolaciji nije
samo maštarija filozofa poput Descartesa i njegova predšasnika Platona:
čini se da je on nuspojava same naše svijesti. Najveći se dio rada uma
odvija iza scene, u sjenama nesvjesnog, svjesni smo jedino tog blještavo
svijetlog prozora što ga za nas otvara naš svjesni um. A on nam uporno
govori da je odjelit od tijela.
Prema profesoru psihologije sa sveučilišta UCLA, Matthewu
Liebermannu, iluzija proizlazi iz činjenice da se, kad promišljamo o svom
tijelu pozivamo na jedne dijelove mozga, a kad promišljamo o svom umu
oslanjamo se na druge. “Kad razmišljate o svom tijelu i djelovanjima svoga
tijela, upotrebljavate prednje čeono i tjemeno područje na vanjskoj površini
svoje desne strane moţdane polutke”, objašnjava on. “Kad razmišljate o
svom umu, upotrebljavate druga prednja čeona i tjemena područja u
središnjem dijelu mozga, gdje se dvije polutke dodiruju.” Kad različita
područja mozga obraĎuju doţivljaje, svjesni um tumači ta iskustva ka nešto
što pripada različitim kategorijama. Iako ta “tjelesno utemeljena iluzija”
dualizma uma i tijela ne odraţava stvarne “razlike u prirodi”, objašnjava
Lieberman, ona svejedno “za nas ima neposrednu psihološku realnost”.250
Što više spoznajemo o sebi, to nam biva jasnije koliko nas upravo ta
“realnost” navodi na krivi put. Jedno od najzanimljivijih i najrelevantnijih
područja istraţivanja u suvremenoj psihologiji i neuroznanosti odnosi se na
takozvano otjelovljeno spoznavanje. Današnji istraţivači i znanstvenici
potvrĎuju uvid Johna Deweya od prije stotinu godina: mozak i tijelo se
sastoje od iste tvari, ali ne samo to - njihov je rad prepleten u daleko većoj
mjeri nego što pretpostavljamo. Biološki procesi koji konstituiraju
“mišljenje” izrastaju ne samo na proračunavanjima u ţivčanim stanicama
unutar lubanje, nego i iz postupaka i osjetnih percepcija cijeloga tijela. “Na
primjer”, objašnjava Andy Clark, filozof uma sa Sveučilišta Edinburgh koji
je mnogo pisao o otjelovljenom spoznavanju, “ima puno dokaza za to da
fizičke geste koje izvodimo kad govorimo uistinu smanjuju spoznajno
opterećenje mozga, te da biomehanika mišićnih sustava i tetiva nogu silno
pojednostavljuje problem kontroliranog hodanja.”251 Mreţnica, kako
pokazuju posljednja istraţivanja, nije pasivni senzor koji šalje sirove
podatke u mozak, kao što se nekoć pretpostavljalo; ona aktivno oblikuje
ono što ćemo vidjeti. Oko ima i vlastitu pamet.252 Čini se da su tjelesni
sustavi za osjete i gibanje na djelu čak i pri pojmovnom mišljenju. Kad
razmišljamo apstraktno ili metaforički o pojedinim predmetima ili
pojavama u svijetu - recimo granama stabala, ili naletima vjetra - mi
mentalno iznova uprizorujemo, ili simuliramo, svoj fizički doţivljaj tih
pojava.253 “Za bića kakva smo mi”, tvrdi Clark, “tijelo, svijet i djelovanje”
su “su-arhitekti te neuhvatljive stvari koju zovemo um”.254
Još uvijek se istraţuje kako su spoznajne funkcije raspodijeljene u
mozgu, osjetnim organima i ostatku tijela. Neke su od ekstravagantnijih
tvrdnji zastupnika otjelovljene spoznaje u tim raspravama još uvijek
prijeporne, primjerice sugestija da se individualni um proteţe i izvan tijela,
u njegovo okruţje. Pritom je jasno da naše mišljenje ne moţemo odvajati
od svog ljudskog bića ništa više nego što bismo svoje fizičko biće mogli
odvojiti od svijeta iz kojeg je poniklo. “Nema u ljudskom doţivljaju ničega
što bi ostalo netaknuto ljudskom tjelesnošću”, piše filozof Shaun
Gallagher: “od osnovnih percepcijskih i emocionalnih procesa koji su na
djelu već od najranijeg djetinjstva, do sofisticirane interakcije s drugim
ljudima; od usvajanja i kreativne upotrebe jezika do viših spoznajnih
sposobnosti koje uključuju prosudbu i metaforu; od iskazivanja slobode
volje u namjeravanim postupcima do stvaranja kulturnih artefakata koji
donose daljnje ljudske mogućnosti djelovanja.255
Ideja tjelesnog spoznavanja, smatra Gallagher, korisna je pri
objašnjavanju čudesne lakoće s kojom se ljudska vrsta sluţi tehnologijom.
Naše je tijelo i um tako dobro ugoĎeno na svoje okruţje da vrlo brzo uvodi
alate i druga pomagala u misaone procese - da, neurološki, tretira stvari kao
dio sebe. Ako hodate sa štapom, radite čekićem ili se borite mačem, vaš će
mozak ugraditi taj alat u neuronsku kartu tijela. Proţimanje tijela i
predmeta unutar ţivčanog sustava nije svojstveno jedino ljudima. Majmun
se sluţi štapićem kad hoće iz tla iskopati mrave ili termite, slonovi tjeraju
muhe tako što mašu lisnatim granama, a dupin će se posluţiti komadima
spuţve da bi se zaštitio od ogrebotina dok prekopava morsko dno u potrazi
za hranom. No, nenadmašna vještina Homo sapiensa u svjesnom
razmišljanju i planiranju omogućava nam da konstruiramo domišljate alate
i instrumente za svaku moguću svrhu i time širimo svoje sposobnosti, kako
fizičke tako i umne. Mi posjedujemo pradavnu teţnju prema, kako to
naziva Clark, “spoznajnoj hibridizaciji”, miješanju biološkog i
tehnološkog, unutarnjeg i vanjskog.256
Lakoća s kojom nešto tehničko umijemo učiniti dijelom sebe moţe
nas dovesti i u zabludu. Svojim alatima prepuštamo moć i onda kad nam to
nije u interesu. Jedna od velikih ironija našega vremena u tome što, dok
znanstvenici otkrivaju sve više o bitnim ulogama fizičkog djelovanja i
osjetilnog zamjećivanja u razvoju naših misli, sjećanja i umijeća, mi
provodimo manje vremena djelujući u svijetu a više vremena ţiveći i
radeći posredstvom apstraktnog medija računalnog zaslona. Svojem
postojanju namećemo osjetilna ograničenja i rastjelovljujemo se. S
višenamjenskim računalom uspjeli smo, što je upravo perverzno, dobiti alat
koji od nas krade tjelesni uţitak rada s alatima.
Naše vjerovanje, intuitivno ali pogrešno, da naš intelekt djeluje u
izolaciji od našega tijela, navodi nas na to da podcijenimo vaţnost svog
angaţmana sa svijetom stvari. A time ćemo pak olako pretpostaviti da je
računalo - koje površinski posve nalikuje umjetnom mozgu, “stroju koji
misli” - dostatno pa i bolje sredstvo za izvoĎenje rada uma. Michael Jones
iz Googlea uzima zdravo za gotovo da su “ljudi danas pametniji za 20
bodova na testu inteligencije” zahvaljujući kartografskim pomagalima i
drugim internetskim uslugama te tvrtke.257 Zavarani od strane vlastitog
mozga, pretpostavljamo da nismo ţrtvovali ništa, ili bar ništa bitno,
prepuštajući se programskim skriptama kad se krećemo s mjesta na mjesto,
dok projektiramo graĎevine ili se bavimo nekom drugom vrstom mislenog
i inventivnog rada. A što je još gore, pritom nam promiče da alternative
postoje. Zanemarujemo činjenicu da se programi i automatizirani sustavi
mogu prekonfigurirati tako da nam jačaju dodir sa svijetom, umjesto da ga
oslabljuju. Kako su, naime, spoznali ergonomi koji se bave
automatizacijom a i drugi stručnjaci, postoje načini da se taj stakleni kavez
probije a da se pritom ne izgube sve te brojne blagodati što nam ih donose
računala.
 7.
Automatizacija za ljude

Kome uopće trebaju ljudi?

To se pitanje, u ovoj ili onoj retoričkoj formi, često iznova pojavljuje
u raspravama o automatizaciji. Ako računala tako brzo napreduju, i ako u
usporedbi s njima ljudi izgledaju spori, nespretni i podloţni greškama,
zašto ne izgraditi nepogrešiv samodostatni sustav koji bi besprijekorno
radio bez ljudskog nadzora i upletanja? Zašto iz cijele priče jednostavno ne
izbaciti ljudski faktor? “Treba pustiti robotima da preuzmu stvar”,
zaključuje teoretičar tehnologije Kevin Kelly u svom naslovnom eseju
objavljenom u časopisu Wired 2013. U njemu za primjer uzima avijaciju:
“Kompjuterizirani mozak poznat kao autopilot moţe upravljati Boeingom
787 bez pomoći, ali mi nerazumno „za svaki slučaj‟ stavljamo ljude u
kokpit kao tete u vrtiću.”258 Vijest da je Googleov auto koji se sudario
vozio čovjek pisca je jednog istaknutog tehnološkog bloga potaknula na
usklik: “Hoćemo više robo-vozača!”259 Komentirajući probleme u
čikaškim javnim školama, pisac Wall Street Journala Andy Kessler samo
je napola u šali primijetio: “Zašto ne odustanemo od učitelja i ne
podijelimo svakom od 404.151 učenika iPad ili Android tablet?”260 U svom
je ogledu iz 2012. ugledni investitor Silicijske doline Vinod Khosla izjavio
da bi se zdravstvena skrb znatno poboljšala kad bi se medicinski softver -
naziva ga “doktor Algoritam” - doveo da toga ga od pomagala liječnicima
primarne zdravstvene zaštite jednostavno zamjenjuje liječnika. “Na kraju”,
piše on, “prosječnog liječnika više nećemo ni trebati”.261 Lijek za
nesavršenu automatizaciju je potpuna automatizacija.
Ta je zamisao zavodljiva, ali simplistička. Strojevima je zajednička
pogrešivost njihovih stvoritelja. Prije ili poslije čak će se i najnaprednija
tehnika pokvariti, ili će griješiti, ili će, kad je riječ o kompjuteriziranim
sustavima, naići na sklop okolnosti koje njihovi projektanti i programeri
nisu predvidjeli i koji su im zbunili algoritme. Početkom 2009., samo
nekoliko tjedana prije pada aviona Continental Connectiona u Buffalu,
Airbus A320 kompanije US Airways izgubio je potisak svih motora
naletjevši na jato kanadskih gusaka pri uzlijetanju sa zračne luke La
Guardia u New Yorku. Djelujući brzo i hladnokrvno, kapetan Chesley
Sullenberger i njegov prvi časnik Jeffrey Skiles uspjeli su, u tri potresne
minute, sigurno pljusnuti pokvareni avion u rijeku Hudson. Svi su putnici i
posada evakuirani. Da nije bilo pilota - “teta u vrtiću” - taj bi se Airbus,
mlaţnjak s najsuvremenijom automatizacijom, srušio i sa sobom gotovo
sigurno odnio sve u sebi. Rijetkost je da putničkom avionu zataje svi
motori. Ali nije rijetkost da piloti spašavaju avione pri mehaničkim
kvarovima, zastojima autopilota, lošem vremenu i drugim neočekivanim
dogaĎajima. Kako je njemački Der Spiegel 2009. nagovijestio u reportaţi o
sigurnosti zrakoplova, piloti aviona s navoĎenim upravljanjem “redovito
nailaze na nova, neugodna iznenaĎenja koja nitko od njihovih projektanata
nije predvidio”.262
Isto vrijedi i u drugim područjima. O nesreći do koje je došlo dok je
čovjek vozio Googleov Prius naveliko se pisalo u novinama; ali zato ništa
ne saznajemo o tome koliko pričuvni vozači u Googleovim autima i
drugim automatiziranim vozilima moraju preuzeti upravljanje da bi izveli
manevre koji računalima ne polaze za rukom. Googleova je politika da ih u
naseljenim ulicama uvijek voze ljudi, manualno, a zaposlenik koji bi se
htio okušati u tome mora proći rigorozni tečaj tehnika voţnje u
izvanrednim situacijama.263 Auti bez vozača ni su baš toliko bez vozača.
Ljudi koji rade u medicini često se moraju oglušiti o pogrešne upute
ili prijedloge koje nude bolnička računala. Bolnice su tako shvatile da
kompjuterizirani sustavi za naručivanje lijekova, doduše, ublaţavaju neke
česte pogreške u potrošnji lijekova, ali sa sobom nose i nove probleme.
Istraţivanje provedeno 2011. u jednoj bolnici pokazalo je da se
udvostručavanje narudţbi čak povećalo nakon automatiziranja.264
Dijagnostički softver je, usto, daleko od savršenog. Doktor Algoritam će
vam moţda najčešće davati točne dijagnoze i ispravne terapije, ali ako se
vaš skup simptoma ne uklapa u statistički profil, bit ćete itekako sretni što
je doktor Čovjek bio u ordinaciji i odbacio izračun računala.
Tehnologije automatizacije sve su kompliciranije i uzajamno su
prepletene u dţunglu veza i oslonaca na softverske zbirke instrukcija, baza
podataka, mreţnih protokola, senzora i mehaničkih dijelova, pa se
potencijalni izvori pogrešaka umnaţaju. Sustavi postaju podloţni onome
što se znanstveno naziva “kaskadnim pogreškama”, u kojima mali kvar u
jednoj komponenti pokreće dalekoseţan i katastrofalan lanac nesreća. Naš
je svijet svijet “meĎuzavisnih mreţa”, kako izvještava jedna skupina
fizičara u članku objavljenom 2010. u časopisu Nature. “Raznorodne
infrastrukture poput vodovodnih, prijevoznih i energetskih prospajane su
“elektroničkim i drugim vezama”, što ih na kraju sve čini “ekstremno
osjetljivima na nasumične kvarove”. To vrijedi čak i onda kad se te veze
sastoje jedino od razmjene podataka.265
Uz to, tako je teţe pronaći osjetljiva mjesta. Kod industrijskih
postrojenja iz prošlosti, objašnjava informatičarka Nancy Leveson s MIT-a
u svojoj knjizi Projektiranje sigurnijeg svijeta, “interakcije meĎu
komponentama mogle su se podrobno planirati, razumjeti, predvidjeti, i
moglo se paziti da ne doĎe do onih nepoţeljnih”, a cjelokupni se sustav
mogao iscrpno testirati prije nego uĎe u svakodnevnu upotrebu.
“Suvremeni, visokotehnološki sustavi više nemaju ta svojstva”. Oni su u
manjoj mjeri “intelektualno uhvatljivi i upravljivi” nego njihovi predšasnici
sastavljani od vijaka, matica i zupčanika.266 Svi dijelovi moţda i
funkcioniraju besprijekorno, ali već malena pogreška ili previd u
projektiranju sustava - neka nesavršenost koja je moţda zakopana meĎu
stotinama tisuća redaka koda - svejedno moţe uzrokovati nesreću golemih
razmjera.
Te se opasnosti još pogoršavaju zbog nevjerojatne brzine kojom
računala donose odluke i pokreću dogaĎaje. To je bilo posve vidljivo
jednoga jutra 1. kolovoza 2012., tijekom jezovitih sat vremena nakon što je
najveća burzovna tvrtka Wall Streeta, Knight Capital Group, pokrenula
novi automatizirani program za kupnju i prodaju dionica. Program je istog
trenutka preplavio trţišta vrijednosnicama neovlaštenim i nerazumnim
nalozima, trgujući tako s 2,6 milijuna dolara u sekundi. U četrdeset i pet
minuta, koliko je prošlo prije nego što su Knightovi matematičari i
informatičari uspjeli pronaći izvor problema i ugasiti program, softver je
nakupio sedam milijardi nevaţećih transakcija. Tvrtka je na kraju izgubila
gotovo pola milijarde dolara, što ju je dovelo na rub stečaja. U tjedan dana
konzorcij drugih tvrtki Wall Streeta otkupio je Knight kako izbjegli još
jednu financijsku katastrofu. Tehnologija, naravno, napreduje i greške se
ispravljaju. Nepogrešivost je, meĎutim, još uvijek ideal koji se ne moţe
dostići. Čak i kad bi se mogao projektirati i izgraditi savršen automatizirani
sustav, on bi i dalje djelovao u nesavršenom svijetu. Autonomni auti ne
voze utopijskim ulicama. Roboti svoj zanat ne obavljaju u rajskim
tvornicama. Guske se jate. Munje sijevaju. Uvjerenje, da moţemo stvoriti
posve samodostatan i posve pouzdan automatizirani sustav i sama je
manifestacija automatizacijske pristranosti.
To je uvjerenje naţalost često ne samo meĎu zagovornicima
tehnologije nego i meĎu inţenjerima i programerima - dakle upravo onima
koji takve sustave projektiraju. U svom je klasičnom članku uz 1983.
objavljenom u časopisu Automatica Lisanne Bainbridge, inţenjerska
psihologinja s londonskog University Collegea, opisala zbrku koja leţi u
srcu računalne automatizacije. Projektanti često pretpostavljaju da su
ljudska bića “nepouzdana i nedjelotvorna” - pa za njih nastoje predvidjeti
najmanju moguću ulogu u rukovanju sustavom. Ljudi tako završavaju kao
puki promatrači, pasivni gledaoci u ekran.267 U tom su poslu ljudi, a
poznati smo po tome da nam misli rado lutaju, baš osobito loši. Istraţivanja
pozornosti, koja seţu sve do proučavanja britanskih radarskih operatera
koji su motrili na njemačke podmornice u Drugom svjetskom ratu,
pokazuju da čak ni veoma motivirani ljudi ne mogu zadrţati paţnju na
prikazu statičnih informacija dulje od oko pola sata.268 Postane im
dosadno; sanjare; koncentracija im opada. “To znači”, kako piše
Bainbridge, “da je ljudski nemoguće izvoditi trivijalnu funkciju
promatranja tragajući za malo vjerojatnim nepravilnostima”.269
A budući da vještine čovjeku “oslabljuju kad se ne koriste”, dodaje
ona, čak će se i iskusan operater kad-tad početi ponašati slično “onom
neiskusnom” ako mu je glavni posao promatranje a ne djelovanje. Kako
mu instinkti i refleksi sve više otupljuju od neupotrebe, bit će mu sve teţe
uočavati i dijagnosticirati probleme, a reakcije će mu biti spore i
promišljene umjesto da budu brze i automatske. U kombinaciji s gubitkom
situacijske svjesnosti, takvo slabljenje umijeća povećava vjerojatnost da
kad nešto poĎe po zlu, a to se kad-tad dogodi, operater reagira nevješto. A
kad se to dogodi, projektanti sustava će još više smanjiti ulogu operatera
koji će u budućnosti onda još vjerojatnije zabrljati. Pretpostavka da će
ljudsko biće biti najslabija karika u sustava postaje samoispunjavajuća.

Prvo tehnologija
Ergonomija, znanosti i umjetnost ugaĎanja alata i radnih mjesta u skladu s
ljudima koji se njima koriste, seţe još do antičke Grčke. Hipokrat, u tekstu
“O temama povezanim s kirurgijom”, daje podrobne upute o tome kako
operacijske sobe trebaju biti osvijetljene i namještene, kako redati kirurške
instrumente i njima rukovati, pa čak i kako se kirurg treba odijevati. Način
izrade mnogih starogrčkih alata svjedoči o izvanrednoj paţnji koja se
poklanjala obliku, teţini i balansiranju u ruci, što sve utječe na
produktivnost, izdrţljivost i zdravlje radnika. U starim civilizacijama Azije
takoĎer vidimo znakove da su se radni instrumenti briţljivo smišljali s
obzirom na fizičku i psihološku dobrobit radnika.270
 No, tek se s Drugim svjetskim ratom ergonomija počela javljati kao
formalna disciplina, zajedno sa svojom teorijskom roĎakinjom
kibernetikom. Tisućama je neiskusnih vojnika i drugih unovačenih graĎana
trebalo povjeriti komplicirana i opasna oruţja i strojeve, a vremena za
obuku nije bilo mnogo. Više se nisu mogle tolerirati nezgrapne izvedbe i
zbunjujuće komande. Zahvaljujući čudesno darovitim misliocima poput
Norberta Wienera te psihologa zračnih snaga SAD-a Paula Fittsa i
Alphonsea Chapanisa, vojni i industrijski planeri počeli su prihvaćati
činjenicu da su za uspješan rad kompleksnog tehnološkog sustava jednako
vaţna ljudska bića kao i mehaničke komponente i elektronički regulatori
sustava. Ne moţete optimizirati stroj i onda tjerati ljude da mu se
prilagoĎavaju na rigidan tejloristički način; morate projektirati stroj tako da
odgovara računalu.
U prvo vrijeme nadahnuti ratnim zbivanjima a potom ţeljom da se
računala inkorporiraju u trgovinu, vladavinu i znanost, velika je i
motivirana skupina psihologa, fiziologa, neurobiologa, inţenjera, sociologa
i projektanata počela posvećivati svoja raznorodna znanja izučavanju
interakcija ljudi i strojeva. U ţarištu paţnje bili su im, doduše, bojno polje i
tvornica, ali teţnje su im bile duboko humanističke: sjediniti ljude i
tehnologiju u stanovitoj produktivnoj, robusnoj i sigurnoj simbiozi,
harmoničnom partnerstvu čovjeka i stroja, koje bi dalo ono najbolje od
jednog i drugog. Ako je naše doba doba kompleksnih sustava, onda su
ergonomi naši metafizičari.
Ili bi barem trebali biti. Otkrića i uvidi s područja ergonomije - ili
inţenjerstva ljudskog faktora - i prečesto se zanemaruju ili podcjenjuju.
Brigu za učinak računala i drugih strojeva na ljudsko tijelo i um redovito
zasjenjuje ţelja za postizanjem maksimalne djelotvornosti, brzine i
preciznosti - ili jednostavno što veće moguće dobiti. Programere o
ergonomiji uče malo ili nimalo, i oni uglavnom nisu upoznati s relevantnim
istraţivanjima na tom polju. Nije od pomoći ni to što inţenjeri i
informatičari, strogo usmjereni na matematiku i logiku, osjećaju spontanu
antipatiju prema manje egzaktnim interesima svojih kolega ergonoma.
Nekoliko godina prije smrti 2006., pionir ergonomije David Meister
prisjećajući se svoje karijere napisao je da su on i njegovi kolege “uvijek
radili protiv struje, pa im je svaki uspjeh pao gotovo kao iznenaĎenje”. Tok
tehničkog napretka, zaključio je sjetno, “vezan je za motiv stjecanja dobiti;
tu se čovjek stoga slabo cijeni”.271
Nije uvijek bilo tako. Ljudi su o tehničkom napretku prvi put počeli
razmišljati kao o povijesnoj silnici u drugoj polovini osamnaestog stoljeća,
kad su se znanstvena otkrića prosvjetiteljstva počela prevoditi u praktična
postrojenja industrijske revolucije. Bilo je to i vrijeme političkih
previranja, i ne slučajno. Demokratske, humanističke ideje prosvjetiteljstva
kulminirale su revolucijama u Americi i Francuskoj, i ti su ideali prodrli i u
gledište društva na znanost i tehnologiju. Tehnički se napredak cijenilo -
meĎu intelektualcima, makar ne uvijek i meĎu političarima - kao sredstvo
za političku reformu. Definicija napretka bila je društvena, i u njemu
tehnologija ima vaţnu ali ne i glavnu ulogu. Mislioci prosvjetiteljstva
kakvi su bili Voltaire, Joseph Priestley i Thomas Jefferson, “u novim su
znanostima i tehnologijama vidjeli ne cilj po sebi, nego sredstva za
provedbu opće preobrazbe društva”, kako piše povjesničar kulture Leo
Marx.
No, to je reformističko gledište sredinom devetnaestog stoljeća, bar u
Sjedinjenim Drţavama, zasjenio nov i znatno drukčiji pojam napretka u
kojemu sama tehnologija vodi glavnu riječ. “S daljnjim napredovanjem
industrijskog kapitalizma”, piše Marx, “Amerikanci su sve gorljivije slavili
nadolazak znanosti i tehnologije, ali su tu zamisao počeli odjeljivati od
društvenog i političkog osloboĎenja”. Namjesto toga, prihvatili su “danas
uobičajen stav da su tehničke inovacije koje se temelje na znanosti same po
sebi dovoljna i pouzdana osnova napretka”272 Nova tehnologija, nekoć
cijenjena kao sredstvo u sluţbi nekog većeg dobra, počela se oboţavati kao
dobro po sebi.
Utoliko ne iznenaĎuje što su danas mogućnosti računala, kako piše
Bainbridge, počele odreĎivati podjelu rada u kompleksnim
automatiziranim sustavima. Ako ţelite povećati produktivnost, smanjiti
troškove rada, izbjeći ljudske pogreške - dakle, ako ţelite slijediti put
napretka - trebate samo prepustiti softveru da nadzire što više aktivnosti, a
kako mogućnosti softvera napreduju sve ćete mu više širiti nadleţnosti. Što
više tehnologije, to bolje. Operaterima od krvi i mesa preostaje
odgovornost samo za one poslove koje projektanti ne uspiju automatizirati,
primjerice motrenje za slučaj nepredviĎenih pojava, ili kao pričuvu u
slučaju pada sustava. Ljude se sve više, i sve dalje, izbacuje iz - kako kaţu
inţenjeri - procesa, ciklusa postupaka, povratnih veza i odluka, koji
upravljaju operativnim aspektima sustava.
Taj uvrijeţeni pristup ergonomi nazivaju “automatizacijom koja
smjera tehnologiji”. Mizantropski ciljevi njome se prikazuju kao
humanistički, što odraţava umalo religijsku vjeru u tehniku, te jednako
gorljivo nepovjerenje prema ljudskim bićima. Sumoran pristup
tehnofilskog sanjara - “kome još trebaju ljudi” - tako se pretvara u etiku
projektiranja. Takvi strojevi i programi onda ulaze na radna mjesta i
domove, i sa sobom u naš ţivot unose svoj mizantropski ideal. Kako piše
Donald Norman, kognitivni znanstvenik i autor više utjecajnih knjiga o
oblikovanju proizvoda, “društvo je i nehotice zapalo u pogled na ţivot koji
smjera prvenstveno stroju, koji potrebe tehnike nadreĎuje potrebama
čovjeka i time ljude tjera u sporednu ulogu, za koju nismo nimalo
prikladni. Što je još gore, iz tog se gledišta koje smjera strojevima ljude
usporeĎuje s tehnikom pa onda mi ispadamo manjkavi, nesposobni za
precizne, repetitivne i egzaktne zadatke.” Iako je ono danas “proţelo
društvo”, tim se gledištem iskrivljuje naš osjećaj sa same sebe. “Njime se
ističu oni poslovi i aktivnosti koje mi ne bismo trebali obavljati, a
zanemaruju se naše primarne značajke i vještine - djelatnosti koje strojevi
izvršavaju loše ili nikako. Kad zauzmemo gledište kojemu je u središtu
paţnje tehnologija, prosudbe ćemo donositi vodeći se umjetnim,
mehaničkim kriterijima.273
Potpuno je logično da će oni s mehaničkim sklonostima zauzimati i
mehanički pogled na svijet. Motiv koji stoji u pozadini invencije često je,
kako se izrazio Norbert Wiener, “ţelja stvaraoca ureĎaja da gleda kako se
kotačići okreću”.274 A jednako je logično i to da će takvi ljudi na kraju
kontrolirati oblikovanje i projektiranje kompliciranih sustava i programa
koji posreduju radom društva ili njime upravljaju. Oni su ti koji poznaju
kod. Kako se društvo sve više kompjuterizira, tehnolog postaje nepriznati
zakonodavac. Samo, definirajući ljudski faktor kao perifernu brigu,
tehnolog uklanja i glavnu prepreku ispunjenju svojih ţelja; neobuzdano
ostvarivanje tehničkog napretka postaje samom sebi opravdanje.
ProsuĎivati tehnologiju jedino prema tehničkim kriterijima znači dati
stvaraocu ureĎaja bjanko dopuštenje.
Osim što se uklapa u dominantnu ideologiju napretka, pristranost
prepuštanju uloge vodiča pri odlukama o automatizaciji ima i svojih
praktičnih prednosti. Time se jako pojednostavljuje posao graditelja
sustava. Inţenjeri i programeri moraju uzimati u obzir samo ono što umiju
činiti računala i strojevi. To im dopušta da si suze perspektivu i skrešu
specifikacije. Tako se više ne moraju hrvati s kompleksnosti, višeznačnosti
i krhkosti ljudskog tijela i ljudske psihe. Ali koliko god bila privlačna kao
projektna taktika, jednostavnost automatizacije koja smjera tehnologiji
čista je fatamorgana. Zanemarivanjem ljudskog faktora ljudski se faktor ne
dokida.
Ergonomi Nadine Sarter, David Woods i Charles Billings u svom su
naveliko citiranom članku iz 1997. istraţili podrijetlo pristupa tehnici kao
okosnici. U njemu opisuju kako je taj pristup izrastao iz “mitova, laţnih
nada i promašenih namjera povezanih s modernom tehnologijom” koji se u
njemu i dalje odraţavaju. Nadolazak računala, prvo kao analognog stroja a
potom i u svojoj poznatoj digitalnoj formi, ohrabrio je inţenjere i
industrijalce na to da zauzmu idealističko gledište prema elektronički
kontroliranom sustavima: da na njih počnu gledati kao na neku vrstu
univerzalnog lijeka za ljudsku nedjelotvornost i pogrešivost. Sterilnost i
urednost rada računala izgledala je bogomdana u usporedbi s nečistim
zemaljskim ljudskim djelovanjem. “Tehnologija automatizacije”, pišu
Sarter i njezini kolege, “izvorno je zamišljena s nadom povećanja
preciznosti i ekonomičnosti rada, dok istodobno smanjuje opterećenje
operatera i zahtjevnost obuke. Smatralo se da je moguće stvoriti autonomni
sustav koji zahtijeva malo ili nimalo ljudskog angaţmana i utoliko
umanjuje ili uklanja mogućnost ljudskih pogrešaka.” To je vjerovanje, i
opet s besprijekornom logikom, dovelo do daljnje pretpostavke da se
“automatizirani sustavi mogu projektirati bez mnogo brige za ljudski
element u cjelokupnom sustavu”.275
Ţelje i vjerovanja na kojima se zasniva taj dominantni pristup
projektiranju, nastavljaju autori, dokazao se kao naivan i štetan. Iako
automatizirani sustavi često jesu uvećavali preciznost i ekonomičnost rada,
zakazali su na drugim područjima, i donijeli su cijelu novu skupinu
problema. Većina njihovih mana proistječe iz “činjenice da čak i izrazito
automatizirani sustavi još uvijek zahtijevaju angaţman operatera a utoliko i
komunikaciju i koordinaciju čovjeka i stroja”. No, budući da se pri
projektiranju takvih sustava obraćalo nedovoljno paţnje ljudima koji njima
rukuju, mogućnosti komunikacije i koordinacije su im slabašne.
Kompjutoriziranim sustavima dakle nedostaje “cjelovito poznavanje” posla
i “sveobuhvatan pristup vanjskom svijetu” kakav mogu ponuditi jedino
ljudi. “Automatizirani sustavi ne znaju kada početi komunicirati s
čovjekom o njegovim aktivnostima i namjerama, ni kada od čovjeka
zatraţiti dodatne informacije. Oni neće uvijek dati adekvatne povratne
informacije čovjeku, a on pak tako uspijeva pratiti stanje i ponašanje
automatike, i shvatiti da postoji potreba za intervencijom kako bi se
izbjegli nepoţeljni postupci automatike” Mnogi problemi koji opsjedaju
automatizirane sustave potječu od “neuspjeha u projektiranju interakcije
čovjeka i stroja koja bi dosezala najosnovnije kompetencije interakcije
čovjeka i čovjeka”.276
Te probleme samo pogoršavaju inţenjeri i programeri kada rad svojih
tvorevina skrivaju od operatera i pretvaraju svaki sustav u zatvorenu crnu
kutiju. Normalna ljudska bića, kako glasi ta neizrečena pretpostavka, nisu
dovoljno bistra ni dovoljno kvalificirana da shvate sve finese nekog
programa ili robota. Ako im previše pričate o algoritmima ili procedurama
koje upravljaju njihovim radom i odlukama, samo ćete ih zbuniti, ili još
gore, ohrabriti da prčkaju po sustavu. Sigurnije je drţati ljude u neznanju.
Ali pokušaj da se ljudske pogreške izbjegnu uklanjanjem ljudske
odgovornosti i tu na kraju učini greške vjerojatnijima. Operater neznalica
opasan je operater. Kako objašnjava John Lee, profesor ergonomije sa
Sveučilišta Iowa, kod automatskih je sustava često slučaj da se koriste
“kontrolnim strategijama i mentalnim modelima osobe [koja njima
upravlja]”. Ako ta osoba ne razumije te algoritme, nema načina da
“anticipira postupke i ograničenja automatike”. Čovjek i stroj, kad djeluju
pod kontradiktornim pretpostavkama, na kraju počnu raditi sa suprotnim
ciljevima. Nemogućnost ljudi da razumiju strojeve kojima se sluţe usto im
i narušava samopouzdanje, kako izvještava Lee, pa “bivaju manje skloni
intervenirati” kad nešto poĎe po zlu.277

Prostor za ljude
Stručnjaci za ergonomiju i ljudski faktor već dugo apeliraju na projektante
da odustanu od pristupa kojim se smjera tehnici i prihvate automatizaciju
koja smjera čovjeku. Projektiranje koje smjera čovjeku ne započinje
ocjenom sposobnosti stroja, nego paţljivom procjenom vrlina i mana ljudi
koji će rukovati strojem ili će na neki drugi način s njim biti u doticaju.
Tehnološki razvoj time se vraća humanističkim načelima koja su
nadahnjivala prve ergonome. Cilj je razdijeliti uloge i odgovornosti tako da
se ne kapitalizira samo na brzini i preciznosti stroja, nego tako da i radnici
ostaju angaţirani, aktivni i pozorni - uključeni a ne isključeni.278
Pogoditi tu ravnoteţu nije teško. Desetljeća ergonomskih istraţivanja
pokazuju da se ona moţe postići na više jednostavnih načina. Sustav se
moţe programirati tako da se kontrola nad kritičnim funkcijama vrati
operateru, i to u intervalima koji su kratki ali nisu pravilni. Ako znaju da će
u bilo kojem trenutku moţda morati preuzeti kormilo, ljudi ostaju pozorni i
angaţirani, i to ih potiče na situacijsku svjesnost i učenje. Projektant moţe
odrediti granice dosega automatizacije tako da se pobrine za to da ljudi koji
rade s računalom obavljaju izazovne poslove - umjesto da im se prepuštaju
pasivne, promatračke uloge. Ako čovjek ima posla, lakše se odrţava učinak
generiranja. Projektant operateru k tome moţe ponuditi izravnu osjetilnu
povratnu informaciju o radu sustava, vizualnim ali i zvučnim i taktilnim
upozorenjima, čak i kad je riječ o postupcima koje odraĎuje računalo.
Redovito izvještavanje povećava angaţman i pomaţe operateru da ostane
pozoran.
Jedna od najintrigantnijih primjena pristupa koji u središte stavlja
čovjeka je adaptivna automatizacija. U adaptivnim sustavima računalo se
programira tako da detaljno prati što radi osoba koja ga koristi. Podjela
rada izmeĎu softvera i ljudskog operatera kontinuirano se baţdari u skladu
s time što se dogaĎa u svakom trenutku.279 Kad računalo registrira da
operater, primjerice, treba izvesti kakav zakučast manevar, moţe preuzeti
sve ostale poslove. OsloboĎen moguće dekoncentracije, operater se tako
moţe potpuno posvetiti onom što je vaţno i zahtjevno. U rutinskim
okolnostima računalo će prebaciti više poslova na operatera, što će mu
povećati opterećenje kako bi zadrţao situacijsku svjesnost i dobio priliku
za uvjeţbavanje. Koristeći se analitičkim sposobnostima računala s
humanističkim ciljevima, adaptivnom se automatizacijom nastoji operatera
odrţavati na vrhuncu Yerkes-Dodsonove krivulje produktivnosti i
prevenirati kognitivno preopterećenje jednako kao i kognitivno
podopterećenje. DARPA, laboratorij Ministarstva obrane SAD-a koji je
predvodio stvaranje Interneta, čak radi na uvoĎenju “neuroergonomskih”
sustava koji pomoću raznih moţdanih i tjelesnih senzora “detektiraju
kognitivno stanje osobe i zatim manipuliraju parametrima zadatka kako bi
se izbjegla uska grla u percepciji, paţnji te radnom pamćenju”.280
Adaptivna automatizacija, nadalje, obećava da će unijeti dozu humanosti u
radne odnose izmeĎu ljudi i računala. Pojedini rani korisnici takvih sustava
izvještavaju da se osjećaju kao da suraĎuju s kolegom a ne da rade sa
strojem.
Studije o automatizaciji obično se prvenstveno bave velikim,
kompleksnim i riskantnim sustavima, kakvi se, primjerice, koriste u
kokpitima zrakoplova, u kontrolnim prostorijama ili na bojnom polju. Kad
takvi sustavi zataje, to moţe koštati mnogo ţivota i mnogo novca. No, ta su
istraţivanja relevantna i za projektiranje aplikacija za potporu u
odlučivanju kakvima se koriste liječnici, pravnici, menadţeri i osobe u
drugim analitičkim djelatnostima. Takvi programi prolaze opseţna
testiranja kako bi bili laki za učenje i upotrebu, ali čim im zavirite ispod
toboţe prijateljskog sučelja, vidjet ćete da je etika kojoj je u središtu
tehnologija i dalje na tronu. “Tipično je”, piše John Lee, “za ekspertne
sustave da djeluju kao proteza, kojom bi se navodno manjkavo i
nedosljedno ljudsko razmišljanje trebalo zamijeniti preciznijim računalnim
algoritmima”.281 Njihova je namjena da nadomjeste ljudsko prosuĎivanje,
umjesto da ga nadopunjavaju. Sa svakim poboljšanjem brzine obrade
podataka i prediktivne moći takve aplikacije, njezin programer prebacuje
sve više i više odgovornosti za donošenje odluka sa stručnjaka na softver.
Raja Parasuraman, koji je moţda najdublje proučavao posljedice
automatizacije na ljude, vjeruje da je taj pristup pogrešan. On tvrdi da
programi za potporu odlučivanju rade najbolje onda kad stručnjaku nude
vaţne informacije u onom trenutku kad su mu potrebne, i pritom ne
preporučuju nikakve konkretne postupke.282 Najpametnije, najkreativnije
zamisli dolaze onda kad ljudi imaju prostora za vlastite misli. Lee se s time
slaţe: “Manje automatiziran pristup, koji automatizaciju postavlja u ulogu
kritičara svog operatera, imao je puno više uspjeha”. Najbolji ekspertni
sustavi ljudima prezentiraju “alternativna tumačenja, hipoteze, ili moguće
putove”. Te dodatne i često neočekivane informacije pomaţu da se
neutraliziraju prirodne spoznajne pristranosti koje ljudima znaju iskriviti
prosudbe. Analitičare i donosioce odluka tako se potiče da problem
razmotre iz drugih kutova, odnosno da imaju u vidu širi skup mogućnosti.
Lee meĎutim ističe da sustav treba ostaviti posljednju riječ čovjeku.
Budući da savršene automatike nema, savjetuje on, dokazi upućuju na to da
će “manje intenzivna automatizacija, poput one koja se koristi kad se
zauzme pristup kritičara, manje vjerojatno inducirati pogreške”.283
Računala jesu nenadmašna kad treba sortirati veliku količinu podataka, ali
ljudski stručnjaci još uvijek su suptilniji i mudriji mislioci od svojih
digitalnih partnera.
Prokrčiti neki prostor za misli i prosudbe kompetentnih stručnjaka
cilj je i onima koji tragaju za nekim u većoj mjeri humanističkim pristupom
automatizaciji kreativnih zanimanja. Mnogi projektanti i dizajneri
kritiziraju popularne CAD programe kao prenametljive. Ben Tranel,
arhitekt u tvrtci Gensler iz San Francisca, hvali računala zbog toga što šire
mogućnosti projektiranja. Kao primjer zgrade koja “nije mogla biti
sagraĎena” bez kompjutera navodi Šangajski toranj u Kini, spiralni,
energetski efikasan neboder koji je projektirao Gensler. No, zabrinut je
zbog doslovnosti projektantskog softvera - koji arhitekta prisiljava da
definira značenje i upotrebu svakog geometrijskog elementa koji unose -
jer se time zatvaraju inače otvorena, nestrukturirana istraţivanja koja potiče
ručno skiciranje. “Nacrtana linija moţe biti puno toga”, kaţe Tranel, dok
digitalizirana mora biti samo jedno.284
Profesori matematike Mark Gross i Ellen Yi-Luen Do još su 1996.
godine iznijeli alternativni prijedlog doslovnom CAD-softveru. Izradili su
konceptualni nacrt aplikacije sa sučeljem koje “nalikuje na papir” koje bi
moglo “zahvatiti namjeravane višeznačnosti, nedorečenosti i nepreciznosti,
i vizualno podrţati i prenijeti te kvalitete”. Time bi projektantski softver
dobio sugestivnu moć crtaćeg bloka.285 Od tada do danas još su mnogi
znanstvenici predlagali nešto slično. Nedavno je tim predvoĎen
znanstvenicima Julie Dorsey s Yalea izradio prototip projektantskog
programa koji nudi svojevrsno “mentalno platno”. Umjesto da računalo
automatski prevodi dvodimenzionalne crteţe u trodimenzionalne mentalne
modele, sustav, koji za unos koristi tablet s ekranom osjetljivim na dodir,
arhitektu omogućuje grubo skiciranje u tri dimenzije. “Projektant tako
moţe ucrtavati i precrtavati linije a da ga pritom ne sputavaju ograničenja
naguţvanih poligona ni nefleksibilnost parametarskog procesa”,
objašnjavaju oni. “Naš sustav omogućava postupno doraĎivanje u cijelom
procesu razvoja ideje, bez nametanja geometrijske preciznosti prije
dovršetka gotove ideje.”286 Uz manje nametljiv softver mašta će
projektanta lakše bujati.

Protiv struje
Napetost izmeĎu automatizacije koja smjera tehnologiji i one koja smjera
čovjeku nije samo akademski problem. Ona utječe na odluke koje
svakodnevno donose poslovni ljudi, inţenjeri i programeri, kao i regulatori
u vlasti. U avijacijskoj djelatnosti dva su dominantna proizvoĎača na
suprotnim stranama te rasprave još od uvoĎenja sustava za navoĎeno
pilotiranje prije trideset godina. Airbus smjera tehnologiji. Cilj mu je da
avioni postanu u osnovi “otporni na pilote”.287 Odluka tvrtke da glomazne
police smještene sučelice pilotu, kakvima se tradicionalno upravlja
avionom, zamijeni malenim, postranično smještenim upravljačkim
palicama, jedan je od izraza toga cilja. Takve palice - nalik onima za
računalne igre - vrlo djelotvorno šalju instrukcije letnim računalima, s
minimalnim manualnim naporom, ali pilotu ne daju taktilnu povratnu
informaciju. U skladu s idealom staklenog kokpita, one naglašavaju ulogu
pilota kao operatera a ne kao avijatičara. Airbus je letna računala nadalje
programirao tako da u pojedinim situacijama nadglasavaju instrukcije
pilota kako bi se avion odrţao unutar specifikacija i parametara stabilnosti
zrakoplova. Krajnji nadzor pada na računalo, a ne na pilota.
Boeingov pristup projektiranju navoĎenog letenja u većoj mjeri
smjera čovjeku. Potezom koji bi uveselio braću Wright, tvrtka je odlučila
da ne dopusti letnom softveru da nadglasa pilota. Krajnji nadzor nad
manevrima zadrţava avijatičar, čak i u ekstremnim situacijama. U Boeingu
ne samo da su zadrţali starinsku pilotsku palicu nalik volanu, nego su je
projektirali tako da pruţa umjetne povratne informacije koje oponašaju ono
što je pilot osjećao dok je još imao izravan nadzor nad upravljačkim
mehanizmima. Iako takve pilotske palice samo šalju elektroničke signale
računalu, programirane su tako da pruţaju otpor i daju druge taktilne
podraţaje koji simuliraju osjećaj gibanja vodoravnoj i okomitog kormila te
drugih kontrolnih površina. Istraţivanja pokazuju da taktilna, ili haptička,
povratna sprega značajno djelotvornije upozorava pilote na vaţne promjene
u orijentaciji aviona nego što su to sami vizualni znakovi, kaţe John Lee. A
budući da mozak opipne podraţaje obraĎuje drugačije nego vidne,
“haptička upozorenja” obično ne “ometaju istodobno izvoĎenje vizualnih
zadaća”.288 U stanovitom smislu, taj sintetički taktilni osjet Boeingovog
upravljača pilota izvlači iz staklenog kokpita. Oni moţda ne pilotiraju
Jumbo Jet onako kako je to činio Wiley Post sa svojim malim Lockheed
Vegom, ali su tjelesnim doţivljajem angaţiraniji pri letu od svojih kolega u
pilotskim kabinama Airbusa.
Airbus proizvodi veličanstvene avione. Nekim komercijalnim
pilotima su draţi od Boeingovih, a sigurnosna prošlost oba proizvoĎača je
manje-više ista. No, nedavni incidenti otkrivaju nedostatke Airbusova
smjeranja tehnologiji. Pojedini stručnjaci za avijaciju vjeruju da je u
nesreći Air Francea svoju ulogu imalo i to kako Airbus projektira kokpit.
Transkript zvučnog zapisa otkrio je da kopilot David Robert sve vrijeme
nije bio svjestan da Pierre-Cedric Bonin, pilot koji je upravljao avionom,
kobno griješi povlačeći upravljačku palicu prema sebi. U Boeingovu
kokpitu svakom je pilotu upravljački volan drugog pilota na vidjelu, i
primijetit će što ovaj radi s njim. A ako to nije dosta, oba volana rade kao
jedinstven ureĎaj. Ako jedan pilot povuče volan prema sebi, jednako se
pomiče i volan drugog pilota. I vizualno i haptički, piloti ostaju
sinkronizirani. Airbusove postranične palice, naprotiv, nisu vidljive
drugom pilotu, rade na puno blaţe poteze, i funkcioniraju svaka za sebe.
Pilot lako previdi što mu radi kolega, pogotovo u izvanrednim situacijama
kad stres naraste a ţarište paţnje se suzi.
 Da je Robert na vrijeme vidio i ispravio Boninovu pogrešku, lako je
moguće da bi piloti uspjeli povrati nadzor nad zrakoplovom. Do nesreće
Air Francea, rekao je Chesley Sullenberger, “puno bi manje vjerojatno
došlo” da su piloti letjeli u Boeingovom kokpitu čiji upravljački sustav
smjera čovjeku.289 Čak i Bernard Zieger, briljantan i ponosit francuski
inţenjer koji je do umirovljenja 1997. radio kao Airbusov glavni
projektant, nedavno je pokazao koliko je zdvojan oko projektantske
doktrine svoje tvrtke. “Katkad se pitam jesmo li moţda napravili avion
kojim je prelako pilotirati”, rekao je piscu Williamu Langewiescheu,
kojemu je dao intervju u sjedištu Airbusa u Toulouseu. “U nekom za
letenje teţem avionu posada bi moţda bila pozornija.” Airbus je, nastavlja,
“u pilotska sjedala moţda trebao ugraditi nešto što bi ih ritnulo”. 290 Moţda
se šalio, ali njegov komentar rezonira s onim što su ergonomi spoznali o
odrţavanju pozornosti i drugih ljudskih vještina.
Ponekad bi automatizirani sustav svoje operatere baš trebao opaliti
po straţnjici.
Kad je američka Savezna uprava za zračni promet u svom
sigurnosnom upozorenju avioprijevoznicima 2013. predloţila da piloti
tijekom leta češće preuzimaju manualni nadzor nad avionom, ona se,
makar samo načelno, priklonila automatizaciji koja smjera čovjeku. U
Upravi su zaključili da bi se time što pilot ostaje u središtu zbivanja mogla
smanjiti vjerodostojnost ljudske pogreške, ublaţiti posljedice kvarova
automobila, a zračna putovanja učiniti još sigurnijima. Više automatizacije
nije uvijek najmudriji izbor. Savezna uprava za zrakoplovstvo pri
planiranju ambicioznog novog sustava kontrole leta u SAD-u zvanog
“NextGen” upošljava veliku i uglednu skupinu stručnjaka za ljudski faktor,
i itekako obraća paţnju na ergonomiju. Jedan od općih ciljeva projekta je i
“stvaranje zrakoplovnih sustava koji se adaptiraju na postupke ljudi,
korigiraju ih i poboljšavaju”.291
Kanadska kraljevska banka RBC, u financijskoj djelatnosti, takoĎer
ide protiv struje automatizacije koja smjera tehnologiji. U svojem je uredu
na Wall Streetu uvela vlastiti softver zvan THOR, koji čak usporava
prijenos kupoprodajnih naloga, čime se štite od algoritamskih manipulacija
brzinskih trgovaca na burzi. S usporenim izvršavanjem naloga, pokazalo se
u RBC-u, transakcije često na kraju ispadnu povoljnije za klijenta. U banci
priznaju da odupiranje aktualnom tehnološkom imperativu brzih tokova
podataka ima svoju cijenu: na svakoj se transakciji ovako zaradi manje.
Uvjereni su, meĎutim, da će jačanje lojalnosti klijenata i smanjenje rizika
dovesti do veće ukupne dobiti.292
Brad Katsuyama, bivši direktor u RBC-u, ide i korak dalje: vidjevši
kako trţišta vrijednosnicama naginju koristi brzinskih mešetara, pokrenuo
je stvaranje nove, pravednije burze zvane IEX. IEX je otvoren 2013. i
nalaţe nadzor nad automatiziranim sustavima. Njegov softver upravlja
protokom podataka tako da svi članovi burze istodobno primaju
informacije o cijenama, čime se neutraliziraju prednosti koje uţivaju
predatorske burzovne tvrtke koje svoja računala fizički smještaju
neposredno pokraj trţišta vrijednosnicama. IEX zabranjuje pojedine vrste
transakcija i sustava naknada koje dovode u prednost brze algoritme.
Katsuyama i njegovi kolege se koriste sofisticiranom tehnologijom za to da
izjednače šanse ljudi i računala. Pojedini nacionalni regulatori takoĎer
pokušavaju zauzdati automatizirano trgovanje na burzama uz pomoć
zakona i propisa. Francuska je 2012. odredila mali namet na burzovne
transakcije, a godinu dana poslije slijedila ju je i Italija. Budući da su
algoritmi za brzinsko trgovanje obično sačinjeni tako da provode strategije
koje se temelje na golemom broju transakcija - od kojih svaka daje sasvim
malu dobit, ali u trenutak-dva se obave milijuni takvih transakcija - čak i
vrlo mali namet takve programe moţe učiniti znatno manje privlačnima.

Tehnika preuzima upravljač

Takvi pokušaji obuzdavanja automatike ohrabruju. Oni pokazuju da su bar
neke tvrtke i drţavne sluţbe voljne dovesti u pitanje prevladavajući stav
prema kojemu na prvom mjestu treba biti tehnologija. No, ti napori ostaju
iznimke a ne postaju pravilo, i njihov je trajniji uspjeh daleko od sigurnog.
Čim se u nekom području primi automatizacija koja smjera tehnologiji,
postaje vrlo teško izmijeniti tok napretka. Softver počinje utjecati na način
obavljanja posla, organizaciju rada, na očekivanja potrošača, na način
stjecanja dobiti. Softver postaje dijelom ekonomskog i društvenog
inventara. Taj je proces primjer onoga što povjesničar Thomas Hughes
formulira kao “tehnologija dobiva zamah”.293 U početku svoga razvoja
nova je tehnologija bila podatna promjenama; na njezinu se formu i način
upotrebe moţe utjecati u skladu sa ţeljama projektanata, ali i zahtjevima
onih koji se njome koriste, te interesima društva u cjelini. Ali, jednom kad
se neka tehnologija ugradi u fizičku infrastrukturu, trgovačke i ekonomske
odnose, osobne i političke norme i očekivanja, postaje je veoma teško
mijenjati. Tehnologija je tada već sastavni dio društvenog statusa quo.
Nakupivši golemu inercijsku silu ona nastavlja slijediti stazu na kojoj se
našla. Pojedine će sastavnice tehnologije, naravno, svejedno zastarijevati,
ali na njihovo će mjesto obično dolaziti one koje profinjuju i perpetuiraju
postojeće načine rada i s njima povezana mjerila uspješnosti.
Avijacijski sustavi u komercijalnim letovima, primjerice, sada ovise
o preciznosti računalne kontrole. Računala bolje od pilota proračunavaju
ekonomičnost rute, a računalno navoĎeni avioni mogu letjeti na manjem
meĎusobnom razmaku nego oni kojima pilotiraju ljudi. Postoji
fundamentalna napetost izmeĎu ţelje da se poboljša letačka vještina pilota i
postizanje sve viših stupnjeva automatizacije na nebu. Malo je vjerojatno
da će zračni prijevoznici ţrtvovati dobit, i malo je vjerojatno da će
regulator sputavati razvoj avijacijskih sustava kako bi piloti dobili značajno
više vremena za uvjeţbavanje manualnog letenja. Rijetka se nesreća
povezana s automatikom, ma kako grozna bila, moţe prihvatiti kao cijena
djelotvornog i profitabilnog transparentnog sustava. U zdravstvenoj skrbi,
osiguravatelji i bolničke tvrtke, političare da i ne spominjem, na
automatizaciju gledaju kao na zakrpu kojom se smanjuju troškovi i
povećava produktivnost. Gotovo je sigurno da će oni i dalje povećavati
pritisak na dobavljače da automatiziraju postupke u medicini radi ušteda,
koliko god se liječnici brinuli zbog dugoročnog slabljenja svojih najfinijih i
najvrednijih umijeća. Na financijskim trţištima računala mogu izvršiti
transakciju u deset mikrosekundi - to je desetmilijunti dio sekunde - dok
ljudskom mozgu za reakciju na neki dogaĎaj ili podraţaj treba gotovo
četvrtina sekunde. Računalo obradi na desetke tisuća transakcija dok
burzovni trgovac trepne okom.294 Brzina računala izbacila je čovjeka iz
igre.
Obično se pretpostavlja da bilo koja tehnologija koja moţe dostići
visoku razinu prihvaćenosti, pa time i zamah, time mora biti i najbolja. Iz
tog je motrišta napredak kvazidarvinistički proces.
Izume se mnoge tehnologije, koje se natječu da osvoje korisnike i
kupce, i nakon nekog razdoblja rigoroznog ispitivanja i usporeĎivanja
trţišta izabire najboljeg ponuĎača. Samo najsposobniji alati preţivljavaju.
Društvo stoga moţe biti mirno: tehnologije koje usvaja upravo su one
optimalne, a alternativne, koje su putem otpale imale su neke kobne
nedostatke. Taj se umirujući pogled na napredak, riječima pokojnog
povjesničara Davida Noblea, temelji na “jednostavnoj vjeri u objektivnu
znanost, ekonomsku racionalnost i trţište”. Ali, kako u svojoj knjizi
Proizvodne snage Noble dalje objašnjava, takvo je gledište iskrivljeno:
“Tehnološki napredak njime se prikazuje kao s jedne strane autonoman i
neutralan, a s druge strane kao hladno racionalan tehnički proces - a ništa
od svega toga toboţe se nimalo ne dotiče ni ljudi ni moći ni institucija ni
suprotstavljenih vrijednosti ni različitosti snova.”295 Na mjesto
kompleksnosti, višeznačnosti i povijesnih intriga, prevladavajuće motrište
prema tehnološkom napretku nudi nam pojednostavljenu, retrospektivnu
fantaziju.
Taj zapetljan način na koji tehnologije zapravo bivaju prihvaćene i
stječu zamah Noble ilustrira pričom o automatizaciji proizvodnje alatnih
strojeva nakon Drugog svjetskog rata. Izumitelji i inţenjeri su razvili
nekoliko različitih tehnika za programiranje automatskih tokarilica,
bušilica i drugih tvorničkih postrojenja, i svaka je od tih metoda
upravljanja imala svoje prednosti i mane. Jedan od najjednostavnijih i
najdomišljatijih takvih strojeva bio je Specialmatic; izumio ga je inţenjer s
Princetona Felix P. Caruthers a na trţište plasirala mala njujorška tvrtka
Automation Specialties. Programator mu se sastojao od niza prekidača i
brojčanika i bio je pod potpunom kontrolom za to obučenog tvorničkog
strojara. Operater stroja, objašnjava Noble, “namještao je i ugaĎao tok i
brzinu rada oslanjajući se pritom na vlastito akumulirano iskustvo izgleda,
zvuka i mirisa rezanja metala”.296 Osim što je u rad automatiziranog
sustava uveo prešutna znanja iskusnog obrtnika, Specialmatic je imao i
jednu ekonomsku prednost: tvorničar nije morao plaćati cijelu četu
inţenjera i konzultanata da mu programiraju postrojenja. Caruthersova je
tehnologija u časopisu American Machinist obasuta lovorikama: u njemu
se biljeţi kako je Specialmatic “projektiran tako da se čitav posao oko
napučivanja i programiranja obavlja za samim strojem”. Strojaru on
omogućuje da postigne povećanu produktivnost automatike a pritom zadrţi
“potpuni nadzor nad strojem u cijelom proizvodnom ciklusu”.297
Trţište, meĎutim, nije prihvatilo Specialmatic. Dok je Caruthers
radio na svom izumu, Ratno zrakoplovstvo SAD-a slijevalo je novac u
istraţivački program - vodio ga je tim znanstvenika sa Sveučilišta MIT,
tradicionalno vezanog za vojsku - razvoja “numeričke kontrole”, tehnike
digitalnog kodiranja prethodnice suvremenog softvera. Numerička kontrola
je uţivala pogodnosti izdašne drţavne potpore te prestiţnog pedigrea, ali
ne samo to: ona se obraćala vlasnicima i upraviteljima tvrtki koje su,
suočene s ustrajnim napetostima s radnicima traţile način da steknu veću
kontrolu nad radom strojeva kako bi time umanjili moć radnika i sindikata.
Numerička kontrola uz to ima i stanovito ozračje najnovije tehnologije -
poslijeratno uzbuĎenje oko digitalnih računala samo joj je dalo krila. Kako
će kasnije pisati autor članka u listu Udruţenja proizvodnih inţenjera,
MIT-ov sustav moţda jest bio “komplicirano, skupo čudovište”,298 ali
industrijski divovi poput General Electrica i Westinghousea po hitnom su
ga postupku prihvatili a da alternativama poput Specialmatica nisu ni dali
priliku. Numerička kontrola nije bila nikakav pobjednik evolucijske borbe
za opstanak, nego je proglašena pobjednicom prije nego je natjecanje i
otpočelo. Programi su dobili primat nad ljudima, a projektiranje koje
smjera tehnici počelo je hvatati zamah. A javnost? Javnost nije ni znala da
se tu o nečemu i odlučivalo.
Inţenjeri i programeri ipak ne snose svu krivicu za štetne učinke
automatizacije koja smjera tehnici. Oni katkad jesu slijedili svoje
mehanističke ţelje i snove, i jesu bili podloţni “tehničkoj aroganciji” koja
“ljudima daje privid moći koja se ne da ograničiti”, kako kaţe fizičar
Freeman Dyson.299 No, oni i prate zahtjeve poslodavaca i klijenata.
Programeri se u pisanju programa koji automatiziraju rad uvijek suočavaju
s kompromisima. Koraci koji su nuţni za razvoj stručnosti - ograničavanje
dosega automatizacije, davanje veće i aktivnije uloge ljudima, poticanje
razvoja automatičnosti vjeţbom i ponavljanjem - sve to podrazumijeva
ţrtvovanje brzine i efikasnosti. Učenje upravo zahtijeva neefikasnost.
Tvrtke, kojima je cilj maksimalno uvećati produktivnost i dobit rijetko će
ili nikada prihvaćati takve kompromise. Glavni razlozi zbog kojih uopće
ulaţu u automatizaciju i jesu smanjivanje troškova rada i postizanje većeg
radnog učinka.
I kao pojedinci, kad odlučujemo koji ćemo program ili ureĎaj
koristiti, mi gotovo uvijek traţimo ono što nam je najpogodnije i
najefikasnije. Izabrat ćemo onu aplikaciju ili napravu koja nam smanjuje
naprezanje i oslobaĎa vrijeme, a ne onu s kojom ćemo morati raditi dulje i
teţe. Za tvrtke koje se bave tehnologijom prirodno je udovoljavati takvim
ţeljama pri projektiranju proizvoda. One se meĎusobno ţestoko nadmeću
da ponude upravo ono što će koristiti s najmanje truda i razmišljanja. U
Googleu i svim sličnim firmama”, kaţe Alan Eagle, direktor u Googleu,
objašnjavajući misao vodilju mnogih softverskih i internetskih tvrtki,
“radimo na tome da tehnologija koju stvaramo u što većoj mjeri bude
glupavo laka za upotrebu”.300 Kad je riječ o razvoju i upotrebi
komercijalnog softvera, neovisno o tome pogoni li on kakvo industrijsko
postrojenje ili pametni telefon, apstraktna zainteresiranost za sudbinu
ljudskih talenata ne moţe se natjecati s mogućnostima uštede novaca i
vremena.
 Pitao sam Parasuramana misli li da će se društvo u budućnosti
mudrije koristiti automatikom, odnosno hoće li postići više ravnoteţe
izmeĎu računanja i prosuĎivanja, čovjeka i računala, te izmeĎu teţnje
djelotvornosti i razvoja stručnosti. Zastao je na trenutak i kiselo se
nasmijao: “Nisam baš spokojan po tom pitanju”.
 Interludij o pljačkašu grobova

Našao sam se u škripcu. Po nuţdi - ne vlastitim izborom - uortačio sam se

s dementnim pljačkašem grobova imenom Seth Briars. “Ja ne jedem, ne
spavam, ne perem se, i nije me briga”, obavijestio me Seth, ne bez
stanovitog ponosa, nedugo nakon što smo se susreli na groblju pokraj
Cootove kapelice. Znao je gdje se motaju stanovite osobe za kojima sam
tragao, i za to da me do njih dovede zauzvrat je traţio da mu pomognem
dovući kola puna svjeţe iskopanih leševa od Critchleyevog ranca do
prašnjavog napuštenog grada Tumbleweeda. Ja sam kočijašio Sethovom
zapregom dok je on iza mene pročešljavao mrtvace u potrazi za čime
vrijednim. Put je bio pun nedaća. Još smo se i uspjeli provući kroz zasjedu
drumskih razbojnika - s puškom sam više nego spretan - ali kad sam
pokušao prijeći klimavi most pokraj grebena Gaptooth, leševi su mi se
otkoturali na stranu i poremetili ravnoteţu kola pa sam izgubio nadzor nad
konjima. Zaprega je skliznula niz guduru i ja sam umro u vulkanskoj
erupciji krvi koja je šiknula na zaslon. Vratio sam se u ţivot nakon
nekoliko sekundi čistilišta, i sve sam morao prolaziti iznova. Nakon pet-
šest neuspjelih pokušaja, počeo sam očajavati da nikad neću uspjeti
dovršiti misiju.
Igrao sam pucačku igru s otvorenim svijetom Red Dead Redemption,
čija se radnja odvija početkom prošlog stoljeća u zamišljenoj graničnoj
pokrajini na jugozapadu SAD-a nazvanoj New Austin. Radnja je čisti
Peckinpah. Igru započinjete u ulozi stoičkog bivšeg kriminalca koji je sada
vlasnik ranca i zove se John Marston, a desni obraz mu je simbolično
izbrazdan dvama dugim dubokim oţiljcima. Pod ucjenom saveznih
agenata, Marston, kojemu su oteli ţenu i sina, prati svoje bivše partnere u
zločinu. Da biste završili igru morate voditi svog revolveraša kroz različite
kušnje umijeća i lukavosti, od kojih je svaka malo teţa od prethodne.
Nakon još nekoliko pokušaja napokon sam sa svojim odvratnim
tovarom uspio prijeći most, štoviše, nakon mnogih sati ludovanja za
ekranom i Xboxom, prošao sam svih pedeset i nešto misija. Za nagradu,
pruţena mi je prilika gledati kako će me - to jest, Johna Marstona -
izrešetati isti oni agenti koji su ga prisilili na cijeli zadatak. Usprkos
odurnom završetku, iz igre sam izašao s osjećajem postignuća. Zauzdavao
sam mustange, gaĎao kojote i odirao im koţu, pljačkao vlakove, dobio
pravo malo bogatstvo na pokeru, borio se rame uz rame s meksičkim
revolucionarima, spašavao bludnice od pijanih neotesanaca, i u pravoj
maniri Divlje horde, za Gatlingovom strojnicom poslao cijelu vojsku
razbojnika u vječna lovišta. Prošao sam test, i moji su mu sredovječni
refleksi bili dorasli. Pobjeda moţda nije bili veličanstvena, ali je ipak bila
pobjeda.
Video-igre obično preziru ljudi koji ih nikad nisu igrali. To jest
razumljivo, imajući u vidu da u njima ima krvi do koljena, ali je šteta.
Osim što su izvanredno domišljate a povremeno i vrlo lijepe, najbolje igre
su izvrstan model za projektiranje softvera općenito. Na njima se vidi kako
programi mogu i poticati razvoj vještina, umjesto da uz njih atrofiraju. Da
bi se usavršio u video-igri, igrač mora prolaziti kroz sve teţe kušnje, ako
bude dobar dobivat će nagrade, a povratne informacije (moţda kakva
erupcija krvi) su neposredne i često ţivopisne. Igre promiču stanje toka, i
nadahnjuju igrače da ponavljaju zakučaste manevre sve dok im ne postanu
prirodni. Vještina koju igrač savladava moţda jest trivijalna - recimo, kako
plastičnim kontrolerom prevesti zamišljenu zapregu preko zamišljanog
mosta - ali tu će vještinu podrobno savladati, i moći će je ponovno koristiti
u novoj misiji ili novoj igri. Postat će za nešto stručnjak, i postajući
stručnjakom će se ludo provesti.301
Kad je riječ o softveru kojim se koristimo u osobnom ţivotu, video-
igre su iznimka. Najpopularnije aplikacije, naprave i internetske usluge
smjeraju što većem komforu, ili kako kaţu njihovi ponuĎači,
“upotrebljivosti”. Njima se moţe rukovati već s nekoliko dodira, pokreta
prstima ili klikova, što se savlada bez mnogo truda i vjeţbe. Kao i
automatizirani sustavi koji se koriste u proizvodnji i trgovini, ti su
programi pomnjivo projektirani tako da teret mišljenja prebace s ljudi na
računala. Čak se i u profesionalnom softveru kakvim se sluţe glazbenici,
producenti, filmaši i fotografi sve više naglašava lakoća upotrebe.
Kompleksni zvučni i vizualni efekti, koji su nekoć zahtijevali ekspertna
znanja, mogu se postići pritiskom na gumb ili micanjem kontrolne trake.
Koncepcije na kojima se oni zasnivaju više se ne moraju poznavati, one su
sada sastavni dio programa. To ima vrlo realnu prednost: softver tako
postaje koristan široj skupini ljudi, onima koji ţele efekt bez truda. No,
cijena udovoljavanju neznalici je devalvacija znalca.
Peter Merholz, konzultant za razvoj softvera, programerima savjetuje
da teţe “glatkoći” i “jednostavnosti” svojih proizvoda. Uspješne naprave i
aplikacije, kaţe on, skrivaju svoju tehničku sloţenost iza prijateljskog
sučelja. Svojim korisnicima one na najmanju moguću mjeru smanjuju
kognitivno opterećenje: “Za jednostavne stvari ne treba puno razmišljanja.
Izbora je malo, i ne zahtijeva se prizivanje prethodnih stečenih znanja.”302
To je recept za stvaranja takvih aplikacija koje, kako pokazuje
Nimwegenov eksperiment s kanibalima i misionarima, zaobilaze mentalne
procese učenja, izgradnje vještina i pamćenja. Takav alat od nas traţi malo,
a kognitivno gledano, malo nam i nudi.
Filozofiji projektiranja koju Merholz naziva “samo radi” mnogo toga
ide u prilog. Svatko tko se mučio s namještanjem budilice, promjenom
postavki na WiFiju ili s alatnim trakama Microsoftovog Worda, znat će
cijeniti jednostavnost. Bespotrebno komplicirani proizvodi trate nam
vrijeme ne dajući mnogošto zauzvrat. Istina je da ne moramo biti stručnjaci
za sve, ali taj ideal glatkoće postaje problematičan kad se pisac softvera
okušava u izradi recepata za intelektualno traganje i privrţenost drugim
ljudima. Time će nas lišavati ne samo naših umijeća, nego i svijesti da je
znanje nešto vrijedno, i nešto vrijedno truda. Sjetite se samo algoritama za
provjeru pravopisa, koji se danas ugraĎuju u praktički svaku aplikaciju za
pisanje i poručivanje. Programi za provjeru pravopisa nekad su imali
funkciju tutora. Podcrtali bi moguće greške, skrenuli vam na njih paţnju i
usput vas ponešto naučili o pravilnom pisanju. Sluţeći se njima, učili ste.
Provjera pravopisa danas podrazumijeva automatsko ispravljanje
pogrešaka. Program će vam trenutačno i samozatajno popravljati greške a
da vas na njih i ne upozori. Nema povratnih informacija, sve ide “glatko”.
Niste vidjeli ništa i niste naučili ništa.
Ili pomislite na Googleov pretraţivač. Izvorno, on je nudio samo
prazan okvir za unos teksta. Sučelje mu je bilo uzorno jednostavno, ali
program je od vas još uvijek zahtijevao da promislite o tome što čete ga
upitati, da svjesno sročite i usavršite skup ključnih riječi kojima čete postići
najbolje rezultate. To više nije potrebno. Tvrtka je 2008. uvela Google
Suggest, postupak automatskog dovršavanja upita koji uz pomoć
prediktivnih algoritama nudi niz prijedloga formulacije upita. Sa svakim
sljedećim slovom koje utipkate izbacuje vam se novi popis prijedloga. U
podlozi te hiperaktivne revnosti leţi bjesomučna, gotovo manijakalna
opsesija efikasnosti. Sa svojim mizantropskim stavom prema
automatizaciji, Google na ljudsko spoznavanje gleda kao na nešto trapavo i
neegzaktno, kao na neki nezgodan biološki proces koji će bolje obaviti
računalo. “Moja je vizija da će za neko vrijeme većini upita pretraţivaču
biti udovoljeno a da ne morate ništa ni pitati”, kaţe Ray Kurzweil,
izumitelj i futurist koji je 2012. stupio na poloţaj Googleovog direktora
inţenjeringa. Tvrtka će “jednostavno znati da je riječ o nečemu što ćete
htjeti vidjeti”.303 Krajnji cilj je potpuna automatizacija pretraţivanja, kojom
ljudska volja jednostavno ispada iz igre.
Čini se da se za istim takvim teţnjama vode i društvene mreţe poput
Facebooka. Pomoću statističkog “otkrivanja” potencijalnih prijatelja, te s
funkcijama “lajkanja” i drugih mehaničkih znakova paţnje, te
automatiziranim upravljanjem mnogim vremenski zahtjevnim aspektima
osobnih odnosa, one nastoje uvesti red u neuredan proces društvenog
povezivanja. Facebookov osnivač Mark Zuckerberg sve to hvali kao
“glatkoću dijeljenja” - uklanjanje svjesnog truda pri socijalizaciji. No, ima
nešto veoma odbojno u tom pristupu birokratskim idealima brzine,
produktivnosti i standardizacije odnosa s drugim ljudima. Najsmislenije se
veze ne kuju transakcijama na trţištu ili kakvoj drugoj rutiniranoj razmjeni
podataka. Ljudi nisu čvorovi na mreţi. Za veze su potrebni povjerenje,
uviĎavnost i poţrtvovnost, a za tehnološki mozak sve su to nepoţeljni
izvori neefikasnosti. Uklanjanje otpora iz društvenih spona neće ih ojačati
nego oslabiti. Postat će sličnije vezama proizvoda i potrošača - koje se lako
stvaraju i još lakše raskidaju.
Nalik na nametljive roditelje koji klincima ne daju da išta rade sami,
Google, Facebook i drugi tvorci osobnog softvera na kraju su oštetili i
unizili upravo ona obiljeţja karaktera koja su se, barem nekad, smatrala
bitnima za ispunjen i krepak ţivot: domišljatost, znatiţeljnost, neovisnost,
ustrajnost, odvaţnost. Te ćemo vrline u budućnosti moţda doţivljavati
samo iz druge ruke, kroz podvige akcijskih likova kakav je John Marston,
u izmaštanim svjetovima u koje ulazimo putem zaslona.
 8.
Vaša unutarnja
bespilotna letjelica

Hladna je, maglovita noć s petka na subotu, sredina je prosinca i vozite se

kući s uredske proslave. Točnije, voţeni ste. Nedavno ste kupili svoj prvi
autonomni automobil - eSmart, električni auto Mercedesove izrade s
Googleovim softverom - i za volanom je njegov program. Pod bljeskom
samopodesivih LED farova vidite da je ulica mjestimično zaleĎena, a
zahvaljujući uvijek aţurnim podacima sa zaslona na kontrolnoj ploči vidite
da je auto u skladu s tim već regulirao brzinu i prianjanje vozila uz cestu.
Sve ide glatko. Opušteni ste i puštate da vam misli lete pa se prisjećate
večerašnje ukočene zabave. Prolazeći gustom šumovitom dionicom puta,
na samo par stotina metara od kuće, na cestu vam istrčava ţivotinja i ukopa
se u mjestu, točno vama na putu. To je susjedov bigl, shvatili ste, onaj koji
uvijek negdje odluta.
Što tada čini vaš robotski vozač? Hoće li nagaziti na kočnice, u nadi
da će spasiti psića ali riskirajući da auto nekontrolirano proklizi? Ili svojom
virtualnom nogom neće ni pipnuti kočnicu, ţrtvujući tako bigla kako biste
vi i vaše vozilo ostali izvan opasnosti? Kako će izbistriti i odvagati sve
varijable i vjerojatnosti, i donijeti konačnu odluku u djeliću sekunde? Ako
mu algoritmi proračunaju da bi kočenjem pas dobio 53 posto šanse da
preţivi, ali će to podrazumijevati 18 posto šanse da oštetite auto i 4 posto
šanse da se pritom ozlijedite vi - hoće li zaključiti da je pokušaj spašavanja
ţivotinje prava odluka? Kako softver, radeći samostalno, prevodi niz
brojeva u odluku koja ima i praktične i moralne posljedice?
A što ako ţivotinja koja je istrčala na cestu nije susjedov nego vaš
ljubimac? A kad smo već kod toga, što ako nije pas nego dijete? Zamislite
se kako se jednoga jutra tako vozite na posao i lagano pregledavate poštu
na mobitelu dok vaš samoupravljani auto prelazi most, a brzina mu je
precizno sinkronizirana na ograničenje od 60 km/h. Na mostu je grupa
školaraca, hodaju pločnikom pokraj vaše trake. U pratnji su odraslih,
izgledaju pristojno i čini se da je sve u redu. Ništa ne upućuje na mogući
problem, ali vaš auto svejedno malo usporava - računalo kompenzira u
korist sigurnosti. Odjednom dolazi do naguravanja, i nekog dječačića
odgurnu na cestu. Zaokupljeni kuckanjem poruke po ekranu telefona, vi ne
primjećujete što se dogaĎa. Odluku mora donijeti auto: ili će naglo skrenuti
i moţda udariti u drugu stranu mosta, i pritom vas moţda ubiti, ili će
udariti dijete. Koje će instrukcije softver poslati volanu? Bi li odluka bila
drugačija da je s vama u autu i vaše dijete, vezano u senzorskoj sjedalici na
straţnjem sjedalu? Što ako iz suprotnog smjera dolazi drugo vozilo? Što
ako je to vozilo školski autobus? Prvi zakon robotske etike Isaaca Asimova
- “robot ne smije ozlijediti ljudsko biće, ili nečinjenjem dopustiti da se
ljudskom biću našteti”304 - zvuči razumno i utješno, ali podrazumijeva
svijet koji je daleko jednostavniji od našega.
Dolazak autonomnih vozila, kaţe profesor psihologije sa Sveučilišta
NYU Gary Marcus, neće biti samo “znak kraja još jedne ljudske niše”.
Označit će i početak nove ere u kojoj će strojevi morati imati “etičke
sustave”.305 Neki bi rekli da smo na to već došli. Na male ali znakovite
načine, već smo počeli prepuštati moralne odluke računalima. Sjetite se
Roombe, robotskog usisavača o kojemu se naveliko pisalo. Roomba ne
razlikuje guţvu prašine od kakvog kukca. I jedno i drugo će jednostavno
usisati. Ako joj se na putu ispriječi cvrčak, sa cvrčkom je svršeno. I mnogi
ljudi će kad usisavaju prašinu takoĎer proći preko cvrčka. Ţivot kukca za
njih nema vrijednost, barem ako im je ovaj uljez u stanu. Ali, neki će
odloţiti usisavač, pokupiti cvrčka i izbaciti ga na slobodu. (Sljedbenici
Ďainizma, stare indijske religije, smatraju da je grijeh naštetiti bilo kojem
ţivom biću; oni jako paze na to da ne ozljeĎuju i ne ubijaju kukce.) Kad
Roombu pustimo s lanca na naš tepih, na nju prenosimo moć donošenja
moralnih odluka u naše ime. Robotizirane kosilice, primjerice Lawn-Bott i
Automower redovito usmrćuju više oblike ţivota, uz ostale i gmazove,
vodozemce i manje sisavce. Većina ljudi dok kose travu i pred sobom vide
ţabu ili poljskog miša svjesno će odlučiti poštedjeti ţivotinju, a ako
slučajno i prijeĎu preko nje, zbog toga će im biti ţao. Robotska kosilica
ubija bez skrupula.
Rasprave o moralu robota i drugih strojeva dosad su bile uglavnom
teoretske, i bile su na strani znanstvenofantastičnih priča i misaonih
eksperimenata na satovima filozofije. Etička razmatranja često utječu na
projektiranje takvih pomagala - oruţje ima kočnicu, motorna vozila ureĎaje
za ograničavanje brzine, pretraţivački programi filtere - ali od strojeva se
nije traţilo da budu svjesni. Oni nisu morali prilagoĎavati vlastiti rad u
stvarnom vremenu kako bi odgovarali na etičke začkoljice situacije u kojoj
su se našli. Svaki put kad se u prošlosti pojavilo kakvo pitanje o upotrebi
tehnologije, ljudi bi uskočili i sredili stvar. To u budućnosti neće uvijek biti
moguće. Računala i roboti imaju sve bolje senzore za svijet i u njemu
djeluju sve autonomnije, i neizbjeţno će se suočavati sa situacijama u
kojima pravog rješenja nema. Potresne će odluke morati donositi sami.
Nemoguće je automatizirati kompleksne ljudske aktivnosti a da se ne
automatiziraju i moralne odluke.
Kad je riječ o etičkim prosudbama, ljudi su sve samo ne nepogrešivi.
Griješimo mi često, nekad zbog zbunjenosti ili nepaţnje, a nekad i
namjerno. Neke je to navelo na to da ustvrde da će brzina, kojom razmatra
razne opcije, ocjenjuje vjerojatnosti i odvaguje posljedice, robotu
omogućiti da donosi racionalnije odluke nego što to mogu ljudi kad se od
njih zahtijeva hitno djelovanje. U tome ima istine. U nekim okolnostima,
osobito onda kad su u pitanju jedino novac ili posjed, brz izračun
vjerojatnosti moţe dostajati da se utvrdi koji će postupak dovesti do
optimalnog ishoda. Neki vozači ubrzavaju kad vide da im se pali crveno
svjetlo, iako se time povećava mogućnost nesreće. Računalo nikad ne
postupa tako neodmjereno. No, većina moralnih dilema nije tako uredna.
Pokušajte ih riješiti matematički i doći ćete do temeljnijeg pitanja: tko
odreĎuje što bi u moralno dvojbenoj situaciji bila “optimalna” ili
“racionalna” odluka? Na kome je da robotu programira savjest? Na
proizvoĎaču? Na vlasniku? Na programerima? Političarima? Drţavnoj
upravi? Na filozofima? Na agentu osiguravajućeg društva?
Savršen moralni algoritam ne postoji: nema načina da se etika svede
na skup pravila koja bi svatko prihvatio. Filozofi to pokušavaju stoljećima,
i nije im uspjelo. Čak su i hladno utilitarni proračuni subjektivni; njihov
ishod ovisi o vrijednostima i interesima donosioca odluka. Racionalni izbor
vašeg auto-osiguranja - pas treba umrijeti - moţda ne bi bio i vaš izbor, čak
ni da o tome odlučujete promišljeno, kad se suočite s tim da ćete moţda
pregaziti susjedovog ljubimca. “U dobu robota”, kako primjećuje politolog
Charles Rubin, “bit ćemo, kao i do sada - ili kao nikada do sada - osuĎeni
na moral”.306
Algoritme svejedno treba pisati. Ideja da si moţemo proračunavati
izlaz iz svojih moralnih dilema moţda je prepojednostavljena ili čak
odbojna, ali to ne mijenja činjenicu da će roboti i softverski donosioci
odluka morati računati o tome kako izaći iz svojih moralnih dilema. Naša
računska subraća naprosto neće imati drugu opciju, osim ako i kada
umjetna inteligencija dosegne nešto koliko-toliko nalik na svijest i bude
mogla osjećati ili bar simulirati osjećaje, afekte i ţal za nekim. Moţda se
kajemo što smo automatima uspjeli pridati sposobnost moralnog
postupanja a da im prethodno nismo dali moralni osjećaj, ali ţaljenje nas tu
neće spasiti. Pred nama je doba etičnih sustava. Ako ćemo na svijet pustiti
autonomne strojeve, moralni će se kodovi, ma kako nesavršeno, morati
prevesti u programske.

Strojevi koji ubijaju

Evo još jednog scenarija: vi ste pukovnik i zapovijedate bataljunom
vojnika, što ljudskih što mehaničkih. Imate jedan vod “robota-snajpera”
kojima upravljaju računala a razmješteni su po kriţanjima i krovovima
cijeloga grada koji vaše snage brane od gerilskog napada. Svojim laserskim
vidom jedan robot spazi muškarca u civilu koji u ruci drţi mobitel. Ponaša
se na način koji bismo s iskustvom smatrali sumnjivim. Na osnovi
podrobne analize aktualnog stanja i bogate baze podataka u kojoj su
dokumentirani prethodni obrasci ponašanja, robot trenutačno izračunava da
su izgledi 68 posto da je riječ o pobunjeniku koji se sprema detonirati
bombu a 32 posto da je to neduţni prolaznik. U tom trenutku ulicom
prolazi vozilo s desetak vaših vojnika. Ako je u pitanju bomba, moţe se
detonirati u svakom trenutku. Rat nema gumbe za stanku. Ne moţemo se
osloniti na ljudsku prosudbu. Robot mora djelovati. Što će softver
zapovjediti svom oruţju: pucati ili ne?
Mi civili se tek trebamo suočiti s etičkim implikacijama
samoupravljanih automobila i drugih autonomnih robota, ali u vojsci stvari
stoje sasvim drugačije. Ministarstva obrane i vojne akademije već
godinama proučavaju metode i posljedice prenošenja ovlasti za donošenje
odluka o ţivotu i smrti na bojne strojeve. Raketni i bombarderski napadi
bespilotnim letjelicama poput Predatora i Kosca već su sasvim uobičajeni, i
predmet su ţustrih rasprava. I jedna i druga strana imaju dobre argumente.
Zagovornici ističu da uz bespilotne letjelice vojnici i piloti ostaju izvan
opasnosti i da, zbog preciznosti napada, one smanjuju broj ţrtava i
razaranja uslijed tradicionalnog bombardiranja i drugog ofanzivnog
djelovanja. Protivnici takve napade smatraju ubojstvima u ime drţave.
Ukazuju na to da u eksplozijama često stradaju civili, da se i ne
spominje koliko ih uţasavaju. Napadi bespilotnim letjelicama, meĎutim,
nisu automatizirani; oni se izvode daljinskim upravljanjem. Sami avioni
mogu letjeti samostalno i obavljati izviĎačke zadatke, ali odluke o
ispaljivanju iz oruţja donose vojnici koji za računalima motre njihov
video-prijenos, postupajući pritom pod strogim zapovijedima nadreĎenih
časnika. Onako kako se trenutno koriste, bespilotne letjelice s raketnim
nosačima ne razlikuju se previše od navoĎenih projektila i sličnog
naoruţanja. Okidač još uvijek povlači čovjek.
Velika će promjena nastupiti onda kad okidačem počne rukovati
računalo. Potpuno automatizirani, računalno kontrolirani strojevi za
ubijanje - vojska ih naziva “smrtonosni autonomni roboti” ili SAR - danas
su tehnički izvedivi, dapače to su već neko vrijeme. Senzori okruţenja
skeniraju bojno polje precizno i u visokoj razlučivosti, sustavi automatskog
okidanja su veoma rasprostranjeni, a programe koji će upravljati
ispaljivanjem nije teško pisati. Za računalo, odluka se o ispaljivanju iz
nekog oruţja nimalo ne razlikuje od odluke o trgovanju kakvom dionicom
ili smještanju e-mail poruke u odjeljak za neţeljenu poštu. Algoritam je
algoritam.
Christof Heyns, juţnoafrički pravni znanstvenik kojeg je Opća
skupština UN-a angaţirala kao posebnog izvjestitelja o izvanpravnim,
skupnim i proizvoljnim egzekucijama, 2013. je godine objavio izvještaj o
stanju i budućnosti vojnih robota.307 Klinički i odmjereno, štivo je to od
kojeg se ledi krv u ţilama. “Drţave kadre proizvoditi SAR-ove”, piše
Heyns, “daju do znanja da se njima trenutno ne planiraju koristiti u
oruţanim sukobima i drugdje”. No, nastavlja on, povijest naoruţanja
ukazuje na to da se na ta uvjeravanja ne treba previše oslanjati: “Valja se
prisjetiti kako su se bespilotne letjelice u oruţanim sukobima u početku
koristile isključivo za izviĎanje, i da je njihova uloga kao oruţja za napad
bila odbacivana zbog očekivanih nepoţeljnih posljedica.
Iskustvo pokazuje da se početne namjere često ostavljaju po strani
kad se pojavi tehnologija koja se percipira kao prednost u odnosu na
protivnika.” Nadalje, kad se takav novi tip oruţja primijeni, gotovo će
uvijek uslijediti utrka u naoruţanju. Tada “moć interesa moţe nadvladati
napore za adekvatnim nadzorom”.
Ratovanje je u mnogočemu jednostavnije od civilnog ţivota. Postoje
pravila sluţbe, zapovjedni lanac, a strane u sukobu su jasno razgraničene.
Ubijanje nije samo prihvatljivo nego se i potiče. No, programiranje
moralnosti čak i u ratovanju otvara probleme za koje rješenja nema - ili se
barem ne mogu riješiti a da se prethodno ne ostave po strani mnoga
moralna pitanja. Ratna mornarica SAD-a 2008. je godine od Istraţivačke
skupine za etiku i nove znanosti pri Kalifornijskom politehničkom javnom
učilištu naručila prikaz etičkih pitanja što ih otvaraju smrtonosni
autonomni roboti, te izlaganje mogućih pristupa “konstruiranju etičnih
autonomnih robota” za vojne primjene. Etičari su izvijestili da postoje dva
osnovna pristupa programiranju robota koji bi donosio moralne odluke: s
vrha prema dnu, i od dna prema vrhu. Prvim pristupom sva pravila kojima
se vode robotske odluke programiraju se unaprijed i robot jednostavno
sluša upute “bez izmjena i fleksibilnosti”. To zvuči jednostavno ali nije, do
čega je došao i Asimov kad je pokušao formulirati svoj sustav robotske
etike. Nema načina da se predvide sve okolnosti s kojima se robot moţe
suočiti. “Krutost” programiranja s vrha prema dnu moţe nam se obiti o
glavu, pišu znanstvenici, “kad se pojavi situacija ili dogaĎaj koji
programeri nisu predvidjeli ili su ga nedovoljno dobro zamišljali, zbog
čega će robot ili loše obaviti posao ili će jednostavno napraviti nešto
uţasno, upravo zato što je vezan pravilima”.308
U pristupu od dna prema vrhu robot se programira s manjim brojem
najosnovnijih pravila i takav se pošalje u svijet. Tehnikama strojnog učenja
razvijat će vlastiti moralni kodeks i prilagoĎavati ga sa svakom novom
situacijom. “Poput djeteta, robot se stavlja u šarolike situacije i od njega se
očekuje da na pokušajima i pogreškama (te na njihovoj povratnoj vezi) uči
što je prikladno a to nije.” Što se s više dilema suoči, moralno će mu
prosuĎivanje biti profinjenije. MeĎutim, pristup od dna prema vrhu još je
trnovitiji. Kao prvo, nepraktičan je; algoritmi strojnog učenja koji bi bili
dovoljno suptilni i dovoljno široko primjenjivi za moralno odlučivanje još
uvijek ne postoje. Drugo, u situacijama u kojima se odlučuje o ţivotu i
smrti nema prostora za pokušaje i pogreške; već bi i sam taj pristup po sebi
tu bio nemoralan. I treće, nema jamstva da bi moral što ga računalo razvije
odraţavao ljudsku moralnost, ili da bi s njom barem bio u skladu. Ako ga
se pusti na bojište sa strojnicom i skupom algoritama strojnog učenja, robot
bi se mogao ponašati i kao odmetnik.
Ljudska bića, kako su istaknuli etičari, imaju stanovit “hibridni”
pristup donošenju moralnih odluka. Ljudi ţive u društvima koja imaju
zakone i druge propise za kojima im se ponašanje vodi i kojima im se ono
kontrolira; uz to, mnogi ljudi formiraju odluke i postupke tako da im se
uklope u vjerske i kulturalne zahtjeve; uza sve to, osobna savjest, bila ona
uroĎena ili ne, nameće vlastita pravila. Svoju ulogu ima i iskustvo. Ljudi
odrastajući uče biti moralna bića, pritom se boreći s etičkim odlukama
različitih vrsta u različitim situacijama. Daleko smo od toga da budemo
savršeni ali većina nas ima probirljiv moralni osjećaj koji se fleksibilno
moţe primjenjivati na dileme s kojima se nikad prije nismo susretali. Jedini
način na koji bi robot mogao postati istinski moralno biće bio bi da slijedi
naš primjer i preuzme taj hibridni pristup, da istodobno i slijedi pravila i
uči iz iskustva. No, stvaranje stroja s takvim mogućnostima daleko nadilazi
naše tehničke sposobnosti i znanja. “Na kraju ćemo”, zaključuju etičari,
“moţda moći izraĎivati moralno inteligentne robote koji zadrţavaju
dinamičku i fleksibilnu moralnost sustava graĎenih od dna, koji mogu
prihvaćati raznorodne ulazne podatke a da svoje odluke i postupke pritom
evaluiraju prema načelima zadanima s vrha”. No, prije nego doĎe do toga,
morat ćemo dokučiti kako programirati računala tako da iskazuju
“supraracionalna” svojstva - računala koja imaju emocije, društvene
vještine, svijest i osjećaj “ugraĎenosti u svijet”.309 Drugim riječima, morat
ćemo postati bogovi.
Malo je vjerojatno da će vojske htjeti čekati tako dugo. U svom
članku objavljenom u časopisu Parameters, glasilu Ratne škole Vojske
SAD-a, vojni strateg i umirovljeni pukovnik Thomas Adams tvrdi: “logika
koja vodi s potpuno autonomnim sustavima čini se nezaustavljivom”.
Zahvaljujući brzini, veličini i osjetljivosti robotskog naoruţanja, ratovanje
“izlazi iz područja ljudskih osjetila” i “prelazi granice ljudskih brzina
reakcija”. Uskoro će ono biti “previše sloţeno za istinsko ljudsko
razumijevanje”. Kako ljudi postaju najslabijom karikom vojnog sustava,
kaţe on u odjek argumenata civilnih programera koji se sluţe tehnologijom
kao okosnicom, odrţavanje “smislene ljudske kontrole” nad odlukama na
bojišnici postat će gotovo nemoguće. “Jedan odgovor na to je, naravno,
naprosto prihvatiti sporiju obradu informacija kao cijenu koju valja platiti
da bi ljudi uopće ostali uključeni u vojno odlučivanje. Problem je u tome
što će neki protivnik sasvim sigurno zaključiti da se sustav s okosnicom u
čovjeku moţe pobijediti ako ga se napadne sustavima koji takvih
ograničenja nemaju”. Na kraju ćemo, vjeruje Adams, “taktičko vojno
djelovanje moţda početi smatrati nečim što je zapravo posao za strojeve, a
za ljude je upravo neprikladno”.310
Primjenu SAR-ova naročito će oteţati upravo njihova taktička
djelotvornost, ali ne samo to: riječ je i o tome da bi njihova primjena imala
stanovite etičke prednosti neovisne o njihovom moralnom ustrojstvu. Za
razliku od ljudskih vojnika, roboti nemaju nikakve temeljne instinkte koji
bi ih opterećivali u ţaru i kaosu borbe. Oni ne doţivljavaju stres, depresiju
ni navale adrenalina. “Tipično”, piše Christof Heyns, “oni ne bi djelovali iz
osvete, panike, ljutnje ili prkosa, zbog predrasuda ili iz straha. Nadalje,
osim u slučaju da ih se za to konkretno programira, roboti ne bi prouzročili
namjernu patnju civilnom stanovništvu, primjerice mučenjima. A roboti i
ne siluju.”311
K tome, roboti ne laţu, niti na kakav drugi način pokušavaju prikriti
svoje namjere. Moţe ih se programirati tako da “ostavljaju digitalni trag”, i
tako je vojsku u pravilu i najlakše pozivati na odgovornost za njezine
postupke. A što je najvaţnije, upotrebom SAR-ova u ratovanju drţave
izbjegavaju pogibanje i ranjavanje vlastitih vojnika. Roboti ubojice
oduzimaju ţivote ali ih i štede. Čim ljudima postane jasno da će
automatizirano oruţje i automatizirani vojnici smanjiti vjerojatnost da im u
bitci budu ozlijeĎena ili poginu njihova djeca, pritisak na vlade da
automatiziraju ratovanje mogao bi postati neizdrţljiv. Na kraju svega,
moţda više i neće biti vaţno što, Heynsovim riječima, robotima manjkaju
“ljudska prosudba, zdrav razum, obuhvaćanja šire slike, razumijevanje
namjera koje stoje iza ljudskih postupaka, te shvaćanje vrijednosti”. Da
strojevi imaju ljudske kvalitete mišljenja i osjećanja ne bismo ih tako
mirno ni slali u razna razaranja.
Teren tu postaje samo još skliskiji. Vojne i političke prednosti
robotskih vojnika sa sobom nose i navlastite moralne prijepore. Primjena
SAR-ova neće samo promijeniti to kako se vode okršaji i bitke, ističe
Heyns. Time će se promijeniti i računica političara i generala kad je riječ o
donošenju odluke da se uopće krene u rat. Negodovanje javnosti zbog
ţrtava oduvijek je odvraćalo od borbi i poticalo na pregovaranje. Budući da
će SAR-ovi ublaţiti “ljudsku cijenu oruţanog sukoba”, javnost će se
moţda “jače isključiti” iz vojnih rasprava i “prepustiti odluku o upotrebi
sile svojoj drţavi, kao prije svega financijskom i diplomatskom pitanju, što
bi dovelo do normalizacije oruţanog sukobljavanja. SAR-ovi bi tako snizili
prag odlučivanja drţave u prilog oruţanom sukobu i drugim primjenama
smrtonosne sile, što bi vodilo tome da vojni sukob prestane biti samo
krajnje sredstvo”.312
UvoĎenje nove klase naoruţanja uvijek mijenja narav ratovanja, a
oruţja koja se ispaljuju ili detoniraju izdaleka - katapulti, mine, granate,
rakete - na nju su u pravilo najjače utjecala, što namjerno što nenamjerno.
Posljedice autonomnih strojeva za ubijanje u tom bi smislu vjerojatno bile
veće nego išta što im je prethodilo. Prvi pucanj koji robot samostalno ispali
po svoj će se prilici čuti po cijelom svijetu. I zauvijek će promijeniti
ratovanje, a moţda i društvo.
 Duboka automatizacija
Društveni i etički izazovi što ih sa sobom donose roboti ubojice i
samoupravljani automobili ukazuju na nešto vaţno i uznemirujuće po
pitanju smjera u kojem ide automatizacija. Mit o supstituciji tradicionalno
se definira kao pogrešna pretpostavka da se neki posao moţe razdijeliti na
zasebne zadaće i da se te zadaće mogu automatizirati malo-pomalo tako da
se pritom ne promijeni priroda posla kao cjeline. Tu će definiciju trebati
proširiti. Kako se opseg automatizacije širi saznajemo i to da je pogrešno
pretpostaviti da se društvo moţe razdijeliti na odjelita područja aktivnosti -
recimo, što je struka a što hobi, ili do kuda seţu granice nadleţnosti drţave
- kako bi se ta područja automatizirala a da se ne promijeni priroda društva
kao cjeline. Sve je povezano - promijenite naoruţanje i izmijenili ste
ratovanje - i te se povezanosti još učvršćuju kad ih se eksplicira u
računalnim mreţama. U nekom trenutku, automatizacija doseţe kritičnu
masu. Ona počinje oblikovati društvene norme, pretpostavke i etiku. Ljudi
sebe i svoje odnose s drugima sagledavaju u drugom svjetlu, i svoj osjećaj
osobnog postupanja i odgovornosti prilagoĎavaju tako da on obuhvati i tu
proširenu ulogu tehnologije. Drugačije se i ponašaju. Sada očekuju pomoć
računala, a u rijetkim prilikama kad ona ne stigne osjećaju se smeteno.
Softver postaje nešto “neodloţno i hitno”, kako je to formulirao računalni
znanstvenik s MIT-a Joseph Weizenbaum. Postaje “tvar od koje si čovjek
gradi svoj svijet”.313
Devedesetih godina, negdje u doba kad se balon internetskih dot-com
poduzeća počeo ispuhavati, s velikim se uzbuĎenjem naveliko govorilo o
“sveprisutnom računarstvu”. Mikročipovi će, uvjeravali su nas navijački
nastrojeni komentatori, uskoro biti posvuda - ugraĎivat će se u tvornička
postrojenja i police skladišta, urede, trgovine i stanove, bit će ukopani u tlo
i letjet će zrakom, ugraĎivat će se u robu široke potrošnje i tkati u odjeću,
čak će i kolati našim tijelom. Opremljena senzorima i primopredajnicima,
mala će računala mjeriti svaku zamislivu varijablu, od zamora materijala
preko temperature tla do razine šećera u krvi, i svoja će očitanja preko
Interneta slati u centre za obradu podataka u kojima će pak veća računala
ţvakati sve te brojke i slati instrukcije kako da se sve to zadrţi unutar
gabarita i pod sinkronizacijom. Računarstvo će prodrijeti u sve; automatika
će bit ambijent u kojem ţivimo, a ţivjet ćemo u kompjuteraškom raju,
svijetu programirljivog stroja.
Jedan od glavnih izvora pomame bio je Xeroxov PARC, proslavljeni
istraţivački laboratorij Silicijske doline u kojemu je Steve Jobs pronašao
inspiraciju na Macintosh. PARC-ovi inţenjeri i informacijski znanstvenici
objavili su seriju članaka u kojima opisuju budućnost u kojoj će računala
biti tako duboko utkana u “tkivo svakodnevice” da ih se “od nje više neće
moći razlučiti”.314 Više ne bismo čak ni primjećivali sva ta proračunavanja
koja se odvijaju svuda oko nas. Bili bismo toliko zasićeni podacima, toliko
opsluţivani softverom da bismo, umjesto da doţivljavamo tjeskobu zbog
preopterećenosti informacijama, od nje osjećali “umirenost”.315 Zvučalo je
idilično. Ali PARC-ovi istraţivači nisu bili Pollyanna. I oni su izraţavali
bojazni zbog svijeta koji su predviĎali. Brinulo ih je to što bi sveprisutan
računalni sustav bio idealno mjesto za skrivanje Velikog brata. “Ako je
računalni sustav ekstenzivan ali istodobno i nevidljiv”, napisao je glavni
tehnolog PARC-a Mark Weiser u članku objavljenom 1999. u časopisu
IBM Systems Journal, “postaje teško znati što je pod kontrolom čega, što je
s čime povezano, kamo teku informacije i kako se koriste”.316 Veliko je
povjerenje koje bismo morali polagati u tvrtke i ljude koji upravljaju
takvim sustavom.
UzbuĎenje oko sveprisutnog računarstva pokazalo se preuranjenim,
jednako kao i zabrinutost zbog njega. Tehnologija 1990- ih nije bila dorasla
tome da se svijet učini strojno čitljivim, i nakon pucanja balona dot-com
tvrtki, ulagači nisu bili raspoloţeni financirati ugradnju skupih
mikročipova i senzora u sve i sva. No u idućih se petnaest godina mnogošta
promijenilo. Ekonomske su računice sada drugačije. Cijena računalne
opreme strmoglavo je pala, a isto se dogodilo i s troškovima brzog
prijenosa podataka. Tvrtke kao što su Amazon, Google i Microsoft
pretvorile su obradu podataka u komunalnu djelatnost. Načinile su mreţu
računala “u oblaku” s kojom je moguće prikupljati i obraĎivati goleme
količine informacija u efikasnim centraliziranim posluţiteljskim sustavima,
koje se onda šalju aplikacijama na pametnim telefonima i tablet-
računalima, ili u kontrolno sklopovlje radnih strojeva.317 ProizvoĎači troše
milijarde dolara na opremanje tvornica tako umreţenim senzorima, a
tehnološki divovi poput GE-a, IBM-a i Cisca, u nadi da će pokrenuti
stvaranje “interneta stvari” ţure s razvojem standarda za razmjenu tako
dobivenih podataka. Računala su danas manje-više svuda i čak se i
najbeznačajniji pomaci u svijetu biljeţe kao nizovi digitalnih znamenaka.
To nas moţda ne umiruje, ali nas zato zasićuje. PARC-ovi istraţivači sada
izgledaju kao proroci.
Velika je razlika izmeĎu nekog niza alata i infrastrukture.
Industrijska je revolucija dobila puni zamah tek nakon što su njezine
operativne pretpostavke postale ugraĎene u sveobuhvatne sustave i mreţe.
Gradnja ţeljeznica sredinom devetnaestog stoljeće povećala je opseg trţišta
koja tvrtke mogu opsluţivati, dajući tako zamah mehaniziranoj masovnoj
proizvodnji i ekonomiji velikih razmjera, koji su postali još veći. Izgradnja
električne mreţe nekoliko desetljeća kasnije otvorila je put pokretnoj
tvorničkoj traci i učinila je svakovrsne električne ureĎaje isplativima za
proizvodnju i dostupnima potrošačima, potaknula je konzumerizam i
dotjerala industrijalizaciju do svakog doma. Te nove prijevozne i
energetske mreţe, uz telegraf, telefon i sustave za emitiranje koji su nastali
s njima, društvu su podarile nova obiljeţja. Izmijenile su način razmišljanja
o radu, zabavi, putovanju, obrazovanju pa čak i o organizaciji obitelji i
zajednice. Ritam i tkanje ţivota one su preobrazile još puno više nego
svojedobno parni tvornički strojevi.
Thomas Hughes, prikazujući posljedice nadolaska električne mreţe u
svojoj knjizi Mreže energije, opisuje kako su se prvo inţenjerska kultura a
onda i poslova pa konačno i opća kultura formirale u skladu s tim novim
sustavom. “Ljudi i ustanove razvili su obiljeţja koja su im odgovarala u
vezi s obiljeţjima tehnologije”, piše Hughes. “A sustavna interakcija ljudi,
ideja i ustanova, i tehničkih i netehničkih, dovela je do razvoja nadsistema
- sociotehnološkog nadsistema - s masovnim kretanjem i usmjerenjem.” U
tom je trenutku tehnologija uhvatila puni zamah, jednako za energetsku
djelatnost i za načine proizvodnje i ţivljenja koji su se na njoj razvijali.
“Taj se univerzalni sustav gibao konzervativno. Rastao je u pravilu
stabilno, a promjene su se odvijale kao grananja različitih funkcija”
Napredak si je usjekao brazdu.318
Na jednom smo se sličnom kriţanju već bili našli u povijesti
automatizacije. Društvo se prilagoĎava univerzalnoj računalnoj
infrastrukturi - brţe nego što se prilagodilo električnoj mreţi - i formira se
novi status quo. Pretpostavke koje leţe u podlozi rada industrije i
trgovinskih odnosa već su se promijenile. “Poslovni procesi koji su se prije
dogaĎali meĎu ljudskim bićima sada se izvršavaju elektronički”,
objašnjava W. Brian Arthur, ekonomist i teoretičar tehnologije na Institutu
Santa Fe. “Odvijaju se u nevidljivom prostoru koji je strogo digitalan.”319
Kao primjer ukazuje na proces kretanja pošiljke nekog tereta kroz Europu.
Prije nekoliko godina za to je trebala cijela legija činovnika s blokovima i
klamericama. Oni su vodili dnevnike odlazaka i dolazaka, provjeravali
deklaracije, obavljali inspekcije, davali ovjere, biljege i pečate, popunjavali
i urudţbirali obrasce, vodili korespondenciju i telefonirali s raznim drugim
sluţbenicima uključenima u koordinaciju ili regulaciju meĎunarodnog
teretnog prometa. Bilo kakva izmjena trase zahtijevala je dugotrajnu
komunikaciju meĎu predstavnicima raznih zainteresiranih strana -
dostavljača, prijevoznika, primalaca, drţavnih sluţbi - i nove hrpe
papirologije. Svaki teret danas pak sa sobom nosi radiofrekvencijske
identifikacijske oznake. Kad pošiljka proĎe kroz luku ili kakvu drugu
tranzitnu postaju, skeneri očitaju oznake i prenesu informacije u računala.
Računala ih dalje prenose drugim računalima koja koordinirano provedu
sve potrebne provjere, daju odgovarajuća odobrenja, po potrebi izmijene
rokove i ispitaju imaju li sve strane aţurne podatke o stanju pošiljke. Ako
bude potrebno preusmjeriti pošiljku, novi se smjer odreĎuje automatski, a
oznake i s njima povezani podaci aţuriraju se još jednom.
Takve su automatizirane i sveobuhvatne razmjene informacija
postale rutinom u čitavoj ekonomiji. Trgovinom se sve više upravlja kao,
kako kaţe Arthur, “ogromnom konverzacijom koja se u potpunosti odvija
meĎu strojevima”.320 Poslovati znači imati umreţena računala koja su u
stanju sudjelovati u toj konverzaciji. “Da ste stvorili izvrstan digitalni
ţivčani sustav”, priopćio je Bili Gates svojim direktorima, “znate po tome
što vašom organizacijom informacije tada teku jednako brzo i prirodno kao
i misli u ljudskom biću”.321 Svaka veća tvrtka, ako ţeli ostati odrţivom,
nema drugog izbora nego automatizirati, i onda još malo automatizirati.
Svoje radne procese i proizvode mora preustrojiti tako da dopuštaju sve
veći računalni nadzor i upravljanje, i mora uvesti ograničenja pristupa
ljudima u dobavljački i proizvodni lanac. Na kraju krajeva, ljudi su ti koji
ne mogu odrţavati tempo čavrljanja meĎu računalima; njihovu
konverzaciju oni samo usporavaju.
Pisac znanstvene fantastike Arthur Clarke jednom je pitao: “Moţe li
sinteza čovjeka i stroja uopće biti stabilna, ili će njezina čisto organska
sastavnica postati takvom smetnjom da će je se morati odbaciti?”322 Bar
kad je riječ o poslovnom svijetu, čini se da stabilnost podjele rada nije ni
na pomolu. Prevladavajuće metode kompjuterizirane komunikacije i
koordinacije manje-više jamče da će se uloga ljudi sve više smanjivati.
Ako se u predstojećim godinama tehnološka nezaposlenost još poveća, bit
će to više rezultat naše nove, podzemne infrastrukture automatizacije nego
bilo kojeg konkretnog uvoĎenja robota u tvornice, ili softvera za potporu
odlučivanju u urede. Roboti i programi su vidljiva flora jednog dubokog,
razgranatog, nevidljivog i invazivnog sustava.
 Taj korijenski sustav osim toga hrani širenje automatizacije u širu
kulturu. Od pruţanja usluga drţave pa do odrţavanja prijateljstava i
obiteljskih veza, društvo se preoblikuje tako da se uklopi u obrise nove
računalne infrastrukture. Tom se pak infrastrukturom provode i usklaĎuju
trenutačne podatkovne transakcije bez kojih flote samoupravljanih
automobila i vojske robota-ubojica ne bi bile moguće. Njome se dovodi
materijal kojim se hrane prediktivni algoritmi na temelju kojih pojedinci i
društva donose odluke. Na njoj se zasniva automatizacija učionica,
knjiţnica, bolnica, trgovina, crkava, stanova i kuća - mjesta koja se
tradicionalno vezuju za ljudski kontakt. Ona omogućava rad NSA i drugih
špijunskih sluţbi, kao i zločinačkih udruţenja i nametljivih korporacija, a
sve da bi se provodilo nadziranje i špijuniranje dosad neviĎenih razmjera.
Ona je ta koja je preusmjerila velik dio privatnih razgovora i javnog
diskursa na malene ekrane. I ona svim tim računalnim ureĎajima daje
sposobnost da nas vode kroz ţivot, nudeći nam postojan dotok
personaliziranih upozorenja, instrukcija i savjeta.
Ljudi i institucije i opet razvijaju takva obiljeţja kojima će se uklopiti
u obiljeţja prevladavajuće tehnologije. Industrijalizacija nas nije pretvorila
u postrojenja pa nas ni automatizacija neće pretvoriti u automate. Nismo,
eto, tako jednostavni. Širenjem automatizacije, meĎutim, naš ţivot postaje
sve više programatski. Imamo manje prilike iskazati svoju vještinu i
domišljatost, kao i vlastiti integritet koji se nekoć smatrao glavnom
značajkom ljudskog karaktera. Ako ne počnemo barem sumnjati u to kamo
smjeramo, taj će se trend samo ubrzavati.

Kroz staklo
Bio je to neobičan govor. Odrţao se krajem veljače u Centru za izvedbene
umjetnosti Long Beach pokraj Los Angelesa na TED konferenciji 2013.
Raščupan tip na sceni se vrpoljio i zastajkivao u govoru: bio je to Sergey
Brin, na glasu kao opušteniji od dvojice osnivača Googlea. Posao na
konferenciji mu je bio odrţati marketinško izlaganje o Googleovim
naočalama Glass, “računalu koje se drţi na nosu”. Nakon što je pustio
kratak promotivni video, bacio se na prezrivu kritiku pametnog mobitela,
ureĎaja za čiji je ulazak u sferu široke potrošnje uz ostale zasluţan i
Google, svojim operativnim sustavom Android. Brin je izvadio mobitel iz
dţepa i podrugljivo ga pogledao. Imati mobitel “nekako je muţevno”,
izjavio je. “Znate, ono kad samo sjedite i fino gladite taj komad stakla bez
mogućnosti”. Osim što “socijalno izolira”, zurenje u ekran kao u pod u
ljudima slabi i osjećaj angaţmana u fizičkom svijetu, primijetio je nadalje.
“Zar bi čovjek baš to trebao raditi sa svojim tijelom?”323
Odloţivši mobitel, Brin se bacio na izvikivanje prednosti Glassa.
Novi će ureĎaj unijeti izrazito superioran “format” u osobno računarstvo,
rekao je. Oslobodit će ljudima ruke i pustiti ih da drţe glavu gore, da
gledaju preda se i ponovno se poveţu s onim što ih okruţuje. Vratit će se u
svijet. Ima Glass i drugih prednosti. Budući da zaslon računala trajno
smještaju u vidno polje, kompjuterizirane naočale Googleu će omogućiti da
uslugom Google Now i drugim funkcijama za praćenje i personalizaciju
ljudima ponudi relevantne informacije kad god ureĎaj zaključi da im je
potrebna pomoć ili kakav savjet. Tvrtka će ispuniti svoju najveću ambiciju:
automatizirati dotok informacija u misli. Zaboravite funkcije automatskog
dovršavanja što ih nudi Google Suggest. S Glassom na glavi, rekao je Brin,
u odjek svog kolege Raya Kurzweila, više nećete ni morati pretraţivati
Web. Nećete morati formulirati upite ni pregledavati rezultate ni slijediti
tragove ni poveznice općenito. “Informacije će vam jednostavno pristizati
kad god vam budu trebale.”324 Osim sveprisutnosti, računalo će steći i
sveznanje.
Brinova nespretna prezentacija priskrbila mu je izrugivanje
tehnoloških blogera. Unatoč tome, u nečem je imao pravo. Mobitel nas
očarava ali i podraţava. Ljudski mozak nije sposoban koncentrirati se na
dvije stvari odjednom. Svaki pogled na ekran, svaki potez dodirom odvlači
nas od našeg neposrednog okruţenja. S mobitelom u ruci postajemo
pomalo nalik na duha, i vrludamo izmeĎu dva svijeta. Ljudima je, naravno,
uvijek moguće odvlačiti paţnju. Um i inače zna vrludati a paţnja odlutati.
Ali nikad na sebi dosad nismo nosili alatku koja nam toliko neumorno
okupira osjetila i odvaja paţnju. Vezujući nas za neko simboličko drugdje,
mobitel nas odvodi u progonstvo od ovoga ovdje i sada, što je Brin
razumio. Tako gubimo moć prisutnosti.
Brinovo uzdanje u to da će Glass taj problem riješiti manje je
uvjerljivo. Nema sumnje da bi nekad bilo korisno imati slobodne ruke dok
se sluţimo računalom ili fotoaparatom. Ali virkanje u ekran koji pred vama
lebdi ne traţi ništa manje paţnje nego gleduckanje na ekran koji drţite u
krilu. Dapače. Istraţivanja na pilotima i vozačima koji se koriste naglavnim
zaslonima pokazalo je da, kad ljudi gledaju tekst i slike koje im se
prikazuju na podlozi vlastitog okoliša, postaju podloţni takozvanom
“tuneliranju paţnje”. Ţarište paţnje im se smanjuje, oči se zaustavljaju na
prikazanoj slici i više ne zapaţaju ništa drugo što im se naĎe u vidnom
polju.325 U jednom takvom pokusu izvedenom u simulatoru letenja,
pilotima koji su se pri slijetanju sluţili naglavnim zaslonom trebalo je više
vremena da uoče velik avion koji im se ispriječio na pisti nego pilotima
koji su morali pogledavati na instrumente na kontrolnoj ploči. A dva pilota
s naglavnim zaslonima uopće nisu primijetila avion koji je stajao točno
pred njima.326 “Percepcija treba i oko i um”, kako objašnjavaju profesor
psihologije Daniel Simons i Christopher Chabris u svom članku iz 2013. o
opasnostima Glassa, “i ako vam je um nečime zaokupljen moguće je da ne
uočite nešto što bi inače bilo savršeno očigledno”327
Uz to, Glassov je prikaz namjerno teško ne gledati. Lebdi vam nad
okom, uvijek pripravan, i već na najmanji pokret oka vam ulazi u vidno
polje. Mobitel barem moţete strpati u dţep ili torbicu, ili ga staviti u drţač
za čaše u automobilu. Činjenica da s Glassom općite izgovorenim riječima,
pokretima glave, gestama ruku i dodirima prstiju još više steţe obruč nad
našim umom i osjetilima. Kad je pak riječ o zvučnim signalima koji
javljaju o pristiglim upozorenjima i porukama - a oni vam se šalju, kako se
pohvalio Brin u svom govoru na TED-u, “ravno kroz kosti lubanje” - oni
teško da bi bili manje agresivni od zvonjave i vibriranja mobitela. Ma
koliko mobitel, metaforički govoreći, bio muţevan, kompjuter koji vam je
prikvačen za čelo je garantirano gori.
Nosiva računala, bilo da nam se koče na glavi kao Googleov Glass ili
Facebookov Oculus Rift, ili se veţu za zglob kao pametni satovi (npr.
Pebble), nova su, a njihova je privlačnost time i neprovjerena. Ako im i
slijedi velika popularnost, pred njima su još neke velike prepreke.
Mogućnosti su im ovog časa još mršave, izgledaju nespretno - londonski
Guardian o Glassu piše kao “tim jezivim naočalama”328 - a zbog njihovih
su sićušnih ugraĎenih kamera mnogi ljudi ţivčani. No, kao i druga osobna
računala prije njih, brzo će se poboljšavati i gotovo će se sigurno uobličiti u
nešto manje upadljivo i korisnije. Ideja da računalo gotovo pa odijevamo
danas moţda zvuči čudno, ali za deset godina to bi moglo biti uobičajeno.
Moţda čak doĎemo na to da gutamo tablete s nanoračunalima koja će nam
pratiti biokemiju i funkcije organa.
Brin se, meĎutim, vara kad kaţe da Glass i drugi slični ureĎaji
predstavljaju neki raskid s prošlosti računarstva. Već postojećem
tehnološkom trendu oni daju još više silovitosti. Sada kad su mobitel i
tablet-računalo postali svenamjenski, a umreţena računala lakše prenosiva
i osobnija, softverskim tvrtkama postaje moguće programirati još mnogo
više aspekata našega ţivota. Zajedno s jeftinim, prijateljskim aplikacijama,
to je omogućilo da se infrastruktura računarstva u oblaku iskoristi za
automatizaciju čak i najbanalnijih poslova. Kompjuterizirane naočale i
ručni satovi još su proširili doseg automatizacije. S njima je lakše primati
upute na svakom koraku navigacije u, primjerice, voţnji biciklom ili šetnji,
ili algoritamski generirati savjete o tome gdje u blizini nešto pojesti ili
kupiti odjeću za izlaske. Ona sluţe i kao tjelesni senzori, jer se preko njih u
oblak prenose podaci o vašoj lokaciji, vašim razmišljanjima i vašem
zdravlju. Programerima i poduzetnicima to pak otvara još više prilika za
automatizaciju svakodnevice.

Posrtanje volje
Na dobro ili na zlo - to ovisi o perspektivi - ušli smo u začarani krug. Kako
se sve više oslanjamo na aplikacije i algoritme, sve smo manje u stanju
postupati bez njihove pomoći: i paţnja i vještine stišću nam se u tunele.
Softver tako postaje još presudniji. Automatizacija raĎa automatizaciju.
Budući da svatko očekuje da će svojim ţivotom baratati preko ekrana,
društvo prirodno prilagoĎava svoje rutine i procedure računalnim rutinama
i procedurama. Ono što se ne moţe postići softverski, sve što nije
izračunljivo pa se time opire automatizaciji, sada se počinje činiti suvišnim
i bespredmetnim.
PARC-ovi su istraţivači još 1990-ih ustvrdili da bismo da je
računarstvo sveprisutno znali po tome što više ne bismo bili svjesni
njegova prisustva. Računala bi bila toliko prepletena s našim ţivotom da bi
nam postala nevidljiva. Njima bismo se i nesvjesno sluţili u obavljanju
svakodnevnih zadataka.329 Dok su glomazni PC-jevi na sebe još i svraćali
paţnju kad bi se smrznuli, srušili ili se na koji drugi način ponašali
neubrojivo, to je zvučalo sasvim utopijski. Danas više baš i ne zvuči.
Mnoge računalne kompanije i softverske kuće sada govore da rade na tome
da im proizvod bude u što većoj mjeri nevidljiv. “Silno sam uzbuĎen oko
tehnologija koje potpuno nestanu iz vida”, izjavljuje Jack Dorsey, ugledni
poduzetnik iz Silicijske doline. “To mi radimo s Twitterom, ali i sa
Squareom (uslugom obrade kreditnih kartica na Internetu).”330 Kad Mark
Zuckerberg Facebook naziva “komunalnom” uslugom, što čini često, time
daje do znanja da ţeli da se društvena mreţa pretopi s našim ţivotom
onako kako se to dogodilo s telefonskim sustavom i električnom
mreţom.331 Apple je svoj iPad promovirao kao ureĎaj koji nam se “sklanja
s puta”. U istom tonu Google reklamira Glass kao način da nam se
“tehnologija makne s puta”. U nedavno je odrţanom govoru u San
Franciscu glavni inţenjer tvrtke Vic Gundotra istu parolu čak servirao i
djeci cvijeća: “Tehnologija bi nam se trebala micati s puta kako bismo
mogli ţivjeti, učiti i voljeti se.”332
Tehničare tu moţda moţemo optuţivati za bombastičnost ali ne i za
cinizam. Oni zaista vjeruju da bismo bivali to sretniji što bi nam ţivot bio
više kompjuteriziran. Uostalom, govore iz vlastitog iskustva. No, njihove
su teţnje svejedno svrha same sebi. Da bi popularna tehnologija postala
nevidljiva, ona prvo mora postati ljudima toliko bliska da se bez nje više ne
mogu ni zamisliti. Tehnologija će nam postati neuočljiva tek onda kad nas
posve okruţi. Justin Rattner, Intelov glavni tehnološki direktor, izjavio je
kako očekuje da proizvodi njegove tvrtke ljudima postanu u toj mjeri
dijelom “konteksta” da će im Intel uspijevati pruţati “sveobuhvatnu
asistenciju”.333 Stavljanje kupaca u toliko ovisan poloţaj bi, nije teško
pogoditi, slilo gomilu novca k Intelu i drugim računalnim kompanijama. Za
tvrtku nema ništa bolje nego kad se mušterija pretvori u molitelja.
Mogućnost da neka komplicirana tehnologija izblijedi u drugi plan,
tako da se moţe upotrebljavati s minimalnim trudom i razmišljanjem, moţe
biti jednako privlačna i onima koji bi se njome koristili i onima koji bi je
prodavali. “Kad nam se tehnologija makne s puta, od nje bivamo
osloboĎeni”, napisao je kolumnist New York Timesa Nick Bilton.334 Ali
nije to tako jednostavno. Tehnologiju nećete učiniti nevidljivom pukim
pritiskom na dugme. Ona nestaje tek nakon sporog postupka kulturne i
osobne aklimatizacije. Dok se na nju navikavamo, tehnologija nad nama
zadobiva sve veću moć. Ograničenja što ih ona postavlja našem ţivotu mi
moţda ne primjećujemo, ali to ne znači da ih nema. Kako je istaknuo
francuski sociolog Bruno Latour, nevidljivost tehnologije koju poznajemo
je “neka vrsta optičke varke”. Ona nam zakriva pogled na to kako smo
otvarajući se tehnologiji izmijenili sebe. Sredstvo kojim smo se izvorno
koristili da bismo proveli neku našu namjeru počinje nam nametati svoje
namjere, odnosno namjere svoga tvorce. “Ako ne uvidimo”, piše Latour, “u
kojoj je mjeri upotreba neke tehnike, ma koliko jednostavne, izmjestila,
prevela, izmijenila ili iskrivila izvornu namjeru, tomu je razlog naprosto taj
da smo mijenjajući sredstvo promijenili cilj, kao i taj da smo, uz popuštanje
volje, počeli ţeljeti nešto sasvim drugo od onoga što smo u početku
htjeli”.335
Teška etička pitanja što ih otvara moguća budućnost programiranja
robotskih automobila i vojnika - tko kontrolira softver? tko bira što će se
optimizirati? čije namjere i interese kod odraţava? - jednako su relevantna
i za razvoj aplikacija kojima se sluţimo pri automatizaciji vlastitog ţivota.
Kako se programi svojom snagom sve više razmahuju nad nama - oblikuju
nam način rada, utječu na to koje informacije vidimo, kojim rutama
putujemo, i djeluju na naše interakcije s drugima - oni se pretvaraju u neku
vrstu daljinskog upravljača. Za razliku od robota i bespilotnih letjelica, mi
imamo slobodu odbaciti softverske zapovijedi i prijedloge. Teško je,
meĎutim, umaknuti njihovu utjecaju. Kad pokrećemo aplikaciju mi traţimo
da nas se vodi - dajemo se na brigu stroju.
Pogledajte pobliţe Googleove Karte. Kada putujete gradom i
potraţite pomoć aplikacije, ona vam ne daje samo navigacijske savjete;
daje vam i jedan način razmišljanja o gradovima. U softver je ugraĎena
stanovita filozofija mjesta koja uz ostalo odraţava Googleove komercijalne
interese, subjektivnost i pristranost njegovih programera, te snage i slabosti
softvera kad je riječ o prikazivanju prostora. Google je 2013. izbacio novu
verziju Karti: u njoj više ne nudi svakome isti prikaz grada, nego za vas
generira posebnu kartu prilagoĎenu onome što Google percipira kao vaše
ţelje i potrebe na temelju informacija koje je tvrtka prikupila o vama.
Aplikacija će istaknuti obliţnje restorane i druga potencijalno zanimljiva
mjesta koja su preporučivali prijatelji u vašoj društvenoj mreţi. Davat će
vam upute koje odraţavaju vaše prijašnje odluke u navigaciji. Ono što
vidite je, kaţe tvrtka, “uvijek jedinstveno prilagoĎeno vama u skladu s
onim što ţelite obaviti upravo ovog časa”336
To zvuči privlačno, ali je ograničavajuće. Google izbacuje slučajnost
u korist izoliranosti. Stišava tu zaraznu zbrku grada svojim algoritamskim
antiseptikom. Ono što je, moţe se tvrditi, najvaţniji način gledanja na grad
kao javno mjesto koje ne dijelite samo sa svojim kompanjonima nego i s
neizmjerno raznolikom skupinom stranaca, gubi se. “Googleov
urbanizam”, komentira kritičar tehnologije Evgenij Morozov, “urbanizam
je osobe koja samoupravljanim automobilom hoće doći do trgovačkog
centra. Karakter mu je dubinski utilitaran, čak sebičan, s malo ili nimalo
brige za to kako se doţivljava javni prostor. U Googleovom svijetu javni
prostor je naime samo nešto što se ispriječilo izmeĎu vaše kuće i restorana
koji je dobio dobre preporuke, a vi umirete od ţelje da stignete do
njega.”337 Ekspeditivnost iznad svega.
Društvene mreţe na nas vrše neku vrstu pritiska da se prikaţemo
onako kako to odgovara interesima i pristranostima tvrtki koje ih vode.
Kroz vremensku crtu i druge dokumentarne funkcije Facebook potiče svoje
članove da o svojoj slici u javnosti razmišljaju kao o nečem neodvojivom
od njihova identiteta. Hoće ih utjerati u jedno i jednoobrazno “ja” koje traje
čitav ţivot i odvija se kao koherentna pripovijest koja počinje u djetinjstvu
i završava se, pretpostavljam, smrću. To se uklapa u suţenu koncepciju
ljudskoga ja i njegovih mogućnosti, koju zagovara tvorac Facebooka Mark
Zuckerberg: “Imate jedan identitet. Danima u kojima ste jednu sliku
ostavljali prijateljima i kolegama s posla a drugu ostalim ljudima koje
poznajete vjerojatno se vrlo brzo bliţi kraj.” On čak tvrdi da je “imati za
sebe dva identiteta primjer nedostatka integriteta”.338 To se gledište, što i
ne iznenaĎuje, savršenu uklapa u Facebookovu ţelju da svoje članove
zapakira kao uredne i koherentne skupove podataka, koje će isporučiti
oglašivačima. Za tvrtku to predstavlja dodatnu korist utoliko što se briga o
privatnosti tako doima manje utemeljenom. Ako imanje više nego jednog
identiteta ukazuje na manjak integriteta, onda htijenje da se odreĎene misli
i aktivnosti drţe i izvan pogleda javnosti ukazuje na neku karakternu
slabost. No, koncepcija jastva koju Facebook svojim softverom nameće
moţe gušiti. Naše ja rijetko je fiksno. Njega krasi stanovita mnogostranost.
Ona izvire iz osobnog istraţivanja i mijenja se ovisno o okolnostima. To
osobito vrijedi za mladost, kad je koncepcija sebe fluidna i podloţna
ispitivanju, eksperimentiranju i revidiranju. Biti uguran u neki identitet,
osobito već početkom ţivota, zna zatvoriti prilike za razvoj i ispunjenje
osobe.
Svaki softver u sebi sadrţi takve prikrivene pretpostavke.
Pretraţivači, automatizirajući intelektualno traganje, daju prvenstvo
popularnosti i recentnosti nad raznolikosti stavova, strogosti argumentacije
i kakvoće izraţavanja. Kao i svi analitički programi, oni su pristrani u
korist onih kriterija koji su podloţni statističkoj analizi, a na štetu onih koji
podrazumijevaju iskazivanje ukusa ili drugih subjektivnih prosudbi.
Algoritmi za automatizirano ocjenjivanje učeničkih sastava potiču na suho
svladavanje mehanike pisanja. Takvi su programi gluhi za ton teksta,
nezainteresirani za produbljenost znanja, i upravo sputavaju kreativno
izraţavanje. Namjerno kršenje gramatičkih pravila moţe biti pravi uţitak
za čitatelja, ali za računalo ono će biti oslobodiboţe. Sustavi preporuka,
bilo da je riječ o filmu ili potencijalnom ljubavnom interesu, obraćaju se
našim već formiranim ţeljama umjesto da nas stavljaju pred izazov nečeg
novog i neočekivanog. On pretpostavljaju da nam je običaj draţi od
pustolovine a predvidljivost od maštovitosti. Tehnologije kućne
automatizacije, koje omogućuju da se stvari kao što su osvjetljenje,
grijanje, kuhanje i kućna zabava detaljno programiraju, ţivotu u kući
nameću metronomski mentalitet. Oni suptilno potiču ljude na to da se
adaptiraju na uvrijeţene rutine i rasporede, čime dom pretvaraju u nešto što
više nalikuje na radno mjesto.
Pristranosti u softveru mogu uzdrmati i društveno odlučivanje, ne
samo osobno. Promovirajući samoupravljane automobile Google nabacuje
ideju da će takva vozila dramatično smanjiti broj sudara, a moţda će ih i
sasvim eliminirati. “Znate li da su automobilske nesreće najčešći uzrok
smrti za mladog čovjeka?” kazao je Sebastian Thrun u svom govoru 2011.
godine. “I znate li da su one gotovo sve posljedica ljudske greške, a ne
strojne, i da ih strojevi utoliko mogu i spriječiti?”339 Thrunov je argument
privlačan. Regulacijom opasnih aktivnosti kakva je voţnja društvo već
odavna daje prednost sigurnosti, i svatko prihvaća ulogu koju tehnološka
inovacija ima u smanjivanju rizika od nesreća i ozljeda. Ali čak ni ovdje
stvari nisu tako crno-bijele kako se to Thrunu hoće. Mogućnost
autonomnih automobila u prevenciji smrtonosnih i ostalih prometnih
nesreća u ovom je trenutku još uvijek teoretska. Kako smo vidjeli, odnos
izmeĎu strojeva i ljudskih pogrešaka je kompliciran i rijetko se odvija
prema očekivanjima. Nadalje, društveni ciljevi nikad nisu
jednodimenzionalni. Čak i ţelja za sigurnošću zahtijeva propitivanje.
Oduvijek je jasno da zakoni, kao i norme u ponašanju, u sebi sadrţe
kompromise izmeĎu sigurnosti i slobode, izmeĎu štićenja i riskiranja. Mi
dopuštamo, katkad čak potičemo ljude da se upuštaju u opasne hobije,
sportove i druge aktivnosti. Ispunjen ţivot, kako znamo, nije ţivot u
savršenoj izolaciji. Čak i kad je riječ o donošenju ograničenja brzine na
cesti, mi balansiramo izmeĎu sigurnosnih i drugih razmatranja.
Teški i često politički prijeporni, takvi kompromisi utječu na to u
kakvom društvu ţivimo. Pitanje je ţelimo li prepustiti softverskim
tvrtkama da odlučuju o tome? Kad na automatizaciju gledamo kao na lijek
za sve ljudske mane, iz vida nam izmiču druge opcije. Ţurba da se prihvate
autonomni automobili mogla bi dovesti ne samo do sputavanja osobne
slobode i odgovornosti; time nas se i odvraća od istraţivanja alternativnih
načina da se smanji vjerojatnost prometnih nezgoda, primjerice boljom
edukacijom vozača ili promicanjem masovnog prijevoza. A vrijedi
primijetiti i to da je briga Silicijske doline za sigurnost u prometu, iako
nedvojbeno iskrena, bila i selektivna. Ometenost uslijed upotrebe pametnih
i ostalih mobilnih telefona posljednjih je godina postala jednim od glavnih
uzročnika automobilskih sudara. Analiza Drţavnog vijeća za sigurnost
pokazala je da četvrtina svih nesreća na cestama u SAD-u u 2011.
uključuje upotrebu mobitela.340 Google i druge tehnološke tvrtke su,
meĎutim, uloţile malo ili nimalo truda u razvoj softvera koji bi preventivno
djelovao na ljude da u voţnji ne telefoniraju, da se ne dopisuju i da ne
pokreću aplikacije - što bi svakako bio skroman napor u usporedbi s
projektiranjem automobila koji sam vozi. Trebamo pozdraviti vaţne
doprinose koje računalne kompanije mogu dati društvu, ali ne bismo smjeli
pobrkati njihove interese s našima.

Tajni kod
Ako ne opaţamo komercijalnu, političku, intelektualnu ili etičku
motiviranost ljudi koji pišu naš softver, kao i ograničenja svojstvena
automatiziranoj obradi podataka, postajemo otvoreni za manipulaciju.
Kako piše Latour, time riskiramo da pobrkamo svoje i tuĎe namjere i a da i
ne primijetimo da je došlo do zamjene. A što se na tehnologiju više
navikavamo, taj rizik se povećava.
Jedna je stvar kad nam iz vida nestaju vodovod i kanalizacija, na čiju
se prisutnost s veseljem adaptiramo. I ako ne znamo sami popraviti slavinu
koja curi ili izaći na kraj s tvrdoglavim zahodom, obično nam je prilično
jasno što te instalacije rade u našem domu, i zašto su tu. Takva je većina
tehnologija koje su svojom sveprisutnošću postale nevidljive. Njihov je
rad naočigled razumljiv - ili bar razaznatljiv - a to su i pretpostavke i
interesi na kojima se temelji njihovo funkcioniranje. Tehnologije mogu
imati nenamjeravane posljedice - slavina i zahod u stanu promijenili su
način na koji ljudi razmišljaju o higijeni i privatnosti341 - ali rijetko su
imale skrivenih namjera.
Kad informacijske tehnologije postanu nevidljive dogaĎa se nešto
sasvim drugo. I onda kad smo svjesni njihove prisutnosti u našem ţivotu,
računalni sustavi su nam nepronični. Programski se kod ne izvršava nama
pred očima, a u mnogim slučajevima je i zakonski štićen kao poslovna
tajna. Čak i kad bismo ih i vidjeli, tekstovi programa većini nas ne bi ništa
značili: pisani su jezicima koje ne razumijemo. Od nas su skriveni i podaci
kojima se ti algoritmi hrane; oni se često spremaju u dalekim i dobro
čuvanim podatkovnim centrima. Ne znamo mnogo o tome kako se podaci
prikupljaju, za što se koriste, ni tko im moţe pristupiti. Sada kad se podaci
pohranjuju u oblaku, a ne više na osobnim čvrstim diskovima, više čak ne
moţemo sa sigurnošću znati ni kada se izmijenio ustroj sustava. Izmjene i
dopune popularnih programa često se provode bez našeg znanja. Aplikacija
kojom se sluţimo danas vjerojatno više nije ista ona aplikacija kojom smo
se sluţili jučer.
Moderni svijet je oduvijek kompliciran. Fragmentiran na
specijalizirana područja vještina i znanja, ovijen ekonomskim i drugim
sistemima, on odbija svaki pokušaj da ga se shvati u potpunosti. Ali danas
je sama ta kompleksnost skrivena od nas, u mjeri daleko većoj no što smo
ikad prije doţivjeli. Zakrivena je iza umješno sačinjene jednostavnosti
ekrana i prijateljskog, glatko sučelja. Okruţeni smo onime što politolog
Langdon Winner naziva “prikrivena elektronička kompleksnost”. “Odnosi i
veze” koji su “nekad bili dio svakodnevnog doţivljaja svijeta” kao
manifestni u neposrednim interakcijama meĎu ljudima te onima izmeĎu
ljudi i stvari, postali su “obavijeni apstrakcijom”.342 Kad nepronična
tehnologija postane još i nevidljiva, mudro je zabrinuti se. Pretpostavke i
namjere takve tehnologije tada se infiltriraju u naše ţelje i postupke. Više
ne znamo da li nam softver pomaţe ili nas kontrolira. Mi jesmo za volanom
ali ne moţemo sa sigurnošću znati tko je vozač.
 9.
Ljubav što livadu zbija

Ima jedan stih kojemu se uvijek vraćam, a otkad radim na rukopisu ove
knjige na umu mi je čak i češće nego inače.
Djelo je najslaĎi san što trud ga znade.
To je predzadnji stih jedne od najranijih i najboljih pjesama Roberta
Frosta, soneta “Košnja”. Napisao ga je netom po prelasku u dvadeseto
stoljeće kao mladić u dvadesetim godinama i mladi otac. Radio je kao
poljodjelac, uzgajao kokoši i odrţavao nekolicinu stabala jabuka na maloj
parceli u Derryju u drţavi Hampshire, koju je za nj bio kupio djed. Bilo je
to teško razdoblje njegova ţivota. Imao je malo novca i ne mnogo
mogućnosti. Prekinuo je studij na dva fakulteta, Dartmouthu i Harvardu, ne
stekavši diplomu. Bio je neuspješan u nizu manjih poduzetničkih pokušaja.
Bio je boleţljiv. Imao je noćne more. PrvoroĎeno mu je dijete, sin, s tri
godine umrlo od kolere. Imao je teţak brak. “Ţivot je bio neopoziv” zapisat
će kasnije Frost, “a meni je donosio zbrku”.343
No, baš se tih osamljenih godina u Derryju bio osovio kao pisac i kao
umjetnik. U poljodjelstvu ga je nešto nadahnjivalo - moţda dugotrajan,
samotan rad s mnogo ponavljanja, ili blizina ljepoti i nehajnosti prirode.
Teret rada olakšavao mu je teret ţivota. “Ako se osjećam bezvremeno i
besmrtno, to je zbog toga što sam tamo na pet ili šest godina bio izgubio
osjećaj za vrijeme”, napisat će o svom boravku u Derryju. “Bili smo
prestali navijati satove. Misli nam više nisu išle ukorak s vremenom jer
smo zadugo prestali čitati novine. Da smo planirali ili predviĎali ono što
nam se spremalo, od toga ne bi moglo biti ništa bolje.”344 U pauzama
izmeĎu poslova na imanju Frost je nekako uspio napisati većinu pjesama
za svoju prvu zbirku Dječakova oporuka; oko polovice pjesama za drugu,
Sjeverno od Bostona; kao i lijep broj drugih pjesama koje će naći svoje
mjesto u kasnijim zbirkama.
“Košnja” iz Dječakove oporuke najveća je pjesma njegova
derryjevskog razdoblja. To je pjesma u kojoj je pronašao svoj osobit glas:
govorni i razgovorni, ali istodobno potajan i promišljen. (Da biste zaista
razumjeli Frosta - ili bilo što, uključujući same sebe - potrebno je
nepovjerenja koliko i povjerenja.) Kao i mnoga njegova najbolja djela,
“Košnja” ima enigmatičnu, gotovo halucinatornu kakvoću koju prikriva
jednostavna i kućevna slika koju oslikava - u ovom slučaju muškarca koji
kosi travnjak i prikuplja sijeno. Što je više čitate, postaje sve čudnija i
čudnija:

Samo jedan zvuk se pokraj šume čuo,

Samo šapat zemlji moje duge kose.
Što je šaptala? To nisam znao reći;
Moţda nešto tek o sunčanoj vrućini,
Nešto, moţda, kako svijet je utihnuo -
Zato je i šaptala bez glasa riječi.
Ne bješe to san što lijene ure nose,
Ni zlato što daju vile i patuljci:
Išta svrh istine preslabo se čini
Za iskrenu ljubav što livadu zbija
U redove gdjeno venu cvjetni tuljci
(Blijede orhideje), i gdje šmugne zmija.
Djelo je najslaĎi san što trud ga znade.
Iza duge kose sijeno šaptom pade.345

Danas rijetko traţimo pouku u poeziji, ali tu vidimo kako pjesnikov

uvid u svijet moţe biti suptilniji i probirljiviji nego znanstvenikov. Frost je
shvaćao značenje onoga što danas nazivamo “tok”, kao i bit onoga što
danas nazivamo “otjelovljeno znanje” još puno prije nego su psiholozi i
neurobiolozi za to ponudili empirijske dokaze. Njegov kosac nije nikakav
retuširani seljak, romantična karikatura. On je poljodjelac, muškarac koji
radi teţak posao po ljetnoj ţezi. On ne sanja o “lijenoj uri” niti “zlatu”.
Njegove su misli na radu - tjelesni ritam košnje, teţina alata kojim rukuje, i
otkosima što ih ostavlja oko sebe. On ne traţi neku veću istinu onkraj
svoga posla. Rad je istina.
Djelo je najslaĎi san što trud ga znade.
U tom stihu ima tajne. Njegova snaga počiva na odbijanju da znači
išta više ili manje od onoga što kaţe. No, čini se jasnim da Frost tim
stihom, a i pjesmom, cilja na centralno mjesto djelovanja i u ţivljenju i u
saznavanju. Samo se kroz rad koji nas dovodi u svijet pribliţavamo
istinskom shvaćanju egzistencije, “djela” i činjenice. Razumijevanje se ne
stavlja u riječi. Ono se ne moţe eksplicirati. Ono nije ništa više nego šapat.
Da biste ga čuli, trebate se posve pribliţiti njegovu izvoru. Rad, bilo umni
bilo tjelesni, više je nego samo obavljanje posla. To je oblik promišljanja,
način viĎenja svijeta sučelice, ne kroz staklo. Djelovanjem se ukida ono
posredovno u percepciji, njime se pribliţavamo samoj stvari. Ono nas
vezuje za tlo, implicira Frost, onako kako nas ljubav vezuje jedno za drugo.
U antitezi transcendencije, radom stavljamo sebe na mjesto.
Frost je pjesnik rada. On se uvijek vraća na te trenutke otkrivenja u
kojima se djelatno ja proţima sa svijetom - kako će nezaboravno napisati u
jednoj drugoj pjesmi, “za smrtne zaloge u igri kad se radi”. 346 Knjiţevni
kritičar Richard Poirier u knjizi Robert Frost: Rad saznavanja s velikim je
senzibilitetom opisao pjesnikovo viĎenje bitnosti i biti radnoga truda:
“Svaki intenzivan rad koji je bio ovjenčan u njegovoj poeziji, poput košnje
ili branja jabuka, dopire do vizija, snova, mitova koji su srţ stvarnosti, i
svaki predstavlja njihov artikulirani oblik za onoga tko ga umije čitati s
potrebnim izostankom izvjesnosti i s ravnodušnošću prema puko praktičnoj
posesivnosti.” Znanje stečeno takvim trudom moţe izmicati poput kakva
mutnog sna - što bi bilo upravo suprotno od algoritamskog i računalačkog -
ali “svojim mitskim nagnućem to je znanje manje sporedno nego što su to
naizgled praktičniji rezultati rada, primjerice hrana ili novac”347 Kad se
upustimo u neki posao, bilo tijelom bilo umom, sami ili uz koga drugoga,
obično smjeramo nekom praktičnom cilju. Pogled nam je uperen ka
proizvodu na kojem radimo - moţda je to stog sijena kojim ćemo hraniti
ţivotinje. Ali kroz sam rad doći ćemo do dubljeg razumijevanja sebe i
svoje situacije. Tu je najvaţnija košnja, a ne sijeno.

Radost u alatima
Ništa od svega toga ne bi trebalo shvatiti kao napad na materijalni progres
ili kao njegovo odbacivanje. Frost ne romantizira neku daleku,
predtehnološku prošlost. Iako je očajavao nad onima koji su si dopustili da
postanu “licemjeri u oslanjanju na sveto pismo moderne znanosti”,348
osjećao je blisko srodstvo sa znanstvenicima i izumiteljima. Kao pjesniku,
s njima su mu zajednički bili i cilj i duh. Svi su oni bili istraţivači tajni
zemaljskog ţivota, izlučitelji smisla iz materije. Svi su se bavili poslom
koji, kako opisuje Peirier, “moţe proširiti sposobnosti čovjekova
snivanja”.349 Za Frosta, najveća vrijednost “djela”, činjenice - bilo da ih se
dohvaća riječima, izraţava umjetničkim radom ili se čine manifestnima
alatom ili kakvim drugim izumom - u njihovoj je sposobnosti da proširuju
doseg individualnog znanja i time otvaraju nove putove opaţanja,
zamišljanja i činjenja. U dugoj poemi “Kitty Hawk”, napisanoj potkraj
ţivota, Frost slavi let braće Wright “U nepoznato /
U uzvišeno”. Doţivljaj letenja te doţivljaj bezgraničnosti što ga on
budi svojim su “prijelazom / u beskraj”, braća omogućila i svima nama.
Njihov je pothvat bio prometejski. U odreĎenom smislu, napisao je Frost,
Wrightovi su taj beskraj učinili “racionalno našim”.350
Tehnologija je jednako presudna za rad saznavanja kao i za
proizvodni rad. Ljudsko je tijelo u svom priroĎenom, neokićenom stanju
krhko. Ograničeno je; snagom, spretnošću, rasponom osjetila, računskom
umješnošću, pamćenjem, i do granica svojih mogućnosti stiţe brzo. Ali
tijelo obuhvaća um koji moţe zamišljati, ţeljeti i planirati postignuća koja
samo tijelo ne bi moglo ispuniti. Na toj napetosti izmeĎu onoga što tijelo
moţe postići i onoga što um moţe providjeti nastala je tehnologija, i ta
napetost nju i danas oblikuje i gura naprijed. To je poriv čovječanstva da
proširi sebe i svoje znanje i umijeće u prirodi. Ne čini nas tehnologija
“poslijeljudskima” i “transhumanima”, kao što su nedavno dometnuli neki
znanstvenici i pisci. Ona nas čini ljudskima. Nama je tehnologija u prirodi.
Svojim alatima dajemo oblik našim snovima. Mi njih donosimo na svijet.
Praktičnost tehnologiju moţda razlikuje od umjetnosti, ali i jedno i drugo
izviru iz sličnog, navlastito ljudskog htijenja.
Košenje trave je jedan od mnogih poslova za koje je ljudsko tijelo
neprikladno. (Ako mi ne vjerujete, pokušajte.) Ono što koscu omogućava
da obavlja taj posao, što mu dopušta da bude kosac, alat je kojim zamahuje,
kosa. Kosac jest i mora biti unaprijeĎen tehnologijom. Kosca koscem čini
njegov alat, a koščeva vještina u baratanju alatom ono je što za njega
mijenja svijet. Svijet postaje mjesto u kojem on moţe djelovati kao kosac,
u kojem moţe otkosima zbijati livadu. Ta ideja, koja se površinski moţe
doimati trivijalnom pa čak i tautološkom, ukazuje na nešto elementarno o
ţivotu i tvorbi našega ja.
“Tijelo je naše općenito sredstvo imanja svijeta”, napisao je francuski
filozof Maurice Merleau-Ponty u svojemu majstorskom djelu iz 1945.
Fenomenologija percepcije.351 Naše fizičko ustrojstvo - činjenica da
hodamo uspravno na dvije noge i na stanovitoj visini, da imamo par ruku
sa sučelice smještenim palčevima, da imamo oči koje vide na odreĎeni
način, da imamo stanovitu toleranciju na vrućinu i hladnoću - odreĎuje
našu percepciju svijeta na način koji prethodi našim svjesnim mislima o
svijetu, a potom ih i oblikuje. Planine vidimo kao uznosite ne zato što bi
one bile uznosite nego zato što našu percepciju njihove forme i visine
oblikuje naš stas. Kamen pak vidimo, uz ostalo, i kao oruţje zato što nam
upravo ovakva graĎa ruke i šake omogućuje da ga podignemo s tla i
bacimo. Opaţanje je, baš kao i spoznavanje, otjelovljeno.
Iz toga slijedi da svaki put kad ovladamo nekim novim umijećem mi
ne mijenjamo samo naše tjelesne sposobnosti, nego i svijet. Svoj poziv
ocean šalje plivaču ali ne i osobi koja plivati nije naučila. Sa svakom
novom vještinom svijet se za nas preoblikuje otkrivajući sve veće
mogućnosti. Postaje sve zanimljiviji, i sve nas više ispunjava. Moţda je na
to ciljao Spinoza, nizozemski filozof sedamnaestog stoljeća koji se pobunio
protiv Descartesova razdjeljivanja uma i tijela, napisavši: “Ljudski um
sposoban je opaţati mnogošto, i ta mu je sposobnost to veća što mu je za to
tijelo spremnije.”352 John Edward Huth, profesor fizike s Harvarda,
svjedoči regeneraciji koja prati ovladavanje vještinom. Prije desetak
godina, pod nadahnućem inuitskih lovaca i drugih velikih snalaţljivaca u
prirodi, prihvatio se “samonametnutog programa učenja orijentacije
pomoću obiljeţja okoliša”. Nakon više mjeseci rigoroznog promatranja i
uvjeţbavanja na otvorenom, naučio se očitavati dnevno i noćno nebo,
tumačiti kretanja oblaka i valova, dešifrirati sjene koje bacaju stabla.
“Nakon godinu dana bavljenja time”, prisjeća se, “nešto mi je sinulo: način
na koji vidim svijet opipljivo mi se promijenio. Sunce mi je izgledalo
drugačije, baš kao i zvijezde. Hutha se ta bogatija percepcija okoliša
stečena nekom vrstom “primarne empirije” dojmila kao “slična onome što
ljudi opisuju kao duhovno buĎenje”.353
Omogućujući nam da postupamo i na način koji nadmašuje naša
tjelesna ograničenja, tehnologija mijenja i našu percepciju svijeta i ono što
svijet za nas znači. Transformativna moć tehnologije najvidljivija je u
otkrivačkim alatima, od mikroskopa do ubrzivača čestica znanstvenika, do
kanua i svemirskog broda istraţivača, ali tu moć ima svaki alat, uključujući
one kojima se sluţimo u svakodnevnom ţivotu. Svaki put kad nam
instrument omogući da njegujemo neko novo umijeće, svijet postaje
drugačiji i primamljiviji, te poprištem još većih mogućnosti.
Mogućnostima prirode nadodaju se mogućnosti kulture. “Ponekad se”,
pisao je Merleau-Ponty, “značenje na koje ciljamo ne moţe postići
prirodnim sredstvom tijela. Tada moramo konstruirati instrument, i tijelo
će oko sebe onda projicirati kulturni svijet.”354 Vrijednost valjano
sačinjenog i valjano korištenog alata počiva ne samo u onome što se njime
za nas stvara, nego i u tome što on stvara u nama. U najboljim izdanjima,
tehnologija otvara nove prostore. Daje nam svijet koji je istodobno
razumljiviji našim osjetilima i primjereniji našim namjerama - svijet u
kojemu smo više na svome. “Moje tijelo je ugoĎeno svijetu onda kad mi
percepcija daje njegov što je moguće raznolikiji i jasniji prikaz”,
objašnjava Merleau-Ponty, “i kad moje motoričke namjere ostvarujući se
primaju onaj odgovor prirode koji i očekuju. Taj maksimum jasnoće u
percepciji i djelovanju odreĎuje percepcijsku osnovu, nit moga ţivota, opći
milje koegzistencije moga tijela i svijeta.”355 Kad se koristi promišljeno i
umješno, tehnologija postaje mnogo više nego sredstvo proizvodnje ili
potrošnje. Ona postaje sredstvom doţivljavanja, i nudi nam više načina da
nam ţivot bude bogat i angaţiran.
Razmotrimo izbliza kosu. To je jednostavan ali veoma domišljat alat.
Kosu su oko 500. pr. n. e. izumili Rimljani ili Gali, a sastoji se od
zakrivljene oštrice, iskovane od ţeljeza ili čelika te pričvršćene za jedan
kraj duge drvene motke, drţala. Drţalo obično pri polovini duljine ima
malu drvenu ručicu, ili hvat, uz čiju pomoć cijelu napravu drţimo i njome
baratamo dvjema rukama.
Kosa je varijacija mnogo starijeg srpa, sličnog alata za sječu ali s
mnogo kraćim zamahom, koji je izumljen u kamenom dobu i koji će
kasnije imati bitnu ulogu u počecima razvoja poljoprivrede pa onda i
civilizacije. Ono što kosu čini vrhunskim izumom samom po sebi je to što
njezino dugo drţalo omogućuje rataru ili drugom radniku da travu s tla
podsijeca u uspravnom poloţaju. Sijeno se tako moglo kositi, ţito ţeti a
pašnjaci krčiti puno brţe nego prije. Poljoprivreda je napravila velik korak
naprijed.
Kosa je povećala produktivnost poljskog radnika, ali dobrobiti što ih
je donijela seţu dalje od onoga što bi se moglo mjeriti prinosima. Kosa je
bila pogodan alat, znatno prikladniji za tjelesni rad nego prije nje srp.
Umjesto da se zgiba i povija, ratar je s njome mogao prirodno hodati s
noge na nogu sluţeći se u radu objema rukama kao i punom snagom trupa.
Kosa je sluţila i kao pomagalo u radu i kao poziv na vješt rad što ga je
omogućila. U njezinu se obliku nazire model tehnologije u ljudskim
razmjerima, model alata koji proširuje produktivne mogućnosti društva a
da pojedincu pritom ne podsiječe domašaj djelovanja i opaţanja. Štoviše,
kako u “Košnji” pojašnjava Frost, kosa intenzivira angaţiranost svog
korisnika u svijetu, kao i njegovo shvaćanje svijeta. Kosac koji zamahuje
kosom čini više, ali i zna više. Usprkos vanjskom prividu, kosa je alat uma
jednako koliko i tijela.
Nisu nam svi alati toliko pogodni. Neki nas odvraćaju od umješnoga
djelovanja. Digitalne tehnologije automatizacije, umjesto da nas pozivaju u
svijet i potiču na razvoj novih umijeća koja nam uvećavaju percepciju i šire
mogućnosti, često imaju suprotan učinak. One se projektiraju tako da nas
ne pozivaju ni na što, dapače, one nas izvlače iz svijeta. To je posljedica ne
samo prevladavajućih projektantskih obrazaca koji smjeraju tehnologiji,
ikoji lakoću upotrebe i efikasnost stavljaju iznad svega ostalog. To
odraţava i činjenicu da u našem osobnom ţivotu računalo postaje medijski
ureĎaj, a njegov se softver pomnjivo programira tako da nam privuče i
zadrţi paţnju. Kao što većina ljudi iz iskustva zna, računalni zaslon je
intenzivno privlačan, ne samo zbog svojih korisnih svojstava nego i zbog
mogućnosti razbibrige.356 Uvijek se nešto dogaĎa, i u svakom se trenutku
na to moţemo priključiti uz najmanji napor. A ipak, ekran je iza svu svoju
poticajnost i privlačnost, pust okoliš - on jest brz, djelotvoran, čist, ali
otkriva tek sjenu svijeta.
To vrijedi čak i za najbriţljivije izraĎene simulacije prostora kakve
nalazimo u aplikacijama virtualne stvarnosti kao što su igre, CAD,
trodimenzionalna kartografija te programi kojima se koriste kirurzi i drugi
a kojima se upravlja robotima. Umjetni prikazi prostora moţda nam
stimuliraju oči, a u manjoj mjeri i uši, ali ostala nam osjetila - dodira,
mirisa i okusa - u pravilu ostavljaju bez ičega, i znatno nam ograničavaju
tjelesne pokrete. Jedno istraţivanje na glodavcima, objavljeno u časopisu
Science 2013., ukazuje na to da su stanice mjesta u mozgu mnogo manje
aktivne kad se ţivotinje probijaju kroz računalno generirani krajolik nego
kad se orijentiraju u stvarnom svijetu.357 “Polovina neurona jednostavno
ušuti”, izvješćuje jedan od istraţivača, neurofizičar sa sveučilišta UCLA
Mayank Mehta. On vjeruje da pad mentalne aktivnosti vjerojatno potiče od
manjka “proksimalnih obiljeţja” - mirisa, zvukova i tekstura koji daju
biljeg nekom mjestu - u digitalnom prostoru.358 “Karta nije teritorij što ga
ona predstavlja”, slavno je primijetio poljski filozof Alfred Korzbynski,359
pa ni virtualni prikaz nije teritorij koji on predstavlja. Kad uĎemo u
stakleni kavez, od nas se traţi da odbacimo velik dio svojega tijela. To nas
ne oslobaĎa; to nas isisava.
Tako dobiveni svijet u sebi ima i manje smisla. Kako se
prilagoĎavamo na svoj pročišćeni okoliš, postajemo nesposobni opaţati
ono što svijet nudi svojim najvjernijim stanovnicima. Nalik na onog
mladog Inuita kojeg navode sateliti, mi putujemo vezanih očiju. Rezultat je
egzistencijalno osiromašenje, a priroda i kultura više nam ne šalju pozive
na opaţanje i djelovanje. Naše ja moţe bujati, moţe rasti, jedino kad se
susreće s “otporom okoline” i prevlada ga, napisao je John Dewey.
“Okolina koja je uvijek i svuda pogodna izravnom izvršavanju naših poriva
okončala bi rast jednako izvjesno kao što bi ga ometala i uništavala ona
stalno neprijateljska. Poriv, svagda tjeran dalje, bezumno bi i lišeno svakog
osjećaja išao svojim putem.”360
Naše vrijeme moţda jest vrijeme materijalnog komfora i čuda
tehnike, ali je i doba apatije i besciljnosti. U prvom je desetljeću ovog
stoljeća broj Amerikanaca koji uzimaju lijekove za depresiju i tjeskobu
narastao za gotovo četvrtinu. Svaka peta odrasla osoba danas takve
lijekove konzumira redovito.361 Prema izvještaju Centara za kontrolu i
sprečavanje bolesti, stopa samoubojstava meĎu Amerikancima srednjih
godina povećala se za gotovo 30 posto u istih deset godina. 362 Više od 10
posto američke školske djece i gotovo 20 posto dječaka srednjoškolske
dobi dobilo je dijagnozu poremećaja nedostatka paţnje, a dvije trećine od
te skupine uzimaju lijekove za ta stanja, kakvi su Ritalin i Adderall.363
Razloga za naše nezadovoljstvo je više i ne poznajemo ih ni izbliza dobro.
Ali jedan od njih moţda je taj što u potrazi za egzistencijom bez otpora
uspijevamo pretvoriti, kako kaţe Merleau-Ponty, tlo našega ţivota u
pustaru. Lijekovi koji umrtvljuju ţivčani sustav način su ovladavanja našim
vitalnim ţivotinjskim ćutilima, koja se tako skupljaju na veličinu koja bolje
odgovara našoj skučenoj okolini.

Gospodari i robovi
Frostov sonet, kao jedan od njegovih mnogih šapata, sadrţi upozorenje o
etičkim opasnostima tehnologije. U koščevoj kosi ima i nešto brutalno.
Ona će bez razlike sasjeći cvijeće - one njeţne, blijede orhideje - skupa s
busenima trave.364 Ona straši neduţne ţivotinje, poput one svijetlozelene
zmije. Tehnologija otjelovljuje naše snove, ali to čini i s drugim, manje
dobroćudnim kvalitetama našega ustrojstva, kao što je naša volja za moći
te arogancija i bešćutnost koji je prate. Frost se na tu temu u zbirci
Dječakova oporuka vraća nekoliko stranica kasnije, u drugoj pjesmi o
košnji sijena “Stručak cvijeća” Pripovjedač u pjesmi dolazi a svjeţe
pokošenu livadu i, okom prateći let leptira u prolazu, usred pokošene trave
spazi mali cvjetni otočić, “sabljasti cvat što kosa nije ţela”:
Koscu tako bješe drag po rosi danas,
Te ga ostavi da cvjeta, al ne za nas,
Ni da k njemu koja misao nam ode,
Već od pukog milja jutarnjeg kraj vode.365

Raditi alatom nikad nije samo praktična stvar, kazuje nam Frost,
delikatno kako mu je i svojstveno. To sa sobom uvijek nosi i moralne
odluke i moralne posljedice. Na nama je, kao na tvorcima i korisnicima
alata, da humaniziramo tehnologiju, da mudro ciljamo njenom hladnom
oštricom. Od nas to traţi pozornost i briţnost.
U mnogim se dijelovima svijeta kosa još uvijek upotrebljava u
obiteljskom gospodarstvu. No, njoj nema mjesta na modernoj farmi, čiji je
razvoj, kao i razvoj moderne tvornice, ureda i doma, zahtijevao sve
kompleksniju i sve efikasniju opremu. Vršilica je izumljena 1780-ih,
kosilica 1835. a balirka par godina kasnije, dok se kombajn počeo
komercijalno proizvoditi potkraj devetnaestog stoljeća. Ritam tehničkog
napretka u kasnijim se desetljećima samo ubrzavao, a danas taj trend
doseţe svoj logični dovršetak kompjuterizacijom poljoprivrede. Rad na
zemlji, koji je Thomas Jefferson smatrao najţivotnijim i najkreposnijim od
svih zvanja, gotovo je potpuno prešao na strojeve. Ruke se u polju
zamjenjuju “samovoznim traktorima” i drugim robotskim sustavima koji
pomoću senzora, satelitskih signala i softvera sade bilje, gnoje i plijeve
polja, ţanju i pakiraju urod, muzu krave i opsluţuju drugu stoku.366 U
razvoju su robotizirani pastiri koji bi vodili stada kroz pašnjake. Da kose
još i šapuću poljima industrijskih farmi, ne bi bilo nikoga blizu da ih čuju.
Pogodnost pri sluţenju ručnim alatom ohrabruje nas na to da
preuzmemo odgovornost za njihovu upotrebu. Budući da alat osjećamo kao
produţetak vlastita tijela, dio sebe, nemamo ni izbora nego biti intimno
uključeni u etičke odluke što ih pred nas postavlja. Kako u rukovanju
alatom postajemo sve vještiji, prirodno nam jača osjećaj odgovornosti za
njega. Kosac početnik kosu u ruci moţda osjeća kao strani objekt;
umješnome koscu ruke i kosa postaju jedno. Vještina učvršćuje vezi
izmeĎu alata i onoga tko ga upotrebljava. Taj osjećaj fizičkog i etičkog
preplitanja ne mora izostati kako tehnologija postaje kompleksnija.
Izvješćujući o svom samačkom preletu Atlantika 1929. godine Charles
Lindbergh o svom avionu i sebi govori kao da su jedno te isto: “Mi smo
preletjeli ocean, ne ja ili on.”367 Zrakoplov je bio kompliciran sustav koji
obuhvaća mnoge sastavnice, ali za vještoga pilota još uvijek je imao
kakvoću ručnoga alata. Ljubav što zbija livadu je i ljubav koja, za čovjeka
za upravljačkom palicom, putuje oblacima.
Automatizacijom se ta veza izmeĎu alata i korisnika oslabljuje ne
zato što su računalno upravljani sustavi kompleksni nego zato što oni od
nas traţe tako malo. Svoj rad kriju u tajnom kodu. Opiru se svakom
angaţmanu operatera osim minimalnom, tako obeshrabrujući razvoj
vještine u njihovu korištenju. Automatizacija na kraju počinje djelovati kao
anestetik. Naše alate više ne osjećamo kao dijelove sebe. U svom
temeljnom članku iz 1960. pod naslovom “Simbioza računala i čovjeka”
psiholog i inţenjer J. C. R. Licklider dobro opisuje taj pomak u našem
odnosu prema tehnologiji. “U sustavima čovjek-stroj u prošlosti”, piše on,
“ljudski operater je pruţao inicijativu, zacrtavao smjer, djelovao
integracijski i postavljao kriterije. Mehanički dijelovi sustava bili su tek
produţeci, prvo ljudske ruke a potom i ljudskog oka.” UvoĎenjem
računala sve se to promijenilo. “„Mehanički produţetak‟ sada je postao
automatizirana zamjena za ljude, a preostali ljudi su više netko kome treba
pomoć nego netko tko pomaţe.”368 Što automatiziranije sve postaje, to
lakše biva vidjeti tehnologiju kao neku nezamjenjivu, nezemaljsku silu
koja je izvan naše kontrole i utjecaja. Pokušati mijenjati put njezina razvoja
čini se uzaludno. Mi pritišćemo gumb i slijedimo programiranu putanju.
Prihvatiti takav podloţnički stav, koliko god to bilo shvatljivo,
značilo bi izbjegavati odgovornost za proces upravljanja. Robotizirani
ţetelački stroj moţda nema nikoga na vozačkom sjedalu ali je proizvod
svjesne ljudske misli jednako koliko i skromna kosa. Taj stroj moţda
nismo ugradili u svoje moţdane karte ali na etičkoj razini on još uvijek
funkcionira kao produţetak naše volje. Njegove namjere su naše namjere.
Ako robot prestraši neku svijetlozelenu zmiju (ili joj učini nešto gore),
krivica je i dalje na nama. Izbjegavamo i jednu dublju odgovornost: da
nadziremo uvjete izgradnje vlastitoga ja. Računalni sustavi i softverske
aplikacije pomalo preuzimaju sve veću ulogu u oblikovanju naših ţivota i
svijeta, pa je naša duţnost biti više a ne manje uključeni u odluke o njihovu
projektiranju i upotrebi - prije nego zamah tehnologije tu mogućnost
zatvori. Trebamo paziti što stvaramo.
Ako to zvuči naivno ili beznadno, razlog je tome to što nas je zavela
metafora. Naš smo odnos s tehnologijom definirali ne kao odnos tijela i
udova, čak ni kao odnos subraće i sestara, nego kao odnos gospodara i
roba. Ta je zamisao veoma stara. Uhvatila je korijen u zoru filozofske misli
Zapada: kako piše Langdon Winner, pojavila se s antičkim Atenjanima.369
 Raspravljajući o funkcioniranju kućnog gospodarstva na početku
svoje Politike, Aristotel je ustvrdio da su robovi i alati u biti jedno te isto,
samo što robovi funkcioniraju kao “ţiva sredstva” a alati kao “neţiva
sredstva” na usluzi gospodaru kućanstva. Kad bi alati nekako postali ţivi,
mogli bi izravno nadomjestiti rad robova. “Samo je jedan uvjet pod kojim
moţemo zamisliti da upravitelji ne trebaju podreĎene a gospodari robove”
mudruje on dalje, anticipirajući dolazak računalne automatizacije pa čak i
strojnog učenja. “Taj bi uvjet bio da svako [neţivo] sredstvo radi svoj
posao, bilo na zapovijed bilo umnim predviĎanjem.” Bilo bi to “kao kad bi
tkogod sjajnu i lijepu glazbu pripisa radije glazbalu negoli umijeću
[glazbenika]”.370
Naše je mišljenje sve do danas ostalo obojeno poimanjem alata kao
robova. S njime na umu društvo uvijek iznova sanja o emancipaciji od
rada, koju su izricali Marx, Wilde i Keynes, a koja i dalje nalazi svoj izraz
u djelima kako tehnofila tako i tehnofoba. “Wilde je bio u pravu”, napisao
je kritičar tehnologije Evgeny Morozov u svojoj knjizi iz 2013. Ako želite
snimite sve, kliknite ovdje: “mehaničko ropstvo ono je što omogućuje
ljudsko osloboĎenje”.371 “Trebamo pustiti robotima da preuzmu stvar”,
izjavio je u Wiredu iste godine tehno-entuzijast Kevin Kelly. “Oni će raditi
poslove koje smo dosad radili mi, i radit će ih puno bolje nego mi to
moţemo.” I više od toga, oni će nas osloboditi za otkrivanje “novih zadaća
koje proširuju ono što jesmo. Dat će nam da se usredotočimo na to da
postanemo ljudskiji nego prije.”372 Kevin Drum iz časopisa Mother Jones,
takoĎer 2013., proglasio je da nas “očekuje robotski raj dokolice i
kontemplacije”. Do 2040. će nas, predviĎa on, od rada izbaviti i u
aţuriranu verziju Edenskog vrta uvesti naši superpametni, superpouzdani,
superposlušni računalni robovi - “oni se nikad ne umaraju, nikad nisu loše
volje i nikada ne griješe”. “Dane ćemo provoditi kako nam se prohtje,
moţda u učenju, moţda u igranju kompjuterskih igara. To će biti na
nama.”373
S tako obrnutim ulogama, iz te se metafore crpe noćne more društva
o tehnologiji. Razmišljanje bi išlo ovako: time što postajemo ovisni o
našim tehnološkim robovima, sami se pretvaramo u robove. Od
osamnaestog stoljeća nadalje društveni kritičari rutinski oslikavaju
tvornička postrojenja kao nešto što tjera radnike u kmetstvo. “Mase
radnika”, pišu Marx i Engels u Komunističkom manifestu, “svakoga dana i
svakoga sata porobljuje stroj”.374 Ljudi se danas svako toliko ţale da se
osjećaju kao robovi svojih ureĎaja. “Pametni ureĎaji su nešto
oslobaĎajuće”, primjećuje The Economist u članku “Robovi mobitela” iz
2012. “Ali za većinu ljudi sluga je postao gospodar.”375 I još dramatičnije,
ideja o ustanku robota, u kojoj se računala s umjetnom inteligencijom
preobraţavaju iz naših robova u naše gospodare, već je cijelo stoljeće
središnja tema distopijskih fantazija o budućnosti. I sama riječ robot, a
1920. ju je skovao pisac znanstvene fantastike, potječe od češkog robota,
kmetstvo.
Metafora gospodara i roba, osim što je moralno opterećena,
iskrivljuje i način na koji promatramo tehnologiju. Ona raspiruje osjećaj da
su naši alati nešto odjelito od nas samih, da naši instrumenti obavljaju neku
o nama neovisnu djelatnost. Naše tehnologije počinjemo prosuĎivati ne po
tome što nam omogućuju nego po njihovim navlastitim svojstvima kao
proizvoda - po njihovoj pametnosti, novosti, stilu. Alat biramo po tome što
je nov, moderan ili brz, a ne zato što bi nas potpunije unio u svijet i proširio
nam osnovu za doţivljaje i opaţaje. Postajemo puki konzumenti
tehnologije.
Općenitije, ta metafora potiče društvo na simplističko i fatalističko
gledanje na tehnologiju i progres. Ako pretpostavimo da naši alati djeluju u
naše ime kao robovi, i uvijek rade ono što je nama u interesu, onda postaje
teško braniti bilo koji pokušaj uspostave ograničenja tehnologiji. Svako
nam njezino napredovanje daje više slobode i dovodi nas mrvicu bliţe, ako
ne utopiji, onda bar najboljem od svih mogućih svjetova. Svaki pogrešan
korak, govorimo sebi, ubrzo će se korigirati daljnjim inovacijama. Ako
samo pustimo napredak da učini svoje, on će već naći lijeka za probleme
što ih stvara. “Tehnologija nije neutralna nego sluţi kao u golemoj mjeri
pozitivna snaga u ljudskoj kulturi”, piše Kelly, izraţavajući tako ideologiju
Silicijske doline po kojoj je tehnologija svrha sama sebi, a koja je
posljednjih godina ušla i u širi optjecaj. “Mi smo moralno obavezni imati
sve jaču tehnologiju jer ona donosi sve više novih prilika.”376 Osjećaj
moralne obaveze povećava se s napredovanjem automatizacije koja nam,
naposljetku, donosi taj najţivlji mogući instrument, sredstvo, alat: robove -
koji, kako je anticipirao Aristotel, imaju najveću mogućnost da nas
oslobode od rada.
Vjerovanje u tehnologiju kao dobrohotnu, samozacjeljujuću,
autonomnu silu moţe zavesti. Ono nam omogućuje da osjećamo optimizam
prema budućnosti tako da nas istovremeno oslobodi odgovornosti za tu
budućnost. Ona osobito dobro sluţi interesima onih koji su postali
izvanredno bogati zbog efekata ušteda na radu i koncentracije dobiti, koje
donose automatizacija i računala koja je kontroliraju. Našim novim
plutokratima ona pruţa junačku pripovijest u kojoj oni imaju glavne uloge:
nedavni gubici radnih mjesta moţda jesu nezgodni, ali su nuţno zlo na
putu ka konačnoj emancipaciji ljudske rase pomoću kompjuteriziranih
robova koje pak proizvode naše dobrohotne korporacije. Peter Thiel,
uspješan poduzetnik i investitor koji je postao jednim od najzapaţenijih
mislilaca Silicijske doline, slaţe se da bi “revolucija u robotici u osnovi
imala učinak gubitka radnih mjesta”. Ali, kako se poţurio dodati, “ona bi
imala i pozitivnu posljedicu: ljudi bi dobili slobodu da se bave mnogim
drugim stvarima”.377 Dobiti slobodu zvuči puno bolje nego dobiti otkaz.
Takav grandiozni futurizam nije lišen bešćutnosti. Kako nas uči
povijest, lebdeća retorika o upotrebi tehnologije radi oslobaĎanja radnika
često prikriva prijezir prema radu. Pravi je napor za maštu i zamisliti da bi
se današnji tehnološki moguli, sa svojim libertarijanskim sklonostima i
nestrpljivošću prema drţavi sloţili s tako golemim sustavom redistribucije
koji bi bio nuţan da se financira potraga za samoaktualizacijom u
slobodnom vremenu nagomilanog mnoštva ljudi bez posla. Čak i kad bi
društvo smislilo neku čarobnu formulu, ili magični algoritam, za
ravnomjernu diobu plijena od automatizacije, itekako ima smisla sumnjati
u to da bi time uslijedilo išta što bi imalo podsjećalo na “ekonomsko
blaţenstvo” kakvo je zamišljao Keynes. U jednom vidovitom odlomku iz
Vite active Hannah Arendt je primijetila da bi, kad bi se utopijsko obećanje
automatizacije i obistinilo, rezultat bi vjerojatno više sličio neslanoj i
okrutnoj šali nego raju. Cjelina je modernog društva organizirana kao
“društvo najamnika” u kojemu je rad za plaću, pa onda trošenje te plaće,
način na koji ljudi definiraju sami sebe i kojim mjere vlastitu vrijednost.
Većina “viših i smislenijih aktivnosti” koje smo u daljnjoj prošlosti štovali
izgurana je na marginu i zaboravljena, i “jedino samačke osobe još uvijek
ocjenjuju ono što rade prema kriterijima rada a ne prema kriterijima
zaraĎivanja za ţivot”. Kad bi tehnologija ispunila ustrajnu ţelju
čovječanstva “da se oslobodi od „mnoţi jada rada”, u ovom bi trenutku to
bilo perverzno. To bi nas bacilo još dublje u čistilište mrtvila.
Automatizacija nas, zaključuje Arendt, suočava s “mogućnošću društva
najamnih radnika bez najamnog rada, to jest bez jedine aktivnosti koja im
je preostala. Nema sumnje, ništa gore od toga.”378 Utopizam je, shvaćala je,
oblik pogrešno usmjerenog ţeljenja.
Društveni i ekonomski problemi što ih automatizacija uzrokuje ili
pogoršava neće se riješiti tako da na njih bacamo još novog softvera. Naši
neţivi robovi neće nas šofirati do utopije komfora i harmonije. Ako će se
problemi riješiti, ili bar ublaţiti, javnost će se s njima morati suočiti u
njihovoj punoj kompleksnosti. Da bi se osigurala dobrobit društva u
budućnosti, moţda ćemo morati nametnuti ograničenja automatizaciji.
Moţda ćemo morati učiniti pomak u gledanju na progres, odnosno
pomaknuti naglasak s tehnološkog napretka na društveni i osobni procvat.
Moţda čak budemo morali porazmisliti o nečemu što je postalo
nepojmljivo, barem u poslovnim krugovima: da ljudima damo primat nad
strojevima.

Parabola
Godine 1986. kanadski je etnograf Richard Kool napisao pismo Mihalyju
Csikszentmihalyiju. Kool je pročitao neke profesorove rane radove o toku i
oni su ga podsjetili na istraţivanja koja je bio proveo na plemenu
Shushwap koje ţivi u dolini rijeke Thompson u današnjoj pokrajini
Britanska Kolumbija. Teritorij Shushwapa je “bogata zemlja”, piše Kool.
Blagoslovljena je obiljem ribe i divljači, jestivog korijenja i bobica.
Shushwapi nisu morali mnogo tragati za hranom da bi preţivjeli. Gradili su
sela i smišljali “domišljate tehnike kojima se vrlo domišljato sluţe
resursima svoga okoliša”. Svoj ţivot smatraju dobrim i bogatim. No,
plemenski su starješine zaključili da tako lagodne okolnosti u sebi nose
opasnost. I tako se Shushwapi svakih tridesetak godina, predvoĎeni
starješinama, iskorjenjuju. Odlaze od kuća, napuštaju sela i kreću u
divljinu. “Cijela bi se populacija”, izvještava Kool, “preselila na neki drugi
dio teritorija koji im pripada”. I tamo bi otkrili novi niz izazova. “Trebalo
je proučiti nove potoke, otkriti nove staze, pronaći gdje balzamov korijen
ovdje raste u izobilju. Ţivot je sada opet imao smisla i vrijedit će ţivljenja.
Svatko se osjećao pomlaĎeno i sretno.”379

Razbijanje kaveza
E. J. Meade, arhitekt iz Colorada, rekao mi je nešto vrlo lucidno kad sam s
njime razgovarao o uvoĎenju sustava za računalno projektiranje u njegovu
tvrtku. Teţak dio posla nije bio naučiti sluţiti se softverom. To je bilo čak
prilično lako. Teško je bilo naučiti kako se njime ne sluţiti. Brzina, lakoća i
čista novost CAD-a činili su ga uzbudljivim. Prvi poriv projektanata tvrtke
bio je zasjesti za računalo odmah na početku posla. Ali kad su se zagledali
u svoj rad, uvidjeli su da im softver sputava kreativnost. Ubrzavao im je
ritam rada ali im je i zatvarao estetske i funkcionalne mogućnosti. Kako su
Meade i njegovi kolege sve kritičnije razmišljali o učincima
automatizacije, počeli su se opirati iskušenjima tehnologije. Počeli su “sve
kasnije i kasnije prelaziti na kompjuter” u radu na projektu. U ranim su se,
formativnim fazama rada vratili blokovima za skiciranje, folijama,
kartonskim modelima i stiroporu. “U završnom dijelu je briljantan”, rekao
je Meade sumirajući što je naučio o CAD-u. “Faktor pogodnosti je sjajan.”
MeĎutim, “ekspeditivnost” računala moţe biti pogubna. Za neoprezne i
nekritične, ona moţe zakriti druge, vaţnije probleme. “Da biste izbjegli da
alat vama manipulira, morate se u njega itekako udubiti.”
Otprilike godinu dana prije nego što sam razgovarao s Meadeom -
taman sam bio počeo raditi na ovoj knjizi - imao sam se priliku susresti s
fotografom slobodnjakom kojeg su angaţirali na nekom sveučilišnom
kampusu. Besposleno je stajao pod stablom čekajući da mu se nekakav
nekooperativni oblak makne sa sunca. Primijetio sam da ima filmsku
kameru velikog formata na glomaznom stativu - a bilo je to teško ne
primijetiti jer je izgledalo apsurdno staromodno - pa sam ga pitao zašto još
uvijek koristi film. Rekao mi je kako je prije nekoliko godina sav sretan bio
prešao na digitalnu fotografiju. Filmske aparate i tamnu komoru zamijenio
je digitalnom kamerom i računalom s najnovijom verzijom softvera za
obradu slike. Nakon nekoliko mjeseci se vratio na staro. Nije bila riječ o
tome da bi bio nezadovoljan radom nove opreme, ili razlučivošću i
preciznošću slika. No, promijenio mu se pristup poslu, i ne na bolje.
Ograničenja svojstvena fotografiranju na film i razvijanju takvih
fotografija - cijena, trud, neizvjesnost - poticala su ga da na snimanju radi
polako, promišljeno, odmjereno, s dubokim i fizičkim osjećajem
prisutnosti. Prije nego bi nešto uslikao detaljno bi u glavi razradio
kompoziciju, pazeći na osvjetljenje, boju, kadriranje i formu svakog
prizora. Paţljivo bi pričekao pravi trenutak prije nego pritisne okidač. S
digitalnim aparatom radio je brţe. Napravio bi gomilu slika jednu za
drugom, i potom bi ih za računalom probirao pa doraĎivao one koje najviše
obećavaju.
Postupak kompozicije odvijao se nakon što je fotografija već bila
načinjena. Ta je promjena isprva djelovala opojno. Ali rezultati su bili
razočaravajući. Slike su ga ostavljale ravnodušnim. Film, shvatio je,
nameće disciplinu u percepciji, u gledanju, koja dovodi do umjetnički
bogatijih i dojmljivijih fotografija. Film je od njega zahtijevao više. I tako
se vratio starijoj tehnologiji.
 Ni arhitekt ni fotograf nisu bili ni najmanje neprijateljski raspoloţeni
prema računalima. Ni jedan ni drugi nije bio motiviran apstraktnim
razmatranjima o gubitku autonomije djelovanja. Nisu oni bili nikakvi
kriţari. Obojica su samo htjela alat kojim najbolje obavljaju posao - alat
koji bi im omogućavao da naprave nešto što ih najviše ispunjava najbolje
što mogu, i da ih on na to potiče. No, spoznali su da najnoviji,
najekspeditivniji alat s najviše automatike nije uvijek i najbolji izbor. Iako
sam siguran da bi se nakostriješili da ih se usporedi s ludditima, njihova
odluka da napuste najnoviju tehnologiju, bar u nekim fazama rada, bio je
čin pobune koji podsjeća na pobunu tih starih engleskih razbijača strojeva,
makar bez bijesa i nasilja. Kao i ludditi, i oni su shvatili da su odluke o
tehnologiji istodobno i odluke o načinu ţivota i rada - i u tim su odlukama
preuzeli kontrolu, umjesto da je predaju drugima ili se prepuste zamahu
napretka. Napravili su korak natrag i kritički promislili o tehnologiji.
Kao društvo, mi smo prema takvim postupanjima postali sumnjičavi.
Zbog neznanja, lijenosti ili strašljivosti, luddite smo pretvorili u karikaturu,
u znamen natraţnjaštva. Unaprijed pretpostavljamo da je svatko tko novi
alat odbaci u korist staroga nostalgičar, netko tko odluke donosi
sentimentalno a ne racionalno. Ali prava je pogreška sentimentalnosti baš
ta pretpostavka da je nešto novo uvijek primjerenije našim ciljevima i
namjerama nego ono staro. To je gledište djeteta, naivnog i povodljivog.
To po čemu je jedan alat bolji od drugoga nema ništa s tim koliko je nov.
Radi se o tome koliko nas on širi ili skuplja, kako oblikuje naš doţivljaj
prirode i kulture te drugog čovjeka. Prebaciti odlučivanje o tkivu našeg
svakodnevnog ţivota na neku velebnu apstrakciju zvanu napredak je
budalaština.
Tehnologija oduvijek potiče ljude na razmišljanje o tome što im je u
ţivotu vaţno. Potiče ih da se upitaju, kako sam natuknuo na samom
početku ove knjige, što znači biti ljudsko biće. Automatizacijom se taj ulog
još više podiţe, jer se ona širi i zahvaća i najintimnija područja našeg
ţivljenja. Moţemo si dopustiti da nas nosi struja tehnologije, kamo god nas
vodila, ili moţemo zaplivati protiv nje. Opirati se invenciji nije isto što i
odbacivati je. Riječ je o tome da se u invenciju unese skromnost, da se
napredak prizemlji. “Otpor je uzaludan”, kako glasi skliski klišej iz
Zvjezdanih staza, koji tehničari oboţavaju. Ali to je baš suprotno od istine.
Otpor nikad nije uzaludan. Ako je izvor naše vitalnosti, kako nas je učio
Emerson, “aktivna duša”,380onda je naša najuzvišenija duţnost opirati se
svakoj sili, institucionalnoj, komercijalnoj ili tehnološkoj, koja tu dušu čini
nemoćnom i mlitavom.
Jednu je od najdivnijih stvari u vezi s nama najlakše previdjeti: sa
svakim srazom s realnim mi produbljujemo svoje razumijevanje svijeta i
potpunije postajemo njegovim dijelom. Kad se hrvamo s nekim izazovom,
u tome nas moţda motivira iščekivanje cilja naših napora, ali kako je Frost
shvaćao, rad nas - dakle, sredstvo - čini onime što jesmo. Automatizacijom
se ciljevi razdvajaju od sredstava. Dobiti ono što ţelimo postaje lakše, ali
njome se udaljavamo od rada saznavanja. Dok se preobraţavamo u bića
zaslona, suočavamo se s istim egzistencijalnim pitanjem s kojim su se
borili Shushwapi: prebiva li bit još uvijek u onome što znamo, ili se odsad
zadovoljavamo time da nas definira ono što moţemo?
To zvuči vrlo ozbiljno. Ali cilj je radost. Aktivna duša je laka srca.
Uzimajući alate natrag sebi, tako da ponovno postanu dijelom nas, moţemo
uţivati u slobodi koju pogodna tehnologija nudi kad za nas potpunije
otvara svijet. Zamišljam si da je to ona sloboda koju su, mora biti, osjećali
Lawrence Sperry i Emil Cachin onog proljetnog dana u Parizu prije stotinu
godina, kad su se verali po krilima svoga dvokrilca Curtiss C-2 sa
ţiroskopskim stabilizatorom i, puni straha i uţitka, nadlijetali sudačke
klupe i ispod sebe vidjeli lica u mnoštvu, u divljenju okrenuta nebu.
 Zahvale

Moto ove knjige je završna kitica pjesme Williama Carlosa Williamsa “Za
Elsie”, objavljene 1923. godine u časopisu Spring and Ali.
Duboko sam zahvalan onima koji su mi, kao sugovornici, recenzenti
ili korespondenti pruţili svoju pomoć i ponudili svoje uvide. To su:
Claudio Aporta, Henry Beer, Véronique Bohbot, George Dyson, Gerhard
Fischer, Mark Gross, Katherine Hayles, Charles Jacobs, Joan Lowy, E. J.
Meade, Raja Parasuraman, Lawrence Port, Jeff Robbins, Jeffrey Rowe, Ari
Schulman, Evan Selinger, Betsy Sparrow, Tim Swan, Ben Tranel i Christof
van Nimwegen.
Stakleni kavez je moja treća knjiga koja je izašla pod ravnanjem
uredničke ruke Brendana Curryja u W. W. Nortonu. Brendanu i njegovim
kolegama zahvaljujem na trudu. Na mudrim savjetima i podršci
zahvaljujem i mom agentu Johnu Brockmanu i njegovim suradnicima u
tvrtci Brockman.
Pojedini odlomci ove knjige u drukčijem su obliku već objavljivani u
časopisima i novinama Atlantic, Washington Post, MIT Technology
Review, te na mom blogu Rough Type.
 Kazalo

60 minuta (TV emisija) 36

Abbott, Kathy 64
Adams, Thomas 214
adaptivna automatizacija 185-186
ADHD, poremećaj hiperaktivnosti uslijed nedostatka paţnje 245
Airbus A320, putnički avion 59-61, 175
Ako ţelite snimite sve, kliknite ovdje (Morozov) 249
alati 76-78, 89, 94-95, 120-123, 167, 179, 242-243, 247-250, 255-256
Albaugh, James 68
algoritmi za provjeru pravopisa 203
algoritmi
i etika 209, 213
prediktivni 44, 128-129, 134-136
algoritmi za ocjenjivanje pismenih sastava 229
Amazon 130, 218
American Machinist (časopis) 42, 195
Andreessen, Marc 48
Android 174, 222
aplikacije 19-20, 24, 89, 130, 196, 202-203, 227-228, 248
i ludifikacija 202
Aporta, Claudio 144
Apple 38, 130, 153, 226
Arendt, Hannah 120, 252
arhitekti, arhitektura 19, 80, 154-158, 159-164, 187-188, 253-254, 255
Aristotel 161, 248-249, 251
Aronowitz, Stanley 35
Arthur D. Little 45
Arthur, W. Brian 219-220
Asimov, Isaac 212
Asimovljeva pravila robotike 207, 212, 233
Associated Press 37
automatičnost 92-96, 118, 196
“Automation Surprises” (Sarter, Woods i Billings) 182-183
automatizacija
definicija i etimologija 41-42, 51
hijerarhija 123, 127
i Yerkes-Dodsonov zakon 102-104, 186
ograničenja 252
slabljenje spone alata i korisnika 247-248
s okosnicom u tehnologiji, odnosno u čovjeku 214
automatizacija (Illingworthova karikatura) 27, 41
Automatizacija i upravljanje (Bright) 123-124
Automatizacija: prijatelj ili neprijatelj? (Macmillan) 27-28
automatizacijska pristranost 80-82, 95, 117, 134, 177
automatiziranje (proceduralizacija) 92
automatski mjenjač brzina 20
automobili i voţnja automobila
automatizacijska pristranost 83
autorova iskustva 11 -13, 20, 91
GPS u automobilu 145-147, 153
i pospanost 82
nesreće 15, 83, 103, 174, 175, 209, 230
ručni i automatski mjenjač brzina 11-13, 20
samoupravljajući 13-16, 177, 206-207, 231
autonomija 25, 45, 70, 119, 120, 145, 202
autopilot 9, 16, 53, 56-59, 61, 71, 174, 175
Autor, David 40

Bainbridge, Lisanne 177-178

banke, bankarstvo 88, 127-128, 191
Baxter, Gordon 88
Berardi, Franco 130
bespilotne letjelice, napadi 68, 210-212, 227
Bhana, Hemant 62
Bhide, Amar 88
bicikli 17, 23, 60, 70, 225
Big Data (Cukier i Myer-Schonberger) 134
Billings, Charles 182-183, 198
Bilton, Nick 226
Boeing 35, 69, 189-190
Boeing 737 65
bogatstvo 30, 37, 40, 130
Bogatstvo naroda (Smith) 29
bolest 81, 114, 118, 126
Bombardier Q400 turbopropelerac 53-54
Bonin, Pierre-Cédric 55, 190
Braverman, Harry 121-122
Bright, James 123-124, 125, 127
Brillhart, Jacob 163
Brin, Sergey 222-224
Brooks, David 145, 149
Brynjolfsson, Erik 36, 37
Budućnost bez posla (Aronowitz i DiFazio) 35
burzovno trgovanje, brokeri 88, 128, 130, 135, 177, 191-192, 193
Bush, George W. 106
Buzsaki, György 151

C-54
Skymaster, transportni avion 58-59
Cachin, Emil 56
CAD, računalno potpomognuto projektiranje 155-158, 159, 161-162, 187-
188, 244, 253
Campbell, Donald T. 134
Canadiers, Felix P 194-195
Chabris, Christopher 223
Churchill, Winston 156
CIA 132
Cisco 218
Clark, Andy 166, 167
Clarke, Arthur C. 220
Colgan Air 54
Concours de la Sécurité en Aéroplane 56
Continental Connection (avioprijevoznik) 53, 54
Cowen, Tyler 38
Crawford, Kate 135
Crawford, Matthew 164
Cross, Nigel 160
crtanje i skiciranje 147, 155, 159-162, 188, 254
Csikszentmihalyi, Mihaly 21-23, 25, 96, 253
Cukier, Kenneth 134
Curtiss C-2, dvokrilac 56

čitanje, učenje 92-93

DARPA 186
Dassault 157
Deep Blue 19
demencija 152
depresija 245
Descartes, René 165, 241
Designerly Ways of Knowing (Cross) 160
Dewey, John 165, 166, 244
DiFazio, William 35
Digitalni Apolon (Mindell) 69-70
dijabetes 138
dislociranost 150
Dječakova oporuka (Frost) 237, 246
dobrobit 24, 110, 252
Dodson, John Dillingham 101-102
doktor Algoritam 174, 176
Dorsey, Jack 225
Dorsey, Julie 188
dosada 13, 22-23, 30, 69, 178
Dostrovsky, Jonathan 150
dot-com, balon 35, 130, 216, 218
Dreyfus, Hubert 93
Drum, Kevin 249
društvene mreţe 129, 157, 204-205, 226, 228
Dyson, Freeman 196
Dyson, George 28, 125

Ďainizam 208

Eagle, Alan 196

Ebbatson, Matthew 65, 67
ekonomija, ekonomika 129, 183- 184, 192-194, 218-220, 252
ekonomisti 16, 25, 30, 32, 34, 36-38, 39, 121
ekonomska kriza 1930-ih 33-34, 36, 46
ekonomska kriza 2008. 35-36, 88
ekonomska stabilnost 28, 34
ekonomski rast 30, 35, 37-38, 40-41, 130
ekspertni sustavi 87-88, 127, 186-187
električna mreţa 218-219, 226
Emerson, Ralph Waldo 23, 256
ergonomija i inţenjerstvo ljudskog faktora 64, 103, 178-184, 185-186, 191
evolucija 152, 154
Experience Music Project 156

Facebook 23, 204-205, 224, 226, 228-229

Farrell, Simon 85
Fenomenologija percepcije (Merleau- Ponty) 241
Financijski slom (2008) 35, 88
Fitts, Paul 179
Flow (Csikszentmihâlyi) 21
Ford, Motor Company 41-42
Ford Pinto 13
fotografija, filmska/digitalna 254-255
Francuska 180, 192
Frankenstein, Julia 146
Frost, Robert 236-238, 239-240, 243, 245-246
futurizam 251

Gallagher, Shaun 167

Gates, Bill 220
Gawande, Atul 117
Gehry, Frank 156-157
General Electric 38, 109, 195, 218
General Motors 35
Gensler 187
Giedion, Sigfried 51
Gilbert, Daniel 22
Goldberger, Paul 158
Google 196, 218
Google automobili 13-16, 18, 19, 20, 174, 175, 230, 231
Google Glass 153, 222-224, 226
Google Maps 149, 153, 227-228
Google Now 222
Google Suggest 204, 222
Google Ventures 128
Gorman, James 151
GPS 19, 61, 79, 80, 81, 142-143, 144, 145-147, 148-154
“GPS i kraj puta” (Schulman) 150
Graves, Michael 159, 160, 162
Gray, J. Macfarlane 44
Groopman, Jerome 110, 118
Gross, Mark 188
Gundotra, Vic 226

Harris, Don 62, 72

Hartzband, Pamela 110
Hayles, Katherine 20
Heidegger, Martin 164
Hendren, Sara 147
Heyns, Christof 211, 214-215
Hipokrat 178
Hoff, Timothy 113, 114
Hoover, Herbert 33
Hughes, Thomas 192, 219
humanizam 180, 181, 185-187, 246
Huth, John Edward 241

iBeacon 153
IBM 35, 131-132, 218
identitet 69, 228
IEX 191
Illingworth, Leslie 27
industrija alatnih strojeva 194-195
industrijska revolucija 29, 32, 35, 39, 44, 180, 218
industrijski planeri 45, 179
informacije i samozadovoljstvo automatizacijom te automatizacijska
pristranost 83
podopterećenje 103, 186
preopterećenje 94, 186, 217
informatičari 177, 180
infrastruktura 218-222, 224
Ingold, Tim 149
integrirana razvojna okolina (IDE) 89
Intel 226
inteligencija 126, 134, 168
ljudska i umjetna 18
vidi i umjetna inteligencija 250
Internet 20, 40, 90, 168, 186, 196
internet stvari 218
intuicija 66, 118, 132, 133, 160
inuitski lovci 142-143
iPad 153, 174, 226
iPhone 20, 153
Izazov! (TV-kviz) 131, 132

Jacquardov tkalački stroj 44

jednostavnost 203, 232
Jefferson, Thomas 180, 246
“Jesu li ljudska bića nuţna?” (Russell) 46
jezik 93, 128
obrada prirodnog jezika 126
Jobs, Steve 217
Jones, Michael 149, 153, 168

Kako mislimo (Hayles) 20

Kako razmišljaju liječnici (Groopman) 118
kapitalizam 30, 35, 39, 121, 180
kapitalna ulaganja 25, 36, 38, 40
karte
kognitivne 146, 152
računalne i papirne 62, 144, 145-147, 149, 153, 227
kartezijanski dualizam 165
kaskadne pogreške 176
Kasparov, Garry 19
Katsuyama, Brad 191
Kay, Rory 68
Kelly, Kevin 174, 249, 250
Kennedy, John 34
Kessler, Andy 174
Keynes, John Maynard 34, 249
Khosla, Vinod 174
Kibernetika i društvo: ljudska upotreba ljudskih bića (Wiener) 44-46
kiborzi 9
Kina 38, 187
“Kitty Hawk” (Frost) 239
Klein, Gary 135
Knight Capital Group 177
kockarski automati 202
Komunistički manifest (Marx i Engels) 249
koncentracija 223
kontrola zračnog prometa 191, 193
kosa 240, 242-243, 246-247, 248
kosilice, robotske 208
košnja 238, 240, 246
“Košnja” (Frost) 236, 237-238, 243, 245
Kraj rada (Rifkin) 35
kriva ţelja 22
Krueger, Alan 38
Krugman, Paul 40
kultura 136, 148, 221
Kurzweil, Ray 204, 222

Langewiesche, William 60, 190

Latour, Bruno 227, 231
Lee, John 184, 186, 187, 189
LeFevre, Judith 21, 22, 25
Levasseur, Émile 32
Leveson, Nancy 176
Levesque, Hector 133, 134
Levy, Frank 16, 18
Lewandowsky, Stephan 85
Lex Machina 129
Licklider, J. C. R. 247
Lieberman, Matthew 165
liječnici 39, 106-108, 118, 193
“doktor Algoritam” 174, 176
 e-kartoni 106-112, 112-117, 125-127, 135
i tzv. medicina temeljena na dokazima 127
komunikacija s pacijentima 115-117
medicinska dijagnostika 18, 81-82, 112, 113-115, 117, 125, 126-127,
132, 176
medicinske pretrage 111, 112, 138
lijekovi 116, 176, 245
Lindbergh, Charles 247
Lown, Beth 115, 116, 117
ludditi 30-31, 118, 255
ludifikacija (gejmifikacija) 202
Ludlam, Ned 31

MacCormac, Richard 159

Macmillan, Robert Hugh 27-28, 29, 46
mamografija 81, 112
Marcantonio, Dino 158
Marcus, Gary 92, 207
Marx, Karl 28, 31, 49, 77, 249
Marx, Leo 180
matematičari 131, 177
materijalnost 161, 162, 163
Mayer-Schönberger, Viktor 134
McAfee, Andrew 36, 37
Meade, E. J. 163, 253-254
Medicare 111
meĎuzavisne mreţe 176
Mehanički pijanino (Vonnegut) 46
Mehta, Mayank 244
Meinz, Elizabeth 94
Meister, David 180
menadţment 87-88, 121, 127, 129, 186
Mercedes-Benz 153
Merholz, Peter 203
Merleau-Ponty, Maurice 240, 242, 245
metafora gospodara i roba 249-251
Microsoft 218
mikročipovi 15, 19, 216, 218
mikrolokacijsko praćenje 153
Mindell, David 69-70
miševi koji plešu 100-102
Miš koji pleše (Yerkes) 100
MIT 195
Mitchell, William J. 155
mit o supstituciji 78, 110, 216
mobitel 20, 148, 218, 222, 223, 224, 231, 250
Mooreov zakon 47, 48
Morozov, Evgeny 228, 249
Moser, Edvard 151
Moser, May-Britt 151
motivacija 21, 95, 128, 136, 178, 202, 231
motiv dobiti 24, 180
mozak
hipokampus 150-154
i koncentracija 223-224
i orijentacija 150-152, 244
i računalo 94-95, 168, 193, 204-205
i znanje 90-91, 165-167
m. pilota 66, 189-190, 223
računala u usporedbi s m. 47, 131-132, 168, 204
moţdana kora
unutarnji nosni dio 151, 152
vidni dio moţdane kore 93
Murnane, Richard 16, 18
Musk, Elon 16

Nadin, Mihai 91
naočale, kompjuterizirane 153, 222-224
NASA 60, 64, 67
navigacijski sustavi 79, 80, 143, 144-147, 153-154, 227-228
navoĎenje bombi 58
nesreća u Buffalu 53-54
nesvjesni um 66, 94, 165
neuralne mreţe 126, 131
neuroergonomski sustavi 186
neuromorfni čipovi 126
neuroni 92
“stanice mjesta” 150-151, 153, 244
“stanice rešetke” 151
neuroznanost 85, 150, 166
Nimwegen, Christof van 86-87, 203
Noble, David 194
Norman, Donald 181
Nova podjela rada (Levy i Murnane) 16
Noyes, Jan 64
NSA 132, 221
numerička kontrola 195

Njemačka ideologija (Marx) 49

Oakeshott, Michael 136

Obama, Barack 107
obrazovanje 132, 219
Oculus Rift 224
oči 223-224
mreţnica 166
Ofri, Danielle 114-115
O‟Keefe, John 150, 151
otjelovljena spoznaja 166-167, 238
Ovisnost s namjerom (Schüll) 202

Pallasmaa, Juhani 162

pametni sat 224
paradoks automatizacije 103
Parameswaran, Ashwin 128
Parameters (vojni časopis) 214
parametrizam 157
“manifest parametrizma” (Schumacher) 158
Parasuraman, Raja 63, 78, 82, 187, 196
parobrod 44
Pavlov, Ivan 100
percepcija 16, 134, 142, 161, 223, 243
Piano, Renzo 155, 158, 159
piloti i tuneliranje paţnje 223
plaće 69
plaće i nadnice 27, 32, 34, 35-40, 41, 109, 129, 252
u pilota 69
Platon 165
podatkovni fundamentalizam 135
Poirier, Richard 238
pokretna traka 218
Politika (Aristotel) 248-249
poljoprivreda 119, 242-243, 246-247
Popular Science (časopis) 57
posao, zaposlenje 22-23, 41, 239
kako se mijenja s automatizacijom 24, 29-31, 41-42, 62, 68-69, 80-
81, 216
onestručavanje 30, 64, 69, 89, 119-123, 127-130, 178
tehnološka nezaposlenost 34, 35-40, 221
Post, Wiley 57, 63, 66, 71, 93
povratna sprega 43-44, 123, 189
pravnici, pravo 128-129, 186
Predator (bespilotna letjelica) 210
prepoznavanje obrazaca 16, 19, 66, 67, 92, 94, 126, 130
pretraţivači 89-90, 203, 229
preuranjena fiksacija 161
Priestley, Joseph 180
pripravništvo 121-122, 125, 128, 143, 163-164
programeri 40, 89, 177, 180, 182, 184, 195, 203, 214
programi za obradu teksta 113, 155
program za provjeru pravopisa 78, 203
Proizvodne snage (Noble) 194
projektiranje i dizajn
parametarsko 157-158
Projektiranje sigurnijeg svijeta (Leveson) 176
proksimalna obiljeţja 244
prometne nesreće:
automobilske 15, 83, 103, 174, 175, 209, 230
avionske 9, 53-55, 63-66, 175, 190-191, 193
proročki stroj 132
prosvjetiteljstvo 180
psihologija, psiholozi 16, 18, 21-22, 55, 64, 85, 94, 116, 131, 135, 165,
166, 177-178
i istraţivanja na ţivotinjama 100-102
kognitivna 22, 83, 86, 92
psihomotoričke vještine 67, 92
“Racionalizam u politici” (Oakeshott) 136
računalne igre 86, 200-202
računalne igre kao model 244
računalni simulacijski modeli 106, 110
računarstvo u oblaku 218, 225, 232
računovoĎe, računovodstvene tvrtke 87-88
Rad i monopolski kapital (Braverman) 121-122
radnici
informacijski 40, 129
metalski 123
radnici sa znanjem 123-124, 194
radnička zanimanja 31-32, 35-41, 119-123, 251
radnički sindikati 33, 44-45, 195
radnički štrajkovi 44
rak 81, 132
RAND 106-108, 109-110
Rattner, Justin 226
Reaper (bespilotna letjelica) 210
recesija, kriza 35, 39-40
Red Dead Redemption (igra) 200
rendgen 81, 112
Renslow, Marvin 53, 54
Revit (program) 163
revizori u korporacijama 87, 127
Rifkin, Jeremy 35
Robert, David 55, 190
Robert Frost (Poirier) 238, 239
Roberts, J. O. 71
robotika, roboti 38, 40, 47-48, 221
bit 43
 etička pitanja 206-209, 227, 248
mogućnosti 16, 28, 36, 174, 177
roboti kao replike ljudi 43, 45
ubojice 210-215
Rodriguez, Dayron 115
Roomba (usisavač) 207
ropstvo, robovi 29, 33, 248-251, 252
Royal Bank of Canada (RBC) 191
Rubin, Charles 209
Ruka koja misli (Pallasmaa) 162
Russell, Bertrand 29, 46

Saint-Exupéry, Antoine de 61, 63

samoobnavljanje 149
samozadovoljstvo automatizacijom 78-80, 85, 156
samozadovoljstvo automatizacijom i automatizacijska pristranost 78, 82,
83, 95
Sarter, Nadine 97, 182-183, 198
Scerbo, Mark 103
Schön, Donald 159, 161
Schüll, Natasha Dow 202
Schulman, Ari 150
Schumacher, Patrik 158
Science (časopis) 84, 90, 244
senzori 15, 43, 44, 45, 47, 55, 61, 123, 176, 208, 218
Shaw, Rebecca 53, 54
Shop Class as Soulcraft (Crawford) 164
Shushwap (pleme) 253
sigurnosno upozorenje avioprijevoznicima (SAFO) 9
Silicijska dolina 40, 149, 231, 250
“Simbioza računala i čovjeka” (Licklider) 247
Simons, Daniel 223
Singhal, Amit 89
Sketchpad (program) 155
SketchUp (program) 163
Skidelsky, Robert 39
Skinner, B. R 202
Slamecka, Norman 83, 85
sloboda 29, 227, 249-251, 256
slobodno vrijeme 19
i rad 21-23
Small, Willard 100
Smith, Adam 29-30, 34, 119-120
smrtonosni autonomni roboti (SAR) 211-212
sociologija, sociolozi 35, 80, 121, 134
sociotehnološki nadsistem, razvoj 219
Specialmatic 194-195
Spence, Michael 37
Sperry, Elmer A. 56
Sperryjev autopilot 56-58
Sperry, Lawrence 56, 63
Sperry (tvrtka) 58
Spinoza, Baruch 241
stabla odlučivanja 126
standardizacija 120, 121, 127, 204
Stanton, Neville 103
strojno učenje 126, 212
“Stručak cvijeća” (Frost) 246
Sullenberger, Chesley 175, 190
Sutherland, Ivan 155
šah 19, 134

tablet (računalo) 19, 174, 188, 218, 224

Talisse, Robert 96
Taylor, Frederick Winslow 120, 121
TED (konfencija, 2013) 222-224
teretni promet 219-220
Tesla Motors 16
Thiel, Peter 251
Thomis, Malcolm 30
THOR (program) 191
Thrun, Sebastian 13-14, 230
tjeskoba 22, 27, 245
tkanje, tkalci 30, 44, 77
tok 95, 102, 201, 202, 238, 253
Toyota Prius 13, 20, 175
Tranel, Ben 187
tuneliranje 223
Turing, Alan 132, 133
Turkle, Sherry 80
tvornice 29-31, 32, 38, 45, 118-121, 130, 194, 218, 249

učenje 84, 95, 121-122, 196

i istraţivanja na ţivotinjama 101-102
u medicini 114
učinak generiranja 83-85, 91, 95, 185
učinak degeneriranja 91
učitelji, poučavanje 19, 39, 174
umjetna inteligencija 18, 126, 131, 131-132, 136, 250
umjetničke vještine 17
UPS 129
uspješnost, i Yerkes-Dodsonov zakon 101-103, 186
Utrka sa strojevima (Brynjolfsson i McAfee) 36
Uvod u matematiku (Whitehead) 76
“uzorkovanje doţivljaja”, studija 21
Velika Britanija
bombardiranja 1940 42
kompjuterizacija u javnom zdravstvu 108
ludisti 30-31
virtualizacija 130
Vita activa (Arendt) 120, 252
vojska 44, 55, 57, 195
bespilotne letjelice 210-211
i roboti 211-215, 227
protuzračni topovi 42-43
vojni planeri 45, 179
Vokabular, i učinak generiranja 83-84
Voltaire 180
Volvo 15
Vonnegut, Kurt 46
Voss, Bill 62

Wall Street 88, 127, 177

Wall Street Journal 69
Watson (superračunalo) 131-132
Watt, James 44
Weed, Lawrence 135, 141
Weiser, Mark 217
Weizenbaum, Joseph 216
Wells, Thomas J. 58, 59
Whitehead, Alfred North 76-78, 94-95
Wiener, Norbert 44-46, 47-48, 130, 179, 182
Wilde, Oscar 32-33, 249
Williams, Serena 93
Williams, William Carlos 260
Winner, Langdon 232, 248
Wired (časopis) 153, 174, 249
Wordsworth, William 154
Wright, Orville 70, 239
Wright, Wilbur 69-70, 239

Xerox 129
Xerox PARC 217, 218, 225

Yerkes-Dodsonov zakon i krivulja 101-103, 186

Yerkes, Robert M. 100-103
Young, Mark 103

Zaha Hadid 158

zamor upozorenjima 116-117
Zieger, Bernard 190
znanstveni menadţment (tejlorizam) 120, 127
znanje 85-87, 90-91
dizajnersko 161
eksplicitno (deklarativno) 17-18, 91, 94
i medicina 113, 126, 135
prešutno (proceduralno) 17-18, 92, 94, 132
zemljopisno 142
Zuckerberg, Mark 204, 226, 228
Zvjezdane staze 256

ţivotinje:
istraţivanja na ţivotinjama 100-102, 150-151, 244
proţimanje tijela i predmeta 167
ubijanje 208
CIP zapis dostupan u računalnom katalogu Nacionalne i sveučilišne
knjiţnice u Zagrebu pod brojem 000946006.
 Bilješke

1
Federal Aviation Administration, SAFO 13002, 4. siječnja 2013, faa.
gov/other_visit/aviation_industry/airline_operators/airline_safety/safo/all_safos/media/20
13/S AFO13002.pdf.
2
Sebastian Thrun, “What Were Driving At”, Google Official Blog, 9. listopada 2010,
googleblog.blogspot.com/2010/10/what-were-dri- ving-at.html. V. takoĎer Tom
Vanderbilt, “Let the Robot Drive: The Autonomous Car of the Future Is Here”, Wired,
veljača 2012.
3
Daniel DeBolt, “Googles Self-Driving Car in Five-Car Crash”, Mountain View Voice, 8.
kolovoza 2011.
4
Richard Waters i Henry Foy, “Tesla Moves Ahead of Google in Race to Build Self-
Driving Cars”, Financial Times, 17. rujna 2013, ft.com/ intl/cms/s/0/70d26288-lfaf-l Ie3-
8861-00144feab7de.html.
5
Frank Levy i Richard J. Murnane, The New Division of Labor: How Computers Are
Creating the Next Job Market (Princeton: Princeton University Press, 2004), 20.
6
Tom A. Schweizer et al., “Brain Activity during Driving with Distraction: An Immersive
fMRI Study”, Frontiers in Human Neuroscience, 28. veljače 2013,
frontiersin.org/Human_Neuroscience/10.3389/fn- hum.2013.00053/full.
7
N. Katherine Hayles, How We Think: Digital Media and Contemporary Technogenesis
(Chicago: University of Chicago Press, 2012), 2.
8
Mihaly Csikszentmihalyi i Judith LeFevre, “Optimal Experience in Work and Leisure”,
Journal of Personality and Social Psychology 56, br. 5 (1989): 815-822.
9
Daniel T. Gilbert i Timothy D. Wilson, “Miswanting: Some Problems in the Forecasting
of Future Affective States”, u: Joseph P. For- gas, ur., Feeling and Thinking: The Role of
Affect in Social Cognition (Cambridge, U.K.: Cambridge University Press, 2000), 179.
10
Csikszentmihalyi i LeFevre, “Optimal Experience in Work and Leisure”.
11
Navedeno u John Geirland, “Go with the Flow”, Wired, rujan 1996.
12
Mihaly Csikszentmihalyi, Flow: The Psychology of Optimal Experience (New York:
Harper, 1991), 157-162. Usp. Flow. Očaravajuća obuzetost (Zagreb: Slap, 2006).
13
R. H. Macmillan, Automation: Friend or Foe? (Cambridge, U.K.: Cambridge University
Press, 1956), 1.
14
Ibid., 91.
15
Ibid., 1-6. Kurziv je Macmillanov.
16
Ibid., 92.
17
George B.Dyson, Darwin among the Machines: The Evolution of Global Intelligence
(Reading, Mass.: Addison-Wesley, 1997), x.
18
Bertrand Russell, “Machines and the Emotions”, u: Sceptical Essays (London:
Routledge, 2004), 64.
19
Adam Smith, The Wealth of Nations (New York: Modern Library, 2000), 7-10. Usp.
Istraţivanje prirode i uzroka bogatstva naroda (Zagreb: Poslovni dnevnik, 2007).
20
Ibid., 408.
21
Malcolm I. Thomis, The Luddites: Machine-Breaking in Regency England (Newton
Abbot, U.K.: David & Charles, 1970), 50. V. takoĎer E. J. Hobsbawm, “The Machine
Breakers”, Past and Present 1, br. 1 (1952): 57-70.
22
Karl Marx, Capital: A Critique of Political Economy, sv. 1 (Chicago: Charles H. Kerr,
1912), 461-462. Usp. Kapital: kritika političke ekonomije (Beograd: Prosveta/BIGZ,
1979).
23
Karl Marx, “Speech at the Anniversary of the Peoples Paper”, 14. travnja 1856,
marxists.org/archive/marx/works/1856/04/14.htm.
24
Nick Dyer-Witheford, Cyber-Marx: Cycles and Circuits of Struggle in High
Technology Capitalism (Champaign, 111.: University of Illinois Press, 1999), 40.
25
Marx, “Speech at the Anniversary of the Peoples Paper”.
26
Navedeno u Dyer-Witheford, Cyber-Marx, 41.U slavnom je odlomku iz Njemačke
ideologije objavljene 1846. Marx predviĎao dan kad će čovjek biti slobodan “raditi jedno
danas a drugo sutra, loviti jutrom a ribariti poslijepodne, okupljati stoku predvečer a
nakon večere baviti se kritikom, već stoga što posjedujem um, a da nikad ne postanem ni
lovac ni ribar ni pastir ni kritičar.” Pogrešno usmjereno ţeljenje rijetko zvuči tako
rapsodično.
27
E. Levasseur, “The Concentration of Industry, and Machinery in the United States”,
Publications of the American Academy of Political and Social Science, br. 193 (1897):
178-197.
28
Oscar Wilde, “The Soul of Man under Socialism”, u: The Collected Works of Oscar
Wilde (Ware, U.K.: Wordsworth Editions, 2007), 1051.
29
Navedeno u Amy Sue Bix, Inventing Ourselves out of Jobs? Americas Debate over
Technological Unemployment, 1929-1981 (Baltimore: Johns Hopkins University Press,
2000), 117-118.
30
Ibid., 50.
31
Ibid., 55.
32
John Maynard Keynes, “Economic Possibilities for Our Grandchildren”, u: Essays in
Persuasion (New York: W. W. Norton, 1963), 358-373.
33
John F. Kennedy, “Remarks at the Wheeling Stadium”, u: John F. Kennedy: Containing
the Public Messages, Speeches, and Statements of the President (Washington, D.C.: U.S.
Government Printing Office, 1962), 721.
34
Stanley Aronowitz i William DiFazio, The Jobless Future: Sci-Tech and the Dogma of
Work (Minneapolis: University of Minnesota Press, 1994), 14. Kurziv je Aronowitzev i
DiFaziov.
35
Jeremy Rifkin, The End of Work: The Decline of the Global Labor Force and the Dawn
of the Post-Market Era (New York: Putnam, 1995), xv-xviii.
36
Erik Brynjolfsson i Andrew McAfee, Race against the Machine: Flow the Digital
Revolution Is Accelerating Innovation, Driving Productivity, and Irreversibly
Transforming Employment and the Economy (Lexington, Mass.: Digital Frontier Press,
2011). Brynjolfsson i McAfee svoj su argument proširili u knjizi The Second Machine
Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies (New York: W.
W. Norton, 2014).
37
March of the Machines”, 60 Minutes, CBS, 13. siječnja 2013, cb- snews.com/8301-
18560_162-57563618/are-robots-hurting-job- growth/.
38
Bernard Condon i Paul Wiseman, “Recession, Tech Kill Middle-Class Jobs”, AP, 23.
siječnja 2013, bigstory.ap.org/article/ap-impact-re- cession-tech-kill-middle-class-jobs.
39
Paul Wiseman i Bernard Condon, “Will Smart Machines Create a World without
Work?”, AP, 25. siječnja 2013, bigstory.ap.org/article/ will-smart-machines-create-world-
without-work.
40
Michael Spence, “Technology and the Unemployment Challenge”, Project Syndicate,
15. siječnja 2013, project-syndicate.org/commen- tary/global-supply-chains-on-the-move-
by-michael-spence.
41
V. Timothy Aeppel, “Man vs. Machine, a Jobless Recovery”, Wall Street Journal, 17.
siječnja 2012.
42
Navedeno u Thomas B. Edsall, “The Flollowing Out”, Campaign Stops (blog), New
York Times, 8. srpnja 2012, campaignstops.blogs. nytimes.com/2012/07/08/the-future-of-
joblessness/.
43
See Lawrence V. Kenton, ur., Manufacturing Output, Productivity and Employment
Implications (New York: Nova Science, 2005); te Judith Banister i George Cook, “Chinas
Employment and Compensation Costs in Manufacturing through 2008”, Monthly Labor
Review, March 2011.
44
Tyler Cowen, “What Export-Oriented America Means”, American Interest,
svibanj/lipanj 2012.
45
Robert Skidelsky, “The Rise of the Robots”, Project Syndicate, 19. veljače 2013,
project-syndicate.org/commentary/the-future-of-work- in-a-world-of-automation-by-
robert-skidelsky.
46
Ibid.
47
Chrystia Freeland, “China, Technology and the U.S. Middle Class”, Financial Times,
15. veljače 2013.
48
Paul Krugman, “Is Growth Over?”, The Conscience of a Liberal (blog), New York
Times, 26. prosinca 2012, krugman.blogs.nytimes. com/2012/12/26/is-growth-over/.
49
* Internet je, kako se često primjećuje, ljudima otvorio prilike da zarade novac vlastitom
inicijativom, s malim kapitalnim ulaganjima. Mogu prodavati rabljenu robu na eBayu ili
rukotvorine na Etsyju. Ako imaju sobu viška, mogu je iznajmiti preko Airbnb-a ili
pretvoriti osobni automobil u potajni taksi preko Lyfta. Mogu pronalaziti sitne poslove
preko TaskRabbita. MeĎutim, takvim je skromnim poduzetništvom lako stvoriti tek
dodatnu zaradu, i malo je onih koji će takvim radom doći do plaće srednje klase. Pravi
novac ide softverskim tvrtkama koje koordiniraju posao preko Interneta i spajaju kupce i
prodavatelje, odnosno iznajmljivače i unajmljivače - a za tu je koordinaciju, budući da je
izrazito automatizirana, potrebno vrlo malo zaposlenih.
50
James R. Bright, Automation and Management (Cambridge, Mass.: Harvard University,
1958), 4-5.
51
Ibid., 5.
52
Ibid., 4, 6. Kurziv je Brightov. Brightova definicija automatizacije odraţava raniju
definiciju mehanizacije Sigfrieda Giediona: “Mehanizacija je čimbenik - poput vode,
vatre, svjetla. Ona je slijepa i sama po sebi neusmjerena. Poput prirodnih sila,
mehanizacija ovisi o ljudskoj sposobnosti da je iskoristi i da se zaštiti od njoj svojstvenih
opasnosti. Budući da je mehanizacija u potpunosti plod ljudskoga uma, time je za čovjeka
još opasnija.” Giedion, Mechanization Takes Command (New York: Oxford University
Press, 1948), 714.
53
David A. Mindell, Between Human and Machine: Feedback, Control, and Computing
before Cybernetics (Baltimore: Johns Hopkins University Press, 2002), 247.
54
Stuart Bennett, A History of Control Engineering, 1800-1930 (London: Peter
Peregrinus, 1979), 99-100.
55
Norbert Wiener, The Human Use of Human Beings: Cybernetics and Society (New
York: Da Capo, 1954), 153. Usp. Kibernetika i društvo: ljudska upotreba ljudskih bića
(Beograd: Nolit, 1964).
56
Eric W. Leaver i J. J. Brown, “Machines without Men”, Fortune, studeni 1946. V.
takoĎer David E Noble, Forces of Production: A Social History of Industrial Automation
(New York: Alfred A. Knopf, 1984), 67-71.
57
Noble, Forces of Production, 234.
58
Ibid., 21-40.
59
Wiener, Human Use of Human Beings, 148-162.
60
Navedeno u Flo Conway i Jim Siegelman, Dark Hero of the Information Age: In Search
of Norbert Wiener, the Father of Cybernetics (New York: Basic Books, 2005), 251.
61
Marc Andreessen, “Why Software Is Eating the World”, Wall Street Journal, 20.
kolovoza 2011.
62
Prikaz pada aviona Continental Connectiona temelji se prije svega na National
Transportation Safety Boards Accident Report AAR-10/01: Loss of Control on Approach,
Colgan Air, Inc., Operating as Continental Connection Flight 3407, Bombardier DHC 8-
400, N200WQ, Clarence, New York, February 12, 2009 (Washington, D.C.: NTSB,
2010), te na www.ntsb.gov/doclib/reports/2010/ aarl001.pdf. V. takoĎer Matthew L.
Wald, “Pilots Chatted in Moments before Buffalo Crash”, New York Times, 12. svibnja
2009.
63
Associated Press, “Inquiry in New York Air Crash Points to Crew Error”, Los Angeles
Times, 13. svibnja 2009.
64
Prikaz pada aviona Air Francea temelji se prije svega na BEA, Final Report: On the
Accident on 1st June 2009 to the Airbus A330-203, Registered F-GZCP, Operated by Air
France, Flight AF447, Rio de Janeiro to Paris (sluţbeni engl, prijevod), 27. srpnja 2012,
www.bea. aero/docspa/2009/f-cp090601.en/pdf/f-cp090601.en.pdf. V. takoĎer Jeff
Wise,”What Really Happened Aboard Air France 447”, Popular Mechanics, 6. prosinca
2011, www.popularmechanics.com/tech- nology/aviation/crashes/what-really-happened-
aboard-air-fran- ce-447-6611877.
65
BEA, Final Report, 199.
66
William Scheck, “Lawrence Sperry: Genius on Autopilot”, Aviation History, studeni
2004; Dave Higdon, “Used Correctly, Autopilots Offer Second-Pilot Safety Benefits”,
Avionics News, svibanj 2010; te “George the Autopilot”, Historic Wings, 30. kolovoza
2012, fly.histo- ricwings.com/2012/08/george-the-autopilot/.
67
“Now—The Automatic Pilot”, Popular Science Monthly, veljača 1930.
68
“Posts Automatic Pilot”, New York Times, 24. srpnja 1933.
69
James M. Gillespie, “We Flew the Atlantic „No Hands”, Popular Science, prosinac
1947.
70
“Automatic Control”, Flight, 9. listopada 1947.
71
Detaljan prikaz NASA-inog rada daje Lane E. Wallace, Airborne Trailblazer: Two
Decades with NASA Langleys 737 Flying Laboratory (Washington, D.C.: NASA History
Office, 1994).
72
William Langewiesche, Fly by Wire: The Geese, the Glide, the “Miracle” on the
Hudson (New York: Farrar, Straus & Giroux, 2009), 103.
73
Antoine de Saint-Exupéry, Wind, Sand and Stars (New York: Reynal & Hitchcock,
1939), 20.
74
Don Harris, Human Performance on the Flight Deck (Surrey, U.K.: Ashgate, 2011),
221.
75
“How Does Automation Affect Airline Safety?”, Flight Safety Foundation, 3. lipnja
2012, flightsafety.org/node/4249.
76
Hemant Bhana, “Trust but Verify”, AeroSafety World, lipanj 2010.
77
Navedeno u Nick A. Komons, Bonfires to Beacons: Federal Civil Aviation Policy under
the Air Commerce Act 1926-1938 (Washington, D.C.: U.S. Department of Transportation,
1978), 24.
78
Scott Mayerowitz i Joshua Freed, “Air Travel Safer than Ever with Death Rate at
Record Low”, Denverpost.com, 1. siječnja 2012, de-
nverpost.com/nationworld/ci_19653967. Podaci ne uključuju smrti of terorističkih činova.
79
Autorov intervju s Rajom Parasuramanom, 18. prosinca 2011.
80
Jan Noyes, “Automation and Decision Making”, u: Malcolm James Cook et al., ur.,
Decision Making in Complex Environments (Aldershot, U.K.: Ashgate, 2007), 73.
81
Earl L. Wiener, Human Factors of Advanced Technology (“Glass Cockpit”) Transport
Aircraft (Moffett Field, Calif.: NASA Ames Research Center, lipanj 1989).
82
V. primjerice Earl L. Wiener i Renwick E. Curry, “Flight-Deck Automation: Promises
and Problems”, NASA Ames Research Center, lipanj 1980; Earl L. Wiener, “Beyond the
Sterile Cockpit”, Human Factors 27, br. 1 (1985): 75-90; Donald Eldredge et al., A
Review and Discussion of Flight Management System Incidents Reported to the Aviation
Safety Reporting System (Washington, D.C.: Federal Aviation Administration, veljača
1992); i Matt Ebbatson, “Practice Makes Imperfect: Common Factors in Recent Manual
Approach Incidents”, Human Factors and Aerospace Safety 6, br. 3 (2006): 275-278.
83
Andy Pasztor, “Pilot Reliance on Automation Erodes Skills”, Wall Street Journal, 5.
studenog 2010.
84
Operational Use of Flight Path Management Systems: Final Report of the Performance-
Based Operations Aviation Rulemaking Committee / Commercial Aviation Safety Team
Flight Deck Automation Working Group (Washington, D.C.: Federal Aviation
Administration, 5. rujna 2013), www.faa.gov/about/office_org/headquarters_of-
fices/avs/offices/afs/afs400/parc/parc_reco/media/2013/130908_
PARC_FltDAWG_Final_Report_Recommendations.pdf.
85
Matthew Ebbatson, “The Loss of Manual Flying Skills in Pilots of Highly Automated
Airliners” (dotorska disertacija, Cranfield University School of Engineering, 2009). V.
takoĎer M. Ebbatson et al., “The Relationship between Manual Handling Performance and
Recent Flying Experience in Air Transport Pilots”, Ergonomics 53, br. 2 (2010): 268-277.
86
Navedeno u David A. Mindell, Between Human and Machine: Feedback, Control, and
Computing before Cybernetics (Baltimore: Johns Hopkins University Press, 2002), 77.
87
S. Bennett, A History of Control Engineering, 1800-1930 (Stevenage, U.K.: Peter
Peregrinus, 1979), 141.
88
Tom Wolfe, The Right Stuff (New York: Picador, 1979), 152-154.
89
Ebbatson, “Loss of Manual Flying Skills”.
90
European Aviation Safety Agency, “Response Charts for „EASA Cockpit Automation
Survey”‟, 3. kolovoza 2012, easa.europa.eu/sa- fety-and-
research/docs/EASA%20Cockpit%20Automation%20Sur- vey%202012%20-
%20Results.pdf.
91
Joan Lowy, “Automation in the Air Dulls Pilot Skill”, Seattle Times, 30. kolovoza
2011.
92
Dobar pregled promjena veličine posade zrakoplova daje Delmar M. Fadden et al.,
“First Hand: Evolution of the 2-Person Crew Jet Transport Flight Deck”, IEEE Global
History Network, 25. kolovoz, 2008, ieeeghn.org/wiki/index.php/First-
Hand:Evolution_of_the_2- Person_Crew_Jet_Transport_Flight_Deck.
93
Navedeno u Philip E. Ross, “When Will We Have Unmanned Commercial Airliners?”,
IEEE Spectrum, prosinac 2011.
94
Scott McCartney, “Pilot Pay: Want to Know How Much Your Captain Earns?”, The
Middle Seat Terminal (blog), Wall Street Journal, 16. lipnja 2009,
blogs.wsj.com/middleseat/2009/06/16/pilot-pay-want- to-know-how-much-your-captain-
earns/.
95
Dawn Duggan, “The 8 Most Overpaid & Underpaid Jobs”, Salary, com, bez datuma,
salary.com/the%2D8%2Dmost%2Doverpaid%2D underpaid%2Djobs/slide/9/.
96
David A. Mindell, Digital Apollo: Human and Machine in Spaceflight (Cambridge,
Mass.: MIT Press, 2011), 20.
97
Wilbur Wright, pismo 13. svibnja 1900, u: Richard Rhodes, ur., Visions of Technology:
A Century of Vital Debate about Machines, Systems, and the Human World (New York:
Touchstone, 1999), 33.
98
Mindell, Digital Apollo, 20.
99
Navedeno u ibid., 21.
100
Wilbur Wright, “Some Aeronautical Experiments”, govor odrţan pred Western Society
of Engineers, 18. rujna 1901, www.wright-ho- use.com/wright-
brothers/Aeronautical.html.
101
Mindell, Digital Apollo, 21.
102
J. O. Roberts, “ „The Case against Automation in Manned Fighter Aircraft”, SETP
Quarterly Review 2, br. 3 (jesen 1957): 18-23.
103
Navedeno u Mindell, Between Human and Machine, 77.
104
Harris, Human Performance on the Flight Deck, 221.
105
Alfred North Whitehead, An Introduction to Mathematics (New York: Henry Holt,
1911 ), 61.
106
Navedeno u Frank Levy i Richard J. Murnane, The New Division of Labor: How
Computers Are Creating the Next Job Market (Princeton: Princeton University Press,
2004), 4.
107
Raja Parasuraman et al., “Model for Types and Levels of Human Interaction with
Automation”, IEEE Transactions on Systems, Man, and Cybernetics—Part A: Systems
and Humans 30, br. 3 (2000): 286-297. V. takoĎer Nadine Sarter et al., “Automation
Surprises”, u Gavriel Sal- vendy, ur., Handbook of Human Factors and Ergonomics, 2.
izdanje (New York: Wiley, 1997).
108
Dennis F. Galletta et al., “Does Spell-Checking Software Need a Warning Label?”
Communications of the ACM 48, br. 7 (2005): 82-86.
109
National Transportation Safety Board, Marine Accident Report: Grounding of the
Panamanian Passenger Ship Royal Majesty on Rose and Crown Shoal near Nantucket,
Massachusetts, 10. lipnja 1995 (Washington, D.C.: NTSB, 2. travnja 1997).
110
Sherry Turkle, Simulation and Its Discontents (Cambridge, Mass.: MIT Press, 2009),
55-56.
111
Jennifer Langston, “GPS Routed Bus under Bridge, Company Says”, Seattle Post-
Intelligencer, 17. travnja 2008.
112
A. A. Povyakalo et al., “How to Discriminate between Computer-Aided and Computer-
Hindered Decisions: A Case Study in Mammography”, Medical Decision Making 33, br.
1 (siječanj 2013): 98-107.
113
E. Alberdi et al., “Why Are Peoples Decisions Sometimes Worse with Computer
Support?”, u Bettina Buth et al., ur., Proceedings of SAFE- COMP 2009, the 28th
International Conference on Computer Safety, Reliability, and Security (Hamburg,
Germany: Springer, 2009), 18-31.
114
See Raja Parasuraman et al., “Performance Consequences of Automation-Induced
„Complacency‟”, International Journal of Aviation Psychology 3, br. 1 (1993): 1-23.
115
Raja Parasuraman i Dietrich H. Manzey, “Complacency and Bias in Human Use of
Automation: An Attentional Integration”, Human Factors 52, br. 3 (lipanj 2010): 381-410.
116
Norman J. Slamecka i Peter Graf, “The Generation Effect: Delineation of a
Phenomenon”, Journal of Experimental Psychology: Human Learning and Memory 4, br.
6 (1978): 592-604.
117
Jeffrey D. Karpicke i Janell R. Blunt, “Retrieval Practice Produces More Learning than
Elaborative Studying with Concept Mapping”, Science 331 (2011): 772-775.
118
Britte Haugan Cheng, “Generation in the Knowledge Integration Classroom” (dotorska
disertacija, Kalifornijsko sveučilište Berkeley, 2008).
119
Simon Farrell i Stephan Lewandowsky, “A Connectionist Model of Complacency and
Adaptive Recovery under Automation”, Journal of Experimental Psychology: Learning,
Memory, and Cognition 26, br. 2 (2000): 395-410.
120
O van Nimwegenovom sam radu već pisao u knjizi Plitko. Što Internet čini našem
mozgu (Zagreb: Jesenski i Turk, 2011).
121
Christof van Nimwegen, “The Paradox of the Guided User: Assistance Can Be
Counter-effective” (SIKS Dissertation Series No. 2008- 09, Sveučilište u Utrechtu, 31.
oţujka 2008). takoĎer Christof van Nimwegen i Herre van Oostendorp, “The Questionable
Impact of an Assisting Interface on Performance in Transfer Situations”, International
Journal of Industrial Ergonomics 39, br. 3 (svibanj 2009): 501-508; te Daniel Burgos i
Christof van Nimwegen, “Games-Ba- sed Learning, Destination Feedback and
Adaptation: A Case Study of an Educational Planning Simulation”, u Thomas Connolly et
al., ur., Games-Based Learning Advancements for Multi-Sensory Human Computer
Interfaces: Techniques and Effective Practices (Hershey, Penn.: IGI Global, 2009), 119-
130.
122
Carlin Dowling et al., “Audit Support System Design and the Declarative Knowledge
of Long-Term Users”, Journal of Emerging Technologies in Accounting 5, br. 1 (prosinac
2008): 99-108.
123
V. Richard G. Brody et al., “The Effect of a Computerized Decision Aid on the
Development of Knowledge”, Journal of Business and Psychology 18, br. 2 (2003): 157-
174; i Holli McCall et al., “Use of Knowledge Management Systems and the Impact on
the Acquisition of Explicit Knowledge”, Journal of Information Systems 22, br. 2 (2008):
77-101.
124
Amar Bhide, “The Judgment Deficit”, Harvard Business Review 88, br. 9 (rujan 2010):
44-53.
125
Gordon Baxter i John Cartlidge, “Flying by the Seat of Their Pants: What Can High
Frequency Trading Learn from Aviation?”, u G. Brat et al., ur., ATACCS-2013:
Proceedings of the 3rd International Conference on Application and Theory of
Automation in Command and Control Systems (New York: ACM, 2013), 64-73.
126
Vivek Haidar, “Sharp Tools, Dull Minds”, This Is the Blog of Vivek Haidar, 10.
studenog 2013, blog.vivekhaldar.com/post/66660163006/ sharp-tools-dull-minds.
127
Tim Adams, “Google and the Future of Search: Amit Singhal and the Knowledge
Graph”, Observer, 19. siječnja 2013.
128
Betsy Sparrow et al., “Google Effects on Memory: Cognitive Consequences of Having
Information at Our Fingertips”, Science 333, br. 6043 (5. kolovoza 2011): 776-778. Još
jedno istraţivanje ukazuje na to da već i to što znamo da je neki doţivljaj fotografiran
digitalnim aparatom u nama slabi pamćenje tog doţivljaja: Linda A. Henkel, “Point-and-
Shoot Memories: The Influence of Taking Photos on Memory for a Museum Tour”,
Psychological Science, 5. prosinca 2013,
pss.sagepub.com/content/early/2013/12/04/0956797613504438.full.
129
Mihai Nadin, “Information and Semiotic Processes: The Semiotics of Computation”,
Cybernetics and Human Knowing 18, br. 1-2 (2011): 153-175.
130
Gary Marcus, Guitar Zero: The New Musician and the Science of Learning (New
York: Penguin, 2012), 52.
131
Za podroban opis toga kako mozak uči čitati v. Maryanne Wolf, Proust and the Squid:
The Story and Science of the Reading Brain (New York: HarperCollins, 2007), osobito
108-133.
132
Hubert L. Dreyfus, “Intelligence without Representation—Merleau- Ponty s Critique of
Mental Representation”, Phenomenology and the Cognitive Sciences 1 (2002): 367-383.
133
Marcus, Guitar Zero, 103.
134
David Z. Hambrick i Elizabeth J. Meinz, “Limits on the Predictive Power of Domain-
Specific Experience and Knowledge in Skilled Performance”, Current Directions in
Psychological Science 20, br. 5 (2011): 275-279.
135
K. Anders Ericsson et al., “The Role of Deliberate Practice in the Acquisition of Expert
Performance”, Psychological Review 100, br. 3 (1993): 363-406.
136
Nigel Warburton, “Robert Talisse on Pragmatism”, Five Books, 18. rujna 2013,
fivebooks.com/interviews/robert-talisse-on-pragma- tism.
137
Jeanne Nakamura i Mihaly Csikszentmihalyi, “The Concept of Flow”, u: C. R. Snyder
i Shane J. Lopez, ur., Handbook of Positive Psychology (Oxford, U.K.: Oxford University
Press, 2002), 90-91.
138
Robert M. Yerkes, The Dancing Mouse: A Study in Animal Behavior (New York:
Macmillan, 1907), vii-viii, 2-3.
139
Ibid., vii.
140
Robert M. Yerkes i John D. Dodson, “The Relation of Strength of Stimulus to Rapidity
of Habit-Formation”, Journal of Comparative Neurology and Psychology 18 (1908): 459-
482.
141
Ibid.
142
Mark S. Young i Neville A. Stanton, “Attention and Automation: New Perspectives on
Mental Overload and Performance”, Theoretical Issues in Ergonomics Science 3, br. 2
(2002): 178-194.
143
Mark W. Scerbo, “Adaptive Automation”, u: Raja Parasuraman i Matthew Rizzo, ur.,
Neuroergonomics: The Brain at Work (New York: Oxford University Press, 2007), 239-
252.
144
“RAND Study Says Computerizing Medical Records Could Save $81 Billion Annually
and Improve the Quality of Medical Care”, Izvještaj za medije, RAND, 14. rujna 2005.
145
Richard Hillestad et al., “Can Electronic Medical Record Systems Transform Health
Care? Potential Health Benefits, Savings, and Costs”, Health Affairs 24, br. 5 (2005):
1103-1117.
146
Reed Abelson i Julie Creswell, “In Second Look, Few Savings from Digital Health
Records”, New York Times, 10. siječnja 2013.
147
Jeanne Lambrew, “More than Half of Doctors Now Use Electronic Health Records
Thanks to Administration Policies”, The White House Blog, 24. svibnja 2013,
whitehouse.gov/blog/2013/05/24/more- half-doctors-use-electronic-health-records-thanks-
administration- policies.
148
Arthur L. Kellermann and Spencer S. Jones, “What It Will Take to Achieve the As-
Yet-Unfulfilled Promises of Health Information Technology”, Health Ajfairs 32, br. 1
(2013): 63-68.
149
Ashly D. Black et al., “The Impact of eHealth on the Quality' and Safety of Health
Care: A Systematic Overview”, PLOS Medicine 8, br. 1 (2011),
plosmedicine.org/article/info%3Adoi%2F10.1371%2Fjournal. pmed. 1000387.
150
Melinda Beeuwkes Buntin et al., “The Benefits of Health Information Technology: A
Review of the Recent Literature Shows Predominantly Positive Results”, Health Ajfairs
30, br. 3 (2011): 464-471.
151
Dean F. Sittig et al., “Lessons from „Unexpected Increased Mortality after
Implementation of a Commercially Sold Computerized Physician Order Entry System‟”,
Pediatrics 118, br. 2 (1. kolovoza 2006): 797-801.
152
Jerome Groopman i Pamela Hartzband, “Obamas $80 Billion Exaggeration”, Wall
Street Journal, 12. oţujka 2009. V. takoĎer (isti autori) “Off the Record—Avoiding the
Pitfalls of Going Electronic”, New England Journal of Medicine 358, no. 16 (2008): 1656-
1658.
153
V. Fred Schulte, “Growth of Electronic Medical Records Eases Path to Inflated Bills”,
Center for Public Integrity, 19. rujna 2012, publi-
cintegrity.org/2012/09/19/10812/growth-electronic-medical-recor- ds-eases-path-inflated-
bills; and Reed Abelson et al., “Medicare Bills Rise as Records Turn Electronic”, New
York Times, 22. rujna 2012.
154
Daniel R. Levinson, CMS and Its Contractors Have Adopted Few Program Integrity
Practices to Address Vulnerabilities in EHRs (Washington, D.C.: Office of the Inspector
General, Department of Health and Human Services, siječanj 2014),
oig.hhs.gov/oei/reports/oei-01- 11-00571.pdf.
155
Danny McCormick et al., “Giving Office-Based Physicians Electronic Access to
Patients‟ Prior Imaging and Lab Results Did Not Deter Ordering of Tests”, Health Affairs
31, br. 3 (2012): 488-496. Jedno je prijašnje istraţivanje pratilo terapiju dijabetičkih
pacijenata tijekom pet godina u dvije klinike, od kojih je jedna bila uvela sustav za
elektroničku dokumentaciju a druga nije. Pokazalo se da su liječnici u klinici opremljenoj
EMR sustavom naručili više pretraga a nisu postigli bolju kontrolu glicerola svojih
pacijenata. “Podaci ukazuju na to da unatoč nezanemarivim troškovima i većoj tehničkoj
sloţenosti EMR-a, EMR sustavi nisu postigli poţeljnu razinu kliničkog poboljšanja”,
napisali su istraţivači. Patrick J. O‟Connor et al., “Impact of an Electronic Medical
Record on Diabetes Quality of Care”, Annals of Family Medicine 3, br. 4 (srpanj 2005):
300-306.
156
Timothy Hoff, “Deskilling and Adaptation among Primary Care Physicians Using Two
Work Innovations”, Health Care Management Review 36, br. 4 (2011): 338-348.
157
Schulte, “Growth of Electronic Medical Records”.
158
Hoff, “Deskilling and Adaptation”.
159
Danielle Ofri, “The Doctor vs. the Computer”, New York Times, 30. prosinca 2010.
160
Thomas H. Payne et al., “Transition from Paper to Electronic Inpatient Physician
Notes”, Journal of the American Medical Information Association 17 (2010): 108-111.
161
Ofri, “Doctor vs. the Computer”.
162
Beth Lown i Dayron Rodriguez, “Lost in Translation? How Electronic Health Records
Structure Communication, Relationships, and Meaning”, Academic Medicine 87, br. 4
(2012): 392-394.
163
Emran Rouf et al., “Computers in the Exam Room: Differences in Physician-Patient
Interaction May Be Due to Physician Experience”, Journal of General Internal Medicine
22, no. 1 (2007): 43-48.
164
Avik Shachak et al., “Primary Care Physicians‟ Use of an Electronic Medical Record
System: A Cognitive Task Analysis”, Journal of General Internal Medicine 24, br. 3
(2009): 341-348.
165
Lown i Rodriguez, “Lost in Translation?”
166
V. Saul N. Weingart et al., “Physicians‟ Decisions to Override Computerized Drug
Alerts in Primary Care”, Archives of Internal Medicine 163 (24. studenog 2003): 2625-
2631; Alissa L. Russ et al., “Preservers‟ Interactions with Medication Alerts at the Point
of Prescribing: A Multi-method, In Situ Investigation of the Human- Computer
Interaction”, International Journal of Medical Informatics 81 (2012): 232-243; M. Susan
Ridgely i Michael D. Greenberg, “Too Many Alerts, Too Much Liability: Sorting through
the Malpractice Implications of Drug-Drug Interaction Clinical Decision Support”, Saint
Louis University Journal of Health Law and Policy 5 (2012): 257-295; i David W. Bates,
“Clinical Decision Support and the Law: The Big Picture”, Saint Louis University Journal
of Health Law and Policy 5 (2012): 319-324.
167
Atul Gawande, The Checklist Manifesto: How to Get Things Right (New York: Henry
Holt, 2010), 161-162.
168
Lown and Rodriguez, “Lost in Translation?”
169
Jerome Groopman, How Doctors Think (New York: Houghton Mifflin, 2007), 34-35.
170
Adam Smith, The Wealth of Nations (New York: Modern Library, 2000), 840. Usp.
Istraţivanje prirode i uzroka bogatstva naroda (Zagreb: Poslovni dnevnik, 2007).
171
Ibid., 4.
172
Frederick Winslow Taylor, The Principles of Scientific Management (New York:
Harper & Brothers, 1913), 11.
173
Ibid., 36.
174
Hannah Arendt, The Human Condition (Chicago: University of Chicago Press, 1998),
147. Usp. Vita activa (Zagreb: August Cesarec, 1991), 120.
175
Harry Braverman, Labor and Monopoly Capital: The Degradation of Work in the
Twentieth Century (New York: Monthly Review Press, 1998), 307.
176
Jezgrovit prikaz debate o Bravermanu daje Peter Meiksins, “Labor and Monopoly
Capital for the 1990s: A Review and Critique of the Labor Process Debate”, Monthly
Review, studeni 1994.
177
James R. Bright, Automation and Management (Cambridge, Mass.: Harvard
University, 1958), 176-195.
178
Ibid., 188.
179
James R. Bright, “The Relationship of Increasing Automation and Skill Requirements”,
u: National Commission on Technology, Automation, and Economic Progress,
Technology and the American Economy, Appendix II: The Employment Impact of
Technological Change (Washington, D.C.: U.S. Government Printing Office, 1966), 201-
221.
180
George Dyson, komentar na Edge.org, 11. srpnja 2008, edge.org/dis-
course/carr_google.html#dysong.
181
Za lucidno objašnjenje strojnog učenja, v. šesto poglavlje u John Ma- cCormick, Nine
Algorithms That Changed the Future: The Ingenious Ideas That Drive Todays Computers
(Princeton: Princeton University Press, 2012).
182
Max Raskin and Ilan Kolet, “Wall Street Jobs Plunge as Profits Soar” Bloomberg
News, 23. travnja 2013, bloomberg.com/news/2013-04- 24/wall-street-jobs-plunge-as-
profits-soar-chart-of-the-day.html.
183
Ashwin Parameswaran, “Explaining the Neglect of Doug Engelbarts Vision: The
Economic Irrelevance of Human Intelligence Augmentation”, Macroresilience, 8. srpnja
2013, macroresilience.com/2013/07/08/ explaining-the-neglect-of-doug-engelbarts-
vision/.
184
V. Daniel Martin Katz, “Quantitative Legal Prediction—or—How I Learned to Stop
Worrying and Start Preparing for the Data-Driven Future of the Legal Services Industry”,
Emory Law Journal 62, br. 4 (2013): 909-966.
185
Joseph Walker, “Meet the New Boss: Big Data”, Wall Street Journal, 20. rujna 2012.
186
Franco “Bifo” Berardi, The Soul at Work: From Alienation to Automation (Los
Angeles: Semiotext(e), 2009), 96.
187
* Upotreba naziva kakvi su neuralna mreţa ili neuromorfna obrada podataka ostavlja
dojam da računalo funkcionira poput mozga (ili obratno). Te nazive ipak ne treba shvatiti
doslovno; to je samo način izraţavanja. Budući da nam način rada mozga zasad nije
poznat, niti znamo kako iz meĎuigre neurona nastaju misao i svijest, ne moţemo izraĎivati
računala koja bi funkcionirala onako kako funkcionira mozak.
188
A. M. Turing, “Systems of Logic Based on Ordinals”, Proceedings of the London
Mathematical Society 45, br. 2239 (1939): 161-228.
189
Ibid.
190
Hector J. Levesque, “On Our Best Behaviour”, predavanje odrţano na International
Joint Conference on Artificial Intelligence, Peking, 8. kolovoza 2013.
191
V. Nassim Nicholas Taleb, Antifragile: Things That Gain from Disorder (New York:
Random House, 2012), 416-419.
192
Donald T. Campbell, “Assessing the Impact of Planned Social Change”, Occasional
Paper Series, br. 8 (prosinac 1976), Public Affairs Center, Dartmouth College, Hanover,
N.H.
193
Viktor Mayer-Schonberger i Kenneth Cukier, Big Data: A Revolution That Will
Transform How We Live, Work, and Think (New York: Houghton Mifflin Harcourt,
2013), 166.
194
Kate Crawford, “The Hidden Biases in Big Data”, HBR Blog Network, 1. travnja 2013,
hbr.org/cs/2013/04/the_hidden_biases_in_big_ data.html.
195
U članku iz 1968. Weed piše: “Ako se korisni povijesni podaci uz pomoć novih
računala i tehnika u anamnezi mogu prikupljati i pohranjivati jeftino, iscrpno i točno, bez
značajnijeg dodatnog utroška vremena liječnika, treba ih ozbiljno razmotriti.” Lawrence
L. Weed, “Medical Records That Guide and Teach”, New England Journal of Medicine
278 (1968): 593-600, 652-657.
196
Lee Jacobs, “Interview with Lawrence Weed, MD—The Father of the Problem-
Oriented Medical Record Looks Ahead”, Permanente Journal 13, br. 3 (2009): 84-89.
197
Gary Klein, “Evidence-Based Medicine”, Edge, 14. siječnja 2014,
edge.org/responses/what-scientific-idea-is-ready-for-retirement.
198
Michael Oakeshott, “Rationalism in Politics”, Cambridge Journal 1 (1947): 81-98, 145-
157. Članak je otisnut i u Oakeshottovoj knjizi iz 1962. Rationalism in Politics and Other
Essays (New York: Basic Books).
199
William Edward Parry, Journal of a Second Voyage for the Discovery of a North-West
Passage from the Atlantic to the Pacific (London: John Murray, 1824), 277.
200
Claudio Aporta i Eric Higgs, “Satellite Culture: Global Positioning Systems, Inuit
Wayfinding, and the Need for a New Account of Technology”, Current Anthropology 46,
br. 5 (2005): 729-753.
201
Autorov intervju s Claudiom Aportom, 25. siječnja 2012.
202
Gilly Leshed et al., “In-Car GPS Navigation: Engagement with and Disengagement
from the Environment”, u Proceedings of the SIGC- HI Conference on Human Factors in
Computing Systems (New York: ACM, 2008), 1675-1684.
203
David Brooks, “The Outsourced Brain”, New York Times, 26. listopada 2007.
204
Julia Frankenstein et al., “Is the Map in Our Head Oriented North?” Psychological
Science 23, br. 2 (2012): 120-125.
205
Julia Frankenstein, “Is GPS All in Our Heads?”, New York Times, 2. veljače 2012.
206
Gary E. Burnett i Kate Lee, “The Effect of Vehicle Navigation Systems on the
Formation of Cognitive Maps”, u Geoffrey Underwood, ur., Traffic and Transport
Psychology: Theory and Application (Amsterdam: Elsevier, 2005), 407-418.
207
Elliot P. Fenech et al., “The Effects of Acoustic Turn-by-Turn Navigation on
Wayfinding”, Proceedings of the Human Factors and Ergonomics Society Annual
Meeting 54, br. 23 (2010): 1926-1930.
208
Toru Ishikawa et al., “Wayfinding with a GPS-Based Mobile Navigation System: A
Comparison with Maps and Direct Experience”, Journal of Environmental Psychology 28,
br. 1 (2008): 74-82; i Stefan Miinzer et al., “Computer-Assisted Navigation and the
Acquisition of Route and Survey Knowledge”, Journal of Environmental Psychology 26,
br. 4 (2006): 300-308.
209
Sara Hendren, “The White Cane as Technology”, Atlantic, 6. studenog 2013,
theatlantic.com/technology/archive/2013/11/the-white- cane-as-technology/281167/.
210
Tim Ingold, Being Alive: Essays on Movement, Knowledge and Description (London:
Routledge, 2011), 149-152. Kurziv je Ingoldov.
211
Navedeno u James Fallows, “The Places You‟ll Go”, Atlantic, siječanj/ veljača 2013.
212
Ari N. Schulman, “GPS and the End of the Road”, New Atlantis, proljeće 2011.
213
John O‟Keefe i Jonathan Dostrovsky, “The Hippocampus as a Spatial Map:
Preliminary Evidence from Unit Activity in the Freely-Moving Rat”, Brain Research 34
(1971): 171-175.
214
John O‟Keefe, “A Review of the Hippocampal Place Cells”, Progress in Neurobiology
13, br. 4 (2009): 419-439.
215
Edvard I. Moser et al., “Place Cells, Grid Cells, and the Brains Spatial Representation
System”, Annual Review of Neuroscience 31 (2008): 69-89.
216
V. Christian F. Doeller et al., “Evidence for Grid Cells in a Human Memory Network”,
Nature 463 (2010): 657-661; Nathaniel J. Killian et al., “A Map of Visual Space in the
Primate Entorhinal Cortex”, Nature 491 (2012): 761-764; te Joshua Jacobs et al., “Direct
Recordings of Grid-Like Neuronal Activity in Human Spatial Navigation”, Nature
Neuroscience, 4. kolovoza 2013, nature.com/neuro/journal/
vaop/ncurrent/full/nn.3466.html.
217
James Gorman, “A Sense of Where You Are”, New York Times, 30. travnja 2013.
218
György Buzsaki i Edvard I. Moser, “Memory, Navigation and Theta Rhythm in the
Hippocampal-Entorhinal System”, Nature Neuroscience 16, br. 2 (2013): 130-138. V.
takoĎer Neil Burgess et al., “Memory for Events and Their Spatial Context: Models and
Experiments”, u Alan Baddeley et al., ur., Episodic Memory: New Directions in Research
(New York: Oxford University Press, 2002), 249-268. Čini se poučno da jedna od
najdjelotvornijih mnemo- ničkih tehnika, koja seţe do klasičnog doba, funkcionira tako da
se mentalne slike predmeta ili činjenica smještaju na zamišljene poloţaje, primjerice u
neku zgradu ili grad. Lakše je prizvati nešto iz sjećanja kad je to upamćeno u vezi s nekom
fizičkom lokacijom, makar i onom iz mašte.
219
V. primjerice Jan M. Wiener et al., “Maladaptive Bias for Extrahip- pocampal
Navigation Strategies in Aging Humans”, Journal of Neuroscience 33, br. 14 (2013):
6012-6017.
220
V. primjerice A. T. Du et al., “Magnetic Resonance Imaging of the Entorhinal Cortex
and Hippocampus in Mild Cognitive Impairment and Alzheimer‟s Disease”, Journal of
Neurology, Neurosurgery and Psychiatry 71 (2001): 441-447.
221
Kyoko Konishi i Véronique D. Bohbot, “Spatial Navigational Strategies Correlate with
Gray Matter in the Hippocampus of Healthy Older Adults Tested in a Virtual Maze”,
Frontiers in Aging Neuroscience 5(2013): 1-8.
222
E-mail Véronique Bohbot autoru, 4. lipnja 2010.
223
Quoted in Alex Hutchinson, “Global Impositioning Systems”, Walrus, studeni 2009.
224
Kyle VanHemert, “4 Reasons Why Apples iBeacon Is About to Disrupt Interaction
Design”, Wired, 11. prosinca 2013, www.wired.com/ design/2013/12/4-use-cases-for-
ibeacon-the-most-exciting-tech- you-havent-heard-of/.
225
Navedeno u Fallows, “Places You‟ll Go”.
226
Damon Lavrinc, “Mercedes Is Testing Google Glass Integration, and It Actually
Works”, Wired, 15. kolovoza 2013, wired.com/auto- pia/2013/08/google-glass-mercedes-
benz/.
227
William J. Mitchell, “Foreword”, u Yehuda E. Kalay, Architectures New Media:
Principles, Theories, and Methods of Computer-Aided Design (Cambridge, Mass.: MIT
Press, 2004), xi.
228
Robert Ivy, “Piano Nobile”, Architectural Record, 1. siječnja 2008. ar-
chitecturalinterviews.blogspot.co.ke/2009/12/renzo-piano-speaks- with-architectural.html
229
Navedeno u Gavin Mortimer, The Longest Night (New York: Penguin, 2005), 319.
230
Dino Marcantonio, “Architectural Quackery at Its Finest: Parametrici- sm”,
Marcantonio Architects Blog, 8. svibnja 2010, blog.marcantonioar-
chitects.com/architectural-quackery-at-its-finest-parametricism/.
231
Paul Goldberger, “Digital Dreams”, New Yorker, 12. oţujka 2001.
232
Patrik Schumacher, “Parametricism as Style - Parametricist Manifesto”, blog Patrika
Schumachera, 2008, patrikschumacher.com/Texts/ Parametricism%20as%20Style.htm.
233
Robert Ivy, “Piano Nobile”.
234
Witold Rybczynski, “Think before You Build”, Slate, 30. travnja 2011,
slate.com/articles/arts/architecture/2011/03/think_before_you_bu- ild.html.
235
Navedeno u Bryan Lawson, Design in Mind (Oxford, U.K.: Architectural Press, 1994),
66.
236
Michael Graves, “Architecture and the Lost Art of Drawing”, New York Times, 2.
rujna 2012.
237
D. A. Schön, “Designing as Reflective Conversation with the Materials of a Design
Situation”, Knowledge-Based Systems 5, br. 1 (1992): 3-14. V. takoĎer Schönovu knjigu
The Reflective Practitioner: How Professionals Think in Action (New York: Basic Books,
1983), osobito 157-159.
238
Graves, “Architecture and the Lost Art of Drawing.” V. takoĎer Ma- saki Suwa et al.,
“Macroscopic Analysis of Design Processes Based on a Scheme for Coding Designers‟
Cognitive Actions”, Design Studies 19 (1998): 455-483.
239
Nigel Cross, Designerly Ways of Knowing (Basel: Birkhäuser, 2007), 58.
240
Schön, “Designing as Reflective Conversation”.
241
Ibid.
242
Joachim Walther et al., “Avoiding the Potential Negative Influence of CAD Tools on
the Formation of Students‟ Creativity”, u Proceedings of the 2007 AaeE Conference,
Melbourne, Australia, prosinac 2007, ww2.cs.mu.oz.au/aaee2007/papers/paper_40.pdf.
243
Graves, “Architecture and the Lost Art of Drawing”.
244
Juhani Pallasmaa, The Thinking Hand: Existential and Embodied Wisdom in
Architecture (Chichester, U.K.: Wiley, 2009), 96-97.
245
Autorov intervju s E. J. Meadeom, 23. srpnja 2013.
246
Jacob Brillhart, “Drawing towards a More Creative Architecture: Mediating between
the Digital and the Analog”, izlaganje na skupu Association of Collegiate Schools of
Architecture, Montreal, Canada, 5. oţujka 2011.
247
Matthew B. Crawford, Shop Class as Soulcraft: An Inquiry into the Value of Work
(New York: Penguin, 2009), 164.
248
Ibid., 161.
249
John Dewey, Essays in Experimental Logic (Chicago: University of Chicago Press,
1916), 13-14.
250
Matthew D. Lieberman, “The Mind-Body Illusion”, Psychology Today, 17. svibnja
2012, psychologytoday.com/blog/social-brain-so- cial-mind/201205/the-mind-body-
illusion. V. takoĎer Matthew D. Lieberman, “What Makes Big Ideas Sticky?”, u Max
Brockman, ur., What's Next? Dispatches on the Future of Science (New York: Vintage,
2009), 90-103.
251
“Andy Clark: Embodied Cognition” (video), University of Edinburgh: Research in a
Nutshell, bez datuma, nutshell-videos.ed.ac.uk/an- dy-clark-embodied-cognition.
252
Tim Gollisch i Markus Meister, “Eye Smarter than Scientists Believed: Neural
Computations in Circuits of the Retina”, Neuron 65 (28. sijecnja 2010): 150-164.
253
V. Vittorio Gallese i George Lakoff, “The Brains Concepts: The Role of the Sensory-
Motor System in Conceptual Knowledge”, Cognitive Neuropsychology 22, br. 3/4 (2005):
455-479; i Lawrence W. Barsa- lou, “Grounded Cognition”, Annual Review of
Psychology 59 (2008): 617-645.
254
“Andy Clark: Embodied Cognition”.
255
Shaun Gallagher, How the Body Shapes the Mind (Oxford, U.K.: Oxford University
Press, 2005), 247.
256
Andy Clark, Natural-Born Cyborgs: Minds, Technologies, and the Future of Human
Intelligence (New York: Oxford University Press, 2003), 4.
257
Navedeno u Fallows, “Places You‟ll Go”.
258
Kevin Kelly, “Better than Human: Why Robots Will—and Must- Take Our Jobs”,
Wired, siječanj 2013.
259
Jay Yarow, “Human Driver Crashes Googles Self Driving Car”, Business Insider, 5.
kolovoza 2011, businessinsider.com/googles-self-dri- ving-cars-get-in-their-first-accident-
2011-8.
260
Andy Kessler, “Professors Are About to Get an Online Education”, Wall Street
Journal, 3. lipnja 2013.
261
Vinod Khosla, “Do We Need Doctors or Algorithms?” TechCrunch, 10. siječnja 2012,
techcrunch.com/2012/01/10/doctors-or-algorithms.
262
Gerald Traufetter, “The Computer vs. the Captain: Will Increasing Automation Make
Jets Less Safe?” Spiegel Online, 31. srpnja 2009, spiegel.de/international/world/the-
computer-vs-the-captain-will- increasing-automation-make-jets-less-safe-a-639298.html.
263
V. Adam Fisher, “Inside Googles Quest to Popularize Self-Driving Cars”, Popular
Science, listopad 2013.
264
Tosha B. Weeterneck et al., “Factors Contributing to an Increase in Duplicate
Medication Order Errors after CPOE Implementation”, Journal of the American Medical
Informatics Association 18 (2011): 774-782.
265
Sergey V. Buldyrev et al., “Catastrophic Cascade of Failures in Interdependent
Networks”, Nature 464 (15. travnja 2010): 1025-1028. V. takoĎer Alessandro Vespignani,
“The Fragility of Interdependency”, Nature 464 (April 15, 2010): 984-985.
266
Nancy G. Leveson, Engineering a Safer World: Systems Thinking Applied to Safety
(Cambridge, Mass.: MIT Press, 2011), 8-9.
267
Lisanne Bainbridge, “Ironies of Automation”, Automatica 19, br. 6 (1983): 775-779.
268
Za pregled istraţivanja pozornosti, uključujući ona provedena u Drugom svjetskom
ratu, v. D. R. Davies i R. Parasuraman, The Psychology of Vigilance (London: Academic
Press, 1982).
269
Bainbridge, “Ironies of Automation”.
270
V. Magdalen Galley, “Ergonomics—Where Have We Been and Where Are We
Going”, govor bez datuma, taylor.it/meg/papers/50%20 Years%20of%20Ergonomics.pdf;
te Nicolas Marmaras et al., “Ergonomic Design in Ancient Greece”, Applied Ergonomics
30, br. 4 (1999): 361-368.
271
David Meister, The History of Human Factors and Ergonomics (Ma- hwah, N.J.:
Lawrence Erlbaum Associates, 1999), 209, 359.
272
Leo Marx, “Does Improved Technology Mean Progress?”, Technology Review,
siječanj 1987.
273
Donald A. Norman, Things That Make Us Smart: Defending Human Attributes in the
Age of the Machine (New York: Perseus, 1993), xi.
274
Norbert Wiener, I Am a Mathematician (Cambridge, Mass.: MIT Press, 1956), 305.
275
Nadine Sarter et al., “Automation Surprises”, u: Gavriel Salvendy, ur., Handbook of
Human Factors and Ergonomics, 2. izdanje (New York: Wiley, 1997).
276
Ibid.
277
John D. Lee, “Human Factors and Ergonomics in Automation Design”, u: Gavriel
Salvendy, ur., Handbook of Human Factors and Ergonomics, 3. izdanje (Hoboken, N.J.:
Wiley, 2006), 1571.
278
Više o automatizaciji koja smjera ljudima u Charles E. Billings, Aviation Automation:
The Search for a Human-Centered Approach (Ma- hwah, N.J.: Lawrence Erlbaum
Associates, 1997); te Raja Parasura- man et al., “A Model for Types and Levels of Human
Interaction with Automation”, IEEE Transactions on Systems, Man, and Cybernetics 30,
br. 3 (2000): 286-297.
279
David B. Kaber et al., “On the Design of Adaptive Automation for Complex Systems”,
International Journal of Cognitive Ergonomics 5, br. 1 (2001): 37-57.
280
Mark W. Scerbo, “Adaptive Automation”, u: Raja Parasuraman i Matthew Rizzo, ur.,
Neuroergonomics: The Brain at Work (New York: Oxford University Press, 2007), 239-
252. Više o tom projektu DAR- PA-e u Mark St. John et al., “Overview of the DARPA
Augmented Cognition Technical Integration Experiment”, International Journal of
Human-Computer Interaction 17, br. 2 (2004): 131-149.
281
Lee, “Human Factors and Ergonomics”.
282
Intervju Raje Parasuramana s autorom, 18. prosinca 2011.
283
Lee, “Human Factors and Ergonomics”.
284
Autorov intervju s Benom Tranelom, voĎen 13. lipnja 2013.
285
Mark D. Gross i Ellen Yi-Luen Do, “Ambiguous Intentions: A Paperlike Interface for
Creative Design”, u Proceedings of the ACM Symposium on User Interface Software and
Technology (New York: ACM, 1996), 183-192.
286
Julie Dorsey et al., “The Mental Canvas: A Tool for Conceptual Architectural Design
and Analysis”, u Proceedings of the Pacific Conference on Computer Graphics and
Applications (2007), 201-210.
287
William Langewiesche, Fly by Wire: The Geese, the Glide, the “Miracle” on the
Hudson (New York: Farrar, Straus & Giroux, 2009), 102.
288
Lee, “Human Factors and Ergonomics”.
289
CBS News, “Faulty Data Misled Pilots in „09 Air France Crash”, 5. srpnja 2012,
cbsnews.com/8301-505263_162-57466644/faulty-data- misled-pilots-in-09-air-france-
crash/.
290
Langewiesche, Fly by Wire, 109.
291
Federal Aviation Administration, “NextGen Air Traffic Control/ Technical Operations
Human Factors (Controller Efficiency & Air Ground Integration) Research and
Development Plan”, prva verzija, travanj 2011.
292
Nathaniel Popper, “Bank Gains by Putting Brakes on Traders”, New York Times, 26.
srpnja 2013.
293
Thomas P. Hughes, “Technological Momentum”, u Merritt Roe Smith i Leo Marx, ur.,
Does Technology Drive History? The Dilemma of Technological Determinism
(Cambridge, Mass.: MIT Press, 1994), 101-113.
294
Gordon Baxter i John Cartlidge, “Flying by the Seat of Their Pants: What Can High
Frequency Trading Learn from Aviation?”, u: G. Brat et al., ur., ATACCS-2013:
Proceedings of the 3rd International Conference on Application and Theory of
Automation in Command and Control Systems (New York: ACM, 2013), 64-73.
295
David F. Noble, Forces of Production: A Social History of Industrial Automation (New
York: Alfred A. Knopf, 1984), 144-145.
296
Ibid., 94.
297
Navedeno u Noble, Forces of Production, 94.
298
Ibid., 326.
299
Taj je komentar Dyson iznio u domentarnom filmu The Day after Trinity (1981).
Navedeno u Bill Joy, “Why the Future Doesn‟t Need Us”, Wired, travanj 2000.
300
Matt Richtel, “A Silicon Valley School That Doesn‟t Compute”, New York Times, 23.
listopada 2011.
301
* Kad kaţem da su kompjuterske igre dobar model za programiranje, ne ţelim reći da
se slaţem s polupopularnom praksom u projektiranju softvera, ruţno nazvanom
“gejmifikacija” ili ludifikacija. Riječ je, naime, o tome da bi aplikacije ili web-stranice
trebale rabiti sustav nagraĎivanja sličan onom u igrama, a kako bi motivirale ljude
(odnosno, ljudima manipulirale) da ponavljaju neku propisanu aktivnost. Nastavljajući se
na eksperimente operantnog uvjetovanja psihologa B. F. Skinnera, ludifikacijom se
iskorištava tamna strana bivanja u stanju toka. Nastojeći zadrţati ugodu i zadovoljstvo
bivanja u stanju toka, ljudi se mogu početi opsesivno sluţiti softverom. Kompjuterizirani
kockarski automati, da se posluţim poznatim i zloglasnim primjerom, pomnjivo su
projektirani za to da potiču igrače na taj adiktivni oblik toka, što opisuje Natasha Dow
Schüll u svojoj jezovitoj knjizi Ovisnost s namjerom: kockanje za automatima u Vegasu
(Addiction by Design: Machine Gambling in Las Vegas. Princeton: Princeton University
Press, 2012). Doţivljaj koji bi u normalnim okolnostima bio “afirmativan, okrepljujuć i
obogaćujući za ţivot”, piše ona, u kockara postaje “iscrpljujuć, prijetvoran i povezan s
gubitkom autonomije”. Čak i kad se rabi s naoko benignim ciljevima, primjerice za
drţanje radi pravilnije prehrane, ludifikacija sa sobom donosi svoju ciničnu moć. Umjesto
da bude protuotrov za projektiranje koje smjera tehnologiji, ona ga naprotiv dovodi do
ekstrema. Kraj toga puta je automatizacija ljudske volje.
302
Peter Merholz, “„Frictionless‟ as an Alternative to „Simplicity‟ in Design”, Adaptive
Path (blog), 21. srpnja 2010, adaptivepath.com/ideas/ friction-as-an-alternative-to-
simplicity-in-design.
303
David J. Hill, “Exclusive Interview with Ray Kurzweil on Future AI Project at
Google”, Singularity HUB, 10. siječnja 2013, singulari- tyhub.com/2013/01/10/exclusive-
interview-with-ray-kurzweil-on- future-ai-project-at-google/.
304
Asimovljeva se pravila robotike, “tri zakona koja su najdublje ugraĎena u pozitronski
mozak robota”, prvi put spominju u njegovoj pripovijetci “Runaround” iz 1942., koja se
moţe pronaći u zbirci /, Robot (New York: Bantam, 2004), 37.
305
Gary Marcus, “Moral Machines”, News Desk (blog), New Yorker, 27. studenog 2012,
newyorker.com/online/blogs/newsdesk/2012/11/ google-driverless-car-morality.html.
306
Charles T. Rubin, “Machine Morality and Human Responsibility”, New Atlantis, ljeto
2011.
307
Christof Heyns, “Report of the Special Rapporteur on Extrajudicial, Summary or
Arbitrary Executions”, za Human Rights Council of the United Nations General
Assembly, 9. travnja 2013, wwAv.ohchr.org/
Documents/HRBodies/HRCouncil/RegularSession/Session23/A- HRC-23-47_en.pdf.
308
Patrick Lin et al., “Autonomous Military Robotics: Risk, Ethics, and Design”, v. 1.0.9,
za U.S. Department of Navy, Office of Naval Research, 20. prosinca 2008.
309
Ibid.
310
Thomas K. Adams, “Future Warfare and the Decline of Human Decisionmaking”,
Parameters, zima 2001-2002.
311
Heyns, “Report of the Special Rapporteur”.
312
Ibid.
313
Joseph Weizenbaum, Computer Power and Human Reason: From Judgment to
Calculation (New York: W. H. Freeman, 1976), 20.
314
Mark Weiser, “The Computer for the 21st Century”, Scientific American, rujan 1991.
315
Mark Weiser i John Seely Brown, “The Coming Age of Calm Technology”, u P. J.
Denning i R. M. Metcalfe, ur., Beyond Calculation: The Next Fifty Years of Computing
(New York: Springer, 1997), 75-86.
316
M. Weiser et al., “The Origins of Ubiquitous Computing Research at PARC in the Late
1980s”, IBM Systems Journal 38, br. 4 (1999): 693-696.
317
V. Nicholas Carr, The Big Switch: Rewiring the World, from Edison to Google (New
York: W. W. Norton, 2008).
318
Thomas P. Hughes, Networks of Power: Electrification in Western Society, 1880-1930
(Baltimore: Johns Hopkins University Press, 1983), 140.
319
W. Brian Arthur, “The Second Economy”, McKinsey Quarterly, listopad 2011.
320
Ibid.
321
Bill Gates, Business @ the Speed of Thought: Using a Digital Nervous System (New
York: Warner Books, 1999), 37. Usp. Poslovanje brzinom misli - uporaba digitalnog
nervnog sistema (Zagreb: Izvori, 1999)
322
Arthur C. Clarke, Profiles of the Future: An Inquiry into the Limits of the Possible
(New York: Harper & Row, 1960), 227. Usp. Profili budućnosti (Zagreb: Stvarnost, 1976)
323
Sergey Brin, “Why Google Glass?”, govor na konferenciji TED2013, Long Beach,
Calif., 27. veljače 2013, youtube.com/watch?v=rie- hPVJ7Sw.
324
Ibid.
325
V. Christopher D. Wickens i Amy L. Alexander, “Attentional Tunneling and Task
Management in Synthetic Vision Displays”, International Journal of Aviation Psychology
19, br. 2 (2009): 182-199.
326
Richard F. Haines, “A Breakdown in Simultaneous Information Processing”, u Gerard
Obrecht i Lawrence W. Stark, ur., Presbyopia Research: From Molecular Biology to
Visual Adaptation (New York: Plenum Press, 1991), 171-176.
327
Daniel J. Simons i Christopher F. Chambris, “Is Google Glass Dangerous?”, New York
Times, 26. svibnja 2013.
328
“Amanda Rosenberg: Google Co-Founder Sergey Brins New Girlfriend?”, Guardian,
30. kolovoza 2013, theguardian.com/technology/short- cuts/2013/aug/30/amanda-
rosenberg-google-sergey-brin-girlfriend.
329
Weiser, “Computer for the 21st Century”.
330
Intervju s Charlieom Roseom, 24. travnja 2012, charlierose.com/ watch/60065884.
331
David Kirkpatrick, The Facebook Effect (New York: Simon & Schuster, 2010), 10.
332
Josh Constine, “Google Unites Gmail and G+ Chat into „Hangouts‟ Cross-Platform
Text and Group Video Messaging App”, TechCrun- ch, 15. svibnja 2013,
techcrunch.com/2013/05/15/google-hangouts- messaging-app/.
333
Larry Greenemeier, “Chipmaker Races to Save Stephen Hawking‟s Speech as His
Condition Deteriorates”, Scientific American, 18. oţujka 2013,
www.scientificamerican.com/article.cfm?id=intel-helps- hawking-communicate.
334
Nick Bilton, “Disruptions: Next Step for Technology Is Becoming the Background”,
New York Times, 1. srpnja 2012, bits.blogs.nytimes. com/2012/07/01/google‟s-project-
glass-lets-technology-slip-into- the-background/.
335
Bruno Latour, “Morality and Technology: The End of the Means”, Theory, Culture and
Society 19 (2002): 247-260. Kurziv je Latourov.
336
Bernhard Seefeld, “Meet the New Google Maps: A Map for Every Person and Place”,
Google Lat Long (blog), 15. svibnja 2013, google- latlong.blogspot.com/2013/05/meet-
new-google-maps-map-for- every.html.
337
Evgeny Morozov, “My Map or Yours?”, Slate, 28. svibnja 2013, slate.
com/articles/technology/future_tense/2013/05/google_maps_per-
sonalization_will_hurt_public_space_and_engagement.html.
338
Kirkpatrick, Facebook Effect, 199.
339
Sebastian Thrun, “Google‟s Driverless Car”, govor na konferenciji TED2011, oţujak
2011, ted.com/talks/sebastian_thrun_google_s_ driverless_car.html.
340
National Safety Council, “Annual Estimate of Cell Phone Crashes 2012”, izvještaj,
2014.
341
V. Sigfried Giedion, Mechanization Takes Command (New York: Oxford University
Press, 1948), 628-712.
342
Langdon Winner, Autonomous Technology: Technics-out-of-Con- trol as a Theme in
Political Thought (Cambridge, Mass.: MIT Press, 1977), 285
343
Navedeno u Richard Poirier, Robert Frost: The Work of Knowing (Stanford, Calif.:
Stanford University Press, 1990), 30. Pojedinosti o Frostovu ţivotu crpio sain iz
Poirierove knjige, te William H. Pritchard, Frost: A Literary Life Reconsidered (New
York: Oxford University Press, 1984); i Jay Parini, Robert Frost: A Life (New York:
Henry Holt, 1999).
344
Navedeno u Poirier, Robert Frost, 30.
345
Robert Frost, “Košnja”, u: The Scent of Apples/Miris jabuka. Prijevod s engleskoga,
bilješke uz pjesme i predgovor Mate Maras. Crteţi Robert Budor. Artresor Naklada,
Zagreb, 2006, 40-41.
346
Robert Frost, “Dvije skitnice u doba blata”, u: The Scent of Apples/ Miris jabuka, 255-
259, prev. Mate Maras.
347
Poirier, Robert Frost, 278.
348
Robert Frost, “Some Science Fiction”, u: In the Clearing (New York: Holt, Rinehart &
Winston, 1962), 89-90.
349
Poirier, Robert Frosty 301.
350
Robert Frost, “Kitty Hawk”, u: In the Clearing, 41-58.
351
Maurice Merleau-Ponty, Phenomenology of Perception (London: Routledge, 2012),
147. Usp. Fenomenologija percepcije (Sarajevo: Veselin Masleša, 1990). Moje čitanje
Merleau-Pontyja oslanja se na komentar Huberta L. Dreyfusa, “The Current Relevance of
Merle- au-Pontys Phenomenology of Embodiment”, Electronic Journal of Analytic
Philosophy 4 (proljeće 1996), ejap.louisiana.edu/ejap/1996. spring/dreyfus.
1996.spring.html.
352
Benedict de Spinoza, Ethics (London: Penguin, 1996), 44. Usp. Etika: dokazana
geometrijskim redom (Zagreb: Demetra, 2000).
353
John Edward Huth, “Losing Our Way in the World”, New York Ti- mes, 21. srpnja
2013. V. takoĎer Huthovu prosvjetljujuću knjigu The Lost Art of Finding Our Way
(Cambridge, Mass.: Harvard University Press, 2013).
354
Merleau-Ponty, Phenomenology of Perception, 148.
355
Ibid., 261.
356
V. Nicholas Carr, Plitko. Što Internet čini našem mozgu (Zagreb: Jesenski i Turk,
2011).
357
Pascal Ravassard et al., “Multisensory Control of Hippocampal Spa- tiotemporal
Selectivity”, Science 340, br. 6138 (2013): 1342-1346.
358
“Living in The Matrix Requires Less Brain Power”, Science Now, 2. svibnja 2013,
news.sciencemag.org/physics/2013/05/living-matrix- requires-less-brain-power.
359
Alfred Korzybski, Science and Sanity: An Introduction to Non-Aristotelian Systems
and General Semantics, 5. izdanje (New York: Institute of General Semantics, 1994), 58.
360
John Dewey, Art as Experience (New York: Perigee Books, 1980), 59.
361
Medco, “Americas State of Mind”, 2011, apps.who.int/medicinedo-
cs/documents/sl9032en/sl9032en.pdf.
362
Erin M. Sullivan et al., “Suicide among Adults Aged 35-64 Years— United States,
1999-2010”, Morbidity and Mortality Weekly Report, 3. svibnja 2013.
363
Alan Schwarz i Sarah Cohen, “A.D.H.D. Seen in 11% of U.S. Children as Diagnoses
Rise”, New York Times, 1. travnja 2013.
364
* Destruktivni potencijal kose stječe to veću simboličku rezonancu kad se prisjetimo da
naziv za orhideju, gomoljastu biljku, potječe od grčke riječi za testis, orkhis. Frost je bio
vrlo dobro upućen u klasične jezike i knjiţevnost. A mora da je znao i za popularnu
prispodobu o sablasnom koscu i njegovoj kosi.
365
Robert Frost, “Stručak cvijeća”, u: The Scent of Apples/Miris jabuka, 45-47, prev.
Mate Maras.
366
V. “Fields of Automation”, Economist, 10. prosinca 2009; i Ian Berry, “Teaching
Drones to Farm”, Wall Street Journal, 20. rujna 2011.
367
Charles A. Lindbergh, The Spirit of St. Louis (New York: Scribner, 2003), 486. Kurziv
je Lindberghov.
368
J. C. R. Licklider, “Man-Computer Symbiosis”, IRE Transactions on Human Factors in
Electronics 1 (oţujak 1960): 4-11.
369
Langdon Winner, Autonomous Technology: Technics-out-of-Con- trol as a Theme in
Political Thought (Cambridge, Mass.: MIT Press, 1977), 20-21.
370
Aristotel, Politika (Zagreb: Hrvatska sveučilišna naklada, 1992), 1332a25, prev.
Tomislav Ladan.
371
Evgeny Morozov, To Save Everything, Click Here: The Folly of Technological
Solutionism (New York: PublicAffairs, 2013), 323.
372
Kevin Kelly, “Better than Human: Why Robots Will - and Must - Take Our Jobs”,
Wired, siječanj 2013.
373
Kevin Drum, “Welcome, Robot Overloads. Please Don‟t Fire Us?”, Mother Jones,
svibanj/lipanj 2013.
374
Karl Marx and Frederich Engels, The Communist Manifesto (New York: Verso, 1998),
43. Usp. Manifest Komunističke partije, Ekono- mija/Economics 15 (3) str. 565-596
(2008).
375
“Slaves to the Smartphone”, Economist, 10. travnja 2012.
376
Kevin Kelly, “What Technology Wants”, Cool Tools, 18. listopada 2010,
kk.org/cooltools/archives/4749.
377
George Packer, “No Death, No Taxes”, New Yorker, 28. studenog 2011.
378
Hannah Arendt, The Human Condition (Chicago: University of Chicago Press, 1998),
4-5. Usp. Vita activa (Zagreb: August Cesarec, 1991).
379
Mihaly Csikszentmihalyi, Flow: The Psychology of Optimal Experience (New York:
Harper, 1991), 80. Usp. Flow. Očaravajuća obuzetost (Zagreb: Slap, 2006).
380
Ralph Waldo Emerson, “The American Scholar”, u: Essays and Lectures (New York:
Library of America, 1983), 57.