You are on page 1of 15

Veľmi sa mi páči tento článok a tak som sa rozhodol ho sem poslať.

Naše najsilnejšie technológie 21. storočia - robotika, genetické inžinierstvo a nanotechnologie -


hrozia spraviť z ľudí ohrozený druh.
Od momentu, keď som sa začal podieľať na tvorbe nových technológií ma začali znepokojovať ich
etické rozmery. Ale bolo to až na jeseň v roku 1998, keď som si s hrôzou uvedomil, aké veľké
nebezpečenstvá nás čakajú v 21. storočí. Začiatok mojich obáv sa datuje ku dnu môjho stretnutia s
Rayom Kurzweilom, zaslúžene slávnym vynálezcom prvého čítacieho stroja pre slepcov a mnohých
ďalších úžasných veci.

Ray i ja sme prednášali na konferencii Telecosm a stretol som ho náhodou pri hotelovom bare po
skončení našich prednášok. Sedel som tam s Johnom Searlem, filozofom z Berkeley študujúcim
vedomie. Zatiaľ čo sme hovorili, prišiel Ray a začal sa rozhovor, ktorého téma ma prenasleduje
dodnes.

Zmeškal som Rayovu prednášku a následný panel s Johnom a Rayom a oni teraz pokračovali presne
tam, kde predtým skončili, keď Ray vyhlásil, že tempo zlepšovania technológií sa bude zvyšovať a
my sa staneme robotmi alebo s nimi splynieme alebo čosi podobne a John kontroval tvrdením, že sa
to nemôže stať, pretože roboti nemôžu nadobudnúť vedomie.
Keď som také reči počul v minulosti, vždy som robotov schopných vnímať považoval za oblasť
science-fiction. Ale teraz som počul od niekoho, koho si vážim, silne argumenty o ich možnej
existencii v blízkej budúcnosti. Bol som šokovaný, berúc do úvahy hlavne Rayovu overenú
schopnosť predstavovať si a tvoriť budúcnosť. Vedel som už, že nove technológie ako genetické
inžinierstvo alebo nanotechnológie nám dávajú silu zmeniť svet, ale realisticky scenár
inteligentných robotov v blízkej budúcnosti ma prekvapil.
Takéto prevratné veci sa veľmi ľahko zunujú. Skoro každý deň počujeme v správach o nejakom
type technologického alebo vedeckého pokroku. Toto však nebola bežná predpoveď. Ray mi dal v
hotelovom bare čiastkový skušobný výtlačok jeho vtedy pripravovanej knihy "The Age of Spiritual
Machines" (Vek strojov s dušou), ktorá načrtávala ním predpovedanu utópiu tu, kde ľudia získali
takmer nesmrteľnosť zjednotením s robotickou technológiou. Pri jej čítaní sa môj pocit nepokoja
ešte zvýšil; bol som si istý, že on musí rozumieť nebezpečenstvám, rozumieť hroziacej možnosti
zlého výsledku na tejto ceste.
Najviac ma znepokojovala pasáž popisujúca dystopicky scenár:
Nová Luddova výzva
(pozn. prekladateľa: Ned Ludd bol jeden z robotníkov, ktorí na začiatku 19. storočia ničili stroje na
spracovanie bavlny, pretože verili, že ich oberú o prácu)
Na začiatok predpokladajme, že počítačoví odborníci uspejú vo vývoji inteligentných strojov, ktoré
budú schopné robiť všetko lepšie ako ľudia. V takom prípade bude všetka práca vykonávaná
obrovskými vysoko organizovanými systémami strojov a ľudská namáha nebude potrebná. Nastane
jedna z dvoch možností. Strojom môže byt dovolene robiť vlastné rozhodnutia bez ľudského
dozoru, alebo sa ľudská kontrola nad strojmi zachová.
Ak sa strojom dovolí robiť vlastné rozhodnutia, nemôžeme robiť žiadne predpovede výsledkov,
pretože je nemožné predpovedať, ako sa také stroje môžu chovať. Poukážeme len na to, že osud
ľudskej rasy bude závisieť na milosrdnosti strojov. Niekto môže tvrdiť, že ľudia nikdy nebudú takí
hlúpi, aby odovzdali všetku moc strojom. Ale my nenaznačujeme, že ľudia dobrovoľne odovzdajú
moc strojom alebo že stroje sa budú usilovať získať nadvládu. To, na čo upozorňujeme, je že
ľudstvo si môže ľahko dovoliť skĺznuť do pozície takej závislosti na strojoch, že nebude mat
prakticky inú možnosť, ako akceptovať všetky rozhodnutia strojov. Ako sa spoločnosť a problémy,
ktorým čelí, stavajú komplexnejšími a stroje sa stavajú inteligentnejšími, ľudia ponechajú stále viac
rozhodnutí strojom, jednoducho preto, lebo rozhodnutia strojov budú prinášať lepšie výsledky ako
ľudské rozhodnutia. Časom sa dospeje do štádia, keď rozhodnutia potrebné na udržanie systému v
chode budú také zložité, že ich lúdia nebudú schopní inteligentne zvládnuť. V tejto situácii budú
mať stroje skutočnú kontrolu. Lúdia nebudú schopní jednoducho stroje vypnúť, pretože budú na
nich tak závislí, že ich vypnutie sa bude rovnať samovražde.
Na druhej strane je možné, že kontrola ľudí nad strojmi sa udrží. V takom prípade môže mat
priemerný človek kontrolu nad niektorými privátnymi strojmi, ako je jeho auto alebo počítač, ale
kontrola veľkých systémov strojov bude v rukách malej elity - tak ako dnes, ale s dvoma rozdielmi.
Vďaka technickým zlepšeniam bude mat elita väčšiu kontrolu nad masami; a pretože ľudská práca
viac nebude potrebná, masy budú nadbytočná a nepotrebná záťaž systému. Ak bude elita
neľútostná, môže sa jednoducho rozhodnúť masy ľudí vyhubiť. Ak bude humánna, môže použiť
propagandu alebo iné psychologické či biologické techniky na redukciu pôrodnosti, pokiaľ sa
ľudstvo početne nepriblíži k vyhynutiu, prenechajúc svet elite. Alebo, ak bude elita zložená z
dobrosrdečných liberálov, môžu sa títo rozhodnúť hrať úlohu dobrých pastierov zvyšku ľudskej
populácie. Dohliadnu na to, aby sa splnili fyzické potreby každého jednotlivca, aby sa všetky deti
vychovávali v psychologicky vyhovujúcom prostredí, aby mal každý užitočné hobby , ktoré ho
zamestnáva a aby každý nespokojný podstúpil liečenie riešiace jeho problém. Samozrejme, život
bude taký bezcieľny, že lúdia budú musieť byt biologicky alebo psychologicky upravení, aby sa
svojej potreby moci buď zbavili alebo ju sublimovali do nejakého neškodného hobby. Tieto
upravene ľudské bytosti môžu byť v takej spoločnosti šťastné, ale určíte nebudú slobodné. Budú
zredukovane na úroveň domácich zvierat.
Pokiaľ v knihe neobrátite stranu, nezistite, že autorom tejto pasáže je Theodore Kaczynski -
Unabomber. Nie som zástancom Kaczynskeho. Jeho bomby počas 17-rocnej teroristickej kampane
zabili troch ľudí a zranili mnoho ďalších. Jedna z jeho bômb vážne zranila môjho priateľa Davida
Gelerntera, jedného z najbrilantnejších a najviac vizionárskych počítačových vedcov súčasnosti.
Ako mnoho mojich kolegov i ja som cítil, že kľudne môžem byť nasledujúcim cieľom
Unabombera.
Kaczynskeho akcie boli vražedné a z môjho pohľadu zločinecký nepríčetné. Je jednoducho
Luddovcom, ale len týmto označením nemôžeme poprieť jeho argumenty; akokoľvek ťažko sa mi
to priznáva, videl som v jeho argumentácii v tejto pasáži určitý zmysel. Cítil som výzvu
vysporiadať sa s tým.
Kaczynskeho dystopicka vízia popisuje nezamýšľané dôsledky, dobre známy problém s návrhom a
používaním technológií, problém jednoznačne súvisiaci s Murphyho zákonom - "Všetko, čo sa
môže pokaziť, sa pokazí". (V skutočnosti je to Finagleho zákon, čo samo o sebe potvrdzuje, že
Finagle mal pravdu). Naše nadmerne užívanie antibiotík viedlo k tomu, čo môže byť doteraz
najväčší z týchto problémov: vznik podstatne nebezpečnejších baktérií rezistentných voči
antibiotikám. Niečo podobné sa prihodilo pri pokuse vyhubiť moskytov prenášajúcich maláriu
pomocou DDT, čo zapríčinilo ich získanie odolnosti voči DDT; paraziti prenášajúci maláriu získali
obdobné gény odolné voči mnohým liekom.
Pôvod mnohých takých prekvapení sa zdá byt jasný: spomínané systémy sú komplexné, zahŕňajúce
spoločnú interakciu a spätnú väzbu medzi mnohými časťami. Akékoľvek zmeny takéhoto systému
sa budú kaskádovité síriť ťažko predvídateľným spôsobom; čo obzvlášť platí ak sú zúčastnené aj
ľudské aktivity.
Zacal som Kaczynskeho uryvok z "The Age of Spiritual Machines" ukazovat svojim priatelom;
podal som im Kurzweilovu knihu, nechal ich precitat uryvok a sledoval ich reakcie, ked zistili, kto
to napisal. Priblizne v tom case som objavil knihu Hansa Moravca "Robot: Mere Machine to
Transcendent Mind" (Robot: Obycajny stroj k Transcendentnej Mysli). Moravec je jeden z vodcov
robotickeho vyskumu a bol zakladatelom najvacsieho vyskumneho robotickeho programu na svete
na Carnegie Mellon University. Robot mi poskytol dalsi material na skusanie na mojich priateloch -
material prekvapujuco podporujuci Kaczynskeho argumety. Napriklad:
Kratkodoby vyhlad (kratko po roku 2000)
Biologicke druhy takmer nikdy nepreziju stretnutie so svojimi lepsimi konkurentmi. Pred desiatimi
milionmi rokov boli Juzna a Severna Amerika rozdelene potopenou Panamskou sijou. Juzna
Amerika, rovnako ako Australia dnes, bola obyvana vackovcami vratane vackovitych ekvivalentov
potkanov, jelenov a tigrov. Ked sa sija spajajuca Severnu a Juznu Ameriku vynorila, trvalo
placentalnym druhom zo Severnej Ameriky s trochu efektivnejsim metabolizmom, rozmnozovacim
a nervovym systemom iba niekolko tisi¬c rok,,v aby nahradili a takmer vyhubili juznych
vackovcov.
V uplne volnom trhovom priestore by schopnejsie roboty posobili na ludi rovnako ako
severoamericke placentovce posobili na juhoamericke vackovce (a ako ludia zaposobili na
nespocetne ine zivocisne druhy). Roboticky priemysel by medzi sebou freneticky sutazil o suroviny,
energiu a priestor, cim by schvalne vyhnal ich ceny mimo dosahu ludi. Neschopni zaobstarat si
zakladne nevyhnutnosti pre zivot, ludia by boli vytlaceni mimo existencie.
Pravdepodobne tu este je nejaky priestor na dychanie, pretoze nezijeme v uplne volnom trhovom
priestore. Vlada si vynucuje netrhove spravanie, obzvlast vyberanim dani. Rozumne aplikovanym
presadzovanim vladnych zasahov je mozne pravdepodobne na dost dlho podporovat ludsku
populaciu vo vysokej urovni na plodoch robotickej prace.
Ucebnicova dystopia - a Moravec sa este len rozbieha. Pokracuje tym, ako nasim hlavnym
zamestnanim v 21. storoci bude "zapezpecit pokracujucu kooperaciu zo stran robotickeho
priemyslu" presadenim zakonov ukladajucich im byt "ustretovi" a popisuje, ako vazna moze byt
hrozba cloveka "po transformacii do neobmedzeneho superinteligentneho robota". Morav si mysli,
ze roboti nad nami casom vyhraju - ludi jednoducho caka vyhynutie.
Rozhodol som sa, ze je cas porozpravat sa s mojim priatelom Danny Hillsom. Danny sa stal znamy
ako spoluzakladatel Thinking Machines Corporation, ktora zostrojila velmi silny paralelny
superpocitac. Napriek mojej sucasnej funkcii sefa vedeckej sekcie vo firme Sun Microsystems som
vacsmi navrhovatel pocitacov ako vedec a respektujem Dannyho znalosti informatiky a fyzikalnych
vied viac ako kohokolvek ineho z ludi, ktorych poznam. Danny je aj vysoko ceneny futurolog,
ktory mysli dlhodobo â€" pred styrmi rokmi zalozil Long Now Foundation, ktora stavia hodiny
navrhnute tak aby pretrvali 10 000 rokov, pokusajuc sa uputat pozornost na polutovaniahodne
kratku casovu dobu, na ktoru sa zameriava nasa spolocnost.
Takze som letel do Los Angeles za jedinym ucelom - povecerat s Dannym a jeho zenou Pati. Presiel
som svoju celu teraz uz familiarnu rutinu, opakujuc tie iste idey a pasaze, ktore som povazoval za
tak znepokojujuce. Dannyho odpoved smerovana rovno na Kurzweilov scenar ludskeho spojenia s
robotmi prisla rychlo a dost ma prekvapila. Jednoducho povedal, ze zmeny pridu postupne a my si
na ne zvykneme.
Myslim, ze zas az tak velmi som prekvapeny nebol. Videl som Dannyho citat v Kurzweilovej knihe,
v ktorom hovoril: "Mam svoje telo rad tak ako ostatni, ale ak by som mohol mat 200 rokov so
silikonovym telom, beriem to." Zdalo sa, ze je s tymto procesom a suvisiacim rizikom zmiereny,
zatial co ja nie.
Pocas rozpravania a rozmyslania o Kurzweilovi, Kaczynskom a Moravcovi som si zrazu spomenul
na roman, ktory som cital takmer pred 20 rokmi, "The While Plague" (Biela Pliaga) od Franka
Herberta, v ktorom sa molekularny biolog zblazni z nezmyselnej vrazdy svojej rodiny. Odplatu chce
dosiahnut vytvorenim a rozsirenim noveho vysoko nakazliveho viru, ktory zabija hromadne, ale
selektivne. (mame stastie, ze Kaczynski bol matematik a nie molekularny biolog.) Tiez mi to
pripomenulo Borgov zo Star Treku, spolocenstvo ciastocne biologickych, ciastocne mechanickych
tvorov so silnym sklonom k destrukcii. Nehody borgovskeho typu su dolezitou sucastou science
fiction, tak preco ma tieto roboticke dystopie neznepokojovali uz skor? Preco neboli ini ludia viac
znepokojeni tymito scenarmi ako z nocnej mory?
Cast odpovede urcite spociva v nasom pristupe k novemu - v sklone mysliet si, ze to uz pozname a
k prijatiu bez otazok. Zvyknuti zit s takmer rutinnymi vedeckymi objavmi, este stale sme
neakceptovali fakt, ze tie najvzrusujucejsie technologie 21. storocia - robotika, geneticke
inzinierstvo a nanotechnologie - prinasaju ine hrozby ako technologie predtym. Konkretne, roboty,
umelo zostrojene organizmy a nanoroboty zdielaju hrozivy amplifikacny faktor: mozu sa replikovat.
Bomba vybuchne iba raz - ale jeden bot sa stane mnohymi a rychlo sa vymkne spod kontroly.
Velka cast mojej prace za poslednych 25 rokov sa tykala pocitacovych sieti, kde sa posielanie a
prijimanie sprav stava prilezitostou na nekontrolovanu replikaciu. Ale pokial replikacia v pocitaci
moze byt na obtiaz, nanajvys odstavi stroj alebo zhodi siet ci sietovu sluzbu, nekontrolovane
mnozenie pri tychto novych technologiach prinasa podstatne vacsie riziko: riziko zavazneho
poskodenia vo fyzickom svete.
Kazda z tychto technologii ponuka nevypovedany slub: Vizia takmer neohranicenej nesmrtelnosti,
ktoru Kurzweil vidi vjeho snoch o robotoch nas vedie vpred; geneticke inzinierstvo moze coskoro
ponuknut lieky, ak nie uplne vyliecenie, pre vacsinu chorob; a nanotechnologie a nanomedicina sa
mozu vysporiadat s dalsimi chorobami. Spolocne mozu vyrazne zvysit nasu priemernu dlzku zivota
a vylepsit zivotnu uroven. Napriek tomu pri kazdej z tychto technologii postupnost malych,
jednotlivo rozumnych vylepseni vedie k akumulacii velkej moci a, neoddelitelne, velkeho
nebezpecenstva.
Co bolo ine v 20. storoci? Zaiste, technologie umoznujuce zbrane hromadneho nicenia (ZHN) -
nuklearne, biologicke a chemicke (NBC) - boli silne a predstavovali ohromne nebezpecenstvo. Ale
postavenie atomovej bomby vyzadovalo, aspon v tom case, pristup k vzacnym - teda, v skutocnosti
nedostupnym materialom a vysoko chranenym informaciam; biologicke a chemicke zbrane mali
taktiez sklon vyzadovat rozsiahle aktivity.
Technologie 21. storocia - genetika, nanotechnologie a robotika (GNR) - su tak mocne, ze mozu
podnietit uplne nove druhy nehod a zneuziti. A co je najnebezpecnejsie, prvykrat su tieto nehody a
zneuzitia siroko dosiahnutelne jednotlivcami alebo malymi skupinami. Velke zariadenia a vzacne
prirodne suroviny na to nie su potrebne. Samotne vedomosti umoznia ich pouzitie.
Preto prichadzaju do uvahy nielen zbrane hromadneho nicenia, ale aj znalostami-umoznene zbrane
hromadneho nicenia, ktorych destruktivnost je vysoko znasobena moznostou replikacie.
Myslim, ze neprehanam, ked poviem, ze sme na prelome dalsieho vylepsenia extremneho zla, zla,
ktoreho moznosti daleko presahuju tie, ktore poskytli narodom a statom zbrane hromadneho
nicenia, na prelome k prekvapujucej a hrozivo zvacsenej moci extremnych jedincov.
Nic ohladom sposobu, akym som sa dostal k pocitacom, nenasvedcovalo, ze sa stretnem s takymito
druhmi problemov.
Moj zivot bol pohanany hlbokou potrebou pytat sa otazky a hladat odpovede. Ked som mal 3 roky,
vedel som uz citat, otec ma vzal do zakladnej skoly, kde som sedel riaditelovi v lone a cital som mu
rozpravky. So skolou som zacal skoro, neskor som vynechal rocnik a utiekol ku kniham, bol som
neuveritelne motivovany k uceniu. Pytal som sa mnozstvo otazok, casto som vyrusoval dospelych.
Ako tinejdzer som sa velmi zaujumal o vedu a techniku. Chcel som byt radioamaterom, ale nemal
som peniaze na kupu vybavenia. Radiostanica bola internetom vtedajsej doby, velmi navykova a
samotarska. Nehladiac na peniaze moja mama sa zatala - nemal som sa stat radioamaterom, uz som
aj tak bol dost introvert.
Mozno som nemal vela blizkych priatelov, ale bol som zaplaveny napadmi. Uz na strednej skole
som objavil velkych autorov science fiction. Specialne si pamatam Heinleinov "Have SpaceSuit
Will Travel" (Mam Skafander Budem Cestovat) a Asimovov "Ja, robot", so svojimi tromi zakonmi
robotiky. Bol som okuzleny opismi cestovania vo vesmire a chcel som mat dalekohlad aby som
pozeral na hviezdy; kedze som nemal peniaze na to aby som si nejaky kupil alebo postavil,
namiesto toho som si pozical z kniznice knihy o robeni dalekohladov a cital o ich zostrojovani.
Lietal som vo svojich predstavach.
Stvrtkove noci travili moji rodicia bowlingom a my deti sme ostavali doma same. V tu noc davali
povodny Star Trek Geneho Roddenberryho a tento serial urobil na mna velky dojem. Zacal som
akceptovat jeho predstavu, ze ludia maju buducnost vo vesmire vo westernovom style s velkymi
hrdinami a dobrodruzstvami. Roddenberryho vizia nasledujucich storoci mala silne moralne
hodnoty, stelesnene v pravidlach ako Zakladne pravidlo: nezasahovat do vyvoja technologicky
menej vyspelych civilizacii. Malo to na mna fantasticky vplyv, eticki ludia, nie roboti, dominovali
tejto buducnosti, a zobral som si Roddenberryho sen za svoj.
Na strednej skole som exceloval z matematiky a ked som odisiel na Michigansku univerzitu ako
student techniky, prihlasil som sa na rozsireny studijny plan z matematiky. Riesenie matematickych
problemov bola vzrusujuca vyzva, ale ked som objavil pocitac, nasiel som nieco ovela
zaujimavejsie, stroj do ktoreho ste mohli vlozit program, ktory sa pokusil vyriesit problem,
nasledne stroj rychlo skontroloval riesenie. Pocitac mal jasno v tom co je spravne a co nie, pravdu a
nepravdu. Boli moje myslienky spravne? Stroj mi to vedel povedat. Bolo to velmi lakave.
Mal som dost stastie ze som ziskal pracu pri programovani prvych superpocitacov a objavil tak
uzasnu silu velkych strojov numericky simulovat pokrocile dizajny. Ked som odisiel na Univerzitu
Kalifornie v Berkeley, v polovici sedemdestiatych rokov, zacal som zostavat dlho hore, casto celu
noc, objavujuc nove svety vo vnutri strojov. Riesiac problemy. Pisuc kod, ktory si silno ziadal byt
napisany.
V "Agonii a Extaze", biografickej poviedke Irvinga Stonea o Michelangelovi, Stone opisal zivo,
ako Michelangelo vypustil sochy z kamena, "prelamujuc kuzlo mramoru", vyrezavajuc z obrazkov
v jeho mysli. V najextazovejsich chvilach sa softver v pocitaci vynaral rovnakym sposobom. Ked
som si ho raz predstavil v mysli, citil som, ze uz je v stroji, cakajuci na vypustenie. Zostat hore celu
noc sa zdalo byt nizkou cenou za vypustenie, za moznost dat myslienkam konkretnu formu.
Po par rokoch na Berkeley som zacal uvolnovat nieco zo softveru co som napisal - instrukcny
Pascalovsky system, Unixove utility a textovy editor nazvany vi (ktory je stale, na moje
prekvapenie, aj po dvadsiatich rokoch velmi pouzivany) - inym, ktori mali podobne PDP-11 a VAX-
ove minipocitace. Tieto dobrodruzstva so softverom sa napokon zmenili na Berkeleyovsku verziu
operacneho systemu UNIX, ktory sa stal mojou osobnou "uspechovou pohromou" - tak vela ludi ho
chcelo, ze som nikdy nedokoncil svoje PhD. Namiesto toho som si nasiel pracu v DARPA a
umiestnil som Berkeley UNIX na Internet a robil som v nom upravy aby bol spolahlivy a aby na
nom dobre fungovali velke vyskumne aplikacie. To vsetko bola skvela zabava a zadostucinenie. A
skutocne, nikde som tu nevidel robotov, ani nikde nablizku.
Aj tak, zaciatkom osemdesiatych rokov som sa topil. Vydania UNIXu boli velmi uspesne a moj
maly projekt na ktorom som robil sam mal coskoro peniaze a nejakych zamestnancov, ale problem
na Berkeley bol skor s priestormi ako s peniazmi - chybalo miesto na kolaboraciu, ktore projekt
potreboval a tak ked sa ukazali zakladatelia Sun Microsystems, skocil som na sancu pridat sa k nim.
V Sune sa dlhe hodiny prace pretavili do zrodu pracovnych stanic a osobnych pocitacov, a tesil som
sa z ucasti na vytvarani vylepsenych mikroprocesorovych technologii a internetovych technologii
ako Java a Jini.
Z tohto vsetkeho je verim jasne, ze nie som Luddovec. Vzdy som mal vcelku silnu vieru v hodnotu
vedeckeho vyskumu a v schopnost techniky priniest skutocny pokrok. Priemyselna revolucia za
poslednych par sto rokov nevycislitelnym sposobom zlepsila zivot kazdemu, a ja som vzdy
ocakaval, ze zapojim svoju karieru do budovania hodnotnych rieseni realnych problemov, jeden po
druhom.
Nebol som sklamany. Moja praca mala vacsi dopad, v aky som dufal a bola vyuzivana viac ako som
si mohol predstavit. Stravil som minimalne 20 rokov tym, ze som sa stale pokusal prist na to, ako
urobit pocitace takymi spolahlivymi ako som chcel aby boli (a ako este stale nie su) a ako ich urobit
uzivatelsky jednoduchymi (ciel, ktory sa stretol s dokonca mensim relativnym uspechom). Napriek
ciastocnemu pokroku sa zdaju byt problemy ktore pretrvavaju este odradzujucejsie.
Ale aj ked som vedel o moralnych dilemach obklopujucich nasledky technologii v oblastiach ako
vyskum zbrani, neocakaval som ze by som sa stretol s takymi problemami v mojom vlastnom
obore, alebo aspon nie tak skoro.
Mozno je vzdy tazke vidiet vacsi vplyv, ked ste vo vire zmien. Nepochopenie dopadov nasich
vynalezov, pokial sme vo vytrzeni z objavovania a inovacii sa zda byt beznou chybou vedcov a
technologov. Dlho sme boli pohanani silnou tuzbou po poznani, ktora je zakladom vedeckeho
badania, vsimajuc si ale, ze vyvoj k novsim a silnejsim technologiam moze ziskat svoj vlastny
zivot.
Davnejsie som si uvedomil, ze velke pokroky v informacnych technologiach nevychadzaju z prace
pocitacovych vedcov, pocitacovych architektov, alebo elektro-inzinierov, ale od fyzikov. Fyzici
Stephen Wolfram a Brosl Hasslacher ma uviedli zaciatkom 80tych rokov do teorie chaosu a
nelinearnych systemov. V 90-tych rokoch, som sa naucil o komplexnych systemoch z konverzacii s
Dannym Hillisom, biologom Stuartom Kauffmanom, laureatom nobelovej ceny fyzik Murray Gell-
Mannom a s dalsimi. V poslednej dobe mi Hasslacher a elektroinzinier a fyzik Mark Reed
poskytuju nahlad do fantastickych moznosti molekularnej elektroniky.
V mojej vlastnej praci, ako dizajner troch architektur mikroprocesorov - SPAR, picoJava a MAJC -
a ako dizajner ich niekolkych implemnentacii, mi bolo dopriane hlboke oboznamenie sa s
Moorovym zakonom priamo z prvej ruky. Pocas desatroci spravne predpovedal Moorov zakon
exponencialny narast rozvoja polovodicovej technologie. Do minuleho roku som veril, ze intenzita
pokroku, predpovedaneho Moorovym zakonom, moze pokracovat zhruba do roku 2010, ked budu
dosiahnute niektore fyzikalne limity. Nebolo pre mna jasne, ze mozu prist nove technologie vcas na
to, aby vyvoj pokracoval hladko dalej.
Ale kvoli nedavnemu rychlemu a radikalnemu vyvoju v molekularnej elektronike - kde jednotlive
atomy a molekuly nahradzaju litograficky kreslene tranzistory - a tiez vdaka pribuznym
nanotechnologiam by sme mali byt schopni udrzat, alebo prekrocit mieru vyvoja Mooroveho
zakona pocas nasledujucich 30 rokov. Do roku 2030 sme pravdepodobne schopni zostrojit stroje
milioonkrat vykonnejsie ako sucasne osobne pocitace - postacujuce na implementaciu snow
Kurzweila a Moravca.
Ked je tato enormna vypoctova sila spojena s pokrokmi vo fyzike a novym, hlbokym pochopenim
genetiky, uvolnuje sa obrovska transformacna sila. Tieto kombinacie otvaraju moznosti na
kompletny redizajn sveta, k lepsiemu alebo k horsiemu: Replikacne a evolucne procesy, ktore boli
uzavrete vo svete prirody, sa cochvila stanu domenou ludskeho snazenia.
Pri vytvarani softveru a mikroprocesorov som nikdy nemal pocit, ze som zostrojoval inteligentny
stroj. Softver a hardver su take krehke a schopnosti strojov "rozmyslat" tak jasne chybaju, dokonca
aj ako moznost, ze sa to vzdy zdalo byt daleko v buducnosti.
Ale teraz, s vyhliadkou vypoctovej sily na ludskej urovni do 30 rokov, sa ponuka nova myslienka:
ze budem moct pracovat na nastrojoch, ktore umoznia vytvorit technologiu, ktora moze nahradit nas
zivocisny druh. Ako sa pri tom citim? Velmi nepohodlne. Celu moju karieru som stravil vytvaranim
spolahlivych softverovych systemov, zda sa mi viac ako pravdepodobne, ze tato buducnost nebude
taka ako si niektori ludia mozu predstavovat. Moja osobna skusenost hovori, ze mame tendenciu
nadhodnocovat nase vyvojarske schopnosti.
Ak zoberieme do uvahy uzasnu silu tychto novych technologii, nemali by sme sa pytat ako s nimi
mozeme co najlepsie koexistovat? A ak je nase vlastne vyhynutie pravdepodobne, alebo dokonca
mozny dosledok nasho technologickeho rozvoja, nemali by sme pokracovat velmi obozretne?
Snom robotiky je, ze najprv: inteligentne stroje urobia za nas vsetku pracu a umoznia nam zit v
pohodli, navratia nas do Edenu. V predoslych uvahach na tuto temu "Darwin Among the
Machines", George Dyson varuje: "V hre zivota a evolucie su traja hraci pri stole: ludske bytosti,
priroda a stroje. Som pevne na strane prirody. Ale obavam sa, ze, priroda, je na strane strojov." Ako
sme mohli vidiet, Moravec s nim suhlasi a veri, ze by sme nemuseli prezit objavenie nadradenych
robotickych druhov.
Kedy najskor by mohol byt taky inteligentny robot postaveny? Prichadzajuci pokrok vo vypocetnej
sile by to mohol umoznit v roku 2030. A ked uz raz bude inteligentny robot existovat, je to uz len
maly krok ku robotiemu druhu - ku rozumnemu robotovi, ktory si moze spravit vyvinutejsiu kopiu
seba sameho.
Druhym snom robotiky je, ze rozsiahle vymenime seba samych nasou robotickou technologiou,
dosiahneme takmer nesmrtelnost uploadovanim nasho vedomia do stroja, toto je proces o ktorom
Danny Hillis mysli, ze si postupne zvykneme a co Ray Kurzweil elegantne popisuje v knihe "The
Age of Spiritual Machines." (Vek duchovnych strojov)
Ale ak sme downloadnuti do nasej technologie, ake mame sance zostat sami sebou? Sance, ze aj po
tom zostaneme sebou, alebo dokonca ludmi? Zda sa mi, ze nasa roboticka existencia nebude ako ta
nasa ludska v nijakom zmysle slova ako to pozname, pretoze roboti nebudu nasimi detmi v ziadnom
zmysle slova, takze na tejto ceste sa nasa ludskost moze dost dobre stratit.
Geneticke inzinierstvo nam slubuje revoluciu v polnohospodarstve zvysenim vynosov obilnin pri
sucasnom znizeni pouzitia pesticidov, slubuje vytvorenie desiatok tisic novych druhov bakterii,
rastlin, virusov a zvierat, slubuje nahradenie rozmozovania klonovanim, slubuje vytvorenie lieciv
pre mnoho chorob, zvysenie dlzky nasho zivota a kvalitu nasho zivota a este omnoho, omnoho viac.
Vieme s urcitostou, ze tieto zasadne zmeny v biologickych vedach su nezvratne a budu menit nase
predstavy o zivote.
Technologie ako klonovanie ludi vzbudili nasu ostrazitost co sa tyka zasadnych etickych a
moralnych problemov ktorym celime. Ak napriklad by sme mali znovu vyvinut ludi na niekolko
samostatnych a nerovnych druhov pouzitim genetickeho inzinierstva, mohli by sme ohrozit princip
rovnosti, ktory je zakladnym kamenom nasej demokracie.
S danou neuveritelnou silou genetickeho inzinierstva nie je ziadnym prekvapenim, ze su s tym
spojene znacne bezpecnostne rizika v jeho pouziti. Moj priatel Amory Lovins spolu s Hunterom
Lovinsom napisali uvodnik, ktory poskytuje ekologicky pohlad na niektore z tychto hrozieb. Medzi
ich obavami je, ze "nove rastlinstvo je vyvijane podla ekonomickych kriterii uspechu, a nie podla
kriteria ich uspesneho vyvoja." Amory sa v svojej dlhej kariere sustredoval na ucinnost premeny
energie a zdrojov pomocou celkoveho pohladu na ludske diela, taky celosystemovy pohlad casto
poskytuje jednoduche, rozumne riesenia k inak zdanlivo zlozitym problemom a da sa uplatnit
taktiez tu.
Po precitani Lovinsovho uvodniku som videl clanok v The New York Times z 19. Novembra 1999 o
geneticky upravenych obilninach, pod titulkom: "Jedlo pre buducnost: Jedneho dna bude mat ryza v
sebe vitamin A. Teda pokial Luddovia nevyhraju."
Su Amory a Hunter Luddovia? Urcite nie. Verim, ze my vsetci budeme suhlasit ze zlata ryza so
"zabudovanym" vitaminom A je mozno dobry napad, ak bude vyvinuta starostlivo a s respektom k
moznym rizikam spojenym s medzidruhovym presuvanim genov.
Uvedomenie si hrozieb spojenych s genetickym inzinierstvom za zvysuje, ako to odraza Lovinsov
uvodnik. Vseobecna verejnost si je vedoma, ze su aj geneticky upravene potraviny a zda sa, ze
odmieta myslienku ze by mohlo byt dovolene predavat ich neoznacene.
Ale geneticke inzinierstvo davno pokrocilo ovela dalej. Ako Lovins poznamenal, USDA povolila uz
asi 50 geneticky upravenych rastlin pre neobmedzene pouzitie a viac ako polovica svetovej
produkcie soje a tretina produkcie kukurice obsahuje geny pridane z inych zivotnych foriem.
Zatial co tu je vela dolezitych problemov, moj osobny hlavny zaujem v genetickom inzinierstve je
uzsi: To, ze dava moc - ci vojensky, nahodne, alebo v teroristickom utoku - vytvorit Biely Mor.
Mnohe divy nanatechnologie boli po prvy krat predstavene laureatom Nobelovej ceny, fyzikom
Richardom Feynmanom v jeho prednaske v roku 1959, a nasledne publikovane pod titulkom
"There's Plenty of Room at the Bottom" ("Tam dolu je vela miesta"). Kniha, ktora na mna urobila
velky dojem v polovici 80. rokov bola "Engines of Creation" (Motory (S)Tvorenia) od Erica
Drexlera, v ktorej krasne popisuje ako narabanie s hmotou na urovni atomov moze vytvorit
utopicku buducnost v prebytku, kde cokolvek moze byt vyrobene lacno a skoro kazda
predstavitelna choroba ci neduh moze byt vyrieseny pouzitim nanotechnologie a umelej
inteligencie. (pozn. prekladatela - na tuto temu tiez viz http://kyberia.sk/id/21862)
Nasledna Drexlerova kniha, na ktorej sa podielal, "Unbounding the Future: The Nanotechnology
Revolution", predstavuje niektore zo zmien, ktore mozu nastat vo svete kde by sme mali
konstrukcne zariadenia na molekularnej urovni. (Zariadenia velkosti molekul, ktore konstruuju na
velkostnej urovni atomov a molekul, nanoboti; nanomravce) Tieto by mohli umoznit ziskavanie
neuveritelne lacnej energie zo slnecneho ziarenia, liecbu rakoviny i bezneho prechladnutia
integrovanim sa s ludskym imunitnym systemom, tiez uplne vycistenie zivotneho prostredia,
neuveritelne nenakladne vreckove superpocitace; v skutocnosti by akakolvek vec bola vyrobitelna
tymito nanomontovacmi (nanobotmi) za cenu nie vacsiu ako drevo, vesmirne lety by boli
dostupnejsie ako dnes su zaoceanske cesty a bolo by mozne obnovit vyhynute druhy. (K
nanobotom: uvazovali sa dve cesty: v HP mali predstavu o "nanomravcoch", ktori budu nosit atomy
sem a tam, z dielne IBM bol realistickejsi navrh, ze nanoboti jednoducho utvoria konstrukciu z
vlastnych tiel. Obidva navrhy sa vhodne doplnaju, pozn. prekl.)
Pamatam si, ze ked som si precital "Engines of Creation", mal som z nanotechnologie dobry pocit.
Ako technologa ma to upokojilo, ze nanotechnologia nam ukazala, ze i nemozny pokrok je mozny a
samozrejme, azda nevyhnutny. Ak nanotechnologia ma byt nasa buducnost, potom sa nebudem citit
pod tlakom riesit tolko problemov v sucasnosti. Casom by som sa dostal do Drexlerovej utopickej
buducnosti a taktiez by som mohol vychutnavat sucasnost tu a teraz. Nemalo zmysel, podla jeho
vizie, byt cele noci stale hore.
Drexlerova vizia mi tiez priniesla vela pobavenia. Prilezitostne popisujem divy nanotechnologie
inym, ktori o nej este nepoculi. Po tom ako som ich provokoval vsetkymi tymi vecami, ktore
Drexler popisoval by som si udelil domacu ulohu v zneni: "Pouzi nanotechnologiu na vytvorenie
upira; za vytvorenie protijedu dostanes body navyse."
S tymito divmi ale prisli aj jasne nebezpecenstva pred ktorymi som bol na pozore. Ako som povedal
na konferencii o nanotechnologii v roku 1989, "Nemozeme jednoducho robit svoju vedu a netrapit
sa etickymi problemami" Ale v naslednej debate s fyzikmi som prisiel k presvedceniu, ze
nanotechnologia dokonca ani nemusi fungovat - alebo prinajmensom, nebude fungovat tak skoro.
Skoro nato som sa prestahoval do Colorada, koli rozbiehajucim sa projektom a sustredil som sa na
softver pre Internet, zvlast na myslienky krore sa neskor stali Javou a Jini.
Potom minule leto mi povedal Brosl Hasslacher, ze nanorozmerova molekularna elektronika je
skutocnostou. To boli nove spravy, prinajmensom pre mna, a myslim ze i pre mnohych inych - a
radikalne to zmenilo moj nazor na nanotechnologiu. Vratil som sa ku knihe Engines of Creation. Po
precitani Drexlerovej prace po viac ako 10 rokoch som bol znemozneny zistenim ako malo som si
pamatal z jeho zdlhavej casti nazvanej "Nebezpecenstva a nadeje", vratane uvahy o tom ako sa
nanotechnologie mozu stat "motormi znicenia". Vlastne, po znovuprecitani tejto varovnej
poznamky som zhrozeny tym ako naivne su niektore z Drexlerovych navrhovanych zabezpeceni a o
kolko viac teraz docenujem hrozby ktore z toho plynu, viac ako vtedy. (Ocakavajuc a popisujuc
mnohe technicke a politicke problemy suvisiace s nanotechnologiou, Drexler koncom 80. rokov
zalozil "Foresight Institute", aby "pomohol pripravit spolocnost pre nadchadzajuce pokrocile
technologie" - a tie najdolezitejsie, nanotechnologie.)
Zlom vo vyvoji nanobotov-montovacov sa zda byt mozny niekedy v buducich dvadsiatich rokoch.
Molekularna elektronika, nove pole nanotechnologii, kde individualne molekuly su suciastkami
obvodov, by mali rychlo dospiet k zrelosti a stat sa mimoriadne lukrativnymi este v tejto dekade, co
by zvysilo investicie do vsetkych nanotechnologii.
Nanestastie, tak ako s jadrovou technologiou, je onmoho lahsie najst destruktivne pouzitie
nanotechnologie ako konstruktivne. Nanotechnologia ma jasne vojenske a teroristicke pouzitie a
nemusis byt ani samovrah na to aby si vypustil nanotechnologicke zariadenie hromadneho nicenia -
take zariadenie moze byt selektivne destruktivne a tak ovplyvni napriklad len urcitu geograficku
oblast, alebo len skupinu ludi, ktori su geneticky odlisni.
Okamzity nasledok bezhlaveho ziskania velkej sily v oblasti nanotechnologie je, ze sa dostavame
do smrtelneho rizika - rizika ze znicime biosferu na ktorej zavisi vsetok zivot.
Ako vysvetlil Drexler:
"Rastliny" s "listami" nie ovela efektivnejsimi ako dnesne solarne panely by mohli vytlacit skutocne
rastliny, mozu zahltit biosferu s nepozivatelnym listim. Odolne, vsezrave "bakterie" by mohli
vytlacit skutocne bakterie: Mohli by sa rozmnozit ako poletujuci pel, rychlo sa replikovat a zmenit
biosferu na prach za niekolko dni. Nebezpecni replikatori by kludne mohli byt prilis silni, mali a
rychlo sa siriaci aby sme ich dokazali zastavit - minimalne bez pripravy. Mame dost starosti s
kontrolou sirenia virusov a polnohospodarskych skodcov.
Medzi odbornikmi na nanotechnologiu sa tato hrozba stala znamou ako "sedy lepkavy problem". Aj
ked masy nekontrolovanych replikatorov nemusia byt sede ani lepkave, vyraz "sedy lepkavy"
zdoraznuje fakt ze replikatory schopne vyhubit zivot mozu byt menej podnetne ako jeden druh
travy. Mozu byt nadradeni v evolucnom zmysle, ale to ich nemusi robit hodnotnejsimi.
Tato hrozba ukazuje na jednu vec: Niektore druhy nehod s replikujucimi-sa nanorobotmi si
nemozeme dovolit.
Vyhubenie zivota nanorobotmi by urcite bol depresivny koniec nasmu ludskemu dobrodruzstvu na
Zemi, daleko horsi ako obycajny ohen alebo lad, a predsa je to koniec, ktory by sa dokazal spustit
jednoduchou laboratornou nehodou. Oops.
Zo vsetkeho najviac je to schopnost destruktivnej samo-replikacie v genetike, nanotechnologii a
robotike (GNR), co by nam mohlo priniest zahubu. Samo-replikacia je modus operandi genetickeho
inzinierstva, ktore pouziva stroje buniek na replikaciu svojich konstrukcii a taktiez je to aj primarne
nebezpecenstvo nanotechnologie. Prihody o unikajucich robotoch v amoku, ako the Borg,
replikujucich alebo mutujucich aby unikli etickym obmedzeniam ktore im nariadili ich tvorcovia, su
v nasich science fiction knihach a filmoch dobre etablovane. Je taktiez mozne, ze samo-replikacia
moze byt fundamentalnejsou ako sme si mysleli a preto tazsou - alebo nemoznou - na ovladanie.
Nedavny clanok od Stuarta Kauffmana v casopise Nature s titulkom "Samo-replikacia: aj peptidy to
zvladaju" diskutuje o objave faktu, ze 32-amino-kyselina dokaze "samokatalyzovat svoju vlastnu
syntezu". Nevieme ako siroko rozsirena je tato vlastnost, ale Kauffman poznamenava ze to moze
naznacit "cestu k samo-reprodukujucim-sa molekularnym systemom na baze sirsej ako Watson-
Crickove parenie".
Skutocnost je taka, ze uz niekolko rokov mame v rukach jasne varovania na nebezpecenstva
vyplyvajuce z hlbokych znalosti GNR technologii - o moznosti ze znalost sama o sebe umozni
hromadne nicenie. Ale tieto varovania neboli verejne publikovane, diskusia vo verejnosti nebola
zdaleka adekvatna nebezpecenstvu. Na publikovani hrozieb nikto nezarobi.
Nuklearne, biologicke a chemicke (NBC) technologie pouzivane v zbraniach hromadneho nicenia
20. storocia boli a su vojenske, vyvinute vo vladnych laboratoriach. V ostrom kontraste, GNR
technologie 21. storocia maju jasne komercne pouzitia a su vyvijane takmer vylucne komercnymi
firmami. V tomto veku triumfalnej komercializacie, technologia - s vedou ako vlastnou sluzkou -
spolu poskytuju seriu takmer magickych vynalezov, ktore su tak fenomenalne a lukrativne ako
nikdy pred tym. Agresivne nasledujeme prisluby tychto novych technologii v ramci momentalne
bezkonkurencneho globalneho kapitalizmu s jeho mnohotvarnymi financnymi motivatormi a
kompetitivnymi tlakmi.
Toto je prvy okamih v dejinach nasej planety, ked sa akykolvek zivocisny druh svojimi vlastnymi
dobrovolnymi skutkami stava nebezpecnym sam sebe - a taktiez obrovskemu mnozstvu ostatnych
druhov.
Moze to byt familiarny postup, prebiehajuci v mnohych svetoch - planeta, novo vytvorena, sa
nerusene toci okolo svojej hviezdy; pomaly sa na nej vytvara zivot; zacne kaleidoskopicky proces
vytvarania bytosti a aspon po nejaky bod vykazuje enormnu hodnotu prezitia; a potom sa vynajdu
technologie. Napadne ich ze su take veci ako zakony Prirody a ze tieto zakony dokazu byt objavene
experimentami a ze znalost tychto zakonov sa da vyuzit aj na vytvaranie aj na branie zivotov, obe v
obrovskych meritkach. Uvedomia si ze veda poskytuje velku silu. Zrazu vytvoria vynalezy meniace
svet. Niektore planetarne civilizacie dokazu pochopit dosledky, daju limity na to co moze byt a co
musi byt spravene a bezpecne pokracuju casom. Ini, nie tak stastni alebo taki uvazlivi, sa zahubia.
Toto pisal Carl Sagan, v roku 1994, v knihe "Bledo Modra Bodka", ktora popisuje jeho vizie
buducnosti ludskej rasy vo vesmire. Az teraz si uvedomujem ake hlboke boli jeho predpovede a ako
velmi mi chyba a bude chybat jeho hlas. Pri vsetkej jeho vyrecnosti, Saganov prispevok je jeden z
mala tych postavenych na zdravom rozume - atribut, ktory spolu so skromnostou, zjavne chyba vela
veducim hlasatelom technologii 21. storocia.
Pamatam si z mojho detstva, ze moja stara mama bola velmi proti nadmernemu uzivaniu antibiotik.
Od obdobia z pred Prvej Svetovej Vojny pracovala ako zdravotna sestra a mala nazor postaveny na
zdravom sedliackom rozume, ze uzivanie antibiotik, pokial to nie je absolutne nevyhnutne, je
skodlive.
Nebolo to tym, ze by bola nepriatelkou pokroku. Pocas svojej takmer 70-rocnej kariery ako
zdravotna sestra videla velky pokrok; moja stara matka, diabeticka, velmi ziskala vdaka
vylepsenym liecebnym proceduram pocas jej zivota. Ale ona by si pravdepodobne myslela, ako vela
priamociaro mysliacich ludi, ze je od nas velmi arogantne ze teraz konstruujeme roboticke bytosti
ktore nas mozu nahradit, aj ked zjavne mame velke problemy dokazat aby relativne jednoduche
veci fungovali, a mame pomerne velke problemy s riadenim - alebo dokonca s chapanim - samych
seba.
Teraz si uvedomujem ze chapala riadenie zivota prirodou a nevyhnutnost zit s tymto poriadkom a
respektovat ho. V tomto smere prichadzame na nevyhnutnu skromnost, ktoru my pri nasom rozbehu
21. storocia nemame a moze nas to ohrozit. Sedliacky rozum je v tomto ohlade casto ten spravny,
predci vedecke dokazy. Jasna krehkost a neefektivnost clovekom-vytvorenych systemov by nam
vsetkym mala dat pauzu na zamyslenie; krehkost systemov na ktorych som ja pracoval ma v
kazdom pripade dost zahanbuje.
Mali sme sa poucit z vyvoja prvej atomovej bomby a naslednych pretekov vo vyrobe zbrani. Vtedy
sme si nepocinali velmi dobre a paralely k nasej terajsej situacii su alarmujuce.
Usilie vyvinut prvu atomovu bombu bolo riadene briliantnym fyzikom J. Robertom
Oppenheimerom. Oppenheimer nemal prirodzeny zaujem o politiku, ale bolestivo si uvedomil to,
co vnimal ako velke nebezpecie Zapadnej civilizacii z Tretej Rise, nebezpecie naozaj smrtelne koli
moznosti ze by Hitler mal k dispozicii jadrove zbrane. Pohanany touto hrozbou, priniesol svoj silny
intelekt, vasen pre fyziku a charizmaticke vodcovske schopnosti do Los Alamos a viedol rychle a
uspesne snazenie pri vyvoji atomovej bomby.
Co je zarazajuce je ako toto usilie prirodzene pokracovalo aj ked bol povodny impulz odstraneny.
Kratko po dobyti Berlina prebehlo stretnutie iniciovane niekolkymi fyzikmi, ktori citili ze by sa
azda mal vyvoj zastavit, Oppenheimer ale argumentoval aby sa pokracovalo. Jeho uvadzany dovod
je tak trochu zvlastny: nie preto lebo by sa bal velkych strat na ludskych zivotoch pri invazii do
Japonska, ale preto ze Organizacia Spojenych Narodov, ktora sa mala coskoro sformovat, by mala
mat znalost o jadrovych zbraniach. Pravdepodobnejsi dovod preco projekt pokracoval je samotne
momentum ktore sa vytvorilo - prvy jadrovy test, Trinity, bol uz velmi blizko.
Vieme ze pri priprve prveho jadroveho pokusu pokracovali fyzici napriek velkemu mnozstvu
moznych nebezpecenstiev. Najprv sa bali, na zaklade vypoctov Edwarda Tellera, ze by mohol
jadrovy vybuch zapalit atmosferu. Revidovane vypocty znizili nebezpecenstvo znicenia sveta na
jednu k trom milionom. (Teller tvrdi ze neskor uplne vylucil moznost zapalenia atmosfery.)
Oppenheimer bol ale dostatocne na pochybach s vysledkom Trinity, ze pripravil na evakuaciu celu
juhozapadnu cast statu Nove Mexiko. A samozrejme este tu bolo zjavne nebezpecenstvo zaciatku
pretekov vo vyrobe jadrovych zbrani.
Necely mesiac od prveho uspesneho testu znicili dve bomby Hirosimu a Nagasaki. Niektori vedci
doporucovali aby sa bomba jednoducho demonstrovala, namiesto toho aby bola zvrhnuta na
Japonske mesta - tvrdili ze by to vo velkej miere zlepsilo sance na kontrolu vyroby zbrani po vojne
- ale nepomohlo to. Tragedia v Pearl Harbor bola stale prilis cerstva v Americkych hlavach, tazko
by prezident Truman nariadoval predvedenie zbrani naproti ich pouzitiu ako to aj spravil - tuzba
ukoncit vojnu a zachranit zivoty ktore by sa inak stratili pri invazii Japonska bola velmi silna.
Je dolezite uvedomit si ako boli po zhodeni bomby na Hirosimu 6. augusta 1945 fyzici sokovani.
Popisuju seriu vln emocii: najprv pocit zadostucinenia ze bomba fungovala, nasledne zdesenie z
obrovskeho mnozstva zabitych ludi a nakoniec presvedcivy pocit ze uz nikdy zo ziadnej priciny by
nemala byt dalsia bomba pouzita. Ale samozrejme dalsia bomba bola zhodena, na Nagasaki, len tri
dni po zhodeni bomby na Hiroshimu.
V Novembri 1945, tri mesiace po atomovych vybuchoch, stal Oppenheimer pevne za vedeckym
postojom, tvrdiac ze "Nie je mozne byt vedcom pokial clovek neveri, ze poznanie sveta a sila ktoru
toto poznanie dava je prirodzena hodnota dana ludstvu a ze by vedec mal tuto hodnotu pouzit na to
aby pomohol rozsirit poznanie a mal by byt ochotny niest dosledky."
Oppenheimer siel pracovat aj s ostanymi na Acheson-Lilienthalovej sprave, ktora, ako povedal
Richard Rhodes v jeho nedavnej knihe "Vizie Technologii", "si nasla sposob ako zabranit tajnym
pretokom vo vyrobe nuklearnych zbrani bez vytvorenia ozbrojenej celosvetovej vlady"; navrhovali
aby sa jednotlive staty zriekli vyroby jadrovych zbrani v prospech medzinarodnej agentury.
Tento navrh viedol k vytvoreniu Baruchovho Planu, ktory sa odovzdal Organizacii Spojenych
Narodov v juni 1946, ale nikdy nebol adoptovany (azda preto, ze ako Rhodes naznacuje, Bernard
Baruch "trval na zaisteni planu klasickymi sankciami" a tym padom ho odsudil na neuspech, aj ked
"aj tak by ho takmer s istotou zavrhlo Stalinove Rusko"). Ine usilia o podporu citlivych krokov voci
internacionalizacii nuklearnej sily a na zabranenie pretekov vo vyvoji zbrani skoncili zle bud koli
politike U.S.A. a vnutornej nedovere, alebo nedovere voci Sovietom. Moznost vyhnut sa pretekam
vo vyvoji zbrani sa stratila a to velmi rychlo.
O dva roky neskor, v roku 1948, Oppenheimer zjavne dosiahol dalsi stupen vo svojom mysleni,
tvrdiac ze "V istom surovom zmysle, ktory ziadna vulgarnost, ziaden humor a ziadne zvelicenie
nedokaze vyhasit, spoznali fyzici hriech; a toto je vedomost ktora ich nemoze opustit."
V roku 1949 testovali Sovieti prvu vlastnu atomovu bombu. Do roku 1955 testovali U.S.A aj
Sovietsky Zvaz vodikove bomby schopne prepravy lietadlom. A tak sa zacali preteky vo vyrobe
jadrovych zbrani.
Pred takmer 20 rokmi, v dokumentarnom filme "Den po Trinity", Freeman Dyson sumarizoval
vedecke postoje, ktore nas priniesli do jadrovej priepasti:
"Aj ja sam som to citil. Lesk jadrovych zbrani. Je to neodolatelne, ked sa k nim dostanete ako
vedec. Citit, ze je to tu vo vasich rukach, uvolnit tuto energiu ktora pohana hviezdy, robit si s nou
podla vole. Robit tieto zazraky, dvihnut milion ton kamenia do oblohy. Je to nieco, co dava ludom
iluziu neobmedzenej sily a to je, svojim sposobom, zodpovedne za vsetky nase problemy - toto, co
sa da nazvat technologickou aroganciou, je nieco co sa zmocni ludi ked vidia co dokazu s ich
myslami."
Teraz, tak ako vtedy, sme tvorcami novych technologii a hviezd predstavovanej buducnosti, hnani -
tentokrat velkymi financnymi odmenami a globalnymi konkurenciami - napriek jasnym
nebezpecenstvam, takmer nepocitame s tym ake to moze byt - skusit zit vo svete ktory je realisticky
vysledok toho co vytvarame a co si predstavujeme.
V roku 1947 zacal davat casopis "Bulletin Jadroveho Vedca" na vrchnu stranku obrazok "Hodiny
oznacujuce Koniec Sveta". Viac ako 50 rokov ukazuje odhad relativnej jadrovej hrozby, reflektujuc
meniace sa medzinarodne podmienky. Rucicky na hodinach sa uz pohli 15 krat a dnes stoja na "o
devat minut dvanast", reflektujuc pokracujuce a realne nebezpecenstvo z jadrovych zbrani.
Nedavny prirastok Indie a Pakistanu do zoznamu jadrovych mocnosti zvysil nebezpecenstvo
zlyhania cielu nesirenia jadrovych zbrani a toto nebezpecenstvo bolo vyjadrene posunom ruciciek
blizsie k dvanastke v roku 1998.
Kolkemu nebezpecenstvu celime v nasej dobe, nielen od jadrovych zbrani, ale od vsetkych tychto
technologii ? Ake vysoke je riziko zahuby ?
Filozof John Leslie studoval tuto otazku a dospel k zaveru ze riziko vyhubenia ludskej rasy je
minimalne 30 percent, kym Ray Kurzweil veri ze mame "viac ako nadpolovicnu sancu prezitia", ale
s namietkou ze "vzdy ma obvinovali z toho ze som optimista." Nielen ze nie su tieto odhady
povzbudzujuce, ale neobsahuju pravdepodobnost moznych hroznych koncov, ktore lezia pobliz
samotneho vyhynutia.
Zoci voci takymto analyzam navrhuju niektori seriozni ludia, aby sme sa jednoducho prestahovali
mimo Zem tak rychlo ako sa to len da. Kolonizovali by sme galaxiu s pouzitim von Neumannovych
sond, ktore skacu z hviezdy na hviezdu, replikujuc sa za chodu. Tento krok bude takmer urcite
nevyhnuty o 5 miliard rokov (alebo aj skor ak bude mat na nas slnecny system znicujuci dopad
hroziaca zrazka nasej galaxie s galaxiou Andromeda do najblizsich 3 miliard rokov), ale ak mame
vziat Kurzweila a Moravca za slovo, moze to byt nevyhnutne uz do polovice tohto storocia.
Ake su tu moralne implikacie ? Ak sa musime rychlo dostat prec zo Zeme aby nas druh prezil, kto
bude akceptovat zodpovednost za osud tych (vlastne vacsiny z nas) ktori tu ostanu ? A aj ked sa
rozptylime medzi hviezdy, nie je pravdepodobne ze si zoberieme svoje problemy so sebou, alebo ze
neskor pridu za nami ? Osud naseho druhu na Zemi a nas osud v galaxii su zjavne neoddelitelne
prepojene.
Dalsi napad je vytvorit seriu ochrannych stitov na obranu pred kazdou z tychto nebezpecnych
technologii. Strategicka Obranna Iniciativa, navrhovana Reaganovou vladou, bol pokus o
vytvorenie takehoto ochranneho stitu proti hrozbe jadroveho utoku zo strany Sovietskeho Zvazu.
Ale ako si vsimol Arthur C. Clarke, ktory bol pri tajnych rokovaniach o tomto projekte, "Aj ked to
moze byt uskutocnitelne, pri obrovskych nakladoch, postavit lokalny obranny system ktory by
pustil 'iba' par percent balistickych rakiet, ponukana myslienka celonarodneho obranneho dazdniku
bola nonsens. Luis Alvarez, azda najvacsi experimentatorsky fyzik tohto storocia mi poznamenal ze
zastancovia takehoto systemu boli 'velmi bystri ludia bez stipky zdraveho rozumu.'".
Clarke pokracoval: "Hladiac do mojej casto zahmlenej krystalovej gule, odhadujem ze totalny
obranny system predsa moze byt mozny, tak o sto rokov. Ale obsiahnuta technologia by vytvorila,
ako bocny produkt, take hrozive zbrane, ze by sa nikto nezapodieval niecim tak primitivnym ako su
balisticke rakety."
V "Motoroch (S)Tvorenia" navrhuje Eric Drexler, aby sme vybudovali aktivny nanotechnicky
ochranny stit - formu imunitneho systemu pre biosferu - aby sme sa ochranili proti nebezpecnym
replikatorom, ktori by mohli uniknut z laboratorii alebo by mohli byt inak zakerne vytvoreni. Ale
stit, ktory navrhuje by sam o sebe bol extremne nebezpecny - nic by neubranilo aby si sam
nevybudoval autoimunne problemy a sam nezautocil na biosferu.
Podobne tazkosti platia pri stavbe ochrannych stitov pred robotickymi a genetickymi
technologiami. Tieto technologie su prilis silne na to aby sa proti nim dal vybudovat ochranny stit;
keby sa aj dali implementovat ochranne stity, bocny efekt ich vyvoja by bol aspon tak nebezpecny,
ako technologie proti ktorym sa snazime ochranit.
Tieto moznosti su preto vsetky bud neziaduce, alebo nedosiahnutelne, alebo oboje. Jedina
realisticka alternativa, ktoru vidim je zrieknutie: obmedzit vyvoj technologii ktore su prilis
nebezpecne, limitovanim nasho pokroku v niektorych oblastiach poznania.
Ano viem, poznanie je dobra vec, tak ako aj hladanie novej pravdy. Hladali sme nove poznatky od
starovekych cias. Aristotel uviedol svoju knihu Metafyzika jednoduchou vetou: "Vsetci maju
prirodzenu potrebu vediet." Odjakziva sme sa zhodli na tom, ze jeden zo zakladnych pilierov nasej
spolocnosti je otvoreny pristup k informaciam a chapem problemy, ktore nastavaju pri pokusoch o
restriktovany pristup k informaciam. V dnesnej dobe sme sa dostali do stavu uctievania vedeckeho
poznania.
Ale napriek silnym historickym precedensom, ak pristup k neobmedzenemu mnozstvu poznatkov
nas vsetkych dostava do zjavneho nebezpecenstva vyhynutia, tak si zdravy rozum vyzaduje aby sme
prehodnotili aj tieto zakladne, dlho zazite presvedcenia.
Bol to Nietzsche, kto nas varoval koncom 19-teho storocia, nielen ze Boh je mrtvy, ale aj ze
"dovera vo vedu, ktora tu nepopieratelne existuje, nemoze dlzit svoj povod verejnej potrebe; musi
pramenit napriek faktu, ze 'umysel pravdy' a 'pravda za kazdu cenu' su zjavne svojou
nebezpecnostou a neprospechom verejnosti." S tymto dalsim nebezpecenstvom sa teraz stretavame
zoci-voci - nasledok naseho patrania po pravde. Pravda ktoru veda hlada moze zaiste byt
nebezpecnou nahradou za Boha ak ma zjavne viest k nasemu vyhynutiu.
Ak by sme sa ako zivocisny druh dokazali dohodnut na tom co chceme a kam smerujeme a preco,
nasa buducnost by bola omnoho menej nebezpecna - potom by sme mohli pochopit coho sa
mozeme a coho sa musime vzdat. Inak si dokazeme celkom lahko predstavit preteky vo vyrobe
zbrani zalozenych na GNR technologiach, tak isto ako to bolo s NBC technologiami v 20-tom
storoci. Toto je azda najvacsi risk, pretoze ak raz taketo preteky nastanu, len velmi tazko sa ukoncia.
Tento krat - na rozdiel od Projektu Manhattan - nie sme vo vojne, nie sme zoci voci neuprosnemu
nepriatelovi, ktory ohrozuje nasu civilizaciu. Sme pohanani nasimi zvykmi, nasimi tuzbami, nasim
ekonomickym systemom a nasou kompetitivnou potrebou novych poznatkov.
Verim ze vsetci si zelame aby nase smerovanie bolo determinovane kolektivnymi hodnotami, etikou
a moralkou. Ak by sme za poslednych niekolko tisic rokov boli ziskali vacsiu kolektivnu
rozvaznost, potom by bol dialog na tuto temu praktickejsi a obrovske sily, ktore coskoro uvolnime
by neboli az takym velkym problemom.
Clovek by si myslel ze k takemuto dialogu budeme vedeni nasim instinktom pre prezitie.
Jednotlivci urcite maju tuto tuzbu, ale z pohladu zivocisneho druhu sa nase chovanie nezda byt v
nas prospech. Ked sme mali docinenia s nuklearnou hrozbou, casto sme medzi sebou hovorili
necestne a tym aj zvysovali risk. Ci to bolo politicky motivovane, alebo ci si sami volime
nerozmyslat nad buducnostou, alebo prave preto ze zoci voci takymto velkym hrozbam koname zo
strachu neracionalne, to neviem, ale nevesti to nic dobre.
Nove Pandorine skrinky genetiky, nanotechnologie a robotiky su takmer otvorene, ale my sme si to
takmer ani nevsimli. Myslienky a napady nedokazeme dat naspat do skrinky; na rozdiel o urania ci
plutonia nemusia byt tazene v baniach ani obohacovane - a mozu byt volne kopirovane. Ked sa raz
dostanu von, budu vonku. Churchill raz poznamenal, v jednom zdanlivom komplimente, ze
Americania a ich vodcovia "vzdy spravia spravne rozhodnutie, po tom ako zvazia vsetky ostatne
alternativy." Ale v tomto pripade musime konat predvidavejsie, kedze spravit spravnu vec po
zvazeni vsetkych ostatnych alternativ moze znamenat uplne prist o sancu vobec to spravit.
Ako povedal Thoreau,"My nejazdime na zeleznici, ona jazdi na nas"; a to je to s cim musime v tejto
dobe bojovat. Otazka znie: Kto tu bude panom? Prezijeme nase technologie?
Do tohto noveho storocia sme pohanani bez planu, bez ovladania, bez brzd. Klesli sme uz natolko
aby sme nemohli zmenit smer? Nie, tomu neverim, este sa ani nepokusame a posledna moznost
ziskat kontrolu sa rychlo blizi. Mame nasich prvych "domacich" robotov, rovnako ako komercne
ponukanu technologiu genoveho inzinierstva a nase nanotechnologie sa rapidne vyvijaju. Pokial sa
vyvoj tychto technologii prevadza v niekolkych krokoch, nie je to prave pripad ked - ako sa stalo v
Projekte Manhattan a v teste Trinity - sa posledny krok dokazovania technologie ukazal byt prilis
tazky a zlozity. Prielom k divokemu samo-rozmnozovaniu v robotike, genovom inzinierstve, alebo
nanotechnologii by mohol prist neocakavane - zrazu, zopakujuc nam prekvapenie, ktore sme citili
vtedy ked sme sa dozvedeli o prvom klonovani cicavcov.
Avsak este stale verim ze mame pevny dovod na nadej. Nase pokusy vysporiadat sa so zbranami
hromadneho nicenia v minulom storoci poskytuju ziarivy priklad zrieknutia sa, ktory by sme mali
zvazit: jednostranne zastavenie vyvoja biologickych zbrani zo strany Spojenych Statov Americkych
bez akychkolvek podmienok. Takyto krok vyplyvajuci z poznania ze na vyrobu tychto hroznych
zbrani by bolo potrebne velke usilie, ale ked uz by raz boli vyvinute - mohli by byt velmi lahko
duplikovatelne a padnut do ruk nejakemu "darebackemu" statu, alebo nejakej teroristickej
organizacii.
Jasny zaver bol, ze by sme vytvorili dodatocne hrozby sami sebe ak by sme pokracovali vo vyvoji
tychto zbrani a ze by bolo bezpecnejsie ak nebudeme pokracovat v ich vyvoji. V roku 1972 sme
vyjadrili svoje vzdanie sa vyvoja biologickych zbrani v Dohode o Biologickych Zbraniach (DBZ) a
v roku 1993 na Chemical Weapons Convention (CWC).
Co sa tyka pokracujucej hrozby z jadrovych zbrani, s ktorymi zijeme viac nez 50 rokov, zamietnutie
Dohody o Vseobecnom Zakaze Jadrovych Testov americkym senatom poukazuje na to, ze nebude
politicky lahke tychto zbrani sa vzdat. Skoncenim studenej vojny ale mame teraz jedinecnu moznost
odvratit viac-stranne preteky v zbrojeni. Stavajuc na CWC a DBZ - vzdani sa biologickych zbrani -
by sme mohli nasledne zakazat jadrove zbrane a dostat sa tak do zvyku zakazovat a opustat
nebezpecne technologie. (Vlastne tym, ze sa celosvetove zbavime vsetkych okrem 100 nuklearnych
zbrani - co je priblizne niciva sila II. svetovej vojny a znacne lahsia uloha - by sme mohli
eliminovat hrozbu vlastnej zahuby.)
Overovanie tychto "ustupkov" bude zlozita, avsak nie nemozna uloha. Mame stastie ze sme urobili
dostatocne relevantnu cast prace uz len samotnym kontextom DBZ a jej podobnych dohod. Nasou
hlavnou ulohou bude aplikovat to na technologie viac komercne ako vojenske. Je tu vsak solidna
potreba pre priehladnost, kedze obtiaznost overovania je priamo umerna obtiaznosti v rozlisovani
zakazanych aktivit od legitimnych.
Uprimne verim ze situacia v roku 1945 bola jednoduchsia ako ta ktorej celime teraz. Nuklearne
technologie boli primerane rozdelitelne medzi komercne a vojenske pouzitie a monitorovanie bolo
zjednodusene uz len samotnou povahou nuklearnych testov a zaroven jednoduchostou ktorou sa
dala merat radiacia. Vyskum pre vojenske ucely sa robil v narodnych vyskumnych laboratoriach ako
Los Alamos, s vysledkami utajovanymi tak dlho, ako to bolo mozne.
GNR technologie sa jasne nerozdeluju na komercne a vojenske pouzitie, ak zoberieme do uvahy ich
potencial na trhu, je tazke predstavit si, ze by sa vyvijali len v statnych laboratoriach. Pri ich sirsie
rozsirenom komercnom vyskume by si overovanie dodrziavania predpisanych limitov vyzadovalo
system verifikacii podobny tomu s biologickymi zbranami, ale na radovo vacsej skale. Toto
nevyhnutne zvysi napatie medzi nasim individualnym sukromim a tuzbou mat proprietarne
informacie, a potrebou nutnosti overovania koli ochrane nas vsetkych. Nepochybne narazime na
silny odpor voci tejto strate sukromia a slobody konania.
Overovanie vzdavania sa konkretnych GNR techologii sa bude musiet odohravat tak v
kyberpriestore, ako aj vo fyzickych priestoroch a zariadeniach. Zavazny problem bude zabezpecit
nevyhnutnu transparentnost vo svete proprietarnych informacii, pravdepodobne poskytovanim
novych foriem ochrany dusevneho vlastnictva.
Overenie vhodnosti bude teda vyzadovat od vedcov a inzinierov osvojenie si silneho kodexu
etickeho konania, podobnemu Hypokratovej prisahe, tak aby mali odvahu udat, ked to bude
nevyhnutne, hoci aj za cenu vysokych osobnych obeti. To by mohla byt odpoved na vyzvy - 50
rokov po Hiroshime - laureata Nobelovej ceny Hansa Betheho, jedneho z najstarsich zijucich clenov
Manhattanskeho Projektu, aby vsetci vsetci vedci "zastavili a zanechali pracu na tvorbe, vyvoji,
vylepsovani a vyrobe nuklearnych zbrani a inych zbrani hromadneho nicenia." V 21. storoci si to
vyzaduje bdelost a osobnu zotpovednost tych, ktori by mohli pracovat na NBC a GNR
technologiach, aby sa vyhli vytvoreniu zbrani hromadneho nicenia a znalostiam umoznujucich
hromadne nicenie.
Thoreau tiez povedal, ze budeme "mat velke mnozstvo myslienok, od ktorych budeme musiet
upustit." My vsetci hladame stastie, ale uzitocne by bolo pytat sa, ci potrebujeme podstupit take
vysoke riziko uplneho znicenia, aby sme ziskali este viac vedomosti a este viac veci; sedliacky
rozum vravi, ze je urcita hranica nasich materialnych potrieb - ze iste vedomosti su prilis
nebezpecne a je najlepsie zrieknut sa ich.
Nemali by sme sa vyvijat na hranicu blizku nesmrtelnosti bez toho, aby sme zvazili cenu takehoto
pocinu, bez zvazenia priamo umerneho narastu rizika vyhubenia. Nesmrtelnost, pravdepodobne
najoriginalnejsi, no isto nie jediny mozny utopisticky sen.
Nedavno som mal stastie stretnut vynimocneho autora a ucenca Jacquesa Attaliho, ktoreho kniha
"Lignes d'horizons", Millenium v anglickom preklade ( pozn.prekladatela: viem po francuzky len
sproste slova,ale aj tak sa mi zda, ze to znamena Hranica horizontu :) pomohla inspirovat pristup
Javy a Jini do sveta vypoctoveho prostredia, ako to on popisal v spominanom diele. V jeho novej
knihe "Fraternites", Attali opisuje ako sa nase utopisticke sny za ten cas zmenili:
"Na usvite spolocnosti, ludia videli ich cestu na Zemi ako nic ine nez labyrint bolesti, na konci
ktoreho stali dvere veduce cez ich smrt do spolocnosti bohov a k Vecnosti. Pocnuc Hebrejcami a
potom Grekmi, niektori ludia sa odvazili oslobodit od nabozenskych prikazani a sna o Mieste kde
Sloboda moze prekvitat. Ini, vsimajuc si vyvoj trhovej spolocnosti, pochopili, ze sloboda niektorych
ma za nasledok odcudzenie od ostatnych, a oni hladali rovnost."
Jacques mi pomohol pochopit ako tieto tri rozdielne utopisticke ciele existuju aj v dnesnej
spolocnosti, avsak v urcitom napati. Pokracuje opisom stvrtej utopie, Bratstva, ktora je zalozena na
altruizme. Bratstvo ako take zdruzuje individualne stastie so stastim ostatnych, dovolujuc prislub
sebestacnosti.
To mi ujasnilo moj problem s Kurzweilovym snom. Technologicky pristup k Vecnosti - blizko
nesmrtelnosti s pomocou robotiky - nemusi byt najziadanejsou utopiou, a jej vyvoj prinasa jasne
nebezpecenstva. Mozno by sme si mali premysliet nase utopisticke volby.
Kde mozeme hladat nove eticke zaklady na vytycenie nasho smerovania? Velmi napomocne boli
myslienky, ktore som nasiel v knihe "Ethics for the New Millennium" (Etika pre Nove Milenium),
ktoru napisal Dalai Lama. Ako je vo vseobecnosti zname - avsak venuje sa tomu malo pozornosti -
Dalai Lama argumentuje, ze najdolezitesia vec pre nas je viest nase zivoty s laskou a zmilovanim a
to, ze nasa spolocnosti si potrebuje vyvinut silnejsiu predstavu o vseobecnej zotpovednosti a o nasej
vzajomnej zavislosti; predklada standard pozitivneho etickeho vedenia pre jednotlivca a spolocnost,
ktory ako sa zda, suhlasi s Attaliho utopiou Bratstva.
Dalai Lama dalej hovori o tom, ze musime pochopit, co robi na svete ludi stastnymi, a priznat silu
dokazu, ze ani materialny vyvoj, ani nahananie sa za silou vedomosti, nie je klucom, ze su tu iste
hranice toho co moze veda a vedecke badanie same dokazat.
Nasa zapadna predstava o stasti sa zda pochadza od Grekov, ktori ju definovali ako "pouzitie
vitalnych sil pozdlz hranic dokonalosti, doprajuc im priestor".
Tagy: budúcnosť ľudia nepotrebný