Mladen Vukmir jedan je od najpoznatijih domaih pravnih strunjaka za

podruje autorskih prava i intelektualnog vlasnitva. No takoer je vrlo dobro

upoznat s razvojem tehnologija i utjecajem koji ti procesi imaju na pojedince i
drutvo.

Na tu e temu odrati i zanimljivo predavanje tijekom nadolazee konferencije

Mobility Day u Zagrebu 29. rujna, a mi smo to iskoristili kao povod za razgovor.

ini se kako ni pravna brana nee ostati poteena u irenju

automatizacije i robotizacije. Automatizacija dugotrajnih i zamornih
poslova svakako je poeljna, ali koliko daleko moemo i trebamo ii?
Hoemo li doista u ne tako dalekoj budunosti imati robote za
odvjetnike? Gdje povui granicu?

Potpuno ste u pravu, niti jedna brana nee biti zaobiena promjenama koje
donose, izmeu ostalih, robotizacija i automatizacija. U prolosti se smatralo da u
umnim djelatnostima, kao to je to pravna profesija, nee biti mogue ni lako
zamijeniti profesionalce automatima.

Meutim, to se sada upravo dogaa, prvenstveno zahvaljujui uvoenju

tehnologija zasnovanih na umjetnoj inteligenciji (artificial intelligence, AI) i novim
pristupima u okviru AI tehnologije kao to su to dubinske (deep learning) i ostale
varijante strojnog uenja.

Pri tome treba razumjeti da umjetna inteligencija za sada pogoduje zamjeni samo
repetitivnih, rutinskih poslova, a u onima u kojima je potreban kreativni,
nestandardni pristup za sada nema uspjeha.
Danas se stoga smatra da u procesu nadomjetanja ljudi tehnologijom nee biti
poteene ni manualne ni umne djelatnosti, nego e tehnologija AI zamijeniti
jednako rutinske poslove kako u umnim, tako i u manualnim djelatnostima, dok
e nestandardne djelatnosti kako umne, tako i manualne, za sada biti poteene.

Povijesno gledano, napredak tehnologija uglavnom nije mogue zaustaviti i naa

civilizacija ima tendenciju usvajanja promjena. Ljudi taj proces pokreu svojom
sposobnou inovacije, ali posljedice promjena izazvanih tim inovacijama esto
inicijalno proizvode ljudske strahove i bojazni. Te bojazni nisu uvijek utemeljene
na razumu i analiza promjena esto je obojena strahovima.

Jedan takav tipini strah jest da e tehnologija nadomjestiti ljude, najbanalnije u

smislu uzimanja radnih mjesta. Pokazalo se ipak, ako se danas uope moemo
pouzdati u prola iskustva, da pojave novih tehnologija, iako doista dovode do
ukidanja radnih mjesta, istovremeno stvaraju jo vei broj novih radnih mjesta,
na poslovima koje uope nije bilo mogue zamisliti na osnovi odbaenih
tehnologija.

Stoga bi bilo pravilnije pitati se ne hoemo li imati robote za odvjetnike, nego

hoemo li eljeti odvjetnike takve kakve danas poznajemo, koja e biti uloga
pravnika i to e te velike promjene donijeti u smislu promjena pravnog sustava.
Zbog ega bi odvjetniki ured trebao zaposliti robota? Gdje vidite
najvee potrebe i mogunosti primjene?
Roboti nisu nuno ono to smo pod tim nazivom zamiljali u doba sci-fi romana
Arthura C. Clarkea, nego ih je moda bolje opisati kao softverske
automatizirane procese svojstvene ljudskoj interakciji. Primjerice, rijetko e se tko
odluiti bankomat nazvati robotom iako je upravo ta sprega softvera i hardvera
nadomjestila bankovne inovnike.

Dakle, na nain na koji je bankomat robot doivjet emo i mnoge druge

automatizacije procesa ljudske interakcije, pa e tako i pravni procesi postati
automatizirani. Velik dio tih procesa odvijat e se u internetskom oblaku u obliku
softvera kao usluge i njihovi 'mehanizmi' nee u cijelosti biti vidljivi korisnicima.

Pretpostavljam da e svakodnevne transakcije kao to je to npr. kupoprodaja biti

tako automatizirane kao softverske usluge bazirane u oblaku i siguran sam da e
one biti preciznije i sofisticiranije nego to je to ispunjavanje obrazaca
kupoprodajnih ugovora za vozila ili nekretnine kupljenih u Narodnim novinama.
Dakle, prvo e roboti nadomjestiti postojee servise kao to su to Narodne
novine, jer se koriste u najjednostavnijim standardiziranim transakcijama, a tek
potom kompleksnije transakcije koje imaju manje elemenata rutine. To znai da
e standardni, repetitivni i ponovljivi procesi biti meu prvim kandidatima za
automatizaciju.

Kao primjer mogao bih navesti moda meni vrlo drag pravni proces, a to je
odluivanje u sporovima o domenskim imenima UDRP (Uniform Dispute
Resolution Policy). U toj tzv. upravnoj kvaziarbitrai broj pravnih elemenata o
kojima se odluuje potpuno je standardiziran i pojednostavljen. Mogu zamisliti da
taj proces bude u budunosti automatski, voen umjetnom inteligencijom.

Pretpostavimo kako e u nekom trenutku ljude u odvjetnikim uredima

doista zamijeniti roboti. to smatrate najveim izazovima i rizicima u
pravnoj i drutvenoj regulaciji takvog poslovanja? Kako ih savladati ili
izbjei?

Ne vjerujem da e zamjena ljudi robotima biti sveobuhvatna i linearna. Neke e

radnje raditi roboti, a neke radnje e vjerojatno raditi i roboti i ljudi. Ako se
vratimo poslovanju bankomata, u prvim godinama njihovog rada uvijek smo se
bojali ili nadali da e oni pogrijeiti te nam isplatiti vie ili manje od
proknjienoga. To se nije dogaalo jer u mnogim djelatnostima strojevi rade
preciznije od ljudi.

Slino e izgledati i izrada ugovora putem ekspertnih sustava, ali to ne znai da

nee biti potrebno imati savjetnika koji na temelju svojega ljudskog iskustva moe
oblikovati pravilan input za ekspertni sustav.

Pravna regulacija automatiziranih sustava na odreeni je na nain jednostavnija

od regulacija ljudskih postupaka. Naime, proizvoa e ostati odgovoran, ali e on
zbog ponovljivosti i rutine poslova koje obavljaju njegovi ekspertni sustavi imati
tu korist da moe ispraviti nedostatke uz malo pogreaka.
Zamislite usporedbu s moralnom dilemom koja se javlja s pojavom autonomnih
vozila. Mnogi se ljudi boje scenarija u kojem vozilo u kojem se vozite odlui
umjesto vas, na temelju programerskih uputa, da u cilju spaavanja ivota osobe
za koju je ocijenilo da je dijete koje je upravo ispred vas istralo na ulicu, skrene
sa sigurne putanje uz rizik da nakodi ili ubije vlastite putnike umjesto da pregazi
osobu koju je detektiralo.
Pitanje koje se postavlja jest: je li moralnije da se ovaj scenarij doista dopusti uz
uvjet da uvoenje autonomnih vozila dovede do znaajnog poveanja sigurnosti u
prometu i smanjenja nesrea sa smrtnim posljedicama?

Drugim rijeima, biste li se opredijelili za rizik gubitka kontrole nad tehnologijom i

time prihvatili eliminaciju brojnih ljudskih greaka koje dovode do velikog
svakodnevnog gubitka ljudskih ivota ako bi tehnologija koja vas moe ubiti
dramatino poveala sigurnost prometa i smanjila smrtnost u prometu?

Mislim da ovaj izotreni primjer moe posluiti kao ilustracija dilema s kojima se
moramo suoiti prilikom uvoenja novih tehnologija.

Proces pojave i uvoenja novih tehnologija ve je sada tako brz da se mnogi

pojedinci osjeaju nelagodno i faktiki se izbjegavaju suoiti s puninom nastalih
promjena. Kako bi olakali osjeaj nelagode uslijed gubitka kontrole, mnogi guraju
stvarni stupanj promjena u podsvijest i odbijaju se suoiti s dilemama koje su ve
nastale te time oteavaju prilagoavanje drutvene zajednice novonastalim
promjenama.

Upravo u tome segmentu vidi se nefunkcionalnost sustava upravljanja modernim

drutvima i neadekvatnost mnogih modernih politiara koji nastoje tim procesima
upravljati bez ikakve vizije.

Oito je stoga da moramo uloiti velike napore u promjeni sustava obrazovanja i

upravljanja drutvima kako bismo se u stvarnom vremenu suoili s promjenama i
dilemama koje one donose.

Drugim rijeima, ovjeanstvo danas doista ima potrebu, ali i mogunost na bazi
znanja upravljati procesima na nain na koji to nikada nije moglo u vlastitoj
prolosti. Naravno, tu veliku ulogu ima umjetna inteligencija. Upravo stoga
promjene koje e uslijediti bit e vee nego ikada u povijesti ovjeanstva.
Koja su kljuna pitanja na koja e ljudska zajednica morati pronai
odgovore prije no to stupi u doba umjetnih superinteligencija?

Bez ikakve dvojbe radi se na prvom mjestu o etikim i moralnim pitanjima te ulozi
i odnosima drutva, pojedinaca i institucija u kontekstu radikalno razliitih
tehnolokih pojava i redefinirane moi pojedinca.

Stare navike traenja odgovora u prolosti velika su prijetnja i znaajno

usporavaju donoenje adekvatnih novih rjeenja koja su potrebna da naa
drutva nastave funkcionirati bez veih potresa.

Opasnost gledanja u prolost lei u tome to u situaciji disruptivnih promjena

tehnolokih, poslovnih i drutvenih modela analogije s prolim razvojem nisu
uvijek odgovarajue i mogu koji put biti posve pogrene.
Stoga je potrebno sustavom odgoja stvoriti pojedince koji e biti u stanju gledati
unaprijed na kreativan nain i istovremeno moi traiti najljudskije odgovore koji
se mogu dati u situacijama to nisu zasnovane na ljudskom iskustvu.

Zanimljiv klip:
https://www.youtube.com/watch?v=7Pq-S557XQU