Počela je ‘zora‘ digitalnih klonova: Evo za što sve više

nećemo trebati ljude

jutarnji.hr/life/znanost/pocela-je-zora-digitalnih-klonova-evo-za-sto-sve-vise-necemo-trebati-ljude-15056153

8. ožujka 2021.

Sama tehnologija je sve bolja, a sve veći broj tvrtki smišlja nove i kreativne načine kako
zaraditi na njoj

Tehnologija “deepfake” videa, koja je u svojim ranim stadijima došla na zao glas zbog
korištenja u pornografskim snimkama, na pravom je putu da postane sveprisutna
komercijalna tehnologija koja bi mnoge ljude mogla ostaviti bez posla.

Prije koji mjesec, poznata južnokorejska voditeljica vijesti Kim Joo-Ha pojavila se na
kanalu MBN i čitala listu naslova dnevnih vijesti. Bio je to ni po čemu poseban prizor,
osim što Kim Joo-Ha uopće nije bila u studiju, pa čak ni pred kamerama. Na televiziji se
pojavio njezin digitalni klon, računalno generirana kopija koja je što je vjernije moguće
imitirala njezin glas, govor tijela i izraze lica.

Nije se radilo o prevari gledatelja - pojavljivanje njezine kopije bilo je unaprijed najavljeno
- no reakcije su bile dosta podijeljene. Dok su se jedni divili koliko je njezin digitalni klon
bio uvjerljiv, drugi su se brinuli da bi mogla uskoro ostati bez posla.

Njezinog je klona razvila južnokorejska tvrtka Moneybrain, koja sada nudi istu
tehnologiju drugim medijskim tvrtkama u Kini i SAD-u, dok je kanal MBN najavio kako
će digitalnu verziju Kim Joo-Ha i dalje koristiti kada se pojave izvanredne vijesti, na koje
će biti teško drugačije brzo reagirati.

Evolucija neuralnih mreža

Tehnologija “deepfake-a” nastala je kao evolucija modernih neuralnih mreža, u kojima je
specijalizirana umjetna inteligencija pokušavala što je uvjerljivije mogla zamijeniti
postojeće lice na nekoj snimci s nekim drugim, zadanim licem. Za tu je svrhu trebala sate i
sate “treniranja”, te što je veći mogući uzorak različitih fotografija i snimaka zadanog lica.

Pojedine verzije te tehnologije, bazirane na “open source” rješenjima - dakle programima

koje bilo tko može preuzeti i dalje razvijati - počele su se koristiti kako bi se na
pornografske snimke montirala lica poznatih glumica i pjevačica, što je smjesta podiglo
brojna etička pitanja oko nove tehnologije.

Brojne popularne pornografske platforme zabranile su deepfake pornografiju, a društvena

mreža Reddit ugasila je svoje podsekcije posvećene deepfake pornografiji. Jedno se
vrijeme vodila i debata o opasnosti takve tehnologije po demokraciju - političare bi se,
tvrdilo se, lako moglo inkriminirati deepfake snimkama, dok bi se s druge strane svaki
dužnosnik uhvaćen u nezakonitom ili nemoralnom ponašanju mogao braniti da je riječ o
lažnoj snimci.

1/3
Dvojica umjetnika i aktivista napravili su prije dvije godine uvjerljivu lažnu snimku
osnivača Facebooka Marka Zuckerberga, kako bi testirali Facebookov kontroverzni
stav spram takvih snimaka. No, za sada nije došlo do velikih političkih ili komercijalnih
skandala ili pomaka zbog te tehnologije.

U zadnjih par godina počeli su je sve više koristiti filmski studiji, poput umetanja lažnih
snimki mlade Carrie Fisher u filmu Star Wars: Rogue One, u kojem se na isti način
pojavio i preminuli Peter Cushing. U finalu druge sezone popularne Disneyeve serije
Mandalorian, pojavio se na sličan način podmlađeni Mark Hamill.

"Sintetički mediji"
Firme koje razvijaju ovu modernu tehnologiju sve više izbjegavaju termin “deepfake” -
koji sa sobom nosi negativne konotacije - i okreću se alternativnom brendiranju,
nazivajući ih AI-generiranim videima ili sintetičkim medijima.

Uz napredovanje generativnih neuralnih mreža koje su u stanju izraditi uvjerljive

fotografije ljudi iz ničega - ljudi koji uopće ne postoje - za sintetičke medije više nisu
potrebni ni stvarni modeli, ljudi koji bi poslužili kao uzori. Time se eliminiraju brojni
etički problemi, pitanja autorskih prava, ali i velik dio logističkih troškova potrebnih za
organiziranje setova, snimatelja, redatelja, cjelodnevnih snimanja i svog dodatnog osoblja
potrebno za takav pothvat.

Tvrtka Synthesia iz Londona počela je tako nuditi virtualne trenere tvrtkama koje žele
raditi video-uputstva za trening svojih djelatnika. Korisnici mogu izabrati “avatar” po volji
- lik trenera - potom odaberu jezik na kojem će držati trening, a potom i unesu riječi koje
trener treba prenijeti.

“Zamislite da imate 3.000 skladištara u sjevernoj Americi,” kazao je za BBC osnivač tvrtke
Victor Riparbelli. “Neki od njih znaju engleski, no nekima možda bolje ide španjolski.
Ako im morate prenijeti složene informacije, nekakav PDF na četiri stranice nije idealan
način. Puno bolje bi bilo da napravite video od dvije do tri minute, na engleskom i na
španjolskom.”

“Ako biste ih morali snimiti, to je ogroman posao. Sada vam mi to možemo učiniti za
nisku cijenu produkcije, i onoliko vremena koliko će trebati nekome da napiše sinopsis,”
kazao je Riparbelli.

Virtualni glumci su idući korak?

Sama tehnologija je sve bolja, a sve veći broj tvrtki smišlja nove i kreativne načine kako
zaraditi na njoj. Korištenje stvarnih osoba kao modela -živih ili mrtvih - za sada nije jasno
regulirana zakonima, pa pitanje autorskih prava ovisi od države do države. No, korištenje
potpuno umjetnih modela - koji na dodir ekrana mogu progovoriti bilo kojim jezikom ili
biti bilo kojeg spola ili rase - izrazito je interesantno brojnim oglašivačima i drugim
tvrtkama.

2/3
Reklame s ljudima kojima ne treba platiti dnevnice, koje ne treba snimati na lokaciji, za
koje ne treba unajmljivati kamere, tek su početak primjene ovakve tehnologije. Pitanje je
dana kada će se pojaviti i prvi virtualni glumci, modelirani da savršeno odgovaraju svojim
mogućim literarnim uzorcima, ili kada će se pojaviti prve potpuno digitalne porno
zvijezde.

Ista tehnologija omogućit će i ljudima da svijetu prezentiraju idealiziranu verziju sebe,

kako će se sve više poslova i sastanaka odvijati digitalno, a sigurno će se pojaviti i brojne
druge primjene kojih se tek netko treba sjetiti.

Jedna od inspiracija za buduće primjene dolazi sa Sveučilišta u Južnoj Kaliforniji, čija

Zaklada Shoah ima više od 55.000 video svjedočanstava osoba koje su preživjele
Holokaust. U projektu koji se koristi umjetnom inteligencijom, posjetitelji mogu
postavljati pitanja snimkama i dobiti odgovore koji su bili prethodno snimljeni.

Uz razvoj deepfake tehnologije - sintetičkih medija - unuci će jednoga dana moći

razgovarati s digitalnim kopijama svojih preminuli djedova i baka, a posjetitelji raznih
muzeja razgovarati s nekadašnjim predsjednicima i povijesnim ličnostima. Jedno je
sigurno - digitalne ljude viđat ćemo sve češće i sve više.

Želite li dopuniti temu ili prijaviti pogrešku u tekstu?

3/3