UNIVERZA V LJUBLJANI

FAKULTETA ZA DRUŽBENE VEDE

Luka Alač – 21210807

Profesor: Prof. Dr. Iztok Prezelj

Asistentka: Teodora Tea Ristevska Skušek

UVELJAVLJANJE TEHNOLOGIJ UMETNE INTELIGENCE

V OBVEŠČEVALNI DEJAVNOSTI

Predmet Obveščevalna dejavnost

Seminarska naloga

Ljubljana, 2023
KAZALO

UVOD ..................................................................................................................................................... 3
UMETNA INTELIGENCA .................................................................................................................... 3
PODROČJA OBRAMBE Z UPORABO UMETNE INTELIGENCE V OBVEŠČEVALNI
DEJAVNOSTI, NADZORU IN IZVIDNIŠTVU V ZDRUŽENIH DRŽAVAH AMERIKE ................ 4
TEKMA ZA PREVLADO NA PODROČU UMETNE INTELIGENCE ............................................... 5
KITAJSKA .......................................................................................................................................... 5
PREDNOSTI IN POMANJKLJIVOSTI UMETNE INTELIGENCE .................................................... 6
AVTONOMIJA, HITROST IN KONSTNATNO DELOVANJE ....................................................... 6
MOŽNOST PROLIFERACIJE SISTEMOV ...................................................................................... 7
OBDELAVA PODATKOV ................................................................................................................ 7
NEPREDVIDLJIVOST IN NEJASNOST .......................................................................................... 7
ZLONAMERNOST ............................................................................................................................. 7
SKLEP ..................................................................................................................................................... 9
VIRI IN LITERATURA ....................................................................................................................... 10

KAZALO FIGUR

[graf] Graf, ki prikazuje področja, kjer avtonomni sistemi UI predstavljajo določene prednosti in svoj pomen, vir:
The Congressional Research Service, 2020 ............................................................................................................ 8

2
UVOD

Včasih so glaven cilj inovatorjev na področju obveščevalnih služb predstavljali najrazličnejši

načini pridobivanja podatkov, sedaj pa že nekaj časa – z nenehnim digitalnim razvojem –
prehajamo v obdobje, ko bo na svetu že tolikšna količina podatkov, da obveščevalni analitiki
ne bodo več premogli razvrščanja in analiziranja, saj bo podatkov že preprosto preveč. Vendar
pa tukaj, v obveščevalni razvojni tok vstopi tehnologija umetne inteligence (UI). Kot je nakazal
Vinci A. (2020) v članku medija Foreign Affairs, UI vodi v revolucijo obveščevalne dejavnosti,
kjer bo ta korenito spremenila načine zbiranja, analiziranja, in posredovanja obveščevalnih
podatkov njihovim naročnikom, ter s tem znatno vplivala na globalni varnostni razvoj. Cilj
seminarske naloge je predstaviti tehnologijo, ki stoji za to revolucijo; področja na katerih se ta
lahko in/ali se že uveljavlja; vodilne akterje na tem področju; ter prednosti, ki jih ti sistemi
prinašajo, kot tudi zadržke, ki nas morajo stalno opominjati, da pri razvojih takih tehnologij, je
trajno in pazljivo delovanje izjemnega pomena. To sem dosegel skozi metodo analize
sekundarnih virov, podatkov ter dokumentov.

UMETNA INTELIGENCA

V literaturi ne obstaja enotna definicija umetne inteligence – mogoče je eden od razlogov

obširnost tega področja – zaradi česar obstaja mnogo pristopov in podpodročij, kot tudi veliko
opredelitev.

V splošnem se na umetno inteligenco lahko gleda, kot na računalniški sistem, ki deluje in se

odziva na načine, pri katerih bi navadno potrebovali človeško inteligenco – kot je na primer
reševanje zapletenih problemov. Področje umetne inteligence zajema številne pristope, kot so
strojno učenje (machine learning), globoko učenje (deep learning), nevronske mreže, robotika,
»računalniški vid« (obdelava slik), obdelava naravnega jezika, idr. (Harris A. L., 2017).

Čeprav sega področje raziskav umetne inteligence v štirideseta leta prejšnjega stoletja, je
področje doživelo znatni razmah komaj 2010 – kar so v glavnem omogočili trije dejavniki – in
sicer, razpoložljivost velikih količin podatkov (big data) od različnih virov, kot so elektronsko
poslovanje (e-commerce), podjetja, družbeni mediji, znanost, kot tudi oblasti. Ti podatki so
omogočili izboljšane zmožnosti strojnega učenja (statistični proces, ki se začne z nizom
podatkov in poskuša izpeljati pravilo/vzorec ali postopek, ki pojasnjuje te podatke ali omogoča

3
napovedovanje prihodnjih podatkov) in algoritmov – kar sta procesa, katerih razvoj temelji na
vedno večji moči računalniških sistemov (Executive Office of the President National Science
and Technology Council Committee on Technology, 2016).

PODROČJA OBRAMBE Z UPORABO UMETNE INTELIGENCE V

OBVEŠČEVALNI DEJAVNOSTI, NADZORU IN IZVIDNIŠTVU – V
ZDRUŽENIH DRŽAVAH AMERIKE

V CRS poročilu (The Congressional Research Service, 2020) za ameriški kongres je omenjeno,
da bo umetna inteligenca še posebej uporabna pri analizi velikih količin podatkov, ki so na
voljo. Eden od projektov, ki je že v polnem teku, je projekt Maven – projekt, katerega cilj je
integrirati računalniški vid (computer vision) – sistem za obdelavo slik; in algoritme umetne
inteligence – v procese obveščevalne dejavnosti. Ta sistem bo analiziral in urejal pridobljene
posnetke iz avtonomnih zračnih dronov in samodejno zaznal škodljive dejavnosti. Tako bo
tehnologija umetne inteligence nadomestila in avtomatizirala del dejavnosti človeških
analitikov – in s tem omogočila preusmeritev dela njihovega časa in učinkovitosti na naloge, ki
so še vedno v celoti odvisne od ljudi. Ameriška Centralna Obveščevalna Agencija (CIA) ima
poleg tega projekta, aktivnih še cca. 140 drugih projektov (C. R. Moran et al., 2023), ki se do
neke mere zanašajo na sisteme umetne inteligence. Ti projekti sežejo vse od sistemov
prepoznave slik in napovednih analitik – do večjezičnih prepoznav govora, geo-lociranja slik
(brez metapodatkov), spajanja 2D slik v 3D modele, itd. (The Congressional Research Service,
2020).

Poleg omenjenih projektov, je tudi DARPA (Defense Advanced Research Projects Agency)
zagnala nekatere projekte, z namenom integracije umetne inteligence v področje obrambe. V
poročilu je, med drugim, omenjen tudi projekt »Media Forensics« (MediFor), katerega glavna
funkcija je avtomatično zaznavanje manipulacije v medijih; poročanje o metodah in načinih
izvedbe teh manipulacij; ter na nasploh preverjanje integritete pridobljenih informacij (The
Congressional Research Service, 2020).

4
TEKMA ZA PREVLADO – NA PODROČJU UMETNE INTELIGENCE

Septembra 2017 je Vladimir Putin, v govoru ob sprejemu študentov na prvi šolski dan dejal, da
»bo ta, ki bo postal vodilen na področju umetne inteligence, postal vladar sveta.« (Gigova, R.,
2017). Sistemi umetne inteligence postajajo bolj in bolj zmogljivi, tako bomo prej ali slej, prišli
do točke razvoja »Splošne umetne inteligence« (oz. AGI – artificial general intelligence), ki bo
prekašala človeška bitja v širokem naboru nalog (Future of life, n. d.). Posledično bo akter, ki
bo prej dosegel to tehnologijo, ter ki bo superioren v njenem obvladovanju – imel znatno
prednost tako na obrambnem, kot tudi na drugih področjih delovanja. Izogibam se imenovanja
tega bodočega akterja, kot države, saj razvoj tega področja ni odvisen od težke, kompleksne in
drage orožarske industrije, temveč od zmogljivosti računalniških sistemov in brihtnih glav.
Seveda, se ne sme zanemariti, da bo verjetno država tista, ki bo v razvoj te tehnologije največ
vlagala, in tako najverjetneje tudi tista, ki bo najprej prišla do znanstvenih prebojev na tem
področju. Vendar je umetna inteligenca še vedno tehnološka domena, ki se po svoji bližini
navadnemu človeku, in relativni finančni dostopnosti (v primerjavi z orožarskim sektorjem)
zelo razlikuje od konvencionalnih vojaških sistemov. Z drugimi besedami, prej se bo našla
organizacija/posameznik ne-državne narave, ki bo povedla na področju umetne inteligence, kot
v primeru konvencionalne vojaške industrije. S tem moramo biti pozorni na širok nabor
nevarnosti, ki se bodo z razvojem te tehnologije udejanjale skozi posledice nekaterih delovanj
določenih akterjev (kar spekulirata tudi Allen and Chan, 2017).

KITAJSKA

Ljudska Republika Kitajska je jasno najbližja tekmovalka ZDA v sferi umetne inteligence.
Delež trga na področju umetne inteligence, bo v letu 2023 dosegel dobrih 26bn eur, med tem
ko se bo ameriški delež povzdignil na 80bn eur (Statista Search Department, 2023). Številni
dosežki vodilnih kitajskih podjetij, na področju umetne inteligence dokazujejo, da je Kitajska
z razlogom na drugem mestu. Leta 2015 je kitajsko podjetje, Baidu, ustvarilo izjemno napreden
program prepoznave jezika, ki prekaša vsak človeški poskus. Različni programi z umetno
inteligenco so že v procesu integriranja v kitajsko nadzorno mrežo in družbenega »kreditnega«
sistema – ki nadzira, analizira in ocenjuje kitajsko prebivalstvo (The Congressional Research
Service, 2020).

5
LRK poleg tega vlaga tudi v razvoj avtonomnih vozil. Leta 2017 so na eni izmed kitajskih
univerz – ki ima močne vezi s kitajsko vojaško organizacijo – demonstrirali roj 1,000-ih
avtonomnih zračnih vozil, ki imajo zmožnost odkritja in uničenja različnih objektov (simulacija
je prikazala razstrelitev raketometa) (Kania, B. K., 2017).

Vlada je z namenom vzpostavitve večjega sodelovanja in prenosa teh tehnologij med podjetji,
raziskovalnimi institucijami in vojaško organizacijo, oblikovala povezovalno telo (Military-
Civil Fusion Development Commission). Kitajska poleg tega, skozi politiko, znižuje omejitve
in regulacijo pridobivanja in zbiranja podatkovnih baz, ki so prepotreben imperativ za
»treniranje« sistemov umetne inteligence, skozi procese strojnega učenja (The Congressional
Research Service, 2020).

PREDNOSTI IN POMANJKLJIVOSTI UMETNE INTELIGENCE

Tako kot veliko revolucionarnih tehnologij na vojaškem področju – med katerimi je tudi jedrska
znanost – ima umetna inteligenca tako bistvene prednosti, kot tudi slabosti. Oboje je treba čim
prej identificirati, jih razvijati – ali eliminirati, in s tem skrbno regulirati razvoj področja. V
nadaljevanju najprej navedem nekaj pozitivnih atributov umetne inteligence, nato pa še nekaj
očitnih slabosti.

AVTONOMIJA, HITROST IN KONSTNATNO DELOVANJE

Odvisno od dejavnosti, so avtonomni sistemi zmožni osvobajanja posameznikov nekaterih

ponovljivih, nezahtevnih ali nevarnih funkcij, skozi zamenjavo vloge s človekom. Ta oseba se
posledično lahko zaposli s kompleksnejšimi in kognitivno zahtevnejšimi nalogami. Nekatere
naloge, kjer se ti sistemi umetne inteligence že uveljavljajo vključujejo analizo velike količine
podatkov, spet druge odstranjevanje min z avtonomnimi vozili na miniranih območjih.
Tehnologija UI hkrati omogoča sisteme, ki neprekinjeno in z gigaherčno hitrostjo, opravljajo
določene naloge – z dosti večjo sposobnostjo – kot človek (The Congressional Research
Service, 2020).

6
MOŽNOST PROLIFERACIJE SISTEMOV

Uporaba ugodnosti, ki jih prinaša UI, se izvaja skozi programe – lastnosti programov pa so, da
so ti naklonjeni kloniranju. Se pravi, da ko je algoritem, ki uspešno rešuje določeno nalogo
enkrat razvit – lahko ta algoritem multipliciraš in apliciraš na mnogo sistemov, ki bodo vsi
izvajali enako nalogo na mnogo učinkovitejši ravni. S tem znatno povečaš sposobnost svoje
organizacije, prav tako, pa kot sem že omenil, osvobodiš celo ekipo posameznikov, ki se
posledično lahko posvetijo drugim nalogam, katere – še zaenkrat – zahtevajo človeško
inteligenco (The Congressional Research Service, 2020).

OBDELAVA PODATKOV

Naloga obveščevalcev je konstantno razvrščanje in prioritiziranje med relevantnimi in ne-

relevantnimi podatki, kot tudi njihova sinteza v uporabne informacije. Obveščevalne službe
ZDA že vrsto let iščejo načine aplikacije tehnologij strojnega učenja na obdelavo obveščevalnih
podatkov, ki bi obveščevalnim analitikom olajšala delo, glede na to, da se količina vseh
podatkov na svetu vsako leto podvoji (Allen in Chan, 2017). Programi UI za obdelavo podatkov
bi lahko omogočili neprekinjen pregled nad vsakim kotičkom zemlje preko satelitskih
posnetkov, kot tudi lažjo filtracijo med koristnimi in odvečnimi podatki.

NEPREDVIDLJIVOST IN NEJASNOST

Čeprav smo pri razvoju UI priča stalnim prebojem na področju informacijske tehnologije, so
določeni postopki strojnega učenja še vedno t. i. črna skrinjica (black box). Dejstvo je, da se
nekatere procese UI, in kako ti pridejo do raznih rezultatov, še ne razume v popolnosti niti s
strani največjih IT strokovnjakov (The Congressional Research Service, 2020; G. C. Allen.,
2020). Poleg tega lahko pride do programskih napak. Allen poda primer, da če je program za
prepoznavo vozil na satelitskih posnetkih treniran na izključno posnetkih iz puščave, se lahko
predvideva, da bi pri prepoznavi vozil na drugem terenu lahko prišlo do programskih zmot.

ZLONAMERNOST

7
S proliferacijo sistemov UI se prav tako generira več in več morebitnih tarč kibernetskih
napadov. Ti sistemi ne vključujejo samo meta-programe, ampak tudi fizične objekte, kot so
avtonomna vozila. Posebnost sistemov UI je ta, da ti temeljijo na digitalno zapisanih algoritmih,
iz česa sledi, da je za njihovo odtujitev potrebno le računalniško znanje, njihova uporaba ob
odtujitvi pa je lahko takojšnja (The Congressional Research Service, 2020). Tu se lahko obrnem
na že zapisano predpostavko, da je na področju UI ne-državnim akterjem, lažje povesti, kot na
drugih obrambnih področjih, kar lahko predstavlja še večji izziv za nacionalno, kakor tudi
globalno varnost.

Graf prikazuje področja, kjer avtonomni sistemi UI, prikazujejo določene prednosti in svoj pomen, vir: The Congressional
Research Service, 2020

8
SKLEP

Treba se je sprijaznit, da poti nazaj ni – tehnologija UI je tu – z njo pa vrsto načinov uporabe,

kot tudi pasti in odgovornosti. Obveščevalne službe, ki imajo namen konkurirat vodilnim
organizacijam na tem področju, morajo čim prej inkorporirat to tehnologijo v svoje delovanje,
obenem pa zagotovit varnost oz. onemogočat uporabo le-te za zle namene. Regulacija domene
UI je izjemnega pomena, saj že majhna nepazljivost lahko privede do enormnih katastrof, če
upoštevamo, da so digitalni sistemi integrirani že v skoro vsako človekovo dejavnost. Podatki
za obdelavo v obveščevalne namene zagotavljanja nacionalne varnosti se iz leta v leto množijo,
kar analitikom onemogoča učinkovito interpretacijo varnostne slike. Tako morajo obveščevalne
organizacije prepoznati izjemno sposobnost algoritmov, ki temeljijo na strojnem učenju, za
obdelavo velikih količin podatkov (big data) in te sisteme čim prej vključiti v obveščevalni
cikel, da povečajo hitrost ter učinkovitost prepoznavanja najrazličnejših groženj, ki prežijo
nacionalnim varnostnim sistemom na globalni ravni. Pri tem ne smejo pozabiti na nekatere
zadržke te tehnologije, določene negotovosti, kot tudi na šibke točke v varnostnih sistemih, ki
se na novo ustvarjajo z razvojem te nepredvidljive tehnologije.

Ob analizi večjega obsega, bi bolj obširno zajel pristope in stališča tudi ostalih vodilnih akterjev,
katerih ni zlahka zanemariti ob raziskovanju področja Umetne Inteligence; prav tako bi se v vse
naslovljene teme spustil bolj poglobljeno – a je za namene predstavitve temeljev delovanja te
tehnologije v obveščevalni dejavnosti, ter osnovne predstavitve neomajnega vodilnega akterja
te domene – Združenih Držav Amerike; načeloma zadostna literatura, ki sem jo zajel v
seminarski.

9
VIRI IN LITERATURA

I. Vinci. A. (2020). The Coming Revolution in Intelligence Affairs. Foreign Affairs.

https://www.foreignaffairs.com/articles/north-america/2020-08-31/coming-revolution-intelligence-
affairs?check_logged_in=1&utm_medium=promo_email&utm_source=lo_flows&utm_campaign=regis
tered_user_welcome&utm_term=email_1&utm_content=20231206
II. Laurie A. H. (2017). Overview of Artificial Intelligence. CRS In Focus IF10608.
https://crsreports.congress.gov/product/pdf/IF/IF10608
III. Executive Office of the President National Science and Technology Council Committee on Technology.
2016. PREPARING FOR THE FUTURE OF ARTIFICIAL INTELLIGENCE.
https://obamawhitehouse.archives.gov/sites/default/files/whitehouse_files/microsites/ostp/NSTC/prepar
ing_for_the_future_of_ai.pdf
IV. The Congressional Research Service, 2020
V. Gigova, R. (2017), 2. september). »Who Vladimir thinsk will rule the world«. CNN.
https://edition.cnn.com/2017/09/01/world/putin-artificial-intelligence-will-rule world/index.html
VI. n. d. Artificial Intelligence. Future of life. https://futureoflife.org/cause-area/artificial-intelligence/
VII. Allen in Chan. 2017. Artificial Intelligence and National Security. Belfer Center Study.
https://www.belfercenter.org/sites/default/files/files/publication/AI%20NatSec%20-%20final.pdf
VIII. Statista Search Department. (2023). Artificial Intelligence – China. Statista.
https://www.statista.com/outlook/tmo/artificial-intelligence/china?currency=EUR
IX. Kania, B. K. (2017). Battlefield Singularity: Arificial Intelligence, Military Revolution, and China's
Future Military Power. Center for a New American Security. https://s3.us-east-
1.amazonaws.com/files.cnas.org/documents/Battlefield-Singularity-Kania_November-2017.pdf
X. G. C. Allen. 2020. Understanding AI Technology. DoD Joint AI Center.
https://www.ai.mil/docs/Understanding%20AI%20Technology.pdf

10