Elektronski fakultet, Univerzitet u Niu

DOMAI ZADATAK
Vetaka inteligencija

Bajesove mree

Autori:
Mirko Lianin 13657
Milo Stoi 13837
Nikola Kesi 13638

Mentor:
Prof. Dr Leonid Stoimenov
Dr Vladan Mihajlovi
Dr Aleksandar Milosavljevi

Ni, 2013. godine

1. UVOD
U dananjem vremenu tehnologija i eljom za futuristikim ivotom, vetaka
inteligencija predstavlja iroko polje istraivanja. Kao posebna grana u raunarskim
naukama, nailazi na iroku primenu, kao i neizostavni deo, gotovo u svim oblastima i
naukama. Svoju iroku primenu nalazi u industriji, medicini, robotici, sistemima za
automatizovano upravljanje, itd. Kako se vremenom razvijala bili su potrebni razliiti
naini zakljuivanja i obrade podataka, da bi se na osnovu njih dolo do novih saznanja
ili analize razliitih dogaaja. Kao jedan od naina, Bajesove mree su nal svoju
primenu u oblastima vetake inteligencije.
Zamislimo jednog dana kako smo u urbi i sedamo u auto, kako bismo stigli na
vreme, sa druge strane iz nekog razloga auto nee da se startuje. U tom sluaju imamo
skup razliitih dogaaja koji su mogli da uslove zbog ega auto nije upalio. Auto nije
startovao jer mu je akumulator prazan, ili jer nema dovoljno gasa, ili mu je blokiran
dovodni kanal za gorivo, ili je starter pokvaren. Takoe moemo nai razloge zbog ega je
akumulator prazan, a to su ili da mu je isteko ivotni vek, ili da nije napunjen, zatim, i dalje
moemo granati uzroke. Sa druge strane imamo i dosta drugih stvari koje moemo
proveravati, kao to su svetla, pokaziva koliko je akumulator napunjen, mera gasa,
lampica za ulje, plovak za merenje nivoa ulja i njihove uzroke, a to je da nema dovoljno
ulja i slino, i ovaj skup parametara koje moemo meriti mogu nam dati odgovor na to
zbog ega auto nije upalio. Na slici ispod primera crvenom bojom je oznaen glavni
problem, plavom uzroci nastalih problema, a zelenom parametri koji se mogu meriti i koji
nam mogu ukazati na razlog zbog koga je dolo problem.

Slika 1

U ovom radu bie data osnovna definicija Bajesovih mrea, objanjena

odgovarajua terminologija za razumevanje, njena primena kao i primer primene.

2. BAJESOVE MREE
Bajesove mree predstavljaju mree uverenja, i pripadaju probabilistikim grafikim
modelima - grafovima. Ova vrsta grafova koristi se za predstavljanje znanja o
neizvesnim domenskim problemima. Posmatrano pojedinano, svaki vor u grafu
predstavlja jednu sluajnu promenljivu, a potezi izmeu vorova predstavljaju
probabilistiku zavisnost izmedju promenljivih dobijene statistikom ili raunarskom
metodom. Uzimajui u obzir ovu osnovnu definiciju Bajesovih mrea, moe se zakljuiti,
da kombinuju pravila i principe teorije grafova, verovatnou, raunarskih nauka i
statistike. Najvei akcenat kod Bajesovih mrea je na verovatnoi i njenim pravilima.
Generalno posmatrano, grafiki modeli, tj. grafovi sa neusmerenim potezima
predstavljaju sluajna polja Markova ili drugaije mree Markova. Ove mree pruaju
jednostavnu definiciju nezavisnosti izmeu dva razliita vora baziranu na konceptu
pokrivaa Markova. Ova vrsta mrea svoju najveu upotrebu pronalazi u statistikoj
fizicii raunarskoj grafici.
Sa druge strane, Bajesove mree su drugaije strukture i pripadaju drugoj grupi,
usmerenih aciklinih grafova. Svoju primenjenost najvie pronalaze u statistici,
mainskom uenju, vetakoj inteligenciji uopte, ali i u drugim oblastima. Matematiki
su precizne i intuitivne za razumevanje, takoe pruaju efikasnost u predstavljanju i
izraunavanju zajednike raspodele verovatnoe nad skupom sluajnih promenljivih.

2.1. Struktura
Kao to je napomenuto u optenom opisu Bajesovih mrea one pripadaju
usmerenim aciklinim grafovima, za lake razumevanje mrea potrebno je da se razume
osnovna struktura navedenog tipa grafova. Grafovi se satoje od skupa vorova i skupa
usmerenih potega. vorovi predstavljaju sluajne promenljive koje se predstavljaju kao
krunice unutar kojih stoji oznaka sluajne promenljive. Potezi predstavljaju direktnu
zavisnost izmedju prmenljivih i obeleavaju se kao strelice izmeu vorova. Poteg od
vora Xi prema voru Xj predstavlja statistiku zavisnost izmeu odgovarajuih
promenljivih vezanih za te vorove. Stoga, vrh strelice ukazuje na to da vrednost
promenljive vezane za vor Xj zavisi od vrednosti promenljive vezane za vor Xi. U ovom
sluaju potrebno je da se usvoji odreena notacija, stoga se za vor Xi kae da je roditelj
voru Xj, a da je vor Xj dete vora Xi. Generalno gledano geneoloki mogu se uoptiti
izrazi predak i sledbenik. Predaci nekog vora su svi vorovi od kojih se praenjem
potega moe stii do zadatog vora, dok sledbenici su svi vorovi do kojih se praenjem
putanje koju obrazuju potezi moe stii od zadatog vora. Ovakva stuktura grafova nam
ukazuje na to da je nemogue da postoji vor koji je sam sebi sledbenik i predak. Ova
osobina ima veoma znaajnu ulogu u faktorizaciji problema, sa druge strane omoguava
Bajesovim mreama da proces zakljuivanja usmere u bilo kom pravcu. Kada je u
pitanju struktura Bajesovih mrea dobro je naglasiti da se uz svaki vor pripisuje tabela
sa numerikim vrednostima odgovarajuih verovatnoa za deavanje nekog dogaaja
koja obuhvata sve mogue vrednosti za svaku kombinaciju njegovih roditelja/predaka.

2.2. Uslovna zavisnost i verovatnoa

Nakon specificiranja topologije grafova, i Bajesovih mrea uopte, veoma je bitno
da se odrede relacije izmeu dva povezana vora, glavnu ulogu u tome igra raspodela
uslovne verovatnoe za svaki vor. Promenljive mogu uzimati kontinualne i diskretne
vrednosti, ali radi lakeg razumevanja, od ove take emo se osvrnuti prema
promenljivama ije su vrednosti diskretne.
Kao to je naglaeno u odeljku strukura Bajesovih mrea, uz svaki vor je
dodeljena tabela sa raspodelom verovatnoa, u tabeli su sadrane numerike vrednosti
za svaku mogou vrednost tog vora, i za sve razliite kombinacije roditelja. Ovakav
prikaz i izraunavanje nam olakava analizu problema.
Bajesove mree ba iz razloga korienja uslovne verovatnoe i uslovne zavisnosti
smanjuju broj kombinacija koje se moraju ispitati kako bi se dolo do zakljuka. Na
primer, setimo se problema sa poetka ovog rada, problem startovanja auta, u tom
problemu imamo 16 razliitih vorova, ukoliko ne bismo koristili Bajesove mree i
njihove osobine, u tom sluaju bismo imali 216-1 mogunosti zbog ega kola nisu
startovala, sa druge strane koristei svojstva Bajesovih mrea, problem se moe
redukovati, jer kod bajesovih mrea sve zavisi od broja ulaznih parametara, tj grana u
zadati vor. Zavisnost je takva da postoji 2n+1 moguih razloga zbog ega kola nisu
startovala.
Pomenuto je da su osnova mrea uslovna verovatnoa, pa je stoga pogodno da se
da definicija uslovne verovatnoe i neka njena svojstva.
Ako je realizacija dogaaja A uslovljena nastupanjem jo nekog drugog dogaaja B
(P(B)0), tada se verovatnoa dogaaja A pod uslovom da se desio dogaaj B naziva
uslovnom verovatnoom i oznaava se sa P(A|B).

Veoma bitnu ulogu u svemu tome ima i Bajesova formula, stoga njena definicija
e biti data u vidu matematikog izraza:

2.3. Zajednika raspodela verovatnoa

Uglavnom Bajesove mree se koriste za prikaz zajdenike raspodele verovatnoa, to
nam omoguava jednu od bitnih pretpostavki, a to je da postoji pogodna struktura za
modelovanje domena odreenog problema koji se moe predstaviti Bajesovim
mreama. Bajesove mree mogu dati mnogo kompaktniji prikaz od klasinog
predstavljanja verovatnoa svake od zajednikih instanci promenljivih. Razreene
Bajesove mree (one koje imaju mali broj potega meu vorovima, to znai par
roditelja po voru) bolje predstavljaju raspodelu verovatnoa i pogodne su za
proraune.

Neka je Bajesova mrea sainjena od n vorova, oznaenih sa X1 do Xn.

Pojedinane vrednosti zajednikih raspodela verovatnoa predstavljene su kao
P(X1=x1, X2=x2, . . . , Xn=xn) ili jednostavno P(x1, x2, . . . , xn). Upotrebom pravila lananja iz
teorije verovatnoa dozvolajva nam da izvrimo faktorizaciju zajednikih verovatnoa
kao:

Koristei osobinu Bajesovih mrea da vorovi zavise samo od roditeljskih vorova u

tom sluaju ovaj izraz se svodi na:

2.4. Uslovna nezavisnost

Odnos uslovne nezavisnosti i strukture Bajesovih mrea je veoma bitan za
razumevanje naina funkcionisanja Bajesovih mrea. Kada govorimo o uslovnoj
nezavisnosti veoma je bitno da te istaknu sledei pojmovi: kauzalni lanci, zajednike
posledice, zajedniki uzroci.
Kauzalni lanci
Pretpostavimo da imamo tri
dogaaja predstavljena kao na slici.
Ova tri dogaaja ine jedan kauzalni
lanac. Ovakav kauzalni lanac moe
dovesti do uslovne nezavisnosti:
P(C|AB) = P(C|B)
Drugim reima, dogaaj C je nezavistan od dogaaja A, ukoliko se dogodio dogaaj B,
ili ukoliko su nam poznate informacije o dogaaju B, u suprotnom A i C su meusobno
zavisni dogaaji. Oznaka za nezavisnosti ova dva dogaaja je AC|B.
Zajedniki uzrok

Pretpostavimo da imamo tri dogaaja

kao na slici, pri emu je dogaaj B
zajedniki uzrok dogaaja A i C. Kao i kod
kauzalnih lanaca poznavanje dogaaja B
moe dovesti do uslovne nezavisnosti
dogaaja A i C:
P(C|AB) = P(C|B) AC|B

Zajednike posledice

uslovne zavisnosti izmeu dogaaja A i C.

Prepostavimo da imamo tri dogaaja

koja su organizovana kao na slici, pri emu
dogaaj B predstavlja zajedniku posledicu
dogaaja A i C. Za razliku od kauzalnih
lanaca i dogaaja sa zajednikim uzrokom
ova konfiguracija moe dovesti do
posledice uslovne zavisnosti dva dogaaja.
Ukoliko nemamo nikakve informacije o
dogaaju B, nama su dogaaji A i C
meusobno nezavisni, u suprotnom bilo
kakva informacija o dogaaju B dovee do

P(A|CB) P(A|B) AC|B

2.5. D-separacija
Prikazano je kako Bajesove mree dovode do uslovne nezavisnosti, objanjeni su
osnovni sluajevi, i kako se nezavisnost odraava na promene u problemu prilikom
auriranja informacija. D-separacija nije nita drugo do uoptenja ve prikazanih
konfiguracija, na skup vorova. D-separacija definie nezavisnost izmeu setova
vorova X i Y, ukoliko je dat set E koji se sastoji od dokazanih(poznatih) vorova. Kako
bi d-separacija bila jasnija, bie date definicije putanje, blokirane putanje, d-separacije i
d-konekcije.

Slika 2 d-separacija i njeni oblici

Putanja izmeu dva skupa vorova X i Y je bilo koja sekvenca vorova izmeu
lanova iz X i lanova iz Y, pri emu svaki par suseda je povezan potegom (bez obzira na
smer) i ne postoji vor koji se dva puta pominje u sekvenci.
Blokirana putanja za putanju se kae da je blokirana ako za dati set vorova E
postoji neki vor Z na toj putanji, takav da zadovoljava jedan od sledea tri uslova:
1. Z iz skupa E, takav da ima jedan poteg koji je ulazni i jedan izlazni poteg. (kauzalni
lanac)
2. Z iz skupa E, takav da ima oba izlazna potega. (zajedniki uzrok)
3. Ni Z, ni njegov potomakne pripadaju skupu E, pri emu je Z takav da ima oba
ulazna potega. (zajednika posledica)
D-separacija - za skup vorova E se kae da vri d-separaciju dva druga skupa X i Y,
ukoliko za svaku putanju, za svaki vor iz seta X do svakog vora iz seta Y, se kae da je
blokirana za zadato E.
D-konekcija za skup vorova X i Y se kae da su d-konektovani za zadato E, ukoliko
bar jedna putanja od X do Y nije blokirana za zadato E.

2.6. Zakljuivanje uz pomo Bajesovih mrea

Kada je poznat domen problema, i moe se predstaviti Bajesovim mreama ne
osnovu svih do sada navedenih osobina Bajesovih mrea mogu se izvoditi zakljuci
postavljanjem odgovarajueg uslova kako bi se dolo do novih informacija. Sam proces
postavljanja uslova predstavljen je kao protok informacija kroz mreu. Protok
informacija kroz mreu ne zavisi od usmerenja potega, s toga nam omoguava da
izraunamo verovatnoe za skup vorova nad kojima je postavljen neki upti, na osnovu
poznatih informacija datih vorova. Kada je re o zakljuivanju kod Bajesovih mrea
postoje etiri naina zakljuivanja koja e biti predstavljena na slici 3, i ukratko
objanjena.
Jedan od naina rezonovanja je dijagnostiko rezonovanje (slika3 gornji levi deo).
Ovakav nain zakljuivanja je slian kada doktor na osnovu simptoma i uzroka neke
bolesti zakljui neke informacije o pacijentu, i nainu koji je doveo do bolesti. Slino je i
u kriminalistici kada se na osnovu vrste posekotina koja je izazvala smrt kod oveka,
doe do zakljuka da li se radi o ubistvu ili o spletu nesretnih okolnosti. Moe se uoiti
da ko ovakvog naina zakljuivanja se ide u suprotnom smeru od usmerenja potega.
Drugi nain zakljuivanja je intuitivno rezonovanje (slika tri gornji desni deo).
Kod ovakvog naina rezonovanja se na osnovu novih informacija o uzroku, donose novi
zakljuci o posledicama koje nastaju iz tog uzroka pratei smer potega u mrei.
Dalji nain zakljuivanja ukljuuje vie uzroka zajednike posledice u svom procesu.
Ovakav nain zakljuivanja naziva se interkauzalno rezonovanje. Jedan deo ovog
zakljuivanja pod nazivom dalje objanjenje 1 (slika 3 dole levo) i veoma je
interesantan.

Na engleskom jeziku se ovaj nain naziva explaining away, ovo je pokuaj da se prilagodi srpskom
jeziku, mogue je da nije ispravan.
1

Pretpostavimo da imamo dva uzroka koji imaju zajedniku posledicu (u

Bajesovoj mrei ovo je predstavljeno u obliku V-strukture). Uzroci te posledice,
generalno posmatrano, su nezavisni dogaaji, i poznavanjem jednog dogaaja nee se
promeniti verovatnoa deavanja drugog dogaaja. Sa druge strane imamo da oba
dogaaja imaju istu posledicu, ukoliko imamo saznanja o toj posledici, dolazimo do toga
da su uzroci meu sobom povezani, stoga saznanje o jednom uzroku umanjuje
verovatnou da je do posledice dolo zbog onog drugog uzroka. Na primer, ovek moe
da oboli od raka plua ukoliko je izloen zagaenju vazduha ili zbog toga to je ovek
pua. U tom sluaju postoje dva dogaaja koja su uzrok raka, jedan da je ovek pua, a
druga da je ovek bio izloen vazdunom zagaenju. Te dve injenice su meusobom
nezavisne, i verovatnoa jedne da izazove rak kod oveka nema uticaj na verovatnou
druge. Sa druge strane ukoliko znamo da je ovek oboleo od raka, i pri tome je pua,
samim tim umanjuje se verovatnoa da je ovek oboleo od raka zato to je moda bio
izloen vazdunom zagaenju.

Slika 3

Kako se nad bilo kojim vorom moe postaviti upit, ali i moe biti i posmatrani
vor, time se komplikuje nain zakljuivanja, pa stoga najdominantniji tip zakljuivanja
je kombinovanje ova tri navedena naina zakljuivanja. (slika 3 donji desni deo)

3. LITERATURA
[1] Bayesian artifical intelligence, Kevin B. Korb, Ann E. Nicholson
[2] A tutorial on learning with Bayesian networks, David Hackerman
[3] Bayesian networks, Irad Ben-Gal
[4] Video lectures form www.udacity.com, course Artificial intelligence