1. (Naive Bayes, drvo odluivanja) Dati su sljedei podaci, sve tri promjenljive su binarne. a.

Kreirati drvo odluivanja po datim primjerima. Prikazati sva izraunavanja. Kako e biti klasifikovani primjeri x6=(0,0,0) i x7=(0,1,1)? b. Izraunati sve vjerovatnoe potrebe za Naive Bayes, Kako e biti klasifikovani primjeri x6=(0,0,0) i x7=(0,1,1)? c. Ponoviti korak b, koristei Laplasovo poravnavanje. 2. (Mree odluivanja) Poslije studiranja na PMF-u, odluili ste da na berzi investirate u jednu od 3 kompanije: A, B i C. Predvianja trita su: rast 50%, stagnacija 30% , opadanje 20%. Ako trite raste, dionice A donose dobit 1500 eura, a dionice B donose dobit od 900 eura. Ako je stagnacija, A dobija 300 eura a B dobija 600 eura. Ako je trite u padu, A gubi 800 eura i B gubi 200 eura. Bez obzira na kolebanje trita, C dobija 500 eura. Kolika je maksimalna oekivana dobit? Koliko bi platili za informaciju o kretanju trita? 3. (Cross validation) Dat je sljedei skup primjera za obuavanje, sa jednim realnim ulazom x i jednim binarnim izlazom y. Koristiemo k-nn sa Euklidskim rastojanjem.

a. Ako koristimo leave-one-out cross-validation, kolika je greka 1-nn klasifikatora na datom skupu? Obrazloiti odgovor. b. Ako koristimo leave-one-out cross-validation, kolika je greka 3-nn klasifikatora na datom skupu? Obrazloiti odgovor. c. Koji klasifikator birate na osnovu dobijenih greaka? 4. Primjenom k-means algoritma sa Euklidskim rastojanjem grupisati sljedeih 8 primjera u 3 klastera: A1=(2,10), A2=(2,5), A3=(8,4), A4=(5,8), A5=(7,5), A6=(6,4), A7=(1,2), A8=(4,9). Poetni klasteri su A1, A4 i A7. Uraditi samo jedan prolaz kroz primjere. Prikazati nove centre klastera i na mrei 10x10 nacrtati primjere i oznaiti klastere. (10) 5. (k-NN, drveta identifikacije) Na pjevakom takmienju Studentski idol 2013 prijavljeni su studenti koji ele da postanu muziki idoli. Dva su kriterijuma za izbor kandidata: radne navike (engl. work ethic ili W) i talenat (engl raw talent ili R). Klasifikujemo kandidate kao potencijalne superstarove (predstavljeni crnim takama) ili kao obine studente (predstavljene kruiima) pomou nearest-neighbors klasifikatora. a. Na slici 1 nacrtati granice koje nalazi 1-NN klasifikator. b. Kako e 1-NN klasifikator klasifikovati kandidata na poziciji (5,4)? Obrazloiti. c. Kako e 3-NN i 5-NN klasifikatori klasifikovati kandidata na poziciji (5,4)? Obrazloiti. d. Sad mijenjamo pristup i prelazimo na drveta identifikacije. Dva su mogua kriterijuma ta podjelu: R>5 ili W>6. Za oba kriterijuma odrediti prosjenu entropiju. Koji e kriterijum biti odabran? e. Pretpostavimo da je algoritam kao prvi kriterijum izabrao R>5. Na slici 2, precizno nacrtati sve ostale granice koje e algoritam postaviti.

Slika 1

Slika 2