Pages From Zivkovic - Algoritmi PDF

Glava 4
Konstrukcija algoritama indukcijom

4.1. Uvod
U ovom poglav u bie navedeni jednostavni primeri konstrukcije algo-
ritama korixeem induktivnog pristupa, koji ilustruju osnovne principe
i tehnike. Ideja je da se iskoristi princip domina: sve nanizane domine e
popadati ako se poruxi prva, i ako se posle ruxea n-te obavezno ruxi (n+1)-
a domina. Dakle, da bi se rexio neki problem, treba rexiti neki egov mali
sluqaj, a zatim pokazati kako se rexee zadatog problema moe konstruisati
polazei od (rexenih) maih verzija istog problema. Imajui na umu ovo,
paa se moe skoncentrisati na nalaee naqina za svoee problema na
mae probleme.
4.2. Izraqunavae vrednosti polinoma
Najpre emo razmotriti jedan jednostavan problem: izraqunavae vred-
nosti zadatog polinoma u zadatoj taqki.
Problem. Dati su realni brojevi a , a ,..., a , a i realni broj x.
Izraqunati vrednost polinoma P (x) = P a x . n
n
n−1
i
1 0
n i=0 i
Ulazni podaci za problem su n + 2 broja. Induktivni pristup rexavau

problema sastoji se u svoeu rexea na rexee maeg problema. Dakle,
problem pokuxavamo da svedemo na mai, koji se zatim rexava rekurzivno.
Najjednostavnije je svoee na uproxeni problem dobijen od polaznog ukla-
aem a . Tada imamo problem izraqunavaa vrednosti polinoma
n
Pn−1 (x) = an−1 xn−1 + an−2 xn−2 + · · · + a1 x + a0 .

To je isti problem, ali sa jednim parametrom mae.
Induktivna hipoteza. Pretpostavimo da znamo da izraqunamo vred-
nost polinoma zadatog koeficijentima a ,..., a , a u taqki x, tj. znamo da
izraqunamo vrednost P (x).
n−1
n−1 1 0
Ova hipoteza je osnova za rexavae problema indukcijom. Sluqaj n = 0

(izraqunavae vrednosti izraza a ) je trivijalan. Zatim se mora pokazati
kako se polazni problem (izraqunavae P (x)) moe rexiti korixeem
0
rexea maeg problema (vrednosti P (x)). U ovom sluqaju je to oqigled-

n
no: treba izraqunati x , pomnoiti ga sa a i rezultat sabrati sa P (x):

n
n−1
n n−1
57
58 4. KONSTRUKCIJA ALGORITAMA INDUKCIJOM
Moe se pomisliti da je korixee indukcije ovde
Pn (x) = an xn + Pn−1 (x).
nepotrebno: ono samo komplikuje vrlo jednostavno rexee. Opisani algori-
tam je ekvivalentan izraqunavau vrednosti polinoma redom qlan po qlan.
Ispostavie se ipak da ovaj pristup ima svoju snagu.
Opisani algoritam je taqan, ali neefikasan, jer zahteva n + (n − 1) + · · · +
1 = n(n + 1)/2 mnoea i n sabiraa. Korixeem indukcije na drugi naqin
dobija se bo e rexee.
Zapaamo da u ovom algoritmu ima mnogo ponov enih izraqunavaa: ste-
pen x izraqunava se svaki put "od poqetka". Veliki broj mnoea moe se
n
uxtedeti ako se pri izraqunavau x iskoristi x . Pobo xae se real-

n n−1
izuje uk uqivaem izraqunavaa x u induktivnu hipotezu.

n−1
Pojaqana induktivna hipoteza. Znamo da izraqunamo vrednost poli-

noma P (x) i vrednost x . n−1
n−1
Ova induktivna hipoteza je jaqa, jer zahteva izraqunavae x , ali se n−1
lakxe proxiruje (jer je sada jednostavnije izraqunati x ). Da bi se izraqu- n
nalo x , dovo no je izvrxiti jedno mnoee. Posle toga sledi jox jedno
n
mnoee sa a i sabirae sa P (x). Ukupno je potrebno izvrxiti 2n mnoen-

ja i n sabiraa. Zanim ivo je zapaziti da iako induktivna hipoteza zahteva
n n−1
vixe izraqunavaa, ona dovodi do smaea ukupnog broja operacija. Dobi-

jeni algoritam izgleda dobro u svakom pogledu: efikasan je, jednostavan i
jednostavno se realizuje. Ipak, postoji i bo i algoritam. Do ega se dolazi
korixeem indukcije na novi, trei naqin.
Redukcija problema uklaaem najvixeg koeficijenta a je oqigledan
korak, ali to ipak nije jedina raspoloiva mogunost. Umesto toga se moe n
ukloniti koeficijent a , i svesti problem na izraqunavae vrednosti poli-

noma sa koeficijentima a , a ,..., a , odnosno polinoma
0
n n−1 1
n
X
P̃n−1 (x) = ai xi−1 = an xn−1 + an−1 xn−2 + · · · + a1 .
i=1
Primetimo da je a ovde (n − 1)-i koeficijenat, a je n − 2-i koeficijenat,

i tako da e. Dakle, imamo novu induktivnu hipotezu.
n n−1
Induktivna hipoteza (obrnuti redosled). Umemo da izraqunamo vred-

nost polinoma P̃ (x) sa koeficijentima a , a ,..., a u taqki x.
n−1 n n−1 1
Ovakva induktivna hipoteza je pogodnija jer se lakxe proxiruje. Poxto

je P (x) = xP̃ (x) + a , za izraqunavae P (x) polazei od P̃ (x) dovo no
je jedno mnoee i jedno sabirae. Izraqunavae se moe opisati sledeim
n n−1 0 n n−1
izrazom:
an xn + an−1 xn−1 + · · · + a1 x + a0 = ((· · · ((an x + an−1 )x + an−2 ) · · · )x + a1 )x + a0 ,
poznatim kao Hornerova xema. Program na pseudo paskalu koji realizuje ovaj
algoritam prikazan je na slici 1.
4.3. MAKSIMALNI INDUKOVANI PODGRAF 59
Algoritam
Ulaz:
Vrednost polinoma(a, x);
(koeficijenti polinoma) i (realni broj).
Izlaz: (vrednost polinoma u taqki ).
a = a0 , a1 , . . . , an x
P x
begin
P := an ;
for i := 1 to n do
P := x · P + an−i
end
Ris. 1. Izraqunavae vrednosti polinoma u zadatoj taqki.

Sloenost. Algoritam obuhvata n mnoea, n sabiraa i zahteva samo
jednu novu memorijsku lokaciju. Posledi algoritam je ne samo efikasniji
od prethodnih, nego je i odgovarajui program jednostavniji.
Primedba. Indukcija nam omoguuje da se skoncentrixemo na proxiri-
vae rexea maih na rexea veih problema. Pretpostavimo da hoemo da
reximo P (n), odnosno problem P koji zavisi od nekog parametra n (obiqno
je to veliqina problema). Tada polazimo od proizvo nog primera problema
P (n) i pokuxavamo da ga reximo koristei pretpostavku da je P (n − 1) ve
rexen. Postoji mnogo naqina da se postavi induktivna hipoteza, a isto tako i
vixe naqina da se ona iskoristi. Prikazaemo vixe takvih metoda, i demon-
strirati ihovu mo pri konstrukciji algoritama.
Primer izraqunavaa vrednosti polinoma ilustruje fleksibilnost ko-
ja nam je na raspolagau pri korixeu indukcije. Ideja koja je dovela do
Hornerove xeme sastoji se u tome da se ulaz obrauje sleva udesno, umesto
intutivnog redosleda zdesna ulevo. Druga uobiqajena mogunost izbora re-
dosleda pojav uje se pri razmatrau strukture u obliku stabla: ona se moe
prolaziti odozgo nanie ili odozdo navixe. Da e, mogue je parametar n
poveavati za dva (ili vixe), umesto samo za jedan, a postoje i mnogobrojne
druge mogunosti. Xtavixe, ponekad najbo i redosled primene indukcije ni-
je isti za sve ulaze. Moe se pokazati korisnim konstrukcija algoritma koji
bi pronalazio najbo i redosled primene indukcije. Ovakve mogunosti ilus-
trovaemo nekim primerima.
4.3. Maksimalni indukovani podgraf
Posmatrajmo sledei problem. Organizujete konferenciju za nauqnike ko-
ji se bave raznorodnim disciplinama i imate spisak osoba koje biste eleli
da pozovete. Pretpostavka je da e se svaki od ih odazvati pozivu ako mu se
bude ukazala mogunost plodne razmene ideja. Za svakog nauqnika moete da
napravite listu onih (sa spiska) sa kojima e on verovatno imati interak-
ciju. Neka je k zadati broj. Vi biste voleli da pozovete xto je mogue vixe
udi, a da pri tome garantujete svakome od ih mogunost da razmeni mis-
li sa bar k drugih osoba. Vax problem nije da organizujete te interakcije,
niti da obezbedite dovo no vremena za ih. Vi jedino elite da obezbedite
ihovo prisustvo na konferenciji. Kako izabrati osobe koje treba pozvati?
Opisani problem odgovara sledeem grafovskom problemu. Neka je G = (V, E)
neusmereni graf. Graf H = (U, F ) je indukovani podgraf grafa G ako U ⊆ V
i F sadri sve grane iz E kojima su oba kraja u U , videti primer na slici 2.
Stepen qvora je broj emu susednih qvorova. Qvorovi grafa odgovaraju nauq-
nicima, a grana izmeu dva qvora postoji ako odgovarajui nauqnici mogu da
razmeuju ideje. Indukovani podgraf odgovara podskupu nauqnika.
e G = (V, E)
d
V = {a, b, c, d, e}
a d dd E = {(a, b), (a, d), (a, e), (b, c), (c, d), (c, e), (d, e)}
H = (U, F )
U = {a, d, e}
b d d c F = {(a, d), (a, e), (d, e)}
Ris. 2. Primer indukovanog podgrafa. Grane su neureeni

parovi qvorova.
Problem. Za zadati neusmereni graf G = (V, E) i zadati prirodni broj k
pronai maksimalni indukovani podgraf H = (U, F ) grafa G (tj. indukovani
podgraf sa maksimalnim brojem qvorova) uz uslov da svi qvorovi podgrafa H
imaju stepen bar k, ili ustanoviti da takav indukovani podgraf ne postoji.
Direktni pristup rexavau ovog problema sastoji se u uklaau svih
qvorova stepena maeg od k. Posle uklaaa ovih qvorova, zajedno sa granama
koje su im susedne, stepeni preostalih qvorova se u opxtem sluqaju smauju.
Kad stepen nekog qvora postane mai od k, taj qvor treba ukloniti iz grafa.
Nije meutim jasan redosled kojim qvorove treba uklaati. Treba li najpre
ukloniti sve qvorove stepena < k, a zatim obraivati qvorove sa umaenim
stepenovima? Ili treba ukloniti jedan qvor stepena < k, pa nastaviti sa
qvorovima kojima su smaeni stepenovi? (Ova dva pristupa odgovaraju pre-
trazi u xirinu, odnosno pretrazi u dubinu, tehnikama koje e biti razmotrene
u ode ku 6.3). Da li e oba pristupa dati isti rezultat? Da li e rezultujui
graf imati najvei mogui broj qvorova? Na ova pitaa lako je dati odgovor
korixeem sledeeg pristupa.
Umesto da algoritam posmatramo kao niz koraka koje treba izvrxiti da bi
se doxlo do rezultata, moemo da sebi postavimo za ci dokazivae teoreme
da algoritam postoji. Potrebno je pronai maksimalni indukovani podgraf
koji zadovo ava zadate uslove.
4.4. NALAE E BIJEKCIJE 61
Induktivna hipoteza. Umemo da pronaemo maksimalni indukovani
podgraf sa qvorovima stepena ≥ k za graf sa mae od n qvorova.
Treba da dokaemo da je ova "teorema" taqna za bazni sluqaj, a zatim
da iz ene taqnosti za n − 1 sledi ena taqnost za n. Prvi netrivijalni
sluqaj pojav uje se za n = k + 1, jer ako je n ≤ k onda su stepeni svih qvorova
mai od k. Ako je n = k + 1 onda samo u jednom sluqaju postoji indukovani
podgraf sa stepenima qvorova ≥ k: to je sluqaj potpunog grafa (grafa sa
svim moguim granama). Pretpostavimo da e da je G = (V, E) proizvo an
graf sa n > k + 1 qvorova. Ako su stepeni svih qvorova u G vei ili jednaki
od k, onda graf H = G zadovo ava uslove i dokaz je zavrxen. U protivnom
postoji qvor v stepena < k. Oqigledno je da stepen qvora v ostaje < k i u
svakom indukovanom podgrafu grafa G, pa prema tome v ne pripada ni jednom
podgrafu koji zadovo ava uslove problema. Dakle, v se moe ukloniti iz G
zajedno sa svim emu susednim granama, ne meajui uslove teoreme. Posle
uklaaa v graf ima n − 1 qvor, pa prema induktivnoj hipotezi mi umemo da
reximo problem do kraja.
Komentar. Jedan od moguih naqina za uproxavae nekog problema je
eliminacija nekog od egovih elemenata. U ovom primeru primena indukcije
bila je jednostavna, jer je bilo jasno koje qvorove i kako treba eliminisati.
U opxtem sluqaju proces eliminacije ne mora da bude jednostavan. Videemo
primer u kome se dva elementa objediavaju, qime se broj elemenata smauje
za jedan (ode ak 5.5); zatim primer u kome se eliminixu ograniqea na prob-
lem umesto da se eliminixu delovi ulaza (ode ak 6.7); i na kraju primer u
kome se najpre konstruixe poseban algoritam za izbor elemenata koji se mogu
eliminisati (ode ak 4.5). U primeru koji sledi takoe e biti ilustrovano
eliminisae odgovarajuih elemenata.
4.4. Nalaee bijekcije
Neka je f funkcija koja preslikava konaqan skup A u samog sebe, f : A → A.
Bez gubitka opxtosti moe se pretpostaviti da je A = {1, 2, . . . , n}. Pret-
postav amo da je funkcija f predstav ena vektorom f duine n, tako da
f [i] sadri vrednost f (i) ∈ A, i = 1, 2, . . . , n. Funkcija f je bijekcija, ako
za proizvo an elemenat j ∈ A postoji elemenat i ∈ A takav da je f (i) = j.
Funkcija se moe predstaviti dijagramom kao na slici 3, tako da svakom
elementu A odgovara po jedan levi i jedan desni qvor, a grane definixu pre-
slikavae. Funkcija prikazana na slici 3 oqigledno nije bijekcija.
Problem. Neka je zadat konaqan skup A i preslikavae f : A → A.
Odrediti podskup S ⊆ A sa najveim moguim brojem elemenata tako da bude
f (S) ⊆ S i da restrikcija f na S bude bijekcija.
Ako je f bijekcija, onda kompletan skup A zadovo ava uslove problema,
pa je maksimalni podskup S = A. Ako je pak f (a) = f (b) za neke a 6= b, onda S
ne moe da sadri i a i b. Na primer, skup S u problemu sa slike 3 ne moe
1 b 1b 1
b >b
2 2
3 b ~b 3
4 b b4
b >
-b 5
q
5
6 b 1b 6
7 b b7
Ris. 3. Primer preslikavaa skupa u samog sebe.

da sadri oba elementa 2 i 3, jer je f (2) = f (3) = 1. Meutim, nije svejedno
koji e elemenat od ova dva biti eliminisan. Ako na primer eliminixemo
3, onda se zbog f (1) = 3 mora eliminisati i 1. Zatim se na isti naqin zbog
f (2) = 1 mora eliminisati i 2. Dobijeni podskup sigurno nije maksimalan,
jer je mogue eliminisati samo elemenat 2 umesto 1, 2 i 3. Rexee problema
na slici 3 je podskup {1, 3, 5}, xto se moe ustanoviti npr. proverom svih
moguih podskupova S ⊂ A. Postav a se pitae nalaea opxteg metoda za
odluqivae koje elemente treba uk uqiti u S.
Na sreu, imamo izvestan manevarski prostor prilikom odluqivaa kako
problem svesti na mai. Veliqina problema moe se smaiti bilo nalae-
em elementa koji pripada skupu S, bilo nalaeem elementa koji ne pripada
skupu S. Ispostav a se da je druga mogunost bo a. Koristiemo sledeu
jednostavnu induktivnu hipotezu.
Induktivna hipoteza. Znamo da reximo problem za skupove sa n − 1
elemenata.
Baza indukcije je trivijalna: ako skup A ima jedan element, on se mora
preslikavati u sebe, pa je f na A bijekcija. Pretpostavimo da e da imamo
proizvo an skup A od n elemenata i da traimo podskup S koji zadovo ava
uslove problema. Tvrdimo da ako elemenat a ne pripada skupu f (A), onda
a ne moe pripadati S ; drugim reqima, elemenat a za koji u odgovarajui
qvor na desnoj strani dijagrama ne ulazi ni jedna grana, ne moe biti u S.
Zaista, iz uslova problema sledi da je f (S) = S, a to je, ako se pretpostavi
da a ∈ S | nemogue, jer po pretpostavci a ∈/ f (S). Dakle, ako postoji takav
elemenat a, mi ga eliminixemo iz skupa. Sada imamo skup A = A \ {a} sa
0
n − 1 elementom, koji f preslikava u samog sebe; prema induktivnoj hipotezi

mi znamo da reximo problem sa skupom A . Ako takvo a ne postoji, onda je
0
preslikavae bijekcija, i problem je rexen.

Suxtina ovog rexea je da se a mora ukloniti. Dokazali smo da a ne
moe pripadati S. U tome je snaga indukcije: onog trenutka kad se elemenat
ukloni i time smai veliqina problema, zadatak je rexen. Pri tome se mora
voditi raquna da mai problem bude potpuno isti kao polazni, izuzimajui
veliqinu. Jedini uslov koji f i A treba da zadovo avaju je f (A) ⊆ A. Ovaj
4.4. NALAE E BIJEKCIJE 63
uslov zadovo en je i na skupu A = A \ {a}, jer se ni jedan elemenat ne presli-
0
kava u a. U trenutku kad vixe nema elemenata koji se mogu ukloniti, skup S
je pronaen.
Realizacija. Algoritam smo opisali kao rekurzivnu proceduru. U sva-
kom koraku pronalazimo elemenat u koga se ni jedan drugi ne preslikava,
uklaamo ga i nastav amo rekurzivno. Realizacija algoritma ipak ne mo-
ra da bude rekurzivna. Svakom elementu i, 1 ≤ i ≤ n pridruuje se brojaq
c[i], qija je poqetna vrednost jednaka broju elemenata koji se preslikavaju u i.
Vrednosti c[i] mogu se izraqunati u n koraka prolazei kroz vektor f i inkre-
mentirajui (poveavajui za jedan) pri tome odgovarajue brojaqe. Zatim se
u listu stav aju svi elementi kojima je vrednost brojaqa dobila vrednost 0.
U svakom koraku se prvi elemenat j iz liste uklaa iz liste i iz skupa,
dekrementira se c[f [j]], a ako c[f [j]] dobije vrednost 0, f [j] se stav a u listu.
Rexavae je zavrxeno u trenutku kad je lista prazna. Algoritam je prikazan
na slici 4. Nije texko proveriti da se za ulaz predstav en na slici 3 dobija
S = {1, 3, 5}.
Algoritam
Ulaz: (niz prirodnih brojeva izmeu jedan i ).
Bijekcija(f, n);
Izlaz: (podskup ulaznog skupa takav da je bijekcija na ).

f n
S f S
begin
S := A; {A = {1, 2, . . . n}}
for j := 1 to n do c[j] := 0;
for j := 1 to n do increment c[f [j]];
for j := 1 to n do
if c[j] = 0 then stavi j u Spisak {lista elemenata za eliminaciju}
while Spisak nije prazan do
skini i sa vrha liste Spisak;
S := S \ {i};
c[f [i]] = c[f [i]] − 1;
if c[f [i]] = 0 then stavi f [i] u Spisak
end
Ris. 4. Algoritam Bijekcija.

Sloenost. Za uvodni deo (inicijalizaciju) treba izvrxiti O(n) ko-
raka. Svaki elemenat se u listu moe staviti najvixe jednom, a operacije
potrebne da se elemenat ukloni iz liste izvrxavaju se za vreme ograniqeno
konstantom. Prema tome, ukupan broj koraka je O(n).
Komentar. U ovom primeru veliqina problema je smaena uklaaem
elemenata iz skupa. Traili smo najjednostavniji naqin za uklaae ele-
menta tako da se ne promene uslovi problema. Poxto je jedini zahtev bio da
funkcija preslikava A u samog sebe, izbor elementa u koga se ni jedan drugi
elemenat ne preslikava je prirodan.
4.5. Problem pronalaea zvezde
Sledei primer je interesantan po tome xto za rexavae problema nije
neophodno pregledati sve ulazne podatke, pa qak ni ihov znaqajan deo. Meu
n osoba zvezda je osoba koja nikoga ne poznaje, a koju svi ostali poznaju. Prob-
lem je identifikovati zvezdu (ako ona postoji) postav ajui pitaa oblika
"Izvinite, da li poznajete onu osobu?" Pretpostav a se da su svi odgovori
taqni, a da e qak i zvezda odgovarati na pitaa. Ci je minimizirati uku-
pan broj pitaa. Poxto parova osoba ima ukupno n(n−1)/2, u najgorem sluqaju
treba postaviti n(n − 1) pitaa, ako se pitaa postav aju bez neke strategi-
je. Na prvi pogled nije jasno moe li se e eni ci postii sa garantovano
maim brojem postav enih pitaa.
Problem se moe preformulisati u grafovski. Formiramo usmereni graf
sa qvorovima koji odgovaraju osobama, u kome grana od osobe A ka osobi B
postoji ako A poznaje B. Zvezda odgovara ponoru grafa, qvoru U koji ulazi
n − 1 grana, a iz koga ne izlazi ni jedna grana. Jasno je da graf moe imati
najvixe jedan ponor. Ulaz problema se opisuje n × n matricom povezanosti
M , qiji elemenat M je jednak 1 ako osoba i poznaje osobu j , odnosno 0 u
protivnom; dijagonalni elementi su jednaki nuli.
ij
Problem. Data je n×n matrica povezanosti M . Ustanoviti da li postoji

indeks i, takav da su u M svi elementi i-te kolone (sem i-tog) jednaki 1, i da
su svi elementi i-te vrste jednaki 0.
Bazni sluqaj sa dve osobe je jednostavan. Posmatrajmo kao i obiqno razliku
izmeu problema sa n − 1 osobom i problema sa n osoba. Pretpostav amo da
znamo da pronaemo zvezdu meu prvih n − 1 osoba indukcijom. Poxto moe
da postoji najvixe jedna zvezda, postoje tri mogunosti:
(1) zvezda je jedna od prvih n − 1 osoba;
(2) zvezda je n-ta osoba;
(3) zvezda ne postoji.
Prvi sluqaj je najjednostavniji: treba samo proveriti da li n-ta osoba poz-
naje zvezdu, odnosno da li je taqno da zvezda ne poznaje n-tu osobu. Preostala
dva sluqaja su tea, jer da bi se proverilo da li je n-ta osoba zvezda, treba
postaviti 2(n − 1) pitaa. Ako postavimo 2(n − 1) pitaa u n-tom koraku,
onda e ukupan broj pitaa biti n(n − 1), xto hoemo da izbegnemo. Potrebno
je dakle promeniti pristup problemu.
Ideja je da se problem posmatra "unazad". Poxto je texko identifiko-
vati zvezdu, pokuxajmo da pronaemo osobu koja nije zvezda: u svakom sluqaju,
broj ne-zvezda mnogo je vei od broja zvezda. Ako eliminixemo nekoga iz raz-
matraa, paramentar n koji definixe veliqinu problema smauje se na n − 1.
Pri tome uopxte nije bitno koga emo eliminisati! Pretpostavimo da osobu
A pitamo da li poznaje osobu B . Ako A poznaje B , onda A nije zvezda, a ako pak
4.5. PROBLEM PRONALAE A ZVEZDE 65
A ne poznaje B , onda B nije zvezda. U oba sluqaja se jedna osoba eliminixe
postav aem samo jednog pitaa!
Ako se sada vratimo na tri mogua sluqaja pri prelasku sa n − 1 na n,
vidimo da je novost u tome da n-tu osobu ne biramo proizvo no. Eliminacijom
osobe A ili B problem svodimo na sluqaj sa n−1 osobom, pri qemu smo sigurni
da do sluqaja 2. nee doi, jer eliminisana osoba ne moe biti zvezda. Ako
je nastupio sluqaj 3, odnosno nema zvezde meu prvih n − 1 osoba, onda nema
zvezde ni meu svih n osoba. Ostaje prvi sluqaj, koji je lak: ako meu prvih
n − 1 osoba postoji zvezda, onda se sa dva dopunska pitaa moe proveriti da
li je to zvezda i za kompletan skup. Ako nije, onda nema zvezde.
Algoritam se sastoji u tome da pitamo osobu A da li poznaje osobu B i
eliminixemo ili osobu A ili osobu B, zavisno od dobijenog odgovora. Neka je
eliminisana npr. osoba A. Indukcijom (rekurzivno) se pronalazi zvezda meu
preostalih n − 1 osoba. Ako meu ima nema zvezde, rexavae je zavrxeno.
U protivnom, proverava se da li je taqno da A poznaje zvezdu, a da zvezda ne
poznaje A.
Realizacija. Kao i u sluqaju algoritma iz prethodnog ode ka, efikas-
nije je realizovati algoritam za nalaee zvezde iterativno, nego rekurzivno.
Algoritam se deli u dve faze. U prvoj fazi se eliminixu sve osobe sem jednog
kandidata za zvezdu, a druga faza je neophodna da se ustanovi da li kandidat
jeste zvezda. Poqiemo sa n kandidata, za koje moemo da pretpostavimo da su
smexteni na stek (listu iz koje se najpre vadi posledi upisani elemenat). Za
svaki par kandidata mi moemo da eliminixemo jednog, pitaem da li pozna-
je drugog. Poqiemo uzimajui prva dva kandidata sa steka i eliminixui
jednog od ih. Da e u svakom koraku formiramo par od preostalog kandidata
i (sve dok je stek neprazan) naredne osobe sa steka, i eliminixemo jednog od
ih. U trenutku kad stek postane prazan, imamo samo jednog kandidata. Zatim
se proverava da li je taj kandidat zvezda. Algoritam je prikazan na slici 5.
Stek je realizovan eksplicitno korixeem indeksa i, j, i N aredni.
Sloenost. Postav a se najvixe 3(n − 1) pitaa: n − 1 pitaa u prvoj
fazi da bi se eliminisala n − 1 osoba, i najvixe 2(n − 1) pitaa za proveru
da li je preostali kandidat zvezda. Primetimo da veliqina ulaza nije n, nego
n(n − 1), broj elemenata matrice. Prikazano rexee pokazuje da je mogue
odrediti zvezdu pregledajui najvixe O(n) elemenata matrice povezanosti,
iako je jasno da rexee mora bitno da zavisi od svih n(n − 1) elemenata
matrice.
Komentar. K uqna ideja ovog elegantnog rexea je pametno smaivae
parametra n za 1. Primer pokazuje da se ponekad isplati uloiti trud (u ovom
sluqaju | jedno pitae) da bi se redukcija efikasnije izvela. Ne polazi
se od proizvo nog, nego se bira poseban skup od n − 1 osobe. Videemo jox
primera u kojima se znaqajno vreme troxi na konstrukciju pogodnog redosleda
indukcije, xto se pokazuje korisnim.
Algoritam
Ulaz:
Zvezda(P oznaje);
( Bulova matrica sa nulama na dijagonali).
Izlaz: .
P oznaje n × n
Zvezda
begin
osoba A}
i := 1; {
j := 2; {osoba B}
N aredni := 3; {sledei koji e se proveravati}
{prva faza: eliminixu se svi kandidati sem jednog}
while N aredni ≤ n + 1 do
if P oznaje[i, j] then i := N aredni {eliminacija i}
else j := N aredni; {eliminacija j}
N aredni := N aredni + 1
{po izlasku iz pet e je ili i = n + 1 ili j = n + 1}
if i = n + 1 then Kandidat := j
else Kandidat := i
{ druga faza: provera da li je Kandidat zvezda}
ako Kandidat jeste zvezda}
Jeste := true; {true
k := 1;
while Jeste and k ≤ n do
if P oznaje[Kandidat, k] then Jeste := f alse;
if not P oznaje[k, Kandidat] then
if Kandidat 6= k then Jeste := f alse;
k := k + 1;
if Jeste then Zvezda := Kandidat
else Zvezda := 0 { nema zvezde}
end
Ris. 5. Algoritam za pronalaee zvezde.

4.6. Primer primene dekompozicije:
pravougaonika maksimum skupa
Do sada smo imali primere sa grafovima i numeriqke probleme. Sada
emo se pozabaviti primerom u kome treba iscrtati neke figure. Neka su L,
D i V realni brojevi takvi da je L < D i V > 0. Pravougaona funkcija
(pravougaonik) sa parametrima ½(L, D, V ) je funkcija
0, x < L ili x ≥ D
f (x) =
L,D,V .
V, L ≤ x < D
Problem. Dato je n pravougaonika f (x), i = 1, 2, . . . , n. Potrebno
je odrediti "konturu" ovog skupa pravougaonika, odnosno funkciju
Li ,Di ,Vi
f (x) = max {fLi ,Di ,Vi (x) | i = 1, 2, . . . , n}

4.6. PRIMER PRIMENE DEKOMPOZICIJE: MAKSIMUM SKUPA PRAVOUGAONIKA67
Primer ulaza i izlaza prikazan je na slici 6: ulaz su qetiri pravouga-
onika (1, 4, 4), (2, 5, 6), (3, 3, 8) i (7, 4, 10), slika 6(a), a rezultujua kontura
prikazana je na slici 6(b). Izlazna funkcija f (x) moe se opisati skupom
intervala na kojima ona ima konstantnu vrednost, i vrednostima u tim in-
tervalima. Drugim reqima, f (x) se zadaje nizom parova (x , v ), i = 1, 2, . . . , k
(pri qemu je v = 0), tako da je f (x) = v za x ≤ x < x , i = 1, 2, . . . , k. Zbog i i
jednostavnosti pretpostav a da je jox x = −∞, v = 0, x = ∞. U primeru

k i i i+1
sa slike 6(b) funkcija f (x) opisuje se nizom parova (1, 4), (2, 5), (6, 3), (7, 4),
0 0 k+1
(10, 0).
4 4
3 3
2 2
1 1
(a) (b)
1 2 3 4 5 6 7 8 9 10 1 2 3 4 5 6 7 8 9 10
Ris. 6. Problem nalaea maksimuma skupa pravougaonika:

(a) ulaz; (b) izlaz.
Direktni pristup rexavau ovog problema zasniva se na proxirivau
rexea korak po korak, tj. proxirivau rexea za prvih n−1 pravougaonika
novim, n-tim pravougaonikom. Baza indukcije n = 1 je jednostavna: pravouga-
onik f (x) pretvara se u funkciju f
L1 ,D1 ,V1 (x). Da bi se maksimumu (L1 ,V1 ),(D1 ,0)
fn−1 (x) = f(x1 ,v1 ),(x2 ,v2 ),...,(xk ,vk ) (x)
prik uqio n-ti pravougaonik f (x), treba pronai takve indekse i, j ,

da je x ≤ L < x , x ≤ D < x , 0 ≤ i ≤ j ≤ k: vrednost funkcije f (x)
Ln ,Dn ,Vn
moe se pri prelasku na f (x) promeniti samo u onim intervalima konstant-

i n i+1 j n j+1 n−1
nosti sa kojima interval [L , D )) ima neprazan presek. Novi maksimum je

n
i i
x < L ili x ≥ D
½
f (x), n−1 n n
f (x) = n .
max{fn−1 (x), Vn }, Ln ≤ x < Dn
Intervali konstantnosti [x , x ) i [x , x ) funkcije f (x) u opxtem

sluqaju bivaju taqkama L i D pode eni na podintervale [x , L ), [L , x ),
i i+1 j j+1 n−1
odnosno [x , D ), [D , x ), u kojima je vrednost f (x) konstantna; pored to-

n n i n n i+1
ga, u intervalima [x , x ), l = i + 1, . . . , j − 1 u kojima f (x) ima vrednost

j n n j+1 n
mau od V , f (x) dobija novu (u odnosu na f (x)) vrednost V . U primeru

l l+1 n−1
na slici 7 je n = 5, (L , D , V ) = (5, 9, 4.5), i

n n
n n n
n−1 n
fn−1 (x) = f(1,4),(2,5),(5,6),(9,4),(10,0) (x),

fn (x) = f(1,4),(2,5),(6,4.5),(9,4),(10,0) (x).
4
3
2
1
1 2 3 4 5 6 7 8 9 10
Ris. 7. Dodavae novog pravougaonika maksimumu prethod-

nih n − 1 sa slike 6.
Ovaj algoritam je korektan, ali nije efikasan: dodavae n-tog pravougao-
nika funkciji f (x) zahteva O(n) koraka, pa je ukupna sloenost O(n ). Al-
2
goritam se moe usavrxiti primenom metoda dekompozicije (odnosno "zava-

n−1
di, pa vladaj, engleski divide–and–conquer ). Umesto prelaska sa

n − 1 na n, efikasnije je proxirivati rexee sa n/2 na n pravougaonika.
Bazni sluqaj je ve razmotren. Metod dekompozicije obuhvata podelu ulaza
na mae podskupove, ihovu obradu rekurzivnim pozivom procedure i objed-
iavae dobijenih rexea. Najqexe se problem deli u potprobleme pod-
jednake veliqine. Kao xto smo videli u poglav u 2, rexee diferencne
jednaqine T (n) = T (n − 1) + cn je T (n) = O(n ), dok je rexee jednaqine
2
T (n) = 2T (n/2) + cn dato sa T (n) = O(n log n). Dakle, ako podelimo problem
na dva jednaka potproblema i dobijena rexea potproblema objedinimo za lin-
earno vreme, onda je sloenost algoritma O(n log n). Tehnika dekompozicije
je vrlo korisna, u xta emo se vixe puta uveriti.
U problemu sa pravougaonicima dekompozicija se zasniva na zapaan-
ju da je za dodavae novog pravougaonika funkciji f (x) potrebno u naj-
gorem sluqaju linearno vreme, a da se za linearno vreme mogu objediniti i
n−1
dve razliqite funkcije f (x) i f (x), rexea dva potproblema za po n/2

0 00
pravougaonika. Za asimptotski isto vreme postie se mnogo vixe koristei

n/2 n/2
drugi pristup. Dve u delovima konstantne funkcije mogu se kombinovati u

osnovi istim algoritmom kojim je kombinovan jedan pravougaonik sa jednom
takvom funkcijom (slika 8). Prekidne taqke dveju funkcija f (x) i f (x)
0 00
se prolaze istovremeno sleva u desno, identifikuju se x-koordinate kraje-

n/2 n/2
va intervala konstantnosti funkcije f (x) i odreuju vrednosti f (x) u tim

intervalima. Objediavae se izvrxava za linearno vreme, pa je sloenost
n n
kompletnog algoritma O(n log n) u najgorem sluqaju. Ovaj algoritam je sliqan

algoritmu sortiraa objediavaem, ode ak 5.3.3 (videti zadatak 4.9).
Komentar. Trudite se da za uloeno uvek dobijete xto je mogue vixe.
Ako vax algoritam sadri korak koji je opxtiji nego xto je potrebno, raz-
motrite mogunost da taj korak primenite na najtei deo problema. Dekom-
pozicija je ovde korisna, jer do maksimuma koristi korak objediavaa. Difer-
encne jednaqine iz ode ka 2.5.4 pokrivaju veinu uobiqajenih algoritama za-
snovanih na dekompoziciji, pa je korisno znati ihova rexea.
4.7. IZRAQUNAVA E FAKTORA RAVNOTEE BINARNOG STABLA 69
5
4
3
2
1
1 2 3 4 5 6 7 8 9 10 11
Ris. 8. Odreivae maksimuma dve u delovima konstantne funkcije.

4.7. Izraqunavae faktora ravnotee binarnog stabla
Neka je T binarno stablo sa korenom r. Visina qvora v je rastojae
od v do najda eg potomka. Visina stabla je visina egovog korena. Faktor
ravnotee qvora v definixe se kao razlika visina egovog levog i desnog
podstabla. U ode ku 3.5 razmatrana su AVL stabla | binarna stabla qiji svi
qvorovi imaju faktore ravnotee −1, 0 ili 1. Ovde emo se baviti proizvo n-
im binarnim stablima. Na slici 9 prikazano je binarno stablo kod koga je uz
svaki qvor upisan par h/b, gde je h visina qvora, a b egov faktor ravnotee.
3/0
c
2/0 c c 2/ − 2
1/1 c c 1/ − 1 c 1/1
c c c
Ris. 9. Binarno stablo sa oznakama h/b uz unutraxe

qvorove (h { visina, b { faktor ravnotee qvora).
Problem. Za zadato stablo T sa n qvorova izraqunati faktore ravnotee
svih qvorova.
Pokuxaemo sa induktivnim pristupom i najjednostavnijom induktivnom
hipotezom.
Induktivna hipoteza. Znamo da izraqunamo faktore ravnotee svih
qvorova u stablima sa < n qvorova.
Bazni sluqaj n = 1 je trivijalan. Ako je dato stablo sa n > 1 qvoro-
va, moemo da uklonimo koren, zatim da reximo problem (induktivno) za
dva podstabla koja su preostala. Opredelili smo se za uklaae korena zbog
toga xto faktor ravnotee qvora v zavisi samo od qvorova ispod v. Zbog to-
ga znamo faktore ravnotee svih qvorova izuzev korena. Meutim, faktor
ravnotee korena zavisi ne od faktora ravnotee, nego od visina egovih
sinova. Zak uqujemo da u ovom sluqaju jednostavna indukcija ne rexava prob-
lem. Potrebno je da znamo visine sinova korena. Ideja je da nalaee visina
qvorova prik uqimo polaznom problemu.
Pojaqana induktivna hipoteza. Znamo da izraqunamo faktore ravno-
tee i visine svih qvorova u stablima koja imaju < n qvorova.
Bazni sluqaj je ponovo trivijalan. Kad sada posmatramo koren proizvo -
nog stabla, egov faktor ravnotee moemo lako da odredimo kao razliku
visina egovih sinova. Moemo da odredimo i visinu korena: to je vea od
visina egovih sinova, uveana za jedan. Lako je proveriti da se sluqaj kad
nema levog ili desnog podstabla, moe rexiti tako da se visina nepostojeeg
sina zameni sa −1.
Karakteristika ovog algoritma je da on rexava nexto opxtiji problem.
Umesto da raqunamo samo faktore ravnotee, mi izraqunavamo i visine qvo-
rova. Ispostav a se da je opxtiji problem lakxi, jer se visine lako raqunaju.
Ako je rexee opxtije (jer je problem proxiren), onda induktivni korak
moe biti jednostavniji, jer posedujemo snanija sredstva. Uobiqajena grexka
pri rexavau xireg problema je da se zaboravi na postojae dva parametra,
i da se svaki od ih mora posebno izraqunati.
4.8. Nalaee maksimalnog uzastopnog podniza
Problem. Zadat je niz x , x ,... x realnih brojeva (ne obavezno poz-
itivnih). Odrediti podniz x , x ,... x uzastopnih elemenata sa najveom
1 2 n
moguom sumom. i i+1 j
Za ovakav podniz rei emo da je maksimalni podniz. Na primer, u nizu

(2, −3, 1.5, −1, 3, −2, −3, 3) maksimalni podniz je 1.5, −1, 3, sa sumom 3.5. Moe
da postoji vixe maksimalnih podnizova datog niza. Ako su svi qlanovi niza
negativni, onda je maksimalni podniz prazan (po definiciji, suma praznog
niza je 0). Voleli bismo da imamo algoritam koji rexava ovaj problem i pre-
gleda (prolazi niz redom sleva u desno) niz samo jednom.
Induktivna hipoteza. Znamo da naemo maksimalni podniz u nizovima
duine < n.
Za n = 1 maksimalni podniz je broj x ako je x ≥ 0, odnosno prazan podniz
ako je x < 0. Posmatrajmo niz S = (x , x , . . . , x ) duine n > 1. Prema
1 1
induktivnoj hipotezi mi umemo da pronaemo maksimalni podniz S niza

1 1 2 n
0
). Ako je S prazan podniz, onda su svi brojevi u nizu S

M
0 0 0
negativni, pa ostaje da se razmotri samo x . Pretpostavimo sada da je S =

S = (x , x , . . . , x
1 2 n−1 M
0
(x , x , . . . , x ) za neke indekse i i j takve da je 1 ≤ i ≤ j ≤ n−1. Ako je j = n−1

n M
(odnosno maksimalni podniz je sufiks), onda je lako ovo rexee proxiriti

i i+1 j
na S: ako je broj x pozitivan, onda on produuje S , a u protivnom podniz S

0 0
je maksimalan i u S. Meutim, ako je j < n − 1, onda postoje dve mogunosti.

n M M
Ili S ostaje maksimalni podniz u S, ili postoji drugi podniz koji nije
0
maksimalan u S , ali posle dodavaa x postaje maksimalan u S.

M
0
n
4.8. NALAE E MAKSIMALNOG UZASTOPNOG PODNIZA 71
K uqna ideja je da se pojaqa induktivna hipoteza. Ona e biti demon-
strirana na primeru nalaea maksimalnog podniza, a zatim e nexto opxti-
je biti razmotrena u sledeem ode ku. Problem sa razmotrenom induktivnom
hipotezom je u tome xto x moe da produi podniz koji nije maksimalan
u S i tako formira novi maksimalni podniz u S. Prema tome, nije dovo no
0
n
samo poznavae maksimalnog podniza u S . Meutim, x moe da produi samo

0
podniz koji se zavrxava sa x , odnosno sufiks niza S . Pretpostavimo da

n
0
smo pojaqali induktivnu hipotezu tako da obuhvati i nalaee maksimalnog

n−1
sufiksa, oznaqenog sa S = (x , x , . . . , x ).
0
E k k+1 n−1
Pojaqana induktivna hipoteza. U nizovima duine < n umemo da

pronaemo maksimalni podniz, i maksimalni sufiks.
Ako za podniz S znamo oba ova podniza, algoritam postaje jasan. Mak-
0
simalni sufiks proxirujemo brojem x . Ako je dobijena suma vea od sume

(globalno) maksimalnog podniza, onda imamo novi maksimalni podniz (takod-
n
je i novi maksimalni sufiks). U protivnom, zadravamo prethodni maksi-

malni podniz. Posao time nije zavrxen: potrebno je odrediti i novi maksi-
malni sufiks. U opxtem sluqaju novi maksimalni sufiks se ne dobija uvek
proxirivaem starog brojem x . Moe se dogoditi da je maksimalni sufiks
koji se zavrxava sabirkom x negativan. Tada je novi maksimalni sufiks ust-
n
vari prazan podniz, sa sumom 0. Algoritam za nalaee maksimalnog podniza

n
prikazan je na slici 10.

Algoritam
Ulaz: (niz duine ).
Max uzast podniz(X, n);
Izlaz:
X n
(suma maksimalnog podniza).
Glob max
begin
Glob max := 0; { poqetna vrednost globalno maks. sume}
Suf max := 0; { poqetna vrednost sume maks. sufiksa}
for i := 1 to n do
if x[i] + Suf max > Glob max then
Suf max := Suf max + x[i];
Glob max := Suf max;
else if x[i] + Suf max > 0 then
Suf max := Suf max + x[i];
else Suf max := 0
end
Ris. 10. Algoritam za nalaee maksimalnog podniza

zadatog niza.
4.9. Pojaqavae induktivne hipoteze
Pojaqavae induktivne hipoteze je jedna od najvanijih tehnika za doka-
zivae teorema indukcijom. Prilikom traea dokaza qesto se nailazi na
sledeu situaciju. Neka je teorema koju treba dokazati oznaqena sa P . In-
duktivna hipoteza moe se oznaqiti sa P (< n), a dokaz teoreme svodi se na
dokazivae taqnosti tvrea P (< n) ⇒ P (n). U mnogo sluqajeva moe se
uvesti dopunska pretpostavka Q, koja olakxava dokaz. Drugim reqima, lakxe
je dokazati [P ∧ Q](< n) ⇒ P (n) nego P (< n) ⇒ P (n). Pretpostavka moe
da izgleda korektna, ali nije jasno kako se moe dokazati. Ideja se sastoji
u tome da se Q uk uqi u induktivnu hipotezu. Sada je potrebno dokazati da
[P ∧ Q](< n) ⇒ [P ∧ Q](n). Konjunkcija P ∧ Q je jaqe tvree nego samo P , ali
se qesto jaqa tvrea lakxe dokazuju. Proces se nastav a, i posle odreenog
broja uvedenih pretpostavki moe da dovede do zavrxetka dokaza. Problem
nalaea maksimalnog podniza je dobar primer kako se ovaj princip moe
iskoristiti za usavrxavae algoritama.
Najqexa grexka prilikom korixea ove tehnike je previd qienice
da je dodata dopunska pretpostavka u trenutku kad treba korigovati dokaz.
Drugim reqima, mi dokazujemo tvree [P ∧ Q](< n) ⇒ P (n), zaborav ajui
da je uvedena dopunska pretpostavka Q. U primeru sa maksimalnim podnizom
do ove grexke bi doxlo ako ne bismo izraqunali novi maksimalni sufiks.
Sliqno, u primeru sa nalaeem faktora ravnotee qvorova binarnog sta-
bla, ovakva grexka bila bi ako se ne izraquna visina korena stabla. Prema
tome, vano je precizno registrovati promene induktivne hipoteze.
4.10. Dinamiqko programirae, problem ranca
Pretpostavimo da ranac treba napuniti stvarima. Stvari mogu da budu
razliqitog oblika i veliqine, a ci je da se u ranac upakuje xto je mogue
vixe stvari. Umesto ranca to moe da bude kamion, brod ili silicijumski
qip, a problem je pakovae elemenata. Postoji mnogo varijanti ovog problema;
ovde e biti razmatrana varijanta sa jednodimenzionalnim predmetima.
Problem. Dat je prirodan broj K i n predmeta razliqitih veliqina
(teina), tako da i-ti predmet ima veliqinu k , 1 ≤ i ≤ n. Pronai podskup
predmeta qija je suma veliqina jednaka taqno K , ili ustanoviti da takav
i
podskup ne postoji.
Oznaqimo problem sa P (n, K), gde n oznaqava broj predmeta, a K veliqinu
(nosivost) ranca. Veliqine predmeta podrazumevaju se implicitno, odnosno
ihove veliqine nisu deo eksplicitne oznake problema. Na taj naqin P (i, k)
oznaqava problem sa prvih i predmeta i rancem velicine k. Zbog jednostavnos-
ti ograniqavamo sa na problem odluqivaa da li rexee postoji. Zapoqiemo
sa najjednostavnijim induktivnim pristupom.
Induktivna hipoteza (prvi pokuxaj). Umemo da reximo P (n − 1, K).
4.10. DINAMIQKO PROGRAMIRA E, PROBLEM RANCA 73
Bazni sluqaj je jednostavan: rexee postoji akko je k = K . Ako postoji
rexee problema P (n − 1, K), onda je to i rexee P (n, K): u to rexee ne
1
ulazi predmet veliqine k . U protivnom, ako ne postoji rexee P (n − 1, K),

postav a se pitae | moe li se iskoristiti ovaj negativni rezultat? Najpre
n
zak uqujemo da n-ti predmet mora biti uk uqen u zbir. Tada ostali predmeti
moraju stati u mai ranac veliqine K − k . Problem je time sveden na dva
maa problema P (n − 1, K) i P (n − 1, K − k ). Da bi se rexee kompletiralo,
n
trebalo bi pojaqati induktivnu hipotezu. Potrebno je imati rexea ne samo

n
za ranac veliqine K , nego i za rance veliqine mae od K .

Induktivna hipoteza (drugi pokuxaj). Umemo da reximo P (n − 1, k) za
sve k, 0 ≤ k ≤ K .
Ova induktivna hipoteza omoguuje nam da reximo P (n, k) za 0 ≤ k ≤ K .
Bazni sluqaj P (1, k) se lako rexava: za k = 0 uvek postoji rexee (trivijalno,
nula sabiraka), a u protivnom rexee postoji akko je k = k. Problem P (n, k)
svodi se na dva problema P (n−1, k) i P (n−1, k−k ) (drugi problem otpada ako
1
je k − k < 0). Oba ova problema se mogu rexiti indukcijom. Poxto je svoee
n
kompletno, algoritam je konstruisan. Meutim, ovaj algoritam je neefikasan.

n
Problem veliqine n sveden je na dva problema veliqine n−1 (istina, u jednom

od potproblema smaena je vrednost k). Svaki od novih problema svodi se na
po dva naredna problema, itd, xto dovodi do eksponencijalnog algoritma.
Na sreu, u mnogo sluqajeva mogue je pobo xati efikasnost prilikom
rexavaa ovakvih problema. Zapaa se da ukupan broj razliqitih problema
ne mora biti preveliki: prvi parametar moe da ima najvixe n, a drugi na-
jvixe K razliqitih vrednosti. Ukupno je broj razliqitih problema najvixe
nK . Eksponencijalno vreme izvrxavaa algoritma je posledica dupliraa
broja problema posle svakog svoea. Poxto ukupno ima nK razliqitih prob-
lema, jasno je da su neki od ih (ako je 2 > nK ) vixe puta rexavani. Korisna
n
ideja je pamtiti sva naena rexea da bi se izbeglo ponov ae rexavaa is-
tih problema. Ovaj pristup je kombinacija pojaqavaa induktivne hipoteze i
korixea potpune indukcije. Razmotriemo sada kako se ovaj pristup moe
praktiqno realizovati.
Za smextae svih izraqunatih rezultata koristi se posebna matrica di-
menzije n × K . Elemenat (i, k) matrice sadri informacije o rexeu P (i, k):
Svoee po drugoj varijanti induktivne hipoteze ekvivalentno je izraquna-
vau jedne vrste na osnovu prethodne vrste matrice. Svaki elemenat se izraqu-
nava na osnovu dva elementa iz prethodne vrste. Ako je potrebno odrediti i
podskup sa zadatim zbirom, onda uz svaki elemenat matrice treba saquvati
i informaciju o tome da li je odgovarajui elemenat skupa uk uqen u zbir
u tom koraku. Pratei ove informacije unazad od elementa (n, K), moe se
rekonstruisati podskup sa zbirom K . Algoritam je prikazan na slici 11, a
u tabeli 1 prikazan je jedan primer. Matrica P je zbog udobnosti dimenzije
(n + 1) × (k + 1) i sadri elemente P [i, k], 0 ≤ i ≤ n, 0 ≤ k ≤ K .
Algoritam
Ulaz: (vektor duine sa veliqinama predmeta) i (veliqina ranca).
Ranac(S, K);
Izlaz: (matrica, tako da je

S n K
P akko postoji rexee problema
P [i, k].P ostoji = true
ranca sa prvih i predmeta, za veliqinu ranca k; P [i, k].P ripada = true akko i-ti
predmet pripada tom rexeu).
begin
P [0, 0].P ostoji := true;
for k := 1 to K do
P [0, k].P ostoji := f alse;
{ elementi P [i, 0] za i ≥ 1 bie izraqunati na osnovu P [0, 0]}
for i := 1 to n do
for k := 0 to K do {izraqunavae elementa P [i, k]}
P [i, k].P ostoji := f alse; {polazna vrednost}
if P [i − 1, k].P ostoji then
P [i, k].P ostoji := true;
P [i, k].P ripada := f alse
else if k − S[i] ≥ 0 then
if P [i − 1, k − S[i]].P ostoji then
P [i, k].P ostoji := true;
P [i, k].P ripada := true;
end
Ris. 11. Algoritam za rexavae problema ranca.

0 1 2 3 4 5 6 7 8 9 10 11
- - - - - - - I - - -
- - - - I - - O - - -
k1 =8 O
- - - I O - - O I - -
k2 =5 O
- - I O O - I I O - I
k3 =4 O
Tablica 1. Primer tabele formirane pri rexavau prob-

k4 =3 O
lema ranca. Ulaz su n = 4 predmeta veliqina 8, 5, 4 i 3, a

veliqina ranca je K = 11. Simbol "I " znaqi da postoji rexe-
e koje obuhvata predmet iz odgovarajue vrste; "O": postoji
rexee, ali samo bez tog predmeta; "-": ne postoji rexee.
Metod korxen za rexavae ovog problema je specijalni sluqaj opxte
tehnike koja se zove dinamiqko programirae. Suxtina dinamiqkog pro-
gramiraa je formirae velikih tabela (u opxtem sluqaju vixedimenzion-
alnih) sa svim prethodnim rezultatima. Tabele se konstruixu iterativno.
Svaki elemenat se izraqunava na osnovu ve izraqunatih elemenata. Osnov-
ni problem je organizovati izraqunavae elemenata tabele na najefikasniji
naqin. Drugi primer dinamiqkog programiraa bie prikazan u ode ku 5.7.
4.11. UOBIQAJENE GREXKE 75
Sloenost. U tabeli ima nK elemenata. Svaki od ih izraqunava se
za konstantno vreme na osnovu druga dva elementa, pa je ukupna vremenska
sloenost algoritma O(nK). Ako predmeti nisu preveliki, onda K ne moe
biti preveliko, pa je nK ¿ 2 . Ako je K jako veliko, ili su veliqine predmeta
n
realni brojevi, onda je ovaj pristup neprimen iv; na ovaj problem vratiemo
se u poglav u 11). Ako je potrebno samo ustanoviti da li rexee postoji,
onda je odgovor sadran u elementu P [n, K]. Ako pak treba odrediti podskup sa
zbirom K , onda treba prei put unazad, polazei od pozicije (n, K), koristei
po e P ostoji elemenata matrice iz programa. Predmet teine k pripada
skupu akko je P [n, K].P ripada taqno; ako je P [n, K].P ripada taqno, odnosno
n
netaqno, onda se da e na isti naqin posmatra elemenat P [n−1, K−k ], odnosno

P [n − 1, K] iz n − 1-e vrste, itd. Podskup se rekonstruixe za O(n) koraka.
n
Prostorna sloenost ovog algoritma je O(nK). Ako se zahteva samo odgo-

vor na pitae da li postoji podskup sa zbirom K , lako je modifikovati al-
goritam tako da mu prostorna sloenost bude O(K): naredna vrsta se izraqu-
nava na osnovu prethodne, pa je za izraqunavae elementa P [n, K] dovo no
imati prostor za smextae dve uzastopne vrste matrice. Da e usavrxavae
dovodi do algoritma prostorne sloenosti O(K) koji omoguuje i efektivno
pronalaee podskupa sa zbirom K , videti zadatak 4.15.
Komentar. Dinamiqko programirae je efikasno kad se problem moe
svesti na nekoliko maih, ali ne sasvim malih potproblema. Rexavaju se
svi mogui potproblemi. Rezultati izraqunavaa quvaju se u odgovarajuoj
tabeli. Dakle, dinamiqko programirae je praktiqno izvod ivo samo ako
broj potproblema nije preveliki. Qak i tada dinamiqko programirae radi
sa velikim tabelama, pa obiqno zahteva veliki memorijski prostor. U nekim
sluqajevima, kao u algoritmu Ranac na slici 11, mogue je rexiti problem
koristei mai prostor, tako xto se u memoriji u jednom trenutku quva samo
mai deo (dve vrste) matrice. Vremenska sloenost je obiqno bar kvadratna.
4.11. Uobiqajene grexke
Osvrnuemo se na neke mogue grexke prilikom induktivne konstrukcije
algoritama. Grexke prilikom izvoea dokaza indukcijom ve su razmotrene
u ode ku 1.11. Sve te grexke ovde imaju svoje analogone. Na primer, qesto se
zaborav a na bazu indukcije. U sluqaju rekurzivne procedure bazni sluqaj je
od suxtinskog znaqaja, jer se kroz ega izlazi iz rekurzije. Druga qesta grex-
ka je proxirivae rexea za n na rexee specijalnog, umesto proizvo nog
sluqaja problema za n + 1.
Nenamerna promena induktivne hipoteze je takoe qesta grexka. Demon-
striraemo to na jednom primeru. Graf G je bipartitni ako se egov skup
qvorova moe predstaviti kao disjunktna unija dva podskupa, tako da ne pos-
toji grana izmeu dva proizvo na qvora iz istog poskupa. Za povezan bi-
partitni graf je ovakvo razlagae u disjunktnu uniju jednoznaqno, videti
zadatak 6.22.
Problem. Za zadati povezani neusmereni graf G ustanoviti da li je
bipartitni, a ako jeste, pronai odgovarajue razlagae egovih qvorova u
disjunktnu uniju.
Pogrexno rexee: Uklaamo qvor v i razlaemo ostatak grafa indukci-
jom, ako je mogue. Prvi podskup zvaemo beli, a drugi crni. Ako je v povezan
samo sa belim qvorovima, prik uqujemo ga crnom skupu, i obrnuto | ako
je v povezan samo sa crnim qvorovima, prik uqujemo ga belom skupu. Ako je
v povezan sa qvorovima iz oba podskupa, onda graf nije biparititan, jer je
razlagae jednoznaqno.
Osnovna grexka u ovom rexeu (a to je grexka koju smo nameravali da
ilustrujemo) je u tome xto posle uklaaa qvora v graf ne mora da ostane
povezan. Prema tome, mai primer problema nije isti kao polazni, pa se
indukcija ne moe koristiti. Ako bismo uklonili qvor koji ne "razbija"
graf, rexee bi bilo korektno.
4.12. Rezime
U ovom poglav u prikazano je vixe tehnika za konstrukciju algorita-
ma, koje su ustvari varijante jednog istog pristupa. Nove tehnike i brojni
primeri bie dati u narednim poglav ima. Najbo i naqin da se te tehnike
savladaju je da se one koriste za rexavae problema. Prilikom rexavaa
problema korisno je imati na umu sledee sugestije:
• Princip indukcije koristi se da se ulaz za problem svede na jedan
ili vixe maih. Ako se svoee moe uvek izvesti, a bazni sluqaj
se moe rexiti, onda je algoritam definisan indukcijom, odnosno
dobijen je rekurzivni algoritam. Osnovna ideja je da se paa skon-
centrixe na smaivae problema, a ne na egovo direktno rexavae.
• Jedan od najlakxih naqina da se smai problem je eliminacija nekih
egovih elemenata, xto se moe pokuxati na vixe naqina. Pored
eliminacije elemenata koji su oqigledno suvixni (kao u ode ku 4.3),
mogue je spajae dva elementa u jedan, pronalaee elemenata koji
se mogu obraditi na poseban naqin, ili uvoee novog elementa koji
preuzima ulogu dva ili vixe polaznih elemenata (ode ak 5.5).
• Veliqina problema moe se smaiti na vixe naqina. Meutim, ne
dobija se svakom od tih redukcija algoritam iste efikasnosti. Za-
to je korisno razmotriti razliqite redoslede primene induktivne
hipoteze.
• Jedan od najefikasnijih naqina za smaivae veliqine problema je
egova podela na dva ili vixe podjednakih delova. Dekompozicija je
efikasna ako se problem moe podeliti, tako da se od rexea pot-
problema lako dobija rexee celog problema. Algoritmi zasnovani
na dekompoziciji razmatrani su u ode cima 5.3, 5.4, 7.2, 7.4, 8.4, 8.5.
• Prilikom svoea na mae potprobleme, treba teiti da potprob-
lemi budu xto nezavisniji. Na primer, problem sortiraa moe se
ZADACI 77
svesti na pronalaee i uklaae najmaeg elementa; redosled os-
talih ne zavisi od ukloenog elementa (videti ode ke 5.3,6.5).
• Na kraju, sve nabrojane tehnike treba koristiti zajedno, kombinujui
ih na razne naqine. Na primer, moe se koristiti dekompozicija sa
pojaqavaem induktivne hipoteze, tako da se dobijeni potproblemi
lakxe kombinuju (ode ak 7.4).
Zadaci
4.1. Konstruisati algoritam za izraqunavae vrednosti polinoma zasnovan na dekom-
poziciji. Koliki je broj sabiraa i mnoea potreban?
4.2. Razmotriti algoritam Bijekcija sa slike 4. Da li je mogue da skup S postane
prazan na kraju izvrxavaa algoritma? Navesti takav primer, ili dokazati da se to ne
moe desiti.
4.3. Xta je invarijanta pet e u prvoj while pet i algoritma Zvezda (slika 5)?
4.4. Dato je binarno stablo T . Konstruisati efikasan algoritam koji daje odgovor na
pitae da li je T AVL stablo.
4.5. Unutraxi qvor v binarnog stabla je S-AVL qvor ako levo i desno podstablo
imaju jednake visine. Konstruisati algoritam linearne sloenosti koji oznaqava sve S-
AVL qvorove datog binarnog stabla, qiji ni jedan potomak nije S-AVL qvor.
4.6. Za binarno stablo kaemo da je L-AVL stablo ako za svaki egov unutraxi
qvor levo podstablo ima visinu za jedan veu od desnog. Konstruisati algoritam linearne
sloenosti za proveru da li je dato stablo L-AVL stablo.
bla.
4.7. Konstruisati algoritam koji proverava da li su jednaka dva zadata binarna sta-
4.8. Precizirati rexee problema ranca korixeem po a P ripada (slika 11).
4.9. Neka su date dve funkcije, f (x) i f (x),
0
0 00
f (x) = f(x0 ,h0 ),(x0 ,h0 ),...,(x0 ,h0 ) (x),

1 1 2 2 k k
f 00 (x) = f(x00 ,h00 ),(x00 ,h00 ),...,(x00 ,h00 ) (x),

maksimumi dve grupe od po n/2 pravougaonih funkcija (videti ode ak 4.6); k, l ≤ n, h =
1 1 2 2 l l
0
h = 0. Funkcija f (x) (i sliqno f (x)) ima u intervalima [x , x ) konstantnu vrednost h ,

k
0 0 00 0 0 0
0 ≤ i ≤ k, pri qemu se zbog udobnosti uzima da je x = x = −∞, h = h = 0, x = +∞.

l i i+1 i
0 00 0 00 0
Konstruisati algoritam sloenosti O(n) za odreivae funkcije f (x) = max{f (x), f (x)}.
0 0 0 0
0
k+1
00
4.10. Modifikacija problema maksimum skupa pravougaonika: Umesto pravougaonika

(L, D, V ) sa x-koordinatama levog L i desnog kraja D, odnosno visinom V , koji "lei"
na x-osi, sada (L, D, V ) predstav a figuru dobijenu dodavaem "krova" (jednakokrako-
pravouglog trougla sa hipotenuzom duine D − L na goroj ivici pravougaonika) na pra-
vougaonik. Zadatak ostaje isti | odrediti maksimum n ovakvih funkcija algoritmom
sloenosti O(n log n).
4.11. Neka je x , x , . . . , x niz realnih (ne obavezno pozitivnih) brojeva. Konstruisati
algoritam sloenosti O(n) za odreivae podniza x , x , . . . , x sa najveim moguim
1 2 n
proizvodom, 1 ≤ i ≤ j ≤ n. Proizvod praznog podniza je po definiciji jednak 1.

i i+1 j
4.12. Za qvor binarnog stabla (koje u opxtem sluqaju ne mora da bude AVL stablo)
kazemo da je AVL qvor ako je egov faktor ravnotee iz skupa {0, ±1}. Konstruisati
algoritam koji u datom binarnom stablu T oznaqava sve kritiqne qvorove (qvorove koji
nisu AVL qvorovi, a qiji su svi potomci AVL qvorovi).
4.13. Neka je G = (V, E) stablo sa n qvorova. Ci je formirati simetriqnu kvadratnu
matricu reda n, qiji elemenat (i, j) je jednak rastojau izmeu qvorova v i v . Konstru-
isati algoritam sloenosti O(n ) koji rexava ovaj problem ako je stablo zadato listom
2
i j
povezanosti.
4.14. Rastojae izmeu dva qvora stabla je broj grana na jedinstvenom putu koji ih
povezuje. Dijametar stabla T = (V, E) je najvee meu rastojaima neka dva egova qvora.
Konstruisati efikasan algoritam za odreivae dijametra datog stabla, i odrediti egovu
vremensku sloenost.
4.15. Kako se moe pobo xati korixee memorijskog prostora u algoritmu Ranac
sa slike 11? Kolika je prostorna sloenost usavrxenog algoritma?
4.16. Varijanta problema ranca. Dati su brojevi x , x , . . . , x i K; potrebno je pred-
staviti K u obliku zbira nekih brojeva x , 1 ≤ i ≤ n, pri qemu se sabirci mogu ponav ati
1 2 n
proizvo an broj puta. i
4.17. Varijanta problema ranca. Pretpostavke su iste kao i u zadatku 4.16 (n tipova
predmeta teina x , x , . . . , x ; zalihe tih predmeta su neograniqene, i zadata je suma K
teina predmeta u rancu), ali je sada predmetima tipa i pridruena vrednost v , i =
1 2 n
1, 2, . . . , n. Konstruisati algoritam koji ranac puni do vrha, i to predmetima sa najveim

i
zbirom vrednosti; drugim reqima, odrediti nenegativne cele brojeve a , a , . . . , a takve da

je P a k = K , a da suma P a v ima maksimalnu vrednost.
n n
1 2 n
4.18.
i=1 i i i=1 i i
Neka je dat skup prirodnih brojeva {x , x , . . . , x } i neka je S = P x . Kon-

n
struisati algoritam sloenosti O(nS) koji razlae ovaj skup u dva disjunktna podskupa
1 2 n i=1 i
sa jednakim sumama elemenata, ili utvruje da takvo razlagae nije mogue.

4.19. Na raspolagau nam je algoritam u obliku crne kutije (xto znaqi da ne znamo
egove deta e) sa sledeim osobinama: za dati skup od n prirodnih brojeva i prirodni
broj k, algoritam daje odgovor "da" ili "ne", zavisno od toga da li postoji podskup datih
brojeva sa sumom jednakom k. Kako se moe odrediti podskup brojeva sa sumom k (ako postoji),
koristei crnu kutiju O(n) puta?
4.20. Problem hanojskih kula je standardni primer netrivijalnog problema koji ima
jednostavno rekurzivno rexee. Ukupno n diskova razliqite veliqine sloeni su na us-
pravni xtapi A, tako da im veliqine opadaju odozdo navixe. Pored toga, postoje i dva
prazna xtapia B i C . Ci je premestiti sve diskove, jedan po jedan, na drugi xtapi (B
ili C ), na sledei naqin. Diskovi se premextaju sa vrha jednog na vrh drugog xtapia,
ali samo ako disk dolazi na disk vei od sebe (ili na prazan xtapi). Broj premextaa
diskova treba da bude najmai mogui.
(a) Konstruisati indukcijom algoritam za nalaee najkraeg niza poteza koji rexava
problem hanojskih kula sa n diskova.
(b) Koliko poteza traje izvrxavae algoritma? Formirati diferencnu jednaqinu za
broj poteza i rexiti je.
(c) Dokazati da je dobijeni broj poteza u (b) optimalan, odnosno da ne postoji algoritam
koji rexava problem u maem broju poteza.
4.21. Razmotrimo sledeu varijantu problema hanojskih kula (zadatak 4.20). U poqet-
nom poloaju diskovi ne moraju vixe biti na jednom xtapiu. Mogu biti na proizvo an
naqin rasporeeni na tri xtapia, uz uslov da im veliqine opadaju (odozdo navixe) na
svakom xtapiu. Ci koji treba postii ostaje isti, da se svi diskovi premeste na zadati
xtapi (uz ista ograniqea kao i u osnovnom problemu), koristei xto je mae poteza
mogue. Konstruisati algoritam za odreivae najkraeg niza poteza koji rexava ovu va-
rijantu problema hanojskih kula sa n diskova.
Glava 5
Algoritmi za rad sa nizovima i skupovima
5.1. Uvod
U ovom poglav u baviemo se problemima za koje su ulazi konaqni nizovi
ili skupovi. Razlika izmeu nizova i skupova je u tome xto je kod nizova
bitan redosled elemenata, a kod skupova nije. Takoe, kod skupova se pret-
postav a da se jedan isti elemenat pojav uje najvixe jednom, a kod nizova
takve pretpostavke nema. Poxto su ulazni podaci obiqno dati nekim redom,
moemo ih smatrati nizom. Ipak, ulaz se moe smatrati skupom ako nas re-
dosled elemenata ne zanima. Ako se drugaqije ne naglasi, u ovom poglav u se
pretpostav a da je predstava ulaza (ulaznih podataka) vektor zadate veli-
qine. Najqexe se pretpostav a da su to elementi potpuno ureenog skupa
(npr. celi ili realni brojevi), tako da se mogu uporeivati. Razmatraju se
pitaa kao xto su maksimalnost, redosled, specijalni podnizovi, kompresija
podataka i uporeivae nizova.
Razmatra se vixe algoritama sa xirokom primenom. Navode se novi pri-
meri metodologije konstrukcije algoritama uvedene u poglav u 4, ali i ne-
ki vani algoritmi. To su vani i univerzalno primen ivi algoritmi (na
primer binarna pretraga i sortirae), vani algoritmi sa primenom u speci-
fiqnim oblastima (kompresija podataka, uporeivae nizova), kao i ne mnogo
vani algoritmi koji ilustruju vane tehnike (nalaee dva najvea broja
u skupu, problem mucavog podniza).
Prvi primer u ovom poglav u je binarna pretraga | fundamentalni i
elegantan algoritam koji se pojav uje u mnogo oblika i na koga se nailazi
u mnogim situacijama. Zatim se prelazi na sortirae | jedan od najxire
prouqavanih problema, rangovske statistike, kompresiju podataka, dva prob-
lema povezana sa obradom teksta i probabilistiqke algoritme.
5.2. Binarna pretraga i varijacije
Binarna pretraga je za oblast algoritama ono xto je toqak za mehanizme:
ona je jednostavna, elegantna, neizmerno vana, i otkrivana je vixe puta.
Osnovna ideja binarne pretrage je podela prostora na dva priblino jednaka
dela postav aem samo jednog pitaa. U ovom ode ku razmatra se nekoliko
varijacija binarne pretrage.
79
80 5. ALGORITMI ZA RAD SA NIZOVIMA I SKUPOVIMA
5.2.1. Qista binarna pretraga.
Problem. Neka je x , x , . . . , x niz realnih brojeva takav da je x ≤ x ≤
· · · ≤ x . Za zadati realni broj z treba ustanoviti da li se z pojav uje u nizu,
1 2 n 1 2
a ako je odgovor "da", potrebno je pronai indeks i takav da je x = z.

n
i
Zbog jednostavnosti, traimo samo jedan indeks i takav da je z = x . U

opxtem sluqaju ci moe da bude pronalaee svih takvih indeksa, najma- i
eg ili najveeg meu ima i sliqno. Ideja je prepoloviti prostor koji se
pretrauje tako xto se najpre proveri sredi qlan niza. Pretpostavimo zbog
jednostavnosti da je n paran broj. Ako je z mae od x , onda z moe biti
samo u prvoj polovini niza; u protivnom, z moe biti samo u drugoj polovini
n/2+1
niza. Pronalaee z u prvoj ili drugoj polovini niza je problem veliqine

n/2, koji se rexava rekurzivno. Bazni sluqaj n = 1 rexava se neposrednim
uporeivaem z sa elementom. Algoritam je dat na slici 1.
Algoritam
Ulaz: (niz od brojeva, ureenih neopadajue) i (broj koji se trai).
Binarna Pretraga(X, n, z);
Izlaz: (indeks takav da je

X n z
P oz i , ili ako takav indeks ne postoji).
X[i] = z 0
begin
P oz := N adji(z, 1, n);
end
function Nadji(z, Levi, Desni) : integer

begin
if Levi = Desni then
if X[Levi] = z then N adji := Levi
else N adji := 0
else
Srednji = d(Levi + Desni)/2e;
if z < X[Srednji] then
N adji = N adji(z, Levi, Srednji − 1)
else
N adji = N adji(z, Srednji, Desni)
end
Ris. 1. Binarna pretraga.

Sloenost. Posle svakog uporeivaa opseg moguih indeksa se polovi,
pa je potreban broj uporeivaa za pronalaee zadatog broja u nizu veli-
qine n O(log n). Ova varijanta binarne pretrage odlae proveru jednakosti
do samog kraja. Alternativa je provera jednakosti sa z u svakom koraku. Prob-
lem sa prikazanom varijantom je u tome xto se pretraga ne moe zavrxiti
5.2. BINARNA PRETRAGA I VARIJACIJE 81
pre nego xto se opseg za pretragu suzi na samo jedan broj; prednost joj je pak
da se u svakom koraku vrxi samo jedno uporeivae. Ovakva pretraga je zbog
toga obiqno bra. Iako je jednostavnije napraviti rekurzivni program, lako
je ovaj program prevesti u nerekurzivni. Binarna pretraga nije tako efikasna
za male vrednosti n, pa je tada bo e zadati niz pretraiti linearno, qlan
po qlan.
Sledei problem svodi se na binarnu pretragu.
Problem. Za zadati rastue ureeni niz celih brojeva a , a , . . . , a utvr-
diti da li postoji indeks i, takav da je a = i. 1 2 n
i
Zaista, niz x = a − i je neopadajui (jer je x − x = a − a − 1 ≥ 0), a

uslov a = i je ekvivalentan uslovu x = 0. Prema tome, zadati problem rexava
i i i+1 i i+1 i
se binarnom pretragom niza x , u kome se trai broj z = 0.

i
i
i
5.2.2. Binarna pretraga cikliqki ureenog niza. Za niz x , x , ...,

x kae se da je cikliqki ureen ako vae nejednakosti
1 2
n
xi < xi+1 < · · · < xn < x1 < · · · < xi−1 ,

gde je x najmai elemenat niza.
i
Problem. Za zadati cikliqki ureeni niz pronai poziciju minimalnog

elementa niza (zbog jednostavnosti moe se pretpostaviti da je ta pozicija
jedinstvena).
Da bismo pronaxli minimalni elemenat x u nizu, koristimo ideju bi-
narne pretrage da jednim uporeivaem eliminixeno polovinu niza. Uzmimo i
proizvo na dva broja x i x takva da je k < m. Ako je x < x , onda i ne moe

biti u intervalu k < i ≤ m, jer je x najmai elemenat niza (u tom sluqaju
k m k m
bilo bi x < x < x | suprotno pretpostavci da je x < x ). U protivnom,

i
ako je x > x , onda i mora biti u intervalu k < i ≤ m, jer je tada monotonost
i m k k m
niza prekinuta negde u intervalu indeksa [k, m], videti sliku 2. Prema tome,
k m
jednim uporeivaem moe se eliminisati mnogo elemenata. Odgovarajuim

izborom k i m, i se moe odrediti pomou O(log n) uporeivaa, videti al-
goritam na slici 3. Invarijanta glavne pet e algoritma je uslov da se i uvek
nalazi u intervalu [Levi, Desni].
5.2.3. Binarna pretraga niza nepoznate duine. Posmatrajmo var-
ijantu problema pretrage kad se zadati broj z trai u ureenom nizu nepoz-
nate duine. Da bi se problem sveo na ve rexen, potrebno je pronai bar
jedan indeks i takav da je x > z: tada se moe prei na binarnu pretragu
opsega indeksa od 1 do i. i
Moe se postupiti na sledei naqin. Najpre se z uporeuje sa x . Ako je

z ≤ x , onda z moe biti jednako samo broju x . Pretpostavimo da znamo in-
1
deks j takav da je z > x . Posle uporeivaa z sa x postoje dve mogunosti.

1 1
Ako je z ≤ x , onda znamo da je x < z ≤ x , pa se z moe pronai pomou

2j
j
j 2j
2j
xj
6 s
s
s
g
s s
s s
g
s
s
s
j
-
1 k i−1 i m n
Ris. 2. Cikliqki ureen niz | ilustracija.

Algoritam
Ulaz: (vektor sa cikliqki ureenim nizom od razliqitih brojeva).
Cikl Binarna Pretraga(X, n);
Izlaz: (indeks minimalnog elementa u ).

X n
poz X
begin
poz := c N adji(1, n);
end
function c Nadji(Levi, Desni) : integer

begin
if Levi = Desni then
c N adji := Levi
else
Srednji = b(Levi + Desni)/2c;
if X[Srednji] < X[Desni] then
c N adji = c N adji(Levi, Srednji)
else
c N adji = c N adji(Srednji + 1, Desni)
end
Ris. 3. Binarna pretraga cikliqki ureenog niza.

uporeivaa. Ako je pak z > x , onda je prostor za pretraivan-
je udvostruqen, i treba nastaviti (indukcijom) tako xto se j zameni sa 2j.
O(log2 j) 2j
Pretpostavimo da je i najmai indeks takav da je z ≤ x . Tada je dovo no

O(log i) uporeivaa da se (udvostruqavaem) pronae takvo x koje je vee
i
ili jednako od z, i novih O(log i) uporeivaa da se pronae z.

2 j
Isti algoritam moe se upotrebiti i ako je duina niza poznata, ali

2
oqekujemo da je indeks i vrlo mali. Da bi ovaj algoritam bio bo i od obiqne

binarne pretrage, potrebno je da bude priblino 2 log i < log n, odnosno
i < n.
√ 2 2
5.2. BINARNA PRETRAGA I VARIJACIJE 83
5.2.4. Problem mucavog podniza. Princip binarne pretrage moe se
iskoristiti i u problemima koji na prvi pogled nemaju veze sa binarnom
pretragom. Neka su A = a a . . . a i B = b b . . . b dva niza znakova iz
konaqnog alfabeta i m ≤ n. Kae se da je B podniz A ako postoje indek-
1 2 n 1 2 m
si i < i < · · · < i takvi da je b = a za sve indekse j, 1 ≤ j ≤ m, odnosno

ako se niz B moe "uklopiti" u niz A. Lako je ustanoviti da li je B podniz
1 2 m j ij
niza A: u nizu A trai se prva pojava znaka b , zatim od te pozicije da e prva

pojava znaka b , itd. Ispravnost ovog algoritma lako se dokazuje indukcijom.
1
Poxto se elementi oba niza prolaze taqno po jednom, vremenska sloenost

2
algoritma je O(m + n). Za zadati niz B, neka B oznaqava niz u kome se re-
i
dom svaki znak niza B ponav a i puta. Na primer, ako je B = xyzzx, onda je
B = xxxyyyzzzzzzxxx.
3
Problem. Data su dva niza A i B. Odrediti maksimalnu vrednost i takvu

da je B podniz niza A.
i
Ovaj problem moe se nazvati problem mucavog podniza. Iako na prvi

pogled teak, on se lako moe rexiti pomou binarne pretrage.
Za svaku zadatu vrednost i lako se konstruixe niz B , i proverava da i
li je B podniz niza A. Pored toga, ako je B podniz A, onda je za svako i,

i j
1 ≤ i ≤ j , B podniz A. Najvea vrednost za i koju treba razmatrati man-

i
ja je ili jednaka od n/m, jer bi u protivnom niz B bio dui od niza A. i
Dakle, moe se primeniti binarna pretraga. Poqiemo sa i = dn/(2m)e i

proveravamo da li je B podniz A. Zatim nastav amo sa binarnom pretragom,
i
eliminixui doi, odnosno gori podinterval ako je odgovor da, odnosno ne.
Posle dlog (n/m)e testova bie pronaeno maksimalno i. Vremenska sloenost
algoritma je O((n + m) log(n/m)) = O(n log(n/m)). Problemi sa uporeivaem
2
nizova razmatraju se i u ode ku 5.7.

Rexee ovog problema lako je uopxtiti. Pretpostavimo da ako broj i zado-
vo ava uslov P (i), onda i svi brojevi j, 1 ≤ j ≤ i zadovo avaju taj uslov.
Ako traimo maksimalnu vrednost i koja zadovo ava uslov P (i), dovo no je
da imamo algoritam koji utvruje da li zadato i zadovo ava taj uslov. Ta-
da se problem rexava binarnom pretragom moguih vrednosti za i. Ako se ne
zna gora granica za i, moe se iskoristiti postupak sa udvostruqavaem:
poqie se sa i = 1, a zatim se i udvostruqava, sve dok se ne dobije neka gorn-
ja granica. Rezultujui algoritam, iako efikasan, qesto nije optimalan, i
faktor log n iz izraza za vremensku sloenost moe se eliminisati (kao u
sluqaju problema mucavog podniza).
5.2.5. Numeriqko rexavae jednaqina. Postupak binarne pretrage
sliqan je numeriqkom rexavau jednaqine f (x) = 0 na intervalu [a, b] metodom
bisekcije, pri qemu je npr. f (a)f (b) < 0 i funkcija f (x) je neprekidna. Ci
je nai rexee jednaqine sa zadatom taqnoxu.
Poxto je funkcija neprekidna, u intervalu [a, b] jednaqina ima bar jedno
rexee. Izraqunava se vrednost funkcije u taqki x = (a+b)/2. Ako je f (x ) =
0 (u granicama zadate taqnosti), onda je rexee pronaeno. U protivnom,
1 1
funkcija u krajevima jednog od podintervala [a, x ] ili [x , b] ima vrednosti
suprotnog znaka, pa u tom podintervalu postoji bar jedno rexee jednaqine.
1 1
Posle k koraka dolazi se do intervala duine (b − a)/2 koji sadri rexee.

k
Sa polov eem intervala nastav a se do postizaa zahtevane taqnosti.

5.2.6. Interpolaciona pretraga. U okviru binarne pretrage prostor
pretrage se svaki put polovi, xto garantuje logaritamsku vremensku sloe-
nost. Meutim, ako se u toku pretrage naie na vrednost vrlo blisku traenom
broju z, izgleda razumno da se pretraga usredsredi na "okolinu" tog indeksa
umesto da se nastavi sa polov eem naslepo. Specijalno, ako je vrednost z
vrlo mala, moe se zapoqeti sa pretragom negde na poqetku niza umesto od
sredeg indeksa.
Posmatrajmo naqin na koji otvaramo kigu kad traimo neku stranicu.
Neka, na primer, u kizi od 800 strana traimo stranu 200. Ona se nalazi
oko prve qetvrtine kige, pa mi tu qienicu koristimo kad otvaramo kigu.
Verovatno je da neemo odmah pogoditi stranu 200; pretpostavimo da smo ki-
gu otvorili na strani 250. Sada je pretraga suena na opseg od 250 strana, a
traena strana je na oko 4/5 opsega. Mi pokuxavamo da otvorimo kigu na oko
petine pre kraja opsega. Proces nastav amo dok se ne pribliimo dovo no
strani 200, posle qega do e dolazimo okreui stranu po stranu. Opisani
postupak je upravo suxtina interpolacione pretrage. Umesto da polovimo
prostor pretrage, mi ga delimo tako da bude najvea "verovatnoa" uspeha.
Odnos u kome se opseg indeksa deli odreuje se interpolacijom, xto je ilus-
trovano na slici 4. Prvom interpolacijom dobija se indeks 6; ispostav a da
je X[6] < z. Sledea interpolacija u intervalu indeksa [6, 17] dovodi do rex-
ea X[7]. Algoritam, zajedno sa izrazom po kome se vrxi interpolacija, dat
je na slici 5.
z b b
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17
Ris. 4. Interpolaciona pretraga | ilustracija.

5.3. SORTIRA E 85
Algoritam
Ulaz: (niz od neopadajue ureenih brojeva) i (broj koji se trai).
Interpolaciona Pretraga(X, n, z);
Izlaz: (indeks takav da je

X n z
P oz i , ili ako takav indeks ne postoji).
X[i] = z 0
begin
if z < X[1] or z > X[n] then P oz := 0 { neuspexna pretraga}
else P oz := i N adji(z, 1, n);
end
function i Nadji(z, Levi, Desni) : integer

begin
if X[Levi] = z then i N adji := Levi
else if Levi = Desni or X[Levi] = X[Desni] then
i N adji := 0
else
» ¼
(z − X[Levi])(Desni − Levi)
Srednji := Levi + ;
X[Desni] − X[Levi]
if z < X[Srednji] then
i N adji = i N adji(z, Levi, Srednji − 1)
else
i N adji = i N adji(z, Srednji, Desni)
end
Ris. 5. Interpolaciona pretraga.

Sloenost. Efikasnost interpolacione pretrage ne zavisi samo od du-
ine niza, nego i od svih egovih elemenata, odnosno od kompletnog ulaza.
Postoje ulazi za koje interpolaciona pretraga proverava praktiqno svaki
qlan niza (videti zadatak 5.5). S druge strane, interpolaciona pretraga je
vrlo efikasna za ulaze sa priblino uniformno raspode enim elementima
(odnosno ako su taqke (i, x ) grupisane u okolini prave; primer sa strana-
ma u kizi oqigledno spada u ovu kategoriju). Pokazuje se da je sredi broj
i
uporeivaa u toku interpolacione pretrage (usredavae po svim moguim

nizovima) jednak O(log log n). Ipak, interpolaciona pretraga nije mnogo bo a
od obiqne binarne pretrage iz dva razloga. Najpre, sem za jako velike vrednos-
ti n, ve je log n mala vrednost, pa en logaritam nije mnogo mai. Drugo,
kod izbora narednog indeksa u toku interpolacione pretrage potrebno je izvr-
2
xiti nexto komplikovanije aritmetiqke operacije.

5.3. Sortirae
Sortirae je jedan od najxire prouqavanih problema u raqunarstvu. Sor-
tirae je osnova za mnoge algoritme i troxi veliki deo raqunarskog vremena
u mnogim tipiqnim aplikacijama. Postoje mnoge verzije problema sortiraa,
kao i desetine algoritama za sortirae. Ovde emo razmotriti samo nekoliko
poznatijih algoritama.
Problem. Datih n brojeva x , x , . . . , x treba urediti u neopadajui niz.
Drugim reqima, treba pronai niz razliqitih indeksa 1 ≤ i , i , . . . i ≤ n
1 2 n
takvih da je x ≤ x ≤ · · · ≤ x .
i1 i2 in
1 2 n
Zbog jednostavnosti, ako se ne naglasi drugaqije, pretpostav amo da su

brojevi x razliqiti. Svi opisani algoritmi rade ispravno i sa brojevima
koji nisu razliqiti. Za algoritam sortiraa kae se da je u mestu ako se
i
ne koristi dopunski memorijski prostor (osim onog u kome je smexten ulazni

niz).
5.3.1. Sortirae
vrstavaem. razvrstavaem i sortirae vixestrukim raz-
Najjednostavniji postupak sortiraa sastoji se u tome da se
obezbedi dovo an broj lokacija, i da se onda svaki elemenat smesti na svoju
lokaciju. Taj postupak zove se sortirae razvrstavaem. Ako se, na primer,
sortiraju pisma prema odredixtima, onda je dovo no obezbediti jednu pre-
gradu za svako odredixte, i sortirae je vrlo efikasno. Ali ako pisma treba
sortirati prema petocifrenom poxtanskom broju, onda ovaj metod zahteva oko
100000 pregrada, xto postupak qini nepraktiqnim. Prema tome, sortirae
razvrstavaem radi dobro ako su elementi iz malog, jednostavnog opsega, koji
je unapred poznat. Prelazimo na deta niji opis ovog algoritma.
Neka je dato n elemenata, koji su celi brojevi iz opsega od 1 do m ≥ n.
Rezervixe se m lokacija, a onda se za svako i broj x stav a na lokaciju
x koja odgovara egovoj vrednosti. Posle toga se pregledaju sve lokacije i
i
iz ih se redom pokupe elementi. Sloenost ovog jednostavnog algoritma je

i
dakle O(m + n). Ako je m = O(n), dobijamo algoritam za sortirae linerne

sloenosti. S druge strane, ako je m veliko u odnosu na n (kao u sluqaju
poxtanskih brojeva), onda je i O(m) takoe veliko. Pored toga, algoritam
zahteva memoriju veliqine O(m), xto je jox vei problem za velike m.
Prirodno uopxtee ove ideje je sortirae vixestrukim razvrstavaem.
Razmotrimo jox jednom primer sa poxtanskim brojevima. Sortirae razvrs-
tavaem u ovom sluqaju nije pogodno, jer je preveliki opseg moguih poxtan-
skih brojeva. Kako smaiti potreban opseg? Primeniemo indukciju po opsegu
na sledei naqin. Najpre koristimo 10 pregrada i sortiramo pisma prema pr-
voj cifri poxtanskog broja. Svaka pregrada sada pokriva 10000 razliqitih
poxtanskih brojeva (odreenih sa preostale qetiri cifre poxtanskog broja).
Broj operacija za ovu etapu je O(n). Na kraju prve etape imamo 10 pregrada, od
kojih svaka odgovara maem opsegu. Da e se problem za svaku pregradu rexava
indukcijom. Poxto se opseg posle svake etape smauje za faktor 10, i poxto
poxtanski brojevi imaju pet cifara, dovo no je pet etapa. Kad se sadraji
pregrada sortiraju, lako ih je objediniti u sortiranu (ureenu) listu.
5.3. SORTIRA E 87
Razmotrimo sada drugu varijantu iste ideje. Napomenimo da se opseg moe
podeliti na bilo koji odgovarajui naqin. U primeru sa poxtanskim broje-
vima podela je izvrxena u skladu sa dekadnim prikazom poxtanskih brojeva.
Ako su elementi stringovi koje treba sortirati leksikografski, moemo ih
uporeivati znak po znak, pa se dobija leksikografsko sortirae. Raz-
motrena verzija sortiraa vixestrukim razvrstavaem (cifre se prolaze
sleva udesno) poznata je kao sortirae obratnim vixestrukim razvrsta-
vaem .
Rekurzivna realizacija sortiraa obratnim vixestrukim razvrstavaem
zahteva pomone lokacije (oko 50 pregrada u primeru sa poxtanskim brojevi-
ma; svaki nivo rekurzije ima svoje pregrade). Drugi naqin realizacije sorti-
raa vixestrukim razvrstavaema zasniva se na primeni indukcije obrnutim
redosledom: sortirae se radi zdesna ulevo, polazei od najniih umesto od
najvixih cifara. Pretpostav amo da su elementi veliki brojevi, predstavl-
jeni sa k cifara u sistemu sa osnovom d (cifre su iz opsega od 0 do d − 1).
Induktivna hipoteza je vrlo prirodna.
Induktivna hipoteza. Umemo da sortiramo elemente sa mae od k ci-
fara.
Razlika izmeu ovog metoda i sortiraa obratnim vixestrukim razvrs-
tavaem je u naqinu na koji se proxiruje hipoteza (ideja primene induktivne
hipoteze obrnutim redosledom sliqna je kao kod Hornerove xeme, ode ak 4.2).
Kod datih brojeva sa k cifara mi najpre ignorixemo najvixu (prvu) cifru
i sortiramo brojeve prema ostatku cifara indukcijom. Tako dobijamo listu
elemenata sortiranih prema najniih k −1 cifara. Zatim prolazimo jox jed-
nom kroz sve elemente, i razvrstavamo ih prema najvixoj cifri u d pregrada.
Konaqno, objediujemo redom sadraje pregrada. Ovaj algoritam zove se sor-
tirae direktnim vixestrukim razvrstavaem. Pokazaemo da su elementi
na kraju sortirani po svih k cifara.
Tvrdimo da su dva elementa svrstana u razliqite pregrade u ispravnom
poretku. Za to nam nije potrebna induktivna hipoteza, jer je najvixa cifra
prvog od ih vea od najvixe cifre drugog. S druge strane, ako dva elementa
imaju iste najvixe cifre, onda su oni prema induktivnoj hipotezi dovedeni
u ispravan redosled pre posledeg koraka. Bitno je da elementi stav eni u
istu pregradu ostaju u istom redosledu kao i pre razvrstavaa. Ovo se moe
postii upotrebom liste za svaku pregradu i objediavaem d lista na kraju
svake etape u jednu globalnu listu od svih elemenata (sortiranih prema i
najniih cifara). Algoritam je prikazan na slici 6.
Sloenost. Potrebno je n koraka za kopirae elemenata u globalnu lis-
tu GL, i d koraka za inicijalizaciju lista Q[i]. U glavnoj pet i algoritma,
koja se izvrxava k puta, svaki elemenat se vadi iz globalne i stav a u neku
od lista Q[i]. Na kraju se sve liste Q[i] ponovo objediavaju u GL. Ukupna
vremenska sloenost algoritma je O(nk).
Algoritam
Ulaz: (niz od celih nenegativnih brojeva sa po cifara).
DVR sort(X, n, k);
Izlaz: (sortirani niz).

X n k
X
begin
Pretpostav amo da su na poqetku svi elementi u globalnoj listi GL
{GL se koristi zbog jednostavnosti; lista se moe realizovati u X}
for i := 0 to d − 1 do
{d je broj moguih cifara; d = 10 u dekadnom sluqaju}
inicijalizovati listu Q[i] kao praznu listu;
for i := k downto 1 do
while GL nije prazna do {razvrstavae po i-toj cifri}
skini x iz GL; {x je prvi elemenat sa liste}
c := i{ta cifra x; {gledano sleva udesno}
ubaci x u Q[c];
for t := 0 to d − 1 do {objediavae lokalnih lista}
uk uqi Q[t] u GL; {dodavae na kraj liste}
for i := 1 to n do {prepisivae elemenata iz GL u niz x}
skini X[i] iz GL
end
Ris. 6. Sortirae direktnim vixestrukim razvrstavaem.

U nastavku emo razmatrati tehnike sortiraa koje koriste uporeivae
elemenata, ne uzimajui u obzir ihovu strukturu. Radi se dakle o opxtijim
algoritmima, koji za elemente pretpostav aju samo da se mogu uporeivati.
5.3.2. Sortirae umetaem i sortirae izborom. Koristiemo di-
rektnu indukciju. Pretpostavimo da umemo da sortiramo n − 1 elemenata i
da je dato n elemenata. Posle sortiraa prvih n − 1 elemenata, n-ti elemenat
se umee na mesto koje mu pripada, tako xto se pregleda n − 1 sortiranih
brojeva, do pronalaea pravog mesta za umetae. Ovakav postupak zove se
sortirae umetaem. On je jednostavan i efikasan samo za male vrednosti
n. U najgorem sluqaju n-ti broj uporeuje se sa svih prethodnih n − 1 broje-
va. Ukupan broj uporeivaa pri sortirau n elemenata moe da bude dakle
1 + 2 + · · · + n = n(n − 1)/2 = O(n ). Pored toga, umetae n-tog broja uk uquje
2
pomerae ostalih brojeva. U najgorem sluqaju u n-tom koraku premexta se n−1

brojeva, pa je i broj premextaa (kopiraa) O(n ). Sortirae umetaem moe
2
se pobo xati smextaem elemenata u vektor i korixeem binarne pretrage

n − 1 sortiranih brojeva da bi se pronaxlo mesto za umetae. Pretraga se
sastoji od O(log n) uporeivaa po umetau, pa je ukupan broj uporeivaa
tada O(n log n). Meutim, broj premextaa podataka ostaje nepromeen, pa je
sloenost algoritma i da e kvadratna.
5.3. SORTIRA E 89
Induktivni pristup moe se pobo xati izborom posebnog n-tog broja.
Najvei broj je dobar izbor, jer se zna gde mu je mesto | na kraju niza. Algori-
tam se sastoji od izbora najveeg broja i egovog postav aa na pravo mesto
zamenom sa brojem koji je trenutno na tom mestu; posle toga se rekurzivno
sortira ostatak brojeva. Ovaj algoritam zove se sortirae izborom. egova
prednost nad sortiraem umetaem je u tome xto koristi samo n − 1 zame-
na brojeva, u odnosu na O(n ) kopiraa u najgorem sluqaju kod sortiraa
2
umetaem. S druge strane, poxto je potrebno n − 1 uporeivae da se pronae

najvei elemenat (nalaee najveeg broja razmatra se u ode ku 5.4.1), ukupan
broj uporeivaa je uvek O(n ), dok je kod sortiraa umetaem sa binarnom
2
pretragom potrebno samo O(n log n) uporeivaa.

Za efikasno umetae i izbor mogu se koristiti uravnoteena stabla
(videti poglav e 3). Ako se, na primer, iskoriste AVL stabla, svako umetae
zahteva O(log n) koraka. Iwitavae svih brojeva iz AVL stabla u sortira-
nom redosledu moe se izvesti u O(n) koraka rekurzivnom procedurom koja
iwitava sve elemente levog podstabla, pa koren, pa sve elemente desnog pod-
stabla. Ako umemo da formiramo AVL stablo za n−1 brojeva, onda je potrebno
samo umetnuti n-ti broj, odnosno O(log n) koraka. Ukupno je dakle potrebno
O(n log n) koraka za umetae n brojeva u prazno AVL stablo i O(n) koraka za
ihovo iwitavae u sortiranom redosledu. Za velike n ovo je mnogo efikas-
nije i od sortiraa umetaem i od sortiraa izborom, ali zahteva vixe
prostora za smextae pokazivaqa. Ovaj algoritam sortiraa nije u mestu,
komplikovan je, i nije tako dobar kao algoritmi koji emo razmotriti.
5.3.3. Sortirae objediavaem. Efikasnost sortiraa umetaem
moe se pobo xati na sledei naqin. Za vreme potrebno za pregledae ve
sortiranih brojeva i pronalaee mesta za umetae jednog broja, mogu se nai
mesta za vixe brojeva. Ova ideja je ve korixena u ode ku 4.6. Dva sortirana
niza mogu se objediniti u sortirani niz jednim prolazom. Objediavae se
vrxi tako xto se brojevi iz drugog niza razmatraju redom: trai se mesto u
prvom nizu za najmai broj, pa za sledei itd. Preciznije, oznaqimo nizove sa
a , a , . . . , a , odnosno b , b , . . . , b , i pretpostavimo da su oba niza sortirana
u rastuem poretku. Elementi prvog niza se pregledaju dok se ne pronae
1 2 n 1 2 m
mesto za b , pa se umee b . Zatim se nastav a sa pregledaem od te pozicije

da e, dok se ne pronae mesto za b , itd. Poxto su brojevi u drugom nizu
1 1
sortirani, nema potrebe za vraaem u prvom nizu. Ukupan broj uporeivaa

2
u najgorem sluqaju jednak je zbiru duina dva niza. Problem su premextaa:

neefikasno je premextati elemente pri svakom umetau, jer se tada elementi
moraju premextati vixe puta. Umesto toga, poxto objediavae daje jedan
po jedan elemenat u sortiranom redosledu, elemente kopiramo u privremeni
niz; svaki elemenat se kopira taqno jednom. Ukupno je za objediavae dva
sortirana niza duina n i m potrebno O(n + m) uporeivaa i premextaa
podataka. Pretpostav a se da je raspoloiv memorijski prostor za pomoni
niz.
Opisani postupak objediavaa moe se iskoristiti kao osnova za algo-
ritam sortiraa zasnovan na dekompoziciji, poznat kao sortirae objedia-
vaem. Algoritam radi na sledei naqin. Najpre se niz podeli na dva jednaka
ili priblino jednaka dela (ako mu je duina neparna). Zatim se oba dela
rekurzivno sortiraju. Na kraju se sortirani delovi objediavaju u jedan sor-
tirani niz na prethodno opisani naqin. Deta nije je algoritam prikazan na
slici 7, a primer egovog izvrxavaa u tabeli 1 (kopiraa nisu prikazana).
Sloenost. Neka je T (n) broj uporeivaa potrebnih za sortirae ob-
jediavaem u najgorem sluqaju. Pretpostavimo zbog jednostavnosti da je n
stepen dvojke. Da bi se izraqunalo T (n), treba rexiti sledeu diferencnu
jednaqinu:
T (2n) = 2T (n) + cn, T (2) = 1.
eno rexee je T (n) = O(n log n) (videti poglav e 2), xto je asimptotski bol-
je od O(n ), vremenske sloenosti sortiraa umetaem i sortiraa izborom.
2
Broj premextaa podataka je takoe O(n log n), xto je vixe nego kod sortiraa
izborom.
Iako je sortirae objediavaem bo e od sortiraa umetaem za velike
n, ipak ima i neke ozbi ne nedostatke. Pored toga xto se ne realizuje lako,
korak objediavaa zahteva dopunsku memoriju, tj. ovo nije sortirae u mes-
tu. Kopirae se radi pri svakom objediavau maih skupova, xto qini
proceduru sporijom.
5.3.4. Sortirae razdvajaem. Sortirae objediavaem primer je
efikasnosti dekompozicije. Ako nam poe za rukom da podelimo problem na
6 2 8 5 10 9 12 1 15 7 3 13 4 11 16 14
2 6
5 8
2 5 6 8
9 10
1 12
1 9 10 12
1 2 5 6 8 9 10 12
7 15
3 13
3 7 13 15
4 11
14 16
4 11 14 16
3 4 7 11 13 14 15 16
Tablica 1. Primer sortiraa objediavaem. Prva vrsta je

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16
ulazni niz. U svakoj vrsti prikazani su samo brojevi sa kojima

se trenutno radi.
5.3. SORTIRA E 91
Algoritam
Ulaz: (niz od brojeva).
Sort Objed(X, n);

X n
X
begin
M sort(1, n)
end
procedure M Sort(Levi, Desni);
begin
if Desni − Levi = 1 then
{ provera koja nije neophodna, ali qini program efikasnijim}
if X[Levi] > X[Desni] then zameni (X[Levi], X[Desni])
else if Levi 6= Desni then
Srednji := d(Levi + Desni)/2e;
M Sort(Levi, Srednji − 1);
M Sort(Srednji, Desni);
sada se dva sortirana dela niza objediavaju}
{
i := Levi; {pokazivaq na levu polovinu niza}
j := Srednji; {pokazivaq na desnu polovinu niza}
k := 0; {pokazivaq na pomoni vektor P om}
while (i ≤ Srednji − 1) and (j ≤ Desni) do
k := k + 1;
if X[i] ≤ X[j] then
P om[k] := X[i];
i := i + 1
else
P om[k] := X[j];
j := j + 1
if j > Desni then
{kopirae ostatka leve polovine na kraj vektora P om}
{ako je i ≥ Srednji onda je desna strana ve na svom mestu}
for t := 0 to Srednji − 1 − i do
X[Desni − t] := X[Srednji − 1 − t];
kopirae pomonog vektora P om nazad u X}
{
for t := 0 to k − 1 do
X[Levi + t] := P om[t + 1]
end
Ris. 7. Sortirae objediavaem.

dva priblino jednaka potproblema, reximo svaki od ih nezavisno i ihova
rexea kombinujemo za linearno vreme O(n), dobijamo algoritam sloenosti
O(n log n). Nedostatak sortiraa objediavaem je potreba za dopunskom me-
morijom, jer se prilikom objediavaa ne moe predvideti koji e elemenat
gde zavrxiti. Moe li se dekompozicija primeniti na drugi naqin, tako da
se poloaji elemenata mogu predvideti? Ideja sortiraa razdvajaem je da
se glavnina vremena utroxi na fazu podele, a vrlo mali deo na objediavae.
Pretpostavimo da znamo broj x, takav da je pola elemenata niza mae ili
jednako, a pola vee od x. Broj x moe se uporediti sa svim elementima niza
(n − 1 uporeivae) i time ih podeliti u dve grupe, prema rezultatu upo-
reivaa. Poxto dve grupe imaju isti broj elemenata, jedna od ih se moe
smestiti u prvu, a druga u drugu polovinu niza. Kao xto emo odmah videti,
ovo razdvajae moe se izvrxiti bez dopunskog memorijskog prostora; to je
faza podele. Zatim se oba podniza rekurzivno sortiraju. Faza objediavaa
je trivijalna, jer oba dela zauzimaju svoja mesta u nizu. Prema tome, nije
potreban dopunski memorijski prostor.
Pri opisanoj konstrukciji pretpostav eno je da je vrednost x poznata,
xto obiqno nije sluqaj. Lako se uvia da isti algoritam dobro radi bez obzi-
ra na to koji se broj koristi za razdvajae. Broj x je tzv. pivot. Ci je
razdvojiti elemente niza na dva dela, jedan sa brojevima maim ili jednakim,
a drugi sa brojevima veim od pivota. Razdvajae (particija) se moe se ost-
variti pomou sledeeg algoritma. Koriste se dva pokazivaqa na niz, L i D.
Na poqetku L pokazuje na levi, a D na desni kraj niza. Pokazivaqi se "pomera-
ju" jedan prema drugom. Sledea induktivna hipoteza (tj. invarijanta pet e)
garantuje ispravnost razdvajaa.
Induktivna hipoteza. U koraku k algoritma vai pivot ≥ x za sve
indekse i < L i pivot < x za sve indekse j > D. i
j
Hipoteza je trivijalno ispuena na poqetku, jer ni jedno i, odnosno j, ne

zadovo avaju navedene uslove. Ci je u koraku k + 1 pomeriti L udesno, ili
D ulevo, tako da hipoteza i da e bude taqna.
U trenutku kad se desi L = D, razdvajae je skoro zavrxeno, izuzev eventu-
alno elementa x , na xta emo se kasnije vratiti. Pretpostavimo da je L < D.
Postoje dve mogunosti. Ako je bilo x ≤ pivot bilo x > pivot, odgovarajui
L
pokazivaq moe se pomeriti, tako da hipoteza i da e bude zadovo ena. U pro-

L D
tivnom je x > pivot i x ≤ pivot. Tada zameujemo x sa x i pomeramo

oba pokazivaqa da e prema unutra. U oba sluqaja imamo pomerae bar jednog
L D L D
pokazivaqa. Prema tome, pokazivaqi e se u jednom trenutku susresti, i ci

je postignut.
Ostaje problem izbora dobrog pivota i preciziraa posledeg koraka
algoritma kad se pokazivaqi sretnu. Algoritmi zasnovani na dekompoziciji
najbo e rade kad delovi imaju priblino iste veliqine, xto sugerixe da
xto je pivot blii sredini, to e algoritam biti efikasniji. Mogue je nai
medijanu niza (o tome e biti reqi u sledeem ode ku), ali to nije vredno
5.3. SORTIRA E 93
truda. Kao xto emo videti iz analize algoritma, izbor sluqajnog elementa
niza je dobro rexee. Ako je polazni niz dobro ispreturan, onda se za pivot
moe uzeti prvi elemenat niza. Zbog jednostavnosti je u algoritmu na slici 8
upravo tako i uraeno.
Ulaz: (niz),
function Razdvajanje(X, Levi, Desni);
(leva granica niza) i Desni (desna granica niza).
Izlaz: i
X Levi
X S = Razdvajanje , takav indeks da je X[i] ≤ X[S] za sve i ≤ S i
X[j] > X[S] za sve j > S .
begin
pivot := X[Levi];
L := Levi; D := Desni;
while L < D do
while X[L] ≤ pivot and L ≤ Desni do L := L + 1;
while X[D] > pivot and D ≥ Levi do D := D − 1;
if L < D then
zameni X[L] i X[D];
Razdvajanje := D;
zameni X[Levi] sa X[S]
end
Ris. 8. Algoritam razdvajae.

Ako se prvi elemenat izabere za pivot, on se moe zameniti sa X u
posledem koraku razdvajaa, i tako postaviti na svoje mesto. Druge mogu- L
nosti bie razmotrene prilikom analize sloenosti. U svakom sluqaju, pivot

koji je izabran na neki drugi naqin, moe se najpre zameniti sa prvim ele-
mentom niza, posle qega se moe primeniti opisani algoritam.
Primer rada algoritma Razdvajanje dat je u tabeli 2. Pivot je prvi
broj (6). Brojevi koji upravo treba da budu zameeni su podeb ani Posle tri
zamene i pomeraa L pokazuje na X[7] = 1, a D na X[6] = 1 (pokazivaq D
preskaqe L). Posleda je zamena sredeg broja (X[D] = 1) i pivota (6). Posle
ove zamene svi brojevi levo od pivota su mai ili jednaki od ega, a svi
brojevi desno su vei od ega. Dva podniza (od 1 do 6 i od 7 do 16) mogu da
se rekurzivno sortiraju. Sortirae razdvajaem je prema tome sortirae u
mestu. Algoritam je prikazan na slici 9, a primer egovog rada u tabeli 3.
Sloenost. Vreme izvrxea sortiraa razdvajaem zavisi od konkret-
nog ulaza i izbora pivota. Ako pivot uvek razdvaja niz na dva jednaka dela,
onda je diferencna jednaqina za sloenost T (n) = 2T (n/2) + cn, T (2) = 1,
xto za posledicu ima T (n) = O(n log n). Uveriemo se kasnije da je vremenska
sloenost ovog algoritma O(n log n) i pod mnogo slabijim pretpostavkama.
Ako je pak pivot blizu nekom od krajeva niza, onda je broj koraka mnogo vei.
6 2 8 5 10 9 12 1 15 7 3 13 4 11 16 14
6 2 4 5 10 9 12 1 15 7 3 13 8 11 16 14
6 2 4 5 3 9 12 1 15 7 10 13 8 11 16 14
6 2 4 5 3 1 12 9 15 7 10 13 8 11 16 14
Tablica 2. Razdvajae niza oko pivota 6.

1 2 4 5 3 6 12 9 15 7 10 13 8 11 16 14
Algoritam
Quicksort(X, n);

X n
X
begin
Q sort(1, n)
end
procedure Q Sort(Levi, Desni);
begin
if Levi < Desni then
S = Razdvajanje(X, Levi, Desni); {S je indeks pivota posle razdvajaa}
Q Sort(Levi, S − 1);
Q Sort(S + 1, Desni);
end
Ris. 9. Sortirae razdvajaem.

6 2 8 5 10 9 12 1 15 7 3 13 4 11 16 14
1 2 4 5 3 6 12 9 15 7 10 13 8 11 16 14
1 2 4 5 3
2 4 5 3
3 4 5
8 9 11 7 10 12 13 15 16 14
7 8 11 9 10
10 9 11
9 10
13 15 16 14
14 15 16
Tablica 3. Primer sortiraa razdvajaem. Pivoti su pode-

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16
b ani. Elementi koji se u nekoj fazi ne meaju, nisu

prikazani.
Na primer, ako je pivot najmai elemenat u nizu, onda prvo razdvajae za-
hteva n − 1 uporeivaa i smexta samo pivot na pravo mesto. Ako je niz ve
5.3. SORTIRA E 95
ureen rastue i za pivot se uvek bira prvi elemenat, onda je broj koraka algo-
ritma O(n ). Kvadratna sloenost u najgorem sluqaju za sortirane ili skoro
2
sortirane nizove moe se izbei uporeivaem prvog, posledeg i sredeg

elementa niza i izborom sredeg meu ima (drugog po veliqini) za pivot.
Jox pouzdaniji metod je sluqajni izbor nekog elementa niza za pivot. Vremen-
ska sloenost sortiraa e i tada u najgorem sluqaju biti O(n ), jer i da e
2
postoji mogunost da pivot bude najmai elemenat niza. Ipak, verovatnoa da

doe do ovog najgoreg sluqaja je mala. Razmotriemo to sada malo preciznije.
Pretpostavimo da se svaki elemenat x sa jednakom verovatnoom moe
izabrati za pivot. Ako je pivot i-ti najmai elemenat, onda posle razdva-
i
jaa treba rekurzivno sortirati dva dela niza duina redom i − 1, odnos-
no n − i. Ako brojimo samo uporeivaa, sloenost razdvajaa je n − 1 (pod
pretpostavkom da se posle zamene X[L] sa X[D] u algoritmu Razdvajanje sa
slike 8 indeksi L i D najpre bez uporeivaa pomeraju za po jedno mesto).
Prema tome, sloenost sortiraa razdvajaem zadovo ava jednakost T (n) =
n − 1 + T (i − 1) + T (n − i). Ako pretpostavimo da pozicija pivota posle razdva-
jaa moe biti svako i = 1, 2, . . . , n sa jednakom verovatnoom 1/n, proseqan
broj koraka je n
1X
T (n) = n−1+ (T (i − 1) + T (n − i)) =
n i=1
n n n−1
1X 1X 2X
= n−1+ T (i − 1) + T (n − i) = n − 1 + T (i).
n i=1 n i=1 n i=0
Ovo je potpuna rekurzija, i to upravo ona koja je razmatrana u ode ku 2.5.5.
eno rexee je T (n) = O(n log n). Dakle, sortirae razdvajaem je zaista
efikasno u proseku.
U praksi je sortirae razdvajaem veoma brzo, pa zasluuje svoje drugo
ime (kviksort, tj. brzo sortirae). Osnovni razlog za egovu brzinu, osim
elegantne primene dekompozicije, je u tome xto se mnogo elemenata uporeu-
je sa jednim istim elementom, pivotom. Pivot se zbog toga moe smetiti u
registar, xto ubrzava uporeivaa.
Jedan od naqina da se sortirae razdvajaem ubrza je dobar izbor baze
indukcije . Ideja je da se sa indukcijom ne poqie uvek od jedinice. Sorti-
rae razdvajaem, kao xto je reqeno, poziva se rekurzivno do baznog sluqaja,
koji obuhvata nizove duine 1. Meutim, jednostavni algoritmi, kao xto su
sortirae umetaem ili sortirae izborom, rade sasvim dobro za kratke ni-
zove. Prema tome, moe se izabrati da bazni sluqaj za sortirae razdvajaem
budu nizovi duine vee od jedan (npr. izmeu 10 i 20, xto zavisi od konkretne
realizacije), a da se bazni sluqaj obrauje sortiraem umetaem. Drugim
reqima, uslov "if Levi < Desni" zameuje se uslovom "if Levi < Desni − P rag"
(gde P rag ima vrednost izmeu 10 i 20), i dodaje se deo "else ", koji izvrxa-
va sortirae umetaem). Efekat ove promene je popravka brzine sortiraa
razdvajaem za mali konstantni faktor.
5.3.5. Hipsort. Hipsort je jox jedan primer brzog algoritma za sorti-
rae. U praksi on, za velike n, obiqno nije tako brz kao sortirae razdva-
jaem, ali nije ni mnogo sporiji. S druge strane, za razliku od sortiraa
razdvajaem, egova efikasnost je garantovana. Kao kod sortiraa objedi-
avaem, sloenost hipsorta u najgorem sluqaju je O(n log n). Za razliku od
sortiraa objediavaem, hipsort je algoritam sortiraa u mestu. U vezi
sa hipsortom obratiemo posebno pau na poqetni deo algoritma | formi-
rae hipa. Algoritam za formirae hipa ilustruje naqin na koji treba kom-
binovati konstrukciju i analizu algoritma.
Hip kao struktura podataka razmatran je u poglav u 3. Pretpostav a se
da se hip predstav a implicitno; egovi elementi smexteni su u vektor A
duine n, koji stablu odgovara na sledei naqin: koren je smexten u A[1], a
sinovi qvora zapisanog u A[i] smexteni su u A[2i] i A[2i + 1]. Stablo zadovo-
ava uslov hipa ako je vrednost svakog qvora vea ili jednaka od vrednosti
egovih sinova.
Algoritam hipsort izvrxava se na isti naqin kao i sortirae izborom;
razlika je u upotreb enoj strukturi podataka za smextae niza. Najpre se
elementi niza preureuju tako da qine hip; formirae hipa razmotriemo
nexto kasnije. Ako je hip u vektoru A, onda je A[1] najvei elemenat hipa.
Zamenom A[1] sa A[n] postie se da A[n] sadri najvei elemenat niza. Zatim
se razmatra niz A[1], A[2], . . . , A[n − 1]; preureuje se, tako da i da e zadovo-
ava uslov hipa (problem je jedino novi elemenat A[1]). Posle toga se sa tim
nizom rekurzivno ponav a postupak primeen na niz A[1], A[2], . . . , A[n]. Sve
u svemu, algoritam se sastoji od poqetnog formiraa hipa i n − 1 koraka,
u kojima se vrxi po jedna zamena i preureivae hipa. Preureivae hipa
je u osnovi isti postupak kao algoritam za uklaae najveeg elementa iz
hipa, ode ak 3.3. Formirae hipa je samo po sebi interesantan problem, pa
e biti posebno razmatran. Vremenska sloenost algoritma je dakle O(n log n)
(O(log n) po zameni) plus sloenost formiraa hipa. Jasno je da je hipsort
sortirae u mestu; algoritam je prikazan na slici 10.
Algoritam
Hipsort(X, n);

X n
X
begin
Preurediti X tako da bude hip; {videti nastavak teksta}
for i := n downto 2 do
zameni (X[1], X[n]);
P reuredi Hip(i − 1)
{ procedura sliqna algoritmu Skini max sa hipa na slici 3.10 }
end
Ris. 10. Algoritam hipsort.

5.3. SORTIRA E 97
5.3.5.1. Formirae hipa. Sada emo se pozabaviti problemom formiraa
hipa od proizvo nog niza.
Problem. Dat je niz A[1], A[2], . . . , A[n] proizvo no ureenih brojeva.
Preurediti egove elemente tako da zadovo avaju uslov hipa.
Postoje dva prirodna pristupa formirau hipa: odozgo nadole i odozdo
nagore. Oni odgovaraju prolasku kroz vektor A sleva udesno, odnosno zdesna
ulevo (videti sliku 11). Poxto ovi metodi budu opisani primenom indukcije.
bie pokazano da izmeu ih postoji znatna razlika u efikasnosti.
Ris. 11. Formirae hipa odozgo nadole i odozdo nagore.

Razmotrimo najpre prolazak kroz vektor sleva udesno, tj. izgradu hipa
odozgo nadole.
Induktivna hipoteza (odozgo nadole). Niz A[1], A[2], . . . , A[i] predstav-
a hip.
Bazni sluqaj je trivijalan, jer A[1] jeste hip. Osnovni deo algoritma je
ugrada elementa A[i + 1] u hip A[1], A[2], . . . , A[i] (videti poglav e 3). Eleme-
nat A[i + 1] uporeuje se sa svojim ocem, i zameuje se sa im ako je vei od
ega; novi elemenat se premexta navixe, sve dok ne postane mai ili jednak
od oca, ili dok ne dospe u koren hipa. Broj uporeivaa je u najgorem sluqaju
blog (i + 1)c.
Razmotrimo sada prolazak niza zdesna ulevo, xto odgovara prolasku hipa
2
odozdo nagore. Voleli bismo da kaemo da je niz A[i+1], A[i+2], . . . , A[n] hip, u
koji treba ubaciti elemenat A[i]. Ali niz A[i + 1], A[i + 2], . . . , A[n] ne odgovara
jednom, nego kolekciji hipova (niz A[i + 1], A[i + 2], . . . , A[n] posmatramo kao
deo stabla predstav enog nizom A[1], A[2], . . . , A[n]). Zbog toga je induktivna
hipoteza nexto komplikovanija.
Induktivna hipoteza (odozdo nagore). Sva stabla predstav ena nizom
A[i + 1], A[i + 2], . . . , A[n] zadovo avaju uslov hipa.
Indukcija je po i, ali obrnutim redosledom, i = n, n − 1, . . . , 1. Elemenat
oqigledno predstav a hip, xto predstav a bazu indukcije. Moe se za-
k uqiti i nexto vixe. Elementi vektora A sa indeksima od bn/2c + 1 do n
A[n]
su listovi stabla. Zbog toga se stabla koja odgovaraju tom nizu sastoje samo
od korena, pa trivijalno zadovo avaju uslov hipa. Dovo no je dakle da sa
indukcijom krenemo od i = bn/2c. To ve ukazuje da bi pristup odozdo nagore
mogao biti efikasniji: polovina posla je trivijalna; ovo je jox jedan primer
vanosti pa ivog izbora baze indukcije.
Razmotrimo sada elemenat A[i]. On ima najvixe dva sina A[2i + 1] i A[2i],
koji su, prema induktivnoj hipotezi, koreni ispravnih hipova. Zbog toga je
jasan naqin uk uqivaa A[i] u hip: A[i] se uporeuje sa veim od sinova, i
zameuje se sa im ako je potrebno. Ovo je sliqno brisau iz hipa, videti
poglav e 3. Sa zamenama se nastav a nanie niz stablo, dok prethodna vred-
nost elementa A[i] ne doe do mesta na kome je vea od oba sina. Konstrukcija
hipa odozdo nagore ilustrovana je primerom u tabeli 4.
Sloenost (odozgo nadole). Korak sa rednim brojem i zahteva najvixe
blog ic ≤ blog nc uporeivaa, pa je vremenska sloenost O(n log n). Ocena
sloenosti O(n log n) nije gruba, jer je
2 2
n
X n
X
blog2 ic ≥ blog2 ic ≥ (n/2)blog2 (n/2)c = Ω(n log n).
i=1
Sloenost (odozdo nagore). Broj uporeivaa u svakom koraku mai

i=n/2
je ili jednak od dvostruke visine razmatranog qvora (poxto se qvor mora

uporediti sa veim od sinova, eventualno zameniti, i tako da e niz stablo
do lista). Prema tome, sloenost je maa ili jednaka od dvostruke sume visi-
na svih qvorova u stablu. Izraqunajmo dakle sumu visina svih qvorova, ali
najpre samo za kompletna stabla. Neka je H(i) suma visina svih qvorova kom-
pletnog binarnog stabla visine i. Niz H(i) zadovo ava diferencnu jednaq-
inu H(i) = 2H(i − 1) + i, jer se kompletno binarno stablo visine i sastoji
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16
2 6 8 5 10 9 12 1 15 7 3 13 4 11 16 14
2 6 8 5 10 9 12 14 15 7 3 13 4 11 16 1
2 6 8 5 10 9 16 14 15 7 3 13 4 11 12 1
2 6 8 5 10 13 16 14 15 7 3 9 4 11 12 1
2 6 8 5 10 13 16 14 15 7 3 9 4 11 12 1
2 6 8 15 10 13 16 14 5 7 3 9 4 11 12 1
2 6 16 15 10 13 12 14 5 7 3 9 4 11 8 1
2 15 16 14 10 13 12 6 5 7 3 9 4 11 8 1
Tablica 4. Primer formiraa hipa odozdo nagore. Brojevi

16 15 13 14 10 9 12 6 5 7 3 2 4 11 8 1
u prvoj vrsti su indeksi. Brojevi koji su upravo uqestvovali

u zameni, podeb ani su.
5.3. SORTIRA E 99
od dva kompletna binarna podstabla visine i − 1 i korena, qija je visina
i. Pored toga, H(0) = 0. Qlan i iz diferencne jednaqine moe se ukloniti
enim prepisivaem u obliku H(i) + i = 2(H(i − 1) + (i − 1)) + 2, odnosno
G(i) = 2G(i − 1) + 2, gde je uvedena oznaka G(i) = H(i) + i; G(0) = H(0) = 0.
Da bi se uklonio preostali konstantni qlan 2, obema stranama treba dodati
odgovarajuu konstantu, tako da bude korisna smena F (i) = G(i) + a; odatle se
dobija a = 2: G(i)+2 = 2(G(i−1)+2), tj. F (i) = 2F (i−1) i F (0) = G(0)+2 = 2.
Rexee poslede diferencne jednaqine je F (i) = 2 , pa konaqno dobijamo
i+1
i+1
− (i + 2). Poxto je ukupan broj qvorova kompletnog binarnog stab-
la visine i jednak 2 − 1, zak uqujemo da je za hipove sa n = 2 − 1 qvorova
H(i) = 2
i+1 i
vremenska sloenost formiraa hipa odozdo nagore O(n). Sloenost za hip

sa n qvorova, pri qemu je 2 ≤ n ≤ 2 − 1 maa je ili jednaka od sloenosti
i i+1
za hip se 2 − 1 qvorova, koja je i da e O(n). Osnovni razlog zbog koga je

i+1
pristup odozdo nagore efikasniji je u tome da je veliki deo qvorova stabla

na egovom dnu, a vrlo mali deo pri vrhu, u blizini korena. Zato je bo e
minimizirati obradu qvorova na dnu.
Ovo je jox jedan primer koji pokazuje da se dobrim izborom redosleda
indukcije moe konstruisati efikasan algoritam. Metod formiraa hipa
odozgo nadole je direktniji i oqigledniji, ali se ispostav a da je pristup
odozdo nagore bo i.
5.3.6. Doa granica za sortirae. Polazei od algoritama za sorti-
rae sloenosti O(n ), usavrxavaem smo doxli do algoritma sloenosti
2
O(n log n). Da li je mogue da e pobo xae, odnosno da li je sloenost svakog

algoritma za sortirae Ω(n log n)?
Funkcija f (n) je doa granica sloenosti nekog problema ako za slo-
enost T (n) proizvo nog algoritma koji rexava taj problem vai T (n) =
Ω(f (n)) (ili: ne postoji algoritam sloenosti mae od O(f (n)), koji rexava
problem). Dokazati da je neka funkcija doa granica sloenosti razmatra-
nog problema nije lako, jer se dokaz odnosi na sve mogue algoritme, a ne
samo na jedan konkretan pristup. Neophodno je najpre specificirati mod-
el koji odgovara proizvo nom algoritmu, a zatim dokazati da je vremenska
sloenost proizvo nog algoritma obuhvaenog tim modelom vea ili jedna-
ka od doe granice. U ovom ode ku razmotriemo jedan takav model koji se
zove stablo odluqivaa. Stablo odluqivaa modelira izraqunavaa koja se
sastoje najveim delom od uporeivaa. Stablo odluqivaa nije opxti model
izraqunavaa kao xto je npr. Tjuringova maxina, pa su doe granice nexto
slabije; ali s druge strane, stabla odluqivaa su jednostavnija i sa ima se
lakxe operixe.
Stablo odluqivaa definixe se kao binarno stablo sa dve vrste qvorova,
unutraxim qvorovima i listovima. Svaki unutraxi qvor odgovara pitan-
ju sa dva mogua odgovora, koji su pak pridrueni dvema granama koje izlaze
iz qvora. Svakom listu pridruen je jedan od moguih izlaza. Ako se radi o
problemu sortiraa, pretpostav amo da je ulazni niz x , x , . . . , x . Izraqu-
navae poqie od korena stabla. U svakom qvoru postav a se jedno pitae u
1 2 n
vezi sa ulazom, i u zavisnosti od dobijenog odgovora, nastav a se levom ili

desnom izlaznom granom. Kad se dostigne list, izlaz pridruen listu je izlaz
izraqunavaa. Na slici 12 prikazano je sortirae pomou stabla odluqivaa
za n = 3. Vremenska sloenost (u najgorem sluqaju) algoritma definisanog
stablom T jednaka je visini T , odnosno najveem moguem broju pitaa koja
treba postaviti za neki ulaz. Stablo odluqivaa prema tome odgovara algo-
ritmu. Iako stablo odluqivaa ne moe da modelira svaki algoritam (npr.
ne moe se izraqunati kvadratni koren iz nekog broja korixeem stabla od-
luqivaa), ono je prihvat iv model za algoritme zasnovane na uporeivau.
Doa granica dobijena za model stabla odluqivaa odnosi se naravno sano
na algoritme tog oblika. Sada emo iskoristiti stabla odluqivaa da bismo
odredili dou granicu za sortirae.
x1 < x2 ?
ne
t
da
x1 < x3 ? x2 < x3 ?
ne
t t
da da ne
x <x ?
2 3 x3 < x1 < x2 x <x ?
1 3 x 3 < x2 < x 1
da ne
t t
da ne
x1 < x2 < x3 x1 < x3 < x2 x 2 < x1 < x 3 x2 < x3 < x1
Ris. 12. Sortirae tri elementa pomou stabla odluqivaa.

Teorema 5.1. Proizvo no stablo odluqivaa za sortirae n elemenata
ima visinu Ω(n log n).
Dokazatel~stvo. Ulaz u algoritam za sortirae je niz x , x , . . . , x .
Izlaz je isti niz u sortiranom redosledu. Drugim reqima, izlaz je permutaci- 1 2 n
ja ulaza: izlaz ustvari pokazuje kako treba ispremextati elemente tako da

oni postanu sortirani. Na izlazu se moe pojaviti svaka permutacija, jer
ulaz moe biti zadat u proizvo nom redosledu. Algoritam za sortirae je
korektan ako moe da obradi sve mogue ulaze. Prema tome, svaka permutaci-
ja skupa {1, 2, . . . , n} treba da se pojavi kao mogui izlaz stabla odluqivaa
za sortirae. Izlazi stabla odluqivaa pridrueni su egovim listovima.
Poxto dve razliqite permutacije odgovaraju razliqitim izlazima, moraju im
biti pridrueni razliqiti listovi. Prema tome, za svaku permutaciju mo-
ra da postoji bar jedan list. Permutacija ima n!, pa poxto pretpostav amo
da je stablo binarno, egova visina je najmae log (n!). Prema Stirlingovoj
2
5.3. SORTIRA E 101
formuli je ³ n ´n µ µ ¶¶
√ 1
n! = 2πn 1+O ,
e n
odnosno log (n!) = Ω(n log n), qime je dokaz zavrxen.
2 ¤
Ovakva vrsta doe granice zove se teorijsko{informaciona doa gra-

nica, jer ona ne zavisi od samog izraqunavaa (mi, na primer, nismo de-
finisali kakva pitaa su dozvo ena), nego samo od koliqine informacija
sadrane u izlazu. Znaqaj doe granice je u tome da proizvo an algoritam
sortiraa zahteva Ω(n log n) uporeivaa u najgorem sluqaju, jer on mora da
razlikuje n! razliqitih izlaza, a u jednom koraku moe da izabere samo jednu
od dve mogunosti. Mogli smo da definixemo stablo odluqivaa kao stablo u
kome svaki qvor ima tri sina (koji, na primer, odgovaraju ishodima "<", "="
i ">"). U tom sluqaju bi visina bila najmae log n!, xto je i da e Ω(n log n).
Drugim reqima, doa granica Ω(n log n) odnosi se na sva stabla odluqivaa
3
sa konstantnim brojem grana po qvoru.

Ovaj dokaz doe granice pokazuje da svaki algoritam za sortirae zas-
novan na uporeivaima ima sloenost Ω(n log n). Sortirae je ipak mogue
izvrxavati bre korixeem specijalnih osobina brojeva, ili izvodei al-
gebarske manipulacije sa ima. Na primer, ako imamo n prirodnih brojeva
iz opsega od 1 do 4n, sortirae razvrstavaem e ih urediti za vreme O(n).
Ovo ne protivreqi dokazanoj dooj granici, jer sortirae razvrstavaem ne
koristi uporeivaa. Koristi se qienica da vrednosti brojeva mogu da se
efikasno koriste kao adrese.
Kad razmatramo stabla odluqivaa, obiqno ignorixemo ihovu veliq-
inu, a zanima nas samo visina. Zbog toga qak i jednostavni algoritmi linearne
vremenske sloenosti mogu da odgovaraju stablima odluqivaa sa eksponenci-
jalnim brojem qvorova. Veliqina nije bitna, jer se stablo ustvari ne formira
eksplicitno. Stablo se koristi kao sredstvo za dokazivae doih granica.
Ignorisae veliqine qini dokaz jaqim, jer se moe primeniti na programe
eksponencijalne duine. S druge strane, tehnika moe da bude previxe mona,
qinei je beskorisnom za izvoee doih granica za probleme koji se ne mogu
rexiti programima razumne veliqine, ali se mogu rexiti programima ek-
sponencijalne duine (na primer, programom sa tablicom koja sadri sva
mogua rexea). Stabla odluqivaa su neuniformni modeli izraqunavan-
ja. Stablo zavisi od n, veliqine ulaza. Ispostav a se da se mogu formirati
stabla odluqivaa polinomijalne visine | ali eksponencijalne veliqine |
za probleme koji verovatno zahtevaju eksponencijalno vreme izvrxavaa, pa
su stabla odluqivaa ponekad previxe optimistiqka. Drugim reqima, don-
ja granica po modelu stabla odluqivaa moe da bude daleko ispod stvarne
sloenosti problema. S druge strane, ako je doa granica jednaka goroj
granici za neki konkretan algoritam, kao xto je sluqaj sa sortiraem, onda
doa granica pokazuje da se algoritam ne moe ubrzati ni upotrebom mnogo
veeg prostora.

Pages From Zivkovic - Algoritmi PDF

Uploaded by

Document Information

Original Title

Copyright

Available Formats

Share this document

Share or Embed Document

Sharing Options

Did you find this document useful?

Is this content inappropriate?

Copyright:

Available Formats

Pages From Zivkovic - Algoritmi PDF

Uploaded by

Copyright:

Available Formats

Glava 4

Konstrukcija algoritama indukcijom

Ulazni podaci za problem su n + 2 broja. Induktivni pristup rexavau

Pn−1 (x) = an−1 xn−1 + an−2 xn−2 + · · · + a1 x + a0 .

Ova hipoteza je osnova za rexavae problema indukcijom. Sluqaj n = 0

rexea maeg problema (vrednosti P (x)). U ovom sluqaju je to oqigled-

no: treba izraqunati x , pomnoiti ga sa a i rezultat sabrati sa P (x):

uxtedeti ako se pri izraqunavau x iskoristi x . Pobo xae se real-

izuje uk uqivaem izraqunavaa x u induktivnu hipotezu.

Pojaqana induktivna hipoteza. Znamo da izraqunamo vrednost poli-

Ova induktivna hipoteza je jaqa, jer zahteva izraqunavae x , ali se n−1

lakxe proxiruje (jer je sada jednostavnije izraqunati x ). Da bi se izraqu- n

mnoee sa a i sabirae sa P (x). Ukupno je potrebno izvrxiti 2n mnoen-

vixe izraqunavaa, ona dovodi do smaea ukupnog broja operacija. Dobi-

ukloniti koeficijent a , i svesti problem na izraqunavae vrednosti poli-

Primetimo da je a ovde (n − 1)-i koeficijenat, a je n − 2-i koeficijenat,

Induktivna hipoteza (obrnuti redosled). Umemo da izraqunamo vred-

Ovakva induktivna hipoteza je pogodnija jer se lakxe proxiruje. Poxto

Ris. 1. Izraqunavae vrednosti polinoma u zadatoj taqki.

b d d c F = {(a, d), (a, e), (d, e)}

Ris. 2. Primer indukovanog podgrafa. Grane su neureeni

Ris. 3. Primer preslikavaa skupa u samog sebe.

n − 1 elementom, koji f preslikava u samog sebe; prema induktivnoj hipotezi

preslikavae bijekcija, i problem je rexen.

Izlaz: (podskup ulaznog skupa takav da je bijekcija na ).

Ris. 4. Algoritam Bijekcija.

Problem. Data je n×n matrica povezanosti M . Ustanoviti da li postoji

Ris. 5. Algoritam za pronalaee zvezde.

f (x) = max {fLi ,Di ,Vi (x) | i = 1, 2, . . . , n}

jednostavnosti pretpostav a da je jox x = −∞, v = 0, x = ∞. U primeru

Ris. 6. Problem nalaea maksimuma skupa pravougaonika:

fn−1 (x) = f(x1 ,v1 ),(x2 ,v2 ),...,(xk ,vk ) (x)

prik uqio n-ti pravougaonik f (x), treba pronai takve indekse i, j ,

moe se pri prelasku na f (x) promeniti samo u onim intervalima konstant-

nosti sa kojima interval [L , D )) ima neprazan presek. Novi maksimum je

Intervali konstantnosti [x , x ) i [x , x ) funkcije f (x) u opxtem

odnosno [x , D ), [D , x ), u kojima je vrednost f (x) konstantna; pored to-

ga, u intervalima [x , x ), l = i + 1, . . . , j − 1 u kojima f (x) ima vrednost

mau od V , f (x) dobija novu (u odnosu na f (x)) vrednost V . U primeru

na slici 7 je n = 5, (L , D , V ) = (5, 9, 4.5), i

fn−1 (x) = f(1,4),(2,5),(5,6),(9,4),(10,0) (x),

Ris. 7. Dodavae novog pravougaonika maksimumu prethod-

goritam se moe usavrxiti primenom metoda dekompozicije (odnosno "zava-

di, pa vladaj, engleski divide–and–conquer ). Umesto prelaska sa

dve razliqite funkcije f (x) i f (x), rexea dva potproblema za po n/2

pravougaonika. Za asimptotski isto vreme postie se mnogo vixe koristei

drugi pristup. Dve u delovima konstantne funkcije mogu se kombinovati u

se prolaze istovremeno sleva u desno, identifikuju se x-koordinate kraje-

va intervala konstantnosti funkcije f (x) i odreuju vrednosti f (x) u tim

kompletnog algoritma O(n log n) u najgorem sluqaju. Ovaj algoritam je sliqan

Ris. 8. Odreivae maksimuma dve u delovima konstantne funkcije.

Ris. 9. Binarno stablo sa oznakama h/b uz unutraxe

moguom sumom. i i+1 j

Za ovakav podniz rei emo da je maksimalni podniz. Na primer, u nizu

induktivnoj hipotezi mi umemo da pronaemo maksimalni podniz S niza

). Ako je S prazan podniz, onda su svi brojevi u nizu S

negativni, pa ostaje da se razmotri samo x . Pretpostavimo sada da je S =

(x , x , . . . , x ) za neke indekse i i j takve da je 1 ≤ i ≤ j ≤ n−1. Ako je j = n−1

(odnosno maksimalni podniz je sufiks), onda je lako ovo rexee proxiriti

na S: ako je broj x pozitivan, onda on produuje S , a u protivnom podniz S

je maksimalan i u S. Meutim, ako je j < n − 1, onda postoje dve mogunosti.

maksimalan u S , ali posle dodavaa x postaje maksimalan u S.

samo poznavae maksimalnog podniza u S . Meutim, x moe da produi samo

Ulazni podaci za problem su n + 2 broja. Induktivni pristup rexavau

Ova hipoteza je osnova za rexavae problema indukcijom. Sluqaj n = 0

rexea maeg problema (vrednosti P (x)). U ovom sluqaju je to oqigled-

no: treba izraqunati x , pomnoiti ga sa a i rezultat sabrati sa P (x):

uxtedeti ako se pri izraqunavau x iskoristi x . Pobo xae se real-

izuje uk uqivaem izraqunavaa x u induktivnu hipotezu.

Ova induktivna hipoteza je jaqa, jer zahteva izraqunavae x , ali se n−1

mnoee sa a i sabirae sa P (x). Ukupno je potrebno izvrxiti 2n mnoen-

vixe izraqunavaa, ona dovodi do smaea ukupnog broja operacija. Dobi-

ukloniti koeficijent a , i svesti problem na izraqunavae vrednosti poli-

Ris. 1. Izraqunavae vrednosti polinoma u zadatoj taqki.

Ris. 2. Primer indukovanog podgrafa. Grane su neureeni

Ris. 3. Primer preslikavaa skupa u samog sebe.

preslikavae bijekcija, i problem je rexen.

Ris. 5. Algoritam za pronalaee zvezde.

Ris. 6. Problem nalaea maksimuma skupa pravougaonika:

prik uqio n-ti pravougaonik f (x), treba pronai takve indekse i, j ,

moe se pri prelasku na f (x) promeniti samo u onim intervalima konstant-

mau od V , f (x) dobija novu (u odnosu na f (x)) vrednost V . U primeru

Ris. 7. Dodavae novog pravougaonika maksimumu prethod-

goritam se moe usavrxiti primenom metoda dekompozicije (odnosno "zava-

dve razliqite funkcije f (x) i f (x), rexea dva potproblema za po n/2

pravougaonika. Za asimptotski isto vreme postie se mnogo vixe koristei

va intervala konstantnosti funkcije f (x) i odreuju vrednosti f (x) u tim

Ris. 8. Odreivae maksimuma dve u delovima konstantne funkcije.

Ris. 9. Binarno stablo sa oznakama h/b uz unutraxe

moguom sumom. i i+1 j

Za ovakav podniz rei emo da je maksimalni podniz. Na primer, u nizu

induktivnoj hipotezi mi umemo da pronaemo maksimalni podniz S niza

(odnosno maksimalni podniz je sufiks), onda je lako ovo rexee proxiriti

na S: ako je broj x pozitivan, onda on produuje S , a u protivnom podniz S

je maksimalan i u S. Meutim, ako je j < n − 1, onda postoje dve mogunosti.

maksimalan u S , ali posle dodavaa x postaje maksimalan u S.

samo poznavae maksimalnog podniza u S . Meutim, x moe da produi samo

smo pojaqali induktivnu hipotezu tako da obuhvati i nalaee maksimalnog

Pojaqana induktivna hipoteza. U nizovima duine < n umemo da

simalni sufiks proxirujemo brojem x . Ako je dobijena suma vea od sume

je i novi maksimalni sufiks). U protivnom, zadravamo prethodni maksi-

vari prazan podniz, sa sumom 0. Algoritam za nalaee maksimalnog podniza

Ris. 10. Algoritam za nalaee maksimalnog podniza

ulazi predmet veliqine k . U protivnom, ako ne postoji rexee P (n − 1, K),

trebalo bi pojaqati induktivnu hipotezu. Potrebno je imati rexea ne samo

za ranac veliqine K , nego i za rance veliqine mae od K .

kompletno, algoritam je konstruisan. Meutim, ovaj algoritam je neefikasan.

Ris. 11. Algoritam za rexavae problema ranca.

Tablica 1. Primer tabele formirane pri rexavau prob-

Prostorna sloenost ovog algoritma je O(nK). Ako se zahteva samo odgo-

1, 2, . . . , n. Konstruisati algoritam koji ranac puni do vrha, i to predmetima sa najveim

sa jednakim sumama elemenata, ili utvruje da takvo razlagae nije mogue.

a ako je odgovor "da", potrebno je pronai indeks i takav da je x = z.

Zbog jednostavnosti, traimo samo jedan indeks i takav da je z = x . U

niza. Pronalaee z u prvoj ili drugoj polovini niza je problem veliqine

Zaista, niz x = a − i je neopadajui (jer je x − x = a − a − 1 ≥ 0), a

se binarnom pretragom niza x , u kome se trai broj z = 0.

5.2.2. Binarna pretraga cikliqki ureenog niza. Za niz x , x , ...,

Problem. Za zadati cikliqki ureeni niz pronai poziciju minimalnog

proizvo na dva broja x i x takva da je k < m. Ako je x < x , onda i ne moe

jednim uporeivaem moe se eliminisati mnogo elemenata. Odgovarajuim

Moe se postupiti na sledei naqin. Najpre se z uporeuje sa x . Ako je

deks j takav da je z > x . Posle uporeivaa z sa x postoje dve mogunosti.

Ako je z ≤ x , onda znamo da je x < z ≤ x , pa se z moe pronai pomou

Ris. 2. Cikliqki ureen niz | ilustracija.

Ris. 3. Binarna pretraga cikliqki ureenog niza.

Pretpostavimo da je i najmai indeks takav da je z ≤ x . Tada je dovo no

ili jednako od z, i novih O(log i) uporeivaa da se pronae z.

Isti algoritam moe se upotrebiti i ako je duina niza poznata, ali

niza A: u nizu A trai se prva pojava znaka b , zatim od te pozicije da e prva

Poxto se elementi oba niza prolaze taqno po jednom, vremenska sloenost

Ovaj problem moe se nazvati problem mucavog podniza. Iako na prvi

1 ≤ i ≤ j , B podniz A. Najvea vrednost za i koju treba razmatrati man-

ja je ili jednaka od n/m, jer bi u protivnom niz B bio dui od niza A. i

Dakle, moe se primeniti binarna pretraga. Poqiemo sa i = dn/(2m)e i

Posle k koraka dolazi se do intervala duine (b − a)/2 koji sadri rexee.

Sa polov eem intervala nastav a se do postizaa zahtevane taqnosti.