08 Dsfadfs

Numeri
cka matematika
8. predavanje
Sasa Singer
singer@math.hr
web.math.pmf.unizg.hr/~singer
PMF Matematicki odsjek, Zagreb
NumMat 2015, 8. predavanje p.1/123
Sadr
zaj predavanja
Metoda najmanjih kvadrata (nastavak):
QR faktorizacija.
Householderovi reflektori.
QR faktorizacija i pivotiranje.
Rjesenje matricne formulacije problema najmanjih
kvadrata koristenjem QR faktorizacije.
Neprekidni problem najmanjih kvadrata.
Jednostavni primjer.
Slozeniji primjer.
Ortogonalne familije funkcija, ortogonalni polinomi.
Primjeri ortogonalnih familija funkcija.
Komentar rezultata 1. kolokvija

Rezultati prvog kolokvija komentar:
Opcenito gledajuci, rezultati su dobri :-)
Prosjek bodova je 29.15, na 146 pridoslih.
Idemo redom . . .
Pohvala svima koji imaju 40 bodova ima ih 11.
Medjutim, za neke moglo je i puno bolje.
Svi s 20 bodova ozbiljno su ugrozeni takvih je 20.
Kolokviji ispituju gradivo cijelog kolegija, a ne samo vjezbe!
Sudeci prema bodovima na prvom zadatku,
samo dio vas (60) je to ozbiljno shvatio.
Komentar rezultata 1. kolokvija nastavak

Evo statistike po zadacima, na 146 pristiglih studenata:
Zadatak
Uk. bod.
1
10
2
10
3
10
4
10
5
10
ukupno
50
Prosjek
1.52
8.05
8.34
6.48
4.76
29.15
Komentar o teoriji = barem 14 bodova od 50:

na 1. zadatku rezultat je los,
na 2. i 3. zadatku ima nesto odgovora.
Savjet: Isplati se pogledati i predavanja.
Informacije rijeseni zadaci . . .

Zadaci. Na mojoj i sluzbenoj web stranici mozete naci
rijesene zadatke iz neprekidnih najmanjih kvadrata
(pdf format).
Tamo ima 6 zadataka s detaljnim rjesenjima, a neki zadaci
imaju i dva rjesenja.
Neprekidni najmanji kvadrati se
detaljno rade na predavanjima, skupa sa zadacima,
a ovo je dodatak za vjezbanje.
Informacije
Konzultacije (sluzbeno):
samo za NM: utorak u 13 sati (iza predavanja),
petak, 1214 sati, ili po dogovoru.
Ne zaboravite, zive su i domace zadace na adresi
http://web.math.hr/nastava/unm/zadace.php
ili, izravno
http://degiorgi.math.hr/nm/
Dodatni bodovi cekaju na vas.
Informacije
Moja web stranica za Numericku matematiku je
http://web.math.hr/~singer/num_mat/
Tamo su kompletna predavanja iz proslih godina, a stizat ce i
nova (kako nastaju).
Skracena verzija skripte 1. dio (prvih 7 tjedana):
http://web.math.hr/~singer/num_mat/num_mat1.pdf
Skracena verzija skripte 2. dio (drugih 6 tjedana):
http://web.math.hr/~singer/num_mat/num_mat2.pdf
Informacije demonstratori
Kolegij Numericka matematika ima dvije demonstratorice:
sko
Angela BasicSi
termin: ponedjeljak, 1214.
email: abasic@student.math.hr
Mia Jukic
termin: srijeda, 1416.
email: mia.jukic2@gmail.com
Demosice lijepo mole da im se najavite mailom bar dan ranije!
Sastanak za demonstrature je pred oglasnom plocom
(bar zasad).
Householderovi reflektori
Householderovi reflektori
Za zadani jedinicni vektor u Rm , matrica H definirana s
H = H(u) := I 2uuT ,
kuk2 = 1,
zove se Householderov reflektor.

Matrica H je
simetricna,
i ortogonalna, jer je
HH T = H 2 = (I 2uuT ) (I 2uuT )
= I 4uuT + 4u(uT u)uT
= I 4uuT + 4kuk22 uuT = I.

Zasto bas ime reflektor?

Promatrajmo hiperravninu koja je okomita na vektor u.
Reflektor H sve vektore x preslikava u simetricne
obzirom na tu hiperravninu, x = Hx.
Ponistavanje Householderovim reflektorima

Neka je zadan vektor x. Treba naci Householderov reflektor H
koji ponistava sve komponente vektora x, osim prve. Dakle,
treba naci jedinicni vektor u koji definira takav reflektor H.
Trazimo da je
Hx =
c
0
..
.
0
= c e1 ,
c R.
Za pocetak, H je unitarna matrica, pa cuva normu vektora,

kxk2 = kHxk2 = |c|.
odakle slijedi da je c = kxk2 .

Napisimo trazenu jednadzbu preko nepoznatog vektora u
Hx = (I 2uuT )x = x 2u(uT x) = kxk2 e1 .
Uocimo da je uT x broj = skalarni produkt dva vektora.
Zanemarimo na trenutak mogucnost da je uT x = 0. Onda je
1
(x kxk2 e1 ).
u=
T
2(u x)
Obzirom na to da uT x ne znamo, mozemo zakljuciti da je
u = (x kxk2 e1 ),
za neki R,
tj. da je u paralelan s vektorom u

e = x kxk2 e1 . Konacno,
konstantu nalazimo normiranjem vektora u
e na normu 1.

Prema tome,
u
e
u=
,
ke
uk2
ako je u
e 6= 0. U protivnom, stavljamo u = 0, odnosno, H = I.
Uocite da oba izbora predznaka () u definiciji u
e uvijek daju
Hx = c e1 = kxk2 e1 .
Ako je x = 0, onda je u
e = 0, a to znaci da je H = I. Tada
mozemo uzeti bilo koji u, jer je H 0 = 0 za svaki H.
U protivnom je i kxk2 6= 0, pa barem jedan izbor predznaka

() u formuli za u
e daje u
e 6= 0. Ako drugi izbor daje u
e = 0,
onda je x = kxk2 e1 . Dakle, oba reflektora su korektna.
Izbor predznaka za u
Ranija mogucnost da je uT x = 0 ne pravi nikakve poteskoce.
Onda je Hx = x = kxk2 e1 i samo tada bar jedan izbor
predznaka daje u
e = 0. Dobiveni H(u) je i tada korektan!
Za x 6= 0, u praksi se, zbog numericke stabilnosti, cesto koristi

u
e = x + sign(x1 )kxk2 e1 ,
zato da nema kracenja pri racunanju prve komponente od u

e,
tj. da oba pribrojnika budu istog znaka,
u
e1 = x1 + sign(x1 )kxk2 .
To znaci da je c = sign(x1 ), sto ponekad zbunjuje u praksi.

Na primjer, za x = e1 dobivamo Hx = e1 !
Stvarno, uz pazljiviji poredak racunanja, to nije potrebno!

Drugi na
cin definicije H
Napomena. Normiranje u
e 7 u se, formalno, moze izbjeci, ako
definiramo
u
eu
eT
H(e
u) = I 2 T .
u
e u
e
Kako djelovati s H na ostale stupce?
Kad smo izracunali u, ne treba racunati cijelu matricu H.

Dovoljno je pogledati kako ona djeluje na neki vektor z:
Hz = (I 2uuT )z = z 2u(uT z).
Dakle, treba izracunati skalarni produkt uT z, a zatim
modificirati vektor z (to je neki stupac radne matrice).
Ako koristimo H(e
u), onda u
eT z stalno treba dijeliti s ke
uk22 .
QR faktorizacija koristenjem reflektora

QR faktorizacija provodi se sustavnom primjenom
Householderovih reflektora na matricu G i to slijeva.
Prvo se reflektorom H1 poniste svi elementi prvog stupca
(do na prvi), a na ostale stupce se djeluje reflektorom H1 .
Zatim se poniste elementi dijela drugog stupca od
dijagonale nadolje (osim dijagonalnog elementa). To se
radi skracenim reflektorom H2 .
Na cijelu radnu matricu onda djelujemo reflektorom
"
#
1
H2 =
.
H2
U pripadnom vektoru u, prva komponenta je u1 = 0.
QR faktorizacija koristenjem reflektora

I tako redom. U k-tom koraku, za k = 1, . . . , n,
reflektorom Hk se ponistava k-ti skraceni stupac u
radnoj matrici od dijagonale nadolje.
Na cijelu radnu matricu onda djelujemo reflektorom
"
#
I
Hk =
,
Hk
s tim da je I reda k 1, a Hk je reda m k + 1.
Ako zelimo formirati ortogonalnu matricu Q, onda je
ili
Hn Hn1 H1 G = R,
tj. QT = Hn Hn1 H1 ,
Q = (Hn Hn1 H1 )T = H1 Hn1 Hn .

QR faktorizacija i pivotiranje
Ra
cunanje QR faktorizacije
Neka je G zadana matrica tipa m n, s tim da je m n.
Racunanje QR faktorizacije matrice G
provodimo u nizu od n koraka. Ako dozvolimo i m < n,

broj koraka je min{m, n}.
Na pocetku algoritma oznacimo R(0) := G.
Opisimo kako izgleda kti korak algoritma, za k = 1, . . . , n.
Na pocetku k-tog koraka trenutna radna matrica je
R(k1) .
U njoj prvih k 1 stupaca vec ima gornjetrokutastu
formu, tj. nule ispod dijagonale.
Ti stupci se vise nece mijenjati!
Ra
Izgled radne matrice R(k1) na pocetku k-tog koraka:
(1)
(2)
(k1)
(k1)
(k1)
r1,1 r1,2
r1,k1
r1,k
r1,n
(2)
(k1)
(k1)
(k1)
r2,2
r2,k1
r2,k
r2,n
..
..
..
...
.
.
.
(k1)
(k1)
(k1)
r
r
r
k1,k1
k1,k
k1,n
(k1)
(k1)
r
k,k
k,n
..
..
.
.
(k1)
(k1)
rm,k
rm,n
Ra
U k-tom koraku u matrici R(k1)
ponistavamo sve elemente k-tog stupca ispod dijagonale,
nekom ortogonalnom transformacijom Qk .
Tako dobivamo novu radnu matrcu R(k) koja ima jedan
sredeni stupac vise.
Ovu transformaciju mozemo prikazati u obliku
R(k) = Qk R(k1) ,
k = 1, . . . , n.
Na kraju dobivamo gornju trokutastu matricu R := R(n) .

Nije bitno kako racunamo Qk rotacijama ili reflektorima!
Pivotiranje stupaca u QR faktorizaciji

Slicno kao kod LR faktorizacije, i kod QR faktorizacije
mozemo koristiti pivotiranje.
Uobicajeno se koristi pivotiranje stupaca
GP = QR,
gdje je P matrica permutacije.
Ako su x , = k, . . . , n, skraceni stupci, na prvo mjesto
dovodi se onaj s najvecom normom, tj. takav da je kxk k2
maksimalna.
Postupak dovodenja na prvo mjesto ponavljamo u svakom
koraku QR faktorizacije sa sve kracim i kracim stupcima.
Svrha pivotiranja
Svrha?
Ako je matrica G bila takva da su joj stupci (skoro)
linearno zavisni, onda se QR faktorizacijom s
pivotiranjem odreduje rang matrice G.
Teorem. Neka je G Rmn matrica ranga r. Tada postoje
n n matrica permutacije P , ortogonalna matrica Q reda m,
te gornja trokutasta matrica R0 ranga r, tipa min{m, n} n,
tako da vrijedi
"
#
R0
GP = QR = Q
0
i
j
X
k(R0 )kk k2
k(R0 )ij k2 , 1 k min{m, n}, k j n.
i=k
Rje
senje matri
cne formulacije
kori
stenjem QR faktorizacije
Koristenje QR faktorizacije
Vec smo najavili da cemo za rjesenje diskretnog problema
najmanjih kvadrata koristiti QR faktorizaciju.
Prisjetimo se, ako je A punog stupcanog ranga (tj. vrijedi
rang(A) = m), onda QR faktorizacija matrice A ima oblik
"
#
R0
A = QR = [ Q0 Q0 ]
= Q0 R0 .
0
Za pocetak, ako minimiziramo kAx bk22 , minimizirali smo i
kAx bk2 . Zbog unitarne invarijantnosti 2-norme, imamo
min kAx bk22 = min kQT (Ax b)k22 = min kQT Ax QT bk22 .
x
Za Q uzmimo ortogonalnu matricu iz QR faktorizacije, pa je
"
2
#
R

0
T
2
T
min kQ (Ax b)k2 = min
x Q b
x
x

0
2
"
#
"
# 2

R
T
Q

0
0
x
b
= min

T
x

0
(Q0 )
2
"
# 2
R x QT b

0
0
= min

T
x
0 (Q0 ) b
2

T
2
= min kR0 x QT0 bk22 + k(Q
)
bk
0
2 .
x
Primijetimo da samo prvi clan u prethodnom minimumu ovisi
o x, a drugi ne.
Buduci da je R0 kvadratna i punog ranga, onda je i regularna,
pa postoji jedinstveno rjesenje x linearnog sustava
R0 x = QT0 b.
Time smo prvi clan u kvadratu norme napravili najmanjim
mogucim, jer je kR0 x QT0 bk22 = 0.
Zakljucak. Onda vrijedi
T
min kAx bk2 = k(Q
)
bk2 ,
0
x
a postize se za vektor x koji je rjesenje sustava R0 x = QT0 b.

Drugi na
cin
Napomena. Postoji i laksi nacin da se dode do prethodnog
zakljucka, ako znamo da su rjesenja problema minimizacije
min kAx bk2
x
jednaka rjesenju sustava normalnih jednadzbi

AT Ax = AT b.
Ako je AT A nesingularna, sto je ekvivalentno tome da A ima
puni stupcani rang, onda problem najmanjih kvadrata ima
jedinstveno rjesenje
x = (AT A)1 AT b.
Drugi na
cin
Napravimo skracenu QR faktorizaciju matrice A
A = Q0 R0 .
Uvrstavanjem u rjesenje x izlazi
x = (AT A)1 AT b = ((Q0 R0 )T Q0 R0 )1 (Q0 R0 )T b
= (R0T QT0 Q0 R0 )1 R0T QT0 b = (R0T R0 )1 R0T QT0 b
= R01 (R0T )1 R0T QT0 b = R01 QT0 b,
pa je x, ocito, rjesenje sustava
R0 x = QT0 b.
Primjer
Primjer. Diskretnom linearnom metodom najmanjih kvadrata
nadite funkciju oblika
x+a
(x) =
bx + c
koja aproksimira slijedeci skup podataka (tocaka):
xi
fi
0
1
2
3
4
2.02 0.97 0.82 0.70 0.67
Nadite
aproksimacije i pogreske u cvorovima xi i
sumu kvadrata apsolutnih gresaka S.
Primjer linearizacija
Rjesenje nadite
koristenjem sustava normalnih jednadzbi i faktorizacije
Choleskog,
koristenjem QR faktorizacije,
koristenjem QR faktorizacije s pivotiranjem stupaca.
Rjesenje. Trazeni oblik funkcije je nelinearan, pa ga treba
linearizirati. To mozemo napraviti na vise nacina.
1. Pomnozimo oblik funkcije s bx + c i dobivamo
(bx + c)(x) = x + a,
odnosno
a + b x(x) + c (x) = x.
Primjer linearizacija
2. Ovu funkciju a + b x(x) + c (x) = x mozemo
podijeliti s (x), pa dobivamo drugu linearizaciju
1
x
a
+ bx + c =
.
(x)
(x)
Primijetite da ove dvije linearizacije
ne moraju (i nece) dati isto rjesenje!
Obje pripadaju grupi linearizacija oblika
D + Eu + F v = w,
pri cemu je w = w(u, v).
Primjer sustav normalnih jednad

zbi
Prvo rijesimo problem koristenjem sustava normalnih
jednadzbi i faktorizacije Choleskog.
Za 1. slucaj metoda najmanjih kvadrata ima oblik
S=
n
X
i=0
wi (a + bui + cvi )
pri cemu su supstitucije za varijable

u = x(x),
v = (x),
2
min,
w = x,
a za vrijednosti varijabli u cvorovima

ui = xi fi ,
v i = fi ,
w i = xi .

zbi
Deriviranjem po sve tri varijable izlazi
S
= 2
a
S
= 2
b
S
= 2
c
n
X

wi (a + bui + cvi ) (1) = 0
i=0
n
X

wi (a + bui + cvi ) vi = 0.
i=0
n
X
i=0

wi (a + bui + cvi ) ui = 0

zbi
Odavde dobivamo simetricni, pozitivno definitni linearni
sustav
n
n
n
X
X
X
wi
ui
vi

(n + 1)
i=0
i=0
i=0
a
X
n
n
n
n

X
X
X
ui wi
u
u
u
v
i
i
i i b =
i=0
i=0
i=0
i=0
n
c
n
n
n
X
X
X
X

vi
ui vi
vi2
vi w i
i=0
i=0
i=0
i=0

zbi
Kad uvrstimo zadane podatke, za 1.
sustav M x = d, gdje je
5
7.39 5.18
M = 7.39 15.2229 5.5513

5.18 5.5513 6.6326
slucaj dobivamo linearni
10
d = 21.27 .
7.39
Faktorizacija Choleskog matrice M je M = RT R, uz
2.2360679775 3.3049084707 2.3165664247
R
2.0737598704 1.0149391114 .
0.4858174557

zbi
Sad moramo jos rijesiti dva trokutasta sustava:
RT y = d,
Rx = y.
Rjesenja prvog, pa drugog sustava su
4.4721359550
1.7685862981
y 3.1295812465 , x 1.9369990502 .
0.4247159232
0.8742294419
Prema tome, rjesenje za parametre u 1. slucaju je
a = 1.7685862981,
b = 1.9369990502,
c = 0.8742294419.

zbi
Vrijednosti u cvorovima dobivamo tako da uvrstimo xi u (x)
xi + 1.7685862981
(xi ) =
,
1.9369990502xi + 0.8742294419
pripadne greske su fi (xi ), a zbroj kvadrata gresaka je
4
X
S=
(fi (xi ))2 .
i=0
Izracunajte sami!

zbi
Za 2. slucaj treba uvesti supstitucije za varijable
1
u=
,
(x)
v = x,
x
w=
,
(x)
i vrijednosti varijabli u cvorovima

1
ui =
,
(fi )
v i = xi ,
xi
wi = .
fi
Metoda najmanjih kvadrata imat ce oblik

S=
n
X
i=0
wi (aui + bvi c)
2
min .

zbi
Pripadni linearni sustav glasi M x = d,
7.0636 13.7258 5.6666
M 13.7258
30
10
5.6666
10
5
Rjesenje za parametre u 2. slucaju je
gdje je
19.0704
,
d
42.6467
.
13.7258
a = 1.7522057170,
b = 1.9387446017,
c = 0.8534831289.
Ova rjesenja se ponesto razlikuju od prethodnih!
Primjer QR faktorizacija
Rijesimo sad 1. slucaj koristenjem QR faktorizacije.
Uvrstavanjem tocaka (xi , fi ) u
dobivamo
a + b x(x) + c (x) = x,
a + bxi fi + cfi = xi ,
i = 0, . . . , 4,
pa su A i b iz problema minimizacije jednaki
1 0.00 2.02
1 0.97 0.97
A=
1 1.64 0.82 , b =
1 2.10 0.70
1 2.68 0.67
0
1
2
3
4
Skracena forma QR faktorizacije od A je A = Q0 R0 , gdje je
0.4472135955 0.7127151128
0.5364927787
0.4472135955 0.2449656815 0.6476203098
Q0
0.0781189772 0.2814102151
0.4472135955
,
0.4472135955
0.2999382951
0.0650056784
0.4472135955
0.5796235221
0.4575434246
R0
2.2360679775 3.3049084707 2.3165664247
2.0737598704 1.0149391114 .
0.4858174557
Uocite: R0 = R iz faktorizacije Choleskog za M = AT A.
Desna strana linearnog sustava je QT0 b, gdje je
4.4721359550
QT0 b 3.1295812465 .
0.4247159232
Rjesenje trokutastog sustava R0 x = QT0 b je
1.7685862981
x 1.9369990502
0.8742294419
Napravite isto sami za drugu linearizaciju.
Primjer QR faktorizacija s pivotiranjem

Ako napravimo QR faktorizaciju s pivotiranjem stupaca, dobit
cemo AP = Q0 R0 , gdje je poredak stupaca p = [2, 3, 1],
0.0000000000
0.9409894604
0.3321538334
0.2486125437
0.2870820614 0.7315708741
Q0 0.4203346099
0.1033900358 0.3129274676
,
0.5382333419 0.0306530483 0.0596152612
0.6868882649 0.1431559168
0.5029913595
R0
3.9016534956
1.4228070243 1.8940687604
2.1466765410 1.1576525926 .
0.2689684102

Desna strana linearnog sustava je QT0 b, gdje je
5.4515348490
QT0 b 0.1707206788 .
0.4756938448
Dobiveno rjesenje trokutastog sustava R0 x = QT0 b je
1.9369990502
x 0.8742294419 .
1.7685862981

Sad jos treba vratiti x u pravi poredak. Buduci da je finalni
pivotni vektor bio p = [2, 3, 1], to odgovara matrici permutacije
0 1 0
P = 0 0 1 .
1 0 0
Pravo rjesenje x dobit cemo kao
1.7685862981
x = P T x = 1.9369990502 .
0.8742294419
Veza QR faktorizacije i faktorizacije Choleskog

Neka je G pravokutna matrica tipa (m, n), koja ima puni
stupcani rang, tj. rang(G) = n m.
Matrica G ima jedinstvenu QR faktorizaciju (na pr. punu)
"
#
R0
G=Q
,
0
gdje je R0 gornja trokutasta matrica reda n, s pozitivnim
dijagonalnim elementima, a Q je unitarna matrica.
S druge strane, neka je H := G G Gramova matrica skalarnih
produkata stupaca matrice G.
Znamo da je onda H pozitivno definitna matrica. Zato H ima
jedinstvenu faktorizaciju Choleskog . . .
Veza QR faktorizacije i faktorizacije Choleskog

H = R R,
gdje je R gornja trokutasta s pozitivnom dijagonalom.
Tvrdnja. Ovi trokutasti faktori su jednaki, tj. vrijedi R = R0 .
Dokaz. U H = G G uvrstimo QR faktorizaciju od G i
skratimo Q Q = I. Jedinstvenost faktora R daje tvrdnju.
Ista veza (jednakost) vrijedi i za faktorizacije s pivotiranjem:
pivotiranje stupaca po normi u QR faktorizaciji, i
dijagonalno pivotiranje u faktorizaciji Choleskog.
Korist: ako znamo faktor G matrice H, i trazimo R,
ne treba racunati H, pa Choleskog, vec samo QR od G.
Neprekidni problem
najmanjih kvadrata
Jos jednom o najmanjim kvadratima

U uvodu o aproksimaciji receno je da se parametri funkcije
F po metodi najmanjih kvadrata, traze tako da bude
min ke(x)k2 ,
F
pri cemu je e(x) = f (x) (x).
Da bismo mogli naci minimalnu gresku u neprekidnom

slucaju, moramo definirati
skalarni produkt za neprekidne funkcije na
odgovarajucem intervalu.
Definicija norme nije dovoljna, jer je rjesenje vec u
diskretnom slucaju bila projekcija na potprostor, a za to
nam je potreban skalarni produkt.
Definicija norme i skalarnog produkta

Neka je w(x) zadana funkcija. w(x) je tezinska funkcija ako je
w(x) 0 na intervalu [a, b],
w(x) moze biti jednaka 0 samo u izoliranim tockama.

Tezinska L2 -norma (ili samo 2-norma) funkcije u na [a, b] je
kuk2 =
Zb
a
w(x) |u(x)|2 dx
1/2
Ako je ta norma konacna i za funkciju u i za funkciju v, onda

mozemo definirati tezinski skalarni produkt
hu, vi =
Zb
w(x) u(x)v(x) dx.
Definicija skalarnog produkta

Skalarni produkt hu, vi je dobro definiran (konacan), jer
vrijedi CauchySchwarzova nejednakost
|hu, vi| kuk2 kvk2 .
hu, vi je skalarni produkt, jer
1. hu, ui 0, a jednak je 0 za one funkcije u koje su nula u

svim tockama gdje je w(x) > 0, (v. mjera i integral)
2. vrijedi linearnost u prvom argumentu
h1 u1 + 2 u2 , vi = 1 hu1 , vi + 2 hu2 , vi,
3. i antilinearnost/linearnost (C/R) u drugom argumentu,
hu, 1 v1 + 2 v2 i = 1 hu, v1 i + 2 hu, v2 i.
Ortogonalne funkcije
Napomena. Ako se radi o realnim funkcijama, onda
kompleksno konjugiranje drugog argumenta izbacujemo.
U nastavku radimo samo s poljem R, tj. s realnim funkcijama.
Za funkcije u i v reci cemo da su ortogonalne ako vrijedi
hu, vi = 0.
Ako su u i v ortogonalne, onda vrijedi
ku + vk2 = hu, ui + hu, vi + hv, ui + hv, vi
= kuk2 + 2hu, vi + kvk2 = kuk2 + kvk2 .
Pitagorin poucak!
Sustavi ortogonalnih funkcija

Ako imamo sustav ortogonalnih funkcija uk , k = 0, . . . , m, za
koje vrijedi
hui , uj i = 0,
za i 6= j,
i, j = 0, . . . , m,
i uk 6 0 tamo gdje je w(x) > 0, onda vrijedi

X
2 X
m
m

2
2

=
u
|
|
ku
k
k
k
k
k
2.

k=0
k=0
Prethodna jednakost znaci da je ortogonalni sustav funkcija

linearno nezavisan tamo gdje je w(x) > 0.
Ako je lijeva strana jednaka nula, mora biti i desna, a po
pretpostavci je kuk k2 > 0, pa je jedino moguce da je k = 0 za
k = 0, . . . , m.
Norma kvadrata greske

Ako je linearna funkcija, tj. (x) = a0 0 (x) + + am m (x),
onda za normu kvadrata greske dobivamo
S := kek22 = kf k22 = hf, f i 2hf, i + h, i.
Ako uvrstimo oblik funkcije i definiciju skalarnog produkta,
dobivamo
S=
Zb
w(x)f 2 (x) dx 2
Zb
w(x)f (x)
w(x)
aj j (x) dx
j=0
Zb
X
m
X
m
j=0
aj j (x)
2
dx.
Sustav normalnih jednad

zbi
Kvadrat norme greske S je funkcija koeficijenata aj .
Radi o kvadratnoj funkciji u m + 1 varijabli, pa je uvjet
minimuma da su sve parcijalne derivacije jednake 0.
Dakle,
S
=2
0=
ai
Zb
w(x)
j=0
X
m
Zb

aj j (x) i (x) dx
w(x)f (x)i(x) dx,
pa mora biti . . .

zbi
pa mora biti . . .
m
X
j=0
aj
Zb
w(x)i (x)j (x) dx =
Zb
w(x)f (x)i(x) dx,
za i = 0, . . . , m. Uocimo da su odgovarajuci integrali skalarni

produkti, pa imamo
m
X
hi , j iaj = hi , f i.
j=0
Ako oznacimo
mij = hi , j i,
ti = hi , f i,
i, j = 0, . . . , m,

zbi
pri cemu je
aT = [a0 , a1 , . . . , am ],
onda problem najmanjih kvadrata mozemo pisati kao sustav
normalnih jednadzbi
M a = t.
Matrica M je
(ocito) simetricna,
ali i pozitivno definitna.
Pozitivna definitnost matrice M

Pozitivna definitnost izlazi iz definicije elemenata mij . Za
svaki vektor x 6= 0 imamo
xT M x =
m X
m
X
i=0 j=0
X
m
i=0
xi xj hi , j i =
xi i ,
m
X
j=0
xj j
m X
m
X
i=0 j=0
hxi i , xj j i
2
m
X

,
=
x
i
i

i=0
sto je ocito nenegativno. Nuli je jednako ako i samo ako je

m
X
i=0
xi i 0,
cim je w(x) > 0.
Rjesenje problema najmanjih kvadrata

Zakljucak. Simetricne pozitivno definitne matrice su
nesingularne, pa
postoji jedinstveno rjesenje problema M a = t.
Nadalje, izracunati vektor a je jedinstveni minimum za
problem najmanjih kvadrata, jer je
Hesseova matrica drugih parcijalnih derivacija H
pozitivno definitna, sto slijedi iz
2
S
hij =
=2
ai aj
Zb
w(x)i (x)j (x) dx = 2mij ,
tj. H = 2M !
Jednostavni primjer
Primjer. Neprekidnom metodom najmanjih kvadrata nadite
polinom stupnja 1 koji aproksimira funkciju
f (x) = ex
na intervalu [1, 1] uz tezinsku funkciju w(x) = 1.
Rjesenje. Treba minimizirati
S=
Z1
(ex a1 x a0 )2 dx min .
Jednostavni primjer
Deriviranjem dobivamo
S
= 2
a1
Z1
(ex a1 x a0 )x dx
S
= 2
a0
Z1
(ex a1 x a0 ) dx,
pa uz oznake
sk :=
Z1
xk dx,
tk :=
Z1
ex xk dx,
treba rijesiti sljedeci linearni sustav . . .

Jednostavni primjer
treba rijesiti sljedeci linearni sustav . . .
s2 a1 + s1 a0 = t1
s1 a1 + s0 a0 = t0 ,
Izracunajmo integrale s lijeve strane
sk =
Z1
1
x dx =
xk+1
k+1
k
2 ,
= k+1
0,
1
k+1

1
(1)
=

k+1
1
za k paran,
za k neparan.
Jednostavni primjer
Za integrale desne strane dobivamo
t0 :=
Z1
t1 :=
Z1
1

x
x
e dx = e = e e1
1
xex dx =
u=x
dv = ex
du = dx
v = ex
= e + e1 (e e1 ) = 2e1 .
1
Z1

x
= xe ex dx
1
Jednostavni primjer
Linearni sustav tada glasi:
2
a1 + 0 a0 = 2e1
3
0 a1 + 2 a0 = e e1 ,
a njegovo rjesenje je
t1
a1 =
= 3e1 1.103638324,
s2
t0
e e1
a0 =
=
= sh(1) 1.175201194.
s0
2
Pravac dobiven neprekidnom metodom najmanjih kvadrata je
p1 (x) 1.103638324x + 1.175201194.
Slo
zeniji primjer
Primjer. Neprekidnom metodom najmanjih kvadrata nadite
polinome stupnjeva 1, 2 i 3 koji aproksimiraju funkciju
f (x) = sin x
na intervalu [0, ] uz tezinsku funkciju w(x) = | cos x|.
Rjesenje. Skicirajmo prvo funkcije f i w.
| cos x|
sin x
Slo
zeniji primjer
Buduci da su obje funkcije simetricne oko tocke 2 , polinome
se isplati pisati u bazi (x 2 )k .
Oznacimo s pn polinom stupnja n,

k
pn (x) =
ank x
.
2
k=0
n
X
Treba minimizirati
S=
Z
0
| cos x| sin x pn (x)
2
dx min .
Slo
zeniji primjer
Iz uvjeta
S
= 0,
ank
k = 0, . . . , n,
dobivamo linearni sustav

n
X
j=0
anj
Z
0
Z

k+j
k
| cos x| x
dx = | cos x| sin x x
dx,
2
2
0
za k = 0, . . . , n.
Slo
zeniji primjer
Nadimo sad potrebne integrale:
Z
k
2
| cos x| dx =
y | sin y| dy =
y =x
2
dy = dx
0,
Z
0
)
x=0 y=
2
x= y=
2
za k neparan,
y k sin y dy, za k paran.
Napomena. Neparni koeficijenti su nula jer je baza pogodno

odabrana, tako da koristi cinjenicu da je w(x) parna funkcija
obzirom na 2 . Baza sadrzi samo parne i neparne funkcije.
Slo
zeniji primjer
Nadimo rekurziju za integral
Z2

u = yk
k
sk := 2 y sin y dy =
k1
du = ky
dy
v = cos y
dv = sin y dy

= 2 y k cos y
=
k1
u=y
dv = cos y dy

Z2
2

+k y k1 cos y dy

0
du = (k 1)y
v = sin y
k2
dy

Z

2

= 2ky k1 sin y k(k 1) 2 y k2 sin y dy
0
0
k1
k(k 1)sk2 .
= 2k
2
Slo
zeniji primjer
Jos treba izracunati
s0 =
Sada je
| sin y| dy = 2
Z
0

2
sin y dy = 2 cos y = 2.
0
s2 = 4 4s0 = 2 4,
2
3
s4 = 8
12s2 = 3 24 + 48,
2
5
3 5
30s4 = 24 3 + 720 1440.
s6 = 12
2
8
Slo
zeniji primjer
Ostaje jos izracunati integrale s desne strane:
Z
tk := 2
k
x
| cos x| sin x dx
2
y =x
dy = dx
)
Z2
x=0 y=
k
2 =
y
| sin y| cos y dy
x= y=
2
0,
za k neparan,
Z
Z
k
k
2
paran.
y
sin
y
cos
y
dy
=
y
sin(2y)
dy,
za
k
Slo
zeniji primjer
Za parne indekse k s desne strane imamo
Z2

u = yk
du = ky k1 dy
k
tk := y sin(2y) dy =
dv = sin(2y) dy
v = cos(2y)/2

Z2
2

k
1 k

= y cos(2y) +
y k1 cos(2y) dy
2
2
0
=
k1
u=y
dv = cos(2y) dy
k2
du = (k 1)y
v = sin(2y)/2
dy
2

Z

2

1 k k 1 k1
k1

=
+ y
sin(2y)
y k2 sin(2y) dy
2 2
2 2
2
0
0

1 k k(k 1)
=
tk2 .
2 2
4
Slo
zeniji primjer
Jos treba izracunati
t0 =
Z
0
Sada je

2
1
sin(2y) dy = cos(2y) = 1.
2
0
1 2 1
2 1
2 4
t2 =
t0 =
=
.
2 2
2
8
2
8
Linearni sustav sada ima oblik

n
X
anj sk+j = tk ,
k = 0, . . . , n.
j=0
Slo
zeniji primjer
Za n = 1 sustav je:
s0 a10 + s1 a11 = t0
s1 a10 + s2 a11 = t1 ,
tj. ako uvrstimo izracunate sk i tk , imamo
2 a10 +
0 a11 = 1
0 a10 + (2 4) a11 = 0.
Rjesenje tog sustava je a10
polinom
1
= , a11 = 0, pa je aproksimacijski
2
1
p1 (x) = .
2
Slo
zeniji primjer
Za n = 2 sustav je:
s0 a20 + s1 a21 + s2 a22 = t0
s1 a20 + s2 a21 + s3 a22 = t1
s2 a20 + s3 a21 + s4 a22 = t2 .
Ako uvrstimo izracunate velicine, sustav glasi:
2 a20 +
0 a21 +
0 a20 + (2 4) a21 +
(2 4) a20 +
(2 4) a22 = 1
0 a22 = 0
0 a21 + ( 3 24 + 48) a22
2 4
=
.
8
Slo
zeniji primjer
Rjesenje tog sustava je
a20 0.964909552,
a21 = 0,
a22 0.407246447,
pa je aproksimacijski polinom

2
p2 (x) 0.407246447 x
+ 0.964909552.
2
Za n = 3 dobije se rjesenje p3 = p2 (provjerite sami).
Jos jedan primjer

Primjer. Ako funkciju f (x) na [0, 1] uz w(x) = 1
aproksimiramo polinomom stupnja n po neprekidnoj metodi
najmanjih kvadrata, matrica linearnog sustava je
s0 s1 sn
s1 s2 sn+1
,
M =
..
..
.

.
sn sn+1
s2n
pri cemu su
sk :=
Z1
0
1

1
x
k

=
.
x dx =

k+1 0 k+1
k+1
Matrica linearnog sustava je Hilbertova matrica reda n + 1!

Komentari primjera
U posljednja dva primjera uocili smo sljedece:
Ako za bazu biramo funkcije 1, x, x2 , . . . , matrica sustava
moze biti vrlo lose uvjetovana.
U slozenijem primjeru, podizanjem stupnja polinoma
mijenjaju se koeficijenti polinoma pn . Na primjer, a0
ovisi o stupnju n.
Prethodna dva problema otklanjaju se ako se za bazu funkcija
uzmu ortogonalne funkcije.
Ortogonalne funkcije
Ortogonalne funkcije i najmanji kvadrati

Linearni sustav za neprekidni problem najmanjih kvadrata
zapisali smo kao
m
X
hi , j iaj = hi , f i, i = 0, . . . , m.
j=0
Ako i , i = 0, . . . , m, tvore ortogonalni sustav funkcija, onda

je
hi , j i = 0 za i 6= j, hj , j i = kj k2 > 0.
Uvrstavanjem u linearni sustav, dobivamo da je sustav
dijagonalan, a njegovo rjesenje je
hj , f i
,
aj =
hj , j i
j = 0, . . . , m.
Problemi
Oblikom koeficijenata aj nismo izbjegli sve probleme.
Tipicno norme kj k22 padaju kad j raste, dok su brojnici
reda velicine f .
Za koeficijente aj se ocekuje da rapidno padaju.
Zbog toga se ocekuju greske nastale kracenjem pri
racunanju skalarnog produkta u brojniku.
Alternativna forma za racunanje aj je

j1
X
1
aj =
f
ak k , j ,
2
kj k2
k=0
j = 0, . . . , m.
Uocite da je skalarni produkt sume s j jednak nuli zbog

ortogonalnosti.
Algoritam ra
cunanja koeficijenata
Sljedeci algoritam racuna ne samo aj , nego i aproksimaciju
(m) (x) =
m
X
aj j (x).
j=0
Racunanje koeficijenata
s[-1] = 0;
za j = 0 do m radi {
a[j] = hf - s[j - 1], phi[j]i / kphi[j]k22 ;
s[j] = s[j - 1] + a[j] * phi[j];
};
Vrijednost (m) (x) izracunata je u s[m].
Projekcija je opet rjesenje

Tvrdimo da je greska aproksimacije f (m) okomita na sve
linearne kombinacije funkcija k , za k = 0, . . . , m.
Dovoljno je pokazati da je greska okomita na svaki k
hf (m) , k i =
m
X
j=0
aj j , k
= hf ak k , k i
= hf, k i ak hk , k i
hk , f i
= hf, k i
hk , k i = 0.
hk , k i
Dobiveni rezultat ima jednostavno geometrijsko znacenje

aproksimacija je ortogonalna projekcija na prostor m razapet
funkcijama k , za k = 0, . . . , m.
Projekcija je opet rjesenje

Iz ortogonalnosti
hf (m) , i = 0,
gdje je m bilo koja linearna kombinacija k ,
zakljucujemo da je i
hf (m) , (m) i = 0.
Tada, zbog okomitosti, mozemo pisati
X
2
m

2
(m) 2
(m) 2
(m) 2

kf k2 = kf k2 + k k2 = kf k2 +
a
j
j

= kf (m) k22 +
m
X
j=0
j=0
|aj |2 kj k22 .
Greska rjesenja
Iz prethodne relacije slijedi da se greska aproksimacije moze
zapisati kao
1/2

m
X
kf (m) k2 = kf k22
|aj |2 kj k22
.
j=0
Ako je zadan niz prostora m , m = 0, 1, 2, . . . , onda je iz

prethodne relacije jasno da je
kf (0) k2 kf (1) k2 kf (2) k2 ,
sto jasno slijedi i iz cinjenice da je
0 1 2 .
Greska rjesenja
Ako je prostora k beskonacno mnogo, ocito je da je norma
greske aproksimacije
monotono padajuca i
odozdo ogranicena s 0,
pa mora konvergirati.
Mora li norma greske konvergirati u 0?
Odgovor je ne! Naravno, nuzni i dovoljni uvjet da bi greska
konvergirala u nulu je
kf k22 =
X
j=0
|aj |2 kj k22 ,
sto se odmah cita iz oblika greske.

Ortogonalizacija
Ako je zadan skup funkcija j koje su linearno nezavisne, ali
nisu ortogonalne na nekom intervalu,
j ortogonaliziramo koristenjem (modificiranog)
GramSchmidtovog procesa ortogonalizacije.
Funkcije j koje razapinju isti prostor kao j ne treba
normirati.
Ortogonalizacija zapocinje s:
0 := 0 .
Zatim, za j = 1, 2, . . . stavimo
j1
X
j := j
ak k ,
k=0
hj , k i
.
ak =
2
kk k2
Tada je j ortogonalan na sve prethodne k , k = 0, . . . , j 1.

Primjer
Primjer. Nadite ortogonalnu bazu za prostor razapet
funkcijama 1, x, x2 na intervalu [1, 1] s tezinskom funkcijom
w = 1.
Rjesenje. Skalarni produkt funkcija u i v definiran je s
hu, vi =
Z1
w(x)u(x)v(x) dx =
Z1
u(x)v(x) dx.
Prva funkcija u ortogonalnoj bazi jednaka je prvoj zadanoj

funkciji,
0 (x) = 1.
Primjer
Sada je
hx, 0 i =
h0 , 0 i =
Z1
1
Z1
pa je
x 1 dx = (neparnost) = 0,
1

1 1 dx = x = 2,
1
hx, 0 i
0
a0 =
= = 0.
h0 , 0 i
2
Odatle odmah dobivamo
1 (x) = x a0 1 = x.
Primjer
Za ortogonalni polinom stupnja 2 treba izracunati a0 i a1

Z1
3 1
2
x
2
2
hx , 0 i = x 1 dx =
= ,

3 1 3
hx2 , 1 i =
h1 , 1 i =
1
Z1
1
Z1
x2 x dx = (neparnost) = 0,
2
x x dx = ,
3
pa je
2
1
hx2 , 0 i
3
= = ,
a0 =
h0 , 0 i
2
3
hx2 , 1 i
0
a1 =
= 2 = 0.
h1 , 1 i
3
Primjer
Odatle je
1
2 (x) = x a1 x a0 1 = x .
3
2
Primjer. Koristenjem ortogonalnih polinoma izracunatih u

prethodnom primjeru, po neprekidnoj metodi najmanjih
kvadrata nadite polinome stupnjeva 0 i 1 koji aproksimiraju
funkciju
f (x) = ex
na intervalu [1, 1] uz tezinsku funkciju w(x) = 1.
Jednostavni primjer ortogonalni polinomi

Rjesenje problema najmanjih kvadrata je funkcija
(m)
m
X
aj j ,
j=0
hj , f i
aj =
,
hj , j i
j = 0, 1.
Za racun koeficijenata aj moramo izracunati

h0 , 0 i =
h1 , 1 i =
Z1
1 ex dx = e e1 ,
Z1
Z1
Z1
x ex dx = 2e1 .
1 1 dx = 2,
2
x x dx = ,
3
h0 , ex i =
h1 , ex i =
Jednostavni primjer ortogonalni polinomi

Odatle odmah izlazi
e e1
a0 =
= sh(1),
2
a1 =
2e1
2
3
= 3e1 .
Aproksimacija konstantom je
(0) (x) = sh(1)0 (x) = sh(1) 1,
a polinomom stupnja 1
(1) (x) = sh(1)0 (x) + 3e1 1 (x) = sh(1) 1 + 3e1 x,
sto se poklapa s vec izracunatim rjesenjem koje nije koristilo
ortogonalne polinome.
Primjeri ortogonalnih
familija funkcija
Trigonometrijske funkcije
Trigonometrijske funkcije
{1, cos x, cos 2x, cos 3x, . . . , sin x, sin 2x, sin 3x, . . . }
cine ortogonalnu familiju funkcija na intervalu [0, 2] uz
tezinsku funkciju w(x) = 1.
Pokazimo da je to zaista istina. Neka su k, N0 . Tada
vrijedi
Z2
0
1
sin kx sin x dx =
2
Z2
0
cos(k + )x cos(k )x dx.
Ortogonalnost trigonometrijskih funkcija

Ako je k = , onda je prethodni integral jednak

2

1 sin(k + )x
x = .
2
k+
0
Ako je k 6= , onda je jednak
2
1 sin(k + )x sin(k )x
= 0.

2
k+
k
0

Drugim rijecima, vrijedi

Z2
0
sin kx sin x dx =
0, k 6= ,
, k = ,
k, = 1, 2, . . . ,
Ortogonalnost trigonometrijskih funkcija

Na slican nacin, pretvaranjem produkta trigonometrijskih
funkcija u zbroj, mozemo pokazati da je
k 6= ,
Z2
0,
cos kx cos x dx = 2, k = = 0, k, = 0, 1, . . . ,
, k = > 0,
0
te, takoder, da je
Z2
cos kx sin x dx = 0,
k = 0, 1, . . . ,
= 1, 2, . . . ,
Fourierov red
Ako periodicku funkciju f osnovnog perioda duljine 2
aproksimiramo redom oblika
a0 X
f (x) =
+
(ak cos kx + bk sin kx),
2
k=1
onda, mnozenjem odgovarajucim trigonometrijskim
funkcijama i integriranjem, dobivamo
1
ak =
Z2
0
f (x) cos kx dx,
1
bk =
Z2
f (x) sin kx dx.
Prethodni red poznat je pod imenom Fourierov red, a

koeficijenti kao Fourierovi koeficijenti.
Fourierov red i najmanji kvadrati

Ako Fourierov red odsijecemo za k = m dobijemo tzv.
trigonometrijski polinom.
Taj polinom je najbolja aproksimacija u smislu
najmanjih kvadrata za f u klasi trigonometrijskih
polinoma stupnja manjeg ili jednakog m.
Uz ortogonalnost trigonometrijskih funkcija (obzirom na
integral kao skalarni produkt), postoji diskretna ortogonalnost
(integral se zamijeni sumom).
Klasi
cni ortogonalni polinomi
Klasi
cni ortogonalni polinomi uvod
U praksi najcesce susrecemo pet tipova klasicnih ortogonalnih
polinoma.
Prisjetimo se, za polinome
{p0 , p1 , p2 , . . . , pn , . . . },
(indeks polinoma oznacava stupanj), kazemo da su ortogonalni
obzirom na tezinsku funkciju w, na [a, b], ako vrijedi
Zb
a
w(x) pm (x) pn (x) dx = 0,
za m 6= n.
Klasi
Tezinska funkcija
odreduje sistem polinoma do na konstantni faktor u
svakom od polinoma.
Izbor takvog faktora zove se jos i standardizacija ili
normalizacija.
Zajednicke karakteristike ortogonalnih polinoma:
Ortogonalni polinomi zadovoljavaju troclanu rekurziju
pn+1 (x) + n (x)pn (x) + n (x)pn1 (x) = 0,
n = 1, 2, . . . ,
s tim da su poznate pocetne funkcije p0 i p1 , i sve

funkcije n , n , za n N.
Klasi
Zajednicke karakteristike ortogonalnih polinoma (nastavak):
Oprez. Prethodnu rekurziju zadovoljavaju i mnoge
specijalne funkcije koje nisu ortogonalne!
Nultocke ortogonalnih polinoma uvijek se nalaze unutar
intervala [a, b] na kojem su polinomi ortogonalni.
Dokaze za troclanu rekurziju i nultocke mozete naci u skripti.
Napravit cemo ih malo kasnije.
sevljevi polinomi prve vrste

Cebi
Cebi
oznacavaju se s Tn ,
ortogonalni su na intervalu [1, 1]
obzirom na tezinsku funkciju
1
w(x) =
.
2
1x
Relacija ortogonalnosti:
0,
za m 6= n,
Z1
Tm (x) Tn (x)
dx = ,
za m = n = 0,
2
1x
/2, za m = n 6= 0.
1

Cebi
Oni zadovoljavaju rekurzivnu relaciju
Tn+1 (x) 2xTn (x) + Tn1 (x) = 0,
uz start
T0 (x) = 1,
T1 (x) = x.
Za njih postoji i eksplicitna formula

Tn (x) = cos(n arccos x).
sevljev polinom prve vrste Tn zadovoljava
Osim toga, n-ti Cebi
diferencijalnu jednadzbu
(1 x2 )y xy + n2 y = 0.

Cebi
Graf prvih par polinoma izgleda ovako.
y
1
0.75
0.5
T1 (x)
0.25
T2 (x)
1 0.75 0.5 0.25
0.25
0.25 0.5 0.75
1 x
T3 (x)
T4 (x)
0.5
0.75
1
sevljevi polinomi prve vrste na [0, 1]

Cebi
Katkad se koriste i Cebi
transformirani na interval [0, 1],
u oznaci Tn .
Dobivaju se koristenjem linearne (preciznije, afine)
transformacije
[0, 1] x 7 := 2x 1 [1, 1].
Relacija ortogonalnosti postaje
0,
za m 6= n,
Z1
Tm (x) Tn (x)
dx = ,
za m = n = 0,
2
xx
/2, za m = n 6= 0,
0
sevljevi polinomi prve vrste na [0, 1]

Cebi
a rekurzivna relacija
Tn+1
(x) 2(2x 1)Tn (x) + Tn1
(x) = 0,
uz start
T0 (x) = 1,
T1 (x) = 2x 1.
sevljevi polinomi druge vrste

Cebi
Cebi
oznacavaju se s Un ,
w(x) = 1 x2 .
(
Z1
0,
za m 6= n,
2
1 x Um (x) Un (x) dx =
/2, za m = n.

Cebi
Zadovoljavaju istu rekurziju kao i polinomi prve vrste
Un+1 (x) 2xUn (x) + Un1 (x) = 0,
uz malo drugaciji start
U0 (x) = 1,
U1 (x) = 2x.
Za njih postoji i eksplicitna formula

sin((n + 1) arccos x)
.
Un (x) =
sin(arccos x)
sevljev polinom druge vrste Un zadovoljava
n-ti Cebi
(1 x2 )y 3xy + n(n + 2)y = 0.

Cebi
y
5
4
3
2
U1 (x)
1
1 0.75 0.5 0.25
1
U2 (x)
0.25 0.5 0.75
1 x
U3 (x)
U4 (x)
2
3
4
Legendreovi polinomi
oznacavaju se s Pn ,
w(x) = 1.
Z1
(
0,
za m 6= n,
Pm (x) Pn (x) dx =
2/(2n + 1), za m = n.
(n + 1)Pn+1 (x) (2n + 1)xPn (x) + nPn1 (x) = 0,
uz start
P0 (x) = 1,
P1 (x) = x.
Osim toga, n-ti Legendreov polinom Pn zadovoljava

(1 x2 )y 2xy + n(n + 1)y = 0.
y
1
0.75
0.5
P1 (x)
0.25
P2 (x)
1 0.75 0.5 0.25
0.25
0.25 0.5 0.75
1 x
P3 (x)
P4 (x)
0.5
0.75
1
Laguerreovi polinomi
oznacavaju se s Ln ,
ortogonalni su na intervalu [0, )
w(x) = ex .
(
Z
0, za m 6= n,
x
e Lm (x) Ln (x) dx =
1, za m = n.
0
(n + 1)Ln+1 (x) + (x 2n 1)Ln (x) + nLn1 (x) = 0,
uz start
L0 (x) = 1,
L1 (x) = 1 x.
Osim toga, n-ti Laguerreov polinom Ln zadovoljava

xy + (1 x)y + ny = 0.
y
3
2
1
L1 (x)
L2 (x)
0
1
L3 (x)
L4 (x)
Cesto
nailazi na jos jednu rekurziju za Laguerreove polinome
en+1 (x) + (x 2n 1)L
en (x) + n2 L
en1 (x) = 0,
L
uz jednaki start
e0 (x) = 1,
L
e1 (x) = 1 x.
L
Usporedivanjem ove i prethodne rekurzije dobivamo da je

en (x) = n! Ln (x),
L
tj. radi se samo o drugacijoj normalizaciji

(
Z
0,
za m 6= n,
x e
e
e Lm (x) Ln (x) dx =
(n!)2 , za m = n.
0
Hermiteovi polinomi
Hermiteovi polinomi
oznacavaju se s Hn ,
ortogonalni su na intervalu (, )
w(x) = e
x2
(
Z
0,
za m 6= n,
x2
e
Hm (x) Hn (x) dx =
n
2 n! , za m = n.
Hermiteovi polinomi
Hn+1 (x) 2xHn (x) + 2nHn1 (x) = 0,
uz start
H0 (x) = 1,
H1 (x) = 2x.
Osim toga, n-ti Hermiteov polinom Hn zadovoljava

y 2xy + 2ny = 0.
Hermiteovi polinomi
y
250
200
150
100
H1 (x)
50
H2 (x)
3
1
50
H3 (x)
H4 (x)

08 Dsfadfs

Uploaded by

Document Information

Original Title

Copyright

Available Formats

Share this document

Share or Embed Document

Sharing Options

Did you find this document useful?

Is this content inappropriate?

Copyright:

Available Formats

08 Dsfadfs

Uploaded by

Copyright:

Available Formats

Numeri

PMF Matematicki odsjek, Zagreb

NumMat 2015, 8. predavanje p.1/123

NumMat 2015, 8. predavanje p.2/123

Komentar rezultata 1. kolokvija

Komentar rezultata 1. kolokvija nastavak

Komentar o teoriji = barem 14 bodova od 50:

NumMat 2015, 8. predavanje p.4/123

Informacije rijeseni zadaci . . .

NumMat 2015, 8. predavanje p.5/123

NumMat 2015, 8. predavanje p.6/123

NumMat 2015, 8. predavanje p.7/123

NumMat 2015, 8. predavanje p.9/123

zove se Householderov reflektor.

= I 4uuT + 4kuk22 uuT = I.

Zasto bas ime reflektor?

NumMat 2015, 8. predavanje p.11/123

Ponistavanje Householderovim reflektorima

Za pocetak, H je unitarna matrica, pa cuva normu vektora,

Ponistavanje Householderovim reflektorima

tj. da je u paralelan s vektorom u

NumMat 2015, 8. predavanje p.13/123

Ponistavanje Householderovim reflektorima

U protivnom je i kxk2 6= 0, pa barem jedan izbor predznaka

Za x 6= 0, u praksi se, zbog numericke stabilnosti, cesto koristi

zato da nema kracenja pri racunanju prve komponente od u

To znaci da je c = sign(x1 ), sto ponekad zbunjuje u praksi.

Stvarno, uz pazljiviji poredak racunanja, to nije potrebno!

Kad smo izracunali u, ne treba racunati cijelu matricu H.

NumMat 2015, 8. predavanje p.16/123

QR faktorizacija koristenjem reflektora

QR faktorizacija koristenjem reflektora

Q = (Hn Hn1 H1 )T = H1 Hn1 Hn .

NumMat 2015, 8. predavanje p.19/123

provodimo u nizu od n koraka. Ako dozvolimo i m < n,

NumMat 2015, 8. predavanje p.21/123

Na kraju dobivamo gornju trokutastu matricu R := R(n) .

NumMat 2015, 8. predavanje p.22/123

Pivotiranje stupaca u QR faktorizaciji

NumMat 2015, 8. predavanje p.23/123

NumMat 2015, 8. predavanje p.24/123

NumMat 2015, 8. predavanje p.25/123

NumMat 2015, 8. predavanje p.26/123

NumMat 2015, 8. predavanje p.27/123

a postize se za vektor x koji je rjesenje sustava R0 x = QT0 b.

jednaka rjesenju sustava normalnih jednadzbi

NumMat 2015, 8. predavanje p.29/123

NumMat 2015, 8. predavanje p.30/123

NumMat 2015, 8. predavanje p.33/123

Primjer sustav normalnih jednad

pri cemu su supstitucije za varijable

a za vrijednosti varijabli u cvorovima

NumMat 2015, 8. predavanje p.34/123

Primjer sustav normalnih jednad

NumMat 2015, 8. predavanje p.35/123

Primjer sustav normalnih jednad

NumMat 2015, 8. predavanje p.36/123

Primjer sustav normalnih jednad

M = 7.39 15.2229 5.5513

slucaj dobivamo linearni

Faktorizacija Choleskog matrice M je M = RT R, uz

2.2360679775 3.3049084707 2.3165664247

Primjer sustav normalnih jednad