Linearna algebra

Definicija unutrašnjeg proizvoda

• Neka su 𝑢, 𝑣 ∈ ℝ𝑛 koje posmatramo kao 𝑛 × 1 matrice.
• Proizvod matrica 𝑢𝑇 𝑣 je 1 × 1 matrica koji nazivamo unutrašnji proizvod vektora
𝑢 i 𝑣 i što zapisujemo sa 𝑢 ∙ 𝑣.
𝑢1 𝑣1
𝑢2 𝑣2
• Ako su 𝑢 = i𝑣 = tada je 𝑢 ∙ 𝑣 = 𝑢1 𝑣1 + 𝑢2 𝑣2 + ⋯ + 𝑢𝑛 𝑣𝑛
⋮ ⋮
𝑢𝑛 𝑣𝑛
Primjer:
1 3
• Neka su 𝑢 = −2 , 𝑣 = 1 .
2 0

• Tada je
𝑢 ∙ 𝑣 = 𝑢𝑇 𝑣 = 1 ∙ 3 + −2 ∙ 1 + 2 ∙ 0 = 1
i
𝑣 ∙ 𝑢 = 𝑣 𝑇 𝑢 = 3 ∙ 1 + 1 ∙ −2 + 0 ∙ 2 = 1
Teorema ( osnovna svojstva)
• Neka su 𝑢, 𝑣 i 𝑤 vektori u ℝ𝑛 i neka je 𝑐 skalar. Tada vrijedi:
• a) 𝑢 ∙ 𝑣 = 𝑣 ∙ 𝑢
• b) 𝑢 + 𝑣 ∙ 𝑤 = 𝑢 ∙ 𝑤 + 𝑣 ∙ 𝑤
• c) 𝑐𝑢 ∙ 𝑣 = 𝑐 𝑢 ∙ 𝑣 = 𝑢 ∙ (𝑐𝑣)
• d) 𝑢 ∙ 𝑢 ≥ 0 i vrijedi
𝑢 ∙ 𝑢 = 0 ako i samo ako je 𝑢 = 0𝑉 .
Dokaz:
• a) 𝑢 ∙ 𝑣 = 𝑣 ∙ 𝑢
• Zaista, 𝑢 ∙ 𝑣 = 𝑢𝑇 𝑣 = 𝑢𝑇 𝑣 𝑇
= 𝑣 𝑇 (𝑢𝑇 )𝑇 = 𝑣 𝑇 𝑢 = 𝑣 ∙ 𝑢 jer ako je 𝑆 1 × 1
matrica, tada je 𝑆 𝑇 = 𝑆.
• b) 𝑢 + 𝑣 ∙ 𝑤 = 𝑢 ∙ 𝑤 + 𝑣 ∙ 𝑤
• Zaista, 𝑢 + 𝑣 ∙ 𝑤 = 𝑢 + 𝑣 𝑇 𝑤 = 𝑢𝑇 + 𝑣 𝑇 𝑤 = 𝑢𝑇 𝑤 + 𝑣 𝑇 𝑤 = 𝑢 ∙ 𝑤 + 𝑣 ∙ 𝑤
• c) 𝑐𝑢 ∙ 𝑣 = 𝑐𝑢 𝑇 𝑣 = 𝑐𝑢𝑇 𝑣 = 𝑐(𝑢 ∙ 𝑣)
𝑢1
𝑢2
• d) Ako je 𝑢 = tada 𝑢 ∙ 𝑢 = 𝑢12 + 𝑢22 + ⋯ + 𝑢𝑛2 ≥ 0 jer su svi članovi u sumi
⋮
𝑢𝑛
nenegativni, jedini slučaj jednakosti je 𝑢1 = 𝑢2 = ⋯ . = 𝑢𝑛 = 0, tj. 𝑢 = 0𝑉
Dužina vektora
• Ako je 𝑣 ∈ ℝ𝑛 tada je 𝑣 ∙ 𝑣 ≥ 0.
Dužina vektora ili norma se definiše sa
𝑣 = 𝑣∙𝑣 = 𝑣12 + 𝑣22 + ⋯ + 𝑣𝑛2 , 𝑖 𝑣 2
=𝑣∙𝑣

Za skalar 𝑐 vrijedi
𝑐𝑣 = 𝑐 𝑣

2
Zaista, 𝑐𝑣 = 𝑐𝑣 ∙ 𝑐𝑣 = 𝑐 2 𝑣 ∙ 𝑣 = 𝑐 2 𝑣 2
Normalizacija
• Vektor čija je dužina 1 naziva se jedinični vektor.
1
• Neka je dat vektor 𝑣. Vektor u = 𝑣
𝑣 ima dužinu 1, a nalazi se na istom pravcu i
smjeru kao i vektor 𝑣.

1 1 1
• Zaista, 𝑣
𝑣 = 𝑣
𝑣 = 𝑣
𝑣 = 1.

• Proces dobijanja vektora 𝑢 iz vektora 𝑣 naziva se proces normalizacije.

Primjer:
• Neka je 𝑣 = (1, −2,2,0). Normalizirajmo ovaj vektor.
• Rješenje: Prvo nađemo dužinu vektora:
• 𝑣 = 𝑣∙𝑣 = 12 + −2 2 + 22 + 02 = 9 = 3.

1 1 1 2 2
• Sada je 𝑢 = 𝑣= 1, −2,2,0 = ,− , ,0
𝑣 3 3 3 3
Primjer:
2
• Neka je W vektorski potprostor od ℝ2 generisan sa vektorom 𝑥 = ( , 1). Naći
3
jedinični vektor 𝑧 koji predstavlja bazu ovog potprostora.
2 2 13 13
• Rj: Kako je 𝑥 = 3
+ 12 = 9
= 3

• To je
1 3∙ 13 2
• 𝑧=± 𝑥
𝑥=± 13 3
,1 .
 2
Udaljenost u ℝ
• Za dva vektora 𝑢 i 𝑣 udaljenost između njih se označava sa 𝑑(𝑢, 𝑣) i definiše se sa

𝑑 𝑢, 𝑣 = 𝑢 − 𝑣
• Ovako definisana udaljenost se podudara sa Euklidovom udaljenosti.
• v || u-v||
• u

• u-v
Ortogonalni vektori
• Neka su vektori 𝑣 i 𝑢 ortogonalni. Tada po Pitagorinoj teoremi vrijedi:
2 2
• 𝑑 𝑢, −𝑣 = 𝑢 − −𝑣 = 𝑢+𝑣 2 = 𝑢+𝑣 ∙ 𝑢+𝑣 = 𝑢 2
+ 𝑣 2
+ 2𝑢 ∙ 𝑣
= 𝑢 2+ 𝑣 2

Dakle, vektori su ortogonalni ako 𝑢 ∙ 𝑣 = 0

Svaki vektor je ortogonalan na nula vektor.
Pitagorina teorema: Vektori 𝑥 i 𝑦 su ortogonalni ako i samo ako vrijedi
2 2 2
𝑥 + 𝑦 = 𝑥+𝑦
Ortogonalni komplementi
• Neka je W potprostor od ℝ𝑛 . Za vektor 𝑧 kažemo da je ortogonalan na W ako je
ortogonalan na svaki vektor iz W.
• Skup svih ortogonalnih vektora na W se naziva ortogonalni komplement od W i
označava sa 𝑊 ⊥ .
• Definicija: Ako je W skup, ortogonalni komplement je skup svih vektora
ortogonalnih na sve vektore iz W.
• Primjer: Ako je W ravan koja prolazi kroz koordinatni početak u ℝ3 tada je 𝑊 ⊥ = 𝐿
ortogonalni komplement prava ortogonalna na W.
Teorema:
• a) Vektor 𝑥 je u 𝑊 ⊥ ako i samo ako je ortogonalan na svaki vektor iz span(W).
• b) 𝑊 ⊥ je potprostor u ℝ𝑛

• Neka je 𝐴, 𝑚 × 𝑛 matrica. Ortogonalni komplement prostora generisanog

redovima od A je null prostor od A, i ortogonalni komplement od prostora
generisanog kolonama od A je null prostor od 𝐴𝑇 .

⊥ ⊥
𝑅𝑜𝑤 𝐴 = 𝑁𝑢𝑙𝐴 𝑖 𝐶𝑜𝑙 𝐴 = 𝑁𝑢𝑙 𝐴
 2 3
Uglovi u ℝ i ℝ
• Definišemo ugao između vektora sa

𝑣∙𝑢 = 𝑢 𝑣 cos 𝜗
Ortogonalni skupovi
• Skup vektora 𝑣1 , 𝑣2 , … , 𝑣𝑛 nazivamo ortogonalan skup ako za sve
𝑖 ≠ 𝑗, 1 ≤ 𝑖, 𝑗 ≤ 𝑛 vrijedi 𝑣𝑖 ∙ 𝑣𝑗 = 0.

Primjer: Skup {𝑒1 = 1,0,0 , 𝑒2 = 0,1,0 , 𝑒3 = 0,0,1 } je ortogonalan.

Primjer: Skup {(3,1,1), (-1,2,1), (-1/2, -2, 7/2)} je ortogonalan.

Teorema:
• Ako je 𝑆 = 𝑣1 , 𝑣2 , … , 𝑣𝑛 ortogonalni skup nenultih vektora u ℝ𝑛 , tada je 𝑆
linearno nezavisan i odavde baza potprostora generisanog sa 𝑆.
• Dokaz: Ako je 0 = 𝑐1 𝑣1 + 𝑐2 𝑣2 + ⋯ + 𝑐𝑛 𝑣𝑛 tada je

• 0 = 0 ∙ 𝑣𝑖 = 𝑐1 𝑣1 ∙ 𝑣𝑖 + 𝑐2 𝑣2 ∙ 𝑣𝑖 + ⋯ + 𝑐𝑖 𝑣𝑖 ∙ 𝑣𝑖 + ⋯ + 𝑐𝑛 𝑣𝑛 ∙ 𝑣𝑖 =
2 2
• 𝑐1 0𝑉 + ⋯ + 𝑐𝑖 𝑣𝑖 + ⋯ + 𝑐𝑛 0 = 𝑐𝑖 𝑣𝑖

2 2
• Kako je 𝑣𝑖 ≠ 0𝑉 to 𝑣𝑖 ≠ 0 iz ci 𝑣𝑖 slijedi 𝑐𝑖 = 0.
Ortogonalna baza-definicija
• Ortogonalna baza potprostora 𝑊 od ℝ𝑛 je baza od 𝑊 takva da je također
ortogonalan skup.
• Teorema: Neka je {𝑢1 , … , 𝑢𝑝 } ortogonalna baza potprostora 𝑊 od ℝ𝑛 . Za svako
𝑦 ∈ 𝑊 koeficijenti u linearnoj kombinaciji 𝑦 = 𝑐1 𝑢1 + ⋯ + 𝑐𝑝 𝑢𝑝 su dati sa
𝑦 ∙ 𝑢𝑗
𝑐𝑗 = ( 𝑗 = 1,2, … , 𝑝)
𝑢𝑗 ∙ 𝑢𝑗
Dokaz: Kao u prethodnom dokazu iz ortogonalnosti slijedi
2
𝑦 ∙ 𝑢𝑗 = 𝑐1 𝑢1 + ⋯ + 𝑐𝑝 𝑢𝑝 ∙ 𝑢𝑗 = 𝑐𝑗 𝑢𝑗 ∙ 𝑢𝑗 = 𝑐𝑗 𝑢𝑗
𝑦∙𝑢𝑗
Odakle je 𝑐𝑗 = ( 𝑗 = 1,2, … , 𝑝)
𝑢𝑗 ∙𝑢𝑗
Ortogonalna projekcija na vektor
• Za dati vektor 𝑢 u ℝ𝑛 posmatrajmo problem dekompozicije vektora 𝑦 na sumu
dva vektora, jednog u pravcu vektora 𝑢 a drugog ortogonalnog na 𝑢.
• Sada je 𝑦 = 𝑦 + 𝑧 gdje je 𝑦 = 𝛼𝑢 gdje je 𝛼 skalar, a vektor 𝑧 je ortogonalan na 𝑢.
• Kako je 𝑧 = 𝑦 − 𝑦 = 𝑦 − 𝛼𝑢 to ortogonalnost implicira da je
• 0 = 𝑦 − 𝑦 ∙ 𝑢 = 𝑦 − 𝛼𝑢 ∙ 𝑢 = 𝑦 ∙ 𝑢 − 𝛼𝑢 ∙ 𝑢 što dalje implicira da vrijedi
𝑦∙𝑢 𝑦∙𝑢
• 𝛼 = 𝑢∙𝑢 pa je 𝑦 = 𝑢∙𝑢 𝑢 = 𝑝𝑟𝑜𝑗𝑢 𝑦
• Da zamjenimo vektor 𝑢 sa 𝑐𝑢 gdje je 𝑐 neki skalar dobili bi smo istu formulu. Znači
projekcija na pravu L je jednaka kao i projekcija na bilo koji nenulti vektor na L.
Ortonormalni skupovi
• Skup {𝑢1 , … , 𝑢𝑝 } nazivamo ortonormalni skup ako je to ortogonalni skup jediničnih
vektora.
• Primjer ovakvog skupa je standardna baza od ℝ𝑛 .
• Teorema: 𝑚 × 𝑛 matrica A ima ortonormalne kolone ako i samo ako vrijedi 𝐴𝑇 𝐴 = 𝐼.
• Dokaz: Ako je 𝐴 = (𝑎1 𝑎2 … 𝑎𝑛 ) tada je

𝑎1𝑇 𝑎1 𝑎1𝑇 𝑎2 ⋯ 𝑎1𝑇 𝑎𝑛

1 ⋯ 0
𝐴𝑇 𝐴 = 𝑎2𝑇 𝑎1 𝑎2𝑇 𝑎2 ⋯ 𝑎2𝑇 𝑎𝑛 = ⋮ ⋱
• ⋮
⋮ ⋮ ⋱ ⋮ 0 ⋯ 1
𝑎𝑛𝑇 𝑎1 𝑎𝑛𝑇 𝑎2 ⋯ 𝑎𝑛𝑇 𝑎𝑛
Teorema: Neka je 𝑈 je 𝑚 × 𝑛 matrica sa ortonormalnim kolonama i neka su
𝑥, 𝑦 ∈ ℝ𝑛 . Tada vrijedi:
1) 𝑈𝑥 = 𝑥
2) 𝑈𝑥 ∙ 𝑈𝑦 = 𝑥 ∙ 𝑦
3) 𝑈𝑥 ∙ 𝑈𝑦 = 0 ako i samo ako je 𝑥 ∙ 𝑦 = 0
2 𝑇
• Dokaz: 1) 𝑈𝑥 = 𝑈𝑥 ∙ 𝑈𝑥 = 𝑈𝑥 𝑈𝑥 = 𝑥 𝑇 𝑈 𝑇 𝑈𝑥 = 𝑥 𝑇 𝐼𝑥 = 𝑥 𝑇 𝑥 = 𝑥 2

𝑇
• 2) 𝑈𝑥 ∙ 𝑈𝑦 = 𝑈𝑥 𝑈𝑦 = 𝑥 𝑇 𝑈 𝑇 𝑈𝑦 = 𝑥 𝑇 𝐼𝑦 = 𝑥 𝑇 𝑦
Ortogonalne projekcije na potprostor
• Za zadani vektor 𝑦 ∈ ℝ𝑛 i potprostor 𝑊 od ℝ𝑛 postoji vektor 𝑦 i vektor 𝑧 koji je
ortogonalan na 𝑊 tako da vrijedi 𝑦 = 𝑦 + 𝑧.
• Teorema o ortogonalnoj dekompoziciji
• Neka je 𝑊 potprostor od ℝ𝑛 . Tada svako 𝑦 ∈ ℝ𝑛 može biti na jedinstven način
zapisan kao 𝑦 = 𝑦 + 𝑧 gdje je 𝑦 ∈ 𝑊, 𝑧 ∈ 𝑊 ⊥ . U stvari ako je {𝑢1 , 𝑢2 , … . , 𝑢𝑝 } bilo
koja ortogonalna baza od 𝑊, tada
𝑦 ∙ 𝑢1 𝑦 ∙ 𝑢𝑝
𝑦= 𝑢1 + ⋯ + 𝑢𝑝
𝑢1 ∙ 𝑢1 𝑢𝑝 ∙ 𝑢𝑝
i 𝑧 = 𝑦 − 𝑦.
Dokaz:
• Neka je 𝑢1 , … , 𝑢𝑝 ortogonalna baza od 𝑊. Kako je 𝑧 ∙ 𝑢𝑗 = 0 imamo
• 𝑧 ∙ 𝑢𝑗 = 𝑦 − 𝑦 ∙ 𝑢𝑗 = 𝑦 ∙ 𝑢𝑗 − 𝑐𝑗 𝑢𝑗 ∙ 𝑢𝑗 = 0
𝑦∙𝑢𝑗
• Pa dobijemo 𝑐𝑗 = 𝑢 .
𝑗 ∙𝑢𝑗

• Vektor 𝑦 je ortogonalna projekcija vektora y na potprostor W.

Osobine ortogonalne projekcije
• Ako je 𝑦 ∈ 𝑊 tada 𝑝𝑟𝑜𝑗𝑊 𝑦 = 𝑦.

• Teorema o najboljoj aproksimaciji: Neka je 𝑊 potprostor od ℝ𝑛 i neka je 𝑦

ortogonalna projekcija od 𝑦 na 𝑊. Tada je 𝑦 najbliža tačka u 𝑊 tački 𝑦 u smislu da
je 𝑦 − 𝑦 < 𝑦 − 𝑣 za sve 𝑣 ∈ 𝑊, 𝑣 ≠ 𝑦.

• Dokaz: Za sve 𝑣 ∈ 𝑊, 𝑦 − 𝑣 ∈ 𝑊, 𝑝𝑎 𝑦 − 𝑦 ⊥ 𝑦 − 𝑣 odakle i iz 𝑦 − 𝑣 = 𝑦 − 𝑦 +

𝑦 − 𝑣 slijedi 𝑦 − 𝑣 2 = 𝑦 − 𝑦 2 + 𝑦 − 𝑣 2 pa kako je 𝑦 − 𝑣 ≠ 0 slijedi
nejednakost.
Teorema:
• Ako je {𝑢1 , … , 𝑢𝑝 } ortonormalna baza za potprostor W od ℝ𝑛 , tada
• 𝑝𝑟𝑜𝑗𝑊 𝑦 = 𝑦 ∙ 𝑢1 𝑢1 + ⋯ + 𝑦 ∙ 𝑢𝑝 𝑢𝑝

• Ako je 𝑈 = (𝑢1 | … . |𝑢𝑝 ) tada

• 𝑝𝑟𝑜𝑗𝑊 𝑦 = 𝑈𝑈 𝑇 𝑦 za sve 𝑦 ∈ ℝ𝑛
Gram-Schmidt-ov proces ortogonalizacije
Teorema: Za zadanu bazu {𝑥1 , … , 𝑥𝑝 } za nenulti potprostor W definišimo
𝑣1 = 𝑥1

𝑥2 ∙ 𝑣1
𝑣2 = 𝑥2 − 𝑣1
𝑣1 ∙ 𝑣1

𝑥3 ∙ 𝑣1 𝑥3 ∙ 𝑣2
𝑣3 = 𝑥3 − 𝑣1 − 𝑣2
𝑣1 ∙ 𝑣1 𝑣2 ∙ 𝑣2
⋮
𝑥𝑝 ∙ 𝑣1 𝑥𝑝 ∙ 𝑣𝑝−1
𝑣𝑝 = 𝑥𝑝 − 𝑣 −⋯− 𝑣
𝑣1 ∙ 𝑣1 1 𝑣𝑝−1 ∙ 𝑣𝑝−1 𝑝−1
Tada je {𝑣1 , … , 𝑣𝑝 } ortogonalna baza od W. Još i 𝑠𝑝𝑎𝑛 𝑥1 , … , 𝑥𝑘 = 𝑠𝑝𝑎𝑛 𝑣1 , … , 𝑣𝑘 , 1 ≤
𝑘≤𝑝
Dokaz:
Za 1 ≤ 𝑘 ≤ 𝑝, 𝑊𝑘 = 𝑠𝑝𝑎𝑛 𝑥1 , … , 𝑥𝑘 . Neka je 𝑣1 = 𝑥1 , pa 𝑠𝑝𝑎𝑛 𝑥1 = 𝑠𝑝𝑎𝑛{𝑣1 }.
Neka smo za neko 𝑘 < 𝑝 konstruisali ortogonalnu bazu {𝑣1 , … , 𝑣𝑘 } od 𝑊𝑘 .
Definišimo
𝑣𝑘+1 = 𝑥𝑘+1 − 𝑝𝑟𝑜𝑗𝑊𝑘 𝑥𝑘+1
Tada po Teoremi o ortogonalnoj dekompoziciji 𝑣𝑘+1 je ortogonalan na 𝑊𝑘 . Kako je
𝑝𝑟𝑜𝑗𝑊𝑘 𝑥𝑘+1 ∈ 𝑊𝑘 ⊂ 𝑊𝑘+1 . Kako je 𝑥𝑘+1 ∈ 𝑊𝑘+1 to je i 𝑣𝑘+1 ∈ 𝑊𝑘+1 .
Kako 𝑥𝑘+1 ∉ 𝑊𝑘 to 𝑣𝑘+1 ≠ 0.
Znači skup {𝑣1 , … , 𝑣𝑘 } ortogonalna baza od 𝑊𝑘 .
Ortonormalna baza
• Kad formiramo ortogonalnu bazu, svaki vektor normalizujemo ( ili još bolje u toku
postupka) da dođemo do ortonormirane baze.