Problem lastnih vrednosti

1 / 20

Uvod

Potencna metoda

Inverzna iteracija

QR iteracija

Metode za simetricne matrike

Sturmovo zaporedje
Jacobijeva iteracija

2 / 20

Uvod
Naj bo A Rnn . Paru x C, x 6= 0 , C recemo lastni par za
A ,ce je
A x = x.
Skalar je lastna vrednost, vektor x pa (desni) lastni vektor.
Nenicelni vektor y je levi lastni vektor, c e je
yH A = yH,
kjer je H Hermitsko transponiranje (konjugiranje in navadno
transponiranje).
Dovolj je obravnavati problem desnih lastnih vektorjev.

3 / 20

Lema
Levi in desni lastni vektorji matrike A, ki pripadajo razlicnim lastnim
vrednostim, so ortogonalni.
Iskanje lastnih vrednosti preko karakteristicnega polinoma
det( A I ) ni dober pristop.
Poznamo razlicne stabilne algoritme za racunanje lastnih
vrednosti in lastnih vektorjev. Izbor algoritma je odvisen od tega,
kaj z elimo izracunati:
I
I
I
I

Ali je matrika majhna in polna, ali velika in razprsena?

Ali je matrika simetricna (hermitska)?
Ali potrebujemo vse lastne vrednosti?
Ali poleg lastnih vrednosti potrebujemo tudi lastne vektorje?

4 / 20

Izrek
Za vsako matriko A obstajata unitarna matrika U in zgornja trikotna matrika
T, da je U H A U = T (Schurova forma).

Izrek
Za vsako realno matriko A obstajata ortogonalna matrika Q in kvazi zgornja
trikotna matrika T, da je Q T A Q = T.

Opomba
Matrika T je kvazi zgornja trikotna v smislu, da ima samo na nekaterih
diagonalnih mestih bloke 2 2, sicer pa je prava zgornja trikotna (ti bloki
ustrezajo kompleksnim lastnim vrednostim).

5 / 20

Potencna metoda
Izberimo normirani vektor z 0 in generirajmo
y k +1 = A z k ,

z k +1 =

k y k +1 k

y k +1 ,

k = 0, 1, . . .

Dobimo zaporedje normiranih vektorjev, za katere se izkaze, da

pogosto konvergirajo k lastnemu vektorju matrike A.

Izrek
Naj bo 1 dominantna lastna vrednost matrike A, torej

| 1 | > | 2 | | n |.
z 0 ni lastni vektor za kaksno od lastnih vrednosti j , j > 1, potem
Ce
zaporedje vektorjev z k po smeri konvergira k lastnemu vektorju, ki pripada 1 .

6 / 20

Opomba
Metodo lahko predelamo tudi za primere:

|1 | = |2 | > |3 | |n k in 1 = 2 .
|1 | = |2 | > |3 | |n k in 1 = 2 .
Kako koncati iteracijo? Pogoj zaustavljanja

k z k +1 z k k
ni dober, ker zapordje konvergira le po smeri.
Izkaze se, da pomembno vlogo pri pogoju zaustavitve igra
Rayleighov kvocient
( x , A) =

xH A x
.
xH x

7 / 20

Iteracijo ustavimo, ko je

k A z k k z k k ,
kjer je
k : = ( z k , A ).
Hitrost konvergene je linearna. Odvisna je od razmerja |2 |/|1 |.

Cim
blizje je razmerje 0, tem hitrejsa je konvergenca.
Ko poisc emo dominantno lastno verdnost 1 , lahko problem
reduciramo na iskanje naslednjih lastnih vrednosti (po velikosti).

8 / 20

Hotelingova redukcija za A = A T . Definiramo

B := A 1 x 1 x 1> .
kjer je (1 , x 1 ), k x 1 k2 = 1, dominantni lastni par za A. Velja:
B x 1 = 0 in B x k = k x k , k 6= 1. Potencna metoda na B nam sedaj
da drugo dominantno lastno vrednost matrike A. Pri tem matrike
B ne izracunamo eksplicitno, saj je
B z = A z 1 ( x 1> z ) x 1 .

9 / 20

Householderjeva redukcija za splosno matriko.

Poisc emo ortogonalno matriko Q, da je Q x 1 = k e 1
(Householderjevo zrcaljenje).
Matrika B = Q A Q> ima obliko


b>
.
B= 1
0 C
Lastne vrednosti matrike C pa se ujemajo s preostalimi lastnimi
vrednostmi matrike A.

10 / 20

Inverzna iteracija
Najvecja lastna vrednost matrike A je hkrati najmanjsa lastna
vrednost matrike A1 .
isc emo najmanjso lastno vrednost, lahko torej uporabimo
Ce
potencno metodo na matriki A1 .
Namesto mnozenja y k+1 = A1 z k seveda resujemo sistem
A y k +1 = z k .
Vemo, da je Rayleighov kvocient najboljsi priblizek za lastno
vrednost, c e poznamo priblizek za lastni vektor.
Kaj pa obratno? Denimo, da je priblizek za lastno vrednost.
Kako izracunati pripadajoci lastni vektor?
Resitev: Izvajamo inverzno iteracijo na matriki A I.
je tocna lastna vrednost, pricakujemo tezave, a v praksi nas
Ce
iz tega spet resijo numericne napake.

11 / 20

QR iteracija
QR iteracija je trenutno najboljsa numericna metoda za izracun
vseh lastnih vrednosti splosne nesimetricne matrike.
Osnovna varianta metode je
A0 = A
k = 0, 1, . . .
Ak = Qk Rk (QR razcep)
A k +1 = R k Q k

Lema
ima matrika A lastne vrednosti s paroma razlicnimi absolutnimi
Ce
vrednostmi, potem zaporedje matrik Ak konvergira proti Schurovi formi.
12 / 20

Za uporabno verzijo QR iteracije potrebujemo nekaj izboljsav:

I

Matriko A najprej reduciramo na zgornjo Hessenbergovo z

ortogonalnimi podobnostnimi transformacijami (Householder ali
Givens).
QR iteracijo potem uporabimo na zgornji Hessenbergovi obliki, saj
velja spodnja trditev:

Lema
je A zgornja Hessenbergova, se njena oblika med QR iteracijo ohranja.
Ce
Ker je hitrost konvergence odvisna od razmerja med lastnimi
vrednostmi, metodo izboljsamo s premiki.

13 / 20

Metode za simetricne matrike

Za simetricne matrike poznamo posebne metode, ki izkorisc ajo
simetrijo in lastnosti simetricnih matrik.
Vecina temelji na dejstvu, da se da simetricno matriko
ortogonalno podobno pretvoriti na simetricno tridiagonalno
matriko (za simetricne matrike je zgornja Hessenebergova oblika
v resnici tridiagonalna).
Zato lahko predpostavimo, da je matrika A z e simetricna
tridiagonalna.
Uporabimo lahko kar QR iteracijo s premikom.
Sturmovo zaporedje.
Jacobijeva matoda.

14 / 20

Sturmovo zaporedje
Naj bo

a1
b1

T=

b1
a2
..
.

b2
..
.

..

bn 2 a n 1
bn 1

bn 1
an

ireducibilna (bi 6= 0, i = 1, 2, . . . , n 1) tridiagonalna simetricna

matrika.
Naj bo Tr vodilna r r podmatrika matrike T in
f r () = det( Tr I ).
Velja
f r+1 () = ( ar+1 ) f r () br2 f r1 (),
kjer je f 0 () = 1, f 1 () = a1 .
15 / 20

Izrek
Polinomi f r , r = 0, 1, . . . , n, tvorijo Sturmovo zaporedje, kar pomeni, da
zanje velja:
1
2
3

f 0 () 6= 0, za vsak .
je f r (0 ) = 0 za r < n, potem je f r1 (0 ) f r+1 (0 ) < 0.
Ce
je f n (0 ) = 0, potem je f n1 (0 ) f n0 (0 ) < 0.
Ce

Posledica
Ireducibilna tridiagonalna simetricna matrika ima enostavne lastne vrednosti.
Pri fiksem 0 oznacimo z u(0 ) s tevilo ujemanj predznakov v
zaporedju s tevil f r (0 ), r = 0, 1, . . . , n. Pri tem vsako notranjo
niclo s tejemo za eno ujemanje, niclo na koncu pa ne.

16 / 20

Lema

Stevilo
u(0 ) je enako stevilu lastnih vrednosti matrike T, ki so strogo vecje
od 0 .
Sedaj lahko k-to lastno vrednost po velikosti poisc emo z bisekcijo.

Stevilo
k je namrec priblizek za k-to lastno vrednost, c e je
u(k ) = k in u(k + ) = k 1.
Metoda je torej s e posebej primerna za iskanje natancno dolocene
lastne vrednosti (recimo tretje po velikosti).

17 / 20

Jacobijeva iteracija

Matrike ne reduciramo na tridagonalno obliko.

Z mnozenji z Givensovimi rotacijami z leve in desne jo
poskusamo spremeniti v diagonalno.
z elimo v matriki A uniciti element na mestu ( p, q), poisc emo
Ce
givensovo rotacijo


c s
R=
,
s c
da bo
R

>




1 0
a pp a pq
R=
.
0 2
a pq aqq

18 / 20

Izkaze se, da je
r
c=

1
,
1 + t2

s = c t,

kjer je
t=

sign( )

,
| | + 1 + 2

a pp aqq
.
2 a pq

Definicija
Za matriko A Rnn definiramo
v
u n  
2
u
off( A) = t  a jk  .
j,k=1
j6=k

Vrednost off( A) je Frobeniusova norma matrike A brez diagonale.

19 / 20

Lema
je matrika A0 dobljena iz A z enim korakom Jacobijeve metode na elementu
Ce
( p, q), je
off( A0 )2 = off( A)2 2 a2pq .
Z vsako Jacobijevo rotacijo se torej off( A) zmanjsa. Postopek
ponavljamo, dokler ni off( A) .
Variante:
I

Klasicna varianta: unicujemo po absolutni vrednosti najvecji

izvendiagonalni element.
Ciklicna varianta: vedno unicujemo v enakem vrstnem redu vse
elemente izven diagonale.
Pragovna varianta: vedno unicujemo v enakem vrstnem redu, a le
elemente, ki po absolutni vrednosti presegajo neko predpisano
(majhno) mejo.

20 / 20