ALGEBRA LINIOWA

Algebra liniowa opisuje wektory, macierze oraz układy równań

liniowych. Znajduje zastosowanie w naukach przyrodniczych i
technicznych.
Zadania algebry liniowej:
 Rozwiązywanie algebraicznych układów równań liniowych.
 Odwracanie macierzy.
 Obliczanie wyznaczników.
 Wyznaczanie wartości i wektorów własnych.

Metody rozwiązywania zadań algebry liniowej:

 Dokładne – w kilku krokach otrzymuje się rozwiązanie dokładne
(z dokładnością do zaokrąglenia)
 Iteracyjne – w kilku iteracjach otrzymuje się rozwiązanie z zadaną
dokładnością.
Macierz:
 a11 a12  a1 j  a1n 
a a22  a2 j  a2 n 
A  aij 
 21 
     
 A  
a ai 2  aij  ain 
 i1 
     
am1 am 2  ami  amn 
і = 1,2,...,m; j = 1,2,…,n
Rodzaje macierzy:
Kwadratowa Pasmowa Rzadka

Główna przekątna
Przeciwprzekątna
 Transponowana Jednokolumnowa
Jednowierszowa
eerszowa

aT b  C - liczba

AT 
abT  C -macierz
aT Ab  C - liczba
Górna trójkątna Dolna trójkątna Symetryczna
 * * * * * * * * *
 * * * * * * * *
*
* *

 A  AT
 * * * * * * * * * *  Odwrotna
 * * * * * * * 
A1A  E
 * * *
* * * * *   
 * * * * * 
 * * * * * * * * * * 
 * * * * * * * * * *  Jednostkowa
 * * * * * * * * * * 
 *  * 1 0 0 0
 * * *  0 1 0 0
* * * * *
I   
Najczęściej wykorzystuje 0 0 1 0
się macierze kwadratowe. 0 0 0 1

 Układy równań liniowych
 a11 a12    a1n   x1   b1 
a21 a 22
 
   a2n   x 2 
 
          
b2 
  Ax  b
a    
 n1 an2    ann   xn  bn 
Normy macierzy i wektora
Norma jest miarą “wielkości” macierzy i jest stosowana dla porównania
dwóch macierzy lub wektorów o takich samych wymiarach.
n n
1. A 1  max  aij ;
1. x 1   xi ; j i1
i1 n
2. x 2  max xi ; Norma macierzy: 2. A 2  max  aij ;
Norma wektora: i j 1
n
x3   xi2 .
n n
3. 3. A3    aij2 .
i1 i  1j  1
1
Wspolczynnik uwarunkowania macierzy: cond( A)  A A .
 Rozwiązywanie algebraicznych układów równań liniowych

a11x1  a12 x 2    a1nxn  b1,

a21x1  a22 x 2    a2nxn  b2 ,

...
an1x1  an2 x 2    annxn  bn .
 a11 a12    a1n   x1   b1 
a21 a 22    a2n   x 2  b2 
   
          
  Ax  b x  A1b
a    
 n1 an2    ann   xn  bn 

Układ równań posiada rozwiązanie, jeżeli macierz A jest nieosobliwa,

czyli jej wyznacznik jest różny od zera 

 
Przykład: Macierz Α  105 21 jest osobliwa  det|A|=0
1 2
 
(widać to po proporcjonalności wierszy)
 Układ jest dobrze uwarunkowany, jeżeli wskaźnik uwarunkowania
macierzy cond( A) jest mały. Jeżeli cond A   10 to układ jest źle
uwarunkowany. Źle uwarunkowane układy mają niestabilne rozwiązania,
tzn., że nieznaczna zmiana współczynników w macierzy [A] lub wektorze {b}
doprowadza do znacznych zmian w rozwiązaniu.

Α  6 7
Przykład: Macierz 5 6  jest źle uwarunkowana.


Α  56 7
6   A  6 2
 7 2
 5 2
 6 2
 120.08

Α   65 67 
1
1
   A  120.08
cond A   A A
1
 120.08 * 120.08  14419  10 .
Jeżeli w macierzy A wystąpi nieznaczne zaburzenie, to większe zmiany
wystąpią w macierzy A-1
Α  56.15
.1 7
Α1
  10.91  12.73 
 6  , to   9.36 11.09 
Przykład: Obliczyć momenty metodą sił
  11X 1   12 X 2  Δ1P   11  12   X 1   Δ1P 
 X   X  Δ   12  22    
 12 1 22 2 2P  X 2   Δ2P 

1) wariant:
l 3 24 9  6EJ  0.27  0.6 
A    
; A  1
 3  0.6 1.6
6EJ  9 4  l  

cond( A)  27.45 * 1.83  50.23  10

-źle uwarunkowane.

2) wariant: 3) wariant:
l 3 8 7  18EJ  0.53  0.47  l  4 1  1 6EJ  0.27  0.067
A   A   3  0.47 0.53 A    
1
; ; A

18EJ  7 8 
 l   6EJ  1 4  l   0.067 0.27 
cond( A)  15.033 * 1.107  16.64  10 cond( A)  5.74 * 0.393  2.25  10
-źle uwarunkowane. -dobrze uwarunkowane.

METODY DOKŁADNE
Metoda Gaussa
a11x1 + a12x2+ a13x3+ … +a1jxj + … +a1nxn = b1
a21x1 + a22x2+ a23x3+ … +a2jxj + … +a2nxn = b2
a31x1 + a32x2+ a33x3+ … +a3jxj + … +a3nxn = b3
… … … … … … … …
ai1x1 + ai2x2+ ai3x3+ … +aijxj + … +ainxn = bi
… … … … … … … …
an1x1 + an2x2+ an3x3+ … +anjxj + … +annxn = bn
Krok nr 1
a11x1 + a12x2 + a13x3+ … +a1jxj + … +a1nxn = b1
a122 x 2 + a123 x 3 + … 1
+ a 2 jx j + … 1
+ a2nxn = b12
a132 x 2 + a133 x 3 + … 1
+ a 3 jx j + … 1
+ a3nxn = b13
… … … … … … … …
a1i2 x 2 + a1i3 x 3 + … 1
+ aijx j + … 1
+ ainxn = b1i
… … … … … … …
a1n2 x 2 + a1n3 x 3 + … 1
+ anjx j + … 1
+ annxn = b1n
 ai1 ai1
a1ij  aij  a1j b1i  bi  b1
a11 a11
Krok nr 2
a11x1 + a12x2+ a13x3+ … +a1jxj+ … +a1nxn = b1
a122 x 2 + a122 x 3 + … 1
+ a 2 jx j + … 1
+ a2nxn = b12
a223 x 3 + … 2
+ a 3 jx j + … 2
+ a3nxn = b23
… … … … … … …
ai23 x 3 + … 2
+ aij x j + … 2
+ ainxn = bi2
… … … … … … …
an23 x 3 + … 2
+ anjx j + … 2
+ annxn = bn2
a1 a1i2 1
aij2  a1
ij  1i2 a12 j bi2  b1i  1 b2
a22 a 22
Krok nr 3
a11x1 + a12x2+ a13x3+ … +a1jxj+ … +a1nxn = b1
a122 x 2 + a123 x 3 + … 1
+ a 2 jx j + … 1
+ a2nxn = b12
a233 x 3 + … 2
+ a 3 jx j + … 2
+ a3nxn = b23
… … … … …
3
+ aij x j + … 3
+ ainxn = bi3
 … … … … …
3
+ anjx j + … 3
+ annxn = bn3

a 2
a2
a ij3  a ij2  2i3 a 23 j b 3  b 2  i3 b
a 33 i i a2 3
33

Krok nr n
a11x1 + a12x2+ a13x3+ … +a1jxj+ … +a1nxn = b1
a122 x 2 + a123 x 3 + … 1
+a x + … 1
+ a2nxn = b12
2j j
a233 x 3 + … 2
+ a 3 jx j + … 2
+ a3nxn = b23
… … … … …
… i1
+ ain xn = bii  1
… … …
annn1xn = bnn1

n1
a anin 1 n  1
anij  anij  1  in a n1
bni  bni  1  bi
annn 1
nj
ann
Otrzymujemy układ równań z macierzą trójkątną górną:
a11 a a13  a1j  a1n 
 12

 a122 a123  a12 j  1
a2n  Ten etap rozwiązania zadania nazywa
 
 a233  a23 j  a23n  się postępowaniem prostym.
     
 
 aiij1  aiin1 
   
 annn1

Początek iteracji po k (k=1,2, … ,
n-1)
Początek iteracji po i (i=k+1 … ,
n)
aik
t
akk
Początek iteracji po j (j= 1, … , n)
aij  aij  t * akj

Koniec iteracji po j
bi  bi  t * bk
Koniec iteracji po i

Koniec iteracji po k
Rozwiązanie znajdziemy w postępowaniu odwrotnym:
1
bn
n
xn 
1
an
bnn12  ann12xn 
nn
1
xn 1 
2
ann  1,n  1
.......... .......... .......... .......... .......... ...

Początek odwrotnej iteracji po i (i=n-1, … , 1)

t  bi
Początek iteracji po j (j=i+1 … , n)
t  t  x j * aij
Koniec iteracji pо j

t
xi 
a ii
Koniec odwrotnej iteracji po i
 Przykład:
A1 x1- x2+ 3x3+ x4 = 5
A2 4x1- x2+ 5x3+ 4x4 = 4
A3 2x1- 2x2+ 4x3+ x4 = 6
A4 x1- 4x2+ 5x3- x4 = 3

1 krok
A1 x1- x2+ 3x3+ x4 = 5
A 12 = A2 -a21/a11 A 1 3x2- 7x3- 0x4 = -16

A13 = A3 –a31/a11 A1 0x2- 2x3- x4 = -4

A 14 = A4 –a41/a11 A1 -3x2+ 2x3- x4 = -2

2 krok
A1 x1- x2+ 3x3+ x4 = 5
A 12 3x2- 7x3- 0x4 = -16

A 23 = A13 – a132 / a122 A12 x3+ 0.5x4 = 2

A 24 = A 14 – a142 / a122 A12 -5x3 -2 x4 = -18

3 krok
A1 x1- x2+ 3x3+ x4 = 5
A 12 3x2- 7x3- 0x4 = -16

A 23 = A13 – a132 / a122 A12 x3+ 0.5x4 = 2

A 24 = A 14 – a142 / a122 A12 x4 = -16

Postępowanie odwrotne:
x 4  16
x 3  2  0.5 x 4  10
1
x 2  (16  7x 3 )  18
3
x1  5  x 2  3x 3  x 4  9
(k  1)
Uwaga! Jeżeli w pewnym kroku akk  0 , to metoda jest nieprzydatna.

Wybór głównego elementu

Przykład:
A1 0 x 1+ x2 + 3x3+ x4 = 5 Metoda Gaussa
A2 27x1- x2 + 5x3+ 4x4 = 4 nieprzydatna!
8x1- 2x2+ 4x3+ x4 = 6
A4 6x1- 4x2+ 5x3- x4 = 3

Przestawmy wiersze tak, że ak,1  ak  1,1

A2 27x1- x2 + 5x3+ 4x4 = 4 Metoda Gaussa
A3 8x1- 2x2+ 4x3+ x4 = 6 przydatna!
A4 6x1- 4x2+ 5x3- x4 = 3
A1 0 x 1+ x2 + 3x3+ x4 = 5
 Wyznacznik macierzy
 a11 a12 ... a1n 
A  a21 a22 ... a 2n 
... ... ... ... 
a ... ann 
 n1 an2
1-wszy krok eliminacji

a11 a12 ... a1n a11 a12 ... a1n a (1) (1) (1)
22 a 23 ... a 2n
a a22 ... a2n 0 a(1) ... a(1) (1) (1) (1)
det A  det 21  det 22 2n a
a11 * det 32 a 33 ... a 3n 
... ... ... ... ... ... ... ... ... ... ... ...
an1 an2 ... ann (1) (1)
0 an2 ... ann an2 a (1)
(1)
... a (1)
32 nn

2-gi krok eliminacji

a(1)
22 a(1)
23 ... a (1)
2n a(33
2)
... a(32n)
(n1)
a(33
2)
... a(32n) a11 * a(22
1) ... a11 * a(22
1)
* a(33
2)
* ... * ann
 a11 * det * det ... ... ...
... ... ... ... a(322) ... ann
(2 )

a(322) ... ann

(2 )
Przykład:

2 1.0  0.1 1.0 1 0.5  0.05 0.5

 0.4 0.5 4.0  8.5  2 0 0.3 4.02  8.7 
0.3  1.0 1.0 5.2 0  1.15 1.015 5.05
1.0 0.2 2.5  1.0 0  0.3 2.55  1.5

0.3 4.02  8.7 1.0 13.4  29

 2  1.15 1.015 5.05  2  0.3 0 16.425  28.3 
 0.3 2.55  1.5 0 6.57  10.2

 2  0.3 16 .425  28.3  2  0.3  16.425 1.0  1.72298 

6.57  10.2 0 1.11998

 2  0.3  16.425  1.11998  11.0374.

Macierz, której wyznacznik jest równy zero nazywamy osobliwą!
 Macierz Odwrotna

AA1  E
( 1) ( 1)
 a11 a12

a1n  11 a a12 ... a1( n1) 
...
 ( 1)  1 0 ... 0 
1)
a 21 a22 ... 
a2n a 21 a(22 ... a(2n1)    0 1 ... 0 
 ... ...   ...
a
... ... ... ... ...  ... ... ... ...
 n1 an2 ... ann  a ( 1) ( 1) 
an( 21) ... ann
 0 0 ... 1 
 n1 
Konsekwentnie rozwiązujemy układ równań.

a ( 1)  a ( 1)  a( 1) 

 11   1  12  0   1( n1)  0 
a ( 1)  0  a ( 1)   1 a  0 
A 21     ; A  22    ;  ; A  2n     .
   0     0      1
an( 11)    an( 21)    ( 1) 
ann  

Z niniejszego warunku otrzymujemy wszystkie kolumny macierzy odwrotnej.
 Metoda Crouta - Rozkład LU

Niech: A  LU

gdzie: L - macierz dolna trójkątna;
U - macierz górna trójkątna.
 a12 a13 a1n 
 1 
a11 a11 a11 
 a11 0 0 ... 0   (1) (1) 
a a (1)
0 ... 0   a 23

a 2n 
 21 22  0 1 1) 
L  a31 a(321) a (22
1)
a (22
a (33
2)
... 0 ; U   
 ...  a (32n) 
... ... ... 0  0 (2 ) 
 0 1 
(1) (n  1) 
a
 n1 a n2 an(23) ... ann   a 33 
     
 0 0 0 ... 1 

wtedy: LUx  b

Najpierw rozwiązujemy równanie:
Ly  b y  L1b ,
a następnie:

Ux  y x  U1y.

Zachodzi zależność: U  DLT ,

 1 
a 0 0 ... 0 
 11 
 0 1
0 ... 0 
 a (22
1) 
D   1 .
0 0 ... 0 
 a (33
2)

 ... ... ... ... ... 
 1 
 0 0 0 ... (n  1)

 ann 

Inna forma rozkładu LU: A  LDLT .

 METODA CHOLESKIEGO (PIERWIASTKA KWADRATOWEGO)
Wprowadza się macierz dolną trójkątną:

L~   DL ,
gdzie:
 1 
 0 0 ... 0 
a11
 
 1
0 0 ... 0 
 a (22
1) 
 
 D  
0 0
1
... 0 ,
 a (33
2) 
 
 ... ... ... ... ... 
 0 0 0 ...
1 
 (n  1) 
 ann 
wtedy: A   ~L
L ~T
.

  
L L x  b.
~ ~ T
 L~y  b y  L~1b ,
Rozwiązanie:

L~T x  y x  L~1y.

Założenie główne – macierz powinna być dodatnio określona aij(k )  0 .
Metoda Choleskiego jest najszybsza, tzn. potrzebuje minimalnej liczby operacji.
 METODY ITERACYJNE (PRZYBLIŻONE)
Metoda Gaussa-Seidla
Układ przekształca się do postaci:
x  Ax  x  b  A  Ex  b
Zakłada się przybliżenie początkowe: x(o)
Przeprowadza się iterację:
x(1)  A  Ex(o)  b;
x(2)  A  Ex(1)  b;

x(k )  A  Ex(k 1)  b.
(k ) (k  1)
Warunek zakończenia obliczeń: x  x 
gdzie:  - zadana dokładność rozwiązania

Zbieżność jest szybka, gdy:

n
aii   aij .
j 1, j i
 Мetoda Jacobiego
Układ przekształca się do postaci: x  Bx  c
 a a a   b1 
 0  12  13 ...  1n  a 
a11 a11 a11  11 
 
  a 21 0
a
 23 ... 
a 2n   b2 
 a 22 a 22 a 22   a 22 
B   a31 a 32 a 3n  ; c   b3 
  0 ...   a 
 a 33 a 33 a 33 
 33 
 ... ... ... ... ...   ... 
  an1 a
 n2
a
 n3 ... 0   bn 
 a ann ann   ann 
nn

Początkowe przybliżenie x(o)

Przeprowadza się iterację:
x(1)  Bx(o)  c;
x(2)  Bx(1)  c;

x(k )  Bx(k 1)  c.
Zbieżność można przyspieszyć korzystając z następującego schematu:
1-sza iteracja
x1(1)  b11x1(o)  b12 x (2o)  b13 x (3o)  ...  b1nxn(o)  c1;
x (21)  b11x1(1)  b12 x (2o)  b13 x (3o)  ...  b1nxn(o)  c1;
x (31)  b11x1(1)  b12 x (21)  b13 x (3o)  ...  b1nxn(o)  c1;
..............................................................................
xn(1)  b11x1(1)  b12 x (21)  b13 x (31)  ...  b1nxn(o)  c1;
2-ga iteracja
x1(2)  b11x1(1)  b12x (21)  b13x (31)  ...  b1nxn(1)  c1;
x (22)  b11x1(2)  b12x (21)  b13x (31)  ...  b1nxn(1)  c1;
x (32)  b11x1(2)  b12x (22)  b13x (3o)  ...  b1nxn(o)  c1;
..............................................................................
xn(2)  b11x1(2)  b12x (22)  b13x (32)  ...  b1nxn(1)  c1;
Itd.
Przykład:
1 
x1  (4  x 2  x 3 ) 
4 x1  x 2  x 3  4  4
 1 
2x1  6x 2  x 3  7 x 2  (7  2x1  x 3 )
x1  x 2  3x 3  0  6
1

x 3  (x1  2x 2 ) 
3 

Niech: x1(o)  x (2o)  x (3o)  0

1  71 
x1(1)  ( 4  0  0)  1  x1(2) 
1 5 8
(4   ) 
4 4 6 9 72 
1 5  1 71 8 71 
x (21)  (7  2 * 1  0)   x (22)  (7  2  )  ………..
6 6 6 72 9 72 
1 5 8  1 71 71 71 
x (31)  (1  2 )  x (32)  ( 2 )
3 6 9  3 72 72 72 