Introdución El método de Jacobi El método de Gauss-Seidel

RESOLUCIÓN DE SISTEMAS DE
ECUACIONES LINEALES MÉTODOS
ITERATIVOS
Curso: Métodos Numéricos

Prof. Rosa Luz Medina Aguilar

FACULTAD DE INGIENERÍA ELECTRÓNICA Y ELÉCTRICA

Introdución El método de Jacobi El método de Gauss-Seidel

Contenido

1 Introdución
Normas de vectores y matrices
Criterio de convergencia
Criterios de parada

2 El método de Jacobi

3 El método de Gauss-Seidel
Introdución El método de Jacobi El método de Gauss-Seidel

Contenido

1 Introdución
Normas de vectores y matrices
Criterio de convergencia
Criterios de parada

2 El método de Jacobi

3 El método de Gauss-Seidel
Introdución El método de Jacobi El método de Gauss-Seidel

Métodos iterativos - Introducción

La idea central de los métodos iterativos es generalizar el

método del punto fijo utilizado anteriormente para buscar
raı́ces de una ecuación.
Introdución El método de Jacobi El método de Gauss-Seidel

Métodos iterativos - Introducción

La idea central de los métodos iterativos es generalizar el

método del punto fijo utilizado anteriormente para buscar
raı́ces de una ecuación.
Sea el sistema lineal Ax = b, donde:
A: matriz de los coeficientes, n × n
x: vector de las variables, n × 1
b: vector de los terminos constantes, n × 1.
Introdución El método de Jacobi El método de Gauss-Seidel

Métodos iterativos - Introducción

La idea central de los métodos iterativos es generalizar el

método del punto fijo utilizado anteriormente para buscar
raı́ces de una ecuación.
Sea el sistema lineal Ax = b, donde:
A: matriz de los coeficientes, n × n
x: vector de las variables, n × 1
b: vector de los terminos constantes, n × 1.
Este sistema es convertido, de alguna forma, en un sistema
del tipo x = Tx + c donde T es una matriz n × n y c es un
vector n × 1.
Introdución El método de Jacobi El método de Gauss-Seidel

Métodos iterativos - Introducción

La idea central de los métodos iterativos es generalizar el

método del punto fijo utilizado anteriormente para buscar
raı́ces de una ecuación.
Sea el sistema lineal Ax = b, donde:
A: matriz de los coeficientes, n × n
x: vector de las variables, n × 1
b: vector de los terminos constantes, n × 1.
Este sistema es convertido, de alguna forma, en un sistema
del tipo x = Tx + c donde T es una matriz n × n y c es un
vector n × 1.
Recuerde que T y c son obtenidas a partir de A y b
Introdución El método de Jacobi El método de Gauss-Seidel

Métodos iterativos- Introducción

Entonces:
φ(x) = Tx + c
es una función de iteración dada en la forma matricial.
Introdución El método de Jacobi El método de Gauss-Seidel

Métodos iterativos- Introducción

Entonces:
φ(x) = Tx + c
es una función de iteración dada en la forma matricial.
Partimos de x(0) (vector aproximación inicial) y construimos
consecutivamente los vectores:
 
x(1) = Tx(0)+c = φ x(0) , (primera aproximación)
 
(2) (1) (1)
x = Tx +c=φ x , (segunda aproximación)
etc.
Introdución El método de Jacobi El método de Gauss-Seidel

Métodos iterativos- Introducción

Entonces:
φ(x) = Tx + c
es una función de iteración dada en la forma matricial.
Partimos de x(0) (vector aproximación inicial) y construimos
consecutivamente los vectores:
 
x(1) = Tx(0)+c = φ x(0) , (primera aproximación)
 
(2) (1) (1)
x = Tx +c=φ x , (segunda aproximación)
etc.
En general, la aproximación x(k+1) es calculada por la fórmula
x(k+1) = Tx(k) + c es decir,
 
(k+1) (k)
x =φ x , k = 0, 1, . . .
Introdución El método de Jacobi El método de Gauss-Seidel

Métodos iterativos- Introducción

Observe que si la sucesión de aproximaciones

x(0) , x(1) , . . . , x(k) , . . .

es tal que,
lim x(k) = x̄,
k→∞

entonces x̄ = Tα + c, y x̄ es solución del sistema lineal

Ax = b.
Introdución El método de Jacobi El método de Gauss-Seidel

Métodos iterativos- Introducción

Observe que si la sucesión de aproximaciones

x(0) , x(1) , . . . , x(k) , . . .

es tal que,
lim x(k) = x̄,
k→∞

entonces x̄ = Tα + c, y x̄ es solución del sistema lineal

Ax = b.
Por lo tanto para cada método usado la relación entre A y T
deben ser encontradas para decidir la convergencia.
Introdución El método de Jacobi El método de Gauss-Seidel

Normas de vectores y matrices

Normas vectoriales

La norma de un vector debe satisfacer estas condiciones:

∥x∥ ≥ 0 Para cualquier vector no nulo x
∥x∥ = 0 si y solo si x es un vector nulo
∥αx∥ = |α||x∥ Para un escalar α
Desigualdad triangular

∥x + y∥ ≤ ∥x∥ + ∥y∥

Las normas vectoriales pueden ser definidas de diferentes formas en

tanto que la definición de norma sea satisfecha.
Introdución El método de Jacobi El método de Gauss-Seidel

Normas de vectores y matrices

Normas vectoriales comunmente usadas

n
X
||x||1 = |xi | Norma de la suma (l1 )
i=1
n
!1/2
X
||x||2 = |xi |2 Norma euclidiana (l2 )
i=1
||x||∞ = max |xi | Norma del máximo (l∞ )
1≤i≤n
Introdución El método de Jacobi El método de Gauss-Seidel

Normas de vectores y matrices

Normas matriciales mas usadas

La norma de una matriz debe satisfacer estas condiciones:

∥A∥ ≥ 0
∥A∥ = 0 si y solo si A es una matriz nula
∥αA∥ = |α|∥A∥ para α escalar
∥A + B∥ ≤ ∥A∥ + ∥B∥
Importante identidad ∥Ax∥ ≤ ∥A∥∥x∥ x es un vector
Introdución El método de Jacobi El método de Gauss-Seidel

Normas de vectores y matrices

Normas matriciales

Normas matriciales
( n )
X
||A||1 = max |aij | Norma del máximo de las columnas
1≤j≤n
i=1
 
Xn 
||A||∞ = max |aij | Norma del máximo de las filas
1≤i≤n  
j=1

1/2
||A||2 = ρ(At A) Norma l2

donde ρ representa el radio espectral.

El radio espectral de una matriz es el máximo de entre los valores

absolutos de los elementos de su espectro (autovalores).
Introdución El método de Jacobi El método de Gauss-Seidel

Criterio de convergencia

Criterio de convergencia
Sea x̄ la solución del sistema Ax = b, entonces x̄ satisface

x̄ = Tx̄ + c

tenemos que
x(k+1) = Tx(k) + c
Luego
x(k+1) − x̄ = T(x(k) − x̄)
donde el error en cada iteración es dado por ek+1 = x(k+1) − x̄

ek+1 = Tek = TTek−1 = . . . = Tk+1 e0

usando las propiedades de la norma se sigue que

||ek+1 || ≤ ||T||k+1 ||e0 ||

Introdución El método de Jacobi El método de Gauss-Seidel

Criterio de convergencia

Criterio de convergencia

Luego la sucesión {x(k) } converge para x̄, la solución del sistema si

lim ||ek || = lim ||T||k ||e0 || = 0

k→∞ k→∞

y esto ocurre si y somente si la matriz T satisface la condición

||T|| < 1

.
Introdución El método de Jacobi El método de Gauss-Seidel

Criterio de convergencia

Criterio de convergencia

Luego la sucesión {x(k) } converge para x̄, la solución del sistema si

lim ||ek || = lim ||T||k ||e0 || = 0

k→∞ k→∞

y esto ocurre si y somente si la matriz T satisface la condición

||T|| < 1

.
Observación
La convergencia del método iterativo no depende de la condición
inicial.
Introdución El método de Jacobi El método de Gauss-Seidel

Criterio de convergencia

Criterio de convergencia

Teorema
Para cualquier x(0) ∈ Rn , la sucesión {x(k) } definida por

x(k+1) = Tx(k) + c

converge a una solución única de x = Tx + c si y solo si ρ(T ) < 1

Introdución El método de Jacobi El método de Gauss-Seidel

Criterios de parada

Criterios de parada

Dada una tolerancia TOL, el vector x(k) será escogido como la

solución aproximada de la solución exacta si
 
 (k) (k−1) 
d (k) = max xi − xi  < TOL
1≤i≤n

Podemos usar también el error relativo

dk
drk =  (k)  < TOL
 
max xi 
1≤i≤n

o el residuo
||b − Axk || < TOL
Computacionalmente se usa también un número máximo de
iteraciones.
Introdución El método de Jacobi El método de Gauss-Seidel

Contenido

1 Introdución
Normas de vectores y matrices
Criterio de convergencia
Criterios de parada

2 El método de Jacobi

3 El método de Gauss-Seidel
Introdución El método de Jacobi El método de Gauss-Seidel

El método de Jacobi

La forma como el método de Jacobi transforma el sistema lineal

Ax=b en x=Tx+c es la siguiente:

Tomamos el sistema original



 a11 x1 + a12 x2 + . . . + a1n xn = b1
 a21 x1 + a22 x2 + . . . + a2n xn = b2

.. .. .. .. ..


 . . . . .
an1 x1 + an2 x2 + . . . + ann xn = bn

Introdución El método de Jacobi El método de Gauss-Seidel

El método de Jacobi

Suponiendo aii ̸= 0 ∀i = 1, 2, . . . , n aislamos el vector x


1

 x1 = (b1 − a12 x2 − a13 x3 − . . . − a1n xn )
a11







1


x2 = (b2 − a21 x1 − a23 x3 − . . . − a2n xn )
a22
..





 .
1


 xn = (bn − an1 x1 − an2 x2 − . . . − ann−1 xn−1 )


ann
Introdución El método de Jacobi El método de Gauss-Seidel

El método de Jacobi
Tenemos
x = Tx + c
donde
 a12 a13 a1n   b 
0 − − ... − 1
 a11 a11 a11   a11 
   
 a21 a23 a2n 
   
 − 0 − ... −   b2 
 a22 a22 a22  
 a





  22 
 − a31
T= a32 a3n  c=
 
− 0 ... −

 a
  b3 
33 a33 a33   



  a33 
 ..
 
 .. .. .. .. 
 
..  .

 . . . . .   b

 an1 an2 an3  b

− − − ... 0
an ann ann ann
Introdución El método de Jacobi El método de Gauss-Seidel

El método de Jacobi

El método de Jacobi consiste en, dado x(0) aproximación inicial

obtener x(1) , x(2) ,. . . , x(k) através de la relación

x(k) = Tx(k−1) + c
1 
 
(k) (k−1) (k−1) (k−1)
 x 1 = b1 − a12 x2 − a13 x3 − ... − a1n xn
a

11





 x (k) = 1 b2 − a21 x (k−1) − a23 x (k−1) − . . . −

  
(k−1)
a2n xn

2 1 3
a22



 ..
.



1 
 
 xn(k) = (k−1) (k−1) (k−1)

bn − an1 x1 − an2 x2 − ... − ann−1 xn−1

ann
Introdución El método de Jacobi El método de Gauss-Seidel

El método de Jacobi

Ejemplo:
Resolver el sistema

 10x1 + 2x2 + x3 = 7
x1 + 5x2 + x3 = −8
2x1 + 3x2 + 10x3 = 6


con  
0.7
x(0) =  −1.6  TOL = 0.05
0.6
Introdución El método de Jacobi El método de Gauss-Seidel

El método de Jacobi

El proceso iterativo es:


(k) 1 (k−1) (k−1)
 2 (k−1) 1 (k−1) 7

 1
 x = 7 − 2x 2 − x 3 = − x2 − 10 x3 + 10

 10 10


1
  
(k) (k−1) (k−1) (k−1) (k−1)
x2 = − 8 − 2x1 − x3 = − 51 x1 − 51 x3 − 8
5

 5


1
 
 x3(k) (k−1) (k−1) (k−1) 3 (k−1)
 2 3
= 6 − 2x1 − 3x2 = − 10 x1 − 10 x2 +

2 5
Introdución El método de Jacobi El método de Gauss-Seidel

El método de Jacobi

En la forma matricial es x(k) = Tx(k−1) + c

   
0 −2/10 −1/10 7/10
T =  −1/5 0 −1/5  x(0) =  −8/5 
−1/5 −3/10 0 3/5
Introdución El método de Jacobi El método de Gauss-Seidel

El método de Jacobi

En la forma matricial es x(k) = Tx(k−1) + c

   
0 −2/10 −1/10 7/10
T =  −1/5 0 −1/5  x(0) =  −8/5 
−1/5 −3/10 0 3/5

La solución aproximada es x(3) = (0.9994, −1.9888, 0.9984)t .

Introdución El método de Jacobi El método de Gauss-Seidel

El método de Jacobi
Si escribimos A = D − L − U donde
   
a11 0 ... 0 0 0 ... 0
 0 a22 ... 0   −a21 0 ... 0 
D= L = 
   
.. .. .. .. .. .. .. .. 
 . . . .   . . . . 
0 0 . . . ann −an1 −an2 ... 0
 
0 −a12 ... −a1n
 0 0 ... −a2n 
U= .
 
. .. .. .. 
 . . . . 
0 0 ... 0
Entonces tenemos que
Ax = b ⇔ (D − L − U)x = b ⇔ Dx = (L + U)x + b
Luego, si D −1 existe, es decir aii ̸= 0
x = D−1 (L + U)x + D−1 b
Introdución El método de Jacobi El método de Gauss-Seidel

El método de Jacobi

Esto da origen a la forma matricial del método de Jacobi

x(k) = D −1 (L + U) x(k−1) + D −1
| {z b} para k = 1, 2, 3 . . .
| {z }
Tj cj

Asi
x(k) = Tj x(k−1) + cj
El método converge si ∥Tj ∥ < 1
Introdución El método de Jacobi El método de Gauss-Seidel

El método de Jacobi - Criterios de Convergencia

El método de Jacobi aplicado a este sistema converge si satisface:

a) el criterio de las filas, es decir, si:
n
n X  o
max |aij | /|aii | < 1,
1≤i≤n
j =1
i ̸= j

b) el criterio de las columnas, es decir, si:

n
n X  o
max |aij | /|ajj | < 1,
1≤j≤n
i =1
i ̸= j
Introdución El método de Jacobi El método de Gauss-Seidel

El método de Jacobi - Criterios de Convergencia

Definición: Una matriz A es estrictamente diagonal

dominante si:
n
X
|aij | < |aii |, para i = 1, 2, . . . , n
j =1
i ̸= j

Observación : Con esta definición es fácil ver que, si la

matriz de los coeficientes es estrictamente diagonal dominante
entonces el criterio de las filas es satisfecho.
Introdución El método de Jacobi El método de Gauss-Seidel

Algoritmo del método de Jacobi

Introdución El método de Jacobi El método de Gauss-Seidel

Contenido

1 Introdución
Normas de vectores y matrices
Criterio de convergencia
Criterios de parada

2 El método de Jacobi

3 El método de Gauss-Seidel
Introdución El método de Jacobi El método de Gauss-Seidel

El método de Gauss-Seidel

El método de Gauss-Seidel consiste en, dado x(0) aproximación

inicial obtener x(1) , x(2) ,. . . , x(k) através de la relación

(k) 1  (k−1) (k−1) (k−1)

 x 1 = b 1 − a x
12 2 − a x
13 3 − . . . − a x
1n n
a11






1 
 
(k) (k) (k−1) (k−1)

x = b − a x − a x − . . . − a x

2 21 23 2n n
 2 1 3
a22





(k) 1  (k) (k) (k−1)

 x3 = b3 − a31 x1 − a32 x2 − ... − a2n xn


 a33




 ..
.



1 

 
 xn(k) =

bn − an1 x1
(k)
−
(k)
an2 x2 − ... − ann−1 xn−1
(k)
ann
Introdución El método de Jacobi El método de Gauss-Seidel

El método de Gauss-Seidel

Ejercicio:
Resolver el sistema
  
 5x1 + x2 + x3 = 5 0
3x1 + 4x2 + x3 = 6 con  0  y TOL = 0.05
3x1 + 3x2 + 6x3 = 0 0

Introdución El método de Jacobi El método de Gauss-Seidel

El método de Gauss-Seidel

El proceso iterativo es dado por:

1
 
(k) (k−1) (k−1) (k−1) (k−1)

 1
 x = 5 − x2 − x 3 = 1 − 0.2x2 − 0.2x3


 2


1
 
(k) (k) (k−1) (k) (k−1)
x2 = 6 − 3x1 − x3 = 1.5 − 0.75x1 − 0.25x3


 4


1
 
 x (k) = (k) (k) (k) (k)

0 − 3x1 − 3x2 = −0.5x1 − 0.5x2

3
6
Introdución El método de Jacobi El método de Gauss-Seidel

El método de Gauss-Seidel

El proceso iterativo es dado por:

1
 
(k) (k−1) (k−1) (k−1) (k−1)

 1
 x = 5 − x2 − x 3 = 1 − 0.2x2 − 0.2x3


 2


1
 
(k) (k) (k−1) (k) (k−1)
x2 = 6 − 3x1 − x3 = 1.5 − 0.75x1 − 0.25x3


 4


1
 
 x (k) = (k) (k) (k) (k)

0 − 3x1 − 3x2 = −0.5x1 − 0.5x2

3
6

La solución aproximada es x(3) = (1.0075, 0.9912, −0.9993)t .

Introdución El método de Jacobi El método de Gauss-Seidel

El método de Gauss-Seidel

El esquema iterativo del método de Gauss-Seidel puede ser esrito

en forma matricial de la siguiente manera. Escribimos

A=D−L−U

   
a11 0 ... 0 0 0 ... 0
 0 a22 ... 0   −a21 0 ... 0 
D= L = 
   
.. .. .. .. .. .. .. .. 
 . . . .   . . . . 
0 0 . . . ann −an1 −an2 ... 0
 
0 −a12 ... −a1n
 0 0 ... −a2n 
U= .
 
.. .. ..
 ..

. . . 
0 0 ... 0
Introdución El método de Jacobi El método de Gauss-Seidel

El método de Gauss-Seidel
Entonces tenemos que

Ax = b ⇔ (D − L − U)x = b ⇔ Dx = Lx + Ux + b

Para calcular el vector xk

(D − L)x(k) = Ux(k−1) + b

Si (D − L) es no singular (aii ̸= 0)

x(k) = (D − L)−1 (U) x(k−1) + (D − L)−1 b

| {z } | {z }
Tg cg

Asi
x(k) = Tg x(k−1) + cg
El método converge si ∥Tg ∥ < 1
Introdución El método de Jacobi El método de Gauss-Seidel

El método de Gauss-Seidel Criterios de Convergencia

El método de Gauss-Seidel converge si satisface:

a) el criterio de Sassenfeld, es decir, si:

max βi < 1
1≤i≤n

donde os βi son calculados por recurrencia atravéz de:

i−1
X n
X .
βi = |aij |βj + |aij | aii
j=1 j=i+1

b) el criterio de las filas, (es diagonalmente dominante)

c) Si la matriz es simetrica, positiva definida
Introdución El método de Jacobi El método de Gauss-Seidel

Algoritmo del método de Gauss Seidel

Introdución El método de Jacobi El método de Gauss-Seidel

Observaciones

Dado um sistema lineal Ax = b puede pasar que el método

de Jacobi resulte convergente mientras que el de Gauss-Seidel
resulte divergente y vice-versa.
Una permutación conveniente de las filas o columnas de A
antes de dividir cada ecuación por el coeficiente de la diagonal
principal puede reducir el valor de ||T|| .
La convergencia para los métodos: Jacobi y Gauss-Seidel no
depende del vector inicial x (0) .