Factorizaci6n PA=LU Prof. |. Huerta Facultad de Matemsticas uc ihuerta@mat.puc.cl Septiembre 2008 Factorizaciones (Dividir para Conquistar) © La estrategia consiste en expresar una operacién complicada como la composicién de varias sencillas. * Esto permite revertir una operacién complicada revirtiendo una sucesin de operaciones sencillas © En matrices, la estrategia consiste en expresar una matriz A como el producto de matrices sencillas. + Por ejemplo, para la composicién A = BC tenemos Azabes © py-8 Entonces, para resolver AZ 5, donde A = 1C, se hace lo siguiente + Resuelva By Resuelva CZ En general, si tenemos la factorizacién A= Al Ar Ay entonces para resolver AZ = 5, se resuelven sucesivos sistemas de ecuaciones # Para i=1,2,...,k, resuelva Si A es invertible, entonces resolver = Alb SIN TENER LA INVERSA de / Az = 8 es equivalente a calcularAl final del semestre habremos visto las factorizaciones + Aes el producto de matrices elementales para invertible + PA= LU ( Factorizacién PALU para matrices generales) = LDL" (Cholesky sin raiz cuadrada para simétricas) = R'R (Cholesky con raiz cuadrada para A simétrica positiva definida) = QR (Factorizacién QR para matrices generales) = VDV-* (Diagonalizacién) + A=VDV7 (diagonalizacién ortogonal para A simétrica) + A= VEU (descomposicién de valores singulares para A matriz general dem xn) Factorizacién A=LU Sea A de m xn. La factorizacién A= LU « se obtiene al llevar la matriz A a la forma escalonada U usando exclusivamente la operacién elemental fila: sumar un miiltiplo de una fila a otra. «+ la matriz escalonada U de m x n obtenida no tiene los pivotes iguales a Len general. © La factorizacién A = LU expresa a cada fila de A como combinacién lineal de las filas de U. ‘¢ la matriz L de m x m es triangular inferior con 1's en la diagonal 1 0 0 + OF ba 1 0 0 bi ba Lo 0 mt lima tims oo 1 * A = LU no siempre puede realizarse pues en ciertos casos hay intercambios de filas forzados, en cuyo caso se obtiene la factorizacién PA=W. © La ecuacién A= LU expresa a la fila i de A como combinacién lineal de las filas de U con coeficientes en la fila i de L. Hay dos maneras de ver la factorizacién PA = LU. i) Matricial: interpretando a la efi in de gauss como multiplicaciones por matrices elementales Vectorial: interpretando las filas de A como combinaciones lineales de las, las deae Jes | Esa(—ts2) Bsa(-ls) E2a(—ba) A=U Entonces A= (East Por Io tanto ) Falla) Bs rE an)" (Bsa(—laa))(Bsa(—bs2)) "0 1 0 ojf 1 00 oo 1 0 0][1 0 o][1 0 o o 1 0 0 10]/-b: 1 0/A=U A=|t,10)| 0 10]//o 1 clus 0 be 1) [-ba 01 on 0 ost. o1}lo tet Pero Ejemplo 2. Llevamos la matriz 1 00 100 0 0 b= |i 10 o iofso. to. ana oon tr or} lo tet A=|-1-1 1-20 1 0 0]f1 0 0 22 = fa. 20/}o 1 0 2 2-2 21 oo aslo te 1 0 0 a una forma escalonada U usando sélamente = Jt. 1 0 sumar un miiltiplo de una fila a otra. ba bad Pa. 1a 1a Es decir, A=|-1-1 1-20] 4H foo 2a 1 1 00 A=|b, 1 0lU 22-2 21 00 0-1 ba bal rida. La matriz L tiene los multiplicadores usados en la eliminacién de v-|o02 11 guass. La matriz U es la escalonada sin 1's en la diagonal,La relacin entre las filas A; de A y las filas U; de U es ta siguiente Es decir yore) ‘| 1 00) [UY Ar 1 10) | = Ay A = = U2 = Aa —teas = Ar +, 4s 2) Ls Uy = Ag —biUy L221) [ooo -21 LaUy +Us U, 40s Cee As = GaUi tsa, +Us = 20, 20, +Us é v Estas relaciones de combinaciones lineales se escriben convenientemente en forma matricial A] uh 1 0 of 4:}=| bavitu, |=]ar 1 0/| Ay LyaUy + byaU2 + Uy ba ba 1) | Us Generalizacién Expresando n lineal de las filas U, de se tiene Note que A Ar = ba) + U2 «+ Para obtener Ia fila U, se le resta a la fila A, miltiplos de las filas U, con AS ot bath + Us igi : Am = tna + Inala $+ + bin aU + Un * El multiplicador |, dice por cuanto hay que multiplicar la fila j de modo que al restarla a la fila i se hace un cero bajo el pivote j. En general se tiene entonces que = Ay a nT Ty As = bali = Um = Am = bnaUy = - = bing m a Estas relaciones de combinaciones lineales se escriben convenientemente mediante la factorizacién rn 10 eo 09 of Tu a] far sc os sl fe] a) oj moa Poa 8] fe % i vTabulacién de datos Para efectos de mantener en forma organizada los resultados intermedios y multiplicadores en el proceso de eliminacién gaussiana hacemos lo siguiente ‘¢ Trabajamos con una séla matriz de trabajo de m x n, ‘© Esta matriz inicialmente tiene el valor de A. ‘* Se procede con Ia eliminacién tal como siempre pero se guarda el valor del multiplicador 1, en el elemento que se anula al restar lj, veces la fila k a la fila é ‘© Es decir, se guarda implicitamente el valor cero de U y explic ‘multiplicador 1... que hace el cero. ramente el ‘* Las posiciones en la matriz de trabajo que corresponden a multiplicadores se marcan (en estas notas los multiplicadores van en negrita) © La tabla final que se obtiene al terminar el proceso tiene los multiplicadores 1,4 que definen a L y a la escalonada U. © Los ceros que se realizan en el proceso de eli tabla y estan ubicados en los lugares donde se guardan los multiplicadores. © Los unos de la diagonal de J. se suponen implicitos Ejemplo 3. Donde se hace un cero anotamos en negrita el multiplicador correspondiente. El valor del multiplicador |,,; es Elemento que se anula He = Pivote 2 4 -3 1 1 2 2 0 23 4 3-11 -1 22 2-12 1, Si zeqmplazamos los multipligarores, por corgs obtonemes,l os mal res en negrite detinen la parte triangular inferior de 1 0 00 21 2 34 pe|7i 1 9 0} g_]oe -3 -11 ‘=| 2-1 10] “Joo 0 22 2 2-11 oo 0 o2Ejemplo 4, Calculamos una factorizacién A= LU para 2 1 1 -8 -2 ae)-fo2 be ta ao 2-144 er 6 3 5 1 os 1 2 2 Ejemplo 5. Caleulamos A= LU para A=] 4 2-4 2 2 1 000 21 1-3 -2 467 2 > 100 00-3 3 38 A=LU, L= U= —t ~ 3 -1 -2/3 10 oo 0 0 1 6 le 2 “8-8/8 41 00 0 0 0 we [2 > 2 3 Por lo tanto A= LU con 1 00 2-4 2 | r=} 2 10] v-lo2 aFactorizacién PA=LU La factorizacién PA = LU es la que se obtiene al llevar la matriz Aa su forma escalonada U realizando exclusivamente las operaciones elementales fila: j) Restar un miiltiplo de un fila a otra ii) intercambiar dos flas La operacién elemental fila de reemplazar la fila i por un miitiplo de si misma no se puede realizar. * Por ejemplo ooo1}fa Aa oo10){ a} _| as PA=lioo00l; a a | o1oo0jla Ar © Al intercambiar filas a medida que se realiza la eli calcula la factorizacién LU a la matriz A con su filas intercambiadas. Es decir PA = LU. Ejemplo 6, En este jemplo calculamos Ia factorizacién PA = LU de 2-211 ¢ La matriz PA es la matriz A con las filas intercambias 30-3 144 ¢ La matriz P es una matriz de permutacién y es la matriz identidad con 22-14 sus filas intercambiadas yoyoaid ¥ mostramos lo que pasa cuando se intercambian filas. * Como siempre guardamos (en negrita) el multiplicador |,,, en el elemento que se anula al realizar Ia operacién elemental fila + Cuando se intercambias filas \ anotamos el intercambio y “se intercambian las filas, incluyendo los multiplicadores ya caleulados. p22 11 2 2 1 4 30-3 11 3/2 0 1/2 ~1/2 22 41 “lo 0 2 toad 1/22 12 12 W22 12 a2 “™ | -L 0 0 2 3/2 0 1 ape 2 2 1 1 ng {1/2 2 12 2 13/2 0 a2 -1/2 10 Gd 2Note que ¢ La matriz que factorizamos es realmente [4] [: 000 [4 As ooo1]| a Pa= |i o10 04 o| | Ay La] lo ofa * Entonces, 1aoo tooo 2-2 1 1 o oor 1/2100 ° 1242 P=Jor0 of =| 32 01 0/'%= lo a/2 1/2 0010 “rood oo 0 2 + La matriz P se obtiene de la matriz identidad intercambiando primero las filas 2 y 4 y luego las filas 3 y 4, P= PaaPoale = PasPoa Generalizacién ‘Suponga que en la eliminacién se intercambian las filas 1 con i,, 2 con i, ete. © Se define k = ix en caso que la fila kno se intercambie con ninguna fila Entonces, Si 71 es la matriz que se obtiene de A intercambiando las filas de modo que éstas queden en el orden final que se obtiene cen Ia eliminacién de Gauss, entonces al realizar el proceso de eliminacién de gauss en 7 no se requiere intercambiar filas $1 P= Pri Pq, entonces A— PA es la matriz que indo las filas 1 con i, fila 2 con en ese mismo orden. Por lo tanto para la matriz A= PA se puede realizar Ia eliminacién de Gauss sin intereambio de filas es decir A= PA=LU.Teorema 1. Sea A matriz de m x n. Entonces existen: Tabulacién de datos en PA = LU P matriz m x m de permutacién. L matriz de m x mi triangular inferior con 1's en la diagonal + U matriz de m x n escalonada (sin 1's en los pivotes) « La tabulacién de calculos es una extensién del método para A — LU que considera el intercambio de filas. tal que PA=LU ‘Ademas se tiene que * Se procede con la eliminacién tal como siempre. P= PrtiggPaigPiig €8 el producto de las matri permutacién’ elementales que se realizan en la eliminacién de gauss. Puesto que P = Plm, P es la matriz identidad con las filas intercambiadas con los mismos intercambio de filas que se realizan en el proceso de eliminacién de gauss de A. © Se anotan los multiplicadores ,,, en el lugar donde se hace el cero al restar 1. veces la fila K a la fila ¢. © En caso que se intercambie Ia fila Ia fila & con la ix en algiin punto de la eliminacién, se intercambian las filas completas, incluyendo los multiplicadores. Ejemplo 7. Caleulamos la factorizacién PA= LU de 2-13 1 4-210 A= Badd 1-3 0-1 7 Tenemos [2-13 2 1 1-210 2 2 311 43/2 5/2 -7/2 -1/2 1-3 0-1 1/2 5/2 -3/2 -3/2Por lo tanto PA = LU con Numero de Operaciones taco f 1 00 0) Sean 4, B,C,L,U,P © Myxns #,9,5 © R", donde L es triangular inferior pop,-|9 91° 100) con 1's en su diagonal, U es triangular superior y P matriz de permutacién o100 o10 > — 111 ze EE Nops = 2m ooo / T=AF wea Bi=12.7 Nops = on? CHAE Gad, = 12 ‘Nops = 2 2-1 3 1 Res. Lij web Thay Nops = (n—1)n va]? 9/2 72 -1/2 Pehaean 00 -5 32 a yr gag) He Der masdians sant o 0 0 0 Res. Uz isnnm-1,...,21 Bs Cale, PA = LU Nops = O(n) aciones PA=LU WW Cateular AS 1 Solucién de Az =b Note que Arab => (PA)x=Pbh— (LU)= Pb —, b Ge =P), ly= Po v Us=y Se calcula la factorizacién P/ Se resuelve Ly = Pb iil) Se resuelve = LU Para calcular A~1b se resuelve Ax = por el método ant NUNCA se calcula A~*, a menos que se quiera ver los elementos de ella Note que + el ntimero de operaciones que toma resolver Ly = Pb, Ux = y es 2n”, que es el mismo niimero de operaciones que toma calcular el producto Ab + el célculo de AW! es mucho mas caro que calcular la factorizacién PA = LU (adems de realizar las operaciones sobre A, hay que realizar las operaciones sobre la matriz identidad)MI Resolver AX = B Para resolver AX = hay que resolver Az, =6,, i= 1,2,.... Calcula Ia factorizacién PA = LU Para k = 1,2,...n se resuelven IV Resolver A?z = Note que PA = LU implica que APP = UTL? Pero, » Ly = Phe PT p OT. PE (P, Pa) Pits) ill) X = [raa--a, = (Phir Protigca) (Prong Pin) Un caso especial importante es el célculo de X ~ A~, que es la solucién = (Phir Protigea) (Proaina Phin) de AX = I. El algoritmo se puede optimizar evitando las operaciones por 1 cero al resolver los sistemas Ly = Pes, k= 1,2,....ne = PPh =I (Aqui ocupamos que P,P, =) Por lo tanto P* = P™ Entonces A” = U7 LP implica que UTLTPx=b UTy=6, LTPz=y UTy=b, z= yPx UTy=b, Lay, 2= PT: Meh tle El método para resolver AT = b es entonces Calcular la factorizacién PA = LU. Resolver Uy — 6 (sistema triangular inferior) Resolver L7z = y (sistema triangular superior) iv) Caleular x = P?z Ejemplo 8. Para Ja matriz determine a) La solucién de Ar =b donde b = (1, —1,1|" b) La solucién de AT: = donde b = (1, ~1,1|* ¢) Sélo Ia tercera columna de A~* d) Sélo la segunda fila de A * ©) Sélo el elemento (1,1) de ASoluci6n: 2.4 f2 411] 2 1 1) -2 -2 0 {—+)-1 -1 1 js] -1 1 1 [as 2] 12a 4) [2 a] —1]?.La solucién de Uz = y es a) La solucién de Ly = Pb es y = [1 inde Ax = 5 es x = (1/6,1/3,1/3)" = [1/6,1/3, 1/3)” Entonces la solu b) La solucién de U?y = 5 es y = /1/2,3/2,1/3]"La solucién de L72 = y es 2 = [5/3,11/6,1/3]".Entonees la solucién de AT = b es 2 = P* 5/3, 11/6, 1/3)? €) La tercera columna de A! es la solucién de Az = es = (0,0,1/? Como la solucién de Ly = Pes es y= (0,0,1|" y la solucién de Uz = y ° 244 es x = [1/3,—1/3,-1/3]” tenemos que la tercera columna de A? es o| u-lo r=2=[1/3,-1/3,-1/3 1) 0 4) Como (47)? = (A~) tenemos que la segunda fila de A? es .... la €) Primero observamos que Ai,: = ¢7 Ae: por lo tanto el elemento (1.1) de transpuesta de la segunda columna de (A")~',que es igual a... la B= Aes transpuesta de la solucién de A” =e; = [0,1,0)" =P Aey La solucién de UTy = e2 es y = [0,—1,-1/3]" Pero A = PTLU y entonces A! = U~'L"'P.En este caso P = I, por lo que A} = UL"! Entonces debemos evaluar la expresin La solucién de 172 =y es 2 = |-2/3,—4/3,-1/3)" b= e2UL-1e,Pero Entonces la segunda fila de A! es [-2/3, -4/3, -1/3] ny = FUL es = (U7 YPe)"E Ae) = 2% -y, donde Ux =e, Ly =e La solucién de UT: = ey es x = (1/2,1/2,1/3]?-La solucién de Ly = e1 es y = (1,1,—1)7.E1 elemento (1,1) de A~' es entonces el producto punto entre xe y, que es igual a by 1 — 2/3.Matrices Diagonales Las siguientes matrices son diagonales: re oo -1 00 srawaoanon | 2 38) = siaat-2.3.0 = | 3 ‘| ooo4 ooo Definicidn 1. La matriz A de nxn se dice diagonal si A, = 0 para i Fj, es decir, los elementos fuera de la diagonal son iguales a cero. La matriz D = diag(ds,dz,...,dy) denota a la matriz diagonal con D, Las matriz identidad y la matriz nula de n x n son mat 3 diagonales. Las siguientes propiedades son muy sencillas de verificar y su demostracién queda propuesto como ejercicio. Propiedades Proposicién 1. Sean D = diag(dy,da,...,dy)) F = diag( fi, fay--0sSn) ¥ escalar entonces: 1- D+F, a son diagonales. 2 DA es Ia matriz quo so obtione multiplicando Ia fila i de A por dj, fade () 3.- AD es la matriz que se obtiene multiplicando la columna i de A por 4, 8=1,....n-(2) = diag(ds fi, dafay---s dof) 5. D tiene inversa sii d, #0 para todo i y D™! = diag(1/ds, 1/d2,...1/4q) DA es la matriz que se obtiene multiplicando Ia fila i de A por 4, hoo OPA] fad 0 d o o aA, a 0 iLO] aa, ® 0 6 AD es la matriz que se obtiene multiplicando la columna i de A por d; ao ° a o ° a Aaa fa ‘4 ) |= faa aa oo ° @Matrices Triangulares superiores Las siguientes matrices son triangulares superiores “447 O24 4 A=| 0-1-4} B=/} 3 3 0 0 -2 008 lg Definicién 2. La matriz A de nxn se dice triangular superior si A,,; =0 parai>j. ‘Toda matriz diagonal es también triangular superior Propiedades Proposicién 2. Sean U, V son matrices triangulares superiores de nxn ya escalar, entonces: 1- U4V, aU son triangulares superiores 2. UV es triangular superior. Si U y V tienen unos en la diagonal entonces UV también tiene unos en la diagonal. 3. U tiene inversa si y sélo si Uy, #0, i= 1,....0. 4. U~' es triangular superior (cuando existe). Si U tiene unos en la diagonal entonces U- también tiene unos en la diagonal. Demostracié: L.- La demostracién es trivial 2. Si U , V son triangulares superiores entonces (UV),,, es el producto punto de la fila i de U con la columna j de V (OV) .5 = (Os. 0, tis ta c2ts e+ tin) siids y por lo tanto UV es triangular superior. Si U, V tienen unos en la diagonal entonces WV).5 OAs uiasass eset) y por lo tanto UV tiene unos en la diagonal. 3.- Usamos la siguiente propiedad: A tiene inversa sii la escalonada de A tiene n pivotes distintos de cero. Siw; #01=1,...,n entonces U ya esta en forma escalonada y tiene sus n pivotes distintos de cero, que son los elementos de la diagonal de U, y por lo tanto U tiene inversa.Siu; = 0 para algiin i, entonces la escalonada de U’ tendria por fo menos Por ejemplo, tuna fila nula y por lo tanto no habrian n pivotes distintos de cero y por lo tanto U no tendria inversa. 1 4-2/1 00 1 40/102 [: i ‘fere] = [8 toot a 4. Si U es triangular superior y la diagonal de U” tiene todos sus elementos 9 9 1Jo01 9 a ljo01 ‘no nulos 10 0/1 4 18] >» Jo 1 ofo -1 4 entonces la matriz ampliada [UJ] se puede Mevar a la forma [I|X' ooijfo o 1) multiplicando la fila i por 1/0 1 = 1, de filas i a filas j con i> j ny luego sumando miiltiplos por lo tanto ta matriz X = U-! resulta triangular superior. Si U tiene unos en la diagonal entonces sélo es necesario restar miltiplos de filas i a filas ) con i > j y por lo tanto X tiene también unos en la diagonal. por lo tanto También, Por lo tanto : 9 1-4 4] _jora o oo 1 oor a 0 0 0 4 Looo 1 Contrariamente a lo que muchos alumnos creen, la inversa de una Loa Lo 2 ae 5 triangular con unos en Ia diagonal NO se obtiene cambidndole el signo a bol ea tot te los elementos fuera de la diagonal, oo 2 oo 2 oa dD 0 0 do 0 poo1) 1-1 2 1-1 0 of 0 -2 19 w feo. na o 10 ofor 4 0) oo 0 o 1 ofao 1 oo 0 o ao ifoo o 4Triangulares inferiores Las siguientes matrices son triangulares inferiores: 20 00 . ° o2 oof ,_| 5 ° 21-40 a 3 os 41 Definicién 3. La matriz A de nxn se dice triangular inferior si A, = 0 para i < j, es decir, cuando A’ es triangular superior. ‘Toda matriz diagonal es triangular inferior y triangular superior. Aes triangular superior (inferior) < AT es triangular inferior (superior) Propiedades Proposicién 3. Sean L, M son matrices triangulares inferior de n xn, entonces: L- L+M, aL son triangulares inferiores 2 LM es triangular inforior. Si L y M tienen unos en Ia diagonal entonces LM también tiene unos en la diagonal. L tiene inversa si y sélo sil, #0, 1 ne 4 L~* es triangular inferior (cuando existe). Si L tiene unos en la diagonal entonces [-~* también tiene unos en Ia diagonal. Demostracié: Las propiedades para matrices triangulares inferiores se pueden deducir de las propiedades de matrices triangulares superiores ocupando las propiedades de transpuestas, inversas y productos de matrices. Por ejemplo, 1: = (L7)" =u" y entonces L-? = Por lo tanto, L tri inferior implica U — L” triangular superior y por lo tanto (7)~! es triangular superior yentonces L~? = ((L7)~*)* es triangular inferior. Las demostraciones restantes quedan propuestas como ejercicio. Submatrices Principales Las submatrices principales principales de 1 x 1, 2x 2, 3x3 de 1203-2 e110 a=] S21 87 gana 10 0 4 ; -1202) son 12 an | aa| os. a an [3i 2 Definicién 4, La submatriz principal Ay de una matriz A de nxn es Ia matriz k xk, k= 1,2,-...n con (Ani = Aig 1SESK LSGSK Ay se obtiene de A eliminando las filas y columnas k + 1,k-+2,....nNote que en la factorizacién tra manera de ver: 2 1021 1 0 0 o]f21 04 aa|7? 72 2 1 0 ojo -12 -1 Factrzacion y (~ Fectoizacén ly 4 1 1 1 0ffo o 1-1 ela 43 -4 2 2-1 -21]}[0 0 0 -3 Ay = 2] = 2] =u, 1 a-[? rolf2 1 )ipy : 2-2 1aijlo-a 2 1 0 1 0 o]f2 1 0 > As -2 2 1 o}fo -1 2|=205 ‘setrizacion, Fectozacénl, Factzacén y= 4 403 41 2 -11J}[o0 04 * En el producto LU, debido a los ceros sobre ia diagonal de i, al eliminar las filas y columnas £41, +2,....n de L y de U se obtiene Ay, es decir Al hacer ceros bajo el pivate 1 se factoriza en el "camino" a la submatriz Ay = Live. principal Ay y se tiene Ai = Li Us. Proposicién 4. Si A= LU entonces Ay = Ly Uy, donde Ar, Li, Uy som Jas submatrices principales de A, I. y U respectivamente Demostracién: Es consecuencia de las observaciones anteriores Teorema 2, (Pivoteos Forzados) Sea A matriz invertible de n xn. 1~ Si cada submatriz principal Ax, k= 1,2,...,n es invertible entonces A se puede factorizar A= LU (sin intercambio de filas) 2.- Si cada submatriz principal A, , i= 1,2,...,k 1 tiene inversa y se pivotea sin intercambio de filas hasta el pivote k~ 1 y la submatriz principal A, no tiene inversa, entonces en el pivoteo k-ésimo es necesario realizar un intercambio forzado de filas. Demostracién: 1. Si Ay tiene inversa entonces a;,1 # 0 y entonces se puede hacer ceros bajo el elemento 1,1 sin intercambio de filas. Como Az es invertible la matriz resultante del primer pivoteo debe tener un elemento no nulo en la posicién 2,2. Entonces se puede pivotear en 2,2 sin intercambio de filas y hacer ceros bajo 2,2 en la segunda columna. Como A; es invertible Ia matriz resultante del segundo pivoteo debe tener un elemento no nulo en la posicién 3,3. Entonces se puede pivotear en 3,3 sin intercambio de filas y hacer ceros bajo 3,3 en la tercera columna etc... Por induccién se demuestra que se puede proceder con la eliminacién de {gauss sin intercambio de filas quedando el pivote k-ésimo en el elemento kk2. Si cada submatriz principal A, , i = 1,2,...,k—1 tiene inversa entonces se puede realizar Ia eliminacién de gauss en A sin intercambio de filas hasta el pivote & Sila submatriz principal Ay no tiene inversa entonces su escalonada tiene tuna fila nula, y por lo tanto la matriz C que resulta después del pivoteo k— 1 tiene el elemento k, igual a cero Como A es invertible, la columna k-ésima de C’ debe tener algtin elemento no cero bajo el elemento fk Ejemplo 9. Construya una matriz A de 4x 4 tal en la factorizacién PA = LU se requiera un intercambio de filas forzado para el tercer pivote. Solucién: Construimos una matriz A de 4% 4 invertible que tenga submatrices principales A1, Az invertibles, pero Ay no invertible: 1122 1122 1122 (Pues si no, el pivote & quedaria en la columna +10 superior, por lo 132° i tooo. rr ue Ia escalonada de 4 tendria una fila nula, lo que contradice que A a= |} Fysf) Fo ofaye tbe tiene inversa). 7 ae P33 3 P38 oS Entonces para pivotear en el elemento k,k es necesario un intercambio 112 2) J. a 2 2 forzado de filas. , {i io offi too 12-2 = 1-2-2 -2 210 if [2 to 4 Entonces PA= LU, donde P = Py. 1 000 14 2 1 100; ,_Jor ° 1-210] "=|o 0 -2 -2 2 101 00 | Teorema 3. Si A es invertible entonces Ia factorizacién A — LU es tinica (cuando existe con P = I). Es decir, si es A invertible, A = 1,U; = LV donde L, son triangulares inferiores con 1's en Ia diagonal y U, triangulares superiores, entonces Li = L2, Us =U: Demostracién: $i A es invertible entonces U,, U2 tienen inversas (son triangulares con elementos en la diagonal no nulos). Entonces, de 4 = L:U = L2U/2 obtenemos Ly'L; = UU. Como 1, son triangulares inferiores con 1's en la diagonal, [:;'1, es triangular inferior con 1's en la diagonal Como Ui, Uz son triangulares superiores y U; es invertible se tiene que AU; es triangular superior. Entonces = Lj", = UsUy? es ala vez la diagonal y triangular superior. ;ngular inferior con I's enPor fo tanto C= I, es decir 154k, = UsUz? = I, de donde Ly = La, Factorizacién A = LDL" para A simétrica Ur =U. Estudiamos Ia factorizacién A= LU para matrices simétricas: Simétrica 47 nt = 20 3 130 2-16 2 2 24a1aljoais 3s afP sP}3s 13 6 ayy] Lo aoe Simetica Para esta matriz tenemos entonces Proposicién 5. Si A es simétrica de nxn y al pivotear en a: se 1 0 00 20 00 pz -46 transfor Aon C= [ “8 | donde B es de n—1xn~1 entonees Peep pepe wet peas Bes simétrica. ° [-1 a 24 lo 0 02) oo 0 Demostra Note que U = DLT, D = diag(t’) ess ary— Mary 2545S 2-46 -2 2 0 oo]f1 -2 3 a 0-11 -3 o -100}//o 1 -1 . 54 = 05,—- Pay, 2U)TDLT pues D7 = D = LW: donde [= (D~!U)", es triangular inferior con 1's en la diagonal y U = DL™ es triangular superior. Formas Cuadraticas Definicién 5. Si Aesdenxny #= (m,22).-.,2n)7 €R” decimos que Az -(@) es una forma cuadrética en las variables 2,23 Note que © F(Z) es escalar, es decir F =" > R. 24 e='o Un problema fundamental asociado a una forma cuadrat es su clasificacién de acuerdo a si su signo es constante © no: # A Definida Positiva BT AE>O paatZd Es decir, F tiene un minimo estricto en Z = a7 AZ>O parazeR” Es decir, F tiene un mi © (no estricto) en #‘© A Definida Negativa BAZ 0, J AGto al [eenteg] ay(aa 2+ 012 22) + a(a2,1 #1 + 42,2 22) = ay ef tae m1e2 + a2, e221 +0227} = ay af+(aye+ana) amt are ed Observe que 1122 aparece dos veces: a,27122 + 42,122") = (a1,2-+a2:)2120 Para cualquier matriz 2 = (,,;) de 2x2 tal que basa, bea aya tar. se tiene que # BE = 27 Az. En particular para AAT | am az [ou aaa tenemos PRE = baAthhathaanthed 13 29+ (an2 + a.) e182 + aa 23 = @ AzEjemplo 10, af+3n22-22} = Formas Cuadrdticas: A de 3x 3 Para cualquier matriz B = (b,,) de 3x3 tal que ¥ por lo tanto bs = asin bij + bj4 = aay + a4 (ara ex 3) se tiene que a” BE = @" AZ. En particular para B = 4+ tenemos 3. Ata’ [zs a. aus a3 a 2Ejemplo 11, whe Sete 2eiey + aft ryty +22 = (2) G8 a ]'f i 32-1 = |x) |3 1 12] | 2 |= Be as} [-1 12 2 J Las Note que en todos los casos 4 By Bes simétrica Formas Cuadréticas: ou [EPP Law} Lon ana Adenxn + aj,)xiz) Note ademas que 2” AZ es de 1x 1 y por lo tanto entonces La siguiente formula es una generalizacién de Ia identidad (© + y)? 2 aye para z,y €R Ella expresa el producto en términos de cuadrados. Lema 1. (Férmula Polar) Si Bes simétrica entonces +o" BE+H -~eBE- BT rr Bg para #7 eR" Como caso particular, para B = I, como #7 — |\z|/?, se obtiene al? = el = lvl? 2 OO para ZF ER",Demostracié de donde oT Re (= \'B(z + 9) — & Be ~ 7 BF (+97 (Be+ BH a” Bg= CADRES DBE TPE = (+ 9")\(BE+ BY) = i (Bz+ By) +i (BE+ BD = @Be+Bg+ P BE+ PBT Pero Z By es de 1x 1 y BT = B, por lo tanto # Bg = (a BD) = "BT Entonces, (24+ 9 B(E+ 9) =e Be + 227 BG + BG Proposicién 7. Sea A de nx n entonces 1 PAF = Dn ees 3.- Existe una tinica matriz simétrica B tal que P(@) = 87 AZ a7BZ para todo Ze R™ y B= 44 Demostracién: Sélo resta demostrar la unicidad de B en 3). Supongamos que existen matrices simétricas B,C tales que () a Be=z"C# para todo Z ¢ R" Debemos demostrar que B = C. Por la férmula polar tenemos que para Z,7.< R” pg — ELDBErH~ MBE HB @ratee+D 2 = 270% (por férmula polar) vcr EEE por (4) Entonces #7 By = 7 canénicos 2 = 6, j ‘Ci para todo Z,7¢ R". En particular, para los vectores = 6, tenemos by = eT Be, = Por lo tanto # = C. De ahora en adelante identificamos a una forma cuadritica F(Z) con la tinica matriz simétrica B tal que F(Z) = 2°82, zeR"Ejemplo 12, Escriba la forma cuadrética siguiente como F(z) =z" Bz, donde B es simétrica. F (23,22) 25,24) = Bat + Beyaz + 2124-4 xf — Dyes + dot Recordemos que las formas cuadraticas se clasifican de acuerdo al comportamiento de su signo. Ase 1. definida positiva si Z7AZ > 0 para z #0. Solucin: 232 0 1/2) [2] 2. semi definida positiva si 27AZ > 0 para @ € © 32 1 0 0 || as F@=[1 om “| oe =| [=| 3. definida negativa si 2°42 <0 para 246 2 0-4 aiia 4h semi definida negativa si 2742 <0 para ZR" 25/2 0 1/2 pe| 3? fa 0 (a 5. indefinida si existen Z, 7 ¢ R” tales que Z7AZ <0, fA >0. 00 0 2 0-1 4 in de Formas Cuadraticas Proposicién 8. * Acs negativa definida sii —A es positiva definida + Aces semi negativa definida sii —A es semi positiva definida Demostracién: La proposicién es el resultado inmediato de la identidad a? (—A)e = a7 Az Note que si D = diag(d, ds, ‘es una matriz diagonal entonces alfa o o)fe ap fal loa- olf 00 | fen = Yad Por ejemplo, sid, > 0,4 = 1,2,...n entonces MDe=dat>o sizzs y la matriz D seria positiva definida. Ademés, si 27D > 0 para todo7 CR", se tendria necesariamente con que Entonces D es positiva definida sii d, > 0, ¢ = 1,2, 0 < DE = DE = Sod? = demuestra la siguiente proposicién (0,...51,+.+)0)(un 1 en el elemento i-ésimo) .n El mismo argumento Proposicién 9, Sea D = diag(d, dz, ) matriz diagonal. Entonces 1» D es definida positiva sii d; > 0, i= 1,2,....0 2 D es semi definida positiva sii d, > 0, i= 1,2,.... 3.- D es dofinida negativa sii d; <0, i= 1,2,.... 4 D es semi definida negativa sii d, <0, t= n 5.- D es indefinida sii existen i, j tales que d; <0 y dj >0 ° ° 3 es definida negativa, Ejemplo 13, D nT [2 | |o zs} [o Similarmente, 2 0 0-4 0 0 200 040 000 os indoinia 0 es (simétrica) positiva definida pues at dabtat > 0 si Z = (x1,2y 04)" £5 Proposicién 10, Sea A simétrica definida positiva, entonces 1. A tiene inversa 2. Cada submatriz principal A, de k x k de A es simétrica definida positiva Cada submatriz de A que se obtiene eliminando las mismas filas y colurnnas de A es simétrica definida positiva. 4. Cada submatriz principal A, de A tiene inversa Demostracién: Ls Si_A no tuviera inversa, existiria #4 0 tal que Ad — 0, por lo que PAE \ y entonces A no seria definida positiva. Por lo tanto A definida positiva implica A tiene inversa.2. Es obvio que A simétrica implica A. simétrica. Sea z, RY #0, debemos demostrar que Z7A,z > 0. Sea z = (77,0,...,0]” © R” (completamos 2, con ceros para obtener un vector zen IR”. Entonces 40, pero ei =the OY Por lo tanto A; es simétrica definida positiva 3.- All poner un vector 2 con algunas componentes iguales a cero se obtiene que la submatriz C que se obtiene de A eliminando las mismas columnas y filas donde las componentes de 7 son cero cumple HCH, = FAE> 0ST ZG Entonces Ces positiva definida. La simetria de C’ es inmediata de la simetria de A. 4 Como la submatriz Ay es simétrica positiva defi esta proposicién A; tiene inversa + por la parte 1) de Teorema 4, Sea A den xn. Son equivalentes 1~ Aes simétrica definida positiva 2+ (factorizacién de Cholesky sin raiz cuadrada) Existen + L triangular inferior con 1’s en la diagonal, © D= diag(ds,dz,...,dy) matriz diagonal con d, > 0, i= 1,2,....n tal que A=LDL™ 3.- (factorizacién de Cholesky con rafs cuadrada) Existe R triangular superior invertible tal que A=R'R Demostracién: 1) implica 2) Si A es simétrica positiva definida, entonces cada submatrz principal A; de A es invertible y por lo tanto se puede realizar eliminacién de gauss sin intercambio forzado de filas y A= LU. Como A es simétrica, se tiene U = DL", y entonces A — LDL". Falta demostrar que la diagonal de D es positiva. En general, para Z + 0, realizando la substitucién = 172 ebtenemos Eligiendo 7 = &,, es decir para Z = (L7)~*2, 46 tenemos 0< # Az = Da = dy Entonces la ygonal de Des positiva, y por lo tanto 1) implica 2)2) implica 3) Supongamos que A — LDL" con d, > 0. Definimos yD = diag VT, Vas,..., Vidz), Entonces VD VD = D, y podemos escribir A = LDL LvDvDi" = (LVB)((LVB)T)? = (LvB)(L(VB))? = RR donde R = (b(VD)". Como L: es triangular inferior y \/D es diagonal y ellas tienen inversas, R= (L(\/D)" es triangular superior y tiene inversa, 3) implica 1) Si A = RT R, donde Fes triangular superior invertible, entonces r RTR= A, por lo que A es simétrica. Ademés, a AZ a R’RE (Rz)" (RZ) = i ¥=|vIP>osiv=REZs. Pero 2 invertible, # # 6 implican i = Ri 4 0. Entonces 3) implica 1) La equivalencia entre 1) y 2) nos dice que Para A es simétrica A es positiva definida sii al realizar eliminacién de gauss en A sin intercambios de filas se obtienen pivotes positives Como A es negativa definida sii —A es positiva definida obtenemos también Para A es simétrica: A es negativa definida sii al realizar eliminacién de ‘gauss en A sin intercambios de filas se obtienen pivotes negatives Ejemplo 14. Sea (@1,22,25,24) = 2x? Sry 224 Sayzy— Azzy} 1022? 202945 > x224 + 12y?—Weyz4 + 172 © Clasifique a la forma cuadratica F(z) © Si es factible, determine las factorizaciones de cholesky con y sin raiz cuadrada de Ia matriz simétrica que Ia representa. © Escriba Ia forma cuadratica como Ia suma ponderada de cuadrados e indique el cambio de variables que diagonaliza esta forma cuadratica. Solucién: La forma cuadratica puede escribirse como F(z) = 2B, B simétrics 2-4 4-2 -4 10-10 8 4-10 1-6 2 8 -6 17 BeProcedemos con la eliminacién de gauss sin intercambio de filas. -4 Ww -10 8 4-10 1-6 ‘Como B es simétrica y al realizar eliminacién de gauss sin intercambio de filas y escalamientos de filas se obtienen pivotes positivos, B es positiva definida. La factorizacién de Cholesky sin raiz cuadrada es A = LDL" donde [2000] fo. oo00 0200 2 100 D= L= oo10 2-110 oo0o08 -1 02241 La factorizacién de Cholesky con raiz cuadrada de B es A = R™R donde R = VDT v2 0 0 0 1 o v2o0 0 ]}o 1 2 ~ ou 00 2 oo vajl[o o 0 1 Vi -2v3 2vB -v3] 0 vB -v2 2v2 po 0 | o 0 0 ve] El cambio de variables que diagonaliza la forma cuadritica, es 7 fi 2 2 1] py, — 222+ 225-24 we Aa |e] [tenting | mle[oo aa {/si-| Tata | uM oo o 1 ila 4 Con la substitucién j= L7z obtenemos Be = PLDITe= (278) D'LTD = Dy = dul + Qua tus + Suh = Day — 2g + 25 — 44)? +2 (ey — ry + Dey)? + (2g +24)? +32)Ejemplo 15. Sea F (24,22, 2) = 21 — 22,23 + Szyxy + Sa} — 22 + 2a? * Sies factible, dotermine as factorizaciones de cholesky con y sin rafz cuadrada de la matriz simétrica que representa a la forma cuadratica, + Escriba Ia forma cuadratica como Ia suma ponderada de cuadrados © indique el cambio de variables que diagonaliza esta forma cuadraitica. * Clasifique a Ia forma cuadratica F(z). Solucién: fo. 3 3 F(é)=27Be donde B=| -1 3 -1/2 [3/2 -1/2 2 Procedemos a realizar eliminacién de gauss sin intercambio de filas. 1-1 3/2 1-1 3/2 J B=-|-1 3-12! 5 | -1 2 [32-12 2 3/21 1a | 1-1 3/2 i re 3/2 1/2 —s/a Entonces la factorizacién de Cholesky de B es B= LDL, donde 10 0 1 00] o2 of r=|-1 10 21) 0 0 3/4 3/2 1/3 Por lo tanto donde f= L7Z, Es decir, al-l 224 3/2ey r+ 1/2ey Entonces a 2 a_3ya pe = tri 3 1 = (ei —2p+ 519) + 22+ 520) ( +5 (eat 529) Como la diagonal de 1) = diag(1,2, la forma cuadratica es indefinida. ene elementos de distinto signo, Por ejemplo, con ys = 1, yz = 0, y: = 0, © equivalentemente, 25 = 1, x2 = -1/2, 1m = —2 tenemos F(—2,-1/2,1) = -3/4< 0. En cambio, con con ys = 0, y2= 1, 11 = 0, 0 equivalentemente, 3 = 0, 22 = 1, 2 = -1 tenemos F(-1,1,0) =2> 0. La matriz B no tiene factorizacién real de cholesky con raiz cuadrada pues los elementos de la diagonal de D) no son positives.Note que la técnica que hemos utilizado para clasificar una forma cuadritica ha sido realizar un cambio de variables o substitucién y reducir el problema a la clasificacién de una forma cuadratica diagonal. Este proceso recibe el nombre de diagonalizacién de una forma cuadratica. EI siguiente teorema aclara la técnica de reduccién de la clasificacién de una forma cuadratica a la de otra, posiblemente mas sencilla de determinar. Teorema 5. Sean B,V matrices de nxn. Si V es matriz invertible, entonces © Bes simétrica sii V7 BV es simétrica + Sea B simétrica, entonces B y V7BV definen a formas cuadré con la misma signatura Para determinar la signatura de una matriz simétrica # se busca una matriz V invertible tal que clasificar a V"BV sea més simple de realizar. Demostrai in: Simetria Si B es simétrica, C= V7BV, entonces CT = (V™BV)? = V™BTV = V7BV y por lo tanto C ss simétrica, Si V es invertible, entonces B = (V-)"CV-? = WTCW, y por el lo ya demostrado, intercambiando los roles de 2,C, tenemos que C’ simétrica implica B simétrica. Entonces 13 es simétrica sii C = V™BV es simétrica Misma Clasificacién: Es el resultado inmediato de aplicar la substitucién g=Vz CH = a(V™BV)z = (VETB(VD) = BT Note que V invertible implica que z #6 Ejemplo 16. Demuestre que A es simétrica definida positiva sii A~) es simétrica positiva definida Solucién: Sea A simétrica definida positiva, Come (AW2)? = (AT)! = A? tenemos que A-? es simétrica. Ademés para Z 7 0 tenemos a Ag = aA AA- (Arara(ata =o Ag donde J = A~*0z = V2, con V = A~ es invertible. Entonces 4 y A~! tienen la misma clasificacién. Note que A~! = V y por el teorema anterior, A definida positiva implica A~! definida pos Hemos demostrado que A simétrica definida positiva implica A~> simétrica definida positiva. Poe este iiltimo resultado, tomando a 4 como A ', obtenemos que A! simétrica definida positiva implica (A!) ' = A es simétrica definida positiva.Ejemplo 17, Demuestre que + ATA es simétrica semi definida positiva + ATA es simétrica definida positiva sii Ker(A) ~ {6} (sii las columnas do A son Ii.) Ahora si Ker(A) = {0} entonces Az # 0 para # ¥ 0. Entonces por (2) tenemos que 2” A7A Z > 0 cuando 7 #0. Hemos demostrado que Ker(A) = {0} implica que ATA es simétrica definida posi Ahora, si ATA es definida positiva, entonces 0 < 27 ATA # = ||Az||? y por lo tanto Az #6 cuando #40. Es decir, Ker(4) = (0) Hemos demostrado que A’A es definida positiva implica que Ker(A) = Solucién; {6} Sea B = ATA. Entonces, BT = (AT A)") = AT(AT)?) = ATA = B, por fo que ATA es simétrica. Ademnés () 8 ATAB = (Az)"(Ad) = ||Az|? > 0 Por lo tanto A’A es simétrica semi positiva definida. Ejemplo 18, Demuestre que toda matriz simétrica definida positiva tiene diagonal principal positiva, pero existen matrices simétricas con diagonal positiva que no son definidas positivas. Solucién: iA es definida positiva entonces 27Az > 0 para #46. Tomando 7 = é obtenemos que «= é Ae, > 0. Entonces la diagonal principal de A es pos Construimos una matriz de 2 x 2 simétrica con A = LU, con la de U no es positiva, pero la diagonal de A es positiva. Esto es facil: a=[2i]o[o 3] Entonces los pivotes no son todos positives y A es indefinida, pero la diagonal de A es positiva. Note que NO toda matriz simétrica A se puede factorizar como A — LDLT. Ejemplo: o1 10 Esto sucede cuando A tiene submatrices principales no invertibles. A= En este ejemplo 4; = (21,1) no es invertible, por lo que es necesario un intercambio forzado de filas. La matriz A de este ejemplo es indefinida. Las matrices semi positivas © negativas definidas tienen submatrices principales no invertibles EI método visto, tal como est no se puede usar para clasificar matrices simétricas que tengan submatrices principales no invertibles La factorizacién de cholesky como esta permite clasificar a matrices definidas positivas o negativas.Permitiendo el “pivoteo por la diagonal” se puede adaptar el método a la clasificacién de matrices que tengan submatrices principales no invertibles. Este método no lo vemos en este curso. Desde el punto de vista numérico, la factorizacién de cholesky se puede calcular en forma numéricamente estable, es decir, el redondeo en las operaciones atitméticas de punto flotante no tiene mayor impacto en la precisién relativa de los resultados.