1.

INTRODUCCIÓ

En aquest apartat veurem com factoritzar, una matriu A, com un producte de 3 matrius.
Aquesta descomposició rep el nom de “descomposició en valors singulars” (Singular Value
Decomposition – SVD) i es pot entendre com la generalització de l’anàlisi d’autovalors i
autovectors per a matrius no quadrades.

A = U ·Σ·V T

D’aquesta nova descomposició, veurem una primera explicació, sense entrar en detalls. Per a
aquells que vulguin aprofundir en el tema recomanen mirar la bibliografia ( 1).

La diferència principal amb la diagonalització d’endomorfismes (que ens permet expressar la

matriu associada com A = P·D·P −1 ) és que aquesta nova descomposició:

• Sempre existeix. És a dir, sempre serà possible factoritzar A d’aquesta forma.

• La matriu A pot tenir qualsevol dimensió (m x n)

En aquesta nova descomposició tenim:

• La matriu Σ és una matriu de mxn, diagonal:

Σ = diag (λ1 , λ2 ,Κ , λr ) on r és el mínim de mxn.
• La matriu U és una matriu de dimensions mxm.
• La matriu V és una matriu de dimensions nxn.
• Les matrius U i V són unitàries, és a dir:
U ·U T = I
V ·V T = I

1
Capítol 7 de “Mathematical Methods and Algorithms for Signal Processing”. Todd K. Moon & Wynn C.
Stirling. Ed. Prentice Hall
2. COM ES CALCULEN LES MATRIUS U,Σ i V.

= (1) = =

Si multipliquem per la dreta en (1) els dos membres de la igualtat per la matriu V:

= = ⇒ = (2)

Si multipliquem per l’esquerra en (1) els dos membres de la igualtat per la matriu UT:

= = ⇒ ( ) =( ) ⇒ = ⇒ = (3)

Fixem-nos en l’expressió (2):

= ⇒ ( ) = = = (3)

És a dir, ( ) = ⇒ é ( )

Per tant, les columnes de V són els VEPs de (ATA)

Fixem-nos ara en l’expressió (3):

= ⇒ = = = ( (2))

És a dir, ( ) = ⇒ ( )

Per tant, Les columnes de U són els VEPs de (AAT)

Per a finalitzar aquest apartat, podem dir també que els valors singulars de la matriu Σ són
les arrels quadrades dels VAPs no nuls de la matriu AAT (o bé els de la matriu ATA, ja que els
VAPs d’aquestes matrius coincideixen).
3. INTERPRETACIÓ I APLICACIONS DE LA SVD

• Sigui el producte de dues matrius = ∈ × de dimensions adequades, la

columna -èsima de la matriu es pot expressar com x = b , a on b és la columna
-èsima de la matriu . Interpretant com la matriu associada a una aplicació lineal ,
aleshores x ∈ ⇒ x ∈< a , a , … , a > , és a dir, les columnes de
pertanyen al subespai engendrat per les columnes de , i la columna -èsima de la
matriu son els coeficients de x referits a la base de formada pels vectors
a , a , … , a . Per tant, podem dir que el subespai columna de engendra el
subespai columna de , el que indiquem com ( )⊆ ( ) (notar que si és una
matriu nul·la aleshores ( ) = 0).

• Una de les aplicacions més interessants que ofereix la SVD és la reducció de rang de
dades amb mínima pèrdua d’informació rellevant. Com a exemple il·lustratiu, es pot
aplicar a la codificació eficient d’imatges, a on podem expressar una col·lecció de n
imatges amb una matriu de imatges de × definida com:

= x , x , x , x , x , x , x , x , x , …, …,x

A on cada imatge de la col·lecció (amb resolució de = × píxels) representa una

columna x de la matriu (p.ex. posant totes les columnes de cada imatge
concatenades en una única columna).

• Escrivim la descomposició de la matriu de imatges anterior amb la SVD amb l’equació

= Σ , a on ∈ × ,Σ∈ × i ∈ × . Observem que, segons el que
s’ha comentat anteriorment, les columnes de la matriu formen una base de
representació de totes les imatges de la col·lecció. D’altra banda, la columna -èsima
de la matriu Σ són les components de la imatge -èsima respecte aquesta base de
vectors columna de .

• La base de vectors columna de la matriu forma una base òptima per a compactar les
dades de la matriu de imatges. El mètode de reducció a rang de la matriu a partir
de la SVD es basa en escollir els vectors propis (columnes de ) associats als valors
singulars majors de la matriu , és a dir:
= Σ

A on Σ′ ∈ × és la submatriu de la matriu que conte els seus valors singulars

majors, ′ ∈ × és la submatriu de la matriu formada per les seves columnes
associades a aquests valors singulars, i ′ ∈ × és la submatriu de la matriu
formada per les seves columnes associades també a aquests mateixos valors
singulars.
• Observem que, assumint el cas que < i que la informació dels coeficients
respecte de la base de ′ s’emmagatzema en la matriu Σ ∈ × , el mètode
reduirà informació sempre que × > × + × = ( )
+ × .
• D’aquesta forma, ens quedem amb la informació de rang que millor representa la
informació original, obtenint un error de reconstrucció menor que qualsevol altre
 mètode d’aproximació lineal alternatiu. La capacitat de compactació del mètode
(habilitat per trobar un valor de prou petit tot assegurant un error de reconstrucció )
depèn de la naturalesa de les dades que formen la matriu original . En el cas de
l’aplicació de codificació d’imatges, per exemple, és preferible que la matriu estigui
formada per cares amb la mateixa escala i centre de gravetat que no per imatges de
cares de diferents grandàries i posicions (similitud de les dades major → capacitat de
compactació també major).
• En general, l’aplicació de la reducció de rang de dades s’engloba en el que es coneix
com l’anàlisi de components principals (PCA, Principal Component Analysis). No
obstant, existeixen altres aplicacions no menys interessants de la SVD, com és el cas de
la inversió robusta per a solucionar sistemes d’equacions incompatibles o
sobredeterminats (cerca de la solució – compatible – més propera a la desitjada), o bé
per a sistemes d’equacions compatibles indeterminats o subdeterminats (cerca de la
solució de mínima longitud o norma), per mitjà del que es coneix com la matriu
pseudoinversa notada com .

• EXEMPLE NUMÈRIC:
1 1 1 1
= = Σ
1 1 1 1
1 1 1 1
1 1 1 2√2 0 0 0 1 1 −1 1 −1
=
√2 1 −1 0 0 0 0 2 1 1 −1 −1
1 −1 −1 1
1 1 1 1
1 1 1 0 0 1 1 −1 1 −1
= Σ = 2√2 0 =
√2 1 1 0 0 0 0 2 1 1 −1 −1
1 −1 −1 1

Observem com ( ) =< (1 , 1) >⊂ ( ) =< (1 , 1), (1 , −1) >, i

1 1 1 1
d’altra banda Σ = √2 , per tant tots els vectors columna
0 0 0 0
de , que son iguals a (1 , 1) es poden expressar com (1 , 1) = √2 ×
(1 , 1) + 0 × ( (1 , −1)).
√ √

En aquest cas, tenim dos valors singulars = 2√2 i = 0, per tant escollim
= 1 i podem expressar (de forma exacta i no aproximada) la matriu original
tot quedant-nos només amb la primera columna de les matrius i , i la
submatriu de 1 × 1 de a és a dir:

1 1 1
= = Σ = 2√2 (1 1 1 1)
√2 1 2