CƠ SỞ LÍ THUYẾT

1. Trị riêng vector riêng của ma trận

1.1Cơ sở lí thuyết
Định nghĩa: Cho AMₙ(K). Số 󠅩λ 0K được gọi là giá trị riêng của
ma trận A, nếu tồn tại vecto giá trị X 0 ≠0 sao cho AX0 = λ 0X0 Vector X0
được gọi là vector riêng của ma trận A tương ứng với giá trị riêng X0 .
Tính chất 1.
Mỗi vector riêng có một giá trị riêng duy nhất. Giả sử ma
trận A có vector riêng x ứng với hai giá trị riêng λ 1 , λ2 thì A x = λ 1 x = λ 2 x 
( λ 1−λ2 ) x =0  λ 1=λ2.
Tính chất 2.
Nếu x là vector riêng ứng với giá trị riêng λ của ma trận
vuông A thì k x cũng là vector riêng ứng với λ : A x = λx  A(kx ) =
λ (kx )

Tính chất 3.
Nếu λ là trị riêng của ma trận vuông A thì λ
n
là trị riêng của ma
trận A
n
.
Giả sử x là vector riêng tương ứng với giá trị riêng λ của ma trận
A, khi đó An x= An −1(A x ) = An−1 λx = λ A n−1 x=¿… = λ n x
Tính chất 4.
Gía trị riêng của ma trận vuông A là nghiệm của phương trình
det( A−λI ¿=0
Giả sử λ là giá trị riêng của ma trận A , khi đã tồn tại x≠0 mà A x
= λx  (A- λI ¿ x =0.
Đây là một hệ phương trình tuyển tính, hệ này có nghiệm x≠0
khi và chỉ khi det (A- λI ¿=0.
Tính chất 5.
Ma trận vuông A có giá trị riêng λ thì họ vector riêng ứng với λ
là nghiệm của (A- λI ¿ x =0
1.2. Các bước tìm trị riêng và vecto riêng của ma trận
Bước 1: Tìm giá trị riêng
+ Lập phương trình det (A- λI ¿=0
+ Tính định thức, giải phương trình
+ Tất cả các nghiệm của phương trình là tất cả các trị riêng của A
Bước 2: tìm vector riêng
+ Tương ứng với trị riêng λ 1. Giải hệ phương trình
(A- λ 1 I ¿ x=0
+ Tất cả các nghiệm khác 0 của hệ là tất cả các vector riêng của A
ứng với trị riêng λ 1.
+ Tương tự tìm vector riêng của A ứng với các trị riêng còn lại.
2. Chéo hóa trực giao:
2.1 Cơ sở lí thuyết
Định nghĩa 1. Ma trận AMₙ(R) gọi là ma trận đối xứng thực,
T
nếu A = A

( )
1 2 3
Ví dụ 1: Ma trận A= 2 5 7 . Kiểm tra thấy AT = A. Như vậy A
3 7 4
là ma trận đối xứng. Các phần tử của A đối xứng với nhau qua đường
chéo chính.
Định nghĩa 2: Ma trận A∈Mₙ(R) gọi là ma trận trực giao, nếu
A-1 = AT.
 -Từ định nghĩa ta có A.A-1 = A.AT  A.AT = I. Như vậy nếu
tích của A và AT là ma trận đơn vị I, thì A là ma trận trực giao.
Mệnh đề 1: Ma trận A là ma trận trực giao khi và chỉ khi họ
vector cột (hoặc họ vector hàng) của A là họ trực chuẩn.
Chứng minh
- Cho A là ma trận trực giao. Tức là A.AT= I. Để ý phép nhân hai
ma trận với nhau, ta thấy: hàng i của A nhân với cột j của ma trận AT ta
được phần tử ở hàng i và cột j của ma trận đơn vị. Cột j của AT là hàng j
của A.
Ta có: Ai*A*j= ¿10 ,, nếu i= j
nếu i ≠ j ¿

Suy ra họ vecto hàng của A là họ trực chuẩn.

Hoàn toàn tương tự, xét A.AT = I ta có họ vector cột của A là họ
trực chuẩn.
Sử dụng mệnh đề này để tìm một ma trận trực giác A cấp n tùy ý
như sau:
a) Trong Rn chọn một cơ sở E.
b) Dùng quá trình Gram-Schmidt (nếu cần), trực giao hóa E để
được cơ sở trực giao F.
c) Chia một vector hàng trong F cho độ dài của nó ta có cơ sở trực
chuẩn Q. Tạo ma trận A có họ vector hàng(hoặc họ vector cột) là
Q.
Khi đó ma trận A trực giao.
Ví dụ 2: Trong R3, chọn cơ sở E={ (1;1;1), (1;2;1), (1;1;2) }.
Dùng quá tình trực giao hóa Gram-Schmidt, ta được họ trực giao:
F={ (1;1;1), (1;-2;1), (-1;0;1) }
Chia mỗi vector cho độ dài của nó, ta có họ trực chuẩn:
 1 1 1
Q={ √3 ( 1; 1 ; 1 ) , √ 6 (1 ;−2; 1 ) , √2 (−1; 0 ; 1 ) }

Lập ma trận trực giao có họ vector cột (hoặc họ vector hàng) là Q:

( )
1 1 −1
√3 √6 √2
1 −2
A= √3 √6
0
1 1 1
√3 √6 √2

Định nghĩa 3: Ma trận vuông, thực A gọi là chéo hoá trực giao
được nếu A = PDP-1 = PDPT, với D là ma trận chéo và P là ma trận trực
giao.
Định lý 1: Cho A là ma trận đối xứng thực.
-Các khẳng định sau đây là đúng
1/ Trị riêng của A là các số thực.
2/ A luôn chéo hóa trực giao được.
3/ Hai vector riêng ứng với các giá trị riêng khác nhau vuông góc
với nhau.
Mệnh đề 2: Nếu ma trận A chéo hóa trực giao được, thì A là ma
trận đối xứng.
-Chứng minh:
Giả sử A chéo hóa trực giao được. Khi đó A= PDPT.
Suy ra, AT = (PDPT)T = (PT)TDTPT = PDPT = A. Hay A là ma
trận đối xứng.
Như vậy chỉ có ma trận đối xứng thực mới chéo hóa trực giao
được.
2.2. Chéo hóa trực giao ma trận đối xứng A
Bước 1: Tìm trị riêng của A.
 Bước 2: Tìm một cơ sở của trực chuẩn của từng không gian con
riêng.
-Để tìm cơ sở trực chuẩn của không gian con riêng E λk , ta theo các
bước sau:
a)Chọn cơ sở Ek tùy ý của E λk .
b)Dùng quá trình Gram-Schmidt (nếu cần) để tìm cơ sở trực giao Fk.
c)Chia mỗi vector trong Fk cho độ dài của nó ta có cơ sở trực chuẩn
Qk của E λk .
Bước 3: Kết luận.
Ma trận A luôn chéo hóa trực giao được. Tức là A= PDPT, trong đó
ma trận chéo D có các phần tử trên đương chéo là các trị riêng của A, họ
vector cột của ma trận trực giao P từ các vector riêng trong các cơ sở
trực chuẩn ở bước 2.
Ví dụ 3: Chéo hóa trực giao ma trận đối xứng thực:

A= −4(2 −4
17 )
Lời giải
Bước 1: Tìm các trị riêng của A
A có hai trị riêng là λ 1=1 , λ 2=18
Bước 2: Tìm cơ sở trực chuẩn của các không gian con riêng
-Ứng với λ 1=1
-Giải hệ (A- λI ¿ x =0  X=( 4 α ; α )T . Cơ sở của E λ là ( 4 ; 1 )T .
1

1 T
-Cơ sở trực chuẩn của E λ là √17 ( 4 ; 1 )
1

-Ứng với λ 2=18

-Giải hệ (A- λ 2 I ¿ X=0  X=( α ;−4 α )T . Cơ sở của E λ là ( 1 ;−4 )T .
2
 1 T
-Cơ sở trực chuẩn của Eλ
2 là √17 ( 1 ;−4 ) .

Bước 3: Kết luận:

Ma trận A chéo hóa trực giao được và A= PDPT, trong đó:

D= (180 01)

( )
1 4
√ 17 √17
P= −4 1
√ 17 √17
3.Phân tích SVD (Singular Value Decomposition)
3.1. Mục tiêu của phân tích suy biến SVD.
Phương pháp SVD sẽ tìm ra một lớp các ma trận xấp xỉ tốt nhất với một
ma trận cho trước dựa trên khoảng cách norm Frobenios giữa 2 ma trận.
Người ta đã chứng minh được rằng ma trận xấp xỉ tốt nhất được biểu
diễn dưới dạng tích của 3 ma trận rất đặc biệt bao gồm 2 ma trận trực
giao (orthogonal matrix) và 1 ma trận đường chéo (diagonal matrix).
Quá trình nhân ma trận thực chất là quá trình biến đổi các điểm dữ liệu
của ma trận gốc thông qua những phép xoay trục (rotation) và phép thay
đổi độ lớn (scaling) và từ đó tạo ra những điểm dữ liệu mới trong không
gian mới. Điều đặc biệt của ma trận đường chéo đó là các phần tử của nó
chính là những giá trị riêng của ma trận gốc. Những điểm dữ liệu trong
không gian mới có thể giữ được 100% thông tin ban đầu hoặc chỉ giữ
một phần lớn thông tin của dữ liệu ban đầu thông qua các phép truncate
SVD. Bằng cách sắp xếp các trị riêng theo thứ tự giảm dần trên đường
chéo chính thuật toán SVD có thể thu được ma trận xấp xỉ tốt nhất mà
vẫn đảm bảo giảm được hạng của ma trận sau biến đổi và kích thước các
ma trận nhân tử nằm trong giới hạn cho phép. Do đó nó tiết kiệm được
thời gian và chi phí tính toán và đồng thời cũng tìm ra được một giá trị
dự báo cho ma trận gốc với mức độ chính xác cao.
 3.2. Cơ sở lí thuyết
Singular Value Decomposition là ứng dụng nổi bật trong Đại số
tuyến tính. Bất kỳ một ma trận A nào với cấp mxn (không nhất thiết phải
là ma trận vuông), ta đều có thể phân tích thành dạng:
Am×n=Um×m∑m×n(Vn×n)T
- Trong đó: U,V là các ma trận trực giao,∑ là ma trận đường chéo
không vuông với các phần tử trên đường chéo σ1 ≥ σ2 ≥ … ≥ σr ≥ 0
= 0 = … 0 và r là rank của ma trận A. Lưu ý rằng mặc dù ∑ không
phải ma trận vuông, ta vẫn có thể coi nó là ma trận chéo nếu các
thành phần khác không của có chỉ nằm ở vị trí đường chéo, tức tại
các vị trí có chỉ số hang và chỉ số cột là như nhau.
Hình 1 mô tả SVD của ma trận Am×n trong hai trường hợp: m < n và m
> n. Trường hợp m = n có thể xếp vào một trong hai trường hợp trên.
+ TH1: m<n

+ TH2: m>n

Hình 1: SVD cho ma trận A khi: m<n (hình trên), và m>n (hình dưới). ∑ là
một ma trận đường chéo với các phần tử trên đó giảm dần và không âm.
Màu đỏ càng đậm thể hiện giá trị càng cao. Các ô màu trắng trên ma trận
này thể hiện giá trị 0.
 3.3. SVD thu gọn:
Viết lại biểu thức: Am×n=Um×m∑m×n(Vn×n)T dưới dạng tổng của các ma trận
rank 1:
A = σ1u1 v T1 + σ2u2 v 22 + … + σrur v Tr
Với chú ý rằng mỗi u1 v Ti , 1 ≤ i ≤ r là một ma trận có rank bằng 1.
Rõ ràng trong cách biểu diễn này, ma trận A chỉ phụ thuộc vào r cột đầu
tiên của U,V và r giá trị khác 0 trên đường chéo của ma trận Σ. Vì vậy ta
có một cách phân tích gọn hơn và gọi là compact SVD:
A = Ur Σr (Vr)T
Với Ur,Vr lần lượt là ma trận được tạo bởi r cột đầu tiên của U và V. Σr
là ma trận con được tạo bởi r hàng đầu tiên và r cột đầu tiên của Σ. Nếu
ma trận A có rank nhỏ hơn rất nhiều so với số hàng và số cột r≪m,n, ta
sẽ được lợi nhiều về việc lưu trữ.
Dưới đây là ví dụ minh hoạ với m=4, n=6, r=2.

Hình 2: Biểu diễn SVD dạng thu gọn và biểu diễn ma trận dưới dạng tổng các ma
trận có rank bằng 1.
3.4 Các bước phân tích SVD của một ma trận bất kì
 Bước 1: Xác định ma trận A(cỡ bao nhiêu) để tiến hành phân tích
SVD
Bước 2: Thực hiện chéo hóa trực giao : A A =¿Q D1 Q
T T

2.1 : Viết phương trình đặc trưng của A AT . Từ đó chúng ta sẽ tính

được các giá trị riêng của A AT . Viết được ma trận đường chéo D1 có các
phần tử là những giá trị riêng, ta vừa tìm được.(Lưu ý phải sắp xếp nó
theo thứ tự giảm dần)
2.2 : Tìm vector riêng của A AT . Từ đó ta tính được ma trận Q, các
cột của Q là các vector riêng của A AT .
Bước 3: Thực hiện chéo hóa trực giao A A
T
= P D2 P T .
 Tương tự các bước 2.1, 2.2 ta tính được P và D2.
 Chọn Σm xn bằng cách chọn ma trận cỡ tương ứng phù hợp với
D 1 hay D2.
Sau đó lấy căn bậc 2 của tất cả những phần tử đường chéo.
Bước 4: : Vậy phân tích SVD của ma trận A sẽ là :
T
Am x n = Qm xm Σ m xn ( Pn x n ) .
Nhận xét: Như vậy từ dữ liệu ban đầu, chúng ta có thể viết nó dưới
dạng một ma trận. Quá trình chéo hóa trực giao ma trận và ma trận
chuyển vị của nó, chúng ta được phân tích SVD. Trên cơ sở đó, ta có thể
dễ dàng ứng dụng chúng vào nhiều lĩnh vực khác nhau trong khoa học.
*Nguồn tham khảo:
- Đặng Văn Vinh, Giáo trình Đại số tuyến tính, NXB Đại Học Quốc Gia
TP. Hồ Chí Minh 2020).
- Aisha, 2019. Viblo. [Online] : https://viblo.asia/p/handbook-singular-
values-decomposition-va-mot-so-ung-dung-yMnKMOoml7P .
- Anon. 2017. Bài 26: Singular Value Decomposition. s.1.:Machine
Learning Cơ Bản : https://machinelearningcoban.com/2017/06/07/svd/.
- Steve Brunton. 2020. [Online] : Singular Value Decomposition (SVD):
Overview
Available at: https://youtu.be/gXbThCXjZFM.
- MIT OpenCourseWare. 2016 : Singular Value Decomposition (the
SVD)
Available at: https://youtu.be/mBcLRGuAFUk.