- ĐỊNH NGHĨA: Phương pháp phân tích suy biến (singular value decomposition) được viết tắt

là SVD là một trong những phương pháp thuộc nhóm matrix factorization được phát triển lần
đầu bởi những nhà hình học vi phân. Phương pháp SVD sẽ tìm ra một lớp các ma trận xấp
xỉ tốt nhất với một ma trận cho trước dựa trên khoảng cách norm Frobenios giữa 2 ma trận.
Người ta đã chứng minh được rằng ma trận xấp xỉ tốt nhất được biểu diễn dưới dạng tích
của 3 ma trận rất đặc biệt bao gồm 2 ma trận trực giao (orthogonal matrix) và 1 ma trận
đường chéo (diagonal matrix).
- Ví dụ:

Cho ma trận Am×n ta có thể biểu diễn svd như sau:

Am×n=Um×p×Sp×p×VTp×n

 Um×p×Sp×p×VTp×n là 1 svd của ma trận A . Với Um×p, VTp×n là 2 ma trận trực giao và Sp×p là ma trận
đường chéo (trong 1 số trường hợp ma trận S không vuông nhưng vẫn gọi là ma trận chéo)

- Ban đầu mục đích của phương pháp này là tìm ra một phép xoay không gian sao cho tích vô
hướng của các vector không thay đổi. Từ mối liên hệ này khái niệm về ma trận trực giao đã
hình thành để tạo ra các phép xoay đặc biệt. Giờ đây, nó được dùng để giảm chiều dữ liệu
và là cơ sở của các phương pháp giảm chiều dữ liệu khác

- Phương pháp SVD đã được phát triển dựa trên những tính chất của ma trận trực giao và ma
trận đường chéo để tìm ra một ma trận xấp xỉ với ma trận gốc.

- Phương pháp này sau đó đã được ứng dụng rộng rãi trong các lĩnh vực như hình học vi
phân, hồi qui tuyến tính, xử lý hình ảnh, clustering, các thuật toán nèn và giảm chiều dữ liệu,
và đặc biệt đặc biệt hiệu quả trong các bài toán recommendation
- Ưu điểm:
+ Phân tích bằng svd sẽ làm giảm chiều dữ liệu nhưng không làm mất đi đặc trưng ảnh.
+ Được áp dụng cho ma trận bất kì không nhất thiết là ma trận vuông.
- Cơ sở toán học liên quan
*Trị riêng và vecto riêng của ma trận

Định nghĩa: Cho A là ma trận vuông cấp n trên trường số K. Giả sử có

số λ ∈ K thỏa mãn tồn tại vecto x ∈ Kn mà x≠0 thỏa mãn phương trình đặc trưng của
ma trận A:

Ax= λ x

Khi đó: - λ được gọi là giá trị riêng của A

- x được gọi là vecto riêng tương ứng với giá trị riêng λ
 Tính chất: - Mỗi vecto riêng có 1 giá trị riêng duy nhất
- Mỗi giá trị riêng có thể có nhiều vecto riêng
- Nếu =0 là giá trị riêng của ma trận A thì A không khả nghịch. Ngược lại, nếu
giá trị riêng của A khác 0 thì A khả nghịch.

- nếu λ là giá trị riêng của ma trận A thì λk là giá trị riêng của ma trận Ak
Cách tìm trị riêng và vecto riêng:
B1: Lập phương trình đặc trưng det(A- λ I =0)
B2: Giải phương trình đặc trưng. Tất cả các nghiệm của phương trình đặc trưng là trị
riêng của A và ngược lại.
B3: Tìm vecto riêng của A tương ứng trị riêng.

*Chéo hóa ma trận

Định nghĩa: Ma trận vuông A gọi là chéo hóa được nếu A đồng dạng với ma trận chéo.

Tức là tồn tại ma trận khả nghịch P sao cho P-1AP=D. Trong đó D là ma trận
chéo.

Điều kiện: Ma trận vuông An×n chéo hóa được khi và chỉ khi nó có n vector riêng
độc lập tuyến tính.

Cách chéo hóa ma trận:

Bước 1. Lập phương trình đặc trưng. Giải tìm trị riêng. Xác định bội đại số của
từng trị riêng.

Bước 2. Giải các hệ phương trình tương ứng với từng trị riêng. Tìm cơ sở của các
không gian con riêng. Xác định bội hình học của trị riêng.

Bước 3. Nếu bội hình học của một TR nào đó nhỏ hơn BĐS của TR này thì A
không chéo hóa được.

Giả sử hệ quả 2 thỏa, suy ra A chéo hóa được. Ma trận P có các cột là các cơ sở
của những kgian con riêng. Các phần tử trên đường chéo chính của D là các trị
riêng.