Chúng ta xác định một họ các ma trận hạng nhỏ bằng cách chỉ giữ các giá trị k đầu tiên:
Rõ ràng, hạng k, và khi k = r, chúng ta có = A. Xét dạng đầy đủ SVD đầy đủ của A, chúng ta có thể viết:
Vì vậy, A và có cùng các giá trị đơn k cao nhất của chúng, nhưng các giá trị đơn r-k còn lại của khác biệt r-k của đã được thay thế bởi các giá trị 0 trong . Các ma trận Ak đóng một vai trò đặc biệt trong việc xây dựng các mức giảm hạng xấp xỉ của ma trận gốc A.
Trong tập các ma trận N × M hạng k (k <r), ma trận B gần giống nhất với A trong chuẩn ma trận Euclide (hay Frobenius) là ma trận , tức là khoảng cách || A-B || được giảm tới tối thiểu qua các ma trận hạng k N×M khi B = . Khoảng cách ma trận nhỏ nhất là
và . Định lý này là một công cụ thiết yếu
37
Trong nhiều ứng dụng, các giá trị nhỏ nhất của ma trận A hạng r có xu hướng chia thành hai nhóm - giá trị lớn hơn và giá trị nhỏ hơn, chúng ta có thể nhóm các giá trị đơn r thành: . Trong các ứng dụng xử lý tần số, chúng ta nghĩ nhóm lớn các giá trị đơn xuất phát từ tần số mong muốn, và nhóm nhỏ phát sinh từ nhiễu. Thông thường, việc chọn giá trị k tách nhóm lớn khỏi nhóm nhỏ là khác nhau, nhưng đôi khi việc lựa chọn này rất thiếu chính xác và chúng ta có thể cần phải chọn nó sau các thử nghiễm và lỗi.
Thay thế ma trận gốc A bằng ma trận xấp xỉ hạng k của nó thường làm giảm chiều, làm giảm ảnh hưởng của nhiễu và tăng cường tần số mong muốn. Vì vậy, SVD được sử dụng để ước lượng ma trận, tách dữ liệu thành ước lượng tối ưu của tần số và các thành phần nhiễu. Giá trị của tham số quan trọng k được chọn để thỏa mãn:
Trong đó là các giá trị nhỏ nhất của ma trận A, ε là ngưỡng giảm hạng xấp xỉ của ma trận A.