Kiến thức chuẩn bị
Ma trận
a) Định nghĩa 1: Ma trận một bảng gồm mxn số thực được sắp xếp thành m dòng, n cột và gọi là ma trận cấp mxn.
Trong đó aij là phần tử của ma trận nằm trên dòng i, cột j,
Các phần tử aii trong ma trận được gọi là phần tử nằm trên đường chéo chính Ma trận đơn vị, theo định nghĩa, là ma trận có tất cả các phần tử trên đường chéo chính bằng 1 và các phần tử khác bằng 0 Ma trận đơn vị có dạng đặc trưng như sau:
M M O M K c) Ma trận đường chéo Định nghĩa 3: Ma trận đường chéo là ma trận vuông có các phần tử nằm ngoài đường chéo chính bằng 0
Ma trận đường chéo có dạng
Ma trận dòng có dạng:
Ma trận cột có dạng:
Ma trận chuyển vị A T của ma trận A được định nghĩa là ma trận có các dòng là các cột của ma trận A, giữ nguyên thứ tự.
Ma trận trực giao
Định nghĩa 5: Ma trận vuông A được gọi là ma trận trực giao nếu
A A T =A T A = I Tính chất: a) Ma trận A a ij
là ma trận trực giao khi và chỉ khi ij 1
Ma trận trực giao A là khả nghịch với A -1 = A T Điều này có nghĩa là ma trận A trực giao khi và chỉ khi các vector cột và hàng của A tạo thành các hệ trực chuẩn.
Vec tơ riêng – Giá trị riêng
Định nghĩa 6: Cho A là ma trận vuông cấp n
• Đa thức bậc n của biến λ :
= (-1) n λ n + an-1 λ n-1 +….+ a1 λ 1 + a0 được gọi là đa thức đặc trưng của ma trận A.
• Các nghiệm của đa thức đặc trưng PA( λ ) gọi là giá trị riêng của ma trận A.
• Nếu λ là một giá trị riêng của A thì det (A- λ I) = 0 Khi đó hệ phương trình thuần nhất:
• Không gian của hệ (1) gọi là không gian con riêng của ma trận
A tương ứng với giá trị riêng λ
• Các vec tơ khác không là nghiệm của hệ (1) gọi là vec tơ riêng của ma trận A ứng với giá trị riêng λ
Các cơ sở tạo thành không gian riêng, tức là các vectơ tạo thành hệ nghiệm cơ bản của hệ (1), được gọi là các vectơ riêng độc lập tuyến tính tương ứng với giá trị riêng λ.
Chuẩn của vec tơ
Định nghĩa 7: Cho vec tơ x , chuẩn của x , kí hiệu là x được xác định là một số không âm thỏa mãn các tính chất sau: a)
0 x = khi và chỉ khi x=0. b) x x α = α với mọi α ∈ R c) x y + ≤ x + y
(Bất đẳng thức tam giác).
Chuẩn Euclide của vec tơ x được xác định như sau:
Chuẩn của ma trận
Định nghĩa 8: Cho ma trận A kích thước m n × , chuẩn của A kí hiệu
A là một số không âm thỏa mãn: a)
(Bất đẳng thức tam giác).
Cho A=( ) a ij mxn ta định nghĩa chuẩn F của ma trận A là
Ví dụ: Cho ma trận A 1 2 2
- Chuẩn 2 của ma trận: Chuẩn 2 của ma trận A là căn bậc 2 của giá trị riêng lớn nhất của ma trận A T A Ký hiệu là 2 ax
Hạng của ma trận
Định nghĩa 9: (Định thức con của ma trận)
Xét ma trận A=( ) a ij mxn
Ma trận vuông con cấp s của ma trận A được hình thành bằng cách lấy các phần tử giao nhau giữa s dòng và s cột, với s là số nguyên dương và thỏa mãn điều kiện s ≤ min(m, n).
Định thức của ma trận con đó được gọi là định thức con cấp s của ma trận A.
Định thức con cấp s của ma trận A được gọi là D Hạng của ma trận A được xác định bởi định thức con cấp cao nhất khác không của nó, được gọi là định thức con cơ sở của ma trận A.
Một ma trận A có thể có nhiều định thức con cơ sở đều có cùng cấp.
Hạng của ma trận A là cấp của định thức con cơ sở.
Ký hiệu hạng của ma trận A là rank (A) hay r(A).
Một số tính chất về hạng của ma trận:
( mxn nxl ) ( mxn ) rank A B = rank A nếu
( mxn nxk ) ( nxk ) rank C A = rank A nếu rank C ( mxn ) = n
Khai triển SVD của ma trận
Khai triển SVD của ma trận…
ĐỊNH LÍ 1: Với mọi ma trận bất kỳ, khi đó mọi giá trị riêng của ma trận đều không âm.
Gọi là giá trị riêng của ma trận và v là vec tơ riêng tương ứng với
Do λ là giá trị riêng của ma trận :
Như ta đã chứng minh trên mọi giá trị riêng của đều không âm.
Ta có định nghĩa và cách xác định của giá trị kì dị (singular) của ma trận A:
Trong đó λ i là các giá trị riêng của ma trận ĐỊNH LÍ 2 (Về sự phân tích SVD của ma trận)
Với mọi ma trận bất kỳ đều có thể phân tích dưới dạng:
Với U và V là các ma trận trực giao Ma trận ∑ được xây dựng:
Từ Định lí 1 thì ma trận A có các giá trị kì dị = , do ≥ 0 r : ≥ ≥ … > 0,
Ma trận V được xây dựng dựa trên các véc tơ riêng của ma trận Cụ thể:
Với các (i : 1 r ) là các giá trị kì dị của ma trận Đặt = A vi (i 1, …, r ) Từ đó ta xây dựng được ma trận U = [ … ] (m > r), trong đó các vec-tơ
1 , , r m u + u là hệ trực chuẩn được bổ sung vào các vec-tơ 1
Khi đó U là ma trận trực giao.
Với các ma trận U, , V được xác định như trên thì ta sẽ chứng minh:
Ta có: A = với i = 1, …., r và = 0 với i = r +1, r + 2, …, n
Ví dụ 1: Tìm khai triển SVD của ma trận
Ta tìm các giá trị riêng của ma trận
Giải phương trình det (A- I) = 0 ta được các giá trị riêng của ma trận là = 2,
Với mỗi giá trị riêng , giải phương trình (A - I)x = 0 ta được các vec tơ riêng tương ứng là:
Các giá trị kì dị của ma trận A là = = 1, = 0
Từ đó ta được ma trận 2 0 0
⇒ Phân tích SVD của ma trận A là
ĐỊNH LÍ 3 (Về dạng khai triển của phân tích SVD)
Mọi ma trận A có dạng khai triển:
A= +… + Với , , là các giá trị đã được nói đến ở Định lí 2.
Với ma trận A = U và , , … > 0 là các giá trị kỳ dị của A Khi đó: rank
Theo tính chất của hạng ma trận thì:
Rank(Ur)= rank(Ur Ur T) = rank( = r
Rank(Vr T) = rank(Vr T.Vr) = rank() = r
Rank (A) = rank (U ) =rank(Ur D.Vr T) (xem ở Định lí 3)
= rank (.Vr T) = rank () = r. ĐỊNH LÍ 5:
Cho ma trận A có, , … > 0 là các giá trị kì dị của A Khi đó:
CHỨNG MINH: Đầu tiên ta chứng minh tính chất sau: = với là ma trận trực giao và là vec-tơ bất kì Thật vậy,
Tiếp theo ta chứng minh: = với là ma trận trực giao và là ma trận bất kì Thật vậy:
Xét ma trận bất kì với SVD của nó là U :
= = (U là ma trận trực giao)
= = = (V là ma trận trực giao)
Ma trận nghịch đảo suy rộng…
Trong phần này, chúng tôi áp dụng khai triển SVD để xác định ma trận nghịch đảo suy rộng theo nghĩa Moore-Penrose Định lý 6 trình bày bài toán liên quan đến ma trận nghịch đảo mở rộng.
Với ma trận bất kỳ thì được gọi là ma trận nghịch đảo suy rộng của A nếu ma trận
Mọi ma trận A có phân tích SVD, trong đó ma trận V được xác định là ma trận nghịch đảo suy rộng của A Ma trận này đóng vai trò quan trọng trong việc tìm ra ma trận nghịch đảo mở rộng của A, giúp tối ưu hóa các tính toán liên quan đến ma trận.
Ví dụ 2 : Tìm ma trận nghịch đảo mở rộng của
Theo ví dụ ở Định lí 2 ta có:
Cho hệ: Ax = b với A là ma trận bất kì Với = thì nhỏ nhất và có độ dài nhỏ nhất.
Xét ma trận A bất kì có rank (A) = r và phân tích SVD của nó là
Ta viết y và c dưới dạng: y 1 2 y y
Ta có = = (do là ma trận trực giao)
Với mọi giá trị thì vẫn đạt giá trị nhỏ nhất Đặt = V 1
ta sẽ chứng minh min:
Với x’ bất kì khác thì x’ 1 1 2
(Định lí được chứng minh)
Ví dụ 3: Giải phương trình:
Khi áp dụng phương pháp cơ bản để giải phương trình, chúng ta nhận thấy rằng phương trình này không có nghiệm Do đó, chúng ta sẽ sử dụng Định lý 7 để tìm nghiệm tối ưu nhất cho hệ phương trình đã cho.
Tìm khai triển SVD của ma trận A:
Giải phương trình det (A T A - λ I ) = 0, ta tìm được các giá trị riêng λ của A T A: λ
Ta có các giá trị kỳ dị của ma trận A lần lượt là = 44 , và = 6
Ma trận nghịch đảo mở rộng A+
Chính là nghiệm xấp xỉ tốt nhất của phương trình đã cho.
Xấp xỉ ma trận
ĐỊNH LÍ 8: Cho ma trận A với dạng khai triển của phân tích SVD là:
Xét ma trận =+… + , ( k < r ) Khi đó: rank () = k CHỨNG MINH:
Ta viết về dưới dạng:
Từ (1), (2) ta có: rank) = k ĐỊNH LÍ 9: Giả sử A là ma trận cỡ m n × có rank A ( ) = r , và có khai triển kỳ dị SVD
Khi đó với mọi ma trận B có cỡ m n × và rank B ( ) ≤ k , ta có
Dấu bằng xảy ra khi 1 k T k i i i i
. CHỨNG MINH: Đầu tiên ta chứng minh bổ đề sau:
Giả sử A là ma trận cỡ m n × có rank A ( ) = r , và có khai triển kỳ dị SVD 1 r
Khi đó với véc tơ x bất kỳ, 1 ≤ ≤ k r ta có:
Theo khai triển kỳ dị SVD của ma trận A ta có
( ) u i là cơ sở trực chuẩn nên
(bổ đề được chứng minh) Trở lại chứng minh Định lí 8:
Giả sử ma trận B có khai triển kỳ dị SVD dạng 1 k T i i i
|| A B − || 2 F = Tr A B A B (( − )( − ) ) T = Tr AA ( T − AB T − BA T + BB T )
, do tính tuyến tính của hàm vết nên vết của tổng bằng tổng các vết, và ta có:
BB AB BA x y y x A y x x y A x x x y A Ay x Ay y A Ay y A x x y A Ay x y A Ay y A x Ay x y
A B Tr Tr x Ay x y A Ay Tr Ay
Tiếp theo ta đánh giá về số hạng
∑ = trong bất đẳng thức trên Theo Bổ đề trên ta có
, lấy tổng theo chỉ số j ta có bất đẳng thức
, với Y là ma trận trực giao có các cột là các véc-tơ
, thay vào bất đẳng thức (*) ta được
− = ∑ và lấy chuẩn ta được
Giả sử A là ma trận cỡ m n × có rank A ( ) = r , và có khai triển kỳ dị SVD 1 r T i i i i
.Khi đó với mọi ma trận B có cỡ m n × và rank B ( ) ≤ k , ta có
Dấu bằng xảy ra khi 1 k
Giả sử tồn tại ma trận B có rank (B) k và 2 < Vì rank(B) k nên tồn tại một không gian con W cỡ ( r – k) (W ) mà với w W thì Bw = 0.
Do đó với mọi w W thì Aw = (A – B)w và:
Vì vậy W là không gian con cỡ (r - k) mà
< (*) Mặt khác, lại tồn tại một không gian con cỡ (k +1) mà
(**) được xây dựng từ (k+1) giá trị kì dị đầu tiên của ma trận A Do đó tổng kích thước của hai không
Ứng dụng khai triển SVD trong xử lí ảnh
Phân tích SVD trong xử lí ảnh
Phân tích SVD (Singular Value Decomposition) có nhiều ứng dụng, đặc biệt trong việc hiệu chỉnh hình ảnh kỹ thuật số Phương pháp này giúp giảm lượng thông tin cần truyền mà vẫn giữ lại các thông tin quan trọng Mỗi điểm ảnh trong hình ảnh kỹ thuật số được biểu diễn bằng 3 giá trị màu (Blue, Green, Red) từ 0 đến 255 Đối với hình ảnh có kích thước 340 x 280 pixels, cần lưu trữ 285,600 giá trị Tuy nhiên, không phải tất cả thông tin đều cần thiết, và nhiều phần của hình ảnh có thể không cần độ nét cao Bằng cách sử dụng phân tích SVD, chúng ta có thể loại bỏ thông tin không cần thiết, ví dụ, hình ảnh 340 x 280 pixels có thể được phân tích thành 3 ma trận A, B, C, giúp tối ưu hóa việc lưu trữ và truyền tải dữ liệu.
Ma trận Ak, như đã chứng minh trong Định lý 8, là xấp xỉ tốt nhất được xây dựng từ k giá trị kì dị đầu tiên của ma trận A Cụ thể, với k = 20, ma trận Ak sẽ phản ánh dữ liệu của ma trận A dựa trên 20 giá trị kì dị đầu tiên Do đó, chúng ta chỉ cần lưu trữ các giá trị này để tối ưu hóa quá trình xử lý dữ liệu.
20 giá trị kì dị, 20 vec tơ ui, 20 vec tơ vi tương đương với 20+ 20280 +20340 12420 số Tương tự với 2 ma trận B, C thì số lượng các số phải lưu trữ là 124203
=37260 số Rõ ràng phân tích SVD đã giúp giảm lượng thông tin cần lưu trữ một cách đáng kể.
3.2 Ứng dụng Matlab trong xử lí ảnh
Trong ứng dụng này chúng ta sẽ hiệu chỉnh độ nét của một ảnh gốc theo tham số k tùy chọn Ảnh gốc kích thước 220x220
Chương trình trong Matlab: close all
Với các giá trị khác nhau của tham số k chương trình sẽ cho ra các ảnh hiệu chỉnh có độ nét khác nhau: k= 10 k= 20 k= 50 k0
Các hình ảnh được tạo ra từ giá trị k kỳ dị đầu tiên có thể có sai số so với ảnh gốc Hãy cùng khám phá sự khác biệt giữa ảnh hiệu chỉnh và ảnh sai số với các giá trị k khác nhau, cụ thể là khi k = 5.