Khai triển SVD và ứng dụng trong phân tích ảnh

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC GIAO THÔNG VẬN TẢI NGHIÊN CỨU KHOA HỌC SINH VIÊN Đề tài: KHAI TRIỂN SVD VÀ ỨNG DỤNG TRONG PHÂN TÍCH ẢNH Nhóm nghiên cứu khoa học: Vương Đình Tùng - Lớp XDCTGT tiên tiến K51 Trần Thị Hằng - Lớp XDCTGT tiên tiến K51 Phạm Anh Dũng - Lớp XDCTGT tiên tiến K51 Nguyễn Đình Khánh - Lớp XDCTGT tiên tiến K51 Giáo viên hướng dẫn: TS Trần Văn Long Hà Nội, 2012 MỤC LỤC Lời mở đầu………………….………………………………………………………3 Chương I: Kiến thức chuẩn bị 1.1 1.2 1.3 1.4 1.5 1.6 1.7 Ma trận……………………… ………………………………4 Ma trận trực giao……………………….…………………….5 Vec tơ riêng – Giá trị riêng…………………… …………….6 Chuẩn vec tơ……………………………………….…….7 Chuẩn ma trận………………………………………… Hạng ma trận…………………………………………… Vết ma trận……………………………….………………9 Chương II: Khai triển SVD ma trận 2.1 Khai triển SVD ma trận… …………………………………10 2.2 Ma trận nghịch đảo suy rộng….…………………………………15 2.3 Xấp xỉ ma trận……….……………… …………………………21 Chương III: Ứng dụng khai triển SVD xử lí ảnh 3.1 Phân tích SVD xử lí ảnh…………………….…………….28 3.2 Sử dụng Matlab xử lí ảnh…………………………………29 Kết luận………………….……………………………………………………… 32 Tài liệu tham khảo……………………………………………………………… 33 LỜI MỞ ĐẦU SVD (singular value decomposition) dạng khai triển ma trận có nhiều ứng dụng vấn đề liên quan đến nghịch đảo số hóa liệu Hiện phân tích SVD ma trận xuất nhiều ứng dụng thực tế tín hiệu số, tính giá trị xấp xỉ kĩ thuật, công nghệ thông tin, ứng dụng công cụ tìm kiếm websites Tuy nhiên, nghiên cứu lý thuyết liên quan đến SVD sinh viên vấn đề mới, chưa gần gũi chưa dễ hiểu cho sinh viên cần nghiên cứu mảng đề tài thú vị Do nhóm nghiên cứu khoa học với đề tài “Khai triển SVD ứng dụng phân tích ảnh” thực nghiên cứu nhằm mục đích đưa đến cho người đọc kiến thức khai triển SVD tạo nhìn tổng quan cách khai triển số tính chất, hệ quan trọng liên quan đến dạng khai triển Nội dung đề tài viết thành chương Chương trình bày số kiến thức sở ma trận Một số kết quan trọng khai triển SVD Định lý 3, Định lý 5, Định lý 6, Định lý 9, Định lý 10 trình bày Chương Trong Chương 3, với sở lí thuyết nhóm nghiên cứu vào ứng dụng cụ thể ứng dụng SVD kĩ thuật phân tích ảnh Nhóm nghiên cứu xin gửi lời cảm ơn chân thành đến thầy giáo, TS Trần Văn Long, Bộ môn Đại số - Xác suất thống kê, Trường Đại học Giao thông Vận tải nhiệt tình giúp đỡ, giải đáp thắc mắc cung cấp tài liệu để nhóm hoàn thành đề tài nghiên cứu Hà Nội, ngày 22 tháng năm 2012 Nhóm nghiên cứu khoa học sinh viên CHƯƠNG 1: KIẾN THỨC CHUẨN BỊ 1.1 Ma trận a) Định nghĩa 1: Ma trận bảng gồm mxn số thực xếp thành m dòng, n cột gọi ma trận cấp mxn Ký hiệu ma trận A =  a11 a12   a21 a22  M M   am1 am K K O K a1n  ÷ a2 n ÷ M÷ ÷ amn  , A=  a11 a12 a  21 a22  M M   am1 am K K O K a1n  a2 n  , M  amn  (a ) ij mxn A= Trong aij phần tử ma trận nằm dòng i, cột j, i = 1, 2, , m, j = 1, 2, , n b) Các phần tử aii gọi phần tử nằm đường chéo Ma trận đơn vị Định nghĩa 2: Ma trận đơn vị ma trận có phần tử nằm đường chéo 1, phần tử khác 0, có dạng sau: I c) = 1  0 M  0 M K K O K 0 ÷ 0÷ M÷ ÷ 1 Ma trận đường chéo Định nghĩa 3: Ma trận đường chéo ma trận vuông có phần tử nằm đường chéo Ma trận đường chéo có dạng D= d)  a11   a22  M M   Ma trận dòng, cột Ma trận dòng có dạng: X= ( a1 , K K O L a2 , K  ÷ ÷ M÷ ÷ ann  an ) Ma trận cột có dạng: Y= e)  a1   ÷  a2 ÷  M÷  ÷  an  Ma trận chuyển vị Định nghĩa 4: Ma trận AT ma trận A có dòng cột ma trận A (giữ nguyên thứ tự) gọi ma trận chuyển vị ma trận A T A = 1.2  a11 a21   a12 a22  M M   a1n a2 n K K O K am1  ÷ am ÷ M÷ ÷ amn  Ma trận trực giao Định nghĩa 5: Ma trận vuông A gọi ma trận trực giao A AT =AT.A = I Tính chất: a) Ma trận A =  aij  ma trận trực giao n ∑a k =1 ik  1, i=j a jk = δ ij =  0, i ≠ j b) Như ma trận trực giao A khả nghịch có A-1 = AT c) Mặt khác ta thấy ma trận A trực giao vec tơ cột hàng A tạo thành hệ trực chuẩn AT A = I = → A = ±1 d) 1.3 Ta có: Vec tơ riêng – Giá trị riêng Định nghĩa 6: Cho A ma trận vuông cấp n  a11 a12 a  21 a22  M M   an1 am A= Khi đó: • Đa thức bậc n biến λ M an1 λ O K a1n  a2 n  M  ann  : a11 − λ a21 λ K K PA( ) = det (A- I) = λ a12 K a22 − λ K M am O K a1n a2 n M ann − λ λ = (-1)n n + an-1 n-1 +….+ a1 gọi đa thức đặc trưng ma trận A • + a0 λ Các nghiệm đa thức đặc trưng PA( ) gọi giá trị riêng ma trận A • λ Nếu λ λ giá trị riêng A det (A- I) = Khi hệ phương trình nhất: λ (A- I)  x1   M    x2  = 0  M     (1) có vô số nghiệm • Không gian hệ (1) gọi không gian riêng ma trận λ • A tương ứng với giá trị riêng Các vec tơ khác không nghiệm hệ (1) gọi vec tơ riêng • ma trận A ứng với giá trị riêng Các sở tạo thành sở không gian riêng (tức λ vec tơ tạo thành hệ nghiệm hệ (1)) gọi vec tơ λ riêng độc lập tuyến tính ứng với giá trị riêng 1.4 Chuẩn vec tơ x x x Định nghĩa 7: Cho vec tơ , chuẩn , kí hiệu xác định số không âm thỏa mãn tính chất sau: x ≥0 a) x =0 và x=0 αx = α x b) với α ∈R x+ y ≤ x + y c) (Bất đẳng thức tam giác) Chuẩn Euclide: Chuẩn Euclide vec tơ x xác định sau: x E ( 2 n = x = x = x + x + + x 2 ) 1.5 Chuẩn ma trận Định nghĩa 8: Cho ma trận A kích thước m× n A , chuẩn A kí hiệu số không âm thỏa mãn: A ≥0 a) A =0 và A=0 αA = α A b) với α ∈R A+ B ≤ A + B c) (Bất đẳng thức tam giác) - Chuẩn F (Frobenius): A = ( aij ) Cho mxn ta định nghĩa chuẩn F ma trận A A Ví dụ: Cho ma trận A = A F = F  m n 2 =  ∑∑ aij2 ÷  i =1 j =1   −2   ÷  −1  12 + 22 + ( −2) + (−1) + 12 + 32 = 20 - Chuẩn ma trận: Chuẩn ma trận A bậc giá trị riêng lớn ma trận ATA Ký hiệu || A ||2 = λmax ( AT A) 1.6 Hạng ma trận Định nghĩa 9: (Định thức ma trận) A = aij mxn Xét ma trận Từ A ta lấy phần tử giao s dòng s cột ma trận thu gọi ma trận vuông cấp s A với s số ( ) s ≤ ( m, n ) nguyên dương Định thức ma trận gọi định thức cấp s ma trận A Kí hiệu: Di1ji12j is js gọi định thức cấp s A Định nghĩa 10: (Hạng ma trận) Định thức cấp cao khác không ma trận A gọi định thức sở ma trận A Một ma trận A có nhiều định thức sở có cấp Hạng ma trận A cấp định thức sở Ký hiệu hạng ma trận A rank (A) hay r(A) Một số tính chất hạng ma trận: - - rank ( Amxn Bnxl ) = rank ( Amxn ) rank (Cmxn Anxk ) = rank ( Anxk ) nếu rank ( Bnxl ) = n rank (Cmxn ) = n 1.7 Vết ma trận Vết ma trận vuông A bậc nxn xác định tổng phần tử đường chéo (đường nối từ góc bên trái xuống góc bên phải) A, n Tr ( A) = a11 + a22 + + ann = ∑ aii i =1 CHƯƠNG 2: KHAI TRIỂN SVD CỦA MA TRẬN Trong chương trình bày kết quan trọng khai triển SVD ma trận, số tính chất hệ liên quan 2.1 Khai triển SVD ma trận ĐỊNH LÍ 1: Với ma trận bất kỳ, giá trị riêng ma trận không âm CHỨNG MINH: Gọi giá trị riêng ma trận v vec tơ riêng tương ứng với || v ||= Dễ thấy: Av = ( Av)T ( Av) = vT AT Av Do λ giá trị riêng ma trận : ( – λ I) v = v = λ I v = λ v Av = λ = λ = = λ λ ≥ Như ta chứng minh giá trị riêng không âm Ta có định nghĩa cách xác định giá trị kì dị (singular) ma trận A: 10 T Giải phương trình det (A A - λ = 44, λ λI ) = 0, ta tìm giá trị riêng Giải hệ: (A A - T (A A - ⇒ V=       2 λ1 I λ2 I ATA: =6 44 Ta có giá trị kỳ dị ma trận A = T λ )x = ta v1 = )x = ta v2 =  ÷ ÷ ÷ − ÷ 2 ⇒ VT = , = 1/   ÷ 1/ ÷    1/   ÷  −1/ ÷   1/  1/  1/  ÷ −1/ ÷  Tìm ma trận U: = A vi ⇒ u1 = 1 1  ÷ ÷ 1/    ÷ 44  ÷ 1/ ÷    u2 = =           ÷ 88 ÷ ÷ ÷ 88 ÷ ÷ ÷ 88     1    1/    ÷ ÷ ÷=  −1/ ÷   ÷    3 3     ÷ ÷ ÷ 12 ÷ ÷ ÷ ÷ 12  20 ⇒ U=                   ⇒  ÷ ÷ ÷ ÷ 12 ÷ ÷ ÷ 12  88 88 88 88 88 88 ,  ÷ ÷ ÷ ÷ 12 ÷ ÷ ÷ 12   44 Σ=    44     ÷ 6÷    1/ ÷  6÷   1/ 1/  ÷ −1/ ÷  A= ⇒ Ma trận nghịch đảo mở rộng A+ 1/  1/    44  1/   ÷ −1/ ÷   ÷ ÷ 88 ÷ ÷  88 12  88 ÷ ÷ ÷ ÷ 12  A+ = =         88     88 88 88   12 ÷ ÷  88 ÷ − ÷ 12   37 264 −7 264 88 12  88 ÷ ÷ ÷ ÷ 12  43  264 ÷ ÷ −1 ÷ ÷ 264  = 21 = =   88     88 37 264 −7 264 = 43  264 ÷ ÷ −1 ÷ ÷ 264   2  ÷  3÷ 6÷    127   88 ÷  ÷  −5 ÷  ÷  88  Chính nghiệm xấp xỉ tốt phương trình cho 2.3 Xấp xỉ ma trận ĐỊNH LÍ 8: Cho ma trận A với dạng khai triển phân tích SVD là: A = +… + Xét ma trận =+… + , ( k < r ) Khi đó: rank () = k CHỨNG MINH: Ta viết dạng: = (,… , )  u1   ÷  u2 ÷ K ÷  ÷ u ÷  k Ta có: = (u T Lại có: u2T K urT ) = 22  u1   ÷  u2 ÷ K ÷  ÷ T u ÷ u  r ( Nên  u1   ÷  u2 ÷ K ÷  ÷ u ÷  k rank  u1   ÷  u2 ÷ K ÷  ÷ u ÷  k u2T urT K ) = = = rank = k (1) Xét rank (,… , ) (v T Ta có: (v T (σ v2T T 1 v v2T K K vnT σ 1v2T K ) vnT ) (v = v2 K ( vk ) σ 1vnT ) v1 v K = vk ) =  σ1   ÷ σ ÷  ÷  ÷ σ k  23 = Do rank σ1 0   ÷  σ2 0 ÷  ÷  ÷  0 σk  (v = rank σ1 0   ÷  σ2 0 ÷  ÷  ÷  0 σk  v2 K rank (,… , ) = k Từ (1), (2) ta có: vk ) =k (2) rank) = k ĐỊNH LÍ 9: Giả sử A ma trận cỡ m×n có rank ( A) = r , có khai triển kỳ dị SVD r A = ∑ σ i ui viT i =1 Khi với ma trận B có cỡ m× n rank ( B ) ≤ k , ta có k || A − B ||2F ≥|| A ||2F −∑ σ i2 i =1 k B = Ak = ∑ σ i ui viT Dấu xảy i =1 CHỨNG MINH: Đầu tiên ta chứng minh bổ đề sau: 24 r Giả sử A ma trận cỡ m×n rank ( A) = r có 1≤ k ≤ r x Khi với véc tơ bất kỳ, A = ∑ σ i ui viT , có khai triển kỳ dị SVD i =1 ta có: k k i =1 i =1 || Ax||2 ≤ σ k2 || x ||2 + ∑ σ i2 (viT x) − σ k2 ∑ (viT x ) (*) CHỨNG MINH: A Theo khai triển kỳ dị SVD ma trận ta có r r r i =1 i =1 i =1 Ax = ∑ σ i ui viT x =∑ σ i ui (viT x) =∑ σ i (viT x )ui Do (ui ) sở trực chuẩn nên r k i =1 i =1 || Ax ||2 = ∑ σ i (viT x) ≤ ∑ σ i (viT x) + σ k r ∑ (v i = k +1 T i x) Mặt khác, k σ k ∑ (viT x )2 + σ k i =1 r ∑ i = k +1 r n i =1 i =1 (viT x ) = σ k ∑ (viT x)2 ≤ σ k ∑ (viT x)2 = σ k || V T x ||2 = σ k || x ||2 Do đó, σk r ∑ (v i = k +1 T i x) ≤ σ k || x || −σ k 2 2 k ∑ (v i =1 T i x) Vậy 25 k k i =1 i =1 || Ax||2 ≤ σ k2 || x ||2 + ∑ σ i2 (viT x) − σ k2 ∑ (viT x ) (bổ đề chứng minh) Trở lại chứng minh Định lí 8: k Giả sử ma trận ( x1 , x2 , , xm ) B B = ∑ xi yiT có khai triển kỳ dị SVD dạng ( y1 , y2 , , yn ) hệ trực giao, Ta biết i =1 , hệ trực chuẩn || A − B ||2F = Tr (( A − B )( A − B)T ) = Tr ( AAT − AB T − BAT + BB T ) , tính tuyến tính hàm vết nên vết tổng tổng vết, ta có: BBT − ABT − BAT k k k k = (∑ xi yiT )(∑ yi xiT ) − A∑ yi xiT − (∑ xi yiT )AT i =1 k i =1 k i =1 k i =1 k k = ∑ x x −∑ xi y A − ∑ Ay x + ∑ Ayi yiT AT − ∑ Ayi yiT AT i =1 k T i i T i i =1 T k T i i i =1 i =1 k i =1 = ∑ xi ( x − y A ) − ∑ Ayi ( x − y A ) − ∑ Ayi y AT T i i =1 k T i T T i i =1 T i T i =1 k T i = ∑ ( xi − Ayi )( xiT − yiT AT ) − ∑ Ayi yiT AT i =1 k k i =1 = ∑ ( xi − Ayi )( xi − yi A) − ∑ ( Ayi )( Ayi )T T i =1 i =1 k k k i =1 i =1 i =1 || A − B ||2F = Tr (AAT ) + ∑ Tr (( xi − Ayi )( xi − yi A)T ) − ∑ || Ayi ||2 ≥ Tr (AAT ) − ∑ || Ayi ||2 Vậy k ∑ Tr (( x − Ay )( x − y A) Do i =1 i i i i T (*) k ) = ∑ || xi − Ayi ||2 ≥ i =1 26 k ∑ || Ay || Tiếp theo ta đánh giá số hạng i i =1 bất đẳng thức Theo Bổ k k i =1 i =1 || Ay j ||2 ≤ σ k2 + ∑ σ i2 (viT y j )2 − σ k2 ∑ (viT y j )2 đề ta có j , lấy tổng theo số ta có bất đẳng thức k k  k  ≤ kσ k2 + ∑  ∑ σ i2 (viT y j )2 − σ k2 ∑ (viT y j )  j =1 j =1  i =1 i =1  k  k 2 T 2 = kσ k + ∑ ∑ (σ i − σ k )(vi y j )  j =1  i =1  k  k  = ∑ σ k2 + ∑ (σ i2 − σ k2 )(viT y j )2  i =1  j =1  k  k  = ∑ σ k2 + (σ i2 − σ k2 )∑ (viT y j )  i =1  j =1  k ∑ || Ay || j k ∑ (v Mặt khác, j =1 T i n y j ) ≤ ∑ (viT y j ) =|| viT Y ||2 =|| viT ||2 = j =1 , với k ( yi ) cột véc-tơ k ∑ || Ay || ≤ ∑ σ Vậy ta có j j =1 i =1 Y ma trận trực giao có k , thay vào bất đẳng thức (*) ta k k i =1 i =1 || A − B ||2F ≥ Tr (AAT ) − ∑ || Ayi ||2 ≥|| A ||2F −∑ σ i2 k B = Ak = ∑ σ i ui viT Khi i =1 A − Ak = , ta có r ∑σ i = k +1 i ui viT lấy chuẩn ta 27 || A − Ak ||2 = r r k k i = k +1 i =1 i =1 i =1 ∑ σ i2 = ∑ σ i2 − ∑ σ i2 =|| A ||2F −∑ σ i2 ĐỊNH LÍ 10: r Giả sử A ma trận cỡ m×n có rank ( A) = r Khi với ma trận B có cỡ m×n A = ∑ σ i ui viT , có khai triển kỳ dị SVD rank ( B ) ≤ k i =1 , ta có || A − B ||2 ≥ σ k +1 k B = Ak = ∑ σ i ui viT Dấu xảy i =1 CHỨNG MINH: Giả sử tồn ma trận B có rank (B) k < Vì rank(B) k nên tồn không gian W cỡ ( r – k) (W ) mà với w W Bw = Do với w W Aw = (A – B)w và: =2 2 < Vì W không gian cỡ (r - k) mà < (*) Mặt khác, lại tồn không gian cỡ (k +1) mà (**) xây dựng từ (k+1) giá trị kì dị ma trận A Do tổng kích thước hai không 28 gian là: (r-k) + (k+1) = r+1 > r vec tơ thuộc hai không gian nói < k+1 theo (*) k+1 theo (**) Vì giả thiết ban đầu sai Vậy với ma trận B cỡ m.n có rank(B)k Dễ thấy với B = Ak = CHƯƠNG 3: ỨNG DỤNG PHÂN TÍCH SVD TRONG XỬ LÍ ẢNH 3.1 Phân tích SVD xử lí ảnh Như nói, phân tích SVD dạng phân tích có nhiều ứng dụng, ứng dụng ấn tượng sử dụng SVD hiệu chỉnh hình ảnh kĩ thuật số Nhờ hình ảnh kĩ thuật số truyền cách hiệu vệ tinh, internet… Ý tưởng sở việc hiệu chỉnh ảnh giảm số lượng thông tin truyền mà không làm thông tin thực chất Trong ảnh kĩ thuật số, điểm ảnh thể giá trị màu Blue, Green, Red với trị số từ đến 255 Như với hình ảnh có độ lớn 340 280 pixels phải lưu trữ ma trận (thể màu sắc điểm) có độ lớn 340 280 tức phải lưu trữ 285600 số Tuy nhiên thực tế, truyền, lưu trữ thông tin ảnh không cần hình ảnh, số phần hình ảnh có độ nét lớn Sử dụng phân tích SVD loại bỏ nhiều thông tin không cần thiết Ví dụ hình ảnh 340 280 pixels phân tích thành ma 29 trận A, B, C có độ lớn 340 280 Giả sử ma trận A có phân tích SVD là: A= U = +… + với giá trị k < r Ak= +… + chứng minh Định lí xấp xỉ tốt xây dựng từ k giá trị kì dị ma trận A Ví dụ với k = 20 ma trận A k thể liệu ma trận A tương ứng với 20 giá trị kì dị Như cần lưu trữ 20 giá trị kì dị, 20 vec tơ u i, 20 vec tơ vi tương đương với 20+ 20280 +20340 = 12420 số Tương tự với ma trận B, C số lượng số phải lưu trữ 124203 =37260 số Rõ ràng phân tích SVD giúp giảm lượng thông tin cần lưu trữ cách đáng kể 3.2 Ứng dụng Matlab xử lí ảnh Trong ứng dụng hiệu chỉnh độ nét ảnh gốc theo tham số k tùy chọn Ảnh gốc kích thước 220x220 Chương trình Matlab: close all L=imread('Lenna220.png'); L1=L(:,:,1); L2=L(:,:,2); L3=L(:,:,3); 30 I1=im2double(L1); I2=im2double(L2); I3=im2double(L3); [u1,s1,v1]=svd(I1); [u2,s2,v2]=svd(I2); [u3,s3,v3]=svd(I3); C1=zeros(size(I1)); C2=zeros(size(I2)); C3=zeros(size(I3)); k=100; for j=1:k C1=C1+s1(j,j)*u1(:,j)*v1(:,j).'; end for j=1:k C2=C2+s2(j,j)*u2(:,j)*v2(:,j).'; end for j=1:k C3=C3+s3(j,j)*u3(:,j)*v3(:,j).'; end C1(k)=1; C2(k)=1; C3(k)=1; R1=im2uint8(C1); R2=im2uint8(C2); R3=im2uint8(C3); Q(:,:,1)=R1; Q(:,:,2)=R2; Q(:,:,3)=R3; imshow(Q,[]) Với giá trị khác tham số k chương trình cho ảnh hiệu chỉnh có độ nét khác nhau: k= 10 k= 20 k= 50 k=100 31 Vì hình ảnh xây dựng từ k giá tri kì dị nên so với ảnh gốc có sai số định Chúng ta xem xét khác ảnh hiệu chỉnh ảnh sai số với giá trị k khác nhau: Ảnh hiệu chỉnh Ảnh sai số k=5 32 k= 10 k= 15 KẾT LUẬN: Khai triển SVD dạng khai triển có tính ứng dụng cao ma trận cần tìm hiểu nghiên cứu rộng rãi Nhóm thực đề tài hi vọng qua trình bày chương bạn đọc nắm kiến thức ma trận, tổng quan khai triển SVD, cách khai triển SVD tính chất quan trọng liên quan đến khai triển SVD Định lý 3, Định lý 5, Định lý 6, Định lý 9, Định lý 10 Bên cạnh đó, nhóm giới thiệu ứng dụng thú vị SVD phân tích ảnh sở lí thuyết trình bày Một điều tất yếu, 33 trình thực đề tài dù cố gắng tránh sai sót mong thầy cô bạn đọc bỏ qua TÀI LIỆU THAM KHẢO Nguyễn Đình Trí tác giả, Toán cao cấp, Tập 1– Nhà xuất Giáo dục, 2001 Giáo trình Đại số tuyến tính – Nhà xuất Giao thông Vận tải, 2003 Glyn James tác giả, Engineering Mathematics, 2006 34 [...]... theo (*) và k+1 theo (**) Vì vậy giả thiết ban đầu là sai Vậy với mọi ma trận B cỡ m.n có rank(B)k thì 2 Dễ thấy với B = Ak thì 2 = CHƯƠNG 3: ỨNG DỤNG PHÂN TÍCH SVD TRONG XỬ LÍ ẢNH 3.1 Phân tích SVD trong xử lí ảnh Như đã nói, phân tích SVD là dạng phân tích có rất nhiều ứng dụng, một trong những ứng dụng ấn tượng nhất đó chính là sử dụng SVD trong hiệu chỉnh hình ảnh kĩ thuật số Nhờ đó hình ảnh kĩ... hiểu và nghiên cứu rộng rãi Nhóm thực hiện đề tài hi vọng qua những gì đã trình bày ở các chương bạn đọc có thể nắm được các kiến thức cơ bản về ma trận, tổng quan về khai triển SVD, cách khai triển SVD cùng các tính chất quan trọng liên quan đến khai triển SVD như Định lý 3, Định lý 5, Định lý 6, Định lý 9, Định lý 10 Bên cạnh đó, nhóm cũng đã giới thiệu một ứng dụng thú vị của SVD trong phân tích ảnh. .. cho ra các ảnh hiệu chỉnh có độ nét khác nhau: k= 10 k= 20 k= 50 k=100 31 Vì các hình ảnh trên được xây dựng từ k giá tri kì dị đầu tiên nên so với ảnh gốc sẽ có những sai số nhất định Chúng ta cùng xem xét sự khác nhau giữa ảnh hiệu chỉnh và ảnh sai số với các giá trị k khác nhau: Ảnh hiệu chỉnh Ảnh sai số k=5 32 k= 10 k= 15 KẾT LUẬN: Khai triển SVD là dạng khai triển cơ bản và có tính ứng dụng cao... thông tin ảnh chúng ta có thể không cần những hình ảnh, hoặc một số phần của hình ảnh đó có độ nét quá lớn Sử dụng phân tích SVD chúng ta có thể loại bỏ rất nhiều thông tin không cần thiết đó Ví dụ một hình ảnh 340 280 pixels được phân tích thành 3 ma 29 trận A, B, C có cùng độ lớn 340 280 Giả sử ma trận A có phân tích SVD là: A= U = +… + với giá trị k < r bất kì thì Ak= +… + như đã được chứng minh... của ma trận A tương ứng với 20 giá trị kì dị đầu tiên Như vậy chúng ta chỉ cần lưu trữ 20 giá trị kì dị, 20 vec tơ u i, 20 vec tơ vi tương đương với 20+ 20280 +20340 = 12420 số Tương tự với 2 ma trận B, C thì số lượng các số phải lưu trữ là 124203 =37260 số Rõ ràng phân tích SVD đã giúp giảm lượng thông tin cần lưu trữ một cách đáng kể 3.2 Ứng dụng Matlab trong xử lí ảnh Trong ứng dụng này chúng ta sẽ... = 1  0    = 0  1    1 0  0 1    Phân tích SVD của ma trận A là A= 1 1 0  0 0 1    = U = 1 0   2 0 0  0 1   0 1 0       1/ 2 1/ 2 0    0 1  0  −1/ 2 1/ 2 0    ĐỊNH LÍ 3 (Về dạng khai triển của phân tích SVD) Mọi ma trận A có dạng khai triển: 13 A= +… + Với , , là các giá trị đã được nói đến ở Định lí 2 CHỨNG MINH: Ta có: A=U =[ ] =[ ]  v1T     M ... ( A) = r , và có khai triển kỳ dị SVD r A = ∑ σ i ui viT i =1 Khi đó với mọi ma trận B có cỡ m× n và rank ( B ) ≤ k , ta có k || A − B ||2F ≥|| A ||2F −∑ σ i2 i =1 k B = Ak = ∑ σ i ui viT Dấu bằng xảy ra khi i =1 CHỨNG MINH: Đầu tiên ta chứng minh bổ đề sau: 24 r Giả sử A là ma trận cỡ m×n rank ( A) = r có 1≤ k ≤ r x Khi đó với véc tơ bất kỳ, A = ∑ σ i ui viT , và có khai triển kỳ dị SVD i =1 ta...= =, Trong đó λi ĐỊNH LÍ 2 i = 1, 2, , n , là các giá trị riêng của ma trận (Về sự phân tích SVD của ma trận) Với mọi ma trận bất kỳ đều có thể phân tích dưới dạng: A = U Với U và V là các ma trận trực giao Ma trận ∑ được xây dựng: = với D = CHỨNG MINH: Từ Định lí 1 thì ma trận A có các giá trị kì dị = , do ≥ 0 r : ≥ ≥ … > 0, ≥ ≥ … > 0 và = = … = =0 Ma trận V được xây dựng... minh tính chất sau: = với là ma trận trực giao và là vec-tơ bất kì Thật vậy, Tiếp theo ta chứng minh: = với là ma trận trực giao và là ma trận bất kì Thật vậy: = = +…+ = +….+ = Xét ma trận bất kì với SVD của nó là U : = = (U là ma trận trực giao) = = = (V là ma trận trực giao) = +…+ = 2.2 Ma trận nghịch đảo suy rộng Trong phần này chúng tôi sử dụng khai triển SVD để tìm ma trận nghịch đảo suy rộng theo... = Trong đó =         D+   0 0  0 1  0 2  0 1  0 0    17 ⇒ = V = 1/ 2 0 −1/ 2  1/ 2 0  1/ 2 0     1 0   1  = 1/ 2 0  1/ 2 0 1/ 2   0  0 1  0  0 1  1 0   0 0     ĐỊNH LÍ 7 Cho hệ: nhất Ax = b với A là ma trận bất kì Với = thì nhỏ nhất và có độ dài nhỏ CHỨNG MINH: Xét ma trận A bất kì có rank (A) = r và phân tích SVD của nó là = V Đặt y = x và ... CHƯƠNG 3: ỨNG DỤNG PHÂN TÍCH SVD TRONG XỬ LÍ ẢNH 3.1 Phân tích SVD xử lí ảnh Như nói, phân tích SVD dạng phân tích có nhiều ứng dụng, ứng dụng ấn tượng sử dụng SVD hiệu chỉnh hình ảnh kĩ thuật... cứu khoa học với đề tài Khai triển SVD ứng dụng phân tích ảnh thực nghiên cứu nhằm mục đích đưa đến cho người đọc kiến thức khai triển SVD tạo nhìn tổng quan cách khai triển số tính chất, hệ... khai triển SVD, cách khai triển SVD tính chất quan trọng liên quan đến khai triển SVD Định lý 3, Định lý 5, Định lý 6, Định lý 9, Định lý 10 Bên cạnh đó, nhóm giới thiệu ứng dụng thú vị SVD phân