Phép tính ma trận và ứng dụng

BỘ GIÁO DỤC VÀ ĐÀO TẠO ĐẠI HỌC ĐÀ NẴNG NGUYỄN THỊ THU SƢƠNG PHÉP TÍNH MA TRẬN VÀ ỨNG DỤNG LUẬN VĂN THẠC SỸ KHOA HỌC Đà Nẵng – Năm 2015 BỘ GIÁO DỤC VÀ ĐÀO TẠO ĐẠI HỌC ĐÀ NẴNG NGUYỄN THỊ THU SƢƠNG PHÉP TÍNH MA TRẬN VÀ ỨNG DỤNG Chuyên nghành: Phƣơng pháp toán sơ cấp Mã số: 60.46.01.13 LUẬN VĂN THẠC SỸ KHOA HỌC Ngƣời hƣớng dẫn khoa học: TS PHAN ĐỨC TUẤN Đà Nẵng – Năm 2015 LỜI CAM ĐOAN Tôi cam đoan cơng trình nghiên cứu riêng tơi Các số liệu, kết nêu luận văn trung thực chưa công bố cơng trình khác Tác giả Nguyễn Thị Thu Sương MỤC LỤC MỞ ĐẦU 1 Lý chọn đề tài Mục tiêu nghiên cứu Đối tượng phạm vi nghiên cứu Phương pháp nghiên cứu: Ý nghĩa khoa học thực tiễn đề tài: Bố cục luận văn CHƢƠNG KIẾN THỨC CHUẨN BỊ 1.1 MA TRẬN VÀ CÁC PHÉP TOÁN 1.1.1 Một số định nghĩa ma trận 1.1.2 Các phép toán ma trận 1.1.3 Định thức 1.1.4 Ma trận nghịch đảo 1.1.5 Hạng ma trận 1.1.6 Hệ phương trình tuyến tính 1.2 KHAI TRIỂN CỦA MỘT MA TRẬN 10 1.3 HÀM VẾT VÀ TOÁN TỬ VEC 13 1.3.1 Hàm vết (tr) 13 1.3.2 Toán tử vec 13 1.3.3 Ma trận hoán vị kết hợp vecX vecX T 14 1.4 HÀM MŨ MA TRẬN 15 CHƢƠNG PHÉP TÍNH MA TRẬN 17 2.1 TÍCH KRONECKER 17 2.1.1 Định nghĩa tích Kronecker 17 2.1.2 Một số tính chất quy tắc cho tích Kronecker 18 2.1.3 Định nghĩa tổng Kronecker 24 2.2 ĐẠO HÀM MA TRẬN 25 2.2.1 Đạo hàm ma trận 25 2.2.2 Đạo hàm vector 26 2.2.3 Jacobian phép biến đổi biến 27 2.2.4 Đạo hàm ma trận phần tử ngược lại 28 2.2.5 Đạo hàm hàm vô hướng ma trận ma trận 32 2.2.6 Đạo hàm hàm vô hướng vết (tr) ma trận 33 2.2.7 Xác định đạo hàm vecY vecX cho phương trình phức tạp 36 2.2.8 Trạng thái ma trận chuyển tiếp 39 CHƢƠNG ỨNG DỤNG 41 3.1 ỨNG DỤNG TÍCH KRONECKER 41 3.1.1 Nghiệm AX + XB  C 41 3.1.2 Nghiệm AX  XA   X 46 3.1.3 Nghiệm X  AX + XB; X (0) = C 48 3.1.4 Tìm ma trận chuyển tiếp kết hợp với phương trình 51 3.1.5 Nghiệm phương trình AXB  C 54 3.2 ỨNG DỤNG ĐẠO HÀM MA TRẬN 57 3.2.1 Các vấn đề bình phương bé tối ưu hóa ràng buộc biến vô hướng 57 3.2.2 Tính ma trận xấp xỉ tốn bình phương bé tối ưu hóa ràng buộc 59 3.2.3 Ước lượng Jacobian số phép biến đổi 65 KẾT LUẬN 72 TÀI LIỆU THAM KHẢO QUYẾT ĐỊNH GIAO ĐỀ TÀI (bản sao) CÁC KÝ HIỆU A, B, C : Các ma trận AT : Chuyển vị A aij : Phần tử vị trí hàng i cột j ma trận A ei : Vector đơn vị Eij : Ma trận sở Ai : Cột vị trí thứ i ma trận A Aj : Dịng vị trí thứ i ma trận A vector cột Aj T : Chuyển vị Aj ( AT ) j : Cột thứ j ma trận AT A B : Tích Kronecker A B trA : Vết A vecA : Vec A ( xếp chồng cột A ) Y xrs : Ma trận có cấp Y yij X : Ma trận có cấp X Ers : Ma trận sở cấp X Eij : Ma trận sở cấp Y MỞ ĐẦU Lý chọn đề tài Phép tính ma trận ứng dụng lĩnh vực phân tích nhiều chiều Nó đề cập đến số kí hiệu khác mà sử dụng ma trận vector để suy đạo hàm thành phần biến phụ thuộc thành phần biến độc lập Các biến độc lập đại lượng vô hướng, vector hay ma trận biến phụ thuộc sơ Trong tốn học ứng dụng việc nghiên cứu nghiệm phương trình ma trận có vai trò quan trọng nhiều lĩnh vực bao gồm lý thuyết điều khiển, hỗ trợ máy tính mơ hệ cỡ lớn thông qua giảm bậc, xử lý ảnh, mô hệ cưỡng Nghiệm phương trình cho ta thơng tin tính ổn định phương trình vi phân, phân tích giá trị riêng ma trận công cụ điều khiển hệ động lực mơ tả mà phương trình trạng thái phương trình vi phân đại số Trong số phương trình Sylvester có vai trị quan trọng toán học lý thuyết toán học ứng dụng Vấn đề đặt cần tìm lời giải cho phương trình ma trận nói Có nhiều phương pháp để giải khơng thể khơng đề cập tới vai trị phép tích Kronecker đạo hàm ma trận Ngồi để tính ma trận xấp xỉ tốn bình phương bé tối ưu hóa ràng buộc biến vô hướng hay ước lượng Jacobian số phép biến đổi ma trận phép tính đạo hàm ma trận ứng dụng nhiều sử dụng đạo hàm ma trận để giải vấn đề nhanh chóng mang lại hiệu cao Với ý tưởng tác giả lựa chọn đề tài “Phép tính ma trận ứng dụng ” 2 Mục tiêu nghiên cứu Mục tiêu đề tài nhằm giúp người đọc hiểu rõ chất phép tính ma trận ứng dụng việc giải phương trình ma trận, tính ma trận xấp xỉ tốn bình phương tối thiểu tối ưu hóa ràng buộc biến vô hướng, ước lượng Jacobian số phép biến đổi ma trận Đối tƣợng phạm vi nghiên cứu 3.1 Đối tƣợng nghiên cứu: Phép tính ma trận 3.2 Phạm vi nghiên cứu: Phép tính ma trận ứng dụng giải phương trình ma trận, tính ma trận xấp xỉ tốn bình phương tối thiểu tối ưu hóa ràng buộc biến vô hướng, ước lượng Jacobian số phép biến đổi ma trận Phƣơng pháp nghiên cứu: Nghiên cứu từ tài liệu, giáo trình TS Phan Đức Tuấn tài liệu tiếng Anh thu thập từ báo khoa học, trang web tài liệu tác giả nghiên cứu liên quan đến phép tính ma trận Phương pháp tiếp cận lịch sử, sưu tập, phân tích, đánh giá, tổng hợp tư liệu tiếp cận hệ thống Ý nghĩa khoa học thực tiễn đề tài: Đề tài hệ thống lại kiến thức tích Kronecker đạo hàm ma trận Đưa phương pháp giải tốn phương trình ma trận, tính ma trận xấp xỉ tốnbình phương tối thiểu tối ưu hóa ràng buộc biến vô hướng, ước lượng Jacobian số phép biến đổi ma trận Đề tài có giá trị mặt lý thuyết Có thể sử dụng luận văn làm tài liệu tham khảo dành cho sinh viên ngành Toán Bố cục luận văn Luận văn gồm phần mở đầu, kết luận, danh mục tài liệu tham khảo ba chương Chương Kiến thức chuẩn bị Chương Phép tính ma trận Chương Ứng dụng 60 S  e211  e212   e21n   e2 n   e2 mn m n m n S   e ij  eij eij i 1 j 1 i 1 j 1 S  trE T E (3.33) Tiêu chuẩn phương pháp bình phương bé tổng (3.33) nhỏ Bài toán tối ưu ràng buộc đưa dạng tìm ma trận X mà hàm ma trận vô hướng S  f (X ) nhỏ tùy thuộc ràng buộc X dạng: G( X )  (3.34) (Đây cịn gọi phương trình ràng buộc), đó: G   gij  rs , s, r phụ thuộc vào số lượng ràng buộc g ij Đối với trường hợp vô hướng, nhân tử Lagrange dạng hàm ma trận bổ trợ (hàm Lagrange) f * ( X ) Mỗi ràng buộc g ij kết hợp với tham số (nhân tử Lagrange) kí hiệu ij Từ m n   g j 1 i 1 ij ij  trU T G (U    ij  rs ) Vậy hàm ma trận bổ trợ viết sau: f  ( X )  f ( X )   ij gij  f  ( X )  trE T E + trU T G (3.35) Cuối cùng, để tìm X tối ưu, ta giải hệ phương trình sau:  f  ( X ) 0   X G ( X )  (3.36) 61 * Tóm lại phương pháp chung để tính ma trận xấp xỉ tốn bình phương bé có ràng buộc gồm bước: Bước 1: Ta có tổng bình phương phần dư tr ( E T E ) Bước 2: Lập phương trình ràng buộc G( X )  Bước 3: Lập hàm ma trận bổ trợ (hay hàm nhân tử Lagrange) Bước 4: Lấy đạo hàm Bước 5: Cho đạo hàm Bước 6: Giải tìm X Bây ta xét tốn với ràng buộc cụ thể sau: Cho ma trận không suy biến A   aij  nn Xác định ma trận X   xij  mà bình phương bé xấp xỉ đến A (a) Khi X ma trận đối xứng (b) Khi X ma trận trực giao Phương pháp giải (a)Theo (3.32) ta có phần dư theo ma trận E là: E  A X  ET  AT  X T Mà X  X T (Vì X ma trận đối xứng) Nên phương trình ràng buộc có dạng: G( X )  X  X T  Theo (3.35) hàm ma trận bổ trợ là: f  ( X )  tr  AT  X T   A  X   trU T  X  X T  Theo (3.36): f  ( X ) (trAT A) (trAT X ) (trX T A) (trX T X ) (trU T X )      X X X X X X (trU T X T )   X 62 Áp dụng kết tính Ví dụ 2.8 (câu a, b, c, d) thì: f  ( X )    A  A  2X U U T  X  f  ( X )  2 A  X  U  U T  X U T U  X  A (3.37) T Khi U T U  U U T  T X  A  A   2   T (3.38) Ta lấy (3.37) + (3.38): X  X T  A  AT   X U U T U T U  2 A  AT   Như xấp xỉ A với ma trận đối xứng, ma trận tối ưu theo tiêu chuẩn bình phương bé trung bình cộng phần tử A phần tử AT (b) Theo (3.32) ta có phần dư theo ma trận E là: E  A X  ET  AT  X T Mà X T X  I (Vì X ma trận trực giao) Nên phương trình ràng buộc có dạng: G( X )  XX T  I  Theo (3.35) hàm ma trận bổ trợ là: f  ( X )  tr  AT  X T   A  X   trU T  XX T  I  f  ( X )  trAT A  trAT X  trX T A  trX T X  trU T XX T  trU T I Theo (3.36): 63 f  ( X ) (trAT A) (trAT X ) (trX T A) (trX T X ) (trU T XX T )      X X X X X X  (trU T I )   X Áp dụng kết tính Ví dụ 2.8 (câu a, b, d, e)  f  ( X )  2 A  X  X U  U T   X U  U T   X  A X     Nhân hai vế với X T , ta được: U  U T  X X  X A X X     T T T U  U T   I  X A I     T (do X T X  I ) U  U T   X A I     T (3.39) Chuyển vị hai vế (3.39): U  U T  A X I     T (3.40) Từ (3.39) (3.40), suy ra: X T A  AT X Bây ta giải phương trình (3.41) để tìm X Ta lấy vec hai vế (3.41): vecX T A  vecAT X  ( AT  I )vecX T  ( I  AT )vecX Mà vecX T  UvecX (U ma trận hoán vị) Suy ( AT  I )UvecX  ( I  AT )vecX (3.41) 64  ( I  AT )  ( AT  I )U  vecX   ( I  AT )  ( AT  I )U  x  (3.42) Vậy ta rút gọn phương trình ma trận thành hệ phương trình Lúc ta giải (3.42) để tìm nghiệm độc lập tuyến tính chọn nghiệm tương ứng để X ma trận trực giao  2 Ví dụ 3.7 Cho A    Tìm ma trận trực giao X mà bình phương  1  bé xấp xỉ đến A Giải Đặt x X   11  x21 x12   x  vecX   x11 x22  x21 x12 x22  T Ta tính: 1 1  1 0 1 1  T IA    2   0 0      0 1  1 1 1 0  T A I    0    2      0 Ta có với 0 0  1  1 0 1 0 0 1  0  1 U  vecE T 11 vecE T 21 vecE T 12 vecE T 22  , 1  0  0  0 0 E T 11   ; E T 21   ; E T 12   ; E T 22       0 0 0         1 0  U  0  0 0 0 0  0  0 1 65 1 1 0 T Suy ( A  I )U   2  0 0 1  0  1 Vì X ma trận trực giao Nên theo (3.42) ta có phương trình: ( I  AT )  ( AT  I )U  x  0 0 0  1   x     2 1 1   0 0 0 (3.43) Phương trình ta nghiệm khơng tầm thường (độc lập tuyến tính) 1 1 2  2  1  3      x    x ; x 1 2 3       1  1 2 2  3  Trong nghiệm có nghiệm x    dẫn đến X ma trận trực 3   2 giao Vậy X   3   13  3 2 3.2.3 Ƣớc lƣợng Jacobian số phép biến đổi Trong giải tích hàm nhiều biến, Jacobian bắt nguồn từ tầm quan trọng chúng có liên quan đến thay đổi biến tích phân bội 66 Vấn đề đặt để tính Jacobian số phép biến đổi mà định thức có cấp lớn gây khó khăn việc tính tốn Như lúc ta ứng dụng đạo hàm ma trận kết hợp với tích Kronecker để ước lượng Jacobian cách nhanh chóng Về mặt vơ hướng tốn trình bày theo cách sau: Ta xét phép lấy tích phân tập hợp R không gian nchiều  f ( x , x , , x )dx dx , , dx , n n (3.44) R f hàm liên tục R Ta xét phép biến đổi 1-1 từ ánh xạ R lên tập hợp T y1  1 ( x); y2  2 ( x); .; yn  n ( x) (3.45) phép biến đổi nghịch đảo x1  w1 ( y); x  w ( y); .; x n  w n ( y) , (3.46)  xT   x1 , x2 , , xn   T  y   y1 , y2 , , yn  Giả sử đạo hàm riêng phép biến đổi nghịch đảo (3.45) liên tục, (3.44) biểu diến sau:  f  w ( y), w ( y), , w n ( y) J dy1dy2 dyn , (3.47) T giá trị tuyệt đối J viết sau: x1 y1 x2 y1 xn y1 x1 J  y2 x2 y2 xn x y2  y xn yn xn yn xn yn (3.48) 67 Ví dụ 3.8 Cho I  4 exp2 x1  3x2 dx1dx2 (  x1   ,  x2   ) R Xét phép biến đổi  y1  x1  x2   y2  x2 a) Hãy ước lượng Jacobian phép biến đổi b) Viết dạng tích phân tương ứng (3.47) Giải a) Ta có: R  ( x1 , x2 ) :  x1  ,0  x2   Phép biến đổi nghịch đảo từ phép biến đổi cho là:   x1  ( y1  y2 )   x2  y2 xác định bởi: T  ( y1 , y2 ) : y2  0, y2   y1 ,   y1   Theo (3.48), ta có: J  x1 y1 x1 y2 x2 y1 1   x2 y2 b) Viết dạng tích phân tương ứng (3.47): 1  I   f  ( y1  y2 ), y2 dy1dy2 2  T I   exp y1  y2 dy1dy2 T Bây ta ước lượng Jacobian phép biến đổi tương ứng (3.45) biểu diễn dạng ma trận Xét số tốn sau: 68 Bài tốn 3.1 Tìm Jacobian phép biến đổi tuyến tính tổng quát Y  AXB, (3.49) với A , X , B ma trận cấp (n  n), khơng suy biến Giải Phương trình (3.49) viết lại sau: y  Px,  y  vecY ; x = vecX  T  P  B  A Khi y ( Px)   PT  ( BT  A)T  B  AT x x 1 x   BT  AT   B 1  ( AT ) 1 y Vậy ước lượng Jacobian phép biến đổi là: y J  x 1 J B n J B n vecY  vecX AT n 1  B  AT 1 (theo (2.16)) n A (3.50) Ví dụ 3.9 Xét phép biến đổi Y  AXB, đó: x  4  1 A ; B ; X   11    1  1 1  x21 Hãy ước lượng Jacobian phép biến đổi Giải Ta có: A  2; B  Ta sử dụng (3.50): x12  x22  69 J  B n A 2 2 =  n Bài tốn 3.2 Tìm Jacobian phép biến đổi tuyến tính Y  AX , (3.51) đó: X , Y ma trận cấp m  n A ma trận cấp n  n, không suy biến Giải Phương trình (3.51) viết lại sau: Y  AXI y  Px,  y  vecY ; x = vecX   P  I  A Khi y ( Px)   PT  ( I  A)T  I  AT x x 1 x   I  AT   I  ( AT )1 y Vậy ước lượng Jacobian phép biến đổi là: y J  x 1 vecY  vecX 1  I  AT 1 I n AT n n J  A (3.52) Bài tốn 3.3 Tìm Jacobian phép biến đổi tuyến tính Y  XB, (3.53) với X , Y ma trận cấp (m  n), B ma trận cấp (n  n) không suy biến Giải Phương trình (3.53) viết lại sau: Y  IXB y  Px, 70  y  vecY ; x = vecX  T P  B  I Khi đó: y ( Px)   PT  ( BT  I )T  B  I x x x 1   B  I   B 1  I 1 y Vậy ước lượng Jacobian phép biến đổi là: y J  x 1 vecY  vecX 1  BI 1 B n I n n J B (3.54) Bài toán 3.4 Hãy ước lượng Jacobian kết hợp với phép biến đổi sau: a Y  X T X c Y  X 1 b Y  X X ma trận cấp (n  n) Giải Đặt y  vecY ; x  vecX a) Y ( X T X ) X T X Ta có:   X  XT xrs xrs xrs xrs  Y  E T rs X  X T Ers xrs Ta sử dụng nguyên lý biến đổi thứ hai: y  I  X  ( X  I )( n ) x Suy y J  x 1 1  I  X +(X  I )( n ) 71 b) Y X  ( XX ) X X Ta có:    XX xrs xrs xrs xrs xrs  Y  Ers X  XErs xrs Ta sử dụng nguyên lý biến đổi thứ hai: y  X  I T  ( I  X T )( n ) x  y  X  I  ( I  X T )( n ) x Suy y J  x 1 1  X  I + (I  X T )( n ) c Theo Ví dụ 2.5 (a) Khi Y  AX 1B Vậy Y  X 1 Y =  AX 1Ers X 1B xrs Y =  X 1Ers X 1 xrs Ta sử dụng nguyên lý biến đổi thứ hai: y   X 1  ( X 1 )T x 1 x    X 1  ( X 1 )T    X  X T y 1 Suy y J  x Vậy J  X 2 n  X  XT 1  X n XT n  X n X n 72 KẾT LUẬN Qua trình nghiên cứu đề tài luận văn tác giả thu số kêt sau: Đã hệ thống số kiến thức phép tính ma trận mà trọng tâm tích Kronecker đạo hàm ma trận Trình bày chứng minh cách chi tiết số tính chất tích Kronecker Đã vận dụng phép tích Kronecker đạo hàm ma trận để tìm nghiệm số dạng phương trình ma trận, tính ma trận xấp xỉ tốn bình phương bé tối ưu hóa ràng buộc, ước lượng Jacobian số phép biến đổi ma trận Đưa số ví dụ để minh họa cụ thể cho dạng nêu Luận văn với mong muốn tìm hiểu sâu nhiều ứng dụng phép tính ma trận, để từ giải số tốn thực tế TÀI LIỆU THAM KHẢO Tiếng Việt [1] Nguyễn Đình Trí (2004), Tốn học cao cấp (tập 1), NXB Giáo dục, Hà Nội [2] Nguyễn Doãn Phước, Phan Xuân Minh, Hán Thành Trung (2006), Lý thuyết điều khiển phi tuyến, NXB Khoa học Kỹ thuật, Hà Nội [3] Đặng Ngọc Dục, Nguyễn Viết Đức (2011), Toán Cao Cấp (Phần 2: Đại số tuyến tính), NXB, Đà Nẵng Tiếng Anh [4] Alexaner Grahm (1981), Kronecker product and matrix calculus with application, R J Acford, Chichester [5] Barnett S (1973), Matrix differential Equation and Kronecker Products, Siam, J Appl Math., No [6] Deemer, W L and Olkin, (1951), The Jacobians of certain Matrix Transformations, Biometrika, 30, 345-367 [7] Dwyer, P S (1967), Some Applications of Matrix Derivatives in Multivariate Analysis, American Statistical Ass Journal, June, pt 62, 607-625 [8] Graham, A, (1979), Matrix and Application for Engineers and Mathematicians, Ellis Horwood [9] Neudecker, H (1969), Some Theorems on Matrix Differentiation with special reference to Kronecker Matrix Products, J Amer Statist Assoc., 64, 953-963 [10] Vetter, W J (1975), Vector Structures and Solutions of Linear Matrix Equations, Linear Algebra and its Applications, 10, 181-188 [11] Willi Hans Steeb, Yorick Hardy (2011), Matrix calculus and Kronecker product, World Scientific publishing ... số phép biến đổi ma trận phép tính đạo hàm ma trận ứng dụng nhiều sử dụng đạo hàm ma trận để giải vấn đề nhanh chóng mang lại hiệu cao Với ý tưởng tác giả lựa chọn đề tài ? ?Phép tính ma trận ứng. .. Jacobian số phép biến đổi ma trận Đối tƣợng phạm vi nghiên cứu 3.1 Đối tƣợng nghiên cứu: Phép tính ma trận 3.2 Phạm vi nghiên cứu: Phép tính ma trận ứng dụng giải phương trình ma trận, tính ma trận. .. xếp chồng cột A ) Y xrs : Ma trận có cấp Y yij X : Ma trận có cấp X Ers : Ma trận sở cấp X Eij : Ma trận sở cấp Y MỞ ĐẦU Lý chọn đề tài Phép tính ma trận ứng dụng lĩnh vực phân tích nhiều