Khoa Xây Dựng Thủy Lợi Thủy Điện Bộ môn Cơ Sở Kỹ Thuật CÁC PHƯƠNG PHÁP SỐ CỦA ĐẠI SỐ TUYẾN TÍNH Chương Các phương pháp số gắn liền với việc ứng dụng máy tính số Ma trận ứng dụng thích hợp đây, giải hệ phương trình vi phân, biểu diễn vectơ dạng ma trận Khi giải hệ đại tuyến A.X = B, ma trận A ma trận đầy thưa; A ma trận thưa, nhiều trường hợp có thuật toán để lưu trử tiết kiệm nhớ thời gian tính lưu trử dạng BAND bình thường dạng BAND ép lại, hay kỷ thuật lưu trử Skyline (frontal method), với nhiều thuật giải hiệu 5.1 Ma trận 5.1.1 Các định nghĩa Ma trận tập hợp gồm m × n phần tử, chia thành m hàng n cột Kí hiệu: A m, n = [a i , j ]m , n a 11 a 12 a 1n a a a 2n = 21 22 a m1 a m a mn Có thể coi ma trận hàng(cột) biểu diễn đại số vectơ (hình học) Vết (trace) ma trận A tính: Tr(A) = a11 + a22 + + ann Mỗi ma trận vuông A gắn với số, kí hiệu det(A) A , gọi định thức Ma trận A gọi suy biến det(A) = ngược lại không suy biến 5.1.2 Phép biến đổi tuyến tính không gian n chiều Giữa ma trận phép biến đổi tuyến tính không gian (đại số) có mối liên hệ mật thiết Một phần tử không gian n chiều mô tả vectơ, hay viết dạng ma trận cột [ ] Xét hai vectơ: Xn1= x1 , x , x3 , , xn , Yn1= [ y1 , y , y , , y m ] Với phép biến đổi: A.X=Y Với A ma trận cỡ m × n gọi phép biến đổi tuyến tính từ vectơ n chiều sang vectơ m chiều Khi m=n đơn giản ta có phép chuyển tọa độ Nếu không gian chiều với tọa độ Descartes A ma trận chuyển đổi Ơ trường hợp đơn giản, A ma trận cosine phương thực phép quay hai hệ tọa độ, ma trận cosine phương thực phép quay hai hệ tọa độ, ma trận với phần tử khác không (các ma trận bản) thực phép tịnh tiến hệ tọa độ theo trục Bài Giảng Chuyên Đề Phương Pháp Tính T T Trang 25 Khoa Xây Dựng Thủy Lợi Thủy Điện Bộ môn Cơ Sở Kỹ Thuật Một hệ sở không gian n chiều tập hợp n vectơ độc lập tuyến tính Ví dụ: Ta chọn vectơ đơn vị ei làm hệ sở với vectơ X bất kỳ: X=c1e1 + c2e2+ + cnen e1 = [1,0,0, .0]T T e = [0,1,0, .0] e = [0,0,0, .1]T Tích vô hướng hai vectơ: X= [x , x , , x n ] T Y= [y1 , y , , y n ] T T n T Được định nghĩa: X Y = Y X = ∑x y i (trong không gian Euclide) i Độ dài hay Module vectơ X ký hiệu X tính: T X = x x Khoảng cách d góc ϕ hai vectơ: d = x − y = ( x − y) T ( x − y) xT.y = x y cos ϕ Hai vectơ x, y gọi trực giao với nếu: xT.y = Một tập hợp vectơ trực giao với đôi gọi Hệ trực giao Một ma trận trực giao có hàng cột vectơ trực giao Định lý: Các vectơ hệ trực giao độc lập tuyến tính Chuẩn vectơ, ký hiệu X , định nghĩa số không âm, thõa mãn tính chất sau: X ≥ X X=0 αX = α x với α thực X + Y ≤ X + Y bất đẳng thức tam giác Có chuẩn sau hay sử dụng tóan ứng dụng: T Với vectơ X = [x , x , , x n ] X = x + x + + x n = n ∑x thường gọi chuẩn tuyệt đối i X = x + x 2 + + x n = n ∑x i gọi chuẩn Euclide i =1 Bài Giảng Chuyên Đề Phương Pháp Tính Trang 26 Khoa Xây Dựng Thủy Lợi Thủy Điện Bộ môn Cơ Sở Kỹ Thuật = maxi x i gọi chuẩn cực đại Mở rộng khái niệm cho chuẩn ma trận Chuẩn ma trận A B ký hiệu A B ; định nghĩa số không âm thõa mãn điều kiện sau: A ≥ A = A = αA = α A với α thực A + B ≤ A + B X ∞ A • B ≤ A • B Ở đây, nêu định nghĩa chuẩn hay dùng: A = maxj ( ∑ j ) gọi chuẩn cột i A = ∑a ij gọi chuẩn Euclide i, j A ∞ = maxi( ∑ j ) gọi chuẩn hàng j Chuẩn ma trận khái niệm quan trọng phương pháp số Chúng hay sử dụng xét tính hội tụ phương pháp lặp xét ổn định hệ phương trình vi phân Liên hệ chuẩn ma trận vectơ: Trong không gian n chiều Vn chuẩn ma trận tương ứng với chuẩn vectơ nếu: A.X ≤ A X với A X thuộc Vn 5.1.3 Các phép tính ma trận Với ma trận cách đại số hóa vectơ ta định nghĩa phép tính cách hòan chỉnh đầy đủ Ta nhắc lại số phép tính bản: Ma trận B gọi ma trận chuyển vị A (AT=B), hàng ma trận A cột ma trận B [aji]= [bij ]=> bij = aji m×n n×m Ma trận nghịch đảo: A-1 A.B = E => B = A-1 => A.A-1 = A-1.A = E (với E ma trận đơn vị) Chú ý số tính chất: A.B ≠ B.A (AT)T = A , (k.A)T = k.AT (A+B)T =AT+BT , (A.B)T = BT.AT (A-1)-1 = A , (A.B)-1 =B-1.A-1 (AT)-1 = (A-1)T , det(A.B) = det(A).det(B) T det(A) = det(A ) Bài Giảng Chuyên Đề Phương Pháp Tính Trang 27 Khoa Xây Dựng Thủy Lợi Thủy Điện a11 0 0 a 22 0 a33 −1 0 1 / a 11 / a 22 = 0 / a 33 Bộ môn Cơ Sở Kỹ Thuật , • Ma trận A suy biến, det (A)=0 hàng cột vectơ phụ thuộc tuyến tính • Hạng ma trận vuông A số lớn hàng (hoặc cột) độc lập tuyến tính với • Ma trận B có từ ma trận A cách đổi chỗ hai hàng cho thì: det(B) = - det(A) • Nếu A, B ma trận vuông trực giao AT, A-1, A.B ma trận trực giao • Nếu A, B ma trận vuông đối xứng α A, A+B ma trận vuông đối xứng Nếu A không suy biến A-1 đối xứng Cần ý rằng: Tích hai ma trận đối xứng nói chung ma trận đối xứng n Nếu A = [aij] ma trận vuông cấp n thoả a kk > ∑ a ks , với s ≠ k, k=1 n , s =1 det(A) ≠ Ma trận A gọi có phần tử đường chéo aii trội Hơn akk > 0, k=1,2, ,n det(A)>0 định thức xác định dương 5.1.4 Vectơ riêng, trị riêng dạng toàn phương ma trận Cho A ma trận vuông cấp n; số λ gọi trị riêng vectơ khác không X vectơ riêng A chúng thõa mãn điều kiện: A.X = λ X hay (A- λ E).X = => A − λ.E =0, Ta tìm phương trình bậc n cho λ , cho: f( λ ) = f( λ ) gọi đa thức đặc trưng A có n trị riêng λ 1, λ 2, , λ n Tập hợp λ 1, λ 2, , λ n gọi phổ maxi ( λ i ) bán kính phổ ma trận A Với λ i có vô số Xi Các vectơ riêng tương ứng với λ i rõ ràng phụ thuộc tuyến tính khác số α Do ta chọn vectơ làm sở Tập hợp n vectơ riêng, ứng với n trị riêng khác tạo thành hệ vectơ độc lập tuyến tính Ma trận gồm cột vectơ riêng ma trận A, gọi ma trận dạng riêng A Định lý: • Nếu A ma trận thực, đối xứng trị riêng thực Các vectơ riêng ứng với trị riêng khác vectơ thực trực giao độc lập tuýên tính • Nếu A ma trận xác định dương giá trị riêng số dương Định lý Sylvester: Bài Giảng Chuyên Đề Phương Pháp Tính Trang 28 Khoa Xây Dựng Thủy Lợi Thủy Điện Bộ môn Cơ Sở Kỹ Thuật Nếu định thức A tất tử thức nằm đường chéo dương A xác định dương Tổng quát hơn, khái nịêm xác định dương ma trận A định nghĩa nhờ dạng toàn phương đa thức: Q(X) = XT.A.X Nếu Q xác định dương, tức Q(X) > với số thực X Q(X) = X=0, A gọi xác định dương 5.2 GIẢI HỆ ĐẠI TUYẾN Bài toán bản: Cho hệ gồm n phương trình đại số tuyến tính với n ẩn: a11x1+ a12x2+ + a1nxn = b1 a21x1+ a22x2+ + a2nxn = b2 an1x1+ an2x2+ + annxn = bn Viết dạng matrix: A.X = B Gỉa thiết det(A) ≠ 0: Hệ có nghiệm Ta tìm nghiệm theo quy tắc CRAMER sử dụng ma trận nghịch đảo cách nầy đòi hỏi phép tính lớn không thuận lợi ma trận A xấu Chúng ta nghiên cứu phương pháp triển khai hữu hiệu máy tính Có thể phân loại chúng thành hai nhóm chính: + Các phương pháp trực tiếp: Gauss, Gauss Jordan, phân tích LU, + Các phương pháp lặp: Lặp đơn, Jacobi, Gauss - Seidel, lặp Gradient liên hợp… 5.2.1 PHÂN TÍCH LU VÀ PHÂN TÍCH CHOLESKY Trong phép phân tích LU, ma trận A phân tích: A = L.U Với L ma trận tam giác dưới, với phần tử nằm đường chéo 1, U ma trận tam giác Phép phân tích LU thực trụ (các phần tử a11, a22, a33, ) khác không Nó phần tử đường chéo ma trận L Với phân tích LU việc giải hệ phương trình: A.X = b Trở thành giải hai hệ phương trình: Ly = b Và UX = Y Thuật giải phép phân tích LU thường dùng Crout Trong trường hợp ma trận A đối xứng, phép phân tích trở nên đơn giản nhiều, không đòi hỏi phần tử đường chéo ma trận L Thay vào ta sử dụng điều kiện: U = LT A = L.LT Bài Giảng Chuyên Đề Phương Pháp Tính Trang 29 Khoa Xây Dựng Thủy Lợi Thủy Điện Bộ môn Cơ Sở Kỹ Thuật Lúc L U có phần tử đường chéo giống nhau, phần tử nầy thực hay phức: gọi phép phân tích Cholesky (chúng ta không sâu vào thuật toán, phức tạp có source code listing công bố nhiều ấn phẩm khoa học phương pháp số) 5.2.2 PHƯƠNG PHÁP LẶP ĐƠN HỆ PHƯƠNG TRÌNH Mô tả phương pháp: Phương pháp Gauss thuộc loại phương pháp hay gọi phương pháp trực tiếp Ngoài có loại phương pháp khác phương pháp lặp, ta xét phương pháp lặp đơn, hệ cho dạng vector: Ax = f Ta chuyển hệ dạng tương đương: x = Bx + g b11 b12 K b1n Giả sử: b 21 B= K b n1 b 22 K b 2n K K K b n K b nn Sau ta xây dựng công thức tính lặp: x ( m ) = Bx ( m−1) + g ( 0) x (5.2.1) n Trong đó: (Bx)i = ∑b x j=1 ij j , x(0) cho trước Phương pháp tính theo (5.2.1) gọi phương pháp lặp đơn Sự hội tụ: Giả sử α = (α1 , α2 , , αn)T nghiệm hệ x = Bx + g , xi(m) → αi m → ∞ , với i = 1, 2, , , n ta nói phương pháp lặp (5.2.1) hội tụ Ta đưa vào ký hiệu: z = ( z1 , z2 , , zn )T đại lượng sau: z0 = max{z i } + K + zn z1 = z1 + z z = z12 + z 22 + K + z 2n Gọi độ dài mở rộng vector z, người ta gọi chuẩn z Bài Giảng Chuyên Đề Phương Pháp Tính Trang 30 Khoa Xây Dựng Thủy Lợi Thủy Điện Đối với ma trận B = ( bi j), ta đặt: Bộ môn Cơ Sở Kỹ Thuật n r max b ij = ∑ 0 i j=1 n b ij r1 = max ∑ j i =1 n n r2 = ∑ ∑ b ij i =1 j=1 Người ta chứng minh định lý sau điều kiện hội tụ: + Nếu r0 < r1 < r2 < phương pháp lặp (5.2.1) hội tụ với xấp xỉ ban đầu x(0) nào, đồng thời ta có sai số đánh giá: rPm (m) x −α ≤ x (1) − x ( 0) P P − rP rPm (m) (m) ( m −1) x −α ≤ x −x P P − rP Trong đó: p = r0 < 1, p = r1 < 1, p = r2 < 5.2.3 PHƯƠNG PHÁP LẶP SEIDEN (hay gọi GAUSS-SEIDEN) Là phương pháp cải tiến phương pháp lặp đơn chút: tính xấp xỉ thứ (k+1) ẩn xi ta sử dụng xấp xỉ thứ (k + 1) tính ẩn x1 , , xi -1 n Giả sử cho hệ: A x = b ⇔ xi = βi + x1(0) ∑α j =1 ij x j với i = 1, 2, , n x2(0) Lấy xấp xỉ ban đầu , , , xn(0) Tiếp theo, giả sử ta biết xấp xỉ thứ k xi(k) theo Seiden, ta tìm xấp xỉ thứ ( k+1) nghiệm theo công thức: n ( k +1) α j x (jk ) x = β1 + ∑ j=1 x ( k +1) = β + α x ( k +1) + n α x ( k ) ∑ 21 2j j j= KKKK i −1 n x (i k +1) = β i + ∑ α ij x (jk +1) + ∑ α ij x (jk ) j=1 j= i KKKK n −1 ( k +1) x = β + α ij x (jk +1) + α nn x (nk ) ∑ n n j=1 (Thông thường lặp Seiden hội tụ nhanh lặp đơn) Bài Giảng Chuyên Đề Phương Pháp Tính Trang 31 Khoa Xây Dựng Thủy Lợi Thủy Điện Bộ môn Cơ Sở Kỹ Thuật 5.2.4 PHƯƠNG PHÁP GRADIENT LIÊN HỢP Phương pháp thích hợp với toán phụ thuộc thời gian Để giải hệ phương trình: ∑ {P(I, J) × F(J)} = G(I) Gía trị ban đầu ước lượng là: F0(J) gây phần dư U(I), ta biểu diễn: U(I) = G(I) - ∑ {P(I, J) × FO (J)} Đặt: V(I) = U(I) Bước lặp tiếp theo: UU = ∑ {U(I).U(I)} W(I) = ∑ {P(I, J).V(J)} VW = ∑ {V(I).W (I)} AA = UU/VW F(I) = F(I) + AA.V(I) U(I) = U(I) - AA.W(I) WW = ∑ {U(I).U(I)} BB = WW/UU V(I) = U(I) + BB.V(I) Qúa trình lặp lại đến UU < ε (sai số cho phép toán) Bài Giảng Chuyên Đề Phương Pháp Tính Trang 32