Phương pháp tìm nghiệm của hệ phương trình tuyến tính gần suy biến

BỘ GIÁO DỤC VÀ ĐÀO TẠO ĐẠI HỌC ĐÀ NẴNG BÙI QUỐC THỊNH PHƢƠNG PHÁP TÌM NGHIỆM CỦA HỆ PHƢƠNG TRÌNH TUYẾN TÍNH GẦN SUY BIẾN LUẬN VĂN THẠC SĨ KHOA HỌC Đà Nẵng – Năm 2016 BỘ GIÁO DỤC VÀ ĐÀO TẠO ĐẠI HỌC ĐÀ NẴNG BÙI QUỐC THỊNH PHƢƠNG PHÁP TÌM NGHIỆM CỦA HỆ PHƢƠNG TRÌNH TUYẾN TÍNH GẦN SUY BIẾN Chuyên ngành: Phƣơng pháp toán sơ cấp Mã số: 60.46.01.13 LUẬN VĂN THẠC SĨ KHOA HỌC Ngƣời hƣớng dẫn khoa học: TS PHAN ĐỨC TUẤN Đà Nẵng – Năm 2016 LỜI CAM ĐOAN Tôi xin cam đoan Những nội dung trình bày luận văn thực hướng dẫn TS Phan Đức Tuấn Mọi tài liệu luận văn trích dẫn rõ ràng trung thực tên tác giả, tên cơng trình, thời gian địa điểm cơng bố Nếu có chép khơng hợp lệ, vi phạm quy chế đào tạo tơi xin chịu hồn tồn trách nhiệm Tác giả luận văn Bùi Quốc Thịnh MỤC LỤC MỞ ĐẦU 1 Lý chọn đề tài Mục tiêu nội dung nghiên cứu đề tài Đối tƣợng phạm vi nghiên cứu Phƣơng pháp nghiên cứu Cấu trúc luận văn CHƢƠNG HỆ PHƢƠNG TRÌNH TUYẾN TÍNH CĨ THỂ TRẠNG TỐT 1.1 MA TRẬN VÀ ĐỊNH THỨC 1.1.1 Ma trận đơn vị 1.1.2 Ma trận tam giác 1.1.3 Ma trận khả nghịch 1.1.4 Ma trận chuyển vị 1.1.5 Ma trận đối xứng 1.1.6 Ma trận trực giao 1.1.7 Ma trận đồng dạng 1.1.8 Vectơ hàng, vectơ cột 1.1.9 Định thức 1.2 HẠNG MA TRẬN 1.2.1 Định lý hạng ma trận 1.2.2 Chuẩn ma trận 10 1.2.3 Số điều kiện 11 1.3 GIÁ TRỊ RIÊNG, VECTƠ RIÊNG, MA TRẬN CHÉO HÓA ĐƢỢC 11 1.3.1 Giá trị riêng vectơ riêng 11 1.3.2 Đa thức đặc trƣng 12 1.3.3 Ma trận chéo hóa đƣợc 13 1.4 HỆ PHƢƠNG TRÌNH TUYẾN TÍNH 14 1.4.1 Hệ phƣơng trình tuyến tính tổng qt 14 1.4.2 Nghiệm hệ phƣơng trình tuyến tính 15 1.4.3 Các hệ phƣơng trình tuyến tính tƣơng đƣơng 15 1.4.4 Hệ Cramer 17 1.5 PHƢƠNG PHÁP GIẢI HỆ PHƢƠNG TRÌNH TUYẾN TÍNH THỂ TRẠNG TỐT 18 1.5.1 Phƣơng pháp Gauss 18 1.5.2 Phƣơng pháp Gauss – Jordan 23 1.5.3 Phƣơng pháp phân rã LU 25 1.5.4 Phƣơng pháp Cholesky (phƣơng pháp bậc 2) 27 1.5.5 Phƣơng pháp phân rã QR 30 1.5.6 Phƣơng pháp lặp đơn 34 1.5.7 Phƣơng pháp lặp theo Seidel 39 1.5.8 Phƣơng pháp lặp theo Jacobi lặp theo Gauss-Seidel 42 1.5.9 Phƣơng pháp lắc 43 CHƢƠNG PHƢƠNG PHÁP TÌM NGHIỆM HỆ PHƢƠNG TRÌNH TUYẾN TÍNH GẦN SUY BIẾN 46 2.1 HỆ PHƢƠNG TRÌNH TUYẾN TÍNH GẦN SUY BIẾN 46 2.1.1 Định nghĩa tính chất 46 2.1.2 Phƣơng pháp phân rã suy biến 47 2.1.3 Ví dụ 51 2.2 ÁP DỤNG MAPLE VÀO GIẢI HỆ PHƢƠNG TRÌNH 56 2.2.1 Phƣơng pháp Gauss 56 2.2.2 Phƣơng pháp phân rã LU 59 2.2.3 Phƣơng pháp phân rã QR 63 2.2.4 Phƣơng pháp Cholesky 66 KẾT LUẬN 71 TÀI LIỆU THAM KHẢO QUYẾT ĐỊNH GIAO ĐỀ TÀI (bản sao) MỞ ĐẦU Lý chọn đề tài Nhiều toán khoa học kỹ thuật, kinh tế, sinh thái quy việc giải hệ phƣơng trình đại số tuyến tính.Ngay lĩnh vực giải tích số, giải nhiều tốn phải đƣa giải nhiều hệ phƣơng trình tuyến tính Xét hệ phƣơng trình tuyến tính tổng qt sau : a11.x1  a12 x2   a1n xn  b1 a x  a x   a x  b  21 22 2n n ,   an1 x1  an x2   ann xn  bn (0.1) Ax  b (0.2) dạng ma trận : Nếu hệ (0.1) hệ Cramer có nghiệm det(A)  0.Nghiệm hệ đƣợc biễu diễn dƣới dạng tổng quát gọi công thức Cramer : xi  det  Ai  , det  A (0.3) Ai ma trận nhận đƣợc hệ ma trận A cách thay cột thứ i cột vế phải b Tuy nhiên ý nghĩa sử dụng thực tế công thức n đủ nhỏ (n  2;3) Vì với n đủ lớn điều gần nhƣ Nhƣ với n  30 gần 400 ngàn tỷ năm để tính nghiệm theo cơng thức máy tính có tốc độ tính khoảng 20 tỷ phép tính/giây Nhƣng quan trọng sau 400 ngàn tỷ năm ta nhận đƣợc lời giải nghiệm hệ nữa, đơn giản số phép tốn q lớn nên riêng sai số làm trịn số thơi cho ta kết chẳng liên quan đến hệ phƣơng trình tuyến tính cho Nếu ta lấy đại lƣợng cond ( A)  sup x 0 Ax Ax / inf , x 0 x x (0.4) làm đặc trƣng hệ phƣơng trình với cond(A) lớn đƣợc gọi hệ trạng yếu (hoặc điều kiện xấu) nhạy cảm với thay đổi vế phải, dù nhỏ,nghĩa thay đổi nghiệm lớn, thay đổi vế phải nhỏ (nhƣ làm tròn số chẳng hạn) Nhƣ vậy, giải hệ phƣơng trình tuyến tính với thể trạng yếu khơng có độ tin cậy nghiệm nhận đƣợc Một khó khăn liên quan đến số ẩn cần tìm Nếu số lớn số phép tốn cần làm thuật tốn giải lớn sai số thực phép tốn dẫn đến nghiệm khơng cịn nghiệm cần tìm Vì lý đó, tơi chọn đề tài “Phương pháp tìm nghiệm hệ phương trình tuyến tính gần suy biến” Mục tiêu nội dung nghiên cứu đề tài Mục tiêu đề tài giúp ngƣời đọc đánh giá đƣợc hệ phƣơng trình tuyến tính điều kiện tốt điều kiện xấu, qua lựa chọn phƣơng pháp giải phù hợp nhƣ đánh giá đƣợc sai số kết thu đƣợc Một số điểm cố gắng đƣa vào luận văn là: - Trình bày số định nghĩa, định lý liên quan đến đại số ma trận, hệ phƣơng trình tuyến tính - Đƣa vào số ví dụ giúp ngƣời đọc dễ nhận phƣơng pháp giải Trình bày đề tài - Đƣa ứng dụng Maple để giúp tính tốn nhanh Nội dung đề tài chia làm chƣơng Chƣơng : Hệ phƣơng trình tuyến tính trạng tốt Chƣơng : Hệ phƣơng trình tuyến tính gần suy biến Trong phần có ví dụ cụ thể Đối tƣợng phạm vi nghiên cứu Đối tƣợng nghiên cứu hệ phƣơng trình tuyến tính, hệ phƣơng trình tuyến tính gần suy biến Phạm vi nghiên cứu luận văn số phƣơng pháp giải hệ phƣơng trình tuyến tính đặc biệt hệ phƣơng trình tuyến tính điều kiện gần suy biến, ứng dụng maple để giải hệ phƣơng trình tuyến tính Phƣơng pháp nghiên cứu Thu thập báo, tài liệu tác giả liên quan đến hệ phƣơng trình tuyến tính Phân tích, nghiên cứu tài liệu để thực đề tài Trao đổi, thảo luận, tham khảo ý kiến giảng viên hƣớng dẫn Cấu trúc luận văn Ngoài phần mở đầu, kết luận, danh mục tài liệu tham khảo, luận văn chia làm hai chƣơng Chƣơng 1: Hệ phƣơng trình tuyến tính trạng tốt Trong chƣơng 1, luận văn trình bày khái niệm chung hệ phƣơng trình tuyến tính, điều kiện có nghiệm, định lý tồn nghiệm, giá trị riêng, vectơ riêng, ma trận chéo hóa đƣợc, phƣơng pháp giải hệ phƣơng trình tuyến tính điều kiện tốt Chƣơng 2: Hệ phƣơng trình tuyến tính gần suy yếu Trong chƣơng 2, luận văn trình bày hƣớng khắc phục, ví dụ minh họa giải hệ phƣơng trình gần suy biến phƣơng pháp giải hệ tốt phƣơng pháp phân rã suy biến, chƣơng trình maple dùng để giải hệ phƣơng trình tuyến tính điều kiện tốt xấu CHƢƠNG HỆ PHƢƠNG TRÌNH TUYẾN TÍNH CĨ THỂ TRẠNG TỐT 1.1 MA TRẬN VÀ ĐỊNH THỨC 1.1.1 Ma trận đơn vị Ma trận E cấp n có phần tử đƣờng chéo 1, phần tử ngồi đƣờng chéo gọi ma trận đơn vị: 1 0 En     0 1.1.2 Ma trận tam giác      (1.1) Ma trận A   aij nn đƣợc gọi ma trận tam giác (dƣới) tất phần tử nằm dƣới (trên) đƣờng chéo Các ma trận tam giác trên, ma trận tam giác dƣới gọi chung ma trận tam giác Ma trận vng có tất phần tử nằm ngồi đƣờng chéo gọi ma trận đƣờng chéo Ma trận đƣờng chéo dạng đặc biệt ma trận tam giác  a11 a12  a 22     a1n  a2 n  ;   ann   a11 a  21 a22    an1 an Ma trận tam giác dƣới Ma trận tam giác  a11  a 22     0     ann      ann  Ma trận đƣờng chéo 58 100 1000 1 10 1 15 225 3375 start ,  1 20 400 8000  1 22.5 506.25 11391 227.04  135.74   290.31  375.93  100 1000 1 10 0 125 2375 step  1,  0 10 300 7000  0 12.5 406.25 10391 1 227.04  135.74   290.31  375.93  10 100 1000 227.04 100 1000 227.04  1 10 0 125 2375 135.74    step  2, 0 50 2250 18.83    0 97.7500000 4453.500000 36.5800000 100 1000 227.04  1 10 0 125 2375 135.74   step  3,  0 50 2250 18.83    0 234.7500000 234.750000 1.27375000 > A1: = submatrix(c, n, n); #Trả ma trận hệ số dƣới dạng ma trận tam giác 1000  1 10 100 0 125 2375    A1: 0 50 2250    234.750000 0 > RHS1:=col (C , n+1) ; #Trả vectơ cột RHS1:  227.04 135.74 18.83 1.27375000 T > i:= `i`: 59 j:= `j`: #Bƣớc :Tính ngƣợc giá trị x theo công thức sau : ci  xi  "n" a i, j j i 1 xj ,i >X:=Array (1 .n) : >X [n] : = RHS1 [n] /A1 [n,n] : >For i from (n-1) by -1 to #Khởi tạo tổng ban đầu Sum:=0 ; For j from i+1 by to n # Sum:=sum+A1 [i,j] *X[j] : end : X [i] := (RHS1 [i] – summ) /A1 [I,i] : end do: > X; 4.2279552 21.2989030 0.1324306710 0.005425985091 #Bƣớc :So sánh với nghiệm tìm đƣợc lệnh linsolve có maple >with (linalg) : >Exactsoln : = linsolve (A, RHS) ; exactso ln :  4.227959624 21.25989118 0.132430616 0.00542598620 2.2.2 Phƣơng pháp phân rã LU #Bƣớc :Nhập thông số đầu vào > restart ; > n:=4 ; 60 > A:=Matrix ([[12 , , , 6.7] , [1 , , ,9.] , [13 ,12 ,4.001,8] , [5.6 ,3 ,7 ,1.003]]) ; >RHS := Matrix(4,1,[22 ,7 ,20.001, 5.301]) ; n: 6.7  12     A : 13 12 4.001    1.003 5.6 RHS :  22,7.,29.001,5.301 T #Bƣớc 2:Phân rã LU #Tìm phân rã LU từ ma trận hệ số A vuông ban đầu > LUdecompose :=proc(n,A) Local k, I, multiplier , j, sum, AA, L, U : L:= Matrix (1 .n, .n) ; U:=Matrix (1 .n, .n) ; #Khởi tạo đƣờng chéo ma trận U For i from by to n L [i , i] :=1.0; end do: #Đặt biến địa phƣơng AA thay cho ma trận A >For i from by to n For j from by to n AA[i , j] :=A[i , j]; end do: For k from by to n-1 For i from (k+1) by to n Multipler:=AA[i , k] / AA[k ,k] : 61 L [i, k] :=multiplier : For j from (k+1) by to n #Loại bỏ (i-1) ẩn từ hàng thứ I để tạo thành dạng ma trạn tam giác AA[i ,j] := AA[i ,j] – multiplier*AA[k ,j] : end : end do: end do: For i from by to n For j from i by to n U [i ,j] :=AA [i ,j] : end do: end do: return(L , U) : end proc: #Bƣớc 3: Giải hệ phƣơng trình Lux=b #Đặt Ux=Z ,Hệ trở thành LZ=b,ta tìm Z > forward substitution :=proc (n ,L, C) Local Z, i, sum, j: #Khai báo vectỏ Z Z:=Array(1 .n) : # Giải phƣơng trình với Z [1] :=C [1] /L [1, 1] ; Z [1] :=C [1] /L [1, 1] ; #Giải (n-1) phƣơng trình với cơng thức 62 zi  ci   li , j * z j li ,i ( j  i  1; i  n) >For i from by to n Sum:=0 for j from by to i-1 sum:=sum+L [i, j]*Z[j]: End do: Z[i] := (C[i] – sum) /L [i, i] ; end do: return(Z) : end proc: # Giải hệ Ux=Z với Z vừa tìm đƣợc > back substitution :=proc (n , U, Z) Local i, sum, j, X: #khởi tạo [X] vector > X:=Array (1 .n) ; #Giải từ phƣơng trình thứ n theo cơng thức X[n] :=Z [n] / U [n,n] >X[n] :=Z [n] / U [n,n] ; #Tìm (n-1) nghiệm cịn lại từ phƣơng trình thứ  n  1 th thứ theo công thức sau xi  zi   ui , j * x j ui ,i ( j  i  n; i  n  1) >For i from n-1 by -1 to #Khởi tạo tổng=0 >Sum:=0 ; #Tính tổng theo cơng thức đến phƣơng trình 63 For j from i+1 by to n Sum:=sum+U [i ,j]*X[j] ; End do: #Dùng cơng thức để tìm [X] X[i] :=(z[i]- sum) /U [i, i] ; End do: Return (X) ; End proc: #Các kết > LU:=Ludecompose (n, A): > L:=LU [1] ; > U:=LU [2] ; > Z:=forward substitution (n, L, RHS) ; > X:=back substitution (n, U, Z); 1.0 0 0  0.08333333333 1.0 0   L :  1.083333333 1.000000000 1.0 0    0.4666666667 0.06037735856 5645.277374 1.0 6.7 12   4.416666667 0.7500000000 8.441666667   U :  0 0.0010000010 7.699999998   0 43467.02179  0 Z :  22.00000000 5.166666667 0.001000000000 10.29899436 X : 1.275252676 1.310260491 .8244226876 0.0002369381185 2.2.3 Phƣơng pháp phân rã QR mgs := proc(A::Matrix) local m, n, i, j, k, total; 64 global V, Q, R; total := time(); m, n := LinearAlgebra:-Dimensions(A); if m < n then error "Số hàng phải lớn số cột" else for j to n V[j] := convert(LinearAlgebra:-SubMatrix(A,1 m,j j),Vector[column]) end do; unassign('Q','R'); R := Matrix(n,n,shape = triangular[upper]); R[1,1] := LinearAlgebra:-VectorNorm(V[1],2); Q[1] := V[1]/R[1,1]; for j from to n for i to j if i j then R[i,j] := LinearAlgebra:-DotProduct(Q[i],V[j]); V[j] := Q[i]*R[i,j]+V[j] else R[i,j] := LinearAlgebra:-VectorNorm(V[j],2); Q[j] := V[j]/R[i,j] end if end end do; Q := [seq(entries(Q)[k][1],k = n)]; Q := convert(Q,Matrix); 65 total := time()-total; printf("The QR factorization of the matrix based on the MGS algorithm required %0.8f CPU seconds.",total) end if end proc > f:=rand(1 10); #Tạo hàm ngẫu nhiên với số từ đến 10 f := proc() proc() option builtin = RandNumberinterface; end proc (6, 10, 4) +1 end proc; > M:=Matrix(f,8,4); 7 4  8  M  9   10 7   2 1  2  3 8  6 3  10  10 10 10 > LinearAlgebra:-Map(eval f,M);  10       10       10    10   7 3     10. >Q; 66 0.355371157890000 0.536795101025082 0.125725382685606 0.206838826912019 0.203069233080000 0.357255822814332 0.201801251387011 0.148218607853882  0.406138466160000 0.523124598971335 0.408554107555746 0.525502414461480   0.101534616540000 0.355433089207166 0.555754240176830 0.178485820208510  0.456905774430000 0.185007479032248 0.309642132170864 0.369047498397399    0.507673082700000 0.167691509764169 0.443789247197424 0.0139117060144198  0.355371157890000 0.00637956762508179 0.120640311849369 0.143129017130711   0.253836541350000 0.349053521582084 0.400385961743801 0.685830489856305  > R; 19.697715603592 19.596180992219 12.539525142689 12.336455909609   5.6559429560109 0.0483024454814 1.5465896223020    0 12.073026801598 1.4396891003725    0 8.3873244545018   2.2.4 Phƣơng pháp Cholesky #Nhập liệu ban đầu > n:=3; > A:=Matrix([[4,2,14],[2,17,-5],[14,-5,83]]); > RHS:=[14,-101,155];  14  A :  17 5;   14 5 83  RHS : 14, 101,155 > Choleskydecompose:=proc(n,A) local AA,L,LT,i,j,k,s,n1,k1,i1: #Khai baosma trận [L] [LT] >L:=Matrix(1 n,1 n); >LT:=Matrix(1 n,1 n); > for i from by to n 67 for j from by to n AA[i,j]:=A[i,j]; end do: end do: >L[1,1]:=sqrt(AA[1,1]); >for i from by to n L[i,1]:=AA[i,1]/L[1,1]; end do: >n1:=n-1; >for i from by to n1 k1:=i-1; s:=0; for k from by to k1 s:=s-L[i,k]*L[i,k]; L[i,i]:=sqrt(AA[i,i]+s); end do: > i1:=i+1; >for j from i1 by to n s:=0; k1:=i-1; for k from by to k1 s:=s-L[j,k]*L[i,k]; L[j,i]:=(AA[j,i]+s)/L[i,i]; end do: end do: >s:=0; 68 >n1:=n-1; >for k from by to n1 s:=s-L[n,k]*L[n,k]; L[n,n]:=sqrt(AA[n,n]+s); end do: #Tìm ma trận LT >for i from by to n for j from by to n LT[i,j]:=L[j,i]; end do: end do: return(L,LT): end proc: > forward_substitution:=proc(n,L,B) local Y,i,sum,j: #Khai báo vectơ Y Y:=Array(1 n): #Tìm Y(1) Y[1]:=B[1]/L[1,1]; #Tìm (n-1) giá trị chƣa biết cịn lại cơng thức sau  i 1  Bi    Li , j y j   j 1 i 2 n Yi  Li ,i > for i from by to n sum:=0; #Tính tổng theo cơng thức >for j from by to i-1 69 sum:=sum+L[i,j]*Y[j]: end do: Y[i]:=(B[i]-sum)/L[i,i]; end do: return(Y): end proc: >back_substitution:=proc(n,LT,Y) local i,sum,j,X: #Khai báo vectơ [X] X:=Array(1 n); #Giải phƣơng trình thứ n trƣớc X[n]:=Y[n]/LT[n,n]; #Giải (n-1) phƣơng trình từ phƣơng trình thứ (n-1) đến phƣơng trình đầu theo công thức sau  i 1  Yi    LTi , j x j   j i 1 i n1 Xi  LTi ,i >for i from n-1 by -1 to #Gán tổng ban đầu sum:=0; #Tính tổng tiếp tho theo công thức >for j from i+1 by to n sum:=sum+LT[i,j]*X[j]; end do: #Dùng công thức giải vector [X] X[i]:=(Y[i]-sum)/LT[i,i]; end do: 70 return(X); end proc: #Dƣới chƣơng trình trả ma trân tam giác dƣới,ma trận tam giác nghiệm > cholesky:=Choleskydecompose(n,A): L:=cholesky[1]; LT:=cholesky[2]; Y:=forward_substitution(n,L,RHS); X:=back_substitution(n,LT,Y); 2 0 2  L : 1  ; LT : 0 3 ;Y : 7 27 5;     7 3  0  X : 3 6 1 71 KẾT LUẬN Sau thời gian nghiên cứu thực hiện, luận văn hoàn thành đƣợc mục đích nhiệm vụ nhƣ sau: * Trình bày số khái niệm, định lý ma trận, định thức, hạng ma trận,giá trị riêng, vectơ riêng, hệ phƣơng trình tuyến tính,và số phƣơng pháp giải hệ phƣơng trình thể trạng tốt * Trình bày nội dung phƣơng pháp giải hệ phƣơng trình tuyến tính gần suy biến,áp dụng maple vào giải hệ phƣơng trình tuyến tính * Trong thời gian thực luận văn khơng thể tránh khỏi sai sót, kính mong thầy đóng góp ý kiến để luận văn thêm hoàn thiện TÀI LIỆU THAM KHẢO Tiếng Việt [1] Trần Trọng Huệ, Đại số tuyến tính hình học giải tích NXB Giáo Dục Việt Nam [2] Nguyễn Văn Mậu, Đại số tuyến tính hình học giải tích NXB Đại học Quốc gia Hà Nội [3] Trần Văn Tràn, Phương pháp số thực hành NXB Đại học Quốc gia Hà Nội [4] Hoàng Xuân Huấn, Giáo trình phương pháp số NXB Đại học Quốc gia Hà Nội [5] Phạm Phú Triêm, Giải tích số NXB Đại học Quốc gia Hà Nội [6] Trần Quốc Chiến (2008), Giáo trình phần mềm tốn học Maple Internet [7] www,mathvn.com [8] www.vntoanhoc.com ... 1.5.9 Phƣơng pháp lắc 43 CHƢƠNG PHƢƠNG PHÁP TÌM NGHIỆM HỆ PHƢƠNG TRÌNH TUYẾN TÍNH GẦN SUY BIẾN 46 2.1 HỆ PHƢƠNG TRÌNH TUYẾN TÍNH GẦN SUY BIẾN 46 2.1.1 Định nghĩa tính chất ... phƣơng trình tuyến tính gần suy biến Phạm vi nghiên cứu luận văn số phƣơng pháp giải hệ phƣơng trình tuyến tính đặc biệt hệ phƣơng trình tuyến tính điều kiện gần suy biến, ứng dụng maple để giải hệ. .. (1.21) Hệ phƣơng trình (1.21) đƣợc gọi hệ phƣơng trình tuyến tính Định nghĩa 1.8 Hệ phƣơng trình tuyến tính (1.19) đƣợc gọi - Hệ phƣơng trình tuyến tính suy biến det  A 0 - Hệ phƣơng trình tuyến