ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KHOA HỌC PHẠM TRỊNH CƯƠNG CHÍNH VỀ KỸ THUẬT TIỀN TÁC ĐỘNG GIẢI HỆ PHƯƠNG TRÌNH TUYẾN TÍNH CỠ LỚN LUẬN VĂN THẠC SĨ TOÁN HỌC Thái Nguyên 2015 c ĐẠI HỌC THÁI NGUYÊN TRƯ[.]
ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KHOA HỌC PHẠM TRỊNH CƯƠNG CHÍNH VỀ KỸ THUẬT TIỀN TÁC ĐỘNG GIẢI HỆ PHƯƠNG TRÌNH TUYẾN TÍNH CỠ LỚN LUẬN VĂN THẠC SĨ TOÁN HỌC Thái Nguyên - 2015 c ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KHOA HỌC PHẠM TRỊNH CƯƠNG CHÍNH VỀ KỸ THUẬT TIỀN TÁC ĐỘNG GIẢI HỆ PHƯƠNG TRÌNH TUYẾN TÍNH CỠ LỚN Chun ngành: Tốn ứng dụng Mã số: 60 46 01 12 LUẬN VĂN THẠC SĨ TOÁN HỌC NGƯỜI HƯỚNG DẪN KHOA HỌC TS NGUYỄN THANH SƠN Thái Nguyên - 2015 c i Mục lục Lời cảm ơn iii Mở đầu 1 Kiến thức chuẩn bị 1.1 Hệ phương trình tuyến tính 1.1.1 Định lí Kronecker-Capelli 1.1.2 Định lí Cramer Phương pháp giải trực tiếp 1.2.1 Phương pháp khử Gauss 1.2.2 Phương pháp phân tích LU Phương pháp lặp cổ điển 1.3.1 Phương pháp lặp đơn 1.3.2 Phương pháp Jacobi 1.3.3 Phương pháp Gauss - Seidel Phương pháp không gian Krylov 10 1.4.1 Khơng gian Krylov Thuật tốn Arnoldi 10 1.4.2 Phương pháp CG 12 1.4.3 Phương pháp GMRES 14 1.4.4 Phương pháp Arnoldi 15 1.2 1.3 1.4 Kĩ thuật tiền tác động 18 2.1 18 Tiền tác động phép lặp cổ điển c ii 2.1.1 2.2 2.3 2.4 Jacobi, SOR(Successive Overrelaxtion) SSOR(Symetric SOR) nhân tử tiền tác động 18 Kĩ thuật tiền tác động tổng quát 21 2.2.1 Giới thiệu 21 2.2.2 Phân tích ILU 22 2.2.3 Phân tích Cholesky thiếu (IC) 23 Tiền tác động khối thiếu 23 2.3.1 Phân tích Cholesky khối thiếu 23 2.3.2 Ý tưởng phân chia miền 25 2.3.3 Ma trận ba đường chéo khối 25 2.3.4 Ma trận với cấu trúc 26 2.3.5 Xấp xỉ nghịch đảo 26 2.3.6 Phép lặp toàn cục 27 Kỹ thuật tiền tác động với phương pháp lặp 28 2.4.1 PCG 28 2.4.2 PGMRES 29 Ví dụ số 35 3.1 Phương pháp CG PCG 35 3.2 Phương pháp GMRES PGMRES 36 3.3 Kết luận 37 Kết luận 38 Tài liệu tham khảo 39 c iii Lời cảm ơn Tơi xin bày tỏ lịng biết ơn chân thành sâu sắc đến thầy giáo, TS Nguyễn Thanh Sơn tận tình bảo, hướng dẫn tơi suốt thời gian làm luận văn Tôi xin chân thành cảm ơn giúp đỡ quý báu thầy, cô giáo tham gia giảng dạy khóa học Khoa Tốn - Tin trường Đại học Khoa học - Đại học Thái Nguyên, truyền thụ kiến thức Tôi xin cảm ơn động viên, giúp đỡ, bảo gia đình, bạn bè, đồng nghiệp, Ban chun mơn, Ban giám hiệu, Ban chấp hành Đoàn trường THPT Phạm Ngũ Lão - Ân Thi - Hưng Yên dành cho tơi q trình nghiên cứu hồn thành luận văn Luận văn thực khuôn khổ Đề tài Nghiên cứu Khoa học Tự nhiên tài trợ Quỹ phát triển Khoa học Công nghệ Quốc gia NAFOSTED, mã số 101.01-2014.36 Thái Nguyên, tháng 11 năm 2015 Phạm Trịnh Cương Chính Học viên Cao học Toán K7Y, Trường Đại học Khoa học - Đại học Thái Nguyên c Mở đầu Hệ phương trình tuyến tính đời từ lâu phổ biến đời sống Rất nhiều tốn đơn giản quy hệ phương trình tuyến tính Trong số đó, ta phải kể đến tốn dân gian Vừa gà vừa chó Bó lại cho trịn Ba mươi sáu Một trăm chân chẵn Việc nghiên cứu lý thuyết hệ phương trình tuyến tính bắt đầu bậc đại học khn khổ mơn đại số tuyến tính Liên quan đến nó, ta phải nhắc đến định lý đẹp như: Định lí Cramer định lý Kronecker - Capelli Định lý Cramer cung cấp cho ta công thức gọn gàng, dễ hiểu thu nghiệm (nếu có) hệ phương trình Tuy nhiên, cách tiếp cận dùng học đường với hệ có vài ẩn số Như chương ra, giải hệ phương trình theo phương pháp Cramer đắt đỏ khơng phù hợp với hệ sở từ vừa phải đến lớn Để khắc phục điều đó, người ta tìm phương pháp khử Gauss, phương pháp dựa phân tích LU Chúng phương pháp giải trực tiếp có độ phức tạp tính tốn đa thức bậc ba Mặc dù, bước tiến đáng kể chúng áp dụng cho hệ có kích cỡ vừa phải Để giải hệ phương trình cỡ lớn, ta buộc phải dùng phương pháp lặp Chúng phương pháp gián tiếp, tính nghiệm xấp xỉ lại vơ hiệu cho hệ lớn Bên cạnh phương pháp lặp cổ điển như: Jacobi, Gauss - Seidel, c phương pháp sử dụng công cụ đại phương pháp CG hay phương pháp GMRES trở thành cơng cụ khơng thể thiếu tốn học tính tốn Như chương 1, tốc độ hội tụ phương pháp lại phụ thuộc chặt chẽ vào số điều kiện ma trận hệ số Nếu ma trận có số điều kiện tốt, phương pháp hội tụ nhanh Tuy nhiên, không may mắn, ma trận hệ số có số điều kiện xấu, phương pháp hội tụ chậm Câu hỏi đặt làm để thay đổi thực tế đó? Kỹ thuật tiền tác động (preconditioning), câu trả lời Chính tầm quan trọng kỹ thuật trên, chọn "Về kỹ thuật tiền tác động giải hệ phương trình tuyến tính cỡ lớn" đề tài nghiên cứu cho luận văn thạc sĩ Mục đích luận văn nghiên cứu, trình bày cách có hệ thống việc giải hệ phương trình tuyến tính từ phương pháp thô sơ cho hệ nhỏ, đến phương pháp đại cho hệ lớn Cái đích quan trọng luận văn trình bày số kỹ thuật tiền tác động số thuật toán lặp tiền tác động, với ý định tiền tác động cơng cụ góp phần quan trọng vào giải hệ phương trình tuyến tính cỡ lớn Đối tượng nghiên cứu đề tài phương pháp tiền tác động để giải lặp hệ phương trình tuyến tính Phạm vi nghiên cứu kỹ thuật tổng quát cách thức áp dụng kỹ thuật vào hai phương pháp lặp thơng dụng CG GMRES Phương pháp nghiên cứu sử dụng đọc hiểu tài liệu kinh điển trình bày lại cách có hệ thống Thêm vào đó, chúng tơi thực kiểm tra số phương pháp thơng qua việc lập trình MATLAB Ý nghĩa khoa học lớn đề tài thực nghiên cứu liền mạch phương pháp giải hệ phương trình tuyến tính, từ đơn giản đến phức tạp trình bày lại cách có hệ thống dễ hiểu Sau bảo vệ luận văn tài liệu tham khảo tốt cho sinh viên ngành toán học viên cao học chuyên ngành Toán ứng dụng, với thiên hướng tốn học tính tốn Để đạt mục tiêu trên, luận văn trình bày sau: Chương c dùng để trình bày kiến thức chuẩn bị vô quan trọng như: Định lí Kronecker - Capelli, định lí Cramer, số phương pháp giải trực tiếp (khử Gauss, phân tích LU ) số phương pháp lặp cổ điển (lặp đơn, Jacobi, Gauss - Seidel), phương pháp không gian Krylov, làm kiến tảng cho nghiên cứu kỹ thuật tiền tác động Nội dung chương kỹ thuật tiền tác động tổng quát, kỹ thuật tiền tác động khối thiếu, kỹ thuật tiền tác động với phương pháp lặp Trong chương chúng tơi trình bày số ví dụ số để minh họa, kiểm chứng cho thuật toán Mặc dù cố gắng hết sức, điều kiện thời gian nghiên cứu hạn hẹp luận văn tránh khỏi thiếu xót Rất mong nhận ý kiến đóng góp q báu từ thầy, giáo anh, chị, em, bạn bè đồng nghiệp Thái Nguyên, ngày 01 tháng 11 năm 2015 Phạm Trịnh Cương Chính Học viên Cao học Tốn lớp Y, khóa 01/2014-01/2016 Chuyên ngành Toán ứng dụng Trường Đại học Khoa học - Đại học Thái Nguyên Email: cuongchinh85@gmail.com c Chương Kiến thức chuẩn bị Chương viết dựa tài liệu tham khảo [1],[2] Trước tiên, xét hệ phương tình tuyến tính tổng qt dạng Ax = b (1.1) A ma trận cỡ n × n, b ma trận cột Ma trận A gọi ma trận hệ số, b gọi ma trận hệ số tự 1.1 Hệ phương trình tuyến tính Khi giải hệ phương trình tuyến tính (1.1) ta thường quan tâm có nghiệm nghiệm tìm thấy cách Câu hỏi tồn nghiệm hệ (1.1) giải đáp Định lí Kronecker-Capelli 1.1.1 Định lí Kronecker-Capelli Định lí 1.1 (Định lí Kronecker-Capelli) Hệ phương trình tuyến tính (1.1) có nghiệm hạng ma trận A hạng ma trận bổ sung A Trong đó, ma trận bổ sung ma trận (A|b) xác định cách đặt thêm ma trận cột tự b vào phía bên phải ma trận A Định lí Kronecker-Capelli điều kiện cần đủ để hệ (1.1) có nghiệm, mà chưa thể có cơng thức nghiệm Trong trường hợp A ma trận vng cấp n có định thức detA 6= 0, ta có Định lí Cramer c 1.1.2 Định lí Cramer Định lí 1.2 (Định lí Cramer) Gọi Aj ma trận nhận từ ma trận A cách thay cột thứ j cột b Khi đó, hệ (1.1) có nghiệm xj tính công thức xj = detAj detA Tuy nhiên, thực hành người ta không dùng công thức để tính nghiệm số lượng phép tính q lớn Có thể tính tốn độ phức tạp tính toán phương pháp O(n.n!) 1.2 Phương pháp giải trực tiếp 1.2.1 Phương pháp khử Gauss Phương pháp khử Gauss phương pháp giải hệ phương trình tuyến tính dùng cách khử dần ẩn để đưa hệ phương trình cho dạng tam giác giải hệ tam giác từ lên mà ta khơng phải tính định thức Phương pháp thực qua bước sau: • Bước 0: Dùng phương trình để khử x1 n − phương trình cịn lại Giả sử a11 6= Để cho công thức đơn giản, trước khử ta chia phương trình thứ cho a11 Cụ thể, để khử x1 hàng thứ k(k = 2, 3, n) ta phải tính lại hệ số akj hàng thứ k (j = 1, 2, , n + 1) sau: akj = akj − a1j ak1 a11 • Bước 1: Dùng phương trình thứ để khử x2 n − phương trình cịn lại phía sau Giả sử a22 6= Để cho công thức đơn giản, trước khử ta chia phương trình thứ hai cho a22 Cụ thể, để khử x2 hàng thứ k(k = 3, 4, n) ta phải tính lại hệ số akj hàng thứ k (j = 2, , n + 1) sau: akj = akj − a2j c ak2 a22 ... thuật tiền tác động (preconditioning), câu trả lời Chính tầm quan trọng kỹ thuật trên, chọn "Về kỹ thuật tiền tác động giải hệ phương trình tuyến tính cỡ lớn" đề tài nghiên cứu cho luận văn thạc. .. quan trọng luận văn trình bày số kỹ thuật tiền tác động số thuật toán lặp tiền tác động, với ý định tiền tác động cơng cụ góp phần quan trọng vào giải hệ phương trình tuyến tính cỡ lớn Đối tượng... thạc sĩ Mục đích luận văn nghiên cứu, trình bày cách có hệ thống việc giải hệ phương trình tuyến tính từ phương pháp thô sơ cho hệ nhỏ, đến phương pháp đại cho hệ lớn Cái đích quan trọng luận văn