Giá trị tới hạn tại vô hạn của ánh xạ đa thức và ánh xạ hữu tỷ với thớ một chiều

Giá trị tới hạn tại vô hạn của ánh xạ đa thức và ánh xạ hữu tỷ với thớ một chiều Giá trị tới hạn tại vô hạn của ánh xạ đa thức và ánh xạ hữu tỷ với thớ một chiều Giá trị tới hạn tại vô hạn của ánh xạ đa thức và ánh xạ hữu tỷ với thớ một chiều luận văn tốt nghiệp,luận văn thạc sĩ, luận văn cao học, luận văn đại học, luận án tiến sĩ, đồ án tốt nghiệp luận văn tốt nghiệp,luận văn thạc sĩ, luận văn cao học, luận văn đại học, luận án tiến sĩ, đồ án tốt nghiệp

ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN Vũ Tiến Dũng GIẢI HỆ PHƯƠNG TRÌNH KÍCH THƯỚC LỚN VÀ ĐIỀU KIỆN XẤU TRÊN BĨ MÁY TÍNH LUẬN ÁN TIẾN SĨ TỐN HỌC Hà Nội - 2014 ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN Vũ Tiến Dũng GIẢI HỆ PHƯƠNG TRÌNH KÍCH THƯỚC LỚN VÀ ĐIỀU KIỆN XẤU TRÊN BĨ MÁY TÍNH Chun ngành: Bảo đảm tốn học cho máy tính hệ thống tính tốn Mã số: 62 46 35 01 LUẬN ÁN TIẾN SĨ TOÁN HỌC Người hướng dẫn khoa học: GS.TSKH PHẠM KỲ ANH Hà Nội - 2014 LỜI CAM ĐOAN Tôi xin cam đoan cơng trình nghiên cứu riêng tơi hướng dẫn GS Phạm Kỳ Anh Các số liệu, kết trình bày luận án trung thực chưa công bố cơng trình khác Nghiên cứu sinh Vũ Tiến Dũng i LỜI CẢM ƠN Trước hết xin gửi lời cảm ơn chân thành sâu sắc tới Thầy hướng dẫn, GS TSKH Phạm Kỳ Anh Trong suốt trình thực luận án, nhận giúp đỡ tận tình, quý báu Thầy Nhờ ý tưởng mà Thầy gợi ý, góp ý, hướng dẫn Thầy, tài liệu bổ ích mà Thầy cung cấp trao đổi thú vị Thầy công việc nghiên cứu, hồn thành đề tài Và cả, suốt trình học tập trước trình thực luận án, tơi ln cảm nhận tình thương q, tin u thầy giành cho tơi, động viên khích lệ thầy tơi gặp khó khăn tạo động lực cho tơi vững tin thực q trình nghiên cứu Đối với cá nhân tơi, thầy không đơn người hướng dẫn khoa học mà cịn người cha thứ hai tơi Tôi xin chân thành cảm ơn thầy cô anh chị em Bộ mơn Tin học, Khoa Tốn-Cơ-Tin học, đặc biệt GS TS Đặng Huy Ruận, PGS TS Nguyễn Hữu Ngự, PGS TS Đỗ Trung Tuấn, PGS TS Lê Trọng Vĩnh, TS Nguyễn Thị Minh Huyền, chia sẻ, động viên, tạo điều kiện thu xếp công việc thuận lợi, giúp đỡ nhiều việc hồn thành luận án Tơi xin chân thành cảm ơn thầy cô, anh chị bạn Xemina "Tốn học tính tốn" thảo luận góp ý buổi Xemina Đặc biệt, tơi xin chân thành cảm ơn GS TSKH Nguyễn Hữu Công, PGS TSKH Vũ Hoàng Linh, PGS TS Nguyễn Hữu Điển, GS TS Đặng Quang Á, PGS TSKH Phạm Huy Điển, PGS TS Nguyễn Minh Tuấn, TS Nguyễn Trung Hiếu giúp đỡ, góp ý kiến xác đáng để luận án hồn thiện Tơi xin chân thành cảm ơn thầy anh chị em Trung tâm Tính tốn Hiệu cao, ĐHKHTN, ĐHQG Hà Nội Trong suốt thời gian học tập trước trình nghiên cứu sinh, Trung tâm tạo điều kiện cho tơi tìm hiểu tiếp cận phương tiện, máy móc tạo mơi trường làm việc thuận lợi để tơi thực đề tài Tơi biết ơn Trường ĐHKHTN, ĐHQG Hà Nội Công tác quản lý đào tạo môi trường nghiên cứu Trường góp phần khơng nhỏ luận án hoàn thành dự định Xin chân thành cảm ơn TS Cao Văn Chung, Lê Trung Kiên, Nguyễn Trung ii Kiên, Nguyễn Thị Thanh Lan, Vũ Anh Mỹ, Đặng Văn Hiếu bạn khác, người chia sẻ, giúp đỡ nhiều mặt, để hồn thành q trình nghiên cứu Tôi xin gửi lời cảm ơn tới Quỹ Phát triển Khoa học Công nghệ Quốc gia Việt Nam (NAFOSTED) Luận án hỗ trợ phần mặt tài Quỹ, khn khổ Đề tài Nghiên cứu khoa học mã số 101.02.4209 Cuối cùng, muốn bày tỏ lòng biết ơn sâu sắc tới mẹ người thân gia đình, người cảm thơng chia sẻ khó khăn tơi suốt năm tháng qua để tơi hồn thành luận án Luận án này, cố gắng thực hiện, để gửi tới cha, mẹ, vợ người thân gia đình, với tất lòng biết ơn sâu sắc iii Mục lục Lời cam đoan i Lời cảm ơn ii Danh mục ký hiệu chữ viết tắt viii Danh mục bảng x Danh mục hình vẽ xi Mở đầu Chương Kiến thức chuẩn bị 12 1.1 Ngun lý tính tốn song song 12 1.1.1 Kiến trúc máy tính song song 13 1.1.2 Lập trình song song 21 1.1.3 Đánh giá hiệu tính tốn song song 23 1.2 Bài tốn kích thước lớn, điều kiện xấu tốn đặt khơng chỉnh 24 1.2.1 Bài tốn kích thước lớn 24 1.2.2 Bài tốn đặt khơng chỉnh tốn điều kiện xấu 27 1.2.3 Một số phương pháp hiệu chỉnh 30 1.2.4 Quy trình giải tốn kích thước lớn điều kiện xấu bó máy tính 32 1.2.5 Một số phương pháp song song giải hệ phương trình toán tử iv 33 Chương Phương pháp song song giải hệ phương trình tốn tử tuyến tính ứng dụng 35 2.1 Phương pháp chỉnh lặp song song 36 2.2 Giải hệ phương trình đại số tuyến tính xác định ứng dụng tốn khơi phục ảnh 38 2.2.1 Phương pháp chỉnh lặp song song chỉnh lặp ẩn song song cho hệ phương trình đại số tuyến tính q xác định 39 2.2.2 Ước lượng sai số phương pháp 43 2.3 Thử nghiệm số 46 2.3.1 Giải hệ phương trình đại số tuyến tính xác định 46 2.3.2 Bài tốn khơi phục ảnh đa cấp xám 52 2.4 Phương pháp song song tồn phần giải lớp phương trình đạo hàm riêng đại số 61 2.4.1 Phân rã toán biên cho phương trình đạo hàm riêng đại số thành tốn biên cho phương trình elliptic phương trình parabolic 62 2.4.2 Phương pháp phân rã song song giải tốn biên cho phương trình elliptic parabolic 67 2.4.3 Thử nghiệm số 70 Chương Phương pháp chỉnh lặp Gauss-Newton song song giải hệ phương trình tốn tử phi tuyến ứng dụng 75 3.1 Phương pháp chỉnh lặp Gauss-Newton phương pháp chỉnh lặp Gauss -Newton song song 76 3.2 Sự hội tụ phương pháp chỉnh lặp Gauss-Newton song song 80 3.3 Áp dụng cho hệ phi tuyến xác định 86 3.4 Hệ phương trình có cấu trúc thưa 92 v 3.5 Mối liên hệ phương pháp chỉnh lặp Gauss-Newton song song phương pháp chỉnh lặp song song 95 Kết luận 97 Danh mục cơng trình khoa học tác giả liên quan đến luận án 99 Tài liệu tham khảo vi 100 Danh mục ký hiệu chữ viết tắt ·, · Tích vơ hướng (hoặc tích đối ngẫu) x Chuẩn véc tơ x D Chuẩn ma trận D F (x) Đạo hàm Frechet F điểm x cond(A) Số điều kiện ma trận A >> Ký hiệu lớn nhiều AT Ma trận chuyển vị ma trận A Toeplitz Ma trận Toeplitz vec(F) Phép dãn ma trận F thành véc tơ ⊗ Tích Kronecker A Tốn tử liên hợp tốn tử A H Khơng gian Hilbert PIIRM (PEIRM) Phương pháp chỉnh lặp ẩn (hiện) song song PEIRMm Phương pháp PEIRM với m bước lặp IRGNM Phương pháp chỉnh lặp Gauss Newton PIRGNM Phương pháp chỉnh lặp song song Gauss Newton PSU Phương pháp phân rã song song PFS Phương pháp song song với bước phân LW Phương pháp lặp Landweber TSVD Phương pháp khai triển kỳ dị chặt cụt CGLS Phương pháp bình phương tối thiểu gradient liên hợp x† Nghiệm hệ phương trình vii IVP Bài toán giá trị ban đầu BVP Bài toán biên xnδ Nghiệm xấp xỉ thứ n x† TOL(REN = T OL/ x† ) Sai số (Sai số tương đối) nmax Tổng số bước lặp nmin Số n nhỏ sai số tương đối (REN) phương pháp tương ứng nhỏ giá trị cho trước span(Vk ) Không gian sinh tập k véc tơ Vk = {v1 , , vk } IBVP Bài toán biên - ban đầu Tp (Ts ) Thời gian (giây) chạy song song (tuần tự) S p = Ts /Tp (E p = S p /N) Tỷ lệ tăng tốc độ (Hiệu suất trung bình CPU) SISD Đơn lệnh, đơn dịng liệu SIMD Đơn lệnh, đa dòng liệu MISD Đa lệnh, đơn dòng liệu MIMD Đa lệnh, đa dòng liệu VPU Bộ xử lý véc tơ SM_MIMD Kiến trúc máy tính đa lệnh, đa dịng liệu với nhớ chia sẻ DM_MIMD Kiến trúc máy tính đa lệnh, đa dòng liệu với nhớ phân tán UMA Kiến trúc máy tính song song với nhớ chia sẻ truy cập ngang quyền SMP Máy tính đa xử lý đối xứng NUMA Kiến trúc máy tính song song với nhớ chia sẻ truy cập không ngang quyền GPU Đơn vị xử lý đồ họa CUDA Kiến trúc thiết bị tính tốn hợp viii Bảng 3.6: Kết nhận hai phương pháp với số bước lặp cố định IRGNM nmax δ REN 10−6 10−7 PIRGNM REN Ts 2.24e − 0.45 Ts 10 2.241e − 0.64 20 1.31e − 1.26 1.27e − 10 0.9 30 7.5e − 10 1.88 7.3e − 12 1.3 10 2.253e − 0.64 2.25e − 0.45 15 6.35e − 5.34e − 10 0.6 20 4.79e − 1.26 1.27e − 11 0.9 10 2.241e − 0.64 2.25e − 0.45 15 5.48e − 5.34e − 10 0.6 20 1.39e − 1.26 1.27e − 11 0.9 1 Bảng 3.7: Hiệu suất tốc độ phương pháp PIRGNM bó máy tính IBM 1350 m 100000 Số xử lý Thời gian Sp Ep 15 8.5 1.76 0.88 5.3 2.84 94 0.7 3.5 Mối liên hệ phương pháp chỉnh lặp GaussNewton song song phương pháp chỉnh lặp song song Do phương pháp chỉnh lặp Gauss-Newton song song dùng để giải hệ phương trình phi tuyến, nên ta sử dụng phương pháp để giải hệ phương trình tuyến tính Khi đó, phương pháp chỉnh lặp Gauss-Newton song song, viết lại đơn giản sau: δ = BTi yδi , (BTi Bi + βn I)xn+1,i δ xn+1 i = 1, , N, N δ = ∑ xn+1,i N i=1 (3.32) (3.33) Tuy nhiên, βn gần tới 0, phương trình (3.32) trở nên không ổn định Mặt khác, phương pháp chỉnh lặp ẩn song song có dạng BTδ i Bδ i + (γn + αn )I zin = γn zn + BTδ i gδ i , N N i zn+1 = ∑ zn , N i=1 i = 1, 2, , N, n ≥ (3.34) (3.35) Trong trường hợp hệ xác định, phương trình (3.32) (3.34) có kích thước Tuy nhiên, phương trình (3.34) nhờ có tham số phân rã, γn → ∞ nên ổn định Trong trường hợp hệ xác định, phương pháp chỉnh lặp Gauss-Newton song song viết lại dạng biểu thức đơn giản sau δ xn+1,i = BTi (Bi BTi + βn I)−1 yδi , δ xn+1 = N δ ∑ xn+1,i N i=1 i = 1, , N, (3.36) (3.37) δ Nhận xét 3.7 Rõ ràng, việc tính toán xn+1,i biểu thức (3.36) dễ dàng nhiều so với việc tính zin biểu thức (3.34) kích thước ma trận cần tính nghịch đảo biểu thức (3.36) nhỏ nhiều so với ma trận cần tính nghịch đảo biểu thức (3.34) Do đó, trường hợp hệ tuyến tính xác định, phương pháp chỉnh lặp Gauss-Newton có ưu điểm đơn giản hóa tính tốn nhờ giảm kích thước đáng kể ma trận cần tính nghich đảo so với phương pháp chỉnh lặp ẩn song song 95 KẾT LUẬN CHƯƠNG Trong chương này, đề xuất phương án song song phương pháp chỉnh lặp Gauss-Newton để giải hệ phương trình tốn tử đặt khơng chỉnh Dựa tính tốn song song, giảm thiểu khối lượng tính tốn node mà khơng cần đặt thêm điều kiện lên toán tử Thử nghiệm số bó máy tính chứng tỏ tính ưu việt phương pháp song song cho hệ phi tuyến xác định số hệ phương trình phi tuyến thưa 96 Kết luận Luận án đề xuất số phương pháp song song giải hệ phương trình kích thước lớn điều kiện xấu bó máy tính Các kết mà luận án thu bao gồm: (1) Phương pháp giải hệ đại số tuyến tính xác định dựa phương pháp chỉnh lặp ẩn song song (PIIRM) phương pháp chỉnh lặp song song (PEIRM) ứng dụng tốn khơi phục ảnh (2) Phương pháp song song toàn phần giải lớp phương trình đạo hàm riêng đại số (3) Phương pháp chỉnh lặp Gauss-Newton song song (PIRGNM) giải hệ phương trình toán tử phi tuyến Các phương pháp (1) (3) xét trường hợp liệu xác liệu có nhiễu Khi nghiệm thỏa mãn điều kiện nguồn, tốc độ hội tụ cho phương pháp PIRGNM thiết lập Mỗi phương pháp đề xuất luận án có thử nghiệm số minh họa bó máy tính Mặc dù phương pháp đề xuất luận án sử dụng cho máy tính song song, chúng tỏ hữu hiệu so với nhiều phương pháp song song khác thực thi bó máy tính với nhớ hạn chế Luận án mở số vấn đề tiếp tục nghiên cứu: (i) Ứng dụng phương pháp giải hệ đại số tuyến tính xác định vào toán xử lý ảnh (ii) Ứng dụng phương pháp chỉnh lặp Gauss-Newton song song vào toán khớp liệu đường cong mặt cong 97 (iii) Nghiên cứu phương pháp kết hợp chỉnh hóa, phân rã song song rời rạc hóa để giải hệ phương trình tốn tử đặt khơng chỉnh Áp dụng để giải phương trình tích phân loại (iv) Nghiên cứu kỹ thuật phân rã, chia miền khác để xây dựng phương pháp song song Các kết luận án báo cáo tại: • Xêmina mơn Tốn học Tính tốn - Khoa Tốn Cơ Tin học - Trường ĐH KHTN, ĐHQG Hà Nội • Hội nghị khoa học - Trường ĐHKHTN, ĐHQG Hà Nội năm 2010 • The 4th International Conference on High-Performance Scientific Comput- ing, Modeling, Simulation and Optimization of Complex Processes, Hanoi, Vietnam, March 2-6, 2009 • Second Workshop on Computer-Assisted Science, Cybermedia Center, Os- aka Univ., Toyonaka, Japan, November 6, 2009 • International Conference on New Directions in Analysis, Ha Noi, August 9-15, 2010 • Hội nghị toàn quốc lần thứ Ứng dụng Tốn học, Hà Nội, 23 - 25/12/2010 • International conference on Analysis and Applied Mathematics, Saigon Uni- versity, Ho Chi Minh City, March 14, 2011 • The 5th International conference on High-Performance Scientific Comput- ing, Modeling, Simulation and Optimization of Complex Processes, Hanoi, Vietnam, March 5-9, 2012 • Hội nghị Toán học Việt Nam lần thứ 8, Nha Trang 10-14/8/2013 98 DANH MỤC CƠNG TRÌNH KHOA HỌC CỦA TÁC GIẢ LIÊN QUAN ĐẾN LUẬN ÁN [1 ] Vu Tien Dung (2007), "Fully parallel methods for a class of linear partial differential-algebraic equations",VNU Journal of Science, Mathematics Physics, 23, pp 201-209 [2 ] Pham Ky Anh, Vu Tien Dung (2010), "Parallel iterative regularization algorithms for large overdetermined linear systems", International Journal of Computational Methods (SCIE), (4), pp 525 - 537 [3 ] P K Anh, C V Chung and V T Dung (2011), "Cimmino methods for regularizing nonlinear ill-posed problems", Proc International Conference on Analysis and Applied Mathematics, Saigon Univ HCM City, March 14 2011, pp 67-86 [4 ] Phạm Ky Anh, Vu Tien Dzung (2013), "Parallel iteratively regularized Gauss–Newton method for systems of nonlinear ill-posed equations", International Journal of Computer Mathematics (SCIE), 90 (11), pp 2452-2461 99 Tài liệu tham khảo Tiếng Việt [1] Phạm Kỳ Anh, Nguyễn Bường (2005), Bài tốn đặt khơng chỉnh, NXB Đại học Quốc gia Hà Nội [2] Nguyễn Bường (2001), Hiệu chỉnh toán phương pháp toán tử đơn điệu, NXB Đại học Quốc gia Hà Nội [3] Cao Văn Chung (2012), Phương pháp song song giải tốn đặt khơng chỉnh với toán tử đơn điệu, Luận án Tiến sĩ Toán học, Đại học Quốc gia Hà Nội [4] Nguyễn Thanh Thủy (2006), Nghiên cứu hệ thống tính tốn hiệu cao ứng dụng mô vật liệu vi mô, Báo cáo thực đề tài 5957, Trường Đại học Bách khoa Hà Nội Tiếng Anh [5] Alber Ya I., Ryazantseva I P (2006), Nonlinear Ill-posed Problems of Monotone Type, Springer [6] Andrews, H and Hunt, B (1997), Digital Image Restoration, Prentice-Hall, Englewood Cliffs, New Jersey [7] P K Anh, C V Chung (2009), "Parallel iterative regularization methods for solving systems of ill-posed equations", Appl Math Comput., 212, pp 542-550 100 [8] P K Anh, C V Chung (2011), "Parallel regularized Newton method for nonlinear ill-posed equations", Numer Algorithms, 58 (3), pp 379–398 [9] P K Anh, C V Chung (2011), "On strongly convergent parallel proximal point algorithms", Journal of Science, VNU, Hanoi, 27 (2), pp 67-75 [10] P K Anh, C V Chung (2014), "Parallel hybrid methods for a finite family of relatively nonexpansive mappings", Numerical Functional Analysis and Optimization, 35 (6), pp 649-664 [11] P.K Anh, N.M Tuan and P.D Tuan (2013), "The finite Hartley new convolutions and solvability of the integral equations with Toeplitz plus Hankel kernels", J Math Anal Appl., 397(2), pp 537-549 [12] Attouch H., Brice˜no-Arias L M., and Combettes P L (2010), "A Parallel Splitting Method for Coupled Monotone Inclusions", SIAM J Control Optim., 48, pp 3246-3270 [13] Almasi G.S., Gottlieb A (1989), Highly Parallel Computing, BenjaminCummings Publishers, Redwood City, California [14] Baker M., Buyya R., Laforenza D (2002), "Grids and Grid Technologies for Wide-Area Distributed Computing", Software—Practice and Experience archive, 32, pp 1437 - 1466 [15] Bakusinskii A B., Goncharskii A V (1989), Ill-posed problems, Numerical Methods and Applications, Moscow Univ Press [16] Bakushinskhii A B (1992), "The problem of the convergence of the iteratively regularized Gauss-Newton method", Computational Mathematics and Mathematical Physics, 32, pp 1353-1359 [17] Bakusinskii A B., Goncharskii A V (1994), Ill-posed Problems: Theory and Applications, Kluwer, Dordrecht [18] Barbara K., Neubauer A., and Scherzer O (2008), Iterative Regularization Methods for Nonlinear Ill-Posed Problems, Walter de Gruyter, Berlin - New York 101 [19] Bauschke H H., Borwein J M (1996), "On projection algorithms for solving convex feasibility problems", SIAM Rev., 38, pp 367-426 [20] Bauschke H H., Borwein J M and Lewis A S (1997), "The method of cyclic projections for closed convex sets in Hilbert space", Contemp Math., 204, pp 1-38 [21] Bernstein A J (1966), "Program Analysis for Parallel Processing", IEEE Trans on Electronic Computers, EC-15, pp 757–62 [22] Blaschke B., Neubauer A and Scherzer O (1997), "On convergence rates for the iteratively regularized Gauss-Newton method", IMA Journal of Numeriacal Analysis, 17, pp 421-436 [23] N Buong, N D Dung (2009), "Regularization for a common solution of a system of nonlinear ill-posed equations", Int J Math Anal., (34), pp 1693-1699 [24] N Buong, P V Son (2008), "An explicit iteration method for convex feasibility problems in Hilbert spaces", Appl Math Sci (Hikari), (15), pp 725-734 [25] Burger M and Kaltenbacher B (2006), "Regularizing Newton-Kaczmarz methods for nonlinear ill-posed problems", SIAM Numer Anal., 44, pp 153182 [26] Calvetti D and Reichel L (2002), "Tikhonov regularization of large linear problems", BIT, 43 (2), pp 1-14 [27] Campbell S L and Marszalek W (1996), "The index of an infinite dimensional implicit system", Math Modelling Syst., (1), pp 1-25 [28] Campbell S L and Marszalek W (1997), "DAEs arising from traveling wave solutions of PDEs", J Comput Appl Math., 82 (1-2), pp 41-58 [29] Censor Y (2001), "On sequential and parallel projection algorithms for feasibility and optimization" (Keynote Paper) in: Visualization and Optimization Techniques (Editors: Censor Y and Ding M.), Proceedings of SPIE (SPIE: The International Society for Optical Engineering, Bellingham, WA, USA), 4553, pp 1-9 102 [30] Censor Y., Gordon D and Gordon R (2001), "Component averaging: An efficient iterative parallel algorithm for large and sparse unstructured problems", Parallel Comput., 27, pp 777-808 [31] Censor Y., Gordon D and Gordon R (2001), "BICAV: An inherently parallel algorithm for sparse systems with pixel-dependent weighting", IEEE Trans Medical Imaging, 20, pp 1050-1060 [32] Combettes P L (2004), "Solving monotone inclusions via compositions of nonexpansive averaged operators", Optimization, 53, pp 475–504 [33] Cunha R.D da, Hopkins T.R (1991), "Parallel Over relaxation Algorithms for systems of Linear Equations", World Transputer user group conference, Sunnyvale transputing ’91 Amsterdam: IOS Press, Vol 1, pp 159-169 [34] De Cezaro A., Haltmeier M., Leitão A., and Scherzer O (2008), "On steepest-descent-Kaczmarz method for regularizing systems of nonlinear ill-posed equations", Appl Math Comput., 202, pp 596-607 [35] Deuflhard P (1974), "A Modified Newton Method for the Solution of IllConditioned Systems of Nonlinear Equations with Application to Multiple Shooting", Numerische Mathematik, 22, pp 289-316 [36] Deuflhard P., Engl H W and Scherzer O (1948), "A convergence analysis of iterative methods for the solution of nonlinear ill-posed problems under affinely invariant conditions", Inverse Problems, 14, pp 1081-1106 [37] Diniz-Ehrhardt M A., Martinez J M (1993), "A parallel projection method for overdetermined nonlinear systems of equations", Numer Algorithms, 4, pp 241-262 [38] Diniz-Ehrhardt M A., Martinez J M and Santos S A (1994), "Parallel projection methods and the resolution of ill-posed problems", Comput Math Appl., 27, pp 11-24 [39] Eggermont P P B., HermanG T and Lent A (1981), "Iterative algorithms for large partitioned linear systems, with applications to image reconstruction", Linear algebra and its Appl., 40, pp 37-67 103 [40] Engl H W., Hanke M., and Neubauer A (1996), Regularization of Inverse Problems, Kluwer, Dordrecht [41] Engl H W., Kunisch K and Neubauer A (1989), "Convergence rates for Tikhonov regularization of nonlinear ill-posed problems", Inverse Problems, 5, pp 523-540 [42] Evans D.J (1984), "Parallel SOR iterative methods", Parallel Computing, 1, pp 3-18 [43] Gallivan K A., Heath M T., Ng E., Ortega J M, Peyton B W., Plemmons R J., Romine C H., Sameh A H and Voigt R G (1990), "Parallel Algorithms for Matrix Computations", SIAM, Philadelphia [44] Galo J R., Albarreal I., Calzada M C., Cruz J L (2005), "Stability and Convergence of a Parallel Fractional Step Method for the Solution of Linear Parabolic Problems", Applied Mathematics Research eXpress, 4, pp 117142 [45] Golub G.H., Van Loan C.F (1996), "Matrix Computations", The John Hopkins University Press, Second Edition [46] Grindrod P (1996), "The Theory and Applications of Reaction-diffusion Equations", Clarendon Press, Oxford [47] Haltmeier M., Kowar R., Leitão A., and Scherzer O (2007), "Kaczmarz methods for regularizing nonlinear ill-posed equations, I Convergence analysis", Inverse Probl Imaging, (2), pp 289-298 [48] Haltmeier M., Kowar R., Leitão A., and Scherzer O (2007), "Kaczmarz methods for regularizing nonlinear ill-posed equations, II Applications", Inverse Probl Imaging, (3), pp 507-523 [49] Hanke M (1991), "Accelerated Landweber iterations for the solution of ill-posed equations", Numer Math, 60, pp 341-373 [50] Hansen P C., Nagy J G (2006), Deblurring images: matrices, spectra, and filtering, SIAM 104 [51] Hansen P C (2002), "Deconvolution and regularization with Toeplitz matrices", Numer Algorithms, 29, pp 323-378 [52] Hohage T (1997), "Logarithmic convergence rates of the iteratively regularized Gauss-Newton method for an inverse potential and inverse scattering problem", Inverse Problems, 13, pp 1279-1299 [53] Jin Q N (2000), "On the iteratively regularized Gauss-Newton method for solving nonlinear ill-posed problems", Mathematics of Computation, 69, pp 1603-1623 [54] Kaltenbacher B., Neubauer A and Scherzer O (2008), Iterative Regularization Methods for Nonlinear Ill-Posed Problems, Walter de Gruyter, Berlin New York [55] Kennett B L N, Williamson P R (1998), "Subspace Methods for Large Scale Nonlinear Inversion", Mathematical Geophysics: a Survey of Recent Developments in Seismology and Geodynamics, pp 139-154 [56] Kowar R and Scherzer O (2002), "Convergence analysis of a LandweberKaczmarz method for solving nonlinear ill-posed problems", Ill-posed and inverse problems (book series), 23, pp 69-90 [57] Kreji´c N., Luˇzanin Z., Radeka I (2007), "Newton-like method for nonlinear banded block diagonal system" , Applied Mathematics and Computation, 189 (2), pp 1705-1711 [58] Lavrentiev M M (1967), Some improperly posed problems in mathematical physics, Springer, New-York [59] Landweber L (1951), "An Iteration Formula for Fredholm Integral Equations of the first kind", Amer J Math, 73, pp 615-624 [60] Lin P (1997), "A sequential regularization method for time-dependent incompressible Navier-Stokes equation", SIAM J.Numer Math., 34 (3), pp 1051-1071 [61] Liu F., Nashed M Z (1998), "Regularization of nonlinear ill-posed variational inequalities and convergence rates", Set-Valued Analysis, 6, pp 313344 105 [62] Leung A W (1989), "Systems of Nonlinear Partial Differential Equations", Kluwer Academic Publishers, Dordrecht [63] Lewis B and Reichel L (2003), "Parallel deconvolution methods for three dimensional image restoration", Proc SPIE 5205, Advanced Signal Processing Algorithms, Architectures, and Implementations XIII, 291, doi:10.1117/12.507894 [64] Lu T., Neittaanmăaki P and Tai X.-C (1992), "A parallel splitting up method for partial differential equations and its application to NavierStokes equations", RAIRO Math Model Numer Anal., 26 (6), pp 673-708 [65] Lucht W., Strehmel K and Eichler-Liebenow C (1997) , "Linear Partial Differential Algebraic Equation", Report No 18 , pp 430-450 [66] Lucht W., Strehmel K and Eichler-Liebenow C (1999), "Indexes and Special Discretization Methods for Linear Partial Differential Algebraic Equations", BIT, 39 (3), pp 484-512 [67] Mai G.C and De Rose C.A.F (2000), "Low Cost Cluster Architectures for Parallel and Distributed Processing", CLEI Electonic Journal (1), pp 1-9 [68] Marszalek W (1997), "Analysis of partial differential algebraic equations", PhD thesis, North Carolina State University, Raleigh, NC [69] Marszalek W ,Trzaska Z (2002), "A Boundary-value problem for linear PDAEs", Int.J.Appl.Math.Comput.Sci, 12 (4), pp 487-491 [70] Nair M.T and Pereverzev S.V (2007), "Regularized collocation method for Fredholm integral equations of the first kind", J Complexity , 23, pp 454-467 [71] Niethmmer W (1989), "The SOR method on parallel computers", Numer Math., 56, pp 247-254 [72] Oldenburg D.W., McGillvary P.R., Ellis R.G (1993), "Generalized Subspace Methods for Large Scale Inverse Problems", Geophys J Int., 114, pp 12-20 106 [73] Oldenburg D W., Li Y (1994), "Subspace Linear Inverse Method", Inverse Problems, 10, pp 915-935 [74] Paige C C., Saunder M A (1982), "LSQR: an Algorithm for Sparse Linear Equations and Sparse Least Squares", ACM Trans Math Software, 8, pp 195-209 [75] Saad, Y and van der Vorst, H.A (2000), "Iterative solution of linear systems in the 20th century", J Comput Appl Math., 123, pp 1-33 [76] Scherzer O., Engl H W and Kunisch K (1993), "Optimal a posteriori parameter choice for Tikhonov regularization for solving nonlinear ill-posed problems", SIAM Journal on Numerical Analysis, 30, pp 1796-1838 [77] Scherzer O., Grasmair M., Grossauer H., Haltmeier M., Lenzen F (2008), "Variational Methods in Imaging", Applied Mathematical Sciences, 167, Springer [78] Simeon B (1996), "Modelling a flexible slider crank mechanism by mixed system of DAEs and PDEs", Math Modelling Syst., 2(1), pp 1-18 [79] Tautenhahn U (2002), "On the method of Lavrentiev regularization for nonlinear ill-posed problems", Inverse Problems, 18, pp 191-207 [80] Varah J M (1983), "Pitfalls in Numerical Solutions of Linear Ill-Posed Problems", Siam J Sci Comp., 4, pp 164-176 [81] Van Huffel, S., Vandewalle, J (1991), The Total Least Square Problem, SIAM Philadelphia [82] Vogel C R (2002), Computational Methods for Inverse Problems, SIAM Philadelphia [83] Weickert J (1996), "Navier-Stokes equations as a differential-algebraic system", Preprint SFB 393/96-08, Technische Universităat ChemnitzZwickau [84] Xie D and Adams L (99), "New parallel method by domain partitioning", SIAM J Sci Comput, 20 (6), pp 2261-2281 107 [85] Zhang C , Hong Lan, Yang Y E , Estrade B D (2005), "Parallel SOR Iterative Algorithms and Performance Evaluation on a Linux Cluster", Proceedings by the International Conference on Parallel and Distributed Processing Techniques and Applications (PDDTA 2005), CSREA Press, 1, pp 263-268 [86] Zilli G and Bergamaschi L (1999), "Parallel Newton methods for sparse systems of nonlinear equations", Rend Circ Mat Palermo (II), 58, pp 247257 Tiếng Nga [87] Бакушинский А Б., Гончарский А В (1989), Некорректные задачи: Численные методы и приложения, Издательство Московского университета [88] Тихонов А Н (1963), "O решении некорректно поставленных задач и методе регуляризации", Доклады Академии наук СССP, 151 (3), C 501-504 [89] Тихонов А Н (1963), "О регуляризации некорректных задач", Доклады Академии наук СССP, 153, C 49-52 Tiếng Pháp [90] Hadamard J (1932), Le probléme de Caushy et les équations aux dérivées partielles linéaires hyperpoliques, Hermann, Paris 108 ... lệnh, đa dòng liệu MISD Đa lệnh, đơn dòng liệu MIMD Đa lệnh, đa dòng liệu VPU Bộ xử lý véc tơ SM_MIMD Kiến trúc máy tính đa lệnh, đa dòng liệu với nhớ chia sẻ DM_MIMD Kiến trúc máy tính đa lệnh, đa. .. giá trị biến nằm nhớ cache vi xử lý phải đồng với (Cache Coherent) Giải pháp đồng cache sử dụng phổ biến dùng giao thức snoopy bus, nhớ cache theo dõi việc truyền biến vi xử lý cập nhật giá trị, ... so với máy tính song song song với nhớ chia sẻ việc phân hoạch khối lượng tính toán ánh xạ thành tác vụ thực lập trình viên Lập trình viên phải quản lý tác vụ tính tốn tiến trình Bước 3: ? ?ánh giá