Phương pháp song song giải bài toán đặt không chỉnh với toán tử đơn điệu

ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN Cao Văn Chung PHƯƠNG PHÁP SONG SONG GIẢI BÀI TỐN ĐẶT KHƠNG CHỈNH VỚI TỐN TỬ ĐƠN ĐIỆU LUẬN ÁN TIẾN SĨ TOÁN HỌC Hà Nội - 2012 ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN Cao Văn Chung PHƯƠNG PHÁP SONG SONG GIẢI BÀI TỐN ĐẶT KHƠNG CHỈNH VỚI TỐN TỬ ĐƠN ĐIỆU Chun ngành: Tốn học Tính tốn Mã số: 62 46 30 01 LUẬN ÁN TIẾN SĨ TOÁN HỌC Tập thể hướng dẫn khoa học: HD1: GS.TSKH PHẠM KỲ ANH HD2: GS.TS NGUYỄN BƯỜNG Hà Nội - 2012 Mục lục Trang Lời cam đoan Lời cảm ơn Danh mục ký hiệu chữ viết tắt Danh mục bảng Mở đầu Chương Kiến thức chuẩn bị 20 1.1 Khái niệm sở 20 1.2 Toán tử đơn điệu phương trình với tốn tử đơn điệu 29 1.3 Bài toán đặt không chỉnh phương pháp hiệu chỉnh 36 1.4 Hệ thống máy tính song song lập trình song song 42 1.5 Các ví dụ minh họa 45 Chương Phương pháp chỉnh lặp song song 47 2.1 Phương pháp chỉnh lặp ẩn song song 48 2.1.1 Trường hợp liệu xác 49 2.1.2 Trường hợp liệu có nhiễu 53 2.2 Phương pháp chỉnh lặp song song 69 2.3 Ứng dụng thử nghiệm số 74 Chương Các phương pháp chiếu - lặp song song 82 3.1 Phương pháp chiếu - điểm gần kề song song 83 3.2 Các phương pháp CQ song song không gian Banach 91 3.3 Các phương pháp CQ song song không gian Hilbert 100 3.4 Thử nghiệm số 108 3.4.1 Giải hệ phương trình với tốn tử ngược đơn điệu mạnh 108 3.4.2 Tìm điểm bất động chung họ hữu hạn tốn tử khơng giãn tương đối 110 Chương Phương pháp song song giải phương trình với tốn tử đơn điệu trơn 114 4.1 Phương pháp Newton hiệu chỉnh song song hội tụ 115 4.2 Thử nghiệm số 131 4.2.1 Phương trình tốn tử đơn điệu khả vi cấp hai 132 4.2.2 Thử nghiệm với toán tử khả vi 134 Kết luận 136 Danh mục cơng trình khoa học tác giả liên quan đến luận án 138 Tài liệu tham khảo 139 Chỉ mục 148 DANH MỤC CÁC KÝ HIỆU VÀ CHỮ VIẾT TẮT ·, · Tích vơ hướng (hoặc tích đối ngẫu) A∗ Tốn tử liên hợp tốn tử tuyến tính A argminf (x) (argmaxf (x)) Phần tử cực tiểu (cực đại) hóa phiếm hàm f (x) F (T ) (Fˆ (T )) Tập điểm bất động (bất động tiệm cận) T Gr(F ) Đồ thị ánh xạ (đa trị) F H Không gian Hilbert JAr := (rA + J)−1 J Giải thức toán tử (đa trị) đơn điệu A PC Phép chiếu metric lên tập lồi đóng C ⊂ X ΠC Phép chiếu metric suy rộng lên tập lồi đóng C ⊂ X PIIRM (PEIRM) Phương pháp chỉnh lặp ẩn (hiện) song song PEIRMm Phương pháp PEIRM với m bước lặp PRPXPM Phương pháp điểm gần kề hiệu chỉnh song song PPPXPM Phương pháp chiếu - điểm gần kề song song PCQM Phương pháp lai ghép song song CCQM Thuật toán CQ xoay vòng đề xuất [54] PRNM Phương pháp song song dạng Newton U s (J := U ) Ánh xạ đối ngẫu (ánh xạ đối ngẫu chuẩn tắc) X, X ∗ Không gian Banach X không gian đối ngẫu x† Nghiệm chuẩn nhỏ (hoặc x0 -chuẩn nhỏ nhất) x∗n Nghiệm phương trình hiệu chỉnh A(x) + αn x = TOL(RT OL = T OL/ x† ) Sai số (Sai số tương đối tính theo %) RAT Tỷ số sai số tuyệt đối αn : RAT = T OL/αn !NA Kết chạy số không ổn định - sai số vô hạn nmax Tổng số bước lặp Tp (Ts ) Thời gian chạy (giây) chạy song song (tuần tự) Sp = Ts /Tp (Ep = Sp /N ) Tỷ lệ tăng tốc độ (Hiệu suất trung bình CPU) Danh mục bảng Chương 2.1 So sánh PIIRM & PEIRM với số lần lặp 2.2 So sánh PIIRM & PEIRM với sai số 2.3 So sánh PIIRM chạy song song & 2.4 PIIRM với liệu có nhiễu 78 79 80 80 PRPXPM & PPPXPM với số bước lặp nhỏ PRPXPM & PPPXPM với số bước lặp lớn PPPXPM & CQ với số bước lặp PPPXPM & CQ với độ xác 109 110 112 112 Chương 4.1 αn lớn & liệu xác - Tốn tử khả vi cấp 4.2 Số bước lặp n lớn & liệu xác - Tốn tử khả vi cấp 4.3 αn lớn & liệu có nhiễu - Tốn tử khả vi cấp 4.4 Số bước lặp n lớn & liệu có nhiễu - Tốn tử khả vi cấp 4.5 αn lớn & liệu xác - Tốn tử khả vi 4.6 Số bước lặp n lớn & liệu xác - Tốn tử khả vi 4.7 Thử nghiệm với liệu có nhiễu - Tốn tử khả vi 132 133 133 133 134 135 135 Chương 3.1 So sánh 3.2 So sánh 3.3 So sánh 3.4 So sánh Mở đầu Luận án nghiên cứu phương pháp song song giải hệ phương trình tốn tử Ai (x) := Fi (x) − fi = 0, i = 1, N (1) phương trình với tốn tử phân rã thành tổng toán tử N A(x) := N (Fi (x) − fi ) = Ai (x) = i=1 (2) i=1 Ở toán tử Fi : X → Y , phần tử fi ∈ Y cho; với X không gian Banach Y = X ∗ - không gian đối ngẫu X, X không gian Hilbert Y = X Hơn nữa, luận án ta xét tốn tử Fi có tính đơn điệu, tức với x, y ∈ X ta có Fi (x) − Fi (y), x − y ≥ Trường hợp X không gian Banach, ta ký hiệu f, x := f (x) với x ∈ X, f ∈ X ∗ Các vấn đề nghiên cứu luận án liên quan đến phương trình với tốn tử đơn điệu, tốn đặt khơng chỉnh tính tốn song song Phương trình với tốn tử đơn điệu thường xuất nhiều lĩnh vực khoa học kỹ thuật kinh tế xã hội Ví dụ xử lý ảnh, người ta cần khơi phục hình ảnh đối tượng ban đầu từ hình chiếu Điều đưa việc giải hệ phương trình dạng Fi (x) = fi , tốn tử Fi đơn điệu Bài tốn khơi phục ảnh nói số vấn đề thực tế khác dẫn đến tốn chấp nhận lồi Ở ta cần tìm hình chiếu phần tử lên giao số tập lồi (xem [27]) Đây trường hợp tốn tìm điểm bất động chung họ tốn tử khơng giãn Fi không gian Hilbert, tương đương với việc giải hệ phương trình với tốn tử đơn điệu Ai (x) := x − Fi (x) = Một số vấn đề thực tế khác lại dẫn đến việc tìm cực trị không ràng buộc họ hữu hạn phiếm hàm lồi, trơn Bài toán đưa đến hệ phương trình dạng (1) với tốn tử đơn điệu Trong đó, số mơ hình kinh tế dẫn đến dạng toán gọi toán bù (xem [2,22]) Bài toán này, số trường hợp, chuyển việc giải phương trình với tốn tử đơn điệu Một số mơ hình ứng dụng học lượng tử, lý thuyết lọc dẫn tới toán dạng (2), với Fi xây dựng từ tốn tử vi phân (ví dụ, toán tử Laplace ∆ div hàm theo toán tử ∇) cho A toán tử đơn điệu (xem [4, 77]) Một toán khác gọi nhận dạng tham số đa liệu, xuất nhiều lĩnh vực y dược, sinh học phân tử đưa dạng phương trình (2) với tốn tử đơn điệu (xem [26, 69]) Ngồi ra, nhiều lĩnh vực khoa học kỹ thuật toán học tính tốn, ta phải giải phương trình dạng F x = f , F tốn tử tuyến tính xác định khơng âm Đây tốn dạng (1) Vì khả ứng dụng rộng rãi nên phương trình với tốn tử đơn điệu nghiên cứu nhiều Những kết định tính cho lớp tốn tử nhiều nhà toán học H Bauschke (xem [14, 15]), F Browder ( [19, 20]), J M Borwein ( [17]), G J Minty ( [58]), R T Rockafellar ( [62]) thiết lập (xem thêm [17] tài liệu tham chiếu đó) Đặc biệt, G J Minty F Browder số tính chất quan trọng tốn tử đơn điệu cực đại, tìm mối liên hệ phương trình với tốn tử đơn điệu bất đẳng thức biến phân Tính chất đơn điệu cực đại, số đặc điểm khác tốn tử dạng cA + J, J ánh xạ đối ngẫu chuẩn tắc, c > 0, A toán tử đơn điệu [20, 58, 62] Lớp toán tử đơn điệu cực đại dạng A+αJ mối liên hệ với vi phân phiếm hàm lồi, toán tử đơn điệu dạng nghiên cứu [6, 7, 14–17, 36, 46, 59, 63, 74, 84, 85, 87] Như biết, toán F (x) = f (3) với F toán tử đơn điệu, khơng có thêm giả thiết tốn tử F , thường đặt không chỉnh (xem [1, 2, 4, 20, 76, 77]) Khái niệm tính đặt chỉnh J Hadamard định nghĩa sau (xem [86]): Nếu (a) ∀f ∈ Y ∃xf ∈ X: F (xf ) = f ; (b) xf xác định nhất; (c) xf phụ thuộc liên tục vào f , toán F (x) = f gọi đặt chỉnh hay quy (wellposed problem hay correctly-posed problem) Khi ba điều kiện không thỏa mãn, ta nói tốn đặt khơng chỉnh (ill-posed problem hay incorrectly-posed problem) Lúc việc giải số tốn khó khăn sai số nhỏ liệu trình giải số máy tính dẫn tới sai lệch lớn kết Những nhà khoa học có cơng đặt móng cho lý thuyết tốn đặt khơng chỉnh phải kể đến A N Tikhonov, M M Lavrentiev, F Browder, J J Lions, V K Ivanov Cũng ý nghĩa quan trọng lý thuyết tốn đặt không chỉnh, nhiều nhà khoa học giới sâu nghiên cứu đề xuất phương pháp giải lớp toán dạng này, I Y Alber, K E Atkinson, A B Bakushisikii, J Baumeiser, H W Engl, A V Goncharskii, L Landweber, V A Morozov, M Z Nashed Do tính khơng ổn định dạng toán mà người ta phải sử dụng phương pháp ổn định hóa để giải nó, gọi phương pháp hiệu chỉnh (cịn gọi chỉnh hóa, hay quy hóa - regularization) Tư tưởng việc hiệu chỉnh thay tốn khơng chỉnh ban đầu họ toán đặt chỉnh mà nghiệm tốn đặt chỉnh hội tụ nghiệm toán ban đầu, tham số hiệu chỉnh dần tới không Năm 1963, [82, 83], A N Tikhonov đề xuất phương pháp hiệu chỉnh tiếng mang tên ông Trong phương pháp hiệu chỉnh Tikhonov, thay cho việc giải (3), ta giải toán cực tiểu phiếm hàm có dạng α(h,δ) RF,f (x) := Fh (x) − fδ 2Y + αΩ(x) → minx , α := α(h, δ) > tham số hiệu chỉnh; Ω(x) phiếm hàm hiệu chỉnh; Fh fδ đại lượng bị nhiễu thay cho F f Nhiều phương pháp số giải tốn đặt khơng chỉnh xây dựng dựa phương pháp hiệu chỉnh ( [2, 9, 10, 13, 26, 32, 35, 79]) Trường hợp toán tử F tuyến tính, phương pháp hiệu chỉnh thường sử dụng khai triển kỳ dị (SVD - Singular Value Decomposition) khai triển kỳ dị chặt cụt (Truncated SVD) Phương pháp sử dụng toán tử compact cho hệ phương trình đại số tuyến tính điều kiện xấu (xem [1, 35]) Khi toán tử F phi tuyến việc giải tốn cực tiểu nói chung khơng đơn giản, chí khơng giải Phương pháp lặp Landweber 10 phi tuyến đề xuất cho trường hợp (xem [13,26,35] tài liệu tham chiếu đó) Phương pháp áp dụng cho toán tử F khả vi liên tục theo Frechet, việc cực tiểu hóa phiếm hàm làm trơn Tikhonov thực trình lặp Năm 1966, [49], M M Lavrentiev đề xuất phương pháp hiệu chỉnh cách sử dụng phương trình xấp xỉ Trong trường hợp X = Y = H không gian Hilbert, F tốn tử tuyến tính xác định khơng âm, thay cho (3) ta giải phương trình F x + αx = f, α > tham số Với cách chọn α thích hợp, nghiệm phương trình hội tụ tới nghiệm toán ban đầu, α → Cùng thời gian này, F Browder (xem [18]) đề xuất phương pháp hiệu chỉnh cho trường hợp toán tử F : X → X ∗ đơn điệu, với X không gian Banach lồi, phản xạ; X ∗ không gian đối ngẫu tương ứng X ∗ lồi chặt Tư tưởng phương pháp tương tự hiệu chỉnh Lavrentiev, thay tốn ban đầu phương trình xấp xỉ F (x) + αM (x) = f, thành phần hiệu chỉnh M : X → X ∗ h−liên tục (hemicontinuous) d− đơn điệu Các kỹ thuật hiệu chỉnh Lavrentiev Browder đề xuất có nhiều ứng dụng để giải tốn đặt khơng chỉnh với toán tử đơn điệu (xem [1–4, 9, 10, 22, 42–44, 69, 76, 77, 79]) Từ năm 1980, số phương pháp chỉnh lặp kết hợp kỹ thuật hiệu chỉnh Lavrentiev (hoặc Browder) với phương pháp giải số truyền thống A B Bakushinskii đề xuất (tham khảo [9,79] tài liệu tham chiếu đó) Tác giả nghiên cứu phương pháp lặp bậc khơng lặp bậc một, hay cịn gọi chỉnh lặp đơn phương pháp Newton - Kantorovich hiệu chỉnh không gian Hilbert Phương pháp lặp bậc không kết hợp hiệu chỉnh Lavrentiev phép lặp xk+1 = xk − βk F (xk ) − f + αk xk Ở αk > tham số hiệu chỉnh βk > tham số lặp Trong đó, phương pháp lặp bậc xây dựng cho toán tử khả vi Frechet kết hợp phương pháp Newton kỹ thuật hiệu chỉnh F (xk ) + αk I (xk+1 − xk ) = − F (xk ) − f + αk xk 11 Bảng 4.6: Kết với số bước lặp n lớn αn 0.08891 0.06682 0.04981 0.03749 0.03512 RT OL(%) 0.16801 0.12542 0.09468 0.07129 0.06679 RAT (×10−2 ) 1.90011 1.98996 1.90083 1.90051 1.90076 • Cuối cùng, nghiên cứu trường hợp liệu có nhiễu Ta đặt χ = 0.5 αn , γn (n > 0) chọn theo Nhận xét 4.3, α0 = 0.5 γ0 = ví dụ trước Nhiễu nhân tạo sử dụng thử nghiệm của mục 4.2.2 Kết cho 1000 bước lặp đầu cho Bảng 4.7 Bảng 4.7: Thử nghiệm với liệu có nhiễu - Tốn tử khả vi nmax T OL(×10−3 ) RT OL(%) RAT (×10−2 ) 500 7.759 1.5518 3.6801 1000 4.431 0.8862 2.1305 2500 3.253 0.6506 1.7310 5000 2.966 0.5532 1.7309 10000 2.734 0.5468 1.7310 KẾT LUẬN CHƯƠNG Chúng ta nghiên cứu phương pháp Newton hiệu chỉnh song song (PRNM) hai trường hợp liệu xác có nhiễu Trong trường hợp có thêm điều kiện nguồn, ta thiết lập tốc độ hội tụ phương pháp Chú ý phương pháp PRNM ta giải phương trình thành phần phương pháp chỉnh lặp ẩn PIIRM 01 bước lặp Newton-Kantorovich Vì điều kiện nguồn Bổ đề 4.1 thỏa mãn, ta thiết lập tốc độ hội tụ cho phương pháp PIIRM Các kết thử nghiệm số mục 4.2 phù hợp với kết lý thuyết mục 4.1 135 Kết luận Luận án đề xuất số phương pháp song song giải tốn đặt khơng chỉnh với tốn tử đơn điệu Các kết mà luận án thu bao gồm: (1) Phương pháp chỉnh lặp song song ẩn (PIIRM) phương pháp chỉnh lặp song song (PEIRM) giải hệ phương trình tốn tử Ai (x) = 0, (i = 1, N ), Ai : H → H toán tử ngược đơn điệu mạnh, H không gian Hilbert Phương pháp PIIRM phương pháp điểm gần kề hiệu chỉnh song song (2) Phương pháp chiếu - điểm gần kề song song (PPPXPM) giải hệ phương trình tốn tử Ai (x) = 0, (i = 1, N ) Ai tốn tử liên tục, đơn điệu cực đại (3) Các phương pháp CQ song song tìm điểm bất động chung họ hữu hạn tốn tử khơng giãn tương đối không gian Banach lồi trơn Hai thuật toán cải biên tương ứng đề xuất cho khơng gian Hilbert để việc tính tốn nghiệm xấp xỉ dễ dàng (4) Phương pháp Newton hiệu chỉnh song song (PRNM) giải phương trình A(x) = với toán tử A phân rã thành tổng A(x) = N i=1 Ai (x), Ai : H → H toán tử đơn điệu, khả vi Frechet (5) Các phương pháp (1), (2) (4) xét trường hợp liệu xác liệu có nhiễu Trong trường hợp liệu có nhiễu, quy tắc dừng hậu nghiệm đề xuất cho phương pháp PIIRM phương pháp PRNM (6) Khi toán tử thỏa mãn điều kiện nguồn, tốc độ hội tụ cho phương pháp PRNM PIIRM thiết lập 136 (7) Mỗi phương pháp đề xuất luận án có thử nghiệm số minh họa bó máy tính Luận án mở số vấn đề tiếp tục nghiên cứu: (i) Mở rộng kết luận án cho trường hợp phương trình với tốn tử accretive khơng gian Banach (ii) Nghiên cứu phương trình Hammerstein loại (vế trái hợp toán tử đơn điệu) phương trình với tốn tử hiệu toán tử đơn điệu (iii) Nghiên cứu kỹ thuật phân rã khác để xây dựng phương pháp song song Các kết luận án báo cáo tại: • Seminar mơn Tốn học Tính tốn - Khoa Tốn Cơ Tin học Trường ĐH KHTN, ĐHQG Hà Nội • Hội nghị khoa học - Trường ĐHKHTN, ĐHQG Hà Nội năm 2010 • The 4th International conference on High-Performance Scientific Computing, Modeling, Simulation and Optimization of Complex Processes, Hanoi, Vietnam, March 2-6, 2009 • Second Workshop on Computer-Assisted Science, Cybermedia Center, Osaka Univ., Toyonaka, Japan, November 6, 2009 • International conference on New directions in Analysis, Ha Noi, August 9-15, 2010 • Hội nghị tồn quốc lần thứ Ứng dụng Tốn học, Hà Nội, 23 25/12/2010 • International conference on Analysis and Applied Mathematics, Saigon University, Ho Chi Minh City, March 14, 2011 • The 5th International conference on High-Performance Scientific Computing, Modeling, Simulation and Optimization of Complex Processes, Hanoi, Vietnam, March 5-9, 2012 137 DANH MỤC CƠNG TRÌNH KHOA HỌC CỦA TÁC GIẢ LIÊN QUAN ĐẾN LUẬN ÁN [1 ] P K Anh, C V Chung (2009), "Parallel iterative regularization methods for solving systems of ill-posed equations", Applied Mathematics and Computation, 212, pp 542 - 550 [2 ] P K Anh, C V Chung and V T Dung (2011), "Cimmino methods for regularizing nonlinear ill-posed problems", Proc International Conference on Analysis and Applied Mathematics, Saigon Univ HCM City, March 14 2011, pp 67-86 [3 ] P K Anh, C V Chung (2011), "Parallel regularized Newton method for nonlinear ill-posed equations", Numerical Algorithms, 58 (3), pp 379–398 [4 ] P K Anh, C V Chung (2011), "On strongly convergent parallel proximal point algorithms", Journal of Science, VNU, Hanoi, 27 (2), pp 67-75 [5 ] P K Anh, C V Chung (2012), "Parallel hybrid methods for a finite family of relatively nonexpansive mappings", (submited to Numerical Functional Analysis and Optimization) 138 Tài liệu tham khảo Tiếng Việt [1] Phạm Kỳ Anh, Nguyễn Bường (2005), Bài tốn đặt khơng chỉnh, NXB Đại học Quốc Gia Hà Nội [2] Nguyễn Bường (2001), Hiệu chỉnh toán phương pháp toán tử đơn điệu, NXB Đại học Quốc Gia Hà Nội Tiếng Anh [3] Alber Ya I (1996), "Metric and generalized projection operators in Banach spaces", in: A.G Kartosatos (Ed.), Theory and Applications of Nonlinear Operators of Accretive and Monotone Type, Marcel Dekker, New York, pp 15-50 [4] Alber Ya I., Ryazantseva I P (2006), Nonlinear Ill-posed Problems of Monotone Type, Springer [5] P K Anh and V T Dung (2010), "Parallel iterative regularization algorithms for large overdetermined linear systems", Int J Comput Methods, (4), pp 525-537 [6] Asplund E (1970), "A monotone convergence theorem for sequences of nonlinear mappings", Proc Sympos Pure Math., 18, pp 1–9 [7] Asplund E., Rockafellar R T (1969), "Gradients of convex functions", Trans Amer Math Soc., 139, pp 443–467 139 [8] Attouch H., Brice˜ no-Arias L M., and Combettes P L (2010), "A Parallel Splitting Method for Coupled Monotone Inclusions", SIAM J Control Optim., 48, pp 3246-3270 [9] Bakusinskii A B., Goncharskii A V (1994), Ill-posed Problems: Theory and Applications, Kluwer, Dordrecht, 1994 [10] Bakushinsky A B., Smirnova A B (2005), "On application of generalized discrepancy principle to iterative methods for nonlinear ill-posed problems", Numer Funct Anal Optim., 26 (1), pp 35-48 [11] Bakunshinski A B., Smirnova A B (2006), "A posteriori stopping rule for regularized fixed point iterations", Nonlinear Anal., 64 (6), pp 1255-1261 [12] Bakunshinski A B., Smirnova A B (2007), "Iterative Regularization and Generalized Discrepancy Principle for Monotone Operator Equations", Numer Funct Anal Optim., 28 (1), pp 13-25 [13] Barbara K., Neubauer A., and Scherzer O (2008), Iterative Regularization Methods for Nonlinear Ill-Posed Problems, Walter de Gruyter, Berlin - New York [14] Bauschke H H., Borwein J M (1996), "On projection algorithms for solving convex feasibility problems", SIAM Rev., 38, pp 367-426 [15] Bauschke H H., Borwein J M and Lewis A S (1997), "The method of cyclic projections for closed convex sets in Hilbert space", Contemp Math., 204, pp 1-38 [16] Bauschke H H., Borwein J M (1999), "Maximal monotonicity of dense type, local maximal monotonicity, and monotonicity of the conjugate are all the same for continuous linear operators", Pacific J Math., 189, pp 1–20 [17] Borwein J M (2010), "Fifty years of maximal monotonicity", Optim Lett., 4, pp 473–490 [18] Browder F E (1966), "Nonlinear elliptic functional equations in nonreflexive Banach spaces", Bull Amer Math Soc., 72, pp 89-95 140 [19] Browder F E (1968), "Semicontractive and semiaccretive nonlinear mappings in Banach spaces" Bull Amer Math Soc., 74, pp 660-665 [20] Browder F E , Hess P (1972), "Nonlinear mappings of monotone type in Banach spaces", J Funct Anal., 11, pp 251–294 [21] Browder F E (1983), "Fixed point theory and nonlinear problems", Bull Amer Math Soc., 9, pp 1–39 [22] N Buong (2006), "Regularization for unconstrained vector optimization of convex functionals", Zh Vychisl Mat Mat Fiz., 46 (3), pp 372-378 [23] N Buong (2010), "Strong convergence theorem of an iterative method for variational inequalities and fixed point problems in hilbert spaces", Appl Math Comput., 217 (1), pp 322-329 [24] N Buong, N D Dung (2009), "Regularization for a common solution of a system of nonlinear ill-posed equations", Int J Math Anal., (34), pp 1693-1699 [25] N Buong, P V Son (2008), "An explicit iteration method for convex feasibility problems in Hilbert spaces", Appl Math Sci (Hikari), (15), pp 725-734 [26] Burger M and Kaltenbacher B (2006), "Regularizing NewtonKaczmarz methods for nonlinear ill-posed problems", SIAM Numer Anal., 44, pp 153-182 [27] Censor Y (2001), "On sequential and parallel projection algorithms for feasibility and optimization" (Keynote Paper) in: Visualization and Optimization Techniques (Editors: Censor Y and Ding M.), Proceedings of SPIE (SPIE: The International Society for Optical Engineering, Bellingham, WA, USA), 4553, pp 1-9 [28] Censor Y., Gordon D and Gordon R (2001), "Component averaging: An efficient iterative parallel algorithm for large and sparse unstructured problems", Parallel Comput., 27, pp 777-808 141 [29] Censor Y., Gordon D and Gordon R (2001), "BICAV: An inherently parallel algorithm for sparse systems with pixel-dependent weighting", IEEE Trans Medical Imaging, 20, pp 1050-1060 [30] Cioranescu I (1990), Geometry of Banach spaces, in: Duality Mappings and Nonlinear Problems, Kluwer, Dordrecht [31] Combettes P L (2004), "Solving monotone inclusions via compositions of nonexpansive averaged operators", Optimization, 53, pp 475–504 [32] De Cezaro A., Haltmeier M., Leitão A., and Scherzer O (2008), "On steepest-descent-Kaczmarz method for regularizing systems of nonlinear ill-posed equations", Appl Math Comput., 202, pp 596-607 [33] Diniz-Ehrhardt M A., Martinez J M (1993), "A parallel projection method for overdetermined nonlinear systems of equations", Numer Algorithms, 4, pp 241-262 [34] Diniz-Ehrhardt M A., Martinez J M and Santos S A (1994), "Parallel projection methods and the resolution of ill-posed problems", Comput Math Appl., 27, pp 11-24 [35] Engl H W., Hanke M., and Neubauer A (1996), Regularization of Inverse Problems, Kluwer, Dordrecht [36] Fitzpatrick S (1988), "Representing monotone operators by convex functions", Proc Centre Math Appl Austral Nat Univ., 20, pp 59–65 [37] Haltmeier M., Kowar R., Leitão A., and Scherzer O (2007), "Kaczmarz methods for regularizing nonlinear ill-posed equations, I Convergence analysis", Inverse Probl Imaging, (2), pp 289-298 [38] Haltmeier M., Kowar R., Leitão A., and Scherzer O (2007), "Kaczmarz methods for regularizing nonlinear ill-posed equations, II Applications", Inverse Probl Imaging, (3), pp 507-523 [39] Dinh Nho Hao (1994), "A mollification method for ill-posed problems", Numer Math 68, pp 469 - 506 142 [40] Dinh Nho Hao (1996), "A Mollification Method for a Noncharacteristic Cauchy Problem for a Parabolic Equation", J Math Anal Appl., 199, pp 873 - 909 [41] Hein T (2008), "Convergence rates for multi-parameter regularization in Banach spaces", Int J Pure Appl Math, 43 (4), pp 593-614 [42] N S Hoang, Ramm A G (2008), "An iterative scheme for solving nonlinear equations with monotone operators", BIT., 48 (4), pp 725741 [43] N S Hoang, Ramm A G (2009), "Dynamical systems gradient methods for solving nonlinear equations with monotone operators", BIT., 50 (4), pp 751–780 [44] N S Hoang, Ramm A G (2010), "Dynamical systems method for solving nonlinear equations with monotone operators", Math Comp., 79, pp 239-258 [45] Kamimura S and Takahashi W (2002), "Strong convergence of a proximal-type algorithm in a Banach space", SIAM J Optim 13, pp 938-945 [46] Kenderov P S (1975), "Semi-continuity of set-valued monotone mappings", Fund Math., 88, pp 61–69 [47] Kowar R and Scherzer O (2002), "Convergence analysis of a Landweber-Kaczmarz method for solving nonlinear ill-posed problems", Ill-posed and inverse problems (book series), 23, pp 69-90 [48] Krein S G et al (1972), Functional Analysis, Wolters-Noordhoff Publishing, Groningen, The Netherlands [49] Lavrentiev M M (1967), Some improperly posed problems in mathematical physics, Springer, New-York [50] Liskovets O A (1982), "Theory and methods of solving ill-posed problems" (English transl.), Mathematical analysis, Itogi Nauki i Tekhniki, VINITI Moskow, 20, pp 116-178 143 [51] Liskovets O A (1982), "Regularization of problem with discontinuous and monotone, arbitrarily perturbative operators" (English transl.), Dokl Akad Nauk SSSR Math., 271, pp 30-34 [52] Liskovets O A (1984), "On the solution of nonlinear monotone equations with arbitrary perturbations" (English transl.), Dokl Akad Nauk Beloruss Math., 276 (5), pp 1033-1035 [53] Liu F., Nashed M Z (1998), "Regularization of nonlinear ill-posed variational inequalities and convergence rates", Set-Valued Analysis, 6, pp 313-344 [54] Liu X F (2011), "Strong convergence theorems for a finite family of relatively nonexpansive mappings", Vietnam J Math 39 (1), pp.63-69 [55] Lu T , Neittaanmă aki P , and Tai X.-C (1992), "A parallel splitting up method for partial differential equations and its application to NavierStokes equations", RAIRO Math Model Numer Anal., 26 (6), pp 673-708 [56] Matsushita S and Takahashi W (2005), "A strong convergence theorem for relatively nonexpansive mappings in a Banach space", J Approx Theory, 134, pp 257-266 [57] Mann W R (1953), "Mean value methods in iteration", Proc Amer Math Soc 4, pp 506–510 [58] Minty G J (1962), "Monotone (nonlinear) operators in Hilbert space", Duke Math J., 29, pp 341–346 [59] Phelps R R (1989), Convex Functions, Monotone Operators and Differentiability Lecture Notes in Mathematics, 1364, Springer, Berlin (Second edition 1993) [60] Plubtieng S and Ungchittrakool K (2007), "Strong convergence theorems for a common fixed point of two relatively nonexpansive mappings in a Banach space", J Approx Theory, 149, pp 104-115 [61] Plubtieng S and Ungchittrakool K (2010), "Approximation of common fixed points for a countable family of relatively nonexpansive 144 mappings in a Banach space and applications", Nonlinear Anal., 72, pp 2896-2908 [62] Rockafellar R T (1976), "Monotone operators and proimal point algorithm", SIAM J Control Optim., 14, pp 877-897 [63] Simons S (1998), Minimax and Monotonicity Lecture Notes in Mathematics, 1693 Springer, Berlin [64] Solodov M V., Svaiter B F (2000), "Forcing strong convergence of proximal point iterations in Hilbert space", Math Program., 87, pp 189-202 [65] Spingarn J E (1983), "Partial inverse of a monotone operator", Appl Math Optim., 10, pp 247–265 [66] Su Y F., Wang Z M and Xu H K (2009), "Strong convergence theorems for a common fixed point of two hemi-relatively nonexpansive mappings", Nonlinear Anal., 71, pp 5616-5628 [67] Takahashi W (2000), Nonlinear Fuctional Analysis, YokohamaPublishers [68] Takahashi W and Zembayashi K (2009), "Strong and weak convergence theorems for equilibrium problems and relatively nonexpansive mappings in Banach spaces", Nonlinear Anal., 70, pp 45–57 [69] Tautenhahn U., "On the method of Lavrentiev regularization for nonlinear ill-posed problems", Inverse Problems, 18, pp 191-207 [70] Tikhonov A N and Arsenin V Y (1977), Solution of Ill-Posed Problems, John Wiley and Sons, New York [71] Wang Y F., Yuan Y X (2005), "Convergence and regularity of trust region methods for nonlinear ill-posed inverse problems", Inverse Problems, 21, pp 821-838 [72] Xu H -K (2004), "Viscosity approximation methods for nonexpansive mappings", J Math Anal Appl., 289 (1), pp 279 - 291 145 [73] Xu H -K (2006), "A Regularization Method for the Proximal Point Algorithm", J Global Optim., 36, pp 115–125 [74] Zarantonello E H (1973), "Dense single-valuedness of monotone operators", Israel J Math., 15, pp 158–166 [75] Zilli G and Bergamaschi L (1999), "Parallel Newton methods for sparse systems of nonlinear equations", Rend Circ Mat Palermo (II), 58, pp 247-257 Tiếng Nga [76] Альбер Я И (1975), "О решении нелинейных уравнений с монотонными операторами в банаховом пространстве", Сибирский матем ж., 26 (1), C 3-11 [77] Альбер Я И., Рязанцева И П (1975), "Регуляризация нелинейных уравнений с монотонными операторами", Ж вычисл матем и матем физ.(CCCP), 15 (2), C 283-289 [78] Альбер Я И., Рязанцева И П (1978), "Принцип невязки при решении нелинейных задач с монотонными операторами регуляризирующий алгоритм", Доклады Академии наук СССР, 239(5), C 1017-1020 [79] Бакушинский А Б., Гончарский А В (1989), Некорректные задачи: Численные методы и приложения, Издательство Московского университета [80] Лисковец О А (1981), Вариационные методы неустойчивых задач, Наука и техника, Минск решения [81] Рязанцева И П (2002), "Регуляризованный проксимальный алгоритм для нелинейных уравнений монотонного типа в банаховом пространстве", Ж вычисл матем и матем физ., 42 (9), C 12951303 146 [82] Тихонов А Н (1963), "O решении некорректно поставленных задач и методе регуляризации", Доклады Академии наук СССP, 151 (3), C 501-504 [83] Тихонов А Н (1963), "О регуляризации некорректных задач", Доклады Академии наук СССP, 153, C 49-52 Tiếng Pháp [84] Brézis H., Haraux A (1976), "Image d une somme d operateurs monotones et applications (English summary)", Israel J Math., 23, pp 165–186 [85] Gossez J -P (1971), "Opérateurs monotones non linaires dans les espaces de Banach non réflexifs", J Math Anal Appl., 34, pp 371–376 [86] Hadamard J (1932), Le probléme de Caushy et les équations aux dérivées partielles linéaires hyperpoliques, Hermann, Paris [87] Mignot F (1976), "Contrôle dans les inéquations variationelles elliptiques", J Funct Anal., 22, pp 130–185 147 Chỉ mục Điều kiện nón tiếp tuyến, 41, 124 Phương pháp Điều kiện nguồn, 12, 19, 40, 41, 113, 115, 131, 135 CQ song song (PCQM), 82, 95, 100, 104, 108, 111, 136 PCQM3.2, 91 Bài toán PCQM3.3, 95 Đặt chỉnh, 10, 37, 49, 54, 62, 115 PCQM3.4, 100, 111 Đặt không chỉnh, 10, 37, 47, 77, 115 PCQM3.5, 104, 111 Hệ phương trình tốn tử, 8, 33, 34 CQ xoay vịng (CCQM), 15, 95, 112 Phương trình tốn tử, 17, 33, 34 Tìm điểm bất động chung, 33, 82, 91, Điểm gần kề, 13, 48 Điểm gần kề hiệu chỉnh, 14, 48 95, 136 Điểm gần kề hiệu chỉnh song song (PRPXPM), Bổ đề Minty, 9, 35, 88 48, 53 Hiệu chỉnh Chỉnh lặp đơn, 11, 15, 17, 70, 71, 77 Lavrentiev, 11, 37, 47, 115 Chỉnh lặp ẩn song song (PIIRM), 19, Tikhonov, 10, 37 47, 49, 53, 81 Tikhonov-Browder, 11, 37 Chỉnh lặp song song (PEIRM), 19, 47, 70, 81 Không gian Chiếu - Điểm gần kề, 14, 85 Không gian lồi, 20 Chiếu - Điểm gần kề song song (PP- Lồi đều, 20, 91, 94, 95, 98, 99 PXPM), 82, 85, 108, 111, 136 Lồi chặt, 20 Cimmino, 16, 17 Không gian trơn Kaczmarz, 15 Trơn đều, 91, 94, 95, 98, 99 Nửa không gian, 14, 22, 84, 90, 99–101, Landweber, 11, 15 Newton hiệu chỉnh, 11, 15 104, 105, 108 Newton hiệu chỉnh song song (PRNM), Phản xạ, 20, 24, 33, 94, 98 Tính chất Kadec-Klee ( Efimov-Stechkin), 19, 114, 117, 125 Phân rã song song, 17, 48, 114, 117 24, 95, 99 Khoảng cách suy rộng (Bregmann), 25, 92, Quy tắc hậu nghiệm, 12, 56, 62, 65, 81 Quy tắc tiên nghiệm, 14, 56, 62, 80, 81 95–97, 99 148 Toán tử Liên tục Lipschitz, 17, 22, 49, 62, 111, Đối ngẫu, 12 130, 134 Đối ngẫu chuẩn tắc, 12, 24, 90, 91, 94, 96–98 Phép chiếu metric P , 24, 84, 85, 87, 89, 90, 99, 100, 102, 104, 105, 108 Phép chiếu suy rộng Π, 25, 95, 99 Đồ thị toán tử, 23 Đơn điệu, 8, 9, 29 Đơn điệu đều, 30 Đơn điệu cực đại, 9, 14, 19, 30, 33, 82, 88, 136 Đơn điệu mạnh, 17, 30 Ngược đơn điệu mạnh, 17, 19, 33, 35, 47, 62, 64, 68, 75, 76, 115, 116, 129, 131, 136 Đơn trị-Đa trị, 20, 25, 33, 83 Bán đóng, 23, 32, 35 Giải thức JAr , 33, 83, 90, 113 Không giãn, 14, 17, 23, 32, 45, 46, 111, 132 Không giãn tương đối, 14, 19, 31, 33, 90, 91, 94, 95, 98, 100, 103, 107, 111, 136 Khả vi Công thức Newton - Leibnitz, 27, 116, 134 Công thức Taylor, 26, 118, 126 Khả vi Frechet, 15, 18, 26, 27, 29, 62, 114, 124, 129, 132, 134 Khả vi Gâteaux, 9, 18, 26 Liên tục h-liên tục, 22, 27, 35, 36 Liên tục theo chuẩn (uniformly norm-to-norm continuous), 25, 94, 98 149 ... 20 1.2 Toán tử đơn điệu phương trình với tốn tử đơn điệu 29 1.3 Bài toán đặt không chỉnh phương pháp hiệu chỉnh 36 1.4 Hệ thống máy tính song song lập trình song song ... chúng tơi trình bày phương pháp song song giải phương trình với tốn tử đơn điệu 46 Chương Phương pháp chỉnh lặp song song Trong chương nghiên cứu phương pháp chỉnh lặp ẩn song song (Parallel implicit... thiết với số tốn minh họa • Chương trình bày phương pháp chỉnh lặp ẩn chỉnh lặp song song, giải hệ phương trình với tốn tử ngược đơn điệu mạnh Phương pháp chỉnh lặp ẩn song song chương bao trùm phương