Một số thuật toán chiếu điểm gần kề giải phương trình với toán tử đơn điệu

ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN NGUYỄN THỊ HUỆ MỘT SỐ THUẬT TOÁN CHIẾU - ĐIỂM GẦN KỀ GIẢI PHƯƠNG TRÌNH TỐN TỬ VỚI TOÁN TỬ ĐƠN ĐIỆU LUẬN VĂN THẠC SĨ KHOA HỌC Hà Nội - 2011 ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN NGUYỄN THỊ HUỆ MỘT SỐ THUẬT TOÁN CHIẾU - ĐIỂM GẦN KỀ GIẢI PHƯƠNG TRÌNH VỚI TỐN TỬ ĐƠN ĐIỆU Chun ngành: Tốn học tính tốn Mã số: 604630 LUẬN VĂN THẠC SĨ KHOA HỌC Giáo viên hướng dẫn: GS TSKH Phạm Kỳ Anh Hà Nội - 2011 Mục lục Lời cảm ơn i Bảng ký hiệu iv Lời nói đầu v Kiến thức chuẩn bị 1.1 Một số khái niệm 1.2 Phép chiếu không gian Hilbert Phương pháp chiếu-điểm gần kề 2.1 Giới thiệu 2.2 Sự hội tụ mạnh phương pháp chiếu-điểm gần kề 10 2.2.1 Thuật toán chiếu-điểm gần kề 10 2.2.2 Định lý hội tụ 13 2.3 Phương pháp chiếu-điểm gần kề song song 18 Phương pháp CQ 23 3.1 Các bổ đề quan trọng 23 3.2 Một số thuật toán CQ không gian Banach 25 3.3 Một số thuật toán CQ không gian Hilbert 37 Áp dụng 41 4.1 Bài toán khôi phục ảnh 41 4.1.1 Phương pháp chiếu-điểm gần kề song song 42 4.1.2 Thử nghiệm số 44 4.2 Giải hệ phương trình đại số tuyến tính 45 4.2.1 Phương pháp chiếu-điểm gần kề song song ii 46 4.2.2 Phương pháp CQ song song 48 Kết luận 49 Tài liệu tham khảo 51 Bảng ký hiệu φ(·, ·) ∂f E∗ F (T ) F (T ) Khoảng cách suy rộng E Gradient f Không gian đối ngẫu E Tập điểm bất động T Tập điểm bất động tiệm cận T I Ánh xạ đồng J PC (·) ri(D) ·, · ⇀ S T[k] Ánh xạ đối ngẫu chuẩn tắc Hình chiếu lên tập C Tập điểm tương đối D Tích đối ngẫu tích vơ hướng Hội tụ yếu Tập không điểm hay tập nghiệm Tk(modN ) Kết thúc chứng minh Lời nói đầu Nhiều vấn đề khoa học kỹ thuật toán chấp nhận lồi có ứng dụng lý thuyết tối ưu, khôi phục ảnh, phương pháp xử lý xạ, , đưa tốn tìm nghiệm hệ phương trình với tốn tử đơn điệu tìm điểm bất động họ hữu hạn ánh xạ khơng giãn (tương đối) Thuật tốn điểm gần kề tìm khơng điểm tốn tử đơn điệu cực đại Rockafellar [8] đề xuất vào năm 1976 trải qua nhiều lần cải biên Tuy nhiên thuật toán nói chung cho kết hội tụ yếu Năm 2000, M V Solodov B F Svaiter [11] kết hợp thuật toán điểm gần kề với phép chiếu đơn giản lên giao nửa không gian để thu kết hội tụ mạnh Gần đây, P K Anh C V Chung [3] thực song song hóa thuật tốn chiếu-điểm gần kề để tìm nghiệm hệ phương trình tốn tử đơn điệu Cũng dựa ý tưởng lai ghép, Nakajo Takahashi thu định lý hội tụ mạnh cho ánh xạ không giãn tương đối không gian Hilbert S Matsushita [7] tổng quát kết cho không gian Banach Năm 2011, Liu [6] cải biên thuật toán CQ Qin Su [9] để thu định lý hội tụ mạnh cho thuật toán lặp xoay vịng tìm điểm bất động chung họ hữu hạn ánh xạ không giãn tương đối không gian Banach Đến năm 2011, P K Anh C V Chung đề xuất phương pháp CQ song song thuật toán tốt thuật tốn lặp xoay vịng Liu chạy chế độ Bản luận văn tập trung trình bày thuật tốn lai ghép với phép chiếu để giải hệ phương trình với tốn tử đơn điệu khơng gian Hilbert tìm điểm bất động họ ánh xạ không giãn tương đối khơng gian Banach Ngồi phần Mở đầu, kết luận tài liệu tham khảo, luận văn gồm chương: Chương 1: "Kiến thức chuẩn bị" trình bày số khái niệm tốn tử đơn Lời nói đầu vi điệu, hình học khơng gian Banach vài tính chất quan trọng phép chiếu dùng luận văn Chương 2: "Phương pháp chiếu-điểm gần kề" trình bày hai thuật tốn lai ghép phương pháp chiếu phương pháp điểm gần kề không gian Hilbert, phần Chương trình bày thuật tốn chiếu-điểm gần kề tìm khơng điểm tốn tử đơn điệu cực đại (đơn trị đa trị) định lý hội tụ mạnh; phần Chương trình bày thuật tốn chiếu-điểm gần kề song song tìm nghiệm hệ phương trình tốn tử đơn điệu định lý hội tụ mạnh Chương 3: "Phương pháp CQ" trình bày định lý hội tụ mạnh phương pháp CQ cho toán tử khơng giãn tương đối, phương pháp CQ xoay vịng phương pháp CQ song song cho họ toán tử không giãn tương đối không gian Banach Phần Chương trình bày ứng dụng phương pháp CQ cải biên CQ song song không gian Hilbert Chương 4: "Áp dụng", áp dụng phương pháp song song luận văn để giải tốn khơi phục ảnh khơng gian Hilbert giải hệ phương trình đại số tuyến tính Trong chương chúng tơi đưa ví dụ số thực mơi trường Matlab minh họa hình học cho phương pháp chiếu-điểm gần kề song song Hà nội, ngày tháng 12 năm 2011 Chương Kiến thức chuẩn bị 1.1 Một số khái niệm Cho H không gian Hilbert thực, E không gian Banach E ∗ đối ngẫu E Tập lồi: Tập C ⊂ H (hoặc E) gọi lồi C chứa đoạn thẳng nối hai điểm Tức C lồi ∀x, y ∈ C, ∀α ∈ [0, 1] ⇒ αx + (1 − α)y ∈ C Toán tử đơn điệu: Ánh xạ T : E → E ∗ gọi đơn điệu T x − T y, x − y ≥ ∀x, y ∈ E, ký hiệu f, x tích đối ngẫu Trường hợp E = E ∗ = H ta có tích vơ hướng H Bổ đề 1.1.1 Giả sử S tập không điểm T , tức S = {x ∈ H | T x = θ} Nếu T toán tử đơn điệu S = ∅ S tập lồi Chứng minh Với x1 , x2 ∈ S t ∈ (0, 1) đặt x = tx1 + (1 − t)x2 Vì T tốn tử đơn điệu nên ta có ≤ T x − T x1 , x − x1 = T x, tx1 + (1 − t)x2 − x1 = (1 − t) T x, x2 − x1 Chương Kiến thức chuẩn bị ≤ T x − T x2 , x − x2 = T x, tx1 + (1 − t)x2 − x2 = t T x, x1 − x2 Từ điều suy T x, x1 − x2 = Vậy T x = θ nghĩa x ∈ S Toán tử ngược-đơn điệu mạnh: T gọi đồng với số c > hay c-ngược đơn điệu mạnh H T x − T y, x − y ≥ c T x − T y ∀x, y ∈ H Toán tử đơn điệu cực đại: Toán tử T gọi đơn điệu cực đại đơn điệu đồ thị khơng phải tập thực đồ thị toán tử đơn điệu khác Toán tử J : E → E ∗ xác định J(x) = {f ∈ E ∗ | f, x = x E = f E∗ } gọi ánh xạ đối ngẫu chuẩn tắc Hàm số φ : E × E → R cho φ(y, x) = y − y, Jx + x với x, y ∈ E, J ánh xạ đối ngẫu chuẩn tắc từ E vào E ∗ Đại lượng φ(x, y) gọi khoảng cách suy rộng E Ánh xạ không giãn ánh xạ không giãn tương đối: Cho C tập lồi đóng E T ánh xạ từ C vào Ký hiệu F (T ) tập điểm bất động T Một điểm p C gọi điểm bất động tiệm cận T C chứa dãy {xn } hội tụ yếu tới p cho lim (xn − T xn ) = Ký n→∞ hiệu tập tất điểm bất động tiệm cận T F (T ) Ánh xạ T gọi không giãn T x − T y ≤ x − y ∀x, y ∈ C T ánh xạ không giãn tương đối F (T ) = F (T ) φ(p, T x) ≤ φ(p, x) với x ∈ C p ∈ F (T ) Nếu T toán tử khơng giãn khơng gian Hilbert A = I − T tốn tử đơn điệu, I toán tử đồng Thật vậy, với x, y ∈ H ta có Tx − Ty ≤ x − y Chương Kiến thức chuẩn bị Do ≤ Ax − Ay = x−y ≤2 x−y − x − y, T x − T y + T x − T y 2 − x − y, T x − T y = Ax − Ay, x − y Không gian Banach lồi đều: Không gian Banach E gọi lồi với ε > tồn δ(ε) > cho với x, y ∈ E, x ≤ 1, y ≤ x − y ≥ ε ta ln có x + y < 2(1 − δ(ε)) Chú ý Có thể thay đổi sau: với x, y ∈ E, d > tồn δ( dε ), x ≤ d, y ≤ d, x − y ≥ ε ta có x + y ≤ 2d(1 − δ( dε )) Chú ý Mọi không gian Hilbert không gian lồi Thật vậy, giả sử ε > 0, x ≤ 1, y ≤ cho x − y ≥ ε Từ bất đẳng thức hình bình hành suy x+y =2 Do x+y ≤ x + y − x−y √ − ε2 = − 1− ≤ − ε2 − ε2 Chú ý Mọi không gian Banach lồi không gian phản xạ, tức E ∗∗ = E Không gian Banach lồi chặt: Không gian Banach E gọi lồi chặt với x, y ∈ E, x = y, x ≤ 1, y ≤ ta có x + y < Không gian Banach trơn trơn đều: Đặt U = {x ∈ E | x = 1} hình cầu đơn vị E Khi khơng gian Banach E gọi trơn giới hạn lim t→0 x + ty − x t tồn với x, y ∈ U E gọi trơn giới hạn với x, y ∈ U Nếu E trơn J liên tục chuẩn-chuẩn tập bị chặn E Tính chất Kadec-Klee: Khơng gian Banach E có tính chất Kadec-Klee xn ⇀ x xn → x xn → x n → ∞ Bổ đề 1.1.2 Mọi không gian Banach lồi đều có tính chất Kadec-Klee 38 Chương Phương pháp CQ Vì T khơng giãn nên với x, y ∈ H ta có Tx − Ty ≤ x − y tương đương với φ(T x, T y) ≤ φ(x, y) Do T ánh xạ không giãn tương đôi theo Định lý 3.2.1 ta thu xn → PF (T )(x) n → ∞ Cho Ti (i = 1, 2, , N ) họ ánh xạ không giãn từ C và giả sử F = N F (Ti ) khác rỗng Chúng ta xét cải tiến thuật toán CQ i=1 song song khơng gian Hilbert H mà tập Cn Qn nửa không gian H Khi xn+1 = PCn ∩Qn (x0 ) tính tường minh Thuật tốn 3.3.1 ([2]) Cho x0 ∈ C giá trị ban đầu dãy {αn } ⊂ (0, 1) Với n = 0, 1, 2, • Đặt zk = PC xk • Tính yki = αk x0 + (1 − αk )Ti zk , • Tìm i = 1, 2, , N ik := argmax { yki − xk } i=1,2, ,N • Xác định Ck = {z ∈ H | z − ykik ≤ αk z − x0 + (1 − αk ) z − xk }, Qk = {z ∈ H | x0 − xk , xk − z ≥ 0} • Tính xk+1 = PCk ∩Qk (x0 ) Trong Thuật toán cải tiến để Ck Qk nửa không gian trùng với H nên xk+1 = PCk ∩Qk (x0 ) không thuộc C 39 Chương Phương pháp CQ Do để bước tính yki có nghĩa bước đặt zk = PC (xk ) cần thiết Trong trường hợp C = H zk = xk Vì Ck Qk nửa khơng gian nên Ck ∩ Qk khác rỗng có cơng thức hiển tính PCk ∩Qk (x0 ) tương tự Thuật toán 2.2.1 Định lý sau cho kết hội tụ dãy {xk } Thuật toán 3.3.1 Định lý 3.3.2 Giả sử {xk } dãy sinh Thuật toán 3.3.1, Ti (i = 1, 2, , N ) liên tục lim αk = Khi xk hội tụ mạnh đến PF (x0 ) k → ∞ k→∞ Chứng minh.1 Chứng minh tương tự Định lý 3.2.4 với ý zk ∈ C ta có F ⊂ Ck ∩ Qk với k ≥ Và F = ∅ nên dãy {xk } hồn toàn xác định Sử dụng xk = PCk (x0 ), xk+1 = PCk ∩Qk (x0 ) ∈ Ck F ⊂ Ck ∩ Qk với k ≥ 0, tương tự Định lý 3.2.4 ta thu kết sau x0 − xk ≤ x0 − PF (x0 ) (3.11) ∀k; xk − xk+1 → k → ∞; xk − yki → k → ∞ với i = 1, 2, , N (3.12) Từ (3.11) suy dãy {xk } {yki } bị chặn với i = 1, 2, , N Hơn ta có zk − yki = PC (xk ) − PC (yki ) ≤ xk − yki Nên sử dụng (3.12) ta có lim zk − yki = k→∞ lim zk − xk = (vì zk − xk ≤ zk − yki + xk − yki ) k→∞ (3.13) Từ suy {zk } bị chặn Từ Thuật toán suy Ti zk − yki = Ti zk − (αk x0 + (1 − αk )Ti (zk )) = αk x0 − Ti zk , i = 1, 2, , N Với p ∈ F cố định, ta có x0 − Ti zk ≤ x0 − p + p − Ti zk ≤ x0 − p + p − zk với i = 1, 2, , N Bất đẳng thức cuối suy { x0 − Ti zk } bị chặn Và lim αk = nên ta có k→∞ lim Ti zk − yki = k→∞ 40 Chương Phương pháp CQ Vậy ta có lim zk − Ti zk = (vì zk − Ti zk ≤ zk − yki + Ti zk − yki ) k→∞ Từ tính bị chặn {zk } nên tồn dãy {zkj } cho zkj ⇀ z lim zkj − j→∞ Ti zkj = Từ tính khơng giãn tương đối Ti suy z ∈ F (Ti ) = F (Ti ) với i = 1, 2, , N Vì z ∈ F Sử dụng (3.11) ta có zkj − PF (x0 ) = PC (xkj ) − PC (PF (x0 )) = x kj − x 2 + x0 − PF (x0 ) ≤ x0 − PF (x0 ) = 2( x0 − PF (x0 ) 2 − xkj − x0 , PF (x0 ) − x0 − xkj − x0 , PF (x0 ) − x0 − zkj − x0 , PF (x0 ) − x0 + zkj − xkj , PF (x0 ) − x0 ) Vì từ (3.13) zkj → z ta suy lim sup zkj − PF (x0 ) j→∞ ≤ 2( x0 − PF (x0 ) − z − x0 , PF (x0 ) − x0 (3.14) Vì z ∈ F F lồi nên ta có x0 − PF (x0 ) − z − x0 , PF (x0 ) − x0 = x0 − PF (x0 ), z − PF (x0 ) ≤ Kết hợp với (3.14) suy lim zkj − PF (x0 ) = j→∞ zkj → PF (x0 ) j → ∞ Vì nên PF (x0 ) điểm tụ yếu {zk } Rõ ràng dãy hội tụ yếu {zk } hội tụ mạnh PF (x0 ) zk → PF (x0 ) k → ∞ Từ lim zk − xk = ta có lim xk = PF (x0 ) k→∞ k→∞ Trong tài liệu [2], tác giả thử nghiệm Thuật toán CQ xoay vịng Liu Thuật tốn CQ song song đề tìm điểm bất động hai tốn tử tích phân phi tuyến khơng gian Hilbert H = L2 [0, 1] Tính tốn cho thấy, chế độ tuần tự, tức sử dụng xử lý thuật toán CQ song song hiệu thuật tốn CQ xoay vịng Cịn chế độ chạy song song với hai xử lý, để đạt độ xác thuật tốn CQ song song tốn thời gian hẳn thuật tốn CQ xoay vịng Chương Áp dụng 4.1 Bài tốn khơi phục ảnh Bài tốn Tìm vector x ∈ H, biết hướng quan sát vi ∈ H hình chiếu x, vi = µi , i = 1, 2, , n Gọi Pi (x) phép chiếu trực giao x lên siêu phẳng Hi = {ξ ∈ H | ξ, vi = µi } Ta có Pi (x) = x − i = 1, 2, , n x, vi − µi vi vi Với x, y ∈ H ta có x, vi − y, vi vi vi x − y, vi ⇒ x − y = Pi (x) − Pi (y) + vi vi x − y, vi ⇒ x − y = Pi (x) − Pi (y) + vi Pi (x) − Pi (y) = x − y − ⇒ Pi (x) − Pi (y) ≤ x − y Do Pi ánh xạ không giãn Đặt Ai = I − Pi , I tốn tử đồng Khi ta có Ai (x) = x, vi − µi vi vi 42 Chương Áp dụng Ai (x) − Ai (y), x − y = x − y − Pi (x) − Pi (y), x − y Hơn nữa, = x−y + Pi (x) − Pi (y) Vì Pi (x) − Pi (y) ≤ x − y nên Ai (x) − Ai (y) Ai (x) − Ai (y), x − y ≥ − x − y, Pi (x) − Pi (y) Ai (x) − Ai (y) 2 ≥ Vậy Ai toán tử ngược đơn điệu mạnh 4.1.1 Phương pháp chiếu-điểm gần kề song song Bài tốn khơi phục ảnh phát biểu lại thành tốn giải hệ phương trình với tốn tử đơn điệu Ai (x) = i = 1, 2, , n (4.1) Áp dụng Thuật toán chiếu - điểm gần kề song song để giải hệ phương trình (4.1) Cho trước x0 ∈ H µik > Bước Giả sử bước lặp thứ k ≥ ta có xk Tìm yki ∈ H thỏa mãn phương trình Ai (yki ) + µik (yki − xk ) = hay yki , vi − µi vi + µik (yki − xk ) = vi i = 1, 2, , n, i = 1, 2, , n Nhân vơ hướng hai vế phương trình với vi ta yki , vi − µi + µik yki , vi − µik xk , vi = yki , vi = µi + µik xk , vi ⇒ yki , vi = µi + µik xk , vi + µik ⇒ + µik Đặt αi = yki , vi , ta thu yki = xk − αi − µi vi µik vi 43 Chương Áp dụng µi + µik xk , vi − µi − µi µik = xk − vi (1 + µik )µik vi xk , v i − µ i = xk − vi (1 + µik ) vi Bước Tìm số tối ưu ik : Hki = {z ∈ Rn | z − yki , Ai (yki ) ≤ 0} = {z ∈ Rn | z − yki , xk − yki ≤ 0} Với z ∈ Hki ta có z − yki , xk − yki ≤ ⇒ z − xk + xk − yki , xk − yki ≤ ⇒ xk − yki ≤ xk − z, xk − yki ≤ xk − z xk − yki ⇒ xk − yki ≤ xk − z , suy PHki (xk ) = yki xk − PHki (xk ) = xk − yki = suy xk − PHki (xk ) = xk , v i − µ i vi (1 + µik ) vi | xk , v i − µ i | ta có (1 + µik ) vi ik = argmax i=1,2, ,n | xk , v i − µ i | (1 + µik ) vi Bước Tính xk+1 Đặt Wk = {z ∈ H | z − xk , x0 − xk ≤ 0} Ta có Aik (ykik ), x0 − ykik PH ik (x0 ) = x0 − Aik (ykik ) ik k Aik (yk ) ik µk xk − ykik , x0 − ykik ik = x0 − µk (xk − ykik ) ik ik (µk ) xk − yk xk − ykik , x0 − xk + xk − ykik = x0 − xk − ykik 2 (xk − ykik ) 44 Chương Áp dụng xk − ykik , x0 − xk = x0 − (xk − ykik ) − (xk − ykik ) ik xk − yk xk , vik − µik v i , x0 − xk − v vik = x0 − k i k vik (1 + µikk ) vik (1 + µikk ) vik , x0 − µikk vik , xk − µik = x0 − vik (1 + µikk ) vik Nếu PH ik (x0 ) ∈ Wk , tức k PH ik (x0 ) − xk , x0 − xk ≤ k ⇔ x0 − xk ≤ (1 + µikk ) vik , x0 − µikk vik , xk − µik vik , x0 − xk (1 + µikk ) vik xk+1 = PH ik (x0 ) k Nếu khơng xk+1 xác định sau xk+1 = PH ik ∩W (x0 ) = x0 + λ1 Aik (ykik ) + λ2 (x0 − xk ), k k λ1 , λ2 thỏa mãn hệ phương trình  λ1 Ai (y ik ) + λ2 Ai (y ik ), x0 − xk = − x0 − y ik , Ai (y ik ) , k k k k k k k λ A (y ik ), x − x + λ x − x = − x − x k k k ik k 4.1.2 Thử nghiệm số Xét hệ phương trình x, vi = µi , H = L2 [0, 1], vi = ti , µi = i+2 i = 1, 2, 3, 4, nghiệm xác tốn x∗ (t) = t Ta có αi = yki , vi = vi  + µik + µik + i t2i dt = =  , + 2i  xk ti dt , 45 Chương Áp dụng (2i + 1)(αi − µi ) i t, µik (2i + 1)(αi − µi ) i t, xk − yki = µik yki = xk − Tính tốn thực chế độ với x0 = 104 × t µik = với i, k, sai số εk tính theo cơng thức ε2k = xk − x∗ = (xk − t)2 dt Bảng 4.1: Thuật toán chiếu-điểm gần kề song song 4.2 Số lần lặp (k) Sai số (εk ) 2.89 × 103 10 30 5.6376 5.36 × 10−6 40 5.25 × 10−9 Giải hệ phương trình đại số tuyến tính Xét hệ phương trình Ax = b, A ma trận thực kích thước m × n b vectơ không gian Rm Đặt aTi = (ai1 , , ain ) vector hàng thứ i ma trận A Viết lại hệ phương trình dạng  aT x = bi i = 1, , m, i a = (a , , a )T , x ∈ Rn , b ∈ R i i1 in i Gọi Pi (x) phép chiếu trực giao x lên siêu phẳng Hi = {z ∈ Rn | aTi z = bi } Ta có Pi (x) = x − i = 1, , m aTi x − bi (4.2) 46 Chương Áp dụng Đặt Ai = I − Pi Tương tự Bài tốn khơi phục ảnh, ta có Pi ánh xạ khơng giãn Ai toán tử ngược đơn điệu mạnh Bài toán giải hệ phương trình (4.2) tương đương với tốn giải hệ phương trình với tốn tử đơn điệu Ai (x) = 4.2.1 i = 1, , m Phương pháp chiếu-điểm gần kề song song Đây Bài tốn khơi phục ảnh với H = Rn , vi = µi = bi Áp dụng Thuật toán chiếu - điểm gần kề song song ta thu thuật tốn giải hệ phương trình (4.2) sau Cho trước x0 ∈ Rn µik > lần lặp thứ k ≥ ta có xk • Tính (đồng thời) yki = xk − • Đặt xk , − bi (1 + µik ) σki := i = 1, , m | xk , − bi | (1 + µik ) Tìm ik = argmax σki i=1,2, ,n • Tính PH ik (x0 ) = x0 − k (1 + µikk ) aik , x0 − µikk aik , xk − bik aik (1 + µikk ) aik Nếu x0 − xk (1 + µikk ) aik , x0 − µikk aik , xk − bik ≤ aik , x0 − xk (1 + µikk ) aik xk+1 = PH ik (x0 ) k Nếu khơng tìm λ1 λ2 thỏa mãn hệ phương trình  λ1 Ai (y ik ) + λ2 Ai (y ik ), x0 − xk = − x0 − y ik , Ai (y ik ) , k k k k k k k λ A (y ik ), x − x + λ x − x = − x − x ik k k k k (4.3) 47 Chương Áp dụng tính xk+1 = x0 + λ1 Aik (ykik ) + λ2 (x0 − xk ) Ý nghĩa hình hc ã Ta cú Ai (yki ) + àik (yki − xk ) = ⇔ yki − Pi (yki ) + µik (yki − xk ) = ⇔ (1 + µik )yki = Pi (yki ) + µik xk ⇔ yki = µik i P (y ) + xk i k + µik + µik (4.4) Do µik > nên phương trình (4.4) cho thấy yki nằm đoạn thẳng [xk , Pi (yki )] Hơn nữa, từ (4.4) (4.3) ta thu Pi (yki ) = (1 + µik )yki − µik xk xk , − bi − µik xk i (1 + µk ) xk , − bi = xk − ai = (1 + µik ) xk − = Pi (xk ) Như vậy, điểm yki nằm đoạn thẳng [xk , Pi (xk )] • Xét siêu phẳng ′ Hki = {z ∈ Rn | z − yki , xk − yki = 0} = {z ∈ Rn | z, xk − yki = yki , xk − yki } = (1 + µik ) i yk , xk − yki z ∈ R | z, = i xk , − µk n Điều cho thấy Hki song song với Hi ′ • Xét siêu phẳng Wk′ = {z ∈ Rn | z − xk , x0 − xk = 0} = {z ∈ Rn | z, x0 − xk = xk , x0 − xk } Vậy Wk′ siêu phẳng qua điểm xk vng góc với vector x0 − xk 48 Chương Áp dụng • Minh họa hình học trường hợp n = 2, m = µik = với k, i giả sử hệ phương trình có nghiệm Trong trường hợp này, Hi đường thẳng với µik = yki trung điểm đoạn thẳng [xk , Pi (xk )] (với k, i) Hình 4.1: Minh họa hình học thuật tốn chiếu-điểm gần kề song song 4.2.2 Phương pháp CQ song song Giải hệ phương trình (4.2) tương đương với tốn tìm điểm bất động họ tốn tử khơng giãn Pi (x) từ Rn vào Với k ≥ 0, hình chiếu xk lên C = Rn nó, tức zk = PRn (xk ) = xk Hơn nữa, ta có yki = αk x0 + (1 − αk )Pi (xk ) = αk x0 + (1 − αk ) xk − aTi xk − bi Viết lại Ck dạng Ck = {v ∈ Rn | v, xk − Pi (xk ) ≤ µk }, xk − Pi (xk ) = µk = aTi xk − bi αk x0 2(1 − αk ) + (1 − αk ) xk − yki 49 Chương Áp dụng Nếu PCk ∩Qk (x0 ) ∈ Qk hình chiếu x0 lên Ck ∩ Qk viết dạng PCk ∩Qk (x0 ) = x0 + λ1 (xk − Pik (xk )) + λ2 (x0 − xk ), λ1 , λ2 thỏa mãn hệ phương trình  λ1 xk − Pi (xk ) + λ2 xk − Pi (xk ), x0 − xk = µk − x0 , xk − Pi (xk ) , k k k λ x − P (x ), x − x + λ x − x = − x − x k k k k k ik (4.3) Tóm lại, áp dụng Thuật tốn CQ song song giải hệ phương trình (4.2) sau Cho x0 ∈ Rn dãy {αk } ⊂ (0, 1) Giả sử lần lặp thứ k ≥ ta có xk • Tính (đồng thời) yki = αk x0 + (1 − αk ) xk − • Tìm aTi xk − bi ik = argmax{ yki − xk } • Tìm xk+1 :    xk xk ∈ Ck ,    xk+1 = PCk (x0 ) PCk (x0 ) ∈ Qk ,     x0 + λ1 (xk − Pi (xk )) + λ2 (x0 − xk ) trường hợp cịn lại, k λ1 , λ2 nghiệm hệ phương trình (4.3) PCk (x0 ) = x0 − x0 , xk − Pik (xk ) − µk (xk − Pik (xk )) xk − Pik (xk ) Kết luận Luận văn trình bày lại cách hệ thống thuật tốn hội tụ mạnh giải phương trình, hệ phương trình tốn tử đơn điệu tìm điểm bất động họ hữu hạn ánh xạ không giãn tương đối không gian Hilbert dựa phương pháp lai ghép thuật toán điểm gần kề với phép chiếu lên giao tập lồi nửa không gian Luận văn đề cập đến vấn đề sau: Hệ thống lại số phương pháp điểm gần kề cải biên khơng gian Hilbert Khái niệm nghiệm gần với sai số cho phép số tính chất quan trọng; Trình bày thuật tốn chiếu-điểm gần kề để tìm khơng điểm toán tử đơn điệu cực đại định lý hội tụ mạnh đến điểm tập không điểm; Trình bày thuật tốn song song chiếu-điểm gần kề CQ tương ứng để giải hệ phương trình với tốn tử đơn điệu tìm điểm bất động họ ánh xạ không giãn tương đối khơng gian Hilbert Banach; Trình bày định lý hội tụ mạnh cho tốn tử khơng gian tương đối không gian Banach định lý hội tụ mạnh phương pháp CQ xoay vòng CQ song song cho họ hữu hạn ánh xạ không giãn tương đối không gian Banach; Áp dụng thuật toán chiếu-điểm gần kề song song cho tốn khơi phục ảnh khơng gian Hilbert ví dụ số minh họa cho hội tụ thuật toán này; Áp dụng thuật toán chiếu-điểm gần kề song song phương pháp CQ song song để giải hệ phương trình với số ẩn số phương trình khơng thiết Minh họa hình học cho thuật toán chiếu-điểm gần kề song song R2 Tài liệu tham khảo [1] Lê Dũng Mưu Nguyễn Văn Hiền (2009), Nhập mơn giải tích lồi ứng dụng, Nhà xuất Khoa học tự nhiên Công nghệ, Hà Nội [2] P K Anh and C V Chung (2011), A parallel CQ method for a finite family of relatively nonexpansive mappings (Submitted for publication) [3] P K Anh and C V Chung (2011), On strongly convergent parallel proximal point algorithms, Journal of Science, VNU, 27(2) [4] O Guler (1991), On the convergence of the proximal point algorithm for convex minimization, SIAM J Optim., 2, 649-664 [5] S Kamimura and W Takahashi (2002), Strong convergence of a proximaltype algorithm in a Banach space, SIAM J Optim., 13, 938-945 [6] X F Liu (2011), Strong convergence theorems for a finite family of relatively nonexpansive mappings, Vietnam J Math., 39, 63-69 [7] S Matsushita and W Takahashi (2005), A strong convergence theorem for relatively nonexpansive mappings in a Banach space, J Approx Theory, 134, 257-266 [8] R T Rockafellar (1976), Monotone operators and proximal point algorithm, SIAM J Contr Optim., 14, 877-897 [9] X L Qin and Y F Su (2007), Strong convergence theorems for relatively nonexpansive mappings in a Banach space, Nonlinear Anal., 67, 1958-1965 [10] M V Solodov and B F Svaiter (1999), A hybrid projection-proximal point algorithm, J Conv Anal., 6, 59-70 Tài liệu tham khảo 52 [11] M V Solodov and B F Svaiter (2000), Forcing strong convergence of proximal point iterations in a Hilbert space, Math Program., Ser A, 87, 189-202 ... x ∈ S Toán tử ngược -đơn điệu mạnh: T gọi đồng với số c > hay c-ngược đơn điệu mạnh H T x − T y, x − y ≥ c T x − T y ∀x, y ∈ H Toán tử đơn điệu cực đại: Toán tử T gọi đơn điệu cực đại đơn điệu. .. Chương Phương pháp chiếu- điểm gần kề 2.3 Phương pháp chiếu- điểm gần kề song song Xét hệ phương trình toán tử Ai (x) = 0, i = 1, , N, (2.12) H khơng gian Hilbert Ai : H → H toán tử đơn điệu cực... mạnh phương pháp chiếu- điểm gần kề 2.2.1 Thuật toán chiếu- điểm gần kề Thuật toán 2.2.1 ([11]) Cho x0 ∈ H xấp xỉ ban đầu σ ∈ [0, 1) Giả sử bước lặp thứ k có xk 11 Chương Phương pháp chiếu- điểm gần