Thuật toán tách Lions Mercier và phương pháp luân hướng tìm không điểm của tổng hai toán tử đơn điệu (LV thạc sĩ)

Thuật toán tách Lions Mercier và phương pháp luân hướng tìm không điểm của tổng hai toán tử đơn điệu (LV thạc sĩ)Thuật toán tách Lions Mercier và phương pháp luân hướng tìm không điểm của tổng hai toán tử đơn điệu (LV thạc sĩ)Thuật toán tách Lions Mercier và phương pháp luân hướng tìm không điểm của tổng hai toán tử đơn điệu (LV thạc sĩ)Thuật toán tách Lions Mercier và phương pháp luân hướng tìm không điểm của tổng hai toán tử đơn điệu (LV thạc sĩ)Thuật toán tách Lions Mercier và phương pháp luân hướng tìm không điểm của tổng hai toán tử đơn điệu (LV thạc sĩ)Thuật toán tách Lions Mercier và phương pháp luân hướng tìm không điểm của tổng hai toán tử đơn điệu (LV thạc sĩ)Thuật toán tách Lions Mercier và phương pháp luân hướng tìm không điểm của tổng hai toán tử đơn điệu (LV thạc sĩ)Thuật toán tách Lions Mercier và phương pháp luân hướng tìm không điểm của tổng hai toán tử đơn điệu (LV thạc sĩ)Thuật toán tách Lions Mercier và phương pháp luân hướng tìm không điểm của tổng hai toán tử đơn điệu (LV thạc sĩ)Thuật toán tách Lions Mercier và phương pháp luân hướng tìm không điểm của tổng hai toán tử đơn điệu (LV thạc sĩ)Thuật toán tách Lions Mercier và phương pháp luân hướng tìm không điểm của tổng hai toán tử đơn điệu (LV thạc sĩ)Thuật toán tách Lions Mercier và phương pháp luân hướng tìm không điểm của tổng hai toán tử đơn điệu (LV thạc sĩ)

ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KHOA HỌC ——————–o0o——————– NGÔ DUY TOẢN THUẬT TOÁN TÁCH LIONS-MERCIER VÀ PHƯƠNG PHÁP LUÂN HƯỚNG TÌM KHÔNG ĐIỂM CỦA TỔNG HAI TOÁN TỬ ĐƠN ĐIỆU LUẬN VĂN THẠC SĨ TOÁN HỌC THÁI NGUYÊN - 2016 ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KHOA HỌC ——————–o0o——————– NGÔ DUY TOẢN THUẬT TOÁN TÁCH LIONS-MERCIER VÀ PHƯƠNG PHÁP LUÂN HƯỚNG TÌM KHÔNG ĐIỂM CỦA TỔNG HAI TOÁN TỬ ĐƠN ĐIỆU LUẬN VĂN THẠC SĨ TOÁN HỌC Chuyên ngành: Toán ứng dụng Mã số: 60 46 01 12 GIÁO VIÊN HƯỚNG DẪN GS.TS NGUYỄN BƯỜNG THÁI NGUYÊN - 2016 i Mục lục Bảng ký hiệu ii Mở đầu Chương Không gian Hilbert toán tử đơn điệu cực đại 1.1 Không gian Hilbert 1.2 Toán tử đơn điệu cực đại Chương Thuật toán tách Lions–Mercier phương pháp luân hướng tìm không điểm tổng hai toán tử đơn điệu cực đại 16 2.1 Phương pháp tách 16 2.1.1 Mô tả phương pháp 16 2.1.2 Triển khai phương pháp 20 2.2 Mối quan hệ phương pháp ngược phần 24 2.2.1 Giới thiệu 24 2.2.2 Mối quan hệ với thuật toán tách Lions–Mercier 26 2.3 Phương pháp luân hướng 27 2.3.1 Nguồn gốc phương pháp luân hướng 27 2.3.2 Mối liên hệ với phương pháp tách 28 Kết luận 32 Tài liệu tham khảo 33 ii Bảng ký hiệu Trong toàn luận văn, ta dùng ký hiệu với ý nghĩa xác định bảng đây: R tập số thực Rn , Rm H H∗ không gian véc tơ n, m chiều tương ứng không gian Hilbert thực không gian liên hợp H C[a, b] conv C tập hàm thực lien tục [a, b] bao lồi tập C conv C A∗ A bao lồi đóng tập C toán tử liên hợp toán tử A toán tử mở rộng toán tử A dom A gra A domf miền xác định toán tử A đồ thị toán tử A miền hữu hiệu hàm f epif zer(A) Jr,T tập đồ thị hàm f tập tất không điểm A, A−1 (0) toán tử giải toán tử T NC ∅ δC (.) hình nón chuẩn tắc ứng với tập lồi C tập rỗng hàm C V⊥ bù vuông góc không gian V Mở đầu Cho A B hai toán tử đơn điệu cực đại không gian Hilbert H, C := A + B Nội dung đề tài luận văn nghiên cứu toán tìm không điểm toán tử C sở kết J Eckstein [4] Để giải toán này, J Eckstein [4] đưa vào toán tử đơn điệu cực đại Sλ,A,B mà tập không điểm xấp xỉ tập không điểm A + B Trong trường hợp B nón chuẩn tắc không gian tuyến tính Sλ,A,B trùng với ngược phần toán tử Spingarn (xem [12], [13]) Ngoài ra, r = toán tử giải (I + rSλ,A,B )−1 Sλ,A,B toán tử G(λ) Lions–Mercier [6] Vì vậy, thuật toán Lions–Mercier thực thuật toán điểm gần kề ứng dụng cho toán tử Sλ,A,B Ngoài ra, J Eckstein [4] kỹ thuật Spingarn cho cực tiểu phiếm hàm lồi không gian tuyến tính thực chất trường hợp riêng cách tiếp cận Lions–Mercier Đồng thời thuật toán Lions–Mercier mở rộng thuật toán luân hướng qui hoạch lồi Gabay [5] thuật toán luân hướng ví dụ thuật toán điểm gần kề Mục đích đề tài luận văn trình bày lại kết J Eckstein [4] mối quan hệ số thuật toán tìm không điểm toán tử đơn điệu cực đại: thuật toán điểm gần kề đưa Martinet [7], sau phát triển Rockafellar [10]; phương pháp Lions–Mercier tìm không điểm tổng hai toán tử đơn điệu cực đại [6]; phương pháp ngược phần Spingarn cho toán tử đơn điệu cực đại [12], [13] Nội dung đề tài luận văn viết hai chương: Chương 1: "Không gian Hilbert toán tử đơn điệu cực đại" Chương giới thiệu không gian Hilbert trường số thực số kiến thức giải tích lồi Tiếp theo giới thiệu toán tử đơn điệu cực đại định nghĩa toán tìm không điểm toán tử Chương 2: "Thuật toán tách Lions–Mercier phương pháp luân hướng tìm không điểm tổng hai toán tử đơn điệu cực đại" Chương nghiên cứu số phương pháp tìm không điểm tổng hai toán tử đơn điệu cực đại, phương pháp Lion–Mercier thực chất trường hợp đặc biệt thuật toán điểm gần kề, đồng thời nêu nguồn gốc phương pháp luân hướng đưa mối quan hệ với thuật toán tách Luận văn hoàn thành Trường Đại học Khoa học - Đại học Thái Nguyên hướng dẫn tận tình GS TS Nguyễn Bường, xin bày tỏ lòng biết ơn sâu sắc tới thầy, người người dành nhiều thời gian tâm huyết để hướng dẫn tận tình, giúp đỡ trình học tập, nghiên cứu viết luận văn Tôi xin chân thành cảm ơn Lãnh đạo Trường Đại học Khoa học – Đại học Thái Nguyên, Ban chủ nhiệm khoa Toán – Tin toàn thể thầy cô trường giảng dạy giúp tác giả trau dồi thêm nhiều kiến thức phục vụ cho việc học tập nghiên cứu thân Tác giả xin gửi lời cảm ơn chân thành đến thầy cô Cuối tác giả xin gửi lời cảm ơn tới gia đình, bạn bè động viên, giúp đỡ tạo điều kiện tốt cho tác giả trình học tập, nghiên cứu làm luận văn Xin chân thành cảm ơn! Thái Nguyên, tháng năm 2016 Học viên Ngô Duy Toản Chương Không gian Hilbert toán tử đơn điệu cực đại Chương trình bày số khái niệm tính chất không gian Hilbert thực H, giới thiệu toán tử đơn điệu cực đại, định nghĩa không điểm để phục vụ cho chương sau Các kiến thức chương tổng hợp từ tài liệu [7], [10] 1.1 Không gian Hilbert Định nghĩa 1.1.1 Cho H không gian tuyến tính xác định trường số thực R Một tích vô hướng H ánh xạ ·, · : H × H → R thỏa mãn tính chất sau: i x, x ≥ 0, ∀x ∈ H x, x = x = 0, ii x, y = y, x , ∀x, y ∈ H, iii x + y, z = x, z + y, z , ∀x, y, z ∈ H, iv αx, y = α x, y , ∀x, y ∈ H, ∀α ∈ R Số thực x, y gọi tích vô hướng hai véctơ x y Cặp (H, ·, · ) gọi không gian tiền Hilbert Định lý 1.1.2 (Bất đẳng thức Cauchy–Schwarz) Trong không gian tiền Hilbert H, ∀x, y ∈ H ta có bất đẳng thức sau: | x, y |2 ≤ x, x y, y Chứng minh Với y = bất đẳng thức hiển nhiên Giả sử y = ∀λ ∈ R ta có: x + λy, x + λy 0, nghĩa x, x + λ y, x + λ x, y + |λ|2 y, y | x, y |2 x, y ta x, x − hay | x, y |2 ≤ x, x y, y Chọn λ = − y, y y, y Bất đẳng thức chứng minh Dấu bất đẳng thức Schwarz xảy x y phụ thuộc tuyến tính Mối quan hệ khái niệm chuẩn tích vô hướng thể qua nhận xét sau: Nhận xét 1.1.3 Mọi không gian tiền Hilbert H không gian tuyến tính định chuẩn, với chuẩn xác định: x = x, x , x ∈ H Bất đẳng thức Schwarz viết lại: | x, y | ≤ x y Định nghĩa 1.1.4 Cho X không gian định chuẩn, dãy {xn } ⊂ X gọi dãy nếu: lim xn − xm = m,n→∞ Nếu X dãy hội tụ, tức xn − xm → kéo theo tồn x0 ∈ X cho xn → x0 X gọi không gian đủ Định nghĩa 1.1.5 Không gian tiền Hilbert đầy đủ gọi không gian Hilbert Ví dụ 1.1.6 Trong Rn , x = (x1, x2 , xn) , y = (y1 , y2 , yn) ∈ Rn, ta đưa vào tích vô hướng x, y = n xk yk k=1 n n x |xk |2 xk xk = = x, x = k=1 k=1 Khi Rn không gian Hilbert Ví dụ 1.1.7 Trong không gian C[a, b] tập tất hàm thực liên tục [a, b] Xét tích vô hướng: b x(t)y(t)dt, x(t), y(t) ∈ C[a, b] x, y = a Khi đó: i Không gian C[a,b] với chuẩn x = max |x(t)| không gian Banach a t b nên C[a, b] không gian Hilbert; ii Không gian C[a,b] với chuẩn x = 1/2 b |x(t)| dt không không a gian Banach C[a, b] không không gian Hilbert Định nghĩa 1.1.8 Tập A ⊂ H gọi tập lồi ∀x1, x2 ∈ A số thực t ∈ [0, 1] ta có tx1 + (1 − t)x2 ∈ A Nhận xét 1.1.9 Theo định nghĩa, tập ∅ tập lồi Ví dụ 1.1.10 Các tập sau tập lồi: Rn , ∅, {x} , hình cầu đóng, hình cầu mở, nửa không gian đóng, nửa không gian mở Định nghĩa 1.1.11 Cho C ⊂ H Bao lồi C giao tất tập lồi H chứa C, ký hiệu conv C Bao lồi đóng C tập lồi đóng nhỏ H chứa C, ký hiệu conv C Định nghĩa 1.1.12 Tập A ⊆ Rn gọi nón có đỉnh gốc O nếu: ∀x ∈ A, ∀λ > ⇒ λx ∈ A A ⊆ Rn gọi nón có đỉnh x0 A − x0 có đỉnh O Nón A gọi nón lồi tập A lồi Định nghĩa 1.1.13 Cho tập lồi S ⊆ Rn , hàm f : S → (−∞, +∞) gọi là: i Hàm lồi S với số thực ≤ λ ≤ 1, ∀x, y ∈ S, ta có: f (λx + (1 − λ)y) ≤ λf (x) + (1 − λ)f (y); ii Hàm lồi chặt S với số thực ≤ λ ≤ 1, ∀x, y ∈ S, x = y ta có: f (λx + (1 − λ)y) < λf (x) + (1 − λ)f (y); iii Hàm f gọi hàm lõm (lõm chặt) S −f lồi (lồi chặt) S; iv Hàm f gọi tuyến tính afin S f vừa lồi vừa lõm S Một hàm afin Rn có dạng f (x) = a, x + α với a ∈ Rn , ∀x, y ∈ Rn , ∀λ ∈ [0, 1] ta có: f (λx + (1 − λ)y) = λf (x) + (1 − λ)f (y) Tuy nhiên, hàm afin không lồi chặt hay lõm chặt Nếu H không gian Hilbert H không gian định chuẩn, không gian liên hợp H H∗ = L(H, K) Định lý sau nêu lên đặc trưng phiếm hàm tuyến tính liên tục không gian Hilbert H Định lý 1.1.14 Với véctơ a cố định thuộc không gian Hilbert H, hệ thức: f (x) = x, a , ∀x ∈ H (1.1) xác định phiếm hàm tuyến tính liên tục f (x) không gian Hilbert 20 0) cho Sλ,A,B để nhận dãy {z k } hội tụ (yếu) đến không điểm z Sλ,A,B Vì toán tử giải (I + λB)−1 = Jλ,B xấp xỉ ánh xạ − 1, liên tục Lipschitz, dãy {uk } = {Jλ,B (z k )} hội tụ (yếu) đến không điểm u = Jλ,B (z) A + B Ta gọi trình thuật toán tách Rõ ràng, Sλ,A,B cực đại A B cực đại, A + B không cực đại 2.1.2 Triển khai phương pháp Để thực thuật toán tách, ta phải tính giá trị (I + rS)−1 điểm Phần tính toán xét sau (I + rS)−1 = ((1 − r)v + ru + λb, v + λb) | (u, b) ∈ B, (v, λ−1 (u − v) − b) ∈ A Vì vậy, để tính (I + rS)−1 (z), ta phải tìm (u, b) ∈ B (v, a) ∈ A cho (1 − r)v + ru + λb = z, a = λ−1 (u − v) − b Nói cách khác, ta xét toán tìm u, v ∈ H cho z − (ru + (1 − r)v) ∈ λB, −z + ((1 + r)u − rv) ∈ λA Điều không làm cho toán trở nên dễ dàng Cụ thể, không làm giảm bớt khó khăn so với việc tính Jr,A+B điểm z mà ta tránh Từ so sánh đó, tìm (u, b) ∈ B cho (u, λ−1 (z − u) − b) ∈ A Trong thuật toán tách cố định r = 1, ta tìm (u, b) ∈ B cho u + λb = z (v, a) ∈ A cho v + λa = u − λb Những điều kiện (u, b) ∈ B, u + λb = z xác định u = Jλ,B (z) b = λ−1 (z − u) độc lập với v Khi u biết v xác định từ u = Jλ,A (u − λb) Do đó, ta có phân tích việc tính J1,S = (I + S)−1 21 thay cách riêng biệt đánh giá Jλ,A = (I + λA)−1 Jλ,B = (I + λB)−1 Khi r = thực chất phép phân hoạch Spingarn [13] công nhận việc trên, với điều kiện hạn chế Không làm tính tổng quát, ta giả sử dãy rk = với k, trừ trường hợp đặc biệt để áp dụng cho thuật toán tách Phần tiếp theo, ta với hạn chế đó, thuật toán tách tương ứng với phương pháp Lions–Mercier [6] Hình 2.1 minh họa cho việc tính (I + λS)−1 (z) B (u, b) (v, b) (A + z B) v + λb A (u, -b) (v, λ1 (u − v) − b) = (v, a) Tính (u, v) Tính v v + λb = (I + S)−1 (z) Hình 2.1: Tính (I + S)−1 (z) Tính (u, b) xem tìm giao điểm B với đường có hệ số góc −1/λ qua điểm có tọa độ (z, 0) Sau để tính v, ta di chuyển điểm có tọa 22 độ (u, b) đến điểm có tọa độ (u, −b), tìm giao điểm đường thẳng qua (u, −b) có hệ số góc −1/λ với A Cuối tính v + λb mô tả dựng đường thẳng đứng tới điểm có tọa độ (v, b) kẻ đường chéo tới trục nằm ngang Từ phân tích tính (I + S)−1 (z) sang việc tính (u, b) ∈ B (v, a) ∈ A tiến hành luân phiên thuật toán tách Dãy {z}k tạo thành cho z k+1 = (I + S)−1 (z k ), với thành phần {uk + λbk }, (uk , bk ) ∈ B cặp B cho uk + λbk = z k Do ta nhận mô tả sau thuật toán: (B1) Bắt đầu từ (uk , bk ) ∈ B, tính (v k , ak ) ∈ A cho v k + λak = uk − λbk (B2) Tìm (uk+1 , bk+1 ) ∈ B cho uk+1 + λbk+1 = v k + λbk Ta xem (B1) bước vẽ hình, tính giá trị toán tử J1,S nhắc lại, (B2) bước biểu diễn lại biến đầu (B1) thành uk+1 + λbk+1 thuận lợi hơn, (uk+1 , bk+1 ) ∈ B Lưu ý khó tạo bước lặp (B1)-(B2) điểm (u0 , b0 ) ∈ H × H, (u0 , b0 không thuộc B Bởi (u1 , b1 ) phải thuộc B thực (B2), thuật toán trở nên đắn Hình 2.3 cho ta mô tả khác thuật toán tách, không điểm A + B điểm mà toán tử B toán tử −A = (−1)A (nói chung không đơn điệu) cắt 23 B (uk , bk ) (uk+1 , bk+1 ) (v k , bk ) (A A (uk , −bk ) (v k , ak ) (v k , ak ) (uk+1 , bk+1 ) Hình 2.2: Thuật toán tách + B) 24 (v k , bk ) B (uk+1 , bk+1 ) −1/λ (uk , bk ) 1/λ (v k , −ak ) -A Hình 2.3: Mô tả khác thuật toán tách 2.2 Mối quan hệ phương pháp ngược phần 2.2.1 Giới thiệu Ta xét trường hợp đặc biệt: Cho tập lồi C ⊆ H, nón pháp tuyến NC ứng với tập C NC (x) := (x, y)|x ∈ C, x′ − x, y ≤ ∀x′ ∈ C Ta biết NC toán tử đơn điệu cực đại, ánh xạ vi phân hàm lồi:  0 x ∈ C δC (x) = +∞ x ∈ / C Giả sử V không gian tuyến tính H Khi NV = V × V ⊥ Cho w ∈ H bất kì, ký hiệu phép chiếu w lên V V ⊥ tương ứng wV wV ⊥ Xét trường hợp B = NV Khi toán tìm không điểm A + B trở thành tìm (u, v) ∈ A cho u ∈ V −v ∈ V ⊥ , hay u ∈ V v ∈ V ⊥ Trong trường hợp ta có Sλ,A,B = (v + λb, u − v)|u ∈ V, b ∈ V ⊥ , (v, λ−1 (u − v) − b) ∈ A 25 Cho (v, a) ∈ A bất kỳ, nghiệm để λ−1 (u − v) − b = a, u ∈ V, b ∈ V⊥ u = (v + λa)V , b = −(λ−1 z + a)V ⊥ Khi S = {(zV − λaV ⊥ , λaV − zV ⊥ )|(z, a) ∈ A} Với toán tử đơn điệu cực đại T tập V, Spingarn [12]-[13] định nghĩa ngược phần: TV = (xV + yV ⊥ , yV + xV ⊥ )|(x, y) ∈ T Do đó, ngoại trừ khác dấu, S ngược phần (λA)V λA Ứng dụng ngược phần tìm (x, y) ∈ T cho x ∈ V, y ∈ V ⊥ Cho T = A toán mà ta xét Để điều đó, Spingarn gợi ý áp dụng thuật toán điểm gần kề để xấp xỉ không điểm z TV , chiếu z lên V V ⊥ tương ứng, x y Spingarn không xét tham số λ tính đóng V tích vô hướng làm cho khác cho T = A T = λA; trường hợp sau ta làm đơn giản y 1/λ để kết cuối Về chất lí do, khác dấu S (λA)V không ảnh hưởng Dễ dàng Jλ,B toán tử chiếu lên V, thuật toán tách mang lại phương pháp tương tự Spingarn gợi ý, ngoại trừ khác biệt dấu ghi nhận từ trước Phương pháp qui hoạch ngẫu nhiên Rockafellar Wets [11] trùng với thuật toán tách, λ xuất khác dấu 26 2.2.2 Mối quan hệ với thuật toán tách Lions–Mercier Lions Mercier [6] đưa thuật toán tìm không điểm toán tử A + B: bắt đầu với điểm tùy ý v ∈ H, thực phép lặp v k+1 = Gλ (v k ), Gλ = Jλ,A (2Jλ,B − I) + I − Jλ,B Chú ý toán tử gọi G(λ) [6] Ta có kết sau Mệnh đề 2.2.1 Ta có Gλ = (I + Sλ,A,B )−1 Chứng minh Bằng tính toán trực tiếp, ta ý Jλ,A = {(y + λa, y)|(y, a) ∈ A} Jλ,B = {(x + λb, x)|(x, b) ∈ B} Do đó, 2Jλ,B − I = {(x + λb, x − λb)|(x, b) ∈ B} Jλ,A (2Jλ,B − I) = {(x + λb, y)|(x, b) ∈ B, (y, a) ∈ A, y + λa = x − λb} Jλ,A (2Jλ,B − I) = {(x + λb, y)|(x, b) ∈ B, (y, λ−1 (x − y) − b ∈ A)} Gλ = Jλ,A (2Jλ,B − I) + I − Jλ,B = {(x + λb, y + λb)|(x, y) ∈ B, (y, λ−1 (x − y) − b) ∈ A} Khi Gλ −1 − I = {(y + λb, x − y)|(x, y) ∈ B, (y, λ−1 (x − y) − b) ∈ A} = Sλ,A,B , mệnh đề chứng minh Do đó, phương pháp Lions–Mercier đơn giản thuật toán tách áp dụng cho A B, rk = 1, với k Vì phương pháp Lions–Mercier thực 27 chất trường hợp đặc biệt thuật toán điểm gần kề Trên thực tế, ta xây dựng Sλ,A,B việc kết hợp nhận xét phần 1.2 với chứng minh Lions Mercier Gλ không giãn chặt 2.3 Phương pháp luân hướng 2.3.1 Nguồn gốc phương pháp luân hướng Ta chứng minh phương pháp luân hướng cho qui hoạch lồi trường hợp đặc biệt thuật toán tách Xét dạng tổng quát qui hoạch lồi giới thiệu Rockafellar [8]: (P) {f (x) + g(M x)}, x∈Rn M ma trận thực cỡ m × n, f : Rn −→ (−∞, +∞], g : Rm −→ (−∞, +∞] hàm lồi đóng chặt Mở rộng cho không gian Hilbert tổng quát, ta hạn chế cho Rn Rm , theo tiêu chuẩn tích trong, làm cho đại số tuyến tính đơn giản Ta viết lại toán (P) sau: (P’) min{f (x) + g(z)} s.t Mx = z x ∈ Rn z ∈ Rm Khi đó, toán đối ngẫu với (P’) max φ(p) s.t p ∈ Rm , φ(p) = inf n+m{f (x) + g(z) + p⊤ (M x − z)} (x,z)∈R 28 = inf {f (x) + p⊤ M x} − inf {g(z) + p⊤ z} x z ∗ ⊤ ∗ = −f (−M p) − g (p), ∗ kí hiệu cho phép toán liên hợp lồi Đối ngẫu (P) viết (D) minm {f ∗ (−M ⊤ p) + g ∗ (p)} p∈R Phương pháp nhân cho qui hoạch lồi thực chất cách thực thuật toán điểm gần kề giống áp dụng với toán tử đơn điệu cực đại ∂[f ∗ ◦ (−M ⊤ ) + g ∗ ] Khi ta kết hợp ma trận ánh xạ đa trị, nghĩa ma trận xem ánh xạ tuyến tính đơn trị tương ứng; ví dụ M hiểu {(x, M x)|x ∈ Rn } 2.3.2 Mối liên hệ với phương pháp tách Bây ta chứng minh điều kiện qui biết, phương pháp luân hướng thực chất cách thực phương pháp tách giống áp dụng với toán tử đơn điệu cực đại: A = ∂[f ∗ ◦ (−M ⊤ )] B = ∂g ∗ = (∂g)−1 Nói cách khác, thuật toán điểm gần kề với r = áp dụng cho toán tử đơn điệu cực đại: S = Sλ,∂[f ∗◦(−M ⊤ )],∂g∗ Cần ý số trường hợp ngoại lệ cách tiếp cận hợp lí để giải toán (D), lí ∂[f ∗ ◦ (−M ⊤ ) + g ∗ ] ⊇ ∂[f ∗ ◦ (−M ⊤ )] + ∂g ∗ đúng, đẳng thức không xảy trừ số điều kiện bổ xung thỏa mãn Do hiểu tập nghiệm (D), zer(∂[f ∗ ◦ (−M ⊤ ) + g ∗]), khác rỗng, S không điểm 29 Giả sử: ∂[f ∗ ◦ (−M ⊤ ) + g ∗ ] = ∂[f ∗ ◦ (−M ⊤ )] + ∂g ∗ = A + B Khi đó, zer(S) khác rỗng toán (D) có nghiệm Ta giả sử im(M ⊤ ) ∩ ri(domf ∗ ) = ∅, A = ∂[f ∗ ◦ (−M ⊤ )] = −M ◦ ∂f ∗ ◦ (−M ⊤ ) = −M ◦ (∂f )−1 ◦ (−M ⊤ ) Phương pháp luân hướng tiến hành sau: bắt đầu với điểm tùy ý z , p0 ∈ Rm sau thực bước lặp xk+1 = arg minn {f (x) + (pk )⊤ M x + x∈R z k+1 = arg minm {g(z) − (pk )⊤ z − x∈R λ M x − zk } λ M xk+1 − z } pk+1 = pk + λ(M xk+1 − z k+1 ) Mệnh đề 2.3.1 Cho dãy {xk }, {pk }, {z k } định nghĩa phương pháp luân hướng Khi với k 1, pk+1 + λz k+1 = (I + Sλ,∂[f ∗◦(−M ⊤ )],∂g∗ )−1 (pk + λz k ) Chứng minh Dạng chi tiết toán tử A là: A = −M ◦ (∂f )−1 ◦ (−M ⊤ ) = {(u, −M w)|(w, −M ⊤ u) ∈ ∂f } Dạng chi tiết toán tử B là: B = {(u, b)|(b, u) ∈ ∂g} Từ bước tối giản x, với k 0, ∈ ∂f (xk+1 ) + M ⊤ pk + λM ⊤ (M xk+1 − z k ) ⇔ (xk+1 , −M ⊤ (pk + λ(M xk+1 − z k ))) ∈ ∂f ⇒ (pk + λ(M xk+1 − z k ), −M xk+1 ) ∈ A 30 Từ bước tối giản z, tương tự vậy, ∈ ∂g(z k+1 ) − pk + λ(z k+1 − M xk+1 ) ⇔ (z k+1 , pk + λ(M xk+1 − z k+1 )) = (z k+1 , pk+1 ) ∈ ∂g ⇔ (pk+1 , z k+1 ) ∈ B Ta có (I + S)−1 = {(u + λb, v + λb)|(u, b) ∈ B, (v, λ−1 (u − v) − b) ∈ A} Với k 1, thực phép thay sau: u = pk Do k b = zk v = pk + λ(M xk+1 − z k ) 1, ta có (u, b) = (pk , z k ) ∈ B từ phân tích bước tối giản z Như λ−1 (u − v) − b = λ−1 (pk − (pk + λ(M xk+1 − z k ))) − z k = −M xk+1 (v, λ−1 (u − v) − b) = (pk + λ(M xk+1 − z k ), −M xk+1 ) Ta biết phần tử A có từ phân tích bước tối giản x Do thay hợp lí, ta kết luận (I + S)−1 bao gồm (u + λb, v + λb) = (pk + λz k , pk + λM xk+1 ) = (pk + λz k , pk+1 + λz k+1 ) Chứng minh hoàn thành Do đó, bước lặp trừ bước đầu tiên, phương pháp luân hướng thực tính toán tương tự phương pháp tách áp dụng cho toán tử đơn điệu cực đại A B Chú ý phần tử cực tiểu x thực "bước vẽ hình" (B1), điểm cực tiểu z cập nhật p thực "bước biểu diễn lại" (B2) Kết luận Mệnh đề 2.3.1 không k = Theo lý thuyết thuật toán điểm gần kề, ta đảm bảo (ít 31 không gian hữu hạn chiều, hội tụ yếu hội tụ mạnh trùng nhau) dãy {pk + λz k } hội tụ Từ toán tử Jλ,B = (I + λB)−1 không giãn, nên liên tục (Lipschitz), suy dãy {Jλ,B (pk + λz k )} hội tụ Dãy giống với dãy {pk }, ngoại trừ phần tử Do đó, ta kết luận dãy {pk } {z k } bị chặn hội tụ, với {pk } hội tụ tới nghiệm toán (D) Từ đây, ta dùng chứng minh hội tụ thông thường cho phương pháp luân hướng Thuật toán điểm gần kề Thuật toán tách Lions-Mercier Phương pháp luân hướng tích Phương pháp ngược phần Rockafellar-Wets Hình 2.4: Đường nét liền biểu thị mối liên hệ thiết lập báo cáo này, đường nét đứt biểu thị mối quan hệ biết đến 32 Kết luận Đề tài luận văn trình bày thuật toán Lions–Mercier phương pháp luân hướng tìm không điểm toán tử đơn điệu cực đại không gian Hilbert thực Cụ thể: (1) Giới thiệu khái niệm số tính chất không gian Hilbert thực toán tử đơn điệu cực đại; (2) Trình bày phương pháp tách Lions–Mercier, phương pháp luân hướng tìm không điểm tổng hai toán tử đơn điệu cực đại; (3) Nêu mối liên hệ phương pháp luân hướng, phương pháp tách phương pháp điểm gần kề tìm không điểm toán tử đơn điệu cực đại Điểm quan trọng qui tắc phân hoạch phần 2.1 cho thuật toán Lions–Mercier, phương pháp phân hoạch Spingarn [13], phương pháp luân hướng tích Câu hỏi thú vị cho hướng nghiên cứu đề tài liệu có hội tụ thay đổi tham số λ từ phép lặp đến số lần lặp thuật toán tách? 33 Tài liệu tham khảo Tiếng Việt [1] Hoàng Tụy, Hàm thực Giải tích hàm, NXB Đại học Quốc gia Hà Nội, (2003) Tiếng Anh [2] Bertsekas D., Tsitsiklis J (1989), Parallel and Distributed Computation: Numerical Methods (Englewood Cliffs: Prentice-Hall) [3] Brézis H (1973), Opérateurs Maximaux Monotones et Semi-Groupes de Contractions dans les Espaces de Hilbert (Amsterdam: North- Holland) [4] Eckstein J.(1988), "The Lions-Mercier splitting algorithm and the alternating direction method are instances of the proximal point algorithm", Report LIDS-P-1769, Laboratory for Information and Decision Sciences [5] Gabay D (1983), "Applications of the Method of Multipliers to Variational Inequalities" In M Fortin, R Glowinski, editors, Augmented Lagrangian Methods: Applications to the Solution of Boundary-Value Problems (Amsterdam: North-Holland) [6] Lions P L., Mercier B (1979), "Splitting Algorithms for the Sum of Two Nonlinear Operators" SIAM Journal on Numerical Analysis, 16(6): 964-979 [7] Martinet B (1972), "Determination Approchee d’un Point Fixe d’une Application Pseudo-Contractante Cas de l’Application prox", 34 Comptes Rendus de l’Academie des Sciences, Paris, Sdrie A, 274: 163-165 [8] Rokafellar R.T (1970), Convex Analysis (Princeton: Princeton University Press) [9] Rokafellar R.T (1970), "On the Maximality of Sums of Nonlinear Monotone Operators", Transactions of the American Mathematical Society, 149: 75-88 [10] Rokafellar R.T (1976), "Monotone Operators and the Proximal Point Algorithm", SIAM Journal on Control and Optimization, 14(5): 877898 [11] Rokafellar R.T., Wets R.J.B (1987), Scenarios and Policy Aggregation in Optimization under Uncertainty, Working paper WP-87-119, International Institute for Applied Systems Analysis, Laxenberg, Austria [12] Spingarn J.E (1983), "Partial Inverse of a Monotone Operator", Applied Mathematics and Optimization, 10: 247-265 [13] Spingarn J.E (1985), "Application of the Method of Partial Inverses to Convex Programming: Decomposition", Mathematical Programming, 32: 199-233 ... tách Lions Mercier phương pháp luân hướng tìm không điểm tổng hai toán tử đơn điệu cực đại Chương trình bày thuật toán tách Lions Mercier phương pháp luân hướng tìm không điểm tổng hai toán tử. .. theo giới thiệu toán tử đơn điệu cực đại định nghĩa toán tìm không điểm toán tử Chương 2: "Thuật toán tách Lions Mercier phương pháp luân hướng tìm không điểm tổng hai toán tử đơn điệu cực đại"... số thuật toán tìm không điểm toán tử đơn điệu cực đại: thuật toán điểm gần kề đưa Martinet [7], sau phát triển Rockafellar [10]; phương pháp Lions Mercier tìm không điểm tổng hai toán tử đơn điệu