Về thuật toán chiếu giải bài toán chấp nhận được lồi

ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KHOA HỌC ———————————— PHẠM THỊ GIANG VỀ THUẬT TOÁN CHIẾU GIẢI BÀI TỐN CHẤP NHẬN ĐƯỢC LỒI Chun ngành: Tốn ứng dụng Mã số: 60 46 01 12 LUẬN VĂN THẠC SĨ TOÁN HỌC NGƯỜI HƯỚNG DẪN KHOA HỌC GS.TS TRẦN VŨ THIỆU Thái Nguyên - 2017 Mục lục Danh mục ký hiệu MỞ ĐẦU Chương Kiến thức chuẩn bị 1.1 Không gian Hilbert thực 1.1.1 Khái niệm 1.1.2 Đồng thức bất đẳng thức 1.1.3 Tốn tử tuyến tính phiếm hàm 1.1.4 Tôpô mạnh tôpô yếu 1.2 Ánh xạ khơng giãn tốn tử chiếu 11 1.3 Ánh xạ co dãy đơn điệu Fejér 14 Chương Thuật toán giải toán chấp nhận lồi 19 2.1 Mơ tả sơ đồ thuật tốn 19 2.2 Tính chất thuật toán 21 2.3 Kết hội tụ 23 2.4 Thuật toán chiếu 29 KẾT LUẬN 39 TÀI LIỆU THAM KHẢO 40 Danh mục ký hiệu R Tập số thực R+ Tập số thực không âm R ∪ {±∞} Tập số thực mở rộng C Tập số phức N Tập hợp số tự nhiên H Không gian Hilbert Không gian dãy số vô hạn x Chuẩn véctơ x ∈ H |x| Giá trị tuyệt đối x ∈ R (x(n) ) hay {xk } Dãy điểm H xk xk hội tụ yếu tới x0 x0 xk → x0 x, y xk hội tụ mạnh (hội tụ theo chuẩn) tới x0 tích vơ hướng hai véctơ x, y ∈ H [x, y] Đoạn thẳng nối x y x≤y Véctơ x nhỏ hay véctơ y (xi ≤ yi , ∀i = 1, , n) x≥y Véctơ x lớn hay véctơ y (xi ≥ yi , ∀i = 1, , n) conv{x1 , , xk } Bao lồi điểm x1 , , xk x∈X x phần tử tập X x∈ /X x không phần tử tập X ∅ Tập hợp rỗng dC (x) Khoảng cách từ điểm x tới tập C A+B Tổng véctơ hai tập A B A−B Hiệu véctơ hai tập A B A∪B Hợp hai tập A B A∩B Giao hai tập A B B Tích Đề hai tập A B A ⊂ B A tập B A ⊆ B A tập (có thể bằng) B intY S Phần S Y (S, Y tập tùy ý H) int S Phần S (=intH S) S Bao đóng tập S conv S Bao lồi tập S convS Bao lồi đóng tập S affS Bao afin đóng tập S span S Khơng gian tuyến tính nhỏ H chứa S icr S Lõi bên S (= intaf f S S) r+ Phần dương số r ∈ R = max{r, 0} lim Giới hạn (của dãy số thực) lim Giới hạn (của dãy số thực) ∀x Với x ∃x Tồn x Id Toán tử đồng H PC Toán tử chiếu lên tập C Fix T Tập điểm bất động toán tử T MỞ ĐẦU Trong toán học vật lý học đại (ví dụ, chụp X quang điện tốn hóa), ta thường gặp tốn sau với tên gọi toán chấp nhận lồi (convex feasibility problem), phát biểu tốn học xác tốn sau: Cho H khơng gian Hilbert C1 , C2 , , CN tập lồi đóng H với giao C = C1 ∩ C2 ∩ ∩ CN = ∅ Hãy tìm điểm x ∈ C? Có hai loại tốn thường gặp: Các tập Ci đơn giản, theo nghĩa tính hình chiếu (ánh xạ điểm gần nhất) Ci Chẳng hạn, Ci siêu phẳng hay nửa khơng gian Khơng thể tính trực tiếp hình chiếu Ci , nhiên mơ tả hình chiếu tập xấp xỉ rộng Ci Thường, Ci tập mức hàm lồi Tiếp cận hay sử dụng để giải toán chấp nhận lồi thuật toán chiếu Ý tưởng thuật toán là: chiếu tập Ci (hoặc tập xấp xỉ nó) để tạo dãy điểm mà chúng hội tụ tới nghiệm tốn chấp nhận lồi Đó cách tiếp cận phân tích, nghiên cứu trình bày tài liệu tham khảo [3] Đề tài luận văn “Về thuật toán chiếu giải toán chấp nhận lồi” nhằm mục đích tìm hiểu giới thiệu nội dung báo [3], trình bày nghiên cứu cải tiến, hợp điểm lại kết nghiên cứu trước thuật tốn chiếu Luận văn đề cập tới toán chấp nhận lồi khơng gian Hilbert thuật tốn chiếu giải toán Luận văn gồm hai chương: Chương “Kiến thức chuẩn bị” Chương nhắc lại số kiến thức không gian Hilbert, ánh xạ khơng giãn, tốn tử chiếu số kiến thức liên quan Tài liệu sử dụng [1] - [4] Trong chương có số tiểu mục sau: 1.1 Không gian Hilbert thực: nhắc lại khái niệm kiện (luật hình bình hành, tốn tử tuyến tính, hội tụ mạnh, hội tụ yếu, ) 1.2 Ánh xạ khơng giãn tốn tử chiếu: Các khái niệm tính chất (ánh xạ khơng giãn bền vững, ánh xạ trung bình, ngun lý bán đóng, ) 1.3 Ánh xạ co dãy đơn điệu Fejér: Tính chất tốn tử dùng sơ đồ lặp dãy lặp nhận Chương “Thuật toán giải toán chấp nhận lồi” Chương đề cập tới thuật toán (bao gồm thuật toán chiếu) giải toán chấp nhận lồi Tài liệu sử dụng [3], [5], [6] Chương có số tiểu mục sau: 2.1 Mơ tả sơ đồ thuật tốn: quy tiệm cận, nới lỏng, kỳ dị, trọng số, 2.2 Tính chất thuật tốn: Các tính chất, ví dụ nhận xét 2.2 Các kết hội tụ: Định lý lưỡng phân I hội tụ theo tôpô yếu 2.3 Thuật toán chiếu: Nguyên mẫu thuật toán chiếu hội tụ, hội tụ tuyến tính, định lý lưỡng phân II hội tụ theo tôpô yếu, Do thời gian có hạn nên luận văn chủ yếu dừng lại việc tìm hiểu, tập hợp tài liệu, xếp trình bày kết nghiên cứu có theo chủ đề đặt Trong q trình viết luận văn soạn thảo văn chắn khơng tránh khỏi có sai sót định Tác giả luận văn mong nhận góp ý thầy bạn đồng nghiệp để luận văn hoàn thiện Nhân dịp này, tác giả xin bày tỏ lòng biết ơn sâu sắc tới thầy hướng dẫn GS.TS Trần Vũ Thiệu tận tình giúp đỡ suốt trình làm luận văn Tác giả xin chân thành cảm ơn GS, PGS, TS Khoa Toán-Tin, Trường Đại học Khoa học Thái Ngun Viện Tốn học, Viện Cơng nghệ thông tin thuộc Viện Hàn lâm Khoa học Công nghệ Việt Nam giảng dạy tạo điều kiện thuận lợi trình tác giả học tập nghiên cứu Thái Nguyên, tháng năm 2017 Tác giả luận văn Phạm Thị Giang Chương Kiến thức chuẩn bị Chương nhắc lại số kiến thức không gian Hilbert: Các đồng thức, bất đẳng thức hữu ích, ánh xạ khơng giãn, ngun lý bán đóng, tốn tử chiếu, ánh xạ co (co mạnh) số kiến thức liên quan Nội dung chương tham khảo chủ yếu từ tài liệu [1] - [4] 1.1 Không gian Hilbert thực 1.1.1 Khái niệm Định nghĩa 1.1 Không gian tiền Hilbert (pre-Hilbert space) không gian véctơ X R (hoặc C) với tích vơ hướng (inner product) xác định ·, · : X × X → R (hoặc C) thỏa mãn với x, y, z ∈ X λ ∈ R (hoặc C): (i) x, x ≥ 0, (ii) x, x = ⇒ x = 0, (iii) y, x = x, y , (iv) λx, y = λ x, y , (v) x + y, z = x, z + y, z Mỗi tích vơ hướng X tạo chuẩn tương ứng x = x, x với x ∈ X Nếu X không gian đủ theo chuẩn vừa xây dựng (nói cách khác, X khơng gian đủ theo metric sinh từ chuẩn này, hay X khơng gian Banach với chuẩn đó) X gọi khơng gian Hilbert Ví dụ 1.1 (i) Rn với tích vơ hướng x, y = R n i=1 xi yi không gian Hilbert (ii) Cn với tích vơ hướng u, v = ni=1 = ui v i không gian Hilbert C, u = (u1 , u2 , , un ), v = (v1 , v2 , , ) (iii) với tích vô hướng ∞ aj bj a, b = j=1 ∞ không gian Hilbert C (ở a = {aj }∞ j=1 , b = {bj }j=1 ) Sự kiện chuỗi a, b hội tụ l h qu ca bt ng thc Hăolder vi p = q = Ở dễ kiểm tra lại tính chất mà tích vơ hướng cần phải thỏa mãn Chuẩn sinh từ tích vơ hướng chuẩn · có (iv) L2 [0, 1], L2 [a, b] L2 [R] tất khơng gian Hilbert tích vơ hướng fg a, b = (tích phân lấy miền thích hợp) Cho H khơng gian Hilbert thực ( x, y , λ ∈ R) với tích vơ hướng ·, · chuẩn · Ký hiệu d khoảng cách, nghĩa (∀x ∈ H) (∀y ∈ H) x = x, x d(x, y) = x − y Tập C ⊂ H gọi trực giao x, y ∈ C, x = y ⇒ x, y = C gọi trực chuẩn tập trực giao có thêm x = với x ∈ C Để ý định nghĩa áp dụng cho tập C có hữu hạn hay vơ số phần tử Cũng cần ý C tập trực giao {x/ x : x ∈ C\{0}} tập trực chuẩn Tập trực chuẩn C ⊂ H gọi sở trực chuẩn H spanC = H (tức khơng gian tuyến tính đóng nhỏ H chứa C trùng với H) Khơng gian H tách H có sở trực chuẩn đếm Ký hiệu toán tử đồng H Id Hình cầu đơn vị đóng H ký hiệu B(0, 1) = {x ∈ H | x ≤ 1} Dãy {xk } H gọi hội tụ yếu tới x0 , ký hiệu xk x0 , a, xk → a, x0 với a ∈ H Dãy {xk } H gọi hội tụ mạnh tới x0 , ký hiệu xk → x0 , xk − x0 → (cịn gọi hội tụ theo tích vơ hướng hội tụ theo chuẩn) 1.1.2 Đồng thức bất đẳng thức Bất đẳng thức Cauchy - Schwarz Giả sử x, y ∈ H Khi | x, y | ≤ x Hơn nữa, | x, y | = x y y ⇔ (∃α ∈ R+ ) x = αy hay y = αx Bổ đề 1.1 Giả sử x, y z ∈ H Khi đó, điều sau đúng: (i) x + y = x + x, y + y (ii) Luật hình bình hành: x + y + x−y (iii) Đồng thức phân cực: x + y 2 = 2( x − x−y + y ) = x, y (iv) Đồng thức Apollonius: x−y =2 z−x +2 z−y − z − (x + y)/2 Chứng minh (i) Kiểm tra dễ dàng (ii) (iii): Từ (i) suy x−y = x − x, y + y Lần lượt cộng trừ (i) với đồng thức này, ta nhận (ii) (iii) (iv) Áp dụng (i) (z − x)/2 (z − y)/2 Bổ đề 1.2 Giả sử x y ∈ H Khi đó, điều sau đúng: (i) x, y ≤ ⇔ (∀α ∈ R+ ) x ≤ x − αy ⇔ (∀α ∈ [0, 1]) x ≤ x − αy (ii) x ⊥ y ⇔ (∀α ∈ R) x ≤ x − αy ⇔ (∀α ∈ [−1, 1]) x ≤ x − αy Chứng minh (i) Để ý (∀α ∈ R) x − αy − x = α(α y − x, y ) Từ trực tiếp suy có chiều thuận (⇒) Ngược lại, ∀α ∈ [0, 1], x ≤ x−α , từ đẳng thức suy x, y ≤ α y /2 Khi α ↓ 0, ta nhận x, y ≤ (ii) hệ (i), x ⊥ y ⇔ [ x, y ≤ x, −y ≤ 0] Hệ 1.1 Giả sử x ∈ H, y ∈ H α ∈ R Khi đó, αx + (1 − α)y + α(1 − α) x − y =α x + (1 − α) y Mệnh đề 1.1 (Tính lồi chặt) Nếu x, y ∈ H x + y = x + y kéo theo y · x = x · y Chứng minh Suy từ luật bình hành 1.1.3 Tốn tử tuyến tính phiếm hàm Cho X Y hai khơng gian tuyến tính định chuẩn thực Ta nhắc lại, tốn tử T : X → Y tuyến tính T [αx + βy] = αT x + βT y, ∀x, y ∈ X, ∀α, β ∈ R Toán tử tuyến tính T liên tục điểm thuộc X T liên tục Lipschitz Đặt L (X, Y ) = {T : X → Y | T tuyến tính liên tục} L (X) = L (X, X) Với chuẩn toán tử xác định (∀T ∈ L (X, Y )) T = sup T (B(0, 1)) = sup T (x) x∈X, x ≤1 L (X, Y ) khơng gian tuyến tính định chuẩn khơng gian Banach Y không gian Banach Định lý Banach - Steinhaus (Tính bị chặn đều) Giả sử X khơng gian Banach thực, Y khơng gian tuyến tính định chuẩn thực (Ti )i∈I họ toán tử bị chặn theo điểm, nghĩa (∀x ∈ X) sup Ti x < +∞ Khi đó, supi∈I Ti < +∞ Định lý biểu diễn Riesz - Fréchet sau cho thấy đồng phiếm hàm tuyến tính liên tục khơng gian Hilbert thực H với véctơ H Định lý Riesz - Fréchet Giả sử f ∈ L (H, R) Khi đó, tồn véctơ u ∈ H cho (x ∈ H) f (x) = x, u Hơn nữa, f = u Cho K không gian Hilbert thực T : H → K liên hợp (adjoint) T toán tử T ∗ ∈ L (K, H) thỏa mãn (∀x ∈ H) (∀y ∈ K) T x, y = x, T ∗ y 1.1.4 Tôpô mạnh tôpô yếu Tôpô metric (H, d), tức tơpơ nhận họ tất hình cầu mở làm sở lân cận, gọi tôpô mạnh (strong topology) hay tôpô theo chuẩn (norm topology) H Như vậy, lưới (xa )a∈A H hội tụ mạnh (converges strongly) tới điểm x xa − x → 0, ký hiệu xa → x Khi sử dụng mà khơng nói thêm, khái niệm tơpơ H (đóng, mở, lân cận, liên tục, compac, hội tụ, ) hiểu theo nghĩa tôpô mạnh Một khái niệm tôpô quan trọng khác (tôpô yếu) đề cập tới 26 ta nói thuật toán đứt đoạn (intermittent) p-đứt đoạn điều khiển đứt đoạn (intermittent control) Ta gọi thuật tốn hầu tuần hồn (almost cyclic) đứt đoạn kỳ dị Ta nói điều khiển khối thuật toán khối hai điều kiện đúng: Có phân hoạch J1 ∩ ∩ JM = {1, , N } với Jm = ∅ Jm ∩ Jm = ∅ với m, m ∈ {1, , M } m = m Có số nguyên dương p cho với n ≥ m ∈ {1, , M }, I (n ) = Jm với n ∈ {n, n + 1, , n + p − 1} Cuối ta muốn nhấn mạnh số tích cực khơng thiết theo dạng điều khiển đó, ta nói điều khiển ngẫu nhiên (random control) thuật toán ngẫu nhiên (radom algorithm) Rõ ràng Nhận xét 2.7 Gần thuật toán khối nhận nhiều ý cách chữa bệnh xạ Định lý 2.2 (Kết tơpơ yếu) (i) Giả sử thuật tốn hội tụ đứt đoạn Nếu lim (n) n : n tích cực i µi > với số i dãy (x(n) ) quy tiệm cận hội tụ yếu tới điểm C (ii) Giả sử thuật tốn hội tụ p-đứt đoạn số nguyên dương p Đặt νn = min{µji : np ≤ j ≤ (n + 1)p − i tích cực j} với n ≥ Nếu n νn = +∞ dãy (x(n) ) có điểm tụ yếu C Chính xác hơn, có dãy (xnk p ) hội tụ yếu tới điểm tụ yếu (x(n) ) C thỏa mãn (nk +1)p−1 (j) x(j) − Ti x(j) → j = nk p i ∈ I (j) điều kéo theo x(nk p+rk ) − x(nk p+sk ) → 27 với dãy (rk ), (sk ) {0, , p − 1} Nói riêng, điều xảy (n) lim n : n tích cực i µi > với số i (iii) Giả sử thuật toán hội tụ dãy (x(n) ) hội tụ yếu điểm x (n) Nếu = +∞ với số i x ∈ Ci Hệ là, n µi (n) n µi = +∞ với số i x ∈ C Chứng minh (i) (x(n) ) quy tiệm cận (Hệ 2.2(i)) Giả sử trái lại (x(n) ) không hội tụ yếu điểm C Khi theo tính đơn điệu Fejér (x(n) ) Định lý 1.1(ii), tồn số i dãy (x(nk ) )k hội tụ yếu điểm x ∈ / Ci Do thuật toán đứt đoạn nên ta nhận mk với nk ≤ mk ≤ nk + p − i ∈ I (mk ) với k ≥ Vì thuật tốn quy tiệm cận, nên ta có x(nk ) − x(mk ) → (x(nk ) ) hội tụ yếu tới x Do thuật toán hội tụ nên ta kết luận (mk ) (mk ) limk x(mk ) − Ti Mặt khác, theo Bổ đề 2.1(iv), +∞ > mâu thuẫn với giả thiết (n) (µi ) x (mk ) n µi > (mk ) (mk ) x x(mk ) − Ti Điều Vậy kết luận (i) (ii) Tạm thời cố định c ∈ C Khi đó, theo Bổ đề 2.1(iii) định nghĩa νn , (n+1)p−1 x (np) −c ((n+1)p) − x −c (j) x(j) − Ti x(j) ≥ νn j=np i∈I (j) với n ≥ Cộng theo n ý tới giả thiết (νn ), ta dãy (x(nk p) )k thỏa mãn (nk +1)p−1 (j) x(j) − Ti x(j) → 0, j = nk p (2.4) i ∈ I (j) Theo Bổ để 2.1(v) ta lại có x(nk p+rk ) − x(nk p+sk ) → (2.5) với dãy (rk ), (sk ) {0, 1, , p − 1} Sau chuyển qua dãy cần, ta giả thiết (x(nk p) )k hội tụ yếu tới x ∈ D 28 Ta chứng minh x ∈ C Thật vậy, xét số i Do thuật tốn đứt đoạn nên có dãy (rk ) {0, 1, , p − 1} thỏa mãn x(nk p+rk ) x (2.6) (điều suy từ (2.5) với sk ≡ 0) i ∈ I (nk p+rk ) với k (2.7) Theo (2.4) (nk p+rk ) (nk p+rk ) x(nk p+rk ) − Ti x → (2.8) Do thuật toán hội tụ (2.6), (2.7) (2.8) kéo theo x ∈ Ci Do i tùy ý nên x ∈ C Theo Định lý 1.1(ii), x điểm tụ yếu x(n) C Kết thúc chứng minh phần (ii) (iii) Theo Bổ đề 2.1(iv), +∞ > (n) n µi (n) n µi (n) x(n) − Ti x(n) Do giả thiết = +∞ nên (n) lim( x(n) − Ti x(n) ) n : n tích cực i phải Do thuật toán hội tụ nên ta thấy x ∈ Ci toàn định lý chứng minh Nhận xét 2.8 (i) kết hội tụ yếu tác giả [3] (ii) kết mở rộng ý tưởng có trước Đó kết tồn điểm tụ yếu (x(n) ) C; nhiên giả thiết trước khác đơi chút: tham số nới lỏng tổng quát trọng số điều khiển tổng quát (iii) mở rộng kết có nhiều tác giả khác Hệ 2.4 Giả sử T1 , , TN : D → D ánh xạ không giãn bền vững, (n) Ci := Fix Ti (Ti ) hội tụ tích cực theo điểm tới Ti Hơn nữa, giả sử (n) (n) tồn ε > cho ε ≤ αi ≤ − ε ε ≤ λi với n ≥ số i tích cực n Nếu thuật tốn đứt đoạn dãy (x(n) ) hội tụ yếu tới điểm C (n) Chứng minh Thuật toán hội tụ (Mệnh đề 2.1) lim n : n tích cực i µi với số i (Nhận xét 2.5) Kết luận suy từ Định lý 2.2(i) > Nhận xét 2.9 Trường hợp riêng định lý Browder: Nếu thuật toán hầu (n) tuần hồn Ti ≡ Ti Hệ 2.4 cho kết hữu hạn tập 29 Hệ 2.5 Giả sử thuật toán hội tụ phần C khác rỗng Nếu (n) (n) n µi = +∞ với số i dãy (x ) hội tụ theo chuẩn tới điểm C Chứng minh Trực tiếp suy từ Hệ 2.1(i) Định lý 2.2(ii) Hệ 2.6 Giả sử H hữu hạn chiều thuật toán hội tụ p-đứt đoạn Nếu n νn → +∞ (trong νn xác đinh Định lý 2.2(ii)) dãy (x(n) ) hội tụ theo chuẩn tới điểm C Chứng minh Theo Định lý 2.2(ii), (x(n) ) có điểm tụ yếu x ∈ C Do H hữu hạn chiều nên x điểm tụ theo chuẩn (x(n) ) Từ áp dụng Hệ 2.1(ii) Nhận xét 2.10 (Đảm bảo điều kiện “tổng phân kỳ”) Một cách đảm bảo cho (n) n µi = +∞ với số i giả thiết tồn ε > cho (n) ε ≤ αi (n) ≤ − ε với n λi = +∞ n Điều tương ứng (trong trường hợp Ti phép chiếu) với kết Flam Zower (xem thêm Ví dụ 2.8(ii)) Cách khác giả thiết thuật toán kỳ dị (n) (n) αi (2 − αi ) = +∞, n:n tích cực (n) n µi lúc tổng 2.4 i Thuật toán chiếu Từ trở sau ta dành riêng xét tình sau Đặt vấn đề Ta giữ lại giả thiết Chương 2, ta định nghĩa (n) thuật toán Ở ta giả thiết thêm Ti phép chiếu tập lồi đóng (n) khác rỗng Ci (n) Ti chứa Ci (n) := Pi (n) := PC (n) Ti i ⊇ Ci với số i m ≥ Ta giả thiết D := H, điều phép chiếu xác định khắp nơi Ta ký hiệu ngắn gọn Pi = PCi với số i ∈ {1, , N } 30 gọi thuật toán cách đặt thuật toán chiếu (projection algorithm) (n) Ta nói thuật tốn chiếu có tập (constant sets) Ci ≡ Ci với n ≥ số i Nhận xét 2.11 Về mặt hình thức thuật tốn chiếu mở rộng đơi chút thuật toán Flam Zower [6] (tuy nhiên, ta cho phép không gian Hilbert vô hạn chiều giả thiết siêu phẳng hạn chế hơn, ta nhận kết thực chất tổng quát Đương nhiên, tất kết trình bày mục trước áp dụng cho thuật toán chiếu Tuy nhiên, trước làm điều ta cần phải hiểu rõ ý nghĩa thuật toán chiếu hội tụ Nguyên mẫu thuật toán chiếu hội tụ diễn đạt theo ngôn từ hội tụ tập theo nghĩa Mosco Bổ đề 2.2 Giả sử (Sn ) dãy tập hợp lồi đóng có tập hợp lồi đóng S với S ⊆ Sn với n Khi điều kiện sau tương đương: (i) PSn → Ps điểm theo chuẩn (ii) Sn → S theo nghĩa Mosco, nghĩa hai điều kiện sau thỏa mãn: (a) Với s ∈ S tồn dãy (sn ) hội tụ theo chuẩn s, sn ∈ Sn , ∀n (b) Nếu (snk )k dãy hội tụ yếu với snk ∈ Snk với k, giới hạn yếu dãy nằm S (iii) Nếu (xnk )k dãy hội tụ yếu với xnk − Psnk → 0, giới hạn yếu dãy nằm S Hơn nữa, (do mỗi) điều kiện thỏa mãn S= Sn n Chứng minh (i) ⇔ (ii): Đây trường hợp không gian Hilbert Tkusada (Định lý 3.2 [10]) Chứng minh (ii) ⇔ (iii) phần “Hơn nữa” dễ dàng nên bị bỏ qua (n) Định lý 2.3 (Nguyên mẫu thứ thuật toán chiếu hội tụ) Nếu (Pi ) hội tụ tích cực điểm tới Pi với số i, thuật tốn chiếu hội tụ (n) Ci = Ci n : n tích cực i với số i 31 (n) Chứng minh Áp dụng Bổ đề 2.2 cho (Ci ) Ví dụ 2.4 Giả sử Ci = (1) (n) n Ci n : n tích cực i i (n) (Ci )n giảm, nghĩa (2) (n) (Ci ) ⊇ (Ci ) ⊇ ⊇ (Ci ) ⊇ với n ≥ số i Khi thuật tốn chiếu hội tụ Hơn nữa, (n) thuật toán chiếu đứt đoạn lim n : n tích cực i µi > với số i dãy (x(n) ) quy tiệm cận hội tụ yếu tới điểm C Chứng minh Mosco chứng minh dãy giảm dần tập lồi đóng hội tụ tới giao chúng Từ Định lý 2.3 Bổ đề 2.2 suy thuật toán chiếu hội tụ Kết luận suy từ Định lý 2.2(i) Nhận xét 2.12 Ballon thu Ví dụ 2.4 với thuật tốn hầu tuần hồn (n) (tức đứt đoạn kỳ dị) không bị nới lỏng (tức αi = với n số i tích cực n bất kỳ) Ví dụ 2.5 (Phép chiếu ngẫu nhiên) Giả sử thuật toán chiếu kỳ dị (tức I (n) gồm phần tử với n), không bị nới lỏng có tập số Nếu số j đó, tập Cj compac bị chặn dãy (x(n) ) hội tụ theo chuẩn tới điểm C Nói riêng, điều H hữu hạn chiều (n) Chứng minh Ví dụ 2.4 cho thấy thuật toán hội tụ Cũng vậy, µi = với n ≥ số i tích cực n Dãy (x(n) ) n : n tích cực j nằm Cj phải có điểm tụ theo chuẩn Do theo Định lý 2.1, tồn dãy (x(n) ) hội tụ theo chuẩn tới điểm C Để phát biểu nguyên mẫu thứ hai thuật toán chiếu hội tụ (cũng kết hội tụ theo chuẩn hội tụ tuyến tính tiết sau) ta cần thêm số định nghĩa Định nghĩa 2.4 Ta nói thuật tốn chiếu hội tụ tuyến tính (linearly focus(n) ing) có số β > cho βd(x(n) , Ci ) ≤ d(x(n) , Ci ) với n đủ lớn số i tích cực n Ta nói phép chiếu hội tụ mạnh (strongly focusing) x(nk ) x, (nk ) (n ) (n ) k k d(x , Ci ) → 0, i tích cực nk kéo theo d(x , Ci ) → với số i dãy (x(nk ) )k (x(n) ) 32 Theo Định nghĩa 2.1 tính nửa liên tục yếu d(·, Ci ), ta nhận hội tụ tuyến tính ⇒ hội tụ mạnh ⇒ hội tụ Hệ 2.7 (Nguyên mẫu thứ hai thuật toán chiếu hội tụ) Mọi thuật toán chiếu hội tụ tuyến tính hội tụ Nhận xét 2.13 Flam Zowe [6] dùng thuật toán chiếu hội tụ tuyến tính khơng gian Euclide có kết (xem thêm Ví dụ 2.8) Hệ 2.8 (Nguyên mẫu thuật toán chiếu hội tụ tuyến tính) Nếu thuật tốn chiếu có tập thuật tốn hội tụ tuyến tính Hệ 2.9 (Ngun mẫu thuật toán chiếu hội tụ mạnh) Giả sử thuật toán chiếu hội tụ Nếu số hạng dãy (x(n) ) tạo nên tập compac tương đối thuật tốn chiếu hội tụ mạnh Nói riêng, điều xảy H hữu hạn chiều phần C khác rỗng Chứng minh Giả sử không Khi ta có ε > 0, x ∈ H, số i (n ) dãy (x(nk ) )k với x(nk ) x, x(nk ) − Pi k x(nk ) → 0, i tích cực nk , x(nk ) − Pi x(nk ) ≥ ε với k Do thuật toán hội tụ nên x ∈ Ci Sau chuyển qua dãy cần, ta giả thiết (do giả thiết compac) x(nk ) → x Nhưng x(nk ) − Pi x(nk ) → x − Pi x = 0, ta gặp mâu thuẫn Vậy thuật toán chiếu hội tụ mạnh Nếu H hữu hạn chiều số hạng (x(n) ) tạo nên tập compac tương đối (x(n) ) bị chặn (Bổ đề 2.1(iv)) Cuối cùng, int C = ∅ (x(n) ) hội tụ theo chuẩn (Hệ 2.1(i)) Hai nguyên mẫu Thuật toán chiếu hội tụ (Định lý 2.3 Hệ 2.7) không bị nới lỏng, minh họa hai ví dụ sau (n) Ví dụ 2.6 Giả sử H := R, N := 1, C := C1 := {0}, C1 := [0, 1/(n + 1)] (n) x(0) = Khi thuật tốn chiếu hội tụ mạnh dãy C1 tập lồi compac (n) giảm dần hội tụ tới C1 theo nghĩa Mosco (Ví dụ 2.4 Hệ 2.9) Tuy nhiên thuật tốn chiếu khơng hội tụ tuyến tính Thực vậy, với n ≥ ta có (n) (n) x d(x(n) , C1 ) 1 = = → n n+1 D(x(n) , C1 ) (n) Ví dụ 2.7 Giả sử H := R, N := 1, C := C1 := {0}, C1 := (−1)n [0, 1] x(0) ∈ H tùy ý Khi thuật tốn chiếu hội tụ tuyến tính, x(n) ≡ ∈ C (n) với n ≥ Tuy nhiên dãy C1 tập lồi compac không hội tụ tới C1 theo nghĩa Mosco 33 Sau cảm nhận khái niệm thuật tốn chiếu hội tụ tuyến tính, cung cấp tài liệu ích lợi khái niệm thông qua kết lưỡng phân Aharoni Censor Định lý 2.4 (Lưỡng phân II) Giả thiết thuật tốn chiếu hội tụ tuyến tính (n) có số ε > thỏa mãn ε ≤ αi ≤ − ε với n lớn số i tích cực n Khi đó, dãy (x(n) ) hội tụ theo chuẩn khơng có điểm tụ theo chuẩn Chứng minh Giả sử trái lại (x(n) ) có hai điểm tụ theo chuẩn, (m) chẳng hạn y z Lấy β > thỏa mãn biểu diễn (x(m) , ci ) ≤ d(X (m) , Ci ) với m lớn số i tích cực m Cố định c ∈ C Do y ∈ / C (n) (trái lại, hóa dãy (x ) hội tụ theo chuẩn Hệ 2.1(ii)), tập số I = {i ∈ {1, , N } : y ∈ / Ci } khác rỗng Ký hiệu B := y + rBH , r := (1/2) min({ y − z } ∪ {d(y, Ci ) : i ∈ I}) Khẳng định 1: ∃γ1 > cho (x(m) ∈ B m đủ lớn) ⇒ x(m) − c − (m) x(m+1) − c ≥ γ1 i∈I λi Mặt khác, theo Bổ đề 2.1(ii), định nghĩa β y − x(m) ≥ d(y, Ci ) − d(x(m) , Ci ) ta có x(m) − c − x(m+1) − c (m) ≥ µi (m) d (x(m) , Ci ) i∈I (m) 2 ≥ λi (m) ε β d (x(m) , Ci i∈I 2 (m) ≥ε β r λi ) i∈I Mặt khác, x(m) −c − x(m+1) −c = ( x(m) −c − x(m+1) −c )×( x(m) −c + x(m+1) −c ) chuẩn thừa số sau nhiều 2(r + y − c ) Gộp tất lại γ1 = ε2 β r2 /(2(r + y − c )) làm việc khẳng định kiểm tra Khẳng định 2: ∃γ2 > cho (x(m) ∈ B m đủ lớn) ⇒ x(m+1) − y − (m) x(m) − y ≥ γ2 i∈I λi Với i ∈ {1, , N }\I, y là điểm bất động (m) ánh xạ không giãn Ri 1.2) Ta có đánh giá (xem Mệnh đề 1.6(i), Mệnh đề 1.6(iii) Hệ (j) x(j+1) − y = (j) (j) λi (Ri x(j) − y) + i ∈ {1, , N } \ I (j) λi (Ri x(j) − y) i∈I 34 (j) (j) (j) λi ||Ri x(j) − y|| λi ||x(j) − y|| + ≤ i∈I i ∈ {1, , N } \ I (j) (j) λi {||Ri x(j) − x(j) || + ||x(j) − y||} ≤ x(j) − y + i∈I (j) (j) (j) λi {αi ||x(j) − Pi x(j) || + ||x(j) − y||} ≤ x(j) − y + i∈I (j) ≤ x (j) λi {2d(x(j) , Ci ) + r} −y + i∈I (j) λi {2(d(y, Ci ) + ||x(j) − y||) + r} ≤ x(j) − y + i∈I Do γ2 = max{d(y, Ci ) : i ∈ I} + 3r làm việc khẳng định kiểm tra Phần chứng minh cịn lại thực nhanh chóng Đặt γ1 δ := r (< r) γ1 + γ2 tìm n lớn cho x(n) − y < d; (x(n) ) ∈ B Bây z điểm tụ theo chuẩn khác (x(n) ) có khoảng cách dương tới B, có số m nhỏ > n với x(m) ∈ B Theo tính đơn điệu Fejér (x(n) ) Khẳng định ta có m−1 (m) y−c ≤ x (n) −c ≤ x (j) − x − γ1 λi j=n i∈I m−1 (j) < δ + y − c γ1 λi ; j=n i∈I m−1 (j) λi < j=n i∈I δ γ1 Tuy nhiên theo Khẳng định, m−1 (m) x (n) −y ≤ x (j) − y + γ2 λi < δ + j=n i∈I γ2 δ = r γ1 điều mâu thuẫn với y ∈ / B Vì dãy (x(n) ) có nhiều điểm tụ theo chuẩn Nhận xét 2.14 Như Ví dụ 2.1 minh họa, cần phải có thêm số giả thiết để đảm bảo có nhiều điểm tụ theo chuẩn 35 Hệ 2.10 Giả sử thuật tốn chiếu hội tụ tuyến tính có số ε > (n) cho ε ≤ αi ≤ − ε với n lớn số i tích cực n Giả thiết thêm H hữu hạn chiều int C = ∅ Khi dãy x(n) hội tụ theo chuẩn (n) tới điểm x Nếu n µi = +∞ với số i x ∈ Ci Hệ (n) n µi = +∞ với số i x ∈ C Chứng minh Theo Hệ 2.1.(i), int C = ∅ (x(n) ) hội tụ theo chuẩn Nếu H hữu hạn chiều (x(n) ) có điểm tụ theo chuẩn; theo Định lý 2.4, dãy (x(n) ) hội tụ theo chuẩn Từ kết suy từ Định lý 2.2.(iii) Suy hai ví dụ sau Ví dụ 2.8 Giả sử H hữu hạn chiều, thuật tốn chiếu hội tụ tuyến tính (n) có số ε > cho ε ≤ αi ≤ − ε với n lớn số i tích cực n Khi dãy (x(n) ) hội tụ theo chuẩn tới điểm x (i) Nếu lim (n) n : n tích cực i (ii) Nếu int C = ∅ (n) n µi µi > với số i x ∈ C = +∞ với số i x ∈ C Ví dụ 2.9 Giả sử H hữu hạn chiều, thuật toán chiếu có tập (và (n) hội tụ tuyến tính theo Hệ 2.8) có số ε > cho ε ≤ αi ≡ α(n) ≤ − ε với n lớn số i tích cực n Khi dãy (x(n) ) hội tụ theo chuẩn giới hạn dãy nằm i∈I Ci , (n) I :≡ {i ∈ {1, , N } : µi = +∞} n Nhận xét 2.15 Với giả thiết tham số nới lỏng ví dụ đây, điều (n) (n) kiện lim n : n tích cực i µi > tương đương với lim n : n tích cực i λi > (n) (xem Nhận xét 2.5) điều kiện n µi = +∞ tương đương với +∞ (xem Nhận xét 2.10) với số i (n) n λi = Ví dụ 2.8(i) suy khơng từ Hệ 2.10, mà từ Định lý 2.1 (n) Ví dụ sau cho thấy bỏ giả thiết n µi = +∞ Ví dụ 2.9 ta hy vọng giới hạn (x(n) ) nằm Ci (n) (n) Ví dụ 2.10 Giả sử H := R, N := 2, C1 := C1 :≡ (−∞, 0] C2 := C2 :≡ (n) (n) (n) [0, +∞) Giả sử x(0) > 0, α1 :≡ α2 :≡ 3/2 λ1 < 3/2 với n Khi x(n) = (n−1) (0) − λ1 − λ1 x(0) , 2 36 (n) lim x(n) ∈ C1 ⇔ lim x(n) ⇔ n µi n = +∞ n (n) Định lý 2.5 Cho thuật toán chiếu, giả sử Pi hội tụ tích cực theo điểm tới Pi với số i Hơn nữa, giả sử có dãy (n ) (n) cho với số i (n ) (n ) → αi λi αi → λi với αi ∈ [0, 2] λi ∈ [0, 1] Nếu phần C khác rỗng dãy (x(n) ) hội tụ theo chuẩn tới điểm C Chứng minh Theo Hệ 2.1(i), (x(n) ) hội tụ theo chuẩn tới điểm x Ta phải x ∈ C Thật vậy, trước hết ta khẳng định (n ) (n ) Pi (n ) (n ) x Vì Pi (n ) λi (n ) − Pi x → Pi x với số i (n ) (n ) x x ≤ x(n ) − x nên ta có Pi (n ) − Pi x → Do → λi > nên ta thấy i số tích cực n với n đủ lớn (n) (n ) Giả thiết (Pi ) kéo theo Pi x → Pi x Từ suy điều khẳng định Bây N (n+1) x (n ) = λi (n ) ((1 − αi (n ) )x(n ) + αi (n ) (n ) Pi x ); i=1 cách lấy giới hạn theo dãy (x(n ) ) từ điều vừa khẳng định, ta có N λi ((1 − αi )x + αi Pi x) x= i=1 hay   N  λα  i i x= N  i=1 λj αj    Pi x  j=1 Mệnh đề 1.10 kéo theo x ∈ C chứng minh hồn thành Ví dụ 2.11 Giả sử H hữu hạn chiều, thuật toán chiếu có tập (n) tham số nới lỏng phụ thuộc vào n, chẳng hạn αi ≡ α(n) với số i n Giả sử thêm có dãy (n ) (n) cho với số (n ) i, λi → λi với λi > 37 (n) (i) Nếu có ε > cho ε ≤ αi ≤ − ε với n lớn dãy (x(n) ) hội tụ theo chuẩn tới điểm C (ii) Nếu phần C có dãy (n ) (n ) thỏa mãn α(n dãy (x(n) ) hội tụ theo chuẩn tới điểm C Chứng minh (i) Giả thiết trọng số kéo theo i Như (i) suy từ Ví dụ 2.9 (ii) suy trực tiếp từ Định lý 2.5 (n) n µi ) →2 = +∞ với số (n) Nhận xét 2.16 Để ý Định lý 2.5 làm việc tốt đặc biệt αi ≡ Vì (n) trường hợp µi ≡ nên khơng có kết trước áp dụng Nếu bỏ giả thiết int C = ∅ kết luận Định lý 2.5 khơng cịn (xem Ví dụ 2.1) Định nghĩa 2.5 (Điều khiển) Ta nói thuật tốn chiếu xét tập xa n, số xa tích cực, tức (n) Ixa := {i : d(x(n) , Ci ) = max{d(x(n) , Cj ) : j = 1, , N }} ∩ I (n) = ∅ Theo Censor, ta nói điều khiển tập xa thuật toán chiếu quy xét tập xa Rõ ràng Định lý 2.6 (Kết tôpô yếu) Giả sử thuật toán chiếu hội tụ mạnh xét tập từ xa Hơn nữa, giả sử (i(n) ) dãy số tích cực xa nhất, tức (n) i(n) ∈ Ixa với n (i) Nếu (n) n µi(n) = +∞ có dãy (x(nk ) )k (x(n) ) cho max{d(x(nk ) , Cj ) : j = 1, , N } → 0, (x(nk ) )k hội tụ yếu tới điểm tụ yếu (x(n) ) C (n) (ii) Nếu limµi(n) > (x(n) ) hội tụ yếu tới điểm C max{d(x(n) , Cj ) : j = 1, , N } → Chứng minh (i) Theo Bổ đề 2.1(iv), chuỗi (n) limn d(x(n) , Ci(n) ) = Như vậy, ta (n) (n) (n) n µi(n) d(x , Ci(n) ) hội tụ Do trích dãy (x(nk ) )k cố 38 (n) định số i thỏa mãn d(x(n) , Ci(n) ) → 0, i(nk ) ≡ i (x(nk ) ) hội tụ yếu Do thuật toán hội tụ mạnh xét tập xa nhất, nên ta kết luận max{d(x(nk ) , Cj ) : j = 1, , N } → Theo tính nửa liên tục yếu d(·, cj ) với số j, giới hạn yếu x(nk ) nằm C Theo Định lý 2.6(ii), (x(n) ) có nhiều điểm tụ yếu C Do (i) đúng; (ii) chứng minh tương tự Nhận xét 2.17 Điều khiển tập xa khái niệm cũ thành công Từ năm 1954 nhiều tác giả (Agmon, Motzkin Schoenberg) nghiên cứu thuật tốn chiếu giải hệ bất phương trình tuyến tính nhờ dùng điều khiển tập xa Bregman xét tình có tập hợp tùy ý tương giao tập hợp lồi đóng Kết luận chương Chương đề cập tới sơ đồ thuật toán, bao gồm thuật toán chiếu giải toán chấp nhận lồi Trình bày chi tiết khái niệm sơ đồ lặp thuật toán nêu tài liệu tham khảo [3], với khái niệm có liên quan (thuật tốn quy tiệm cận, thuật tốn khơng bị nới lỏng, thuật toán kỳ dị, thuật toán trọng số, ) Nêu tính chất thuật tốn, khái niệm thuật toán hội tụ kết hội tụ (định lý lưỡng phân I II) Với thuật tốn chiếu trình bày kết hội tụ tuyến tính thuật toán 39 KẾT LUẬN Luận văn đề cập tới toán chấp nhận lồi thuật tốn tìm nghiệm tốn khơng gian Hilbert Đây lớp tốn có ứng dụng quan trọng thực tiễn nhiều tác giả quan tâm nghiên cứu nhiều năm gần Luận văn trình bày số nội dung cụ thể sau Một số khái niệm kiến thức không gian Hilbert, hội tụ yếu hội tụ mạnh, tốn tử tuyến tính, ánh xạ khơng giãn (ánh xạ không giãn bền vững, ánh xạ trung bình, ngun lý bán đóng), tốn tử chiếu, ánh xạ co, ánh xạ co mạnh, dãy đơn điệu Fejér: Tính chất số kết có liên quan Thuật toán giải toán chấp nhận lồi: sơ đồ thuật tốn, dạng thuật tốn (chính quy tiệm cận, nới lỏng, kỳ dị, trọng số, thuật toán chiếu, ); tính chất thuật tốn, ví dụ nhận xét Các kết hội tụ: Định lý lưỡng phân I, hội tụ tơpơ yếu Ngun mẫu thuật tốn chiếu hội tụ, hội tụ tuyến tính, định lý lưỡng phân II hội tụ theo tơpơ yếu Nội dung trình bày luận văn xem số kiến thức tìm hiểu bước đầu tác giả toán chấp nhận lồi thuật toán giải toán Các kiến thức tạo sở để sau tác giả tìm hiểu thêm toán thuật toán khác lĩnh vực toán giải tích tốn ứng dụng 40 Tài liệu tham khảo Tiếng Việt [1] Phạm Kỳ Anh, Trần Đức Long (2001), Giáo trình hàm thực giải tích hàm, Nhà xuất Đại học Quốc gia Hà Nội [2] Lê Dũng Mưu, Nguyễn Hiền Nguyễn Hữu Điển (2014), Giáo trình giải tích lồi ứng dụng, Nhà xuất Đại học Quốc gia Hà Nội Tiếng Anh [3] H H Bauschke, J M Borwein (1996), “On projection algorithms for solving convex feasibility problems”, SIAM REVIEW, 38(3), 367-426, September [4] H H Bauschke, P L Combettes (2010), Convex Analysis and Mono-tone Operator Theory in Hilbert Spaces, Springer [5] F E Browder (1967), “Convergence theorems for sequences of nonlinear operators in Banach spaces”, Math Z., 100, 201-225 [6] S D.Flam, J Zowe (1990), “Relaxed outer projections, weighted averages and convex feasibility”, BTT, 30, 289-300 ... ? ?Thuật toán giải toán chấp nhận lồi? ?? Chương đề cập tới thuật toán (bao gồm thuật toán chiếu) giải toán chấp nhận lồi Tài liệu sử dụng [3], [5], [6] Chương có số tiểu mục sau: 2.1 Mơ tả sơ đồ thuật. .. cận hay sử dụng để giải toán chấp nhận lồi thuật toán chiếu Ý tưởng thuật toán là: chiếu tập Ci (hoặc tập xấp xỉ nó) để tạo dãy điểm mà chúng hội tụ tới nghiệm toán chấp nhận lồi Đó cách tiếp cận... tương giao tập hợp lồi đóng Kết luận chương Chương đề cập tới sơ đồ thuật toán, bao gồm thuật toán chiếu giải toán chấp nhận lồi Trình bày chi tiết khái niệm sơ đồ lặp thuật toán nêu tài liệu