Thuật toán chambolle pock cho bài toán tối ưu lồi

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC QUY NHƠN TRẦN THỊ THANH HUỲNH THUẬT TOÁN CHAMBOLLE–POCK CHO BÀI TOÁN TỐI ƯU LỒI LUẬN VĂN THẠC SĨ TOÁN HỌC BÌNH ĐỊNH - NĂM 2021 BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC QUY NHƠN TRẦN THỊ THANH HUỲNH THUẬT TOÁN CHAMBOLLE–POCK CHO BÀI TOÁN TỐI ƯU LỒI Chuyên ngành: Tốn Giải tích Mã số: 46 01 02 Người hướng dẫn: TS NGUYỄN VĂN THÀNH Lời cam đoan Luận văn hoàn thành Trường Đại học Quy Nhơn hướng dẫn TS Nguyễn Văn Thành Tơi xin cam đoan cơng trình nghiên cứu Các kết luận văn trung thực, đồng tác giả cho phép sử dụng chưa cơng bố trước Bình Định, ngày 28 tháng năm 2021 Học viên Trần Thị Thanh Huỳnh Lời cảm ơn Trước trình bày nội dung luận văn, tơi xin bày tỏ lòng biết ơn chân thành đến TS Nguyễn Văn Thành, người tận tình bảo, hướng dẫn để tơi hồn thành luận văn Tơi xin chân thành cảm ơn thầy Khoa Tốn Thống kê dạy dỗ tận tình, truyền đạt kiến thức quý báu suốt hai năm học tập vừa qua Nhân dịp này, xin gửi lời cảm ơn đến gia đình, bạn bè bạn lớp Cao học Tốn K22 ln động viên, giúp đỡ tơi q trình học tập thực luận văn Trong trình học tập nghiên cứu viết luận văn chắn tránh khỏi sai sót nội dung hình thức Tôi mong nhận thông cảm ý kiến đóng góp, chỉnh sửa q Thầy, Cơ bạn đọc để luận văn hoàn thiện Xin trân trọng cảm ơn i Mục lục Lời nói đầu Một số kiến thức chuẩn bị 1.1 Khái niệm tập lồi hàm lồi Rn 1.1.1 Tập lồi 1.1.2 Hàm lồi 1.2 Bài toán tối ưu lồi 1.2.1 Tồn nghiệm điều kiện tối ưu 1.2.2 Đối ngẫu Lagrange Thuật toán Chambolle–Pock 2.1 Bài toán tổng quát thuật toán Chambolle–Pock 2.2 Sự hội tụ thuật toán 2.3 So sánh với số thuật toán khác 2.3.1 Phương pháp Arrow–Hurwicz (θ = 0) 2.3.2 Thuật toán tách Douglas–Rachford 2.3.3 ADMM điều chỉnh (preconditioned ADMM) 3 10 19 19 21 28 28 29 31 Ứng dụng thuật tốn Chambolle–Pock giải phương trình Hamilton–Jacobi 3.1 Phương trình Hamilton–Jacobi 3.2 Rời rạc hoá 3.3 Tính tốn số 3.4 Một số ví dụ 33 33 35 39 41 Kết luận 44 Danh mục tài liệu tham khảo 45 Lời nói đầu Tối ưu lồi vấn đề quan trọng lý thuyết tối ưu với nhiều ứng dụng thực tế Trải qua nửa kỷ, cơng trình nghiên cứu vấn đề vô đa dạng, phong phú lý thuyết, phương pháp, thuật toán ứng dụng Tuy nhiên, nhu cầu ứng dụng, hấp dẫn mặt tốn học tính phức tạp toán thực tế đến nay, việc nghiên cứu giải hiệu toán tối ưu lồi mang tính thời thu hút quan tâm nhiều nhà khoa học ngồi nước Đặc biệt mơ hình toán cụ thể thực tế, việc vận dụng thuật tốn cách linh hoạt quan trọng giúp việc giải vấn đề trở nên dễ dàng Thuật toán xét đến thuật toán Chambolle–Pock với khả ứng dụng rộng rãi, chẳng hạn xử lý ảnh, vận tải tối ưu phương trình đạo hàm riêng Đó lí mà chúng tơi chọn đề tài “Thuật tốn Chambolle–Pock cho toán tối ưu lồi” Luận văn “Thuật tốn Chambolle–Pock cho tốn tối ưu lồi” gồm có ba chương Chương 1: Một số kiến thức chuẩn bị Chương chúng tơi trình bày số kiến thức chuẩn bị tập lồi, hàm lồi, toán tối ưu lồi, toán đối ngẫu điều kiện tối ưu dùng toàn luận văn Chương 2: Thuật tốn Chambolle–Pock Trong chương chúng tơi giới thiệu thuật toán, xét hội tụ so sánh thuật toán với thuật toán khác Đây nội dung luận văn Chương 3: Ứng dụng thuật tốn Chambolle–Pock giải phương trình Hamilton–Jacobi Chương chúng tơi nghiên cứu ứng dụng thuật tốn Chambolle–Pock giải số toán cụ thể Mặc dù luận văn thực với nỗ lực thân giúp đỡ thầy, điều kiện thời gian có hạn, trình độ kiến thức kinh nghiệm nghiên cứu hạn chế nên luận văn khó tránh khỏi thiếu sót Tơi mong nhận ý kiến đóng góp q thầy giáo để luận văn hồn thiện Bình Định, ngày 28 tháng năm 2021 Học viên Trần Thị Thanh Huỳnh Chương Một số kiến thức chuẩn bị Trong chương chúng tơi trình bày số kiến thức chuẩn bị tập lồi, hàm lồi, toán tối ưu lồi toán đối ngẫu điều kiện tối ưu dùng toàn luận văn Các kết chương tham khảo chủ yếu từ tài liệu [1, 4, 8, 13] 1.1 Khái niệm tập lồi hàm lồi Rn 1.1.1 Tập lồi Định nghĩa 1.1.1 ([4]) Đoạn thẳng nối hai điểm x y Rn tập hợp véctơ z có dạng {z ∈ Rn |z = λx + (1 − λ)y, λ ∈ [0, 1]} Định nghĩa 1.1.2 ([4]) Một tập C ⊆ Rn gọi tập lồi C chứa đoạn thẳng nối hai điểm Tức là, C tập lồi ∀x, y ∈ C, λ ∈ [0, 1] =⇒ λx + (1 − λ)y ∈ C Ví dụ 1.1.3 (a) Tập C = Rn+ := {(x1 , x2 , , xn ) ∈ Rn : xi ≥ 0, ∀i = 1, , n} tập lồi (b) Tập C = [−2; 3) tập lồi R (c) Tập C = (−2; 0) (0; 3) không tập lồi R 1.1.2 Hàm lồi Định nghĩa 1.1.4 ([4], Hàm nhận giá trị thực mở rộng) Với hàm f : Rn → R {+∞}, miền hữu hiệu domf , đồ thị Grf đồ thị epif định nghĩa tập hợp domf := {x ∈ Rn |f (x) < +∞}, Grf := {(x, f (x)) ∈ Rn × R|x ∈ domf }, epif := {(x, t) ∈ Rn × R|f (x) ≤ t} Khi domf = ∅, ta nói f hàm thường Định nghĩa 1.1.5 ([4], Tính nửa liên tục) Cho hàm (chính thường) f : Rn → R {+∞} (i) Hàm f gọi nửa liên tục x lim inf f (x) ≥ f (x) x→x n Hàm f gọi nửa liên tục R nửa liên tục điểm Rn (ii) Hàm f gọi hàm nửa liên tục −f hàm nửa liên tục Mệnh đề 1.1.6 ([4], Tiêu chuẩn nửa liên tục dưới) Cho hàm (chính thường) f : Rn → R {+∞} Khi phát biểu sau tương đương: (i) f nửa liên tục (ii) epif tập đóng Rn × R (iii) Với t ∈ R tập mức [f ≤ t] đóng Rn Mệnh đề 1.1.7 ([4], Phép tốn bảo tồn tính chất nửa liên tục dưới) (i) (fj )j∈J họ hàm nửa liên tục hàm f := sup fj nhận j∈J cách lấy supremum theo điểm f (x) := sup fj (x) j∈J nửa liên tục (ii) Nếu f g nửa liên tục hàm tổng f + g nửa liên tục Định nghĩa 1.1.8 ([4], Hàm lồi) Một hàm f : Rn → R {+∞} lồi domf tập lồi ∀x, y ∈ domf , ≤ λ ≤ 1, ta có f (λx + (1 − λ)y) ≤ λf (x) + (1 − λ)f (y) ❼ Hàm f gọi lồi chặt nếu: ∀x, y ∈ domf , x = y, < λ < f (λx + (1 − λ)y) < λf (x) + (1 − λ)f (y) ❼ Hàm f gọi lõm −f lồi Mệnh đề 1.1.9 ([4], Đặc trưng epigraph) Cho hàm (chính thường) f : Rn → R {+∞} Khi f lồi epif tập lồi Rn+1 Trước đến kết tổng quát hơn, xem xét tính chất khả vi tiêu chuẩn đạo hàm đặc trưng tính lồi Mệnh đề 1.1.10 ([4]) Cho f hàm số khả vi tập lồi mở C ⊆ Rn Khi phát biểu sau tương đương: (i) f hàm lồi C (ii) Với x, x∗ ∈ C ta ln có f (x) ≥ f (x∗ ) + ∇f (x∗ )(x − x∗ ) 32 bước (2.34) trở thành y n+1 = arg F ∗ (y) − K ∗ y, xn + y τ K ∗y + zn 2 − τ KK ∗ (y − y n ), y − y n σ τ = arg F ∗ (y) − y, Kxn + y, KK ∗ y y τ +τ y, Kz n + y, y − y, KK ∗ y 2σ − τ KK ∗ y n − y, σ ∗ = arg F (y) + y + y − (y n + σK (xn − τ (K ∗ y n + z n ))) 2σ (2.35) Đơn giản y n+1 = (I + σ∂F ∗ )−1 (y n + σKxn ) ta xác định xn = xn − τ (K ∗ y n + z n ) xn−1 − xn − K ∗yn =x −τ K y + τ = 2xn − xn−1 (2.36) n ∗ n Bằng cách thêm số hạng prox, bước (2.34) có dạng tường minh hơn, hiểu dạng điều chỉnh Rõ ràng phiên điều chỉnh ADMM tương đương với thuật toán Chambolle–Pock Chú ý 2.3.2 Thuật tốn Chambolle–Pock gia tốc để đạt hội tụ nhanh cách chọn tham số τ, σ, θ thay đổi phụ thuộc bước lặp, trình bày chi tiết Mục [5] Ở đây, không sâu vào việc tìm hiểu gia tốc mà dành thời gian tìm hiểu ứng dụng thuật tốn việc giải tốn thực tiễn trình bày Chương 33 Chương Ứng dụng thuật tốn Chambolle–Pock giải phương trình Hamilton–Jacobi Thuật tốn Chambolle–Pock dùng nhiều lĩnh vực khác nhau, đặc biệt xử lí hình ảnh [5], gần phương trình đạo hàm riêng Trong khn khổ luận văn này, xét đến việc dùng thuật tốn Chambolle–Pock để giải lớp phương trình Hamilton–Jacobi 3.1 Phương trình Hamilton–Jacobi Chúng tơi xét phương trình Hamilton–Jacobi cấp có dạng   H(x, ∇u) = Ω (3.1)   u = ∂Ω, H hàm liên tục theo hai biến lồi theo biến thứ hai Như biết, phương trình (3.1) nói chung khơng có nghiệm cổ điển, tức nghiệm có đạo hàm đến cấp cao thoả mãn phương trình cho điểm miền Ω Việc khơng tồn nghiệm cổ điển kiểm chứng (dùng Định lý Rolle cần) ví dụ đơn giản 34 1-chiều sau   |u | = Ω = (0, 1) (3.2)  u(0) = u(1) = Đến đây, người ta nghĩ đến việc giảm bớt yêu cầu tính trơn nghiệm, chẳng hạn địi hỏi hàm Lipschitz thoả mãn phương trình hầu khắp nơi miền Ω Tuy nhiên, với điều kiện phương trình (3.2) lại có vô số "nghiệm" bao gồm, chẳng hạn như, hàm có dạng hình cưa Một bước ngoặt việc tìm kiếm khái niệm phù hợp cho lớp phương trình Hamilton–Jacobi đời nghiệm nhớt, xuất phát từ cơng trình nghiên cứu Crandall–Lions cộng vào năm 1980s với báo khởi đầu [7] Ở xin nhắc lại định nghĩa nghiệm nhớt theo cách trình bày tài liệu [15] Định nghĩa 3.1.1 (Nghiệm nhớt) Một hàm liên tục u : Ω → R gọi nghiệm nhớt (3.1) H(x, ∇φ(x)) ≤ với x ∈ Ω cho hàm trơn φ tiếp xúc với u từ phía x (tức φ − u đạt cực tiểu địa phương x) Tương tự, ψ gọi nghiệm nhớt (3.1) H(x, ∇ψ(x)) ≥ với x ∈ Ω cho hàm trơn ψ tiếp xúc với u từ phía x Hàm u gọi nghiệm nhớt (3.1) vừa nghiệm nhớt vừa nghiệm nhớt Với H(x, p) = p − k(x), ta lớp tốn điển hình phương trình Eikonal    ∇u(x) = k(x) Ω u=0 ∂Ω   (3.3) Trong chương này, chúng tơi tập trung xem xét phương trình Eikonal (3.3) với hàm k(x) khác Các kết tương tự cho phương trình 35 Hamilton–Jacobi tổng quát (3.1) tham khảo [9], khái niệm đặc trưng mêtric nghiệm nhớt đóng vai trị quan trọng Giải phương trình (3.3) ta tìm nghiệm nhớt Chúng tơi thừa nhận mệnh đề sau (tham khảo [15, 9]) Mệnh đề 3.1.2 Nghiệm nhớt phương trình (3.3) nghiệm tốn biến phân max u    Ω   1,∞ udx : ∇u ≤ k(x), u ∈ W0 (Ω) ,  (3.4) W01,∞ (Ω) hiểu không gian hàm Lipschitz Ω biên ∂Ω Khơng khó để thấy tốn (3.4) tương đương với     1,∞ − udx : ∇u ≤ k(x), u ∈ W0 (Ω) u   (P1 ) Ω 3.2 Rời rạc hố Để giải số tốn (P1 ) người ta rời rạc hóa tốn thơng qua phương pháp sai phân hữu hạn, phần tử hữu hạn, Nhằm đơn giản việc trình bày minh họa cho việc giải số, chúng tơi xét tốn 2-chiều với Ω = [a, b] × [c, d] hình chữ nhật dùng phương pháp sai phân hữu hạn Đây trường hợp phổ biến hình ảnh Chúng rời rạc miền Ω cách sử dụng lưới thơng thường gồm điểm mút có dạng: {(a + ih, c + jh) : ≤ i ≤ m, ≤ j ≤ n} cho h > Giá trị hàm g (a + ih, c + jh) viết gọn gi,j gij Khơng gian X = R(m+1)×(n+1) trang bị tích vơ hướng 36 chuẩn sau: m u, v = h n ui,j vi,j u = u, u i=0 j=0 Như thường lệ, có nhiều cách để rời rạc tốn tử gradient Ở dựa theo tài liệu [5] Với ≤ i ≤ m ≤ j ≤ n, ta xác định thành phần toán tử gradient rời rạc qua sai phân hữu hạn:      ui+1,j −ui,j i < m  ui,j+1 −ui,j j < n h h (∇h u)i,j = (∇h u)i,j =   0 0 i = m, j = n Khi gradient rời rạc ∇h : X → Y = R(m+1)×(n+1)×2 cho (∇h u)i,j = ((∇h u)1i,j , (∇h u)2i,j ) Tương tự trường hợp liên tục, ta xác định toán tử rời rạc divh : Y → X , trừ liên hợp ∇h , cho divh = −∇∗h Nghĩa là, −divh φ, u X = φ, ∇h u Y với φ = (φ1 , φ2 ) ∈ Y u ∈ X Nói cách khác, divh viết tường minh dạng  φi,j   i =    h1 i−1,j (divh φ)i,j = φi,j −φ < i < m h      −φ1m−1,j i = m h  φi,j   j =    h2 i,j−1 + φi,j −φ < j < n h      −φ2i,n−1 j = n h Mệnh đề 3.2.1 Theo định nghĩa ký hiệu đề cập trên, ta có ❼ Tốn tử liên hợp ∇h ∇∗h = −divh ❼ Chuẩn thỏa mãn: ∇h = divh ≤ 8/h2 Để giải toán (P1 ), dùng rời rạc m − udx ≈ −h Ω n ui,j i=0 j=0 37 Với tốn tử rời rạc trên, chúng tơi đề xuất phiên rời rạc (P1 ) sau   −h2 u∈X  m n ui,j i=0 j=0   + IIk (∇h u)  (Pd ) IIk hàm Y cho   0 qi,j ≤ ki,j , ∀i = 0, m, j = 0, n IIk (q) =  +∞ ngược lại Bài toán rời rạc (Pd ) viết lại dạng Fh (Ku) + Gh (u) (3.5) u∈X Ku = ∇h u, Gh (u) = m    −h2 n ui,j u0,j = um,j = ui,0 = ui,n = i=0 j=0   +∞ Fh (q) = ngược lại,   0 qi,j ≤ ki,j , ∀i = 0, m, j = 0, n  +∞ ngược lại Cho u∗ ∈ X ∗ , ta Gh∗ (u∗ ) ∗ = sup u, u X u∈X m = sup h2 u∈X   0 =  +∞ Khi m n − Gh (u) = sup h u∈X m ui,j u∗i,j i=0 j=0 +h ui,j i=0 j=0 n ui,j (u∗i,j + 1) i=0 j=0 − u∗i,j = 1, ∀i = 1, m − 1, j = 1, n − ngược lại n 38 Gh∗ (divh φ) =   0 − divh φi,j = 1, ∀i = 1, m − 1, j = 1, n −  +∞ ngược lại Mặt khác, ta có q = (q , q ) ∈ Y ∗ Fh∗ (q) = sup p, q p=(p1 ,p2 )∈Y Y − Fh (p) m = sup (p1i,j qi,j + p2i,j qi,j ) h p∈Y, pi,j ≤ki,j m n (3.6) i=0 j=0 n =h ki,j qi,j i=0 j=0 Do đó, tốn đối ngẫu rời rạc tương ứng cho max {−Gh∗ (divh φ) − Fh∗ (φ)} (Dd ) φ∈Y    m n  = − h ki,j φi,j : −divh φi,j =   φ∈Y i=0 j=0 Đối ngẫu mạnh viết lại sau   m n   −h ui,j + IIk (∇h u)  u∈X  i=0 j=0   m n   = − h ki,j φi,j : −divh φi,j =   φ∈Y i=0 j=0 Điều kiện tối ưu divh (φ) ∈ ∂Gh (u) φ ∈ ∂Fh (Ku) có dạng tường minh    −(divh (φ))i,j = ∀i = 1, m − 1, j = 1, n −    φi,j · ∇h ui,j = ki,j φi,j ∀i = 0, m, j = 0, n     u = u = u = u = biên 0,j m,j i,0 i,n (3.7) 39 3.3 Tính tốn số Như chúng tơi phần trước, phiên rời rạc (Pd ) (P1 ) đưa tốn (3.5) viết lại dạng inf–sup sau inf sup Gh (u) + φ, Ku − Fh∗ (φ) u∈X φ∈Y (3.8) Ku = ∇h u, Gh (u) =    −h2 m n ui,j u0,j = um,j = ui,0 = ui,n = i=0 j=0   +∞ Fh (q) = ngược lại,   0  +∞ ngược lại qi,j ≤ ki,j , ∀i = 0, m, j = 0, n Chúng tơi sử dụng thuật tốn Chambolle–Pock (2.7) để giải toán trên, ta ❼ Khởi tạo: Chọn τ, σ > 0, θ ∈ [0, 1], u0 lấy φ0 = ∇h u0 u0 = u0 ❼ Bước lặp:    φk+1 = proxσFh∗ (φk + σ∇h (uk ))    uk+1 = proxτ Gh (uk − τ ∇∗h (φk+1 ))     uk+1 = uk+1 + θ(uk+1 − uk ) (3.9) Để tính proxσFh∗ , sử dụng đồng thức tiếng Moreau φ = proxσFh∗ (φ) + σproxσ−1 Fh (φ/σ), ∀φ ∈ Y 40 Hơn nữa, điểm mút (i, j) proxσ−1 Fh phép chiếu lên hình cầu B(0, ki,j ) tâm bán kính ki,j R2 , ký hiệu projB(0,ki,j ) Thật q−ψ q∈Y = arg q − ψ qi,j ≤ki,j + Fh (q) σ proxσ−1 Fh (ψ) = arg = projB(0,ki,j ) (ψi,j ) Do đó, (proxσFh∗ (ψ))i,j = ψi,j − σprojB(0,ki,j ) (ψi,j /σ) Tiếp theo, tính tốn tử prox Gh Ta có proxτ Gh (u) = arg v∈X v−u = arg v − u v∈X 2 + τ Gh (v) m n − τh vi,j i=0 j=0 Dùng điều kiện tối ưu bậc ta nhận (proxτ Gh (u))i,j − ui,j − τ = ⇔ (proxτ Gh (u))i,j = ui,j + τ, ∀i = 0, m, j = 0, n Như vậy, bước lặp (3.9) tính tốn cụ thể sau ❼ Tính φk+1 : φ k+1 = φk + σ∇h uk k+1 k+1 φk+1 i,j = φi,j − σprojB(0,ki,j ) (φi,j /σ), ∀i = 0, m, j = 0, n ❼ Tính uk+1 : v k+1 = uk + τ divh (φk+1 ) k+1 uk+1 i,j = vi,j + τ, ∀i = 0, m, j = 0, n 41 ❼ Tính uk+1 : uk+1 = uk+1 + θ(uk+1 − uk ) Ta quan sát thấy bước lặp sử dụng phép nhân vô hướng với vectơ, phép cộng vectơ khơng có u cầu giải hệ phương trình tuyến tính Do đó, việc tính tốn đơn giản nhanh Đây thuận lợi phương pháp Chambolle–Pock so với thuật toán tiếng ADMM 3.4 Một số ví dụ Trong phần này, chúng tơi thực hành số ví dụ đơn giản Xin nhắc lại, phương trình Eikonal xem xét có dạng ∇u(x, y) = k(x, y) miền Ω không gian 2-chiều với điều kiện biên Dirichlet u = ∂Ω Việc giải phương trình chủ đề quan tâm nghiên cứu (xem chẳng hạn [3] tài liệu tham khảo đó) Ở đây, chúng tơi viết thuật tốn Matlab với tham số τ = 0, 001; h = 1/50, σ = h2 /(9τ ) với số vòng lặp 2000 Thời gian tính tốn cho ví dụ bên nói chung nhanh, phút máy tính cá nhân thơng thường Ví dụ Chúng ta bắt đầu phương trình ∇u(x, y) = k(x, y) = Ω = (0, 1)2 u = ∂Ω Ví dụ đơn giản hữu ích việc kiểm chứng lại tính đắn q trình tính tốn, mà ta biết nghiệm xác cho uđúng (x, y) = d((x, y), ∂Ω) = min(x, − x, y, − y) Nghiệm tính tốn thể Hình 3.1 đường đồng mức Hình 3.2 42 Hình 3.1: Nghiệm (nhớt) số u Hình 3.2: Các đường đồng mức Bảng sau cho thấy sai khác nghiệm tính tốn nghiệm xác theo chuẩn khác u−uđúng uđúng L2 L2 u−uđúng uđúng L1 L1 u−uđúng uđúng L∞ L∞ 8.816000e-04 1.179145e-03 1.179145e-03 Ví dụ cho ta thấy phép lặp hội tụ đến nghiệm xác uđúng Ví dụ Xét phương trình ∇u(x, y) = k(x, y) = 10 y − x2 Ω = (0, 1)2 u = ∂Ω Ta thấy đạo hàm ∇u = đường parabolic y = x2 , ta mong đợi nghiệm u đường parabolic y = x2 Nghiệm phương trình thể Hình 3.3 đường đồng mức Hình 3.4 Quan sát hình đường đồng mức ta nhận thấy u gần đường parabolic y = x2 43 Hình 3.3: Nghiệm (nhớt) số u Hình 3.4: Các đường đồng mức Ví dụ Xét phương trình ∇u(x, y) = k(x, y) = sin(πy)2 + π x2 cos(πy)2 Ω = (−1, 1)2 u = ∂Ω Nghiệm phương trình thể qua Hình 3.5 3.6 Hình 3.5: Nghiệm (nhớt) số u Hình 3.6: Các đường đồng mức 44 Kết luận Nội dung chủ yếu luận văn nghiên cứu thuật toán Chambolle– Pock cho toán tối ưu lồi hội tụ thuật toán minh họa ứng dụng việc giải lớp phương trình đạo hàm riêng phi tuyến Hamilton–Jacobi cấp Luận văn tìm hiểu, hệ thống chi tiết hóa số kết liên quan đến vấn đề nói Cụ thể là: Hệ thống số kiến thức Giải tích lồi cần dùng luận văn, chẳng hạn như: Khái niệm tập lồi hàm lồi Rn , đặc trưng hàm lồi, vi phân, hàm liên hợp, đặc trưng epigraph, Trình bày số kiến thức toán tối ưu lồi, toán đối ngẫu điều kiện tối ưu dựa vào toán đối ngẫu Giới thiệu thuật toán Chambolle–Pock, xét hội tụ so sánh thuật toán với thuật tốn khác Trình bày ứng dụng thuật tốn Chambolle–Pock giải tốn cụ thể, lớp phương trình đạo hàm riêng Hamilton–Jacobi cấp 45 Tài liệu tham khảo [1] A Beck Introduction to nonlinear optimization: Theory, algorithms, and applications with MATLAB Society for Industrial and Applied Mathematics, 2014 [2] A Beck First-order methods in optimization Society for Industrial and Applied Mathematics, 2017 [3] A Belyaev and P A Fayolle An ADMM-based scheme for distance function approximation Numerical Algorithms, 84:983–996, 2020 [4] S Boyd and L Vandenberghe Convex Optimization Cambridge University Press, 2004 [5] A Chambolle and T Pock A first-order primal-dual algorithm for convex problems with applications to imaging Journal of Mathematical Imaging and Vision, 40(1): 120-145, 2011 [6] P L Combettes and J C Pesquet Proximal splitting methods in signal processing In Fixed-point algorithms for inverse problems in science and engineering, (pp 185-212), 2011 [7] M.G Crandall and P.L Lions Viscosity solutions of Hamilton-Jacobi equations Transactions of the American Mathematical Society, 277: 1-42, 1983 46 [8] I Ekeland and R Temam Convex analysis and variational problems Society for Industrial and Applied Mathematics, 1999 [9] H Ennaji, N Igbida, and V T Nguyen Augmented Lagrangian methods for degenerate Hamilton-Jacobi equations Calculus of Variations and Partial Differential Equations, to appear [10] A J Kurdila, M Zabarankin Convex functional analysis Springer Science and Business Media, 2006 [11] A Mokhtari, A Ozdaglar and S Pattathil A unified analysis of extragradient and optimistic gradient methods for saddle point problems: Proximal point approach In International Conference on Artificial Intelligence and Statistics (pp 1497-1507), 2020 [12] Lê Dũng Mưu Nguyễn Văn Hiền, Giáo trình: Nhập mơn giải tích lồi ứng dụng, 2003 [13] N Parikh and S Boyd Proximal algorithms Foundations and Trends in Optimization, 1(3), 127-239, 2014 [14] B T Polyak Subgradient methods: a survey of Soviet research In Nonsmooth optimization: Proceedings of the IIASA workshop (pp 530), 1977 [15] V H Tran Hamilton-Jacobi Equations: Theory and Applications American Mathematical Society, 2021 ... đạo hàm riêng Đó lí mà chúng tơi chọn đề tài ? ?Thuật toán Chambolle? ? ?Pock cho toán tối ưu lồi? ?? Luận văn ? ?Thuật toán Chambolle? ? ?Pock cho toán tối ưu lồi? ?? gồm có ba chương Chương 1: Một số kiến thức... tập lồi, hàm lồi, toán tối ưu lồi, toán đối ngẫu điều kiện tối ưu dùng toàn luận văn Chương 2: Thuật toán Chambolle? ? ?Pock Trong chương chúng tơi giới thiệu thuật tốn, xét hội tụ so sánh thuật toán. .. Thuật toán Chambolle? ? ?Pock 2.1 Bài toán tổng quát thuật toán Chambolle? ? ?Pock 2.2 Sự hội tụ thuật toán 2.3 So sánh với số thuật toán khác 2.3.1 Phương