PHƯƠNG PHÁP MIỀN TIN cậy CHO các bài TOÁN tối ưu PHI TUYẾN

BỘ GIÁO DỤC VÀ ĐÀO TẠO VIỆN HÀN LÂM KHOA HỌC VÀ CÔNG NGHỆ VIỆT NAM VIỆN TOÁN HỌC Bùi Ngọc Mười PHƯƠNG PHÁP MIỀN TIN CẬY CHO CÁC BÀI TOÁN TỐI ƯU PHI TUYẾN LUẬN VĂN THẠC SĨ TOÁN HỌC Hà Nội – Năm 2014 BỘ GIÁO DỤC VÀ ĐÀO TẠO VIỆN HÀN LÂM KHOA HỌC VÀ CÔNG NGHỆ VIỆT NAM VIỆN TOÁN HỌC Bùi Ngọc Mười PHƯƠNG PHÁP MIỀN TIN CẬY CHO CÁC BÀI TOÁN TỐI ƯU PHI TUYẾN Chuyên ngành: Toán giải tích Mã số: 60 46 01 02 LUẬN VĂN THẠC SĨ TOÁN HỌC NGƯỜI HƯỚNG DẪN KHOA HỌC: GS.TSKH Nguyễn Đông Yên Hà Nội – Năm 2014 Mục lục Lời mở đầu 1 Phương pháp miền tin cậy cho toán tối ưu ràng buộc 1.1 Thuật toán sở 1.2 Sự hội tụ 11 1.2.1 1.3 Một số ràng buộc với hàm mục tiêu hàm xấp xỉ 11 1.2.2 Điểm Cauchy với hàm xấp xỉ dạng toàn phương 13 1.2.3 Sự hội tụ đến điểm tới hạn bậc 17 1.2.4 Sự hội tụ đến điểm tới hạn bậc hai 25 Tính ổn định địa phương tốc độ hội tụ địa phương phương pháp điểm Cauchy 34 Phương pháp miền tin cậy cho toán tối ưu có ràng buộc lồi 44 2.1 Phép chiếu theo phương gradient 46 2.2 Độ đo tới hạn bậc 48 2.3 Thuật toán Miền tin cậy cho toán tối ưu với ràng buộc lồi i 51 Luận văn Thạc sĩ toán học Bùi Ngọc Mười 2.4 Phương pháp điểm Cauchy suy rộng xấp xỉ 2.5 Sự hội tụ đến điểm tới hạn bậc phương pháp chiếu theo phương gradient 53 57 Thử nghiệm tính toán với phương pháp Miền tin cậy 59 3.1 Thử nghiệm với toán tối ưu phi tuyến ràng buộc 3.2 59 Thử nghiệm với toán tối ưu phi tuyến có ràng buộc lồi Tài liệu tham khảo 64 74 ii Luận văn Thạc sĩ toán học Bùi Ngọc Mười Lời mở đầu Phương pháp miền tin cậy áp dụng để giải toán tối ưu ràng buộc, có ràng buộc tuyến tính, toán tối ưu có ràng buộc tổng quát Cùng với phương pháp truyền thống phương pháp gradient, phương pháp gradient chiếu, phương pháp hướng chấp nhận được, phương pháp Newton, phương pháp nhân tử Lagrange, phương pháp hàm phạt, phương pháp hàm cản, phương pháp gradient, phương pháp bó, phương pháp điểm trong, phương pháp miền tin cậy xem phương pháp có hiệu để giải toán tối ưu Xét toán tìm cực tiểu hàm f : Rn −→ R, giả thiết khả vi liên tục đến cấp hai bị chặn Rn Với điểm khởi đầu x0 ∈ Rn chọn tùy ý, phương pháp miền tin cậy (thuật ngữ tiếng Anh Trust-Region Method) cho phép tạo dãy lặp {xk } mà, bước k, việc chuyển từ điểm xk sang điểm xk+1 làm giảm hàm mục tiêu xấp xỉ, ký hiệu mk (x), f (x) Một cách xấp xỉ thông dụng thay hàm số f (x) phần tuyến tính-toàn phương khai triểu Taylor bậc hai điểm xk Ở bước k, thay cho Rn người ta xét hình cầu tâm xk với bán kính k thích hợp Quy tắc chọn k, nhằm đảm bảo tốc độ tính toán cao được, phần nội dung quan trọng phương pháp Cụ thể, tỷ số độ giảm hàm mục tiêu f (x) độ giảm Luận văn Thạc sĩ toán học Bùi Ngọc Mười hàm xấp xỉ bước k − 1, tức hàm mk−1 (x), sở để xác định bán kính k Bài toán bổ trợ bước k toán ¯ k, tìm cực tiểu hàm mk (x) tập tập ràng buộc B(x k ) Việc tính toán điều khiển số tham số dương Dưới số điều kiện, dãy lặp {xk } hội tụ đến điểm tới hạn bậc toán Thuật toán miền tin cậy thuật toán làm giảm hàm mục tiêu, tức ta có f (xk+1 ) ≤ f (xk ) với k Cuốn chuyên khảo [1] tác giả A R Conn, N I M Gould, P L Toint cẩm nang đầy đủ chi tiết lý thuyết phương pháp miền tin cậy Lịch sử phát triển phương pháp miền tin cậy số ứng dụng thuật toán miền tin cậy giới thiệu [1, tr 8-12] Khi nghiên cứu phương pháp miền tin cậy, quan tâm đến tính ổn định hội tụ địa phương dãy lặp Cụ thể là, muốn thiết lập tương tự [4, Theorem 3, p 486], tác giả chứng minh rằng: Nếu x¯ nghiệm địa phương cô lập toán quy hoạch toàn phương không xác định dấu với tập ràng buộc lồi đa diện C, tồn số dương δ µ cho x0 ∈ C ∩ B(¯ x, µ) {xk } dãy lặp sinh thuật toán DCA chiếu với điểm xuất phát x0 (i) xk ∈ C ∩ B(¯ x, µ) với k ≥ 0; (ii) xk → x¯ k → ∞ Một vấn đề khác mà quan tâm việc xây dựng ví dụ minh họa cho thuật toán miền tin cậy, thuật toán Luận văn Thạc sĩ toán học Bùi Ngọc Mười phức tạp Luận văn trình bày số kết chọn lọc từ sách [1] nói trên, với chứng minh chi tiết Ngoài ra, xây dựng ví dụ minh họa cho thuật toán miền tin cậy, đồng thời chứng minh kết tính ổn định hội tụ địa phương dãy lặp {xk } sinh thuật toán miền tin cậy trường hợp toán ràng buộc Luận văn gồm ba chương Chương "Phương pháp miền tin cậy cho toán tối ưu ràng buộc" trình bày số khái niệm kết [1, Chương 6] lời giải cho vấn đề tính ổn định tốc độ hội tụ địa phương dãy lặp {xk } sinh thuật toán miền tin cậy trường hợp toán ràng buộc (Mục 1.3) Chương "Phương pháp miền tin cậy cho toán tối ưu có ràng buộc lồi" thảo luận số nội dung có [1, Chương 12] Chương "Thử nghiệm tính toán với phương pháp Miền tin cậy" đưa ví dụ minh họa cho thuật toán xét Chương Chương Định lý 1.10 Mục 1.3 thử nghiệm tính toán Chương Tác giả luận văn chân thành cảm ơn GS TSKH Nguyễn Đông Yên tận tình hướng dẫn tác giả đọc tài liệu tập dượt nghiên cứu Tác giả xin cảm ơn ThS Nguyễn Thị Vân Hằng góp ý chi tiết cách trình bày số kết luận văn Luận văn Thạc sĩ toán học Bùi Ngọc Mười Tác giả chân thành cảm ơn thầy cô giáo cán nhân viên Viện Toán học, thầy cô giáo đồng nghiệp Khoa Toán trường Đại học Sư phạm Hà Nội 2, đặc biệt tổ Giải tích, tạo điều kiện thuận lợi cho tác giả trình học Cao học thực luận văn Hà Nội, ngày 27/08/2014 Tác giả luận văn Bùi Ngọc Mười Chương Phương pháp miền tin cậy cho toán tối ưu ràng buộc 1.1 Thuật toán sở Cho f : Rn −→ R hàm khả vi liên tục đến cấp hai bị chặn Rn Xét toán (P ) sau đây: min{f (x) : x ∈ Rn } (1.1) Ký hiệu tập nghiệm, tập nghiệm địa phương, tập điểm tới hạn bậc (P ) Sol(P ), loc(P ), S(P ) Ta có Sol(P ) = {u ∈ Rn : f (u) ≤ f (x) ∀x ∈ Rn }, loc(P ) = {u ∈ Rn : ∃δ > cho f (u) ≤ f (x) ∀x ∈ B(u, δ)}, S(P ) = {u ∈ Rn : ∇f (u) = 0}, với ∇f (u) kí hiệu đạo hàm Frechet f u Ở B(u, δ) := {x ∈ Rn : x − u < δ} hình cầu mở tâm u bán kính δ Hình cầu Luận văn Thạc sĩ toán học Bùi Ngọc Mười ¯ δ) Theo định nghĩa đóng tương ứng kí hiệu B(u, theo Quy tắc Fermat (xem [6]), ta có Sol(P ) ⊂ loc(P ) ⊂ S(P ) (1.2) Áp dụng cho toán (P ), với điểm khởi đầu x0 chọn tùy ý, phương pháp miền tin cậy (được viết tắt TRM) cho phép tạo dãy lặp {xk } mà, bước k, việc chuyển từ điểm xk sang điểm xk+1 làm giảm hàm mục tiêu xấp xỉ, ký hiệu mk (x), f (x) Một cách xấp xỉ thông dụng thay hàm số f (x) phần tuyến tính-toàn phương khai triểu Taylor bậc hai điểm xk Ở bước k, thay cho tập ràng buộc Rn (P ) người ta xét hình cầu tâm xk với bán kính tắc chọn k, k thích hợp Quy nhằm đảm bảo tốc độ tính toán cao được, phần nội dung quan trọng phương pháp Cụ thể, tỷ số độ giảm hàm mục tiêu f (x) độ giảm hàm xấp xỉ bước k − 1, tức hàm mk−1 (x), sở để xác định bán kính k Bài toán bổ trợ bước k toán tìm cực tiểu hàm mk (x) ¯ k, tập ràng buộc B(x k ) Sau mô tả chi tiết thuật toán miền tin cậy (được viết tắt BTR, xuất phát từ thuật ngữ tiếng Anh Basic TrustRegion Algorithm) giải toán (P ) (xem [1, trang 115–119]) Việc tính toán điều khiển bốn tham số dương η1 , η2 , γ1 , γ2 Xuất phát từ điểm khởi đầu x0 chọn trước, ta xây dựng dãy điểm lặp {xk } sau Luận văn Thạc sĩ toán học Bùi Ngọc Mười Ví dụ 3.1.2 Xét toán 1 f (x) = x4 − x2 : x ∈ R Chọn điểm xuất phát x0 = 3, bán kính ban đầu (3.1) = 0.5, độ xác 10−3 Công thức xác định điểm Cauchy cách chọn tham số hoàn toàn giống Ví dụ 3.1.1 Kết chạy thuật toán Matlab mô tả Hình 3.2 Hàm f (x) không lồi, có hai điểm cực tiểu địa phương x = −1 x = 1, có điểm cực đại địa phương x = Bây giờ, ta thay đổi cách chọn điểm xuất phát x0 đoạn [−2, 2], kết chạy Matlab điểm tụ tương ứng Hình 3.3 Từ bảng kết Hình 3.3 ta thấy rằng, với 10 cách chọn điểm xuất phát x0 ∈ (−2, 0) cách nhau, dãy lặp hội tụ x∗ = −1 Với 10 cách chọn điểm xuất phát x0 ∈ (0, 2) dãy lặp hội tụ x∗ = Nếu điểm xuất phát x0 = 0, thuật toán dừng bước đầu tiên, điểm xuất phát điểm tới hạn bậc toán Những quan sát vừa trình bày hoàn toàn phù hợp với tính ổn định hội tụ địa phương dãy lặp thiết lập Định lý 1.10 62 Luận văn Thạc sĩ toán học k Bùi Ngọc Mười xk | | | | | | 2.5000 1.7606 1.3151 1.0861 1.0093 1.0001 f(xk) | | | | | | 6.6406 0.8521 -0.1169 -0.2419 -0.2499 -0.2500 Hình 3.2: Kết tính toán cho Ví dụ 3.1.2 với x0 = 63 Luận văn Thạc sĩ toán học j Bùi Ngọc Mười x0 10 11 12 13 14 15 16 17 18 19 20 | | | | | | | | | | | | | | | | | | | | | -2.000 -1.800 -1.600 -1.400 -1.200 -1.000 -0.800 -0.600 -0.400 -0.200 0.000 0.200 0.400 0.600 0.800 1.000 1.200 1.400 1.600 1.800 2.000 x* | | | | | | | | | | | | | | | | | | | | | f(xk) -1.0000 -1.0002 -1.0000 -1.0005 -1.0000 -1.0000 -1.0003 -1.0000 -1.0000 -1.0000 0.0000 1.0000 1.0000 1.0005 1.0003 1.0000 1.0000 1.0005 1.0000 1.0002 1.0000 | | | | | | | | | | | | | | | | | | | | | -0.2500 -0.2500 -0.2500 -0.2500 -0.2500 -0.2500 -0.2500 -0.2500 -0.2500 -0.2500 0.0000 -0.2500 -0.2500 -0.2500 -0.2500 -0.2500 -0.2500 -0.2500 -0.2500 -0.2500 -0.2500 Hình 3.3: Kết tính toán cho Ví dụ 3.1.2 với x0 thay đổi 3.2 Thử nghiệm với toán tối ưu phi tuyến có ràng buộc lồi Ví dụ 3.2.1 Xét toán {f (x) = ex : x ∈ C} (3.2) với C = [−5, 5] ⊂ R Chọn điểm xuất phát x0 = 3, bán kính ban đầu = 0.5, độ xác 10−3 Véctơ gradient Hessian hàm f (x) bước lặp thứ k gk = exk , Hk = exk 64 Luận văn Thạc sĩ toán học Bùi Ngọc Mười Công thức hình chiếu theo phương gradient p(t, xk ) = PC (x − tgk )     −5    p(t, xk ) =      xk − tgk xk − tgk ≤ −5, xk − tgk ≥ 5, − < xk − tgk < Nón tiếp tuyến TC (p(t, xk )) xác định     [0, +∞) p(t, xk ) = −5,    TC (p(t, xk )) = (−∞, 0] p(t, xk ) = 5,      R p(t, xk ) ∈ (−5, 5) Các tham số Thuật toán 2.2 chọn cụ thể sau: Kubs = 0.25, Klbs = 0.5, Kf rd = 0.5, Kepp = 0.25 Các tham số η1 , η2 , µk chọn giống Ví dụ 3.1.1 Kết hợp Thuật toán 2.1 với Thuật toán 2.2, ta có bảng kết tính Matlab Hình 3.4 Vì f (x) lồi mạnh tập lồi đóng khác rỗng C, nên toán 3.2 có nghiệm Nghiệm toán x∗ = −5 Thuật toán dừng sau bước lặp 65 Luận văn Thạc sĩ toán học Bùi Ngọc Mười k xk | | | | | | | | f(xk) 2.50000 1.75000 0.62500 -0.21875 -1.48438 -2.90820 -4.33203 -5.00000 | | | | | | | | 12.18249 5.75460 1.86825 0.80352 0.22664 0.05457 0.01314 0.00674 Hình 3.4: Kết tính toán cho Ví dụ 3.2.1 với x0 = Ví dụ 3.2.2 Xét toán f (x) = − x21 − x22 + x1 : (x1 , x2 ) ∈ C , (3.3) C = (x1 , x2 ) ∈ R2 : ≤ x1 ≤ 2, ≤ x2 ≤ Áp dụng điều kiện tối ưu bậc quy hoạch toàn phương với ràng buộc tuyến tính [3, Định lý 3.3] cho (3.3), ta tìm điểm tới hạn bậc nhất, (0, 0), (0, 2), (1, 0), (1, 2), (2, 0), (2, 2) Theo điều kiện cần đủ cực trị bậc hai [5, Mục 12.4], toán có hai nghiệm địa phương cô lập (2, 0) (0, 2) Ta sử dụng Thuật toán 2.1, kết hợp với thủ tục tìm điểm Cauchy suy rộng xấp xỉ Thuật toán 2.2, để tìm nghiệm toán Chọn điểm xuất phát có dạng x0 = 2i 2j 10 , 10 ∈ C, i j thay đổi từ đến 10 Chọn bán kính ban đầu = 0.2 Các hệ số Kubs , Klbs , Kf rd , Kepp lấy giống Ví dụ 3.2 Véctơ gradient ma trận Hessian f (x) điểm lặp xk  gk =  −x1k +1 −2x2k   , Hk =  66 −1 0 −2   Luận văn Thạc sĩ toán học Bùi Ngọc Mười Hàm xấp xỉ mk (x) có dạng mk (x) = mk (xk ) + gk , x − xk + x − xk , Hk (x − xk ) (3.4) Công thức hình chiếu theo phương gradient lên C p = PC (xk − tgk ) Giả sử p = (p1 , p2 ) Đặt y = xk − tgk , ta có        p1 =      y1        p2 =      y2 y1 ≤ 0, y1 ≥ 2, < y1 < y2 ≤ 0, y2 ≥ 2, < y2 < 67 Luận văn Thạc sĩ toán học Bùi Ngọc Mười Nón tiếp tuyến C điểm p = (p1 , p2 ) = p(t, xk )     [0, +∞) × [0, +∞)        R × [0, +∞)        (−∞, 0] × [0, +∞)         (−∞, 0] × R    TC (p) = (−∞, 0] × (−∞, 0]       R × (−∞, 0]        [0, +∞) × (−∞, 0]         [0, +∞) × R        R2 p = (0, 0), p2 = 0, < p1 < 2, p = (2, 0), p1 = 2, < p2 < 2, p = (2, 2), < p1 < 2, p2 = 2, p = (0, 2), p1 = 0, < p2 < 2, p ∈ intC Vì hàm số f (x) dạng toàn phương nên hàm xấp xỉ mk (x) biểu thức f (x) viết dạng khai triển đến cấp hai xk Do đó, tỉ số ρk với bước lặp k Vậy tất điểm Cauchy suy rộng xấp xỉ tìm từ Thuật toán 2.2 chấp nhận tốt Kết chạy Matlab, điểm tụ ứng với điểm thử cho Hình 3.5 ta mô tả lại kết thông qua Hình vẽ 3.6 Nhìn vào hình ta thấy, với điểm xuất phát x0 ∈ x ∈ R2 : x1 < 1, ≥ x2 > , dãy lặp hội tụ nghiệm cô lập x∗ = [0, 2] Với điểm xuất phát x0 ∈ x ∈ R2 : x1 > 1, ≥ x2 > , dãy lặp hội tụ nghiệm cô lập x∗ = (2, 2) Với điểm xuất phát x0 ∈ x ∈ R2 : > x1 ≥ 0, x2 = , dãy lặp 68 Luận văn Thạc sĩ toán học Bùi Ngọc Mười hội tụ điểm tới hạn bậc x∗ = (0, 0) Với điểm xuất phát x0 ∈ x ∈ R2 : < x1 ≤ 2, x2 = , dãy lặp hội tụ điểm tới hạn bậc x∗ = (2, 0) Với điểm xuất phát x0 ∈ x ∈ R2 : x1 = 1, ≥ x2 > dãy lặp hội tụ điểm tới hạn bậc x∗ = (1, 2) Với điểm xuất phát x0 = (1, 1), thuật toán dừng (1, 1) điểm tới hạn bậc toán Hình 3.6 vị trí điểm giới hạn dãy lặp tùy thuộc vào vị trí điểm xuất phát: - Dãy lặp tương ứng với điểm xuất phát đánh dấu hình tròn nhỏ màu xanh hội tụ đến điểm đánh dấu hình tròn to màu xanh; - Dãy lặp tương ứng với điểm xuất phát đánh dấu hình tròn nhỏ màu nâu cam hội tụ đến điểm đánh dấu hình tròn to màu nâu cam; - Dãy lặp tương ứng với điểm xuất phát đánh dấu nhỏ màu xanh hội tụ đến điểm đánh dấu to màu xanh; - Dãy lặp tương ứng với điểm xuất phát đánh dấu hình vuông nhỏ màu đen hội tụ đến điểm đánh dấu hình vuông to màu đen; - Dãy lặp tương ứng với điểm xuất phát đánh dấu hình vuông nhỏ màu trắng hội tụ đến điểm đánh dấu hình vuông to màu trắng; - Dãy lặp tương ứng với điểm xuất phát đánh dấu hình 69 Luận văn Thạc sĩ toán học Bùi Ngọc Mười chữ nhật màu đỏ dãy Ví dụ 3.2.3 (Xem [8, Example 2]) Tìm f (x) = − x21 − x22 + x1 : x ∈ D , D = (3.5) (x1 , x2 ) ∈ R2 : x ≥ 0, −x1 − x2 + ≥ Bài toán (3.5) có điểm tới hạn bậc nhất, (0, 0), (1, 0), (2, 0), (0, 2), ( 35 , 13 ) Theo điều kiện đủ cực trị bậc hai [5, Section 12.4], toán có nghiệm địa phương cô lập x∗ = [0, 2] Sử dụng Thuật toán 2.1 với phương pháp tìm điểm Cauchy suy rộng xấp xỉ, ta có bảng kết chạy Matlab Hình 3.7 70 Luận văn Thạc sĩ toán học Bùi Ngọc Mười x0 0.00 0.00 0.00 0.00 0.00 0.00 0.40 0.40 0.40 0.40 0.40 0.40 0.80 0.80 0.80 0.80 0.80 0.80 1.20 1.20 1.20 1.20 1.20 1.20 1.60 1.60 1.60 1.60 1.60 1.60 2.00 2.00 2.00 2.00 2.00 2.00 x* 0.00 0.40 0.80 1.20 1.60 2.00 0.00 0.40 0.80 1.20 1.60 2.00 0.00 0.40 0.80 1.20 1.60 2.00 0.00 0.40 0.80 1.20 1.60 2.00 0.00 0.40 0.80 1.20 1.60 2.00 0.00 0.40 0.80 1.20 1.60 2.00 | | | | | | | | | | | | | | | | | | | | | | | | | | | | | | | | | | | | 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 2.00 2.00 2.00 2.00 2.00 2.00 2.00 2.00 2.00 2.00 2.00 2.00 2.00 2.00 2.00 2.00 2.00 2.00 0.00 2.00 2.00 2.00 2.00 2.00 0.00 2.00 2.00 2.00 2.00 2.00 0.00 2.00 2.00 2.00 2.00 2.00 0.00 2.00 2.00 2.00 2.00 2.00 0.00 2.00 2.00 2.00 2.00 2.00 0.00 2.00 2.00 2.00 2.00 2.00 Hình 3.5: Kết tính toán cho Ví dụ 3.2.2 với x0 chọn lưới hai chiều 71 Luận văn Thạc sĩ toán học Bùi Ngọc Mười Hình 3.6: Sự hội tụ dãy lặp theo vị trí điểm xuất phát 72 Luận văn Thạc sĩ toán học x1 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.00 0.20 0.20 0.20 0.20 0.20 0.20 0.20 0.20 0.20 0.20 0.40 0.40 0.40 0.40 0.40 0.40 0.40 0.40 0.40 0.60 0.60 0.60 x2 x1* 0.00 0.20 0.40 0.60 0.80 1.00 1.20 1.40 1.60 1.80 2.00 0.00 0.20 0.40 0.60 0.80 1.00 1.20 1.40 1.60 1.80 0.00 0.20 0.40 0.60 0.80 1.00 1.20 1.40 1.60 0.00 0.20 0.40 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 Bùi Ngọc Mười x2* | x1 x2 0.000 2.000 2.000 2.000 2.000 2.000 2.000 2.000 2.000 2.000 2.000 0.000 2.000 2.000 2.000 2.000 2.000 2.000 2.000 2.000 2.000 0.000 2.000 2.000 2.000 2.000 2.000 2.000 2.000 2.000 0.000 2.000 2.000 | | | | | | | | | | | | | | | | | | | | | | | | | | | | | | | | | 0.60 0.60 0.60 0.60 0.60 0.80 0.80 0.80 0.80 0.80 0.80 0.80 1.00 1.00 1.00 1.00 1.00 1.00 1.20 1.20 1.20 1.20 1.20 1.40 1.40 1.40 1.40 1.60 1.60 1.60 1.80 1.80 2.00 0.60 0.80 1.00 1.20 1.40 0.00 0.20 0.40 0.60 0.80 1.00 1.20 0.00 0.20 0.40 0.60 0.80 1.00 0.00 0.20 0.40 0.60 0.80 0.00 0.20 0.40 0.60 0.00 0.20 0.40 0.00 0.20 0.00 x1* x2* 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 0.000 1.000 0.000 0.000 0.000 0.000 0.000 2.000 0.000 0.000 0.000 0.000 2.000 0.000 0.000 0.000 2.000 0.000 0.000 2.000 0.000 2.000 2.000 2.000 2.000 2.000 2.000 0.000 2.000 2.000 2.000 2.000 2.000 2.000 0.000 2.000 2.000 2.000 2.000 2.000 0.000 2.000 2.000 2.000 2.000 0.000 2.000 2.000 2.000 0.000 2.000 2.000 0.000 2.000 0.000 Hình 3.7: Kết tính toán cho Ví dụ 3.2.3 với x0 chọn lưới hai chiều 73 Kết luận chung Luận văn trình bày số kiến thức phương pháp Miền tin cậy cho toán tối ưu phi tuyến ràng buộc toán tối ưu phi tuyến có ràng buộc lồi, dựa theo chuyên khảo [1] Định lý 1.10 ví dụ Chương Sau số câu hỏi mở, cần nghiên cứu thêm: Tính ổn định địa phương, hội tụ địa phương, tốc độ hội tụ cho thuật toán BTR tổng quát; Tính ổn định địa phương, hội tụ địa phương, tốc độ hội tụ phương pháp Miền tin cậy sử dụng thuật toán gradient chiếu; Phương pháp Miền tin cậy cho trường hợp hàm mục tiêu không trơn 74 Tài liệu tham khảo [1] A R Conn, N I M Gould, and P L Toint, Trust-Region Methods, MPS-SIAM Series on Optimization, Philadelphia, 2000 [2] D Kinderlehrer, G Stampacchia, An Introduction to Variational Inequalities and Their Applications, Academic Press, New York, 1980 [3] G M Lee, N N Tam, and N D Yen, Quadratic Programming and Affine Variational Inequalities: A Qualitative Study, Springer Verlag, New York, 2005 [4] H A Le Thi, T Pham Dinh, and N D Yen, Properties of two DC algorithms in quadratic programming, J Global Optim., 49 (2011), 481–495 [5] J Nocedal, S J Wright, Numerical Optimization, SpringerVerlag, New York, 1999 [6] B T Polyak, Introduction to Optimization, Optimization Software, Inc., New York, 1987 [7] A Ruszczynski, Nonlinear Optimization, Princeton University Press, Princeton, New Jersey, 2005 75 Luận văn Thạc sĩ toán học Bùi Ngọc Mười [8] N N Tam, N D Yen, Continuity properties of the KarushKuhn-Tucker point set in quadratic programming problems, Math Program., (1999), 193–206 76