Một số điều kiện chính quy ràng buộc trong quy hoạch toán học

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI KHOA TOÁN Nguyễn Thị Huyền Anh MỘT SỐ ĐIỀU KIỆN CHÍNH QUY RÀNG BUỘC TRONG QUY HOẠCH TOÁN HỌC KHÓA LUẬN TỐT NGHIỆP ĐẠI HỌC Hà Nội – Năm 2017 BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI KHOA TOÁN Nguyễn Thị Huyền Anh MỘT SỐ ĐIỀU KIỆN CHÍNH QUY RÀNG BUỘC TRONG QUY HOẠCH TOÁN HỌC Chuyên ngành: Toán giải tích KHÓA LUẬN TỐT NGHIỆP ĐẠI HỌC NGƯỜI HƯỚNG DẪN KHOA HỌC: PGS.TS NGUYỄN QUANG HUY Hà Nội – Năm 2017 Lời cảm ơn Em xin gửi lời cảm ơn chân thành tới thầy cô giáo nhà trường thầy cô giáo Tổ giải tích, Khoa Toán, Trường Đại học Sư phạm Hà Nội giúp đỡ em suốt trình học tập trường Em xin bày tỏ lòng biết ơn sâu sắc tới PGS.TS Nguyễn Quang Huy, người quan tâm, động viên tận tình hướng dẫn em trình thực khóa luận Hà Nội, tháng năm 2017 Tác giả khóa luận Nguyễn Thị Huyền Anh Lời cam đoan Tôi xin cam đoan Khóa luận công trình nghiên cứu riêng hướng dẫn PGS.TS Nguyễn Quang Huy Các kiến thức tài liệu trích dẫn khóa luận trung thực Hà Nội, tháng năm 2017 Tác giả khóa luận Nguyễn Thị Huyền Anh Mục lục Lời mở đầu 1 Các điều kiện tối ưu 1.1 Điều kiện tối ưu bậc 1.2 Điều kiện tối ưu bậc hai 10 Điều kiện quy ràng buộc 18 2.1 Một số khái niệm 18 2.2 Mối quan hệ quy ràng buộc 21 2.3 Chính quy ràng buộc bậc hai cho toán chứa ràng buộc bất đẳng thức ràng buộc đẳng thức 25 Kết Luận 28 Tài liệu tham khảo 28 i Khóa luận tốt nghiệp Đại học Nguyễn Thị Huyền Anh Lời mở đầu Lý chọn đề tài Bài toán tối ưu hay toán quy hoạch toán học quan tâm nghiên cứu nhiều nhà khoa học Các điều kiện tối ưu cho lớp toán thường thiết lập điều kiện quy thích hợp hàm mục tiêu tập ràng buộc Nhiều công trình nghiên cứu điều kiện quy điều kiện tối ưu, chẳng hạn, xem [1–10] tài liệu trích dẫn Lớp toán nhiều tác giả nước quan tâm, nghiên cứu Chính tác giả chọn đề tài “Một số điều kiện quy ràng buộc quy hoạch toán học ” cho việc tìm hiểu nghiên cứu Khóa luận gồm hai chương: Chương nghiên cứu điều kiện cần đủ Karush-Kuhn-Tucker cho toán quy hoạch phi tuyến với ràng buộc bất đẳng thức ràng buộc đẳng thức Chương nghiên cứu số quy ràng buộc mối quan hệ chúng Khóa luận tốt nghiệp Đại học Nguyễn Thị Huyền Anh Mục đích nghiên cứu Khóa luận trình bày kết nghiên cứu điều kiện tối ưu điều kiện quy ràng buộc cho toán quy hoạch phi tuyến với ràng buộc bất đẳng thức ràng buộc đẳng thức Nhiệm vụ nghiên cứu Tìm hiểu điều kiện cần đủ tối ưu cho toán quy hoạch phi tuyến với ràng buộc bất đẳng thức ràng buộc đẳng thức Nghiên cứu số quy ràng buộc mối quan hệ chúng Đối tượng phạm vi nghiên cứu Đối tượng nghiên cứu: Điều kiện cần đủ tối ưu Phạm vi nghiên cứu: Bài toán quy hoạch toán học Phương pháp nghiên cứu Thu thập, tổng hợp báo, công trình nghiên cứu nước Dự kiến kết nghiên cứu Khóa luận tài liệu tổng quan lĩnh vực nghiên cứu điều kiện cần đủ cực trị số điều kiện quy quy hoạch Khóa luận tốt nghiệp Đại học Nguyễn Thị Huyền Anh toán học Hà Nội, tháng năm 2017 Tác giả khóa luận Nguyễn Thị Huyền Anh Chương Các điều kiện tối ưu Xét toán quy hoạch phi tuyến (P )    f (x)         với ràng buộc    gi (x) ≤ ; i = 1, , m       hj (x) = ; j = 1, , l        x ∈ X, X tập khác rỗng Rn f : Rn → R; gi (x) : Rn → R với i = 1, 2, , m; hj (x) : Rn → R với j = 1, 2, , l Trong chương này, nghiên cứu điều kiện cần đủ Karush-Kuhn-Tucker cho toán (P ) Khóa luận tốt nghiệp Đại học 1.1 Nguyễn Thị Huyền Anh Điều kiện tối ưu bậc Cho X tập mở khác rỗng Rn , U tập lồi Rn Kí hiệu C = f : U → R| f liên tục có đạo hàm riêng f liên tục U Kí hiệu ∇f (x) đạo hàm hàm f theo x Hàm f : U → R, ∈ C gọi hàm giả lồi ∀x1 , x2 ∈ U tồn hàm thực k (x1 , x2 ) > cho (x1 − x2 )t ∇f (x2 ) ≤ k (x1 , x2 ) [f (x1 ) − f (x2 )] Hàm f gọi hàm tựa lồi với số thực a, tập Ca− = {x ∈ U : f (x) ≤ a} tập lồi Hàm f gọi hàm tựa lõm với số thực a, tập Ca+ = {x ∈ U : f (x) ≥ a} tập lồi Một điểm x0 gọi điểm cực tiểu địa phương hàm số f X tồn r > cho ∀x ∈ B (x0 , r) : f (x0 ) ≤ f (x) Tập ràng buộc toán (P ) kí hiệu tập D, xác định Khóa luận tốt nghiệp Đại học Nguyễn Thị Huyền Anh ta thu λ2k t ≥ dk ∇ L (x) dk l + λ2k αf (x; λk dk ) + ui αgi (x; λk dk ) + vj αhj (x; λk dk ) j=1 i∈I Chia bất đẳng thức cho λ2k > lấy giới hạn k → ∞, ta thu dt ∇2 L (x) d ≤ 0, dk = d ∈ C Đây điều mâu thuẫn với giả thiết Vậy x phải cực tiểu địa phương chặt cho toán toán (P ) Định lý chứng minh Hệ 1.1 Xét toán (P ) cho x điểm Karush-KuhnTucker liên kết với nhân tử Lagrange u v theo thứ tự tương ứng với ràng buộc bất đẳng thức ràng buộc đẳng thức Hơn nữa, giả sử tập vectơ ∇gi (x) với i ∈ I + = {i ∈ I : ui > 0} ∇hj (x) với j = 1, , l chứa tập gồm n vectơ độc lập tuyến tính Khi đó, x cực tiểu địa phương chặt cho toán Chứng minh Theo điều kiện độc lập tuyến tính phát biểu hệ quả, ta có C = ∅ Do Định lý 1.4 hiển nhiên Hệ chứng minh 16 Khóa luận tốt nghiệp Đại học Nguyễn Thị Huyền Anh Một vài nhận xét có liên quan đến Định lý 1.4: Ta hạn chế nón C để kết chứa ràng buộc ∇f (x)t d = Mặc dù điều hơp lệ, ta không hạn chế C hơn, x điểm Karush-Kuhn-Tucker d ∈ C nên hiển nhiên ta có ∇f (x)t d = Nếu toán không bị ràng buộc Định lý 1.4 khẳng định ∇f (x) = ∇2 f (x) ≡ H (x) xác định dương x cực tiểu địa phương chặt 17 Chương Điều kiện quy ràng buộc Xét toán quy hoạch phi tuyến (P )    f (x)         với ràng buộc    gi (x) ≤ ; i = 1, , m       hj (x) = ; j = 1, , l        x ∈ X, X tập khác rỗng Rn f : Rn → R; gi (x) : Rn → R với i = 1, 2, , m; hj (x) : Rn → R với j = 1, 2, , l Trong chương này, nghiên cứu số quy ràng buộc mối quan hệ chúng 2.1 Một số khái niệm Cho S tập khác rỗng Rn cho x ∈ cl S Trong đó, cl S bao đóng tập S 18 Khóa luận tốt nghiệp Đại học Nguyễn Thị Huyền Anh Nón tiếp tuyến S x nón xác định T = d : lim λk (xk − x) = d , k→∞ (2.1) λk > 0, xk ∈ S với k, xk → x Nón sinh hướng chấp nhận (cone of feasible directions) S x nón xác định M = {d = : x + λd ∈ S} (2.2) λ ∈ (0, δ) với δ > Nón sinh hướng tiệm cận (cone of attainable directions) S x nón xác định A= d = : lim+ λ→0 α (λ) − α (0) =d , λ (2.3) δ > 0, α : R → Rn , α (λ) ∈ S, α (0) = x Nón sinh hướng phần (cone of interior directions) S x nón xác định G0 = d : ∇gi (x)t d < với i ∈ I (2.4) Kí hiệu tập I = {i : gi (x) = 0} G = d : ∇gi (x)t d ≤ H0 = d : ∇hj (x)t d = 19 với i ∈ I, (2.5) với j = 1, , l (2.6) Khóa luận tốt nghiệp Đại học Nguyễn Thị Huyền Anh Định nghĩa 2.1 (Chính quy ràng buộc Slater) Chính quy ràng buộc Slater x (i) X tập mở, (ii) gi với i ∈ I giả lồi x, gi với i ∈ / I liên tục x, (iii) hj với j = , l tựa lồi, tựa lõm, khả vi liên tục x, (iv) {∇hj (x)}j=1, l độc lập tuyến tính, (v) Tồn x ∈ X cho gi (x) < ∀i ∈ I hj (x) < ∀j = 1, , l Định nghĩa 2.2 (Chính quy ràng buộc độc lập tuyến tính) Chính quy ràng buộc độc lập tuyến tính (LICQ) x (i) X tập mở, (ii) gi với i ∈ / I liên tục x, (iii) hj với j = , l khả vi liên tục x, (iv) {∇gi (x)}i∈I {∇hj (x)}j=1, l độc lập tuyến tính Định nghĩa 2.3 (Chính quy ràng buộc Cottle) Chính quy ràng buộc Cottle x (i) X tập mở, (ii) gi với i ∈ / I liên tục x, (iii) hj với j = , l khả vi liên tục x, (iv) {∇hj (x)}j=1, l độc lập tuyến tính, 20 Khóa luận tốt nghiệp Đại học Nguyễn Thị Huyền Anh (v) cl (G0 ∩ H0 ) = G ∩ H0 với G0 , G , H0 xác định (2.4), (2.5), (2.6) Điều tương đương với quy ràng buộc Chính quy ràng buộc Mangasarian-Fromovitz - quy ràng buộc mà đòi hỏi {∇hj (x)}j=1, l độc lập tuyến tính G0 ∩ H0 = ∅ Định nghĩa 2.4 (Chính quy ràng buộc Kuhn-Tucker) Chính quy ràng buộc Kuhn-Tucker (KTCQ) x cl A = G ∩ H0 , với A, G , H0 xác định (2.3), (2.5), (2.6) Định nghĩa 2.5 (Chính quy ràng buộc Abadie) Chính quy ràng buộc Abadie x T = G ∩ H0 , với T, G , H0 xác định (2.1), (2.5), (2.6) 2.2 Mối quan hệ quy ràng buộc Định lý 5.3.1 [1] cho ta kết x thỏa mãn điều kiện quy ràng buộc Abadie T = G ∩ H0 điểm KarushKuhn-Tucker Chứng minh tất quy ràng buộc nêu dẫn đến quy ràng buộc Abadie Hay nói cách khác x thỏa mãn điều kiện quy ràng buộc Staler, Cottle, độc lập tuyến tính, Kuhn-Tucker, thỏa mãn 21 Khóa luận tốt nghiệp Đại học Nguyễn Thị Huyền Anh điều kiện quy ràng buộc Abadie Do đó, quy ràng buộc phải thông qua điều kiện cần Karush-Kuhn-Tucker Bây giờ, ta chứng minh x thỏa mãn quy ràng buộc KuhnTucker thỏa mãn quy ràng buộc Abadie Thật vậy, giả sử x thỏa mãn quy ràng buộc Kuhn-Tucker Khi ta có cl A = G ∩ H0 Hơn nữa, Từ [1, Bổ đề 5.2.1] ta suy cl A ⊆ T ⊆ G ∩ H0 Suy G ∩ H0 ⊆ T ⊆ G ∩ H0 Do T = G ∩ H0 hay x thỏa mãn quy ràng buộc Abadie Tiếp theo, ta chứng minh x thỏa mãn quy ràng buộc Cottle thỏa mãn quy ràng buộc Kuhn-Tucker Nếu điều hiển nhiên x thỏa mãn quy ràng buộc Abadie Giả sử x thỏa mãn quy ràng buộc Cottle tức ta có giả thiết sau: X tập mở, gi với i ∈ / I liên tục x, hj với j = 1, , khả vi liên tục ∇hj (x) với j = 1, , độc lập tuyến tính Từ [1, Định lý 4.3.1] ta có G0 ∩ H0 ⊆ A 22 Khóa luận tốt nghiệp Đại học Nguyễn Thị Huyền Anh Do ta có: cl (G0 ∩ H0 ) ⊆ cl A ⊆ T ⊆ G ∩ H0 Kết hợp với giả thiết ta suy điều phải chứng minh Bây giờ, ta chứng minh x thỏa mãn quy Slater quy độc lập tuyến tính thỏa mãn quy ràng buộc Cottle Giả sử quy Slater thỏa mãn cho gi (x) < với i ∈ I, hj (x) = với j = 1, , l vài điểm x ∈ X Bằng tính giả lồi gi x, ta thu ∇gi (x)t (x − x) < 0, i ∈ I Hơn nữa, hj (x) = hj (x) = nên tính tựa lồi tựa lõm hj x dẫn đến ∇hj (x)t (x − x) = Đặt d = x − x ta có d ∈ G0 ∩ H0 Suy G0 ∩ H0 = ∅ Ngoài ta chứng minh cl (G0 ∩ H0 ) = G ∩ H0 Vậy x thỏa mãn quy ràng buộc Cottle Cuối cùng, x thỏa mãn quy ràng buộc độc lập tuyến tính thỏa mãn quy ràng buộc Cottle Ta chứng minh phản chứng sau: 23 Khóa luận tốt nghiệp Đại học Nguyễn Thị Huyền Anh Giả sử x thỏa mãn quy ràng buộc độc lập tuyến tính G0 ∩ H0 = ∅ Khi từ định lý tách chứng minh [1, Định lý 4.3.2], tồn vectơ khác không (uI , v) cho l ui ∇gi (x) + i∈I vj hj (x) = 0, j=1 uI ≥ với i ∈ I Điều mâu thuẫn với giả thiết độc lập tuyến tính gi với i ∈ I hj với j = 1, , l Vậy x thỏa mãn quy ràng buộc Cottle Sơ đồ mô tả mối liên hệ quy ràng buộc Chính quy ràng buộc độc Chính quy ràng Chính quy ràng buộc Cottle buộc Slater lập tuyến tính Chính quy ràng buộc Kuhn-Tucker Chính quy ràng buộc Abadie 24 Khóa luận tốt nghiệp Đại học 2.3 Nguyễn Thị Huyền Anh Chính quy ràng buộc bậc hai cho toán chứa ràng buộc bất đẳng thức ràng buộc đẳng thức Ở Chương 1, trình bày điều kiện tối ưu cần cấp hai Karush-Kuhn-Tucker [Định lý 1.3] Đặc biệt, Định lý 1.3 x cực tiểu địa phương hàm số định nghĩa toán khả vi liên tục hai lần với ∇gi (x) (i ∈ I) ∇hj (x) (j = 1, , l) ràng buộc liên kết độc lập tuyến tính x điểm Karush-Kuhn-Tucker Thêm nữa, dt ∇2 L (x) d ≥ với d ∈ C Vì điều kiện độc lập tuyến tính cho ta quy ràng buộc bậc hai, có nghĩa việc x điểm KarushKuhn-Tucker loại điều kiện bậc hai phải Ngoài ra, quy định quy ràng buộc bậc hai sau: Giả sử tất hàm số định nghĩa toán khả vi hai lần x cực tiểu địa phương thỏa mãn quy ràng buộc Abadie T = G ∩ H0 Vì thế, theo kết [1, Định lý 5.3.1] x điểm Karush-Kuhn-Tucker Kí hiệu u, v nhân tử Lagrange theo thứ liên kết với ràng buộc bất đẳng thức ràng buộc đẳng thức, I = {i : gi (x) = 0} tập số ràng buộc bất đẳng thức Như Định lý 1.3, ta kí hiệu 25 Khóa luận tốt nghiệp Đại học Nguyễn Thị Huyền Anh C = d = : ∇gi (x)t d = 0, i ∈ I + ; ∇gi (x)t d ≤ 0, i ∈ I ; ∇hj (x)t d = 0, j = 1, , l , I + = {i ∈ I : ui > 0} I = I − I + Hơn nữa, giả sử T biểu thị nón tiếp tuyến x ràng buộc bất đẳng thức với số i ∈ I + xem ràng buộc đẳng thức Khi đó, quy ràng buộc bậc hai phát biểu khẳng định T = C ∪ {0} ta phải có: dt ∇2 L (x) ≥ với d ∈ C Nhìn chung, T ⊆ C ∪ {0} giống T ⊆ G ∩ H0 Tuy nhiên, rõ ràng từ chứng minh Định lý 1.3, quy ràng buộc độc lập tuyến tính, d ∈ C tương ứng với hướng giới hạn dựa cung chấp nhận nên dựa dãy điểm Ngoài ra, ta có T ⊇ G ∩ H0 Điều chứng tỏ quy ràng buộc độc lập tuyến tính suy T = C ∪ {0} Một cách tương tự, phát biểu quy ràng buộc bậc hai khác từ quy ràng buộc Kuhn-Tucker sau: Xét toán (P ) với hàm số khả vi hai lần Cho x cực tiểu địa phương điểm Karush-Kuhn-Tucker Kí hiệu C = d = : ∇gi (x)t d = 0, i ∈ I; ∇hj (x)t d = 0, j = 1, , l , 26 Khóa luận tốt nghiệp Đại học Nguyễn Thị Huyền Anh I = {i : gi (x) = 0} Chính quy ràng buộc cấp hai nón sinh hướng phần (cone of attainable directions) gọi x d ∈ C tiếp xúc với cung khả vi x Tức với d ∈ C, tồn hàm khả vi cấp hai α : [0, ε] → Rn với vài ε > 0, cho với ≤ λ ≤ ε, α (0) = x, gi [α (λ)] = với i ∈ I, hj [α (λ)] = với j = 1, , l lim+ λ→0 α (λ) − α (0) = θd với vài θ > λ Giả sử điều kiện đúng, chứng tỏ dt ∇2 L (x) ≥ với d ∈ C, đây, L (x) xác định (1.11) Hơn nữa, điều chứng tỏ quy ràng buộc bậc hai suy từ quy ràng buộc độc lập tuyến tính 27 Kết Luận Khóa luận trình bày kết nghiên cứu điều kiện cần đủ tối ưu bậc nhất, bậc hai cho toán quy hoạch phi tuyến với ràng buộc bất đẳng thức ràng buộc đẳng thức Nghiên cứu số điều kiện quy ràng buộc bậc nhất, bậc hai mối quan hệ chúng 28 Tài liệu tham khảo [1] Mokhtar S Bazaraa, Hanif D Sherali, and C M Shetty, Nonlinear Programming: Theory and algorithms, A John Wiley & Sons, INC, 2006 [2] Mangasarian, O.L and S Fromovitz, The Fritz John Necessary Opimality Conditions in the Presence of Equality and Inequality Constraints, Journal of Mathematical Analysis and Applications, 17, pp.37 − 47, 1967 [3] Zangwill, W I., Nonlinear Programming: A Unified Approach, Prentice-Hall, Englewood Cliffs, NJ, 1969 [4] Bazaraa, M S and J.J.Goode, Necessary Optimality Criteria in Mathematical Programming in the Presence of Differentiability, Journal of Mathematical Analysis and Applications, 40, pp 509 − 621, 1972 [5] Goode, F J., and J.W.Tolle, Geometry of Optimality Conditions and Constraint Qualifications, Mathematical Programming, 2, pp.1 − 18, 1972 [6] Gould, F J., Nonlinear Pricing: Application to Concave Programming, Operations Research, 19, pp 1026 − 1035, 1971 29 Khóa luận tốt nghiệp Đại học Nguyễn Thị Huyền Anh [7] BEL-TAL, A., and J.ZOWE, A Unifiead Theory of First- and Second-order Conditions for Extremum Problems in Topological Vector Spaces, Mathematical Programming Study, No.19, pp.39− 76, 1983 [8] Fletcher, R., and E Sainz de la Maza, Nonlinear Programming and Nonsmooth Optimization by Successive Linear Programming, Report NA/100, Department of Mathematical Science, University of Dundee, Dundee, Scotland, 1987 [9] Kyparisis, J., On Uniqueness of Kuhn-Tucker Multipliers in Nonlinear Programming, Mathematical Programming, 32, pp.242 − 246, 1985 [10] Fiacco, A V., Introduction to Sensitivity and Stability Analysis in Nonlinear Programming, Mathematical in Sciense and Engineering, No.165, R.Bellman (Ed.),Academic Press, New York, NY, 1983 30 ... quy ràng buộc Cottle Sơ đồ mô tả mối liên hệ quy ràng buộc Chính quy ràng buộc độc Chính quy ràng Chính quy ràng buộc Cottle buộc Slater lập tuyến tính Chính quy ràng buộc Kuhn-Tucker Chính quy. .. điều kiện quy điều kiện tối ưu, chẳng hạn, xem [1–10] tài liệu trích dẫn Lớp toán nhiều tác giả nước quan tâm, nghiên cứu Chính tác giả chọn đề tài Một số điều kiện quy ràng buộc quy hoạch toán. .. TẠO TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI KHOA TOÁN Nguyễn Thị Huyền Anh MỘT SỐ ĐIỀU KIỆN CHÍNH QUY RÀNG BUỘC TRONG QUY HOẠCH TOÁN HỌC Chuyên ngành: Toán giải tích KHÓA LUẬN TỐT NGHIỆP ĐẠI HỌC NGƯỜI HƯỚNG