Điều kiện tối ưu cấp cao cho cực tiểu địa phương chặt và cực tiểu pareto địa phương chặt

ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC SƯ PHẠM PHẠM QUỲNH TRANG ĐIỀU KIỆN TỐI ƯU CẤP CAO CHO CỰC TIỂU ĐỊA PHƯƠNG CHẶT VÀ CỰC TIỂU PARETO ĐỊA PHƯƠNG CHẶT LUẬN VĂN THẠC SĨ TOÁN HỌC Thái Nguyên - Năm 2015 Số hóa Trung tâm Học liệu - ĐHTN Tai ngay!!! Ban co the xoa dong chu nay!!! http://www.lrc-tnu.edu.vn/ i Lời cam đoan Tôi xin cam đoan kết nghiên cứu luận văn trung thực không trùng lặp với đề tài khác Tôi xin cam đoan giúp đỡ cho việc thực luận văn đà cảm ơn thông tin trích dẫn luận văn đà rõ nguồn gốc Thái Nguyên, tháng năm 2015 Người viết luận văn Phạm Quỳnh Trang ii Lời cảm ơn Luận văn thực hoàn thành trường Đại học sư phạm - Đại học Thái Nguyên hướng dẫn khoa học PGS TS Đỗ Văn Lưu Qua đây, tác giả xin gửi lời cảm ơn sâu sắc đến thầy giáo, người hướng dẫn khoa học mình, PGS TS Đỗ Văn Lưu, người đà tận tình hướng dẫn suốt trình nghiên cứu tác giả Đồng thời tác giả chân thành cảm ơn thầy cô khoa Toán, khoa Sau đại học - Trường Đại học sư phạm, Đại học Thái Nguyên, đà tạo điều kiện để tác giả hoàn thành luận văn Tác giả gửi lời cảm ơn đến gia đình bạn lớp Cao học Toán K21B, đà động viên giúp đỡ tác giả trình học tập làm luận văn Luận văn tránh khỏi thiếu sót, tác giả mong nhận bảo tận tình thầy cô bạn bè đồng nghiệp Thái Nguyên, tháng năm 2015 Người viết luận văn Phạm Quỳnh Trang iii Mục lục Lời cam đoan i Lời cảm ơn ii Mục lục iii Mở đầu 1 Điều kiện tối ưu cấp cao cho cực tiểu địa phương chặt Ward 1.1 Các khái niệm định nghĩa 1.2 §iỊu kiện tối ưu cho cực tiểu địa phương chặt cấp 1.3 Hµm C 1,1 m cực tiểu địa phương chặt cÊp 14 §iỊu kiƯn tèi ­u cÊp cao cho cực tiểu Pareto địa phương chặt Rahmo-Studniarski 22 2.1 Các kết bổ trợ 2.2 Điều kiện cÇn tèi ­u 22 29 2.3 Điều kiện đủ tối ưu 34 2.4 Đặc trưng cực tiểu Pareto địa phương chặt Kết luận 37 38 Tài liệu tham khảo 39 Mở đầu Lý chọn đề tài luận văn Lý thuyết điều kiƯn tèi ­u lµ mét bé phËn quan träng cđa lý thuyết tối ưu hóa Các điều kiện tối ưu cấp cho phép ta xác định tập ®iĨm dõng C¸c ®iỊu kiƯn tèi ­u cÊp cao cho phép ta tìm nghiệm tối ưu tập điểm dừng Khái niệm cực tiểu địa phương chặt cấp m định nghĩa Cromme [2] Các điều kiện tối ưu đặc trưng cho cực tiểu chặt cấp m thiết lập Auslender [1], Studniarski [12], D.V Luu [10], Ward [14] D.E Ward (1994) ®· chứng minh điều kiện tối ưu cấp cao cho cực tiểu địa phương chặt ngôn ngữ đạo hàm theo phương cấp cao E.D Rahmo - M Studniarski (2012) đà mở rộng khái niệm đạo hàm Studniarski đưa 1986 cho hàm véctơ dẫn điều kiện tối ưu cấp cao cho cực tiểu Pareto địa phương chặt toán tối ưu đa mục tiêu không gian hữu hạn chiều Đây đề tài nhiều tác giả nước quan tâm nghiên cứu Chính em chọn đề tài: "Điều kiện tối ưu cấp cao cho cực tiểu địa phương chặt cực tiểu Pareto địa phương chặt." Phương pháp nghiên cứu Sưu tầm đọc tài liệu từ sách, tạp chí toán học nước quốc tế liên quan đến điều kiện tối ưu cấp cao Qua đó, tìm hiểu nghiên cứu vấn đề Mục đích luận văn Mục đích luận văn tìm hiểu điều kiện tối ưu cấp cao cho cực tiểu địa phương chặt cực tiểu Pareto địa phương chặt Cụ thể, đọc hiểu trình bày lại cách tường minh hai báo sau: D.E Ward, Characterizations of strict local minima and necessary conditions for weak sharp minima, J Optim Theory Appl 80(1994), 551-571 E.D Rahmo, M Studniarski, Higher order conditions for strict local Pareto minima in terms of generalized lower and upper directional derivatives, J Math Anal Appl 393(2012), 212-221 Nội dung luận văn Luận văn bao gồm phần mở đầu, chương, kết luận danh mục tài liệu tham khảo Chương 1: Điều kiện tối ưu cấp cao cho cực tiểu địa phương chặt Ward Trình bày điều kiện tối ưu cấp cao cho cực tiểu địa phương chặt Ward [13] ngôn ngữ đạo hàm theo phương cấp cao khác Với điều kiện quy, điều kiện đủ cấp cao trở thành điều kiện đặc trưng cho cực tiểu địa phương chặt cấp cao Chương 2: Điều kiện tối ưu cấp cao cho cực tiểu Pareto địa phương chặt Rahmo - Studniarski Trình bày khái niệm đạo hàm theo phương cấp m cho hàm vectơ điều kiện tối ưu cấp cao cho cực tiểu Pareto địa phương chỈt cÊp cđa Rahmo - Studniarski ([10], 2012) m Chương Điều kiện tối ưu cấp cao cho cực tiểu địa phương chặt Ward Trong chương trình bày điều kiện tối ưu cấp cao cho cực tiểu địa phương chặt cấp cao Ward ngôn ngữ đạo hàm cấp cao theo phương khác Với điều kiện quy điều kiện đủ trở thành điều kiện đặc trưng cho cực tiểu chặt cấp cao Các kết trình bày chương Ward [14] 1.1 Các khái niệm định nghĩa Xét toán tối ưu sau: (1.1) {f (x) |x ∈ S } , ®ã f : Rn → R ∪ {+∞} vµ S lµ mét tập khác rỗng Rn Định nghĩa 1.1.1 Cho kÃk chuẩn Ơclit Rn Với > 0, đặt B (x, ) := {y Rn |ky − xk ≤ ε} (a) Ta nãi r»ng tån x S cực tiểu địa phương chặt toán > cho f (x) > f (¯ x) (∀x ∈ S ∩ B (¯ x, ε) \ {¯ x}) (1.1) nÕu (b) Cho m số nguyên Ta nói x S chặt cấp cực tiểu địa phương m (1.1) tồn > 0, β > cho f (x) − f (¯ x) ≥ βkx − x¯km (∀x ∈ S ∩ B (¯ x, ε)) (1.2) NhËn xÐt 1.1.1 (a) NhËn thÊy r»ng, nÕu x¯ lµ mét cùc tiĨu địa phương chặt cấp cực tiểu địa phương cÊp j víi mäi m, th× nã cịng j > m (b) Rõ ràng cực tiểu địa phương chặt cấp m cực tiểu địa phương chặt Tuy nhiên, cực tiểu địa phương chặt cực tiểu địa phương chặt cấp m với m Chẳng hạn, cho hàm f : [0, +∞) → R f (x) = x1/x , víi x > 0, f (0) = 0, vµ S := [0, +) Khi đó, x = cực tiểu địa phương chặt mà không cực tiểu địa phương chặt cấp m với m §Þnh nghÜa 1.1.2 (a) Cho S⊂ Rp Nãn lïi xa S xác định 0+ S := {y ∈ Rp |s + ty ∈ S, ∀s ∈ S, t ≥ 0} (b) Nãn tiÕp tuyÕn lµ ánh xạ p p A : 2R ì Rp 2R cho, với S Rp x ∈ Rp , A (S, x) lµ mét nãn (có thể rỗng) với S Rp , x ∈ S, ta cã 0+ S ⊂ 0+ A (S, x) C¸c nãn tiÕp tuyÕn quan träng ë nón tiếp liên, nón tiếp tuyến Ursescu nón phần tương ứng Nón tiếp liên ®Þnh nghÜa bëi 
K (S, x) := y ∃ (tn , yn ) → 0+ , y cho x + tn yn ∈ S, ∀n ; Nãn tiếp tuyến Ursescu định nghĩa  13 Định lý 1.2.2 Gi¶ sư sư f f : Rn → R {+} khả vi x nửa liªn tơc d­íi, K (S, x¯) = k (S, x¯) S đóng (1.8) Giả Khi đó, x cực tiểu địa phương chặt cấp (1.1) (1.4) Hơn f K (¯ x; ·) K (S, x¯) låi, th× x cực tiểu địa phương chặt cấp tồn > cho B (0, β) ⊂ ∂ K f (¯ x) + (K (S, x¯))0 (1.9) Chøng minh Gi¶ sư f khả vi x Từ định lý 1.2.1 mệnh đề 1.2.3, phương chặt cấp nếu, với x cực tiểu địa y Rn \ {0} , < (f + iS )K (¯ x; y) = f k (¯ x; y) + iK x; y) S (¯ = f K (¯ x; y) + iK(S,x) Do đó, x cực tiểu địa phương chặt cấp (1.4) Bây giờ, giả sử f K ( x; Ã) K (S; x) lồi Như đà đề cập nhận xét 1.2.1 cực tiểu địa phương chặt cấp tồn x > cho víi mäi y ∈ Rn , β kyk ≤ (f + iS )K (¯ x; y) (1.10) Bëi v× (f + iS )K (¯ x; ·) = f K (¯ x; ·) + iK(S,¯x) (·) , tõ mƯnh ®Ị 1.2.3, ta cã (f + iS )K ( x; Ã) lồi Vì vậy, (1.10) tương đương với B (0, β) ⊂ ∂ K (f + iS ) ( x) , từ mệnh đề 1.2.3, ta có ∂ K (f + is ) (¯ x) = ∂ k f (¯ x) + ∂ K iS (¯ x) = ∂ K f (¯ x) + (K (S, x¯))0 Do đó, x cực tiểu địa phương chặt cấp (1.9) Nếu thay b»ng ®iỊu kiƯn K (S, x¯) = k (S, x¯), chøng minh t­¬ng tù 14 NhËn xÐt 1.2.4 Định lí 1.2.2 bao hàm thực mệnh đề 1.2.2, x domf T ( x; Ã) = Rn f Lipschitz địa phương (1.8) Sau ví dụ với định lí 1.2.2 không với mệnh đề 1.2.2 Giả sử S = R, x¯ = 0, vµ hµm f : Rn → R   0, nÕu x = f (x) =  1/2n , nÕu 1/2n+1 < |x| ≤ 1/2n , n = 0, ±1, ±2, Khi ®ã nửa liên tục f f T (0; y) = i{0} (y) , f K (0; y) = |y| , y R đây, f không Lipschitz địa phương x = 0, (1.8) K (S, x¯) = k (S, x¯) V× (1.9) tháa m·n với 1.2.2 kéo theo 1.3 Hàm =1 f K (0; Ã), K (S, 0) lồi, định lý x = cực tiểu địa phương chặt cấp C 1,1 cực tiểu địa phương chặt cấp Để tìm tính chất đặc trưng cực tiểu địa phương chặt cấp m > 1, trước hết ta xác định lớp hàm mà đạo hàm theo phương cấp cao Trong phần này, chóng ta xÐt mét líp hµm nh­ thÕ tr­êng hợp m = Định nghĩa 1.3.1 Hàm số f : Rn R {+} Fréchet gọi C 1,1 C 1,1 Bổ đề 1.3.1 (i) f khả vi liên tục thường xuất tối ưu, chẳng hạn phương pháp hàm phạt để giải toán phi tuyến với liệu f x x f (Ã) Lipschiz địa phương x Các hàm Nếu C 1,1 x f (x) = th× d2 f K (x, ·) = d2 f IK (x, ·) , C 15 (ii) d2 f k (x, ·) = d2 f Ik (x, Ã) Chứng minh Từ định nghĩa ta có d2 f K (x; ·) ≤ d2 f IK (x; ·) Giả sử y Rn d2 f K (x; y) ≤ r §Ĩ chøng minh (i) ta chØ cÇn chØ r»ng d2 f IK (x; y) ≤ r Cho > Vì f C 1,1 x nên tồn L > 0, > cho, víi mäi z, w ∈ B (x, δ) , k∇f (z) − ∇f (ω)k ≤ L kz − ωk Chän λ ∈ (0, {ε, ε/4L (kyk + ε)}) cho x + (0, λ) B (y, λ) ⊂ B (x, δ) LÊy v, ω ∈ B (y, λ) , t ∈ (0, λ) Theo định lý giá trị trung bình, tồn ∈ (0, 1) cho, víi z := θv + (1 − θ) ω, ta cã f (x + tv) − f (x + tω) = h∇f (x + tz) , t (v − ω)i = h∇f (x + tz) − ∇f (x) , t (v − ω)i , ≤ Lt2 kzk kv − ωk ≤ Lt2 (kyk + ε) 2λ ≤ t2 ε/2 Do ®ã, (f (x + tv) − f (x + tω)) /t2 ≤ ε/2 B©y giê, lÊy v ∈ B (y, λ) , η > V× d2 f K (x; y) ≤ r v× ∇f (x) = 0, 16 nên tồn B (y, λ) , t ∈ (0, {η, λ}) cho (f (x + tω) − f (x)) /t2 ≤ r + ε/2 Do ®ã, (f (x + tv) − f (x)) /t2 = (f (x + tv) − f (x + tω)) /t2 + (f (x + tω) − f (x)) /t2 ≤ ε/2 + r + ε/2 = r + ε Do v, η, ε tïy ý, ta cã d2 f IK (x; y) ≤ r Do (i) chứng minh Chứng minh (ii) tương tự Kết tính chất đặc trưng cực tiểu địa phương chặt cấp cho toán quy hoạch toán học: {f (x) |gi (x) ≤ 0, i = 1, , m, hi (x) = 0, i = 1, , p} , ®ã f, gi , hi lµ (1.11) C 1,1 Chúng ta bắt đầu thảo luận toán Với x điểm chấp nhận toán (1.11), ta đặt I (x) := {i |gi (x) = 0} Gi¶ sư λi ≥ 0, i = 1, , m, µi ∈ R, i = 1, , p, hàm Lagrange xác định sau L (x) := f (x) + m X i=1 Ta phân hoạch i gi (x) + p X µi hi (x) i=1 I (x) thành tập J (x) := {i I (x) |λi > 0} vµ M (x) := {i ∈ I (x) |λi = 0} Trong ®iỊu kiƯn tèi ưu cấp 2, tập hợp phương: D (x) := {y ∈ Rn |h∇gi (x) , yi ≤ 0, ∀i ∈ M (x) , h∇gi (x) , yi = 0, ∀i ∈ J (x) , 17 h∇hi (x) , yi = 0, i = 1, , p} sÏ ®ãng mét vai trò quan trọng Chúng ta thiết lập điều kiện đủ cho cực tiểu chặt cấp hai Các điều kiện tổng quát hóa điều kiện đủ cấp hai thông thường cho toán (1.11) với liệu C2 cho toán khả vi với hàm mục tiêu hàm ràng buộc khả vi Fréchet Trong suốt phần này, x điểm chấp nhận (1.11) Định lý 1.3.1 Giả sử f, gi , i = 1, , m, hi , i = 1, , p, khả vi Fréchet x Giả sử tồn λi ≥ 0, µi ∈ R cho ∇L (¯ x) = vµ λi gi (¯ x) = víi i = 1, , m vµ d LK (¯ x; y) > 0, ∀y ∈ D (¯ x) \ {0} Khi đó, (1.12) x cực tiểu địa phương chặt cấp (1.11) Chứng minh Chúng ta chứng minh phản chứng Giả sử phương chặt cấp Khi đó, tồn dÃy toán (1.11) cho {xn } x cực tiểu địa điểm chấp nhận {xn } → x¯ vµ f (xn ) − f (¯ x) kxn xk2 /n (1.13) Đặt tn := kxn − x¯k , yn := (xn − x¯) /tn Khi đó, tn 0+ Không tính chất tổng quát ta giả sử {yn } y với y 6= Ta có y ∈ D (¯ x) vµ (L (xn ) − L (¯ x)) /t2n ≤ (f (xn ) − f (¯ x)) /t2n ≤ 1/n Do ®ã, d2 LK (¯ x; y) ≤ lim inf ≤ (L (xn ) − L (¯ x)) /t2n ≤ n→∞ V× vËy, (1.12) không thỏa mÃn Định lý chứng minh Trước trình bày điều kiện cần tối ưu cấp hai cho (1.11), chóng ta xÐt mèi quan hƯ gi÷a nghiƯm (1.11) cực tiểu hàm Lagrange tập hợp ràng buộc (1.11) 18 Bổ đề 1.3.2 Giả sử x cực tiểu địa phương chặt cÊp hai cña (1.11); λi ≥ 0, i = 1, , m, µi ∈ R, i = 1, , p NÕu λi gi (¯ x) = víi i = 1, , m x cực tiểu địa phương chặt cấp hai L tập hợp C := {x |gi (x) ≤ 0, i = 1, , m, gi (x) = 0, i ∈ J (¯ x) , hi (¯ x) = 0, i = 1, , p} Chứng minh Kí hiệu S tập hợp ràng buộc (1.11) Theo giả thiết, tồn cho víi mäi ε > 0, β > x ∈ S ∩ B (¯ x, ε), ta cã f (x) − f (¯ x) > βkx − x¯k2 Gi¶ sư x ∈ C ∩ B (¯ x, ε) Khi ®ã, L (x) − L (¯ x) = f (x) − f (¯ x) + X λi (gi (x) − gi (¯ x)) + p X ui (hi (x) − hi (¯ x)) i=1 J(¯ x) = f (x) − f (¯ x) ≥ βkx − x¯k2 Do đó, x cực tiểu địa phương chặt cấp hai L C Định nghĩa 1.3.2 Giả sö gi , i = 1, , m, hi , i = 1, , p, C x Ta nói điều kiện quy Mangasarian-Fromowitz chặt (SMFCQ) ®óng t¹i (i) x¯ nÕu ∇gi (¯ x) , i ∈ J (x) , ∇hi (¯ x) , i = 1, , p độc lập tuyến tính; (ii) Tồn t¹i z ∈ Rn cho h∇gi (¯ x) , zi < 0, ∀i ∈ M (¯ x) , h∇gi (¯ x) , zi = 0, ∀i ∈ J (¯ x) , h∇hi (¯ x) , zi = 0, i = 1, , p Điều kiện SMFCQ đủ để suy k (C, x¯) = D (¯ x) cho tËp C bỉ ®Ị 1.3.2 (xem [9]) Víi sù kiện này, trình bày điều kiện cần cấp hai cho (1.11) 19 Định lý 1.3.2 x Giả sử cực tiểu địa phương chặt cấp hai (1.11), Fréchet tại x gi , i = 1, , m, hi , i = 1, , p, C1 x f khả vi Giả sử SMFCQ x với i 0, ài R tháa m·n ∇L (¯ x) = 0, λi gi (¯ x) = 0, i = 1, , m Khi ®ã, d2 LIK (¯ x; y) > 0, ∀y ∈ D (¯ x) \ {0} (1.14) Chøng minh Theo bổ đề 1.3.2, L có cực tiểu địa phương chặt cấp hai C x Vì vậy, theo hƯ qu¶ 1.2.3(d) ta cã d2 LIK (¯ x; y) > 0, ∀y ∈ k (C, x¯) \ {0} Điều kiện (1.14) suy từ kiện k (C, x ¯) = D (¯ x) víi gi¶ thiÕt SMFCQ Bây sử dụng định lí 1.3.1, 1.3.2 bổ đề 1.3.1 để suy tính chất đặc trưng cực tiểu địa phương chặt cấp hai cho toán C 1,1 Định lý 1.3.3 Gi¶ sư f, gi , i = 1, , m, hi , i = 1, , p, lµ C 1,1 x Giả sử SMFCQ thỏa mÃn i ≥ 0, µi ∈ R ∇L (¯ x) = 0, λi gi (¯ x) = 0, ∀i = 1, m x đó, x cực tiểu địa phương chặt cấp hai (1.11) (1.12) với cho Khi Một hệ định lí 1.3.3 là: C - tối ưu, điều kiện đủ cấp hai đặc trưng cho cực tiểu địa phương chặt cấp hai SMFCQ thỏa mÃn Cách tiÕp cËn kh¸c cho C 1,1 - tèi cđa mét hàm C 1,1 Sau đây, f hai lần ưu dựa khái niệm Hessian suy rộng (x) kí hiệu Hessian hàm f x Định nghĩa 1.3.3 Giả sử f : Rn R C 1,1 x  Ef := x f ( x) tồn khả vi Fréchet 20 Hessian suy rộng f x tập n ì n ma trận  f (¯ x) := conv A ∃ {xj } → x¯ víi xj ∈ Ef vµ ∇2 f (xj ) → A , (1.15) ®ã conv kÝ hiƯu bao låi Các điều kiện đủ sau cho cực tiểu địa phương chặt cấp hai toán (1.11) có định lí [7] Định lý 1.3.4 ([8]) Giả sử f, gi , hi , C 1,1 x Giả sử tồn i 0, µi ∈ R cho ∇L (¯ x) = λi gi (¯ x) = víi i = 1, , m; vµ víi mäi A ∈ ∂ L (¯ x) , ta cã hy, Ayi > 0, ∀y ∈ D (¯ x) \ {0} Khi ®ã, (1.16) x cực tiểu địa phương chặt cấp hai (1.11) Không giống (1.12), điều kiện (1.16) không cho tính chất đặc trưng cực tiểu đại phương chặt cấp hai Điều minh họa ví dụ sau Ví dụ 1.3.1 Cho Z tập hợp số nguyên, hàm f : R → R     0, nÕu x =0, 
f (x) = x2 + x cos 2n+2 x − 3π + /2n , nÕu π/2n+1 < x ≤ π/2n , n ∈ Z,    f (−x) , nÕu x < Bëi v× f (x) ≥ x2 , ∀x ∈ R, f (0) = 0, ta có x = cực tiểu chặt cấp hai f R Ta có f C R khả vi hai lần trừ tập đếm sau: 00