Điều kiện tối ưu cần và đủ với hàm nhân tử Lagrange

TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI KHOA TOÁN ————oOo———— BÙI THỊ QUỲNH LƯU ĐIỀU KIỆN TỐI ƯU CẦN VÀ ĐỦ VỚI HÀM NHÂN TỬ LAGRANGE KHÓA LUẬN TỐT NGHIỆP ĐẠI HỌC Chuyên ngành : Giải tích HÀ NỘI, 05/2017 TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI KHOA TOÁN ————oOo———— KHÓA LUẬN TỐT NGHIỆP ĐIỀU KIỆN TỐI ƯU CẦN VÀ ĐỦ VỚI HÀM NHÂN TỬ LAGRANGE Sinh viên thực : BÙI THỊ QUỲNH LƯU Giảng viên hướng dẫn : ThS BÙI NGỌC MƯỜI HÀ NỘI, 05/2017 Lời cảm ơn Trước trình bày nội dung khóa luận, em xin bày tỏ lòng cảm ơn tới thầy cô khoa Toán, trường Đại Học Sư Phạm Hà Nội 2, thầy cô tổ môn Giải tích thầy cô tham gia giảng dạy tận tình truyền đạt tri thức quý báu tạo điều kiện thuận lợi để em hoàn thành tốt nhiệm vụ khóa học khóa luận Đặc biệt, em xin bày tỏ kính trọng lòng biết ơn sâu sắc tới ThS Bùi Ngọc Mười, người trực tiếp hướng dẫn, bảo tận tình giúp đỡ để em hoàn thành khóa luận Do thời gian, lực điều kiện thân hạn chế nên khóa luận tránh khỏi sai sót Vì vậy, em mong nhận ý kiến góp ý quý báu thầy cô bạn Hà Nội, tháng năm 2017 Sinh viên Bùi Thị Quỳnh Lưu i Lời cam đoan Khóa luận tốt nghiệp "Điều kiện tối ưu cần đủ với hàm nhân tử Lagrange" hoàn thành cố gắng, nỗ lực tìm hiểu, nghiên cứu thân với giúp đỡ hướng dẫn tận tình thầy Bùi Ngọc Mười Tôi xin cam đoan khóa luận tốt nghiệp không trùng lặp với kết tác giả khác Hà Nội, tháng 5, năm 2017 Sinh viên Bùi Thị Quỳnh Lưu ii Mục lục Lời nói đầu Một số kí hiệu BÀI TOÁN TỐI ƯU VỚI NHỮNG RÀNG BUỘC ĐẲNG THỨC 1.1 Không gian tiếp xúc 1.2 Điều kiện cần bậc 1.3 Điều kiện tối ưu bậc hai 12 1.3.1 Điều kiện cần bậc hai 12 1.3.2 Điều kiện đủ bậc hai 14 1.4 Một số ví dụ 16 BÀI TOÁN TỐI ƯU VỚI RÀNG BUỘC TỔNG QUÁT 19 2.1 Điều kiện cần cực tiểu 19 2.2 Điều kiện đủ cực tiểu 38 iii Lời nói đầu Bài toán tối ưu có ràng buộc trình tối ưu hóa hàm mục tiêu với ẩn thỏa mãn số điều kiện cho trước Hàm mục tiêu hàm giá hàm lượng hàm cần giảm thiểu, hàm phần thưởng hàm tiện ích hàm cần tối đa hóa Xem xét toán quy hoạch không tuyến tính hữu hạn chiều có dạng: minimize f (x) (1) điều kiện g(x) ≤ 0, h(x) = 0, x ∈ X0 , X0 tập Rn , g h hàm giá trị vector, g = (g1 , , gm ) h = (h1 , hr ) Khi đó, f hàm mục tiêu Những ràng buộc g(x) ≤ h(x) = gọi ràng buộc hàm số, ràng buộc x ∈ X0 ràng buộc hình học Ta nói gi (x) ≤ 0; i = 1, , m ràng buộc bất đẳng thức, hj (x) j = 1, , r buộc đẳng thức Một điểm x ∈ X0 đáp ứng đầy đủ ràng buộc cho chấp nhận Ta gọi C tập điểm chấp nhận (1) Phương pháp nhân tử hàm Largrange cách tìm kiếm cực đại địa phương cực tiểu địa phương hàm số với ràng buộc đẳng thức ràng buộc bất đẳng thức toán tối ưu Xem xét (1) trường hợp X0 = Rn định nghĩa hàm Largrange L(x, λ, µ) với x ∈ Rn , λ ∈ Rn , µ ∈ Rn cách thiết lập m L(x, λ, µ) = f (x) + r λi gi (x) + i=1 µj hj (x) (2) j=1 Hoặc L(x, λ, µ) = f (x) + λ, g(x) + µ, h(x) λ = (λ1 , λm ), µ = (µ1 , µr ) Rm + := {v = (v1 , , vm )|vi ≥ với i = 1, m} Ý tưởng Largrange thay toán ràng buộc (1) toán không bị ràng buộc sau: min{L(x, λ, µ)|x ∈ Rn } Cụ thể f, gi , hi hàm khả vi liên tục, x∗ cực đại địa phương (1) ràng buộc quy (nói ràng buộc quy Magarian-Fromovitz đề nghị O.L Mangsarian S.Fromovitz năm 1967) thỏa mãn điểm x∗ , tồn nhân tử Largrange λ∗ = ∗ ∗ ∗ r (λ1 , , λm ) ∈ Rm + µ = (µ1 , µr ) ∈ R Sao cho: m ∗ ∗ ∗ r ∗ ∇x L(x , λ , µ ) = ∇f (x) + ∗ µ∗j hj (x∗ ) = 0, λ ∇gi (x ) + i=1 (3) j=1 ∇x L(x∗ , λ∗ , µ∗ ) dùng để đạo hàm L(x∗ , λ∗ , µ∗ ) x∗ Lưu ý x∗ cực tiểu địa phương L(x∗ , λ∗ , µ∗ ) Rn (3) theo quy tắc Fermat Largrange xem xét đến ràng buộc đẳng thức Trong trường hơp bao gồm ràng buộc bất đẳng thức điều kiện tối ưu bậc nghiên cứu từ kỉ trước Điều kiện cần tối ưu bậc hai cho (1) có nhiều điều kiện tham gia Những công thức dựa đạo hàm cấp hai ∇2xx L(x∗ , λ∗ , µ∗ ) L(x∗ , λ∗ , µ∗ ) x Chủ yếu dựa vào công trình nghiên cứu [4], khóa luận tốt nghiệp nhằm mục đích nghiên cứu điều kiện tối ưu bậc bậc hai, điều kiện cần điều kiện đủ mà sử dụng nhân tử Largrange Chúng ta tập trung vào toán quy hoạch toán học khả vi liên tuc Khóa luận gồm có hai chương Chương 1: "Bài toán tối ưu với ràng buộc đẳng thức" Chỉ tập trung vào ràng buộc đẳng thức, cung cấp điều kiện tối ưu bậc bậc hai cho toán cổ điển vài ví dụ minh họa Chương 2: "Bài toán tối ưu với ràng buộc tổng quát" Nghiên cứu điều kiện tối ưu bậc bậc hai cho toán có ràng buộc đẳng thức ràng buộc bất đẳng thức Bảng kí hiệu A := B A xác định B Rn Không gian Ơclit thực n- chiều < x, y > Phép nhân vô hướng véc tơ, x, y ∈ Rn x Chuẩn véctơ x x = (x1 , x2 , xn ) Một vectơ x với thành phần x1 , x2 , xn ∇f (x) f (x) Gradien đạo hàm Fre’chet hàm vô hướng f x ∇2 f (x) f (x) Đạo hàm bậc hai hàm số ∇g(x) g’(x) Ma trận Jacobi đạo hàm Fre’chet hàm vectơ g x L(x, λ) Hàm Lagrange ∇x L(x, λ) Đạo hàm L(x, λ) x ∇2xx L(x, λ) Đạo hàm cấp hai L(x, λ) x C1 Lớp hàm thực khả vi liên tục không gian Euclide PQ (x) Phép chiếu x vào tập Q AT Phép chuyển vị ma trận A A≥B A − B ma trận nửa dương A>B A − B ma trận dương A Chuẩn ma trận A Chương BÀI TOÁN TỐI ƯU VỚI RÀNG BUỘC TỔNG QUÁT 33 ràng buộc bất đẳng thức gi (x) = 0, i = 1, , m Khi Y0 = {0} Kí hiệu X tập xác định hệ (2.25) X = {x ∈ X0 |g(x) ∈ X} Định nghĩa 2.1.2 [7, Definition 3.14] Hệ (2.25) gọi quy metric điểm x0 ∈ X tồn ε > C cho với x˜ u˜ thỏa mãn x˜ − z0 < ε u˜ ≤ ε ta tìm xR thỏa mãn g(xR ) − u˜ ∈ Y0 cho xR − x˜ ≤ C(dist(˜ x, X0 ) + dist(g(˜ x − u˜, Y0 )) (2.26) Cụ thể, với toán (P1) ta có X0 ≡ Rn , X ≡ C, (2.26) trở thành xR − x˜ ≤ K(dist(˜ x, Rn ) r + |hj (˜ x)|) max{0, gi (˜ x)} + i∈I ∗ (x∗ ) j=1 Cho x0 điểm chấp nhận C, ta nói điều kiện quy Robinson thỏa mãn x0 phương trình sau sảy ∇g(x0 )d − v ∇h(x0 )d |d ∈ Rn , vi ≥ 0, i ∈ I ∗ (x0 ) = Rm × Rr (2.27) ý toán (P1 ) ba điều kiện MFCQ, quy metric, điều kiện quy Robinson điểm chấp nhận x0 tương đương Bổ đề 2.1.2 Giả sử x∗ điểm cực tiểu (P1 ) MFCQ Chương BÀI TOÁN TỐI ƯU VỚI RÀNG BUỘC TỔNG QUÁT 34 thỏa mãn x∗ Thì với s ∈ TC (x∗ ), TC2 (x∗ , s) ={ω ∈ Rn | ∇gi (x∗ ), ω ≤ − ∇2 gi (x∗ )s, s , i ∈ I ∗∗ (x∗ , s), (2.28) ∇hj (x∗ ), ω ≤ − ∇2 hj (x∗ )s, s , j = 1, , r} Với I ∗∗ (x∗ , s) = {i ∈ I ∗ (x∗ ) : ∇gi (x∗ ), s = 0} Chứng minh Cho s ∈ TC (x∗ ) cho ω phần tử tập vế phải (2.28) cho x(τ ) = x∗ + τ s + τ2 ω Với i ∈ I ∗ (x∗ ) mở rộng gi (x(τ )) sau gi (x(τ )) =gi (x∗ ) + ∇gi (x∗ ), x(τ ) − x∗ τ2 ∇ gi (x∗ )(x(τ ) − x∗ ), x(τ ) − x∗ + o(τ ), τ2 ∗ ∇gi (x∗ ), ω + ∇gi (x∗ )s, s + o(τ ) = τ ∇gi (x ), s + + Chúng ta sử dụng thực tế gi (x∗ ) = với i ∈ I ∗ (x∗ ) Hai trường hợp sảy là: Nếu i ∈ / I ∗∗ (x∗ , s) ∇gi (x∗ ), s < Theo với ω ∈ Rn ta có gi (x(τ )) < với τ > đủ nhỏ Nếu i ∈ I ∗∗ (x∗ , s) số hạng bất đẳng thức bị triệt tiêu Vì ω phần tử tập đươc xác định (2.28), số hạng thứ hai không dương áp dụng lập luận tương tự với phương trình ràng buộc hj (x(τ )) Vì ta kết luận ω thỏa mãn điều kiện vế phải (2.28) gi (x(τ )) ≤ o(τ ), i ∈ I ∗ (x∗ ), |hj (x(τ ))| ≤ o(τ ), j = 1, , r, dist(x(τ ), Rn ) = (2.29) Chương BÀI TOÁN TỐI ƯU VỚI RÀNG BUỘC TỔNG QUÁT 35 Trong dist(u, U ) khoảng cách từ vector u đến tập U Quan hệ cuối Theo [7, Bổ đề 3.17], x∗ điểm metric sau từ x(τ ) ∈ Rn quy Theo [7, Định nghĩa 3.14] tồn K ≥ cho với τ ∈ [0, τ0 ] ta tìm điểm ϕ(τ ) ∈ C thỏa mãn bất phương trình ϕ(τ ) − x(τ ) ≤ K(dist(x(τ ), Rn ) r |hj (x(τ ))|) max{0, gi (x(τ ))} + + i∈I ∗ (x∗ ) j=1 Theo kết (2.29) ϕ(τ − x(τ )) ≤ o(τ ) Vì dist(x(τ ), C) ≤ o(τ ) ω ∈ TC (x∗ , s) Để chứng minh điều này, ta giả sử ω ∈ TC2 (x∗ , s) Thì tồn ϕ(τ ) = x∗ + τ s + τ2 2ω + o(τ ) C, gi (ϕ(τ )) ≤ 0, i ∈ I ∗ (x∗ , s) hj (ϕ(τ )) = 0, j = 1, , r Ta lại sử dụng Taylor mở rộng cho τ → ta kết luận ω phải phần tử thuộc vế phải (2.28) Vậy ta có điều phải chứng minh Dưới MFCQ x∗ cho x(τ ) = x∗ + τ s lập luận tương tự ta chứng minh tập F1 tập hợp tiếp tuyến bậc C x∗ , kí hiệu TC (x∗ ) Định lí 2.1.7 (Xem [7, Theorem 3.45]) Giả sử x∗ nghiệm tối ưu toán (P1 ) MFCQ thỏa mãn x∗ Cho λ∗ , µ∗ nhân tử Largrange liên kết với nghiệm địa phương Thì với s ∈ F1 cho ∇f (x∗ ), s = 0, ∇f (x∗ ), ω + ∇2 f (x∗ )s, s ≥ o, ∀ω ∈ TC2 (x∗ , s) (2.30) Chương BÀI TOÁN TỐI ƯU VỚI RÀNG BUỘC TỔNG QUÁT 36 Chứng minh Vì ω ∈ TC2 (x∗ , s) Theo định nghĩa 2.1.6 tồn dãy xk ∈ C, xk → x∗ vô hướng τk → cho τk2 x − x − τk s − ω = o(τk2 ) ∗ k áp dụng Taylor mở rộng ta có τk2 τk2 ∗ ∇f (x ), ω + ∇ f (x∗ )s, s +o(τk2 ) f (x )−f (x ) = τk ∇f (x ), s + 2 k ∗ ∗ Vì x∗ cực tiểu địa phương, f (xk ) ≥ f (x∗ ) với k đủ lớn, τk ∇f (x∗ ), s + τ2 τk2 ∇f (x∗ ), ω + k ∇2 f (x∗ )s, s + o(τk2 ) ≥ (2.31) 2 Theo giả thiết, ∇f (x∗ ), s = 0, chia hai vế (2.1.31) cho τk2 cho τk → ta có (2.1.30) Bây ta chứng minh định lý 2.1.5, không giống định lý trước tập tiếp tuyến bậc hai TC2 (x∗ , s) không sử dụng Chứng minh Cho s ∈ F1 thỏa mãn ∇f (x∗ ), s = để có (2.23) ta xem xét toán quy hoạch tuyến tính sau minimize ∇f (x∗ ), ω + ∇2 f (x∗ )s, s điều kiện ω ∈ Rn , ∇gi (x∗ ), ω ≤ − ∇2 gi (x∗ )s, s , i ∈ I ∗∗ (x∗ , s), (2.32) ∇hj (x∗ ), ω = ∇2 hj (x∗ )s, s , j = 1, , r Từ định lý 2.1.7 bổ đề 2.1.2 ,theo giá trị tối ưu (2.32) không âm Vì MFCQ thỏa mãn x∗ điều kiên cân đối Robinson giữ đúng, tập chấp nhận (2.32) khác rỗng Áp dụng định lý tồn nghiệm toán tuyến tính vào toán lập trình (2.32), ta kết luận (2.32) có nghiệm tối ưu ω ˆ Theo điều kiện tối ưu lập trình tuyến tính, tồn nhân tử Lagrange Chương BÀI TOÁN TỐI ƯU VỚI RÀNG BUỘC TỔNG QUÁT 37 λ¯i , i ∈ I ∗∗ (x∗ , s), µ¯j , j = 1, r tương ứng với nghiệm tối ưu ω ˆ Ngụ ý cuối hàm Lagrange ¯ µ L1 (ω, λ, ¯) = ∇f (x∗ ), ω + ∇2 f (x∗ )s, s ˆ i ( ∇gi (x∗ ), ω + ∇2 gi (x∗ )s, s ) λ + i∈I ∗∗ (x∗ ,s) r µˆj ( ∇hj (x∗ ), ω + ∇2 hj (x∗ )s, s ) + j=1 đạt giá trị cực tiểu Rn ω ˆ Ngoài ra, cách bổ sung thiếu sót, giá trị tối ưu (2.1.32) với giá trị hàm lagrange ¯ µ (ˆ ω , λ, ¯): ¯ µ L1 (ˆ ω , λ, ¯) = ∇f (x∗ ), ω ˆ + ∇2 f (x∗ )s, s ¯ i ( ∇gi (x∗ ), ω λ ¯ + ∇2 gi (x∗ )s, s ) + (2.33) i∈I ∗∗ (x∗ ,s) r µ¯j ( ∇hj (x∗ ), ω ˆ + ∇2 hj (x∗ )s, s ) + j=1 ¯ µ Vì cực tiểu hàm Lagrange L1 (., λ, ¯) đạt ω ˆ theo quy tắc Fermat ta thấy r λ¯i ∇gi (x ) + ∗ ∗ ∇f (x ) + i∈I ∗∗ (x∗ ,s) µ ¯∇hj (x∗ ) = (2.34) i=1 Vì thế, đặt λ¯i = với i ∈ 1, , mI ∗∗ (x∗ , s), ta có nhân tử Lagrange λ¯i , i = 1, , m, µj , i = 1, , r tương ứng với nghiệm địa phương x∗ toán (P1) Thế (2.34) vào (2.33) ta có ¯ µ L1 (ˆ ω , λ, ¯) = ∇2 f (x∗ )s, s + ¯ i ( ∇2 gi (x∗ )s, s λ i∈I ∗∗ (x∗ ,s) r ¯ µ µ¯j ∇2 hj (x∗ ), s, s = ∇2xx L(x∗ , λ, ¯)s, s + j=1 Chương BÀI TOÁN TỐI ƯU VỚI RÀNG BUỘC TỔNG QUÁT 38 ¯ µ)s, s ≥ Vì Vì giá trị cực tiểu 2.32 không âm, ∇2xx L(x∗ , λ¯ tập Λ(x∗ ) nhân tử Lagarange tập compact (trong thực tế Λ(x∗ ) khác rỗng, lồi, tập compact) theo MFCQ bất phương trình (2.23) có hiệu lực 2.2 Điều kiện đủ cực tiểu Định lí 2.2.1 (Điều kiện đủ tối ưu bậc nhất) Cho x∗ điểm chấp nhận được, hàm số f (x), gi (x), i = 1, , m, hj = 1, , r khả vi Fréchet x∗ , n số ràng buôc hoạt LICQ thỏa mãn x∗ Nếu tồn λ∗i > 0, i ∈ I ∗ (x∗ ), µ∗j , j = 1, , r cho r ∗ µ∗j ∇hj (x∗ ) = ∗ ∇f (x ) + λi ∇gi (x ) + i∈I ∗ (x∗ ) (2.35) j=1 Thì ta có α > δ > cho f (x) ≥ f (x∗ ) + α x − x∗ với x ∈ C ∩ B(x∗ , δ) Chứng minh Xét tập S := n v ∈ R | v = 1, ∇hj (x∗ ), v = 0, j = 1, , r, ∇gj (x∗ ), v ≤ 0, i ∈ I ∗ (x∗ ) , tập hình thành vector đơn vị nón tiếp xúc C x∗ , hàm số ∗ φ(v) := ∇g (x ), v i ∗ ∗ i∈I (x ) Nếu I ∗ (x∗ ) = ∅ LICQ MFCQ thỏa mãn ta có S = ∅ Với v ∈ S, tồn dãy {tk }, tk → 0+ , dãy {xk } ⊂ C cho xk = x∗ + tk v + o(tk ) Bây phép nhân vô hướng (2.35) với v, ta có λ∗i ∇gi (x∗ ), v = ∇f (x∗ ), v + i∈I ∗ (x∗ ) (2.36) Chương BÀI TOÁN TỐI ƯU VỚI RÀNG BUỘC TỔNG QUÁT 39 Giá trị ∇gi (x∗ ), v với i ∈ I ∗ (x∗ ) s = trực giao với n vector độc lập tuyến tính Rn Vì φ(v) := mini∈I ∗ (x∗ ) ∇gi (x∗ ), v < Theo tính liên tục φ(.) tính chặt chẽ S, điều có ý nghĩa ε := maxv∈S φ(v) = minv∈S (−φ(v)) dương Chú ý −∇gi (x∗ ), v ≥ −φ(v) = − max ∗ ∗ i∈I x −∇gi (x∗ , v) i∈I ∗ (x∗ ) λi > 0, i ∈ I ∗ (x∗ ) từ (2.35) ta có ∇f (x∗ ), v = λ∗i −gi (x∗ ), v ≥ λ∗i (−φ(v)) ≥ λ∗i ε = 2α > 0, ∗ ∗ ∗ ∗ i∈I (x ) i∈I ∗ (x∗ ) i∈I (x ) λ∗i ε ∗ ∗ i∈I (x ) Ta giả sử δ > cho kết luận định lý có hiệu lực với α với α := chọn δ Thật vậy,trong chiều ngược lại, tồn dãy điểm chấp nhận {xk } với xk → x∗ f (xk ) < f (x∗ ) + α xk − x∗ Cho sk = xk −x∗ xk −x∗ (k = 1, 2, ) (2.37) Vì {sk } bị chặn, giả sử xk → s, s = từ tính khả vi hj (x), j = 1, , r x∗ ta có = hj (xk ) =hj (x∗ ) + ∇hj (x∗ ), xk − x∗ + o( xk − x∗ ) = ∇hj (x∗ ),k −x∗ + o( xk − x∗ ) Chia cho xk − x∗ và tiến tới gới hạn ∇hj (x∗ ), s = 0, j = 1, , r (2.38) Bằng cách tương tự ta có ∇gi (x∗ ), s ≤ 0, i ∈ I ∗ (x∗ ) (2.39) Chương BÀI TOÁN TỐI ƯU VỚI RÀNG BUỘC TỔNG QUÁT 40 Từ (2.38) (2.39) thấy s ∈ S Đặt tk = xk − x∗ ta có xk = x∗ + tk sk = x∗ + tk s + tk (s − sk ) = x∗ + tk s + o(tk ) Vì f (xk ) = f (x∗ ) + tk ∇f (x∗ ), s + o(tk ) Vì ∇f (x∗ ), s ≥ ta có kết f (xk ) ≥ f (x∗ ) + tk α với k đủ lớn, mâu thuẫn với (2.37) Do x∗ cực tiểu (P1) với hệ số α Nếu I ∗ (x∗ ) = ∅, ta có r = n, S = ∅ Vì x∗ điểm bị cô lập Q, điểm cô lập C Nó cho thấy x∗ cực tiểu địa phương P(1) Điều kiện nói số ràng buộc tích cực n, LICQ thỏa mãn x∗ thực tế thỏa mãn x∗ "conner" C Định lý lọa bỏ điều kiện này, ta cần dùng tính xác định dương Hessian ∇2xx L(x∗ , λ∗ , µ∗ ) nón đa diện lồi nón tiếp tuyến đến C x∗ Định lí 2.2.2 (Điều kiện đủ tối ưu bậc hai; xem [2, p.344]) Cho x∗ điểm chấp nhận (P1) cho f (x), gi (x), i = 1, , m, hj (x) = 1, , r khả vi hai lần x∗ Giả sử với vài ∗ r λ ∗ ∈ Rm + , µ ∈ R thỏa mãn m ∗ r λ∗i ∇gi (x∗ ) (i)∇f (x ) + i=1 (ii)λ∗i gi (x∗ ) = 0, i = 1, , m, µ∗j ∇hj (x∗ ) = + j=1 (2.40) Chương BÀI TOÁN TỐI ƯU VỚI RÀNG BUỘC TỔNG QUÁT 41 với s = cho ∇gi (x∗ ), s = 0, i ∈ I ∗ (x∗ ), λ∗i > ∇gi (x∗ ), s ≤ 0, i ∈ I ∗ (x∗ ), λ∗i = ∇hj (x∗ ), s = 0, j = 1, , r, (2.41) ta có bất đẳng thức ∇2xx L(x∗ , λ∗ , µ∗ )s, s > Thì x∗ cực tiểu địa phương (P1) Chứng minh Theo giả định định lý, giả sử ngược lại x∗ cực tiểu địa phương, tồn dãy điểm chấp nhận y k cho y k → x∗ f (y k ) < f (x∗ ), Đặt ∀k (2.42) y k − x∗ s = k y − x∗ k Vì sk = với k, không tính tổng quát ta giả sử limk→∞ sk = s, với s ∈ Rn s = Bây ta mở rộng hàm gi (x), i ∈ I ∗ (x∗ ) xung quanh x∗ : ≥ gi (y k ) = gi (x∗ ) + ∇gi (x∗ ), y k − x∗ + ø( y k − x∗ ) Vì gi (x∗ ) = 0, i ∈ I ∗ (x∗ ), chia hai vế biểu thức cho y k − x∗ cho k → ∞ ta có ∇gi (x∗ ), s ≤ 0, i ∈ I ∗ (x∗ ) (2.43) Một phân tích tương tự phương trình ràng buộc ∇hj (x∗ ), s = 0, j = 1, , r (2.44) Chương BÀI TOÁN TỐI ƯU VỚI RÀNG BUỘC TỔNG QUÁT 42 Theo khai triển Taylor f (y k ) = f (x∗ ) + ∇f (x∗ ), y k − x∗ + ∇ f (x∗ )(y k − x∗ ), y k − x∗ + o( y k − x∗ (2.45) Tương tự ta có gi (y k ) =gi (x∗ ) + ∇gi (x∗ ), y k − x∗ + ∇2 gi (x∗ )(y k − x∗ ), y k − x∗ + o( y k − x∗ ), i = 1, , m, (2.46) hj (y k ) =hj (x∗ ) + ∇hj (x∗ ), y k − x∗ + ∇2 h − j(x∗ )(y k − x∗ ), y k − x∗ + o( y k − x∗ ), j = 1, , r (2.47) Nhân hai vế (2.46) với λ∗i (2.47) với µ∗i với λ∗ , µ∗ xác định giả thiết Tổng số hạng đầu vế phải thỏa mãn điều kiện tối ưu đầu tiên: m r ∗ λ∗i ∇gi (x∗ ) ∇f (x ) + µ∗j ∇hj (x∗ ), y k − x∗ = + i=1 (2.48) j=1 tiến đến giới hạn ta có m ∗ r λ∗i ∇f (x ), s + ∗ µ∗j ∇hj (x∗ ), s = ∇gi (x ), s + i=1 (2.49) j=1 Vậy điều kiện (ii) với λ∗i = 0, i ∈ {1, , m}\I ∗ (x∗ ) Do (2.43) (2.44), (2.49) dẫn đến ∇f (x∗ ), s ≥ Tuy nhiên, f (y k ) < f (x∗ ) nên ∇f (x∗ ), s Vì ∇f (x∗ ), s = Chèn vào phương trình (2.49) λ∗i ∇gi (x∗ ), s = Chú ý số hạng ta có kết i∈I ∗ (x∗ ) Chương BÀI TOÁN TỐI ƯU VỚI RÀNG BUỘC TỔNG QUÁT λ∗i ∇gi (x∗ ), s ≤ Vì ∗ i∈I ∗ (x∗ ) λi 43 ∇gi (x∗ ), s = số hạng không nghĩa với i ∈ I ∗ (x∗ ) ta có ∇gi (x∗ ), s = 0, λ∗i > ∇gi (x∗ ), s ≤ 0, λ∗i = Sau nhân hai vế (2.46) với λ∗ (2.47) với µ∗ sau công vế với vế (2.45),(2.46),(2.47) ta có f (y k ) ≥ f (x∗ ) + ∇xx L(x∗ , λ∗ , µ∗ )(y k − x∗ ), y k − x∗ + o( y k − x∗ ) Sử dụng (2.42) chia hai vế cho y k − x∗ hệ với k đủ lớn ta có quan o( y k − x∗ ) ∇xx L(x∗ , λ∗ , µ∗ )sk , sk + 0, g1 (x∗ ) = ∈ I ∗ (x∗ ), ∇g1 (x) = (2, 0) ∇g1 (x), s = 2s1 + = ⇒ s1 = 0, s2 (1) λ2 = 0, g2 (x∗ ) = ⇒ ∈ I ∗ (x∗ ), ∇g2 (x) = (0, −2) ∇g2 (x), s = − 2s2 ≤ ⇒ s2 ≥ 0, s1 (2) Chương BÀI TOÁN TỐI ƯU VỚI RÀNG BUỘC TỔNG QUÁT 45 Từ (1) (2) ⇒ s = { 0, s2 ∈ R2 |s2 > 0} Giả sử s = (0, a) với a > ta có −1 ∇2xx L(2, 0, , 0)s, s = (0, a) (0, a)T = 2a2 > 2 Vậy điểm (0, 2) thỏa mãn định lý 2.2.2 nên cực tiểu địa phương Tương tự ta xét với điểm lại có thêm điểm (0, 0) thỏa mãn Vậy toán ban đầu có hai điểm cực tiểu (0, 2) (0, 0) Chương BÀI TOÁN TỐI ƯU VỚI RÀNG BUỘC TỔNG QUÁT 46 KẾT LUẬN Trên nội dung khóa luận " Điều kiện tối ưu cần đủ với hàm nhân tử Lagrange " Khóa luận trình bày nội dung sau đây: • Chương Ở chương này, trình bày ràng buộc đẳng thức, cung cấp điều kiện tối ưu bậc bậc hai với toán cổ điển số ví dụ minh họa • Chương Ở chương này, trình bày điều kiện tối ưu bậc bậc hai cho toán có ràng buộc đẳng thức bất đẳng thức Đưa ví dụ minh họa cho định lý 2.2.2 Do thời gian thực khóa luận không nhiều có sai sót, mong nhận góp ý quý thầy cô bạn đọc Tôi xin chân thành cảm ơn! Tài liệu tham khảo [1] N.H Chieu, G.M Lee, N.D Yen, Second-order subdiffrentials and optimality conditions for C -smooth optimization proplems, preprint, 2013 [2] D.G Luenberger, Y Ye, Linear and Nonlinear Programming, Springer, New York, 2008 [3] B.S Mordukhovich, Variational Analysis and Generalized Diffrentiation II, Springer, New York, 2006 [4] B T Polyak, Introduction to Optimization, Publications Division, New York , 1987 [5] R.T.Rockafellar, Convex Analysis, Princeton University Press, Princerton, New Jersey, 1970 [6] W.Rudin, Principles of Mathematical Analysis (3rd Edition), McGraw-Hill, 1976 [7] A.Ruszczynski, Nonlinear Optimization, Princeton University Press, New Jersey, 2006 [8] K.Thomsen, Advanced Analysis, Lecture 6: The Hahn-Banach separation theorem, Online lecture notes, 2006 47 ... ban đầu biến đối ngẫu (P) 1.3 1.3.1 Điều kiện tối ưu bậc hai Điều kiện cần bậc hai Điều kiện cần tối ưu bậc hai cho phép loại trừ số điểm thỏa mãn điều cần tối ưu bậc Định lý 1.2.2 từ ứng viên cho... dựa vào công trình nghiên cứu [4], khóa luận tốt nghiệp nhằm mục đích nghiên cứu điều kiện tối ưu bậc bậc hai, điều kiện cần điều kiện đủ mà sử dụng nhân tử Largrange Chúng ta tập trung vào toán... ràng buộc trình tối ưu hóa hàm mục tiêu với ẩn thỏa mãn số điều kiện cho trước Hàm mục tiêu hàm giá hàm lượng hàm cần giảm thiểu, hàm phần thưởng hàm tiện ích hàm cần tối đa hóa Xem xét toán quy