Tính tựa chuẩn tắc tính giả chuẩn tắc và quy tắc nhân tử lagrange

ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KHOA HỌC DƯƠNG THỊ YẾN TÍNH TỰA CHUẨN TẮC, TÍNH GIẢ CHUẨN TẮC VÀ QUY TẮC NHÂN TỬ LAGRANGE CHUYÊN NGÀNH: TOÁN ỨNG DỤNG MÃ SỐ: 60.46.36 LUẬN VĂN THẠC SĨ TOÁN HỌC Người hướng dẫn khoa học: PGS TS ĐỖ VĂN LƯU THÁI NGUYÊN - 2011 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn i Mục lục Mục lục ii Mở đầu 1 ĐIỀU KIỆN CẦN FRITZ JOHN 1.1 KẾT QUẢ BỔ TRỢ 1.2 ĐIỀU KIỆN CẦN FRITZ JOHN 10 1.3 NHÂN TỬ LAGRANGE CĨ THƠNG TIN VÀ NHÂN TỬ LAGRANGE MẠNH 17 TÍNH TỰA CHUẨN TẮC, TÍNH GIẢ CHUẨN TẮC VÀ CÁC ĐIỀU KIỆN CHÍNH QUY 29 2.1 TÍNH TỰA CHUẨN TẮC VÀ TÍNH GIẢ CHUẨN TẮC 29 2.2 ĐIỀU KIỆN ĐỦ CHO TÍNH GIẢ CHUẨN TẮC 35 2.3 ĐIỀU KIỆN CẦN VÀ ĐỦ CHO TÍNH TỰA CHUẨN TẮC 38 HÀM PHẠT CHÍNH XÁC 43 3.1 TÍNH GIẢ CHUẨN TẮC VÀ HÀM PHẠT CHÍNH XÁC 43 3.2 BIỂU DIỄN MỞ RỘNG CỦA TẬP RÀNG BUỘC 49 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn ii 3.3 CÁC VÍ DỤ 50 Kết luận 56 Tài liệu tham khảo 57 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Mở đầu Lí thuyết điều kiện tối ưu phận quan trọng lí thuyết toán cực trị Các quy tắc nhân tử Lagrange thu hút quan tâm nghiên cứu nhiều tác giả Thông thường người ta thiết lập điều kiện cần tối ưu kiểu Fritz John từ dẫn điều kiện cần tối ưu kiểu Kuhn-Tucker với điều kiện quy khác Các điều kiện cần tối ưu dẫn cách thiết lập định lí luân phiên làm cơng cụ sở sử dụng định lí tách tập lồi phương pháp hàm phạt xác Các nhân tử Lagrange với vài tính chất phụ hữu ích nghiên cứu tính chất nghiệm tối ưu Năm 2002, D P Bertsekas A E Ozdaglar [3] thiết lập quy tắc nhân tử Lagrange kiểu Fritz John, nhân tử Lagrange có thêm tính chất phụ (tính chất (CV)) Ba loại nhân tử Lagrange nghiên cứu bao gồm vectơ nhân tử Lagrange có thơng tin, mạnh tối thiểu Các điều kiện quy tổng quát tính tựa chuẩn tắc tính giả chuẩn tắc điểm chấp nhận được đưa vào để đảm bảo khác nhân tử Lagrange ứng với hàm mục tiêu Việc tiếp cận phương pháp hàm phạt xác tỏ hiệu điều kiện tính tựa chuẩn tắc Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn tính giả chuẩn tắc Luận văn trình bày kết Bertsekas Ozdaglar [3] lí thuyết nhân tử Lagrange tốn tối ưu có ràng buộc đẳng thức, bất đẳng thức ràng buộc tập với điều kiện quy tổng quát tính tựa chuẩn tắc tính giả chuẩn tắc nghiệm tối ưu Luận văn bao gồm phần mở đầu, ba chương, kết luận danh mục tài liệu tham khảo Chương trình bày điều kiện cần kiểu Fritz John với nhân tử Lagrange có thêm tính chất (CV) Ba loại vectơ nhân tử Lagrange nghiên cứu bao gồm vectơ nhân tử Lagrange có thơng tin, mạnh tối thiểu Mối quan hệ loại vectơ nhân tử Lagrange trình bày cho trường hợp nón tiếp tuyến lồi Chương trình bày điều kiện quy tổng quát đảm bảo nhân tử Lagrange ứng với hàm mục tiêu khác Đó điều kiện quy tính tựa chuẩn tắc tính giả chuẩn tắc nghiệm Chú ý điều kiện giả chuẩn tắc mạnh điều kiện tựa chuẩn tắc Một điều kiện quy (CQ1) -(CQ6) điều kiện giả chuẩn tắc Chương trình bày cách tiếp cận phương pháp hàm phạt xác Kết điều kiện giả chuẩn tắc kéo theo thừa nhận hàm phạt xác Trong trường hợp nón pháp tuyến lồi điều kiện tựa chuẩn tắc kéo theo thừa nhận hàm phạt xác Nếu tập ràng buộc quy việc thừa nhận hàm phạt xác kéo theo thừa nhận nhân tử Lagrange Nhân dịp xin bày tỏ lòng biết ơn sâu sắc tới thầy giáo PGS.TS Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Đỗ Văn Lưu, người tận tình hướng dẫn, giúp đỡ tơi hồn thành luận văn Tôi xin chân thành cảm ơn Ban chủ nhiệm khoa tốn, Phịng đào tạo sau đại học trường Đại học Khoa học - Đại học Thái Nguyên thầy giáo tham gia giảng dạy khố học Xin chân thành cảm ơn gia đình, bạn bè đồng nghiệp thành viên lớp cao học toán K3 quan tâm, động viên, giúp đỡ suốt thời gian học tập trình làm luận văn Thái Nguyên, tháng năm 2011 Dương thị Yến Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Chương ĐIỀU KIỆN CẦN FRITZ JOHN Chương trình bày điều kiện cần Fritz John với nhân tử Lagrange có thêm tính chất (CV) Các vectơ nhân tử Lagrange có thơng tin, mạnh tối thiểu trình bày với mối quan hệ chúng Các kết chương Bertsekas-Ozdaglar [3] 1.1 KẾT QUẢ BỔ TRỢ Xét tốn tối ưu có dạng M inf (x), (1.1) x∈C đó, tập ràng buộc C bao gồm ràng buộc đẳng thức, ràng buộc bất đẳng thức ràng buộc tập trừu tượng C = X ∩ {x|h1 (x) = 0, , hm (x) = 0} ∩ {x|g1 (x) ≤ 0, , gr (x) ≤ 0} (1.2) Giả sử f, hi , gj hàm trơn (khả vi liên tục) từ Rn vào R; X tập đóng, khác rỗng Rn Tất vectơ xem vectơ cột, dấu " ’ " kí hiệu phép chuyển vị, x y kí hiệu tích vơ hướng hai vectơ Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn x y Ta dùng chuẩn Euclide ||x|| = (x x) Nhắc lại: Vectơ y tiếp tuyến tập S ⊂ Rn x ∈ S y = tồn dãy {xk } ⊂ S cho xk = x với k xk → x, y (xk − x) → ||xk − x|| ||y|| Một cách tương đương là: Tồn dãy {xk } ⊂ S, với xk → x dãy xk − x k k số dương {α } cho α → → y αk Tập hợp tất tiếp tuyến S x kí hiệu TS (x) gọi nón tiếp tuyến S x Nón cực nón T xác định T ∗ = {z|z y ≤ 0, y ∈ T } Với nón T = ∅, ta ln có T ⊂ (T ∗ )∗ Dấu "=" xảy T tập lồi đóng Với tập X đóng điểm x ∈ X, ta kí hiệu nón pháp tuyến X x NX (x), NX (x) nhận từ TX (x)∗ qua phép lấy bao đóng: z ∈ NX (x) tồn dãy {xk } ⊂ X {z k } cho xk → x, z k → z z k ∈ TX (xk )∗ với k Một cách tương đương, đồ thị NX (.), mà ta xem ánh xạ đa trị {(x, z)|z ∈ NX (x)}, bao đóng đồ thị TX (.)∗ Nói chung, ta có TX (x)∗ ⊂ NX (x), với x ∈ X Tuy nhiên, NX (x) khơng TX (x)∗ , khơng lồi Khi TX (x)∗ = NX (x), ta nói X quy x Hai tính chất quan trọng tính quy (xem [10]): (i) Nếu X lồi quy x ∈ X; Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn (ii) Nếu X quy x ∈ X TX (x) lồi Một điều kiện cần cổ điển để vectơ x∗ ∈ C cực tiểu địa phương f C là: f (x∗ ) y ≥ 0, ∀y ∈ TC (x∗ ), (1.3) TC (x∗ ) nón tiếp tuyến C x∗ Trong trường hợp C biểu diễn ràng buộc đẳng thức bất đẳng thức ta nhận nhân tử Lagrange Ta nói tập ràng buộc C (1.2) nhận nhân tử Lagrange điểm x∗ ∈ C với hàm mục tiêu trơn f mà x∗ cực tiểu địa phương toán (1.1), tồn vectơ λ∗ = (λ∗1 , , λ∗m ) µ∗ = (µ∗1 , , µ∗r ) thỏa mãn điều kiện sau: m ∗ r λ∗i ∇hi (x∗ ) [∇f (x ) + i=1 µ∗j ∇gj (x∗ )] y ≥ 0, + ∀y ∈ TX (x∗ ), (1.4) j=1 µ∗j ≥ 0, µ∗j = 0, ∀j = 1, , r (1.5) ∀j ∈ / A(x∗ ), (1.6) A(x∗ ) = {j|gj (x∗ ) = 0} tập số ràng buộc bất đẳng thức tích cực x∗ Điều kiện (1.6) gọi điều kiện bù (gọi tắt (CS)) Cặp (λ∗ , µ∗ ) thoả mãn (1.4) - (1.6) gọi vectơ nhân tử Lagrange tương ứng với f x∗ Tập hợp vectơ nhân tử Lagrange tương ứng với f x∗ tập đóng lồi (có thể tập rỗng) Điều kiện (1.4) tương thích với tính chất đặc trưng cổ điển nhân tử Lagrange: biểu tính dừng hàm Lagrange Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn x∗ Khi X tập lồi, (1.4) tương đương với m ∗ r λ∗i ∇hi (x∗ ) [∇f (x ) + µ∗j ∇gj (x∗ )] (x − x∗ ) ≥ 0, + i=1 ∀x ∈ X (1.7) j=1 Bởi X lồi, TX (x∗ ) bao đóng tập phương chấp nhận FX (x∗ ), vectơ có dạng α(x − x∗ ) với α > x ∈ X Nếu X = Rn (1.7) có dạng m ∗ r λ∗i [ f (x ) + ∗ µ∗j hi (x ) + i=1 gj (x∗ )] = 0, j=1 với điều kiện (1.5) (1.6) Khi X = Rn , với hàm trơn f mà x∗ cực tiểu địa phương nó, tồn nhân tử Lagrange f (x∗ ) y ≥ 0, ∀y ∈ V (x∗ ), V (x∗ ) nón biến phân chấp nhận cấp x∗ , cho V (x∗ ) = {y| hi (x∗ ) y = 0, i = 1, , m, gj (x∗ ) y ≤ 0, j ∈ A(x∗ )} Từ suy tập ràng buộc thừa nhận nhân tử Lagrange x∗ TC (x∗ ) = V (x∗ ) Trong trường hợp ta nói x∗ tựa quy hay tính tựa quy x∗ Bởi tính tựa quy trừu tượng, ta cho điều kiện thừa nhận nhân tử Lagrange dễ kiểm chứng Các điều kiện gọi điều kiện quy Một số điều kiện quy thường dùng: (CQ1) X = Rn x∗ điểm quy theo nghĩa gradients ràng buộc bất đẳng thức bất đẳng thức tích cực hi (x∗ ), i = 1, , m gradients ràng buộc gj (x∗ ), j ∈ A(x∗ ), độc lập tuyến tính Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 44 Định lí 3.1 Giả sử x∗ cực tiểu địa phương hàm FC (x) X m r gj+ (x)] |hi (x)| + Fc (x) = f (x) + c[ i=1 j=1 Khi đó, tồn λ∗1 , , λ∗m µ∗1 , , µ∗r cho m ∗ r λ∗i ∇hi (x∗ ) −{∇f (x ) + c[ i=1 µ∗j ∇gj (x∗ )]} ∈ NX (x∗ ), + j=1 λ∗i = 1, hi (x∗ ) > 0, λ∗i = −1, hi (x∗ ) < 0, λ∗i ∈ [−1, 1], hi (x∗ ) = 0, µ∗j = 1, gj (x∗ ) > 0, µ∗j = 0, gj (x∗ ) < 0, µ∗j ∈ [0, 1], gj (x∗ ) = Chứng minh Bài toán tìm cực tiểu Fc (x) x ∈ X đưa toán: r f (x) + c( r i + i=1 x ∈ X, vj ) j=1 hi (x) ≤ wi , gj (x) ≤ vj , ≤ vj , −hi (x) ≤ wi , i = 1, , m, j = 1, , r, với biến phụ wi vj Tại điểm cực tiểu địa phương x∗ tốn điều kiện quy (CQ5) thỏa mãn Theo Định lí 2.1, cực tiểu địa phương giả chuẩn tắc tồn nhân tử thoả mãn điều kiện Đinh lí 1.1 với µ∗0 = Từ ta suy λ∗1 , , λ∗m µ∗1 , , µ∗r thỏa mãn điều kiện kết luận Định lí Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 45 Định lí 3.2 Nếu điểm chấp nhận x∗ toán (1.1)-(1.2) giả chuẩn tắc tập ràng buộc thừa nhận hàm phạt xác x∗ Chứng minh Giả sử ngược lại: tồn hàm trơn f cho x∗ cực tiểu địa phương chặt f tập ràng buộc C, x∗ không cực tiểu địa phương x ∈ X hàm m r gj+ (x)], |hi (x)| + Fk (x) = f (x) + k[ i=1 Giả sử với k = 1, 2, j=1 > thỏa mãn f (x∗ ) < f (x), ∀x ∈ C với x = x∗ ||x − x∗ || ≤ (3.1) Giả sử xk làm cực tiểu Fk (x) tập (compact) x ∈ X thoả mãn ||x − x∗ || ≤ Khi đó, x∗ khơng cực tiểu địa phương Fk X nên xk = x∗ xk điểm không chấp nhận toán (1.2), tức m r k gj+ (xk ) > |hi (x )| + i=1 (3.2) j=1 Ta có r m k k gj+ (xk )] ≤ f (x∗ ) k |hi (x )| + Fk (x ) = f (x ) + k[ i=1 (3.3) j=1 Từ suy hi (xk ) → 0, với i, gj+ (xk ) → 0, với j Dãy {xk } bị chặn x¯ điểm giới hạn x¯ điểm chấp nhận Từ (3.1) (3.3) suy x¯ = x∗ Như vậy, {xk } hội tụ tới x∗ ||xk − x∗ || ≤ với k đủ lớn Điều kéo theo điều kiện cần tối ưu Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 46 xk là: −[ ∇f (xk ) + k m r λki ∇hi (xk ) µkj ∇gj (xk )] ∈ NX (xk ), + i=1 (3.4) j=1 λki = 1, hi (xk ) > 0, λki = −1, hi (xk ) < 0, λki ∈ [−1, 1], hi (xk ) = 0, µkj = 1, gj (xk ) > 0, µkj = 0, gj (xk ) < 0, µkj ∈ [0, 1], gj (xk ) = Từ (3.2) ta tìm dãy {λk , µk }k∈K cho với ràng buộc đẳng thức số i đó, ta có |λki | = hi (xk ) = với k ∈ K, với ràng buộc bất đẳng thức có số j đó, ta có µkj = gj (xk ) > với k ∈ K Gọi (λ, µ) điểm giới hạn dãy Ta có (λ, µ) = (0, 0), µ ≥ Sử dụng bao đóng ánh xạ x → NX (x), từ (3.4) ta nhận m r ∗ −[ µj ∇gj (x∗ )] ∈ NX (x∗ ) λi ∇hi (x ) + i=1 j=1 Cuối với k ∈ K, ta có λki hi (xk ) ≥ 0, với i, µkj gj (xk ) ≥ 0, với j Vì vậy, với k ∈ K, ta có λi hi (xk ) ≥ 0, với i, µj gj (xk ) ≥ 0, với Số hóa Trung tâm Học liệu – Đại học Thái Nguyên j http://www.lrc-tnu.edu.vn (3.5) 47 Theo cách xây dựng dãy {λk , µk }k∈K tồn i cho với k ∈ K ta có |λki | = hi (xk ) = 0, tồn j cho với k ∈ K ta có µkj = gj (xk ) > Vậy, với k ∈ K ta có m r k µj gj (xk ) > λi hi (x ) + i=1 (3.6) j=1 Vậy (3.5) (3.6) vi phạm giả thiết x∗ giả chuẩn tắc Chứng minh Định lí 3.2 ta thay giả thiết tính giả chuẩn tắc dạng yếu tính giả chuẩn tắc đưa vào Định lí 2.2 Như vậy, sử dụng Định lí 2.2 ta nhận Định lí sau Định lí 3.3 Nếu vectơ chấp nhận x∗ toán (1.1)-(1.2) tựa chuẩn tắc nón pháp tuyến NX (x∗ ) lồi tập ràng buộc thừa nhận hàm phạt xác x∗ Định lí sau thiết lập mối quan hệ thừa nhận hàm phạt xác thừa nhận nhân tử Lagrange Tính quy X điều kiện quan trọng mối quan hệ Định lí 3.4 Giả sử x∗ vectơ chấp nhận toán (1.1)-(1.2) X quy x∗ Nếu tập ràng buộc thừa nhận hàm phạt xác x∗ thừa nhận nhân tử Lagrange x∗ Chứng minh Giả sử cho hàm trơn f (x) có cực tiểu địa phương x∗ Khi đó, hàm f (x) + ||x − x∗ ||2 có cực tiểu địa phương chặt x∗ Bởi C thừa nhận hàm phạt xác x∗ , ta suy tồn λ∗i µ∗j thỏa mãn điều kiện Định lí 3.1 (Số hạng ||x − x∗ ||2 khơng có ảnh hưởng gradient Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 48 x∗ 0) Do tính quy X x∗ , λ∗i µ∗j nhân tử Lagrange Nhận xét 3.1 Để minh họa cho mệnh đề ta xét ví dụ 2.1 Vì x∗ tựa chuẩn tắc khơng giả chuẩn tắc, nên áp dụng Định lí 3.2 Tuy nhiên, X = Rn NX (x∗ ) = lồi nên áp dụng Định lí 3.3 ta nhận tập ràng buộc thừa nhận hàm phạt xác x∗ Theo Định lí 3.4, X quy, nên tập ràng buộc thừa nhận nhân tử Lagrange x∗ Ta ví dụ 3.1 phần đảo Định lí 3.2 3.3 khơng đúng, tức việc thừa nhận hàm phạt xác điểm x∗ khơng kéo theo tính giả chuẩn tắc tựa chuẩn tắc Hơn nữa, ta ví dụ 3.4 giả thiết quy X Định lí 3.4 bỏ (Mối quan hệ tóm tắt hình 3.1) Hình 3.1: Mối quan hệ điều kiện khác đảm bảo thừa nhận hàm phạt xác nhân tử tương ứng Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 49 3.2 BIỂU DIỄN MỞ RỘNG CỦA TẬP RÀNG BUỘC Trong thực tế, tập X thường biểu diễn ngôn ngữ ràng buộc đẳng thức bất đẳng thức trơn sau: X = {x|hi (x) = 0, i = m + 1, , m, gj (x) ≤ 0, j = r + 1, , r} Khi đó, tập ràng buộc C biểu diễn khơng có ràng buộc tập mà ngôn ngữ ràng buộc hàm: hi (x) = 0, i = 1, , m, gj (x) ≤ 0, j = 1, , r Ta gọi biểu diễn mở rộng C, (1.2) gọi phép biểu diễn gốc Định lí 3.5 (a) Nếu tập ràng buộc thừa nhận nhân tử Lagrange biểu diễn mở rộng thừa nhận nhân tử Lagrange biểu diễn gốc (b) Nếu tập ràng buộc thừa nhận hàm phạt xác biểu diễn mở rộng thừa nhận hàm phạt xác biểu diễn gốc Chứng minh (a) Từ giả thiết suy với hàm mục tiêu trơn f mà x∗ cực tiểu địa ∗ phương nó, tồn λ∗1 , , λm µ∗1 , , µ∗r thỏa mãn m r λ∗i ∇hi (x∗ ) ∗ ∇f (x ) + i=1 µ∗j ≥ 0, µ∗j = 0, µ∗j ∇gj (x∗ ) = 0, + j=1 ∀j = 0, 1, , r, ∀j ∈ / A(x∗ ), (3.7) A(x∗ ) = {j|gj (x∗ ) = 0, Số hóa Trung tâm Học liệu – Đại học Thái Nguyên j = 1, , r} http://www.lrc-tnu.edu.vn 50 Với y ∈ TX (x∗ ) ta có ∇hi (x∗ ) y = 0, ∀i = m + 1, , m, ∇gj (x∗ ) y ≤ 0, ∀j = r + 1, , r, j ∈ A(x∗ ) µ∗j ∇gj (x∗ )] y ≥ 0, ∀y ∈ TX (x∗ ) Vì vậy, (3.7) kéo theo m ∗ r λ∗i ∇hi (x∗ ) [∇f (x ) + + i=1 Vì vậy, λ∗i , j=1 i = 1, , m µ∗j , j = 1, , r nhân tử Lagrange biểu diễn gốc (b) Xét hàm phạt xác biểu diễn mở rộng m r i=1 Ta có Fc (x) = F c (x), gj+ (x)] |hi (x)| + F c (x) = f (x) + c[ j=1 ∀x ∈ X Vì vậy, x∗ cực tiểu địa phương khơng có ràng buộc F c (x) cực tiểu địa phương Fc (x) x ∈ X Do đó, với c > 0, x∗ cực tiểu địa phương chặt f C cực tiểu địa phương khơng có ràng buộc F c (x) cực tiểu địa phương Fc (x) x ∈ X 3.3 CÁC VÍ DỤ Ví dụ sau thừa nhận hàm phạt xác khơng kéo theo tính giả chuẩn tắc tính tựa chuẩn tắc Như chiều ngược lại Định lí 3.2 Định lí 3.3 khơng Ví dụ 3.1 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 51 Với X = Rn , thừa nhận hàm phạt xác khơng kéo theo giả chuẩn tựa chuẩn tắc Cho C = {x ∈ R2 |g1 (x) ≤ 0, g2 (x) ≤ 0, h1 (x) = 0}, g1 (x) = (x1 − 1)2 + x22 − 1, g2 (x) = (x1 + 1)2 + x22 − 1, h1 (x) = x2 ; (Xem hình 3.2) Hình 3.2: Ràng buộc ví dụ 3.1 Điểm chấp nhận x∗ = (0, 0)và gradients ràng buộc ∇g1 (x∗ ) = (−2, 0), ∇g2 (x∗ ) = (2, 0), ∇h1 (x∗ ) = (0, 1) Lấy µ1 = µ2 = λ = ta có µ1 ∇g1 (x∗ ) + µ2 ∇g2 (x∗ ) + λ∇h1 (x∗ ) = Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 52 Với lân cận nhỏ tùy ý x∗ , tồn x cho g1 (x) > g2 (x) > Như vậy, x∗ khơng tựa chuẩn tắc khơng giả chuẩn tắc Mặt khác, đạo hàm theo phương hàm gi+ (x) P (x) = |h1 (x)| + i=1 x∗ dương theo hướng Chọn tham số phạt đủ lớn, ta có x∗ cực tiểu địa phương hàm FC (x) Vì vậy, tập ràng buộc thừa nhận hàm phạt xác x∗ Ví dụ 3.2 Với X = Rn , thừa nhận hàm phạt xác khơng kéo theo tính tựa chuẩn tắc Cho C = {x ∈ R2 |g1 (x) ≤ 0, g2 (x) ≤ 0, g3 (x) ≤ 0}, g1 (x) = −(x1 + 1)2 − (x2 )2 + 1, g2 (x) = x21 + (x2 + 1)2 − 1, g3 (x) = x2 ; (Xem hình 3.3) Điểm chấp nhận x∗ = (0, 0) gradient ràng buộc ∇g1 (x∗ ) = (−2, 0), ∇g2 (x∗ ) = (2, 0), ∇g3 (x∗ ) = (0, −1) x∗ = (0, 0), nón biến phân cấp chấp nhận V (x∗ ) phần trục x1 không âm chứa hẳn T (x∗ )(bằng {x∗ }) Vậy, x∗ khơng tựa chuẩn tắc Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 53 Hình 3.3: Ràng buộc ví dụ 3.2 Tuy nhiên, đạo hàm theo phương hàm: gj+ (x) P (x) = j=1 x∗ ln dương theo phương Vì vậy, ta chọn tham số phạt c đủ lớn để x∗ cực tiểu địa phương hàm Fc (x) Do đó, tập ràng buộc tập thừa nhận hàm phạt xác x∗ Ví dụ 3.3 Ta X = Rn , thừa nhận nhân tử Lagrange tựa quy (nhưng không tựa chuẩn tắc) không kéo theo thừa nhận hàm phạt xác Cho C = {x ∈ R2 |g1 (x) ≤ 0, g2 (x) ≤ 0}, g1 (x) = x2 , Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 54 g2 (x) = x61 + x32 Tại x∗ = (0, 0) nón tiếp tuyến nón biến phân chấp nhận cấp Do đó, x∗ điểm tựa quy Điều kéo theo tập ràng buộc thừa nhận nhân tử Lagrange x∗ Tuy nhiên, tập ràng buộc khơng thừa nhận hàm phạt xác x∗ Xét hàm sau f (x) = −x41 − x2 , hàm trơn đạt cực tiểu địa phương chặt x∗ Tuy nhiên, x∗ không cực tiểu địa phương hàm Fc (x), với c lớn tùy ý Để làm rõ điều này, ta xét hàm sau l(x1 ) = Fc (x1 , 0) = −x4 + cx61 , có cực đại địa phương x∗ với c > Do đó, tồn nhân tử Lagrange không đảm bảo tồn hàm phạt xác Ví dụ 3.4 Ta rằng, X khơng quy thừa nhận hàm phạt xác khơng kéo theo thừa nhận nhân tử Lagrange Xét tập X ⊂ R2 mơ tả Hình 3.4, có ràng buộc đẳng thức tuyến tính h(x) = x1 = Với x∗ = (0, 0), ta có TX (x∗ )∗ = {0}, NX (x∗ ) bao gồm hai tia Hình 3.4 Bởi ∇h(x∗ ) = (1, 0) ∈ / NX (x∗ ), tính giả chuẩn tắc thỏa mãn Do đó, theo Định lí 3.2, tập ràng buộc thừa nhận hàm phạt xác x∗ (Xem hình 3.4) Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 55 Hình 3.4: Ràng buộc ví dụ 3.4 Mặt khác, với hàm mục tiêu f (x) = −x2 , ta có ∇f (x∗ ) + λ∇h(x∗ ) = 0, ∀λ, khơng có nhân tử Lagrange Sự khơng thừa nhận nhân tử Lagrange thấy rõ với lưu ý V (x∗ )∗ + TX (x∗ )∗ = TC (x∗ )∗ Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 56 Kết luận Luận văn trình bày lí thuyết nhân tử Lagrange Bertsekas Ozdaglar [3] với điều kiện quy tính tựa chuẩn tắc tính giả chuẩn tắc nghiệm tối ưu Điều kiện cần kiểu Fritz John với nhân tử Lagrange có thêm tính chất phụ trình bày với điều kiện quy tựa chuẩn tắc giả chuẩn tắc đảm bảo nhân tử Lagrange ứng với hàm mục tiêu khác Chú ý rằng, điều kiện quy giả chuẩn tắc mạnh điều kiện tựa chuẩn tắc Ba loại vectơ nhân tử Lagrange trình bày, bao gồm vectơ nhân tử Lagrange có thơng tin, mạnh tối thiểu Mối quan hệ thừa nhận nhân tử Lagrange thừa nhận hàm phạt xác trình bày luận văn Đây đề tài thu hút quan tâm nghiên cứu nhiều tác giả Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 57 Tài liệu tham khảo Tiếng Việt [1] Đỗ Văn Lưu Phan Huy Khải (2000),Giải tích lồi, Nhà xuất Khoa học Kĩ thuật Tiếng Anh [2] Bazaraa, M S., Goode J.J (1982), Sufficient conditions for a globally exact penalty function without convexity, Mathermatical Programming Studies, Vol 19 , pp - 15 [3] Bertsekas, D P., Ozdaglar, A E (2002), Pseudonormality and a Lagrange multiplier theory for constrained optimization, Journal of Optimization Theory and Applications, vol 114, No.2, 287 - 343 [4] Bertsekas D P (1999), Nonlinear progammming, 2nd Edition, Athena Scientific, Belmont, Massachusetts [5] Bonnans, J F., Shapiro, A (2000), Perturbation Analysis of Optimization Problems, Springer Verlag, New York, NY [6] Gould, F J., Tolle, J.(1972), Geometry of optimality conditions and constraint qualifications, Mathermatical Programming, vol 2, pp 18 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 58 [7] Guinard, M (1969), Generalized Kuhn- Tucker conditions for mathermatical programming problems in a Banach space, SIAM Journal on Control, vol 7, pp 232 - 241 [8] Hiriart- Urruty, J B., Lemarechal C (1993), Convex Analysis and Minimization Algorithms, vol 1, Springer Verlag, Berlin, Germany [9] Pietrzykowski, T (1969), An Exact Potential Method for Constrained Maxima, SIAM Journal on Numerical Analysis, vol 6, pp 294 - 304 [10] Rockafellar, R T., Wets, R J B (1998), Variational Analysis, Springer Verlag, Berlin, Germany [11] Zangwill, W I (1967), Nonlinear programming via penalty functions, Management Science, vol 13, pp 344 - 358 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn ... 1.3 NHÂN TỬ LAGRANGE CÓ THÔNG TIN VÀ NHÂN TỬ LAGRANGE MẠNH 17 TÍNH TỰA CHUẨN TẮC, TÍNH GIẢ CHUẨN TẮC VÀ CÁC ĐIỀU KIỆN CHÍNH QUY 29 2.1 TÍNH TỰA CHUẨN TẮC VÀ TÍNH GIẢ CHUẨN TẮC... Chương TÍNH TỰA CHUẨN TẮC, TÍNH GIẢ CHUẨN TẮC VÀ CÁC ĐIỀU KIỆN CHÍNH QUY Chương trình bày điều kiện quy tổng qt tính tựa chuẩn tắc tính giả chuẩn tắc điểm chấp nhận Chú ý điều kiện giả chuẩn tắc. .. kiện quy tổng qt đảm bảo nhân tử Lagrange ứng với hàm mục tiêu khác Đó điều kiện quy tính tựa chuẩn tắc tính giả chuẩn tắc nghiệm Chú ý điều kiện giả chuẩn tắc mạnh điều kiện tựa chuẩn tắc Một