VỀ NGUYÊN LÝ NHÂN TỬ LAGRANGE

1 Header Page of 126 ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC SƯ PHẠM PHẠM PHÚC LONG VỀ NGUYÊN LÝ NHÂN TỬ LAGRANGE Chuyên ngành: Giải tích Mã số: 60 46 01 LUẬN VĂN THẠC SỸ TOÁN HỌC NGƯỜI HƯỚNG DẪN KHOA HỌC: PGS TS TRƯƠNG XUÂN ĐỨC HÀ Thái Nguyên- Năm 2010 Footer Page Số of hóa126 Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Header Page of 126 MỤC LỤC Mở đầu: Chương I NGUYÊN LÝ NHÂN TỬ LAGRANGE CHO BÀI TOÁN TỐI ƯU TRƠN 1.1 Một số kiến thức chuẩn bị 1.1.1 Khả vi Gateaux khả vi Frechet 1.1.2 Định lý Hahn-Banach, bổ đề linh hóa tử 1.1.3 Định lý Ljusternik, định lý hàm ẩn .10 1.2 Điều kiện cần đủ cho toán tối ưu trơn 12 1.2.1 Phát biểu toán 12 1.2.2 Trường hợp hữu hạn chiều 17 1.2.3 Trường hợp tổng quát 27 Chương II NGUYÊN LÝ NHÂN TỬ LAGRANGE CHO BÀI TOÁN TỐI ƯU LỒI 2.1 Một số kiến thức giải tích lồi 31 2.1.1 Tập lồi 31 2.1.2 Hàm lồi .32 2.1.3 Tập Affine 34 2.1.3 Các định lý tách 35 2.1.4 Dưới vi phân hàm lồi 36 2.1.6 Định lý vi phân tổng hàm lồi 38 2.2 Điều kiện cần đủ cho toán tối ưu lồi 43 2.2.1 Bài toán ràng buộc .44 2.2.2 Bài toán với ràng buộc đẳng thức 44 2.2.3 Bài toán với ràng buộc bất đẳng thức 47 KẾT LUẬN 55 TÀI LIỆU THAM KHẢO 56 Footer Page Số of hóa126 Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Header Page of 126 MỞ ĐẦU Trong sống, mong muốn công việc hàng ngày hoàn thành cách tốt Ai tự đặt hai câu hỏi chính: Làm để công việc hoàn thành tốt nhất, tốt gì? Như vậy, chẳng qua người phải giải toán tối ưu theo nghĩa Một vấn đề quan trọng đặt cho toán tối ưu là: Với điều kiện nào, toán có nghiệm, có nghiệm điều xảy Tất nhiên, điều kiện đơn giản việc tìm nghiệm dễ Biết điều xảy có lời giải, việc tìm lời giải dễ dàng Ta biết toán tối ưu có hai đối tượng quan trọng: Tập chấp nhận (hay tập ràng buộc) Hàm mục tiêu xác định tập Vậy xét đến điều kiện để tồn nghiệm tối ưu, ta phải quan tâm tới điều kiện, tính chất hai đối tượng Để nghiên cứu tồn nghiệm tìm phương pháp giải nghiệm, người ta thường phân loại toán theo cấu trúc tập chấp nhận tính chất hàm mục tiêu toán Trong luận văn này, tác giả đề cập tới hai loại toán sau: Bài toán tối ưu trơn với ràng buộc đẳng thức Cụ thể: Cho X, Y không gian Banach, hàm f xác định X, ánh xạ F : X −→ Y Bài toán: f (x) −→ in f F(x) = gọi toán tối ưu trơn với ràng buộc đẳng thức hàm f ánh xạ F thỏa mãn tính trơn Bài toán tối ưu lồi Cụ thể: Cho X không gian tôpô tuyến tính lồi địa phương, A ⊂ X tập lồi đóng không rỗng f , gi : X −→ R = R ∪ {±∞} h j : X −→ R hàm affine Bài toán quy hoạch lồi tổng quát cho dạng Footer Page Số of hóa126 Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Header Page of 126 sau:  f(x)    x∈A g (x) ≤ (i = 1, 2, , m)    i h j (x) = ( j = 1, 2, , p) Trong giải tích cổ điển, ta biết định lý Weierstrass tiếng: “ Một hàm số liên tục tập compact đạt cực đại cực tiểu” Những mở rộng hay biến dạng khác định lý nhiều điều kiện đủ cho tồn nghiệm toán tối ưu Khi hàm số khả vi, điểm nghiệm tối ưu toán ràng buộc, đạo hàm điểm phải không Đó điều kiện cần tối ưu Khẳng định cho hàm lồi với đạo hàm thay vi phân Với ý tưởng vậy, nghiên cứu toán tối ưu có ràng buộc, người ta tìm cách đưa toán ràng buộc có ràng buộc tương đối đơn giản Có thể thấy điều công trình nghiên cứu Lagrange tính biến phân từ cuối kỷ XVIII Đó là: • Xây dựng hàm Lagrange cho toán tối ưu • Tìm điều kiện để hàm Lagrange đạt cực trị Chính việc áp dụng rộng rãi nguyên lý nhân tử Lagrange toán tối ưu khiến tác giả chọn đề tài nghiên cứu Luận văn trình bày hệ thống chi tiết số điều kiện tối ưu cho toán tối ưu trơn, toán tối ưu lồi trình bày từ tài liệu chuyên đề [1 − 4], có tham khảo thêm tài liệu [5 − 7] Các điều kiện thể thông qua nhân tử Lagrange Luận văn bao gồm: Phần mở đầu, hai chương phần tài liệu tham khảo Chương I: Dành để trình bày kết điều kiện cần đủ toán tối ưu trơn Đầu tiên nhắc lại số kiến thức khả vi Gateaux, khả vi Frechet, định lý Ljusternik, định lý hàm ẩn, sau trình bày điều kiện cần cấp điều kiện cần đủ cấp hai thông qua tồn vi phân cấp hai nhân tử Lagrange Footer Page Số of hóa126 Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Header Page of 126 Chương II: Dành để trình bày kết điều kiện cần đủ toán tối ưu lồi Tác giả trình bày số kiến thức giải tích lồi, định lý Moreau-Rockafellar, định lý cổ điển Kuhn-Tucker điều kiện cần đủ toán tối ưu lồi thông qua tồn nhân tử Lagrange tương ứng với vi phân điểm Nhân dịp này, tác giả xin bày tỏ lòng biết ơn sâu sắc tới PGS.TS Trương Xuân Đức Hà, người trực tiếp giúp đỡ bảo tận tình tác giả suốt trình học tập, nghiên cứu viết luận văn Tác giả bày tỏ tình cảm trước giúp đỡ, động viên gia đình, bạn bè, tập thể học viên cao học Toán K16-ĐHSPTN Trong trình viết luận văn việc xử lý văn chắn không tránh khỏi hạn chế thiếu sót Rất mong nhận góp ý thầy cô, bạn đồng nghiệp để luận văn hoàn thiện Thái Nguyên, tháng 8, năm 2010 Phạm Phúc Long Footer Page Số of hóa126 Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn CHƯƠNG I: NGUYÊN LÝ NHÂN TỬ LAGRANGE CHO BÀI TOÁN TỐI ƯU TRƠN Header Page of 126 Chương dành để trình bày kết điều kiện cần đủ toán tối ưu trơn thông qua tồn nhân tử Lagrange Những kết tham khảo từ tài liệu chuyên đề [1 − 4] 1.1 Một số kiến thức chuẩn bị Trong mục này, nhắc lại số khái niệm khả vi Gateaux, khả vi Frechet, định lý Hahn-Banach, định lý Ljusternik định lý hàm ẩn 1.1.1 Khả vi Gateaux khả vi Frechet Định Nghĩa 1.1 Cho X, Y không gian tôpô tuyến tính, U lân cận x ∈ X, ánh xạ F : U −→ Y Ánh xạ F gọi khả vi Gateaux x tồn toán tử tuyến tính liên tục F (x) : X −→ Y thỏa mãn: F(x + th) − F(x) − tF (x)h = t→0 t lim ∀h ∈ X Định Nghĩa 1.2 Cho X, Y không gian Banach, U lân cận x ∈ X, ánh xạ F : U −→ Y Ánh xạ F gọi khả vi Frechet x tồn toán tử tuyến tính liên tục F (x) : X −→ Y thỏa mãn: F(x + h) − F(x) − F (x)h = ||h|| h→0 lim Định Nghĩa 1.3 Cho U tập mở không gian X, ánh xạ F : X −→ Y với X,Y không gian Banach Nếu với điểm tập U, tồn đạo hàm F (x) ánh xạ x −→ F (x) liên tục không gian L(X,Y ) U F gọi khả vi liên tục U , ánh xạ thuộc lớp C1 U Footer Page Số of hóa126 Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Header Page of 126 Định Nghĩa 1.4 Ta nói rằng, ánh xạ F : X −→ Y quy điểm x khả vi Frechet điểm đó, Im F (x) = Y Định Nghĩa 1.5 Cho hàm số f (x) xác định không gian tôpô tuyến tính X Điểm x ∈ X thỏa mãn f (x) = gọi điểm dừng Định Nghĩa 1.6 Cho Ω miền mở, giới nội Rn Hàm số f : Ω −→ R với x ∈ Ω, x = (x1 , , xn ) Giả sử f có đạo hàm riêng ∂∂ xfi (x), (i = 1, , n), vectơ ∂f ∂f ∂ x1 (x), , ∂ xn (x) gọi Gradient f x Kí hiệu: ∇ f (x) = Ma trận J = ∂f ∂f (x) (x), , ∂ x1 ∂ xn ∂f ∂f ∂ x1 (x), , ∂ xn (x) gọi Jacobian f x Nếu ∂∂ xfi (x) có đạo hàm riêng thứ j với ( j = 1, , n), đạo hàm riêng gọi đạo hàm riêng cấp hai theo biến i, j f x, kí hiệu ∂ ∂xi ∂fx j (x), i, j = 1, , n Ma trận H= ∂2 f ∂ xi ∂ x j (x) , i, j = 1, , n gọi Hessian f x Ví Dụ 1.1 Tính khả vi số hàm ánh xạ 1) Trong R2 hàm f (x1 , x2 ) cho công thức x1 = x22 Trong trường hợp lại khả vi Gateaux gốc tọa độ Footer Page Số of hóa126 Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Header Page of 2) 126 Ánh xạ affine Một ánh xạ A : X −→ Y với X,Y không gian tuyến tính gọi affine nếu: A(x) = λ x + a a ∈ Y λ : X −→ Y ánh xạ tuyến tính Nếu X,Y không gian Banach, λ ánh xạ tuyến tính liên tục, ánh xạ A khả vi Frechet điểm A (x) = λ Đạo hàm cấp hai A là: A (x) = (điều suy trực tiếp từ định nghĩa) Nói riêng, đạo hàm Frechet hàm affine a(x) = x∗ , x a (x) = x∗ ∀x 3) Hàm Bậc Hai Cho X không gian Banach, B(x1 , x2 ) hàm song tuyến tính liên tục X × X, Q(x) = B(x, x) dạng toàn phương Về chất: Q(x + h) = B(x + h, x + h) = B(x, x) + B(x, h) + B(h, x) + B(h, h) = Q(x) + B(x, h) + B(h, x) + o(||h||), (khi h −→ 0) Do hàm Q(x) khả vi Frechet và: Q (x)h = B(x, h) + B(h, x) Nói riêng, X không gian Hilbert dạng bậc hai biểu diễn dạng Q(x) = λ x, x , với λ ∈ L(X,Y ), λ ∗ = λ Footer Page Số of hóa126 Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Header Page 9Và of 126 Q (x) = λ x Trong không gian hilbert, tổng dạng bậc hai với hàm affine K(x) = λ x, x + x, a + α gọi hàm bậc hai Khi K (x) = λ x + a K (x) = λ đạo hàm lại không Đặc biệt, hàm 1 e(x) = ||x||2 = x, x 2 e (x) = x e (x) = I e (x) = · · · = 4) Chuẩn không gian Hilbert Hàm số f (x) = ||x|| khả vi Frechet điểm khác không f (x) = x ||x|| Tiếp theo nhắc lại định lý Hahn-Banach, toán tử liên hợp, bổ đề quan trọng là, bổ đề linh hóa tử (annihilator) Footer Page Số of hóa126 Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 10 Header Page 10 of 126 1.1.2 Định lý Hahn-Banach, bổ đề linh hóa tử Định Lý 1.1 (Hahn-Banach) Cho X không gian tôpô tuyến tính, A ⊂ X tập lồi mở, L ⊂ X không gian rời A Khi đó, tồn phiếm hàm tuyến tính liên tục x∗ X thỏa mãn • x∗ , x > với ∀x ∈ A • x∗ , x = với ∀x ∈ L Chúng ta ý rằng, tập L⊥ = {x∗ ∈ X ∗ | x∗ , x = 0, ∀x ∈ L} gọi linh hóa tử L Hệ Quả 1.1 Cho L không gian đóng không gian tôpô tuyến tính lồi địa phương, linh hóa tử L chứa phần tử khác không Định Nghĩa 1.7 (Toán tử liên hợp) Cho X,Y không gian tuyến tính lồi địa phương, λ : X −→ Y toán tử tuyến tính liên tục Khi đó, toán tử liên hợp λ ∗ : Y ∗ −→ X ∗ xác định λ ∗y∗ , x = y∗ , λ x với ∀y∗ ∈ Y ∗, x ∈ X Bổ Đề 1.1 (Bổ đề linh hóa tử) Cho X,Y không gian Banach, λ : X −→ Y toán tử tuyến tính liên tục thỏa mãn Im λ = Y Khi (Ker λ )⊥ = Im λ ∗ Định Lý 1.2 Cho ánh xạ F : X −→ Rn F(x) = f1 (x), , fn (x) khả vi Frechet x0 Ánh xạ F quy x0 vectơ f1 (x0 ), , fn (x0 ) độc lập tuyến tính Footer Page Số 10hóa of 126 Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 43 Header Page 43 of 126.Chứng Minh Giả sử, x∗ ∈ ∂ f1(x) + ∂ f2 (x) + · · · + ∂ fn(x) x∗ = x∗1 + · · · + x∗n với x∗i ∈ ∂ fi (x) Theo định nghĩa vi phân ta có x∗i , z − x ≤ fi (z) − fi (x), i = 1, , n Do x∗1 + · · · + x∗n, z − x ≤ [ f1(z) + · · · + fn(z)] − [ f1 (x) + · · · + fn(x)] Suy Vậy x∗ = x∗1 + · · · + x∗n ∈ ∂ ( f1 + · · · + fn)(x) ∂ ( f1 + · · · + fn)(x) ⊃ ∂ f1(x) + · · · + ∂ fn(x) b) Ta chứng minh theo quy nạp Trường hợp n = định lý Moreau-Rockafellar chứng minh Giả sử (2.7) với n = k, tức là, hàm số f1, , fk (có thể trừ hàm) liên tục n x∈ dom fi i=1 ∂ ( f1 + · · · + fk )(x) = ∂ f1(x) + · · · + ∂ fk (x) Ta cần chứng minh (2.7) với n = k + 1, tức hàm số f1 , , fk , fk+1 (có thể trừ hàm) liên tục k+1 x∈ dom fi i=1 ∂ ( f1 + · · · + fk+1)(x) = ∂ f1 (x) + · · · + ∂ fk+1(x) Thật (2.7) với n = n = k, ta có ∂ [( f1 + f2 + · · · + fk ) + fk+1](x) = ∂ ( f1 + f2 + · · · + fk )(x) + ∂ fk+1 (x) Footer Page Số 43hóa of 126 Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 44 Header Page 44 of 126 = ∂ f1(x) + ∂ f2 (x) + · · · + ∂ fk (x) + ∂ fk+1(x) Tức là, (2.7) với n = k + Vậy (2.7) với số tự nhiên n 2.2 Điều kiện cần đủ cho toán tối ưu lồi Cho X không gian tôpô tuyến tính lồi địa phương, A ⊂ X tập lồi đóng không rỗng f , gi : X −→ R hàm lồi h j : X −→ R hàm afin Xét toán quy hoạch lồi tổng quát cho dạng sau  f(x)    x∈A g (x) ≤ (i = 1, 2, , m)    i h j (x) = ( j = 1, 2, , p) đó: • x ∈ A gọi ràng buộc hình học • gi (x) ≤ gọi ràng buộc bất đẳng thức • h j (x) = gọi ràng buộc đẳng thức • Ω = {x ∈ A : gi (x) ≤ (i = 1, , n), h j (x) = ( j = 1, , p)} gọi tập chấp nhận Sử dụng định nghĩa, ta chứng minh tập chấp nhận tập lồi Định Nghĩa 2.17 p Hàm Lagrange L : A × Rm + × R −→ R toán (P) xác định sau m p i=1 j=1 L(x, λ , µ ) = λ0 f (x) + ∑ λi gi (x) + ∑ µ j h j (x) p x ∈ A, λ0 ∈ R+ , λ = (λ1 , , λm) ∈ Rm + , µ = ( µ1 , , µ p ) ∈ R Khi đó, λi gọi nhân tử Lagrange ứng với buộc gi (x) ≤ µ j gọi nhân tử Lagrange ứng với buộc h j (x) = Footer Page Số 44hóa of 126 Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 45 Header Page 45 of 126 2.2.1 Bài toán ràng buộc Giả sử X không gian lồi địa phương, f hàm lồi X Xét toán (P7 ) f (x) −→ in f Định Lý 2.4 Để x ∈ X nghiệm (P7 ), điều kiện cần đủ ∈ ∂ f (x) Chứng minh Ta có, x nghiệm (P2 ) f (x) ≤ f (x), (∀x ∈ X) Suy Vậy ∈ ∂ f (x) = 0, x − x ≤ f (x) − f (x), (∀x ∈ X) 2.2.2 Bài toán với ràng buộc đẳng thức Giả sử f hàm lồi X, C đa tạp tuyến tính song song với không gian M X Xét toán (P8 ) f (x) −→ in f x ∈ C Định Lý 2.5 a) Giả sử f liên tục điểm C, x nghiệm toán (P8 ) Khi ∂ f (x) ∩ M ⊥ = / (2.8) b) Giả sử (2.8) ∀x ∈ C Khi x nghiệm toán (P8 ) Chứng minh Ta ý M ⊥ = {x∗ ∈ X ∗ : x∗ , x = 0, ∀x ∈ M} Footer Page Số 45hóa of 126 Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 46 Header Page 46 ofa)126 Xét hàm L(x) = f (x) + δ (x|C) đó: δ (x|M|) hàm tập C Khi L(x) hàm lồi X Rõ ràng x nghiệm toán (P8 ) hàm L(x) đạt cực tiểu x Theo định lý (2.4) ∈ ∂ L(x) Do tính liên tục f , nên ta áp dụng định lý Moreau-Rockafellar, nhận ∈ ∂ L(x) = ∂ f (x) + ∂ δ (x|C) Từ ví dụ (2.3.3), ta lại có ∂ δ (x|C) = N(x|C) = M ⊥ Do ta có: ∂ f (x) ∩ M ⊥ = / b) Giả sử ∂ f (x) ∩ M ⊥ = 0/ với x ∈ C Khi đó, ∃x∗ ∈ ∂ f (x) ∩ M ⊥ Vì x − x ∈ M với x ∈ C, = x∗ , x − x = f (x) − f (x), (∀x ∈ C) Do x nghiệm toán (P8 ) Định Lý 2.6 Cho X không gian Banach, x∗i ∈ X ∗ , αi ∈ R, (i = 1, , m) C = {x ∈ X : x∗i , x = αi , (i = 1, , m)} Giả sử f hàm lồi X liên tục điểm C Khi đó, x đạt cực tiểu hàm f C tồn số λi ∈ R, (i = 1, , m) cho λ1 x∗1 + · · · + λmx∗m ∈ ∂ f (x) Để chứng minh định lý (2.6), ta cần bổ đề sau Footer Page Số 46hóa of 126 Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 47 Header Page 47 126.2.1 BổofĐề Giả sử X không gian Banach, x∗i ∈ X ∗ , (i = 1, , m) Đặt M = {x ∈ X : x∗i , x = 0, i = 1, , m} Khi M ⊥ = lin{x∗1 , , x∗m } lin kí hiệu bao tuyến tính Chứng minh Không tính tổng quát, ta xem x∗1 , , x∗n độc lập tuyến tính Xét toán tử tuyến tính λ : X −→ Rm xác định sau x −→ λ x = x∗1 , x , , x∗m , x Khi đó, Imλ = Rm Theo bổ đề (1.1) ta có (Kerλ )⊥ = Imλ ∗ Ta lại có (Kerλ )⊥ = M ⊥, Imλ ∗ = lin{x∗1 , , x∗2 } Do M ⊥ = lin{x∗1 , , x∗m } Chứng minh định lý 2.6 Đa tạp tuyến tính C song song với không gian M : M = {x ∈ X : x∗i , x = 0, i = 1, , m} Từ định lý (2.5) suy ra: x đạt cực tiểu hàm f C ∃x∗ ∈ ∂ f (x) ∩ M ⊥ Theo bổ đề (2.1), ta có x∗ ∈ M ⊥ = lin{x∗1 , , x∗2 } Do đó, tồn số λ1, , λm cho λ1x∗1 + · · · + λmx∗m ∈ ∂ f (x) Footer Page Số 47hóa of 126 Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 48 Header Page 48 of 126 2.2.3 Bài toán với ràng buộc bất đẳng thức Giả sử X không gian lồi địa phương, A ⊂ X tập lồi đóng không rỗng f0 , , fn : X −→ R hàm lồi Xét toán   f0 (x) (P9 ) x∈A (2.9)  fi (x) ≤ (i = 1, 2, , m) (2.10) Nhận Xét 2.4 Quan hệ (2.9) đặc trưng hàm, viết dạng hàm, ví dụ dạng bất đẳng thức δ (x|A) ≤ Chúng ta xây dựng hàm Lagrange cho toán mà không bao gồm ràng buộc dạng (2.9), n L(x, λ0 , , λn ) = ∑ λi fi (x) i=0 Tuy nhiên, xét tới việc mở rộng hàm số Lagrange n L(x, λ0 , , λn ) = ∑ λi fi (x) + δ (x|A) i=0 Định lý Kuhn-Tucker đây, đưa điều kiện cần đủ cho điểm chấp nhận nghiệm toán (P9 ) Định lý phát biểu hai dạng: dạng toàn cục (định lý 2.7) dạng địa phương thông qua vi phân (định lý 2.8) Định Lý 2.7 (Định Lý Kuhn-Tucker) Giả sử hàm f0, , fm tập A lồi x điểm chấp nhận toán (P9 ) Khi a) Nếu x nghiệm toán (P9 ), tồn λi ≥ 0, (i = 1, , m) không đồng thời không cho L(x, λ0 , , λm ) = L(x, λ0 , , λm ) x∈A λi fi (x) = 0, (i = 1, , m) Footer Page Số 48hóa of 126 Trung tâm Học liệu - Đại học Thái Nguyên (2.11) (2.12) http://www.lrc-tnu.edu.vn 49 Header Page 49 ofHơn 126.nữa, điều kiện Slater sau thỏa mãn: ∃x0 ∈ A : fi (x0 ) < 0, (i = 1, , m) λ0 > xem λ0 = b) Nếu (2.11) (2.12) thỏa mãn với λ0 = 1, x nghiệm toán (P9 ) Chứng minh a) Giả sử x nghiệm (P9 ) Đặt C = {(µ0, , µm ) ∈ Rm+1 : (∀x ∈ A) f0 (x) − f0 (x) < µ0 , f1 (x) ≤ µ1, , fm (x) ≤ µm} Ta có int Rm+1 ⊂ C + Thật vậy, lấy (µ0 , , µm ) ∈ int Rm+1 + Khi đó, µi > 0, (i = 0, , m) Với x = x, ta có: µ0 > f0 (x) − f0(x) = 0, µi > ≥ fi (x), (i = 1, , m) Suy (µ0 , , µm ) ∈ C, int Rm+1 ⊂ C + Vậy int C = / Do f0, , fm hàm lồi, nên tập C lồi Hơn nữa, ∈ / C Thật vậy, ∈ C ∃x ∈ A thỏa mãn f0 (x) < f0 (x), fi (x) ≤ 0, (i = 1, , m) Do đó, x nghiệm (P9 ) Điều mâu thuẫn với giả thiết Vì ∈ / C Theo định lý tách thứ nhất, tách tập C {0} phiếm hàm tuyến tính khác không, tức tồn số λ0, , λm không đồng thời không, cho m ∑ λi µi ≥ 0, i=0 ∀(µ0 , , µm ) ∈ C Footer Page Số 49hóa of 126 Trung tâm Học liệu - Đại học Thái Nguyên (2.13) http://www.lrc-tnu.edu.vn 50 Header Page 50 126 Doofint Rm+1 ⊂ C, ta suy λi ≥ 0, (i = 0, , m) + Lấy x ∈ A cho µi = fi (x), (i = 1, , m) µ0 ↓ f0(x) − f0 (x) Từ (2.13) ta nhận m ∑ λi fi(x) ≥ λ0 f0(x), (∀x ∈ A) i=0 (2.14) Do x điểm chấp nhận được, ta có fi (x) ≤ 0, (i = 1, , m) Nếu ∃i ∈ {1, , m} : fi (x) = −α < 0, ∀ε > 0, = f0(x) − f0(x) < ε , f j (x) ≤ < ε Do ( j = 1, , i − 1, i + 1, , m) (ε , , ε , −α , ε , , ε ) ∈ C, (−α vị trí thứ i) Suy −λi α ≥ 0, (do (2.13) cho ε → ) Từ ta có λi ≤ 0, nên λi = 0, (do λi ≥ 0) Như là, fi (x) < λi = Do λi fi (x) = 0, (i = 1, , m) Vì vậy, từ (2.14) ta nhận m m i=0 i=0 ∑ λi fi(x) ≥ ∑ λi fi(x) Vậy ta có L(x, λ0 , , λm) = L(x, λ0 , , λm ) x∈A Bây giờ, giả sử điều kiện Slater Khi đó, λ0 = 0, số λ1, , λm phải có λi > Do m m i=0 i=0 ∑ λi fi(x) < = ∑ λi fi(x) Footer Page Số 50hóa of 126 Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 51 Header Page 51 of 126 Điều mâu thuẫn với (2.11) Vậy λ0 = 0, tức λ0 > Không tính tổng quát, ta coi λ0 = b) Giả sử x điểm chấp nhận được, thỏa mãn (2.11) (2.12) với λ0 = 1, λi ≥ 0, (i = 1, , m) Lấy x điểm chấp nhận được, tức x ∈ A, fi (x) ≤ 0, (i = 1, , m) Khi m f0(x) = f0(x) + ∑ λi fi (x) i=1 m ≤ f0 (x) + ∑ λi fi (x) i=1 ≤ f0 (x) Điều có nghĩa x nghiệm toán (P9 ) Nhận Xét 2.5 Mối quan hệ (2.11) gọi điều kiện Kuhn-Tucker, đẳng thức (2.12) gọi điều kiện bù Điều kiện bù cho thấy, nhân tử Lagrange λi tương ứng với ràng buộc tích cực điểm x0 , (tức fi (x0 ) < 0) không Định Lý 2.8 Giả sử hàm số f0 , , fm tập A lồi, f0 , , fm liên tục điểm A x điểm chấp nhận toán (P9 ) Khi a) Nếu x nghiệm toán (P9 ), tồn nhân tử Lagrange không đồng thời không: λi ≥ 0, (i = 0, , m), cho ∈ λ0∂ f0 (x)+· · · + λm∂ fm (x)+N(x|A) λi fi (x) = 0, (i = 1, , m) (2.15) (2.16) N(x|A) nón pháp tuyến A x Hơn nữa, điều kiện Slater đúng, λ0 = xem λ0 = b) Nếu (2.15) (2.16) thỏa mãn với λ0 = 1, x nghiệm toán (P9 ) Footer Page Số 51hóa of 126 Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 52 Header Page 52 of 126.Chứng minh a) Xét hàm Lagrange (P9 ) có dạng L1 (x, λ0 , , λm ) = m ∑ λi fi(x) + δ (x|A) i=0 δ (x|A) hàm tập A Do x nghiệm toán (P9 ), ta thu điều kiện cần dạng (2.11) (2.12) (định lý (2.7)) Vì thế, hàm L1(x, λ0 , , λm ) đạt cực tiểu x Theo định lý (2.4) ∈ ∂ L1 (x, λ0, , λm ) Vì ∂ δ (x|A) = N(x|A) Theo định lý Moreau-Rockafellar, ta có ∈ λ0∂ f0 (x) + · · · + λm∂ fm (x) + N(x|A) b) Giả sử (2.15) (2.16) thỏa mãn với λ0 = Khi đó, tồn x∗i ∈ ∂ fi (x), (i = 0, , m), x∗m+1 ∈ N(x|A) cho x∗0 + m+1 ∑ λix∗i = i=1 Suy 0= x∗0 + m+1 ∑ λix∗i , x − x i=1 ≤ m ≤ f0 (x) − f0 (x) + ∑ λi fi (x) − fi (x) , (∀x ∈ A) i=1 Do m m i=1 i=1 f0(x) + ∑ λi fi (x) ≥ f0 (x) + ∑ λi fi (x), (∀x ∈ A) Theo định lý (2.7.b), ta suy x nghiệm (P9 ) Nhận Xét 2.6 Quan hệ (2.15) goi phương trình Euler-Lagrange Nó coi mở rộng tự nhiên phương trình Euler-Lagrange (1.12) Footer Page Số 52hóa of 126 Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 53 Header Page 53 of 126.hợp trơn trường Trong trường hợp, tất hàm f0 , , fm khả vi, X = Rn điều kiện Slater thỏa mãn, phương trình (2.15) (2.16) tạo thành hệ gồm (m + n) phương trình tuyến tính với (m + n) ẩn Đây trường hợp định lý Kuhn-Tucker hay áp dụng thực tiễn Ví Dụ 2.4 Ví dụ toán tối ưu lồi Giải toán quy hoạch sau n min{ ∑ : ∑ xi ≤ 1, xi > 0} i=1 xi i=1 n Giải Đây toán quy hoạch lồi x−2 i hàm lồi xi > Đồng thời toán thỏa mãn điều kiện Slater Hàm Lagrange toán n L(x, λ ) = ∑ + λ i=1 xi n ∑ xi − i=1 Theo định lý Kuhn-Tucker, tồn λ ≥ cho   ∇x L(x, λ ) = Suy Do λ > Vậy λ n ∑ xi − = i=1  −3  −2xi + λ = 0, (∀i = 1, , n) λ n ∑ xi − = i=1  λ   xi = ( ) , (∀i = 1, , n) n λ3 x = n =   ∑ i i=1  λ= n−3  xi = n Footer Page Số 53hóa of 126 Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 54 Header Page 54 ofMặt 126.khác, xi = > 0, ∀n Suy ra, toán đạt cực tiểu xi = với n λ= n−3 Ví Dụ 2.5 Giải toán quy hoạch sau {x + y : x + y ≤ 1, x2 + y2 ≤ 1} Giải Đây toán quy hoạch lồi, hàm mục tiêu tập chấp nhận lồi Đồng thời, toán thỏa mãn điều kiện Slater Hàm Lagrange toán L(x, y, λ , β ) = x + y + λ (x + y − 1) + β (x2 + y2 − 1) Theo định lý Kuhn-Tucker, ta có  ∂ Lx (x, y, λ , β ) = + λ + 2β x =    ∂ Ly (x, y, λ , β ) = + λ + 2β y = λ (x + y − 1) =    β (x2 + y2 − 1) = (2.17) Do (λ , β ) = 0, λ ≥ 0, β ≥ nên • Nếu (λ = 0, β = 0) từ (2.17) ta x=y= β= √1 −1 2β = −1 √ • Nếu (λ = 0, β = 0) từ (2.17) ta λ = −1 x + y − = • Nếu (λ > 0, β > 0) từ (2.17) ta  −λ −1   x = y = 2β β =0   λ = −1 Footer Page Số 54hóa of 126 Trung tâm Học liệu - Đại học Thái Nguyên loại loại http://www.lrc-tnu.edu.vn 55 −1 Header Page 55 of 126 với Vậy theo định lý Kuhn-Tucker, toán đạt cực tiểu x = y = √ λ = 0, β = √1 Footer Page Số 55hóa of 126 Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 56 Header Page 56 of 126 KẾT LUẬN Trong định lý điều kiện cần đủ cho điểm nghiệm tối ưu toán tối ưu trơn lồi, tác giả trình bày thành hai phần Phần thứ nhân tử Lagrange tổng quát, phần thứ hai là: số điều kiện quy, đảm bảo rằng, hệ số λ0 ứng với hàm mục tiêu khác Nhìn chung, ta không quan tâm nhiều tới trường hợp λ0 = đó, điều kiện cần không liên quan tới hàm mục tiêu mà liên quan tới ràng buộc Tuy vậy, việc sử dụng đẳng thức λ0 = 0, tiện dụng xét toán dạng chung Thông thường, λ0 = dù điều kiện quy không thỏa mãn Hơn nữa, việc xác định trực tiếp đẳng thức λ0 = nhiều trường hợp dễ dàng so với việc kiểm tra điều kiện quy tương ứng Nói riêng, hệ số λ0 = phụ thuộc vào ràng buộc đưa vào hàm Lagrange, ràng buộc bỏ qua Ví dụ không đưa ràng buộc x ∈ A vào hàm Lagrange toán tối ưu lồi Như nói, ràng buộc cho dạng hàm A = {x| fn+1 (x) ≤ 0} Tuy nhiên, xảy rằng, điểm x thỏa mãn fi (x) < 0, (i = 1, , n + 1) Nếu đưa vào ràng buộc fn+1 (x) ≤ hàm Lagrange, điều kiện Slater bị vi phạm, đảm bảo λ0 = Do đó, để nhân tử Lagrange λ0 = 0, nên lựa chọn ràng buộc đưa vào hàm Lagrange cho điều kiện quy không bị vi phạm Cuối cùng, ý rằng, định lý Kuhn-Tucker cho ta quy tắc đơn giản để xác định dấu nhân tử Lagrange tương ứng với ràng buộc bất đẳng thức Trong toán cực tiểu, dấu nhân tử phải chọn cho hàm Lagrange lồi Tác giả cố gắng xếp trình bày vấn đề theo cách hiểu rõ ràng trực quan, đưa ví dụ số hình vẽ để minh họa cho nhiều khái niệm kiện đề cập tới luận văn Hy vọng luận văn tài liệu tham khảo bổ ích cho người không chuyên sâu toán muốn tìm hiểu vận dụng công cụ giải tích, đặc biệt phương pháp tối ưu chuyên môn Footer Page Số 56hóa of 126 Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 57 Header Page 57 of 126 TÀI LIỆU THAM KHẢO [1] A D Ioffe and V.M Tikhomirov, Theory of extremal problems, NewYork 1979 [2] D G Luenberger Linear and Nonlinear Programming Addison-Wesley, 2nd edition, 1984 [3] Lagrange Multipliers, Com S 477/577 [4] Đỗ Văn Lưu Phan Huy Khải, Giải tích lồi, Nhà xuất khoa học kỹ thuật, 2000 [5] Nguyễn Xuân Tấn Nguyễn Bá Minh, Lý thuyết tối ưu không trơn, Nhà xuất ĐHQGHN [6] Hoàng Tụy, Lý thuyết tối ưu, Viện toán học Hà Nội, 2007 [7] Đỗ Phương Thảo, Nhân tử Lagrange cho toán quy hoạch lồi, Luận văn cao học, 2005 Footer Page Số 57hóa of 126 Trung tâm Học liệu - Đại học Thái Nguyên http://www.lrc-tnu.edu.vn ... nghiên cứu Lagrange tính biến phân từ cuối kỷ XVIII Đó là: • Xây dựng hàm Lagrange cho toán tối ưu • Tìm điều kiện để hàm Lagrange đạt cực trị Chính việc áp dụng rộng rãi nguyên lý nhân tử Lagrange. .. học Thái Nguyên http://www.lrc-tnu.edu.vn 17 Header Page 17 ofGiá 126.trị λ gọi nhân tử Lagrange Phương pháp xây dựng hàm Lagrange thiết lập để gradient không, gọi phương pháp nhân tử Lagrange. .. Chương I NGUYÊN LÝ NHÂN TỬ LAGRANGE CHO BÀI TOÁN TỐI ƯU TRƠN 1.1 Một số kiến thức chuẩn bị 1.1.1 Khả vi Gateaux khả vi Frechet 1.1.2 Định lý Hahn-Banach, bổ đề linh hóa tử 1.1.3