Phương pháp hàm phạt cho bài toán cực trị có điều kiện

ĐẠI HỌC ĐÀ NẴNG TRƯỜNG ĐẠI HỌC SƯ PHẠM ——————————– ĐOÀN THỊ HOÀNG TRANG PHƯƠNG PHÁP HÀM PHẠT CHO BÀI TỐN CỰC TRỊ CĨ ĐIỀU KIỆN LUẬN VĂN THẠC SĨ TOÁN HỌC ĐÀ NẴNG - NĂM 2018 ĐẠI HỌC ĐÀ NẴNG TRƯỜNG ĐẠI HỌC SƯ PHẠM ——————————– ĐOÀN THỊ HOÀNG TRANG PHƯƠNG PHÁP HÀM PHẠT CHO BÀI TOÁN CỰC TRỊ CĨ ĐIỀU KIỆN Chun ngành: Tốn giải tích Mã số: 8.46.01.02 LUẬN VĂN THẠC SĨ TOÁN HỌC Người hướng dẫn khoa học: TS Phạm Quý Mười ĐÀ NẴNG - NĂM 2018 LỜI CAM ĐOAN Tôi xin cam đoan cơng trình nghiên cứu riêng tơi Các số liệu, kết nêu luận văn trung thực chưa công bố công trình nghiên cứu khác Tác giả Đồn Thị Hồng Trang LỜI CẢM ƠN Lời luận văn tác giả xin gửi lời cảm ơn sâu sắc tới thầy giáo hướng dẫn TS Phạm Quý Mười tận tình hướng dẫn tác giả suốt trình thực để tác giả hồn thành luận văn Tác giả xin gửi lời cảm ơn chân thành đến tất thầy cô giáo tận tình dạy bảo tác giả suốt thời gian học tập khóa học Đồng thời, tác giả xin gửi lời cảm ơn đến anh chị em lớp Tốn giải tích K32 nhiệt tình giúp đỡ tác giả trình học tập lớp Tác giả Đoàn Thị Hoàng Trang MỤC LỤC MỞ ĐẦU CHƯƠNG KIẾN THỨC CHUẨN BỊ 1.1 Các kí hiệu đại số 1.2 Các kí hiệu tơpơ 1.3 Tập mở, tập đóng tập compact 1.4 Hàm liên tục 1.5 Hàm khả vi liên tục 1.6 Định lý giá trị trung bình cơng thức Taylor 1.7 Định lí hàm ẩn 1.8 Tập lồi hàm lồi 10 CHƯƠNG BÀI TỐN TỐI ƯU CĨ ĐIỀU KIỆN CHO BỞI PHƯƠNG TRÌNH VÀ BẤT PHƯƠNG TRÌNH .11 2.1 Tổng quan toán tối ưu có điều kiện 11 2.2 Bài tốn tối ưu có điều kiện cho phương trình 12 2.3 Bài tốn tối ưu có điều kiện cho phương trình bất phương trình 15 CHƯƠNG PHƯƠNG PHÁP HÀM PHẠT 17 3.1 Phương pháp hàm phạt cho toán (ECP) 17 3.2 Phương pháp hàm phạt cho toán (ICP) 21 Kết luận 33 TÀI LIỆU THAM KHẢO 34 DANH MỤC CÁC KÝ HIỆU Ký hiệu Rn λi ei |·| ∂f (x)/∂xi ∇ φ x∗ L(x, λ) Tên tiếng Anh n-dimensional vectors real eigenvalues real eigenvectors standard Euclidean norm partial derivative gradient implicit function local minimum Lagrange function Ý nghĩa không gian vector thực n chiều giá trị riêng thực vector riêng thực chuẩn Euclide đạo hàm riêng theo biến xi gradient hàm ẩn cực tiểu địa phương hàm số Lagrange DANH MỤC CÁC THUẬT NGỮ Từ viết tắt Thuật ngữ tiếng Anh CP constrained problem ECP equality constrained problem ICP inequality constrained problem NLP nonlinear programming NDP nondifferentiable problem QP quadratic programming Thuật ngữ tiếng Việt tốn cực trị có điều kiện tốn có điều kiện cho phương trình tốn có điều kiện cho bất phương trình tốn quy hoạch phi tuyến tính tốn khơng khả vi tốn quy hoạch tồn phương MỞ ĐẦU Lý chọn đề tài Phương pháp hàm phạt phương pháp dùng để tìm nghiệm cho tốn cực trị có điều kiện Ý tưởng phương pháp chuyển việc giải tốn cực trị có điều kiện thơng qua việc giải toán cực trị tự Các loại hàm phạt thường dùng hàm phạt điểm ngoài, hàm phạt điểm trong, hàm phạt Lagrange Trong chương trình tốn đại học, phương pháp chưa giới thiệu Hơn nữa, hầu hết giáo trình tiếng Việt, chưa trình bày cách đầy đủ sở lý thuyết phương pháp hàm phạt Các toán dạng thường xuất tài liệu, giáo trình dành cho học viên cao học Vì vậy, việc nắm vững lý thuyết tốn cực trị có điều kiện phương pháp giải cần thiết cho học viên, giúp học viên có nhìn tổng quan mạch lạc vấn đề cực trị hàm nhiều biến Việc nắm cở sở lý thuyết tốn cực trị có điều kiện phương pháp giải giúp cho học viên có khả giải sáng tạo toán Với mong muốn tìm hiểu sâu tốn cực trị có điều kiện, phương pháp hàm phạt để giải tốn đó; đồng ý hướng dẫn thầy giáo TS Phạm Quý Mười, em chọn đề tài: “Phương pháp hàm phạt cho tốn cực trị có điều kiện” cho luận văn thạc sĩ Mục đích nghiên cứu - Nắm tốn cực trị có điều kiện, định nghĩa điều kiện cần đủ cực trị - Phương pháp hàm phạt ứng dụng để giải toán cực trị - Sáng tạo tốn vận dụng phương pháp 27 Vì {∇gj (x)| j ∈ J(x)} tập độc lập tuyến tính theo giả thuyết nên µj = với j thỏa mãn gj (x) = P (x) Vì µ = Tính liên tục µ ¯ theo sau tính liên tục ∇f, ∇gj , P Nếu (x∗ , µ∗ ) cặp nhân tử Lagrange (ICP), qx∗ (µ∗ ) = Vì µ∗ cực tiểu qx∗ (·) µ∗ = µ ¯(x∗ ) Mệnh đề 3.2.8 Cho X ⊂ Rn tập compact cho, với x ∈ X , tập gradient {∇gj (x)| j ∈ J(x)}, độc lập tuyến tính Khi tồn số thực c∗ ≥ cho với c > c∗ : a) Nếu x∗ điểm tới hạn f + cP x∗ ∈ X , tồn µ∗ ∈ Rr cho (x∗ , µ∗ ) cặp K-T (ICP) b) Nếu (x∗ , µ∗ ) cặp K-T (ICP) x∗ ∈ X , x∗ điểm tớn hạn f + cP Chứng minh: Giả sử r ∗ µ ¯j (x), c = max x∈X j=1 phương trình đạt cực đại theo giả thuyết X tập compact µ ¯j (.) liên tục theo Bổ đề 3.2.7 (a) Nếu x∗ ∈ X điểm tới hạn f + cP , theo Mệnh đề 3.2.3, {d = 0, ξ = P (x∗ )} nghiệm tối ưu (QP)c (x∗ , H, {0, 1, , r}) Vì vậy, tồn µ∗0 , µ∗1 , , µ∗r cho r r ∗ ∇f (x ) + µ∗j Vì g0 (x) ≥ 0, µ∗j ∇gj (x∗ ) j=0 ∗ µj [gj (x∗ ) ∗ µ∗j , = 0, c = (3.31) j=0 − P (x )] = 0, ∀j = 0, 1, , r (3.32) 0, ta được: r ∗ ∇f (x ) + j=1 µ∗j ∇gj (x∗ ) = 0, µ∗j [gj (x∗ ) − P (x∗ )] = 0, ∀j = 1, , r 28 Sử dụng phương trình Bổ đề 3.2.7, µ∗j = µ ¯j (x∗ ) với j = 1, , r Nếu c > c∗ , ta có r r µ∗0 =c− µ∗j j=1 =c− j=1 µ ¯j (x∗ ) ≥ c − c∗ > Vì = µ∗0 [g0 (x∗ ) − P (x∗ )] = −µ∗0 P (x∗ ), P (x∗ ) = x∗ thực cho tốn (ICP) Khi từ phương trình (3.31) (3.32), {x∗ , (µ∗1 , , µ∗r )} cặp nhân tử Lagrange (ICP) (b) Nếu (x∗ , µ∗ ) cặp nhân tử Lagrange (ICP) x∗ ∈ X , theo Bổ đề 3.2.7, ta có µ∗ = µ(x∗ ) Nếu c > c∗ r µ∗j , c> j=1 ∗ sử dụng Mệnh đề 3.2.6, ta x điểm tới hạn f + cP Bổ đề 3.2.9 Giả sử X ⊂ R∗ tập thỏa mãn với x ∈ R hệ bất phương trình theo d gj (x) + ∇gj (x)′ d ≤ 0, ∀j ∈ J(x), có nghiệm Cố định H > 0, giả sử tồn số thực c ≥ có tính chất sau: Với x ∈ X , (QP)0 (x, H, J(x)) có tập nhân tử Lagrange thỏa mãn {µj (x)|∀j ∈ J(x)}, c∗ ≥ µj (x) j∈J(x) Khi đó, với c > c∗ , ta có: (a) Nếu x∗ ∈ X điểm tới hạn f + cP tồn µ∗ ∈ Rr cho (x∗ , µ∗ ) cặp nhân tử Lagrange (ICP) (b) Nếu (x∗ , µ∗ ) cặp nhân tử Lagrange (ICP) x∗ ∈ X , x∗ điểm tới hạn f + cP 29 Chứng minh: a) Giả sử x∗ ∈ X điểm tới hạn Gọi {d∗ , {µj (x∗ )|j ∈ J(x∗ )}} cặp nhân tử Lagrange tương ứng (QP)0 (x∗ , H, J(x∗ )) Đặt c > c∗ , c > j∈J(x∗ ) µj (x∗ ), từ Mệnh đề 3.2.5 {d∗ , ξ = 0} nghiệm tối ưu (QP)c (x , H, J(x∗ )) Vì x∗ điểm tới hạn, Mệnh đề 3.2.3 cho thấy ∗ d∗ = 0, P (x∗ ) = Từ Mệnh đề 3.2.4, {x∗ , (µ∗1 , , µ∗r )}, µj (x∗ ) với j ∈ J(x∗ ), j = 0, với j = J(x∗ ), j = cặp nhân tử Lagrange (ICP) µ∗j = b) Giả sử {x∗ , (µ∗1 , , µ∗r )} cặp nhân tử Lagrange (ICP) x∗ ∈ X Khi đó, theo Mệnh đề 3.2.4, d∗ = nghiệm tối ưu (QP)0 (x∗ , H, J(x∗ )) Giả sử µj (x∗ ) nhân tử Lagrange thỏa mãn c∗ ≥ j∈J(x∗ ) µj (x∗ ) theo giả thiết Từ Mệnh đề 3.2.5 {d∗ = 0, ξ ∗ = 0} nghiệm tối ưu (QP)c (x∗ , H, J(x∗ )) với c ≥ c∗ Sử dụng Mệnh đề 3.2.3, ta có x∗ điểm tới hạn f + cP với c ≥ c∗ Mệnh đề tương tự Mệnh đề 3.1.7 sử dụng giả thiết lồi vị trí giả định độc lập tuyến tính Mệnh đề 3.2.10 Giả sử g1 , , gr lồi Rn tồn vector x ¯ cho: gj (¯ x) < 0, ∀j = 1, , r Khi đó, với tập compact X , tồn số thực c∗ > cho với c > c∗ : (a) Nếu x∗ điểm tới hạn f + cP x∗ ∈ X , tồn µ∗ ∈ Rr cho (x∗ , µ∗ ) cặp nhân tử Lagrange cho (ICP) (b) Nếu (x∗ , µ∗ ) cặp nhân tử Lagrange cho (ICP) x∗ ∈ X , x∗ điểm tới hạn f + cP Chứng minh: Cố định H > 0, tính lồi gj , ta có gj (x) + ∇gj (x)′ (¯ x − x) ≤ gj (¯ x) < 0, ∀x ∈ Rn , j = 1, , r 30 Do đó, với x ∈ Rn , (QP)0 (x, H, J(x)) có d¯ = (¯ x − x) nghiệm chấp nhận Giả sử d(x) nghiệm tối ưu {µj (x)|j ∈ J(x)} tập nhân tử Lagrange tương ứng Ta có d(x) cực tiểu theo d hàm ∇f (x)′ d + d′ Hd + µj (x)[gj (x) + ∇gj (x)′ d], j∈J(x) với µj (x)[gj (x) + ∇gj (x)′ d(x)] = 0, ∀j ∈ J(x) Do ∇f (x)′ d(x) + d(x)′ Hd(x) ≤ ∇f (x)′ (¯ x − x) + (¯ x − x)′ H(¯ x − x) + µj (x)[gj (x) + ∇gj (x)′ (¯ x − x)] (3.33) j∈J(x) x − x)H(¯ x − x) + ≤ ∇f (x)′ (¯ x − x) + (¯ µj (x)gj (¯ x) j∈J(x) ≤ ∇f (x)′ (¯ x − x) + (¯ x − x)′ H(¯ x − x) − b µj (x), j∈J(x) b = min{−gj (¯ x)|j = 1, , r} > Ta có 1 ≤ |H −1/2 ∇f (x) + H 1/2 d(x)|2 = ∇f (x)′ H −1 ∇f (x) 2 + ∇f (x)′ d(x) + d(x)′ Hd(x) Kết hợp (3.33) (3.34), ta nhận j∈J(x) (3.34) µj (x) ≤ c(x), ∀x ∈ Rn , 1 x − x) + (¯ x − x)′ H(¯ x − x)]/b c(x) = [ ∇f (x)′ H −1 ∇f (x) + ∇f (x)′ (¯ 2 31 Cho trước tập compact X H > cố định, đặt c∗ = max c(x), x∈X ý c∗ ≥ c(x) ≥ j∈J(x) µj (x), ∀x ∈ X Bây áp dụng Bổ đề 3.2.9 ta nhận điều phải chứng minh Ví dụ 3.2.11 Cho n = 2, r = 1, với x = (x1 , x2 ), f (x) = (x1 − 1)2 + x22 , g1 (x) = x21 Khi đó, f g1 hàm lồi tốn (ICP) có nghiệm tối ưu {x∗1 = 0, x∗2 = 0} Xét hàm số: f (x) + cP (x) = (x1 − 1)2 + x22 + c max{0, x21 } = (x1 − 1)2 + x22 + cx21 (3.35) Với số thực c > 0, hàm số có điểm tới hạn {x1 (c), x2 (c)} x1 (c) = 1/(1 + c), x2 (c) = Như nghiệm tối ưu {x∗1 = 0, x∗2 = 0} (ICP) không điểm tới hạn f + cP với số thực c > dương Ngược lại, khơng điểm số điểm tới hạn {x1 (c), x2 (c)}, c > nghiệm tối ưu toán (ICP) Ở đây, {x∗1 = 0, x∗2 = 0} điểm quy (vì [∇g1 (x∗ ) = 0]), người ta khơng có nhân tử Lagrange tương ứng µ∗1 Vì Mệnh đề 3.2.8 áp dụng cho tập compact chứa {x∗1 = 0, x∗2 = 0} Bởi khơng tồn x¯ cho g1 (¯ x) < 0, nên giả thiết Mệnh đề 3.2.10 bị vi phạm Ví dụ 3.2.12 Cho n = 1, r = 2, với x f (x) = 0, g1 (x) = −x, g2 (x) = − x2 Hàm số P (x) có dạng: P (x) = max{0, −x, − x2 }, 32 Vì f (x) Chúng 0, điểm tới hạn f + cP không phụ thuộc vào c √ x = (1 − 5), x = 0, ≤ x Trong số này, có x ≥ tương ứng cặp nhân tử Lagrange toán (ICP) tương ứng Mệnh đề 3.2.8 áp dụng cho điểm với √ c∗ = Các điểm tới hạn 12 (1 − 5) không thỏa mãn Mệnh đề 3.2.8 tập gradient tương ứng {∇gj (x)|gj (x) = P (x), j = 1, 2} phụ thuộc tuyến tính Mệnh đề 3.2.10 khơng áp dụng g2 hàm không lồi 33 KẾT LUẬN VÀ KIẾN NGHỊ Sau thời gian tìm hiểu, nghiên cứu từ số tài liệu tác giả hoàn thành luận văn thu kết sau: - Luận văn hệ thống số kết quan trọng không gian tôpô Cụ thể, định nghĩa tập mở, tập đóng, tập compact, tập lồi số định lí quan trọng định lí giá trị trung bình đa thức Taylor - Luận văn nghiên cứu tốn tối ưu có điều kiện cho phương trình bất phương trình, trình bày phương pháp hàm phạt để giải toán Đề tài dự kiến đóng góp phần nhỏ vào việc giải tốn cực trị có điều kiện cho phương trình bất phương trình Trong tương lai, nghiên cứu áp dụng rộng rãi mở rộng phạm vi nghiên cứu nhiều toán phức tạp khác 34 TÀI LIỆU THAM KHẢO [1] David G Luenberger (1973), Introduction to Linear and Nonlinear Programming, Addison Wesley Publishing Company [2] Dimitri P Bertsekas (1996), Constrained Optimization and Lagrange multiplier methods, Athena Scientific, Belmont, Massachusetts [3] Daryoush Behmardi and Encyeh Dehgha Nayeri (2008), “Introduction of Fréchet and Gâteaux Derivation”, Applied Mathematical Science, Vol 2, no 20, 975-980 ... tài Phương pháp hàm phạt phương pháp dùng để tìm nghiệm cho tốn cực trị có điều kiện Ý tưởng phương pháp chuyển việc giải tốn cực trị có điều kiện thơng qua việc giải toán cực trị tự Các loại hàm. .. tốn cực trị có điều kiện, định nghĩa điều kiện cần đủ cực trị - Phương pháp hàm phạt ứng dụng để giải toán cực trị - Sáng tạo toán vận dụng phương pháp 2 Đối tượng phạm vi nghiên cứu Phương pháp. .. giải toán tối ưu có điều kiện cho phương trình bất phương trình Luận văn tập trung vào giải hai tốn tiêu biểu: Bài tốn cực trị có điều kiện cho phương trình (ECP) tốn cực trị có điều kiện cho