Phương pháp nhân tử lagrange tăng cường cho bài toán tối ưu có điều kiện cho bởi phương trình

ĐẠI HỌC ĐÀ NẴNG TRƯỜNG ĐẠI HỌC SƯ PHẠM ————— PHAN ĐỨC TUẤN PHƯƠNG PHÁP NHÂN TỬ LAGRANGE TĂNG CƯỜNG CHO BÀI TỐN TỐI ƯU CĨ ĐIỀU KIỆN CHO BỞI PHƯƠNG TRÌNH LUẬN VĂN THẠC SĨ KHĨA: K40 ĐÀ NẴNG, 2022 ĐẠI HỌC ĐÀ NẴNG TRƯỜNG ĐẠI HỌC SƯ PHẠM ————— PHAN ĐỨC TUẤN PHƯƠNG PHÁP NHÂN TỬ LAGRANGE TĂNG CƯỜNG CHO BÀI TỐN TỐI ƯU CĨ ĐIỀU KIỆN CHO BỞI PHƯƠNG TRÌNH CHUN NGÀNH: TỐN GIẢI TÍCH MÃ SỐ: 8460102 HỌC VIÊN: PHAN ĐỨC TUẤN KHÓA: K40 NGƯỜI HƯỚNG DẪN KHOA HỌC : TS PHẠM QUÝ MƯỜI ĐÀ NẴNG, 2022 Mục lục MỞ ĐẦU TỔNG QUAN VỀ KHƠNG GIAN Rn, HÀM NHIỀU BIẾN VÀ BÀI TỐN TỐI ƯU 1.1 Một số kí hiệu kiến thức 1.1.1 1.1.2 Không gian Rn Tập đóng, tập mở, tập compact 1.1.3 1.1.4 Hàm liên tục Hàm khả vi 6 1.1.5 1.1.6 Định lí giá trị trung bình khai triển dãy Taylor Định lí hàm ẩn 1.1.7 Tập lồi 1.2 1.1.8 Đánh giá khái niệm hội tụ Bài toán tối ưu tự 10 12 1.3 1.4 Phương pháp Newton cho toán tối ưu tự Bài toán tối ưu có điều kiện 13 15 PHƯƠNG PHÁP NHÂN TỬ LAGRANGE TĂNG CƯỜNG CHO BÀI TỐN TỐI ƯU CĨ ĐIỀU KIỆN CHO BỞI PHƯƠNG TRÌNH 17 2.1 Tổng quan tốn cực trị có điều kiện cho phương 17 2.2 trình số hướng tiếp cận giải toán Điều kiện cần đủ cho toán tối ưu có điều kiện cho phương trình 21 2.3 Phương pháp nhân tử Lagrange tăng cường cho toán cực 22 2.4 trị có điều kiện Phương pháp nhân tử Lagrange tăng cường cho toán cực 27 2.5 trị có điều kiện cho phương trình Sự tồn cực tiểu địa phương phương pháp nhân tử 2.6 Lagrange tăng cường Sự hội tụ phương pháp nhân tử Lagrange tăng cường 28 34 Áp dụng phương pháp nhân tử Lagrange tăng cường để giải số toán 37 2.7 2.8 Mối liên hệ với tốn tìm GTLN, GTNN chương trình phổ thơng Tài liệu tham khảo 44 47 MỞ ĐẦU Tính cấp thiết đề tài Trong tốn học, tốn tối ưu khơng gian Rn tốn có dạng: "Cho A ⊂ Rn , A ̸= ∅ hàm f : A → R Tìm phần tử x0 ∈ A cho f (x0 ) ≤ f (x), ∀x ∈ A (bài toán cực tiểu) cho f (x0 ) ≥ f (x), ∀x ∈ A (bài toán cực đại) Nếu A = Rn , ta có tốn tối ưu tự Ngược lại, ta có tốn tối ưu có điều kiện." Trong tốn tối ưu có điều kiện, phương pháp nhân tử Lagrange phương pháp để tìm cực tiểu cực đại địa phương hàm số với điều kiện ràng buộc Phương pháp thảo luận lần Hestenes Powell vào năm 1968 Ý tưởng phương pháp giải tốn tối ưu có điều kiện thơng qua việc giải toán tối ưu tự Tuy nhiên, phương pháp nhân tử Lagrange có hạn chế tính khơng ổn định nhân tử Lagrange có giá trị lớn Trên sở phân tích hạn chế phương pháp nhân tử Lagrange, nhà khoa học sau đề xuất, cải tiến đưa phương pháp nhân tử Lagrange tăng cường Tương tự phương pháp nhân tử Lagrange, phương pháp nhân tử Lagrange tăng cường đưa thuật toán để giải tốn tối ưu có ràng buộc cách thay tốn loạt tốn khơng ràng buộc Cụ thể đưa hàm phạt vào hàm mục tiêu Phương pháp cơng trình tập thể nhiều nhà nghiên cứu tốn học Trong kể đến số nhà toán học như: J D Buys, G DiPilo, L Dixon, R Fletcher, T Glad, L Grippo, M Hestenes, D Luenberger, O Mangasarinan, D Q Mayne, E Polak, B T Poljak, M.J.D Powell, B Pschenichny, R T Rockafellar, R Tapia Với mong muốn tìm hiểu sâu lĩnh vực tốn tối ưu nói chung phương pháp nhân tử Lagrange tăng cường nói riêng, đồng thời góp phần nâng cao lực toán học cho thân, với hướng dẫn khoa học TS Phạm Quý Mười, định chọn đề tài nghiên cứu: Phương pháp nhân tử Lagrange tăng cường cho toán tối ưu có điều kiện cho phương trình Đề tài nhắm vào việc nghiên cứu sở lí thuyết ứng dụng phương pháp vào việc giải toán khác sở nghiên cứu, tổng hợp cơng trình có Luận văn sau hồn thành làm tư liệu tham khảo cho bạn sinh viên học viên cao học nghiên cứu lĩnh vực tốn tối ưu Ngồi ra, đề tài góp phần làm phong phú, sâu sắc lĩnh vực tốn học phổ thơng biết triển khai ứng dụng cách phù hợp Đối tượng nghiên cứu - Bài tốn tối ưu có điều kiện cho phương trình; - Phương pháp nhân tử Lagrange tăng cường cho tốn tối ưu có điều kiện cho phương trình Phạm vi nghiên cứu Phạm vi nghiên cứu đề tài thuộc lĩnh vực nghiên cứu tối ưu hóa Cụ thể ứng dụng phương pháp nhân tử Lagrange tăng cường để giải toán tối ưu có điều kiện cho phương trình Mục tiêu nghiên cứu đề tài Nghiên cứu toán tối ưu có điều kiện cho phương trình vận dụng phương pháp nhân tử Lagrange tăng cường vào giải toán Phương pháp nghiên cứu - Thu thập, phân tích tổng hợp tài liệu liên quan đến nội dung nghiên cứu - Phân loại hệ thống hóa lý thuyết - Trình bày báo cáo seminar nhóm nghiên cứu - Trao đổi, thảo luận với giáo viên hướng dẫn Cấu trúc luận văn Cấu trúc luận văn gồm phần sau đây: - Mở đầu: Giới thiệu tổng quan nghiên cứu lý chọn đề tài luận văn nghiên cứu - Phần nội dung: Nội dung luận văn gồm có chương cụ thể sau: |λk − λ | k→∞ (2.55) ngược lại, ck → ∞ λk ̸= λ∗ cho tất k , ta có |λk+1 − λ∗ | = k→∞ |λk − λ∗ | lim (2.56) * Trích dẫn chứng minh: [5, Proposition 2.7] Vùng D1 cặp tham số nhân tử Lagrange - phạt ban đầu (λ0 , c0 ) mà hội tụ đạt theo Mệnh đề 2.6.2 thể dạng giản đồ Hình 2.3 Có thể thấy lựa chọn λ0 kém, bù đắp lựa chọn c0 đủ cao Hơn nữa, k , thuật tốn tạo cặp (λk , ck ) nằm vùng bóng mờ Hình 2.3, hội tụ λk đến λ∗ đảm bảo 35 Hình 2.3: Miền hội tụ phương pháp nhân tử Lagrange tăng cường Về giá trị ngưỡng 2, lưu ý rằng: (a) Nếu ▽2 p(0) > 0, theo Mệnh đề 2.5.2 tương đương với điều kiện lồi địa phương ▽2xx L0 (x∗ , λ∗ ) > 0, giá trị c dương xem mức ngưỡng Điều ▽2 p(0) ≥ (b) Nếu ▽2 p(0) có giá trị riêng âm c¯ thỏa mãn c¯ > max{−e1 , , −em } đủ để ▽2xx Lc¯(x∗ , λ∗ ) (Mệnh đề 2.5.2) Tuy nhiên, cần lấy c¯ > max{−el , , −em } để tạo hội tụ Về tốc độ hội tụ, từ (2.55) 2.56, có hội tụ Q-tuyến tính {ck } bị chặn hội tụ siêu tuyến {ck } không bị chặn ▽2 p(0) = Các kết tốc độ hội tụ cải thiện, với giá trị n m, xây dựng tốn với hàm mục tiêu bậc hai ràng buộc cho phương trình tuyến tính điểm bắt đầu λ0 cho ck = c∗ với k , quan hệ (2.55) với dấu đẳng thức 36 2.7 Áp dụng phương pháp nhân tử Lagrange tăng cường để giải số toán Từ Mệnh đề 2.5.1 áp dụng cho phương pháp nhân tử Lagrange tăng cường phương pháp hàm phạt lặp lại λk+1 = λk + ck h(xk ) (2.57) khơng sử dụng, cung cấp phương tiện tự nhiên để so sánh phương pháp Từ (2.29), điều cho thấy rằng, phương pháp hàm phạt λk ≡ const, thông thường cần phải tăng ck đến vô Theo Mệnh đề 2.6.1, không cần thiết phải tăng c đến vô để tạo kết hợp phương pháp nhân tử Lagrange tăng cường Đây lợi quan trọng, giúp loại bỏ kiểm sốt tốn đặt khơng chỉnh Một ưu điểm quan trọng thứ hai phương pháp nhân tử Lagrange tăng cường tỷ lệ kết hợp tốt đáng kể so với phương pháp hàm phạt Có thể thấy điều cách so sánh tốc độ hội tụ hai phương pháp đưa ước lượng (2.29), (2.30) (2.55), (2.56) phương pháp hàm phạt, tốc độ hội tụ nhiều phụ thuộc vào tốc độ tăng tham số phạt Lợi tốc độ hội tụ kiểm chứng nhiều nghiên cứu tính tốn, thời gian tính tốn giảm quán từ 80% đến 30% báo cáo nhân tử Lagrange cập nhật (2.57) so với trường hợp λk , giữ nguyên Với mục đích minh họa, đưa Ví dụ 2.7.1 sau, ví dụ nhỏ độ phức tạp tính tốn dù đại diện cho việc tiết kiệm tính tốn sử dụng phép lặp cấp số nhân (2.57) 37 Ví dụ 2.7.1 Xét tốn hai chiều 1 Tìm cực tiểu hàm [(x1 )2 + (x2 )2 ] với x1 + x2 = Giải: * Giải toán phương pháp Lagrange: Trong Ví dụ 2.7.1, hàm Lagrange cung cấp 1 L(x, λ) = [(x1 )2 + (x2 )2 ] + λ(x1 + x2 − 1) Điểm dừng hàm Lagrange nghiệm hệ phương trình:  x1 + λ =0 ⇔ x1 = x2  x2 + λ = 3 (2.58) (2.59) Mặt khác, ta có phương trình ràng buộc: x1 + x2 = (2.60) Từ (2.59) (2.60), ta có x1 = 0, 25, x2 = 0, 75 Vậy f (x) = 0, 125 * Giải toán phương pháp Lagrange tăng cường Hàm Lagrange tăng cường cung cấp bởi: 1 Lc (x, λ) = [(x1 )2 + (x2 )2 ] + λ(x1 + x2 − 1) + c(x1 + x2 − 1)2 (2.61) 38 Chương trình Matlab giải tốn phương pháp Lagrange tăng cường Hình 2.4: Chương trình giải tốn Ví dụ 2.7.1 Chạy chương trình trên, ta thu nghiệm xấp xỉ: ! 0, 25 u5000 = , f (u5000 ) = 0, 125 0, 7499 Ta thấy nghiệm xấp xỉ gần với nghiệm xác 39 Ví dụ 2.7.2 Xét toán  X    x2i    i=1  x1 + 2x2 + x3 − =     x − x + x − = (2.62) Giải: * Giải toán phương pháp Lagrange: Trong Ví dụ 2.7.2, hàm Lagrange cung cấp L(x, λ) = X x2i + λ1 (x1 + 2x2 + x3 − 1) + λ2 (x3 − x4 + x5 − 3) (2.63) i=1 Điểm dừng hàm Lagrange    2x1 + λ1       2x + 2λ1   2x3 + λ1 + λ2      2x4 − λ2     2x + λ nghiệm hệ phương trình: =0  x2  x =   =0   = ⇔ x3 = x2 + x5      =0 x4 = −x5 =0 Mặt khác, ta có hệ ràng buộc:  x + 2x + x − = x − x + x − = (2.64) (2.65) Từ (2.64) (2.65), ta có x1 = x2 = 0, x3 = 1, x4 = −1, x5 = Vậy f (x) = * Giải toán phương pháp Lagrange tăng cường Hàm Lagrange tăng cường cung cấp bởi: Lck (x, λk ) = X x2i + λ1 (x1 + 2x2 + x3 − 1) + λ2 (x3 − x4 + x5 − 3) (2.66) i=1 + c[(x1 + 2x2 + x3 − 1)2 + (x3 − x4 + x5 − 3)2 ] Chương trình Matlab giải toán phương pháp Lagrange tăng cường 40 Hình 2.5: Chương trình giải tốn Ví dụ 2.7.2 Chạy chương trình trên, ta thu nghiệm xấp xỉ:   0.0001    0.0001     , f (u5000 ) = 2, 998 u5000 =  0.9997     −0.9996 0.9996 Ta thấy nghiệm xấp xỉ gần với nghiệm xác 41 Ví dụ 2.7.3 Một tổ hợp gồm máy phát phát cần sinh lượng điện 952 Mw Bỏ qua lượng điện thất thoát, chi phí máy phát cho công thức sau f1 : x1 + 0, 0625x21 ($/giờ), f2 : x2 + 0, 125x22 ($/giờ), f3 : x3 + 0, 25x23 ($/giờ) với xi , i = 1, 2, lượng điện phát máy phát thứ i Tìm phương án phát điện tiết kiệm chi phí Giải: * Giải tốn phương pháp Lagrange: Trong Ví dụ 2.7.3, hàm Lagrange cung cấp f (x) = x1 + 0, 0625x21 + x2 + 0, 125x22 + x3 + 0, 25x23 , ta mơ hình hóa tốn sau:  min f (x) x + x + x − 952 = (2.67) (2.68) Hàm Lagrange toán L(x, λ) = x1 + 0, 0625x21 + x2 + 0, 125x22 + x3 + 0, 25x23 + λ(x1 + x2 + x3 − 952) (2.69) Điểm dừng hàm Lagrange nghiệm hệ phương trình    0, 125x1 + λ + =   0, 25x2 + λ +    0, 5x + λ + =0 (2.70) =0 kết hợp với điều kiện x1 +x2 +x3 −952 = ta x1 = 544, x2 = 272, x3 = 136 Vậy, phương án phát điện tiết kiệm có chi phí 33320 ($/giờ) 42 * Giải toán phương pháp Lagrange tăng cường Hàm Lagrange tăng cường cung cấp bởi: Lc (x, λ) = x1 + 0, 0625x21 + x2 + 0, 125x22 + x3 + 0, 25x23 (2.71) +λ(x1 + x2 + x3 − 952) + c(x1 + x2 + x3 − 952)2 Chương trình Matlab giải tốn phương pháp Lagrange tăng cường Hình 2.6: Chương trình giải tốn Ví dụ 2.7.3 Chạy chương trình trên, ta thu nghiệm xấp xỉ:   543, 9803   u5000 = 271, 9901 , f (u5000 ) = 33318 135, 9951 43 Ta thấy nghiệm xấp xỉ gần với nghiệm xác 2.8 Mối liên hệ với tốn tìm GTLN, GTNN chương trình phổ thơng Bài tốn tìm GTLN, GTNN chương trình phổ thơng tốn tối ưu có điều kiện Cụ thể Cho hàm số y = f (x) xác định tập D ⊂ R - Nếu tồn điểm x0 ∈ X cho f (x) ≤ f (x0 ) với x ∈ X f (x0 ) gọi GTLN hàm số f X Kí hiệu: f (x0 ) = maxf (x) x∈X - Nếu tồn điểm x0 ∈ X cho f (x) ≥ f (x0 ) với x ∈ X f (x0 ) gọi GTLN hàm số f X Kí hiệu: f (x0 ) = minf (x) x∈X Ví dụ 2.8.1 Tìm GTLN GTNN hàm số: y = x3 − 3x2 − 9x + 35 đoạn [0; 5] Giải: Xét hàm số tập D = [0; 5] Ta có: y ′ = 3x2 − 6x − = ⇔ x = −1 (∈ / D) x = (∈ D) nên y(0) = 35 y(3) = y(5) = 40 ⇒ y = y(3) = x∈[0;5] ⇒ max y = y(5) = 40 x∈[0;5] 44 Ví dụ 2.8.2 Khi xây dựng nhà, chủ nhà cần làm bể nước gạch có dạng hình hộp có đáy hình chữ nhật với chiều dài d(m) chiều rộng r(m), d = 2r Chiều cao bể nước h(m) thể tích bể 2m3 Hỏi chiều cao bể nước chi phí xây dựng thấp nhất? Giải: Gọi x(x > 0) chiều rộng đáy suy thể tích bể nước V = 2x2 h = ⇔ h = x Diện tích xung quanh hồ đáy bể S = 6x.h + 2x2 = + 2x2 (x > 0) x Xét hàm số f (x) = + 2x2 với x > x r Hàm số đạt GTNN x = r 1 2 (m) Vậy chiều cao cần xây h = = r = x 3 3 ( ) 45 KẾT LUẬN Đề tài nghiên cứu "Phương pháp nhân tử Lagrange tăng cường cho tốn tối ưu có điều kiện cho phương trình" đạt số kết sau đây: • Một số khái niệm kết liên quan tới toán tối ưu gồm: Bài toán tối ưu tự do, phương pháp Newton cho toán tối ưu tự tốn tối ưu có điều kiện • Tìm hiểu phương pháp nhân tử Lagrange tăng cường để giải tốn tối ưu có điều kiện Đồng thời đưa số ví dụ minh họa Chủ đề nghiên cứu luận văn thuộc lĩnh vực giải tích hàm, mẻ so với chương trình đạo tạo chun ngành Tốn giải tích hành Vì tác giả có nhiều cố gắng nghiên cứu chắn cịn có nhiều khiếm khuyết Tác giả mong nhận nhiều ý kiến góp ý Hội đồng đánh giá để luận văn hồn thiện 46 Tài liệu tham khảo Tiếng Việt [1] Nguyễn Địch (2003), Lý thuyết tối ưu hóa, NXB Đại học Quốc gia Hà Nội [2] Dỗn Tam Hịe (2005), Lý thuyết tối ưu đồ thị, NXB Đại học Quốc gia Hà Nội [3] Võ Hồng Hưng (2019), Giải tích thực, NXB Giáo dục Việt Nam Tiếng Anh [4] Stephen Boyd, Lieven Vandenberghe (2004), Convex Optimization, Cambridge University Press [5] Dimitri P.Bertsekas (1982), Constrained optimization and lagrange multiplier methods, Academic Press [6] Charles Chapman Pugh (2002), Real Mathematical Analysis, Cambridge University Press 47 CQNGHoA xA HQI cnu NGHiAV¢T NAM DQc I~p - TlJ - H~nh phuc DAr HOC D) NANG TRU6NGD~IHQCSUPH~M S6:;f4lt/QU-DHSP Da Nang, ngayotthang _9 nam 2021 QUYETDJNH V~ vi~c giao d~ tai va trach nhi~m hU'(}'ngdin lu~n van thac si HI~U TRUONG TRUONG D~I HQC Can CLfNghi dinh h9C Da Nang; s6 321CP str PH~M - DHDN 041411994 cua Chinh pint vt viec ldp Dai Can ctr Nghi quyet s6 08INQ-HDDH 121712021 cua Hoi dong Dai h9C Da Nang ban hanli Quy chi t6 chtrc va hoat dong cua D9i I19CDel Nang; tC;1O Can CLfThong tu s6 15120141TT-BGDDT 151512014cua Bo Giao due va Dao vt viec ban honk Quy chi dao tao trinh ac}thac sf; Can CLl' Quyita/nh-s61060IQD-DHSP 01/1112016 cua Hieu tnrong Truong D9i h9C Sir pham- DHDN vt viec ban hanh Quy dinh dao tao trinh thac si; Can ctr To'trinh cua Khoa Toan h9Cvt viec at nghi giao at tai IU(lI1 van thac sf cho h9C vien cao nganli Toan giai tich 061912021; Xet at nghi cua Truong phong Phong Dao tao QUYETDINH: Di~u Giao cho 07 hoc vien cao hoc nganh Toan giii tich kh6a 40 16'pK40,TGT th\TChi~n G~tai lu?n van th:;tcsI (co danh sach kem theo) Di~u HQc vien va nguai huang dftn c6 ten a Di~u GUQ'chuang cac quy~n lQ'i va thlJC hi~n nhi~m vv Glll1gtheo Quy eh~ GaOtc;tOtrinh G9 th:;tc sI B9 Giao dve va Uao tc;tOban hanh va Quy Ginh v~ GaO tc;tOtrinh G9 th:;te Sl eua Truo'ng Dc;tihQc Su phc;tm- Dc;tihQc Da N~ng, Di~u Thu tru'ang cac Gon vi lien quan, nguai huang dftn lu?n van va hQc vien c6 ten 0' Di~u can elf Quy~t Ginh thi hanh.lJ-l No'i 11" {i11: HI~UTRUONG - NlllI' Di~L13 (a~tlwc hi~n); - Ban Giam hi~u (a~bi~t); - Luu: VT, DT PGS TS Lu'u Trano~ DAI HOC DA NANG TRU6NGD~IHQCSUPH~M CQNG HOA XA HQI CHi) NGHIA VI~T NAM DQc l~p - T1)'do - H~nh phuc DANH SACH HOC VlEN mroc GIAO DE TAl LuAN VAN THAC si NGANH ToAN GIA.I rtcn LOP K40.TGT (Kem theo Quyit dinh s6A~ L?iQD-DHSP ngdy OTt-hang nam 2021 cua Hieu trutrng Truong Dai h9C Su pham - Dai h9C Do N8ng) STT " ) HQ va ten Ten d~ ati Giao vien hurmg din Vuong Thi Kim Cue (rng dung bat dang thirc Harnack nghien ciru lap ham oi~u hoa duong C TS Hoang Nhat Quy (Truong D~ h9CSu phi;lmBOON) Nguyen Thi Anh Dai Phuong trinh sai phan tuyen tinh cap cao va mot s6 vAn o~ lien quan TS r.e Hai Trung (Truong Dai h9C Sir phi;llllBOON) Mixay Chantamad Topo Pixley-Roy TS Luong Quoc Tuyen (Truong Dai h9CSu pham BOON) KhamKongKeomalaseng Nguyen ly eire dai cua ham oi~u hoa duoi TS Hoang Nhat Quy (Duong Dai h9CSir phi;llllBOON) Vadsana Meunsathan Cac phep bien 06i Laplace va ling dung giai phuorig trinh vi phan va mach dien TS Nguyen Trung Hi~u (Vien Nghien ciru & Phat tri~n CNC, Truong D(;li h9C Duy Tan) Lam Quang Thu~n S\f phan b6 nghi~n~ va n&hi~m s6 cua phuong trinh Oi;lis6 111(>t an TS Chlr Van Ti~p (Truong Bi;lih9CSu phi;llllDOON) Phan D(rc TuAn Phuong phap Lagrange tang cuo-ng cho bai toan t6i uu co oi~u ki~n cho boi phuong trinh TS PI1i;l111 Quy Muo-i (Tnrong Di;lih9CSu phi;lll1 BOON) An oinh danh s:ich co 07 (bay) h9C vien 1.{ PGS TS LUu Trang