1 TRƯỜNG ĐẠI HỌC BÁCH KHOA - ĐHĐN TS Lê Hùng Khoa Xây dựng Thủy lợi Thủy điện Trường Đại học Bách Khoa Water Resources Engineering – Hydrosystems Laboratory PHẦN I: CÁC PHƯƠNG PHÁP TỐI ƯU HÓA CHƯƠNG I QUY HOẠCH TUYẾN TÍNH CHƯƠNG II QUY HOẠCH PHI TUYẾN CHƯƠNG III QUY HOẠCH ĐỘNG CHƯƠNG IV THUẬT TOÁN DI TRUYỀN CHƯƠNG V QUY HOẠCH ĐA MỤC TIÊU Water Resources Engineering – Hydrosystems Laboratory 2.1 Giới thiệu lời giải tốn phi tuyến • Quy hoạch phi tuyến (QHPT) trình giải hệ phương trình đẳng thức bất đẳng thức, tập hợp điều kiện ràng buộc nhiều tập hợp biến thực chưa biết, Hàm mục tiêu maximum hoạch minimum với ràng buộc phi tuyến B, C - Max cục (địa phương) D - Min cục (địa phương) A - Max toàn thể (tối ưu tuyệt đối) E - Min tồn thể (tối ưu tuyết đối) Hình 2.1: Đồ thị biểu diễn hàm phi tuyến đơn trị đa trị Water Resources Engineering – Hydrosystems Laboratory 2.1 Giới thiệu lời giải toán phi tuyến Water Resources Engineering – Hydrosystems Laboratory 2.1 Giới thiệu lời giải toán phi tuyến minimize f ( x) Hàm mục tiêu subj ect to gi ( x) ≥ i = 1,K , m h j ( x) = j = 1,K , p Ràng buộc x ∈ Rn Water Resources Engineering – Hydrosystems Laboratory 2.1 Giới thiệu lời giải toán phi tuyến Miền khả thi Miền khả thi Hình 2.3ab Lời giải tối ưu tồn điểm cực không tồn điểm cực trị Water Resources Engineering – Hydrosystems Laboratory 2.1 Giới thiệu lời giải tốn phi tuyến Tối ưu tồn cục Tối ưu tồn cục Tối ưu cục Water Resources Engineering – Hydrosystems Laboratory 2.1 Giới thiệu lời giải toán phi tuyến Hàm f(x) gọi lồi vùng với xa xb, xa≠ xb thỏa mãn sau: Hàm f(x) gọi lõm vùng với xa xb, xa≠ xb thỏa mãn sau: * Chú thích: Các phương trình khơng tiện lợi để sử dụng kiểm tra tính lồi lõm hàm Water Resources Engineering – Hydrosystems Laboratory 2.1 Giới thiệu lời giải toán phi tuyến Hàm lồi Hàm lõm Water Resources Engineering – Hydrosystems Laboratory 2.1 Giới thiệu lời giải toán phi tuyến Giả sử hàm f(x) nhiều biến, hàm liên tục có đạo hàm liên tục T Ta có Gradient ∂f ∂f ∂f ∂f ∇f ( x) = = , , , ∂xn ∂x ∂x1 ∂x2 f(x) có đạo hàm liên tục bậc tồn ma trận đạo hàm 2 gọi ma trận Hessian ∂ 2F ∂ F ∂2 F ∂ F ∂ x ∂ x1 ∂ x 2 ∂ 2F ∂ F ∂x ∂x ∂x ∂x i ∂x ∂x n ∂2 F ∂ 2F ∂x ∂x ∂x ∂x i n ∂ x2 H ( x) = ∇ f ( x) = ∂ 2F ∂ 2F ∂2 F ∂ 2F ∂ x ∂x ∂x ∂x ∂x ∂x ∂x ∂x j j j i j n ⋅ ⋅ ⋅ ∂ 2F ∂ 2F ∂2 F ∂ F ∂x ∂x ∂x ∂x ∂x ∂x ∂ x2 n n n i n Water Resources Engineering – Hydrosystems Laboratory 2.2.2 Phương pháp hàm đa biến Water Resources Engineering – Hydrosystems Laboratory 2.2.2 Phương pháp hàm đa biến Water Resources Engineering – Hydrosystems Laboratory 2.2.2 Phương pháp hàm đa biến Water Resources Engineering – Hydrosystems Laboratory 2.2.2 Phương pháp hàm đa biến Ví dụ 2.6: Minimum f(X) = f(x1, x2) = + (x1 – 1.5x2)2 + (x2 – 2)2 Ràng buộc ≤ x1 ≤ 5; ≤ x2 ≤ Hình vẽ đường đồng mức tốn lời giải vị trí x1* = 3, x 2* = Và f* = Water Resources Engineering – Hydrosystems Laboratory 2.2.2 Phương pháp hàm đa biến Ví dụ 2.6: Minimum f(X) = f(x1, x2) = + (x1 – 1.5x2)2 + (x2 – 2)2 Ràng buộc ≤ x1 ≤ 5; ≤ x2 ≤ • Phương pháp hướng dốc (Steepest descent) Water Resources Engineering – Hydrosystems Laboratory 2.2.2 Phương pháp hàm đa biến Ví dụ 2.6: Minimum f(X) = f(x1, x2) = + (x1 – 1.5x2)2 + (x2 – 2)2 Ràng buộc ≤ x1 ≤ 5; ≤ x2 ≤ Phương pháp Rank Walk Water Resources Engineering – Hydrosystems Laboratory 2.2.2 Phương pháp hàm đa biến Ví dụ 2.6: Minimum f(X) = f(x1, x2) = + (x1 – 1.5x2)2 + (x2 – 2)2 Ràng buộc ≤ x1 ≤ 5; ≤ x2 ≤ Phương pháp Pattern search Water Resources Engineering – Hydrosystems Laboratory 2.2.2 Phương pháp hàm đa biến Ví dụ 2.6: Minimum f(X) = f(x1, x2) = + (x1 – 1.5x2)2 + (x2 – 2)2 Ràng buộc ≤ x1 ≤ 5; ≤ x2 ≤ • Phương pháp Davidon-FletcherPowell DFP Water Resources Engineering – Hydrosystems Laboratory 2.2.2 Phương pháp hàm đa biến Phương pháp hướng dốc (Steepest descent) Phương pháp sẽ không hiệu đường đẳng trị hàm mục tiêu kéo dài theo hướng vng góc Mặt khác, phương pháp hướng dốc sẽ chỉ lấy bước lặp để hội tụ đường đẳng trị vòng tròn • Phương pháp Newton hội tụ nhanh lần xấp xĩ đạt gần lời giải • Điều khơng dễ dàng đến xác định giá trị bắt đầu để đạt lời giải giải • Các giá trị lời giải bắt đầu tối tìm theo phương pháp Steepest Descent Water Resources Engineering – Hydrosystems Laboratory Thiết lập điều kiện Kuhn-Tucker cho BTQHPT sau: Thiết lập điều kiện Kuhn-Tucker cho BTQHPT sau: Min F(x)=(x1-2)2+(x2-2)2 Miền ràng buộc xác định bởi: x1 + x2 − ≤ x1 − x2 + ≥ x1 ≥ 0; x2 ≥ Giải: Miền ràng buộc viết lại sau: g1 ( x) = x1 + x2 − ≤ x1 + x2 − ≤ g ( x) = − x + x − ≤ 2 x − x + ≥ ⇔ x ≥ 0; x ≥ g3 ( x) = − x1 ≤ g ( x) = − x2 ≤ Water Resources Engineering – Hydrosystems Laboratory Thiết lập điều kiện Kuhn-Tucker cho BTQHPT sau: Hàm Lagrange: F ( x1 , x2 , λ1 , λ2 , λ3 , λ4 ) = ( x1 − 2) + ( x2 − 2) + λ1 ( x1 + x2 − 2) + λ2 ( − x1 + x2 − 1) + λ3 (− x1 ) + λ4 (− x2 ) ∂gi ∂f + λ = 2( x1 − 2) + λ1 − λ2 − λ3 = ∑ i ∂x ∂ x Điều kiện Kuhn-Tucker toán ∂f + ∑ λi ∂gi = 2( x2 − 2) + λ1 + λ2 − λ4 = ∂x ∂x2 viết sau: λ1 g1 ( x) = λ1 ( x1 + x2 − 2) = λ2 g ( x) = λ2 ( − x1 + x2 − 1) = λ3 g3 ( x) = λ3 (− x1 ) = λ g ( x ) = λ ( − x ) = 4 g1 ( x) = x1 + x2 − ≤ g ( x) = − x1 + x2 − ≤ g ( x) = − x ≤ g ( x) = − x2 ≤ λ , λ , λ , λ ≥ – Hydrosystems Laboratory Water Resources Engineering (λi ≥ 0, ∀i = 1, 4) (1) (2) (3) (4) (5) (6) (7) (8) (9) (10) (11) Thiết lập điều kiện Kuhn-Tucker cho BTQHPT sau: ⇒ λ1 = λ2 + λ3 − 2( x1 − 2) Từ (1) ⇒ λ1 = λ4 − λ2 − 2( x2 − 2) Từ (2) ⇒ λ2 + λ3 − 2( x1 − 2) = λ4 − λ2 − 2( x2 − 2) ⇒ x1 − x2 = 2λ2 + λ3 + λ4 Từ (4) (12) ⇒ λ2 = Từ (5) Từ (6) ⇒ λ3 = ⇒ λ4 = Từ (12) Từ (3) ⇒ x1 = x2 = ⇒ x1 = x2 ⇒ x1 + x2 − = =1 Từ (1) ⇒ λ1 = Water Resources Engineering – Hydrosystems Laboratory Thiết lập điều kiện Kuhn-Tucker cho BTQHPT sau: Ta thấy với (x1=1; x2=1)(với ) thỏa mãn điều kiện dừng hàm Lagrange Vậy phương án tối ưu toàn cục x1= 1, x2= tương ứng với Fmin= Water Resources Engineering – Hydrosystems Laboratory Thiết lập điều kiện Kuhn-Tucker cho BTQHPT sau: Giải bằng Matlab Tạo M.file hàm mục tiêu Tạo M.file ràng buộc Water Resources Engineering – Hydrosystems Laboratory Thiết lập điều kiện Kuhn-Tucker cho BTQHPT sau: Mở công cụ tối ưu >>optimtool Vậy phương án tối ưu toàn cục x1=– Hydrosystems 1, x2= tương ứng với Fmin= Water Resources Engineering Laboratory ... = −4, 823 f ( x 12 ) = 3,668 − 9,186 = −5,600 Bước f ( x11 ) > f ( x 12 ) a = x11 = 0,944 b − a = 2, 4 72 − 0.944 = 1, 528 > 0,1 Bước Bước lặp k =2 x 12 = 0,944 + 0,3 82( 1, 528 ) = 1, 527 Bước x 22 = 0,944... 0,3 82( 4 − 0) = 1,5 82 Bước x20 = + 0,618(4 − 0) = 2, 4 72 Bước f ( x10 ) = 3,567 − 9,168 = −5,601 f ( x20 ) = 15,106 − 14,8 32 = 0, 27 4 Bước Bước f ( x10 ) < f ( x20 ) a1 = a = b1 = x20 = 2, 4 72 b1... Hydrosystems Laboratory − 2 2. 1 Giới thiệu lời giải toán phi tuyến 2. 0 4.0 4.0 x2 x0 1.0 0 .2 0.5 -1.0 1.0 2. 0 -2. 0 3.0 4.0 -2. 0 -1.0 x1 4.0 1.0 2. 0 Hình 2. 5 Đường đồng mức hàm số ví dụ 2. 1 Water Resources