bài giảng tối ưu chương 4 bài toán quy hoạch phi tuyến có ràng buộc- ths. trần thị thùy nương

10/6/2010 MaMH C02012 Chương 4: QHPT có ràng buộc NỘI DUNG − Bài tốn QHPT có ràng buộc − Điều kiện tối ưu − Một số phương pháp giải tốn QHPT có ràng buộc 10/6/2010 MaMH C02012 Chương 4: QHPT có ràng buộc Bài tốn Quy hoạch phi tuyến có ràng buộc có dạng: rb (P ) min{ f ( x) : x ∈ X }, X ⊂ ℝ n hàm f xác định X 10/6/2010 MaMH C02012 Chương 4: QHPT có ràng buộc − Bài tốn QHPT có ràng buộc − Điều kiện tối ưu − Một số phương pháp giải tốn QHPT có ràng buộc 10/6/2010 MaMH C02012 Chương 4: QHPT có ràng buộc I Điều kiện tối ưu Nón tiếp xúc Định nghĩa Cho dãy {x } ⊂ ℝ hội tụ đến q n x ∈ℝ Ta nói dãy {x } hội tụ đến x0 theo q n → hướng v ∈ℝ , ký hiệu { x }  x , tồn q n v dãy số dương {t q }, lim t q = q→∞ cho x = x + t q v + o (t q ) q 10/6/2010 MaMH C02012 Chương 4: QHPT có ràng buộc v { x q }  x , tồn dãy số → Nói cách khác, dương {t q }, lim t q = cho q→∞ x −x lim = v q→∞ tq q 10/6/2010 MaMH C02012 Chương 4: QHPT có ràng buộc x ∈ X , X ⊂ ℝn Định nghĩa Cho Nón tiếp xúc với X x ∈ X , kí hiệu 0 T ( X , x ), với T ( X , x ) = {v ∈ ℝ : ∃{x } ⊂ X : {x }  x } → 10/6/2010 n MaMH C02012 q Chương 4: QHPT có ràng buộc q v {x } dãy thuộc X ⊂ ℝn Bổ đề Giả sử q hội tụ đến x ∈ X theo hướng v hàm f khả vi liên tục cấp X Khi x −x ∇ f ( x ), v = lim+ tq → tq q 0 10/6/2010 MaMH C02012 Chương 4: QHPT có ràng buộc Điều kiện tối ưu Định lý i) Giả sử f khả vi tập * mở chứa X Nếu x ∈ X nghiệm cực tiểu địa phương tốn (Prb ) ∇f ( x* ), v ≥ ∀v ∈T ( X , x* ); ii) Ngược lại, x ∈ X thỏa mãn điều kiện * ∇f ( x* ), v > ∀v ∈T ( X , x* ); * x nghiệm cực tiểu địa phương rb chặt toán ( P ) 10/6/2010 MaMH C02012 Chương 4: QHPT có ràng buộc Hệ Giả sử x ∈ int X x điểm cực ( Prb ) tiểu địa phương tốn * Khi ∇f (x ) = * * Định lý Cho f hàm lồi khả vi tập n mở chứa tập lồi X ⊂ ℝ Điều kiện cần đủ * để x ∈ X điểm cực tiểu toàn cục toán quy hoạch lồi min{ f ( x) : x ∈ X } ∇f (x ), v ≥ ∀v ∈T( X , x ) * 10/6/2010 MaMH C02012 * Chương 4: QHPT có ràng buộc 10 Định lý 4.(Định lý Karush – Kuhn – Tucker KKT) Cho hàm f , g i , i = 1, , m h j , j = 1, , k hàm khả vi liên tục tập mở chứa X * Giả sử x nghiệm cực tiểu địa phương rb * tốn ( P ) đk quy t/m x Khi đk KKT (đk (6.1) – (6.3)) sau đúng: i) gi ( x* ) ≤ 0, i = 1, , m h j ( x* ) = 0, j = 1, , k ; (6.1) ii) ∃ λi ≥ 0, i = 1, , m µ j ≥ 0, j = 1, , k cho m k ∇f ( x* ) + ∑ λi ∇gi ( x* ) + ∑ µ j ∇h j ( x* ) = (6.2) iii) λi gi ( x* ) = 0, ∀i = 1, , m (Điều kiện bù) (6.3) i =1 10/6/2010 j =1 MaMH C02012 Chương 4: QHPT có ràng buộc 16 Định lý KKT cho quy hoạch lồi Xét toán quy hoạch lồi min{ f (x): x ∈ X}, ( Pconv ) X = {x : gi ( x) ≤ 0, i = 1, , m}, f gi , i = 1, , m, hàm lồi, khả vi liên tục tập mở chứa X 10/6/2010 MaMH C02012 Chương 4: QHPT có ràng buộc 17 Định lý (Định lý KKT cho quy hoạch lồi) Giả sử hàm f , gi , i = 1, , m, hàm lồi khả vi tập mở chứa X đk Slater * n thỏa mãn Khi x ∈ ℝ nghiệm cực tiểu conv * toán ( P ) x thỏa mãn đk KKT ( đk (6.4) – (6.6)) sau: * (6.4) i) gi ( x ) ≤ 0, i = 1, , m; ii) Tồn số λi ≥ 0, i = 1, , m cho m ∇f ( x* ) + ∑ λi ∇gi ( x* ) = (6.5) i =1 iii) λi gi ( x ) = 0, ∀i = 1, , m * 10/6/2010 MaMH C02012 Chương 4: QHPT có ràng buộc (6.6) 18 II Các phương pháp giải tốn QHPT có RB PP nhân tử Lagrange Hàm số m n i =1 j =1 L( x, λ1 , , λm , µ1 , , µ k ) := f ( x) + ∑ λi gi ( x) + ∑ µi h j ( x), với số thực λ1 ≥ 0, , λm ≥ 0, µ1 , , µ k , đgl hàm ( Prb ) Lagrange tương ứng với toán Các số λ1 ≥ 0, , λm ≥ 0, µ1 , , µ k , đgl nhân tử L 10/6/2010 MaMH C02012 Chương 4: QHPT có ràng buộc 19 Ký hiệu ∇ x L gradient hàm L theo x 10/6/2010 MaMH C02012 Chương 4: QHPT có ràng buộc 20 Thuật tốn Bước Lập hàm Lagrange m n i =1 j =1 L( x, λ1 , , λm , µ1 , , µ k ) := f ( x) + ∑ λi gi ( x) + ∑ µi h j ( x) Bước Giải hệ KKT : ∇ x L( x, λ1 , , λm , µ1 , , µ k ) =  λ1 ≥ 0, , λm ≥   λi gi ( x) = 0, i = 1, , m   gi ( x) ≤ 0, i = 1, , m   hC02012) Chương 4:jQHPT 1, , k = có ràng buộc j ( x = 0,  MaMH 10/6/2010 21 Mỗi nghiệm x hệ tương ứng với tham số λ1 , , λm , µ1 , , µ k điểm KKT tốn xét Ví dụ Giải toán sau pp nhân tử Lagrange min{ f ( x) = x + x x1 + x2 = 10} 10/6/2010 MaMH C02012 2 Chương 4: QHPT có ràng buộc 22 Ví dụ Giải toán sau pp nhân tử Lagrange 2 min{ f ( x) = x12 − x1 + x2 − x3 + x3 x1 − x2 + x3 = 2} 10/6/2010 MaMH C02012 Chương 4: QHPT có ràng buộc 23 Phương pháp Frank – Wolfe giải toán quy hoạch lồi với ràng buộc tuyến tính Xét tốn QH lồi conv min{ f (x): x ∈ X}, ( P2 ) f hàm lồi lồi đa diện xác định ℝ X ⊂ ℝ tập n n X = {x ∈ ℝ : Ax ≤ b}, n m × n véctơ b ∈ ℝ m với A ma trận cấp 10/6/2010 MaMH C02012 Chương 4: QHPT có ràng buộc 24 Định nghĩa Cho điểm x ∈ X Véctơ d ∈ ℝ đgl hướng chấp nhận tập X x tồn số t* > cho x + td ∈ X với t thỏa mãn < t ≤ t* 10/6/2010 MaMH C02012 Chương 4: QHPT có ràng buộc n 25 Giả sử x ∈ X Khi x − x hướng chấp k nhận X x với x ∈ X Xét toán QHTT k k { ∇f ( x ), x − x k k } x∈ X Giả sử u ∈ X nghiệm tối ưu bt Khi đó: k k k • Nếu giá trị tối ưu ∇f ( x ), u − x ≥ ∇f ( x k ), x − x k ≥ với x ∈ X Khi otp k x := x nghiệm cực tiểu tốn xét • Ngược lại, giá trị tối ưu ∇f ( x k ), u k − x k < k 10/6/2010 MaMH C02012 Chương 4: QHPT có ràng buộc 26 u − x hướng giảm chấp nhận conv toán ( P2 ) k 10/6/2010 k MaMH C02012 Chương 4: QHPT có ràng buộc 27 Thuật tốn ( Thuật tốn Frank - Wolfe) Bước khởi đầu Tìm điểm tùy ý x ∈ X Đặt k := 0; Bước lặp k, (k=0,1,2,… ) (k1) Giải toán QHTT { ∇f ( x ), x − x k k x∈ X } PATƯ u ∈ X ; (k2) (kiểm tra đk tối ưu) k 10/6/2010 MaMH C02012 Chương 4: QHPT có ràng buộc 28 ≥ Then Dừng thuật toán otp k ( lấy x := x ) d k := u k − x k chuyển Bước (k3); Else Đặt k +1 k k (k3) Xác định x := x + tk d , If ∇f ( x ), u − x k k k tk = arg {ϕ (t ) = f ( x + td ) t ∈ [0,1]} k +1 (k4) If ∇f ( x ) ≈ Then Dừng thuật toán otp k +1 ( lấy x := x ) Else Đặt k := k + quay lại Bước lặp k k 10/6/2010 MaMH C02012 Chương 4: QHPT có ràng buộc k 29 Ví dụ Cho toán    f (u ) = u1 + u2 + u1 u1 ≥ 0, u2 ≥ 0, u1 + u2 ≤ 10    Cho u = (1,1) Xây dựng vài phần tử {u k } theo thuật toán Frank – Wolfe dãy lặp 10/6/2010 T MaMH C02012 Chương 4: QHPT có ràng buộc 30 ... DUNG − Bài tốn QHPT có ràng buộc − Điều kiện tối ưu − Một số phương pháp giải tốn QHPT có ràng buộc 10/6/2010 MaMH C02012 Chương 4: QHPT có ràng buộc Bài tốn Quy hoạch phi tuyến có ràng buộc có dạng:... C02012 Chương 4: QHPT có ràng buộc − Bài tốn QHPT có ràng buộc − Điều kiện tối ưu − Một số phương pháp giải tốn QHPT có ràng buộc 10/6/2010 MaMH C02012 Chương 4: QHPT có ràng buộc I Điều kiện tối ưu. .. giá trị tối ưu ∇f ( x k ), u k − x k < k 10/6/2010 MaMH C02012 Chương 4: QHPT có ràng buộc 26 u − x hướng giảm chấp nhận conv toán ( P2 ) k 10/6/2010 k MaMH C02012 Chương 4: QHPT có ràng buộc