Bài toán quy hoạch phi tuyến với kỹ thuật phân rã và ứng dụng: Luận văn ThS. Toán học: 60 46 01 02

ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN KHOA TOÁN - CƠ - TIN HỌC Phan Ngọc Tú BÀI TOÁN QUY HOẠCH PHI TUYẾN VỚI KỸ THUẬT PHÂN RÃ VÀ ỨNG DỤNG LUẬN VĂN THẠC SỸ Chun ngành: Tốn giải tích Mã số: 60.46.01.02 NGƯỜI HƯỚNG DẪN KHOA HỌC PGS.TS NGUYỄN HỮU ĐIỂN Hà Nội - 2014 DANH MỤC CÁC KÝ HIỆU VIẾT TẮT QHTT Quy hoạch tuyến tính QHPT Quy hoạch phi tuyến Rn Không gian thực n chiều ∇ f (x) Gradient hàm f điểm x ∇2 f ( x ) ∂ f (x) x Ma trận Hessian hàm f điểm x Chuẩn Euclid Đạo hàm riêng hàm f theo biến x Mục lục Lời nói đầu iii Các kiến thức 1.1 Một số kiến thức toán tối ưu 1.2 Bài toán đối ngẫu Phân rã quy hoạch tuyến tính 2.1 2.2 Những ràng buộc phức tạp 12 2.1.1 Cấu trúc toán 13 2.1.2 Sự phân rã 16 2.1.3 Thuật toán phân rã Dantzig-Wolfe 21 Những biến phức tạp 30 2.2.1 Cấu trúc toán 30 2.2.2 Thuật toán phân rã Benders 31 Phân rã quy hoạch phi tuyến 3.1 12 44 Phương pháp giảm dư Lagrange 45 3.1.1 45 Sự phân rã i 3.2 3.1.2 Thuật toán 50 3.1.3 Đối ngẫu bất khả thi 51 3.1.4 Cập nhật hệ số 52 Phân rã Lagrange gia tăng 54 3.2.1 Sự phân rã 54 3.2.2 Thuật toán 56 3.2.3 Tính tách 57 3.2.4 Cập nhật hệ số 57 3.2.5 Cập nhật tham số phạt 57 Kết luận 61 Tài liệu tham khảo 62 ii Lời nói đầu Tối ưu hóa mơn tốn học ứng dụng nghiên cứu, giảng dạy học tập nhiều trường Đại học - Cao đẳng, góp phần quan trọng việc ứng dụng khoa học công nghệ vào sống sản xuất Ngày nay, Quy hoạch tuyến tính (QHTT) phần quan trọng phát triển hồn thiện lý thuyết tối ưu hóa Phần đề cập tối ưu phi tuyến, gọi quy hoạch phi tuyến (QHPT) Ở hai phần này, số toán thực tế sống ta hay gặp tốn có kích thước lớn, việc xử lý chúng thơng thường điều khơng thể Vì việc thiết kế thuật toán theo hướng giải toán lớn vấn đề quan tâm xử lý Trong luận văn xem xét ý đến trường hợp riêng tốn tối ưu hóa, tốn có cấu trúc phân rã khai thác thuận lợi Các tốn phân rã tối ưu hóa toán phổ biến kỹ thuật khoa học ứng dụng Luận văn đề cập đến toán QHTT QHPT với trường hợp ràng buộc phức tạp biến phức tạp Các kỹ thuật phân rã bao gồm Dantzig - Wolfe, Benders, phương pháp giảm dư Lagrange kỹ thuật khác Bố cục luận văn bao gồm ba chương Chương trình bày số khái niệm tối ưu hóa, định lý Karush - Kuhn - Tucker, toán đối ngẫu Chương tập trung vào tốn có cấu trúc phân rã QHTT, iii thuật tốn phân rã Dantzig - Wolfe đề cập đến trường hợp ràng buộc phức tạp thuật toán Benders trường hợp biến phức tạp Ở có ví dụ minh họa rõ Chương tập trung vào số tốn có cấu trúc phân rã QHPT, với trường hợp ràng buộc phức tạp xem xét qua ví dụ sử dụng phương pháp giảm dư Lagrange phương pháp Lagrange gia tăng Trong luận văn chắn tránh khỏi hạn chế sai sót, tơi mong nhận góp ý ý kiến đóng góp Thầy Cô bạn đọc Qua em xin bày tỏ lòng biết ơn chân thành sâu sắc tới PGS.TS Nguyễn Hữu Điển, người giúp đỡ em trình thực luận văn Hà Nội, tháng 09 năm 2014 Học viên Phan Ngọc Tú iv Chương Các kiến thức 1.1 Một số kiến thức tốn tối ưu Trong khơng gian vectơ R n , cho D ⊆ R n tập khác rỗng hàm số thực f : D → R tùy ý Bài tốn tối ưu có dạng (P) min{ f ( x) : x ∈ D } tốn tìm vectơ (điểm) x∗ ∈ D cho f ( x∗ ) ≤ f ( x) với x ∈ D Trường hợp D = R n ta có tốn tối ưu khơng ràng buộc min{ f ( x) : x ∈ R n } hay minn f ( x) x ∈R Trái lại, (P) tốn tối ưu có ràng buộc Khi tập D thường cho (1.1) D = x ∈ R n : gi ( x ) 0, i = 1, , m; h j ( x) = 0, j = 1, , p với gi , h j : R n → R hàm số cho trước, gọi hàm ràng buộc Các hệ thức gi ( x) ≥ gọi ràng buộc bất đẳng thức, hệ thức h j ( x) = gọi ràng buộc đẳng thức Bài tốn (P) với f (x) khơng tuyến tính tập D cho (1.1) có hàm gi , h j phi tuyến Các toán tối ưu phi tuyến thuộc loại tốn tối ưu liên tục (khơng ràng buộc D = R n hay có ràng buộc D cho đẳng thức bất đẳng thức) Định nghĩa 1.1 (Hàm nửa liên tục) + Hàm f : D → R gọi hàm nửa liên tục điểm x ∈ D với ε > có δ > cho f ( x ) − ε f ( x) với x thuộc D, x − x < δ Hàm f gọi nửa liên tục D f liên tục điểm x ∈ D Định nghĩa tương đương với limx ∈ D,x →x f ( x) f ( x ) + Hàm f : D → R gọi hàm nửa liên tục điểm x ∈ D với ǫ > có δ > cho f ( x) f ( x ) + ε với x thuộc D, x − x < δ Hàm f gọi nửa liên tục trên D f liên tục điểm x ∈ D Định lí 1.1 Một hàm f(x) nửa liên tục tập compact D khác rỗng phải đạt cực tiểu D Tương tự, hàm f(x) nửa liên tục trên tập compact D khác rỗng phải đạt cực đại D Định lí 1.2 a) Một hàm f : D → R nửa liên tục tập đóng D khác rỗng mà (coercive) D, nghĩa f ( x) → +∞ x ∈ D, x → +∞, f phải có cực tiểu D b) Một hàm f : D → R nửa liên tục trên tập đóng D khác rỗng mà - f D, nghĩa f ( x) → −∞ x ∈ D, x → +∞, f phải có cực đại D Định lí 1.3 (Định lý Karush - Kuhn - Tucker) Giả sử hàm f, gi , h j (i = 1, , m; j = 1, , p) khả vi tập mở chứa D, x∗ ∈ D điểm cực tiểu địa phương toán x∗ điểm qui Khi đó, tồn vectơ λ∗ = (λ1∗ , , λ∗m )T , µ∗ = (µ1∗ , , µ∗p )T thỏa mãn  p m  ∗ ∗ ∗   (1.1) ∇ f ( x ) + ∑ λi ∇ gi ( x ) + ∑ µ∗j ∇h j ( x∗ )   i =1 j =1  λi∗ gi ( x∗ ) = λi∗ 0, i = 1, , m (1.2)     gi ( x∗ ) 0, i = 1, , m; h j ( x∗ ) = 0, j = 1, , p (1.3) Chứng minh Do x∗ điểm cực tiểu địa phương nên theo điều kiện cần tối ưu cấp ta có < ∇ f ( x∗ ), d > với d ∈ TD ( x∗ ) Do x∗ điểm qui (tức TD ( x∗ ) = S( x∗ )) nên bất đẳng thức với d ∈ S( x∗ ), nghĩa với d ∈ R n nghiệm hệ phương trình với x∗ thay cho x0 Áp dụng bổ đề Farkas cho ma trận A với ma trận chuyển vị AT có cột −∇ gi ( x∗ ), i ∈ I ( x∗ ), ∇h j ( x∗ ), −∇h j ( x∗ ) ( j = 1, , p) Ta tìm số thực λi∗ ∗ ∇ f (x ) = − 0(i ∈ I ( x∗ )), α j ∑ i∈T (x∗ ) λi∗ ∇ gi ( x∗ ) + 0, β j 0( j = 1, , p) cho p ∑ (α j − β j )∇h j (x∗ ) j =1 Bằng cách đặt λi∗ = với i ∈ / I ( x∗ ), µ∗j = β j − α j với j = 1, , p ta nhận hai điều Do x∗ ∈ D nên ta có điều cuối Nhận xét 1.1 a) Đối với toán (P) ta lập hàm số sau đây, gọi hàm Lagrange tương ứng với (P) p m L( x, λ, µ) = f ( x) + ∑ λi gi ( x) + i =1 (x ∈ R n , λi thành ∑ µ j h j ( x) j =1 với i µ j tùy ý với j) Khi điều kiện KKT viết lại ∇x L( x, λ, µ) = 0, λT ∇λ L( x, λ, µ) = 0, ∇λ L( x, λ, µ) 0, ∇µ L( x, λ, µ) = 0, điều kiện (1.1) gọi điều kiện dừng, ∇x L( x, λ, µ) = 0; (1.2) điều kiện bù (1.3) điều kiện chấp nhận b) Trường hợp tập D có thêm ràng buộc xk với k ∈ K ⊂ {1, , n}, tức D = { x ∈ R n : gi ( x ) 0, i = 1, , m; h j ( x) = 0, j = 1, , p; xk 0, k ∈ K}, điều kiện (1.1) đổi thành (các điều kiện (1.2), (1.3) không thay đổi) (1.1a) (1.1b) (1.1c) p m ∂h j ( x∗ ) ∂gi ( x∗ ) ∂ f (x∗ ) + ∑ λi + ∑ µj = ∀k ∈ / K, ∂xk ∂xk ∂xk i =1 j =1 m ∂h j ( x∗ ) ∂gi ( x∗ ) ∂ f (x∗ ) + ∑ λi + ∑ µj ∂xk ∂x ∂xk k i =1 j =1 p xk∗ [ 0, xk∗ ∀k ∈ K, p m ∂h j ( x∗ ) ∂g ( x∗ ) ∂ f (x∗ ) + ∑ λi i + ∑ µj ] = 0, ∀k ∈ K ∂xk ∂x ∂x k k i =1 j =1 Ví dụ 1.1 a) Tìm điều kiện KKT cho toán sau (P) min{ f ( x) = − log x1 − log x2 : x1 + x2 − 0, x1 0, x2 } điểm cực tiểu địa phương x∗ = ( x1∗ , x2∗ ) (P) Trong ví dụ g(x) = x1 + x2 − Hàm Lagrange có dạng L( x, λ) = f ( x) + λg( x) = − log x1 − log x2 + λ( x1 + x2 − 2) Điều kiện KKT x∗   − + λ 0, − + λ 0, x (λ − ) = 0, x2 (λ − ) = x1 x2 x1 x2  λ( x1 + x2 − 2) = 0, x1 + x2 − 0, x1 0, x2 0, λ Giải hệ ta điểm KKT x∗ = (1, 1)T với λ∗ = Đó nghiệm cực tiểu toán (Chú ý (P) toán lồi) b) Một ví dụ khác Kiểm tra điều kiện KKT toán sau ( x1 − )2 + ( x2 − )4 , với điều kiện x 2 g1 ( x ) = x + x − g3 ( x ) = − x + x − 0, g2 ( x) = x1 − x2 − 0, 0, g4 ( x) = − x1 − x2 − Có thể thấy x∗ = (1, 0)T điểm cực tiểu, I ( x∗ ) = {1, 2} Ta có   −1 1 , ∇ g2 ( x ∗ ) = ∇ f ( x ∗ ) =   , ∇ g1 ( x ∗ ) = −1 − Vì điều kiện KKT thỏa mãn đặt λ∗ = ( 43 , 41 , 0, 0)T 1.2 Bài toán đối ngẫu Những kết thu cho tốn quy hoạch tuyến tính khái qt cho toán quy hoạch phi tuyến Xét toán gốc phi tuyến tổng quát f ( x), với x (1) h( x) = 0, g( x ) Hình 3.1: Minh họa tốn ví dụ minh họa 3.1; (a) cực tiểu mặt phẳng XY; (b) hàm đối ngẫu; (c) giải thích đồ họa 3-D toán đối ngẫu toán gốc 47 Và hàm đối ngẫu trở thành: max 4µ − 12 µ2 , với µ ≥ Ở nghiệm µ = µ 4, z = Chú ý giá trị tối ưu hàm Lagrange ứng với giá trị µ ln ln µ đạt điểm x = y = , dẫn đến x y hàm µ, hàm Lagrange biểu diễn L(x,y) Hình 3.2: Giải thích đồ họa 3-D hàm liên quan toán cực tiểu 3.1 Giải thích hình học Cho điểm x=(x,y), dễ dàng tính tốn tương ứng với giá trị µx (Xem hình 3.1c) Với điểm A=(x,y)=(0,0) B=(x,y)=(2,2), tương ứng với µ A = 48 µ B = Do với điểm x (3.1) µx = (µ A − µ B )d AB Trong d phép chiếu vectơ x đường thẳng x = y AB khoảng cách hai điểm A B Xét vectơ s T = (1,1) sT x x+y d= √ = √ sT s (3.2) Thay (3.2) vào (3.1): µx = (µ B −µ A√ )( x +y) AB = 4( x +y ) √ √ 2 = x + y Và hàm Lagrange là: L( x, y) = x2 + y2 + ( x + y)(− x − y + 4) Nó tồn mang ngồi giải thích hình học 3D tất hàm liên quan tốn hình 3.1c 3.2 Cuối hàm trở thành tối ưu f ( x, y) = x2 + y2 , hàm Lagrange L( x, y, µ) = L(x,y), liên hợp hai hàm hàm đối ngẫu Φ(µ) biểu diễn Nó xóa mà nghiệm tối ưu tốn đạt điểm yên ngựa hàm Lagrange, tức giá trị lớn hàm đối ngẫu giá trị nhỏ hàm gốc trùng Phân tích nghiệm Những khơi phục giải phân hủy giảm dư Lagrange toán đối ngẫu phân phối hình dáng minh họa Xét tốn đối ngẫu max ∑ Φi (µ), với µ ≥ µ i =1 Trong Φ1 (µ) = L1 (µ) = x2 − µx + 2µ , với x ≥ x Φ2 (µ) = L2 (µ) = y2 − µy + 2µ, với y ≥ y Trong hình 3.3a biểu diễn 3D hàm mục tiêu L1 ( x, µ) L2 (y, µ) với µ = 49 Hình 3.3: Đồ họa minh họa phân rã giảm dư Lagrange cho giá trị µ = 3.1.2 Thuật tốn Giai đoạn thuật toán giảm dư Lagrange cho cách giải tốn đối ngẫu trình bày Thuật toán 3.1 (Phương pháp giảm dư Lagrange) Bước 0; Thiết lập ban đầu Đặt υ = biến khởi đầu λ(υ) = λ0 µ(υ) = µ0 ( υ −1 ) Đặt Φdown = − ∞ Bước 1: Giải toán gốc giảm dư Giải toán gốc giảm dư (RPP)) tìm giá trị nhỏ xυ giá trị hàm mục tiêu giá trị cực tiểu Φ(υ) Cập nhật cận cho hàm mục tiêu toán gốc, ( υ −1 ) ← Φ(υ) Φυ ≥ Φdown Bước 2: Cập nhật hệ số ( υ) Φdown Cập nhật bội sử dụng vài phương pháp bắt đầu mục 3.3.4 Nếu tồn tại, cập nhật cận hàm mục tiêu 50 Bước 3: Kiểm tra hội tụ Nếu λ ( υ +1 ) − λ ( υ −1 ) λ( υ) ≤ ε µ ( υ +1 ) − µ ( υ −1 ) µ ( υ) ≤ ε và/hoặc tiêu chuẩn dừng mục 3.3.4 thỏa mãn, nghiệm ε tối ưu x∗ = xυ , dừng Cách khác, đặt υ ← υ + đến bước 3.1.3 Đối ngẫu bất khả thi Sự khác giá trị hàm mục tiêu tốn gốc tìm giá trị nhỏ giá trị hàm mục tiêu toán đối ngẫu tìm giá trị lớn gọi khe đối ngẫu Nó trường hợp hay sử dụng khe đối ngẫu giảm với kích cỡ toán gốc Một nghiệm toán đối ngẫu đạt được, nghiệm tốn gốc liên hợp khơng khả thi q trình khả thi khơng thể thiếu Q trình phải tìm nguyên sơ khả thi gồm nghiệm tối ưu gọi giai đoạn toán giảm dư Lagrange Giai đoạn đổi giá trị bội thu cuối giai đoạn tới đạt nguyên thủy khả thi Quá trình Gradient (Xem mục 3.1.4) thường sủ dụng Trong nhiều tốn cụ thể chúng hiệu để đạt tính khả thi vài bước lặp mà không thay đổi đáng kể giá trị hàm mục tiêu toán đối ngẫu giá trị lớn 3.1.4 Cập nhật hệ số Dưới có mục đích rõ ràng, vectơ bội λ µ gọi lại với tên θ = cột(λ, µ) Vectơ cột ràng buộc không khớp (lệch nhau) lần lặp υ thiết lập Gradient hàm đối ngẫu, tức s(υ) = cột[c( xυ ), d( xυ )], 51 vectơ gradient cho hàm đối ngẫu, mà sủ dụng bên Chi tiết tìm chương Dưới gradient (SG) Vectơ bội cập nhật sau θ ( υ +1 ) =θ ( υ) +k ( υ +1 ) s ( υ +1 ) s ( υ) (υ) → ∞ Một lựa chọn tiêu biểu yêu cầu Trong lim k (υ) → ∑∞ υ =1 k υ→ ∞ ( k υ) = a+bυ , a b đại lượng vô hướng không đổi Phương pháp Gradient (SG) đơn giản tới bổ sung (thi hành) gánh nặng tính tốn nhỏ Tuy nhiên, tăng chậm đến tối ưu hình dáng dao động Đây hệ tính khơng khả thi hàm đối ngẫu Xa nữa, hoạt động dao động làm khó để đặt tiêu chuẩn dừng thích hợp Nó đặc trưng dừng sau số phép lặp đặc biệt Ví dụ 3.2 (Cập nhật Gradient) Để làm rõ phương pháp Gradient làm việc nào, ví dụ 3.1 giải sử dụng trình cập nhật hệ số Kết toán x∗ = y∗ = 2, f ( x∗ , y∗ ) = Hệ số liên hợp Lagrange với ràng buộc có giá trị tối ưu µ∗ = Hàm Lagrange L( x, y, µ) = x2 + y2 + µ(− x − y + 4) Các bước giải thuật toán Bước 0: Thiết lập ban đầu Đặt µ = µ0 Bước 1: Nghiệm toán gốc giảm dư Bài toán gốc giảm dư phân tích hai tốn (2µ số gán tới tốn con) x2 − µx + 2µ với x ≥ 0, x y2 − µy + 2µ với y ≥ y Trong nghiệm xác định theo thứ tự xc yc Bước 2: Cập nhật bội Một phương pháp Gradient với số tỉ lệ 52 k (µ) = a+bυ sử dụng, µ←µ+ (− xc − yc + 4) a + bµ |(− xc − yc + 4)| Bước 3: Kiểm tra hội tụ Nếu hệ số µ không thay đổi đủ, dừng lại; nghiệm tối ưu x∗ = xc , y∗ = yc Phương pháp khác tiếp tục bước Xét a = 1, b = 0,1 giá trị bội ban đầu µ(0) , thuật tốn dến bảng hình 3.4 bên Hình 3.4: Quá trình phát triển thuật toán giảm dư Lagrange sử dụng sử dụng phương pháp cập nhật hệ số gradient 3.2 Phân rã Lagrange gia tăng Quá trình phân rã Lagrange gia tăng (AL) xét 53 3.2.1 Sự phân rã Hàm Lagrange gia tăng tốn (P) có cơng thức (3.3) A( x, z, λ, µ, α, β) = f ( x) + λT c( x) + α c( x) nd + ∑ µi di ( x ) + zi + β di ( x ) + zi 2 i =1 Những tham số phạt α β đại lượng xác định đủ lớn để đảm bảo tính lồi địa phương zi (i = 1, , nd ) biến thêm để biến đổi ràng buộc bất đẳng thức vào ràng buộc đảng thức Chú ý số hạng bậc hai trao hàm Lagrange gia tăng thuộc tính lồi chặt Trong hình 3.11, giải thích đồ họa hàm Lagrange gia tăng biểu diễn Để thuận tiện, ta định nghĩa vi = zi (i = 1, , nd ), hàm Lagrange gia tăng tương đương với (3.4) A( x, v, λ, µ, α, β) = f ( x) + λT c( x) + α c( x) 2 nd + ∑ µi ( di ( x ) + vi ) + β ( di ( x ) + vi ) i =1 Quá trình phân rã Lagrange gia tăng liên quan đến giảm thiểu hàm Lagrange gia tăng (3.4) Chú ý giảm thiểu tối đa đối tới v mang phân tích kiểu bị phân rã, dẫn đến toán liên quan đến x Sự cực tiểu hóa (3.4) với vi (3.5) pi = µi (di ( x) + vi ) + β(di ( x) + vi )2 , v i ≥0 biến vi phải khơng âm Bài tốn dễ dàng giải Đạo hàm hàm mục tiêu với vi µi + β(di ( x) + vi ) Nếu vi > 0, đạo hàm phải 0, từ vi = −di ( x) − µi β Nếu vi = 0, điều có nghĩa di ( x) thỏa mãn đẳng thức, 54 dẫn đến µi > 0, đạo hàm phải khơng âm Do (3.6) vi = max{0, −di ( x) − µi }; i = 1, , nd β Từ hàm mục tiêu tốn (3.4) đánh sau pi =   2β (µi + βdi ( x))2 − µ2i vi =  − µ2 vi = −di ( x) − 2β i µi β Những kết kết hợp vào cơng thức (3.7) pi = (max{0, µi + βdi ( x)) − µi 2β Cuối ta thay biểu thức pi (i = 1, , nd ) vào (2.3) để thu biểu diễn hàm Lagrange gia tăng (3.8) A( x, λ, µ, α, β) = f ( x) + λT c( x) + α c( x) 2 nd + (max{0, µi + βdi ( x)) − µi ∑ 2β i=1 Ngồi ra, điểm xử lý phi tuyến ràng buộc bất đẳng thức sử dụng Việc xử lý đòi hỏi thêm biến phụ để ràng buộc bất đẳng thức Hàm Lagrange gia tăng toán (P) tới chuyển vào ràng buộc đẳng thức Những biến phụ sau kết hợp tới hàm mục tiêu thông qua số hạng rào cản logarithm đảm bảo tính dương chúng 3.2.2 Thuật toán Sự phân rã dựa Lagrange gia tăng tương tự trình phân rã Lagrange ban đầu mục tiếp Sự khác số hạng bậc hai AL làm cho tốn gốc giảm dư khơng phân tích Để phân tích hai q trình sử dụng Chúng 55 đề cập mục 3.2.3 Thuật toán cung cấp Thuật toán 3.2 (Phân rã Lagrange gia tăng) Bước Thiết lập ban đầu Thiết lập hệ số λ µ, tham số phạt α β Bước 1: Nghiệm toán gốc giảm dư Giải toán gốc giảm dư (3.8) Bài tốn làm tách rời (xem mục 3.2.3 đây) Bước 2: Cập nhật hệ số Tính gradient hàm đối ngẫu cập nhật hệ số với mục đích cực tiểu hóa hàm đối ngẫu (xem mục 3.2.4) Bước 3: Kiểm tra tính hội tụ Nếu hệ số không thay đổi đáng kể hai lần lặp liên tiếp dừng, nghiệm tìm kiếm Những trường hợp khác tiếp tục với bước 3.2.3 Tính tách Q trình để thu tính tách chuyển thành phương trình tuyến tính số hạng bậc hai Lagrange gia tăng số lượng nhỏ không đổi biến để giá trị phép lặp để hồn tất tính tách Q trình thứ hai hồn tồn khơng đổi Lagrange gia tăng số lượng nhỏ biến để giá trị phép lặp tới hoàn tất tính tách 3.2.4 Cập nhật hệ số Một quy tắc hợp lý để cập nhật hệ số λ λ(υ+1) = λ(υ) + αc( x(υ) ) Khi hệ số µ khơng âm, cập nhật sau ( υ +1 ) µi ( υ) = max{0, µi + βdi ( x(υ) )}; i = 1, , nd 56 3.2.5 Cập nhật tham số phạt Những tham số phạt α β tăng với số lượng lặp lặp lại mà tính lồi trì, cách mà khơng có điều kiện xấu số xuất Chúng ta bắt đầu phân tích chi tiết phương pháp Lagrange gia tăng cách cho tham số phạt α đủ lớn, Lagrange gia tăng có điểm cực tiểu địa phương gần điểm tối ưu thật Điều xuất phát từ Bổ đề đơn giản sau Bổ đề 3.1 Cho A B ma trận đối xứng n × n Giả sử B nửa xác định dương A xác định dương không gian Bx = Khi có α∗ cho với α α∗ ma trận A + αB xác định dương Chứng minh Giả sử trái ngược với k có xk với | xk | = cho xkT ( A + kB) xk Dãy { xk } có dãy hội tụ đến giới hạn x Bây xkT Bxk 0, dẫn đến x T Bx = Điều dẫn đến x T Bx Tuy nhiên điều mâu thuẫn với giả thuyết Bổ đề Ví dụ 3.3 (Phân rã Lagrange gia tăng) Bài toán giải f ( x, y) = x2 + y2 , với − x − y ≤ −4; x ≥ 0; y ≥ 0, x,y có nghiệm x∗ = y∗ = , f ( x∗ , y∗ ) = Hệ số Lagrange liên kết với ràng buộc có giá trị tối ưu µ∗ = Hàm AL là: A( x, y, µ) = x2 + y2 + (max {0, µ + β(− x − y + 4)})2 − µ2 2β Những toán để giải bước thuật toán phân rã x2 + (max {0, µ + β(− x − y + 4)})2 − µ2 với x ≥ 0, 2β x2 + (max {0, µ + β(− x − y + 4)})2 − µ2 với y ≥ 2β x x Thuật toán áp dụng Bước Thiết lập ban đầu 57 Hình 3.5: Hình vẽ minh họa hàm Lagrange hàm Lagrange gia tăng cho giá trị khác tham số phạt β ví dụ minh họa 3.3 58 Những biến hệ số thiết lập, tức x = y = 5, µ = 3, β = 0, Bước Nghiệm toán gốc giảm dư Bài tốn phân tích vào hai toán Bài toán x2 + x (max {0, + 0, 3(− x − + 4)})2 − 32 với x ≥ 2.0, có nghiệm x = 1,17 Bài toán thứ hai y2 + y (max {0, + 0, 3(−5 − y + 4)})2 − 32 với y ≥ 0, 2.0, có nghiệm y = 1,17 Bước Cập nhật hệ số: Hệ số cập nhật µ = max {0, µ + β(− x − y + 4)} = max {0, + 0, 3(−1, 17 − 1, 17 + 4)} = 3, 50 Bước Kiểm tra tính hội tụ Hệ số µ thay đổi đầy đủ, biến cập nhật x = y = 1, 17 Tham số β tăng β ←− 1, 2β Thuật toán tiếp tục bước tính hội tụ đạt Thuật toán dừng υ = 10, dẫn đến nghiệm x = y = 2, 00 µ = 4, 00 β = 1, 86 f ( x, y) = 8, 00 Sự khai (khai triển) thuật toán biểu diễn bảng hình 3.6 Hình 3.6: Phát triển thuật tốn Lagrange gia tăng ví dụ 3.3 59 Kết luận Trong luận văn em trình bày số trường hợp riêng tốn tối ưu hóa, tốn có cấu trúc đặc biệt, bao gồm kỹ thuật phân rã Dantzig - Wolfe, phân rã Bender, phương pháp giảm dư Lagrange kỹ thuật khác Song song với số ví dụ số minh họa cho kỹ thuật phân rã Để đánh giá, lựa chọn phương pháp, ta cần biết đánh giá mức độ hội tụ thuật toán tối ưu Do thời gian thực luận văn khơng nhiều, kiến thức cịn hạn chế, em xin phép hồn thiện phát triển lập trình thuật toán tương lai Mặc dù cố gắng, song khơng thể tránh khỏi cịn có sai sót, em mong nhận góp ý quý thầy cô bạn đọc 60 Tài liệu tham khảo [1] Bùi Thế Tâm - Trần Vũ Thiệu (1998), Các phương pháp tối ưu hóa, NXB Giao thơng vận tải [2] Trần Vũ Thiệu - Nguyễn Thị Thu Thủy (2011), Giáo trình tối ưu phi tuyến, NXB ĐHQG Hà Nội [3] Nguyễn Hữu Điển (2006), Một số vấn đề thuật toán, NXB Giáo dục [4] Antonio J.Conejo - Enrique Castilo - Roberto Mínguez - Raquel García Bertrand (2005), Decomposition techniques in mathematical programming, Springer [5] David G.Luenberger (2007), Linear and Nonlinear Programming, Springer 61