3 Phương pháp giải quy hoạch lồi có ràng buộc
3.3 Phương pháp Frank – Wolfe
Trong mục này, chúng ta giới thiệu một phương pháp cơ bản giải bài tốn quy hoạch có ràng buộc. Với phương pháp này ta có thể thấy được sự khác nhau cơ bản khi giải các bài tốn có ràng buộc và khơng ràng buộc.
Xét bài tốn qui hoạch rằng buộc tuyến tính sau
minf(x) (5.9)
với rằng buộc
x ∈ D := {Ax 6 b.x > 0}.
Trong đó f là một hàm khả vi liên tục trên D, A là ma trận (m ×n) và b ∈ Rm sao cho D bị chặn.
Ta xây dựng một thuật tốn hướng có thể như sau:
1. Dùng quy hoạch tuyến tính (nếu cần) tìm điểm xuất phát x0 ∈ D. 2. Khi đã có xk ∈ D, tính ∇f(xk).
2a) Nếu ∇f(xk) = 0: dừng.
2b) Trái lại phải qui hoạch tuyến tính
thu được một lời giải uk là đỉnh của D. Hai khả năng có thể xảy ra
(i)∇f(xk), uk −xk > 0.
Khi đó dừng thuật tốn. Nếu
(ii)∇f(xk), uk−xk < 0,
ta lấy dk := uk −xk 6= 0 là hướng tụt. Theo hướng này, chọn xk+1 ∈ D sao cho f(xk+1) là nhỏ nhất trong số các điểm chấp nhận nằm trên hướng dk. Như vậy ta phải giải bài toán một biến.
minf(xk +tdk),06 t6 1 .
Gọi nghiệm bài toán này là tk > 0. Lấy xk+1 = xk + tkdk. Như vậy f(xk+1) < f(xk).
Quay lại bước 2 với xk được thay bằng xk+1 Thuật toán hội tụ theo định lý sau:
Định lý 3.9. Với các giả thiết đã nêu ở trên ta có (a) f(xk+1) < f(xk)∀k.
(b) Nếu thuật tốn kết thúc tại điểm xk, thì xk là một điểm dừng của f trên D. Nếu thuật tốn vơ hạn thì mọi điểm tụ của dãy xk đều là điểm dừng.
(c) Nếu f là lồi, thì mọi điểm dừng đều là lời giải của (5.9). Ngoài ra dãy số f(xk) là hội tụ đến trị tối ưu f∗ và
06 f(xk)−f∗ 6 ∇f(xk).xk−uk∀k.
Chứng minh. a) Hiển nhiên, vì theo cách xây dựng, dk là hướng tụt. b) Giả sử thuật toán kết thúc tại bướck. Nghĩa là ∇f(xk).uk −xk >
0. Do uk là nghiệm của bài toán (L(xk)) nên với mọi x ∈ D có
∇f(xk).x−xk > ∇f(xk).uk−xk > 0. Vậy xk là điểm dừng.
Giả sử thuật tốn vơ hạn. Gọi x∗ là một điểm tụ của dãy xk . Do D
compact, tồn tại một dãy con xkj hội tụ đến x∗. Gọi ukj là nghiệm của quy hoạch tuyến tính (L(xkj)). Do tập đỉnh của D là hữu hạn nên ta có thể coi rằng ukj = u∗ với mọi j. Theo tính đơn điệu giảm của dãy f(xk) và cách xác định xk+1, u∗, với mọi 0 < t < 1 ta có
f(xkj+1) 6 f(xkj+1) 6 f(xkj +t(u∗ −xkj)).
Cho j →+∞, do f liên tục nên
f(x∗) 6 f(x∗ +t(u∗ −x∗)).
Vì điều này đúng với mọi 0< t < 1 nên
lim
t→0
f(x∗ + t(u∗ −x∗))−f(x∗)
t = h∇f(x∗), u∗ −x∗i > 0.
Mặt khác do u∗ là nghiệm của bài toán (L(xkj)), nên
∇f(xkj), u∗ −xkj 6 ∇f(xkj), x−xkj ∀x ∈ D. Qua giới hạn, được
h∇f(x∗), u∗ −x∗i 6 h∇f(x∗), x −x∗i. Vậy h∇f(x∗), x−x∗i > 0 ∀x ∈ D. Suy ra x∗ là điểm dừng. Nếu f là hàm lồi, thì h∇f(x∗), x−x∗i 6 f(x)−f(x∗) ∀x ∈ D.
Do đó f(x∗) 6 f(x) với ∀x ∈ D. Chứng tỏ x∗ là một điểm cực tiểu của f
Kết luận
Như đã trình bày ở trên, bản luận văn cao học này nhằm mục đích chủ yếu giới thiệu các phương pháp cơ bản nhất để giải quy hoạch lồi khơng ràng buộc. Đó là các phương pháp hướng giảm, sử dụng đạo hàm cấp một và đạo hàm cấp hai của hàm lồi khả vi. Tuy nhiên luận văn cũng trình bày thêm các phương pháp hàm phạt, cho phép chuyển việc giải bài tốn quy hoạch lồi có ràng buộc về việc giải các bài toán quy hoạch lồi khơng ràng buộc.
Nội dung chính đã trình bày trong luận văn bao gồm:
+ Nhắc lại một số khái niệm và tính chất của giải tích lồi như: Tập lồi, hàm lồi, dưới vi phân,... và một số ví dụ.
+ Phát biểu bài toán quy hoạch lồi. Đưa ra một số khái niệm, định lý quan trọng và các ví dụ. Trình bày một số phương pháp giải bài toán như: Phương pháp hướng giảm, phương pháp Newton.
+ Phát biểu bài toán quy hoạch lồi có ràng buộc, điều kiện tối ưu. Một số khái niệm, định lý quan trọng như: Định lý Karush-Kuhn-Tucker, Định lý Kuhn-Tucker. Trình bày một số phương pháp giải bài tốn như: Phương pháp hàm phạt, phương pháp Frank - Wolfe. Trong đó phương pháp Frank-Wolf là thuật tốn cơ bản giải trực tiếp quy hoạch lồi có ràng buộc tuyến tính.
Tài liệu tham khảo
Tài liệu tiếng Anh
[1] Stephen Boyd and Lieven Vandenberghe (2004),Convex Optimization,
Cambridge University Press.
Tài liệu tiếng Việt
[2] Đỗ Văn Lưu - Phan Huy Khải, (2000), Giải tích lồi, NXB KHKT Hà
Nội.
[3] Lê Dũng Mưu - Nguyễn Văn Hiền, (2009), Nhập mơn Giải tích lồi ứng dụng, NXB KHTN-CN Hà nội.
[4] Trần Vũ Thiệu - Nguyễn Thị Thu Thủy, (2010), Nhập môn Tối ưu phi tuyến, NXB ĐHTN.