2 Phân rã trong quy hoạch tuyến tính
3.2 Phân rã Lagrange gia tăng
3.2.1 Sự phân rã
Hàm Lagrange gia tăng của bài toán (P) có cơng thức (3.3) A(x,z,λ,µ,α,β) = f(x) +λTc(x) +1 2αkc(x)k2 + nd ∑ i=1 µi di(x) +zi2 + 1 2β di(x) +zi22 .
Những tham số phạt α và β là những đại lượng xác định đủ lớn để đảm bảo tính lồi địa phương và zi(i =1, . . . ,nd) là những biến thêm để biến đổi những ràng buộc bất đẳng thức vào trong những ràng buộc đảng thức. Chú ý rằng những số hạng bậc hai trao hàm Lagrange gia tăng những thuộc tính lồi chặt. Trong hình 3.11, một sự giải thích đồ họa của hàm Lagrange gia tăng được biểu diễn.
Để thuận tiện, ta định nghĩa vi =zi2(i = 1, . . . ,nd), do đó hàm Lagrange
gia tăng ở trên tương đương với
(3.4) A(x,v,λ,µ,α,β) = f(x) +λTc(x) +1 2αkc(x)k2 + nd ∑ i=1 µi(di(x) +vi) + 1 2β(di(x) +vi)2 .
Quá trình phân rã Lagrange gia tăng liên quan đến giảm thiểu hàm Lagrange gia tăng (3.4). Chú ý rằng sự giảm thiểu tối đa đối tớivcó thể được mang đi phân tích trong một kiểu bị phân rã, dẫn đến một bài toán rằng chỉ liên quan đến x. Sự cực tiểu hóa của (3.4) vớivi là
(3.5) min
vi≥0pi =µi(di(x) +vi) + 1
2β(di(x) +vi)2,
trong đó biếnvi phải khơng âm.
Bài tốn này có thể dễ dàng giải được. Đạo hàm của hàm mục tiêu ở trên với
vi làµi+β(di(x) +vi).
Nếuvi > 0, đạo hàm phải là 0, từ đóvi =−di(x)− µi
β.
dẫn đếnµi >0, và đạo hàm phải khơng âm. Do đó
(3.6) vi =max{0,−di(x)− µβi}; i =1, . . . ,nd.
Từ đó hàm mục tiêu của bài tốn (3.4) được đánh giá như sau
pi = 1 2β h (µi+βdi(x))2−µ2ii nếuvi =0 −2β1 µ2inếuvi=−di(x)− µi β
Những kết quả đó được kết hợp vào trong cơng thức
(3.7) pi = 1
2β
h
(max{0,µi +βdi(x))2−µi2i
.
Cuối cùng ta thay thế biểu thức của pi(i=1, . . . ,nd)vào trong (2.3) để thu được một biểu diễn của hàm Lagrange gia tăng hiện ra
(3.8) A(x,λ,µ,α,β) = f(x) +λTc(x) + 1 2αkc(x)k2 + 1 2β nd ∑ i=1 h (max{0,µi+βdi(x))2 −µi2i .
Ngồi ra, một điểm trong xử lý phi tuyến của những ràng buộc bất đẳng thức có thể được sử dụng. Việc xử lý này đòi hỏi thêm những biến phụ để những ràng buộc bất đẳng thức trong Hàm Lagrange gia tăng của bài toán (P) tới chuyển vào trong những ràng buộc đẳng thức. Những biến phụ này sau đó kết hợp tới hàm mục tiêu thông qua những số hạng rào cản logarithm đảm bảo tính dương của chúng.
3.2.2 Thuật tốn
đề cập trong mục 3.2.3.
Thuật toán cung cấp dưới đây
Thuật toán 3.2. (Phân rã Lagrange gia tăng)
Bước 0. Thiết lập ban đầu. Thiết lập những hệ sốλ và µ, và những tham số
phạtαvà β.
Bước 1: Nghiệm của bài toán gốc giảm dư.
Giải bài tốn gốc giảm dư (3.8). Bài tốn này có thể làm tách rời được (xem mục 3.2.3 dưới đây).
Bước 2: Cập nhật hệ số. Tính gradient dưới của hàm đối ngẫu và cập nhật những hệ số với mục đích của cực tiểu hóa hàm đối ngẫu (xem mục 3.2.4). Bước 3: Kiểm tra tính hội tụ.
Nếu những hệ số khơng thay đổi đáng kể trong hai lần lặp liên tiếp thì dừng, nghiệm được tìm kiếm. Những trường hợp khác tiếp tục với bước 1.
3.2.3 Tính tách được
Q trình đầu tiên để thu được tính tách được chuyển thành phương trình tuyến tính những số hạng bậc hai của Lagrange gia tăng và số lượng nhỏ nhất không đổi của những biến để giá trị của phép lặp tiếp theo để hồn tất tính tách được. Q trình thứ hai hồn tồn khơng đổi trong Lagrange gia tăng số lượng nhỏ nhất của những biến để giá trị của phép lặp tiếp theo tới hồn tất tính tách được.
3.2.4 Cập nhật hệ số
Một quy tắc hợp lý để cập nhật những hệ sốλ là
λ(υ+1) =λ(υ)+αc(x(υ)).
Khi những hệ số µlà khơng âm, chúng ta có thể cập nhật như sau
3.2.5 Cập nhật tham số phạt
Những tham số phạt α và β có thể tăng với số lượng lặp đi lặp lại mà tính lồi được duy trì, nhưng trong một cách mà khơng có điều kiện xấu số xuất hiện. Chúng ta bắt đầu phân tích chi tiết hơn của chúng ta về phương pháp Lagrange gia tăng bằng cách cho rằng nếu tham số phạtαlà đủ lớn, Lagrange gia tăng có một điểm cực tiểu địa phương gần điểm tối ưu sự thật. Điều này xuất phát từ Bổ đề đơn giản sau đây.
Bổ đề 3.1. Cho A và B là các ma trận đối xứng n×n. Giả sử B là nửa xác định
dương và A là xác định dương trên không gian con Bx = 0. Khi đó có một α∗ sao cho với mọiα>α∗ thì ma trậnA+αB là xác định dương.
Chứng minh. Giả sử trái ngược rằng với mỗi k có mộtxk với |xk|=1sao cho
xTk(A+kB)xk 60. Dãy {xk} có một dãy con hội tụ đến giới hạn x. Bây giờ xTkBxk>0, nó dẫn đếnxTBx=0. Điều đó cũng dẫn đếnxTBx60. Tuy nhiên
điều này mâu thuẫn với giả thuyết của Bổ đề.
Ví dụ 3.3. (Phân rã Lagrange gia tăng) Bài toán được giải là
min
x,y f(x,y) = x2 +y2, với −x−y≤ −4; x≥0; y≥0,
có nghiệm là x∗ = y∗ = 2 , f(x∗,y∗) = 8. Hệ số Lagrange liên kết với ràng
buộc đầu tiên có một giá trị tối ưu làµ∗=4.
Hàm AL là: A(x,y,µ) =x2 +y2+ 1 2β h (max{0,µ+β(−x−y+4)})2 −µ2i .
Những bài tốn con để giải trong bước 1 của thuật tốn phân rã là
min x x2 + 1 2β h (max{0,µ+β(−x−y+4)})2−µ2i vớix≥0, và 1 h i
Hình 3.5: Hình vẽ minh họa hàm Lagrange và những hàm Lagrange gia tăng cho những giá trị khác nhau của những tham số phạtβở ví dụ minh họa 3.3.
Những biến và những hệ số được thiết lập, tức làx=y=5, µ=3, β=0, 3.
Bước 1.Nghiệm của bài toán gốc giảm dư.
Bài toán này phân tích vào trong hai bài tốn con dưới đây. Bài toán con đầu tiên là
min x x2+ 1 2.0, 3 h (max{0, 3+0, 3(−x−5+4)})2 −32i vớix≥0. có nghiệm là x = 1,17. Bài tốn con thứ hai là
min y y2 + 1 2.0, 3 h (max{0, 3+0, 3(−5−y+4)})2−32i vớiy≥0, có nghiệm là y = 1,17.
Bước 2.Cập nhật hệ số: Hệ số được cập nhật dưới đây
µ=max{0,µ+β(−x−y+4)}=max{0, 3+0, 3(−1, 17−1, 17+4)}=3, 50.
Bước 3.Kiểm tra tính hội tụ.
Hệ sốµthay đổi đầy đủ, vì vậy những biến được cập nhậtx=y=1, 17.
Tham số βđược tăng như β←− 1, 2β. Thuật toán tiếp tục trong bước 1 cho
đến khi tính hội tụ đạt được. Thuật tốn dừng ởυ=10, dẫn đến nghiệm
x=y=2, 00 µ=4, 00 β=1, 86 f(x,y) =8, 00.
Sự khai căn (khai triển) thuật toán được biểu diễn như trong bảng ở hình 3.6 dưới đây
Kết luận
Trong luận văn này em đã trình bày một số trường hợp riêng của các bài tốn tối ưu hóa, những bài tốn có cấu trúc đặc biệt, trong đó bao gồm các kỹ thuật phân rã như Dantzig - Wolfe, phân rã Bender, phương pháp giảm dư Lagrange và những kỹ thuật khác. Song song với đó là một số ví dụ bằng số minh họa cho các kỹ thuật phân rã.
Để có thể đánh giá, lựa chọn giữa các phương pháp, ta cần biết đánh giá mức độ hội tụ của các thuật toán tối ưu. Do thời gian thực hiện luận văn không nhiều, kiến thức cịn hạn chế, em xin phép được hồn thiện và phát triển lập trình thuật tốn trong tương lai.
Mặc dù đã hết sức cố gắng, song không thể tránh khỏi cịn có những sai sót, em rất mong nhận được sự góp ý của quý thầy cô và bạn đọc.
Tài liệu tham khảo
[1] Bùi Thế Tâm - Trần Vũ Thiệu (1998), Các phương pháp tối ưu hóa, NXB
Giao thơng vận tải.
[2] Trần Vũ Thiệu - Nguyễn Thị Thu Thủy (2011),Giáo trình tối ưu phi tuyến,
NXB ĐHQG Hà Nội.
[3] Nguyễn Hữu Điển (2006),Một số vấn đề về thuật toán, NXB Giáo dục.
[4] Antonio J.Conejo - Enrique Castilo - Roberto Mínguez - Raquel García Bertrand (2005), Decomposition techniques in mathematical programming,
Springer.