HÀM PHẠT CHÍNH XÁC
3.2 BIỂU DIỄN MỞ RỘNG CỦA TẬP RÀNG BUỘC
Trong thực tế, tập X thường biểu diễn dưới ngôn ngữ các ràng buộc
đẳng thức và bất đẳng thức trơn như sau:
X = {x|hi(x) = 0, i= m+ 1, . . . , m, gj(x) ≤ 0, j = r + 1, . . . , r}. Khi đó, tập ràng buộc C có thể biểu diễn khơng có ràng buộc tập mà dưới
ngôn ngữ các ràng buộc hàm:
hi(x) = 0, i = 1, . . . , m, gj(x) ≤ 0, j = 1, . . . , r
Ta gọi đây là biểu diễn mở rộng của C, còn (1.2) gọi là phép biểu diễn gốc.
Định lí 3.5
(a) Nếu tập ràng buộc thừa nhận nhân tử Lagrange trong biểu diễn mở rộng thì sẽ thừa nhận nhân tử Lagrange trong biểu diễn gốc.
(b) Nếu tập ràng buộc thừa nhận hàm phạt chính xác trong biểu diễn mở rộng thì sẽ thừa nhận hàm phạt chính xác trong biểu diễn gốc.
Chứng minh
(a) Từ giả thiết suy ra với mọi hàm mục tiêu trơn f mà x∗ là cực tiểu địa phương của nó, tồn tại λ∗1, . . . , λ∗m và µ∗1, . . . , µ∗r thỏa mãn
∇f(x∗) + m X i=1 λ∗i∇hi(x∗) + r X j=1 µ∗j∇gj(x∗) = 0, µ∗j ≥ 0, ∀j = 0,1, . . . , r, µ∗j = 0, ∀j /∈ A(x∗), (3.7) trong đó A(x∗) = {j|gj(x∗) = 0, j = 1, . . . , r}.
Với y ∈ TX(x∗) ta có
∇hi(x∗)0y = 0, ∀i = m+ 1, . . . , m,
∇gj(x∗)0y ≤ 0, ∀j = r + 1, . . . , r, j ∈ A(x∗). Vì vậy, (3.7) kéo theo
[∇f(x∗) + m X i=1 λ∗i∇hi(x∗) + r X j=1 µ∗j∇gj(x∗)]0y ≥ 0, ∀y ∈ TX(x∗).
Vì vậy, λ∗i, i = 1, . . . , m và µ∗j, j = 1, . . . , r là các nhân tử Lagrange trong biểu diễn gốc.
(b) Xét hàm phạt chính xác trong biểu diễn mở rộng
Fc(x) =f(x) +c[ m X i=1 |hi(x)|+ r X j=1 g+j (x)]. Ta có Fc(x) = Fc(x), ∀x ∈ X.
Vì vậy, nếu x∗ là cực tiểu địa phương khơng có ràng buộc của Fc(x) thì nó sẽ là cực tiểu địa phương của Fc(x) trên x ∈ X. Do đó, với c > 0, nếu x∗
là cực tiểu địa phương chặt của f trên C và cực tiểu địa phương khơng có
ràng buộc của Fc(x) thì nó cũng là cực tiểu địa phương của Fc(x) trên x ∈
X.
3.3 CÁC VÍ DỤ
Ví dụ sau đây chỉ ra rằng sự thừa nhận hàm phạt chính xác khơng kéo theo tính giả chuẩn tắc và tính tựa chuẩn tắc. Như vậy là chiều ngược lại của Định lí 3.2 và Định lí 3.3 khơng đúng.
Với X = Rn, sự thừa nhận hàm phạt chính xác khơng kéo theo giả chuẩn và tựa chuẩn tắc.
Cho C = {x ∈ R2|g1(x) ≤ 0, g2(x) ≤0, h1(x) = 0}, trong đó g1(x) = (x1 −1)2 +x22 −1, g2(x) = (x1 + 1)2 +x22 −1, h1(x) = x2; (Xem hình 3.2) Hình 3.2: Ràng buộc của ví dụ 3.1.
Điểm chấp nhận được chỉ là x∗ = (0,0)và các gradients của ràng buộc là
∇g1(x∗) = (−2,0), ∇g2(x∗) = (2,0), ∇h1(x∗) = (0,1). Lấy µ1 = µ2 = 1 và λ = 0 ta có
Với lân cận nhỏ tùy ý của x∗, tồn tại x sao cho g1(x) > 0 và g2(x) > 0. Như vậy, x∗ không là tựa chuẩn tắc và do đó khơng là giả chuẩn tắc.
Mặt khác, đạo hàm theo phương của hàm
P(x) =|h1(x)|+
2
X
i=1
gi+(x)
tại x∗ luôn dương theo mọi hướng. Chọn tham số phạt đủ lớn, ta có x∗ là cực tiểu địa phương của hàm FC(x). Vì vậy, tập ràng buộc thừa nhận hàm
phạt chính xác tại x∗.
Ví dụ 3.2
Với X = Rn, sự thừa nhận hàm phạt chính xác khơng kéo theo tính tựa chuẩn tắc. Cho C = {x∈ R2|g1(x) ≤ 0, g2(x) ≤0, g3(x) ≤ 0}, trong đó g1(x) = −(x1 + 1)2 −(x2)2 + 1, g2(x) = x21 + (x2 + 1)2 −1, g3(x) = x2; (Xem hình 3.3)
Điểm chấp nhận được duy nhất là x∗ = (0,0) và các gradient của ràng buộc là
∇g1(x∗) = (−2,0), ∇g2(x∗) = (2,0), ∇g3(x∗) = (0,−1).
tại x∗ = (0,0), nón biến phân cấp 1 chấp nhận được V(x∗) bằng phần trục
x1 không âm và chứa hẳn T(x∗)(bằng {x∗}). Vậy, x∗ khơng là tựa chuẩn tắc.
Hình 3.3: Ràng buộc của ví dụ 3.2
Tuy nhiên, đạo hàm theo phương của hàm:
P(x) =
3
X
j=1
gj+(x)
tại x∗ ln dương theo mọi phương. Vì vậy, ta có thể chọn một tham số phạt c đủ lớn để x∗ là cực tiểu địa phương của hàm Fc(x). Do đó, tập ràng
buộc tập thừa nhận hàm phạt chính xác tại x∗.
Ví dụ 3.3
Ta chỉ ra khi X = Rn, sự thừa nhận nhân tử Lagrange là tựa chính quy (nhưng không tựa chuẩn tắc) không kéo theo sự thừa nhận một hàm phạt chính xác.
Cho
C = {x ∈ R2|g1(x) ≤ 0, g2(x) ≤ 0}, trong đó
g2(x) = x61 +x32.
Tại x∗ = (0,0) nón tiếp tuyến bằng nón biến phân chấp nhận được cấp một. Do đó, x∗ là điểm tựa chính quy. Điều này kéo theo tập ràng buộc thừa nhận nhân tử Lagrange tại x∗.
Tuy nhiên, tập ràng buộc khơng thừa nhận hàm phạt chính xác tại x∗. Xét hàm sau
f(x) =−x41 −x2,
là hàm trơn và đạt cực tiểu địa phương chặt tại x∗. Tuy nhiên, x∗ không là cực tiểu địa phương của hàm Fc(x), với c lớn tùy ý. Để làm rõ điều này,
ta xét hàm sau
l(x1) =Fc(x1,0) = −x4 +cx61,
có cực đại địa phương tại x∗ với mọi c > 0. Do đó, sự tồn tại của nhân tử Lagrange khơng đảm bảo sự tồn tại của hàm phạt chính xác.
Ví dụ 3.4
Ta sẽ chỉ ra rằng, nếu X khơng chính quy thì sự thừa nhận hàm phạt
chính xác khơng kéo theo sự thừa nhận nhân tử Lagrange. Xét tập X ⊂ R2
được mơ tả trong Hình 3.4, chỉ có một ràng buộc đẳng thức tuyến tính
h(x) =x1 = 0. Với x∗ = (0,0), ta có
TX(x∗)∗ = {0},
cịn NX(x∗) bao gồm hai tia chỉ ra ở Hình 3.4. Bởi vì
∇h(x∗) = (1,0) ∈/ NX(x∗),
cho nên tính giả chuẩn tắc thỏa mãn. Do đó, theo Định lí 3.2, tập ràng buộc thừa nhận hàm phạt chính xác tại x∗. (Xem hình 3.4)
Hình 3.4: Ràng buộc của ví dụ 3.4
Mặt khác, với hàm mục tiêu
f(x) = −x2,
ta có
∇f(x∗) + λ∇h(x∗) 6= 0, ∀λ,
cho nên khơng có nhân tử Lagrange. Sự khơng thừa nhận nhân tử Lagrange cũng có thể thấy rõ với lưu ý là
Kết luận
Luận văn đã trình bày lí thuyết nhân tử Lagrange của Bertsekas và Ozdaglar [3] với các điều kiện chính quy về tính tựa chuẩn tắc và tính giả chuẩn tắc của nghiệm tối ưu. Điều kiện cần kiểu Fritz John với các nhân tử Lagrange có thêm một tính chất phụ được trình bày cùng với các điều kiện chính quy tựa chuẩn tắc và giả chuẩn tắc đảm bảo nhân tử Lagrange ứng với hàm mục tiêu khác 0. Chú ý rằng, điều kiện chính quy giả chuẩn tắc mạnh hơn điều kiện tựa chuẩn tắc. Ba loại vectơ nhân tử Lagrange được trình bày, bao gồm các vectơ nhân tử Lagrange có thơng tin, mạnh và tối thiểu. Mối quan hệ giữa sự thừa nhận các nhân tử Lagrange và sự thừa nhận một hàm phạt chính xác cũng được trình bày trong luận văn.
Đây là một đề tài thu hút được sự quan tâm nghiên cứu của nhiều tác giả.