Định nghĩa 2.6. Một ánh xạT :Rn −→ 2Rn được gọi là đóng tại x, nếu với mọi dãy xk →x, mọi yk ∈ T(xk) và yk →y thì y ∈ T(x)
Định nghĩa 2.7. Một ánh xạ T : Rn −→ 2Rn được gọi là nửa liên tục trên tại x, nếu với mọi tập mở G chứa T(x), tồn tại một lân cận mở U của x sao cho
T(z) ⊂ G,∀z ∈ U.
Ta nói ánh xạ T là đóng (nửa liên tục trên) trên tập C, nếu nó đóng (nửa liên tục trên) tại mọi điểm thuộc C.
Một ánh xạ T được gọi là đóng nếu đồ thị của T là một tập đóng.
Nói một cách khái quát, bổ đề dưới đây chỉ ra rằng: Một dãy hàm lồi nếu bị chặn trên bởi một hàm lồi theo từng điểm ở trên một tập lồi, mở, thì sẽ bị chặn trên đều bởi chính hàm lồi đó trên mọi tập compắc thuộc tập mở này. Bổ đề 2.1. Cho một tập lồi, mở G ⊆ Rn và f là một hàm lồi nhận giá trị hữu hạn trên G. Giả sử {fi}i ∈ I là một dãy các hàm lồi hữu hạn trên Gvà hội tụ theo từng điểm trên Gđến f. Giả sử lim supfi(x) 6 f(x),∀x ∈ G.
40 Khi đó với mọi tập compắc K ⊆ G, với mọi > 0, tồn tại chỉ số i sao cho
fi(x) 6 f(x) + ,∀i > i ,∀x ∈ K. Chứng minh. Với mọix ∈ G, mọi i ∈ N, định nghĩa
gi(x) := max{fi(x), f(x)}.
Hàm gi lồi, hữu hạn trên G vì nó là hàm bao trên của hai hàm lồi, hữu hạn trên G.
Do G mở, nên gi liên tục trênG.
Do K ⊆ G compắc, nên dãy {gi(x)}i ∈ I bị chặn. Không giảm tổng quát, bằng cách qua dãy con, ta có thể coi
gi(x) → l(x)khii → +∞.
Theo định nghĩa của gi(x) và do lim supfi(x) 6f(x)∀x ∈ K, ta suy ra l(x) = f(x).
Vậy dãy gi(x) hội tụ theo từng điểm đến f trên tập compắc K, nên nó hội tụ đều đến f trên K.
Nhưng do gi := max{fi(x), f(x)}, nên với mọi tập compắc K ⊆ G, với mọi > 0,∃i : ∀i > i ta có
fi(x) 6 f(x) + ,∀x ∈ K.
Từ mệnh đề sau, suy ra tính nửa liên tục trên của ánh xạ ∂f. Cụ thể là: Mệnh đề 2.8. Cho một tập lồi, mởU ⊆ Rn và f là một hàm lồi nhận giá trị hữu hạn trên U. Giả sử {fi}i ∈ I là một dãy các hàm lồi hữu hạn trên U và hội tụ theo từng điểm trên U đến f.
Khi đó, nếu dãy {xi} ⊂ U hội tụ đến x ∈ U, thì với mọi > 0, tồn tại chỉ số i sao cho
∂fi(xi) ⊂ ∂f(x) +.B(0,1),∀i > i, trong đó B(0,1) là hình cầu đơn vị đóng tâm ở O
Chứng minh. Cho α > 0, y ∈ Rn. Với mỗi x ∈ U đặt à:= f0(x, y) +α.
Do f lồi, hữu hạn trên tập U mở và x ∈ U, nên x ∈ int(domf), do đó à hữu hạn.
Do x ∈ int(domf), nên với mọi y, tồn tại δ >0 sao cho x+λ.y ∈ int(domf)với mọi0< λ < δ. Do α > 0 và định nghĩa của f0(x, y), ta có :
f(x+λ.y)−f(x)
λ < à ,∀λ ∈ (0, δ). (2.12) Do fi(x+ λ.y) → f(x+ λ.y) và fi(xi) →f(x), nên từ (2.12), tồn tại i1
sao cho fi(xi +λ.y)−fi(xi) λ < à ,∀i >i1 ,∀λ ∈ (0, δ). Do fi0(xi, y) 6 fi(x i+ λ.y)−fi(xi) λ nên fi0(xi, y) 6 à với mọi i >i1.
Vậy
lim supfi0(xi, y) 6à = f0(x, y) + α. Do điều này đúng với mọi α > 0, ta suy ra
lim supfi0(xi, y) < f0(x, y).
Vìfi0(xi, .) và f0(x, .) lồi, hữu hạn trên U ( do x ∈ U ⊂ int(domf)) nên áp dụng bổ đề 2.1 cho các hàm lồifi0(xi, .) và f0(x, .) với G = Rn,
K = B(0,1) ta có :
Với mọi tập compắc B(0,1) ⊆ Rn ,∀ > 0,∃i sao cho ∀i > i ta có fi0(xi, y) 6f0(x, y) + ,∀y ∈ B(0,1).
Từ đây, với mọi y 6= 0, theo tính chất thuần nhất dương của f0(x, .), ta có: 1 kykf 0 i(xi, y) =fi0(xi, y kyk) 6 f0(x, y kyk) +.
42 Hay
fi0(xi, y) 6f0(x, y) +.kyk,∀i > i,∀y.
Do fi0(xi, y) là hàm tựa của ∂fi(xi) và f0(x, y) là hàm tựa của ∂f(x) nên từ đây suy ra
∂fi(xi) ⊆ ∂f(x) +.B(0,1).
Mệnh đề 2.9. Cho f là một hàm lồi chính thường trên Rn. Khi đó ánh xạ dưới vi phân x −→ ∂f(x) nửa liên tục trên tại mọi điểm x ∈ int(domf)
Chứng minh. Ta có f lồi nên nó hữu hạn trên tập int(domf). Vậy áp dụng mệnh đề 2.8 vớiU = int(domf) và fi = f,∀i, ta có:
Nếu x ∈ int(domf) và {xi} ⊂ int(domf) hội tụ đến x thì với mọi >0, tồn tại i sao cho ∀i > i ta có
∂f(xi) ⊂∂f(x) + .B(0,1).
Suy ra ∂f nửa liên tục trên tại mọi điểm x ∈ int(domf). Mệnh đề 2.10. Chof là một hàm lồi chính thường trên Rn.
Nếu f khả vi trên tậpint(domf) thì nó khả vi liên tục trên tập này. Chứng minh. Cho x ∈ int(domf) và dãy{xi} ⊂ int(domf). Ta áp dụng mệnh đề 2.8 vớiU = int(domf) và Ofi = Of ,∀i, ta có:
∀ > 0tồn tại i sao cho
∀i >i,kOf(xi)−Of(x)k 6.
Chứng tỏ Of(.) liên tục tại x. 2.2.5 Phép tính với dưới đạo hàm
Tương tự giải tích cổ điển, nếu f là một hàm lồi chính thường trong Rn thì ∂(λf)(x) = λ.∂f(x),∀λ > 0,∀x.
Thật vậy x∗ ∈ ∂(λf)(x) ⇔ hx∗, z −xi + (λf)(x) 6(λf)(z),∀z ⇔ hx∗, z −xi +λf(x) 6 λf(z),∀z ⇔ hx ∗ λ , z −xi+f(x) 6 f(z),∀z ⇔ x ∗ λ ∈ ∂f(x) ⇔x∗ ∈ λ∂f(x).
Đối với dưới vi phân của tổng các hàm lồi, ta có định lý sau:
Mệnh đề 2.11. (Định lý Moreau-Rockafellar). Cho fi, i=1,...,m là các hàm lồi chính thường trên Rn. Khi đó
m X i=1 ∂fi(x) ⊆ ∂( m X i=1 fi(x)),∀x. Nếu ∩ri(domfi) 6= ∅ thì m X i=1 ∂fi(x) = ∂( m X i=1 fi(x)),∀x Chứng minh. Ta chứng minh m X i=1 ∂fi(x) ⊆ ∂( m X i=1 fi(x)),∀x. Nếu x∗ ∈ Pm i=1∂fi(x) thì x∗ = Pm i=1x∗i , x∗i ∈ ∂fi(x), i = 1, .., m. Ta có x∗i ∈ ∂fi(x), i = 1, ..., m ⇔ hx∗i, z −xi+ fi(x) 6 fi(z),∀z , i = 1, ..., m ⇒ h m X i=1 x∗i, z −xi+ m X i=1 fi(x) 6 m X i=1 fi(z),∀z ⇔ hx∗, z −xi+ m X i=1 fi(x) 6 m X i=1 fi(z),∀z ⇔x∗ ∈ ∂( m X i=1 fi(x)),∀x. Vậy Pm i=1∂fi(x) ⊆ ∂(Pmi=1fi(x)),∀x.
44 Ta chứng minh m X i=1 ∂fi(x) ⊇ ∂( m X i=1 fi(x)),∀x.
Chỉ cần chứng minh với m = 2, với m > 2 dùng quy nạp. Lấy x0 ∈ Rn và x∗ ∈ ∂( 2 X i=1 fi(x0)) = ∂(f1(x0) +f2(x0)) = ∂(f1 +f2)(x0).
Theo định nghĩa của dưới vi phân ta có:
hx∗, x−x0i+f1(x0) +f2(x0) 6f1(x) +f2(x) ∀x ⇔f1(x) +f2(x)−f1(x0)−f2(x0)− hx∗, x−x0i > 0 ∀x ⇔ ( f1(x) +f2(y)−f1(x0)−f2(x0)− hx∗, x−x0i < 0 x = y không có nghiệm.
Lấy D = domf1 ìdomf2 và A(x, y) = x−y. Theo giả thiết f1 liên tục tại một điểm a ∈ domf1 ∩domf2, nên tồn tại một lân cận U của gốc sao cho
U = (a+U)−a ⊂ domf1 −domf2 = A(D). Vậy 0∈ intA(D), áp dụng mệnh đề 1.4 với
f(x, y) =f1(x) +f2(y)−f1(x0)−f2(x0)− hx∗, x−x0i
A(x, y) = x−y. Ta có
ht, x−yi+ [f1(x) +f2(y)−f1(x0)−f2(x0)− hx∗, x−x0i]> 0,
∀x ∈ domf1 , y ∈ domf2.
Đối với x 6∈ domf1 và y 6∈ domf2, thì bất đẳng thức trên là hiển nhiên. Vậy
Lấy x= x0 ta có ht, y −x0i+f2(x0) 6 f2(y),∀y. Chứng tỏ t∈ ∂f2(x0). Lấy y = x0 ta có hx∗ −t, x−x0i+f1(x0) 6 f1(x),∀x. Chứng tỏ x∗ −t ∈ ∂f1(x0). Do đó x∗ = (x∗ −t) +t∈ ∂f1(x0) +∂f2(x0). 2.3 Dưới vi phân xấp xỉ
Dưới vi phân xấp xỉ, hay còn được gọi là -dưới vi phân, thường được sử dụng trong thực tế bởi hai lý do chính sau đây. Một là hàm lồi có thể không khả dưới vi phân tại những điểm thuộc biên của miền hữu dụng của nó, trong khi đó, như sẽ thấy dưới đây, trong miền này, dưới vi phân xấp xỉ luôn tồn tại. Lý do thứ hai quan trọng hơn là trong ứng dụng, thường người ta chỉ cần, và nhiều khi chỉ tính được dưới vi phân một cách xấp xỉ.
Định nghĩa 2.8. Cho > 0. Một véctơ x∗ được gọi là-dưới đạo hàm của f tại x, nếu
hx∗, y−xi+f(x) 6 f(y) + ,∀y.
Kí hiệu tập hợp tất cả -dưới đạo hàm củaf tại x là ∂f(x). Tập hợp này được gọi là -dưới vi phân.
Hiển nhiên ∂0f(x) = ∂f(x). Vậy dưới đạo hàm xấp xỉ là một khái niệm tổng quát hoá của dưới đạo hàm chính xác.
Nhận xét:
Theo định nghĩa
46 Thay z = y +x , ta được
hx∗, yi+f(x) 6 f(x+ y) + ,∀y. Từ đây, nếu đặt h(y) = f(x+ y)−f(x) , ta có
hx∗, yi −h(y) 6 ,∀y. Theo định nghĩa hàm liên hợp, ta có
∂f(x) = {x∗|h∗(x∗) 6}.
Do h∗ là một hàm lồi, đóng nên từ đây thấy rằng ∂f(x) luôn là một tập lồi, đóng .
Hiển nhiên ∂f(x) ⊆ ∂0f(x) nếu 6 0. Hơn nữa ∩>0∂f(x) nếu khác rỗng thì sẽ bằng ∂f(x). Ví dụ 2.6. Cho hàm một biến f(x) = ( −2x12 nếu x > 0, +∞ nếu x < 0.
Ta có ∂f(0) 6= ∅ với >0. Thật vậy, lấy x∗ ∈ ∂f(0), ta có: x∗ ∈ ∂f(0) ⇔ hx∗, y−0i+f(0)6 f(y) + ,∀y
⇔ x∗y 6 −2√
y + ,∀y > 0.
Nếu y = 0 thì 0 6. Vậy bất đẳng thức trên được thoả mãn với mọi x∗. Nếu y > 0 thì x∗ 6 −2 √ y y . Vậy ∂f(0) 6= ∅ với > 0. Mặt khác ∂f(0) = ∅ ( đã chứng minh phần trước ).
Ví dụ trên cho thấy rằng∂f(x) 6= ∅với mọi > 0, tuy nhiên∂f(x) =∅. Mệnh đề sau đây nói rằng mọi hàm lồi đóng đều khả -dưới vi phân với mọi > 0 tại mọi điểm thuộc miền hữu dụng của nó .
Mệnh đề 2.12. Chof là một hàm lồi đóng chính thường trên Rn.
Khi đó với mọi > 0 và mọi x0 ∈ domf, tập ∂f(x0) 6= ∅. Hơn nữa với mọi tập bị chặn C ⊂int(domf) tập ∂f(C) bị chặn.
Chứng minh. Do f lồi, đóng, chính thường nên epif lồi, đóng, khác rỗng. Do epif đóng nên điểm (x0, f(x0) − ) 6∈ epif với mọi > 0. Ta áp dụng định lý tách chặt cho hai tập C := epif vàD := {(x0, f(x0)−)}, sẽ tồn tại (p, t) 6= 0, p ∈ Rn, t ∈ R và số thực η ( phụ thuộc ) sao cho:
hp, ti −tν < η < hp, x0i −t[f(x0)−],∀(x, ν) ∈ epif. (2.13) Từ đây ta có t 6= 0, vì nếu t=0 thì
hp, xi < η < hp, x0i,∀x ∈ domf và do đó ta có mâu thuẫn nếu lấy x = x0.
Hơn nữa t > 0, vì nếu t < 0 ta sẽ có mâu thuẫn từ (2.13) khi cho ν đủ lớn .
Thay ν = f(x) và chia hai vế của (2.13) cho t > 0, ta có hp t, xi −f(x) < η t < hp t, x 0i −f(x0) +. Suy ra hp t, x−x0i+f(x0) < f(x) + . Vậy p t ∈ ∂f(x0) hay ∂f(x0) 6= ∅. Giả sử C ⊂ int(domf), C bị chặn. Đặt
ξ = Supx∗∈∂f(C)kx∗k= Supx∈CSupx∗∈∂f(C)kx∗k. (2.14) Xét ánh xạ tuyến tính hx∗, zi. Chuẩn của ánh xạ tuyến tính này là
kx∗k= Supkzk=1hx∗, zi. Thay vào (2.14) ta có
ξ = Supx∈CSupx∗∈∂f(x)Supkzk=1hx∗, zi. Mặt khác
48 Do đó f0(x, y) +β = Supx∗∈∂f(x)hx∗, yi,∀β > 0,∀y. Hay f0(x, z) +β = Supx∗∈∂f(x)hx∗, zi,∀β > 0,∀z. Ta có tiếp ξ = Supkzk=1Supx∈C(f0(x, z) +β) = Supkzk=1Supx∈Cf0(x, z) +β. Đặt g(z) := Supx∈Cf0(x, z).
Do x ∈ C ⊆ int(domf), nên hàm f0(x, z) lồi trên Rn (do đó liên tục). Suy ra hàm g liên tục vì là bao trên của một họ hàm lồi liên tục trên Rn.
Vậy
ξ = Supkzk=1g(z) +β = maxkzk=1g(z) + β < +∞. Chứng tỏ ∂f(C) bị chặn.
Mệnh đề 2.13. Chof : Rn −→R là hàm lồi đóng.
Khi đó một véc-tơ x∗ là - dưới vi phân của f tại x ∈ domf khi và chỉ khi
f∗(x∗) +f(x)− hx∗, xi 6 . Chứng minh. Dùng định nghĩa-dưới đạo hàm ta có:
x∗ ∈ ∂f(x) ⇔ hx∗, y−xi+f(x) 6 f(y) + ,∀y ∈ domf
⇔[hx∗, yi −f(y)] +f(x)− hx∗, xi 6 ,∀y ∈ domf.
Theo định nghĩa của f∗(x∗) ta có:
f∗(x∗) = Supy{hx∗, yi −f(y)}.
Định nghĩa 2.9. ChoC ⊆ Rn là một tập lồi, đóng vàx ∈ C. Tập-nón pháp tuyến ngoài của C tại x là -dưới vi phân của hàm chỉ của C tại x.
Tức là:
NC,(x) := ∂δC(x) = {x∗ ∈ Rn | hx∗, y−xi 6 ,∀y ∈ C} Định lý 2.1. Chof là hàm lồi, đóng, chính thường trên Rn.
0∈ ∂f(x) ⇔ f(x) 6 f(y) + ,∀y ∈ Rn. Chứng minh. Theo định nghĩa dưới vi phân xấp xỉ ta có:
0∈ ∂f(x) ⇔ h0, y−xi +f(x) 6 f(y) + ,∀y ∈ Rn ⇔ f(x) 6 f(y) + ,∀y ∈ Rn.
Mệnh đề 2.14. Cho fi, i=1,...,m là các hàm lồi chính thường trên Rn. Giả sử ∩ri(domfi) 6= ∅. Khi đó
∂ m X i=1 fi(x) ⊆ m X i=1 ∂fi(x) ∀x. Đặc biệt ∂ m X i=1 fi(x) = m X i=1 ∂fi(x), ∀x ⇔ = 0.
Chứng minh. Ta chứng minh cho m = 2. Với m > 2 dùng quy nạp. Ta lấy x0 ∈ Rn và x∗ ∈ ∂( 2 X i=1 fi(x0)) = ∂(f1(x0) +f2(x0)) = ∂(f1 + f2)(x0).
50 Theo định nghĩa của dưới vi phân xấp xỉ, ta có:
x∗ ∈ ∂(f1 +f2)(x0) ⇔hx∗, x−x0i+ (f1 +f2)(x0) 6(f1 +f2)(x) + ∀x ⇔hx∗, x−x0i+f1(x0) + f2(x0) 6 f1(x) +f2(x) + ∀x ⇔f1(x) + f2(x)−f1(x0)−f2(x0)− hx∗, x −x0i+ > 0 ∀x ⇒hệ ( f1(x) +f2(y)−f1(x0)−f2(x0)− hx∗, x−x0i+ < 0 x = y không có nghiệm. (2.15) Lấy D = domf1 ìdomf2, A(x, y) = x−y, f(x, y) = f1(x) +f2(y)−f1(x0)−f2(x0)− hx∗, x−x0i+.
Theo giả thiết f1 liên tục tại một điểm a ∈ domf1 ∩ domf2, nên tồn tại một lân cận U của gốc sao cho
U = (a+U)−a ⊂ domf1 −domf2 = A(D). Vậy 0∈ intA(D). Lúc này (2.15) có dạng: hệ f(x, y) < 0 A(x, y) = 0 (x, y) ∈ D không có mghiệm Ap dụng mệnh đề 1.4 ta có: ht, A(x, y)−0i+f(x, y) > 0 ∀(x, y) ∈ D. ⇔ ht, x−yi+f1(x) +f2(y)−f1(x0)−f2(x0) +hx∗, x−x0i+> 0, ∀x ∈ domf1 ,∀y ∈ domf2.
Đối với x 6∈ domf1 và y 6∈ domf2 thì bất đẳng thức trên là hiển nhiên. Vậy ht, x−yi+f1(x) +f2(y)−f1(x0)−f2(x0) +hx∗, x−x0i+ >0 ∀x, y. Lấy x= x0 ta có : ht, x0 −yi+ f2(y)−f2(x0) + >0 ∀y ⇔ ht, y −x0i+f2(x0) 6f2(y) + ∀y ⇔t ∈ ∂f2(x0). Lấy y = x0 ta có: ht, x−x0i+ f1(x)−f1(x0)− hx∗, x−x0i+ >0 ∀x ⇔ hx∗ −t, x−x0i+f1(x0) 6 f1(x) + ∀x ⇔x∗ −t∈ ∂f1(x0). Do đó x∗ = (x∗ −t) +t ⊆ ∂f1(x0) +∂f2(x0). Vậy ∂(f1(x0) + f2(x0)) ⊆ ∂f1(x0) +∂f2(x0).
Chương 3
Một số ứng dụng của dưới vi phân trong tối ưu hoá
Chương này trước hết giới thiệu một số khái niệm chung về cực tiểu, - cực tiểu của một hàm lồi. Tiếp theo trình bày điều kiện cần và đủ của nghiệm tối ưu của bài toán lồi với các ràng buộc khác nhau (Không ràng buộc, ràng buộc đẳng thức, ràng buộc bất đẳng thức). Cuối chương trình bày điều kiện cần và đủ của nghiệm tối ưu xấp xỉ của bài toán lồi với các ràng buộc khác nhau.
3.1 Các khái niệm
Định nghĩa 3.1. Cho C ⊆Rn khác rỗng và f : Rn −→R∪ {+∞}.
a) Điểm x∗ ∈ C được gọi là cực tiểu địa phương của f trên C nếu tồn tại một lân cận U của x∗ sao cho
f(x∗) 6 f(x),∀x ∈ U ∩C.
b) Điểm x∗ ∈ C được gọi là cực tiểu toàn cục (hay cực tiểu tuyệt đối ) của f trên C nếu
f(x∗) 6 f(x),∀x ∈ C.
c) Điểm x ∈ C được gọi là điểm chấp nhận được của bài toán.
Định nghĩa 3.2. Cho > 0. Một điểm x ∈ C được gọi là điểm -cực tiểu toàn cục của f trên C nếu
f(x) 6 f(x) +,∀x ∈ C. 52
3.2 Bài toán lồi không có ràng buộc
Xét bài toán
(P1) {minh(x)|x ∈ Rn}.
Trong đóh là một hàm lồi chính thường trên Rn.
Mệnh đề 3.1. x∗ là nghiệm của bài toán (P1) ⇔0 ∈ ∂h(x∗). Chứng minh. Ta có:
x∗là nghiệm của bài toán (P1) ⇔ x∗là điểm cực tiểu của h trên Rn ⇔ h(x∗) 6h(x),∀x ∈ Rn
⇔ h0, x−x∗i+h(x∗) 6h(x),∀x ∈ Rn ⇔ 0∈ ∂h(x∗).
3.3 Bài toán lồi với ràng buộc đẳng thức
Xét bài toán
(P2) {minf(x)|x ∈ C}.
Trong đóC ⊆ Rn là một tập lồi khác rỗng và f là một hàm lồi trên C. Mệnh đề 3.2. Giả sử ri(domf)∩riC 6= ∅.
x∗ ∈ C là nghiệm của bài toán (P2)⇔ 0∈ ∂f(x∗) +NC(x∗),
trong đó NC(x∗) := {ω| hω, x−x∗i 60,∀x ∈ C}là nón pháp tuyến ngoài của C tại x∗.
Chứng minh. Gọi δC(.) là hàm chỉ của tập C , tức là δC(x) :=
(
0 nếu x ∈ C,
54 Khi đó
x∗ là nghiệm của bài toán (P2) ⇔x∗ là điểm cực tiểu của f trên C
⇔x∗ là điểm cực tiểu củah(x) := f(x) +δC(x)trênRn ⇔0∈ ∂h(x∗) (theo mệnh đề 3.1).
Do ri(domf)∩riC 6= ∅, theo định lý Moreau-Rockafellar ta có: ∂h(x∗) = ∂[f(x∗) +δC(x∗)]
= ∂f(x∗) +∂δC(x∗). Vì x∗ ∈ C nên ∂δC(x∗) =NC(x∗).
Vậy ∂h(x∗) =∂f(x∗) +NC(x∗). Suy ra 0 ∈ ∂f(x∗) + NC(x∗).
3.4 Bài toán lồi với ràng buộc bất đẳng thức