2 PHƯƠNG PHÁP XẤP XỈ TRƠN CHO BÀI TOÁN MIN-
2.1.2 Làm trơn hàm lồi bất biến địa phương
Hàm khả vi F : Rn → Rr là lồi bất biến tại p ∈ Rn theo nón thứ tự Q⊂ Rn nếu với tồn tại hàm η(x, p) sao cho
(∀x)F(x)−F(p)−F0(p)η(x, p) ∈ Q.
Ta có thể giả sử rằng, với p cố định , η(x, p) =x−p+o(||x−p||). Vì thế, η(., p) liên tục, và η(p, p) = 0. Hàm Lipschitz F : Rn → Rr là Q- lồi
bất biến tại p nếu
(∀x)(∀ξ ∈ F(p))F(x)−F(p)−ξη(x, p) ∈ Q,
trong đó ∂F(p) là Jacobian suy rộng Clarke của F tại p. Theo định lý Rademacher F khả vi trừ ra tập N0 của độ đo Lebesgue 0.
Định nghĩa 2.1
Hàm Lipschitz F : R → Rr là Q- quy lồi bất biến ở gần p, nếu tồn tại hàm liên tục η(., .) sao cho với mỗi u trong lân cận nào đó của p và
u 6∈ N0,
(∀x)F(x)−F(u)−F0(u)η(x−u+ p, p) ∈ Q.
Rõ ràng là Q- quy lồi bất biến ở gần p kéo theo Q- bất biến tại p.
Mệnh đề 2.3
Giả sử F(.) là Q- quy lồi bất biến ở gần p. Khi đó, hàm trơn sau đây là Q− lồi bất biến tại p:
F(x, α) :=
Z
Rn
F(x−s)φ(s|α)ds,
trong đó φ được chọn trong phần 2.1.1, với hàm scale như F(.) khi α là đủ nhỏ.
Nhận xét 2.1
Kết luận này không đúng nếu giả thiết "Q- lồi bất biến ở gần p" được thay bằng lồi bất biến tại mỗi điểm trong lân cận của p, bởi vì tổng của hàm lồi bất biến không nhất thiết là lồi bất biến nếu các hàm scale khác nhau.
Đặc biệt, với C1- hàm F, nếu tính lồi bất biến tại p được tăng cường thành
trong đó σ ∈ Q thì F- bất biến ở gần p. Khi đó,
(∀x)F(x)−F(p)−F0(p)η(x, p) ∈ intQ, cho nên với δ đủ nhỏ,
(∀x)(∀u,||u−p|| < δ) F(x)−F(u)−F0(u)η(x−u+p, p) ∈ Q. Với hàm F lớp C∞, để đơn giản lấy p= 0 và F(p) = 0 và xét
F(z) = Az+ 1 2z TB.z; và η(z,0) = z+ 1 2z TD.z.
Ở đây B. là tập các ma trận Hessian thành phần Bk của F, và một cách tương tự cho D.. Khi đó, theo định nghĩa của tính lồi bất biến ở gần 0 đòi hỏi ma trận B.−(A−uTB.)D. bán xác định dương, khi ||u− || đủ nhỏ, ở đây AD. biểu diễn ma trận P
sAskDk. Vì thế ma trận B.−AD. phải xác định dương, và kéo theo F trở thành lồi bất biến ở gần 0.
Chứng minh của Mệnh đề 2.3
Sử dụng tính khả vi của F(. :α) và tính chất Lipschitz của F(.) ta có F0(x, α) :=
Z
Rn
F0(x−s)φ(s|α)ds,
bởi vì F0(x−s) chỉ không xác định trên tập có độ đo không. Vì thế, với {uj} → p với uj 6∈ N0, và φ(.|α) ≥0 ta có F(uj +y : α)−F(uj : α)−F0(uj : α)η(p+y, p) = Z Rn [F(uj +y −s)−F(uj −s)−F0(uj −s)η(p+y, p)]φ(s|α)ds với [...] ∈ Q với hầu hết s, với uj và uj −s ở trong một lân cận của p. Do đó,
Vì vậy,
F(p+ y :α)−F(p : α)−F0(p : α)η(p+y, p) ∈ Q. Nhận xét
Giả sử F : R → Rr (ở đây r < n) là lồi bất biến tại mỗi điểm trong hình cầu B tâm p, theo nón thứ tự Q ⊂Rr. Nếu F là khả vi tại u ∈ B|{p} thì F(u+z :α)−F(u : α) = Z [F(u+ z−s)−F(u−s)]φ(s|α)ds = Z F0(u−s)ω(z, u−s)φ(s|α)ds = F0(u|α)θ(z, u) (ở đây ω(z, u−s) := η(z+u−s, s)),
nếu tồn tại θ(z, u) thỏa mãn phương trình tuyến tính:
Mθ(z, u) ≡ " Z F0(u−s)φ(s|α)ds]θ(z, u) = Z F0(u−s)ω(z, u)−φ(s|α)ds. Xét giả thiết sau: với mỗi δ > 0 đủ nhỏ, tồn tại s, với ||s|| < δ sao cho F0(u −s) có hạng đầy. Điều này kéo theo, tồn tại hàm φ(.) ≥ 0 với giá nằm trong hình cầu bán kính δ, sao cho M có hạng đầy. Vì vậy, θ(z, u)
tồn tại, và θ(z, p) là giới hạn của nó. Vì vậy, F(. : α) là lồi bất biến. Nếu f khả vi tại p, và p là điểm Karush- Kuhn- Tucker làm cực tiểu hàm F1(.) sao cho Fj(.) ≤ 0(j = 2,3, ..., r), thì F0(p) không có hạng đầy, nhưng F0(p−s) có thể có hạng đầy, với ||s|| > 0 đủ nhỏ.