Định nghĩa 2.2. Cho f : H → (−∞,+∞] là hàm chính thường và x ∈
dom f,y ∈ H. Đạo hàm theo hướng của hàm f tạixtrên hướngylà
f0(x;y) = lim
α&0
f(x+αy)− f(x)
α ,
và giới hạn này tồn tại trong[−∞,−∞].
Mệnh đề 2.7. Cho f : H → (−∞,+∞] là hàm lồi chính thường và x ∈
dom f,y ∈ H. Khi đó:
(i) φ :R++ → (−∞,+∞]: α → f(x+αy)− f(x)
α là hàm không giảm.
(ii) f0(x;y)tồn tại trong [−∞,−∞]và
f0(x;y) = inf
α∈R++
f(x+αy)− f(x)
α .
(iii) f0(x;y−x) + f(x)≤ f(y).
(v) f0(x; .)là hàm lồi chính thường vàdom f0(x; .) = cone(dom f −x).
(vi) Giả sửx ∈ core(dom f)thì f0(x; .)là giá trị thực và dưới tuyến tính . Chứng minh. (i) Cố địnhα vàβtrongR++ màα < β,
và đặtλ= α β,z = x+βy. Nếu f(z) = +∞thì chắc chắn φ(α)≤ φ(β) = +∞. Mặt khác f(x+αy) = f(λz+ (1−λ)x) ≤λf(z) + (1−λ)f(x) = f(x) +λ(f(z)− f(x)). Như vậyφ(α)≤ φ(β).
(ii) Là hệ quả của (i) .
(iii) Nếuy∈/ dom f ta có bất đẳng thức cần chứng minh. Mặt khác
∀α ∈ (0, 1), f((1−α)x+αy)− f(x) ≤ α(f(y)− f(x)).
Sử dụng điểm chia bởiαvà cho α & 0, ta thu được f0(x;y−x)≤ f(y)− f(x).
(iv) Ta có f0(x; 0) = 0và f0(x; .) là thuần nhất dương. Bây giờ ta lấy
(y,η) và (z,ξ) ∈ epif0(x; .), λ ∈ (0, 1) và e ∈ R++. Khi đó cho
α ∈ R++ đủ nhỏ, ta có f(x+αy)− f(x) α ≤η+e và f(x+αz)− f(x) α ≤ ξ+e. Khiαđủ nhỏ, ta có f(x+α((1−λ)y) +λz)− f(x) = f((1−λ)(x+αy) +λ(x+αz))− f(x−z)
≤(1−λ)(f(x+αy)− f(x)) +λ(f(x+αz)− f(x)). Ta có f(x+α((1−λ)y) +λz)− f(x) α ≤ (1−λ)f(x+αy)− f(x) α +λf(x+αz)− f(x) α ≤(1−λ)(η+e) +λ(ξ+e).
Khiα & 0và e &0, ta kết luận rằng
f0(x;(1−λ)y+λz) ≤ (1−λ)η+λe).
Do đó f0(x; .)là hàm lồi.
(v) Được suy ra từ (ii) và (iv).
(vi) Tồn tại β∈ R++ mà[x−βy,x+βy]⊂ dom f. Bây giờ lấyα ∈ (0,β), ta có
f(x) ≤ f(x−αy) + f(x+αy)
2
Và do đó từ (i) ta thu được −(f(x−βy)− f(x) β ) ≤ −(f(x−αy)− f(x) α ) = f(x) + f(x−αy) α ≤ f(x+αy)− f(x) α ≤ f(x+βy)− f(x) β .
Choα & 0, ta kết luận rằng: f(x) + f(x−βy)
β ≤ −f0(x;−y)≤ f0(x;y)≤ f(x+βy)− f(x)
β .
(2.2)
Số tận cùng trái và tận cùng phải trong (2.2) đều là số thuộc R
Mệnh đề 2.8. Cho f : H → (−∞,+∞] là hàm lồi chính thường và x ∈
dom f. Khi đó
x ∈ Argminf ⇔ f0(x; .)≤ 0.
Chứng minh. Choy∈ H, ta cóx ∈ Argminf ⇒ ∀α ∈ R++, f(x+αy)− f(x)
α ≥0⇒ f0(x; .)≤ 0.
Ngược lại giả sử f0(x; .) ≤0, ta có
f(x) ≤ f0(x;y−x) + f(x)≤ f(y).
Do đóx ∈ Argminf.
Chú ý 2.1. Chox ∈ dom f và giả sử f0(x; .)là tuyến tính và liên tục trênH,
f được gọi là khả vi Gâteaux tạix. Theo chú ý 1.1 (biểu diễn Riesz - Fréchet) thì tồn tại duy nhất vectơ∇f(x) ∈ Hmà
∀y ∈ H, f0(x;y) = hy| ∇f(x)i. Ngoài ra ∀y ∈ H,f0(x;y) = hy | ∇f(x)i = lim α→0 f(x+αy)− f(x) α .
Mệnh đề 2.9. Cho f : H → (−∞,+∞] là hàm lồi chính thường và cho
x ∈ dom f vàu ∈ H. Khi đó:
(i) u ∈ ∂f(x) ⇔ h. |ui ≤ f0(x; .).
(ii) f0(x; .)là hàm chính thường và dưới tuyến tính . Chứng minh. (i) Choα ∈ R++, ta có
u ∈ ∂f(x) ⇒ ∀y∈ H,hy| ui = h(x+αy)−x | ui
α .
≤ f(x+αy)− f(x)
Khi giới hạn khiα & 0ta được
∀y∈ H,hy| ui ≤ f0(x;y).
Ngược lại∀y ∈ H,hy−x | ui ≤ f0(x;y−x)suy ra ∀y ∈ H,hy−x |ui ≤ f(y)− f(x).
Suy rau ∈ ∂f(x).
(ii) Lấyu ∈ ∂f(x), từ (i): f0(x; .)≥ h. |ui, do đó−∞ ∈/ f0(x;H). Như vậy f0(x; .)là hàm chính thường, dưới tuyến tính .