Cho hàm f : X −→ (−∞,+∞] và x0 ∈ domf. Với mỗi d ∈ X ta định nghĩa đạo hàm của f theo hướng d là giới hạn sau, nếu nó tồn tại,
118 5.2. Mối liên hệ với khái niệm đạo hàm
hữu hạn hoặc vô hạn:
f0(x0;d) := lim λ→0+ f(x0+λd)−f(x0) λ . Ví dụ 5.2. Cho f, g : R −→R, xác định bởi f(x) = ( xsin 1 x, x >0; 0, x≤ 0, g(x) = 3 √ x, x ∈R. Lúc đó, f0(0; 1) không tồn tại, f0(0;−1) = 0, g0(0; 1) =∞ còn g0(0;−1) =−∞. Qua ví dụ này ta thấy đạo hàm theo hướng có thể tồn tại hoặc không. Tuy vậy, nếu f là hàm lồi thì đạo hàm của nó theo mọi hướng luôn tồn tại. Điều đó được khẳng định trong định lí sau:
Định lí 5.3. Giả sử f là hàm lồi, chính thường và x0 ∈ domf. Với mỗi
d ∈X, ta có:
a) Hàm số sau không giảm trên R\ {0}:
ϕd(λ) := f(x0+λd)−f(x0)
λ ;
b) Đạo hàm của f theo hướng d tồn tại (có thể không hữu hạn) và
f0(x0;d) = inf
λ>0ϕd(λ);
c) −f(x0 −d) +f(x0)≤ f0(x0;d)≤ f(x0+d)−f(x0).
Chứng minh. Dễ thấy g(t) := f(x0+td) là hàm lồi, chính thường trên R. Với mọi λ1 < λ2 < 0< λ3 < λ4, áp dụng Bổ đề 4.4 cho g, ta có
ϕd(λ1)≤ ϕd(λ2)≤ ϕd(λ3)≤ ϕd(λ4).
Vậy ϕd là hàm không giảm trên R\ {0}. Các kết luận b) và c) được suy ra trực tiếp từ a).
y = f0(x0, v)
x0
Hình 5.1. Đạo hàm theo hướng của hàm lồi
Mệnh đề 5.4. Cho f lồi trên X và x0 ∈ domf. Lúc đó x∗ ∈ ∂f(x0) nếu và chỉ nếu
hd, x∗i ≤ f0(x0;d), ∀d∈ X. (5.2)
Chứng minh. Nếu x∗ ∈∂f(x0) thì với mọi d∈ X và λ > 0 ta có:
hλd, x∗i ≤ f(x0+λd)−f(x0).
Chia hai vế cho λ rồi cho λ dần về 0 ta nhận được hd, x∗i ≤ f0(x0;d). Ngược lại, nếu (5.2) thoả mãn thì, theo Định lí 5.3.c), ta có
f(x)−f(x0)≥f0(x0;x−x0)≥ hx−x0, x∗i, ∀x∈ X.
Vậy x∗ ∈ ∂f(x0).
Định lí 5.5. Cho f là hàm lồi chính thường trên X và x0 ∈ domf.
a) f0(x0;·) là hàm lồi, thuần nhất dương trên X;
b) Nếu x0 ∈int domf thì f0(x0;d)∈ R với mọi d∈ X;
c)Nếuf liên tục tạix0 thìf0(x0;d)hữu hạn và liên tục tại mọid ∈ X.
120 5.2. Mối liên hệ với khái niệm đạo hàm
a) Tính thuần nhất của g được suy ra từ định nghĩa. Ta còn chứng minh g dưới cộng tính. Thật vậy, với mọi d1, d2 ∈ X, từ bất đẳng thức
f(x0+λd1+λd2)≤ f(x0+ 2λd1) +f(x0+ 2λd2) 2 ta suy ra g(d1+d2) = lim λ→0+ f(x0+λd1+λd2)−f(x0) λ ≤ lim λ→0+ f(x0+ 2λd1) +f(x0+ 2λd2)−2f(x0) 2λ = lim λ→0+ f(x0+ 2λd1)−f(x0) 2λ + limλ→0+ f(x0+ 2λd2)−f(x0) 2λ =g(d1) +g(d2).
b)Chọn ε >0sao cho [x0−εd, x0+εd] ⊆domf. Từ Định lí 5.3 ta có
ϕd(−ε)≤ ϕd(λ)≤ ϕd(ε), ∀λ ∈ (0, ε).
Suy ra g(d) = lim
λ→0+ϕd(λ)∈ R. Đặc biệt ta có domg = X. c) Nếu f liên tục tại x0 thì tồn tại lân cận gốc V sao cho
f(x0+d)−f(x0)< 1, ∀d∈ V.
Từ Định lí 5.3 suy ra g bị chặn trên trên V. Vì hàm này lồi chính thường nên, theo Định lí 4.13, nó liên tục trên int(domg) =X.
Bổ đề 5.1. Nếu g là hàm lồi, thuần nhất dương và g(0) = 0 thì
∂g(0) = domg∗.
Hơn nữa, ∂g(0)6= ∅ khi và chỉ khi g nửa liên tục dưới tại 0, và lúc đó
Chứng minh. Do g thuần nhất dương nên g∗(x∗) = sup x∈X{hx, x∗i −g(x)} = ( 0, nếu ∀x ∈X, g(x)≥ hx, x∗i; ∞, nếu ∃x ∈X, g(x)< hx, x∗i. Từ đó suy ra domg∗ ={x∗ ∈ X∗ | g(x)≥ hx, x∗i, ∀x ∈ X}= ∂g(0). Nếu tồn tại x∗ ∈ ∂g(0) thì g(d) ≥ hd, x∗i với mọi d ∈ X, và vì vậy, lim inf
d→0 g(d) ≥ 0 = g(0), nghĩa là g nửa liên tục dưới tại 0. Ngược lại, nếu g nửa liên tục dưới tại 0, thì tồn tại lân cận gốc V sao cho tập
A := V ×(−∞,−1] có giao bằng rỗng với (nón lồi) epig. Theo Định lí
Tách (và Bài tập 1.16) tồn tại (x∗, β)6= (0,0) tách epig và A theo nghĩa :
hx, x∗i+βγ ≤ 0≤ hy, x∗i+βη, ∀(x, γ)∈ epig, ∀(y, η)∈ A. (5.3) Bằng cách thay x = 0, γ ≥ 0, y ∈ V và η =−1 ta có
βγ ≤ 0≤ hy, x∗i −β, ∀γ ≥ 0, ∀y ∈ V.
Nếuβ = 0 thì, do V là lân cận gốc, x∗ = 0, mâu thuẫn. Vậyβ <0. Trong (5.3), lấy tuỳ ý x∈ domg và γ =g(x) ta nhận được
g(x)≥ −hx,x
∗
β i, ∀x ∈domf.
Tức −x∗
β ∈ ∂g(0), suy ra ∂g(0)6=∅.
Hơn nữa, nếu g nửa liên tục dưới tại gốc thì, từ tính thuần nhất, ta suy rag chính thường, và g lồi, đóng, chính thường, thuần nhất. Theo Hệ quả 4.10, ta có
g(d) = sup
x∗∈L(¯g)
hd, x∗i.
Điều này kết thúc chứng minh vì L(¯g) = L(g) =∂g(0).
Mệnh đề 5.6. Nếuf lồi, chính thường thì tại mọi điểm x0 ∈ domf ta có
122 5.2. Mối liên hệ với khái niệm đạo hàm
Hơn nữa, ∂f(x0) 6= ∅ khi và chỉ khi f0(x0;·) nửa liên tục dưới tại gốc, khi ấy
f0(x0;·)(d) = sup{hd, x∗i |x∗ ∈∂f(x0)}.
Chứng minh. Đẳng thức ∂f(x0) = ∂f0(x0;·)(0) được suy ra trực tiếp từ định nghĩa và Mệnh đề 5.4. Tất cả các khẳng định khác được suy ra từ Bổ đề 5.1.
Hệ quả 5.1. Nếu hàm f lồi và liên tục tại x0 thì
f0(x0;d) = max{hd, x∗i |x∗ ∈ ∂f(x0)}. (5.4)
Chứng minh. Theo Định lí 5.5, f0(x0;·) liên tục nên từ Mệnh đề 5.6
f0(x0;d) = sup{hd, x∗i |x∗ ∈∂f(x0)}.
Từ đây suy ra (5.4) vì, theo Định lí 5.2, tập ∂f(x0) compact yếu*.
Hàm f được gọi là khả vi Gâteaux tại x0 nếu tồn tại x∗ ∈X∗ sao cho lim λ→0 f(x0+λd)−f(x0) λ =hd, x ∗i, ∀d ∈X. (5.5) Phiếm hàm f0
G(x0) = x∗ như trên, nếu có, là duy nhất và được gọi là đạo hàm Gâteaux của f tại x0. Nếu sự hội tụ trong (5.5) là đều theo d trong một tập bị chặn bất kì của X thì x∗ được gọi là đạo hàm Fréchet của f
tại x0 và kí hiệu là f0(x0). Hàm f được gọi là khả vi Gâteaux (Fréchet) trên tập mở U ⊆ X nếu nó khả vi Gâteaux (Fréchet) tại mọi điểm thuộc
U. Ta nói f khả vi liên tục trên U nếu f0(x) xác định và liên tục trên U. Định lí 5.7. Nếu một hàm lồi f liên tục tại x0 và có tập ∂f(x0) chỉ gồm một phần tử {x∗}, thì f khả vi Gâteaux tại x0 và
fG0(x0) = x∗.
Ngược lại, nếu f lồi, khả vi Gâteaux tại x0 thì ∂f(x0) = {f0
G(x0)}. Nếu X
Chứng minh. Nếu cần ta chuyển qua xét hàm f(x)− hx, x∗i nên ở đây có thể giả thiết x∗ = 0. Nếu ∂f(x0) = {0} thì theo Hệ quả 5.1 ta có
lim
λ→0+
f(x0 +λd)−f(x0)
λ = f
0(x0;d) = 0, ∀d ∈X. (5.6) Suy ra f0(x0;d) =f0(x0;−d) = 0 với mọi d ∈ X, nên tồn tại f0
G(x0) = 0. Ngược lại, nếu có f0
G(x0) = 0 thì f0(x0;d) = 0 với mọi d ∈ X. Từ Mệnh đề 5.4 ta lại có∂f(x0) ={0}.
Bây giờ giả sử dim(X) =n và f0
G(x0) = 0 thì f0(x0;±ei) = 0 với mọi vec-tơ cơ sở ei của X. Kí hiệu E là hình cầu đơn vị, theo chuẩn k · k1, trong X. Lúc đó, từ tính lồi của f, với mọi d ∈E và λ ∈ (0,1), ta có
|f(x0+λd)−f(x0)| ≤ max
1≤i≤n{f(x0+λei)−f(x0), f(x0−λei)−f(x0)}.
Suy ra giới hạn (5.6) là đều với d ∈ E, nên f0(x0) = 0.
Nhận xét 5.1. Từ định nghĩa ta thấy nếu f có đạo hàm Fréchet tại x
thì cũng liên tục và có đạo hàm Gâteaux tại điểm đó. Tuy nhiên, nếu f
có đạo hàm Gâteaux tại x thì không nhất thiết f có đạo hàm Fréchet và thậm chí f không liên tục tại điểm đó. Chẳng hạn hàm hai biến:
f(x, y) = ( y3
x, x 6= 0,
0, x = 0
khả vi Gâteaux nhưng không liên tục tại(0,0), nên không khả vi Fréchet. Định lí 5.7 cho thấy khif lồi trong không gian hữu hạn chiều thì hai khái niệm này trùng nhau (xem thêm Bài tập 5.8). Tuy nhiên, từ Bài tập 5.9, ta thấy định lí không còn đúng trong trường hợp vô hạn chiều.
Bây giờ ta mở rộng các khái niệm đạo hàm này cho các ánh xạ giữa các không gian Banach. ChoX, Y là các không gian Banach, tập mở U ⊆ X,
x∈ U và ánh xạ F : U −→Y. Toán tử A ∈ L(X, Y)được gọi là đạo hàm Gâteaux của F tại x, kí hiệu là F0
G(x), nếu lim t→0+ µ F(x+tv)−F(x) t −A(v) ¶ = 0, ∀v ∈ X. (5.7)