Cho hàm f : X → R và x0 ∈ X sao cho f(x0) ∈ R. Với mỗi vectơ d ∈ X, ta định nghĩa đạo hàm của f theo hướng d là giới hạn sau, nếu nó tồn tại, hữu hạn hoặc vô hạn: f0(x0;d) := lim λ→0+ f(x0+λd)−f(x0) λ . Ví dụ 3.4. Cho f, g :R→R, xác định bởi f(x) = ( xsin1x; x >0, 0; x≤0; g(x) = 3 √ x; x∈R. Lúc đó,f0(0; 1) không tồn tại, f0(0;−1) = 0, g0(0; 1) = +∞, g0(0;−1) =−∞. Qua ví dụ này ta thấy đạo hàm theo hướng có thể tồn tại hoặc không, tuỳ theo từng trường hợp. Tuy vậy, nếu f là hàm lồi thì đạo hàm của nó theo mọi hướng luôn luôn tồn tại. Điều đó được khẳng định trong định lý sau đây
Định lý 3.23. Giả sử f là hàm lồi chính thường trên X và x0 ∈ domf. Với mỗi
d∈X, ta có a) Hàm số sau
ϕd(λ) := f(x0+λd)−f(x0)
λ ; λ∈(0,+∞)
không giảm trên khoảng (0,+∞). b) Đạo hàm của f theo hướng d tồn tại và
f0(x0;d) = inf
λ>0ϕd(λ).
c) f(x0+d)−f(x0)≥f0(x0;d), với mọi d∈X.
Định lý 3.24. Cho f là hàm lồi chính thường trên X và x0 ∈domf. a) f0(x0;·) là hàm lồi thuần nhất trên X.
b) Nếu x0 ∈Int domf thì hàm f0(x0;d) hữu hạn với mọi d ∈X.
c) Nếu f liên tục tại x0 thì f0(x0;d) hữu hạn và liên tục tại mọi d ∈X.
Bổ đề 3.2. Cho g :X →R thuần nhất dương. Lúc đó
a) Nếu g liên tục tại v ∈X thì g cũng liên tục tại mọi điểm λv với λ >0. b) Nếu g liên tục trong một lân cận của 0 thì g liên tục (tại mọi điểm).
Mệnh đề 3.25. Nếu f là hàm lồi chính thường thì tại mọi điểm x0 ∈domf ta có
∂f(x0) =∂f0(x0;·)(0) = dom(f0(x0;·))∗.
Hơn nữa, ∂f(x0)6=∅ khi và chỉ khi f0(x0;·) nửa liên tục dưới tại gốc, khi ấy
f0(x0;d) = sup{hx∗, di |x∗ ∈∂f(x0)}. Hệ quả 3.11. Nếu một hàm lồi f liên tục tại x0 thì
f0(x0;d) = max{hx∗, di |x∗ ∈∂f(x0)}.
Hàmf được gọi là khả vi Gâteaux tại x0 ∈X nếu tồn tạix∗ ∈X∗ sao cho
lim
λ→0
f(x0+λd)−f(x0)
λ =hx∗, di; ∀d∈X.
Phiếm hàm fG0 (x0) = x∗ như trên, nếu có, là duy nhất và được gọi là đạo hàm Gâteaux của f tại x0.
Định lý 3.26. Nếu một hàm lồi f liên tục tại x0 và có tập ∂f(x0) chỉ gồm một phần tử {x∗}, thì f khả vi Gâteaux tại x0 và
fG0 (x0) = x∗.
Ngược lại, nếu f lồi, khả vi Gâteaux tại x0 thì ∂f(x0) = {fG0 (x0)}.