D÷îi vi ph¥n câ thº ÷ñc biºu thà qua c¡c sè h¤ng cõa ¤o h m theo h÷îng.
ành ngh¾a 2.4.1. Cho f :E → R∪ {∞} l h m ch½nh th÷íng x¡c ành tr¶n khæng gian tuy¸n t½nh ành chu©n E. ¤o h m b¶n ph£i cõa f t¤i a ∈ int(dom f) so vîi v ∈E ÷ñc x¡c ành qua cæng thùc
f+0 (a;v) = lim
t→0+
f(a+tv)−f(a)
M»nh · 2.4.1 (B§t ¯ng thùc ba d¥y c«ng). Cho h m f : E → R. Vîi
x, y, z ∈ R, f l h m lçi khi v ch¿ khi f thäa m¢n b§t ¯ng thùc sau:
f(z)−f(x)
z−x ≤ f(y)−f(x)
y−x ≤ f(y)−f(z) y−z .
C¡c °c tr÷ng ch½nh cõa ¤o h m theo h÷îng ph£i ÷ñc tâm tt trong bê · d÷îi ¥y.
Bê · 2.4.2. Gi£ sû f : E → R ∪ {∞} l h m lçi ch½nh th÷íng v a ∈ int(dom f). Khi â:
(a) ¤o h m theo h÷îng ph£i f+0 (a;v) l h m gi¡ trà thüc, tuy¸n t½nh d÷îi v thu¦n nh§t d÷ìng cõa v ∈ E;
(b) f+0 (a; 0) = 0 v
f+0 (a;v) =−f+0 (a;−v),∀v ∈ E;
(c) n¸u f li¶n töc t¤i a, th¼ ¤o h m theo h÷îng f+0 (a;v) l h m li¶n töc trong v.
Chùng minh. (a) v (b)
V¼ a ∈ int(dom f), do â câ sè ε > 0 sao cho h m t → f(a + tv) lçi tr¶n kho£ng [−ε;ε] vîi v ∈ E. Theo b§t ¯ng thùc ba d¥y c«ng, t¿ sè
f(a+tv)−f(a)
t l h m t«ng cõa t, mang l¤i
f(a−εv)−f(a) −qε ≤ f(a−tv)−f(a) t ≤ f(a+tv)−f(a) t ≤ f(a +εv)−f(a) ε
vîi måi t ∈ (0, ε]. i·u n y d¹ d ng chùng tä ÷ñc sü tçn t¤i v t½nh húu h¤n cõa f+0 (a;v) v f+0 (a;−v), do â −f+0 (a;−v)≤ f+0 (a;v). L÷u þ r¬ng
f+0 (a;v) = lim
t>0
f(a+tv)−f(a)
v f+0 (a; 0) = 0. èi vîi t½nh thu¦n nh§t d÷ìng cõa f+0 (a;.), ta câ: f+0 (a;αv) = lim t→0+ f(a+tαv)−f(a) t = α lim t→0+ f(a+tαv)−f(a) αt = α lim s→0+ f(a+sv)−f(a) s = αf+0 (a;v) vîi måi α >0.
Ta câ f+0 (a;·) l cëng t½nh d÷îi (v v¼ vªy công tuy¸n t½nh d÷îi).
(c) N¸u f li¶n töc t¤i a, th¼ f Lipschitz trong h¼nh c¦u âng B¯R(a). V¼ vªy, câ sè M > 0 sao cho vîi måi v ∈ E,v 6= 0,
f(a+tv)−f(a) t ≤ Mkvk,∀t ∈ (0, R kvk).
i·u n y ngh¾a l f+0 (a;v) ≤ Mkvk,∀v ∈ E v t½nh li¶n töc cõa f+0 (a;v)
thäa m¢n.
B¥y gií ta th£o luªn v· sü li¶n k¸t giúa d÷îi gradient v ¤o h m theo h÷îng ph£i.
Bê · 2.4.3. Gi£ sû r¬ng f : E → R∪ {∞} l h m lçi ch½nh th÷íng v a ∈ int(dom f). Khi â x∗ ∈ E∗ l d÷îi gradient cõa f t¤i a n¸u v ch¿ n¸u
x∗(v) ≤ f+0 (a,v), vîi måi v ∈ E.
Chùng minh. N¸u x∗ ∈∂f(a) th¼ vîi méi v ∈ E v méi t > 0 ta câ:
x∗ ≤ f(a+tv)−f(a)
t ,
khi â, b¬ng c¡ch l§y giîi h¤n khi t → 0+, ta k¸t luªn r¬ng x∗(v) ≤ f+0 (a;v).
Ng÷ñc l¤i, n¸u f+0 (a;v) vîi måi v ∈ E th¼ cæng thùc (2.8) thäa
x∗(v) ≤ f+0 (a;v) ≤ f(a+tv)−f(a)
t vîi måi v ∈ E v t > 0.
Trong ph¦n n y, vîiv = x−a v t = 1, ta thu ÷ñcx∗(x−a)≤ f(x)−f(a), ngh¾a l x∗ ∈ ∂f(a). Chùng minh xong.
ành lþ 2.4.4 (Cæng thùc cüc ¤i Moreau). N¸u f : E → R∪ {∞} l h m lçi ch½nh th÷íng v f li¶n töc t¤i a, th¼ ∂f(a) l tªp réng v
f+0 (a;v) = max{x∗(v) : x∗ ∈ ∂f(a)}.
Nâi c¡ch kh¡c, f+0 (a;·) l h m gi¡ cõa ∂f(a)}.
Chùng minh. Theo bê · (2.4.3) ta ph£i chùng minh r¬ng vîi v ∈ E
cè ành tòy þ, câ mët d÷îi gradient x∗ ∈ E sao cho x∗(v) = f+0 (a;v).
i·u n y câ ÷ñc tø ành lþ Hahn-Banach. Hìn núa, theo bê · (2.4.2) (c), h m tuy¸n t½nh d÷îi x → f+0 (a;x) li¶n töc v tçn t¤i h m tuy¸n t½nh x∗ : E → R sao cho x∗(v) = f+0 (a;v) v x∗(v) ≤ f+0 (a;v) vîi måi x ∈ E. Nâ v¨n cán º chùng minh t½nh li¶n töc cõa x∗ t¤i iºm gèc. Ta câ
lim supx→0x∗(x) ≤ limx→0f+0 (a;x) = 0 v
lim sup x→0 x∗(−x) =−lim inf x→0x∗(x) ≤ lim x→0f+0 (a;−x) = 0, v¼ vªy 0 ≤ lim inf x→0 x∗(x)≤ lim sup x→0 x∗(x) ≤ 0, ngh¾a l lim x→0x∗(x) = 0.
Li¶n quan ¸n cæng thùc cüc ¤i Moreau, l÷u þ r¬ng méi tªp C kh¡c réng, lçi, compact trong Rn ta câ
∂σC(0) = C v (σC)0(0;·) =σC.
ành lþ 2.4.5 (D÷îi vi ph¥n cõa h m cüc ¤i). Gi£ sû f1, . . . , fn l c¡c h m lçi gi¡ trà thüc tr¶n Rn v k½ hi»u
f = max{f1, . . . , fn}.
Vîi a ∈ Rn, °t J(a) ={j : fj(a) = f(a)} l tªp ch¿ sè ho¤t ëng. Khi â
∂f(a) = conv(∪j∈J(a)∂fj(a)).
Chùng minh. Ta câ∂f(a)l tªp lçi âng v ∂f(a) ⊃ ∂fj(a),∀j ∈ J(a). V¼ h m fk li¶n töc, n¶n tçn t¤i > 0 sao cho fk(x) < f(x) vîi måi k /∈ J(a)
x ∈ B(a). Khi â vîi méi v ∈Rn {0} cè ành tòy þ v 0 > t < kvk ta câ f(a+tv) = maxj∈J(a)f(a+tv). V¼ vªy, f+0 (a;v) = lim t→0+ f(a+tv)−f(a) t = lim t→0+ max j∈J(a) fj(a+tv)−f(a) t = lim t→0+ max j∈J(a) fj(a+tv)−fj(a) t = max j∈J(a)fj0(a,v) = max j∈J(a) hv, x∗ji : x∗j ∈ ∂fj(a) = max hv, x∗i :x∗ ∈ [ j∈J(a) ∂fj(a) = max hv, x∗i :x∗ ∈conv [ j∈J(a) ∂fj(a) ,
i·u n y chùng tä r¬ng h m v → f+0 (x;v) l gi¡ cõa tªp lçi C =
conv ∪j∈J(x)∂fj(x).
Theo ành lþ (2.4.4), h m n y công l gi¡ cõa ∂f(x), v¼ vªy theo ành lþ (2.3.4) ta k¸t luªn r¬ng hai tªp n y tròng nhau.
ành lþ 2.4.6. [Quy tc têng d÷îi vi ph¥n] Gi£ sû f1 v f2 l hai h m lçi gi¡ trà thüc tr¶n Rn v t1, t2 > 0. Khi â, vîi méi x ∈ Rn,
∂(t1f1+t2f2)(x) =t1∂f1(x) +t2∂f2(x).
Chùng minh. Thªt vªy t1∂f1(x) +t2∂f2(x) l c¡c tªp lçi compact m gi¡ cõa chóng l t1f10(x;·) +t2f20(x;·). M°t kh¡c, h m gi¡ cõa∂(t1f1+t2f2)(x)
l
(t1f1+t2f2)0(x;·) = t1f10(x;·) +t2f20(x;·).
V¼ vªy, hai tªp lçi compactt1∂f1(x) +t2∂f2(x)v ∂(t1f1+t2f2)(x) câ còng gi¡, do â, chóng tròng nhau.
ành lþ 2.4.7 (D÷îi vi ph¥n cõa h m th nh ph¦n). Cho f l h m lçi gi¡ trà thüc tr¶n Rn v cho A l bi¸n êi tuy¸n t½nh tø Rm v o Rn. Khi â,
vîi méi x ∈ Rm,
∂(f ◦A)(x) =A∗∂f(Ax).
Chùng minh. Theo ành ngh¾a ¤o h m theo h÷îng v cæng thùc cüc ¤i Moreau, ta câ thº chùng minh r¬ng (f ◦ A)0(x,v) = f0(Ax, Av). V¼ vªy h m gi¡ cõa tªp lçi compact ∂(f ◦A)(x) thäa m¢n cæng thùc
σ∂(f◦A)(x)(v) =f0(Ax, Av). M°t kh¡c, σA∗∂f(Ax)(v) = sup y∈∂f(Ax) hA∗y,vi= sup y∈∂f(Ax) hy, Avi =f0(Ax, Av).
Do â c¡c tªp lçi compact ∂(f ◦A)(x) v A∗∂f(Ax) câ còng gi¡. V¼ vªy, chóng tròng nhau.
ành ngh¾a 2.4.2. Gi£ sû E v F l hai khæng gian Banach thüc v U l tªp con mð cõa E. H m f : U → F ÷ñc gåi l kh£ vi G¥teaux t¤i iºm a ∈ U n¸u ¤o h m theo h÷îng
f0(a,v) = lim
t→0
f(a +tv)−f(a) t
tçn t¤i vîi méi v ∈ E v x¡c ành mët to¡n tû tuy¸n t½nh li¶n töc f0(a) :
v → f0(a,v) tø E v o F (÷ñc gåi l vi ph¥n G¥teaux cõa f t¤i a theo h÷îng v).
Trong tr÷íng hñpf l h m gi¡ trà thüc x¡c ành tr¶nRn, kh£ vi G¥teaux ngh¾a l sü tçn t¤i cõa t§t c£ c¡c ¤o h m ri¶ng
∂f ∂xk(a) =f 0(a)(ek) vîi k = 1, . . . , n, trong â e1 = (1,0, . . . ,0), . . . ,en = (0,0, . . . ,1) l cì sð cõa Rn. V¼ vªy, f0(a)((v) =h5f(a),vi vîi måi v ∈ Rn, trong â 5f(a) = n X k=1 ∂f ∂xk(a)ek
k½ hi»u cho gradient cõa f t¤i a.
Trong tr÷íng hñp f l h m lçi ch½nh th÷íng f : E → R ∪ {∞}, ành ngh¾a vi ph¥n G¥teaux ¡p döng t¤i c¡c iºm a ∈ int(dom f ). Theo bê · (2.4.3), h m f li¶n töc v kh£ vi G¥teaux t¤i iºm a ∈int(dom f ), n¸u v ch¿ n¸u
f+0 (a,v) = −f+0 (a,−v) vîi måi v ∈ E.
Thªt vªy, h m p tuy¸n t½nh d÷îi l tuy¸n t½nh n¸u v ch¿ n¸u p(−x) = −p(x) vîi måi x. i·u ki»n li¶n töc ÷ñc tü ëng ho n th nh khi E húu h¤n chi·u.
M»nh · 2.4.8. N¸u h m lçi ch½nh th÷íng f : E → R ∪ {∞} kh£ vi G¥teaux t¤i iºm a ∈ int(dom f), th¼
∂f(a) ={f0(a)}
v b§t ¯ng thùc d÷îi gradient trð th nh
f(x) ≥ f(a)(x−a) vîi måi x ∈ E.
Chùng minh. D¹ d ng chùng minh ÷ñc f0(a) ∈ ∂f(a). N¸u x∗ ∈ ∂f(a), th¼ x∗(v)≤ f0(a)(v) vîi måi v ∈E. Thay v bði −v, ta thu ÷ñc b§t ¯ng thùc ng÷ñc l¤i. Do â, x∗ = f0(a).
H» qu£ 2.4.9. Cho f : E → R∪ {∞} l h m lçi ch½nh th÷íng li¶n töc t¤i iºm a ∈ int(dom f). Khi â f kh£ vi G¥teaux t¤i a n¸u v ch¿ n¸u f
câ gi¡ duy nh§t t¤i a.
Chùng minh. Gi£ sû∂f(a) ={x∗}. Khi â, theo cæng thùc cüc ¤i Moreau,
f+0 (a,v) =x∗(v) v f+0 (a,−v) = x∗(v) vîi måi v ∈ E. Theo nhªn x²t sau ành ngh¾a, ta th§y r¬ng f kh£ vi G¥teaux t¤i a.
N¸u E húu h¤n chi·u, khi â i·u ki»n li¶n töc trong H» qu£ (2.4.9) l tü ëng.
ành lþ 2.4.10 (D÷îi vi ph¥n tèi ÷u). Cho E l khæng gian Banach v
f :E →R∪ {∞} l h m lçi ch½nh th÷íng. Khi â iºm a ∈ dom f l cüc tiºu àa ph÷ìng cõa f n¸u v ch¿ n¸u f l d÷îi vi ph¥n t¤i a v
0 ∈∂f(a).
N¸u a ∈ int(dom f) v f câ ¤o h m t¤i a, th¼ i·u ki»n 0 ∈ ∂f(a) rót th nh f0(a) = 0.