3 B i to¡n cüc trà hm lỗi
3.6 Ph÷ìng ph¡p Frank Wolfe
Trong phƯn ny ta s trẳnh by mởt ph÷ìng ph¡p cì b£n º gi£i b i toĂn qui hch lỗi. õ l phữỡng phĂp Frank - Wolfe.
X²t b i to¡n qui hoÔch rng buởc tuyán tẵnh sau
Minf(x) vỵi c¡c i·u ki»n
trong â f l mët h m kh£ vi li¶n tưc trản D, A l ma trên (m×n) v
b ∈ Rm sao cho D bà ch°n.
Ta xƠy dỹng mởt thuêt toĂn hữợng cõ th sau:
1. Dũng qui hoÔch tuyán tẵnh (náu cƯn) tẳm im xuĐt phĂt x0 ∈ D. 2. Khi ¢ câ xk ∈ D, tẵnh 5f(xk).
2a) Náu 5f(xk) = 0: dng.
2b) Tri lễi, ta giÊi qui hoÔch tuyán tẵnh
Minh5f(xk), x−xki|x ∈ D . (L(xk))
thu ÷đc mët líi gi£i uk l ¿nh cõa D. Hai kh£ n«ng câ thº x£y ra
(i)h5f(xk), uk −xki ≥ 0.
Døng thuªt to¡n.
(ii)h5f(xk), uk −xki < 0.
Lóc n y dk = uk − xk 6= 0 l hữợng tửt. Theo hữợng ny, chồn
xk+1 ∈ D sao cho f(xk+1) l nhọ nhĐt trong số cĂc im chĐp nhên nơm trản hữợng dk.
Muèn th¸ gi£i b i to¡n 1- chi·u
Mintf(xk+tdk),0≤ t≤ 1 .
Gåi nghi»m b i to¡n n y l tk > 0. L§y xk+1 = xk + tkdk. Nhữ vêy
f(xk+1) < f(xk).
Quay lÔi bữợc 3, vợi xk ữủc thay bơng xk+1. Thuªt to¡n hëi tư theo nh lỵ sau:
nh lỵ 3.6.1. Vợi cĂc giÊ thiát  nảu trản ta câ a) f(xk+1) < f(xk),∀k,
b) Náu thuêt toĂn kát thúc tƠi im xk th¼ xk l mët iºm døng cõa f
tr¶n D. Náu tht toĂn vổ hƠn thẳ mi im t cừa dÂy xk Ãu l im dứng,
c) Náu f l lỗi, thẳ mồi im dứng Ãu l lới giÊi cừa b i to¡n. Chùng minh.
a) Hin nhiản, vẳ theo cĂch xƠy dỹng, dk l hữợng tửt.
b) GiÊ sỷ thuêt toĂn kát thúc tƠi bữợc k. Ngh¾a l h5f(xk), uk−xki ≥
0.
Do uk l nghi»m cõa b i to¡n (L(xk)) n¶n ∀x ∈ D ta câ
Minh5f(xk), x−xki|x ∈ D ≤ Minh5f(xk), uk −xki|x∈ D ≥ 0.
Vªy x∗ l iºm døng.
Gi£ sû thuªt to¡n vỉ hƠn. Gồi x∗ l iºm tư cõa d¢yxk. Do D compact, tỗn tƠi mởt dÂy con xkj hëi tư ¸n x∗. Gåi ukj l nghiằm cừa qui hoÔch tuyán tẵnh (L(xkj). Do tªp ¿nh cõa D l hỳu hƠn nản ta cõ th coi rơng
ukj = u∗,∀j. Theo tẵnh ỡn iằu giÊm cừa dÂy f(xk) v c¡ch x¡c ành
xkj+1, u∗,∀0 < t < 1 ta câ
f(xkj+1
) ≤ f(xkj) ≤f(xkj +t(u∗ −xkj).
Cho j +, do f liản tc nản
f(x) f(x +t(u x)).
Vẳ i·u n y óng vỵi måi 0 < t < 1 n¶n
lim
t→0+
f(x∗ +t(u∗ −x∗))−f(x∗)
t = h5f(x∗), u∗ −x∗i ≥ 0.
M°t kh¡c, do u∗ l nghi»m cõa b i to¡n (L(xkj), n¶n
Qua giợi hƠn, ta ữủc h5f(x∗), u∗ −x∗i ≤ h5f(x∗), x−x∗i. Vªy h5f(x∗), x −x∗i ≥ 0,∀x ∈ D. Suy ra x∗ l iºm døng. c) N¸u f l hm lỗi, thẳ h5f(x∗), x −x∗i ≤ f(x)−f(x∗),∀x ∈ D.
Do â f(x∗) ≤ f(x),∀x ∈ D. Chùng tä x∗ l mët iºm cüc tiºu cõa
Kát luên
Nhữ vêy, luên vôn  trẳnh by mởt cĂch câ h» thèng c¡c kh¡i ni»m v kián thực cỡ bÊn và têp lỗi v hm lỗi. Tiáp õ, luên vôn à cêp án tẵnh chĐt cỹc tr cừa hm lỗi, ỗng thíi chùng minh mët c¡ch ¦y õ c¡c tẵnh chĐt cừa chúng. Cuối cũng, luên vôn ¢ tr¼nh b y v· ùng dưng cüc tr cừa hm lỗi trong viằc xƠy dỹng iÃu ki»n c¦n v õ º mët iºm l im cỹc tiu cừa hm lỗi trản mởt têp lỗi v cĂc bi toĂn liản quan nhữ bi toĂn ối ngău Lagrange, im yản ngüa, ph÷ìng ph¡p Frank-wolfe...
T i li»u tham kh£o
Ti¸ng viằt
[1] Lả Dụng Mữu, Nguyạn Vơn HiÃn, Nhêp mổn GiÊi tẵch lỗi ựng dửng, NXB KHCN, (s³ ra).
[2] ộ Vôn Lữu, Phan Huy KhÊi, (2000), GiÊi tẵch lỗi, NXB Khoa hồc v K thuêt.
Tiáng Anh
[3] Ho ng Töy, (2003), Convex Analysis and Global Optimization, Kluwer Acacedemic publisher.
[4] R. T. Rockaferllar, (1970), Convex Analysis, Princeton University Press, Princeton, New Jersey.