Ph÷ìng ph¡p Frank Wolfe

Một phần của tài liệu Hàm lồi và tính chất cực trị của chúng (Trang 53 - 58)

3 B i to¡n cüc trà hm lỗi

3.6Ph÷ìng ph¡p Frank Wolfe

Trong phƯn ny ta s trẳnh by mởt ph÷ìng ph¡p cì b£n º gi£i b i toĂn qui hch lỗi. õ l phữỡng phĂp Frank - Wolfe.

X²t b i to¡n qui hoÔch rng buởc tuyán tẵnh sau

  

 

Minf(x) vỵi c¡c i·u ki»n

trong â f l  mët h m kh£ vi li¶n tưc trản D, A l ma trên (m×n) v 

b ∈ Rm sao cho D bà ch°n.

Ta xƠy dỹng mởt thuêt toĂn hữợng cõ th sau:

1. Dũng qui hoÔch tuyán tẵnh (náu cƯn) tẳm im xuĐt phĂt x0 ∈ D. 2. Khi ¢ câ xk ∈ D, tẵnh 5f(xk).

2a) Náu 5f(xk) = 0: dng.

2b) Tri lễi, ta giÊi qui hoÔch tuyán tẵnh

Minh5f(xk), x−xki|x ∈ D . (L(xk))

thu ÷đc mët líi gi£i uk l  ¿nh cõa D. Hai kh£ n«ng câ thº x£y ra

(i)h5f(xk), uk −xki ≥ 0.

Døng thuªt to¡n.

(ii)h5f(xk), uk −xki < 0.

Lóc n y dk = uk − xk 6= 0 l hữợng tửt. Theo hữợng ny, chồn

xk+1 ∈ D sao cho f(xk+1) l nhọ nhĐt trong số cĂc im chĐp nhên nơm trản hữợng dk.

Muèn th¸ gi£i b i to¡n 1- chi·u

Mintf(xk+tdk),0≤ t≤ 1 .

Gåi nghi»m b i to¡n n y l  tk > 0. L§y xk+1 = xk + tkdk. Nhữ vêy

f(xk+1) < f(xk).

Quay lÔi bữợc 3, vợi xk ữủc thay bơng xk+1. Thuªt to¡n hëi tư theo nh lỵ sau:

nh lỵ 3.6.1. Vợi cĂc giÊ thiát  nảu trản ta câ a) f(xk+1) < f(xk),∀k,

b) Náu thuêt toĂn kát thúc tƠi im xk th¼ xk l  mët iºm døng cõa f

tr¶n D. Náu tht toĂn vổ hƠn thẳ mi im t cừa dÂy xk Ãu l im dứng,

c) Náu f l  lỗi, thẳ mồi im dứng Ãu l lới giÊi cừa b i to¡n. Chùng minh.

a) Hin nhiản, vẳ theo cĂch xƠy dỹng, dk l hữợng tửt.

b) GiÊ sỷ thuêt toĂn kát thúc tƠi bữợc k. Ngh¾a l h5f(xk), uk−xki ≥

0.

Do uk l  nghi»m cõa b i to¡n (L(xk)) n¶n ∀x ∈ D ta câ (adsbygoogle = window.adsbygoogle || []).push({});

Minh5f(xk), x−xki|x ∈ D ≤ Minh5f(xk), uk −xki|x∈ D ≥ 0.

Vªy x∗ l  iºm døng.

Gi£ sû thuªt to¡n vỉ hƠn. Gồi x∗ l  iºm tư cõa d¢yxk. Do D compact, tỗn tƠi mởt dÂy con xkj hëi tư ¸n x∗. Gåi ukj l nghiằm cừa qui hoÔch tuyán tẵnh (L(xkj). Do tªp ¿nh cõa D l hỳu hƠn nản ta cõ th coi rơng

ukj = u∗,∀j. Theo tẵnh ỡn iằu giÊm cừa dÂy f(xk) v  c¡ch x¡c ành

xkj+1, u∗,∀0 < t < 1 ta câ

f(xkj+1

) ≤ f(xkj) ≤f(xkj +t(u∗ −xkj).

Cho j +, do f liản tc nản

f(x) f(x +t(u x)).

Vẳ i·u n y óng vỵi måi 0 < t < 1 n¶n

lim

t→0+

f(x∗ +t(u∗ −x∗))−f(x∗)

t = h5f(x∗), u∗ −x∗i ≥ 0.

M°t kh¡c, do u∗ l  nghi»m cõa b i to¡n (L(xkj), n¶n

Qua giợi hƠn, ta ữủc h5f(x∗), u∗ −x∗i ≤ h5f(x∗), x−x∗i. Vªy h5f(x∗), x −x∗i ≥ 0,∀x ∈ D. Suy ra x∗ l  iºm døng. c) N¸u f l hm lỗi, thẳ h5f(x∗), x −x∗i ≤ f(x)−f(x∗),∀x ∈ D.

Do â f(x∗) ≤ f(x),∀x ∈ D. Chùng tä x∗ l  mët iºm cüc tiºu cõa

Kát luên

Nhữ vêy, luên vôn  trẳnh by mởt cĂch câ h» thèng c¡c kh¡i ni»m v kián thực cỡ bÊn và têp lỗi v hm lỗi. Tiáp õ, luên vôn à cêp án tẵnh chĐt cỹc tr cừa hm lỗi, ỗng thíi chùng minh mët c¡ch ¦y õ c¡c tẵnh chĐt cừa chúng. Cuối cũng, luên vôn ¢ tr¼nh b y v· ùng dưng cüc tr cừa hm lỗi trong viằc xƠy dỹng iÃu ki»n c¦n v  õ º mët iºm l  im cỹc tiu cừa hm lỗi trản mởt têp lỗi v cĂc bi toĂn liản quan nhữ bi toĂn ối ngău Lagrange, im yản ngüa, ph÷ìng ph¡p Frank-wolfe...

T i li»u tham kh£o

Ti¸ng viằt

[1] Lả Dụng Mữu, Nguyạn Vơn HiÃn, Nhêp mổn GiÊi tẵch lỗi ựng dửng, NXB KHCN, (s³ ra).

[2] ộ Vôn Lữu, Phan Huy KhÊi, (2000), GiÊi tẵch lỗi, NXB Khoa hồc v K thuêt.

Tiáng Anh

[3] Ho ng Töy, (2003), Convex Analysis and Global Optimization, Kluwer Acacedemic publisher.

[4] R. T. Rockaferllar, (1970), Convex Analysis, Princeton University Press, Princeton, New Jersey.

Một phần của tài liệu Hàm lồi và tính chất cực trị của chúng (Trang 53 - 58)