2 MËT SÈ PH×ÌNG PHP GII CÌ BN
2.1.3 Ph÷ìng ph¡p Frank Wolfe
Ph÷ìng ph¡p n y dòng º gi£i b i to¡n quy ho¤ch r ng buëc tuy¸n t½nh. Trong ph÷ìng ph¡p n y ¤o h m ÷ñc dòng º x§p x¿ tuy¸n t½nh h m möc ti¶u khæng tuy¸n t½nh. Vîi ph÷ìng ph¡p n y ta câ thº th§y ÷ñc sü kh¡c nhau cì b£n khi gi£i c¡c b i to¡n câ r ng buëc v khæng r ng buëc.
X²t b i to¡n quy ho¤ch r ng buëc tuy¸n t½nh sau
minf(x), (21)
vîi r ng buëc
x := {A x ≤ b, x ≥ 0},
trong â f l mët h m kh£ vi li¶n töc tr¶n D, A l ma trªn (m × n) v
b ∈ Rm sao cho D bà ch°n. Ta x¥y düng thuªt to¡n h÷îng câ thº nh÷ sau: 1. Dòng quy ho¤ch tuy¸n t½nh (n¸u c¦n) t¼m iºm xu§t ph¡t x0 ∈ D. 2. Khi ¢ câ xk ∈ D, t½nh ∇f xk.
a) ∇f xk = 0: døng.
b) Tr¡i l¤i ph£i quy ho¤ch tuy¸n t½nh
min∇f xk.x − xk : x ∈ D , L xk
thu ÷ñc mët líi gi£i uk l ¿nh cõa D. Hai kh£ n«ng câ thº x£y (i)
∇f xk, uk − xk ≥ 0,
Khi â døng thuªt to¡n, n¸u (ii)
∇f xk, uk − xk < 0, ta l§y dk := uk − xk 6= 0 l h÷îng töt. Theo h÷îng n y, chån xk+1 ∈ D sao chof xk+1 l nhä nh§t trong sè c¡c iºm ch§p nhªn n¬m tr¶n h÷îng dk. Nh÷ vªy ta ph£i gi£i b i to¡n mët bi¸n
min
f xk + tdk, 0 ≤ t ≤ 1 .
Gåi nghi»m b i to¡n n y l tk > 0. L§y xk+1 = xk + tkdk . Nh÷ vªy
f xk+1 < f xk. Quay l¤i b÷îc 2 vîi xk ÷ñc thay b¬ng xk+1.
ành lþ 2.5. . ành lþ hëi tö
a) f xk+1 < f xk ∀k;
b)N¸u thuªt to¡n k¸t thóc t¤i iºm xk, th¼ xk l mët iºm døng cõa f tr¶n
D. N¸u thuªt to¡n væ h¤n th¼ måi iºm tö cõa d¢y
xk ·u l iºm døng. c)N¸u f l lçi, th¼ måi iºm døng ·u l líi gi£i cõa (21). Ngo i ra d¢y sè
f xk+1 l hëi tö ¸n trà tèi ÷u f∗ v 0 ≤ f xk − f∗ ≤
∇f xk. uk − xk.
Chùng minh. Gi£ sû thuªt to¡n i k²o væ h¤n. Gåi x∗ l mët iºm tö cõa d¢y
xk . Do D l compact, tçn t¤i mët d¢y con
xkj hëi tö ¸n x∗. Gåi ukjl nghi»m cõa quy ho¤ch tuy¸n t½nh L xkj. Do tªp ¿nh cõa D l húu h¤n n¶n ta câ thº coi r¬ng ukj = u∗ vîi måi j. Theo t½nh ìn i»u gi£m cõa d¢y
f xk v c¡ch x¡c ành xk+1, u∗, vîi måi 0 < t < 1 ta câ
f xkj+1 ≤ f xkj+1 ≤ f xkj + t u∗ − xkj.
Cho j → +∞, do f li¶n töc n¶n
f (x∗) ≤ f (x∗ + t(u∗ − x∗)).
V¼ i·u n y óng vîi måi 0 < t < 1 n¶n lim
t→0
f (x∗ + t(u∗ − x∗)) − f (x∗)
t = h∇f (x∗). u∗ − x∗i ≥ 0.
M°t kh¡c do u∗ l nghi»m cõa b i to¡n L xkj, n¶n ∇f xkj. u∗ − xkj ≤ ∇f xkj. x − xkj ∀x ∈ D. Qua giîi h¤n, ÷ñc h∇f (x∗). u∗ − x∗i ≤ h∇f (x∗). x − x∗i. Vªy h∇f (x∗). x − x∗i ≥ 0 ∀x ∈ D. Suy ra x∗ l iºm døng. N¸u f l h m lçi, th¼ h∇f (x∗). x − x∗i ≤ f (x) − f (x∗) ∀x ∈ D.
Do â f (x∗) ≤ f (x) vîi ∀x ∈ D. Chùng tä x∗ l mët iºm cüc tiºu cõa f tr¶n D.