Hàm Lồi Và Tính Chất Cực Trị Của Chúng.pdf

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http //www lrc tnu edu vn ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC SƯ PHẠM ========== TRẦN THỊ HUỆ HÀM LỒI VÀ TÍNH CHẤT CỰC TRỊ CỦA CHÚNG LUẬN VĂN THẠC SĨ[.]

ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC SƯ PHẠM ========== TRẦN THỊ HUỆ HÀM LỒI VÀ TÍNH CHẤT CỰC TRỊ CỦA CHÚNG LUẬN VĂN THẠC SĨ TOÁN HỌC Thái Nguyên - 2010 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên Tai ngay!!! Ban co the xoa dong chu nay!!! http://www.lrc-tnu.edu.vn ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC SƯ PHẠM ========== TRẦN THỊ HUỆ HÀM LỒI VÀ TÍNH CHẤT CỰC TRỊ CỦA CHÚNG Chun ngành: TỐN GIẢI TÍCH Mã số: 60.46.01 LUẬN VĂN THẠC SĨ TỐN HỌC Thái Nguyên - 2010 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Möc löc Möc löc Líi mð ¦u C¡c ki¸n thùc cì b£n và têp lỗi v hm lỗi 1.1 Têp lỗi 1.2 Hm lỗi 1.2.1 ành ngh¾a v  c¡c v½ dư 1.2.2 T½nh liản tửc cừa hm lỗi 1.2.3 CĂc php toĂn bÊo ton tẵnh lỗi 1.2.4 BĐt ng thực lỗi 1.2.5 Dữợi vi phƠn cừa hm lỗi Tẵnh chĐt cỹc tr cừa hm lỗi 2.1 nh nghắa cỹc tr cừa mởt hm lỗi 2.2 Tẵnh chĐt cỹc tr cừa hm lỗi 2.2.1 Tẵnh chĐt cỹc tiu cừa hm lỗi 2.2.2 Tẵnh chĐt cỹc Ôi cừa hm lỗi Bi toĂn cỹc tr hm lỗi 6 17 17 22 23 25 26 30 31 31 31 32 36 3.1 Bi toĂn tối ữu lỗi khæng câ r ng buëc 36 3.2 B i to¡n tèi ÷u lỗi vợi rng buởc ng thực 37 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 3.3 B i toĂn tối ữu lỗi vợi rng buởc bĐt ng thực 3.4 ối ngău Lagrange 3.5 iºm y¶n ngüa 3.6 Ph÷ìng ph¡p Frank - Wolfe K¸t luªn T i li»u tham kh£o 56 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên 40 46 49 51 55 http://www.lrc-tnu.edu.vn Lới nõi Ưu GiÊi tẵch lỗi l  mët bë mỉn quan trång cõa gi£i t½ch phi tuyán GiÊi tẵch lỗi nghiản cựu và têp lỗi v hm lỗi CĐu trúc lỗi l mởt sỹ m rởng trỹc tiáp cừa cĐu trúc tuyán tẵnh CĐu trúc lỗi gp rĐt nhiÃu nhỳng lắnh vỹc khĂc cừa to¡n håc gi£i t½ch Trong â, cüc trà cõa h m lỗi l mởt nhỳng à ti quan trồng cừa giÊi tẵch lỗi, lỵ thuyát ny lÔi cng tr nản phong phú nhớ nhỳng tẵnh chĐt cừa têp lỗi v hm lỗi Tứ õ, ngữới ta ữa nhỳng phữỡng phĂp giÊi quyát khĂc cho mội bi toĂn tẳm cỹc Ôi hay cỹc tiu cừa mởt hm lỗi trản mởt têp lỗi Cỹc tr cừa hm lỗi cõ vai trỏ quan trồng giÊi tẵch hiằn Ôi, ỗng thới câ nhi·u ùng dưng c¡c l¾nh vüc kh¡c cõa To¡n håc, °c bi»t l  bë mæn To¡n ựng dửng nhữ: Tối ữu hõa, bĐt ng thực bián phƠn Mửc ẵch cừa luên vôn nhơm trẳnh by mët c¡ch câ h» thèng c¡c ki¸n thùc cì b£n v quan trồng nhĐt và cỹc tr cừa hm lỗi ỗng thới, giợi thiằu mởt số bi toĂn tối ữu lỗi v cĂc lỵ thuyát liản quan cho bi toĂn ny, nhữ l cĂc iÃu kiằn tối ữu, lỵ thuyát ối ngău, Ngoi phƯn m Ưu, kát luên v danh mửc ti liằu tham khÊo, luên vôn gỗm cõ chữỡng Chữỡng mởt cừa luên vôn vợi tiảu à "CĂc kián thực cỡ bÊn và têp lỗi v hm lỗi" nhơm giợi thiằu mởt số khĂi niằm cỡ bÊn và têp lỗi v hm S húa bi Trung tõm Hc liu i hc Thỏi Nguyờn http://www.lrc-tnu.edu.vn lỗi vợi nhỳng tẵnh chĐt c trững cừa nõ Do phƯn ny ch mang tẵnh chĐt bờ trủ, nản ta s khổng chựng minh cĂc kát quÊ ữa Ơy Vợi tiảu à "Tẵnh chĐt cỹc tr cừa hm lỗi", chữỡng hai nhơm giợi thiằu nhỳng khĂi niằm, tẵnh ch§t cì b£n, quan trång v· cüc trà cõa h m lỗi Chữỡng ny ữủc chia lm hai phƯn PhƯn Ưu trẳnh by cĂc khĂi niằm và cỹc Ôi v cỹc tiu cừa hm lỗi PhƯn tiáp theo à cêp và cĂc tẵnh chĐt cỡ bÊn v quan trồng và cỹc Ôi, cỹc tiu cừa hm lỗi Dỹa trản cĂc kát quÊ  nảu cĂc chữỡng trữợc õ, chữỡng ba cừa luên vôn "Bi toĂn cỹc tr hm lỗi", ữủc d nh º tr¼nh b y v· ùng dưng cõa cüc trà hm lỗi viằc xƠy dỹng iÃu kiằn tối ữu cho bi toĂn tẳm cỹc tiu cừa mởt hm lỗi trản mởt têp lỗi Cử th Ơy l nhỳng i·u ki»n tèi ÷u cho c¡c b i to¡n tèi ÷u lỗi khổng cõ rng buởc, rng buởc ng thực v rng buởc bĐt ng thực ỗng thới, trẳnh by và bi toĂn ối ngău Lagrange v im yản ngỹa PhƯn cuối cừa chữỡng ny trẳnh by và mởt thuêt toĂn cỡ bÊn  giÊi bi toĂn qui hoÔch lỗi õ l phữỡng phĂp Frank - Wolfe Trong quĂ trẳnh hon thnh luên vôn ny, tổi xin by tọ lỏng biát ỡn chƠn thnh nhĐt án ngữới hữợng dăn khoa hồc cừa tổi l GS.TSKH Lả Dụng Mữu ThƯy  tên tẳnh ch bÊo, hữợng dăn tổi suốt quĂ trẳnh thỹc hiằn luên vôn Tổi cụng xin chƠn thnh cÊm ỡn cĂc ThƯy, cổ khoa ToĂn, trữớng H Sữ phÔm  nhiằt tẳnh truyÃn thử cho tổi nhỳng kián thực quỵ giĂ, cÊ và phữỡng phĂp hồc têp cụng nhữ cĂc phữỡng phĂp giÊng dÔy, nghiản cựu trản giÊng ữớng CĂm ỡn gia ẳnh, bÔn b  luổn tÔo iÃu kiằn cho tổi phĐn Đu, giúp ù v ëng vi¶n tỉi st thíi gian qua M°c dị  cõ rĐt nhiÃu cố gưng, hÔn chá v· nhi·u m°t n¶n Số hóa Trung tâm Hc liu i hc Thỏi Nguyờn http://www.lrc-tnu.edu.vn luên vôn chưc chưn khổng trĂnh khọi thiáu sõt RĐt mong nhên ữủc sỹ ch bÊo, gõp ỵ cừa ThƯy cổ v cĂc bÔn Tổi xin chƠn thnh cÊm ỡn! S hóa Trung tâm Học liệu – Đại học Thái Nguyờn http://www.lrc-tnu.edu.vn Chữỡng CĂc kián thực cỡ bÊn và têp lỗi v hm lỗi Trong chữỡng ny nhơm giợi thiằu nhỳng khĂi niằm cỡ bÊn nhĐt và têp lỗi v hm lỗi nhỳng tẵnh chĐt c trững cừa nõ Do mang tẵnh chĐt bờ trủ, nản cĂc kát quÊ nảu dữợi Ơy ta s khổng chựng minh CĂc khĂi niằm v kián thực cỡ bÊn  sỷ dửng ÷đc tham kh£o tø c¡c t i li»u [1], [2], [4] danh mửc ti liằu tham khÊo 1.1 Têp lỗi ành ngh¾a 1.1.1 Cho hai iºm a, b ∈ Rn oÔn thng nối hai im a, b Rn l têp hủp cĂc im x Rn cõ dÔng {x|x = λa + (1 − λ)b, λ ∈ [0, 1]} nh nghắa 1.1.2 Mởt têp C Rnữủc gồi l mởt têp lỗi, náu C chựa mồi oÔn thng i qua hai iºm b§t ký cõa nâ Tùc l , C lỗi v ch x, y C, ∀λ ∈ [0, 1] ⇒ λx + (1 − λ)y C Vẵ dử 1.1.3 Trong hẳnh hồc sỡ cĐp ta  lm quen vợi cĂc têp lỗi S hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn - Trong R2, c¡c h¼nh tam gi¡c, h¼nh trỏn, l cĂc têp lỗi quen biát - Trong R3, cĂc hẳnh chõp, lông trử, hẳnh cƯu, cụng l cĂc têp lỗi nh nghắa 1.1.4 Ta nõi x l tờ hủp lỗi cừa cĂc im (vc-tỡ) x1, x2, , xk n¸u x= k X j λj x , λj ≥ 0, ∀j = 1, , k, j=1 k X λj = j=1 M»nh · 1.1.5 Tªp C l  lỗi v ch nõ chựa mồi tờ hủp lỗi cĂc im cừa nõ Tực l, C lỗi v  ch¿ ∀k ∈ N, ∀λ1 , , λk > : k X λj = 1, ∀x1 , , xk ∈ C ⇒ j=1 k X λj xj C j=1 nh nghắa 1.1.6 Cho têp C Rn Bao lỗi cừa têp C l giao cừa tĐt cÊ cĂc têp lỗi chựa C Kỵ hiằu: coC Bao lỗi cừa mồi têp C chẵnh l mởt têp lỗi nhọ nhĐt chựa C Vẵ dử 1.1.7 - Bao lỗi cừa têp ch cõ hai im a, b chẵnh l oÔn thng nối hai im a, b - Bao lỗi cõa tªp hđp iºm khỉng th¯ng h ng l  tam giĂc vợi nh a, b, c v phƯn cừa nõ Mằnh à 1.1.8 Bao lỗi cừa mởt têp C l têp hủp cĂc tờ hủp lỗi cừa cĂc im thuởc C nh lỵ 1.1.9 Têp lỗi l õng vợi cĂc php giao, php cởng, php nhƠn vợi mởt số, php lĐy tờ hủp tuyán tẵnh v php nhƠn tẵch Decastes Tực l, náu A v B l hai têp lỗi Rn, C l têp lỗi Rm thẳ cĂc têp sau cụng l têp lỗi: i) A ∩ B = {x|x ∈ A; x ∈ B} , ii) λa + βb = {x|x = λa + βb, a ∈ A, b ∈ B, λ, β ∈ R} , iii) A × C = {x ∈ Rm+n|x = (a, c) : a ∈ A, c ∈ C} Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn ành ngh¾a 1.1.10 Cho hai iºm a, b ∈ Rn ÷íng th¯ng i qua hai iºm a, b l têp hủp tĐt cÊ cĂc im x Rn cõ dÔng {x|x = a + (1 b), R} nh nghắa 1.1.11 Mởt têp M Rnữủc gồi l mởt têp affin (hay a tÔp affin) náu nõ chựa mồi ữớng thng i qua hai im bĐt kẳ cừa nõ, nghắa l x, y ∈ M, ∀λ ∈ R ⇒ λx + (1 − )y M Nhên xt: Têp affin l mởt trữớng hủp riảng cừa têp lỗi Vẵ dử 1.1.12 Têp rộng, têp gỗm nhĐt mởt im {x0}, ữớng thng, cĂc khỉng gian cõa Rn l  nhúng v½ dư v· tªp affin M»nh · 1.1.13 M 6= ∅ l  tªp affin v ch nõ cõ dÔng M = L+a vỵi L l  mët khỉng gian v  a ∈ M Khỉng gian n y ÷đc x¡c ành nhĐt Khổng gian mằnh à nõi trản ữủc gồi l khổng gian song song vợi M nh nghắa 1.1.14 Thự nguyản (chiÃu) cừa mởt têp affin M l  thù nguy¶n cõa khỉng gian song song vợi M v ữủc kẵ hiằu l dimM Mởt vẵ dử khĂc cừa a têp affin l siảu phng, ữủc nh nghắa nhữ sau: nh nghắa 1.1.15 Siảu phng khổng gian R l têp hủp cĂc im cõ dÔng  x ∈ Rn |aT x = α â a ∈ Rn l  mët v²c tì kh¡c v  α ∈ R V²c tì α ÷đc gåi l  vc tỡ phĂp tuyán cừa siảu phng S húa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Ta cõ: intRm+1 C + Thêt vêy, lĐy (µ0, µ1, , µm) ∈ Rm+1 + Khi â, µi > 0(i = 1, , m) Vỵi x = x∗ ta câ: µ0 > f (x) − f (x∗ ), µi > ≥ fi (x∗ ) (i = 1, , m) ⇒ (µ0 , µ1 , , µm ) ∈ C ⇒ intRm+1 ⊂ C ⇒ intC 6= + Do A, f, f1, , fm lỗi nản C lỗi Hỡn nỳa, C Thêt vêy, náu C thẳ x A thọa mÂn: f (x) < f (x∗ ), fi (x) ≤ (i = 1, , m) Do â x∗ khæng l  nghiằm cừa (OP) nỳa, mƠu thuăn vợi giÊ thiát Vẳ vêy C Theo nh lỵ tĂch 1, cõ th tĂch têp C v bi mởt phiám hm tuyán tẵnh khĂc 0, tực l tỗn tÔi cĂc số 0, 1, , m khổng ỗng thới bơng 0, cho: m X λi µi ≥ 0, ∀ (µ0 , µ1 , , µm ) ∈ C (3.2) i=0 Do intRm+1 ⊂ C , ta suy ra: λi ≥ (i = 0, , m) + Vỵi måi ε > v x A, ta lĐy à0 = f0(x) − f0(x∗) + ε, µi = fi(x)(i = 1, , m) rỗi thay vo (3.2) v cho 0, ta ÷đc: λ0 f0 (x) + m X ( λi fi (x) ≥ λ0 f0 x∗ ), ∀x ∈ A i=1 Do x l im chĐp nhên ữủc, ta câ fi(x∗) ≤ (i = 1, , m) N¸u ∃i ∈ i = 1, , m : fi(x∗) = −α < th¼ ∀ε > 0, = f0 (x∗ ) − f0 (x∗ ) < ε, fj (x∗ ) ≤ < ε (j = 1, , i − 1, i, i + 1, , m) 42 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn (3.3) ( −α ð tr½ thù i) −λi α ≥ (do (3.2) v  cho ε → ) ⇒ λi ≤ ⇒ λi = (Do λi ≥ ) ⇒ (ε, , −α, ε, , ) C Nhữ vêy, náu fi(x) < 0, thẳ λi = Do â: λi fi (x∗ ) = (i = 1, , m) Vªy i·u ki»n ë lằch bũ ữủc thọa mÂn V õ, tứ (3.3) ta câ: λ0 f (x) + m X ∗ λi fi (x) ≤ λ0 f (x ) + i=1 m X λi fi (x∗ ) (∀x ∈ A) i=1 Hay L (x∗, λ0, , λm) = Minx∈A L (x, λ0, , λm) º chùng minh i·u ki»n õ, ta gi£ sû i·u ki»n Slater thäa m¢n Khi â λ0 > Thêt vêy, vẳ náu = 0, thẳ số cĂc 1, , m phÊi cõ ẵt nhĐt mởt λi > Do â λ0 f (x ) + m X ∗ λi fi (x ) < = λ0 f (x ) + i=1 m X i fi (x ) i=1 iÃu ny mƠu thuăn vợi iÃu kiằn Ôo hm trữủt tiảu trản Vêy > Do > 0, nản bơng cĂch chia cho λ0 > 0, ta câ thº coi h m Lagrange l  m L (x, λ0 , , λm ) = f (x) + X λi fi (x) i=1 Tø i·u kiằn Ôo hm trữủt tiảu v ở lằch bũ, vợi mồi x chĐp nhên ữủc, ta cõ: f (x ) = f (x ) + m X ∗ λi fi (x ) ≤ f (x) + i=1 m X λi fi (x) ≤ f (x) i=1 43 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Chùng tä x∗ l  nghi»m tèi ÷u cõa bi toĂn (OP) nh lỵ 3.3.2 GiÊ sỷ cĂc hm f, f1, , fm v A l lỗi; f, f1, , fm liản tửc tÔi mởt im cừa A; x l im chĐp nhên ữủc cừa bi toĂn (OP) Khi õ; a) Náu x l nghiằm cừa (OP), thẳ tỗn tÔi cĂc i 0(i = 1, , m) khổng ỗng thới bơng 0, cho: f (x∗ ) + λ1 ∂f1 (x∗ ) + + λm ∂fm (x∗ ) + NA (x∗ ) λi fi (x∗ ) = (i = 1, , m) (3.4) (3.5) Trong â, NA(x∗) l  nân ph¡p tuy¸n ngo i cõa A tÔi x b) Hỡn nỳa, náu iÃu kiằn Slater óng, th¼ λ0 > v  c¡c i·u ki»n (3.4), (3.5) ð tr¶n cơng l  i·u ki»n õ º iºm chĐp nhên x l nghiằm tối ữu cừa bi toĂn (OP) Chựng minh.a) Xt hm Lagrange cõ dÔng: L1 (x, λ0 , λ1 , , λm ) = λ0 f (x) + m X λi fi (x) + δA (x∗ ) i=1 Trong â δA(x∗) l  h m ch¿ cõa tªp A Do x∗ l  nghi»m cõa b i to¡n (OP), tø nh lỵ Karush - Kuhn Tucker, ta cõ: L (x , λ0 , , λm ) = Minx∈A L (x, λ0 , , λm ) L1 (x∗ , λ0 , , λm ) = Minx∈Rn L1 (x, λ0 , , λm ) λi fi (x∗ ) = (i = 1, , m) Vẳ thá, hm L1 (., 0, , m) Ôt cỹc tiu tÔi x theo mằnh · (3.1.1), ∈ ∂L1 (x∗ , λ0 , , λm ) 44 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Ngo i ∂δA(x∗) = NA(x) Do vêy, theo nh lỵ Moreau - Rockafellar, ta câ ÷đc: ∈ λ0 ∂f0 (x∗ ) + + λm ∂fm (x∗ ) + NA (x∗ ) b) Náu iÃu kiằn Slater úng, theo nh lỵ (3.2.3), ta suy λ0 > v  câ thº xem nhữ = GiÊ sỷ (3.4), (3.5) thọa mÂn Khi õ, tỗn tÔi xi fi(x) (i = 1, , m), x∗m+1 ∈ NA (x∗ ) cho: x∗0 + m+1 X λi x∗i = i=1 ⇒ ⇒ m+1 m X X ∗ ∗ ∗ ∗ = hx0 + λi xi , x−x i ≤ f (x)−f (x )+ λi (fi (x) − fi (x∗ )) , ∀x i=1 i=1 Pm Pm ∗ f (x) + i=1 λi fi (x) ≥ f (x ) + i=1 λi fi (x ), x A Tứ nh lỵ (3.3.1), suy x∗ l  nghi»m cõa (OP) V½ dư 3.3.3 X²t b i to¡n sau tr¶n khỉng gian R2 :  p   Min(  x2 + y − x) vỵi c¡c i·u ki»n    (OP ) t(x − 1) + y ≤ 0, t ∈ 0, 1,      (x, y) ∈ C = {(x, y)|y ≥ 0, x ∈ R} °t f (x, y) = p x2 + y − x, ft (x, y) = t(x − 1) + y ≤ 0, t = 0, 1, Trữợc hát, thĐy miÃn chĐp nhên cừa bi toĂn l   D = (x, y) ∈ R2 |x ≤ 1, y = v  (0, 0) l  mët im chĐp nhên ữủc 45 S húa bi Trung tõm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn ∈A Ta câ n o p 2 ∂f (0, 0) = (u, v) ∈ R |(u, v)(x, y) ≤ x + y − x, ∀(x, y) ∈ C  = (u, v) ∈ R2 |(u + 1)2 + v ≤ ,  ∂ft (0, 0) = (u, v) ∈ R2 |(u, v)(x, y) − t ≤ t(x − 1) + y , ∀(x, y) ∈ C = {(t, 0)} , t = 0, 1,  ∂δC (0, 0) = NC (0, 0) = (u, v) ∈ R2 |(u, v)(x, y) ≤ 0, ∀(x, y) ∈ C Chån λ0 = 1, λ1 = 0, λ2 = 0, ta câ: (0, 0) ∈ ∂f (0, 0) + λ0 ∂f0 (0, 0) + λ1 ∂f1 (0, 0) + λ2 ∂f2 (0, 0) + NC (0, 0), λi fi (0, 0) = 0, i = 0, 1, Theo kát quÊ cừa nh lỵ (3.3.2), ta suy im (0, 0) chẵnh l nghiằm tối ữu cừa bi toĂn (OP) 3.4 ối ngău Lagrange ối ngău l mởt phƯn quan trồng nhĐt tối ữu hõa ị tững cừa ối ngău l: vợi mội bi toĂn tối ữu ang x²t (gåi l  b i to¡n gèc), ta x¥y düng mët b i to¡n tèi ÷u kh¡c (gåi l  b i to¡n èi ngău ) cho giỳa cĂc bi toĂn ny cõ mët mèi li¶n quan ch°t ch³ º ìn gi£n m  văn thĐy ró ỵ tững cừa lỵ thuyát ối ngău, ta x²t b i to¡n sau:     Min f (x) vỵi c¡c i·u    (P ) gj (x) ≤ 0, ∀j = 1, , m      x ∈ X ki»n 46 Số hóa Trung tâm Học liệu – Đại học Thái Nguyờn http://www.lrc-tnu.edu.vn Tứ bi toĂn ny ngữới ta xƠy dỹng mởt bi toĂn tối ữu khĂc cõ dÔng  max d(y)     (D) y ≥      y ∈ Rm vỵi c¡c i·u ki»n Ta nâi (D) l  b i to¡n ối ngău cừa (P) náu vợi mồi im chĐp nhên x cõa (P) v  y cõa (D) ta câ f (x) d(y) Cp ối ngău (P) v (D) gồi l chẵnh xĂc, náu tỗn tÔi cĂc im chĐp nhên x∗ cõa (D) v  y∗ cõa (P) cho f (x) = d(y) Trong ối ngău Lagrange bi toĂn ối ngău cừa (P) ữủc xƠy dỹng thổng qua hm Lagrange nh÷ sau: X²t h m Lagrange cõa (P) l  L(x, y) = f (x) + m X yj gj (x) i=1 LĐy hm mửc tiảu cừa bi toĂn ối ngău l d(y) = inf L(x, y) x∈X v  mi·n r ng buëc cõa (D) l  Rm+ Khi â b i to¡n èi ngău (D) tr thnh sup d(y) = sup inf L(x, y) y0 y0 xX nh lỵ 3.4.1 (nh lỵ ối ngău) GiÊ sỷ i) Bi toĂn (P) cõ nghiằm 47 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn ii) f v  gj , (i = 1, , m) l cĂc hm lỗi, liản tửc trản têp lỗi õng X iii) iÃu kiằn Slater thọa mÂn, tùc l  ∃x0 cho gj (x0) < 0, ∀j = 1, , m Khi â (P) v  (D) l  cp ối ngău chẵnh xĂc Chựng minh Gồi D l miÃn chĐp nhên ữủc cừa bi toĂn (P) x D, y ≥ ⇒ f (x) ≥ d(y) Tø Ơy  chựng minh rơng (P) v (D) l cp ối ngău chẵnh xĂc ta ch cƯn ch y ≥ cho d(y) ≥ f (x∗) (trong â x∗ l  nghi»m cõa (P) ) Thªt vªy X²t A = {(t, z) ∈ R × Rm |t > f (x), z ≥ g(x), x ∈ X} Do f lỗi, gj lỗi suy A lỗi GiÊ sỷ x l  nghi»m cõa (P), â u∗ = (f (x∗), 0) A Vẳ náu (f (x), 0) A suy tỗn tÔi x thọa mÂn f (x) > f (x), g(x) (vổ lỵ) Theo nh lỵ tĂch, tỗn tÔi vectỡ v = (, y) 6= ∈ R × Rm cho v T u ≥ v T u∗ , ∀u = (t, z) ∈ A ∗ T ∗ ⇔ αt + hy, zi ≥ αf (x ) + y = αf (x ), ∀(t, z) A (3.6) Do tẵnh liản tửc cừa f, g (3.6) óng cho måi (t, z) ∈ A Do (f (x), g(x)) ∈ A thay v o (3.6) ta câ: αf (x) + hy, g(x)i ≥ αf (x∗ ), ∀x ∈ X Ta câ y ≥ 48 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn (3.7) Thêt vêy náu tỗn tÔi mởt tồa ở yj < Ta l§y (t0 , z) = (t0 , z + ξej ) ∈ A, ∀ξ > Trong â ej l  vectì ìn thù j Thay (t0, z) v o (3.6) ta câ αt0 + hy, z + ξej i ≥ αf (x∗ ), ∀ξ > αt0 + hy, z i + ξhy, ej i ≥ αf (x∗ ), ∀ξ > αt0 + hy, z i + ξyj ≥ αf (x∗ ), ∀ξ > Cho ξ → +∞ suy vá trĂi bơng m vá phÊi hỳu hÔn (mƠu thuăn) Chựng tọ y Hỡn nỳa (chùng minh t÷ìng tü nh÷ y ≥ 0) Ta ch thảm rơng, náu = 0, õ (3.6) trð th nh hy, g(x)i ≥ 0, ∀x ∈ X Do y 0, nản iÃu ny mƠu thuăn vợi giÊ thiát Slater Do > nản ta chia hai vá cừa (3.7) cho ta ữủc y f (x) + h , g(x)i ≥ f (x∗ ), ∀x ∈ X α y d( ) ≥ f (x∗ ), ∀x ∈ X α Theo tr¶n d( αy ) ≤ f (x∗) Suy d( αy ) = f (x∗) Vêy (P) v (D) l cp ối ngău chẵnh xĂc 3.5 iºm y¶n ngüa iºm y¶n ngüa l  mët kh¡i niằm rĐt hỳu ẵch nghiản cựu cĂc iÃu kiằn tối ữu v ối ngău 49 S húa bi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Cho X ⊂ Rn, Y ⊂ Rm, F : X × Y → R Mët iºm (x∗; y∗) ∈ X ì Y ữủc gồi l im yản ngỹa cừa hm F trản X ì Y , náu F (x , y) ≤ F (x∗ , y ∗ ) ≤ F (x, y ∗ ), ∀x ∈ X, y ∈ Y Nhữ vêy, náu (x; y) l im yản ngỹa thẳ x∗ l  iºm cüc tiºu tr¶n X cõa h m F (., y) v y l cỹc Ôi trản Y cừa F (x∗, ) Ta x²t iºm y¶n ngüa cõa h m Lagrange cho b i to¡n (P) H m n y l : m L(x, y) = f (x) + X yj gj (x) i=1 nh lỵ 3.5.1 Náu (x; y) l im yản ngỹa cừa L(x, y) trản X ì Rm+ thẳ x l nghi»m cõa (P) v  y∗ l  nghi»m cõa (D) Chùng minh Do (x∗; y∗) l  iºm y¶n ngüa cõa L(x, y) n¶n ta câ L(x∗ , y ∗ ) = f (x∗ ) ≤ f (x) + hy ∗ , g(x)i, x X Vêy náu g(x) thẳ f (x∗ ) ≤ f (x), ∀x ∈ X Suy x∗ l  nghi»m cõa (P) Hìn núa, ∀y > ta câ d(y) = inf f (x) + hy, g(x)i ≤ f (x∗ ) + hy, g(x∗ )i ≤ f (x∗ ) x∈X M°t kh¡c d(y ∗ ) = inf L(x, y ∗ ) = Minx∈X L(x, y ∗ ) = f (x∗ ) x∈X Suy y∗ l  nghiằm cừa (D) nh lỵ 3.5.2 GiÊ sỷ (P) l mởt qui hoÔch lỗi (X, g, f lỗi) thọa mÂn i·u ki»n Slater Lóc â x∗ l  nghi»m cõa (P) v ch tỗn tai 50 S húa bi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn º (x∗, y∗) l  iºm y¶n ngüa cõa L tr¶n X × Rm+ v  y∗ l  nghi»m cõa b i to¡n ối ngău (D) y Chựng minh - iÃu kiằn ừ chẵnh l nh lỵ (3.5.1) - BƠy giớ ta s³ chùng minh i·u ki»n c¦n: Gi£ sû x∗ l nghiằm cừa (P) Do (P) lỗi v thọa mÂn iÃu kiằn Slater, theo nh lỵ cp ối ngău Suy (P), (D) l cp ối ngău chẵnh xĂc Tực l  f (x∗ ) = d(y ∗ ), vỵi y ∗ ≥ Theo ành ngh¾a cõa d(y∗) ta câ f (x∗ ) = d(y ∗ ) = inf L(x, y ∗ ) x∈X Suy x∗ l  iºm cüc tiºu cõa L(., y∗) tr¶n X Ngo i f (x∗) ≤ f (x) + hy∗, g(x)i, ∀x ∈ X Vỵi x = x∗ ⇒ hy∗, g(x∗)i = Suy (x, y) l im yản ngỹa Theo nh lỵ (3.5.1) thẳ y l nghiằm cừa bi toĂn (D) 3.6 Phữỡng phĂp Frank - Wolfe Trong phƯn ny ta s trẳnh b y mët ph÷ìng ph¡p cì b£n º gi£i b i to¡n qui hoÔch lỗi õ l phữỡng phĂp Frank - Wolfe Xt bi toĂn qui hoÔch rng buởc tuyán tẵnh sau   Min f (x) vỵi c¡c i·u ki»n  x ∈ D := {Ax ≤ b, x ≥ 0} 51 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn â f l  mët h m kh£ vi li¶n tưc tr¶n D, A l  ma (m ì n) v b Rm cho D b chn Ta xƠy dỹng mởt thuêt toĂn hữợng cõ th sau: Dũng qui hoÔch tuyán tẵnh (náu cƯn) tẳm im xuĐt phĂt x0 D Khi  cõ xk D, tẵnh 5f (xk ) 2a) Náu 5f (xk ) = 0: dứng 2b) TrĂi lÔi, ta giÊi qui hoÔch tuyán tẵnh  Min h5f (xk ), x − xk i|x ∈ D (L(xk )) thu ÷đc mët líi gi£i uk l  ¿nh cõa D Hai kh£ n«ng câ thº x£y (i)h5f (xk ), uk − xk i ≥ Døng thuªt to¡n (ii)h5f (xk ), uk − xk i < Lóc n y dk = uk xk 6= l hữợng tửt Theo hữợng ny, chồn xk+1 D cho f (xk+1 ) l  nhä nh§t sè c¡c iºm ch§p nhên nơm trản hữợng dk Muốn thá giÊi bi to¡n 1- chi·u  Mint f (xk + tdk ), ≤ t ≤ Gåi nghi»m b i to¡n n y l  tk > L§y xk+1 = xk + tk dk Nhữ vêy f (xk+1 ) < f (xk ) Quay lÔi bữợc 3, vợi xk ữủc thay bơng xk+1 Thuêt toĂn hởi tử theo nh lỵ sau: nh lỵ 3.6.1 Vợi cĂc giÊ thiát  nảu tr¶n ta câ a) f (xk+1) < f (xk ), ∀k, 52 Số hóa Trung tâm Học liệu – i hc Thỏi Nguyờn http://www.lrc-tnu.edu.vn b) Náu thuêt toĂn kát thúc tÔi im xk thẳ xk l mởt im dứng cừa f trản D Náu thuêt toĂn vổ hÔn thẳ måi iºm tư cõa d¢y xk ·u l  iºm døng, c) Náu f l lỗi, thẳ mồi im dứng Ãu l  líi gi£i cõa b i to¡n Chùng minh a) Hiºn nhiản, vẳ theo cĂch xƠy dỹng, dk l hữợng tửt b) GiÊ sỷ thuêt toĂn kát thúc tÔi bữợc k Ngh¾a l  h5f (xk ), uk −xk i ≥ Do uk l  nghi»m cõa b i to¡n (L(xk )) n¶n ∀x ∈ D ta câ   Min h5f (xk ), x − xk i|x ∈ D ≤ Min h5f (xk ), uk − xk i|x ∈ D ≥ Vªy x∗ l  iºm døng Gi£ sû thuªt to¡n vỉ hÔn Gồi x l im tử cừa dÂy xk Do D compact, tỗn tÔi mởt dÂy xk hởi tử án x Gồi uk l nghiằm cừa qui hoÔch tuyán tẵnh (L(xk ) Do têp nh cừa D l hỳu hÔn nản ta cõ th coi rơng uk = u∗ , ∀j Theo t½nh ìn i»u gi£m cõa d¢y f (xk ) v  c¡ch x¡c ành xk +1 , u∗ , ∀0 < t < ta câ j j j j j f (xkj +1 ) ≤ f (xkj ) ≤ f (xkj + t(u∗ − xkj ) Cho j → +∞, f li¶n tưc n¶n f (x∗ ) ≤ f (x∗ + t(u∗ − x∗ )) Vẳ iÃu ny úng vợi mồi < t < n¶n lim+ t→0 f (x∗ + t(u∗ − x∗ )) − f (x∗ ) = h5f (x∗ ), u∗ − x∗ i ≥ t M°t kh¡c, u∗ l  nghi»m cõa b i to¡n (L(xk ), n¶n j h5f (xkj ), u∗ − xkj i ≤ h5f (xkj ), x − xkj i, ∀x ∈ D 53 Số hóa Trung tâm Học liệu – Đại học Thái Nguyờn http://www.lrc-tnu.edu.vn Qua giợi hÔn, ta ữủc h5f (x ), u∗ − x∗ i ≤ h5f (x∗ ), x − x∗ i Vªy h5f (x∗ ), x − x∗ i ≥ 0, ∀x ∈ D Suy x∗ l  iºm dứng c) Náu f l hm lỗi, thẳ h5f (x ), x − x∗ i ≤ f (x) − f (x∗ ), ∀x ∈ D Do â f (x∗) ≤ f (x), ∀x ∈ D Chùng tä x∗ l  mët iºm cüc tiºu cõa f tr¶n D 54 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Kát luên Nhữ vêy, luên vôn  trẳnh by mët c¡ch câ h» thèng c¡c kh¡i ni»m v  ki¸n thực cỡ bÊn và têp lỗi v hm lỗi Tiáp õ, luên vôn à cêp án tẵnh chĐt cỹc tr cừa hm lỗi, ỗng thới chựng minh mởt cĂch Ưy ừ cĂc tẵnh chĐt cừa chúng Cuối cũng, luên vôn  trẳnh by và ựng dửng cỹc tr cừa hm lỗi viằc xƠy dỹng iÃu kiằn cƯn v ừ  mởt im l im cỹc tiu cừa hm lỗi trản mởt têp lỗi v cĂc bi toĂn liản quan nhữ bi toĂn ối ngău Lagrange, im yản ngỹa, phữỡng ph¡p Frank-wolfe 55 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn T i li»u tham khÊo Tiáng viằt [1] Lả Dụng Mữu, Nguyạn Vôn HiÃn, Nhêp mổn GiÊi tẵch lỗi ựng dửng, NXB KHCN, (s ra) [2] ộ Vôn Lữu, Phan Huy KhÊi, (2000), GiÊi tẵch lỗi, NXB Khoa hồc v K thuêt Tiáng Anh [3] Ho ng Töy, (2003), Convex Analysis and Global Optimization, Kluwer Acacedemic publisher [4] R T Rockaferllar, (1970), Convex Analysis, Princeton University Press, Princeton, New Jersey 56 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn