Về cực trị hàm lồi

Header Page of 166 I HC QUC GIA H NI TRNG I HC KHOA HC T NHIấN - NGUYN èNH TH V CC TR HM LI LUN VN THC S TON HC H Ni - Nm 2014 Footer Page of 166 Header Page of 166 I HC QUC GIA H NI TRNG I HC KHOA HC T NHIấN - NGUYN èNH TH V CC TR HM LI Chuyờn ngnh: TON GII TCH Mó s: 60 46 01 02 LUN VN THC S TON HC NGI HNG DN KHOA HC: GS TSKH Lấ DNG MU H Ni - Nm 2014 Footer Page of 166 Header Page of 166 MC LC Li núi u ii Chng Cỏc kin thc c bn v gii tớch li 1.1 Tp li 1.2 Hm li 1.3 Di vi phõn 11 1.3.1 Khỏi nim 11 1.3.2 Phộp tớnh vi di vi phõn 14 1.4 o hm theo hng v tớnh kh vi ca hm li Chng Cc tiu hm li trờn li 17 19 2.1 Phỏt biu bi toỏn 19 2.2 S tn ti nghim ti u 23 2.3 iu kin ti u 26 2.3.1 Bi toỏn vi rng buc ng thc 27 2.3.2 Bi toỏn vi rng buc bt ng thc 29 2.4 i ngu Lagrange 32 2.5 Cỏc phng phỏp gii c bn 35 2.5.1 Phng phỏp chiu di o hm 35 2.5.2 Thut toỏn Frank-Wolfe 38 Chng Cc i hm li trờn li 44 3.1 Phỏt biu bi toỏn 44 3.2 Tớnh cht c bn 44 3.3 Cỏc phng phỏp gii c bn 46 3.3.1 Phng phỏp xp x ngoi 46 3.3.2 Phõn hoch khụng gian v thut toỏn nhỏnh cn 52 Kt lun 62 Ti liu tham kho 63 i Footer Page of 166 Header Page of 166 LI NểI U Cc tr hm li trờn li l mt lp bi toỏn c bn ca ti u húa Cc tiu hm li trờn li gi l quy hoch li cú tớnh cht c bn l mi im cc tiu a phng u l cc tiu tuyt i Tớnh cht quan trng ny cho phộp cỏc lý thuyt cú tớnh a phng nh gii hn, vi phõn, cú th ỏp dng trc tip vo quy hoch li Lý thuyt v bi toỏn quy hoch li ó c nghiờn cu nhiu v ó thu c nhiu kt qu quan trng da trờn lý thuyt ca gii tớch li v ti u húa Cc i hm li trờn li cú tớnh cht khỏc hn cc tiu hm li trờn li, c th ta thy rng cc i a phng ca mt hm li khụng nht thit l cc i tuyt i Mc ớch ca lun ny l trỡnh by bi toỏn cc i, cc tiu hm li trờn li v mt s phng phỏp gii c bn cỏc bi toỏn ny Lun gm cú ba chng: Chng Cỏc kin thc c bn v gii tớch li Trỡnh by mt s khỏi nim, nh ngha v kt qu cn thit liờn quan n li v hm li Chng Cc tiu hm li trờn li Trỡnh by bi toỏn cc tiu hm li trờn li, s tn ti nghim ti u v iu kin ti u ca bi toỏn i ngu Lagrange Trỡnh by hai phng phỏp c bn gii bi toỏn quy hoch li ú l phng phỏp chiu di o hm v thut toỏn Frank-Wolfe Chng Cc i hm li trờn li Trỡnh by bi toỏn cc i hm li trờn li v mt s tớnh cht c bn Trỡnh by hai phng phỏp c bn gii bi toỏn cc i hm li trờn li ú l phng phỏp xp x ngoi v thut toỏn nhỏnh cn Lun c hon thnh ti Trng i hc Khoa hc T nhiờn - i hc Quc gia H Ni, di s hng dn ca GS TSKH Lờ Dng Mu Em xin by t lũng bit n sõu sc ti GS TSKH Lờ Dng Mu, ngi ó tn tỡnh hng dn v giỳp em sut quỏ trỡnh nghiờn cu em cú th hon thnh lun ny ii Footer Page of 166 Header Page of 166 Em cng by t lũng bit n chõn thnh ti quý thy, cụ giỏo Trng i hc Khoa hc T nhiờn - i hc Quc gia H Ni ó ging dy v giỳp em hon thnh khúa hc Nhõn dp ny em cng xin chõn thnh cm n Ban giỏm hiu, ng nghip Trng THPT n Thi, gia ỡnh v bn bố ó luụn ng viờn, giỳp v to iu kin cho em v mi mt sut quỏ trỡnh hc v thc hin lun ny Mc dự ó cú nhiu c gng nhng lun khú trỏnh nhng thiu sút Tỏc gi rt mong nhn c ý kin úng gúp ca quý thy, cụ giỏo v bn c lun c hon thin hn Xin trõn trng cm n! iii Footer Page of 166 Header Page of 166 Chng Cỏc kin thc c bn v gii tớch li Chng ny trỡnh by mt s khỏi nim, nh ngha v kt qu cn thit liờn quan n li v hm li Ni dung ca chng c tham kho t cỏc ti liu [1], [2], [4], [9] 1.1 Tp li nh ngha 1.1 Cho hai im a, b n (i) ng thng i qua hai im a v b l hp cú dng x n x a b, , , (ii) on thng ni hai im a v b l hp cú dng x n x a b, 0, 0, nh ngha 1.2 Mt C n c gi l mt li, nu C cha mi on thng i qua hai im bt k ca nú Tc l C l li x, y C , 0,1 thỡ x y C nh ngha 1.3 (i) Ta núi x l t hp li ca cỏc im (vect) x1, x , , x k nu k x j x j vi j 0, j 1, 2, , k v j k j j (ii) Ta núi x l t hp affine ca cỏc im (vect) x1, x , , x k nu k x j x j vi j k j j Mnh 1.1 Tp hp C l li v ch nú cha mi t hp li ca cỏc im ca nú Tc l C li k , , , k cho k j x j C j j 1 Footer Page of 166 k j v x1, , xk C thỡ Header Page of 166 Chng Cỏc kin thc c bn v gii tớch li nh ngha 1.4 Mt C c gi l affine nu nú cha ng thng i qua hai im bt k ca nú, tc l C l affine x, y C , thỡ x y C nh ngha 1.5 Siờu phng khụng gian n l hp cỏc im cú dng x n aT x , ú a n l mt vect khỏc v nh ngha 1.6 Na khụng gian l mt hp cú dng x n aT x , ú a n l mt vect khỏc v , õy l na khụng gian úng Tp x n aT x l na khụng gian m Mnh 1.2 Tp M l affine v ch nú cú dng M L a vi L l mt khụng gian v a M Khụng gian L ny c xỏc nh nht Khụng gian L mnh trờn c gi l khụng gian song song vi M (hoc khụng gian ca M ) nh ngha 1.7 Th nguyờn (hay chiu) ca mt affine M l th nguyờn ca khụng gian song song vi M v c ký hiu l dim M Mnh 1.3 Bt k mt affine M n cú s chiu r u cú dng M x n Ax b , (1.1) ú A l ma trn cp m n , b m v rankA n r Ngc li, mi hp cú dng (1.1) vi rankA n r u l affine cú s chiu l r nh ngha 1.8 Cỏc im x , x1, , x k n c gi l c lp affine nu bao affine ca chỳng cú th nguyờn l k nh ngha 1.9 Mt hp S n c gi l mt n hỡnh cú th nguyờn bng k (hoc k n hỡnh), nu S l t hp li ca k vect c lp affine Cỏc vect ny c gi l nh ca n hỡnh Footer Page of 166 Header Page of 166 Chng Cỏc kin thc c bn v gii tớch li nh ngha 1.10 Mt c gi l li a din, nu nú l giao ca mt s hu hn cỏc na khụng gian úng Dng tng minh ca mt li a din c cho nh sau: D : x n a j , x b j , j 1, 2, , m , ú a j n v b j , j 1, 2, , m Nu ta kớ hiu A l ma trn cú m hng l cỏc vect a j j 1, 2, , m v vect bT b1, b2 , , bm thỡ h trờn vit c l: D x n Ax b nh ngha 1.11 Mt C c gi l nún nu 0, x C x C (i) Mt nún c gi l nún li nu nú ng thi l mt li (ii) Mt nún li c gi l nún nhn nu nú khụng cha ng thng, ú ta núi O l nh ca nún Nu nún li ny l mt li a din thỡ ta núi nú l nún li a din nh ngha 1.12 Cho C n l mt li v x C (i) Tp N C x : w w, y x 0, y C c gi l nún phỏp tuyn (ngoi) ca C ti x (ii) Tp NC x : w w, y x 0, y C c gi l nún phỏp tuyn (trong) ca C ti x nh ngha 1.13 Mt im a C c gi l im tng i ca C nu nú l im ca C theo tụ-pụ cm sinh bi affC Ký hiu cỏc im tng i ca C l riC Vy riC : a C B : a B affC C , Footer Page of 166 Header Page of 166 Chng Cỏc kin thc c bn v gii tớch li ú B l mt lõn cn m ca gc Hin nhiờn riC a affC B : a B affC C Mnh 1.4 Cho C n l mt li Gi s x riC Khi ú vi mi y C , tt c cỏc im trờn on thng ni x v y , cú th tr y , u thuc riC Núi cỏch khỏc, vi mi thỡ riC C riC nh ngha 1.14 Bao li ca mt E l giao ca tt c cỏc li cha E Ký hiu l coE nh ngha 1.15 Mt im x C c gi l im cc biờn ca C nu khụng tn ti a, b C , a v cho x a b Trong trng hp C li a din thỡ im cc biờn cũn c gi l nh Ta kớ hiu V C l cỏc im cc biờn ca C Bao li ca mt s hu hn im l mt a din li, compact Nu v , v1 , , v m c lp affine thỡ bao li ca chỳng l mt n hỡnh n hỡnh ny cú th nguyờn l m Cỏc im v , v1 , , v m c gi l nh (im cc biờn) ca n hỡnh ny nh ngha 1.16 Mt F C c gi l mt din ca mt li C nu F l li cú tớnh cht x, y C : tx t y F , t thỡ x, y F im cc biờn l din cú th nguyờn bng Cnh l din cú th nguyờn bng Tia cc biờn l mt din na ng thng Nh vy tia cc biờn l mt cnh vụ hn Hng cc biờn l hng ca tia cc biờn nh ngha 1.17 Cho x C Ta núi aT x l siờu phng ta ca C ti x , nu aT x , aT x , x C nh ngha 1.18 Cho C (khụng nht thit li) v y l mt vect bt k, t dC y : inf x y xC Footer Page of 166 Header Page 10 of 166 Chng Cỏc kin thc c bn v gii tớch li Ta núi dC y l khong cỏch t y n C Nu tn ti C cho dC y y , thỡ ta núi l hỡnh chiu (vuụng gúc) ca y trờn C v ký hiu l PC y Theo nh ngha, ta thy rng hỡnh chiu PC y ca y trờn C l nghim ca bi toỏn ti u x y 2 xC Núi cỏch khỏc vic tỡm hỡnh chiu ca y trờn C cú th a v vic tỡm cc tiu ca hm ton phng x y trờn C Nu C thỡ dC y hu hn, vỡ dC y x y , x C Mnh 1.5 Cho C l mt li úng khỏc rng Khi ú: (i) Vi mi y n , C hai tớnh cht sau l tng ng: a) PC y , b) y NC (ii) Vi mi y n , hỡnh chiu PC y ca y trờn C luụn tn ti v nht (iii) Nu y C , thỡ PC y y, x PC y l siờu phng ta ca C ti PC y v tỏch hn y C , tc l PC y y, x PC y 0, x C v PC y y, y PC y (iv) nh x y PC y cú cỏc tớnh cht sau: a) PC x PC y x y , x, y n (tớnh khụng gión) b) PC x PC y , x y PC x PC y (tớnh ng bc) Chng minh (i) Gi s cú a) Ly x C v 0,1 t Footer Page 10 of 166 Header Page 54 of 166 Chng Cc i hm li trờn li b) Xõy dng siờu phng H k tỏch cht x k t D , tc l nu hk x l phng trỡnh ca nú thỡ hk x k 0, hk x 0, x D (3.3) To a din mi Sk : Sk x n hk x Thay k : k v quay tr v a) thc thi thut toỏn ny ta phi xỏc nh lm th no xõy dng siờu phng H k Nhng trc bn v ny, u tiờn cn ch cỏc iu kin m bo s hi t ca thut toỏn, tc l nhng iu kin m bo rng dóy x k cú ớt nht mt im x cho x D, f x max f x x D (3.4) Mt siờu phng H k x n hk x ú hk x p k , x k cú gii hn l H x n h x k , kớ hiu H k H k , nu h x p, x , vi pk p k p, k pk nh lý 3.1 Gi s rng cú cỏc iu kin (a) sau õy: hi t n x D , v siờu phng H (a) Khi mt dóy x kv kv hi t n H thỡ H tỏch cht x t D Khi ú thut toỏn trờn hoc kt thỳc sau hu hn bc vi mt nghim ti u ca P hoc to mt dóy vụ hn gim S k Trong trng hp sau, dóy x k cú ớt nht mt im hi t v bt k im hi t no u l nghim ti u ca P 49 Footer Page 54 of 166 Header Page 55 of 166 Chng Cc i hm li trờn li (im ú luụn tn ti t tớnh b chn di ca dóy x S ) t Chng minh Gi s quỏ trỡnh ny l vụ hn, v x l im ca dóy x k , cho x lim x kv v k l H k x hk x vi hk x p k , x k Chỳng ta cú th gi s p k 1, k Do gi thit hk x k p k , x k k , nờn k p k , x k (3.5) Hn na hk x p k , x k 0, x D , nờn bt k im x D : k p k , x (3.6) T (3.5) v (3.6) dóy k b chn Vỡ vy, bng cỏch ly dóy p , kv kv nu cn thit, chỳng ta cú th gi s rng p kv p, kv , tc l H kv tin ti H h x vi h x p, x Chỳng ta thy rng x D Tht vy, nu khụng nh vy, t iu kin (a) chỳng ta cú h x (3.7) Nhng vi mi l kv , xl Sl Skv , suy hkv xl Do ú c nh v v cho l k , , chỳng ta cú hkv x T iu ny, bng cỏch cho v , cú h x 0, mõu thun (3.7) Vỡ vy x D , v chỳng ta cú 50 Footer Page 55 of 166 Header Page 56 of 166 Chng Cc i hm li trờn li f x max f x x D f x f x max f x x D Nhng, t Sk D , f x k max f x x D , ú k Thut toỏn (Rng buc tuyn tớnh) Xột bi toỏn P , ú D l li a din c xỏc nh nh sau: D : x n gi x , x i 0, i 1, , m Chn mt li a din S1 cha D cho nh v hng cc biờn ca S1 d tớnh Tỡm nh V11 v hng cc biờn V10 ca S1 t k a) Vi mi hng cc biờn u Vk0 kim tra f x khụng b chn trờn trờn na ng xut phỏt t x1 theo hng u (trong ú x1 l mt im tựy ý ca Sk ) Nu mt hng cc biờn u k tn ti, i n b) Nu khụng, i n c) b) Nu a i , u k 0, i 1, , m , kt thỳc: bi toỏn khụng cú li gii ti u hu hn v u k l mt hng tng vụ hn ca D m f x khụng b chn trờn Trỏi li, tớnh ik arg , u k i c) Tỡm x k argmax f x x Vk1 Nu a i , x k i vi mi i i1, , ik , kt thỳc: x k l mt nghim ti u ca bi toỏn Trỏi li, tớnh ik arg max , x k i i n d) d) To li a din mi 51 Footer Page 56 of 166 Header Page 57 of 166 Chng Cc i hm li trờn li Sk : Sk x n a ik , x ik Tỡm nh Vk11 v hng cc biờn Vk01 ca Sk Thay k : k v quay li a) nh lý 3.2 Thut toỏn trờn kt thỳc sau ti a m bc lp Chng minh Chỳng ta cú Sk x n giv x , v 1, , k Nhng cỏc hm gi1 , , giv , u khỏc nhau, vỡ nu Qv cú nghim ti u x v thỡ i aiv , x v v 0, a , x v vi v , ú nu Q cú mt hng ti u u thỡ i aiv , u v 0, a , u v vi v (bt ng thc sau ch n gin th hin u v l mt hng cc biờn ca Sv , vỡ mt hng tng vụ hn ca S l v ) Vỡ vy thut toỏn phi kt thỳc sau ti a m bc lp 3.3.2 Phõn hoch khụng gian v thut toỏn nhỏnh cn Trong cỏc bi toỏn ti u ton cc, vỡ phi tỡm kim trờn ton b rng buc nờn thng phi dựng t hp hai phộp toỏn: (i) Phõn hoch (chia nh) khụng gian ri loi b dn cỏc phn chc chn khụng cha nghim ton cc (ii) Trong mi bc cú mt s lng ln cỏc nh (tp phõn hoch) cn kho sỏt, cn phi cú mt cỏch c lng nhanh xỏc nh nhng chc chn khụng cha nghim ton cc cn loi b v nhng cú cha nghim ton cc, cn chia nh na kho sỏt Sau õy ta xột hai phng phỏp phõn hoch khụng gian l chia hp vột kit v chia n hỡnh vột kit, v xột mt phng phỏp c lng l phng phỏp nhỏnh cn 52 Footer Page 57 of 166 Header Page 58 of 166 Chng Cc i hm li trờn li Phộp chia hp vột kit Mt hp (hay hp hỡnh ch nht) n l mt cú dng a, b x n a j x j b j , j 1, , n , ú a, b n v a b (ngha l a j b j , j 1, , n ) Khi cú mt hp M a, b ta cú th chia nú thnh hai hp bng mt siờu phng trc giao vi mt cnh a j , b j j 1, , n v i qua mt im v ca M Vỡ ch s j v im v hon ton xỏc nh siờu phng chia, nờn phộp chia c gi l chia theo v, j Hai hp sinh bi phộp chia ú l M x M xj vj , M x M xj vj Ta núi phộp chia v, j l phộp chia chun theo t l nu cnh a j , b j l cnh di nht ca M v nu v j a j , b j v j b j a j v aj bj Hỡnh 3.2 Minh phộp chia chun (v, j ) ca nh ngha 3.1 Phộp chia hp c gi l vột kit nu mi dóy vụ hn M k j cỏc siờu hp sinh t phộp chia chun theo t l v M k j M k j , j u hi t ti mt im, cú ngha l 53 Footer Page 58 of 166 Header Page 59 of 166 Chng Cc i hm li trờn li M k j x* j , iu ny tng ng vi diamM kq q , hay l M kq x* , q ( õy, diamM l di cnh di nht ca hp M ) Dóy M kq tha iu kin trờn c gi l mt lc cỏc hp nh lý 3.3 Mt quỏ trỡnh chia hp ú mi phộp chia u l chun theo t l khụng i thỡ phi vột kit Chng minh Xut phỏt t hp M , sau nhiu nht n phộp chia, cnh di nht ca hp ú cú di khụng quỏ diamM Nh vy, nu quỏ trỡnh chia vụ hn thỡ diamM kq q Phộp chia n hỡnh vột kit Mt p n hỡnh M (n hỡnh th nguyờn p ) l bao li ca p im u1, , u p c lp affine n Ký hiu M u1, , u p Cỏc im u i , i 1, , p gi l cỏc nh ca n hỡnh Nu mt im v thuc mt cnh u i , u k nhng v u i , v u k thỡ v xỏc nh phộp chia n hỡnh M thnh hai n hỡnh con: M i , M k m nh thu c t u1, , u p bng cỏch thay u i ( u k , tng ng) bi v Nu cnh u i , u k di nht M v v u i , v u k u u i k , thỡ phộp chia c gi l mt phộp chia chun theo t l 54 Footer Page 59 of 166 Header Page 60 of 166 Chng Cc i hm li trờn li M uj uk v Hỡnh 3.3 Minh phộp chia n hỡnh nh ngha 3.2 Phộp chia n hỡnh c gi l vột kit nu mi dóy vụ hn M k j ca cỏc n hỡnh sinh t phộp chia chun theo t l v M k j M k j , j u hi t ti mt im, cú ngha l M k j x* j , iu ny tng ng vi diamM kq q , hay l M kq x* , q ( õy, diamM l di cnh di nht ca n hỡnh M ) Dóy M kq tha iu kin trờn c gi l mt lc cỏc n hỡnh nh lý 3.4 Phộp chia chun theo t l l vột kit Chng minh Gi s M q l mt dóy gim cỏc n n hỡnh sinh bi phộp chia chun theo t l t q l di cnh di nht ca n hỡnh M q Ta s ch n q q , q 55 Footer Page 60 of 166 (3.8) Header Page 61 of 166 Chng Cc i hm li trờn li Tht vy, ta ch cn chng minh (3.8) vi q Tụ mu cỏc nh ca M1 bi mu en, tụ mu trng cỏc nh ca M r vi r m khụng phi nh mu en Ký hiu d r l cnh di nht ca M r , ú l cnh c chia t p l ch s nh nht cho d p cú ớt nht mt im u mỳt mu trng Vỡ mi nh mu en c thay bi mt nh mu trng ti mi bc chia trc p , ta cú p n t d p u , v vi u mu trng Khi ú u l trung im ca d k no ú vi k p t d k a, b Nu a hoc b trựng vi v thỡ rừ rng p k v ú (3.8) ỳng Ngc li, xột tam giỏc co a, b, v (bao li ca cỏc im a, b, v ) Vỡ v M p v k d k nờn ta cú v a k , v b k Vỡ u l trung im ca a, b , ta suy t quy tc hỡnh bỡnh hnh 2 2 bu u v va vb v t b u a b rng 2 2 u v va vb v ú p 1 a b k2 k2 k2 , 2 k Vỡ n1 p v k nờn ta cú (3.8) T (3.8) suy q q Do ú phộp chia chun t l l vột kit Thut toỏn nhỏnh cn Xột bi toỏn P , ú D l mt li úng, b chn í tng ca phng phỏp nhỏnh cn l thay vỡ vic gii bi toỏn, ta tỡm cn trờn v cn di cho giỏ tr ti u ca bi toỏn lm cho cn chớnh xỏc ngi ta chia nh dn tỡm kim (tp chp nhn) 56 Footer Page 61 of 166 Header Page 62 of 166 Chng Cc i hm li trờn li Khi to Chn mt hp (hoc mt n hỡnh) P0 , tựy theo phng phỏp phõn hoch khụng gian cho D P0 Tớnh hp nh V P0 t : P0 Tớnh : max f x x V P0 Gi s Q l hp cỏc im chp nhn c ó bit (nu cú) Tỡm x arg max f x x Q , nu Q t : f x0 , nu Q v : , nu Q Bc lp k Ti thi im bt u Bc lp k k 0,1, , ta cú mt h k v vi mi hp (hoc mi n hỡnh) Pk k u cú mt cn trờn k ng thi, nu qua vic tớnh k hay bng cỏch no khỏc cú th bit c mt s im chp nhn c tt nht x k cho cn di k : f x k Bc Nu k k thỡ dng: x k l nghim ti u v k l giỏ tr ti u ca bi toỏn (P) Nu trỏi li, chuyn sang Bc Bc Chia Pk theo cỏch ó chn (chia hp hoc chia n hỡnh vột kit) t Pk : Pk1 Pk2 Bc Tỡm cn trờn Pki ca f trờn D Pki tha Pki Pk (i 1, 2) B sung cỏc im chp nhn mi tỡm thy c tớnh cn trờn Pki (i 1, 2) vo Q Bc Tớnh k max f x x Q , x k Q cho f x k k Bc t k : k \ Pk Pk1 , Pk2 Xúa tt c Pk k tha 57 Footer Page 62 of 166 Header Page 63 of 166 Chng Cc i hm li trờn li Pk k hoc Pk D t k l cũn li k (khi thuật toán dừng), k t k : max Pk Pk k k Chn Pk k cho Pk k Bc t k : k v chuyn sang Bc ca Bc lp k S hi t ca thut toỏn Nu thut toỏn dng li ti Bc lp k thỡ k k Do ú, ta cú k k , m k f x k nờn x k l nghim ti u v k l giỏ tr ti u ca bi toỏn P nh lý sau cho ta thy s hi t ca thut toỏn thut toỏn kộo di vụ hn: nh lý 3.5 (i) Nu thut toỏn kộo di vụ hn v khụng tỡm c im chp nhn c (tc l k vi mi k 1, 2, ) thỡ k f * : (ii) Nu thut toỏn kộo di vụ hn v tn ti im chp nhn c x k thỡ mi im t ca dóy x k l nghim ti u ton cc ca bi toỏn P Hn na, k f * v k f * Chng minh Khi thut toỏn kộo di vụ hn, nú s to mt dóy vụ hn cỏc chia gim dn (lng nhau) Pk j tha Pk j D , j 1, 2, n gin ký hiu, thay vỡ vit k j ta vit k Do tớnh vột kit, nờn Pk x* k Vỡ Pk D , k 1, 2, nờn ta cú x* D (i) Ta cú k Pk max f x x V Pk f v k Mt khỏc, vi mi x k Pk ta suy x k x* Do hm f liờn tc nờn 58 Footer Page 63 of 166 Header Page 64 of 166 Chng Cc i hm li trờn li k f v k f x* f * Theo nh ngha ca cn trờn k , ta cú k f * Do ú f x* f * Vy k f * k (ii) Gi s x l mt im chp nhn c Pk D Ta cú k lim k f x k v hm k Vỡ k f x f liờn tc nờn ta cú lim k k Mt khỏc, theo k cỏch tớnh cn k Pk nờn ta cú lim k k lim Pk k k (3.9) k Do D b chn nờn x k cú mt im t Gi s x* l mt im t bt k ca x k l dóy ca x , x Khụng gim tng quỏt ta gi s dóy x kj k kj x* ( n gin ký hiu, ta vit x k x* ) Do hm f liờn tc nờn suy lim f x k f x* k Dóy k l dóy khụng tng v b chn di bi f * nờn tn ti lim k Hn k na, dóy k l dóy s thc khụng gim v b chn trờn bi f * nờn tn ti lim k Do ú, ta cú f * T (3.9), ta cú k lim k lim f x k f x* f * lim k k k Vy im t x* ca dóy x k k l nghim ti u ca bi toỏn k f * v k f * Vớ d 3.1 Xột bi toỏn max f x f x1, x2 x12 x2 x D , 2 ú D x x1 x2 Li gii Ta thy f x x12 x2 l hm li trờn 59 Footer Page 64 of 166 P Hn na, Header Page 65 of 166 Chng Cc i hm li trờn li Ly hỡnh hp P0 D vi nh V P0 1,0 T , 1, T , 3,0 T , 3, T Ta cú max f x x V P0 f 3, 11 T 5 Ly , l im chp nhn D Ta cú f , 4 Suy Do ú, ta thc hin chia hp P0 thnh hai hp P11 v P12 tha P0 P11 P12 v int P11 int P12 Hỡnh hp P11 vi nh V P11 1,0 T , 1, T , 2,0 T , 2, T Ta cú 11 max f x x V P11 f 2, (loi) Hỡnh hp P12 vi nh V P12 2,0 T , 2, T , 3,0 T , 3, T Ta cú 12 max f x x V P12 f 3, 11 Do ú, ta thc hin chia hp P12 thnh hai hp P21 v P22 tha P12 P21 P22 v int P21 int P22 Hỡnh hp P21 vi nh V P21 2, T , 2,1T , 3,0 T , 3,1T Ta cú 21 max f x x V P21 f 3,1 10 Do ú, ta thc hin chia hp P21 thnh hai hp P31 v P32 tha P21 P31 P32 v int P31 int P32 T T Mt khỏc, ta nhn thy rng 3,1 D m f 3,1 10 nờn 3,1 l im chp nhn c mi v ta t : max f , , f 3,1 f 3,1 10 4 Hỡnh hp P22 vi nh V P22 2,1T , 2, T , 3,1T , 3, T Ta cú 22 max f x x V P22 f 3, 11 60 Footer Page 65 of 166 Header Page 66 of 166 Chng Cc i hm li trờn li Do ú, ta thc hin chia hp P22 thnh hai hp P33 v P34 tha P22 P33 P34 v int P33 int P34 Tip tc, ta thc hin tớnh cn trờn trờn cỏc hỡnh hp P31 , P32 , P33 , P34 ú T T T T V P31 2,0 , 2,1 , ,0 , ,1 ; T T T T V P32 ,0 , ,1 , 3,0 , 3,1 ; T T T T V P33 2,1 , 2, , ,1 , , ; T T T T V P34 ,1 , , , 3,1 , 3, Ta cú 31 max f x x V P31 f ,1 7, 25 (loi); 32 max f x x V P32 f 3,1 10 ; 33 max f x x V P33 f , 8, 25 (loi); 34 max f x x V P34 f 3, 11 T Do ú nghim ca bi toỏn l x* 3,1 61 Footer Page 66 of 166 Header Page 67 of 166 KT LUN Sau thi gian hc ti Khoa Toỏn - C - Tin hc, Trng i hc Khoa hc T nhiờn - i hc Quc gia H Ni, c cỏc thy cụ trc tip ging dy v hng dn, c bit l GS TSKH Lờ Dng Mu, tụi ó hon thnh lun vi ti V cc tr hm li Lun ó t c mt s kt qu sau: Gii thiu bi toỏn cc tiu hm li trờn li, s tn ti nghim ca bi toỏn iu kin ti u cho bi toỏn cho bi toỏn vi rng buc ng thc v bi toỏn vi rng buc bt ng thc i ngu Lagrange Trỡnh by hai phng phỏp c bn gii bi toỏn cc tiu hm li trờn li ú l phng phỏp chiu di o hm v thut toỏn Frank-Wolfe Gii thiu bi toỏn cc i hm li trờn li, cỏc tớnh cht c bn Gii thiu phộp chia hp v phộp chia n hỡnh vột kit Trỡnh by hai phng phỏp c bn gii bi toỏn cc i hm li trờn li ú l phng phỏp xp x ngoi v thut toỏn nhỏnh cn Cú th xem lun nh bc tỡm hiu ban u v bi toỏn cc i, cc tiu hm li trờn li Tỏc gi lun hy vng s cú dp tỡm hiu sõu hn v lp bi toỏn quan trng ny ca ti u ton cc 62 Footer Page 67 of 166 Header Page 68 of 166 TI LIU THAM KHO Ti liu Ting Vit [1] Nguyn Th Bch Kim (2008), Giỏo trỡnh cỏc phng phỏp ti u: Lý thuyt v thut toỏn, NXB Bỏch khoa - H Ni [2] Vn Lu v Phan Huy Khi (2011), Gii tớch li, NXB Khoa hc K thut H Ni [3] Lờ Dng Mu (1998), Nhp mụn cỏc phng phỏp ti u, NXB Khoa hc K thut H Ni [4] Lờ Dng Mu, Nguyn Vn Hin v Nguyn Hu in (s ra), Nhp mụn gii tớch li ng dng, NXB i hc Quc gia H Ni [5] Trn V Thiu v Nguyn Th Thu Thy (2011), Nhp mụn ti u phi tuyn, NXB i hc Quc gia H Ni [6] Hong Ty (2003), Lý thuyt ti u, Bi ging lp cao hc, Vin Toỏn hc Ti liu Ting Anh [7] Stephn Boyd and Lieven Vandenberghe (2004), Convex Optimization, Cambridge University Press [8] P.M Pardalos and J.B Rosen (1987), Constrained Global Optimization: Algorithms and Applications, Springer-Verlag Berlin Heidelberg New York [9] Hoang Tuy (1998), Convex Analysis and Global Optimization, Kluwer Academic Publishers [10] Hoang Tuy (1983), On outer approximation methods for solving concave minimization problems, Acta Mathematica Vietnamica, 8, pp 3-34 63 Footer Page 68 of 166 ... hoạch lồi phương pháp chiếu đạo hàm thuật toán Frank-Wolfe Chương Cực đại hàm lồi tập lồi Trình bày toán cực đại hàm lồi tập lồi số tính chất Trình bày hai phương pháp giải toán cực đại hàm lồi. .. kiến thức giải tích lồi Trình bày số khái niệm, định nghĩa kết cần thiết liên quan đến tập lồi hàm lồi Chương Cực tiểu hàm lồi tập lồi Trình bày toán cực tiểu hàm lồi tập lồi, tồn nghiệm tối... 166 Header Page of 166 LỜI NÓI ĐẦU Cực trị hàm lồi tập lồi lớp toán tối ưu hóa Cực tiểu hàm lồi tập lồi gọi quy hoạch lồi có tính chất điểm cực tiểu địa phương cực tiểu tuyệt đối Tính chất quan