Các điều kiện tối ưu cấp hai với hiện tượng envelope like cho các bài toán tối ưu vectơ không trơn trong các không gian vô hạn chiều

i BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC KINH TẾ TP.HCM ĐỀ TÀI NGHIÊN CỨU KHOA HỌC CẤP TRƯỜNG CÁC ĐIỀU KIỆN TỐI ƯU CẤP HAI VỚI HIỆN TƯỢNG ENVELOPE-LIKE CHO CÁC BÀI TỐN TỐI ƯU VECTƠ KHƠNG TRƠN TRONG CÁC KHÔNG GIAN VÔ HẠN CHIỀU Mã số: CS – 2014 - 43 Chủ nhiệm: TS Nguyễn Đình Tuấn Tp H Chớ Minh - 2014 MữC LữC Chẽng m Ưu Ch˜Ïng 1: Giểi thiằu b i toĂn nghiản cu v sậ mẻt sậ kián thc giÊi tẵch h m cng nh mẻt c§p hai khĂi niằm và cĂc têp tiáp xc cĐp mẻt v Chẽng 2: Ôo h m suy rẻng kiu xĐp x cĐp mẻt v cĐp hai Ch˜Ïng 3: C¡c i·u ki»n tËi ˜u cƯn cĐp hai 13 Ch˜Ïng 4: C¡c i·u ki»n tËi ˜u ı c§p hai 27 Kát luên v hểng nghiản cu m rỴng · t i 32 T i li»u tham kh£o 33 Ch˜Ïng m ¦u L˛ chÂn · t i C¡c i·u ki»n tËi ˜u c§p hai ‚ng vai tr· quan trÂng v¼ n‚ l m cho c¡c i·u ki»n tËi ˜u cĐp mẻt ho n thiằn hẽn bơng nhng thấng tin cĐp hai gip ẵch rĐt nhiÃu viằc nhên c¡c nghi»m tËi ˜u cÙng nh˜ ˜a c¡c thuªt toĂn sậ tẵnh cĂc nghiằm n y BÊn chĐt cıa thÊng tin c§p hai n y l nh˜ sau N‚i mỴt c¡ch Ïn gi£n, c¡c i·u ki»n tËi ˜u cĐp mẻt khng nh rơng tÔi im tr, Ôo h m theo hểng ca Ănh xÔ, hềp b i h m mc tiảu v cĂc r ng buẻc, khấng thuẻc và phƯn ca nn (hềp) Ơm tẵch cĂc khấng gian Ênh Ôo h m theo hểng n y c th nơm trản biản ca nn ni trản Trong tr˜Ìng hỊp n y, c¡c i·u ki»n tËi ˜u cĐp hai cung cĐp thấng tin thảm: ni chung, Ôo h m theo h˜Ĩng c§p hai cıa h m Lagrange l khấng Ơm Tuy nhiản, v o nôm 1988, Kawasaki [14] l ngèi Ưu tiản  phĂt hiằn rơng ta xt bao ng ca nn Ơm ni trản, ¤o h m c§p hai cıa h m Lagrange c‚ th Ơm náu Ôo h m theo hểng cĐp mẻt ca Ănh xÔ hềp ni trản nơm trản phƯn c biằt ca biản ca nn Ơm ặng gi hiằn tềng n y l hi»n t˜Ịng envelope-like Nhi·u nh nghi¶n c˘u văn khấng ch án hiằn tềng n y v mc phÊi sai lƯm Ăng tiác NhiÃu tĂc giÊ khĂc ch xt nn Ơm ni trản, khấng xt bao ng ca nn n y, v vẳ thá khấng c hiằn t˜Ịng envelope-like x£y ¢ c‚ nhi·u ‚ng g‚p quan trÂng cho hi»n t˜Ịng thÛ v‡ n y C¡c k¸t qu£ cıa Kawasaki ˜Ịc m rỴng v ph¡t triºn cho cĂc b i toĂn quy hoÔch vấ hểng khÊ vi cĐp hai [3, 5, 24, 25], quy hoÔch a mc tiảu khÊ vi cĐp hai [10, 11], quy hoÔch a mc tiảu (hu hÔn chiÃu) khÊ vi liản tc cĐp mẻt [7] v cho quy hoÔch hu hÔn chiÃu liản quan án cĂc h m khÊ vi cht [20, 21] Chng tấi nhên thĐy rơng cƯn ph£i gi£i th½ch r„ r ng hÏn n o hi»n t˜Òng envelope-like x£y v n o hi»n t˜Òng n y khÊng x£y N‚i c¡ch kh¡c, chÛng tÊi s³ l m r„ hÏn Ëi vÓi nh˙ng h˜Óng gƠy hiằn tềng envelope-like Hẽn na, giÊi quyát cĂc b i toĂn vểi mc ẻ khấng trẽn cĐp cao hẽn luấn luấn l mẻt nhu cƯu thác tá Do ‚, · t i nghi¶n c˘u n y, chÛng tấi chn cĂc xĐp x  ềc à xuĐt [1, 13] dng l m cĂc Ôo h m suy rẻng CĂc iÃu kiằn tậi u cĐp hai dng cĂc xĐp x  ềc nghiản cu [1] vểi giÊ thiát rơng tĐt cÊ cĂc xĐp x ềc s dng l compact C¡c x§p x¿ c‚ thº khÊng b‡ ch°n ¢ ˜Òc dÚng º ch˘ng minh c¡c i·u ki»n tËi u cĐp mẻt v cĐp hai [15, 17-19] cho nhiÃu b i toĂn tậi u vectẽ khĂc Ôo h m suy rẻng thuẻc loÔi n y tiằn lềi ch l cÊ cĂc Ănh xÔ khấng liản tc tÔi mẻt im c th c xĐp x cĐp hai khấng tƯm thèng tÔi im n y Tuy nhiản, têp trung trản cĂc iÃu kiằn cĐp hai v xĂc nh r cĂc hểng chĐp nhên ềc xĐp x gƠy hi»n t˜Ịng envelope-like, chÛng tÊi chı y¸u x²t c¡c Ănh xÔ khÊ vi cĐp mẻt CĂc quan sĂt trản l ngun cÊm hng cho mc ẵch nghiản cu ca chÛng tÊi · t i nghi¶n c˘u n y l Ăp dng Ôo h m suy rẻng kiu xĐp x thiát lêp cĂc iÃu kiằn tậi u cĐp hai mĨi vĨi hi»n t˜Ịng envelope-like cho c¡c b i to¡n tËi ˜u vectÏ khÊng trÏn c¡c khÊng gian vấ hÔn chiÃu CĂc Ănh xÔ b i toĂn nghi¶n c˘u l kh£ vi ch°t (trong c¡c i·u ki»n tËi ˜u c¦n) hay kh£ vi (trong c¡c i·u ki»n tậi u ) v khấng cƯn khÊ vi liản tc CĂc kát quÊ n y cÊi thiằn v m rẻng cĂc kát quÊ nghiản cu gƯn Ơy Mc tiảu v kát quÊ nghiản cu Chng tấi xem xt b i to¡n tËi ˜u vectÏ c¡c khÊng gian vấ hÔn chiÃu sau Ơy Cho X, Z, W l c¡c khÊng gian Banach, Y l khÊng gian ‡nh chu©n, C ⊂ Y l n‚n lÁi ‚ng, v K ⊂ Z l B i to¡n d˜Ĩi s¸ xem x²t cıa chng tấi l (P) Chng tấi dng cĂc Ôo h m suy rẻng theo nghắa xĐp x vểi mc ẻ khấng trẽn bêc cao dểi giÊ thiát khÊ vi cht (trong c¡c i·u ki»n tËi ˜u c¦n) hay kh£ vi (trong c¡c i·u ki»n tËi ˜u ı), tr¡nh gi£ thi¸t khÊ vi liản tc, thiát lêp cĂc iÃu kiằn tậi u cĐp hai vểi tẵnh chĐt envelope-like cho b i to¡n (P) C¡c k¸t qu£ cıa chÛng tÊi l m r„ hÏn v§n · n o hi»n t˜Ịng envelope-like x£y v ho n thi»n c¡c k¸t qu£  c lắnh vác nghiản cu n y C th, à t i thác hiằn cĂc mc tiảu nghiản cu sau Ơy KhĂi niằm v cĂc tẵnh chĐt ca cĂc têp tiáp xc cĐp mẻt v cĐp hai + KhĂi niằm Ôo h m suy rẻng kiu xĐp x cĐp mẻt v cĐp hai v cĂc tẵnh chĐt ca chng + CĂc iÃu kiằn tậi u cƯn cĐp hai vĨi hi»n t˜Ịng envelope-like cho c¡c nghi»m y¸u ‡a ph˜Ïng cıa (P) + + C¡c i·u ki»n tËi ˜u ı c§p hai cho c¡c nghi»m chc chn ‡a ph˜Ïng cıa (P) C¡c k¸t qu£ cıa · t i ho n thiằn cĂc kát quÊ Â c lắnh vác nghiản c˘u c¡c i·u ki»n tËi ˜u cho c¡c b i to¡n tËi ˜u vectÏ khÊng trÏn c¡c khÊng gian vấ hÔn chiÃu CĂc kát quÊ nghiản cu n y ¢ ˜Ịc t¡c gi£ v GS.TSKH Phan Qc Kh¡nh, tr˜Ìng ¤i hÂc QuËc t¸, ¤i hÂc QuËc gia Tp HCM cấng bậ mẻt b i bĂo trản tÔp chẵ khoa hÂc quËc t¸ h» thËng ISI [22]: P.Q Khanh and N.D Tuan, Second-order optimality conditions with envelope-like effect for nonsmooth vector optimization in infinite dimensions, Nonlinear Anal 77 (2013) 130-148 Ph˜Ïng ph¡p nghi¶n c˘u · t i nghiản cu dng cĂc cấng c v k thuêt gi£i t½ch khÊng trÏn, gi£i t½ch a tr‡ v gi£i tẵch h m Kát cĐu ca à t i · t i bao gÁm ch˜Ïng • Ch˜Ïng m Ưu: L thác hiằn à t i, mc tiảu v kát quÊ nghiản cu ca à t i ã Ch˜Ïng 1: GiĨi thi»u b i to¡n nghi¶n c˘u v mẻt sậ kián thc giÊi tẵch h m cng nh mẻt sậ khĂi niằm và cĂc têp tiáp xc cĐp mẻt v cĐp hai ã Chẽng 2: Ôo h m suy rẻng kiu xĐp x cĐp mẻt v cĐp hai ã Chẽng 3: CĂc iÃu kiằn tậi u cƯn cĐp hai • Ch˜Ïng 4: C¡c i·u ki»n tËi ˜u ı c§p hai Ch˜Ïng 1: GiĨi thi»u b i to¡n nghiản cu v mẻt sậ kián thc giÊi tẵch h m cng nh mẻt sậ khĂi niảm và cĂc têp tiáp xc cĐp mẻt v cĐp hai Cho X, Z, W l c¡c khÊng gian Banach, Y l khÊng gian ‡nh chu©n, C ⊂ Y l n‚n lÁi ‚ng, v xÔ Chng tấi xt b i toĂn tậi u vectẽ sau Ơy: K Z l têp l m (P) ChÛng tÊi dÚng c¡c k˛ hi»u cÏ b£n N = {1, 2, , n, } v th¸c VĨi khÊng gian nh chuân X, X ngău k.k l chuân kh im y án têp S Bn(x, r) = {y R BX (x, r) = {y ∈ X : kx − yk < r} , SX = {y ∈ X : kyk = 1} v Ëi vÓi BX (0, 1) ta vi¸t Ïn gi£n l BX L(X, Y ) l k hiằu khấng gian cĂc Ănh xÔ tuyán tẵnh b‡ ch°n t¯ X v o Y v B(X, X, Y ) l khấng gian cĂc Ănh xÔ song tuyán tẵnh b chn t X ì X v o Y , ‚ X v Y l c¡c khÊng gian ‡nh chu©n VĨi Pn, P L(X, Y ), ta vi¸t Pn −→ P hay P = p-lim Pn n¸u Pn hẻi t im án P K hiằu tẽng t¸ ˜Ịc dÚng cho ∗ ∗ ∗ ∗ Mn, M ∈ B(X, X, Y ) VÓi n‚n C ⊂ X, k˛ hi»u C = {c ∈ X : hc , ci ≥ 0, ∀c ∈ C} l p n‚n Ëi c¸c d˜Ïng cıa C VĨi A ⊂ X, c¡c k˛ hi»u riA, intA, clA, bdA, coneA, coA v A(x) l¦n l˜Ịt l ph¦n t˜Ïng Ëi, ph¦n trong, bao ‚ng, bi¶n, bao n‚n, bao lÁi cıa A v bao n‚n ca phƯn dch chuyn A im ph thuẻc v o t cho o(t )/t kh£ vi Fr²chet cho ¤o h m Fr²chet l Lipschitz ‡a ph˜Ïng Trong ph¦n n y ta x²t X, Y l Ta n‚i h l x U, n nh tÔi x0 h ềc gi l khÊ vi cht tÔi lim Hin nhiản rơng náu h l Kát quÊ sau Ơy ềc chng minh mẻt cĂch tẽng tá nh B à ca [7] M»nh · 1.1 Cho h v u, w ∈ X Náu (tn, rn) (0 thẳ y Ta nhể lÔi cĂc khĂi niằm và cĂc nn tiáp xc v têp tiáp xc cĐp hai sau Ơy nh nghắa 1.2 Cho x0, u ∈ X v S ⊂ X (a) Nn contingent (hay Bouligand) ca S tÔi x0 l + T (S, x0) = {v ∈ X | ∃tn → , ∃vn → v, ∀n ∈ N, x0 + tnvn ∈ S} (b) N‚n ti¸p xÛc (n‚n ti¸p xc Clarke, tẽng ng) ca S tÔi x0 l + IT (S, x0) = {v ∈ X | ∀tn → , ∀vn → v, ∀n ı lÓn, x0 + tnvn ∈ S} (ITC (S, x0) = {v ∈ X | ∀xn →S x0, ∀tn → 0+, ∀vn → v, ∀n ı lÓn, xn + tnvn ∈ S}) (c) Têp contingent (têp kÃ, tẽng ng) cĐp hai ca S tÔi (x0, u) l + T (S, x0, u) = {w ∈ X | ∃tn → , ∃wn → w, ∀n ∈ N, x0 + tnu + t wn ∈ S} n (d) N‚n ti¸p xc (nn kÃ, tẽng ng) cĐp hai tiằm cên ca S tÔi (x0, u) l + + T 00 (S, x0, u) = {w ∈ X | ∃(tn, rn) → (0 , ) : t n → 0, ∃wn → w, rn ∀n ∈ N, x0 + tnu + tnrnwn ∀n ∈ N, x0 + tnu + tnrnwn + + t ∈ S} (A (S, x0, u) = {w ∈ X | ∀(tn, rn) → (0 , ) : n → 0, ∃wn → w, 00 rn (e) S}) Têp tiáp xc cĐp hai ca S tÔi (x0, u) l + IT (S, x0, u) = {w ∈ X | ∀tn → , ∀wn → w, ∀n ı lÓn, x0 + tnu + t nwn ∈ S} (f) Nn tiáp xc cĐp hai tiằm cên ca S tÔi (x0, u) l IT CĂc nn T (S, x0), IT (S, x0) v ˜Ịc bi¸t r„ C¡c n‚n A00 (S, x0, u) v T 00 (S, x0, u) ˜Ịc Penot [25, 26] s˚ dˆng ChÛng tÊi ‡nh ngh¾a nn IT 00 (S, x0, u) mẻt cĂch tá nhiản Lu rơng náu x0 clS, thẳ tĐt cÊ cĂc têp tiáp xc trản l rẩng Vẳ thá, chng tấi luấn xt cĂc têp tiáp xc ch tÔi nhng im thuẻc bao ng ca têp ang xt Chng tấi a mẻt sậ tẵnh chĐt cẽ bÊn ca cĂc têp tiáp xc cĐp mẻt v cĐp hai trản ba m»nh · sau ¥y M»nh · 1.3 Cho S ⊂ X v x0, u ∈ X Khi ‚, c¡c tẵnh chĐt sau ềc biát r 2 (i) IT (S, x0, u) ⊂ A (S, x0, u) ⊂ T (S, x0, u) ⊂ clcone[cone(S − x0) − u]; 2 (ii) IT (S, x0, u) = IT (intS, x0, u) v náu u bd[cone(S x0)], thẳ IT (S, x0, u); n¸u u T (S, x0), th¼ T 2(S, x0, u) = ∅ Gi£ s˚, th¶m n˙a, S l lÁi, intS 6= ∅ v u ∈ T (S, x0) Ta c‚ i·u sau ([11, 23, 29]): (iv) intcone(S − x0) = IT (intS, x0) = ITC (intS, x0) v ‚ intcone(S − x0) vĨi x0 intS; (v) n¸u A2(S, x0, u) 6= ∅, th¼ (iii) 2 2 IT (S, x0, u) = intA (S, x0, u), clIT (S, x0, u) = A (S, x0, u); n¸u u ∈ cone(S − x0), th¼ (vi) (a) IT (S, x0, u) = intcone[cone(S − x0) − u]; (b) A (S, x0, u) = clcone[cone(S − x0) − u] M»nh · 1.4 Cho S ⊂ X v x0, u ∈ X (i) IT 00 (S, x0, u) ⊂ A00 (S, x0, u) ⊂ T 00 (S, x0, u) ⊂ clcone[cone(S − x0) − u] (ii) IT 00 (S, x0, u) = IT 00 (intS, x0, u) v n¸u u bd[cone(Sx0)], thẳ 6IT 00 (S, x0, u) Náu u 6∈T (S, x0), th¼ T 00 (S, x0, u) = ∅ (iv) A00 (S, x0, u) + ITC (S, x0) ⊂ IT 00 (S, x0, u), v ‚, n¸u ITC (S, x0) 6= ∅ v A00 (S, x0, u) 6= ∅, th¼ (iii) IT 00 (S, x0, u) = intA00 (S, x0, u), clIT 00 (S, x0, u) = A00 (S, x0, u) l lÁi v x0 ∈ S, thẳ (v) Náu S A00 (S, x0, u) + T (T (S, x0), u) ⊂ A00 (S, x0, u) ⊂ T (T (S, x0), u) ‚, n¸u A00 (S, x0, u) 6= ∅, th¼ A00 (S, x0, u) = T (T (S, x0), u) Ch˘ng minh C¡c ph¦n (i)-(iii) ềc suy t cĂc nh nghắa Vểi phƯn (v), xem ta x²t ph¦n (iv) Cho v BÍ · 4.1 cıa [28] GiÌ ¥y, + z := w + v Cho (tn, rn) → (0 cho xn := x0 + tnu + 12 tnrnwn ∈ S V¼ := zn − wn → v, ta c‚ z ∈ IT 00 (S, x0, u) v¼, vĨi n lĨn, x0 + tnu + tnrnzn = xn + tnrnvn ∈ S M»nh · 1.5 Gi£ s˚ r¬ng X = Rm v x0 ∈ S ⊂ X N¸u xn S \ {x0} hẻi t án x0, thẳ tn tÔi u T (S, x0) \ {0} c chuân bơng mẻt v mẻt dÂy con, k hiằu lÔi b i xn, cho (i) (cÍ iºn) (xn − x0)/tn → u, ‚ tn = kxn − x0k; (ii) ([11]) ho°c z 00 T (S, x0, u)∩u⊥ \{0} v rn → ‚ u⊥ l 24 C tÔi x0 X, intC v intK khĂc rẩng, v x0 ∈ LWE(f, S) (i) Kh¯ng ‡nh (i) cıa H» qu£ 3.11 th‰a (ii) Cho (f, g, h) c‚ Ănh xÔ táa Hessian 2(f, g, h)(.) l na liản tc trản tÔi x0, v u X vểi A00 (−K, g(x0), g0 (x0)u) 6= ∅ N¸u h l d˜Ĩi chẵnh quy metric theo hểng tÔi c, M(u, u)i Trong tẳnh huậng sau Ơy vểi cĂc h m ngo i lÓp C1, ‡nh l˛ 3.10 (hay H» qu£ 3.8) nghi»m y¸u ‡a ph˜Ïng, ‚ c¡c k¸t quÊ gƯn Ơy khấng (x0, u) ậi vểi T = {0} v thẳ (a) hoc tn tÔi ng thc (19) (TRu) tha; (b) hoc tn tÔi (M, N, P ) co2(f, g, h)(x0)\{0} v W v náu, thảm na, h = 0, th¼ \{ ∗ ∗ (c , k ) = (0, 0) (iii) Cho f c‚ ¡nh xÔ táa Hessian 2f(.) l f0 (x0)u bdC (v tn tÔi M hoc tn tÔi M co2f(x bĂc b‰ iºm nghi ngÌ l ¡p dˆng ˜Ịc V½ dˆ 3.2 Cho ϕ : [0, +∞) → R ˜Òc ‡nh ngh¾a b i Khi ‚, ϕ l khÊng gi£m ˜Ịc ‡nh ngh¾a vĨi x q ∈ N, Cho C = R+, K = ềc lĐy t Vẵ d [7]), v Khi ‚, (f, g) khÊng thc lĨp C1 tÔi (0, 0), khấng khÊ vi U \ {(0, 0)} vểi bĐt k lƠn cên U ca (0, 0), b i v¼ (20), v ta c‚ 25 f HÏn na, l [2]) Vẳ thá, (f, g) l khÊ vi cht tÔi (0, 0) Quan sĂt rơng K l ∗ ∗ hc , Mβ(u, u)i + hk , Nβ0 (u, u)i = β(α + γ) < K(g(0, 0))‡nh = {(k , k3) H» ∈R | k3.8), k2, 0)| k.2 Vẳ R}, (K,1 tÔi g(0, = {(k k2, 1, k2(hay < 0} 1, qu£ Do ‚, theo l˛ 3.10 qu£ (0,∪0){(0, 6∈LWE (f, S) (f, g)T6∈C (0,0)) 0), c¡c H» k3) ∈ R | k3 ≥ 0}, N(−K, g(0, 0) = {λ(0, 0, −1)| λ ∈ R}, Λ1(0, 0) = {(c∗, k∗) ∈ R × R | ngh¾a cıa d ∗ 3.11 v 3.12 khÊng ¡p dˆng ˜Òc cHÏn=n˙a, = ∅ (v· ‡nh 2, xem [7, α >v¼ 0, kd∗ α(0,0), 0,u)−1)} 2(f,=g)((0, 3 Ta‡nh c‚ l˛x§p 16]), cıax¿ [7] c§p cÙnghai khÊng ¡p dˆng ˜Òc ‚ Mβ = 26 t˘c l , Nβ(u, v) = (0, u1v1, −βu1v1), vÓi u = (u1, u2) v clB(f,g)(0, 0) = {(Mβ, Nβ)| β ≤ −2}, B(f,g)(0, 0)∞ = {(Mβ, Nβ0 )| β ≤ 0}, ‚ ChÂn u = (1, 0), ta c‚ (f, g)0 (0, 0)u ∈ −[C×clK(g(0, 0))\ int(C × K(g(0, 0))], A (−K, g(0, 0), g0 (0, 0)u) = {(k1, k2, k3) ∈ R | k3 ≥ 4} Cho (c∗, k∗) = (α, 0, 0, −α) ∈ Λ1(0, 0) vÓi > 0, ta thĐy rơng supkA (K,g(0,0),g0 (0,0)u)hk, ki = −4α, v , vÓi mÂi (Mβ, Nβ) ∈ clB(f,g)(0, 0), hc∗, Mβ(u, u)i + hk∗, Nβ(u, u)i = 2αβ ≤ −4α < supk∈A2(−K,g(0,0),g0 (0,0)u)hk∗, ki VÓi mÂi (c∗, k∗) ∈ C∗ × K(g(0, 0))∗ \ {(0, 0)} vÓi hc∗, f0 (0, 0)ui = hk∗, g0 (0, 0)ui = 0, t˘c l , c∗ = α v k∗ = γ(0, 0, −1) vÓi α ≥ 0, γ ≥ v (α, γ) 6= (0, 0) v mÂi (Mβ, Nβ0 ) ∈ B(f,g)(0, 0)∞ \ {0}, ta c‚ Ch˜Ïng 4: C¡c i·u ki»n tËi ˜u ı c§p hai Trong ph¦n n y, ta x²t b i to¡n (P) vĨi h = 0, v C, K l tÍng qu¡t (c‚ thº khÊng lÁi vĨi ph¦n rÈng) v (f, g) khÊng c¦n kh£ vi ch°t ‡nh l˛ 4.1 VĨi b i to¡n (P) vÓi h = 0, gi£ s˚ rơng X l khÊ vi Frchet tÔi x0 S Gi£ s˚ hÏn n˙a (f0 (x0), Bf (x0)) v x¿ cĐp hai ca f v g, tẽng ng, tÔi x0, vĨi th Khi ‚, mỴt c¡c i·u ki»n sau l ı cho , (i) ∀u ∈ SX , ∃(c∗, k∗) ∈ C∗ × K(g(x0))∗ hc∗, f0 (x0)ui + hk∗, g0 (x0)ui > VÓi mÂi u ∈ SX ∩ T (S, x0) th‰a f0 (x0)u ∈ −C, ta c‚ 2 ⊥ (a) ∀w ∈ T (S, x0, u)∩u , ∀(M, N) ∈ p-clB(f,g)(x0): g0 (x0)w+2N(u, u) ∈ T (−K, g(x0), g0 (x0)u), ∃(c∗, k∗) ∈ Λ1(x0), hc∗, 2M(u, u)i + hk∗, 2N(u, u)i > hk∗, g0 (x0)w + 2N(u, u)i, ∗ ∗ v ∀(M, N) ∈ p-B(f,g)(x0)∞ \ {0}: N(u, u) ∈ T 00 (−K, g(x0), g0 (x0)u), ∃c ∈ C \ {0}: hc∗, f0 (x0)ui = 0, hc∗, M(u, u)i > 0; ⊥ ∗ ∗ (b) ∀w ∈ T 00 (S, x0, u) ∩ u \ {0}, ∀M ∈ p-Bf (x0)∞, ∃c ∈ C \ {0}, hc∗, f0 (x0)ui = 0, hc∗, f0 (x0)w + M(u, u)i > (ii) 0, v ∀M ∈ p-Bf (x0)∞ \ {0}, ∃c∗ ∈ C∗ \ {0}, hc∗, f0 (x0)ui = 0, hc∗, M(u, u)i > Ch˘ng minh (i) K¸t qu£ ˜Òc suy t¯ ‡nh l˛ 3.3 cıa [18] (ii) GiÊ s phÊn chng rơng tn tÔi xn S ∩ BX (x0, f(xn)−f(x0)+cn ∈ BY (0, ‚ tn = kxn − x0k → Ta c‚ thº gi£ s˚ r¬ng (xn − x0)/tn → u ∈ T (S, x0) ∩ SX Chia (21) b i tn v chuyn qua giểi hÔn ta c f0 (x0)u −C M°t kh¡c, b i M»nh · 1.5, ch¿ c¦n x²t hai tr˜Ìng hỊp sau ¥y l ı (dÚng c¡c dÂy náu cƯn) + Trèng hềp mẻt: Tn tÔi w ∈ T 2(S, x0, u) ∩ u⊥ vÓi wn := (xn − x0 − tnu)/12 t2n → w VÓi n lển, tn tÔi (Mn, Nn) B(f,g)(x0) cho (f, g)(xn) − (f, g)(x0) = (f, g)0 (x0)(xn − x0) + (Mn, Nn)(xn − x0, xn − x0) + o(t n) N¸u {(Mn, Nn)} b‡ ch°n, gi£ s˚ rơng (Mn, Nn) p Vẳ g(xn) K, iÃu n y dăn án g0 (x0)w + 2N(u, u) T 2(−K, g(x0), g0 (x0)u) v ‚, ∗ ∗ g0 (x0)u ∈ T (−K, g(x0)) B i gi£ thi¸t (ii) (a), tn tÔi (c , k ) 1(x0) th‰a hc∗, 2M(u, u)i + hk∗, 2N(u, u)i > hk∗, g0 (x0)w + 2N(u, u)i, 27 v vẳ thá hc, yi > M°t kh¡c, t¯ (21) suy r¬ng Do ‚, y f0 (x ) + k∗ ◦ g Nh thá, hc, yi 0, mẻt iÃu mƠu thuăn Náu {(Mn, Nn)} khấng b chn, giÊ s r¬ng αn := k(Mn, Nn)k → ∞ v (M, N) ∈ p-B(f,g)(x0)∞ \ {0} Do ‚, N¸u M(u, u) = v tÔi c + C Náu (M, N)(u, u) 6= 0, th¼ αntn → B i (22), ta c‚ N(u, u) ∈ T 00 (−K, g(x0), g0 (x0)u) B i giÊ thiát (ii) (a) lƯn na, tn tÔi c [clcone(C + f0 (x0)u)], tha hc, M(u, u)i > Mt khĂc, (21) dăn án vẳ thá M(u, u) ∈ −clcone(C + f0 (x0)u) Do ‚, hc∗, M(u, u)i 0, mẻt iÃu mƠu thuăn v Trèng hềp hai: Tn tÔi rn 0+ cho tn/rn → v w B i ‡nh ngh¾a cıa Bf (x0), vểi n lển, tn tÔi Mn Bf (x0) tha f(xn) f Bơng cĂch dng cĂc dÂy náu cƯn, ta ch xt ba trèng hềp sau Ơy: •( 2tn rn )Mn → Khi ‚, (23) suy r¬ng T¯ (21) ta c‚ v ‚ f0 (x0)w clcone(C + f0 (x0)u), mƠu thuăn vểi giÊ thiát (ii) (b) vểi M = tnrn ã k( 2t n )Mnk → a > Khi ‚, kMnk → ∞ v tnkMnk → Do ‚, Mn/kMnk rn p −→ M ∈ p-Bf (x0)∞ \ {0}, v ta c‚ 28 a(f(xn) − f(x0) − tnf (x0)u) tn kMnk Tẽng tá nh trản, (21) dăn án iÃu mƠu thuăn f0 (x0)w + aM(u, u) clcone(C + f0 (x0)u) 2tn • k( )Mnk → ∞ Khi ‚, kMnk → ∞, rn T˜Ïng t¸ nh˜ tr˜Ĩc, ta i ¸n i·u khÊng thº ˜Òc M(u, u) ∈ −clcone(C + f0 (x0)u) Nhªn x²t 4.2 (i) i·u ki»n (ii)(a) ‡nh l˛ 4.1 r„ r ng ˜Òc suy b i i·u ki»n sau (a0 ) ∀(M, N) ∈ p-clB(f,g)(x0), ∃(c∗, k∗) ∈ Λ1(x0), hc∗, M(u, u)i + hk∗, N(u, u)i > v ∀(M, N) ∈ supk∈T 2(−K,g(x0),g0 (x0)u)hk∗, ki, p-B(f,g)(x0)∞ \ {0}, ∃c∗ ∈ C∗ \ {0}: hc∗, f0 (x0)ui = 0, hc∗, M(u, u)i > l n nh tÔi (ii) GiÊ s rơng g l kh£ vi Fr²chet quanh x0 vÓi g0 x0 Khi ‚, ‡nh l˛ 4.1 ⊥ 00 cÙng Ûng n¸u ta thay w ∈ T (S, x0, u)∩u \{0} i·u ki»n (ii) (b) b i w ∈ u⊥ \{0} vÓi g0 (x0)w ∈ T 00 (−K, g(x0), g0 (x0)u) (hay g0 (x0)w clcone[cone(Kg(x0))g0 (x0)u]) Thêt vêy, náu w T 00 (S, x0, u), th¼ b i M»nh · 1.1, g0 (x0)w ∈ T 00 (−K, g(x0), g0 (x0)u) ⊂ clcone[cone(−K − g(x0)) − g0 (x0)u] H» qu£ sau ¥y ˜Ịc suy tr¸c ti¸p t¯ ‡nh l˛ 4.1 vĨi hai tÔi x0 Hằ quÊ 4.3 Vểi b i toĂn (P) vĨi h = 0, gi£ s˚ r¬ng X l khÊ vi Frchet cĐp hai tÔi x0 S Khi ‚, mỴt c¡c i·u ki»n sau l ı cho LFE(2, f, S) VÓi mÂi u ∈ SX , tÁn tÔi (c, k) C ì K(g(x0)) hc, f0 (x0)ui + hk∗, g0 (x0)ui > (ii) VÓi mÂi u ∈ SX ∩ T (S, x0) vÓi f0 (x0)u ∈ −C, ta c‚ (i) ⊥ cho ∗ ∗ (a) ∀w ∈ T (S, x0, u)∩u : g0 (x0)w+g00 (x0)(u, u) ∈ T (−K, g(x0), g0 (x0)u), ∃(c , k ) ∈ Λ1(x0), hc∗, f0 (x0)w + f00 (x0)(u, u)i > 0; (b) ∀w ∈ T 00 (S, x0, u) ∩ u ⊥ \ {0}, ∃c∗ ∈ C∗ \ {0}: hc∗, f0 (x0)ui = 0, hc∗, f0 (x0)wi > H» qu£ 4.3 (ii) m rỴng ‡nh l˛ 4.5 cıa [25], ‚ Y = R, v H» qu£ cıa [7], ‚ Y v Z l hu hÔn chiÃu CĂc Hằ quÊ 4.4 v 4.5 d˜Ĩi ¥y ˜Ịc suy t˘c khc t¯ ‡nh l 4.1 dng Hessian suy rẻng Clarke v táa Hessian Jeyakumar-Luc, t˜Ïng ˘ng H» qu£ 4.4 VÓi b i to¡n (f, g) thuẻc lểp C 1,1 tÔi x0 29 LFE(2, f, S) (i) VÓi mÂi u ∈ SX , tÁn tÔi (c, k) C ì K(g(x0)) cho ∗ hc , f (x0)ui + hk , g (x0)ui > VÓi mÂi u ∈ SX ∩ T (S, x0) vÓi f0 (x0)u ∈ −C, ta c‚ 2 ⊥ (a) ∀w ∈ T (S, x0, u)∩u , ∀(M, N) ∈ ∂C (f, g)(x0): g0 (x0)w+N(u, u) ∈ T (−K, g(x0), g0 (x0)u), ∃(c∗, k∗) ∈ Λ1(x0), (ii) hc∗, M(u, u)i + hk∗, N(u, u)i > hk∗, g0 (x0)w + N(u, u)i; (b) ∀w ∈ T 00 (S, x0, u) ∩ u H» qu£ 4.4 (ii) m ⊥ \ {0}, ∃c∗ ∈ C∗ \ {0}: hc∗, f0 (x0)ui = 0, hc∗, f0 (x0)wi > rỴng H» qu£ cıa [7] H» qu£ 4.5 VÓi b i to¡n (P) vĨi h = 0, gi£ s˚ r¬ng X, Y, Z l hu hÔn chiÃu v thuẻc lểp l C tÔi g(.), tẽng ng, l ı cho x0 ∈ LFE(2, f, S) , (i) VÓi mÂi u ∈ SX , ∃(c∗, k∗) ∈ C∗ × K(g(x0))∗ hc∗, f0 (x0)ui + hk∗, g0 (x0)ui > VÓi mÂi u ∈ SX ∩ T (S, x0) vÓi f0 (x0)u ∈ −C, ta c‚ 2 ⊥ (a) ∀w ∈ T (S, x0, u)∩u , ∀(M, N) ∈ clco∂ (f, g)(x0): g0 (x0)w+N(u, u) ∈ T (−K, g(x0), g0 (x0)u), ∃(c∗, k∗) ∈ Λ1(x0), (ii) hc∗, M(u, u)i + hk∗, N(u, u)i > hk∗, g0 (x0)w + N(u, u)i, co∂2(f, g)(x0)∞ \ {0}: N(u, u) ∈ T 00 (−K, g(x0), g0 (x0)u), ∃c∗ ∈ C∗ \ {0}: hc∗, f0 (x0)ui = 0, hc∗, M(u, u)i > 0; ⊥ ∗ ∗ ∗ (b) ∀w ∈ T 00 (S, x0, u) ∩u \ {0}, ∀M ∈ co∂ f(x0)∞, ∃c ∈ C \ {0}: hc , f0 (x0)ui = 0, hc∗, f0 (x0)w + M(u, u)i > ∗ ∗ ∗ v ∀M ∈ co∂ f(x0)∞ \ {0}, ∃c ∈ C \ {0}: hc , f0 (x0)ui = 0, hc∗, M(u, u)i > Trong v½ dˆ sau ¥y, ‡nh l˛ 4.1 t¼m ˜Ịc nghi»m chc chn, cĂc kát quÊ gƯn Ơy thẳ khấng v ∀(M, N) ∈ V½ dˆ 4.1 Cho C = R+, K = {(k1, k2, k3) ∈ R3|k2k3 ≥ 2k12, k2 ≤ 0, k3 ≤ 0}, (x0, y0) = (0, 0), v f : R2 → R v g : R2 → R3 ˜Ịc ‡nh ngh¾a b i x, y ‚ θ ˜Ịc x¡c ‡nh V½ dˆ 3.2 Khi , tÔi (0, 0), f l khÊ vi Frchet nh˜ng khÊng kh£ vi ch°t, v ta c‚ 30 f Λ1(0, 0) = {(c∗, k∗) ∈ R × R | c∗ = α > 0, k∗ = α(0, 0, −1)} Ta c‚ thº l§y c¡c x§p x¿ c§p hai Bf (0, 0) = {Mβ| β ∈ {−1} ∪ (1, ∞)}, B(f,g)(0, 0) = {(Mβ, N)| β ∈ {−1} ∪ (1, )}, M = Vẳ thá, tc l , N(u, v) = (0, u1v1, 0), vÓi u, v ∈ R2 clBf (0, 0) = {Mβ| β ∈ {−1} ∪ [1, ∞)}, clB(f,g)(0, 0) = {(Mβ, N)| β ∈ {−1} ∪ [1, ∞)}, Bf (0, 0)∞ = {Mβ| β ≥ 0}, B(f,g)(0, 0)∞ = {(Mβ, 02×2×3)| β ≥ 0} ChÂn u = (1, 0) ∈ ∗ ∗ ∗ ∗, S2 Ta c‚, vÓi mÂi (c , k ) ∈ C × K(g(0, 0)) hc∗, f0 (0, 0)ui + hk∗, g0 (0, 0)ui = Do ‚, i·u ki»n (i) ‡nh l˛ 4.1 khÊng th‰a Cho u = (u1, u2) ∈ S2 cho (f, g)0 (0, 0)u ∈ −[C×clK(g(0, 0))] Khi ‚, u = (u1, 0) vĨi u1 = ±1 Ta c‚ 2 T (−K, g(0, 0), g0 (0, 0)u) = A (−K, g(0, 0), g0 (0, 0)u), ∗ v ‚, vÓi k = (0, 0, −1) ∈ N(−K, g(0, 0)), supk∈T 2(−K,g(0,0),g0 (0,0)u)hk∗, ki = −4 (quan s¡t r¬ng hi»n t˜Ịng envelope-like x£y ra) B¥y giÌ, vĨi mÂi (Mβ, N) ∈ clB(f,g)(0, ∗ ∗ 0), tn tÔi (c , k ) = (1, 0, 0, −1) ∈ Λ1(0, 0) th‰a hc∗, 2Mβ(u, u)i + hk∗, 2N(u, u)i = 2β > supk∈T 2(−K,g(0,0),g0 (0,0)u)hk∗, ki ∗ ∗ ∗ v , vÓi mÂi (Mβ, N) ∈ B(f,g)(0, 0) \ {0}, tn tÔi c = C \ {0} vÓi hc , f0 (0, 0)ui = th ‰a hc∗, Mβ(u, u)i = β > Vẳ thá, (a0 ) ca Nhên xt 4.2 v ‚ (ii) (a) ‡nh l˛ 4.1 th‰a HÏn n˙a, cho ⊥ w = (w1, w2) ∈ v \ {(0, 0)}, t˘c l , w1 = v w2 6= 0, n¸u g0 (0, 0)w = (0, 0, w2) ∈ clcone[cone(−K − g(0, 0)) − g0 (0, 0)u] = {(k1, k2, k3) ∈ R3| k3 ≥ 0}, th¼ w2 > Vẳ thá, vểi mi M Bf (0, 0), tn tÔi c = C \ {0} vÓi hc , f0 (0, 0)ui = th‰a hc∗, f0 (0, 0)w + Mβ(u, u)i = w2 + β > 0, ∗ ∗ ∗ ∗ v , vÓi mÂi Mβ ∈ Bf (0, 0)∞ \ {0}, tÁn tÔi c = C \ {0} vểi hc , f0 (0, 0)ui = th‰a hc , Mβ(u, u)i = > Vẳ thá, b i Nhên x²t 4.2 (ii), i·u ki»n (ii) (b) cıa ‡nh l˛ 4.1 th‰a H» qu£ l , (0, 0) ∈ LFE(2, f, S) Vẳ f 6C1 tÔi (0, 0), cĂc H» qu£ 7, cıa [7], ‡nh l˛ 4.5 cıa [25] v c¡c h» qu£ 4.4 v 4.5 tr¶n khÊng ¡p dˆng ˜Ịc HÏn n˙a, v¼ d2(f, g)((0, 0), u) = ∅, ‡nh l˛ cıa [7] cÙng khÊng ¡p dng ềc 31 Kát luên v hểng nghiản cu m rẻng à t i Trong à t i nghiản cu n y, Ưu tiản, chng tấi giểi thiằu khĂi niằm và cĂc têp tiáp xc cĐp mẻt v cĐp hai v khÊo sĂt mẻt sậ tẵnh chĐt ca chng Tiáp theo, chng tấi à xuĐt khĂi niằm Ôo h m suy rẻng kiu xĐp x cĐp mẻt v cĐp hai v a cĂc tẵnh chĐt ca chng Cuậi cng, dng cĂc Ôo h m suy rẻng kiu xĐp x n y d˜Ĩi gi£ thi¸t kh£ vi ch°t (trong c¡c i·u ki»n tËi ˜u c¦n) hay kh£ vi (trong c¡c iÃu kiằn tậi u ), chng tấi thiát lêp cĂc i·u ki»n tËi ˜u c§p hai mĨi cho c¡c nghi»m y¸u ‡a ph˜Ïng v c¡c nghi»m chc chn ‡a ph˜Ïng, vểi tẵnh chĐt envelope-like ềc l m r hẽn, ca b i to¡n tËi ˜u vectÏ khÊng trÏn c¡c khấng gian vấ hÔn chiÃu (P) Trong ká hoÔch nghiản cu tẽng lai, chng tấi s m rẻng hểng nghiản c˘u cıa · i b¬ng c¡ch x²t b i to¡n tËi ˜u vectÏ khÊng trÏn vĨi r ng bc bao h m th˘c kh¡ tÍng qu¡t sau ¥y: t (P1) ‚ f : X → Y l khÊng gian Banach, Y l Chng tấi s thiát lêp cĂc iÃu kiằn tậi u cƯn v cĐp mẻt v nghiằm y¸u v nghi»m chc chn cıa b i to¡n (P1) bơng cĂc quy tc nhƠn t Fritz-JohnLagrange Chng tấi dng cĂc Ôo h m suy rẻng kiu xĐp x cho f, Ôo h m theo hểng a tr cho F , v cĂc nn tiáp xc v têp tiáp xc cĐp mẻt v cĐp hai dểi cĂc giÊ thiát ềc gi£m nhµ 32 T i li»u tham kh£o [1] Allali, K., Amahroq, T.: Second-order approximations and primal and dual necessary optimality conditions, Optimization 40 (1997) 229-246 [2] Bednar½k, D., Pastor, K.: On second-order optimality conditions in constrained mul-tiobjective optimization, Nonlinear Anal 74 (2011) 1372-1382 [3] Bonnans, J F., Shapiro, A.: Perturbation Analysis of Optimization Problems , Springer, New York (2000) [4] Clarke, F H.: Optimization and Nonsmooth Analysis , Wiley Interscience, New York (1983) [5] Cominetti, R.: Metric regularity, tangent sets and second order optimality conditions, Appl Math Optim 21 (1990) 265-287 [6] Dontchev, A L., Rockafellar, R T.: Regularity and conditioning of solution mappings in variational analysis, Set-valued Anal 12 (2004) 79-109 [7] Guti²rrez, C., Jim²nez, B., Novo, V.: On second order Fritz John type optimality con-ditions in nonsmooth multiobjective programming, Math Program (Ser B) 123 (2010) 199-223 [8] Hiriart-Urruty, J B., Strodiot, J J., Nguyen, V H.: Generalized Hessian matrix and data, Appl Math Optim 11 second-order optimality conditions for problems with C1,1 (1984) 43-56 [9] Jeyakumar, V., Luc, D T.: Nonsmooth Vector Functions and Continuous Optimiza-tion, Springer, Berlin (2008) [10] Jim²nez, B., Novo, V.: Second order necessary conditions in set constrained differ-entiable vector optimization, Math Meth Oper Res 58 (2003) 299-317 [11] Jim²nez, B., Novo, V.: Optimality conditions in differentiable vector optimization via second-order tangent sets, Appl Math Optim 49 (2004) 123-144 [12] Jourani, A.: Metric regularity and second-order necessary optimality conditions for minimization problems under inclusion constraints, J Optim Theory Appl 81 (1994) 97-120 [13] Jourani, A., Thibault, L.: Approximations and metric regularity in mathematical programming in Banach spaces, Math Oper Res 18 (1992) 390-400 [14] Kawasaki, H.: An envelope-like effect of infinitely many inequality constraints on second order necessary conditions for minimization problems, Math Program 41 (1988) 73-96 [15] Khanh, P Q., Tuan, N D.: First and second-order optimality conditions using ap-proximations for nonsmooth vector optimization in Banach spaces, J Optim Theory Appl 130 (2006) 289-308 [16] Khanh, P Q., Tuan, N D.: Optimality conditions for nonsmooth multiobjective op-timization using Hadamard directional derivatives, J Optim Theory Appl 133 (2007) 341-357 [17] Khanh, P Q., Tuan, N D.: First and second-order approximations as derivatives of mappings in optimality conditions for nonsmooth vector optimization, Appl Math Optim 58 (2008) 147-166 33 Khanh, P Q., Tuan, N D.: Optimality conditions using approximations for non-smooth vector optimization problems under general inequality constraints, J Convex Anal 16 (2009) 169-186 [18] [19] Khanh, P Q., Tuan, N D.: Corrigendum to Optimality conditions using approxima-tions for nonsmooth vector optimization problems under general inequality constraints", J Convex Anal 18 (2011) 897-901 [20] Khanh, P Q., Tuan, N D.: Second-order optimality conditions with the envelope-like effect in nonsmooth multiobjective mathematical programming, I: l-stability and set-valued directional derivatives, J Math Anal Appl 403 (2013) 695-702 [21] Khanh, P Q., Tuan, N D.: Second-order optimality conditions with the envelope-like effect in nonsmooth multiobjective mathematical programming, II: Optimality con-ditions, J Math Anal Appl 403 (2013) 703-714 [22] Khanh, P Q., Tuan, N D.: Second-order optimality conditions with envelopelike ef-fect for nonsmooth vector optimization in infinite dimensions, Nonlinear Anal 77 (2013) 130-148 [23] Maruyama, Y.: Second-order necessary conditions for nonlinear optimization prob-lems in Banach spaces and their applications to an optimal control problem, Math Oper Res 15 (1990) 467-482 [24] Penot, J P.: Optimality conditions in mathematical programming and composite optimization, Math Program 67 (1994) 225-245 [25] Penot, J P.: Second order conditions for optimization problems with constraints, SIAM J Control Optim 37 (1998) 303-318 [26] Penot, J P.: Recent advances on second-order optimality conditions, in Optimization, V H Nguyen, J J Strodiot, P Tossings eds , Springer, Berlin, (2000) 357-380 Rockafellar, R T.: Convex Analysis , Princeton University Press, Princeton, New Jersey (1970) [27] [28] Taa, A.: Second-order conditions for nonsmooth multiobjective optimization prob-lems with inclusion constraints, J Global Optim 50 (2011) 271-291 [29] Ward, D E.: Calculus for parabolic second-order derivatives, Set Valued Anal (1993) 213-246 34 ... x cĐp mẻt v cĐp hai v cĂc tẵnh chĐt ca chng + CĂc iÃu kiằn tậi u cƯn cĐp hai vểi hiằn tềng envelope- like cho c¡c nghi»m y¸u ‡a ph˜Ïng cıa (P) + + C¡c i·u ki»n tËi ˜u ı c§p hai cho c¡c nghi»m chc... kh£ vi ch°t (trong c¡c i·u ki»n tËi ˜u c¦n) hay kh£ vi (trong c¡c i·u ki»n tËi u ), trĂnh giÊ thiát khÊ vi liản tc, thiát lêp cĂc iÃu kiằn tậi u cĐp hai vểi tẵnh chĐt envelope- like cho b i toĂn... i·u ki»n tËi ˜u c§p hai mĨi vĨi hi»n t˜Ịng envelope- like cho c¡c b i to¡n tËi ˜u vectÏ khÊng trẽn cĂc khấng gian vấ hÔn chiÃu CĂc Ănh xÔ b i toĂn nghiản cu l khÊ vi ch°t (trong c¡c i·u ki»n tËi