Điều kiện đủ cấp 2 cho cực tiểu địa phương chặt cấp 2

ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC SƯ PHẠM –––––––––––––––––––––––––––– NGUYỄN HUY HÙNG ĐIỀU KIỆN ĐỦ CẤP CHO CỰC TIỂU ĐỊA PHƯƠNG CHẶT CẤP Chuyên ngành: TOÁN GIẢI TÍCH Mã số: 60.46.01 LUẬN VĂN THẠC SỸ TỐN HỌC Người hướng dẫn khoa học: PGS TS Đỗ Văn Lưu THÁI NGUYÊN – 2011  Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn MỤC LỤC Trang MỞ ĐẦU Chương ĐIỀU KIỆN ĐỦ TỐI ƯU CẤP CHO BÀI TOÁN TỐI ƯU KHÔNG TRƠN VỚI RÀNG BUỘC TẬP 1.1 CÁC KẾT QUẢ BỔ TRỢ 1.2 ĐIỀU KIỆN ĐỦ TỐI ƯU 1.3 BÀI TOÁN VỚI HỮU HẠN RÀNG BUỘC 17 Chương ĐIỀU KIỆN ĐỦ TỐI ƯU CẤP CHO BÀI TOÁN TỐI ƯU KHƠNG TRƠN CĨ RÀNG BUỘC BẤT ĐẲNG THỨC 23 2.1 CÁC ĐIỀU KIỆN ĐỦ CẤP 23 2.2 SO SÁNH VỚI ĐIỀU KIỆN ĐỦ TỐI ƯU CỦA A D IOFFE 40 2.3 ĐIỀU KIỆN ĐỦ TỐI ƯU DƯỚI NGÔN NGỮ HÀM LAGRANGE 45 KẾT LUẬN 51 TÀI LIỆU THAM KHẢO 52 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn MỞ ĐẦU Lý thuyết toán tối ưu có nhiều ứng dụng kinh tế nhiều ngành kỹ thuật Các điều kiện đủ tối ưu cấp cho phép ta nhận điểm cực tiểu địa phương chặt cấp Các điều kiện tối ưu cấp cổ điển thường thiết lập ngôn ngữ gradient Hessian hàm mục tiêu hàm ràng buộc toán Với toán tối ưu mà liệu hàm Lipschitz địa phương, người ta thường dùng gradient suy rộng Jacobian suy rộng Clarke thay vai trò gradient Hessian R.W Chaney [7] thiết lập điều kiện đủ tối ưu cấp tổng quát ngôn ngữ gradient suy rộng Clarke cho toán với ràng buộc không gian Euclide n-chiều Ở hàm mục tiêu Lipschitz địa phương, ràng buộc tập đóng Rn Phương pháp chứng minh phản chứng với điều kiện cần tối ưu cấp Clarke [3] tác giả sử dụng để dẫn đến điều kiện đủ tối ưu cấp Các điều kiện đủ cấp cho toán với hàm bán trơn quy vi phân thiết lập Trong [6] R.W Chaney dẫn điều kiện đủ tối ưu cấp cho toán với hữu hạn ràng buộc đẳng thức bất đẳng thức Lipschitz địa phương Ở điều kiện đủ cấp thiết lập ngôn ngữ gradient suy rộng Clarke hàm xây dựng kiểu hàm “quy gọn” Ioffe [9] (“quy gọn” toán xuất phát có ràng buộc hàm thành tốn khơng ràng buộc với hàm mục tiêu “quy gọn”) Luận văn trình bày điều kiện đủ tối ưu cấp Chaney [6,7] cho toán với ràng buộc tập tốn với hữu hạn Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn ràng buộc hàm, liệu toán hàm Lipschitz địa phương Các điều kiện đủ cấp trình bày ngơn ngữ gradient suy rộng Clarke hàm bổ trợ cho hàm mục tiêu, hàm quy gọn kiểu Ioffe Các điều kiện đủ cấp cho toán với hàm bán trơn quy vi phân trình bày luận văn Luận văn bao gồm phần mở đầu, hai chương, kết luận danh mục tài liệu tham khảo Chương trình bày điều kiện đủ tối ưu cấp tổng quát cho cực tiểu địa phương chặt cấp toán tối ưu với ràng buộc tập, hàm mục tiêu Lipschitz địa phương, ràng buộc tập đóng Rn Các điều kiện đủ tối ưu cấp trình bày chương R.W Chaney [7] ngôn ngữ gradient suy rộng Clarke Các điều kiện đủ cấp cho toán với hàm bán trơn quy vi phân trình bày chương Chương trình bày điều kiện đủ tối ưu cấp cho tốn tối ưu có hữu hạn ràng buộc đẳng thức bất đẳng thức Các điều kiện đủ tối ưu cấp trình bày chương R.W Chaney [6] thiết lập ngôn ngữ gradient suy rộng Clarke hàm H M xây dựng theo kiểu hàm quy gọn Ioffe [9] Nhân dịp tơi xin bày tỏ lịng biết ơn chân thành sâu sắc tới thầy giáo PGS.TS Đỗ Văn Lưu, người tận tình hướng dẫn, giúp đỡ tơi hồn thành luận văn Tơi xin chân thành cảm ơn Ban chủ nhiệm khoa Toán, khoa Sau Đại học trường Đại học sư phạm – Đại học Thái Nguyên thầy cô giáo tham gia giảng dạy khóa học, xin chân thành cảm ơn gia Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn đình, bạn bè đồng nghiệp học viên lớp Cao học Tốn K17 ln quan tâm, giúp đỡ suốt thời gian học tập trình làm luận văn Thái Nguyên, tháng năm 2011 NGUYỄN HUY HÙNG Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Chương ĐIỀU KIỆN ĐỦ TỐI ƯU CẤP CHO BÀI TỐN TỐI ƯU KHƠNG TRƠN VỚI RÀNG BUỘC TẬP Chương trình bày điều kiện đủ tối ưu cấp tổng quát cho cực tiểu địa phương chặt cấp toán tối ưu với ràng buộc tập, hàm mục tiêu Lipschitz địa phương ràng buộc tập đóng Rn Các điều kiện đủ tối ưu cấp thiết lập ngôn ngữ gradient suy rộng Clarke Trường hợp tốn với hàm bán trơn quy vi phân trình bày chương Các kết trình bày chương R.W.Chaney [7] 1.1 CÁC KẾT QUẢ BỔ TRỢ Gradient suy rộng Cho W tập mở Rn Giả sử f hàm giá trị thực xác định W Hàm f gọi Lipschitz địa phương W với điểm x thuộc W tồn lân cận V  x  số K  x  cho: f ( z )  f ( y )  K ( x) z  y với z y thuộc V x  Trong z  y chuẩn Euclide z  y Định nghĩa 1.1 Giả sử f Lipschitz địa phương W Theo Định lý Rademacher [12], f khả vi hầu khắp nơi W Ký hiệu f gradient f x (khi tồn tại) Gọi E tập hợp tất điểm z W mà f khả vi z Giả sử x thuộc W Gradient suy rộng f Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn x, ký hiệu f (x) , bao lồi tập tất điểm giới hạn dãy hội tụ f ( xk ) , xk  k 1 dãy E hội tụ đến x Đạo hàm theo phương suy rộng f x theo phương d định nghĩa f ( x, d )  lim sup v 0 t  f ( x  v  td )  f ( x  v ) t Ta có (xem [1]):  f ( x )    R n :   , u  f o ( x; u ), u  R n  Nhận xét 1.1 Ta liệt kê số kiện gradient suy rộng mà ta sử dụng sau (xem [1]) Giả sử f hàm Lipschitz địa phương x với số k Khi đó, (a) Hàm f o (x;.) hữu hạn, dương, cộng tính R n f o ( x; v)  k v (b) f o ( y, v) nửa liên tục theo ( y, v); f o ( x;.) Lipschitz (theo v) với số k R n (c) f ( x)  , lồi, compact  k    f ( x)  (d) f ( x; d )  maxv.d : v  f ( x ) ,với x thuộc W d thuộc R n Nói cách khác, f ( x;.) hàm tựa tập lồi f (x ) (e) Cho x thuộc W, hàm f ( x;.) lồi R n Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn (f) Hàm đa trị x  f ( x) nửa liên tục W; Do đó,  xk  vk  hội tụ tương ứng với xW v R n v k  f (x) với k, v f (x ) (g) Định lý giá trị trung bình Lebourg Giả sử x yW Giả sử đoạn thẳng L nối x y nằm W Khi tồn z  L v  f (z ) cho z  x , z  y f ( x)  f ( y )  v.( x  y) với v thuộc Rn với d  R n ta có v.d  limsup t 0 f ( x  td )  f ( x ) t v  f (x ) 1.2 ĐIỀU KIỆN ĐỦ TỐI ƯU Giả sử S tập hợp đóng khơng gian n–chiều R n W tập mở R n Giả sử điểm x *  S  W f hàm Lipschitz địa phương giá trị thực W Ta xét toán (P) : f ( x ) xS W Nhắc lại [5], tập S quy tiếp tuyến x* nón tiếp liên K ( S , x*) nón tiếp tuyến Clarke T ( S , x*) trùng Nón tiếp tuyến Clarke T ( S , x*) S x* bao gồm tất y  R n cho với dãy tk    xk  hội tụ tới x* với xk  S, tồn dãy  yk  hội tụ đến y cho xk  tk yk S với k Nón tiếp liên K(S, x*) S x* bao gồm tất y  R n nên tồn dãy tk  số Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn dương  xk  hội tụ tới x* với xk  S  xk  x * / tk  hội tụ đến y Hai nón K(S, x*) T(S, x*) đóng T(S, x*) lồi Hơn nữa, T (S, x*)  K(S, x*) Ta đưa vào số ký hiệu Nếu x y  R n   x chuẩn Euclide x , x y tích vơ hướng thơng thường x y,   B(x,) tập hợp z  R n , z  x   Nếu C tập đóng lồi R n x  C, ta ký hiệu N(C, x) nón pháp tuyến C x Nếu C tập đóng, nón pháp tuyến C x cho N(C, x) = N(T (C, x), 0) Định nghĩa 1.2 Cho  xk  dãy R n hội tụ đến x cho d vectơ đơn vị R n Khi xk  hội tụ tới x theo phương d dãy {(xk – x) / | xk – x |} hội tụ đến d Định nghĩa 1.3 Cho x  W d vectơ đơn vị R n Ta định nghĩa  d f ( x) tập hợp tất v  R n cho tồn dãy  xk  W vk  R n mà: (a)  xk  hội tụ tới x theo phương d; (b) vk  hội tụ đến v; Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn (c) vk  f(xk) với k Ta định nghĩa L(f, x*) tập tất điểm td, d  R n , | d | 1, t  , v0 d  với v0  d f ( x*) Tập L(f, x*) nón đóng Định lý 1.1 Giả sử S, W, x*, f trên, g hàm Lipschitz địa phương giá trị thực W mà g(x*) = f(x*) g(x)  f(x) với x S  W Giả sử rằng, với vectơ đơn vị d* thuộc tập hợp K(S, x*)  L(f, x*), có tương ứng với nón lồi đóng C(d*) mà d*  C(x*) Ta giả sử rằng: (a) ta có w.d  d vectơ đơn vị C(d*) với d* thuộc K(S, x*)  L(f, x*) w gradient suy rộng thuộc  d g ( x*) (b) tồn m*  cho limsup wk ( xk  x*)/ | xk  x*|2  m * với dãy xk  wk  vectơ đơn vị d, d* thỏa mãn: (i)  xk  hội tụ tới x* theo phương d, (ii) d*  K(S, x*)  L(f, x*) d*C(x*), (iii) wk  g (x*) với k, (iv) wk  hội tụ đến w – N(C(d*) + x*, x*) Khi đó, tồn   cho Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 39 Bây vk  L ( xk )  m * ( xk  x*) với k Đặt tk | xk  x* | d k | xk  x* | / tk với k Ta nhận vk d k  L( xk ).dk  m * tk | dk |2  {L( xk )  L( x*).dk  m * tk Nên limsup vk d k / tk  d  L( x*)d  m*  Do giả thiết Định lý 2.3 thỏa mãn Hệ 2.4.1 Giả sử F hàm Lipschitz địa phương giá trị thực xác định W x*  W Giả sử h hàm Lipschitz địa phương giá trị thực xác định W mà (a) h (x*) = F (x*); (b) h (x) ≤ F (x) với x  W (c) tồn m* ≥ cho limsup vk ( xk  x*)/ | xk  x* |2  m * với dãy {xk} W hội tụ đến x* theo phương d mà v0 d ≤ với v0  d F ( x*) {vk} dãy Rn mà vk  h( xk ) với k Khi đó, tồn số dương δ cho F  x   F  x *   m * /2  |x  x*|2 , Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 40 với x  B( x*,  ) Chứng minh Ta xác định hàm h* F* W F *  x  = F  x    m * /2  |x  x*|2 , h *  x   h  x    m * /2  |x  x*|2 , với x  W Bây ta làm chứng minh Hệ 2.1.1, áp dụng Định lý 2.3 cho F* h* □ 2.2 SO SÁNH VỚI ĐIỀU KIỆN ĐỦ TỐI ƯU CỦA A D IOFFE Nhận xét 2.6 Giả sử g hàm tuyến tính xác định Rm Như vậy, g lồi, dương, cộng tính Rm Giả sử hàm giá trị thực G1, G2., , Gm hai lần khả vi liên tục tập mở W  R n chứa điểm x* Ta xác định hàm G G  x    G1  x  , G2  x  , , Gm  x   với x  W Đặt f = g  G xét toán (P**): f ( x) xW Đây dạng hữu hạn chiều tốn khơng gian Banach xét Ioffe [10] Ta nhận Định lý Ioffe [10] từ Hệ 2.4.1 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 41 Nhận xét 2.7 Gradient suy rộng f biểu diễn qua Jacobian J G vi phân g hàm lồi g Từ Định lý Rockafellar [13] ta suy f quy vi phân điểm W f ( x)  {J ( x)T y : y  g (G ( x))}, x W (2.9) Ở đây, số T ký hiệu phép chuyển vị Miffin hàm hợp hàm bán trơn hàm bán trơn Từ Nhận xét 2.2 suy f bán trơn điểm W Một vài kiện g liệt kê đây: g (0) = 0; (2.10) Nếu y  g (u) g (u) = y.u ; (2.11) với u  Rm, ta có g (u )  g (0) ; (2.12) Từ (2.10) (2.12) suy Nếu u  Rm y  g (0), y.u< g(u) Định nghĩa 2.6 Với k x* trên, đặt ( x*)  {y  g (G ( x*)) : J ( x*)T y  0}, KC  {d  R n : g (G ( x*)  tJ ( x*) d )  g (G ( x*), với t  đó} Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 42 Cuối cùng, ta định nghĩa hàm L* W  R m L * ( x, y )  y1G1( x)  y2G2 ( x )   ymGm ( x ) , với x  W y  Rm (Ioffe [9] KC nón lồi đóng) Ta phát biểu chứng minh điều kiện đủ Ioffe Định lý 2.5 [9, dạng hữu hạn chiều] Với f x* trên, giả sử tập ( x*) khác rỗng Giả sử tồn số dương m1 m2 cho (i) với d  Rn, tồn z  KC cho | d –z | ≤ m2 {g (G (x*) + J (x*) d) – g (G (x*))}; (ii) với d  KC, tồn y  ( x*) cho d 2xx L * ( x*, y )d  m1 | d |2 Khi đó, tồn số dương δ cho f (x) –f (x*) ≥ (m1/ 2) | x – x* |2 với x  B (x*, δ) Chứng minh Bởi tập ( x*) khơng rỗng, ta xác định hàm h W h(x) = max {y G (x): y ( x*) }, xW Ta muốn áp dụng Hệ 2.4.1 Trước hết ta ý rằng, tập ( x*) không rỗng, từ (2.9) ta suy f ( x*) có chứa vectơ khơng Từ (2.11) Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 43 (2.13) suy h(x*) = f(x*) h(x)  f(x) với x  W Theo [3, thm.2.1], ta có   T h  x   J  x  y : y   x * h  x   y G  x  (trong đó, rõ ràng h( x*)  {0} ) Để áp dụng Hệ 2.4.1 ta phải kiểm chứng giả thiết (c) Hệ 2.4.1 Ta giả sử {xk} hội tụ tới x* theo phương d K(f) (ở đây, ta sử dụng Định lý 2.4) giả sử vk  h( xk ) với k Với k, tồn yk*  ( x*) cho vk  J ( xk )T yk* h( xk )  yk* G ( xk ) Vì f bán trơn quy vi phân x*, ta có (với tk = |xk – x*| dk = (xk – x*) / tk)  f ( x*; d )  limsup{ g (G ( xk ))  g (G ( x*))} / tk Bởi G Lipschitz, từ Định lý Taylor, ta nhận : limsup {g (G ( xk ))  g (G ( x*)  tk J ( x*)d k )}  tk Vì  limsup {g (G ( x)  tk J ( x*)d k )  g (G ( x*))} tk Theo giả thiết (i), với k, tồn điểm zk  KC cho | zk  tk d k | m2{g (G ( x*)  tk J ( x*) d k )  g (G ( x*))} Đặt ek = zk / tk với k Nó Khi dãy {d k – ek} hội tụ đến Ta có Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 44 y*k G ( xk )  yk* G ( x*)  y*k J ( x*)tk d k  tk2     d k  L * ( x*, yk* )d k  o (tk2 ) 2  t2    k  ek  L * ( x*, yk* )ek  o(tk2 ) 2   (2.14) Với k, giả sử yk phần tử  (x*) thỏa mãn ek 2xx L * ( x*, yk )ek  m1 | ek |2 Bởi yk G ( xk )  h( xk )  yk* yk G ( x*)  yk* G ( x*)  h ( x*) , ta có y*k G ( xk )  yk* G ( xk* )  yk* G ( x*)  yk G ( xk )  yk G ( x*)  tk2   tk2  2    ek  xx L * ( x*, yk )ek  o(tk )    m1 | ek |2  o(tk2 ) 2 2     (2.15) Tiếp theo, ta thấy vk dk = J ( xk )T yk* d k  {J ( xk )T  J ( x*)T }yk* d k   L * ( x*, y*k )tk d k d k  o(t k )   L * ( x*, yk* )tk ek ek  o(tk ) Từ (2.14) (2.15), ta nhận vk d k  m1 | ek |2  o(1) tk Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 45 Vì limsup vk d k  m1 | d |2  m1 tk □ 2.3 ĐIỀU KIỆN ĐỦ TỐI ƯU DƯỚI NGÔN NGỮ HÀM LAGRANGE Nếu hàm g0, g1, , gq toán P1 hai lần khả vi liên tục x*, điều kiện đủ cấp cổ điển cho toán P1 cho ngơn ngữ hàm Lagrange Ta trình bày Định lý điều kiện đủ tối ưu ngôn ngữ nhân tử Định lý 2.6 [Clarke] Giả sử x*  W cực tiểu địa phương tốn P1 Khi đó, tồn số ai* vectơ vi* với i = a, 1, , q cho (a) ai* khác khơng với {0,1, , q}; (b) ai* ≥ với i = 0,1, , m; (c) ai* gi (x*) = với i = 1, , m; (d) vi*  gi(x*) với i = 0,1, q; (e) = a0*v0*  a1*v1*   aq*vq* Dưới ta giả sử (f) a0* = Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 46 chẳng hạn toán P1 “yên tĩnh” [3] Nhận xét 2.8 Giả sử x*  W, hàm gi bán trơn x*, có hàm g0, , gma*m+1 gm +1, , a*qgq quy vi phân x*, Định lý 2.6 (a) – (f) (phải nhấn mạnh ta không giả thiết x* cực tiểu địa phương) Bây ta định nghĩa hàm giá trị thực L W q L( x)   ai* gi ( x ), x W i 0 Từ Mệnh đề 2.1 ta suy L bán trơn quy vi phân x* q L( x*)   ai*g i ( x*) (2.16) i 0 Từ Định lý 2.6 (e) (2.16) suy  L (x*) Căn Nhận xét 2.5, ta đưa vào nón lồi đóng K  K ( L)  {d  R n : L0 ( x*; d )  0} Định lý 2.7 Giả sử x*  S ∩ W, hàm gi bán trơn x*, hàm g0, g1, gm, gma*m+1 gm +1, , a*qgq quy vi phân x*, ta giả sử x*, a*, v*0, v*1, , v*q thỏa mãn Định lý 2.6 (a) – (f) Ký hiệu I  {i :1  i  m, & ai*  0} Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 47 Giả sử limsup vk ( xk  x*)/ | xk  x* |2  , với dãy {xk} {vk} thỏa mãn điều kiện: (i) {xk} hội tụ tới x* theo phương d với xk  S với k; (ii) {vk} hội tụ với vk  ∂L(xk) với k; (iii) g'i (x*; d) = với i  I Khi đó, C nón đóng mà C  int( K )  {0} tồn số dương δ cho g0(x)> g0(x*) với x  B( x*,  )  (C  x*)  S x  x * , int(K) ký hiệu phần K Chứng minh Giả sử kết luận sai Chọn dãy {δk} số dương giảm đến Với số nguyên dương k, tồn xk  B( x*,  )  (C  x*)  S cho xk  x * g ( xk )  g ( x*)  (2.17) Đặt tk = | xk – x* |> 0, dk = (xk – x*) / tk Mỗi dk  C ta giả sử {dk} hội tụ đến vectơ đơn vị d C Ta áp dụng Định lý giá trị trung bình Lebourg nhận zk zki phần đoạn thẳng nối xk với x*, vectơ vk  ∂L(zk) vki  ∂gi(xki) cho L (xk) – L (x*) = vk tkvk , Số hóa Trung tâm Học liệu – Đại học Thái Nguyên k  1, (2.18) http://www.lrc-tnu.edu.vn 48 gi ( xk )  g i ( x*)  vki tk d k , k  1, i  0,1, , q (2.19) Như trước, ta giả sử {vk} hội tụ đến v ~  d L( x*) {vki} hội tụ đến vi~  d gi ( x*) (với i = 0, 1, …, p) Bởi xk  S, theo Định lý 2.5 (b), (c), ta có L(xk) – L (x*) ≤ g 0(xk) – g0(x*) Từ (2.17), (2.18) (2.19) ta suy với k vk d k  vk d k  0, với i  I, với m  i  q vki dk  0, (2.20) vki dk  0, Từ (2.20), ta có v ~ d  0, vi~ d  với i  I  {0}, v ~ d  với m