Jacobian xấp xỉ và ứng dụng cho bài toán tối ưu không trơn

ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC SƯ PHẠM PHẠM THỊ THU JACOBIAN XẤP XỈ VÀ ỨNG DỤNG CHO BÀI TỐN TỐI ƯU KHƠNG TRƠN LUẬN VĂN THẠC SỸ TỐN HỌC Thái Nguyên - Năm 2012 1Số hóa Trung tâm Học liệu – Đại học Thái Nguyên Tai ngay!!! Ban co the xoa dong chu nay!!! http://www.lrc-tnu.edu.vn ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC SƯ PHẠM PHẠM THỊ THU JACOBIAN XẤP XỈ VÀ ỨNG DỤNG CHO BÀI TOÁN TỐI ƯU KHƠNG TRƠN Chun ngành: GIẢI TÍCH Mã số: 60.46.01 LUẬN VĂN THẠC SỸ TOÁN HỌC Người hướng dẫn khoa học GS.TSKH NGUYỄN XUÂN TẤN Thái Nguyên - Năm 2012 2Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn i Mục lục Mở đầu 1 HÀM KHẢ VI 1.1 Hàm khả vi từ R → R 1.2 Hàm khả vi từ Rn → R 1.2.1 Các định nghĩa tính chất 1.2.2 Các phép tính đạo hàm 1.3 Hàm khả vi từ Rn đến Rm 1.4 Ứng dụng 1.4.1 Bài toán trơn khơng có ràng buộc 1.4.2 Bài toán trơn với ràng buộc bất đẳng thức JACOBIAN XẤP XỈ 2.1 Jacobian xấp xỉ hàm vô hướng 2.1.1 Định nghĩa tính chất 2.1.2 Các phép tính Jacobian xấp xỉ 2.2 Jacobian xấp xỉ hàm vectơ 2.3 Hessian xấp xỉ 2.3.1 Hessian xấp xỉ hàm vô hướng 2.3.2 Hessian xấp xỉ hàm vectơ ỨNG DỤNG CỦA JACOBIAN XẤP XỈ 3.1 Bài toán tối ưu tổng quát 3.2 Các loại toán tối ưu 3.3 Bài tốn tối ưu khơng ràng buộc 3.4 Bài toán tối ưu có ràng buộc 3Số hóa Trung tâm Học liệu – Đại học Thái Nguyên 4 4 10 10 11 12 12 12 20 28 39 39 42 44 44 46 47 49 http://www.lrc-tnu.edu.vn ii 3.5 Điều kiện tối ưu cấp hai toán tối ưu vectơ 52 Kết luận 63 Tài liệu tham khảo 64 4Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn MỞ ĐẦU Lí chọn đề tài Vào nửa sau kỉ XVII, nhà toán học người Đức Leibniz đồng thời nhà toán học người Anh Newton phát minh phép tính vi phân, cơng cụ đắc lực để giải nhiều toán vật lý, học, hóa học, kỹ thuật, Nhưng phép tính vi phân mà Leibniz Newton phát minh áp dụng cho lớp hàm có tính chất tốt Một vấn đề đặt là cách giải hàm khơng khả vi Đây vấn đề nghiên cứu nhiều nhà khoa học vào nửa cuối kỉ XX Từ mơn giải tích khơng trơn đời Mơn học giải toán lớp hàm khơng có đạo hàm theo nghĩa thơng thường cách đưa khái niệm vi phân khác để thay khái niệm đạo hàm, điểm cho trước hàm xấp xỉ họ hàm tuyến tính Nhờ mà giải tích khơng trơn đem lại nhiều kết sâu sắc lý thuyết tối ưu, giải tích biến phân, phương trình vi phân, học lý thuyết điều khiển Trong năm gần nhiều nhà nghiên cứu giải tích khơng trơn cách tập trung phát triển vi phân suy rộng đảm bảo tính chất tốt điều kiện cần đủ tối ưu hàm không trơn như: F.H Clarke, R.T Rockafellar, D.Ralph V.F.Demyanov V.Jeyakumar, Rất gần đây, với hàm liên tục, V.Jeyakumar D.T.Luc đưa khái niệm vi phân gọi Jacobian xấp xỉ Các khái niệm cho ta công cụ hữu ích để nghiên cứu tốn hàm liên tục có Jacobian xấp xỉ có phép tính tốt, tương 5Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn ứng với phép tính đạo hàm thơng thường phép lấy tích, tổng, hợp, định lý giá trị trung bình, Đặc biệt, nhiều vi phân Jacobian xấp xỉ, ví vi phân hàm lồi, hàm Lipschitz nhiều vi phân khác Morduchovich, Michel-Penot, Treiman, Việc nghiên cứu Jacobian xấp xỉ mở rộng, thống làm sâu sắc nhiều kết giải tích khơng trơn tối ưu hóa Lý thuyết Jacobian xấp xỉ đề tài nhiều nhà toán học quan tâm, nghiên cứu Với mong muốn tìm hiểu kỹ lý thuyết Jacobian xấp xỉ với giúp đỡ hướng dẫn tận tình GS TSKH Nguyễn Xuân Tấn, xin giới thiệu đề tài: " JACOBIAN XẤP XỈ VÀ ỨNG DỤNG CHO BÀI TỐN TỐI ƯU KHƠNG TRƠN " Mục đích nghiên cứu Mục đích nghiên cứu đề tài tập trung trình bày có hệ thống số kết Jacobian xấp xỉ hàm liên tục không gian hữu hạn chiều, trước hết hàm vơ hướng, sau hàm vectơ dựa sở kết V.Jeyakumar, D.T.Luc cộng nghiên cứu Lý thuyết tối ưu vô hướng, vectơ phát triển mạnh thập niên cuối kỉ 20 đầu kỉ 21; đến lý thuyết đề tài nghiên cứu hấp dẫn nhiều nhà tốn học ngồi nước Nhiệm vụ nghiên cứu - Nghiên cứu lý thuyết Jacobian xấp xỉ ứng dụng - Sử dụng kết công bố để hệ thống lại theo cách hiểu vận dụng vào tốn khơng trơn thực tế - Ln gắn tốn vào ứng dụng lý thuyết tối ưu, điều khiển tối ưu tới hàm không trơn để tìm kết lĩnh vực Đối tượng phạm vi nghiên cứu - Trước hết tìm hiểu thật kỹ kiến thức thuộc lĩnh vực giải tích đại liên quan tới hàm vectơ giải tích đa trị, đặc biệt tính chất hàm có Jacobian xấp xỉ - Sử dụng tính chất khác Jacobian xấp xỉ để tìm điều 6Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn kiện cần đủ cho việc tồn nghiệm tốn tối ưu liên quan tới hàm có Jacobian xấp xỉ đưa ứng dụng tốn thực tế - Phân tích đặc thù riêng tốn để tìm phương pháp khác cho việc áp dụng lý thuyết Jacobian xấp xỉ Phương pháp nghiên cứu - Dịch, đọc tài liệu, nghiên cứu toán học, tài liệu chuyên khảo lý thuyết tối ưu khơng trơn - Phân tích, tổng hợp kiến thức để phục vụ cho mục đích nghiên cứu Những đóng góp đề tài - Hoàn thành luận văn đề tài lý thuyết tối ưu Jacobian xấp xỉ ứng dụng, dày 64 trang - Tìm ứng dụng có ý nghĩa lý thuyết tối ưu liên quan tới hàm có Jacobian xấp xỉ - Làm rõ, hệ thống kiến thức hàm khả vi, Jacobian xấp xỉ, ứng dụng Jacobian xấp xỉ 7Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Chương HÀM KHẢ VI 1.1 Hàm khả vi từ R → R Định nghĩa 1.1.1 Cho hàm f : (a, b) ⊂ R → R Ta nói hàm f khả vi điểm x ∈ (a, b), tồn giới hạn f (x + h) − f (x) h→0 h f (x) = lim Giới hạn f (x) gọi đạo hàm f x Định nghĩa 1.1.2 Nếu hàm f có đạo hàm điểm x ∈ (a, b) ta nói f khả vi (a, b) Định lý 1.1.3 Nếu f khả vi x f liên tục x 1.2 1.2.1 Hàm khả vi từ Rn → R Các định nghĩa tính chất Cho U tập mở Rn , hàm f : U → R, x = (x1 , x2 , , xn ) ∈ U Ta kí hiệu L(Rn , R) khơng gian hàm tuyến tính liên tục từ Rn vào R Định nghĩa 1.2.1 Hàm f gọi khả vi x tồn hàm tuyến tính liên tục L ∈ L(Rn , R) cho f (x + h) − f (x) = L(h) + (h)||h||, 8Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn h = (h1 , h2 , , hn ) ∈ Rn , (h) → h → Hàm tuyến tính L gọi đạo hàm f x, kí hiệu f (x) hay Df(x) Hàm f gọi khả vi U khả vi điểm x ∈ U Từ định nghĩa ta chứng minh định lý sau Định lý 1.2.2 Nếu f khả vi x đạo hàm tương ứng xác định Định nghĩa 1.2.3 Ta nói f khả vi theo hướng u ∈ Rn x tồn giới hạn f (x + hu) − f (x) lim h→0 h Khi giới hạn gọi đạo hàm hàm f theo hướng u x, kí hiệu f (x, u) Định nghĩa 1.2.4 Cho u vectơ sở tắc {e1 , e2 , , en } Rn Nếu f (x, ei ) tồn gọi đạo hàm riêng thứ i hàm f x, hay đạo hàm riêng theo biến xi hàm f x kí hiệu ∂f (x) hay D f (x) f (x) i x ∂xi i Ta có mối quan hệ đạo hàm, đạo hàm riêng đạo hàm theo hướng sau Định lý 1.2.5 Nếu hàm f khả vi x có đạo hàm riêng theo biến x n X ∂f f (x)(h) = (x)hi , h = (h1 , h2 , , hn ) ∈ Rn ∂x i i=1 0 Từ định  lý ta suy f (x)  hàm tuyến tính xác định ∂f ∂f ∂f ma trận ∂x1 (x), ∂x2 (x), , ∂xn (x) xem f (x) vectơ không gian Rn gọi vectơ gradient f x, thường kí hiệu ∇f (x) ∂f ∂f Định lý 1.2.6 Nếu hàm f có đạo hàm riêng ∂x (x), ∂x (x), , ∂f ∂xn (x) lân cận điểm x chúng hàm số liên 9Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn tục x hàm f khả vi liên tục x n X ∂f f (x)(h) = (x)hi , h = (h1 , h2 , , hn ) ∈ Rn ∂xi i=1 Định lý 1.2.7 Nếu hàm f khả vi x có đạo hàm theo hướng x f (x, u) = f (x)(u) = h∇f (x), ui, u = (u1 , u2 , , un ) ∈ Rn Cho U tập mở Rn , hàm f : U → R, x = (x1 , x2 , , xn ) ∈ U Giả sử Di f (x) tồn với x ∈ U , ta có ánh xạ: Di f : U → R, x 7→ Di f (x) Định nghĩa 1.2.8 Nếu hàm Di f có đạo hàm riêng theo biến thứ j x đạo hàm gọi đạo hàm riêng cấp hai f x theo biến f (x) thứ i thứ j hay theo biến xi xj , kí hiệu Dij f (x) hay ∂x∂i ∂x j Định lý 1.2.9 (Định lý Schwarz) Cho U tập mở Rn , hàm f : U → R, x = (x1 , x2 , , xn ) ∈ U f ∂2f (x) , Nếu ∂x∂i ∂x ∂xj ∂xi (x) tồn U liên tục x ta có j ∂ 2f ∂ 2f (x) = (x) ∂xi ∂xj ∂xj ∂xi Áp dụng định lý Schwarz, ta suy f có đạo hàm riêng p liên tiếp đến cấp k U đạo hàm riêng ∂xi ∂x∂ i f ∂xi (x) (p ≤ k ) p không phụ thuộc vào thứ tự biến lấy đạo hàm Chúng viết ∂ |α| f dạng tắc: ∂xα1 ∂x α2 n (x), với α = (α1 , α2 , , αn ) n số ∂xα n nguyên không âm, |α| = α1 + α2 + · · · + αn = p Giả sử f khả vi U, ta có ánh xạ f : U → L(Rn , R), x 7→ f (x) Định nghĩa 1.2.10 (i) Hàm f gọi khả vi liên tục hay thuộc lớp C U f’ liên tục, kí hiệu f ∈ C (U ) 10Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 50 λi gi (x0 ) = 0, i = 1, , m (3.6) Ngược lại, X không gian hữu hạn chiều, x0 thỏa mãn (3.5), (3.6) Df (x0 )(v) 6= với v ∈ S(x0 ), v 6= x0 cực tiểu địa phương chặt f D Chứng minh: Với v ∈ K(D, x0 ), ta có Df (x0 )(v) ≥ Vì K(D, x0 ) = S(x0 ), ta có: −Df (x0 ) ∈ [S(x0 )]o Nón đối cực bao lồi nón sinh vectơ Dgi (x0 ), i ∈ I, Dhj (x0 ), −Dhj (x0 ), j = 1, , k, nên suy tồn (λ, µ1 , µ2 ) ≥ cho −Df (x0 ) = m X λi Dgi (x0 ) + i=1 k X µ1j Dhj (x0 ) + j=1 k X µ2j (−Dhj (x0 )) j=1 Từ đó, ta có (3.5), (3.6) với λj = 0, j ∈ / I, µj = µ1j − µ2j Ngược lại, K(D, x0 ) ⊂ S(x0 ), nên  X  m k X Df (x0 )(v) = − λi Dgi (x0 ) − µj Dhj (x0 ) (v) ≥ 0, i=1 j=1 với v ∈ K(X, x0 ) Do Df (x0 )(v) 6= 0, v ∈ S(x0 ), v 6= 0, ta có Df (x0 )(v) > 0, với v ∈ K(X, x0 ), v 6= Theo định lý 3.3.1 ta có x0 điểm cực tiểu địa phương chặt D Định lý chứng minh Các điều kiện (3.5), (3.6) gọi điều kiện Kuhn - Tucker Cặp (λ, µ) gọi nhân tử Lagrange Bây ta xét hàm L(x) = f (x) + m X λi gi (x) + i=1 k X µj hj (x) j=1 Hàm gọi hàm Lagrange Kí hiệu S0 (x0 ) = {v ∈ X|Dhj (x0 )(v) = 0, j = 1, , k; 54Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 51 Dgi (x0 )(v) = 0, i ∈ I, λi > 0, Dgi (x0 )(v) ≤ 0, i ∈ I, λi = Ta nhận điều kiện tối ưu cấp hai qua định lý sau Định lý 3.4.3 (Điều kiện tối ưu cấp hai) Nếu x0 nghiệm tối ưu quy toỏn (3.4), thỡ tn ti (, à) Rm ì Rk , λ ≥ 0, (λ, µ) 6= cho D2 L(x0 )(v, v) ≥ 0, với mọiv ∈ S0 (x0 ) Ngược lại, X không gian hữu hạn chiều, x0 chấp nhận thỏa mãn điều kiện: (i) Tồn (λ, µ) thỏa mãn điều kiện Kuhn - Tucker (3.5), (3.6) (ii) D2 L(x0 )(v, v) > với v ∈ S0 (x0 ), Df (x0 )(v) = 0, v 6= 0, x0 nghiệm tối ưu chặt D Chứng minh: Theo định lý 3.4.1, tồn (λ, µ), với λ ≥ 0, (λ, µ) 6= 0, thỏa mãn điều kiện Kuhn - Tucker Đặt D0 = {x ∈ D|gi (x) ≤ 0, với λi = 0, gi (x) = 0, λi > 0} Khi x0 cực tiểu hàm L(x) D0 nên DL(x0 ) Định lý 3.3.2 khẳng định D2 L(x0 )(v, v) ≥ 0, với v ∈ K(D0 , x0 ) = S0 (x0 ) Giả sử ngược lại, x0 không nghiệm tối ưu chặt f D Ta suy tồn xn ∈ D, xn → x f (xn ) ≤ f (x0 ) Ta có xn − x0 = v ∈ X, n→+∞ kxn − x0 k lim vậy, v ∈ K(D, x0 ) Theo bổ đề 3.4.2 DL(x0 ) = 0, ta khẳng định Df (x0 )(v) ≥ Sử dụng định lý giá trị trung bình để ý f (xn ) ≤ f (x0 ), ta có Df (x0 )(v) ≤ Điều chứng tỏ Df (x0 )(v) = Và từ suy D2 L(x0 )(v, v) ≤ Điều mâu thuẫn với giả thiết Định lý chứng minh 55Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 52 3.5 Điều kiện tối ưu cấp hai toán tối ưu vectơ Trong mục ta sử dụng khái niệm Jacobian xấp xỉ Hessian xấp xỉ ánh xạ để xây dựng số điều kiện cần, điều kiện đủ cấp tồn nghiệm hữu hiệu (hữu hiệu yếu) toán tối ưu liên quan tới hàm khả vi liên tục không gian hữu hạn chiều Trước hết ta nhắc lại số khái niệm kí hiệu cần thiết sau: Cho A ⊆ Rn tập khác rỗng Nón lùi xa tập A, kí hiệu A∞ tập hợp tất giới hạn lim ti với ∈ A, {ti } dãy số dương tiến i→∞ dần tới không Từ định nghĩa, ta thấy tập hợp giới nội nón lùi xa gồm phần tử {0} Các phần tử nón lùi xa Hessian xấp xỉ ∂ f (x) gọi ma trận Hessian lùi xa Cho D ⊂ Rn tập khác rỗng x0 ∈ D Nón tiếp tuyến cấp 1, kí hiệu T1 (D, x0 ), nón tiếp tuyến cấp 2, kí hiệu T2 (D, x0 ), D x0 định nghĩa sau: T1 (D, x0 ) = {u ∈ Rn : ∃ti > 0, xi = x0 + ti u + o(ti ) ∈ D},  T2 (D, x0 ) = (u, v) ∈ Rn × Rn : ∃ti > 0, xi = x0 +ti u+ t2i v+o(t2i ) ∈ D} Đặt Λ = {ξ ∈ C : kξk = 1}, với C’ nón cực nón C Rm δ > 0, Dδ (x0 ) = {t(x − x0 ) : t ≥ 0, x ∈ D, kx − x0 k ≤ δ} Ta xét tốn tối ưu khơng ràng buộc f (x) x∈D (3.7) với f : Rn → Rm hàm liên tục, D ⊆ Rn tập hợp khác rỗng Rm thứ tự nón lồi đóng, nhọn C có intC 6= ∅ Ta nói rằng, x0 nghiệm hữu hiệu (hữu hiệu yếu) toán (3.7), f (D) ∩ (f (x0 ) − C) = {f (x0 )}, 56Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 53 (tương ứngf (D) ∩ (f (x0 ) − intC) = {∅}) Ta có điều kiện cần cấp hai cho toán (3.7) sau: Định lý 3.5.1 Giả thiết rằng, f hàm khả vi liên tục, x0 ∈ D nghiệm hữu hiệu địa phương (3.7) ∂ f ánh xạ Hessian xấp xỉ f, nửa liên tục Khi đó, với (u, v) ∈ T2 (D, x0 ), ta khẳng định: (i) Tồn λ ∈ Λ cho hλ, ∇f (x0 )(u)i ≥ (ii) Nếu ∇f (x0 )(u) = 0, tồn λ0 ∈ Λ cho hλ0 , ∇f (x0 )(v) + M (u, u)i ≥ 0, với M thuộc co(∂ f (x0 )), hλ0 , M∗ (u, u)i ≥ 0, với M∗ thuộc (co∂ f (x0 ))∞ \{0} Hơn nữa, nón C nón đa diện (i) hλ, ∇f (x0 )(u)i ≥ 0, bất đẳng thức (ii) đúng, với λ0 = λ Chứng minh: Lấy (u, v) ∈ T2 (D, x0 ), ta có xi = x0 + ti u + t2i v + o(t2i )inD (3.8) {ti } dãy số dương tiến tới Vì x0 nghiệm hữu hiệu yếu địa phương, nên tồn i0 ≥ cho: f (xi ) − f (x0 ) ∈ (−intC)c , i ≥ i0 (3.9) Do f khả vi liên tục, ta viết f (xi ) − f (x0 ) = ∇f (x0 )(xi − x0 ) + o(xi − x0 ) Kết hợp với (3.9) ta suy ∇f (x0 )(u) ∈ (−intC)c Điều chứng tỏ tồn λ ∈ Λ cho hλ, ∇f (x0 )(u)i ≥ 57Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 54 Giả sử ∇f (x0 )(u) = Do ∂ f nửa liên tục x0 , nên với  > 0, tồn δ > cho ∂ f (x) ⊆ ∂ f (x0 ) + B, với x mà kx − x0 k < δ B hình cầu đơn vị đóng khơng gian L(Rn , L(Rn , Rm )) Do đó, tồn i1 ≥ i0 cho co∂ f [x0 , xi ] ⊆ co(∂ f (x0 )) + 2B, với i ≥ i1 Tiếp theo, áp dụng khai triển Taylor ta tìm Mi ∈ co(∂ f (x0 ))+2B cho f (xi ) − f (x0 ) = ∇f (x0 )(x − x0 ) + Mi (xi − x0 , xi − x0 ), i ≥ i1 Thay (3.8) vào đẳng thức trên, ta suy f (xi ) − f (x0 ) = t2i (∇f (x0 )(v) + Mi (u, v)) + αi , với  1 2 αi = Mi ti v + o(ti ), ti u + ti v + o(ti ) + ∇f (x0 )(o(t2i )) 2 Kết hợp với biểu thức (3.9) , ta ∇f (x0 )(v) + Mi (u, v) + αi ∈ (−intC)c , i ≥ i1 ti (3.10) Xét dãy {Mi } Nếu dãy {Mi } giới nội, ta giả thiết {Mi } tiến tới M0 , với M0 ∈ co∂ f (x0 ) + 2B Vì αt2i → i → ∞ (3.9) ta i suy ∇f (x0 )(v) + M0 (u, v) ∈ (−intC)c Do  bất kì, ta khẳng định tồn M ∈ co∂ f (x0 ) cho ∇f (x0 )(v) + M (u, v) ∈ (−intC)c Điều tương đương với việc tồn λ0 ∈ Λ cho hλ0 , ∇f (x0 )(v) + M (u, v)i ≥ 58Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 55 Nếu dãy {Mi } không giới nội, tức lim kMi k = ∞, ta giả thiết i→∞ Mi = M∗ ∈ (co∂ f (x0 ))∞ \{0} i→∞ kMi k lim Bằng cách chia (3.10) cho kMi k qua giới hạn i → ∞, ta M∗ (u, u) ∈ (−intC)c Điều chứng tỏ tồn λ0 ∈ Λ cho hλ0 , M∗ (u, u)i ≥ Bây giả sử C nón đa diện.Từ (3.9) suy tồn λ ∈ Λ cho hλ, f (xi ) − f (x0 )i ≥ 0, i ≥ i0 Bằng cách lấy dãy con, ta giả thiết điều với i = 1, 2, VÌ f khả vi liên tục nên hλ, ∇f (x0 )(u)i ≥ Khi hλ, ∇f (x0 )(u)i = 0, cách lý luận trên, ta tìm Mi ∈ co∂ f (x0 ) + 2B cho ≤ hλ, f (xi ) − f (x0 )i = hλ, 21 t2i (∇f (x0 )(v) + Mi (u, v)) + αi i Hai bất đẳng thức (ii) thay λ0 = λ Định lý chứng minh Định lý 3.5.2 Cho f hàm khả vi liên tục ∂ f Hessian xấp xỉ f ánh xạ nửa liên tục x0 ∈ D Một cá điều kiện sau điều kiện đủ để x0 nghiệm hữu hiệu địa phương (3.7): (i) Với u ∈ T1 (D, x0 )\{0}, tồn ξ ∈ Λ cho hξ, ∇f (x0 )(u)i > (ii) Tồn δ > cho, với v ∈ Dδ (x0 ), u ∈ T1 (D, x0 ) ta có hξ0 , ∇f (x0 )(v)i ≥ 0, với ξ0 thuộc Λ, hξ, M (u, u)i, với mọiξ ∈ Λ M ∈ co∂ f (x0 ) ∪ [(co∂ f (x0 ))∞ \{0}] 59Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 56 Chứng minh: Ta chứng minh phương pháp phản chứng Giả sử ngược lại x0 không nghiệm hữu hiệu địa phương (P1) Khi tồn xi ∈ D, xi → x0 cho f (xi ) − f (x0 ) ∈ −C (3.11) Ta giả thiết xi − x0 → u ∈ T1 (D, x0 ), i → ∞ kxi − x0 k Bằng cách chia (3.11) cho kxi − x0 k chuyển qua giới hạn, ta suy ∇f (x0 )(u) ∈ −C Điều mâu thuẫn Điều kiện đủ thứ chứng minh Xét điều kiện đủ thứ hai Với  > cho trước, áp dụng khai triển Taylor ta tìm Mi ∈ co(∂ f (x0 )) + 2B cho f (xi ) − f (x0 ) = ∇f (x0 )(x − x0 ) + Mi (xi − x0 , xi − x0 ) (3.12) Từ bất đẳng thức thứ (ii) ta có ∇f (x0 )(xi − x0 ) ∈ (−intC)c , với i đủ lớn Với i tồn ξi ∈ Λ cho hξi , ∇f (x0 )(xi − x0 )i ≥ (3.13) Từ (3.11) suy hξi , f (xi ) − f (x0 )i ≤ Kết hợp (3.12) (3.13) ta hξi , Mi (xi − x0 , xi − x0 )i ≤ 0, với i đủ lớn Hơn nữa, Λ compact, ta giả thiết ξi → ξ ∈ Λ Xét trường hợp {Mi } định lý (3.5.1) ta có hξ, M (u, u)i ≤ 0, với M thuộc co(∂ f (x0 )) ∪ [(co∂ f (x0 ))∞ \{0}] Điều mâu thuẫn với giả thiết (ii) Định lý chứng minh 60Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 57 Định lý 3.5.3 Cho f hàm khả vi liên tục ∂ f Hessian xấp xỉ f Nếu tồn δ > cho với v ∈ Dδ (x0 ) có hξ0 , ∇f (x0 )(v) ≥ 0, với ξ0 ∈ Λ hξ, M (v, v)i ≥ 0, với ξ ∈ Λ, M ∈ ∂ f (x), với kx − x0 k < δ, x0 nghiệm hữu hiệu yếu địa phương (3.7) Chứng minh: Giả sử x0 không nghiệm hữu hiệu yếu địa phương (3.7) Khi tồn x ∈ D, với kx − x0 k ≤ δ cho f (x) − f (x0 ) ∈ −intC (3.14) Lấy v = x − x0 suy v ∈ Dδ (x0 ) Từ bất đẳng thức ta khẳng định ∇f (x0 )(v) ∈ (−intC)c , M (v, v) ∈ C, vimiM ∈ ∂ f (x), kx − x0 k < δ Vì C nón lồi, đóng nên từ bao hàm thức ta kết luận co∂ f (x) ⊆ C Và khai triển Taylor cho ta f (x) − f (x0 ) ∈ ∇f (x0 )(v) + co{∂ f [x0 , x](v, v)} c ⊆ (−intC) + C ⊆ (−intC)c Điều trái với (3.14) Định lý chứng minh Ta xét toán tối ưu có ràng buộc f (x) (3.15) x∈D với D tập ràng buộc D = {x ∈ Rn |g(x) ≤ 0, h(x) = 0}, g : Rn → Rk , h : Rn → Rl ánh xạ cho trước Với ξ ∈ C , β ∈ Rk , γ ∈ Rl , hàm Lagrange xác định: L(x, ξ, β, γ) = hξ, f (x)i + hβ, g(x)i + hγ, h(x)i 61Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 58 Đặt D0 = {x ∈ Rn : gi (x) = 0, βi > 0, gi (x) ≤ 0, βi = 0; h(x) = 0} Với (ξ, β, γ) cho trước, ta viết L(x) thay cho L(x, ξ, β, γ) ∇L gradient L(., ξ, β, γ) theo biến x Ta có điều kiên cần cấp hai sau Định lý 3.5.4 Giả sử f, g, h hàm khả vi liên tục, C nón đa diện lồi, ∂ L Hessian xấp xỉ L nửa liên tục x0 Nếu x0 nghiệm hữu hiệu yếu địa phương (3.15) tồn vectơ khác khơng (ξ0 , β, γ) ∈ C × Rk+ × Rl cho ∇L(x0 , ξ0 , β, γ) = với (u, v) ∈ T2 (D0 , x0 ) tồn ξ ∈ Λ cho ∇L(x0 , ξ, β, γ)(u) ≥ Trong trường hợp ∇L(x0 , ξ, β, γ)(u) = ta có ∇L(x0 , ξ, β, γ)(v) + M (u, u) ≥ 0, với M thuộc co∂ L(x0 , ξ, β, γ) M∗ (u, u) ≥ 0, viM∗ thuộc (co∂ L(x0 , ξ, β, γ))∞ \{0} Chứng minh: Ta dễ dàng thấy với nón lồi đóng, có phần khác rỗng C x0 nghiệm hữu hiệu yếu toán (3.15) tồn (ξ0 , β, µ) để ∇L(x0 , ξ0 , β, γ) = Lấy (u, v) ∈ T2 (D0 , x0 ) xi = x0 + ti v + t2i v + o(t2i ) ∈ D0 , với ti > 0, i → ∞ Vì x0 nghiệm hữu hiệu yếu địa phương toán (3.15) nên tồn i0 ≥ cho f (xi ) − f (x0 ) ∈ (−intC)c , với i ≥ i0 62Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 59 Hơn nữa, C đa diện, nên tồn ξ ∈ Λ cho hξ, f (xi ) − f (x0 )i ≥ (3.16) với i đủ lớn Ta giả thiết điều với i ≥ i0 Vì ∂ L nửa liên tục x0 , với  > tùy ý cho trước, áp dụng khai triển Taylor cho L ta tìm Mi ∈ co∂ L(x0 ) + 2B cho L(xi ) − L(x0 ) = ∇L(x0 )(xi − x0 ) + Mi (xi − x0 , xi − x0 ), với i đủ lớn Thay biểu thức xi − x0 = ti u + t2i v + o(t2i ) vào đẳng thức sử dụng bất đẳng thức (3.16) ta t2i ≤ ti ∇L(x0 )(u) + (∇L(x0 )(v) + Mi (u, u)) + αi ,  1 2 2 αi = Mi ti v + o(ti ), ti u + ti v + o(ti ) + 2   + Mi ti u, ti v + o(ti ) + ∇L(x0 )(o(t2i )) 2 Chia bất đẳng thức cho ti lấy giới hạn ti → ta ∇L(x0 )(u) ≥ Khi ∇L(x0 )(u) = từ bất đẳng thức ta có: ≤ ∇L(x0 )(v) + Mi (u, u) + αi t2i Bằng cách lập luận tương tự đinh lý 3.5.1 ta chứng minh bất đẳng thức cịn lại Định lý chứng minh 63Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 60 Định lý 3.5.5 Giả sử f, g, h hàm khả vi liên tục với u ∈ T1 (D, x0 )\{0}, tồn (ξ, β, γ) ∈ Λ × Rk+ × Rl cho ∇L(x0 , ξ0 , β, γ) = 0, hβ, g(x0 )i = 0, M (u, u) > 0, với M ∈ co∂ f (x0 ) ∪ [(co∂ f (x0 ))∞ \{0}], ∂ L Hessian xấp xỉ L nửa liên tục x0 Khi đó, x0 nghiệm hữu hiệu địa phương (3.15) Chứng minh: Nếu x0 không nghiệm hữu hiệu địa phương (3.15) tồn xi ∈ D, xi → cho f (xi ) = f (x0 ) ∈ −C Ta giả thiết xi − x0 → u ∈ Ti (D, x0 ) kxi − x0 k Từ suy L(xi ) − L(x0 ) ≤ 0, với i ≥ Sử dụng khai triển Taylor cho L tính nửa liên tục ∂ L ta L(xi ) − L(x0 ) − ∇L(x0 )(xi − x0 ) ∈ co(∂ L[x0 , xi ](xi − x0 , xi − x0 )) ⊆ (co∂ L(x0 ) + kxi − x0 kB)(xi − x0 , xi − x0 ), với i đủ lớn Hệ thức chứng tỏ Mi (xi − x0 , xi − x0 ) ≤ 0, với Mi ∈ co∂ L(x0 ) + kxi − x0 kB i đủ lớn Bằng cách lập luận tương tự chứng minh đinh lý 3.5.1 ta suy tồn ma trận M ∈ co∂ f (x0 ) ∪ [(co∂ f (x0 ))∞ \{0}] cho M (u, u) ≤ Điều trái với giả thiết Đinh lý chứng minh 64Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 61 Định lý 3.5.6 Giả sử f, g, h hàm khả vi liên tục tồn δ > cho với v ∈ Dδ (x0 ) tồn vectơ (ξ, β, γ) ∈ Λ × Rk+ × Rl Hessian xấp xỉ ∂ L(., ξ, β, γ) L để ∇L(x0 , ξ, β, γ) = 0, hβ, g(x0 )i = 0, M (u, u) ≥ 0, với M ∈ ∂ L(x, ξ, β, γ), kxi − x0 k ≤ δ Khi đó, x0 nghiệm hữu hiệu yếu địa phương (3.15) Chứng minh: Định lý chứng minh tương tự đinh lý 3.5.2 Trong phần ta đưa ví dụ minh họa cho định lý 3.5.4 điều kiện cần toán tối ưu có ràng buộc Các định lý khác điều kiện đủ xây dựng tương tự Xét tốn tối ưu hai mục tiêu sau:  −x2 +y ≤0 4  x, x − y Không gian R2 thứ tự phần nón R2+ Ta thấy (0, 0) nghiệm hữu hiệu địa phương toán Lấy ξ0 = (0, 1)và β = 1, hàm Lagrange toán 4 L((x, y)ξ0 , β) = x − y − x2 + y = x − x2 Từ suy L((0, 0), ξ0 , β) = (0, 0) Và tập D0 xác định D0 = {(x, y) ∈ R2 : x2 = y } Lấy u = (0, 1) v = (-2, 0) Hiển nhiên (u, v) ∈ T2 (D0 , (0, 0)) Như theo định lý 3.5.4 tồn ξ = (ξ1 , ξ2 ) ∈ R2+ , với kξk = 1, cho ∇L((0, 0), ξ, β)(u) ≥ Bằng tính tốn ta có ∇L((0, 0), ξ, β) = (ξ1 , 0) nên ∇L((0, 0), ξ, β)(u) = Như vậy, kết luận Hơn nữa, bất đẳng thức xảy dấu bằng, nên tồn M ∈ co∂ L(0, 0), M∗ ∈ (co∂ L(x0 ))∞ \{0} thỏa mãn kết luận lại đinh lý 3.5.4 Với ξ trên, ta chọn ξ2 > định nghĩa ( ! ) −2 − ξ2 x ∂ L(x, y) = , với x 6= 0 12(1 − ξ2 )y 65Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 62 ∂ L(0, y) = ( ξ2 α −2 0 12(1 − ξ2 )y − )  α , với α ≥ ξ2 Khi ánh xạ đa trị (x, y) 7→ ∂ L(x, y) ánh xạ Hessian xấp xỉ L nửa liên tục (0, 0) Hơn nữa, với M ∈ co∂ L(0, 0), ta có: ∇L(0, 0)(v) + M (u, u) = −2ξ1 − < α Như vậy, bất đẳng thức thứ điều kiện cấp hai định lý không Do ( )  9 ξ2 α − ∂ L(0, 0) = , với α ≥ , −α ξ2 nên nón lùi xa ∂ L(0, 0) xác định bởi: ( )  α (∂ L(0, 0))∞ = ,α ≥ 0 Lấy  M∗ = 0  ∈ (co∂ L(0, 0))∞ \{0}, ta có M∗ (u, u) ≥ Như vậy, điều kiện lại định lý 66Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 63 KẾT LUẬN Luận văn trình bày hệ thống lý thuyết Jacobian xấp xỉ hàm liên tục không gian hữu hạn chiều Sử dụng lý thuyết Jacobian xấp xỉ, luận văn trình bày số điều kiện cần đủ cấp hai cho toán tối ưu hàm vec tơ khả vi liên tục không gian hữu hạn chiều Có thể nói Jacobian xấp xỉ công cụ hữu hiệu ứng dụng toán tối ưu Việc nghiên cứu Jacobian xấp xỉ mở rộng, thống làm sâu sắc nhiều kết giải tích khơng trơn tối ưu hóa Tuy nhiên, vấn đề đề cập luận văn, Jacobian xấp xỉ dùng số khía cạnh khác, dùng Jacobian xấp xỉ đặc trưng cho tính tựa lồi, tính lồi, tính đơn điệu hàm liên tục Và nhiều câu hỏi đặt Jacobian xấp xỉ, chẳng hạn mở rộng khái niệm kết có khơng gian vơ hạn chiều khơng? Đó vấn đề cần tiếp tục nghiên cứu 67Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 64 TÀI LIỆU THAM KHẢO [1] D.V.Luu (1999), Lý thuyết điều kiện tối ưu, NXB Khoa học Kỹ thuật, Hà Nội [2] L.D.Muu (1998), Nhập môn phương pháp tối ưu, NXB Khoa học Kỹ thuật, Hà Nội [3] V.Jeyakumar and D.T.Luc (2010), Nonsmooth vecto functions and continuous optimization, Springer, New York [4] F.H.Clarke (1983), Optimization and nonsmooth Analysis, Wiley, New York 68Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn