Điều kiện cực trị cho bài toán tối ưu toàn phương với ràng buộc toàn phương

TRƢỜNG ĐẠI HỌC SƢ PHẠM HÀ NỘI KHOA TOÁN *************** VƢƠNG THỊ HẰNG ĐIỀU KIỆN CỰC TRỊ CHO BÀI TỐN TỐI ƢU TỒN PHƢƠNG VỚI RÀNG BUỘC TỒN PHƢƠNG KHĨA LUẬN TỐT NGHIỆP ĐẠI HỌC Chun ngành: Giải tích Ngƣời hƣớng dẫn khoa học PGS TS NGUYỄN QUANG HUY HÀ NỘI - 2014 LỜI CẢM ƠN Khoá luận hoàn thành trường Đại học sư phạm Hà Nội hướng dẫn PGS.TS Nguyễn Quang Huy Tôi xin gửi lời cảm ơn chân thành tới thầy cô giáo Nhà trường thầy giáo dạy chun ngành Tốn giải tích, đặc biệt thầy Nguyễn Quang Huy giúp đỡ suốt q trình học tập Cuối cùng, tơi xin bày tỏ lòng biết ơn tới gia đình động viên tạo điều kiện để tơi hồn thành khoá luận Hà Nội, tháng năm 2014 Sinh viên thực Vƣơng Thị Hằng i LỜI CAM ĐOAN Bài khố luận hồn thành trường Đại học sư phạm Hà Nội hướng dẫn PGS.TS Nguyễn Quang Huy Một số kết đạt khoá luận riêng thân, không trùng với kết tác giả khác Hà Nội, tháng năm 2014 Sinh viên thực Vƣơng Thị Hằng ii BẢNG KÝ HIỆU : Đường thẳng thực n : Không gian Euclid n-chiều Sn : Tập hợp ma trận đối xứng cấp nn : Tập hợp tất ma trận đói xứng cấp nn nửa xác định dương A0 : Ma trận A nửa xác định dương I : Ma trận đơn vị diag(1, 2,… n) :Ma trận đường chéo cấp n e:=(1, 1, , 1)T f(x) : Gradient f x f(x) : Hessian f x  : Kết thúc chứng minh iii Mục lục Mở đầu Chƣơng Bài tốn quy hoạch tồn phƣơng 1.1 Bài toán quy hoạch toán học 1.2 Bài tốn quy hoạch tồn phương 11 Chƣơng Điều kiện tối ƣu tồn cục cho tốn tối ƣu tồn phƣơng với ràng buộc toàn phƣơng 14 2.1 Bài tốn tối ưu tồn phương với ràng buộc toàn phương 14 2.2 Điều kiện tối ưu tồn cục cho tốn tối ưu tồn phương với ràng buộc hộp 15 2.2.1 Điều kiện cần tối ưu toàn phương 15 2.2.2 Điều kiện đủ tối ưu toàn phương 25 2.3 Điều kiện tối ưu tồn cục cho tốn tối ưu toàn phương với ràng buộc rời rạc 35 2.3.1 Điều kiện cần tối ưu toàn phương 35 2.3.2 Điều kiện đủ tối ưu toàn phương 38 Kết luận 53 Tài liệu tham khảo 54 iv MỞ ĐẦU Lý chọn đề tài Hiện nay, tối ưu hoá trở thành lĩnh vực phát triển, góp phần quan trọng việc ứng dụng Khoa học công nghệ vào sống sản xuất Từ kỷ XVIII, hướng Giải tích tốn học, gọi phép tính biến phân chun nghiên cứu toán cực trị với hàm mục tiêu phiếm hàm tích phân phát triển mạnh mẽ trở thành ngôn ngữ Khoa học tự nhiên Vào năm từ thập kỷ thứ đến thập kỷ thứ kỷ XX, Lý thuyết tối ưu hình thành với tư cách lý thuyết tốn học độc lập; nói, lý thuyết tối ưu quy hoạch tuyến tính, tiếp quy hoạch lồi Đối tượng nghiên cứu lý thuyết ngày mở rộng, hình thành hướng khác lý thuyết tối ưu Các tốn tối ưu hay gọi tốn quy hoạch toán học, chia thành lớp sau đây: • Bài tốn quy hoạch tuyến tính; • Bài tốn tối ưu phi tuyến hay gọi toán quy hoạch phi tuyến, bao gồm toán quy hoạch lồi tốn quy hoạch tồn phương; • Bài toán tối ưu rời rạc, toán tối ưu ngun hỗn hợp ngun; • Bài tốn quy hoạch động; • Bài tốn quy hoạch đa mục tiêu; • Bài tốn quy hoạch ngẫu nhiên… Những vấn đề nghiên cứu lý thuyết tối ưu bao gồm: • Nghiên cứu định tính(các điều kiện cần đủ tối ưu, định lý đối ngẫu, tồn nghiệm, tính ổn định nghiệm, độ nhạy nghiệm…) • Nghiên cứu định lượng( xây dựng thuật toán tìm nghiệm thoả mãn tiêu chuẩn cho trước, hay xác định tồn tập nghiệm…) Điều kiện tối ưu đóng vai trò quan trọng lý thuyết tối ưu hố Nhận dạng nghiệm tối ưu tồn cục phương pháp tìm điều kiện cần đủ tối ưu toàn cục tảng quan trọng tối ưu không lồi Những điều kiện tối ưu cơng cụ giúp cho việc phát triển phương pháp số hữu hiệu lý thuyết tối ưu: Nếu điều kiện cần tối ưu không thoả mãn điểm, ta biết khơng nghiệm; ta loại bỏ điểm Nếu điểm thoả mãn điều kiện cần tối ưu tồn cục có điều kiện đủ tối ưu tồn cục, ta kiểm tra xem điểm có phải nghiệm tối ưu tồn cục hay khơng Năm 1965, A.Ya Dubovitskii A.A Milyutin đưa lý thuyết điều kiện cần tối ưu ngơn ngữ giải tích hàm cho ta phương pháp giải tích hàm hiệu để nghiên cứu toán tối ưu điều khiển Những điều kiện tối ưu toàn cục cho lớp tốn tối ưu tồn phương quan tâm nhiều nhà nghiên cứu[ 4, 7, 9,11, 12, 16, 17, 20] Đặc biệt đặc trưng đầy đủ tối ưu toàn cục đưa cho lớp đặc biệt tốn quy hoạch tồn phương miền ràng buộc có dạng hộp mà hàm mục tiêu tổng có trọng bình phương biến Một đặc trưng tối ưu toàn cục cho tốn cực tiểu tồn phương với miền ràng buộc có hàm tồn phương biết tìm thấy [2, 16] Tuy nhiên, đặc trưng đầy đủ nghiệm tối ưu toàn phương câu hỏi mở với lớp tốn tồn phương tổng qt miền ràng buộc bao gồm nhiều hàm toàn phương Điều kiện cần tối ưu tồn cục cho tốn cực tiểu tồn phương với hàm mục tiêu tổng có trọng bình phương biến miền ràng buộc ellipsoid thiết lập [17] Các điều kiện cần trừu tượng tối ưu toàn cục theo nghĩa đạo hàm suy rộng đưa [22] cho tốn quy hoạch tồn phương có ràng buộc Gần đây, điều kiện cần điều kiện đủ tối ưu toàn cục phát triển cho lớp toán khác tối ưu trơn khơng lồi với ràng buộc có dạng hộp sở việc tìm đánh giá hàm mục tiêu khai thác tính bị chặn biến (xem [13, 14, 15]) Là sinh viên chun ngành sư phạm tốn, tơi mong muốn tìm hiểu sâu lý thuyết tối ưu nói chung tốn quy hoạch tồn phương với miền ràng buộc tồn phương nói riêng Đề tài “Điều kiện cực trị cho tốn tối ưu tồn phương với ràng buộc toàn phương” tập trung làm rõ vấn đề liên quan đến toán quy hoạch toàn phương, đặc biệt nhằm mở rộng cách tiếp cận cho tốn quy hoạch tồn phương với ràng buộc tồn phương Do thời gian nghiên cứu có hạn khả thân hạn chế nên khố luận dừng lại việc tìm hiểu, trình bày nội dung theo chủ đề dặt Trong q trình viết khố luận xử lý văn bản, khơng tránh khỏi thiếu sót Vì vậy, tơi mong đóng góp ý kiến quý thầy cô bạn đọc, để đề tài hồn thiện Mục đích nghiên cứu Nghiên cứu nội dung liên quan đến tốn quy hoạch tồn phương Đặc biệt nghiên cứu điều kiện cần đủ tối ưu toàn cục cho tốn quy hoạch tồn phương với ràng buộc tồn phương sở việc tìm đánh giá hàm mục tiêu khai thác tính bị chặn biến nhằm đưa đặc trưng cần đủ cực trị toàn cục cho tốn tối ưu tồn phương với ràng buộc tồn phương Nhiệm vụ nghiên cứu 3.1 Nghiên cứu tốn quy hoạch tồn phương 3.2 Nghiên cứu điều kiện tối ưu tồn cục cho tốn quy hoạch tồn phương với ràng buộc toàn phương Đối tƣợng nghiên cứu Quy hoạch toán học, Lý thuyết tối ưu, Tối ưu toàn cục Phƣơng pháp nghiên cứu Phương pháp nghiên cứu tài liệu Giả thuyết khoa học Nghiên cứu đưa điều kiện cần đủ tối ưu tồn cục đóng góp có ý nghĩa giúp giải tốn tối ưu toàn phương với ràng buộc toàn phương Cấu trúc khố luận Ngồi phần mở đầu kết luận, khoá luận bao gồm hai chương: Chương Bài toán quy hoạch toàn phương Chương Điều kiện tối ưu tồn cục cho tốn tối ưu tồn phương với ràng buộc toàn phương Kết hợp hai trường hợp trên, ta khẳng định tương đương (2.41) (2.42) Ta suy ( ) ( ̅ ) ≥ ( ) Lấy tuỳ ý xB Ta có ( ) ( ̅) ≥ ( ) ∑ ( ) ( ̅) ∑ ( )] [ ( ̅) [ ( ) ( ) ∑ ( ̅ )] ( ̅ ) ≥ Do ̅ nghiệm cực tiểu tồn cục (BQ) Định lý chứng  minh Đặt ( ̅ ) H( ̅ ) ̃ ( ̅ )/ ( ( ̅ ) 42 ( ̅ ) ( ( ̅ )) ) (2.45) Lấy ̅ điểm chấp nhận (BQ) Khi với i=1,2,…,n, ta xác định ̃ , ( ̅ ), H( ̅ ) (2.40), (2.44), (2.45) Như hệ trực tiếp Định lý 2.5, ta có kết sau: Hệ 2.7 Xét toán tối ưu(BQ) ̅ điểm chấp nhận Nếu tồn =(1, 2,…, m )T cho điều kiện sau thoả mãn (i) kgk( ̅ )=0, (ii) với xD, (A+∑ ,  ) H( ̅ )≥0 ̅ nghiệm cực tiểu tồn cục (BQ) ( ̅ ) đ Chứng minh Với i=1,2,…,n, đặt i:= ( ̅ ) xác định (2.41) Ta suy ( )( ) ( ̅ )/ ̃ Khi giả thiết định lý (2.5) thoả mãn điểm ̅ Do  ̅ nghiệm cực tiểu toàn cục (BQ) Với xD với =(1, 2,…, m )T , ta kí hiệu giá trị riêng LQP(x,) i(x,), i= 1,2,…,n Đặt () * 43 +  ( ) ( ) Hệ 2.8 Xét toán tối ưu (BQ) ̅ điểm chấp nhận Nếu tồn =(1, 2,…, m )T cho kgk( ̅ )=0, , với i=1,2,…,n, ( )()( ) ( ̅ )/ ̃ ( ) ̅ nghiệm cực tiểu toàn cục (BQ) Chứng minh Đặt H= ()I Với cách xác định () (2.46), ta LQP(x,)- H0 xD Áp dụng Định lý 2.5 ta có ̅ kiểm tra  nghiệm cực tiểu toàn cục (BQ) Với i=1,2,…,n  , đặt () { ( ) ( )| ∑ | } ( ) Hệ 2.9 Xét toán tối ưu (BQ) ̅ điểm chấp nhận Nếu tồn =(1, 2,…, m )T cho kgk( ̅ )=0, , với i=1,2,…,n, ( ())()( ) ̃ ( ̅ )/ ̅ nghiệm cực tiểu toàn cục (BQ) 44 ( ) () Chứng minh Đặt H()=diag( minh () ()) Dễ dàng chứng LQP(x,)- H() ma trận có đường chéo trội với phần tử đường chéo khơng âm Do LQP(x,)- H()0, xD Vì ̅ nghiệm cực tiểu tồn cục (BQ) Định lý 2.5  Ví dụ 2.3 Xét toán tối ưu sau ( )  với ràng buộc xDB:=∏ * + Đặt f(x)= ( )= Ta có n=2, u1=u2=-1, v1=v2=1, ( ) ( ( ) ( ) , ) , ( ) ( ) Ta kiểm tra điều kiện đủ tối ưu toàn cục điểm ̅ =( 45 ( / ) Ta có * ( ̅) ( ̅) ( ( ̅) ( ) ) Đặt L(x, )=f(x)+ g(x) Lấy =0 Ta có ( ̅ )= g ̅ = 0, ( ̅) ( )= ( ) Khi đó, H=diag(1, 2)=diag(-6, 4) ( ) Tại điểm ̅ =( * (  ∏, - ) , ta có -1+ ̃ ( ̅ )/ -2+ ̃ ( ̅ )/ Như tất điều kiện thoả mãn ̅ ( ) ( ), nghiệm cực tiểu tồn cục (E4) Xét tốn tối ưu tồn phương (BQ1) dạng đặc biệt tốn (BQ), ta có kết sau: Định lý 2.6 Nếu ̅ nghiệm cực tiểu tồn cục tốn (BQ1) với i=1,2,…,n, ta có 46 ( ) )( Chứng minh Đặt f(x)= ̃( ) ̅ ( ) , ( )=A, Ta có f(x)=Ax+b, Kết luận định lý suy trực tiếp từ Định lý 2.4 lấy  gk(x)≡0,k=1,2,…,m Cho tốn tối ưu tồn phương (BQ1) Ký hiệu giá trị riêng ma trận A 1,2,…,n Đặt =min{1,2,…,n} Hệ 2.10 Xét toán (BQ1) với DB:=∏ (2.51) * + Nếu ̅ nghiệm cực tiểu tốn (BQ1) ̃ ̃ ̃ =diag( ̅ ̅ ̃ ( ) ( ) ̅ ) diag(A)=diag(a11,a22,…,ann) Chứng minh Ta có ui=-1, vi=1, i=1,2,…,n Khi đó, điều kiện cần (2.38) trở thành -aii ̃ ( ̅ ) hay tương đương ̃( ̅ ) ( 47 ) Đặt ̃ = diag( ̅ ̅ ̅ ) diag(A)= diag(a11,a22,…,ann) Ta dễ dàng kiểm tra (2.53) tương đương với ̃ ̃ ̃  ( ) Định lý 2.7 Xét toán tối ưu (BQ1) ̅ DB Nếu tồn ma trận đường chéo H=diag(1,2,…, ,n) cho A-H≥0, xD với i=1, 2,…, n, ( ) )( ̃( ) ̅ ( ) ̅ nghiệm cực tiểu toàn cục (BQ1)  Chứng minh Khẳng định suy trực tiếp từ định lý 2.5 Đặt ( ̅) ̃( ) ̅ ( ( ̅) H( ̅ ) ( ( ̅) ( ̅ )) ) (2.56) Hệ 2.11 Xét toán tối ưu(BQ1) ̅ DB Nếu A-H( ̅ ) (2.57) ̅ nghiệm cực tiểu tồn cục (BQ1) Chứng minh Lấy i:=qi( ̅ ), qi( ̅ ) xác định (2.55) Ta có ( )( ) 48 ̃( ̅ ) Từ Định lý 2.7 suy ̅ nghiệm cực tiểu toàn cục toán  (BQ1) Hệ 2.12 Xét tốn tối ưu tồn phương (BQ1) ̅ Nếu với i=1,2,…,n, ( ) )( ̃( ̅ ) ( ) ̅ nghiệm cực tiểu tồn cục (BQ1) Chứng minh Đặt H= I Ta dễ dàng kiểm tra A-H0 Do  khẳng định suy từ Định lý 2.7 Hệ 2.13 Xét toán (BQ1) với DB:=∏ định (2.51) Đặt ̃ =diag( ̅ ̅ * + Lấy ̅ DB xác ̅ ) , với i=1,2,…,n, ≥ ̃ ̃ ̃ ( ) ( ) ( ) ̅ nghiệm cực tiểu toàn cục (BQ1) Chứng minh Từ Hệ 2.12 suy với i=1,2,…,n, ̃( ) ̅ Mặt khác, (2.56) thoả mãn với i=1,2,…,n, ̃( ̅ Rõ ràng, (2.60) (2.61) tương đương 49 )  Cho tốn tối ưu tồn phương (BQ1) Với i=1,2,…,n, ta xác dịnh ∑ | ( | Hệ 2.14 Xét tốn tối tồn phương (BQ1) ̅ ) Nếu với i=1,2,…,n, ( ) )( ̃( ̅ ) ( ) ̅ nghiệm cực tiểu toàn cục (BQ1) Chứng minh Đặt H=diag( 1, n) Ta có A-H0 Từ Định lý 2.7 suy  ̅ nghiệm toán (BQ1) Nhận xét 2.3 Ta khẳng định (2.57) thoả mãn điều kiện (2.58) (2.63) thoả mãn Thật vậy, giả sử ta có (2.58) Khi đó, ̃( ̅ ) ≥ Do ( ̃ ( Mặt khác, từ cách xác định ̅ ̃ ( ) (2.51) ta có 50 ̅ ) ) ( ) I0 A xD (2.65) Từ (2.64) (2.65) ta suy ( ̃ ( ̅ ̃ ( ) ̅ ) )  khẳng định chứng minh Lập luận tương tự ta thấy (2.57) thoả mãn (2.63) thoả mãn Tuy nhiên Ví dụ 2.6 điều ngược lại không trường hợp tổng quát Do Hệ (2.11) mở rộng thực kết Hệ (2.12) Hệ (2.14) ví dụ 2.4 Xét tốn tối ưu sau ( )  với ràng buộc xDB:=∏ Đặt f(x)= ( ) * + ta có ( ) , ( ) Ta kiểm tra điều kiện đủ tối ưu tồn cục điểm có ( ̅) ( ) ,và q1( ̅ )= ̃ ( ( ̅ )) =-3 q2( ̅ )= ̃ ( ( ̅ )) =0 51 ̅ =( / ) Ta Khi đó, H=diag(1, 2)=diag(-3, 0) đễ dàng tính ( ) Suy ̅ =( /  ∏, - ) nghiệm cực tiểu tồn cục tốn (E4) theo Hệ 2.11 Tuy nhiên, điều kiện đủ (2.12) (2.14) lại không thoả mãn ̅ =( ) Thật vậy, ta dễ dàng tính β1=β2=-1 Nhưng - +̃ ( ( ̅ )) ≥ -β2+ ̃ ( ( ̅ )) ≥ 52 =-1; KẾT LUẬN Khoá luận trình bày số kiến thức tốn quy hoạch toàn phương với ràng buộc toàn phương Thiết lập điều kiện cần điều kiện đủ tối ưu tồn cục cho tốn tối ưu toàn phương với ràng buộc toàn phương Cụ thể là: - Đưa điều kiện cần điều kiện đủ tối ưu tồn cục cho tốn tối ưu toàn phương với miền ràng buộc hộp bất đẳng thức dạng toàn phương Một số kết đạt mở rộng thực kết có -Đưa điều kiện cần đủ tối ưu tồn cục cho tốn quy hoạch tồn phương với miền ràng buộc rời rạc bất đẳng thức dạng tồn phương Các ví dụ minh hoạ điều kiện vừa thiết lập cho đánh giá tốt thực kết có 53 Tài liệu tham khảo [A] Tài liệu tiếng Việt [1] Nguyễn Quang Huy, Khuất Văn Ninh (2008), “ Điều kiện tối ưu toàn cục cho tốn cực tiểu tồn phương với ràng buộc bất đẳng thức tồn phương”, Tạp chí Khoa học trường ĐHSP Hà Nội 2, số 2, 71— 84 [2] Lê Dũng Mưu, Nhập môn phương pháp tối ưu, Nhà xuất Khoa học Kỹ thuật Hà Nội, 1998 [3] Hồng Xn Phú, Lý thuyết tốn cực trị, Viện Toán học, Hà Nội, 1997 [B] Tài liệu tiếng Anh [4] A.Beck and M.Teboulle, Global optimality conditions for quadratic optimization problems with binary constrains, SIAM J Optim 11 (2000), no.1, 179—188 [5] A.Ben-Tal and A Nemirovski, Lectures on Modern Convex Optimization: Analysis, Algorithms and Engineering Applications, SIAM-MPS, Philadelphia, 2000 [6] P.De Angelis, P Pardalos and G Toraldo, quadratic programming with box con-straints, in Developments in global optimization (Szeged, 1995), Nonconvex Optim Appl., 18, Kluwer Acad Publ., Dordrecht, 1997, 73-93 54 [7] G Dahl, A note on diagonally dominant matrices, Linear Algebra Appl 317(2000), no 1-3, 217—244 [8] C.A Floudas and P.M Pardalos, Optimization in computational chemistry and molecular biology: Local and global approaches, Kluwer Academic Publishers, 2000 [9] C A Foudas and V.Visweswaran, quadratic optimization, in Handbook of global Optimization, R Horst and P M Pardalos, eds., Kluwer Academic Publishers, The Netherlands, 1995, 217—269 [10] B M Glover, Y Ishizuka, V Jeyakumar and H D Tuan, complete characterizations of global optimality for problems involving the pointwise minimum of sublinear func-tions, SIAM J.Optim 6(1996), no 2, 362—372 [11] J B Hiriart- Urruty,Global Optimality Condition in Maximizing a Convex Quadratic Funtion under Convex Quadratic Constraints, J.Global Optim., 21, 2001, 445—455 [12] J B Hiriart- Urruty, Conditions for Global Optimality 2, J Global Optim., 13, 1998, 349—367 [13] N Q Huy, V Jeyakumar and G M Lee, Sufficient global optimality conditions for multi-extramal smooth minimization problems with bounds and linear matrix inequality constraints, The ANZIAM Journal, Vol 47(2006), pp 439—450 [14] N Q Huy, V Jeyakumar, Global minimization of difference of quadratic and convex funtions over box or binary constraints, To appear in Optimization Letters 55 [15] N Q Huy, V Jeyakumar, Global optimality conditions for nonlinear program- ming problems with bounds via quadratic underestimators (submitted) [16] V Jeyakumar, A M Rubinov and Z Y Wu, Sufficient global optimality constraints for non-convex quadratic minimization problem with box constraints, J Global Op- tim., 36 (2006), 461— 468 [17] V Jeyakumar, A M Rubinov and Z Y Wu, Nonconvex quadratic minimization with quadratic constraits: Global optimality conditions, Math Prog., Ser A (to appear) [18] V Jeyakumar, S Srisakunrajah and N Q Huy, Unified global optimality condi-tions for mixed discrete nonconvex minimization problems, University of New South Wales, Preprint, 2006 [19] R F Marcia, J C Mitchell and J B Rosen, Iterative convex quadratic approximation for global optimization in protein docking, comput Optim and Appl, 32 (2005), 285—297 [20] M C Pinar, Sufficient global optimality conditions for bivalent quadratic optimiza-tion, J Optim TheoryAppl.122 (2004), 433—440 [21] M C Pinar and M Teboulle, On semidefinite bounds for maximization of a non-convex quadratic objective over l1 unit ball, RAIRO Operations Research, 40 (2006), 253—265 [22] A.M Rubinov and Z Y Wu, Necessary global optimality conditions for quadratic optimization problems, Research Working Paper 06/082006, University of Ballarat, Australia 56 ... 14 2.1 Bài tốn tối ưu tồn phương với ràng buộc tồn phương 14 2.2 Điều kiện tối ưu toàn cục cho tốn tối ưu tồn phương với ràng buộc hộp 15 2.2.1 Điều kiện cần tối ưu toàn phương. .. 2.2.2 Điều kiện đủ tối ưu toàn phương 25 2.3 Điều kiện tối ưu tồn cục cho tốn tối ưu tồn phương với ràng buộc rời rạc 35 2.3.1 Điều kiện cần tối ưu toàn phương 35 2.3.2 Điều. .. 13 Chƣơng Điều kiện tối ƣu tồn cục cho tốn tối ƣu toàn phƣơng với ràng buộc toàn phƣơng Chương trình bày điều kiện cần đủ tối ưu tồn cục cho tốn tối ưu tồn phương với ràng buộc toàn phương; đưa