phương pháp số trong lý thuyết tối ưu

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC SƯ PHẠM TP HỒ CHÍ MINH Lê Đại Phước PHƯƠNG PHÁP SỐ TRONG LÝ THUYẾT TỐI ƯU LUẬN VĂN THẠC SĨ TOÁN HỌC Thành phố Hồ Chí Minh - 2013 BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC SƯ PHẠM TP HỒ CHÍ MINH Lê Đại Phước PHƯƠNG PHÁP SỐ TRONG LÝ THUYẾT TỐI ƯU Chuyên ngành: Toán giải tích Mã số: 60 46 01 02 LUẬN VĂN THẠC SĨ TOÁN HỌC NGƯỜI HƯỚNG DẪN KHOA HỌC: TS Trịnh Công Diệu Thành phố Hồ Chí Minh – 2013 LỜI CẢM ƠN Đầu tiên, xin bày tỏ lòng biết ơn sâu sắc TS TRỊNH CÔNG DIỆU khoa Toán trường Đại học Sư phạm Thành phố Hồ Chí Minh dành thời gian công sức tận tình hướng dẫn giúp hoàn thành luận văn Tôi xin gửi lời cảm ơn đến quý Thầy Cô hội đồng chấm luận văn dành thời gian đọc, chỉnh sửa đóng góp ý kiến giúp cho hoàn thành luận văn cách hoàn chỉnh Bên cạnh đó, xin chân thành cảm ơn Ban giám hiệu trường Đại học Sư phạm Thành phố Hồ Chí Minh, Ban chủ nhiệm khoa Toán quý Thầy Cô giảng dạy, tạo điều kiện cho hoàn thành khóa học Và để có kết ngày hôm nay, nhận lời động viên, đóng góp ý kiến bạn bè người thân Cuối cùng, trình viết luận văn này, khó tránh khỏi thiếu sót, mong nhận ý kiến đóng góp bạn đọc Xin chân thành cảm ơn! Thành phố Hồ Chí Minh, tháng 10 năm 2013 Lê Đại Phước MỤC LỤC LỜI CẢM ƠN MỤC LỤC DANH MỤC CÁC KÝ HIỆU, CÁC CHỮ VIẾT TẮT MỞ ĐẦU Lý chọn đề tài Mục đích đề tài Đối tượng phạm vi nghiên cứu Ý nghĩa khoa học thực tiễn CHƯƠNG 1: KIẾN THỨC CHUẨN BỊ 1.1 Một số khái niệm kết từ giải tích lồi 1.1.1 Không gian Euclid  n 1.1.2 Hàm nhiều biến .8 1.1.3 Tập lồi 1.1.4 Hàm lồi 10 1.2 Bài toán tối ưu 11 1.2.1 Bài toán tối ưu khái niệm .11 1.2.2 Các loại toán tối ưu 12 CHƯƠNG 2: BÀI TOÁN QUY HOẠCH TUYẾN TÍNH 13 2.1 Thuật toán đơn hình dạng bảng 15 2.1.1 Thuật toán 15 2.1.2 Chương trình 19 2.1.3 Các ví dụ 23 2.2 Thuật toán đơn hình dạng ma trận nghịch đảo 25 2.2.1 Thuật toán 25 2.2.2 Chương trình 27 2.2.3 Các ví dụ 29 2.3 Thuật toán đơn hình đối ngẫu 30 2.3.1 Thuật toán: .30 2.3.2 Chương trình: 31 2.3.3 Ví dụ: .33 CHƯƠNG 3: BÀI TOÁN QUY HOẠCH PHI TUYẾN KHÔNG RÀNG BUỘC35 3.1 Phương pháp Gradient 36 3.1.1 Thuật toán: .36 3.1.2 Chương trình 37 3.1.3 Ví dụ 38 3.2 Phương pháp Newton 38 3.2.1 Thuật toán: .38 3.2.2 Chương trình 39 3.2.3 Ví dụ 40 3.3 Phương pháp tìm kiếm trực tiếp 41 3.3.1 Trường hợp n = 41 3.3.2 Trường hợp n = 44 CHƯƠNG 4: BÀI TOÁN QUY HOẠCH PHI TUYẾN CÓ RÀNG BUỘC 50 4.1 Phương pháp tuyến tính hóa 50 4.1.1 Thuật toán: .51 4.1.2 Sự hội tụ: .53 4.1.3 Ví dụ: .55 4.2 Phương pháp hàm phạt 59 4.2.1 Phương pháp hàm phạt điểm .60 4.2.2 Phương pháp hàm phạt điểm .65 KẾT LUẬN VÀ KIẾN NGHỊ 68 TÀI LIỆU THAM KHẢO 70 DANH MỤC CÁC KÝ HIỆU, CÁC CHỮ VIẾT TẮT  tập số thực n không gian Euclid n chiều x∈D x thuộc tập D x∉D x không thuộc tập D ∅ tập rỗng C\D hiệu tập C D C∪D hợp tập C tập D C∩D giao tập C tập D C⊂D C tập D x, y tích vô hướng x y x chuẩn Euclid x x giá trị tuyệt đối x dom f miền xác định hữu hiệu f epi ( f ) epigraph hàm f f ′ ( x0 , d ) đạo hàm theo hướng hàm f theo hướng d x0 ∇f ( x ) vectơ gradient hàm f điểm x AT ma trận chuyển vị ma trận A A−1 ma trận nghịch đảo ma trận khả nghịch A Im ma trận đơn vị cấp m rank ( A ) hạng ma trận A ∀x với x ∃x tồn x MỞ ĐẦU Lý chọn đề tài Có nhiều tình xã hội, từ sống đời thường đến hoạt động kinh tế, kỹ thuật, công nghệ quản lý đại… người ta phải quan tâm tới toán tìm phương án tốt để đạt mục tiêu mong muốn điều kiện ràng buộc định Đó toán tối ưu Chính nỗ lực nhằm giải toán tối ưu góp phần kích thích phát triển Giải tích Toán học kỷ XVII – XVIII với đóng góp to lớn nhà toán học lỗi lạc thời đại: Fermat, Leibniz, Euler…Tuy nhiên, phải đến năm 30, 40 kỷ XX, Quy hoạch toán học (Mathematical Programming) hay gọi Toán Tối Ưu (Optimization) hình thành với tư cách lý thuyết độc lập với nhiều hướng nghiên cứu khác nhau: Quy hoạch tuyến tính (Linear Programming), tiếp Quy hoạch lồi (Convex Programming), Quy hoạch toàn cục (Global Programming), Lý thuyết điều khiển tối ưu (Optimization Control) Danh sách tài liệu chủ đề có đến hàng trăm Nó nói lên vai trò quan trọng việc tìm cực trị toán ứng dụng Có nhiều tình thực tế việc tìm kết xác phức tạp cần kết gần sử dụng được, đồng thời cần có thuật toán hiệu cho máy tính theo xử lý Học viên quan tâm đến phương pháp chuyển đổi công thức lý thuyết đẹp đẽ thành kết số cụ thể Mục đích đề tài Vì lý trên, học viên thực luận văn khảo sát phương pháp số tiêu biểu có nhiều ứng dụng để giải vài toán quy hoạch tuyến tính phi tuyến Đối tượng phạm vi nghiên cứu Xét toán quy hoạch tuyến tính phi tuyến Với toán trình bày thuật toán, sở lý luận thuật toán, cho ví dụ minh họa Ý nghĩa khoa học thực tiễn Quy hoạch tuyến tính phận quan trọng quy hoạch toán học Đây mô hình toán nhiều toán thực tế thuộc lĩnh vực khác kinh tế, viễn thông, xây dựng… Các thuật toán giải quy hoạch tuyến tính công cụ để giải toán phức tạp quy hoạch phi tuyến, tối ưu đa mục tiêu… Ngày nay, với trợ giúp cách mạng công nghiệp thông tin, quy hoạch toán học ngày phát triển mạnh mẽ Các phương pháp tối ưu ứng dụng rộng rãi lĩnh vực khoa học, kỹ thuật, công nghệ, quản lý, kinh tế, khai thác liệu (data mining), viễn thông, v.v… CHƯƠNG 1: KIẾN THỨC CHUẨN BỊ 1.1 Một số khái niệm kết từ giải tích lồi 1.1.1 Không gian Euclid  n 1.1.1.1 Điểm hay vectơ  n Trong luận văn làm việc không gian Euclid  n Mỗi điểm không gian  n số thực có thứ tự viết dạng cột số  x1   2 x x :=       n  x  Mỗi số xi , i ∈ {1, , n} , gọi tọa độ thứ i điểm x Để thuận tiện viết, ta qui ước  x1   2 x n T = x (= x , x , , x ) :       n  x  1.1.1.2 Tích vô hướng ( n Tích vô hướng hai vectơ x = ( x1 , x , , x n ) y = y , y , , y T ) T số thực, ký hiệu x, y , xác định sau x, y =: x1 y1 + x y + + x n y n 1.1.1.3 Chuẩn Euclid vectơ n Chuẩn Euclid (hay độ dài) vectơ x ∈  , ký hiệu x , số thực xác định = x : 2  n = x, x  ∑ x i   i =1  1.1.2 Hàm nhiều biến 1.1.2.1 Định nghĩa Hàm f từ  n  quy tắc ứng điểm x thuộc  n với số thực kí hiệu số thực f ( x ) Cách viết f : X →  , với X ⊆  n , nói f ( x ) xác định với điểm x ∈ X Khi đó, ta gọi X miền xác định hàm f Vì biến số phần tử thuộc  n nên có n thành phần xem biến độc lập Do người ta thường gọi hàm xác định  n , với n ≥ , hàm nhiều biến 1.1.2.2 Gradient Cho hàm f xác định tập mở X ⊆  n Giả sử x0 , đạo hàm riêng hàm f theo biến tồn Khi đó, vectơ  ∂f ( x0 ) ∂f ( x0 )  , ,   ∂x n   ∂x T gọi Gradient f x0 ký hiệu ∇f ( x0 ) 1.1.2.3 Đạo hàm theo hướng Cho hàm f xác định  n vectơ d ∈  n \ {0} Giới hạn lim+ t →0 f ( x0 + td ) − f ( x0 ) t , tồn (hữu hạn vô cùng), gọi đạo hàm theo hướng d hàm f điểm x0 ∈  n ký hiệu f ′ ( x0 , d ) Mệnh đề 1.1 ([1, tr 14]) Cho hàm f xác định  n điểm x0 ∈  n Nếu f khả vi x0 f ′ ( x0 , d ) = ∇f ( x0 ) , d , ∀d ∈  n \ {0} 1.1.2.4 Hàm tuyến tính, hàm afin Một hàm số f ( x ) xác định  n gọi tuyến tính f ( λ x1 + µ x2 )= λ f ( x1 ) + µ f ( x2 ) ( ) ( ) ( ) ( ) h13 ( x ) = ∇g1 x , x − x + g1 x =2 x1 − ≤ 0; h23 ( x ) = ∇g x , x − x + g x = x1 − ≤ Ta tập đa diện D1 ⊃ D xác định D1 :={ x ∈  | hij ( x ) ≤ 0, i =1, 2, j =1, 2,3} Dễ thấy ràng buộc h22= x1 − ≤ thừa Vì ta có D1 = { x ∈  | − x1 + x ≤ 2; x ≤ 2.5; − x1 − x ≤ 2; x ≥ −2.5; x1 ≤ 2} Đặt k := Bước lặp k = • Bước lặp { } o Bước 11 : Giải quy hoạch tuyến tính f = ( x ) x1 | x ∈ D1 nghiệm tối ưu x1 = ( −2,0 ) T o Bước 12 : Vì g1 ( x1 )= > nên chuyển sang Bước 13 > g ( x1 ) = nên chọn i1 = đặt o Bước 13 : Ta có g1 ( x1 ) = { } D2 := D1 ∩ x ∈  | ∇g1 ( x1 ) , x − x1 + g1 ( x1 ) ≤ 7  = D1 ∩  x ∈  | x1 ≥ −  6  Đặt k := k + = chuyển sang Bước lặp k = • Bước lặp { } o Bước 21 : Giải quy hoạch tuyến tính f = ( x ) x1 | x ∈ D2 tập nghiệm  T  −7 T  tối ưu đoạn  − ,  ,  , −      6   T   Ta lấy nghiệm tối ưu đại diện x2 =  − ,0    o Bước 22 : Vì g1 ( x= 2) 25 > nên chuyển Bước 23 ; 36 25 95 > g ( x2 ) = − o Bước 23 : Vì g1 ( x2 ) = nên chọn i2 = đặt 36 36 56 { } D3 := D2 ∩ x ∈  | ∇g1 ( x2 ) , x − x2 + g1 ( x2 ) ≤ 157   = D2 ∩  x ∈  | x1 ≥ −  156   Đặt k := k + = chuyển sang Bước lặp k = • Bước lặp o Bước 31 : Giải quy hoạch tuyến tính { f = ( x ) x1 | x ∈ D3} lấy nghiệm T 157  tối ưu đại diện x3 =  − ,0  156  o Bước 32 Vì g1 ( x3 ) ≈ 0.025682 > nên chuyển Bước 33 o Bước 33 Vì g1 ( x3 ) ≈ 0.025682 > g ( x3 ) ≈ −2.98714 nên chọn i3 = đặt { } D4 := D3 ∩ x ∈  | ∇g1 ( x3 ) , x − x3 + g1 ( x3 ) ≤ = D3 ∩ { x ∈  | x1 ≥ −0.997886} Đặt k := k + = chuyển sang Bước lặp k = • Bước lặp o Bước 41 Giải quy hoạch tuyến tính { f = ( x ) x1 | x ∈ D3} lấy nghiệm tối ưu đại diện x4 = ( −0.997886, ) T o Bước 42 Vì g1 ( x4 ) ≈ 0.008441142 ≈ g ( x4 ) ≈ −3.0042183 < nên Dừng thuật toán lấy nghiệm xấp xỉ x* = ( −0.9978886, ) T Bằng biểu diễn hình học, dễ thấy nghiệm tối ưu toán ( −1, ) T Ví dụ 2: Xét toán ( x − x1 ) với điều kiện x ∈ D   x ( )   2 2 + ( x ) ≤ 1 D :=  x ∈  | ( x ) − x ≤ 0;   Bài toán có= n 2,= m 57 (x ) g1 ( = x) (x ) x) (= 2 − x ≤ 0, g 2 + x2 − ≤  x1   x1    ∇g1 ( x ) =   , ∇g ( x ) =    x2   −1    + Bước chuẩn bị (Xây dựng đa diện xuất phát ( D1 ): Chọn ba điểm x= ( 0,1) T , x= ( 0, −1) T x3 = (1,0 ) T • Với x1 = ( 0,1) T 0 0 ∇g1 x1 =∇ −1; g x1 =  1 , g x1 =   ; g1 x1 = −    ( ) ( ) ( ) ( ) ( ) ( ) ( ) ( ) h11 ( x ) =∇g1 x1 , x − x1 + g1 x1 = − x ≤ 0; h21 ( x ) = ∇g x1 , x − x1 + g x1 =2 x − ≤ • Với x = ( ) ∇g1 x ( −1,0 ) T  −1   −2  −3  =  , ∇g x =  ; g1 x =1; g x =    −1    ( ) ( ) ( ) ( ) ( ) h12 ( x ) = ∇g1 x , x − x + g1 x =−2 x1 − x − ≤ 0; −1 h22 ( x ) = ∇g x , x − x + g x = x1 − ≤ ( ) ( ) • Với x3 = (1,0 ) T ( ) ∇g1 x 1 2 −3 =  , ∇g x =  ; g1 x =1; g x =    −1 0 ( ) ( ) ( ) ( ) ( ) ( ) ( ) h13 ( x ) = ∇g1 x , x − x + g1 x = x1 − x − ≤ 0; h23 ( x ) = ∇g x3 , x − x + g x = x1 − ≤ Ta tập đa diện D1 ⊃ D xác định 58 D1 :={ x ∈  | hij ( x ) ≤ 0, i =1, 2, j =1, 2,3} Dễ thấy ràng buộc h22 ≤ 0, h23 ≤ thừa Vì ta có D1 = {x ∈  | x ≥ 0; x ≤ 1; x1 + x + ≥ 0; x1 − x − ≤ 0} Đặt k := Bước lặp k = • Bước lặp o Bước 11 : Giải quy hoạch tuyến tính { f ( x ) =x − x1 | x ∈ D1} nghiệm tối T ưu x1 =  ,0  2  > nên chuyển sang Bước 13 o Bước 12 : Vì g1 ( x1 = ) −15 > g ( x1 ) = nên chọn i1 = đặt o Bước 13 : Ta có g1 ( x1 ) = 16 { } D2 := D1 ∩ x ∈  | ∇g1 ( x1 ) , x − x1 + g1 ( x1 ) ≤ 1  = D1 ∩  x ∈  | x1 − x ≤ −  4  Đặt k := k + = chuyển sang Bước lặp k = • Bước lặp { x − x1 | x ∈ D2 o Bước 21 : Giải quy hoạch tuyến tính f ( x ) = } tập T T   nghiệm tối ưu đoạn  ,0  ,  ,        T 1 1 Ta lấy nghiệm tối ưu đại diện x2 =  ,  2 4 o Bước 22 : Vì g1 ( x2 ) = g ( x2 ) =− < nên Dừng thuật toán lấy T 1 nghiệm xấp xỉ x* =  ,  2 4 4.2 Phương pháp hàm phạt Xét toán 59 f ( x ) →  (P)  1, , m  gi ( x ) ≤ 0, i = f , gi , ( i = 1, , m ) hàm liên tục  n = D Gọi 0, i { x | g ( x ) ≤= i 1, , m} tập chấp nhận toán Trong suốt mục này, ta giả sử D tập compac Nhận xét: Nói chung toán tối ưu không ràng buộc thường dễ xử lý toán có ràng buộc Một ý tưởng nảy sinh chuyển toán có ràng buộc toán không ràng buộc Kỹ thuật để thực ý tưởng hàm phạt Hai vấn đề phải giải xây dựng hàm phạt toán phụ cho xấp xỉ lời giải toán ban đầu từ lời giải toán phụ Phương pháp hàm phạt có hai loại: Hàm phạt điểm hàm phạt điểm 4.2.1 Phương pháp hàm phạt điểm Hàm phạt p ( x ) thỏa mãn tính chất: i/ không âm liên tục tập int D ={ x ∈  n : gi ( x ) < 0, i =1, , m} ii/ p ( x ) → +∞ gi ( x ) → 0− Hai hàm phạt điểm sử dụng nhiều, Fiacco McCormick đưa ra, là: m m i =1 i =1 p ( x) = −∑ ln ( − gi ( x ) ) p ( x ) = −∑ gi ( x ) Phương pháp hàm phạt điểm xuất phát từ điểm x1 tập chấp nhận D , giải dãy toán tối ưu không ràng buộc minψ ( x, α k ) với điều kiện x ∈  n α k ) f ( x ) + α k p ( x ) , {α k } dãy tham số dương, giảm đơn điệu ψ ( x,= 4.2.1.1 Thuật toán Bước chuẩn bị: 60 Cho số ε > đủ bé (để kiểm tra điều kiện dừng thuật toán) Chọn điểm x1 ∈ D thỏa mãn gi ( x1 ) < 0, i = 1, , m Chọn tham số phạt α1 > số µ ∈ ( 0,1) Đặt k = Bước lặp k , ( k = 1, 2, ) Bước k1 Xuất phát từ xk , giải toán tối ưu không ràng buộc minψ ( x, α k ) với điều kiện x ∈  n nhận nghiệm xk +1 Bước k2 : If α k p ( xk +1 ) < ε Then Dừng thuật toán (lấy xk +1 nghiệm tối ưu toán (P)) Else chuyển Bước k3 ; Bước k3 : Đặt tham số phạt α k +1 := µα k Đặt k =: k + Chuyển Bước lặp k 4.2.1.2 Sự hội tụ Định lý 4.2: Thuật toán 4.2.1.1 có tính chất sau: i/ψ ( x, α ) ≥ f ( x ) với α > , x chấp nhận được; 1, , m ii/ gi ( xk ) < 0, i = { } iii/ ψ ( x k , α k ) hội tụ đến giá trị tối ưu toán (P) {α k } → điểm tụ { xk } nghiệm tối ưu (P) Chứng minh: i/ Hiển nhiên ii/ Nếu gi ( xk ) = , ta suy ψ ( xk , α k ) không hữu hạn iii/ Nếu x* nghiệm (P), ta cần chứng minh limψ ( xk , α k ) = f ( x* ) k →∞ Vì {α k }  0, {ψ ( xk , α k )} dãy giảm ψ bị chặn (do f liên tục tập compac D nên bị chặn α k p ( x ) ≥ ), nên ta suy ψ ( xk , α k ) hội tụ tới ψ ≥ f ( x* ) Thật vậy: ψ ( xk ,α k ) ≥ f ( xk ) ≥ f ( x* ) 61 ψ lim ψ ( xk , α k ) ≥ f ( x* ) = k →+∞ ψ − f ( x* ) > , f liên tục nên ta chọn x cho Nếu ε = () f x < f ( x* ) + ε () gi x < 0, i = 1, , m Lấy k đủ lớn cho m i =1 gi x −α k ∑ < () ε ψ ( xk ,α k ) −ψ < ε Ta có ψ ≤ ψ ( xk ,α k ) (vì {ψ ( xk ,α k )} dãy giảm hội tụ tới ψ ) ( ≤ ψ x, α k ) () (vì ψ ( x, α k ) đạt cực tiểu xk ) m i =1 gi x ≤ f x − αk ∑ () < f x + () ε ≤ f ( x* ) + ε = f ( x* ) + (ψ − f ( x* ) ) =ψ ψ − f ( x* ) = , tức ψ = f ( x* ) Điều mâu thuẫn Do đó, ε = Tiếp theo, x điểm tụ { xk } , tức x = lim xki , theo i/ ψ ( xk ,α k ) ≥ f ( xk i i i ) Từ suy ( ) () = ψ limψ xki ,α ki ≥ f x Điều có nghĩa x cực tiểu □ 62 Chú ý: Điểm cực tiểu ψ ( x, α ) nằm tập chấp nhận 4.2.1.3 Ví dụ Trước xét ví dụ, ta nhắc lại vài tính chất hàm lồi Mệnh đề 4.2: Cho hàm lồi f :  n →  tập lồi khác rỗng D ⊂  n Xét toán { f ( x ) | x ∈ D} Khi đó: i/Nếu x* nghiệm tối ưu địa phương toán x* nghiệm tối ưu toàn cục; ii/Nếu x* nghiệm tối ưu địa phương chặt f hàm lồi chặt x* nghiệm tối ưu toàn cục toán Chứng minh: Xem [1, tr 55] Định lý 4.3: Giả sử f hàm lồi khả vi  n Khi x* ∈  n nghiệm cực tiểu toàn cục toán { f ( x ) | x ∈  n } , f :  n →  hàm phi tuyến ∇f ( x* ) = Chứng minh: Xem [1, tr 222] Ví dụ: Xét toán  f ( x ) =x1 − x →   2  g1 ( x ) =−1 − x + ( x ) ≤  − x2 ≤  g ( x ) = Ta chọn hàm phạt có dạng ( ) p ( x) = − ln ( − g1 ( x ) ) − ln ( − g ( x ) ) = − ln + x1 − ( x ) − ln ( x ) Khi đó, hàm mục tiêu toán không ràng buộc tương ứng ( ) ψ ( x, α ) = x1 − x − α ln + x1 − ( x ) − α ln ( x ) Trong α tham số dương giảm đơn điệu Với tham số α cụ thể, toán không ràng buộc {ψ ( x, α ) | x ∈  n } 63 có hàm mục tiêu ψ ( x, α ) hàm lồi chặt theo biến x nên, theo mệnh đề định lý trên, có nghiệm cực tiểu điểm dừng Ta có ψ x′ ( x, α ) = − α + x1 − ( x ) ψ x′ ( x,α ) =−2 + 2 2α x + x1 − ( x , ) 2 − α x2 Các điểm x = ( x1 , x ) thuộc phần tập chấp nhận có T + x1 − ( x ) > x2 > Giải hệ phương trình α  − =  2 1+ x − ( x )  0⇔ ∇ xψ ( x, α ) = 2α x α −2 + − =0  x + x1 − ( x )  Ta nhận điểm dừng x* (α ) = ( x*1 (α ) , x*2 (α ) ) với T = x*1 (α ) + 2α + 3α − + + 2α = , x* (α ) 2 Vì tham số α > giảm dần nên = lim+ x*1 (α ) α →0 = lim+ x*2 (α ) α →0 + ( 0) + 3( 0) − = 0, + + ( 0) = Ta có điểm ( 0,1) thuộc tập chấp nhận nghiệm tối ưu toán cần giải T Bảng 4.1 trình bày giá trị x*1 (α ) x*2 (α ) với tham số = α1 1,= µ 10−1 = α k +1 µα = 1, 2, ,6 k,k { Rõ ràng x* (α k ) = ( x*1 (α k ) , x*2 (α k ) ) T } hội tụ đến nghiệm tối ưu toán xét Bảng 4.1 Kết tính 64 k αk x*1 (α k ) x*2 (α k ) 100 1.8660254 1.3660254 10−1 0.1977226 1.0477226 10−2 0.0199752 1.0049752 10−3 0.0019998 1.0004998 10−4 0.0002000 1.0000500 10−5 0.0000200 1.0000050 4.2.2 Phương pháp hàm phạt điểm Hàm phạt p ( x ) định nghĩa m p ( x ) = ∑ φ ( gi ( x ) ) i =1 φ hàm biến liên tục thỏa mãn φ ( y ) = y ≤ φ ( y ) > y > Thông thường, hàm phạt p ( x ) có dạng m m i =1 i =1 p ( x ) := ∑ max {0, gi ( x )} p ( x ) := ∑  max {0, gi ( x )} Hàm mục tiêu dãy toán tối ưu không ràng buộc tương ứng với toán (P) ϕ ( x,= αk ) f ( x) + αk p ( x) Trong dãy tham số {α k } dãy số dương, đơn điệu tăng đến +∞ Đại lượng α k p ( x ) lượng phạt Dễ thấy x phương án chấp nhận toán (P) không bị phạt (lượng phạt 0), x phương án chấp nhận phải chịu lượng phạt α k p ( x ) 4.2.2.1 Thuật toán Bước chuẩn bị: Cho số ε > đủ bé (để kiểm tra điều kiện dừng thuật toán) Chọn điểm x1 ∈  n Chọn tham số phạt α1 > số µ > Đặt k = ; Bước lặp k , ( k = 1, 2, ) Bước k1 : Giải toán tối ưu không ràng buộc 65 ϕ ( x, α k ) với điều kiện x ∈  n Gọi nghiệm toán xk +1 Bước k2 If α k p ( xk +1 ) < ε Then Dừng thuật toán (lấy xk +1 nghiệm tối ưu toán (P)) Else Chuyển Bước k3 ; Bước k3 Đặt tham số phạt α k +1 := µα k Đặt k= k + chuyển Bước k 4.2.2.2 Sự hội tụ Định lý 4.4: Thuật toán 4.2.2.1 có tính chất sau: i/ ϕ ( x, α ) ≥ f ( x ) với α > 0, x ∈  n ii/ {ϕ ( xk , α k )} tăng, α k tăng; iii/ {ϕ ( xk , α k )} hội tụ tới giá trị tối ưu (P), α k → +∞ , điểm tụ { xk } nghiệm tối ưu (P) Chứng minh Chứng minh tương tự định lý 4.2 4.2.2.3 Ví dụ Xét toán  f ( x ) = x1 + x →   g1 ( x )= ( x1 ) − x ≤   1 x) x ) − x2 + ≤  g (= ( 8  g ( x) = x − ≤  Ta chọn hàm phạt có dạng p ( x ) = max {0, g1 ( x )} + max {0, g ( x )} + max {0, g3 ( x )} Khi hàm mục tiêu toán không ràng buộc tương ứng ϕ ( x,= αk ) f ( x) + αk p ( x) 66 { } 2   7  = ( x1 + x ) + α k  max 0, ( x1 ) − x + max 0, ( x1 ) − x +  + max {0, x − 3}  8    Trong dãy tham số {α k } dãy số dương, đơn điệu tăng đến +∞ Bước chuẩn bị: Chọn giá trị ε = 0.0005 x1 = ( 0, ) α1 = 10 µ = 10 Giải toán ϕ ( x, α1 ) với điều kiện x ∈  thuật toán 3.3.2.1 x11 = ( -0.8, 1.2 ) x12 = ( -0.96, 1.04 ) x13 = ( -0.992, 1.008 ) x14 = ( -0.9984, 1.0016 ) x15 = ( -0.99968, 1.00032 ) x16 = ( -0.999936, 1.000064 ) x1* -0.9999872, 1.0000128 ) (= x2 Vì α1 p ( x2 )= < ε nên dừng thuật toán Lấy x* = ( -0.9999872, 1.0000128 ) nghiệm tối ưu toán f ( x* ) ≈ 2.56.10−5 ≈ 67 KẾT LUẬN VÀ KIẾN NGHỊ Luận văn trình bày vài phương pháp giải toán tối ưu Cụ thể sau: Chương – BÀI TOÁN QUY HOẠCH TUYẾN TÍNH (Tham khảo [2]) Mục Một vài kết 2.1 Thuật toán đơn Thuật toán: Trình bày lại cho gọn hơn, kết hợp thuật toán hình dạng bảng đơn hình hai pha để tìm phương án sở chấp nhận xuất phát Chương trình: Viết lại Matlab, bổ sung phần xử lý trường hợp xảy chuyển từ pha thứ sang pha thứ hai 2.2 Thuật toán đơn Thuật toán: Trình bày lại cho gọn hình dạng ma trận Chương trình: Dựa theo thuật toán mô tả để lựa chọn nghịch đảo cấu trúc liệu phù hợp viết chương trình mô 2.3 Thuật toán đơn Matlab hình đối ngẫu Chương – BÀI TOÁN QUY HOẠCH PHI TUYẾN KHÔNG RÀNG BUỘC (Tham khảo [4]) Mục Một vài kết 3.1 Phương pháp Chương trình: Gradient Viết lại Matlab nên mở rộng việc tính đạo hàm, 3.2 Phương pháp Matlab hỗ trợ đại số máy tính, phạm vi áp dụng Newton chương trình rộng [4] Matlab hỗ trợ phép tính ma trận nên chương trình gọn 3.3 Phương pháp Phần học viên xây dựng thuật toán cho trường hợp n = 1, tìm kiếm trực tiếp n=2 để giải ví dụ phương pháp hàm phạt điểm chương Chương – BÀI TOÁN QUY HOẠCH PHI TUYẾN CÓ RÀNG BUỘC 68 (Tham khảo [1], [3], [5]) Mục 4.1 Một vài kết + nhận xét Phương pháp Chứng minh: toán (P1), (P2) tương đương, dãy X k tuyến tính hóa giảm chứa X , X tập lồi đa diện X ⊂ X , hội tụ thuật toán Xây dựng thêm ví dụ Bài toán phụ mục quy hoạch tuyến tính nên ta sử dụng thuật toán chương để giải 4.2 Phương pháp Tìm hiểu, so sánh, tổng hợp từ [1], [3], [5] trình bày lại hàm phạt cách chi tiết Xây dựng thêm ví dụ 4.2.1 Phương pháp Bài toán phụ mục quy hoạch phi tuyến không ràng hàm phạt điểm buộc nên ta sử dụng thuật toán chương để giải 4.2.2 Phương pháp hàm phạt điểm Do thời gian có hạn trình độ thân người thực luận văn hạn chế nên luận văn trình bày vài phương pháp để giải toán quy hoạch tuyến tính phi tuyến Ngoài nhiều phương pháp khác mà có điều kiện, tiếp tục nghiên cứu trình bày dịp khác Chúng mong góp ý từ Quý Thầy, Cô hội đồng chấm luận văn để luận văn hoàn thiện 69 TÀI LIỆU THAM KHẢO Tiếng Việt Nguyễn Thị Bạch Kim (2008), Giáo trình Các Phương pháp Tối ưu Lý thuyết Thuật toán, Nxb Bách khoa, Hà Nội Nguyễn Đức Nghĩa (1999), Tối ưu hóa (Quy hoạch tuyến tính rời rạc), Nxb Giáo dục, Hà Nội Nguyễn Xuân Tấn, Nguyễn Bá Minh (2007), Lý thuyết tối ưu không trơn, Nxb Đại học Quốc gia Hà Nội, Hà Nội Mai Đức Thanh (2002), Một vài phương pháp số giải toán tối ưu phi tuyến, Luận văn tốt nghiệp đại học chuyên ngành Toán, Đại học Sư phạm Thành phố Hồ Chí Minh, Hồ Chí Minh Tiếng Anh B.N.Pshenichny and Yu.M.Danilin (1982), Numerical methods in extremal problems, Mir Publishers, Moscow 70 [...]... phương án) Điểm x* ∈ D mà f ( x* ) ≤ f ( x ) ∀x ∈ D được gọi là nghiệm tối ưu, hoặc đơn giản là nghiệm của bài toán Người ta còn gọi một nghiệm tối ưu là một phương án tối ưu hay lời giải của bài toán đã cho Giá trị tối ưu của bài toán (BT1) được kí hiệu là min f ( x ) hoặc min { f ( x ) | x ∈ D} x∈D Nếu bài toán (BT1) có nghiệm tối ưu là x* thì = f ( x* ) min { f ( x ) | x ∈ D} Chú ý: i) Bài toán (BT1)... nghiệm tối ưu của hai bài toán này là trùng nhau và giá trị tối ưu của chúng thì ngược dấu, tức là min { f ( x ) | x ∈ D} = − max {− f ( x ) | x ∈ D} Vì vậy, không giảm tổng quát, ta chỉ cần xét bài toán (BT1) hoặc bài toán (BT2) 11 ii) Nếu D =  n thì ta nói (BT1) là bài toán tối ưu không ràng buộc Ngược lại, nếu D ⊂  n thì ta nói (BT1) là bài toán tối ưu có ràng buộc Trong các bài toán tối ưu có... x0 ) 1.2 Bài toán tối ưu 1.2.1 Bài toán tối ưu và các khái niệm cơ bản Bài toán tối ưu tổng quát được phát biểu như sau: min f ( x ) với điều kiện x ∈ D (BT1) max f ( x ) với điều kiện x ∈ D (BT2) hoặc trong đó D ⊆  n được gọi là tập phương án chấp nhận được hay tập ràng buộc và f : D →  là hàm mục tiêu Mỗi điểm x ∈ D được gọi là một phương án chấp nhận được (có thể gọi tắt là một phương án) Điểm x*... Một số ký hiệu và định nghĩa Lưu ý: trong chương này ta dùng chỉ số dưới để chỉ các thành phần của vectơ ( xi là thành phần thứ i của vectơ x ) trong  n I = {1, 2, , m} - tập chỉ số các ràng buộc J = {1, 2, , n} - tập chỉ số của các biến số = x x= Tập các biến số x1 , x2 , , xn ∈  được viết dưới dạng vectơ (J ) {x j : j ∈ J} c =c ( J ) ={c j ∈  : j ∈ J } b =b ( I ) ={bi ∈  : i ∈ I } Các hệ số aij... } , J B* ∩ J u ≠ ∅ - Kí hiệu xi* , i* ∈ J B* ∩ J u là một thành phần biến giả trong phương án cơ sở chấp nhận được ( ) tối ưu ( x* , xu* ) của bài toán TT0 - Kí hiệu xi j , j ∈ J ∪ J u là các phần tử của dòng i* trong bảng đơn hình tương ứng với * ( ) phương án tối ưu ( x* , xu* ) của bài toán TT0 18 - Nếu tìm được chỉ số j* ∈ J \ J B* sao cho xi j ≠ 0 thì thực hiện một phép biến đổi * * bảng đơn... bước lặp: Bước 1: -Nếu bi ≥ 0, i = 1, 2, , m thì phương án cơ sở ứng với cơ sở đang xét là phương án tối ưu Thuật toán kết thúc -Trái lại, có bi < 0 thì= tìm br min = {bi , i 1, 2, , m} Nếu có nhiều chỉ số cùng đạt cực tiểu thì chọn r là một chỉ số tùy ý trong số đó Chuyển sang Bước 2 Bước 2: -Nếu arj ≥ 0, j = 1, 2, , n thì bài toán (TT0 ) không có phương án chấp nhận được Thuật toán kết thúc  c... buộc của bài toán được gọi là phương án chấp nhận được 13 D  Tập = = { x : Ax b, x ≥ 0} tất cả các phương án chấp nhận được của bài toán được gọi là tập chấp nhận được hay tập ràng buộc của bài toán  Phương án chấp nhận được x* đem lại giá trị nhỏ nhất cho hàm mục tiêu, tức là: c, x* ≤ c, x , ∀x ∈ D ( ) được gọi là phương án tối ưu, còn giá trị f x* = c, x* là giá trị tối ưu của bài toán Giả thiết rằng... j* - Nếu xi* j* = 0, ∀j ∈ J \ J B* thì điều đó có nghĩa là phương trình tương ứng với nó trong hệ phương trình tuyến tính Ax = b là hệ quả của các phương trình còn lại Khi đó từ ( ) bảng đơn hình tương ứng với phương án tối ưu ( x* , xu* ) của bài toán TT0 ta có thể xóa bỏ dòng nói trên và đồng thời xóa bỏ luôn cột ứng với biến giả xi * - Trong cả hai trường hợp vừa nêu ta đều loại bỏ được biến giả... A1 , A2 , , Am ) Đầu ra: Kết luận bài toán (TT0 ) không có phương án chấp nhận được hoặc là xuất ra phương án tối ưu x* và giá trị tối ưu f ( x* ) Xây dựng bảng đơn hình đối ngẫu tương ứng với cơ sở B Bảng 2.3 Bảng đơn hình đối ngẫu c j cơ sở Cơ sở Phương c1 … 30 cj … cn án … A1 Aj c1 A1 b1 a1 j c2 A2 b2 a2 j … … … … cm Am bm a mj ∆ … An cj Trong đó = b = Aj c = ′ b , b , , b ) (= 1 2 (a 1j B −1b m... 0, i = (nếu có bi < 0 chỉ cần nhân hai vế của phương trình tương ứng với −1 ) Đầu ra: Kết luận bài toán không có phương án chấp nhận được hoặc là hàm mục tiêu của bài toán không bị chặn dưới hoặc là xuất ra phương án tối ưu x* và giá trị tối ưu f ( x* ) Ta đặt bài toán phụ sau: 17 (TT ) 0  e, xu → min  b  Ax + xu =  x ≥ 0, x ≥ 0 u  x ( J u ) , J u =+ Trong đó: xu = {n 1, , n + m} là m − vectơ các ... tính theo xử lý Học viên quan tâm đến phương pháp chuyển đổi công thức lý thuyết đẹp đẽ thành kết số cụ thể Mục đích đề tài Vì lý trên, học viên thực luận văn khảo sát phương pháp số tiêu biểu... Kết luận: Phương án tối ưu x* giá trị tối ưu f(x*) 34 0) CHƯƠNG 3: BÀI TOÁN QUY HOẠCH PHI TUYẾN KHÔNG RÀNG BUỘC Bắt đầu từ chương trở đi, ta quan tâm tới phương pháp giải số toán tối ưu có cấu... điểm x ∈ D gọi phương án chấp nhận (có thể gọi tắt phương án) Điểm x* ∈ D mà f ( x* ) ≤ f ( x ) ∀x ∈ D gọi nghiệm tối ưu, đơn giản nghiệm toán Người ta gọi nghiệm tối ưu phương án tối ưu hay lời