phương pháp hàm phạt cho bài toán tối ưu

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC KHOA HỌC NGUYỄN THỊ LÊ PHƯƠNG PHÁP HÀM PHẠT CHO BÀI TOÁN TỐI ƯU LUẬN VĂN THẠC SỸ Chuyên ngành : TOÁN ỨNG DỤNG Mã số : 60 46 36 Người hướng dẫn khoa học: GS- TSKH LÊ DŨNG MƯU THÁI NGUYÊN, 2012 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Mục lục Lời cảm ơn 4 Mở đầu 5 1 Các kiến thức cơ bản về tập lồi và hàm lồi 7 1.1 Tập lồi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 1.2 Hàm lồi . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11 1.2.1 Định nghĩa và tính chất . . . . . . . . . . . . . . . . 11 1.2.2 Tính liên tục . . . . . . . . . . . . . . . . . . . . . . 13 1.2.3 Dưới vi phân . . . . . . . . . . . . . . . . . . . . . . 14 1.2.4 Tính chất cực trị . . . . . . . . . . . . . . . . . . . 15 2 Phương pháp hàm phạt 17 2.1 Bài toán tối ưu . . . . . . . . . . . . . . . . . . . . . . . . 17 2.1.1 Phát biểu bài toán . . . . . . . . . . . . . . . . . . . 17 2.1.2 Các điều kiện tối ưu . . . . . . . . . . . . . . . . . . 19 2.2 Phương pháp hàm phạt . . . . . . . . . . . . . . . . . . . . 23 2.2.1 Hàm phạt điểm ngoài . . . . . . . . . . . . . . . . . 24 2.2.2 Hàm phạt điểm trong . . . . . . . . . . . . . . . . . 26 2.2.3 Hàm phạt kiểu Lagrange . . . . . . . . . . . . . . . 31 3 Hàm phạt chính xác và áp dụng 42 3.1 Hàm phạt chính xác cho bài toán tối ưu lồi. . . . . . . . . . 42 3.2 Hàm phạt chính xác cho bài toán tối ưu trên tập Pareto . . 49 3.2.1 Bài toán tối ưu vecto tuyến tính . . . . . . . . . . . 49 3.2.2 Hàm phạt chính xác cho bài toán tối ưu trên tập Pareto . . . . . . . . . . . . . . . . . . . . . . . . . 53 2 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Tài liệu tham khảo 58 3 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Lời cảm ơn Trước khi trình bày nội dung chính của luận văn, em xin bày tỏ lòng biết ơn sâu sắc tới GS.TSKH Lê Dũng Mưu người đã tận tình hướng dẫn và giúp đỡ em trong suốt quá trình học tập và nghiên cứu để em có thể hoàn thành khóa luận này. Em cũng xin bày tỏ lòng biết ơn chân thành tới quý thầy, cô giáo trường Đại học Khoa học- Đại học Thái Nguyên và Viện Toán học - Viện Khoa học và Công nghệ Việt Nam đã giảng dạy và giúp đỡ em hoàn thành khóa học. Nhân dịp này em cũng xin chân thành cảm ơn Ban Giám hiệu, các bạn đồng nghiệp Trường Cao đẳng Công nghệ và Kinh tế công nghiệp, gia đình và bạn bè đã luôn động viên, giúp đỡ và tạo điều kiện cho em về mọi mặt trong suốt quá trình học tập và thực hiện khóa luận tốt nghiệp. Mặc dù đã có nhiều cố gắng nhưng Luận văn khó tránh khỏi những thiếu sót. Tác giả rất mong nhận được ý kiến đóng góp của quý thầy, cô và bạn đọc để luận văn được hoàn thiện hơn. Xin trân trọng cảm ơn! Thái Nguyên, ngày 20 tháng 07 năm 2012 Tác giả Nguyễn Thị Lê 4 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Mở đầu Bài toán tối ưu là bài toán tìm một phương án chấp nhận được để làm cực trị một hàm số hoặc một hàm vecto. Đây là bài toán có nhiều ứng dụng trong thực tế. Khó khăn chính trong việc nghiên cứu và giải quyết bài toán này là phải tìm được một phương án tối ưu trong miền chấp nhận được. Để giải quyết khó khăn này, phương pháp hàm phạt là một cách tiếp cận cơ bản để giải quyết bài toán tối ưu có ràng buộc. Ý tưởng chính của phương pháp này là chuyển bài toán có ràng buộc về một dãy các bài toán không ràng buộc hoặc có ràng buộc đơn giản hơn. Các loại hàm phạt thường được dùng là hàm phạt điểm ngoài, hàm phạt điểm trong và hàm phạt kiểu Lagrange (thưởng- phạt). Đối với phương pháp hàm phạt điểm ngoài, hàm phạt được xác định cả bên ngoài miền chấp nhận được và có tính chất là lượng phạt p(x) > 0 nếu x không thuộc miền chấp nhận được D, trái lại, nếu x ∈ D thì p(x) = 0. Một hàm phạt khác là hàm phạt kiểu Lagrange, hàm này cũng xác định cả bên ngoài miền ràng buộc như hàm phạt điểm ngoài, nhưng bên trong miền chấp nhận được, lượng phạt có thể nhận giá trị âm, tức là được thưởng tùy theo mức độ thỏa mãn miền ràng buộc. Phương pháp có hiệu quả hơn cả là phương pháp hàm phạt điểm trong, khác với hàm phạt điểm ngoài và hàm phạt kiểu Lagrange, hàm phạt này chỉ xác định tại miền trong của tập chấp nhận được, còn tại các điểm gần biên của miền chấp nhận được thì p(x) = +∞. Thông thường, người ta chỉ có thể chuyển việc một bài toán có ràng buộc về việc giải một dãy vô hạn các bài toán không có ràng buộc hoặc có ràng buộc đơn giản hơn. Tuy nhiên trong một số trường hợp cụ thể, với những điều kiện nhất định thì ta có thể chuyển về việc giải chỉ duy nhất một bài toán không ràng buộc. Hàm phạt cho tính chất này được gọi là hàm phạt chính xác. Bản luận văn này nhằm mục đích chủ yếu là hệ thống các kiến thức cơ bản về các loại phương pháp hàm phạt đã kể trên. Cụ thể, luận văn đã đề 5 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn cập đến các vấn đề sau: 1. Giới thiệu các kiến thức cơ bản về phương pháp hàm phạt điểm ngoài, phương pháp hàm phạt điểm trong và phương pháp hàm phạt kiểu Lagrange. 2. Trình bày một kết quả tương đối mới về hàm phạt chính xác cho bài toán tối ưu lồi. Ngoài ra, luận văn còn trình bày phương pháp hàm phạt chính xác cho bài toán tối ưu không lồi, đó là bài toán tối ưu một hàm tuyến tính trên tập nghiệm của một bài toán tối ưu vecto affin. Luận văn gồm 3 chương: Chương 1. Giới thiệu một số khái niệm và kiến thức cơ bản của giải tích lồi thường được dùng trong tối ưu hoá (tập afin, tập lồi, nón lồi, hàm lồi và các tính chất cơ bản của chúng). Chương 2. Trình bày ba phương pháp hàm phạt là: Phương pháp hàm phạt điểm trong, phương pháp hàm phạt điểm ngoài và hàm phạt kiểu Lagrange (thưởng- phạt). Chương 3. Trình bày khái niệm về hàm phạt chính xác, điều kiện đủ để tồn tại hàm phạt chính xác cho bài toán tối ưu lồi, bài toán tối ưu trên tập Pareto của một bài toán tối ưu vecto affine và áp dụng hàm phạt chính xác vào bài toán tối ưu trên tập này. 6 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Chương 1 Các kiến thức cơ bản về tập lồi và hàm lồi Chương này nhằm giới thiệu một số khái niệm và kiến thức cơ bản của giải tích lồi thường được dùng trong tối ưu hoá (tập afin, tập lồi, nón lồi, hàm lồi và các tính chất cơ bản của chúng). Các khái niệm và kết quả trong chương này hầu hết được lấy từ các tài liệu: [1],[2], [3]. 1.1 Tập lồi Định nghĩa 1.1. Một đường thẳng nối hai điểm (hai vecto) trong không gian R n là tập hợp tất cả các vecto x ∈ R n có dạng {x ∈ R n |x = αa + βb, α + β = 1}. Đoạn thẳng nối hai điểm trong không gian R n là tập hợp tất cả các vecto x ∈ R n có dạng {x ∈ R n |x = αa + βb, α ≥ 0, β ≥ 0, α + β = 1}. Một tập M được gọi là tập affine (đa tạp affine) nếu nó chứa đường thẳng đi qua hai điểm bất kỳ của nó, tức là ∀x, y ∈ M, ∀λ ∈ R ⇒ λx + (1 −λ)y ∈ M. Ví dụ 1.1. Các không gian con của R n là các tập affine. Nhận xét 1.1. 7 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn • Nếu M là tập affine thì a + M = {a + x | x ∈ M} cũng là một tập affine với ∀a ∈ R n . • M là tập affine chứa gốc khi và chỉ khi M là không gian con. Định nghĩa 1.2. Thứ nguyên của một đa tạp affine được cho bởi thứ nguyên của không gian con song song với nó. Siêu phẳng H trong R n là một tập affine có số chiều bằng (n-1), hay chính là tập có dạng: H = {x ∈ R n | a T x =α}, trong đó 0 = a ∈ R n và α ∈ R. Ví dụ 1.2. Trong không gian hai chiều, siêu phẳng là đường thẳng. Trong không gian 3 chiều, siêu phẳng là mặt phẳng. Định nghĩa 1.3. Trong R n , siêu phẳng H = {x ∈ R n | a T x =α}, với 0 = a ∈ R n và α ∈ R chia R n thành hai nửa không gian đóng : H − = {x ∈ R n | a T x ≤ α} và H + = {x ∈ R n | a T x ≥ α}, mỗi nửa không gian này nằm về một phía của siêu phẳng và phần chung của chúng chính là siêu phẳng H . Tương tự, H cũng chia R n thành hai nửa không gian mở: {x ∈ R n | a T x < α} và {x ∈ R n | a T x > α}. Một tập C trong R n được gọi là tập lồi nếu C chứa mọi đoạn thẳng nối hai điểm thuộc nó, tức là tập C lồi khi và chỉ khi: ∀x, y ∈ C, ∀λ ∈ [0, 1] ⇒ λx + (1 − λ)y ∈ C. Bao lồi của tập A là tập lồi nhỏ nhất chứa A, ký hiệu là CoA, đây chính là giao của tât cả các tập lồi chứa A. Cho hai tập A, B bất kỳ trong R n , tổ hợp lồi của các tập A và B là tập các điểm thuộc R n có dạng: x = λa + (1 − λ)b, a ∈ A, b ∈ B, 0 ≤ λ ≤ 1. 8 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Lớp các tập lồi là đóng đối với phép giao, phép cộng đại số và phép nhân tích Decartes, cụ thể ta có định lý sau: Định lý 1.1. Nếu A, B là các tập lồi trong R n , C là lồi trong R m , thì các tập sau là tập lồi: 1. A ∩ B := {x |x ∈ A, x ∈ B }; 2. αA + βB := {x |x = αa + βb, a ∈ A, b ∈ B, α, β ∈ R}; 3. A × C := {x ∈ R n+m |x = (a, c), a ∈ A, c ∈ C }. Định nghĩa 1.4. Cho A là tập lồi, tập affine nhỏ nhất chứa A được gọi là bao affine của A, ký hiệu là affA. Thứ nguyên của tập lồi A ký hiệu là dimA được cho bởi thứ nguyên của bao affin của A. Một điểm a ∈ A được gọi là điểm trong của A nếu tồn tại một lân cận mở U của a sao cho U ⊂ A, tập hợp các điểm trong của A ký hiệu là intA. Một tập lồi A trong R n có thể không có điểm trong (khi xét trong R n ), nhưng nó luôn có điểm trong khi xét trong affA, điểm trong này gọi là điểm trong tương đối. Nếu ký hiệu riA là tập các điểm trong tương đối của A thì riA := {x ∈ affA |∃ U, U ∩affA ⊂ A}, trong đó U là một lân cận mở của x. nếu A là tập lồi khác rỗng thì riA = ∅. Một tập hợp là giao của một số hữu hạn các nửa không gian đóng được gọi là tập lồi đa diện ( khúc lồi). Như vậy dạng tường minh của một tập lồi đa diện D được cho như sau: D = {x ∈ R n < a j , x >≤ b j , j = 1, 2, , m}. Một tập con A  của A được gọi là một diện của A nếu hễ nó chứa một điểm trong của một đoạn thẳng thì nó chứa cả đoạn thẳng đó, tức là: ∀a, b ∈ A, nếu x = λa + (1 − λ)b, 0 < λ < 1, x ∈ A  ⇒ a, b ∈ A  . Một diện có thứ nguyên bằng 0 được gọi là đỉnh hay điểm cực biên. Cạnh là một diện có thứ nguyên bằng 1. Đối với một tập C bất kỳ, một điểm x ∈ C được gọi là điểm biên của C nếu không tồn tại a, b ∈ C, 0 < λ < 1 sao cho: 9 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn x = λa + (1 − λ)b và đoạn thẳng [a, b] ⊂ C. Với một tập lồi đa diện, một đỉnh của diện cũng chính là đỉnh của tập đó. Một tập C được gọi là nón lồi nếu ∀x, y ∈ C thì x + y ∈ C và tx ∈ C với mọi t ≥ 0. Ví dụ 1.3. R n + là một nón lồi. Cho C là một tập trong R n , một vecto y = 0 được gọi là hướng lùi xa của C nếu mọi tia xuất phát từ một điểm bất kỳ của C theo hướng y đều nằm trọn trong C, tức là y = 0 là hướng lùi xa khi và chỉ khi x + λy ∈ C, ∀x ∈ C, ∀λ ≥ 0. Tập tất cả các hướng lùi xa của C cùng với điểm gốc được gọi là nón lùi xa của C, ký hiệu là reC. Cho C là một tập lồi trong R n và x ∈ C, tập hợp: N C (x) = {w |w, y −x ≤ 0,∀y ∈ C} được gọi là nón pháp tuyến ngoài của C tại x, tập hợp −N C (x) = {w |w, y −x ≥ 0,∀y ∈ C} được gọi là nón pháp tuyến trong của C tại x, tập hợp C ∗ = {w | w, x ≤ 0, ∀x ∈ C} được gọi là nón đối cực của C. Cho C là một tập lồi khác rỗng và x thuộc C. Ta nói d ∈ R n là một hướng chấp nhận được của C nếu tồn tại t 0 > 0 sao cho x + td ∈ C với mọi 0 ≤ t ≤ t 0 . Tập tất cả các hướng chấp nhận được của C tại x ký hiệu là C(x) và gọi là nón chấp nhận được của C tại x. Định lý tách các tập lồi dưới đây là những định lý cơ bản nhất của giải tích lồi, được dùng nhiều trong lý thuyết tối ưu. Cho hai tập C và D khác rỗng, ta nói siêu phẳng a T x = α tách C và D nếu a T x ≤ α ≤ a T y, ∀x ∈ C, ∀y ∈ D. 10 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn [...]... chuyển bài toán tối ưu có ràng buộc về bài toán tối ưu không ràng buộc Kỹ thuật cơ bản để thực hiện ý tưởng này là hàm phạt Chương này gồm hai phần, phần 1 trình bày khái niệm về bài toán tối ưu và các điều kiện tối ưu, phần 2 trình bày ba phương pháp hàm phạt là: Phương pháp hàm phạt điểm trong, phương pháp hàm phạt điểm ngoài và hàm phạt kiểu Lagrange (thưởng- phạt) Các khái niệm và kết quả được lấy... ràng buộc Phương pháp hàm phạt dùng để biến đổi một bài toán có ràng buộc thành một dãy các bài toán có ràng buộc đơn giản hoặc bài toán không ràng buộc bằng một hàm phạt Xét bài toán min{f (x) : x ∈ D} (P ) 23 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 2.2.1 Hàm phạt điểm ngoài Xét bài toán (P ),với phương pháp hàm phạt điểm ngoài, hàm phạt p được cho trước, liên tục... các hàm hj với mọi j = 1, , p, ta có: hj (x∗ ), d = 0 (2.14) Suy ra µ∗ j hj (x∗ ), d = 0, j = 1, , p Kết hợp (2.12), (2.13) và (2.14), ta được f (x∗ ), d + m X λ∗ i gi (x∗ ), d + i=1 k X µ∗ j hj (x∗ ), d < 0 j=1 điều này mâu thuẫn với (2.10) Vậy x∗ là nghiệm tối ưu của bài toán (P ) 2.2 Phương pháp hàm phạt Thông thường, bài toán tối ưu không ràng buộc dễ giải hơn bài toán tối ưu có ràng buộc Phương pháp. .. gọi là một nghiệm tối ưu của bài toán và f (x∗ ) được gọi là giá trị cực tiểu hay giá trị tối ưu của f trên C Trường hợp C ≡ Rn ta có bài toán tối ưu không ràng buộc min {f (x) : x ∈ Rn } 17 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Trái lại (P ) là bài toán tối ưu có ràng buộc Thông thường tập C thường được cho bởi một hệ phương trình hoặc/và bất phương trình có... [4],[5] 2.1 2.1.1 Bài toán tối ưu Phát biểu bài toán Bài toán tối ưu được xét trong chương này có dạng sau: min {f (x) : x ∈ C} (P ), là bài toán tìm điểm x∗ ∈ C sao cho f (x∗ ) ≤ f (x) với mọi x ∈ C, trong đó C ⊆ X (X là không gian nào đó, thông thường X ≡ Rn ), f : C → R Hàm f được gọi là hàm mục tiêu, tập C gọi là tập ràng buộc hay miền chấp nhận được Một vecto x ∈ C được gọi là một phương án chấp... hàm cho trước, gọi là các hàm ràng buộc Dễ thấy rằng nếu các hàm f lồi, gi là lồi, liên tục trên X và các hàm hj là afin thì C là tập đóng Khi ấy (P) được gọi là bài toán quy hoạch lồi Nhận xét 2.1 Do max {f (x) : x ∈ C} = −min{−f(x) : x ∈ C}, và tập nghiệm của các bài toán này trùng nhau nên bài toán tìm cực đại có thể đưa về bài toán tìm cực tiểu và ngược lại Sau đây là một số ví dụ về bài toán tối. .. t > 0 cố định, ta định nghĩa bài toán phạt: min{Ft (x) := f (x) + tp(x) : x ∈ D0 } (Bt ) Định lý 2.6 Giả sử bài toán (P) có nghiệm Cho dãy số dương tk đơn điệu giảm đến 0 và xk là nghiệm của bài toán (Btk ) Khi đó: 1 p(xk ) ≤ p(xk+1 ), 2 f (xk ) hội tụ giảm đến f∗ và mọi điểm tụ của dãy {xk } là nghiệm tối ưu của bài toán gốc (P) Chứng minh Do xk là nghiệm tối ưu của bài toán (Btk ) với mọi k , ta có... các bài toán tối ưu là việc tìm kiếm những điều kiện tối ưu Những điều kiện ấy cho phép hiểu biết được các tính chất của lời giải, từ đó có thể xây dựng phương pháp giải Chúng ta xét các định lý sau về điều kiện tối ưu: Định lý 2.3 Giả sử C là tập lồi,f là hàm lồi khả dưới vi phân trên C Khi đó x∗ là nghiệm tối ưu của (P) khi và chỉ khi 0 ∈ ∂f (x∗ ) + NC (x∗ ), (2.3) trong đó NC (x∗ ) là nón pháp. .. dầnf∗ và u∗ là nghiệm của bài toán (P ) 25 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Ví dụ 2.3 Giải bài toán min{f (x) = x2 + x2 : x1 + x2 = 2} 1 2 (P ) Xây dựng hàm phạt p(x) = (x1 + x2 − 2)2 , khi đó ta có bài toán tối ưu không ràng buộc min{Ft (x) = x2 + x2 + t(x1 + x2 − 2)} 1 2 (Pt ) Giả sử (x∗ , x∗ ) là nghiệm tối ưu của bài toán thì do các hàm f (x) và 1 2 h(x)... mọi j (Điều kiện Slater) Ta thêm giả thiết là các hàm f và gj lồi, liên tục trên một tập X chứa D (ví dụ: X ≡ I n ) Do gj liên tục nên intD = ∅ R Ta luôn giả thiết rằng bài toán (P ) có nghiệm và ký hiệu giá trị tối ưu của (P ) là f ∗ Phương pháp hàm phạt điểm ngoài lấy xấp xỉ từ bên ngoài còn phương pháp này lấy xấp xỉ từ bên trong Phương pháp hàm phạt điểm trong được sử dụng khi chúng ta có thể tìm . bản về phương pháp hàm phạt điểm ngoài, phương pháp hàm phạt điểm trong và phương pháp hàm phạt kiểu Lagrange. 2. Trình bày một kết quả tương đối mới về hàm phạt chính xác cho bài toán tối ưu lồi ra, luận văn còn trình bày phương pháp hàm phạt chính xác cho bài toán tối ưu không lồi, đó là bài toán tối ưu một hàm tuyến tính trên tập nghiệm của một bài toán tối ưu vecto affin. Luận văn gồm. là hàm phạt. Chương này gồm hai phần, phần 1 trình bày khái niệm về bài toán tối ưu và các điều kiện tối ưu, phần 2 trình bày ba phương pháp hàm phạt là: Phương pháp hàm phạt điểm trong, phương pháp