(Luận văn) phương pháp hàm phạt minimax chính xác cho bài toán tối ưu không trơn

ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KHOA HỌC TÔ MINH QUYẾT lu an n va p ie gh tn to PHƯƠNG PHÁP HÀM PHẠT MINIMAX CHÍNH XÁC CHO BÀI TỐN TỐI ƯU KHƠNG TRƠN d oa nl w an lu LUẬN VĂN THẠC SĨ TOÁN HỌC nf va z at nh oi lm ul z m co l gm @ an Lu n va Thái Nguyên - 2017 ac th si ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KHOA HỌC TÔ MINH QUYẾT lu an n va p ie gh tn to PHƯƠNG PHÁP HÀM PHẠT MINIMAX CHÍNH XÁC CHO BÀI TỐN TỐI ƯU KHƠNG TRƠN oa nl w Chuyên ngành: TOÁN ỨNG DỤNG d Mã số: 60.46.01.12 nf va an lu lm ul LUẬN VĂN THẠC SĨ TOÁN HỌC z at nh oi z NGƯỜI HƯỚNG DẪN KHOA HỌC PGS TS ĐỖ VĂN LƯU m co l gm @ an Lu n va Thái Nguyên - 2017 ac th si i Mục lục lu an n va ii Bảng ký hiệu Mở đầu Cận tham số phạt phương pháp hàm phạt minimax xác cho tốn tối ưu đơn mục tiêu không khả vi 1.1 Các khái niệm kết liên quan 1.2 Phương pháp hàm phạt minimax xác 1.3 Sự tương đương tốn tối ưu có ràng buộc toán tối ưu phạt 4 p ie gh tn to Lời cảm ơn oa nl w d Phương pháp hàm phạt minimax xác định yên ngựa cho toán tối ưu véc - tơ lồi không trơn 2.1 Các khái niệm kết bổ trợ 2.2 Phương pháp hàm phạt minimax xác định lí yên ngựa cho tốn tối ưu véc - tơ khơng trơn 2.3 Trường hợp đặc biệt nf va an lu Tài liệu tham khảo lí điểm 22 22 điểm 25 42 z at nh oi lm ul Kết luận 44 45 z m co l gm @ an Lu n va ac th si ii Lời cảm ơn lu an n va p ie gh tn to Tơi xin bày tỏ lịng biết ơn sâu sắc tới thầy PGS.TS Đỗ Văn Lưu, người trực tiếp hướng dẫn luận văn, tận tình bảo hướng dẫn tơi tìm hướng nghiên cứu, tìm kiếm tài liệu, giải vấn đề, nhờ tơi hồn thành luận văn cao học Từ tận đáy lịng, tơi xin bày tỏ lòng biết ơn chân thành sâu sắc tới Thầy cố gắng để xứng đáng với công lao Thầy Tôi xin chân thành cảm ơn Ban giám hiệu, phòng Đào tạo trường Đại học Khoa học - Đại học Thái Nguyên quan tâm giúp đỡ suốt thời gian học tập trường Tôi xin cảm ơn q thầy Khoa Tốn - Tin đặc biệt PGS.TS Nguyễn Thị Thu Thủy, trưởng Khoa Tốn - Tin, ln quan tâm, động viên, trao đổi đóng góp ý kiến quý báu suốt q trình học tập, nghiên cứu hồn thành luận văn Cuối cùng, tơi muốn bày tỏ lịng biết ơn sâu sắc tới người thân gia đình, đặc biệt bố mẹ Những người động viên, chia sẻ khó khăn tơi suốt thời gian qua đặc biệt thời gian theo học khóa thạc sỹ trường Đại học Khoa học - Đại học Thái Nguyên Thái Nguyên, ngày 24 tháng năm 2017 Tác giả luận văn d oa nl w nf va an lu z at nh oi lm ul z @ m co l gm Tô Minh Quyết an Lu n va ac th si Bảng ký hiệu lu an n va p ie gh tn to oa nl w trường số thực không gian Euclide n-chiều orthant không âm Rm chuyển vị véc - tơ Karush-Kuhn-Tucker hình cầu đơn vị mở Rn vi phân hàm lồi fi x tập số ràng buộc tích cực gi (x) ≤ 0, gi (x) gi (x) > hàm Lagrange hàm phạt minimax xác tốn tối ưu phạt hàm phạt minimax xác véc - tơ tốn tối ưu véc - tơ phạt d nf va an lu R Rn Rm + T KKT B ∂fi (x) ∧ ∨ I(¯ x) + gi L(x, µ, ν) P∞ (x, c) (P∞ (c)) V P∞ (x, c) (V P∞ (c)) z at nh oi lm ul z m co l gm @ an Lu n va ac th si Mở đầu lu an n va p ie gh tn to Phương pháp hàm phạt xác cho phép đưa tốn tối ưu phi tuyến có ràng buộc tốn tối ưu khơng có ràng buộc cho nghiệm toán tối ưu phạt nghiệm tốn tối ưu có ràng buộc ban đầu Antczak ([2], 2013) nghiên cứu mối quan hệ nghiệm toán tối ưu vơ hướng có ràng buộc nghiệm tốn tối ưu khơng có ràng buộc với hàm mục tiêu hàm phạt minimax xác cận tham số phạt để hai toán tương đương Jayswall Choudhury ([7], 2016) thiết lập định lí điểm n ngựa cho tốn tối ưu véc - tơ có ràng buộc phương pháp hàm phạt minimax xác xác định điều kiện để tốn tối ưu véc - tơ có ràng buộc tương đương với tốn khơng có ràng buộc phương pháp hàm phạt minimax xác Đây đề tài nhiều tác giả quan tâm nghiên cứu Chính vậy, tơi chọn đề tài: "Phương pháp hàm phạt minimax xác cho tốn tối ưu khơng trơn" Mục đích luận văn trình bày phương pháp hàm phạt minimax xác định lí điểm yên ngựa cho toán tối ưu đơn mục tiêu T Antczak (đăng Tạp chí J Optim Theory Appl 159 (2013), 437 - 453) cho toán tối ưu véc - tơ A Jayswal - S Choudhury (đăng Tạp chí J Optim Theory Appl 169 (2016), 179 - 199) có ràng buộc đẳng thức bất đẳng thức Bố cục luận văn gồm phần mở đầu, hai chương trình bày nội dung luận văn, phần kết luận danh mục tài liệu tham khảo d oa nl w nf va an lu z at nh oi lm ul z m co l gm @ an Lu n va ac th si Chương 1: "Cận tham số phạt phương pháp hàm phạt minimax xác cho tốn tối ưu đơn mục tiêu khơng khả vi" trình bày kết Antczak [2] phương pháp hàm phạt minimax xác, tương đương tốn tối ưu có ràng buộc tốn tối ưu khơng có ràng buộc phạt chứng minh tham số phạt lớn giá trị cận Chương 2: "Phương pháp hàm phạt minimax xác định lí điểm n ngựa cho tốn tối ưu véc - tơ lồi khơng trơn" trình bày kết Jayswal - Choudhury [7], phương pháp hàm phạt minimax xác định lí điểm yên ngựa cho tốn tối ưu véc - tơ lồi khơng trơn với hàm Lipschitz địa phương lu an n va p ie gh tn to d oa nl w nf va an lu z at nh oi lm ul z m co l gm @ an Lu n va ac th si Chương Cận tham số phạt phương pháp hàm phạt minimax lu an xác cho tốn tối ưu đơn n va p ie gh tn to mục tiêu không khả vi Các khái niệm kết liên quan an lu 1.1 d oa nl w Chương trình bày phương pháp hàm phạt minimax xác tương đương tốn tối ưu có ràng buộc tốn tối ưu phạt khơng có ràng buộc Các kết trình bày chương T Antczak [2] nf va Hàm f : X → R xác định tập lồi X ⊂ Rn gọi lồi với ∀z, x ∈ R λ ∈ [0, 1], ta có lm ul f (λz + (1 − λ)x) ≤ λf (z) + (1 − λ)f (x) z at nh oi Định nghĩa 1.1.1 Dưới vi phân hàm lồi f : Rn → R x ∈ Rn xác định sau: z gm @ ∂f (x) := {ξ ∈ Rn : f (z) − f (x) ≥ ξ T (z − x), ∀z ∈ Rn } m co l Định nghĩa 1.1.2 Trên vi phân hàm lõm f : Rn → R x ∈ Rn xác định sau: an Lu ∂f (x) := {ξ ∈ Rn : f (z) − f (x) ≤ ξ T (z − x), ∀z ∈ Rn } n va ac th si Nhận xét 1.1.3 Từ định nghĩa hàm lồi f : Rn → R x, suy ra: f (z) − f (x) ≥ ξ T (z − x), ∀ξ ∈ ∂f (x), (1.1) với ∀z ∈ Rn , ∂f (x) kí hiệu vi phân f x Tương tự, với hàm lõm f : Rn → R x, ta có bất đẳng thức: f (z) − f (x) ≤ ξ T (z − x), ∀ξ ∈ ∂f (x), (1.2) với ∀z ∈ Rn Trước chứng minh kết cho toán (P ), ta cần bổ đề sau đây: lu an n va Bổ đề 1.1.4 Giả sử ϕk , k = 1, , p, hàm giá trị thực xác định X ⊂ Rn Với x ∈ X, ta có tn to gh max ϕk (x) = max α∈Ω 1≤k≤p p X αk ϕk (x), p ie k=1 nl w Ω := {α = (α1 , , αp ) ∈ Rp+ : p X αk = 1} oa k=1 d Bài toán cực trị xét toán tối ưu phi tuyến tổng quát có ràng buộc đẳng thức bất đẳng thức: nf va an lu lm ul (P ) f (x), x ∈ D = {x ∈ X : gi (x) ≤ 0, i ∈ I, hj (x) = 0, j ∈ J}, z at nh oi I = {1, , m}, J = {1, , s}, f : X → R gi : X → R, i ∈ I, hj : X → R, j ∈ J hàm Lipschitz địa phương tập khác rỗng X ∈ Rn D tập chấp nhận toán (P ) Để đơn giản ta đưa vào số kí hiệu: g := (g1 , , gm ) : X → Rm h := (h1 , , hs ) : X → Rs Hơn nữa, ta kí hiệu tập số ràng buộc bất đẳng thức tích cực x∈D I(¯ x) := {i ∈ I : gi (¯ x) = 0} z m co l gm @ an Lu n va ac th si Định lý 1.1.5 [9] Giả sử x¯ nghiệm tốn (P ) điều kiện quy thích hợp thỏa mãn x¯ Khi tồn nhận tử Lagrange ¯ ∈ Rm µ λ ¯ ∈ Rs cho ∈ ∂f (¯ x) + m X ¯ i ∂gi (¯ λ x) + i=1 s X µ ¯i ∂hj (¯ x), (1.3) j=1 ¯ i gi (¯ λ x) = 0, i ∈ I, (1.4) ¯ ≥ λ (1.5) lu Định nghĩa 1.1.6 Điểm x¯ ∈ D gọi điểm Karush-Kuhn-Tucker ¯ ∈ Rm µ tốn (P ) tồn nhân tử Lagrange λ ¯ ∈ Rs cho điều kiện cần tối ưu Karush-Kuhn-Tucker (1.3) − (1.5) an n va 1.2 Phương pháp hàm phạt minimax xác to p ie gh tn Năm 1978 Charalambous [4] đưa vào lớp hàm phạt xác không khả vi sau: m X w Pp (x, α, β, c) := f (x) + c s X + p p [αi gi (x)] + [βj |h+ j (x)|] j=1 oa nl i=1 ! p1 d c tham số phạt, p ≥ 1, αi > 0, i = 1, , m, βj > 0, j = 1, , s Với ràng buộc bất đẳng thức gi (x) ≤ 0, hàm gi+ (x) định nghĩa ( 0, gi (x) ≤ 0, (1.6) gi+ (x) := gi (x), gi (x) > nf va an lu z at nh oi lm ul z với x thỏa mãn ràng buộc có giá trị dương ràng buộc bị vi phạm Hơn nữa, vi phạm lớn gi (x) ≤ đạt giá trị gi+ (x) Như hàm gi+ (x) có điểm phạt liên quan với ràng buộc gi (x) ≤ Với p = xét tham số αi , i = 1, , m, βj , j = 1, , s 1, ta nhận hàm phạt xác khơng khả vi gọi hàm phạt xác l1 (ta gọi hàm phạt giá trị tuyệt đối) Phương pháp hàm phạt xác l1 đưa vào Pietrzykowski [8] Đa số tài liệu phương pháp hàm phạt xác khơng khả vi nghiên cứu điều kiện đảm bảo nghiệm tối ưu tốn có ràng buộc cho cực tiểu địa phương tốn với hàm phạt xác khơng có ràng buộc m co l gm @ an Lu n va ac th si 27 Khi đó, ta có fi (˜ x) + c max {gj+ (˜ x), |hk (˜ x)|} 1≤j≤m 1≤k≤q < fi (¯ x) + c max {gj+ (¯ x), |hk (¯ x)|}, ∀i ∈ I (2.5) 1≤j≤m 1≤k≤q Sử dụng tính chấp nhận x¯ (V P ) (2.4), ta nhận max {gj+ (¯ x), |hk (¯ x)|} = (2.6) 1≤j≤m 1≤k≤q Kết hợp với (2.5), ta suy lu an fi (˜ x) + c max {gj+ (˜ x), |hk (˜ x)|} < fi (¯ x), ∀i ∈ I n va 1≤j≤m 1≤k≤q gh tn to Vì c đủ lớn, tức c ≥ c∗ , ta suy ie fi (˜ x) + c∗ max {gj+ (˜ x), |hk (˜ x)|} < fi (¯ x), ∀i ∈ I p 1≤j≤m 1≤k≤q oa nl w Sử dụng (2.6), bất đẳng thức kéo theo d fi (˜ x) + c∗ max {gj+ (˜ x), |hk (˜ x)|} nf va an lu 1≤j≤m 1≤k≤q < fi (¯ x) + c∗ max {gj+ (¯ x), |hk (¯ x)|}, ∀i ∈ I (2.7) Bây giờ, xét hai trường hợp: z at nh oi lm ul 1≤j≤m 1≤k≤q (i) Giả sử c∗ > Khi đó, chia hai vế (2.7) cho c∗ , ta z fi (˜ x) + max {gj+ (˜ x), |hk (˜ x)|} ∗ 1≤j≤m c gm @ 1≤k≤q l fi (¯ x) + max {gj+ (¯ x), |hk (¯ x)|}, ∗ 1≤j≤m c m 1≤k≤q an Lu với i ∈ I (2.8) co < n va ac th si 28 Kí hiệu φr (x) := gr+ (x) r = 1, , m, (2.9) φm+r (x) := |hr (x)| r = 1, , q, µ ¯r γ¯r := ∗ , r = 1, , m, c ν¯r γ¯m+r := ∗ , r = 1, , q c (2.10) (2.11) (2.12) Như vậy, ta có γ¯r ≥ 0, r = 1, , m + q, m+q X γ¯r = (2.13) lu r=1 an Sử dụng (2.9) (2.10), đó, (2.8) có dạng n va (2.14) gh tn to fi (¯ x) fi (˜ x) + max φ (˜ x ) < + max φr (¯ x), ∀i ∈ I r 1≤r≤m+q 1≤r≤m+q c∗ c∗ p ie Sử dụng tính chấp nhận x¯ toán (V P ), (2.9) (2.10), ta nhận φr (¯ x) = 0, r = 1, , m + q oa nl w Hơn nữa, theo Bổ đề 2.2.3, ta có d nf va an lu max φr (˜ x) = max γ¯ ∈Γ 1≤r≤m+q lm ul Như vậy, (2.14) kéo theo m+q z at nh oi Γ = {¯ γ = (γ1 , , γm+q ) ∈ Rm+q + m+q X γ¯r φr (˜ x), r=1 : m+q X γ¯r = 1} r=1 m+q z X X fi (˜ x) fi (¯ x) + max γ ¯ φ (˜ x ) < + max γ¯r φr (¯ x), ∀i ∈ I r r ∗ γ¯ ∈Γ γ¯ ∈Γ c∗ c r=1 r=1 l gm @ m+q m+q m co Khi đó, ta suy an Lu fi (˜ x) X fi (¯ x) X + γ ¯ φ (˜ x ) < + γ¯r φr (¯ x), ∀i ∈ I r r ∗ c∗ c r=1 r=1 n va ac th si 29 Kết hợp với (2.9) − (2.12), ta suy q m X |¯ fi (˜ x) X µ ¯j + νk | fi (¯ x) + g (˜ x ) + |h (˜ x )| < k j c∗ c∗ c∗ c∗ j=1 k=1 + m X µ ¯j c∗ j=1 gj+ (¯ x) + q X |¯ νk | c∗ k=1 |hk (¯ x)|, ∀i ∈ I Theo giả thiết c∗ > Như vậy, ta có fi (˜ x) + m X µ ¯j gj+ (˜ x) + q X j=1 |¯ νk |hk (˜ x)| < fi (¯ x) k=1 lu an n va + m X x) µ ¯j gj+ (¯ + j=1 q X |¯ νk ||hk (¯ x)|, ∀i ∈ I k=1 p ie gh tn to Sử dụng tính chấp nhận x¯ (2.4) bất đẳng thức kéo theo µ ¯j gj (˜ x) + j=1 q X ν¯k hk (˜ x) < fi (¯ x), ∀i ∈ I k=1 nl w fi (˜ x) + m X d oa Khi đó, ta có lu fi (˜ x) + µ ¯T g(˜ x) + ν¯T h(˜ x) < fi (¯ x), ∀i ∈ I nf va an (2.15) z at nh oi lm ul Vì (¯ x, µ ¯, ν¯) điểm yên ngựa (Pareto) toán tối ưu véc - tơ phạt (V P ), theo Định nghĩa 2.1.10 (i), ta có q L(¯ x, µ, ν) L(¯ x, µ ¯, ν¯), ∀µ ∈ Rm + , ∀ν ∈ R Sử dụng định nghĩa hàm Lagrange véc - tơ cho toán (V P ), ta suy z @ l gm f (¯ x) + µT g(¯ x)e + ν T h(¯ x)e f (¯ x) + µ ¯T g(¯ x)e co q +¯ ν T h(¯ x)e, ∀µ ∈ Rm + , ∀ν ∈ R m Từ tính chấp nhận x¯ bất đẳng thức trên, ta có an Lu µT g(¯ x) ≤ µ ¯T g(¯ x), ∀ ∈ Rm + n va ac th si 30 Lấy µ = từ bất đẳng thức trên, ta có µ ¯T g(¯ x) ≥ (2.16) Vì x¯ điểm chấp nhận tốn (V P ), với µ ¯ ∈ Rm +, ta có µ ¯T g(¯ x) ≤ (2.17) Kết hợp (2.16) (2.17) ta suy µ ¯T g(¯ x) = Hơn nữa, ta có h(¯ x) = Do đó, (2.15) ta viết fi (˜ x) + µ ¯T g(˜ x) + ν¯T h(˜ x) < fi (¯ x) + µ ¯T g(¯ x) + ν¯T h(¯ x), ∀i ∈ I lu an Khi đó, va n f (˜ x) + µ ¯T g(˜ x)e + ν¯T h(˜ x)e < f (¯ x) + µ ¯T g(¯ x)e + ν¯T h(¯ x)e ie gh tn to Theo định nghĩa hàm Lagrange véc - tơ, ta có p L(˜ x, µ ¯, ν¯) < L(¯ x, µ ¯, ν¯) w oa nl Điều mâu thuẫn với Định nghĩa 2.1.10 (ii) điểm yên ngựa (Pareto) d (ii) Giả sử c∗ = Khi đó, (2.7) trở thành (2.18) nf va an lu fi (˜ x) < fi (¯ x), ∀i ∈ I z at nh oi lm ul Vì µ ¯ ∈ Rm νk | ≥ 0, c∗ = kéo theo µ ¯j = 0, ∀j ∈ J + |¯ ν¯k = 0, ∀k ∈ K Như vậy, (2.18) viết fi (˜ x) + µ ¯T g(˜ x) + ν¯T h(˜ x) < fi (¯ x) + µ ¯T g(¯ x) + ν¯T h(¯ x), ∀i ∈ I z Khi đó, @ l gm f (˜ x) + µ ¯T g(˜ x)e + ν¯T h(˜ x)e < f (¯ x) + µ ¯T g(¯ x)e + ν¯T h(¯ x)e m co Từ định nghĩa hàm Lagrange véc - tơ, bất đẳng thức kéo theo an Lu L(˜ x, µ ¯, ν¯) < L(¯ x, µ ¯, ν¯) n va Điều mâu thuẫn Định nghĩa 2.1.10 (ii) điểm yên ngựa (Pareto) Định lý chứng minh  ac th si 31 Ví dụ 2.2.5 Xét tốn tối ưu véc - tơ sau: (VP1) f (x) = (x21 + |x1 | + x22 , 2x21 + x2 ) g1 (x) = x22 − x2 ≤ 0, g2 (x) = x22 (x21 − 3x1 + 2) ≤ 0, h(x) = x1 (x1 − x2 − 1) = fi : X → R, i = 1, 2, gj : X → R, j = 1, 2, h : X → R hàm Lipschitz địa phương X = (−1.2) × (− , 1) Tập điểm chấp nhận (V P 1) D = {x = (x1 , x2 ) ∈ X : ≤ x2 ≤ ∧ {x2 = ∨ ≤ x1 ≤ 2} lu ∧ {x1 = ∨ x1 = x2 + 1}} an n va V P∞ (x, c) =(x21 + |x1 | + x22 + c max{max{0, x22 − x2 }, max{0, x22 (x21 − 3x1 + 2)}, |x1 (x1 − x2 − 1)|}, p ie gh tn to Bài toán tối ưu véc - tơ không ràng buộc phạt (V P 1∞ (c)) với hàm phạt minimax xác xây dựng sau: w 2x21 + x2 + c max{max{0, x22 − x2 }, d oa nl max{0, x22 (x21 − 3x1 + 2)}, |x1 (x1 − x2 − 1)|}) nf va an lu Rõ ràng, x¯ = (0, 0) điểm chấp nhận toán tối ưu véc - tơ (V P 1) Hàm Lagrange véc - tơ cho lm ul L(x, µ, ν) =(x21 + |x1 | + x22 + µ1 (x22 − x2 ) z at nh oi + µ2 x22 (x21 − 3x1 + 2) + νx1 (x1 − x2 − 1), 2x21 + x2 + µ1 (x22 − x2 ) + µ2 x22 (x21 − 3x1 + 2) + νx1 (x1 − x2 − 1)) z x, µ ¯, ν¯) µ = (µ1 , µ2 ) ∈ R2+ , ν ∈ R e = (1, 1) Dễ kiểm tra (¯ điểm yên ngựa (Pareto) toán tối ưu véc - tơ (V P 1), ≤ µ ¯1 ≤ X 1, µ ¯2 = −1 ≤ ν¯ ≤ Vì vậy, theo Định lý 2.2.4, với c ≥ µ ¯j + |ν| = 2, m co l gm @ j=1 an Lu x¯ nghiệm hữu hiệu yếu tốn khơng ràng buộc phạt (V P 1∞ (c)) với hàm phạt minimax xác n va ac th si 32 Mệnh đề 2.2.6 Giả sử x¯ nghiệm hữu hiệu yếu toán tối ưu véc tơ không ràng buộc phạt (V P∞ (¯ c)) với hàm phạt minimax xác Khi đó, khơng tồn x ∈ D cho f (x) < f (¯ x) Chứng minh Vì x¯ nghiệm hữu hiệu yếu toán tối ưu véc - tơ không ràng buộc phạt (V P∞ (¯ c)) với hàm phạt minimax xác, khơng tồn x ∈ X cho V P∞ (x, c¯) < V P∞ (¯ x, c¯) Từ định nghĩa (V P∞ (c)), bất đẳng thức kéo theo không tồn x ∈ X cho lu an f (x) + c¯ max {gj+ (x), |hk (x)|}e < f (¯ x) + c¯ max {gj+ (¯ x), |hk (¯ x)|}e 1≤j≤m 1≤k≤q n va 1≤j≤m 1≤k≤q to gh tn Khi đó, ta suy không tồn x ∈ X cho ie fi (x) + c¯ max {gj+ (x), |hk (x)|} p 1≤j≤m 1≤k≤q w 1≤j≤m 1≤k≤q d oa nl x), |hk (¯ x)|}, ∀i ∈ I < fi (¯ x) + c¯ max {gj+ (¯ nf va an lu Vì D ⊆ X, bất đẳng thức kéo theo không tồn x ∈ D cho fi (x) + c¯ max {gj+ (x), |hk (x)|} lm ul 1≤j≤m 1≤k≤q z at nh oi < fi (¯ x) + c¯ max {gj+ (¯ x), |hk (¯ x)|}, ∀i ∈ I 1≤j≤m 1≤k≤q Điều tương đương với x ∈ D, tồn i ∈ I cho z @ gm fi (x) + c¯ max {gj+ (x), |hk (x)|} ≥ fi (¯ x) + c¯ max {gj+ (¯ x), |hk (¯ x)|} 1≤j≤m 1≤k≤q co l 1≤j≤m 1≤k≤q Vì x ∈ D, sử dụng (2.4), ta có với x ∈ D, tồn i ∈ I cho m 1≤j≤m 1≤k≤q an Lu fi (x) ≥ fi (¯ x) + c¯ max {gj+ (¯ x), |hk (¯ x)|} n va ac th si 33 Từ (2.4), ta suy với x ∈ D, tồn i ∈ I cho fi (x) ≥ fi (¯ x) Một cách tương đương, không tồn x ∈ X cho f (x) < f (¯ x)  Mệnh đề chứng minh lu Định lý 2.2.7 Giả sử x¯ nghiệm hữu hiệu yếu tốn tối ưu véc tơ khơng ràng buộc phạt (V P∞ (¯ c)) với hàm phạt minimax xác Giả sử an n va (i) D tập compact Rn , tn to (ii) V P∞ (x, c) ≮ V P∞ (¯ x, c) thỏa mãn với x ∈ D c > c¯ p ie gh Khi đó, x¯ nghiệm hữu hiệu yếu toán tối ưu véc - tơ (V P ) Hơn nữa, giả sử hàm mục tiêu f ràng buộc bất đẳng thức gj , j ∈ J(¯ x), ràng buộc đẳng thức hk , k ∈ K + (¯ x) = {k ∈ K : ν¯k > 0} lồi X, hàm ràng buộc hk , k ∈ K − (¯ x) = {k ∈ K : ν¯k < 0} lõm X Khi đó, (¯ x, µ ¯, ν¯) điểm n ngựa (Pareto) toán tối ưu véc - tơ (V P ) d oa nl w lu nf va an Chứng minh Vì x¯ nghiệm hữu hiệu yếu tốn tối ưu véc - tơ khơng ràng buộc phạt (V P∞ (¯ c)) với hàm phạt minimax xác, cho nên, từ Mệnh đề 2.2.6, khơng tồn x ∈ D cho z at nh oi lm ul f (x) < f (¯ x) (2.19) z Một cách tương đương, với x ∈ D, tồn i ∈ I cho gm @ fi (x) ≥ fi (¯ x) (2.20) l m co Trước hết, ta x¯ điểm chấp nhận toán tối ưu véc - tơ (V P ) Giả sử, ngược lại, x¯ điểm không chấp nhận toán (V P ) Từ (2.4), ta suy max {gj+ (¯ x), |hk (¯ x)|} > (2.21) an Lu n va 1≤j≤m 1≤k≤q ac th si 34 Giả sử xˆ điểm chấp nhận tốn tối ưu (V P ) Từ giả thiết (ii), với c > c¯, ta có V P∞ (ˆ x, c) ≮ V P∞ (¯ x, c) Từ định nghĩa (V P∞ (¯ c)), ta suy f (ˆ x) + c max {gj+ (ˆ x), |hk (ˆ x)|}e ≮ f (¯ x) + c max {gj+ (¯ x), |hk (¯ x)|}e 1≤j≤m 1≤k≤q 1≤j≤m 1≤k≤q Từ đó, suy tồn i ∈ I cho fi (ˆ x) + c max {gj+ (ˆ x), |hk (ˆ x)|} lu 1≤j≤m 1≤k≤q an va n ≥ fi (¯ x) + c max {gj+ (¯ x), |hk (¯ x)|} (2.22) tn to 1≤j≤m 1≤k≤q ie gh Mặt khác, ta lấy p ( w c > max ) fi (x) − fi (¯ x) , c¯; x ∈ D, i ∈ I + max {gj (¯ x), |hk (¯ x)|} (2.23) d oa nl 1≤j≤m 1≤k≤q nf va an lu Vì D tập compact Rn , từ (2.20), (2.21) (2.23) ta suy c số thực dương hữu hạn Như vậy, 1≤j≤m 1≤k≤q Khi đó, z at nh oi lm ul c max {gj+ (¯ x), |hk (¯ x)|} > fi (ˆ x) − fi (¯ x), ∀i ∈ I fi (¯ x) + c max {gj+ (¯ x), |hk (¯ x)|} > fi (ˆ x), ∀i ∈ I (2.24) z 1≤j≤m 1≤k≤q @ m 1≤j≤m 1≤k≤q co l gm Sử dụng tính chấp nhận xˆ toán tối ưu véc - tơ (V P ) (2.4), ta có c max {gj+ (ˆ x), |hk (ˆ x)|} = (2.25) an Lu n va ac th si 35 Từ (2.24) (2.25), ta suy fi (¯ x) + c max {gj+ (¯ x), |hk (¯ x)|} 1≤j≤m 1≤k≤q > fi (ˆ x) + c max {gj+ (ˆ x), |hk (ˆ x)|}, ∀i ∈ I 1≤j≤m 1≤k≤q lu an n va gh tn to Điều mâu thuẫn với (2.22) Vì vậy, x¯ điểm chấp nhận toán tối ưu véc - tơ (V P ) Như vậy, từ (2.19), ta kết luận x¯ nghiệm hữu hiệu yếu toán (V P ) Bây giờ, ta (¯ x, µ ¯, ν¯) điểm yên ngựa (Pareto) tốn (V P ) Vì x¯ nghiệm hữu hiệu yếu toán tối ưu véc - tơ (V P ), tồn ¯ ∈ Rp+ , µ nhân tử Lagrange λ ¯ ∈ Rm ¯ ∈ Rq cho điều kiện KKT + ν thỏa mãn x¯ Từ điều kiện KKT (2.2) tính chấp nhận x¯ (V P ), ta có µT g(¯ x) ≤ µ ¯T g(¯ x), ∀µ ∈ Rm + p ie Khi đó, ta có nl w f (¯ x) + µT g(¯ x)e + ν T h(¯ x)e f (¯ x) d oa +¯ µT g(¯ x)e + ν¯T h(¯ x)e, ∀µ ∈ Rm ¯ ∈ Rq +, ν lu nf va an Từ định nghĩa hàm Lagrange véc - tơ, bất đẳng thức kéo theo q L(¯ x, µ, ν) L(¯ x, µ ¯, ν¯), ∀µ ∈ Rm + , ∀ν ∈ R (2.26) lm ul z at nh oi Ta chứng minh Định nghĩa 2.1.10 (ii) điểm yên ngựa (Pareto) (V P ) Giả sử ngược lại L(x, µ ¯, ν¯) < L(¯ x, µ ¯, ν¯), ∀x ∈ X z @ l gm Từ định nghĩa hàm Lagrange véc - tơ, ta nhận f (x) + µ ¯T g(x)e + ν¯T h(x)e < f (¯ x) + µ ¯T g(¯ x)e + ν¯T h(¯ x)e, ∀x ∈ X m co k=1 ν¯k hk (x) < fi (¯ x) + m X j=1 µ ¯j gj (¯ x) + q X k=1 ν¯k hk (¯ x), n j=1 µ ¯j gj (x) + q X va fi (x) + m X an Lu Khi đó, ta có ac th si 36 với x ∈ X i ∈ I Nhân hai vế bất đẳng thức với ¯ i , i ∈ I, ta λ ¯ i fi (x) + λ ¯i λ m X ¯i µ ¯j gj (x) + λ j=1 ¯ i fi (¯ ¯i ≤λ x) + λ , q X ν¯k hk (x) k=1 m X ¯i µ ¯j gj (¯ x) + λ j=1 q X ν¯k hk (¯ x), k=1 với x ∈ X i ∈ I, bất đẳng thức chặt với i ∈ I p X ¯ i = 1, ta suy λ Lấy tổng theo i ∈ I sử dụng điều kiện KKT lu i=1 an n va p X ¯ i fi (x) + λ µ ¯j gj (x) + j=1 gh tn to i=1 m X < p X q X ν¯k hk (x) k=1 ie ¯ i fi (¯ λ x) + p i=1 m X µ ¯j gj (¯ x) + j=1 q X ν¯k hk (¯ x) (2.27) k=1 d oa nl w với x ∈ X Mặt khác, theo giả thiết, fi , i ∈ I, gj , j ∈ J(¯ x), hk , k ∈ K + (¯ x) lồi − X, hk , k ∈ K (¯ x) lõm X Do đó, ta có an lu (2.28) gj (x) − gj (¯ x) ≥ ξˆjT (x − x¯), ∀ξˆj ∈ ∂gj (¯ x), j ∈ J(¯ x), (2.29) nf va fi (x) − fi (¯ x) ≥ ξiT (x − x¯), ∀ξj ∈ ∂fi (¯ x), i ∈ I, lm ul (2.30) hk (x) − hk (¯ x) ≤ ξ˜kT (x − x¯), ∀ξ˜k ∈ ∂hk (¯ x), k ∈ K − (¯ x) (2.31) z at nh oi hk (x) − hk (¯ x) ≥ ξ˜kT (x − x¯), ∀ξ˜k ∈ ∂hk (¯ x), k ∈ K + (¯ x), z với x ∈ X ¯ i , i ∈ I, µ Nhân (2.28) − (2.31) với nhân tử Lagrange tương ứng λ ¯j , j ∈ J(¯ x), ν¯k , k ∈ K + (¯ x) ∪ K − (¯ x), ta có l gm @ (2.32) µ ¯j gj (x) − µ ¯j gj (¯ x) ≥ µ ¯j ξˆjT (x − x¯), ∀ξˆj ∈ ∂gj (¯ x), j ∈ J(¯ x), (2.33) m co ¯ i fi (x) − λ ¯ i fi (¯ ¯ i ξ T (x − x¯), ∀ξi ∈ ∂fi (¯ λ x) ≥ λ x), i ∈ I, i an Lu n va ν¯k hk (x) − ν¯k hk (¯ x) ≥ ν¯k ξ˜kT (x − x¯), ∀ξ˜k ∈ ∂hk (¯ x), k ∈ K + (¯ x) ∪ K − (¯ x) (2.34) ac th si 37 với x ∈ X Lấy tổng theo i ∈ I, j ∈ J(¯ x), k ∈ K + (¯ x) ∪ K − (¯ x) hai vế (2.32) − (2.34), tương ứng, sau cộng bất đẳng thức, ta X X X X ¯ i fi (x) − ¯ i fi (¯ λ λ x) + µ ¯j gj (x) − µ ¯j gj (¯ x) i∈I i∈I j∈J(¯ x) X + j∈J(¯ x) X ν¯k hk (x) − k∈K + (¯ x)∪K − (¯ x) ν¯k hk (¯ x) k∈K + (¯ x)∪K − (¯ x) " X ≥ X ¯iξ T + λ i i∈I  ν¯k ξ˜kT (x − x¯), X µ ¯j ξˆjT + k∈K + (¯ x)∪K − (¯ x) j∈J(¯ x) lu an n va p X ¯ i fi (x) − λ p X ie gh tn to ξi ∈ ∂fi (¯ x), i ∈ I, ξˆj ∈ ∂gj (¯ x), j ∈ J(¯ x), ξ˜k ∈ ∂hk (¯ x), k ∈ K + (¯ x) ∪ K − (¯ x), x ∈ X Sử dụng nhân tử Lagrange bất đẳng thức kéo theo i=1 p i=1 " w ν¯k hk (¯ x) ≥ oa k=1 m X µ ¯j gj (x) − j=1 p X nl − q X ¯ i fi (¯ λ x) + m X ¯iξ T λ i + m X i=1 µ ¯j gj (¯ x) + j=1 µ ¯j ξˆjT + j=1 q X q X ν¯k hk (x) k=1 ν¯k ξ˜kT  (x − x¯), ∀x ∈ X k=1 d i=1 ¯ i fi (¯ λ x) + lm ul ¯ i fi (x) − λ i=1 m X µ ¯j gj (¯ x) + j=1 q X m X j=1 ν¯k hk (x) − k=1 ν¯k hk (¯ x) ≥ k=1 @ q p q m m X X X X X ¯ i fi (x)+ ¯ i fi (¯ λ µ ¯j gj (x)+ ν¯k hk (x) ≥ λ x)+ µ ¯j gj (¯ x)+ ν¯k hk (¯ x) k=1 i=1 j=1 k=1 m co j=1 l gm i=1 q X z Khi đó, bất đẳng thức sau tương đương p X µ ¯j gj (x) z at nh oi − p X nf va p X an lu Bằng cách sử dụng điều kiện KKT (2.1), ta thu an Lu với x ∈ X, mâu thuẫn với (2.27) Vì vậy, ta kết luận (¯ x, µ ¯, ν¯) điểm yên ngựa (Pareto) toán tối ưu véc - tơ (V P ) Định lý chứng minh  n va ac th si 38 Mệnh đề 2.2.8 Giả sử x¯ nghiệm hữu hiệu toán không ràng buộc phạt (V P∞ (¯ c)) với hàm phạt minimax xác Khi đó, khơng tồn x ∈ D cho f (x) ≤ f (¯ x.) Chứng minh Chứng minh tương tự Mệnh đề 2.2.6  Định lý 2.2.9 Giả sử x¯ nghiệm hữu hiệu yếu tốn khơng ràng buộc phạt (V P∞ (¯ c)) với hàm phạt minimax xác Giả sử (i) D tập compact Rn , (ii) V P∞ (x, c) ≮ V P∞ (¯ x, c) thỏa mãn với x ∈ D c > c¯ lu an n va p ie gh tn to Khi đó, x¯ nghiệm hữu hiệu tốn tối ưu véc - tơ (V P ) Hơn nữa, giả sử hàm mục tiêu f ràng buộc bất đẳng thức gj , j ∈ J(¯ x), ràng buộc đẳng thức hk , k ∈ K + (¯ x) = {k ∈ K : ν¯k > 0} lồi − X, hàm ràng buộc hk , k ∈ K (¯ x) = {k ∈ K : ν¯k < 0} lõm X Khi đó, (¯ x, µ ¯, ν¯) điểm yên ngựa (Pareto) toán tối ưu véc - tơ (V P ) nl w Chứng minh Chứng minh tương tự Định lý 2.2.7 d oa  f (x) = (x21 + 2|x1 | + 4, ex2 + 2|x2 | + 1) nf va (VP1) an lu Ví dụ 2.2.10 Xét toán tối ưu véc - tơ sau: lm ul g1 (x) = 3x21 − x1 ≤ 0, g2 (x) = 4x22 − x2 ≤ 0, z at nh oi h(x) = x1 − x2 = z fi : X → R, i = 1, 2, gj : X → R, j = 1, 2, h : X → R hàm Lipschitz địa phương X = (−1, 1) × (−1, 1) Tập tất điểm chấp nhận (V P 2) cho 1 ∧ ≤ x2 ≤ ∧ x1 = x2 } m co l D compact X gm @ D = {x = (x1 , x2 ) ∈ X : ≤ x1 ≤ an Lu n va ac th si 39 Bài tốn tối ưu véc - tơ khơng ràng buộc phạt (V P 2∞ (¯ c)) với hàm phạt minimax xác xây dựng sau: V P∞ (x, c¯) =(x21 + 2|x1 | + + c¯ max{max{0, 3x21 − x1 }, max{0, 4x22 − x2 }, |x1 − x2 |}, ex2 + 2|x2 | + + c¯ max{max{0, 3x21 − x1 }, max{0, 4x22 − x2 }, |x1 − x2 |}) Rõ ràng, x¯ = (0, 0) nghiệm hữu hiệu tốn tối ưu véc - tơ khơng ràng buộc phạt (V P 2∞ (¯ c)) với hàm phạt minimax xác, c¯ = Khi đó, với x ∈ D c > c¯, lu an V P∞ (x, c) = (x21 + 2|x1 | + 4, ex2 + 2|x2 | + 1) n va to gh tn V P∞ (¯ x, c) = (4, 2) p ie Như vậy, ta suy V P∞ (x, c) ≮ V P∞ (¯ x, c), ∀x ∈ D c > c¯ Do đó, theo Định lý 2.2.9, x¯ = (0, 0) nghiệm hữu hiệu toán tối ưu véc - tơ gốc (V P 2) Hàm Lagrange véc - tơ cho d oa nl w an lu L(x, µ, ν) =(x21 + 2|x1 | + + µ1 (3x21 − x1 ) nf va + µ2 (4x22 − x2 ) + ν(x1 − x2 ), ex2 + 2|x2 | + lm ul + µ1 (3x21 − x1 ) + µ2 (4x22 − x22 ) + ν(x1 − x2 )) z at nh oi µ = (µ1 , µ2 ) ∈ R2+ , ν ∈ R e = (1, 1) Vì giả thiết Định lý 2.2.9 thỏa mãn, nên (¯ x, µ ¯, ν¯) điểm yên ngựa (Pareto) toán tối ưu véc - tơ (V P 2), µ ¯1 = ν¯ + 1, µ ¯2 = − ν¯ −1 ≤ ν¯ ≤ z m co l gm @ Định lý 2.2.11 Giả sử x¯ điểm chấp nhận toán tối ưu véc - tơ (V P ) cho điều kiện cần KKT (2.1)−(2.3) thỏa mãn x¯ với nhân tử ¯ ∈ Rk , µ Lagrange λ ¯ ∈ Rm ν¯ ∈ Rq Giả sử hàm mục tiêu f ràng buộc bất đẳng thức gj , j ∈ J(¯ x), ràng buộc đẳng thức hk , k ∈ K + (¯ x) = {k ∈ K : − ν¯k > 0} lồi X, hàm ràng buộc hk , k ∈ K (¯ x) = {k ∈ K : ν¯k < 0} lõm X an Lu n va ac th si 40 Hơn nữa, tham số phạt c giả định đủ lớn (tức c ≥ m X µ ¯j + j=1 q X |¯ νk |), x¯ nghiệm hữu hiệu yếu toán tối ưu véc - tơ không ràng k=1 buộc phạt (V P∞ (c)) với hàm phạt minimax xác Chứng minh Trước hết, ta (¯ x, µ ¯, ν¯) điểm yên ngựa (Pareto) toán tối ưu véc - tơ (V P ) Vì x¯ điểm chấp nhận toán tối ưu véc - tơ (V P ) thỏa mãn điều kiện cần KKT, thế, từ điều kiện KKT (2.2) tính chấp nhận x¯ (V P ), ta có lu an µT g(¯ x) ≤ µ ¯T g(¯ x), ∀µ ∈ Rm + n va Từ đó, ta suy tn to ie gh f (¯ x) + µT g(¯ x)e + ν T h(¯ x)e f (¯ x) p +¯ µT g(¯ x)e + ν¯T h(¯ x)e, ∀µ ∈ Rm ¯ ∈ Rq +, ν w oa nl Từ định nghĩa hàm Lagrange véc - tơ, bất đẳng thức kéo theo q L(¯ x, µ, ν) L(¯ x, µ ¯, ν¯), ∀µ ∈ Rm + , ∀ν ∈ R d (2.35) an lu nf va Vì fi , i ∈ I, gj , j ∈ J(¯ x), hk , k ∈ K + (¯ x) lồi X, hk , k ∈ K − (¯ x) lõm X, cho nên, tương tự Định lý 2.2.7, ta có i=1 i=1 " ν¯k hk (¯ x) ≥ m X m X µ ¯j gj (x) − j=1 p X j=1 µ ¯j ξˆjT + q X q X ν¯k hk (x) k=1  ν¯k ξ˜kT (x − x¯), ∀x ∈ X k=1 gm i=1 ¯iξ T + λ i m X µ ¯j gj (¯ x) + j=1 @ k=1 ¯ i fi (¯ λ x) + z − q X p X z at nh oi ¯ i fi (x) − λ lm ul p X m co l Từ giả thiết, điều kiện cần KKT (2.1) − (2.3) thỏa mãn x¯ Như vậy, sử dụng điều kiện KKT (2.1), bất đẳng thức kéo theo an Lu n va ac th si 41 p X ¯ i fi (x) − λ p X ¯ i fi (¯ λ x) + − m X µ ¯j gj (¯ x) + µ ¯j gj (x) j=1 i=1 i=1 m X q X j=1 ν¯k hk (x) − k=1 q X ν¯k hk (¯ x) ≥ 0, k=1 với x ∈ X Bây giờ, sử dụng điều kiện KKT (2.3), tức là, p X ¯ i = 1, λ i=1 lu bất đẳng thức viết sau ( p q m X X X ¯ λi (fi (x) + µ ¯j gj (x) + ν¯k hk (x)) an i=1 j=1 va n −(fi (¯ x) + m X k=1 to µ ¯j gj (¯ x) + tn j=1 q X ) ν¯k hk (¯ x)) ≥ 0, ∀x ∈ X k=1 p ie gh ¯ i > với phần tử i ∈ I Từ điều kiện KKT (2.3), ta suy λ Từ suy ! q m X X fi (x) + µ ¯j gj (x) + ν¯k hk (x) oa nl w d j=1 an lu m X nf va − fi (¯ x) + k=1 µ ¯j gj (¯ x) + j=1 q X ! ≥ 0, ν¯k hk (¯ x) k=1 lm ul z at nh oi với i ∈ I với x ∈ X Như vậy, ta nhận f (x) + µ ¯T g(x)e + ν¯T h(x)e ≮ f (¯ x) + µ ¯T g(¯ x)e + ν¯T h(¯ x)e, ∀x ∈ X z gm @ Từ định nghĩa hàm Lagrange véc - tơ, ta suy L(x, µ ¯, ν¯) ≮ L(¯ x, µ ¯, ν¯), ∀x ∈ X co l (2.36) m Từ (2.35) (2.36), ta suy (¯ x, µ ¯, ν¯) điểm yên ngựa (Pareto) toán tối ưu véc - tơ (V P ) Vì vậy, sử dụng Định lý 2.2.4, ta kết luận x¯ nghiệm hữu hiệu yếu toán tối ưu véc - tơ không ràng buộc phạt (V P∞ (c)) Định lý chứng minh  an Lu n va ac th si