(Luận văn) từ bài toán quy hoạch toàn phương đến bất đẳng thức biến phân affine

ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KHOA HỌC NGUYỄN THỊ SIM lu an TỪ BÀI TỐN QUY HOẠCH TỒN PHƯƠNG va n ĐẾN BẤT ĐẲNG THỨC BIẾN PHÂN AFFINE p ie gh tn to nl w d oa LUẬN VĂN THẠC SĨ TOÁN HỌC nf va an lu z at nh oi lm ul z m co l gm @ an Lu Thái Nguyên - 2017 n va ac th si ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KHOA HỌC NGUYỄN THỊ SIM TỪ BÀI TOÁN QUY HOẠCH TOÀN PHƯƠNG ĐẾN BẤT ĐẲNG THỨC BIẾN PHÂN AFFINE lu an n va Toán ứng dụng Mã số: 60 46 01 12 p ie gh tn to Chuyên ngành: w d oa nl LUẬN VĂN THẠC SĨ TOÁN HỌC nf va an lu lm ul NGƯỜI HƯỚNG DẪN KHOA HỌC z at nh oi GS.TSKH LÊ DŨNG MƯU z m co l gm @ an Lu n va Thái Nguyên - 2017 ac th si i Mục lục lu Lời nói đầu Kiến thức chuẩn bị 1.1 Tập lồi 1.1.1 Tập affine bao affine 4 1.1.2 Tập lồi, nón lồi bao lồi 1.1.3 Điểm cực biên, phương lùi xa, nón lùi xa phương cực biên Các định lý tách tập lồi Tập lồi đa diện 1.1.6 Hàm lồi tính chất Hàm toàn phương 10 12 an Bảng ký hiệu n va p ie gh tn to d oa nl w 1.1.4 1.1.5 Hàm toàn phương 13 z at nh oi 12 lm ul 1.2.2 Ma trận xác định dương ma trận nửa xác định dương nf va 1.2.1 an lu 1.2 Bài tốn quy hoạch tồn phương 15 2.1 15 15 z Giới thiệu toán tồn nghiệm 2.1.1 Định nghĩa tốn quy hoạch tồn phương Các dạng toán quy hoạch toàn phương Điều kiện tồn nghiệm 17 17 Điều kiện tối ưu (Điều kiện Karush-Kuhn-Tucker (KKT)) 29 m co l gm 2.2 @ 2.1.2 2.1.3 Bài toán bất đẳng thức biến phân affine 3.1 an Lu 31 Giới thiệu toán 31 n va ac th si ii 3.1.1 Bất đẳng thức biến phân 31 3.2 3.1.2 Bất đẳng thức biến phân affine 32 Sự tồn nghiệm toán bất đẳng thức biến phân affine 36 3.3 Giải tốn quy hoạch tồn phương cách đưa toán bất đẳng thức biến phân affine 40 Kết luận 44 Tài liệu tham khảo 45 lu an n va p ie gh tn to d oa nl w nf va an lu z at nh oi lm ul z m co l gm @ an Lu n va ac th si Bảng ký hiệu lu an n va tập số thực tích vô hướng hai vectơ x y kxk chuẩn vectơ x I A ⊆ Rn ánh xạ đơn vị A tập Rn dim A af f E số chiều tập A bao affine E cone E coA bao nón sinh E bao lồi tập A p ie gh tn to R hx, yi d oa nl w nf va an lu z at nh oi lm ul z m co l gm @ an Lu n va ac th si Lời nói đầu Bài tốn quy hoạch tồn phương lồi lớp toán quan trọng tối ưu tốn có nhiều ứng dụng thực tế Bài toán bất đẳng thức biến phân lớp toán quan trọng lu Một lớp toán bất đẳng thức biến phân hay xét toán bất đẳng thức biến phân affine Có thể nói tốn bất đẳng thức biến phân affine an n va dạng tổng quát tốn quy hoạch tồn phương với ràng buộc lồi tn to Trong luận văn xét đến mối quan hệ tốn quy hoạch tồn phương với ràng buộc lồi với toán bất đẳng thức biến phân Ta nhận thấy p ie gh toán quy hoạch tồn phương lồi mơ tả toán bất đẳng thức biến phân đơn điệu Tuy nhiên, khơng phải tốn bất đẳng oa nl w thức biến phân affine sinh từ tốn quy hoạch tồn phương Qua ta thấy phát triển từ tốn quy hoạch tồn phương đến bất đẳng d thức biến phân affine Cụ thể luận văn gồm ba chương: an lu nf va Chương 1: Kiến thức chuẩn bị Trình bày số kiến thức tập lồi, hàm lồi hàm toàn phương như: tập affine bao affine; tập lm ul lồi, nón lồi bao lồi; điểm cực biên, phương lùi xa, nón lùi xa phương z at nh oi cực biên; định lý tách tập lồi; tập lồi đa diện; hàm lồi tính chất; hàm tồn phương z Chương 2: Bài tốn quy hoạch tồn phương Trình bày định nghĩa tốn quy hoạch tồn phương, dạng tốn, điều kiện tồn nghiệm @ co l gm điều kiện tối ưu tốn quy hoạch tồn phương Chương 3: Bài toán bất đẳng thức biến phân affine Giới thiệu m toán bất đẳng thức biến phân affine, điều kiện tồn nghiệm toán bất đẳng thức biến phân affine phương pháp giải tốn quy hoạch an Lu tồn phương cách đưa toán bất đẳng thức biến phân affine n va ac th si Luận văn thực Trường Đại học Khoa học – Đại học Thái Nguyên hoàn thành hướng dẫn GS TSKH Lê Dũng Mưu Tác giả xin bày tỏ lòng biết ơn chân thành sâu sắc tới người hướng dẫn khoa học mình, người đặt vấn đề nghiên cứu, dành nhiều thời gian hướng dẫn tận tình giải đáp thắc mắc tác giả suốt trình làm luận văn Tác giả học tập nhiều kiến thức chun ngành bổ ích cho cơng tác nghiên cứu thân Tác giả xin bày tỏ lòng cảm ơn sâu sắc tới thầy giáo, cô giáo tham gia giảng dạy lớp Cao học Toán K9Y (khóa 2015–2017); Nhà trường phịng chức Trường; Khoa Toán – Tin, trường Đại học Khoa học – Đại học Thái Nguyên quan lu tâm giúp đỡ tác giả suốt thời gian học tập trường an Tác giả xin gửi lời cảm ơn tới tập thể lớp Cao học Tốn K9Y (khóa 2015–2017) động viên giúp đỡ tác giả nhiều trình n va gh tn to học tập, nghiên cứu Cuối cùng, xin gửi lời cảm ơn chân thành tới gia đình, bạn bè, lãnh p ie đạo đơn vị công tác đồng nghiệp động viên, giúp đỡ tạo điều kiện tốt cho học tập nghiên cứu w oa nl Thái Nguyên, ngày 05 tháng năm 2017 d Tác giả luận văn nf va an lu z at nh oi lm ul Nguyễn Thị Sim z m co l gm @ an Lu n va ac th si Chương Kiến thức chuẩn bị Chương trình bày số kiến thức tập lồi, hàm lồi, lu an hàm toàn phương Cụ thể: Mục 1.1 giới thiệu khái niệm tập lồi, hàm lồi Mục 1.2 trình bày định nghĩa hàm toàn phương Các kiến thức chương va n viết sở tổng hợp từ tài liệu [1], [2] [3] gh tn to Tập lồi p ie 1.1 Tập affine bao affine nl w 1.1.1 d oa Cho x1 , x2 hai điểm Rn Đường thẳng qua x1 , x2 tập tất
điểm x ∈ Rn có dạng x = (1 − λ ) x1 + λ x2 = x1 + λ x2 − x1 với λ ∈ R an lu nf va Định nghĩa 1.1.1 Tập A ⊆ Rn gọi tập affine (hay đa tạp tuyến tính) lm ul (1 − λ ) x + λ y ∈ A ∀x, y ∈ A ∀λ ∈ R z at nh oi Nhận xét 1.1.1 Nếu A tập affine, với z a ∈ Rn , A + a = {x + a : x ∈ A} l gm @ tập affine m co Mệnh đề 1.1.1 Tập M ⊂ Rn không gian tập affine an Lu chứa Nghĩa là, x, y ∈ M điểm λ x + µy thuộc M với λ , µ ∈ R n va ac th si Định lý 1.1.1 Mỗi tập affine A không rỗng tập affine A = a + L a ∈ A L không gian Chứng minh Giả sử A tập affine a ∈ A Khi đó, A = a + L với L = −a + A Do −a ∈ Rn nên L = −a + A tập affine Hơn nữa, ∈ L (vì a ∈ A) nên L không gian Ngược lại, giả sử A = a + L với a ∈ A L không gian Do không gian L tập affine nên A = a + L tập affine Không gian L nói gọi khơng gian song song với tập affine A: A//M Nó xác định cách  lu Định nghĩa 1.1.2 Chiều (thứ nguyên) tập affine A không rỗng định nghĩa chiều không gian song song với Kí hiệu an n va dimA p ie gh tn to Chú ý 1.1.1 Quy ước: dim∅ = −1 Giả sử L không gian Rn , phần bù trực giao L xác định sau: L⊥ = {x ∈ Rn : x⊥y, ∀y ∈ L}, x⊥y ⇔ (x, y) =
⊥ Khi đó, tập L⊥ khơng gian dim L+dim L⊥ = n, L⊥ = L oa nl w d Định nghĩa 1.1.3 Tập affine n − chiều Rn gọi siêu an lu phẳng nf va Mệnh đề 1.1.2 Giả sử β ∈ R, 6= b ∈ Rn Khi đó, tập lm ul H = {x ∈ Rn : hx, bi = β } z at nh oi siêu phẳng Rn Hơn nữa, siêu phẳng biểu diễn cách z @ l gm Định nghĩa 1.1.4 Điểm x ∈ Rn có dạng x = λ1 x1 + λ2 x2 + + λk xk với xi ∈ Rn λ1 + λ2 + + λk = gọi tổ hợp affine điểm m co x1 , x2 , , xk A tập affine A chứa tổ hợp affine phần tử an Lu n va thuộc Giao họ tập affine tập affine Cho E tập Rn , có tập affine chứa E, cụ thể Rn ac th si Định nghĩa 1.1.5 Giao tất tập affine chứa E gọi bao affine (affine hull) E, ký hiệu a f f E Đó tập affine nhỏ chứa E Định nghĩa 1.1.6 Điểm x ∈ Rn gọi tổ hợp affine điểm x1 , , xm ∈ Rn , m m ∃λ1 , , λm ∈ R, ∑ λi = : x = ∑ λi xi i=1 i=1 Định nghĩa 1.1.7 Tập m + điểm b0 , b1 , , bm gọi độc lập affine a f f {b0 , b1 , , bm } m chiều Nhận xét 1.1.2 b0 , b1 , , bm độc lập affine b1 −b0 , , bm −b0 lu độc lập tuyến tính Thật vậy, an a f f {b0 , b1 , , bm } = L + b0 va n đó, L = a f f {0, b1 − b0 , , bm − b0 } ie gh tn to Do đó, dim L = m ⇔ b1 − b0 , b2 − b0 , , bm − b0 độc lập tuyến tính p 1.1.2 Tập lồi, nón lồi bao lồi oa nl w Cho hai điểm x1 , x2 ∈ Rn Đoạn nối x1 , x2 định nghĩa sau: d  2  x ; x = x ∈ A : x = λ x1 + (1 − λ ) x2 , λ an lu nf va Định nghĩa 1.1.8 Tập C ⊂ Rn gọi lồi nếu: lm ul ∀x1 , x2 ∈ C ∀λ ∈ R : λ λ x1 + (1 − λ ) x2 ∈ C z at nh oi Nói cách khác, C chứa trọn đoạn thẳng nối hai điểm thuộc z Ví dụ 1.1.1 Trong R2 hình tam giác, hình chữ nhật, hình trịn, hình elip l gm @ tập lồi Trong R3 hình cầu, khối lăng trụ tam giác, khối chóp tứ giác tập m co lồi Các nửa khơng gian, hình cầu đơn vị khơng gian Banach tập an Lu lồi n va Một số hình vẽ tập lồi, tập khơng lồi R2 (xem Hình 1.1) ac th si a21 a22 a23 > |A| > a21 a22 a31 a32 a33 z m co l gm @ Định nghĩa 1.2.7 Dạng toàn phương gọi không xác định dấu tồn x1 , x2 ∈ Rn \ {0} cho x1T A x1 > x2T A x2 < an Lu n va ac th si 15 Chương Bài toán quy hoạch tồn phương Chương trình bày kiến thức tốn quy hoạch tồn lu an phương Cụ thể, Mục 2.1 giới thiệu toán quy hoạch toàn phương nêu điều kiện tồn nghiệm tốn quy hoạch tồn phương Mục 2.2 va n nêu điều kiện tối ưu (điều kiện Karush–Kuhn–Tucker) Các kiến thức 2.1 Giới thiệu toán tồn nghiệm p ie gh tn to chương viết sở tài liệu [4] [5] w Định nghĩa toán quy hoạch toàn phương oa nl 2.1.1 d Định nghĩa 2.1.1 Bài tốn { f (x)|x ∈ ∆} hàm mục tiêu f lu nf va an hàm toàn phương, tập ràng buộc ∆ ⊂ Rn tập lồi đa diện gọi tốn quy hoạch tồn phương (hay quy hoạch toàn phương) với ràng buộc z at nh oi lm ul tuyến tính Nếu D ma trận khơng, f hàm tuyến tính Do đó, lớp tốn z quy hoạch tuyến tính lớp lớp toán quy hoạch tồn phương Nếu f hàm lồi tốn { f (x)|x ∈ ∆} gọi quy hoạch tồn phương lồi Nếu f khơng hàm lồi tốn { f (x)|x ∈ ∆} gọi @ gm quy hoạch tồn phương khơng lồi Nếu ta bỏ số α công   m an Lu f (x) = xT Dx + cT x| x ∈ ∆ co toàn phương ban đầu Do ta cần xét tốn l thức f ta khơng làm thay đổi tập nghiệm toán quy hoạch (2.1) n va ac th si 16  Nếu ta thay ma trận A = 12 D tốn f (x) = 12 xT Dx + cT x| x ∈ ∆  trở thành f (x) = xT A x + cT x|x ∈ ∆ Ví dụ 2.1.1 Cho tốn quy hoạch tồn phương  f (x) = −x1 + x2 : x = (x1 , x2 ) , x1 3, x2 Ta có : f (x) = (x1 + x2 ) " #" # −2 x1 x2  ∆ = x|x = (x1 , x2 ) ∈ R2 ; x1 , x2 Định lý 2.1.1 Cho hàm f (x) = 12 xT D x + cT x + α D ∈ Rn×n s ,b∈ lu Rn , α ∈ R D ma trận nửa đối xứng xác định dương f hàm lồi an n va Chứng minh Ta có, hàm x → cT x + α hàm lồi tổng hai hàm lồi hàm p ie gh tn to lồi Do đó, ta cần chứng minh f1 (x) := xT D x hàm lồi Thật vậy, D ma trận nửa xác định dương nên với u ∈ Rn , v ∈ Rn , ta có nl w (u − v)T D(u − v) = uT D u − 2vT D u + vT D v (2.2) d oa ⇒ vT D v uT D u − 2vT D(u − v) lu nf va an Lấy x ∈ Rn , y ∈ Rn bất kỳ, t ∈ (0; 1), ta đặt: z = tx + (1 − t)y Kết hợp với (2.2) ta có : zT D z yT D y − 2zT D (y − z) lm ul zT D z xT D x − 2zT D (x − z) z at nh oi Vì y − z = t(y − x) x − z = (1 − t)(x − y) nên z (1 − t)zT D z + t zT D z (1 − t)yT D y + txT D x gm @ co Vậy, f hàm lồi l Suy ra: f1 (tx + (1 − t)y) = f1 (z) t f1 (x) + (1 − t) f1 (y) m Nhận xét 2.1.1 Nếu ma trận D hàm mục tiêu toán quy hoạch an Lu n va toàn phương ma trận nửa xác định dương tốn gọi quy hoạch toàn phương lồi ac th si 17 2.1.2 Các dạng tốn quy hoạch tồn phương Thơng thường người ta xét toán với tập ràng buộc cho dạng sau:   T x D x + cT x : x ∈ R n , A x > b   T x D x + cT x : x ∈ Rn , A x > b, x >   T x D x + cT x : x ∈ Rn , A x > b, Cx = d 2.1.3 Điều kiện tồn nghiệm lu an Xét toán quy hoạch toàn phương va n   f (x) := xT Dx + cT x  n x ∈ R , Ax > b ie gh tn to (2.3) p D ∈ Rn×n , c ∈ Rn , b ∈ Rn Tập ràng buộc giá trị tối ưu toán viết dạng: oa nl w d ∆(A, b) := {x ∈ Rn : A x > b} nf va an lu θ := inf { f (x) : x ∈ ∆(A, b)} lm ul Nếu ∆(A, b) = 0/ θ = +∞ (quy ước) Nếu ∆(A, b) 6= 0/ có hai trường hợp xảy ra: θ ∈ R θ = −∞ (khi đó, tốn khơng z at nh oi có nghiệm) Một vấn đề đặt trường hợp θ ∈ R xảy tốn có nghiệm tối ưu hay khơng? Ta có nhận xét, tốn tối ưu với hàm z mục tiêu khơng phải hàm tồn phương khơng có nghiệm giá trị tối ưu hữu hạn Chẳng hạn, xét ví dụ: cho tốn  1x : x ∈ R, x > Khi đó, tốn khơng có nghiệm, giá trị  tối ưu θ = inf 1x : x ∈ R, x > = hữu hạn l gm @ m tồn nghiệm toán (2.3) co Định lý Frank - Wolfe phát biểu sau cho ta biết điều kiện an Lu Định lý 2.1.2 (Định lý Frank - Wolfe) Nếu θ = inf { f (x) : x ∈ ∆(A, b)} n va ac th si 18 số thực hữu hạn tốn (2.3) có nghiệm Chứng minh Giả sử θ ∈ R Ta cần chứng minh tốn (2.3) có nghiệm Do θ ∈ R nên ∆(A, b) 6= / Lấy x0 ∈ ∆(A, b), với ρ > tùy ý Đặt ∆ρ = ∆(A, b) ∩ B(x0 , ρ) nên ∆(A, b) 6= / Lấy x0 ∈ ∆(A, b), với ρ > tùy ý Đặt ∆ρ = ∆(A, b) ∩ B(x0 , ρ) Suy ra, ∆ρ tập lồi, khác rỗng compact Xét toán  f (x) : x ∈ ∆ρ (2.4) Theo Định lý Weierstrass tồn y ∈ ∆ρ cho:  f (y) = qρ := f (x) : x ∈ ∆ρ lu an n va Vì tập nghiệm tốn (2.4) khác rỗng compact nên tồn yρ ∈ ∆ρ cho: tn to p ie gh  yρ − x0 = y − x0 : y ∈ ∆ρ , f (y) = qρ w Khi đó, ln tồn ρb > cho (2.5) d oa nl yρ − x0 < ρ, ∀ρ > ρb lu nf va an Thật vậy, giả sử trái lại tìm dãy tăng {ρk } : ρk → +∞ cho với k tồn yρk ∈ ∆ρk cho f (yρk ) = qρk , yρk − x0 = ρk Để lm ul đơn giản cho ký hiệu ta viết yk thay cho yρk Vì yk ∈ ∆(A, b) nên Ai yk > z at nh oi bi ∀i = 1, , m  Với i = ta có dãy A1 yk bị chặn nên tồn dãy {k0 } ⊂ {k} cho 0 lim A1 yk tồn (có thể xảy trường hợp lim A1 yk = +∞) không 0 k →∞ k →∞ z tính tổng quát ta giả sử {k0 } ≡ {k}, lim A1 yk tồn k→∞ gm @ k→∞ Tương tự với i = ta có lim A2 yk tồn k→∞ m k→∞  I0 = i ∈ I0 : lim Ai yk = b , n va k→∞ an Lu Đặt I= {1, , m} , co i ∈ {1, , m} ta có lim Ai yk tồn l Tiếp tục trình với i = m ta có lim Am yk tồn Khi đó, với ac th si 19   I1 = I\I0 = i ∈ I : lim Ai yk > bi k→∞ Khi đó, tồn ε > cho lim Ai yk > bi + ε ∀i ∈ I1 k→∞ k Mặt khác yρk − x = ρk ⇒ y ρ−x = ∀k k Vì cầu đơn vị Rn compact nên khơng tính tổng qt ta có n o k thể sử dụng dãy y ρ−x hội tụ v ∈ Rn k → ∞ kvk = k Vì ρk → ∞ nên với i ∈ I0 ta có: lu = lim (Ai yk − bi ) k→∞  k  Ai y − bi = lim k→∞ ρk   k   Ai x − bi y − x0 + lim = lim Ai k→∞ k→∞ ρk ρk an n va = Ai v Ai yk − bi lim inf k→∞ ρk   p ie gh tn to Tương tự, với i ∈ I1 ta có: d oa nl w  Ai yk − Ai x0 Ai x0 − bi = lim inf + k→∞ ρk ρk  k    y − x0 Ai yk − bi = lim Ai + lim k→∞ k→∞ ρk ρk  an lu = Ai v nf va Khi đó, Ai v = ∀i ∈ I0 Ai v > lồi đa diện ∆(A, b) ∀i ∈ I1 ⇒ v phương lùi xa tập lm ul z at nh oi Do đó, y + tv ∈ ∆(A, b) với t > y ∈ ∆(A, b) Vì f (yk ) = f (yρk ) = qρk  = f (x) : x ∈ ∆ρk  = f (x) : x ∈ ∆(A, b) ∩ B(x0 , ρk )  dãy {ρk } dãy tăng ρk → +∞ nên ta có f (yk ) dãy giảm f (yk ) → z l gm @ m co θ Với k đủ lớn, ta có: θ − f (yk ) θ + Sử dụng công thức hàm an Lu n va ac th si