Về cực trị hàm lồi luận văn ths toán giải tích 60 46 01 02

ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN - NGUYỄN ĐÌNH THỌ VỀ CỰC TRỊ HÀM LỒI LUẬN VĂN THẠC SĨ TOÁN HỌC Hà Nội - Năm 2014 ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN - NGUYỄN ĐÌNH THỌ VỀ CỰC TRỊ HÀM LỒI Chuyên ngành: TỐN GIẢI TÍCH Mã số: 60 46 01 02 LUẬN VĂN THẠC SĨ TOÁN HỌC NGƯỜI HƯỚNG DẪN KHOA HỌC: GS TSKH LÊ DŨNG MƯU Hà Nội - Năm 2014 MỤC LỤC Lời nói đầu Chương Các kiến thức giải tích lồi Chương Cực tiểu hàm lồi tập lồi Chương Cực đại hàm lồi tập lồi Kết luận Tài liệu tham khảo i LỜI NÓI ĐẦU Cực trị hàm lồi tập lồi lớp toán tối ưu hóa Cực tiểu hàm lồi tập lồi gọi quy hoạch lồi có tính chất điểm cực tiểu địa phương cực tiểu tuyệt đối Tính chất quan trọng cho phép lý thuyết có tính địa phương giới hạn, vi phân, áp dụng trực tiếp vào quy hoạch lồi Lý thuyết toán quy hoạch lồi nghiên cứu nhiều thu nhiều kết quan trọng dựa lý thuyết giải tích lồi tối ưu hóa Cực đại hàm lồi tập lồi có tính chất khác hẳn cực tiểu hàm lồi tập lồi, cụ thể ta thấy cực đại địa phương hàm lồi không thiết cực đại tuyệt đối Mục đích luận văn để trình bày tốn cực đại, cực tiểu hàm lồi tập lồi số phương pháp giải toán Luận văn gồm có ba chương: Chương Các kiến thức giải tích lồi Trình bày số khái niệm, định nghĩa kết cần thiết liên quan đến tập lồi hàm lồi Chương Cực tiểu hàm lồi tập lồi Trình bày tốn cực tiểu hàm lồi tập lồi, tồn nghiệm tối ưu điều kiện tối ưu tốn Đối ngẫu Lagrange Trình bày hai phương pháp giải tốn quy hoạch lồi phương pháp chiếu đạo hàm thuật toán Frank-Wolfe Chương Cực đại hàm lồi tập lồi Trình bày toán cực đại hàm lồi tập lồi số tính chất Trình bày hai phương pháp giải toán cực đại hàm lồi tập lồi phương pháp xấp xỉ ngồi thuật tốn nhánh cận Luận văn hồn thành Trường Đại học Khoa học Tự nhiên - Đại học Quốc gia Hà Nội, hướng dẫn GS TSKH Lê Dũng Mưu Em xin bày tỏ lòng biết ơn sâu sắc tới GS TSKH Lê Dũng Mưu, người tận tình hướng dẫn giúp đỡ em suốt q trình nghiên cứu để em hoàn thành luận văn ii Em bày tỏ lịng biết ơn chân thành tới q thầy, giáo Trường Đại học Khoa học Tự nhiên - Đại học Quốc gia Hà Nội giảng dạy giúp đỡ em hồn thành khóa học Nhân dịp em xin chân thành cảm ơn Ban giám hiệu, đồng nghiệp Trường THPT Ân Thi, gia đình bạn bè động viên, giúp đỡ tạo điệu kiện cho em mặt suốt trình học tập thực luận văn Mặc dù có nhiều cố gắng luận văn khó tránh khỏi thiếu sót Tác giả mong nhận ý kiến đóng góp q thầy, giáo bạn đọc để luận văn hoàn thiện Xin trân trọng cảm ơn! iii Chương Các kiến thức giải tích lồi Chương trình bày số khái niệm, định nghĩa kết cần thiết liên quan đến tập lồi hàm lồi Nội dung chương tham khảo từ tài liệu [1], [2], [4], [9] 1.1 Tập lồi Định nghĩa 1.1 Cho hai điểm a , b ∈ n (i) Đường thẳng qua hai điểm a b tập hợp có dạng {x ∈ n } x = αa + βb, α , β ∈ , α + β = (ii) Đoạn thẳng nối hai điểm a b tập hợp có dạng {x ∈ n } x = αa + βb, α ≥ 0, β ≥ 0, α + β = n Định nghĩa 1.2 Một tập C ⊆ gọi tập lồi, C chứa đoạn thẳng qua hai điểm Tức C tập lồi ⇔ ∀x , y ∈ C, ∀λ ∈[0,1] λx + (1− λ ) y ∈C k Định nghĩa 1.3 (i) Ta nói x tổ hợp lồi điểm (vectơ) x , x , , x k k x = ∑λ j x với λ j > 0, ∀j = 1,2, , k ∑λj = j j=1 j=1 (ii) Ta nói x tổ hợp affine điểm (vectơ) x , x k k , , x k x = ∑λ j x với ∑λj = j j=1 j=1 Mệnh đề 1.1 Tập hợp C lồi chứa tổ hợp lồi điểm Tức k k C lồi ⇔ ∀k ∈ , ∀λ1 , , λk > cho ∑ λ j = ∀x , , x ∈ C ∑λ j x j ∈C j =1 k j=1 Chương Các kiến thức giải tích lồi Định nghĩa 1.4 Một tập C gọi tập affine chứa đường thẳng qua hai điểm nó, tức C tập affine ⇔ ∀x , y ∈ C, ∀λ ∈ λx + (1− λ n Định nghĩa 1.5 Siêu phẳng khơng gian {x ∈ a ∈ n ) y ∈C tập hợp điểm có dạng } n T a x=α , vectơ khác α ∈ Định nghĩa 1.6 Nửa không gian tập hợp có dạng {x ∈ a ∈ Tập n } n T a x≥α , vectơ khác α ∈ , nửa khơng gian đóng {x ∈ n T a x>α } nửa không gian mở Mệnh đề 1.2 Tập M ≠ ∅ tập affine có dạng M = L + a với L không gian a ∈ M Không gian L xác định Không gian L mệnh đề gọi không gian song song với M (hoặc không gian M ) Định nghĩa 1.7 Thứ nguyên (hay chiều) tập affine M thứ nguyên không gian song song với M ký hiệu dim M n Mệnh đề 1.3 Bất kỳ tập affine M ⊂ M= {x ∈ A ma trận cấp m × n , b ∈ có số chiều r n m rankA = n − r Ngược lại, tập hợp có dạng (1.1) với rankA = n − r tập affine có số chiều r Định nghĩa 1.8 Các điểm x k , x , , x n gọi độc lập affine bao affine chúng có thứ nguyên k Định nghĩa 1.9 Một tập hợp S ⊂ n gọi đơn hình có thứ nguyên k (hoặc k − đơn hình), S tổ hợp lồi k +1 vectơ độc lập affine Các vectơ gọi đỉnh đơn hình Chương Các kiến thức giải tích lồi Định nghĩa 1.10 Một tập gọi tập lồi đa diện, giao số hữu hạn nửa khơng gian đóng Dạng tường minh tập lồi đa diện cho sau: j ≠ a ∈ n Nếu ta kí hiệu vectơ b = (b , b , ,b ) hệ viết là: T D= {x ∈ n } Ax ≤ b Định nghĩa 1.11 Một tập C gọi nón ∀λ > 0, ∀x ∈ C ⇒ λx ∈C (i) Một nón gọi nón lồi đồng thời tập lồi (ii) Một nón lồi gọi nón nhọn khơng chứa đường thẳng, ta nói O đỉnh nón Nếu nón lồi tập lồi đa diện ta nói nón lồi đa diện Định nghĩa 1.12 Cho C ⊆ n tập lồi x ∈C (i) Tập NC (x) := {w w, y − x ≤ 0, ∀y ∈C } gọi nón pháp tuyến (ngồi) C x (ii) Tập  NC (x):= {w w, y − x ≥ 0, ∀y ∈C } gọi nón pháp tuyến (trong) C x Định nghĩa 1.13 Một điểm a ∈C gọi điểm tương đối C điểm C theo tô-pô cảm sinh affC Ký hiệu tập điểm tương đối C riC Vậy riC := {a ∈ C ∃B : (a + B) ∩ affC ⊂ C}, Chương Các kiến thức giải tích lồi B lân cận mở gốc Hiển nhiên riC = Mệnh đề 1.4 Cho C ⊆ {a ∈ affC ∃B : (a + B) ∩ affC ⊂ C} n tập lồi Giả sử x ∈ riC Khi với y ∈C , tất điểm đoạn thẳng nối x y , trừ y , thuộc riC Nói cách khác, với ≤ λ < (1− λ)riC + λC ⊂ riC Định nghĩa 1.14 Bao lồi tập E giao tất tập lồi chứa E Ký hiệu coE Định nghĩa 1.15 Một điểm x ∈C gọi điểm cực biên C không tồn a , b ∈ C , a ≠ < λ < cho x = λa + (1− λ ) b Trong trường hợp C tập lồi đa diện điểm cực biên cịn gọi đỉnh Ta kí hiệu V (C ) tập điểm cực biên C Bao lồi số hữu hạn điểm tập đa diện lồi, compact Nếu v m , v , ,v độc lập affine bao lồi m chúng đơn hình Đơn hình có thứ nguyên m Các điểm v , v , ,v gọi đỉnh (điểm cực biên) đơn hình Định nghĩa 1.16 Một tập F ⊆ C gọi diện tập lồi C F tập lồi có tính chất ∀x , y ∈ C : tx + (1− t ) y ∈ F , < t < [x , y ] ⊂ F Điểm cực biên diện có thứ nguyên Cạnh diện có thứ nguyên Tia cực biên diện nửa đường thẳng Như tia cực biên cạnh vô hạn Hướng cực biên hướng tia cực biên Định nghĩa 1.17 Cho x ∈C Ta nói a a T x = α siêu phẳng tựa C x , T x =α,a T x ≥ α , ∀x ∈C Định nghĩa 1.18 Cho C ≠ ∅ (không thiết lồi) y vectơ bất kỳ, đặt dC ( y):= inf x − y x∈C Chương Các kiến thức giải tích lồi Ta nói d C ( y) khoảng cách d C ( y) = π−y π = PC ( y) Theo định nghĩa, ta thấy hình chiếu PC ( y) tốn tối ưu Nói cách khác việc tìm hình chiếu tiểu hàm toàn phương x − y C Nếu C ≠ ∅ d C ( y) hữu hạn, ≤ d C ( y ) ≤ x − y , ∀x ∈C Mệnh đề 1.5 Cho C tập lồi đóng khác rỗng Khi đó: (i) Với y ∈ n a) π = PC , π ∈C hai tính chất sau tương đương: ( y) , b) y − π ∈ N C (π (ii) Với y ∈ n ) , hình chiếu PC ( y) y C tồn (iii) Nếu y ∉C , PC ( y) − y, x − PC ( y) = siêu phẳng tựa C PC ( y) tách hẳn y khỏi C , tức PC ( y) − y, x − PC ( y) ≥ 0, ∀x ∈C PC ( y) − y, y − PC ( y) < (iv) Ánh xạ y PC ( y) có tính chất sau: a) PC (x ) − PC ( y ) ≤ x − y , ∀x , y ∈ b) PC (x ) − PC ( y ) , x − y ≥ PC (x ) − PC ( y) (tính đồng bức) n (tính khơng giãn) Chứng minh (i) Giả sử có a) Lấy x ∈C λ ∈(0,1) Đặt Chương Cực đại hàm lồi tập lồi M u j v u k Hình 3.3 Minh họa phép chia đơn hình Định nghĩa 3.2 Phép chia đơn hình gọi vét kiệt dãy vô hạn {M k } j đơn hình sinh từ phép chia chuẩn theo tỉ lệ α M k j +1 ⊂ M k j , ∀j hội tụ điểm, có nghĩa * M k j → x j → +∞ , điều tương đương với +∞ diamM k q → (q → +∞), M kq = q=1 {x*}, (ở đây, diamM độ dài cạnh dài đơn hình M ) Dãy {M k } thỏa mãn điều kiện gọi lọc đơn hình q Định lý 3.4 Phép chia chuẩn theo tỉ lệ vét kiệt Chứng minh Giả sử chuẩn theo tỉ lệ {M q} dãy giảm n − đơn hình sinh phép chia 55 Chương Cực đại hàm lồi tập lồi Thật vậy, ta cần chứng minh (3.8) với q = Tô màu đỉnh M1 màu đen, tô màu trắng đỉnh Mr với r > mà đỉnh màu đen Ký hiệu dr cạnh dài M r , cạnh chia Đặt p số nhỏ cho d p có điểm đầu mút màu trắng Vì đỉnh màu đen thay đỉnh màu trắng bước chia trước p , ta có Đặt d p = [u , v] = [a , b] Đặt d k Ngược lại, xét tam giác co {a , b, v} (bao lồi điểm δk = dk nên ta có từ quy tắc hình bình hành 2 2 b−u +2 u−v = v−a + v−b từ δ p Từ (3.8) suy δq → (q → +∞) Do phép chia chuẩn tỉ lệ Thuật tốn nhánh cận Xét tốn (P), D tập lồi đóng, bị chặn Ý tưởng phương pháp nhánh cận thay việc giải tốn, ta tìm cận cận cho giá trị tối ưu toán Để làm cho cận xác người ta chia nhỏ dần miền tìm kiếm (tập chấp nhận) 56 Chương Cực đại hàm lồi tập lồi Khởi tạo Chọn hộp (hoặc đơn hình) P0 , tùy theo phương pháp phân hoạch khơng gian cho D ⊂ P0 Tính tập hợp đỉnh V (P0 ) Đặt Γ := {P0} { } Tính α0 := max f (x) x ∈V (P0 ) Giả sử Q tập hợp điểm chấp nhận biết (nếu có) Tìm x ∈ arg max{ f (x ) x ∈Q}, Q ≠ ∅ ( ), Q ≠ ∅ β0 := −∞ , Q = ∅ Đặt β0 := f x Bước lặp k Tại thời điểm bắt đầu Bước lặp k (k = 0,1, ) , ta có họ Γk với hộp (hoặc đơn hình) Pk ∈ Γk có cận αk Đồng thời, qua việc tính αk hay cách khác biết số điểm chấp nhận ( k ) k tốt x cho cận βk := f x k Bước Nếu α k ≤ βk dừng: x nghiệm tối ưu βk giá trị tối ưu toán (P) Nếu trái lại, chuyển sang Bước Bước Chia Pk theo cách chọn (chia hộp chia đơn hình vét kiệt) Đặt Pk := Pk1 ∪ Pk2 ( ) f Bước Tìm cận α Pki α D ∩ Pki thỏa mãn ( Pki ) ≤ α (Pk ) (i = 1, 2) ( ) Bổ sung điểm chấp nhận tìm thấy tính cận α Pki (i = 1, 2) vào tập Q ( k ) = βk Bước Tính βk = max{ f (x) x ∈Q}, x ∈Q cho f x k { Bước Đặt Γ k +1 := ( Γ k \ Pk ) ∪ Pk1 , Pk2 Xóa tất Pk ∈ Γk +1 thỏa mãn 57 } Chương Cực đại hàm lồi tập lồi Đặt ℜk tập lại β  Đặt αk :=    Chọn Pk ∈ ℜk cho α ( Pk ) = αk Bước Đặt Γk +1 := {ℜk } chuyển sang Bước Bước lặp k +1 Sự hội tụ thuật toán Nếu thuật toán dừng lại Bước lặp k α k ≤ βk Do đó, ta có β k = αk , ( k ) nên xk nghiệm tối ưu βk giá trị tối ưu toán (P) mà βk = f x Định lý sau cho ta thấy hội tụ thuật tốn thuật tốn kéo dài vơ hạn: Định lý 3.5 (i) Nếu thuật tốn kéo dài vơ hạn khơng tìm điểm chấp * nhận (tức βk = −∞ với k = 1, 2, ) α k f := −∞ k (ii) Nếu thuật tốn kéo dài vơ hạn tồn điểm chấp nhận x tụ dãy điểm {xk } nghiệm tối ưu tồn cục toán (P) Hơn nữa, α k * f βk * f Chứng minh Khi thuật tốn kéo dài vơ hạn, tạo dãy vô hạn tập chia giảm dần (lồng nhau) {Pk } thỏa mãn Pk j Để đơn giản ký hiệu, thay viết k j ta viết k * Do tính vét kiệt, nên P → x * ta có x ∈ D (i) Ta có α k Mặt khác, với x ∈ P ta suy x k j ∩ D ≠ ∅ , ∀j = 1,2, 58 Chương Cực đại hàm lồi tập lồi ( k ) → f (x* ) ≤ f * αk=f v Theo định nghĩa cận αk , ta có α k (ii) Giả sử x k ≥f Vì β ( k cách tính cận α k Do D bị chặn nên {xk } có điểm tụ Giả sử x* điểm tụ {xk } Không giảm tổng quát ta giả sử dãy k {x } dãy {x }, x kj k kj * → x (để đơn ( k ) = f (x* ) * giản ký hiệu, ta viết x → x ) Do hàm f liên tục nên suy lim f x k→+∞ Dãy {αk } dãy không tăng bị chặn f * nên tồn α = lim αk Hơn k→+∞ nữa, dãy {βk } dãy số thực không giảm bị chặn f nên tồn β = lim * * βk Do đó, ta có β ≤ f ≤ α Từ (3.9), ta có k→+∞ ( k ) = f (x* ) = f * = lim αk = α β = lim βk = lim f x k →+∞ * Vậy điểm tụ x dãy αk * f βk k →+∞ k→+∞ {xk } nghiệm tối ưu toán (P) Hơn nữa, * f Ví dụ 3.1 Xét tốn max D = {x ∈ {f (x ) = f (x1 , x2 ) = x12 + x2 x ∈ D}, } (x1 − 2)2 + ( x2 − 1)2 ≤ Lời giải Ta thấy f (x) = x1 + x2 hàm lồi 2 x 59 Chương Cực đại hàm lồi tập lồi Lấy hình hộp P0 ⊃ D với tập đỉnh V (P0 ) = {(1,0) T , (1,2) , (3,0) , (3,2) T T T } Ta có α0 = max{f (x) x ∈ V (P0 )} = f (3,2) = 11 5 Lấy  3  , 2 T 4 Suy β < α0 Do đó, ta thực chia hộp P0 P0 = P11 ∪ P12 int P11 ∩ int P12 = ∅ Hình hộp P11 với tập đỉnh V (P11 ) = {(1,0) T , (1,2) , (2,0) , (2,2) T T T } Ta có α11 = max{ f (x) x ∈ V (P11 )} = f (2,2) = < β0 (loại) Hình hộp P12 với tập đỉnh V (P12 ) = {(2,0) T , (2,2) , (3,0) , (3,2) T T T } Ta có α12 = max{f (x) x ∈ V (P12 )} = f (3,2) = 11 > β0 Do đó, ta thực chia hộp P12 thành hai hộp P21 P22 thỏa mãn P12 = P21 ∪ P22 int P21 ∩ int P22 = ∅ Hình hộp P21 với tập đỉnh V (P21 ) =  21 = max {(2,0) T , (2,1) , (3,0) , (3,1) T T T { f (x) x ∈ V (P21 )} = f (3,1) = 10 > β0 Do đó, ta thực chia hộp P21 int P31 ∩ int P32 = ∅ Mặt khác, ta nhận thấy (3,1) ∈ D mà T chấp nhận ta đặt  β1 := max  f  Hình hộp P22 với tập đỉnh V (P22 ) = {(2,1) T , α 22 = max{ f (x) x ∈ V (P22 )} = f (3,2) = 11 > β0 } Ta có 60 Chương Cực đại hàm lồi tập lồi Do đó, ta thực chia hộp P22 thành hai hộp P33 P34 thỏa mãn P22 = P33 ∪ P34 int P33 ∩ int P34 = ∅ Tiếp tục, ta thực tính cận trên hình hộp P31 , P32 , P33 , P34 Ta có α α α α 34 = max{f (x) x ∈ V (P34 )} = f (3,2) = 11 > β1 Do nghiệm toán x = (3,1) * T 61 KẾT LUẬN Sau thời gian học tập Khoa Toán - Cơ - Tin học, Trường Đại học Khoa học Tự nhiên - Đại học Quốc gia Hà Nội, thầy cô trực tiếp giảng dạy hướng dẫn, đặc biệt GS TSKH Lê Dũng Mưu, hoàn thành luận văn với đề tài “Về cực trị hàm lồi” Luận văn đạt số kết sau: Giới thiệu toán cực tiểu hàm lồi tập lồi, tồn nghiệm toán Điều kiện tối ưu cho toán cho toán với ràng buộc đẳng thức toán với ràng buộc bất đẳng thức Đối ngẫu Lagrange Trình bày hai phương pháp giải toán cực tiểu hàm lồi tập lồi phương pháp chiếu đạo hàm thuật toán Frank-Wolfe Giới thiệu toán cực đại hàm lồi tập lồi, tính chất Giới thiệu phép chia hộp phép chia đơn hình vét kiệt Trình bày hai phương pháp để giải toán cực đại hàm lồi tập lồi phương pháp xấp xỉ ngồi thuật tốn nhánh cận Có thể xem luận văn bước tìm hiểu ban đầu tốn cực đại, cực tiểu hàm lồi tập lồi Tác giả luận văn hy vọng có dịp tìm hiểu sâu lớp toán quan trọng tối ưu toàn cục 62 TÀI LIỆU THAM KHẢO Tài liệu Tiếng Việt [1] Nguyễn Thị Bạch Kim (2008), Giáo trình phương pháp tối ưu: Lý thuyết thuật toán, NXB Bách khoa - Hà Nội [2] Đỗ Văn Lưu Phan Huy Khải (2011), Giải tích lồi, NXB Khoa học Kĩ thuật Hà Nội [3] Lê Dũng Mưu (1998), Nhập môn phương pháp tối ưu, NXB Khoa học Kĩ thuật Hà Nội [4] Lê Dũng Mưu, Nguyễn Văn Hiền Nguyễn Hữu Điển (sẽ ra), Nhập môn giải tích lồi ứng dụng, NXB Đại học Quốc gia Hà Nội [5] Trần Vũ Thiệu Nguyễn Thị Thu Thủy (2011), Nhập môn tối ưu phi tuyến, NXB Đại học Quốc gia Hà Nội [6] Hoàng Tụy (2003), Lý thuyết tối ưu, Bài giảng lớp cao học, Viện Toán học Tài liệu Tiếng Anh [7] Stephn Boyd and Lieven Vandenberghe (2004), Convex Optimization, Cambridge University Press [8] P.M Pardalos and J.B Rosen (1987), Constrained Global Optimization: Algorithms and Applications, Springer-Verlag Berlin Heidelberg New York [9] Hoang Tuy (1998), Convex Analysis and Global Optimization, Kluwer Academic Publishers [10] Hoang Tuy (1983), “On outer approximation methods for solving concave minimization problems”, Acta Mathematica Vietnamica, 8, pp 3-34 63 ... thức giải tích lồi Chương Cực tiểu hàm lồi tập lồi Chương Cực đại hàm lồi tập lồi Kết luận Tài liệu tham khảo i LỜI NÓI ĐẦU Cực trị hàm lồi tập lồi lớp tốn tối ưu hóa Cực tiểu hàm lồi tập lồi. .. hàm lồi không thiết cực đại tuyệt đối Mục đích luận văn để trình bày toán cực đại, cực tiểu hàm lồi tập lồi số phương pháp giải tốn Luận văn gồm có ba chương: Chương Các kiến thức giải tích lồi. .. - NGUYỄN ĐÌNH THỌ VỀ CỰC TRỊ HÀM LỒI Chun ngành: TỐN GIẢI TÍCH Mã số: 60 46 01 02 LUẬN VĂN THẠC SĨ TOÁN HỌC NGƯỜI HƯỚNG DẪN KHOA HỌC: GS TSKH LÊ DŨNG MƯU Hà Nội - Năm 2014 MỤC LỤC Lời nói đầu