Dưới vi phân của hàm lồi và ứng dụng trong tối ưu hóa

Đại Học Quốc Gia Hà Nội Trƣờng Đại Học Khoa Học Tự Nhiên VŨ ANH TUẤN DƢỚI VI PHÂN CỦA HÀM LỒI VÀ ỨNG DỤNG TRONG TỐI ƢU HÓA LUẬN VĂN THẠC SĨ KHOA HỌC Hà Nội - 2012 Đại Học Quốc Gia Hà Nội Trƣờng Đại Học Khoa Học Tự Nhiên VŨ ANH TUẤN DƢỚI VI PHÂN CỦA HÀM LỒI VÀ ỨNG DỤNG TRONG TỐI ƢU HÓA Chuyên ngành: Tốn giải tích Mã số LUẬN VĂN THẠC SĨ KHOA HỌC Người hướng dẫn khoa học GS.TSKH.LÊ DŨNG MƢU Hà Nội - 2012 Mục lục Lời nói đầu Chƣơng I Những kiến thức tập lồi hàm lồi I Tập lồi I.1.1 Tậ I.1.2 Nón lồi I.1.3 Tậ I.1.4 Đi I.2 Hàm lồi I.3 Các phép toán hàm lồi Chƣơng II Dƣới vi phân hàm lồi II.1 Đạo hàm theo phương .23 II.2 Dưới vi phân hàm lồi II.3 Các định lý vi phân 26 31 II.4 Dưới vi phân hàm lồi địa phương 33 Chƣơng II Ứng dụng dƣới vi phân vào toán tối ƣu III.1 Định nghĩa toán tối ưu III.2 Bài toán lồi III.3 Bài toán trơn III.4 Bài toán trơn - lồi .37 39 43 47 Kết luận Tài liệu tham khảo Lời nói đầu Giải tích lồi mơn giải tích đại, nghiên cứu tập lồi, hàm lồi vấn đề liên quan Bộ mơn đóng vai trị quan trọng nhiều lĩnh vực khác toán học ứng dụng, đặc biệt tối ưu hóa, bất đẳng thức biến phân toán cân bằng… Một ứng dụng quan trọng giải tích lồi tối ưu hóa Lý thuyết tối ưu đóng vai trò quan trọng nhiều lĩnh vực nghiên cứu: quy hoạch tuyến tính, lý thuyết điều khiển, lý thuyết trị chơi, kinh tế tốn,… đó, giả thiết tính lồi hàm khơng thể thiếu nhiều định lý tồn nghiệm Vì vậy, tìm hiểu hàm lồi, tìm hiểu ứng dụng hàm lồi tối ưu hóa thực cần thiết hữu ích Mục tiêu luận văn tìm hiểu, xếp lại cách chi tiết khái niệm tính chất liên quan đến hàm lồi, vi phân hàm lồi toán ứng dụng vi phân tối ưu hóa Với cơng việc đó, luận văn gồm chương: Chƣơng I “Những kiến thức tập lồi hàm lồi” giới thiệu tập lồi, hàm lồi tính chất liên quan Bên cạnh khái niệm: tập affine, nón, điểm tương đối,… Chƣơng II “Dƣới vi phân hàm lồi” đề cập tới khái niệm đạo hàm theo phương, điều kiện khả vi phân hàm lồi tính chất vi phân Chƣơng III “Ứng dụng dƣới vi phân vào tốn tối ƣu” trình bày khái niệm tổng quát toán tối ưu điều kiện tồn nghiệm Trọng tâm chương tốn tối ưu mà tác giả kí hiệu từ (P1)-(P8) Do thời gian trình độ cịn hạn chế, luận văn dừng lại việc tìm hiểu, tập hợp tài liệu, xếp trình bày kết nghiên cứu có theo chủ đề đặt Trong trình viết luận văn, chắn khơng tránh khỏi hạn chế, thiếu sót, tác giả mong nhận góp ý thầy, cô bạn bè đồng nghiệp Qua đây, tác giả xin gửi lời cảm ơn sâu sắc đến người thầy, người hướng dẫn khoa học mình, GS.TSKH Lê Dũng Mưu đưa đề tài tận tình hướng dẫn suốt trình nghiên cứu tác giả Hà nội, ngày 01 tháng 06 năm 2012 Tác giả Vũ Anh Tuấn CHƢƠNG I Những kiến thức tập lồi hàm lồi Trong chương này, tác giả trình bày khái niệm giải tích lồi tính chất quan trọng tập lồi, tập affine, điểm tương đối, hàm lồi… I.1 Tập lồi Tập lồi khái niệm khơng giải tích lồi mà tốn học nói chung Những tập quen thuộc mà biết đến không gian con, siêu phẳng, đoạn thẳng…đều tập lồi Trong phần này, tác giả trình bày định nghĩa, tính chất tập lồi nói chung số tập lồi đặc biệt I.1.1 Tập lồi Cho X khơng gian tuyến tính tơ pô Haussdoff Định nghĩa I.1[2] Với  x1 , x2 ∈X, đoạn [x1 , x2 ] định nghĩa x1 , x2 ] : ={ x ∈ X : x = λ x1 + (1 − λ ) x2 , λ ∈[0,1]} Định nghĩa I.2[2] Tập A ⊂ X gọi tập lồi ∀x , x ∈ A, ∀λ ∈ 0,1 ⇒ x = λ x + (1 − λ) x ∈ A Nhận xét Nếu ∀x1 , x2 ∈ A ⇒ [ x1 , x2 ] ⊂ A Ví dụ a- Trong Thật vậy, lấy x, y ∈ B (0,1) ⇒ x y ≤ 1, với λ ∈[0,1] ta có: ≤1, λ x + (1 − λ ) y ≤ λ x + (1− λ ) y ≤ λ + − λ =1  λ x + (1 − λ) y ∈ B (0,1) ⇒B b- Tập A = {(x, y )∈ : ax + by ≥ c; a, b, c ∈ } tập lồi Mệnh đề I.1 Giả sử Aα ∈ X , (α ∈ I ) tập lồi với I tập số Khi đó, tập A=∩Aα α∈I tập lồi Chứng minh Lấy x1 , x2 ∈ A ⇒ x1 , x2 ∈ Aα ⇒ [ x1 , x2 ] ⊂ Aα ( Do Aα lồi) , ∀α ∈ I Từ suy  x1 , x2 ] ⊂Aα ⇔ [ x1 , x2 ] ⊂ A α∈I Vậy, A tập lồi n , i =1, n Khi đó, tập A = ∑λi Ai Mệnh đề I.2 Cho Ai ⊂ X tập lồi; λi ∈ i=1 tập lồi Chứng minh Lấy x, y ∈ A : n x = ∑ λi , y = ∑λi bi với , bi ∈ Ai (i = Khi đó, ∀λ ∈[0,1], ta có: λx+ i =1 Do Ai lồi nên  x + (1 − λ ) y ∈ ∑λi Ai i=1 n Vậy A tập lồi =A, i =1 Mệnh đề I.3 Cho X i khơng gian tuyến tính Khi đó, tập A= A1 × A2 × × An tập lồi Ai ⊂ X i tập lồi (i=1, n ) X × X × × X n Chứng minh Lấy x, y ∈ A : x = ( a1 , a2 , an ), y = (b1 , b2 , bi ∈ Ai ) .,bn ) , ( Vì Ai lồi nên λ a i + ( − λ ) b i ∈ A i ∀ λ ∈ ( , ) Suy  x+ (1− λ ) y = ( λ a1 + (1− λ ) b1 , , λ an + (1− λ)bn )∈ A Vậy, A tập lồi X × X × × X n i=1 *Ta chứng minh kết luận với k+1 điểm Tóm lại: Lớp tập lồi đóng với phép lấy giao,cộng đại số tích đề Định nghĩa I.3[2] Véc tơ x ∈ X gọi tổ hợp lồi véc tơ: x1 , x2 , xn : Tức là, ∀λi ≥ 0(i = ∃λi ≥ 0, (i = Mệnh đề I.4 Tập A ⊂ X tập lồi Không tổng quát, ta giả sử λk +1 〈1, chứa tổ hợp lồi điểm Tức là: A lồi k Theo giả thiết quy nạp, k ∀k ∈ , ∀λ1 , λ2 , , λk ≥ : ∑λi = 1, ∀x1 , x2 , xk ∈ A ⇒ ∑λi xi ∈ A i=1 i=1 i=1 Chứng minh Nếu A chứa tổ hợp lồi điểm ∀x1 , x2 ∈ A ⇒ λ x1 + (1− λ ) x2 ∈ A,∀λ ∈[0,1],  A lồi Giả sử A lồi Ta 1− λk +1 Do A lồi ⇒ (1− λk +1 ) y + λk +1 xk +1 ∈ A ⇔ x ∈ A Vậy A tập lồi Nhận xét Giả sử X, Y không gian tuyến tính, f : X →Y ánh xạ tuyến tính Tập A ⊂ X tập lồi Khi f (A) tập lồi Thật vậy, lấy y1 , y2 ∈ f ( A) ⇒ ∃x1 , x2 ∈ A cho: y1 = f ( x1 ), y2 = f ( x2 ) chứng minh ∀λ ∈ [ 0,1]: λ y1 + (1− λ ) quy nạp y2 = λ f (x1 )+ (1− λ) f (x2 ) *k=2: ∀λ1 , λ2 ≥ : λ1 + λ2 = 1, ∀x1 , x2 ∈ A ⇒ λ1 x1 + λ2 x2 ∈ A (do A lồi) = f (λ x1 + (1− λ) x2 )∈ f (A) (Do λ x1 + ( *Giả sử kết luận với k điểm.Tức là: k k ∀k ∈ , ∀λ1 , λ2 , , λk ≥ : ∑λi = 1, ∀x1 , x2 , xk ∈ A ⇒ ∑λi xi ∈ A i=1 Vậy, f ( A) tập lồi Định nghĩa I.4 [2] Giả sử A ⊂ X Giao tất 45 với KerF , (x0 ) Nghiã là: TM (x0 ) = KerF , (x0 ) Đồng thời, tồn lân cận U ' ⊂U x0 , số k > ánh xạ ξ x (ξ ) từ U ' vào X cho ∀ε ∈U , , F (ξ + x (ξ )) = F (x0 ) , x (ξ ) ≤ F (ξ )− F (x0 ) III.3.2 Bài tốn trơn khơng có ràng buộc Cho X khơng gian tơpơ tuyến tính Hàm f xác định X Xét toán (P4): f (x) → Định lý III.9 Giả sử f hàm khả vi Gâteaux x với đạo hàm Gâteaux f ' (x) , x G nghiệm tốn (P4) Khi đó: f G' (x) = Chứng minh Do f khả vi Gâteaux x , ta khai triển: ( f x + tv ) = f (x ) + t < f (x ) , v > +0(t ) (∀v ∈ X ) G' Vì vậy, tồn giới hạn Lim hàm điểm ϕ ’(0): Do x cực tiểu địa phương (P4), nên t=0 cực tiểu địa phương hàm ϕ (t) Vì vậy,  '(0) = Từ suy ( ),v f G' x Vì vậy, f G' (x) = = (∀v ∈ X ) 46 Hệ Giả sử X không gian banach, hàm f khả vi Fréchet x với đạo hàm Féchet F ' (x); x nghiệm (P4) Khi đó, () f' x =0 III.3.3 Bài tốn trơn với ràng buộc đẳng thức Giả sử X, Y không gian Banach, hàm f xác định X, ánh xạ F : X →Y Xét toán: (P5):  minf ( x) = F ( x) Hàm Lagrange toán (P5) thiết lập sau: L (x; λ0 , y * ) = λ0 f (x ) + y * , F (x) (λ0 ∈ R, y * ∈Y * ) Định lý III.10 (Quy tắc nhân tử Lagrange) Giả sử f F khả vi Fréchet x với đạo hàm Fréchet f ' (x) F ' (x), () x cực tiểu địa phương toán (P5); tập F ' x X đóng Khi đó, tồn nhân tử Lagrange λ0 y* không đồng thời cho: ( L'x x; λ0 , y * ) = λ f (x ) + F (x ) y ' '* * =0 Hơn nữa, F khả vi liên tục theo nghĩa Fréchet x F ' (x ) X = Y , λ0 ≠ xem λ0 =1 Chứng minh Theo giả thiết, F ' (x ) X khơng gian đóng Y Có thể xảy hai trường hợp: F ' (x ) X = Y F ' (x)X ⊂≠ Y ( ) X = Y : Theo định lý Ljusternik, không gian tiếp xúc với tập a Trường hợp F ' x { M= −v ∈ KerF ' x∈X:F ( x 47 ) r (t ) → , t → t Do đó, ∀t ∈ [ −ε , ε ] ta có: F ( x ( t , v )) = Đặt ϕ (t ) = f (x ( t , v)) Khi đó, ϕ (t )đạt cực tiểu địa phương t = Do ( ) đó, ϕ' (0) = f ' (x ) , v = ∀v ∈ KerF ' (x) Suy ( ) ∈(KerF (x)) f' x ' ⊥ Từ giải tích hàm, F ' (x) tốn tử tuyến tính liên tục từ không gian Banach X lên không gian Banach Y, nên KerF ' (x )  ) ⊥ = Im F '* (x) Suy ra, tồn y * ∈Y * cho: ( ) = −F (x ) y f' x '* * Từ suy ra, với λ0 =1, ta có: ( L'x x; λ0 , y * ) = λ f (x ) + F (x ) y ' '* () * =0 ( ) X Do Y / F (x ) X mở, tồn b Trường hợp F ' x X ⊂≠ Y: Khi đó, ∃y0 ∈Y / F ' x ( ) X = φ Khi đó, ∃y lân cận mở V y0 cho V F' x  y * , y >> < y * , z >= ' * ∈ Y * , y* ≠ , cho: (∀y ∈V ), (∀z ∈ F (x ) X ) ' Suy ( )x y*,F' x ( )y = F '* x * , x = (∀x ∈ X ) Hay ( )y F '* x * =0 Cho λ0 = , ta được: 48 ( L'x x;0, y * ) = F (x ) y '* * =0 III.4 Bài toán trơn - lồi Giả sử X, Y khơng gian banach, W tập bất kì, hàm f , f1 , , fm xác định X ×W ánh xạ F : X × W →Y Xét toán: min f (x , u )  (P6): F (x , u ) =   f i (x , u ) ≤ 0, (i =1, , m) Tập chấp nhận toán (P6) là: Q = {(x, u )∈ X × W : F (x, u ) = 0; f i (x, u ) ≤ 0,i =1, , m} Định nghĩa III.11[2] Cặp (x, u )∈Q gọi cực tiểu địa phương toán (P6), tồn lân cận U x cho: ( ) f x, u ≤ f (x, u ) , ∀ ( x, u )∈ X ×W Hàm Lagrange toán (P6), thiết lập sau: m L (x, u , λ0 , , λm , y * ) = ∑λi f i (x, u )+ y * , F (x , u ) , i=0 đó, λi ∈ (i =1, , m), y * ∈Y * Định lý III.12 (nguyên lý cực trị ) Giả sử (x , u ) cực tiểu địa phương toán (P6); Tồn lân cận U x X cho: theo nghĩa Frechet kiện lồi sau: ∀u , u F (x, u ) = α F (x, u1 )+ (1−α )F (x, u2 ), f i (x, u ) ≤ α f i (x, u1 )+ (1−α ) f i (x, u2 ) (i=1,…,m) 49 ( ) ( ) c Ánh xạ Fx' x, u : X → Y có đối chiều hữu hạn: co dim Fx' x, u < +∞ Khi đó, tồn nhân tử Lagrangge λ0 ≥ 0, , λm ≥ y * ∈Y * không đồng thời cho: ( L'x x, u , λ0 , , λm , y * )=∑ m ( i=0 ( L x, u , λ0 , , λm , y * ) ( ) λi f ix' x , u + Fx' * x , u y* = , ) = Min L (x, u , λ ) , , λm , y* , u∈W ( ) = (i=1,…,m) λi f i x, u Hơn nữa, tập: ( ) ( ) {F (x, u )+ F (x, u ): (x, u )∈ X × W}, Fx' x, u X + F x, W = x' chứa lân cận Y, tồn với i mà f i ( Bây giờ, ta xét tốn sau: đó, hàm f , f1 , , fm định X × W ; Hàm Lagrange tốn (P7) có dạng: L (x, u , λ0 , , λm , µ1 , , µ n , y * ) = ∑ λi f i λ ∈ , i Hệ Giả sử (x , u ) cực tiểu địa phương toán (P7); Tồn lân cận U 50 x X cho: a Với u ∈W , ánh xạ G(.,u) hàm f i (x,.), h j (x,.) , (i=1,…,m; j=1, ,n) khả vi liên tục theo nghĩa Frechet b Với x ∈U , ánh xạ F(x,.) hàm f i thỏa mãn điều kiện lồi sau: ∀u , u G (x, u ) = α G (x, u1 )+ (1−α )F (x, u2 ) , f i (x, u ) ≤ α f i (x, u1 )+ (1−α ) f i (x, u2 ) ( ) ( )=Y c Gx' x, u : X → Y1 ánh xạ lên Im Gx' x, u Khi đó, tồn nhân tử Lagrange λ > không đồng thời cho: L'x ( x ,u L'x Cuối cùng, ta xét toán: F : X →Y ; f , , không gian Banach Định lý III.13 Giả sử a Ánh xạ F hàm b CodimIm F ' ( Khi đó, tồn nhân tử Lagrange cho: ( , λ0 , 51 ( L'x x; λ0 , , λm , y * )=∑ m ( ) + F (x ) y λi f ix' x '* * = 0, i=0 Hơn nữa, với số i mà f i (x) = , λ0 ≠ xem λ0 =1 Chứng minh Áp dụng nguyên lý cực trị cho toán trơn (P8) ta nhận kết Định lý III.14 Giả thiết x nghiệm toán (P8), và: a f , , fn hàm lồi X; b F ánh xạ affine, tức là: F (x ) = ∧ x + y0 , ∧ tốn tử tuyến tính từ X vào Y, y0 ∈Y ; c A tập lồi Khi đó, tồn nhân tử Lagrange λ ≥ 0, , λ ≥ 0, y * ∈Y * L ( () λi f i x = (i =1, , m) Hơn nữa, điều kiện Slater sau thỏa mãn: F(A) chứa lân cận Y, tồn x ∈ A cho: ( F x Ngược lại, giả sử x điểm chấp nhận toán (P8), điều kiện a) c) điều kiện Slater thỏa mãn Khi đó, x nghiệm tốn (P8) Chứng minh 52 a) Điều kiện cần: Áp dụng nguyên lý cực trị cho toán lồi (P8) ta nhận điều phải chứng minh b) Điều kiện đủ: Lấy x chấp nhận (P8), tức F (x) = ,  f i (x) ≤ i = 1, , m ) , x ∈ A Khi đó, từ (5.38) – (5.40), ta có: ∀x ∈ A , ( ) = f (x ) + ∑ f0 x m ( )+ λi f i x () y*,F x i=1 ( )+ ≤ f (x ) + ∑m λi f i x y * , F (x) i=1 ≤ f (x) Vậy, x nghiệm toán (P8) Nhận xét Định lý III.14 cho trường hợp X không gian tuyến tính 53 Kết luận Trong tốn phổ thơng, học sinh biết ứng dụng đạo hàm để tìm cực tiểu hàm lồi Chứng tỏ, ứng dụng vi phân tốn tối ưu hóa tốn quan trọng có ứng dụng rộng rãi Trong luận văn, tác giả đề cập tới vấn đề sau: Định nghĩa, tính chất tập lồi hàm lồi Các phép toán tập lồi hàm lồi trình bày số tập lồi quan trọng: Tập affine, nón,… Khái niệm vi phân hàm lồi, hàm lồi địa phương Điều kiện khả vi phân điểm Điều kiện để hàm khả vi Gaatteaux định lý vi phân Định nghĩa tổng quát toán tối ưu, điều kiện để toán tồn nghiệm tối ưu Tám toán tối ưu điều kiện có nghiệm chúng Do thời gian trình độ cịn hạn chế, luận văn khơng tránh khỏi sai sót Tác giả mong nhận ý kiến đóng góp chân thành thầy, bạn quan tâm để hồn thiện luận văn tốt 54 Tài liệu tham khảo [1] Lê Dũng Mưu Nguyễn Văn Hiền Nhập mơn Giải tích lồi ứng dụng, Nhà xuất Đại Học Quốc Gia Hà Nội, (sẽ ra) [2] Đỗ Văn Lưu Phan Huy Khải Giải tích lồi, Nhà xuất Khoa Học Kỹ Thuật Hà Nội [3] Hoàng Tụy Lý thuyết tối ưu, Viện Toán Học Hà Nội, 2006 [4] Lê Dũng Mưu Nhập môn phương pháp tối ưu, Nhà xuất Khoa Học Kỹ Thuật Hà Nội, 1998 [5] Đỗ Văn Lưu Lý thuyết điều kiện tối ưu, Nhà xuất Khoa Học Kỹ Thuật Hà Nội, 1999 [6] Rockafellar R.T Convex Analysis, Princeton University Press, 1970 55 ... liên quan đến hàm lồi, vi phân hàm lồi toán ứng dụng vi phân tối ưu hóa Với cơng vi? ??c đó, luận văn gồm chương: Chƣơng I “Những kiến thức tập lồi hàm lồi? ?? giới thiệu tập lồi, hàm lồi tính chất... vi phân hàm lồi II.1 Đạo hàm theo phương .23 II.2 Dưới vi phân hàm lồi II.3 Các định lý vi phân 26 31 II.4 Dưới vi phân hàm lồi. .. đối,… Chƣơng II “Dƣới vi phân hàm lồi? ?? đề cập tới khái niệm đạo hàm theo phương, điều kiện khả vi phân hàm lồi tính chất vi phân Chƣơng III ? ?Ứng dụng dƣới vi phân vào tốn tối ƣu” trình bày khái