Đây là giáo trình Giải tích lồi được Thầy giáo Huỳnh Thế Phùng giảng dạy và biên soạn tại trường Đại học khoa học Đại học Huế.Nội dung cuốn sách: Chương 1: Tập lồi Chương 2: Hàm lồi chương 3: Dưới vi phân và Bài toán cực trị
GIẢI TÍCH LỒI (Giáo trình Đại học) Huỳnh Thế Phùng Ngày tháng năm 2009 Mục lục Chương 1.1 1.2 1.3 1.4 1.5 1.6 Tập lồi Tập lồi - Đa tạp affine 1.1.1 Không gian vectơ (Rn , +, ·) 1.1.2 Tích vơ hướng 1.1.3 Độ dài vectơ 1.1.4 Metric Rn Đa tạp affine 1.2.1 Định nghĩa 1.2.2 Biểu diễn đa tạp affine Tập lồi 1.3.1 Định nghĩa 1.3.2 Định lý Carathéodory 1.3.3 Nón Đại số tập lồi tính chất tơpơ 11 1.4.1 Các phép toán đại số tập lồi nón lồi 11 1.4.2 Các tính chất tơpơ 11 Nón lùi xa tập lồi 12 1.5.1 Định nghĩa ví dụ 12 1.5.2 Cấu trúc nón lùi xa 13 Định lý tách tập lồi 13 1.6.1 Khái niệm 1.6.2 Các định lý tách 14 1.6.3 Ứng dụng 15 Chương 13 Hàm lồi 16 2.1 2.2 2.3 2.4 2.5 2.6 Định nghĩa tính chất đặc trưng 16 2.1.1 Các định nghĩa 16 2.1.2 Đặc trưng hàm lồi 17 2.1.3 Hàm dương lồi Các phép toán hàm lồi 18 2.2.1 Hàm hợp 18 2.2.2 Tổng chập Infimal 18 2.2.3 Cận trên, cận 18 2.2.4 Bao lồi 19 Hàm lồi khả vi 19 2.3.1 Trường hợp hàm biến 19 2.3.2 Trường hợp hàm nhiều biến 20 2.3.3 Một số bất đẳng thức quen thuộc 20 Sự liên tục hàm lồi 21 2.4.1 Hàm nửa liên tục 21 2.4.2 Bao đóng, bao lồi đóng hàm 21 2.4.3 Sự liên tục hàm lồi 22 Hàm liên hợp 22 2.5.1 Biểu diễn hàm lồi theo hàm affine 22 2.5.2 Hàm liên hợp 23 Hàm tựa 24 2.6.1 Định nghĩa 24 2.6.2 Đặc trưng hàm tựa 25 Chương 3.1 3.2 17 Dưới vi phân Bài toán cực trị 26 Đạo hàm theo hướng 26 3.1.1 Sự tồn 26 3.1.2 Tính chất đạo hàm theo hướng 27 Dưới vi phân hàm lồi 27 3.2.1 Định nghĩa 27 3.3 3.2.2 Quan hệ với đạo hàm theo hướng 29 3.2.3 Các khái niệm khả vi 29 3.2.4 Các phép toán vi phân 31 Khảo sát toán Quy hoạch lồi 32 3.3.1 Bài tốn cực trị khơng ràng buộc 32 3.3.2 Bài toán quy hoạch lồi với ràng buộc đẳng thức 32 3.3.3 Bài toán với ràng buộc bất đẳng thức 34 Tài liệu tham khảo 36 Chương Tập lồi 1.1 Tập lồi - Đa tạp affine 1.1.1 Không gian vectơ (Rn , +, ·) Trong không gian Rn phần tử x = (x1 , · · · , xn ) xi ∈ R, với i, gọi vectơ thực n chiều Với λ số thực, x = (x1 , x2 , · · · , xn ) y = (y1 , y2 , · · · , yn ) hai vectơ, ta ký hiệu x + y vectơ tổng x y, λx tích vectơ x với số vơ hướng λ, xác định x + y := (x1 + y1 , x2 + y2 , · · · , xn + yn ); λx = (λx1 , λx2 , · · · , λxn ) Đặc biệt, ta ký hiệu −x := (−1)x = (−x1 , −x2 , · · · , −xn ) phần tử có tất toạ độ Lúc đó, Rn với hai phép tốn lập thành khơng gian vectơ trường số thực R Tức là, với λ, µ ∈ R, x, y ∈ Rn ta có a) x + y = y + x; b) (x + y) + z = x + (y + z); c) + x = x + = x; d) x + (−x) = 0; e) λ(x + y) = λx + λy; f) (λ + µ)x = λx + µx; g) (λµ)x = λ(µx); h) 1x = x Bây phép trừ hai vectơ định nghĩa x − y := x + (−y) Ngoài ra, A, B tập Rn λ số thực x0 vectơ tập A ± B, A ± x0 λA định nghĩa A ± B := {a ± b | a ∈ A; b ∈ B}; A ± x0 := {a ± x0 | a ∈ A}; λA := {λa | a ∈ A} 1.1.2 Tích vơ hướng Với cặp vectơ x, y tích vơ hướng x y số thực x, y := x1 y1 + x2 y2 + · · · + xn yn Như vậy, tích vơ hướng , ánh xạ từ Rn × Rn vào R Các tính chất tích vơ hướng thể mệnh đề sau Mệnh đề 1.1 Với x, y, z ∈ Rn λ ∈ Rn ta có a) x, x ≥ ; b) x, x = ⇔ x = 0; c) x, y = y, x ; d) λx, y = x, λy = λ x, y ; e) x, y + z = x, y + x, z Hai vectơ x y gọi trực giao (hay vng góc) với ký hiệu x⊥y x, y = Bổ đề 1.1 (Bất đẳng thức Schwarz) Cho x y hai vectơ, ta có x, y 1.1.3 ≤ x, x y, y Độ dài vectơ Với vectơ x, ta gọi độ dài (hay chuẩn) x số thực x định nghĩa bởi: x := x, x = x21 + x22 + · · · + x2n Từ Mệnh đề 1.1 Bổ đề 1.1 ta dễ dàng chứng minh Mệnh đề 1.2 Với x, y ∈ Rn λ ∈ R ta có a) x ≥ 0; b) x = ⇔ x = 0; c) λx = |λ| x ; d) x + y ≤ x + y Mệnh đề 1.3 (Pythagore) Cho x, y ∈ Rn Lúc đó, x⊥y ⇐⇒ x + y = x + y = x − y Mệnh đề 1.4 (Đẳng thức hình bình hành) Cho x, y ∈ Rn Lúc đó, x+y 1.1.4 + x−y =2 x + y Metric Rn Dựa định nghĩa độ dài vectơ người ta đưa vào khái niệm khoảng cách hai vectơ Rn Cụ thể, ta định nghĩa ánh xạ d : Rn × Rn → R, xác định d(x, y) := x − y ; ∀x, y ∈ Rn Ánh xạ thoả mãn tính chất sau, mà dễ dàng suy từ Mệnh đề 1.3 Mệnh đề 1.5 Với x, y, z ∈ Rn ta có a) d(x, y) ≥ 0; b) d(x, y) = ⇔ x = y; c) d(x, y) = d(y, x); d) d(x, y) + d(y, z) ≥ d(x, z) Như vậy, (Rn , d) không gian metric d thực hàm khoảng cách Rn (và gọi hàm khoảng cách Euclide) Thực Rn người ta sử dụng hai hàm khoảng cách quen thuộc khác, n d∞ (x, y) := max{|xi − yi | | ≤ i ≤ n}; |xi − yi | d1 (x, y) := Bổ đề 1.2 Với x, y, z ∈ Rn ta có a) d(x + z, y + z) = d(x, y); b) nd∞ (x, y) ≥ d1 (x, y) ≥ d(x, y) ≥ d∞ (x, y) Bổ đề cho thấy metric d, d∞ d1 tương đương; Nghĩa chúng sinh tôpô Rn Dễ kiểm chứng rằng, tơpơ hàm có dạng fa (x) = a, x , gλ (x) = λx, (x) = a + x, với a ∈ Rn , λ ∈ R cố định, liên tục Vì Rn khơng gian metric, Rn ta có khái niệm dãy hội tụ, hình cầu, tập bị chặn, tập mở, tập đóng, tập compact, tập liên thơng Ta có tính chất quan trọng sau Định lý 1.6 (Bolzano-Weierstrass) Mọi dãy bị chặn Rn tồn dãy hội tụ Mệnh đề 1.7 Cho A, B ⊂ Rn , x0 ∈ Rn , λ ∈ R \ {0} Ta có a) A đóng (mở) A + x0 đóng (mở), b) A đóng (mở) λA đóng (mở), c) Nếu A mở, A + B mở 1.2 1.2.1 Đa tạp affine Định nghĩa Cho x, y ∈ Rn Ta gọi đường thẳng L(x, y), đoạn thẳng [x, y], nửa khoảng [x, y) tập hợp: L(x, y):={λx + (1 − λ)y | λ ∈ R}, [x, y] :={λx + (1 − λ)y | λ ∈ [0, 1]} [x, y) :={λx + (1 − λ)y | λ ∈ (0, 1]} Tương tự, bạn đưa định nghĩa cho tập (x, y], (x, y) Một tập hợp M ⊂ Rn gọi đa tạp affine với x, y ∈ M ta có L(x, y) ⊂ M Dễ kiểm chứng không gian đa tạp affine chứa gốc (tức vectơ 0) Một tổ hợp affine vectơ a1 , a2 , · · · , am m i vectơ có dạng x = m λi a ; với λi số thực cho λi = Mệnh đề 1.8 M đa tạp affine M chứa tổ hợp affine phần tử Mệnh đề 1.9 Giao họ tuỳ ý đa tạp affine đa tạp affine Bây cho B tập Rn , ta gọi bao affine B giao họ tất đa tạp affine chứa B ký hiệu Aff(B) Rõ ràng, Aff(B) đa tạp affine bé chứa B Đặc biệt Aff({x, y}) = L(x, y) Mệnh đề 1.10 Cho B ⊂ Rn Ta có m Aff(B) = m λi a i i a ∈ B; λi ∈ R; 1.2.2 λi = Biểu diễn đa tạp affine Mệnh đề 1.11 Giả sử V không gian Rn x0 vectơ, lúc M := V + x0 đa tạp affine Ngược lại, cho M đa tạp affine ta ln tìm khơng gian V vectơ x0 cho M = V + x0 Không gian V gọi không gian song song với M Giả sử M đa tạp affine V không gian song song với Ta định nghĩa chiều đối chiều M chiều đối chiều V Cụ thế, dim M = dim V , codim M = codim V Nếu codim M = ta nói M siêu phẳng Định lý 1.12 Cho M ⊂ Rn Lúc đó, M siêu phẳng tồn vectơ x∗ = 0, số thực α cho M = H(x∗ ; α) := {x ∈ Rn | x∗ , x = α} Lúc đó, khơng gian V , song song với M xác định V = H(x∗ ; 0) = {x ∈ Rn | x∗ , x = 0} Định lý 1.13 M đa tạp affine M giao số hữu hạn siêu phẳng Hơn nữa, codim M = k tồn họ độc lập tuyến tính {a1 , a2 , · · · , ak } ⊂ Rn số α1 , α2 , · · · , αk cho k H(ai ; αi ) M= Hệ 1.1 Mọi đa tạp affine không gian Rn tập đóng 1.3 1.3.1 Tập lồi Định nghĩa Một tập C ⊂ Rn gọi lồi với x, y ∈ C ta có [x, y] ⊂ C Vì [x, y] ⊂ L(x, y) nên đa tạp affine tập lồi Một tổ hợp lồi vectơ a1 , a2 , · · · , am vectơ có dạng x = thực khơng âm cho m λi = m λi ; với λi số Mệnh đề 1.14 C tập lồi C chứa tổ hợp lồi phần tử Mệnh đề 1.15 Giao họ tuỳ ý tập lồi lồi Bây cho B tập Rn , ta gọi bao lồi (bao lồi đóng) B giao họ tất tập lồi (tập lồi đóng) chứa B ký hiệu co B (coB) Rõ ràng, co B (coB) tập lồi (tập lồi đóng) bé chứa B Đặc biệt co{x, y} = co{x, y} = [x, y] Thật ra, kiểm chứng ¯ coB = co B ⊃ co B Mệnh đề 1.16 Cho B ⊂ Rn Ta có m co B = m λi a i i a ∈ B; λi ≥ 0; 1.3.2 λi = Định lý Carathéodory Giả sử C tập lồi Rn , ta định nghĩa chiều C chiều đa tạp affine sinh C Cụ thể, dim C = dim Aff(C) Họ vectơ {a0 , a1 , · · · , am } gọi độc lập affine hệ {a1 − a0 , · · · , am − a0 } độc lập tuyến tính Lúc đó, ta gọi tập hợp ∆ = S(a0 , a1 , · · · , am ) := co{a0 , a1 , · · · , am } đơn hình m chiều (hay m−đơn hình) với m + đỉnh a0 , a1 , · · · , am Như vậy, 1−đơn hình đoạn thẳng, 2−đơn hình tam giác, 3−đơn hình tứ diện Định lý 1.17 Cho B ⊂ Rn với dim Aff(B) = k Lúc đó, với z ∈ co B tồn vectơ b0 , b1 , · · · , bk ∈ B cho z ∈ co{b0 , b1 , · · · , bk } Hệ 1.2 (Định lý Carathéodory) Cho B ⊂ Rn Lúc đó, với z ∈ co B tồn vectơ b0 , b1 , · · · , bn ∈ B cho z ∈ co{b0 , b1 , · · · , bn } 1.3.3 Nón Một tập K ⊂ Rn gọi nón với k ∈ K λ > ta có λk ∈ K Nếu nữa, K lồi (lồi đóng) gọi nón lồi (nón lồi 22 2.4.3 Sự liên tục hàm lồi Định lý 2.19 Cho f : Rn → R lồi thường, phát biểu sau tương đương: a) f liên tục điểm x¯ ∈ Rn b) f bị chặn hình cầu mở khác rỗng B(x0 ; r) c) Int(epi f ) = ∅ d) Int(dom f ) = ∅ Hệ 2.4 a) Nếu f : Rn → R lồi thường f liên tục Int(dom f ) b) Nếu f : Rn → R lồi f liên tục Rn Một hàm f gọi Lipschitz địa phương x¯ với số K > ∃δ > 0, ∀x, x ∈ B(¯ x; δ) ∩ dom f : |f (x) − f (x )| ≤ K x − x f gọi Lipschitz địa phương tập E ⊂ Rn Lipschitz địa phương điểm thuộc E Cuối cùng, f gọi Lipschitz E với hàng số K ∀x, x ∈ E : |f (x) − f (x )| ≤ K x − x Định lý 2.20 Cho tập lồi, mở E ⊂ Rn hàm f : E → R Lúc đó, f Lipschitz địa phương E Hệ 2.5 Cho f : Rn → R lồi, thường Lúc đó, f Lipschitz địa phương ri(dom f ) 2.5 2.5.1 Hàm liên hợp Biểu diễn hàm lồi theo hàm affine Ta nhắc lại rằng, hàm ϕ : Rn → R gọi hàm tuyến tính có dạng: ϕ(x) = u, x ; ∀x ∈ Rn (với vectơ cố định u ∈ Rn ) gọi hàm affine ϕ(x) = u, x + α; ∀x ∈ Rn (với u ∈ Rn α ∈ R) 23 Định lý 2.21 Cho f : Rn → (−∞, +∞] Lúc đó, f lồi đóng f cận họ hàm affine Hệ 2.6 Cho f : Rn → R Lúc đó, cof = ϕ ϕ affine ϕ≤f Hệ 2.7 Cho f hàm lồi, đóng, thường Rn Lúc đó, tồn vectơ u ∈ Rn số thực α cho f (x) ≥ u, x − α, với x ∈ Rn Nói cách khác, tồn u ∈ Rn cho hàm g(x) := u, x − f (x) bị chặn 2.5.2 Hàm liên hợp Cho hàm f : Rn → R Ta gọi hàm f ∗ xác định sau hàm liên hợp f : f ∗ (u) := sup{ u, x − f (x) | x ∈ Rn } = sup{ u, x − f (x) | x ∈ dom f } Ví dụ 2.4 Với f1 (x) = a, x + α; x ∈ Rn , f2 (x) = ex ; x ∈ R, f3 (x) = |x|p ; x ∈ R (1 < p < ∞), p ta có f1∗ (u) = −α; u = a, +∞; u = a f3∗ (u) = |u|q q u ln u − u; u > 0, ∗ f2 (u) = 0; u = 0, +∞; u < (1 < q < ∞, 1 + = 1) p q Mệnh đề 2.22 f ∗ hàm lồi đóng Ta ký hiệu f ∗∗ := (f ∗ )∗ gọi hàm liên hợp bậc hai f Từ định nghĩa ta có kết sau Mệnh đề 2.23 a) f ∗ (u) + f (x) ≥ u, x với u, x ∈ Rn b) f ∗∗ ≤ f 24 Hệ 2.8 f ∗∗ ≤ cof Mệnh đề 2.24 Nếu f lồi, đóng, thường f ∗ Định lý 2.25 (Fenchel-Moreau) Cho f : Rn → (−∞, +∞] Lúc đó, f = f ∗∗ ⇔ f lồi, đóng Hệ 2.9 Giả sử cof thường Lúc đó, cof = f ∗∗ ; 2.6 2.6.1 (cof )∗ = f ∗ Hàm tựa Định nghĩa Cho C ⊂ Rn Hàm tựa C hàm định nghĩa σC (u) := sup{ u, c | c ∈ C} Mệnh đề 2.26 σC lồi, đóng, dương Từ suy σC (u) + σC (−u) ≥ với u ∈ Rn Ta đặt C ⊥ := {u ∈ Rn | σC (u) + σC (−u) = 0} Dễ kiểm chứng C ⊥ không gian Các mệnh đề sau cho ta hiểu biết sâu sắc hàm tựa Mệnh đề 2.27 Với C tập tuỳ ý ta có σC = σC = σco C = σcoC Mệnh đề 2.28 Cho C tập lồi Lúc đó, a) x ∈ C ⇔ u, x ≤ σC (u); ∀u ∈ Rn b) x ∈ riC ⇔ u, x < σC (u); ∀u ∈ Rn \ C ⊥ c) x ∈ Int C ⇔ u, x < σC (u); ∀u = d) x ∈ Af f (C) ⇔ u, x = σC (u); ∀u ∈ C ⊥ 25 2.6.2 Đặc trưng hàm tựa Cho C ⊂ Rn , ta gọi hàm C hàm định nghĩa δC (x) := 0; x ∈ C, +∞; x ∈ C Mệnh đề 2.29 Cho C lồi đóng Lúc đó, δC = σC∗ ; σC = δC∗ Định lý 2.30 Cho C lồi đóng khác rỗng Lúc đó, σC lồi, đóng, thường dương Ngược lại, cho f hàm lồi, dương, thường, đóng ta ln tìm tập C lồi, đóng cho f = σC Chẳng hạn, C = {u ∈ Rn | u, x ≤ f (x); ∀x ∈ Rn } Chương Dưới vi phân Bài toán cực trị 3.1 3.1.1 Đạo hàm theo hướng Sự tồn Cho hàm nhiều biến f : Rn → R x0 ∈ Rn cho f (x0 ) ∈ R Với vectơ d ∈ Rn , ta định nghĩa đạo hàm f theo hướng d giới hạn sau, tồn tại, hữu hạn vơ hạn: f (x0 + λd) − f (x0 ) λ→0+ λ f (x0 ; d) := lim Ví dụ 3.1 Cho f, g : R → R, xác định g(x) = √ x; x ∈ R; f (x) = x sin x1 ; x > 0, 0; x ≤ Lúc ta tính g (0; 1) = +∞, g (0; −1) = −∞, f (0; −1) = f (0; 1) khơng tồn Dễ chứng minh rằng, f khả vi x0 f có đạo hàm theo hướng điểm Hơn nữa, f (x0 ; d) = ∇f (x0 ); d ; ∀d ∈ Rn Trong trường hợp f hàm biến thực, f (x0 ; 1) = f+ (x0 ) f (x0 ; −1) = −f− (x0 ) 26 27 Trong Ví dụ 3.1 ta thấy đạo hàm theo hướng tồn không, tuỳ theo trường hợp Tuy vậy, f hàm lồi đạo hàm theo hướng ln ln tồn Điều khẳng định định lý sau Định lý 3.1 Giả sử f hàm lồi Rn x0 ∈ Rn cho f (x0 ) ∈ R Với d ∈ Rn , ta có a) Hàm số sau ϕd (λ) := f (x0 + λd) − f (x0 ) ; λ λ ∈ (0, +∞) không giảm khoảng (0, +∞) b) Đạo hàm f theo hướng d tồn f (x0 ; d) = inf ϕd (λ) λ>0 3.1.2 Tính chất đạo hàm theo hướng Mệnh đề 3.2 Cho f lồi f (x0 ) ∈ R Lúc đó, f (x0 ; ·) hàm lồi, dương Hơn nữa, f (x0 ; 0) = f (x0 ; d) + f (x0 ; −d) ≥ 0; ∀d ∈ Rn Như vậy, f hàm lồi biến thực f− (x0 ) ≤ f+ (x0 ) f (x0 ) ∈ R Bổ đề 3.1 Cho g : Rn → R dương Lúc đó, a) Nếu g liên tục v ∈ Rn g liên tục điểm λv với λ > b) Nếu g liên tục lân cận g liên tục (tại điểm) Định lý 3.3 Cho f hàm lồi thường Rn x0 ∈ dom f a) Nếu x0 + d ∈ Int(dom f ) f (x0 ; ·) liên tục d b) Nếu x0 ∈ Int(dom f ) f (x0 ; ·) liên tục Rn 3.2 3.2.1 Dưới vi phân hàm lồi Định nghĩa Trong mục ta giả thiết f : Rn → R hàm lồi f (x0 ) ∈ R 28 Vectơ x∗ ∈ Rn gọi gradient f x0 f (x) ≥ f (x0 ) + x∗ , x − x0 ; ∀x ∈ Rn Về mặt hình học, điều có nghĩa hàm affine φ(x) := f (x0 ) + x∗ , x − x0 ; x ∈ Rn có đồ thị siêu phẳng nằm epi f tựa vào epi f điểm (x0 , f (x0 )) Tập hợp tất gradient f x0 gọi vi phân f điểm ký hiệu ∂f (x0 ) Vậy, ∂f (x0 ) = {x∗ | f (x) − f (x0 ) ≥ x∗ , x − x0 ; ∀x ∈ Rn } ∂f (x0 ) tập rỗng, tập khác rỗng, hữu hạn vô hạn Để minh hoạ, ta xét ví dụ sau Ví dụ 3.2 Cho f, g : R → R f (x) := |x|; √ − x; x ≥ 0, +∞; x < g(x) := Lúc đó, {−1}; x < 0, ∂f (x) = {1}; x > 0, [−1, 1]; x = ∂g(x) = ∅; x = 0, − 2√1 x ; x > Trong ví dụ ta khơng đề cập đến vi phân hàm g điểm x < điểm giá trị hàm g không hữu hạn Để thuận tiện ta qui ước vi phân điểm rỗng Vậy, ∂g(x) = ∅; x ≤ 0, − 2√1 x ; x > Ví dụ 3.3 Cho h(x) := x ; x ∈ Rn Lúc đó, ∂h(x) = B (0; 1); x = 0, x x ; x = Mệnh đề 3.4 Cho x∗ ∈ Rn , ta có x∗ ∈ ∂f (x0 ) ⇔ f (x0 ) + f ∗ (x∗ ) = x∗ , x0 29 3.2.2 Quan hệ với đạo hàm theo hướng Mệnh đề 3.5 ∂f (x0 ) tập lồi đóng ∂f (x0 ) = {x∗ | x∗ , d ≤ f (x0 ; d); ∀d ∈ Rn } Do đó, f (x0 ; ·) thường f (x0 ; d) = σ∂f (x0 ) (d); ∀d ∈ Rn Định lý 3.6 Cho f hàm lồi thường Lúc đó, a) ∂f (x) = ∅ với x ∈ dom f b) x ∈ Int(dom f ) ∂f (x) bị chặn, khác rỗng Lúc đó, f (x; ·) hàm hữu hạn liên tục Rn Hơn nữa, f (x; d) = max{ x∗ , d | x∗ ∈ ∂f (x)}; ∀d ∈ Rn c) Nếu x ∈ ri dom f , ∂f (x) = ∅ f (x; ·) lồi đóng thường, thoả mãn f (x; d) = sup{ x∗ , d | x∗ ∈ ∂f (x)} = σ∂f (x) (d); ∀d ∈ Rn Hệ 3.1 Nếu f hàm lồi, nhận giá trị hữu hạn điểm Rn , thì, với x ∈ Rn , ∂f (x) tập lồi compact khác rỗng f (x; d) = max{ x∗ , d | x∗ ∈ ∂f (x)} hàm lồi, dương, liên tục Rn 3.2.3 Các khái niệm khả vi Cho f : Rn → R x0 ∈ Rn f gọi khả vi (Frechét) x0 tồn x∗ ∈ Rn cho f (x) = f (x0 ) + x∗ , x − x0 + α(x − x0 ) x − x0 ; ∀x ∈ Rn , đó, α(x − x0 ) vô bé x → x0 Dễ thấy x∗ trên, có, Lúc đó, ta ký hiệu ∇f (x0 ) = x∗ gọi gradient (hay đạo hàm Fréchet) f x0 f gọi khả vi Gâteaux x0 tồn u∗ ∈ Rn cho f (x0 + λd) − f (x0 ) = u∗ , d ; λ→0 λ lim ∀d ∈ Rn 30 Cũng vậy, u∗ , có, nhất, gọi đạo hàm Gâteaux f x0 ký hiệu ∇G f (x0 ) Mối quan hệ khái niệm khả vi thể mệnh đề sau Mệnh đề 3.7 a) Nếu f có đạo hàm Fréchet x0 có đạo hàm Gâteaux điểm ∇f (x0 ) = ∇G f (x0 ) b) Nếu f có đạo hàm Gâteaux x0 có đạo hàm riêng x0 ∂f ∂f ∂f (x0 ), (x0 ), · · · , (x0 ) ∇G f (x0 ) = ∂x1 ∂x2 ∂xn Một câu hỏi hoàn toàn tự nhiên mệnh đề đảo a) b) Mệnh đề 3.7 có hay khơng? Câu trả lời khẳng định trường hợp f hàm lồi Trước tiên ta cần chứng minh bổ đề sau Bổ đề 3.2 Giả sử ϕ : Rn → R hàm lồi có đạo hàm riêng Hơn nữa, ∂ϕ ϕ(0) = 0, (0) = 0; ≤ i ≤ n ∂xi Lúc đó, ϕ(x) = ◦( x ), nghĩa ϕ(x) = x→0 x lim Định lý 3.8 Cho f : Rn → R lồi, x0 ∈ Rn Lúc đó, phát biểu sau tương đương a) f khả vi Fréchet x0 b) f khả vi Gâteaux x0 c) f có đạo hàm riêng x0 d) ∂f (x0 ) tập điểm Lúc này, ∂f (x0 ) = {∇f (x0 )} f (x0 ; d) = ∇f (x0 ), d với d ∈ Rn Hệ 3.2 Một hàm lồi f có đạo hàm riêng điểm x0 khả vi điểm f (x) − f (x0 ≥ ∇f (x0 ), x − x0 ; ∀x ∈ Rn 31 3.2.4 Các phép toán vi phân Mệnh đề 3.9 Cho f hàm lồi thường λ > Lúc đó, ∀x ∈ dom f ∂(λf )(x) = λ∂f (x); Định lý 3.10 Cho fi , ≤ i ≤ m hàm lồi thường Rn Đặt f := f1 + f2 + · · · + fm Lúc m a) Với x ∈ Rn , ta có ∂f (x) ⊇ ∂fi (x) m ri dom fi = ∅ dấu đẳng thức xảy b) Nếu Hệ 3.3 Giả sử fi lồi thường λi > 0, ≤ i ≤ m, nữa, m ri dom fi = ∅ Lúc đó, với x ∈ Rn , ta có m ∂ m λi fi (x) = λi ∂fi (x) Bây cho fi , ≤ i ≤ m, hàm lồi f = tập hữu hiệu f x định nghĩa m fi Với x ∈ Rn , I(x) := {i | fi (x) = f (x)} Từ Mệnh đề 2.10 ta biết f hàm lồi Định lý sau cho ta cách tính vi phân f phụ thuộc vào vi phân hàm fi Định lý 3.11 Giả sử fi , ≤ i ≤ m, hàm lồi thường Rn a) Với x ∈ Rn ta có ∂f (x) ⊇ co ∂fi (x) i∈I(x) b) Nếu fi liên tục x dấu đẳng thức xảy ra: ∂f (x) = co ∂fi (x) i∈I(x) 32 3.3 3.3.1 Khảo sát toán Quy hoạch lồi Bài tốn cực trị khơng ràng buộc Cho f0 : Rn → R Ta gọi toán P(f0 ) : f0 (x) −→ min, x ∈ Rn toán cực trị không ràng buộc với hàm mục tiêu f0 Ta nói x¯ ∈ Rn nghiệm tồn cục toán P(f0 ) (hay điểm cực tiểu toàn cục f0 ) f0 (x) ≥ f0 (¯ x); ∀x ∈ Rn Lúc đó, ta nói f0 đạt cực tiểu tồn cục điểm x¯ Tuy vậy, toán nảy sinh thực tế nhiều yêu cầu tìm nghiệm địa phương, nghĩa với > đủ bé ta có f0 (x) ≥ f0 (¯ x); ∀x ∈ B(¯ x; ) Lúc đó, ta nói x¯ điểm cực tiểu địa phương f0 Rõ ràng, điểm cực tiểu toàn cục cực tiểu địa phương Điều ngược lại hàm mục tiêu f0 lồi (khi đó, ta nói P(f0 ) tốn quy hoạch lồi khơng ràng buộc) Thật vậy, ta có mệnh đề Mệnh đề 3.12 Cho f0 : Rn → R lồi, ba phát biểu sau tương đương a) f0 đạt cực tiểu toàn cục x¯ b) f0 đạt cực tiểu địa phương x¯ c) ∂f0 (¯ x) 3.3.2 Bài toán quy hoạch lồi với ràng buộc đẳng thức Cho hàm lồi f0 : Rn → R C đa tạp affine Rn Ta gọi toán P(C; f0 ) : f0 (x) −→ min, x∈C toán quy hoạch lồi với ràng buộc đẳng thức, f0 hàm mục tiêu C tập chấp nhận Lúc đó, điểm x¯ gọi nghiệm P(C; f0 ) x¯ ∈ C, f0 (x) ≥ f0 (¯ x); ∀x ∈ C 33 Định lý sau cho ta điều kiện cần đủ cực trị toán quy hoạch lồi Định lý 3.13 Giả sử ri dom f0 ∩ C = ∅ Lúc đó, điểm x¯ ∈ C nghiệm toán P(C; f0 ) ∂f0 (¯ x) ∩ C ⊥ = ∅ Điều kiện ri dom f0 ∩ C = ∅ cần thiết Thật vậy, ta xét ví dụ sau Ví dụ 3.4 Trong R2 cho C := {(x, 0) | x ∈ R} y < 0, 0; f0 (x, y) = 1; y = 0, +∞; y > Lúc đó, C đa tạp affine, f0 lồi, C ⊥ = {(0, y) | y ∈ R} Ta có f0 (x, y) = = f0 (0, 0) (x,y)∈C ∂f0 (0, 0) = ∅ nên ∂f0 (0, 0) ∩ C ⊥ = ∅ ! Hệ 3.4 Giả sử C đa tạp affine C = {x ∈ Rn | x∗i , x = αi ; ≤ i ≤ m} cho ri dom f0 ∩ C = ∅ Lúc đó, x¯ nghiệm toán P(C; f0 ) tồn số λi ∈ R, ≤ i ≤ m, cho m λi x∗i ∈ ∂f0 (¯ x) Để chứng minh Định lý 3.18 Hệ 3.19 ta cần bổ đề sau Bổ đề 3.3 Nếu C đa tạp affine thì, với x ∈ C, ta có ∂δC (x) = C ⊥ Bổ đề 3.4 Giả sử C tập thoả mãn điều kiện Hệ 3.19 Lúc m ⊥ C = span{x∗1 , x∗ 2, · · · , x∗m } λi x∗i | λi ∈ R = 34 3.3.3 Bài toán với ràng buộc bất đẳng thức Bây ta xét toán P(C; f0 ) với C tập lồi xác định hệ bất đẳng thức lồi sau C = {x ∈ A | fi (x) ≤ 0; ≤ i ≤ m}, đây, A tập lồi fi , ≤ i ≤ m, hàm lồi cho trước Cụ thể, ta có tốn f0 (x) −→ min, P(A; f0 , f1 , · · · , fm ) : x ∈ A, fi (x) ≤ 0; ≤ i ≤ m Lúc điểm chấp nhận thuộc vào A giá trị hàm fi , ≤ i ≤ m, khơng dương Bài tốn P(A; f0 , f1 , · · · , fm ) gọi thoả mãn điều kiện Slater ∃x0 ∈ A : fi (x0 ) < 0, ≤ i ≤ m Một trường hợp đặc biệt tốn tốn quy hoạch tuyến tính tổng quát: ∗ x0 , x −→ min, LP(x∗0 , x∗1 , · · · , x∗m ) : x ∈ Rn , ∗ xi , x ≤ bi ; ≤ i ≤ m Với điểm chấp nhận x ∈ C := {x ∈ Rn | x∗i , x ≤ bi ; ≤ i ≤ m}, ta đặt I(x) := {i | x∗i , x = bi } Điều kiện Slater lúc trở thành ∃x0 ∈ C : I(x0 ) = ∅ Để nghiên cứu điều kiện cực trị toán P(A; f0 , f1 , · · · , fm ) người ta khảo sát hàm sau L(x; λ0 , λ1 , · · · , λm ) := λ0 f0 (x) + λ1 f1 (x) + · · · + λm fm (x) mà gọi hàm Lagrange toán 35 Định lý 3.14 (Kuhn-Tucker) Cho x¯ điểm chấp nhận toán P(A; f0 , f1 , · · · , fm ) a) Nếu x¯ nghiệm tốn, tồn số λi ≥ 0, ≤ i ≤ m, không đồng thời cho L(¯ x, λ0 , λ1 , · · · , λm ) = L(x, λ0 , λ1 , · · · , λm ), (3.1) λi fi (¯ x) = 0; ≤ i ≤ m (3.2) x∈A Hơn nữa, điều kiện Slater thoả mãn λ0 > 0, điều chỉnh để λ0 = b) Nếu (3.1)-(3.2) thoả mãn, với λ0 > 0, x¯ nghiệm tốn (3.2) gọi điều kiện Kuhn-Tucker λi gọi nhân tử Lagrange toán Từ Định lý 3.14 ta trực tiếp suy hệ sau Hệ 3.5 Cho x¯ điểm chấp nhận toán LP(x∗0 , · · · , x∗m ) a) Nếu x¯ nghiệm tốn, tồn số λi ≥ 0, ≤ i ≤ m, không đồng thời cho m λi x∗i = (3.3) λi x∗i , x¯ − bi = 0; ≤ i ≤ m (3.4) Hơn nữa, điều kiện Slater thoả mãn λ0 > 0, đặt λ0 = m λi x∗i x∗0 = − b) Nếu (3.3)-(3.4) thoả mãn, với λ0 > 0, x¯ nghiệm tốn Tài liệu tham khảo [1] I Ekeland, R Temam, Convex Analysis and Variational Problems, NorthHolland, American Elsevier, 1973 [2] R.B Holmes, Geometric Functional Analysis and Its Applications, Springer-Verlag, 1975 [3] B.N Pshenhichnyi, Giải tích lồi Bài tốn cực trị (tiếng Nga), Nauka, 1980 [4] A.P Robertson, W Robertson, Không gian vectơ tơpơ, (P Đ Chính dịch), Nxb ĐH&THCN, 1977 [5] R.T Rockafellar, Convex analysis, Princeton University Press, 1970 [6] Hoàng Tụy, Hàm thực Giải tích hàm, Nxb ĐHQG Hà Nội, 2003 36 ... 17 Dưới vi phân Bài toán cực trị 26 Đạo hàm theo hướng 26 3.1.1 Sự tồn 26 3.1.2 Tính chất đạo hàm theo hướng 27 Dưới vi phân hàm lồi... phân Bài toán cực trị 3.1 3.1.1 Đạo hàm theo hướng Sự tồn Cho hàm nhiều biến f : Rn → R x0 ∈ Rn cho f (x0 ) ∈ R Với vectơ d ∈ Rn , ta định nghĩa đạo hàm f theo hướng d giới hạn sau, tồn tại, hữu... đạo hàm theo hướng điểm Hơn nữa, f (x0 ; d) = ∇f (x0 ); d ; ∀d ∈ Rn Trong trường hợp f hàm biến thực, f (x0 ; 1) = f+ (x0 ) f (x0 ; −1) = −f− (x0 ) 26 27 Trong Ví dụ 3.1 ta thấy đạo hàm theo hướng