cơ sở giải tích lồi TẬP AFFINE, TẬP LỒI

CƠ SỞ GIẢI TÍCH LỒI Tài liệu tham khảo: [1] R Tyrrell Rockafellar (1970), Convex Analysis, Princeton University Press [2] Huỳnh Thế Phùng (2012), Cơ sở Giải tích lồi, NXB Giáo dục [3] B.N Pshenichnyi (1980), Giải tích lồi toán cực trị, Nauka (Moscow, tiếng Nga) KÝ HIỆU Trong suốt giáo trình này, kí hiệu tập số thực, n không gian vectơ thực thơng thường gồm có thứ tự x = (1, , n ) n số thực Tích hai vectơ x x *  x, x* = 11* + n xác định +  n*n Kí hiệu A sử dụng để m  n − ma trận thực sử dụng để phép biến đổi tuyến tính x → Ax từ n vào m tương ứng với ma trận Ma trận chuyển vị phép biến đổi tuyến tính liên hợp từ m vào n tương ứng kí hiệu AT ; thế, Đại số tuyến tính ta biết  Ax, y* =  x, AT y* với x  n , y*  m Trong kí hiệu vectơ, dấu * khơng phép toán nào: để dễ liên tưởng đến phép nhân ma trận, vectơ (như x, x*  n ; y*  m vừa dùng trên) xem vectơ cột Đôi ta dùng thuật ngữ “điểm” thay cho “vectơ” CHƯƠNG TẬP AFFINE, TẬP LỒI 1.1 TẬP AFFINE Nếu x y hai điểm khác n , tập điểm có dạng (1 − ) x + y = x + ( y − x), với   , gọi đường thẳng nối x y Tập M n gọi tập affine (1 − )x + y  M với x  M , y  M   Theo định nghĩa, tập  không gian gồm điểm (trong n n tập affine Nếu M ) M tập affine Một tập M  n affine M chứa toàn đường thẳng nối hai điểm phân biệt Nói chung, tập affine có cấu trúc khơng cong khơng bị giới hạn, cho ta hình ảnh trực quan đường thẳng, mặt phẳng… Định lý 1.1 M không gian affine chứa (vectơ không) n n M tập Chứng minh Mọi không gian n chứa đóng phép cộng (vectơ) phép nhân (bởi số) vô hướng nên tập affine Đảo lại, giả sử M tập affine chứa   , ta có x = (1 − )0 + x  M ; n Khi đó, với x  M thế, M đóng phép nhân vơ hướng Bây giờ, với x  M y  M , ta có 1  1 ( x + y ) = x + 1 −  y  M , 2  2 và, thấy, M đóng phép nhân vơ hướng nên 1  x + y =  ( x + y)   M ; 2  vậy, M đóng phép cộng M không gian n || Cho M  n a  n Ảnh tịnh tiến tập M vectơ a định nghĩa tập M + a :=  x + a | x  M  Bài tập nhà (BTVN) Chứng minh ảnh tịnh tiến tập affine tập affine Tập affine M gọi song song với tập affine L M = L + a với a BTVN Chứng minh quan hệ “song song” quan hệ tương đương họ tập affine n Chú ý: Quan hệ song song khác với quan hệ song song biết trung học phổ thông Ở đây, ta xem tập affine M song song với ( M = M + 0), lại khơng chấp nhận kiểu nói “đường thẳng song song với mặt phẳng”; theo định nghĩa trên, ta nói “đường thẳng song song với đường thẳng”, “mặt phẳng song song với mặt phẳng”… Định lý 1.2 Mỗi tập affine M   song song với không gian L Không gian L xác định bởi: L = M − M :=  x − y | x  M , y  M  Chứng minh Trước hết ta thấy M song song với hai không gian khác Thật vậy, giả sử không gian L1 L2 song song với M Dễ thấy L2 = L1 + a với a (tức L1 L2 song song với nhau) Do  L2 , ta có −a  L1, suy a  L1 L1  L1 + a = L2 Bằng cách tương tự, ta nhận L2  L1, L1 = L2 Tính L chứng minh Sự tồn L suy từ nhận xét: với y  M (tồn phần tử y M  ), tập M − y :=  x − y | x  M  = M + (− y ) tập affine chứa Theo Định lý 1.1, tập affine không gian song song với tập affine M Tóm lại, tồn không gian L song song với M Hơn nữa, L = M − y không phụ thuộc cách chọn y  M , nên M −M = yM (M − y) = yM L = L || Chiều (affine) tập affine không rỗng định nghĩa chiều không gian (duy định lý 1.2) song song với Theo qui ước, chiều tập rỗng −1 Chiều tập affine M kí hiệu dim M Các tập affine có chiều 0, gọi tương ứng điểm, đường thẳng mặt phẳng Mỗi tập affine (n − 1) − chiều siêu phẳng n n gọi Dùng lý thuyết “trực giao” n , mô tả siêu phẳng tập affine thông qua hàm tuyến tính phương trình tuyến tính Theo định nghĩa, vectơ x, y  n gọi trực giao (với nhau), ký hiệu x ⊥ y,  x, y = Nếu vectơ x  tập M  M n n n trực giao với vectơ , ta nói x trực giao với M , ký hiệu x ⊥ M Với tập , đặt M ⊥ := {x  n | x ⊥ M } BTVN Với tập M  n n , chứng minh M ⊥ không gian Giả sử L không gian bù trực giao (trong n n Khi đó, L⊥ cịn gọi phần ) L BTVN Giả sử {b1, , bm} hệ sinh không gian L hiệu: L = b1 , , bm ) Chứng minh L⊥ = {x  n n (ký | x ⊥ b1 , , x ⊥ bm } Lý thuyết Đại số tuyến tính rằng: dim L + dim L⊥ = n (1.1) Phần bù trực giao ( L⊥ ) ⊥ L⊥ L Thật vậy, theo định nghĩa L⊥ , vectơ L trực giao với vectơ L⊥ , nên trước tiên ta có: L  ( L⊥ ) ⊥ (1.2) Hơn nữa, theo (1.1), dim L = n − dim L⊥ = n − ( n − dim( L⊥ )⊥ ) = dim( L⊥ )⊥ Điều này, với (1.2), cho thấy L = ( L⊥ ) ⊥ Đặc biệt, không gian (n − 1) − chiều giao khơng gian − chiều (1.3) n phần bù trực (1.4) Thật vậy, theo (1.1), X không gian − chiều L := X ⊥ không gian (n − 1) − chiều không gian (n − 1) − chiều n n n , Đảo lại, với L , đặt X := L⊥ , theo (1.1), ta thấy X không gian − chiều n với phần bù trực giao, theo (1.3), X ⊥ = ( L⊥ ) ⊥ = L Vậy, (1.4) chứng minh Từ đó, ta có định lý sau mô tả siêu phẳng: b  Định lý 1.3 Với  n \ 0 , tập hợp H :=  x  siêu phẳng n n | b, x =  Hơn nữa, siêu phẳng H biểu diễn dạng trên, b  n \ 0  n xác định cách (qua H), sai khác số nhân, khác Chứng minh Theo (1.4), không gian (n − 1) − chiều n tập có dạng L :=  x  b  n n | x ⊥ b , (1.5) \ 0 xác định cách (qua L), sai khác số nhân, khác ({b} sở không gian − chiều X := L⊥ ) Siêu phẳng ảnh tịnh tiến tập có dạng (1.5); tức là, tập có dạng H := L + a = x  n | x ⊥ b + a =  x + a | x  = x  n | b, x − a = 0 =  x  n n , b, x = 0 | b, x = ; đó, L khơng gian (n − 1) − chiều H (xem định lý 1.2), a  n n song song với (vectơ tịnh tiến),  := b, a  Vì b xác định cách (qua L, tức qua H ), sai khác số nhân, khác 0, nên thay b vectơ có dạng b ' = tb với  t  ; cách tương ứng,  thay số thực  ':= b ', a = t với số t  dùng || Trong Định lý 1.3, vectơ b gọi pháp vectơ siêu phẳng H Mọi pháp vectơ khác H có dạng tb với t  t  (1.6) Trong hình vẽ minh họa, người ta thường đặt gốc pháp vectơ b nằm siêu phẳng H Tính chất (1.6) hàm ý: siêu phẳng n có “hai phía”, giống hình ảnh trực quan trường hợp “đường thẳng mặt phẳng”, “mặt phẳng không gian (thông thường)”, khác hẳn trường hợp đường thẳng lọt không gian Và ý nghĩa tiếp đầu ngữ “siêu” tên gọi “siêu phẳng” Định lý sau mô tả tập affine n tập nghiệm hệ phương trình tuyến tính n biến số: Định lý 1.4 Giả sử c  m B m  n − ma trận thực (m, n *) Khi đó, tập hợp M = x  tập affine n n | Bx = c Đảo lại, tập affine M (1.7) n biểu diễn theo cách Chứng minh Xét M cho (1.7) với m, n * Nếu x  M , y  M ,   , với z := (1 − ) x + y, ta có Bz = (1 − ) Bx + By = (1 − )c + c = c; thế, z  M Do đó, M tập affine n Đảo lại, giả sử M tập affine không rỗng (n  *) Gọi L không gian (duy nhất) n n khác song song với M (xem định lý 1.2) {b1, , bm} sở L⊥ (m  , m  n) Vì M  nên L  n n n , L⊥  {0}; suy ra: m  Khi (xem BTVN 4), L = ( L⊥ ) ⊥ =  x  n , x ⊥ bm  | x ⊥ b1, = x  n | b1 , x = 0, = x  n | Bx = 0; , bm , x = 0 đó, B m  n − ma trận có hàng (từ xuống) b1, , bm Do M song song với L , nên tồn a  n cho M = L + a = x + a | x  đó, c := Ba  Nếu M = n m n , Bx = 0 = x  n | B( x − a) = 0 = x  n | Bx = c; , ta cần lấy B m  n − ma trận không (với m  * chọn tùy ý) c =  m , ta có biểu diễn (1.7) Nếu M = , ta lấy B m  n − ma trận không, với c  Hệ 1.4.1 Mọi tập affine phẳng Chứng minh Theo Định lý 1.4, n m \ 0 , ta có (1.7) || giao số hữu hạn siêu M = x  đó, bi  n n , bm , x = m  = | b1, x = 1, m i =1 Hi ; vectơ có thành phần phần tử hàng thứ i (tính từ xuống) ma trận B, i  thành phần thứ i vectơ c, H i :=  x  n | bi , x = i  (1  i  m) Hơn nữa, theo định lý 1.3, rõ ràng H i siêu phẳng (khi bi  0), tập  (khi bi = 0, i  0), toàn n (khi bi = 0, i = 0) Chú ý tập  giao hai siêu phẳng khác mà song song với nhau, thân siêu phẳng n n viết thành giao họ rỗng , nên ta có đpcm || Ghi chú: Tập affine M Định lý 1.4 tập tất nghiệm x = (1, , n ) hệ m phương trình tuyến tính theo n biến (khơng thiết nhất): b111 + b1 , x = 1      b , x =   m  m bm11 + + b1n n = 1 + bmn n = m ; đó, bi = (bi1, , bin ) vectơ hàng thứ i ma trận B, i  thành phần thứ i (1  i  m) vectơ c biểu diễn (1.7) Nó biểu diễn qua vectơ cột b '1, M =  x = (1 , , b 'n (tính từ trái qua phải) B sau: ,  n ) | 1b '1 + +  nb 'n = c BTVN Chứng minh giao họ tùy ý tập affine tập affine (trong n ) n vậy, f ( x)  − Kết hợp với (2.14), ta thấy (2.13) Suy ra: f liên tục x0 (chú ý đến (2.12)) [(a)  (d)]: Giả sử f bị chặn lân cận U x0 , tức c  (0, ), x U , f ( x)  c Khi đó, dễ thấy epi f chứa (int U )  (c, ), tập mở không rỗng n  = n+1 , nên int (epi f )   [(d)  (c)]: Giả sử int (epi f )   Khi tồn ( x,  )  int (epi f ), lân cận U x n x, lân cận I   cho U x  I   epi f (2.15) Từ (2.15), dễ thấy U x  dom f x  int (dom f ); vậy, int (dom f )   Hơn nữa, với x  int (dom f ), tồn đơn hình n − chiều  để x  int ,   dom f Giả sử {b0 , b1, , bn } tập đỉnh  c := max{f (b0 ), f (b1 ), , f (bn )} Ta thấy c  (vì f thường   dom f ) Mọi phần tử y  biểu diễn thành tổ hợp lồi n y =  ibi (( ) i =0 n i i =0 n  [0, ),  i = 1) i =0 đỉnh b0 , b1, , bn ; theo bất đẳng thức Jensen (định lý 2.3), ta có n  n  n f ( y ) = f   ibi    i f (bi )   i c = c i =0  i =0  i =0 Vậy, f bị chặn (bởi c) lân cận  điểm x Mệnh đề (a)  (b) (mà ta chứng minh riêng trên) cho thấy f liên tục x Vì x chọn int (dom f ), ta kết luận f liên tục int (dom f ) Sự tương đương điều kiện (a)-(d) thiết lập Để chứng minh (2.11), trước hết ta nhận thấy bao hàm thức int (epi f )  {( x,  )  n +1 | x  int (dom f ), f ( x)  } (2.16) Thật vậy, với ( x,  )  int (epi f ), tồn lân cận U x n x, lân cận I   thỏa (2.15) Từ (2.15), ta thấy U x  dom f x  int (dom f ) Bây giờ, chọn   I  cho    Do ( x, ) U x  I   epi f , nên f ( x)     Vậy ta có (2.16) Bao hàm thức ngược lại, {( x,  )  n +1 | x  int (dom f ), f ( x)  }  int (epi f ), (2.17) ta giả thiết f liên tục int (dom f ) Thậy vậy, với x  int (dom f )   cho f ( x)   , chọn số thực   ( f ( x),  ) Nếu f liên tục tập mở int (dom f ), tồn lân cận U x x cho f ( y)   y U x ; từ đó, ta thấy epi f chứa lân cận U x  ( , ) n  = điểm n+1 ( x,  ), nên ( x,  )  int (epi f ); bao hàm thức (2.17) chứng minh Từ (2.16) (2.17) ta có (2.11) || The following theorem deals with continuity of convex functions Theorem 2.7 Let f be a proper convex function given on n Then the following four conditions are equivalent: (a) f is bounded above in a neighbourhood of some point x0  (b) f is continuous at some point x0  n where f ( x0 )  ; (c) int (dom f )   and f is continuous in int (dom f ); n ; (d) int (epi f )   Moreover, if either of these four equivalent conditions is satisfied, then int (epi f ) = {( x,  )  n +1 | x  int (dom f ), f ( x)  } (2.11) Proof The propositions (c)  (b) and (b)  (a) are obvious; therefore, it remains only to prove (a)  (d) and (d)  (c) In proving (d)  (c), we shall actually use the procedure (a)  (b), so in what follows we first prove this separately [(a)  (b)]: Let f be bounded above in a neighbourhood U of x0 , i.e c  (0, ), x U , f ( x)  c Since f is proper, it follows that f is finite in U Letting g ( x) := f ( x + x0 ) − f ( x0 ) (x  n ), we obtain another proper convex function g which is bounded above in the neighbourhood U − x0 of 0(= x0 − x0 ), g (0) = Further, if we can prove that g is continuous at 0, then we can also see from the definition of g that f is continuous at x0 Therefore, replacing U by U − x0 , f by g (if necessary), we can assume that x0 = and f ( x0 ) = (2.12)      Take any   (0, c) and let V :=  U    − U  Then V is obviously a c   c  neighbourhood of x0 (= 0), and we shall show that f ( x)   x V (2.13)  c In fact, for an arbitrary x V , we have x  U  x U , hence c  c  f  x   c; so, using (2.12) and the convexity of f we obtain:    c     c     f ( x) = f  1 −  + x   1 −  f (0) + f  x    c   c c    c  (2.14) For such an x V , we also have − x  (−V ) = V  f (− x)   (by the above result); so, using (2.12) and the convexity of f we obtain: 1     1 = f (0) = f  1 −  x + (− x)   1 −  f ( x) + f ( − x )  [f ( x) +  ]; 2     2 from which we get f ( x)  − Combining this with (2.14), we have (2.13) Therefore, f is continuous at x0 (here (2.12) should be used) [(a)  (d)]: Assume f is bounded above in a neighbourhood U of x0 , i.e c  (0, ), x U , f ( x)  c It is clear from this assumption that epi f contains (int U )  (c, ), which is a non-empty open set in n  = n+1 , thus int (epi f )   [(d)  (c)]: Let int (epi f )   Then there exist a point ( x,  )  int (epi f ), together with a neighbourhood U x in n of x, and a neighbourhood I  in of  such that U x  I   epi f (2.15) It is obvious from (2.15) that U x  dom f and that x  int (dom f ); hence, int (dom f )   Moreover, for each x  int (dom f ), one can find an n − dimensional simplex  so that x  int ,   dom f Let {b0 , b1, , bn } be the set of all vertices c := max{f (b0 ), f (b1 ), , f (bn )} It follows that c  of  and let (since f is proper and since   dom f ) Every element y of  can be expressed as a convex combination n n i =0 i =0 y =  ibi ((i )in=0  [0, ),  i = 1) of the vertices b0 , b1, , bn ; so, by Jensen’s inequality (cf Thm 2.3), we have n  n  n f ( y ) = f   ibi    i f (bi )   i c = c i =0  i =0  i =0 Therefore, f is bounded above (by c) in the neighbourhood  of the point x The proposition (a)  (b) (which we have proved separately above) shows that f is continuous at x Since x is arbitrarily taken in int (dom f ), we conclude that f is continuous in int (dom f ) The equivalence of the four conditions (a)-(d) has been established To prove (2.11), we first notice that the inclusion int (epi f )  {( x,  )  n +1 | x  int (dom f ), f ( x)  } (2.16) is always true Indeed, given any ( x,  )  int (epi f ), there exist a neighbourhood U x in n of x, and a neighbourhood I  in of  satisfying (2.15) We have previously seen from (2.15) that U x  dom f and that x  int (dom f ) We now choose a real number   I  such that    Since ( x, ) U x  I   epi f , it follows that f ( x)     Thus (2.16) is true The converse inclusion {( x,  )  n +1 | x  int (dom f ), f ( x)  }  int (epi f ) (2.17) is also true when we assume that f is continuous in int (dom f ) In fact, given any x  int (dom f ) and   with f ( x)   , let us take a real number   ( f ( x),  ) If f is continuous in the open set int (dom f ), then there exists a neighbourhood U x of x such that f ( y)   y U x ; and then epi f contains the neighbourhood U x  ( , ) in n  = n+1 of the point ( x,  ), and hence ( x,  )  int (epi f ); so the inclusion (2.17) has been proved Finally, (2.16) and (2.17) imply (2.11) || 2.2 HÀM LỒI MỘT BIẾN Nếu f hàm lồi thường khơng rỗng I := dom f tập lồi ; đặc biệt, I khoảng (có thể đóng, mở, nửa đóng nửa mở) Trong toàn tiết này, ta cho   I  f :I → khoảng Theo định lý 2.1, hàm lồi f ((1 −  ) x +  y)  (1 −  ) f ( x) +  f ( y) với x  I , y  I với   (0,1) Bổ đề 2.8 Cho f : I → hàm lồi  ,  ,   I mà      Khi f (  ) − f ( ) f ( ) − f ( ) f ( ) − f (  )    −  −  − (2.18) Chứng minh Đặt  :=  −  − 1−  = ;    Khi ta dễ dàng kiểm chứng  −  − (1 −  ) +  =  Do f hàm lồi nên f (  ) = f ((1 −  ) +  )  (1 −  ) f ( ) +  f ( ) Trừ hai vế (2.19) cho f ( ), ta có f (  ) − f ( )  [f ( ) − f ( )] = suy  − [f ( ) − f ( )],  − (2.19) f (  ) − f ( ) f ( ) − f ( )   −  − (2.20) Viết lại (2.19) dạng − f (  )  −(1 −  ) f ( ) −  f ( ), cộng hai vế cho f ( ), ta thấy f ( ) − f (  )  (1 −  )[f ( ) − f ( )] =  − [f ( ) − f ( )],  − nên f ( ) − f (  ) f ( ) − f ( )   −  − (2.21) Các bất đẳng thức (2.20)-(2.21) cho ta (2.18) || Hệ 2.8.1 Cho f : I →  : I \ {t} → hàm lồi t  I Khi đó, hàm số xác định công thức  ( x) := f ( x) − f (t ) (x  I \ {t}) x−t hàm đơn điệu không giảm Chứng minh Lấy tùy ý x, y  I \ {t} mà x  y Lần lượt xét trường hợp xảy ra: - Trường hợp 1: x  y  t Áp dụng bổ đề 2.8, với  := x,  := y,  := t , ta có  ( x) = f ( x) − f (t ) f ( ) − f ( ) f ( ) − f (  ) f ( y ) − f (t ) =  = =  ( y ) x−t  −  − y −t - Trường hợp 2: t  x  y Áp dụng bổ đề 2.8, với  := t ,  := x,  := y, ta có  ( x) = f ( x) − f (t ) f (  ) − f ( ) f ( ) − f ( ) f ( y ) − f (t ) =  = =  ( y ) x−t  −  − y −t - Trường hợp 3: x  t  y Áp dụng bổ đề 2.8, với  := x,  := t ,  := y, ta có  ( x) = f ( x) − f (t ) f (  ) − f ( ) f ( ) − f (  ) f ( y ) − f (t ) =  = =  ( y ) x−t  −  − y −t Trong trường hợp ta chứng minh  ( x)   ( y) || Hệ 2.8.2 Cho f : I → hàm lồi Khi đó: (i) f có đạo hàm (hữu hạn) bên trái f '− đạo hàm (hữu hạn) bên phải f '+ khắp nơi int I Hơn nữa, f '− f '+ hàm đơn điệu không giảm, với f '−  f '+ , int I (ii) f liên tục khắp nơi int I (iii) f khả vi hầu khắp nơi int I Chứng minh (i) Lấy tùy ý t  int I , xét hàm số  xác định hệ 2.8.1 Do  đơn điệu không giảm I \ {t} nên tồn giới hạn hữu hạn bên f '− (t ) = lim−  ( x) = sup  ( x)  inf  ( x) = lim+  ( x) = f '+ (t ) x→t xI ( − ,t ) xI ( t , ) x→t (ở đây, ý t  int I  I  (−, t )  , I  (t , )  ) Vậy, f có đạo hàm bên trái f '− đạo hàm bên phải f '+ , với f '−  f '+ , int I Tiếp theo, cho x, y  int I mà x  y Với z  ( x, y), theo bổ đề 2.8 ta có: f ( z ) − f ( x) f ( y ) − f ( x)  z−x y−x (2.22) f ( y ) − f ( x) f ( z ) − f ( y )  y−x z−y (2.23) Trong (2.22) cho z → x+ , ta có f '+ ( x)  z → y − , ta lại có f ( y ) − f ( x) ; (2.23) cho y−x f ( y ) − f ( x)  f '− ( y ); từ đó, y−x f '− ( x)  f '+ ( x)  f ( y ) − f ( x)  f '− ( y )  f '+ ( y ) y−x Vậy, f '− f '+ đơn điệu không giảm int I (ii) Từ (i) ta thấy f liên tục bên trái liên tục bên phải, f liên tục khắp nơi int I (iii) Ta chứng minh f liên tục Lipschitz khoảng đóng [c, d ]  int I mà ta xem c  d Thật vậy, với c, d thế, ta chọn u, v  int I cho u  c  d  v đặt  f (v) − f (d ) f (c) − f (u )   L := max  ;    v − d c − u   Khi đó, với x, y [c, d ] mà x  y, dùng liên tiếp bổ đề 2.8, ta có  f ( y ) − f ( x ) f ( d ) − f ( y ) f (v ) − f ( d )   L  y−x d−y v−d   f ( y ) − f ( x)  f ( x) − f (c)  f (c) − f (u )  − L  y−x x−c c−u Từ đó, f ( x) − f ( y )  L x − y với x, y [c, d ] Vậy, f liên tục Lipschitz (nên liên tục tuyệt đối) [c, d ] Theo định lý Rademacher4 (hoặc Lebesgue5), f khả vi hầu khắp nơi (c, d ) Nhưng c  d chọn tùy ý int I nên f khả vi hầu khắp nơi int I || Xem https://en.wikipedia.org/wiki/Rademacher%27s_theorem Xem https://en.wikipedia.org/wiki/Absolute_continuity Định lý 2.9 Cho f : I → hàm số liên tục6 Giả sử thêm f khả vi int I Khi đó, f hàm lồi (trên I ) f ' đơn điệu không giảm int I Chứng minh Giả sử f lồi Khi đó, theo hệ 2.8.2 (i), f ' = f '+ = f '− đơn điệu không giảm int I Đảo lại, giả sử f ' đơn điệu khơng giảm int I Khi đó, theo định lí giá trị trung bình Lagrange, với x  I , y  I mà x  y, với   (0,1), tồn c  int I d  int I cho x  c  (1 −  ) x +  y  d  y f ( (1 −  ) x +  y ) − f ( x) f ( y ) − f ( (1 −  ) x +  y ) = f '(c)  f '(d ) = ; y − ( (1 −  ) x +  y ) ( (1 −  ) x +  y ) − x suy (1 −  )  f ( (1 −  ) x +  y ) − f ( x)     f ( y ) − f ( (1 −  ) x +  y ) ; tức là, f ((1 −  ) x +  y)  (1 −  ) f ( x) +  f ( y) Vậy, f hàm lồi || BTVN 38 Cho f : I → hàm số liên tục Giả sử thêm f khả vi hai lần int I Chứng minh f hàm lồi (trên I ) f ''  int I BTVN 39 Cho a, b ; a  b Chứng minh f :[a, b] → hàm lồi giá trị lớn hàm số f đạt a b 2.2 CONVEX FUNCTIONS OF A SINGLE VARIABLE Nếu I đóng đầu mút bên trái (t.ư, bên phải) f xem liên tục bên phải (t.ư., bên trái) đầu mút If f is a proper convex function on convex set in , then I := dom f is a non-empty ; especially, I is an interval (which can be closed, open, or half-open) in Throughout this section, let   I  f :I → be an interval By Thm 2.1, is a convex function iff f ((1 −  ) x +  y)  (1 −  ) f ( x) +  f ( y) for any x  I , y  I and any   (0,1) Lemma 2.8 Let f : I → be a convex function and  ,  ,   I such that      Then f (  ) − f ( ) f ( ) − f ( ) f ( ) − f (  )    −  −  − (2.18) Proof Let  :=  −  − 1−  = ;    Then it is easy to check that  −  − (1 −  ) +  =  Since f is convex, it follows that f (  ) = f ((1 −  ) +  )  (1 −  ) f ( ) +  f ( ) (2.19) Subtracting f ( ) from both the sides of (2.19), we get f (  ) − f ( )  [f ( ) − f ( )] =  − [f ( ) − f ( )],  − and hence f (  ) − f ( ) f ( ) − f ( )   −  − (2.20) Rewriting (2.19) as − f (  )  −(1 −  ) f ( ) −  f ( ), and then adding f ( ) to both the sides of this, we see get f ( ) − f (  )  (1 −  )[f ( ) − f ( )] =  − [f ( ) − f ( )],  − and so f ( ) − f (  ) f ( ) − f ( )   −  − (2.21) The inequalities (2.20)-(2.21) give us (2.18) || Corollary 2.8.1 Let f : I → function  : I \ {t} → be a convex function and t  I Then the defined by the formula  ( x) := f ( x) − f (t ) (x  I \ {t}) x−t is (monotonically) non-decreasing Proof Take any x, y  I \ {t} with x  y One after another we consider all possible cases: - Case 1: x  y  t Applying Lemma 2.8, with  := x,  := y,  := t , we have  ( x) = f ( x) − f (t ) f ( ) − f ( ) f ( ) − f (  ) f ( y ) − f (t ) =  = =  ( y ) x−t  −  − y −t - Case 2: t  x  y Applying Lemma 2.8, with  := t ,  := x,  := y, we have  ( x) = f ( x) − f (t ) f (  ) − f ( ) f ( ) − f ( ) f ( y ) − f (t ) =  = =  ( y ) x−t  −  − y −t - Case 3: x  t  y Applying Lemma 2.8, with  := x,  := t ,  := y, we also have  ( x) = f ( x) − f (t ) f (  ) − f ( ) f ( ) − f (  ) f ( y ) − f (t ) =  = =  ( y ) x−t  −  − y −t In all the cases we have proved that  ( x)   ( y) || Corollary 2.8.2 Let f : I → be a convex function Then (i) f has its left-hand (finite) derivative f '− and its right-hand (finite) derivative f '+ everywhere in int I Moreover, f '− and f '+ are (monotonically) non-decreasing functions, with f '−  f '+ , on int I (ii) f is continuous everywhere in int I (iii) f is differentiable almost everywhere in int I Proof (i) Take any t  int I , and consider the function  defined as in Corollary 2.8.1 Since  is non-decreasing on I \ {t}, there exist one-sided finite limits f '− (t ) = lim−  ( x) = sup  ( x)  inf  ( x) = lim+  ( x) = f '+ (t ) x→t xI ( − ,t ) xI ( t , ) x→t (here, notice that t  int I  I  (−, t )  , I  (t , )  ) Therefore, f has its left-hand derivative f '− and its right-hand derivative f '+ , with f '−  f '+ , in int I Next, take any x, y  int I with x  y For all z  ( x, y), by Lemma 2.8, we have: f ( z ) − f ( x) f ( y ) − f ( x)  z−x y−x (2.22) f ( y ) − f ( x) f ( z ) − f ( y )  y−x z−y (2.23) and In (2.22) letting z → x+ , we get f '+ ( x)  z → y − , we also get f ( y ) − f ( x) ; in (2.23) letting y−x f ( y ) − f ( x)  f '− ( y ); hence, y−x f '− ( x)  f '+ ( x)  f ( y ) − f ( x)  f '− ( y )  f '+ ( y ) y−x So, f '− and f '+ are (monotonically) non-decreasing functions on int I (ii) It follows from (i) that f is left continuous and right continuous, and is therefore continuous, everywhere in int I (iii) We claim that f is Lipschitz continuous on every closed interval [c, d ]  int I that we may assume c  d Indeed, for these c, d we can choose u, v  int I such that u  c  d  v and let  f (v) − f (d ) f (c) − f (u )   L := max  ;    v − d c − u   For any x, y [c, d ] with x  y, we then consecutively use Lemma 2.8 to have  f ( y ) − f ( x ) f ( d ) − f ( y ) f (v ) − f ( d )   L  y−x d−y v−d   f ( y ) − f ( x)  f ( x) − f (c)  f (c) − f (u )  − L  y−x x−c c−u Hence, f ( x) − f ( y )  L x − y for any x, y [c, d ] In other words, f is Lipschitz continuous (and is therefore absolutely continuous) on [c, d ] By a theorem of Rademacher7 (or by a theorem of Lebesgue8), f is differentiable almost everywhere in (c, d ) But c  d have been arbitrarily chosen in int I , f should be differentiable almost everywhere in int I || See https://en.wikipedia.org/wiki/Rademacher%27s_theorem See https://en.wikipedia.org/wiki/Absolute_continuity Theorem 2.9 Let f : I → be a continuous9 function Assume, in addition, that f is differentiable on int I Then f is convex (on I ) if and only if f ' is (monotonically) non-decreasing on int I Proof Let f be convex Then, by Corollary 2.8.2 (i), f ' = f '+ = f '− is (monotonically) non-decreasing on int I Conversely, let f ' be non-decreasing on int I Then, by Lagrange’s meanvalue theorem, for any x  I , y  I with x  y, and for any   (0,1), there exist c  int I and d  int I such that x  c  (1 −  ) x +  y  d  y and f ( (1 −  ) x +  y ) − f ( x) f ( y ) − f ( (1 −  ) x +  y ) = f '(c)  f '(d ) = ; y − ( (1 −  ) x +  y ) ( (1 −  ) x +  y ) − x and consequently, (1 −  )  f ( (1 −  ) x +  y ) − f ( x)     f ( y ) − f ( (1 −  ) x +  y ) ; i.e., f ((1 −  ) x +  y)  (1 −  ) f ( x) +  f ( y) Thus, f is convex || HW 38 Let f : I → be a continuous function Assume, in addition, that f is twice differentiable on int I Show that f is convex (on I ) iff f ''  on int I HW 39 Let a, b ; a  b If f :[a, b] → is a convex function, prove that its maximum value will be attained at a or at b If I is closed at its left (right, resp.) end-point, then f is considered right (left, resp.) continuous there ... transformation − AT 1.2 TẬP LỒI VÀ NÓN LỒI Một tập C n gọi lồi (1 − )x + y  C với x  C , y  C    Mọi tập affine (bao gồm  n ) tập lồi Ta khơng địi hỏi tập lồi phải chứa toàn đường thẳng... given hyperplane Định lý 1.8 Giao họ tùy ý tập lồi trong n Chứng minh n tập lồi Giả sử I tập số Ci  Ta cần chứng minh C := iI n tập lồi với i  I Ci tập lồi Muốn vậy, lấy tùy ý x  C , y  C Khi... cho “vectơ” CHƯƠNG TẬP AFFINE, TẬP LỒI 1.1 TẬP AFFINE Nếu x y hai điểm khác n , tập điểm có dạng (1 − ) x + y = x + ( y − x), với   , gọi đường thẳng nối x y Tập M n gọi tập affine (1 − )x