Bài tiểu luận tối ưu phi tuyến nhóm 12

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC SƯ PHẠM TP.HCM KHOA TOÁN - TIN BÀI THUYẾT TRÌNH TỐI ƯU PHI TUYẾN ĐỀ TÀI: TÍNH KHẢ VI CỦA HÀM LỒI VÀ HÀM LÕM GIẢNG VIÊN : TS. TRỊNH CÔNG DIỆU THỰC HIỆN : NHÓM 21 – VB2 TOÁN – KHÓA 2 01 : HUỲNH VĂN AN 02 : ĐINH HÙNG KỲ 03 : ĐOÀN NHẬT MINH THÀNH PHỐ HỒ CHÍ MINH THÁNG 01 NĂM 2015 MÔN HỌC: TỐI ƯU PHI TUYẾN GV: PGS. TS TRỊNH CÔNG DIỆU SVTH: NHÓM 21 – LỚP VB2 TOÁN – KHÓA 2 i MỤC LỤC MỤC LỤC i 1. Kiến thức chuẩn bị 1 1.1. Tập lồi 1 1.2. Hàm số lồi, hàm số lõm: 1 1.3. Hàm số lồi nghiêm ngặt, lõm nghiêm ngặt 2 1.4. Hàm số khả vi và khả vi cấp hai 2 1.5. Định lý giá trị trung bình và Định lý Taylor 3 2.Tính khả vi của hàm lồi và hàm lõm 4 2.1. Định lý 2.1 4 2.2. Định lý 2.2 6 2.3. Định lý 2.3 8 3. Tính khả vi của hàm lồi nghiêm ngặt và hàm lõm nghiêm ngặt 9 3.1. Định lý 3.1 9 3.2. Định lý 3.2 10 3.3. Định lý 3.3 11 4. Tính khả vi cấp hai của hàm lồi và hàm lõm 12 4.1. Định lý 4.1 12 4.2. Định lý 4.2 12 5. Tính khả vi cấp hai của hàm lồi nghiêm ngặt và hàm lõm nghiêm ngặt 13 5.1. Định lý 5.1 13 5.2. Định lý 5.2 14 6. Khảo sát tính lồi, lõm của hàm số 15 PHỤ LỤC 17 Phụ lục 1: Tóm tắt Định lý 2.1, 2.2, 2.3 17 Phụ lục 2: Tóm tắt Định lý 3.1, 3.2, 3.3 17 Phụ lục 3: Tóm tắt Định lý 4.1, 4.2 18 Phụ lục 4: Tóm tắt Định lý 5.1, 5.2 18 MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU SVTH: NHÓM 21 – LỚP VB2 TOÁN – KHÓA 2 1 1. Kiến thức chuẩn bị 1.1. Tập lồi n  là tập lồi nếu lấy hai điểm tùy ý thuộc  thì đoạn thẳng nối hai điểm ấy cũng thuộc  . Định nghĩa tương đương, n  là tập lồi nếu   12 12 , 1 01 xx xx        Ví dụ: - Với 12 , n xx , đoạn     1 2 1 2 , | 1 ,0 1          x x x x x x là tập lồi. - Quả cầu mở tâm x bán kính  :     |, n B x x x x x       là tập lồi. Hình 1.1: Hình ảnh minh hoạ một số tập lồi trong 2 1.2. Hàm số lồi, hàm số lõm: Cho  là hàm số xác định trên tập n  : i)  là hàm lồi tại x  nếu           0 1 1 1 1 x x x x x xx                        là hàm lồi trên  nếu  lồi tại mọi x  . ii)  là hàm lõm tại x  nếu           0 1 1 1 1 x x x x x xx                      là hàm lõm trên  nếu  lõm tại mọi x  . Lưu ý: i)  là hàm lồi tại x  khi và chỉ khi -  là hàm lõm tại x  ii) Hàm tuyến tính vừa là hàm lồi vừa là hàm lõm. MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU SVTH: NHÓM 21 – LỚP VB2 TOÁN – KHÓA 2 2 Hình 1.2a: Hàm lồi trên Hình 1.2b: Hàm lõm trên 1.3. Hàm số lồi nghiêm ngặt, lõm nghiêm ngặt Cho  là hàm số xác định trên tập n  : i)  là hàm lồi nghiêm ngặt tại x  nếu           11 01 1 x xx x x x x xx                         là hàm lồi nghiêm ngặt trên  nếu  lồi nghiêm ngặt tại mọi x  . ii)  là hàm lõm nghiêm ngặt tại x  nếu           11 01 1 x xx x x x x xx                          là hàm lõm nghiêm ngặt trên  nếu  lõm nghiêm ngặt tại mọi x  Lưu ý: i)  là hàm lồi nghiêm ngặt tại x  khi và chỉ khi -  là hàm lõm nghiêm ngặt tại x  ii) Hàm tuyến tính không phải là hàm lồi nghiêm ngặt cũng không phải là hàm lõm nghiêm ngặt. 1.4. Hàm số khả vi và khả vi cấp hai Cho  là hàm số xác định trên tập lồi, mở n  :   1 θx   2 θx 1 x 2 x       12 1-λ θ x + λθ x     12 θ 1 - λ x + λx 0  1 )θ(x 1 x 2 x       12 1-λ θ x + λθ x 0     12 θ 1 - λ x + λx 2 )θ(x  MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU SVTH: NHÓM 21 – LỚP VB2 TOÁN – KHÓA 2 3 - Nếu  khả vi tại x  thì           0 , lim , 0 n x x x x x x x x x x xx xx               Trong đó       1 n xx x , , xx         là vectơ gradient n chiều của  tại x với các thành phần là các đạo hàm riêng của  theo 1 x , …, n x có giá trị tại x và  là hàm số của x . - Nếu  khả vi cấp hai tại x  thì               2 2 0 , 2 lim , 0 n x x x x x x x x x x x x x xx xx                Trong đó   2 x là ma trận Hessian nn của  tại x , với phần tử thứ ij là     2 , 1, , ij x i j n xx    .                     2 2 2 2 1 2 1 1 2 2 2 2 2 2 1 2 2 2 2 2 2 12 n n nn n x x x x x x x x x x x x x x x x x x x x x x x x x                                                - Định lý Cho  là một hàm số xác định trên một tập mở n  , và cho x  . Khi đó (i) Nếu  có các đạo hàm riêng liên tục tại x , nghĩa là   x tồn tại và  liên tục tại x thì  khả vi tại x . (ii)  khả vi tại x  khả vi cấp 2 tại x (iii)  có các đạo hàm riêng liên tục tại x  khả vi cấp 2 tại x 1.5. Định lý giá trị trung bình và Định lý Taylor - Định lý giá trị trung bình Cho  là hàm số khả vi, xác định trên tập lồi, mở n  , với mọi 1 x , 2 x  , tồn tại  , 01   thỏa         2 1 1 2 1 2 1 x x x x x x x            MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU SVTH: NHÓM 21 – LỚP VB2 TOÁN – KHÓA 2 4 - Định lý Taylor Cho  là hàm số khả vi cấp hai, xác định trên tập lồi, mở n  , với mọi 1 x , 2 x  , tồn tại  , 01   thỏa              2 1 2 1 2 1 2 1 2 1 1 2 1 2 x x x x x x x x x x x x                 2.Tính khả vi của hàm lồi và hàm lõm 2.1. Định lý 2.1 Cho  là hàm số xác định trên tập mở n  và  khả vi tại x  : i) Nếu  là hàm lồi tại x  thì        x x x x x     với mọi x . ii) Nếu  là hàm lõm tại x  thì            x x x x x với mọi x . Chứng minh: Nhận xét: Bài toán sẽ dễ dàng được chứng minh nếu cho  là một tập lồi, thật vậy Cho  là hàm lồi tại x , từ Mục 1.2,  là một tập lồi và x nên với 01 ta có         11            x x x x hay                    x x x x xx      ,            x x x x x x x x (do  khả vi tại x )      ,          x x x x x x x x Vì   0 lim , 0        x x x nên khi cho 0 đối với biểu thức trên ta được:            x x x x x Nhưng giả thiết của định lý không cho  là tập lồi, vì vậy nếu muốn dùng kỹ thuật chứng minh trên để áp dụng trong trường hợp tổng quát này, ta cần phải sử dụng thêm một kỹ thuật nhỏ, nếu miêu tả bằng hình ảnh, kỹ thuật này giống như một phép co lại, từ một bài toán toàn cục ta co lại thành một bài toán địa phương, tất nhiên khi xét ở địa phương, bài toán sẽ có thêm những điều kiện mới, mà từ đó giúp ta giải được bài toán, rồi bằng một phép giãn, với hệ số bằng nghịch đảo hệ số co, ta thu được kết quả trên toàn cục. Địa phương ở đây ta sẽ chọn là một quả cầu mở, bởi vì quả cầu mở là một tập lồi và do  là một tập mở nên luôn tồn tại quả cầu mở tâm x chứa trong  . Chứng minh cụ thể như sau: MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU SVTH: NHÓM 21 – LỚP VB2 TOÁN – KHÓA 2 5 Chứng minh: Cho  là hàm lồi tại x . Vì  là tập mở nên tồn tại quả cầu mở   Bx  tâm x , bán kính  , chứa trong  . Lấy x và xx , lấy  thỏa 01   và xx    , ta có       ˆ :1x x x x x x B x              (do ˆ .x x x x x x xx          ) Vì  là hàm lồi tại x , từ Mục 1.2, tính lồi của   Bx  và   ˆ x B x   nên với 01   ta có         ˆˆ 11x x x x            hay         ˆ ˆ x x x x xx                 ˆ ˆ ˆ ,x x x x x x x x            (do  khả vi tại x )      ˆ ˆ ˆ ,x x x x x x x x          Vì   0 ˆ lim , 0x x x        nên khi cho 0 đối với biểu thức trên ta được:        ˆˆ x x x x x     (1) Vì  là hàm lồi tại x và ˆ x ,   ˆ 1x x x    nên ta có         ˆ 1x x x     hay         ˆ x x x x         (2) Hơn nữa ta có   ˆ x x x x    (3) Từ (1), (2), (3) và do 0 ta suy ra :        x x x x x     Chứng minh cho trường hợp hàm lõm tương tự như trên bằng cách sử dụng tính chất của hàm lõm trong Mục 1.2 thay vì tính chất của hàm lồi hoặc đơn giản hơn ta chỉ việc áp dụng kết quả vừa chứng minh cho hàm  ▐ Nhận xét: Ý nghĩa hình học của các kết quả trên có thể được diễn tả như sau: Với  là hàm lồi, khả vi trên  thì tuyến tính hóa         x x x x tại x không bao giờ ước lượng cao hơn    x với mọi x , xem Hình 2.1a. Với  là hàm lõm, khả vi trên  thì tuyến tính hóa         x x x x tại x không bao giờ ước lượng thấp hơn    x với mọi x , xem Hình 2.1b. MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU SVTH: NHÓM 21 – LỚP VB2 TOÁN – KHÓA 2 6 Ghi chú: Ở đây ta định nghĩa tuyến tính hoá của  tại x là hàm   Lx =         x x x x (Để dễ hình dung ta xét  khi đó   y L x =      '   x x x x chính là phương trình tiếp tuyến của hàm  tại x ) Hình 2.1a: Tuyến tính hoá của của hàm lồi  không bao giờ ước lượng cao hơn hàm  Hình 2.1b: Tuyến tính hoá của hàm lõm  không bao giờ ước lượng thấp hơn hàm  2.2. Định lý 2.2 Cho  là hàm số khả vi trên tập lồi, mở n  : i)  là hàm lồi trên  nếu và chỉ nếu        2 1 1 2 1 x x x x x     với mọi 12 , xx ii)  là hàm lõm trên  nếu và chỉ nếu        2 1 1 2 1     x x x x x với mọi 12 , xx Chứng minh: Ta sẽ chứng minh cho trường hợp hàm lồi (trường hợp hàm lõm chứng minh tương tự) Điều kiện cần:    θx   θx x x Tuyến tính hoá của  tại x n      θ x + θ x x - x   θx   θx x x n Tuyến tính hoá của  tại x      θ x + θ x x - x MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU SVTH: NHÓM 21 – LỚP VB2 TOÁN – KHÓA 2 7 Vì  là hàm lồi tại mọi 1 x  nên theo Định lý 2.1 suy ra        2 1 1 2 1 x x x x x     với 2 x  Điều kiện đủ: Cho 1 x , 2 x  và 0 1 . Vì  là tập lồi nên   12 1 xx     . Khi đó ta có         1 1 2 1 2 1 2 11x x x x x x x                               2 1 2 1 2 1 2 1 1 1x x x x x x x                         Nhân bất đẳng thức đầu với   1 , bất đẳng thức thứ hai với  và cộng lại vế theo vế ta được         1 2 1 2 11x x x x             Từ đó, theo Mục 1.2 suy ra  là hàm lồi.▐ Mô tả hình học của Định lý 2.2 được thể hiện ở Hình 2.2a và Hình 2.2b. Hình 2.2a: Hình 2.2b:    2 θx   1 θx 1 x 2 x Tuyến tính hoá của  tại 1 x n      2  1 1 1 θ x + θ x x - x   1 θx   2 θx 1 x 2 x n Tuyến tính hoá của  tại 1 x       1 1 2 1 θ x + θ x x - x MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH CÔNG DIỆU SVTH: NHÓM 21 – LỚP VB2 TOÁN – KHÓA 2 8 2.3. Định lý 2.3 Cho  là hàm số khả vi trên tập lồi, mở n  i)  là hàm lồi trên         2 1 2 1 0x x x x       với mọi 1 x , 2 x  ii)  là hàm lõm trên         2 1 2 1 0x x x x       với mọi 1 x , 2 x  Chứng minh: Ta sẽ chứng minh cho trường hợp hàm lồi. Trường hợp hàm lõm chứng minh tương tự. Điều kiện cần: Cho  là hàm lồi trên  và cho 1 x , 2 x  . Theo Định lý 2.2 ta có        2 1 1 2 1 0x x x x x      và        1 2 2 1 2 0x x x x x     Cộng hai bất đẳng thức trên ta được       2 1 2 1 0x x x x       Điều kiện đủ: Cho 1 x , 2 x  khi đó với 0 1 thì   12 1 xx     (do  lồi). Theo định lý giá trị trung bình ở Mục 1.5, tồn tại  , 01   sao cho :           2 1 1 2 1 2 1 1x x x x x x x           Mặt khác từ bất đẳng thức ở giả thiết, thay 2 x bởi   1 2 1   x x x và giữ nguyên 1 x ta được :         1 2 1 1 2 1 0x x x x x x          hay        1 2 1 2 1 1 2 1          x x x x x x x x (do 0 ) (2) Từ (1) và (2) ta có        2 1 1 2 1 x x x x x     Do vậy  là hàm lồi trên  ( theo Định lý 2.2).▐ Ghi chú: Ta định nghĩa: - Nếu f là hàm n chiều trên n  , và       2 1 2 1 0f x f x x x    với mọi 1 x , 2 x  [...]... , y1 , z1 ), x 2  ( x2 , y2 , z2 )  3 3 f  x 2   f  x1  f  x1  x 2  x1  Ta có: 2 2   x2  2 y2  3z2    x12  2 y12  3z1  2 2  x2  2 y2  3z2  x12  2 y12  3z1 2 x1 x2  2 x12  4 y1 y2  4 y12  3z2  3z1 2 2  x2  2 x1 x2  x12  2 y2  4 y1 y2  2 y12   x2  x1   2(y2  y1 )2 2 Ta thấy (*) luôn đúng x1 , x2  3 0  2x1 , 4 y1, 3 x2  x1, y2  y1,z2  z1  0 (*) ... Ta sẽ chứng minh  lồi nghiêm ngặt trên Thật vậy ta có: SVTH: NHÓM 21 – LỚP VB2 TOÁN – KHÓA 2 13 MÔN HỌC: TỐI ƯU PHI TUYẾN   y     x   y  x   4  y 3 GV: TS TRỊNH CÔNG DIỆU  x3  y  x  4 y  x  y 2 2   xy  x 2  0 với mọi x, y  , x  y Do đó theo định lý 3.3 ta suy ra  lồi nghiêm ngặt trên Nhưng 2   x   12  x  không xác định dương vì 2   0   0 2 Trường hợp hàm... thì y2   x  y 0 với mọi y  n 2 ii)  là hàm lõm trên  nếu và chỉ nếu    x  nửa xác định âm trên  , nghĩa là với mỗi x   thì y2   x  y 0 với mọi y  n SVTH: NHÓM 21 – LỚP VB2 TOÁN – KHÓA 2 12 MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS TRỊNH CÔNG DIỆU Chứng minh: Ta sẽ chứng minh định lý cho trường hợp hàm lồi Trường hợp hàm lõm chứng minh tương tự Điều kiện cần: Vì  là hàm lồi tại mọi x  ... đủ nhỏ để 1    x  x   Từ (1) và (3) ta có:  1    x  x   1      x     x     x  x  x  với 0    1 , 1    x  x     hay SVTH: NHÓM 21 – LỚP VB2 TOÁN – KHÓA 2 9 MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS TRỊNH CÔNG DIỆU  1    x  x     x     x  x  x  với 0    1 , 1    x  x     (4) Mặt khác nếu tiếp tục áp dụng Định lý 2.1 cho x ...   , bất đẳng thức thứ hai với  và cộng lại ta được 1      x1     x2    1    x1  x2    Từ đó, theo Mục 1.3 suy ra  là hàm lồi nghiêm ngặt ▐ SVTH: NHÓM 21 – LỚP VB2 TOÁN – KHÓA 2 10 MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS TRỊNH CÔNG DIỆU 3.3 Định lý 3.3 Cho  là hàm số khả vi trên tập lồi, mở   n           (i)  là hàm lồi nghiêm ngặt trên    x 2   x1  x 2...   , x1  x 2 Do đó vế trái cũng dương với mọi x1 , x 2   , x1  x 2 , vì vậy theo Định lý 3.2 suy ra  là hàm lồi nghiêm ngặt trên  ii) Chứng minh tương tự i).▐ SVTH: NHÓM 21 – LỚP VB2 TOÁN – KHÓA 2 14 MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS TRỊNH CÔNG DIỆU 6 Khảo sát tính lồi, lõm của hàm số Ví dụ 1: Khảo sát tính lồi của hàm số sau trên 3 : f ( x, y, z)  x  2 y  3z 2 2 Giải Dễ thấy 3 là tập lồi,... 2  x1     x1  x 2  x1    (2) Từ (1) và (2) ta được:   x2     x1     x1  x2  x1  Do đó  là hàm lồi nghiêm ngặt trên  (theo Định lý 3.2 ) ▐ SVTH: NHÓM 21 – LỚP VB2 TOÁN – KHÓA 2 11 MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS TRỊNH CÔNG DIỆU 4 Tính khả vi cấp hai của hàm lồi và hàm lõm 4.1 Định lý 4.1 Cho  là hàm số xác định trên tập mở   n và  khả vi cấp hai tại x   : i) Nếu ... số sau trên 2 : f ( x, y)   x  y  6 x  4 y 2 2 Giải a) Dễ thấy ( x, y)  2 2 là tập lồi, mở Bây giờ ta xét sự khả vi cấp 2 của f tại mọi  x, y   2 : , ta có: SVTH: NHÓM 21 – LỚP VB2 TOÁN – KHÓA 2 15 MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS TRỊNH CÔNG DIỆU f f ( x, y)  2 x  6, ( x, y)  2 y  4 x y 2 f 2 f 2 f f ( x, y )  2, ( x, y)  2, ( x, y)  ( x, y)  0 2 2 xy yx x y 2 f... 1 , nhưng ta ghi dưới dạng một số Đối với trường hợp này việc ghi như vậy là không sai bởi vì ma trận Hessian tại x thực ra là đại diện cho ánh xạ đạo hàm cấp 2 tại x SVTH: NHÓM 21 – LỚP VB2 TOÁN – KHÓA 2 16 MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS TRỊNH CÔNG DIỆU PHỤ LỤC Phụ lục 1: Tóm tắt Định lý 2.1, 2.2, 2.3 Tính khả vi của hàm lồi và hàm lõm Định lý Điều kiện  xác định trên Định lý 2.1 tập mở   , khả... lõm nghiêm ngặt trên     x2     x1     x1  x 2  x1  , x1 , x 2  , x1  x 2    x 2     x1   x 2  x1   0, x1 , x 2  , x1  x 2   SVTH: NHÓM 21 – LỚP VB2 TOÁN – KHÓA 2 17 MÔN HỌC: TỐI ƯU PHI TUYẾN Định lý Định lý 4.1 Phụ lục 3: Tóm tắt Định lý 4.1, 4.2 Tính khả vi cấp hai của hàm lồi và hàm lõm Điều kiện Nội dung  xác định trên  lồi tại x  y2   x  y 0, y .    12 1-λ θ x + λθ x     12 θ 1 - λ x + λx 0  1 )θ(x 1 x 2 x       12 1-λ θ x + λθ x 0     12 θ 1 - λ x + λx 2 )θ(x  MÔN HỌC: TỐI ƯU PHI TUYẾN. tại mọi x  . Lưu ý: i)  là hàm lồi tại x  khi và chỉ khi -  là hàm lõm tại x  ii) Hàm tuyến tính vừa là hàm lồi vừa là hàm lõm. MÔN HỌC: TỐI ƯU PHI TUYẾN GV: TS. TRỊNH. KHOA TOÁN - TIN BÀI THUYẾT TRÌNH TỐI ƯU PHI TUYẾN ĐỀ TÀI: TÍNH KHẢ VI CỦA HÀM LỒI VÀ HÀM LÕM GIẢNG VIÊN : TS. TRỊNH CÔNG DIỆU THỰC HIỆN : NHÓM 21 – VB2 TOÁN – KHÓA