Về cực trị hàm lồi Luận văn ThS. Toán giải tích

Cực tiểu hàm lồi trên tập lồi gọi là quy hoạch lồi có tính chất cơ bản là mọi điểm cực tiểu địa phương đều là cực tiểu tuyệt đối.. Cực đại hàm lồi trên tập lồi có tính chất khác hẳn cực

ĐẠI HỌC QUỐC GIA HÀ NỘI

TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN

ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN

NGƯỜI HƯỚNG DẪN KHOA HỌC:

GS TSKH LÊ DŨNG MƯU

Lời nói đầu ii

1.4 Đạo hàm theo hướng và tính khả vi của hàm lồi 17

2.3.1 Bài toán với ràng buộc đẳng thức 27 2.3.2 Bài toán với ràng buộc bất đẳng thức 29

2.5.1 Phương pháp chiếu dưới đạo hàm 35

Cực trị hàm lồi trên tập lồi là một lớp bài toán cơ bản của tối ưu hóa Cực tiểu hàm lồi trên tập lồi gọi là quy hoạch lồi có tính chất cơ bản là mọi điểm cực tiểu địa phương đều là cực tiểu tuyệt đối Tính chất quan trọng này cho phép các lý thuyết có tính địa phương như giới hạn, vi phân, có thể áp dụng trực tiếp vào quy hoạch lồi Lý thuyết về bài toán quy hoạch lồi đã được nghiên cứu nhiều và đã thu được nhiều kết quả quan trọng dựa trên lý thuyết của giải tích lồi và tối ưu hóa Cực đại hàm lồi trên tập lồi có tính chất khác hẳn cực tiểu hàm lồi trên tập lồi, cụ thể ta thấy rằng cực đại địa phương của một hàm lồi không nhất thiết là cực đại tuyệt đối

Mục đích của luận văn này là để trình bày bài toán cực đại, cực tiểu hàm lồi trên tập lồi và một số phương pháp giải cơ bản các bài toán này Luận văn gồm có

ba chương:

Chương 1 Các kiến thức cơ bản về giải tích lồi

Trình bày một số khái niệm, định nghĩa và kết quả cần thiết liên quan đến tập lồi và hàm lồi

Chương 2 Cực tiểu hàm lồi trên tập lồi

Trình bày bài toán cực tiểu hàm lồi trên tập lồi, sự tồn tại nghiệm tối ưu và điều kiện tối ưu của bài toán Đối ngẫu Lagrange Trình bày hai phương pháp cơ bản giải bài toán quy hoạch lồi đó là phương pháp chiếu dưới đạo hàm và thuật toán Frank-Wolfe

Chương 3 Cực đại hàm lồi trên tập lồi

Trình bày bài toán cực đại hàm lồi trên tập lồi và một số tính chất cơ bản Trình bày hai phương pháp cơ bản giải bài toán cực đại hàm lồi trên tập lồi đó là phương pháp xấp xỉ ngoài và thuật toán nhánh cận

Luận văn được hoàn thành tại Trường Đại học Khoa học Tự nhiên - Đại học Quốc gia Hà Nội, dưới sự hướng dẫn của GS TSKH Lê Dũng Mưu

Em xin bày tỏ lòng biết ơn sâu sắc tới GS TSKH Lê Dũng Mưu, người đã tận tình hướng dẫn và giúp đỡ em trong suốt quá trình nghiên cứu để em có thể hoàn thành luận văn này

học Khoa học Tự nhiên - Đại học Quốc gia Hà Nội đã giảng dạy và giúp đỡ em hoàn thành khóa học

Nhân dịp này em cũng xin chân thành cảm ơn Ban giám hiệu, đồng nghiệp Trường THPT Ân Thi, gia đình và bạn bè đã luôn động viên, giúp đỡ và tạo điệu kiện cho em về mọi mặt trong suốt quá trình học tập và thực hiện luận văn này

Mặc dù đã có nhiều cố gắng nhưng luận văn khó tránh khỏi những thiếu sót Tác giả rất mong nhận được ý kiến đóng góp của quý thầy, cô giáo và bạn đọc để luận văn được hoàn thiện hơn

Xin trân trọng cảm ơn!

Chương này trình bày một số khái niệm, định nghĩa và kết quả cần thiết liên quan đến tập lồi và hàm lồi Nội dung của chương được tham khảo từ các tài liệu [1], [2], [4], [9].

1.1 Tập lồi

Định nghĩa 1.1 Cho hai điểm a b,  n

(i) Đường thẳng đi qua hai điểm a và b là tập hợp có dạng

Định nghĩa 1.4 Một tập C được gọi là tập affine nếu nó chứa đường thẳng đi qua hai điểm bất kỳ của nó, tức là

x a xα là nửa không gian mở

Mệnh đề 1.2 Tập M   là tập affine khi và chỉ khi nó có dạng M La với L

là một không gian con và aM Không gian con L này được xác định duy nhất

Không gian L trong mệnh đề trên được gọi là không gian con song song với

M (hoặc không gian con của M )

Định nghĩa 1.7 Thứ nguyên (hay chiều) của một tập affine M là thứ nguyên của không gian song song với M và được ký hiệu là dim M

Mệnh đề 1.3 Bất kỳ một tập affine M  n có số chiều r đều có dạng

trong đó A là ma trận cấp m n , b m và rankAnr Ngược lại, mọi tập hợp

có dạng (1.1) với rankAnr đều là tập affine có số chiều là r

Định nghĩa 1.8 Các điểm x x0, 1, ,x k trong n

được gọi là độc lập affine nếu bao affine của chúng có thứ nguyên là k

Định nghĩa 1.9 Một tập hợp S  n được gọi là một đơn hình có thứ nguyên bằng

k (hoặc k  đơn hình), nếu S là tổ hợp lồi của k 1 vectơ độc lập affine Các vectơ này được gọi là đỉnh của đơn hình

Định nghĩa 1.10 Một tập được gọi là tập lồi đa diện, nếu nó là giao của một số

hữu hạn các nửa không gian đóng

Dạng tường minh của một tập lồi đa diện được cho như sau:

(i) Một nón được gọi là nón lồi nếu nó đồng thời là một tập lồi

(ii) Một nón lồi được gọi là nón nhọn nếu nó không chứa đường thẳng, khi đó ta nói

O là đỉnh của nón Nếu nón lồi này là một tập lồi đa diện thì ta nói nó là nón lồi đa diện

Định nghĩa 1.12 Cho C   n là một tập lồi và xC

được gọi là nón pháp tuyến (trong) của C tại x

Định nghĩa 1.13 Một điểm aC được gọi là điểm trong tương đối của C nếu nó

là điểm trong của C theo tô-pô cảm sinh bởi affC Ký hiệu tập các điểm trong tương đối của C là riC Vậy

ri :C  aC B : aB affCC ,

trong đó B là một lân cận mở của gốc

Định nghĩa 1.14 Bao lồi của một tập E là giao của tất cả các tập lồi chứa E Ký hiệu là coE

Định nghĩa 1.15 Một điểm xC được gọi là điểm cực biên của C nếu không tồn tại a b, C a,  và 00 λ  sao cho 1 xλa1λ b

Trong trường hợp C tập lồi đa diện thì điểm cực biên còn được gọi là đỉnh

Ta kí hiệu V C là tập các điểm cực biên của C Bao lồi của một số hữu hạn điểm  

là một tập đa diện lồi, compact Nếu v v0, , ,1 v độc lập affine thì bao lồi của m

chúng là một đơn hình Đơn hình này có thứ nguyên là m Các điểm v v0, , ,1 v m

được gọi là đỉnh (điểm cực biên) của đơn hình này

Định nghĩa 1.16 Một tập F C được gọi là một diện của một tập lồi C nếu F là tập lồi có tính chất

       thì x y, F Điểm cực biên là diện có thứ nguyên bằng 0 Cạnh là diện có thứ nguyên bằng 1 Tia cực biên là một diện nửa đường thẳng Như vậy tia cực biên là một cạnh vô hạn Hướng cực biên là hướng của tia cực biên

Định nghĩa 1.17 Cho x0C Ta nói a x T α là siêu phẳng tựa của C tại x0, nếu

Ta nói d C y là khoảng cách từ y đến C Nếu tồn tại πC sao cho

Theo định nghĩa, ta thấy rằng hình chiếu P C y của y trên C là nghiệm của

bài toán tối ưu

2

1min2

 x y x C

Nói cách khác việc tìm hình chiếu của y trên C có thể đưa về việc tìm cực

tiểu của hàm toàn phương xy 2 trên C Nếu C   thì d C y hữu hạn, vì

 

0d C y  xy ,  x C

Mệnh đề 1.5 Cho C là một tập lồi đóng khác rỗng Khi đó:

(i) Với mọi y n , πC hai tính chất sau là tương đương:

a) π P C y ,

b) y π N C π

(ii) Với mọi y n , hình chiếu P C y của y trên C luôn tồn tại và duy nhất

(iii) Nếu yC , thì P C y y x, P C y 0 là siêu phẳng tựa của C tại P C y

Bây giờ ta chỉ ra tính duy nhất của hình chiếu Thật vậy, nếu tồn tại hai điểm

π và π1 đều là hình chiếu của y trên C thì

(iv) Theo phần (ii) ánh xạ x P C x xác định khắp nơi

Do zP C z N CP C z  với mọi z, nên áp dụng zx và z y ta có

Định lý 1.1 (Định lý xấp xỉ tuyến tính tập lồi) Mọi tập lồi đóng khác rỗng và không

trùng với toàn bộ không gian đều là giao của tất cả các nửa không gian tựa của nó

Định nghĩa 1.19 Cho hai tập C và D khác rỗng, ta nói siêu phẳng a x T α tách

Định lý 1.3 (Định lý tách 2) Cho C và D là hai tập lồi đóng khác rỗng trong n

sao cho CD  Giả sử có ít nhất một tập là compact Khi đó hai tập này có thể tách mạnh được bởi một siêu phẳng

Bổ đề 1.1 (Bổ đề Farkas) Cho A là một ma trận thực cấp m n và a n Khi đó trong hai hệ dưới đây có một hệ và chỉ duy nhất một hệ có nghiệm

Ý nghĩa hình học của Bổ đề Farkas: Nón lồi, đóng  n 0

trong nửa không gian  n T 0

x a x khi và chỉ khi vectơ pháp tuyến a ở trong

nón sinh bởi các hàng của ma trận A

được gọi là trên đồ thị của hàm f

Bằng cách cho f x    nếu xC, ta có thể coi f được xác định trên toàn không gian, và ta có

Định nghĩa 1.22 Cho  C n lồi

(i) Hàm f :n    được gọi là hàm lồi chặt trên C nếu

1    1   

(ii) Hàm f :n    được gọi là hàm lồi mạnh trên C với hệ số η 0, nếu x y, C ,  λ 0,1 ta có

2

(iii) Hàm f được gọi là hàm lõm trên C , nếu f là hàm lồi trên C

Mệnh đề 1.6 Một hàm f C  : là hàm lồi trên C khi và chỉ khi

Định nghĩa 1.24 Một hàm f gọi là đóng, nếu epif là một tập đóng trong n1

Chú ý 1.1 (i) Nếu f là một hàm lồi trên một tập lồi C, thì có thể thác triển f lên toàn không gian bằng cách đặt

 của epif , tức là domf x μ :x μ, epif

Định nghĩa 1.25 Hàm f được gọi là thuần nhất dương (bậc 1) trên n nếu

   

Mệnh đề 1.7 Cho f là một hàm thuần nhất dương trên n Khi đó f là hàm lồi khi và chỉ khi f là dưới cộng tính theo nghĩa f x y f x  f y , x y,  n

Mệnh đề 1.8 Nếu f f1, 2 là những hàm lồi, chính thường thì f1 f2 là hàm lồi

Hệ quả 1.1 Nếu f f1, 2, , f m là các hàm lồi, chính thường và λ λ1, 2, ,λ m là các số dương thì hàm λ f1 1λ f2 2 λ f m m là lồi

Định nghĩa 1.26 Hàm l là hàm non affine của một hàm f trên n nếu l là hàm affine trên n và l x  f x ,   x n

Định lý 1.4 Mọi hàm lồi đóng chính thường f trên n đều là bao trên của các

hàm non affine của nó Tức là

f Ta nói x* n là dưới đạo hàm của f

tại điểm x0 n nếu

x x x f x f x ,   x n Tập hợp tất cả các dưới đạo hàm của f tại điểm x0 được gọi là dưới vi phân của

f tại điểm đó và được kí hiệu là  0

f x Vậy

 0  * * 0    0 

f x  x x xx  f x  f x   x n Nếu  0

f x   thì ta nói f khả dưới vi phân tại điểm x0

f lồi, chính thường Khi đó:

(i) Nếu xdomf thì f x  

(ii) Nếu xint dom f  thì f x   và compact Ngược lại, nếu f x  , compact thì xri dom f 

Chứng minh (i) Cho zdomf thì f z    Vậy nếu xdomf thì f x   

và do đó không thể tồn tại x* thỏa mãn

Hơn nữa t 0, vì nếu t 0 thì trong bất đẳng thức (1.2), khi cho μ   ta suy ra mâu thuẫn vì vế trái cố định

Chia hai vế của (1.2) cho t 0, đồng thời thay μ f y  và đặt x*   p

của domf Do domf lồi, theo mệnh đề về siêu phẳng tựa, tồn tại một siêu phẳng tựa của bao đóng của domf tại x, tức là tồn tại vectơ n, 0

1.3.2 Phép tính với dưới vi phân

Mệnh đề 1.10 Cho f là hàm lồi chính thường trên n

f x λ



m i i

Mệnh đề 1.11 Cho f f1, 2, , f m là các hàm lồi hữu hạn trên một tập lồi D   và

A là một ma trận thực cấp k n Giả sử bintA D  Khi đó hệ

Bây giờ ta chứng minh b)

Trường hợp m 1 là hiển nhiên Ta chứng minh cho m 2 Thật vậy:

Theo giả thiết f1 liên tục tại một điểm adomf1domf2, nên tồn tại một lân cận

U của gốc sao cho

1 1

k

i k

1.4 Đạo hàm theo hướng và tính khả vi của hàm lồi

Định nghĩa 1.28 Ta gọi đạo hàm theo hướng d của một hàm số f (không nhất thiết là lồi) tại điểm x là đại lượng

nếu giới hạn này tồn tại

Định lý 1.6 Nếu f là một hàm lồi trên tập lồi C thì với mọi xC và mọi d sao cho xdC , đạo hàm theo hướng d của f tại x luôn tồn tại và nghiệm đúng

Một điểm x* như thế này, nếu tồn tại sẽ duy nhất và được gọi là đạo hàm của

f tại x Đạo hàm này được ký hiệu là f x  hoặc f ' x

Chương 2 Cực tiểu hàm lồi trên tập lồi

Chương này trình bày bài toán cực tiểu hàm lồi trên tập lồi, sự tồn tại nghiệm

và điều kiện tối ưu cho nghiệm bài toán Trình bày hai phương pháp cơ bản giải bài toán quy hoạch lồi đó là phương pháp chiếu dưới đạo hàm và thuật toán Frank-Wolfe Nội dung của chương được tham khảo từ các tài liệu [1] - [7], [9]

2.1 Phát biểu bài toán

f x f x x D Mỗi điểm xD được gọi là một phương án chấp nhận

được của bài toán  P Tập D được gọi là miền (tập) chấp nhận được, f được gọi

là hàm mục tiêu của bài toán  P Thông thường, tập D được cho như là tập nghiệm của một hệ bất đẳng thức hoặc đẳng thức có dạng

loại j cần sản xuất, còn f x  là chi phí ứng với phương án x Bài toán  P trong

mô hình này có nghĩa là tìm một phương án sản xuất trong tập hợp các phương án chấp nhận được D sao cho chi phí sản xuất ứng với phương án này là thấp nhất

được gọi là nghiệm tối ưu, hoặc nghiệm tối ưu toàn cục, hoặc nghiệm cực tiểu toàn cục, hoặc đơn giản là nghiệm của bài toán  P

Định nghĩa 2.2 Điểm x*D được gọi là nghiệm cực tiểu toàn cục chặt của bài toán  P nếu

 *  

,

Chú ý 2.1 (i) Nếu D  n thì ta nói  P là bài toán tối ưu không ràng buộc

Ngược lại, nếu D n thì ta nói  P là bài toán tối ưu có ràng buộc

(ii) Nghiệm tối ưu toàn cục cũng là nghiệm tối ưu địa phương nhưng điều ngược lại chưa chắc đúng Tuy nhiên, nếu D là tập lồi và f x  là hàm lồi thì nghiệm tối ưu địa phương của bài toán  P cũng là nghiệm tối ưu toàn cục Cụ thể :

a) Nếu x* là một nghiệm tối ưu địa phương của bài toán này thì x* cũng là nghiệm tối ưu toàn cục

b) Nếu x* là nghiệm tối ưu địa phương chặt hoặc f là hàm lồi chặt thì x* là nghiệm tối ưu toàn cục duy nhất của bài toán

Chứng minh a) Giả sử x*D là một nghiệm tối ưu địa phương của bài toán

Điều đó chứng tỏ x* là nghiệm tối ưu toàn cục của bài toán đang xét

b) Giả sử x* là nghiệm tối ưu địa phương chặt Theo (i), x* cũng là nghiệm tối ưu toàn cục Bây giờ, ta giả thiết phản chứng rằng x* không phải là nghiệm tối ưu toàn cục duy nhất của bài toán, tức là tồn tại xD, xx* và    *

Cho λ0, ta có thể chọn được x λU, với U là một lân cận của x* Điều này

và (2.1) mâu thuẫn với giả thiết x* là nghiệm tối ưu địa phương chặt Vì vậy x*

phải là nghiệm tối ưu toàn cục duy nhất

Cuối cùng, giả sử x* là nghiệm tối ưu địa phương và hàm mục tiêu f là lồi chặt

Vì hàm lồi chặt là hàm lồi nên theo (i), x* là nghiệm tối ưu toàn cục Ta cũng giả thiết phản chứng rằng x* không phải là nghiệm tối ưu toàn cục duy nhất, tức là tồn tại xD, xx* và    *

Dễ thấy x 2 là nghiệm cực tiểu toàn cục duy nhất Điểm x 0 là nghiệm cực tiểu địa phương của f trên D Giá trị tối ưu là min    2 1

   



(iii) Cho f x arctanx và D   Dễ thấy, trên  hàm f không có một nghiệm

cực tiểu địa phương, cực tiểu toàn cục nào Ta có inf  

Hàm f có một nghiệm cực tiểu toàn cục trên D là x  2, 0T và vô số nghiệm

cực tiểu địa phương, đó là cả đoạn thẳng nối 1, 3T và 1, 3T Giá trị tối ưu của bài toán  P tương ứng là min   2

  

x D f x (v) Cho f x x1 và  2 

2.2 Sự tồn tại nghiệm tối ưu

Xét bài toán  P Khi đó, có một trong bốn khả năng sau có thể xảy ra:

(i) Bài toán  P không có phương án chấp nhận được, tức là D  

(ii) Bài toán  P có nghiệm tối ưu, tức là tồn tại x*D sao cho

(iv) Bài toán không có nghiệm tối ưu và giá trị tối ưu inf  

 Ngược lại, nếu tập  

F D có một cận dưới hữu hạn thì cận dưới lớn

nhất (hay infimum) của tập này là hữu hạn và ta kí hiệu nó là t0 Theo định nghĩa của infimum thì t t0,  t F D và tồn tại dãy    

chứng tỏ x* là nghiệm tối ưu của bài toán  P

Định lý 2.2 (Định lý Weierstrass) Nếu D là tập compact và hàm f nửa liên tục dưới trên D thì bài toán  P có nghiệm tối ưu

Chứng minh Giả sử giá trị tối ưu của bài toán  P là t0 inf f D  Theo định nghĩa, ta có

Do D là tập compact nên có một dãy con  n k

chứng tỏ x* là nghiệm tối ưu của bài toán  P

Hệ quả 2.1 Nếu hàm f là nửa liên tục dưới trên D và thỏa mãn điều kiện bức trên D ,

 

thì bài toán  P có nghiệm tối ưu

Chứng minh Lấy một điểm bất kỳ x0D Trước hết, ta chứng minh rằng tập

2.3 Điều kiện tối ưu

Định lý 2.3 Giả sử D là tập lồi và f là hàm lồi, khả dưới vi phân trên D Khi đó

2.3.1 Bài toán với ràng buộc đẳng thức

trong đó  n i,  , 1, 2, , 

i

C x a x α i m với a i n và α i , i 1, 2, ,m

và f là hàm lồi trên n

, liên tục tại một điểm của C

Định lý 2.5 x* là nghiệm của bài toán  P3 khi và chỉ khi tồn tại các số λ i  với

Bây giờ ta chứng minh định lý

Vì C là tập affine nên C M a với M là một không gian con của n

 1 2 , , ,