Luận văn thạc sĩ toán học định lý frank wolfe trong quy hoạch toàn phương và một số mở rộng

Wolfe trong [6] công bố một kết quả quantrọng nếu một hàm toàn phương bất kể hàm đó lồi hay không mà bị chặndưới trên một tập lồi đa diện D 6= ∅ thì hàm đó chắc chắn đạt cực tiểu trên D.

2 Định lý Frank-Wolfe trong qui hoạch toàn phương 142.1 Bài toán qui hoạch toàn phương 142.2 Định lý Frank-Wolfe trong qui hoạch toàn phương 152.3 Ví dụ 24

3 Một số dạng mở rộng của định lý Frank-Wolfe 283.1 Qui hoạch toàn phương với các ràng buộc toàn phương 283.2 Hệ bất đẳng thức toàn phương lồi 293.3 Trường hợp một ràng buộc toàn phương lồi 363.4 Hàm mục tiêu tựa lồi 49

Kết luận 56Tài liệu tham khảo 58

Lời mở đầu

Trong qui hoạch tuyến tính ta đã biết sự kiện quen thuộc sau: Một hàmtuyến tính bị chặn dưới trên một tập lồi đa diện D 6= ∅ phải đạt cực tiểutrên D (xem chẳng hạn, [9] Định lý 9, tr 312) Tính chất này rất đáng chú

ý, bởi vì nó không đúng cho qui hoạch phi tuyến, nói chung Tính chất nàyđược xem như định lý cơ bản của qui hoạch tuyến tính

Vào năm 1956 M Frank và F Wolfe trong [6] công bố một kết quả quantrọng nếu một hàm toàn phương (bất kể hàm đó lồi hay không) mà bị chặndưới trên một tập lồi đa diện D 6= ∅ thì hàm đó chắc chắn đạt cực tiểu trên

D Kết quả này được biết với tên gọi Định lý Frank - Wolfe và định lý này

là một mở rộng của định lý cơ bản trong qui hoạch tuyến tính

Một số tác giả tiếp tục mở rộng định lý Frank - Wolfe cho các hàm mụctiêu khác và D có thể khác tập lồi đa diện Chẳng hạn, A F Perold (1980)

mở rộng cho một lớp hàm mục tiêu không toàn phương trên tập lồi đa diện,Z.-Q Luo và S Zhang trong [8] đã chứng minh rằng hàm mục tiêu lồi toànphương bị chặn dưới trên một tập lồi D 6= ∅, xác định bởi hệ bất đẳng thứctoàn phương lồi, cũng đạt cực tiểu trên D

Luận văn này đề cập tới các bài toán tìm cực tiểu của một hàm toànphương với hữu hạn ràng buộc bất đẳng thức toàn phương, gọi tắt là bàitoán qui hoạch toàn phương với các ràng buộc toàn phương, kí hiệu là QCQP

(Quadratically Constrained Quadratic Programming) Trong luận văn nàytrình bày định lý Frank-Wolfe và một số kết quả mở rộng của Z.-Q Luo và

S Zhang nêu trong tài liệu tham khảo [8], với đầy đủ diễn giải và lập luậntoán học chặt chẽ, tìm và đưa ra thêm các ví dụ minh họa Nội dung luậnvăn gồm ba chương:

Chương 1 Kiến thức chuẩn bị Trình bày một số kiến thức cần chuẩn bị

về tập lồi, tập đa diện lồi, hàm lồi, hàm toàn phương, qui hoạch tuyến tính

và các định lý cơ bản Chương này tác giả chủ yếu dựa trên các tài liệu [1],[2]

Chương 2 Định lý Frank-Wolfe trong qui hoạch toàn phương Đềcập tới bài toán qui hoạch toàn phương, định lý Frank-Wolfe (mở rộng định

lý cơ bản) Mục này cũng đưa ra các ví dụ minh họa cho các trường hợp định

lý không còn đúng Chương này tác giả chủ yếu dựa trên các tài liệu [4], [5],[6], [7], [9]

Chương 3 Một số mở rộng định lý Frank-Wolfe Dựa chủ yếu trêntài liệu [8], tác giả nêu ra các kết quả về qui hoạch toàn phương với các ràngbuộc toàn phương, hệ bất đẳng thức toàn phương lồi, trường hợp một ràngbuộc toàn phương lồi, hàm mục tiêu tựa lồi

Tuy đã có nhiều cố gắng nhưng do thời gian và khả năng có hạn nên cácvấn đề trong luận văn vẫn chưa được trình bày sâu sắc và không thể tránhkhỏi có những sai sót trong cách trình bày Tác giả mong nhận được sự góp

ý xây dựng của thầy cô và các bạn đồng nghiệp để luận văn được hoàn thiệnhơn

Nhân dịp này, tác giả xin bày tỏ lòng biết ơn sâu sắc đến thầy hướng dẫnGS-TS Trần Vũ Thiệu đã tận tình giúp đỡ trong suốt quá trình làm luận văn

Tác giả xin trân trọng cảm ơn các thầy, cô giáo Viện Toán Học - Viện HànLâm Khoa Học và Công Nghệ Việt Nam, đã giảng dạy và tạo mọi điều kiệnthuận lợi trong quá trình tác giả học tập và nghiên cứu.

Tác giả cũng xin chân thành cảm ơn Ban giám hiệu, các Phòng, Ban chứcnăng của trường THPT Nguyễn Đăng Đạo - Bắc Ninh và tập thể bạn bèđồng nghiệp cùng gia đình đã quan tâm giúp đỡ, động viên để tác giả hoànthành tốt luận văn này

Hà Nội, ngày 30 tháng 08 năm 2015

Tác giả luận văn

Nguyễn Thị Mai

inf(A) cận dưới đúng của A

sup(A) cận trên đúng của A

reD nón lùi xa của D

min f giá trị cực tiểu của f

max f giá trị cực đại của f

M ∩ N giao của hai tập M và N

M \ N tập các điểm thuộc M nhưng không thuộc N

hx, yi tích vô hướng của x và y

∇f (x) gradient của f tại x

QCQP qui hoạch toàn phương với các ràng buộc toàn phương

Chương 1

Kiến thức chuẩn bị

Chương này trình bày một số kiến thức về giải tích lồi như các khái niệmtập lồi, tập lồi đa diện, hàm lồi, hàm toàn phương và tính chất, , và tối ưuhóa như bài toán qui hoạch tuyến tính, qui hoạch lồi, qui hoạch toàn phương,các định lý tồn tại nghiệm tối ưu, , các nội dung trên cần thiết cho việctrình bày các nội dung ở chương sau Nội dung chương được tham khảo từcác tài liệu [1], [2]

1.1 Tập afin và tập lồi

Định nghĩa 1.1.1 Một tập M ⊂ Rn được gọi là tập afin (hay đa tạp tuyếntính) nếu

λa + (1 − λ) b ∈ M với ∀a, b ∈ M và ∀λ ∈ R,

tức là nếu M chứa hai điểm nào đó thì M chứa cả đường thẳng qua hai điểmấy

Định lý 1.1.2 Tập M không rỗng là một tập afin khi và chỉ khi M = a + L,trong đó a ∈ M và L là một không gian con

Định nghĩa 1.1.3 Không gian con L nói trên được gọi là không gian consong song với tập afin M Ký hiệu L//M

Định nghĩa 1.1.4 Thứ nguyên (hay số chiều) của một tập afin M, ký hiệu

dimM, được định nghĩa là số chiều của không gian con song song với nó Taqui ước dim∅ = −1

Định lý 1.1.5 Một tập afin k chiều bất kỳ có dạng M = {x : Ax = b} với

A ∈ Rm×n, b ∈ Rm và rankA = n − k (M là tập nghiệm của một hệ phươngtrình tuyến tính) Ngược lại, một tập khác rỗng bất kỳ có dạng trên là mộttập afin k chiều

Định nghĩa 1.1.6 Một tập afin (n − 1) chiều trong Rn được gọi là một siêuphẳng

Định nghĩa 1.1.7 Trong Rn siêu phẳng H = {x : ha, xi = α} với a ∈

Rn\{0} và α ∈ R chia Rn thành hai nửa không gian đóng:

H− = {x : ha, xi ≤ α} và H+ = {x : ha, xi ≥ α};Mỗi nửa không gian này ở về một phía của siêu phẳng và phần chung củachúng chính là siêu phẳngH Tương tự,H cũng chia Rn thành hai nửa khônggian mở:

{x : ha, xi < α} và {x : ha, xi > α}.Định nghĩa 1.1.8 Một tập được gọi là tập lồi đa diện nếu nó là giao củamột số hữu hạn các nửa không gian đóng (hay tập lồi đa điện là tập hợpnghiệm của một hệ hữu hạn các bất phương trình tuyến tính)

Định nghĩa 1.1.9 Bao afin của một tập E là giao của tất cả các tập afinchứa E, ký hiệu aff(E) Đó là tập afin nhỏ nhất chứa E

Định nghĩa 1.1.10 Một tập k điểm x1, x2, , xk gọi là độc lập afin nếu

k − 1 vectơ x2 − x1, , xk − x1 độc lập tuyến tính Qua n điểm độc lập afin

Định nghĩa 1.1.11 Tập hợp C ⊂ Rn được gọi là một tập lồi nếu

λa + (1 − λ) b ∈ C với ∀a, b ∈ C và mọi 0 ≤ λ ≤ 1

tức là nếu C chứa hai điểm nào đó thì C chứa cả đoạn thẳng nối hai điểmấy

Định nghĩa 1.1.12 Thứ nguyên (hay số chiều) của một tập lồi C ⊂ Rn,

ký hiệu dimC, là thứ nguyên của bao afin của nó Một tập lồi C trong Rngọi là có thứ nguyên đầy đủ nếu dimC = n

Định nghĩa 1.1.13 Một tập C được gọi là nón nếu

λx ∈ C với ∀λ > 0 và ∀x ∈ C

theo định nghĩa, ta thấy rằng gốc tọa độ có thể thuộc nón hoặc không thuộcnón Một nón gọi là nón lồi nếu nó đồng thời là một tập lồi Một nón lồi đượcgọi là nón nhọn nếu nó không chứa đường thẳng Khi đó ta nói O là đỉnhcủa nón Nếu nón lồi này lại là một tập lồi đa diện thì ta nói nó là nón lồi

hướng lùi xa của tập lồi C và vectơ 0 là recC Tập hợp này được gọi là nónlùi xa của C.

Mệnh đề 1.1.16 Giả sử C là một tập lồi đóng Khi đó y là một hướng lùi

xa của C khi và chỉ khi

x + λy ∈ C với ∀λ ≥ 0 và x ∈ C.Định nghĩa 1.1.17 Cho C là một tập lồi khác rỗng và x ∈ C Ta nói

d ∈ Rn là một hướng chấp nhận được của C tại x nếu tồn tại t0 > 0 sao cho

x + td ∈ C với mọi 0 ≤ t ≤ t0 Tập tất cả các hướng chấp nhận được là mộtnón lồi chứa gốc Ta ký hiệu nón này là FC(x) và gọi là nón các hướng chấpnhận được (hay nón chấp nhận được) của C tại x

Định nghĩa 1.1.18 Cho một tập bất kỳ E ⊂ Rn Giao của tất cả các tậplồi chứaE được gọi là bao lồi của E, ký hiệu conv (E) Đó là tập lồi nhỏ nhấtchứa E Có thể thấy:

(i) conv (E) trùng với tập tất cả các tổ hợp lồi của các phần tử thuộc E.(ii) Bao đóng của một tập lồi cũng là tập lồi

Định nghĩa 1.1.19 Một điểm a của tập C gọi là một điểm trong của C

nếu có một hình cầu tâm a nằm trọn trong C Tập các điểm trong của C gọi

là phần trong của C Ký hiệu intC

Định lý 1.1.20 Một tập lồi C ⊂ Rn có phần trong khác rỗng khi và chỉ khi

nó có thứ nguyên đầy đủ

Định nghĩa 1.1.21 Bao nón lồi của tập E (còn gọi là nón lồi sinh bởi E)

là giao của tất cả các nón lồi chứa E Ký hiệu coneE

Mệnh đề 1.1.22 Cho E là một tập lồi Khi đó

coneE = {λx : x ∈ E, λ ≥ 0}

Định nghĩa 1.1.23 Cho C ⊂ Rn là một tập lồi Điểm x ∈ C gọi là điểmcực biên của C nếu x không biểu diễn dưới dạng một tổ hợp lồi của hai điểmphân biệt bất kỳ khác của C, nghĩa là không tồn tại hai điểmy, z ∈ C, y 6= z

sao cho

x = λy + (1 − λ)z với 0 < λ < 1.Tập hợp các điểm cực biên của C, ký hiệu V(C) Khi C là tập lồi đa diện,thì điểm cực biên còn được gọi là đỉnh

Định lý 1.1.24 (Định lý biểu diên tập lồi đa diện)

Với mỗi tập lồi đa diện C, tồn tại hai tập hữu hạn V = {vi : i ∈ I} và

U = {uj : i ∈ J } sao cho

C = ConvV + coneU,

tức là, mọi điểm của C đều biểu diễn được như là tổng của một tổ hợp lồicủa các điểm cực biên và tổ hợp không âm của các hướng cực biên của C.Trong đó, V là tập các đỉnh của C; U là tập các hướng cực biên của C; I, J

được bởi một siêu phẳng, nghĩa là tồn tại vectơ t ∈ Rn\ {0} và một số α ∈ R

1.2 Hàm toàn phương và hàm lồi

Định nghĩa 1.2.29 Ma trận vuông, đối xứng C (cấp n) gọi là xác địnhdương nếu xTCx > 0 với mọi x 6= 0 (x ∈ Rn), gọi là nửa xác định dương (hayxác định không âm) nếu xTCx ≥ 0 với mọi x ∈ Rn Ma trận C gọi là xácđịnh âm (nửa xác định âm) nếu −C xác định dương (nửa xác định dương).Định nghĩa 1.2.30 Hàm toàn phương (hay dạng toàn phương) là một hàm

Hàm toàn phương f (x) = xTCx gọi là xác định dương nếu xTCx > 0 vớimọi x 6= 0, nghĩa là C là ma trận xác định dương.

Ví dụ 1.2.31 Dạng toàn phươngf (x) = x21+ x22 là xác định dương (n = 2).Hàm toàn phương f (x) = xTCx gọi là nửa xác định dương nếu xTCx ≥ 0

với mọi x và tồn tại ít nhất một x 6= 0 (x ∈ Rn) sao cho xTCx = 0, nghĩa là

C là ma trận nửa xác định dương, nhưng không xác định dương

Ví dụ 1.2.32 Dạng toàn phương f (x) = (x1 − x2)2 ≥ 0 với mọi x1, x2 vàbằng 0 khi x1 = x2 = 1, vì thế f (x) là nửa xác định dương

Hàm toàn phương f (x) = xTCx gọi là xác định âm (nửa xác định âm)nếu −f (x) là xác định dương (nửa xác định dương)

Định nghĩa 1.2.33 Cho C ⊆ Rn là tập lồi và f : C → ¯R Ta ký hiệu

domf := {x ∈ C : f (x) < +∞}

Tập domf được gọi là miền hiệu dụng của f

Tập

epif := {(x, µ) ∈ C ×R : f (x) ≤ µ}

được gọi là trên đồ thị của hàm f

Định nghĩa 1.2.34 Cho ∅ 6= C ⊆ Rn lồi và f : C → ¯R Ta nói f là hàmlồi trên C nếu với mọi x, y ∈ C và mọi số thực λ ∈ [0, 1] ta có

f [λx + (1 − λ) y] ≤ λf (x) + (1 − λ) f (y)

Hàm f gọi là hàm lồi chặt trên C nếu với mọi x, y ∈ C, x 6= y và mọi

0 < λ < 1 ta có

f [λx + (1 − λ) y] < λf (x) + (1 − λ) f (y)

Hàm f gọi là lõm (lõm chặt) trên C nếu −f là lồi (lồi chặt) trên C.

Hàm f gọi là lồi mạnh trên C với hệ số η > 0, nếu với mọi x, y ∈ C, mọi

Hàm f được gọi là tuyến tính afin, nếu f là hàm vừa lồi, vừa lõm

Mệnh đề 1.2.35 Một hàm f : C → ¯R là lồi trên C khi và chỉ khi

Tuy nhiên, hàm đó không phải là hàm lồi chặt hay lõm chặt

b) Hàm chuẩn f (x) = kxk = phx, xi với x ∈ Rn, là hàm lồi

c) Hàm khoảng cách từ điểm x ∈ Rn tới một tập hợp lồi, đóng C ⊂ Rn :

f (x) = inf

y∈Ckx − yk cũng là hàm lồi

Định lý 1.2.37 Hàm f (x) là lồi trên toàn Rn khi và chỉ khi có một trongbốn điều kiện sau đây (giả thiết hàm f khả vi nếu cần):

(ii) Ma trận các đạo hàm cấp hai ∇2f (x) là nửa xác định dương với mọi

x ∈ Rn

Định lý 1.2.38 Cho C là ma trận vuông đối xứng thực cấp n Hàm toànphương f (x) = xTCx = hx, Cxi lồi khi và chỉ khi C nửa xác định dương.Hơn nữa, hàm f lồi chặt khi và chỉ khi C xác định dương

Mệnh đề 1.2.39 Cho ma trận đối xứng, nửa xác định dươngC và chop, x0 ∈

Rn Khi đó: hp, xi + 1

2 hx, Cxi ≥ p, x0+ 12 x0, Cx0+ x − x0, p + Cx0,

∀x ∈ Rn

Định nghĩa 1.2.40 Hàm f được gọi là tựa lồi nếu

với x, y ∈ X ⊂ Rn, ∀z ∈ [x, y] thì f (z) ≤ max{f(x), f(y)}

với các điều kiện

Trong bài toán trên, f gọi là hàm mục tiêu, mỗi hệ thức (1.1), (1.2), (1.3),(1.4) gọi là một ràng buộc Mỗi ràng buộc (1.1), (1.2), (1.3) gọi là một ràngbuộc chính liên kết nhiều biến với nhau (dạng đẳng thức hay bất đẳng thức),mỗi ràng buộc xj ≥ 0 hay xj ≤ 0 gọi là một ràng buộc về dấu

Điểm x = (x1, x2, , xn) ∈ Rn thỏa mãn mọi ràng buộc gọi là một điểmchấp nhận được, hay một phương án Tập hợp tất cả các phương án, ký hiệu

D, gọi là tập ràng buộc hay miền chấp nhận được Một phương án đạt cựctiểu của hàm mục tiêu gọi là một phương án tối ưu hay một lời giải của bàitoán đã cho

Bài toán có ít nhất một phương án tối ưu gọi là bài toán có lời giải Bàitoán không có phương án (tập ràng buộc rỗng D = ∅) hoặc có phương ánnhưng không có phương án tối ưu, do hàm mục tiêu giảm vô hạn (bài toántìm min) hoặc tăng vô hạn (bài toán tìm max), gọi là bài toán không có lờigiải

(đặc điểm của bài toán này là ràng buộc chính chỉ gồm các bất đẳng thức

"≥" đối với bài toán min hoặc "≤" đối với bài toán max và mọi biến đềukhông âm)

Để viết bài toán gọn hơn, ta dùng các ký hiệu vectơ và ma trận như sau:

(với hc, xi là tích vô hướng của hai vectơ c và x)

Bài toán quy hoạch tuyến tính chuẩn tắc có dạng:

min {f (x) = hc, xi : Ax ≥ b, x ≥ 0}

hay

max {f (x) = hc, xi : Ax ≤ b, x ≥ 0}

Định lý 1.3.42 (Định lý cơ bản của qui hoạch tuyến tính)

Nếu hàm tuyến tính f (x) = hc, xi bị chặn dưới trên một tập lồi đa diện D

khác rỗng thì f (x) phải đạt cực tiểu trên D

từ các tài liệu [4], [5], [6], [7], [9].

2.1 Bài toán qui hoạch toàn phương

Xét bài toán qui hoạch toàn phương có dạng:

2.2 Định lý Frank-Wolfe trong qui hoạch toàn phương

Định lý 2.2.43 (Định lý Frank-Wolfe)

Nếu hàm toàn phương f (x) = 12xTQx + cTx bị chặn dưới trên một tập lồi đadiện D khác rỗng (tức θ > −∞) thì f (x) phải đạt cực tiểu trên D, nghĩa làtồn tại vectơ x ∈ D sao cho f (x) ≤ f (x) với ∀x ∈ D

Chứng minh Ta giả thiếtD không bị chặn, vì nếu D bị chặn thì định lý đúngvới mọi hàm liên tục

Vì vậy, theo định lý biểu diễn tập lồi đa diện, ta có thể viết:

D = {x : Ax ≤ b} = {p + λs : p ∈ P, s ∈ S, λ ≥ 0}

trong đó, P là đa diện lồi và S là giao của nón lùi xa reD với mặt cầu đơn

vị trong Rn, cả P và S là các tập compact (đóng và bị chặn) Vì D không bịchặn, tức reD 6= {0}, nên tập S khác rỗng

Ta chứng minh bằng qui nạp theo số chiều của D Không giảm tính tổngquát, ta có thể giả thiết D có phần trong khác rỗng, nghĩa là dimD = n

Rõ ràng định lý đúng với n = 1, bởi vì trong trường hợp này hàm mộtbiếnf (x) = ax2+ bx + c là một tam thức bậc hai bị chặn dưới theo giả thiết

và D là một tia hay cả đường thẳng (do D không bị chặn) trong R1

Giả thiết quy nạp: Giả sử n > 1 và định lý đúng cho mọi tập lồi đa diệnkhác rỗng với số chiều nhỏ hơn n Theo giả thiết

Do f (x) = f (p + λs) ≥ θ với mọi λ ≥ 0 nên phải có sTQs ≥ 0 với mọi

s ∈ S (vì trái lại f (x) → −∞ khi cho λ → +∞, trái với θ > −∞) Xét hai

trường hợp:

Đầu tiên, ta xét trường hợpsTQs > 0với mọis ∈ S Đặtα = minsTQs : s ∈ S

và β = minn(c + Qp)Ts : p ∈ P, s ∈ So

Do P và S compact nên α và β tồn tại Ta có α > 0 > β Như vậy, trong

trường hợp này sTQs ≥ α > 0 với mọi s ∈ S và (c + Qp)T ≥ β với mọi



Rõ ràng tập này chứa một điểm x sao cho

f (x) = min {f (x) : x ∈ D}

s ∈ S nên với mọi x ∈ D và mọi λ ≥ 0 ta có x + λs ∈ D và

f (x + λs) = f (x) + λ(c + Qx)Ts ≥ θ

Như vậy phải có (c + Qx)Ts ≥ 0 với mọi x ∈ D (vì nếu (c + Qx)Ts < 0 thì

f (x + λs) → −∞ khi λ → +∞, trái với θ > −∞ theo giả thiết)

Trước hết, giả sử tồn tại y ∈ D sao cho y + λs ∈ D với mọi λ ∈ R, nghĩa

là A (y + λs) ≤ b với mọi λ ∈ R Điều này kéo theo As = 0 Từ đó suy ra

x + λs ∈ D với mọi x ∈ D, λ ∈ R Hơn nữa do

f (x + λs) = f (x) + λ(c + Qx)Ts > θ

nên (c + Qx)Ts = 0 với mọi x ∈ D và do đó f (x + λs) = f (x) với mọi

x ∈ D, λ ∈ R Điều này cho thấy khi chiếu D lên siêu phẳng trực giao với s

giá trị hàm f không thay đổi Do hình chiếu này là một tập lồi đa diện với

số chiều bằng n − 1 nên theo giả thiết qui nạp, f đạt cực tiểu tại một điểmthuộc hình chiếu, chẳng hạn tại điểm x Khi đó có λ ∈R sao cho x + λs ∈ D

với f (x + λs) = f (x), nghĩa là x + λs là nghiệm cực tiểu cần tìm

Tiếp đó, giả sử rằng với mỗi x ∈ D tồn tại λ ∈ R sao cho x + λs /∈ D Đặt

λx = min {λ ∈ R : x + λs ∈ D}

Khi đó với mọi x ∈ D ta có λx ∈ (−∞, 0] và x + λxs ∈ ∂D, trong đó ∂D là

ký hiệu biên của D Vì thế

f (x + λxs) = f (x) + λ¯ x(c + Qx)Ts ≤ f (x)¯

(bất đẳng thức cuối là do λx ≤ 0 và (c + Qx)Ts ≥ 0¯ với mọi x ∈ D)

Bất đẳng thức cho thấy ta có thể tìm cực tiểu của f trên các diện thuộcbiên ∂D, các diện này có số chiều thấp hơn số chiều của D Theo giả thiết

qui nạp, cực tiểu của f trên D đạt được trên biên ∂D Định lý được chứngminh xong.

Sau đây chúng tôi trình bày định lý Frank - Wolfe cho trường hợp bài toánqui hoạch toàn phương với ràng buộc đẳng thức

Ký hiệu tập ràng buộc và giá trị tối ưu của bài toán lần lượt là:

Giả thiết θ ∈R (tức θ hữu hạn) cho thấy ∆ (A, b) 6= ∅ Lấy một điểm bất

kỳ x0 ∈ ∆ (A, b) Cho số ρ > 0 tùy ý Đặt

∆ρ = ∆ (A, b) ∩ ¯B x0, ρ

với B x0, ρ
là hình cầu đóng tâm x0 bán kính ρ Có thể thấy ∆ρ là một tậplồi compact khác rỗng Xét bài toán tìm cực tiểu sau đây:

min {f (x) : x ∈ ∆ρ} (2.1)Theo định lý Weierstrass, tồn tại y ∈ ∆ρ sao cho

Đầu tiên, ta chứng minh rằng tồn tại số ρ > 0ˆ sao cho

yρ− x0 < ρ, ∀ρ ≥ ˆρ (2.2)Thật vậy, nếu (2.2) không xảy ra, ta sẽ tìm được một dãy tăng ρk → +∞

sao cho với mọi k tồn tại yρk ∈ ∆ρk thỏa mãn

f (yρk) = qρk, yρk − x0 = ρk (2.3)

Để đơn giản ký hiệu, ta viết yk thay cho yρk Vì yk ∈ ∆ (A, b) nên Ayk = b

và ykj ≥ 0 với j = 1, , n, trong đó yjk là thành phần thứ j của véctơ yk Với

j = 1, vì dãy yk1 bị chặn dưới (bởi 0), nên ta có thể chọn được một dãy

con {k0} ⊂ {k} sao cho lim

k 0 →∞yk10 tồn tại (giới hạn đó có thể là +∞) Khônggiảm tổng quát ta có thể giả thiết {k0} ≡ {k}, ta có dãy y1k hội tụ Tương

tự, với j = 2 ta có dãy y2k hội tụ Tiếp tục làm như trên tới khi j = n ta

tìm được một dãy con {k0} ⊂ {k} sao cho tất cả các giới hạn

hội tụ đến v ∈ Rn khi k → ∞ Rõ ràng, kvk = 1 Khi ρk → +∞, với mọi

Vậy Av = 0, Kết hợp với (2.4) cho thấy v là một hướng lùi xa của tập lồi

đa diện ∆ (A, b) Ta nhắc lại rằng một véctơ khác véctơ không v ∈Rn đượcgọi là một hướng lùi xa của một tập lồi khác rỗng C ⊂ Rn nếu

x + tv ∈ C với mọi t ≥ 0 và mọi x ∈ C

Do v là một hướng lùi xa của tập lồi đa diện ∆ (A, b) nên ta có

y + tv ∈ ∆ (A, b) , ∀t ≥ 0, ∀y ∈ ∆ (A, b)

yk + tv ∈ ∆ (A, b) với mọi t ≥ 0 và mọi k ∈ N,

trong đó N là tập hợp các số nguyên dương Chú ý tới (2.6) ta có:

Thật vậy, nếu (2.7) không đúng thì f yk + tv → −∞ khi t → +∞, điềunày mâu thuẫn với giả thiết θ ∈R.

đó từ (2.12) suy ra tồn tại hai số ρi ∈ (ˆρ, +∞) , i = 1, 2 sao cho ρ1 < ρ2 và

trong đó hàm mục tiêu đạt giá trị tối ưu qρ2 = f (yρ2) Do đó yρ2 là nghiệmcực tiểu của (2.14) Từ (2.13) ta có

yρ3 − x0 < yρ2 − x0

Điều này cho thấy yρ2 không thể là nghiệm cực tiểu của (2.14) gần x0 nhất,

ta gặp mâu thuẫn Vậy phải có f (yρ3) > f (yρ2) Vì yρ2 − x0 = ρ3 nên yρ2

là một nghiệm chấp nhận được của bài toán min {f (x) : x ∈ ∆ρ3} Do đóbất đẳng thức f (yρ3) > f (yρ2) mâu thuẫn với kết luận yρ3 là nghiệm tối ưucủa bài toán này Như vậy ta có (2.11) và định lý được chứng minh xong

2.3 Ví dụ

Nhận xét 2.3.44 Định lý Frank-Wolfe nói chung không còn đúng nếu hoặc

f khác hàm tuyến tính và hàm toàn phương hoặc D không là tập lồi đa diện.Các ví dụ 2.3.45, 2.3.46, 2.3.47 nêu dưới đây minh họa cho nhận xét này

Ví dụ 2.3.45 Bài toán với hàm mục tiêu tuyến tính và D khác tập lồi đadiên:

Ví dụ 2.3.50 Xét bài toán tối ưu với các ràng buộc bất đẳng thức