Định nghĩa 1.6.1 (Bài toán tối ưu). Bài toán tối ưu tổng quát được phát biểu như sau:
min f (x) với điều kiện x ∈ D, (P1) hoặc
max f (x) với điều kiện x ∈ D, (P2)
trong đó D ⊆ Rn được gọi là tập nghiệm chấp nhận được hay tập ràng buộc và f : D → R là hàm mục tiêu. Mỗi điểm x ∈ D được gọi là một nghiệm chấp nhận được hay một phương án chấp nhận được ( gọi tắt là một phương án). Điểm x∗ ∈ D mà
f (x∗) 6 f (x) ∀x ∈ D
được gọi là nghiệm tối ưu, hoặc nghiệm tối ưu toàn cục, hoặc nghiệm cực tiểu toàn cục, hoặc là nghiệm của bài toán (P1).Người ta còn một nghiệm tối ưu là một phương án tối ưu hay lời giải của bài toán đã cho. Điểm x∗ ∈ D được gọi là nghiệm cực tiểu toàn cục chặt nếu
f (x∗) < f (x) ∀x ∈ D và x 6= x∗.
Không phải bài toán (P1) nào cũng có nghiệm cực tiểu toàn cục nếu bài toán có nghiệm cực tiểu toàn cục thì cũng chưa chắc có nghiệm cực tiểu
toàn cục chặt.
Giá trị tối ưu (hay giá trị cực tiểu) của bài toán (P1) được kí hiệu là min
x∈D f (x) hoặc min{f (x)|x ∈ D}. Nếu bài toán (P1) có nghiệm tối ưu là x∗ thì
f (x∗) = min{f (x)|x ∈ D}.
Ta kí hiệu Argmin{f (x)|x ∈ D} là tập nghiệm tối ưu của bài toán (P1). Nếu bài toán chỉ có một nghiệm tối ưu x∗ thì có thể viết x∗ = arg min{f (x)|x ∈ D}.
Điểm x∗ ∈ Dđược gọi là nghiệm tối ưu địa phương hoặc nghiệm cực tiểu địa phương của bài toán (P1) nếu tồn tại một ε−lân cận B(x∗, ε) của điểm x∗ ∈ D sao cho
f (x∗) 6f (x) ∀x ∈ B(x∗, ε)∩D.
Điểm x∗ ∈ Dđược gọi là nghiệm tối ưu địa phương chặt hoặc nghiệm cực tiểu địa phương chặt của bài toán (P1) nếu tồn tại một ε−lân cận B(x∗, ε) của điểm x∗ ∈ D sao cho
f (x∗) < f (x) ∀x ∈ B(x∗, ε)∩D và x 6= x∗.
Lưu ý rằng, người ta cũng thường phát biểu bài toán (P1) dưới dạng min{f (x)|x ∈ D} hoặc f (x) → min hoặc min
x∈D f (x) với điều kiện x ∈ D.
Tương tự, bài toán (P2) cũng thường được phát biểu dưới dạng max{f (x)|x ∈ D} hoặc f (x) → max hoặc max
x∈D f (x) với điều kiện x ∈ D.
Chú ý 1.6.1. Bài toán (P1) tương đương với bài toán max (−f (x)) v.đ.k. x ∈ D.
Theo định nghĩa tập nghiệm tối ưu của hai bài toán này trùng nhau và giá trị tối ưu của chúng thì ngược dấu, nghĩa là
min{f (x)|x ∈ D} = −max{−f (x)|x ∈ D}.
Vì vậy, không giảm tổng quát, ta chỉ xét bài toán (P1) hoặc (P2). Nếu D ≡Rn thì ta nói (P1) là bài toán tối ưu không ràng buộc. Ngược lại, nếu D ⊂ Rn thì ta nói (P1) là bài toán tối ưu có ràng buộc. Trong các bài toán tối ưu có ràng buộc, tập D thường xác định bởi
D := {x ∈ Rn/gi(x) 60, i= 1, ..., p} (1.18) với gi, i = 1, ..., p, là các hàm thực xác định trên tập A ⊃ D (thông thường A ≡ Rn). Ta gọi gi(x), i = 1, ..., m, là các hàm ràng buộc. Mỗi hệ thức gi(x) 6 0, i ∈ {1, ..., p}, được gọi là một ràng buộc của bài toán. Vì ràng buộc
gi(x) > 0⇔ −gi(x) 6 0 và
gi(x) = 0 ⇔ n gi(x)60
−gi(x)60
nên rõ ràng biểu diễn 1.14 bao gồm hết các loại ràng buộc.
Chú ý 1.6.2. Nghiệm tối ưu toàn cục cũng là nghiệm tối ưu địa phương nhưng điều ngược lại chưa chắc đã đúng và đúng khi D là tập lồi và f là hàm lồi.
Mệnh đề 1.6.3. Cho hàm lồi f : Rn →R và tập lồi khác rỗng D ⊂ Rn. Xét bài toán min{f (x)|x ∈ D}. Khi đó:
(i) Nếu x∗ là một nghiệm tối ưu địa phương của bài toán này thì x∗ cũng là nghiệm tối ưu toàn cục;
(ii) Nếu x∗ là nghiệm tối ưu địa phương chặt hoặc f là hàm lồi chặt thì x∗ là nghiệm tối ưu toàn cục duy nhất của bài toán.
Chú ý 1.6.4. Nếu bài toán (P1) không có nghiệm tối ưu thì giá trị tối ưu của bài toán này, ký hiệu là int f (D), là cận dưới lớn nhất (hay giá trị infimum) hàm f trên D. Giả sử t0 = int f (D) với t0 ∈ R∪ {−∞}. Khi đó,
f (x) > t0 ∀x ∈ D và ∃ {xn} ⊂ D sao cho
lim
n→∞f (xn) =t0.
Tương tự, nếu bài toán (P2) không có nghiệm tối ưu thì giá trị tối ưu của bài toán này, kí hiệu là sup f (D) là cận trên nhỏ nhất (hay giá trị surpemum) hàm f trên D. Nếu
t∗ = sup f (D), t∗ ∈ R∪ {+∞} thì f (x) 6t∗ ∀x ∈ D và ∃ {xn} ⊂ D sao cho lim n→∞f (xn) =t∗.
Ví dụ 1.6.5. Cho f (x) = cosx, D = R. Khi đó , bài toán (P1) tương ứng có vô số nghiệm tối ưu toàn cục,
Argmax{cosx|x ∈ R}= {xˆ= 2kπ, k = 0,±1,±2, ...}
Và giá trị tối ưu là min{cosx|x ∈ R} = −1.
Tập nghiệm tối ưu của bài toán (P2) tương ứng là:
Argmax{cosx|x ∈ R}= {xˆ= 2kπ, k = 0,±1,±2, ...}
Cho f (x) = arctgx. Dễ thấy, trên R, hàm fkhông có một nghiệm cực tiểu địa phương, cực đại địa phương, cực tiểu toàn cục hoặc cực đại toàn cục nào. Và ta có inff (D) = −π
2 và sup f (D) = +π2. Các loại bài toán tối ưu
Dựa trên tính chất của hàm mục tiêu và tập chấp nhận được, bài toán tối ưu phân loại như sau:
Quy hoạch tuyến tính : hàm mục tiêu f (x) là hàm tuyến tính và tập chấp nhận được D ⊂ Rn là tập lồi đa diện (tức là các ràng buộc gi(x), i = 1, ..., m là các hàm afin).
Quy hoạch nguyên (hay tối ưu rời rạc(tổ hợp)) : tập chấp nhận được D ⊂ Rn có cấu trúc rời rạc. Một trường hợp riêng quan trọng của quy hoạch nguyên là bài toán quy hoạch tuyến tính nguyên, đó là bài toán quy hoạch tuyến tính mà các biến số chỉ lấy giá trị nguyên.
Quy hoạch phi tuyến : hàm mục tiêu f (x) hoặc một trong các ràng buộc gi(x), i = 1, ..., m không phải hàm afin. Trong các bài toán tối ưu phi tuyến có hai lớp đặc biệt quan trọng, đó là:
• Quy hoạch lồi
• Quy hoạch lõm
Quy hoạch động: Bài toán quy hoạch động xét các đối tượng là các quá trình có thể chia ra thành nhiều giai đoạn hoặc các quá trình phát triển theo thời gian. Trong nhiều trường hợp, người ta đưa bài toán quy hoạch động về dạng bài toán quy hoạch tuyến tính với kích thước lớn.
Quy hoạch đa mục tiêu : bài toán này không phải chỉ có một hàm mục tiêu duy nhất như bài toán (P1)(hoặc(P2)) mà ta phải cực tiểu (hoặc cực đại) đồng thời p(với p > 2) hàm mục tiêu trên tập chấp nhận khác rỗng D ⊂ Rn và các mục tiêu này có thể không tương thích với nhau.
Ngoài ra còn có Quy hoạch d.c, Quy hoạch ngẫu nhiên, Quy hoạch tham số. . .
Định nghĩa 1.6.2 (Hàm Lagrange). Cho C là tập khác rỗng trong
Rn, fi : C → R, bi ∈ R, i = 0,1, ..., m là những hàm xác định trên C. Xét bài toán tối ưu :
min{f0(x) : x ∈ D},
trong đó D = {x ∈ Rn : x ∈ C, fi(x) 6 bi, i = 1, ..., m} là miền ràng buộc của bài toán.
Để nghiên cứu điều kiện tối ưu của bài toán trên người ta quan tâm đến hàm Lagrange =(x, λ) := =(x, λ1, ..., λm) := f0(x) + m X i=1 λi(fi(x)−bi) xác định trên C×Rm
+, trong đó bộ số λ = (λ1, ..., λm) gọi là các nhân tử Lagrange. Nhận xét 1.6.6. Ta có sup λ∈Rm + =(x, λ) = f0(x) nếu fi(x)−bi 6 0, i = 1, ..., m +∞ nếu ngược lại
Thật vậy, nếu fi(x)−bi 60 với mọi i = 1, ..., m thì supnXm
i=1λi(fi(x)−bi) = 0 khi λ = 0
o
.
Do đó sup=(x, λ) = f0(x). Nếu tồn tại i ∈ {1, ..., m} để fi(x)−bi > 0 thì bằng cách lấy λj = 0 với mọi j 6= i và λi = t→ +∞, ta có
sup=(x, λ) = +∞.
Từ nhận xét trên, ta có thể viết bài toán (Q) dưới dạng sau min x∈C sup λ∈Rm + =(x, λ), trong đó =(x, λ) := =(x, λ1, ..., λm) := f0(x) +Pmi=1λi(fi(x)−bi).
Định nghĩa 1.6.3. Ta gọi bài toán: min λ∈Rm + inf x∈C=(x, λ) (Q∗) là bài toán đối ngẫu của bài toán gốc (Q).
Hàm ϕ : Rm+ → R xác định bởi ϕ(λ) = inf
x∈C=(x, λ)
là hàm Lagrange. Cặp bài toán(Q) và (Q∗) gọi là cặp bài toán đối ngẫu. Định lí 1.6.7. Giá trị tối ưu v(Q∗) của bài toán đối ngẫu (Q∗) luôn nhỏ hơn hoặc bằng giá trị tối ưu v(Q) của bài toán gốc (Q).