Mục này sẽ trình bày một số phương pháp lặp kiểu Korpelevich xấp xỉ nghiệm cho bài toán (2.1) trong trường hợp đặc biệt không gian nền H là không gian Euclid hữu hạn chiều Rn.
Khi hàm giá có tính đơn điệu mạnh, phương pháp lặp điển hình để giải bài toán (2.1) là phương pháp chiếu gradient [12] được mô tả như sau:
x0 ∈ C,
xk+1 = PC(I − ρF )(xk), k = 0, 1, 2, . . .
(2.6)
trong đó PC là phép chiếu mêtric từ Rn lên C, I là ánh xạ đơn vị trên Rn và
ρ là một hằng số dương cố định.
Dưới giả thiết nhẹ hơn, hàm giá F là giả đơn điệu, ta có thể sử dụng phương pháp chiếu gradient tăng cường (EGM) tìm nghiệm xấp xỉ của bài toán (2.1). Phương pháp kiểu loại này [9] được giới thiệu bởi Korpelevich năm 1976 khi nghiên cứu về bài toán điểm yên ngựa cùng các bài toán liên quan.
Định lí 2.1. [5]
Cho C là tập con lồi đóng khác rỗng của Rn. Cho Cho F : C → Rn là ánh xạ giả đơn điệu tương ứng với tập nghiệm Sol(VIP(F, C)) ̸= ∅(tức là,
⟨F (x), x − x∗⟩ ≥ 0, ∀x ∈ C, ∀x∗ ∈ Sol(VIP(F, C))) và L-liên tục Lipschitz. Giả sử 0 < τ < 1/L. Khi đó, dãy lặp {xk} xác định bởi
yk = PC(xk − τ F (xk)),
xk+1 = PC(xk − τ F (yk)), k ≥ 0,
(2.7)
hội tụ tới một nghiệm của bài toán (2.1) khi k → +∞.
Chứng minh. Định lí được chứng minh thông qua một số bước sau.
Bước 1. Nếu x∗ ∈ Sol(VIP(F, C)) thì
∥xk+1 − x∗∥ ≤ ∥xk − x∗∥ − (1 − τ L )∥yk − xk∥ , ∀k ≥ 0. (2.8) Trước hết, vì yk ∈ C nên ta có
⟨F (x∗), yk − x∗⟩ ≥ 0, ∀k ≥ 0.
Vì F là giả đơn điệu tương ứng với tập Sol(VIP(F, C)) nên suy ra
⟨F (yk), yk − x∗⟩ ≥ 0, ∀k ≥ 0. Điều này dẫn đến x0 ∈ C, 2 2 2 2 2
hay tương đương với ⟨F (yk), x∗ − xk+1⟩ ≤ ⟨F (yk), yk − xk+1⟩, ∀k ≥ 0. (2.9) Áp dụng Mệnh đề 1.11 ta có đánh giá sau ⟨xk+1 − yk,xk − τ F (yk) − yk⟩ = ⟨xk+1 − yk, xk − τ F (xk) − yk⟩ + τ ⟨xk+1 − yk, F (xk) − F (yk)⟩ = ⟨xk+1− PC(xk − τ F (xk)), xk − τ F (xk) − PC(xk − τ F (xk))⟩ + τ ⟨xk+1− yk, F (xk) − F (yk)⟩ ≤ τ ⟨xk+1− yk, F (xk) − F (yk)⟩.
Đặt zk = xk − τ F (yk). Từ (2.9) và đánh giá trên ta có ước lượng
∥xk+1 − x∗∥ = ∥PC(zk) − x∗∥ = ∥PC(zk) − zk + zk − x∗∥ = ∥zk − x∗∥2 + ∥zk − PC(zk)∥2 + 2⟨PC(zk) − zk, zk − x∗⟩ ≤ ∥zk − x∗∥ − ∥zk − PC(zk)∥ = ∥xk − τ F (yk) − x∗∥2 − ∥xk − τ F (yk) − xk+1∥2 = ∥xk − x∗ − τ F (yk)∥2 − ∥xk − xk+1 − τ F (yk)∥2 = ∥xk − x∗∥2 − 2τ ⟨xk − x∗, F (yk)⟩ + τ 2∥F (yk)∥2 — ∥xk − xk+1∥ + 2τ ⟨xk − xk+1, F (yk)⟩ − τ ∥F (yk)∥ = ∥xk − x∗∥2 − ∥xk − xk+1∥2 + 2τ ⟨x∗ − xk+1, F (yk)⟩ ≤ ∥xk − x∗∥ − ∥xk − xk+1∥ + 2τ ⟨yk − xk+1, F (yk)⟩ = ∥xk − x∗∥2 − ∥xk − yk + yk − xk+1∥2 + 2τ ⟨yk − xk+1, F (yk)⟩ = ∥xk− x∗∥2 − ∥xk − yk∥2 − ∥yk − xk+1∥2 + 2⟨xk+1 − yk, xk − τ F (yk) − yk⟩ ∥xk − x∗∥ − ∥xk − yk∥ − ∥yk − xk+1∥ + τ ⟨xk+1 − yk, F (xk) − F (yk)⟩ ≤ ∥xk− x∗∥ − ∥xk − yk∥ − ∥yk− xk+1∥ Từ đây ta có + 2τ L∥xk+1 − yk∥∥xk − yk∥, ∀k ≥ 0. ∥xk+1 − x∗∥2 ≤ ∥xk − x∗∥2 − ∥xk − yk∥2 − ∥yk − xk+1∥2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2
+ 2τ L∥xk+1 − yk∥∥xk − yk∥
= ∥xk − x∗∥2 − (1 − τ 2L2)∥xk − yk∥2
2 — [τ L∥xk − yk∥ − ∥xk+1 − yk∥]
≤ ∥xk− x∗∥ — (1 − τ 2L2)∥xk − yk∥ , ∀k ≥ 0.
Bước 2. Chứng minh dãy {xk} bị chặn.
Đặt ρ = 1 − τ 2L2. Vì 0 < τ < 1/L nên suy ra ρ ∈ (0, 1). Từ chứng minh Bước 1, ta có
∥xk+1 − x∗∥ ≤ ∥xk − x∗∥ , ∀k ≥ 0.
Điều này chứng tỏ rằng {xk} bị chặn. Hơn thế nữa, vì tính bị chặn của {xk} nên tồn tại một dãy con {xkj } của nó hội tụ. Giả sử
xkj → x¯. Ta có x¯ ∈ C vì C là tập đóng. Bước 3. Chứng minh x¯ ∈ Sol(VIP(F, C)). Từ đánh giá (2.8) ta suy ra +∞ ρ ∥xk − yk∥ ≤ ∥x0 − x∗∥. k=0 Vì ρ > 0 nên bất đẳng thức trên dẫn đến ∥xk − yk∥ → 0. Mặt khác, vì xkj → x¯ nên ta cũng có ykj → x¯.
Từ cách xác định yk, tính liên tục của hàm F và phép chiếu PC, ta có
x¯ = lim j→+∞ = lim j→+∞ ykj PC(xkj − τ F (xkj )) = PC(x¯ − τ F (x¯)) = PC(I − τ F )(x¯).
Đẳng thức trên chứng tỏ rằng x¯ là nghiệm của bài toán (2.1). Bước 4. Chứng minh xk → x¯.
2 2
2 2
Sử dụng (2.8) với x∗ =
x¯
và vì thế nó hội tụ. Vì
ta suy ra dãy {∥xk − x¯∥} là dãy đơn điệu giảm lim k→+∞ ∥xk − x¯∥ = j lim ∥xkj − x¯∥ = 0,
nên suy ra điều cần chứng minh.
Ví dụ 2.4. Xét bài toán (2.1) với hàm mục tiêu F : C → R2 xác định bởi
F (x) = Qx
với Q là ma trận vuông cấp hai có dạng
Q = 0 2−2 0
và miền ràng buộc C = R2. Khi đó, dễ thấy rằng
⟨F (x) − F (y), x − y⟩ = ⟨Qx − Qy, x − y⟩ = 0, ∀x, y ∈ C.
nên F là ánh xạ đơn điệu trên C và vì thế nó là giả đơn điệu trên C. Hơn thế nữa, đẳng thức trên suy ra F không là ánh xạ đơn điệu mạnh trên C. Mặt khác, ta lại có
∥F (x) − F (y)∥ = ∥Q(x − y)∥ = 2∥x − y∥.
Do đó, F là ánh xạ liên tục Lipschitz với L = 2.
Dễ thấy rằng, với các giả thiết trên thì bài toán (2.1) có nghiệm duy nhất
x∗ = (0, 0) vì
⟨F (x), y − x⟩ ≥ 0, ∀y ∈ R2 ⇔ F (x) = 0 ⇔ Qx = 0 ⇔ x = 0.
Ngoài ra, ta luôn có
⟨F (x), x − x∗⟩ = ⟨Qx, x⟩ = 0, ∀x ∈R2.
Rõ ràng, phương pháp chiếu gradient không áp dụng được cho ví dụ này. Tuy nhiên, chúng ta có thể áp dụng phương pháp (EGM) tìm một nghiệm xấp xỉ của bài toán. Với điểm ban đầu x0 = (3, 4), ta có Bảng 2.1 là kết quả tính toán số với một số giá trị thay đổi của tham số τ ∈ (0, 1/2).
Kết quả thử nghiệm cho thấy tham số τ ảnh hưởng khá lớn đến sự hội tụ của phương pháp. Tốc độ hội tụ tốt khi tham số này gần giá trị trung tâm của khoảng (0, 1/2) và hội tụ khá chậm khi tham số này gần giá trị 0.
→+∞
τ TOL=∥xk − x∗∥ Số bước lặp k Sai số 1/100 0.00999851972519 31080 10−2 1/10 0.00988754094751 318 10−2 1/5 0.00938145677727 87 10−2 1/4 0.00985532825053 60 10−2 1/3 0.00976238563561 44 10−2 99/200 0.00990495499225 632 10−2
B ngả 2.1: K tế quả tính toán cho phương pháp (EGM) tương ngứ v iớ các giá trịτ thay đ iổ
Chúng ta biết rằng, hằng số Lipschitz của ánh xạ F rất khó tính toán trong thực tế ngay cả khi F là ánh xạ tuyến tính liên tục. Để giảm bớt khó khăn này, năm 1996, Sun [11] đã đề xuất phương pháp mới có dạng:
yk = PC(xk − αkF (xk)),
xk+1 = PC(xk − γρkF (yk)),
(2.10) trong đó γ ∈ (0, 2), αk ∈ (0, 1/L) hoặc được chọn tự tương thích, tức là
αk = s(xk)αmk
với α ∈ (0, 1) và mk là số nguyên không âm nhỏ nhất thỏa mãn
m ⟨F (xk) − F (PC(xk − s(xk)α F (xk))), E(xk, s(xk)α )) (1 − η(xk))∥E(xk, s(xk)αm)∥2 s(xk)α trong đó E(x, t) := x − PC(x − tF (x)) và η(x) = max η, 1 − t(x) nếu t(x) > 0, ∥E(x, 1)∥2 1 trong trường hợp khác, ở đây, t(x) := ⟨F (x) − F (PC(x − F (x))), E(x, 1)⟩ và ρ = ⟨ E ( x∥k, αF (yk) , F ( yk) ⟩. k)∥2
Phương pháp (2.10) hội tụ dưới các giả thiết thích hợp (xem Định lí 3.1 và Định lí 3.2 trong [11]). x0 ∈ C, m ≤ k
Nhận xét 2.3. Trong [11], Sun đã chỉ ra rằng tham số τ có thể được xác định được sau một số hữu hạn các tính toán thử nghiệm nếu s(xk) < 1 (Nhận xét 3.1 trong [11]) với
[1 − η(x)]∥E(x, 1)∥2
1 trong trường hợp khác,
và nếu s(xk) = 1 thì bất đẳng thức xác định mk bảo đảm với m = 0. Trong phương pháp của Sun, ta có hoàn toàn thể chọn tham số αk cũng như ρk khi
biết các thông tin hậu nghiệm. Tuy nhiên, không dễ để xác định tiên nghiệm các tham số này.
Việc lựa chọn kích thước bước lặp là rất quan trọng vì hiệu quả của các phương pháp lặp phụ thuộc nhiều vào nó. Để ý rằng, ở phương pháp (EGM) (2.7), kích thước bước lặp αk là như nhau trong cả hai lần thực hiện phép chiếu. Tuy nhiên, trong phương pháp (EGM) (2.10), hai kích thước bước lặp khác nhau được sử dụng. Một số kết quả tính toán số được trình bày trong [2] cho thấy số lượng bước tính toán của phương pháp (2.10) bằng khoảng một nửa so với phương pháp (2.7).
Năm 1997, He [7] đã đề xuất phương pháp mới tìm nghiệm xấp xỉ cho bất đẳng thức biến phân đơn điệu kết hợp giữa phương pháp chiếu và phương pháp co (PCM) có dạng: trong đó x0 ∈ C, xk+1 = xk− γρ(xk)g(xk), −1 e(xk)T d(xk) (2.11) γ ∈ (0, 2), g(xk) = G d(xk), ρ(xk) = ∥g(x , k)∥2 với G là ma trận đối xứng, nửa xác định dương và
e(u) = u − PC(u − F (u))
và
d(u) = e(u) − [F (u) − F (PC(u − F (u)))].
Điều kiện bảo đảm sự hội tụ của phương pháp (2.11) đặt lên ánh xạ F là
s(x) = t(x) nếu t(x) > 0,
(H1) F là ánh xạ đơn điệu, (H2) F thỏa mãn
⟨F (u) − F (v), u − v⟩ ≤ (1 − δ)∥u − v∥ , ∀u, v ∈ R ,
ở đây, tham số δ ∈ (0, 1), được He chứng minh chi tiết trong [7].
Nhận xét 2.4. Nếu chúng ta lấy G là ma trận đơn vị I, thì trong mỗi bước
lặp của phương pháp (PCM), về cơ bản chỉ bao gồm phép tính F (u), một
phép chiếu v := PC[u − F (u)] và ánh xạ F (v). Ngoài ra, ta có thể hoàn toàn
chọn tham số ρk khi biết các thông tin hậu nghiệm. Tuy nhiên, cũng không
dễ để xác định tiên nghiệm các tham số này. Bên cạnh đó, chúng ta cũng thấy rằng, cách chọn ρk trong phương pháp của He là đơn giản hơn nhiều so
với phương pháp của Sun.
Nhận xét 2.5. Trong phương pháp (2.7), nếu chọn L < 1 thì ta có thể lấy
τ = 1 (đảm bảo điều kiện 0 < τ < 1/L). Khi đó, phương pháp (2.7) có thể
viết lại dưới dạng:
với
x0 ∈C,
xk+1 = PC(xk − g(xk)), k ≥ 0,
g(xk) = F (PC(xk − F (xk))).
(2.12)
Trong khi đó, ở phương pháp (2.11) nếu lấy G ≡ I thì
g(xk) = xk − PC(xk − F (xk)) − [F (xk) − F (PC(xk − F (xk)))].
Quan sát thấy rằng, dãy lặp {xk} xác định bởi (2.7) hoặc (2.12) đều có tính chất xk ∈C tuy nhiên dãy lặp {xk} xác định bởi (2.11) không yêu cầu tính chất này.