Phương pháp gradient cải biên kéo dài
2.4 Tốc độ hội tụ của dãy lặp
2.4.1 Tốc độ hội tụ R - tuyến tính
Để có được tốc độ hội tụ R tuyến tính của dãy lặp sinh bởi Thuật toán 2.1ngoài các yêu cầu tính giả đơn điệu của F ta cần giả thuyết chính
quy là phépchiếu cận sai số. Đây là khái niệm quan trọng của tính chính
quy (ta có thể gọi nó là tính
chính quy với toán tử chiếu metric).
Định nghĩa 2.2. Bài toán VI(K,F) thỏa mãn giả thiết chính quy Tseng nếu nó có một nghiệm và tồn tại số thực ỏ,ĩ) > 0 sao cho
d {u, Soỉ {K, F))<TỊ\\U-PK{U-F (U)) II (2.23) với mọi u e K với tính chất
\\u-PK (u-F(u))\\ < ỗ. (2.24) Sau đây, ta thảo luận trước khái niệm chính quy và chỉ ra rằng khẳng định của định lý phần này không đúng nếu không có điều kiện chính quy đó.
Tseng đã đưa ra một số điều kiện đủ để có tính chính quy trong không gian hữu hạn chiều.
Định lý 2.6. (Xem[17j) Giả thiết chính quy Tseng cố định khi và chỉ khi các khẳng định sau được thỏa mãn:
(а) (Trường hợp đơn điệu mạnh) F là ánh xạ đơn điệu mạnh và liên tục Lipschitz trên K.
(ồ) (Trường hợp affin) VI (K,F) có một nghiệm, F là ánh xạ affin và K là tập đa diện lồi.
(б) (Trường hợp đơn điệu đa hợp) VI (K,F) có một nghiệm, K là tập đa diện lồi và
F (u) = ETG (Eu) + q,Vue Rn,
ở đây E là ma trận m X n với cột khác 0, q là một véctơ trong Rn và G : Mm —> Mm là hàm đơn điệu mạnh liên tục Lipschitz.
Ta cần bổ đề sau đây về tính đơn điệu của hàm số còn lại.
Bổ đề 2.2. Cho F : K —ằ■ H là một ỏnh xạ được định nghĩa trờn một tập con khác rỗng, lồi, đóng K c H. Với mỗi u € K và a > 0, đặt
R (lí, a) := u — PK (lí — aF (u)).
Do vậy, ta có các khẳng định sau:
(a) Với bất kì u G K và o¡2 > Oil > 0,
||Ä(u,a2)|| > ||Ä(ô,ai)|| (2-
25) và
\\R{U,C*2)\\ < ||fl(ô,ai)||, ^2 26^
c>¡2 Ot-1
(6)Với bất kì u G K và a > 0,
min {1, a} IIu — PK (u — F (li)) II < IIu — PK (u — aF (w))Ị| . (2.27) Chứng minh. (a) Nếu ||iỉ(M,ai)|| = 0 thì u = PK {u — ctịF (m)); sử dụng Định lý 1.1, ta có (F (u) ,v — u) >0 với mọi V G K. Cùng với Hệ quả 1.2, ta cú u = PK (u — a2F (u)): điều này cú nghĩa là \\R (lớ, ô2)11 = 0. Vỡ vậy, (2.25) và (2.26) là đúng trong trường hợp \\R (u, Oil)II = 0. Bây giờ, giả sử
\\R(u, Oil) II 7^ 0. Để có được (2.25) và (2.26), nó có nghĩa là
1 < ^ -• (2.28)
|Ịit (u, O'!) ỊỊ Oi\
Do Định lý 1.1,
(v — PK (y), PK {V) — cư) > 0, Vcư € K, V G H. (2.29)
Thay üü = PK (^¿ — a2F (u)) £ K, V = u — aiF (u) trong (2.29) và lưu ý PK (u - OíịF (u)) - PK (u- a2F (u)) = -R (w, a2) - (w, ữi), ta được
(iỉ (u, Qới) — ot\F (lớ), -R (lớ, ô2) — -R (w, Qới)) > 0. (2.30) Tương tự, thay ĩJ = PK {u — aiF (u)) G K, V — u — a2F (u) trong (2.29), ta được
(iỉ (u, ô2) - Qớ2.F (w), R (u, cci) — iỉ (w, ô2)) > 0. (2.31) Nhõn (2.30) với a2 và (2.31) với ô1 rồi cộng vế với vế của bất đẳng thức ta được
{a2R (u, Qới) — Qớiiỉ (u, CC2), i? (w, ô2) — -R {u , Qới)) > 0
hay tương đương với
ữí ịịR (w, a2)l|2 + OL2\\R{u ,OL1)\\2 < (ai + a2) (i? (w, a2), i? (w, ai)).
(2.32) Chia cả hai vế của (2.32) cho Oíill-R (u, Qíi)II2 và sử dụng bất đẳng thức Cauchy-Schwarz, ta được
\\R{ u,a 2)\\ 2 02 < / 02_\ (R { u,a 2 ) ,R { u,ai ) )
||Ä(u,ai)||2 a1S\ aj II R^a^ịị2
< ( 1 + ^ \ \ R ( u i a 2 ) \ \ \ \ R ( u , a i ) \ \
" V l | Â K * i ) l l2
= Ti + ^ ỊỊfl(^ 0 = 2)11 V a j \\R{u,a i) I I ■ Điều này có nghĩa là
(\\R{u,a ¡ 2)11 oA /||fl(u,a2)|| _ A
VIlÄ^aOII axAllÄ^ai)!! y 1 j,
Vì a2 > > 0 nên 38
ỊỊ^ (^, Qj 2 ) II _ ô2 < \\R{ u,a2) \\
_ 1 ||/ỉ(w,ai)|| a-1 ll-R (u, a;i)ỊỊ
Do vậy, (2.33) kéo theo (2.28) là đúng.
(6) Cho u €E K và a > 0 được cho tùy ý. Nếu 0 < OL < 1 thì (2.27) trở thành (2.26), với CCI := a và a2 = 1. Nếu a > 1 thì (2.27) trở thành (2.25), với ô1 = 1 và a2 := a.
Kết quả chính của phần này là định lý sau đây.
Định lý 2.7. (Xem [9, Định lý 3.2]) Cho F là ánh xạ giả đơn điệu.
Giả sử bài toán VI (K,F) thỏa mãn điều kiện chính quy Tseng
và {wfe} là dãy lặp được trình bày trong Thuật toán 2.1. Khi đó, {wfc} hội tụ theo chuẩn tới một phần tử của Sol (K, F) với tốc độ hội tụ R - tuyến tính.
Chứng minh. Theo giả thiết của định lý, ta đặt ip (u) = [d (u, Sol (K, F))]2, Vm G K. Việc chứng minh định lý dựa trên sơ đồ chứng minh của Tseng và chia trong ba khẳng định sau.
Khẳng định 1. 3rji > 0 sao cho
ip (uk) - <p (uk + 1) > TỊ\ IIuk - uk + 11|2, VA; G N. (2.34) Để chứng minh khẳng định trên, chọn một điểm ũ € Sol (K, F) mà IIuk — €¿[1 = d (uk,Sol (K, F)). Hiển nhiên, ũ tồn tại vì Sol (K, F) khác rỗng do giả thiết chính quy, lồi do tính giả đơn điệu của F và đóng do tính liên tục
Lipschitz của F. Vì íp (wfc) = ||wfc — ĩĩ||2 và ip (wfc+1) < ||
MA:+1 _ ^||2^ ỵậị kợp (2.7), ta được (p ('uk) - (p (uk+1) > IIuk - ũ\\2 - IIuk+1 - ũ\
ut +' - u
h —k u —
> u + uk — uk + 1
b. —k
u — u
— 2akL
Sử dụng bất đẳng thức —2 OLỵL
k —k u —
u — k
u — u k —ku —u k-1-1—
u — u
> -akL +
ta được
k —k u —
u — k k-1-1
u — u ip (uk) - ip (wfc+1) > (1 - akL)
^ (V2) i1 - a*L) (
^ (V2) (! -a*L) IK -
> (V2) (1 -bL) IIô* - uk
vì ak < b < Ỵ nên 1 — akL > 1 — bL > 0. Vì vậy, (2.34) đúng với +
k —k u —
u + ũk - uk + 1
,k+1 I ,fc+i I vì Qífc < b < Ỷ nên 1 —
VI ■■= (V2) (1 - bL) > 0.
Khẳng định 2. 3rj2 > 0 sao cho
<p (uh + 1) < 772 II uk - u
với mọi k e N đủ lớn.
Từ Bổ đề 2.2(b), với bất kỳ u e K và a > 0, ta có
min {1, cc} ||ĩí — PK (^¿ — F (w))|| < IIu — PỊÌ (u — aF (w))|| .
fc+l (2.35)
Thay u = uk G K và a = Qíjfc > 0 trong bất đẳng thức này và sử dụng tính chất ũk — PK (uk — akF (uk)) và ak € [a, b], ta được
\\uh -ũh\\ > min {1, Oífc} IIuk - PK (uk - F (wfc))||
> min {1, a} IIuk — PK (uk — F (wfc)) II . (2.36) Do Hệ quả 1.1(b) và tính liên tục của F, ta có
uk -uk + 1 II < (1 + bL) uk -uk + 1 II > k —k u— u
k -k
— u — u
> h —k u— u
> h —k u— u
— <*k
—
= (1 - akL) > atỵL (1 - bL)
uk — uk + 1
PK (ằ* - atF (ô*)) - PK (ằ* - atF (ũ*)) F (u*) - F (ũ*) II
h. —k
u — u
h. —k
u — u
b —k u
— u
h —h ĩl
Bắt đầu với ||wfc — uk + 1 II < — U + u — u k+1 thay VÌ IIuk — uk + 1 II >
ỉ. —k u —
u u — ufc+l lập luận tương tự ta có
tr —
u — uk
Vì vậy
(1 - 61) k —k — u u < \\uh - u k+1 < (1 + bL) (2.37)
1 k —k — u u min {1, a}
< 1
min {1, a} (1 — bL)
Vỡ Iịuk — ukịị —ẽ 0 khi k —> oo theo Bổ đề 2.1 nờn ta cú IIuk — uk + 1 II —ằ•
0 khi k -ẽ oo do (2.37). Kết hợp (2.36) và (2.37), ta cú uk -PK (Mfc-F(Mfc))|| <
I k _ Ufc+I|
Vì lim IIuk — uk + 1\\ = 0, (2.24) thỏa mãn cho u = uk, k đủ lớn. Do
k—ằ00
(2.34), ta có <p (uk + 1) < <p (uk). Do vậy, từ (2.23) và (2.24) và đẳng thức
<p (uk) = [d(u\Soỉ{K,F))ì ta được
V K+1) < V ự)
< rf\\uk - PK (uk - F (wfc))||2
< rỄ._____IIuk - uk+1 II2 [min {1, a} (1 — bL)]2 với chỉ số k đủ lớn. Do
vậy, (2.35) đúng với
rf
rj2 :=------ 7 > 0.
[min {1, a} (1 — bL)]
Khẳng định 3. Dãy {uk} hội tụ theo chuẩn tới u* G Sol (K:F) và tồn tại k0 € N sao cho
IIuk - u*ịị < pị^J ^ ^ , VA; > kữ, (2.38)
với ' ip [uk°) 1
111 1 -
Y ằ71+Í72
Hiển nhiên, từ (2.34) và (2.35) ta tìm được k0 G N sao cho
If (uk + 1) < ———If (uk) , VA; > k0. Vl+
12
Dùng phương pháp quy nạp, ta có (\ k-k0
——— )ip (uk°) , VA; > A:0. Vi + V2)
77l||wfe - wfc+1||2 < (uk) < (---^^ ip (ukữ) , \/k > k0.
\ V l + V 2 /
Do đó
Vi V V Vi + V2 Vì vậy, với mỗi m e N* := N\ {0}, ta có
uk _ wfc+m|| < ||ufc _ ufc+l|| + ||ufc+l _ uk+2 II + _ + ||ufc+m-l _ uk+m
j - k 0
^—>/c + 771 — 1 Ị Ị
7 / 1 ^j=k V V + ^ 7 2 .
' < f { u k o ) ( I m y k o ì Ụ m + m )
V i \V V1 + V2) 1 - , / ^
V Vi+m Vì ^ € (0,1), {wfc} là dãy Cauchy và hội tụ theo chuẩn tới u* €
Do Định lý 2.3, ta cú u* € ằSo/ (if, F). Trong (2.39), cho 777, —>• 00 ta được bất đẳng thức (2.38) với mọi k > k0. Lấy căn bậc k hai vế của (2.38), ta được
V1+V2
J Cho k —> 00, ta được
lim sup \\uk — w*|| ^ < 1,
f c ->00 Y 771 + 772
nghĩa là, {wfe} hội tụ tới u* với tốc độ R tuyến tính.
Nếu giả thiết chính quy Tseng vi phạm thì dãy lặp {wfc} có thể không hội tụ theo chuẩn tới bất kì nghiệm nào của VI (K, F) với tốc độ hội tụ R - tuyến tớnh. Vớ dụ sau sẽ làm rừ nhận xột này.
Ví dụ 2.6. Xét bài toán VI (K, F) với K = [0,1] c R và F (u) = u2, Vm ễ M.
Khi đó, F liên tục Lipschitz trên K với hằng số Lipschitz L — 2, đơn điệu trên K và Sol (K, F) = {0}. Lưu ý, Vw G if, ta có
Kết hợp với (2.34), ta được
4 8
d (lí, (So/ (K: F)) = u và IIu — PK (u — F (lí)) II = \\u — u (1 — w)ỊỊ = u2.
Do đó, ta không thể tìm được bất kì cặp {77, ố} của số thực dương mà (2.23) đúng với mọi u ẽ K thỏa mãn (2.24). Đây là phần của bài toán VI (K, F) không thỏa mãn giả thiết chính quy Tseng. Chọn u° — 1 G K và O L fc = I/4 ẽ ^0, V2)’ ^ Dãy lặp {u k} trong (2.1) được cho bởi
uk + 1 = PK (uk - akF (PK (uk - akF (■uk))))
= PK (u‘ - (V4) F (pK (ô‘ - (1/4) (ô‘)2)))
= PK [uk - (1/4) - (V4) (“l)2)2)
= - (V4) ((“*) + (Vie) (“*)“ - (V2) (ô‘)3)
= - (>4) (ô*)‘ + (Vs) (ô*)* - (V4) (ô*)* + ô*.
Sử dụng phép quy nạp, ta chứng minh
uk > —, Vk e N. (2.40)
/c + 1
Vì uữ = 1 nên (2.40) đúng với k = 0. Giả sử (2.40) đúng khi k = m, ta chứng minh um + l > ---.
m + 2 Xét hàm
f(u) = - (V64) u4 + (l/8) u3 - (V4) u2 + u, Il G [0,1].
Ta có /' (lí) = — ^Vlô) u 3 (^s) u 2 ~ (^/2) 1 > 0 với mọi u G [0,1].
Do vậy, / (u) là hàm tăng trên đoạn [0,1]. Vì um > —-—, theo giả thiết m + 1
Kết hợp với (2.34), ta được
quy nạp, ta có
^m+1 = - (V64) K")4 + (Vs) K")3 - (V4) (^m)2 +
= f(um)
>fr 1
m + 1 1 1 1 1
64 (m + l)4 8 (m + l)3 4(777, + l)2 771 + 1
1 / 1 \ 1 1 8(m + l)3 V8 (m + 1)/
(m 4- 1) (4m + 4) + m + 1
1 1
(m + 1) (m + 2) m + 1 1
m + 2
Do vậy, (2.40) được chứng minh nên ta có lim sup IIuk II ^ > lim sup [ — - — ] k—>00 k—ỡ 00 vô + 1/
Vì vậy, mặc dù {wfc} hội tụ tới nghiệm duy nhất của VI (K,F) nhưng tốc độ hội tụ không R - tuyến tính.