Thuật toán Douglas-Rachford
2.2 Phương pháp Douglas-Rachford quán tính
Bổ đề 2.4. ChoD ⊆ H là tập không rỗng, lồi và đóng,T :D →H là ánh xạ không giãn và cho(xn)n∈Nlà một dãy thuộcD vàx ∈ H sao choxn * x
vàT xn −xn →0khi n →+∞.Khi đó x∈ F ixT.
Tổng song song của hai toán tử A, B : H ⇒ H được xác định bởi
AB : H ⇒ H , AB = (A−1 + B−1)−1. Nếu AvàB đơn điệu, khi đó chúng ta có đặc trưng của tập không điểm, của tổng đó.
Zer(A+B) =JγB(F ix RγARγB) ∀γ > 0. (2.13) Kết quả sau đây là một bổ đề trực tiếp và được sử dụng trong chứng minh sự hội tụ của thuật toán tách quán tính Douglas - Rachford.
Bổ đề 2.5. Cho A, B : H ⇒ H là các toán tử đơn điệu cực đại và dãy
(xn, un)n∈N ∈ GrA,(yn, vn)n∈N ∈ GrB sao cho xn * x, un * u, yn * y, vn * v, un + vn → 0và xn − yn → 0khin → +∞. Khi đó x = y ∈ Zer(A+ B),(x, u) ∈ GrA và(y, v) ∈ GrB.
Chúng ta khép lại mục này với hai kết quả hội tụ mà có tính quyết định cho chứng minh các kết quả chính trong phần sau
Bổ đề 2.6. Cho(ϕn)n∈N,(δn)n∈N và(αn)n∈N là các dãy thuộc[0; +∞) sao cho ϕn+1 ≤ ϕn +αn(ϕn −ϕn−1) +δn với mọi n ≥ 1, P
n∈N
δn < +∞ và tồn tại một số thựcα với0 ≤ αn ≤ α <1với mọi n ∈ N.Khi đó
(i) Pn≥1[ϕn −ϕn−1]+ < +∞, ở đó [t]+ = max{t,0};
(ii) Tồn tại ϕ∗ ∈ [0; +∞) sao cho limn→+∞ϕn = ϕ∗.
Cuối cùng, chúng ta lấy lại kết quả nổi tiếng về sự hội tụ yếu trong không gian Hilbert
Bổ đề 2.7. ChoC là một tập không rỗng củaH và(xn)n∈Nlà một dãy trong
H sao cho thỏa mãn hai điều kiện sau: (a) Với mọix ∈ C, lim
n→+∞kxn −xktồn tại;
(b) Mọi dãy sắp thứ tự của (xn)n∈N hội tụ đếnC.
Khi đó,(xn)n∈N hội tụ yếu tới một điểm thuộcC.
Định lí 2.2. Cho M là một tập con đóng khác rỗng và affine của H và
T : M →M là một toán tử không giãn sao cho F ixT 6= ∅.Ta xét sơ đồ lặp sau
xn+1 = xn +αn(xn −xn−1) +λn[T(xn +αn(xn −xn−1))−xn
trong đó x0, x1 được chọn tùy ý trong M,(αn)n≥1 là không giảm vớiα1 = 0
và0≤ αn ≤ α < 1với mọi n≥ 1vàλ, σ, δ > 0sao cho
δ >
α2(1 +α) +ασ
1−α2 và0 < λ≤ λn ≤ δ −α[α(1 +α) +ασ+σ]
δ[1 +α(1 +α) +ασ +σ] ∀n≥ 1.
(2.15)
Khi đó các phát biểu sau là đúng: (i) P
n∈N
kxn+1 −xnk2 < +∞;
(ii) (xn)n∈N hội tụ yếu tới một điểm trong F ixT.
Chứng minh. Chú ý rằng, do sự lựa chọn của δ, λn ∈ (0,1) với mọi n ≥ 1.
Hơn nữa, ta nhận thấy rằng, vì M là affine, công thức lặp cung cấp một dãy trong M.
(i) Ta kí hiệu
wn := xn +αn(xn−xn−1)∀n ≥1.
Khi đó công thức lặp trở thành với mọi n ≥1 :
xn+1 = wn+ λn(T wn −wn). (2.16) Ta cố định một phần tử y ∈ F ixT và n≥ 1.
Ta có
kαx+ (1−α)yk2 +α(1−α)kx−yk2
= αkxk2 + (1−α)kyk2, ∀α ∈ R, ∀(x, y) ∈ H ×H .
Kết hợp với tính không giãn của T ta có
kxn+1−yk2 = (1−λn)kwn−yk2+λnkT wn−T yk2−λn(1−λn)kT wn−wnk2 ≤ kwn −yk2 −λn(1−λn)kT wn −wnk2. (2.17) Suy ra
= (1 +αn)kxn −yk −αnkxn−1 −y)k
+αn(1 +αn)kxn−xn−1k2,
do đó theo(2.17)ta thu được
kxn+1 −yk2 −(1 +αn)kxn −yk2 +αnkxn−1 −y)k2 ≤ −λn(1−λn)kT wn −wnk2 +αn(1−αn)kxn −xn−1)k2 (2.18) Hơn nữa, ta có kT wn−wnk2 = k 1 λn(xn+1−xn) + αn λn(xn−1 −xn)k2 = 1 λ2 n kxn+1 −xnk2 + αn2 λ2 n kxn−xn−1)k2 + 2 αn λ2 n hxn+1−xn, xn−1 −xni ≥ 1 λ2 n kxn+1−xnk2 + α2n λ2 n kxn −xn−1k2 + αn λ2 n (−ρnkxn+1 −xnk2 − 1 ρn kxn−xn−1k2), (2.19) trong đó ta kí hiệuρn = 1 αn +δλn. Từ (2.18)và(2.19) suy ra bất đẳng thức ( lưu ý rằngλn ∈ (0,1)) kxn+1 −yk2 −(1 +αn)kxn −yk2 +αnkxn−1 −y)k2 ≤ (1−λn)(αnρn −1) λn kxn+1−xnk2 +γnkxn−xn−1k2, (2.20) trong đó γn := αn(1 +αn) + αn(1−λn) 1−ρnαn ρnλn > 0. (2.21) Lại tính đến sự lựa chọn của ρn ta có
δ =
1−ρnαn ρnλn
và theo(2.21) suy ra
γn := αn(1 +αn) +αn(1−λn)δ ≤α(1 +α) +αδ ∀n≥ 1. (2.22) Sau đây ta sử dụng một vài kỹ thuật, kết hợp với thiết lập của chúng ta. Ta định nghĩa dãyϕn := kxn−yk2 với mọin ∈ Nvàµn := ϕn −αnϕn−1+
γnkxn −xn−1k2 với mọi n ≥ 1. Sử dụng tính đơn điệu của (αn)n≥1 và thực tếϕn ≥ 0với mọin∈ N,ta có µn+1−µn ≤ϕn+1−(1+αn)ϕn+αnϕn−1+γn+1kxn+1−xnk2−γnkxn−xn−1k2, mà theo(2.20) µn+1 −µn ≤ (1−λn)(αnρn −1) λn +γn+1 kxn−xn−1k2 ∀n≥ 1. (2.23) Ta đánh giá được (1−λn)(αnρn−1) λn + γn+1 ≤ −σ ∀n ≥ 1. (2.24) Chon ≥1. Thật vậy theo cách chọn củaρn, ta có
(1−λn)(αnρn−1) λn +γn+1 ≤ −σ ⇔ λn(γn+1 +σ) + (αnρn−1)(1−λn) ≤ 0 ⇔ λn(γn+1 +σ) + δλn(1−λn) αn +δλn ≤ 0 ⇔ (αn+δλn)(γn+1+σ) +δλn ≤δ. Do đó sử dụng (2.22)ta có (αn +δλn)(γn+1 +σ) +δλn ≤ (α+δλn)(α(1 +α) +αδ+ σ) +δλn ≤δ,
trong đó bất đẳng thức cuối suy ra bằng cách tính đến các cận trên xét với (λn)n≥1 trong (2.15).
Do đó đánh giá trong (2.24) là đúng. Từ (2.23)và(2.24) ta thu được
µn+1−µn ≤ −σkxn+1 −xnk2 ∀n≥ 1. (2.25) Dãy (µn)n≥1 là không tăng và ràng buộc(αn)n≥1 suy ra
−αϕn−1 ≤ ϕn−αϕn−1 ≤µn ≤ µ1 ∀n ≥ 1. (2.26) Ta thu được ϕn ≤ αnϕ0 +µ1 n−1 X k=0 αk ≤ αnϕ0 + µ1 1−α ∀n ≥1,
trong đó ta lưu ý rằng µ1 = α1 ≥ 0 (do α1 = 0). Kết hợp (2.25) và (2.26),
với∀n≥ 1ta có σ n X k=1 kxk+1−xkk2 ≤ µ1 −µn+1 ≤ µ1 +αϕn ≤ αn+1ϕ0 + µ1 1−α, Chứng tỏ rằng P n∈Nkxn+1−xnk2 < +∞.
(ii) Ta chứng minh điều này bằng cách sử dụng kết quả của Opial trong Bổ đề 2.7. Ta chứng minh ở trên rằng vớiy ∈ F ixT tùy ý, biểu thức (2.20) là đúng. Theo (i), (2.22) và Bổ đề 2.6 ta suy ra lim
n→+∞kxn − yk tồn tại. Mặt khác choxlà một điểm yếu của dãy(xn)n∈N,tức là có một dãy con (xnk)k∈N sao choxnk * x khi k → +∞. Theo (i) định nghĩa của wn và cận trên cho (αn)n≥1, ta có(wnk) * xkhik →+∞.Theo (2.16)ta có
kT wn −wnk = 1
λnkxn+1−wnk ≤ 1
≤ 1
λ(kxn+1 −xnk+αkxn −xn−1k). (2.27) Do đó theo (i) ta thu được T wnk −wnk → 0khi k → +∞. Áp dụng Bổ đề 2.4 cho dãy (wnk)k∈N ta suy ra x ∈ F ixT. Vì hai khẳng định của Bổ đề 2.7được kiểm chứng, suy ra (wnk)k∈N hội tụ yếu tới điểm trongF ixT.
Chú ý 2.1. Điều kiện α1 = 0 được sử dụng để chắc chắn µ1 ≥ 0, mà cần trong chứng minh. Sự thay thế x0 = x1 trong trường hợp giả định α1 = 0 là không cần thiết.
Chú ý 2.2. Giả sử α = 0( bắt buộc αn = 0∀n ≥ 1), sơ đồ lặp trong định lý trước là tầm thường
xn+1 = xn+ λn(T xn−xn) ∀n ≥1 (2.28) Ta nhớ rằng sự hội tụ của sơ đồ lặp này có thể được chứng minh dưới giả thiết tổng quát hơn, cụ thể khi M là một tập đóng, khác rỗng và lồi
X
n∈N
λn(1−λn) = +∞.
Định lí 2.3. (Thuật toán tách Douglas - Rachford quán tính). Cho A, B :
H ⇒ H là toán tử đơn điệu cực đại sao cho (A+ B) 6= φ. Xét thuật toán lặp sau (∀n≥ 1) yn = JγB[xn+ αn(xn−xn−1)] zn = JγA[2yn −xn −αn(xn−xn−1)] xn+1 = xn+αn(xn−xn−1) +λn(zn−yn)
trong đó γ > 0, x0, x1 được chọn tùy ý trong H ,(αn)n≥1 không giảm với
α1 = 0 và0≤ αn ≤ α < 1với mọin ≥ 1vàλ, σ, δ sao cho
δ >
α2(1 +α) +ασ
1−α2 và0 < λ≤ λn ≤ 2
δ −α[α(1 +α) +ασ+σ]
Khi đó tồn tạix ∈ F ix(RγARγB) sao cho các phát biểu sau là đúng: (i) JγBx ∈ zer(A+B);
(ii) P
n∈Nkxn+1−xnk2 < +∞.
(iii) (xn)n∈N hội tụ yếu tới x; (iv) yn−zn → 0khi n→ +∞; (v) (yn)n≥1 hội tụ yếu tới JγBx; (vi) (zn)n≥1 hội tụ yếu tớiJγBx;
(vii) Nếu A hoặc B đơn điệu, khi đó (yn)n≥1 và (zn)n≥1 hội tụ mạnh tới điểm duy nhất trong zer(A+B).
Chứng minh. Ta lại sử dụng ký hiệuwn = xn+αn(xn−xn−1)với mọin ≥1.
Sơ đồ lặp trong phát biểu của định lý có thể được trình bày như sau với mọi
n≥ 1là xn+1 = wn +λn[JγA◦(2JγB −Id)wn −JγBwn] = wn +λn Id+RγA 2 ◦RγB wn − Id+RγB 2 wn = wn+ λn 2(T wn−wn), (2.29) trong đóT := RγA◦RγB : H → H là một toán tử không giãn. Từ (2.13)ta có zer(A+B) = JγA(F ixT),do đó ta có F ixT 6= φ. Áp dụng Định lý 2.2, tồn tại x ∈ F ixT sao cho (i)- (iii) đúng.
(iv) từ Định lý2.2và(2.29)suy razn−yn = 1
2(T wn−wn)với mọin ≥1.
(v) ta sẽ chứng minh rằng (yn)n≥1 bị chặn vàJγBx là điểm yếu duy nhất của(yn)n≥1.Từ đây suy ra điều sau bằng cách sử dụngJγB là không giãn, với mọi n≥ 1ta có
Vì(xn)n≤1 bị chặn bởi (iii) và (αn)n≥1 cũng bị chặn, nên dãy (yn)n≥1 cũng là dãy bị chặn.
Bây giờ choylà một điểm của dãy(yn)n≥1,tức là có một dãy con(ynk)k∈N sao choynk * y khik → +∞.Ta sử dụng ký hiệu
un := 2yn−wn−zn vàvn := wn −yn ∀n ≥1.
Từ định nghĩa suy ra
(zn, un) ∈ Gr(γA),(yn, vn) ∈ Gr(γB)vàun +vn = yn −zn,∀n ≥ 1.
(2.30) Hơn nữa, bởi (ii), (iii) và (iv) ta suy ra
znk * y, wnk * x, unk * y −xvà vnk * x−y khik → ∞.
Lại sử dụng (ii) và Bổ đề 2.5ta suy ra
y ∈ zer(γA+γB) = zer(A+B),(y, y −x) ∈ Gr(γA)
và(y, x−y) ∈ GrγB. Như một hệ quả,y = JγBx.
(vi) Suy ra từ (iv) và (v)
(vii) Ta chứng minh phát biểu trong trường hợpAlà đơn điệu đều, trường hợp khiB hoàn thành, điều kiện này tương tự. Ký hiệuy = JγBx.Tồn tại một hàm tăng φA : [0,+∞]→ [0,+∞]mà triệt tiêu tại 0.
γφA(kzn −yk) ≤ hzn−y, un −y +xi ∀n ≥1.
Hơn nữa, vì B đơn điệu ta có
0 ≤ hyn −y, vn −x+yi = hyn −y, yn −zn−un−x+yi ∀n≥ 1.
Lấy tổng hai biểu thức trên ta thu được
Vì zn − yn → 0 và wn * x khi n → +∞, từ bất đẳng thức trên ta có lim
n→+∞φA(kzn−yk) = 0,vì thế zn−y và do đóyn →y khin→ +∞.
Chú ý 2.3. Trong các trường hợp α = 0, bắt buộc αn = 0 ∀n ≥ 1, sơ đồ lặp trong Định lý2.3trở thành phương pháp Douglas - Rachford cổ điển.
(∀n≥ 1) yn = JγBxn zn = JγA(2yn−xn) xn+1 = xn+ λn(zn−yn) hội tụ trong đó xảy ra dưới giả thiếtP
n∈Nλn(1−λn) = +∞.
Chú ý 2.4. Trong trường hợpBx = 0 ∀x ∈ H ,sơ đồ lặp trong Định lý2.3 trở thành
xn+1 = λnJγA(xn+αn(xn−xn−1))+(1−λn)(xn+αn(xn−xn−1)) ∀n ≥1,
như thuật toán điểm xấp xỉ trong bối cảnh giải bài toán đơn điệu0∈ Ax.
Kết luận chương
Chương này đã trình bày phương pháp phân rã Douglas-Rachford tìm không điểm của bao hàm thức đơn điệu để chứng minh các dãy sinh bởi phương pháp này hội tụ yếu tới nghiệm của bài toán bao hàm thức.
Kết luận
Những vấn đề chính của luận văn
• Nhắc lại một số khái niệm và tính chất cơ bản của không gian Hilbert, đồng thời trình bày về cực trị của phiếm hàm lồi và thuật toán điểm gần kề tìm nghiệm bao hàm thức đơn điệu.
• Phần trọng tâm của luận văn là trình bày thuật toán Douglas-Rachford, chứng minh các dãy sinh bởi phương pháp này hội tụ yếu tới nghiệm của bài toán bao hàm thức và phương pháp Douglas-Rachford quán tính.
Mặc dù tác giả đã hết sức cố gắng và nghiêm túc trong quá trình học tập và tìm hiểu nhưng do thời gian có hạn và khả năng còn hạn chế nên chắc chắn luận văn này còn có nhiều thiếu sót. Tác giả rất mong nhận được nhiều ý kiến đóng góp của quý thầy giáo, cô giáo và bạn bè đồng nghiệp để luận văn được hoàn thiện hơn.