3 Một số phương pháp dạng CQ giải bài toán chấp nhận tách
3.3 Thuật toán CQ lai ghép và sự hội tụ mạnh
Sử dụng kĩ thuật lai ghép, các tác giả P.K. Anh, N.T. Vinh và V.T. Dung đã đề xuất một thuật toán hội tụ mạnh gọi là "Thuật toán dạngCQlai ghép".
Thuật toán 2. (Thuật toán dạngCQlai ghép)
Bước 0.Chọn x0 ∈ H1 và đặtk := 0. Chọn một dãy số dương {βk}thỏa mãn điều kiện: ∞ ∑ k=0 βk = +∞, ∑∞ k=0 β2k <+∞. (3.3.1) Bước 1.Từxk, ta tính ηk = max{1,k5f(xk)k}, λk = βk ηk và yk = PC(xk−λk5f(xk)).
Bước 2. Nếu yk = xk, thì dừng lại. Nếu khơng thì đặtk := k+1 và chuyển sang Bước 3. Bước 3.Tính xk+1 = PHK∩WK(x0), (3.3.2) trong đó ( Hk = {z ∈ H1 :kyk−zk2 ≤ kxk−zk2−4λk(1− kAk2 λk)f(xk)}, Wk = {z ∈ H1 :Dxk−z,x0−xkE ≥0}.
Nhận xét 3.3.1. Dễ thấy, Hk và Wk là các nửa khơng gian. Do đó, ta có thể tính xk+1
trong(3.3.2)bằng một cơng thức hiện. Thật vậy, bằng lí luận tương tự như trong [13], ta có thể viết lạiHk dưới dạng như sau
Hk = {z ∈ H1 :kyk−zk2 ≤ kxk −zk2−4λk(1− kAk2λk)f(xk)} = {z ∈ H1 :Dvk,z−zkE ≤ −4λk(1− kAk2λk)f(xk)}, (3.3.3) trong đózk = 1 2(y k+xk)vàvk = 2(xk−yk). NếuPHk(x0)∈Wk, ta có xk+1 = PHk∩Wk(x0) = PHk(x0) = x0−max{0, 4λk(1− kAk2 λk)f(xk) +Dvk,z−zkE kvkk2 }vk. NếuPHk(x0)∈/ Wk, ta có xk+1 = x0+λ1vk +λ2(x0−xk),
trong đó(λ1,λ2)là nghiệm của hệ phương trình tuyến tính gồm hai phương trình, hai ẩn sau λ1kvkk2+λ2Dvk,x0−xkE =−Dx0−zk,vkE−4λk(1− kAk2 λk)f(xk) λ1 D vk,x0−xkE+λ2kx0−xkk2 = −kx0−xkk2.
Mệnh đề 3.3.1. ([3]). Dãy {xk} sinh bởi Thuật tốn 2 là hồn tồn xác định vàΓ ⊂ Hk∩Wk.
Chứng minh. Dễ thấy rằng, Wk là lồi, đóng với mọi k ≥ 0. Từ (3.3.3), với mọi
k ≥ 0, bất đẳng thứcDvk,z−zkE ≤ −4λk(1− kAk2
λk)f(xk)là affine tạiz, do đó Hk là lồi. Hơn nữa, rõ ràngHk là đóng.
Tiếp theo, ta chỉ ra rằng Γ ⊂ Hk với mọik ≥ 0. Lập luận tương tự như trong
chứng minh của Định lý3.2.1, ta có
Do đó,z ∈ Hk với mọi k ≥0. Suy ra,Γ ⊂ Hk với mọik ≥ 0.
Bây giờ, để chứng minh Γ ⊂ Hk ∩Wk với mọi k ≥ 0, ta chỉ cần chứng minh
Γ ⊂ Wk với mọi k ≥ 0 là đủ. Ta chứng minh điều này bằng phương pháp quy nạp.
Với k = 0, ta có Γ ⊂ H1 = W0. Giả sử rằng Γ ⊂ Wk với k ≥ 0. Ta sẽ chứng minhΓ ⊂ Wk+1 vớik ≥ 0. Doxk+1là hình chiếu của x0lên Hk∩Wk, ta có
D
xk+1−z,x0−xk+1E ≤ 0, ∀z ∈ Hk∩Wk. (3.3.4)
Do Γ ⊂ Hk và theo giả thiết quy nạp Γ ⊂ Wk, nên ta có Γ ⊂ Hk ∩Wk. Suy ra, với mọiz ∈ Γ ta có bất đẳng thức(3.3.4). Kết hợp với định nghĩaWk+1, ta được Γ ⊂ Wk+1.
Vậy ta cóΓ ⊂ Hk∩Wk với mọik ≥ 0.
Mệnh đề 3.3.2. ([3]). Dãy{xk}là bị chặn.
Chứng minh. DoΓlà tập con lồi, đóng, khác rỗng củaC, nên tồn tại duy nhất một
phần tửz0 ∈Γsao cho z0 = PΓ(x0). Từxk+1 = PHk∩Wkx0, ta có
kxk+1−x0 ≤ kz−x0k, ∀z ∈ Hk∩Wk.
Vìz0 ∈ Γ ⊂ HK∩Wk, nên ta có
kxk+1−x0 ≤ kz0−x0k, ∀k ≥ 0. (3.3.5)
Điều này chứng tỏ rằng{xk}là bị chặn.
Định lý sau khẳng định sự hội tụ của Thuật toán 2.
Định lý 3.3.1. ([3]). Dãy{xk}tạo bởi Thuật toán 2 hội tụ mạnh đến một phần tử của
Γ.
Chứng minh. Doxk = PWkx0 vàxk+1 = PHk∩Wk(x0), nên ta có
xk+1 ∈ Wk,
Kết hợp điều này với Mệnh đề3.3.2, ta suy ra{kxk −x0k}là dãy khơng giảm và bị chặn. Do đó lim
k→∞kx
k −x0k tồn tại. Thêm vào đó, từxk = PWkx0 và xk+1 ∈ Wk, ta có D xk+1−xk,xk −x0E ≥ 0, k ≥ 0. Chú ý rằng 0 ≤ kxk+1−xkk2 = k(xk+1−x0)−(xk−x0)k2 = kxk+1−x0k2+kxk−x0k2−2Dxk+1−x0,xk−x0E = kxk+1−x0k2+kxk−x0k2−2 D xk+1−xk+xk−x0,xk−x0E = kxk+1−x0k2− kxk−x0k2−2Dxk+1−xk,xk −x0E ≤ kxk+1−x0k2− kxk−x0k2.
Từ bất đẳng thức trên và sự tồn tại của lim k→∞kx k−x0k, ta có lim k→∞kx k+1−xkk= 0. (3.3.6) Mặt khác, doxk+1 ∈ Hk, nên ta có kyk−xk+1k2 ≤ kxk−xk+1k2−4λk(1− kAk2λk)f(xk). (3.3.7) Từ(3.3.1),(3.3.6)và(3.3.7)ta suy ra lim k→∞ky k−xk+1k= lim k→∞ky k −xkk= 0. (3.3.8) Phần còn lại, ta chứng minh rằngωw(xk)⊂ Γ vàxk → p = PΓx0.
Lấy x ∈ ωw(xk) bất kì. Do {xk} bị chặn, nên tồn tại một dãy con {xki} của
{xk}sao cho xki * x. Từ(3.3.8), ta suy rayki * x. Lập luận tương tự như chứng
minh Định lý3.2.1, ta đượcx ∈Γ. Do đó,ωw(xk)⊂ Γ. Từ(3.3.5)và Mệnh đề1.1.3ta suy raxk → z0 = PΓx0. Vậy định lý đã được chứng minh.
Nhận xét 3.3.2. Thuật tốn tìm nghiệm của SFP với sự hội tụ mạnh được xây dựng dựa vào kĩ thuật lai ghép- thực hiện phép chiếu lên giao của hai nửa không gian chứa tập nghiệmΓcủa SFP.
3.4. Thuật tốn CQ nới lỏng tự thích nghi
Trong phần này, chúng tơi giới thiệu một thuật tốnCQnới lỏng tự thích nghi giải SFP (1.2.1) với giả thiết tập conCvàQđược cho trước như sau
C ={x ∈ H1 :c(x)≤0} và Q= {y ∈ H2 : q(y)≤0},
trong đóc : H1 −→ R vàq : H2 −→ Rlà các hàm lồi, nửa liên tục dưới. Giả sử rằngcvàqlà các hàm khả dưới vi phân trênCvà Q, tương ứng. Tức là
∂c(x) = {z ∈ H1 : c(u)≥ c(x) +hu−x,zi, u ∈ H1} 6=∅ với mọix ∈ C và
∂q(y) = {w ∈ H2 :q(v)≥ q(y) +hv−y,wi, v ∈ H2} 6= ∅
với mọiy ∈ Q. Ta cũng giả sử rằng∂cvà∂qlà các toán tử bị chặn trên các tập bị chặn. Giả thiết này đảm bảo rằng nếu{xn}là dãy bị chặn trong H1 (tương ứng,
H2) và {x∗n} là dãy khác trong H1 (tương ứng, H2) sao cho x∗n ∈ ∂c(xn) (tương ứng,x∗n ∈ ∂q(xn)) với mỗin, thì{x∗n}bị chặn. Đặt Ck = {x ∈ H1 : c(xk)≤ Dξk,xk−xE}, (3.4.1) trong đóξk ∈ ∂c(xk), và Qk ={y ∈ H2 : q(Axk)≤ Dζk,Axk−yE}, (3.4.2) trong đóζk ∈ ∂q(Axk).
Dễ thấy Ck và Qk là các nửa không gian, và dễ dàng kiểm tra rằngCk ⊃ C và
Qk ⊃ Qvới mọik ≥0. Bây giờ, ta định nghĩa
fk(x) := 1
2k(I−PQk)Axk2, k ≥ 0
trong đóQk được cho trong (3.4.2). Ta có
5fk(x) = A∗(I−PQ
Bây giờ, ta sẽ trình bày thuật tốnCQnới lỏng cho SFP (1.2.1).
Thuật toán 3. (Thuật toán CQ nới lỏng tự thích nghi)
Bước 0.Chọnx0 ∈ H1và đặtk := 0. Chọn dãy số dương{βk}thỏa mãn điều kiện lim k→∞βk =0, ∞ ∑ k=0 βk = +∞. (3.4.3) Bước 1.Từxk, tính ηk = max{1,k5f(xk)k}, λk = βk ηk và xk+1 = PCk(xk −λk5fk(xk)). (3.4.4)
Bước 2.Nếu xk+1 = xk, thì dừng lại. Nếu khơng thì đặtk :=k+1và quay lại Bước 1.
Mệnh đề sau khá hữu ích khi xét sự hội tụ của Thuật tốn 3.
Mệnh đề 3.4.1. ([3]). Nếu xk+1 = xk, thìxk ∈ Γ.
Chứng minh. Nếuxk+1 = xk, thì từ (3.4.4) ta có
xk = PCk(xk−λk5fk(xk)).
Do đó, ta thu đượcxk ∈ Ck và Axk ∈ Qk. Kết hợp điều này cùng với (3.4.1) và (3.4.2) ta cóc(xk)≤0và q(Axk) ≤0. Suy ra,xk ∈ Cvà Axk ∈ Q.
Vậy định lý đã được chứng minh.
Sự hội tụ của Thuật toán 3 được khẳng định trong định lý dưới đây.
Định lý 3.4.1. ([3]). Cho{xk}là dãy tạo bởi Thuật tốn 3. Khi đó, tồn tại dãy con{xkl}
của {xk}, hội tụ yếu đến x ∈ Γ. Hơn nữa, nếu H1 là khơng gian hữu hạn chiều, thì
lim k→∞x
Chứng minh. Bằng cách lập luận tương tự như chứng minh Mệnh đề3.2.2và thay thế f,C vàQbằng fk,Ck vàQk, tương ứng, với mỗiz ∈ Γta có
kxk+1−zk2 ≤ kxk−zk2− 1 2kx
k−xk+1k2−4λk(1− kAk2λk)fk(xk).
Lập luận tương tự như trong chứng minh Định lý3.2.1ta chỉ ra được{xk}là dãy đơn điệu Fejér đối vớiΓ. Do đó, giới hạn lim
k→∞kx k −zktồn tại và lim k→∞kx k−xk+1k= 0, (3.4.5) và lim inf k→∞ fk(x k) = 0 ⇐⇒lim inf k→∞ k(I−PQk)Axkk2 = 0.
Lấy{xkl}là dãy con của{xk}, sao cho
lim inf
k→∞ k(I−PQk)Axkk2 = lim inf
l→∞ k(I−PQkl)Axklk2 =0. (3.4.6) Do {xkl} bị chặn, nên tồn tại dãy con {xklm} của {xkl} sao cho xklm * x.
Không mất tổng quát, ta có thể giả sử rằngxkl * x. Do PQ
klAxkl ∈ Qkl, ta có q(Axkl)≤ Dζkl,Axkl −PQ klAxkl E , (3.4.7) trong đóζkl ∈ ∂q(Axkl).
Từ giả thiết tính bị chặn của ζk và (3.4.6), (3.4.7), ta có
q(Axkl) ≤ kζkkkAxkl −PQ
klAxklk →0. (3.4.8) Từ tính nửa liên tục dưới yếu của hàm lồi q(x) và do xkl * x, kết hợp với
(3.4.8), ta có
q(Ax) ≤lim inf l→∞ q(Ax
kl)≤ 0,
điều này nghĩa làAx ∈Q.
Hơn nữa, từ (3.4.4) ta cóxkl+1 ∈ Ckl và từ định nghĩaCkl, ta suy ra
trong đóξkl ∈ ∂c(xkl).
Do tính bị chặn củaξkl và (3.4.5), nên ta có
c(xkl)≤ kξklkkxkl−xkl+1k →0,
khi l → ∞. Tương tự, ta thu được c(x) ≤ 0, nghĩa là x ∈ C. Do đó, ta suy ra xkl * x ∈ Γ.
Hơn nữa, nếu H1là khơng gian hữu hạn chiều, thì ta có ngay
lim k→∞kx
kl −xk= 0.
Thêm nữa, ta đã có lim k→∞kx
k−xktồn tại. Do đó, ta suy ra
lim k→∞kx
k−xk= 0.
Vậy định lý đã đươc chứng minh.
3.5. Nhận xét
Các phương pháp một lần chiếu dạng CQ được xây dựng để giải trực tiếp bài toán chấp nhận tách. Cả ba phương pháp dạng CQ được trình bày ở trên đều có tính "tự thích nghi", nghĩa là độ dài bước λk được tính tốn tại mỗi bước. Ta có thể thấy một số ưu điểm và nhược điểm của các phương pháp dạng CQ như sau:
1. Ưu điểm:
• Ta có sự hội tụ của các thuật tốn mà khơng cần tính (ước lượng )kAk.
• Ta chỉ cần thực hiện một phép chiếu lên C và một phép chiếu lên Q, do đó khối lượng tính tốn sẽ giảm.
2. Nhược điểm:
• Ta cần phải tính độ dài bước λk tại mỗi vịng lặp.
Kết luận
Trong luận văn này, tơi đã trình bày một số phương pháp chiếu gradient giải bài tốn chấp nhận tách. Cụ thể, luận văn được trình bày rõ ràng trong 3 chương.
Chương 1. Trình bày kiến thức chuẩn bị liên quan đến phép chiếu trực giao và các tính chất của phép chiếu trực giao, bài tốn chấp nhận tách, bài toán bất đẳng thức biến phân, bổ đề về nghiệm của bài tốn chấp nhận tách.
Chương 2.Trình bày một số phương pháp đạo hàm tăng cường giải bài toán chấp nhận tách bao gồm: phương pháp đạo hàm tăng cường tìm nghiệm của SFP, phương pháp đạo hàm tăng cường nới lỏng tìm nghiệm có chuẩn nhỏ nhất của SFP và phương pháp đạo hàm tăng cường kết hợp với phép lặp Mann tìm nghiệm của SFP. Một ứng dụng của phương pháp đạo hàm tăng cường nới lỏng để giải bài toán điều khiển tối ưu tuyến tính- tồn phương rời rạc cũng được xem xét.
Chương 3. Trình bày lại một số phương pháp dạng CQ giải bài toán chấp nhận tách, như: thuật tốn CQ gốc của Byrne, thuật tốn CQ tự thích nghi, thuật toán CQ lai ghép và thuật toán CQ nới lỏng tự thích nghi.
Trong tương lai tơi dự định sẽ nghiên cứu một số thuật tốn một lần chiếu kiểu Malitsky cho bài toán chấp nhận tách.
Tài liệu tham khảo
[1] Andrzej Cegielski, Iterative methods for fixed point problems in Hilbert space,
Springer.
[2] Anh, P.K., Anh, T.V., Muu, L.D., On bilevel split pseudomonotone variational inequality problems with applications, Acta Mathematica Vietnamica, Volume
41, Number 2, 2016.
[3] Anh, P.K., Vinh, N.T., Dung, V.T., A new self- adaptive CQ algorithm with an application to the LASSO problem, Journal of Fixed Point Theory and Applica-
tions (2018), DOI:10.1007/s1 1784-018-0620-8.
[4] Byrne, C., Iterative oblique projection onto convex subsets and the split feasibility problem, Inverse Problems 18 (2002) 441-453.
[5] Byrne, C., A unified treatment of some iterative algorithms in signal processing and image reconstruction, Invese Problems 20 (2004) 1261-1266.
[6] Ceng, L.C., Ansari, Q.H, Yao, J.C., An extragradient method for solving split feasibility and fixed point problems, Computers and Mathematics with Appli-
cations, Volume 64, Issue 4, August 2012, Pages 633-642.
[7] Ceng, L.C., Ansari, Q.H., Yao, J.C., Relaxed extragradient methods for finding minimum-solution of the split feasibility problem, Nonlinear Analysis: Theory,
Methods and Applications,Volume 75, Issue 4, March 2012, Pages 2116- 2125.
[8] Censor, Y., Elfving, T.,A multiprojection algorithm using Bregman projections in a product space, Numer, Algorithms 8 (1994) 221-239.
[9] Korpelevich, G.M., An extragradient method for finding saddle points and for other problems, Ekonomika Mat. Metody 12 (1976) 747-756.
[10] López, G., Martín- Márquez, V., Wang, F., Xu, H.K., Solving the split feasi- bility problem without prior knowledge of matrix norms, Inverse Probl. 28, 085004 (2012).
[11] Nadezhkina, N., Takahashi, W.,Weak convergence theorem by an extragradient method for nonexpansive mappings and monotone mappings, J. Optim. Theory
Appl. 128 (2006) 191-201.
[12] Opial. Z.,Weak convergence of the sequence of successive approximations for non- expansive mapping, Bull. Amer. Math. Soc. 73 (1967) 591-597.
[13] Solodov, M.V., Svaiter, B.F.,Forcing strong convergence of proximal point itera- tions in Hilbert space, Math. Progr. 87 (2000) 189-202.
[14] Tan, K.K., Xu, H.K.,Approximating fixed points of nonexpensive mappings by the Ishikawa iteration process, J. Math. Anal. Appl. 178 (1993) 301-308.
[15] Xu, H.K.,Iterative methods for the split feasibility problem in infinite-dimensional Hilbert space, Inverse Problems 26 (2010) 105018. 17 pp.