nới lỏng
2.1 Thuật toán CQ
Thuật toán CQ được giới thiệu bởi Byrne như sau. Bắt đầu với x0 ∈ C,
thuật toán bắt đầu từ dãy{xn} bằng cách lặp sau:
xn+1 = PC(xn−γAT(I −PQ)Axn), n = 0,1, ...,
ở đâyAT là ma trận chuyển vị của A vàγ ∈ 0, ϕ(A2TA)
vớiϕ(ATA) = kAk2
là bán kính phổ của ma trận ATA, nghĩa là giá trị lớn nhất của ATA.
Thuật toán CQ là thuật toán được sử dụng để giải bài toán (0.1). Thuật toán này lần đầu được giới thiệu trong [3] giả thiết tính nghịch đảo được của toán tử A và nâng lên lũy thừa với tính toán của A−1 và do vậy nó trở nên không thông dụng.
Bây giờ ta xét thuật toán CQ từ 2 hướng sau: Tối ưu hóa và điểm cố định. Từ hướng Tối ưu hóa, chú ýx∗ là nghiệm của (0.1) nếu và chỉ nếux∗ ∈ C
và Ax∗−PQAx∗ = 0. Ta xác định hàm f như sau: f (x) = 12Ax−PQAx 2 , x ∈ H1 := RN.
Xét bài toán cực tiểu lồi sau đây:
fmin := minf(x) x∈C = min x∈C 1 2 Ax−PQAx 2 . (2.1)
Ở đây x∗ là nghiệm của (0.1) nếu và chỉ nếu x∗ là nghiệm của bài toán cực tiểu (2.1) và fmin := 0.
Ứng dụng phương pháp hình chiếu gradient để giải (2.1). Đây là phương pháp được xuất phát bởi dãy {xn} qua công thức:
xn+1 = PC(I −γ∇f)xn, n ≥ 0,
trong đó γ > 0 là tham số được chọn và x0 ∈ H1 là giá trị ban đầu tùy ý. Từ gradient của f được cho bởi
∇f (x) = AT(I −PQ)Ax,
dưới đây ta phục hồi thuật toán CQ của Byrne [1,2] như sau:
xn+1 = PC(I −γAT(I −PQ)A)xn, n ≥ 0. (2.2)
Từ đó ta có thuật toán hình chiếu gradient từ bài toán cực tiểu lồi (2.1), và tìm được kết quả về tính hội tụ từ thuật toán CQ như sau.
Định lý 2.1. Nếu 0 < γ < 2
kAk2, thì dãy {xn} được bắt đầu từ thuật toán CQ (2.2) hội tụ tới nghiệm của bài toán (0.1).
Chứng minh. Xét bài toán cực tiểu (2.1). Từ
∇f (x) = AT(I −PQ)Ax,
thuật toán CQ (2.2) viết lại là 1 thuật toán hình chiếu gradient sau đây:
xn+1 = PC(xn−γ∇f(xn)), n = 0,1, ...
Từ I −PQ là thác triển ổn định, ta thấy ∇f thỏa mãn điều kiện liên tục Lipschitz:
k∇f (x)− ∇f (y)k ≤ ATkAk= kAk2 = ρ ATA.
Kết thúc của định lí được suy ra từ Định lí 1.8. Từ bài toán điểm bất động ta có công thức (0.1). Ta thấy Ax∗ ∈ Q nếu và chỉ nếu:
Đấy là một phương trình trong H2, thỏa mãn với mọi γ > 0, γAT(I −PQ)Ax∗ = 0,
và phương trình trong H1, phương trình điểm bất động
(I −γAT(I −PQ)A)x∗ = x∗.
Phía trái không cần ở trong C. Sử dụng hình chiếu và xét phương trình điểm bất động ta có
PC(I −γAT(I −PQ)A)x∗ = x∗. (2.3)
Mệnh đề 2.1. x∗ là nghiệm của (0.1) nếu và chỉ nếu x∗ là nghiệm của phương trình điểm bất động (2.3).
Chứng minh. Nếu x∗ là nghiệm của (0.1), thì nó là nghiệm của phương trình điểm bất động (2.3). Bây giờ ta giả sử x∗ là nghiệm của phương trình điểm bất động (2.3). Theo tính chất của hình chiếu, ta có
I −γAT(I −PQ)A)x∗ −x∗, z −x∗ ≤ 0, z ∈ C. Nói cách khác, AT(I −PQ)Ax∗, z −x∗ ≥0, z ∈ C. Từ đó, Ax∗−PQAx∗, Ax∗ −Az≤ 0, z ∈ C. Nói cách khác ta có, Ax∗ −PQAx∗, v −Ax∗≤ 0, v ∈ Q. Cộng 2 bất đẳng cuối cùng ta có Ax∗−PQAx∗, v−Az ≤0, v ∈ Q, z ∈ C. Đặt z = x∗ và v = PQAx∗ đảm bảo rằng Ax∗ = PQAx∗ ∈ Q.
Loại trừ nhau, ta đưa đến phương trình điểm bất động (2.3)
PC(I −γAT(I −PQ)A)x∗ = x∗.
Chú ý điều kiện tối ưu của bài toán cực tiểu
min x∈C 1 2 Ax−PQAx 2 .
x∗ ∈ C là nghiệm của bài toán cực tiểu nếu và chỉ nếu
γAT(I −PQ)Ax∗, x−x∗ ≥ 0, x ∈ C ∀γ > 0.
Điều này tương đương với phương trình điểm bất động (2.3):
PC(I −γAT(I −PQ)A)x∗ = x∗.
Từ đó nghiệm của (0.1) là tương đương với nghiệm của phương trình điểm bất động (2.3), như vậy ta có thể sử dụng thuật toán điểm bất động để giải (0.1).
Do đó Thuật toán CQ được phục hồi lại như sau.
Định lý 2.2. Nếu 0 < γ < 2
kAk2, thì dãy {xn} xuất phát bởi thuật toán CQ (2.2) hội tụ tới 1 nghiệm của (0.1).
Chứng minh. Đặt
T = PC(I −γAT(I −PQ)A).
Viết lại dãy {xn} xuất phát bởi thuật toán thuật toán CQ (2.2) như sau
xn+1 = T xn (n≥ 0)
hoặc
xn = Tnx0 (n ≥0).
Từ Định lí 1.7 ta chứng minh T - là trung bình. Đầu tiên ta phải chứng minh, AT(I −PQ)A là 1
kAk2 - ngược đơn điệu mạnh. Chú ý I −PQ thác triển ổn định và từ AT(I −PQ)Ax−AT(I −PQ)Ay ≤ A(I −PQ)Ax−A(I −PQ)Ay, ta suy ra AT(I −PQ)Ax−AT(I −PQ)Ay, x−y = (I −PQ)Ax−(I −PQ)Ay, Ax−Ay ≥ (I −PQ)Ax−(I −PQ)Ay 2
≥ 1 kAk2 (I −PQ)Ax−(I −PQ)Ay 2 . Trong đó AT(I −PQ)A là 1
kAk2 - ngược đơn điệu mạnh. Từ Mệnh đề 1.11 γAT(I −PQ)A là 1
γkAk2 - ngược đơn điệu mạnh, ngoài ra vì chọn
0 < γ < 2
kAk2, phần bù I − γAT(I − PQ)A là trung bình. Như vậy hợp của ánh xạ trung bình,
T = PC(I −γAT(I −PQ)A)
là trung bình.
2.2 Thuật toán CQ nới lỏng
Xét trường hợp đặc biệt sau gọi H1 = RN và H2 = RM :
C = {x ∈ H1 :c(x) ≤ 0}, Q = {y ∈ H2 : q(y) ≤0},
ở đây c và q là hàm lồi từ H1 và tương ứng H2 của R. Hàm c và q là khả vi dưới, giả thiết dưới vi phân
∂c(x) ={z ∈ H1 : c(u) ≥ c(x) +hu−x, zi, u ∈ H1} 6= ∅ ∀x ∈ C
và
∂q(y) ={ω ∈ H2 :q(v) ≥q(y) +hv−y, ωi, v ∈ H2} 6= ∅ ∀y ∈ Q.
Giả sử 0 < γ < 2
kAk2 và x0 ∈ H1. Định nghĩa 1 dãy {xn} bởi thuật toán lặp như sau
xn+1 = PCn(I −γA∗(I −PQn)A)xn, n≥ 0 (2.4)
ở đây Cn và Qn là tập lồi đóng được xây dựng như sau:
Cn = {x ∈ H1 : c(xn) +hξn, x−xni ≤ 0}
với ξn ∈ ∂c(xn),
và
với ηn ∈ ∂q(Axn).
Trong đó C ∈ Cn và Q ∈ Qn với ∀n. Chú ý Cn và Qn là 1 nửa không gian, và hình chiếu PCn và PQn có dạng đóng.
Định lý 2.3. Giả sử điều kiện của bài toán (0.1) là thích hợp. Thế thì, nếu tham số γ được chọn với 0 < γ < L2, dãy {xn} được bắt đầu bởi thuật toán (2.4) hội tụ tới nghiệm của (0.1).
Chứng minh. Nếu viết
Tn = PCn(I −γAT(I −PQn)A),
thì Tn là thác triển và Tnx∗ = x∗ với ∀x∗ ∈ Γ. (Gọi Γ là tập nghiệm của (0.1).) Sau đây, với mỗi x∗ ∈ Γ,
kxn+1 −x∗k = kTnxn−x∗k ≤ kxn−x∗k.
Từ đó, {kxn−x∗k} là dãy giảm, trường hợp đặc biệt tồn tại,
lim
n→∞{kxn −x∗k} ∀ x∗ ∈ Γ. (2.5)
Ta ước lượng chính xác trên kxn −x∗k như sau. Sử dụng thác triển của hình chiếu, ta có kxn+1 −x∗k2 ≤(I −γAT(I −PQn)A)xn−x∗ 2 = (xn−x∗)−γAT(I −PQ)Axn 2 = kxn−x∗k2+ γ2AT(I −PQn)Axn 2 −2γxn−x∗, AT(I −PQn)Axn ≤ kxn −x∗k2 +γ2kAk2(I −PQn)Axn 2 −2γAxn −Ax∗,(I −PQn)Axn. (2.6) Từ Ax∗ ∈ Q ⊂Qn, ta có (I −PQn)Axn, Ax∗ −PQnAxn ≤0. Kéo theo (I −PQn)Axn, Axn−Ax∗ = (I −PQn)Axn, Axn−PQnAxn
+(I −PQn)Axn, PQnxn −Ax∗ ≥ (I −PQn)Axn 2 . (2.7) Kết hợp (2.6) và (2.7) ta có kxn+1 −x∗k2 ≤ kxn −x∗k2 −γ(2−γkAk2)(I −PQn)Axn 2 .
Trong trường hợp đặc biệt,
lim n→∞ (I −PQn)Axn = 0. Tập hợp un = A∗(I −PQn)Axn → 0. Ta đi chứng minh: kxn+1−xnk → 0. (2.8)
Tiếp tục làm như sau ta được:
kxn+1 −x∗k2 = k(xn+1 −xn) + (xn−x∗)k2 = kxn+1−xnk2 +kxn−x∗k2 + 2hxn+1 −xn, xn−x∗i = kxn+1 −xnk2 +kxn−x∗k2 +2hxn+1−xn, xn−xn+1i+ 2hxn+1−xn, xn+1−x∗i. Từ đó kxn+1 −xnk2 = kxn −x∗k2 − kxn+1−x∗k2 + 2hxn+1−xn, xn+1 −x∗i. (2.9) Từ xn+1 = PCn(xn−γun), h(xn −γun)−xn+1, x−xn+1i ≤ 0, x ∈ Cn. Do x∗ ∈ Cn, hxn−xn+1, x∗ −xn+1i ≤ γhun, x∗ −xn+1i → 0. Do đó từ (2.9) ⇒ kxn+1 −xnk → 0.
Vì {xn} bị chặn, kéo theo dãy {ξn} bị chặn, tập hợp những điểm giới hạn của {xn} ω(xn) là khác rỗng.
Điều kiện cần: ω(xn) ⊂ Γ.
Thực vậy, giả thiết x∧ ∈ ω(xn) và xnj là 1 dãy con của {xn} hội tụ tới ∧x . Từ xnj+1 ∈ Cnj, ta thu được
c xnj+ξnj, xnj+1 −xnj ≤ 0.
Suy ra
c xnj ≤ −
ξnj, xnj+1 −xnj ≤ ξxnj+1 −xnj
ở đây ξ thỏa mãn kξnk ≤ ξ ∀n. Do tính liên tục của c, ta có (2.8).
c ∧
x = lim
j→∞c xnj ≤ 0.
Trong đó, xˆ∈ C.
Tiếp theo A∧x ∈ Q. Tập yn = Axn−PQnAxn → 0 giả sử η thỏa mãn
kηnk ≤ η ∀n. Thế thì, từ Axnj −ynj = PQ njAxnj ∈ Qnj, ta có q Axnj+ηnj,(Axnj −ynj)−Axnj≤ 0. Do đó, q Axnj ≤ ηnj, ynj≤ ηynj →0. Do tính liên tục của q và do Axnj → Ax,∧
nên ta đi đến kết luận
qAx∧ = lim
j→∞q Axnj ≤0.
Nghĩa là, Ax∧ ∈ Q.
Do x∧ ∈ Γ. Nên dãy {xn} hội tụ hoàn toàn, giả thiết x˜ là 1 điểm giới hạn khác của dãy {xn} và xmj là 1 dãy con của {xn} cũng hội tụ tới
˜
x, vậy suy ra x˜∈ Γ.
Chú ý từ (2.5) ta tiếp tục như sau:
lim n→∞kxn−xˆk2 = lim j→∞ xmj −x˜+ (˜x−xˆ) 2 = lim j→∞ xmj −x˜ 2 +kx˜−xˆk2 = lim j→∞ xmj −xˆ+ (ˆx−x˜) 2 +kx˜−xˆk2 = lim j→∞ xmj −xˆ 2 + 2kx˜−xˆk2 = lim n→∞kxn −xˆk2 + 2kx˜−xˆk2.
Suy ra x˜= ˆx. Từ đó, {xn} có đúng 1 điểm giới hạn và nhiều điểm hội tụ. Chú thích (2.4).
Thuật toán CQ nới lỏng (2.4) được giới thiệu trong [7] ở đây ta chứng minh bằng một cách. Có nhiều cách chứng minh đơn giản về tính hội tụ của nó bắt đầu từ Định lí 2.3.
KẾT LUẬN
Luận văn trình bày các khái niệm về tập lồi hàm lồi. Không gian Hilbert các ví dụ các tính chất của không gian Hilbert. Luận văn cũng đã trình bày các khái niệm về ánh xạ thác triển, ánh xạ trung bình là công cụ chủ yếu để chứng minh thuật toán CQ và thuật toán CQ nới lỏng để đưa thuật toán có nhiều ứng dụng thông dụng hơn.
Luận văn cũng đã trình bày cụ thể cách chứng minh về thuật toán CQ, thuật toán CQ nới lỏng và chứng minh tính hội tụ của thuật toán.
Do điều kiện thời gian và trình độ còn hạn chế, chắc chắn bản luận văn không thể tránh khỏi những thiếu sót. Tôi kính mong nhận được sự chỉ bảo tận tình của các thầy cô và đồng nghiệp để luận văn được hoàn thiện hơn. Tôi hy vọng được tiếp tục nghiên cứu đề tài trên trong thời gian tới.
TÀI LIỆU THAM KHẢO
[1] Đỗ Văn Lưu - Giải tích hàm - Nhà xuất bản khoa học và kĩ thuật Hà Nội -1999
[2] C. Byrne, Iterative oblique projection onto convex subsets and the split fea-splity problem, Inverse problems, 18 (2002), 441- 453.
[3] C. Byrne A unified treatment of some Iterative algorithms in signal pro- cessing and image reconstruction, Inverse problems, 20 (2004), 103-120. [4] Y. Censor and T. Elfving, A multiprojection algorithms using Bregman projection in a priduct space, Numer. Algorithms 8 (1994 ), 221-239.
[5] K. Goebel and W. A. Kirk, Topics in Metric Fixed Point Theory, Cam- bridge Studies in Advanced Mathematics, vol. 28, Cambridge University Press, 1990 .
[6] A. Ruszczynski (2006), Nonlinear optimization, Princeton University Press.
[7] B. Qu and N. Xiu, Anote on the CQ algorithms for the split feasibil- ity problem, Inverse problems 21 (2005), 1655 - 1665.
[8] Q. Yang, The relaxed CQ algorithms for solving the split feasibility prob- lem, Inverse problems 20 (2004), 1261 -1266.
[9] J. Zhao and Q. Yang, Several solution methods for the split feasibil- ity problem, Inverse problems 21 (2005), 1791 -1799.
[10] H. K. Xu, A variable Krasnosel skii-Mann algorithm and the multipple -set split feasibility problem, Inverse problems 22 (2006), 2021 -2034.