3 Phương pháp điểm gần kề giải bao hàm thức đơn điệu cực
3.2.1 Thuật toán điểm gần kề
Trong chương này, chúng ta trình bày thuật toán điểm gần kề để tìm nghiệm của bài toán 0 ∈ T(z) trong trường hợp T là toán tử đơn điệu cực đại.
Theo định lý Minty, với mỗi z ∈ H và ck > 0, tồn tại duy nhất u ∈ H sao cho
z ∈ (I +ckT)(u).
Khi đó, toán tử Pk = (I +ckT)−1 là đơn trị, xác định trên toàn bộ H và Pk
là toán tử không giãn, tức là
||Pk(z)−Pk(z0)|| ≤ ||z−z0||. (3.1)
Từ đây ta nhận thấy mặc dù T là ánh xạ đa trị đơn điệu cực đại nhưng ánh xạ Pk là đơn trị và không giãn trên H.
Bây giờ ta giả sử các giả thiết của định lý Minty được thỏa mãn, khi đó z
là điểm bất động của ánh xạ Pk , nghĩa là
z = Pk(z) = (I +ckT)−1(z)
khi và chỉ khi
z ∈ (I +ckT)(z) =z +ckT(z)
hay 0 ∈ ckT(z). Do đó z là không điểm của ánh xạ T.
Như vậy thay vì tìm không điểm của ánh xạ đa trị T ta đi tìm điểm bất động của ánh xạ không giãn Pk với ck > 0 và Pk được gọi là ánh xạ gần kề của T.
Giả sử T là toán tử đơn điệu cực đại, khi đó thuật toán điểm gần kề được trình bày như sau.
• Bước 1 : Chọn một dãy số dương {ck} ⊂ R thỏa mãn ck > c > 0
• Bước k : Xây dựng dãy điểm zk ⊂ H bằng cách : tại bước lặp thứ k ta tính zk+1 bởi công thức zk+1 = Pk(zk) = (I +ckT)−1(zk). (3.2) Chẳng hạn trong trường hợp T = ∂f ta có zk+1 = (I +ck∂f)−1(zk) khi và chỉ khi 1 ck(z k −zk+1) ∈ ∂f(zk+1).
Theo định nghĩa dưới vi phân hàm lồi ta có
h 1 ck (zk−zk+1), z −zk+1i ≤ f(z)−f(zk+1), ∀z ∈ H ⇔ f(zk+1) ≤f(z) + 1 ckhzk −zk+1, zk+1−zi, ∀z ∈ H Vì với mọi z, zk, zk+1 ∈ H ta có 2hzk−zk+1, zk+1 −zi = ||zk−z||2 − ||zk −zk+1||2 − ||zk+1 −z||2 nên f(zk+1) ≤f(z) + 1 2ck(||z −zk||2), ∀z ∈ H nghĩa là zk+1 = argmin z∈H φk(z) (3.3) với φk(z) =f(z) + 1 2ck||z −zk||2. (3.4) 3.2.2 Sự hội tụ
Martinet đã chứng minh được sự hội tụ của thuật toán điểm gần kề cho trường hợp ck = c và • Nếu T có dạng T(z) = ( T0(z) +NC(z) nếu z ∈ C ∅ nếu z /∈ C
trong đó C là tập bị chặn (để đảm bảo cho sự hội tụ yếu), zk+1 = Pk(zk)
• Nếu T = ∂f và các tập mức
M = {z ∈ H :f(z) ≤ α, α ∈ R}
là compact yếu, khi đó M là các tập bị chặn nên
f(zk) →f(z∞) =minf.
Sự hội tụ mạnh của thuật toán điểm gần kề với zk+1 = Pk(zk) xảy ra nếu
ck là bị chặn không dần tới 0 (tức là ck > c > 0,∀k) và toán tử T là đơn điệu mạnh (với hệ số α > 0), tức là
hz −z0, w−w0i ≥ α||z −z0||2 với w ∈ T(z), w0 ∈ T(z0),
hay T0 = T −αI là toán tử đơn điệu. Vì ánh xạ
Pk0 = (I +c0kT0)−1
là không giãn, với c0k > 0 bất kì lấy
c0k = ck(1 +αck)−1
ta có
Pk0[(1−αck(1 +αck)−1)I +ck(1 +αck)−1T]−1 = [(1 +αck)−1(I +ckT)]−1
hay
Pk(z) = Pk0((1 +αck)−1z), ∀z.
Khi đó tính chất không giãn của Pk0 trở thành
||Pk(z)−Pk(z0)|| ≤(1 +αck)−1||z−z0||, ∀z, z0 ∈ H.
Trong trường hợp nàyPk có duy nhất điểm bất độngz∞ thỏa mãn0 ∈ T(z∞). Ta có
||zk+1−z∞|| = ||Pk(zk)−Pk(z∞)|| ≤ (1 +αck)−1||zk−z∞||, ∀k
cho nên nếu ck ≥ c > 0 với mọik đủ lớn thì dãy zk hội tụ mạnh tới nghiệm
z∞ của bài toán theo tốc độ tuyến tính với hệ số (1 +αc)−1 < 1. Nếu ck → ∞
thì sự hội tụ là siêu tuyến tính, nghĩa là
lim
k→∞
||zk+1 −z∞|| ||zk −z∞|| = 0.
Nhưng giả thiết T là toán tử đơn điệu mạnh đã loại trừ một số ứng dụng quan trọng nhất như bài toán quy hoạch lồi, vì vậy việc khảo sát sự hội tụ mạnh dưới giả thiết yếu hơn là quan trọng.
Trong khi tính toán một điều rất khó thực hiện được ở thuật toán là việc tính chính xác điểm zk+1 = Pk(zk) cho nên người ta thay thế nó bởi một biểu thức thể hiện mối quan hệ lỏng hơn để thuận lợi cho việc tính toán. Do đó người ta đưa ra hai tiêu chuẩn sau.
||zk+1−Pk(zk)|| ≤ εk, ∞ X k=0 εk < ∞, (A) ||zk+1 −Pk(zk)|| ≤ δk||zk+1 −zk||, ∞ X k=0 δk < ∞. (B) Nếu ||zk+1 −Pk(zk)|| ≤ ckdist(0, Sk(zk+1)) với Sk(z) =T(z) + c−k1(z−zk)
thì các tính chất (A) và (B) lần lượt tương đương với các tính chất sau
dist(0, Sk(zk+1)) ≤ εk ck, ∞ X k=0 εk < ∞, (A0) dist(0, Sk(zk+1) ≤ δk ck||zk+1−zk||, ∞ X k=0 δk < ∞. (B0)
Khi đó thuật toán dưới đây sẽ thay thế việc tính chính xác điểm zk+1 bằng cách xấp xỉ với một sai số εk mà thuật toán vẫn đảm bảo được sự hội tụ.
• Bước 1 : Chọn một dãy số dương {ck} : ck > c > 0 và εk > 0 với mọi
k = 1,2,· · · sao cho P∞
k=1εk < +∞, lấy z0 ∈ H.
• Bước k (k = 0,1· · ·) : Chọn điểm zk+1 thỏa mãn (A) hoặc (B).
Cho H là không gian Hilbert thực, T : H → 2H là toán tử đơn điệu cực đại và Pk, Qk là các ánh xạ lần lượt xác định bởi
Khi đó
0∈ T(z) ⇔ Pk(z) = z ⇔ Qk(z) = 0. (3.6)
Để chứng minh định lý về sự hội tụ trong việc tìm nghiệm của bài toán bao hàm thức đơn điệu cực đại, chúng ta sử dụng các mệnh đề sau.
Mệnh đề 3.1. [10, Mệnh đề 1] Cho H là không gian Hilbert thực và các ánh xạ Pk, Qk xác định như trên, khi đó
(a) z = Pk(z) +Qk(z) và ck−1Qk(z) ∈ T(Pk(z)), ∀z ∈ H.
(b) hPk(z)−Pk(z0), Qk(z)−Qk(z0)i ≥ 0, ∀z, z0 ∈ H.
(c) ||Pk(z)−Pk(z0)||2 +||Qk(z)−Qk(z0)||2 ≤ ||z−z0||2, ∀z, z0 ∈ H.
Mệnh đề 3.2. [10, Mệnh đề 2] Giả sử với mỗi z˜∈ H và ρ ≥0, ta có
hz−z, w˜ i ≥ 0, ∀z, w với w ∈ T(z),||z−z˜|| ≥ρ (3.7)
Khi đó, tồn tại ít nhất một phần tử z thỏa mãn 0 ∈ T(z).
Định lý 3.1. Cho zk là một dãy bất kì tạo bởi thuật toán điểm gần kề theo tiêu chuẩn (A) hay (A0) với {ck} là dãy bị chặn không dần tới 0 (tức là
ck > c > 0,∀k). Giả sử zk bị chặn (điều này tương đương với việc tồn tại một nghiệm z để 0 ∈ T(z)).
Khi đó zk hội tụ yếu đến một điểm z∞ thỏa mãn 0 ∈ T(z∞) và
0 = lim
k→∞||Qk(zk)|| = lim
k→∞||zk+1 −zk||. (3.8) Chứng minh. Đầu tiên ta chứng minh điều kiện đủ để zk bị chặn.
(Điều kiện cần được suy ra từ phần cuối của việc chứng minh định lý). Giả sử z¯là một điểm thỏa mãn 0 ∈ T(¯z), ta có
||zk+1 −z¯|| −εk ≤ ||Pk(zk)−z¯|| = ||Pk(zk)−Pk(¯z)|| ≤ ||zk −z¯|| (3.9) suy ra ||zl −z¯|| ≤ ||z0 −z¯||+ l−1 X k=0 εk ≤ ||z0 −z¯||+ α, ∀l (3.10) do đó zk bị chặn.
Trong phần còn lại của chứng minh, ta giả sử zk là dãy bị chặn thỏa mãn (A). Lấy s > 0 sao cho
Khi đó zk có ít nhất một điểm tụ yếu là z∞,||z∞|| ≤ s.
Mục tiêu tiếp theo của chúng ta là chứng minh 0 ∈ T(z∞), trước tiên ta có thể lý luận cho trường hợp T−1(0) 6= ∅.
Xét toán tử đa trị T0 định nghĩa bởi
T0(z) =T(z) +∂h(z), ∀z ∈ H với h(z) = ( 0 nếu ||z|| ≤ 2s +∞ nếu ||z|| > 2s suy ra ∂h(z) = {0} nếu ||z|| < 2s {λz : λ ≥0} nếu ||z|| = 2s ∅ nếu ||z|| > 2s
Nhận thấy rằng ∂h là toán tử đơn điệu cực đại vì h là hàm lồi chính thường, nửa liên tục dưới và ∂h có miền hữu hiệu là
dom(∂h) = {z : ||z|| ≤ 2s}.
Hơn nữa
T0(z) = T(z) nếu ||z|| < 2s. (3.12)
Vì ||Pk(zk)|| < 2s,∀k (theo (3.11) và điều kiện (A)), trong khi theo Mệnh đề 3.1(a) c−k1(zk−Pk(zk)) ∈ T(Pk(zk)) nên ta có Pk(zk) ∈ domT ∩ intdom(∂h), ∀k, (3.13) Pk(zk) ∈ (I +ckT0)−1(zk), ∀k. (3.14) Theo (3.13) ta thấy rằng domT ∩intdom(∂h) 6= ∅
và T0 là tổng của toán tử đơn điệu cực đại T và ∂h nên nó là đơn điệu cực đại [11, Định lý 1].
Vì Pk0 = (I+ckT0)−1 là đơn trị và (3.14) tương đương với Pk(zk) = Pk0(zk)
với mọi k đủ lớn nên zk có thể được coi là dãy tạo bởi thuật toán điểm gần kề đối với T0, ta có domT0 là bị chặn nên (T0)−1(0) 6= ∅ (theo Mệnh đề 3.2).
Vì T0(z∞) =T(z∞) (theo (3.12)) nên ta có thể thay thế T bởiT0 mà không làm mất tính tổng quát trong việc chứng minh 0 ∈ T(z∞). Do đó chắc chắn tồn tại một phần tử z¯sao cho 0 ∈ T(¯z).
Áp dụng Mệnh đề 3.1(c) cho z = zk và z0 = ¯z ta được ||Pk(zk)−z¯||2 + ||Qk(zk)||2 ≤ ||zk −z¯||2, ∀k. (3.15) Vì ||Qk(zk)||2 − ||zk −z¯||2 +||zk+1 −z¯||2 ≤ ||zk+1 −z¯||2 − ||Pk(zk)−z¯||2 = hzk+1 −Pk(zk),(zk+1−z¯) + (Pk(zk)−z¯)i ≤ ||zk+1−Pk(zk)||.(||zk+1−z¯||+||zk −z¯||) nên ||Qk(zk)||2 ≤ ||zk −z¯||2 − ||zk+1−z¯||2 + 2εk(s+||z¯||). (3.16) Lại có ||zk+1−z¯|| ≤ ||Pk(zk)−z¯||+εk ≤ ||zk −z¯||+εk bởi vì P∞
k=0εk < ∞ tương đương với sự tồn tại giới hạn
lim
k→∞||zk −z¯|| = µ < ∞. (3.17) Lấy giới hạn hai vế của (3.16) ta được (3.8) vì
||Qk(zk)|| − ||(zk −zk+1) + (zk+1−Pk(zk))|| ≥ ||zk+1 −zk|| −εk.
Điều đó có nghĩa là
c−k1Qk(zk) →0 (3.18)
là hội tụ mạnh với ck là các số dương không dần tới 0. Theo Mệnh đề 3.1(a)
0≤ hz −Pk(zk), w−c−k1Qk(zk)i, ∀k nếu w ∈ T(z). (3.19)
Vì z∞ là điểm tụ yếu của zk và
||zk+1 −Pk(zk)|| → 0
nên nó cũng là điểm tụ yếu của Pk(zk) . Khi đó (3.18) và (3.19) trở thành
Điều này và do sự cực đại của T nên 0 ∈ T(z∞).
Tiếp theo ta chứng minh sự tồn tại của z∞ là duy nhất.
Giả sử có hai điểm z1∞ 6= z2∞ sao cho 0 ∈ T(zi∞) (∀i = 1,2). Ta thấy, để mỗi zi∞ thỏa mãn (3.17) phải có sự tồn tại của giới hạn
lim
k→∞||zk −zi∞|| = µi < ∞, ∀i = 1,2. (3.20) Ta có
||zk −z∞2 ||2 = ||zk −z1∞||2 + 2hzk −z1∞, z1∞−z2∞i+ ||z1∞ −z2∞||2,
và thấy rằng giới hạn của hzk −z1∞, z1∞−z2∞i cũng phải tồn tại và
2 lim
k→∞hzk−z1∞, z1∞−z2∞i = µ22 −µ21 − ||z1∞−z2∞||2.
Nhưng giới hạn này không thể hội tụ tới 0 vì z1∞ là điểm tụ yếu của zk , do đó
µ22 −µ21 = ||z1∞ −z2||2 > 0
Đổi vai trò của z1∞ và z2∞ và lý luận tương tự ta cũng có µ21 −µ22 > 0, điều này mâu thuẫn với tính chất của z∞.
Định lý được chứng minh.
Ta nói T−1 là Lipschitz liên tục tại 0 với hệ số α ≥ 0nếu tồn tại duy nhất
¯
z để 0∈ T(z) (tức là T−1(0) = {z¯}) và với mỗi r > 0 ta có
||z−z¯|| ≤α||w|| với z ∈ T−1(w) và ||w|| ≤ r. (3.21)
Định lý 3.2. Cho zk là dãy bất kì tạo bởi thuật toán điểm gần kề sử dụng tính chất (B) hay (B’) với {ck} không giảm (ck → c∞ ≤ ∞). Giả sử zk bị chặn và T−1 liên tục Lipschitz tại 0 với hệ số α, đặt
µk = α
(α2 +c2k)1/2 < 1.
Khi đó dãy zk hội tụ mạnh đến z¯ và z¯ là phần tử duy nhất để 0 ∈ T(z). Hơn nữa có một chỉ số ¯k sao cho
||zk+1 −z¯|| ≤ θk||zk −z¯||, ∀k ≥ ¯k (3.22)
với
1 > θk ≡ µk +δk
1−δk ≥ 0, ∀k ≥ ¯k, (3.23)
Chứng minh. Dãy zk bị chặn và thỏa mãn tính chất (A) với εk = δk||zk+1−zk|| do đó Định lý 3.1 được thỏa mãn. Ta có ||Qk(zk)|| = ||zk −Pk(zk)|| ≤ ||zk −zk+1||+ ||zk+1 −Pk(zk)||, sao cho ||c−k1Qk(zk)|| ≤ ck−1(1 +δk)||zk+1−zk||, ∀k, với ||zk−zk+1|| → 0. Chọn ˜k sao cho c−k1(1 +δk)||zk+1 −zk|| < r, ∀k ≥ ˜k (3.25) khi đó ||c−k1Qk(zk)|| ≤ r, ∀k ≥ ˜k. Mặt khác theo Mệnh đề 3.1(a) ta có Pk(zk) ∈ T−1(c−k1Qk(zk))
do đó điều kiện Lipschitz (3.21)được thỏa mãn với w = c−k1Qk(zk), z = Pk(zk)
và k đủ lớn, nghĩa là
||Pk(zk)−z¯|| ≤α||ck−1Qk(zk)||, ∀k ≥ ˜k. (3.26)
Áp dụng mệnh đề 3.1(c) và (3.6) đối với z = ¯z và z0 = zk ta được
||z¯−Pk(zk)||2 +||Qk(zk)||2 ≤ ||z¯−zk||2. khi đó (3.26) trở thành ||Pk(zk)−z¯||2 ≤[(α ck )2/(1 + (a ck )2)].||zk−z¯||2, hay ||Pk(zk)−z¯|| ≤µk||zk −z¯||,nếu k ≥ ¯k. (3.27) Mặt khác ||zk+1 −z¯|| ≤ ||zk+1−Pk(zk)||+ ||Pk(zk)−z¯||, mà theo (B) ta có ||zk+1 −Pk(zk)|| ≤ δk||zk+1 −zk|| ≤ δk||zk+1 −z¯||+δk||zk −z¯||
kết hợp với (3.27) ta có
||zk+1 −z¯|| ≤ δk||zk+1−z¯||+ µk||zk −z¯||+δk||zk −z¯||, với k ≥ ˜k.
Từ đó suy ra bất đẳng thức (3.22) đúng với ¯k ≥ k˜ và do đó (3.23) đúng với
1> µk → µ∞ và δk → 0.
Định lý 3.3. Cho zk là một dãy bất kì tạo bởi thuật toán điểm gần kề theo các tiêu chuẩn (A),(A0),(B) hay (B0) với {ck} bị chặn không dần tới 0. Giả sử zk bị chặn và tồn tại z¯sao cho 0∈ intT(¯z). Khi đó
z∞ = ¯z = Pk(zk), ∀k đủ lớn (3.28)
Do đó theo (A),(A0) ta có
||zk −z¯|| ≤ εk, ∀k đủ lớn (3.29)
trong khi theo (B),(B0) với ck →c∞ ≤ ∞ ta có (3.22) và (3.25) với
θk = δk
1−δk → 0.
Do đó trong trường hợp thuật toán điểm gần kề với zk+1 = Pk(zk) cho ta một dãy hội tụ tới z¯ sau một số hữu hạn bước lặp từ một điểm bắt đầu z0 bất kì. Chứng minh. Trước tiên ta chứng minh rằng T−1 là đơn trị và không đổi trên một lân cận của 0
T−1(w) = ¯z nếu ||w||< ε. (3.30)
Với ε > 0 ta chọn ||w|| < ε sao cho w ∈ intT(¯z).
Lấy z, w ∈ T(z) bất kì và w0 với ||w|| < ε, do tính chất đơn điệu của T ta có 0 ≤ hz −z, w¯ −w0i. Vì suphz−z, w¯ 0i ≤ hz−z, w¯ i với w ∈ T(z),||w0|| < ε sao cho ε||z−z¯|| ≤ ||z −z¯||.||w|| với w ∈ T(z). nên nếu z 6= ¯z thì ta có ||w|| ≥ ε,∀w ∈ T(z).
Mặt khác, nếu ||w| < ε và z ∈ T−1(w) thì z = ¯z, tức là (3.30) được chứng minh.
Gộp giả thiết của Định lý này và Định lý 3.1 cho ta ||c−1Qk(zk)|| → 0
trong Định lý 3.1.
Tuy nhiên theo Mệnh đề 3.1(a) ta có
Pk(zk) ∈ T−1(c−k1Qk(zk))
do đó (3.30) kéo theo (3.28) và mọi điều của Định lý 3.3 đều được thỏa mãn, hơn nữa điều kiện Lipschitz trong Định lý 3.2 cũng đúng khi α = 0.
Định lý được chứng minh.
Sau đây ta trình bày sự hội tụ trong trường hợp bài toán cực tiểu hàm lồi. Cho f : H → (−∞,+∞] là hàm lồi nửa liên tục dưới và không đồng nhất
+∞, khi đó hàm đa trị T = ∂f là toán tử đơn điệu cực đại, với
w ∈ ∂f(z) ⇔f(z0) ≥ f(z) + hz0−z, wi, ∀z0
⇔ z ∈ argmin(f − h., wi) (3.31) do đó
0∈ ∂f(z) ⇔z ∈ argminf.
Thuật toán điểm gần kề với T = ∂f là một phương pháp tìm cực tiểu của hàm f.
Ta đã biết φ : H → (−∞,+∞] được gọi là lồi mạnh với hệ số α > 0 với
φ((1−λ)z +λz0) ≤ (1−λ)φ(z) +λφ(z0)− 1
2αλ(1−λ)||z −z0||2,
∀z, z0,0 < λ < 1. (3.32)
Định lý 3.4. ChoT = ∂f, khi đó trong tính chất (A0) và(B0) ta cóSk = ∂φk, với φk định nghĩa bởi (3.4) và φk là nửa liên tục dưới, lồi mạnh với hệ số 1/ck. Hơn nữa, nếu zk là dãy bất kì tạo bởi thuật toán điểm gần kề dưới giả thiết của Định lý 3.1 theo tiêu chuẩn (A0) thì zk hội tụ yếu đến z∞ thỏa mãn
f(z∞) = minf và
f(zk+1)−f(z∞) ≤ c−k1||zk+1 −z∞||(εk+ ||zk+1 −zk||) →0. (3.33) Chứng minh. Vì φ là tổng của một hàm lồi và một hàm lồi mạnh nên φ là hàm lồi mạnh. Lấy dưới vi phân hai vế của (3.4) ta được
Để chứng minh (3.33) ta kí hiệu wk là phần tử duy nhất của ∂φk(zk+1) gần gốc tọa độ nhất (luôn có sự tồn tại này vì ∂φk(zk+1) là tập lồi, đóng và khác rỗng). Khi đó wk−c−k1(zk+1 −zk) ∈ T(zk+1) =∂f(zk+1). với ||wk|| ≤ εk ck → 0 (3.35)
Đặt z∞ là giới hạn yếu của zk , khi đó 0∈ ∂f(z∞) và ta có
f(zk+1) +hz∞ −zk+1, wk −ck−1(zk+1 −zk)i ≤ f(z∞) =minf
sao cho
f(zk+1)−f(z∞) ≤ ||zk+1 −z∞||(||wk||+ c−k1||zk+1−zk||).
Kết hợp (3.35) và (3.8) ta được (3.33).
Kết luận chương
Chương này đã giới thiệu bài toán bao hàm thức đơn điệu cực đại và hai bài toán liên quan quan trọng là bài toán cực tiểu hàm lồi và bài toán bất đẳng thức biến phân đơn điệu, đồng thời trình bày thuật toán và sự hội tụ tới nghiệm của phương pháp điểm gần kề trong việc giải các bài toán tìm không điểm của một toán tử đơn điệu cực đại trong không gian Hilbert thực.
Kết luận chung
Những vấn đề chính của luận văn
• Nhắc lại một số khái niệm và tính chất cơ bản của không gian Hilbert trên trường số thực như tích vô hướng, sự trực giao, trực chuẩn,..., đồng thời trình bày một số kiến thức của giải tích lồi như tập lồi, hàm lồi, dưới vi phân... và các khái niệm về ánh xạ đa trị liên tục Lipschitz theo khoảng cách Hausdorff cũng như một số ví dụ minh họa.
• Phần trọng tâm của luận văn trình bày các kiến thức về toán tử đơn điệu trong không gian Hilbert thực, ứng dụng của nó trong việc xây dựng thật