Định nghĩa 2.2.8. Dãy {xk}k=0,1,... các điểm của đa tạp M được gọi là hội tụ nếu tồn tại một bản đồ (U, ϕ) của M, một điểm x∗ ∈ U, và một số K > 0 sao cho xk ∈U,∀k > K và dãy{ϕ(xk)}k=K,K+1,... hội tụ vềϕ(x∗).
Điểmϕ−1(limk→∞ϕ(xk))khi đó được gọi làgiới hạncủa dãy{xk}k=0,1,...
Dễ thấy giới hạn của một dãy hội tụ trên đa tạp là duy nhất.
Định nghĩa 2.2.9. Cho dãy {xk}k=0,1,..., điểm x được gọi là một điểm giới hạn của dãy{xk}k=0,1,... nếu tồn tại một dãy con{xjk}k=0,1,... hội tụ vềx.
Tập hợp các điểm giới hạn của một dãy được gọi làtập giới hạncủa dãy đó.
Định lí 2.2.10(Xem [3]). Giả sử{xk}là dãy lặp xác định trong Thuật toán 3. Khi đó mọi điểm giới hạn của{xk}đều là điểm tới hạn của hàm mục tiêuf.
Chứng minh. Ta chứng minh định lý bằng phản chứng. Giả sử rằng có một dãy con
{xk}k∈K hội tụ vềx∗ màgradf(x∗) = 06 . Vì dãy{f(xk)}không tăng nên dãy{f(xk)}
hội tụ tớif(x∗). Do đóf(xk)−f(xk+1)hội tụ về0. Dựa vào thuật toán, f(xk)−f(xk+1)≥ −cσαkhgradf(xk), ηkixk.
Do{ηk} là dãy liên kết gradient, ta phải có {αk}k∈K → 0. Các số αk được xác định từ quy tắc Armijo, vì vậy, với mọi sốk > k, αk = βmkα, ở đâymk là một số nguyên lớn hơn hoặc bằng 0. Điều này có nghĩa là cập nhật αk
βηk không thỏa mãn điều kiện Armijo. Do đó f(xk)−f Rxk αk β ηk <−σαk β hgradf(xk), ηkixk, ∀k ∈ K, k ≥k. Đặt e ηk = ηk kηkk, eαk = αkkηkk β . bất đẳng thức trên trở thành ˆ fxk(0)−fˆxk(αekeηk) e αk <−σhgradf(xk),ηekixk, ∀k ∈ K, k ≥k,
ở đâyfˆđược định nghĩa ở (2.4). Theo định lý giá trị trung bình, tồn tạit∈[0,eαk]sao cho
−D ˆfxk(tηek)[eηk]<−σhgradf(xk),eηkixk, ∀k ∈ K, k≥k. (2.11) Vì {αk}k∈K → 0 vàηk là dãy liên kết gradient nên {eαk}k∈K → 0. Hơn nữa, vì eηk có chuẩn bằng1nên nó thuộc một tập compact, do đó tồn tại một tập chỉ số K ⊆ Ke sao cho{eηk}k∈
e
K → eη∗ với keη∗k = 1. Bây giờ ta chuyển qua giới hạn trong (2.11) trênKe. Do mêtric Riemann là liên tục vàf ∈C1,D ˆfxk(0)[eηk] =hgradf(xk),eηkixk, ta có
−hgradf(x∗),eη∗ix∗ ≤ −σhgradf(x∗),eη∗ix∗.
Doσ < 1nênhgradf(x∗),ηe∗ix∗ ≥0. Nhưng{ηk}là dãy liên kết gradient nên
hgradf(x∗),eη∗ix∗ <0. Mâu thuẫn này cho ta khẳng định của mệnh đề.
Hệ quả 2.2.11. Giả sử {xk} là dãy lặp được xây dựng trong Thuật toán 3 và tập
Chứng minh. Ta chứng minh bằng phản chứng. Giả sử ngược lại, khi đó tồn tại một dãy con{xk}k∈Kvàε >0sao cho
kgradf(xk)k> ε, ∀k ∈ K.
Vìf không tăng trên {xk} nênxk ∈ L với mọik. DoL là compact nên dãy{xk}k∈K
có một điểm giới hạnx∗∈ L. Từ tính chất liên tục củagradf, cókgradf(x∗)k ≥ε. Tức làx∗không phải là một điểm tới hạn. Mâu thuẫn với Định lý 2.2.10.