Thuật toán chiếu chính quy tiệm cận giải bài toán chấp nhận lồi

Mô tả thuật toán tổng quát

Ta luôn giả thiết rằng mọi chỉ sối đều được chọn vô hạn lần, tức là chỉ số i là thiết thực tại một số vô hạn bước lặp n. Ta nói thuật toán là chính quy tiệm cận nếu dãy sinh ra bởi thuật toán là chính quy tiệm cận. Chú ý rằng trong trường hợp này, thuật toán đưa về tích của một số ánh xạ không giãn vững.

Một số tính chất cơ bản

Giả thiết đã cho đảm bảo rằng lim infκn > 0, do đó theo ví dụ 1 ta có điều cần chứng minh. Sau khi chuyển qua một dãy con nếu cần thiết, ta có thể giả sử rằng tồn tại một chỉ số i sao cho. Chuyển qua dãy con nếu cần thiết, ta có thể giả sử rằng (x(nkp))k hội tụ yếu tới một điểm x ∈ D.

Xây dựng thuật toán

Chứng minh: Mosco đã chứng minh rằng dãy giảm các tập lồi đóng thì hội tụ theo nghĩa Mosco tới giao của dãy tập ấy. Giả sử rằng thuật toán chiếu là suy biến, không nới lỏng và có các tập hằng. Nếu với một chỉ số j nào đó tập Cj compact bị chặn (tức là giao của nó với mọi tập bị chặn là tập compact) thì dãy (x(n)) hội tụ theo chuẩn tới một điểm thuộc C.

Dãy (x(n))n:nthiết thực cho j bị chặn và nằm trong Cj do đó có một điểm dính theo chuẩn. Để có thể đưa ra dạng thứ hai của một thuật toán chiếu tụ cũng như các kết quả. Từ định nghĩa về tính tụ và tính nửa liên tục dưới của hàm khoảng cách d(., Ci) ta suy ra.

Nói riêng, điều này đúng khiX là không gian hữu hạn chiều hoặc phần trong của tập C khác rỗng. Hai dạng của thuật toán chiếu tụ (định lý 4 và hệ quả 10) không có liên hệ gì với nhau. Khi đó thuật toán chiếu là tụ mạnh và dãy giảm các tập lồi compact C1(n) hội tụ tớiC1 theo nghĩa Mosco.

Một số kết quả hội tụ

Giả sử thêm rằngX là không gian hữu hạn chiều hoặc phần trong của C khác rỗng. Giả sử rằng X là không gian hữu hạn chiều, thuật toán chiếu là tụ tuyến tính, và tồn tại một số ε > 0sao cho ε ≤ α(n)i ≤2−ε với mọinđủ lớn và mọi chỉ số i thiết thực tạin. • Với các giả thiết về tham số nới lỏngα(n)i như trong hai ví dụ trên,.

Cho trước một thuật toán chiếu, giả sử rằng (Pi(n)) hội tụ từng điểm tớiPi với mọi chỉ sối. Nếu phần trong của C khác rỗng, thì dãy (x(n)) hội tụ theo chuẩn tới một điểm thuộc C. Ta nói thuật toán chiếu là xét tập xa nhất nếu với mọi n, ít nhất một chỉ số xa nhất được xét; tức là.

Theo cách gọi của Censor, ta nói điều khiển tập xa nhất nếu thuật toán chiếu là suy biến và xét tập xa nhất. Tương tự như phần thuật toán tổng quát, tới đây ta có thể phát biểu và chứng minh một kết quả cơ bản trong tôpô yếu. Do thuật toán là tụ mạnh và xét chỉ số xa nhất, ta đi tới kết luận là.

Một số điều kiện đảm bảo sự hội tụ theo chuẩn và hội tụ tuyến tính

Để có thể sử dụng được các định lý nêu trên, ta cần có những điều kiện đủ đơn giản để kiểm tra khi nào một bộ N tập là chính quy bị chặn. (ii) Nếu bộ N tập là chính quy bị chặn và một tập Ci nào đó là bị chặn thì bộ N tập là chính quy. (iii) NếuX là không gian hữu hạn chiều thì mọi bộ N tập là chính quy bị chặn. Định nghĩa sau đây cho phép ta đánh giá tốc độ hội tụ của thuật toán. , CN) là chính quy tuyến tính nếu.

Khi đó, dãy (x(n)) hội tụ tuyến tính tới một điểm thuộc C và tốc độ hội tụ không phụ thuộc vào điểm xuất phát nếu bộ N tập là chính quy tuyến tính. Chứng minh: Giả sử thuật toán chiếu là p−lặp đoạn. Cố định một chỉ số i. , CN) là chính quy tuyến tính, thì hằng số κS có thể chọn được độc lập với S. Kết hợp lại ta được. , CN) là chính quy tuyến tính. Giả sử thuật toán là tụ tuyến tính và xét tập xa nhất. Nếu lim inf. , CN) là chính quy tuyến tính. Dễ thấy hằng sốκS có thể chọn độc lập với tậpS nếu bộ(C1,. , CN)là chính quy tuyến tính. Ơ Tính chất chính quy tuyến tính (bị chặn) cho phép ta đưa ra nhiều kết quả, ta sẽ nghiên cứu kỹ hơn khái niệm này và đưa ra một vài điều kiện đủ cho tính chất này.

Một vài ví dụ về tính chính quy tuyến tính (bị chặn)

(ii) E−F là không gian con đóng. Kết hợp định lý và bổ đề vừa nêu ta có hệ quả sau:. CN−1)−CN) thì bộ N-tập là chính quy tuyến tính bị chặn. Tiếp theo ta xét tính chính quy tuyến tính (bị chặn) của một số bộ tập đặc biệt. Ta có một số kết quả sau đây. , CN) là chính quy tuyến tính nếu (i) Mỗi tậpCi là một siêu phẳng. (iv) Mỗi tập Ci là một không gian con đóng và ít nhất một không gian con là hữu hạn chiều hoặc tất cả các không gian con (có thể ngoại trừ một không gian con) có đối chiều hữu hạn.

Thuật toán dưới gradient

(ii) Mọi thuật toán chiếu có các tập hằng thì đều có thể xem như thuật toán dưới gradient bằng cách chọn fi(ã) =d(ã, Ci) và để ý rằng. Cho một thuật toán dưới gradient, giả sử rằng các dưới vi phân của các hàm fi khác rỗng và bị chặn đều trên tập bị chặn với mọi chỉ số i ∈ I∂. Tính chất bị chặn đều trên các tập bị chặn của dưới vi phân ∂fi là một giả thiết tiêu chuẩn cho các định lý về thuật toán dưới gradient.

Tuy vậy, giả thiết X hữu hạn chiều là không thể bỏ qua, ngay cả khi hàm liên tục và khả dưới vi phân khắp nơi như. Ta có điều kiện dạng điểm Slater cho tính tụ tuyến tính của thuật toán dưới gradient sau ®©y. Cho một thuật toán dưới gradient, giả sử rằng tồn tại một điểm Slater xˆ ∈ X sao cho fi(ˆx) < 0 và dưới vi phân củafi khác rỗng và bị chặn đều trên các tập bị chặn với mọi chỉ số dưới vi phân i ∈ I∂.

Trong mục này ta xét thuật toán dưới gradient áp dụng trong trường hợp mọi chỉ số đều là chỉ số dưới gradient, tức là I∂ = {1,2,. Giả sử thuật toán chiếu là p−lặp đoạn và các hàm fi có dưới vi phân khác rỗng và bị chặn. Giả sử mỗi hàmfi có dưới vi phân khác rỗng và bị chặn đều trên tập bị chặn và tồn tại một điểm Slater xˆ ∈ C tức là fi(ˆx) < 0 với mọi i.

Chứng minh: Từ giả thiết về các λ(n)i ta suy ra thuật toán là đồng bộ; do đó nó là 1-lặp đoạn.

Phương pháp chỉnh lặp song song

Xét bài toán chấp nhận lồi: Tìm một điểm nằm trong giao của các tập lồi Ci cho bởi biểu thức. Do đó ta có thể áp dụng các kết quả trong các định lý 18 và 19 cho hệ phương trình này. Doαn rất nhỏ so với γn nênαnN γ+N γn n ≈ 1, ý nghĩa hình học của phương pháp chỉnh lặp song song là dùng phép chiếu lên một siêu phẳng song song và cách siêu phẳng cũ một khoảng rất nhỏ tương ứng với tham số hiệu chỉnh.

Tại bước lặp thứn, với phương pháp chỉnh lặp song song ta phải giải phương trình Ai(xin) +. (2.4) Với Ai như trên, đây là một phương trình phi tuyến khó giải, tại bước lặp thứ n, ta thay các chuẩn kxin −aik bằng các chuẩn đã có kxn − aik và đi tới phương. Nhân vô hướng hai vế với (yni −xin) và sử dụng tính chất ngược đơn điệu mạnh của toán tử Ai ta được.

Một vài thử nghiệm số

Ta thấy bốn tập đều là các hình cầu, trong đóεlà một số dương rất nhỏ. Trong mỗi bước, ta tính khoảng cách từ x(n) đến các tập và chọn ra tập xa x(n) nhất để chiếu. Như vậy về mặt khối lượng tính toán, phương pháp này giống với phương pháp đồng bộ.

Trong thử nghiệm số, các tham số nới lỏng và trọng được chọn ngẫu nhiên trong từng vòng lặp. Trong bảng sau, x0 là vector xuất phát,Nmax là số lần lặp đến khi tìm ra nghiệm, time là thời gian chạy máy tính bằng giây; f1, f2, f3 là các giá trị hàm tính tại nghiệm; ε là tham số kiểm tra tính chấp nhận của nghiệm. Do các tham số nới lỏng và trọng được chọn ngẫu nhiên nên nghiệm của bài toán có thể làm cho các giá trị fi đều nhỏ hơn 0 thực sự.

Nếu cố định các tham số nới lỏng và trọng, kết quả nhận được chỉ có thể thỏa mãnfi(x) < ε. Kết quả sau đây minh họa điều này (với α vàλ được chọn ngẫu nhiên từ trước và cố định qua các bước lặp). Trong thử nghiệm số ta ký hiệu: n số chiều của vector x, Nmax là số lần lặp.

Chuẩn được tính gần đúng bằng tích phân theo công thức Simpson với số điểm chia N tùy chọn.