Một số thuật toán chiếu giải bài toán chấp nhận lồi

Một số thuật toán chiếu giải bài toán chấp nhận lồi.

Mục lụcMở đầu 11. Một số kiến thức chuẩn bị 31.1. ánh xạ không giãn . . . . . . . . . . . . . . . . . . . . . . . . . 31.2. ánh xạ hút và dãy đơn điệu Fejer . . . . . . . . . . . . . . . . . 61.3. Mô tả thuật toán tổng quát . . . . . . . . . . . . . . . . . . . . . . 141.4. Một số tính chất cơ bản . . . . . . . . . . . . . . . . . . . . . . . 152. Một số thuật toán chiếu 242.1. Xây dựng thuật toán . . . . . . . . . . . . . . . . . . . . . . . . . 242.2. Một số kết quả hội tụ . . . . . . . . . . . . . . . . . . . . . . . . 272.3. Một số điều kiện đảm bảo sự hội tụ theo chuẩn và hội tụ tuyến tính 342.4. Một vài ví dụ về tính chính quy tuyến tính (bị chặn) . . . . . . . . 393. Thuật toán dưới gradient và phương pháp chỉnh lặp song song 413.1. Thuật toán dưới gradient . . . . . . . . . . . . . . . . . . . . . . . 413.1.1. Cơ sở . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 413.1.2. Các kết quả hội tụ . . . . . . . . . . . . . . . . . . . . . . 473.2. Phương pháp chỉnh lặp song song . . . . . . . . . . . . . . . . . . 50i 3.2.1. Một số kết quả bổ trợ . . . . . . . . . . . . . . . . . . . . . 503.2.2. Một số ví dụ minh hoạ . . . . . . . . . . . . . . . . . . . . 513.3. Một vài thử nghiệm số . . . . . . . . . . . . . . . . . . . . . . . . 553.3.1. Bài toán với Cilà hình cầu . . . . . . . . . . . . . . . . . . 553.3.2. Bài toán với Cilà tập mức dưới của một hàm lồi . . . . . . 573.3.3. Phương pháp chỉnh lặp trong không gian vô hạn chiều . . . 61Kết luận 62Tài liệu tham khảo 63Phụ lục 65A Một số điểm lưu ý khi tính dưới vi phân 651.1. Một vài tính chất của dưới vi phân . . . . . . . . . . . . . . . . . 651.2. Một số ví dụ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66ii Lời cảm ơnBản luận văn này được hoàn thành dưới sự hướng dẫn tận tâm và nhiệt tìnhcủa thầy- GS.TSKH. Phạm Kỳ Anh. Qua đây em xin bày tỏ lòng biết ơn chânthành và sâu sắc tới thầy. Cũng nhân dịp này, em xin gửi lời cảm ơn đến các anhnghiên cứu sinh Cao Văn Chung, Vũ Tiến Dũng cùng tập thể cán bộ, cộng tácviên, nhân viên của Trung tâm tính toán hiệu năng cao trường ĐH Khoa học Tựnhiên vì sự giúp đỡ tận tình và rất hiệu quả trong quá trình thực hiện luận văn.Em cũng xin gửi lời cảm ơn tới các thầy trong Bộ môn Toán học tính toán cùngtoàn thể thầy giáo, cô giáo trong Khoa Toán-Cơ-Tin học trường ĐH Khoa học Tựnhiên-ĐH Quốc gia Hà Nội đã nhiệt tình giảng dạy, tạo điều kiện và giúp em thuđược nhiều kiến thức bổ ích trong suốt quá trình học tập.Hà Nội, ngày 29 tháng 11 năm 2009Học viênVũ Anh Mỹiii Mở đầuNhiều vấn đề của khoa học và công nghệ đưa về bài toán tìm một điểmtrong giao của một số tập lồi. Bài toán này được gọi là Bài toán chấp nhận lồi:Cho X là một không gian Hilbert và C1, C2, . . . , CNlà các tập lồi đóng với giaolà một tập C khác rỗng:C = C1 . . . CN= .Tìm một điểm x C.Chúng ta xét hai trường hợp thường gặp sau: Các tập Cilà đơn giản theo nghĩa các phép chiếu (trực giao) lên Cicó thểtính toán được tường minh. Citrong trường hợp này có thể là siêu phẳng,nửa không gian, không gian con đóng hay một hình cầu. Không thể tính được phép chiếu lên Ci, tuy nhiên có thể thay nó bằng phépchiếu lên một tập xấp xỉ nào đó của Ci. Citrong trường hợp này có thể làtập mức dưới của một hàm lồi nào đó.Hướng tiếp cận thường dùng là sử dụng một thuật toán chiếu. Sử dụng các phépchiếu lên các tập Cihoặc tập xấp xỉ Ciđể xây dựng một dãy các phần tử hội tụđến nghiệm của bài toán chấp nhận lồi.Một số ứng dụng của bài toán chấp nhận lồi có thể kể ra như sau: Bài toán xấp xỉ tốt nhất, trong đó mỗi tập Cilà một không gian con đóng. Khôi phục ảnh (mô hình rời rạc): Mỗi tập Cilà một nửa không gian hoặcmột siêu phẳng, X là một không gian Euclid. Khôi phục ảnh (mô hình liên tục): X là không gian Hilbert vô hạn chiều. Các thuật toán dưới gradient: Một số tập Cithuộc loại thứ 2, tức là tập mứcdưới của một hàm lồi.1 Trong luận văn này chúng tôi nghiên cứu thuật toán chiếu tổng quát:x(n+1)= A(n)x(n)=Ni=1(n)i[(1 (n)i)I + (n)iP(n)i]x(n), (1.1)ở đây P(n)ilà phép chiếu lên tập xấp xỉ C(n)itrong bước lặp thứ n, i, itươngứng là các trọng và các tham số nới lỏng,và thuật toán chỉnh lặp song song giải hệ phương trình đặt không chỉnhAi(x) = 0, i = 1, . . . , Ndạng:Aix(n)i+nN+ nx(n)i= nx(n),x(n+1)=1NNi=1x(n)i.Trong đó nlà tham số hiệu chỉnh, nlà tham số song song hóa.Ngoài các phần Mở đầu, Kết luận và Tài liệu tham khảo, cấu trúc luận văn gồm3 chương:Chương 1 mang tên "Một số kiến thức chuẩn bị", trình bày các khái niệm cơbản, một số kết quả phụ trợ và thuật toán dạng tổng quát với các ánh xạ khônggiãn vững với các kết quả về tính hội tụ của thuật toán tổng quát.Chương 2 mang tên "Một số thuật toán chiếu", trình bày các thuật toán chiếugiải bài toán chấp nhận lồi và các kết quả hội tụ.Chương 3 mang tên "Thuật toán dưới gradient và phương pháp chỉnh lặp songsong", trình bày bài toán chấp nhận lồi khi các tập lồi Cicho dưới dạng tập mứcdưới của một phiếm hàm lồi, và thuật toán dưới gradient. Cuối chương này là mộtsố ví dụ số minh họa thuật toán dưới gradient và phương pháp hiệu chỉnh songsong áp dụng cho bài toán chấp nhận lồi cùng các thử nghiệm số cho các thuậttoán trình bày trong Chương 2.2 Chương 1.Một số kiến thức chuẩn bị1.1. ánh xạ không giãnĐịnh nghĩa 1. Cho X là một không gian Hilbert, một ánh xạ T : D D, trongđó D là một tập con lồi, đóng, khác rỗng của X gọi là không giãn nếuT x T y x y x, y DNếu T x T y = x y x, y D, ta nói T là phép đẳng cự.Ngược lại, nếu T x T y < x y với mọi x, y khác nhau trong D ta nói T làánh xạ không giãn chặt. Nếu T là ánh xạ không giãn thì tập điểm bất động củaT, ký hiệu Fix T định nghĩa bởi:Fix T = {x D : x = T x}là tập lồi đóng.Mệnh đề 1 (Nguyên lý tính nửa đóng). Nếu D là một tập con lồi đóng của X,T : D X là ánh xạ không giãn, (xn) là một dãy trong D và x D, khi đónếu xn x và xn T xn 0 thì x Fix T.Chứng minh: Từ giả thiết xn x và ta có lim infnxn x0 > lim infnxn xvới mọi x0= x. Thật vậy, từ đẳng thứcxn x02= xn x2+ x x02+ 2xn x, x x03 và do giả thiết xn x, số hạng cuối tiến tới 0.Bây giờ giả sử xn x và xn T xn 0, do T không giãn ta cólim infnxn x lim infnT xn T x = lim infnxn T x,từ bất đẳng thức chứng minh ở trên ta suy ra x = T x hay x Fix T. Định nghĩa 2. Nếu N là một ánh xạ không giãn thì ánh xạ trung bình (1 )I +N với [0, 1) cũng là ánh xạ không giãn.Một ánh xạ không giãn vững là một ánh xạ trung bình có dạng12I +12N với N làmột ánh xạ không giãn.Tính vững có thể hiểu là ngoài tính không giãn T x T y x y, ánh xạcòn thỏa mãn bất đẳng thức chặt hơn làT x T y2+ (Id T )x (Id T )y2 x y2.Điều này tương đương với bất đẳng thức (ii) trong mệnh đề dưới đây.Mệnh đề 2. Nếu D là một tập con lồi đóng của X và T : D X là một ánhxạ, khi đó các mệnh đề sau tương đương:(i) T là ánh xạ không giãn vững.(ii) T x T y2 T x T y, x y (T là 1ngược đơn điệu mạnh ).(iii) 2T I là ánh xạ không giãn.Định nghĩa 3. Một ánh xạ được gọi là không giãn vững nới lỏng nếu nó có thểbiểu diễn được dưới dạng (1 )I + F với F là một ánh xạ không giãn vữngnào đó.Hệ quả 1. Giả sử D là một tập con đóng của X và T : D X là một ánh xạ,khi đó T là ánh xạ được trung bình hóa khi và chỉ khi nó là ánh xạ không giãnvững nới lỏng.4 Mệnh đề 3. Giả sử C là một tập con lồi đóng khác rỗng của X với phép chiếutương ứng là PC. Khi đó:(i) Nếu x X thì PCx được đặc trưng bởi 2 tính chất: PCx C vàC PCx, x PCx 0 (tiêu chuẩn Kolmogorov).(ii) PClà ánh xạ không giãn vững.Chứng minh: (i): Ta sẽ chứng minhx PCx = min{x z : z C} x PCx, PCx z 0 z C.Ta cóx z2= x PCx + PCx z2= x PCx2+ 2x PCx, PCx z + PCx z2 x PCx2+ 2x PCx, PCx zNhư vậy, từ xPCx, PCxz 0 ta suy ra xPCx = min{xz : z C}.Ngược lại từ xPCx = min{x z : z C}. Chọn điểm z + (1)PCx C, > 0, ta có0 x PCx2 x (z + (1 )PCx)2= x PCx2 x PCx (z PCx)2= 2x PCx (z PCx), (z PCx 0 x PCx (z PCx), z PCxCho 00 x PCx, z PCx x PCx, PCx z 0(ii): Để chứng minh PClà ánh xạ không giãn vững, dựa vào mệnh đề 2, ta chỉcần chỉ ra PCx PCy, x y PCx PCy2.5 Bất đẳng thức này tương đương với x y (PCx PCy), PCx PCy 0. Đểchứng minh điều này, từ tiêu chuẩn Kolmogorov áp dụng cho PCy và PCx ta cóx PCx, PCx PCy 0,PCy y, PCx PCy 0.Cộng từng vế ta có điều cần chứng minh. Định nghĩa 4. Hàm tương ứng d(ã, C) : X R : x infcCxc = xPCxgọi là hàm khoảng cách tới tập C.Dễ thấy rằng với tập C lồi đóng thì d(ã, C) là hàm lồi và liên tục (và do đólà nửa liên tục dưới yếu).Định nghĩa 5. Một dãy (xn) trong X được gọi là hội tụ tuyến tính tới giới hạn xvới cấp nếu [0, 1) và tồn tại số 0 sao choxn x nnMệnh đề 4. Giả sử (xn) là một dãy trong X, p là một số nguyên dương và x làmột điểm trong X. Nếu (xpn)nhội tụ tuyến tính tới x và (xn x)nlà dãy giảmthì toàn bộ dãy (xn)ncũng hội tụ tuyến tính tới x.1.2. ánh xạ hút và dãy đơn điệu FejerĐịnh nghĩa 6. Giả sử D là một tập lồi đóng khác rỗng, T : D D là ánh xạkhông giãn và F là một tập con lồi đóng khác rỗng của D. Ta nói T là ánh xạhút đối với tập F nếu với mọi x D \ F, f FT x f < x fTa nói T là hút mạnh đối với với tập F nếu tồn tại một số > 0 sao cho với mọix D, f Fx T x2 x f2 T x f26 Khi cần nhấn mạnh ta nói T là hút đối với tập F.Bổ đề 1 (Dạng của một ánh xạ hút mạnh). Giả sử D là tập lồi đóng khác rỗng,T : D D là ánh xạ không giãn vững có điểm bất động, và (0, 2). ĐặtR = (1 )I + T và cố định x D, f Fix T. Khi đó:(i) Fix R = Fix T.(ii) x f, x T x x T x2và x T x, T x f 0.(iii) x f2 Rx f2= 2x f, x T x 2x T x2.(iv) R là (2 )/-hút: x f2 Rx f2 (2 )/x Rx2=(2 )x T x2Chứng minh: (i) là hiển nhiên.(ii): Do T là ánh xạ không giãn vững, ta cóT x f2 T x f, x fT x x2+ x f2+ 2T x x, x f T x f, x fT x x2+ x f2+ 2T x x, x f T x x, x f + x f2T x x2 x T x, x f = x T x, T x f + x T x20 x T x, T x f.(iii): Bằng tính toán trực tiếpx f2 Rx f2=x f2 (1 )(x f) + (T x f)2=x f2 [1 )2x f2+ 2T x f2+ 2(1 )x f, T x f]=2x f2 2x f2 2T x f2+ 22x f, T x f 2x f, T x f=2x f, x f (T x f) 2[x f2+ T x f2 2x f, T x f]=2x f, x T x 2x T x2.7 [...]... thiết thực cho i (n) i (2i ) = + Chương 2 Một số thuật toán chiếu 2.1 Xây dựng thuật toán Ta giữ lại các giả thiết của chương trước Thêm vào đó, ta giả sử rằng các Ti(n) là phép chiếu lên các tập lồi đóng khác rỗng Ci(n) chứa Ci Ta cũng giả thiết rằng D = X Ta dùng ký hiệu tắt Pi PC ; Pi(n) PC Ta gọi thuật toán trên là thuật toán chiếu Ta nói thuật toán chiếu có các tập hằng nếu i (n) Ci (n) i ... được cho thuật toán chiếu trong chương này; tuy nhiên, điều kiện quan trọng nhất là tính tụ của thuật toán chiếu cần phải được xem xét tỉ mỉ hơn Dạng đầu tiên của một thuật toán chiếu có tính tụ được đưa ra bằng khái niệm hội tụ tập hợp theo nghĩa Mosco Bổ đề sau đây nói lên một số đặc trưng của hội tụ theo nghĩa Mosco Bổ đề 3 Giả sử rằng (Sn ) là một dãy các tập lồi đóng và tồn tại một tập lồi đóng... nk với mọi chỉ số i và mọi dãy con x(nk ) của x(n) Từ định nghĩa về tính tụ và tính nửa liên tục dưới của hàm khoảng cách d(., Ci ) ta suy ra tụ tuyến tính tụ mạnh tụ Từ nhận xét trên ta dễ dàng suy ra bổ đề sau đây Hệ quả 10 (Dạng thứ hai của một thuật toán chiếu tụ) Mọi thuật toán chiếu tụ tuyến tính đều tụ Hệ quả 11 (Dạng của một thuật toán chiếu tụ tuyến tính) Nếu thuật toán chiếu có các tập... gian hữu hạn chiều và thuật toán là suy biến Giả sử thêm rằng Ti(n) : Ti; Ci = Fix Ti, và tồn tại một số > 0 sao cho (n) i 2 với mọi n và mọi chỉ số i Khi đó, dãy (x(n) ) hội tụ theo chuẩn tới một điểm trong C Định nghĩa sau đây cho ta dấu hiệu nhận biết một thuật toán có tụ hay không (n) Định nghĩa 10 Cho một thuật toán, ta nói dãy Ti hội tụ từng điểm tới Ti với một chỉ số i nào đó nếu lim inf... thực tại một số vô hạn bước lặp n Kết thúc mục này ta đặt N (n) ài := (n) (n) i i [2 (n) (n) j j ] j=1 Ta cũng xét thêm một số khái niệm sau Ta nói thuật toán là chính quy tiệm cận nếu dãy sinh ra bởi thuật toán là chính quy tiệm cận Ta nói thuật toán là không (n) nới lỏng nếu i = 1 với mọi n và chỉ số i thiết thực tại bước lặp n Chú ý rằng trong trường hợp này, thuật toán đưa về tích của một số ánh... hằng thì nó tụ tuyến tính Hệ quả 12 (Dạng của một thuật toán chiếu tụ mạnh) Giả sử thuật toán chiếu là tụ Nếu dãy (x(n) ) là một tập compact tương đối thì thuật toán là tụ mạnh Nói riêng, điều này đúng khi X là không gian hữu hạn chiều hoặc phần trong của tập C khác rỗng Chứng minh: Giả sử ngược lại, tồn tại một số > 0, phần tử x X , một chỉ số i và một dãy con (x(n ))k với x(n ) x, x(n ) Pi(n )x(n... từng điểm tới Pi với mọi chỉ số i, thì thuật toán chiếu là tụ và Ci = với mọi chỉ số i (n) n:n thiết thực cho i Ci Với mỗi i, áp dụng bổ đề 3 cho dãy tập (Ci(n))n:n thiết thực cho i Ví dụ 8 Giả sử rằng Ci = Ci(n) và dãy tập (Ci(n)) là dãy giảm Khi đó thuật toán n chiếu là tụ Nếu thêm giả thiết thuật toán chiếu là lặp đoạn và n:n thiết thực cho i àn > 0 lim inf i với mọi chỉ số i thì dãy (x(n)) là chính... trường hợp này, thuật toán đưa về tích của một số ánh xạ không giãn vững Ta nói thuật toán là suy biến nếu I (n) là tập chỉ gồm một phần tử với mọi n Cuối cùng, ta nói thuật toán đồng bộ hoặc song song nếu I (n) = {1, , N } với mọi n 1.4 Một số tính chất cơ bản Bổ đề 2 (Tính chất cơ bản của thuật toán) Cho một thuật toán (i) Nếu x D; n 0, x(n) x 2 x(n+1) x 2 (n) (n) (n) (n) = i j i i (n) (n)... tại một chỉ số i và một dãy con (x(n ))k hội tụ yếu tới một điểm x Ci Do thuật toán là lặp đoạn nên ta nhận được mk với nk mk nk + p 1 và i I (m ) với mọi k 0 Do thuật toán là chính quy tiệm cận, ta có x(n ) x(m ) 0 và do đó x(m ) hội k tụ yếu tới x Do thuật toán là tụ, ta suy ra Chứng minh: k k k (mk ) (mk ) lim x(mk ) Ti k x k k > 0 + (l) (l) Mặt khác, từ bổ đề về tính chất thuật toán, ài x(l)... chiều, thuật toán chiếu có các tập hằng, và các tham số nới lỏng chỉ phụ thuộc n, tức là i(n) (n) với mọi chỉ số i và mọi n Giả sử thêm rằng tồn tại một dãy con nào đó (n ) của (n) sao cho với mọi chỉ số i, (n ) i với một số i > 0 nào đó i (i) (ii) Nếu tồn tại số sao cho (n) 2 với mọi n đủ lớn, khi đó dãy (x(n) ) hội tụ theo chuẩn tới một điểm thuộc C Nếu phần trong của C khác rỗng và tồn tại một . hội tụ của thuật toán tổng quát.Chương 2 mang tên " ;Một số thuật toán chiếu& quot;, trình bày các thuật toán chiếugiải bài toán chấp nhận lồi và các. học và công nghệ đưa về bài toán tìm một điểmtrong giao của một số tập lồi. Bài toán này được gọi là Bài toán chấp nhận lồi: Cho X là một không gian Hilbert