Phương pháp chiếu đạo hàm giải bài toán tối ưu lồi và áp dụng vào bài toán chấp nhận tách

60 21 0
Phương pháp chiếu đạo hàm giải bài toán tối ưu lồi và áp dụng vào bài toán chấp nhận tách

Đang tải... (xem toàn văn)

Tài liệu hạn chế xem trước, để xem đầy đủ mời bạn chọn Tải xuống

Thông tin tài liệu

ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KHOA HỌC ĐÀO THU THỦY PHƯƠNG PHÁP CHIẾU ĐẠO HÀM GIẢI BÀI TOÁN TỐI ƯU LỒI VÀ ÁP DỤNG VÀO BÀI TOÁN CHẤP NHẬN TÁCH LUẬN VĂN THẠC SĨ TOÁN HỌC THÁI NGUYÊN - 2015 ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KHOA HỌC ĐÀO THU THỦY PHƯƠNG PHÁP CHIẾU ĐẠO HÀM GIẢI BÀI TOÁN TỐI ƯU LỒI VÀ ÁP DỤNG VÀO BÀI TỐN CHẤP NHẬN TÁCH Chun ngành: Tốn ứng dụng Mã số: 60 46 01 12 LUẬN VĂN THẠC SĨ TOÁN HỌC NGƯỜI HƯỚNG DẪN KHOA HỌC GS.TSKH LÊ DŨNG MƯU THÁI NGUYÊN - 2015 i Mục lục Danh mục ký hiệu, chữ viết tắt iii mở đầu 1 Kiến thức chuẩn bị 1.1 Không gian Hilbert 1.1.1 Không gian tiền Hilbert 1.1.2 Không gian Hilbert 1.2 Tập lồi, hàm lồi 10 1.2.1 Tập lồi 10 1.2.2 Hàm lồi 15 Phương pháp chiếu đạo hàm giải toán tối ưu lồi áp dụng vào toán chấp nhận tách 24 2.1 Bài toán tối ưu lồi 24 2.2 Thuật toán chiếu đạo hàm 32 2.3 2.2.1 Toán tử chiếu lên tập lồi khơng gian Hilbert 32 2.2.2 Trình bày thuật toán 40 2.2.3 Định lý hội tụ 41 2.2.4 Ví dụ minh họa 43 Áp dụng vào toán chấp nhận tách 45 2.3.1 Phát biểu toán chấp nhận tách 45 ii 2.3.2 Áp dụng phương pháp chiếu đạo hàm giải toán chấp nhận tách 46 Tài liệu tham khảo 54 iii Danh mục ký hiệu, chữ viết tắt H không gian Hilbert thực R Tập số thực R [a, b] Đoạn đóng tập hợp số thực với đầu mút a, b a đủ nhỏ Vì thế, từ γ m → với m → ∞, từ quy tắc (A), tồn số tự nhiên mk thỏa mãn (A) Sau từ (A) có dãy f (xk ) giảm Thì xk ∈ Lf (x0 ) Do xk bị chặn có điểm tụ Gọi x∗ điểm tụ Chúng ta giả định xk → x∗ Từ z k := PD (xk − ∇f (xk )), dãy z k bị chặn Theo thuật tốn ta có: f (xk+1 ) − f (xk ) = f (xk + µk dk ) − f (xk ) k T k ≤ βµk (d ) ∇f (x ) ≤ βµk − d k (2.7) ; ∀k Do dãy f (xk ) giảm bị chặn nên từ (2.7) ta có: (2.8) µk dk → a) Nếu lim µk > cách lấy dãy (ta nhớ lại xk , z k dk bị chặn), cần từ (2.8) có dk → b) Bây giả sử lim µk = Do mk số tự nhiên nhỏ thỏa mãn (A), có (chú ý µk /γ = γ mk −1 ) f (xk − (µk /γ)dk ) − f (xk ) > β(µk /γ) ∇f (xk ), dk (2.9) Đặt tk := µk /γ tk → Chia cho tk > cho k → ∞, từ (2.9) nhận ∇f (x∗ ), d∗ ≥ β ∇f (x∗ ), d∗ 43 Chú ý ∇f (xk ), dk ≤ − dk , từ < β < , thấy dk → Như lim z k = lim xk = x∗ Chú ý có z k = PD (xk − ∇f (xk )), lấy giới hạn có x∗ = PD (x∗ − ∇f (x∗ )) Vậy theo Bổ đề 2.2 x∗ điểm dừng Bây giờ, ta giả sử (P) tốn quy hoạch lồi Vì x∗ điểm dừng ( chứng minh trên) nên suy ∇f (x∗ ), x − x∗ ≥ Mà theo định nghĩa đạo hàm ∇f (x∗ ), x − x∗ ≤ f (x) − f (x∗ ) Suy f (x) − f (x∗ ) ≥ ⇒ f (x) ≥ f (x∗ ) Do x∗ nghiệm tối ưu 2.2.4 Ví dụ minh họa Ví dụ 2.1 Cho toán {f (x1 , x2 )} = x21 + x22 − x1 + x2 với điều kiện ≤ x1 ≤ 2; ≤ x2 ≤ 1; x = (x1 , x2 ) ∈ D Giải Chọn γ = 12 ; β = Vòng lặp  Bước 1: Lấy x0 =  Ta có:   ∈ (0, 1) 44  ∇f (x) =  2x1 − 2x1 + Chuyển Bước    ⇒ ∇f (xo ) =   Bước 2: Ta có xo − ∇f (xo ) =    − 2.1 − 2.0 +   =    =  1   =   −1  0  =   = xo Suy z o = PD (xo − ∇f (xo )) = PD  −1 Chuyển Bước        Bước 3: Lấy = z o − xo =  − 1  = 0 Chọn mk = Khi đó, quy tắc (A) tương đương: 0  −1  T f x0 + 12 d0 ≤ f x0 + 12 12 d0 ∇f x0     T      −1 −1 1  ≤ f   + 1   ∇f   ⇔ f   +  2 0 0     ⇔ f   ≤ + 21 (−1 0)   ⇔ ≤ − 21 Điều vô lý, nên mk = không thỏa mãn Chọn mk = Khi đó, (A) tương đương T f x0 + 21 d0 ≤ f x0 + 12 12 d0 ∇f x0      T     −1 −1  ≤ f   +   ∇f   ⇔ f   + 21  2 0 0     1 ⇔ f   ≤ + 41 (−1 0)   ⇔ − 14 ≤ − 14 Ta thấy − 41 = − 41 nên quy tắc (A) thỏa mãn Do mk = số tự 45 nhiên nhỏ thỏa mãn quy tắc (A) Đặt 1 µ0 = γ =       1 −1    = = ; x1 := x0 +µ0 d0 =  +  2 0  Vòng lặp 2: Với x1 =    Bước 1: Ta có  ∇f x1 = ∇f = 12 −1 2.0 +   =   = Chuyển Bước  Bước 2: Ta có x1 − ∇f x1 =   ⇒ z = PD    = 2   −   = −1     = x1 ⇒ ST OP −1 Thuật toándừngtại Bước vòng lặp Vậy x =  2.3 2.3.1  nghiệm tối ưu toán Áp dụng vào toán chấp nhận tách Phát biểu toán chấp nhận tách Định nghĩa 2.10 Cho C ⊂ Rn D ⊂ Rm tập lồi đóng Bài tốn chấp nhận tách tốn: Tìm x∗ ∈ C : Ax∗ ∈ D đó, A : Rn → Rm tốn tử tuyến tính (ma trận cấp n × m) 46 Ví dụ 2.2 Cho C, D tập nghiệm toán tối ưu lồi {f (x) : x ∈ Rn } (P1 ) {g(u) : u ∈ Rm } (P2 ) Do đó, CvD tập lồi đóng Và A : Rn → Rm tốn tử tuyến tính liên tục Khi đó, tốn chấp nhận tách tốn tìm nghiệm tối ưu toán tối ưu (P1 ) cho ảnh qua ánh xạ A nghiệm toán tối ưu (P2 ) 2.3.2 Áp dụng phương pháp chiếu đạo hàm giải toán chấp nhận tách Cho C, D hai tập lồi đóng không gian Rn Rm Ta ký hiệu PC PD toán tử chiếu lên tập C D Với x ta lấy Sx = x + γAT (PD − I)Ax (2.10) T x = PC (Sx) Khi đó, ta ký hiệu dãy xk cho xk+1 = T xk , với x0 điểm xuất phát Mệnh đề 2.4 Vectơ x∗ C điểm bất động ánh xạ T nghĩa T x∗ = x∗ x∗ nghiệm toán tối ưu lồi { PD (A x) − Ax ; x ∈ C} (P3 ) Chứng minh Giả sử x∗ cực tiểu hàm PD (A x) − Ax x ∈ C Thì PD (A x∗ ) − Ax∗ ≤ PD (A x) − Ax ≤ q − Ax 47 với x ∈ C, q ∈ D Chọn q = PD (A x∗ ) ta thấy PD (A x∗ ) − Ax∗ ≤ Ax − PD (A x∗ ) với x ∈ C, nghĩa A x∗ = PA(C) (PD (A x∗ )) Theo tính chất hình chiếu ta có: Ax − Ax∗ , Ax∗ − PD (A x∗ ) ≥ 0, với x ∈ C, từ x − Sx∗ = x − x∗ + 2γ Ax − Ax∗ , Ax∗ − PD (A x∗ ) ta có x∗ cực tiểu hàm x − Sx∗ x ∈ C, x∗ = PC (Sx∗ ) = T x∗ Bây ta giả sử T x∗ = x∗ Thì x∗ = PC (Sx∗ ), theo tính chất hình chiếu ta có x − x∗ , x∗ − Sx∗ ≥ với x ∈ C Do đó, Ax − Ax∗ , Ax∗ − PD (A x∗ ) ≥ 0, với x ∈ C Ta có PD (A x∗ ) − PD (A x), Ax∗ − PD (A x∗ ) ≥ Cộng hai bất đẳng thức lại ta PD (A x) − Ax, PD (A x∗ ) − Ax∗ ≥ PD (A x∗ ) − Ax∗ Áp dụng bất đẳng thức Cauchy ta có: PD (A x) − Ax ≥ PD (A x∗ ) − Ax∗ 48 Bây ta có định lý hội tụ thuật toán xây dựng dãy xk Định lí 2.9 (Định lý hội tụ) Cho F tập nghiệm toán tối ưu lồi (P3 ) Giả sử F khác rỗng Khi đó, dãy lặp (2.11) xk+1 = PC (xk + γAT (PD − I)Axk ) với γ ∈ (0, L2 ) L giá trị riêng lớn ma trận AT A, hội tụ đến nghiệm toán (P3 ) với điểm xuất phát x0 Chứng minh Giả sử F khác rỗng x∗ phần tử F Thì T x∗ = x∗ = PC (Sx∗ ) x∗ − xk+1 = PC (Sx∗ ) − PC (Sxk ) ≤ Sx∗ − Sxk Ta Sx∗ − Sxk ≤ x∗ − xk Theo định nghĩa S(x) ta có: Sx∗ − Sxk 2 = x∗ − xk + γAT (PD − I)A x∗ − γAT (PD − I)A xk Biểu diễn vế phải ta Sx∗ − Sxk = x∗ − xk +2γ Ax∗ − Axk , PD Ax∗ − PD Axk + Axk − Ax∗ +γ AT (PD − I)Ax∗ − AT (PD − I)Axk ≤ x∗ − xk − 2γ Ax∗ − Axk 2 +2γ Ax∗ − Axk , PD Ax∗ − PD Axk Dùng (PD − I)A x∗ − (PD − I)A xk = PD (Ax∗ ) − PD (Axk ) −2 A x∗ − A xk , PD (Ax∗ ) − PD (Axk ) + A x∗ − A xk 49 Ở dòng ta thấy Sx∗ − Sxk 2 ≤ x∗ − xk +γ ( PD Ax∗ − PD Axk + (2γ − γ L) Ax∗ − Axk − Ax∗ − Axk , PD Ax∗ − PD Axk ) (2γ − γ L) Ax∗ − Axk , PD Ax∗ − PD Axk Từ tính chất hình chiếu ta có PD (Ax∗ ) − PD (Axk ) − A x∗ − A xk , PD (Ax∗ ) − PD (Axk ) ≤ Theo bất đẳng thức Cauchy tính khơng giãn tốn tử chiếu PD ta Ax∗ − Axk , PD Ax∗ − PD Axk ≤ Ax∗ − Axk Từ 2γ − γ L ≥ 0, ta có Sx∗ − Sxk ≤ x∗ − xk Chính xác hơn, ta có x∗ − xk 2 − x∗ − xk+1 ≥ γ L( Ax∗ − Axk , PD Ax∗ − PD Axk − PD Ax∗ − PD Axk ) +(2γ − γ L)( Ax∗ − Axk Do đó, dãy x∗ − xk 2 − Ax∗ − Axk , PD Ax∗ − PD Axk ) giảm (nên dãy xk bị chặn) Ta có Ax∗ − Axk , PD Ax∗ − PD Axk − PD Ax∗ − PD Axk → 0, Ax∗ − Axk − Ax∗ − Axk , PD Ax∗ − PD Axk → 0, hai dãy không âm Đặt x∗∗ điểm tụ dãy xk Thì ta có Ax∗ − Ax∗∗ , PD Ax∗ − PD Ax∗∗ = PD Ax∗ − PD Ax∗∗ , 50 Ax∗ − Ax∗ , PD Ax∗ − PD Ax∗∗ − Ax∗ − Ax∗∗ , nghĩa Ax∗ − Ax∗ ∗ = PD Ax∗ − PD Ax∗∗ Theo tính chất hình chiếu ta có PD Ax∗ − Ax∗ = PD Ax∗∗ − Ax∗∗ Vậy x∗∗ thuộc F Thay x∗ ∈ F x∗∗ , dãy giảm có dãy hội tụ đến nên dãy hội tụ đến Sau tơi xin trình bày hai bước ví dụ để minh họa cho thuật tốn: Ví dụ 2.3 Cho C, D tập lồi đóng, khác rỗng C = x = (x1 , x2 , x3 ) : x21 + x22 + x33 ≤ D = y T = (y1 , y2 ) : ≤ y1 ≤ 1; ≤ y2 ≤  Với A : R3 → R2 ánh xạ tuyến tính liên tục A =  1 01 ∗ ta tìm x∗ ∈ C : A x ∈ D Đầu  tiên ta tìm L để chọn γ       1     Ta có: A.AT =  =   01 0 1 Nên L = max(2, 1) = ⇒ γ ∈ 0, Chọn γ = 2 = (0, 1) Bước lặp Chọn x0 = (0, 0, 0) ∈ C   Bây 51 T 0 Suy x1 = P C x + γ.A  PD (Ax ) − Ax 1  (0, 0, 0) = Ta có: Ax0 =  01 PD (Ax0 ) = PD (0) = (0, 1)T PD (Ax0 ) − Ax0 = (0, 1)T− (0, 0)T = (0, 1)T             AT PD (Ax0 ) − Ax0 =     =       1     0         γ.AT PD (Ax0 ) − Ax0 = 21   =  21      0       0             x0 + γ.AT PD (Ax0 ) − Ax0 =   +  12  =  12  ∈ C       0     0         PC x0 + γ.AT PD (Ax0 ) − Ax0 = PC  12  =  12      0       ⇒ x1 =  12          Bước lặp 2: Với x1 =  12    Suy x2 = PC x1 + γ.AT PD (Ax1 ) − Ax1       1     =   Ta có: Ax1 =    01 52  PD (Ax1 ) = PD    = (0, 1)T 2 PD (Ax1 ) − Ax1 =    −    = 2     0         AT PD (Ax1 ) − Ax1 =     =  12      0     0         γAT PD (Ax1 ) − Ax1 = 21  12  =  14      0       0             x1 + γAT PD (Ax1 ) − Ax1 =  12  +  14  =  43  ∈ C       0     0         ⇒ PC x1 + γAT PD (Ax1 ) − Ax1 = PC  43  =  34      0       ⇒ x2 =  43    Cứ ta xây dựng dãy lặp xk hội tụ đến nghiệm toán  ban đầu  53 Kết luận Luận văn nghiên cứu phép chiếu khoảng cách lên tập lồi đóng khơng gian Hilbert ứng dụng việc giải toán tối ưu lồi toán chấp nhận tách Cụ thể luận văn đề cập đến vấn đề sau: Chứng minh tồn tính phép chiếu lên tập lồi đóng khơng gian Hilbert thực Áp dụng phép chiếu khoảng cách để chứng minh tồn nghiệm phương pháp giải tốn tối ưu lồi khơng gian hữu hạn chiều Giới thiệu thuật toán chiếu đạo hàm Giời thiệu toán tối ưu lồi, toán chấp nhận tách áp dụng phương pháp chiếu đạo hàm để giải hai toán Đưa số ví dụ minh họa cụ thể 54 Tài liệu tham khảo Tiếng Việt [1] Nguyễn Thị Bạch Kim (2008), Giáo trình phương pháp tối ưu, Nhà xuất Đại học Bách khoa [2] Đỗ Văn Lưu Phan Huy Khải (2000), Giải tích lồi, Nhà xuất Khoa học Kỹ thuật Hà Nội [3] Lê Dũng Mưu (1993), Các phương pháp tối ưu, Nhà xuất Khoa học Kỹ thuật [4] Lê Dũng Mưu, Nguyễn Văn Hiền - Nguyễn Hữu Điển (2015), Nhập mơn giải tích lồi ứng dụng, Nhà xuất Đại học Quốc gia Hà Nội [5] Trần Vũ Thiệu - Nguyễn Thị Thu Thủy (2011), Giáo trình tối ưu phi tuyến, Nhà xuất Đại học Quốc gia Hà Nội [6] Hồng Tụy (2005), Hàm thực Giải tích hàm, Nhà xuất Đại học Quốc gia Hà Nội Tiếng Anh [7] Byrne C., (2002), "Iterative oblique projection onto convex sets and the split feasibility problem", Inverse Problem, 18, pp 441 - 453 55 [8] Muu L.D., (2008) Optimization Theory, Lecture notes, Institute of Mathematics, VAST ... Hilbert giải tích lồi Chương 2: Phương pháp chiếu đạo hàm giải toán tối ưu lồi áp dụng vào toán chấp nhận tách Chương tác giả trình bày hai thuật tốn để giải toán tối ưu lồi toán chấp nhận tách. .. 43 Áp dụng vào toán chấp nhận tách 45 2.3.1 Phát biểu toán chấp nhận tách 45 ii 2.3.2 Áp dụng phương pháp chiếu đạo hàm giải toán chấp nhận tách ... KHOA HỌC ĐÀO THU THỦY PHƯƠNG PHÁP CHIẾU ĐẠO HÀM GIẢI BÀI TOÁN TỐI ƯU LỒI VÀ ÁP DỤNG VÀO BÀI TOÁN CHẤP NHẬN TÁCH Chuyên ngành: Toán ứng dụng Mã số: 60 46 01 12 LUẬN VĂN THẠC SĨ TOÁN HỌC NGƯỜI HƯỚNG

Ngày đăng: 24/02/2021, 21:19

Từ khóa liên quan

Tài liệu cùng người dùng

Tài liệu liên quan