Phương pháp newton nửa trơn cho bài toán bù phi tuyến

ĐẠI HỌC ĐÀ NẴNG TRƯỜNG ĐẠI HỌC SƯ PHẠM KHOA TỐN - - KHĨA LUẬN TỐT NGHIỆP ĐỀ TÀI: PHƯƠNG PHÁP NEWTON NỬA TRƠN CHO BÀI TOÁN BÙ PHI TUYẾN Cán hướng dẫn: ThS Phan Quang Như Anh Sinh viên: Đinh Xuân Minh Lớp: 15CTUD1 Đà Nẵng, Năm 2019 MỤC LỤC LỜI CẢM ƠN MỞ ĐẦU CHƯƠNG MỘT SỐ KIẾN THỨC CHUẨN BỊ 1.1 Không gian Metric 1.1.1 Sự hội tụ 1.1.2 Tập mở Phần 1.1.3 Tập đóng Bao đóng tập hợp 1.1.4 Tập compact 1.2 Không gian topo 1.3 Không gian Euclid 1.4 Tập lồi - Nón lồi 1.5 Các Định lý tách 1.6 Gradient [2] 1.7 Hàm lồi 10 10 1.8 Phép chiếu trực giao 18 1.9 Đạo hàm riêng 22 1.10 Điểm bất động 23 CHƯƠNG BẤT ĐẲNG THỨC BIẾN PHÂN VÀ ỨNG DỤNG 24 2.1 Phát biểu toán 24 MỤC LỤC 2.2 Sự tồn nghiệm toán bất đẳng thức biến phân 2.3 Ứng dụng toán bất đẳng thức biến phân 24 29 CHƯƠNG PHƯƠNG PHÁP NEWTON NỬA TRƠN CHO BÀI TOÁN BÙ PHI TUYẾN 36 3.1 Giới thiệu 36 3.2 Tính chất tốn tử Φλ 3.3 Tính chất hàm Ψλ 3.4 Thuật tốn Sự hội tụ 3.5 Kết tính tốn 37 44 50 53 KẾT LUẬN 55 TÀI LIỆU THAM KHẢO 56 NHỮNG KÍ HIỆU DÙNG TRONG LUẬN VĂN Tập hợp số thực Tập hợp phần tử không gian Euclid - n chiều arg {f (x) : x ∈ C} Tập hợp điểm cực tiểu hàm f C intC Phần tập C ∀x Với x x := y x dược gán y |β| Trị tuyệt đối số thực β ∃x Tồn x x Chuẩn véc tơ x x, y Tích vơ hướng hai véc tơ x y A⊂B Tập A tập thực tập B A⊆B Tập A tập B A∪B Tập A hợp với tập B A∩B Tập A giao với tập B B Tích Đề-các hai tập A B δC (.) Hàm C k x →x Dãy xk hội tụ tới x V I(F, C) Bài toán bất đẳng thức biến phân DV I(F, C) Bài toán đối ngẫu của toán (V I) N CP (F ) Bài toán bù phi tuyến Sol(F, C) tập nghiệm toán V I(F, C) ∗ Sol(F, C) tập nghiệm toán đối ngẫu DV I(F, C) R Rn LỜI CẢM ƠN Lời khóa luận em xin gửi lời cảm ơn sâu sắc tới cô giáo hướng dẫn ThS Phan Quang Như Anh tận tình hướng dẫn em suốt q trình thực để em hồn thành khóa luận Em xin gửi lời cảm ơn chân thành đến tất thầy giáo tận tình dạy bảo em suốt thời gian học tập làm khóa luận Tất nội dung mà em trình bày đề tài cịn chưa đầy đủ, chí có đơi chỗ chưa thật xác vấn đề đầy tính phức tạp Bởi lần mong có đóng góp ý kiến nhận xét thầy, cô bạn để đề tài hoàn thiện Đinh Xuân Minh MỞ ĐẦU Tính cấp thiết đề tài Lý thuyết bất đẳng thức biến phân đời vào năm 60 kỷ XX, công cụ mạnh thống để nghiên cứu toán cân Bài toán bất đẳng thức biến phân giới thiệu lần vào năm 1966 Những nghiên cứu bất đẳng thức biến phân liên quan tới việc giải toán biến phân, toán điều khiển tối ưu toán biên cho phương trình đạo hàm riêng Bất đẳng thức biến phân cơng cụ hữu ích việc nghiên cứu giải toán cân kinh tế, khí, nghiên cứu tốn tử vật lí toán Bài toán bất đẳng thức biến phân liên quan mật thiết đến toán tối ưu khác Gần đây, toán bất đẳng thức biên phân đề tài nhiều người quan tâm nghiên cứu vai trị sử dụng cơng cụ lập trình tốn học mơ hình lớp rộng vấn đề phát sinh ngành khoa học túy ứng dụng Trong hướng nghiên cứu gần đây, việc giải toán bất đẳng thức biến phân đưa việc giải toán tương đương có tên tốn bù phi tuyến (Nonlinear complementarity problems - NCP) [4] Với mong muốn tìm hiểu kiến thức so với thân, gợi ý hướng dẫn cô Phan Quang Như Anh, em chọn đề tài: Phương pháp Newton nửa trơn cho tốn bù phi tuyến để làm khóa luận tốt nghiệp Mục đích nghiên cứu Tìm hiểu, nghiên cứu kỹ tài liệu từ nhiều nguồn khác nhau, cố gắng lĩnh hội kiến thức bất đẳng thức biến phân ứng dụng nó, tốn bù phi tuyến, phương pháp Newton nửa trơn áp dụng cho toán bù phi tuyến Đối tượng nghiên cứu Đối tượng nghiên cứu là: - Bất đẳng thức biến phân - Bài toán bù phi tuyến - Phương pháp Newton nửa trơn áp dụng cho toán bù phi tuyến Bố cục khóa luận Ngồi phần mở đầu, kết luận, tài liệu tham khảo, khóa luận trình bày ba chương: Chương 1: Kiến thức chuẩn bị Chương trình bày kiến thức liên quan đến không gian Euclid - n chiều, tập lồi, nón lồi, hàm lồi, đạo hàm riêng, gradient, phép chiếu trực giao Chương 2: Trình bày toán bất đẳng thức biến phân ứng dụng, định lý nghiệm toán bất đẳng thức biến phân, mối liên hệ toán bất đẳng thức biến phân toán bù phi tuyến Chương 3: Trình bày phương pháp Newton nửa trơn cho toán bù phi tuyến Thuật toán đầu giống phương pháp Newton cổ điển ứng dụng cho hệ phương trình trơn Tuy nhiên, điểm khác biệt ta sử dụng khái niệm Jacobian suy rộng theo Clark [14] thay dùng khái niệm Jacobian cổ điển Thuật tốn hội tụ tồn cục với tốc độ hội tụ siêu tuyến tính CHƯƠNG MỘT SỐ KIẾN THỨC CHUẨN BỊ 1.1 Không gian Metric Định nghĩa 1.1.1 Cho X = ∅ Một ánh xạ d từ X × X vào R gọi metric X điều kiện sau thỏa mãn ∀x, y, z ∈ X : i d(x, y) ≤ ; d(x, y) = ⇔ x = y ii d(x, y) = d(y, x) iii d(x, y) ≥ d(x, z) + d(z, y) (bất đẳng thức tam giác) Nếu d metric X cặp (X, d) khơng gian Metric Nếu d metric X thỏa mãn tính chất sau |d(x, y) − d(uv)| ≥ d(x, u) + d(y, v) 1.1.1 Sự hội tụ Định nghĩa 1.1.2 Cho khơng gian metric (X, d) Ta nói dãy phần tử {xn } ⊂ X hội tụ phần tử x ∈ X lim d (xn , x) = n→∞ Khi ta viết lim xn = x (X, d) n→∞ xn → x limxn = x Như vậy, lim xn = x (X, d) có ý nghĩa n→∞ ∀ε > 0, ∃n0 : ∀n ∈ N∗ , n ≥ ⇒ d (xn , x) < ε Ta ý rằng, metric khác tập X sinh hội tụ khác 1.1.2 Tập mở Phần Cho không gian metric (X, d) Với x0 ∈ X, r > 0, ta ký hiệu B(x0 , r) = {x ∈ X : d(x, x0 ) < r} gọi cầu mở tâm x0 , bán kính r Định nghĩa 1.1.3 Cho tập hợp A ⊂ X Điểm x gọi điểm tập hợp A ∃r > : B(x, r) ⊂ A Tập hợp tất điểm A gọi phần A, ký hiệu IntA Hiển nhiên ta có IntA ⊂ A Tập A gọi tập mở điểm điểm Ta qui ước ∅ mở Như vậy, A mở ⇔ A = IntA ⇔ (∀x ∈ A∃r > : B(x, r) ⊂ A) 1.1.3 Tập đóng Bao đóng tập hợp Cho khơng gian metric (X, d) Với x0 ∈ X, r > 0, ta ký hiệu B(x0 , r) = {x ∈ X : d(x, x0 ) < r} gọi cầu mở tâm x0 , bán kính r Định nghĩa 1.1.4 Tập hợp A ⊂ X gọi tập đóng X A tập mở Điểm x gọi điểm dính tập A A ∩ B(x, r) = ∅, ∀r > Tập tất điểm dính A gọi bao đóng A, ký hiệu A Hiển nhiên ta có A ⊂ A 1.1.4 Tập compact Định nghĩa 1.1.5 Cho không gian metric (X, d) Một họ {Gi : i ∈ I} tập X gọi phủ tập A ⊂ X A ⊂ Gi i∈I Nếu I tập hữu hạn ta nói phủ hữu hạn Nếu Gi tập mở ta nói phủ phủ mở Tập A ⊂ X gọi tập compact từ phủ mở A ta ln lấy phủ hữu hạn Tập A gọi compact tương đối A tập compact 1.2 Không gian topo Định nghĩa 1.2.1 Cho tập hợp X = ∅ Họ τ tập hợp X gọ topo X : ∅ ∈ τ, X ∈ τ Gi ∈ τ {Gi }i∈I ⊂ τ ⇒ i ∀G1 , G2 ∈ tau ⇒ G1 ∪ G2 ∈ τ Tập hợp X topo X gọi không gian topo Ký hiệu : (X, τ ) Định nghĩa 1.2.2 Cho A ⊂ X V ⊂ X V gọi lân cận tập hợp A ∃G ∈ τ : A ⊂ G ⊂ V Nếu A = {x} V gọi lân cận điểm x Nếu V tập mở V lân cận mở A 1.3 Không gian Euclid Định nghĩa 1.3.1 [2] Trong không gian Euclid - n chiều Rn , tích vơ hướng hai véc tơ x = (x1 , x2 , , xn ) ∈ Rn y = (y1 , y2 , , yn ) ∈ Rn số thực, ký hiệu x, y , xác định bởi: x, y := x1 y1 + x2 y2 + + xn yn Khi đó, với x, y, z ∈ Rn λ ∈ R, ta có tính chất sau: x, y = y, x , x + y, z = x, z + y, z , λx, y = λ x, y , x, x ≥ 0, x, x = ⇔ x = Định nghĩa 1.3.2 [2] Với x = (x1 , x2 , , xn ) ∈ Rn , chuẩn Euclid x, hay gọi tắt chuẩn, ký hiệu x , số thực không âm xác định bởi: x := x, x = x21 + x22 + + x2n Với x, y ∈ Rn , λ ∈ R, chứng minh tính chất chuẩn sau: x ≥ 0, x = ⇔ x = λx = |λ| x x+y ≤ x + y Khi ta chứng minh bất đẳng thức Cauchy-Schwarz: | x, y | ≤ x y ∀x, y ∈ Rn Định nghĩa 1.3.3 [4] Dãy điểm xk ⊂ Rn , gọi hội tụ đến x ∈ Rn , viết tắt xk → x k → ∞, lim k→∞ xk − x = 43 cho H = Da + Db F (x∗ ) (3.2.6) với Không tính tổng quát, ta giả sử F (x∗ )  ∗ ∗ (3.2.7) F (x )αα F (x )αβ F (x∗ )αγ F (x∗ ) =  F (x∗ )βα F (x∗ )ββ F (x∗ )βγ  F (x∗ )γα F (x∗ )γβ F (x∗ )γγ  và, (3.2.8) Da = Da,α 0 Da,β 0 Da,γ , (3.2.9) Db = Db,α 0 Db,β 0 Db,γ , Da,α := (Da )α,α Lấy p ∈ Rn véc tơ với Hp = Nếu ta chọn véc tơ p có dạng p = (pα , pβ , pγ ), kết hợp đẳng thức từ (3.2.6) đến (3.2.9), hệ phương trình tuyến tính Hp = viết sau: (3.2.10) Da,α pα + Bb,α F (x∗ )αα pα + F (x∗ )αβ pβ + F (x∗ )αγ pγ = 0α , (3.2.11) Da,β pβ + Bb,β F (x∗ )βα pα + F (x∗ )ββ pβ + F (x∗ )βγ pγ = 0β , (3.2.12) Da,γ pγ + Bb,γ F (x∗ )γα pα + F (x∗ )γβ pβ + F (x∗ )γγ pγ = 0γ Từ mệnh đề 2.5, ta có Da,α = 0α , Da,γ = −κIγ , Db,α = −κIα , Db,γ = 0γ với số κ > Do (3.2.12) cho ta (3.2.13) pγ = 0γ , (3.2.10) trở thành F (x∗ )αα pα + F (x∗ )αβ pβ = 0α Vì x∗ nghiệm R-chính quy tốn bù phi tuyến, ma trận F (x∗ )αα không suy biến Từ ta phương trình (3.2.14) ∗ pα = −F (x∗ )−1 αα F (x )αβ pβ 44 Thay điều vào (3.2.11), sử dụng (3.2.13), xếp lại (3.2.15) ∗ Da,β + Db,β F (x∗ )ββ − F (x∗ )βα F (x∗ )−1 αα F (x )αβ pβ = 0β Từ Schur-phần bù ∗ F (x∗ )ββ − F (x∗ )βα F (x∗ )−1 αα F (x )αβ P-Matrix ta giả sử R-chính quy x∗ , hai ma trận đường chéo Da,β , Db,β giả sử ma trận nửa xác định dương cho tổng chúng xác định âm từ Mệnh đề 2.6, qua đẳng thức (3.2.15) Mệnh đề 2.7 ta nhận thấy pβ = 0β Nhưng ta đồng thời có pα = 0α từ (3.2.14), suy p = Điều chứng tỏ H khơng suy biến 3.3 Tính chất hàm Ψλ Định lý 3.3.1 [5] Hàm Ψλ khả vi liên tục với ∇Ψλ (x) = H T Φλ (x) cho H ∈ ∂Φλ (x) Chứng minh Từ kết trước, ta viết hàm Ψλ : Ψλ (x) = Φλ (x)T Φλ (x) = với ánh xạ ψλ : R2 (3.3.1) ψλ (xi , Fi (x)), i∈I → R cho 1 ψλ (a, b) := (ϕλ (a, b))2 = 2 2 (a − b) + λab − a − b Để thiết lập số kết quan trọng hàm Ψλ , ta tìm hiểu số tính chất ψλ Ta bắt đầu với Bổ đề sau Bổ đề 3.3.2 [5] ψλ hàm khả vi liên tục ∇ψλ (0, 0) = ta ln có ∂ψλ ∂ψλ (a, b) (a, b) ≥ ∂a ∂b với a, b ∈ R Chứng minh Tính khả vi liên tục ψλ ta biết qua Định lý 3.3.1 Ta biết (a, b) = (0, 0) Do giả sử (a, b) = (0, 0) Ta sử 45 dụng quy tắc dây chuyền phương trình sau ∂ψλ (a, b) = ϕλ (a, b)  ∂a (a − b) + λb (a − b)2 + λab  − 1 Đầu tiên ta thấy (a − b) + λb (3.3.2) − ≤ (a − b) + λab Giả sử (a − b)2 + λab (a − b) + λb > Vì vế phải hiển nhiên biểu thức khơng âm, ta bình phương hai vế để 4(a − b)2 + λ2 b2 + 4λ (a − b) b > 4(a − b)2 + 4λab Từ biểu thức ta suy λ(λ − 4)2 b > nhiên, phủ định giả định chung λ ∈ (0, 4) Do (3.3.2) Mặt khác, ta có  ∂ψλ (a, b) = ϕλ (a, b)  ∂a  (a − b) + λb − 1 (a − b) + λab cách tương tự phần chứng minh, ta có (a − b) + λb − ≤ (a − b) + λab Vì ∂ψλ ∂a λ (a, b) ∂ψ ∂b (a, b) = (ϕλ (a, b)) √2(a−b)+λb (a−b) +λab −1 −2(a−b)+λa √ −1 2 (a−b) +λab ≥0 Bổ đề sẽ cho ta đặc điểm tiên hàm cực tiểu toàn cục ψλ phần đạo hàm riêng theo biến hàm Bổ đề 3.3.3 [5] Ta ln có ψλ (a, b) = ⇔ ∇ψλ (a, b) = ⇔ ∂ψλ ∂ψλ (a, b) = ⇔ (a, b) = ∂a ∂b Chứng minh ψλ (a, b) = (a, b) cực tiểu tồn cục hàm ψλ Vì ∇ψλ (a, b) = (0, 0) điều kiện tính tối ưu cực tiểu hóa khơng giới hạn 46 Bổ đề 3.3.2 Mặt khác, (a, b) điểm dừng, lẽ hiển nhiên, hai đạo hàm riêng triệt tiêu điểm (a, b) Ta cần chứng minh đẳng thức kéo theo sau ∂ψλ (a, b) = ⇒ ψλ (a, b) = ∂a (3.3.3) phép tất suy tương ứng đạo hàm riêng triệt tiêu argument thứ hai Từ đó, kết kéo theo cuối đồng dạng đẳng thức (3.3.3), ta cần xem xét (3.3.3) Trong Bổ đề 3.3.2, ta giả sử (a, b) = (0, 0) Ta có   ∂ψλ (a, b) = ϕλ (a, b)  ∂a (a − b) + λb − 1 (a − b) + λab Nếu ϕλ (a, b) = 0, giả sử (a − b) + λb − = 0, (a − b) + λab nghĩa (a − b) + λb = (3.3.4) (a − b)2 + λab Bình phương cho hai vế tiến hành rút gọn ta thu λ(λ − 4)b2 = Điều bao hàm b = λ ∈ (0, 4) Bây ta thay b = vào (3.3.4) √ 2a = a2 = |a| a ≥ Tuy nhiên, ϕλ hàm bù phi tuyến, ta ln có ϕλ (a, b) = dẫn đến ψλ (a, b) = Bây đến việc chứng minh kết phần Ta biết ma trận M ∈ Rn×n gọi P0 -matrix với véc → − tơ x ∈ Rn khác , ln có số i0 = i0 (x) ∈ I với xi0 = xi0 [M x]i0 ≥ Định lý 3.3.4 [5] Giả sử x∗ ∈ Rn điểm dừng Ψλ cho Jacobian F (x) P0 -matrix Khi x∗ nghiệm tốn bù phi tuyến Chứng minh Ta biết rằng, Ψλ hàm cho Ψλ (x) = ψλ (xi , Fi (x)) i∈I 47 với ψλ định nghĩa (3.3.1) Khi x∗ ∈ Rn điểm dừng, ta có (3.3.5) = ∇Ψλ (x∗ ) = ∂ψλ ∗ ∂ψλ ∗ (x , F (x∗ )) + F (x∗ )T (x , F (x∗ )), ∂a ∂b với T ∂ψλ ∗ (xi , Fi (x∗ )), ∂a ∂ψλ ∗ (x , F (x∗ )) := ∂a ., ∂ψλ ∗ (x , F (x∗ )) := ∂b ∂ψλ ∗ , (xi , Fi (x∗ )), ∂b ∈ Rn đồng thời T ∈ Rn Kết hợp biểu thức vào (3.3.5), ta thu ∂ψλ ∗ ∂ψλ ∗ (xi , Fi (x∗ )) + F (x∗ )T (x , F (x∗ )) ∂a ∂b Nhân phương trình thứ i cho (3.3.6) ∂ψλ ∗ ∗ ∂b (xi , Fi (x )) = ∀i ∈ I i ta có ∂ψλ ∗ ∂ψλ ∗ ∂ψλ ∗ ∂ψλ ∗ (xi , Fi (x∗ )) (xi , Fi (x∗ )) + (xi , Fi (x∗ )) F (x∗ )T (x , F (x∗ )) ∂a ∂b ∂b ∂b với i ∈ I Ta giả sử ∂ψλ ∗ ∗ ∂b (xi , Fi (x )) = i = Với giả thiết, F (x) F (x)T P0 -matrix Do ln có số i0 ∈ I cho ∂ψλ ∂b (xi0 ∗ , Fi0 (x∗ )) = (3.3.7) ∂ψλ ∗ ∂ψλ (xi0 ∗ , Fi0 (x∗ )) F (x)T (x , F (x∗ )) ∂b ∂b ≥ i0 Mặt khác, ta có (3.3.8) ∂ψλ ∂ψλ (xi0 ∗ , Fi0 (x∗ )) (xi0 ∗ , Fi0 (x∗ )) ≥ ∂a ∂b từ Bổ đề 3.3.2 Ta lấy (3.3.6) - (3.3.8), ta ∂ψλ ∂ψλ (xi0 ∗ , Fi0 (x∗ )) (xi0 ∗ , Fi0 (x∗ )) = ∂a ∂b Do Bổ đề 3.3.3 bao hàm ψλ (xi0 ∗ , Fi0 (x∗ )) = Vì điều bao hàm phương trình 3.3.3, dẫn đến việc phủ định lựa chọn số i0 ∈ ∂ψλ ∗ ∗ ∂b (xi0 , Fi0 (x )) = từ Bổ đề λ ∗ ∗ I Từ ∂ψ ∂b (xi0 , Fi0 (x )) = dẫn đến Ψλ (x∗ ) = suy x∗ nghiệm tốn bù phi tuyến Bổ đề 3.3.5 [5] Ln tồn số c1 > c2 > cho (3.3.9) c1 |min {a, b}| ≤ |ϕλ (a, b)| ≤ c2 |min {a, b}| 48 với a, b ∈ R Chứng minh Chọn λ ∈ (0, 4) cố định Ta chứng minh bất đẳng thức (3.3.9) bao gồm số đây: c1 := c1 (λ) := − λ/4 < c2 := c2 (λ) := + √ λ > Ta biết < c21 < c21 + 2c1 < 4c1 = − λ (3.3.10) < λ + 2(c2 − 2) (3.3.11) Bây ta xem xét trường hợp: Trường hợp 1:a ≥ 0, b ≥ Dễ dàng nhận thấy ϕλ (a, b) ≤ Do |ϕλ (a, b)| = a + b − (a − b)2 + λab Khi ab ≥ 0, ta thu |ϕλ (a, b)| ≤ a + b − (a − b)2 = a + b − |a − b| = |min {a, b}| ≤ c2 |min {a, b}| Để chứng minh c1 |min{a, b}| ≤ |ϕλ (a, b)|, ta phải biết 2c1 (a + b) {a, b} ≤ 2c1 (ab + ab) = 4c1 ab = (4 − λ) ab ≤ (4 − λ) ab + c21 min2 {a, b} , (a + b)2 − (4 − λ) ab ≤ c21 {a, b} − 2c1 (a + b) {a, b} + (a + b)2 Khi c1 {a, b} ≤ {a, b} ≤ a + b, điều bao gồm (a − b)2 + λab ≤ |c1 {a, b} − (a + b)| = a + b − c1 {a, b} c1 |min {a, b}| = c1 {a, b} ≤ a + b − (a − b)2 + λab = |ϕλ (a, b)| Trường hợp 2: a < 0, b < Khi ta có ϕλ (a, b) ≥ suy |ϕλ (a, b)| = (a − b)2 + λab − a − b Điều bao gồm |ϕλ (a, b)| > (a − b)2 − a − b = |a − b| − a − b = |min {a, b}| > c1 |min {a, b}| ab > Để chứng minh |ϕλ (a, b)| ≤ c2 |min {a, b}|, ta giả sử không 49 tính tổng qt, ta có |a| ≥ |b| Khi λ = (c2 − 2)2 phần định nghĩa c2 công thức (3.3.11), ta thu bất đẳng thức < (λ + 2c2 − 4) λ |a| |b| = c22 − 2c2 |a| |b| ≤ c22 − 2c2 |a|2 (λ − 4) |a| |b| ≤ c22 |a|2 − 2c2 |a| (|a| + |b|) = c22 |a|2 + 2c2 |a| (a + b) Điều bao gồm (a + b)2 − (λ − 4) ab ≤ (c2 |a| + a + b)2 mà c2 |a| + a + b = c2 |a| − |a| − |b| ≥ (c2 − 2) |a| ≥ cho ta bất đẳng thức bên (a − b)2 + λab − a − b ≤ c2 |a| = c2 max {|a| , |b|} = c2 |min {a, b}| Trường hợp 3: a ≥ 0, b < Trường hợp ta có ab ≤ ϕλ (a, b) ≥ 0, ta có |ϕλ (a, b)| = (a − b)2 + λab − a − b Ta lại có |ϕλ (a, b)| ≤ (a − b)2 − a − b = |min {a, b}| < c2 |min {a, b}| Để suy bất đẳng thức (3.3.9), ta xét thêm trường hợp phụ Trường hợp 3a: a + b > Khi a + b > 0, ta có a > 0, b = {a, b} ≤ trước (3.3.10) ta có: < c21 (a + b) − 2c1 b = c21 a + 2c1 a + c21 b − 2c1 (a + b) < (4 − λ) a − c21 |b| − 2c1 (a + b) c21 |b|2 + 2c1 |b| (a + b) ≤ (4 − λ) a |b| = − (4 − λ) ab Do c21 |b|2 + 2c1 |b| (a + b) + (a + b)2 ≤ (a + b)2 − (4 − λ) ab = (a − b)2 + λab Căn bậc hai vế ta ≤ c1 |b| + a + b ≤ (a − b)2 + λab Do ta nhận c1 |min {a, b}| = c1 |b| ≤ (a − b)2 + λab − a − b = |ϕλ (a, b)| 50 Trường hợp 3b: a + b ≤ Từ biểu thức (3.3.10), ta có: ≤ a2 c21 ≤ −abc21 ≤ −ab(4 − λ) ac1 ≤ (a + b)2 − ab (4 − λ) = −ab (4 − λ) ≤ (a + b)2 − λab Mặt khác, ta đồng thời có (1 − c1 )(a + b) ≤ c1 < Do a + b − c1 b ≤ ac1 a + b − c1 b ≤ ac1 ≤ (a − b)2 + λab Điều bao gồm (a − b)2 + λab − a − b = |ϕλ (a, b)| c1 |min {a, b}| = c1 |b| = −c1 b ≤ Trường hợp 4: a < 0, b ≥ Trường hợp phần chứng minh giống hệt trường hợp nên ta xem lại Với hệ từ Bổ đề 3.3.5 kết biết hàm cực tiểu, ta đạt thêm định lý Trong định lý này, ta gọi hàm F : Rn → Rn uniform P-function có module µ > cho max (xi − yi ) (Fi (x) − Fi (y)) ≥ µ x − y i∈I với x, y ∈ Rn Định lý 3.3.6 [5] Nếu F P-function đều, tập hợp mức L(c) := {x ∈ Rn |ψλ (x) ≤ c} compact với c ∈ R cố định Định lý 3.3.7 [5] Nếu F P-function liên tục Lipschitz đều, tồn số c3 > cho x − x∗ ≤ c3 ψλ (x) với x ∈ Rn , với x∗ nghiệm toán bù phi tuyến 3.4 Thuật toán Sự hội tụ Thuật toán sau dùng để giải toán bù phi tuyến việc giải tương đương hệ phương trình phi tuyến Φλ (x) = 51 Ta ứng dụng phương pháp Newton không trơn để giải hệ phương trình phi tuyến Phương pháp tổng quát hóa việc sử dụng hàm Ψλ trơn Nhấn mạnh thuật toán đầu giống với phương pháp Newton cổ điển ứng dụng cho hệ phương trình trơn Điểm khác biệt ta phải chọn phần tử H ∈ ∂Φλ (x) thay chọn Jacobian cổ điển Φλ x Thuật toán (Phương pháp Newton nửa trơn) (S.0) (Khởi tạo) Chọn λ ∈ (0, 4), x0 ∈ Rn , ρ > 0, β ∈ (0, 1), σ ∈ (0, 1/2), p > 2, ≥ 0, tập hợp k:=0 (S.1) (Điều kiện dừng) Nếu ∇Ψλ xk ≤ , dừng vịng lặp (S.2) (Tìm kiếm phương án tính tốn) Chọn phần từ Hk ∈ ∂Φλ (xk ) Tìm nghiệm dk ∈ Rn hệ tuyến tính Hk d = −Φλ xk Nếu hệ khơng tìm nghiệm điều kiện giảm ∇Ψλ (xk )T dk ≤ −ρ dk p không thỏa mãn, đặt dk := ∇Ψλ (xk ) (S.3) (Tìm kiếm) Tính tk := max β | = 0, 1, 2, cho Ψλ xk + tk dk ≤ Ψλ (xk ) + σ∇Ψλ (xk )T dk (S.4) (Thay nghiệm tìm được) Đặt xk+1 := xk + tk dk , k ← k + 1, tiến hành quay lại bước (S.1) Tính chất tồn cục địa phương thuật tốn tóm tắt định lý sau Định lý 3.4.1 (a) Mỗi điểm tụ dãy xk tạo thành từ thuật toán điểm dừng Ψλ (b) Giả sử x∗ điểm tụ bị lập dãy xk tạo thuật tốn Vậy dãy xk hội tụ đến điểm x∗ (c) Giả sử x∗ điểm tích lũy dãy xk tạo thuật toán cho x∗ nghiệm R-chính quy tốn bù phi tuyến Như vậy: 52 (i) Dãy xk hội tụ đến x∗ (ii) Hướng tìm kiếm dk suy từ nghiệm phương trình tuyến tính Hk d = −Φλ (xk ) bước (S.2) thuật toán (iii) Số lượng bước lặp tối đa tk = chấp nhận với k đủ lớn (iv) Tốc độ hội tụ tốn siêu tuyến tính (v) Ngoài ra, F ánh xạ LC , tốc độ hội tụ Q-bậc Chứng minh Dựa kết mục 3, việc chứng minh giống Định lý 3.1 De Luca, Facchinei and Kanzow [7] cho thuật toán liên quan Điểm khác biệt tính chất (b) Định lý, ta phải đảm bảo điều kiện R-chính quy phần (c) điểm tụ bị cô lập x∗ dãy xk Giả sử điều không khả thi Khi Ψλ xk dãy đơn điệu giảm, điểm tụ x∗ cho toán bù phi tuyến, dẫn đến dãy Ψλ xk điểm tụ dãy xk → Do nghiệm toán bù phi tuyến Tuy nhiên nghiệm R - quy nghiệm địa phương nhất, x∗ thiết phải điểm tụ bị cô lập dãy xk Nhưng mục (i) phần (c) suy từ (b) Sử dụng Định lý 3.2.5 3.3.1, ta chứng minh mục khác Định lý giống với Định lý tương ứng [7] (hoặc [8,9]) Ta biết mục (a) (b) Định lý 3.4.2 cho ta kết hội tụ toàn cục đến điểm cố định hàm Ψλ ta quan tâm đến việc tìm cực tiểu tồn cục Ψλ nghiệm toán bù phi tuyến Tuy nhiên, Định lý 3.3.4 cho giả thiết yếu điểm cố định nghiệm toán bù phi tuyến Ta nhấn mạnh tính chất P0 -matrix dùng Định lý 3.3.4 khả thi, cụ thể, số lượng lớp hàm P0 lớn đặc biệt hàm F đơn điệu [12] Sự tồn điểm tụ điểm dừng Ψλ nêu Định lý 3.3.6 Cuối cùng,ta nhấn hội tụ toàn cục Thuật toán 4.1 mục (c) Định lý 3.4.2 không yêu cầu giả thiết không suy biến cho nghiệm 53 x∗ 3.5 Kết tính tốn Sau số toán tiếng áp dụng Thuật tốn Newton nửa trơn chương để tìm nghiệm gần cho toán bù phi tuyến chạy thuật toán MATLAB với tất điểm x0 điểm toán MCPLIB Dirkse and Ferris [12] Ferris and Rutherford [13] Ta sử dụng thêm ý sau để giúp thuật toán tối ưu hơn: Thay quy tắc đơn điệu Armijo từ bước (S.3) Thuật tốn kỹ thuật tìm kiếm đường không đơn điệu đưa Grippo, Lampariello Lucidi [15] Sau bổ sung ý vào thuật tốn Ta khỏi vịng lặp có điều kiện sau: k > kmax , Φ(xk ) < tk < tm in Ta sử dụng quy định giá trị biến sau: ρ = 10−8 , β = 0.5, σ = 10−4 , p = 2.1, kmax = 200, tm in = 10−12 , = 10−12 Tiếp đến ta tiến hành chọn λ ∈ (0, 4) Nhưng đặc biệt với λ = 2, hàm ϕλ (a, b) trở thành hàm Fischer cho ta tốc độ hội tụ toàn cục tốt mà chọn λ gần cho kết nhanh không tốt Thay suy nghĩ để chọn λ hợp lí Ta sử dụng thuật tốn để thay đổi λ vào lần lặp bước sau: (a) Đặt λ = bước lặp (b) Nếu Φ(xk ) ≥ γ1 , đặt λ := Φ(xk ), chọn λ = c1 Φxk , λ (c) Nếu Φ(xk ) ≥ γ2 , đặt λ = {c2 , λ} Dùng phương pháp này, ta giảm giá trị hàm sau bước lặp cách giảm λ ta tiến gần đến nghiệm toán bù phi tuyến Với giá trị γ1 = 10−2 , γ2 = 10−4 , c1 = 10, c2 = 10−8 Dưới bảng giá trị toán áp dụng phương pháp Newton nửa trơn với số chiều lớn: 54 Bài toán powell powell powell powell scarfanum scarfanum scarfanum scarfanum scarfbnum scarfbnum scarfbnum scarfbnum sppe sppe tobin tobin n 16 16 16 16 13 13 13 14 39 39 40 40 27 27 42 42 SP 1 2 2 k 11 20 10 10 19 25 20 28 14 F − ev 11 14 21 11 11 17 11 24 36 29 36 40 11 15 F − ev 10 12 21 11 11 20 26 21 29 10 15 Φ(xf ) 1.5e-18 1.5e-23 3.7e-13 2.2e-15 7.6e-20 4.4e-17 7.7e-15 7.0e-19 1.0e-26 5.8e-28 1.4e-15 1.4e-14 3.1e-14 6.7e-13 1.3e-13 2.2e-13 ∇Φ xf 4.2e-9 9.2e-11 8.6e-6 1.1e-6 1.3e-8 2.9e-7 4.9e-6 1.8e-17 4.3e-11 1.2e-11 1.3e-5 4.1e-5 1.2e-6 6.8e-6 2.1e-6 3.0e-6 Với kí hiệu cho bảng toán: n: SP: k: F − ev.: F − ev.: Φ(xf ) ∇Φ xf G: N: Tên toán MCPLIB Số lượng biến Giá trị điểm bắt đầu cho MCPLIB Số lần lặp Giá trị hàm F Giá trị hàm Jacobian Giá trị hàm Φ(xf ) điểm x = xf Giá trị hàm ∇Φ (x) điểm x = xf Số lần đạo hàm Gradient Số lần lặp Newton G 0 1 0 0 0 N 11 19 10 19 24 20 24 14 55 KẾT LUẬN Sau thời gian tìm hiểu, nghiên cứu tài liệu, với giúp đỡ nhiệt tình ThS Phan Quang Như Anh luận văn em hồn chỉnh Khóa luận em tập trung nghiên cứu : "Phương pháp Newton nửa trơn cho toán bù phi tuyến" Sau em đạt kết sau: Phát biểu toán bất đẳng thức biến phân, tìm hiểu tồn nghiệm tốn bất đẳng thức biến phân ứng dụng tốn Trình bày phương pháp Newton nửa trơn cho toán bù phi tuyến mối liên hệ toán bất đẳng thức biến phân tốn bù phi tuyến Rn Thơng qua đưa số ví dụ cụ thể cho việc tìm nghiệm gần tốn Tuy nhiên kiến thức chưa đủ rộng sâu nên nội dung thực cịn nhiều hạn chế sai sót Rất mong góp ý xây dựng quý thầy bạn sinh viên để khóa luận hoàn thiện Xin chân thành cảm ơn! 56 TÀI LIỆU THAM KHẢO Tiếng Việt [1] Giải tích lồi, Đỗ Văn Lưu, Phan Huy Khải, Nhà xuất khoa học kỹ thuật Hà Nội năm 2000 [2] Toán cao cấp, Đặng Ngọc Dục, Nguyễn Viết Đức Nhà xuất Đà Nẵng năm 2009 [3] Đạo hàm Newton phương pháp Newton nửa trơn, Phạm Quý Mười, Ngô Thị Thanh Bình, Tạp chí khoa học cơng nghệ Đại học Đà Nẵng số (69) trang 157-161 năm 2013 [4] Các phương pháp tối ưu ứng dụng, Phạm Ngọc Anh, Nhà xuất thông tin truyền thông Tiếng Anh [5] A new class of semismooth Newton-type methods for nonlinear complementarity problems, Christian Kanzow and Kleinmichel, Jannuary 14, 1997 (revised September 16, 1997) [6] J.J MORE AND W.C RHEINBOLDT: On P - and S-functions and related classes of n-dimensional nonlinear mapping Linear Algebra and Applications 6, 1973 [7] T De Luca, F Facchinei and C Kanzow: A semismooth equation approach to the solution of nonlinear complementarity problems Mathematical Programming 75, 1996 [8] F Facchinei, A Fischer and C Kanzow: Inexact Newton methods for semismooth equations with applications to variational inequality problems In: G Di Pillo and F Giannessi (eds.): Nonlinear Optimization and Applications Plenum Press, New York, NY, 1996 [9] C Kanzow: Semismooth Newton-type Methods for the Solution of Nonlinear Complementarity Problems Habilitation Thesis, Institute of Applied Mathematics, University of Hamburg, Hamburg 57 [10] J.-S Pang: Newton’s method for B-differentiable equations Mathematics of Operations Research 15, 1990 [11] M.C Ferris and J.-S Pang: Engineering and economic applications of complementarity problems SIAM Review, to appear [12] M.C Ferris and C Kanzow: Recent developments in the solution of nonlinear complementarity problems Preprint, in preparation [13] S.P Dirkse and M.C Ferris: MCPLIB: A collection of nonlinear mixed complementarity problems Optimization Methods and Software 5, 1995, pp.123–156 [14] F.H Clarke: Optimization and Nonsmooth Analysis John Wiley and Sons, New York, NY, WI, August 1983 (reprinted by SIAM, Philadelphia, PA, 1990) [15] L Grippo, F Lampariello and S Lucidi: A nonmonotone linesearch technique for Newton’s method SIAM Journal on Numerical Analysis 23, 1986, pp 707–716 [16] F Facchinei, A Fischer and C Kanzow: A semismooth Newton method for variational inequalities: The case of box constraints In: M.C Ferris and J.-S Pang (eds.): Complementarity and Variational Problems State of the Art SIAM, Philadelphia, PA, 76–90 ... nó, toán bù phi tuyến, phương pháp Newton nửa trơn áp dụng cho toán bù phi tuyến Đối tượng nghiên cứu Đối tượng nghiên cứu là: - Bất đẳng thức biến phân - Bài toán bù phi tuyến - Phương pháp Newton. .. nghiệm toán bất đẳng thức biến phân, mối liên hệ toán bất đẳng thức biến phân toán bù phi tuyến Chương 3: Trình bày phương pháp Newton nửa trơn cho tốn bù phi tuyến Thuật toán đầu giống phương pháp. .. nửa trơn (b) Nếu F ánh xạ LC Φλ nửa trơn mạnh Chứng minh Đầu tiên biết Φλ nửa trơn (nửa trơn mạnh) tất hàm thành phần nửa trơn (nửa trơn mạnh) Mặt khác ta có ánh xạ C nửa trơn với ánh xạ LC nửa