tính ổn định địa phương và sự hội tụ địa phương của phương pháp Miền Tin Cậy cơ bản

Header Page of 161 TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI KHOA TOÁN Nguyễn Lan Hương TÍNH ỔN ĐỊNH ĐỊA PHƯƠNG VÀ SỰ HỘI TỤ ĐỊA PHƯƠNG CỦA PHƯƠNG PHÁP MIỀN TIN CẬY CƠ BẢN KHÓA LUẬN TỐT NGHIỆP ĐẠI HỌC Chuyên ngành: Toán giải tích Hà Nội – Năm 2016 Footer Page of 161 Header Page of 161 TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI KHOA TOÁN Nguyễn Lan Hương TÍNH ỔN ĐỊNH ĐỊA PHƯƠNG VÀ SỰ HỘI TỤ ĐỊA PHƯƠNG CỦA PHƯƠNG PHÁP MIỀN TIN CẬY CƠ BẢN KHÓA LUẬN TỐT NGHIỆP ĐẠI HỌC Chuyên ngành: Toán giải tích Người hướng dẫn khoa học: ThS BÙI NGỌC MƯỜI Hà Nội – Năm 2016 Footer Page of 161 Header Page of 161 LỜI CẢM ƠN Em xin chân thành cảm ơn Th.S Bùi Ngọc Mười tận tình hướng dẫn em đọc tài liệu góp ý chi tiết cách trình bày số kết khóa luận Em xin chân thành cảm ơn thầy cô tổ Giải tích-khoa Toán, trường Đại học sư phạm Hà Nội tạo điều kiện giúp đỡ em hoàn thành khóa luận Tuy có nhiều cố gắng thời gian khả có hạn nên vấn đề khóa luận chưa trình bày sâu sắc tránh khỏi có sai sót cách trình bày Em mong nhận góp ý xây dựng thầy cô bạn Em xin chân thành cảm ơn! Hà Nội, ngày tháng 05 năm 2016 Sinh viên Nguyễn Lan Hương i Footer Page of 161 Header Page of 161 Khóa luận tốt nghiệp Đại học Nguyễn Lan Hương LỜI CAM ĐOAN Em xin cam đoan, hướng dẫn Th.S Bùi Ngọc Mười khóa luận "Tính ổn định địa phương hội tụ địa phương phương pháp Miền Tin Cậy bản" hoàn thành không trùng khớp với đề tài khác Trong trình hoàn thành khóa luận, em thừa kế thành tựu nhà khoa học với trân trọng biết ơn Hà Nội, ngày tháng 05 năm 2016 Sinh viên Nguyễn Lan Hương i Footer Page of 161 Header Page of 161 Mục lục Lời mở đầu 1 Phương pháp Miền Tin Cậy cho toán tối ưu trơn ràng buộc 1.1 Thuật toán 1.1.1 Phương Cauchy 1.1.2 Điểm Cauchy cho hàm xấp xỉ dạng toàn phương 1.1.3 Ví dụ minh họa cho thuật toán Một số kết hội tụ thuật toán 12 1.2.1 Một số giả thiết với hàm mục tiêu 12 1.2.2 Một số giả thiết với hàm xấp xỉ 13 1.2.3 Sự hội tụ đến điểm tới hạn bậc 16 1.2 Tính ổn định địa phương hội tụ địa phương phương pháp Miền Tin Cậy 19 2.1 Một số khái niệm 19 2.2 Tính ổn định địa phương hội tụ địa phương 22 Tài liệu tham khảo Footer Page of 161 33 ii Header Page of 161 Khóa luận tốt nghiệp Đại học Nguyễn Lan Hương Lời mở đầu Bài toán tối ưu có ứng dụng rộng rãi toán học đời sống Nó nghiên cứu cách toàn diện nhờ phương pháp định tính định lượng phương pháp gradient chiếu, phương pháp gradient, phương pháp gradient liên hợp, phương pháp Newton, phương pháp nhân tử Lagrange, phương pháp điểm trong, Cùng với phát triển khoa học công nghệ, tạo thuật toán hữu hiệu giúp ta giải số toán tối ưu cách hiệu Và phương pháp miền tin cậy xem số Phương pháp Miền Tin Cậy (viết tắt TRM) áp dụng để giải toán tối ưu ràng buộc toán tối ưu có ràng buộc tuyến tính Xét toán tìm cực tiểu hàm f : Rn −→ R, giả thiết khả vi liên tục đến cấp hai bị chặn Rn Với điểm khởi đầu x0 ∈ Rn chọn tùy ý, phương pháp miền tin cậy (thuật ngữ tiếng Anh Trust-Region Method) cho phép tạo dãy lặp {xk } mà, bước k, việc chuyển từ điểm xk sang điểm xk+1 làm giảm hàm mục tiêu xấp xỉ, ký hiệu mk (x), f (x) Một cách xấp xỉ thông dụng thay hàm số f (x) phần tuyến tính-toàn phương khai triển Taylor bậc hai điểm xk Ở bước k, thay cho Rn người ta xét hình cầu tâm xk với bán kính ∆k thích hợp Quy tắc chọn ∆k , nhằm đảm bảo tốc độ tính toán cao được, phần nội dung quan trọng phương pháp Cụ thể, tỷ số Footer Page of 161 Header Page of 161 Khóa luận tốt nghiệp Đại học Nguyễn Lan Hương độ giảm hàm mục tiêu f (x) độ giảm hàm xấp xỉ bước k, tức hàm mk (x), sở để xác định bán kính ∆k+1 Bài toán bổ trợ bước k toán tìm cực tiểu hàm mk (x) hình ¯ k , ∆k ) Việc tính toán điều khiển số tham số cầu đóng B(x dương Dưới số điều kiện, dãy lặp {xk } hội tụ đến điểm tới hạn bậc toán Thuật toán miền tin cậy thuật toán làm giảm hàm mục tiêu, tức ta có f (xk+1 ) ≤ f (xk ) với k Cuốn chuyên khảo [2] tác giả A R Conn, N I M Gould, P L Toint cẩm nang đầy đủ chi tiết lý thuyết phương pháp miền tin cậy Tính ổn định địa phương hội tụ địa phương tính chất định tính cần xem xét nghiên cứu lý thuyết thuật toán Trong khóa luận này, em tìm hiểu định lí tính chất dãy lặp sinh thuật toán miền tin cậy trường hợp toán ràng buộc Footer Page of 161 Header Page of 161 Khóa luận tốt nghiệp Đại học Nguyễn Lan Hương Khóa luận gồm chương: Chương 1: Trình bày phương pháp Miền Tin Cậy toán tối ưu trơn ràng buộc Nội dung chương trình bày thuật toán Miền Tin Cậy, ví dụ minh họa cho thuật toán số kết hội tụ thuật toán Chương 2: Trình bày tính ổn định địa phương hội tụ địa phương phương pháp Miền Tin Cậy Mục 2.1 nhắc lại số khái niệm Mục 2.2 tìm hiểu định lí tính chất dãy lặp sinh thuật toán Miền Tin Cậy trường hợp toán ràng buộc Footer Page of 161 Header Page of 161 Chương Phương pháp Miền Tin Cậy cho toán tối ưu trơn ràng buộc 1.1 Thuật toán Cho f : Rn −→ R hàm khả vi liên tục đến cấp hai bị chặn Rn Xét toán (P ) sau đây: f (x) x∈Rn (1.1) Ở f (x) hàm mục tiêu Chúng ta đưa vào số kí hiệu Định nghĩa 1.1 Tập điểm tới hạn bậc (P), kí hiệu S(P), là: S(P ) = {x∗ ∈ Rn |∇f (x∗ ) = 0} Ở ∇f (x∗ ) gradient hàm f (x) điểm x∗ Footer Page of 161 (1.2) Header Page 10 of 161 Khóa luận tốt nghiệp Đại học Nguyễn Lan Hương Chúng ta xem xét kĩ thuật để sinh dãy lặp xk , mà ta hi vọng hội tụ tới điểm tới hạn bậc toán (1.1) Thuật toán miền tin cậy cho toán (P) tiến hành sau: Với bước lặp xk , xác định hàm mục tiêu xấp xỉ mk (x) lân cận thích hợp xk , mà ta gọi miền tin cậy Định nghĩa 1.2 Miền tin cậy (P) tập hợp điểm ¯k := {x ∈ Rn : B x − xk k ≤ ∆k } Ở ∆k gọi bán kính miền tin cậy, (1.3) · k chuẩn không gian Rn sử dụng bước lặp thứ k Cho hàm xấp xỉ miền tin cậy nó, tìm bước thử sk tới điểm thử xk + sk với mục đích giảm hàm xấp xỉ thỏa mãn tính bị chặn sk k ≤ ∆k Ở đây, ta tính tỉ số độ giảm hàm mục tiêu độ giảm hàm xấp xỉ Nếu tỉ số đủ lớn, tức hàm mục tiêu f (x) giảm nhanh chóng, điểm thử chấp nhận chuyển sang bước lặp tiếp k + Ở bước k + 1, điểm thử xác định xk+1 = xk + sk miền tin cậy tăng lên giữ nguyên Ngược lại, tỉ số nhỏ, chí số âm, điểm thử bị bác bỏ bước lặp giữ nguyên điểm thử miền tin cậy bị thu hẹp Khi đó, miền tin cậy (được viết tắt thuật toán BTR), mô tả sau: Thuật toán 1.1: Thuật toán miền tin cậy sở (BTR) Footer Page 10 of 161 Header Page 26 of 161 Khóa luận tốt nghiệp Đại học Nguyễn Lan Hương Khi đó, với x ∈ U1 , đảm bảo ϕ(x) ≤ g(x, v¯) = ∇2 f (x)¯ v , v¯ ≤ ∇2 f (¯ x)¯ v , v¯ + ε = ϕ(¯ x) + ε Do đó, ϕ(x) − ϕ(¯ x) ≤ ε với x ∈ U1 Với v ∈ S n−1 , hàm số h(x, v ) := g(¯ x, v ) − g(x, v ) liên tục (¯ x, v) h(¯ x, v) = nên tồn lân cận mở Uv Wv x¯ v cho g(¯ x, v ) − g(x, v ) ≤ ε ∀x ∈ Uv , ∀v ∈ Wv (2.3) Do tính compact S n−1 , từ lớp phủ mở {Wv }v∈S n−1 rút k lớp phủ {Wvi }i=1,k ¯ Đặt U2 = Uvi Đặt v ∈ S n−1 i=1 x ∈ U2 cách tùy ý Chọn i ∈ {1, , k} cho v ∈ Wvi Áp dụng (2.3) cho v = vi thu g(¯ x, v ) − ε ≤ g(x, v ) Do đó, ϕ(¯ x) − ε = g(¯ x, v¯) − ε ≤ g(¯ x, v ) − ε ≤ g(x, v ) Cho nên ϕ(¯ x) − ε ≤ min{g(x, v ) : v ∈ S n−1 } = ϕ(x) Vì vậy, có |ϕ(x) − ϕ(¯ x)|≤ ε với x ∈ U1 ∩ U2 Tính liên tục ϕ chứng minh Từ ϕ(x∗ ) giá trị riêng nhỏ ma trận ∇2 f (x∗ ) từ x∗ cực tiểu địa phương không suy biến (1.1), có ϕ(x∗ ) > Tính liên tục ϕ x∗ , với α1 ∈ (0; ϕ(x∗ )) tạo δ1 > Footer Page 26 of 161 21 Header Page 27 of 161 Khóa luận tốt nghiệp Đại học Nguyễn Lan Hương cho ϕ(x) ≥ α1 ¯ ∗ , δ1 ) ∀x ∈ B(x Vì ϕ(x) giá trị riêng nhỏ ∇2 f (x), nên α1 I ∇2 f (x) với ¯ ∗ , δ1 ) x ∈ ∀x ∈ B(x Tương tự, xem xét hàm số ψ(x) := max{g(x, v) : v ∈ S n−1 } lí luận trên, với α2 ∈ (ϕ(x∗ ), +∞), tìm δ2 > cho ψ(x) ≤ α2 ¯ ∗ , δ2 ) ∀x ∈ B(x Vì ψ(x) giá trị riêng lớn ∇2 f (x), nên hàm ý sau ∇2 f (x) ¯ ∗ , δ2 ) α2 I với ∀x ∈ B(x Đặt δ = min{δ1 , δ2 }, tính chất (2.2) Chúng ta cần kết bổ trợ tiếp, biến thể địa phương Bổ đề 5.6 từ [9] Chú ý lí luận đưa Ruszczynski [9, trang 226] hiển nhiên áp dụng cho trường hợp ta xét Bổ đề 2.2 Nếu δ, α1 , α2 , α1 < α2 số dương thỏa mãn (2.2) ∇f (x) 2.2 ≥ α1 (1 + α1 )[f (x) − f (x∗ )] α2 ¯ ∗ , δ) ∀x ∈ B(x (2.4) Tính ổn định địa phương hội tụ địa phương Trong mục này, quan tâm đến tính ổn định địa phương hội tụ địa phương dãy lặp tạo phương pháp miền tin cậy Cụ thể, tìm kiếm kết tương tự [5, Định lí 3] Ở đây, Footer Page 27 of 161 22 Header Page 28 of 161 Khóa luận tốt nghiệp Đại học Nguyễn Lan Hương tác giả chứng minh rằng: Nếu x¯ nghiệm địa phương riêng biệt toán toàn phương với tập ràng buộc đa diện lồi C, tồn số dương δ µ cho với x0 ∈ C ∩ B(¯ x, δ) với B(¯ x, δ) := {x ∈ Rn : x − x¯ < δ}, dãy lặp {xk } tạo thuật toán DCA chiếu với điểm ban đầu x0 có tính chất sau: (i) xk ∈ C ∩ B(¯ x, µ) với k ≥ 0; (ii) xk → x¯ k → ∞ Định lý 2.1 ([1]) Giả sử x∗ cực tiểu địa phương không suy biến (1.1) Khi đó, tồn δ > δ1 > cho, với ¯ ∗ , δ), dãy lặp {xk } sinh thuật toán Miền Tin Cậy với x0 ∈ B(x điểm ban đầu x0 phương pháp điểm Cauchy, mk (x) tổng ba số hạng đầu khai triển Taylor f xk , có tính chất sau: ¯ ∗ , δ1 ) với k; (i) xk ∈ B(x (ii) Dãy {xk } hội tụ x∗ ; (iii) Tốc độ hội tụ {xk } x∗ R-tuyến tính ¯ α1 α2 cho Chứng minh Theo Bổ đề (2.1), tồn số dương δ, ¯ Do x∗ điểm tới hạn ¯ ∗ , δ) (2.2) với δ = δ¯ với x ∈ B(x không suy biến (1.1), tồn δ¯ > 0, cho f (x) lồi mạnh tập ¯ x∗ nghiệm địa phương (1.1) thuộc B(x ¯ ¯ ∗ , δ), ¯ ∗ , δ), B(x ta tìm α > thỏa mãn f ((1 − t)x1 + tx2 ) ≤ (1 − t)f (x1 ) + tf (x2 ) − αt(1 − t) x1 − x2 Footer Page 28 of 161 23 Header Page 29 of 161 Khóa luận tốt nghiệp Đại học Nguyễn Lan Hương ¯ (xem [9]) Khi đó, x∗ nghiệm địa ¯ ∗ , δ) với t ∈ (0, 1), x1 , x2 ∈ B(x ¯ (2.4) thỏa mãn với δ = δ ¯ ¯ ∗ , δ) phương (1.1) thuộc B(x ¯ ¯ ∗ , δ),nên Vì tính liên tục ∇2 f (x) ∇f (x) B(x tồn δ > cho δ1 := α2 α1 1/2 δ thỏa mãn điều kiện δ1 < δ¯ , đồng thời ¯ ∗ , δ1 )\{x∗ }, x1 , x2 ∈ B(x ¯ ∗ , δ1 ) Khi đó, x ∈ B(x ≥ , ∇f (x) α1 α1 ∇ f (x1 ) − ∇ f (x2 ) ≤ , 3α2 2 (2.5) ∇f (x), ∇2 f (x1 )∇f (x) ≥ η2 2− ∇f (x), ∇2 f (x2 )∇f (x) (2.6) Điều kiện (2.6) thỏa mãn vì, nhờ bất đẳng thức thứ (2.2), ta có ∇f (x), ∇2 f (x1 )∇f (x) −1 ∇f (x), ∇2 f (x2 )∇f (x) ∇f (x), ∇2 f (x1 ) − ∇2 f (x2 ) ∇f (x) = ∇f (x), ∇2 f (x2 )∇f (x) ∇2 f (x1 ) − ∇2 f (x2 ) ∇f (x) ≤ α1 ∇f (x) = ∇2 f (x1 ) − ∇2 f (x2 ) α1 ≤ ∇2 f (x1 ) − ∇2 f (x∗ ) + ∇2 f (x∗ ) − ∇2 f (x2 ) α1 → 0, δ1 → 0, tính liên tục ∇2 f (x) Bây ta chứng minh khẳng định (i)–(iii) định lý nghiệm với số dương δ δ1 chọn Vì α1 ≤ α2 δ1 = α2 α1 1/2 ¯ δ, δ ≤ δ1 nên ta có < δ ≤ δ1 < δ Footer Page 29 of 161 24 Header Page 30 of 161 Khóa luận tốt nghiệp Đại học Nguyễn Lan Hương ¯ ∗ , δ) Nếu x0 = x∗ xk = x∗ với Lấy điểm tùy ý x0 ∈ B(x k ∈ N; khẳng định (i)–(iii) hiển nhiên Vậy ta cần xét trường hợp x0 = x∗ Do cách chọn δ, δ1 , δ¯ x0 , ta có x0 nghiệm địa phương (1.1) Áp dụng điều kiện tối ưu cần đủ dạng Fermat cho toán quy hoạch lồi với tập ràng buộc lồi mở ¯ , f (x) : x ∈ B(x∗ , δ) khẳng định g0 = ∇f (x0 ) véctơ khác ¯ có ∇2 f (x) ¯ ∗ , δ), Vì f lồi mạnh B(x với x ∈ ¯ B(x∗ , δ) Từ tC0 nghiệm toán (1.14) với mk trình bày định lí, Hk = ∇2 f (xk ) thấy tC0 nghiệm toán m0 (x0 − tg0 ) : ≤ t ≤ ∆0 g0 với m0 (x0 − tg0 ) = m0 (x0 ) − t g0 + t2 g0 , ∇2 f (x0 )g0 (2.7) Đặt t∗0 g0 = g0 , ∇2 f (x0 )g0 (2.8) ý đạo hàm hàm toàn phương lồi mạnh t → m0 (x0 − tg0 ) triệt tiêu t∗0 Footer Page 30 of 161 25 Header Page 31 of 161 Khóa luận tốt nghiệp Đại học Nguyễn Lan Hương Từ (2.8), (2.4) (2.5) ta có t∗0 ≤ ∆0 ≤ ; α1 g0 tC0 = t∗0 = g0 , g0 , ∇2 f (x0 )g0 tC0 ≤ α1 (2.9) Công thức khai triển Taylor bậc hai cho hàm f (x) x0 dẫn đến công thức f (x0 − tC0 g0 ) = f (x0 ) − tC0 g0 + (tC0 )2 g0 , ∇2 f (ξ)g0 (2.10) với ξ = x0 − θtC0 g0 , θ ∈ [0, 1] Từ (1.5),(2.7),(2.9),(2.10), có f (x0 ) − f (x0 − tC0 g0 ) ρ0 = m0 (x0 ) − m0 (x0 − tC0 g0 ) tC0 g0 − (tC0 )2 g0 , ∇2 f (ξ)g0 = tC0 g0 − (tC0 )2 g0 , ∇2 f (x0 )g0 g0 g0 g0 , ∇2 f (ξ)g0 − 2 g0 , ∇ f (x0 )g0 g0 , ∇2 f (x0 )g0 = g0 g0 − g0 , ∇2 f (x0 )g0 g0 , ∇2 f (x0 )g0 g0 , ∇2 f (ξ)g0 =2− g0 , ∇2 f (x0 )g0 Do đó, từ (2.6) ta có ρ0 ≥ η2 Vậy di chuyển từ x0 tới x0 − tC0 g0 bước lặp chấp nhận tốt Ngoài ra, có x1 = x0 − tC0 g0 , đồng thời ∆1 ≥ ∆0 Mặt khác, g0 , ∇2 f (x0 )g0 ≤ α2 g0 Footer Page 31 of 161 26 bất đẳng thức thứ hai Header Page 32 of 161 Khóa luận tốt nghiệp Đại học Nguyễn Lan Hương (2.2) hàm t → m0 (x0 − tg0 ) đạt tối thiểu toàn cầu nửa đường thẳng {x0 − tg0 : t ≥ 0} tC0 , nên m0 (x1 ) = m0 (x0 − tC0 g0 ) ≤ m0 (x0 − α2 g0 ) 1 g0 + g0 , ∇2 f (x0 )g0 α2 2α2 ≤ f (x0 ) − 2α1 g0 (2.11) = f (x0 ) − Từ (2.7), có m(x0 − tC0 g0 ) = f (x0 ) − tC0 g0 + (tC0 )2 g0 , ∇2 f (x0 )g0 , Từ x1 = x0 − tC0 g0 , đẳng thức sau (2.10) có hệ m0 (x1 ) − f (x1 ) = (tC0 )2 g0 , (∇2 f (x0 ) − ∇2 f (ξ))g0 Kết hợp điều với (2.11), ta f (x1 ) = m0 (x1 ) + 21 (tC0 )2 g0 , (∇2 f (ξ)) − ∇2 f (x0 ))g0 ≤ f (x0 ) − Footer Page 32 of 161 2α2 g0 + 12 (tC0 )2 g0 , (∇2 f (ξ) − ∇2 f (x0 ))g0 (2.12) 27 Header Page 33 of 161 Khóa luận tốt nghiệp Đại học Nguyễn Lan Hương Do (2.9), (2.12), (2.5), Bổ đề 2.2, f (x1 ) − f (x∗ ) ≤ f (x0 ) − f (x∗ ) − 2α2 ≤ f (x0 ) − f (x∗ ) − 2α2 + (tC0 )2 g0 , (∇2 f (ξ) − ∇2 f (x0 ))g0 2 g0 + 2α11 g0 ∇2 f (ξ) − ∇2 f (x0 ) ≤ f (x0 ) − f (x∗ ) − 2α2 g0 + 6α1 g0 g0 2 g0 = f (x0 ) − f (x∗ ) − 3α α1 α1 − [f (x0 ) − f (x∗ )] ≤ 1− 3α2 3α2 (2.13) ¯ có ¯ ∗ , δ) Từ khai triển Taylor f x∗ , với x ∈ B(x f (x) − f (x∗ ) = x − x∗ , ∇2 f (¯ x)(x − x∗ ) Ở điểm x¯ = (1 − θ)x∗ + θx, θ ∈ [0; 1], phụ thuộc vào x Sử dụng bất đẳng thức Cauchy-Schwarz (2.2) thu α1 x − x∗ 2 ≤ f (x) − f (x∗ ) ≤ α2 x − x∗ 2 (2.14) Do (2.14), từ (2.13) ta có α1 x1 − x∗ Footer Page 33 of 161 ≤ f (x1 ) − f (x∗ ) ≤ 1− α1 3α2 − α12 3α22 [f (x0 ) − f (x∗ )] ≤ 1− α1 3α2 − α12 3α22 α2 28 x0 − x∗ (2.15) Header Page 34 of 161 Khóa luận tốt nghiệp Đại học Nguyễn Lan Hương Vì vậy, x1 − x∗ ≤ α1 α12 1− − 3α2 3α22 1/2 ≤ α2 α1 1/2 ≤ α2 α1 1/2 α2 α1 1/2 x0 − x∗ x0 − x∗ δ = δ1 ¯ ∗ , δ1 ) Chứng minh quy nạp, tương Từ ta suy x1 ∈ B(x tự trên, ta có bước lặp thứ k chấp nhận tốt thỏa mãn xk+1 = xk − tCk gk ∆k ≥ ∆k−1 tCk ∆0 ∆k gk ≤ = ≤ ≤ gk , ∇2 f (xk )gk α1 gk gk Tương tự (2.13) ta có f (xk ) − f (x∗ ) ≤ α12 α1 − 1− 3α2 3α22 ≤ α12 α1 1− − 3α2 3α22 [f (xk−1 ) − f (x∗ )] k [f (x0 ) − f (x∗ )] Kết hợp với bất đẳng thức tương tự đưa (2.15), thấy α1 xk − x∗ Footer Page 34 of 161 ≤ f (xk ) − f (x∗ ) − α12 3α22 [f (xk−1 ) − f (x∗ )] ≤ 1− α1 3α2 − α12 3α22 k ≤ 1− α1 3α2 − α12 3α22 k ≤ 1− α1 3α2 29 (2.16) [f (x0 ) − f (x∗ )] α2 x0 − x∗ Header Page 35 of 161 Khóa luận tốt nghiệp Đại học Nguyễn Lan Hương Cho nên xk − x∗ ≤ α1 α2 1− − 12 3α2 3α2 k/2 1/2 α2 α1 x0 − x∗ ≤ δ1 (2.17) Từ ta suy khẳng định (i) Do α12 α1 − < 1, 0 > η2 ρ0 = + 3x0 (x0 − ∆0 ) nên dòng bược lặp k = chấp nhận tốt Cho nên, từ (1.6), bán kính miền tin cậy ∆1 cần thỏa mãn bất đẳng thức ∆1 ≥ ∆0 Tiếp tục tính toán vậy, tCk = ∆k 3x2k phép quy nạp, xCk = xk − ∆k = x0 − ∆0 − ∆1 − − ∆k Footer Page 36 of 161 31 Header Page 37 of 161 Khóa luận tốt nghiệp Đại học Nguyễn Lan Hương Do ρk > ≥ η2 , bước lặp thứ k chấp nhận tốt Điều chứng minh bán kính miền tin cậy ∆k+1 cần thỏa mãn điều kiện ∆k+1 ≥ ∆k Do đó, xk = x0 − ∆0 − ∆1 − − ∆k ≤ x0 − (k + 1)∆0 với k Kết xk → −∞ k → ∞ Nên thuật toán BTR không ổn định địa phương không hội tụ địa phương lân cận x∗ = Footer Page 37 of 161 32 Header Page 38 of 161 Kết luận chung Khóa luận trình bày số kiến thức phương pháp Miền Tin Cậy cho toán tối ưu trơn ràng buộc, ví dụ minh họa cho thuật toán, tính ổn định địa phương hội tụ địa phương dãy lặp, trình bày lại kết tính ổn định địa phương hội tụ địa phương dãy lặp xk sinh thuật toán miền tin cậy trường hợp toán ràng buộc tài liệu [1] Footer Page 38 of 161 33 Header Page 39 of 161 Tài liệu tham khảo [1] B.N.MUOI, N.D.YEN, Local Stability and Local Convergence of BasisTrust-Region Method (Submitted) [2] A R Conn, N I M Gould, and P L Toint, Trust-Region Methods, MPS-SIAM Series on Optimization, Philadelphia, 2000 [3] D Kinderlehrer, G Stampacchia, An Introduction to Variational Inequalities and Their Applications, Academic Press, New York, 1980 [4] G M Lee, N N Tam, and N D Yen, Quadratic Programming and Affine Variational Inequalities: A Qualitative Study, Springer Verlag, New York, 2005 [5] H A Le Thi, T Pham Dinh, and N D Yen, Properties of two DC algorithms in quadratic programming, J Global Optim., 49 (2011), 481–495 [6] J Nocedal, S J Wright, Numerical Optimization, SpringerVerlag, New York, 1999 [7] J.M.Ortega, W.C.Rheiboldt, Iterative Solution of Nonlinear Equations in Several Variables, Academic Press, NewYork, 1970 Footer Page 39 of 161 34 Header Page 40 of 161 Khóa luận tốt nghiệp Đại học Nguyễn Lan Hương [8] A Ruszczynski, Nonlinear Optimization, Princeton University Press, Princeton, New Jersey, 2005 [9] F.P.Vasilev, Numerical Methods for Solving Extremal Problems (in Russian), 2nd Edition, Nauka, Moscow, 1988 Math Program., (1999), 193–206 Footer Page 40 of 161 35 ... (2.4) Tính ổn định địa phương hội tụ địa phương Trong mục này, quan tâm đến tính ổn định địa phương hội tụ địa phương dãy lặp tạo phương pháp miền tin cậy Cụ thể, tìm kiếm kết tương tự [5, Định. .. Tính ổn định địa phương hội tụ địa phương phương pháp Miền Tin Cậy 2.1 Một số khái niệm Chúng ta đến thiết lập tương tự [5, Định lí 3, trang 486], tác giả chứng minh tính ổn định địa phương hội. .. bậc 16 1.2 Tính ổn định địa phương hội tụ địa phương phương pháp Miền Tin Cậy 19 2.1 Một số khái niệm 19 2.2 Tính ổn định địa phương hội tụ địa phương 22 Tài liệu tham