Xấp xỉ nghiệm bài toán bù đơn điệu phi tuyến

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC KHOA HỌC -ĐẠI HỌC THÁI NGUYÊN NGÔ TRỌNG TOÀN XẤP XỈ NGHIỆM BÀI TOÁN BÙ ĐƠN ĐIỆU PHI TUYẾN LUẬN VĂN THẠC SĨ Chuyên ngành : TOÁN ỨNG DỤNG Mã số : 60 46 0112 Giáo viên hướng dẫn: GS.TS NGUYỄN BƯỜNG THÁI NGUYÊN, 2012 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Lời cảm ơn Luận văn được thực hiện và hoàn thành tại trường Đại học Khoa học - Đại học Thái Nguyên dưới sự hướng dẫn khoa học của GS.TS Nguyễn Bường. Qua đây, tác giả xin được gửi lời cảm ơn sâu sắc đến thầy giáo, người hướng dẫn khoa học của mình, GS.TS. Nguyễn Bường, người đã đưa ra đề tài và tận tình hướng dẫn trong suốt quá trình nghiên cứu của tác giả. Đồng thời tác giả cũng chân thành cảm ơn các thầy cô trong khoa Toán - Tin học trường Đại học Khoa học, Đại học Thái Nguyên, đã tạo mọi điều kiện cho tác giả về tài liệu và thủ tục hành chính để tác giả hoàn thành bản luận văn này. Tác giả cũng gửi lời cảm ơn đến gia đình, BGH trường THPT Yên Thủy B - Hòa Bình và các bạn trong lớp Cao học K4C, đã động viên giúp đỡ tác giả trong quá trình học tập và làm luận văn. 1 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Mục lục Mở đầu 2 1 Một số kiến thức cơ sở 4 1.1 Không gian Hilbert . . . . . . . . . . . . . . . . . . . . . . 4 1.2 Toán tử đơn điệu . . . . . . . . . . . . . . . . . . . . . . . 6 1.3 Phương pháp lặp Newton giải phương trình phi tuyến . . . 8 1.4 Thuật toán giảm cho bài toán phi tuyến . . . . . . . . . . . 9 1.5 Thuật toán Maps . . . . . . . . . . . . . . . . . . . . . . . 12 2 Phương pháp giải bài toán bù đơn điệu phi tuyến 15 2.1 Giới thiệu . . . . . . . . . . . . . . . . . . . . . . . . . . . 15 2.2 Định lí tương đương . . . . . . . . . . . . . . . . . . . . . . 15 2.3 Tính hội tụ . . . . . . . . . . . . . . . . . . . . . . . . . . 18 2.4 Phương pháp giải . . . . . . . . . . . . . . . . . . . . . . 20 2.4.1 Phương pháp đường dốc . . . . . . . . . . . . . . . 20 2.4.2 Thuật toán . . . . . . . . . . . . . . . . . . . . . . . 21 2.4.3 Phép xấp xỉ của Mangasarian và Solodov . . . . . . 22 2.5 Một số kết quả thực nghiệm số . . . . . . . . . . . . . . . . 23 2.5.1 Phương pháp BFGS (Giới hạn bộ nhớ ) . . . . . . . 24 2.5.2 Nhận xét . . . . . . . . . . . . . . . . . . . . . . . 25 2.5.3 Nhận xét cuối . . . . . . . . . . . . . . . . . . . . . 27 1 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Mở đầu Nhiều vấn đề thuộc lĩnh vực toán học khác nhau như giải tích lồi, phương trình toán lý quy hoạch toán học, lý thuyết trò chơi, mô hình kinh tế có thể phát biểu dưới dạng bài toán sau. Xét bài toán bù NCP(F) x ≥ 0, F (x) ≥ 0, x T F (x) = 0, (1) ở đây F : R n → R n là một hàm cho trước. Trong nhiều bài báo gần đây, bài toán này xem như là bài toán cực tiểu với mục đích áp dụng phương pháp tối ưu để giải (1). Chẳng hạn, Mangasarian và Solodov [8] giới thiệu bài toán cực tiểu không ràng buộc với tính chất là : Mọi cực tiểu toàn cục của hàm mục tiêu đều là nghiệm của (1). Yamashita và Fukushima [11] chứng minh rằng: Mỗi điểm dừng của hàm Mangasarian và Solodov đều là cực tiểu toàn cục và do đó nó là nghiệm của (1) nếu F khả vi liên tục và F  xác định dương ∀x ∈ R n . Trong luận văn này sử dụng công thức được giới thiệu trong [4] để giải lại (1) như một bài toán tối ưu không ràng buộc. Bố cục luận văn gồm có hai chương : Chương 1: Kiến thức chuẩn bị. Trong chương này, tôi trình bày một số kiến thức cơ bản về giải tích hàm, toán tử đơn điệu,phương pháp lặp New tơn giải phương trình phi tuyến, thuật toán giảm cho bài toán phi tuyến, thuật toán Maps. Chương 2: Bài toán bù đơn điệu phi tuyến. Trong chương này luận văn phát biểu bài toán bù đơn điệu, chứng minh định lý tương đương, trình bày phương pháp xấp xỉ của Mangasasian và Solodov. Phần cuối chúng tôi trình bày một số kết quả thực nghiệm số của bài toán. 2 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Do thời gian có hạn và khối lượng kiến thức lớn, chắc chắn bản luận văn không thể tránh khỏi những thiếu sót, tác giả rất mong nhận được sự chỉ bảo tận tình của các thầy cô và bạn bè đồng nghiệp, tác giả xin chân thành cảm ơn! 3 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Chương 1 Một số kiến thức cơ sở 1.1 Không gian Hilbert Định nghĩa 1.1. Giả sử E là không gian véc tơ trên trường K. Tích vô hướng trên E là ánh xạ ϕ : E ×E → K thỏa mãn (i) ϕ(x, x) > 0 nếu x = 0; ϕ(x, x) = 0 nếu x = 0. (ii) ϕ(x, y) = ϕ(y, x). (iii) ϕ(λx, y) = λϕ(x, y). (iv) ϕ(x 1 + x 2 , y) = ϕ(x 1 , y) + ϕ(x 2 , y). Kí hiệu ϕ(x, y) = x, x. Khi đó ||x|| =  x, x. Xác định một chuẩn trên E. Định nghĩa 1.2. Không gian véc tơ E cùng với tích vô hướng trên nó gọi là không gian tiền Hilbert. Một không gian tiền Hilbert đủ được gọi là không gian Hilbert. Một không gian tiền Hilbert không đủ bao giờ cũng có thể bổ sung thành một không gian Hilbert. Định nghĩa 1.3. Hai véc tơ x, y ∈ E gọi là trực giao với nhau, kí hiệu x⊥y,nếu x, x = 0. Véc tơ x gọi là trực giao với tập M ⊂ E nếu x trực giao với mọi véc tơ của M. Tập M ⊥ = {x|x, x = 0, ∀y ∈ M} gọi là phần bù trực giao của M. Bổ đề 1.1. M ⊥ là không gian đóng của E. 4 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Định nghĩa 1.4. Cho một toán tử tuyến tính liên tục A trong không gian Hilbert E, tồn tại một toán tử duy nhất A ∗ để cho < Ax, y >=< x, A ∗ y > . Toán tử A ∗ gọi là toán tử liên hợp của A. Một số tính chất của toán tử liên hợp : (i) (A ∗ ) ∗ = A . (ii) (A ∗ + B ∗ ) = A ∗ + B ∗ , (αA) ∗ = αA ∗ . (iii) (AB) ∗ = B ∗ A ∗ . (iv) N(A) = Re (A ∗ ) ⊥ , N(A ∗ ) = Re (A) ⊥ . Định lí 1.1. Cho M là một không gian con đóng của một không gian Hilbert E bất kì phần tử của E cũng biểu diễn duy nhất dưới dạng. x = y + z với y ∈ M, z ∈ M ⊥ , trong đó y là phần tử của M gần x nhất, tức là x − y ≤ x − u, ∀u ∈ M. Đặt P (x) = y, P gọi là toán tử chiếu lên M. Cho không gian Affine định nghĩa bởi Ax = q, A ∈ R n×m , q ∈ R m , chúng ta định nghĩa phép chiếu P A,q bởi x → P A,q x = arg min {ω −x|Aω = q}, P A = P A,0 . Bổ đề 1.2. Với mọi x ∈ R n và q ∈ R m ,thì P A,q x = P A x + P A,q 0. Chứng minh. ω 1 = P A,q 1 x 1 và ω 2 = P A,q 2 x 2 . Từ định nghĩa của phép chiếu, ta có Aω i = q i , x i −ω i ⊥N(A), i = 1, 2. Từ đó ta có ∀λ ∈ R, A(ω 1 + λω 2 ) = q 1 + λq 2 và x 1 + λx 2 −(ω 1 + λω 2 )⊥N(A). Điều đó có nghĩa rằng ω 1 + λω 2 = P A,q 1 +λq 2 (x 1 + λx 2 ). Bổ đề 1.3. Giả sử D ∈ R n sao cho d ∈ D thì d ≈ 1. Khi đó với mọi y ∈ R n , q ∈ R(A), d ∈ D ta có P AD,q 0 = O(q), P AD,q y = O(q) + O(y), DP AD Dy ≈ P A y. 5 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Chứng minh. Giả sử A + là ma trận nghịch đảo của A, nghĩa là A + là ma trận (n × m) sao cho AA + q = q, q ∈ R(A). Khi đó ta có min imize {x − y|ADz = q}. Suy ra P AD,q y − y ≤   D −1 A + q   + y. Do đó P AD,q 0 = O(q). P AD,q y = O(q) + O(y). Từ kết quả trên ta cũng có ∀z = R n , DP ADDz = O(z). Lấy z = P A y = y −A T ω, ω ∈ R m ta được P AD Dz = P AD Dy − P AD DA T ω = P AD Dy, DP AD Dy = O(P A y). Bằng cách tương tự, với thay đổi y = Dy, ta có D A y = O(DP AD Dy). Vậy DP AD dy ≈ P A y. 1.2 Toán tử đơn điệu Cho X là không gian Banach phản xạ với không gian liên hợp của nó là X ∗ . Cả hai có chuẩn được ký hiệu là  .  và giá trị của phiếm hàm tuyến tính liên tục x ∗ ∈ X ∗ tại điểm x ∈ X được ký hiệu bởi x ∗ , x. Cho toán tử A với miền xác định là D(A) ⊆ X và miền ảnh R(A) ⊆ X ∗ . Định nghĩa 1.5. Toán tử A được gọi là đơn điệu nếu A(x) − A(y), x −y ≥ 0, ∀x, y ∈ D(A). Toán tử A được gọi là đơn điệu chặt nếu dấu bằng chỉ đạt được khi x = y. Ví dụ 1.1. Hàm số f : R → R là đơn điệu nếu nó đồng biến. Định nghĩa 1.6. Tập hợp Gr(A) = {(x, A(x)) : x ∈ X} gọi là đồ thị của toán tử A. 6 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Khái niệm về toán tử đơn điệu cũng có thể được mô tả dựa trên đồ thị Gr(A) của toán tử A trong không gian tích X × X ∗ . Định nghĩa 1.7. Toán tử A được gọi là đơn điệu nếu x ∗ − y ∗ , x −y ≥ 0, ∀x, y ∈ X, x ∗ ∈ A(x), y ∗ ∈ A(y). Tập Gr(A) được gọi là tập đơn điệu nếu nó thỏa mãn bất đẳng thức trên. Định nghĩa 1.8. Nếu Gr(A) không chứa một tập đơn điệu nào khác trong X × X ∗ thì toán tử A được gọi là toán tử đơn điệu cực đại. Ví dụ 1.2. Toán tử A : R 4 → R 4 được xác định bởi ma trận A =    39 7 32 −20 7 30 34 7 32 34 58 −5 −20 7 −5 26    có định thức khác 0 là đơn điệu. Khi đó, A là toán tử đơn điệu cực đại. Định nghĩa 1.9. Nếu với mọi x ∈ X ta có Ax, x ≥ 0 thì A được gọi là toán tử xác định không âm, ký hiệu là A ≥ 0. Nhận xét 1.1. Nếu A là một toán tử tuyến tính trong không gian Banach X thì tính đơn điệu tương đương với tính xác định không âm của toán tử. Ví dụ 1.3. Toán tử A : R 5 → R 5 được xác định bởi ma trận A =     10 4 9 5 28 4 6 5 5 20 9 5 10 4 28 5 5 4 6 20 28 20 28 20 96     là xác định không âm. Định nghĩa 1.10. Toán tử A được gọi là d-đơn điệu, nếu tồn tại một hàm không âm d(t), không giảm với t ≥ 0, d(0) = 0 và thỏa mãn tính chất A(x)−A(y), x−y ≥ [d( x ) −d( y )]( x  −  y ), ∀x, y ∈ D(A). 7 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Định nghĩa 1.11. Toán tử A được gọi là đơn điệu đều nếu tồn tại một hàm không âm δ(t), không giảm với t ≥ 0, δ(0) = 0 và A(x) − A(y), x −y ≥ δ( x − y ), ∀x, y ∈ D(A). Nếu δ(t) = C A t 2 với C A là một hằng số dương thì toán tử A được gọi là đơn điệu mạnh. Nhận xét 1.2. Nếu toán tử A có tính chất tuyến tính thì A được gọi là đơn điệu mạnh nếu Ax, x ≥ m A  x  2 , m A > 0, ∀x ∈ D(A). Ví dụ 1.4. Hàm số f : R → R được xác định bởi f(x) = 2012x là toán tử tuyến tính đơn điệu mạnh. Cho L là tập con nào đó của N = {1, , n}. A L là ma trận đường chéo cấp n.n trong đó các phần tử trên đường chéo được cho bởi a ii =    > 0 nếu i ∈ L, = 0 nếu i /∈ L. Khi đó A N là một ma trận đường chéo xác định dương. Nếu a ii = 1 ∀i thì A N = I n là ma trận đơn vị trong R n . 1.3 Phương pháp lặp Newton giải phương trình phi tuyến Xét hệ phương trình phi tuyến f (x) = 0, ở đây ánh xạ từ R n vào chính nó. Giả sử f khả vi liên tục. Thuật toán sẽ sinh ra một dãy lặp  x k  . Giả sử đã có x k để tìm x k+1 ta giải hệ phương trình tuyến tính f(x k )+∇f(x k )(x−x k ) = 0 . Giả sử rằng ma trận ∇f(x k ) không suy biến. Ta thu được x k+1 bằng cách x k+1 = x k − ∇f(x k ) −1 f(x k ). 8 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn [...]... lại công thức cho bài toán bù phi tuyến như là một bài toán tối ưu không ràng buộc Điều này thể hiện rằng công thức đó tương đương với bài toán bù cho hàm đơn điệu F do nhiều bài toán bù là đơn điệu và thường không có Jacobi xác định dương nên tác giả thấy phương pháp xấp xỉ là một sự thác triển quan trong (sự mở rộng quan trọng ) của phương pháp Mangasarian và Solodov Tuy nhiên bài báo gần đây, Yamashita... http://www.lrc-tnu.edu.vn Chương 2 Phương pháp giải bài toán bù đơn điệu phi tuyến 2.1 Giới thiệu Xét bài toán bù NCP(F) x ≥ 0, F (x) ≥ 0, xT F (x) = 0, (2.1) ở đây F : Rn → Rn là một hàm cho trước Trong nhiều bài báo gần đây, bài toán này xem như là bài toán cực tiểu với mục đích áp dụng phương pháp tối ưu để giải (2.1) Chẳng hạn Mangasarian và Solodov [8] giới thiệu bài toán cực tiểu không ràng buộc với tính... này, tôi đã hoàn thành được công việc chính là đọc hiểu và trình bày lại một số kiến thức cơ bản của giải tích liên quan đến nghiệm của bài toán bù đơn điệu phi tuyến Ngoài ra tôi cũng trình bày lại lý thuyết về bài toán bù đơn điệu phi tuyến, và một số phương pháp giải bài toán này Do thời gian có hạn nên trong quá trình viết luận văn cũng như trình bày luận văn chắc chắn không tránh khỏi những thiếu... xét bài toán bù phi tuyến (2.1) và bài toán tối ưu không ràng buộc minx∈Rn Ψ(x), (2.2) ở đây Ψ : Rn → R xác định bởi n Ψ (x) = ϕ (xi , F (x)i ) i=1 trong đó Fi : Rn → R là hàm thành phần thứ i của F Dựa vào tính chất (i) và (ii) của Bổ đề 2.1 ta có kết quả sau: Bổ đề 2.2 Giả sử bài toán bù (2.1) có ít nhất một nghiệm khi đó x∗ ∈ Rn là nghiệm của (2.1) nếu và chỉ nếu x∗ là nghiệm toàn cục của bài toán. .. lí 2.2 ta nhận được kết quả sau: Hệ quả 2.1 Cho F ∈ C 1 (Rn ) là hàm đơn điệu Nếu bài toán bù (2.1) giải được thì x∗ là nghiệm của (2.1) khi và chỉ khi x∗ là điểm dừng của Ψ 2.3 Tính hội tụ Trước hết chúng ta chứng minh rằng tập mức của bài toán (2.2) bị chặn nếu F là hàm đơn điệu nghiêm ngặt Nhắc lại F : Rn → Rn được gọi là đơn điệu nghiêm ngặt với modun µ nếu (x − y)T (F (x) − F (y)) ≥ µ x − y 2... là một hàm khả vi với đạo hàm liên tục Lipschitz địa phương x ∈ Γ → f (x) Xét bài toán phi tuyến minimize f (x) x∈Γ Chúng ta sẽ nghiên cứu thuật toán giải cho bài toán này WHILE f (x) = 0 do xk+1 := xk + λk hk k := k + 1 END WHILE Trong đó với mỗi k, h ∈ Rn và λk ∈ (0; +∞) sao cho xk+1 ∈ Γ Một thuật toán sẽ gọi là thuật toán giảm nếu tồn tại ∆ > 0 sao cho với mọi k ∈ N ta có: (i) hk ≈ f (xk ) ; f... a ≥ 0, b ≥ 0, ab = 0 Trên cơ sở là hàm (2.12), xét bài toán tối ưu không ràng buộc n min M (x; α) := x∈Rn ϕM S (xi , F (xi )); α) i=1 Đã được xem trong [8] Dựa vào Bổ đề 2.5 có sự tương ứng một - một gữa cực tiểu toàn cục của bài toán trên và nghiệm của bài toán bù NCP(F) Yamashita và Fukushima [11] chứng minh rằng điểm dừng của M (x; α) đều là nghiệm của NCP(F) nếu F khả vi và F (x) xác định dương... trường hợp F là đơn điệu ngặt Tuy nhiên Yamashita và Fukushima [11] đã chứng minh một kết quả tương tự như Bổ đề 2.4 nhưng một lần nữa họ cần sự xác định của F (x) để chứng minh M (x; α)T d < 0 ở đây d là hướng tìm kiếm cho bởi d := −α 2.5 ∂ϕM S (x, F (x); α) ∂b Một số kết quả thực nghiệm số Trong phần này chúng ta so sánh công thức Mangasarian và Solodov [10] của các bài toán bù phi tuyến (2.4) cuả... ∂ϕ k (x , F (xk )) = 0 ∂b Do vậy từ Bổ đề 2.1 (ý v) ta có mọi điểm tụ của dãy xk k∈N là nghiệm của bài toán NCP(F) vì L(x0 ) là Compact nên xk k∈N luôn có ít nhất một điểm tụ x∗ Dựa theo điều kiện tụ nghiêm ngặt của F , bài toán NCP(F) có duy nhất một nghiệm, do đó dãy xk k∈N phải hội tụ tới x∗ lim 2.4.3 Phép xấp xỉ của Mangasarian và Solodov Chúng ta phải nhắc lại phương pháp được đề xuất gần đây... bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn Hàm này được gọi là hàm Fischer được giới thiệu gần đây là đặc trưng cho điều kiện Karush-Kuhn-Tucker của một bài toán phi tuyến (xem [1]) và bài toán bù tuyến tính (xem [2]) Ở đây chúng ta quan tâm đến hàm 1 √ ϕ (a, b) : = ( a2 + b2 − a − b)2 2 Sau đây là một số tích chất của hàm ϕ(a, b) Bổ đề 2.1 i) ϕ(a, b) = 0 ⇔ a ≥ 0, b ≥ 0, ab . giải phương trình phi tuyến, thuật toán giảm cho bài toán phi tuyến, thuật toán Maps. Chương 2: Bài toán bù đơn điệu phi tuyến. Trong chương này luận văn phát biểu bài toán bù đơn điệu, chứng minh. giải bài toán bù đơn điệu phi tuyến 2.1 Giới thiệu Xét bài toán bù NCP(F) x ≥ 0, F (x) ≥ 0, x T F (x) = 0, (2.1) ở đây F : R n → R n là một hàm cho trước. Trong nhiều bài báo gần đây, bài toán. TẠO TRƯỜNG ĐẠI HỌC KHOA HỌC -ĐẠI HỌC THÁI NGUYÊN NGÔ TRỌNG TOÀN XẤP XỈ NGHIỆM BÀI TOÁN BÙ ĐƠN ĐIỆU PHI TUYẾN LUẬN VĂN THẠC SĨ Chuyên ngành : TOÁN ỨNG DỤNG Mã số : 60 46 0112 Giáo viên hướng dẫn: GS.TS