Phương pháp hiệu chỉnh tikhonov cho bài toán quy hoạch với ràng buộc là bài toán bù tổng quát

ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KHOA HỌC TRỊNH THỊ HÀ PHƯƠNG PHÁP HIỆU CHỈNH TIKHONOV CHO BÀI TOÁN QUY HOẠCH VỚI RÀNG BUỘC LÀ BÀI TOÁN BÙ TỔNG QUÁT LUẬN VĂN THẠC SĨ TOÁN HỌC Thái Nguyên - 2015 Tai ngay!!! Ban co the xoa dong chu nay!!! ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KHOA HỌC TRỊNH THỊ HÀ PHƯƠNG PHÁP HIỆU CHỈNH TIKHONOV CHO BÀI TOÁN QUY HOẠCH VỚI RÀNG BUỘC LÀ BÀI TOÁN BÙ TỔNG QUÁT Chuyên ngành: Toán ứng dụng Mã số: 60 46 01 12 LUẬN VĂN THẠC SĨ TOÁN HỌC Người hướng dẫn khoa học: GS.TS NGUYỄN BƯỜNG Thái Nguyên - 2015 i Mục lục Lời cảm ơn iii Mở đầu 1 Các khái niệm vấn đề 1.1 Không gian Euclid n chiều 1.1.1 Không gian vectơ 1.1.2 Không gian Euclid Bài toán đặt không chỉnh 1.2.1 Khái niệm tốn đặt khơng chỉnh 1.2.2 Ví dụ tốn đặt khơng chỉnh 1.2.3 Định nghĩa toán tử hiệu chỉnh 1.2 1.3 1.4 Phương pháp đường dốc 10 1.3.1 Nội dung phương pháp 10 1.3.2 Sự hội tụ phương pháp 11 Kết luận Chương 15 Phương pháp hiệu chỉnh Tikhonov cho toán quy hoạch với ràng buộc toán bù tổng quát 16 2.1 Bài toán thực tế dẫn đến toán bù tổng quát 16 2.2 Bài toán quy hoạch với ràng buộc toán bù tổng quát 19 2.3 Sự hội tụ phương pháp 22 2.4 Kết số 25 2.5 Kết luận Chương 27 ii Kết luận 28 Tài liệu tham khảo 29 iii Lời cảm ơn Luận văn hoàn thành Trường Đại học Khoa học - Đại học Thái Nguyên hướng dẫn tận tình GS.TS Nguyễn Bường Em xin bày tỏ lòng biết ơn sâu sắc tới Thầy Em xin chân thành cảm ơn Ban giám hiệu, Khoa Toán - Tin, Trường Đại học Khoa học - Đại học Thái Nguyên quan tâm giúp đỡ em suốt thời gian học tập Trường Nhân dịp em xin gửi lời cảm ơn chân thành tới gia đình, bạn bè ln bên em, cổ vũ, động viên, giúp đỡ em suốt trình học tập thực khóa luận tốt nghiệp Mở đầu Nhiều vấn đề thực tế gặp phải khoa học, công nghệ, kinh tế, , tồn lớp tốn mà nghiệm khơng ổn định theo nghĩa thay đổi nhỏ liệu đầu vào dẫn đến thay đổi lớn liệu đầu (nghiệm toán), chí cịn làm cho tốn trở nên vơ nghiệm Người ta nói tốn khơng quy hay đặt khơng chỉnh Vì cần phải có phương pháp giải ổn định tốn đặt khơng chỉnh cho sai số liệu nhỏ nghiệm xấp xỉ tìm gần với nghiệm toán xuất phát Do tầm quan trọng đặc biệt lý thuyết mà nhiều nhà tốn học nước ngồi Việt Nam dành phần lớn thời gian cơng sức cho việc nghiên cứu phương pháp hiệu chỉnh để giải tốn đặt khơng chỉnh Trong khn khổ luận văn chúng tơi xin trình bày đề tài: “Phương pháp hiệu chỉnh Tikhonov cho toán quy hoạch với ràng buộc toán bù tổng quát” Luận văn tổng hợp từ báo GS TS Nguyễn Bường với cộng Nguyễn Thị Thúy Hoa Mục đích luận văn trình bày lại kết GS.TS Nguyễn Bường cộng phương pháp hiệu chỉnh Browder-Tikhonov tìm nghiệm toán quy hoạch với ràng buộc toán bù khơng gian Euclid n chiều Ngồi phần mở đầu, kết luận, danh mục tài liệu tham khảo, bố cục luận văn trình bày hai chương • Chương Các khái niệm vấn đề Trình bày khái niệm không gian Euclid n chiều Tiếp theo giới thiệu tốn đặt khơng chỉnh Đồng thời trình bày định nghĩa toán tử hiệu chỉnh phương pháp đường dốc • Chương Phương pháp tìm nghiệm toán quy hoạch với ràng buộc tốn bù tổng qt Luận văn hồn thành Trường Đại học Khoa học - Đại học Thái Nguyên hướng dẫn GS.TS Nguyễn Bường Mặc dù tác giả cố gắng vấn đề nghiên cứu phức tạp kinh nghiệm nghiên cứu cịn hạn chế nên khơng trành khỏi thiếu sót Trong q trình viết luận văn xử lý văn chắn không tránh khỏi sai sót định Tác giả mong nhận ý kiến đóng góp q thầy bạn để luận văn hoàn thiện Thái Nguyên, ngày 10 tháng năm 2015 Trịnh Thị Hà Học viên Cao học Tốn Lớp 7A, khóa 06/2013-06/2015 Chun ngành Toán ứng dụng Trường Đại học Khoa học - Đại học Thái Nguyên Email: trinhha170184@gmail.com Chương Các khái niệm vấn đề Chương gồm ba mục, trình bày số khái niệm sử dụng liên quan tới nội dung nghiên cứu đề Mục 1.1 nêu vấn đề, tính chất ví dụ khơng gian Euclid n chiều Mục 1.2 nêu khái niệm, ví dụ tốn đặt khơng chỉnh định nghĩa toán tử hiệu chỉnh Mục 1.3 trình bày nội dung hội tụ phương pháp đường dốc 1.1 1.1.1 Không gian Euclid n chiều Không gian vectơ Định nghĩa 1.1 Xét tập V khác rỗng mà phần tử ta quy ước vectơ trường số thực R, giả sử V ta định nghĩa hai phép toán: phép cộng vectơ phép nhân vectơ với số thực Phép cộng vectơ luật hợp thành V cho phép tạo từ cặp vectơ x, y ∈ V vectơ gọi tổng chúng, kí hiệu x + y Phép nhân vectơ với số, gọi phép nhân với vơ hướng, luật hợp thành ngồi V cho phép tạo từ vectơ x ∈ V số thực k ∈ R vectơ gọi tích chúng, kí hiệu kx Nếu mười yêu cầu sau thỏa mãn với x, y, z ∈ V k, l ∈ R tập V gọi khơng gian vectơ trường R (1) Nếu x, y ∈ V x + y ∈ V (2) x + y = y + x, ∀x, y ∈ V (3) x + (y + z) = (x + y) + z, ∀x, y, z ∈ V (4) Tồn vectơ θ ∈ V cho θ + x = x + θ = x, ∀x ∈ V Phần tử θ gọi phần tử trung hòa phép + (hay V ) (5) Với x ∈ V tồn vectơ −x ∈ V cho x + (−x) = (−x) + x = θ Phần tử (−x) gọi phần tử đối xứng (hay phần tử đối) x (6) Nếu k ∈ R x ∈ V kx ∈ V (7) k(x + y) = kx + ky (8) (k + l)x = kx + lx (9) k(lx) = (kl)x (10) 1.x = x Chú ý: u cầu (1) tính đóng kín phép cộng vectơ u cầu (6) tính đóng kín phép nhân với vơ hướng u cầu (2) nói lên tính giao hốn phép cộng vectơ u cầu (3) nói lên tính kết hợp phép cộng vectơ Mười yêu cầu (1) - (10) gọi mười tiên đề không gian vectơ 1.1.2 Không gian Euclid Định nghĩa 1.2 Cho V không gian vectơ, u v hai vectơ V Tích vơ hướng u v số thực, kí hiệu hu, vi, thỏa mãn tính chất sau gọi tiên đề tích vơ hướng: (1) hu, vi xác định cặp u, v ∈ V ; (2) hu, vi = hv, ui; (3) hu + v, wi = hu, wi + hv, wi; (4) hku, ui = khu, vi; (5) hu, ui ≥ hu, ui = ⇔ u = θ Khơng gian vectơ V có trang bị tích vơ hướng gọi khơng gian có tích vơ hướng Khơng gian vơ hạn chiều có tích vơ hướng gọi không gian Euclid Định nghĩa 1.3 Không gian vectơ V gọi không gian n chiều (1 ≤ n nguyên) V tồn n vectơ độc lập tuyến tính khơng tồn q n vectơ độc lập tuyến tính Khi ta nói số chiều khơng gian V n kí hiệu dim(V ) Định nghĩa 1.4 V không gian vectơ, S = {x1 , , xn } ⊂ V Xét điều kiện: c1 x1 + + cn xn = θ (∗) Nếu điều kiện (∗) xảy c1 = 0, , cn = ta nói họ S độc lập tuyến tính Định nghĩa 1.5 V khơng gian vectơ với hai phép tính: cộng vectơ nhân vectơ với số, W tập V Nếu với hai phép tính W khơng gian vectơ W gọi khơng gian vectơ V • Ví dụ khơng gian Euclid n chiều Trong Rn với u = (u1 , u2 , , un ), v = (v1 , v2 , , ) biểu thức tọa độ tích vơ hướng Rn : hu, vi := u1 v1 + u2 v2 + + un Rn không gian Euclid n chiều • Tính chất khơng gian Euclid n chiều: (a) Phần tử trung hòa θ (b) Phần tử đối xứng phần tử x thuộc V (c) ∀x ∈ V ta có 0x = θ (d) ∀x ∈ V ta có −x = (−1)x (e) ∀k ∈ R ta có kθ = θ (f) Với x ∈ V , k ∈ R ta có: kx = θ k = x = θ ak ϕk (t0 ) k=1+n(δ) ak ϕk (t0 ) hội tụ, phần dư k=1 ∞ ∞ X |ak − ck ||ϕk (t0 )| + ∞ X ak ϕk (t0 ) → n(δ) → k=1+n(δ) Ngoài ra, n(δ) X |ak − ck ||ϕk (t0 )| ≤ k=1 n(δ) X |ak − ck | k=1 n(δ) X ≤ C0 δ 1/2 k=1 r p |ϕk (t0 )|2 n(δ) = C0 δ p  η(δ)  = C η(δ) → δ → δ2 Ví dụ 1.2 Cho A toán tử đơn điệu, cho X = Y = R3 , A ma trận xác định ma trận vng cấp Tốn tử A : R3 → R3 xác định ma trận   0     A = 0    0 Dễ thấy hAx, xi = x21 + x22 ≥ 0, ∀x = (x1 , x2 , x3 ) ∈ R3 Suy A tốn tử đơn điệu Khi hệ phương trình có dạng x1 = f1 , x2 = f2 , 0x1 + 0x2 + 0x3 = f3 với f = (f1 , f2 , f3 ) ∈ R3 Hiển nhiên, hệ phương trình có nghiệm f = (f1 , f2 , 0) với f1 , f2 tùy ý Khi vế phải cho xấp xỉ fδ = (f1 , f2 , f3δ ) với f3δ 6= hệ phương trình trường hợp vơ nghiệm 1.2.3 Định nghĩa tốn tử hiệu chỉnh Để tìm nghiệm xấp xỉ tốn (1.1) khơng biết thơng tin nghiệm xác x0 , A N Tikhonov đưa số khái niệm Đó phương pháp hiệu chỉnh dựa việc xây dựng toán tử hiệu chỉnh cách chọn giá trị tham số đưa vào Giả sử A−1 không liên tục thay cho f ta biết fδ : ρY (fδ , f ) ≤ δ → Bài tốn đặt dựa vào thơng tin (A, fδ ) mức sai số δ, tìm phần tử xδ xấp xỉ nghiệm xác x0 tốn (1.1) Rõ ràng khơng thể xây dựng phần tử xδ theo quy tắc xδ = A−1 fδ Vì thứ A−1 khơng xác định với f ∈ Y, thứ hai A−1 không liên tục nên A−1 fδ tồn chưa xấp xỉ A−1 f Tham số δ cho ta độ sai số vế phải (1.1) Vì điều tự nhiên nảy sinh liệu xây dựng phần tử xấp xỉ phụ thuộc vào tham số tham số chọn tương thích với δ cho δ → phần tử xấp xỉ hội tụ đến nghiệm x0 Ta thấy từ fδ ∈ Y ta có phần tử xấp xỉ thuộc E, tức tồn tốn tử tác động từ không gian Y vào không gian X Định nghĩa 1.7 Toán tử R(f, α) phụ thuộc tham số α, tác động từ Y vào X gọi toán tử hiệu chỉnh cho toán (1.1) nếu: Tồn hai số dương δ1 α1 cho toán tử R(f, α) xác định với α ∈ (0, α1 ) với fδ ∈ Y : ρY (fδ , f ) ≤ δ, δ ∈ (0, δ1 ); Tồn phụ thuộc α = α(fδ , δ) cho với ε > 0, ∃δ(ε) ≤ δ1 để với fδ ∈ Y thỏa mãn ρY (fδ , f ) ≤ δ ≤ δ1 ρX (xα , x0 ) ≤ ε, x0 nghiệm xác (1.1) xα ∈ R(fδ , α(fδ , δ)) Phần tử xα ∈ R(fδ , α) gọi nghiệm hiệu chỉnh toán (1.1) α = α(fδ , δ) = α(δ) gọi tham số hiệu chỉnh Cũng dễ dàng nhận thấy từ định nghĩa trên, nghiệm hiệu chỉnh ổn định với kiện ban đầu Chú ý 1.1 Trong trường hợp α = δ, định nghĩa tốn tử hiệu chỉnh có dạng đơn giản sau: Toán tử R(f, δ) tác động từ Y vào X gọi toán tử hiệu chỉnh Tồn số dương δ1 cho toán tử R(f, δ) xác định với ≤ δ ≤ δ1 với f ∈ Y cho ρY (f, f0 ) ≤ δ; Với ε > bất kì, tồn δ0 = δ0 (ε, fδ ) ≤ δ1 cho từ ρY (fδ , f0 ) ≤ δ ≤ δ0 ta có ρX (xδ , x0 ) ≤ ε, xδ ∈ R(fδ , δ) 10 1.3 Phương pháp đường dốc 1.3.1 Nội dung phương pháp Xét tốn tối ưu khơng ràng buộc min{f (x) : x ∈ Rn } Ta xây dựng dãy điểm x0 , x1 , x2 , cho f (xk+1 ) < f (xk ), ∀k = 1, 2, 3, dãy {xk } hội tụ tới x∗ k → ∞ ∇f (x∗ ) = Giả sử ta có điểm xk thuộc lân cận x∗ , để giảm hàm mục tiêu ta dịch chuyển từ xk theo hướng dk tạo với vectơ gradient ∇f (xk ) góc tù, tức xác định xk+1 = xk + αk dk αk > 0, h∇f (xk ), di < Thậy vậy, khai triển hàm f (x) thành chuỗi Taylor quanh điểm xk ta nhận f (x) = f (f k ) + αh∇f (xk ), di + α2 h∇ f (¯ xk )d, di, ∂f (x) ∂f (x) ∂f (x)
T ∂ f (x)
, , , x¯k = , ∇2 f (x) = ∂x1 ∂x2 ∂xn ∂xi ∂xj xk + θ(x − xk ) với θ ∈ [0, 1] Nếu h∇f (xk ), di < với α > đủ nhỏ ta có ∇f (x) = f (x) < f (xk ) Việc lựa chọn hướng dịch chuyển dk độ dài bước αk khác cho ta phương pháp gradient khác Nếu chọn dk ≡ −∇f (xk ), ∀k phương pháp gradient có tên gọi phương pháp đường dốc (steepest descent method) Đây phương pháp thơng dụng để tìm cực tiểu, đơn gian áp dụng cho nhiều lớp hàm rộng Phương pháp xây dựng dãy lặp: xk+1 = xk − αk ∇f (xk ), αk > 0, k = 0, 1, (1.2) Thuật toán xác định αk bước lặp (Qui tắc Armijo) Chọn giá trị α tùy ý (như với bước lặp, chẳng hạn α = 1) xác định điểm x = xk − α∇f (xk ) 11 Tính f (x) = f [xk − α∇f (xk )] Kiểm tra bất đẳng thức f (x) − f (xk ) ≤ εαh∇f (xk ), dk i = −εαk∇f (xk )k2 (1.3) với < ε < số chọn tùy ý ∀k = 0, 1, Nếu (1.3) thỏa mãn α giá trị cần tìm: αk = α Nếu (1.3) khơng thỏa mãn ta giảm α (bằng cách nhân α với số λ ∈ (0, 1), chẳng hạn λ = 1/2) bất đẳng thức (1.3) thỏa mãn 1.3.2 Sự hội tụ phương pháp Ta nói dãy {xk } hội tụ tới điểm x∗ với tốc độ hội tụ tuyến tính hay tốc độ hội tụ cấp số nhân (công bội q) số k ta có bất đẳng thức kxk+1 − x∗ k ≤ qkxk − x∗ k, < q < Cơ sở việc lựa chọn α hội tụ phương pháp đường dốc cho định lý sau Định lý 1.1 Giả sử hàm f (x) bị chặn dưới, gradient ∇f (x) thỏa mãn điều kiện Lipschitz k∇f (x) − ∇f (y)k ≤ Lkx − yk, ∀x, y ∈ Rn αk chọn theo thuật toán nêu Khi đó, với điểm ban đầu x0 , q trình lặp (1.2) có tính chất k∇f (xk )k → k → ∞ Chứng minh Theo định lý giá trị trung bình f (y) − f (xk ) = h∇f (¯ xk ), x − xk i, x¯k = xk + θ(x − xk ) với θ ∈ [0, 1] Do x − xk = −α∇f (xk ) nên ta có f (y) − f (xk ) = h∇f (xk ), x − xk i − h∇f (¯ xk ) − ∇f (xk ), x − xk i