Thuật toán phân tích mẫu ngẫu nhiên giải bài toán quy hoạch ngẫu nhiên nhiều giai đoạn

Mục lục trang Mở đầu Chương Đại lượng ngẫu nhiên quy hoạch ngẫu nhiên 1.1 Một số vấn đề đại lượng ngẫu nhiên 1.1.1 Định nghĩa 1.1.2 Kỳ vọng phương sai biến ngẫu nhiên 1.1.3 Sự hội tụ dãy biến ngẫu nhiên 1.2 Một số vấn đề lý thuyết thống kê 10 1.2.1 Mẫu loại xác định mẫu 10 1.2.2 Đặc trưng mẫu 11 1.3 Bài tốn quy hoạch tuyến tính 12 1.3.1 Bài toán 12 1.3.2 Tính chất tốn phương pháp giải 13 1.4 Bài toán quy hoạch ngẫu nhiên 14 1.4.1 Quy hoạch tuyến tính ngẫu nhiên giai đoạn 15 1.4.2 Quy hoạch tuyến tính ngẫu nhiên hai giai đoạn 15 1.4.3 Quy hoạch tuyến tính ngẫu nhiên nhiều giai đoạn 16 Chương Sự hội tụ thuật tốn phân tích mẫu giải tốn quy hoạch ngẫu nhiên nhiều giai đoạn 18 2.1 Sự phân tích nhiều giai đoạn 18 2.1.1 Các giả thiết ban đầu 18 2.1.2 Bài toán 19 2.2 Lớp thuật toán phân tích mẫu 21 2.2.1 Định nghĩa 21 2.2.2 Tính chất 22 2.3 Sự hội tụ thuật toán 26 2.3.1 Các Bổ đề 26 2.3.2 Các Định lý hội tụ 32 Kết luận 33 Tài liệu tham khảo 34 Mở đầu Bài tốn quy hoạch tuyến tính mà thường gặp tốn có đầy đủ thông tin liệu Trong điều khiển hệ thống, liệu toán thường phụ thuộc vào nhiễu, thay đổi trạng thái hệ Sự xuất ngẫu nhiên nhiễu làm thay đổi trạng thái, dẫn tới lệch quỹ đạo hệ thống Do vậy, lý thuyết điều khiển tối ưu hệ thống, người ta quan tâm nhiều đến yếu tố ngẫu nhiên Bài tốn điều khiển tối ưu nói chung, tốn quy hoạch tuyến tính nói riêng, liệu chịu ảnh hưởng đại lượng ngẫu nhiên gọi toán tối ưu ngẫu nhiên tốn quy hoạch ngẫu nhiên Q trình điều khiển tối ưu hệ thống nhằm bảo đảm hệ thống quỹ đạo đạt mục tiêu tối ưu Q trình thơng thường điều chỉnh nhiều lần, phụ thuộc vào ảnh hưởng nhiễu tác động lên hệ thống theo thời gian xác định Bài toán quy hoạch ngẫu nhiên điều chỉnh nhiều lần gọi toán quy hoạch ngẫu nhiên nhiều giai đoạn Gần đầy cơng trình nghiên cứu toán quy hoạch ngẫu nhiên nhiều giai đoạn cho ta thuật toán hữu hiệu, góp phần quan trọng khơng vào lý luận mà việc giải toán thực tế đặt Chẳng hạn cơng trình Z L Chen W B Powel [4]; M Hindsberger A B Philpott [6]; K Linowsky A B Philpott [7] Với quan tâm, ý tới khía cạnh phù hợp nó, thời gian mức độ cho phép, chúng tơi cố gắng xem xét nội dung có liên quan đến cơng trình K Linowsky A B Philpott [7] Đó lý chúng tơi chọn đề tài "Thuật tốn phân tích mẫu ngẫu nhiên giải toán quy hoạch ngẫu nhiên nhiều giai đoạn" Nội dung luận văn bao gồm hai chương: Chương 1: Kiến thức sở Trong chương này, trình bày khái niệm kiến thức sở lý thuyết xác suất thống kê, nhằm phục vụ cho việc nghiên cứu đề tài Đồng thời tóm lược khái niệm kết lý thuyết quy hoạch tuyến tính, tốn quy hoạch tuyến tính ngẫu nhiên Chương 2: Sự hội tụ thuật tốn phân tích mẫu giải tốn quy hoạch ngẫu nhiên nhiều giai đoạn Chương nội dung luận văn Trong chương này, trước hết chúng tơi nghiên cứu lớp tốn quy hoạch tuyến tính ngẫu nhiên nhiều giai đoạn Trên sở trình bày thuật tốn xấp xỉ phân tích mẫu giải tốn nêu Tiếp đó, chúng tơi phát biểu chứng minh hội tụ thuật toán Luận văn thực hoàn thành trường Đại học Vinh, hướng dẫn khoa học PGS TS Trần Xuân Sinh Chúng xin bày tỏ lòng biết ơn sâu sắc tới thầy hướng dẫn tận tâm thầy suốt thời gian học tập nghiên cứu Nhân dịp này, xin gửi lời cảm ơn tới PGS TS Nguyễn Văn Quảng, PGS TS Phan Đức Thành, TS Nguyễn Trung Hoà, thầy cô giáo Hội đồng chấm luận văn, khoa Toán, khoa Sau Đại học, Trường Đại học Vinh Cũng này, cho phép tơi nói lời cảm ơn tới gia đình bạn bè, quan tâm, góp ý, giúp đỡ tạo điều kiện để thực luận văn Mặc dù cố gắng song luận văn khơng thể tránh khỏi sai sót Chúng tơi mong nhận đóng góp q thầy giáo bạn để luận văn hoàn thiện Chúng xin chân thành cảm ơn! Vinh, tháng 12 năm 2009 Tác giả Chương Đại lượng ngẫu nhiên quy hoạch ngẫu nhiên Trong chương này, chúng tơi trình bày nội dung đại lượng ngẫu nhiên toán quy hoạch ngẫu nhiên nhằm làm sở lý luận cho việc nghiên cứu đề tài 1.1 Một số vấn đề đại lượng ngẫu nhiên 1.1.1 Định nghĩa 1.1.1.1 Đại số σ - đại số Giả sử Ω tập tùy ý khác rỗng Ký hiệu P (Ω) tập tất tập Ω Lớp A ⊂ P (Ω) gọi đại số A1) Ω ∈ A, A2) A ∈ A ⇒ A¯ = Ω\A ∈ A, A3) A, B ∈ A ⇒ A ∪ B ∈ A (hoặc A ∩ B ∈ A) Lớp F ⊂ P(Ω) gọi σ-đại số đại số thoả mãn A4) Nếu An ∈ F, ∀n = 1, 2, ∞ ∞ An ∈ F, (hoặc n=1 An ∈ F) n=1 1.1.1.2 Không gian đo không gian xác suất Cho F σ-đại số tập Ω, Ω = ∅ Cặp (Ω, F) gọi không gian đo (Ω, F, P ) gọi không gian xác suất, 1.1.1.3 Độ đo xác suất Giả sử (Ω, F) không gian đo Một ánh xạ P : F → R gọi độ đo xác suất F P1) P (A) ≥ 0, A ∈ F, P2) P (Ω) = 1, P3) Nếu Ai ∈ F, i = 1, 2, , Ai ∩ Aj = ∅, i = j ∞ P ∞ Ai = i=1 P (Ai ) i=1 1.1.1.4 Đại lượng ngẫu nhiên Giả sử (Ω, F) không gian đo, R = [−∞; +∞] Hàm thực X = X(ω) xác định Ω lấy giá trị R gọi hàm F - đo gọi biến ngẫu nhiên suy rộng {ω : X(ω) ∈ B} = X −1 (B) ∈ F với B ∈ B(R) (trong B(R) σ - đại số tập Borel R ) Nếu X : Ω → R = (−∞; +∞) X gọi đại lượng ngẫu nhiên biến ngẫu nhiên 1.1.1.5 Hàm Borel Hàm ϕ : (Rn , B(Rn )) → (R, B(R)) gọi hàm Borel, hàm B(Rn ) - đo được, nghĩa ϕ−1 (B) ∈ B(Rn ), với B ∈ B(R) 1.1.1.6 Hàm phân phối xác suất biến ngẫu nhiên Giả sử X biến ngẫu nhiên xác định (Ω, F, P ), nhận giá trị R Hàm số FX (x) = P [X < x], (x ∈ R) gọi hàm phân phối biến ngẫu nhiên X 1.1.2 Kỳ vọng phương sai biến ngẫu nhiên 1.1.2.1 Định nghĩa Kỳ vọng hay giá trị trung bình biến ngẫu nhiên X số EX, xác định EX = XdP Ω Phương sai biến ngẫu nhiên X, ký hiệu DX (hay varX) số xác định DX = E(X − EX)2 Khi DX =   k (xk  +∞ −∞ (x − EX)2 pk , X rời rạc, P (X = xk ) = pk , − EX)2 p(x)dx, X liên tục, có hàm mật độ p(x) 1.1.2.2 Các tính chất kỳ vọng Nếu X ≥ EX ≥ Nếu X = C EX = C, với C số Nếu tồn EX với số λ, ta có E(λX) = λEX Nếu tồn EX EY E(X ± Y ) = EX ± EY   k xk pk , X rời rạc, P (X = xk ) = pk , EX =  +∞ xp(x)dx, X liên tục, có hàm mật độ p(x) −∞ (Định lý P Levy hội tụ đơn điệu) Nếu Xn ↑ X (tương ứng Xn ↓ X) tồn n để EXn− < ∞ (tương ứng EXn+ < ∞) EXn ↑ EX (tương ứng EXn ↓ EX) (Bổ đề Fatou) Nếu Xn ≥ Y, ∀n ≥ EY > −∞ ElimXn ≤ limEXn , Nếu Xn ≤ Y, ∀n ≥ EY < ∞ ElimXn ≥ limEXn , Nếu |Xn | ≤ Y, ∀n ≥ EY < ∞ ElimXn ≤ limEXn ≤ limEXn ≤ ElimXn (Định lý Lebesgue hội tụ bị chặn) Nếu |Xn | ≤ Y, ∀n ≥ 1, EY < ∞ Xn → X X khả tích, E|Xn − X| → EXn → EX, n → ∞ Nếu ϕ hàm lồi, X ϕ(X) khả tích E(ϕ(X)) ≥ ϕ(EX) 10 Nếu X Y độc lập E(XY ) = EX.EY 1.1.2.3 Các tính chất phương sai DX ≥ 0, DX = X = C hàng số Với số λ D(λX) = λ2 DX DX = EX − (EX)2 Nếu X, Y độc lập D(X ± Y ) = DX + DY Với số λ, ta có E(X − λ)2 ≥ E(X − EX)2 Dấu xảy EX = λ 1.1.3 Một số dạng hội tụ dãy biến ngẫu nhiên Định nghĩa Giả sử (Ω, F, P) không gian xác suất, (Xn ) dãy biến ngẫu nhiên xác định (Ω, F, P) Ta nói (Xn ) hội tụ hầu chắn (h.c.c) hay hội tụ với xác suất đến biến ngẫu nhiên X xác định không gian (Ω, F, P) P{ω : lim Xn (ω) = X(ω)} = 1, n→∞ hay tương đương với P{ω : lim Xn (ω) n→∞ X(ω)} = h.c.c Ký hiệu Xn −−→ X h.c.c 1.1.3.1 Định lý Ta có Xn −−→ X ⇔ ∀ε > 0, lim P(sup |Xk − X| > n→∞ ε) = ∞ k≥n h.c.c P(|Xn − X| > ε) < ∞ Xn −−→ X 1.1.3.2 Hệ Giả sử n=1 Định nghĩa Dãy biến ngẫu nhiên (Xn ) gọi hội tụ theo xác suất đến biến ngẫu nhiên X ∀ε > lim P(|Xn − X| > ε) = n→∞ P Ký hiệu Xn → − X 1.1.3.3 Một số tính chất P P P 1) Nếu Xn → − X, Yn → − Y aXn + bYn → − aX + bY P P 2) Nếu lim P(Xn = Yn ) = 0, Xn → − X Yn → − X n→∞ h.c.c P 3) Xn −−→ X ⇒ Xn → − X h.c.c P 4) Nếu (Xn ) dãy đơn điệu, Xn → − X Xn −−→ X h.c.c P 5) Xn → − X ⇒ ∃(Xnk ) ⊂ Xn : Xnk −−→ X (k → ∞) 1.1.3.4 Bổ đề Borel-Cantelli Giả sử {An } dãy biến cố Khi ∞ n=1 P (An ) a) Nếu < ∞ P (lim sup An ) = 0, n ∞ n=1 P (An ) b) Nếu = ∞ {An } độc lập P (lim sup An ) = 1, n ∞ ∞ lim sup An = n Am n=1 m=n Chứng minh a) Do { ∞ m=n Am }n≥1 dãy giảm nên ∞ Am ≤ lim P (lim sup An ) = lim P n n ∞ n m=n P (Am ) = m=n b) Nếu dãy {An } độc lập {An } độc lập Do ∞ P ∞ Am = m=n P (Am ) m=n 10 Vậy ta có ∞ 0≤P ∞ ∞ m=n m=n ∞ e−P (Am ) = e− ≤ (1 − P (Am )) P (Am ) = Am = ∞ m=n m=n P (Am ) = e−∞ = m=n (ở đây, ta sử dụng bất đẳng thức − x ≤ ex , ≤ x ≤ 1) Từ suy P ∞ m=n Am = 0, hay P ∞ m=n Am = Vậy P (lim sup An ) = n Bổ đề chứng minh xong 1.2 Một số vấn đề lý thuyết thống kê 1.2.1 Mẫu loại xác định mẫu 1.2.1.1 Tổng thể mẫu ◦ Tập hợp có phần tử đối tượng mà nghiên cứu gọi tổng thể Số phần tử tổng thể gọi kích thước tổng thể Nếu từ tổng thể, ta chọn n phần tử n phần tử gọi mẫu có kích thước n chọn từ tổng thể ◦ Khi chọn mẫu, phần tử chọn loại khỏi tổng thể, lần chọn gọi mẫu khơng hồn lại Nếu phần tử chọn trả lại tổng thể, chọn phần tử gọi mẫu có hồn lại ◦ Mẫu gọi mẫu ngẫu nhiên nóđược chọn cách để bảo đảm tính khách quan, ngẫu nhiên ◦ Khi tổng thể có kích thước lớn ta khơng phân biệt mẫu khơng hồn lại mẫu có hồn lại 1.2.1.2 Các loại xác định mẫu ◦ Ta gọi mẫu định tính mẫu mà ta quan tâm đến phần tử có tính chất A hay khơng 20 hàm tuyến tính xác định nhát cắt Điều mang lại tăng lên cho chuỗi toán xấp xỉ [AP tk ] (xác định theo bước k, phụ thuộc giai đoạn t, t = 1, , T ) giai đoạn sau: Với t = 1, giải toán quy hoạch tuyến tính C1k = c1 x1 + θ2 , x ,θ (AP 1k )    A1 x1 = b1 ,    với điều kiện θ2 + (β2j ) x1 ≥ α2,j , j = 0, , k −      x1 ≥ Với t = 2, , T − 1, ta có tốn Ctk (xt−1 , ωt ) = ct xt + θt+1 , xt ,θt+1    At xt = ωt − Bt−1 xt−1 ,    j với điều kiện θt+1 + (βt+1 ) xt ≥ αt+1,j , j = 0, , k −      xt ≥ (AP tk ) Trong tất giai đoạn, giai đoạn (j = 0) lập nhát cắt tầm thường, θt+1 ≥ −∞ Chúng sử dụng ký hiệu (πt , ρt ) để biểu thị biến đối ngẫu toán [AP tk ], với πt phù hợp với ràng buộc đẳng thức ρt phù hợp với ràng buộc nhát cắt Chúng tơi cịn sử dụng ký hiệu Ctk (xt−1 ) để biểu thị qt k i=1 pti Ct (xt−1 , ωt ) Từ giả thiết (A4 ) tập {xt | At xt = ωt − Bt−1 xt−1 , xt ≥ 0} khác rỗng bị chặn Vậy [AP tk ] ln có tập phương án khác rỗng, (với θt+1 chọn đủ lớn), có phương án tối ưu Bởi vậy, tập phương án đối ngẫu [AP tk ] khác rỗng Hơn nữa, từ giả thiết (A1 ), tập phương án đối ngẫu độc lập với kết 21 chúng ngẫu nhiên, cho phép xây dựng nhát cắt hợp lý giai đoạn dựa tập thu phương án mẫu khác Trong giai đoạn cuối T , thuật toán giải toán [LP T ] cho ta CTk (xT −1 , ωT ) = QT (xT −1 , ωT ), ∀k Từ nhát cắt thêm từ lặp lặp lại cho đoạn cho ta giá trị hàm mục tiêu toán xấp xỉ dãy đơn điệu, nghĩa Ctk+1 (xt−1 , ωt ) ≥ Ctk (xt−1 , ωt ), ∀t, ∀k 2.2 Lớp thuật toán phân tích mẫu Trong mục này, chúng tơi định nghĩa thuật toán theo mẫu giải toán [LP 1] Chúng miêu tả sinh nhát cắt thuật toán 2.2.1 Định nghĩa Một nhát cắt mẫu xkt−1 với mẫu Ωkt ⊆ Ωt tính tốn sau Bước 1: Giải toán [AP tk ] với ωti ∈ Ωkt giả sử (πti (xkt−1 ), ρit (xkt−1 )) biến đối ngẫu tối ưu đạt điểm cực biên Ta kết nạp chúng vào tập Dtk Bước 2: Với ωti ∈ / Ωkt , tập hợp k (πti (xkt−1 ), ρit (xkt−1 )) = arg max{πt (ωti −Bt−1 xkt−1 +ρt (αt+1 ) | (πt , ρt ) ∈ Dtk }, t = T , tập hợp πTi (xkT −1 ) = arg max{πT (ωT i − BT −1 xkT −1 ) | πT ∈ DTk } Bước 3: Nhát cắt có cơng thức θt ≥ αt,k − (βtk ) xt−1 , 22 qt βtk pti Bt−1 πti (xkt−1 ), = ≤ t ≤ T, i=1 qt k−1 pti [ωti πti (xkt−1 ) + (αt+1 ) ρit (xkt−1 )], αt,k = ≤ t ≤ T − 1, i=1 qt pT i ωT i πTi (xkT −1 ) αT,k = i=1 k−1 Chúng ta nhận thấy αt,k vô hướng, αt+1 biểu thị k−1 vectơ có chiều (k − 1) Điều có nghĩa chiều αt+1 ρit (xkt−1 ) tăng lên k tăng Chú ý nhát cắt mẫu định nghĩa cho Ωkt = ∅, với điều kiện Dtk = ∅ Nếu Ωkt = Dtk = ∅, đặt αt,k = −∞, βtk = Trong chứng minh hội tụ sử dụng xác πti (xkt−1 ) nằm tập bị chặn Thực πti (xkt−1 ) số hữu hạn hiệu chỉnh thuật toán Đây kết thực πt ρt chọn làm phương án cực biên đối ngẫu toán [AP tk ] 2.2.2 Tính chất Bổ đề 2.2.2.1 Với t, tồn mt cho tập Dtk có lực lượng nhiều mt Chứng minh Chúng ta sử dụng phương pháp quy nạp theo t Đầu tiên (π, ρ) ∈ DTk , ρ = π điểm cực biên tập {π | AT π ≤ cT }, mà có hữu hạn điểm cực biên Bởi vậy, | DTk |≤ mT , với mT Bây giả sử | Dtk |≤ mt Khi vectơ qt βtk pti Bt−1 πti (xjt−1 ) = i=1 có nhiều (mt )qt giá trị Điều cho thấy εkt−1 , tập hợp 23 điểm cực biên k−1 k−1 βtj ρjt−1 {(πt−1 , ρt−1 ) | At−1 πt−1 + j=1 ρjt−1 = 1}, ≤ ct−1 , j=1 k có lực lượng lớn mt−1 , độc lập với k Nhưng εkt−1 ⊇ Dt−1 , từ suy điều cần chứng minh Bây giờ, lớp chung thuật tốn phân tích theo mẫu xác định, mà hội tụ tới phương án tối ưu Thuật toán thực sau: Thuật toán phân rã Benders lấy mẫu nhiều giai đoạn (Multistage Sampled Benders Decomposition - (M SBD)) Bước Khởi tạo Tập số với k = Bước Tuyển nghiệm Trong bước k, mẫu đầy đủ theo {ωtk }t=2, ,T thể xây dựng độc lập từ bước lặp Theo đó, tốn xấp xỉ giải cho giai đoạn T − 1, mang lại phương án k tối ưu (xkt , θt+1 ) toán [AP tk ] Bước Tạo nhát cắt Mỗi giai đoạn t = 2, , T nhát cắt mẫu tạo xkt−1 , với mẫu Ωkt Bước Gán k := k + 1, trở lại bước Chú ý rằng, giai đoạn t, hai mẫu sử dụng giai đoạn, trừ Ωkt = {ωtk }, mẫu khác Quan sát thấy chúng khơng cần độc lập, thật chúng chọn Ωkt = {ωtk } Tuy nhiên, để mang lại kết hội tụ cho phân tích ngẫu nhiên qua nhiều giai đoạn cần địi hỏi đặc tính sau q trình lấy mẫu Định nghĩa Đặc tính lấy mẫu nhát cắt Thuật tốn phân rã Benders [8] lấy mẫu nhiều giai đoạn M SBD gọi thoả mãn đặc tích lấy mẫu nhát cắt (Cut-Sampling Property - CSP ), giai đoạn t, tập {k | Ωkt = ∅} hữu hạn Định nghĩa Đặc tính tương giao mẫu Thuật tốn phân rã Benders 24 lấy mẫu nhiều giai đoạn M SBD gọi thoả mãn đặc tính tương giao mẫu (Sample-Intersection Propty - SIP ), giai đoạn t kết ωti ∈ Ωt , Pr [(ωti ∈ Ωkt ) ∩ (ωtk = ωti )] > 0, với k thoả mãn Ωkt = ∅ Đặc tính lẫy mẫu nhát cắt đồi hỏi rằng, cuối thuật tốn tính (πti (xkt−1 ), ρit (xkt−1 )) kết ωti giai đoạn Đặc tính tương giao mẫu phải đảm bảo rằng: kết phải dùng để tính nhát cắt (với xác suất), bao gồm vài thông tin từ kết bước lấy mẫu xây dựng bước Bổ đề 2.2.2.2 Giả sử (M SBD) thoả mãn (SIP ) Vậy thoả mãn (CSP ) với giai đoạn t dãy vô hạn {xkt−1 }k ∈ J tạo thuật toán với i = 1, , qt , dãy {xkt−1 }k ∈ Ji với Ji = J ∩ {k | ωti ∈ Ωkt ωtk = ωti } vô lớn với xác suất Chứng minh Cho giai đoạn t tuỳ ý, đặt {xkt−1 }k ∈ J dãy vô hạn tạo thuật toán giả sử tập {k | Ωkt = ∅} hữu hạn từ CSP Khi giao J ∩ K, K = {k | Ωkt = ∅}, vô hạn Thêm vào đó, đặc tính tương giao mẫu (SIP ) cho k ∈ J ∩ K, chúng tơi có Pr [(ωti ∈ Ωkt ) ∩ (ωtk = ωti )] > 0, ∀i Từ Bổ đề Borel - Cantelli, tập hợp Ji ⊆ J ∩ K, với ωti ∈ Ωkt ωtk = ωti , cho k ∈ Ji vơ hạn có xác suất Bây giả sử (CSP ) không xác định Khi với giai đoạn t, dãy K = {k | Ωkt = ∅} vơ hạn Vậy với dãy J K , Ωkt = ∅, ∀k ∈ J Từ suy điều phải chứng minh Bổ đề 2.2.2.3 Các nhát cắt mẫu nhát cắt có hiệu lực Ngồi ra, ta có mối liên hệ xác định sau đây: Qt (xkt−1 ) ≥ θtk , ∀k ∈ N, ∀t = 2, , T, 25 k Qt−1 (xt−2 , ωt−1 ) ≥ Ct−1 (xt−2 , ωt−1 ), ∀xt−2 , ωt−1 , ∀k ∈ N, ∀t = 2, , T Chứng minh Chứng minh Bổ đề tương tự với Bổ đề 4.1 4.3 tài liệu trích dẫn [4] Bổ đề 2.2.2.4 Giả sử (M SBD) thoả mãn (SIP ) (CSP ) Khi đó, với dãy hội tụ (xkt−1 )k ∈ J tạo (M SBD), tồn dãy {∆k }k∈J xác suất qt dãy rời J đánh số ri ∈ Ji với (i) θik ≥ (ii) Ji ⊆ J qt ri ri i=1 pti Ct (xt−1 , ωti ) ∩ {k | ωti ∈ Ωkt , ωtk + ∆k , = ωti }, (iii) ri < k với hầu kết, trừ hữu hạn giá trị k ri → ∞ k → ∞, (iv) limk→∞ | ∆k |= Chứng minh Xét giai đoạn t ∈ {2, , T − 1}, giai đoạn T giải theo cách tương tự Giả sử {xkt−1 }k∈J dãy hội tụ xem xét bước lặp k ∈ J Tất nhát cắt tạo bước phải tương thích, với r < k, θtk ≥ αt,r − (βtr ) xkt−1 qt r pti (πti (xrt−1 )) (ωti − Bt−1 xkt−1 ) + (αt+1 ) ρit (xrt−1 ) = i=1 qt r pti (πti (xrt−1 )) (ωti − Bt−1 xrt−1 ) + (αt+1 ) ρit (xrt−1 ) + ∆k1 , = i=1 với qt ∆k1 pt,i (πti (xrt−1 )) Bt−1 (xrt−1 − xkt−1 ) = i=1 Từ Bổ đề 2.2.2.2, với i = 1, , qt , tập hợp J có vơ hạn tập Ji với xác suất 1, cho ωti ∈ Ωrt i ωtri = ωti , với ri ∈ Ji Chọn ri số lớn tập hợp Ji , mà nhỏ k Từ tập hợp Ji (có vô hạn), cho ri → ∞ k → ∞ 26 i i Từ phương án tối ưu đối ngẫu bước lặp ri , (πti (xrt−1 ), ρit (xrt−1 )), thoả mãn đối ngẫu giai đoạn r = max{ri | i = 1, , qt }, có qt θtk r i i pti (πti (xrt−1 )) (ωti − Bt−1 xrt−1 ) + (αt+1 ) ρit (xrt−1 ) + ∆k1 ≥ (2.1) i=1 i đây, qui ước rằng: ρit (xrt−1 ) toạ độ thứ r có giá trị Điều có nghĩa ri r i i (αt+1 ) ρit (xrt−1 ) = (αt+1 ) ρit (xrt−1 ), Do vế phải (2.1) trở thành = qt ri i ri i=1 pti (πt (xt−1 )) (ωti − Bt−1 xt−1 ) qt ri ri k k i=1 pti Ct (xt−1 , ωti ) + ∆1 + ∆2 , ri i ) + ∆k1 + ∆k2 + (αt+1 ) ρit (xrt−1 qt ∆k2 i i pt,i (πti (xrt−1 )) Bt−1 (xrt−1 − xrt−1 ) = i=1 Khi đó, qt | ∆ki |≤ pt,i πti (xrt−1 ) Bt−1 (xrt−1 − xkt−1 ) i=1 Do điểm cực biên đối ngẫu bị chặn (bởi Dtk tập hợp bị chặn) từ dãy xkt−1 k∈J hội tụ, với r → ∞ k → ∞, ta có lim | ∆k1 |= k→∞ Tương tự, lim | ∆k2 |= k→∞ Bổ đề chứng minh xong 2.3 Sự hội tụ thuật toán 2.3.1 Các Bổ đề Trong phần này, chứng minh hội tụ thuật toán thoả mãn (SIP ) (CSP ) phương pháp qui nạp theo giai đoạn t 27 Bổ đề 2.3.1.1 Giả sử (M SBD) thoả mãn (CSP ) (SIP ) Với tập hợp vô hạn K ⊆ N , ta giả thiết 0 k với k ∈ K; theo ωt−1 = ωt−1 (i) ωt−1 (ii) Dãy xkT −2 k∈K hội tụ tới vectơ cho x0T −2 Khi tồn tập hợp vô hạn J ⊆ K cho (a) Dãy xkT −1 (b) Dãy θTk k∈J k∈J hội tụ tới vectơ x0T −1 ; hội tụ tới QT (x0T −1 ) với xác suất 1; (c) Dãy CTk −1 (xkT −2 , ωT0 −1 ) k∈J hội tụ tới QT −1 (x0T −2 , ωT0 −1 ), với xác suất Chứng minh (a) Từ giả thiết có tập phương án sở bị chặn Đồng thời, ta có dãy vơ hạn bị chặn có dãy hội tụ, ta ký hiệu x0T −1 giới hạn dãy cho J tập số tương ứng (b) Từ Bổ đề 2.2.2.3 2.2.2.4, với xác suất 1, có dãy {∆k }k∈J tương ứng tập J đánh số ri , với QT (xkT −1 ) ≥ θTk (2.2) qT pT i CTri (xrTi−1 , ωT i ) + ∆k ≥ i=1 qT = QT (xkT −1 ) pT i CTri (xrTi−1 , ωT i ) − QT (xkT −1 , ωT i ) + ∆k + i=1 qT pT i QT (xrTi−1 , ωT i ) − QT (xkT −1 , ωT i ) + ∆k = QT (xkT −1 ) + i=1 Ký hiệu qT ∆k1 pT i [QT (xrTi−1 , ωT i ) − QT (xkT −1 , ωT i )] + ∆k = i=1 Từ (2.2) ta | θTk − QT (xkT −1 ) |≤| ∆k1 | 28 Khi qT | ∆k1 pT i | QT (xrTi−1 , ωT i ) − QT (xkT −1 , ωT i ) | + | ∆k |→ ∞, (k → ∞) |≤ i=1 Do hàm QT (xT −1 , ωT ) liên tục xT −1 nên {xkT −1 }k∈J dãy hội tụ ri → ∞ k → ∞ Điều dẫn đến kết | QkT − QT (xkT −1 ) | ≤ | ∆k1 |, với lim | ∆k1 |= k→∞ Ngồi ra, liên tục QT (xT −1 ) xT −1 , nên ta có lim | QT (xkT −1 ) − QT (x0T −1 ) |= k→∞ Do | θTk − QT (x0T −1 ) | ≤ | θTk − QT (xkT −1 ) | + | QT (xkT −1 ) − QT (x0T −1 ) | ≤ | ∆k1 | + | QT (xkT −1 ) − QT (x0T −1 ) |→ ∞, k → ∞ Vì thế, dãy {θTk }k∈J hội tụ tới QT (x0T −1 ) với xác suất Phần (b) chứng minh (c) Trở lại Bổ đề 2.2.2.3 2.2.2.4, ta có QT −1 (xkT −2 , ωT0 −1 ) ≥ CTk −1 (xkT −2 , ωT0 −1 ) = cT −1 xkT −1 + θTk ≥ cT −1 xkT −1 + QT (xkT −1 ) + ∆k1 ≥ QT −1 (xkT −2 , ωT0 −1 ) + ∆k1 , bất đẳng thức cuối suy từ việc xkT −1 phương án toán [LP (T − 1)], với xT −2 = xkT −2 ωT −1 = ωT0 −1 Điều dẫn đến | CTk −1 (xkT −2 , ωT0 −1 ) − QT −1 (xkT −2 , ωT0 −1 ) | ≤ | ∆k1 | Từ hàm QT −1 (xT −2 , ωT −1 ) liên tục xT −2 từ dãy {xkT −2 }k∈K hội tụ K (cũng hội tụ J) nên lim | QT −1 (xkT −2 , ωT0 −1 ) − QT −1 (x0T −2 , ωT0 −1 ) |= k→∞ 29 Bởi vậy, | CTk −1 (xkT −2 , ωT0 −1 ) − QT −1 (x0T −2 , ωT0 −1 ) | ≤ ≤ | CT −1 (xkT −2 , ωT0 −1 ) − QT −1 (xkT −2 , ωT0 −1 ) | + | QT −1 (xkT −2 , ωT0 −1 ) − QT −1 (x0T −2 , ωT0 −1 ) | ≤ | ∆k1 | + | QT −1 (xkT −2 , ωT0 −1 )−QT −1 (x0T −2 , ωT0 −1 ) |→ 0, k → ∞ Điều có nghĩa dãy {CTk −1 (xkT −2 , ωT0 −1 )}k∈J hội tụ tới QT −1 (x0T −2 , ωT0 −1 ) với xác suất Kết luận (c) chứng minh Bổ đề chứng minh xong Bổ đề 2.3.1.2 Giả sử (M SBD) thoả mãn (CSP ) (SIP ) với t, ≤ t ≤ T − tập hợp K ⊆ N , giả sử (i) ωtk = ωt0 cho vài ωt0 với k ∈ K; (ii) Dãy {xkt−1 }k∈K hội tụ tới số vectơ x0t−1 Khi tồn tập hợp vô hạn J ⊆ K cho (a) Dãy {xkt }k∈J hội tụ tới vài vectơ x0t ; k (b) Dãy {θt+1 }k∈J hội tụ tới Qt+1 (x0t );, với xác suất (c) Dãy {Ctk (xkt−1 , ωt0 )}k∈J hội tụ tới Qt (x0t−1 , ωt0 ), với xác suất Chứng minh Bổ đề chứng minh phương pháp qui nạp theo t Khi t = T − 1, Bổ đề Bổ đề 2.3.1.1 Giả sử Bổ đề có giá trị theo t, ta cần chứng minh có giá trị với t − Bởi thừa nhận rằng, cho tập hợp K ⊆ N đưa k ωt−1 = ωt−1 , k ∈ K [xkt−2 ]k∈K → x0t−2 (a) Tại bước lặp k ∈ K, thuật toán giải toán [AP (t − 1)k ], với xt−2 = xkt−2 ωt−1 = ωt−1 , cho ta phương án (xkt−1 , θtk ) Từ tập hợp phương án bị chặn, dãy (xkt−1 )k∈K dãy hội tụ Biểu thị giới hạn tương đương x0t−1 tập số L Bây giờ, tập J xây dựng cách áp dụng giả thiết qui nạp, Bổ đề 3.2, với t = 1, , qt , tập hợp L có wp1 30 dãy vô hạn Li cho ωtk = ωti ωti ∈ Ωkt , với k ∈ Li Với i = 1, , qt , giả thiết qui nạp bổ đề có giá trị cho giai đoạn t thật ωtk = ωti với k ∈ Li dãy {xkt−1 }k∈L (và từ dãy {xkt−1 }k∈Li ) hội tụ tới vectơ x0t−1 Do phải tồn tập hợp vô hạn Ji Li với i = 1, , qt , cho dãy {Ctk (xkt−1 , ωti )}k∈Ji hội tụ tới Qt (x0t−1 , ωti ) với xác suất Bởi vậy, với k ∈ Ji , ta có lim | Ctk (xkt−1 , ωti ) − Qt (x0t−1 , ωti ) |= k→∞ Đặt J = (2.3) qt i=1 Ji Rõ ràng J ⊆ L, nên dãy {xkt−1 }k∈J hội tụ x0t−1 Kết luận (a) chứng minh (b) Từ Bổ đề 2.2.2.3 Bổ đề 2.2.2.4, với k ∈ J có qt Qt (xkt−1 ) ≥ θtk ri pit Ctri (xt−1 , ωti ) + ∆k , ≥ i=1 với limk→∞ | ∆k |= 0, ri phần tử Ji = J ∩ {k | ωti ∈ Ωkt , ωtk = ωti } Điều tương đương với qt Qt (xkt−1 ) ≥ θtk ≥ Qt (xkt−1 ) i pit [Ctri (xrt−1 , ωti ) − Qt (xkt−1 , ωti )] + ∆k , + i=1 | θtk − Qt (xkt−1 ) | ≤ | ∆k1 |, với qt ∆k1 i pit [Ctri (xrt−1 , ωti ) − Qt (xkt−1 , ωti )] + ∆k = i=1 31 Lúc ta qt | ∆k1 i pit | Ctri (xrt−1 , ωti ) − Qt (xkt−1 , ωti ) | + | ∆k | |≤ i=1 qt i pit | Ctri (xrt−1 , ωti ) − Qt (x0t−1 , ωti ) ≤ i=1 + | Qt (x0t−1 , ωti ) − Qt (xkt−1 , ωti | + | ∆k | Nếu k → ∞, ri → ∞ từ (2.3), với ri ∈ J, ta có i lim | Ctri (xrt−1 , ωti ) − Qt (x0t−1 , ωti ) |= 0, k→∞ hội tụ theo xác suất Ngoài ra, từ liên tục Qt (xt−1 , ωt ) xt−1 từ hội tụ dãy {xkt−1 }k∈J → x0t−1 , ta suy lim | Qt (x0t−1 , ωti ) − Qt (xkt−1 , ωti ) | = k→∞ Bởi vậy, lim | ∆k1 |= 0, k→∞ với xác suất | θtk − Qt (xkt−1 ) |→ 0, k → ∞, với xác suất Vì Qt liên tục nên lim | Qt (xkt−1 ) − Qt (x0t−1 ) |= k→∞ Do đó, với xác suất | θtk − Qt (x0t−1 ) |→ 0, (k → ∞) Từ suy dãy {θtk }k∈J hội tụ Qt (x0t−1 ) với xác suất Kết (b) chứng minh (c) Sử dụng kỹ thuật tương tự chứng minh Bổ đề 2.3.1.1, ta thu k 0 | Ct−1 (xkt−2 , ωt−1 ) − Qt−1 (xkt−2 , ωt−1 ) | ≤ | ∆k1 |, 32 tính liên tục ta có 0 lim | Qt−1 (xkt−2 , ωt−1 ) − Qt−1 (x0t−2 , ωt−1 ) |= k→∞ Điều suy với xác suất 1, ta k 0 | Ct−1 (xkt−2 , ωt−1 ) − Qt−1 (x0t−2 , ωt−1 ) |→ 0, (k → ∞), k 0 có nghĩa dãy {Ct−1 (xkt−2 , ωt−1 )}k∈J hội tụ tới Qt−1 (x0t−2 , ωt−1 ) với xác suất Kết (c) chứng minh Bổ đề chứng minh xong 2.3.2 Các Định lý hội tụ Định lý 2.3.2.1 Giả sử toán (M SBD) thoả mãn (CSP ) (SIP ) Khi dãy giá trị nghiệm {C1k }k∈N toán [AP 1k ] hội tụ tới Q1 , với xác suất Chứng minh Việc xấp xỉ toán [AP 1k ] giai đoạn 1, ràng buộc A1 x1 = b1 có cơng thức A1 x1 = ω1 − B0 x0 , với w1 ≡ b1 , x0 ≡ B0 cho Giá trị C1k xem hàm bình thường C1k (x0 , ω1 ) Kết suy từ Bổ đề 2.2.2.2 Đó điều phải chứng minh Trong cơng trình Convergent Cutting Plane and Partial-Sampling Algorithm for Multistage Linear Programs with Recourse, đăng tạp chí Journal of Optimization Theory and Applications, Vol.102 (1999), trang 497-524, tác giả Z L Chen W B Powel chứng minh định lý sau đây: Định lý 2.3.2.2 Giả sử toán (M SBD) thoả mãn (CSP ) (SIP ) Khi đó, điểm hội tụ dãy {xk1 }k∈N phương án tối ưu toán [LP 1], với xác suất 33 Kết luận Kết luận văn bao gồm: Trình bày khái niệm kiến thức sở lý thuyết xác suất thống kê, nhằm phục vụ cho việc nghiên cứu đề tài Đồng thời luận văn tóm lược khái niệm kết thuộc lý thuyết quy hoạch tuyến tính, tốn quy hoạch tuyến tính ngẫu nhiên Nêu lớp tốn quy hoạch tuyến tính ngẫu nhiên nhiều giai đoạn với giả thiết xuất đại lượng ngẫu nhiên nhằm tạo điều kiện cho việc lấy mẫu ngẫu nhiên trình xấp xỉ tìm phương án tối ưu Với toán nêu, xây dựng nhát cắt mẫu ngẫu nhiên nhằm tiến tới xây dựng thuật tốn giải Trình bày thuật toán phân rã Benders lấy mẫu nhiều giai đoạn giải toán đặt Phát biểu chứng minh số bổ đề định lý điều kiện để thuật toán nêu hội tụ theo xác suất Do thời gian trình độ có hạn nên số vấn đề cần tiếp tục nghiên cứu bao gồm: - Tìm ví dụ số làm sáng tỏ thuật toán nêu có hiệu - Xây dựng thuật tốn hồn chỉnh lập trình giải hai tốn đề cập luận văn 34 Tài liệu tham khảo [1] Nguyễn Văn Quảng, (2007), Giáo trình Xác suất, NXB Đại học Quốc gia Hà Nội [2] Trần Xuân Sinh, (2004), Các phương pháp ngẫu nhiên giải toán quy hoạch, Đại học Vinh [3] Nguyễn Duy Tiến - Vũ Viết Yên (2001), Lý thuyết xác suất, NXB Giáo dục, Hà Nội [4] Z L Chen and W B Powel, (1999), Convergent Cutting Plane and Partial-Sampling Algorithm for Multistage Linear Programs with Recourse, Journal of Optimization Theory and Applications, Vol.102, 497-524 [5] J C Donohue, (1996), Stochastic Network Programming and the Dynamic Vehicle Allocation Problams, PhD Dissertation, University of Michigan, Ann Arbor, Michigan [6] M Hindsberger and A B Philpott, A Method for Solving Multistage Stochastic Linear Programs, European Journal of Operations Rescarch (submitted) [7] K Linowsky and A B Philpott, (2005), On the Convergence of Sampling-Based Decomposition Algorithms for Multistage Stochastic Programs, Journal of Optimization Theory and Applications, Vol.125, No2, 349-366 [8] G Zakeri, A B Philpott and D M Ryan, (2000), Inexact Cuts in Stochastic Benders Decompossition, SIAM, Journal on Optimization, Vol.10, 643-657 ... 2.1 Sự phân tích nhiều giai đoạn 2.1.1 Các giả thiết ban đầu Bài toán quy hoạch tuyến tính ngẫu nhiên nhiều giai đoạn với hiệu chỉnh biết lớp toán quy hoạch ngẫu nhiên Dạng tổng quát toán miêu... thuật tốn phân tích mẫu giải toán quy hoạch ngẫu nhiên nhiều giai đoạn Trong chương này, chúng tơi trình bày theo mục bao gồm: Mục 2.1 trình bày cơng thức tổng cho toán quy hoạch ngẫu nhiên nhiều. .. khái niệm kết lý thuyết quy hoạch tuyến tính, tốn quy hoạch tuyến tính ngẫu nhiên Chương 2: Sự hội tụ thuật tốn phân tích mẫu giải tốn quy hoạch ngẫu nhiên nhiều giai đoạn Chương nội dung luận