Phương pháp xấp xỉ trung bình mẫu giải bài toán quy hoạch ngẫu nhiên rời rạc

2 MỤC LỤC Mở đầu Kiến thức sở 1.1 Một số vấn đề sở lý thuyết xác suất thống kê 1.2 Bài toán qui hoạch ngẫu nhiên 10 1.3 Bài toán quy hoạch ngẫu nhiên rời rạc 14 Phương pháp xấp xỉ trung bình mẫu 16 2.1 Phép lấy mẫu 16 2.2 Thuật tốn xấp xỉ trung bình mẫu 26 2.3 Ví dụ 34 Kết luận 37 Tài liệu tham khảo 38 MỞ ĐẦU Bài toán quy hoạch với tham gia yếu tố ngẫu nhiên gọi toán quy hoạch ngẫu nhiên Trong toán quy hoạch ngẫu nhiên, toán quy hoạch ngẫu nhiên rời rạc mơ hình dành cho nhiều toán thực tế Cũng lý thuyết quy hoạch, việc xét tới toán quy hoạch ngầu nhiên rời rạc gặp nhiều khó khăn Gần cơng trình nghiên cứu tốn quy hoạch ngẫu nhiên rời rạc cho ta thuật toán hữu hiệu góp phần quan trọng khơng vào lý luận mà việc giải toán thực tế đặt Chẳng hạn cơng trình Hochberg Tamhane; Morton Wood; Anton J Kleywegt, Alexander Sharpio Tito Homem-De-Mello Với quan tâm, ý tới khía cạnh phù hợp nó, thời gian mức độ cho phép, cố gắng xem xét nội dung có liên quan đến cơng trình Anton J Kleywegt, Alexander Sharpio Tito Homem-De-Mello Đó lí chọn đề tài Phương pháp xấp xỉ trung bình mẫu giải toán quy hoạch ngẫu nhiên rời rạc Nội dung luận văn bao gồm hai chương: Chương Kiến thức sở Trong chương này, chúng tơi trình bày khái niệm kiến thức sở lý thuyết xác suất thống kê nhằm phục vụ cho việc nghiên cứu đề tài Đồng thời đưa hướng tiếp cận để giải toán quy hoạch ngẫu nhiên rời rạc Chương Phương pháp xấp xỉ trung bình mẫu Trong chương này, trước hết chúng tơi trình bày phép lấy mẫu tốn nêu đề tài Tiếp chúng tơi trình bày tính chất toán đặt Cuối đưa thuật toán ví dụ minh họa Luận văn thực hoàn thành trường Đại học Vinh, hướng dẫn bảo tận tình thầy giáo PGS TS Trần Xuân Sinh Tác giả xin chân thành bày tỏ lòng biết ơn sâu sắc đến thầy giáo hướng dẫn, cô giáo, thầy giáo tổ Xác suất thống kê Toán ứng dụng, Khoa toán trường Đại học Vinh, Khoa Đào tạo Sau Đại học, bạn góp ý tạo điều kiện cho tác giả hoàn thành luận văn Mặc dù cố gắng, thời gian lực thân cịn nhiều hạn chế nên luận văn khơng tránh khỏi thiếu sót Tác giả mong nhận góp ý thầy, giáo bạn bè Vinh, ngày tháng 12 năm 2010 Tác giả CHƯƠNG KIẾN THỨC CƠ SỞ 1.1 Một số vấn đề sở lý thuyết xác suất thống kê 1.1.1 Đại số σ - đại số Giả sử Ω = ∅ P(Ω) họ tất tập Ω Mỗi họ A ⊂ P(Ω) gọi lớp Lớp A ⊂ P(Ω) gọi đại số thỏa mãn: 1) Ω ∈ A, 2) với A ∈ A AC = Ω \ A ∈ A, 3) với A, B ∈ A A ∪ B ∈ A Lớp F ⊂ P(Ω) gọi σ - đại số thỏa mãn: 1) Ω ∈ F , 2) với A ∈ F AC = Ω \ A ∈ F , ∞ An ∈ F 3) với An ∈ F, (∀n = 1, 2, ), n=1 1.1.2 Không gian đo độ đo xác suất Cặp (Ω, F) gọi không gian đo, Ω tập khác rỗng, F σ - đại số tập Ω Giả sử (Ω, F) không gian đo Một ánh xạ P : F → R gọi độ đo xác suất F nếu: 1) P (A) ≥ 0, ∀A ∈ F , 2) P (Ω) = 1, 3) với An ∈ F, ∀n = 1, 2, , Ai Aj = ∅, i = j ∞ P( ∞ An ) = n=1 P (An ) n=1 Sau số tính chất xác suất thường dùng lý thuyết quy hoạch ngẫu nhiên: P (∅) = 0; Nếu A ⊂ B; A, B ∈ F P (A) ≤ P (B); Nếu A, B ∈ F P (A ∪ B) = P (A) + P (B) − P (AB); 1.1.3 Không gian xác suất Giả sử Ω tập hợp khác rỗng, F σ - đại số tập Ω , P độ đo xác suất F Khi ba (Ω, F, P ) gọi không gian xác suất Tập Ω gọi không gian biến cố sơ cấp σ - đại số F gọi σ - đại số biến cố Mỗi A ∈ F gọi biến cố Không gian xác suất (Ω, F, P ) gọi không gian xác suất đầy đủ tập biến cố có xác suất không biến cố 1.1.4 Biến ngẫu nhiên Giả sử (Ω, F, P ) không gian xác suất, G σ - đại số σ - đại số F B(R) σ - đại số Borel đường thẳng R Khi ánh xạ X : Ω → R gọi biến ngẫu nhiên G - đo với B ∈ B(R) ta có X −1 (B) = {w : X(w) ∈ B} ∈ G Nếu biến ngẫu nhiên X nhận hữu hạn giá trị gọi biến ngẫu nhiên đơn giản Biến ngẫu nhiên gọi đại lượng ngẫu nhiên Trong trường hợp đặc biêt, X biến ngẫu nhiên F đo X gọi cách đơn giản biến ngẫu nhiên 1.1.5 Hàm phân phối xác suất biến ngẫu nhiên Giả sử X biến ngẫu nhiên xác định (Ω, F, P ), nhận giá trị R Hàm số FX (x) = P [X < x], (x ∈ R) gọi hàm phân phối biến ngẫu nhiên X Hàm phân phối có tính chất: ≤ F (x) ≤ 1; a < b F (b) − F (a) = P (a ≤ X < b), F (x) hàm không giảm; lim F (x) = 1, lim F (x) = x→+∞ x→−∞ 1.1.6 Kì vọng biến ngẫu nhiên Giả sử X : (Ω, F, P ) → (R, B(R)) đại lượng ngẫu nhiên Khi tích phân Lebesgue X theo độ đo P (nếu tồn tại) gọi kì vọng X kí hiệu EX Vậy XdP EX = Ω Kì vọng có tính chất sau đây: Nếu X ≥ EX ≥ 0; Nếu X = c EX = c; Nếu tồn EX với c ∈ R, ta có E(cX) = c(EX); Nếu tồn EX EY E(X ± Y ) = EX ± EY ;   xi pi X rời rạc nhận giá trị x1 , x2 ,    i  EX = với p(X = xi ) = pi +∞      xp(x)dx X liên tục có hàm mật độ p(x) −∞ (Định lý P.Levi hội tụ đơn điệu) Nếu Xn ↑ X (tương ứng Xn ↓ X ) tồn n để EXn− < ∞ (tương ứng EXn+ < ∞), EXn ↑ EX (tương ứng EXn ↓ EX ) (Bổ đề Fatou) Nếu Xn ≥ Y với n ≥ EY > −∞ E lim Xn ≤ lim EXn (Định lí Lebesgue hội tụ bị chặn) Nếu |Xn | ≤ Y với n ≥ 1, EY < ∞ Xn → X X khả tích, E|Xn − X| → EXn → EX (khi n → ∞) (Bất đẳng thức Markov) Giả sử X biến ngẫu nhiên không âm Khi tồn EX với ε > ta có P (X ≥ ε) ≤ EX ε 1.1.7 Phương sai biến ngẫu nhiên Giả sử X : Ω → E biến ngẫu nhiên Khi số DX = E(X − EX)2 (nếu tồn tại) gọi phương sai X Phương sai có tính chất sau đây: DX = EX − (EX)2 ; DX ≥ 0; DX = X = EX = const h.c.c; D(cX) = c2 DX 1.1.8 Một số dạng hội tụ biến ngẫu nhiên Ta nói dãy biến ngẫu nhiên (Xn , n ≥ 1) hội tụ đến biến ngẫu nhiên X (khi n → ∞) - hội tụ yếu (theo phân phối) lim Fn (x) = F (x), ∀x ∈ C(F ), n→∞ Fn (x) F (x) tương ứng hàm phân phối biến ngẫu nhiên D Xn X ; C(F ) tập hợp điểm mà F (x) liên tục, ký hiệu Xn − → X - hội tụ hầu chắn (h.c.c) P ( lim |Xn − X| = 0) = 1, ký hiệu n→∞ hcc Xn −−→ X - hội tụ theo xác suất với ε > lim P (|Xn − X| > ε) = 0, ký n→∞ P hiệu Xn − → X 1.1.9 Mẫu ngẫu nhiên mẫu quan sát Mẫu ngẫu nhiên kích thước n biến ngẫu nhiên X tập hợp n biến ngẫu nhiên X1 , X2 , , Xn độc lập, có phân phối với X , kí hiệu W = (X1 , X2 , , Xn ) Biến ngẫu nhiên X gọi biến ngẫu nhiên gốc Các biến ngẫu nhiên Xi gọi X Mẫu quan sát thể cụ thể mẫu ngẫu nhiên W = (X1 , X2 , , Xn ) 1.1.10 Đặc trưng mẫu ngẫu nhiên • Trung bình mẫu - Giả sử W = (X1 , X2 , , Xn ) mẫu ngẫu nhiên (của biến ngẫu nhiên X ), trung bình mẫu thống kê cho biểu thức X= n n Xi i=1 - Trung bình mẫu biến ngẫu nhiên - Vì Xi biến ngẫu nhiên độc lập, phân phối với X , X có kì vọng m phương sai σ kì vọng phương sai trung bình mẫu là: E(X) = m, • Phương sai mẫu S D(X) = σ2 n 10 - Là thống kê xác định biểu thức S2 = n−1 n (Xi − X)2 i=1 - S biến ngẫu nhiên - Nếu X biến ngẫu nhiên có phương sai σ phương sai mẫu S có kì vọng E(S ) = σ • Tần suất mẫu - Nếu A biến cố với xác suất xuất A p, gọi X ∼ A(p) W = (X1 , X2 , , Xn ) mẫu ngẫu nhiên kích thước n X , trung bình mẫu X= n n Xi i=1 mà ta kí hiệu f , biến ngẫu nhiên tần suất xuất biến cố A, gọi tần suất mẫu - Như E(f ) = p D(f ) = 1.2 (1 − p)p n Bài toán qui hoạch ngẫu nhiên 1.2.1 Bài tốn Bài tốn quy hoạch tổng qt có dạng: min{f (x) | x ∈ M } f (x) hàm số xác định tập M ⊂ Rn , lấy giá trị R Trong trường hợp liệu phụ thuộc biến cố ngẫu nhiên, ta có tốn quy hoạch ngẫu nhiên 1.2.2 Bài tốn quy hoạch tuyến tính ngẫu nhiên Bài tốn quy hoạch tuyến tính ngẫu nhiên (SLP) có dạng {cx : Ax = b, x ≥ 0}, 11 c = (cj ), b = (bi ), A = (aij ) đại lượng phụ thuộc tuyến tính vào biến ngẫu nhiên θ = (t1 , t2 , , tr ), nghĩa biểu diễn cj = cj0 + cj1 t1 + · · · + cjr tr , j = 1, 2, , n bi = bi0 + bi1 t1 + · · · + bir tr , i = 1, 2, , m aij = aij0 + aij1 t1 + · · · + aijr tr , i = 1, 2, , m; j = 1, 2, , n Kí hiệu mn + n + m = s Giả thiết r ≤ s tham số tk , k = 1, 2, , r có phân phối xác suất Kí hiệu T tập tất tham số θ, giả thiết T tập lồi T (x) tập tất θ cho thỏa mãn x ≥ T (θ) tập tất phương án x ứng với θ ∈ T Nếu T tập lồi T (x) tập lồi T tập lồi đa diện T (x) tập lồi đa diện 1.2.3 Các tính chất tốn quy hoạch tuyến tính ngẫu nhiên 1.2.3.1 Nếu tốn (SLP ) có b ngẫu nhiên Khi tập M giá trị θ để T (θ) = ∅ tập lồi Tương tự, tập M tất phương án x cho T (x) = ∅ tập lồi Chứng minh - Lấy θ1 , θ2 ∈ M Nếu Ax ≥ b(θ1 ) có nghiệm x1 , Ax ≥ b(θ2 ) có nghiệm x2 Với λ ∈ [0, 1], xét λθ1 + (1 − λ)θ2 hệ Ax ≥ b (λθ1 + (1 − λ)θ2 ) có nghiệm, chẳng hạn nghiệm λx1 + (1 − λ)x2 Do λθ1 + (1 − λ)θ2 ∈ M với λ ∈ [0, 1] Vậy M tập lồi - Chứng minh tương tự, lấy x1 , x2 ∈ M Nếu Ax1 ≥ b(θ) có nghiệm θ1 , Ax2 ≥ b(θ) có nghiệm θ2 Với λ ∈ [0, 1], xét λx1 + (1 − λ)x2 hệ A (λx1 + (1 − λ)x2 ) ≥ b(θ) có nghiệm, chẳng hạn nghiệm λθ1 + (1 − λ)θ2 Do λx1 + (1 − λ)x2 ∈ M với λ ∈ [0, 1] Vậy M tập lồi 1.2.3.2 Định lý Kall Để tồn phương án x toán (SLP ) với 24 hàm tạo thành moment biến ngẫu nhiên G(x∗ , W ) − G(x, W ), x ∈ S \ {x∗ }, hữu hạn giá trị R Khi log[1 − P (ˆ xN = x∗ )] = −γ ∗ N →∞ N lim (2.24) Chứng minh Từ (2.17) ta có lim sup N →∞ log[1 − P (ˆ xN = x∗ )] ≤ −γ ∗ N (2.25) Xem phần bù biến cố {ˆ xN = x∗ } kí hiệu {ˆ xN = x∗ } Biến cố {ˆ xN = x∗ } với tập hợp biến cố {ˆ gN (x) ≤ gˆN (x∗ ) }, x ∈ S \ {x∗ } Do đó, với x ∈ S \ {x∗ }, P (ˆ xN = x∗ ) ≥ P gˆN (x) ≤ gˆN (x∗ ) Bằng cách sử dụng giới hạn (2.6) định lí độ lệch lớn Cramer ta có bất đẳng thức lim inf N →∞ log[1 − P (ˆ xN = x∗ )] ≥ −Ix (0) N (2.26) với x ∈ S \ {x∗ } Bất đẳng thức (2.25) (2.26) kéo theo (2.24) Phần tới chúng tơi xem xét tính gần giá trị hàm mục tiêu tối ưu xấp xỉ trung bình mẫu vˆN Với tập S S bất đẳng thức vˆN ≤ gˆN (x) Trong thực tế, cách lấy S = S ∗ , ta có x∈S vˆN ≤ min∗ gˆN (x) từ x∈S E [ˆ vN ] ≤ E {min∗ gˆN (x)} ≤ min∗ E [ gˆN (x) ] = v ∗ x∈S x∈S Vì vậy, cơng thức ước lượng vˆN có sai số âm Từ Định lý 2.1.2.1, với xác suất 1, N đủ lớn, tập hợp SˆN nghiệm tối ưu tốn xấp xỉ trung bình mẫu bao gồm S ∗ Trong trường 25 hợp vˆN = gˆN (x) ≥ min∗ gˆN (x) x∈SˆN x∈S Ta thấy bất đẳng thức ngược lại đúng, với xác suất 1, vˆN − min∗ gˆN (x) = N đủ lớn Nhân hai vế phương trình với x∈S √ √ N , ta có với xác suất 1, N [ˆ vN − min∗ gˆN (x)] = N đủ lớn x∈S √ lim N [ˆ vN − min∗ gˆN (x)] = với xác suất (2.27) N →∞ x∈S √ Từ hội tụ với xác suất nghĩa hội tụ theo xác suất, từ (2.28) có N [ˆ vN − gˆN (x)] hội tụ theo xác suất tới 0, tức x∈S ∗ vˆN = min∗ gˆN (x) + op (N −1/2 ) x∈S Hơn nữa, từ v ∗ = g(x) với x ∈ S ∗ , √ √ √ N [ min∗ gˆN (x)] − v ∗ ] = N min∗ [ gˆN (x)] − v ∗ ] = min∗ { N [ gˆN (x) − g(x) ]} x∈S x∈S x∈S Giả sử với x ∈ S , phương sai σ (x) := V ar [G(x, W )] tồn Khi theo định lý Central Limit, với x ∈ S , (2.28) √ N [ˆ gN (x) − g(x)] hội tụ theo phân phối tới biến phân phối chuẩn Z(x) với giá trị trung bình phương sai σ (x) Hơn nữa, lại theo định lý Central Limit, biến ngẫu nhiên Z(x) có hàm covariance giống G(x, W ) Điều cho thấy Z(x) Z(x ) giống G(x, W ) G(x , W ), với x, x ∈ S Do có Định lý 2.1.2.4 sau (chúng sử dụng “ ⇒” để biểu thị hội tụ theo phân phối) 2.1.2.4 Định lý Giả sử phương sai σ (x), xác định (2.28), tồn với x ∈ S ∗ Khi √ N (ˆ vN − v ∗ ) ⇒ min∗ Z(x), x∈S (2.29) 26 Z(x) biến ngẫu nhiên phân phối chuẩn với giá trị trung bình hàm covariance cho hàm covariance tương ứng G(x, W ) Trong thực tế, S ∗ = {x∗ } nhất, √ N (ˆ vN − v ∗ ) ⇒ N 0, σ (x∗ ) (2.30) Mặc dù với x cho sẵn giá trị trung bình (giá trị kỳ vọng) Z(x) Giá trị cực tiểu Z(x) tập S S khơng âm trở thành nhỏ với tập S rộng Vì vây, từ (2.30) cho thấy với toán điều kiện yếu mà tập hợp nghiệm tối ưu gần tối ưu rộng, công thức ước lượng vˆN v ∗ có sai số lớn 2.2 Thuật tốn xấp xỉ trung bình mẫu 2.2.1 Đặt vấn đề Như biết, nhiều toán tối ưu rời rạc ngẫu nhiên khó để giải Trong luận văn này, đưa phương pháp xấp xỉ trung bình mẫu để giải toán tối ưu rời rạc ngẫu nhiên Ý tưởng phương pháp mẫu ngẫu nhiên tạo thành cách logic hàm giá trị kì vọng xấp xỉ hàm trung bình mẫu tương ứng Bài tốn tối ưu trung bình mẫu thu được giải phương pháp lặp lại tiêu chuẩn dừng thỏa mãn 2.2.2 Sự lựa chọn kích cỡ mẫu Trong thuật tốn, kích cỡ mẫu hữu hạn dãy kích cỡ mẫu hữu hạn phải lựa chọn thuật toán phải dừng sau lượng thời gian hữu hạn Một câu hỏi quan trọng làm lựa chọn thực Ước lượng (2.22) đưa giới hạn kích cỡ mẫu yêu cầu để tìm nghiệm ε - tối ưu với xác suất nhỏ − α Ước lượng có hai khuyết điểm cho mục đích tính tốn Đầu tiên, với nhiều tốn thật khơng dễ để tính ước lượng, σmax số tốn |S| tính vất vả Thứ hai, giới 27 hạn có bảo đảm xa để thu ước lượng thực tế kích cỡ mẫu yêu cầu Để chọn N , cân đối khác nên đưa vào tính tốn Với N rộng hơn, hàm mục tiêu tốn xấp xỉ trung bình mẫu trở thành ước lượng xác hàm mục tiêu đúng, nghiệm tối ưu toán xấp xỉ trung bình mẫu trở thành nghiệm tốt giới hạn tương ứng khoảng tối ưu nghiên cứu sau trở nên chặt Tuy nhiên, q trình giải phụ thuộc vào tốn xấp xỉ trung bình mẫu (2.1) phương pháp sử dụng để giải tốn xấp xỉ trung bình mẫu, độ phức tạp để giải toán xấp xỉ trung bình mẫu tăng lên tuyến tính thường hàm mũ kích cỡ mẫu N Vì vậy, lựa chọn kích cỡ mẫu N , cân đối chất lượng nghiệm tối ưu tốn xấp xỉ trung bình mẫu, giới hạn khoảng tối ưu mặt nỗ lực tính tốn mặt khác nên đưa vào tính tốn Cũng vậy, lựa chọn kích cỡ mẫu N điều chỉnh cách thích hợp, phụ thuộc vào kết tính tốn sơ Ý tưởng nói đến chi tiết sau Đặc biệt, ước lượng giá trị mục tiêu g(x) phương án x ∈ S trung bình mẫu gˆN (x) địi hỏi nỗ lực tính tốn nhiều so với việc giải tốn xấp xỉ trung bình mẫu (với kích cỡ mẫu N ) Vì vậy, xét đến độ phức tạp tính tốn thúc đẩy phương pháp để chọn kích cỡ mẫu N tương đối nhỏ tốn xấp xỉ trung bình mẫu, tạo phương hướng để chọn kích cỡ mẫu N rộng để thu ước lượng xác gˆN (ˆ xN ) giá trị mục tiêu g(ˆ xN ) nghiệm tối ưu xˆN tốn xấp xỉ trung bình mẫu Một thước đo độ xác ước lượng trung bình mẫu gˆN (ˆ xN ) g(ˆ xN ) cho phương sai mẫu (ˆ tương ứng SN xN )/N , tính từ mẫu cỡ N Sự lựa chọn N bao hàm cân đối nỗ lực tính tốn độ xác, 28 (ˆ đo SN xN )/N 2.2.3 Sự lặp lại Nếu độ phức tạp tính tốn việc giải tốn xấp xỉ trung bình mẫu tăng lên nhanh so với tuyến tính kích cỡ mẫu N , hiệu dụng để chọn kích cỡ mẫu N nhỏ để tạo thành giải vài tốn xấp xỉ trung bình mẫu với mẫu độc lập phân phối; vậy, cần lặp lại tạo thành giải toán xấp xỉ trung bình mẫu Với cách tiếp cận, bàn bạc khác phải nói đến Một câu hỏi liệu có phải có bảo đảm nghiệm tối ưu (hoặc ε - tối ưu) toán tất định tạo số đủ toán xấp xỉ trung bình mẫu, dựa mẫu độc lập cỡ N giải Câu hỏi xem phương pháp phép thử Bernoulli với xác suất thành công p = p(N ) “Thành công” nghĩa nghiệm tối ưu xˆN tính tốn xấp xỉ trung bình mẫu nghiệm tối ưu toán tất định Từ Định lý 2.1.2.1, xác suất p dần tới N → ∞ nữa, theo Định lý 2.1.2.2 dần nhanh theo hàm mũ giả thiết A Tuy nhiên, với N hữu hạn xác suất p nhỏ chí Xác suất việc tạo nghiệm tối ưu tốn tất định lần M phép thử − (1 − p)M xác suất dần tới M → ∞ tạo p dương Vì câu hỏi xác đáng liệu có bảo đảm p dương với kích cỡ mẫu N cho sẵn Ví dụ sau kích cỡ mẫu N đòi hỏi p dương đặc trưng tốn, khơng phụ thuộc vào số phương án mà rộng cách tùy ý Ví dụ Giả sử S := {−1, 0, 1}, W nhận hai giá trị w1 w2 với xác suất tương ứng − γ γ G(−1, W1 ) := −1, G(0, W1 ) := 0, G(1, W1 ) := G(−1, W2 ) := 2k, G(0, W2 ) := 0, G(1, W2 ) := −k , k số 29 dương tùy ý Đặt γ = 1/(k + 1) Khi g(x) = (1 − γ)G(x, W1 ) + γG(x, W2 ) g(−1) = k/(k + 1), g(0) = g(1) = k/(k + 1) Vì x∗ = nghiệm tối ưu đơn trị tốn tất định Nếu mẫu khơng chứa quan sát w2 nào, xˆN = −1 = x∗ Giả sử mẫu chứa quan sát w2 Thì gˆN (1) ≤ [2(N − 1) − k]/N Vì gˆN (1) < = gˆN (0) N ≤ k/2 xˆN = = x∗ Vậy mẫu cỡ N > k/2 yêu cầu, để x∗ = nghiệm tối ưu toán xấp xỉ trung bình mẫu Chú ý Var[ G(−1, W ) − G(0, W ) ] Var[ G(1, W ) − G(0, W ) ] (k) (tăng trưởng bậc theo k ), nguyên nhân toán trở nên khó k tăng lên Một việc khác phải nói đến, cách chọn số M lần lặp lại Tương tự với cách chọn kích cỡ mẫu N , số M lặp lại chọn cách động lực Một cách tiếp cận để làm việc nghiên cứu phần tới Để trình bày đơn giản, giả sử lặp lặp lại xấp xỉ trung bình mẫu tạo nghiệm đại diện, nghiệm tối ưu (ε - tối ưu) tốn xấp xỉ trung bình mẫu Đặt xˆm N biểu thị nghiệm đại diện tạo lặp ∗ lại xấp xỉ trung bình mẫu thứ m (phép thử) Khoảng tối ưu g(ˆ xm N − v ) ước lượng mô tả phần tới Nếu tiêu chuẩn dừng dựa ước lượng khoảng tối ưu thỏa mãn, khơng lặp lại thực Mặt khác, phép cộng lặp lại xấp xỉ trung bình mẫu với kích cỡ mẫu N thực hiện, kích cỡ mẫu N tăng lên Bằng cách đưa hướng đơn giản xấp xỉ trung bình mẫu với kích cỡ mẫu N , tạo nghiệm tốt nhiều so với nghiệm tốt tìm thấy Chú ý rằng, theo cách xây dựng biến ngẫu nhiên g(ˆ xm N ), m = 1, 2, , độc lập phân bố cách đồng phân phơí xác suất chung chúng có hữu hạn tập S hữu hạn Giả sử M lặp 30 lại với kích cỡ mẫu N thực nhiều Nếu phân phối xác suất g(ˆ xN ) tiếp diễn xác suất mà lặp lại xấp xỉ trung bình mẫu thứ (M + 1) với kích cỡ mẫu tạo nghiệm tốt nhiều so với nghiệm tốt tạo M lặp lại, với 1/(M + 1) Bởi thực tế phân phối g(ˆ xN ) rời rạc, xác suất nhỏ với 1/(M + 1) Vì vậy, 1/(M + 1) trở thành đủ nhỏ, phép cộng lặp lại xấp xỉ trung bình mẫu với kích cỡ mẫu dường khơng đáng kể kích cỡ mẫu N tăng lên phương pháp dừng Để có việc tạo thành qui luật dừng, tốt mục đích biểu diễn ước lượng khác, cách thích hợp để tính khoảng tối ưu chọn g(ˆ x) − v ∗ , với nghiệm cho sẵn xˆ ∈ S Như vậy, gˆN (ˆ x) := N N G(ˆ x, W j ) j=1 công thức ước lượng không chệch g(ˆ x) phương sai gˆN (ˆ x) (ˆ (ˆ x) phương sai mẫu G(ˆ x, W j ), x)/N , SN ước lượng SN dựa mẫu cỡ N Một công thức ước lượng v ∗ cho M v¯N := M M m vˆN , m=1 m biểu thị giá trị mục tiêu tối ưu lặp lại xấp xỉ trung bình vˆN M ] = E[ˆ M mẫu thứ m Chú ý E[¯ vN vN ] từ cơng thức ước lượng v¯N có sai số âm vˆN Định lý 2.1.2.4 chứng tỏ sai số trở thành lớn hơn, với toán điều kiện yếu với tập hợp nghiệm tối ưu, gần M khoảng tối ưu rộng Xét công thức ước lượng tương ứng gˆN (ˆ x) − v¯N tối ưu g(ˆ x) − v ∗ , điểm xˆ Từ M E[ gˆ(ˆ x) − v¯N ] = g(ˆ x) − E[ˆ vN ] ≥ g(ˆ x) − v ∗ , (2.31) 31 cho thấy trung bình cơng thức ước lượng đánh giá cao khoảng tối ưu g(ˆ x) − v ∗ Nó sai số v ∗ − E[ˆ vN ] giảm cách đặn kích cỡ mẫu N M ước lượng Phương sai v¯N SM = M M (M − 1) M m M (ˆ vN − v¯N ) (2.32) m=1 Nếu M mẫu cỡ N ước lượng mẫu cỡ N độc lập, phương sai M ước lượng cơng thức ước lượng khoảng tối ưu gˆN (ˆ x) − v¯N /M (ˆ x)/N + SM SN Một công thức ước lượng khoảng tối ưu g(ˆ x) − v ∗ với khả phương M (ˆ M , sai nhỏ g¯N x) − v¯N M g¯N (ˆ x) := M M m gˆN (ˆ x) m=1 m (ˆ gˆN x) giá trị mục tiêu trung bình mẫu xˆ mẫu xấp xỉ trung bình thứ m cỡ N , m gˆN (ˆ x) := N N G(ˆ x, W mj ) j=1 M (ˆ M ước lượng Phương sai g¯N x) − v¯N SM = M M (M − 1) M m m M M [ gˆN (ˆ x) − vˆN − g¯N (ˆ x) − v¯N ] , m=1 cơng thức ước lượng khoảng tối ưu có phương sai nhỏ phụ m (ˆ m , tốt kích cỡ mẫu N , N thuộc vào tương quan gˆN x) vˆN M Với nhiều áp dụng, hy vọng tương quan dương m (ˆ m Phép cộng nỗ lực tính tốn để tính g m (ˆ gˆN x) vˆN ˆN x) với m = 1, 2, , M , nên đưa vào tính tốn đánh giá rút gọn phương 32 sai Mặt khác, định lí Central Limit áp dụng với cơng thức M g M (ˆ M , độ xác ước lượng khoảng tối ưu gˆN (ˆ x) − v¯N ¯N x) − v¯N công thức ước lượng khoảng tối ưu đưa vào tính tốn cách thêm bội số zα độ lệch tiêu chuẩn ước lượng với công thức ước lượng khoảng Ở zα := Φ−1 (1 − α), Φ(z) hàm phân phối tích lũy phân phối chuẩn mẫu Chẳng hạn, xˆ ∈ S ký hiệu nghiệm đại diện với giá trị tốt gˆN (ˆ x) tìm thấy sau M lặp lại, cơng thức ước lượng khoảng tối ưu lấy độ xác vào tính tốn cho M gˆN (ˆ x) − v¯N (ˆ SN x) + zα N SM + M 1/2 SM M M g¯N (ˆ x) − v¯N + zα √ M Để kiểm tra thuật tốn, ta tách cơng thức ước lượng khoảng tối ưu vào thành phần Ví dụ M gˆN (ˆ x) − v¯N + zα (ˆ x) SN N + SM M 1/2 ∗ ∗ = gˆN (ˆ x) − g(ˆ x) + g(ˆ x) − v +(v M − v¯N ) + zα (ˆ x) SN N SM + M 1/2 (2.33) Trong số hạng bên phải phương trình trên, số hạng có giá trị kì vọng 0, số hạng thứ hai khoảng tối ưu đúng, số hạng thứ ba số hạng sai số, có giảm giá trị kì vọng dương kích cỡ mẫu N số hạng thứ tư số hạng độ xác, giảm số M lần lặp lại kích cỡ mẫu N Vì điều khơng thuận lợi công thức ước lượng khoảng tối ưu cơng thức ước lượng khoảng rộng M, N N nhỏ, xˆ nghiệm tối ưu, tức g(ˆ x) − v ∗ = Giả sử qui tắc tạo để dừng, ví dụ cơng thức ước lượng 33 khoảng tối ưu trở thành đủ nhỏ Ở giai đoạn nghiệm đại diện xˆ ∈ S với giá trị tốt gˆN (ˆ x) chọn lựa nghiệm chọn Tuy nhiên, đánh giá để biểu diễn đánh giá chi tiết nghiệm đại diện tạo suốt q trình lặp lại Có phương pháp lựa chọn sàng lọc thống kê khác để chọn tập hợp nghiệm nghiệm đơn, tập hữu hạn (nhỏ hợp lí) nghiệm, sử dụng mẫu giá trị mục tiêu nghiệm 2.2.4 Thuật toán Từ kết nêu trên, chúng tơi trình bày thuật toán lớp toán tối ưu rời rạc ngẫu nhiên nghiên cứu luận văn Bước Chọn kích cỡ mẫu ban đầu N N , qui luật qui định việc xác định số M lặp lại xấp xỉ trung bình mẫu (có thể gồm số cực đại M lặp lại xấp xỉ trung bình mẫu với kích cỡ mẫu, cho 1/(M + 1) đủ nhỏ), qui luật qui định tăng lên kích cỡ mẫu N N cần sai số ε Bước Với m = 1, 2, , M , thực bước từ 2.1 đến 2.3 2.1 Tạo mẫu cỡ N giải toán xấp xỉ trung bình mẫu (2.1), m nghiệm ε - tối ưu x với giá trị mục tiêu vˆN ˆm N ∗ 2.2 Ước lượng khoảng tối ưu g(ˆ xm N ) − v phương sai công thức ước lượng khoảng 2.3 Nếu khoảng tối ưu phương sai công thức ước lượng khoảng đủ nhỏ, sang bước Bước Nếu khoảng tối ưu phương sai công thức ước lượng khoảng rộng, tăng kích cỡ mẫu N N lên trở lại bước Bước Chọn nghiệm tốt xˆ tất nghiệm đại diện xˆm N tạo ra, sử dụng phương pháp chọn lựa sàng lọc Dừng 34 2.2.5 Đánh giá thuật toán Thuật toán 2.2.4 cho phép giải toán tối ưu rời rạc ngẫu nhiên nêu luận văn Kết nêu cho thấy xác suất trình lặp thuật tốn xấp xỉ trung bình mẫu cho phương án tối ưu có độ phức tạp tăng theo hàm mũ với kích cỡ mẫu N Người ta nhận thấy tốc độ hội tụ phụ thuộc vào toán với số biến khác Các tác giả đưa nhiều ví dụ sử dụng thuật toán 2.2.4 mà phải thực với vài bước lặp kích cỡ mẫu nhỏ Tuy nhiên, công thức ước lượng khoảng tối ưu trường hợp yếu để tìm thấy nghiệm xấp xỉ tối ưu Do vậy, công thức ước lượng khoảng có cải tiến q trình thực thuật tốn Phương hướng cải tiến tìm cách giảm bớt mức độ tính tốn số bước lặp, điều cịn phụ thuộc vào thực tế tốn 2.3 Ví dụ 2.3.1 Mơ hình tốn phân bổ kinh phí Chúng tơi áp dụng phương pháp với tốn phân bố nguồn kinh phí sau: Một người cần định lựa chọn tập k dự án biết để đầu tư Với mục đích số lượng q biết nguồn chi phí cách tương đối thấp thích hợp để phân bố Bất kì phép cộng tổng số lượng nguồn kinh phí u cầu thu mức lãi biết c với đơn vị nguồn Tổng số lượng Wi nguồn yêu cầu dự án i đến thời gian định phải thực hiện, giả sử người tạo định có ước lượng phân phối xác suất W = (W1 , , Wk ) Mỗi dự án i có kì vọng lãi ri Hãy lập kế hoạch phân bổ kinh phí cho có tổng lãi lớn 35 Mơ hình thực tế cho đẫn đến mơ hình tốn tối ưu sau: k ri xi − cE max x∈{0,1}k k i=1 Wi xi − q + , (2.34) i=1 [x]+ := max {x, 0} Bài tốn mơ tả tốn túi, tập k khoảng phải chọn, đưa túi cỡ q để vừa khoảng Cỡ Wi khoảng i ngẫu nhiên đơn vị lãi c phải bù cho sức chứa giới hạn túi Vì nguyên nhân toán gọi Bài toán túi ngẫu nhiên tĩnh (SSKP ) Bài toán chọn vài nguyên Đầu tiên, số hạng giá trị kì vọng tương tự với số hạng hàm mục tiêu (2.34) xuất nhiều toán tối ưu ngẫu nhiên thú vị 2.3.2 Kết tính tốn số Trong báo dẫn [5], tác giả A J Kleywegt, A Shapiro Tito Homem-de-Mello thực tính tốn số giải tốn SSKP, với tốn có 10 biến lựa chọn (decision) tập đầu 20 biến lựa chọn tập thứ Đối với tập, người ta thực ví dụ cụ thể (ký hiệu 10D 20D), với số ràng buộc lớn K lựa chọn ngẫu nhiên (ta gọi lựa chọn theo 10, 20 biến lựa chọn, ký hiệu 10R 20R) Bảng 2.1 sau cho thấy số điều kiện buộc K , giá trị tối ưu v ∗ , giá trị g(¯ x) phương án tối ưu x¯ giá trị maxx G(x, E[W ]) lựa chọn Bảng 2.1 Số điều kiện buộc K , giá trị tối ưu v ∗ giá trị g(¯ x) phương án tối ưu x¯ giá trị maxx G(x, E[W ]) lựa chọn Sự lựa chọn Số điều kiện K Giá trị tối ưu v ∗ Giá trị kỳ vọng g(¯ x) 10D 107000 42.7 26.2 10R 410 46.3 28.2 20D 954000 96.5 75.9 20R 233 130.3 109.0 Trong ví dụ nêu, biến Wi có phân phối chuẩn độc lập Mức ý nghĩa 36 µi tạo theo phân phối (20, 30) độ lệch chuẩn σi tạo theo phân phối (5, 15), với tốn thực tế mục 2.3.1 kỳ vọng lãi ri có phân phối (10, 20) tất c = Nếu Wi ∼ N (µi , σi2 ), i = 1, , k biến ngẫu nhiên có phân phối chuẩn độc lập hàm mục tiêu tốn (2.34) viết lại dạng đóng Vì biến ngẫu nhiên Z(x) := mức ý nghĩa µ(x) = k i=1 µi xi k i=1 Wi xi − q phân phối chuẩn với k 2 i=1 σi xi − q phương sai σ (x) = Chúng ta nhận thấy từ Z(x) ∼ N (µ(x), σ(x)2 ) suy σ(x) E[Z(x)] = µ(x)Φ(µ(x)/σ(x)) + √ exp 2π + µ(x)2 − , 2σ(x)2 Φ ký hiệu cho hàm phân phối tích lũy chuẩn Do k g(x) = i=1 σ(x) ri xi − c µ(x)Φ(µ(x)/σ(x)) + √ exp 2π µ(x)2 − 2σ(x)2 Lợi ích diễn đạt dạng đóng giá trị hàm mục tiêu g(x) tính tốn nhanh chóng xác, tiện lợi việc giải toán nhỏ phương pháp liệt kê nhánh cận 37 KẾT LUẬN Luận văn giải số vấn đề sau: Trình bày số khái niệm kiến thức sở xác suất thống kê Đồng thời trình bày tốn quy hoạch ngẫu nhiên, toán quy hoạch ngẫu nhiên rời rạc với số hướng tiếp cận giải Với toán nêu, xây dựng phép lấy mẫu ngẫu nhiên chọn lọc kích cỡ mẫu nhằm tiến tới xây dựng thuật toán giải Phát biểu chứng minh số Định lý tốn xét Từ nêu thuật tốn giải tương ứng Đưa ví dụ mơ hình thực tế thể số để thấy rõ hiệu thuật toán Do thời gian trình độ có hạn nên số vấn đề cần tiếp tục nghiên cứu bao gồm: • Xây dựng phần mềm giải toán thuật toán nêu • Xây dựng mơ hình ứng dụng khác toán thực tế 38 TÀI LIỆU THAM KHẢO [1] Nguyễn Văn Quảng, (2007), Giáo trình xác suất, NXB Đại học Quốc gia, Hà Nội [2] Trần Xuân Sinh, (2004), Các phương pháp ngẫu nhiên giải toán quy hoạch, Bài giảng dùng cho Sau Đại học, chuyên ngành XSTK Toán học, Đại học Vinh [3] Nguyễn Duy Tiến - Vũ Viết Yên, (2003), Lý thuyết xác suất, NXB Giáo dục, Hà Nội [4] Đào Hữu Hồ, (2000), Xác suất thống kê, NXB Đại học Quốc gia, Hà Nội [5] Anton J.Kleywegt, Alexander Shapiro Tito Homem - de - Mello, (2000), The Sample Average Approximation Method for Stochastic Discrete Optimization, Department of Industrial, Welding and Systems Engineerin, The Ohio State University, Columbus [6] Dinh The Luc, (1989), Introduccion a la optimizacion no lineal, (Chapter 10: Stochastic Programming, pp 77-82), VI Coloquio del departamento de matematicas centro de investigacion y de estudios avanzados del IPN 31 de Julio al 18 de Agosto de 1989 ... miền Ω x 1.3 Bài toán quy hoạch ngẫu nhiên rời rạc 1.3.1 Bài toán Bài toán quy hoạch ngẫu nhiên nêu M tập rời rạc ta có tốn quy hoạch ngẫu nhiên rời rạc 1.3.2 Các hướng tiếp cận giải Trong luận...3 MỞ ĐẦU Bài toán quy hoạch với tham gia yếu tố ngẫu nhiên gọi toán quy hoạch ngẫu nhiên Trong toán quy hoạch ngẫu nhiên, toán quy hoạch ngẫu nhiên rời rạc mơ hình dành cho nhiều... xấp xỉ trung bình mẫu 2.2.1 Đặt vấn đề Như biết, nhiều toán tối ưu rời rạc ngẫu nhiên khó để giải Trong luận văn này, chúng tơi đưa phương pháp xấp xỉ trung bình mẫu để giải toán tối ưu rời rạc