Mở đầu
1 Kiến thức cơ sở
1.1 Một số vấn đề cơ sở cúa lý thuyết xác suất và thống kê
1.2 Bai toan qui hoạch ngấu nhiên 1.3 Bài tốn quy hoạch ngẫu nhiên rời rạc 2 Phuong pháp xấp xỉ trung bình mẫu
2.1 Phéplay mau 2
2.2_ Thuật tốn xấp xỉ trung bình mẫu PC (‹<<<‹44 Kết luận
Tài liệu tham khảo
Trang 2Bài tốn quy hoạch với sự tham gia của yếu tố ngẫu nhiên được gọi là bài tốn quy hoạch ngấu nhiên Trong các bài tốn quy hoạch ngẫu nhiên, bài tốn quy hoạch ngẫu nhiên rời rạc là một mơ hình dành eho nhiều bài tốn thực tế Cũng như lý thuyết quy hoạch, việc xét tới các bài tốn quy hoạch ngầu nhiên rời rạc cũng gặp nhiều khĩ khăn Gần đây các cơng trình nghiên cứu về bài tốn quy hoạch ngẫu nhiên rời rạc đã cho ta những thuật tốn hữu hiện gĩp phần quan trọng khơng chỉ vào lý luận mà cả việc giải quyết bài tốn thực tế đặt ra Chẳng hạn các cơng trình của Hochberg và Tamhane; Morton và Wood; Anton J Kleywegt, Alexander Sharpio va Tito Homem-De-Mello
Với sự quan tam, chú ý tới những khía cạnh phù hợp của nĩ, cùng thời gian và mức độ cho phép, chúng tơi cố gắng xem xét nội dung cĩ liên quan đến cơng trình của Anton J Kleywegt, Alexander Sharpio và Tito Homem-De-Mello Đĩ là lí do chọn đề tài Phương pháp mốp xỉ trưng bỳnh mẫu giải bài tốn quụ hoạch ngẫu nhiên rời rac
Nội dung của luận văn bao gồm hai chương:
Chương 1 Kiến thức cơ sở Trong chương này, chúng tơi trình bày những khái niệm và kiến thức eơ sở của lý thuyết xác suất và thống kê nhằm phục vụ cho việc nghiên cứu của đề tài Đồng thời đưa ra các hướng tiếp cận để giải bài tốn quy hoạch ngẫu nhiên rời rạc
Trang 3Cuối cùng đưa ra thuật tốn va vi du minh hoa
Luận văn được thực hiện và hồn thành tại trường Đại học Vinh, dưới sự hướng dẫn va chi bao tan tinh cia thay giéo PGS TS Tran Xuan Sinh Tác giả xin chân thành bày tổ lịng biết ơn sâu sắc đến thầy giáo hướng dẫn, các cơ giáo, thầy giáo trong tổ Xác suất thống kê và Tốn ứng dụng, Khoa tốn trường Dại học Vinh, Khoa Đào tạo Sau Dại học, cùng các bạn đã gĩp ý và tạo điều kiện cho tác giả hồn thành luận văn này
Mặc dù đã cố gắng, nhưng do thời gian cũng như năng lực bản thân cịn nhiều hạn chế nên luận văn khơng tránh khỏi những thiếu sĩt Tác giả mong nhận được những gĩp ý của thầy, cơ giáo và bạn bè
Trang 4KIÊN THỨC CƠ SỞ
1.1 Một số vấn đề cơ sở của lý thuyết xác suất và thống kê
1.1.1 Đại số và ø - đại số Giả sử 2 4 0 va P(Q) 1a ho tat ca các tập con của @ Mỗi họ 4 C 7(9) sẽ dược gọi là lớp
Lép A c (9) được gọi là một đại số nếu thỏa mãn: 1) 2€.1,
2) vi AE Athi AT=2\ AEA,
3) vai A,BE Athi AUBEA
Lớp # C P(2) được gọi là một ø - đại số nếu thỏa mãn: 1) QEF,
2) với A€ Z thh AT =O2\ ACF,
3) với Ay € F, (Vn =1,2, ) th) U An € F
n=1
1.1.2 Khơng gian đo và độ do xác suất Cặp (2, Z) được gọi là một
khơng gian đo, trong đĩ @ là tập bất kì khác rỗng, Z là một ø - đại số các tap con cua 9
Gia stt (2, F) lA mot khong gian đo Một ánh xạ P : Z — R được gọi là một độ đo zác suất trên Z nếu:
Trang 5oo %
P(U An) = 3 P(A,)
n=1 n=1
Sau đây là một số tính chất của xác suất thường được dùng trong lý thuyết
quy hoạch ngẫu nhiên: 1 P(0) =0;
2.Nếu Ac B;A,B € F thi P(A) < P(B);
3 Nếu A,B € F thi P(AU B) = P(A) + P(B) — P(AB);
1.1.3 Khơng gian xác suất Giả sử @ là tập hợp bất kì khác rỗng, Z là một ø - đại số các tập con của Q, P la do đo xác suất trên Z Khi đĩ bộ ba (Q,F,P) được gọi là khơng gian xác suất
Tap @ được gọi là khơng gian biến cố sơ cấp ø - đại số Z được gọi là øơ - đại số các biến cĩ Mỗi A e Z được gọi là một biến cố
Khơng gian xác suất (2,.Z, P) được gọi là khơng gian ác suất đầy đủ nếu
mọi tập con của biến cố cĩ xác suất khơng đều là biến cĩ
1.1.4 Biến ngẫu nhiên Giả sử (2, 7, P) là một khơng gian xác suất, đ là
ø - đại số con của ø - dai s6 F B(R) 1a o - đại số Borel trên đường thẳng IR
Khi đĩ ánh xạ X : Ø2 —› R được gọi là biến ngẫu nhiên Ở - đo được nêu với mọi € B(RĐ) ta cĩ
X7"(B) = {w : X(w) € B} EG
Nếu biến ngẫu nhiên X chỉ nhận hữu hạn giá trị thì nĩ được gọi là biến ngẫu nhiên đơn giản
Trang 6một cách đơn giản là biến ngẫu nhiên
1.1.5 Ham phan phối xác suất của biến ngẫu nhiên Giả sử X là biến ngẫu nhiên xác định trên (2,Z,P), nhận gia tri trén R Ham số I'x(œ) = P[X < +], (+ e'R) dude goi la ham phân phối của biến ngẫu nhiên
X
Hàm phân phối cĩ tính chất: LO< F(a) <1:
2.a<b thi F(b)— F(a) = P(a< X < 6), do dé F(x) là hàm khơng giảm; 3 lim F(z) =1, lim F(a) =0
#->-+°o TAO
1.1.6 Ki vong cia bién ngau nhién Gia sti X : (0, F, P) > (R B(R)) là đại lượng ngẫu nhiên Khi đĩ tích phân Lebesgue của X theo độ đo P (nếu tồn tại) được gọi là kè »øng của X và kí hiệu là EX Vay
BX = [xen
2
Kì vọng cĩ các tính chất cơ bản sau đây:
1 Nếu X > 0 thi EX > 0;
2 Néu X =c thi EX =c;
3 Nếu tồn tại LX thì với mọi e€ 1Đ, ta cĩ (eX) = c( EX); 4 Nếu tồn tại #X và EY thì E(X £Y)= EX + EY;
` %;p; nếu X rời rạc nhận các gia tri @1,2%9,
i
5 BX — 2 voi p(X = 2%) = pi
+00
J ep(x)dz néu X lién tục cĩ hàm mật độ p(z)
Trang 7va ton tain dé EX; < œ (tương ứng EX; < œ), thì ZX„ † EX (tương
ứng HX, | EX)
7 (Bổ đề Fatou) Nếu X„ > Y với mọi ø > 1 và EY > —œ thì Elim X„ < lim Xa
8 (Dinh li Lebesgue vé hoi tu bi chan) Néu |X„| < Y với mọi nm > 1, EY <oova X, > X thì X khả tích, E|X„ — X| > 0 va EX, > BX (khi ø — ©)
9 (Bát đẳng thúc Markoo) Giả sử X là biến ngẫu nhiên khơng âm Khi đĩ nếu ton tai /X thì với mọi e > 0 ta cĩ
EX P(X >e)<
1.1.7 Phương sai của biến ngẫu nhiên Giả sử X : @ —› # là biến ngẫu nhiên Khi đĩ số DX = E(X — EX)? (néu ton tai) goi la phuong sai cha X
Phương sai cĩ các tính chất cơ bản sau đây:
1L DX=EX?- (EX)3:
2 DX > 0;
3 DX =0 khi X = FX = const h.c.c;
4 D(eX) = PDX
1.1.8 Một số dạng hội tụ của các biến ngẫu nhiên Ta nĩi dãy biến ngẫu nhiên (X„,m > 1) hội tụ đến biến ngẫu nhiên X (khin — oo) IA
- hội tụ yếu (theo phân phối) nếu lim Ƒ„(z) = F(œ),V+ € C(F),
noo
Trang 8xX, Sx,
- hội tụ theo xác suất nếu với mọi e > 0 thì lim P(|X;— X| >) = 0, ký
noo
hiệu X„ PX
1.1.9 Mẫu ngẫu nhiên và mẫu quan sát Mẫu ngẫu nhiên kích thước n đối uới một biến ngẫu nhiên X là tập hợp n biến ngẫu nhiên XỊ, Xa, X„ độc lập, cĩ cùng phân phối véi X, ki hiéu la W = (X 1, Xo, ,Xn)
Biến ngẫu nhiên X được gọi là biến ngẫu nhiên gốc Các biến ngẫu nhiên X; được gọi là các ban sao của X
Mẫu quan sát là thể hiện cu thể của mẫu ngẫu nhiên W = (X1,Xa, , X„)
1.1.10 Đặc trưng của mẫu ngẫu nhiên
e Trung bình mẫu
- Gid st W = (X, Xo, ,Xn) 1A một mẫu ngẫu nhiên (của biến ngẫu nhién X), khi dé trung binh méu 1a thong ké dude cho béi biển thức
— X¥=-S°X, dl
n1 < i=l
- Trung bình mẫu là một biến ngẫn nhiên
- Vì mỗi bản sao X; là biến ngấu nhiên độc lập, cùng phân phối với X, do đĩ nếu X cĩ kì vọng m và phương sai ø2 thì kì vọng và phương sai của trung bình mẫu là:
— — ơ2
Trang 9- Là thống kê được xác định bởi biểu thức
n
s?=+_S(x,- n—-1¢- x)
i=1
- 9? cũng là một biến ngẫu nhiên
- Nếu X là biến ngẫu nhiên cĩ phương sai ø? thì phương sai mẫu 92 cĩ kì vong [5(S?) = 0?
e Tan suat mau
- Nếu 4 là một biến cố nào đĩ với xác suất xuất hiện A 1a p, nếu gọi
X ~ A0) và nếu W = (XỊ,Xa, , Xa) là mẫu ngấu nhiên kích thước m= của X, khi đĩ trung bình mẫu
1 n
X¥=— >> X;
i=
mà ta kí hiệu là ƒ, là biến ngẫu nhiên chỉ tần suất xuất hiện biến cố 4, gọi là tần suất mẫu
- Như vậy E(ƒ) = p và D(f) = Opp
1.2 Bài tốn qui hoạch ngẫu nhiên
1.2.1 Bài tốn Bài tốn quy hoạch tổng quát cĩ dạng: min{ƒ(+) | 2 € M} trong dé f(x) la ham số xác định trên tập Aƒ C IR”, lấy giá trị trong R
Trong trường hợp các dữ liệu phụ thuộc các biến cố ngẫu nhiên, ta cĩ bai tốn quy hoạch ngẫu nhiên
1.2.2 Bài tốn quy hoạch tuyến tính ngẫu nhiên Bài tốn quy hoạch tuyến tính ngẫu nhiên (SLP) cĩ dạng
Trang 10trong đĩ e = (€j), b = (b¿), A = (a¿;) là các đại lượng phụ thuộc tuyến tính vào biến ngẫu nhiên Ø = (í4,fs, ,£;), nghĩa là cĩ thể biển diễn
Cj = Cj, Hej +++ + ptr, J =1,2, ,n bj = bj, + biti + + + bi tr, T= 1.2, ,m
Qij = Ajj, + Gij,t1 +++ + Giztr, = 1,2, ,m; J = 1.2, ,n
Ki hiéu mn +n+m = s Gia thiét rang r < s va cdc tham sé t,,k = 1,2, ,7 cĩ cùng phân phối xác suất
Kí hiệu 7 là tập tất cả các tham số Ø, giả thiết rằng 7 là tập lồi T(a) la tap tat ca cdc @ sao cho thoa man x > 0
T (0) là tập tất cả các phương án # ứng với Ø € 7
Nếu 7 là tập lồi thi T(z) là tập lồi và nếu 7' là tập lồi da dién thi T(x) là tập lồi đa diện
1.2.3 Các tính chất của bài tốn quy hoạch tuyến tính ngẫu nhiên 1.2.3.1 Nếu bài tốn (SLP) chí cĩ b là ngẫu nhiên Khi đĩ tập MI các giá trị 0 dé T(0) 40 la tập lồi Tương tự, tập AI tất cả các phương an 2 sao cho T(x) #0 la tập lồi
Chitng minh - Lay 01,02 € M Néu Ax > b(01) c6 nghiém 21, Ax > b(02) c6 nghiệm #a Với À € |0, 1], xét À + (1— À)Øa thi he Ax > b (AG) + (1— À)92) cũng sẽ cĩ nghiệm, chẳng hạn đĩ là nghiệm A# + (1— À)#a Do vậy À +(1— A)0s € Af với A € [0,1] Vậy Af là tập lồi
- Chứng minh tương tự, lấy z„,z¿ € A/ Nếu 4z > b(Ø) cĩ nghiệm 6, Avg > b(Ø) cĩ nghiệm Øạ Với À € [0,1], xét Àzi + (1 — À)z› thì hệ 4(A#i+(1— À)#a) > b(0) cũng sẽ cĩ nghiệm, chẳng hạn đĩ là nghiệm A1 +
(1—À)0a Do vậy Àzi + (L— À)#¿ € Aƒ với À e [0.1] Vậy A7 là tập lồi T]
Trang 11moi cách chọn b thì điều kién can va đủ là tơn tại các sơ thực mj > 0 va 86 thuc A; <0, (j =1,2, ,n), sao cho
m n
» AjAj = » pj Aj
j=l j=m+1
ở đâu A; là cột thứ j (Jj = 1.2 m) của ma trận A = (œ¡j) hệ Ai, Áa, , Âm là một cơ sở (nếu khác thì đánh số lại thứ tự)
Chứng minh Xem tai liéu [2]
1.2.3.3 Nếu bài tốn (SLP) chỉ cĩ e là ngẫu nhiên thì M* là tập lơi Chứng minh Ta kí hiệu TẺ là tập các phương án tối ưu #* của bài tốn đã cho, M* 1a tap cac giá trị Ø de T*(0) A Ta cần chứng minh với e ngẫu nhiên thi M* là tập lồi
That vay, lay 01,02 € M* Xét AO, + (1— A)bo, A € |0, 1], tương ứng phương An téi wu 2* Do chỉ cĩ ¢ ngau nhiên nên é khơng làm ảnh hưởng đến tap phương án, do đĩ ta cĩ
c(01)+” < c(01)z, V+ phương ấn e(02)+” < c(02)z, V# phương án Khi đĩ
c(AMi ~(1— À)62)+” < e(A0 + (1— À)02) +, Va phương án
Suy ra ÀØị + (1— À)Øa € Aƒ” với À € [0,1] hay A/* là tập lồi L] 1.2.3.4 Cho c(0,x) là hàm lồi uới z trên miền chấp nhận Cực tiểu của c(0,#) là hàm lồi của b
Trang 12tự, đặt b :— b”, giả sử cực tiểu của e(Ø,+) là e(Ø,*) = e(') Với À e |0 1], xét b® = AM +(1— À)B” Dat 2* = Aw* + (1— A)y* thi z* e A/ Ta thấy
C(O, 2*) = ¢(0,A2* + (1 — A)y*) = Ac(O, 2*) + (1 — A)c(O, y*) < Ac(O, 2) + (1 — À)c(0,+) = c(0,2), Va € M Nhu vay, tuong ttng vdi 6°, ta nhan dude gid tri cực tiểu z* Ta cĩ
Az* = A (Aa* + (1— A)y*) = AAx* + (1 A)Ay* = b Điều đĩ chứng tỏ tại b bài tốn cĩ tập phương án khác rỗng Do c(Ø,ø) là hàm lồi với x ta dude
u(b°) = c(0,zŸ) = e(0,Àz” + (1 — A)y*)
< Ac(O,2*) + (1 — A)e(O,y*) = Av(b) + (1 — A)v(0’)
Vậy ø(0) là hàm lồi với b L]
1.2.3.5 Cho c(0,+) là hàm lõm của 0 xác định trên miền @ lỗi đĩng hủ đĩ cục tiểu của c(8.+) là hàm lõm của 9 trong miền xác định đã cho Chứng mình Lấy 0\,0a tương ứng với các phương án tối ưu #) và z(2, nghĩa là
min { c(@1, 2) } = c(@, z0); min { (02,2) } = c(0a, +), Xét Ø = ÀØị + (1— À)Øa, À € [0.1]
Do e(0,+) là hàm lõm của Ø nên ta cĩ
min { e(À + (1 — À)Øa,#) } > min { Ac(#1, 2) + (1 — A)c(G2, 2) }
a
Trang 13Vay min {c(6,2)} la hàm lõm của Ø trên miền @ L]
x
1.3 Bài tốn quy hoạch ngẫu nhiên rời rac
1.3.1 Bài tốn Bài tốn quy hoạch ngẫu nhiên đã nêu trên nếu 4ƒ là tập rời rạc thì ta cĩ bà¿ tốn quy hoạch ngẫu nhiên rời rạc
1.3.2 Các hướng tiếp cận giải Trong luận văn này, chúng tơi xét các bài tốn tối tru cĩ dạng
min { g(#) := EpG(x,W) } (1.1)
res 2,
O day W là một vée tơ ngẫu nhiên cĩ phân phối xác suất P, S la mot tap hợp hữu hạn (ví dụ như Š cĩ thể là tập con hữu hạn của R” với tọa độ nguyên), G(z,+) là một hàm giá trị thực của hai biến véc tơ # và +ø và EpG(a,W) = f G(z,w)P(dw) là tương ứng với giá trị kì vọng Chúng tơi giả thiết rằng hàm giá trị kì vọng ø(z) được xác định rõ Với mỗi z € 9 hàm G(a,.) la P do được và Fp {|G(2, W)
4 “ ^* “a At ⁄ A: ⁄ At ~, x +2
Thực tế chúng tơi quan tâm tới các bài tốn với những đặc điểm sau:
}<©œ
1 Hàm giá trị kì vọng ø(3) := ZpG(+,W) khơng thể viết được trong một dạng đĩng hoặc giá trị của nĩ khơng thể tính tốn được một cách dễ dàng 2 Hàm (z,) là đễ tính tốn đối với z và œ cho sẵn
3 Tập hợp ,9 các nghiệm cho phép (phương án), mặc dù hữu hạn nhưng rất rộng, vì vậy cách tiếp cận bằng liệt kê là khơng thể thực hiện được
Trang 14số nghiệm cho phép là đủ nhỏ để xác định cơng thức ước lượng của ø() đối với mỗi # Quan tâm tới lý thuyết này cĩ Hochberg và Tamhane, Bechhofer, Santner va Goldsman, Futschik va Pflug va Nelson et al Cach tiép can khac đã được nghiên cứu bao gồm các phương pháp mơ phỏng tốt để đếm các sự kiện mà giá trị hàm mục tiêu khơng được biết đến một cách chính xác Làm
việc trên vấn đề này bao gdm Gelfand và Milter, Alrefaei và Andradattir, Fox
và Heine, Gut - jahr và Pflug và Homem-de-Mello Một cách tiếp cận nhánh để giải bài tốn quy hoạch nguyên ngẫu nhiên đã được gợi ý bởi Norkin, Ermokiev và Ruszezynski và Norkin, Pflug và Ruszezynski Con Schultz, Stougie va Van der Vierk đã gợi ý một cách tiếp cận đại số để giải quy hoạch ngẫu nhiên với việc nhờ đến cách sử dụng một hệ dàn của sự rút gọn cơ sở Grobner
Trang 15CHƯƠNG 2
PHUONG PHAP XAP Xi TRUNG BINH MAU 2.1 Phép lấy mẫu
2.1.1 Bài tốn Trong chương này, chúng tơi quan tâm tới việc giải bài tốn tối ưu rời rạc ngẫu nhiên dạng (1.1) Đặt
1 N
đN(#) = 5 3 `G(,W2) "
và bài tốn kết hợp
min 9xv(2) (2.1)
Chú ý rằng [@w(#)] = g(x)
Từ tập Š cho phép là hữu hạn, bài tốn (1.1) và (2.1) cĩ các tập hợp tối ưu khác rỗng, kí hiệu theo thứ tự là S* và Sy Dat v* va 6y biểu thị các gid tri tối ưu
vos min g(x); On (= gn (2)
của, bài tốn tương ứng Chúng tơi cũng xem xét đến tập hợp các nghiệm œ
tối wu (xấp xỉ tối ưu với độ chính xác e) Tức là, chúng ta xem xét tới các điểm
Trang 162.1.2 Tính chất
Định lý sau đây cho thấy sự hội tụ với xác suất 1, đối với giá trị hàm mục tiêu và nghiệm của bài tốn khi thực hiện cơng thức ước lượng thống kê nêu trên
2.1.2.1 Dinh ly Hai tinh chat sau đâu là tương đương
i) 6n 3 v*, vdi mác suất 1, khi N —> œ
ii) Cho bat kà e > 0, biến cố {SĐ C S°} xảu ra uới xác suất 1, khi N đủ
lớn
Chứng minh Theo luật mạnh số lớn đối với mỗi z € 5, Gn (2) hoi tu tdi g(x) với xác suất 1 khi W -> œ Từ tập S là hữu hạn và sự kết hợp một số hữu hạn các tập hợp mà mỗi tập hợp cĩ độ do khơng cũng cĩ độ do khơng, nĩ cho thấy rằng với xác suất 1, @y() hội tụ tới ø(#) theo moi a € S Vi vay
ỒN := max |ơ@w(#) — g(x)| > 0, vdi xc suat 1, khi N > oo ve (2.2) Tit |éy — v*| < dn, với xác suất 1, ơy —> * khi N > o
Với mỗi z > 0 cho trước xét số
ple) := jue 92) —wr-e (2.3)
Ti bat ki x € S \ S® kéo theo g(x) > v* + va tap hợp Š là hữu hạn nên p(e) >0
Chọn Ấ đủ lớn sao cho ổy < p(e)/2 Thi 6y < 0Ÿ + p(£)/2 và với bất kì x € S\S® kéo theo ơy(#) > v* +e+p(e)/2 Neu x € S\S* thì @y(#) > én +e và do dé 2 khong thudéc tap Sy Vi vay Sy cS Oo Chú ý rằng nếu ở là một số sao cho 0 < ð < e thì SŠC S°và Se Cc St Tt
Dinh lý trên với bat kd 6 € [0, <] bién c6 {$8 C Š°} xảy ra với xác suất 1, khi
Trang 17xác suất 1 khi đủ lớn Trong thực tế, nếu bài tốn tất định (1.1) cĩ nghiệm
tối ưu đơn trị x*, thì với xác suất 1 và đủ lớn bài tốn xấp xỉ (2.1) cĩ một
nghiệm tối wu don tri @y va fy = a2* Xét tap A := {g(a)-—v* : 2 € SI S
là tập hữu hạn Từ sự phân tích trên cho thấy với bất kì e € Ry \ A, bién cd và do đĩ A
Tap A là một tập con của tập R„ các số khơng âm va |A] < CỒN = 6°} xảy ra với xác suất 1 khi ý đủ lĩn
Dịnh lý nêu trên chưa nĩi gì tới tốc độ hội tụ của ơ¿y và SẺ Trong phần tiếp theo, sẽ đưa ra các tính chất về tốc độ hội tụ của chúng Chúng ta sẽ sử dụng
lý thuyết của Large Deviations [5] để chỉ ra rằng với các điều kiện đã đưa ra và ở € [0,z], xác suất của biến cố 6É C %° tiến nhanh với tốc độ hàm mũ khi
Đ — œ Để hiểu được phần cơ bản của lý thuyết của Large Deviations, chúng tơi tĩm tắt một số ý chính đã được vạch ra
Ta xét biến ngẫu nhiên (giá trị thực) X cĩ giá trị trung bình ¿ := #[X] Ham tạo thành moment của nĩ A/(/) := E[e'Ÿ] được xem như là một hàm giá trị mở rộng, nĩ cĩ thể nhận giá trị +oo Do đĩ Ä⁄/() > 0 với mọi £ € ]R, A/(0) = 1 và miền xác định {£ : ă(#) < +oe} của hàm tạo thành moment là một khoảng chứa 0 Hàm liên hợp
I(z):= sup {tz — A(t}, (2.4)
ctia ham tao thanh moment logarith A(¢) := log M(t), goi la ham téc do (rate) của X Cĩ thể thấy rằng cả hai hàm A(t) va /(.) đều lồi
Xét dãy X\, , X„ của sự lặp lại thí nghiệm của biến ngẫu nhiên X độc lập cùng phân phối và đặt Z„:= N~! Và X; 1a trung bình mẫu tương ứng Thì với bất kì số thực ø và £ > 0 kéo theo P(Zw > a) = P(e!4* > ef) va tit bất đăng thức Chebyshev's ta cĩ
Trang 18Bằng cách lấy logarith cả hai về của bất đẳng thức, đặt £ := N và giá trị cực
tiểu trên £ > 0 Với a > thì
+ loa {P(Zy > a] < —I(a) (2.5)
Chú ý rằng ø > „ nĩ chỉ cần lấy cực đại trong cơng thức (2.4) của /(œ) với
>0 và do đĩ sự ràng buộc này được bỏ đi Bất đẳng thức (2.5) tương ứng với giới hạn dưới của định lý độ lệch lĩn của Cramer
Hằng số ƒ(a) trong (2.5) đã cho, cĩ tốc độ hàm số mũ tốt nhất tại xác suất
P(Zx 3 4) hội tụ tới 0 với ø > , Điều này xác định từ cận dưới
1
lim inf — log[P(Zy > a)] > —I (a) (2.6)
Noo N
của định lí độ lệch lớn của Cramer Một điều kiện đủ đơn giản để (2.6) giữ
nguyên là hàm tạo thanh moment M(t) 1a hitu han giá trị với moi t € R Hàm tốc độ /(z) cĩ những đặc tính sau Hàm /(2) là lồi, đạt cực tiểu tại z = tu và l(0i) = 0 Hơn nữa, giả sử hàm tạo thành moment Ä/(0) là hữu hạn giá trị với mọi f trong một lân cận của # = 0 thì nĩ xác định bằng định lý hội
tụ được chi phối bởi Aƒ(0); và từ đĩ hàm A(/) là khác nhan rất nhiều tại ¿ = 0 va A’(0) = ps V6i a > pe dao ham ciia w(t) := ta — A(L) tai t = 0 lớn hơn 0 và
do đĩ Œ) > 0 với £ > 0 đủ nhỏ Người ta xác định rằng trong trường hợp đĩ I{a) > 0 Cuối cùng giả sử X cĩ phương sai hữu hạn ø? Vậy thì 7 (w) = 0 và I”(w) = øˆ? và do đĩ bằng sự mỏ rộng của Taylor
(a — pu)? 2
Fề 2 At x 2 2 2-4 2 2+ (a — pt)? ~ + £ `
Kết quả, với a gần sát / cĩ thể xâp xi !(a) bởi _— Hơn nữa, với bât kì Ø
ế >0, tồn tại lân cận N ciia js sao cho
— 2
Trang 19Trong thực tế cĩ thể lấy ẽ = 1
Đây giờ chúng ta trỏ lại bài tốn (1.1) và (2.1) Xét e > 0, 6 € [0,¢] va bien
cĩ { 6À, C 9°} Ta cĩ {6v #5}= LJ ƒ]{ơxứ) < ơx0) +Š}- (2.9) +€S\6:cS Do đĩ PINES) < 3) P((\(ðxø) <ðx)+3)) — 010) œ€S\S yes
Xét mot Anh xau:S\ S&H 5 Từ (2.10) ta cĩ
P(SLES)< Oo P(ơx(z) — gn(u(z)) <3) (2.11)
œ€Ss\S
Đây giờ giả sử ánh xạ (2) được chọn theo một cách mà với một số £* > e, ø(u(#)) < g(#) — £” với Vz € S\ S7 (2.12) Chú ý rằng nếu (.) là một ánh xạ từ 9\ 9° vào trong tập S*, tức là u() € ®* với #€ S\ S*, thì (2.12) giữ nguyên với e” := amin 9(#) —v* vae* > e tit 2eS\S¢ khi tập 5 là hữu hạn Vì vậy một ánh xạ u(.) ma thỏa mãn điều kiện (2.12) luơn luơn tồn tại
Với mỗi z € S\ 5°, đặt
H(œ,+0) := Œ (u(x), w) —Œ(#,1)
Chú ý rằng #[H(z,W)] = g(u(x))—g(x) va tit do E[H(a,W)] < —e* Dat W!, ,W” 1A mau ngẫu nhiên độc lập cùng phân phối của N phép thử theo véc tơ ngãu nhiên W va xét hàm trung bình mẫn
N
Trang 20Từ (2.11) ta cĩ
P($ # S°)< SOP (hy () > -3) (2.13)
+€eS\S
Giả sử 7„(.) là ký hiệu hàm tốc độ độ lệch lớn của //(+,W/) Bất đẳng thức (2.13) cùng với (2.5) kéo theo
VES)S SO NECA, (2.14)
we S\S©
Cần chú ý rằng bất đăng thức (2.14) trên khơng gần đúng và cĩ hiệu quả với
bat ki mau ngẫu nhiên cỡ Ấ
Giả thiết (A) Với mỗi z € 9 hàm tạo thành moment của biến ngẫu nhiên TH(+,W) là hữu han giá trị trong một lân cận của 0
Giả thiết (A) luơn được giữ nguyên trong những lý luận tiếp theo
2.1.2.2 Định lý Gia site va š là các số khơng âm sao cho ð <e Khi đĩ
P(S% £ S*)< |S\ Ste) (2.15)
trong đĩ
+(ð,£):= (4,2) met z(~) min I;(—) (2.16) 2.16
Hơn nữa, nếu giả thiết (A) van đúng, thà +(ð,e) > 0
Chứng mình Bất đẳng thức (2.15) là một hệ quả trực tiếp của bất đẳng thức (2.14) Nĩ kéo theo —6 > —e* > —E[H(x,W)] Ti đĩ theo giả thiết (A) thì
I„(—ä) > 0 với mỗi ø € S\ Ấ%° Diều này cĩ nghĩa là +(ð,£) > 0 Oo Kết quả sau là một hệ quả trực tiếp của bất đẳng thức (2.14)
lim sup —- log[1 — P(S C %)] < —*(ổ,£) (2.17)
Trang 21Bất đẳng thức (2.17) cĩ nghĩa là xác suất của biến cố Sh Cc S® hoi tu nhanh theo hàm mũ khi W -> oo Điều này gợi ý phương phap Monte Carlo, kết hợp với một phương pháp hiệu dụng để giải bài tốn xấp xỉ trung bình mẫu tất định, cĩ thể giải một cách hiệu quả loại bài tốn nghiên cứu dưới đây, đưa ra hằng số +(ð,) khơng quá nhỏ Từ (2.7) cĩ (~ä— E[H(,W)])” (*- 3)? -äÌz> > 2.1 Ie(-8) m > (2.18)
trong dé 0? := Var [H(a,W)] = Var [G(u(x), W) —G(#, W)) Vì vậy, hằng số +(ð,e) cho trong (2.16) cĩ thể được xâp xỉ bởi
- 2
- -ä— E[H(œ,W e*—§)2 (c—â2
^(3,)~ min { Wi) > ( 5 ) > 5 ) : (2.19)
z€s\% 27; 20 max 20 max
trong đĩ
On ar = mes Var [G (u(x), W)-—G(2, W)] (2.20) Để minh họa một vài sự kéo theo của giới hạn (2.15) đối với sự bàn bạc độ phức tạp của việc giải bài tốn ngẫu nhiên, chúng ta đặt một mức ý nghĩa
a € (0,1) và ưĩc lượng kích cỡ mẫu cần để xác suất P(S% C 5°) trở thành
nhỏ nhất 1 — œ Bằng cách lợi dụng về phải của (2.15) nhỏ hơn hoặc bằng với a, ta được 1 S\ S® as ` “ rs (=3) "
Hơn nữa, từ (2.8) và (2.16) ta cĩ +(ð,£) > sa? — với mọi € > 0 đủ nhỏ Do z2
mar
đĩ nĩ giữ nguyên véi tat ca e > 0 di nho va 6 € [0,¢), mot điều kiện đủ để oO oO”) ?
(2.21) đúng là
372 |S|
Trang 22Cận dưới (2.22) cĩ thể quá dè dặt đối với các ước lượng thực tế của các kích cỡ mẫu được yêu cầu Tuy nhiên, ước lượng (2.22) cĩ hệ quả trực tiếp thú vị đối với việc đánh giá độ phức tạp Một đặc trưng của (2.22) là W chỉ phụ thuộc logarith trên cả kích cỡ của tập S cho phép va trên cả xác suất cho phép a Một cách giải quyết thích hợp là ta đưa ra các giả thiết:
(1) kích cỡ của tập Š cho phép là tăng theo số mũ với độ dài dữ liệu của bài tốn đưa vào,
(2) phương sai ø?,„„ phụ thuộc đa thức theo độ dài dữ liệu của bài tốn đưa
vao,
(3) độ phức tạp của việc tìm một nghiệm tối ưu ä đối với bài tốn (2.1) tăng đa thức theo độ dài dữ liệu đầu vào của bài tốn và kích cỡ mẫn Khi đĩ một nghiệm tối ưu cĩ thể được tạo thành trong thời gian đa thức theo độ
dài dữ liệu đầu vào của bài tốn, với xác suất ít nhất 1 — œ, bài tốn (1.1) cĩ
nghiệm là e tối ưu
Bây giờ giả sử bài tốn tất định cĩ nghiệm tối ưu đơn trị #*, tức là S* = {z*} là duy nhất và ta xét bài tốn xấp xỉ trung bình mẫu (2.1) cĩ nghiệm tối ưu don tri #y và êwy = #* Chúng tơi biểu thị sự kiện bởi {2 = #*} Hơn nữa, xét ánh xạ: S\ 6 > {z+*}, tức la u(x) = z* và hằng số tương ứng +* = +(0,0) Vì vậy
y= min /„(0) 2.23
’ z€5\{z'} o( ) ( )
với I,(.) la ham tốc độ độ lệch lớn của G(2*,W) — G(z,M) Chú ý rằng E[G(a*,W) — G(+,W)] = g(+Š) — ø(+) và do đĩ EZ[G(+*,W) — G(z,W')] < 0 với mỗi ø € S\ {z*} Vì vậy, nếu giả thiết (A) vẫn giữ nguyên, tức là hàm tao thành moment của G(z*,W) — G(+,M) là hữu hạn giá trị trong một lân cận của 0, thì + > 0
Trang 23ham tao thanh moment ctia mỗi biến ngẫu nhiên ŒG(3*,W) — G(œ,W),+ € S\ {a*}, la hitu han giá trị trên R Khi đĩ
1
lim N log[l — P(Êy = #”)Ì = —*" (2.24)
Noo IV
Chitng minh Tit (2.17) ta c6
lim sup 55 log[l — P(Êy =#”)| < —*" (2.25)
Xem như phần bù của biến cố {£w = #° } được kí hiệu là {2y # #*} Biến
cố {Êy # + } bằng với tập hợp các biến cố {@w(#) < ơx(*)},z€ S\ {2}
Do đĩ, với bất kì z€ S\ {2},
P(êu ##`) > P(Gn(2) < gn(2*))
Dằng cách sử dụng giới hạn dưới (2.6) của định lí độ lệch lớn của Cramer ta cĩ bất đẳng thức
lim inf ~ log{l — P(&y = 2*)| > —J,(0) (2.26)
Nooo N
luơn đúng với mọi z € Š\ {z*} Bất đẳng thức (2.25) và (2.26) kéo theo
(2.24) D
Phần tới chúng tơi xem xét tính gan đúng của giá trị hàm mục tiêu tối ưu xấp xỉ trung bình mẫu ơ„ Với bất kì tập con Š của 9 bất đẳng thức
én < min 9n() ludn ding Trong thuc té, bang cach lay S° = S*, ta cĩ
Œ
8w < min ?x(#) và từ đĩ
zes“
#[ơx] < {min wy(#)} < min [ậ(#) ] = tử
veS* veS*
Vi vay, cong thitc ude lugng éy cĩ sai số âm
Trang 24hợp đĩ
éy = min gn(a) > min gn (2)
xe Sy ze5
Ta cĩ thể thấy rằng bất đẳng thức ngược lại luơn đúng, do vậy với xác suất 1, ÊN — min gn (2) = 0 khi N di lon Nhân cả hai về của phương trình này với
res
VN, ta c6 voi xác suat 1, VN [on — mịn ơA(#)] =0 khi Đ đủ lớn và do đĩ lim VN [én ~ min gn (a)] = 0 với xác suất 1 (2.27)
N-00
Từ sự hội tụ với xác suất 1 nghĩa là hội tụ theo xác suất, từ (2.28) cĩ VAN [êy —
min ơw(#)] hội tụ theo xác suất tới 0, tức là
€5"
Oy = min gn(2) + op(N~1⁄2), nese
Hơn nữa, từ v* = g(x) với bất kì z € S*,
VN [min ơy(#)]— 0È] = VN min[ơy(#)] — 0” ] = mắn {VÀ [ân(z) — ø()Ì} œ€S” zœ€S”
Giả sử với mỗi # € S, phương sai
ø?(+) := Var [G(z, W')] (2.28)
tồn tại Khi đĩ theo định lý Central Limit, vdi bat ki 2 € S, VN [gn (x) — g(2)] hội tụ theo phân phối tới một biến phân phối chuẩn Z(+}) với giá trị trung bình 0 và phương sai ø?(z) Hơn nữa, lại theo định lý Central Limit, biến ngẫu nhiên Z(a) c6 ham covariance giéng như G(œ,W) Điều đĩ cho thấy giữa Z(2) và Z(z) cũng giống như giữa G(z,W) và G(+,W'), với bất kì #,# € $ Do đĩ
chúng ta cĩ được Dịnh lý 2.1.2.4 sau đây (chúng tơi sử dụng “=” để biểu thi
sự hội tụ theo phân phối)
2.1.2.4 Định lý Giả sử phương sai ø (%), xác định trong (2.28), tồn tai vdi moi x € S* Khi dé
VN (én — v*) > min Z(#) (2.29)
Trang 25trong đĩ Z(œ) là biến ngẫu nhiên phân phối chuẩn tới giá trị trung bình 0 va ham couariance được cho bởi hàm couariance tương ứng của G(œ,W)
Trong thục tế, nếu S* = {a*} là duy nhất, thà
VN(ơy - 0*) = N(0.ø?(z*)) (2.30)
Mặc dù với bất kì z cho sẵn giá trị trung bình (giá trị kỳ vọng) của Z(z)
bằng 0 Giá trị cực tiểu của Z(z) trên một tap con S của Š cĩ thể khơng âm và trỏ thành nhỏ hơn với một tập SÍ rộng hơn Vì vây, từ (2.30) cho thấy rằng với bài tốn điều kiện yếu mà tập hợp các nghiệm tối ưu hoặc gần tối ưu rộng cơng thức ước lượng ơ„y của œ sẽ cĩ sai số lớn
2.2_ Thuật tốn xấp xỉ trung bình mẫu
2.2.1 Đặt vấn đề Như chúng ta đã biết, nhiều bài tốn tối ưu rời rạc ngẫu
nhiên rất khĩ để giải Trong luận văn này, chúng tơi đưa ra một phương pháp xấp xỉ trung bình mẫu để giải các bài tốn tối tu rời rạc ngẫu nhiên Ý tưởng cơ bản của phương pháp này là một mẫu ngẫu nhiên được tạo thành và một cách logic hàm giá trị kì vọng được xấp xỉ bởi hàm trung bình mẫu tương ứng Bài tốn tối ưu trung bình mẫu thu được được giải quyết và phương pháp được lặp lại cho đến khi một tiêu chuẩn dừng được thỏa mãn
2.2.2 Sự lựa chọn kích cỡ mẫu Trong một thuật tốn, một kích eỡ mẫu hữu hạn hoặc một dãy các kích cỡ mẫu hữu hạn phải được lựa chọn và thuật tốn phải dừng sau một lượng thời gian hữu hạn Một câu hỏi quan trọng là làm thế nào những sự lựa chọn này sẽ được thực hiện Ước lượng (2.22) đưa ra một giới hạn trên kích cỡ mẫu được yêu cầu để tìm một nghiệm e - tối tru với xác suất nhỏ nhất 1 — œ Ước lượng này cĩ hai khuyết điểm cho mịục đích tính tốn Đầu tiên, với nhiều bài tốn thật khơng dễ để tính ước lượng, bởi
2
ma„ Và trong một số bài tốn |S|[ cũng cĩ thể tính vất vả Thứ hai, giới
Trang 26hạn cĩ sự bảo đảm quá xa để thu được một ước lượng thực tế của kích cỡ mẫu được yêu cầu Dể chọn X, sự cân đối khác nhau nên được đưa vào trong tính tốn Với rộng hơn, hàm mục tiêu của bài tốn xấp xỈ trung bình mẫu sẽ trở thành ước lượng chính xác hơn của hàm mục tiêu đúng, một nghiệm tối ưu của bài tốn xấp xỉ trung bình mẫu sẽ trở thành một nghiệm tốt hon và giới hạn tương ứng trên khoảng tối ưu được nghiên cứu sau sẽ trở nên chặt hơn Tuy nhiên, quá trình giải phụ thuộc vào bài tốn xấp xỉ trung bình mẫu (2.1) và phương pháp sử dụng để giải bài tốn xấp xỉ trung bình mẫu, độ phức
tạp để giải bài tốn xấp xỉ trung bình mẫu tăng lên ít nhất là tuyến tính và
thường là hàm mũ trong kích cỡ mẫn NV Vi vay, trong su lua chon kích cỡ mẫu Đ, sự cân đối giữa chất lượng một nghiệm tối ưu của bài tốn xấp xỉ trung bình mẫn, giới hạn trên khoảng tối ưu trên một mặt và sự nỗ lực tính tốn trên mặt khác nên được đưa vào trong tính tốn Cũng vậy, sự lựa chọn kích cỡ mẫu cĩ thể được điều chỉnh một cách thích hợp phụ thuộc vào kết quả tính tốn sơ bộ Ý tưởng này được nĩi đến chỉ tiết hơn sau đĩ
Đặc biệt, sự ước lượng giá trị mục tiêu ø(#) của một phương án # € S bởi trung bình mẫu ơw(#) địi hỏi sự nỗ lực tính tốn ít hơn nhiều so với việc giải bài tốn xấp xỉ trung bình mẫu (với cùng kích cỡ mẫu ) Vì vậy, mặc dù sự xĩt đến độ phức tạp tính tốn thúc đây một phương pháp để chọn một kích cỡ mẫu W tương đối nhỏ đối với bài tốn xấp xỉ trung bình mẫu, nĩ tạo ra phương hướng để chọn một kích cỡ mẫu ÁN rộng hơn để thu được một ước lượng chính xác ơnz;(Êw) của giá trị mục tiêu g(®w) của một nghiệm tối ưu âw của bài tốn xấp xỉ trung bình mẫu Một thước đo độ chính xác của một ước lượng trung bình mẫu „/(êxy) của ø(#w) được cho bởi phương sai mẫu tương ứng Se, (v)/N’, no c6 thé duge tinh tit cing mau cd X” Sự lựa chọn
° , ` ^ ˆ As ow x 2 ⁄ ¬ " “ ⁄
Trang 27do bởi SẴ, (an) /N’
2.2.3 Sự lặp lại Nếu độ phức tạp tính tốn của việc giải bài tốn xấp xỉ trung bình mẫu tăng lên nhanh hơn so với tuyến tính trong kích cỡ mẫu , nĩ cĩ thể hiệu dụng hơn để chọn một kích cỡ mẫu W nhỏ hơn và để tạo thành và giải quyết một vài bài tốn xấp xỈ trung bình mẫu với các mẫu độc lập cùng phân phối; vì vậy, cần lặp lại sự tạo thành và giải bài tốn xấp xỉ trung bình mẫu
Với một cách tiếp cận, những sự bàn bạc khác nhau phải được nĩi đến Một câu hỏi là liệu cĩ phải cĩ một sự bảo đảm rằng một nghiệm tối ưu (hoặc e - tối
ưu) đối với bài tốn tất định sẽ được tạo ra nếu một số đủ các bài tốn xấp xỉ
trung bình mẫn, dựa trên các mẫu độc lập cỡ W được giải quyết Câu hĩi đĩ cĩ thể xem là một phương pháp như phép thử Bernoulli với xác suất thành cơng p = p(N) “Thanh cơng” ở đây nghĩa là một nghiệm tối ưu £„y tính được của bài tốn xấp xÏ trung bình mẫu là một nghiệm tối ưu của bài tốn tất định Từ Dịnh lý 2.1.2.1, xác suất ø này dần tới 1 khi N — oo và hơn nữa, theo Định lý 2.1.2.2 nĩ dần nhanh theo hàm mũ nếu sự giả thiết A vẫn cịn đúng
Tuy nhiên, với một W hữu hạn xác suất p cĩ thể nhỏ hoặc thậm chí bằng 0 Xác suất của việc tạo ra một nghiệm tối ưu của bài tốn tất định ít nhất một lần trong A7 phép thử là 1 — (1— p)*f và xác suất này dần tới 1 khi ă —> oo đã tạo ra dương Vì vậy một câu hỏi xác đáng là liệu cĩ một sự bảo đảm rằng p dương với một kích cỡ mẫu cho sẵn Ví dụ sau đây chỉ ra rằng kích cỡ mẫu địi hỏi p dương là đặc trưng bài tốn, khơng chỉ phụ thuộc vào số các phương án mà cĩ thể rộng một cách tùy ý
Trang 28dương tùy ý Dặt + = 1/(k + 1) Khi đĩ ø(z) = (1— +)G(œ,M1) + +G(z, W2) va vi vay g(—1) = k/(k + 1), 9(0) = 0 va ø(1) = k/(k + 1) Vì vậy zø” = 0 là nghiệm tối ưu đơn trị của bài tốn tất định Nếu mẫu khơng chứa bất kì sự
quan sát s nào, thì êy = —1 # + Giả sử rằng mẫu chứa ít nhất một sự
quan sát +2 Thì ơy(1) < [2(N — 1) — k]/N Vì vậy gn(1) < 0= ơx(0) nếu Đ < k/2 và êy = 1# #* Vậy một mẫu cỡ N > k/2 ít nhất được yêu cầu, để + = 0 là một nghiệm tối ưu của bài tốn xấp xỉ trung bình mẫu Chú ý rằng Var[G(—1,W) — G(0,M)] và Var[G(1, W) — G(0,W)] là ©(£) (tăng trưởng cùng bậc theo k), đây là nguyên nhân bài tốn trổ nên khĩ hơn khi k tăng lên Một việc khác phải được nĩi đến, là cách chọn số A⁄/ lần lặp lại Tương tự với cách chọn kích cỡ mẫu w, số A7 sự lặp lại cĩ thể được chọn một cách động lực Một cách tiếp cận để làm việc này được nghiên cứu trong phần tới Để sự trình bày đơn giản, giả sử rằng mỗi sự lặp đi lặp lại xấp xỉ trung bình mẫu tạo
ra một nghiệm đại diện, nĩ cĩ thể là một nghiệm tối ưu (z - tối ưu) của bài tốn xấp xỉ trung bình mẫu Đặt #'J biểu thị nghiệm đại diện tạo ra bởi sự lặp lại xấp xỉ trung bình mẫu thứ w (phép thử) Khoảng tối ưu g(#% — v*) c6 thé được ước lượng như mơ tả trong phần tới Nếu một tiêu chuẩn dừng dựa trên ước lượng khoảng tối ưu được thỏa mãn, thì khơng sự lặp lại nào hơn được thực hiện Mặt khác, phép cộng sự lặp lại xấp xỉ trung bình mẫu với cùng kích cỡ mãu được thực hiện, hoặc kích cỡ mẫu W được tăng lên Bằng cách đĩ chúng ta đã đưa ra một hướng đơn giản xấp xỉ trung bình mẫu với cùng kích cỡ mẫu W, tạo ra một nghiệm tốt hơn rất nhiều so với nghiệm tốt nhất đã tìm thấy
Trang 29lại với cùng kích cỡ mau W được thực hiện rất nhiều Nếu phân phối xác suất của ø(Êwy) vẫn tiếp diễn thì xác suất mà sự lặp lại xấp xỉ trung bình mẫu thứ
(Aƒ + 1) với cùng kích cỡ mẫu sẽ tạo ra một nghiệm tốt hơn rất nhiều so với
nghiệm tốt nhất được tạo ra bởi ă sự lặp lại, sẽ bằng với 1/(Ä + 1) Bởi vì
trong thực tế phân phối của ø(Êw) là rời rạc, xác suất này nhỏ hơn hoặc bằng với 1/(Ä + 1) Vì vậy, khi 1/(AJ + 1) trỏ thành đủ nhỏ, phép cộng sự lặp lại xấp xỉ trung bình mẫu với cùng kích cỡ mẫu dường như khơng đáng kể và kích cỡ mãu ý sẽ được tăng lên hoặc phương pháp sẽ dừng
Để cĩ được việc tạo thành các qui luật dừng, tốt như mục đích biểu diễn sự ước lượng khác, một cách thích hợp để tính khoảng tối ưu là chọn ø(£) — v*, với một nghiệm cho sẵn # € S Nhu vậy,
1 N’
gn (#) = vO (&, W2)
=
là một cơng thức ước lượng khơng chệch của g(#) va phuong sai cha J (#) dude
ước lượng bởi Se, (2)/N”, trong đĩ Se, (2) là phương sai mẫu của G(£, W?), dựa trên mẫu cd N’
Một cơng thức ước lượng của ø* được cho bởi
trong đĩ 64! biểu thị giá trị mục tiêu tối ưu của sự lặp lại xấp xỉ trung bình
mẫu thứ ?w Chú ý rằng /|ø4] = F|ơy] và từ đĩ cơng thức ước lượng của BẠ!
cĩ cùng sai số âm như ơ„ Dịnh lý 2.1.2.4 chứng tỏ rằng sai số này sẽ trở thành lớn hơn, với bài tốn điều kiện yếu với tập hợp các nghiệm tối ưu, hoặc gần tdi uu rong hon Xét cơng thức ước lượng tương ứng ơ„(Ê) — ov của khoảng tdi uu g(#) — œ*, tại điểm £ Từ
Trang 30nĩ cho thấy trung bình cơng thức ước lượng trên đánh giá quá cao khoảng tối ưu g(#) — v* N6 chi ra rang sai s6 v* — E[éy] sé gidm đi một cách đều đặn trong kich cd mau N
Phương sai của oN f được ước lượng bởi
+2 1 M
“M M Mah LON on) =——— (gm — 9)? Am „1/2 (2-32) 2.32
m=]
Nếu ă mẫu cỡ W và sự ước lượng mẫu cỡ A” là độc lập thì phương sai của cơng thức ước lượng khoảng tối ưu ơy/(Ê) — ðă cĩ thể được ước lượng bởi
2 (2)/N' + S92 /Aụ Sa (®)/N + Sq,/M
Một cơng thức ước lượng của khoảng tối ưu ø(@) — 0Ÿ với khả năng phương sai nhỏ hơn là gM (2) — oy, trong đĩ
AM
—Ms l ama
ON (#) = 47 DS ONC)
m=1
và gl@(#) 1A gid tri muc tiéu trung binh mau tai # cla mau xAp xỉ trung bình IN 1 mu dl thttm co N,
2
gn (a, wm),
Phương sai ctia gM (#) — ĐÀ " ước lượng bởi =2
=1 ary > lor (@) m=1 — 08) (gŸ (4) - z‡!)J
Trang 31sai nào Mặt khác, định lí Central Limit cĩ thể được áp dụng với cơng thức ước lượng khoảng tối ưu ơ„/(Ê) — oy va gv (2) — oy „ vì thế độ chính xác của, một cơng thức ước lượng khoảng tối ưu cĩ thể được đưa vào trong tính tốn bằng cách thêm một bội số z„ của độ lệch tiêu chuẩn được ước lượng của nĩ với cơng thức ước lượng khoảng Ỏ day zq := &-'(1 — a), trong dé ®(z) 1A hàm phân phối tích lũy của phân phối chuẩn mẫu Chẳng han, nếu # € 9 ký hiệu nghiệm đại diện với giá trị tốt nhất của ơ„;(®) đã tìm thấy sau A⁄ sự lặp lại, thì một cơng thức ước lượng khoảng tối ưu lấy độ chính xác vào trong tính tốn được cho bởi
52,(2) - S?,\1⁄2 ayo) — OH + (CN +) hoac Su = ^ - OM Gn (@) — tH + %q SS » X“VM
Để kiểm tra thuật tốn, ta tách cơng thức ước lượng khoảng tối wu vào trong thành phần của nĩ Ví dụ
52,(ơ) - 63, 1/2
0) =TĐ +sCẴ 7) ¬ ay Sila) _ S‡
= (ơy/(8) = 9(@)) + (98) = v*) +00" — OH) + 20 (A + TM
Trong 4 số hang ở bên phải của phương trình trên, số hạng đầu tiên cĩ giá trị
yr (2.33)
kì vọng 0, số hạng thứ hai là khoảng tối ưu đúng, số hạng thứ ba là số hạng
sai số, nĩ cĩ sự giảm đi giá trị kì vọng dương trong kích cỡ mẫu và số hạng thứ tư là số hạng độ chính xác, nĩ sẽ giảm đi trong số Aƒ lần lặp lại và kích cỡ mau N’ Vì vậy một điều khơng thuận lợi của các cơng thức ước lượng khoảng tối ưu này là cơng thức ước lượng khoảng cĩ thể rộng nếu A⁄/, ý hoặc N' nhỏ, ngay cả nếu £ là một nghiệm tối ưu, tức là ø(Ê) — »Š = 0
Trang 32khoảng tối ưu trổ thành đủ nhỏ Ỏ giai đoạn này nghiệm đại diện ê € Š với giá trị tốt nhất của ơ„y(®) cĩ thể được chọn lựa như nghiệm đã chọn Tuy
nhiên, nĩ cĩ thể đánh giá để biển diễn một sự đánh giá chỉ tiết hơn của các
nghiệm đại diện đã tạo ra trong suốt quá trình lặp lại Cĩ các phương pháp lựa chọn và sàng lọc thống kê khác nhau để chọn các tập hợp con của các nghiệm hoặc một nghiệm đơn, giữa một tập hữu hạn (nhỏ hợp lí) của các nghiệm, sử
dụng các mẫu của các giá trị mục tiêu của các nghiệm
2.2.4 Thuật tốn Từ các kết quả nêu trên, chúng tơi trình bày một thuật tốn đối với lớp bài tốn tối ưu rời rạc ngẫu nhiên được nghiên cứu trong luận van nay
Bước 1 Chon các kích cỡ mẫu ban đầu N va N’, mot qui luat qui dinh d6i véi viéc xAc dinh s6 M cia su lặp lại xấp xỉ trung bình mẫu (cĩ thể gồm một số cực đại A/ˆ của sự lặp lại xấp xỉ trung bình mẫu với cùng kích cỡ mẫu, sao cho 1/(Ä7ˆ + 1) là đủ nhỏ), một qui luật qui định đối với sự tăng lên các kích cỡ mẫu W và Ä nếu cần và sai số z
Bước 2 Với m = 1.2, , Aƒ, thực hiện các bước từ 2.1 đến 2.3
2.1 Tạo ra một mẫu cỡ X và giải bài tốn xấp xỉ trung bình mẫu (2.1), với giá trị mục tiêu ơÿ và nghiệm e - tối ưu ÂN:
2.2 Ưĩc lượng khoảng tối ưu ø(@Đÿ) — v* và phương sai của cơng thức ước lượng khoảng
2.3 Nếu khoảng tối u hoặc phương sai của cơng thức ước lượng khoảng là đủ nhỏ, sang bước 4
Bước 3 Nếu khoảng tối ưu hoặc phương sai của cơng thức ước lượng khoảng quá rộng, tăng kích cỡ mẫu N va N’ lên và trỏ lại bước 2
Trang 332.2.5 Đánh giá thuật tốn
Thuật tốn 2.2.4 cho phép giải bài tốn tối ưu rời rạc ngẫu nhiên được nêu
ra trong luận văn
Kết quả nêu trên cho thấy xác suất về quá trình lặp của thuật tốn xấp xỉ trung bình mẫu cho phương án tối ưu cĩ độ phức tạp tăng theo hàm mũ với kích cỡ mẫu Người ta nhận thấy rằng tốc độ hội tụ này phụ thuộc vào từng bài tốn với số biến khác nhau Các tác giả cũng đã đưa ra nhiều ví dụ sử dụng thuật tốn 2.2.4 mà chỉ phải thực hiện với vài bước lặp và kích cỡ mau nhỏ Tuy nhiên, cơng thức ước lượng khoảng tối ưu ở đây trong mỗi trường hợp là quá yếu để tìm thấy một nghiệm xấp xỉ tối ưu Do vậy, một cơng thức
ước lượng khoảng sẽ khá hơn nếu cĩ sự cải tiến quá trình thực hiện thuật tốn
Phương hướng cải tiến hiện nay là tìm cách giảm bĩt mức độ tính tốn ở một số bước lặp, điều này cịn phụ thuộc vào thực tế của từng bài tốn
2.3 Ví dụ
2.3.1 Mơ hình bài tốn phân bổ kinh phí
Chúng tơi áp dụng phương pháp với bài tốn phân bố nguồn kinh phí như sau: Một người cần quyết định lựa chọn một tập con của & dự án đã biết để đầu tư Với mục đích này một số lượng q đã biết của nguồn chỉ phí một cách
tương đối thấp là thích hợp để phân bĩ Bất kì phép cộng tổng số lượng của
Trang 34Mơ hình thực tế đã cho đẫn đến mơ hình bài tốn tối ưu như sau:
k k +
ravi cE | SS Wii a] 2.34
zel01t >- TT¡ —C >- 1i —q ( )
trong đĩ |]T := max {z,0} Bài tốn cĩ thể được mơ tả như một bài tốn cái túi, ở đĩ một tập con của k khoảng phải được chọn, đưa ra một túi cỡ để vừa các khoảng Cỡ W; của mỗi khoảng ¡ là ngẫu nhiên và mỗi đơn vị lãi e phải được bù cho sức chứa quá giới hạn của túi Vì nguyên nhân này bài tốn được gọi là Đài tốn cái túi ngẫu nhiên tĩnh (SSKP) Đài tốn này được chọn vì một vài nguyên do Đầu tiên, số hạng giá trị kì vọng tương tự với số hạng trong hàm mục tiêu của (2.34) xuất hiện trong nhiều bài tốn tối u ngẫu nhiên thú vi
2.3.2 Kết quả tính tốn bằng số
Trong bài báo da dan [5], cdc tac gia A J Kleywegt, A Shapiro va Tito Homem-de-Mello thực hiện tính tốn bằng số giải bài tốn SSKP, với bài tốn cĩ 10 biến lựa chọn (decision) ở tập đầu và 20 biến lựa chọn ở tập thứ 2 Đối với mỗi tập, người ta thực hiện trên 1 ví dụ eụ thể (ký hiệu là 10D và 20D), với số ràng buộc khá lớn lựa chọn ngẫu nhiên (ta gọi là sự lựa chọn theo
10, 20 biến lựa chọn, ký hiệu 10R và 20R) Dảng 2.1 sau đây cho thấy số điều
kiện buộc , giá trị tối ưu œ*, giá trị ø() của phương án tối u # và giá trị max, G(a, E[W]) déi véi mdi su lua chon
Bảng 2.1 Số điều kiện buộc K, giá trị tối tu t` 0à giá trị g(#) của phương an toi wu ® va gid tri max, G(x, E[W]) déi vdi méi su lua chon
Sự lựa chọn | Số điều kiện K | Gia tri toi wu v* | Giá trị kỳ vọng ø(#)
Trang 35
u¿ được tạo ra theo phân phối đều (20, 30) và độ lệch chuẩn ø; được tạo ra theo phân phối đều (5, 15), với bài tốn thực tế ở mục 2.3.1 thì kỳ vọng lãi r;
cĩ phân phối đều (10, 20) và tất cả e = 4
Néu W; ~ N(jt;,07),i =1, ,k là các biến ngẫu nhiên cĩ phân phối chuẩn độc lập thì hàm mục tiêu của bài tốn (2.34) cĩ thể được viết lại trong dạng đĩng Vì vậy biến ngẫu nhiên Z() := S W;#;¡ — q là phân phối chuẩn với mức ý nghĩa /l(#) = ye H¿#¡ — q và phương sai ø”(3) = ve 19722
Chúng ta nhận thấy rằng từ Z(z) ~ W((3),ø(z)?) suy ra
7
BIZ (0))* = w(2)®(n(x) /o(2)) + TC sp (~ a)
ở đây ® ký hiệu cho ham phan phối tích lũy chuẩn Do vậy
k P :
wa) = Sova - c[i(a)@(u(a)/o(e)) + Fedex (— #7)
Trang 36KẾT LUẬN Luận văn đã giải quyết được một số vấn đề sau:
1 Trình bày được một số khái niệm và kiến thức cơ sở của xác suất thống kê Đồng thời trình bày bài tốn quy hoạch ngẫu nhiên, bài tốn quy hoạch ngẫu nhiên rời rạc với một số hướng tiếp cận giải nĩ
2 Với bài tốn đã nêu, xây dựng được phép lấy mẫu ngẫu nhiên và sự chọn lọc kích cỡ mẫu nhằm tiến tới xây dựng thuật tốn giải
3 Phát biểu và chứng minh một số Định lý của bài tốn đang xét Từ đĩ nêu ra thuật tốn giải tương ứng
4 Dưa ra ví dụ về một mơ hình thực tế và thể hiện bằng số để thấy rõ hiệu quả của thuật tốn
Do thời gian và trình độ cĩ hạn nên một số vấn đề cần được tiếp tục nghiên cứu bao gồm:
e Xây dựng phần mềm giải bài tốn bằng thuật tốn đã nêu
Trang 37TÀI LIỆU THAM KHẢO
[1Ì Nguyễn Văn Quảng, (2007), Giáo trỳnh xác suất, NXB Dai hoc Quéc gia
Hà Nội
[2| Trần Xuân Sinh, (2004), Các phương pháp ngẫu nhiên giải bài tốn quy hoạch, Đài giảng dùng cho Sau Đại học, chuyên ngành XSTK Tốn học, Dai hoe Vinh
{3Ì Nguyễn Duy Tiến - Vũ Viết Yên, (2003), Lý thuyết xác suất, NXB Giáo
dục, Hà Nội
[4| Dào Hữu Hị, (2000), Xác suất thống kê, NXB Dại học Quốc gia, Hà Nội [5] Anton J.Kleywegt, Alexander Shapiro va Tito Homem - de - Mello, (2000), The Sample Average Approximation Method for Stochastic Discrete Optimization, Department of Industrial, Welding and Systems Engineerin, The Ohio State University, Columbus