Đề cương ôn tập môn độ đo xác suất đại học khoa học tự nhiên HCM 2019

ĐỀ CƯƠNG ÔN TẬP 2019 Độ đo xác suất c om Xác suất cổ điển an co ng Định nghóa (a) Phép thử ngẫu nhiên τ phép thử mà kết lần thử biết chắn (b) Tập hợp tất kết có lần thử τ gọi không gian mẫu, thường ký hiệu Ω (c) Một tập E ⊂ Ω gồm kết ω quan tâm gọi biến cố Tập hợp biến cố ký hiệu M (hay F , G, ) Khi thực phép thử τ ta nhận kết ω Nếu ω ∈ E ta nói biến cố E xảy Nếu ω ∈ E ta nói biến cố E không xảy (d) Cho hai biến cố A, B ∈ M, ta có th Biến cố tổng A ∪ B: cho biến cố biến cố A, B xảy ra, ng Biến cố tích A ∩ B: cho biến cố hai biến cố A, B xảy ra, du o Biến cố đối A: cho biến cố A không xảy ra, Biến cố Ω: biến cố chắn, cu u Biến cố ∅: biến cố không xảy Định nghóa Xác suất biến cố A ∈ M số P(A) xác định khả xảy A Xác suất A thỏa tính chất sau: P(A) ≥ với biến cố A ∈ M, Với A1, A2 , ∈ M ta coù P ∞ An n=1 = ∞ P(An ), n=1 P(Ω) = 1 CuuDuongThanCong.com https://fb.com/tailieudientucntt Định lý (a) Cho A ∈ M ta coù ≤ P(A) ≤ 1, P(∅) = (b) Neáu A1, , An ∈ M, Ai ∩ Aj = ∅, ∀i = j ta coù n n Aj P = j=1 P(Aj ) j=1 c om Từ ta có P(A ∪ B) = P(A) + P(B) − P(A ∩ B) với A, B ∈ M (c) P(A) = − P(A) ng Định nghóa Cho hai biến cố A, B ∈ M Ta định nghóa xác suất xảy A biết B xảy P(A ∩ B) P(A|B) = P(B) an co Ta nói A, B hai biến cố độc lập khả xảy biến cố A B xảy với khả xảy biến cố A B không xảy Ta suy hai biến cố độc lập th P(A ∩ B) = P(A)P(B) n P(A) = P(Bi )P(A|Bi ) j=1 u du o ng Định lý (xác suất toàn phần) Cho họ biến cố B1 , , Bn Ta nói họ biến cố đầy đủ Bi ∩ Bj = ∅ i = j vaø Ω = B1 ∪ ∪ Bn Khi với biến cố A ta có cu Định lý (công thức Bayes) Với giả thiết định lý ta có P(Bk |A) = P(Bk ∩ A) = P(A) P(A|Bk )P(Bk ) P(Bi )P(A|Bi ) n j=1 Phép thử Bernoulli Là phép thử mà có hai khả năng: phép thử thành công phép thử không thành công Giả sử xác suất thành công phép thử Bernoulli p thực phép thử Bernoulli n lần độc lập, đặt X số lần thử thành công n lần thử Khi P(X = k) = Cnk pk (1 − p)n−k CuuDuongThanCong.com https://fb.com/tailieudientucntt BÀI TẬP Dạng Xác định không gian mẫu Ta cần xác định phép thử kết phép thử .c om Một thí nghiệm bao gồm việc thực 20 quan sát chất lượng chip máy tính Mỗi quan sát ghi nhận G hay D Tìm không gian mẫu S thí nghiệm Có biến cố sơ cấp S Đặt An , n = 0, , 20 biến cố có n quan sát loại G thực Hỏi An có phần tử co ng Một thí nghiệm bao gồm 10 phép đo w1 , , w1 trọng lượng gói Tấ gói có trọng lượng từ 10 đến 20 Kg Tì m không gian mẫu S Đặt A = {(w1, , w10) : w1 + w2 = 25}, B = {(w1, , w1 0) : w1 + w2 ≤ 25} Moâ tả biến cố hình vẽ th an Xét chuỗi tín hiệu chiều dài 30 gồm ký tự nhị phân 0.1 Mô tả không gian mẫu Cho A10 biến cố mà 10 tín hiệu truyền Tính số phần tử A10 Cho B10 biến cố truyền có 10 tín hiệu Tìm số phần tử B10 du o ng Dạng Tính xác suất biến cố Ta cần xác định 1/phép thử, 2/ định nghóa xác suất không gian mẫu, 3/ biến cố 4/ tính xác suất biến cố cu u Xét xúc xắc cân Tung xúc xắc lần Tính xác suất để tổng số nốt xuất hiên 10 Một khối tín hiệu 100 bit truyền đi, xác suất môt bit bị lỗi 10−3 Biết khả bit bị lỗi độc lập Tính xác suất để khối tín hiệu có lỗi Một que bẻ ngẫu nhiên thành khúc Tính xác suất để khúc tạo thành tam giác CuuDuongThanCong.com https://fb.com/tailieudientucntt Dạng Tính xác suất có điều kiện Ta cần dùng công thức P(AB) = P(A)P(B|A) Nếu A, B độc lập P(AB) = P(A)P(B) Ta sử dụng công thức xác suất toàn phần: Cho B1 , , Bn phân hoạch (bộ biến cố đầy đủ) Ω Khi n P(A) = P(Bj )P(A|Bj ) .c om j=1 co ng Một máy dùng để kiểm tra tình trạng lỗi hàng (G biến cố tốt, D biến cố lỗi) Gọi A biến cố hàng xem tốt sau kiểm tra Cho P(A|G) = 0, 95, P(A|D) = 0.1, P(G) = 0.99 Tìm xác suất D biết A th an Hai nhà sản xuất X,Y cung cấp gốm để sản xuất vi mạch Tỉ lệ gốm hỏng nhà sản xuất X 0.1 Tỉ lệ gốm hỏng nhà sản xuất Y 0.05 Một lô hàng gốm gửi đến, kiểm tra trực tiếp 20 thấy có bị hỏng Dự đoán xem lô hàng nhà sản xuaát X hay Y? cu u du o ng Một phép thử T vi khuẩn E-coli gọi dương tính sai mẫu thử E coli phép thử khẳng định có E coli, âm tính sai mẫu thử có E coli phép thử khẳng định E coli Giả sử thử 10 000 mẫu thịt nhiễm E.coli phép thử báo có 9500 mẫu nhiễm; 10 000 mẫu không nhiễm E.coli phép thử báo có 9900 mẫu không nhiễm (a) Độ nhạy (sentivity) phép thử T tỉ lệ dương tính đúng, độ đặc hiệu (specificity) phép thử T tỉ lệ âm tính sai Tìm độ nhạy độ đặc hiêu phép thử E.coli (b) Cho số mẫu thịt biết có tỉ lệ nhiễm E coli thực 4.5% Hỏi dùng phép thử T ta khẳng dịnh % thịt thực bị nhiễm Một câu lạc sách phân loại thành viên thành loại: đọc nhiều, đọc vừa đọc tách thông báo gửi cho ba nhóm khác Theo thống kê, có 20% thành viên loại đọc nhiều; 30% đọc vừa 50% CuuDuongThanCong.com https://fb.com/tailieudientucntt đọc Một thành viên phân loại vào nhóm sau 18 tháng gia nhập câu lạc bộ, nhiên số liệu mua sách tháng đầu dùng để phân loại Bảng sau cho biết tỉ lệ phần trăm sách mà thành viên phân loại mua tháng 0,1,2 từ tháng trở lên c om Thời gian Nhóm (%) 15 60 10 30 20 30 40 15 + 55 15 ng Nếu thành viên chưa mua sách tháng đầu khả thành viên nằm nhóm đọc bao nhiêu? ng th an co Một công ty cho vay tài có tỉ lệ khách hàng không hoàn thành trả nợï 1% Công ty kiểm tra tín dụng khách hàng Với khách hàng không hoàn thành trả nơ công t phát 30% có rủi ro tín dụng thấp, 40% rủi ro vừa, 30% rủi ro cao Với khách hàng hoàn thành trả nơ công t phát 10% có rủi ro tín dụng thấp, 40% rủi ro vừa, 50% rủi ro cao Tìm xác suất để khách hàng rủi ro thấp hoàn thành trả nợ du o Dạng Chứng minh số công thức Ta sử dụng tiên đề độ đo xác suất, công thức P(AB) = P(A|B)P(B) tính độc lập u Cho biến cố A, CM P(A c ) = − P(A) cu Cho biến cố A, B, CM P(A c ∩ B) = P(B) − P(A ∩ B) Cho biến cố A, B với P(A) = 3/4, P(B) = 1/3 CM 1/12 ≤ P(A∩B) ≤ 1/3 Cho A, B hai biến cố với P(B) > CMR P(A|B) = − P(A|B) CM P(A ∩ B ∩ C) = P(A|B ∩ C)P(B|C)P(C) CM P(A ∪ B) = P(A) + P(B) − P(AB) Từ suy công thức tương tự cho P(A ∪ B ∪ C) CuuDuongThanCong.com https://fb.com/tailieudientucntt CMR neáu A, B độc lập cặp biến cố Ac , B hay Ac , B c độc lập Giả sử A1 , , An họ biến cố đầy đủ S CM B = ∪nj=1 B ∩ Aj với biến cố B Từ suy P(B) = nj=1 P(BAj ) n j=1 (a) P n j=1 Bj |A = c om Cho A, C hai biến cố B1 , , Bn biến cố xung khắc đôi Chứng tỏ P (Bj |A) (b) Nếu họ B1 , , Bn đầy đủ, n co j=1 P(Bj |C)P(A|Bj C) ng P(A|C) = (c) Neáu P(A|Bj ) = p với j P A n j=1 Bj = p th an Độ đo u du o ng Định nghóa Cho M họ tập tập X Ta nói M σ-đại số M thỏa a) X ∈ M, b) Nếu A ∈ M Ac ∈ M c) Neáu An ∈ M n = 1, 2, ∪∞ n=1 An ∈ M Khi (X, M) gọi không gian đo phần tử M gọi tập đo cu Hệ Cho (X, M) không gian đo Ta có a) ∅ ∈ M, b) Nếu An ∈ M n = 1, 2, ∩∞ n=1 An ∈ M Bài tập Chứng minh hệ cách sử dụng luật De Morgan A\ Ai = i∈I i∈I (A \ Ai ), A \ Ai = i∈I i∈I (A \ Ai ) Mệnh đề a) Nếu Mi (i ∈ I) họ σ-đại số X ∩i∈I Mi σ-đại số Cho F ⊂ P(X) CuuDuongThanCong.com https://fb.com/tailieudientucntt b) Đặt σ(F ) = {A : A ∈ M, ∀F ⊂ M} Khi đó, σ(F ) σ-đại số nhỏ chứa F , nghóa cho σ-đại số M, F ⊂ M ⇒ σ(F ) ⊂ M Ta nói σ(F ) σ-đại số sinh F c om Bài tập a) Chứng minh ba tính chất σ-đại số b) CM tính nhỏ σ(F ) co ng Định nghóa.ï Cho I ⊂ N Cho F = {A i : i ∈ I} tập đo thỏa Ai = ∅, Ai ∩ Aj = ∅ neáu i = j, i, j ∈ I vaø ∪i∈I Ai = X Nếu I hữu hạn, ta nói F phân hoạch hữu hạn X Trong xác suất họ gọi biến cố đầy đủ Nếu I vô hạn, ta nói F phân hoạch đếm X Ta nói σ(F ) σ−đại số phân hoạch hữu hạn (hay phân hoạch đếm được) F an Mệnh đề Cho I ⊂ N Cho F = {A i : i ∈ I} Khi σ(F ) bao gồm ∅, X tập hợp có dạng i∈J Ai với J ⊂ I du o ng th Định nghóa Cho τ họ tập mở Rn Khi σ-đại số nhỏ Rn chứa τ gọi σ-đại số Borel ký hiệu B(Rn ) Các phần tử B(Rn ) gọi tập Borel Các tập Borel thông thường tập mở Rn , tập đóng Rn , giao đếm tập mở, hội đếm tập đóng cu u Định nghóa Cho (X, M) không gian đo Một ánh xạ µ : M → [0, ∞] gọi độ đo (dương) a) Tồn A ∈ M cho µ(A) < ∞, b) Nếu An ∈ M, n = 1, 2, vaø Ai ∩ Aj = ∅ (i = j) µ ∞ An = n=1 ∞ µ(An ) n=1 Khi (X, M, µ) gọi không gian đo Nếu µ(X) = µ gọi độ đo xác suất (X, M, µ) gọi không gian xác suất Mệnh đề Với hàm tăng F : R → R tồn độ đo ký hiệu µF , gọi CuuDuongThanCong.com https://fb.com/tailieudientucntt độ đo Stieljes, xác định σ-đại số Borel B(R) cho với a < b ta có µF ([a, b]) µF ((a, b)) µF ([a, b)) µF ((a, b]) = = = = F+ (b) − F− (a), F− (b) − F+ (a), F− (b) − F− (a), F+ (b) − F+ (a), c om F+ (x) = limt→x+ F (t) F− (x) = limt→x− F (t) Định nghóa Nếu chọn F (x) = x µF gọi độ đo Lebesgue R ký hiệu m hay m1 Với độ đo Lebesgue, ta có m({a}) = 0, m((a, b)) = m([a, b)) = m((a, b]) = m([a, b]) = b − a với a, b ∈ R, a < b co ng Định lý Cho (X, M, µ) không gian đo Ta có a) µ(∅) = 0, b) Nếu An ∈ M, n = 1, 2, , m vaø Ai ∩ Aj = ∅ (i = j) m m an µ An µ(An ) = n=1 th n=1 du o ng c) Nếu A, B ∈ M A ⊂ B µ(A) ≤ µ(B) d) Nếu An ∈ M An ⊂ An+1 , , n = 1, 2, ∞ lim µ(An ) = µ n→∞ An n=1 cu u e) Neáu An ∈ M, An+1 ⊂ An , µ(A1 ) < ∞, n = 1, 2, ∞ lim µ(An ) = µ n→∞ An n=1 f) Neáu An ∈ M, n = 1, 2, µ ∞ n=1 An ≤ ∞ µ(An ) n=1 Bài tập CM tính chất d) theo bước sau CuuDuongThanCong.com https://fb.com/tailieudientucntt i) Đặt B1 = A1 , Bn = An \ An−1 , n = 2, 3, CM B i ∩ Bj = ∅ i = j ii) CM A n = ∪ni=1 Bi iii) CM A = ∪ ∞ i=1 Bi iv) Tính µ(A n ) vaø µ(A) theo µ(Bi ) v) Suy đpcm .c om Mệnh đề Cho không gian đo (X, M, µ) a) Nếu A, B ∈ M, A ⊂ B µ(B) = µ(A) = ∞ b) Nếu An ∈ M µ(An ) = 0, n = 1, 2, , µ ( n=1 An ) = ng Định nghóa Cho (X, M, µ) Ta nói độ đo µ đầy đủ với A ∈ M, µ(A) = cho B ⊂ A B ∈ M Trong trường hợp này, σ-đại số M gọi đầy đủ an co Mệnh đề Cho (X, M, µ) Gọi M∗ họ tập E ⊂ X cho tồn tập A, B ∈ M cho A ⊂ E ⊂ B µ(B \ A) = Khi đặt µ∗ (E) = µ(A) Ta M∗ σ-đại số đầy đủ X µ∗ độ đo đầy đủ M∗ du o ng th Bài tập Chứng minh mệnh đề theo bước sau i) Giả sử A ⊂ E ⊂ B µ(B \ A) = 0, A1 ⊂ E ⊂ B1 µ(B1 \ A1 ) = với A, A1, B, B1 ∈ M CM µ(A) = µ(A ) Từ suy định nghóa µ∗ hoàn toàn xác định ii) CM M ∗ σ-đại số iii) CM µ ∗ độ đo iv) CM tính đầy đủ (X, M∗ , µ∗ ) cu u Định nghóa Trên (X, M, µ), xét hàm mệnh đề P (x), x ∈ X Ta nói P hầu hết E ∈ M tồn tập hợp A ∈ M, µ(A) = cho P (x) E \ A Ta viết P hầu hết khắp nơi (hkn hay a.e.) E Nếu µ độ đo xác suất, ta nói P hầu chắn (hcc hay a.s.) E BÀI TẬP Dạng Kiểm tra điều kiện σ-đại số, tìm σ(F ) Khi cho F ⊂ P(X), ta tìm phần tử σ(F ) cách thực phép toán tập hợp F để suy tập hợp σ(F ) Cho X = {a} Hỏi P(X) gì? Tương tự với X = {a, b}, X = {a, b, c} Liệt kê σ−đại số X CuuDuongThanCong.com https://fb.com/tailieudientucntt Cho X = {a, b, c} Đặt A = {a}, F = {A} Hỏi (i) F có σ−đại số không? (ii) Nếu M σ-đại số X M ⊃ F M chứa tập nào? (iii) Tìm tất σ-đại số chứa F , (iv)σ-đại số nhỏ σ(F ) gì? (v) Chỉ tập hợp đo được, tập hợp không đo theo σ(F ) .c om Bài tương tự với X = {a, b, c} vaø F = {{a, b}}, F = {{a, b}, {a}}, F = {{a, b}, {c}} Bài tương tự với X = {a, b, c, d} Đặt F = {{a, b}}, F = {{a}, {b}} Cho Mi, i ∈ I, họ σ-đại số X CMR σ-đại số X i∈I Mi co ng Cho X = ∅, M họ tập A X cho A hay X \ A đếm (a) CMR M σ-đại số X M = σ({x}, x ∈ X) an (b) CMR X đếm M = P(X) th (c) CMR X hội hai tập vô hạn không đếm rời M = P(X) du o ng Dạng Tìm σ-đại số sinh từ phân hoaïch Cho F ⊂ P(X), F = {Ai : i ∈ I} I ⊂ N, Ai ∩ Aj = ∅ với i = j u Nếu i∈I Ai = X ta tìm phần tử σ(F ) cách thực lấy tất tập hợp có dạng i∈J Ai với J ⊂ I để suy tập hợp σ(F ) cu Nếu i∈I Ai = X ta bổ sung Ac = X \ i∈I Ai Khi {Ac, Ai }, i ∈ I phân hoạch X σ(F ) gồm phần tử có dạng i∈J Ai, Ac ∪ i∈J Ai với J ⊂ I Trên (X, M), cho A ⊂ X, tìm σ(F ) với F = {A} Trên R, tìm σ(F ) với F = {[0, 1], (2, 4)} Tập hợp [0, 3] có σ(F )-đo không? Trên R, tìm σ(F ) với F = {[0, 3], (2, 5)} Tập hợp [0, 5) có σ(F )-đo không? 10 CuuDuongThanCong.com https://fb.com/tailieudientucntt Cho X có hàm xác suất tích lũy FX Tìm F X + với X + = max{X, 0} Các tham số đặc trưng co ng c om Định nghóa Cho (Ω, M, P) không gian xác suất X, Y biến ngẫu nhiên Ω Nếu X ∈ L1 (P) ta định nghóa a) Kỳ vọng (expectation, hay trung bình) X: µX = EX := Ω X(ω)dP(ω) b) Phương sai (variance) X: varX := E(X − µX )2 c) Môment thứ n X: E(X n ) d) Hàm sinh môment (moment generating function) X: MX (t) = E(etX ) e) Hiệp phương sai (covariance) X, Y : cov(X, Y ) = E(X − µX )(Y − µY ) th an Định lý (Quy tắc Lazy Statistician) Cho X : Ω → R k biến ngẫu nhiên có hàm mật độ fX g : Rk → R hàm Borel a) Nếu X biến ngẫu nhiên rời rạc, X(Ω) = {x1, x2, } g(xi )P(X = xi ) = ng E(g(X)) = i g(xi )fX (xi ) i du o b) Neáu X biến ngẫu nhiên liên tục g(X) ≥ hay g(X) ∈ L1 (P) E(g(X)) = g(x)fX (x)dx cu u Rk Bài tập Dùng kỹ thuật 4D chứng minh định lý cho trường hợp biến ngẫu nhiên liên tục theo bước sau: (i) Xét trường hợp g(x) = IB (x) với B ∈ B(Rk ) CM g(X(ω)) = I X∈B (ω) Từ suy đẳng thức (ii) Cm cho trường hợp g hàm đơn (iii) Cm cho trường hợp g ≥ (iv) Cm cho trường hợp tổng quát cách dùng phân tích g = g + − g − Mệnh đề (về EX) Cho X, Y hai biến ngẫu nhiên xác định không gian xác suất Ta có 47 CuuDuongThanCong.com https://fb.com/tailieudientucntt .c om a) X, Y có phân phối g(X) ∈ L1 (P) g(Y ) ∈ L1 (P) vaø E(g(X)) = E(g(Y )) b) E(c) = c với c ∈ R c) X, Y ∈ L1 (P) αX +βY ∈ L1 (P) E(αX +βY ) = αEX +βEY d) Nếu X ≤ Y hầu chắn EX ≤ EY e) X ≥ hầu chắn EX = X = hầu chắn f) X ∈ L1 (P) |X| ∈ L1 (P) |E(X)| ≤ E(|X|) Bài tập Chứng minh định lý (i) Cm E(g(X)) = Eg(Y ) kỹ thuật 4D (ii) Cm b) , c), d), f) tính chất tích phân (iii) Cm e) cách xét tập hợp En = {X ≥ n1 } = {ω ∈ Ω : X(ω) ≥ n1 } CMR P(E n ) = vaø {X > 0} = ∪∞ n=1 En Từ suy P(X > 0) = th an co ng Mệnh đề (về varX cov(X,Y)) Cho X, Y ∈ L2 (P ), α ∈ R Ta coù X ∈ L1 (P ) vaø a) var(X + α) = var(X), var(αX) = α2 var(X), var(α) = b) var(X) = E(X ) − (E(X))2 c) cov(X, Y ) = E(XY ) − E(X)E(Y ), d) var(αX + βY ) = α2 varX + β 2var(Y ) + 2αβcov(X, Y ) du o ng Mệnh đề (về hàm sinh moment) Cho biến ngẫu nhiên X, Y : Ω → R có etX , etY ∈ L1 (P), khoảng mở (của biến t) chứa (n) a) MX (0) = E(X n ) b) neáu MX (t) = MY (t) khoảng mở chứa X, Y có hàm mật độ xác suất cu u Phương pháp tính EX, varX, hàm moment Cách Dùng quy tắc Lazy Statistician: EX = i xP(X = xi ) hay EX = R xfX (x)dx, EX = i x2i P(X = xi ) hay EX = R x2 fX (x)dx công thức varX = EX − (EX)2 MX (t) = i etxi P(X = xi ) hay MX (t) = R etxfX (x)dx 48 CuuDuongThanCong.com https://fb.com/tailieudientucntt Cách Dùng công thức EX = MX (0), EX = M”X (0) BÀI TẬP Dạng Tìm hàm sinh mô men biến ngẫu nhiên Cho X(Ω) = {x1 , , xn }, g : R → R, Y biến ngẫu nhiên liên tục có hàm mật độ fY n exit P(X = xi), c om MX (t) = E(etX ) = j=1 MY (t) = E(etY ) = ety fY (y)dy ng R co Tìm hàm sinh moment biến ngẫu nhiên sau an (a) Bernoulli(p): X : Ω → {0, 1} với f X (1) = P (X = 1) = p, fX (0) = P (X = 0) = − p th (b) nhị thức Binomial(n,p): f X (k) = P (X = k) = Cnk pk (1 − p)n−k với k = 0, 1, , n k ng (c) Poisson(λ): f X (k) = P (X = k) = e−λ λk! du o (d) Chuẩn N(µ, σ ) (e) Gamma(α, β) (α, β > 0): fX (x) = β α α−1 −βx x e Γ(α) (x > 0) u Cho biết MX (t), tìm phân phối X cu (a) MX (t) = et , (b) MX (t) = e−2t+t /2 , (c) MX (t) = et /3 + 2/3, (d) MX (t) = (3et /4 + 1/4)40 49 CuuDuongThanCong.com https://fb.com/tailieudientucntt Dạng Tìm kỳ vọng, phương sai biến ngẫu nhiên rời rạc Cho X(Ω) = {x1, , xn }, g : R → R, dùng công thức E(X n ) = dn MX hay dùng công thức Lazy-Statistics dtn t=0 n E(X) = xi P(X = xi ), j=1 n x2i P(X = xi ), c om E(X ) = j=1 ng V ar(X) = E(X ) − (E(X))2 (a) MX (t) = et /3 + 2/3, an (b) MX (t) = (3et /4 + 1/4)40 co Cho bieát MX (t), tìm kỳ vọng, phương sai biến ngẫu nhiên X th Tìm kỳ vọng, phương sai biến ngẫu nhiên rời rạc có phân phối ng (a) Bernoulli(p): X : Ω → {0, 1} với f X (1) = P (X = 1) = p, fX (0) = P (X = 0) = − p du o (b) nhị thức Binomial(n,p): f X (k) = P (X = k) = Cnk pk (1 − p)n−k với k = 0, 1, , n u (c) hình học Geom(p): fX (k) = P (X = k) = p(1 − p)k−1 , k = 1, 2, (0 < p < 1) k cu (d) Poisson(λ): f X (k) = P (X = k) = e−λ λk! 50 CuuDuongThanCong.com https://fb.com/tailieudientucntt Dạng Tìm kỳ vọng, phương sai biến ngẫu nhiên liên tục n Cho X, có hàm mật độ fX , dùng công thức E(X n ) = d dtMnX dùng định nghóa E(X) = t=0 hay xfX (x)dx, R E(X ) = x2fX (x)dx, , R ng c om V ar(X) = E(X ) − (E(X))2 Cho bieát MX (t), tìm kỳ vọng, phương sai biến ngẫu nhiên X neáu 2 /2 , an (b) MX (t) = e−2t+t co (a) MX (t) = et , th Tìm kỳ vọng, phương sai biến ngẫu nhiên liên tục có phân phối (fX (x) = giá trị x không ra) ng (a) Uniform(a,b): fX (x) = du o (b) chuẩn N(µ, σ 2): fX (x) = b−a với x ∈ [a, b] √ e− 2πσ2 (x−µ)2 2σ (c) mũ Exp(β) (β > 0): fX (x) = β1 e−x/β (x > 0) u (d) Gamma(α, β) (α, β > 0): f X (x) = cu (e) χ2(p) (p > 0): fX (x) = β α α−1 −βx x e Γ(α) x−1+p/2e−x/2 2p/2 Γ(p/2) (f) Beta(α, β) (α, β > 0): f X (x) = (x > 0) (x > 0) Γ(α+β) α−1 x (1− x)β−1 Γ(α)Γ(β) (0 < x < 1) Tính độc lập Định nghóa Cho (Ω, M, P) Cho Xi : Ω → Rni , i = 1, , p, biến ngẫu nhiên Ta nói Xi , i = 1, , p, độc lập biến cố (Xi ∈ Bi ), i = 1, , p, biến cố độc lập với Bi ∈ B(Rni ) 51 CuuDuongThanCong.com https://fb.com/tailieudientucntt Định lý Cho Xi : Ω → Rni , i = 1, , p, biến ngẫu nhiên gi : Rni → Rni hàm đo Borel Khi gi ◦ Xi biến ngẫu nhiên độc lập Mệnh đề Cho biến ngẫu nhiên (Xi )i=1, ,n độc lập gi : R → R hàm Borel g1 ◦ X1 , , gn ◦ Xn độc lập Hơn nữa, gi (Xi ) ∈ L1 (P) với i = 1, , n c om E(g1 (X1 ) gn(Xn )) = E(g1 (X1 )) E(gn (Xn )) var n Xi = varXi i=1 an i=1 co n ng Mệnh đề Cho biến ngẫu nhiên X, Y, Xi : Ω → R, i = 1, , n độc lập a) (về hàm sinh moment) Giả sử etXi ∈ L1 (P), i = 1, , n moät khoảng mở (của biến t) chứa Khi MX1 + +Xn (t) = MX1 (t) MXn (t), b) cov(X, Y ) = 0, b) (Công thức Biennayme) Nếu giả thiết thêm Xi ∈ L2 (P ) th BÀI TẬP du o ng Dạng Tìm phân phối T (X1, , Xn ) với X1 , , Xn độc lập hàm xác suất tích lũy Bước 1: Biến đổi FT (z) = P(T ≤ z) thaønh FT (z) = Ψ(FX1 (z), , FXn (z)), Bước 2: Tìm FT (z) u Tìm hàm mật độ cu (a) Z = max{X1 , , Xn } bieát X1 , , Xn độc lập có phân phối fX HD: max{x1, , xn} ≤ z nghóa x1 ≤ z, , xn ≤ z (b) Z = min{X1 , , Xn} biết X1 , , Xn độc lập có phân phối fX Dạng Tìm phân phối X + Y với X, Y độc lập hàm sinh moment Bước 1: Ta tìm MX (t), MY (t), Bước 2: Tìm MX+Y b cách sử dụng MX+Y (t) = MX (t)MY (t) với X, Y độc lập, Bước 3: Từ MX+Y xác định phân phối có hàm sinh moment 52 CuuDuongThanCong.com https://fb.com/tailieudientucntt Cho X, Y độc lập CMR (a) X ∼ Binomial(n, p), Y ∼ Binomial(m, p) X + Y ∼ Binomial(n + m, p) (b) neáu X ∼ P oisson(λ), Y ∼ P oisson(µ) X + Y ∼ P oisson(λ + µ) (c) X ∼ Γ(a, β), Y ∼ Γ(b, β) X + Y ∼ Γ(a + b, β) c om (d) neáu X ∼ N(µX , σX ), Y ∼ N(µY , σY2 ) X + Y ∼ N(µX + 2 µY , σX + σY ) ng Véc-tơ ngẫu nhiên an co Định nghóa Biến ngẫu nhiên X : Ω → Rk gọi biến ngẫu nhiên liên tục PX mk , nghóa với tập Borel đo B Rk thỏa mk (B) = PX (B) = ng th Mệnh đề Nếu biến ngẫu nhiên X : Ω → Rk biến ngẫu nhiên liên tục tồn hàm khả tích Lebesgue fX : Rk → R (gọi hàm mật độ X) cho fX (x) ≥ với tập Borel B ∈ Rk ta có P(X ∈ B) = fX (x)dmk (x) du o B u Định nghóa Cho biến ngẫu nhiên V = (X1 , , Xk ) Haøm FV (x1, , xk) = P (X1 ≤ x1, , Xk ≤ xk ) gọi hàm xác suất tích lũy V cu Mệnh đề Ta coù a) ≤ FV (x1 , , xk) ≤ với (x1, , xk ) ∈ Rk , lim xi →−∞,∀i FV (x1, , xk) = 0, lim xi →+∞,∀i FV (x1, , xk) = b) Neáu Xi biến ngẫu nhiên rời rạc, đặt fV (x1 , , xk) = P (X1 = x1, , Xk = xk ), (x1, , xk) ∈ J (x1 , ,xk )∈J fV (x1, , xk) = vaø FV (x1, , xk) = fV (s1, , sk ) s1 ≤x1 , ,sk ≤xk 53 CuuDuongThanCong.com https://fb.com/tailieudientucntt c) Nếu Xi biến ngẫu nhiên liên tục hàm mật độ fV (x1 , , xk) ≥ 0, f dmk = 1, Rk V x1 FV (x1, , xk ) = xk −∞ fV (s1 , , sk )ds1 dsk −∞ k c om fV vaø fV = ∂x∂1 ∂x k Mệnh đề Họ biến ngẫu nhiên (Xi )i=1, ,n độc lập với họ số nguyên ≤ i1 < < ik ≤ n ta coù FXi1 Xik (xi1 , , xik ) = FXi1 (xi1 ) FXik (xik ) ng Trong FXi1 Xik hàm xác suất tích lũy đồng thời họ Xi1 , , Xik FXi hàm xác suất tích lũy Xi an co Mệnh đề Chọ (Xi )i=1, ,n biến ngẫu nhiên rời rạc độc lập với họ số nguyên ≤ i1 < < ik ≤ n ta coù th fXi1 Xik (xi1 , , xik ) = fXi1 (xi1 ) fXik (xik ) với fXi1 Xik (xi1 , , xik ) = P (Xi1 = xi1 , , Xik = xik ) du o ng Mệnh đề Cho X, Y : Ω → R hai biến ngẫu nhiên độc lập liên tục, ñoù ∞ a) fX+Y (z) = fX ∗ fY (z) := −∞ fX (z − y)fY (y)dy ∞ b) fX/Y (z) = yfX (zy)fY (y)dy cu u Mệnh đề Ta có a) X ∼ N(0, 1) X ∼ χ2 (1) b) neáu X ∼ N(0, 1) Y ∼ χ2(m) độc lập Z = Y /X√m có phân phối Student với tham số n c) X ∼ χ2(n), Y ∼ χ2(m) độc lập X + Y ∼ χ2(m + n) d) neáu X ∼ χ2(n), Y ∼ χ2(m) độc lập Z = YX/n có phân phối Fisher/m Snedecor với tham số n, m) Mệnh đề Cho X ∼ N(µX , σX ), Y ∼ N(µY , σY2 ) độc lập Cho X1 , , Xn độc lập có phân phối N(µ, σ) Khi a) cX + d ∼ N(cµX + d, c2 σX ) b) (X − µX )/σX ∼ N(0, 1) 54 CuuDuongThanCong.com https://fb.com/tailieudientucntt c) X + Y ∼ N(µX + µY , σX + σY2 ) n 2 d) σ2 i=1 (Xi − µ) ∼ χ (n) Định nghóa Các biến ngẫu nhiên X1 , , Xn gọi mẫu ngẫu nhiên cỡ n tổng thể f(x) X1 , , Xn độc lập có hàm mật độ f(x) Định nghóa Trung bình mẫu mẫu ngẫu nhiên X1 , , Xn xác định n Xi i=1 c om X= n Phương sai mẫu mẫu ngẫu nhiên X1 , , Xn xác định = n−1 n i=1 (Xi − X)2 ng SX an co Mệnh đề Cho X1 , , Xn gọi mẫu ngẫu nhiên có phân phối N(µX , σX ) Khi th X S độc lập, 2 X ∼ N(µ, σn ), du o ng (n − 1)S /σ ∼ χ2(n − 1), √ (X − µX )/(SX / n) ∼ St(n − 1), cu u Cho theâm Y1 , , Ym gọi mẫu ngẫu nhiên có phân phối N(µY , σY2 ) Khi 2 SX /σX ∼ F (n − 1, m − 1) SY2 /σY2 Phương pháp tìm hàm mật độ Z = r(X, Y ) Bước Tìm tập hợp Bz = {(x, y) : r(x, y) ≤ z} Bước Tính FZ = P (Z ≤ z) = Bz fX,Y (x, y)dxdy Bước Tính fZ = FZ BÀI TẬP Tìm hàm mật độ 55 CuuDuongThanCong.com https://fb.com/tailieudientucntt (a) Z = X ± Y với X, Y độc lập có phân phối khoảng (0, 1) Nhắc lại, Biến ngẫu nhiên X có phân phối đoạn (a, b)(ký hiệu X ∼ Uniform(a, b)) fX (x) = b−a neáu x ∈ (a, b), fX (x) = neáu x ∈ (a, b) (b) Z = X/Y với X, Y độc lập có phân phối khoảng (0, 1) .c om 10 Các định lý giới hạn co ng Định nghóa Cho X, Xn : Ω → R dãy biến số ngẫu nhiên (Ω, M, P) Ta nói p a) Xn hội tụ theo xác suất tới X, ký hiệu Xn → X với > ta có lim P(|Xn − X| > ) = n→∞ th an b) Xn hội tụ theo phân bố, ký hiệu Xn X neáu limn→∞ FXn (t) = FX (t) h.c.c c) Xn hội tụ hầu chắn, ký hiệu Xn → X neáu limn→∞ P(Xn → X) = du o ng Mệnh đề Các khẳng định sau p a) Xn → X Xn X p h.c.c b) Xn → X Xn → X cu u Mệnh đề a) (Bất đẳng thức Markov) Nếu X biến ngẫu nhiên không âm với a, p > ta coù E(X p ) P(X > a) ≤ ap b) (Bất đẳng thức Chebyshev) Cho X biến ngẫu nhiên có trung bình µ phương sai σ Với k > ta có P(|X − µ| > k) ≤ σ2 k2 Định lý (dạng yếu luật số lớn) Cho X , X2 , dãy biến ngẫu nhiên độc lập có trung bình E(Xi ) = µ phương sai var(Xi ) = σ 56 CuuDuongThanCong.com https://fb.com/tailieudientucntt Khi n n p Xi → µ i=1 Định lý (dạng mạnh luật số lớn) Cho X , X2 , dãy biến ngẫu nhiên độc lập có phân phối với trung bình E(Xi ) = µ Khi n h.c.c i=1 Xi → µ .c om n co ng Mệnh đề Cho Z1 , Z2 , dãy biến ngẫu nhiên với hàm phân phối tích lũy FZn hàm sinh moment MZn Cho biến số ngẫu nhiên Z có hàm phân phối tích lũy FZ hàm sinh MZ Nếu MZn (t) → MZ (t) với t FZn (z) → FZ (z) z ∈ R mà FZ liên tục th an Định lý giới hạn trung tâm Cho X1 , X2 , dãy biến ngẫu nhiên độc lập có phân phối với trung bình E(Xi ) = µ phương sai var(Xi ) = σ Đặt Sn = ni=1 Ta có hàm phân phối xác suất Sn − E(Sn ) ng var(Sn ) = (X1 + + Xn ) − nµ √ σ n P du o xấp xỉ phân phối Gauss n → ∞, nghóa là, với a ∈ R, (X1 + + Xn ) − nµ √ ≤a σ n → Φ(a) = √ 2π a e−t /2 dt −∞ cu u Định lý Moivre-Laplace Xét dãy phép thử Bernoulli với xác suất thành công p Gọi X số lần thành công n phép thử Khi đó, với a ∈ R, ta có X − np lim P < a → Φ(a) n→∞ np(1 − p) Định lý giới hạn Poisson Xét dãy phép thử Bernoulli với xác suất thành công p Gọi X số lần thành công n phép thử Khi p → np → λ (0 < λ < ∞) với k = 0, 1, 2, ta coù lim P(X = k) = n→∞ e−λ λk k! 57 CuuDuongThanCong.com https://fb.com/tailieudientucntt n Yj = µ h.c.c j=1 ng lim n→∞ n c om Phương pháp áp dụng luật số lớn Bước 1: Kiểm tra tính độc lập phân phối biến ngẫu nhiên Y1 , Y2 , Ta sử dụng tính chất: -Nếu X ∼ Y g(X) ∼ g(Y ) E(g(X)) = E(g(Y )) -Nếu X độc lập với Y g(X) độc lập với h(Y ) Bước 2: Tính µ = E(Y1 ) Bước 3: Áp dụng tính chất th an co Phương pháp áp dụng định lý giới hạn trung tâm Cho dãy biến ngẫu nhiên độc lập X1 , , Xn có trung bình phương n sai Tìm xác suất P(a < S n < b) với Sn = i=1 Xi Bước 1: Tìm µ = EXi σ = varXi Bước 2: Chuẩn hóa a − nµ Sn − nµ b − nµ √ < √ < √ nσ nσ nσ a − nµ b − nµ −Φ √ Φ √ nσ nσ du o ng P(a < Sn < b) = P cu u Lưu ý Nếu ta gặp tích Y1 Yn, Yi > ta dùng công thức n P(a < Y1 Yn < b) = P(ln a < ln Yj < ln b) j=1 áp dụng định lý giới hạn trung tâm Phương pháp tìm xác suất biến ngẫu nhiên Bernoulli Xét thí nghiệm có xác suất thành công p, xác suất thất bại − p Lặp lại thí nghiệm n lần độc lập Ký hiệu Xi biến ngẫu nhiên xác định bởi: Xi = thí nghiệm thành công, Xi = thí nghiệm thất bại Đặt Sn = X1 + + Xn Sn số lần thí nghiệm thành công n lần 58 CuuDuongThanCong.com https://fb.com/tailieudientucntt thí nghiệm Ta có Sn ∼ Bernoulli(n, p), E(Sn ) = np, var(Sn ) = np(1 − p) Theo định lý giới hạn trung tâm np(1 − p) < b − np Φ Sn − np Φ b − np np(1 − p) np(1 − p) −Φ np(1 − p) P(Sn < b) = P Sn − np < < b − np np(1 − p) a − np np(1 − p) c om a − np P(a < Sn < b) = P b − np np(1 − p) th an co ng np(1 − p) 1 P(Sn = k) = P(k − < Sn < k + ) 2 k − 12 − np k + − np −Φ Φ np(1 − p) np(1 − p) du o BÀI TẬP ng Nếu Sn ∼ Bernoulli(n, p) với λ = np nhỏ ta dùng xấp xỉ −λ k Poisson(λ) Khi ñoù P(S n = k) e k!λ u Cho Yi , i = 1, 2, laø i.i.d vaø coù Yi ∼ Binomial(1, p) CM X n = n Xn i=1 Yi ∼ Binomial(n, p) vaø limn→∞ n = p hầu chắn cu Cho Xj , j = 1, 2, i.i.d với E(|X j |) < ∞ Đặt Yj = eXj CM (Y1 Yn)1/n hội tụ tới số hầu chắn Cho biến ngẫu nhiên Xj , j = 1, 2, i.i.d Giả sử E(|X j |k ) < ∞ CM n lim Xjk = E(X1k ) h.c.c n→∞ n j=1 Cho Xj , j = 1, 2, laø i.i.d vaø X j ∼ N(1, 3) CM X1 + + Xn = 2 n→∞ X + + X n lim h.c.c 59 CuuDuongThanCong.com https://fb.com/tailieudientucntt (Phương pháp Monte-Carlo) Cho hàm số g : (a, b) → R g khả tích Riemann (a, b) Cho dãy Xj biến ngẫu nhiên i.i.d có Xj ∼ Uniform(a, b) CM lim n→∞ n n g(Xj (ω)) = j=1 b−a b g(x)dx h.c.c a c om Cho biến ngẫu nhiên X chưa biết phân phối cho quan trắc X1 , , Xn biến ngẫu nhiên độc lập, có phân phối với X Từ X1 , , Xn tìm xấp xỉ (còn gọi ước lượng) tham số với giả sử co ng (a) X ∼ N(µ, σ ) với µ, σ chưa biết Tìm xấp xỉ µ ˆ, σ ˆ (của µ, σ) ˆ (b) X ∼ P oisson(λ) với λ chưa biết Tìm λ an (c) X ∼ Uniform(a, b) với a, b chưa biết Tìm a ˆ, ˆb ˆ pˆ (d) X ∼ Binomial(k, p) với k, p chưa biết Tìm k, th ˆ (e) X ∼ Gamma(a, λ) với a, λ chưa biết Tìm aˆ, λ ˆ (f) X ∼ Exp(β) với β chưa biết Tìm β du o ng Trong tập trên, dùng phần mềm R để phát sinh liệu X1 , , Xn có phân phối cho ước lượng tham số theo bước mô tả sau: (a) Chọn phân phối chọn tham số (ví dụ µ = 0, σ = 1), cu u (b) Phát sinh liệu X1 , , Xn có phân phối chọn (ví dụ N(0, 1)), (c) Tính ước lượng tham số từ X1 , , Xn (ví dụ tính µ ˆ, σˆ ), (d) So sánh kết từ công thức ước lượng với tham số chọn lúc ban đầu (ví dụ: so sánh µ ˆ, σˆ với 0, 1) Cho biến ngẫu nhiên liên tục X có quan trắc X1 , , Xn độc lập phân phối với X Cho a ∈ R, h > (a) Từ quan trắc tìm ước lượng cho P(a < X ≤ a + h) HD: P(a < X ≤ b) = E(Ia n Độ đo gọi độ đo siêu bội n+1 Độ đo gọi độ đo rời rạc ng (c) µ thỏa µ(Ai ) = co Cho tập X phân hoạch đếm F = {Ai : i = 0, 1, } X Chứng tỏ độ đo sau độ đo xác suất i th an (a)... không gian đo Nếu µ(X) = µ gọi độ đo xác suất (X, M, µ) gọi không gian xác suất Mệnh đề Với hàm tăng F : R → R tồn độ đo ký hiệu µF , gọi CuuDuongThanCong.com https://fb.com/tailieudientucntt độ