Bài giảng Thống kê máy tính và ứng dụng: Bài 3 - Vũ Quốc Hoàng

Bài giảng Thống kê máy tính và ứng dụng - Bài 3: Biến ngẫu nhiên và phân phối cung cấp cho người học các kiến thức: Biến ngẫu nhiên, phân phối của biến ngẫu nhiên, biến ngẫu nhiên rời rạc và hàm xác suất, biến ngẫu nhiên liên tục và hàm mật độ xác suất,... Mời các bạn cùng tham khảo nội dung chi tiết.

THỐNG KÊ MÁY TÍNH & ỨNG DỤNG Bài BIẾN NGẪU NHIÊN VÀ PHÂN PHỐI Vũ Quốc Hoàng (vqhoang@fit.hcmus.edu.vn) FIT-HCMUS, 2018 CuuDuongThanCong.com https://fb.com/tailieudientucntt Nội dung • Biến ngẫu nhiên • Phân phối biến ngẫu nhiên • Biến ngẫu nhiên rời rạc hàm xác suất • Biến ngẫu nhiên liên tục hàm mật độ xác suất • Hàm phân phối tích lũy • Hàm phân vị CuuDuongThanCong.com https://fb.com/tailieudientucntt Biến ngẫu nhiên • Nếu giá trị đại lượng/tính chất 𝑋 xác định hồn tồn biết kết 𝜔 thí nghiệm 𝑇 𝑋 gọi đại lượng/biến ngẫu nhiên (liên quan đến 𝑇) • Trước biết kết quả, ta biết 𝑋 nhận giá trị tập giá trị 𝐴 • Sau biết kết 𝜔, ta biết 𝑋 nhận giá trị cụ thể 𝑥 ∈ 𝐴, ta kí hiệu 𝑋 𝑤 =𝑥 • Biến ngẫu nhiên (random variable) hàm khơng gian mẫu Ω • • • • 𝑋: Ω → 𝐴, gắn kết 𝜔 ∈ Ω giá trị 𝑋(𝜔) ∈ 𝐴 𝐴 gọi tập/miền giá trị 𝑋 Nếu 𝐴 tập tập số thực ℝ, ta nói 𝑋 biến số hay biến định lượng Nếu 𝐴 hữu hạn không tập ℝ, ta nói 𝑋 biến định tính CuuDuongThanCong.com https://fb.com/tailieudientucntt Biến ngẫu nhiên Ví dụ • Xét thí nghiệm: chọn ngẫu nhiên sinh viên lớp • Ω = {An, Bình, Chương, … } • Đo chiều cao 𝐻 sinh viên chọn: • 𝐻 biến định lượng với tập giá trị ℝ (hoặc 1.0, 2.0 mét) • 𝐻 An = 1.5 mét, 𝐻 Bình = 1.7 mét, … • Xác định giới tính 𝐺 sinh viên chọn: • 𝐺 biến định tính với tập giá trị {Nam, Nữ} (hoặc {0, 1}) • 𝐺 An = Nữ, 𝐺 Bình = Nam, … • Xét điểm 𝑆 sinh viên chọn: 𝑆 biến định lượng với tập giá trị {0, 0.5, 1, 1.5, … , 9.5, 10} (hoặc ℝ) • Xét học lực 𝐿 sinh viên chọn: 𝐿 biến định tính với tập giá trị {Yếu, Kém, Trung bình, Khá, Giỏi, Xuất sắc} CuuDuongThanCong.com https://fb.com/tailieudientucntt Biến ngẫu nhiên • B.n.n (biến ngẫu nhiên) phương tiện hay dùng để mô tả biến cố • Xét biến (số) ngẫu nhiên 𝑋 liên quan đến thí nghiệm 𝑇 có khơng gian mẫu Ω • Cho 𝐶 ⊂ ℝ, ta kí hiệu biến cố “𝑋 nhận giá trị 𝐶” là: 𝑋 ∈ 𝐶 = {𝜔 ∈ Ω: 𝑋(𝜔) ∈ 𝐶} • Chẳng hạn, cho 𝑥 ∈ ℝ ta kí hiệu: 𝑋 = 𝑥 = {𝜔 ∈ Ω: 𝑋 𝜔 = 𝑥} 𝑋 ≤ 𝑥 = 𝜔 ∈ Ω: 𝑋 𝜔 ≤ 𝑥 𝑋 > 𝑥 = 𝜔 ∈ Ω: 𝑋 𝜔 > 𝑥 • Hay với hai biến 𝑋, 𝑌 ta kí hiệu: 𝑋 = 𝑌 = 𝜔 ∈ Ω: 𝑋 𝜔 = 𝑌 𝑥 𝑋 ≤ 𝑌 = {𝜔 ∈ Ω: 𝑋 𝜔 ≤ 𝑌(𝜔)} • Các biến cố gọi biến cố liên quan đến b.n.n 𝑋, 𝑌 CuuDuongThanCong.com https://fb.com/tailieudientucntt Biến ngẫu nhiên Ví dụ • Xét thí nghiệm: gieo xúc xắc (đồng chất) lần, Ω = ൛ 𝑖, 𝑗 : 𝑖, 𝑗 ∈ 1, 2, 3, 4, 5, ൟ, mô hình xác suất đơn giản • Gọi 𝑋, 𝑌 b.n.n “số chấm lần 1”, “số chấm lần 2” 𝑋 𝜔 = 𝑖, 𝑗 = 𝑖 𝑌 𝑖, 𝑗 = 𝑗 • Biến cố “số chấm lần 6” là: 𝑋 = = 6, 𝑗 : 𝑗 ∈ 1, 2, 3, 4, 5, = { 6, , 6, , … , (6, 6)} • Biến cố “số chấm hai lần nhau” là: 𝑋 = 𝑌 = 𝑖, 𝑗 : 𝑖 = 𝑗 = 1, , 2, , … , 6, • Xác suất để “số chấm hai lần nhau” là: 𝑃 𝑋 = 𝑌 = (𝑋 = 𝑌) / Ω = 6/36 = 1/6 • Xác suất để “số chấm lần lớn số chấm lần 2” biết “số chấm lần lớn 4” là: 𝑃 𝑋 > 𝑌 | 𝑌 > = |(𝑋 > 𝑌 > 4)|/|(𝑌 > 4)| = 1/12 CuuDuongThanCong.com https://fb.com/tailieudientucntt Phân phối b.n.n • Xét b.n.n 𝑋 liên quan đến thí nghiệm 𝑇 có khơng gian mẫu Ω • Cho 𝐶 ⊂ ℝ, ta có 𝑃 𝑋 ∈ 𝐶 xác suất để “𝑋 nhận giá trị 𝐶” • Tập xác suất {𝑃 𝑋 ∈ 𝐶 : 𝐶 ⊂ ℝ} xác định độ đo xác suất (không gian mẫu mới) ℝ gọi phân phối (distribution) 𝑋 • Phân phối 𝑋 cho thấy khả 𝑋 nhận giá trị khác • Với phân phối 𝑋, ta khảo sát 𝑋 mà không cần để ý đến 𝑇 hay Ω • Nói chung, tập {𝑃 𝑋 ∈ 𝐶 : 𝐶 ⊂ ℝ} “rất khó tính tốn” Ta cần cách giúp xác định phân phối 𝑋 để “dễ tính tốn hơn”: • Hàm xác suất (cho b.n.n rời rạc) • Hàm mật độ xác suất (cho b.n.n liên tục) • Hàm phân phối tích lũy (chung cho b.n.n) CuuDuongThanCong.com https://fb.com/tailieudientucntt Phân phối b.n.n Ví dụ • B.n.n 𝑋 có tập giá trị {𝑥0 } • 𝑇 𝜔 = 𝑥0 , ∀𝜔 ∈ Ω • 𝑋 có biến cố liên quan 𝑋 ≠ 𝑥0 = ∅ 𝑋 = 𝑥0 = Ω • Khơng nên gọi 𝑋 b.n.n ta biết giá trị 𝑋 chắn 𝑥0 trước tiến hành thí nghiệm • Phân phối 𝑋 đơn giản: 𝐶 chứa 𝑥0 𝑃 𝑋∈𝐶 =ቊ 𝐶 khơng chứa 𝑥0 • Ví dụ: xét b.n.n 𝑋 “điểm tổng kết” thí nghiệm “bỏ thi mơn TKMT&UD”, 𝑋 có giá trị (điểm) CuuDuongThanCong.com https://fb.com/tailieudientucntt Phân phối b.n.n Ví dụ • Cho biến cố 𝐴 liên quan đến thí nghiệm 𝑇 có khơng gian mẫu Ω, ta gọi hàm đặc trưng (characteristic function) 𝐴 hàm 𝐼𝐴 : Ω → ℝ xác định bởi: 𝜔 ∈ 𝐴 𝐼𝐴 𝜔 = ቊ 𝜔 ∉ 𝐴 • 𝐼𝐴 b.n.n có biến cố liên quan ∅, 𝐼𝐴 = = 𝐴, 𝐼𝐴 = = 𝐴𝑐 Ω • Phân phối 𝐼𝐴 đơn giản: 𝐶 không chứa lẫn 𝑃 𝐴 𝐶 chứa không chứa 𝑃 𝑋∈𝐶 = − 𝑃 𝐴 𝐶 chứa không chứa 1 𝐶 chứa lẫn • Ví dụ: xét b.n.n 𝑋 “số lần mặt chẵn” thí nghiệm gieo xúc xắc, 𝑋 hàm đặc trưng biến cố “được mặt chẵn” • Hàm đặc trưng giúp khảo sát biến cố b.n.n CuuDuongThanCong.com https://fb.com/tailieudientucntt B.n.n rời rạc hàm xác suất • 𝑋 gọi b.n.n rời rạc (discrete random variable) tập giá trị rời rạc (hữu hạn hay vơ hạn đếm được) • Với 𝑋 b.n.n rời rạc, hàm xác suất (probability function) 𝑋 hàm 𝑓: ℝ → ℝ, xác định bởi: 𝑓 𝑥 = 𝑃 𝑋 = 𝑥 ,𝑥 ∈ ℝ • • • • Hàm xác suất 𝑓 cho biết khả 𝑋 nhận giá trị cụ thể Tập số thực {𝑥 ∈ ℝ: 𝑓 𝑥 > 0} gọi tập hỗ trợ 𝑋, kí hiệu Sup(𝑋) Để rõ hàm xác suất 𝑋, ta kí hiệu 𝑓 𝑓𝑋 Hàm xác suất có tính chất:𝑓𝑋 𝑥 ≥ 0, ∀𝑥 ∈ ℝ σ𝑥∈Sup(𝑋) 𝑓𝑋 (𝑥) = • Hàm xác suất xác định phân phối b.n.n rời rạc: 𝑃 𝑋 ∈ 𝐶 = ෍ 𝑓𝑋 (𝑥) , 𝐶 ⊂ ℝ 𝑥∈𝐶 10 CuuDuongThanCong.com https://fb.com/tailieudientucntt B.n.n rời rạc hàm xác suất Ví dụ • Xét thí nghiệm tung đồng xu (đồng chất) lần, đặt 𝑋 số lần mặt ngửa: • Tập giá trị 𝑋 {0, 1, 2} • 𝑋 b.n.n rời rạc • Hàm xác suất 𝑋 cho bởi: 1/4 𝑥 = 2/4 𝑥 = 𝑓𝑋 𝑥 = 𝑃 𝑋 = 𝑥 = 1/4 𝑥 = 𝑥 ∉ {0, 1, 2} Hàm 𝑓𝑋 cho bảng sau (gọi bảng phân phối xác suất 𝑋): x P(X = x) 1/4 1/2 1/4 11 CuuDuongThanCong.com https://fb.com/tailieudientucntt B.n.n rời rạc hàm xác suất Phân phối rời rạc • B.n.n rời rạc 𝑋 gọi có phân phối (uniform distribution) tập 𝑛 giá trị {𝑥1 , 𝑥2 , … , 𝑥𝑛 } 𝑋 có hàm xác suất: 𝑓𝑋 𝑥 = 𝑃 𝑋 = 𝑥 = , 𝑥 ∈ {𝑥1 , 𝑥2 , … , 𝑥𝑛 } 𝑛 • 𝑋 kết thí nghiệm “chọn ngẫu nhiên điểm tập 𝑛 giá trị” • Ví dụ: xét thí nghiệm gieo xúc xắc (đồng chất) lần, gọi 𝑋, 𝑌 b.n.n “số chấm lần 1” “số chấm lần 2” • Ta có 𝑋, 𝑌 b.n.n rời rạc có phân phối tập {1, 2, … , 6} • Tuy nhiên, “tổng số chấm hai lần”, 𝑍 = 𝑋 + 𝑌, b.n.n rời rạc với tập giá trị {2, 3, … , 11, 12} có phân phối không 12 CuuDuongThanCong.com https://fb.com/tailieudientucntt B.n.n rời rạc hàm xác suất Phân phối Bernoulli • B.n.n rời rạc 𝑋 gọi có phân phối Bernoulli (Bernoulli distribution) với tham số 𝑝 𝑋 có tập giá trị 0, và: 𝑝 𝑥 = 𝑓𝑋 𝑥 = 𝑃 𝑋 = 𝑥 = ቊ − 𝑝 𝑥 = Kí hiệu 𝑋 ∼ Bernoulli(𝑝) • Ví dụ: • Xét thí nghiệm tung đồng xu, gọi 𝑋 b.n.n “số lần ngửa”: • Nếu đồng xu đồng chất: 𝑋 ∼ Bernoulli(0.5) • Nếu đồng xu không đồng chất với xác suất ngửa 0.7: 𝑋 ∼ Bernoulli(0.7) • Xét thí nghiệm 𝑇 với biến cố 𝐴 có 𝑃 𝐴 = 𝑝, 𝐼𝐴 ∼ Bernoulli(𝑝) 13 CuuDuongThanCong.com https://fb.com/tailieudientucntt B.n.n rời rạc hàm xác suất Phân phối nhị thức • B.n.n rời rạc 𝑋 gọi có phân phối nhị thức (binomial distribution) với tham số 𝑛, 𝑝 𝑋 có tập giá trị 0, 1, … , 𝑛 và: 𝑓𝑋 𝑥 = 𝑃 𝑋 = 𝑥 = 𝐶𝑛𝑥 𝑝 𝑥 (1 − 𝑝)𝑛−𝑥 , 𝑥 ∈ {0, 1, … , 𝑛} Kí hiệu 𝑋 ∼ Binomial(𝑛, 𝑝) • Ví dụ: • Xét thí nghiệm tung đồng xu đồng chất lần, gọi 𝑋 b.n.n “số lần ngửa” 𝑋 ∼ Binomial(5, 0.5) Khi đó, xác suất để không lần ngửa là: 𝑃 𝑋 ≤ = 𝑓𝑋 + 𝑓𝑋 = 𝐶50 0.50 0.55 + 𝐶51 0.51 0.54 = 0.1875 • Xét thí nghiệm 𝑇 với biến cố 𝐴 có 𝑃 𝐴 = 𝑝 Xét thí nghiệm 𝑅 “thực 𝑇 lặp lại 𝑛 lần độc lập”, gọi 𝑋 b.n.n “số lần 𝐴 xảy ra” 𝑋 ∼ Binomial(𝑛, 𝑝) 14 CuuDuongThanCong.com https://fb.com/tailieudientucntt B.n.n liên tục hàm mật độ xác suất • 𝑋 gọi b.n.n liên tục (continuous random variable) có hàm số khơng âm 𝑓: ℝ → ℝ cho với khoảng [𝑎, 𝑏] ℝ ta có: 𝑏 𝑃 𝑎 ≤ 𝑋 ≤ 𝑏 = න 𝑓 𝑥 ⅆ𝑥 𝑎 • 𝑓 gọi hàm mật độ xác suất (probability denstity function) 𝑋 cho biết khả 𝑋 nhận giá trị khoảng nhỏ trục số thực ℝ 𝑎+𝜀 𝑃 𝑎−𝜀 ≤𝑋 ≤𝑎+𝜀 =න 𝑓 𝑥 ⅆ𝑥 ≈ 2𝜀𝑓 𝑎 𝜀 nhỏ 𝑎−𝜀 • Tập số thực {𝑥 ∈ ℝ: 𝑓 𝑥 > 0} gọi tập hỗ trợ 𝑋, kí hiệu Sup(𝑋) • Để rõ hàm mật độ xác suất 𝑋, ta kí hiệu 𝑓 𝑓𝑋 ∞ • Hàm mật độ xác suất có tính chất:𝑓𝑋 𝑥 ≥ 0, ∀𝑥 ∈ ℝ và‫׬‬−∞ 𝑓 𝑥 ⅆ𝑥 = 15 CuuDuongThanCong.com https://fb.com/tailieudientucntt B.n.n liên tục hàm mật độ xác suất • Hàm mật độ xác suất xác định phân phối b.n.n liên tục: 𝑃 𝑋 ∈ 𝐶 = න 𝑓𝑋 (𝑥) ⅆ𝑥 , 𝐶 ⊂ ℝ • 𝑃 𝑋=𝑎 = 𝑎 ‫𝑓 𝑎׬‬ 𝐶 𝑥 ⅆ𝑥 = • 𝑃 𝑋𝑎 =𝑃 𝑋≥𝑎 = 𝑎 ‫׬‬−∞ 𝑓 𝑥 ∞ ‫𝑥 𝑓 𝑎׬‬ ⅆ𝑥 𝑓 𝑥 𝑃 𝑎≤𝑋≤𝑏 ⅆ𝑥 𝑏 • 𝑃 𝑎 < 𝑋 < 𝑏 = 𝑃 𝑎 ≤ 𝑋 ≤ 𝑏 = ‫ 𝑥 𝑓 𝑎׬‬ⅆ𝑥 • Lưu ý: • Xác suất để b.n.n liên tục 𝑋 nhận giá trị cụ thể 0: 𝑃 𝑋 = 𝑎 = • Như có biến cố có xác suất có khả xảy (có 𝐴 với 𝑃 𝐴 = 𝐴 ≠ ∅) 16 CuuDuongThanCong.com https://fb.com/tailieudientucntt B.n.n liên tục hàm mật độ xác suất Ví dụ • Cho 𝑋 b.n.n liên tục với hàm mật độ xác suất có dạng: 𝑐𝑥 với < 𝑥 < 𝑓𝑋 𝑥 = ቊ khác • Để 𝑓𝑋 hàm mật độ xác suất hợp lệ, ta có điều kiện cho hệ số 𝑐 là: ∞ 𝑥2 𝑥 = න 𝑓𝑋 𝑥 ⅆ𝑥 = ⟹ න 𝑐𝑥 ⅆ𝑥 = ⟹ 𝑐 ቤ = 8𝑐 = ⟹ 𝑐 = 𝑥=0 −∞ • Khi ta có xác suất: 21 • để 𝑋 nhận giá trị từ đến là: 𝑃 ≤ 𝑋 ≤ = ‫׬‬1 𝑓𝑋 𝑥 ⅆ𝑥 = ‫׬‬1 𝑥 ⅆ𝑥 = ∞ 41 • để 𝑋 nhận giá lớn là: 𝑃 𝑋 > = ‫׬‬2 𝑓𝑋 𝑥 ⅆ𝑥 = ‫׬‬2 𝑥 ⅆ𝑥 = 16 17 CuuDuongThanCong.com https://fb.com/tailieudientucntt B.n.n liên tục hàm mật độ xác suất Phân phối liên tục • B.n.n liên tục 𝑋 gọi có phân phối (uniform distribution) khoảng [𝑎, 𝑏] 𝑋 có hàm mật độ xác suất là: 𝑓𝑋 𝑥 = ቐ𝑏 − 𝑎 với 𝑎 ≤ 𝑥 ≤ 𝑏 khác • 𝑋 kết thí nghiệm “chọn ngẫu nhiên điểm khoảng [𝑎, 𝑏]” • Ví dụ: mơn học dài giờ, giáo viên điểm danh ngẫu nhiên thời gian học, bạn trễ 𝑡 phút Tính xác suất bạn điểm danh? • Gọi 𝑋 thời điểm giáo viên điểm danh 𝑋 b.n.n liên tục có phân phối khoảng [0, 2] (giờ) Xác suất bạn điểm danh là: ∞ 𝑡 1 𝑡 𝑡 𝑃 𝑋≥ = න 𝑓𝑋 𝑥 ⅆ𝑥 = න ⅆ𝑥 = − =1− , với ≤ 𝑡 ≤ 120 60 60 120 𝑡/60 𝑡/60 18 CuuDuongThanCong.com https://fb.com/tailieudientucntt Hàm phân phối tích lũy • Hàm phân phối tích lũy (cumulative distribution function) b.n.n 𝑋 hàm số 𝐹𝑋 : ℝ → ℝ xác định bởi: 𝐹𝑋 𝑥 = 𝑃 𝑋 ≤ 𝑥 = 𝑃 𝑋 ∈ −∞, 𝑥 • 𝐹𝑋 xác định phân phối 𝑋 • Tính chất: • Tăng: 𝑥1 ≤ 𝑥2 𝐹(𝑥1 ) ≤ 𝐹(𝑥2 ) • Chuẩn hóa: lim 𝐹(𝑥) = lim 𝐹(𝑥) = 𝑥→−∞ 𝑥→∞ + • Liên tục phải: 𝐹 𝑥 = 𝐹 𝑥 = lim 𝐹(𝑡) • Dùng 𝐹𝑋 để tính xác suất: 𝑡→𝑥, 𝑡>𝑥 • 𝑃 𝑋 >𝑥 =1−𝑃 𝑋 ≤𝑥 =1−𝐹 𝑥 • 𝑃 𝑥1 < 𝑋 ≤ 𝑥2 = 𝑃 𝑋 ≤ 𝑥2 − 𝑃 𝑋 ≤ 𝑥1 = 𝐹 𝑥2 − 𝐹 𝑥1 • 𝑃 𝑋 < 𝑥 = 𝐹 𝑥 − = lim 𝐹(𝑡) 𝑡→𝑥, 𝑡 = − 𝐹𝑋 = − = 16 16 16 16 21 CuuDuongThanCong.com https://fb.com/tailieudientucntt Hàm phân vị • Cho 𝑋 b.n.n với hàm phân phối tích lũy 𝐹, hàm phân vị (quantile function) 𝑋 hàm 𝑄: (0, 1) → ℝ, xác định bởi: 𝑄 𝑝 = "giá trị thực 𝑥 nhỏ cho 𝐹(𝑥) ≥ 𝑝" • 𝑄 𝑝 gọi phân vị mức 𝑝 phân phối 𝑋 thường kí hiệu 𝐹 −1 (𝑝) • Hàm phân vị 𝑄 cho biết điểm chia phân phối 𝑋 𝑝 𝐹 𝑥 𝑥 𝑄 𝑝 = 𝐹 −1 (𝑝) 22 CuuDuongThanCong.com https://fb.com/tailieudientucntt Hàm phân vị Ví dụ 𝐹 𝑥 • Xét b.n.n liên tục 𝑋 ~ Uniform(1, 3): • 𝑋 có hàm mật độ xác suất: 𝑓 𝑥 =ቊ 1/2 • 𝑋 có hàm phân phối tích lũy là: với ≤ 𝑥 ≤ khác න 0ⅆ𝑡 = 𝑥 𝑥 𝑥 < −∞ 𝑥−1 ≤ 𝑥 < 𝐹 𝑥 = න 𝑓 𝑡 ⅆ𝑡 = න ⅆ𝑡 = 2 −∞ න ⅆ𝑡 = ≤ 𝑥 • 𝑋 có hàm phân vị là: 𝑥−1 𝑄 𝑝 =𝑥⟺ = 𝑝 ⟺ 𝑥 = 2𝑝 + ⟹ 𝐹 −1 𝑝 = 𝑄 𝑝 = 2𝑝 + 1, < 𝑝 < 23 CuuDuongThanCong.com https://fb.com/tailieudientucntt Hàm phân vị • Các phân vị hay dùng: • Phân vị phần tư (lower quartile): 𝑄 25% = 𝑄(1/4) = 𝑄(0.25) • Phân vị (median): 𝑄 50% = 𝑄 = 𝑄 0.5 • Còn gọi trung vị: điểm chia đơi phân phối • Phân vị phần tư (upper quartile): 𝑄 75% = 𝑄(3/4) = 𝑄(0.75) • Ví dụ: 𝑋 ~ Uniform 1, có hàm phân vị 𝑄 𝑝 = 2𝑝 + 1, < 𝑝 < • Phân vị phần tư dưới: 𝑄 25% = ì 0.25 + = 1.5 Trung vị: 𝑄 50% = × 0.5 + = • Phân vị phần tư trên: 𝑄 75% = × 0.75 + = 2.5 24 CuuDuongThanCong.com https://fb.com/tailieudientucntt ... trị ℝ (hoặc 1.0, 2.0 mét) •