Phân phối Gauss hay phân phối chuẩn là một trong những loại phân phối được sử dụng rộng rãi trong thống kê. Việc ước lượng các tham số sử dụng suy diễn Bayes cũng như tiên nghiệm liên hợp cũng được áp dụng rộng rãi. Việc dùng các tiên nghiệm liên hợp cho phép tất cả các kết quả được suy ra ở dạng công thức
Suy Diễn Bayes Phân Phối Gauss Một Chiều với Một Quan Sát Trần Nam Hưng* Ngày 12 tháng năm 2022 Tóm tắt nội dung Phân phối Gauss hay phân phối chuẩn loại phân phối sử dụng rộng rãi thống kê Việc ước lượng tham số sử dụng suy diễn Bayes tiên nghiệm liên hợp áp dụng rộng rãi Việc dùng tiên nghiệm liên hợp cho phép tất kết suy dạng công thức Mục lục Kiến thức chuẩn bị 1.1 Phân phối chuẩn chiều Phân phối hậu nghiệm Kiến thức chuẩn bị 1.1 Phân phối chuẩn chiều Định nghĩa (Phân phối chuẩn) Một biến ngẫu nhiên X tuân theo phân phối chuẩn (hay phân phối Gauss) với hai tham số trung bình µ phương sai σ2 (trong −∞ < µ < +∞ σ > 0), ký hiệu X ∼ N (µ , σ), X phân phối liên tục với hàm mật độ phân phối xác suất (p.d.f.) xỏc nh nh sau đ (x à)2 với − ∞ < x < +∞ f (x | µ , σ ) = √ exp − σ2 σ 2π (p.d.f.) Định lí Hàm (p.d.f.) hàm phân phối xác suất phân phối Gauss Chứng minh Dễ dàng ta thấy hàm (p.d.f.) hàm không âm Ta cần chứng minh +∞ −∞ * E-mail: f (x | µ , σ) dx = hungb1906052@student.ctu.edu.vn (1) Đặt a = (x−µ) σ , (1) trở thành +∞ +∞ −∞ Đặt I = +∞ −∞ exp +∞ Å I2 = f (x | , ) dx = ò exp ò ™ 1 √ exp − a2 da = √ σ 2π σ 2π −∞ +∞ −∞ ß ™ exp − a2 da − 21 a2 da, +∞ ™ ã Å a da · −∞ ß ™ ã exp − b2 db = ß ™ exp − a2 + b2 da db Da,b Áp dụng phép song ánh sang hệ tọa độ cực cách đặt a = r cos ϕ b = r sin ϕ hàm liên tục, a2 + b2 = r2 , với đạo hàm riêng cấp chúng miền Ta có ma trận Jacobi Ü J≜ ∂a ∂ϕ ∂b ∂ϕ ∂a ∂r ∂b ∂r ê cos ϕ −r sin ϕ = sin ϕ r cos ϕ Vi phân hàm hai biến a = r cos ϕ b = r sin ϕ ta có kết biểu diễn sau da db = cos ϕ −r sin ϕ sin ϕ r cos ϕ · dr dϕ Khi ta tính tích phân hai lớp I chuyển sang hệ tọa độ cực với miền xác định mặt phẳng Dr,ϕ : {0 ≤ ϕ ≤ 2π , < r < +∞} Ta có ß ™ 2 · det J da db I = exp − a + b Da,b ™ ß cos ϕ −r sin ϕ dr dϕ = exp − r · Dr,ϕ sin ϕ r cos ϕ ß ™ +∞ 2π exp − r · r dr dϕ = 0 Đặt t = r2 dt = r dr, tích phân tiếp tục tính sau +∞ 2π I2 = dϕ Khi I = 2π I = 2π exp {−t} dt = − exp{−t} +∞ 2π √ 2π Cuối cùng, ta có +∞ −∞ f (x | µ , σ) dx = √ · I = 2π Đây điều cần phải chứng minh dϕ = 2π dϕ = Định lí (Trung bình phương sai) Ta có trung bình phương sai phân phối chuẩn với hàm mật độ xác suất cho (p.d.f.) tính sau E(X) = µ, Var(X) = σ2 Phân phối hậu nghiệm Định lí (Ước lượng tham số trung bình µ với n = quan sát) Cho biến ngẫu nhiên X tuân theo phân phối Gauss với giá trị tham số trung bình µ chưa biết (−∞ < µ < +∞) giá trị tham số phương sai σ2 biết (σ2 > 0) Giả sử phân phối tiên nghiệm µ phân phối Gauss với hai siêu tham số m s2 Thực quan sát ta nhận giá trị x0 cụ thể, phân phối hậu nghiệm µ tuân theo phân phối Gauss có trung bình m phương sai s2 xác định sau m≜ x0 s2 + mσ2 s2 σ2 s ≜ s2 + σ s2 + σ Chứng minh Ta có mơ hình đầy đủ i.i.d X ∼ N (µ , σ2 ) i.i.d µ ∼ N (m , s2 ) x0 quan sát biến ngẫu nhiên X nên theo định lý Bayes cho biến liên tục ta có hàm phân phối hậu nghiệm µ xác định p(µ) × f (x0 | µ) , p(µ) · f (x0 | µ) dµ π(µ | x0 ) = +∞ −∞ (The pos distr.) i.i.d Xét trường hợp x ∼ N (m , s2 ) có hàm mật độ ß ™ 1 f (x0 | µ) = N (x0 | µ , σ ) = √ exp (xi à) (p.d.f.) ò ™ 1 p(µ) = N (µ | m , s) = √ exp − (µ − m) 2s s (p.d.f.) v Xột p(à) ì f (x0 | à), ta cú ò ò 1 1 p(à) ì f (x0 | à) = √ exp − (µ − m)2 · √ exp − (x0 − µ)2 2s 2σ s 2π σ 2π ß ™ 1 exp − (µ − m)2 − (x0 − µ)2 = 2πsσ 2s 2σ exp {P} ≜ 2πsσ (2) Xét biểu thức P 1 (µ − m)2 − (x0 − µ)2 2s 2σ −µ2 + 2mµ − m2 x02 − 2x0 µ + µ2 − = 2s2 2σ2 2 2 −µ σ + 2mµσ − m σ − x02 s2 + 2x0 µs2 − µ2 s2 = 2s2 σ2 2 −µ (σ + s ) + 2µ(mσ2 + x0 s2 ) − (m2 σ2 + x02 s2 ) = 2s2 σ2 ñ ô mσ2 + x0 s2 m2 σ2 + x02 s2 σ2 + s2 + = − 2 µ −2·µ· 2s σ σ2 + s2 σ2 + s2 å2 Ç mσ2 + x0 s2 m2 σ2 + x0 s2 mσ2 + x0 s2 σ2 + s2 − + µ− =− 2 2s σ σ2 + s2 (σ2 + s2 ) · 2s2 σ2 σ2 + s2 P=− Xét biểu thức 2 mσ2 + x0 s2 mσ2 + x0 s2 − m2 σ2 + x0 s2 (σ2 + s2 ) m2 σ2 + x0 s2 − = (σ2 + s2 ) · 2s2 σ2 σ2 + s2 2s2 σ2 (σ2 + s2 ) 2x0 ms2 σ2 − m2 s2 σ2 − x02 s2 σ2 = 2s2 σ2 (σ2 + s2 ) 2x0 m − x02 − m2 (x0 − m)2 = = − σ2 + s2 σ2 + s2 Từ đó, σ2 + s2 P=− 2 2s σ Ç mσ2 + x0 s2 µ− σ2 + s2 å2 − (x0 − m)2 σ2 + s2 (3) Thay P từ (3) vào (2) ta có Ç å2 (x0 − m)2 σ2 + s2 mσ2 + x0 s2 − exp − 2 f t[ µ − p(µ) × f (x0 | µ) = 2 2πsσ 2s +s 2 + s2 đ ầ ồ2 ´ σ2 + s2 (x0 − m)2 mσ2 + x0 s2 exp − 2 µ − · exp − = 2πsσ 2s σ σ + s2 σ2 + s2 Xét tích phân phân phối Gauss +∞ −∞ (4) p(µ) · f (x0 | µ) dµ, tính chất hàm mật độ phân phi xỏc sut ầ ồ2 đ + s2 1 (x0 − m)2 mσ2 + x0 s2 exp − 2 µ − dµ p(µ) · f (x0 | µ) dµ = · exp − 2s σ σ2 + s2 σ2 + s2 −∞ 2πsσ đ ầ ầ ồ2 + (x0 − m)2 σ2 + s2 mσ2 + x0 s2 mσ2 + x0 s2 exp − exp − 2 µ − d µ− = 2πsσ σ2 + s2 2s σ σ2 + s2 σ2 + s2 −∞ ® ´ π (x0 − m)2 = exp − · σ2 +s2 2πsσ σ2 + s2 2s2 σ2 ® ´ 1 (x0 − m)2 =√ √ exp − (5) σ + s2 2π σ2 + s2 +∞ +∞ Thương (4) (5) xác định π(µ | x0 ) = = p(à) ì f (x0 | à) p(à) Ã f (x0 | µ) dµ +∞ −∞ 1 √ exp − s2 σ2 σ2 +s2 2π 2 σ +s s2 ầ m2 + x0 s2 + s2 Ta điều phải chứng minh å2 Ç =N mσ2 + x0 s2 s2 σ2 , 2 σ2 + s2 σ +s å = N (m , s2 ) ... X tuân theo phân phối Gauss với giá trị tham số trung bình µ chưa biết (−∞ < µ < +∞) giá trị tham số phương sai σ2 biết (σ2 > 0) Giả sử phân phối tiên nghiệm µ phân phối Gauss với hai siêu tham... tham số m s2 Thực quan sát ta nhận giá trị x0 cụ thể, phân phối hậu nghiệm µ tn theo phân phối Gauss có trung bình m phương sai s2 xác định sau m≜ x0 s2 + mσ2 s2 σ2 s ≜ s2 + σ s2 + σ Chứng minh... đầy đủ i.i.d X ∼ N (µ , σ2 ) i.i.d µ ∼ N (m , s2 ) x0 quan sát biến ngẫu nhiên X nên theo định lý Bayes cho biến liên tục ta có hàm phân phối hậu nghiệm µ xác định p(µ) × f (x0 | µ) , p(µ) · f (x0