Chương 1Các phan phôi xác suât nhiều chiềuquan trọng1.1 Phân phối nhiều chiềuMột p-biến vectơ quan sát x là một tập hợp của p qua sát vô hướng, được kí hiệu1.1.1 Phân phối chuẩn nhiều ch
Phân phối chuẩn nhiều chiều
p-biến ngẫu nhiên phân phối chuẩn nhiều chiều được sử dụng để miêu tả đồng thời p biến ngẫu nhiên giá trị thực liên tục.
Một biến ngẫu nhiên tuân theo quy luật p-bién ngẫu nhiên phân phối chuẩn nhiều chiều với vectơ kì vọng và ma trận hiệp phương sai © được kí hiệu là z|u,3~ Nứu,>), (1.1) ở day tham số (1, ©) được cho bởi p(zlu,#) = (9n)~Ÿ |S|T? em Bee) (12)
CHƯƠNG 1 CAC PHAN PHOI XÁC SUẤT NHIÊU CHIEU QUAN TRỌNG ở day R? kí hiệu là tap các số thực p-chiéu và © > 0 là ma trận p-chiều xác định dương Tính chất: kì vọng, mode, phương sai của phân phối chuẩn nhiều chiều là
Mode (2|u, ©) = ps, (1.5) var (œ|H, 4) = 3, (1.6) điều này có thé tim được bằng phép lấy vi phan va tích phan.
Vì z là một phân phối chuẩn nhiều chiều, phân phối điều kiện và phân phối biên duyên của tập con bất kì là phân phối chuẩn nhiều chiều. p-biến ngẫu nhiên phân phối chuẩn nhiều chiều với moomen cấp một và cấp hai hội tụ tới trung bình theo định lí giới hạn trung tâm.
1.1.2 Phan phối Student nhiều chiều t t-phân phối Student nhiều chiều được sử dụng để mô tả các biến ngẫu nhiên giá trị thực liên tục với "cái đuôi nặng hơn" phân phối chuẩn nhiều chiều N6 có nguồn gốc bởi a~ N(u,ó ”) vaG~ W(E,p,v), (1.7) đổi biến t=1?G~3(# — m) + tạ và WW = G, (1.8) với Jacobian
J(x,G + t,W) = 3W3, (1.9) và sau đó lấy tích phân đối với W/ Trong phép lấy đạo hàm, z có thể là trung bình của biến độc lập và biến đồng nhất vectơ phân phối chuẩn với cùng ma trận kì vọng và hiệp phương sai, trong khi Œ có thể là tổng bình phương độ lệch của các biến với trung bình của chúng.
Một biến ngẫu nhiên tuân theo t-phan phối Student nhiều chiều được kí hiệu là tv, to, 5, @Ỳ ~ t(v, to, 5, đồ), (1.10)
CHƯƠNG 1 CAC PHAN PHOI XÁC SUẤT NHIÊU CHIEU QUAN TRỌNG ở đây tham số (v, to, 2, 6”) được cho bởi p(t|v, to, 3, 0°) = vip? (1.11)
VỚI te R?, vER*, t CR’, ©>0, 6ER* (1.13) Tính chat: kì vọng, mode, phương sai của f-phân phối Student nhiều chiều là
Mode(t\v, to, ©, ¢°) = to, (1.15) var(t\v, to, 5,42) = — sói, (1.16) y— điều này có thể tim được bang phép lấy vi phan và tích phân Chú ý rằng các tham số này là một sự tổng quát được sử dụng, có thể tìm được khi ¢? = 1.
Kì vọng của biến ngẫu nhiên t-phan phối Student nhiều chiều chỉ có thể tồn tại với
> 1 và phương sai chỉ có thể tồn tại với > 2 Khi = 1, f-phân phối Student nhiều chiều là phân phối Cauchy nhiều chiều mà kì vọng và phương sai hoặc mô men cấp 1 và mô men cấp 2 không tồn tại.
Khi số bậc tự do là tăng, một biến ngẫu nhiên f-phân phối vô hướng Student nhiều chiều t ~ t(v, to, â, ỉ2) hội tụ tới phõn phối chuẩn t ~ N(to, 23).
1.2 Phân phối của ma trận ngẫu nhiên
1.2.1 Phân phối chuẩn ma trận
Phân phối chuẩn ma trận n x p có thể được coi như là trường hợp đặc biệt np-bién ngẫu nhiên phân phối chuẩn nhiều chiều khi mà ma trận hiệp phương sai là tách được.
Kí hiệu np-phan phối chuẩn nhiều chiều với các ma trận kì vọng toán p là np-chiéu và np X np ma trận hiệp phương sai 2 bởi p(z|n,9) = (2m) F |Q|T? eB WO ew), (1.17)
CHƯƠNG 1 CAC PHAN PHOI XÁC SUẤT NHIÊU CHIEU QUAN TRỌNG
Một ma tran có thé tách được là ma trận có dạng 2 = ®@3 ở đây @ là tích Kronecker, tích này làm tăng bội lần tất cả các phần tử của ma trận thứ nhất bởi toàn bộ ma trận thứ hai.
Tớch Kronecker của đ và ằ là cỏc ma trận tương ứng n và p chiều, là oyu a Pind
Thế ma trận hiệp phương sai tách được vào phân phối trên ta được p (alt, 0, ®) = (2n) > [© @ ĐỊT? @ BAH) (PB) ew), (1.19) với đồng nhất thức ma trận ở trên
6 đõy ô = (X') = (z1, ,z,), X” = (a1, ,0n),u = vec(M’) = (HỊ, , tự), va H n
Mĩ = (tì, , fm), thì phương trình 1.19 trở thành p(X|M, 3,8) = (2m)? |ð[ ?|Đ| ?e 98 MIEN MY (1.20)
Một ma trận ngẫu nhiên có phân phối chuẩn ma trận n x p được kí hiệu
X|M,ằ,đ~ N(M,đ &3)) (1.21) ở đây (A/, 3, ®) là các tham số của phân phối trên với
X€R**", McR*“”,ằ,đ>0 (1.22) các ma trận © và ® thường được gọi là ma trận hiệp phương sai trong và giữa Thỉnh thoảng cũng được gọi là ma trận hiệp phương sai phải và trái.
Tính chất: kì vọng, mode và phương sai của phân phối chuẩn ma trận là
CHƯƠNG 1 CAC PHAN PHOI XÁC SUẤT NHIÊU CHIEU QUAN TRỌNG điều này có thể tim được bằng phép lấy vi phân va tích phân.
Khi X là một phân phối chuẩn ma trận, phân phối điều kiện và phân phối biên duyên của bất kì hàng hoặc cột là phân phối chuẩn nhiều chiều Nó cũng có thể được kí hiệu là kì vọng dòng thứ ¿ của X là z;, dòng thứ ¡ của Ä⁄ là , và hiệp phương sai của dong thứ 7 của X là ó„>, ở đây ở¿ là phần tử dòng thứ i và cột thứ i của & Hiệp phương sai giữa thứ ¿ và dũng thứ i của X là đ/,ằ, ở đõy ớj, là phần tử dũng thứ i và cột thứ i của ® Tương tự, kì vọng của cột 7 của X là cột thứ 7 của M và hiệp phương sai giữa thứ j và cột thứ 7' của X là ứ;zđ. Đơn giản chỉ cần đặt, nếu vy
Mn div được kớ hiệu là phan tử thứ ii’ cha đ va ứ;; được kớ hiệu là phan tử thứ jj’ của â thì var (xi|Mi, bu, 3) = Oud, (1.28) cou(xi, Uji, Mj, Pir L) = biwd (1.29)
Một biến ngẫu nhiên Wishart được chỉ ra như là tích chuyển vị G = (X — M)'(X — AM), 6 đây X là phân phối chuẩn ma trận vp x p với ma trận kì vọng M và ma trận hiệp phương sai T,, @ Y Chú ý rằng, nếu p = 1, đây là tổng bình phương của
⁄ạ biến ngẫu nhiên chuẩn quy tâm độc lập với cùng kì vọng và phương sai 0Ÿ, g= (#ìi — H)®+ - + („¿ — ð)2 Ma trận hiệp phương sai Y được đưa vào phan phối
CHƯƠNG 1 CAC PHAN PHOI XÁC SUẤT NHIÊU CHIEU QUAN TRỌNG
Wishart Một p x p ma trận đối xứng G tuân theo phan phối Wishart được kí hiệu
G|YT, p, ⁄o ~ W(T, p, vo) (1.32) ở đây tham số (YT, p, 2) được cho bởi p(GIY.p,m) = kw|[X|®|GI TT e6, (1.33)
6 đây or Yy+1l—J ky =2? a2 YP Gore ) (1.34) j=l
G>0,%€ERtT, T>0, (1.35) và ki hiệu ">0" được kí hiệu cho ca G va YT là các ma trận xác định dương Mặc dù phân phối Wishart được dẫn xuất từ vp biến ngẫu nhiên vectơ chuẩn (một số nguyên dương), không có hạn chế rằng vp trong phân phối Wishart là giá trị nguyên.
Tính chất: Kì vọng, mode, và phương sai của phân phối Wishart là
Phân phối chuẩn matrận
Phân phối Wishart nghịch đảo
Một biến ngẫu nhiên phan phối Wishart nghịch dao © được chi ra như là nghịch đảo của một biến ngẫu nhiên có phân phối Wishart, © = G~! Một p x p ma trận ngẫu nhiên Ð tuân theo phân phối Wishart nghịch đảo được kí hiệu
CHƯƠNG 1 CAC PHAN PHOI XÁC SUẤT NHIÊU CHIEU QUAN TRỌNG ở đây tham số (Đ|Q,p, 1) được cho bởi p(®Iu,Q) = kny|Q|“SISIfe 3914, (1.41)
Enh _ tare pe) oe (“ 5 ?) (1.42) Pp j=l
5>0,ceR', Q>0 (1.43) Chú ý: Phép đổi biến từ G tới Ð,
Q=T !uyạ=w-—p—1, (1.44) và biến đổi Jacobian là
Mặc dù phân phối Wishart nghịch đảo được dẫn xuất tt — p — 1 vecto ngẫu nhiên chuẩn (một số nguyên dương), không có hạn chế rằng v trong phân phối Wishart nghịch đảo là giá trị nguyên.
Tính chất: Kì vọng, mode, và phương sai của phân phối Wishart nghịch đảo là b0 =———— 1.46 (Slz9)=y——s
Quđụu + FZ 2p—2 đi iil |Y, = ; 1.49 var owls Q) = a5 Tw Bp — 2) = Bp — 3) 2 papa i Vis! + đỏiđứứ F Vie Mw coU0(ỉĂứ; Tw +Y,Q) = 2p? 1.50
(v — 2p — 1)(v — 2p — 2)(v — 2p — 4)’ điều này có thể tim được bằng phép lấy vi phân và tích phan Kì vọng được xác định khi vy > 2p+2, trong khi đó phương sai và hiệp phương sai được xác định khi > 2p+4.
Phương sai được xác định khi i # Ở đây oi; và qi; kí hiệu là phần tử cấp ij của > và
CHƯƠNG 1 CAC PHAN PHOI XÁC SUẤT NHIÊU CHIEU QUAN TRỌNG
T-phân phối ma trận Student được sử dụng để mô tả các biến ngẫu nhiên liên tục với cái đuôi nặng hơn phân phối chuẩn Nó có nguồn gốc bởi
J(X,G—T,W) =u®”W? (1.53) và sau đó lấy tích phân đối với W Trong phép lấy đạo hàm, X có thé là trung bình của biến độc lập và biến đồng nhất ma trận phân phối chuẩn với cùng kì vọng và phương sai, trong khi G có thể là tổng bình phương độ lệch của các biến với trung bình của chúng.
Một biến ngẫu nhiên 7' tuân theo 7-phân phối ma trận Student được kí hiệu là
TỊU, Tạ, 3, ® ~ T(v, Tạ, >, ®), (1.54) ở đây tham số (1, Tạ, ©, ®) được cho lỉl/II? p(T |v, To, >, ®) = kr rap) (1.55)
Tính chất: Kì vọng, mode, và phương sai của 7-phân phối ma trận Student là
Mode(T|v, To, >5, ®) = Tạ, (1.59) cov(vec(T’)|v, Ty, >, ®) = —s(# 25), (1.60)
Phân phdimatranT 0.0.00 0000000000 14
điều này có thể tim được bằng phép lấy vi phan va tích phan Chú ý rằng trong các tham số, các bậc tự do và ma trận ® được nhóm như là các ma trận đơn.
Vì T trong T-phan phối ma trận Student, phân phối điều kiện va phân phối biên duyên của dòng hoặc cột bất kì của T là t-phan phối Student nhiều chiều.
Kì vọng của T-phan phối ma trận Student tồn tại với > 1 và phương sai tồn tại với vy > 2 Khi tham số = 1, 7-phân phối ma trận Student là phân phối ma trận Cauchy với kì vọng và phương sai hoặc moment cấp 1 và moment cấp 2 không tồn tại Khi số bậc tự do v tăng, một biến ngẫu nhiên ma trận là 7-phân phối ma trận Student, 7 ~ 7, Tạọ, 3, ®) xấp xỉ bởi phân phối chuẩn ma trận T ~ N(7ạ, ® @ 3).
Biến ngẫu nhiên nhiều chiều tổng quát của phân phối nhị thức và phân phối Beta cũng tồn tại Vì chúng không được sử dụng trong tài liệu này, chúng được bỏ qua.
Vectơ ngẫu nhiên liên tục ee 15
Chúng ta thường có nhiều biến đo được trên một cá thể; vì vậy, chúng ta hiếm khi quan tâm đến một biến ngẫu nhiên duy nhất Chúng ta quan tâm vectơ quan sats p-chiéu #, ,#„ 6 đây #¿ = (#, ,#„)“ với i = 1, ,n Các quan sát được xác định từ một phõn phối với cỏc tham số 6, ,07 ở đõy ỉ cú thộ là vụ hướng, vectơ hoặc ma trận.
Tiên nghiệm: Chúng ta có thể lượng hóa tiên nghiệm (trước khi thực hiện các thí nghiệm và thu thập dữ liệu) theo hình thức phân phối tiên nghiệm có điều kiện phụ thuộc các tham số
?(0\, , 0), (1.61) ở đây các tham số không cần độc lập.
Ham hợp lí: Với một mẫu độc lập kích thước n, phân phối có điều kiện phụ thuộc (hợp lí) của các vectơ quan sát là tích của các phân phối cá thể (hợp Ii) và được cho bởi p(4i, ,#a|Đi, ,ỉy) = H_Ăp(z;|60ỡ 8) (1.62)
Hậu nghiệm: Chúng ta áp dụng quy tắc Bayes để đạt được một phân phối hậu nghiệm cho các tham số Phân phối hậu nghiệm là
P(A, thở ,ỉ7)ép(1, thở „ đn |Úi, tà 07) p(#I,- ®n) p(Ó\, ,07|Z1, , nu) = › (1.63)
CHƯƠNG 1 CAC PHAN PHOI XÁC SUẤT NHIÊU CHIEU QUAN TRỌNG ở đây mau số được cho bởi Đ(#1, y#n) = f nlới 8)p(ei, si|fi 8,)đ8i + dB (1.64) ử day 0 = (01, ,0)).
Ghi nhớ rằng chúng ta có thể bỏ mau số đi để được p(ể, ,ỉ|#i, ,đạ) % é(ệ1, ,8)é(#1, ,#a|ệi, , ), (1.65) ở đõy "x" kớ hiệu là tỉ lệ và hằng số k khụng phụ thuộc vào cỏc biến ỉị, ,ỉ;, cú thể tìm được bằng cách lấy tích phân và điều này phát biểu rằng phân phối hậu nghiệm là ti lệ với tích của phân phối tiên nghiệm và hợp lí.
Ma trận ngẫu nhiên liên tục 2.00004 16 Chương 2 Mở đầu về thống kê Bayes nhiều chiều
Cũng như chúng ta vừa xem xét biến ngẫu nhiên giá trị vô hướng và vectơ, chúng ta cũng có thể xem xét biến ngẫu nhiên nhận giá trị là ma trận.
Tiên nghiệm: Chúng ta có thể lượng hóa những tiên nghiệm về các tham số với việc sử dụng phân phối tiên nghiệm có điều kiện phụ thuộc p(6:, 8), (1.66)
6 đây 6 có thể nhận giá trị là ma trận và các tham số không cần độc lập.
Ham hợp lí: Với một mau độc lập kích thước n, từ phân phối điều kiện phụ thuộc
P(X|61, ,07) của các quan sát ma trận là p(X, wee Xn, cưng 67) = TÚ p(Xi|01, wae , 07) (1.67)
Hậu nghiệm: Chúng ta áp dụng quy tắc Bayes dé đạt được một phân phối hậu nghiệm cho các tham số Phân phối hậu nghiệm là
0,, ,07|Xq, ,Xn) = ral p(O1,. ,O|X1, -,Xn) p(#ì #„) (1.68) ở đây mẫu số được cho bởi p(Xi, Ẩn) = / p(0\, 92)p(X:, Xl) 94, (1.69)
CHƯƠNG 1 CAC PHAN PHOI XÁC SUẤT NHIÊU CHIEU QUAN TRỌNG
Ghi nhớ rằng chúng ta có thể bỏ mẫu số đi để được p(6, ng 67|X1, g Xn) x p(9, ng 6)p(Äh, sae Xn|A1, sey 67), (1.70) điều này phát biểu rằng phân phối hậu nghiệm là tỉ lệ với tích của phân phối tiên nghiệm và hợp lí.
Từ phân phối hậu nghiệm, ước lượng của các tham số là đạt được Ước lượng của các tham số sẽ được trình bày sau.
Mở đầu về thống kê Bayes nhiều chiều `
2.1.1 Phân phối tiên nghiệm mơ hồ
Phân phối tiên nghiệm mơ hồ là phân phối tiên nghiệm không có thông tin có thể dựa trên bất kì một tham số là bị chặn (có một miền giá trị hữu hạn) hoặc không bị chặn (có một miền giá trị vô hạn).
Nếu một phân phối tiên nghiệm mơ hồ dựa trên một tham số 6 có một miền giá trị hữu hạn, trên khoảng (a;b), thì phân phối tiên nghiệm là phân phối đều trên khoảng (a;b) ngụ ý rằng tất cả các giá trị trong miền này đều có cùng khả năng cho trước.
0, nếu ỉ Â (a;b) và chúng ta viết p(ỉ) x (một hằng số) (2.2)
Một phân phối tiên nghiệm mơ hồ hơi khác một chút khi chúng ta xét trên một tham số không bị chặn.
CHƯƠNG 2 MO DẦU VỀ THONG KE BAYES NHIEU CHIEU
Xột ỉ = là kỡ vọng của phan phối chuẩn Nếu chỳng ta muốn đặt một phan phối đều tiên nghiệm trên nó, thì chúng ta có
0, nến ¢ (—d;a), ở đây a > oo và viết lại p(w) < (một hằng số) (2.4)
Nếu tham số ỉ = o? là phương sai của phõn phối chuẩn, thỡ chỳng ta lấy log(ứ?) là phõn phối đều trờn toàn bộ đường thẳng và biến đổi trở lại tới một phõn phối trờn ứ? chúng ta có po?) ô = (2.5) a2
Phân phối tiên nghiệm mơ hồ trong phương trình 2.5 là một phan phối tiên nghiệm không thực sự Do là
Một phân phối tiên nghiệm mơ hồ cho một kì vọng giá trị vectơ chang hạn như cho một phân phối chuẩn nhiều chiều cũng giống như với phân phối chuẩn vô hướng p(t) x (một hằng số), (27) ở đây = (Mì Lp).
Một phân phối tiên nghiệm mơ hồ cho một kì vọng giá trị ma trận chẳng hạn như cho một phân phối chuẩn ma trận cũng giống như với phân phối chuẩn vo hướng và vectd
), (2.8) ở đây ma trận M là M = (ị, , „)/ Các dòng của M là các cá thể vectở
CHƯƠNG 2 MO DẦU VỀ THONG KE BAYES NHIEU CHIEU
Tổng quát phân phối tiên nghiệm mơ hồ của một đơn biến trên một biến tới ma trận hiệp phương sai là p(9) x [BPE (2.9) p+l1
2.1.2 Phân phối tiên nghiệm liên hợp
Phân phối tiên nghiệm liên hợp là phân phối tiên nghiệm có thông tin Các phân phối tiên nghiệm liên hợp theo một cách tự nhiên từ thống kê cổ điển Nó được biết rằng nếu chúng ta đặt dữ liệu có được thành 2 phần, sau đó phân tích cho lấy từ phần thứ nhất như là một tiên nghiệm cho phần thứ hai là một phân tích trong đó có cả hai phần.
Các quan sát có thể được được xác định dựa trên một phân phối chuẩn vô hướng, z|u,ứơ2 ~ N(,07) với o? cú thể biết hoặc khụng biết hàm hợp lớ là
1 _ (œ=w)2 p(e|u.ứ) œ (ứ)*%e~ “54”, (2.10) điều này thường được gọi là nhân của phân phối chuẩn.
Nếu chúng ta trao đổi vai trò của x và p, thì chúng ta đạt được
D(H) x (0) Fe BF, (2.11) do đó ngụ ý rang chúng ta nên chon phân phối tiên nghiệm cho p từ ho các phân phối chuẩn.
Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho p là
1 ¡—mo)2 p(u|ứ3) x (ứ3)~3e— “2T, (2.12) ở đây chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dụng vì vậy nó không phụ thuộc vào dữ liệu Định lượng po là một siêu tham số được xác định Bằng cách định lượng cỏc vụ hướng pio và ứ?, phõn phối chuẩn tiờn nghiệm là hoàn toàn được xỏc định.
CHƯƠNG 2 MO DẦU VỀ THONG KE BAYES NHIEU CHIEU
Phan phéi Gamma nghich dao
Nếu chỳng ta trỏo đổi vai trũ của x và ứ? trong ham hợp lớ, thi
2 2v -d _ œ=„)2 p(ơ2) x (02) 2e7 3z, (2.13) do đó ngụ ý rằng chúng ta nên chon phân phối tiên nghiệm cho o? từ ho phân phối
Sau đú chỳng ta lựa chọn như phõn phối tiờn nghiệm cho ứ? p(ỉ”) x (7) 2e” 2s, (2.14) ở đây chúng ta có thể làm tốt hơn phân phối tiên nghiệm với việc sử dụng g vì vậy nó khụng phụ thuộc vào dữ liệu Định lượng ứ là một siờu tham số được xỏc định Bằng cách định lượng các vô hướng g và 1, phân phối Gamma nghịch đảo tiên nghiệm là hoàn toàn được xác định.
Sử dụng quá trình liên hợp để đạt được phân phối tiên nghiệm, chúng ta có bảng
Bảng 2.1: Phân phối tiên nghiệm 1 chiều
Hàm hợp lí Các tham số | Phân bố tiên nghiệm
Phõn phối chuẩn vụ hướng, ứ? đó biết u Chuẩn
Phân phối chuẩn vô hướng, p đã biết ơ? Gamma nghịch đảo
Phõn phối chuẩn vụ hướng (u,ứ?) Chuẩn-Gamma nghịch đảo
Các quan sát có thể được xác định dựa trên một véctơ ngẫu nhiên có phân phối chuẩn nhiều chiều, z|u, ~ N(wu,) với © có thể biết hoặc không biết Ham hợp lí là p(z|u, 9) cx |S|T2e~3Œ=#'5”'=n), (2.15)
Nếu chúng ta tráo đổi vai trò của x và py, thì p() % |ĐỊT?e~308=#® 1072), (2.16)
CHƯƠNG 2 MO DẦU VỀ THONG KE BAYES NHIEU CHIEU do đó gợi ý rang chúng ta nên chọn phân phối tiên nghiệm cho p tit ho phân phối chuẩn.
Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho p là p(u|9) o¢ [BỊ >e~>(~mg)!'5 10m), (2.17) ở đây chúng ta làm giàu hơn phân phối tiên nghiệm với việc sử dung / vì vậy nó không phụ thuộc vào dữ liệu Dai lượng vectơ po là một siêu tham số cần xác định.
Bằng cỏch định rừ vectd jp và ma trận ằ, phõn phối chuẩn tiờn nghiệm vectơ hoặc nhiều chiều là hoàn toàn được xác định.
Phân phối Wishart nghịch đảo
Nếu chúng ta tráo đổi vai trò của z va Ð trong hàm hợp lí chuẩn vectơ hoặc nhiều chiều và sử dụng tính chất của toán tử vết, thì p(S) ox |S|T?e7?375 ew)! ew) (2.18) do đó ngụ ý rằng chúng ta nên chon phân phối tiên nghiệm cho ¥ từ ho phân phối
Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho © là p(Đ) x |S| 5e ?"® "9, (2.19) ở đây chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dụng Q và v vì vậy nó không phụ thuộc vào dit liệu Định lượng của v và Q là các siêu tham số được xác định Bằng cách định lượng ma trận Q và vô hướng v, phân phối Wishart nghịch đảo nghiệm là hoàn toàn được xác định.
Sử dụng quá trình liên hợp để đạt được phân phối tiên nghiệm, chúng ta có bảng 2.2 ở đây "TW" được sử dụng để kí hiệu phân phối Wishart nghịch đảo.
Bảng 2.2: Véctơ tiên nghiệm liên hợp
Hàm hợp lí Các tham số | Họ tiên nghiệm
Phân phối chuẩn nhiều chiều, biết © u Chuẩn nhiều chiều Phõn phối chuẩn nhiều chiều, biết ằ Whishart nghịch đảo Phân phối chuẩn nhiều chiều (u,>) Chuan-IW
CHƯƠNG 2 MO DẦU VỀ THONG KE BAYES NHIEU CHIEU
Phân phối chuẩn của ma trận X
Phan phối tiên nghiệm co 18
Phân phối tiên nghiệm lên hợp
Phân phối tiên nghiệm liên hợp là phân phối tiên nghiệm có thông tin Các phân phối tiên nghiệm liên hợp theo một cách tự nhiên từ thống kê cổ điển Nó được biết rằng nếu chúng ta đặt dữ liệu có được thành 2 phần, sau đó phân tích cho lấy từ phần thứ nhất như là một tiên nghiệm cho phần thứ hai là một phân tích trong đó có cả hai phần.
Các quan sát có thể được được xác định dựa trên một phân phối chuẩn vô hướng, z|u,ứơ2 ~ N(,07) với o? cú thể biết hoặc khụng biết hàm hợp lớ là
1 _ (œ=w)2 p(e|u.ứ) œ (ứ)*%e~ “54”, (2.10) điều này thường được gọi là nhân của phân phối chuẩn.
Nếu chúng ta trao đổi vai trò của x và p, thì chúng ta đạt được
D(H) x (0) Fe BF, (2.11) do đó ngụ ý rang chúng ta nên chon phân phối tiên nghiệm cho p từ ho các phân phối chuẩn.
Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho p là
1 ¡—mo)2 p(u|ứ3) x (ứ3)~3e— “2T, (2.12) ở đây chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dụng vì vậy nó không phụ thuộc vào dữ liệu Định lượng po là một siêu tham số được xác định Bằng cách định lượng cỏc vụ hướng pio và ứ?, phõn phối chuẩn tiờn nghiệm là hoàn toàn được xỏc định.
CHƯƠNG 2 MO DẦU VỀ THONG KE BAYES NHIEU CHIEU
Phan phéi Gamma nghich dao
Nếu chỳng ta trỏo đổi vai trũ của x và ứ? trong ham hợp lớ, thi
2 2v -d _ œ=„)2 p(ơ2) x (02) 2e7 3z, (2.13) do đó ngụ ý rằng chúng ta nên chon phân phối tiên nghiệm cho o? từ ho phân phối
Sau đú chỳng ta lựa chọn như phõn phối tiờn nghiệm cho ứ? p(ỉ”) x (7) 2e” 2s, (2.14) ở đây chúng ta có thể làm tốt hơn phân phối tiên nghiệm với việc sử dụng g vì vậy nó khụng phụ thuộc vào dữ liệu Định lượng ứ là một siờu tham số được xỏc định Bằng cách định lượng các vô hướng g và 1, phân phối Gamma nghịch đảo tiên nghiệm là hoàn toàn được xác định.
Sử dụng quá trình liên hợp để đạt được phân phối tiên nghiệm, chúng ta có bảng
Bảng 2.1: Phân phối tiên nghiệm 1 chiều
Hàm hợp lí Các tham số | Phân bố tiên nghiệm
Phõn phối chuẩn vụ hướng, ứ? đó biết u Chuẩn
Phân phối chuẩn vô hướng, p đã biết ơ? Gamma nghịch đảo
Phõn phối chuẩn vụ hướng (u,ứ?) Chuẩn-Gamma nghịch đảo
Các quan sát có thể được xác định dựa trên một véctơ ngẫu nhiên có phân phối chuẩn nhiều chiều, z|u, ~ N(wu,) với © có thể biết hoặc không biết Ham hợp lí là p(z|u, 9) cx |S|T2e~3Œ=#'5”'=n), (2.15)
Nếu chúng ta tráo đổi vai trò của x và py, thì p() % |ĐỊT?e~308=#® 1072), (2.16)
CHƯƠNG 2 MO DẦU VỀ THONG KE BAYES NHIEU CHIEU do đó gợi ý rang chúng ta nên chọn phân phối tiên nghiệm cho p tit ho phân phối chuẩn.
Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho p là p(u|9) o¢ [BỊ >e~>(~mg)!'5 10m), (2.17) ở đây chúng ta làm giàu hơn phân phối tiên nghiệm với việc sử dung / vì vậy nó không phụ thuộc vào dữ liệu Dai lượng vectơ po là một siêu tham số cần xác định.
Bằng cỏch định rừ vectd jp và ma trận ằ, phõn phối chuẩn tiờn nghiệm vectơ hoặc nhiều chiều là hoàn toàn được xác định.
Phân phối Wishart nghịch đảo
Nếu chúng ta tráo đổi vai trò của z va Ð trong hàm hợp lí chuẩn vectơ hoặc nhiều chiều và sử dụng tính chất của toán tử vết, thì p(S) ox |S|T?e7?375 ew)! ew) (2.18) do đó ngụ ý rằng chúng ta nên chon phân phối tiên nghiệm cho ¥ từ ho phân phối
Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho © là p(Đ) x |S| 5e ?"® "9, (2.19) ở đây chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dụng Q và v vì vậy nó không phụ thuộc vào dit liệu Định lượng của v và Q là các siêu tham số được xác định Bằng cách định lượng ma trận Q và vô hướng v, phân phối Wishart nghịch đảo nghiệm là hoàn toàn được xác định.
Sử dụng quá trình liên hợp để đạt được phân phối tiên nghiệm, chúng ta có bảng 2.2 ở đây "TW" được sử dụng để kí hiệu phân phối Wishart nghịch đảo.
Bảng 2.2: Véctơ tiên nghiệm liên hợp
Hàm hợp lí Các tham số | Họ tiên nghiệm
Phân phối chuẩn nhiều chiều, biết © u Chuẩn nhiều chiều Phõn phối chuẩn nhiều chiều, biết ằ Whishart nghịch đảo Phân phối chuẩn nhiều chiều (u,>) Chuan-IW
CHƯƠNG 2 MO DẦU VỀ THONG KE BAYES NHIEU CHIEU
Phân phối chuẩn của ma trận X
Các quan sát có thể được xác định dựa trên một phân phối chuẩn ma trận, XỊM,®,5~ N(M,® @ Ð) với ® và Ð có thể biết hoặc không biết Phân phối chuẩn ma trận hàm hợp lí là p(X|M,5,®) cx |®| ?|S| ®e-z7#!(X—M)S"!(X—M), (2.20)
Nếu chúng ta tráo đổi vai trò của X và M, thì p(M) x || |S|T2e~?n9 1(M—X)S MXN (2.21) do đó ngụ ý rằng chúng ta nên chọn phân phối tiên nghiệm cho M từ họ phân phối chuẩn ma trận.
Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho M là p(M|S, ®) oc |ð| Z|B| Few zh CM MoE (M Mo)’ (2.22) ở day chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dụng Mo vi vậy nó không phụ thuộc vào dữ liệu Dinh lượng Mo là một siêu tham số được xác định Bang cách định lượng ma trận Mp và ma trận ® và ©, phân phối chuẩn ma trận tiên nghiệm là hoàn toàn được xác định.
Phân phối Wishart nghịch đảo
Nếu chúng ta tráo đổi vai trò của X và Ð trong hàm hợp lí chuẩn ma trận và sử dụng tính chất của toán tử vết, thì p(X) oc |®| -?|S| Few Bh AMEN n 1 XM (2.23) do đó ngụ ý rang chúng ta nên chon phân phối tiên nghiệm cho ¥ từ họ phân phối
Sau đú chỳng ta lựa chọn như phõn phối tiờn nghiệm cho ằ là p(3) x |S|T?e-2"5 19, (2.24) ở day chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dụng Q và vì vậy nó không phụ thuộc vào dit liệu Dinh lượng của v và Q là các siêu tham số được xác
CHƯƠNG 2 MO DẦU VỀ THONG KE BAYES NHIEU CHIEU định Bằng cách định lượng ma trận Q và vô hướng v, phân phối Wishart nghịch đảo nghiệm là hoàn toàn được xác định.
Tương tự như phân phối chuẩn ma trận hợp lí, hoán đổi vai trò cho ® p(®|X, M,¥) oc |ð|-5|S| ?e-29!(X-M)S"!(X- MỸ, (2.25) do đó ngụ ý rằng chúng ta nên chon phân phối tiên nghiệm cho Ð từ họ phân phối
Phân phối tiên nghiệm tổng quát
Đôi khi, phân phối tiên nghiệm liên hợp không đủ để định lượng những tiên nghiệm trước khi chúng ta có giá trị các tham số Trong trường hợp này, phân phối tiên nghiệm liên hợp tổng quát có thể được sử dụng Phân phối tiên nghiệm liên hợp tổng quát được tìm ra bằng cách viết dưới hàm hợp lí, bằng cách tráo đổi vai trò của biến ngẫu nhiên và tham số, chúng làm tốt hơn phân phối vì vậy nó không phụ thuộc vào dữ liệu, và giả sử rằng phân phối tiên nghiệm trên mỗi tham số là độc lập.
CHƯƠNG 2 MO DẦU VỀ THONG KE BAYES NHIEU CHIEU
Vectơ ngẫu nhiên 0.000000 2 eee 25
Các quan sát có thể được xác định dựa trên một phân phối chuẩn nhiều chiều hoặc vectơ, #|u,3~ N(p,X) với Ð có thể biết hoặc không biết Hàm hợp lí là p(z|u,) oc [S|T2e~>~®'œ=n), (2.27)
Nếu chúng ta tráo đổi vai trò của x và p, thì p(t) x |S|T?e~30=2/® 102), (2.28) do đó ngụ ý rằng chúng ta nên chọn phân phối tiên nghiệm cho yp từ họ phân phối chuẩn.
Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho p là p(w) x |A|-2e7 20H #0)' AH Ho) (2.29) ở day chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dung pip vi vậy nó không phụ thuộc vào di liệu và tạo nờn tớnh độc lập của cỏc tham số khỏc ằ thụng qua A. Dinh lượng po va A là các siêu tham số được xác định Bằng cách định lượng vectở ọ và ma trận A, phân phối chuẩn tiên nghiệm nhiều chiều là hoàn toàn được xác định.
2.1.4.2 Phan phối Wishart nghịch đảo
Nếu chúng ta tráo đổi vai trò của z va Ð trong hàm hợp lí chuẩn vectơ hoặc nhiều chiều và sử dụng tính chất của toán tử vết, thì p(S) ox |S| 2e? ew") (2.30) do đú ngụ ý rằng chỳng ta nờn chọn phõn phối tiờn nghiệm cho ằ từ họ phõn phối
Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho Ð là p(3) ox |S|T?e2"5 19, (2.31) ở day chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dụng Q và vì vậy nó không phụ thuộc vào dữ liệu Dinh lượng của v và Q là các siêu tham số được xác
CHƯƠNG 2 MO DẦU VỀ THONG KE BAYES NHIEU CHIEU định Bằng cách định lượng ma trận Q và vô hướng v, phân phối Wishart nghịch đảo nghiệm là hoàn toàn được xác định Phương pháp liên hợp tổng quát cho phân phối tiên nghiệm cho 3 tương tự như phương phap liên hợp.
Sử dụng phương pháp liên hợp tổng quát để đạt được phân phối tiên nghiệm, chúng ta có bảng 2.4, ở day "IW" được sử dụng để kí hiệu phân phối Wishart nghịch đảo và GMN là phân phối ma trận chuẩn tổng quát.
Bảng 2.4: Phân phối tiên nghiệm liên hợp vectơ tổng quát
Hàm hợp lí Các tham số | Họ tiên nghiệm
Phân phối chuẩn nhiều chiều, biết © u GMN Phõn phối chuẩn nhiều chiều, biết ằ Whishart nghịch dao Phan phối chuẩn nhiều chiều (ut, 5) GMN-IW
Các quan sát có thể được xác định dựa trên một phân phối chuẩn ma trận, X|M, 0,0 ~ N(M, © @TM%) với ® và Ð có thể biết hoặc không biết Phân phối chuẩn ma trận hợp lí là p(X|M,D, ®) x |ð| ?|S|T?e-?zm®'(X