1. Trang chủ
  2. » Luận Văn - Báo Cáo

Luận văn thạc sĩ khoa học: Thống kê Bayes nhiều chiều và ứng dụng

77 2 0
Tài liệu đã được kiểm tra trùng lặp

Đang tải... (xem toàn văn)

Tài liệu hạn chế xem trước, để xem đầy đủ mời bạn chọn Tải xuống

THÔNG TIN TÀI LIỆU

Thông tin cơ bản

Tiêu đề Thống kê Bayes nhiều chiều và ứng dụng
Tác giả Trần Anh Tuấn
Người hướng dẫn GS.TSKH. Đặng Hùng Thắng
Trường học Đại học Quốc gia Hà Nội
Chuyên ngành Lí thuyết xác suất và thống kê toán
Thể loại Luận văn thạc sĩ khoa học
Năm xuất bản 2015
Thành phố Hà Nội
Định dạng
Số trang 77
Dung lượng 12,39 MB

Cấu trúc

  • 1.1.1 Phân phối chuẩn nhiều chiều (9)
  • 1.1.2 Phân phối Student nhiều chều£ (0)
  • 1.2 Phân phối của ma trận ngẫu nhiên (11)
  • 12.1 Phân phối chuẩn matrận (11)
    • 1.2.2 Phân phối Wishart... 2... .0.00.000 002.000.2000 0008 11 (0)
    • 1.2.3 Phân phối Wishart nghịch đảo (14)
    • 1.2.4 Phân phdimatranT..... 0.0.00... 0000000000 14 (0)
  • 1.3 Vectơ ngẫu nhiên liên tục ......... . ee 15 (17)
  • 1.4 Ma trận ngẫu nhiên liên tục ................. 2.00004 16 Chương 2. Mở đầu về thống kê Bayes nhiều chiều (18)
  • 2.1 Phan phối tiên nghiệm ................... co. 18 (0)
    • 2.1.1 Phân phối tiên nghệm mơhồ (0)
    • 2.1.2 Phân phối tiên nghiệm lên hợp (22)
    • 2.1.3 Phân phối tiên nghiệm tổng quát (26)
    • 2.1.4 Vectơ ngẫu nhiên ............ 0.000000. 2 eee 25 (27)
    • 2.1.5 Phân phối tiên nghiệm tương quan (30)
  • 2.2 Đánh giá siêu tham sỐ .. 2... 0.0000. ee 3l (33)
    • 2.2.1 Hàm hợp lí phân phối chuẩn nhiều chiều (33)
    • 2.2.2 Hàm hợp lí phân phối chuẩn ma trận (34)
  • 2.3 Phương pháp ước lượng Bayes... 2... en 34 (36)
    • 2.3.1 Trung bình biên duyên hậu nghiệm (37)
    • 2.3.2 Tối đa hóa hậu nghiệm (49)
  • Chương 3. Hồi quy Bayes và áp dụng......... .. c Q Q Q ee 51 (9)
    • 3.1 Mô hình hồi quy tuyến tinh đabiến (0)

Nội dung

Chương 1Các phan phôi xác suât nhiều chiềuquan trọng1.1 Phân phối nhiều chiềuMột p-biến vectơ quan sát x là một tập hợp của p qua sát vô hướng, được kí hiệu1.1.1 Phân phối chuẩn nhiều ch

Phân phối chuẩn nhiều chiều

p-biến ngẫu nhiên phân phối chuẩn nhiều chiều được sử dụng để miêu tả đồng thời p biến ngẫu nhiên giá trị thực liên tục.

Một biến ngẫu nhiên tuân theo quy luật p-bién ngẫu nhiên phân phối chuẩn nhiều chiều với vectơ kì vọng và ma trận hiệp phương sai © được kí hiệu là z|u,3~ Nứu,>), (1.1) ở day tham số (1, ©) được cho bởi p(zlu,#) = (9n)~Ÿ |S|T? em Bee) (12)

CHƯƠNG 1 CAC PHAN PHOI XÁC SUẤT NHIÊU CHIEU QUAN TRỌNG ở day R? kí hiệu là tap các số thực p-chiéu và © > 0 là ma trận p-chiều xác định dương Tính chất: kì vọng, mode, phương sai của phân phối chuẩn nhiều chiều là

Mode (2|u, ©) = ps, (1.5) var (œ|H, 4) = 3, (1.6) điều này có thé tim được bằng phép lấy vi phan va tích phan.

Vì z là một phân phối chuẩn nhiều chiều, phân phối điều kiện và phân phối biên duyên của tập con bất kì là phân phối chuẩn nhiều chiều. p-biến ngẫu nhiên phân phối chuẩn nhiều chiều với moomen cấp một và cấp hai hội tụ tới trung bình theo định lí giới hạn trung tâm.

1.1.2 Phan phối Student nhiều chiều t t-phân phối Student nhiều chiều được sử dụng để mô tả các biến ngẫu nhiên giá trị thực liên tục với "cái đuôi nặng hơn" phân phối chuẩn nhiều chiều N6 có nguồn gốc bởi a~ N(u,ó ”) vaG~ W(E,p,v), (1.7) đổi biến t=1?G~3(# — m) + tạ và WW = G, (1.8) với Jacobian

J(x,G + t,W) = 3W3, (1.9) và sau đó lấy tích phân đối với W/ Trong phép lấy đạo hàm, z có thể là trung bình của biến độc lập và biến đồng nhất vectơ phân phối chuẩn với cùng ma trận kì vọng và hiệp phương sai, trong khi Œ có thể là tổng bình phương độ lệch của các biến với trung bình của chúng.

Một biến ngẫu nhiên tuân theo t-phan phối Student nhiều chiều được kí hiệu là tv, to, 5, @Ỳ ~ t(v, to, 5, đồ), (1.10)

CHƯƠNG 1 CAC PHAN PHOI XÁC SUẤT NHIÊU CHIEU QUAN TRỌNG ở đây tham số (v, to, 2, 6”) được cho bởi p(t|v, to, 3, 0°) = vip? (1.11)

VỚI te R?, vER*, t CR’, ©>0, 6ER* (1.13) Tính chat: kì vọng, mode, phương sai của f-phân phối Student nhiều chiều là

Mode(t\v, to, ©, ¢°) = to, (1.15) var(t\v, to, 5,42) = — sói, (1.16) y— điều này có thể tim được bang phép lấy vi phan và tích phân Chú ý rằng các tham số này là một sự tổng quát được sử dụng, có thể tìm được khi ¢? = 1.

Kì vọng của biến ngẫu nhiên t-phan phối Student nhiều chiều chỉ có thể tồn tại với

> 1 và phương sai chỉ có thể tồn tại với > 2 Khi = 1, f-phân phối Student nhiều chiều là phân phối Cauchy nhiều chiều mà kì vọng và phương sai hoặc mô men cấp 1 và mô men cấp 2 không tồn tại.

Khi số bậc tự do là tăng, một biến ngẫu nhiên f-phân phối vô hướng Student nhiều chiều t ~ t(v, to, â, ỉ2) hội tụ tới phõn phối chuẩn t ~ N(to, 23).

1.2 Phân phối của ma trận ngẫu nhiên

1.2.1 Phân phối chuẩn ma trận

Phân phối chuẩn ma trận n x p có thể được coi như là trường hợp đặc biệt np-bién ngẫu nhiên phân phối chuẩn nhiều chiều khi mà ma trận hiệp phương sai là tách được.

Kí hiệu np-phan phối chuẩn nhiều chiều với các ma trận kì vọng toán p là np-chiéu và np X np ma trận hiệp phương sai 2 bởi p(z|n,9) = (2m) F |Q|T? eB WO ew), (1.17)

CHƯƠNG 1 CAC PHAN PHOI XÁC SUẤT NHIÊU CHIEU QUAN TRỌNG

Một ma tran có thé tách được là ma trận có dạng 2 = ®@3 ở đây @ là tích Kronecker, tích này làm tăng bội lần tất cả các phần tử của ma trận thứ nhất bởi toàn bộ ma trận thứ hai.

Tớch Kronecker của đ và ằ là cỏc ma trận tương ứng n và p chiều, là oyu a Pind

Thế ma trận hiệp phương sai tách được vào phân phối trên ta được p (alt, 0, ®) = (2n) > [© @ ĐỊT? @ BAH) (PB) ew), (1.19) với đồng nhất thức ma trận ở trên

6 đõy ô = (X') = (z1, ,z,), X” = (a1, ,0n),u = vec(M’) = (HỊ, , tự), va H n

Mĩ = (tì, , fm), thì phương trình 1.19 trở thành p(X|M, 3,8) = (2m)? |ð[ ?|Đ| ?e 98 MIEN MY (1.20)

Một ma trận ngẫu nhiên có phân phối chuẩn ma trận n x p được kí hiệu

X|M,ằ,đ~ N(M,đ &3)) (1.21) ở đây (A/, 3, ®) là các tham số của phân phối trên với

X€R**", McR*“”,ằ,đ>0 (1.22) các ma trận © và ® thường được gọi là ma trận hiệp phương sai trong và giữa Thỉnh thoảng cũng được gọi là ma trận hiệp phương sai phải và trái.

Tính chất: kì vọng, mode và phương sai của phân phối chuẩn ma trận là

CHƯƠNG 1 CAC PHAN PHOI XÁC SUẤT NHIÊU CHIEU QUAN TRỌNG điều này có thể tim được bằng phép lấy vi phân va tích phân.

Khi X là một phân phối chuẩn ma trận, phân phối điều kiện và phân phối biên duyên của bất kì hàng hoặc cột là phân phối chuẩn nhiều chiều Nó cũng có thể được kí hiệu là kì vọng dòng thứ ¿ của X là z;, dòng thứ ¡ của Ä⁄ là , và hiệp phương sai của dong thứ 7 của X là ó„>, ở đây ở¿ là phần tử dòng thứ i và cột thứ i của & Hiệp phương sai giữa thứ ¿ và dũng thứ i của X là đ/,ằ, ở đõy ớj, là phần tử dũng thứ i và cột thứ i của ® Tương tự, kì vọng của cột 7 của X là cột thứ 7 của M và hiệp phương sai giữa thứ j và cột thứ 7' của X là ứ;zđ. Đơn giản chỉ cần đặt, nếu vy

Mn div được kớ hiệu là phan tử thứ ii’ cha đ va ứ;; được kớ hiệu là phan tử thứ jj’ của â thì var (xi|Mi, bu, 3) = Oud, (1.28) cou(xi, Uji, Mj, Pir L) = biwd (1.29)

Một biến ngẫu nhiên Wishart được chỉ ra như là tích chuyển vị G = (X — M)'(X — AM), 6 đây X là phân phối chuẩn ma trận vp x p với ma trận kì vọng M và ma trận hiệp phương sai T,, @ Y Chú ý rằng, nếu p = 1, đây là tổng bình phương của

⁄ạ biến ngẫu nhiên chuẩn quy tâm độc lập với cùng kì vọng và phương sai 0Ÿ, g= (#ìi — H)®+ - + („¿ — ð)2 Ma trận hiệp phương sai Y được đưa vào phan phối

CHƯƠNG 1 CAC PHAN PHOI XÁC SUẤT NHIÊU CHIEU QUAN TRỌNG

Wishart Một p x p ma trận đối xứng G tuân theo phan phối Wishart được kí hiệu

G|YT, p, ⁄o ~ W(T, p, vo) (1.32) ở đây tham số (YT, p, 2) được cho bởi p(GIY.p,m) = kw|[X|®|GI TT e6, (1.33)

6 đây or Yy+1l—J ky =2? a2 YP Gore ) (1.34) j=l

G>0,%€ERtT, T>0, (1.35) và ki hiệu ">0" được kí hiệu cho ca G va YT là các ma trận xác định dương Mặc dù phân phối Wishart được dẫn xuất từ vp biến ngẫu nhiên vectơ chuẩn (một số nguyên dương), không có hạn chế rằng vp trong phân phối Wishart là giá trị nguyên.

Tính chất: Kì vọng, mode, và phương sai của phân phối Wishart là

Phân phối chuẩn matrận

Phân phối Wishart nghịch đảo

Một biến ngẫu nhiên phan phối Wishart nghịch dao © được chi ra như là nghịch đảo của một biến ngẫu nhiên có phân phối Wishart, © = G~! Một p x p ma trận ngẫu nhiên Ð tuân theo phân phối Wishart nghịch đảo được kí hiệu

CHƯƠNG 1 CAC PHAN PHOI XÁC SUẤT NHIÊU CHIEU QUAN TRỌNG ở đây tham số (Đ|Q,p, 1) được cho bởi p(®Iu,Q) = kny|Q|“SISIfe 3914, (1.41)

Enh _ tare pe) oe (“ 5 ?) (1.42) Pp j=l

5>0,ceR', Q>0 (1.43) Chú ý: Phép đổi biến từ G tới Ð,

Q=T !uyạ=w-—p—1, (1.44) và biến đổi Jacobian là

Mặc dù phân phối Wishart nghịch đảo được dẫn xuất tt — p — 1 vecto ngẫu nhiên chuẩn (một số nguyên dương), không có hạn chế rằng v trong phân phối Wishart nghịch đảo là giá trị nguyên.

Tính chất: Kì vọng, mode, và phương sai của phân phối Wishart nghịch đảo là b0 =———— 1.46 (Slz9)=y——s

Quđụu + FZ 2p—2 đi iil |Y, = ; 1.49 var owls Q) = a5 Tw Bp — 2) = Bp — 3) 2 papa i Vis! + đỏiđứứ F Vie Mw coU0(ỉĂứ; Tw +Y,Q) = 2p? 1.50

(v — 2p — 1)(v — 2p — 2)(v — 2p — 4)’ điều này có thể tim được bằng phép lấy vi phân và tích phan Kì vọng được xác định khi vy > 2p+2, trong khi đó phương sai và hiệp phương sai được xác định khi > 2p+4.

Phương sai được xác định khi i # Ở đây oi; và qi; kí hiệu là phần tử cấp ij của > và

CHƯƠNG 1 CAC PHAN PHOI XÁC SUẤT NHIÊU CHIEU QUAN TRỌNG

T-phân phối ma trận Student được sử dụng để mô tả các biến ngẫu nhiên liên tục với cái đuôi nặng hơn phân phối chuẩn Nó có nguồn gốc bởi

J(X,G—T,W) =u®”W? (1.53) và sau đó lấy tích phân đối với W Trong phép lấy đạo hàm, X có thé là trung bình của biến độc lập và biến đồng nhất ma trận phân phối chuẩn với cùng kì vọng và phương sai, trong khi G có thể là tổng bình phương độ lệch của các biến với trung bình của chúng.

Một biến ngẫu nhiên 7' tuân theo 7-phân phối ma trận Student được kí hiệu là

TỊU, Tạ, 3, ® ~ T(v, Tạ, >, ®), (1.54) ở đây tham số (1, Tạ, ©, ®) được cho lỉl/II? p(T |v, To, >, ®) = kr rap) (1.55)

Tính chất: Kì vọng, mode, và phương sai của 7-phân phối ma trận Student là

Mode(T|v, To, >5, ®) = Tạ, (1.59) cov(vec(T’)|v, Ty, >, ®) = —s(# 25), (1.60)

Phân phdimatranT 0.0.00 0000000000 14

điều này có thể tim được bằng phép lấy vi phan va tích phan Chú ý rằng trong các tham số, các bậc tự do và ma trận ® được nhóm như là các ma trận đơn.

Vì T trong T-phan phối ma trận Student, phân phối điều kiện va phân phối biên duyên của dòng hoặc cột bất kì của T là t-phan phối Student nhiều chiều.

Kì vọng của T-phan phối ma trận Student tồn tại với > 1 và phương sai tồn tại với vy > 2 Khi tham số = 1, 7-phân phối ma trận Student là phân phối ma trận Cauchy với kì vọng và phương sai hoặc moment cấp 1 và moment cấp 2 không tồn tại Khi số bậc tự do v tăng, một biến ngẫu nhiên ma trận là 7-phân phối ma trận Student, 7 ~ 7, Tạọ, 3, ®) xấp xỉ bởi phân phối chuẩn ma trận T ~ N(7ạ, ® @ 3).

Biến ngẫu nhiên nhiều chiều tổng quát của phân phối nhị thức và phân phối Beta cũng tồn tại Vì chúng không được sử dụng trong tài liệu này, chúng được bỏ qua.

Vectơ ngẫu nhiên liên tục ee 15

Chúng ta thường có nhiều biến đo được trên một cá thể; vì vậy, chúng ta hiếm khi quan tâm đến một biến ngẫu nhiên duy nhất Chúng ta quan tâm vectơ quan sats p-chiéu #, ,#„ 6 đây #¿ = (#, ,#„)“ với i = 1, ,n Các quan sát được xác định từ một phõn phối với cỏc tham số 6, ,07 ở đõy ỉ cú thộ là vụ hướng, vectơ hoặc ma trận.

Tiên nghiệm: Chúng ta có thể lượng hóa tiên nghiệm (trước khi thực hiện các thí nghiệm và thu thập dữ liệu) theo hình thức phân phối tiên nghiệm có điều kiện phụ thuộc các tham số

?(0\, , 0), (1.61) ở đây các tham số không cần độc lập.

Ham hợp lí: Với một mẫu độc lập kích thước n, phân phối có điều kiện phụ thuộc (hợp lí) của các vectơ quan sát là tích của các phân phối cá thể (hợp Ii) và được cho bởi p(4i, ,#a|Đi, ,ỉy) = H_Ăp(z;|60ỡ 8) (1.62)

Hậu nghiệm: Chúng ta áp dụng quy tắc Bayes để đạt được một phân phối hậu nghiệm cho các tham số Phân phối hậu nghiệm là

P(A, thở ,ỉ7)ép(1, thở „ đn |Úi, tà 07) p(#I,- ®n) p(Ó\, ,07|Z1, , nu) = › (1.63)

CHƯƠNG 1 CAC PHAN PHOI XÁC SUẤT NHIÊU CHIEU QUAN TRỌNG ở đây mau số được cho bởi Đ(#1, y#n) = f nlới 8)p(ei, si|fi 8,)đ8i + dB (1.64) ử day 0 = (01, ,0)).

Ghi nhớ rằng chúng ta có thể bỏ mau số đi để được p(ể, ,ỉ|#i, ,đạ) % é(ệ1, ,8)é(#1, ,#a|ệi, , ), (1.65) ở đõy "x" kớ hiệu là tỉ lệ và hằng số k khụng phụ thuộc vào cỏc biến ỉị, ,ỉ;, cú thể tìm được bằng cách lấy tích phân và điều này phát biểu rằng phân phối hậu nghiệm là ti lệ với tích của phân phối tiên nghiệm và hợp lí.

Ma trận ngẫu nhiên liên tục 2.00004 16 Chương 2 Mở đầu về thống kê Bayes nhiều chiều

Cũng như chúng ta vừa xem xét biến ngẫu nhiên giá trị vô hướng và vectơ, chúng ta cũng có thể xem xét biến ngẫu nhiên nhận giá trị là ma trận.

Tiên nghiệm: Chúng ta có thể lượng hóa những tiên nghiệm về các tham số với việc sử dụng phân phối tiên nghiệm có điều kiện phụ thuộc p(6:, 8), (1.66)

6 đây 6 có thể nhận giá trị là ma trận và các tham số không cần độc lập.

Ham hợp lí: Với một mau độc lập kích thước n, từ phân phối điều kiện phụ thuộc

P(X|61, ,07) của các quan sát ma trận là p(X, wee Xn, cưng 67) = TÚ p(Xi|01, wae , 07) (1.67)

Hậu nghiệm: Chúng ta áp dụng quy tắc Bayes dé đạt được một phân phối hậu nghiệm cho các tham số Phân phối hậu nghiệm là

0,, ,07|Xq, ,Xn) = ral p(O1,. ,O|X1, -,Xn) p(#ì #„) (1.68) ở đây mẫu số được cho bởi p(Xi, Ẩn) = / p(0\, 92)p(X:, Xl) 94, (1.69)

CHƯƠNG 1 CAC PHAN PHOI XÁC SUẤT NHIÊU CHIEU QUAN TRỌNG

Ghi nhớ rằng chúng ta có thể bỏ mẫu số đi để được p(6, ng 67|X1, g Xn) x p(9, ng 6)p(Äh, sae Xn|A1, sey 67), (1.70) điều này phát biểu rằng phân phối hậu nghiệm là tỉ lệ với tích của phân phối tiên nghiệm và hợp lí.

Từ phân phối hậu nghiệm, ước lượng của các tham số là đạt được Ước lượng của các tham số sẽ được trình bày sau.

Mở đầu về thống kê Bayes nhiều chiều `

2.1.1 Phân phối tiên nghiệm mơ hồ

Phân phối tiên nghiệm mơ hồ là phân phối tiên nghiệm không có thông tin có thể dựa trên bất kì một tham số là bị chặn (có một miền giá trị hữu hạn) hoặc không bị chặn (có một miền giá trị vô hạn).

Nếu một phân phối tiên nghiệm mơ hồ dựa trên một tham số 6 có một miền giá trị hữu hạn, trên khoảng (a;b), thì phân phối tiên nghiệm là phân phối đều trên khoảng (a;b) ngụ ý rằng tất cả các giá trị trong miền này đều có cùng khả năng cho trước.

0, nếu ỉ Â (a;b) và chúng ta viết p(ỉ) x (một hằng số) (2.2)

Một phân phối tiên nghiệm mơ hồ hơi khác một chút khi chúng ta xét trên một tham số không bị chặn.

CHƯƠNG 2 MO DẦU VỀ THONG KE BAYES NHIEU CHIEU

Xột ỉ = là kỡ vọng của phan phối chuẩn Nếu chỳng ta muốn đặt một phan phối đều tiên nghiệm trên nó, thì chúng ta có

0, nến ¢ (—d;a), ở đây a > oo và viết lại p(w) < (một hằng số) (2.4)

Nếu tham số ỉ = o? là phương sai của phõn phối chuẩn, thỡ chỳng ta lấy log(ứ?) là phõn phối đều trờn toàn bộ đường thẳng và biến đổi trở lại tới một phõn phối trờn ứ? chúng ta có po?) ô = (2.5) a2

Phân phối tiên nghiệm mơ hồ trong phương trình 2.5 là một phan phối tiên nghiệm không thực sự Do là

Một phân phối tiên nghiệm mơ hồ cho một kì vọng giá trị vectơ chang hạn như cho một phân phối chuẩn nhiều chiều cũng giống như với phân phối chuẩn vô hướng p(t) x (một hằng số), (27) ở đây = (Mì Lp).

Một phân phối tiên nghiệm mơ hồ cho một kì vọng giá trị ma trận chẳng hạn như cho một phân phối chuẩn ma trận cũng giống như với phân phối chuẩn vo hướng và vectd

), (2.8) ở đây ma trận M là M = (ị, , „)/ Các dòng của M là các cá thể vectở

CHƯƠNG 2 MO DẦU VỀ THONG KE BAYES NHIEU CHIEU

Tổng quát phân phối tiên nghiệm mơ hồ của một đơn biến trên một biến tới ma trận hiệp phương sai là p(9) x [BPE (2.9) p+l1

2.1.2 Phân phối tiên nghiệm liên hợp

Phân phối tiên nghiệm liên hợp là phân phối tiên nghiệm có thông tin Các phân phối tiên nghiệm liên hợp theo một cách tự nhiên từ thống kê cổ điển Nó được biết rằng nếu chúng ta đặt dữ liệu có được thành 2 phần, sau đó phân tích cho lấy từ phần thứ nhất như là một tiên nghiệm cho phần thứ hai là một phân tích trong đó có cả hai phần.

Các quan sát có thể được được xác định dựa trên một phân phối chuẩn vô hướng, z|u,ứơ2 ~ N(,07) với o? cú thể biết hoặc khụng biết hàm hợp lớ là

1 _ (œ=w)2 p(e|u.ứ) œ (ứ)*%e~ “54”, (2.10) điều này thường được gọi là nhân của phân phối chuẩn.

Nếu chúng ta trao đổi vai trò của x và p, thì chúng ta đạt được

D(H) x (0) Fe BF, (2.11) do đó ngụ ý rang chúng ta nên chon phân phối tiên nghiệm cho p từ ho các phân phối chuẩn.

Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho p là

1 ¡—mo)2 p(u|ứ3) x (ứ3)~3e— “2T, (2.12) ở đây chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dụng vì vậy nó không phụ thuộc vào dữ liệu Định lượng po là một siêu tham số được xác định Bằng cách định lượng cỏc vụ hướng pio và ứ?, phõn phối chuẩn tiờn nghiệm là hoàn toàn được xỏc định.

CHƯƠNG 2 MO DẦU VỀ THONG KE BAYES NHIEU CHIEU

Phan phéi Gamma nghich dao

Nếu chỳng ta trỏo đổi vai trũ của x và ứ? trong ham hợp lớ, thi

2 2v -d _ œ=„)2 p(ơ2) x (02) 2e7 3z, (2.13) do đó ngụ ý rằng chúng ta nên chon phân phối tiên nghiệm cho o? từ ho phân phối

Sau đú chỳng ta lựa chọn như phõn phối tiờn nghiệm cho ứ? p(ỉ”) x (7) 2e” 2s, (2.14) ở đây chúng ta có thể làm tốt hơn phân phối tiên nghiệm với việc sử dụng g vì vậy nó khụng phụ thuộc vào dữ liệu Định lượng ứ là một siờu tham số được xỏc định Bằng cách định lượng các vô hướng g và 1, phân phối Gamma nghịch đảo tiên nghiệm là hoàn toàn được xác định.

Sử dụng quá trình liên hợp để đạt được phân phối tiên nghiệm, chúng ta có bảng

Bảng 2.1: Phân phối tiên nghiệm 1 chiều

Hàm hợp lí Các tham số | Phân bố tiên nghiệm

Phõn phối chuẩn vụ hướng, ứ? đó biết u Chuẩn

Phân phối chuẩn vô hướng, p đã biết ơ? Gamma nghịch đảo

Phõn phối chuẩn vụ hướng (u,ứ?) Chuẩn-Gamma nghịch đảo

Các quan sát có thể được xác định dựa trên một véctơ ngẫu nhiên có phân phối chuẩn nhiều chiều, z|u, ~ N(wu,) với © có thể biết hoặc không biết Ham hợp lí là p(z|u, 9) cx |S|T2e~3Œ=#'5”'=n), (2.15)

Nếu chúng ta tráo đổi vai trò của x và py, thì p() % |ĐỊT?e~308=#® 1072), (2.16)

CHƯƠNG 2 MO DẦU VỀ THONG KE BAYES NHIEU CHIEU do đó gợi ý rang chúng ta nên chọn phân phối tiên nghiệm cho p tit ho phân phối chuẩn.

Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho p là p(u|9) o¢ [BỊ >e~>(~mg)!'5 10m), (2.17) ở đây chúng ta làm giàu hơn phân phối tiên nghiệm với việc sử dung / vì vậy nó không phụ thuộc vào dữ liệu Dai lượng vectơ po là một siêu tham số cần xác định.

Bằng cỏch định rừ vectd jp và ma trận ằ, phõn phối chuẩn tiờn nghiệm vectơ hoặc nhiều chiều là hoàn toàn được xác định.

Phân phối Wishart nghịch đảo

Nếu chúng ta tráo đổi vai trò của z va Ð trong hàm hợp lí chuẩn vectơ hoặc nhiều chiều và sử dụng tính chất của toán tử vết, thì p(S) ox |S|T?e7?375 ew)! ew) (2.18) do đó ngụ ý rằng chúng ta nên chon phân phối tiên nghiệm cho ¥ từ ho phân phối

Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho © là p(Đ) x |S| 5e ?"® "9, (2.19) ở đây chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dụng Q và v vì vậy nó không phụ thuộc vào dit liệu Định lượng của v và Q là các siêu tham số được xác định Bằng cách định lượng ma trận Q và vô hướng v, phân phối Wishart nghịch đảo nghiệm là hoàn toàn được xác định.

Sử dụng quá trình liên hợp để đạt được phân phối tiên nghiệm, chúng ta có bảng 2.2 ở đây "TW" được sử dụng để kí hiệu phân phối Wishart nghịch đảo.

Bảng 2.2: Véctơ tiên nghiệm liên hợp

Hàm hợp lí Các tham số | Họ tiên nghiệm

Phân phối chuẩn nhiều chiều, biết © u Chuẩn nhiều chiều Phõn phối chuẩn nhiều chiều, biết ằ Whishart nghịch đảo Phân phối chuẩn nhiều chiều (u,>) Chuan-IW

CHƯƠNG 2 MO DẦU VỀ THONG KE BAYES NHIEU CHIEU

Phân phối chuẩn của ma trận X

Phan phối tiên nghiệm co 18

Phân phối tiên nghiệm lên hợp

Phân phối tiên nghiệm liên hợp là phân phối tiên nghiệm có thông tin Các phân phối tiên nghiệm liên hợp theo một cách tự nhiên từ thống kê cổ điển Nó được biết rằng nếu chúng ta đặt dữ liệu có được thành 2 phần, sau đó phân tích cho lấy từ phần thứ nhất như là một tiên nghiệm cho phần thứ hai là một phân tích trong đó có cả hai phần.

Các quan sát có thể được được xác định dựa trên một phân phối chuẩn vô hướng, z|u,ứơ2 ~ N(,07) với o? cú thể biết hoặc khụng biết hàm hợp lớ là

1 _ (œ=w)2 p(e|u.ứ) œ (ứ)*%e~ “54”, (2.10) điều này thường được gọi là nhân của phân phối chuẩn.

Nếu chúng ta trao đổi vai trò của x và p, thì chúng ta đạt được

D(H) x (0) Fe BF, (2.11) do đó ngụ ý rang chúng ta nên chon phân phối tiên nghiệm cho p từ ho các phân phối chuẩn.

Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho p là

1 ¡—mo)2 p(u|ứ3) x (ứ3)~3e— “2T, (2.12) ở đây chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dụng vì vậy nó không phụ thuộc vào dữ liệu Định lượng po là một siêu tham số được xác định Bằng cách định lượng cỏc vụ hướng pio và ứ?, phõn phối chuẩn tiờn nghiệm là hoàn toàn được xỏc định.

CHƯƠNG 2 MO DẦU VỀ THONG KE BAYES NHIEU CHIEU

Phan phéi Gamma nghich dao

Nếu chỳng ta trỏo đổi vai trũ của x và ứ? trong ham hợp lớ, thi

2 2v -d _ œ=„)2 p(ơ2) x (02) 2e7 3z, (2.13) do đó ngụ ý rằng chúng ta nên chon phân phối tiên nghiệm cho o? từ ho phân phối

Sau đú chỳng ta lựa chọn như phõn phối tiờn nghiệm cho ứ? p(ỉ”) x (7) 2e” 2s, (2.14) ở đây chúng ta có thể làm tốt hơn phân phối tiên nghiệm với việc sử dụng g vì vậy nó khụng phụ thuộc vào dữ liệu Định lượng ứ là một siờu tham số được xỏc định Bằng cách định lượng các vô hướng g và 1, phân phối Gamma nghịch đảo tiên nghiệm là hoàn toàn được xác định.

Sử dụng quá trình liên hợp để đạt được phân phối tiên nghiệm, chúng ta có bảng

Bảng 2.1: Phân phối tiên nghiệm 1 chiều

Hàm hợp lí Các tham số | Phân bố tiên nghiệm

Phõn phối chuẩn vụ hướng, ứ? đó biết u Chuẩn

Phân phối chuẩn vô hướng, p đã biết ơ? Gamma nghịch đảo

Phõn phối chuẩn vụ hướng (u,ứ?) Chuẩn-Gamma nghịch đảo

Các quan sát có thể được xác định dựa trên một véctơ ngẫu nhiên có phân phối chuẩn nhiều chiều, z|u, ~ N(wu,) với © có thể biết hoặc không biết Ham hợp lí là p(z|u, 9) cx |S|T2e~3Œ=#'5”'=n), (2.15)

Nếu chúng ta tráo đổi vai trò của x và py, thì p() % |ĐỊT?e~308=#® 1072), (2.16)

CHƯƠNG 2 MO DẦU VỀ THONG KE BAYES NHIEU CHIEU do đó gợi ý rang chúng ta nên chọn phân phối tiên nghiệm cho p tit ho phân phối chuẩn.

Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho p là p(u|9) o¢ [BỊ >e~>(~mg)!'5 10m), (2.17) ở đây chúng ta làm giàu hơn phân phối tiên nghiệm với việc sử dung / vì vậy nó không phụ thuộc vào dữ liệu Dai lượng vectơ po là một siêu tham số cần xác định.

Bằng cỏch định rừ vectd jp và ma trận ằ, phõn phối chuẩn tiờn nghiệm vectơ hoặc nhiều chiều là hoàn toàn được xác định.

Phân phối Wishart nghịch đảo

Nếu chúng ta tráo đổi vai trò của z va Ð trong hàm hợp lí chuẩn vectơ hoặc nhiều chiều và sử dụng tính chất của toán tử vết, thì p(S) ox |S|T?e7?375 ew)! ew) (2.18) do đó ngụ ý rằng chúng ta nên chon phân phối tiên nghiệm cho ¥ từ ho phân phối

Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho © là p(Đ) x |S| 5e ?"® "9, (2.19) ở đây chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dụng Q và v vì vậy nó không phụ thuộc vào dit liệu Định lượng của v và Q là các siêu tham số được xác định Bằng cách định lượng ma trận Q và vô hướng v, phân phối Wishart nghịch đảo nghiệm là hoàn toàn được xác định.

Sử dụng quá trình liên hợp để đạt được phân phối tiên nghiệm, chúng ta có bảng 2.2 ở đây "TW" được sử dụng để kí hiệu phân phối Wishart nghịch đảo.

Bảng 2.2: Véctơ tiên nghiệm liên hợp

Hàm hợp lí Các tham số | Họ tiên nghiệm

Phân phối chuẩn nhiều chiều, biết © u Chuẩn nhiều chiều Phõn phối chuẩn nhiều chiều, biết ằ Whishart nghịch đảo Phân phối chuẩn nhiều chiều (u,>) Chuan-IW

CHƯƠNG 2 MO DẦU VỀ THONG KE BAYES NHIEU CHIEU

Phân phối chuẩn của ma trận X

Các quan sát có thể được xác định dựa trên một phân phối chuẩn ma trận, XỊM,®,5~ N(M,® @ Ð) với ® và Ð có thể biết hoặc không biết Phân phối chuẩn ma trận hàm hợp lí là p(X|M,5,®) cx |®| ?|S| ®e-z7#!(X—M)S"!(X—M), (2.20)

Nếu chúng ta tráo đổi vai trò của X và M, thì p(M) x || |S|T2e~?n9 1(M—X)S MXN (2.21) do đó ngụ ý rằng chúng ta nên chọn phân phối tiên nghiệm cho M từ họ phân phối chuẩn ma trận.

Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho M là p(M|S, ®) oc |ð| Z|B| Few zh CM MoE (M Mo)’ (2.22) ở day chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dụng Mo vi vậy nó không phụ thuộc vào dữ liệu Dinh lượng Mo là một siêu tham số được xác định Bang cách định lượng ma trận Mp và ma trận ® và ©, phân phối chuẩn ma trận tiên nghiệm là hoàn toàn được xác định.

Phân phối Wishart nghịch đảo

Nếu chúng ta tráo đổi vai trò của X và Ð trong hàm hợp lí chuẩn ma trận và sử dụng tính chất của toán tử vết, thì p(X) oc |®| -?|S| Few Bh AMEN n 1 XM (2.23) do đó ngụ ý rang chúng ta nên chon phân phối tiên nghiệm cho ¥ từ họ phân phối

Sau đú chỳng ta lựa chọn như phõn phối tiờn nghiệm cho ằ là p(3) x |S|T?e-2"5 19, (2.24) ở day chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dụng Q và vì vậy nó không phụ thuộc vào dit liệu Dinh lượng của v và Q là các siêu tham số được xác

CHƯƠNG 2 MO DẦU VỀ THONG KE BAYES NHIEU CHIEU định Bằng cách định lượng ma trận Q và vô hướng v, phân phối Wishart nghịch đảo nghiệm là hoàn toàn được xác định.

Tương tự như phân phối chuẩn ma trận hợp lí, hoán đổi vai trò cho ® p(®|X, M,¥) oc |ð|-5|S| ?e-29!(X-M)S"!(X- MỸ, (2.25) do đó ngụ ý rằng chúng ta nên chon phân phối tiên nghiệm cho Ð từ họ phân phối

Phân phối tiên nghiệm tổng quát

Đôi khi, phân phối tiên nghiệm liên hợp không đủ để định lượng những tiên nghiệm trước khi chúng ta có giá trị các tham số Trong trường hợp này, phân phối tiên nghiệm liên hợp tổng quát có thể được sử dụng Phân phối tiên nghiệm liên hợp tổng quát được tìm ra bằng cách viết dưới hàm hợp lí, bằng cách tráo đổi vai trò của biến ngẫu nhiên và tham số, chúng làm tốt hơn phân phối vì vậy nó không phụ thuộc vào dữ liệu, và giả sử rằng phân phối tiên nghiệm trên mỗi tham số là độc lập.

CHƯƠNG 2 MO DẦU VỀ THONG KE BAYES NHIEU CHIEU

Vectơ ngẫu nhiên 0.000000 2 eee 25

Các quan sát có thể được xác định dựa trên một phân phối chuẩn nhiều chiều hoặc vectơ, #|u,3~ N(p,X) với Ð có thể biết hoặc không biết Hàm hợp lí là p(z|u,) oc [S|T2e~>~®'œ=n), (2.27)

Nếu chúng ta tráo đổi vai trò của x và p, thì p(t) x |S|T?e~30=2/® 102), (2.28) do đó ngụ ý rằng chúng ta nên chọn phân phối tiên nghiệm cho yp từ họ phân phối chuẩn.

Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho p là p(w) x |A|-2e7 20H #0)' AH Ho) (2.29) ở day chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dung pip vi vậy nó không phụ thuộc vào di liệu và tạo nờn tớnh độc lập của cỏc tham số khỏc ằ thụng qua A. Dinh lượng po va A là các siêu tham số được xác định Bằng cách định lượng vectở ọ và ma trận A, phân phối chuẩn tiên nghiệm nhiều chiều là hoàn toàn được xác định.

2.1.4.2 Phan phối Wishart nghịch đảo

Nếu chúng ta tráo đổi vai trò của z va Ð trong hàm hợp lí chuẩn vectơ hoặc nhiều chiều và sử dụng tính chất của toán tử vết, thì p(S) ox |S| 2e? ew") (2.30) do đú ngụ ý rằng chỳng ta nờn chọn phõn phối tiờn nghiệm cho ằ từ họ phõn phối

Sau đó chúng ta lựa chọn như phân phối tiên nghiệm cho Ð là p(3) ox |S|T?e2"5 19, (2.31) ở day chúng ta làm tốt hơn phân phối tiên nghiệm với việc sử dụng Q và vì vậy nó không phụ thuộc vào dữ liệu Dinh lượng của v và Q là các siêu tham số được xác

CHƯƠNG 2 MO DẦU VỀ THONG KE BAYES NHIEU CHIEU định Bằng cách định lượng ma trận Q và vô hướng v, phân phối Wishart nghịch đảo nghiệm là hoàn toàn được xác định Phương pháp liên hợp tổng quát cho phân phối tiên nghiệm cho 3 tương tự như phương phap liên hợp.

Sử dụng phương pháp liên hợp tổng quát để đạt được phân phối tiên nghiệm, chúng ta có bảng 2.4, ở day "IW" được sử dụng để kí hiệu phân phối Wishart nghịch đảo và GMN là phân phối ma trận chuẩn tổng quát.

Bảng 2.4: Phân phối tiên nghiệm liên hợp vectơ tổng quát

Hàm hợp lí Các tham số | Họ tiên nghiệm

Phân phối chuẩn nhiều chiều, biết © u GMN Phõn phối chuẩn nhiều chiều, biết ằ Whishart nghịch dao Phan phối chuẩn nhiều chiều (ut, 5) GMN-IW

Các quan sát có thể được xác định dựa trên một phân phối chuẩn ma trận, X|M, 0,0 ~ N(M, © @TM%) với ® và Ð có thể biết hoặc không biết Phân phối chuẩn ma trận hợp lí là p(X|M,D, ®) x |ð| ?|S|T?e-?zm®'(X

Ngày đăng: 05/06/2024, 14:29

HÌNH ẢNH LIÊN QUAN

Bảng 2.1: Phân phối tiên nghiệm 1 chiều - Luận văn thạc sĩ khoa học: Thống kê Bayes nhiều chiều và ứng dụng
Bảng 2.1 Phân phối tiên nghiệm 1 chiều (Trang 23)
Bảng 2.2: Véctơ tiên nghiệm liên hợp - Luận văn thạc sĩ khoa học: Thống kê Bayes nhiều chiều và ứng dụng
Bảng 2.2 Véctơ tiên nghiệm liên hợp (Trang 24)
Bảng 2.3: Ma trận tiên nghiệm liên hợp - Luận văn thạc sĩ khoa học: Thống kê Bayes nhiều chiều và ứng dụng
Bảng 2.3 Ma trận tiên nghiệm liên hợp (Trang 26)
Bảng 2.4: Phân phối tiên nghiệm liên hợp vectơ tổng quát - Luận văn thạc sĩ khoa học: Thống kê Bayes nhiều chiều và ứng dụng
Bảng 2.4 Phân phối tiên nghiệm liên hợp vectơ tổng quát (Trang 28)
Bảng 3.1: Phân phối tiên nghiệm ma trận liên hợp - Luận văn thạc sĩ khoa học: Thống kê Bayes nhiều chiều và ứng dụng
Bảng 3.1 Phân phối tiên nghiệm ma trận liên hợp (Trang 63)
Bảng 3.2: Dữ liệu hồi quy Bayes và ma trận thiết kế (mẫu - Luận văn thạc sĩ khoa học: Thống kê Bayes nhiều chiều và ứng dụng
Bảng 3.2 Dữ liệu hồi quy Bayes và ma trận thiết kế (mẫu (Trang 64)
Bảng 3.3: Dữ liệu hồi quy Bayes và ma trận thiết kế (mẫu - Luận văn thạc sĩ khoa học: Thống kê Bayes nhiều chiều và ứng dụng
Bảng 3.3 Dữ liệu hồi quy Bayes và ma trận thiết kế (mẫu (Trang 66)
Bảng 3.6: Các hệ số thống kê - Luận văn thạc sĩ khoa học: Thống kê Bayes nhiều chiều và ứng dụng
Bảng 3.6 Các hệ số thống kê (Trang 69)
Hình 3.2: Quá trình hỗn hợp chưa biết - Luận văn thạc sĩ khoa học: Thống kê Bayes nhiều chiều và ứng dụng
Hình 3.2 Quá trình hỗn hợp chưa biết (Trang 72)
Hình 3.3: Ví dụ xử lí hỗn hợp - Luận văn thạc sĩ khoa học: Thống kê Bayes nhiều chiều và ứng dụng
Hình 3.3 Ví dụ xử lí hỗn hợp (Trang 73)

TỪ KHÓA LIÊN QUAN

TÀI LIỆU CÙNG NGƯỜI DÙNG

TÀI LIỆU LIÊN QUAN

w