Thống kê bayes nhiều chiều và ứng dụng

Đ I H C QU C GIA HÀ N I TRƯ NG Đ I H C KHOA H C T NHIÊN TR N ANH TU N TH NG KÊ BAYES NHI U CHI U VÀ NG D NG LU N VĂN TH C SĨ KHOA H C HÀ N I - 2015 Đ I H C QU C GIA HÀ N I TRƯ NG Đ I H C KHOA H C T NHIÊN TR N ANH TU N TH NG KÊ BAYES NHI U CHI U VÀ NG D NG Chuyên ngành: LÍ THUY T XÁC SU T VÀ TH NG KÊ TOÁN Mã s : 60 46 01 06 LU N VĂN TH C SĨ KHOA H C NGƯ I HƯ NG D N KHOA H C GS.TSKH Đ NG HÙNG TH NG HÀ N I - 2015 M cl c L i nói đ u Chương Các phân ph i xác su t nhi u chi u quan tr ng 1.1 Phân ph i nhi u chi u 1.1.1 7 Phân ph i chu n nhi u chi u 71.1.2 Phân ph i Student nhi u chi u t 1.2 Phân ph i c a ma tr n ng u nhiên 1.2.1 Phân ph i chu n ma tr n 91.2.2 Phân ph i Wishart 11 1.2.3 Phân ph i Wishart ngh ch đ o 12 1.2.4 Phân ph i ma tr n T 14 1.3 Vectơ ng u nhiên liên t c 15 1.4 Ma tr n ng u nhiên liên t c 16 Chương M đ u v th ng kê Bayes nhi u chi u 18 2.1 2.2 Phân ph i tiên nghi m 18 2.1.1 Phân ph i tiên nghi m mơ h 18 2.1.2 Phân ph i tiên nghi m liên h p 20 2.1.3 Phân ph i tiên nghi m t ng quát 24 2.1.4 Vectơ ng u nhiên 25 2.1.5 Phân ph i tiên nghi m tương quan 28 Đánh giá siêu tham s 2.2.1 31 Hàm h p lí phân ph i chu n nhi u chi u 31 2.2.2 2.3 Hàm h p lí phân ph i chu n ma tr n 32 Phương pháp c lư ng Bayes 34 2.3.1 Trung bình biên duyên h u nghi m 35 2.3.2 T i đa hóa h u nghi m 47 Chương H i quy Bayes áp d ng 51 3.1 Mô hình h i quy n tính đa bi n 51 3.2 H i quy Bayes nhi u bi n 60 3.3 Áp d ng 61 3.3.1 Xét nghi m Insulin 61 3.3.2 B a ti c Cocktail 68 3.3.3 Mô hình tách ngu n 69 Tài li u tham kh o 75 Danh sách hình v 3.1 B a ti c cocktail 68 3.2 Quá trình h n h p chưa bi t 70 3.3 Ví d x lí h n h p 71 3.4 X lí h n h p 73 Danh sách b ng 2.1 Phân ph i tiên nghi m chi u 21 2.2 Véctơ tiên nghi m liên h p 22 2.3 Ma tr n tiên nghi m liên h p 24 2.4 Phân ph i tiên nghi m liên h p vectơ t ng quát 26 2.5 Ma tr n tiên nghi m liên h p t ng quát 27 3.1 3.2 3.3 3.4 3.5 3.6 Phân ph i tiên nghi m ma tr n liên h p 61 D li u h i quy Bayes ma tr n thi t k (m u tiên nghi m) D li u h i 62 quy Bayes ma tr n thi t k (m u h u nghi m) Prior, Gibbs, and 64 ICM h s h i quy Bayes Prior, Gibbs, and ICM hi p 65 phương sai h i quy Các h s th ng kê 66 67 L i c m ơn Trư c trình bày n i dung c a lu n văn, Tác gi xin bày t lòng bi t ơn sâu s c t i GS TSKH Đ ng Hùng Th ng ngư i Th y đáng kính t n tình ch b o giúp đ tác gi su t th i gian qua M c dù có nhi u c g ng, song trình th c hi n lu n văn Tác gi không tránh kh i nh ng thi u sót Vì v y, Tác gi r t mong nh n đư c ý ki n đóng góp c a Th y Cô b n bè đ ng nghi p, đ lu n văn đư c hoàn thi n Tác gi xin chân thành c m ơn! Hà N i, ngày 10 tháng 10 năm 2015 H c viên Tr n Anh Tu n L i nói đ u Hi n t i th ng kê có hai trư ng phái: Th ng kê t n su t th ng kê Bayes Th ng kê t n su t đ i trư c, phương pháp ph bi n hi n Nó d a nh ng k t qu quan sát m u c a hi n t i mà không c n đ ý đ n nh ng thông tin, d li u bi t trư c Th ng kê Bayes d a nh ng thông tin d li u bi t trư c v v n quan sát đ suy lu n cho nh ng th ng kê hi n t i Trư c s phát tri n m nh m c a công ngh thông tin, đ c bi t nh ng ph n m m th ng kê, vi c lưu tr nh ng thông tin r t thu n l i th ng kê Bayes ngày phát tri n Chúng ta có th đem th ng kê Bayes vào phương pháp t n su t đ phát tri n nhi u k t qu lí thuy t ng d ng Chính v y, có th nói th ng kê Bayes m t m ng ki n th c r ng l n đư c r t nhi u nhà th ng kê th gi i quan tâm, nhiên nư c ta v n đ chưa đư c nghiên c u nhi u So v i phương pháp khác, phương pháp th ng kê Bayes l p lu n theo kinh nghi m đư c tích lũy áp d ng vào mô hình phân lo i đ i tư ng linh ho t hơn, phù h p v i đ c trưng c a toán Các ch c lư ng g n gũi v i cách suy lu n thông thư ng, v y mà k t qu phân lo i tương đ i gi ng v i cách phân lo i thông thư ng Suy lu n Bayes đư c s d ng r t r ng rãi t t c ngành ngh y h c, kinh t , tin h c, Đ c bi t xác su t th ng kê hi n đóng vai trò h t s c quan tr ng Hi n t i tìm đư c m t s bi u th c gi i tích h u nghi m c th gi s tiên nghi m hàm m t đ xác su t thông d ng Beta, mũ, chu n, Trong th ng kê s d ng đ nh lí Bayes cho c lư ng ki m đ nh tham s th ng kê, toán phân lo i ngày tr nên ph bi n Trong đ tài lu n văn này, tác gi trình bày m t s ki n th c b n v th ng kê Bayes nhi u chi u mô hình h i quy Bayes đ ng th i đưa m t s c a h i quy Bayes ng d ng b n Lu n văn c a tác gi đư c chia làm chương Chương Các phân ph i xác su t nhi u chi u quan tr ng Trong chương này, tác gi h th ng l i m t s quy lu t phân ph i nhi u chi u thư ng g p như: Phân ph i chu n nhi u chi u, phân ph i Student nhi u chi u; phân ph i c a ma tr n ng u nhiên; véctơ ng u nhiên liên t c ma tr n ng u nhiên liên t c T làm s đ nghiên c u ph n ti p theo Chương M đ u v th ng kê Bayes nhi u chi u Trong chương này, tác gi trình bày nh ng ki n th c b n nh t v th ng kê Bayes nhi u chi u, bao g m: phân ph i tiên nghi m, đánh giá siêu tham s , phương pháp c lư ng Bayes Chương H i quy Bayes áp d ng Trong chương này, tác gi nh ng ki n th c b n v h i quy đa bi n h i quy Bayes Đ ng th i, tác gi trình bày m t s ví d minh h a cho phương pháp h i quy Bayes Chương Các phân ph i xác su t nhi u chi u quan tr ng 1.1 Phân ph i nhi u chi u M t p-bi n vectơ quan sát x m t t p h p c a p qua sát vô hư ng, đư c kí hi u    x.1  x =    x   p  1.1.1 Phân ph i chu n nhi u chi u p-bi n ng u nhiên phân ph i chu n nhi u chi u đư c s d ng đ miêu t đ ng th i p bi n ng u nhiên giá tr th c liên t c M t bi n ng u nhiên tuân theo quy lu t p-bi n ng u nhiên phân ph i chu n nhi u chi u v i vectơ kì v ng µ ma tr n hi p phương sai Σ đư c kí hi u x|µ, Σ ∼ N (µ, Σ), (1.1) tham s (µ, Σ) đư c cho b i p(x|µ, Σ) = (2π)− |Σ|−2 e−12(x−µ) Σ−1(x−µ), p (1.2) vi x ∈ Rp, µ ∈ Rp, Σ > 0, (1.3) CHƯƠNG CÁC PHÂN PH I XÁC SU T NHI U CHI U QUAN TR NG Rp kí hi u t p s th c p-chi u Σ > ma tr n p-chi u xác đ nh dương Tính ch t: kì v ng, mode, phương sai c a phân ph i chu n nhi u chi u E (x|µ, Σ) = µ, (1.4) M ode (x|µ, Σ) = µ, (1.5) var (x|µ, Σ) = Σ, (1.6) u có th tìm đư c b ng phép l y vi phân tích phân Vì x m t phân ph i chu n nhi u chi u, phân ph i u ki n phân ph i biên duyên c a t p b t kì phân ph i chu n nhi u chi u p-bi n ng u nhiên phân ph i chu n nhi u chi u v i moomen c p m t c p hai h i t t i trung bình theo đ nh lí gi i h n trung tâm 1.1.2 Phân ph i Student nhi u chi u t t-phân ph i Student nhi u chi u đư c s d ng đ mô t bi n ng u nhiên giá tr th c liên t c v i "cái đuôi n ng hơn" phân ph i chu n nhi u chi u Nó có ngu n g c bi x ∼ N (µ, φ−2) G ∼ W (Σ, p, ν) , (1.7) t = ν 12 G−12 (x − µ) + t0 W = G, (1.8) đ i bi n v i Jacobian J(x, G → t, W ) = ν−12 W , p (1.9) sau l y tích phân đ i v i W Trong phép l y đ o hàm, x có th trung bình c a bi n đ c l p bi n đ ng nh t vectơ phân ph i chu n v i ma tr n kì v ng hi p phương sai, G có th t ng bình phương đ l ch c a bi n v i trung bình c a chúng M t bi n ng u nhiên tuân theo t-phân ph i Student nhi u chi u đư c kí hi u t|ν, t0, Σ, φ2 ∼ t(ν, t0, Σ, φ2), (1.10) CHƯƠNG H I QUY BAYES VÀ ÁP D NG gi sau tiêm m t li u insulin Có hai lo i insulin đư c chu n b (lo i tiêu chu n v i U1 = −1 lo i th nghi m v i U1 = 1), m i m t lo i hai lo i có li u lư ng s d ng (0.75 đơn v v i U2 = −1, 1.50 đơn v v i U2 = 1) t m t nghiên c u Ngư i ta tin r ng có m t s tương tác gi a gi a lo i đư c chu n b v i v i li u lư ng, v y s h ng tương tác U3 = U1 ∗ U2 đư c đưa vào V n đ xác đ nh m i liên h gi a t p bi n đ c l p (bi n U ) bi n ph thu c (bi n X) đư c mô t b ng 3.1 Có n = 36 quan sát v i s chi u p = v i q = bi n đ c l p D li u X ma tr n thi t k U (bao g m m t c t c a m t s h ng tương tác) đư c cho b i b ng 3.2 Siêu tham s cho phân ph i tiên nghi m đư c đánh giá b ng cách th c hi n m t h i quy m t t p d li u cho trư c X0 đ t đư c t nh ng thu th p nh ng ngày trư c B ng 3.2: D li u h i quy Bayes ma tr n thi t k (m u tiên nghi m) X 96 37 90 U en 31 33 35 41 1 1 47 48 55 68 89 1 13 99 49 55 64 74 97 1 14 95 33 37 43 63 92 1 1 107 62 62 110 117 1 1 81 40 43 45 49 55 1 17 95 49 56 63 68 88 1 1 105 53 57 103 106 1 1 97 50 53 59 82 96 1 54 57 66 80 89 10 1- 110 97 85 69 -1 11 105 66 83 95 97 100 11 1 -1 -1 12 105 49 54 56 70 90 12 1 -1 -1 13 106 79 92 95 99 100 13 1 -1 -1 14 92 46 51 57 73 91 14 1 -1 -1 15 91 61 64 71 80 90 15 1 -1 -1 62 CHƯƠNG H I QUY BAYES VÀ ÁP D NG 16 101 51 63 17 87 53 18 94 19 91 95 96 16 1 -1 -1 55 57 78 89 17 1 -1 -1 57 70 81 94 96 18 1 -1 -1 98 48 55 71 91 96 19 -1 -1 20 98 41 43 61 89 101 20 -1 -1 21 103 60 56 76 97 21 -1 -1 22 99 36 43 57 89 102 22 -1 -1 23 97 44 51 58 85 105 23 -1 -1 24 95 41 45 49 59 78 24 -1 -1 25 109 65 62 93 104 25 -1 -1 26 91 57 60 61 67 83 26 -1 -1 27 99 43 48 52 61 86 27 -1 -1 28 102 51 56 97 103 28 -1 -1 29 96 57 55 72 85 89 29 -1 -1 30 111 84 83 91 101 102 30 -1 -1 131 105 57 67 83 100 103 31 -1 -1 132 105 57 61 70 90 98 32 -1 -1 67 88 94 95 33 -1 69 72 89 98 98 34 -1 61 72 81 33 98 55 134 98 -1 135 90 -1 36 100 60 63 67 -1 53 61 78 94 95 35 1- 77 104 1 36 -1 -1 Ư c lư ng c a ma tr n h s h i quy B đ nh nghĩa m t đư ng th ng phù h p Đư ng th ng phù h p mô t m i quan h n tính gi a bi n đ c l p U bi n ph thu c X Ma tr n h s có th gi i thích r ng n u t t c bi n đ c l p đư c c đ nh ngo i tr uij, n u uij tăng t i u∗ij, bi n ph thu c xij tăng t i x∗ij đư c cho b i x∗ij = βi0 + • • • + βiju ∗ij + • • • + βiquiq Các h s h i quy đư c xác đ nh đ đánh giá s đóng góp c a bi n đ c l p l n hay nh t i bi n ph thu c (3.54) 63 CHƯƠNG H I QUY BAYES VÀ ÁP D NG B ng 3.3: D li u h i quy Bayes ma tr n thi t k (m u h u nghi m) X U en 96 54 61 63 93 103 1 1 98 57 63 75 99 104 1 13 104 77 88 91 113 110 1 14 109 63 60 67 85 109 1 15 98 59 65 72 95 103 1 16 104 59 62 74 89 97 1 17 97 63 70 72 101 102 1 18 101 54 64 77 97 100 1 19 107 59 67 61 69 99 1 110 96 63 81 97 101 97 10 1 -1 -1 11 99 48 70 94 108 104 11 1 -1 -1 12 102 61 78 81 99 104 12 1 -1 -1 13 112 67 76 100 112 112 13 1 -1 -1 14 92 49 59 83 104 103 14 1 -1 -1 15 101 53 63 86 104 102 15 1 -1 -1 16 105 63 77 94 111 107 16 1 -1 -1 17 99 61 74 76 89 92 17 1 -1 -1 18 99 51 63 77 99 103 18 1 -1 -1 19 98 53 62 71 81 101 19 -1 -1 20 103 62 65 96 101 105 20 -1 -1 21 102 54 60 57 64 69 21 -1 -1 22 108 83 67 80 106 108 22 -1 -1 23 92 56 60 61 73 79 23 -1 -1 24 102 61 59 71 91 101 24 -1 -1 25 94 51 53 55 86 83 25 -1 -1 26 95 55 58 59 71 85 26 -1 -1 27 103 47 59 64 92 100 27 -1 -1 64 CHƯƠNG H I QUY BAYES VÀ ÁP D NG 28 120 46 44 58 118 108 28 -1 -1 29 95 65 75 85 96 95 29 -1 -1 130 99 59 73 82 109 109 30 -1 -1 131 105 50 58 84 107 107 31 -1 -1 132 97 67 89 104 118 118 32 -1 -1 133 97 46 50 59 78 91 33 -1 -1 134 102 63 67 74 83 98 34 -1 -1 135 104 69 81 98 104 105 35 -1 -1 136 101 65 69 72 93 95 -1 -1 36 1 Trong b ng 3.4 ch a ma tr n h s h i quy t m t mô hình liên h p tiên nghi m b sung s d ng d li u b ng 3.2 Phương trình gi i thích đòi h i s xác đ tính kì v ng biên duyên c lư ng h u nghi m t i đa đư c s d ng Kì v ng biên duyên phân ph i h u nghi m có u ki n đư c bi t đư c mô t nh ng chương trư c V i phân ph i h u nghi m này, kho ng tin c y gi thuy t có th đư c đánh giá đ xác đ nh toàn b ho c m t t p bi n đ c l p có m i quan h v i quan sát B ng 3.4: Prior, Gibbs, and ICM h s h i quy Bayes B0 101.0000 0.0556 -0.3889 0.8889 58.6944 0.2500 0.5833 1.0278 66.3889 2.5556 -2.8889 0.6111 76.9444 3.0556 -6.6111 -0.9444 95.5278 2.6944 -6.3056 1.5278 100.2222 2.6111 -2.5556 2.7222 B ¯ 99.6250 -0.6806 -0.5972 0.4861 55.9306 -0.4583 -2.5417 0.6806 62.0694 1.0417 -5.1806 -0.0417 65 CHƯƠNG H I QUY BAYES VÀ ÁP D NG 72.4444 0.4722 -7.8889 88.9306 -0.4306 -6.4861 0.9306 96.7917 -0.3194 -2.5972 1.0139 31 99.6250 -0.6806 B 2 -0.1389 -0.5972 0.4861 55.9306 -0.4583 -2.5417 0.6806 62.0694 1.0417 -5.1806 -0.0417 72.4444 0.4722 -7.8889 -0.1389 88.9306 -0.4306 -6.4861 0.9306 96.7917 -0.3194 -2.5972 1.0139 Mode tiên nghi m, trung bình biên duyên c c đ i m t giá tr tiên nghi m c c đ i giá tr h u nghi m c a phương sai nhi u hi p phương sai nhi u quan sát nh ng giá tr đư c cho b ng 3.5 B ng 3.5: Prior, Gibbs, and ICM hi p phương sai h i quy Q/ν 1 30.3333 Ψ ¯ 45.6351 -5.9198 64.8086 55.9815 55.6574 29.8735 22.7747 80.3765 74.8858 29.8148 20.8056 128.1173 82.6636 57.0432 132.9506 75.2963 69.0247 29.9234 25.0795 36.3755 19.1790 8.1327 2.8488 5 18.5802 56.8027 47.6303 85.9636 57.8525 76.4875 115.7423 110.1676 104.0680 141.7941 139.9377 114.5536 205.5766 188.4320 122.8870 277.5163 184.3142 171.0833 66 CHƯƠNG H I QUY BAYES VÀ ÁP D NG Ψ 1 34.8268 22.8363 19.1396 88.3297 27.7602 84.0753 43.3494 36.3494 79.4203 65.6038 44.1506 108.2113 106.7946 87.4225 58.3721 156.8874 143.8034 93.7822 211.7887 140.6608 130.5636 Trong h s c a mô hình tách ngu n, n u m t h s đư c th a mãn l n, quan sát ngu n liên quan góp ph n đáng k vào s pha tr n c a ngu n Trong b ng 3.6 ch a ma tr n c a s li u th ng kê biên duyên cho h s T b ng này, ch rõ ràng h s có ý nghĩa th ng kê B ng 3.6: Các h s th ng kê t65 125.1369 -0.8548 -0.7502 0.6106 44.1133 -0.3615 -2.0047 0.5368 44.2298 0.7423 -3.6916 -0.0297 42.8731 0.2795 -4.6687 -0.0822 45.2974 -0.2193 -3.3037 0.4740 62.7914 -0.2072 -1.6849 0.6577 z 31 143.2445 -0.9785 -0.8587 0.6989 50.4966 -0.4138 -2.2947 0.6144 50.6300 0.8497 -4.2258 -0.0340 49.0769 0.3199 -5.3443 -0.0941 51.8520 -0.2510 -3.7818 0.5426 71.8775 -0.2372 -1.9287 0.7529 67 CHƯƠNG H I QUY BAYES VÀ ÁP D NG 3.3.2 B a ti c Cocktail Mô hình tách ngu n s đư c gi i thích d dàng n u kĩ thu t "b a ti c cocktail" đư c mô t đ u tiên B a ti c cocktail m t ví d d hi u, mô hình tách ngu n có th đư c áp d ng Có r t nhi u ng d ng khác mà mô hình tách ngu n thích h p T i m t b a ti c cocktail có nh ng ngư i tham gia ho c nh ng ngư i di n gi tham gia th o lu n m t th i m có nh ng micro ghi âm ho c quan sát di n gi đư c g i ngu n b n B a ti c cocktail đư c minh h a hình 3.1 Nh ng ngư i tham gia, di n gi ngu n s đư c s d ng thay th cho th đư c ghi l i đư c quan sát B a ti c cocktail thư ng s đư c quay l i mô t khái ni m m i ho c tài li u m i T i m i b a ti c cocktail thư ng có m t Hình 3.1: B a ti c cocktail nhóm nh nh ng di n gi t ch c cu c h i tho i Trong m i nhóm, ch có m t ngư i nói t i m t th i m Xem xét hai ngư i g n nh t hình 3.1 Trong nhóm này, m t ngư i (bên trái) nói, sau ngư i th hai (bên ph i nói), sau m t ngư i l i 68 CHƯƠNG H I QUY BAYES VÀ ÁP D NG nói, c v y Các di n gi rõ ràng tương quan ngư c Trong mô hình tách ngu n Bayes c a lu n văn này, di n gi luôn tương quan v i không ràng bu c đ đ c l p T i m t b a ti c cocktail, có p micro đ ghi l i ho c quan sát m ngư i tham gia ho c di n gi kho ng th i gian n Kí hi u phù h p v i th ng kê nhi u chi u Các cu c đàm tho i đư c quan sát bao g m c a s pha tr n cu c đàm tho i không th c s quan sát đư c M t micro không ph i đư c đ t vào mi ng c a di n gi không b che t nh ng di n gi i khác Các micro không quan sát cu c trò chuy n c a di n gi m t cách tách bi t Các cu c h i tho i đư c ghi l i m t cách h n h p V n đ đ không h n h p ho c ghi l i cu c h i tho i g c t cu c h i tho i h n h p đư c ghi l i Xem xét ví d dư i Có m t b a ti c v i m = di n gi p = micro hình 3.2 T i kho ng th i gian i, i = 1, , n, cu c h i tho i t di n gi si1, di n gi si2, di n gi si3, di n gi si4 Thì cu c h i tho i đư c ghi l i t i micro xi1, t i micro xi2, t i micro xi3 Có m t hàm chưa bi t f mô t hình 3.3 g i hàm h n h p tín hi u ngu n đư c phát pha tr n chúng đ t o tín hi u đư c quan sát h n h p 3.3.3 Mô hình tách ngu n p micro ghi h n h p c a m di n gi t i m i kho ng th i gian n Nh ng đư c phát t m di n gi t i th i gian i t p h p m giá tr khác véctơ c t si đư c bi u di n    si  si =   , i = 1, 2, , m  s   im  69 (3.55) CHƯƠNG H I QUY BAYES VÀ ÁP D NG Hình 3.2: Quá trình h n h p chưa bi t nh ng đư c ghi l i t i th i m i b i p micro t p h p p giá tr khác véctơ c t xi đư c bi u di n    xi  xi =    x   ip  (3.56) M t l n n a, m c tiêu tách ho c không h n h p quan sát vectơ tín hi u p-chi u vào vectơ tín hi u ngu n s ho c tín hi u ngu n không quan sát đư c m-chi u Quá trình pha tr n cu c trò chuy n c a di n gi t c th i, liên t c, đ c l p theo th i gian S di n gi đư c bi t Mô hình tách ngu n cho t t c th i gian i (x |s ) f (s ) i i i (p⋅1) i(p⋅1) = + (p⋅1) fi hàm s đư c miêu t hình 3.3 r ng tín hi u ngu n h n h p 70 (3.57) CHƯƠNG H I QUY BAYES VÀ ÁP D NG Hình 3.3: Ví d x lí h n h p sai s ng u nhiên S d ng khai tri n Taylor, hàm f , v i u ki n trơn thích h p có th đư c m r ng cho vectơ c, đư c vi t f (si) = f (c) + f (c)(si − c) + • • • , (3.58) b ng cách xem xét hai s h ng đ u tiên (như l p mô hình h i quy), ta đư c f (si) =f (c) + f (c)(si − c) = [f (c) − f (c)c] + f (c)si =µ + Λsi, (3.59) 71 CHƯƠNG H I QUY BAYES VÀ ÁP D NG f (c) Λ ma tr n c p p ⋅ m Phương trình đư c g i mô hình n tính t ng h p Như ng ý hình 3.4, tín hi u ngu n đư c phát t mi ng c a m i di n gi đư c nhân v i m t h s h n h p mà xác đ nh cư ng đ c a s đóng góp c a nó c p đ trung bình ti ng n âm n n t i m i micro sai s ng u nhiên tham gia vào trình h n h p đư c ghi l i M t cách xác, mô hình nh n đư c (x |µ,Λ,s ) µ Λ s + i i = + i (p⋅1) (p⋅1) (p⋅m)(m⋅1) (p⋅1) trư c,  xi đư c mô t (3.60)   µ1  µ=   µ   p  (3.61) vectơ t p h p trung bình không quan sát đư c p-chi u    λ.1  Λ =    λ   p  (3.62) m t ma tr n c p p ⋅ m c a h s h n h p không quan sát đư c, si vectơ g c không quan sát đư c m-chi u th i đư c mô t  i trên,   i.1  =    ip    (3.63) vectơ p-chi u c a sai s ho c s h ng n c a vectơ tín hi u quan sát th i Tín hi u quan sát h n h p xij ph n t th j c a vectơ tín hi u quan sát i có th đư c coi tín hi u h i tho i h n h p đư c ghi l i t i kho ng th i gian i, i = 1, 2, , n cho micro j, j = 1, 2, , p Tín hi u quan sát đư c xij s pha tr n c a ngu n ho c h i tho i c a di n gi không quan sát đư c si v i sai s , t i kho ng th i gian i, i = 1, , n Các tín hi u ngu n không quan sát đư c sik ph n t th k c a vectơ ngu n không quan sát đư c si có th đư c coi tín hi u h i tho i ngu n không quan sát đư c c a di n gi k, k = 1, 2, , m t i kho ng th i gian i, i = 1, 2, , n 72 CHƯƠNG H I QUY BAYES VÀ ÁP D NG Hình 3.4: X lí h n h p Mô hình mô t trình pha tr n b ng cách ghi l i tín hi u quan sát đư c xij t ng c a trung bình t ng th thành ph n µj c ng v i m t t h p n tính c a thành ph n tín hi u ngu n không quan sát đư c sik sai s quan sát ij Ph n t j c a xij có th đư c tìm b i phép nhân c ng ma tr n đơn gi n ph n t th j c a µ, µj; c ng v i phép nhân c ng t ng thành ph n c a dòng th j c a Λ, λj si; phép c ng c a ph n t th j c a i, ij Đi u có th vi t kí hi u vectơ sau m (xij|µj, λj, si) = µj + k=1 = µj + λj s i + 73 λjksik + ij ij (3.64) K t lu n Trong trình nghiên c u, lu n văn trình bày m t s ki n th c b n v th ng kê Bayes nhi u chi u mô hình h i quy Bayes, đ ng th i đưa hai ví d minh h a cho mô hình h i quy Bayes Ví d v xét nghi m Insulin minh ch ng cho ưu m c a phương pháp Bayes d a nh ng thông tin v d li u bi t trư c v v n đ quan sát đ suy lu n cho nh ng th ng kê hi n t i Mô hình tách ngu n s đư c gi i thích b ng kĩ thu t s cocktail" B a ti c cocktail m t ví d d hi u, áp d ng 74 d ng ví d "b a ti c mô hình tách ngu n có th đư c Tài li u tham kh o [1] Aage Volund (1980), Multivariate bioassay, Biometrics, 36:225-236 [2] Bernardo, J.M and Smith A.M (1994), Bayesian Theory, John Wiley, London [3] Daniel B.Rowe (2003), Multivariate Bayes Statistics, Chapman & Hall/CRC [4] Morris, H D (1996), Probability and statistics, Addison-Wesley, United [5] Peter M.Lee (2003) Bayesian Statistics An Introduction, Oxford University Press Inc., New York [6] Peter Congdon (2005), Bayesian Statistical Modelling, Wile 75 ... thu n l i th ng kê Bayes ngày phát tri n Chúng ta có th đem th ng kê Bayes vào phương pháp t n su t đ phát tri n nhi u k t qu lí thuy t ng d ng Chính v y, có th nói th ng kê Bayes m t m ng ki... tháng 10 năm 2015 H c viên Tr n Anh Tu n L i nói đ u Hi n t i th ng kê có hai trư ng phái: Th ng kê t n su t th ng kê Bayes Th ng kê t n su t đ i trư c, phương pháp ph bi n hi n Nó d a nh ng k t... NG Đ I H C KHOA H C T NHIÊN TR N ANH TU N TH NG KÊ BAYES NHI U CHI U VÀ NG D NG Chuyên ngành: LÍ THUY T XÁC SU T VÀ TH NG KÊ TOÁN Mã s : 60 46 01 06 LU N VĂN TH C SĨ KHOA H C NGƯ I