Báo cáo học thuật mô hình markov ẩn với bài toán mtt

B GIÁOD CVÀĐÀOT O TRƯ NGĐ IH CM Đ ACH T BÁO CÁO H C THU T MÔ HÌNH MARKOV N V I BÀI TOÁN MTT ThS Nguy n Th H ng Hà N i 01/2022 B GIÁOD CVÀĐÀOT O TRƯ NGĐ IH CM Đ ACH T BÁO CÁO H C THU T MÔ HÌNH MARKOV N[.]

B GIÁOD CVÀĐÀOT O TRƯ NGĐ IH CM Đ ACH T BÁO CÁO H C THU T MƠ HÌNH MARKOV N V I BÀI TOÁN MTT ThS Nguy n Th H ng Hà N i - 01/2022 B GIÁOD CVÀĐÀOT O TRƯ NGĐ IH CM Đ ACH T BÁO CÁO H C THU T MƠ HÌNH MARKOV N V I BÀI TỐN MTT Xác nh n c a b mơn Hà N i - 01/2022 LIM ĐU Th ng kê khoa h c v phương pháp t ng quát x lí k t qu th c nghi m có nhi u ng d ng to l n th c t , giúp ngư i rút thông tin t d li u quan sát, nh m gi i quy t toán th c t cu c s ng Khoa h c th ng kê đóng vai trị khơng th thi u b t c cơng trình nghiên c u khoa h c nào, nh t khoa h c th c nghi m y khoa, nơng nghi p, hóa h c, c xã h i h c Đ phát hi n nh ng quy lu t đ ng sau nh ng s , ngư i làm th ng kê ph i ti n hành công vi c suy lu n th ng kê Hi u m t cách đơn gi n, suy lu n th ng kê trình tìm quy lu t t d li u th c t Báo cáo đ c p đ n vi c s d ng suy lu n th ng kê vào toán quan sát đa m c tiêu MTT Báo cáo h c thu t đ c p đ n vi c nghiên c u l p mơ hình MTT mà m c tiêu đư c quan tâm l p m c tiêu s m c tiêu có th có c a mơ hình MTT Trư ng h p l p m c tiêu đư c quan tâm l p th c s c a l p t t c m c tiêu có th có c a mơ hình, thu t tốn v MTT đư c công b cho đ n th i m hi n t i không th áp d ng đư c hi n chưa có phương pháp gi i đư c công b Báo cáo đưa phương pháp ti p c n s d ng mơ hình Markov n đ gi i quy t Báo cáo đư c chia thành ba chương: Chương T ng quan v toán MTT N i dung chương bao g m ki n th c b n liên quan t i báo cáo : M c 1.1 m c "Gi i thi u m đ u"; m c 1.2 m c phát bi u xây d ng mơ hình tốn h c cho toán MTT đư c nghiên c u báo cáo Chương Mơ hình Markov n v i toán MTT Ti p theo Chương s trình bày ki n th c liên quan đ n mơ hình Markov n HMM; k t qu nghiên c u m r ng k t qu HMM cho m c tiêu nghiên c u MTT Chương ng d ng mơ hình Markov n vào toán MTT Chương trinh bày k t qu nghiên c u m r ng HMM cho MTT ng d ng k t qu nghiên c u vào vi c gi i toán MTT; ng d ng k t qu nghiên c u vào vi c gi i toán MTT Hà N i, ngày 08 tháng 01 năm 2022 Ngư i vi t báo cáo ThS Nguy n Th H ng Chương T ng quan v toán MTT 1.1 Gi i thi u m đ u Trong th c ti n có nhi u l p mơ hình MTT chương báo cáo dành đ nghiên c u m t l p MTT có nhi u ng d ng thư ng g p th c ti n Đi u đ c bi t phương pháp truy n th ng thông d ng đư c công b đ x lý mơ hình MTT khơng áp d ng đư c cho l p mơ hình MTT Chúng ta nêu m t s ví d th c ti n: Ví d 1.1.1 Trong chi n d ch "Đi n Biên Ph không" t i Hà N i tháng 12 năm 1972, lư ng tên l a SAM-2 h n ch không đ đáp ng yêu c u chi n đ u B T ng tham mưu và Qn ch ng Phịng khơng - Không quân quy t đ nh t p trung tên l a SAM-2 không quân đ đánh B-52, m c tiêu khác (các lo i máy bay khác c a M ) ch đ i phó b ng h a l c phịng khơng thơng thư ng H th ng đa trư ng h p có m t h th ng ch c ph i x lý mơ hình MTT mà đ i tư ng quan tâm ch m c tiêu máy bay B-52; L p m c tiêu c n quan tâm m t l p l p t t c m c tiêu có th có đ i v i h th ng đa phịng khơng Ví d 1.1.2 V i h th ng phòng th chi n tranh h t nhân có m t h th ng ch c mơ hình MTT có nhi m v ph i quan tâm xác đ nh m c tiêu có th mang đ u đ n h t nhân (tên l a mang đ u đ n h t nhân, máy bay chi n lư c mang bom h t nhân, ) s m c tiêu có th có khơng gian phịng th Như v y g p m t l p mô hình MTT mà đ i tư ng quan tâm theo dõi xác đ nh không ph i t t c m c tiêu mà ch m t l p s Trong trư ng h p l p m c tiêu đư c quan tâm l p th c s c a l p t t c m c tiêu có th có, phương pháp, thu t toán x lý v i MTT đư c cơng b khơng cịn phù h p n a Báo cáo đ xu t phương pháp ti p c n b ng cách s d ng mơ hình Markov n đ gi i quy t l p mô hình MTT Các k t qu theo hư ng nghiên c u đư c trình bày báo cáo 1.2 Mơ hình tốn h c tốn MTT 1.2.1 Mơ hình tốn h c tốn MTT Gi s ta quan sát đ i tư ng (hay g i m c tiêu) di đ ng m t mi n khơng gian m t kho ng th i gian Ký hi u R mi n khơng gian mà ta c n quan tâm, R ⊂ Rn , v i Rn không gian tr ng thái c a m c tiêu, nx x x s chi u c a véc tơ tr ng thái c a m c tiêu R đư c g i mi n quan sát Ký hi u [1, T ], T > 1, T ∈ R+, kho ng th i gian mà ta c n quan tâm [1, T ] đư c g i kho ng th i gian c a trình quan sát Do th i m quan sát: t1, t2, , tn; = t1 < t2 < < tn = T , r i r c, nên không m t tính t ng qt, nói đ n th i m th i (ti), có th quy c: T ∈ + + Z , ti ∈ Z đ ng nh t ti = i, i = 1, 2, , T ; đó, t1 = l n quan sát đ u tiên tn = T l n quan sát cu i c a trình quan sát Các m c tiêu xu t hi n, bi n m t m t cách ng u nhiên Các m c tiêu xu t hi n v trí ng u nhiên có phân b đ u R Các m c tiêu xu t hi n chuy n đ ng bi n m t m t cách đ c l p v i Các m c tiêu gi FA đư c xem m t lo i m c tiêu tuân theo gi thi t (v m c tiêu) m c tiêu khác Ký hi u Xtk, t ∈ tki, tkf , k = 1, 2, tr ng c a m c tiêu th k t i th i m t (tki tkf th i m xu t hi n bi n m t tương ng) Ký hi u M l p m c tiêu mà mơ hình MTT quan tâm S m c tiêu c n quan tâm có R t i th i m t ký hi u Mt, ta có: Mt = Mt(ω) = Card) = Card{Xtk|k ∈ M} S m c tiêu không thu c l p m c tiêu quan tâm có R t i th i m t ký hi u Gt, đó: Gt = Gt(ω) = Card) = Card{Xts|s ∈/ M} M t cách h p lý t nhiên, gi thi t: + Mt = Mt(ω) = Card) bi n ng u nhiên Poisson v i tham s λm, λm > + Các Xtk, k ∈ M, xu t hi n v i xác su t pm, < pm < + Gt = Gt(ω) = Card), bi n ng u nhiên Poisson v i tham s λg, λg > + Các Xts, s ∈/ M, xu t hi n v i xác su t pg, < pg < (trong mô hình th c t thư ng pg = pm th m chí pg pm) Lưu ý: Giá tr pm λm (tương ng pg λg) có m i liên h toán h c đ nh lý gi i h n đ a phương (phân b B [n, p] d n t i phân b P (λ) n → ∞) Ký hi u: Y (t) = Ytj | j = 1, 2, , nt t p giá tr quan sát đư c t i th i m t, t = t1, t2, , tn; nt s lư ng k t qu quan sát đư c t i th i m t, xác v m t toán h c: nt = Card Y (t) m t bi n ng u nhiên nt = nt(ω) = Card) = Mt(ω) = Card) + Gt(ω) = Card) Vì Mt(ω) = Card) Gt(ω) = Card) đ c l p, Mt(ω) = Card) nt = nt(ω) = Card) P (λm), Gt(ω) = Card) P (λg) , nên P (λm + λg) M i giá tr quan sát có th giá tr quan sát thu đư c t m c tiêu ho c có th giá tr quan sát m c tiêu gi gây Yêu c u c a toán MTT là: Hãy xác đ nh s lư ng m c tiêu có l p M t i m i th i m t mi n th i gian quan sát R, nghĩa xác đ nh Mt(ω) = Card) 1.2.2 Mơ hình x p x Trong mơ hình tốn h c c a tốn MTT, v m t toán h c bi n ng u nhiên nt có phân ph i Poisson v i tham s (λm + λg) Do đó, t p giá tr c a nt N = {0, 1, 2, } Khi ta có: lim P [nt = k] = lim k→+∞ k→+∞ · e−(λ +λ ) = (λm + λg)k k! m g Do v y, v i ε > tùy ý bé, t n t i N∗ = N (ε) ∈ N+ cho P [nt ≤ N(ε)] ≥ − ε, ∀t ∈ [1, T ] Hoàn toàn tương t , Mt có phân ph i Poisson v i tham s lim P [Mt = k] = λm, λm > lim k→+∞ k→+∞ Nên v i ε > tùy ý bé, t n t i M∗ = M (ε) ∈ N+ cho: P [Mt ≤ M(ε)] ≥ − ε, ∀t ∈ [1, T ] Ta đưa gi thi t sau đây: Gi thi t 1.2 ∃ M∗, N∗ ∈ N+ cho: ∗ Mt(ω) = Card) ≤ M ( mod P ), ∀t ∈ [1, T ] ∗ nt(ω) = Card) ≤ N ( mod P ), ∀t ∈ [1, T ] M Lưu ý: Tùy theo đ xác yêu c u mà M∗ N∗ đư c ch n tương ng Song N∗ ch n v i giá tr l n đ ph c t p tính tốn l i gi i cao ∗ Bài toán MTT đư c phát bi u m c 1.2.1 v i u ki n tuân theo Gi thi t 1.2.1 đư c g i mơ hình x p x hay mơ hình g n Mơ hình s đ i tư ng quan tâm nghiên c u báo cáo nên: (λm)k k! · e− λ = m Chương Mơ hình Markov n v i tốn MTT 2.1 Mơ hình Markov n HMM (Hidden Markov Model) Xét m t quy lu t ng u nhiên thay đ i tr ng thái theo th i gian S tr ng thái c a quy lu t ng u nhiên h u h n không quan sát đư c, bi t r ng m i tr ng thái g n li n v i m t hi n tư ng ng u nhiên khác quan sát đư c V m t tốn h c, có th tốn h c hóa cơng vi c sau: Xét m t trình ng u nhiên S-giá tr Xt; S đư c gi thi t Card(S) = M < +∞ Khơng m t tính t ng quát, ký hi u: S = {S1, S2, ,SM } S s đư c g i không gian tr ng thái c a trình Xt (Xt trình nh n giá tr S; sau liên quan đ n gi thi t Markov chúng s xét Xt trình Markov) Ký hi u qt tr ng thái c a trình Xt t i th i m t, t ∈ [1, T ] Khi đó, qt nh n giá tr S Các tr ng thái qt = Sj , ≤ j ≤ M, Sj ∈ S, khơng quan sát đư c có liên k t m t thi t (phép tương ng “1-1” hay có Mơ hình Markov n Λ = (A, B, Π) đư c g i mơ hình Markov n không thu n nh t V i HMM không thu n nh t có k t qu sau đây: 2.2.1 Bài toán b n th nh t thu t tốn ti n Xét mơ hình Markov n khơng thu n nh t Λ = (A, B, Π) Vì Λ mơ hình HMM r i r c, nên th i m t đư c xét [1, T ] th i m r i r c = t1 < t2 < ··· < tk < · ·· < tn = T B i v y, v i t = tk v i quan sát Otk ký hi u g n ; v i tr ng thái qt ta ký hi u k g n qk T i th i m t = tk b t kỳ, tk ∈ [1, T ], v i Λ ta có dãy quan sát (2.1) O = O1O2 ··· Ot Bài tốn b n th nh t tính xác su t c a dãy quan sát O HMM không thu n nh t Λ cho Nghĩa tính P (O|Λ) Cơng th c gi i thu t toán gi i toán đư c cho thơng qua b đ thu t tốn sau đây: B đ 2.2 P(O|Λ) = ký hi u hình th c: k q q q ) ∀(12 aqs 1qs (s − 1) bqs (Os) − s=1 (2.2) k a (0) = π q0q1 q1 Ch ng minh Xét m t dãy tr ng thái b t kỳ c Q = q1q2 đ nh đó: .qk (2.3) đây, q1 tr ng thái ban đ u Khi đó, xác su t c a dãy quan sát (2.1) cho dãy tr ng thái (2.3) s là: k P (Os|qs, Λ) P(O|Q, Λ) = s=1 14 (2.4) Trong (2.4) s d ng gi p th ng kê c a dãy quan sát (2.1), t có: thi t đ c l ta k P(O|Q, Λ) = P (Os|qs, Λ) = k bqs (Os) s=1 M t khác: P (Q|Λ) = πq s=1 aq1q2 (1) aq2q3 (2) aqk 1qk (k −1), − v i ký hi u: aq q (0) := πq1 , ta có: k P(Q|Λ) = a (s 1) qs−1qs (2.6) − s=1 T công th c (2.5) (2.6) ta có: P(O|Λ) = P(O|Q, Λ) · P(Q|Λ) ∀Q k = a ∀Q qs−1qs s=1 (s 1) b (o ) − · qs s k a = qs−1qs ∀(q1q2 qk) (s − 1) · b qs (o ) s=1 B đ đư c ch ng minh Cơng th c (2.2) có th di n gi i tư ng minh sau: th i m ban đ u t1(s = 1), mơ hình tr ng thái q1 = qt1 v i xác su t Πq1 (=: aq0q1 (0)) t i th i m v i tr ng thái q1 quan sát đư c giá tr quan sát O1 = Ot1 v i xác su t bq1 (O1) S thay đ i t ts t i ts+1 (v n t t t s sang s + 1: (s = 2)) mơ hình chuy n t tr ng thái q1 = qt1 sang tr ng thái q2 = qt2 v i xác su t aq1q2 (1) tr ng thái q2 quan sát đư c giá tr quan sát O2 = Ot2 v i xác su t bq2 (O2) Quá trình c ti p t c cho t i cu i t tk−1 chuy n sang th i m tk = t (s = k − 1) mơ hình chuy n t tr ng thái qk−1 = qtk − sang tr ng thái qk = qtk v i xác su t aqk 1qk (k − 1) tr ng thái qk − quan sát đư c giá tr quan sát Ok = Otk v i xác su t bqk (Ok) Đ tính cơng th c (2.2) th y r ng n u tính tr c ti p đ ph c t p c a thu t tốn có c p c a 2tMt phép tốn Trong HMM thu n nh t ngư i ta đưa thu t tốn ti n-lùi (Forward-Backward Algorithm) đ tính công th c ( 2.2) v i t = T Đ i v i HMM v i m c tiêu áp d ng đ gi i toán MTT thu t tốn s