Báo cáo học thuật mô hình markov ẩn với bài toán mtt

  B GIÁO DC VÀ ĐÀO TO TRƯNG ĐI HC M ĐA CHT BÁO CÁO HC THUT MƠ HÌNH MARKOV N VI BÀI TOÁN MTT ThS Nguyn Th Hng Hà Ni - 01/2022   B GIÁO DC VÀ ĐÀO TO TRƯNG ĐI HC M ĐA CHT BÁO CÁO HC THUT MƠ HÌNH MARKOV N VI BÀI TỐN MTT Xác nhn ca b môn Hà Ni - 01/2022   LI M ĐU Thng kê khoa hc v phương pháp tng quát x lí kt qu thc nghim có nhiu ng dng to ln thc t, giúp ngưi rút thông tin t d liu quan sát, nhm gii quyt toán thc t cuc sng Khoa hc thng kê đóng vai trị khơng th thiu bt c cơng trình nghiên cu khoa hc nào, nht khoa hc thc nghim y khoa, nơng nghip, hóa hc, c xã hi hc Đ phát hin nhng quy lut đng sau nhng s, ngưi làm thng kê phi tin hành công vic suy lun thng kê Hiu mt cách đơn gin, suy lun thng kê trình tìm quy lut t d liu thc t Báo cáo đ cp đn vic s dng suy lun thng kê vào toán quan sát đa mc tiêu MTT Báo cáo hc thut đ cp đn vic nghiên cu lp mơ hình MTT mà mc tiêu đưc quan tâm lp mc tiêu s mc tiêu có th có ca mơ hình MTT Trưng hp lp mc tiêu đưc quan tâm lp thc s ca lp tt c mc tiêu có th có ca mơ hình, thut tốn v MTT đưc cơng b cho đn thi đim hin ti không th áp dng đưc hin chưa có phương pháp gii đưc cơng b Báo cáo đưa phương pháp tip cn s dng mơ hình Markov n đ gii quyt Báo cáo đưc chia thành ba chương:   Chương Tng quan v toán MTT Ni dung chương bao gm kin thc bn liên quan ti báo cáo : Mc 1.1 mc "Gii thiu m đu"; mc 1.2 mc phát biu xây dng mô hình tốn hc cho tốn MTT đưc nghiên cu báo cáo   Chương Mơ hình Markov n vi toán MTT Tip theo Chương s trình bày kin thc liên quan đn mơ hình Markov n HMM; kt qu nghiên cu m rng kt qu HMM cho mc tiêu nghiên cu MTT   Chương ng dng mơ hình Markov n vào toán MTT   Chương trinh bày kt qu nghiên cu m rng HMM cho MTT ng dng kt qu nghiên cu vào vic gii tốn MTT; ng dng kt qu nghiên cu vào vic gii tốn MTT Hà Ni, ngày 08 tháng 01 năm 2022  Ngưi vit báo cáo ThS Nguyn Th Hng   Chương Tng quan v toán MTT 1.1 Gii thiu m đu Trong thc tin có nhiu lp mơ hình MTT  chương báo cáo dành đ nghiên cu mt lp MTT có nhiu ng dng thưng gp thc tin Điu đc bit  phương pháp truyn thng thông dng đưc cơng b đ x lý mơ hình MTT khơng áp dng đưc cho lp mơ hình MTT Chúng ta nêu mt s ví d thc tin: Ví d   1.1.1  Trong chin dch "Đin Biên Ph không" ti Hà Ni tháng 12 năm 1972, lưng tên la SAM-2 hn ch không đ đáp ng yêu cu chin đu B Tng tham mưu và Quân chng Phịng khơng - Khơng qn quyt đnh tp trung tên la SAM-2 không quân đ đánh B-52, mc tiêu khác (các loi máy bay khác ca M) ch đi phó bng ha lc phịng khơng thơng thưng H thng đa trưng hp có mt h thng chc phi x lý mơ hình MTT mà đi tưng quan tâm ch mc tiêu máy bay B-52; Lp mc tiêu cn quan tâm mt lp lp tt c mc tiêu có th có đi vi h thng đa phịng khơng Ví d   1.1.2  Vi h thng phịng th chin tranh ht nhân có mt h thng chc mơ hình MTT có nhim v phi quan tâm xác đnh mc tiêu có th mang đu đn ht nhân (tên la mang đu đn ht nhân, máy bay chin lưc mang bom ht nhân, ) s mc tiêu có th có khơng gian phịng th Như vy gp mt lp mơ hình MTT mà đi tưng quan tâm   theo dõi xác đnh không phi tt c mc tiêu mà ch mt lp s Trong trưng hp lp mc tiêu đưc quan tâm lp thc s ca lp tt c mc tiêu có th có, phương pháp, thut toán x lý vi MTT đưc cơng b khơng cịn phù hp na Báo cáo đ xut phương pháp tip cn bng cách s dng mơ hình Markov n đ gii quyt lp mơ hình MTT Các kt qu theo hưng nghiên cu đưc trình bày báo cáo 1.2 Mơ hình tốn hc tốn MTT 1.2.1 Mơ hình toán hc toán MTT Gi s ta quan sát đi tưng (hay gi mc tiêu) di đng mt min khơng gian mt khong thi gian Ký hiu  R  là min không gian mà ta cn quan tâm,   R ⊂   Rn , vi   Rn không gian trng thái ca mc tiêu,  nx  là s chiu ca véc tơ trng thái ca mc tiêu  R  đưc gi min quan sát x x Ký hiu  [1, T ], T > 1 , T   ∈ R+, khong thi gian mà ta cn quan tâm  [1, T ] đưc gi khong thi gian ca trình quan sát Do thi đim quan sát:  t1 ,  t2,   ., tn ;  1 = t  < t2  < < tn  = T , ri rc, nên khơng mt tính tng qt, nói đn thi đim th   i  (ti ), có th quy ưc:  T   ∈   Z+ ,  ti  ∈   Z+ đng nht  ti  = i, i = 1, 2, , T ;  đó,  t  = 1 là ln quan sát đu tiên  t n  = T  là ln quan sát cui ca trình quan sát Các mc tiêu xut hin, bin mt mt cách ngu nhiên Các mc tiêu xut hin  v trí ngu nhiên có phân b đu  R Các mc tiêu xut hin chuyn đng bin mt mt cách đc lp vi Các mc tiêu gi FA đưc xem mt loi mc tiêu tuân theo gi thit (v mc tiêu) mc tiêu khác Ký hiu  X tk ,  t  ∈ tki , tkf  ,  k = 1, 2,  là trng ca mc tiêu th  k  ti thi đim  t (tki  và tkf  là thi đim xut hin bin mt tương ng)   Ký hiu  M là lp mc tiêu mà mơ hình MTT quan tâm S mc tiêu cn quan tâm có  R  ti thi đim  t  ký hiu  M t , ta có: M t  = M t (ω) = Card{X tk |k  ∈ M}   S mc tiêu không thuc lp mc tiêu quan tâm có  R  ti thi đim  t  ký hiu  Gt , đó: Gt  = Gt (ω) = Card{X ts |s ∈ / M} Mt cách hp lý t nhiên, gi thit: +  M t  = M t (ω)  là bin ngu nhiên Poisson vi tham s  λ m ,  λm  > 0 + Các  X tk ,  k  ∈ M, xut hin vi xác sut  pm ,  0 < pm   0 + Các  X ts,  s ∈/ M, xut hin vi xác sut  pg ,  0 < pg   0  tùy ý bé, tn ti  N ∗ = N (ε) ∈ N + cho P  [nt  ≤ N (ε)] ≥ − ε,   ∀t ∈ [1, T ] Hoàn tồn tương t,  M t  có phân phi Poisson vi tham s  λm ,  λm  > 0  nên: (λm )k −λm =0   ·e k→+∞ k! lim P  [M t  = k] = lim k→+∞ Nên vi  ε > 0  tùy ý bé, tn ti  M ∗ = M (ε) ∈ N + cho: P  [M t  ≤ M (ε)] ≥ − ε,   ∀t ∈ [1, T ] Ta đưa gi thit sau đây: Gi thit 1.2   ∃  M ∗,  N ∗ ∈ N+ cho:     M t (ω) ≤ M ∗ ( mod P ),   ∀t ∈ [1, T ] nt (ω) ≤ N ∗ ( mod P ),   ∀t ∈ [1, T ] Lưu ý: Tùy theo đ xác yêu cu mà  M ∗ và N ∗ đưc chn tương ng Song M ∗ và N ∗ chn vi giá tr ln đ phc tp tính tốn li gii cao Bài tốn MTT đưc phát biu mc 1.2.1 vi điu kin tuân theo Gi thit 1.2.1 đưc gi mơ hình xp x hay mơ hình gn Mơ hình s đi tưng quan tâm nghiên cu báo cáo   Chương Mơ hình Markov n vi tốn MTT 2.1 Mơ hình Markov n HMM (Hidden Markov Model) Xét mt quy lut ngu nhiên thay đi trng thái theo thi gian S trng thái ca quy lut ngu nhiên hu hn không quan sát đưc, bit rng mi trng thái gn lin vi mt hin tưng ngu nhiên khác quan sát đưc V mt tốn hc, có th tốn hc hóa cơng vic sau:   Xét mt trình ngu nhiên  S -giá tr  X t ;  S   đưc gi thit  Card(S ) = M  0 Ký hiu  F B = {A ∩ B : A ∈ F},  F B  σ-trưng  F B ⊂ F  Xét P B (·) = P (·|B) = {P (B)}−1 P (· ∩ B),   · ∈ F    (3.1) Vi  P (Ω \ B) >  0,  P (· ∩ B),  · ∈ F  khơng phi đ đo xác sut Nu đưc chun hóa bi h s chun hóa  D = P (B), theo cơng thc (3.1),  P B (·) s tr thành đ đo xác sut không gian xác sut  (B, F B , P B (·)) Chúng ta quan tâm h s chun hóa  D  trong trưng hp ri rc a/ Trưng hp tng quát:  D = P (B) = dP    B b/ Trưng hp ri rc Đnh nghĩa 3.1.1  Bin c ngu nhiên   C, C   ∈ F , P (C ) > 0  đưc gi bin c  20   nguyên t, nu: C   = C 1 ∪ C 2 , C i  ∈ F , C 1 ∩ C 2  = ∅, i = 1, 2, thì   {P (C 1 ), P (C 2)} = Gi s   B  có phân hoch khơng q đm đưc bin c nguyên t, nghĩa là: M  B =  Bi , Bi ∩ B j  = ∅,  ∀i  =  j, i=1  B i, i = 1, 2, ,M,  là bin c nguyên t,  M   ≤ +∞ Khi h s chun hóa D s đưc tính theo cơng thc: M  D = P (B) =  P (Bi ) n=1 Ví d   3.1.1  Xét  Z   bin ngu nhiên nhn giá tr   N P (Z   = n) = p n ,  ∀n ∈ N   pn  = ∀n Vi  B = [Z   ≤ M ];  Bi  = [Z   = i] , i = 1, 2, ,M , bin c nguyên t Khi ta có h s chun hóa: M  D = P (B) =   pk k=1 P B (·) = D −1 P (· ∩ B)   (3.2) Cách tính xác sut có điu kin theo cơng thc (3.2) s đưc áp dng đ tính xác sut bn xây dng HMM phn tip theo 3.2 ng dng HMM gii toán MTT Trong mc xét toán MTT đưc phát biu mc 3.2.2 Chúng ta xây dng HMM sau: 21   1/ Tham s  M   không gian trng thái Chúng ta ly:  M   = M ∗ + Không gian trng thái: S   = {S 0 , S 1 , ,S M  } , ∗ đó,  S i  là bin c: “Có  i mc tiêu thuc lp  M trong min  R ti thi đim quan tâm tương ng”,  i = 0, 1, ,M ∗ 2/ Tham s  N   không gian giá tr quan sát Chúng ta ly  N  = N ∗ + Không gian giá tr quan sát: V   = {v0 , v1, ,vN  } , ∗ đó,  vk  là bin c: “Có  k  giá tr quan sát ti thi đim quan tâm tương ng”,  k  = 0, 1, ,N ∗ 3/ Phân phi xác sut chuyn trng thái A = [aij ],   ≤ i, j  ≤ M ∗ , đó, aij  = P [q tk  = S  j |q tk  = S i ] − i  = D   · D0 · l=max{0;(i− j )}  (λm )i −λm  j +l−i   e · C M  +l−i · C il · (1 − pm )l · p jm+l−i i! ∗  hng s chun hóa  D0  và  D1  đưc tính theo cơng thc:      M  ∗ D0  = i=0 ∗ M  D1  = (λm )i −λm   e i! i  j =0 l=max{0;(i− j )} −1 −1 i  (λm ) −λm  j +l−i D0 ·   e C M  +l−i · C il (1 − pm )l p jm+l−i i! ∗  dùng  C nm  ký hiu t hp chp  m  ca  n: C nm  =   n! m! (n − m)! 22     4/ Phân phi xác sut ca dãy quan sát h thng  trng thái  S  j  ti thi đim t B = {b j (vk )},   ≤ k  ≤ N ∗ , 0 ≤  j  ≤ M ∗ đó, b j (vk ) = P [Ot  = v k |q t  = S  j ] =     vi k < j  (λm + λg )k −(λm+λg ) D2 ·   e k! vi k  ≥  j   D2  là hng s chun hóa đưc tính theo công thc  ∗ N  D2  = k= j (λm + λg )k −(λm +λg )   e k!  −1 5/ Phân phi trng thái ban đu Π = {πi },   ≤ i ≤ M ∗ πi  = P [q 1  = S i ] = D ·  (λm )i −λm   ·e i! Như vy xây dng đưc mt HMM cho toán MTT đưc phát biu mc 3.2.2 Chúng ta ký hiu HMM  ΛM T T  Áp dng thut toán tin thut toán Viterbi ci tin đưc trình bày mc 3.4 cho  Λ M T T  vi lưu ý mơ hình thun nht ch trưng hp riêng ca trưng hp không thun nht vi A(n) ≡ A,   ∀n Khi đó, bit giá tr  nt ,  nt , ,  nt (nt  = n t ), theo thut toán xác đnh đưc s mc tiêu tương ng  m∗t ,  m∗t , ,  m∗t (m∗t = m ∗t ), vi  tk  = t  là ký hiu thi đim hin ti k k k k Thut toán tin thut toán Viterbi ci tin đưc đ xut mc 3.4 thut toán gii tưng minh d dàng cài đt máy tính cài đt "con chip vi x lý" thit b nhúng chuyên dng Khi vi h chương trình cài đt thut toán, ch cn s liu đu vào  n t ,  n t , ,nt  chúng ta s có đu  m ∗t , m∗t , ,  m∗t  và xác sut  P ∗ tương ng mt cách tưng minh 23   Kt lun - Bài toán MTT mc 1.2.2 ch ưc lưng s lưng mc tiêu ti thi đim quan tâm Vn đ m  nu quan tâm ti qu đo ca mc tiêu tốn MTT tng quát đưc nghiên cu chương 2, liu có th s  dng cơng c HMM đưc khơng? Tác gi tin hành nghiên cu vn đ này, song mun dùng HMM trng thái ca HMM liên quan đn bó ánh x t  i  đim ti thi đim  tk−1  sang  j  đim ti thi đim  tk  (như dng ánh x đ quy đưc nêu  Chương 2) Vi hưng vic tính xác sut chuyn trng thái  aij (k)  s phc tp tương đương vi vic tính xác sut hu nghim Hin ti chưa có kt qu đưc cơng b theo hưng tốn m - Mt vn đ n đưc đt là: Li gii ti ưu theo dng có nm dãy ca li gii ti ưu theo dng hay không? Đây vn đ rt ý nghĩa song đáng tic tt c cơng trình đưc công b cho đn thi đim hin ti c đi vi HMM thun nht chưa có li gii bi l li gii ti ưu chưa chc nht Đây hưng nghiên cu tip theo Như vy, Chương ca báo cáo tp trung nghiên cu lp toán MTT vi yêu cu ưc lưng s lưng mc tiêu ca lp mc tiêu đưc quan tâm ti mi thi đim Vi lp toán này, báo cáo dùng phương pháp tip cn theo hưng s dng HMM Các kt qu thu đưc ca chương là: 1/ Đ xut "thut toán tin" "thut toán Viterbi ci tin" đi vi HMM không thun nht 2/ Xây dng HMM tương thích vi tốn MTT đưc nghiên cu chương 3/ S dng thut tốn đưc đ xut HMM tương thích đ gii toán MTT nêu 24   Tài liu tham kho Tài liu Ting Vit [1]   Nguyn Văn Hu, Nguyn Hu Dư,  Phân tích thng kê d báo, (2003) Tài liu Ting Anh [2]   Andrew Gelman, Jonh B Carlin, Hal S Stern, Donald B Rubin, Bayesian Data Analysis , Chapman & Hall/CRC (2004) [3]  Cari G Kaufman, Stephan R Sain, Bayesian Functional ANOVA Modeling  Using Gaussian Process Prior Distributions   , (2010) [4]   Fabrizio Solari, Brunero Liseo, Dongchu Sun   ,   Some remarks on  Bayesian inference for one-way ANOVA models  ,(2007) [5]  Jean-Michel Marin, Christian P Robert, Bayesian Core: A Practical Approach to Computational Bayesian Statistics   , (2007) [6]   Peter D.Hoff,  A First Course in Bayesian Statistical Methods , (2009) [7]   William M Bolstad,  Introduction to Bayesian Statistic , (2007) 25