Mơn h c MƠ HÌNH HĨA VÀ NH N D NG H TH NG Gi ng viên: TS Hu nh Thái Hồng B mơn i u Khi n T ng, ng Khoa i n – i n T i h c Bách Khoa TP.HCM Email: hthoang@hcmut.edu.vn, hthoang hcmut@yahoo com hthoang.hcmut@yahoo.com Homepage: http://www4.hcmut.edu.vn/~hthoang/ November 2013 © H T Hồng - ÐHBK TPHCM Ch ng TH C NGHI M NH N D NG H TH NG November 2013 © H T Hồng - ÐHBK TPHCM Vòng l p nh n d ng h th ng Thoâ oâng tin biết trước h hệ thống: qui lu uật vật lý, ccác phát bie ểu ngôn ng gữ, … Thí nghiệm thu thập liệu Xư ly Xử lý sơ liệu Chọn cấu trúc mô hình Chọn tiêu chuẩn ước lương ươc lượng Ước lượng thông số Không tốt xét lạïi thông tin biết trước November 2013 Đánh giá mô hình Không tốt lặp lại Tốt chấp nhận mô hình © H T Hồng - ÐHBK TPHCM Nội dung chương Thí nghi hi m thu th th p d li u Ti n x lý d li u Ch n c u trúc mơ hình Ch n tiêu chu n c l ng ánh ggiá ch t l ngg mơ hình November 2013 © H T Hoàng - ÐHBK TPHCM Tài li u tham kh o Tham kh o: Th [1] L Ljung (1999), System Identification – Theory for the user Ch ng 12-16 12 16 November 2013 © H T Hồng - ÐHBK TPHCM Thí nghi hi m th thu th p d li u November 2013 © H T Hoàng - ÐHBK TPHCM Các v n đ liên quan đ n thí nghi m thu th p s li u Xác đ nhh ngõõ vào, Xá ngõõ c a h th ng c n nh h n d ng xác đ nh tín hi u “kích thích“ đ th c hi n thí nghi m thu th p s li u v trí đ t c m bi n đ đo tín hi u Ch n tín hi u vào: Tín hi u vào bao g m thành ph n t n s nào? Biên đ , giá tr c c đ i tín hi u vào b ng bao nhiêu? Tín hi u vào quy t đ nh: m llàm vii c c a h th h ng b ph n ch đ làm vi c c a h th ng đ c kích thích thí nghi m m Xác đ nh chu k l y m u Xác đ nh s m u d li u c n thu th p November 2013 © H T Hồng - ÐHBK TPHCM Ch n tín hi u vào Nh n d ng mô ô hì hìnhh t n tính: tí h Tín hi u vào bé, thay đ i ng u nhiên cho tr ng thái c a h th ngg thayy đ i trongg pph m vi nh qquanh m làm vi c t nh Nh n d ng mô hình phi n: Tín hi u vào ng u nhiên, g m nhi u thành ph n t n s biên đ khác nhau, cho tr ng thái c a h th ng thay đ i r ng ph m vi c n nh n d ng đ c tính phi n November 2013 © H T Hoàng - ÐHBK TPHCM Yêu c u đ i v i tín hi u vào Tín hi u vào ph i đ c ch n cho t p d li u thu th p đ c ph i đ giàu thông tin T p d li u g n d ng Z giàu thông tin n u ma tr n ph z() c a tín hi u z(k) = [y(k) u(k)]T xác đ nh d ng t i h u h t t t c t n s u ( ) uy ( ) z ( ) ( ) ( ) yu y Nh c l i: x ( ) xy ( ) Rx ( )e j Rxy ( )e j N Rx ( ) E x(k ) x(k ) lim Ex(k ) x(k ) N N k 1 N Rxy ( ) E x(k ) y (k ) lim Ex(k ) y (k ) N N k 1 November 2013 © H T Hồng - ÐHBK TPHCM Tín hi u kích thích v ng i v i tr t ng h p nh h n d ng h th ng h , t p d li u th c nghi hi m đ giàu thơng tin tín hi u vào u(k) tín hi u g n d ng có ph u() > t i h u h t t n s (“h u h t” ngh a ph có th b ng m t t p h p t n s h u h n) Tín hi u u(k) th a mãn u ki n đ c g i tín hi u kích thích v ng (persistently exciting) exciting) Có r t nhi u l a ch n đ tín hi u vào tín hi u kích thích v ng Khi ch n tín hi u vào c n đ ý y u t sau: Tính ch t ti m c n c a thơng s c l ng (đ l ch ph ng sai) ch ph thu c ph tín hi u vào, khơng ph thu c d ng sóng tín hi u vào Tín hi u vào ph i có biên đ h u h n Tín hi u vào tu n hồn có m t s u m?? November 2013 © H T Hồng - ÐHBK TPHCM 10 Chi phí nh n d ng mơ hình ph c t p c a thu t tốn c l ng tham s : có th c l ng thông s b ng công th c gi i tích hay ph i l ng thơng s b ng thu t tốn l p? Tính đ o hàm c a b d báo theo tham s d dàng hay khó kh n? Tính ch t c a hàm tiêu chu n c l ng mơ hình: có c c tr nh t hay nhi u c c tr November 2013 © H T Hoàng - ÐHBK TPHCM c 35 Ch n lo i mơ hình Mơ hình h p xám (gray-box (gray box model): Xây d ng mơ hình tham s v t lý c a h th ng b ng cách d a vào hi u bi t v qui lu t v t lý bên h th ng, sau c l ng tham s mơ hình d a vào d li u th c nghi m Mơ hình h p đen: (blackbox model) n tính hay phi n? H th ng có ó th mơ t b ng mơ hì hìnhh t n tính tí h n u: Quan h vào c a h th ng ch ph thu c vào t n s mà không ph thu c vào biên đ tín hi u Khi tín hi u vào tín hi u hình sin, tr ng thái xác l p tín hi u tín hi u hình sin t n s v i tín hi u vào H th ng làm vi c ph m vi “nh ” xung quanh m t nh Các tr ng h p l i đ u ph i nh n d ng h th ng dùng c u trúc mô hình phi n November 2013 © H T Hồng - ÐHBK TPHCM 36 Ch n b c mơ hình Nguyên t c chung đ đ a tiêu chu n ch n b c mô hình s cân b ng gi a đ xác đ ph c t p c a mô hình T ng quát, tiêu chu n g m hai thành ph n: thành ph n th nh t trung bình bình ph ng sai s ph n ánh đ xác c a mơ hình; thành h phh n th hai h i h s ph h t cóó đ c m t ng lên lê theo th b c h th ng November 2013 © H T Hồng - ÐHBK TPHCM 37 Tiêu chu n ch n b c mơ hình n tính Tiê chu Tiêu h n saii s d bá báo cu i ù (Final (Fi l Prediction P di i Error E – FPE) J FPE N d N d 1 N 2 ˆ ˆ y k y k ( ( ) ( , )) N k 1 N : s m u d li u th c nghi m, d: s thông s c a mơ hình Tiêu chu n thơng tin Akaike (Akaike Information Critetion – AIC) J AIC 1 N 2d log l ( y (k ) yˆ (k ,ˆ)) N k 1 N Tiêu chu n đ dài mô t c c đ i (Maximum Description Length– Length MDL) J MDL November 2013 1 N d log( N ) log ( y (k ) yˆ (k ,ˆ)) N N k 1 © H T Hồng - ÐHBK TPHCM 38 Tiêu chu n ch n b c mơ hình phi n tính V n đ ch n b c mơ hình phi n v n m t tốn m Thơng th ng s thơng s c a mơ hình phi n đ c ch n d a vào kinh nghi g m ho c b ngg ph p ngg pháp p p th sai Có th m r ng tiêu chu n AIC cho tr ng h p mơ hình phi n Tiêu chu n thông tin phi n (Nonlinear Information Criterion– NIC)) 2d eff 1 N 2 ˆ J NIC log ( y (k ) yˆ (k , )) N k 1 N d eff tr[( g T g ) H 1 ] VN (ˆ) g Var ˆ VN ( ) N 2VN (ˆ ) H E N ( y (k ) yˆ (k ,ˆ)) k 1 N : s m u d li u th c nghi m, deff: s thông s c a mơ hình tác đ ng November 2013 © H T Hoàng - ÐHBK TPHCM 39 Ch n tiê tiêu chu h n November 2013 cl ng tham th s © H T Hồng - ÐHBK TPHCM 40 Tiêu chu n cl ng tham s Tiêu chu n trung bình bình ph ng sai s : đ nh t Tiêu chu n trung bình tr t đ i sai s Tiêu chu n l November 2013 © H T Hồng - ÐHBK TPHCM c s d ng ph bi n 41 ánh h giá iá mơ hì hình h November 2013 © H T Hồng - ÐHBK TPHCM 42 Các ph ng pháp đánh giá mơ hình Thu t tốn c l ng thơng s ch n đ c mơ hình “tt t nh tt” c u trúc mơ hình ch n Câu h i đ t mơ hình “t t nh t” “đ t t” ch a? Câu h i bao hàm: Mơ hình có phù h p v i d li u quan sát? Mơ hình đ t t đ s d ng theo m c đích đó? Mơ hì hình h cóó mơơ t đ c “h th ng th t”? Có nhi u ph ng pháp đánh giá mơ hình tùy theo ph ng pháp đánh giá tr l i câu h i s câu h i nêu a s ph ng pháp đánh giá đ c trình bày tài li u tr l i câu h i Câu h i tùy theo t ng ng d ng c th Câu h i th c t không th tr l i đ c November 2013 © H T Hoàng - ÐHBK TPHCM 43 phù h p c a mơ hình phù h p c a mơ hình v i d li u có th đánh giá b ng công th c: N ˆ y (k ) yˆ (k , N ) 100% fitness 1 k 1 N ( ) y k y k 1 đó: November 2013 N y y (k ) N k 1 © H T Hồng - ÐHBK TPHCM 44 Phân tích th ng d Th ng d (residual) ph n d li u mà mơ hình khơng tái t o đ c (k ) (k ,ˆN ) y (k ) yˆ (k ,ˆN ) Th ng d ph n ánh ch t l ng c a mơ hình, n u mơ hình “t t” thì: th ng d ph i có giá tr nh , th ng d chu i tín hi u ng u nhiên N u (k) “nh ” đ i l Th Th ng th ng kê sau s có giá tr nh : ng d c c đ i: S1 max (k ) ng d trung bình: N S (k ) N k 1 November 2013 k 2 © H T Hồng - ÐHBK TPHCM 45 Phân tích th ng d (tt) N u (k) chu h i ng u nhiên hiê thì: hì (k) khơng t ng quan v i u(k), hàm hi p ph ng sai chéo gi a th ng d (k) tín hi u vào u(k) x p x b ng N ) (k )u (k ) N k 1 RˆNu ( ((k)) chu i ngg u nhiên đ c l p, hàm t hi p pph c a (k) x p x b ng ng g sai N R ( ) (k ) (k ) N k 1 ˆN November 2013 © H T Hồng - ÐHBK TPHCM 46 ánh giá chéo áánhh giá iá chéo (Cross (C V lid i – CV) mơơ ph Validation h ng mơơ hình hì h nh n d ng đ c v i t p d li u đ u vào không dùng b c c l ngg thôngg s Thông th ng t p d li u th c nghi m đ c chia làm hai ph n: m t ph n dùng đ c l ng thông s m t ph n đ đánh giá chéo K thu t đánh giá chéo có khuy t m m t nhi u th i gian nh ng hi n v n m t nh ng ph ng pháp đ c s d ng ph bi n nh t đ ch n b c mơ hình phi n November 2013 © H T Hồng - ÐHBK TPHCM 47 Phân bi t d báo mô ph ng D bá báo (Prediction): (P di i ) s d ng d li u c a h thh ng quáá kh đ tính tr c giá tr ngõ mơ hình D báo b c (1 step prediction) D báo k b c (k-step prediction) u(k) Tính vector (k) Mô hình hồi qui hoi g((k),) Hệ thống November 2013 © H T Hoàng - ÐHBK TPHCM (k,) y(k) 48 Phân bi t d báo mô ph ng Mô phh ng (Simulation): (Si l i ) s d ng d li u c a mơơ hình hì h quáá kh đ tính giá tr ngõ c a mơ hình u(k) Tính vector hồi qui November 2013 (k) Mô hình g((k),) © H T Hồng - ÐHBK TPHCM (k ) (k, 49 ... 2013 Đánh giá mô hình Không tốt lặp lại Tốt chấp nhận mô hình © H T Hồng - ÐHBK TPHCM Nội dung chương Thí nghi hi m thu th th p d li u Ti n x lý d li u Ch n c u trúc mơ hình Ch n tiêu... thơng d ng (tt) Bậc n M=2 M 2n1 Hệ số so bang a1, a2 a 2, a 15 a1, a4 31 a2, a5 63 a1, a6 1 27 a3, a7 255 a1, a2, a7, a8 511 a4, a9 10 1023 a7, a10 11 20 47 a9, a11 a th c A(q) t o tín hi u... tín hi u vào Nh n d ng mơ hì hìnhh t n tính: tí h Tín hi u vào bé, thay đ i ng u nhiên cho tr ng thái c a h th ngg thayy đ i trongg pph m vi nh qquanh m làm vi c t nh Nh n d ng mơ hình phi