1. Trang chủ
  2. » Luận Văn - Báo Cáo

TÌM HIỂU VÀ ỨNG DỤNG BỘ PHÂN LỚP NAÏVE BAYES TRONG PHÂN LỚP VĂN BẢN

25 317 1

Đang tải... (xem toàn văn)

Tài liệu hạn chế xem trước, để xem đầy đủ mời bạn chọn Tải xuống

THÔNG TIN TÀI LIỆU

Thông tin cơ bản

Định dạng
Số trang 25
Dung lượng 823,28 KB

Nội dung

   TIẾU LUẬN MÔN HỌC KHAI THÁC DỮ LIỆU:  !"# $%&'()*$*+ &'(,$-     !"# $%&'()&* +, /0 12+34 567 7 '-. 869:;<=>?:@ABCDBEF@GH3I'&JK 3LMNKK3O+FPQR3 DS%I@T3LD<UFNVI6WD2:4DH%X6';;J:; YD>DQ;< Z46A&36[34&3\X6L'&FRFPGL]3>'>E;F^ 1M3946AS4:NFP_^3H%F`KL'WD4LR :;YD>DQ;< abFP)UDJEEEBcIKL4I=V@DB)3X6 LS6'QF]BF))%dI@_&4e<4'3K4';4:NFYFU ;;<F]';A 869C;6Af %12+34 567 7  /01 g_&h                       #'# YD>DQ6K(&4V>DR6YD;Ti:^%C>%&jXk&<XB L&/ %"23 &jXk&<XB>;6^%A%4%6&2l&'3MF] >;%A%4%%C>%&jXk&<XBg&jXk&<XB>&BBmXLh3)DS%6^ 4RVD2U4DQ'464<;F&L&I@WD>;6^94BDSIK TI'4+Xg-00nhFPF&L&6^:4'4'@UB'B4:^%C>% 5:Boi&jXk&<XBVDQ'4I4:&'16C<WD<@F\; 6NAL'4:4'4';<FPpL&Lq:^%C>%&jXk&<XB)DBDS AFJ&';FX6>NDWDJAV%A%4%I4L'UDLM ]%I4&D k4'4'BcLR:;<U:^%C>%Boi&jXk&<XB;V2i@ UBoi:^%C>%;<1M3:4'4'rLR:;<@@ I@;;FsTi6&':^%C>%&jXk&<XB6iF2I&4 V>D;%C>%5: ,a GH  D<lA# Không gian m trong đ A l sai Không gian m trong đ A l đng Không gian s kin ca A (không gian ca tt c cc gi tr c th xy ra ca A) YD>DQ6K(&4V>DR6YD;Ti:^%C>%&jXk&<XB L&* 456789:$;<4=7>?<@ABC$@DCE 994FG7GHIJ6KL7BMNFJEOPQ: BoH&)6^266;I@WD_&)6&2Dg%i D^;'I5)Y9<L&h 4I46U94BDS • (K&4I5Q%]%S4I@WD)Y9<L& • I6^Q%'_&IK&4I5 • (K&4BIIK&g@h6;4I@WD_&BI )Y9<L& • k@DlFN6^BI;)6^6TF^UI59< L&BI;< 4:YDl_&94BDS • Z4BDS:>;94BDS_&6^:@J6;IKWD&C6F@4 :@JI4Z4BDS:_&BIF]>;&<>;te _&IK&g@h6;L'F)>;FHu • Z4  BDS ]%>;  94 BDS _& &  :@  J b  9<  L&  Z4 BDS ]% _&;F]IdDg3h • Z4BDS)FUDI>;94BDS_&6^:@J;'F)3:@Lq6^ :@JI49<L&(dDgvh3;F>;w94BDS_&3:@w o KT2 hg h3g hvg    = • ^>Q%U94BDS o &BI;F]>;F^>Q%U94BDS@D94BDS_&B I>;&DFJ4LM]%  (BI9<L&3 ,a GH  D<lA# YD>DQ6K(&4V>DR6YD;Ti:^%C>%&jXk&<XB L&x  (BIIK9<L&3  (K)KUI59<L&_&BI o (F) • Z4BDS)FUDIy7:@>;94BDS_&#FJk; gFP:@h • ^>Q%)FUDI o &:@;F]>;F^>Q%)FUDIFJ:@@D94 BDS_&FJ:q94BDS_&FJ; o KTF\z& 9RS74>T$@DCE: L'64<3H&MWD&C6F@F&L&D<@294 S{IK&D<@DF]{:^V>DDS>D<aD<@2 94S|FC<F]YD>;D<@)I59<L&SL@3:^V>D DS>D<aBcDS%LT:&FeDU94BDSLFUDI_&4 D<@I4&Dbq6L'IK&\>dk&<XBF&L&6^%A %4%294BDS_&6^@&L94BDSLFUDI_&@F) &L4:^@I4&DL':^V>DDS>D<a hg hghvg hvg    = L'F) • ghZ4BDSLg6h_&@g%C>'Nh • gahZ4BDSLg6h_&WD&B4F]V>Da • gavhZ4BDSg)FUDIh_&WD&B4F]V>Da3@D:@ @g%C>'Nh>;FH • gvahZ4BDSg)FUDIh_&@g%C>'Nh>;FH3@DWD& B4F]V>Da 9U$;<4=7>?<@ABC$@DCE: k^%C>%&jXk&<XBF]4%iL'V>D6G:^V>D9 F]6K:qBI@]%V&44L\D^2;4;66iDmg9h)4 L\:SI}L'Q%VDN,+^Q%V>D_&4;66iDF]DS% b6^:^V>D6F]6K:|6^Q%44L\D^2g& > 3& 7 &  h k^%C>%&jXk&<XBF]BoiFYF'44L\6iD3's%C>%' :^V>D6;< ,a GH  D<lA# YD>DQ6K(&4V>DR6YD;Ti:^%C>%&jXk&<XB L&~ A%4%k&<XBTiFY%C>%4LM]%6;'4L\6i D)I5&'S>; +# 344L\D^2g& > 3& 7 &  h6K4 LN4&)  +# • &@>N:YDTbF\>dk&<XB  +# • • g-h &Bc2&NoL':YDTg-h&;'V>DDS>D<g € hF] 2:q4F@6eBDS6G4L\6iD € 9DSL'V>DDS>D< ,24Ng& > 3& 7 &  v € hI4&DpIIH&)Q%V>D DS>D<>,SFU>;4BJ>]4N;<:qBJ>]4Y CBJ4L\6iD,RQ<3H&e%9X69•4LM]%iY L'IK&_&)UD>eFY)F]>]F4Q< A%4%%C>%&jXk&<XB&LFA'44F\6;4 L\D^2_&)F^>Q%)FUDI'L\6iD)4I43F\ >;)4L\6iD_&2iFP'394BDS_&4I@]%& > 3& 7 &  p>;I@ WD94BDS_&4D^2F^>Q%g& > 3& 7 &  v € h•&<;':YDTg-h3& )KTBoi'%A%4%%C>%&jXk&<XB  k • g7h  k >;4L\6iD_&%C>%&jXk&<XB )6>N3%A%4%&jXk&<XB>;6^%A%4%6;L'F)4 Ng € h;g&  v € hI4&DF]2&LeBJ_&HL'V>D DS>D< Q%]%42;<AT4D<@ D<@;<B&DF)BcF]BoiFY%C>%{LM]%6:q44% i4WD<EL':YDTg7h(4F\_&:^%C>%&jXk&<XBU FUDIF^>Q%>;JD3%C>%&jXk&<XB k ;<AFA%C>% +# +^L'VI4:V&%A%4%&jXk&<XB;4%A%4% I4>;IK&D<@IKeR6I@66;F]R;6^4 FAKWD&F@6eBJ_&4V>DI4&DI@]%L'4:^V >DDS>D< ,a GH  D<lA# YD>DQ6K(&4V>DR6YD;Ti:^%C>%&jXk&<XB L&0 9VWXYIG744Z@: kB&DDS%6^:^-n2iDS>D<_&4I466iD >&<XB36G;<F]6K:|4D^2‚D>''I3X6%3D6<3; ƒ„FC<3&Boi%A%4%%C>%&jXk&<XB;V>DDS>D<{ :;<FY%C>%2iB&D Day Outlook Temp Humidity Wind PlayTennis D1 Sunny Hot High Weak No D2 Sunny Hot High Stron g No D3 Overcas t Hot High Weak Yes D4 Rain Mild High Weak Yes D5 Rain Cool Normal Weak Yes D6 Rain Cool Normal Stron g No D7 Overcas t Cool Normal Stron g Yes D8 Sunny Mild High Weak No D9 Sunny Cool Normal Weak Yes D10 Rain Mild Normal Weak Yes D11 Sunny Mild Normal Stron g Yes D12 Overcas t Mild High Stron g Yes D13 Overcas t Hot Normal Weak Yes D14 Rain Mild High Stron g No ,a GH  D<lA# YD>DQ6K(&4V>DR6YD;Ti:^%C>%&jXk&<XB L&  g‚D>''I•BD<3X6%XL&DLX•''>3D6<•3ƒ•BL'h 6i_&H&>;F'44L\6iDgXB's'h_&I46 6iD'2i6;<k@F…:YDTg7hFY%b]%<DeD N34L\6iD k F]':|  k  • •g‚D>''I•BD<v € hgX6%XL&DLX•''>v € h gD6<•v € hgƒ•BL'v € h g†h Y2 k &e2 94BDS{V>DDS>D<eD394BDS_&4 L\6iDl;F]2&LeBJ_&)WD&-n2iDS>D< g>&<XB•<XBh•0‡-n•.*n g>&<XB•'h•/‡-n•.†* A3H&)Y2494BDS)FUDI,2i3ƒ•BL'>; gƒ•BL'v>&<XB•<XBh•†‡0•.†† gƒ•BL'v>&<XB•'h•†‡/•.*. oi4294BDS;>]A'44L\D^2? >N3&2'4 k X':YDTg†hB&D g<XBhgBD<v<XBhg''>v<XBhgv<XBhgBL'v<XBh•. /† g'hgBD<v'hg''>v'hgv'hgBL'v'h•..7.* a'F)3%C>%&jXk&<XB44L\6iD'2i6 ;<&L>]94BDSF]{V>DDS>D<AV&3FY…]% I@WD3&)Y2'494BDS)FUDIFY)4L\6iD>;394BDS ;<>; 9[?J>5\78NFJEOPQ: 2F@MFY6;<3&FP2F]94BDS:qBJ>e4BI9<L& L…BJ4A^,2i3L'LM]%DL3&2 :qKT L'F)>;BJLM]%DS>D<6; 3;   >;BJ>e6; ab%CBJ;<DS%6^>]JU94BDSL'UDLM]%3) F&L&4>]IKF4IYI  >;LS=,2iI4L\_& >;..~;Q%V>DDS>D<_&&p)/LM]% ,a GH  D<lA# [...]... thỏc d liu: Tỡm hiu v ng dung b phõn lp Naùve Bayes Trang 14 trong ú n l tng s ca cỏc v trớ t trong tt c cỏc b hun luyn m giỏ tr muc tiờu l vj, nk l s ln t wk c tỡm thy trong n v trớ, v l tng s cỏc t phõn bit (v cỏc du khỏc) c tỡm thy trong d liu hun luyn 2.3 Thuõt toan chi tiờt: Thut toỏn hun luyn v phõn lp vn bn Naùve Bayes c th hin nh sau: LEARN_NAẽVE _BAYES_ TEXT(Examples, V) Examples l tp hp nhng... vj P(vj) Textj mt ti liu c to bi vic kt hp tt c cỏc ti liu docsj n s t khỏc nhau trong Textj Vi mi t wk trong Vocabulary nk s ln t wk xut hin trong Textj P(wk|vj) CLASSIFY_NAẽVE _BAYES_ TEXT(Doc) Tr v giỏ tr ó phõn lp cho ti liu Doc ai l t c tỡm thy v trớ th i trong Doc positions tt c v tr cỏc t trong Doc cha cỏc t nm trong Vocabulary Return vNB, vi vNB = agrmax P(vj)* GVHD: PGS TS Phỳc Hc viờn:... chớnh on vn ting Anh vớ du trờn Trong trng hp ny, chỳng ta cú biu thc tớnh toỏn phõn lp Naùve Bayes nh sau: GVHD: PGS TS Phỳc Hc viờn: Nguyn Phng Anh Tiu lun mụn hc Khai thỏc d liu: Tỡm hiu v ng dung b phõn lp Naùve Bayes Trang 13 vNB = = Túm li, phõn lp Naùve Bayes vNB l phng phỏp phõn loi cc i húa xỏc sut ca t c tỡm thy trong vn bn, tựy thuc vo cỏc gi nh c lp ca Naùve Bayes Cỏc trng thỏi gi nh c lp... table tblVocabulary Bc 3: Cng trong phng thc Learn_Naùve _Bayes_ Text (Examples, V) ca lp NaùveBayes, chng trỡnh s tớnh cỏc xỏc sut P(vj) v P(wk|vj) vi vj l mi giỏ tr trong tp giỏ tr muc tiờu V, P(vj)= , vi tp |docsj| c load t c s d liu trong table tblExamples tng ng vi giỏ tr muc tiờu l vj Sau khi tớnh xong P(vj) s c lu vo c s d liu table tblTargetValue Sau ú, vi mi t trong tp Vocabulary, xỏc sut P(wk|vj)=... Vocabulary, xỏc sut P(wk|vj)= vi nk l s ln t wk xut hin trong tp ti liu vn bn docsj nm trong th muc giỏ tr muc tiờu vj, tt c cỏc t trong tp ti liu vn bn docsj cng s c thanh lc ging nh tp Vocabulary, v n l s t trong tp ti liu docsj P(wk|vj) cng s c lu vo c s d liu table tblVocabulary vi mi ct c thờm vo trong table l giỏ tr muc tiờu vj tng ng, mi dũng s l cỏc t trong tp Vocabulary vi giỏ tr l xỏc sut P(wk|vj)... s tng ng vi giỏ tr muc tiờu no trong tp giỏ tr muc tiờu V, gm 2 bc: Bc 1: trớch xut tt c cỏc t trong file vn bn Doc ng thi loi b nhng ký t khụng cn thit v lu vo wordDoc Cỏc t trong tp wordDoc khụng cn phi loi b stop word vỡ trong tp ny, ch nhng t nm trong tp GVHD: PGS TS Phỳc Hc viờn: Nguyn Phng Anh Tiu lun mụn hc Khai thỏc d liu: Tỡm hiu v ng dung b phõn lp Naùve Bayes Trang 19 Vocabulary (ó loi... phõn lp Naùve Bayes Trang 21 Chng 4: Kờt luõn B phõn lp vn bn Naùve Bayes l mt phng phỏp hc da trờn lý thuyt Bayes ó em li nhiu hu ớch trong ng dung thc tin Nú c gi v Naùve bi vỡ nú kt hp cht ch vi nhng gi nh n gin rng nhng giỏ tr ca thuc tớnh c lp tựy theo iu kin, da vo vic phõn lp nhng thc th Khi gi nh ny phự hp, b phõn lp Naùve Bayes tr thnh b phõn lp MAP Thm chớ nu gi nh ny khụng phự hp, trong nhiu... P(wk|vj), din t xỏc sut t ca mt vn bn trong lp vj l wk Nú cng tớnh trc giỏ tr xỏc sut P(vj) 1 Thu thp tt c t, du chm cõu v tt c cỏc du khỏc tn ti trong Examples Vocabulary tp hp tt c cỏc t khỏc nhau v nhng du cõu khỏc tn ti trong bt ky ti liu vn bn t tp Examples 2 Tớnh cỏc xỏc sut P(vj) v P(wk|vj) Vi mi giỏ tr vj trong V do o docsj tp con ca nhng ti liu vn bn trong Examples tng ng vi o o o o mi giỏ... phng phỏp phõn lp Naùve Bayes trong phõn loi vn bn bao gm 2 vn chớnh sau: Trc tiờn, ta phi tỡm cỏch th hin cỏc b vn bn hun luyn di dng mt tp cỏc thuc tớnh Tip theo, ta phi tớnh cỏc xỏc sut cn thit nm trong cụng thc phõn lp Naùve Bayes 2.1 Huõn luyờn d liờu: Hng tip cn ca chỳng ta th hin cỏc b vn bn hun luyn tng i n gin: cho mt ti liu vn bn ting Anh, chỳng ta xỏc nh v trớ mi t trong vn bn s cú mt thuc... b phõn lp Naùve Bayes Trang 15 Chng 3: Thiờt kờ v ci t chng trinh 3.1 Cõu trỳc ca chng trinh: S mi liờn h gia cỏc lp trong chng trỡnh: Hỡnh 1: S mi liờn h gia cỏc lp Qua s , ta cú th thy lp Naùve Bayes l lp chớnh liờn h gia lp giao din ngi dựng vi cỏc lp khỏc trong chng trỡnh Chc nng cu th ca cỏc lp nh sau: MainForm: cung cp tp d liu hun luyn v d liu phõn lp t ngi dựng cho lp NaùveBayes x lý, ng thi . L&/ %"23 &jXk&<XB>;6^%A%4%6&2l&'3MF] >;%A%4%%C>%&jXk&<XBg&jXk&<XB>&BBmXLh3)DS%6^ 4RVD2U4DQ'464<;F&L&I@WD>;6^94BDSIK TI'4+Xg-00nhFPF&L&6^:4'4'@UB'B4:^%C>% 5:Boi&jXk&<XBVDQ'4I4:&'16C<WD<@F; 6NAL'4:4'4';<FPpL&Lq:^%C>%&jXk&<XB)DBDS AFJ&';FX6>NDWDJAV%A%4%I4L'UDLM ]%I4&D k4'4'BcLR:;<U:^%C>%Boi&jXk&<XB;V2i@ UBoi:^%C>%;<1M3:4'4'rLR:;<@@ I@;;FsTi6&':^%C>%&jXk&<XB6iF2I&4 V>D;%C>%5: ,a GH  D<lA# Không gian m trong đ A l sai Không gian m trong đ A l đng Không gian s kin ca A (không gian ca tt c cc gi tr c

Ngày đăng: 10/04/2015, 00:24

TỪ KHÓA LIÊN QUAN

w