4.1.1 A鵜nh ngh a bi院n c嘘, xác su医t :
4.1.1.1 Khái ni羽m phép th穎 và bi院n c嘘:
Gieo m瓜t 8欝ng ti隠n trên m瓜t m員t ph鰯ng :8ó là m瓜t phép th穎
K院t qu違 có th吋 x違y ra khi gieo 8欝ng ti隠n : “Xu医t hi羽n m員t s医p” ho員c
“Xu医t hi羽n m員t ng英a”
“Xu医t hiên m員t s医p” -Aó là m瓜t bi院n c嘘
“Xu医t hi羽n m員t ng英a” -Aó là m瓜t bi院n c嘘 4.1.1.2 A鵜nh ngh a xác su医t:
Theo [8] có nh英ng 8鵜nh ngh a xác su医t sau:
D衣ng c鰻"8k吋n :
Xác suＸt cてa biｘn cぐ A là mじt sぐ không âm,ký hiうu P(A), biあu thお khＶ p<ng xＶy ra biｘn cぐ A và 8⇔ぢc xác 8おnh nh⇔ sau :
( ) m
P A = n = S嘘 tr逢運ng h嬰p thu壱n l嬰i cho A / S嘘 tr逢運ng h嬰p có th吋 có khi phép th穎 th詠c hi羽n
(Nh英ng kh違 n<ng ho員c các bi院n c嘘 s挨 c医p – n院u chúng x違y ra thì suy ra A x違y ra – g丑i là nh英ng tr逢運ng h嬰p thu壱n l嬰i cho A ).
Aおnh ngh a xác suＸt theo ph⇔￢ng pháp thぐng kê :
Làm 8i làm l衣i m瓜t phép th穎 nào 8ó n l亥n mà có m l亥n bi院n c嘘 A xu医t hi羽n thì t益 s嘘 m/n g丑i là t亥n su医t c栄a bi院n c嘘 A
Khi n thay 8鰻i,t亥n su医t m/n c ng thay 8鰻i nh逢ng nó luôn dao 8瓜ng quanh m瓜t s嘘 c嘘"8鵜nh 8ó. S嘘 c嘘"8鵜nh 医y 8逢嬰c g丑i là xác su医t c栄a bi院n c嘘 A theo ngh a th嘘ng kê. Trên th詠c t院 khi n 8栄 l噂n ta x医p x雨 P(A) b荏i m/n
4.1.2 Xỏc su医t cú 8k隠u ki羽n, cụng th泳c xỏc su医t 8亥y 8栄"ẻ cụng th泳c xác su医t Bayes
4.1.2.1 Xác su医t có 8k隠u ki羽n Theo A員ng H医n [8]:
Xác suＸt có 8kｚu kiうn cてa biｘn cぐ A vずi 8kｚu kiうn biｘn cぐ B 8ã xＶy ra là mじt con sぐ không âm,"8⇔ぢc ký hiうu P(A/B) nó biｚu thお khＶ n<ng xＶy ra biｘn cぐ A trong tình huぐng biｘn cぐ B 8ã xＶy ra
( ) ( | )
( ) P A B P AB
= P B
Công th泳c 4-1: công th泳c tính xác su医t có 8k隠u ki羽n
Suy ra:
( | ) ( ) ( | ) ( ) ( ) P A B ìP B =P B A ìP A =P AB
Công th泳c 4-2
4.1.2.2 Công th泳c xác su医t 8亥y 8栄:
Gi違 s穎 B B B1, 2, 3,...,Bn là m瓜t nhóm 8亥y"8栄 các bi院n c嘘. Xét bi院n c嘘 A sao cho A x違y ra ch雨 khi m瓜t trong các bi院n c嘘 B B B1, 2, 3,...,Bn x違y ra.
Khi 8ó :
1
( ) ( ). ( / )
n
i i
i
P A P B P A B
=
=∑
Công th泳c 4-3 :công th泳c xác su医t 8亥y 8栄
Công th泳c trên 8逢嬰c g丑i là công th泳c xác su医t 8亥y 8栄 4.1.2.3 Công th泳c xác su医t Bayes:
T瑛 các công th泳c:Công th泳c 4-1, Công th泳c 4-2 và Công th泳c 4-3, ta có:
1
( ) ( ). ( / )
( | )
( ) ( ). ( / )
k k k
k n
i i
i
P AB P B P A B P B A
P A P B P A B
=
= =
∑
Công th泳c 4-4 : công th泳c xác su医t Bayes
4.2 Ph 逢挨 ng pháp phân lo 衣 i Nạve Bayesian :
Phân lo衣i Bayesian là ph逢挨ng pháp phân lo衣i s穎 d映ng tri th泳c các xác su医t 8ã qua hu医n luy羽n. Ph逢挨ng pháp này thích h嬰p v噂i nh英ng l噂p bài toán 8òi h臼i ph違i d詠"8oán chính xác l噂p c栄a m磯u c亥n ki吋m tra d詠a trên nh英ng thông tin t瑛 t壱p hu医n luy羽n ban 8亥u [16].
Theo Charles Elkan [16] cho X1,...,Xn là các thu瓜c tính v噂i các giá tr鵜 r運i r衣c 8逢嬰c dùng 8吋 d詠"8oán m瓜t l噂p riêng bi羽t C cho m瓜t m磯u, t壱p các l噂p mà m磯u có th吋 thu瓜c v隠 là C={c c1, ,...,2 cm}. Cho m瓜t m磯u hu医n luy羽n v噂i giá tr鵜 các thu瓜c tính
v逢挨ng泳ng là x1,...,xn, d詠"8oán m磯u thu瓜c v隠 l噂p c∈ C khi xác su医t
( | 1 1 2 2 ... n n)
P C=c X = ∧x X = ∧ ∧x X =x có giá tr鵜 l噂n nh医t. S穎 d映ng công th泳c xác su医t Bayes ta có :
( ) ( )
( ) ( )
1 1 2 2
1 1 2 2
1 1 2 2
... |
| ...
...
n n
n n
n n
P X x X x X x C c
P C c X x X x X x P C c
P X x X x X x
= ∧ = ∧ ∧ = =
= = ∧ = ∧ ∧ = = =
= ∧ = ∧ ∧ =
Xác su医t P C( =c)"8逢嬰c tính d宇 dàng t瑛 t壱p d英 li羽u hu医n luy羽n. Xác
su医tP X( 1= ∧x1 X2= ∧ ∧x2 ... Xn =xn) không thích h嬰p 8吋 dùng cho vi羽c quy院t 8鵜nh l噂p c栄a C b荏i vì giá tr鵜 này nh逢 nhau 8嘘i v噂i m厩i l噂pc. Nh逢 v壱y c<n c泳"8吋 d詠"8óan l噂p c栄a C là d詠a vào xác su医t P X( 1= ∧x1 X2 = ∧ ∧x2 ... Xn =xn|C=c).Tuy nhiên vi羽c tính toán xác su医t này r医t ph泳c t衣p [9] . M瓜t pj逢挨ng pháp 8挨n gi違n và 8逢嬰c 8逢a ra s噂m nh医t là ph逢挨ng pháp phân lo衣i Nạve Bayesian, theo 8ĩ gi違 thi院t r茨ng m厩i Xi 8瓜c l壱p v噂i các Xj (i≠ j), nh逢 v壱y ta s胤 có:
( 1 1 2 2 ) ( )
1
... | |
n
n n i i
i
P X x X x X x C c P X x C c
=
= ∧ = ∧ ∧ = = =∏ = =
Th壱t v壱y, s穎 d映ng công th泳c xác su医t Bayes ta có :
( )
( ) ( )
1 1 2 2
1 1 2 2 2 2
... |
| ... , ... |
n n
n n n n
P X x X x X x C c
P X x X x X x C c P X x X x C c
= ∧ = ∧ ∧ = =
= = = ∧ ∧ = = = ∧ ∧ = =
B茨ng cách 8羽 qui, vi院t th瑛a s嘘 th泳 hai trong tích trên nh逢 sau :
( 2 2 ... n n| )
P X = ∧ ∧x X =x C= =c
( 2 2| 3 3 ... n n, ) ( 3 3 ... n n| )
P X =x X = ∧ ∧x X =x C=c P X = ∧ ∧x X =x C =c và c泳 ti院p t映c nh逢 v壱y. Ph逢挨ng pháp phân lo衣i Nạve Bayesian gi違 thi院t r茨ng v噂i m厩i Xi k院t qu違 tác 8瓜ng c栄a nó là 8瓜c l壱p v噂i các Xj khác, nh逢 v壱y chúng ta th瑛a nh壱n r茨ng:
( 1 1| 2 2 ... n n, ) ( 1 1| )
P X =x X = ∧ ∧x X =x C= =c P X =x C=c và t逢挨ng t詠 nh逢 v壱y 8嘘i v噂i X2,..,Xn.
Nh逢 v壱y xác su医t P X( 1= ∧x1 X2= ∧ ∧x2 ... Xn =xn|C=c) =
( 1 1| ) ( 2 2| ) (... | ) ( | )
n
n n i i
i
P X =x C=c P X =x C=c P X =x C= =c ∏P X =x C=c
M厩i m瓜t th瑛a s嘘 trong tích trên có th吋"8逢嬰c tính d宇 dàng t瑛 t壱p hu医n luy羽n ban 8亥u, nh逢 v壱y ph逢挨ng pháp Nạve Bayesian gi違m s詠 ph泳c t衣p c栄a vi羽c tính tốn giá tr鵜 xác su医t P X( 1= ∧x1 X2= ∧ ∧x2 ... Xn=xn|C=c)