IV. ĐỐI TƢỢNG VÀ PHẠM VI NGHIÊN CỨU
2.3PHƢƠNG PHÁP BAYES
2.3.1 Trƣờng hợp hai tổng thể
a) Khi quan tâm đến xác suất tiên nghiệm
Xét hai tổng thể và với biến quan sát trên . Gọi ( | ) là xác suất để phần tử có biến quan sát x thuộc tổng thể thứ i (i = 1,2), khi đó việc phân loại phần tử đang quan tâm này đƣợc thực hiện nhƣ sau:
Nếu ( | ) ( | ) thì xếp phần tử vào , ngược lại xếp vào . (2.2) Theo định lý Bayes cho trƣờng hợp liên tục, xác suất hậu nghiệm ( | ) đƣợc xác định bởi công thức sau:
( | ) ∑ ( ) ( | ) ( ) ( | ) ( ) ( ) ( ) Trong đó
( )là xác suất tiên nghiệm của tổng thể , ,
( ) ( | ) là hàm mật độ xác suất của tổng thể ,
( ) ( ) ( ) là hàm mật độ xác suất kết hợp.
Thế (2.3) vào (2.2) và do ( )giống nhau cho 2 vế bất đẳng thức, nên quy luật (2.2) trở thành
Nếu ( ) ( ) thì xếp x vào , ngược lại xếp x vào . (2.4) Nguyên tắc (2.4) có thể viết lại dƣới dạng
23
( ) đƣợc gọi là tỷ số hợp lý, đƣợc gọi là giá trị ngƣỡng của sự quyết định.
Đôi khi để thuận tiện cho việc tính toán, ta lấy logarit cơ số e hai vế của tỷ số hợp lý. Lúc này luật (2.5) trở thành
Nếu , ( )- , ( )- . / thì xếp x vào , ngược lại xếp x vào
.
( ) , ( )- , ( )- , ( )- đƣợc gọi là hàm phân biệt.
b) Khi không quan tâm đến xác suất tiên nghiệm hoặc
Trong trƣờng hợp này thì (2.4) đƣợc viết lại nhƣ sau:
Nếu ( ) ( ) xếp x vào , ngược lại xếp x vào .
2.3.2 Trƣờng hợp nhiều hơn hai tổng thể
Xét k tổng thể với xác suất tiên nghiệm . Đặt ( ) ( ), khi đó phần tử với biến quan sát x đƣợc xếp vào nếu
( | ) ( | ) ( )
Áp dụng định lý Bayes cho trƣờng hợp liên tục thì (2.6) trở thành
( ) ( ) ( )
( )
( )
Trong đó
( ) là xác suất tiên nghiệm của tổng thể thứ i,
( )là hàm mật độ xác suất của tổng thể thứ i.
Sau khi ƣớc lƣợng đƣợc hàm mật độ xác suất cho các tổng thể, dựa vào nguyên tắc phân loại, chúng tôi đã viết một chƣơng trình phân loại trên phần mềm Matlab nhƣ sau:
Chƣơng trình 2.1. Phân loại phần tử x0 vào một trong k tổng thể n (adsbygoogle = window.adsbygoogle || []).push({});
chiều ( ) ( ( ) ) , - ( * + * +)
24
, - ( ) , -
Cách chạy chƣơng trình trên nhƣ sau:
Trong cửa sổ lệnh của Matlab ta lần lƣợt gõ các lệnh sau:
( ) ( ) ( ) ( ) Chú ý:
Kết quả (2.7) có thể viết rõ ràng hơn như sau:
Nếu ∑ ( ) ( ) ∑ ( ) ( ) , thì
( ) ( )
Chúng ta gọi ( ) ( ( )) là hàm phân biệt của tổng thể thứ i. Khi các tổng thể có biến quan sát X có phân phối chuẩn n chiều
( )
( ) ⁄ |∑| [ ( ) ∑ ( )]
Thì ( ) được xác định như sau:
( ) (|∑ |) ( ) ∑ ( ) ( ) ( )
Vì ( ) giống nhau cho các hàm phân biệt. Vì vậy, ta có thể bỏ số hạng này. Khi đó hàm phân biệt trên trở thành
( ) (|∑ |) ( ) ∑ ( ) ( )
Trong trường hợp các tổng thể có ma trận hiệp phương sai giống nhau thì hàm phân biệt trở thành
25