Minimum error minimax probability machine (MEMPM)

Một phần của tài liệu Áp dụng phương pháp trích chọn đặc trưng để nâng cao hiệu quả phân lớp khi khai phá dữ liệu lớn (Trang 38 - 39)

Minimum error minimax probability machine là mô hình phân lớp tối ưu Bayes phi phân phối (distribution-free), ñược mở rộng từ MPM.

Xuất phát từ việc MPM giả sửñộ chính xác trong trường hợp xấu nhất ñối với 2 lớp là như nhau, và ñiều này có vẻ không hợp lý. Dẫn ñến, siêu phẳng do MPM sinh ra không nhất thiết phải cực tiểu hóa tỉ lệ lỗi trong trường hợp xấu nhất, do vậy chưa tối ưu. MEMPM loại bỏ ràng buộc trên, ñưa ra mô hình tổng quát sau:

Tương tự như MPM, và là ñộ ñộ chính xác của việc phân lớp trong trường hợp xấu nhất, tương ứng với ñó, là xác suất tiên nghiệm của lớp x và là xác suất tiên nghiệm của lớp y. Ta thấy việc cực ñại hóa chính là cực ñại hóa

ñộ chính xác trong trường hợp xấu nhất. Nói cách khác, nếu chúng ta thay

bằng và coi là xác suất cận trên mà

http://etrithuc.vn

MEMPM chính xác là cực tiểu hóa lỗi Bayes cực ñại và do ñó thu ñược siêu phẳng tối ưu Bayes trong trường hợp xấu nhất.

ðặc biệt, khi giả sử thì MEMPM chính là MPM. -4 -2 0 2 4 6 8 0 0.1 0.2 0.3 0.4 0.5 x 1-α 1-β p1 p2 optimal decision plane

-4 -2 0 2 4 6 8 0 0.1 0.2 0.3 0.4 0.5 x 1-α 1-β p1 p2 decision plane when α=β

Hình 4.1. Mô tả sự khác nhau giữa MEMPM (hình trên) và MPM (hình dưới) với cùng xác suất tiên nghiệm cho 2 lớp. Mặt phẳng quyết ñịnh tối ưu ứng với ñiểm giao nhau, tại

ñó lỗi error (1-a)+(1-b) là cực tiểu (ñộ chính xác a+b là cực ñại) như trong MEMPM.

Một phần của tài liệu Áp dụng phương pháp trích chọn đặc trưng để nâng cao hiệu quả phân lớp khi khai phá dữ liệu lớn (Trang 38 - 39)

Tải bản đầy đủ (PDF)

(62 trang)