Chọn nhõn tử Lagrange theo phương phỏp Heuristic

Một phần của tài liệu Tìm hiểu về kỹ thuật phân lớp SVM và ứng dụng vào việc chọn bài đăng trong Tạp chí Khoa học (Trang 51)

Theo nguyờn tắc, chỳng ta cú thể chọn cỏc nhõn tử một cỏch ngẫu nhiờn. Tuy nhiờn để thuật toỏn nhanh chúng hội tụ, việc chọn nhõn tử Lagrange để tối ưu húa trong thuật toỏn SMO là rất quan trọng và được thực hiện như sau :

- Chọn nhõn tử thứ nhất bằng Heuristic: Điểm đầu tiờn x1 được chọn trong số những điểm vi phạm điều kiện KKT. Vũng lặp ngồi duyệt qua tập dữ liệu huấn luyện để tỡm những điểm vi phạm điều kiện KKT. Khi gặp được điểm đầu tiờn vi phạm, nú sẽ chọn ngay điểm đú. Sau đú quỏ trỡnh chọn nhõn tử thứ hai bằng Heuristic được thực thi để chọn tiếp nhõn tử thứ hai. Sau khi chọn được 2 nhõn tử, quỏ trỡnh tối ưu húa diễn ra. Sau đú quỏ trỡnh này được lặp lại, vũng lặp ngồi tiếp tục tỡm những điểm vi phạm điều kiện KKT. Để dễ tỡm thấy những điểm này hơn, vũng lặp ngồi duyệt qua những điểm mà cú i thỏa 0iC

- Chọn nhõn tử thứ hai bằng Heuristic: Điểm thứ hai x2 phải được chọn sao cho sau khi tối ưu húa, sự thay đổi của hàm mục tiờu là lớn nhất. Một phương phỏp Heuristic được đưa ra, đú là chọn x2 sao cho đại lượng |E1-E2| đạt cực đại, với Ei được định nghĩa như trờn. Nếu E1>0, SMO chọn một mẫu x2 cú E2 nhỏ nhất. Ngược lại với E1<0, SMO chọn x2 với E2 lớn nhất. Một danh sỏch lỗi cho cỏc điểm khụng bằng cận được lưu sẵn để rỳt ngắn thời gian tớnh toỏn. Nếu sự thay đổi của hàm mục tiờu khụng đủ lớn, SMO lần lượt thử cỏc điểm khụng bằng cận. Nếu sự thay đổi vẫn khụng đủ lớn, SMO duyệt tồn bộ tập huấn luyện để tỡm điểm thớch hợp. Vũng lặp duyệt qua cỏc điểm khụng bằng cận, và cả tập huấn luyện, bắt đầu từ những vị trớ ngẫu nhiờn trong những danh sỏch tương ứng.

Một phần của tài liệu Tìm hiểu về kỹ thuật phân lớp SVM và ứng dụng vào việc chọn bài đăng trong Tạp chí Khoa học (Trang 51)

Tải bản đầy đủ (PDF)

(67 trang)