Cỏc thuật toỏn quy nạp quy tắc dựa vào lý thuyết tập thụ xõy dựng bộ quy tắc bằng việc thực hiện một thủ tục lặp tạo ra mụ tả cho xấp xỉ dưới hay xấp xỉ trờn của mỗi lớp quyết định.
Gọi là bộ quy tắc quyết định quy nạp được tại một bước lặp đối với khỏi niệm quyết định xem xột K. Giả sử mọi r thuộc đều là quy tắc chắc chắn. Bộ quy tắc cú thể được xếp vào một trong ba loại sau đõy:
- Bộ quy tắc tối tiểu, - Bộ quy tắc vột cạn,
- Bộ quy tắc thỏa món yờu cầu. là bộ quy tắc tối tiểu nếu:
(1) Phần điều kiện R của mỗi quy tắc thuộc là tối tiểu (2)
r R R K
(3) Với bất kỳ r ta đều cú r khụng thỏa món cỏc điều kiện (1) và (2).
Núi cỏch khỏc, bộ quy tắc tối tiểu là bộ quy tắc cú số quy tắc chắc chắn nhỏ nhất nhưng đủ để phủ tập cỏc đối tượng K.
Số húa bởi Trung tõm Học liệu – Đại học Thỏi Nguyờn http://www.lrc-tnu.edu.vn/
là bộ quy tắc vột cạn nếu nú chứa tất cả cỏc quy tắc cú thể quy nạp được dựa vào cỏc vớ dụ dương của K. Mỗi quy tắc được sinh ra dưới dạng đơn giản nhất.
Định nghĩa của hai loại quy tắc trờn đõy (tối tiểu và vột cạn) được đưa ra lấy cảm hứng từ phộp phõn lớp đề xuất bởi Grzymala trong tài liệu [2], trong đú tỏc giả đó mụ tả hai cỏch tiếp cận tựy chọn chủ yếu của việc quy nạp quy tắc : học mỏy (Machine learning) và thu thập tri thức (Knowledge acquisition).
Ta cú thể thấy việc tỡm kiếm bộ quy tắc tối tiểu là cỏch tiếp cận tạo ra một bộ phận hạn chế bao gồm cỏc quy tắc quan trọng đối với người sử dụng (căn cứ vào độ mạnh và độ dài). Chỉ cú một số cặp thuộc tớnh-giỏ trị cú trong cỏc quy tắc thu được và một số mẫu quy tắc cú thể cú vẫn cũn ẩn chứa trong tập dữ liệu khai phỏ. Nếu người sử dụng muốn cú được tất cả cỏc quy tắc thỡ phải ỏp dụng cỏch tiếp cận vột cạn. Tuy nhiờn, độ phức tạp của việc vột cạn tất cả cỏc quy tắc cú thể cú sẽ là hàm mũ, sử dụng cỏch tiếp cận vột cạn sẽ khụng thực tế khi tập dữ liệu đầu vào kớch thước lớn. Mặt khỏc, với cỏch tiếp cận vột cạn, nhà phõn tớch dữ liệu sẽ bị ngập bởi số lượng quỏ lớn cỏc quy tắc cần xem xột. Trong thực hành, thụng thường chỉ một bộ phận nhỏ cỏc quy tắc là hấp dẫn đối với nhà phõn tớch.
Ba loại bộ quy tắc quyết định trờn đõy cú thể được sử dụng để phõn loại thuật toỏn quy nạp quy tắc sử dụng lý thuyết tập thụ.
- Cỏc thuật toỏn nhằm quy nạp bộ quy tắc quyết định tối tiểu. - Cỏc thuật toỏn nhằm vột cạn tất cả cỏc quy tắc cú thể.
- Cỏc thuật toỏn nhằm quy nạp bộ cỏc quy tắc thỏa món yờu cầu.