Minh hoạ Thuật giải Quinlan

– Tập C gồm 14 ví dụ như trong bảng dưới. Cột kết luận là có chơi bóng hay không.

– Các thuộc tính: outlook, temperature, humidity, wind speed.

– Các giá trị có thể:

 Outlook (thời tiết) = { sunny, overcast – u ám , rain }

 temperature (nhiệt độ)= {hot, mild, cool }

 Humidity (độ ẩm) = { high, normal }

Day Outlook Temperature Humidity Wind Play ball

D1 Sunny Hot High Weak No

D2 Sunny Hot High Strong No

D3 Overcast Hot High Weak Yes

D4 Rain Mild High Weak Yes

D5 Rain Cool Normal Weak Yes

D6 Rain Cool Normal Strong No

D7 Overcast Cool Normal Strong Yes

D8 Sunny Mild High Weak No

D9 Sunny Cool Normal Weak Yes

D10 Rain Mild Normal Weak Yes

D11 Sunny Mild Normal Strong Yes

D12 Overcast Mild High Strong Yes

D13 Overcast Hot Normal Weak Yes

86

Minh hoạ Thuật giải Quinlan

 Xác định thuộc tính làm nút gốc cây.

 Tính Gain của tất cả các thuộc tính

 Ví dụ Gain(C, Wind) = ?

Gain(C,Wind) = Entropy(C)-(8/14)*Entropy(weak) - (6/14)*Entropy(strong)

Entropy(weak) = - (6/8)*log2(6/8) - (2/8)*log2(2/8) = 0.811 Entropy(Strong) = - (3/6)*log2(3/6) - (3/6)*log2(3/6) = 1.00 Vậy:

Gain(C,Wind) = 0.940 - (8/14)*0.811 - (6/14)*1.00 = 0.048

87

Minh hoạ Thuật giải Quinlan

Kết quả:

Gain(C, Outlook) = 0.246

Gain(C, Temperature) = 0.029 Gain(C, Humidity) = 0.151

Gain(C, Wind) = 0.048

Thuộc tính Outlook có Gain cao nhất. Do đó, nó được dùng làm nút gốc.

88

Minh hoạ Thuật giải Quinlan

Outlook có 3 giá trị, cần phân 3 nhánh sunny, overcast, rain.

89

Minh hoạ Thuật giải Quinlan

 Tiếp tục phân nhánh. Xét nút Sunny. Chỉ còn các thuộc tính Humidity, Temperature, Wind.

 Csunny = {D1, D2, D8, D9, D11} = 5 trường hợp với outlook = sunny

– Gain(Csunny, Humidity) = 0.970

– Gain(Csunny, Temperature) = 0.570

90

Minh hoạ Thuật giải Quinlan

 Thuộc tính Humidity có Gain cao nhất. Lấy nó làm nút phân nhánh tiếp theo. Quá trình lặp lại

91

Minh hoạ Thuật giải Quinlan

Cây quyết định thể hiện các luật, là tri thức rút ra từ bảng trên.

1. IF outlook = sunny AND humidity = high THEN playball = no

2. IF outlook = rain AND humidity = high THEN playball = no

3. IF outlook = rain AND wind = strong THEN playball = yes

4. IF outlook = overcast THEN playball = yes

5. IF outlook = rain AND wind = weak THEN playball = yes

92