Trong các thuật toán của học máy, có một nhóm thuật toán đưa ra quyết định dựa trên các câu hỏi, nhóm thuật toán ấy được gọi là cây quyết định (Decision Tree). Các thuật toán xây dựng một cây quyết định với các nốt là các câu hỏi ứng một thuộc tính của dữ liệu, mỗi một nhánh của nốt sẽ biểu thị một kết quả khác nhau của câu hỏi tại nốt đó. Và đường dẫn từ gốc đến lá là đại diện cho một quy tắc phân loại. Một ví dụ đơn giản về Decision Tree: Một sinh viên sẽ quyết định đi học dựa trên thông tin về thời tiết, nếu trời mưa thì sinh viên đó sẽ ở nhà, và nếu trời nắng thì đi học.
Cây quyết định là một trong những phương pháp học có giám sát tốt nhất và được sử dụng nhiều nhất. Các phương pháp tạo ra một mô hình cây có độ chính xác cao, ổn định và dễ theo dõi, loại bỏ các thuộc tính không cần thiết. Không giống các thuật toán có mô hinh tuyến tính, cây quyết định giải quyết các bài toàn có dữ liệu nhiễu rất tốt. Đây là lý do luận văn sử dụng thuật toán Decision Tree để xây dựng mô hình IDS.
Các ưu điểm của các thuật toán cây quyết định gồm: 1. Dễ dàng theo dõi khi nhìn vào cây.
2. Xử lý tốt với dữ liệu có dán nhãn đầy đủ, cho kết quả tốt.
3. Dữ liệu đầu vào càng lớn độ chính xác càng cao, ít bị ảnh hưởng bởi dữ liệu gây nhiễu.
1. Xây dựng cây quyết định tốn thời gian.
2. Là thuật toán học có giám sát nên cần dữ liệu có dán nhãn rõ ràng.
3. Cây quyết định dễ bị hiện tượng “overfitting”, là hiện tượng xảy ra khi tập dữ liệu huấn luyện quá phù hợp với mô hình dẫn tới việc dự đoán các kết quả không có trong tập dữ liệu huấn luyện thường sai.
Có rất nhiều thuật toán trong Decison Tree, nhưng do thời gian có hạn luận văn nên sẽ chỉ đề cập và sử dụng các thuật toán phổ biến và có hiểu quả cao. Đó là 4 thuật toán, trong đó có 3 thuật toán dựa trên tư tưởng của Hunt (ID3, C4.5, CART) và thuật toán Random Forest.