Tiểu luận môn CÔNG NGHỆ TRI THỨC VÀ ỨNG DỤNG CÂY QUYẾT ĐỊNH VÀ ỨNG DỤNG TRONG VAY TÍN CHẤP

ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH CHƯƠNG TRÌNH ĐẠO TẠO THẠC SĨ CNTT QUA MẠNG ________ ________ BÀI THU HOẠCH MÔN HỌC Môn: CÔNG NGHỆ TRI THỨC & ỨNG DỤNG CÂY QUYẾT ĐỊNH VÀ ỨNG DỤNG TRONG VAY TÍN CHẤP Học viên thực hiện: CH1101154 TRẦN THỊ TƯỜNG VI TP. HCM, năm 2012 ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH CHƯƠNG TRÌNH ĐẠO TẠO THẠC SĨ CNTT QUA MẠNG Mở đầu Ngày nay cùng với sự phát triển vượt bậc của công nghệ thông tin, lượng thông tin ngày càng bùng nổ và trở nên khổng lồ. Các phương pháp thống kê truyền thống hầu như không còn phù hợp nữa. Khai khoáng dữ liệu (data mining) ngày càng được nhiều người chú ý. Nó thực sự đã đem lại những lợi ích đáng kể trong việc cung cấp những thông tin tiềm ẩn trong các cơ sở dữ liệu lớn. Trong rất nhiều phương pháp khai khoáng thì cây quyết định (decision tree) được coi là công cụ mạnh và phổ biến. Trong kinh doanh, ra quyết định cho một vấn đề thiếu khoa học, cảm tính sẽ rất nguy hiểm. Nghiên cứu những cơ sở của việc ra quyết định một cách khoa học sẽ giúp ta nhận thức đúng đắn những cơ sở khoa học, những quy luật chi phối và lường trước được những hậu quả tất yếu sẽ xảy ra nếu như các quyết định được chấp nhận. Trong bài thu hoạch nhỏ này, em muốn giới thiệu về cây quyết định, một vài thuật toán trên nó và áp dụng để giải một bài toán ‘đánh giá khách hàng tiềm năng cho gói vay tín chấp’ của các ngân hàng. Hy vọng với những kiến thức thu nhận được, cùng với việc cố gắng mô phỏng ý tưởng giải bài toán sẽ giúp mọi người hiểu rõ hơn ý nghĩa của data mining, đặc biệt là cây quyết định trong thực tiễn. MÔN HỌC : CÔNG NGHỆ TRI THỨC & ỨNG DỤNG - 1 - ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH CHƯƠNG TRÌNH ĐẠO TẠO THẠC SĨ CNTT QUA MẠNG MỤC LỤC CHƯƠNG TRÌNH ĐẠO TẠO THẠC SĨ CNTT QUA MẠNG 1 TP. HCM, năm 2012 1 Mở đầu 1 CHƯƠNG TRÌNH ĐẠO TẠO THẠC SĨ CNTT QUA MẠNG 2 PHẦN I : LÝ THUYẾT 3 I. CÂY QUYẾT ĐỊNH 3 I.1. Khái niệm 3 I.2. Ví dụ 3 I.3. Ưu điểm 5 II. CÁC THUẬT TOÁN 5 II.1. Giới thiệu vài khái niệm 5 1. Entropy 5 2. Information Gain 6 II.2. ID3 7 II.3. C4.5 8 III. VẤN ĐỀ TRONG CÂY QUYẾT ĐỊNH 9 III.1. Overfitting 9 III.2. Thao tác với các thuộc tính liên tục 10 III.3. Thao tác với dữ liệu bị thiếu 10 III.4. Chọn lựa thuộc tính xấu 11 III.5. Thao tác các thuộc tính liên quan đến chi phí 11 PHẦN II : ÁP DỤNG 12 I. XÂY DỰNG CÂY QUYẾT ĐỊNH 12 I.1. Mô tả bài toán 12 I.2. Công cụ hỗ trợ 13 I.3. Xây dựng cây quyết định 13 1. Xây dựng tập thuộc tính 13 2. Xây dựng dữ liệu 14 3. Chuẩn bị dữ liệu cho chương trình 15 4. Chạy chương trình 16 5. Tập luật suy ra từ kết quả chạy 20 II. NHẬN XÉT 20 Tài liệu tham khảo 21 MÔN HỌC : CÔNG NGHỆ TRI THỨC & ỨNG DỤNG - 2 - ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH CHƯƠNG TRÌNH ĐẠO TẠO THẠC SĨ CNTT QUA MẠNG PHẦN I : LÝ THUYẾT I. CÂY QUYẾT ĐỊNH I.1. Khái niệm Cây quyết định (Decision Tree) là một cây phân cấp có cấu trúc được dùng để phân lớp các đối tượng dựa vào dãy các luật (series of rules). Trong đó, mỗi nút nhánh thể hiện một sự lựa chọn trong số nhiều sự lựa chọn và mỗi nút lá là sự thể hiện của một quyết định. Cây quyết định được xây dựng để hỗ trợ quá trình ra quyết định. Cho dữ liệu về các đối tượng gồm các thuộc tính cùng với lớp (classes) của nó, cây quyết định sẽ sinh ra các luật để dự đoán lớp của các đối tượng chưa biết (unseen data) I.2. Ví dụ Dưới đây là một ví dụ về cây quyết định được xây dựng từ một tập dữ liệu đã có nhằm phân lớp những khách hàng có thông tin phản hồi (Responded) sau khi nhận quảng cáo ‘nhà cho thuê’. Input: Giá trị của 4 thuộc tính dưới đây: - District = {Suburban, Rural, Urban} - House Type = {Detached, Semi-deteched, Terrace} - Income = {High, Low} - Previous Customer = {Yes, No} Output/Outcome: Nothing, Responded MÔN HỌC : CÔNG NGHỆ TRI THỨC & ỨNG DỤNG - 3 - ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH CHƯƠNG TRÌNH ĐẠO TẠO THẠC SĨ CNTT QUA MẠNG Ghi chú: Số k/n bên dưới các giá trị chỉ mang tính chất tham khảo (không bắt buộc có trong cây quyết định), nó thể hiện số khách có phản hồi/ số khách có thuộc tính có giá trị đó. Ví dụ: số 2/5 bên dưới Suburban thể hiện trong 5 khách hàng có District là Suburban thì có 2 khách hàng phản hồi. Luật suy ra từ cây quyết định trên: Rule1: (District=Suburban) AND (House Type=Detached) => (Outcome = Nothing) Rule2: (District=Suburban) AND (House Type=Terrace) AND (Income=High) => (Outcome = Nothing) Rule3: (District=Suburban) AND (House Type=Terrace) AND (Income=Low) => (Outcome = Responded) Rule4: (District=Urban) AND (Previous Customer=No) => (Outcome = Responded) Rule5: (District=Urban) AND (Previous Customer=Yes) => (Outcome = Nothing) Rule6: (District=Rural) => (Outcome = Responded) MÔN HỌC : CÔNG NGHỆ TRI THỨC & ỨNG DỤNG - 4 - ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH CHƯƠNG TRÌNH ĐẠO TẠO THẠC SĨ CNTT QUA MẠNG I.3. Ưu điểm So với các phương pháp khai phá dữ liệu khác, cây quyết định là phương pháp có một số ưu điểm: • Cây quyết định dễ hiểu. Hình ảnh trực quan, quen thuộc, biểu diễn qua mô hình cây • Việc chuẩn bị dữ liệu cho một cây quyết định là cơ bản hoặc không cần thiết. Các kỹ thuật khác thường đòi hỏi chuẩn hóa dữ liệu, cần tạo các biến phụ (dummy variable) và loại bỏ các giá trị rỗng. • Cây quyết định có thể xử lý cả dữ liệu có giá trị bằng số và dữ liệu có giá trị là tên thể loại. Các kỹ thuật khác thường chuyên để phân tích các bộ dữ liệu chỉ gồm một loại biến. Chẳng hạn, các luật quan hệ chỉ có thể dùng cho các biến tên, trong khi mạng nơ-ron chỉ có thể dùng cho các biến có giá trị bằng số. • Cây quyết định là một mô hình hộp trắng. Nếu có thể quan sát một tình huống cho trước trong một mô hình, thì có thể dễ dàng giải thích điều kiện đó bằng logic Boolean. Mạng nơ-ron là một ví dụ về mô hình hộp đen, do lời giải thích cho kết quả quá phức tạp để có thể hiểu được. • Có thể thẩm định một mô hình bằng các kiểm tra thống kê. Điều này làm cho ta có thể tin tưởng vào mô hình. • Cây quyết định có thể xử lý tốt một lượng dữ liệu lớn trong thời gian ngắn. Có thể dùng máy tính cá nhân để phân tích các lượng dữ liệu lớn trong một thời gian đủ ngắn để cho phép các nhà chiến lược đưa ra quyết định dựa trên phân tích của cây quyết định. • Cây quyết định là một sự tổng quát tốt cho những trường hợp ta không để ý đến, chỉ những trường hợp được mô tả trong những giới hạn của những đặc tính mà liên quan đến những khái niệm mục tiêu. II. CÁC THUẬT TOÁN II.1. Giới thiệu vài khái niệm 1. Entropy - Entropy mô tả mức độ hỗn loạn trong một tín hiệu lấy từ một sự kiện ngẫu nhiên. Nói cách khác, entropy cũng chỉ ra có bao nhiêu thông tin trong tín hiệu, với thông tin là các phần không hỗn loạn ngẫu nhiên của tín hiệu. - Claude E. Shannon đã xây dựng định nghĩa về entropy để thoả mãn các giả định sau: • Entropy phải tỷ lệ thuận liên tục với các xác suất xuất hiện của các phần tử ngẫu nhiên trong tín hiệu. Thay đổi nhỏ trong xác suất phải dẫn đến thay đổi nhỏ trong entropy. • Nếu các phần tử ngẫu nhiên đều có xác suất xuất hiện bằng nhau, việc tăng số lượng phần tử ngẫu nhiên phải làm tăng entropy. • Có thể tạo các chuỗi tín hiệu theo nhiều bước, và entropy tổng cộng phải bằng tổng có trọng số của entropy của từng bước. MÔN HỌC : CÔNG NGHỆ TRI THỨC & ỨNG DỤNG - 5 - ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH CHƯƠNG TRÌNH ĐẠO TẠO THẠC SĨ CNTT QUA MẠNG - Shannon cũng chỉ ra rằng bất cứ định nghĩa nào của entropy, cho một tín hiệu có thể nhận các giá trị rời rạc, thoả mãn các giả định của ông thì đều có dạng với • K là một hằng số, chỉ phụ thuộc vào đơn vị đo. • n là tổng số các giá trị có thể nhận của tín hiệu. • i là giá trị rời rạc thứ i. • p(i) là xác suất xuất hiện của giá trị i. - Áp dụng khái niệm ‘entropy’ trên vào cây quyết định với K = 1 ta có được định nghĩa như dưới đây: là entropy của tập là số giá trị khác nhau của thuộc tính đang xét trong (entropy được tính toán cho một thuộc tính được chọn) là tần số xuất hiện của giá trị trong tập - Entropy = 0 chỉ ra một tập phân lớp tốt nhất. - Entropy được sử dụng để xác định node được chọn trong thuật toán. 2. Information Gain - Gain được tính để ước lượng độ lợi từ việc phân rã một thuộc tính • là gain của tập sau khi phân rã thuộc tính • là entropy của tập • là số giá trị khác nhau của thuộc tính trong • là tần số của các dữ liệu có giá trị của là trong • là là giá trị có thể của • là một tập con của chứa các dữ liệu mà giá trị của = MÔN HỌC : CÔNG NGHỆ TRI THỨC & ỨNG DỤNG - 6 - ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH CHƯƠNG TRÌNH ĐẠO TẠO THẠC SĨ CNTT QUA MẠNG - Gain xác định độ cải thiện entropy tong qua phân lớp một thuộc tính, Gain càng cao càng tốt. - Chúng ta có thể sử dụng khái niệm về thu thập để đánh giá tầm quan trọng những thuộc tính và xây dựng những cây quyết định mà mỗi nút chứa thuộc tính mà nhận được lớn nhất trong những thuộc tính chưa được xem xét trong đường đi từ gốc. - Mục đích của việc sắp thứ tự này là : 1. Để tạo ra cây quyết định nhỏ mà những record có thể được xát định sau chỉ một vài lần cây quyết định phân chia. 2. Để kết nối một hi vọng đối với việc tối thiểu của quá trình tạo quyết định. II.2. ID3 Ý tưởng chính của thuật toán này 1. Tính đồng nhất định lượng (entropy) của các thuộc tính chưa dùng dựa vào các dữ liệu test (test data) 2. Chọn thuộc tính có entropy nhỏ nhất (hoặc information gain là lớn nhất) 3. Tạo node chứa thuộc tính đó. Mô tả thuật toán: ID3 (Examples, Target_Attribute, Attributes) 1. Create a root node for the tree 2. If all examples are positive, Return the single-node tree Root, with label = +. 3. If all examples are negative, Return the single-node tree Root, with label = 4. If number of predicting attributes is empty, then Return the single node tree Root, with label = most common value of the target attribute in the examples. 5. Otherwise Begin o A = The Attribute that best classifies examples. o Decision Tree attribute for Root = A. o For each possible value, , of A,  Add a new tree branch below Root, corresponding to the test A = MÔN HỌC : CÔNG NGHỆ TRI THỨC & ỨNG DỤNG - 7 - ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH CHƯƠNG TRÌNH ĐẠO TẠO THẠC SĨ CNTT QUA MẠNG .  Let Examples( ) be the subset of examples that have the value for A  If Examples( ) is empty  Then below this new branch add a leaf node with label = most common target value in the examples  Else below this new branch add the subtree ID3 (Examples( ), Target_Attribute, Attributes – {A}) End 6. Return Root II.3. C4.5 - C4.5 xây dựng cây quyết định từ một tập hợp training data cùng cách như ID3, sử dụng khái niệm information entropy. Training data là một tập hợp S = S1 + S2+ …của những mẩu đã được phân loại. Mỗi mẫu là một vector trong đó thể hiện những thuộc tính hoặc tính chất của mẫu. Training data được gia tang với a vector trong đó thể hiện lớp mà mỗi mẫu thuộc. - Tại mỗi nút của cây, C4.5 chọn một thuộc tính tốt nhất trong tập dữ liệu mà nó chia những tập mẫu thành những tập con (enriched in on class or the other). Nguyên tắc của nó dựa trên information gain (difference in entropy) để chọn một thuộc tính cho việc phân lớp dữ liệu. Thuộc tính với information gain chuẩn hóa nhất đươc chọn C4.5 sẽ tiếp tục làm trên tập nhỏ hơn. - Quá trình xây dựng cây quyết định có 2 giai đoạn đó là xây dựng cây và cắt tỉa (pruning) cây để được cây quyết định tối ưu. Mô tả thuật toán: 1. Check for base cases All the samples in the list belong to the same class. When this happens, it simply creates a leaf node for the decision tree saying to choose that class. None of the features provide any information gain. In this case, C4.5 creates a decision node higher up the tree using the expected value of the MÔN HỌC : CÔNG NGHỆ TRI THỨC & ỨNG DỤNG - 8 - ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH CHƯƠNG TRÌNH ĐẠO TẠO THẠC SĨ CNTT QUA MẠNG class. Instance of previously-unseen class encountered. Again, C4.5 creates a decision node higher up the tree using the expected value. 2. For each attribute a 1. Find the normalized information gain from splitting on a 3. Let a_best be the attribute with the highest normalized information gain 4. Create a decision node that splits on a_best 5. Recurse on the sublists obtained by splitting on a_best, and add those nodes as children of node III. VẤN ĐỀ TRONG CÂY QUYẾT ĐỊNH Các vấn đề đặc thù trong khi học hay phân lớp dữ liệu bằng cây quyết định gồm: xác định độ sâu để phát triển cây quyết định, xử lý với những thuộc tính liên tục, chọn phép đo lựa chọn thuộc tính thích hợp, sử dụng tập dữ liệu đào tạo với những giá trị thuộc tính bị thiếu, sử dụng các thuộc tính với những chi phí khác nhau, và cải thiện hiệu năng tính toán. Sau đây là những vấn đề chính đã được giải quyết trong các thuật toán phân lớp dựa trên cây quyết định. III.1. Overfitting - Định nghĩa: Cho một không giả thuyết H , một giả thuyết h thuộc H được gọi là overfit trên training data nếu tồn tại một vài giả thuyết h’ thuộc H mà h có ít lỗi hơn h’ trên training example , nhưng h’ có lỗi nhỏ hơn h trên toàn bộ sự phân bố của những trường hợp. - Một vài cách để tránh overfiting + Dừng phát triển cây sớm hơn bình thường, trước khi đạt tới điểm phân lớp hoàn hảo tập dữ liệu đào tạo. Với phương pháp này, một thách thức đặt ra là phải ước lượng chính xác thời điểm dừng phát triển cây. + Cho phép cây có thể “quá vừa” dữ liệu, sau đó sẽ cắt, tỉa cây. - Có thể hiểu đây là hiện tượng cây quyết định chứa một số đặc trưng riêng của tập dữ liệu đào tạo, nếu lấy chính tập traning data để test lại mô hình phân lớp thì độ chính xác sẽ rất cao, trong khi đối với những dữ liệu tương lai khác nếu sử dụng cây đó lại không đạt được độ chính xác như vậy. - Quá vừa dữ liệu là một khó khăn đáng kể đối với học bằng cây quyết định và MÔN HỌC : CÔNG NGHỆ TRI THỨC & ỨNG DỤNG - 9 - [...]... hợp kiến thức thu nhận được từ trường học và thực tiễn, bài thu hoạch đã xây dựng thành công 1 cây quyết định có thể hỗ trợ trong kinh doanh Cụ thể là trong việc quyết định có nên cho vay hay không cũng như tiên đoán được khả năng trả nợ của khách hàng từ đó đề xuất mức lại mức vay tín chấp hợp lý hơn - Nhưng với thời gian ngắn, kiến thức trong lĩnh vực ngân hàng còn hạn chế nên cây quyết định xây... CHƯƠNG TRÌNH ĐẠO TẠO THẠC SĨ CNTT QUA MẠNG - Chương trình sẽ phân lớp và tìm giá trị C cho các thuộc tính MÔN HỌC : CÔNG NGHỆ TRI THỨC & ỨNG DỤNG - 17 - ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH CHƯƠNG TRÌNH ĐẠO TẠO THẠC SĨ CNTT QUA MẠNG - Chọn thuật toán, tùy chọn (option) để chạy - Kết quả sau khi chạy MÔN HỌC : CÔNG NGHỆ TRI THỨC & ỨNG DỤNG - 18 - ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH CHƯƠNG TRÌNH ĐẠO... trị của các thuộc tính bị thiếu, vậy điều gì xảy ra nếu dữ liệu chứa một hoặc nhiều giá trị không biết “?” thay cho một giá trị thuộc tính cụ thể Xét một trường hợp mà trong đó Gain(S,A) được tính toán tại nút n trong cây quyết định đề xát định khi nào thuộc tính A là thuộc tính tốt nhất để kiểm tra nút quyết định này Giả sử rằng (x,c(x)) là một trong những training example trong S và giá trị A(x) là... hàng như: lương phải lớn hơn 4 tri u, phải làm ở công ty hiện tại ít nhất 1 năm Nên cây quyết định được xây dựng sẽ chỉ áp dụng ở bước xét duyệt số tiền cho vay sau khi hồ sơ đăng ký là hợp lệ MÔN HỌC : CÔNG NGHỆ TRI THỨC & ỨNG DỤNG - 12 - ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH CHƯƠNG TRÌNH ĐẠO TẠO THẠC SĨ CNTT QUA MẠNG I.2 Công cụ hỗ trợ - Chúng ta sẽ sử dụng chương trình có sẵn thay vì phải xây dựng... Service,24,Married,8,no,no,Other,32,4,Bad MÔN HỌC : CÔNG NGHỆ TRI THỨC & ỨNG DỤNG - 15 - ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH CHƯƠNG TRÌNH ĐẠO TẠO THẠC SĨ CNTT QUA MẠNG Technology,29,Single,12,yes,no,Shop,60,5,Bad Technology,28,Single,19,no,no,Shop,120,6,Bad 4 Chạy chương trình - Chọn Application là Explorer - Load file data MÔN HỌC : CÔNG NGHỆ TRI THỨC & ỨNG DỤNG - 16 - ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ... thể là một hằng số để xác định độ quan trọng tương đối của chi phí chống lại information gain MÔN HỌC : CÔNG NGHỆ TRI THỨC & ỨNG DỤNG - 11 - ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH CHƯƠNG TRÌNH ĐẠO TẠO THẠC SĨ CNTT QUA MẠNG PHẦN II : ÁP DỤNG I XÂY DỰNG CÂY QUYẾT ĐỊNH I.1 Mô tả bài toán - - Trong hoàn cảnh nền kinh tế ngày càng phát tiển, đời sống người dân ngày càng cao, nhu cầu vay tiêu dung của người... dựng tập thuộc tính - Field: Lĩnh vực công ty hoạt động = {Finance, Technology,Service} - Loaned: Đã vay chỗ khác = {yes, no} - Reason: Lý do đi vay = {Small Bussiness: SB, Shopping: Shop, Other} - Amount: Sốt tiền vay MÔN HỌC : CÔNG NGHỆ TRI THỨC & ỨNG DỤNG - 13 - ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH CHƯƠNG TRÌNH ĐẠO TẠO THẠC SĨ CNTT QUA MẠNG - Age: Tuổi của người vay Pre-Contract: Có vay trước đây... số lượng ví dụ trong tập dữ liệu đào tạo quá ít, hay có hỗn tạp trong dữ liệu III.2 Thao tác với các thuộc tính liên tục - - - Việc thao tác với thuộc tính liên tục trên cây quyết định hoàn toàn không đơn giản như với thuộc tính rời rạc Thuộc tính rời rạc có tập giá trị xác định từ trước và là tập hợp các giá trị rời rạc Việc phân chia dữ liệu dựa vào phép kiểm tra giá trị của thuộc tính rời rạc được... được chỉ mang tính chất tham khảo, thể hiện ý tưởng Để mở rộng bài toán, cần có dữ liệu thật từ các ngân hàng, tìm hiểu sâu hơn về các thuật toán để lựa chọn một chương trình thích hợp hơn cho các dữ liệu lớn MÔN HỌC : CÔNG NGHỆ TRI THỨC & ỨNG DỤNG - 20 - ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH CHƯƠNG TRÌNH ĐẠO TẠO THẠC SĨ CNTT QUA MẠNG Tài liệu tham khảo 1 Bài giảng môn học Công nghệ tri thức Giảng... MẠNG xuống nhánh với A=1 và phân số 0,4 của x phân bố xuống nhánh của những nhánh cây khác.Những tỉ số ví dụ này được sử dụng mục đích tính toán thông tin Gain và những sự phân chia xa hơn ở những nhánh con của cây nếu sự thiếu giá trị thuộc tính thứ hai của cây phải được kiểm tra Phương pháp để quản lý thiếu sót giá trị thuộc tính này được sử dụng trong C4.5 III.4 Chọn lựa thuộc tính xấu - Information . SĨ CNTT QUA MẠNG ________ ________ BÀI THU HOẠCH MÔN HỌC Môn: CÔNG NGHỆ TRI THỨC & ỨNG DỤNG CÂY QUYẾT ĐỊNH VÀ ỨNG DỤNG TRONG VAY TÍN CHẤP Học viên thực hiện: CH1101154 TRẦN THỊ TƯỜNG. node III. VẤN ĐỀ TRONG CÂY QUYẾT ĐỊNH Các vấn đề đặc thù trong khi học hay phân lớp dữ liệu bằng cây quyết định gồm: xác định độ sâu để phát tri n cây quyết định, xử lý với những thuộc tính liên tục,. 21 MÔN HỌC : CÔNG NGHỆ TRI THỨC & ỨNG DỤNG - 2 - ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH CHƯƠNG TRÌNH ĐẠO TẠO THẠC SĨ CNTT QUA MẠNG PHẦN I : LÝ THUYẾT I. CÂY QUYẾT ĐỊNH I.1. Khái niệm Cây quyết