Khai phá luật kết hợp trên mô hình dữ liệu dạng khối

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI ĐỖ THỊ LAN ANH KHAI PHÁ LUẬT KẾT HỢP TRÊN MÔ HÌNH DỮ LIỆU DẠNG KHỐI Chuyên ngành: Khoa học máy tính Mã số: 60 48 01 01 LUẬN VĂN THẠC SĨ MÁY TÍNH Người hướng dẫn khoa học: PGS.TS Trịnh Đình Thắng Hà Nội, 2013 LỜI CẢM ƠN Bằng kính trọng lòng biết ơn sâu sắc, em xin chân thành cảm ơn PGS.TS Trịnh Đình Thắng, người tận tình hướng dẫn giúp đỡ em suốt trình làm luận văn Em xin chân thành cảm ơn thầy cô giáo khoa Công nghệ thông tin, phòng Sau đại học trường Đại học Sư phạm Hà Nội 2, thầy cô trực tiếp giảng dạy học phần khóa học tạo điều kiện thuận lợi cho em trình học tập nghiên cứu trường Xin chân thành cảm ơn gia đình, bạn bè, đồng nghiệp quan tâm, giúp đỡ em thời gian nghiên cứu hoàn thành luận văn Trong trình nghiên cứu, luận văn không tránh khỏi thiếu sót Rất mong nhận góp ý quý thầy cô bạn bè đồng nghiệp quan tâm đến luận văn Hà Nội, tháng 10 năm 2013 Học viên Đỗ Thị Lan Anh LỜI CAM ĐOAN Trong trình hoàn thành luận văn, tìm hiểu, nghiên cứu, tổng hợp nhiều nguồn tài liệu khác nhau, đạo, giúp đỡ giáo viên hướng dẫn, kết đề tài sản phẩm lao động cá nhân Các nguồn tài liệu sử dụng trích dẫn rõ ràng, khoa học Nội dung luận văn chưa công bố hay xuất hình thức không chép từ công trình nghiên cứu Tôi xin cam đoan điều hoàn toàn Hà Nội, tháng 10 năm 2013 Học viên Đỗ Thị Lan Anh MỤC LỤC Trang Trang phụ bìa Lời cảm ơn Lời cam đoan Mục lục Danh mục ký hiệu chữ viết tắt Danh mục bảng Danh mục hình vẽ MỞ ĐẦU N DUNG 12 Chương T NG U N KH PH D L U KH PH LU T K T H P 12 1.1 Khai phá liệu 12 1.1.1 Một số định ngh a khai phá liệu 12 1.1.2 Các mô hình khai phá liệu 13 1.1.3 Các toán thông dụng khai phá liệu 14 1.1.4 ng dụng khai phá liệu 14 1.1.5 Một số khó khăn khai phá liệu 15 1.2 Khai phá luật kết hợp 17 1.2.1 Một số khái niệm 17 1.2.2 Khai phá luật kết hợp 20 1.3 Kết luận chương 30 Chương M H NH C SỞ D L U D NG KH 31 2.1 Khối, lược đồ khối 32 2.2 Lát cắt 32 2.3 Khóa khối 33 Đại số quan hệ khối 34 .1 Phép hợp 34 .2 Phép giao 34 Phép trừ 34 Tích Đề 34 .5 Tích Đề theo tập số 35 Phép chiếu 35 Phép chọn 36 Phép kết nối 36 Phép chia 37 2.5 Kết luận chương 37 Chương KH D NG KH PH LU T K T H P TR N M H NH D L U 38 3.1 Một số khái niệm 38 3.1.1 Khối giao tác 38 1.2 Luật kết hợp 38 3.2 Thuật toán khai phá luật kết hợp mô hình liệu dạng khối 40 3.2.1 Giới thiệu thuật toán khai phá luật kết hợp 40 2.2 Thuật toán khai phá luật kết hợp lát cắt Dx 42 Luật kết hợp khối r 48 Một số kết luật kết hợp khối 48 Kết luận chương 49 K T LU N 50 T L U TH M KHẢO 51 DANH MỤC CÁC KÝ HIỆU VÀ CHỮ VIẾT TẮT STT Ký hiệu/ Chữ viết tắt Viết đầy đủ Ý nghĩa CSDL Cơ s liệu Cơ s liệu đvdl Đơn vị liệu Đơn vị liệu BFS Breadth First Search Duyệt theo chiều rộng DFS Depth First Search Duyệt theo chiều sâu DANH MỤC CÁC BẢNG Trang Bảng 1.1 Biểu di n ngang s liệu giao tác 18 Bảng 1.2 Biểu di n dọc s liệu giao tác 18 Bảng 1.3 Tập giao tác minh họa thuật toán priori 26 Bảng Minh họa ma trận giao tác khối 38 DANH MỤC CÁC H NH V Trang Hình 1.1 Khai phá tri thức s liệu 12 Hình 1.2 Phân loại thuật toán khai phá luật kết hợp 22 Hình 3.1 Khối giao tác nhị phân 39 MỞ ĐẦU Lí chọn đề tài Trong nhiều năm qua, với phát triển công nghệ thông tin ứng dụng công nghệ thông tin nhiều l nh vực đời sống xã hội, lượng liệu quan thu thập lưu trữ ngày nhiều lên Người ta lưu trữ liệu cho ẩn chứa giá trị định Tuy nhiên theo thống kê có lượng nhỏ liệu (khoảng từ 5% đến 10%) phân tích, số lại họ phải làm làm với liệu này, họ tiếp tục thu thập lưu trữ hy vọng liệu cung cấp cho họ thông tin quý giá cách nhanh chóng để đưa định kịp thời vào lúc Chính vậy, phương pháp quản trị khai thác s liệu truyền thống ngày không đáp ứng thực tế làm phát triển khuynh hướng kỹ thuật kỹ thuật khai phá liệu Khai phá liệu công nghệ tri thức giúp khai thác thông tin hữu ích từ kho liệu lớn Có số nhóm nghiên cứu đưa số mô hình khai phá liệu, khai phá liệu sử dụng luật kết hợp mô hình giúp tìm mối tương quan mục liệu thường xuyên s liệu lưu trữ kho liệu Bên cạnh đó, để xây dựng hệ thống s liệu tốt, người ta thường sử dụng mô hình liệu thích hợp Từ trước tới có số loại mô hình sử dụng hệ thống s liệu như: mô hình thực thể - liên kết, mô hình mạng mô hình phân cấp, mô hình hướng đối tượng, mô hình liệu datalog mô hình quan hệ Trong năm gần đây, việc nghiên cứu nhằm m rộng mô hình 38 Đặc biệt, khối r(R) s(S) có tập số id lược đồ khối chúng gồm phần tử khối tr thành quan hệ phép kết nối tự nhiên hai khối lại tr thành phép kết nối tự nhiên hai quan hệ mô hình s liệu quan hệ [7] Nếu hai tập {A1, A2, , An} {B1,B2, , Bm} không giao r * s tr thành tích Đề hai khối cho 2.4.9 Phép chia Cho hai khối r( id; A1, A2, , An ) s( id; Ai1, Ai2, , Aih ), ik  { A1, A2, , An } ,  k = h Khi phép chia khối r cho khối s , kí hiệu r  s , khối gồm phần tử t = ( t 1, t2, , tn-h ) cho  u = ( u1, u2, , uh ), u  s phần tử tu  r, phần tử tu có dạng: tu = ( t1, t2, , tn-h , u1, u2, , uh ) Biểu di n hình thức phép chia có dạng: r  s = { t |  u  s, tu r } 2.5 Kết luận chương Ngày nay, việc nghiên cứu m nhằm m rộng mô hình liệu quan hệ nhiều nhà khoa học quan tâm Theo hướng nghiên cứu này, mô hình liệu dạng khối đề xuất Mô hình liệu m rộng mô hình liệu quan hệ Nội dung chương trình bày khái niệm mô hình s liệu dạng khối như: khái niệm khối, lược đồ khối, lát cắt trình bày phép toán khối 39 CHƯƠNG 3: KHAI PHÁ LUẬT KẾT HỢP TRÊN MÔ H NH DỮ LIỆU DẠNG KHỐI 3.1 Một số khái niệm 3.1.1 Khối giao tác Định nghĩa 3.1: Cho R = (id; A1, A2, , An), r(R) khối R x  id ta có tập {{x}, Ai1, Ai2, , Ain}  R gọi giao tác khối r Đặt ti = {{x}, Ai1, Ai2, , Ain} gọi định danh giao tác {{x}, Ai1, Ai2, , Ain} Một tập hợp gồm m định danh giao tác T = {t1, t2, …, tm}, với m gọi khối giao tác r Biểu di n s liệu giao tác khối ma trận giao tác: cho s liệu giao tác T = {t1, t2, …, tm} khối r Ma trận giao tác T ma trận M = (mpq)mxn với 1khi (x, A q ) Tp    m pq    (x, A )  T   q p   Ví dụ 3.1: Xét tập giao tác D gồm m = giao tác: t1, t2, t3 khối R cụ thể sau: R= (id, A1, A2, A3, A4), id = {1/12/201 , 2/12/201 }, đơn vị liệu = A, A2 = B, A3 = C, A4 = D Ma trận giao tác khối minh họa id T 1/12/2013 2/12/2013 t1 t2 t3 t1 t2 t3 A 1 1 bảng sau: Các đơn vị liệu B C 0 0 1 0 Bảng 3.1: Minh họa ma trận giao tác khối D 1 1 40 Ta có khối giao tác nhị phân minh họa ví dụ 3.1: T1 A B C D 1 0 0 T2 1 1 0 T3 1 1 2/12/2013 1/12/2013 r(R) Hình 3.1: Khối giao tác nhị phân 3.1.2 Luật kết hợp 3.1.2.1 Khái niệm luật kết hợp Định nghĩa 3.2: (Định nghĩa luật kết hợp) Cho R = (id; A1, A2, , An), r(R) khối R x  id ta có luật kết hợp phép kéo theo có dạng X(x)  Y(x) X, Y  {A1, A2, , An} X  Y =  3.1.2.2 Độ hỗ trợ Cho R = (id; A1, A2, , An), r(R) khối R Xét khối r gồm tập giao tác D x  id ta phân hoạch D thành thành phần theo tập số id : D Dx Ký hiệu v(X(x)) tần suất xuất tập  xid mục liệu X(x) tập giao tác Dx Ta có v(X(x)) = p/m (Trong p số giao tác chứa mục liệu X, m tổng số giao tác tập Dx, X  { A1, A2, , An}) Định nghĩa 3.3: (Định nghĩa độ hỗ trợ tập mục liệu) Ký hiệu Supp X(x) = v(X(x)) liệu X(x) gọi độ h trợ tập mục 41 Định nghĩa 3.4: (Định nghĩa độ hỗ trợ luật kết hợp) Độ h trợ luật kết hợp X(x)  Y(x) x  id, ký hiệu supp(X(x)  Y(x)) = v((XY)(x)), XY biểu di n hợp hai tập đvdl X Y 3.1.2.3 Độ tin cậy Định nghĩa 3.5: (Định nghĩa độ tin cậy luật kết hợp) Ký hiệu conf (X(x)  Y(x) )  supp((XY)(x) ) supp(X (x) ) gọi độ tin cậy luật X(x)  Y(x), x  id 3.1.2.4 Tập mục liệu thường xuyên (tập thường xuyên) Định nghĩa 3.6: Cho trước giá trị ngưỡng độ h trợ tối thiểu min_supp = s ngưỡng độ tin cậy tối thiểu min_conf = c0 với ≤ s0,c0 ≤ x  id, ta gọi tập X(x) với X  {A1, A2, , An} tập mục liệu thường xuyên (hay tập thường xuyên) tập giao tác Dx supp(X(x)) ≥ s0 Ngược lại X(x) gọi tập không thường xuyên Nếu có supp(X(x)  Y(x)) ≥ s0 conf(X(x)  Y(x)) ≥ c0 Ta nói rằng, có luật kết hợp X(x)  Y(x) Dx thỏa ngưỡng cho trước 3.2 Thuật toán khai phá luật kết hợp mô hình liệu dạng khối 3.2.1 Giới thiệu thuật toán khai phá luật kết hợp Trong phần tác giả trình bày thuật toán priori thuật toán việc tìm luật kết hợp Mệnh đề 3.1: Cho R = (id; A1, A2, , An), r(R) khối R, tập mục liệu X(x), Y(x),x  id, X, Y  { A1, A2, , An} Khi X(x)  Y(x), supp(X(x)) ≥ supp(Y(x)) Chứng minh: p dụng định ngh a độ h trợ tập mục liệu ta có : supp(X(x)) = v(X(x)) = p/m 42 supp(Y(x)) = v(Y(x)) = p’/m (Trong đó, p số giao tác Dx có chứa tập X, p’ số giao tác Dx có chứa tập Y, m tổng số giao tác tập Dx) Do X(x)  Y(x) nên giao tác có chứa tập Y cúng giao tác có chứa tập X nên p ≥ p’ ậy suy supp(X(x)) ≥ supp(Y(x)) Mệnh đề 3.2: Cho R = (id; A1, A2, , An), r(R) khối R, cho tập mục liệu X(x), Y(x), Z(x), x  id, X, Y, Z  {A1, A2, , An} X(x)  Y(x) =  Khi đó, conf(X(x)\ Z(x)  Y(x)  Z(x)) ≤ conf (X(x)  Y(x)) Chứng minh: ới X(x) Y(x)  X(x) Y(x)  Z(x) X(x) \ Z(x)  X(x), theo mệnh đề 3.2, ta có: Supp (X(x) Y(x)) Supp (X(x) Y(x)  Z(x)) Supp (X(x) \Z(x))  Supp(X(x)) Do đó: supp(X(x)  Y(x)  Z(x) ) supp(X(x) \Z(x) )  supp(X(x)  Y(x) ) supp(X (x) ) Từ mệnh đề ta có nhận xét sau: - Nếu tập mục liệu thường xuyên xảy ra, tập tập thường xuyên xảy - Nếu tập mục liệu không thường xuyên xảy ra, tập chứa tập không thường xuyên xảy Khi biết tập thường xuyên X(x)và với Y(x) X(x), để biết Y(x) X(x)\Y(x) có phải luật kết hợp hay không, cần kiểm tra điều kiện: Supp (X(x))/Supp (Y(x))  c0 Tìm tập thường xuyên: 43 - Trong m i lần duyệt, trước hết tính độ h trợ tập 1- đvdl xác định tập 1- đvdl thường xuyên (tương ứng với s0 cho trước) - Dựa tập thường xuyên (k-1)- đvdl xét lần trước đó, tạo tập ứng viên gồm k- đvdl tính mức xác nhận chúng - Dựa vào tập ứng viên xác định tập ứng viên tập thường xuyên chúng tr thành nhân phép duyệt - uá trình tiếp tục không tìm thêm tập ứng viên 3.2.2.Thuật toán khai phá luật kết hợp lát cắt Dx Một số ký hiệu sử dụng thuật toán:  Cho R = (id; A1, A2, , An), r(R) khối R Xét khối r gồm tập giao tác D x  id ta phân hoạch D thành thành phần theo tập số id : D  Dx xid - Gọi số đvdl tập đvdl số phần tử chúng tập có k phần tử ký hiệu k-đvdl - Gọi Lk tập tập thường xuyên gồm k-đvdl Thông tin m i phần tử Lk có dạng (X(x), count, start), X(x) tập gồm kđvdl tập {A1, A2, , An}, count số lần xuất X(x) Dx start thời điểm bắt đầu xét xuất X(x) - Gọi Ck tập tập ứng viên k- đvdl Thông tin m i phần tử Ck có dạng (X(x), count, start) - ới m i giao tác T  D x, gọi Set(T) tập đvdl xuất T Thuật toán 3.1 Tạo tập thường xuyên (Trong thuật toán có sử dụng hàm tạo tập ứng viên Cand_block(Lk1), trình bày thuật toán 2) 44 Format: Freq_block(I, Dx, s0) Input: Tập đơn vị liệu = { A1, A2, , An} Tập giao tác D gồm m giao tác s0  [0, 1] Output: Tập L gồm phần tử tất tập đvdl xảy thường xuyên Method L1:= {tập thường xuyên 1- đvdl}; k :=1; while (Lk  ) begin k := k + 1; Ck := Cand_set(Lk-1); for each (giao tác T) in Dx Vt := {X(x)| X(x)  Ck, X(x)  Set (T)}; for each X(x) in Vt X(x).Count ++; end for end for Lk = {X(x)  Ck | X(x).Count  m*s0}; end Return (k Lk); End Freq_Block Thuật toán 3.2 tạo tập ứng viên k- đvdl, Ck, từ tập thường xuyên (k-1)- đvdl, Lk-1 Thuật toán gồm bước: - Hợp: lấy hai phần tử khác đvdl L k-1, hợp chúng lại phần tử gồm k- đvdl Ck - Thu gọn: với m i phần tử X(x) Ck, ta kiểm tra điều kiện Lk-1 chứa tất tập (k-1)- đvdl X(x) 45 Thuật toán 3.2: Tạo tập ứng viên từ (Lk-1) Format: Cand_block(Lk-1) Input: Tập Lk-1 gồm (k-1)- đvdl xảy thường xuyên Output: Tập ứng viên Ck gồm k- đvdl Method Ck = ; for each X(x) in Lk-1 (1) for each Y(x) in Lk-1 with (|X(x)\Y(x)|=1) Z := X(x)  Y(x); // |Z| = k Ck :=Ck  Z(x); end for end for for each X(x) in Ck (2) for each A in X(x) if ((X(x)\{A})  Lk-1) then Ck := Ck \ {X(x)}; end if end for end for Return Ck; End Cand_block Thuật toán tìm tất luật kết hợp sau biết tập thường xuyên L ới m i phần tử X(x)  L, xét tất tập Y(x) X(x) để biết Y(x)  X(x)\Y(x) có phải luật kết hợp hay không, ta kiểm tra điều kiện Supp(X(x)) / Supp(Y(x))  c0 Thuật toán 3.3: Khai phá luật kết hợp Format: Assoc_block(L, c0) 46 Input: Tập L gồm phần tử tất tập đvdl xảy thường xuyên tập giao tác Dx c0  [0, 1] Output: Tập tất luật kết hợp Dx Method Result :=; for each X(x) in L for each (Y(x)  X(x)) and (Y(x) ) if (Supp(X(x))/ Supp(Y(x)) c0) then Result:= Result  {Y(x)  (X(x)\Y(x))}; end if end for return Result; end Assoc_block Trong thuật toán priori nêu trên, sau có tập đơn vị liệu xảy thường xuyên, luật kết hợp tìm s tất tập tập thường xuyên Chẳng hạn, tập Z(x) = X(x)  Y(x) xảy thường xuyên ta xét supp(Z(x)) / Supp(X(x)) có thỏa ngưỡng độ tin cậy c0 hay không, thỏa ta có X(x)  Y(x) luật kết hợp cần tìm, thuật toán thực với tập X(x), Y(x) Z(x) 47 Ví dụ 3.2: Cho khối giao tác nhị phân ngưỡng s0 = 30%, c0 = 60%: A B C D 1 1 T1 0 T2 1 0 T3 1 1 2/12/2013 1/12/2013 r(R) p dụng thuật toán 1, ta có bước thực thuật toán priori khối sau: - Xét lát cắt Dx1 với x1  id x1 = 1/12/2013: L1 C1 X(1/12/2013) Supp.count X(1/12/2013) Supp.count A(1/12/2013) A(1/12/2013) B(1/12/2013) B(1/12/2013) C(1/12/2013) D(1/12/2013) D(1/12/2013) C2 L2 X(1/12/2013) Supp.count X(1/12/2013) Supp.count AB(1/12/2013) AB(1/12/2013) AD(1/12/2013) AD(1/12/2013) BD(1/12/2013) BD(1/12/2013) 48 C3 L3 X(1/12/2013) Supp.count X(1/12/2013) Supp.count ABD(1/12/2013) ABD(1/12/2013) Ta có tập thường xuyên L(1/12/2013) = {A, B, D, AB, AD, BD, ABD} - Xét lát cắt Dx2 với x2  id x2 = 2/12/2013: C’1 L’1 X(2/12/2013) Supp.count X(2/12/2013) Supp.count A(2/12/2013) A(2/12/2013) B(2/12/2013) B(2/12/2013) C(2/12/2013) C(2/12/2013) D(2/12/2013) D(2/12/2013) L’2 C’2 X(2/12/2013) Supp.count X(2/12/2013) Supp.count AB(2/12/2013) AB(2/12/2013) AC(2/12/2013) AC(2/12/2013) AD(2/12/2013) AD(2/12/2013) BD(2/12/2013) BC(2/12/2013) CD(2/12/2013) BD(2/12/2013) CD(2/12/2013) C’3 L’3 X(2/12/2013) Supp.count X(2/12/2013) Supp.count ABD(2/12/2013) ABD(2/12/2013) ACD(2/12/2013) ACD(2/12/2013) 49 Ta có tập thường xuyên L’(2/12/2013) = {A, B, C, D, AB, AC, AD, BD, CD, ABD, ACD} Ta lấy giao L L’ cho tập thường xuyên khối r: L*= L  L’ = { A, B, D, AB, AD, BD, ABD} 3.2.3 Luật kết hợp khối r Sau áp dụng thuật toán tìm luật kết hợp lát cắt r(Rx) với x  id có dạng: Cx = X(x)  Y(x) Luật kết hợp khối r tìm phép lấy giao luật kết hợp lát cắt (coi x  id đồng nhất): Cr  Cx x id Như luật kết hợp khối r tìm không phụ thuộc vào x  id tức lát cắt khối r 3.2.4 t ố kết luật kết hợp khối Nhận xét: - Phép giao luật kết hợp tìm lát cắt luật kết hợp khối r - Phép hợp luật kết hợp khối r tập hợp luật kết hợp lát cắt toàn khối Xét thêm trường hợp id phân hoạch thành mảnh id1, id2, …, idk: id  id1  id   id k  idi  id j  ; i, j  k Khi ta có khối tương ứng: r1: {id1, A1, A2, …, n} có tập luật kết hợp tìm C r r2: {id2, A1, A2, …, n} có tập luật kết hợp tìm C r 50 ………………………………………………………… rk: {idk, A1, A2, …, n} có tập luật kết hợp tìm C r k Ta có mệnh đề sau: Mệnh đề 3.3: Cho id’, id’’  id id’ id’’ =  r’, r’’ khối tương ứng với tập số id’ id’’ Cr’, Cr’’ tập luật kết hợp tương ứng với khối r’ r’’ Khi id’  id’’ ta có Cr’  Cr’’ Chứng minh: Thật vậy, ta có: Cr '  Cx x id ' C r ''  Cx x id '' Vì id’  id’’ nên suy Cx  x id ' xid '' C x hay Cr’  Cr’’ 3.4 Kết luận chương Nội dung chương đưa khái niệm khối giao tác, độ h trợ, độ tin cậy, tập mục thường xuyên mô hình khối.Trên s sử dụng thuật toán khai phá luật kết hợp Apriori để tìm tập mục liệu thường xuyên tìm luật kết hợp mô hình liệu dạng khối 51 KẾT LUẬN Kết luận Khai phá liệu l nh vực đã, phát triển mạnh không giới mà iệt Nam b i ứng dụng mà đem lại vô to lớn Đã có nhiều nghiên cứu khai phá liệu mô hình quan hệ, nhiên việc khai phá liệu mô hình liệu dạng khối mẻ Sau thời gian thực đề tài với n lực, cố gắng thân với hướng dẫn nhiệt tình thầy giáo PGS TS Trịnh Đình Thắng, em thu số kết sau: - Tìm hiểu khái quát khai phá liệu - Tìm hiểu khai phá luật kết hợp thuật toán priori mô hình liệu quan hệ - Đưa khái niệm s liệu giao tác, độ h trợ, độ tin cậy, tập mục liệu thường xuyên, luật kết hợp mô hình liệu dạng khối - p dụng thuật toán priori để khai phá luật kết hợp mô hình liệu dạng khối Hướng phát tri n đề tài ới kết nghiên cứu bước đầu tiền đề cho nghiên cứu em điều kiện thời gian cho phép Trong tương lai, tác giả mong muốn hoàn thiện vấn đề sau: Xây dựng thuật toán khai phá luật kết hợp theo trọng số, theo chu kỳ xuất đơn vị liệu mô hình khối đặc khối r ng 52 Tµi liÖu tham kh¶o Nguy n Xuân Huy, Trịnh Đình Thắng (1998), Mô hình sở liệu dạng khối, Tạp chí Tin học Điều khiển học, T.14, (S.3), 52-60 Lê ăn Phùng, uách Xuân Trư ng (2010), Khai phá liệu – Data Mining, Nhà xuất thông tin truyền thông Trịnh Đình Thắng (2011), Mô hình liệu dạng khối, Nhà xuất Lao động Nguy n Thanh Thủy (2001), Khai phá liệu – k thuật ứng dụng, Hà Nội Nguy n Đình Thuân (2005), Một số vấn đề phụ thuộc liệu luật kết hợp s liệu có yếu tố thời gian, Luận án Tiến s Toán học Nguy n Hữu Trọng (200 ), Phát triển số thuật toán khai phá luật kết hợp s liệu gia tăng, Luận án Tiến s Toán học Trịnh Đình Vinh (2011), Một số phụ thuộc liệu sở liệu, Luận án Tiến s Toán học