thuật toán k nearest neighbors 16

... 2.3 Mô tả thuật toán phân lớp k – Nearest Neighbor K- Nearest Neighbors algorithm (K- NN) đƣợc sử dụng phổ biến lĩnh vực Data Mining K- NN phƣơng pháp để phân lớp đối tƣợng dựa vào khoảng cách ... CHƢƠNG THUẬT TOÁN K – NEAREST NEIGHBOR ĐỂ PHÂN LOẠI NHẠC THEO THỂ LOẠI 29 2.1 Khai phá dữ liệu 29 2.2 Phân lớp 30 2.3 Mô tả thuật toán phân lớp k – Nearest ... dựa vào K láng giềng của K số nguyên dƣơng đƣợc xác định trƣớc thực thuật toán Ngƣời ta thƣờng dùng khoảng cách Euclidean để tính khoảng cách giữa đối tƣợng Thuật toán K- NN đƣợc...

Ngày tải lên: 24/09/2015, 08:48

... cn kim tra) Xỏc xut ca mu kim tra X thuc th loi C c xỏc nh nh sau: (3.8) wk = (k, X) Trong ú: + u l mt hp gm k mu lỏng ging gn X nht, k l mu lỏng ging gn X nht (k G U) + kc l th loi ca k v d (k, x) ... k nearest neighbor Thy rng: - Nearest neighbor: Kt qu l + (Query Point c xp vo lp du +) - Nearest neighbors: khụng xỏc nh lp cho Query Point vỡ s lỏng ging gn nht vi nú l ú l lp + v l lp - (khụng ... lp kia) - Nearest neighbors: Kt qu l - (Query Point c xp vo lp du - vỡ lỏng ging gn nht vi nú thỡ cú i tng thuc lp - nhiu hn lp + ch cú i tng) 2.4 Phõn lp K - Nearest Neighbor Phõn lp K - Nearest...

Ngày tải lên: 24/09/2015, 09:20

... threshold pk (pk > qk) is introduced If gk(a) – gk(b) qk, a and b are considered indifference If gk(a) À gk(b) > pk, a is considered strict preferred to b The case qk < gk(a) À gk(b) pk is then ... [0,2], pk < vk Let the discordance index of ci indifferent to c0 on feature Fk denote as dk(ci,c0) d k ðci ; c0 Þ ¼ 0; if jxik À x 0k j pk ð19Þ d k ðci ; c0 Þ ¼ 1; if jxik À x 0k j > vk ð20Þ d k ðci ... " Fk F, $ x 0k c0, $ xik ci, $ qk [0,2], $ pk [0,2], qk < pk Let the concordance index of ci indifferent to c0 on feature Fk denote as ck(ci,c0) ck ðci ; c0 Þ ¼ 0; if P k ðci ; c0 Þ ð15Þ ck ðci...

Ngày tải lên: 23/12/2013, 17:17

... bày k thuật phân cụm k- means, bên cạnh đánh giá khả áp dụng thuật toán vào toán phân cụm hành vi 9 CHƯƠNG THUẬT TOÁN K- MEANS 2.1 Giới thiệu thuật toán k- means Thuật ngữ "k- means" lần sử dụng ... hưởng nhiễu 2.4 K t luận Trong chương 2, luận văn trình bày vấn đề :  Giới thiệu thuật toán k- means  Cài đặt thuật toán k- means  Đánh giá sơ k t khả triển khai thuật toán k- means vào công ... Chương 2: Thuật toán k- means Chương luận văn trình bày thuật toán phân cụm k- means đánh giá khả áp dụng toán phân cụm hành vi khách hàng sử dụng dịch vụ viễn thông Chương 3: Áp dụng thuật toán k- means...

Ngày tải lên: 17/02/2014, 09:38

... thực thuật toán K- Mediod với n = 10, k = Đánh giá : Thuật toán K- Medoid khắc phục nhiễu, có độ phức tạp lớn O (k (n k )2 ) [8] Chương Thuật toán phân cụm k- Mean 2.2.4.2 30 Thuât toán k -Tâm Thuật ... thực thuật toán K- Mean Ví dụ thực thuật toán K- Mean với n = 10, k = Ví dụ thực thuật toán K- Mediod với n = 10, k = Tham số thuật toán k- Mean với sở liệu Supermarket ... Hình 2.1 thể bước thực bước thuật toán Chương Thuật toán phân cụm k- Mean 26 Hình 2.1 – Sơ đồ bước thực thuật toán K- Mean 2.2.1 Thuật toán K- Mean gán cứng Thuật toán K- Mean gán cứng phân đối tượng...

Ngày tải lên: 05/03/2014, 17:56

... II PHƯƠNG PHÁP 2.1 BÀI TOÁN 1: SỬ DỤNG THUẬT TOÁN K- MEAN 2.1.1 Khái niệm thuật toán k- mean Phát biểu toán: Đầu vào   Tập đối tượng X = , Số cụm k Đầu   Các cụm ( i = k ) tách rời hàm tiêu ... tâm tới vấn đề sau:  K vọng hàng có không ?  Các cột có k vọng toán học không ?  Có tồn hệ thức k vọng toán học hàng cột không ? nói cách khác, hàng cột có tác động lẫn không? Bảng số liệu ... xác định matran khoảng cách sau: - Khoảng cách Minkowski: d(x, y) = p số tự nhiên - - Minkowski p = 2: d(x,y) = Khoảng cách Mahattan trường hợp đặc biệt khoảng cách 1.1.3 dương Khoảng cách Euclidean...

Ngày tải lên: 06/05/2014, 09:44

... 7: Quay lại bước 1.4.2 Thuật toán K- means Thuật toán k- means [15] xếp vào lớp thuật toán phân cụm phẳng, ý tưởng thuật toán biểu diễn cụm trọng tâm trang web nằm cụm Thuật toán thực cách tối thiểu ... cosin ܿ௜ ݀௝ Bắt đầu Số cluster K Không thay đối? Tính tâm cụm K t thúc Tính khoảng cách từ liệu Nhóm liệu dựa khoảng cách Hình 2: Thuật toán K- means Thuật toán K- means không đảm bảo tìm giá trị cực ... đầu k t nhận lần thí nghiệm khác Nói cách khác, ta tiến hành thí nghiệm số lần định với giá trị khởi tạo khác chọn k t lần chạy tối ưu Trong thực tế, liệu lớn giải thuật không hội tụ (Thuật toán...

Ngày tải lên: 20/08/2014, 09:47

... cụm II Thuật toán K- Mean III Khái quát thuật toán Các bước thuật toán Ví dụ minh họa – Demo thuật toán Đánh giá thuật toán Tổng quát hóa Các biến thể K- Mean ứng dung I Ứng dụng thuật toán K- Mean ... định lại vị trí tâm K- Mean ứng dung E= 11 II.2 CÁC BƯớC CủA THUậT TOÁN  Bước - Khởi tạo Chọn K trọng tâm {ci} (i = 1 K)  Bước - Tính toán khoảng cách ={ for all = 1, …, k} x :|| x − c ||≤|| ... Tương tự thuật toán K- mean  Mỗi cụm đại diện đối tượng cụm  Chọn đối tượng gần tâm cụm làm đại diện cho cụm  K- medoid khắc phục nhiễu, độ phức tạp lớn  K- Mean ứng dung Thuật toán K- medoid:...

Ngày tải lên: 09/10/2014, 22:31

... VỀ THUẬT TOÁN K- MEANS Sơ đồ thuật toán: Hình 3: Sơ đồ thuật toán K- means clustering Thuật toán k- means bao gồm bước sau : Input: Số cụm k trọng tâm cụm {mj}kj=1 Output: Các cụm C[i] (1 ≤ i ≤ k) ... 4) = Data(2, 4) = Data(1, 5) = Data(2, 5) = K t chạy với k= K t chạy với k= IV K T LUẬN Giống thuật toán khác, k- mean có số hạn chế định: - Việc khởi tạo phần tử trung tâm nhóm ban đầu ảnh hưởng ... liêuk thuật toán k- means phụ thuộc nhiều vào tham số đầu vào như: số cụm k k trọng tâm khởi tạo ban đầu Trong trường hợp trọng tâm khởi tạo ban đầu mà lệch so với trọng tâm cụm tự nhiên k t phân...

Ngày tải lên: 17/10/2014, 07:23

... 2.1 Thuật toán Thuật toán thao tác tập vectơ d-chiều, D = {xi| i = d điểm liệu thứ i Thuật toán bắt đầu N} xi cách chọn k điểm làm trọng tâm K thuật để chọn điểm hạt giống “ngẫu nhiên” Sau thuật ... trị k vọng (expectation) liệu 2.1 Thuật toán - ví dụ minh họa Lần lặp Lần lặp Lần lặp Lần lặp Lần lặp Lần lặp 2.1 Thuật toán – Vấn đề tối ưu cục Việc chọn giá trị khởi đầu cho trọng tâm k- means ... đến việc hội tụ “cục bộ” hay “toàn cục” liệu Lần lặp Lần lặp Lần lặp 2.2 Khoảng cách hai đối tượng  Khoảng cách Minkowski: d (i, j) q (| x x |q | x x |q | x x |q ) i1 j1 i2 j2 ip jp Trong i...

Ngày tải lên: 26/01/2015, 17:25

... tượng 17 Thuật toán k- mean  Input: Số cụm k cần gom sở liệu chứa n đối tượng  Output: k cụm gom Sơ đồ thuật toán K- means 18 Ví dụ thuật toán k- mean, n=10, k= 2 19 Ưu, nhược điểm thuật toán K- mean: ... phân cụm 12 II THUẬT TOÁN K- MEAN thiệu thuật toán K- mean Giới Phần tử trung tâm Khoảng cách Euclidean Thuật toán Ưu, nhược điểm 13 1.Giới thiệu thuật toán K- mean  K- Means thuật toán thuộc phương ... nhóm, đối tượng, đưa vào nhóm nhóm khác dung lượng liệu thay đổi  Điều kiện khởi tạo có ảnh hưởng lớn đến k t Điều kiện khởi tạo khác cho k t phân vùng nhóm khác  Không xác định mức độ ảnh hưởng...

Ngày tải lên: 11/03/2015, 09:33

... cụm áp dụng Các thuật toán gom cụm khác thích hợp với kiểu khác tập liệu mục tiêu khác Vì thuật toán gom cụm “tốt nhất” để sử dụng tùy thuộc vào ứng dụng Thuật toán k- means thuật toán gom cụm lặp ... phân bố vào cụm tương tự với Exemplar cụm dựa độ đo khoảng cách 11 Gom Văn Thuật toán K- Means CHƯƠNG II THUẬT TOÁN K- MEANS Khái niệm K- means thuật toán gom cụm theo phương pháp phân hoạch sử dụng ... tuyến tính với d nên thuật toán tuyến tính theo chiều liệu Thuật toán k- means Thời gian độ phức tạp thuật toán K- means - Độ phức tạp việc chọn k cụm ban đầu O (k) - Tính khoảng cách n đối tượng...

Ngày tải lên: 09/04/2015, 21:31

... (xem hình) 12 Thuật Toán K- Means K- Means thuật toán quan trọng sử dụng phổ biến k thuật phân cụm Tư tưởng thuật toán K- Means tìm cách phân nhóm đối tượng (objects) cho vào K cụm (K số cụm xác ... G2 = G1 (Không có thay đổi nhóm đối tượng) nên thuật toán dừng k t phân nhóm sau: 17 Thuật toán K- Means có ưu điểm đơn giản, dễ hiểu cài đặt Tuy nhiên, số hạn chế K- Means hiệu thuật toán phụ ... nhiều thuật toán mô hình khai phá liệu lớn Theo đó, weka cung cấp số lượng lớn thuật toán dùng để phân lớp huấn luyện phân lớp Một số phân lớp mà Weka hỗ trợ liệt k sau đây: Lớp toán thuật Câu...

Ngày tải lên: 09/04/2015, 21:35

... Clustering)và thuật toán gom cụm K- medoids Gom cụm liệu (Data Clustering) Thuật toán gom cụm K- Medoids So sánh giải thuật K- means K- medoids Giải thuật gom cụm K- means So sánh giải thuật K- means K- medoids ... O(ik(n -k) 2) - K m hiệu - Chọn số cụm k trước - K t thời gian chạy phụ thuộc vào phân hoạch ban đầu II So sánh giải thuật K- means K- medoids Giải thuật gom cụm K- means K- means phương pháp học không ... Các điểm liệu cụm khác có độ tương tự thấp điểm nằm cụm Bài báo cáo trình bày thuật toán gom cụm K- medoids, ví dụ minh hoạ, ưu khuyết điểm thuật toán, so sánh khác với thuật toán K- means Tôi xin...

Ngày tải lên: 09/04/2015, 22:01

... Bùi Anh Kiệt – CH1101018 22 Khai phá liệu & kho liệu Thuật toán K- Means & ứng dụng thực tế Tài liệu tham khảo Định nghĩa thuật toán K- Means từ wikipedia: http://en.wikipedia.org/wiki /K- means_clustering ... thuật toán K- Means 1.4.1 Thuật toán K- Medoid Thuật toán K- Medoid tương tự thuật toán K- Means, cụm đại diện số đối tượng cụm Thông thường điểm gần vector trọng tâm chọn làm điểm đại diện cụm Thuật ... tính toán Học viên: Bùi Anh Kiệt – CH1101018 15 Khai phá liệu & kho liệu Thuật toán K- Means & ứng dụng thực tế K t luận K- Means thuật toán gom cụm phát phát triển Dù nhiều hạn chế khả tìm k t...

Ngày tải lên: 09/04/2015, 22:03

... Phúc Khoa GVHD: TS Đỗ Phúc HVTH: CH1101015 _Lê Thị Phúc Khoa II Thuật toán K_ means: Giới thiệu thuật toán: K- Means thuật toán quan trọng sử dụng phổ biến k thuật phân cụm Tư tưởng thuật toán K- Means ... vào K cụm (K số cụm xác đinh trước, K nguyên dương) cho tổng bình phương khoảng cách đối tượng đến tâm nhóm (centroid ) nhỏ xi ∈ R d Mục đích thuật toán k_ means sinh k cụm liệu {C1, C2, …., Ck} ... Thị Phúc Khoa Mục Lục GVHD: TS Đỗ Phúc HVTH: CH1101015 _Lê Thị Phúc Khoa I Giới thiệu k thuật phân cụm “khai phá liệu” (Clustering Techniques in Data mining) Phân cụm k thuật quan trọng khai phá...

Ngày tải lên: 09/04/2015, 22:04

... tới k t Vậy làm cách để phát triển thuật toán phân cụm có khả mở rộng cao CSDL lớn ? Khả thích nghi với kiểu thuộc tính khác nhau: Nhiều thuật toán thiết k cho việc phân cụm liệu có kiểu khoảng ... thức mà điểm phân cụm khác dựa thuật toán phân cụm áp dụng Các thuật toán phân cụm khác thích hợp với kiểu khác tập liệu mục tiêu khác Vì thuật toán phân cụm “tốt Trang 12 KHAI PHÁ DỮ LIỆU SVTH:Nguyễn ... nhanh, dễ thích nghi phổ biến thực tế Đây thuật toán kinh điển khai thác liệu Thuật toán k- means Thuật toán k- means áp dụng cho đối tượng biểu diễn điểm không gian vectơ d chiều U ={xi | i =1,...

Ngày tải lên: 09/04/2015, 22:05

... có k thuật Như phần ta phân tích thuật toán K- Means, nhiên thuật toán có hạn chế định Do đó, cần có cải tiến thuật toán nhằm khắc phục hạn chế thuật toán K- means Cải tiến thuật toán K- means: ... với thuật toán K- means có độ phức tạp O(tkn) thì: O( k2 nt)>O(tkn), không K- mendoids, k

Ngày tải lên: 09/04/2015, 22:43

... kiếm nghiệm Thuật toán K- MEANS Thuật toán gom cụm phân hoạch K- MEANS MacQueen đề xuất lĩnh vực thống k năm 1967, mục đích tuật toán K- MEANS 19 sinh k cụm liệu {C1, C2, …, Ck} từ tập liệu ban ... giới thiệu chi tiết thuật toán K_ MEANS cài đặt thử nghiệm thuật toán K_ MEANSs gom n điểm vào k cụm hệ trục tọa độ hai chiều 25 TÀI LIỆU THAM KHẢO [1] Alsabti, Khaled; Ranka, Sanjay; and Singh, ... mãn điều kiện dừng (k t thúc) Điều kiện k t thúc điều kiện để xác định tập đối tượng nút có phải cụm hay không Điều kiện k t thúc đưa vào từ người sử dụng 14 - Ưu điểm phương pháp này: k t hợp...

Ngày tải lên: 09/04/2015, 22:45

... phát Ngoài có thuật toán CLIQUE Môn học: Khai phá liệu kho liệu Trang 17 Phần III Thuật toán phân cụm liệu K- means Thuật toán K- means K- Means thuật toán quan trọng sử dụng phổ biến k thuật phân ... gần, tính toán tung tâm cụm sở gán cho đối tượng Quá trình lặp dừng trung tâm hội tụ c Ngoài có thuật toán PAM, thuật toán CLARA … Thuật toán phân cụm dựa mật độ Thuật toán DBSCAN: Thuật toán DBSCAN ... dụng thuật toán K- means Nội dung tiểu luận bao gồm: Phần : Cơ sở lý thuyết khai phá liệu kho liệu Phần : Phân cụm liệu thuật toán phân cụm liệu Phần : Thuật toán K- means Phần : Demo Môn học: Khai...

Ngày tải lên: 09/04/2015, 22:45