Mạng nowrron kohonen som ứng dụng trọng phân nhóm sinh viên dựa trên kết quả học tập

ĐẠI HỌC THÁI NGUYÊN TRƢỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THÔNG LÂM VIỆT THẮNG MẠNG NƠRON KOHONEN – SOM ỨNG DỤNG TRONG PHÂN NHÓM SINH VIÊN DỰA TRÊN KẾT QUẢ HỌC TẬP LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH Thái Ngun 2014 Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ LỜI CẢM ƠN Để hoàn thành chƣơng trình học viết luận văn tốt nghiệp này, em nhận đƣợc hƣớng dẫn, giúp đỡ góp ý nhiệt tình thầy trƣờng Đại học Công nghệ thông tin Truyền thông Trƣớc hết, em xin chân thành cảm ơn đến quý thầy cô trƣờng Đại học Công nghệ thông tin Truyền thông, đặc biệt thầy tận tình dạy bảo cho em suốt thời gian học tập trƣờng Em xin gửi lời biết ơn sâu sắc đến thầy giáo Tiến sĩ Nguyễn Văn Tảo Thầy dành nhiều thời gian, tâm huyết tận tình giúp đỡ, hƣớng dẫn cho em suốt trình nghiên cứu giúp em hoàn thành luận văn Mặc dù có nhiều cố gắng hồn thiện luận văn tất nhiệt tình lực mình, nhiên khơng thể tránh khỏi thiếu sót, mong nhận đƣợc đóng góp quý báu quý thầy cô bạn Thái Nguyên, ngày 28 tháng năm 2014 Học viên Lâm Việt Thắng Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ MỞ ĐẦU Sự bùng nổ phát triển mạnh mẽ công nghệ đƣa máy tính đến với hoạt động sinh hoạt lao động ngƣời Kèm theo khối lƣợng liệu thông tin, tri thức khổng lồ mà để quản lý nắm bắt, phân loại chúng toán nan giải tốn nhiều thời gian công sức nhà quản lý, phát triển Ngày liệu số trở lên thông dụng trở thành loại thông tin đƣợc trao đổi phổ biến tất phƣơng tiện thông tin, liên lạc…Nhƣng việc nắm bắt nội dung loại thơng tin điều tƣơng đối khó cho hệ thống giám sát phân loại tự động Những thông tin mang tính chất phức tạp mà để hiểu đƣợc phƣơng pháp phân loại bình thƣờng chƣa đủ mạnh Thực tế chứng minh cách tốt để phân loại liệu dùng óc ngƣời Tất nhiên điều vô quý giá ứng dụng chúng để giải vấn đề tin học đem lại thành cơng ngồi mong đợi Một máy tính, dù có mạnh đến đâu nữa, phải làm việc theo chƣơng trình xác đƣợc hoạch định trƣớc chun gia Bài tốn phức tạp việc lập trình cơng phu Từ lâu nhà khoa học nhận thấy ƣu điểm óc ngƣời tìm cách phát triển để máy tính có khả học tập, nhận dạng phân loại Các mạng nơron nhân tạo (Artificial Neural Network, ANN) đời từ nỗ lực ANN lĩnh vực nghiên cứu rộng lớn phát triển mạnh khoảng 15 năm gần Tuy có nhiều kết khích lệ, nhƣng ANN cịn xa đạt đƣợc hồn chỉnh nhƣ óc ngƣời Và ứng dụng công nghệ thông tin cịn nhiều hạn chế Trong khn khổ luận văn xin trình bày nghiên cứu tổng quan ANN, lỗ lực cải tiến thuật toán, cài đặt ứng dụng mạng nơron việc phân cụm liệu số Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ NHIỆM VỤ LUẬN VĂN Trong luận văn tập trung nghiên cứu tảng lý thuyết ứng dụng mạng nơron nhân tạo Cụ thể giải toán phân cụm liệu số máy tính với trợ giúp mạng Kohonen-SOM Vì khn khổ luận văn hƣớng tới hai mục đích chính: Nghiên cứu mạng nơron cụ thể mạng SOM, từ ý tƣởng tự nhiên tới phƣơng cách cài đặt máy tính đồng thời đƣa phƣơng pháp cải tiến mặt giải thuật nhằm đƣa mạng nơron ứng dụng giải toán phân cụm liệu số Ứng dụng mạng nơron giải toán phân cụm thực tế biến nghiên cứu, cải tiến trở lên hữu dụng Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ MỤC LỤC MỤC LỤC CHƢƠNG 1: TỔNG QUAN MẠNG NƠRON 1.1 Giới thiệu chung 1.2 Ý tƣởng sinh học 1.3 Mơ hình nơron nhân tạo 1.4 Sử dụng mạng nơron nhân tạo 11 1.5 Thu thập liệu cho mạng nơron nhân tạo 12 1.6 Perceptron nhiều lớp 14 1.6.1 Huấn luyện Perceptron nhiều lớp 14 1.6.2 Thuật toán backpropagation 15 1.6.3 Học mức tổng quát hóa 16 1.6.4 Chọn lựa liệu 18 1.7 Mơ hình mạng nơron 18 1.7.1 Mơ hình nơron cấu trúc mạng 19 1.7.2 Cấu trúc liệu 23 1.7.3 Kiểu huấn luyện 23 1.8 Tóm tắt 23 CHƢƠNG 2: KOHONEN-SOM VÀ PHÂN CỤM DỮ LIỆU 26 2.1 Tìm hiểu mạng Kohonen 26 2.2 Mạng Kohonen gì? 26 2.2.1 Cấu trúc mơ hình mạng Kohonen 28 2.2.2 Thuật toán phân cụm mạng Kohonen 28 - – SOM 32 2.3.1 Tổng quan SOM 32 2.3.2 SOM 33 2.3.3 Khởi tạo mạng Kohonen (SOM) 33 2.3.4 Huấn luyện mạng Kohonen - Som 34 2.3.5 Tỉ lệ học 34 2.3.6 Cập nhật lại trọng số 35 Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ 2.3.7 Xác định nơron chiến thắng 36 2.4 Kohonen (SOM) phân cụm liệu 37 2.4.1 SOM phân cụm với đồ chiều 37 2.4.2 SOM phân cụm với đồ chiều 37 2.4.3 Xác định ranh giới cụm 38 2.4.4 Trực quan mạng 39 2.4.5 Số lƣợng nhóm phân cụm 40 2.5 SOM –Thách thức trình phân cụm liệu 41 2.5.1 SOM –Bài toán phân cụm màu 41 2.5.2 SOM –Thách thức phân nhóm 45 2.5.3 SOM –Vấn đề số lƣợng nhóm 47 2.6 SOM –Giải vấn đề tồn phân cụm 48 2.6.1 Giải pháp phân cụm tự nhiên trình học 48 2.6.2 Giới hạn điều chỉnh số lƣợng nhóm mạng SOM 51 CHƢƠNG 3: ỨNG DỤNG PHÂN CỤM ĐIỂM 54 3.1 Phát biểu toán ứng dụng 54 3.1.1 Nội dung 54 3.1.2 Mục đính- Yêu cầu 55 3.2 Phân tích thiết kế hệ thống cho ứng dụng 56 3.2.1 Xác định tác nhân Use case 56 3.2.2 Biểu đồ Use Case 57 3.2.3 Biểu đồ trình tự cho Use Case 57 3.3 Chƣơng trình ứng dụng 61 3.3.1 Giao diện tổng quan cho ứng dụng 61 3.3.2 Một số tính cho ứng dụng 62 3.3.3 Hƣớng dẫn sử dụng, chạy thử nghiệm 68 KẾT LUẬN 71 TÀI LIỆU THAM KHẢO 73 Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ CHƢƠNG 1: TỔNG QUAN MẠNG NƠRON 1.1 Giới thiệu chung Mạng nơron nhân tạo (Artificial Neural Networks) vài năm trở lại đƣợc nhiều ngƣời quan tâm áp dụng thành công nhiều lĩnh vực khác nhau, nhƣ tài chính, y tế, địa chất vật lý Thật vậy, đâu có vấn đề dự báo, phân loại điều khiển, mạng nơron nhân tạo ứng dụng đƣợc Sự thành cơng nhanh chóng mạng mạng nơron nhân tạo số nhân tố sau: Năng lực: mạng nơron nhân tạo kỹ thuật mơ tinh vi, có khả mơ hàm phức tạp Đặc biệt, mạng nơron nhân tạo hoạt động phi tuyến Trong nhiều năm, mô hình tuyến tính kỹ thuật đƣợc sử dụng rộng rãi hầu hết lĩnh vực, mơ hình tuyến tính có tính chiến lƣợc tối ƣu hóa đƣợc biết nhiều Dễ sử dụng: mạng nơron nhân tạo có tính học theo ví dụ Ngƣời sử dụng mạng nơron nhân tạo thu thập liệu đặc trƣng, sau gọi thuật tốn huấn luyện để tự học cấu trúc liệu Mặc dù ngƣời sử dụng làm tất điều cần thiết để chọn chuẩn bị liệu, sử dụng loại mạng phù hợp hiểu đƣợc kết quả, nhƣng mức độ ngƣời sử dụng biết cách áp dụng thành công mạng nơron nhân tạo thấp nhiều ngƣời sử dụng phƣơng pháp thống kê truyền thống… Mạng nơron nhân tạo dựa việc mô cấp thấp hệ thống nơron sinh học Trong tƣơng lai với phát triển mơ nơron sinh học, có loại máy tính thơng minh thật 1.2 Ý tƣởng sinh học Mạng nơron nhân tạo phát triển từ nghiên cứu trí tuệ nhân tạo; đặc biệt cố gắng bắt chƣớc não có cấu trúc cấp thấp khả học chấp nhận sai hệ thống nơron sinh học Suốt năm 1960 – 1980 nhà nghiên cứu trí tuệ nhân tạo tìm hệ chun gia dựa mơ hình cấp cao xử lý lý luận não Mặc dù mơ Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ hình thành cơng vài lĩnh vực, nhƣng chƣa bắt chƣớc đƣợc trí tuệ ngƣời Điều cấu trúc mơ hình chƣa não Do đó, để tái tạo trí thơng minh, cần phải xây dựng hệ thống có cấu trúc giống não ngƣời Bộ não ngƣời gồm số lớn nơron (khoảng 10.000.000.000 nơron) kết nối với (trung bình nơron kết nối với hàng chục ngàn nơron khác) Mỗi nơron tế bào đặc biệt, truyền tín hiệu điện Nơron có cấu trúc rễ ngõ vào, thân tế bào cấu trúc rễ ngõ (sợi thần kinh) Các sợi thần kinh tế bào kết nối với tế bào khác thông qua synapse Khi nơron kích hoạt, tạo xung điện hóa học dọc theo sợi thần kinh Tín hiệu qua synapse đến nơron khác, tiếp tục bị kích hoạt Nơron hoạt động tất tín hiệu nhận đƣợc thân tế bào thơng qua rễ ngõ vào vƣợt mức (ngƣỡng hoạt động) Hình 1.2 : Cấu tạo tế bào nơron Cƣờng độ tín hiệu thu đƣợc nơron phụ thuộc vào độ nhạy synapse Chỉ có việc học làm thay đổi cƣờng độ kết nối synapse Ví dụ nhƣ theo thí nghiệm có điều kiện Pavlovian cổ điển, gõ chng trƣớc cho chó ăn tối, chó nhanh chóng học đƣợc rung chng gắn liền với ăn Kết nối synapse phần vỏ não thính giác tuyến nƣớc bọt nhạy hơn, rung chng vỏ não thính giác bị kích thích, chó bắt đầu tiết nƣớc bọt Do đó, từ số lớn đơn vị xử lý đơn giản (mỗi đơn vị thực tổng trọng số ngõ vào sau kích hoạt tín hiệu nhị phân tổng ngõ Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ vào vƣợt ngƣỡng), não điều khiển để hoạt động cơng việc phức tạp Dĩ nhiên, phức tạp hoạt động não khơng thể trình bày hết, nhƣng dù mạng trí tuệ nhân tạo đạt đƣợc vài kết đáng ý với mơ hình khơng phức tạp não 1.3 Mơ hình nơron nhân tạo Nơron nhân tạo đƣợc định nghĩa nhƣ sau: Nơron nhân tạo nhận số ngõ vào (từ liệu gốc, hay từ ngõ nơron khác mạng) Mỗi kết nối đến ngõ vào có cƣờng độ (hay trọng số), trọng số tƣơng ứng với tác dụng synapse nơron sinh học Mỗi nơron có giá trị ngƣỡng Tín hiệu đƣợc truyền qua hàm kích hoạt (hay cịn gọi hàm truyền) tạo giá trị ngõ nơron Hình 1.3(a): Mơ hình nơron nhân tạo Nếu sử dụng hàm truyền nấc (nghĩa ngõ nơron ngõ vào nhỏ 0, ngõ vào lớn hay 0) nơron hoạt động giống nhƣ nơron sinh học Thực tế, hàm nấc sử dụng mạng trí tuệ nhân tạo Lƣu ý trọng số âm, nghĩa synapse có tác dụng kiềm chế kích hoạt nơron, nơron kiềm chế tìm thấy não Trên mô tả nơron đơn lẻ Trong thực tế nơron đƣợc kết nối với Khi mạng hoạt động, chúng phải có ngõ vào (mang giá trị biến giới thực) ngõ (dùng để dự báo điều khiển) Ngõ vào ngõ tƣơng ứng với nơron giác quan vận động, nhƣ tín hiệu đƣa vào mắt điều khiển Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ cánh tay Tuy nhiên chúng cịn có nơron ẩn đóng vai trị ẩn mạng Ngõ vào, nơron ẩn ngõ cần đƣợc kết nối với Hình 1.3(b): Mơ hình mạng nơron nhân tạo Vấn đề hồi tiếp Một mạng đơn giản có cấu trúc tiến: tín hiệu vào ngõ vào, qua nơron ẩn cuối đến nơron ngõ Cấu trúc nhƣ chạy ổn định Tuy nhiên, mạng có hồi tiếp (chứa kết nối ngƣợc trở nơron trƣớc đó) mạng chạy khơng ổn định dao động phức tạp Mạng hồi tiếp đƣợc nhà nghiên cứu quan tâm, nhƣng cấu trúc tiến chứng minh hiệu việc giải vấn đề thực tế Mạng nơron nhân tạo tiến cho nhƣ hình dƣới Các nơron đƣợc xếp theo cấu trúc liên kết lớp riêng biệt Lớp ngõ vào nơron thực: nơron hoạt động đơn giản giới thiệu giá trị biến vào Các nơron lớp ẩn lớp ngõ đƣợc kết nối với tất nơron lớp trƣớc Cũng nhƣ định nghĩa mạng có kết nối phần với vài nơron lớp trƣớc đó, nhiên hầu hết ứng dụng mạng có kết nối đầy đủ tốt Hình 1.3 ( c):Cấu trúc mạng nơron nhân tạo 10 Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ Hình 3.2.3.3: Biểu đồ trình tự tạo biểu đồ theo nhóm 3.2.3.4 Phân cụm sinh viên theo nhóm Hình 3.2.3.4: Biểu đồ trình tự phân cụm sinh viên theo nhóm 3.2.3.5 Cấu hình mạng nơron 59 Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ Hình 3.2.3.5: Biểu đồ trình tự cấu hình mạng nơron 3.2.3.6 Chọn loại biểu đồ 60 Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ Hình 3.2.3.6: Biểu đồ trình tự chọn loại biểu đồ 3.2.3.7 Chọn hiển thị biểu đồ Hình 3.2.3.7: Biểu đồ trình tự chọn hiển thị biểu đồ 3.3 Chƣơng trình ứng dụng 3.3.1 Giao diện tổng quan cho ứng dụng Qua trình phân tích, thiết kế kết hợp với thành tựu đạt đƣợc mạng nơron ứng dụng ngôn ngữ lập trình Visual C# Microsotf luận văn xây dựng chƣơng trình tƣơng đối hồn thiện giải toán phân cụm liệu điểm cho học sinh-sinh viên thỏa mãn yêu cầu đề ban đầu Sau hình ảnh cho ứng dụng sau trình cài đặt chạy thử nghiệm 61 Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ Hình 3.3.1: Giao diện chương trình 3.3.2 Một số tính cho ứng dụng Khả đọc chọn liệu: tính bắt buộc, để vận dụng đƣợc thuật tốn từ mạng nơron trƣớc hết chƣơng trình phải có khả chọn,đọc liệu excel thị liệu giao diện Tiếp khả chọn mơn học cho q trình phân cụm, phân cụm kết cuối đƣợc hiển thị chi tiết Để hỗ trợ cho trình chọn phân cụm liệu ứng dụng xây dựng số thành phần hỗ trợ nhiệm vụ 62 Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ Hình 3.3.2(a): Tab hỗ trợ nhập chọn liệu Trên tab hỗ trợ khả chọn lựa tập liệu đầu vào đồng thời hỗ trợ khả chọn môn mốn phân cụm Trong file excel có trƣờng khơng phải liệu điềm mà lable thể tên, ID số báo danh tab hỗ trợ việc phân biệt trƣờng hợp tránh cho việc phân cụm không cần thiết Khả kết xuất biểu đồ cho nhóm: tính đặc biệt hỗ trợ khả thị kết cách trực quan giúp ngƣời quản lý dễ dàng quan sát đánh giá nhóm tốt Tính thƣờng thấy tốn thống kê việc phân cụm điểm toán đặc biệt cần có biểu đồ hỗ trợ so sánh đánh giá Ứng dụng hỗ trợ ngƣời dùng nhiều loại biểu đồ khác tùy theo phƣơng pháp quan sát khác gồm biểu đồ 3D 2D hỗ trợ 20 loại biểu đồ khác 63 Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ Hình 3.3.2(b): Một số biểu đồ trợ giúp dạng 3D 64 Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ Hình 3.3.2(c): Một số biểu đồ trợ giúp dạng 2D 65 Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ Khả phân cụm kết xuất chi tiết: tính cho việc giải tốn phân cụm điểm Chƣơng trình có khả phân cụm cấu hình nhƣ học sinh –sinh viên có kết tƣơng đồng nhóm Dựa vào SOM từ tập liệu ban đầu mạng tự học trình huấn luyện tiến hành phân chia tập liệu đầu vào thành nhóm theo quan hệ (quan hệ không định trƣớc mạng tự động đƣa sau trình học) Từ liệu đầu vào file excel tập hợp điểm tất học sinh, sinh viên lớp, chƣơng trình phân làm nhóm sinh viên khác ngƣời quản lý dễ dàng đƣa phƣơng pháp tác động tới nhóm nhằm đạt hiệu định Hình 3.3.2(d):Bảng liệu đầu vào chương trình 66 Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ Hình 3.3.2(e): Nhóm cấu hình nhóm 67 Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ Hình 3.3.2(f): Các đơn vị nhóm chi tiết nhóm Hình 3.3.2(g) Một phần liệu khả phân nhóm 3.3.3 Hƣớng dẫn sử dụng, chạy thử nghiệm Chƣơng trình đƣợc cài đặt ngơn ngữ lập trình Visual C# Microsoft, chạy net framework 3.5, để chạy đƣợc chƣơng trình cần tiến hành cài đặt net framework 3.5 trở lên Bên cạnh ứng dụng dành cho phân cụm liệu file excel cần tiến hành cài đặt phần mềm Microsoft Office Excel để hỗ trợ khả truy suất liệu Các công cụ đƣợc mơ tả nhƣ sau: 68 Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ Khởi tạo Khởi Phân Hiển thị Hiển Hiển thị Danh sách mạng tạo biểu cụm dữ liệu thị biểu cấu hình phân nhóm nơron đồ liệu đầu vào đồ nhóm Tab chọn Tab chọn Tab chọn môn để Tab chọn Tab chọn file chứa biểu đồ phân cụm nhãn nhóm sau loại biểu đồ liệu hiển thị tƣng ứng phân cụm Hình 3.3.3: Các phần ứng dụng Nhƣ kết thực nghiệm thấy ứng dụng có khả phân cụm liệu tập sinh viên đầu vào hiển thị chi tiết đặc tính nhƣ danh sách sinh viên thuộc nhóm Vậy thao tác nhƣ để có đƣợc kết nhƣ phần mềm ứng dụng, sau bƣớc trình sử dụng Bƣớc 1: Chọn sở liệu 69 Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ Để chọn sở liệu dùng tab Group hỗ trợ giao diện chọn tab home\Open Với tab Group hỗ trợ chọn đƣợc file định dạng excel Bƣớc 2: Chọn môn cần phân cụm nhãn cho đối tƣợng phân cụm Trong tab Properties giúp việc chọn mơn để phân cụm phía bên trái nhãn để phân cụm phía bên phải Bƣớc 3: Khởi tạo mạng nơron tiến hành phân cụm Click vào button Create có giao diện thực trình khởi tạo huấn luyện, phân nhóm mạng nơron Bƣớc 4: Khởi tạo biểu đồ cho nhóm Click vào button Chart giao diện khởi tạo luồng vẽ biểu đồ cho nhóm đƣợc phân cụm sau bƣớc 3, có biểu đồ tổng qt Có thể cấu hình loại biểu đồ tab Control phía bên phải đƣợc ẩn Bƣớc 5: Phân chia liệu thành nhóm quan sát kết Click vào button Split giao diện thực q trình phân nhóm cho liệu đƣợc chọn ban đầu Có thể quan sát cấu hình, danh sách đặc trƣng khác nhóm giao diện Chƣơng trình ứng dụng thành cơng mạng SOM vào q trình phân nhóm học sinh- sinh viên, dựa vào kết phân nhóm ứng dụng mang lại ngƣời quản lý có định hƣớng để cải thiện chất lƣợng học cho nhóm học sinh-sinh viên nhƣ đánh giá đƣợc lực học tập dựa tập sở liệu đƣa vào 70 Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ KẾT LUẬN Mạng nơron lĩnh vực nghiên cứu tƣơng đối rộng đòi hỏi nhiều cơng sức lỗ lực q tình nghiên cứu Bên cạnh việc cài đặt ứng dụng mạng nơron gặp nhiều khó khăn độ phức tạp tƣơng đối cao giải thuật Vì lí khuôn khổ luận văn hƣớng tới mạng nơron dùng để phân cụm liệu mạng SOM để nghiên cứu phát triển.Thực tế chứng minh mạng SOM có nhiều ứng dụng việc nghiên cứu khai thác mạng đem lại nhiều kết thực tiễn Việc nghiên cứu mạng SOM trình phát triển lý thuyết mạng nơron đem lại hiểu biết mạng nơron nhân tạo Trong nội dung luận văn trình bày hiểu biết chung mạng, đồng thời cho ngƣời đọc có đƣợc quan niệm chung lĩnh vực khoa học cịn nhiều mẻ Bên cạnh q trình phát triển mặt tảng lý thuyết đem lại thành công định Cụ thể nội dung báo cáo đề xuất số phƣơng pháp cải tiến mạng SOM, phƣơng pháp phân nhóm hiệu hơn, phƣơng pháp khởi tạo mạng thu gọn… Và cải tiến đem lại hiệu định cho trình xử lý mạng nơron ứng dụng thực tế chúng Ứng dụng phân biệt màu phân cụm điểm ví dụ đƣợc sử dụng minh họa cho khả ứng dụng mạng nơron Bên cạnh làm đƣợc cịn thiếu sót, chƣa hồn hảo trình phát triển Tốc độ phƣơng pháp ứng dụng cần đƣợc cải tiến, lý khiến mạng nơron nói chung mạng SOM nói riêng cịn nhiều hạn chế phƣơng pháp cài đặt máy tính nhƣ chƣa chinh phục đƣợc tốn nan giải Vì cần có nghiên cứu phát triển nhiều mạng nơron thời gian tới Những đạt đƣợc nhiều hạn chế nhƣ phải định hƣớng, hoạch định phƣơng pháp phát triển cho mạng nơron Đây hƣớng đắn giúp cho ngƣời nghiên cứu, phát triển đuổi kịp tiến mạng nơron giới ứng dụng chúng cách hiệu 71 Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ Do điều kiện khách quan nên việc thử nghiệm chƣơng trình thực tế cịn hạn chế Vì cần tiếp tục nghiên cứu thử nghiệm để hoàn thiện ứng dụng chƣơng trình Trong trình thực luận văn mong đƣợc đóng góp bảo thầy, cô giáo Em xin trân thành cảm ơn ủng hộ góp ý thầy cơ, đặc biệt thầy Nguyễn Văn Tảo có hƣớng dẫn chiến lƣơc cho trình nghiên cứu thực luận văn 72 Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ TÀI LIỆU THAM KHẢO Tiếng Việt [1] Bùi Công Cƣờng Nguyễn Doãn Phƣớc, “Hệ mờ, mạng nơron ứng dụng”, NXB Khoa học Kỹ thuật, 2006 [2] Lê Bá Dũng, ”Bài giảng mạng nơron nhân tạo ứng dụng”, ĐH Công nghệ thông tin Truyền thông - Đại học Thái Nguyên, 2012 [3] Lê Minh Trung, “Giáo trình mạng Nơron nhân tạo”, NXB Thống kê, 1999 [4] Nguyễn Đình Thúc, “Trí tuệ nhân tạo - Mạng Nơron – Phương pháp ứng dụng”, NXB Giáo dục, 2000 Tiếng Anh [5] A Arning, R Agrawal, and P Raghavan Alinear method for deviation detection in larger databases, In Proc 1996 Int Conf Data mining and knowledge discovery (KDD-96) , Portland, Oregon, August 1996 [6] Daniel T.Larose, “Discovering knowledge in data : An introduction to data mining”, ISBN 0-471-66657-2 CopyrightC John Wiley & Sons, Inc, 2005 [7] J.Han, M Kamber, “Data Minning Concepts and Techniques”, Morgan Kaufmann Pubishers, 2001 [8] Juha Vesanto, “Using SOMs in Data Mining”, Licentiate’s thesis, Helsinki University of Technology, 2000 [9] Tom Germano, “Self Organizing Maps”, 1999 [10] Teuvo Kohonen(2001), ”Self-Organizing Maps, Third Edition, Springer”, Heidelberg, 2001 73 Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ ... đích sử dụng mạng 44 Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ 2.5.2 SOM –Thách thức phân nhóm Sau q trình học, huấn luyện mạng q trình phân nhóm nơron, nơron đƣợc phân nhóm dựa theo... Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ CHƢƠNG 2: KOHONEN- SOM VÀ PHÂN CỤM DỮ LIỆU 2.1 Tìm hiểu mạng Kohonen Trong kiểu khác mạng nơron, mạng nơron Kohonen giống với mạng nơron sinh học cấu... 2: KOHONEN- SOM VÀ PHÂN CỤM DỮ LIỆU 26 2.1 Tìm hiểu mạng Kohonen 26 2.2 Mạng Kohonen gì? 26 2.2.1 Cấu trúc mơ hình mạng Kohonen 28 2.2.2 Thuật toán phân cụm mạng