(Luận văn thạc sĩ) Mạng Nơron Kohonen và ứng dụng trong phân loại sản phẩm

(Luận văn thạc sĩ) Mạng Nơron Kohonen và ứng dụng trong phân loại sản phẩm(Luận văn thạc sĩ) Mạng Nơron Kohonen và ứng dụng trong phân loại sản phẩm(Luận văn thạc sĩ) Mạng Nơron Kohonen và ứng dụng trong phân loại sản phẩm(Luận văn thạc sĩ) Mạng Nơron Kohonen và ứng dụng trong phân loại sản phẩm(Luận văn thạc sĩ) Mạng Nơron Kohonen và ứng dụng trong phân loại sản phẩm(Luận văn thạc sĩ) Mạng Nơron Kohonen và ứng dụng trong phân loại sản phẩm(Luận văn thạc sĩ) Mạng Nơron Kohonen và ứng dụng trong phân loại sản phẩm(Luận văn thạc sĩ) Mạng Nơron Kohonen và ứng dụng trong phân loại sản phẩm(Luận văn thạc sĩ) Mạng Nơron Kohonen và ứng dụng trong phân loại sản phẩm(Luận văn thạc sĩ) Mạng Nơron Kohonen và ứng dụng trong phân loại sản phẩm(Luận văn thạc sĩ) Mạng Nơron Kohonen và ứng dụng trong phân loại sản phẩm(Luận văn thạc sĩ) Mạng Nơron Kohonen và ứng dụng trong phân loại sản phẩm(Luận văn thạc sĩ) Mạng Nơron Kohonen và ứng dụng trong phân loại sản phẩm(Luận văn thạc sĩ) Mạng Nơron Kohonen và ứng dụng trong phân loại sản phẩm(Luận văn thạc sĩ) Mạng Nơron Kohonen và ứng dụng trong phân loại sản phẩm(Luận văn thạc sĩ) Mạng Nơron Kohonen và ứng dụng trong phân loại sản phẩm(Luận văn thạc sĩ) Mạng Nơron Kohonen và ứng dụng trong phân loại sản phẩm(Luận văn thạc sĩ) Mạng Nơron Kohonen và ứng dụng trong phân loại sản phẩm(Luận văn thạc sĩ) Mạng Nơron Kohonen và ứng dụng trong phân loại sản phẩm(Luận văn thạc sĩ) Mạng Nơron Kohonen và ứng dụng trong phân loại sản phẩm(Luận văn thạc sĩ) Mạng Nơron Kohonen và ứng dụng trong phân loại sản phẩm(Luận văn thạc sĩ) Mạng Nơron Kohonen và ứng dụng trong phân loại sản phẩm(Luận văn thạc sĩ) Mạng Nơron Kohonen và ứng dụng trong phân loại sản phẩm

ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THÔNG NGUYỄN THỊ TÂM MẠNG NƠ RON KOHONEN VÀ ỨNG DỤNG PHÂN LOẠI SẢN PHẨM LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www lrc.tnu.edu.vn Thái Nguyên, năm 2015 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www lrc.tnu.edu.vn ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THƠNG LỜI CẢM ƠN Đầu tiên cho tơi gửi lời cảm ơn chân thành sâu sắc đến thầy PGS.TS Lê Bá Dũng - Viện CNTT - Viện KH CN Việt nam tận tình NGUYỄN THỊ TÂM hướng dẫn, bảo cho suốt trình làm luận văn Tơi gửi lời cảm ơn đến thầy cô trường Đại học Công nghệ thông tin Truyền thông – Đại học Thái Nguyên, thầy cô Viện Công MẠNG RON KOHONEN nghệ thông tin truyền đạtNƠ kiến thức giúp đỡ tôiVÀ suốt trình học DỤNG ỨNG PHÂN LOẠI SẢN PHẨM Tôi xin gửi lời cảm ơn tới đồng nghiệp, gia đình bạn bè người động viên tạo điều kiện giúp đỡ suốt hai năm học Chuyên ngành : Khoa học máy tính Mã số chuyên ngành: 60 48 01 LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH NGƯỜI HƯỚNG DẪN KHOA HỌC PGS TS LÊ BÁ DŨNG Thái Nguyên, tháng năm 2015 LỜI CAM ĐOAN Tôi xin cam đoan toàn nội dung luận văn tự nghiên cứu, đọc, dịch tài liệu, tổng hợp thực Trong luận văn tơi có sử dụng số tài liệu tham khảo trình bày phần tài liệu tham khảo Người viết luận văn Nguyễn Thị Tâm Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www lrc.tnu.edu.vn LỜI CẢM ƠN Đầu tiên cho gửi lời cảm ơn chân thành sâu sắc đến thầy PGS.TS Lê Bá Dũng - Viện CNTT - Viện KH CN Việt nam tận tình hướng dẫn, bảo cho tơi suốt q trình làm luận văn Tơi gửi lời cảm ơn đến thầy cô trường Đại học Công nghệ thông tin Truyền thông – Đại học Thái Nguyên, thầy cô Viện Công nghệ thông tin truyền đạt kiến thức giúp đỡ suốt q trình học Tơi xin gửi lời cảm ơn tới đồng nghiệp, gia đình bạn bè người động viên tạo điều kiện giúp đỡ suốt hai năm học Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www lrc.tnu.edu.vn i MỤC LỤC MỤC LỤC i DANH MỤC CÁC KÍ HIỆU, CHỮ CÁI VIẾT TẮT iv DANH MỤC CÁC HÌNH VẼ v MỞ ĐẦU Chương 1: TỔNG QUAN VỀ MẠNG NƠRON VÀ MỘT SỐ PHƯƠNG PHÁP PHÂN CỤM DỮ LIỆU 1.1 Mạng nơron sinh học 1.1.1 Cấu trúc nơron sinh học 1.1.2 Hoạt động nơron sinh học 1.2 Mạng nơron nhân tạo 1.2.1 Cấu trúc mơ hình nơron nhân tạo 1.2.2 Mơ hình mạng nơron nhân tạo 1.2.3 Mạng nơron lớp 10 1.2.4 Mạng nơron truyền thẳng nhiều lớp 11 1.2.5 Mạng Hopfield 11 1.3 Các luật học 13 1.3.1 Quy tắc học mạng nơron nhân tạo 13 1.3.2 Học có giám sát 14 1.3.3 Học không giám sát 15 1.3.4 Học tăng cường 15 1.4 Một số phương pháp phân cụm liệu 16 1.4.1 Phân cụm thành phần phân cụm liệu 16 1.4.2 Phương pháp phân cụm phân cấp 17 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www lrc.tnu.edu.vn ii 1.4.3 Phương pháp phân cụm phân hoạch 17 1.4.4 Phương pháp phân cụm dựa mật độ 17 1.4.5 Phân cụm liệu dựa lưới 18 1.4.6 Phân cụm liệu dựa ràng buộc 18 Chương 2: PHÂN CỤM DỮ LIỆU SỬ DỤNG MẠNG SOM 20 2.1 Thuật toán phân cụm liệu 20 2.2 Thuật tốn phân cụm tuyến tính khơng giám sát 21 2.2.1 Thuật toán phân cụm K-mean 21 2.2.2 Thuật toán phân cụm Fuzzy C-means 23 2.2.3 Thuật toán phân cụm phân cấp 25 2.2.4 Thuật toán phân cụm chất lượng ngưỡng 26 2.3 Thuật toán phân cụm phi tuyến tính khơng giám sát 27 2.3.1 Thuật toán phân cụm MST (Minimum spanning tree) 27 2.3.2 Thuật toán phân cụm liệu Kernel K-mean 28 2.3.3 Thuật toán phân cụm dựa mật độ DBSCAN 29 2.4 Mạng nơron Kohonen (SOM) 30 2.4.1 Giới thiệu mạng Kohonen (SOM) 30 2.4.2 Cấu trúc SOM 32 2.4.3 Khởi tạo SOM 32 2.4.4 Huấn luyện SOM 33 2.4.5 Tỉ lệ học 34 2.4.6 Hàm lân cận 35 2.4.7 Cập nhật trọng số 38 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www lrc.tnu.edu.vn iii 2.4.8 Xác định nơron chiến thắng 39 2.4.9 Bảo toàn cấu trúc liên kết 40 2.5 SOM sử dụng phân cụm liệu 40 2.5.1 SOM phân cụm với đồ chiều 41 2.5.2 SOM phân cụm với đồ chiều 41 2.5.2.1 Phân cụm không gian đồ 41 2.5.2.2 Phân cụm không gian trọng số 42 2.5.3 Xác định ranh giới cụm 42 2.5.4 Trực quan mạng 43 Chương 3: ỨNG DỤNG MẠNG KOHONEN (SOM) TRONG PHÂN LOẠI SẢN PHẨM 46 3.1 Phát biểu toán 46 3.2 Mạng Kohonen cho phân loại sản phẩm 48 3.2.1 Cấu trúc mạng 48 3.2.2 Chuẩn bị liệu 49 3.2.3 Mơ hình mạng Kohonen 51 3.2.4 Chương trình thực thi trình phân loại sản phẩm 52 3.2.5 Kiểm tra q trình tính tốn 53 3.2.6 Đánh giá kết 54 3.3 Đề xuất phương án triển khai kỹ thuật cho phân loại sản phẩm hạt cà phê 55 TÀI LIỆU THAM KHẢO 64 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www lrc.tnu.edu.vn iv DANH MỤC CÁC KÍ HIỆU, CHỮ CÁI VIẾT TẮT SOM (Self-Organizing Maps) Mạng nơron tự tổ chức PE (Processing element) Phần tử xử lý U-matrix (unified distance matrix) Ma trận thống khoảng cách EM (Expectation maximization) Thuật toán tối đa hóa MST (Minimum spanning tree) Thuật tốn tối thiểu mở rộng BMU (Best – Matching unit) Đơn vị phù hợp DBSCAN (Density Based Spatial Phân cụm liệu dựa Clustering of Applications with không gian mật độ ứng dụng với Noise) nhiễu DANH MỤC CÁC BẢNG BIỂU Bảng 3.1: Đầu vào, đầu độ lớn liệu hoa Iris 54 Bảng 3.2: Kết phân loại hoa Iris 55 Bảng 3.3: Kết hạt cà phê sau phân loại 58 Bảng 3.4: Dữ liệu độ dài, độ rộng, độ dày màu sắc cà phê 61 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www lrc.tnu.edu.vn v DANH MỤC CÁC HÌNH VẼ Hình 1.1: Mơ hình nơron sinh học Hình 1.2: Mơ hình nơron nhân tạo Hình 1.3: Đồ thị dạng hàm truyền Hình 1.4: Mạng nơron lớp Hình 1.5: Một số dạng mạng nơron 11 Hình 1.6: Cấu trúc mạng Hopfield 12 Hình 1.7: Học có giám sát 14 Hình 1.8: Học khơng giám sát 15 Hình 2.1: Sơ đồ khối thuật toán K-mean 22 Hình 2.2: Cấu trúc mạng SOM 32 Hình 2.3: Cập nhật BMU lân cận với mẫu đầu vào x 34 Hình 2.4: Hàm tỉ lệ học theo thời gian 35 Hình 2.5: Giá trị hàm lân cận Gausian(a) hàm Bubble(b) 38 Hình 2.6: Bảo tồn cấu trúc liên kết cụm 40 Hình 3.1 a: Thực phẩm trước phân loại 47 Hình 3.1.b Phân loại thực phẩm theo thuộc tính sử dụng mạng Kohonen 48 Hình 3.2: Sơ đồ khối thuật tốn trình phân loại sản phẩm 49 Hình 3.3: Thuật toán phân cụm sản phẩm 52 Hình 3.4: Kết gom cụm sản phẩm hoa iris theo độ dài rộng đại hoa cánh hoa 53 Hình 3.5: Hình ảnh cà phê sau thu hoạch 57 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www lrc.tnu.edu.vn ii Hình 3.6: Kết gom cụm sản phẩm hạt cà phê theo độ dài, độ rộng, bề dày, mà sắc nhân hạt cà phê 62 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www lrc.tnu.edu.vn ... thành phần sản phẩm nhằm nhận biết thuộc tính sản phẩm, học viên đề xuất đề tài ? ?Mạng Nơron Kohonen ứng dụng phân loại sản phẩm? ?? Luận văn tập trung vào tìm hiểu mạng SOM sử dụng SOM phân cụm liệu... việc phân loại sản phẩm là: xử lý liệu đầu vào để có sản phẩm theo yêu cầu cụ thể; phân tích thuộc tính để thu thông tin đặc trưng sản phẩm nhằm hỗ trợ cho việc phân loại nhận biết sản phẩm; phân. .. động mạng nơron lớp với phần tử nơron Mạng có ba đầu vào x1, x2, x3 hai đầu y1, y2 Các tín hiệu đầu vào đưa đến nơron đầu vào, nơron làm thành lớp đầu vào mạng Các nơron lớp gọi nơron đầu vào