Các mô hình tính toán mô phỏng bộ não người đã được nghiên cứu trong nửa đầu thế kỷ 20. Mặc dù có nhiều mô hình khác nhau được đề xuất, song tất cả đều dùng một cấu trúc mạng gọi là các nơron. Các nơron này xử lý các tín hiệu số gửi tới từ môi trường bên ngoài hoặc từ các nơron khác trong mạng thông qua các kết nối và sau đó gửi tín hiệu đến các nơron khác hoặc ra môi trường. Mạng nơron nhân tạo, gọi tắt là mạng nơron là một lớp các mô hình tính toán như vậy .Cách tiếp cận mạng nơron nhân tạo có ý nghĩa thực tiễn rất lớn cho phép tạo ra các thiết bị có thể kết hợp khả năng song song cao của bộ não với tốc độ tính toán cao của máy tính. Trong những năm gần đây mạng nơron nhân tạo đã được nghiên cứu và ứng dụng trong lĩnh vực như y học, điều khiển,… và đặc biệt được ứng dụng nhiều trong lĩnh vực công nghệ thông tin. Em đã tiếp cận với mạng nơron bằng việc cài đặt (trên MatLab) một mạng Perceptron một lớp (với luật học delta), một mạng Perceptron hai lớp (Luật học lan truyền ngược) và một mạng RBF để giải bài toán phân loại Glass Indentification
TRƯỜNG ĐẠI HỌC KHOA HỌC HUẾ KHOA CÔNG NGHỆ THÔNG TIN ĐỀ TÀI ỨNG DỤNG MẠNG NƠ-RON NHÂN TẠO VÀO PHÂN LOẠI KÍNH Tiểu luận mơn: Mạng nơ-ron nhân tạo ứng dụng MỤC LỤC MỤC LỤC LỜI MỞ ĐẦU I Mô tả tập liệu: 1.1 Mô tả tập liệu: .4 1.2 Chuẩn hóa liệu: 1.3 Vẽ phân bố tập liệu không gian liệu vào: II THIẾT KẾ VÀ CÀI ĐẶT Thuật toán Perceptron lớp .8 Thuật toán Multi Perceptron 12 Thuật toán RBF 14 III KẾT QUẢ VÀ PHÂN TÍCH 16 Kết chạy liệu 16 1.1 Chạy liệu với mạng Perceptron lớp 16 1.2 Chạy liệu với mạng Multi Perceptron 17 1.3 Chạy liệu với mạng RBF .19 Phân tích kết 20 KẾT LUẬN 21 TÀI LIỆU THAM KHẢO 22 HVTH: Nguyễn Thị Hồng Tiểu luận môn: Mạng nơ-ron nhân tạo ứng dụng LỜI MỞ ĐẦU Các mơ hình tính tốn mơ não người nghiên cứu nửa đầu kỷ 20 Mặc dù có nhiều mơ hình khác đề xuất, song tất dùng cấu trúc mạng gọi nơron Các nơron xử lý tín hiệu số gửi tới từ mơi trường bên ngồi từ nơron khác mạng thông qua kết nối sau gửi tín hiệu đến nơron khác môi trường Mạng nơron nhân tạo, gọi tắt mạng nơron lớp mơ hình tính tốn Cách tiếp cận mạng nơron nhân tạo có ý nghĩa thực tiễn lớn cho phép tạo thiết bị kết hợp khả song song cao não với tốc độ tính tốn cao máy tính Trong năm gần mạng nơron nhân tạo nghiên cứu ứng dụng lĩnh vực y học, điều khiển,… đặc biệt ứng dụng nhiều lĩnh vực công nghệ thông tin Em tiếp cận với mạng nơron việc cài đặt (trên MatLab) mạng Perceptron lớp (với luật học delta), mạng Perceptron hai lớp (Luật học lan truyền ngược) mạng RBF để giải toán phân loại Glass Indentification Do thời gian thực tiểu luận kinh nghiệm có hạn nên tiểu luận khơng tránh khỏi số sai sót ngồi ý muốn Em mong nhận góp ý bảo Thầy bạn học viên lớp để đề tài hoàn thiện HVTH: Nguyễn Thị Hồng Tiểu luận mơn: Mạng nơ-ron nhân tạo ứng dụng I MƠ TẢ DỮ LIỆU 1.1 Giới thiệu: Bộ liêu Glass quan nghiên cứu trung ương Đức, sở pháp y khoa học Aldermasston thu thập nghiên cứu Việc nghiên cứu phân loại loại kính thúc đẩy việc điều tra tội phạm học. Tại trường vụ án, mảnh kính để lại sử dụng làm chứng xác định xác! Tập liệu bao gồm 214 mẫu từ loại kính: building_windows_float_processed, xe_windows_float_processed, building_windows_non_float_processed, hộp đựng, đồ ăn, đèn pha thuộc tính đo từ mẫu: RI, Na, Mg, Al,Si, K, Ca, Ba, Fe Dựa kết hợp thuộc tính này, phát triển mơ hình phân biệt phân biệt loại kính .- Link liệu: https://archive.ics.uci.edu/ml/datasets/Glass+Identification - Bộ liệu công khai cho nghiên cứu 1.2 Thơng tin thuộc tính: * Các thuộc tính lồi kính : Chỉ số khúc xạ (refractive index) Na tri (Sodium) đơn vị đo % trọng lượng oxit tương ứng Magie (Magnesium) đơn vị đo % Nhôm(Magnesium) đơn vị đo % Silic(Silicon) đơn vị đo % Kali(Potassium) đơn vị đo % Canxi(Calcium) đơn vị đo % Bari(Barium) đơn vị đo % Sắt(Iron) đơn vị đo % * Các loài kính: HVTH: Nguyễn Thị Hồng Tiểu luận mơn: Mạng nơ-ron nhân tạo ứng dụng - building_windows_float_processed - building_windows_non_float_processed - vehicle_windows_float_processed - containers - tableware - headlamps 1.3 Phân tích thuộc tích + Input: Ri, Na(Sodium,%), Mg(Magnesium,%), Al(Magnesium,%), Si(Silicon,%), K(Potassium, %), Ca(Calcium, %), Ba(Barium, %), Fe(Iron, %) + Output: - building_windows_float_processed - building_windows_non_float_processed - vehicle_windows_float_processed - containers - tableware - headlamps Tổng số mẩu liệu 214 mẫu gồm: 70 mẫu loại thứ 76 mẫu loại thứ hai 17 mẫu loại thứ ba 13 mẫu loại thứ tư mẫu loại thứ năm 29 mẫu loại thứ sáu HVTH: Nguyễn Thị Hồng Tiểu luận môn: Mạng nơ-ron nhân tạo ứng dụng Sheet du-lieu-goc HÌNH :sheet liệu gốc (File excel đính kèm) - Dữ liệu ánh xạ vào [-1,1] - Sau tách thuộc tính sau: + Input + Output Cung cấp cho phép đo ( Ri, -1 : building_windows_float_processed Na, Mg, Al, Si, K, Ca, Ba, Fe) -0.667:building_windows_non_float_processed -0.333: vehicle_windows_float_processed 0.333: containers 0.667: tableware 1: headlamps 1.4 Chuẩn hóa liệu Cơng thức chuẩn hóa liệu =(B2*2-MAX($B$2:$B$215)-MIN($B$2:$B$215))/(MAX($B$2:$B$215)MIN($B$2:$B$215)) HVTH: Nguyễn Thị Hồng Tiểu luận môn: Mạng nơ-ron nhân tạo ứng dụng HÌNH 2: Dữ liệu sau chuẩn hóa (Có file excel đính kèm) 1.5 Bảng phân bố liệu dựa không gian liệu vào HÌNH 3: Đồ thị phân bố liệu không gian liệu vào HVTH: Nguyễn Thị Hồng Tiểu luận môn: Mạng nơ-ron nhân tạo ứng dụng II THIẾT KẾ VÀ CÀI ĐẶT - Ngôn ngữ Matlab: ngôn ngữ ma trận/mảng cấp cao với câu lệnh, hàm, cấu trúc liệu, vào/ra, tính lập trình hướng đối tượng Nó cho phép lập trình ứng dụng từ nhỏ đến ứng dụng lớn phức tạp - Môi trường làm việc Matlab: Đây công cụ phương tiện mà bạn sử dụng với tư cách người dùng người lập trình Matlab Nó bao gồm phương tiện cho việc quản lý biến không gian làm việc Workspace xuất nhập liệu Nó bao gồm cơng cụ phát triển, quản lý, gỡ rối định hình M-file, ứng dụng Matlab Perceptron lớp: * Khởi tạo vector và vector Sử dụng phần mềm Matlab online Bước 1: Khởi động phần mềm Matlab dán đoạn code sau: addpath https://drive.matlab.com/files/ load('glass.txt'); DT= glass(1:214,1:9) DTR=DT' T1= glass(1:143,1:9) I1=T1' T2= glass(1:143,10) T=T2' nntool Sẽ xuất giao diện: HVTH: Nguyễn Thị Hồng Tiểu luận môn: Mạng nơ-ron nhân tạo ứng dụng Bước 2: Chọn Import liệu cho liệu đầu vào đầu ra: Bước 3: Sau có liệu đầu vào đầu ta tiến hành tạo mạng Perceptron theo thuộc tính hình sau: HVTH: Nguyễn Thị Hồng Tiểu luận môn: Mạng nơ-ron nhân tạo ứng dụng Sau điền đầy đủ thơng tin ta có mạng Perceptron lớp sau: Bước 4: Tiếp theo ta tiến hành huấn luyện với 2/3 số mẫu chọn cách mở Mạng Perceoptron lớp vừa tạo tiến hành huấn luyện với giao diện sau: HVTH: Nguyễn Thị Hồng 10 Tiểu luận môn: Mạng nơ-ron nhân tạo ứng dụng Với thuộc tính khai báo: Quá trình huấn luyện: HVTH: Nguyễn Thị Hồng 11 Tiểu luận môn: Mạng nơ-ron nhân tạo ứng dụng Thuật toán Multi Perceptron Tương tự Perceptron lớp, multi perceptron có bước bước giống perceptron lớp Từ bước ta chọn kiểu hình sau: Ta có mơ sau: HVTH: Nguyễn Thị Hồng 12 Tiểu luận môn: Mạng nơ-ron nhân tạo ứng dụng Sau có mơ hình mạng nơ-ron nhiều lớp ta tiến hành huấn luyện tương tự Perceptron lớp sau: HVTH: Nguyễn Thị Hồng 13 Tiểu luận môn: Mạng nơ-ron nhân tạo ứng dụng Thuật toán RBF Tương tự multi Perceptron ta chọn tham số RBF sau: Ta nhận mơ hình: HVTH: Nguyễn Thị Hồng 14 Tiểu luận môn: Mạng nơ-ron nhân tạo ứng dụng Và sơ đồ mạng: HVTH: Nguyễn Thị Hồng 15 Tiểu luận môn: Mạng nơ-ron nhân tạo ứng dụng III KẾT QUẢ VÀ PHÂN TÍCH Kết chạy liệu: 1.1 Chạy liệu với mạng Perceptron lớp: - Sau trình huấn luyện kiểm thử kết sau: + Kết huấn luyện: + Kết kiểm thử: + Kết quả: HVTH: Nguyễn Thị Hồng 16 Tiểu luận môn: Mạng nơ-ron nhân tạo ứng dụng 1.2 Chạy liệu với mạng Multi Perceptron - Sau trình huấn luyện kiểm thử kết sau: + Kết huấn luyện: + Kết kiểm thử: HVTH: Nguyễn Thị Hồng 17 Tiểu luận môn: Mạng nơ-ron nhân tạo ứng dụng + Kết quả: HVTH: Nguyễn Thị Hồng 18 Tiểu luận môn: Mạng nơ-ron nhân tạo ứng dụng 1.3 Chạy liệu với mạng RBF - Sau trình huấn luyện kiểm thử kết sau: + Kết huấn luyện: + Kết kiểm thử: HVTH: Nguyễn Thị Hồng 19 Tiểu luận môn: Mạng nơ-ron nhân tạo ứng dụng + Kết quả: Phân tích kết quả: Qua kết ta thấy thuật toán delta thuật tốn RBF với tổng lỗi nhau, nhiên thời gian học hội tụ thuật toán delta nhanh thuật toán RBF Đối với thuật tốn Multi Perceptron có tổng lỗi thấp hai thuật tốn delta RBF thời gian học nhanh thuật toán RBF lại chậm thuật tốn delta Qua ta thấy ngun tắc hoạt động mạng RBF chuyển đổi tốn từ khơng gian phân loại khơng tuyến tính vào khơng gian(thơng thường có kích thước lớn hơn) phân loại tuyến tính Giải thuật học sử dụng cho mạng RBF thông thường K-Means hay Adaptive K-Means HVTH: Nguyễn Thị Hồng 20 ... luận mơn: Mạng nơ-ron nhân tạo ứng dụng Và sơ đồ mạng: HVTH: Nguyễn Thị Hồng 15 Tiểu luận môn: Mạng nơ-ron nhân tạo ứng dụng III KẾT QUẢ VÀ PHÂN TÍCH Kết chạy liệu: 1.1 Chạy liệu với mạng Perceptron... luận môn: Mạng nơ-ron nhân tạo ứng dụng HÌNH 2: Dữ liệu sau chuẩn hóa (Có file excel đính kèm) 1.5 Bảng phân bố liệu dựa khơng gian liệu vào HÌNH 3: Đồ thị phân bố liệu không gian liệu vào HVTH:... Nguyễn Thị Hồng Tiểu luận môn: Mạng nơ-ron nhân tạo ứng dụng Bước 2: Chọn Import liệu cho liệu đầu vào đầu ra: Bước 3: Sau có liệu đầu vào đầu ta tiến hành tạo mạng Perceptron theo thuộc tính