ĐỒ án tốt NGHIỆP đại học đề tài THIẾT kế NEURAL NETWORK TRÊN FPGA để NHẬN DẠNG CHỮ số VIẾT TAY

TRƯỜNG ĐẠI HỌC BÁCH KHOA HÀ NỘI VIỆN ĐIỆN TỬ - VIỄN THÔNG ĐỒ ÁN TỐT NGHIỆP ĐẠI HỌC Đề tài: THIẾT KẾ NEURAL NETWORK TRÊN FPGA ĐỂ NHẬN DẠNG CHỮ SỐ VIẾT TAY Sinh viên thực hiện: ĐẶNG TÙNG LONG Lớp ĐT2 – K59 Giảng viên hướng dẫn: ThS NGUYỄN THỊ KIM THOA Hà Nội, 06-2019 download by : skknchat@gmail.com TRƯỜNG ĐẠI HỌC BÁCH KHOA HÀ NỘI VIỆN ĐIỆN TỬ - VIỄN THÔNG ĐỒ ÁN TỐT NGHIỆP ĐẠI HỌC Đề tài: THIẾT KẾ NEURAL NETWORK TRÊN FPGA ĐỂ NHẬN DẠNG CHỮ SỐ VIẾT TAY Sinh viên thực hiện: ĐẶNG TÙNG LONG Lớp ĐT2 – K59 Giảng viên hướng dẫn: ThS NGUYỄN THỊ KIM THOA Cán bộ phản biện: Hà Nội, 06-2019 download by : skknchat@gmail.com ĐÁNH GIÁ QUYỂN ĐỒ ÁN TỐT NGHIỆP (Dùng cho giảng viên hướng dẫn) Tên giảng viên đánh giá: Họ và tên Sinh viên: MSSV: Tên đồ án: Chọn các mức điểm phù hợp cho sinh viên trình bày theo các tiêu chí dưới đây: Rất kém (1); Kém (2); Đạt (3); Giỏi (4); Xuất sắc (5) Có sự kết hợp giữa lý thuyết và thực hành (20) Nêu rõ tính cấp thiết và quan trọng của đề tài, các vấn đề và các giả 1 thuyết (bao gồm mục đích và tính phù hợp) cũng như phạm vi ứng dụng của đồ án 2 Cập nhật kết quả nghiên cứu gần đây nhất (trong nước/quốc tế) 3 Nêu rõ và chi tiết phương pháp nghiên cứu/giải quyết vấn đề 4 Có kết quả mô phỏng/thưc nghiệm và trình bày rõ ràng kết quả đạt được Có khả năng phân tích và đánh giá kết quả (15) 5 Kế hoạch làm việc rõ ràng bao gồm mục tiêu và phương pháp thực hiện dựa trên kết 6 quả nghiên cứu lý thuyết một cách có hệ thống Kết quả được trình bày một cách logic và dễ hiểu, tất cả kết quả đều được phân tích và đánh giá thỏa đáng Trong phần kết luận, tác giả chỉ rõ sự khác biệt (nếu có) giữa kết quả đạt 7 được và mục tiêu ban đầu đề ra đồng thời cung cấp lập luận để đề xuất hướng giải quyết có thể thực hiện trong tương lai Kỹ năng viết quyển đồ án (10) 8 9 Đồ án trình bày đúng mẫu quy định với cấu trúc các chương logic và đẹp mắt (bảng biểu, hình ảnh rõ ràng, có tiêu đề, được đánh số thứ tự và được giải thích hay đề cập đến trong đồ án, có căn lề, dấu cách sau dấu chấm, dấu phẩy v.v), có mở đầu chương và kết luận chương, có liệt kê tài liệu tham khảo và có trích dẫn đúng quy định Kỹ năng viết xuất sắc (cấu trúc câu chuẩn, văn phong khoa học, lập luận logic và có cơ sở, từ vựng sử dụng phù hợp v.v.) 1 2 3 4 5 1 1 1 2 2 2 3 3 3 4 4 4 5 5 5 1 2 3 4 5 1 2 3 4 5 1 2 3 4 5 1 2 3 4 5 1 2 3 4 5 Thành tựu nghiên cứu khoa học (5) (chọn 1 trong 3 trường hợp) Có bài báo khoa học được đăng hoặc chấp nhận đăng/đạt giải SVNC 10a khoa học giải 3 cấp Viện trở lên/các giải thưởng khoa học (quốc tế/trong nước) từ giải 3 trở lên/ Có đăng ký bằng phát minh sáng chế Được báo cáo tại hội đồng cấp Viện trong hội nghị sinh viên nghiên cứu 5 10b khoa học nhưng không đạt giải từ giải 3 trở lên/Đạt giải khuyến khích trong 2 các kỳ thi quốc gia và quốc tế khác về chuyên ngành như TI contest 10c Không có thành tích về nghiên cứu khoa học Điểm tổng Điểm tổng quy đổi về thang 10 Nhận xét khác (về thái độ và tinh thần làm việc của sinh viên) download by : skknchat@gmail.com 0 /50 Ngày: … / … / 20… Người nhận xét (Ký và ghi rõ họ tên) download by : skknchat@gmail.com ĐÁNH GIÁ QUYỂN ĐỒ ÁN TỐT NGHIỆP (Dùng cho cán bộ phản biện) Giảng viên đánh giá: Họ và tên sinh viên: MSSV: Tên đồ án: Chọn các mức điểm phù hợp cho sinh viên trình bày theo các tiêu chí dưới đây: Rất kém (1); Kém (2); Đạt (3); Giỏi (4); Xuất sắc (5) Có sự kết hợp giữa lý thuyết và thực hành (20) Nêu rõ tính cấp thiết và quan trọng của đề tài, các vấn đề và các giả 1 thuyết (bao gồm mục đích và tính phù hợp) cũng như phạm vi ứng dụng 1 2 3 4 5 của đồ án 1 2 3 4 5 2 Cập nhật kết quả nghiên cứu gần đây nhất (trong nước/quốc tế) 1 2 3 4 5 3 Nêu rõ và chi tiết phương pháp nghiên cứu/giải quyết vấn đề 4 Có kết quả mô phỏng/thưc nghiệm và trình bày rõ ràng kết quả đạt được 1 2 3 4 5 Có khả năng phân tích và đánh giá kết quả (15) 5 Kế hoạch làm việc rõ ràng bao gồm mục tiêu và phương pháp thực hiện dựa trên kết 1 2 3 4 5 6 quả nghiên cứu lý thuyết một cách có hệ thống Kết quả được trình bày một cách logic và dễ hiểu, tất cả kết quả đều được phân tích và đánh giá thỏa đáng Trong phần kết luận, tác giả chỉ rõ sự khác biệt (nếu có) giữa kết quả đạt 1 2 3 4 5 1 2 3 4 5 1 2 3 4 5 1 2 3 4 5 7 được và mục tiêu ban đầu đề ra đồng thời cung cấp lập luận để đề xuất hướng giải quyết có thể thực hiện trong tương lai Kỹ năng viết quyển đồ án (10) Đồ án trình bày đúng mẫu quy định với cấu trúc các chương logic và đẹp mắt (bảng biểu, hình ảnh rõ ràng, có tiêu đề, được đánh số thứ tự và 8 được giải thích hay đề cập đến trong đồ án, có căn lề, dấu cách sau dấu chấm, dấu phẩy v.v), có mở đầu chương và kết luận chương, có liệt kê tài liệu tham khảo và có trích dẫn đúng quy định 9 Kỹ năng viết xuất sắc (cấu trúc câu chuẩn, văn phong khoa học, lập luận logic và có cơ sở, từ vựng sử dụng phù hợp v.v.) Thành tựu nghiên cứu khoa học (5) (chọn 1 trong 3 trường hợp) Có bài báo khoa học được đăng hoặc chấp nhận đăng/đạt giải SVNC 10a khoa học giải 3 cấp Viện trở lên/các giải thưởng khoa học (quốc tế/trong nước) từ giải 3 trở lên/ Có đăng ký bằng phát minh sáng chế Được báo cáo tại hội đồng cấp Viện trong hội nghị sinh viên nghiên cứu 5 10b khoa học nhưng không đạt giải từ giải 3 trở lên/Đạt giải khuyến khích trong các kỳ thi quốc gia và quốc tế khác về chuyên ngành như TI contest 2 10c Không có thành tích về nghiên cứu khoa học Điểm tổng Điểm tổng quy đổi về thang 10 Nhận xét khác của cán bộ phản biện download by : skknchat@gmail.com Ngày: … / … / 20… Người nhận xét (Ký và ghi rõ họ tên) download by : skknchat@gmail.com LỜI NÓI ĐẦU Trước khi trình bày nội dung phần báo cáo đồ án của mình, em xin gửi lời cảm ơn chân thành nhất tới Th.S Nguyễn Thị Kim Thoa, người đã trực tiếp hướng dẫn, cung cấp các tài liệu cho em trong suốt quá trình thực hiện đồ án Em cũng xin được gửi lời cảm ơn chân thành đến Lab ESRC đã cho em mượn thiết bị để hoàn thành đồ án này Do thời gian có hạn và hạn chế về mặt kiến thức, báo cáo không tránh khỏi một vài sai sót nhỏ Vì vậy, em rất mong nhận được ý kiến đóng góp của các thầy cô giáo và các bạn để đề tài được hoàn thiện hơn Hà Nội, tháng 06 năm 2019 Sinh viên thực hiện Đặng Tùng Long download by : skknchat@gmail.com LỜI CAM ĐOAN Tôi là Đặng Tùng Long, mã số sinh viên 20142642, sinh viên lớp Điện tử 2, khóa K59 Người hướng dẫn là Th.S Nguyễn Thị Kim Thoa Tôi xin cam đoan toàn bộ nội dung được trình bày trong đồ án Thiết kế neural network trên FPGA để nhận dạng chữ số viết tay là kết quả quá trình tìm hiểu và nghiên cứu của tôi Các dữ liệu được nêu trong đồ án là hoàn toàn trung thực, phản ánh đúng kết quả đo đạc thực tế Mọi thông tin trích dẫn đều tuân thủ các quy định về sở hữu trí tuệ; các tài liệu tham khảo được liệt kê rõ ràng Tôi xin chịu hoàn toàn trách nhiệm với những nội dung được viết trong đồ án này Hà Nội, tháng 06 năm 2019 Người cam đoan Đặng Tùng Long download by : skknchat@gmail.com MỤC LỤC DANH MỤC KÝ HIỆU VÀ CHỮ VIẾT TẮT i DANH MỤC HÌNH VẼ ii DANH MỤC BẢNG BIỂU iii TÓM TẮT ĐỒ ÁN iv PHẦN MỞ ĐẦU 1 CHƯƠNG 1 GIỚI THIỆU 2 1.1 Giới thiệu về Artificial Neural Network 2 1.1.1 Lịch sử hình thành và phát triển 2 1.1.2 Nguyên lý hoạt động 3 1.1.3 Thuật toán Gradient Descent 9 1.2 Giới thiệu về FPGA 10 1.2.1 Khái niệm FPGA 10 1.2.2 Schematic-based flow 11 1.2.3 HDL-based flow 13 1.4 Giới thiệu về SystemVerilog 14 1.5 Giới thiệu về mô hình FSMD 14 1.6 Giới thiệu về kiểm chứng thiết kế 16 1.7 Kết luận chương 17 CHƯƠNG 2 THIẾT KẾ NEURAL NETWORK VỚI MATLAB 18 2.1 Thuật toán thiết kế 18 2.2 Huấn luyện trên Matlab 19 2.2.1 Chuẩn bị cơ sở dữ liệu 19 2.2.2 Tiền xử lý huấn luyện 20 2.2.3 Huấn luyện Neural Network 21 2.3 Kiểm tra trên Matlab 25 2.3.1 Chuẩn bị cơ sở dữ liệu 25 2.3.2 Tiền xử lý kiểm tra 25 2.3.3 Kiểm tra Neural Network 26 download by : skknchat@gmail.com ...TRƯỜNG ĐẠI HỌC BÁCH KHOA HÀ NỘI VIỆN ĐIỆN TỬ - VIỄN THÔNG ĐỒ ÁN TỐT NGHIỆP ĐẠI HỌC Đề tài: THIẾT KẾ NEURAL NETWORK TRÊN FPGA ĐỂ NHẬN DẠNG CHỮ SỐ VIẾT TAY Sinh viên thực hiện:... tồn nội dung trình bày đồ án Thiết kế neural network FPGA để nhận dạng chữ số viết tay kết q trình tìm hiểu nghiên cứu tơi Các liệu nêu đồ án hoàn toàn trung thực, phản ánh kết đo đạc thực tế Mọi... thiết kế hệ thống nhận dạng chữ số viết tay FPGA Báo cáo đồ án chia làm chương sau: Chương giới thiệu Neural Network, FPGA, ngơn ngữ SystemVerilog, mơ hình FSMD kiểm chứng thiết kế Chương trình