(Luận văn thạc sĩ) Nghiên cứu về mạng neural tích chập và ứng dụng cho bài toán nhận dạng biển số xe

(Luận văn thạc sĩ) Nghiên cứu về mạng neural tích chập và ứng dụng cho bài toán nhận dạng biển số xe(Luận văn thạc sĩ) Nghiên cứu về mạng neural tích chập và ứng dụng cho bài toán nhận dạng biển số xe(Luận văn thạc sĩ) Nghiên cứu về mạng neural tích chập và ứng dụng cho bài toán nhận dạng biển số xe(Luận văn thạc sĩ) Nghiên cứu về mạng neural tích chập và ứng dụng cho bài toán nhận dạng biển số xe(Luận văn thạc sĩ) Nghiên cứu về mạng neural tích chập và ứng dụng cho bài toán nhận dạng biển số xe(Luận văn thạc sĩ) Nghiên cứu về mạng neural tích chập và ứng dụng cho bài toán nhận dạng biển số xe(Luận văn thạc sĩ) Nghiên cứu về mạng neural tích chập và ứng dụng cho bài toán nhận dạng biển số xe(Luận văn thạc sĩ) Nghiên cứu về mạng neural tích chập và ứng dụng cho bài toán nhận dạng biển số xe(Luận văn thạc sĩ) Nghiên cứu về mạng neural tích chập và ứng dụng cho bài toán nhận dạng biển số xe(Luận văn thạc sĩ) Nghiên cứu về mạng neural tích chập và ứng dụng cho bài toán nhận dạng biển số xe(Luận văn thạc sĩ) Nghiên cứu về mạng neural tích chập và ứng dụng cho bài toán nhận dạng biển số xe(Luận văn thạc sĩ) Nghiên cứu về mạng neural tích chập và ứng dụng cho bài toán nhận dạng biển số xe(Luận văn thạc sĩ) Nghiên cứu về mạng neural tích chập và ứng dụng cho bài toán nhận dạng biển số xe(Luận văn thạc sĩ) Nghiên cứu về mạng neural tích chập và ứng dụng cho bài toán nhận dạng biển số xe(Luận văn thạc sĩ) Nghiên cứu về mạng neural tích chập và ứng dụng cho bài toán nhận dạng biển số xe(Luận văn thạc sĩ) Nghiên cứu về mạng neural tích chập và ứng dụng cho bài toán nhận dạng biển số xe(Luận văn thạc sĩ) Nghiên cứu về mạng neural tích chập và ứng dụng cho bài toán nhận dạng biển số xe(Luận văn thạc sĩ) Nghiên cứu về mạng neural tích chập và ứng dụng cho bài toán nhận dạng biển số xe

ĐẠI HỌC QUỐC GIA HÀ NỘI TRƢỜNG ĐẠI HỌC CÔNG NGHỆ LÊ THỊ THU HẰNG NGHIÊN CỨU VỀ MẠNG NEURAL TÍCH CHẬP VÀ ỨNG DỤNG CHO BÀI TỐN NHẬN DẠNG BIỂN SỐ XE LUẬN VĂN THẠC SĨ CÔNG NGHỆ THÔNG TIN HÀ NỘI, 2016 ĐẠI HỌC QUỐC GIA HÀ NỘI TRƢỜNG ĐẠI HỌC CÔNG NGHỆ LÊ THỊ THU HẰNG NGHIÊN CỨU VỀ MẠNG NEURAL TÍCH CHẬP VÀ ỨNG DỤNG CHO BÀI TỐN NHẬN DẠNG BIỂN SỐ XE Ngành : Cơng nghệ thông tin Chuyên ngành : Kĩ thuật phần mềm Mã số : 60480103 LUẬN VĂN THẠC SĨ CÔNG NGHỆ THÔNG TIN Người hướng dẫn khoa học: TS.Nguyễn Văn Vinh HÀ NỘI, 2016 LỜI CAM ĐOAN Tôi xin cam đoan cơng trình nghiên cứu riêng tơi dƣới hƣớng dẫn Tiến sĩ Nguyễn Văn Vinh Các kết đạt đƣợc luận văn sản phẩm riêng cá nhân, không chép ngƣời khác Nội dung luận văn có tham khảo sử dụng số thông tin, tài liệu từ nguồn sách, tạp chí đƣợc liệt kê danh mục tài liệu tham khảo Tác giả luận văn Lê Thị Thu Hằng MỤC LỤC LỜI MỞ ĐẦU LỜI CẢM ƠN CHƢƠNG 1: MẠNG NEURAL VÀ MẠNG NEURAL TÍCH CHẬP Mạng neural mạng neural lan truyền ngƣợc 1.1 Giới thiệu mạng Neural 1.2 Một số kiểu mạng Neural 10 1.3 Mạng Neural lan truyền ngƣợc MLP 12 Mạng neural tích chập 21 2.1 Định nghĩa mạng neural tích chập 21 2.2 Convolution (tích chập) 22 2.3 Mơ hình mạng neural tích chập 24 2.4 Xây dựng mạng neural tích chập 26 CHƢƠNG 2: TỔNG QUAN VỀ NHẬN DẠNG BIỂN SỐ XE 39 2.1 Khái niệm hệ thống nhận dạng biển số xe 39 2.1.1 Khái niệm 39 2.1.2 Lịch sử phát triển 39 2.1.3 Cách thức hoạt động hệ thống nhận dạng biển số xe 40 2.1.4 Phân loại ứng dụng nhận dạng biển số xe 40 2.1.5 Ứng dụng thực tiễn Việt Nam 41 2.1.6 Phân loại biển số xe 42 2.2 Phƣơng pháp nhận dạng biển số xe từ ảnh chụp camera 44 2.2.1 Phƣơng pháp chuyển đổi Hough 44 2.2.2 Phƣơng pháp hình thái học 45 2.3 Phƣơng pháp nhận dạng ký tự biển số xe 46 2.4 Phạm vi nghiên cứu hƣớng giải 47 CHƢƠNG 3: ÁP DỤNG MẠNG NEURAL TÍCH CHẬP TRONG NHẬN DẠNG KÝ TỰ 49 3.1 Xây dựng mơ hình mạng 49 3.2 Kết nhận dạng ký tự viết tay 52 3.3 Kết thực nghiệm nhận dạng biển số xe với mạng Neural tích chập54 3.4 Kết luận 55 3.5 Hƣớng phát triển toán: 56 DANH MỤC TÀI LIỆU THAM KHẢO 58 LỜI MỞ ĐẦU Deep Learning thuật toán dựa số ý tƣởng từ não tới việc tiếp thu nhiều tầng biểu đạt, cụ thể lẫn trừu tƣợng, qua làm rõ nghĩa loại liệu Deep Learning đƣợc ứng dụng nhận diện hình ảnh, nhận diện giọng nói, xử lý ngôn ngữ tự nhiên Hiện nhiều toán nhận dạng sử dụng deep learning để giải deep learning giải tốn với số lƣợng lớn, kích thƣớc đầu vào lớn với hiệu nhƣ độ xác vƣợt trội so với phƣơng pháp phân lớp truyền thống Những năm gần đây, ta chứng kiến đƣợc nhiều thành tựu vƣợt bậc ngành Thị giác máy tính (Computer Vision) Các hệ thống xử lý ảnh lớn nhƣ Facebook, Google hay Amazon đƣa vào sản phẩm chức thơng minh nhƣ nhận diện khn mặt ngƣời dùng, phát triển xe tự lái hay drone giao hàng tự động Convolutional Neural Network (CNNs – Mạng nơ-ron tích chập) mơ hình Deep Learning tiên tiến giúp cho xây dựng đƣợc hệ thống thơng minh với độ xác cao nhƣ Trong luận văn cao học này, em vào nghiên cứu mạng neural nhƣ mạng Convolution (tích chập) nhƣ ý tƣởng mơ hình CNNs phân lớp ảnh (Image Classification), áp dụng việc xây dựng hệ thống nhận dạng biển số xe tự động Nội dung báo cáo bao gồm chƣơng  Chƣơng 1: Mạng neural mạng neural tích chập  Chƣơng 2: Tổng quan nhận dạng biển số xe  Chƣơng 3: Áp dụng mạng neural tích chập nhận dạng ký tự LỜI CẢM ƠN Em xin chân thành cảm ơn thầy, cô khoa Công nghệ Thông tinTrƣờng Đại học Công nghệ - Đại học quốc gia Hà Nội tận tình dạy dỗ, truyền đạt cho em nhiều kiến thức quý báu Em xin tỏ lòng biết ơn sâu sắc đến thầy Ts Nguyễn Văn Vinh, ngƣời tận tình giúp đỡ truyền đạt nhiều kinh nghiệm để đề tài đƣợc thực hồn thành Xin chân thành cảm ơn bạn khoa Công Nghệ Thông Tin, Trƣờng ĐH Công nghệ giúp đỡ, động viên tơi nhiều q trình thực đề tài Em xin chân thành cảm ơn ! Hà nội, tháng năm 2016 Học viên Lê Thị Thu Hằng CHƢƠNG 1: MẠNG NEURAL VÀ MẠNG NEURAL TÍCH CHẬP Mạng neural mạng neural lan truyền ngƣợc 1.1 Giới thiệu mạng Neural Định nghĩa: Mạng nơron nhân tạo, Artificial Neural Network (ANN) mơ hình xử lý thơng tin theo cách thức xử lý thông tin hệ nơron sinh học Nó đƣợc tạo nên từ số lƣợng lớn phần tử (nơron) kết nối với thông qua liên kết (trọng số liên kết) làm việc nhƣ thể thống để giải vấn đề cụ thể Một mạng nơron nhân tạo đƣợc cấu hình cho ứng dụng cụ thể (nhận dạng mẫu, phân loại liệu, ) thơng qua q trình học từ tập mẫu huấn luyện Về chất học q trình hiệu chỉnh trọng số liên kết nơron Cấu trúc neural nhân tạo: Hình 1.1 Cấu tạo Neural Các thành phần nơron nhân tạo bao gồm: • Tập đầu vào: Là tín hiệu vào (input signals) nơron, tín hiệu thƣờng đƣợc đƣa vào dƣới dạng vector N chiều • Tập liên kết: Mỗi liên kết đƣợc thể trọng số liên kết – Synaptic weight Trọng số liên kết tín hiệu vào thứ j với nơron k thƣờng đƣợc kí hiệu wkj Thơng thƣờng, trọng số đƣợc khởi tạo cách ngẫu nhiên thời điểm khởi tạo mạng đƣợc cập nhật liên tục q trình học mạng • Bộ tổng (Summing function): Thƣờng dùng để tính tổng tích đầu vào với trọng số liên kết • Ngƣỡng (cịn gọi độ lệch - bias): Ngƣỡng thƣờng đƣợc đƣa vào nhƣ thành phần hàm truyền • Hàm truyền (Transfer function): Hàm đƣợc dùng để giới hạn phạm vi đầu nơron Nó nhận đầu vào kết hàm tổng ngƣỡng • Đầu ra: Là tín hiệu đầu nơron, với nơron có tối đa đầu Xét mặt tốn học, cấu trúc nơron k, đƣợc mơ tả cặp biểu thức sau: Trong đó: x1, x2, , xp: tín hiệu vào; (wk1, wk2, , wkp) trọng số liên kết nơron thứ k; uk hàm tổng; bk ngƣỡng; f hàm truyền yk tín hiệu đầu nơron Nhƣ nơron nhân tạo nhận tín hiệu đầu vào, xử lý (nhân tín hiệu với trọng số liên kết, tính tổng tích thu đƣợc gửi kết tới hàm truyền), cho tín hiệu đầu ( kết hàm truyền) Bảng 1.1 Một số hàm truyền thông dụng Hàm truyền Đồ thị Định nghĩa Symmetrical Hard Limit (hardlims) Linear (purelin) Saturating Linear (satlin) Log-Sigmoid (logsig) 1.2 Một số kiểu mạng Neural Cách thức kết nối nơron mạng xác định kiến trúc (topology) mạng Các nơron mạng kết nối đầy đủ (fully connected) tức nơron đƣợc kết nối với tất nơron khác, kết nối cục (partially connected) chẳng hạn kết nối nơron tầng khác Ngƣời ta chia hai loại kiến trúc mạng chính: ♦ Tự kết hợp (autoassociative): mạng có nơron đầu vào nơron đầu Mạng Hopfield kiểu mạng tự kết hợp ... CHƢƠNG 1: MẠNG NEURAL VÀ MẠNG NEURAL TÍCH CHẬP Mạng neural mạng neural lan truyền ngƣợc 1.1 Giới thiệu mạng Neural 1.2 Một số kiểu mạng Neural 10 1.3 Mạng Neural lan... CÔNG NGHỆ LÊ THỊ THU HẰNG NGHIÊN CỨU VỀ MẠNG NEURAL TÍCH CHẬP VÀ ỨNG DỤNG CHO BÀI TỐN NHẬN DẠNG BIỂN SỐ XE Ngành : Công nghệ thông tin Chuyên ngành : Kĩ thuật phần mềm Mã số : 60480103 LUẬN VĂN... thống nhận dạng biển số xe 40 2.1.4 Phân loại ứng dụng nhận dạng biển số xe 40 2.1.5 Ứng dụng thực tiễn Việt Nam 41 2.1.6 Phân loại biển số xe 42 2.2 Phƣơng pháp nhận dạng biển