NHẬN DẠNG KHUÔN mặt sử DỤNG MẠNG nơ RON

    ĐẠI HỌC QUỐC GIA TP HCM TRƯỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN   LÊ PHÚ Q NHẬN DẠNG KHN MẶT SỬ DỤNG MẠNG NƠ-RON KHĨA LUẬN CAO HỌC NGÀNH KHOA HỌC MÁY TÍNH Mã số: 60480101 NGƯỜI HƯỚNG DẪN KHOA HỌC: PGS.TS ĐINH ĐỨC ANH VŨ TP HỒ CHÍ MINH - 2015 Cao học KHMT Khóa ĐH CNTT – ĐHQG TP.HCM LỜI CÁM ƠN Đầu tiên, em xin chân thành cám ơn thầy PGS.TS ĐINH ĐỨC ANH VŨ – người tận tình truyền đạt cho em kiến thức quý báu để em hồn thành khóa luận Tiếp theo, em xin gửi lời cám ơn đến thầy cô khoa phòng ban trường ĐH Cơng Nghệ Thơng Tin tận tình giúp đỡ em thời gian học vừa qua Do kiến thức có hạn kinh nghiệm nghiên cứu khoa học thực tế khơng nhiều nên khóa luận em khơng tránh khỏi thiếu sót Em mong nhận đóng góp q báu q thầy TpHCM, ngày…tháng… năm 2015 Lớp Cao học KHMT khóa Lê Phú Q Cao học KHMT Khóa ĐH CNTT – ĐHQG TP.HCM LỜI CAM ĐOAN Tôi xin cam đoan cơng trình nghiên cứu độc lập thân Các số liệu, kết khóa luận trung thực Các tài liệu khóa luận có nguồn gốc trích dẫn rõ ràng, đầy đủ Tác giả Lê Phú Q Cao học KHMT Khóa ĐH CNTT – ĐHQG TP.HCM MỤC LỤC Lời cam đoan Mục lục DANH MỤC KÝ HIỆU VÀ CHỮ VIẾT TẮT DANH MỤC CÁC BẢNG DANH MỤC HÌNH ẢNH MỞ ĐẦU .8 Phát biểu vấn đề nghiên cứu Mục tiêu, nhiệm vụ, đối tượng phạm vi nghiên cứu .8 Ý nghĩa khoa học thực tiễn .9 CHƯƠNG 1: TỔNG QUAN VỀ NHẬN DẠNG KHUÔN MẶT 10 1.1 Gới thiệu 10 1.2 Các ứng dụng liên quan đến nhận dạng mặt người 10 1.3 Các hướng tiếp cận nhận dạng khuôn mặt dùng mạng Nơ-ron 11 1.4 Những khó khăn nhận dạng khn mặt 11 CHƯƠNG 2: MỘT SỐ CƠ SỞ LÝ THUYẾT 13 2.1 Giới thiệu mạng Nơ-ron 13 2.1.1 Khái niệm mạng Nơ-ron 13 2.1.1.1 Mạng Nơ-ron nhân tạo gì? .13 2.1.1.2 Sơ lược Nơ-ron sinh học .13 2.1.1.3 Nơ-ron nhân tạo 15 2.1.2 Mơ hình mạng Nơ-ron 17 2.1.3 Phân loại mạng Nơ-ron 18 2.1.3.1 Phân loại theo kiểu liên kết Nơ-ron 18 Cao học KHMT Khóa ĐH CNTT – ĐHQG TP.HCM 2.1.3.2 Một số loại mạng Nơ-ron 18 2.1.4 Xây dựng mạng Nơ-ron 21 2.1.5 Huấn luyện mạng Nơ-ron 23 2.1.5.1 Phương pháp học .23 2.1.5.2 Thuật toán học 25 2.1.6 Mạng Perceptron nhiều tầng (MPL – Multi Perceptron Layer) .29 2.1.6.1 Mạng phân lớp 29 2.1.6.2 Kiến trúc mạng tổng quát 31 2.1.7 Hàm sigmoid 32 2.1.8 Thuật toán lan truyền ngược 33 2.1.8.1 Lan truyền ngược .35 2.1.8.2 Hiệu lan truyền ngược 39 2.2 Giới thiệu PCA 40 2.2.1 Một số khái niệm toán học .41 2.2.1.1 Độ lệch chuẩn 41 2.2.1.2 Phương sai 42 2.2.1.3 Hiệp phương sai 42 2.2.1.4 Ma trận hiệp phương sai 43 2.2.2 Ma trận đại số 43 2.2.2.1 Eigenvector (Vectơ riêng) 44 2.2.2.2 Eigenvalue (Giá trị riêng) 44 2.3 Phân tích thành phần (PCA) 45 CHƯƠNG 3: XÂY DỰNG HỆ THỐNG NHẬN DẠNG KHUÔN MẶT .46 3.1 Hệ thống nhận dạng khuôn mặt 46 Cao học KHMT Khóa ĐH CNTT – ĐHQG TP.HCM 3.1.1 Tiền xử lý 46 3.1.2 Trích rút đặc trưng 47 3.2 Nhận dạng khuôn mặt mạng Nơ-ron .50 3.2.1 Cấu hình mạng Nơ-ron .50 3.2.2 Quá trình huấn luyện mạng 51 CHƯƠNG IV: CÀI ĐẶT CHẠY THỬ NGHIỆM 52 4.1 Bài toán 52 4.2 Cơ sở liệu môi trường cài đặt .52 4.2.1 Cơ sở liệu 52 4.2.2 Môi trường cài đặt 53 4.3 Một số xử lý trình cài đặt chương trình 53 4.4 Kết cài đặt 54 4.4.1 Giao diện chương trình .54 4.4.2 Huấn luyện mạng Nơ-ron (tạo tập liệu mẫu) 54 4.4.3 Nhận dạng khuôn mặt 56 CHƯƠNG V: KẾT LUẬN 58 TÀI LIỆU THAM KHẢO 59 Cao học KHMT Khóa ĐH CNTT – ĐHQG TP.HCM DANH MỤC KÝ HIỆU VÀ CHỮ VIẾT TẮT BPNN: BackPropagation Neural Network DoG: Difference of Gauss EBM: Edge-like Blob Map HMM: Hidden Markov Model MPL: Multi Perceptron Layer PCA: Principal Component Analysis SVM: Support Vector Machine LDA: Linear Discriminant Analysis LFA: Local Feature Analysis Cao học KHMT Khóa ĐH CNTT – ĐHQG TP.HCM DANH MỤC CÁC BẢNG Bảng 2.1: Một số hàm kích hoạt 16 Bảng 4.1: Kết thực nghiệm nhiều tập liệu 57 Cao học KHMT Khóa ĐH CNTT – ĐHQG TP.HCM DANH MỤC HÌNH ẢNH Hình 1.1: Ví dụ hệ thống nhận dạng mặt người 10 Hình 2.1: Cấu trúc Nơ-ron sinh học điển hình .14 Hình 2.2: Mơ hình Nơ-ron nhân tạo .15 Hình 2.3: Sơ đồ đơn giản mạng Nơ-ron nhân tạo 17 Hình 2.4: Mạng tiến với mức Nơ-ron 19 Hình 2.5: Mạng tiến kết nối đầy đủ với mức ẩn mức đầu 20 Hình 2.6: Mạng quy hồi khơng có Nơ-ron ẩn khơng có vòng lặp tự phản hồi 21 Hình 2.7: Mạng quy hồi có Nơ-ron ẩn .21 Hình 2.8: Mơ liên kết Nơ-ron .22 Hình 2.9: Mơ hình mạng lan truyền tiến 29 Hình 2.10: Đồ thị hàm truyền sigmoid 32 Hình 2.11: Lan truyền ngược 36 Hình 2.12: Minh họa việc tính δj cho việc tính nút ẩn j 38 Hình 2.13: Ví dụ non-eigenvector eigenvector 43 Hình 2.14: Ví dụ eigenvector có tỉ lệ khác eigenvector 44 Hình 3.1: Hệ thống nhận dạng khuôn mặt 46 Hình 3.2: Sơ đồ khối trích chọn đặc trưng sử dụng PCA 47 Hình 4.1 : Sơ đồ luồng xử lý chương trình thử nghiệm 53 Hình 4.2: Giao diện chương trình 54 Hình 4.3: Giao diện huấn luyện 55 Hình 4.4: Quá trình huấn luyện 55 Hình 4.5: Kết huấn luyện 56 Hình 4.6: Giao diện nhận dạng khuôn mặt 56 Hình 4.7: Index ảnh cần tìm 56 Hình 4.8: Kết nhận dạng 57 Cao học KHMT Khóa ĐH CNTT – ĐHQG TP.HCM MỞ ĐẦU Phát biểu vấn đề nghiên cứu Nhận dạng khuôn mặt người công nghệ ứng dụng rộng rãi đời sống ngày người hệ thống giám sát, quản lý vào ra, tìm kiếm thơng tin người tiếng,…Có nhiều phương pháp nhận dạng khuôn mặt để nâng cao hiệu suất nhiên dù hay nhiều phương pháp vấp phải thử thách độ sáng, hướng nghiêng, kích thước ảnh, hay ảnh hưởng tham số môi trường Một số hệ thống nhận dạng thường khn mặt gồm có bước Bước thứ trích xuất đặc trưng dựa vào số phương pháp phân tích thành phần (Principal Component Analysis – PCA), phân tích khác biệt tuyến tính (Linear Discriminant Analysis –LDA), phân tích đặc điểm vùng (Local Feature Analysis – LFA) Bước thứ hai phương pháp máy học mạng Nơ-ron (Neural Network), Support Vector Machine (SVM) Trong đó, PCA phương pháp trích rút đặc trưng nhằm giảm số chiều ảnh đơn giản mang lại hiệu tốt Nhận dạng khuôn mặt dùng PCA kết hợp với mạng Nơ-ron phương pháp mang lại hiệu nhận dạng cao phát huy ưu điểm PCA mạng Nơ-ron [8][15][26] Hệ thống hoạt động ổn định có tính thích nghi cao liệu đầu vào thay đổi nhiều Mục tiêu, nhiệm vụ, đối tượng phạm vi nghiên cứu  Mục tiêu nghiên cứu:  Nghiên cứu phương pháp nhận dạng mạng Nơ-ron  Áp dụng phương pháp vào việc nhận dạng khuôn mặt  Nhiệm vụ đề tài:  Nghiên cứu tổng quan nhận dạng khuôn mặt  Nghiên cứu phương pháp nhận dạng mạng Nơ-ron  Áp dụng phương pháp vào thực tế việc nhận dạng khn mặt Cao học KHMT Khóa ĐH CNTT – ĐHQG TP.HCM 3.1.2 Trích rút đặc trưng Trích rút đặc trưng kỹ thuật sử dụng thuật toán để lấy thông tin mang đặc điểm riêng biệt người - Đầu vào: Ảnh chuẩn hóa - Đầu ra: Vector đặc trưng ảnh đầu vào Q trình trích rút đặc trưng thể qua sơ đồ sau: Tập ảnh học Chuẩn hóa ma trận ảnh Trung bình ảnh Khối trích chọn đặc trưng Ma trận ảnh so với ảnh trung bình Tính Eigenfaces Eigenfaces Ảnh đầu vào Chiếu lên khơng gian Eigenfaces Vectơ đặc trưng Hình 3.2: Sơ đồ khối trích chọn đặc trưng sử dụng PCA Trong khóa luận ta sử dụng phương pháp PCA thực theo bước : Bước 1: 47 Cao học KHMT Khóa ĐH CNTT – ĐHQG TP.HCM Sử dụng ảnh khuôn mặt I1, I2, … In (tập khn mặt huấn luyện) với khn mặt phải diện, tất ảnh phải kích thước Chuẩn hóa ma trận ảnh: Chuẩn hóa vector khâu cần thực sử dụng thuật toán PCA Sự phân bố vector không gian thể qua trung bình (mean) chuẩn (standard) vector Cho vector X = [x1, x2, … xn ] trung bình chuẩn vector X tính sau: 𝑁 ̅ = ∑ 𝑋𝑖 𝑚𝑒𝑎𝑛(𝑋 ) = X 𝑁 𝑖=1 𝑠𝑡𝑑 (𝑋 ) = √ ̅) −X 𝑁−1 𝑁 𝑖=1(𝑥𝑖 Phép chuẩn hóa ma trận ảnh thực theo công thức sau: Γ′ (x, y) = Γ (x, y) − Γ̅ 𝑠𝑡𝑑(Γ) Với: Γ : ảnh ban đầu Γ̅ : trung bình ảnh ban đẩu 𝑠𝑡𝑑(Γ) : chuẩn ảnh ban đầu Bước 2: Biểu diễn ảnh Ii thành vector i 48 Cao học KHMT Khóa ĐH CNTT – ĐHQG TP.HCM Bước 3: Tính vector khn mặt trung bình  theo cơng thức: Bước 4: Trừ vector khn mặt trung bình: Bước 5: 1/M Tính ma trận hiệp phương sai (covariance) C: C có kích thước N2xN2 A có kích thước N2xM Trong đó: Bước 6: Tính Eigenvector ui (“vector riêng”) ma trận vng A.A.T Để tính nhanh eigenface này, ta chuyển sang tính tốn với ma trận L = ATA Ma trận C có kích thước N2xN2, vấn đề tìm vector riêng ui ma trận C khó thực kích thước q lớn Để tìm vector riêng C ta thực sau: Nếu vi vector riêng ATA λi trị riêng tương ứng , ta có : ATA vi = λi vi  AATA vi = λi A vi, tức Avi trị riêng ma trận C Bây ta cần tìm vector riêng vi ma trận L = ATA, ma trận có kích thước MxM Giả sử vi vector riêng tìm L Lúc đó, vector riêng ui ma trận C cần tìm là: (*) 49 Cao học KHMT Khóa ĐH CNTT – ĐHQG TP.HCM Chú ý nên chuẩn hóa vector ui ( ui  ), nghĩa là: ui  ui ui Ma trận AT.A có đến M trị riêng Tính M vector riêng ui tốt A.AT theo công thức (*) Bước 7: Chỉ giữ lại K vector riêng số M vector nói (ứng với K trị riêng lớn nhất), tất nhiên K