Nhận dạng mặt người bằng phương pháp phân tích thành phần chính và mạng neural

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC VINH _ NGUYỄN THỊ THANH HOÀI NHẬN DẠNG MẶT NGƯỜI BẰNG PHƯƠNG PHÁP PHÂN TÍCH THÀNH PHẦN CHÍNH VÀ MẠNG NEURAL LUẬN VĂN THẠC SĨ CÔNG NGHỆ THÔNG TIN Nghệ An, 2017 BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC VINH _ NGUYỄN THỊ THANH HOÀI NHẬN DẠNG MẶT NGƯỜI BẰNG PHƯƠNG PHÁP PHÂN TÍCH THÀNH PHẦN CHÍNH VÀ MẠNG NEURAL Chuyên ngành: CÔNG NGHỆ THÔNG TIN Mã ngành: 60.48.02.01 LUẬN VĂN THẠC SĨ CÔNG NGHỆ THÔNG TIN Người hướng dẫn khoa học: TS HOÀNG HỮU VIỆT Nghệ An, 2017 LỜI CAM ĐOAN Tôi xin cam đoan luận văn “Nhận dạng mặt người phương pháp phân tích thành phần mạng neural” cơng trình nghiên cứu riêng Các số liệu sử dụng luận văn trung thực Các kết nghiên cứu trình bày luận văn chưa cơng bố cơng trình khác Tác giả Nguyễn Thị Thanh Hoài LỜI CẢM ƠN Em xin chân thành cảm ơn thầy giáo TS Hoàng Hữu Việt tận tình hướng dẫn, giúp đỡ để em hồn thành tốt luận văn Em xin cảm ơn thầy giáo, cô giáo khoa Công nghệ thông tin Trường Đại học Vinh tâm huyết, nhiệt tình truyền thụ kiến thức cho em trình học tập và lần nữa, em xin gửi lời cảm ơn tới quan, bạn bè đồng nghiệp, gia đình người thân chia sẻ, giúp đỡ, động viên, tạo điều kiện thuận lợi để tơi hồn thành nhiệm vụ học tập luận văn Nghệ An, ngày 10 tháng năm 2017 Tác giả Nguyễn Thị Thanh Hoài MỤC LỤC Trang LỜI CAM ĐOAN LỜI CẢM ƠN MỤC LỤC DANH MỤC CÁC TỪ VIẾT TẮT DANH MỤC CÁC BẢNG DANH MỤC CÁC HÌNH LỜI NÓI ĐẦU CHƯƠNG TỔNG QUAN 1.1 Đặt vấn đề 1.2 Tổng quan hệ thống nhận dạng mẫu 1.2.1 Phân lớp toán nhận dạng 1.2.2 Chu trình thiết kế hệ thống nhận dạng mẫu 1.2.3 Thiết kế hệ thống nhận dạng mặt người 10 1.3 Tình hình nghiên cứu toán nhận dạng mặt người 12 1.3.1 Tình hình nghiên cứu nước 12 1.3.2 Tình hình nghiên cứu nước 12 CHƯƠNG PHƯƠNG PHÁP PHÂN TÍCH THÀNH PHẦN CHÍNH 13 2.1 Cơ sở lý thuyết 13 2.1.1 Giới thiệu .13 2.1.2 Các đại lượng toán học phương pháp PCA 15 2.2 Thuật toán PCA cho nhận dạng ảnh mặt người 17 2.3 Ví dụ bước thuật tốn 22 CHƯƠNG MẠNG NEURAL NHÂN TẠO 31 3.1 Giới thiệu mạng neural 31 3.1.1 Lịch sử phát triển 31 C.33.44.55.54.78.65.5.43.22.2.4 22.Tai lieu Luan 66.55.77.99 van Luan an.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.C.33.44.55.54.78.655.43.22.2.4.55.22 Do an.Tai lieu Luan van Luan an Do an.Tai lieu Luan van Luan an Do an 3.1.2 Các ứng dụng mạng neural 32 3.2 Kiến trúc mạng neural 33 3.2.1 Mơ hình neural .33 3.2.2 Mơ hình mạng neural nhân tạo 36 3.2.3 Mạng neural lớp 39 3.2.4 Mạng neural đa lớp 40 3.2.5 Mạng neural hồi quy (recurent networks) 42 3.3 Mạng Perceptron lớp 43 3.3.1 Kiến trúc mạng 43 3.3.2 Luật học cho mạng .46 3.3.3 Hạn chế mạng 47 3.4 Mạng Perceptron nhiều lớp thuật toán lan truyền ngược 48 3.4.1 Kiến trúc mạng Perceptron nhiều lớp 48 3.4.2 Thuật toán lan truyền ngược (back-propagation) 49 3.4.3 Ví dụ phân lớp với mạng Perceptron nhiều lớp 49 CHƯƠNG THIẾT KẾ HỆ THỐNG NHẬN DẠNG ẢNH MẶT NGƯỜI 52 4.1 Cơ sở liệu cho thử nghiệm 52 4.2 Nhận dạng với PCA 53 4.3 Nhận dạng với MPL sử dụng đặc trưng PCA 57 4.3.1 Thử nghiệm với mạng MPL tầng .57 4.3.2 Thử nghiệm với mạng MPL tầng .59 4.4 Một số nhận xét đề xuất 61 KẾT LUẬN 62 TÀI LIỆU THAM KHẢO 64 Stt.010.Mssv.BKD002ac.email.ninhd 77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77t@edu.gmail.com.vn.bkc19134.hmu.edu.vn.Stt.010.Mssv.BKD002ac.email.ninhddtt@edu.gmail.com.vn.bkc19134.hmu.edu.vn C.33.44.55.54.78.65.5.43.22.2.4 22.Tai lieu Luan 66.55.77.99 van Luan an.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.C.33.44.55.54.78.655.43.22.2.4.55.22 Do an.Tai lieu Luan van Luan an Do an.Tai lieu Luan van Luan an Do an DANH MỤC CÁC TỪ VIẾT TẮT CSDL: Cơ sở liệu MLP (Multilayer Perceptron): Mạng Perceptron nhiều lớp LDA (Linear Discriminant Analysis): Phương pháp phân tách tuyến tính LMS (Least Mean Square): Phương pháp bình phương trung bình tối thiểu PCA (Principal Components Analysis): Phương pháp phân tích thành phần MDP (Markov decision process): Markov trạng thái hữu hạn Stt.010.Mssv.BKD002ac.email.ninhd 77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77t@edu.gmail.com.vn.bkc19134.hmu.edu.vn.Stt.010.Mssv.BKD002ac.email.ninhddtt@edu.gmail.com.vn.bkc19134.hmu.edu.vn C.33.44.55.54.78.65.5.43.22.2.4 22.Tai lieu Luan 66.55.77.99 van Luan an.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.C.33.44.55.54.78.655.43.22.2.4.55.22 Do an.Tai lieu Luan van Luan an Do an.Tai lieu Luan van Luan an Do an DANH MỤC CÁC BẢNG Trang Bảng 2.1 Biểu diễn ảnh ma trận số liệu 4x6 22 Bảng 2.2 Biểu diển vector cột mặt ảnh giá trị trung bình 23 Bảng 2.3 Biểu diển vector cột mặt ảnh giá trị trung bình 24 Bảng 2.4 Ma trân hiệp phương sai C 25 Bảng 2.5 Ma trận vector riêng C 25 Bảng 2.6 Ma trận giá trị riêng C 26 Bảng 2.7 Ma trận vector riêng C theo thứ tự giảm dần 26 Bảng 2.8 Ma trận giá trị riêng theo thứ tự giảm dần 26 Bảng 2.9 Ma trận vector riêng ui 26 Bảng 2.10 Các vector đặc trưng (eiggent face) ảnh 27 Bảng 2.11 Lấy vector đặc trưng ảnh 28 Bảng 2.12 Biểu diễn ma trận ảnh I7 28 Bảng 2.13 Biểu diễn vector I7 thành cột trờ ảnh trung bình 28 Bảng 2.14 Biểu diễn vetor riêng I7 29 Bảng 2.14 Khoảng cách I7 với ảnh tập huấn luyện 30 Bảng 3.1 Một số hàm truyền mạng neural 37 Bảng 4.1 Kết thử nghiệm với liệu liệu 54 Bảng 4.2 Kết thử nghiệm với mạng neural tầng 58 Bảng 4.3 Kết của thử nghiệm với mạng neural tầng 59 Stt.010.Mssv.BKD002ac.email.ninhd 77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77t@edu.gmail.com.vn.bkc19134.hmu.edu.vn.Stt.010.Mssv.BKD002ac.email.ninhddtt@edu.gmail.com.vn.bkc19134.hmu.edu.vn C.33.44.55.54.78.65.5.43.22.2.4 22.Tai lieu Luan 66.55.77.99 van Luan an.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.C.33.44.55.54.78.655.43.22.2.4.55.22 Do an.Tai lieu Luan van Luan an Do an.Tai lieu Luan van Luan an Do an DANH MỤC CÁC HÌNH Trang Hình 1.1 Chu trình hệ thống nhận dạng mẫu Hình 1.2 Hệ thống nhận dạng mặt người 11 Hình 2.1 Ví dụ vector thường vetor riêng 15 Hình 2.2 Ví dụ ổn định vector riêng việc lấy tỉ lệ 16 Hình 2.3 Biểu diễn vector ảnh mặt người 17 Hình 2.4 Dạng vector mặt tạo từ ảnh khn mặt 17 Hình 3.1 Cấu tạo tế bào neural sinh học 34 Hình 3.2 Mơ hình neural nhân tạo 35 Hình 3.3 Mơ hình mạng neural đầu vào 36 Hình 3.4 Mơ hình neural nhiều đầu vào 38 Hình 3.5 Mơ hình neural nhiều đầu vào 39 Hình 3.6 Kiến trúc mạng neural lớp 40 Hình 3.7 Mạng neural lớp S neural R đầu vào 40 Hình 3.8 Mạng neural truyền thẳng nhiều lớp 42 Hình 3.9 Khối trễ 43 Hình 3.10 Khối tích phân 43 Hình 3.11 Mạng hồi quy 43 Hình 3.12 Mạng Perceptron 44 Hình 3.13 Mạng Perceptron neural hai đầu vào 45 Hình 3.14 Mạng Perceptron nhiều neural 46 Hình 3.15 Mạng Perceptron nhiều lớp 48 Hình 3.16 Đường biên định 51 Hình 4.1 Ảnh người 52 Hình 4.2 Ảnh người 53 Hình 4.3 Các ảnh nhận dạng bị lỗi liệu tỷ lệ 95% 54 Hình 4.4 Các ảnh nhận dạng bị lỗi liệu tỷ lệ 73.7% 57 Hình 4.5 Mạng MPL tầng cho trường hợp K = 10 59 Hình 4.6 Mạng neural tầng 60 Stt.010.Mssv.BKD002ac.email.ninhd 77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77t@edu.gmail.com.vn.bkc19134.hmu.edu.vn.Stt.010.Mssv.BKD002ac.email.ninhddtt@edu.gmail.com.vn.bkc19134.hmu.edu.vn C.33.44.55.54.78.65.5.43.22.2.4 22.Tai lieu Luan 66.55.77.99 van Luan an.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.C.33.44.55.54.78.655.43.22.2.4.55.22 Do an.Tai lieu Luan van Luan an Do an.Tai lieu Luan van Luan an Do an LỜI NÓI ĐẦU Lý chọn đề tài Trong giới ngày nay, với phát triển mạnh mẽ khoa học, kỹ thuật số mạng máy tính tồn cầu, vấn đề đảm bảo an tồn thơng tin, sở vật chất cá nhân, tập thể quốc gia nói chung ngày trở nên quan trọng nhiều khó khăn Đặc biệt năm ngần đây, tình hình giới gặp nhiều bất ổn, nạn khủng bố ngày tinh vi Do phủ tồn giới bắt đầu ý tới mức an ninh sân bay biên giới Ngân sách năm nước tăng lên nhiều cho kỹ thuật xác định, nhận dạng lần theo đối tượng nghi vấn Nhu cầu tăng lên ứng dụng giúp nhà khoa học có thêm quỹ để phát triển dự án nghiên cứu, với phát triển vũ bão cơng nghệ thơng tin nói chung phát triển lĩnh vực thị giác máy nói riêng, hệ thống phát nhận dạng mặt người ngày có nhiều ứng dụng thực tế vấn đề an ninh, nhận dạng người dùng hệ thống bảo mật, nhận dạng người lái xe, hộ chiếu, nhận dạng người hệ thống tương tác người-máy, lĩnh vực giải trí… Mặc dù việc nhận dạng mặt người khơng thể xác phương pháp nhận dạng nhận dạng vân tay, nhận dạng mống mắt nhận quan tâm lớn nhà nghiên cứu lĩnh vực thị giác máy Lý chủ yếu thực tế, mặt người cách truyền thống để người nhận Xử lý ảnh lĩnh vực ngày phổ biến đời sống xã hội Không dừng lại việc xử lý vết nhòe, tái chế phục hồi ảnh cũ, ngày kỹ phương pháp xử lý ảnh mang lại Stt.010.Mssv.BKD002ac.email.ninhd 77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77t@edu.gmail.com.vn.bkc19134.hmu.edu.vn.Stt.010.Mssv.BKD002ac.email.ninhddtt@edu.gmail.com.vn.bkc19134.hmu.edu.vn C.33.44.55.54.78.65.5.43.22.2.4 22.Tai lieu Luan 66.55.77.99 van Luan an.77.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.C.37.99.44.45.67.22.55.77.C.33.44.55.54.78.655.43.22.2.4.55.22 Do an.Tai lieu Luan van Luan an Do an.Tai lieu Luan van Luan an Do an 51 Vậy vẽ đường biên định sau: Hình 3.16 Đường biên định Chú ý rằng: đường biên định qua mẫu huấn luyện Điều chấp nhận hàm hardlim (n) trả n=0 trả n