Nhận dạng mặt người bằng phương pháp phân tích thành phần chính(pca) và phân tích khác biệt tuyến tính (lda)

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC VINH LÊ HOÀNG PHÚC NHẬN DẠNG MẶT NGƯỜI BẰNG PHƯƠNG PHÁP PHÂN TÍCH THÀNH PHẦN CHÍNH (PCA) VÀ PHÂN TÍCH KHÁC BIỆT TUYẾN TÍNH (LDA) LUẬN VĂN THẠC SỸ NGÀNH CƠNG NGHỆ THÔNG TIN ĐỒNG THÁP, 3/2017 BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC VINH LÊ HOÀNG PHÚC NHẬN DẠNG MẶT NGƯỜI BẰNG PHƯƠNG PHÁP PHÂN TÍCH THÀNH PHẦN CHÍNH (PCA) VÀ PHÂN TÍCH KHÁC BIỆT TUYẾN TÍNH (LDA) Chuyên ngành: CÔNG NGHỆ THÔNG TIN Mã số: 60.48.02.01 LUẬN VĂN THẠC SỸ NGÀNH CÔNG NGHỆ THÔNG TIN Người hướng dẫn khoa học: TS HOÀNG HỮU VIỆT ĐỒNG THÁP, 3/2017 LỜI CẢM ƠN Tôi chân thành cảm ơn giúp đỡ Thầy Cô Khoa công nghệ thông tin Trường đại học Vinh tận tình giảng dạy môn kiến thức chuyên đề CNTT, với Thầy TS Hồng Hữu Việt tận tình hướng dẫn giúp đỡ tơi hồn thành luận văn Ngồi chân thành cảm ơn bạn học viên cao học K23 Đồng Tháp giúp việc cung cấp tài liệu, trau đổi vấn đề thuộc lĩnh vực mà nghiên cứu, cảm ơn cán lãnh đạo nơi công tác hỗ trợ cho thời gian làm luận văn Đồng Tháp, ngày 25 tháng năm 2017 Học viên Lê Hoàng Phúc LỜI CAM ĐOAN Tôi xin cam đoan luận văn “nhận dạng mặt người phương pháp phân tích thành phần (PCA) phân tích khác biệt tuyến tính (LDA)” cơng trình nghiên cứu tơi với hướng dẫn khoa học TS Hoàng Hữu Việt, tham chiếu luận văn ghi rõ phần tài liệu tham khảo, số liệu thực nghiệm nghiên cứu thực tế môi trường thí nghiệm, số thống kê ghi nhận cách khách quan, trung thực chưa công bố hình thức trước Đồng Tháp, ngày 25 tháng năm 2017 Học viên Lê Hoàng Phúc MỤC LỤC Nội dung Trang LỜI CẢM ƠN LỜI CAM ĐOAN MỤC LỤC BẢNG KÝ HIỆU CÁC CHỮ VIẾT TẮT .6 DANH MỤC CÁC HÌNH VẼ - ĐỒ THỊ MỞ ĐẦU Lý chọn đề tài Mục tiêu nghiên cứu 10 2.1 Mục tiêu tổng quát 10 2.2 Mục tiêu cụ thể .10 Đối tượng phạm vi nghiên cứu .10 3.1 Đối tượng nghiên cứu 10 3.2 Phạm vi nghiên cứu 11 Nội dung nghiên cứu 11 Cấu trúc luận văn 12 CHƯƠNG 1: TỔNG QUAN 13 1.1 Đặt vấn đề 13 1.2 Tổng quan hệ thống nhận dạng mẫu .14 1.2.1 Phân lớp toán nhận dạng 15 1.2.1.1 Học có giám sát (supervised learning) 16 1.2.1.2 Học khơng có giám sát (unsupervised learning) .16 1.2.2 Chu trình thiết kế hệ thống nhận dạng mẫu .17 1.2.3 Hướng tiếp cận hệ thống nhận dạng mặt người phương pháp PCA 20 1.2.4 Hướng tiếp cận hệ thống nhận dạng mặt người đặc trưng LDA .21 1.3 Tình hình nghiên cứu tốn nhận dạng mặt người 22 CHƯƠNG 2: NHẬN DẠNG ẢNH MẶT NGƯỜI BẰNG PHƯƠNG PHÁP PCA VÀ LDA 25 2.1 Giới thiệu 25 2.2 Cơ sở toán học [7] 27 2.2.1 Độ lệch chuẩn (Standard deviation) .27 2.2.2 Phương sai (Variance) 28 2.2.3 Hiệp phương sai (Covariance) 29 2.2.4 Ma trận hiệp phương sai (Covariance matrix) 30 2.2.5 Vectơ riêng (Eigenvectors) 31 2.2.6 Trị riêng (Eigenvalues) 31 2.3 Thuật tốn phân tích thành phần PCA 32 2.3.1 Thuật toán [6] 32 2.3.2 Các bước thực thuật toán .33 2.3.3 Ưu nhược điểm phương pháp PCA 40 2.4 Thuật tốn phân tích khác biệt tuyến tính LDA .41 2.4.1 Thuật toán 42 2.4.2 Các bước thuật toán [8] 44 2.4.3 Ưu nhược điểm phương pháp LDA 46 CHƯƠNG 3: THIÊT KẾ HỆ THỐNG NHẬN DẠNG ẢNH MẶT NGƯỜI 47 3.1 Dữ liệu thử nghiệm 47 3.2 Nhận dạng với PCA .48 3.2.1 Mục tiêu: 48 3.2.2 Tiêu chí đánh giá: 48 3.2.3 Kết thử nghiệm: 48 3.3 Nhận dạng với LDA .53 3.3.1 Mục tiêu: 53 3.3.2 Tiêu chí đánh giá: 53 3.3.3 Kết thử nghiệm: 53 3.4 Thử nghiệm nhận dạng với tập huấn luyện thay đổi .56 3.4.1 Mục tiêu: 56 3.4.2 Tiêu chí đánh giá: 56 3.4.3 Kết thử nghiệm: 57 3.5 Một số nhận xét .58 KẾT LUẬN 60 DANH MỤC CÁC TÀI LIỆU THAM KHẢO .62 PHỤ LỤC 64 BẢNG KÝ HIỆU CÁC CHỮ VIẾT TẮT STT Tên Ý nghĩa tắt Principal Component Analysis (Phân tích thành phần PCA LDA ICA SVM Support Vector Machines (Máy Vector hỗ trợ) LVQ Learning Vector Quantization neural network CNTT Công nghệ thông tin chính) Linear Discriminant Analysis (Phân tích khác biệt tuyến tính) Independent Component Analysis (Phân tích thành phần độc lập) Neural Network (Mạng nơron nhân tạo) NN ORL ATT AT&T IFD Indian Face Database (Olivetti Research Laboratory, Surrey University): Cơ sở liệu ảnh dùng luận văn DANH MỤC CÁC HÌNH VẼ - ĐỒ THỊ Chương Hình 1: Phân lớp nhận dạng mẫu 16 Hình 2: Chu trình thiết kế hệ thống nhận dạng mẫu 17 Hình 3: Phương pháp đánh giá mơ hình đơn giản 19 Hình 4: Phương pháp đánh giá mơ hình Random subsampling 19 Hình 5: Phương pháp đánh giá mơ hình Cross-validation 20 Chương Hình 1: Ý tưởng mơ hình thuật tốn PCA 32 Hình 2: Phép chiếu hệ sở v sang hệ sở u 33 Hình 3: Các ảnh huấn luyện phải kích thước khn mặt nằm ảnh 34 Hình 4: Mô tả không gian mặt 38 Hình 5: Minh họa bước tính tốn vector chiếu đo khoảng cách không gian mặt 40 Hình 6: Phân loại với LDA 42 Hình 7: Phân loại dựa between within theo LDA 42 Chương Hình 1: Ảnh người liệu 47 Hình 2: Ảnh người liệu 48 Hình 3: Biểu đồ biểu diễn tương quan tỷ lệ nhận dạng liệu 50 Hình 4: Biểu đồ biểu diễn tương quan thời gian thực liệu 50 Hình 5: Các ảnh nhận dạng bị lỗi liệu tỷ lệ 95% PCA 51 Hình 6: Các ảnh nhận dạng bị lỗi liệu tỷ lệ 73.77% PCA 53 Hình 7: Các ảnh nhận dạng bị lỗi liệu tỷ lệ 95% LDA 54 Hình 8: Kết nhận dạng LDA liệu 54 Hình 9: Các ảnh nhận dạng bị lỗi liệu tỷ lệ 85.0% LDA 56 Hình 10: Kết nhận dạng LDA liệu 56 Hình 11: Biểu đồ biểu diễn tương quan tỷ lệ nhận dạng PCA LDA tập huấn luyện thay đổi 57 MỞ ĐẦU Lý chọn đề tài Trong thời đại kỹ thuật số ngày nay, việc áp dụng công nghệ thông tin (CNTT) vào lĩnh vực đời sống xã hội trở nên mạnh mẽ hết, từ lĩnh vực công nghệ cao đến vấn đề thuộc phục vụ người ngày, từ tiện ích xã hội đến vấn đề bảo mật an ninh quốc gia Một số tiện ích mà ngành CNTT mang lại việc dùng phương tiện CNTT để nhận diện mặt người (Face Recognition), với đà phát triển thiết bị di động việc áp dụng nhận diện mặt người mang lại lợi ích thiết thực nhận diện người ảnh để liên kết với thông tin cá nhân như: số điện thoại, nơi ở, địa mạng xã hội cá nhân… Nhận diện gương mặt để mở khóa thiết bị Trong lĩnh vực an ninh sau kiện ngày 11/9 nhiều nước giới áp dụng việc nhận diện cá nhân nơi công cộng sân bay, văn phịng phủ, kiểm tra hình ảnh hộ chiếu, chứng minh thư… Để đáp ứng nhu cầu nay, nhiều phương pháp nhận dạng mặt người đề xuất PCA, LDA, ICA, SVM, mạng neuron…và đạt nhiều thành tựu lớn Tuy nhiên xét hiệu thuật toán kể có ưu nhược điểm khác cần phải có nghiên cứu đặc trưng mơ hình từ phân tích các ưu điểm khắc phục nhược điểm loại mơ hình Với nhận thức trên, chọn đề tài: “Nhận dạng mặt người phương pháp phân tích thành phần (PCA) phân tích khác biệt tuyến tính (LDA)” làm luận văn tốt nghiệp thạc sỹ ngành CNTT 53 Hình 6: Các ảnh nhận dạng bị lỗi liệu tỷ lệ 73.77% PCA 3.3 Nhận dạng với LDA 3.3.1 Mục tiêu: Thuật toán thử nghiệm LDA thực Matlab Tương tự PCA, với liệu ảnh mặt nêu phần 3.1 mục tiêu thử nghiệm độ xác thời gian chạy liệu 3.3.2 Tiêu chí đánh giá: Tiêu chí đánh giá vào số lượng ảnh nhận dạng tương ứng với thời gian thực nhận dạng tập liệu 3.3.3 Kết thử nghiệm: Bảng (3.2) kết của thử nghiệm với liệu liệu Thời gian thực thuật toán cho liệu khác lớn, điều việc tính tốn với liệu có kích thước ảnh lớn (92x112) so với 64x48) tính tốn ma trận phân bố nội lớp (SW) liên lớp (SB) số biến thực có kích thước lớn (10304x10304) Với liệu 1, tỷ lệ nhận dạng 95% tương ứng với thời gian 301.292757 giây, với liệu 2, tỷ lệ nhận dạng 85.25% tương ứng thời gian thực 48.705002 giây 54 Hình (3.7) ảnh nhận dạng bị lỗi liệu tỷ lệ 95% Hình (3.8) ảnh nhận dạng bị lỗi liệu tỷ lệ 85,25% Bộ liệu Bộ liệu Tỷ lệ nhận Thời gian Tỷ lệ nhận Thời gian dạng (giây) dạng (giây) 95.00 301.292757 85.25 48.705002 Bảng 2: Kết thử nghiệm phương pháp LDA Hình 7: Các ảnh nhận dạng bị lỗi liệu tỷ lệ 95% LDA Hình 8: Kết nhận dạng LDA liệu 55 56 Hình 9: Các ảnh nhận dạng bị lỗi liệu tỷ lệ 85.0% LDA Hình 10: Kết nhận dạng LDA liệu 3.4 Thử nghiệm nhận dạng với tập huấn luyện thay đổi 3.4.1 Mục tiêu: Bước thực chạy thuật toán nhận dạng PCA LDA liệu 1, nhiên thay đổi số lượng ảnh huấn luyện lớp từ đến ảnh/lớp huấn luyện từ quan sát thay đổi độ xác củng thời gian thực thuật tốn 3.4.2 Tiêu chí đánh giá: Tiêu chí đánh giá vào số lượng ảnh nhận dạng tương ứng với thời gian thực nhận dạng tập liệu 57 3.4.3 Kết thử nghiệm: Kết thể bảng (3.3) hình (3.11) đây: Tổng số ảnh huấn luyện PCA Số ảnh LDA huấn Tỷ lệ nhận Thời gian Tỷ lệ nhận Thời gian luyện/lớp dạng (giây) dạng (giây) 80 82.50 0.946639 82.50 92.718131 120 85.00 0.861088 87.50 122.104223 160 87.50 0.869010 90.00 152.474060 200 85.00 1.041417 90.00 182.278160 240 90.00 0.885995 92.50 211.803478 280 92.50 0.819093 92.50 240.669895 320 95.00 1.439666 95.00 273.084226 Bảng 3: Kết thử nghiệm phương pháp PCA LDA tập huấn luyện thay đổi liệu Hình 11: Biểu đồ biểu diễn tương quan tỷ lệ nhận dạng PCA LDA tập huấn luyện thay đổi 58 3.5 Một số nhận xét Việc so sánh thuật toán, chúng tơi chạy thuật tốn nhiều lần với liệu, thuật tốn PCA chúng tơi thay đổi giá trị K nhằm mục đích đánh giá ảnh hưởng đến hiệu suất nhận dạng, so sánh thuật tóan PCA LDA, chúng tơi thực chạy chương trình nhiều lần thiết bị lấy thông số tối ưu để so sánh Hiệu suất nhận dạng phương pháp PCA LDA phân tích phần 3.2 3.3 nêu trên, kết thực nghiệm chứng minh nhận định tính chất ưu nhược điểm nêu phần 2.3.3 2.4.3 Các nhận xét vào cac số liệu khách quan sau chạy thử thuật tốn với nhóm liệu mẫu khác (Dữ liệu ảnh ATT IFD) Kết từ phần 3.2 3.3 cho thấy hiệu suất thuật toán cho sở liệu tỷ lệ nhận liệu (ATT) cao liệu (IFD), điều chất lượng ảnh khác biệt nhau, liệu có độ phân giải lớn với mức độ thể khuôn mặt rõ nét hơn, ảnh liệu đa dạng miêu tả cảm xúc nhân vật liệu khu vực ảnh lớn ảnh liệu Xét độ xác LDA cho thấy tỷ lệ nhận dạng cao Điều lý giải việc thuật toán LDA sử dụng lớp rời rạc để nhóm hình ảnh thực giảm thiểu hiệp phương sai C lớp Việc sử dụng thông tin lớp làm tăng lên khả nhận dạng không gian đặc trưng Sự lựa chọn số lượng vector riêng K để tạo thành vector sở xem không thay đổi nhiều giá trị lấy 30 độ xác 59 gần Tuy số chọn thấp đặc biệt