Nhận dạng ảnh mặt người sử dụng mạng nơron

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC BÁCH KHOA HÀ NỘI LUẬN VĂN THẠC SĨ KHOA HỌC NHẬN DẠNG ẢNH MẶT NGƯỜI SỬ DỤNG MẠNG NƠRON NGÀNH: CÔNG NGHỆ THÔNG TIN VÕ PHÚC NGUYÊN Người hướng dẫn khoa học: PGS TS NGUYỄN THANH THỦY HÀ NỘI - 2009 Mục lục Lời cam đoan Danh mục từ viết tắt Danh mục bảng Danh mục hình vẽ, đồ thị Lời cảm ơn Chương 1: Mở đầu 1.1 Giới thiệu chung 1.2 Bố cục luận văn Chương 2: Trích chọn đặc trưng 10 2.1 Phương pháp phân tích thành phần 10 2.1.1 Cơ sở toán học 11 2.1.2 Phương pháp PCA 20 2.2 Phương pháp phân tách tuyến tính 27 2.3 Phương pháp xử lý hình thái 30 2.3.1 Biến đổi trúng-trượt (hit-or-miss) 32 2.3.2 Phép dãn ảnh co ảnh tổng quát 35 2.3.3 Dãn co ảnh đa mức xám 42 Chương 3: Mạng nơron 44 3.1 Giới thiệu mạng nơron 44 3.1.1 Nơron – đơn vị xử lý 44 3.1.2 Liên kết nơron 45 3.1.3 Hàm kích hoạt quy tắc xác định tín hiệu 46 3.1.4 Quy tắc delta 47 3.2 Thuật toán học lan truyền ngược 49 Chương 4: Thiết kế đánh giá 54 4.1 Thiết kế hệ thống 54 4.1.1 Cơ sở liệu ảnh 54 4.1.2 Môi trường cài đặt 55 4.1.3 Cài đặt 55 4.2 Kiểm thử đánh giá 58 Kết luận 60 Tài liệu tham khảo 62 Lời cam đoan Tôi xin cam đoan luận văn “Nhận dạng ảnh mặt người sử dụng mạng nơron” cơng trình nghiên cứu riêng Các số liệu sử dụng luận văn trung thực Các kết nghiên cứu trình bày luận văn chưa công bố cơng trình khác Võ Phúc Ngun Nhận dạng ảnh mặt người sử dụng mạng nơron – Võ Phúc Nguyên Danh mục từ viết tắt LDA (Linear Discriminant Analysis): Phương pháp phân tách tuyến tính LMS (Least Mean Square): Phương pháp bình phương trung bình tối thiểu ORL (Olivetti Research Laboratory, Surrey University): Cơ sở liệu ảnh dùng luận văn PCA (Principal Components Analysis): Phương pháp phân tích thành phần Nhận dạng ảnh mặt người sử dụng mạng nơron – Võ Phúc Nguyên Danh mục bảng Bảng 2.1 Tính tốn độ lệch chuẩn 13 Bảng 2.2 Tập liệu hai chiều tính tốn hiệp phương sai 15 Bảng 4.1 Các module chương trình 55 Nhận dạng ảnh mặt người sử dụng mạng nơron – Võ Phúc Nguyên Danh mục hình vẽ, đồ thị Hình 1.1 Mơ hình hệ thống nhận dạng mặt người Hình 2.1 Ví dụ minh họa PCA 11 Hình 2.2 Ví dụ vector thường vetor riêng 18 Hình 2.3 Ví dụ ổn định vector riêng việc lấy tỉ lệ 19 Hình 2.4 Dữ liệu đồ thị biểu diễn liệu 21 Hình 2.5 Đồ thị biểu diễn liệu chuẩn hóa với vector riêng 23 Hình 2.6 Ảnh gốc sở liệu ORL 26 Hình 2.7 Ảnh sau biến đổi theo PCA 26 Hình 2.8 Ví dụ minh họa LDA 27 Hình 2.9 Ảnh sau biến đổi theo LDA 30 Hình 2.10 Sự liên thông 31 Hình 2.11 Phép dãn ảnh nhị phân 34 Hình 2.12 Phép co ảnh nhị phân 35 Hình 2.13 Các toán tử đại số ảnh mảng nhị phân 36 Hình 2.14 Lật dịch mảng nhị phân 37 Hình 2.15 Phép dãn ảnh tổng quát dựa theo phép cộng Minkowski 39 Hình 2.16 So sánh kết hai phép co ảnh 41 Hình 2.17 Phép dãn ảnh co ảnh tổng quát với phần tử cấu trúc 5×5 42 Hình 2.18 Ảnh sau xử lý hình thái 43 Hình 3.1 Các thành phần mạng nơron nhân tạo 45 Hình 3.2 Một số dạng hàm kích hoạt nơron 46 Hình 3.3 Mạng nơron l lớp 49 Hình 4.1 Ảnh gốc ảnh ORL 54 Hình 4.2 Ảnh gốc bổ sung ảnh gương 56 Hình 4.3 Giao diện chương trình 57 Nhận dạng ảnh mặt người sử dụng mạng nơron – Võ Phúc Nguyên Lời cảm ơn Tôi xin cảm ơn Viện Đào tạo Sau đại học, trường Đại học Bách khoa Hà Nội tạo điều kiện cho hồn thành luận văn Tơi xin chân thành cảm ơn giúp đỡ PGS TS Nguyễn Thanh Thủy, Viện Công nghệ thông tin Truyền thông, trường Đại học Bách khoa Hà Nội Tôi xin cảm ơn động viên giúp đỡ tất người thân gia đình, bạn bè, đồng nghiệp trình thực luận văn Võ Phúc Nguyên Nhận dạng ảnh mặt người sử dụng mạng nơron – Võ Phúc Nguyên Chương 1: Mở đầu 1.1 Giới thiệu chung Hiện nay, với phát triển vũ bão cơng nghệ thơng tin nói chung phát triển lĩnh vực thị giác máy nói riêng, hệ thống phát nhận dạng mặt người ngày có nhiều ứng dụng thực tế vấn đề an ninh, nhận dạng người dùng hệ thống bảo mật, nhận dạng người lái xe, hộ chiếu, nhận dạng người hệ thống tương tác người-máy, lĩnh vực giải trí… Đặc biệt sau thảm họa ngày 11/9, phủ tồn giới bắt đầu ý tới mức an ninh sân bay biên giới Ngân sách năm nước tăng lên nhiều cho kỹ thuật xác định, nhận dạng lần theo đối tượng nghi vấn Nhu cầu tăng lên ứng dụng giúp nhà khoa học có thêm quỹ để phát triển dự án nghiên cứu Mặc dù việc nhận dạng mặt người khơng thể xác phương pháp nhận dạng khác nhận dạng vân tay, nhận quan tâm lớn nhà nghiên cứu lĩnh vực thị giác máy Lý chủ yếu thực tế, mặt người cách truyền thống để người nhận Một hệ thống nhận dạng mặt người điển hình bao gồm thành phần hình 1.1 Ảnh mặt người Trích chọn đặc trưng Nhận dạng mặt người Người nhận dạng Hình 1.1 Mơ hình hệ thống nhận dạng mặt người Nhận dạng ảnh mặt người sử dụng mạng nơron – Võ Phúc Nguyên Có hai hướng tiếp cận làm hạt nhân kỹ thuật phân tích đặc trưng mặt người: hướng tiếp cận hình học hướng tiếp cận hình ảnh • Hướng tiếp cận hình học sử dụng việc ánh xạ không gian đặc trưng mặt người Mặt người phân loại theo khoảng cách hình học, theo đường bao theo góc điểm • Hướng tiếp cận hình ảnh bao gồm việc xây dựng mẫu từ đặc trưng mặt người Mẫu đặc trưng bật, chí tồn khn mặt thiết lập, việc nhận dạng thực cách duyệt khn mặt tìm mặt khớp với mẫu Hiện hệ thống nhận dạng mặt người tiếp tục phát triển Dưới số phương pháp trích chọn đặc trưng: - Mặt riêng (Eigenface) - Mơ hình Markov ẩn - Phân tích thành phần (PCA) Thuật tốn Eigenface phổ biến sử dụng rộng rãi đơn giản hiệu tính tốn Thuật tốn sử dụng cách tiếp cận lý thuyết thông tin việc mã hóa ảnh mặt người xác định vector riêng tương ứng với giá trị riêng lớn ma trận hiệp phương sai ảnh Sau đó, nhóm ảnh người, ta tính vector trung bình, ngưỡng chọn để xác định khoảng cách chấp nhận cực đại từ ảnh đến nhóm ảnh giúp nhận dạng ảnh Mơ hình Markov ẩn phân loại đặc trưng mặt người tính chất chuỗi Markov Một dãy ngẫu nhiên biến lấy giá trị điểm ảnh tương ứng tạo nên chuỗi Markov, xác suất để hệ thống đạt trạng thái xn+1 thời điểm n+1 phụ thuộc vào xác suất để hệ thống đạt trạng thái xn Nhận dạng ảnh mặt người sử dụng mạng nơron – Võ Phúc Nguyên thời điểm n Trong chuỗi Markov, việc chuyển hệ thống từ trạng thái sang trạng thái khác tương ứng với xác suất đó, kết ký hiệu lại xác định trước Như vậy, kết phân bố xác suất tất ký hiệu trạng thái kết dùng để so sánh hai khn mặt Trong phương pháp phân tích thành phần (PCA − cịn gọi biến đổi Karhunen-Loeve), tập liệu biểu diễn lại với số đặc trưng đồng thời giữ hầu hết thông tin quan trọng liệu PCA thường sử dụng phương pháp mặt riêng Tập vector riêng dùng làm vector sở khơng gian con, ta so sánh với ảnh sở liệu để nhận dạng ảnh Các vector sở cịn gọi thành phần sở liệu ảnh Mạng nơron sử dụng rộng rãi hệ thống nhận dạng mặt người Kỹ thuật mạng nơron mô hoạt động nơron não người Mạng nơron có khả điều chỉnh trọng số dựa mẫu học trình huấn luyện Kết mạng đạt hiệu cao việc phân loại lớp, dựa liệu mẫu khả tách tuyến tính phi tuyến 1.2 Bố cục luận văn Mặc dù hệ thống nhận dạng mặt người đạt hiệu cao, nhiên chúng hạn chế tập trung vào hay vài phương pháp trích chọn đặc trưng Có hệ thống thực nhận dạng dựa đặc điểm hình học mặt người có hệ thống dựa đặc điểm thống kê Trong luận văn này, việc trích chọn đặc trưng thực dựa đặc điểm thống kê khuôn mặt (cụ thể phương pháp phân tích Nhận dạng ảnh mặt người sử dụng mạng nơron – Võ Phúc Nguyên 49 3.2 Thuật toán học lan truyền ngược Một mạng nơron truyền thẳng có cấu trúc gồm nhiều lớp Mỗi lớp chứa nơron nhận tín hiệu vào từ nơron lớp trực tiếp phía gửi tín hiệu chúng cho lớp trực tiếp phía Khơng có kết nối nơron lớp Các nơron vào Ni truyền tín hiệu đến lớp nơron ẩn Nh,1 Không xử lý thực nơron vào Hàm kích hoạt nơron ẩn hàm Fi tín hiệu vào có trọng số cộng với bias cơng thức (3.3) Tín hiệu nơron ẩn phân bổ lớp nơron ẩn Nh,2, tiếp tục đến lớp cuối nơron ẩn, tín hiệu chúng truyền đến lớp nơron No (hình 3.3) Hình 3.3 Mạng nơron l lớp Do nơron sử dụng với hàm kích hoạt phi tuyến, nên tổng qt hóa quy tắc delta trình bày cho hàm tuyến tính để sử dụng với hàm phi tuyến Hàm kích hoạt hàm khả vi tín hiệu vào tổng, cho bởi: 𝑝𝑝 𝑝𝑝 𝑦𝑦𝑘𝑘 = 𝐹𝐹�𝑠𝑠𝑘𝑘 � (3.13) Nhận dạng ảnh mặt người sử dụng mạng nơron – Võ Phúc Nguyên 50 𝑝𝑝 𝑝𝑝 𝑠𝑠𝑘𝑘 = � 𝑤𝑤𝑗𝑗𝑗𝑗 𝑦𝑦𝑗𝑗 + 𝜃𝜃𝑘𝑘 𝑗𝑗 (3.14) Để tổng qt hóa xác quy tắc delta ta đặt 𝜕𝜕𝐸𝐸 𝑝𝑝 ∆𝑝𝑝 𝑤𝑤𝑗𝑗𝑗𝑗 = −𝛾𝛾 𝜕𝜕𝑤𝑤𝑗𝑗𝑗𝑗 (3.15) Hàm lỗi Ep định nghĩa tổng lỗi bình phương mẫu p nơron ra: 𝑁𝑁𝑜𝑜 𝑝𝑝 𝑝𝑝 𝑝𝑝 𝐸𝐸 𝑝𝑝 = ��𝑑𝑑𝑜𝑜 − 𝑦𝑦𝑜𝑜 � 𝑜𝑜=1 (3.16) 𝑑𝑑𝑜𝑜 tín hiệu mong muốn với đơn vị o mẫu p đưa vào Đặt 𝐸𝐸 = ∑𝑝𝑝 𝐸𝐸 𝑝𝑝 tổng lỗi bình phương Ta viết: 𝑝𝑝 𝜕𝜕𝐸𝐸 𝑝𝑝 𝜕𝜕𝐸𝐸 𝑝𝑝 𝜕𝜕𝑠𝑠𝑘𝑘 = 𝜕𝜕𝑤𝑤𝑗𝑗𝑗𝑗 𝜕𝜕𝑠𝑠𝑘𝑘𝑝𝑝 𝜕𝜕𝑤𝑤𝑗𝑗𝑗𝑗 (3.17) Theo công thức (3.14), nhân tử thứ hai là: 𝑝𝑝 Khi có định nghĩa: 𝜕𝜕𝑠𝑠𝑘𝑘 𝑝𝑝 = 𝑦𝑦𝑗𝑗 𝜕𝜕𝑤𝑤𝑗𝑗𝑗𝑗 𝑝𝑝 𝛿𝛿𝑘𝑘 =− 𝜕𝜕𝐸𝐸 𝑝𝑝 𝑝𝑝 𝜕𝜕𝑠𝑠𝑘𝑘 (3.18) (3.19) Nhận dạng ảnh mặt người sử dụng mạng nơron – Võ Phúc Nguyên 51 quy tắc nhận tương đương với quy tắc delta trên, trả kết độ dốc giảm dần mặt phẳng lỗi trọng số thay đổi theo công thức: 𝑝𝑝 𝑝𝑝 (3.20) ∆𝑝𝑝 𝑤𝑤𝑗𝑗𝑗𝑗 = −𝛾𝛾𝛿𝛿𝑘𝑘 𝑦𝑦𝑗𝑗 𝑝𝑝 Cách làm nhằm xác định vai trò 𝛿𝛿𝑘𝑘 đơn vị k mạng Kết có tính tốn hồi quy đơn giản δ cài đặt cách lan truyền ngược tín hiệu lỗi mạng 𝑝𝑝 Để tính 𝛿𝛿𝑘𝑘 , theo quy tắc chuỗi, đạo hàm riêng phần viết lại thành tích hai nhân tử, nhân tử phản ánh biến đổi lỗi hàm tín hiệu nơron, cịn nhân tử phản ánh biến đổi tín hiệu hàm biến đổi tín hiệu vào: 𝑝𝑝 𝛿𝛿𝑘𝑘 =− 𝜕𝜕𝐸𝐸 𝑝𝑝 𝑝𝑝 𝜕𝜕𝑠𝑠𝑘𝑘 =− 𝑝𝑝 𝜕𝜕𝐸𝐸 𝑝𝑝 𝜕𝜕𝑦𝑦𝑘𝑘 𝑝𝑝 𝑝𝑝 𝜕𝜕𝑦𝑦𝑘𝑘 𝜕𝜕𝑠𝑠𝑘𝑘 (3.21) Với nhân tử thứ hai, theo cơng thức (3.13) ta có: 𝑝𝑝 𝜕𝜕𝑦𝑦𝑘𝑘 𝑝𝑝 𝜕𝜕𝑠𝑠𝑘𝑘 𝑝𝑝 = 𝐹𝐹 ′ �𝛿𝛿𝑘𝑘 � (3.22) 𝑝𝑝 đạo hàm hàm F với nơron thứ k, tính nơron vào 𝑠𝑠𝑘𝑘 đến nơron Để tính nhân tử thứ công thức (3.21), ta xét hai trường hợp Thứ nhất, giả sử nơron k nơron k = o mạng, theo định nghĩa Ep 𝜕𝜕𝐸𝐸 𝑝𝑝 𝑝𝑝 𝜕𝜕𝑦𝑦𝑜𝑜 𝑝𝑝 𝑝𝑝 = −�𝑑𝑑𝑜𝑜 − 𝑦𝑦𝑜𝑜 � (3.23) Nhận dạng ảnh mặt người sử dụng mạng nơron – Võ Phúc Nguyên 52 kết giống sử dụng quy tắc delta chuẩn Thay kết kết công thức (3.22) vào công thức (3.21): 𝑝𝑝 𝑝𝑝 𝑝𝑝 𝑝𝑝 𝛿𝛿𝑜𝑜 = �𝑑𝑑𝑜𝑜 − 𝑦𝑦𝑜𝑜 � 𝐹𝐹 ′ �𝛿𝛿𝑜𝑜 � (3.24) với nơron o Trường hợp thứ hai, k nơron mà nơron ẩn k = h, khơng xác định đóng góp nơron vào lỗi mạng Tuy nhiên, công thức tính lỗi viết 𝑝𝑝 𝑝𝑝 hàm tín hiệu vào từ lớp ẩn đến lớp ra; 𝐸𝐸 𝑝𝑝 = 𝐸𝐸 𝑝𝑝 (𝑠𝑠1 , , 𝑠𝑠𝑗𝑗 , ) ta sử dụng quy tắc chuỗi để viết: 𝑁𝑁𝑜𝑜 𝑝𝑝 𝑁𝑁𝑜𝑜 𝑁𝑁ℎ 𝑁𝑁𝑜𝑜 𝑁𝑁𝑜𝑜 𝑜𝑜=1 𝑗𝑗=1 𝑜𝑜=1 𝑜𝑜=1 𝜕𝜕𝐸𝐸 𝑝𝑝 𝜕𝜕𝐸𝐸 𝑝𝑝 𝜕𝜕𝑦𝑦𝑜𝑜 𝜕𝜕𝐸𝐸 𝑝𝑝 𝜕𝜕 𝜕𝜕𝐸𝐸 𝑝𝑝 𝑝𝑝 𝑝𝑝 = � = � � 𝑤𝑤 𝑦𝑦 = � 𝑘𝑘𝑘𝑘 𝑗𝑗 𝑝𝑝 𝑝𝑝 𝑝𝑝 𝑤𝑤ℎ𝑜𝑜 = − � 𝛿𝛿𝑜𝑜 𝑤𝑤ℎ𝑜𝑜 𝑝𝑝 𝑝𝑝 𝑝𝑝 𝜕𝜕𝑦𝑦ℎ 𝜕𝜕𝑦𝑦𝑜𝑜 𝜕𝜕𝑠𝑠ℎ 𝜕𝜕𝑦𝑦𝑜𝑜 𝜕𝜕𝑠𝑠ℎ 𝜕𝜕𝑦𝑦𝑜𝑜 𝑜𝑜=1 (3.25) Thay kết vào công thức (3.21): 𝑝𝑝 𝛿𝛿ℎ =− 𝜕𝜕𝐸𝐸 𝑝𝑝 𝑝𝑝 𝜕𝜕𝑠𝑠𝑘𝑘 =− 𝑝𝑝 𝜕𝜕𝐸𝐸 𝑝𝑝 𝜕𝜕𝑦𝑦𝑘𝑘 𝑝𝑝 𝑝𝑝 𝜕𝜕𝑦𝑦𝑘𝑘 𝜕𝜕𝑠𝑠𝑘𝑘 (3.26) Công thức (3.24) (3.21) xác định thủ tục đệ quy để tính δ tất nơron mạng, sau sử dụng để tính thay đổi trọng số theo cơng thức (3.20) Thủ tục quy tắc delta tổng quát dùng cho mạng truyền thẳng phi tuyến Các cơng thức nhận xác mặt tốn học, thực tế chúng có ý nghĩa gì? Liệu có cách để hiểu chất lan truyền ngược? Thực tế, tồn q trình lan truyền ngược trực quan Khi mẫu học đưa vào, giá trị kích hoạt lan truyền đến nơron tín hiệu thực mạng so sánh với tín hiệu mong muốn, thơng Nhận dạng ảnh mặt người sử dụng mạng nơron – Võ Phúc Nguyên 53 thường kết thúc với lỗi nơron Gọi lỗi eo với nơron o Mục đích phải làm cho eo Cách đơn giản để thực việc làm theo thuật toán tham lam: thay đổi kết nối mạng để eo với mẫu học Theo quy tắc delta, để giảm lỗi, trọng số chỉnh sửa theo ∆𝑤𝑤ℎ𝑜𝑜 = (𝑑𝑑𝑜𝑜 − 𝑦𝑦𝑜𝑜 )𝑦𝑦ℎ (3.27) Đó bước Nhưng chưa đủ: áp dụng quy tắc này, trọng số từ nơron vào đến nơron ẩn không thay đổi khơng có khả biểu diễn đẩy đủ mạng truyền thẳng Để chỉnh sửa trọng số từ nơron vào đến nơron ẩn, cần tiếp tục áp dụng quy tắc delta Tuy nhiên, trường hợp lại khơng có giá trị δ cho nơron ẩn Điều giải quy tắc chuỗi sau: phân tán lỗi nơron o cho tất nơron ẩn nối tới nó, theo trọng số kết nối Mỗi nơron ẩn h nhận δ từ nơron o δ nơron với trọng số trọng số kết nối nơron đó: 𝛿𝛿ℎ = ∑𝑜𝑜 𝛿𝛿𝑜𝑜 𝑤𝑤ℎ𝑜𝑜 Cần có hàm kích hoạt nơron ẩn; F’ phải sử dụng cho delta, trước việc lan truyền ngược tiếp tục Nhận dạng ảnh mặt người sử dụng mạng nơron – Võ Phúc Nguyên 54 Chương 4: Thiết kế đánh giá 4.1 Thiết kế hệ thống 4.1.1 Cơ sở liệu ảnh Trong luận văn này, ảnh liệu lấy từ sở liệu ORL (Olivetti Research Laboratory, Surrey University) Các ảnh tương đối đa dạng, thích hợp cho việc kiểm thử hệ thống Bộ ảnh chụp 40 người khác nhau, người có 10 ảnh riêng, ảnh chụp thời điểm khác nhau, với góc nghiêng khác nhau, trạng thái khác cười khơng cười, đeo kính khơng, nheo mắt, miệng mở đóng… Hình 4.1 Ảnh gốc ảnh ORL Nhận dạng ảnh mặt người sử dụng mạng nơron – Võ Phúc Nguyên 55 4.1.2 Môi trường cài đặt MATLAB sử dụng để cài đặt hệ thống tích hợp mơi trường tính tốn kỹ thuật phù hợp cho thuật toán thiết kế MATLAB ngơn ngữ lập trình bậc cao gồm nhiều hàm phục vụ cho việc phân tích hiển thị liệu cách trực quan; thực tính tốn tốn kỹ thuật; xây dựng mơ hình tính tốn; lập trình ứng dụng với giao diện đồ họa người dùng 4.1.3 Cài đặt Mã nguồn chương trình bao gồm số module mô tả bảng 4.1 Bảng 4.1 Các module chương trình Module Giải thích PCA_based.m Module nhận dạng mặt người theo phương pháp PCA LDA_based.m Module nhận dạng mặt người theo phương pháp LDA Morpho_based.m Globalvar.m Recognize.m GUI.m Module nhận dạng mặt người theo phương pháp xử lý hình thái Chứa biến tồn cục Module nhận dạng mặt người cách kết hợp ba phương pháp Cài đặt giao diện người dùng Trước thực PCA LDA, ảnh gốc ma trận hai chiều kích thước 112×92 chuyển sang biểu diễn dạng vector 10304 chiều Bộ ảnh ORL gồm 10 ảnh cho người, chương trình sử dụng ảnh cho việc huấn luyện mạng ảnh lại để kiểm thử Mỗi ảnh Nhận dạng ảnh mặt người sử dụng mạng nơron – Võ Phúc Nguyên 56 huấn luyện bổ sung ảnh dạng ảnh gương để tăng thêm đa dạng cho tập ảnh huấn luyện (hình 4.2) Hình 4.2 Ảnh gốc bổ sung ảnh gương Trong chương trình này, thực phân tích thành phần chính, vector riêng chọn tương ứng với giá trị riêng lớn 10−3, kết có 49 vector riêng chọn Trước thực LDA, ảnh gốc cần phải thực PCA để giảm số chiều liệu số chiều 10304 lớn để thực LDA Ở đây, vector riêng chọn tương ứng với giá trị riêng lớn 10−5 (số lượng vector riêng nhiều so với phương pháp PCA trên) Đối với pha xử lý hình thái ảnh, ảnh sau biến đổi thực phân tích thành phần để để giảm số chiều trước đưa vào huấn luyện mạng nơron Chương trình sử dụng ba mạng nơron riêng biệt ứng với phương pháp phân tích Phương pháp huấn luyện mạng giống phần lý thuyết trình bày, nhiên giá trị tỉ lệ học khơng cố định Trong q trình huấn luyện, lỗi mạng vượt lỗi cũ với tỉ lệ định trước, giá trị trọng số bias bỏ qua Ngoài ra, giá trị Nhận dạng ảnh mặt người sử dụng mạng nơron – Võ Phúc Nguyên 57 tỉ lệ học giảm xuống Trái lại, trọng số bias tính lại giá trị Nếu lỗi nhỏ lỗi cũ, tỉ lệ học tăng lên Ba mạng nơron ứng với ba phương pháp phân tích huấn luyện độc lập với Khi thực nhận dạng, ảnh nhận dạng biến đổi tính tốn theo phương pháp phân tích Ba giá trị kết so sánh với nhau, chọn kết phù hợp để làm kết nhận dạng hệ thống, việc so sánh dựa khoảng cách Euclide ảnh Hình 4.3 giao diện chương trình Chương trình gồm ba chức Chức Training thực huấn luyện mạng nơron Chức Recognize thực việc nhận dạng, nhấn nút Recognize, người dùng chọn ảnh cửa sổ mở ra, chương trình in ảnh lên vùng Input Image Sau nhận dạng người tương ứng, chương trình in ảnh người lên vùng Recognize Person Chức Exit chương trình Hình 4.3 Giao diện chương trình Nhận dạng ảnh mặt người sử dụng mạng nơron – Võ Phúc Nguyên 58 4.2 Kiểm thử đánh giá Trong trình xây dựng hệ thống, chương trình thực nhiều lần thử nghiệm đánh giá để chọn giá trị phù hợp tham số Những tham số quan trọng hệ thống số lượng đặc trưng trích chọn, tỉ lệ học mạng nơron số lượng nơron ẩn mạng, tham số ảnh hưởng lớn đến thời gian thực độ xác hệ thống Đối với phương pháp phân tích, việc trích chọn đặc trưng, đặc trưng có giá trị ý nghĩa khác nhau, đặc trưng chọn theo giá trị ý nghĩa giảm dần đến ngưỡng Nếu ngưỡng lớn, đặc trưng có giá trị nhỏ ngưỡng bị bỏ qua, đặc trưng quan trọng Nếu ngưỡng nhỏ, lấy hầu hết đặc trưng quan trọng, lại khiến cho thời gian thực hệ thống tăng lên, đồng thời lấy đặc trưng không quan trọng Qua nhiều thử nghiệm, giá trị ngưỡng chọn phương pháp PCA 10-3, phương pháp LDA phương pháp biến đổi hình thái 10-5 Đối với mạng nơron, tỉ lệ học tham số ảnh hưởng lớn đến hội tụ mạng Nếu tỉ lệ học lớn, mạng có độ dao động lớn trở nên không ổn định Nếu tỉ lệ học nhỏ, mạng nhiều thời gian để hội tụ Ở đây, mạng nơron, phương pháp huấn luyện mạng sử dụng với giá trị tỉ lệ học khơng cố định Trong q trình huấn luyện, lỗi mạng vượt lỗi cũ với tỉ lệ định trước (1.04) giá trị trọng số bias bỏ qua Ngoài ra, giá trị tỉ lệ học bị giảm xuống (nhân với 0.7) Trái lại, trọng số bias tính lại giá trị Nếu lỗi nhỏ lỗi cũ, tỉ lệ học tăng lên (nhân với 1.05) Nhận dạng ảnh mặt người sử dụng mạng nơron – Võ Phúc Nguyên 59 Số lượng nơron ẩn đối mạng nơron ảnh hưởng đến thời gian độ xác mạng Nếu số nơron ẩn ít, mạng thực nhanh với độ xác thấp Nếu số đơn vị ẩn nhiều, mạng thực lâu độ xác cao Tuy nhiên, số đơn vị ẩn nhiều, mạng lại trở nên thiếu xác Giá trị tối ưu số lượng nơron ẩn cho mạng nơron chọn 24 Nhận dạng ảnh mặt người sử dụng mạng nơron – Võ Phúc Nguyên 60 Kết luận Bằng cách kết hợp phương pháp phân tích thống kê phương pháp biến đổi hình thái luận văn đạt phương pháp hiệu toán nhận dạng mặt người Phương pháp PCA LDA trích chọn đặc trưng mang tính thống kê, kết hợp với phương pháp biến đổi hình thái ảnh cung cấp đặc trưng mang tính hình học khn mặt giúp hệ thống có thông tin đặc trưng tương đối đầy đủ người Đối với phương pháp phân tích, sau trích chọn, đặc trưng chuyển tới mạng nơron lan truyền ngược để huấn luyện, phương pháp có mạng riêng Các tham số trình huấn luyện số đặc trưng trích chọn, số nơron ẩn mạng, dạng hàm kích hoạt mạng lựa chọn sau nhiều thử nghiệm để có giá trị phù hợp hệ thống thời gian tính tốn độ xác Khi thực nhận dạng, ảnh đầu vào trích chọn đặc trưng, đặc trưng đưa vào mạng nơron tương ứng với phương pháp phân tích Đầu mạng người tương ứng với kết phương pháp Các kết riêng lẻ khác nhau, chúng so sánh với dựa vào khoảng cách Euclide với ảnh đầu vào, kết hệ thống kết có khoảng cách ngắn Bằng việc kết hợp vậy, hệ thống tận dụng tối đa ưu điểm phương pháp phân tích, đồng thời ưu điểm phương pháp bổ khuyết cho nhược điểm phương pháp kia, giúp hệ thống đạt hiệu tốt Mặc dù hệ thống đạt độ xác cao, nhiên cịn tỉ lệ nhỏ chưa xác hệ thống chưa đánh giá toàn đặc Nhận dạng ảnh mặt người sử dụng mạng nơron – Võ Phúc Nguyên 61 trưng mặt người Trong nghiên cứu nhằm phát triển hoàn thiện hệ thống hơn, việc nhận dạng kết hợp thêm phương pháp phân tích khác nhận dạng mắt, nhận dạng miệng hay nhận dạng mũi đặc trưng quan trọng khuôn mặt Nhận dạng ảnh mặt người sử dụng mạng nơron – Võ Phúc Nguyên 62 Tài liệu tham khảo [1] Ben Kröse, Patrick van der Smagt (1996), An introduction to Neural Networks, The University of Amsterdam [2] Kresimir Delac, Mislav Grgic (2007), “PCA and LDA based Neural Networks for Human Face Recognition”, Face Recognition, ISBN 9783-902613-03-5, I-Tech, Vienna, Austria [3] Lindsay I Smith (2002), A Tutorial on Principal Components Analysis, Cornell University, USA [4] Ethan Png (2004), Morphological Shared-Weight Neural Network for Face Recognition, University of Manchester Institute of Science and Technology [5] William K Pratt (2007), Digital Image Processing, John Wiley & Sons, Inc., Publication [6] W Zhao, R Chellappa, P J Phillips, A Rosenfeld (2003), “Face Recognition - A Literature Survey”, ACM Computing Surveys, Vol 35 (No 4) [7] http://en.wikipedia.org/wiki/Linear_discriminant_analysis [8] http://en.wikipedia.org/wiki/Moore-Penrose_pseudoinverse [9] http://en.wikipedia.org/wiki/Singular_value_decomposition [10] http://people.revoledu.com/kardi/index.html Nhận dạng ảnh mặt người sử dụng mạng nơron – Võ Phúc Nguyên Tóm tắt luận văn Luận văn trình bày phương pháp việc trích chọn đặc trưng kết hợp với mạng nơron để nhận dạng ảnh mặt người Hệ thống thực trích chọn đặc trưng mặt người từ ảnh theo ba phương pháp phân tích thành phần (PCA), phân tách tuyến tính (LDA) xử lý hình thái Sau luận văn trình bày mạng nơron với thuật toán học lan truyền ngược để huấn luyện việc phân loại giúp nhận dạng đặc trưng trích chọn Khi có u cầu nhận dạng, ảnh đầu vào trích chọn đặc trưng, đặc trưng nhận dạng qua mạng nơron huấn luyện, kết mạng riêng biệt so sánh với để đưa câu trả lời hệ thống Từ khóa: Nhận dạng ảnh mặt người, phân tích thành phần (PCA), phân tách tuyến tính (LDA), xử lý hình thái, mạng nơron với thuật toán học lan truyền ngược ... thành phần hình 1.1 Ảnh mặt người Trích chọn đặc trưng Nhận dạng mặt người Người nhận dạng Hình 1.1 Mơ hình hệ thống nhận dạng mặt người Nhận dạng ảnh mặt người sử dụng mạng nơron – Võ Phúc Nguyên... thống phát nhận dạng mặt người ngày có nhiều ứng dụng thực tế vấn đề an ninh, nhận dạng người dùng hệ thống bảo mật, nhận dạng người lái xe, hộ chiếu, nhận dạng người hệ thống tương tác người- máy,... nghĩa ảnh biểu diễn điểm khơng gian 49 chiều (hình 2.7) Nhận dạng ảnh mặt người sử dụng mạng nơron – Võ Phúc Nguyên 26 Hình 2.6 Ảnh gốc sở liệu ORL Hình 2.7 Ảnh sau biến đổi theo PCA Nhận dạng ảnh