Đồ án tốt nghiệp đại học “nghiên cứu xây dựng phần mềm nhận dạng ảnh theo thuật toán PCA, FLD”

“Nghiên cứu xây dựng phần mềm nhận dạng ảnh theo thuật toán PCA, FLD” cho đồ án tốt nghiệp LỜI NÓI ĐẦU Thế giới ngày với phát triển mạnh mẽ kỹ thuật số mạng toàn cầu, vấn đề đảm bảo an tồn thơng tin vật chất trở nên ngày quan trọng khó khăn Thỉnh thoảng lại nghe nói đến vụ đánh cắp thẻ tín dụng, đột nhập trái phép vào hệ thống máy tính hay tồ nhà quan nhà nước, phủ Hơn 100 triệu la số bị thất Mỹ vào năm 1998 vụ gian lận xâm nhập nói (theo Reuters, 1999) Trong đa số vụ phạm pháp này, tội phạm lợi dụng khe hở trình truy cập vào hệ thống thơng tin kiểm sốt Phần lớn hệ thống không thực quyền truy cập người sử dụng dựa vào thông tin “chúng ta ai” mà dựa vào “chúng ta có gì” Nói cách khác, thơng tin mà người sử dụng cung cấp cho hệ thống không đặc trưng cho thân họ, mà họ sở hữu số chứng minh nhân dân, chìa khố, mật mã, số thẻ tín dụng họ tên Rõ ràng thông tin hay vật dụng không mang tính đặc trưng mà mang tính xác thực người sử dụng, chúng bị đánh cắp hay chép kẻ trộm hồn tồn có quyền truy nhập, sử dụng liệu hay phương tiện lúc họ muốn Nhận dạng khn mặt số phương pháp nhận dạng dựa vào đặc trưng sinh lý cho kết xác cao đồng thời thuận tiện sử dụng Hơn nữa, số đặc trưng sinh lý học, khuôn mặt người yếu tố quan trọng cho việc nhận biết lẫn biểu đạt cảm xúc Khả nhận dạng nói chung khả nhận biết khn mặt người nói riêng người thật đáng kinh ngạc Chúng ta có khả nhận hàng ngàn khn mặt người gặp, giao tiếp sống nhìn thống qua, chí sau nhiều năm khơng gặp thay đổi khuôn mặt tuổi tác, cảm xúc, trang phục, mầu tóc,…Do đó, việc nghiên cứu đặc tính khn mặt người thu hút nhiều nhà triết học, nhà khoa học qua nhiều kỷ, có Aristotle Darwin Chính lý trên, từ năm 1970, nhận dạng mặt người thu hút quan tâm nhiều nhà nghiên cứu lĩnh vực bảo mật, tâm lý học, xử lý ảnh thị giác máy tính Nhằm nâng cao hiểu biết lĩnh vực nhận dạng mặt người nói riêng kỹ thuật xử lý ảnh nói chung em nhận đề tài: “Nghiên cứu xây dựng phần mềm nhận dạng ảnh theo thuật toán PCA, FLD” cho đồ án tốt nghiệp Đề tài đặt với mục tiêu: Nghiên cứu hai phương pháp Principal Component Analysis – PCA, Fisher’s Linear Discriment – FLD áp dụng cho toán nhận dạng ảnh khuôn mặt người xây dựng ứng dụng nhận dạng ảnh mặt người theo hai phương pháp Nội dung đồ án tốt nghiệp chia thành chương, phụ lục: Chương 1: Một số vấn đề xử lý ảnh Giới thiệu khái niệm ảnh số, điểm ảnh, biểu diễn ảnh, ảnh xám, ảnh mầu, cách biến đổi ảnh xám Chương 2: Lý thuyết PCA, FLD Giới thiệu nội dung hai phương pháp PCA FLD đưa kết luận chung hai phương pháp Trong phần Em giới thiệu kiến thức toán học liên quan phương pháp thống kê toán nhận dạng mẫu, phép biến đổi tuyến tính, ma trận hiệp sai đặc trưng Chương 3: Bài tốn nhận dạng ảnh mặt người Giới thiệu toán nhận dạng ảnh mặt người Nhận dạng ảnh gì, bước trình nhận dạng, nghiên cứu trước toán nhận dạng ảnh mặt người, đưa khó khăn tốn nhận dạng ảnh mặt người Áp dụng thuật toán PCA FLD cho toán nhận dạng ảnh mặt người Chương 4: Cài đặt chương trình nhận dạng ảnh mặt người Cài đặt chương trình đồng thời thể bước trình nhận dạng giới thiệu ứng dụng xây dựng, cách sử dụng Kết luận Những kết luận chung đồ án, hướng phát triển đề nghị Phụ lục 1,2: Các cơng thức tốn học dùng báo cáo, kết chứng minh toán học cho kết luận Trong trình nhận thực đồ án Em xin chân thành cám ơn thầy giáo PGS.TS thầy cô khoa Công Nghệ Thông Tin tận tình giúp đỡ để Em hồn thành đồ án tốt nghiệp CHƯƠNG : MỘT SỐ VẤN ĐỀ CƠ BẢN VỀ SỬ LÝ ẢNH SỐ 1.1 Một số khái niệm  Pixel (picture element - điểm ảnh ) Ảnh thực tế ảnh liên tục không gian giá trị độ sáng Quá trình thu nhận ảnh số q trình số hố ảnh Đó trình biến đổi tín hiệu liên tục thành tín hiệu rời rạc Một ảnh số hoá tập hợp điểm ảnh, biểu diễn mảng chiều I(n,p) n- số dịng, p- số cột Ta nói ảnh gồm nxp điểm ảnh, ký hiệu I(x, y) giá trị điểm ảnh vị trí dịng y cột x  Ảnh đen trắng, ảnh đa mức xám, ảnh màu  Ảnh đen trắng, ảnh đa cấp xám: gồm màu (đen, trắng), người ta phân mức độ (L) đen trắng sau: +L=2: ảnh gồm mức, mức ứng với màu tối, mức ứng với màu sáng Ảnh gọi ảnh nhị phân Mỗi điểm ảnh mã hoá bit +L>2: Ảnh đa mức xám, việc xác định số mức phụ thuộc vào tiêu chuẩn lượng hoá, L thường chọn 32, 64, 126, 256 Thường sử dụng mức 256, điểm ảnh mã hoá bit (28= 256)  Ảnh màu ảnh tổ hợp từ màu bản: Red (đỏ), Green (xanh lục), Blue (xanh lơ) Mỗi điểm ảnh gồm thành phần màu bản:R, G, B Mỗi màu phân thành L cấp khác (L thường 256) Như để lưu trữ ảnh màu ta phải lưu trữ lớp màu ảnh, lớp màu tương đương với ảnh đa cấp xám Do khơng gian lưu trữ ảnh màu lớn gấp lần so với khơng gian lưu trữ ảnh xám kích thước 1.2 Biểu diễn ảnh Ảnh số đa mức xám biểu diễn ma trận chiều f(x,y) phần tử giá trị điểm màu ảnh f(0,1) f(0, N - 1)  f (0,0) f(1,0) f(1,1) f(1, N - 1)    f ( x, y ) =     f(M - 1, 0) f(M - 1,1) f(M - 1, N - 1) Như ta có ảnh kích thước 800x600 biểu diễn thành ma trận chiều có số hàng 600, số cột 800, phần tử ma trận có giá trị từ 0-255 Đối với ảnh màu, phần tử mảng chiều giá trị RGB Phần tử f(i,j) ma trận có dạng f(i, j)=(B(i, j), G(i, j), R(i, j)) Giá trị điểm ảnh điểm (i, j) tính: f(i,j) = h (B(i, j), G(i, j), R(i, j))= B(i,j)*2562 + G(i, j)*256 + R(i, j) Mơ hình RGB: Hệ mơ tả màu sắc thông qua thành phần màu Red, Green Blue Có thể mơ xem xét mơ hình RGB khơng gian chiều hình 1.2.1 Mọi điểm nằm khối hộp chữ nhật có toạ độ (r,g,b) thể màu Màu nằm đường chéo (0,0,0) - (1,1,1) (3 thành phần R, G, B nhau) ->thể mức xám Blue=(0,0,1) Cyan=(0,1,1) Magenta=(1,0,1) White=(1,1,1) Green=(0,1,0) Black=(0,0,0) Red=(1,0,0) Yellow=(1,1,0) Hinh 1.2.1 - Mơ hình màu RGB Ví dụ ma trận biểu diễn ảnh màu kích thước 3x3 sau (128, 0, 0) (0, 255,255) (255, 0, 0)  (200, 0, 255) (255, 255, 255) (100, 100, 100) f ( x, y ) =   (128, 128, 255) (0, 0, 0) (255, 0, 255)    1.3 Biến đổi ảnh xám Thông thường ảnh gặp thực tế ảnh mầu gồm thành phần (R,G,B) trình nhận dạng mà ta dung thành phần mầu kích thước ảnh nhận dạng q lớn điều đặt ta tìm phép biến đổi cho đưa ảnh biểu diễn dạng toán học thuận tiện cho trình nhận dạng Phép biến đổi xám đưa điểm ảnh mầu thành phần thành phần theo công thức: Gray(i,j) = (byte)(114 * B(i,j) + 587 * G*(i,j) + 299 * R(i,j) / 1000; Giá trị tính thong qua tỷ lệ đặc trưng mầu mà giữ đặc trưng ảnh Ta nhận thấy kích thức mẫu cần nhận dạng 1/3 đơí với ảnh mầu Như ảnh mầu MxN đưa ma trận(MxN) mức xám Gray(i,j) với 0> X2=[8 11 12]; >> std(X1) ans = 8.326 >> std(X2) ans = 1.8257 Hình 2.1.1.2 Độ lệch chuẩn tập Như phần tử X2(Xanh) gần giá trị Mean X1(Đỏ) Khi s = tất phần tử tập giá trị Mean  Phương sai: (Variance)Kí hiệu s có độ lớn bình phương độ lệch chuẩn, có ý nghĩa độ lệch chuẩn n s2 = ∑( X i =1 i − X) (2.4) n −1 2.1.2 Hiệp sai, ma trận hiệp sai  Hiệp sai: Hai đại lượng Mean SD (Variance) làm việc với liệu chiều thực tế ta thường gặp với liệu nhiều chiều khái niệm Hiệp sai Covariance đưa phân tích thống kê cho ta biết mối quan hệ chiều Xét liệu chiều : X = [ x1 , x2 , , xn ] , Y = [ y1 , y2 , , yn ] 10 Nguyễn Thanh Thuỷ & Lương Mạnh Bá, Nhập môn xử lý ảnh số, Nhà xuất khoa học kỹ thuật, Hà nội 2003 Athony Giordano & Michael Uhrig, Human Face Recognition Technology Using the Karhunen-loeve Expansion Tecnique, University, Denver Colorado Josef Bigun, Vision with direction a systematic introduction to image processing and computer vision, Spinger 2006 Keinosuke Fugunaga, Introduction to statistical pattern recognition, West Lafayette, Indiana, 1990 http:// www.codeproject.com http:// www.sourceforge.net www.uk.research.att.com/pub/data/att_faces.zip 54 PHỤ LỤC Các cơng thức tốn học dùng báo cáo: Cho ma trận A(MxN) (0) Trace(A) = tr(A) = (1) A ∑A i ii n = ∑ Aij với ≤ i ≤ M ,0 ≤ j ≤ N j =1 n (2) A = ∑ aij Aij với ≤ i ≤ n j =1 (3) Cho A[1xN] vector N A, A = A A = ∑ Ai = A T - Là đại lượng vô hướng độ lớn A i =1 Một số cơng thức tính đạo hàm với Trace (4) d d tr ( AB ) = tr ( BA ) = BT ( B : mxn ) dA dA (A.11) (5) d d tr ( AT B ) = tr ( BAT ) = B ( B : nxm ) dA dA (A.12) (6) d tr AT RA = R + RT A dA (A.13) (7) d tr AT RA = AT R + RT T dA ( ) ( ( ) ) ( {( ) ( ) ( R + R ) ( A SA) d tr AT SA (8) dA = − SA AT SA −1 −1 } R = { ) (A.14) d tr R AT SA dA T ( T 55 −1 ) −1 } (A.15) {( )} {( } −1 −1 d d tr AT S A AT S1 A = tr AT S1 A AT S A dA dA −1 −1 d d T (9) = tr A1T S A1 AT S1 A | A1 = A + tr AT S A A2 S1 A2 dA1 dA2 ) ( {( ) ( ( ) ( A S A) ( A S A) = −2 S A AT S A −1 T )} T )( {( −1 ) ) ( ( + 2S1 A AT S A ) )} | A2 = A (A.16) −1 (A.16) : (10) −1 ( S S A = A A S2 A T ) ( A S A) −1 T 56 (A.17) PHỤ LỤC Bổ đề Cho ma trận A AT*A đối xứng Chứng minh : Giả sử A = (V V V ) Với vi : i = n ÷ n vector cột Thì :  T V ÷  T÷ V ÷ T A =  ÷  ÷  ÷  T÷ V n ÷   Vậy phần tử phần tử ji th ij th T AT*A : V i *V j = T AT*A : V j *V i = Như giá trị hai phần tử ij th , 〈V i ,V j 〉 〈V j ,V i〉 = 〈V i ,V j 〉 ji th Vậy AT*A ma trận đối xứng Bổ đề Cho ma trận đối xứng A, vector riêng không gian riêng khác luôn trực giao Chứng minh: Giả sử xa, xb hai vector riêng A ứng với hai trị riêng khác λ b λ T a * xa.xb = ( A x a) x = x * A * x = x T b T T a b a * A * xb x *λ * x T = a b b = λ b xa.xb Vậy ta có : ( λ a - λ b )xa.xb = Vì λ -λ a b ≠ xa.xb = xa,xb trực giao 57 λ a , Bổ đề Các trị riêng AT*A không âm số thực Chứng minh : Giả sử xa vector đơn vị riêng AT*A tương ứng với trị riêng λ a thì: Ax a T = ( A x a) ( A xa ) xaTAT A xa = xaT( λ a xa) = xaTxa = xa vector λ a λ a = λ a A, ln thực khơng âm Bổ đề 4: Trị riêng Trị riêng ma trận A độ lớn Ax, với x vector riêng ATA đặt tập trị riêng A : σ ,σ … σ n Theo bổ đề thi: trị riêng bậc trị riêng A TA λ a = σ a Bổ đề : Nếu A(n*n) có n trị riêng thực tồn ma trận U với cột trực giao mà UTAU ma trận tam giác Chứng minh: Giả sử A có n trị riêng thực ( λ1 … λ n ) ứng với n vector riêng (x 1…xn), ta biết không gian riêng tương ứng với vector riêng Đặt vector vector đơn vị Giả sử v = x1 tương ứng với trị riêng λ Ta dung vector để xây dựng sở trực giao Rn để thực điều này, ta xây dựng n-1 vector độc lập tuyến tính v1 qua q trình Gram-Schmidt gọi tập vector {w1…wn-1} Xây dựng ma trận U1 = ( v w w 1 n −1 ) W == ( w1 wn−1 ) 58 Bước để đưa ma trận tam giác ta xây dựng B B = U1TAU1 v T     T   w1     ( A)  v1  B =          T   wn −1  w w ) n −1 v T     T   w1      Av1  B =          T   wn −1  A w1 v T     T   w1      λ1 v1  B =          T   wn −1  Aw Aw ) n −1 n −1 λ v v v ( Av ) v ( Aw λ w v w AW λ w v B= Aw ) 1 1 1 ) n −1 T n −1 Vì v1 vector đơn vị trực giao với cột W lên ta có 59 T   λ1 v1 AW B=  T  w AW       Ta chứng minh trị riêng ma trận B trùng với trị riêng ma trận A Thật xét phương trình đặc trưng Char(U1TAU1) = det(U1TAU1 - λI ) = det(U1TAU1 – U1T λ U1) U1TU1 = I = det(U1T(A- λ I)U1) = det(U1T)det(A- λ I)det(U1) = det(U1TU1)det(A- λ I) = det(I)det(A- λ I) = det(A- λ I) = char(A) Vậy B A có tập trị riêng ( λ1 … λ n ) ma trận T w AW phải có n-1 trị riêng ( λ … λ n ) ta đặt v2 vector đơn vị riêng ứng với λ T w v y y Rn-1, ( AW Vector dung để xây dựng sở trực giao n−2 ) Ta xây dựng ma trận U2  1 U2=   o  v y     y n −2   Để thuận tiện cho trình tính tốn ta đặt ma trận Y (n-1*n-2) với cột ( y y n −2 ) Ta xây dựng 60         1 T U2 BU2 =      o              U2TBU2 =              U2TBU2 =      v y T T y λ o T n−2 T v AW  T  v2   T   y1  T  W  T  y   n−2         T   λ1 v1 AW     wT AW                 1   o    AW         T λ1 v1 AW    T  o  λ v2  T T y w AW   61 v v v  1   o   y y     y n −2   y     y n −2       y n −2        λ1 U2TBU2 =            λ1 U2TBU2 =          T T  v1 AW v2 v1 AWY   T  λ λ v2 Y  T T T y λ v2 y w AWY       T T  v1 AW v2 v1 AWY   T Y  λ λ v2  T T  y w AWY   Tương tự lý luận phần ma trận YTWTAWT có trị riêng ( λ … λ n ) Lặp lại trình ta thu ma trận tam giác Với kết cuối dạng : UnT…U1TAU1…Un Đặt U = U1…Un UT = UnT…U1T Vậy ta thu UTAU ma trận tam giác Bổ đề : Nếu A ma trận đối xứng UTAU ma trận đối xứng Chứng minh : Thật Ta có : (UTAU)T = UTAT(UT)T = UTAU UTAU ma trận đối xứng Bổ đề 7: (x1, x2, …xn) sở trực giao Rn bao gồm vector riêng ATA, vector riêng tương ứng với trị riêng ATA ( λ1 … 62 λ n ) Bây giả sử ATA có r trị riêng khác tập vector (Ax 1, Ax2,…,Axr) sở trực giao cột A Chứng minh: Axa, Axb trực giao Với a ≠ b: (Axa).( Axb) = (Axa)T(Axb) = xaTATAxb = λ b xa.xb = Axa Axb trực giao Là sở Ta có (Ax1, Ax2,…,Axr) sở trực giao theo Định lý Ax a = λ a >0 với (0