Tìm kiếm và nhận dạng khuôn mặt người trong ảnh

ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC CÔNG NGHỆ o0o PHẠM TRUNG KIÊN TÌM KIẾM VÀ NHẬN DẠNG KHUÔN MẶT NGƯỜI TRONG ẢNH LUẬN VĂN CAO HỌC NGƯỜI HƯỚNG DẪN KHOA HỌC: PGS.TS NGÔ QUỐC TẠO Hà Nội - 2007 MỤC LỤC MỞ ĐẦU Chương PHÁT BIỂU BÀI TOÁN 1.1 Tổng quan khái niệm liên quan đến nhận dạng khuôn mặt 1.1.1 Hệ thống sinh trắc học 1.1.2 Hệ thống nhận dạng khuôn mặt 1.1.3 Hệ thống xác minh hay xác thực khn mặt gì? 1.1.4 Hệ thống nhận dạng tĩnh - tĩnh, tĩnh - động, động - động 10 1.1.4.1 1.1.4.2 1.1.4.3 Hệ thống nhận dạng tĩnh - tĩnh 10 Hệ thông nhận dạng tĩnh - động 10 Hệ thống nhận dạng động - động 10 1.1.5 Những thách thức toán nhận dạng khuôn mặt 10 1.1.6 Sai số hệ nhận dạng [20] 10 1.2 Các ứng dụng tương tác người máy (Human computer interactive) liên quan đến khuôn mặt 11 1.3 Các hướng tiếp cận lĩnh vực nhận dạng khn mặt 13 1.3.1 Các cơng trình nghiên cứu phương pháp nhận dạng kiểm chứng chất lượng cho hệ thống nhận dạng khuôn mặt 13 1.3.2 Hướng tiếp cận thử nghiệm luận văn 15 Chương DỊ TÌM KHN MẶT TRONG ẢNH MÀU 16 2.1 Giới thiệu 16 2.1.1 Các thách thức việc dị tìm khn mặt 16 2.1.2 Một số hướng tiếp cận thường dùng dò tìm khn mặt nhanh 17 2.2 Tìm kiếm khuôn mặt người ảnh dựa màu da 18 2.2.1 Giới thiệu [16] 18 2.2.2 Dị tìm da ảnh màu 19 2.2.2.1 2.2.3 2.2.3.1 2.2.4 2.2.4.1 2.2.4.2 2.2.5 2.2.5.1 2.2.5.2 2.2.5.3 2.2.6 Mơ hình hóa da 20 Khơng gian màu cho mơ hình da 23 Phân tách vùng da không gian màu rg 25 Xác định vùng da sử dụng entropy 28 Khái niệm entropy 28 Phát màu da mơ hình Entropy cực đại 29 Định vị khuôn mặt bên vùng da 35 Giới thiệu 35 Định vị vùng khả mặt 36 Ra định sử dụng đối sánh mẫu 39 Kết luận tìm kiếm khuôn mặt dựa màu da 41 Chương RÚT TRÍCH ĐẶC TRƯNG TỪ KHUÔN MẶT 42 Tiếp cận theo phương pháp phân tích thành phần (Principal Component Analysis hay PCA) 42 3.1.1 Vector riêng, Trị riêng chéo hoá ma trận 42 3.1.2 Kì vọng phương sai thống kê đa chiều 43 3.2 Phương pháp phân tích thành phần (Principal Component Anlysis hay PCA) 43 3.2.1 Yêu cầu 43 3.2.2 Trích đặc trưng phương pháp PCA 44 3.2.3 Kỹ thuật tính đặc trưng PCA 46 3.3 Phương pháp PCA toàn cục cục 48 3.3.1 Phương pháp PCA toàn cục 48 3.3.2 Phương pháp PCA cục 48 3.4 Đánh giá 49 3.4.1 Mộ số đánh giá quan trọng rút trích đặc trưng phương pháp PCA 49 3.4.2 So sánh phương pháp PCA toàn cục PCA cục 49 3.1 Chương MƠ HÌNH MAKOV ẨN VÀ ỨNG DỤNG NHẬN DẠNG KHN MẶT 50 4.1 Giới thiệu mơ hình Makov ẩn 50 4.1.1 Mơ hình Markov 50 4.1.2 Mơ hình Markov ẩn [19] 51 4.1.2.1 4.1.2.2 4.1.2.3 4.1.2.4 Mơ hình Markov ẩn nhận dạng mặt người 58 4.1.3 4.1.3.1 4.1.3.2 4.1.3.3 4.1.3.4 4.1.3.5 4.1.3.6 4.1.3.7 4.2 Xác suất chuỗi quan sát 52 Dãy trạng thái tối ưu 54 Hiệu chỉnh tham số mơ hình 55 Khoảng cách mơ hình Markov ẩn 55 Ý tưởng 58 Mơ hình Markov ẩn biểu diễn ảnh mặt 59 Trích chọn đặc trưng 60 Luyện mơ hình mặt 64 Nhận dạng khuôn mặt người ảnh 66 Tìm kiếm khn mặt người ảnh 67 Các dạng mơ hình Markov ẩn mơ tả khuôn mặt 69 Kết chương 70 KẾT LUẬN 71 TÀI LIỆU THAM KHẢO 72 DANH MỤC CÁC HÌNH Hình 1-1 So sánh hai tác vụ nhận dạng khuôn mặt xác nhận khuôn mặt Hình 1-2 Hình biểu diễn hàm FRR FAR 11 Hình 2-1 Ảnh màu với da kết dị tìm da 18 Hình 2-2 Mẫu da người khác 19 Hình 2-3 Mẫu da bị ảnh hưởng loại nhiễu biến dạng 19 Hình 2-4 Những mạng SOM với hệ thống khu lân cận 21 Hình 2-5 Phân phối màu cho màu da khác 27 Hình 2-6 Biểu diễn mơ hình màu da phân phối Gauss 27 Hình 2-7 Đường cong entropy biểu diễn biến ngẫu nhiên 29 Hình 2-8 điểm lân cận điểm lân cận 30 Hình 2-9 Một ảnh mẫu từ tập phân phối thỏa mãn D, có lượng cực tiểu 33 Hình 2-10 Hình (a): ảnh gốc, hình (b): Baseline, hình (c): HMM, 35 Hình 2-11 Khn mặt mẫu Chang Robles 39 Hình 2-12 Khn mặt mẫu tổng hợp 39 Hình 2-13 Khn mặt mẫu điều chỉnh kích thước 40 Hình 2-14 Khn mặt mẫu xoay điều chỉnh lại kích thước 40 Hình 4-5 Tính hội tụ khoảng cách HMM độ dài chuỗi quan sát tăng 58 Hình 4-6.(a) Mơ hình ergodic trạng thái (b) Mơ hình trái - phải trạng thái 59 Hình 4-7 Mơ hình mặt trạng thái 60 Hình 4-8 Ảnh mặt phương pháp trích chọn khối quan sát 61 Hình 4-9 Chiến lược huấn luyện mơ hình Markov ẩn cho biểu diễn khn mặt 66 Hình 4-10 Nhận dạng mặt sử dụng mơ hình Marov ẩn 67 Hình 4-11 Tìm kiếm khn mặt sử dụng mơ hình Markov 68 Hình 4-12 Mơ hình Markov ẩn nhúng với siêu trạng thái 70 BẢNG CÁC TỪ VIẾT TẮT Kí hiệu Từ Tiếng Anh Civil Giải thích Aviation Tổ chức Hàng khơng Dân dụng Quốc tế ICAO International Organization FAR False Acceptance Rate FMR False Match Rate FRR False Reject Rate FNMR False Non Match Rate TAR True Accpetance Rate Độ xác PCA Principal Component Analysis Phân tích thành phần HMM Hidden Markov Model Mơ hình Markov ẩn LDA Linear discriminant analysis Phân tích độc lập tuyến tính KLT Karhunen-Loève transform Phép biến đổi Karhuen-loeve DCT Discrete cosine transform Phép biến đổi Cosin rời rạc ORL Olivetti Research Laboratory PDF probability density function Sai số bắt nhầm Sai số bỏ sót hàm mật độ xác suất MỞ ĐẦU  Ngày nay, với tiến vượt bậc khoa học kỹ thuật nói chung, mơn khoa học xử lý ảnh thu thành tựu lớn lao chứng tỏ vài trị khơng thể thiếu với ứng dụng sâu rộng khoa học kỹ thuật đời sống xã hội Một phận khoa học xử lý ảnh lĩnh vực thị giác máy tính thu hút nhiều quan tâm nhà nghiên cứu xử lý ảnh với mục tiêu xây dựng nên giới hệ thống thị giác kỳ diệu người mơ hệ thống máy tính, đem lại khả cảm nhận thị giác cho hệ thống môi trường xung quanh Mơ ước hệ thống máy tính hồ nhập vào giới người với đầy đủ giác quan thị giác đóng vai trị quan trọng thực hố với đóng góp nghiên cứu nhà khoa học phạm vi toàn giới Đồng thời việc phát triển thiết bị phần cứng phương diện thu nhận, hiển thị, tốc độ xử lý mở nhiều hướng cho cơng nghệ xử lý ảnh Nó giải tốn giám sát tự động phục vụ quan, ngân hàng, kho bạc, việc giám sát giao thông tự động, phục vụ bãi đỗ xe, trạm thu phí tự động việc phát nhận dạng mặt người phục vụ công tác quân sự, an ninh v.v Đặc biệt lĩnh vực nhận dạng sinh trắc học, sau kiện 11/9/2001, việc nghiên cứu đưa vào ứng dụng thực tế lĩnh vực nhận dạng sinh trắc nhà khoa học phủ nhiều nước trọng Đơn cử kể tới hệ thống kiểm soát (tự động) cửa vào /ra Mỹ, Úc, khối EU số nước châu Á (Singapore, Thái Lan, ) xử dụng thông tin sinh trắc vào q trình kiểm sốt xác định thật giả giấy tờ người Cho đến nay, theo Tổ chức hàng không dân dụng giới - ICAO cho biết có khoảng 34 quốc gia áp dụng việc đưa thông tin sinh trắc vào hộ chiếu để chống làm giả dùng kiểm soát tự động biên giới Trong đó, thơng tin ảnh mặt thông tin bắt buộc dùng để đối sánh nhận dạng phương pháp nhận dạng ảnh mặt thường cho chất lượng chưa cao phương pháp sử dụng đặc điểm sinh trắc khác vân tay tròng mắt ảnh mặt thu nhận thường bị ảnh hướng lớn nhiễu, đặc biệt môi trường chất lượng thiết bị thu nhận hình ảnh song ảnh mặt đặc điểm sinh trắc mà ta thu nhận cách nhanh chóng dễ dàng (sử dụng camera quan sát tự động) Tại Việt Nam, việc ứng dụng thông tin sinh trắc vào giấy tờ (hộ chiếu, chứng minh thư, ) tích cực nghiên cứu để đưa vào ứng dụng (hộ chiếu điện tử dự kiến thử nghiệm năm 2008) Từ lý trên, chọn đề tài luận văn: “Tìm kiếm nhận dạng khuôn mặt người ảnh” Bố cục luận văn gồm: Chương 1: Phát biểu toán Nêu lên số khái niệm liên quan đến nhận dạng khuôn mặt; ứng dụng tương tác người máy liên quan đến nhận dạng khuôn mặt; điểm qua số phương pháp nhận dạng khuôn mặt nghiên cứu cải tiến thời gian gần Chương 2: Dị tìm khuôn mặt người ảnh màu Giới thiệu số phương pháp dị tìm khn mặt người dựa màu da Chương 3: Rút trích đặc trưng từ khn mặt người Trình bày phương pháp phân tích thành phần PCA (Principal Component Analysis) rút trích đặc trưng từ ảnh đầu Chương 4: Mơ hình Markov ẩn ứng dụng nhận dạng khn mặt Giới thiệu mơ hình Markov ẩn, số tốn mơ hình Markov ứng dụng mơ hình nhận dạng khuôn mặt người Chương 5: Kết luận Chương PHÁT BIỂU BÀI TOÁN 1.1 Tổng quan khái niệm liên quan đến nhận dạng khuôn mặt 1.1.1 Hệ thống sinh trắc học Hệ thống sinh trắc học hệ thống thiết kế để xác minh nhận dạng người dựa vào đặc trưng sinh học người 1.1.2 Hệ thống nhận dạng khuôn mặt Hệ thống nhận dạng khuôn mặt hệ thống thiết kế để tìm thơng tin người Kĩ thuật nhận dạng kiểm tra phù hợp dựa phép so sánh một-nhiều cụ thể tìm người số người lưu trữ hệ thống dựa vào thông tin khuôn mặt 1.1.3 Hệ thống xác minh hay xác thực khn mặt gì? Hệ thống xác minh/xác thực khuôn mặt hệ thống thiết kế để xác minh thông tin người Kĩ thuật xác minh kiểm tra phù hợp phép so sánh một-một cụ thể đối chiếu thông tin nhận người với thông tin lưu trữ người có khớp hay khơng dựa thơng tin khn mặt Hồn tồn khơng biết thơng tin Đã biết trước thơng tin ngưịi ? Đây Hùng phải không? Hùng Kết Xác minh người (verification) Kết Nhận dạng người (identification) Đúng / sai Hình 1-1 So sánh hai tác vụ nhận dạng khuôn mặt xác nhận khuôn mặt 1.1.4 Hệ thống nhận dạng tĩnh - tĩnh, tĩnh - động, động - động 1.1.4.1 Hệ thống nhận dạng tĩnh - tĩnh Hệ thống nhận dạng tĩnh - tĩnh hệ thống thiết kế cách sử dụng số ảnh tĩnh làm mẫu để nhận dạng khuôn mặt người ảnh tĩnh Kỹ thuật nhận dạng kiểm tra phù hợp dựa phép so sánh - nhiều hệ thống nhận dạng nói chung 1.1.4.2 Hệ thông nhận dạng tĩnh - động Hệ thống nhận dạng tĩnh - động hệ thống thiết kế cách sử dụng số ảnh tĩnh làm mẫu để nhận dạng khuôn mặt người ảnh động Kỹ thuật nhận dạng kiểm tra phù hợp dựa phép so sánh - nhiều hệ thống nhận dạng nói chung trên, song ảnh cần kiểm tra khung ảnh động đoạn phim từ máy camera Kỹ thuật dĩ nhiên khơng thể xác chuyển động mặt người đoạn phim phức tạp song thể ảnh tĩnh để huấn luyện lại 1.1.4.3 Hệ thống nhận dạng động - động Hệ thống nhận dạng động - động hệ thống thiết kế cách sử dụng ảnh động làm mẫu để nhận dạng khuôn mặt người ảnh động Kỹ thuật nhận dạng kiểm tra phù hợp dựa phép so sánh - nhiều hệ thống nhận dạng nói chung Tuy nhiên, kỹ thuật xác kỹ thuật sử dụng hệ thống nhận dạng tĩnh - động chuyển động phức tạp khuôn mặt người huấn luyện khung ảnh động 1.1.5 Những thách thức toán nhận dạng khuôn mặt Những biến đổi lớn ảnh khuôn mặt khác từ người cần nhận dạng gồm trạng thái cảm xúc khuôn mặt, ánh sáng, thay đổi vị trí khn mặt vv Giới hạn số ảnh cần thiết cho việc nhận dạng, tập học bao quát tất biến đổi có khn mặt người cần nhận dạng giới thực 1.1.6 Sai số hệ nhận dạng [20] Hệ nhận dạng sinh trắc ln có sai số nói cách khác khơng thể xác tuyệt đối Độ xác (đối sánh 1:1, 1:N) phụ thuộc nhiều yếu tố, ví dụ thơng tin sinh trắc (Sample data), thân thuật tốn trích chọn đặc điểm (enrollment) thuật tốn đối sánh (matcher), kích cỡ CSDL - miền đối sánh Có đại lượng dùng để đo lường sai số hệ nhận dạng sinh trắc: 10  Sai số bắt nhầm – FAR (False Acceptance Rate) có tài liệu gọi FMR (False Match Rate)  Sai số bỏ sót – FRR (False Reject Rate) có tài liệu gọi FNMR (False Non Match Rate) Độ xác – TAR (True Accpetance Rate) dẫn xuất FRR  TAR = - FRR FAR FRR hàm số t – ngưỡng xét trùng  FAR(t)  FRR(t)  ERR điểm mà FRR = FAR Hình 1-2 Hình biểu diễn hàm FRR FAR Để đánh giá chất lượng hệ thống nhận dạng mặt người cách khách quan cần:  Số cá nhân đối sánh đủ lớn  Đo với CSDL đủ lớn 1.2 Các ứng dụng tương tác người máy (Human computer interactive) liên quan đến khuôn mặt Từ năm 1990 trở lại đây, chứng kiến phát triển vũ bão ngành công nghiệp, đặc biệt ngành công nghiệp chế tạo điện tử Tuy nhiên thiết bị điện tử cao cấp máy ảnh số, camera kĩ thuật số, nhiều sản phẩm khác dường phù hợp cho phịng thí nghiệm, cơng ty 11 Dựa cấu trúc mơ hình trên, nhận xét mơ hình trái- phải mơ hình có thuộc tính thích hợp để mơ trình ngẫu nhiên mà trạng thái chúng thay đổi tuấn tự theo thứ tự thời gian Khn mặt người nhận xét có đặc điểm thành phần chủ yếu tóc, trán, mắt, mũi, miệng cằm xếp từ xuống theo thứ tự tự nhiên Ngay số ảnh chụp khuôn mặt có nghiêng lượng nhỏ thứ tự khơng thay đổi Chính thứ tự xuất phần tử chủ yếu cách đem lại ý tưởng lựa chọn mơ hình trái phải để mô khuôn mặt Cấu trúc HMM trái phải chiều với trạng thái tương ứng với thành phần chủ yếu khuôn mặt lựa chọn với tham số:  Số lượng trạng thái 6, tương ứng với thành phần tóc, trán, mắt, mũi, miệng cằm  Tập chuyển trạng thái phép với giá trị tương ứng ma trận chuyển lớn  Tập quan sát sinh trạng thái Mô hình minh hoạ hình sau: Hình 4-7 Mơ hình mặt trạng thái 4.1.3.3 Trích chọn đặc trưng Mặc dù mơ hình Markov ẩn chọn có khả mơ q trình ngẫu nhiên chiều ảnh mặt lại trường ngẫu nhiên hai chiều số trường hợp cụ thể trường hai chiều với phần tử giá trị điểm ảnh Như vậy, cần phải có phương pháp để xử lý liệu đầu vào thành chuỗi quan sát mà lý thuyết mơ hình Markov ẩn theo yêu cầu tốn bản, tảng ứng dụng mơ hình Markov ẩn Trong ứng dụng xử lý ảnh, đối tượng thao tác thường dãy điểm ảnh lấy từ ảnh ban đầu thông qua phép xử lý Trong trường hợp mơ hình hố khn mặt ảnh mơ hình Markov ẩn, biểu tượng quan sát vectơ tính toán từ dãy điểm ảnh lấy trực tiếp từ ảnh đầu vào Với ảnh mặt mô hình hố mơ hình Markov, đặc trưng ảnh khối điểm ảnh nằm gối lên trích từ ảnh Mỗi khối bao gồm 60 số hàng điểm ảnh, hàng sau trích xếp lại tạo thành dãy chiều điểm ảnh Trong số cơng trình thực hiện, toàn dãy điểm ảnh sử dụng vectơ quan sát Giá trị thành phần giá trị cường độ sáng điểm ảnh giá trị mức xám ảnh đa mức xám điểm ảnh Cách tiếp cận khiến cho kích thước vectơ quan sát trở nên lớn, gây khả bị ảnh hưởng nhiễu ảnh làm giảm hiệu tính tốn hệ thống giá trị điểm ảnh thực không biểu diễn đặc trưng mạnh giá trị điểm ảnh nhạy cảm với nhiễu ảnh phép quay,dịch chuyển thay đổi độ chiếu sáng Một số cách làm khác đưa để xây dựng tập vectơ quan sát từ dãy điểm ảnh có sử dụng đại lượng phép biến đổi Cô-sin hai chiều (DCT) đại lượng phép biến đổi Karhunen Loeve (KLT) Hai cách làm thực có hiệu đặc biệt khả giảm ảnh hưởng nhiễu, giảm đáng kể kích thước vectơ quan sát thơng qua việc loại bỏ thành phần chứa thông tin ảnh Phương pháp mô tả chương sử dụng đại lượng phép biến đổi KL để xây dựng vectơ quan sát sử dụng huấn luyện mơ hình Markov ẩn để tìm kiếm nhận dạng khuôn mặt người ảnh Các bước thực trình bày phần  Trích chọn khối điểm ảnh Một ảnh đầu vào kích thước W x H điểm ảnh với W chiều rộng H chiều cao ảnh chứa khuôn mặt bên (điều với ảnh mẫu), khối điểm ảnh L hàng trích sử dụng để tạo nên quan sát Hình vẽ sau mơ tả cách lấy khối quan sát Hình 4-8 Ảnh mặt phương pháp trích chọn khối quan sát Các khối quan sát kề cận thường gối lên số P hàng Việc gối hàng cho phép đặc tính tìm theo cách độc lập với ví trí theo chiều dọc khối rời rạc với biên khối có tượng đặc trưng bị cắt hụt Nếu độ dài L nhỏ khơng đủ thơng tin phân tách vectơ quan sát L lớn dẫn đến gia tăng xác 61 suất cắt hụt Tuy nhiên, tỉ số nhận dạng thành công hệ thống thường không nhạy cảm với thay đổi L miễn độ gối P đủ lớn (P≤L-1) L≈H/10  Vectơ quan sát Rất nhiều nhóm nghiên cứu giới sử dụng sở liệu ảnh ORL Olivetty Research Laboratory Cambridge, nước Anh với ảnh đa mức xám chụp khuôn mặt người kích thước 92x112 (WxH) Cơ sở liệu ảnh sử dụng để làm sở thử nghiệm luận văn Nếu vectơ quan sát sử dụng giá trị điểm ảnh kích thước vectơ LxW (L= 10 W=92) Phương pháp sử dụng biến đổi KL để xây dựng vectơ quan sát cho thấy hiệu nhiều so với sử dụng giá trị điểm ảnh khả nén thơng tin thuộc tính không tương quan phép biến đổi KL Phép biến đổi KLT phép biến đổi thích nghi nghĩa sở phép biến đổi dựa tín hiệu vào mà phép biên đổi áp dụng Ma trận sở phép biến đổi KLT vectơ riêng ma trận hiệp biến tất mẫu đầu vào Cách tính ma trận sở:  Các khối ảnh trích từ tất ảnh mẫu tập ảnh mẫu xếp dạng vectơ cách xếp chồng cột lên Gọi xi(r ) vectơ thu từ khối thứ i ảnh mẫu thứ r  Trung bình vectơ tính theo cơng thức:  R T r  R T  x  r r  r 1 i 1 i r 1 R số ảnh mẫu tập mẫu T(r) số khối trích từ ảnh thứ r Một tập vectơ sinh cách trừ vectơ cũ với trung bình vectơ Đây gọi bước quy tập mẫu Tập vectơ tập vectơ có trung bình thống kê sử dụng để tính sở phép biến đổi KLT: ~ xir   xir     Ma trận hiệp biến vectơ ~x ir  tính theo: C R T R T r  ~ x   ~ x      r T r r r 1 i 1 i i r 1 Các vectơ riêng chuẩn hoá uk ma trận hiệp biến C xác định theo phương trình Cuk=λkuk với λk trị riêng tương ứng với vectơ riêng ma trận C Khi có tay vectơ sở phép biến đổi, trình xác định vectơ quan sát từ tập hợp khối quan sát trích từ ảnh mẫu ảnh kiếm thử thực sau: 62  Các khối quan sát xếp lại theo thứ tự cột ảnh để tạo thành dạng vectơ  Từng vectơ trừ vectơ trung bình tính  Vectơ kết chiếu vào không gian vectơ riêng ma trận hiệp biến tương ứng với trị riêng lớn λk Các đại lượng sinh phép chiếu tạo nên vectơ quan sát Chú ý có số đại lượng có giá trị quan trọng nghĩa có mang thơng tin, giá trị đại lượng giảm dần số vectơ tăng Trong thí nghiệm với sở liệu ORL trên, đại lượng với số lớn 10 bị loại bỏ có giá trị khơng đáng kể Chính ngun tắc KLT phương pháp đơi gọi phương pháp phân tích thành phần PCA PCA trường hợp đóng vai trò xử lý liệu vai trò thực nhận dạng lại mơ hình Markov ẩn đảm nhiệm  Tính tốn trị riêng vectơ riêng Trong phương pháp nhận dạng thông qua PCA trình bày phương pháp phân tích liệu sử dụng KLT, ta gặp phải vấn đề liên quan nhiều đến chi phí tính tốn Đó vấn đề tìm giá trị riêng vectơ riêng ma trận hiệp biến Ma trận hiệp biến trường hợp ma trận đối xứng với kích thước lớn Với sở liệu ảnh ORL độ dài khối quan sát L=10 hàng kích thước ma trận 920 x 920 Một yêu cầu toán khơng cần thiết phải liệt kê tồn vectơ riêng mà cần liệt kê số (cụ thể 10) vectơ riêng tương ứng với trị riêng lớn Để giải tốn, thường khơng thể tính tốn ma trận ảnh ban đầu chi phí tính tốn có lớn Một phương pháp đưa để giảm chi phí tính tốn thơng qua việc tính gián tiếp vectơ riêng theo cách sau: Giả sử có M vectơ mẫu có trung bình thống kê (cách xác định trên) ký hiệu {xi} với xi  RN Ma trận hiệp biến tập liệu mẫu định nghĩa là: C M  M x xiT  A AT , A  x1 , x2 , , xM  i 1 i Các bước tính gián tiếp sau:  Bước 1: Xây dựng ma trận kích thước MxM theo công thức L=ATA với Lpq=xpT.x  Bước 2: Tìm M vectơ riêng vk ma trận L cách giải toán vectơ riêng ma MxM (chú ý M