Phép biến đổi đơn vị, phép biến đổi KL PCA Nguyên nhân: DCT là một tiêu chuẩn quốc tế cho các hệ thống mã chuyểnvị bởi nó có đặc tính gói năng lượng tốt (gói năng lượng của ảnh con vàomột phần nhỏ các hệ số hàm truyền), cho kết quả là số thực và có thuật toán nhanh để thực hiện chúng. DCT mang lại một tỉ lệ nén hiệu quả và chấtlượng ảnh suy giảm là có thể chấp nhận được. Chính vì thế với JPEG làmột định dạng ảnh phổ biến nhất hiện nay, việc sử dụng DCT giúp giảm được rất nhiều chi phí và tài nguyên lưu trữ truyền tải.
TRƯỜNG ĐẠI HỌC BÁCH KHOA HÀ NỘI Viện Công nghệ Thông tin Truyền thông Báo cáo Xử lý liệu đa phương tiện Nhóm 5: Tìm hiểu phép biến đổi xử lý liệu đa phương tiện ứng dụng Giáo viên hướng dẫn: PGS.Nguyễn Thị Hoàng Lan Sinh viên thực hiện: Hoàng Đình Hiệp 20111584 Hoàng Anh Chiến 20111247 Nguyễn Văn Hiệp 20111590 Hà Nội, tháng năm 2015 Mục lục Lời nói đầu Xử lý liệu đa phương tiện cung cấp kiến thức lý thuyết cá kỹ thuật xử lý liệu đa phương tiện cần thiết ứng dụng truyền thông đa phương tiện mạng máy tính Cũng khái quát lại liệu đa phương tiện xử lý liệu truyền thông đa phương tiện; tín hiệu video, số hoá video nén; mã hoá dự đoán DPCM; lượng tử hoá vector; phương pháp mã hoá dải tần; nén ảnh dựa phép biến đổi; phương pháp nén video; phương pháp mã hoá audio; đồng audio-video Để hiểu thêm lý thuyết, kỹ thuật xử lý nén ảnh nhóm chọn Đề tài 5: Tìm hiểu phép biến đổi xử lý liệu đa phương tiện ứng dụng Trong đề tài này, nhóm tập trung vào phép biến đổi là: KL, PCA Và ứng dụng PCA trích chọn đặc trưng khuôn mặt Do hạn chế thời gian, kiến thức kinh nghiệm báo cáo không tránh khỏi thiếu sót Rất mong góp ý cô bạn Nhóm xin chân thành cảm ơn! Phân công công việc - Nguyễn Văn Hiệp: Tìm hiểu chung phép biến đổi đơn vị, tính chất chung - Hoàng Đình Hiệp: Tìm hiểu phép biến đổi KL, PCA (Principle Component Analysis) Tìm hiểu phương pháp trích chọn đặc trưng dựa phép biến đổi KLPCA - Hoàng Anh Chiến: Khảo sát ứng dụng phép biến đổi PCA trích chọn đặc trưng khuôn mặt Phép biến đổi đơn vị (Unitary Transform) 1.1 Định nghĩa Định nghĩa phép biến đổi đơn vị không gian vector liệu: T y = TA x TA TA* = I với điều kiện Trong đó: • x : Ma trận liệu đầu vào có dạng [1*n]={ x1 , x2 , x3 , , xn } y • • • • : Ma trận hệ số biến đổi TA TA* I : Ma trận phép biến đổi T : Ma trận chuyển vị ma trận phức liên hợp ma trận TA : Ma trận đơn vị Xét điều kiện ta thấy: −1 TA TA = I Mặt khác: Nếu TA TA −1 trực giao TA = TA ⇒ TAT TA = I ma trận thực Do đó: ma trận TA TA* = TA ⇒ TAT = T AT* vừa thực vừa trực giao TA TAT* = I (điều kiện thỏa mãn) Tồn phép biến đổi ngược: xˆ = TS yˆ = ∑i Tsi y i • TS = T A −1 = T AT* ⇒ TS T A = T A TS = I Tsi = ( si ,1 , si , , , si , n ) • hàng thứ i ma trận T A* cột thứ i ma trận TAT* • Tsi gọi vector sở phép biến đổi Phép biến đổi đơn vị phân tích vector x thành tổ hợp tuyến tính vector sở với hệ số phân tích y Kì vọng: ˆ j = δ [i − j ] E Φi ,Φ Trong không gian trực chuẩn, −1 TA ma trận trực giao ta có: T TS = TA = TA ⇒ TA TAT = T AT TA = I E Φ i , Φ j = δ [i − j] 1.2 Tính chất chung phép biến đổi đơn vị - Bảo toàn lượng: ||x||2=||y||2 (đẳng thức Parseval), không gây sai số miền không gian - Năng lượng tập trung: Đối với ảnh thông thường, lượng phân bố không đều; thành phần biến thiên nhanh chiếm lượng nhỏ tín hiệu; nhiều phép biến đổi đơn vị tập trung lượng ảnh vào vài thành phần hệ số biến đổi - Giải tương quan: Đầu vào vector có thành phần tương quan mạnh, qua phép biến đổi nhận thành phần tương quan yếu Đánh giá: Trong phép biến đổi đơn vị, phương pháp biến đổi KL tốt lí thuyết cho nén liệu Nguyên nhân: o Phép biến đổi KL đạt giải tương quan tốt nên mặt lí thuyết phương pháp nén liệu tốt Phương pháp biến đổi cosin rời rạc dùng theo chuẩn JPEG Nguyên nhân: DCT tiêu chuẩn quốc tế cho hệ thống mã chuyển vị có đặc tính gói lượng tốt (gói lượng ảnh vào phần nhỏ hệ số hàm truyền), cho kết số thực có thuật toán nhanh để thực chúng DCT mang lại tỉ lệ nén hiệu chất lượng ảnh suy giảm chấp nhận Chính với JPEG định dạng ảnh phổ biến nay, việc sử dụng DCT giúp giảm nhiều chi phí tài nguyên lưu trữ truyền tải Phép biến đổi KL, PCA 2.1 Phép biến đổi KL Khái niệm, sở lý thuyết phép biến đổi KL Phép biến đổi KL có nguồn gốc từ khai triển chuỗi trình ngẫu 2.1.1 nhiên liên tục Biến đổi KL gọi biến đổi Hoteling hay phương pháp thành phần Phép biến đổi KL phép biến đổi tuyến tính đơn vị dựa vecto riêng giá trị riêng ma trận tương quan phép giảm thứ nguyên không gian với sai số nhỏ Cơ sở lý thuyết phép biến đổi KL Đây phép biến đổi không gian chiều thành không gian chiều, với Mỗi 2.1.2 thành phần vectơ miêu tả đặc tính đối tượng Nếu ta biến đổi từ không gian n chiều không gian m chiều, ta làm giảm thông tin dư thừa (giảm thứ nguyên) Mục đích biến đổi KL chuyển từ không gian n chiều sang không gian trực giao m chiều cho sai số bình phương nhỏ Gọi tập vector sở không gian trực giao Với với Mọi vector y không gian trực giao viết: với Gọi kết thu không gian m chiều Sai số phép biến đổi Sai số trung bình bình phương: Mà , Theo định nghĩa R, phương trình trở thành: đạt ( đạt Đặt (5) Như đạt (5) Để tìm ta dùng phương pháp đạo hàm dẫn đến việc giải phương trình: Phương trình gọi phương trình đặc trưng R với trị riêng véctơ riêng tương ứng Đây sở lý thuyết biến đổi KL Biến đổi KL Không gian quan sát 2.1.3 Phép biến đổi KL: cho sai số trung bình bình phương nhỏ ma trận phép biến đổi Các bước thực hiện: Tính ma trận tương quan R X: R có giá trị riêng tương ứng với vecto riêng (trực giao đôi một) Có phương trình đặc trưng R: ⇔ ⇒ giá trị riêng ⇒ vecto riêng Chọn M giá trị lớn N giá trị tìm được, ta có M vecto tương ứng Ma trận biến đổi với Phép biến đổi PCA 2.2 Mục tiêu PCA tìm không gian với số chiều nhỏ không gian cũ Các trục toạ độ không gian xây dựng cho trục, độ biến thiên liệu lớn Thuật toán PCA Cho ma trận 2.2.1 Tiền xử lý Với độ lệch chuẩn cột j X Xây dựng không gian Tìm giá trị riêng vecto riêng ma trận hiệp phương sai R có N giá trị riêng �, ta xếp theo thứ tự giảm dần, tương ứng N vecto riêng u Chuyển liệu từ không gian ban đầu vào không gian Chọn k vecto riêng đầu tiên: Toạ độ điểm không gian là: Trích đặc trưng PCA Các bước thực hiện: 2.2.2 Gọi M số mẫu đầu vào, mẫu chuyển thành vector N chiều Ta có tập hợp đầu vào Trung bình vector đầu vào: Sai lệch so với tâm: Gọi ta có ma trận tương quan A là: C có giá trị riêng tương ứng với vecto riêng (trực giao đôi một) Ta được: Sắp xếp giá trị riêng theo thứ tự giảm dần, tương ứng vecto riêng Chọn k vector riêng u tương ứng với k giá trị riêng � lớn Phép biến đổi tuyến tính là: 10 11 Khảo sát ứng dụng phép biến đổi PCA trích chọn đặc trưng khuôn mặt Giới thiệu 3.1 Trong thực tế có ứng dụng thiết kế phục vụ cho mục đích nhận dạng, nhận diện khuôn mặt người Ví dụ : - ứng dụng mở khóa laptop hay mở khóa điện thoại cách nhận diện - khuôn mặt Ứng dụng xác định vị trí khuôn mặt người ảnh Hệ thống tra cứu tội phạm: Nó giúp quan an ninh kiểm tra - người A có phải tội phạm bị truy nã hay không Hệ thống tương tác người máy Các hệ thống camera, v.v Ứng dụng 3.2 Bài toán: Ở đây, để khảo sát ứng dụng phép biến đổi PCA trích chọn đặc 3.2.1 trưng khuôn mặt em vận dụng vào toán nhỏ : Em có ảnh có ảnh khuôn mặt người Và em phải kiểm tra xem ảnh có phải mặt người hay không Bài toán phần nhỏ toán xác định vị trí mặt người ảnh lớn Phân tích ứng dụng: Ứng dụng dựa phương pháp thiết lập khuôn mặt riêng – eigenface 3.2.2 từ trị riêng, vectơ riêng tập sở liệu ảnh khuôn mặt có Ý tưởng phương pháp phân tích thành phần chủ yếu tạo nên khuôn mặt, vectơ riêng ma trận hiệp phương sai tập ảnh khuôn mặt Mỗi vectơ chưa số lượng đặc tính riêng biệt khuôn mặt từ tạo khác khuôn mặt Các vectơ gọi khuôn mặt riêng – eigenfaces 12 3.2.3 Sơ đồ thực hiện: Tập ảnh mặt người Sử dụng phép biến đổi PCA Kết Tạo khuôn mặt trung bình khuôn mặt riêng Đưa ảnh cần kiểm tra có phải khuôn mặt hay không Tính khoảng cách Euclide Gần không gian mặt người ??? Đúng Là ảnh mặt người Sai Không ảnh mặt người Đầu vào: Đầu vào tập liệu ảnh có kích thước giống nhau, ảnh khuôn mặt (Tập liệu huấn luyện :trainingset) Qua trình vận dụng PCA để biến đổi ta có đầu khuôn mặt riêng (eigenfaces) 13 Sau trình tính toán ta đưa ảnh cần xác định có phải mặt người hay không vào để kiểm tra 3.3 Chi tiết bước thực PCA Tính khuôn mặt trung bình: Giả sử ta có tập huấn luyện gồm M ảnh khuôn mặt ,, , Chúng ta biểu 3.3.1 diễn ảnh kích thức NxN vector Γ có kích thước x1: Các ảnh tập huấn luyện Γ1, Γ2, Γ3,…, ΓM Khuôn mặt trung bình tập ký hiệu: Tính vectơ riêng ma trận hiệp phương sai C: Để có chi tiết cần thiết, ảnh khuôn mặt cần biểu diễn 3.3.2 không gian nhỏ Tương đương với việc ta cần tính vector riêng ma trận hiệp phương sai (các khuôn mặt riêng) Mỗi khuôn mặt chênh lệch với khuôn mặt trung bình đại lượng vector : Ta có ma trận hiệp phương sai: 14 Như vậy, ma trận C có kích thước N 2x N2 , việc xác định N2 vector riêng giá trị riêng khó thực Ta cần phương pháp dễ dàng để tìm vector riêng Ta giữ lại vectơ riêng tương ứng với trị riêng lớn vectơ riêng chứa nhiều đặc trưng nhất, vectơ ứng với trị riêng nhỏ chứa số đặc trưng Thay việc tính vector riêng ma trận C, ta tính vector riêng ma trận MxM Xét vector riêng vi ATA : ATAvi = μi vi Nhân vế phương trình với A , ta có: AAT Avi = μi Avi Từ ta thấy = Avi vector riêng C = AAT Như AAT ATA có trị riêng vector riêng chúng quan hệ với theo = Avi Chú ý: ATA có M trị riêng vector riêng AAT có N2 trị riêng vector riêng M trị riêng ATA với vector riêng tương ứng với M trị riêng lớn AAT Sử dụng vectơ khuôn mặt riêng để xác định có phải khuôn mặt người hay không Do khuôn mặt riêng tương ứng với trị riêng lớn chọn 3.3.3 đầy đủ để mô tả ảnh khuôn mặt, nên ta sử dụng chúng để xác 15 định khuôn mặt có phải mặt người hay không Các khuôn mặt riêng tạo không gian chiều M từ không gian ảnh N2 ban đầu Một ảnh cần kiểm tra (Γ) biến đổi thành thành phần khuôn mặt riêng (chiếu vào không gian ảnh mặt) biến đổi đơn giản Với k = 1,…, M’ uTk vectơ riêng ta tính Các trọng số vector Ω T = [ω1, ω2, …, ωM’ ] mô tả phần liên quan khuôn mặt riêng biểu diễn ảnh khuôn mặt nhập vào Để xác định ảnh kiểm tra có phải khuôn mặt người hay không ta xác định cách tính toán khoảng cách Euclide: Từ đây, ta có khả năng: (1) (2) : ảnh kiểm tra gần không gian mặt ảnh mặt người : ảnh kiểm tra không gần không gian mặt ảnh mặt người Ví dụ: 16 Ở ví dụ ta thấy ảnh mặt người sau chiếu lên không gian mặt kết gần giống ban đầu, ảnh mặt người sau chiếu kết khác biệt so với ảnh ban đầu Từ cách ta phân biệt ảnh đưa vào ảnh mặt người hay không 3.4 Thử nghiệm với Matlab 3.4.1 Tập ảnh đầu vào - 30 ảnh thể trạng thái biểu cảm khác người Mỗi ảnh có kích cỡ là: 112x92 px 17 3.4.2 khuôn mặt trung bình: 18 3.4.3 Các khuôn mặt riêng tổng hợp Tài liệu tham khảo: - http://luanvan.co/luan-van/do-an-xu-ly-anh-nhan-dang-mat-nguoi-tren- - matlab-31017/ http://doc.edu.vn/tai-lieu/do-an-do-tim-va-cat-anh-mat-nguoi-dung-pca- - s4339/ http://phvu.net/2011/10/05/pca-principal-component-analysis/ 19 [...]... nhau giữa các khuôn mặt Các vectơ này còn được gọi là các khuôn mặt riêng – eigenfaces 12 3.2.3 Sơ đồ thực hiện: Tập các ảnh mặt người Sử dụng phép biến đổi PCA Kết quả Tạo ra khuôn mặt trung bình và các khuôn mặt riêng Đưa ảnh cần kiểm tra có phải khuôn mặt hay không Tính khoảng cách Euclide Gần không gian mặt người ??? Đúng Là ảnh mặt người Sai Không là ảnh mặt người Đầu vào: Đầu vào là tập dữ liệu ảnh...11 3 Khảo sát các ứng dụng của phép biến đổi PCA trong trích chọn đặc trưng khuôn mặt Giới thiệu 3.1 Trong thực tế có vô vàn các ứng dụng đã được thiết kế phục vụ cho các mục đích nhận dạng, nhận diện khuôn mặt người Ví dụ : - ứng dụng mở khóa laptop hay mở khóa điện thoại bằng cách nhận diện - khuôn mặt Ứng dụng xác định vị trí những khuôn mặt người trong một bức ảnh Hệ thống tra... mặt người trong một bức ảnh lớn Phân tích ứng dụng: Ứng dụng dựa trên phương pháp thiết lập các khuôn mặt riêng – eigenface 3.2.2 từ các trị riêng, vectơ riêng của một tập cơ sở dữ liệu các ảnh khuôn mặt đã có Ý tưởng của phương pháp là phân tích các thành phần chủ yếu tạo nên khuôn mặt, hoặc những vectơ riêng của ma trận hiệp phương sai của tập ảnh các khuôn mặt Mỗi vectơ chưa một số lượng các đặc... đủ để mô tả ảnh các khuôn mặt, nên ta có thể sử dụng chúng để xác 15 định khuôn mặt có phải là mặt người hay không Các khuôn mặt riêng tạo ra một không gian chiều con M từ không gian ảnh N2 ban đầu Một ảnh cần kiểm tra (Γ) được biến đổi thành các thành phần khuôn mặt riêng (chiếu vào không gian ảnh mặt) bằng một biến đổi đơn giản Với k = 1,…, M’ uTk là các vectơ riêng ta đã tính ở trên Các trọng số của... hiện Ta cần một phương pháp dễ dàng hơn để tìm các vector riêng này Ta chỉ giữ lại những vectơ riêng tương ứng với những trị riêng lớn nhất bởi những vectơ riêng này chứa nhiều đặc trưng nhất, còn các vectơ ứng với các trị riêng nhỏ chỉ chứa một số ít các đặc trưng Thay vì việc tính các vector riêng của ma trận C, ta đi tính các vector riêng của ma trận MxM Xét các vector riêng vi của ATA : ATAvi = μi... tác giữa người và máy Các hệ thống camera, v.v Ứng dụng 3.2 Bài toán: Ở đây, để khảo sát ứng dụng của phép biến đổi PCA trong trích chọn đặc 3.2.1 trưng khuôn mặt em sẽ vận dụng vào một bài toán nhỏ : Em có một bức ảnh trong đó có thể có ảnh khuôn mặt của một người hoặc là không phải Và em sẽ phải kiểm tra xem bức ảnh đó có phải là mặt người hay không Bài toán này là một phần nhỏ trong bài toán xác... bằng một vector Γ có kích thước x1: Các ảnh trong tập huấn luyện lần lượt là Γ1, Γ2, Γ3,…, ΓM Khuôn mặt trung bình của tập được ký hiệu: Tính các vectơ riêng của ma trận hiệp phương sai C: Để có được các chi tiết cần thiết, ảnh khuôn mặt cần được biểu diễn trong 3.3.2 một không gian nhỏ hơn Tương đương với việc ta cần tính các vector riêng của ma trận hiệp phương sai (các khuôn mặt riêng) Mỗi khuôn mặt... Đầu vào là tập dữ liệu ảnh có kích thước giống nhau, mỗi ảnh là một khuôn mặt (Tập dữ liệu huấn luyện :trainingset) Qua quá trình vận dụng PCA để biến đổi ta có được đầu ra là các khuôn mặt riêng (eigenfaces) 13 Sau quá trình tính toán ta đưa ảnh cần xác định có phải là mặt người hay không vào để kiểm tra 3.3 Chi tiết các bước thực hiện của PCA Tính khuôn mặt trung bình: Giả sử ta có tập huấn luyện... AAT và ATA có cùng các trị riêng và vector riêng của chúng quan hệ với nhau theo = Avi Chú ý: ATA có thể có M trị riêng và vector riêng AAT có thể có N2 trị riêng và vector riêng M trị riêng của ATA cùng với các vector riêng tương ứng với M trị riêng lớn nhất của AAT Sử dụng các vectơ khuôn mặt riêng để xác định có phải khuôn mặt người hay không Do các khuôn mặt riêng tương ứng với các trị riêng lớn... được kết quả rất khác biệt so với ảnh ban đầu Từ cách đó ta có thể phân biệt được ảnh đưa vào là ảnh mặt người hay không 3.4 Thử nghiệm với Matlab 3.4.1 Tập các ảnh đầu vào - 30 bức ảnh thể hiện các trạng thái biểu cảm khác nhau của 3 người Mỗi bức ảnh có kích cỡ là: 112x92 px 17 3.4.2 khuôn mặt trung bình: 18 3.4.3 Các khuôn mặt riêng được tổng hợp 4 Tài liệu tham khảo: - http://luanvan.co/luan-van/do-an-xu-ly-anh-nhan-dang-mat-nguoi-tren- ... audio-video Để hiểu thêm lý thuyết, kỹ thuật xử lý nén ảnh nhóm chọn Đề tài 5: Tìm hiểu phép biến đổi xử lý liệu đa phương tiện ứng dụng Trong đề tài này, nhóm tập trung vào phép biến đổi là: KL,... Tìm hiểu chung phép biến đổi đơn vị, tính chất chung - Hoàng Đình Hiệp: Tìm hiểu phép biến đổi KL, PCA (Principle Component Analysis) Tìm hiểu phương pháp trích chọn đặc trưng dựa phép biến đổi. .. ảnh phổ biến nay, việc sử dụng DCT giúp giảm nhiều chi phí tài nguyên lưu trữ truyền tải Phép biến đổi KL, PCA 2.1 Phép biến đổi KL Khái niệm, sở lý thuyết phép biến đổi KL Phép biến đổi KL có