Bài giảng "Xử lý ảnh - Chương 5: Trích chọn đặc trưng trong ảnh (p2)" cung cấp cho người học các kiến thức: Nhắc lại một số khái niệm ma trận và vector, các phép tính trong ma trận, không gian vector (vector spaces), quan hệ giữa 2 vector,... Mời các bạn cùng tham khảo nội dung chi tiết.
9/1/2011 Nhắc lại số kiến thức Matrix vector Xác suất thống kê 54 Nhắc lại số khái niệm ma trận vector Các phép xử lý ảnh thực chất phép tính tốn ma trận vectors review lại số khái niệm toán học matrix vector 55 9/1/2011 Một số khái niệm Khái niệm ma trận: m: dịng, n cột A vng (square) m = n A ma trận đường chéo (diagonal): phần tử khơng nằm đường chéo = 0, có phần tử đường chéo ≠0 A ma trận đơn vị (identity - I): diagonal phần tử đường chéo = 56 Một số khái niệm (tiếp) 𝑡𝑟𝑎𝑐𝑒 𝐴 = 𝑐á𝑐 𝑝ℎầ𝑛 𝑡ử 𝑡𝑟ê𝑛 đườ𝑛𝑔 𝑐ℎé𝑜 𝑐ℎí𝑛ℎ Định thức ma trận (Determinant) Ma trận chuyển vị (transpose): dòng cột, cột dịng, ký hiệu: 𝐴𝑇 Ma trận vng A đối xứng (symetric) A = 𝐴𝑇 Ma trận nghịch đảo (Inverse): X inverse A nếu: XA = I AX = I 57 9/1/2011 Một số khái niệm (tiếp) Vector cột (column vector) ma trận mx1 Vector hàng (row vector) ma trận 1xm 58 Các phép tính ma trận A, B kích thước m x n C = A + B C kích thước m x n 𝐶𝑖𝑗 = 𝐴𝑖𝑗 + 𝐵𝑖𝑗 D = A – B D kích thước m x n 𝐷𝑖𝑗 = 𝐴𝑖𝑗 - 𝐵𝑖𝑗 A(m, n); B(n, q) C = AB C kích thước m x q 59 9/1/2011 Các phép tính ma trận Cho vector a, b kích thước Tích vơ hướng vector (inner product – dot product) định nghĩa sau 60 Không gian vector (vector spaces) Không gian vector định nghĩa tập vector V thỏa mãn điều kiện sau Điều kiện A o x + y = y + x với vector x y không gian o x + (y + z) = (x + y) + z o Tồn vector 0: x + = + x = x o x + (-x) = (-x) + x = 61 9/1/2011 Vector spaces (tếp) Điều kiện B c(dx) = (cd)x với số c, d vector x (c + d)x = cx + dx c(x + y) = cx + cy Điều kiện C 1x = x 62 Vector spaces (tiếp) Tổ hợp tuyến tính (linear combination) vectors: 𝑣1 , 𝑣2 , … , 𝑣𝑛 Vetor v gọi phụ thuộc tuyến tính (linearly dependent) vectors 𝑣1 , 𝑣2 , … , 𝑣𝑛 v viết tổ hợp tuyến tính tập vector Ngược lại v độc lập tuyến tính tập vector (linearly independent) 63 9/1/2011 Vector spaces (tiếp) Tập vector sở (basis vector set) không gian V cho phép tạo vector v khơng gian Ví dụ: khơng gian vector 𝑅 , vector Có thể tạo tổ hợp tuyến tính vectors sở: 64 Chuẩn vector (vector norm) Vector norm vector x : ký hiệu 𝑥 cần thỏa mãn điều kiện sau Cơng thức tính chuẩn vector có nhiều, cơng thức hay dùng: 2-norm (công thức Euclidean) 65 9/1/2011 Quan hệ vector Cosin Suy cách tính khác tích vơ hướng (inner product) 2 vector gọi trực giao (orthogonal) với tích vô hướng = 2 vector gọi trực chuẩn (orthonormal) Chúng trực giao Norm vector = 66 Quan hệ vectors Tập vector trực giao cặp vector trực giao đôi Tập vector trực chuẩn cặp vector trực chuẩn đôi 67 9/1/2011 Tính chất vector trực giao Nếu tập vector trực giao trực chuẩn, vector v biểu diễn tổ hợp tuyến tính vector trực giao 68 Trị riêng – vector riêng (Eigen values - eigenvectors) Cho ma trận vuông M, tồn số Thì: vector e cho: gọi trị riêng ma trận M e: vector riêng ứng với trị riêng 69 9/1/2011 Eigenvalues eigenvectors (tiếp) Công thức tính: Dựa biểu thức Trong đó: det định thức Ví dụ: Tìm trị riêng, vector riêng ma trận sau: 70 Eigenvalues eigenvectors (tiếp) Giải: Suy ra: λ = and λ = Với λ = 3, tìm vector riêng tương ứng x = y, 71 9/1/2011 Tính chất eigenvalues eigenvectors Ma trận vng A (m x m) có m eigenvalues phân biệt m eigenvectors tương ứng trực giao với M ma trận vuông đối xứng, A ma trận có hàng vector riêng ma trận M (nếu ma trận vng đối xứng vector riêng trực chuẩn - orthonormal) 72 Tính chất eigenvalues eigenvectors M ma trận vng đối xứng, A ma trận có hàng vector riêng ma trận M D ma trận đường chéo, với phần tử đường chéo trị riêng (eigenvalues) ma trận M 73 10 9/1/2011 Phương sai biến ngẫu nhiên (variance) Phương sai nhận cách thay g(x) = x2 Liên tục Rời rạc 92 Phương sai biến ngẫu nhiên Phương sai thường chuẩn hóa cách trừ giá trị trung bình (kỳ vọng) Liên tục Rời rạc Giá trị: 93 𝜎 𝑔ọ𝑖 𝑙à độ 𝑙ệ𝑐ℎ 𝑐ℎ𝑢ẩ𝑛 (𝑠𝑡𝑎𝑛𝑑𝑎𝑟𝑑 𝑑𝑒𝑣𝑖𝑎𝑡𝑖𝑜𝑛) 20 9/1/2011 Moment cấp Giá trị moment cấp n nhận cách cho g(x) = (x - m)n Hay 94 Moment cấp 95 21 9/1/2011 Moment cấp Moment cấp = Moment cấp = Moment cấp 2: Phương sai Moment cấp 3: Skewness Thơng thường giá trị kỳ vọng (trung bình), phương sai (moment cấp 2) moment cấp dùng để phản ánh phân bố biến ngẫu nhiên 96 Biến ngẫu nhiên nhiều biến Thường biểu diễn dạng vector 97 22 9/1/2011 Biến ngẫu nhiên nhiều biến (tiếp) Hàm phân bố xác suất Hàm mật độ phân bố xác suất 98 Biến ngẫu nhiên nhiều biến (tiếp) Giá trị kỳ vọng hàm g(x) Joint moment bậc k,q biến ngẫu nhiên biến 99 23 9/1/2011 Biến ngẫu nhiên nhiều biến (tiếp) Tương quan x y (correlation) Nếu x y độc lập thống kê biến gọi khơng tương quan với 100 Biến ngẫu nhiên nhiều biến (tiếp) Central joint moment bậc k,q biến ngẫu nhiên x, y 101 24 9/1/2011 Biến ngẫu nhiên nhiều biến (tiếp) Hiệp biến – Hiệp phương sai (covariance) Ký hiệu thường dùng: Cxy Hiệp phương sai = biến độc lập thống kê không tương quan với 102 Biến ngẫu nhiên nhiều biến (tiếp) Hệ số tương quan (correlation coefficient) 103 25 9/1/2011 Phân bố Gaussian (phân bố chuẩn) Pdf – Hàm biến Pdf – Hàm nhiều biến Trong đó: C ma trận hiệp biến (covariance matrix), m vector trung bình (mean vector) 104 Phân bố Gaussian (tiếp) Mean vector Covariance matrix 105 26 9/1/2011 Phân bố Gaussian (tiếp) Tính chất covariance matrix Ma trận số thực Đối xứng Nếu phần tử vector x độc lập thống kê ma trận đường chéo 106 Phép chiếu giải tương quan (decorrelation) Cho vector biến ngẫu nhiên x = {xi} Ma trận hiệp biến (hiệp phương sai) Phép biến đổi (chiếu) tuyến tính y = Ax Trong đó: A ma trận gồm dòng eigenvectors Cx 107 27 9/1/2011 Phép chiếu giải tương quan (decorrelation) Phép chiếu từ x y hàm y = Ax phép chiếu giải tương quan Thật vậy: Theo lý thuyết eigenvalue eigenvectors Cy ma trận đường chéo 108 Ví dụ áp dụng lý thuyết xác suất Phân lớp loại cá: salmon sea-bass 109 28 9/1/2011 Ví dụ áp dụng lý thuyết xác suất (tiếp) Chọn đặc trưng để phân lớp Chiều dài Độ sáng (hay màu sắc) 110 Ví dụ áp dụng lý thuyết xác suất (tiếp) Feature chiều dài 111 29 9/1/2011 Ví dụ áp dụng lý thuyết xác suất (tiếp) Feature độ sáng 112 Ví dụ áp dụng lý thuyết xác suất (tiếp) Kết hợp features Phân lớp chọn đường thẳng chia không gian thành tập Sai số tương đối lớn 113 30 9/1/2011 Ví dụ áp dụng lý thuyết xác suất (tiếp) Kết hợp features Phân lớp chọn đường khơng tuyến tính Over fitting (mơ hình q phụ thuộc vào khơng gian mẫu Điều xảy có mẫu đưa vào?) 114 Ví dụ áp dụng lý thuyết xác suất (tiếp) 115 31 9/1/2011 Ví dụ áp dụng lý thuyết xác suất (tiếp) Mơ hình hóa tốn Khơng gian mẫu Ω = *𝜔1 , 𝜔2 + o 𝜔1 : cá sea-bass o 𝜔2 : cá salmon Biến ngẫu nhiên x: chiều dài cá P(𝜔1 ), P(𝜔2 ): Xác suất tiền nghiệm P(x|𝜔1 ), P(x|𝜔2 ): Xác suất có điều kiện, (likelihood) P(𝜔1 |x), P(𝜔2 |x): Xác suất hậu nghiệm P(x): xác suất evidence 116 Ví dụ áp dụng lý thuyết xác suất (tiếp) TH1 Khơng có training set: tức khơng có thơng tin từ trước để phân biệt salmon với sea-bass đoán bừa: 50-50 TH2 Biết xác suất tiền nghiệm P(𝜔1 ), P(𝜔2 ) (Quan sát 1000000 cá thấy có 600000 salmon, 400000 seabass) 60%, 40% Vì: P(𝜔1 ) > P(𝜔2 ): nên lúc phân cá vào lớp 𝜔1 117 32 9/1/2011 Ví dụ áp dụng lý thuyết xác suất (tiếp) TH3 Trường hợp thông dụng: biết xác suất tiền nghiệm P(𝜔1 ), P(𝜔2 ), xác suất có điều kiện P(x|𝜔1 ), P(x|𝜔2 ) Quyết định: dựa vào xác suất hậu nghiệm (công thức xác suất bayes) P j x posterior 118 p x j P j p x likelihood prior evidence Ví dụ áp dụng lý thuyết xác suất (tiếp) 119 33 9/1/2011 Một số khái niệm Điểm ảnh (pixel) Độ phân giải (resolution) Mức xám (gray scale) Lân cận (neighbors) Liên thông (conectivity) 120 34 ... suất evidence 116 Ví dụ áp dụng lý thuyết xác suất (tiếp) TH1 Khơng có training set: tức khơng có thơng tin từ trước để phân biệt salmon với sea-bass đoán bừa: 50 -5 0 TH2 Biết xác suất tiền nghiệm... Thật vậy: Theo lý thuyết eigenvalue eigenvectors Cy ma trận đường chéo 108 Ví dụ áp dụng lý thuyết xác suất Phân lớp loại cá: salmon sea-bass 109 28 9/1/2011 Ví dụ áp dụng lý thuyết xác suất... eigenvectors A ma trận vuông 74 Nhắc lại số khái niệm xác suất thống kê Nhiều topics xử lý ảnh xử dụng lý thuyết xác suất thống kê Review lại số kiến thức xác suất thống kê Một số khái