Ứng dụng PCA trong phân tích mô tả định lượng

1.4 Giải thích hình học của phân tích thành phần chính Geometric interpretation of principal component analysisChiếu của X xuống trên một chiều không gian con bằng phương tiện của các ma

BỘ CÔNG THƯƠNG TRƯỜNG ĐẠI HỌC CÔNG NGHIỆP THỰC PHẨM THÀNH PHỐ HỒ CHÍ MINH

KHOA CÔNG NGHỆ THỰC PHẨM

BỘ MÔN QUẢN LÝ CHẤT LƯỢNG VÀ AN TOÀN THỰC PHẨM

TIỂU LUẬN MÔN ĐÁNH GIÁ CẢM QUAN THỰC PHẨM

ĐỀ TÀI: ỨNG DỤNG CỦA PCA (PRINCIPAL COMPONENT ANALYSIS) TRONG PHÂN TÍCH MÔ TẢ ĐỊNH LƯỢNG

GVHD: Nguyễn Thị Quỳnh TrangSVTH:

12345

Thành phố Hồ Chí Minh

M c l c ụ ụ

Bảng phân công việc 2

Mục lục 4

1.Giới thiệu: 6

1.1 Phân tích mô tả: 6

1.2 Phân tích mô tả định lượng (QDA): 6

1.3 Định nghĩa vấn đề cho dữ liệu đa biến (Problem definition for multivariate data) 6

1.4 Giải thích hình học của phân tích thành phần chính (Geometric interpretation of principal component analysis) 9

2 Phương pháp phân tích thành phần chính – Principal Component Annalysis (PCA): 12

2.1 Khái niệm: 12

2.2 Đặc tính của PCA: 13

2.3 Mục tiêu của PCA: 13

2.4 Thuật toán PCA 14

2.4.1 Tiền xử lí 14

2.4.2 Xây dựng không gian mới 15

2.4.3 Chuyển dữ liệu từ không gian ban đầu vào không gian mới 15

2.5 Mã nguồn MATLAB 15

2.6 Cơ sở toán học của PCA: 17

2.7 Các bước để phân tích thành phần chính 18

2.8 Toán nền (Background Mathematics) 18

2.8.1 Thống kê(Statistics) 18

2.8.2 Độ lệch chuẩn(Standard Deviation) 18

2.8.3 Phương sai (variance) 20

2.8.4 Hiệp phương sai (covariance) 20

2.8.5 Các ma trận hiệp phương sai(The covariance matrix) 21

2.8.6 Đại số ma trận(Matrix Algebra) 22

2.8.7 Vector riêng(Eigenvectors) 23

2.8.8 Giá trị riêng(Eigenvalues): 24

2.9 Phương pháp(Method) 24

2.9.1 Bước 1: Nhận được một số dữ liệu (Get some data) 24

2.9.2 Bước 2: Trừ các trung bình (Subtract the mean) 24

2.9.3 Bước 3: Tính toán ma trận hiệp phương sai(Calculate the covariance matrix) 25

2.9.4 Bước 4: Tính vector riêng và giá trị riêng của ma trận hiệp phương sai (Calculate

the eigenvectors and eigenvalues of the covariance matrix) 25

2.9.5 Bước 5: Lựa chọn các thành phần và hình thành một vector đặc trưng (Choosing components and forming a feature vector) 26

2.9.6 Bước 6 : Phát sinh các tập dữ liệu mới 27

2.9.7 Lấy dữ liệu cũ trở lại 28

2.10 Các ứng dụng phân tích thành phần chính (Applications of principal component analysis ) 30

2.10.1 Tổng quan về bản dữ liệu (Overview (plots) of any data table ) 30

2.10.2 Giảm biến đa chiều (Dimensionality reduction) 30

2.10.3 Mô hình tương đồng (Similarity models ) 31

2.11 Ví dụ: 31

2.11.1 PCA trong nghiên cứu đánh giá cảm quan thực phẩm lên men: 31

2.11.2 PCA trong đánh giá các tính chất cảm quan của cà phê Buôn Mê Thuộc: 32

2.12 Hạn chế của PCA: 32

Tài liệu tham khảo 33

- Application of principal component analysis (PCA) as a sensory assessment tool for fermented food products _J Food Sci Technol Jun 2012 33

1.Gi i thi u: ớ ệ

1.1 Phân tích mô tả:

Trong đánh giá cảm quan, phân tích mô tả là phương pháp tinh tế nhất Phép thử này cho phép nhà khoa học cảm quan mô tả sản phẩm một cách trọn vẹn, giúp nhận biết thành phần cơ bản và các thông số của quá trình chế biến hoặc xác định những tính chất cảm quan liên quan tới thị hiếu của người tiêu dùng Thông thường, phân tích mô tả cho những mô tả khách quan các tính chất cảm quan

có thể nhận biết được của sản phẩm Đặc diểm của phân tích mô tả là mô tả chi tiết đặc điểm các tínhchất cảm quan của một sản phẩm hoặc so sánh các sản phẩm với nhau Ví dụ: vẻ bề ngoài, màu sắc,

vị, cấu trúc của sản phẩm được miêu tả một cách cụ thể chi tiết Ngoài ra các đặc tính cảm quan cũngđược định lượng theo tỉ lệ cường độ

1.2 Phân tích mô tả định lượng (QDA):

Phân tích mô tả định lượng (Quantitative Descriptive Analysis - QDA) đã được phát triển trong những năm 1970 để hiệu chỉnh một vài vấn đề được nhận biết liên quan với phân tích mô tả mùi (Stone, Sidel, Oliver, Woolsey và Singleton, 1947; Stone và Sidel, 1933) Phân tích mô tả định lượng

là phép thử được sử dụng phổ biến nhất trong phép thử mô tả Kết quả thực nghiệm không được tạo

ra từ khâu thảo luận thống nhất, trường hội đồng không phải là một thành viên chủ lực, và thang không cấu trúc được sử dụng để mô tả cường độ của các chỉ tiêu Stone (1974) đã lựa chọn thang đồ thị đường thẳng, một đường thẳng kéo dài vượt qua những điểm đầu mút có từ mô tả, bởi họ nhận thấy rằng loại thang điểm này có thề giảm xu hướng người thử chỉ sử dụng phần giữa của thang nhằm tránh cho điểm quá cao hoặc quá thấp Quyết định của họ dựa trên một phần nghiên cứu của Aderson (1970) về phép đo hàm lượng trong đánh giá tâm lý Rất nhiều người ủng hộ QDA và kỹ thuật này đã được xem xét lại một cách rộng rãi (Stone, Sidel, Oliver, Woolsey và Singleton, 1947; Zook và Wessman, 1977; Stone, Sidel và Bloomquist, 1980; Power, 1988; Einstein, 1991; Meigaard, Civille và Car, 1991; Heymann, Holt và Cliff, 1993; Stone và Sidel, 1930

1.3 Định nghĩa vấn đề cho dữ liệu đa biến (Problem definition for multivariate data)

Điểm khởi đầu trong tất cả các phân tích dữ liệu đa biến là một ma trận dữ liệu (một bảng dữ liệu) ký hiệu là N X.Hàng trong bảng được gọi là "đối tượng" Những thường tương ứng với mẫu hóahọc hoặc địa chất Các cột K được gọi là "biến" và bao gồm các phép đo được thực hiện trên các đối tượng Hình 1 đưa ra một cái nhìn tổng quan về các mục tiêu khác nhau người ta có thể có để phân tích một ma trận dữ liệu Đây được xác định bởi các vấn đề ở bàn tay và không phải tất cả trong số

họ phải được xem xét cùng một lúc

Hình 2: Tổng quan về đồ họa của các ma trận và vectơ sử dụng trong PCA Nhiều người trong

số các mục tiêu của PCA có liên quan với việc tìm kiếm các mối quan hệ giữa các đối tượng Một người có thể quan tâm, ví dụ, trong việc tìm kiếm lớp của các đối tượng tương tự Các thành phần của lớp có thể được biết trước, nhưng nó cũng có thể được tìm thấy bằng cách thăm dò của các dữ liệu có sẵn Liên quan với điều này là phát hiện của giá trị ngoại lai, vì giá trị ngoại lai không thuộc

về lớp tiếng

Mục đích khác có thể giảm dữ liệu Điều này rất hữu ích khi một lượng lớn dữ liệu có thể được xấp xỉ bằng một mô hình cấu trúc phức tạp vừa phải Nhìn chung, hầu hết các ma trận dữ liệu có thể được đơn giản hóa bằng PCA Một bảng lớn các con số là một trong những điều khó khăn hơn cho tâm trí con người để hiểu PCA có thể được sử dụng cùng với một cũng được lựa chọn tập hợp các đối tượng và các biến để xây dựng một mô hình như thế nào là một hệ thống vật lý hay hóa học ứng

xử và mô hình này có thể được sử dụng để dự đoán khi dữ liệu mới được đo cho cùng một hệ thống PCA cũng đã được sử dụng để liên tục unmixing hỗn hợp tổng Chi nhánh này thường được gọi là độ phân giải đường cong PCA ước tính cấu trúc tương quan của các biến Tầm quan trọng của một biến trong một mô hình máy tính được chỉ định bởi kích thước của biến còn lại của nó Điều này thường

được sử dụng để lựa chọn biến Hình 3 cung cấp một lời giải thích đồ họa của PCA là một công cụ

để tách một cấu trúc dữ liệu hệ thống cơ bản từ tiếng ồn Hình 4a và b chỉ ra các thuộc tính chiếu củaPCA Với cách giải thích đầy đủ, dự như tiết lộ các đặc điểm trận đấu bên phía của một tập hợp dữ liệu đa biến nhất định Hình 5 có chứa một (3 x 4) minh họa bằng số nhỏ sẽ được sử dụng như là một

ví dụ

1.4 Giải thích hình học của phân tích thành phần chính (Geometric interpretation of principal component analysis)

Chiếu của X xuống trên một chiều không gian con bằng phương tiện của các ma trận chiếu P 'cung cấp cho các đối tượng tọa độ trong mặt phẳng này, T Các cột trong T, t alpha, được gọi là vectơđiểm và các hàng trong P', p’alpha, được gọi là vectơ tải Sau này bao gồm các hệ số định hướng của (hyper) máy bay PC Các vectơ t alpha và p alpha là trực giao, tức là pi’pj = 0 and ti’tj = 0, for i# j

Độ lệch giữa dự đoán và tọa độ ban đầu được gọi là các số dư Chúng được thu thập trong các

ma trận E PCA ở dạng ma trận là các mô hình phương tối thiểu: model:

Ở đây có nghĩa là vector được một cách rõ ràng trong việc xây dựng mô hình, nhưng điều này là không bắt buộc Các dữ liệu có thể được chiếu trên một siêu phẳng đi qua gốc Hình 9 cho một đại diện đồ họa của công thức này Các kích thước của các vecto t alpha và p alpha trong một PCchiều được không xác định đối với một hằng số nhân giống,c, tp=(tc)(p/c)

Vì vậy nó là cần thiết để giữ chặt các giải pháp một cách nào đó Điều này thường được thực hiện bằng cách bình thường các vector p alpha, với chiều dài 1.0 Ngoài ra, nó rất hữu ích để hạn chế yếu tố lớn nhất của nó là tích cực Bằng cách này, mơ hồ để c = - 1 được lấy ra Một mũi tên thường được sử dụng trong FA là phải có các chiều dài của p, là căn bậc hai của eigenvalue tương ứng tôi, Điều này làm cho các yếu tố trong p, tương ứng trực tiếp đến hệ số tương quan và các vectơ điểm t, được chuẩn hóa với chiều dài 1.0 Đó là bài học để làm một so sánh với các ít giá trị phân hủy (SVD)xây dựng:

Trong trường hợp này, V 'là giống hệt với P' U có chứa các vectơ cột như làm T, nhưng bình thường với chiều dài một D là một ma trận đường chéo có chứa độ dài của các vectơ cột của T Những yếu tố đường chéo của D là căn bậc hai của các giá trị riêng của X'X.

Trong các tài liệu thống kê, PCA có hai nghĩa hơi khác nhau Theo truyền thống, PCA đã được xem như là một sự mở rộng của X trong khi nhiều thành phần như min (N, K) Điều này tương ứng với biểu hiện X trong các biến trực giao mới, tức là, chuyển đổi sang một hệ thống mới phối hợp Một trong đó được thảo luận ở đây đề cập đến như là PCA xấp xỉ của các ma trận X bằng một mô hình với một số lượng tương đối nhỏ của các cột trong T và P Khả năng quyết định một cụ cắt của sốlượng các thành phần cung cấp một công cụ linh hoạt để phân tích dữ liệu phụ thuộc vào vấn đề: một

số đóng góp này vấn đề sử dụng phong phú của các cơ sở vật chất PCA

Một giả định cơ bản trong việc sử dụng cơ sở vật chất.PCA là số điểm và tải vector tương ứng với giá trị riêng lớn nhất chứa các thông tin hữu ích nhất liên quan đến các vấn đề cụ thể, và rằng những người còn lại chủ yếu bao gồm tiếng ồn do đó, các vectơ thường được viết theo thứ tự giảm dần giá trị riêng Thường thì các mô hình máy tính thu được được quay bằng các ma trận xoay R để làm cho các điểm số và tải dễ dàng hơn để giải thích Điều này có thể do sự tương đương

Sau khi mô hình máy tính

đã được phát triển cho một "ma

trận huấn luyện", các đối tượng mới hoặc biến có thể được trang bị cho các mô hình cho điểm, t, cho các đối tượng mới, hoặc tải trọng, p, cho các biến số mới, tương ứng Ngoài ra, phương sai của e còn

dư, thu được cho mỗi mục trang bị, cung cấp một biện pháp giống nhau giữa các mục

"Dữ liệu huấn luyện" Nếu sai dư này là lớn hơn được tìm thấy trong các giai đoạn đào tạo, cóthể kết luận rằng đối tượng mới (hoặc biến) không thuộc về dân số đào tạo Kiểm định giả thuyết cóthể được áp dụng cho tình trạng này Các dư cách khác có thể được hiểu là khoảng cách còn lại liênquan đến một mô hình phù hợp với PC Các công thức cho một đối tượng mới x như sau: nhân với tải

trọng từ khâu đào tạo được

Những điểm số t ước tính: t= xP X được dự vào một chiều không gian đó đã được phát triển trong giai đoạn đào tạo Tính số dư vector e:

Ở đây I là nhận dạng ma trận kích thước K này tính điểm t mới, hoặc tải trọng p, tương đương với hồi quy tuyến tính vì tính trực giao của các vectơ Figs 10 và 11 cho thấy các kết quả của một PCA của ma trận trong hình 5

http://www.imedea.uibcsic.es/master/cambioglobal/Modulo_V_cod101615/Theory/lit_support/pca_wold.pdf Hướng dẫn này được thiết kế để cung cấp cho người đọc một sự hiểu biết về các thành phần chính

2 Phương pháp phân tích thành phần chính – Principal Component Annalysis (PCA):

2.1 Khái niệm:

Principal component analysis (PCA) is a statistical procedure that uses an orthogonal

transformation to convert a set of observations of possibly correlated variables into a set of values

of linearly uncorrelated variables called principal components The number of principal components

is less than or equal to the number of original variables This transformation is defined in such a way that the first principal component has the largest possible variance (that is, accounts for as much of the variability in the data as possible), and each succeeding component in turn has the highest

variance possible under the constraint that it is orthogonal to (i.e., uncorrelated with) the preceding components The principal components are orthogonal because they are the eigenvectors of

the covariance matrix, which is symmetric PCA is sensitive to the relative scaling of the original variables

Phân tích thành phần chính ( PCA ) là một thủ tục thống kê có sử dụng một chuyển đổi trực giao để chuyển đổi một tập hợp các quan sát của các biến thể tương quan vào một tập hợp các giá trị của tuyến tính tương quan biến được gọi là thành phần chủ yếu Số lượng các thành phần chủ yếu là nhỏ hơn hoặc bằng số lượng các biến ban đầu Sự biến đổi này được định nghĩa trong một cách mà các thành phần chủ yếu đầu tiên có thể lớn nhất sai (có nghĩa là, chiếm càng nhiều các biến đổi trong

dữ liệu càng tốt), và mỗi thành phần kế tiếp lần lượt có phương sai cao nhất có thể dưới chế rằng đó

là trực giao với (tức là, không tương quan với) các thành phần trước Các thành phần chủ yếu là trực giao vì họ là những vector riêng của ma trận hiệp phương sai, mà là đối xứng PCA là nhạy cảm để

mở rộng quy mô tương đối của các biến ban đầu

PCA của một phân phối Gaussian đa biến tâm tại (1,3) với độ lệch chuẩn là 3 trong gần (0.878, 0.478) và hướng của 1 trong các hướng trực giao Các vectơ thể hiện là vector riêng của ma trận hiệp phương sai theo tỷ lệ các căn bậc hai của eigenvalue tương ứng, và dịch chuyển sao đuôi của họ đang ở mức trung bình

PCA được định nghĩa toán học là một trực giao biến đổi tuyến tính biến đổi dữ liệu sang máy mới hệ thống phối hợp như vậy mà phương sai lớn nhất của một số chiếu của dữ liệu đi kèm để nằm trên toạ độ đầu tiên (gọi là các thành phần cơ bản đầu tiên), lớn nhất thứ hai đúng vào thứ hai phối hợp, và như vậy

Hãy xem xét một dữ liệu ma trận , X , với cột khôn ngoan không có nghĩa là thực nghiệm

(trung bình mẫu của mỗi cột đã được chuyển sang zero), nơi mỗi n hàng đại diện cho một sự lặp lại khác nhau của thí nghiệm, và mỗi p cột cho một loại đặc biệt của dư kiện (nói, kết quả từ một cảm

biến đặc biệt)

Về mặt toán học, việc chuyển đổi được xác định bởi một tập hợp các p vectơ chiều của trọng lượng hoặc tải trọng mà mỗi bản đồ vector hàng của X với một

vector mới của thành phần chính điểm , do

trong một cách mà các biến số cá nhân của t xem qua các dữ liệu thiết lập liên tục kế thừa phương sai tối đa có thể từ x , với mỗi vector tải w hạn chế được một vector đơn vị

2.2 Đặc tính của PCA:

 Giúp giảm số chiều của dữ liệu,

 Thay vì giữ lại các trục tọa độ của không gian cũ, PCA xây dựng một không gian mới ít chiều

hơn, nhưng lại có khả năng biểu diễn dữ liệu tốt tương đương không gian cũ, nghĩa là đảm bảo độ

biến thiên (variability) của dữ liệu trên mỗi chiều mới

 Các trục tọa độ trong không gian mới là tổ hợp tuyến tính của không gian cũ, do đó về mặt ngữ nghĩa, PCA xây dựng feature mới dựa trên các feature đã quan sát được Điểm hay là những feature này vẫn biểu diễn tốt dữ liệu ban đầu

 Trong không gian mới, các liên kết tiềm ẩn của dữ liệu có thể được khám phá, mà nếu đặt trong không gian cũ thì khó phát hiện hơn, hoặc những liên kết như thế không thể hiện rõ

2.3 Mục tiêu của PCA:

Mục tiêu của PCA là tìm một không gian mới (với số chiều nhỏ hơn không gian cũ) Các trục tọa độ trong không gian mới được xây dựng sao cho trên mỗi trục, độ biến thiên của dữ liệu trên đó

là lớn nhất có thể Tiếng Việt thì dài dòng, nhưng tiếng Anh thì mục tiêu này gọi là maximize the

variability Ba chữ này gói gọn ý tưởng chính của PCA.

Minh họa PCA: phép chiếu lên các trục tọa độ khác nhau có thể cho cách nhìn rất khác nhau về cùng một dữ liệu

Một ví dụ kinh điển là hình ảnh về con lạc đà Cùng là một con lạc đà nhưng nếu nhìn từ bên hông thì

ta có được đầy đủ thông tin nhất, trong khi nhìn từ phía trước thì thật khó để nói nó là lạc đà

Một ví dụ thuyết phục hơn được minh họa trong hình sau

Minh họa PCA: tìm các trục tọa độ mới sao cho dữ liệu có độ biến thiên cao nhất

Giả sử tập dữ liệu ban đầu (tập điểm màu xanh) được quan sát trong không gian 3 chiều (trục màu đen) như hình bên trái Rõ ràng 3 trục này không biểu diễn được tốt nhất mức độ biến thiên của dữ liệu PCA do đó sẽ tìm hệ trục tọa độ mới (là hệ trục màu đỏ trong hình bên trái) Sau khi tìm được không gian mới, dữ liệu sẽ được chuyển sang không gian này để được biểu diễn như trong hình bên phải Rõ ràng hình bên phải chỉ cần 2 trục tọa độ nhưng biểu diễn tốt hơn độ biến thiên của dữ liệu sovới hệ trục 3 chiều ban đầu

Một điểm rất đẹp nữa của PCA là các trục tọa độ trong không gian mới luôn đảm bảo trực giao đôi một với nhau, mặc dù trong không gian ban đầu, các trục có thể không trực giao

2.4 Thuật toán PCA

Cho ma trận Các bước của PCA lần lượt như sau:

2.4.1 Tiền xử lí

Dữ liệu ban đầu có thể có giá trị thay đổi bất thường Ví dụ trên feature 1 (cột 1 của ) giá trị thay đổi trong khoảng (0, 1), trên feature 2 lại biến thiên trong đoạn (-100, 100) Rõ ràng cần phải có một bước tiền xử lí để chuẩn hóa giá trị trên các cột của ma trận X Có 2 cách tiền xử lí thường được

dùng cho PCA là Centered PCA và Normed PCA Centered PCA mang tất cả các feature (các cột

của X) về cùng một gốc tọa độ:

,

, (1a)

Trong đó n là số dòng của X, là mean của cột thứ j của X, được tính như trên Normed

PCA mang tất cả các feature về cùng một gốc tọa độ, đồng thời chuẩn hóa về cùng một quãng

standard-deviation bằng 1:

,

(1b)

Trong đó là độ lệch chuẩn (standard deviation) của cột thứ j trong X.

Thông thường Normed PCA hay được dùng Sau bước tiền xử lí, ma trận sẽ là đầu vào cho bước tiếp theo

2.4.2 Xây dựng không gian mới

Tính ma trận hiệp phương sai (covariance) của các feature trong :

cơ sở Toán học ở cuối bài sẽ giải thích tại sao trị riêng và vector riêng lại xuất hiện (có phần bất ngờ) trong PCA như vậy

2.4.3 Chuyển dữ liệu từ không gian ban đầu vào không gian mới

Thông thường không gian mới không được xây dựng bằng tất cả p vector riêng trong (4), mà thông thường chỉ từ k vector riêng đầu tiên, với k < p Tại sao là các vector đầu tiên, và chọn k bao

nhiêu thì tốt, ta sẽ bàn trong phần cuối

Khi đó tọa độ các điểm trong hệ tọa độ mới là (5)

[eivec, eival] = eig(V);

% display the eigenvalues accumulation and %

% Ask for number of new coordinates

respone = input('Number of new coordinates: ');

2.6 Cơ sở toán học của PCA:

Mục tiêu của PCA là tìm trục cho không gian mới sao cho nó biểu diễn tốt nhất mức độ biến thiên của dữ liệu Giả sử có ma trận

Trong đó là các điểm trong không gian ban đầu Nhiệm vụ của PCA là đi tìm không

gian mới với số chiều nhỏ hơn m, sao cho biểu diễn tốt n điểm trong X.

Hình sau minh họa trọn vẹn ý tưởng của PCA

Minh họa ý tưởng của PCATrong hình trên, gọi là một trục trong không gian mới cần tìm Khi đó tọa

độ của trên trục chính là tích vô hướng (xem thêm ý nghĩa hình học của tích vô hướng)

Mục tiêu của PCA là tìm sao cho nó biểu diễn tốt nhất, nghĩa là sao cho lớn nhất Hơn

nữa, điều này còn phải đúng cho tất cả n điểm trong X, nên mục tiêu của PCA là tìm sao cho tất cả

các là cực đại Rõ ràng khi cực đại thì trục biểu diễn tốt nhất tất cả các vector cột trong X

Nói cách khác, mục tiêu của PCA là cực đại tổng

Nên mục tiêu của PCA là: (1)