Phân tích nhân tố là một kỹ thuật phụ thuộc lẫn nhau trong đó toàn bộ các mối liên hệ phụ thuộc lẫn nhau sẽ đƣợc nghiên cứu. Phƣơng pháp này đƣợc sử dụng chủ yếu để thu nhỏ và tóm tắt dữ liệu dƣới dạng một số ít các nhân tố cơ bản.
Mô hình phân tích nhân tố đƣợc thể hiện bằng phƣơng pháp nhƣ sau, nếu các biến đƣợc chuẩn hóa:
X i = Ai1 F1 + Ai2 F2 + Ai3 F3 + ... + Aim Fm + ViUi
Trong đó:
Xi : Biến thứ i chuẩn hóa.
Aij: Hệ số qui bội chuẩn hóa của nhân tố đặc trƣng j đối với biến i. Fi : Các nhân tố chung.
Vi: Hệ số hồi qui chuẩn hóa của nhân tố đặc trƣng i đối với biến i. Ui: Nhân tố đặc trƣng của biến i.
m: Số nhân tố chung.
Các nhân tố đặc trƣng có tƣơng quan với nhau và cả nhân tố chung. Bản thân các nhân tố chung cũng có thể đƣợc diễn tả nhƣ những kết hợp tuyến tính của biến quan sát: Fi = Wi1 X1 + Wi2 X 2 + Wi3 X3 + ... + Wik X k Trong đó: Fi : Ƣớc lƣợng trị số của nhân tố thứ i Wi : Trọng số nhân tố k : Số biến.
Ta có thể chọn các trọng số nhân tố sao cho nhân tố thứ nhất giải thích đƣợc phần lớn biến thiên nhiều nhất trong toàn bộ biến thiên. Sau đó ta chọn một tập hợp các trọng số thứ hai sao cho nhân tố thứ hai giải thích đƣợc phần lớn biến thiên còn
lại và không có tƣơng quan với nhân tố thứ nhất. Nguyên tắc này đƣợc áp dụng nhƣ vậy để tiếp tục chọn trọng số cho các nhân tố tiếp theo. Do vậy, các nhân tố đƣợc ƣớc lƣợng sao cho các trọng số của chúng không giống nhƣ các giá trị của biến gốc là không có tƣơng quan với nhau. Hơn nữa, nhân tố thứ nhất giải thích đƣợc nhiều nhất biến thiên của dữ liệu, nhân tố thứ hai giải thích đƣợc nhiều thứ nhì…