Trong mô hình tuyến tính tổng quát (GLM), biến phụ thuộc được biểu diễn một cách tuyến tính qua các biến độc lập. Véc tơ chứa các hệ số tuyến tính trong biểu diễn nói trên ứng với ma trận X được ký hiệu là véc tơ b. Nhìn
39
chung, biến phụ thuộc y không thể hoàn toàn thu được bởi sự kết hợp tuyến tính của các cột X và sự khác biệt giữa thực tế và bài toán dự báo gọi là các sai số dự báọ Các sai số dự báo được lưu trữ trong một véc tơ ký hiệu là ẹ Dạng chính tắc của mô hình được biểu diễn bằng phương trình
y = Xb + ẹ (1.11) Các giá trị dự báo được lưu trữ trong một véc tơ y
. Như vậy y Xb và phương trình (1.11) có thể viết lại thành
y = y + e;
(1.12) e = y - y
Ta có thể bắt đầu với dạng đơn giản nhất của mô hình tuyến tính tổng quát là mô hình hồi quy tuyến tính. Lúc đó, trong phương trình (1.11) các biến độc lập được giả thiết là tất định (tức là giá trị của nó không thay đổi trong từng quan sát). Các phần dư e được hiểu như là các biến ngẫu nhiên độc lập có cùng phân phối 2
N(0, ). Giá trị của biến phụ thuộc được giả định là một mẫu ngẫu nhiên đang được quan tâm, véc tơ b được xem như là ước lượng được tính theo véc tơ ỵ
Với giả thiết của mô hình, véc tơ tham số được ước lượng bởi b qua công thức
b = (XTX)-1XTy . Tổng bình phương của y ký hiệu là
SST = yTy . (1.13) Thay công thức (1.12) vào (1.13) ta có
( ) ( ).
T T
T
SS y y y e y e (1.14)
Vì 2ye = 0 nên phương trình (1.14) có thể đưa về dạng
T
T T
T
40
Phần thứ nhất phương trình (1.15) gọi là tổng bình phương của mô hình và được ký hiệu là SSM, do vậy ta có phương trình
T
T M
SS y y = (Xb) Xb .
Phần thứ hai của phương trình (1.15) gọi là tổng bình phương phần dư hoặc tổng bình phương sai số, và được ký hiệu là SSR. Như vậy, ta có phương trình
T T T
T
SS e e = (y-y) (y-y)=( y-Xb) ( y-Xb).