Bài giảng giới thiệu về mô hình hồi quy bội, các giả thiết mô hình, ước lượng các tham số, hệ số xác định, ma trận tương quan, ma trận hiệp phương sai, khoảng tin cậy của các hệ số hồi qui, kiểm định giả thiết,... Mời các bạn cùng tham khảo nội dung chi tiết.
Chương 4 Mơ hình hồi qui bội Mơ hình : Mơ hình hồi qui tuyến tính k biến (PRF) : E(Y/X2i,…,Xki) = 1+ 2X2i +…+ kXki Yi = 1+ 2X2i + …+ kXki + Ui Trong đó : Y biến phụ thuộc X2,…,Xk các biến độc lập là hệ số tự do (hay hệ số chặn) ( j=2,…,k) là các hệ số hồi qui riêng, cho biết khi Xj tăng 1 đvị thì trung bình của Y sẽ thay đổi j đvị trong trường hợp các biến độc lập khác khơng đổi Khi k = 3 thì ta có mơ hình hồi qui tuyến tính ba biến : E(Y/X2, X3) = 1+ 2X2i + 3X3i (PRF) j Yi = 1+ 2X2i + 3X3i + Ui 2. Các giả thiết của mơ hình • Giả thiết 1: Các biến độc lập phi ngẫu nhiên, giá trị được xác định trước E(Ui/Xi) = 0 • Giả thiết 2 : i • Giả thiết 3 : Var(Ui/Xi) = i Cov(Ui, Uj) = 0 i j • Giả thiết 4 : Cov(Xi, Ui) = 0 i • Giả thiết 5 : Ui ~ N (0, 2) • Giả thiết 6 : i 3. Ước lượng các tham số a. Mơ hình hồi qui ba biến : Yi = 1+ 2X2i + 3X3i + Ui (PRF) Hàm hồi qui mẫu : Yi Yˆi ei ˆ1 ˆ2 X 2i ˆ3 X 3i ei Giả sử có một mẫu gồm n quan sát các giá trị (Yi, X2i, X3i). Theo phương pháp OLS, βˆ (j= 1,2,3) phải thoả mãn : j f i e Tức là : f ˆ f ˆ f ˆ 2(Yi ˆ ˆX 2i ˆ X )( 1) 3i 2(Yi ˆ ˆX 2i ˆ X )( X ) 3i 2i 2(Yi ˆ ˆX 2i ˆ X )( X ) 3i 3i 1 Do ei Yi βˆ βˆ X2i βˆ X3i Giải hệ ta có : ˆ x 2i y i x 2i x 3i y i ˆ ˆ x x Y x x 2i ˆX 2 3i x 2i x 3i 3i ( 2i x x 2i x 3i ) x 2i x 3i 3i ˆX 3 ( x 3i y i x 2i y i x 2i x 3i ) * Phương sai của các hệ số ước lượng Var( βˆ ) Var( βˆ ) Var( βˆ ) X2x 3i X3x 2i n x 2i x x x 2i x 3i x x 3i ( x 2i x 3i ) σ σ 2 3i ( x 2i 3i x 2i x 3i ) 2 2i ( x 2i x 3i ) σ Trong đó : 2 = Var(Ui) chưa biết nên dùng ước lượng của nó là : ei σˆ n Với : ei2 TSS ESS y i2 βˆ x 2i y i βˆ x 3i y i b. Mơ hình hồi qui tuyến tính k biến Yi = 1+ 2X2i + …+ kXki+ Ui (PRF) Hàm hồi qui mẫu : ˆ i ei βˆ βˆ X2i Yi Y βˆ k Xki ei ˆj β Theo phương pháp OLS, (j= 1,2,…,k) phải thoả mãn : f i e Tức là : f =0 βˆ1 2( Yi βˆ βˆ X2i βˆ k Xki )( 1) M M 2( Yi βˆ βˆ X2i βˆ k Xki )( Xki ) f =0 βˆk Viết hệ dưới dạng ma trận : T βˆ X X X X βˆ T T X Y T X Y βˆ T XX βˆ βˆ T X Y M βˆ k n X2i Xki X2i X2i M Xki X2i Yi X2i Yi M Xki Yi X3i X2iX3i M XkiX3i Xki X2iXki ki X 4. Hệ số xác định ESS R = = 1− TSS ei2 yi2 * Chú ý : Khi tăng số biến độc lập trong mơ hình thì R2 cũng tăng cho dù các biến độc lập tăng thêm có ảnh hưởng mơ hình hay khơng . Do đó khơng thể dùng R2 để quyết định có nên thêm biến vào mơ hình hay khơng mà thay vào đó có thể sử dụng hệ số xác định hiệu chỉnh : R i i e /( n k ) y /( n 1) Hay: n R (1 R ) n k Tính chất củaR : Khi k > 1, R R có th ể âm, trong trường hợp âm, R ta coi giá trị của nó bằng 0. 2 Biến độc lập đưa vào MH phải thỏa đồng thời 2 điều kiện: • Biến ĐL đưa vào MH làm hệ số xác định hiệu chỉnh tăng Hệ số hồi qui của biến đưa vào khác khơng có ý nghĩa 5. Ma trận tương quan Xét mơ hình : Y ˆ i βˆ βˆ X2i βˆ k Xki Gọi rtj là hệ số tương quan tuyến tính giữa biến thứ t và thứ j. Trong đó Y được xem là biến thứ 1 Ma trận tương quan tuyến tính có dạng : r12 r1k r21 r2k rk1 rk 6. Ma trận hiệp phương sai var( βˆ ) cov( βˆ , βˆ ) cov( βˆ , βˆ k ) cov( βˆ ) cov( βˆ , βˆ ) var( βˆ ) cov( βˆ , βˆ k ) cov( βˆ k , βˆ ) cov( βˆ k , βˆ ) var( βˆ k ) Để tính ma trận hiệp phương sai của các hệ số, áp dụng cơng thức : cov( βˆ ) T ( X X) σ 7. Khoảng tin cậy của các hệ số hồi qui Khoảng tin cậy của βˆ j j (j =1,2, ,k) là : ( n −k ) ˆ se( β j ) * t α /2 Trong đó, k là số tham số trong mơ hình α là múc ý nghĩa, hay độ tin cậy 1α 8. Kiểm định giả thiết a Kiểm định H0 : j = * ( j = 1, 2, …, k) Với mức ý nghĩa α ( độ tin cậy 1α ) Phần này hồn tồn tương tự như ở mơ hình hồi qui hai biến, khác duy nhất ở chỗ bậc tự do của thống kê t là (nk) b. Kiểm định giả thiết đồng thời : H0 : 2 = 3 =…= k = 0 H0 : R2 = 0 H1: j 0 (2 j k) H1 : R2 V ới mứể c ý nghĩa Cách ki m định : R (n k ) F Tính (1 R )(k 1) Nếu F > F (k1, nk) bác bỏ H0, Nếu p(F* > F)