Mô hình hồi qui bội (KINH tế LƯỢNG SLIDE)

Chương Mơ hình hồi qui bội Mơ hình : Mơ hình hồi qui tuyến tính k biến (PRF) : E(Y/X ,…,X ) = β + β X +…+ β X 2i ki 2i k ki Y = β + β X + …+ β X + U i 2i k ki i Trong : Y - biến phụ thuộc X ,…,X - biến độc lập k β hệ số tự β hệ số hồi qui riêng, j β cho biết X tăng đvị trung bình Y thay đổi β đvị j j j trường hợp yếu tố khác không đổi (j=2,…,k) Khi k = ta có mơ hình hồi qui tuyến tính ba biến : E(Y/X , X ) = β + β X + β X (PRF) 2 3 Y =β +β X +β X +U i 2i 3i i Các giả thiết mơ hình • Giả thiết 1: Các biến độc lập phi ngẫu nhiên, giá trị xác định trước • • • • • • Giả thiết : E(U ) = ∀i i Giả thiết : Var(U ) =σ2 ∀i i Giả thiết : Cov(U , U ) = i ≠ j i j Giả thiết : Cov(X , U ) = ∀i i i Giả thiết : U ~ N (0, σ2) ∀i i Giả thiết : Khơng có tượng cộng tuyến biến độc lập Ước lượng tham số a Mơ hình hồi qui ba biến : Y =β +β X +β X +U i 2i 3i i Hàm hồi qui mẫu : (PRF) ˆi + ei = βˆ1 + βˆ2X2i + βˆ3X3i + ei Yi = Y Giả sử có mẫu gồm n quan sát giá trị (Yi, X2i, X3i) Theo phương pháp OLS, βˆj (j= 1,2,3) phải thoả mãn : ∑e i → Tức :  ∂ ∑ ei2 =0   ∂βˆ1 ∑ 2( Yi − βˆ1 − βˆ2X2i − βˆ3X3i )(−1) =    ∂ ∑ ei   ˆ = ⇔ ∑ 2( Yi − βˆ1 − βˆ2X2i − βˆ3X3i )(− X2i ) =  ∂β2   ∂ e2 ∑ 2( Yi − βˆ1 − βˆ2X2i − βˆ3X3i )(− X3i ) =  ∑ i =0  ∂βˆ3 Do ei = Yi − βˆ1 − βˆ2X2i − βˆ3X3i Giải hệ ta có : βˆ2 βˆ3 x y ∑x − ∑x x ∑x y ∑ = ∑x ∑x − (∑x x ) x y ∑x − ∑x x ∑x y ∑ = ∑x ∑x − (∑x x ) 3i 2i i 2i 3i 2i 3i i 2i 3i βˆ1 = Y − βˆ2X2 − βˆ3X3 2i 3i 3i i 2i 3i 2i 3i 2i 3i 2i i * Phương sai hệ số ước lượng ( ) 1  X x − X x ∑ 3i 2i ˆ  Var( β1) =  + ×σ 2  n ∑ x2i ∑ x3i − ( ∑ x2ix3i )  x ∑ 3i ˆ Var( β2) = ×σ 2 ∑ x2i ∑ x3i − ( ∑ x2ix3i ) Var( βˆ3) = ∑x ∑x ∑x 2i 3i 2i − ( ∑ x2ix3i ) 2 ×σ Trong : σ2 = Var(Ui) σ2 chưa biết nên dùng ước lượng : σˆ e ∑ = i n− Với : 2 ˆ ˆ e = TSS − ESS = y − β x y − β ∑ i ∑ i ∑ 2i i ∑ x3i yi b Mơ hình hồi qui tuyến tính k biến Y = β + β X + …+ β X + U i 2i k ki i (PRF) (i = 1,…, n) Hàm hồi qui mẫu : ˆi + ei = βˆ1 + βˆ2X2i + + βˆk Xki + ei Yi = Y Theo phương pháp OLS, βˆj (j= 1,2,…,k) phải thoả mãn : ∑e i → Tức :  ∂ ∑ ei2  ˆ =0  ˆ ˆ ˆ ( Y − β − β X − − β ∂ β ∑ i 2i k Xki)( −1) =    ⇔      ∂ e2 ˆ ˆ ˆ ( Y − β − β X − − β X )( − X ) =  ∑ i 2 i k ki ki ∑ i  =0   ∂βˆk  ( ) T ˆ Viết hệ dạng ma trận : X X β = X Y ( ) ( X Y) ⇒ βˆ = X X T T −1 T Hệ số xác định ESS RSS R = = 1− = 1− TSS TSS ∑e i e ∑ i y ∑ i = RSS = TSS − ESS = ∑ yi2 − βˆ2 ∑ x2iyi − − βˆk ∑ xkiyi * Chú ý : Khi tăng số biến độc lập mơ hình R2 tăng cho dù biến độc lập thêm vào có ảnh hưởng mơ hình hay khơng Do khơng thể dùng R2 để định có hay khơng nên thêm biến vào mơ hình mà thay vào sử dụng hệ số xác định hiệu chỉnh : R Hay: e ∑ = 1− ∑y i i /(n − k) /(n − 1) n−1 R = − (1 − R ) n− k 2 Tính chất R2 : - Khi k > 1, R2 ≤ R2 ≤ - R2 âm, trường hợp âm, ta coi giá trị * Cách sử dụng R để định đưa thêm biến vào mơ hình : Mơ hình ba biến Mơ hình hai biến ˆi = βˆ1 + βˆ2X2i (1) Y R12 ˆi = βˆ1 + βˆ2X2i + βˆ3X3i (2) Y R22 2 R R - Nếu R > R chọn mơ hình (1) , tức không cần đưa thêm biến X3 vào mơ hình Ngược lại, ta chọn mơ hình (2) 2 • So sánh hai giá trị R2 : Nguyên tắc so sánh : - Cùng cỡ mẫu n - Cùng biến độc lập - Biến phụ thuộc phải dạng giống Biến độc lập dạng Ví dụ : Ma trận tương quan ˆi = βˆ1 + βˆ2X2i + + βˆk Xki Xét mơ hình : Y Gọi rtj hệ số tương quan tuyến tính biến thứ t thứ j Trong Y xem biến thứ Ma trận tương quan tuyến tính có dạng :  r12 r1k  r  r2k 21       rk1 rk2  Ma trận hiệp phương sai  var(βˆ1) cov(βˆ1, βˆ2)  ˆ ˆ ˆ cov( β , β ) var( β  2) ˆ cov(β ) =   cov(βˆk , βˆ1) cov(βˆk , βˆ2) cov(βˆ1, βˆk )  cov(βˆ2, βˆk )   var(βˆk )  Để tính ma trận hiệp phương sai hệ số, áp dụng công thức : T −1 ˆ cov(β ) = ( X X) σ RSS với σˆ = n− k Trong đó, k số tham số mơ hình Khoảng tin cậy hệ số hồi qui Khoảng tin cậy β (j =1,2, …, k) : j βˆj ± sˆe( βˆj )tα / 2(n − k) Trong đó, k số tham số mơ hình Kiểm định giả thiết a Kiểm định H0 : β j = a (=const) ( j = 1, 2, …, k) Phần hoàn toàn tương tự mơ hình hồi qui hai biến, khác chỗ bậc tự thống kê t (n-k) b Kiểm định giả thiết đồng thời : H0 : β = β =…= β k = ⇔ H0 : R2 = H1: ∃ β j ≠ (2 ≤ j ≤ k) ⇔ H1 : R2 ≠ 0Cách kiểm định : -Tính R /(k − 1) F= (1 − R ) /(n − k) Nếu p(F* > F) ≤ α Nếu F > F (k-1, n-k) α ⇒ bác bỏ H0, Tức hệ số hồi qui không đồng thời hay hàm hồi qui phù hợp c Kiểm định Wald Xét mơ hình (U) sau : Y =β +β X +β X +β X +β X +U i 2i 3i 4i 5i i (U) xem mơ hình khơng hạn chế Ví dụ : Với mơ hình (U), cần kiểm định H :β =β =0 Áp đặt giả thiết H lên mơ hình (U), ta có mơ hình hạn chế (R) sau : Y =β +β X +β X +U (R) i 2i 4i i Để kiểm định H , ta dùng kiểm định Wald Các bước kiểm định Wald : - Hồi qui mơ hình (U)  thu RSS U Hồi qui mơ hình (R)  thu RSS R Tính (RSSR − RSSu ) /( dfR − dfU ) F= RSSU / dfU dfU : bậc tự (U) dfR : bậc tự (R) - Nếu p (F* > F) ≤ α ⇒ bác bỏ H0, Nếu F > Fα(dfR- dfU, dfU) Ví dụ : VớI mơ hình (U), kiểm định H :β =β =β Áp đặt H lên (U), ta có mơ hình (R): Y =β +β X +β X +β X +β X +U i 2i 3i 4i 5i i hay Y = β + β (X +X +X ) + β X + U i 2i 3i 4i 5i i Đến đây, áp dụng bước kiểm định Wald cho giả thiết H Ví dụ : VớI mơ hình (U), kiểm định H :β +β =1 Thực tương tự ví dụ trên, áp đặt H lên (U), ta có mơ hình hạn chế (R) : Y = β + β X +(1- β )X + β X + β X +U i 2i 3i 4i 5i i (Y - X ) = β + β (X -X )+ β X + β X +U i 3i 2i 3i 4i 5i i * Chú ý : Trong Eviews, thủ tục kiểm định Wald viết sẵn, bạn cần gõ vào giả thiết bạn muốn kiểm định đọc kết Dự báo : a Dự báo giá trị trung bình Cho X 0, X 0, …, X Dự báo E(Y) k - Dự báo điểm E(Y) : 0 ˆ ˆ ˆ ˆ Y0 = β1 + β2X2 + + βk Xk - Dự báo khoảng E(Y) : ˆ0 − sˆe( Y ˆ0 )tα / 2(n − k) ; Y ˆ0 + sˆe( Y ˆ0 )tα / 2(n − k)] [Y Trong : Var( ) = X0T(XTX)-1X0 σ2 ˆ0 Y 1  X0  2  X =    0  Xk  b Dự báo giá trị cá biệt Y X=X0 [Yˆ0 − sˆe( Y0 − Yˆ0 )tα / 2(n − k) ; Yˆ0 + sˆe( Y0 − Yˆ0 )tα / 2(n − k)] Trong : ˆ ˆ Var( Y0 − Y0 ) = Var( Y0 ) + σ ... mơ hình (U), ta có mơ hình hạn chế (R) sau : Y =β +β X +β X +U (R) i 2i 4i i Để kiểm định H , ta dùng kiểm định Wald Các bước kiểm định Wald : - Hồi qui mô hình (U)  thu RSS U Hồi qui mơ hình. .. Tức hệ số hồi qui không đồng thời hay hàm hồi qui phù hợp c Kiểm định Wald Xét mô hình (U) sau : Y =β +β X +β X +β X +β X +U i 2i 3i 4i 5i i (U) xem mơ hình khơng hạn chế Ví dụ : Với mơ hình (U),... ước lượng : σˆ e ∑ = i n− Với : 2 ˆ ˆ e = TSS − ESS = y − β x y − β ∑ i ∑ i ∑ 2i i ∑ x3i yi b Mô hình hồi qui tuyến tính k biến Y = β + β X + …+ β X + U i 2i k ki i (PRF) (i = 1,…, n) Hàm hồi qui