Trang 1 GHI CHÚ CHƢƠNG 2 MÔ HÌNH HỒI QUY TUYẾN TÍNH ĐƠN (HAI BIẾN) Yi = 1 + 2Xi + Ui Phƣơng trình hồi quy tuyến tính tổng thể (PRF population regression function) Yi = 1 + 2Xi + Ui hay E(YXi) = .
GHI CHÚ CHƢƠNG MƠ HÌNH HỒI QUY TUYẾN TÍNH ĐƠN (HAI BIẾN) Yi = 1 + 2Xi + Ui -Phƣơng trình hồi quy tuyến tính tổng thể (PRF: population regression function) Yi = 1 + 2Xi + Ui hay E(Y/Xi) = 1 + 2Xi -Phƣơng trình hồi quy tuyến tính mẫu (SRF: samble regression function) Yi Xi ei hay Yi Xi Trong : Ui - sai số tổng thể (nhiễu) ; E(Y/Xi) – Trung bình theo xác suất (kì vọng) Y với giá trị Xi xác định ei Yi Yi sai số mẫu (phần dư = residual); Yi giá trị ước lượng (hay dự báo E(Y/Xi) Ghi : - PRF thường không biết, ta tìm SRF (một ước lượng PRF) - SRF thay đổi theo mẫu liệu (không nhất) thường tìm PP bình phương nhỏ ei2 (OLS) cho : Trang 1 Công thức tính hệ số hồi quy (Xi X )(Yi (Xi Y) X) Các tổng bình phƣơng - Total Sum of Squares : TSS X A)2 ( Ai Y )2 (Yi (n 1) S A2 - Residual Sum of Squares : RSS Ai2 (Yi nXY i nX Y X (n 1) SY2 (Y i Y )2 - Explained Sum of Squares : ESS Lưu ý: X iYi ( ) ( Xi X )2 ( 2 ) ( n 1) S X nA Yi )2 Mối liên hệ tổng bình phƣơng: ei TSS = ESS + RSS Hệ số xác định – đo mức độ phù hợp hàm hồi quy mẫu với liệu quan sát: R2 ESS TSS RSS TSS (càng gần SRF phù hợp) Hệ số tƣơng quan hai biến X Y – đo mức độ kết hợp tuyến tính X Y: r (Xi (Xi X )(Yi X) Y) (Yi Y) (|r| gần mức độ tuyến tính chặt) r2 = R2 phương trình hồi quy tuyến tính tính Dấu r dấu với Trang 2 I KHOẢNG TIN CẬY CỦA CÁC HỆ SỐ HỒI QUY 1 VÀ 2 i i Trong i với i t Se( i ) với k =2 /2;n k hệ số hồi quy ƣớc lƣợng i (của tổng thể) Sơ đồ tính se( ) se( ) var( ) var( ) se( ) var( ) (X i 2 (1-R )TSS X) RSS RSS TSS ESS RSS nk ( -1)ESS R2 = Yi X iYi 1 Yi Sơ đồ tính se( 1 ) se( 1 ) var( 1 ) 2 se( 1 ) var( 1 ) var(1 ) X i2 n ( X i X ) (tương tự mục 1) Trang RSS II Kiểm định t – Kiểm định giá trị hệ số hồi quy H0 : i = a H1 : i a (i = hay 2) Giá trị thống kê kiểm định ti i a se( i ) Bác bỏ H0 ti > t/2; n-k (cách 1) với k =2 P ti < (cách – đọc giá trị P ti từ phần mềm) Ghi : 1 tung độ gốc Nếu 1 = đường thẳng hồi quy qua gốc toạ độ 2 hệ số góc (hệ số độ dốc, hệ số hồi quy với X) Nếu 2 = biến X khơng ảnh hƣởng đến Y Nếu qua kiểm định ta bác bỏ H0 : 2 = đến chấp nhận H1 : 2 ta kết luận : biến X có ảnh hƣởng đến Y (hay X Y có mối liên hệ có ý nghĩa thống kê) Loại giả thuyết Hai phía Phía phải Phía trái Kiểm định phía (bên, đi) kiểm định phía H0 H1 Miền bác bỏ H0 βi = a βi ≠ a ti > t/2; n-k βi > a βi a(hay βi = a) ti > t ;n-k βi < a βi a(hay βi = a) ti < -t ;n-k Trang III Kiểm định F – Sự phù hợp hàm hồi quy H0 : Hàm hồi quy không phù hợp H1 : Hàm hồi quy phù hợp Giá trị thống kê kiểm định F R (n k ) (k 1)(1 R ) Với k = 2: mô hình xét có hệ số 1 2 Bác bỏ H0 F > F; k-1; n-k (cách 1) P F < (cách – đọc giá trị P F từ phần mềm) Ghi : - Giả thuyết H0 R2tt = - Đặc biệt: mơ hình hồi quy tuyến tính đơn (1 biến độc lập) H0 2 =0 (Nghĩa ta dùng kiểm định F thay cho kiểm định t trường hợp này) Trang ĐỌC KẾT QUẢ TỪ PHẦN MỀM EVIEWS: HỒI QUY VỚI BIẾN ĐỘC LẬP Dependent Variable: Y Method: Least Squares Date: 03/25/10 Time: 08:43 Sample: N=20 Included observations: n=20 Variable Coefficient Std Error t-Statistic C =22.67241 se( ) =0.445632 t1=50.87697 P1=0.0000 t2= -18.18811 P2=0.0000 1 = -1.534483 se( ) =0.084367 X 2 R2= 0.948396 R = 0.945529 R-squared Adjusted R-squared Mean dependent var S.D dependent var Y = 15.00000 SY =2.752989 Akaike info criterion Schwarz criterion F-statistic Prob(F-statistic) 2.047810 2.147383 F = 330.8074 PF = 0.000000 = 0.642523 RSS = 7.431034 -18.47810 1.894472 S.E of regression Sum squared resid Log likelihood Durbin-Watson stat Prob Phƣơng trình hồi quy mẫu (SRF): Y X 22,6056-1,5328X Ta có k=2 Mối quan hệ bảng : R (n k ) n 1 RSS t ;t ; R (1 R ) ; ;F (k 1)(1 R ) nk nk se( ) se( ) 1 2 2 2 Trang IV Dự báo Dự báo giá trị trung bình Y với X=X0 Kí hiệu E(Y/X0) Y0 E (Y / X ) Y0 Y0 ; se(Y0 ) t / 2; n se(Y0 ) Y0 ; Var (Y0 ) Y0 1 X se(Y0 ) var(Y0 ) 1 ( X X )2 Var (Y0 ) 2 n ( X X ) i (xem cách tính ( X i X )2 mục I) Dự báo giá trị riêng biệt Y0 với X=X0 Y0 Y0 Y0 t / 2; n se(Y0 Y0 ) Y0 ; se(Y0 Y0 ) Y0 ; Var (Y0 Y0 ) Y0 1 X se(Y0 Y0 ) var(Y0 Y0 ) ( X X )2 Var (Y0 Y0 ) 1 2 n ( X X ) i Trang GHI CHÚ CHƢƠNG MỞ RỘNG MƠ HÌNH HỒI QUY TUYẾN TÍNH ĐƠN Đặc biệt : mơ hình hồi quy tuyến tính đơn Yt = 1 + 2t + Ut với biến giải thích biến thời gian t, phương trình E(Y/t) = 1 + 2t gọi phương trình hồi quy xu hướng - Nếu 2 > chuỗi thời gian Y có xu hướng tăng - Nếu 2 0 hay giảm Mơ hình Semilog (log – lin) : lnYi = 1 + 2Xi + Ui PT hồi quy mẫu : ln Y i Ý nghĩa 2 Đặc biệt : ln Y t 2 Xi : Nếu X tăng 1đơn vị trung bình Y tăng (nếu < 0) khoảng 100 100 1 2 >0 hay giảm >0) % t (biến giải thích thời gian) % tốc độ tăng trưởng Y theo đơn vị t ( tốc độ giảm sút Y theo đơn vị t ( 0 hay giảm Mơ hình nghịch đảo : Yi PT hồi quy mẫu : Y i Xi Ui Xi Ý nghĩa : Khi X dần tới vơ trung bình Y tiến tới giới hạn hay tiệm cận : X tăng trung bình Y tăng khơng vượt q 1 (giá trị dù X có tăng : X tăng trung bình Y giảm không nhỏ Trang 10 dù X có tăng Ghi chƣơng ĐA CỘNG TUYẾN 1)Bản chất đa cộng tuyến - Mơ hình Yi = 1 + 2X2i + 3X3i +…+kXki + Ui với biến độc lập trở lên xảy tượng đa cộng tuyến biến độc lập có mối liên hệ - Đa cộng tuyến hoàn hảo: 2X2i + 3X3i +…+kXki = (tồn i ≠0) ước lượng i - Đa cộng tuyến khơng hồn hảo: 2X2i + 3X3i +…+kXki + Vi = (tồn i ≠0) ước lượng i Ví dụ: xét Yi = 1 + 2X2i + 3X3i + Ui với Y- chi tiêu người DakLak; X2- thu nhập; X3 – giá cà phê Giả sử: X2 10 15 18 24 30 TH1: X3 50 75 90 120 150 TH2: X3 52 75 97 129 152 2) Một số hậu đa cộng tuyến (không hoàn hảo) - R2 cao tỉ số t khơng có ý nghĩa => Các KĐ t F mâu thuẫn - Dấu hệ số hồi quy ước lượng sai => khơng giải thích HSHQ - Tuy nhiên, đa cộng tuyến không ảnh hưởng đến chất lượng dự báo giá trị Y Trang 19 Ví dụ: Y- chi tiêu tiêu dùng (USD); X2 - thu nhập (USD); X3- giàu có (USD) Trang 20 3) Phát đa cộng tuyến - Xuất hậu 2) - Hệ số tương quan cặp biến giải thích cao (trị tuyệt đối lớn 0,8) Tuy nhiên tiêu chuẩn chưa đáng tin - Xét mơ hình hồi quy phụ biến giải thích - Sử dụng nhân tử phóng đại VIF (tham khảo giáo trình tr 138 – 140) Ví dụ: Xét mơ hình hồi quy Yi = 1 + 2X2i + 3X3i + Ui (1) Y 6,3 X2 6 6,5 X3 8,1 8,6 8,7 a) Bạn tìm hệ số tương quan X2 X3 nhận xét ui , với mức ý nghĩa 5%, kết luận xem có b) Sử dụng mơ hình hồi quy phụ X 2i X 3i tượng đa cộng tuyến xảy mô hình hồi quy (1) hay khơng ? Giải a) Hệ số tương quan X2 X3: r =0,9406 có trị tuyệt đối lớn 0,8 Nhận xét : có dấu hiệu cộng tuyến hai biến giải thích b) H0 : Khơng có tượng đa cộng tuyến mơ hình Yi = 1 + 2X2i + 3X3i + Ui ui (với k=2) Xét mơ hình hồi quy phụ X 2i X 3i R (n k ) F 30, 7006 > F ,k-1;n-k =7,71 dẫn đến bác bỏ H0 (k 1)(1 R ) Vậy mơ hình Yi = 1 + 2X2i + 3X3i + Ui xảy tượng đa cộng tuyến 4) Xử lí đa cộng tuyến: Bỏ bớt biến giải thích; sử dụng sai phân cấp Trang 21 Các giả thiết mơ hình hồi quy tuyến tính Xét mơ hình: Yi = 1 + 2X2i + 3X3i +…+kXki + Ui (*) - Giả thiết 1: Các biến giải thích khơng ngẫu nhiên (giá trị chúng giả sử biết) Biến phụ thuộc ngẫu nhiên - Giả thiết 2: Kì vọng Ui 0: E(Ui/X1, ,Xk) = - Giả thiết 3: Phương sai sai số Ui không đổi Var(Ui) = 2 - không thay đổi (X1, ,Xk) thay đổi giá trị - Giả thiết 4: Khơng có tượng tương quan Ui Cov(Ui,Uj) = - Giả thiết 5: Khơng có đa cộng tuyến trong (*) Giả thiết từ đến đảm bảo rằng: ước lượng (*) phương pháp bình phương bé (OLS) tuyến tính, khơng chệch có phương sai hệ số hồi quy ước lượng nhỏ (BLUE) -Giả thiết 6: Ui có phân phối chuẩn: Ui N(0, 2) Giả thiết cần thiết để thực dự báo Trang 22 Ghi chƣơng Phƣơng sai sai số thay đổi Bản chất Var(Ui) = i2 - thay đổi (X1, ,Xk) thay đổi giá trị Hậu phƣơng sai thay đổi ƣớc lƣợng phƣơng pháp OLS: - ước lượng không chệnh phương sai hệ số hồi quy ước lượng không nhỏ (ước lượng không hiệu quả) - ước lượng phương sai hệ số hồi quy bị chệch Các kiểm định t F khơng cịn đáng tin Cách phát - Quan sát đồ thị ei (residual = phần dƣ): ei phân tán khác theo X dấu hiệu tượng phương sai sai số thay đổi - Thực kiểm định Trang 23 + Với mơ hình hồi quy biến: kiểm định Park, Gleiser (tham khảo trang 163-166) + Với mơ hình: hay dùng kiểm định White phương sai thay đổi (Heteroskedasticity) Ví dụ: Ước lượng mơ hình Yi = 1 + 2X2i + 3X3i + Ui (*) thực kiểm định ta H0: Phƣơng sai củaUi (*) không đổi + Cách 1: P Obs*R-squared = 0,0117 2(0,05; 5) nên bác bỏ H0 Kết luận: (*) có tượng phương sai thay đổi mức ý nghĩa 5% Trang 24 Trong ví dụ trên, Eviews cập nhật thêm kiểm định: Breusch – Pangan-Godfrey: Việc đọc kết kiểm định thực tương tự nhưtrên dòng OBS*R-squared Lưu ý: Các kiểm định khác thường cho kết gần Chẳng hạn giá trị P ứng với OBS*R-squared kiểm định Breusch – Pangan-Godfrey 0,007 kiểm định White 0,0117 - Ở mức ý nghĩa α = 5%, hai kiểm định cho phép bác bỏ H0 - Ở mức ý nghĩa α = 1%, có kiểm định Breusch – Pangan-Godfrey cho phép bác bỏ H0 Trang 25 Ghi chƣơng Tự tƣơng quan Ui Bản chất: Có tương quan sai số Ui (thường xét theo thời gian) Khi đó: hiệp phương sai cá nhiễu khác không : Cov(Ui,Uj) ≠ Bổ sung: Cov(X,Y) = E(XY) – E(X).E(Y) Hậu tự tƣơng quan ƣớc lƣợng phƣơng pháp OLS - Các ước lượng (hệ số hồi quy: i) tuyến tính, khơng chệch khơng hiệu (phương sai Var( i ) thường bị chệch) - Kiểm định t F hệ số R2 không đáng tin - Dự báo không đáng tin Trang 26 Cách phát - Quan sát đố thị phần dư et 3.1 Bậc tự tương quan: AR(1) (bậc 1): Ut = Ut-1 + t (≠0) AR(2) (bậc 2): Ut = 1Ut-1 + 2Ut-2+ t (2≠0) AR(p) (bậc k): Ut = 1Ut-1 + 2Ut-2+ + kUt-k + t (k≠0) 3.2 Kiểm định tự tương quan bậc - Kiểm định đoạn mạch hay kiểm định 2: xem xét quy luật dấu ei (tham khảo trang 186 - 189) Trang 27 - Kiểm định Durbin – Watson Ví dụ: Xét mơ hình TIEUDUNG = β1 + β2THUNHAP +U Kết hồi quy mẫu sau: Giá trị Durbin-Watson stat d = 0,6839 Ta kết luận quy tắc kinh nghiệm sau: 1< d < 3: khơng có tự tương quan mơ hình 0) 3