Bài giảng hồi quy đa biến kiểm định giả thuyết và lựa chọn mô hình

11/29/2012 1 HỒI QUY ĐA BIẾN KIỂM ĐỊNH GIẢ THUYẾT VÀ LỰA CHỌN MÔ HÌNH GV Đinh Công Khải – FETP Môn Các Phương Pháp Định Lượng – MPP5 Giả thiết về qui luật chuẩn  Giả thiết ui ~ N(0, σ2)  Các tính ch[.]

11/29/2012 HỒI QUY ĐA BIẾN: KIỂM ĐỊNH GIẢ THUYẾT VÀ LỰA CHỌN MƠ HÌNH GV : Đinh Cơng Khải – FETP Môn: Các Phương Pháp Định Lượng – MPP5 Giả thiết qui luật chuẩn  Giả thiết ui ~ N(0, σ2)  Các tính chất ước lượng OLS hồi qui đa biến theo giả thiết phân phối chuẩn ˆk ~ N (  k , 2ˆ ) k  Ước lượng  2ˆ hàm hồi qui với biến độc lập k Yi = β1 + β2 X2i+ β3 X3i+ ui var( ˆ2 )  var( ˆ3 )  ˆ   uˆ  x 2i  x 2i x  x  -  x x  x  -  x 3i 3i x3i  2 2i x3i  2 2i 2i 3i 2 i n3 11/29/2012 Kiểm định hệ số hồi qui riêng  Phương pháp kiểm định ý nghĩa: Kiểm định t  Kiểm định phía H0: βk = a Ha: βk ≠ a Trị kiểm định thống kê t ˆk   k sˆ k Kiểm định hệ số hồi qui riêng Qui tắc bác bỏ   Bác bỏ |t| > tα/2 với t α/2 dựa phân phối t với bậc tự (n-K)  Hoặc pvalue < α Kiểm định phía H0: βk ≥ a H0: βk ≤ a Ha: βk < a Ha: βk > a Qui tắc bác bỏ  Bác bỏ t < - tα t > tα  Hoặc pvalue < α pvalue < α 11/29/2012 Kiểm định hệ số hồi qui riêng  Phương pháp kiểm định dựa khoảng tin cậy (1-α)100% ˆk  t / sˆ k Qui tắc bác bỏ Bác bỏ H0 không nằm khoảng tin cậy (1-α)100% βk Kiểm định ý nghĩa thống kê hệ số hồi qui  Phương pháp kiểm định ý nghĩa: Kiểm định F (Kiểm định Wald) Giả thuyết H0: β2 = β3 = … = βK = Ha: Ít có tham số βk khác Trị kiểm định F: F MSE ESS /( K  1)  ~ F( K 1,n K , ) MSR RSS /( n  K ) Qui tắc bác bỏ: Bác bỏ H0 F ≥ F (K-1, n-K,α) pvalue ≤ α 11/29/2012 Kiểm định ý nghĩa thống kê hệ số hồi qui  Mối quan hệ R2 F F R /( K  1) (1  R ) /( n  K )  Khi R2 lớn F lớn  Kiểm định F thước đo ý nghĩa chung mô hình hồi qui kiểm định ý nghĩa R2  Kiểm định H0: β2 = β3 = … = βK = tương đương kiểm định H0 : R2 = Lựa chọn mơ hình  Phương pháp “từ tổng quát đến đơn giản” (Hendry/LSE) Sử dụng kiểm định để loại bỏ biến  Kiểm tra xem dấu hệ số hồi qui ước lượng có kỳ vọng khơng  Sử dụng kiểm định t kiểm định Wald  Sử dụng R2 điều chỉnh 11/29/2012 Lựa chọn mơ hình  Phương pháp “từ đơn giản đến tổng quát”  Liệu đưa thêm hay nhiều biến giải thích có làm tăng mức ý nghĩa chung mơ hình hay khơng?  Giả sử có mơ hình với m biến (mơ hình cũ) (R): Yi = β1 + β2 X2i+…+ βm Xmi+ ui Sau bổ sung thêm (K – m) biến giải thích (mơ hình mới) (U): Yi = β1 + β2 X2i+…+ βm Xmi+ βm+1 Xm+1+…+ βK XKi + vi Lựa chọn mơ hình  Dùng kiểm định Wald H0: βm+1 = βm+2 = … = βK = Ha: Ít có tham số βk khác Trị kiểm định F [ ESSU  ESS R ] /( K  m) ( RU2  RR2 ) /( K  m)  RSSU /( n  K ) (1  RU2 ) /( n  K ) Qui luật bác bỏ H0: F > F(α, K-m, n-K) pvalue < α  bổ sung biến vào mơ hình làm tăng cách ý nghĩa ESS R2 11/29/2012 Lựa chọn mô hình  Kiểm định nhân tử Lagrance (R): Yi = β1 + β2 X2i+…+ βm Xmi+ ui (U): Yi = β1 + β2 X2i+…+ βm Xmi+ βm+1 Xm+1+…+ βK XKi + vi Kiểm định giả thuyết H0: βm+1 = βm+2 = … = βK = Ha: Ít có tham số βk khác Lựa chọn mơ hình  Bước 1: Ước lượng mơ hình (R)  Bước 2: Tính phần dư,  Bước 3: Ước lượng mơ hình uˆ R uˆRi  1   X    m X m   m1 X m1    K X K   i  (*) Buớc 4: Với mẫu lớn, nR2 (R2 từ *) có phân phối Chi-square với tự bậc với số biến bị giới hạn (K-m)  Nếu nR2 > χ2 (df=K-m)  bác bỏ giả thuyết H0 11/29/2012 Lựa chọn dạng hàm hồi qui (phép thử MWD) Các giả thuyết  H0: Yi = β1 + β2 X2i+…+ βK XKi+ ui mơ hình (1) Ha : lnYi = β1 + β2 lnX2i+…+ βK lnXKi+ vi mơ hình (2)  Quy trình kiểm định  Ước lượng mơ hình tuyến tính (1); tính Yˆ ; tính ln Yˆ  ˆY Ước lượng mơ hình tuyến tính logarit (2) tính ln  Tạo biến  Hồi qui Y theo Xs Z1, bác bỏ H0 hệ số hồi qui Z1 có ý nghĩa thống kê ˆY) Z1  (ln Yˆ  ln theo kiểm định t thông thường Lựa chọn dạng hàm hồi qui (phép thử MWD) ˆ Y  Yˆ ) Z2  ( anti log of ln  Tạo biến  Hồi qui lnY theo lnXs Z2, bác bỏ Ha hệ số hồi qui Z2 có ý nghĩa thống kê theo kiểm định t thông thường ...11/29/2012 Kiểm định hệ số hồi qui riêng  Phương pháp kiểm định ý nghĩa: Kiểm định t  Kiểm định phía H0: βk = a Ha: βk ≠ a Trị kiểm định thống kê t ˆk   k sˆ k Kiểm định hệ số hồi qui riêng... (1-α)100% βk Kiểm định ý nghĩa thống kê hệ số hồi qui  Phương pháp kiểm định ý nghĩa: Kiểm định F (Kiểm định Wald) Giả thuyết H0: β2 = β3 = … = βK = Ha: Ít có tham số βk khác Trị kiểm định F: F... nghĩa R2  Kiểm định H0: β2 = β3 = … = βK = tương đương kiểm định H0 : R2 = Lựa chọn mơ hình  Phương pháp “từ tổng quát đến đơn giản” (Hendry/LSE) Sử dụng kiểm định để loại bỏ biến  Kiểm tra xem