CHƯƠNG 5 KIỂM ĐỊNH VÀ LỰA CHỌN MÔ HÌNH

CHƯƠNG 5 KIỂM ĐỊNH VÀ LỰA CHỌN MÔ HÌNH 9/20/2013 1 CHƢƠNG 5 KIỂM ĐỊNH VÀ LỰA CHỌN MÔ HÌNH 1 Chương 1, 2, 3 cho thấy  Khi giả thiết 1 → 4 thỏa mãn thì các ước lượng OLS là các ước lượng BLUE  Khi giả[.]

9/20/2013 CHƢƠNG KIỂM ĐỊNH VÀ LỰA CHỌN MƠ HÌNH CHƢƠNG 5: KIỂM ĐỊNH VÀ LỰA CHỌN MƠ HÌNH Chương 1, 2, cho thấy:  Khi giả thiết → thỏa mãn ước lượng OLS ước lượng BLUE  Khi giả thiết thỏa mãn suy diễn thống kê có giá trị Vậy:  Nếu giả thiết khơng thỏa mãn?  Khi làm để thu ước lượng tốt nhất, suy diến thống kê đáng tin cây? => Nội dung chương 9/20/2013 NỘI DUNG CHƢƠNG I Kỳ vọng sai số ngẫu nhiên khác không II Phương sai sai số thay đổi III Sai số ngẫu nhiên không tuân theo quy luật chuẩn IV Vấn đề đa cộng tuyến V Mơ hình chứa biến khơng thích hợp I KỲ VỌNG CỦA SAI SỐ NGẪU NHIÊN KHÁC KHÔNG  Giả thiết 2: Kỳ vọng sai số ngẫu nhiên với điều kiện X E(ui| Xi) =  Phụ lục 1.2 (trang 77) cho thấy giả thiết thỏa mãn có:   E(u) = (5.1)  cov(X, u) = (5.2) => Nếu (5.1) (5.2) không thỏa mãn giả thiết khơng cịn thỏa mãn 9/20/2013 I KỲ VỌNG CỦA SAI SỐ NGẪU NHIÊN KHÁC KHƠNG Minh họa giả thiết 2: Y • • E (Yi | X i )  1   X i • u1: E(u1|X1) =0 • • ui: E(ui|Xi) =0 • • X1 Xi Xn X Trung bình sai số ngẫu nhiên giá trị Xi: E(u/X=Xi)=0 I KỲ VỌNG CỦA SAI SỐ NGẪU NHIÊN KHÁC KHÔNG Nguyên nhân kỳ vọng sai số ngẫu nhiên khác khơng  Mơ hình thiếu biến quan trọng  Dạng hàm sai  Tính tác động đồng thời số liệu  Sai số đo lường biến độc lập 9/20/2013 I KỲ VỌNG CỦA SAI SỐ NGẪU NHIÊN KHÁC KHÔNG Hậu kỳ vọng sai số ngẫu nhiên khác không  Ước lượng OLS ước lượng chệch  Các suy diễn thống kê khơng cịn đáng tin cậy  Lượng chệch ước lượng OLS: 𝐸 𝛽𝑗 − 𝛽𝑗 Và lim 𝐸 𝛽𝑗 − 𝛽𝑗 = 𝑛→∞ 𝑐𝑜𝑣(𝑋𝑗 ,𝑢) 𝑣𝑎𝑟(𝑋𝑗 ) => Lượng chệch không kể kích thước mẫu lớn vơ I KỲ VỌNG CỦA SAI SỐ NGẪU NHIÊN KHÁC KHÔNG  Lượng chệch mơ hình thiếu biến: • Mơ hình phù hợp: Y = β1 + β2X2 + β3X3 + u1 • Mơ hình sử dụng: Y = α1 + α2X2 + u2 • ⇒ 𝑬 𝜶𝟐 = 𝜷𝟐 + 𝜷𝟑 𝒃𝟐 với 𝑏2 hệ số góc ước lượng mơ hình: X3 = b1 + b2X2 + v • => Lượng chệch 𝜷𝟑 𝒃𝟐 => Chiều lượng chệch mơ hình thiếu biến: r23 > r23 Ước lượng mơ hình:  => Kiểm định cặp giả thuyết: H0: αk+1 = H1: αk+1 ≠ => Thực kiểm định T kiểm định F I KỲ VỌNG CỦA SAI SỐ NGẪU NHIÊN KHÁC KHƠNG b) Mơ hình có dạng hàm sai  Kiểm định Ramsey:  Xét mô hình gốc: Yi = β1 + β2 Xi + β3 X3i + ui  Tư tưởng kiểm định Ramsey: sử dụng dạng mũ giá trị ước lượng biến phụ thuộc, Yˆi ; Yˆi & Yˆi m , để thay cho tổ hợp biến dạng mũ biến độc lập 10 9/20/2013 I KỲ VỌNG CỦA SAI SỐ NGẪU NHIÊN KHÁC KHÔNG  Các bước thực kiểm định Ramsey:  B1: Ước lượng mơ hình gốc  B2: Ước lượng mơ hình hồi quy phụ: => Yˆi Yi  1  2 X 2i  3 X 3i  1Yˆi   2Yˆi    mYˆi m 1  vi Việc đưa thành phần dạng lũy thừa vào mơ hình hồi quy khơng bị hạn chế, thông thường dừng lũy thừa bậc bậc 11 I KỲ VỌNG CỦA SAI SỐ NGẪU NHIÊN KHÁC KHÔNG  B3: Kiểm định cặp giả thuyết: H : 1      m  Hay: H1 : 12   22    m2  H0: Mơ hình gốc có dạng hàm - khơng thiếu biến H1: Mơ hình gốc có dạng hàm sai - thiếu biến => Thực kiểm định F 12 9/20/2013 I KỲ VỌNG CỦA SAI SỐ NGẪU NHIÊN KHÁC KHÔNG  Một số kiểm định khác  Kiểm định Davidson – Mac Kinnon (kiểm định J)  Kiểm định sử dụng hàm gộp (Giáo trình trang 212 – 214) 13 I KỲ VỌNG CỦA SAI SỐ NGẪU NHIÊN KHÁC KHÔNG Một số biện pháp khắc phục  Thêm biến Z bị thiếu vào mơ hình (nếu có số liệu Z)  Xem xét mơ hình thay thế; thêm biến dạng bình phương, lập phương biến độc lập có mơ hình  Thiếu biến khơng quan sát được: sử dụng biến đại diện; sử dụng phương pháp biến công cụ 14 9/20/2013 II PHƢƠNG SAI SAI SỐ THAY ĐỔI  Giả thiết 3: Phương sai sai số ngẫu nhiên 𝑉𝑎𝑟 𝑢 𝑋𝑖 = 𝜎 giá trị Xi  Minh họa: Phân phối u X2 Phân phối u X1 f(u|X) Phân phối u Xn Y E (Yi | X i )  1  2 X i X1 X2 Xn 15 X II PHƢƠNG SAI SAI SỐ THAY ĐỔI  Giả thiết bị vi phạm, tức sai số ngẫu nhiên u có phương 𝑉𝑎𝑟 𝑢 𝑋𝑖 = 𝜎𝑖 sai thay đổi:  Minh họa: Phân phối u X2 Phân phối u X1 f(u|X) Phân phối u Xn Y E (Yi | X i )  1  2 X i X1 X2 Xn X 16 9/20/2013 II PHƢƠNG SAI SAI SỐ THAY ĐỔI Nguyên nhân phƣơng sai sai số (PSSS) thay đổi  Do  chất số liệu Do mô hình thiếu biến quan trọng dạng hàm sai 17 II PHƢƠNG SAI SAI SỐ THAY ĐỔI Hậu phƣơng sai sai số thay đổi  Các ước lượng OLS cho hệ số ƣớc lƣợng không chệch:   E ( ˆ j )   j Các ước lượng hệ số khơng cịn ước lượng tốt Var ( ˆ j ) bị ước lượng chệch, khoảng tin cậy kết luận kiểm định giả thuyết thống kê hệ số hồi quy không cịn giá trị (khơng xác) 18 9/20/2013 II PHƢƠNG SAI SAI SỐ THAY ĐỔI Phát PSSS thay đổi  Xét mơ hình: Yi = β1 + β2 X2i + β3 X3i + … + βk Xki + ui  Do giả thiết 2: E(u/X2i,…,Xki) =  Var (u / X 2i , , X ki )  E (u / X 2i , , X ki )  ( E (u / X 2i , , X ki ))  E (u / X 2i , , X ki ) 19 II PHƢƠNG SAI SAI SỐ THAY ĐỔI Các biện pháp phát PSSS thay đổi:  Sử dụng đồ thị phần dư  Kiểm định Breusch – Pagan (giáo trình)  Kiểm định White  Kiểm định dựa biến phụ thuộc  Một số kiểm định khác: Park, Glejer (giáo trình) 20 10 9/20/2013 II PHƢƠNG SAI SAI SỐ THAY ĐỔI   Kiểm định White Với n đủ lớn phương sai hệ số ước lượng tiệm cận với phương sai giả thiết 3’ thỏa mãn  Giả thiết 3': ui không tương quan với biến độc lập, bình phương biến độc lập, tích chéo biến độc lập  => Xét xem liệu ui có tương quan với biến độc lập tích biến độc hay khơng nhằm đánh giá mơ hình gốc có PSSS thay đổi hay đồng 21 II PHƢƠNG SAI SAI SỐ THAY ĐỔI Các bƣớc thực kiểm định White: Xét mơ hình gốc: Yi = β1 + β2 X2i + β3 X3i + ui (5.5)  Bƣớc 1: Ước lượng mơ hình hồi quy gốc => phần dư ei  Bƣớc 2: Ước lượng mơ hình hồi quy phụ: ei2  1   X 2i   X 3i   X 22i   X 32i   X 2i X 3i  vi  (**) Bƣớc 3: Xét cặp giả thuyết: hay H0 : Mơ hình gốc có PSSS đồng 22 H1 : Mơ hình gốc có PSSS thay đổi 11 9/20/2013 II PHƢƠNG SAI SAI SỐ THAY ĐỔI Có cách kiểm định thực hiện:  Kiểm định F: Tính Fqs  R(**) n  k(**)  R(**) k(**)  Nếu Fqs > Fα (k(**) -1; n – k(**) ) bác bỏ H0; chấp nhận H1  Kiểm định X2 : 2 Tính:  qs  n.R(**) Nếu  qs2  2 (k(**)  1) bác bỏ H0 ; chấp nhận H1 23 II PHƢƠNG SAI SAI SỐ THAY ĐỔI Lưu ý:  Kiểm định gọi kiểm định White có tích chéo mơ hình (**) có chứa thành phần tích chéo biến độc lập ( X2i * X3i )  Trong nhiều trường hợp bỏ số hạng chứa tích chéo => Kiểm định White khơng tích chéo  Mơ hình (**) định phải có hệ số chặn  Dạng thu gọn kiểm định White hồi quy ei2 2i thành phần X2i ; X3i ; X ; X 3i theo riêng biệt mà không cần kết24 hợp phương trình 12 9/20/2013 II PHƢƠNG SAI SAI SỐ THAY ĐỔI  Kiểm định dựa biến phụ thuộc Thay xét hàm hồi quy phụ (**) ta xét hàm hồi quy phụ sau: ei2     2Yˆi   3Yˆi  w i (***) kiểm định cặp giả thuyết: H 0:     2 H 1:     25 II PHƢƠNG SAI SAI SỐ THAY ĐỔI Khắc phục phƣơng sai sai số thay đổi  PSSS thay đổi mơ hình thiếu biến dạng hàm sai => xem xét xem liệu mơ hình có gặp phải hai vấn đề khơng?  Phương pháp bình phương bé tổng qt (GLS – generalized least squares)  Ước lượng sai số chuẩn vững (robut standard error) 26 13 9/20/2013 II PHƢƠNG SAI SAI SỐ THAY ĐỔI a) Phương pháp bình phương bé tổng quát Các bước thực hiện:  Bước 1: Nhận biết dạng thay đổi phương sai sai số  Bước 2: Biến đổi tương đương để đưa mơ hình gốc mơ hình mà sai số ngẫu nhiên mơ hình có phương sai sai số không đổi (Tổng quát:  i2   Ki2 chia hai vế mơ hình gốc cho Ki)  Bước 3: Sử dụng phương pháp OLS để ước lượng mơ hình  Bước 4: Từ hệ số ước lượng mơ hình suy hệ 27số ước lượng mơ hình gốc II PHƢƠNG SAI SAI SỐ THAY ĐỔI Ví dụ: Xét mơ hình: Y  1  2 X   k X k  u  Giả sử:  => Chia hai vế (5.6) cho X2i: (5.6)  i2   X 22i Yi X X u      3 3i   k ki  i X 2i X 2i X 2i X 2i X 2i (5.7) hay: Yi*  1   X 2*i   X 3*i    k X ki*  ui* với:  Yi *  (5.8) Yi X u , X 2*i  , X ki*  ki , ui*  i X 2i X 2i X 2i X 2i Phương sai sai số ngẫu nhiên mơ hình mới: Var (ui* )  Var ( ui )( ) Var (ui )   X 22i    const X 2i X 2i X 2i 28 14 9/20/2013 II PHƢƠNG SAI SAI SỐ THAY ĐỔI b) Ước lượng sai số chuẩn  Tư tưởng: sử dụng hệ số ước lượng từ phương pháp OLS, nhiên phương sai hệ số ước lượng tính tốn lại mà khơng sử dụng đến giả thiết phương sai sai số khơng đổi  Ví dụ: với mơ hình hồi quy hai biến, ta có: var( ˆ2 )  => Thay công thức (5.9) công thức sau: n var( ˆ2 )  x i 1 n x i 1  i2 2i  n 2   x2i   i 1  (5.9) 2 2i i e  n    x2i   i 1  (5.10) => Sai số chuẩn vững bậc hai (5.10) Khi n đủ lớn 29 (5.10) tiệm cận giá trị (5.9) III SAI SỐ NGẪU NHIÊN KHÔNG TUÂN THEO QUY LUẬT CHUẨN (*) Hậu sai số ngẫu nhiên không tuân theo quy luật chuẩn  Các ước lượng OLS ước lượng BLUE  Các thống kê T F không tuân theo quy luật Student quy luật Fisher tương ứng Khi đó:  Nếu kích thước mẫu nhỏ suy diễn thống kê không đáng tin cậy  Với mẫu kích thước lớn suy diễn thống kê có giá trị 30 15 9/20/2013 III SAI SỐ NGẪU NHIÊN KHÔNG TUÂN THEO QUY LUẬT CHUẨN (*) Phát sai số ngẫu nhiên không tuân theo quy luật chuẩn (1) Xem xét đồ thị phần dư (2) Kiểm định Jacque – Bera (JB) 31 III SAI SỐ NGẪU NHIÊN KHÔNG TUÂN THEO QUY LUẬT CHUẨN (*) Kiểm định Jacque – Bera (JB): Kiểm định: H0: u tuân theo phân phối chuẩn H1: u không tuân theo phân phối chuẩn  B1: Ước lượng mơ hình gốc => ei  B2: Tính thống kê kiểm định: 𝐽𝐵 = 𝑛( 𝑆2 + 𝐾−3 ) 24 Với S hệ số bất đối xứng (Skewness); K hệ số nhọn (Kurtosis) chuỗi phần dư: e / n S (  e / n) i i i i  3/ e K  ( e i /n i i / n) i B3: Nếu JB > χ α (2) bác bỏ H0; chấp nhận H1 32 Ngược lại, chưa đủ sở bác bỏ H0 16 9/20/2013 IV VẤN ĐỀ ĐA CỘNG TUYẾN Khái niệm đa cộng tuyến mơ hình hồi quy  Khi biến độc lập khơng có quan hệ đa cộng tuyến hồn hảo có mối liên hệ tuyến tính chặt, ta nói mơ hình có tượng đa cộng tuyến (multicollinearity)  Hiện tượng đa cộng tuyến mơ hình hồi quy thể mối quan hệ tuyến tính biến độc lập mơ hình hồi quy không quan tâm đến biến phụ thuộc 33 mô hình IV VẤN ĐỀ ĐA CỘNG TUYẾN  Xét mơ hình hồi quy bội: Y  1   X  3 X    k X k  u  Hồi quy biến độc lập Xj theo biến độc lập lại: X j  1   X    j 1 X j 1   j 1 X j 1    k X k  v  (5.11) (*) Nếu R*2  1: Có ĐCT hồn hảo biến X2 ; X3 ; …; Xk  Nếu R*2  : Có ĐCT cao (ĐCT khơng hồn hảo) biến X2 ; X3 ; …; Xk 34 17 9/20/2013 IV VẤN ĐỀ ĐA CỘNG TUYẾN Nguyên nhân đa cộng tuyến  Do chất mối quan hệ biến số  Do mơ hình có dạng đa thức  Do mẫu khơng mang tính đại diện 35 IV VẤN ĐỀ ĐA CỘNG TUYẾN Hậu đa cộng tuyến  ĐCT hồn hảo: khơng ước lượng mơ hình  ĐCT cao (ĐCT khơng hồn hảo): khơng vi phạm giả thiết định lý Gauss – Markov nên khơng ảnh hưởng đến tính “tốt nhất” ước lượng OLS => Nhƣ mơ hình có ĐCT cao ƣớc lƣợng thu đƣợc ƣớc lƣợng tuyến tính, khơng chệch tốt (có phƣơng sai nhỏ nhất) 36 18 9/20/2013 IV VẤN ĐỀ ĐA CỘNG TUYẾN Hậu ĐCT cao mơ hình hồi quy:  Khoảng tin cậy βj rộng, nghĩa ước lượng trở nên xác  Hệ số ước lượng dễ ý nghĩa thống kê  Dấu hệ số ước lượng Xj ngược so với kỳ vọng  Một thay đổi dù bé mẫu gây thay đổi lớn kết ước lượng (do Var ( ˆ j ) lớn) 37 IV VẤN ĐỀ ĐA CỘNG TUYẾN Phát đa cộng tuyến (1) Xem xét hệ số xác định mơ hình hồi quy phụ R 2j  R 2j (j = 2,3, , k) hệ số xác định mơ hình hồi quy phụ Xj theo biến độc lập lại  Nếu R 2j lớn mơ hình gốc có tượng đa cộng tuyến cao 38 19 9/20/2013 IV VẤN ĐỀ ĐA CỘNG TUYẾN (2) Xem xét hệ số phóng đại phƣơng sai (VIF- variance inflation factor):  VIF  1  R 2j Quy tắc chung: VIF > = 10 dấu hiệu có ĐCT cao 39 IV VẤN ĐỀ ĐA CỘNG TUYẾN (3) Tính hệ số tƣơng quan cặp biến độc lập Xj  Nếu hệ số tương quan cặp hai biến độc lập lớn (có trị tuyệt đối lớn 0.8) xem mơ hình có ĐCT cao  Tuy nhiên, hệ số tương quan cặp biến độc lập khơng cao khơng có nghĩa khơng có ĐCT 40 20 ... v (5. 4)  => Ước lượng mơ hình:  => Kiểm định cặp giả thuyết: H0: αk+1 = H1: αk+1 ≠ => Thực kiểm định T kiểm định F I KỲ VỌNG CỦA SAI SỐ NGẪU NHIÊN KHÁC KHƠNG b) Mơ hình có dạng hàm sai  Kiểm. ..  Kiểm định Breusch – Pagan (giáo trình)  Kiểm định White  Kiểm định dựa biến phụ thuộc  Một số kiểm định khác: Park, Glejer (giáo trình) 20 10 9/20/2013 II PHƢƠNG SAI SAI SỐ THAY ĐỔI   Kiểm. .. giá mơ hình gốc có PSSS thay đổi hay đồng 21 II PHƢƠNG SAI SAI SỐ THAY ĐỔI Các bƣớc thực kiểm định White: Xét mô hình gốc: Yi = β1 + β2 X2i + β3 X3i + ui (5. 5)  Bƣớc 1: Ước lượng mô hình hồi