CHƯƠNG 6 HIỆN TƯỢNG ĐA CỘNG TUYẾN (MULTICOLLINEARITY) pot

CHƯƠNG HIỆN TƯỢNG ĐA CỘNG TUYẾN (MULTICOLLINEARITY) BIẾN GIẢ Hiểu chất hậu đa cộng tuyến MỤC TIÊU Biết cách phát đa cộng tuyến biện pháp khắc phục NỘI DUNG Bản chất, nguyên nhân đa cộng tuyến Ước lượng tham số Hậu Phát đa cộng tuyến Khắc phục đa cộng tuyến 6.1 Bản chất đa cộng tuyến Đa cộng tuyến Đa cộng tuyến Trong mơ hình hồi quy bội ˆ ˆ ˆ ˆ ˆ Yi = β1 + β2 X 2i + β3 X 3i + + βk X ki Có phụ thuộc tuyến tính cao biến giải thích 6.1 Bản chất đa cộng tuyến a Đa cộng tuyến hoàn hảo Tồn λ2, λ3,… λk không đồng thời cho λ2X2 + λ3X3 + …+ λkXk = b Đa cộng tuyến khơng hồn hảo λ2X2 + λ3X3 + …+ λkXk + vi= với vi sai số ngẫu nhiên 6.1 Bản chất đa cộng tuyến VD X2 10 15 18 24 30 X3 50 75 90 120 150 X4 V 52 75 97 129 152 X3i = 5X2i, có cộng tuyến hồn hảo X2 X3 ; r23 = X2 X4 có cộng tuyến khơng hồn hảo 6.1 Bản chất đa cộng tuyến Khơng có đa cộng tuyến Y X2 Đa cộng tuyến thấp Y X3 X2 X3 Hình 6.1 Biểu đồ Venn mơ tả tượng đa cộng tuyến 6.1 Bản chất đa cộng tuyến Đa cộng tuyến cao Y Đa cộng tuyến hoàn hảo Y X3 X2 X2 X3 Hình 6.1 Biểu đồ Venn mô tả tượng đa cộng tuyến 6.1 Nguyên nhân đa cộng tuyến - Chọn biến độc lập có mối quan có quan hệ nhân hay có tương quan cao đồng phụ thuộc vào điều kiện khác - Số quan sát nhỏ số biến độc lập - Cách thu thập mẫu: mẫu không đặc trưng cho tổng thể - Chọn biến Xi có độ biến thiên nhỏ 6.2 Ước lượng có đa cộng tuyến Trường hợp có đa cộng tuyến hồn hảo Xét mơ hình hồi qui biến dạng sau: Yi = β2 X2i + β3 X3i + ei giả sử X3i = λX2i, mơ hình biến đổi thành: Yi = (β2+ λβ3)X2i + ei = β0 X2i + ei Phương pháp OLS ˆ ˆ ˆ β o = ( β + λβ ) = ∑x y ∑x 2i i 2i ˆ ˆ  Khơng thể tìm lời giải cho β , β 10 6.2 Ước lượng có đa cộng tuyến ˆ β2 = yi x2i ∑ x3i − ∑ yi x3i ∑ x2i x3i ∑ ∑x ∑x 2i 3i − (∑ x2i x3i ) λ ∑ yi x3i ∑ x − λ ∑ yi x3i ∑ x3i x3i ˆ β2 = = 2 2 2 λ ∑ x3i ∑ x3i − λ ∑ x3i ∑ x3i 3i  Các hệ số ước lượng không xác định  Phương sai sai số chuẩn β2 β3 vơ hạn 11 6.2 Ước lượng có đa cộng tuyến Trường hợp có đa cộng tuyến khơng hồn hảo  Đa cộng tuyến hồn hảo thường khơng xảy thực tế  Xét mơ hình hồi qui biến dạng sau: yi = β2 x2i + β3 x3i + ei Giả sử x3i = λ x2i + vi Với λ ≠ vi sai số ngẫu nhiên 12 6.2 Ước lượng có đa cộng tuyến ˆ β2 ( ∑ y x )( λ ∑ x + ∑ v ) − ( λ ∑ y x + ∑ y v )( λ ∑ x ) = ( ∑ x )( λ ∑ x + ∑ v ) − ( λ ∑ x ) 2 2i i 2i 2i i 2 i 2i 2i i i i 2 2i  Có thể ước lượng hệ số hồi  Có thể ước lượng hệ số hồi quy sai số chuẩn lớn quy sai số chuẩn lớn 13 2i 6.3 Hậu đa cộng tuyến Nếu có cộng tuyến gần hoàn hảo Phương sai hiệp phương sai ước lượng OLS lớn Khoảng tin cậy rộng Tỉ số t "khơng có ý nghĩa" R2 cao tỉ số t có ý nghĩa 14 6.3 Hậu đa cộng tuyến Các ước lượng OLS sai số chuẩn chúng trở nên nhạy với thay đổi nhỏ liệu Dấu ước lượng hệ số hồi qui sai Thêm vào hay bớt biến cộng tuyến với biến khác, mơ hình thay đổi dấu thay đổi độ lớn ước lượng 15 6.3 Hậu đa cộng tuyến Đa cộng tuyến tượng theo mẫu, nghĩa cho dù biến độc lập Xi không tương quan tuyến tính tổng thể chúng tương quan tuyến tính mẫu cụ thể Do cỡ mẫu lớn tượng đa cộng tuyến nghiêm trọng cỡ mẫu nhỏ 16 6.4 Cách phát đa cộng tuyến Hệ số R2 lớn tỷ số t nhỏ Tương quan cặp biến giải thích cao Sử dụng mơ hình hồi qui phụ Sử dụng yếu tố phóng đại phương sai (VIF) 17 6.4 Cách phát đa cộng tuyến R2 lớn tỷ số t nhỏ Tương quan cặp biến giải thích cao ∑( X i − X )(Z i − Z ) rXZ = 2 ∑( X i − X ) ( Z i − Z ) Trong X, Z biến giải thích mơ hình 18 6.4 Cách phát đa cộng tuyến Sử dụng mơ hình hồi quy phụ Hồi qui biến giải thích X theo biến lại ˆ ˆ ˆ ˆ X 2i = β1 + β X 3i + + β k X mi Tính R2 F cho mơ hình R ( n −m) F = (1 −R )( m − ) Lập giả thiết H0: R2 = ~ H0: khơng có đa cộng tuyến Nếu F > Fα(m-1,n-k): bác bỏ H0 hay có đa cộng tuyến Nếu F < Fα(m-1,n-k): chấp nhận H0 hay khơng có đa cộng tuyến 19 6.4 Cách phát đa cộng tuyến Sử dụng nhân tử phóng đại phương sai (VIF) Đối với hàm hồi quy biến giải thích VIF = (1 − r23 ) Đối với trường hợp tổng quát, có (k-1) biến giải thích VIF = (1 − R ) j R2j: giá trị R2 hàm hồi quy Xj theo (k-2) biến giải thích cịn lại Thơng thường VIF > 10, biến coi có cộng tuyến cao 20 6.5 Cách khắc phục Dùng thơng tin tiên nghiệm Ví dụ mơ hình sản xuất Cobb-Douglas Ln(Yi)=β1 + β2ln(Ki)+ β3ln(Li) + ui Có thể xảy đa cộng tuyến K L tăng theo quy mô sản xuất Nếu biết hiệu suất không đổi theo quy mô tức β2+β3=1 Ln(Yi)=β1 + β2ln(Ki)+ (1-β2)ln(Li) + ui Ln(Yi) – Ln(Li) = β1 + β2[ln(Ki) - ln(Li)] + ui Ln(Yi /Li ) = β1 + β2ln(Ki /Li) + ui => đa cộng tuyến (vì mơ hình hồi quy đơn) 21 6.5 Cách khắc phục Loại trừ biến giải thích khỏi mơ hình B1: Xem cặp biến giải thích có quan hệ chặt chẽ Giả sử X2, X3…Xk biến độc lập, Y biến phụ thuộc X2, X3 có tương quan chặt chẽ với B2: Tính R2 hàm hồi quy: có mặt biến; khơng có mặt biến B3: Loại biến mà giá trị R2 tính khơng có mặt biến lớn 22 6.5 Cách khắc phục Bổ sung thêm liệu chọn mẫu σ ˆ var(β ) = 2 ∑ x2i (1 − r23 ) 23 6.5 Cách khắc phục Dùng sai phân cấp Có hàm hồi qui: yt = α1 + β1x1t + β2x2t + ut suy yt-1 = α1 + β1x1,t-1 + β2x2,t-1 + ut-1 Trừ hai vế cho nhau, được: yt – yt – = β1(x1,t – x1,t – 1) + β2(x2,t – x2,t – 1) + (ut – ut – 1) Hay: ∆yt = β ∆ x1,t + β ∆ x2,t + et, 24 ... tả tượng đa cộng tuyến 6. 1 Bản chất đa cộng tuyến Đa cộng tuyến cao Y Đa cộng tuyến hồn hảo Y X3 X2 X2 X3 Hình 6. 1 Biểu đồ Venn mô tả tượng đa cộng tuyến 6. 1 Nguyên nhân đa cộng tuyến - Chọn biến... cộng tuyến hoàn hảo X2 X3 ; r23 = X2 X4 có cộng tuyến khơng hồn hảo 6. 1 Bản chất đa cộng tuyến Khơng có đa cộng tuyến Y X2 Đa cộng tuyến thấp Y X3 X2 X3 Hình 6. 1 Biểu đồ Venn mơ tả tượng đa cộng. .. hậu đa cộng tuyến MỤC TIÊU Biết cách phát đa cộng tuyến biện pháp khắc phục NỘI DUNG Bản chất, nguyên nhân đa cộng tuyến Ước lượng tham số Hậu Phát đa cộng tuyến Khắc phục đa cộng tuyến 6. 1 Bản