Chương 5 đề cập đến hiện tượng đa cộng tuyến. Các nội dung chính được trình bày trong chương này gồm có: Bản chất, nguyên nhân của đa cộng tuyến; ước lượng các tham số; hậu quả; phát hiện đa cộng tuyến; khắc phục đa cộng tuyến. Mời các bạn cùng tham khảo.
09/09/2014 Đa cộng tuyến CHƯƠNG HIỆN TƯỢNG ĐA CỘ CỘNG TUYẾN (MULTICOLLINE (MULTICOLLINEARITY) Hi ể u b ả n ch ấ v h ậ u t đa cộng tuyến MỤ C TIÊU Bi ế t cách phát hiệ n đa cộng tuyến biện pháp khắc phục NỘI DUNG 5.1 Bản chất đa cộng tuyến Đa cộng tuyến Bản chất, nguyên nhân đa cộng tuyến Ước lượng tham số Yˆi = βˆ1 + βˆ2 X2i + βˆ3 X 3i + + βˆk Xki Hậu Phát đa cộng tuyến Có phụ thuộc tuyến tính cao biến giải thích Khắc phục đa cộng tuyến Trong mơ hình hồi quy bội 5.1 Bản chất đa cộng tuyến 6.1 Bản chất đa cộng tuyến VD a Đa cộng tuyến hồn hảo Tồn λ2, λ3,… λk khơng đồng thời cho λ2X2 + λ3X3 + …+ λkXk = b Đa cộng tuyến khơng hồn hảo λ2X2 + λ3X3 + …+ λkXk + vi= với vi sai số ngẫu nhiên X2 10 15 18 24 30 X3 50 75 90 120 150 X4 V 52 75 97 129 152 X3i = 5X2i, có cộng tuyến hồn hảo X2 X3 ; r23 = X2 X4 có cộng tuyến khơng hồn hảo 09/09/2014 6.1 Bản chất đa cộng tuyến 6.1 Bản chất đa cộng tuyến Khơng có đa cộng tuyến Đa cộng tuyến thấp Y Y X3 X2 Đa cộng tuyến cao Đa cộng tuyến hoàn hảo Y X3 X2 Y X3 X2 X2 X3 Hình 6.1 Biểu đồ Venn mơ tả tượng đa cộng tuyến Hình 6.1 Biểu đồ Venn mơ tả tượng đa cộng tuyến 6.1 Nguyên nhân đa cộng tuyến 6.2 Ước lượng có đa cộng tuyến - Chọn biến độc lập có mối quan có quan hệ nhân hay có tương quan cao đồng phụ thuộc vào điều kiện khác - Số quan sát nhỏ số biến độc lập - Cách thu thập mẫu: mẫu không đặc trưng cho tổng thể - Chọn biến Xi có độ biến thiên nhỏ Trường hợp có đa cộng tuyến hồn hảo Xét mơ hình hồi qui biến dạng sau: Yi = β2 X2i + β3 X3i + ei giả sử X3i = λX2i, mơ hình biến đổi thành: Yi = (β2+ λβ3)X2i + ei = β0 X2i + ei Phương pháp OLS ∑ x 2i y i βˆo = (βˆ2 + λβˆ3 ) = ∑x 2i � Khơng thể tìm lời giải cho βˆ , βˆ 10 6.2 Ước lượng có đa cộng tuyến βˆ = ∑yx ∑x −∑yx ∑x ∑ x ∑ x − (∑ x i2 i 2i i 3i i 2i x3 6.2 Ước lượng có đa cộng tuyến i i x )2 i 3i λ ∑ yi x3i∑ x32i − λ ∑ yi x3i∑ x3i x3i = βˆ2 = λ2 ∑ x32i∑ x32i − λ ∑ x32i∑ x32i � Các hệ số ước lượng không xác định � Phương sai sai số chuẩn β2 β3 vô hạn 11 Trường hợp có đa cộng tuyến khơng hồn hảo Đa cộng tuyến hồn hảo thường khơng � xảy thực tế � Xét mơ hình hồi qui biến dạng sau: yi = β2 x2i + β3 x3i + ei Giả sử x3i = λ x2i + vi Với λ ≠ vi sai số ngẫu nhiên 12 09/09/2014 6.3 Hậu đa cộng tuyến 6.2 Ước lượng có đa cộng tuyến yv)(λ (∑ y x )(λ ∑x + ∑v ) −(λ ∑y x + ∑ (∑ x )(λ ∑ x +∑ v )− ∑ x ) (λ βˆ2 = i 2i 2i 2i 2 i i 2i 2i 2 i i 2i i x 2∑ ) Nếu có cộng tuyến gần hồn hảo 2i 2 � Có thể ước lượng hệ số hồi quy sai số chuẩn lớn � Phương sai hiệp phương sai ước lượng OLS lớn � Khoảng tin cậy rộng � Tỉ số t "khơng có ý nghĩa" � R2 cao tỉ số t có ý nghĩa 13 14 6.3 Hậu đa cộng tuyến 6.3 Hậu đa cộng tuyến Các ước lượng OLS sai số chuẩn chúng trở nên nhạy với thay đổi nhỏ liệu Dấu ước lượng hệ số hồi qui sai Thêm vào hay bớt biến cộng tuyến với biến khác, mơ hình thay đổi dấu thay đổi độ lớn ước lượng Đa cộng tuyến tượng theo mẫu, nghĩa cho dù biến độc lập Xi không tương quan tuyến tính tổng thể chúng tương quan tuyến tính mẫu cụ thể Do cỡ mẫu lớn tượng đa cộng tuyến nghiêm trọng cỡ mẫu nhỏ 15 16 6.4 Cách phát đa cộng tuyến 6.4 Cách phát đa cộng tuyến lớn tỷ số t nhỏ Tương quan cặp biến giải thích cao R2 Hệ số R2 lớn tỷ số t nhỏ Tương quan cặp biến giải thích cao Sử dụng mơ hình hồi qui phụ Sử dụng yếu tố phóng đại phương sai (VIF) 17 rXZ = ∑(X − X )( Z −Z ) ∑ ( X − X ) (Z − Z ) i i i i Trong X, Z biến giải thích mơ hình 18 09/09/2014 6.4 Cách phát đa cộng tuyến Sử dụng mơ hình hồi quy phụ Hồi qui biến giải thích X theo biến lại Xˆ 2i = βˆ1 + βˆ3 X 3i + + βˆ k X mi Tính R2 VIF = F cho mơ hình F = 6.4 Cách phát đa cộng tuyến Sử dụng nhân tử phóng đại phương sai (VIF) Đối với hàm hồi quy biến giải thích (1 − r223 ) Đối với trường hợp tổng qt, có (k-1) biến giải thích R (n − m) (1 − R )( m − ) VIF = Lập giả thiết H0: R2 = ~ H0: khơng có đa cộng tuyến Nếu F > Fα(m-1,n-k): bác bỏ H0 hay có đa cộng tuyến Nếu F < Fα(m-1,n-k): chấp nhận H0 hay khơng có đa cộng tuyến (1 − R2j ) �R2j: giá trị R2 hàm hồi quy Xj theo (k-2) biến giải thích lại �Thơng thường VIF > 10, biến coi có cộng tuyến cao 20 19 6.5 Cách khắc phục 6.5 Cách khắc phục Dùng thơng tin tiên nghiệm Ví dụ mơ hình sản xuất Cobb-Douglas Ln(Yi)=β1 + β2ln(Ki)+ β3ln(Li) + ui Có thể xảy đa cộng tuyến K L tăng theo quy mô sản xuất Nếu biết hiệu suất không đổi theo quy mô tức β2+β3=1 Ln(Yi)=β1 + β2ln(Ki)+ (1-β2)ln(Li) + ui Ln(Yi) – Ln(Li) = β1 + β2[ln(Ki) - ln(Li)] + ui Ln(Yi /Li ) = β1 + β2ln(Ki /Li) + ui => đa cộng tuyến (vì mơ hình hồi quy đơn) Loại trừ biến giải thích khỏi mơ hình B1: Xem cặp biến giải thích có quan hệ chặt chẽ Giả sử X2, X3…Xk biến độc lập, Y biến phụ thuộc X2, X3 có tương quan chặt chẽ với B2: Tính R2 hàm hồi quy: có mặt biến; khơng có mặt biến B3: Loại biến mà giá trị R2 tính khơng có mặt biến lớn 21 6.5 Cách khắc phục 6.5 Cách khắc phục Bổ sung thêm liệu chọn mẫu var(βˆ2 ) = 22 σ ∑ x22i (1− r232 ) 23 Dùng sai phân cấp Có hàm hồi qui: yt = α1 + β1x1t + β2x2t + ut suy yt-1 = α1 + β1x1,t-1 + β2x2,t-1 + ut-1 Trừ hai vế cho nhau, được: yt – yt – = β1(x1,t – x1,t – 1) + β2(x2,t – x2,t – 1) + (ut – ut – 1) Hay: ∆yt = β1 ∆ x1,t + β2 ∆ x2,t + et, 24 ... đa cộng tuyến 6.1 Bản chất đa cộng tuyến Khơng có đa cộng tuyến Đa cộng tuyến thấp Y Y X3 X2 Đa cộng tuyến cao Đa cộng tuyến hoàn hảo Y X3 X2 Y X3 X2 X2 X3 Hình 6.1 Biểu đồ Venn mơ tả tượng đa. .. Hình 6.1 Biểu đồ Venn mơ tả tượng đa cộng tuyến Hình 6.1 Biểu đồ Venn mô tả tượng đa cộng tuyến 6.1 Nguyên nhân đa cộng tuyến 6.2 Ước lượng có đa cộng tuyến - Chọn biến độc lập có mối quan có quan... độ lớn ước lượng Đa cộng tuyến tượng theo mẫu, nghĩa cho dù biến độc lập Xi khơng tương quan tuyến tính tổng thể chúng tương quan tuyến tính mẫu cụ thể Do cỡ mẫu lớn tượng đa cộng tuyến nghiêm