Tài liệu Đa cộng tuyến docx

BÀI GIẢNG KINH TẾ LƯỢNG ECONOMETRICS Lê Anh Đức Khoa Toán kinh tế ĐH Kinh tế Quốc dân 1 CHƯƠNG V: ĐA CỘNG TUYẾN (MULTICOLLINEARITY) 5.1. Bản chất của hiện tượng đa cộng tuyến 5.2. Hậu quả của hiện tượng đa cộng tuyến 5.3. Phát hiện đa cộng tuyến 5.4. Khắc phục hiện tượng đa cộng tuyến 5.5. Thí dụ 2 5.1. Bản chất của đa cộng tuyến • Trong các mô hình hồi quy bội ta luôn giả thiết các biến độc lập không có đa cộng tuyến với nhau. Trong thực tế giả thiết này có thể bị vi phạm. • Xét mô hình hồi quy k biến • Đa cộng tuyến là hiện tượng xảy ra đối với mô hình hồi quy bội khi các biến độc lập có quan hệ cộng tuyến với nhau và được chia làm hai loại: - Đa cộng tuyến hoàn hảo (Perfect Multi) - Đa cộng tuyến không hoàn hảo (Inperfect Multi). 3 1 2 2 3 3 i i i k ki i Y X X X U β β β β = + + + + + 1. Đa cộng tuyến hoàn hảo • Là hiện tượng mà giữa các biến độc lập của mô hình có quan hệ thoả mãn điều kiện sau: Trong đó: λ 2 , λ 3 ,…, λ k là các hệ số không đồng thời bằng không, tức là: • Giả sử: λ 2 ≠0. Khi đó (1) có thể viết thành biểu thức như sau: Tức là X 2i phụ thuộc hàm số vào các biến độc lập còn lại. 2 2 3 3 0(1) i i k ki X X X λ λ λ + + + = 4 2 2 2 2 3 0 k λ λ λ + + + ≠ 3 4 2 3 4 2 2 2 k i i i ki X X X X λ λ λ λ λ λ = − − − − 2. Đa cộng tuyến không hoàn hảo • Là hiện tượng mà giữa các biến độc lập của mô hình có quan hệ thoả mãn điều kiện sau: Trong đó: V i là sai số ngẫu nhiên và λ 2 , λ 3 ,…, λ k là các hệ số không đồng thời bằng không, tức là: • Giả sử: λ 2 ≠0. Khi đó (1) có thể viết thành biểu thức như sau: Tức là X 2i phụ thuộc tương quan với các biến độc lập còn lại. 2 2 3 3 0(2) i i k ki i X X X V λ λ λ + + + + = 5 2 2 2 2 3 0 k λ λ λ + + + ≠ 3 4 2 3 4 2 2 2 2 1 k i i i ki i X X X X V λ λ λ λ λ λ λ = − − − − − 1.3. Nguyên nhân của đa cộng tuyến • Do bản chất các biến độc lập đã có sẵn quan hệ cộng tuyến với nhau. • Do số liệu mẫu không ngẫu nhiên hoặc kích thước mẫu không đủ lớn nên không đại diện tốt nhất cho tổng thế. • Do quá trình xử lý số liệu đã được làm trơn. • Do chỉ định mô hình sai. 6 5.2. Hậu quả của hiện tượng đa cộng tuyến • Xét mô hình - Nếu có đa cộng tuyến hoàn hảo thì lúc đó không thể ước lượng được các hệ số hồi quy và phương sai của chúng là vô hạn. - Giả sử: 7 1 2 2 3 3i i i i Y X X U β β β = + + + 2 3 2 3 23 32 ( 0) = 1 i i i i X X x x r r λ λ λ = ⇔ = ≠ ⇒ = - Khi đó: 8 2 2 3 3 2 3 1 1 1 1 2 2 2 2 2 3 2 3 1 1 1 2 3 2 2 2 3 1 1 1 1 3 2 2 2 2 3 2 3 1 1 1 2 2 2 ( )( ) ( )( ) 0 ˆ 0 ( )( ) ( ) ( )( ) ( )( ) 0 ˆ 0 ( )( ) ( ) ˆ ( ) n n n n i i i i i i i i i i i n n n i i i i i i i n n n n i i i i i i i i i i i n n n i i i i i i i i x y x x y x x x x x x x y x x y x x x x x x Var x β β σ β = = = = = = = = = = = = = = − = = − − = = − = ∑ ∑ ∑ ∑ ∑ ∑ ∑ ∑ ∑ ∑ ∑ ∑ ∑ ∑ 2 2 23 1 2 3 2 2 3 23 1 (1 ) ˆ ( ) (1 ) n i n i i r Var x r σ β = = →+∞ − = →+∞ − ∑ ∑ - Nếu có đa cộng tuyến không hoàn hảo thì lúc đó có thể ước lượng được hệ số hồi quy tuy nhiên sẽ dẫn đến một số hậu quả nhất định. - Giả sử: + Phương sai và hiệp phương sai của các hệ số hồi quy ước lượng được sẽ tăng lên cùng với mức độ đa cộng tuyến. + Các khoảng tin cậy của các hệ số hồi quy sẽ rộng hơn và kiểm định T có thể mất ý nghĩa vì luôn có xu hướng thừa nhận H 0 . 9 2 3 23 32 ( 0) 1 i i i x x V r r λ λ = + ≠ ⇒ = ≈ ± + Hệ số R 2 có thể khá cao nhưng các giá trị giá trị thống kê của kiểm định T khá nhỏ, điều này tạo ra sự mâu thuẫn về ý nghĩa của hệ số R 2 . Khi đó các kiểm định T và F có thể cho kết luận mâu thuẫn vì kiểm định F luôn có xu hướng bác bỏ H 0 . + Mô hình trở lên nhạy cảm với sự thay đổi của số liệu. + Dấu của các hệ số hồi quy ước lượng được có thể không phù hợp với lý thuyết kinh tế và việc thêm hoặc bớt một biến độc lập có thể làm thay đổi đáng kể về dấu và giá trị của các hệ số hồi quy ước lượng được. 10 [...]... thực tế đa cộng tuyến hoàn hảo gần như không bao giờ xảy ra vì sự phụ thuộc hàm số giữa các biến độc lập chỉ tồn tại về mặt lý thuyết Do đó trong các mô hình hồi quy bội khi nói đến vấn đề đa cộng tuyến thì chúng ta hiểu đó là hiện tượng đa cộng tuyến không hoàn hảo - Đối với mô hình hồi quy bội người ta không xem xét vấn đề có hay không có đa cộng tuyến mà xem xét mức độ nghiêm trọng của đa cộng tuyến. .. mức độ đa cộng tuyến của mô hình gốc 18 • Hạn chế của phương pháp này: - Chỉ dùng được với những số liệu theo thời gian - Không ước lượng được - Mất đi một quan sát đầu tiên - Ut có thể thoả mãn mọi giả thiết của OLS song Vt thì có thể vi phạm 19 3 Giảm đa cộng tuyến trong mô hình hồi quy đa thức • Khái niệm đa cộng tuyến chỉ tồn tại ở bậc nhất chứ không ở các bậc khác Vì vậy không có đa cộng tuyến. .. tuyến - Nói chung khi có đa cộng tuyến không hoàn hảo các ước lượng nhận được vẫn có tính chất không chệch nên vẫn có thể dùng để dự báo 11 5.3 Phát hiện ra đa cộng tuyến • Đa cộng tuyến đề cập đến điều kiện của các biến độc lập được giả thiết là phi ngẫu nhiên nên nó là vấn đề liên quan đến tệp số liệu mẫu chứ không phải của tổng thể do đó chúng ta không kiểm định đa cộng tuyến • Không có một phương... là dấu hiệu của đa cộng tuyến 3 Căn cứ vào hệ số tương quan của các biến độc lập: Nếu các hệ số tương quan khá cao thì có thể nghi ngờ có hiện tượng đa cộng tuyến 13 4 Dùng hồi quy phụ - Bước 1: Hồi quy mô hình phụ sau X ji = λ1 + λ2 X 2i + + λ j −1 X j −1i + λ j +1 X j +1i + + λk X ki + Vi ⇒ R 2 (∀j = 2 ÷ k ) j - Bước 2: kiểm định cặp giả thiết  H 0 : R 2 = 0 mô hình có đa cộng tuyến j   H1 :... Không có một phương pháp thực sự hoàn thiện để phát hiện đa cộng tuyến Chúng ta chỉ có các dấu hiệu cho thấy có thể có hiện tượng đa cộng tuyến • Xét mô hình Yi = β1 + β 2 X 2i + + β j X ji + + β k X ki + U i 12 1 Phân tích định tính Căn cứ vào nội dung kinh tế của các biến độc lập có trong mô hình để xem xét khả năng có tồn tại hiện tượng đa cộng tuyến trong mô hình hay không 2 Căn cứ vào các kết luận... Xj có thể cộng tuyến với các biến độc lập còn lại 15 6 Độ đo Theil - Bước 1: hồi quy mô hình đã cho thu được R2 - Bước 2: Lần lượt hồi quy các mô hình sau: Yi = β1 + β 2 X 2i + + β j −1 X j −1i + β j +1 X j +1i + + β k X ki + Vi → R 2 (∀ j = 2 ÷ k ) j - Bước 3: Xác định đại lượng k m = R − ∑ (R2 − R2 ) j 2 j =2 + Nếu thì mô hình gốc không có đa cộng tuyến + Nếu thì mô hình gốc có đa cộng tuyến hoàn... mô hình hồi quy đa thức • Khái niệm đa cộng tuyến chỉ tồn tại ở bậc nhất chứ không ở các bậc khác Vì vậy không có đa cộng tuyến giữa các bậc của đa thức song có thể có đa cộng tuyến trong bản thân dãy số liệu của biến độc lập Vì vậy để giảm bớt mức độ đa cộng tuyến ta có thể chuyến sang hồi quy mô hình sai phân với giá trị trung bình • Xét mô hình:TCi = β1 + β 2Qi + β3Qi2 + β 4Qi3 + U i (1) - Ta xây... eU i ⇔ ln( i ) = ln β1 + β 2 ln( i ) + U i Li Li Li Li Mô hình này không có đa cộng tuyến 17 2 Sử dụng mô hình sai phân cấp 1 • Xét mô hình 3 biến với số liệu theo thời gian Yt = β1 + β 2 X 2t + β 3 X 3t + U t • Tại thời điểm (t-1) ta có mô hình: Yt −1 = β1 + β 2 X 2t −1 + β 3 X 3t −1 + U t −1 • Giả sử X2 và X3 có đa cộng tuyến Khi đó ta xét mô hình sau: Yt − Yt −1 = β 2 ( X 2t − X 2t −1 ) + β3 ( X... định đại lượng k m = R − ∑ (R2 − R2 ) j 2 j =2 + Nếu thì mô hình gốc không có đa cộng tuyến + Nếu thì mô hình gốc có đa cộng tuyến hoàn hảo - Như vậy độ đo Theil đo mức độ cộng tuyến chung của mô hình 16 5.4 Khắc phục hiện tượng đa cộng tuyến 1 Sử dụng thông tin tiên nghiệm • Các thông tin tiên nghiệm được khai thác từ kinh nghiệm thông qua quan sát thực tế hoặc sử dụng các kết luận của kinh tế học • Sử... λ2 X 2i + + λ j −1 X j −1i + λ j +1 X j +1i + + λk X ki + Vi ⇒ R 2 (∀j = 2 ÷ k ) j - Bước 2: kiểm định cặp giả thiết  H 0 : R 2 = 0 mô hình có đa cộng tuyến j   H1 : R 2 > 0 mô hình không có đa cộng tuyến  j  + Tiêu chuẩn kiểm định: Fj = R 2 /( k − 1 − 1) j (1 − R ) /(n − k + 1) 2 j : F (k − 2, n − k + 1) k số hệ số trong mô hình gốc + Miền bác bỏ với mức ý nghĩa α cho trước Wα = { Fj : Fj > . dân 1 CHƯƠNG V: ĐA CỘNG TUYẾN (MULTICOLLINEARITY) 5.1. Bản chất của hiện tượng đa cộng tuyến 5.2. Hậu quả của hiện tượng đa cộng tuyến 5.3. Phát hiện đa cộng tuyến 5.4 Giảm đa cộng tuyến trong mô hình hồi quy đa thức • Khái niệm đa cộng tuyến chỉ tồn tại ở bậc nhất chứ không ở các bậc khác. Vì vậy không có đa cộng tuyến