chương 6 đa cộng tuyến

Nhóm 5 Nguyễn Thị Lan Anh Nguyễn Vũ Minh Anh Huỳnh Thị Kim Ngân Trần Thị Kim Ngân Nguyễn Ngọc Thảo Nguyên Chương 6: Đa cộng tuyến Bản chất đa cộng tuyến Ước lượng trường hợp có đa cộng tuyến Hậu đa cộng tuyến Phát đa cộng tuyến Các biện pháp khắc phục 6.1 Bản chất đa cộng tuyến  Xét hàm hồi quy tuyến tính k biến: Yi=β1 + β2X2 + β3X3 + … + βkXk + Ui  Mơ hình lý tưởng biến giải thích Xi (i=2, 3, …, k) độc lập tuyến tính, ta nói khơng xảy tượng đa cộng tuyến 6.1 Bản chất đa cộng tuyến  Nhắc lại: Giả thiết mơ hình hồi quy bội: Hồi quy tuyến tính biến - Mơ hình: Yi = E(Y X2i,X3i) + Ui = β1 + β2X2i + β3X3i +Ui - Các giả thiết mơ hình: 1- E(Ui X2i, X3i) = 2- var(Ui) = i 3- cov(Ui, Uj) = i#j 4- Khơng có tượng cộng tuyến (quan hệ tuyến tính) X2 X3 5- U 6.1 Bản chất đa cộng tuyến  Nếu tồn 2, 3, …, k cho: 2X2i + 3X3i + kXki =0, với i (i=2,3,…,k) không đồng thời biến Xi (i=2,3, …,k): xảy tượng đa cộng tuyến hoàn hảo (Perfect Multicollinearity)  Nếu 2X2i + 3X3i + … + kXki + Vi =0 Với Vi sai số ngẫu nhiên ta nói xảy tượng đa cộng tuyến khơng hồn hảo (Imperfect Multicollinearity) 6.1 Bản chất đa cộng tuyến  Ví dụ: X1 X2 X3 10 50 52 15 75 75 18 90 97 24 120 129 30 150 152 X2i = 5X1i: Cộng tuyến hoàn hảo, r12=1 X2 X3 : Khơng có cộng tuyến hồn hảo, r23=0,9959 6.2 ƯỚC LƯỢNG TRONG TRƯỜNG HỢP ĐA CỘNG TUYẾN Có trường hợp: Trường hợp có đa cộng tuyến hoàn hảo Ước lượng trường hợp đa cộng tuyến khơng hồn hảo 1.Trường hợp có đa cộng tuyến hồn hảo •  Theo kết chương 4, ta có: 1.Trường hợp có đa cộng tuyến hồn hảo •  Giả sử λ số khác 0, ta được: == • Trong trường hợp đa cộng tuyến hồn hảo, phương sai sai số chuẩn 2.Ước lượng có đa cộng tuyến khơng hồn hảo •  Xét mơ hình hồi quy biến dạng độ lệch: Với λ, sai số ngẫu nhiên Do Trong trường hợp này, hệ số hồi quy ước lượng được: = • Như vậy, với đủ nhỏ, khơng có lý để nói trường hợp khơng ước lượng Các ước lượng bình phương bé sai số tiêu chuẩn chúng trở nên nhạy cảm với thay đổi nhỏ số liệu Dấu ước lượng hồi quy sai Thêm vào hay bớt biến cộng tuyến với biến khác, mơ hình thay đổi độ lớn ước lượng dấu chúng 6.4 Phát tồn ĐCT   •• Hệ số R2 lớn (thường R2>0,8) tỷ số t nhỏ • Tương quan cặp biến giải thích cao Rxz = Nếu tương quan cặp biến giải thích cao (lớn 0,8) xảy tượng đa cộng tuyến Tuy nhiên tiêu chuẩn thường không xác 6.4 Phát tồn ĐCT Có trường hợp tương quan cặp khơng cao xảy tượng ĐCT: • X1 = (1,1,1,1, 0,0,0,0, 0,0,0,0, 0,0,0,0) • X2 = (0,0,0,0, 1,1,1,1, 0,0,0,0, 0,0,0,0) • X3 = (1,1,1,1, 1,1,1,1, 0,0,0,0, 0,0,0,0) =>Ta thấy: X3 = X1 + X2: ĐCT hoàn hảo Tuy nhiên: r12 = -1/3 6.4 Phát tồn ••  Sử dụng ĐCT mơ hình hồi qui phụ Hồi qui phụ hồi qui biến giải thích X theo biến lại F= n: số quan sát k: số tham số mơ hình hồi qui phụ (kể hệ số tự do) * Kiểm định giả thiết H: R2 = : Khơng có đa cộng tuyến 6.4 Phát tồn ĐCT -• Nếu Fi > F mức ý nghĩa cho,   có nghĩa Xi có liên hệ tuyến tính với biến X khác Trường hợp ta giữ lại biến mơ hình - Nếu Fi có ý nghĩa mặt thống kê, phải xem xét biến Xi đưa khỏi mô hình 6.4 Phát tồn ĐCT • Sử dụng nhân tử phóng đại phương sai (VIF) •Tốc   độ gia tăng phương sai hiệp phương sai thấy qua nhân tử phóng đại phương sai - Đối với hàm hồi qui có biến giải thích X2 X3: VIF = Khi r23 = VIF tiến đến vơ hạn Nếu khơng có cộng tuyến X2 X3 VIF 6.4 Phát tồn ĐCT Tổng quát: •  VIFj = Có (k-1) biến giải thích giá trị R2 hàm hồi quy Xj theo (k-2) biến giải thích Nếu có cộng tuyến Xj với biến giải thích khác gần VIF j lớn 6.5.Các biện pháp khắc phục Sử dụng thông tin tiên nghiệm: • Dựa vào kinh nghiệm làm việc với mơ hình Ví dụ hàm sản xuất Cobb-Douglas:  (6.1)  ut Q  AL K e t t t Qt sản lượng sản phẩm sản xuất thời kỳ t Lt lao động thời kỳ t; Kt vốn thời kỳ t; Ut sai số ngẫu nhiên A, ,  tham số cần ước lượng Lấy Lôgarit tự nhiên (6.1): lnQt = ln A + ln Lt + ln Kt + Ut Đặt ẩn số ta được: * t * * t * t Q  A  L   K  U t Giả sử K L có tương quan cao, điều dẫn đến phương sai ước lượng lớn Giả sử, từ nguồn thơng tin đó, ta biết hàm sản xuất mà ta xét thuộc ngành có kỳ vọng sinh lợi khơng đổi theo qui mơ, nghĩa  +  = thay  = - , ta được: * t * t * * t * t * * t Q  K  A   ( L  K )  U t  A  X  U t Yt * Như vậy, thông tin tiên nghiệm giúp giảm số biến độc lập mơ hình xuống biến 6.5 Các biện pháp khắc phục Loại trừ biến giải thích khỏi mơ hình, định lại dạng mơ hình: Bước 1: Xem cặp biến giải thích có quan hệ chặt chẽ Giả sử X2, X3…Xk biến độc lập, Y biến phụ thuộc X2, X3 có tương quan chặt chẽ với Bước 2: Tính R2 hàm hồi qui: có mặt hai biến; khơng có mặt hai biến Bước 3: Ta loại biến mà giá trị R2 tính 6.5.Các biện pháp khắc phục Thu thập thêm số liệu lấy mẫu Sử dụng sai phân cấp Ví dụ từ hàm hồi qui: yt = 1 + 1x1t + 2x2t + ut, ta suy yt-1 = 1 + 1x1,t-1 + 2x2,t-1 + ut-1, Trừ hai vế cho nhau, ta được: yt – yt – = 1(x1,t – x1,t – 1) + 2(x2,t – x2,t – 1) + (ut – ut – 1) Hay: yt = 1  x1,t + 2  x2,t + et, Mặc dù, x1 x2 có quan hệ tuyến tính, khơng có nghĩa sai phân chúng 6.5.Các biện pháp khắc phục Giảm tương quan hàm hồi qui đa thức Trong thực hành, để giảm tương quan hồi qui đa thức, người ta thường sử dụng dạng độ lệch (lệch so với giá trị trung bình) Nếu sử dụng dạng độ lệch mà khơng giảm đa cộng tuyến người ta phải xem xét đến kỹ thuật “đa thức trực giao” 6.5Các biện pháp khắc phục Một số biện pháp khắc phục khác Ngoài biện pháp nêu trên, sử dụng số biện pháp khác để giải vấn đề cộng tuyến, ví dụ như: Hồi qui thành phần Hồi qui dạng sóng .. .Chương 6: Đa cộng tuyến Bản chất đa cộng tuyến Ước lượng trường hợp có đa cộng tuyến Hậu đa cộng tuyến Phát đa cộng tuyến Các biện pháp khắc phục 6. 1 Bản chất đa cộng tuyến  Xét... X2 X3 : Khơng có cộng tuyến hồn hảo, r23=0,9959 6. 2 ƯỚC LƯỢNG TRONG TRƯỜNG HỢP ĐA CỘNG TUYẾN Có trường hợp: Trường hợp có đa cộng tuyến hoàn hảo Ước lượng trường hợp đa cộng tuyến khơng hồn hảo... hảo 1.Trường hợp có đa cộng tuyến hồn hảo •  Theo kết chương 4, ta có: 1.Trường hợp có đa cộng tuyến hồn hảo •  Giả sử λ số khác 0, ta được: == • Trong trường hợp đa cộng tuyến hồn hảo, phương