CÁC CÁCH PHÁT HIỆN HIỆN HIỆN TƯỢNG đa CỘNG TUYẾN(2) (1)

bài tiểu luận nghiên cứu đề tài: “Các cách phát hiện và khắc phục hiện tượng đa cộng tuyến”

DANH SÁCH THÀNH VIÊN NHÓM 04 STT Họ tên Mã SV 01 Nguyễn Văn Hảo 11D220253 02 Đào Thị Hoa 11D220015 03 Nguyễn Phương Hoa 11D220194 04 Nguyễn Thị Khánh Hòa 11D220195 05 Đỗ Thị Hồng 11D220075 06 Nguyễn Thị Huệ 11D220256 07 Đàm Thu Hương 11D220420 08 Đào Thị Hương 11D220138 Đánh Giá Ghi Nhóm trưởng Thư kí CỘNG HỊA XÃ HỘI CHỦ NGHĨA VIỆT NAM Độc lập –Tự – Hạnh phúc BIÊN BẢN HỌP NHÓM THẢO LUẬN Nhóm 04 Thời gian: 12/10/2013 Địa điểm: Sân thư viên trường đại học Thương Mại Thành phần tham gia: Đủ 8/8 Thành viên vắng mặt: Không Nội dung họp: Phân chia công việc cho thành viên Thảo luận nội dung đề tài Hà Nội, ngày 12 tháng 10 năm 2013 Nhóm trưởng Kí tên CỘNG HỊA XÃ HỘI CHỦ NGHĨA VIỆT NAM Độc lập –Tự – Hạnh phúc BIÊN BẢN HỌP NHĨM THẢO LUẬN Nhóm 04 Thời gian: 21/10/2013 Địa điểm: Sân thư viên trường đại học Thương Mại Thành phần tham gia: Đủ 8/8 Thành viên vắng mặt: Không Nội dung họp: Nộp thảo luận Tổng hợp nội dung đề tài nhóm Phân cơng đánh máy, người thuyết trình Hà Nội, ngày 21tháng 10năm 2013 Nhóm trưởng LỜI MỞ ĐẦU Trong mơ hình phân tích hồi quy bội giả thiết biến độc lập khơng có mối quan hệ tuyến tính, quy tắc bị vi phạm có tượng đa cộng tuyến Hiện tượng đa cộng tuyến có ảnh hưởng vào khía cạnh hồi quy bội ta nghiên cứu mối quan hệ biến Y với biến X i , ta gặp quan hệ giưa biến X i với Hiện tượng đa cộng tuyến dẫn đến số tượng: - Phương sai hiệp phương sai ước lượng bình phương bé lớn - Khoảng tin cậy rộng - Tỉ số t ý nghĩa - R cao tỉ số t thấp - Các ước lượng bình phương bé sai số tiêu chuẩn chúng trở lên nhạy cảm với thay đổi nhỏ số liệu - Dấu ước lượng hệ số hồi quy sai - Thêm vào hay bớt biến cộng tuyến với biến khác, mơ hình thay đổi độ lớn ước lượng dấu chúng Như tượng đa cộng tuyến làm sai lệch mơ hình hồi quy bội, hàm hồi quy bội khơng có ý nghĩa thống kê thực tế Vấn đề đặt làm cách để phát khắc phục tượng đa cộng tuyến Nhóm 04 - vào nghiên cứu đề tài: “Các cách phát khắc phục tượng đa cộng tuyến” A LÍ THUYẾT I CÁC CÁCH PHÁT HIỆN HIỆN TƯỢNG ĐA CỘNG TUYẾN R cao tỉ số t thấp Trong trường hợp R cao (thường R > 0,8) mà tỉ số t thấp dấu hiệu tượng đa cộng tuyến Tương quan cặp biến giải thích cao Nếu hệ số tương quan cặp biến giải thích cao (vượt 0,8) có khả có tồn đa cộng tuyến Tuy nhiên tiêu chuẩn thường khơng xác Có trường hợp tương quan cặp khơng cao có đa cộng tuyến Thí dụ, ta có biến giải thích X , X , X sau X = (1,1,1,1,1, 0,0,0,0,0, 0,0,0,0,0, 0,0,0,0,0) X = (0,0,0,0,0, 1,1,1,1,1, 0,0,0,0,0, 0,0,0,0,0) X = (1,1,1,1,1, 1,1,1,1,1, 0,0,0,0,0, 0,0,0,0,0) Rõ ràng X = X + X nghĩa ta có đa cộng tuyến hồn hảo, nhiên tương quan cặp là: r 12 = -1/3 ; r 13 = r 23 =0,59 Như đa cộng tuyến xảy mà khơng có bảo trước cuả tương quan cặp cung cấp cho ta kiểm tra tiên nghiệm có ích Xem xét tương quan riêng Vì vấn đề đề cập đến dựa vào tương quan bậc không Farrar Glauber đề nghị sử dụng hệ số tương quan riêng Trong hồi quy Y biến X , X ,X Nếu ta nhận thấy r 1, 234 cao r 12 , 34 2 ; r 13, 24 ; r 14, 23 tương đối thấp điều gợi ý biến X , X X có tương quan cao biến thừa Dù tương quan riêng có ích không đảm bảo cung cấp cho ta hướng dẫn xác việc phát tượng đa cộng tuyến Hồi quy phụ Một cách tin cậy để đánh giá mức độ đa cộng tuyến hồi quy phụ Hồi quy phụ hồi quy biến giải thích X i theo biến giải thích cịn lại R tính từ hồi quy ta ký R i2 Mối liên hệ F i R i2 : Ri2 /(k − 2) F= (1 − Ri2 ) /( n − k + 1) F i tuân theo phân phối F với k – n-k +1 bậc tự Trong n , k số biến giải thích kể hệ số chặn mơ hình R i2 hệ số xác định hồi quy biến X i theo biến X khác Nếu F i tính vượt điểm tới hạn F i (k-2,n-k+1) mức ý nghĩa cho có nghĩa X i có liên hệ tuyến tính với biến X khác Nếu F i có ý nghĩa mặt thống kê phải quyến định liệu biến X i bị loại khỏi mô hình Một trở ngại kỹ thuật hồi quy phụ gánh nặng tính tốn Nhưng ngày nhiều chương trình máy tính đảm đương cơng việc tính tốn Nhân tử phóng đại phương sai Một thước đo khác tượng đa cộng tuyến nhân tử phóng đại phương sai gắn với biến X i , ký hiệu VIF(X i ) VIF(X i ) thiết lập sở hệ số xác định R i2 hồi quy biến X i với biến khác sau: VIF(X i ) = − R (5.15) i Nhìn vào cơng thức (5.15) giải thích VIF(X i ) tỷ số chung phương sai thực β hồi quy gốc Y biến X phương sai ước lượng β hồi quy mà X i trực giao với biến khác Ta coi tình lý tưởng tình mà biến độc lập không tương quan với nhau, VIF so sánh tình hng thực tình lý tưởng Sự so sánh khơng có ích nhiều khơng cung cấp cho ta biết phải làm với tình Nó cho biết tình không lý tưởng Đồ thị mối liên hệ R i2 VIF Như hình vẽ R i2 tăng từ 0,9 đến VIF tăng mạnh Khi R i =1 VIF vơ hạn Có nhiều chương trình máy tính cho biết VIF biến độc lập hồi quy Độ đo Theil Khía cạnh chủ yếu VIF xem xét đến tương quan qua lại biến giải thích Một độ đo mà xem xét tương quan biến giải thích với biến giải thích độ đo Theil Độ đo Theil định nghĩa sau: k m = R - ∑ ( R - R 2i ) − i=2 Trong R hệ số xác định bội hồi quy Y biến X , X … X k mơ hình hồi quy: Y = β + β X 2i + β X 3i + …… + β k X ki + U i R i hệ số xác định bội mô hình hồi quy biến Y − biên X , X , … ,X i −1 , X i +1 , … ,X k Đại lượng R - R i gọi “đóng góp tăng thêm vào” vào hệ số xác − định bội Nếu X , X … X k khơng tương quan với m = đóng góp tăng thêm cộng lại R Trong trường hợp khác m nhận giá trị âm dương lớn Để thấy độ đo có ý nghĩa, xét trường hợp mơ hình có biến giải thích X X Theo ký hiệu sử dụng chương trước ta có: 2 m = R - ( R - r 12 ) – (R – r 13 ) 2 Tỷ số t liên hệ với tương quan riêng r 12,3 , r 13, Trong phần hồi quy bội ta biết: 2 R = r 12 + (1- r 12 ) r 13, 2 2 R = r 13 + (1- r 13 ) r 12,3 Thay công thức vào biểu thức xác định m ta được: 2 2 2 2 m = R - (r 12 + (1- r 12 ) r 13, - r 12 ) - ( r 13 + (1- r 13 ) r 12,3 - r 13 ) 2 2 = R - ((1- r 12 ) r 13, + (1- r 13 ) r 12,3 ) 2 Đặt 1- r 12 = w ; 1- r 13 = w gọi trọng số Công thức (5.16) viết lại dạng 2 m = R - (w r 13, + w r 12,3 ) Như vây độ đo Theil hiệu hệ số xác định bội tổng có trọng số hệ số tương quan riêng Như biết số độ đo đa cộng tuyến tất có ý nghĩa sử dụng hạn chế Chúng cho ta thông báo việc lý tưởng Còn số độ đo liên quan đến giá trị riêng thống kê Bayes khơng trình bày II Biện pháp khắc phục Sử dụng thông tin tiên nghiệm Một cách tiếp cận để giải vấn đề đa cộng tuyến phải tận dụng thông tin tiên nghiệm thông tin từ nguồn khác để ước lượng hệ số riêng Thí dụ : ta muốn ước lượng hàm sản xuất trình sản xuất có dạng : Qt =AL Trong Qt lượng sản phẩm sản xuất thời kỳ t ; Lt lao động thời kỳ t ; Kt vốn thời kỳ t ; Ut nhiễu ;A , α, β tham số mà cần ước lượng Lấy ln vế (5.17) ta : LnQt = LnA + αlnLt + βKt Ut Đặt LnQt = Q*t ; LnA = A* ; LnLt = L*t Ta Q*t = A* + αL*t + βK*t + Ut (5.18) Giả sử L|K L có tương quan cao dĩ nhiên điều dẫn đến phương sai ước lượng hệ số co giãn hàm sản xuất lớn Giả sử từ nguồn thơng tin có lới theo quy mơ mà ta biết ngành cơng nghiệp thuộc ngành cso lợi tức theo quy mô không đổi nghĩa α + β =1 Với thông tin ,cách xử lý thay β = - α vào (5.18) thu : Q*t = A* + αL*t + ( - α )K*t + Ut (5.19) Từ ta Q*t – K*t = A* + α(L*t – K*t ) + Ut Đặt Q*t – K*t = Y*t L*t – K*t = Z*t ta Y*t = A* + α Z*t + Ut Thông tin tiên nghiệm giúp giảm số biến độc lập mơ hình xuống cịn biến Z*t Sau thu ước lượng α α tính β từ điều kiện β = –α Thu thập thêm số liệu lấy thêm mẫu mới Vì đa cộng tuyến đặc trưng mẫu nên có mẫu khác liên quan đến biến mẫu ban đầu mà đa cộng tuyến khơng nghiêm trọng Điều làm chi phí cho việc lấy mẫu khác chấp nhận thực tế Đôi cần thu thập them số liệu , tăng cỡ mẫu làm giảm tính nghiêm trọng đa cộng tuyến Bỏ biến Khi có tượng đa cộng tuyến nghiêm trọng cách “ đơn giản “là bỏ biến cộng tuyến khỏi phương trình Khi phải sử dụng biện pháp cách thức tiến hành sau : Giả sử mơ hình hồi quy ta có Y biến giải thích cịn X2 X3 …Xk biến giải thích Chúng ta thấy X tương quan chặt chẽ với X3 Khi nhiều thơng tin Y chứa X chứa X3 Vậy ta bỏ biến X2 X3 Khỏi mơ hình hồi quy , ta giải vấn đề đa cộng tuyến phần thông tin Y Bằng phép so sánh R2 R phép hồi quy khác mà có khơng có biến định nên bỏ biến biến X2 X3 khỏi mơ hình Thí dụ R2 hồi quy Y tất biến X1, X2, X3, …Xk 0.94; R2 loại biến X2 0.87 R2 loại biến X3 0.92 ;như trường hợp ta loại X3 Chúng ta lưu ý hạn chế biện pháp mơ hình kinh tế có trường hợp địi hỏi định phải có biến biến khác mơ hình Trong trường hợp việc loại bỏ biến phải cân nhắc cẩn thận sai lệch bỏ biến cộng tuyến với việc tăng phương sai ước lượng hệ số biến mơ hình Sử dụng sai phân cấp Thủ tục trình bày chương – tự tương quan Mặc dù biện pháp giảm tương quan qua lại biến chúng sử dụng giải pháp cho vấn đề đa cộng tuyến Thí dụ Chúng ta có số liệu chuỗi thời gian biểu thị liên hệ biến Y biến phụ thuộc X2 X3 theo mơ hình sau : Yt = β + β X 2t + β 3X 3t+ U t (5.20) Trong t thời gian Phương trình với t với t-1 nghĩa : Yt-1 = β + β X 2t-1 + β 3X 3t-1 + U t-1 (5.21) Từ (5.20) (5.21) ta : Yt – Yt-1 = β (X 2t - X 2t-1 ) + β (X 3t - X 3t-1) + U t - U t-1 (5.22) Đặt yt = Yt – Yt-1 x2t = X 2t - X 2t-1 x3t = X 3t - X 3t-1 Vt = U t - U t-1 Ta : yt = β x2t + β x3t + Vt (5.23) Mơ hình hồi quy dạng (5.23) thường làm giảm tính nghiêm trọng đa cộng tuyến dù X2 X3 tương quan cao khơng có lý tiên nghiệm chắn sai phân chúng tương quan cao Tuy nhiên biến đổi sai phân bậc sinh số bấn đề chẳng hạn số hạng sai số Vt (5.23) khơng thỏa mãn giả thiết mơ hình hồi quy tuyến tính cổ điển nhiễu khơng tương quan Vậy biện pháp sửa chữa lại cịn tồi tệ bệnh 5.Giảm tương quan hồi quy đa thức Nét khác hồi quy đa thức biến giải thích xuất với lũy thừa khác mơ hình hồi quy Trong thực hành để giảm tương quan hồi quy đa thức người ta thường sử dụng dạng độ lệch Nếu việc sử dụng dạng độ lệch mà không giảm đa cộng tuyến thù người ta phải xem xét đến kỹ thuật “ đa thức trực giao “ Một số biện pháp khác Ngoài biện pháp kể người ta sử dụng số biện pháp khác để cứu chữa bệnh sau : - hồi quy thành phần - Sử dụng ước lượng từ bên Nhưng tất biên pháp trình bày làm giải pháp cho vấn đề đa cộng tuyến phụ thuộc vào chất tập số liệu tính nghiêm trọng vấn đề đa cộng tuyến B VÍ DỤ MINH HỌA Bảng số liệu tiêu dùng cho thực phẩm thị trấn Banshee, Illinois, Hoa Kỳ đó: Y: Sản lượng tiêu thụ thịt lợn thị trấn tuần (kg) X1: Mức chi tiêu trung bình cho thực phẩm hộ gia đình tuần(USD) X2: Giá thịt lợn(USD/kg) X3: Giá thịt bò(USD/kg) Tiến hành ước lượng hàm hồi quy mẫu ta Ta có hàm hồi quy mẫu: Y=492,3815+3.446478*X1-74,99765*X2+50,26541*X3 ( − 12 tαn/2 k ) = t0.025 = 2.179 I/ Phát hiện tượng đa cộng tuyến Cách 1: Hệ số xác định bội R cao t thấp Nhận xét: R =0.928487>0.8 Thống kê t hệ số ứng với biến X2 |T | = |-0.914117 |= 0.914117 < 2.179 Thống kê t hệ số ứng với biến X3 |T | = |1.28355| = 1.28355 < 2.179 Vậy R cao t thấp Suy có tượng đa cộng tuyến Cách 2: Hệ số tương quan cặp biến giải thích cao Ta có: X1 X2 X3 X1 1.000000 0.729115 0.712735 X2 0.729115 1.000000 0.989064 X3 0.712735 0.989064 1.000000 r32 = 0.989064 > 0.8 Có tượng đa cộng tuyến biến X2 X3 Cách 3: Hồi quy phụ • Hồi quy biến X1 theo biến X2,X3 kết sau:  Ta có α = 0.05 ta kiểm định giả thiết H0: X1 khơng có tượng đa cộng tuyến với X2,X3 H1: X1 có tượng đa cộng tuyến với X2,X3 Nhận xét: Ta thấy giá trị p-value thống kê F 0.006907 < α =0.05 => bác bỏ giả thiết H0 chấp nhận giả thiết H1 • Hồi quy biến X2 theo biến X1,X3 kết sau: Ta có α = 0.05 ta kiểm định giả thiết H0: X2 khơng có tượng đa cộng tuyến với X1,X3 H1: X2 có tượng đa cộng tuyến với X1,X3 Nhận xét: Ta thấy giá trị p-value thống kê F 0.000000 < α =0.05 => bác bỏ giả thiết H0 chấp nhận giả thiết H1 • Hồi quy biến X3 theo biến X1,X2 kết sau: Ta có α = 0.05 ta kiểm định giả thiết H0: X3 khơng có tượng đa cộng tuyến với X1,X2 H1: X3 có tượng đa cộng tuyến với X1,X2 Nhận xét: Ta thấy giá trị p-value thống kê F 0.000000 < α =0.05 => bác bỏ giả thiết H0 chấp nhận giả thiết H1 Như có tượng đa cộng tuyến mơ hình hồi quy Cách Nhân tử phóng đai phương sai Ta có : R12= 0.534827 => VIF(X1)= 2.149738 R22=0.979437 => VIF(X2)= 48.631 > 10 R32=0.978400 => VIF(X3)=46.296 > 10  Có tượng đa cộng tuyến Cách Độ đo Theil Ta có: R2 = 0.928487 R21 = 0.883720 R22 = 0.923508 R23 = 0.918669 Độ đo Theil: m = R - [( R -R21)+( R - R22)+( R - R23)] = 0.868923 khác Có tượng đa cộng tuyến Và độ đo Theil mức độ đa cộng  tuyến m = 0.868923 II/ Khắc phục tượng đa cộng tuyến Cách 1: Bỏ biến Bước 1: hồi quy Y theo X1,X2 => R12 , R12  Bước 2: hồi quy Y theo X1,X3 => R22 , R22 Bước 3: so sánh R2 R hồi quy Bước 4: kết luận * Bước 1: Hồi quy Y theo X1,X2 * Bước 2: Hồi quy Y theo X1,X3 * Bước : Từ kết hồi quy ta có: R = 0.928487 R = 0.910609 R23= 0.918669 R12 = 0.906157 R22=0.923508 R2 = 0.911740 * Bước 4:Ta tiến hành so sánh Kết luận : trường hợp loại biến X3 Cịn với việc bỏ biến X1 ta có: Xem hiên tượng đa cộng tuyến không khắc phục Như ta có hàm hồi quy mới:Y = 1629.732+3.580905*X1 - 117.9675*X2 KL:Với hàm hồi quy ta khắc phục tượng đa cộng tuyến với việc bỏ biến X3 (giá thịt bị) hàm hồi quy phải giảm tính lí thuyết kinh tế ta biết thịt bị sản phẩm thay thịt lợn nên thay đổi giá thịt bò chắn ảnh hưởng đến lượng tiêu thụ thịt lợn Cách Lấy thêm số liệu Ta lấy thêm số liệu: Thời gian Y X1 X2 X3 4/22/2012 854 65 5.9 11.1 4/29/2012 846 68 6.0 11.2 5/6/2012 832 66 5.8 10.8 5/13/2012 868 72 11.4 Ước lượng hàm hồi quy mới: Hàm hồi quy thu có R cao tỉ số t lớn nhiều Ta có hàm hồi quy: Y=365.2300+3.348428*X1-62.19178*X2+55.76752*X3 KL: Như thêm biến có hiệu việc khắc phục tượng đa cộng mà không làm thay đổi tính lí thuyết kinh tế tốn Cách Sử dụng sai phân cấp Chúng ta có số liệu chuỗi thời gian biểu thị liên hệ biến Y biến phụ thuộc X theo mơ hình sau: Yt = β + β X 1t + β 2X 2t + β X 3t + U t Trong t thời gian Phương trình với t với t-1 nghĩa : Yt-1 = β0 + β1 X 1t-1 + β 2X 2t-1 + β3 X 3t-1 + U t-1 Từ (5.20) (5.21) ta : Yt – Yt-1 = β 1(X 1t - X 1t-1)+β (X 2t - X 2t-1)+β 3(X 3t - X 3t-1)+U t - U t-1 Đặt : Dy=dY = Yt – Yt-1 D1=dX1 = X 1t - X 1t-1 D2=dX2= X 2t - X 2t-1 D3=dX3= X 3t - X 3t-1 Vt = U t - U t-1 Ta có bảng sau: Ước lượng mơ hình hồi quy KL: Như ta thấy phương pháp khơng có hiệu giảm mức đa cộng tuyến trường hơp Kết Luận Có nhiều cách phát khắc phục tượng đa cộng tuyến khác Mỗi phương pháp có ưu điểm hạn chế định khơng phải phù hợp trường hợp Vì vậy, áp dụng phương pháp ta cần cân nhắc kĩ lượng để mang lại kết tin cậy Tài liệu tham khảo Bài giảng kinh tế lượng – Nguyễn Quang Đông – NXB Giao thông vận tải 2006 Hướng dẫn sử dụng Eviews Trang WWW.illinois.gov Mục Lục ... đề đặt làm cách để phát khắc phục tượng đa cộng tuyến Nhóm 04 - vào nghiên cứu đề tài: ? ?Các cách phát khắc phục tượng đa cộng tuyến” A LÍ THUYẾT I CÁC CÁCH PHÁT HIỆN HIỆN TƯỢNG ĐA CỘNG TUYẾN... phạm có tượng đa cộng tuyến Hiện tượng đa cộng tuyến có ảnh hưởng vào khía cạnh hồi quy bội ta nghiên cứu mối quan hệ biến Y với biến X i , ta gặp quan hệ giưa biến X i với Hiện tượng đa cộng tuyến... giảm tính nghiêm trọng đa cộng tuyến Bỏ biến Khi có tượng đa cộng tuyến nghiêm trọng cách “ đơn giản “là bỏ biến cộng tuyến khỏi phương trình Khi phải sử dụng biện pháp cách thức tiến hành sau