Phát hiện và khắc phục hiện tượng đa cộng tuyến

Phát hiện và khắc phục hiện tượng đa cộng tuyến .Trong mô hình phân tích hồi quy bội, chúng ta giả thiết giữa các biến giải thích của mô hình độc lập tuyến tính với nhau, tức là các hệ số hồi quy đối với một biến cụ thể là số đo tác động riêng phần của biến tương ứng khi tất cả các biến trong mô hình được giữ cố định. Tuy nhiên nếu giả thiết trên bị vi phạm tức là xảy ra hiện tượng đa cộng tuyến, khi nó xảy ra sẽ xuất hiện hậu quả như thế nào và làm thế nào để khắc phục nó. Sau đây chúng ta cùng đi thảo luận đề tài “ Phát hiện và khắc phục hiện tượng đa cộng tuyến”MỤC LỤCLời mở đầuPhần I: Lý thuyết1.Các khái niệm chung về đa cộng tuyến 1.1Khái niệm về đa cộng tuyến1.2Ước lượng trong trường hợp đa cộng tuyến hoàn hảo1.3Ước lượng trong trường hợp đa cộng tuyến không hoàn hảo 2. Nguyên nhân và hậu quả của đa cộng tuyến 2.1. Nguyên nhân của đa cộng tuyến 2.2. Hậu quả của đa cộng tuyến3. Phát hiện sự tồn tại của đa cộng tuyến và biện pháp khắc phục 3.1. Phát hiện sự tồn tại của đa cộng tuyến3.1.1 R2 cao, t thấp 3.1.2 Hệ số tương quan cặp giữa các biến giải thích cao3.1.3 Xem xét tương quan riêng 3.1.4 Hồi quy phụ3.1.5 Nhân tử phóng đại phương sai (VIF)3.1.6 Độ đo Theils 3.2 Biện pháp khắc phục 3.2.1 Sử dụng thông tin tiên nghiệm 3.2.2 Loại bỏ biến3.2.3 Thu thập thêm số liệu hoặc lấy mẫu mới3.2.4 Dùng sai phân cấp một3.2.5 Giảm tương quan trong hồi quy đa thức3.2.6 Một số biện pháp khácPhần II: Bài tập vận dụng1. Lập mô hình hồi quy2. Phát hiện sự tồn tại của đa cộng tuyến3. Biện pháp khắc phụcPhần III. Thảo luận 5.3. Khắc phục hiện tượng phương sai sai số thay đổi 6.3 Khắc phục hiện tượng tự tương quan 7.3 Khắc phục hiện tượng đa cộng tuyến

MỤC LỤC Lời mở đầu Phần I: Lý thuyết Các khái niệm chung đa cộng tuyến 1.1 Khái niệm đa cộng tuyến 1.2 Ước lượng trường hợp đa cộng tuyến hoàn hảo 1.3 Ước lượng trường hợp đa cộng tuyến không hoàn hảo Nguyên nhân hậu đa cộng tuyến 2.1 Nguyên nhân đa cộng tuyến 2.2 Hậu đa cộng tuyến Phát tồn đa cộng tuyến biện pháp khắc phục 3.1 Phát tồn đa cộng tuyến 3.1.1 R2 cao, t thấp 3.1.2 Hệ số tương quan cặp biến giải thích cao 3.1.3 Xem xét tương quan riêng 3.1.4 Hồi quy phụ 3.1.5 Nhân tử phóng đại phương sai (VIF) 3.1.6 Độ đo Theils 3.2 Biện pháp khắc phục 3.2.1 Sử dụng thông tin tiên nghiệm 3.2.2 Loại bỏ biến 3.2.3 Thu thập thêm số liệu lấy mẫu 3.2.4 Dùng sai phân cấp 3.2.5 Giảm tương quan hồi quy đa thức 3.2.6 Một số biện pháp khác Phần II: Bài tập vận dụng Lập mô hình hồi quy Phát tồn đa cộng tuyến Biện pháp khắc phục Phần III Thảo luận 5.3 Khắc phục tượng phương sai sai số thay đổi 6.3 Khắc phục tượng tự tương quan 7.3 Khắc phục tượng đa cộng tuyến LỜI MỞ ĐẦU Trong mô hình phân tích hồi quy bội, giả thiết biến giải thích mô hình độc lập tuyến tính với nhau, tức hệ số hồi quy biến cụ thể số đo tác động riêng phần biến tương ứng tất biến mô hình giữ cố định Tuy nhiên giả thiết bị vi phạm tức xảy tượng đa cộng tuyến, xảy xuất hậu làm để khắc phục Sau thảo luận đề tài “ Phát khắc phục tượng đa cộng tuyến” Trong trình tìm hiểu không tránh khỏi sai sót, nhóm 11 mong nhận góp ý nhận xét thầy bạn để thảo luận hoàn thành cách tốt PHẦN I: LÝ THUYẾT Các khái niệm đa cộng tuyến ước lượng trường hợp đa cộng tuyến hoàn hảo 1.1 Các khái niệm chung đa cộng tuyến Tư tưởng đa cộng tuyến thấm sâu vào khía cạnh hồi quy bội Lý làm cho “ đa cộng tuyến” có ảnh hưởng lớn nghiên cứu mối quan hệ biến Y biến giải thích X i, ta gặp quan hệ biến Xi với Trường hợp lý tưởng biến X i môi trường hồi quy bội tương quan với nhau; biến Xi chứa thong tin riêng Y, thong tin không chứa biến X i khác Trong thực hành, điều xảy ta không gặp tượng đa cộng tuyến Ở trường hợp ngược lại, gặp đa cộng tuyến hoàn hảo Giả sử ta phải ước lượng hàm hồi quy Y gồm k biến giải thích X1, X2, X3, …, Xk Yi = β1X1i + β2X2i + … + βkXki + Ui Đa cộng tuyến hoàn hảo xảy biến giải thích dược biểu diễn đạng tổ hợp tuyến tính biến giải thích lại điểm tập số liệu Hoặc phát biểu: Đa cộng tuyến hoàn hảo biến giải thích Xi, X2, X3, …, Xk xảy điều kiện sau thỏa mãn: λ1X1 + λ2X2 + … + λkXk = đó: λ1, λ2, …, λk số không đồng thời không Thuật ngữ đa công tuyến lần Ragnar Frisch sử dụng vào năm 1934 với nội dung Tuy nhiên ngày nay, thuật ngữ sử dụng theo nghĩa rộng Nó bao gồm đa cộng tuyến hoàn hảo trường hợp biến giải thích có tương quan theo nghĩa sau: λ1X1i + λ2X2i + … + λkXki + Vi = đó: Vi sai số ngẫu nhiên 1.2 Ước lượng trường hợp đa cộng tuyến hoàn hảo Khi có đa cộng tuyến hoàn hảo hệ số hồi qui không xác định sai số hồi qui không xác định sai số tiêu chuẩn vô hạn Xét mô hình hồi qui biến : (a) Ta thu ước lượng (b) (c) Giả sử : số khác không , thay đổi điều kiện vào (b) Ta (d) Là biểu thức không xác định tương tự ta không xác định Như trường hợp đa cộng tuyến hoàn hảo , nhận lời giải cho hệ số hồi qui riêng, ta lại nhận lời giải cho tổ hợp tuyến tính hệ số Trong đa cộng tuyến hoàn hảo phương sai sai số tiêu chuẩn ước lượng vô hạn 1.3 Ước lượng trường hợp đa cộng tuyến không hoàn hảo Đa cộng tuyến hoàn hảo trường hợp đặc biệt xảy Trong số liệu liên quan đến chuỗi thời gian, thường xảy đa cộng tuyến không hoàn hảo Xét mô hình: Bây giả thiết X2 X3 có cộng tuyến không hoàn hảo theo nghĩa: Trong λ ≠ 0, nhiễu ngẫu nhiên cho = Trong trường hợp theo phương pháp bình phương nhỏ ta dễ dàng thu ước lượng Chẳng hạn: Trong trường hợp lý để nói không ước lượng Nguyên nhân hậu của đa cộng tuyến 2.1 Nguyên nhân đa cộng tuyến Do phương pháp thu thập liệu: giái trị biến độc lập phụ thuộc lẫn mẫu không phụ thuộc lẫn tổng thể • Các dạng mô hình dễ xảy đa cộng tuyến: Hồi quy dạng biến độc lập bình phương xảy đa cộng tuyến, đặc biệt phạm vi giá trị • ban đầu biến đọc lập nhỏ Các biến độc lập vĩ mô quan sát theo chuỗi thời gian 2.2 Hậu đa cộng tuyến Ta xét trường hợp mô hình có tượng đa cộng tuyến không hoàn hảo, tức biến độc lập Xi xấp xỉ tuyến tính theo biến X2, X3,…,Xk Có số trường hợp xảy sau: 2.2.1 Phương sai và hiệp phương sai của các ước lượng bình quân bé nhất lớn Trong chương mô hình hồi quy bội ta có biểu thức: Và: Trong hệ số tương quan X2, X3 Từ ta thấy tăng dần đến (nghĩa cộng tuyến tăng) thỳ phương sai ước lượng tăng dần đến vô hạn (1.4) tăng dần đến cov tăng giá trị tuyệt đối 2.2.2 Khoảng tin cậy rộng Giả sử thực hành ta có khoảng tin cậy 95% cho biết là: Trong đó: Cho nên ta viết lại khoảng tin cậy 95% cho là: Và cho (1.5) (1.6) chứng tỏ gần tới khoảng tin cậy cho tham số rộng Do trường hợp có đa cộng tuyến gần hoàn hảo số liệu mẫu thích hợp với tập giả thiết khác Vì xác suất chấp nhận giả thiết sai tăng lên (tức tăng sai lầm loại II) 2.2.3 Tỷ số t mất ý nghĩa Như biết kiểm định giả thiết H0 : β2 =0 sử dụng tỷ số đem so sánh giá trị t ước lượng với giá trị giới hạn t Trong có đa cộng tuyến gần hoàn hảo sai số tiêu chuẩn ước lượng cao làm cho số t nhỏ Kết làm tang khả chấp nhận H0 2.2.4 R2 cao tỉ số ý nghĩa Để giải thích điều Ta xét mô hình hồi quy k biến sau: Y = + + + … + + Ui Trong trường hợp có đa cộng tuyến gần hoàn hảo, , ta tìm hệ số góc riêng ý nghĩa thống kê sở kiểm định t R2 lại cao, nên kiểm định F bác bỏ giả thiết H0:==…==0 Mâu thuẫn tín hiệu đa cộng tuyến 2.2.5 Các ước lượng bình phương bé nhất và các sai số tiêu chuẩn của chúng trở nên rất nhạy đối với thay đổi nhỏ số liệu 2.2.6 Dấu của các ước lượng của các hệ số hồi quy sai Khi có đa cộng tuyến gần hoàn hảo thu ước lượng hệ số hồi quy trái với điều mong đợi Chẳng hạn lý thuyết kinh tế cho hàng hóa thông thường thu nhập tăng cầu hàng hóa tang, nghĩa hồi quy thu nhập một biến giải thích, biến phụ thuộc lượng cầu hàng hóa, xảy tượng đa cộng tuyến gần hoàn hảo ước lượn hệ số biến thu nhập mang dấu âm – mâu thuẫn với điều ta mong đợi 2.2.7 Thêm vào hay bớt các biến cộng tuyến với các biến khác,mô hình thay đổi độ lớn các ước lượng dấu của chúng Phát tồn của đa cộng tuyến biện pháp khắc phục 3.1 Phát tồn đa cộng tuyến 3.1.1 R2 cao, t thấp Trong trường hợp R2 cao (thường R2> 0,8) mà tỉ số t thấp dấu hiệu tượng đa cộng tuyến 3.1.2 Hệ số tương quan cặp các biến giải thích cao Nếu hệ số tương quan cặp biến giải thích cao (vượt 0,8) có khả có tồn đa cộng tuyến Tuy nhiên tiêu chuẩn thường không xác Có trường hợp tương quan cặp không cao có đa cộng ến Thí dụ, ta có biến giải thích X1, X2, X3 sau: X1 = (1,1,1,1,1, 0,0,0,0,0, 0,0,0,0,0, 0,0,0,0,0) X2= (0,0,0,0,0, 1,1,1,1,1, 0,0,0,0,0, 0,0,0,0,0) X3 = (1,1,1,1,1, 1,1,1,1,1, 0,0,0,0,0, 0,0,0,0,0) Rõ ràng X3 = X2 + X1 nghĩa ta có đa cộng tuyến hoàn hảo, nhiên tương quan cặp là: r 12 = -1/3 ; r13 = r23 =0,59 Như đa cộng tuyến xảy mà bảo trước cuả tương quan cặp cung cấp cho ta kiểm tra tiên nghiệm có ích 3.1.3 Xem xét tương quan riêng Vì vấn đề đề cập đến dựa vào tương quan bậc không Farrar Glauber đề nghị sử dụng hệ số tương quan riêng Trong hồi quy Y biến X 4, X2 , X3 Nếu ta nhận thấy r21,234 cao r212,34; r213,24; r214,23 tương đối thấp điều gợi ý biến X 2, X3 X4 có tương quan cao biến thừa Dù tương quan riêng có ích không đảm bảo cung cấp cho ta hướng dẫn xác việc phát tượng đa cộng tuyến 3.1.4 Hồi quy phụ Một cách tin cậy để đánh giá mức độ đa cộng tuyến hồi quy phụ Hồi quy phụ hồi quy biến giải thích Xi theo biến giải thích lại R2 tính từ hồi quy ta ký R2i Mối liên hệ Fi R2i Fi tuân theo phân phối F với k – n-k +1 bậc tự Trong n cỡ mẫu , k biến số giải thích kể hệ số chặn mô hình R2i hệ số xác định hồi quy biến X i theo biến khác Nếu Fi tính vượt điểm tới hạn Fi(k-2,n-k+1) mức ý nghĩa cho có nghĩa X i có liên hệ tuyến tính với biến X khác Nếu Fi có ý nghĩa mặt thống kê phải quyến định liệu biến X i bị lo ại khỏi mô hình Một trở ngại kỹ thuật hồi quy phụ gánh nặng tính toán Nhưng ngày nhiều chương trình máy tính đảm đương công việc tính toán 3.1.5 Nhân tử phóng đại phương sai (VIF) Một thước đo khác tượng đa cộng tuyến nhân tử phóng đại phương sai gắn với biến X i, ký hiệu VIF(Xi) VIF(Xi) thiết lập sở hệ số xác định R 2i hồi quy biến X i với biến khác sau: VIF(Xi) = 1/(1- R2i) Nhìn vào công thức (5.15) giải thích VIF(Xi) tỷ số chung phương sai thực β hồi quy gốc Y biến X phương sai ước lượng β hồi quy mà X i trực giao với biến khác Ta coi tình lý tưởng tình mà biến độc lập không tương quan với nhau, VIF so sánh tình huông thực tình lý tưởng Sự so sánh ích nhiều không cung cấp cho ta biết phải làm với tình Nó cho biết tình không lý tưởng 3.1.6 Độ đo Theil Khía cạnh chủ yếu VIF xem xét đến tương quan qua lại biến giải thích Một độ đo mà xem xét tương quan biến giải thích với biến giải thích độ đo Theil Độ đo Theil định nghĩa sau: Trong R2 hệ số xác định bội hồi quy Y biến X2 , X3… Xk mô hình hồi quy: Yi = β1 + β2X2i + β3 X3i+ …… + βk Xki+ Ui R2-i hệ số xác định bội mô hình hồi quy biến Y biên X2 , X3, … ,Xi-1, Xi+1, … ,Xk Đại lượng R2 – R2-i gọi “đóng góp tăng thêm vào” vào hệ số xác định bội Nếu X , X3… Xk không tương quan với m = đóng góp tăng thêm cộng lại R Trong trường hợp khác m nhận giá trị âm dương lớn Để thấy độ đo có ý nghĩa, xét trường hợp mô hình có biến giải thích X X3 Theo ký hiệu sử dụng chương trước ta có: m = R2- ( R2- r212) – (R2– r213) Tỷ số t liên hệ với tương quan riêng r212,3, r213,2 Trong phần hồi quy bội ta biết: R2 = r212 + (1- r212) r213,2 R2 = r213 + (1- r213) r212,3 Thay công thức vào biểu thức xác định m ta được: m = R2- (r212 + (1- r212) r213,2 – r212) - ( r213 + (1- r213) r212,3- r213 ) = R2- ((1- r212) r213,2 + (1- r213) r212,3) (5.17) Đặt 1- r212 = w2; 1- r213 = w3 gọi trọng số Công th ức (5.17) viết lại dạng m = R 2- (w2 r213,2 + w3 r212,3) Như vây độ đo Theil hiệu hệ số xác định bội tổng có trọng số hệ số tương quan riêng 3.2 Biện pháp khắc phục 3.2.1 Dùng thông tin tiên nghiệm Một cách tiếp cận để giải vấn đề đa cộng tuyến phải tận dụng thông tin tiên nghiệm thông tin từ nguồn khác để ước lượng hệ số riêng Mô hình sản xuất Cobb-Douglas Có thể xảy đa cộng tuyến K L tăng theo quy mô sản xuất Nếu biết hiệu suất không đổi theo quy mô tức  Mất đa cộng tuyến mô hình hồi quy đơn Ví dụ Biết Biến đổi Với 3.2.2 Loại trừ một biến giải thích khỏi mô hình Giả sử mô hình hồi quy ta có Y biến giải thích biến giải thích Chúng ta thấy tương quan chặt chẽ với X3 Khi nhiều thông tin Y chứa chứa Vậy ta bỏ biến khỏi mô hình hồi quy, ta giải vấn đề đa cộng tuyến phần thông tin Y Bằng phép so sánh phép hồi quy khác mà có biến định nên bỏ biến biến X2 X3 khỏi mô hình Thí dụ hồi quy Y tất biến 0.94; loại biến 0.87 loại biến 0.92; trường hợp ta loại X3 Chúng ta lưu ý hạn chế biện pháp mô hình kinh tế có trường hợp đòi hỏi định phải có biến biến khác mô hình Trong trường hợp việc loại bỏ biến phải cân nhắc cẩn thận sai lệch bỏ biến cộng tuyến với việc tăng phương sai ước lượng hệ số biến mô hình 3.2.3 Bổ sung thêm liệu chọn mẫu mới Vì đa cộng tuyến đặc trưng mẫu nên có mẫu khác liên quan đến biến mẫu ban đầu mà đa cộng tuyến không nghiêm trọng Điều làm chi phí cho việc lấy mẫu khác chấp nhận thực tế Đôi cần thu thập them số liệu , tăng cỡ mẫu làm giảm tính nghiêm trọng đa cộng tuyến 3.2.4 Dùng sai phân cấp Ví dụ có số liệu chuỗi thời gian biểu thị liên hệ biến Y biến phụ thuộc X X3 theo mô hình sau: Yt = β1 + β X 2t + β 3X 3t+ U t (1.19) Trong t thời gian Phương trình với t với t-1 nghĩa là: Yt-1 = β + β X 2t-1+ β 3X 3t-1 + U t-1 (1.20) Từ (1.19) (1.20) ta được: Yt – Yt-1 = β (X2t - X2t-1) + β (X3t - X3t-1) + Ut - Ut-1 Đặt (1.21) yt = Yt – Yt-1 x2t = X2t - X2t-1 x3t = X3t - X 3t-1 Vt = U t - U t-1 Ta được: yt = β x2t + β x3t + Vt (1.22) Mô hình hồi quy dạng (1.22) thường làm giảm tính nghiêm trọng đa cộng tuyến dù X X3 tương quan cao lý tiên nghiệm chắn sai phân chúng tương quan cao Tuy nhiên biến đổi sai phân bậc sinh số bấn đề chẳng hạn số hạng sai số V t (1.22) không thỏa mãn giả thiết mô hình hồi quy tuyến tính cổ điển nhiễu không tương quan.Vậy biện pháp sửa chữa lại tồi tệ bệnh 3.2.5 Giảm tương quan hồi quy đa thức Nét khác hồi quy đa thức biến giải thích xuất với lũy thừa khác mô hình hồi quy Trong thực tế để giảm tương quan hồi quy đa thức người ta thường sử dụng độ lệch Nếu việc sử dụng dạng độ lệch mà vần không giảm đa cộng tuyến người ta phải xét đến kĩ thuật ‘ đa thức trực giao’ 3.2.6 Một số biện pháp khác - Bỏ qua đa cộng tuyến t>2 - Bỏ qua đa cộng tuyến R2 mô hìn cao R2 mô hình hồi quy phụ - Bỏ qua đa cộng tuyến hồi quy mô hình dùng để dự báo kiểm định - Hồi quy thành phần - Sử dụng ước lượng từ bên Nhưng tất biện pháp bày làm giải pháp cho vấn đề đa cộng tuyến phụ thuộc vào chất tập số liệu tính nghiêm trọng vấn đề đa cộng tuyến Nhưng tất biện pháp trình bày làm giải pháp cho vấn đề đa cộng tuyến phụ thuộc vào chất cua tập số liệu tính nghiêm trọng vấn đề đa cộng tuyến Phần II Bài tập vận dụng Dựa sở lý luận ta tìm hiểu, sau phân tích tình kinh tế cụ thể để thấy cách phát khắc phục tượng đa cộng tuyến Theo điều tra thể hiên phụ thuộc lượng thịt gà tiêu dùng theo đầu người Mỹ, giá bán lẻ thực thịt gà giá bán lẻ thực thịt lợn giai đoạn 1960-1982 Trong đó: Y: lượng thịt gà tiêu dung theo đầu người (pounds) X: thu nhập khả dụng theo đầu người ($) Z: giá bán lẻ thực thịt gà (cent/pounds) T: giá bán lẻ thực thịt lợn (cent/pounds) Nguồn: Robert J.Fisher (D.N Gujarati) a Thu thập thêm số liệu để tăng kích thước mẫu Quansát 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 Y 27.8 29.9 28.8 30.8 31.2 33.3 35.6 36.4 36.7 38.4 40.4 40.3 41.8 40.4 40.7 40.1 42.7 44.1 46.7 50.6 50.1 51.7 52.9 45.7 53.7 53.1 X 397.5 413.3 439.2 459.7 492.9 528.6 560.3 624.6 666.4 717.8 768.2 843.3 911.6 931.1 1021.5 1165.9 1349.6 1449.4 1575.5 1759.1 1994.2 2258.1 2478.7 2351.8 2635.8 2595.2 Z 42.2 38.1 40.3 39.5 37.3 38.1 39.3 37.8 38.4 40.1 38.6 39.8 39.7 52.1 48.9 58.3 57.9 56.5 63.7 61.6 58.9 66.4 70.4 71.0 80.1 85.9 Từ bảng số liệu, dung phần mềm eview ta có kết sau: T 78.3 79.2 79.2 79.2 77.4 80.2 80.4 83.9 85.5 93.7 106.1 104.8 114 124.1 127.6 142.9 143.6 139.2 165.5 203.3 219.6 221.6 232.6 239.3 250.5 262.7 Từ bảng eview, ta có mô hình hàm hồi quy mẫu mới: Có: R2= 0.890428 > 0.8 có Prob = 0.0935 > 0.05 => thấp Kết luận: Mô hình tượng đa cộng tuyến, giảm tính nghiêm trọng tượng b Bỏ biến Bước 1: Hồi quy Y theo Z T Sử dụng phần mềm eview ta có bảng sau: Khi bỏ biến X ta có mô hình hồi quy: =26.10947 – 0.140626Zi + 0.162870Ti R12 = 0.876090 ttn = -0.991993 ứng với biến Z ttn = 5.322251 ứng với biến T Bước 2: Hồi quy Y theo X T Sử dụng phần mềm eview ta đươc bảng sau: Khi bỏ biến Z ta có mô hình hồi quy: =27.62956 + 0.010907Xi +0.005686Ti R22 = 0.893021 ttn = 2.074913 ứng với biến X ttn = 0.090169 ứng với biến T Bước 3: Hồi quy Y theo X Z Dùng phần mềm eview, ta bảng sau: Khi bỏ biến T ta có mô hình hồi quy: =34.59455+ 0.015062Xi – 0.219984Zi R32 = 0.907251 ttn = 6.675541 ứng với biến X ttn = -1.754361 ứng với biến Z Bằng phép so sánh R2 phép hồi quy mà có biến X, Z, T mà định nên bỏ biến khỏi mô hình hồi quy: - R2 loại bỏ biến X là: 0.876090 - R2khi loại bỏ biến Z là: 0.893021 - R2 loại bỏ biến T là: 0.907251 Như trường hợp nên bỏ biến T, ta thấy R2 loại bỏ biến T > R2 loại bỏ biến Z > R2 loại bỏ biến X, nên mô hình bỏ biến T có phù hợp cao bỏ biến X, Z Vậy ta nên bỏ biến T khỏi mô hình mô hình tượng đa cộng tuyến làm giảm tính nghiêm trọng tượng KẾT LUẬN Có nhiều cách phát khắc phục tượng đa cộng tuyến khác Mỗi phương pháp có hạn chế định Vì vậy, áp dụng phương pháp ta cần cân nhắc kĩ lượng để mang lại kết tin cậy Phần III Thảo luận 5.3: Phương sai sai số thay đổi MH gốc: Yi = β1 + β2Xi + Ui (1) TH1: σi2 biết  Biến đổi MH gốc MH nào? Tại sao? Chia vế (1) cho σi, có: = β + β2 + (2) Var = E (2 = × E(Ui)2 = × = = Var (Ui) = × =  MH không tượng PSSS thay đổi  Dùng phương pháp để ước lượng MH biến đổi? - Phương pháp bình phương nhỏ để ước lượng (2) - Phương pháp DOLS để ước lượng (1)  Trọng số phương pháp gì? Trong thực tế thay trọng số giá trị biến nào? Ta cực tiểu tổng bình phương phần dư có trọng số: )2 Trong ước lượng bình phương nhỏ có trọng số, Wi định nghĩa sau: Wi ( ; Var( Bằng cách lý luận trường hợp trọng số ta tìm Trong đó: Rõ ràng Wii) trung bình trọng số trung bình thông thường TH2: σi2 chưa biết  Áp dụng giả thiết để khắc phục - Giả thiết 1: E(Ui)2 = σ2Xi2 = Var(Ui) - Giả thiết 2: E(Ui)2 = σ2Xi = Var(Ui) - Giả thiết 3: E(Ui)2 = σ2 (E (Yi))2 = Var(Ui) - Giả thiết 4: Dạng hàm sai  Nêu cách khắc phục tương ứng? sao? Giả thiết 3: E(Ui)2 = σ2 (E (Yi))2 MH gốc: Yi = β1 + β2Xi + Ui (1) Chia vế cho E(Yi), có: = + β2 + (2) Thay E(Yi) = (thu từ hồi quy mô hình (1)) Chứng minh mô hình (2) có Var () = σ2  mô hình (2) không phương sai sai số thay đổi Ví dụ: Giả thiết: σ2 = σ2Xiα Nêu cách khắc phục tượng? Có Var (Ui) = σ2XiαZβi Xét MH: Yi = β1 + β2Xi + Ui + β3Zi Nêu cách khắc phục tượng?  Yi = β1 + β2Xi + Ui Var ( Ui ) = Xi 6.3: Tự tương quan  Phương pháp khắc phục tự tương quan bậc 1? Tại sao?  Phương pháp sai phân tổng quát Yi = β1 + β2Xi + Ui (1) Sai phân tổng quát: Yi = ρYi-1 = β1(1-ρ) + β2(Xi – ρXi-1) + Ui ρUi-1 Ta có: εi = Ui – ρUi-1 thỏa mãn Cov(εi , ε’i) =  MH (2) có tự tương quan bậc Vì Ui = =>  Nếu ρ chưa biết => dùng phương pháp nào? - Phương pháp sai phân cấp 1: ρ = - Ước lượng � dựa thống kê d- Durbin – Watson : ρ = - Thủ tục lặp Cochrane - Orcult để ước lượng � - Thủ tục Cochrane - Orcutt hai bước - Phương pháp Durbin - Watson bước để ước lượng � - Các phương pháp khác để ước lượng �  Xác định giá trị ước lượng của � phương pháp đó? (2) Giả sử MH gốc = + + có xảy tượng tự tương quan bậc Xác định giá trị ước lượng � phương pháp 1.Phương pháp sai phân cấp Ta có giả thiết - �=0 tức tương quan chuỗi - �=(+-)1 nghĩa có tương quan dương âm hoàn toàn Khi ước lượng người ta thường giả thiết tương quan sau kiểm định Durbin – Watson hay kiểm định khác xem không Tuy nhiên �=(+-)1 phương trình sai phân tổng quát quy phương trình sai phân cấp 1: ( *) Trong toán tử sai cấp Để ước lượng hồi quy (*) ta sử dụng mô hình hồi quy qua gốc tọa độ - Giả sử mô hình ban đầu là: - = + + + (**) Trong t biến xu thế, theo sơ đồ tự hồi quy bậc Thực phép biến đổi sai phân cấp (**) ta được: (***) Trong đó: Phương trình (***) có hệ số chặn dạng sai phân cấp Phép biến đổi sai phân cấp giới thiệu trước phổ biến kinh tế lượng ứng dụng dễ thực Nhưng lưu ý giả thiết đưa không xảy Chính đến với phương pháp khác Ước lượng � dựa thống kê d- Durbin – Watson Ta có: = 1- (a) Đẳng thức gợi cho ta cách đơn giản để thu ước lượng � từ thống kê d • • • Giả thiết sai phân cấp với �= d=0 xấp xỉ Khi d = =0 Khi d = = (-1) Do vậy, thống kê d cung cấp cho ta phương pháp sẵn có để thu ước lượng � Lưu ý: (a) quan hệ xấp xỉ không với mẫu nhỏ ĐỐi với mẫu nhỏ co thể sử dụng thống kê d để cải biên Theil-Nagar Vì mẫu nhỏ ta phải cẩn trọng giải thích kết ước lượng Thủ tục lặp Cochrane - Orcult để ước lượng � Phương pháp sử dụng phần ước lượng để thu thông tin � chưa biết Ta xét phương pháp thông qua mô hình hai biến sau: = + + (1) Giả sử =�+ ( ) Các ước lượng � tiến hành sau: • Ước lượng mô hình biến phương pháp bình phương nhỏ thông thường thu phần dư e1 • Sử dụng phần dư ước lượng để ước lượng hổi quy -1+ = ( 3) • Sử dụng thu từ phương trình (3) để ước lương phương trình sai phần tổng quát: - = (1 – ) + ) + ( - ) Ta ước lượng hồi quy: *=+ *+* ( 4) • Vì chưa biết thu từ phương trình (1) có phải ước lượng tốt hay không nên ta thay giá trị 1*và 2* thu từ phương trình (4) vào hồi quy gốc ban đầu thu phần dư *-* Ước lượng hồi quy tương tự ta thu được: **+=**(5) ước lượng vòng � Thủ tục Cochrane - Orcutt hai bước Đây kiểu rút ngắn trình lặp bước (1) ta ước lượng � từ bước lặp nghĩa phép hồi quy bước (2) ta sử dụng ước lượng � để ước lương phương trình sai phân tổng quát Trong thực hành hai bước hoàn toàn cho ta kết tương tự với kết thu từ thủ tục lặp kỹ lưỡng Phương pháp Durbin - Watson bước để ước lượng � Để minh hoạ phương pháp viết lại phương trình sai phân tổng quát dang sau: = (1 – �) + – � + � + (6) Durbin đề xuất thủ tục bước để ước lượng � • Coi (6) mô hình hồi quy bội, hồi quy theo ,, coi giá trị ước lượng hệ số hồi quy (=�) ước lượng � • Sau thu , đổi biến *= - *=- ước lượng hồi quy phương pháp bình phương nhỏ thông thường Các phương pháp khác để ước lượng � Ngoài phương pháp có số phương pháp khác dùng phương pháp hợp lý cực ước lượng trực tiếp tham số mà không cần dùng đến số thủ tục lặp thảo luận 7.3 Đa cộng tuyến  Liệt kê phương pháp dùng để khắc phục tượng đa cộng tuyến? Hiểu ý tưởng của phương pháp Dùng thông tin tiên nghiệm Một cách tiếp cận để giải vấn đề đa cộng tuyến phải tận dụng thông tin tiên nghiệm thông tin từ nguồn khác để ước lượng hệ số riêng Mô hình sản xuất Cobb-Douglas Có thể xảy đa cộng tuyến K L tăng theo quy mô sản xuất Nếu biết hiệu suất không đổi theo quy mô tức  Mất đa cộng tuyến mô hình hồi quy đơn Ví dụ Biết Biến đổi Với Loại trừ một biến giải thích khỏi mô hình Giả sử mô hình hồi quy ta có Y biến giải thích biến giải thích Chúng ta thấy tương quan chặt chẽ với X3 Khi nhiều thông tin Y chứa chứa Vậy ta bỏ biến khỏi mô hình hồi quy, ta giải vấn đề đa cộng tuyến phần thông tin Y Bằng phép so sánh phép hồi quy khác mà có biến định nên bỏ biến biến X2 X3 khỏi mô hình Thí dụ hồi quy Y tất biến 0.94; loại biến 0.87 loại biến 0.92; trường hợp ta loại X3 Chúng ta lưu ý hạn chế biện pháp mô hình kinh tế có trường hợp đòi hỏi định phải có biến biến khác mô hình Trong trường hợp việc loại bỏ biến phải cân nhắc cẩn thận sai lệch bỏ biến cộng tuyến với việc tăng phương sai ước lượng hệ số biến mô hình Bổ sung thêm liệu chọn mẫu mới Vì đa cộng tuyến đặc trưng mẫu nên có mẫu khác liên quan đến biến mẫu ban đầu mà đa cộng tuyến không nghiêm trọng Điều làm chi phí cho việc lấy mẫu khác chấp nhận thực tế Đôi cần thu thập them số liệu , tăng cỡ mẫu làm giảm tính nghiêm trọng đa cộng tuyến Dùng sai phân cấp một Ví dụ có số liệu chuỗi thời gian biểu thị liên hệ biến Y biến phụ thuộc X X3 theo mô hình sau: Yt = β1 + β X 2t + β 3X 3t+ U t (1.19) Trong t thời gian Phương trình với t với t-1 nghĩa là: Yt-1 = β + β X 2t-1+ β 3X 3t-1 + U t-1 (1.20) Từ (1.19) (1.20) ta được: Yt – Yt-1 = β (X2t - X2t-1) + β (X3t - X3t-1) + Ut - Ut-1 Đặt (1.21) yt = Yt – Yt-1 x2t = X2t - X2t-1 x3t = X3t - X 3t-1 Vt = U t - U t-1 Ta được: yt = β x2t + β x3t + Vt (1.22) Mô hình hồi quy dạng (1.22) thường làm giảm tính nghiêm trọng đa cộng tuyến dù X X3 tương quan cao lý tiên nghiệm chắn sai phân chúng tương quan cao Tuy nhiên biến đổi sai phân bậc sinh số bấn đề chẳng hạn số hạng sai số V t (1.22) không thỏa mãn giả thiết mô hình hồi quy tuyến tính cổ điển nhiễu không tương quan.Vậy biện pháp sửa chữa lại tồi tệ bệnh Giảm tương quan hồi quy đa thức Nét khác hồi quy đa thức biến giải thích xuất với lũy thừa khác mô hình hồi quy Trong thực tế để giảm tương quan hồi quy đa thức người ta thường sử dụng độ lệch Nếu việc sử dụng dạng độ lệch mà vần không giảm đa cộng tuyến người ta phải xét đến kĩ thuật ‘ đa thức trực giao’ Một số biện pháp khác - Bỏ qua đa cộng tuyến t>2 - Bỏ qua đa cộng tuyến R2 mô hìn cao R2 mô hình hồi quy phụ - Bỏ qua đa cộng tuyến hồi quy mô hình dùng để dự báo kiểm định - Hồi quy thành phần - Sử dụng ước lượng từ bên Nhưng tất biện pháp trình bày làm giải pháp cho vấn đề đa cộng tuyến phụ thuộc vào chất cua tập số liệu tính nghiêm trọng vấn đề đa cộng tuyến  Nếu mô hình biến có xảy tượng ĐCT, phương pháp bỏ biến có khắc phục tượng hay không? Vì sao? Có nên lạm dụng phương pháp bỏ biến hay không? Vì sao? * Biện pháp bỏ biến mô hình đa cộng tuyến biện pháp đơn giản Ta thấy tượng đa cộng tuyến xảy biến độc lập có biểu diễn tuyến tính gần tuyến tính qua biến độc lập khác.Vì ta cần cân nhắc việc loại bỏ biến mô hình Trong mô hình biến có biến phụ thuộc biến độc lập, dùng phương pháp bỏ biến biến độc lập nên không tồn mối tương quan biến độc lập, không khắc phục tượng đa cộng tuyến Khi áp dụng phương pháp bỏ biến mô hình biến loại bỏ đa cộng tuyến mô hình không hiệu biến giải thích Hơn số mô hình có biến bắt buộc có mô hình bỏ ⇒ lúc khắc phục tượng đa cộng tuyến phương pháp bỏ biến * Không nên lạm dụng phương pháp bỏ biến :việc bỏ biến khỏi mô hình để làm giảm bớt vấn đề đa cộng tuyến dẫn đến việc có nhìn phiến diện biến phụ thuộc Vì vậy, phương pháp giải có lẽ lại làm cho vấn đề xấu thêm số trường hợp, vì, đa cộng tuyến cản trở việc ước lượng xác thông số mô hình, việc bỏ qua biến có lẽ làm cho lạc hướng trầm trọng tìm đến giá trị thực thông số Hơn có nhiều phương pháp khác để ta khắc phục đa cộng tuyến trước sử dụng đến phương pháp bỏ biến  Nếu khắc phục đa cộng tuyến mà R thu từ mô hình thấp việc khắc phục tượng có thành công hay không? Trong trường hợp bỏ qua tượng Đa cộng tuyến Khi khắc phục tượng đa cộng tuyến R2 thu từ mô hình thấp (R2 b) Bỏ qua đa cộng tuyến R2 mô hình cao R2 mô hình hồi qui phụ c) Bỏ qua đa cộng tuyến mục tiêu xây dựng mô hình sử dụng để dự báo không để phải kiểm định CỘNG HÒA XÃ HỘI CHỦ NGHĨA VIỆT NAM Độc lập - Tự - Hạnh phúc -o0o -BIÊN BẢN THẢO LUẬN NHÓM Môn học: Kinh tế lượng Đề tài: Phát khắc phục tượng đa cộng tuyến Các thành viên: Nguyễn Thị Minh Vân (nhóm trưởng) Vũ Thế Trọng Đỗ Thị Thu Uyên (thư ký nhóm) Trần Bảo Trung Nguyễn Thị Quỳnh Trang Lê Thị Tú Nguyễn Thị Quỳnh Trang Dương Sơn Tùng Nguyễn Thị Ánh Tuyết 10 Thái Ánh Tuyết Buổi họp bắt đầu lúc 14h ngày 13/10/2016 Nhóm trưởng thư ký bàn bạc phân công nhiệm vụ cụ thể đến từng thành viên Bảng phân công Tên Nhiệm vụ Dương Sơn Tùng Vũ Thế Trọng Các khái niệm chung đa cộng tuyến Nguyễn Thị Quỳnh Trang Nguyễn Thị Quỳnh Trang Các phương pháp phát tồn đa cộng tuyến Đỗ Thị Thu Uyên Thái Ánh Tuyết Những phương pháp khắc phục tượng đa cộng tuyến Nguyễn Thị Minh Vân Nguyên nhân hậu đa cộng tuyến, tổng hợp word Lê Thị Tú Nguyễn Thị Ánh Tuyết Trần Bảo Trung Thu thập số liệu, giải tập eview làm slide Buổi họp kết thúc lúc 15h30’ Nhóm trưởng CỘNG HÒA XÃ HỘI CHỦ NGHĨA VIỆT NAM Độc lập - Tự - Hạnh phúc -o0o -BIÊN BẢN THẢO LUẬN NHÓM Môn học: Kinh tế lượng Đề tài: phát khắc phục tượng đa cộng tuyến Các thành viên: Nguyễn Thị Minh Vân (nhóm trưởng) Đỗ Thị Thu Uyên (thư ký nhóm) Nguyễn Thị Quỳnh Trang Nguyễn Thị Quỳnh Trang Vũ Thế Trọng Trần Bảo Trung Lê Thị Tú Dương Sơn Tùng Nguyễn Thị Ánh Tuyết 10 Thái Ánh Tuyết Thư ký Buổi họp bắt đầu lúc 8h ngày 03/11/2016 Các thành viên gửi cho nhóm trưởng thư ký Cả nhóm thảo luận hoàn thiện thảo luận chung Buổi họp kết thúc lúc 9h30’ Nhóm trưởng Thư ký BẢNG ĐÁNH GIÁ THÀNH VIÊN TRONG NHÓM STT \ Họ tên Mã SV Tự đánh giá Giáo viên đánh giá Xếp loại [...]... để ta khắc phục đa cộng tuyến trước khi sử dụng đến phương pháp bỏ biến  Nếu khắc phục đa cộng tuyến mà R 2 thu được từ mô hình mới khá thấp thì việc khắc phục hiện tượng có thành công hay không? Trong những trường hợp nào có thể bỏ qua hiện tượng Đa cộng tuyến Khi khắc phục hiện tượng đa cộng tuyến nếu R2 thu được từ mô hình mới khá thấp (R2 2 b) Bỏ qua đa cộng tuyến nếu R2 của mô hình cao hơn R2 của mô hình hồi qui phụ c) Bỏ qua đa cộng tuyến nếu mục tiêu xây dựng mô hình sử dụng để dự báo chứ không để phải kiểm định CỘNG HÒA XÃ HỘI CHỦ NGHĨA VIỆT NAM Độc lập - Tự do - Hạnh phúc -o0o -BIÊN BẢN THẢO LUẬN NHÓM Môn học: Kinh tế lượng Đề tài: Phát hiện và khắc phục hiện tượng đa cộng tuyến. .. trưởng và thư ký bàn bạc và phân công nhiệm vụ cụ thể đến từng thành viên Bảng phân công Tên Nhiệm vụ Dương Sơn Tùng Vũ Thế Trọng Các khái niệm chung về đa cộng tuyến Nguyễn Thị Quỳnh Trang Nguyễn Thị Quỳnh Trang Các phương pháp phát hiện sự tồn tại của đa cộng tuyến Đỗ Thị Thu Uyên Thái Ánh Tuyết Những phương pháp khắc phục hiện tượng đa cộng tuyến Nguyễn Thị Minh Vân Nguyên nhân và hậu quả của đa cộng. .. loại bỏ biến X, nên mô hình bỏ biến T có sự phù hợp cao hơn khi bỏ biến X, Z Vậy ta nên bỏ biến T ra khỏi mô hình mô hình vẫn còn hiện tượng đa cộng tuyến nhưng nó làm giảm tính nghiêm trọng của hiện tượng KẾT LUẬN Có nhiều cách phát hiện và khắc phục hiện tượng đa cộng tuyến khác nhau Mỗi phương pháp có những hạn chế nhất định Vì vậy, khi áp dụng một phương pháp nào ta cần cân nhắc kĩ lượng để mang... luận 7.3 Đa cộng tuyến  Liệt kê những phương pháp dùng để khắc phục hiện tượng đa cộng tuyến? Hiểu được ý tưởng của mỗi phương pháp này 1 Dùng thông tin tiên nghiệm Một trong các cách tiếp cận để giải quyết vấn đề đa cộng tuyến là phải tận dụng thông tin tiên nghiệm hoặc thông tin từ nguồn khác để ước lượng các hệ số riêng Mô hình sản xuất Cobb-Douglas Có thể xảy ra đa cộng tuyến do K và L cùng... vấn đề đa cộng tuyến  Nếu trong mô hình 3 biến có xảy ra hiện tượng ĐCT, thì phương pháp bỏ biến có luôn khắc phục được hiện tượng này hay không? Vì sao? Có nên lạm dụng phương pháp bỏ biến hay không? Vì sao? * Biện pháp bỏ biến trong mô hình đa cộng tuyến là biện pháp đơn giản nhất Ta thấy rằng hiện tượng đa cộng tuyến xảy ra khi biến độc lập nào đó có biểu diễn tuyến tính hoặc gần tuyến tính qua... qua đa cộng tuyến nếu R2 của mô hìn cao hơn R2 của mô hình hồi quy phụ - Bỏ qua đa cộng tuyến nếu hồi quy mô hình được dùng để dự báo chứ không phải kiểm định - Hồi quy thành phần chính - Sử dụng ước lượng từ bên ngoài Nhưng tất cả các biện pháp đã trình bày ở trên có thể làm giải pháp cho vấn đề đa cộng tuyến như thế nào còn phụ thuộc vào bản chất cua tập số liệu và tính nghiêm trọng của vấn đề đa cộng. .. hình hàm hồi quy tuyến tính Mô hình hồi quy mẫu: Từ bảng số liệu sử dụng phần mềm eviews ta được kết quả sau: Từ kết quả ước lượng ta thu được mô hình hồi quy mẫu 2 Phát hiện hiện tượng đa cộng tuyến a R2 cao nhưng tỷ số t thấp Ta có: R2=0.907952>0.8 => R2cao tz= -1.755548 có Prob =0.0953>0.05 => tzthấp Kết luận: Với mức ý nghĩa α = 5% có thể nói mô hình xảy ra hiện tượng đa cộng tuyến không hoàn... không phải lúc nào cũng khắc phục được hiện tượng đa cộng tuyến bằng phương pháp bỏ biến * Không nên lạm dụng phương pháp bỏ biến vì :việc bỏ một biến khỏi mô hình để làm giảm bớt vấn đề đa cộng tuyến có thể sẽ dẫn đến việc có cái nhìn phiến diện về biến phụ thuộc Vì vậy, phương pháp giải quyết có lẽ lại còn làm cho vấn đề xấu thêm trong một số trường hợp, bởi vì, trong khi đa cộng tuyến có thể cản trở... Nguyên nhân và hậu quả của đa cộng tuyến, tổng hợp word Lê Thị Tú Nguyễn Thị Ánh Tuyết Trần Bảo Trung Thu thập số liệu, giải bài tập bằng eview và làm slide Buổi họp kết thúc lúc 15h30’ Nhóm trưởng CỘNG HÒA XÃ HỘI CHỦ NGHĨA VIỆT NAM Độc lập - Tự do - Hạnh phúc -o0o -BIÊN BẢN THẢO LUẬN NHÓM Môn học: Kinh tế lượng Đề tài: phát hiện và khắc phục hiện tượng đa cộng tuyến Các thành viên: 1 Nguyễn Thị ... khái niệm đa cộng tuyến ước lượng trường hợp đa cộng tuyến hoàn hảo 1.1 Các khái niệm chung đa cộng tuyến Tư tưởng đa cộng tuyến thấm sâu vào khía cạnh hồi quy bội Lý làm cho “ đa cộng tuyến có... tuyến Khi khắc phục tượng đa cộng tuyến R2 thu từ mô hình thấp (R2... của chúng Phát tồn của đa cộng tuyến biện pháp khắc phục 3.1 Phát tồn đa cộng tuyến 3.1.1 R2 cao, t thấp Trong trường hợp R2 cao (thường R2> 0,8) mà tỉ số t thấp dấu hiệu tượng đa cộng tuyến 3.1.2