Đa cộng tuyến và phương pháp chọn mô hình tối ưu

Chương IV: Đa cộng tuyến phương pháp chọn mô hình tối ưu Giới thiệu - Để ước lượng tham số theo phương pháp OLS (Ordinary Least Square) đặt nhiều giả định cho mô hình hồi quy Khi vi phạm giả định dẫn đến trường hợp như: Đa cộng tuyến Tự tương quan Phương sai thay đổi Trong phạm vi giảng tìm hiểu trường hợp Đa cộng tuyến I/ Bản chất đa cộng tuyến Đa cộng tuyến trường hợp tồn mối quan hệ tuyến tính số tất biến độc lập mơ hình Xét hàm hồi qui k biến : Yi = β1+ β2X2i + …+ βkXki + Ui II/ Bản chất đa cộng tuyến II/ Phân loại đa cộng tuyến Nếu tồn số λ2, λ3,…,λk không đồng thời cho: λ2X2i + λ3X3i +…+ λkXki = biến độc lập xảy tượng đa cộng tuyến hoàn hảo - Nếu tồn số λ2, λ3,…,λk không đồng thời cho: λ2X2i + λ3X3i +…+ λkXki + Vi = (Vi : sai số ngẫu nhiên) biến độc lập xảy tượng đa cộng tuyến khơng hồn hảo - Ví dụ Công ty Thế giới di động – chi nhánh Nguyễn Thị Minh Khai cần biết đợt khuyến sản phẩm Nokia Lumia 620 tạo tác động đến lợi nhuận chi nhánh Nhân viên phòng marketing xem xét số liệu phòng kế tốn dự định lập mơ sau: Yi = β1+β2X2i+β3X3i+ β4X4i + Ui Trong đó: Y: Lợi nhuận chi nhánh X2: Số khách hàng mua điện thoại Nokia X3: Doanh thu điện thoại Nokia X4: Doanh thu điện thoại dịch vụ hậu Ví dụ Bảng số liệu: Với số liệu biến độc lập : X2 15 22 28 38 40 X3 75 110 140 190 200 X4 77 118 152 200 210 Ta có : X3i = 5.X2i có tượng cộng tuyến hồn hảo X2 X3 X4i = 1,05402.X3i + 0,6744  có tượng cộng tuyến khơng hồn hảo X3 X4 III/ Ước lượng tham số trường hợp có đa cộng tuyến 1.Trường hợp có đa cộng tuyến hồn hảo Xét mơ hình :Yi = β1+β2X2i+β3X3i+ Ui (1) Giả sử : X3i = λX2i  x3i = λx2i Theo OLS: βˆ2 βˆ3 x y ∑x − ∑x x ∑x ∑ = ∑x ∑x − (∑x x ) x y ∑x − ∑x x ∑x ∑ = ∑x ∑x − (∑x x ) 3i 2i i 2i 3i 2i 3i i 2i 3i 2i 3i y 3i i 2i 3i 2i 3i 2i 3i y 2i i Thay x3i = λ2x2i vào công thức : βˆ2 x ∑ = ∑ x ) − (λ∑ x )(λ∑ x ∑ x (λ ∑ x ) − λ ( ∑ x ) 2 2i y (λ 2i i 2i 2 2i 2i y) 2i i 2 2i = 0 ˆ β3 = Tóm lại, có đa cộng tuyến hồn hảo khơng thể ước lượng tham số mơ hình Tương tự : Trường hợp có đa cộng tuyến khơng hoàn hảo Thực tương tự trường hợp có đa cộng tuyến hồn hảo với X3i = λX2i +Vi  Vẫn ước lượng hệ số mơ hình IV/ Hệ đa cộng tuyến Phương sai hiệp phương sai ước lượng OLS lớn Khoảng tin cậy rộng Trị thống kê tstatic nhỏ nên tăng khả hệ số ước lượng khơng có ý nghĩa Dấu ước lượng sai R2 cao trị thống kê tstatic nhỏ IV/ Hệ đa cộng tuyến Các ước lượng OLS sai số chuẩn chúng trở nên nhạy với thay đổi nhỏ liệu Thêm vào hay bớt biến cộng tuyến với biến khác, mơ hình thay đổi dấu độ lớn ước lượng IV/ Cách phát đa cộng tuyến Hệ số R2 lớn trị thống kê tstatic nhỏ Tương quan cặp biến giải thích (độc lập) cao Ví dụ : Yi = β1+β2X2i+β3X3i+ β4X4i + Ui Nếu r23 r24 r34 cao  có ĐCT Tuy nhiên điều ngược lại khơng đúng, r nhỏ chưa biết có đa cộng tuyến hay khơng Sử dụng mơ hình hồi qui phụ Xét : Yi = β1+β2X2i+β3X3i+ β4X4i + Ui Cách sử dụng mơ hình hồi qui phụ sau : - Hồi qui biến độc lập theo biến độc lập lại Tính R2 cho hồi qui phụ : 2 Hồi qui X2i = α1+α2X3i+α3X4i+u2i  R Hồi qui X3i = λ1+ λ2X2i+ λ3X4i+u3i  R Hồi qui X4i = γ 1+ γ 2X2i+ γ 3X3i+u4i  R - Kiểm định giả thiết H0 : R j = ∀j = - Nếu chấp nhận giả thiết khơng có đa cộng tuyến biến độc lập V/ Cách khắc phục tượng đa cộng tuyến Thu thập thêm số liệu lấy mẫu Loại bỏ biến giải thích khỏi mơ hình… VI/ Chọn mơ hình kiểm định việc chọn mơ hình Chọn mơ hình - Tiết kiệm - Tính đồng - Tính thích hợp (R2) - Tính bền vững mặt lý thuyết - Khả dự báo cao Các sai lầm chọn mô hình - Lựa chọn mơ hình khơng xác - Bỏ sót biến thích hợp -Đưa vào mơ hình biến khơng phù hợp VI Chọn mơ hình kiểm định mơ hình Kiểm định việc chọn mơ hình a Kiểm định sai lầm bỏ sót biến: Giả sử ta hồi quy mơ hình: Y = β1 + β2.X1 + Ui (1) Nghi ngờ có bỏ sót biến mơ hình phải là: Y = β1 + β2.X1 +β3.X2 + Ui (2) Vậy làm cách để phát X2 có bị bỏ sót hay khơng? VI Chọn mơ hình kiểm định mơ hình Kiểm định việc chọn mơ hình a Kiểm định sai lầm bỏ sót biến: Thực hồi quy mơ hình: Y = β1 + β2.X1 +β3.X2 + Ui (2) Sau tiến hành kiểm định trường hợp với tham số β3 Nếu: - X2 có tác động đến Y R2 mơ hình (2) lớn R2 mơ hình (1) kết luận X2 quan trọng Chọn hàm ba biến phù hợp - X2 không tác động đến Y sử dụng hàm hai biến VI Chọn mơ hình kiểm định mơ hình Kiểm định việc chọn mơ hình b Kiểm định sai lầm đưa biến khơng cần thiết vào mơ hình Xét mơ hình: Yi = β1 + β2X2i + β3X3i + β4X4i + ui Trường hợp kiểm định biến độc lập: Ta dùng kiểm định trường hợp Trường hợp kiểm định nhiều biến độc lập: Kiểm định giả thuyết: β3 = β4 = Trường hợp ta dùng kiểm định Wald  ... đa cộng tuyến biến độc lập V/ Cách khắc phục tượng đa cộng tuyến Thu thập thêm số liệu lấy mẫu Loại bỏ biến giải thích khỏi mơ hình VI/ Chọn mơ hình kiểm định việc chọn mơ hình Chọn mơ hình. .. Trường hợp có đa cộng tuyến khơng hồn hảo Thực tương tự trường hợp có đa cộng tuyến hoàn hảo với X3i = λX2i +Vi  Vẫn ước lượng hệ số mơ hình IV/ Hệ đa cộng tuyến Phương sai hiệp phương sai ước... Trong phạm vi giảng tìm hiểu trường hợp Đa cộng tuyến I/ Bản chất đa cộng tuyến Đa cộng tuyến trường hợp tồn mối quan hệ tuyến tính số tất biến độc lập mơ hình Xét hàm hồi qui k biến : Yi = β1+