mô hình quy hồi tuyến tính đa biến

CHƯƠNG V MÔ HÌNH HỒI QUY TUYẾN TÍNH ĐA BIẾN MÔ HÌNH HỒI QUY TUYẾN TÍNH ĐA BIẾN MỤC TIÊU Biết dạng hàm hồi quy tuyến tính đa biến tổng thể, hàm hồi quy mẫu Sử dụng phương pháp OLS ước lượng tham số mô hình Thực toán ước lượng khoảng, kiểm định Thực toán dự báo Hiểu ý nghĩa R^2 R^2 hiệu chỉnh MÔ HÌNH HỒI QUY TUYẾN TÍNH ĐA BIẾN NỘI DUNG Mô hình hồi quy biến Mô hình hồi quy k biến Dự báo 5.1 MÔ HÌNH HỒI QUY BIẾN Mô hình hồi quy tổng thể PRF E (Y / X , X ) = β1 + β X + β X Ý nghĩa: PRF cho biết trung bình có điều kiện Y với điều kiện biết giá trị cố định biến X2 X3 Y: biến phụ thuộc biến độc lập X2 X3: hệ số tự β1 : hệ số hồi quy riêng β2 , β3 : 5.2 MÔ HÌNH HỒI QUY BIẾN Ý nghĩa hệ số hồi quy riêng: cho biết ảnh hưởng biến độc lập lên giá trị trung bình biến phụ thuộc biến lại giữ không đổi Mô hình hồi quy tổng thể ngẫu nhiên: Yi = β1 + β X 2i + β X 3i + ε i εi: sai số ngẫu nhiên tổng thể 5.1 MÔ HÌNH HỒI QUY k BIẾN Các giả thiết mô hình Giá trị trung bình εi E(εi /X2i, X3i)=0 Phương sai Ui không đổi Var(εi)=σ2 Không có tượng tự tương quan εi Cov(εi ,εj )=0; i≠j Không có tượng cộng tuyến X2 X3 5.εi có phân phối chuẩn: εi N(0, σ2 ) 5.1 MÔ HÌNH HỒI QUY BIẾN Ước lượng mô hình Hàm hồi quy mẫu: Yi = βˆ1 + βˆ2 X i + βˆ3 X 3i + ε$i sai số mẫu ứng với quan sát thứ i ε$i = Yi − Yˆi Sử dụng phương pháp bình phương nhỏ để ước lượng tham số βˆ1 , βˆ2 , βˆ3 5.1 MÔ HÌNH HỒI QUY BIẾN Ước lượng mô hình i $ ˆ ˆ ˆ Q = ∑ ε = ∑ (Yi − β1 − β X 2i − β X 3i ) → dQ = −2∑ (Yi − βˆ1 − βˆ2 X i − βˆ3 X 3i ) = dβˆ1 dQ = 2∑ (Yi − βˆ1 − βˆ2 X i − βˆ3 X 3i )(− X i ) = dβˆ2 dQ = 2∑ (Yi − βˆ1 − βˆ2 X 2i − βˆ3 X 3i )(− X 3i ) = dβˆ3 5.1 MÔ HÌNH HỒI QUY BIẾN Ước lượng mô hình βˆ2 = βˆ3 y x x ∑ i 2i ∑ 3i − ∑ yi x3i ∑ x2i x3i 2 x x − ( x x ) ∑ i ∑ i ∑ i 3i y x ∑x −∑ y x ∑x ∑ = ∑ x ∑ x − (∑ x x ) 2i i 3i 2i i 3i 2i x i 3i 2 i 3i βˆ1 = Y − βˆ2 X 2i − βˆ3 X 3i xi = X i − X yi = Yi − Y 5.1 MÔ HÌNH HỒI QUY BIẾN Ví dụ áp dụng: Bảng cho số liệu doanh số bán (Y), chi phí chào hàng (X2) chi phí quảng cáo (X3) công ty ? Hãy ước lượng hàm hồi quy tuyến tính doanh số bán theo chi phí chào hàng chi phí quảng cáo 10 5.1 MÔ HÌNH HỒI QUY BIẾN Doanh số bán Yi (trđ) Chi phí chào hàng X2 Chi phí quảng cáo X3 1270 100 180 1490 106 248 1060 60 190 1626 160 240 1020 70 150 1800 170 260 1610 140 250 1280 120 160 1390 116 170 1440 120 230 1590 140 220 1380 150 150 11 5.1 MÔ HÌNH HỒI QUY BIẾN Phương sai ước lượng 2 2 X x + X x ∑ 3i ∑ i − X X ∑ x2 i x3i ˆ Var ( β1 ) = ( + ) σ 2 n x x − ( x x ) ∑ i ∑ i ∑ i 3i Var ( βˆ2 ) = Var ( βˆ3 ) = x ∑ 3i 2 x x ∑ 2i ∑ 3i − (∑ x2i x3i ) x ∑ 2i σ 2 x x ∑ 2i ∑ 3i − (∑ x2i x3i ) σ σ2 phương sai ui chưa biết nên dùng ước lượng không chệch: σˆ = ∑ $ εi n−3 = (1 − R )∑ yi2 n−3 12 5.1 MÔ HÌNH HỒI QUY BIẾN Ước lượng khoảng tin cậy kiểm định Với mức ý nghĩa α hay độ tin cậy 1- α + Ước lượng khoảng kiểm định cho tham số mô hình βˆi − β i ti = ¶ ( βˆ ) Sd i + Ước lượng khoảng kiểm định cho phương sai sai số mô hình µ ( n − 3) σ χ = σ 13 5.2 MÔ HÌNH HỒI QUY k BIẾN Mô hình hồi quy tổng thể E (Y / X , X k ) = β1 + β X 2i + + β k X ki Mô hình hồi quy mẫu ngẫu nhiên: Yi = βˆ1 + βˆ2 X 2i + + βˆk X ki + ε$i sai số mẫu ứng với quan sát thứ i ε$i = Yi − Yˆi = Yi − βˆ1 − βˆ2 X 2i − βˆ3 X 3i − − βˆk X ki 14 5.2 MÔ HÌNH HỒI QUY k BIẾN Hệ số xác định R^2 ˆ ˆ ˆ β y x + β y x + + β ∑ i 2i ∑ i 3i k ∑ yi xki R = ∑ yi µε ∑i RSS R = 1− = 1− TSS ∑ yi Với k tham số mô hình, kể hệ số tự 15 5.2 MÔ HÌNH HỒI QUY k BIẾN Hệ số xác định điều chỉnh R n −1 R = − (1 − R ) n−k 2 Dùng R để xem xét việc đưa thêm biến vào mô hình Biến đưa vào mô hình phải thỏa điều kiện: - Làm R tăng - Biến có ý nghĩa thống kê mô hình 16 5.2 MÔ HÌNH HỒI QUY k BIẾN Kiểm định giả thiết Kiểm định phù hợp mô hình: kiểm định giả thiết đồng thời không: H0: β2 = β3 =…= βk = 0; (H1: k tham số khác 0) R (n − k ) F = (1 − R )( k − 1) B1 Tính B2 Nguyên tắc định: Nếu F > Fα(k-1, n-k): Bác bỏ H0: Mô hình phù hợp Nếu F ≤ Fα(k-1, n-k): Chấp nhận H0: Mô hình không phù hợp 17 5.3 DỰ BÁO Mô hình hồi quy Yˆi = βˆ1 + βˆ2 X + + βˆk X k 1   0 X2   Cho trước giá trị X =    0  X k  Dự báo giá trị trung bình giá trị cá biệt Y với mức ý nghĩa α hay độ tin cậy - α 18 5.3 DỰ BÁO  Ước lượng điểm Yˆ0 = βˆ1 + βˆ2 X 20 + + βˆk X k0  Dự báo giá trị trung bình Y E (Y / X ) ∈ (Yˆ0 − u0 ; Yˆ +u0 ) Với: u0 = SE (Yˆ0 )t( n − k ,α / 2) SE (Yˆ0 ) = Var (Yˆ0 ) Var (Yˆ0 ) = σˆ X 0T ( X T X ) −1 X 19 5.3 DỰ BÁO  Dự báo giá trị cá biệt Y ' ' ˆ ˆ Y0 ∈ (Y0 − u0 ; Y +u0 ) Với: u = SE (Y0 − Yˆ0 )t( n − k ,α / 2) ' SE (Y0 − Yˆ0 ) = Var (Y0 − Yˆ0 ) ˆ ˆ ˆ Var (Y0 − Y0 ) = Var (Y0 ) + σ 20 ... nghĩa R^2 R^2 hiệu chỉnh MÔ HÌNH HỒI QUY TUYẾN TÍNH ĐA BIẾN NỘI DUNG Mô hình hồi quy biến Mô hình hồi quy k biến Dự báo 5.1 MÔ HÌNH HỒI QUY BIẾN Mô hình hồi quy tổng thể PRF E (Y / X , X ) = β1... số hồi quy riêng β2 , β3 : 5.2 MÔ HÌNH HỒI QUY BIẾN Ý nghĩa hệ số hồi quy riêng: cho biết ảnh hưởng biến độc lập lên giá trị trung bình biến phụ thuộc biến lại giữ không đổi Mô hình hồi quy tổng...MÔ HÌNH HỒI QUY TUYẾN TÍNH ĐA BIẾN MỤC TIÊU Biết dạng hàm hồi quy tuyến tính đa biến tổng thể, hàm hồi quy mẫu Sử dụng phương pháp OLS ước lượng tham số