Tài liệu Chương 3: Hồi quy bội docx

Chương HỒI QUY TUYẾN TÍNH BỘI I MƠ HÌNH HỐI QUY TUYẾN TÍNH BiẾN Hàm hồi quy tổng thể (PRF) Yi = β1 + β2 X 2i + β3 X 3i +U i Trong •Y biến phụ thuộc •X2,X3 biến độc lập •X2i, X3i giá trị thực tế X2, X3 •Ui sai số ngẫu nhiên I MƠ HÌNH HỐI QUY TUYẾN TÍNH BiẾN Các giả thiết mơ hình  Giá trị trung bình đại lượng ngẫu nhiêu U i  Phương sai Ui khơng thay đổi  Khơng có tương quan Ui  Khơng có tương quan (cộng tuyến) X2 X3  Khơng có tương quan Ui X2,X3 I MƠ HÌNH HỐI QUY TUYẾN TÍNH BiẾN Ước lượng tham số Chúng ta sử dụng phương pháp bình phương nhỏ OLS PRF : Yi = β1 + β2 X 2i + β3 X 3i +U Hàm hồi quy mẫu tương ứng : ˆ ˆ ˆ SRF : Yi = β1 + β2 X 2i + β3 X 3i + ei ˆ ˆ ˆ Hay: ˆ Yi = β1 + β2 X 2i + β3 X 3i I MƠ HÌNH HỐI QUY TUYẾN TÍNH BiẾN ˆ ˆ ˆ ˆ ei = Yi − Yi = Yi − β − β X 2i − β X 3i Theo nguyên lý phương pháp OLS tham số ˆ ˆ ˆ β , β , β chọn cho ( ˆ ˆ ˆ e = ∑ Yi − β1 − β2 X 2i − β3 X 3i ∑ i ) → Như , cơng thức tính tham số sau : I MƠ HÌNH HỐI QUY TUYẾN TÍNH BiẾN Ký hiệu: yi = Yi − Y x3i = X 3i − X x2 i = X i − X ( ∑ y x )( ∑ x ) − ( ∑ x x )( ∑ y x ) ˆ β = ( ∑ x )( ∑ x ) − ( ∑ x x ) ( ∑ y x )( ∑ x ) − ( ∑ x x )( ∑ y x ) ˆ β = ( ∑ x )( ∑ x ) − ( ∑ x x ) 3i i 2i 2 2i 3i 2i i 3i i 3i 2i ˆ ˆ ˆ β1 = Y − β X − β X i 3i 2 i 3i i 3i 3i i 2i 2 i 3i I MÔ HÌNH HỐI QUY TUYẾN TÍNH BiẾN Người ta chứng minh ∑x 2i ∑x 3i = ∑ X − n( X ) 2i = ∑ X − n( X ) 3i ∑ y = ∑Y i ∑x i − n(Y ) 2 x = ∑ X 2i X 3i − nX X i 3i ∑yx ∑yx i 2i i 3i = ∑ Yi X 2i − nY X = ∑ Yi X 3i − nY X I MƠ HÌNH HỐI QUY TUYẾN TÍNH BiẾN Ví dụ minh hoạ Bảng cho số liệu doanh số bán (Y), chi phí chào hàng (X2) chi phí quảng cáo (X3) cơng ty Hãy ước lượng hàm hồi quy tuyến tính doanh số bán theo chi phí chào hàng chi phí quảng cáo I MƠ HÌNH HỐI QUY TUYẾN TÍNH BiẾN Doanh số bán Yi (trđ) Chi phí chào hàng X2 Chi phí quảng cáo X3 1270 100 180 1490 106 248 1060 60 190 1626 160 240 1020 70 150 1800 170 260 1610 140 250 1280 120 160 1390 116 170 1440 120 230 1590 140 220 1380 150 150 I MƠ HÌNH HỐI QUY TUYẾN TÍNH BiẾN Giải Từ số liệu trên, ta tính tổng sau : ∑ Y = 16956 ∑ X = 188192 ∑ X = 1452 ∑ X X = 303608 ∑ X = 2448 ∑ X = 518504 Y = 1413 ∑ Y = 24549576 X = 121 ∑ Y X = 3542360 X = 204 ∑ Y X = 2128740 2i i 2i 3i 2i 3i 3i i i 3i i 2i I MƠ HÌNH HỐI QUY TUYẾN TÍNH BiẾN Phương sai hệ số hồi quy Phương sai tham số hồi quy tính theo công thức sau:  X 22 ∑ x32i + X 32 ∑ x22i − X X ∑ x2i x3i  2  σˆ βˆ = σˆ  + 2 n  ∑ x2i ∑ x3i − ( ∑ x2i x3i )   ˆ )= σ2 ˆ βˆ se( β1 I MƠ HÌNH HỐI QUY TUYẾN TÍNH BiẾN ˆ σ Phương sai hệ số hồi quy ˆ β2   x3i ∑ ˆ  =σ  2  ∑ x2i ∑ x3i − ( ∑ x2i x3i )    ˆ )= σ2 ˆ βˆ se( β 2 I MƠ HÌNH HỐI QUY TUYẾN TÍNH BiẾN Phương sai hệ số hồi quy ˆ σ ˆ β   x2 i ∑ ˆ  =σ  2  ∑ x2i ∑ x3i − ( ∑ x2i x3i )    ˆ )= σ2 ˆ βˆ se( β 3 Với RSS ˆ σ = n−3 I MƠ HÌNH HỐI QUY TUYẾN TÍNH BiẾN Khoảng tin cậy hệ số hồi quy Khoảng tin cậy β Với độ tin cậy 1-α ˆ  ˆ ˆ ˆ  β1 − t α × se( β1 ); β1 + t α × se( β1 )    2   Khoảng tin cậy β Với độ tin cậy 1-α ˆ  ˆ ˆ ˆ β2 −t α ×se( β2 ); β2 +t α ×se( β2 )    2   I MƠ HÌNH HỐI QUY TUYẾN TÍNH BiẾN Khoảng tin cậy hệ số hồi quy Khoảng tin cậy β Với độ tin cậy 1-α ˆ  ˆ ˆ ˆ β3 −t α ×se( β3 ); β3 +t α ×se( β3 )    2   Lưu ý tra bảng T-Student, trường hợp hàm hồi quy biến bậc tự (n-3) I MƠ HÌNH HỐI QUY TUYẾN TÍNH BiẾN Khoảng tin cậy hệ số hồi quy Ví dụ : Tính khoảng tin cậy β2 β3 mơ hình hồi quy theo số liệu ví dụ trước với độ tin cậy 95% Giải: tra bảng T-Student bậc tự (n-3)=12-3=9 t0, 025 = 2,262 RSS ˆ σ = = 2120,592 n−3 ˆ ˆ2 ˆ2 σ β = 0,220097 ⇒ se( β ) = σ β = 0,46915 I MƠ HÌNH HỐI QUY TUYẾN TÍNH BiẾN Khoảng tin cậy hệ số hồi quy Khoảng tin cậy β2 ( 3,588 < β < 5,711) ˆ ˆ2 ˆ σ = 0,143952 ⇒ se( β3 ) = σ β = 0,379407 β3 Khoảng tin cậy β3 (1,702 < β < 3,418) I MƠ HÌNH HỐI QUY TUYẾN TÍNH BiẾN Kiểm định giả thiết a) Kiểm định giả thiết β1, β2 β3 Ho:βi= βo Độ tin cậy 1-α H1:βi≠ βo Bước : Lập khoảng tin cậy Bước : Nếu β0 thuộc khoảng tin cậy chấp nhận Ho Nếu β0 khơng thuộc khoảng tin cậy bác bỏ Ho I MƠ HÌNH HỐI QUY TUYẾN TÍNH BiẾN Kiểm định giả thiết a) Kiểm định giả thiết β1, β2 β3 Ví dụ : (theo số liệu trước), yêu cầu kiểm định giả thiết Ho:β2= H1:β2≠ Với độ tin cậy 95% Ho:β3= H1:β3≠ I MƠ HÌNH HỐI QUY TUYẾN TÍNH BiẾN Kiểm định giả thiết Kiểm định giả thiết R2 Ho:R2= Độ tin cậy 1- α H1:R ≠ R (n − 3) Bước : tính F = 2(1 − R ) b) Bước : Tra bảng tìm F(2,n-3), mức ý nghĩa α Bước : Nếu F>F(2,n-3) , bác bỏ H0 Nếu F≤F(2,n-3) , chấp nhận H0 I MƠ HÌNH HỐI QUY TUYẾN TÍNH BiẾN Kiểm định giả thiết b) Kiểm định giả thiết R2 Ví dụ : Yêu cầu kiểm định giả thiết Giải : Ho:R2= Độ tin cậy 95% H1:R2≠ 0,9677(12 − 3) F= = 134,79 2(1 − 0,9677) F (2,9) = 4,26 (α = 0,05) Vì F>F(2,9) nên bác bỏ giả thiết H0 II MỘT SỐ DẠNG HÀM Hàm sản xuất Cobb-Douglas Hàm sản xuất Cobb-Douglas biểu diễn sau: β3 Ui β2 i 2i 3i Y =β X X e Trong : Yi : sản lượng doanh nghiệp X2i : lượng vốn X3i : lượng lao động Ui : sai số ngẫu nhiên Hàm sản xuất Cobb-Douglas đưa dạng tuyến tính cách lấy logarit hai vế II MỘT SỐ DẠNG HÀM Hàm sản xuất Cobb-Douglas ln Yi = ln β1 + β2 ln X 2i + β3 ln X 3i +U i Đặt Yi = ln Yi * β1* = ln β1 * X 2i = ln X 2i * X 3i = ln X 3i Dạng tuyến tính * : * i Y = β + β2 X + β3 X + U i * 2i * 3i II MỘT SỐ DẠNG HÀM Hàm hồi quy đa thức bậc 2 Yi = β1 + β2 X i + β3 X i +U i Mặc dù có biến độc lập Xi xuất với luỹ thừa khác khiến cho mơ hình trở thành hồi quy ba biến II MƠ HÌNH HỒI QUY TUYẾN TÍNH BỘI ... T-Student, trường hợp hàm hồi quy biến bậc tự (n-3) I MƠ HÌNH HỐI QUY TUYẾN TÍNH BiẾN Khoảng tin cậy hệ số hồi quy Ví dụ : Tính khoảng tin cậy β2 β3 mơ hình hồi quy theo số liệu ví dụ trước với độ... HÀM Hàm hồi quy đa thức bậc 2 Yi = β1 + β2 X i + β3 X i +U i Mặc dù có biến độc lập Xi xuất với luỹ thừa khác khiến cho mơ hình trở thành hồi quy ba biến II MƠ HÌNH HỒI QUY TUYẾN TÍNH BỘI ... HỐI QUY TUYẾN TÍNH BiẾN ˆ σ Phương sai hệ số hồi quy ˆ β2   x3i ∑ ˆ  =σ  2  ∑ x2i ∑ x3i − ( ∑ x2i x3i )    ˆ )= σ2 ˆ βˆ se( β 2 I MƠ HÌNH HỐI QUY TUYẾN TÍNH BiẾN Phương sai hệ số hồi quy