Chúng ta đã tìm hiểu về hồi quy đơn biến ở chương trước, trong chương này chúng ta sẽ tìm hiểu về hồi quy đa biến. Mục tiêu của việc tìm hiểu này nhằm biết được phương pháp ước lượng bình phương nhỏ nhất để ước lượng hàm hồi quy đa biến tổng thể dựa trên số liệu mẫu, hiểu các cách kiểm định những giả thiết. Mời các bạn cùng tham khảo.
09/09/2014 HỒI QUY ĐA BIẾN CHƯƠNG HỒI QUY ĐA B BIẾN MỤ C TIÊU Biết đư ợc phương phá p ước lượng bình phương nhỏ để ước lượng hàm hồi quy đa biến tổng thể dựa số liệu mẫu Hiểu cách kiểm định giả thiết NỘI DUNG Mơ hình hồi quy biến Mơ hình hồi quy k biến Dự báo 3.1 Mơ hình hồi quy biến �Mơ hình hồi quy tổng thể PRF E (Y / X , X ) = β1 + β X + β3 X3 kiện Y với điều kiện biết giá trị Ý nghĩa: PRF cho biết trung bình có điều cố định biến X2 X3 �Y: biến phụ thuộc biến độc lập �X2 X3: �β1 : hệ số tự hệ số hồi quy riêng �β2 , β3 : 3.1 Mơ hình hồi quy biến Ýnghĩahệsốhồiquyriêng:chobiếtảnh hưởngcủatừngbiếnđộclậplêngiátrịtrung bìnhcủabiếnphụthuộckhicácbiếncònlại đượcgiữkhơngđổi �Mơ hình hồi quy tổng thể ngẫu nhiên: Yi = β + X2i +β X3i + u i β u : sai số ngẫu nhiên tổng thể i Các giả thiết mơ hình Giá g bình ng ttrị ttrung b c a Ui X3i3 )=0 E(U / 2i, E Ui /X =0 P Phương đổi củ ng sai sa hôn đ ổ c Ui không ) Var(Ui)=σ Var(U K ông có Khơn gi c h ệ tượng ợng ttự tươn ơng quan g quan c c Ui i≠j i≠ Cov(U ≠ Cov Ui ,Uj ))=0; ng có ợn c Khơn tượng cộng ệ g ữa X2 ô ng tuyến c uy h K àX v X3 p ố chuẩn: 5.UUi có ch ẩn Ui N (0, â phối σ2 ) ó phân 09/09/2014 3.1.1 Ước lượng tham số 3.1.1 Ước lượng tham số 1βˆ 2 βˆ2iX Q= ∑ei = ∑ (Y i βˆ Hàm hồi quy mẫu: dQ =2∑ (Yi βˆ1 βˆ dβˆ1 X Yˆi = βˆ1 + ˆβ2 X 2i + βˆ3 X 3i + ei sai số mẫu ứng với quan sát thứ i Sử dụng phương pháp bình phương nhỏ để ước lượng tham số βˆ , βˆ , βˆ X 3i )2 → βˆ3 X 3i) = dQ = 2∑ (Yi βˆ1 βˆ2 X 2i βˆ3 X 3i )( X2i ) = dβˆ ei = Yi ˆYi 2i dQ (Y ˆ = ∑ i β βˆ2 X 2i βˆ X )( X ) = dβˆ 3 3i 3i Năm Sản lượng QD(Y) Giá bán (X2) Chi phí quảng cáo (X3) 2002 2003 100 80 40 80 100 30 2004 70 120 25 2005 69 140 20 2006 58 160 19 2007 2008 49 43 180 200 15 14 2009 41 220 10 2010 38 240 11 2011 36 260 10 3.1.1 Ước lượng tham số x 2 y x 3i ∑ x x3 i ∑y xi ∑ i i ∑ i βˆ2 = 2 ∑ x 2i ∑ x3i ∑ x 2ix 3i ) ( βˆ3 = i ∑yix3i∑ x22i ∑ yi x2i∑ x2i x3i ∑x ∑x ∑x2i x3i )2 ( βˆ1 = Y βˆ2 X 2i βˆ3 X 3i 2i xi = X i X 3i y i = Yi Y 3.1.2 Phương sai ước lượng Hệ số xác định X22∑ x32i + X 32 ∑ x22i 2 X2 X ∑ x2i x3i Var (βˆ1 ) = ( ∑x22i∑ x32i ∑x2i x3i )2 + n ( ∑x3 2i Var (βˆ2 ) σ2 ∑ x 22i ∑ x32i ∑ x 2ix 3i ) = ( )σ n ESS RSS =1 =1 R = TSS TSS ∑e i i=1 n ∑y i i =1 ∑ x2i σ2 Var (βˆ3 ) 2 x ∑ 2i ∑ x3i (∑x 2i x3i ) = σ2 phương sai ui chưa biết nên dùng ước lượng không chệch: ∑ ei = (1 R2 )∑ i y2 σˆ = n n Hệ số xác định R2 11 βˆ2 ∑yi x2i + ˆβ3 ∑yi x3i ∑yi2 Mơ hình hồi quy biến R2 = Hệ số xác định hiệu chỉnh Với k tham số mơ hình, kể hệ số tự ∑ e (n k) i R = ∑y i ( n 1) 12 09/09/2014 3.1.4 Khoảng tin cậy Hệ số xác định hiệu chỉnh n R2 = (1 2R k n ) Dùng R để xét việc đưa thêm biến vào mơ hình Biến đưa vào mơ hình phải thỏa điều kiện: Với mức ý nghĩa α hay độ tin cậy 1- α β i ∈ ( βˆ i ε i ; βˆ i + ε i ) Với ε - Làm R tăng - Hệ số hồi quy biến thêm vào mơ hình khác có ý nghĩa i = SE ( βˆ i ) t( n ,α /2) 13 14 3.1.5 Kiểm định giả thiết Kiểm định giả thiết H0: β i = β i B1 Tính ti = 3.1.5 Kiểm định giả thiết * Kiểm định giả thiết đồng thời không: H0: β2 = β3 = 0; (H1: tham số khác 0) B1 Tính βiˆ βi * SE (βˆi ) R (n 3) (1 R ) B2 Nguyên tắc định F = B2 Nguyên tắc định �Nếu |ti | > t(n-3,α/2): bác bỏ H0 �Nếu |ti | ≤ t(n-3,α/2) : chấp nhận H0 �F > Fα(2, n-3): Bác bỏ H0: Mơ hình phù hợp �F ≤ Fα(2, n-3): Chấp nhận H0: Mơ hình khơng phù hợp 15 16 3.2 Mơ hình hồi quy k biến 3.2.1 Ước lượng tham số ∑e =∑(Y βˆ βˆ X βˆ X βˆ )→min n Mơ hình hồi quy tổng thể E (Y / X2 , Xk ) = β + β2 X2i + β k Xki + Mơ hình hồi quy mẫu ngẫu nhiên: Yˆi = βˆ1 +βˆ2 X 2i + + βˆ X k n i ki + ei sai số mẫu ứng với quan sát thứ i ˆ β1 ˆβ2X2iˆβ3X3i ei =Yi ˆYi =Yi βk X ki i i =1 n ∂ ∑ ei 2i 3i k ki i =1 X = ∂β 2 n ∂ ∑ ei i=1 = ∂β 2 i=1 (Yi βˆ βˆ X i βˆ X i ∑ i n =1 2 . ∑(Y βˆ βˆ X n i=1 i 2i βˆk X ki )0 = ) βˆ3 X 3i βˆk X ki, X i =0 n ∂ ∑ ei ˆ i=1 ∂β k 17 = 2 (Yi βˆ βˆ X i βˆ X i ∑ i n = 1 2 3 ) βˆk X ki X ki =0 . 18 09/09/2014 Hệ số xác định 3.2.2 Khoảng tin cậy Với mức ý nghĩa α hay độ tin cậy 1- α R2 = β i ∈ (βˆi εi ; βˆi + εi ) Với ˆ βˆ2 ∑ yx βˆ i kiyx k ∑ 3i + + i 2i + 3β∑ i yx ∑y i Hệ số xác định hiệu chỉnh ε i = SE i).t (n k ,α/ 2) (βˆ n R =1 (1 R 1 n k ) Với k tham số mơ hình, kể hệ số tự 19 Hệ số xác định hiệu chỉnh 20 3.2.3 Kiểm định giả thiết hồi quy n R2 = (1 R2 n k ) Dùng R để xem xét việc đưa thêm biến vào mơ hình Biến đưa vào mơ hình phải thỏa điều kiện: - Làm R tăng - Biến có ý nghĩa thống kê mơ hình Kiểm định giả thiết hệ số hồi quy KiểmđịnhgiảthiếtH0: B1.Tính ti = β i = β i* βˆi i * SEβ(βˆi ) B2 Nguyên tắc định �Nếu |ti | > t(n-k,α/2) : bác bỏ H0 �Nếu |ti | ≤ t(n-k,α/2) : chấp nhận H0 21 3.2.4 Kiểm định giả thiết hồi quy 22 3.3 DỰ BÁO Kiểm định phù hợp mơ hình: kiểm định giả thiết đồng thời không: H0: β2 = β3 =…= βk = 0; (H1: k tham số khác 0) R ( n k) F= B1 Tính (1 R )( k 1) B2 Nguyên tắc quyếtđịnh: �Nếu F > Fα(k-1, n-k): Bác bỏ H0: Mơ hình phù hợp �Nếu F ≤ Fα(k-1, n-k): Chấp nhận H0: Mơ hình khơng phù hợp 23 Mơ hình hồi quy Yˆi = βˆ1 + βˆ X + + βˆk X k ⎡ ⎤ 1⎥ ⎥ ⎥X ⎥ Cho trước giá trị X = ⎥ ⎥ ⎥ ⎥ k ⎥ giá trị cá biệt Dự báo giá trị trung bình Y với mức ý nghĩa α hay⎣độ tin cậy - α X 24 09/09/2014 3.3 DỰ BÁO 3.3 DỰ BÁO * Ước lượng điểm * Dự báo giá trị cá biệt Y Yˆ0 = βˆ1 + ˆ X 20 + βˆk X k β2 bình của+Y * Dự báo giá trị trung ) ∈ (Yˆ0 ε0 ;Yˆ ε0 = SE (Yˆ0 )t ( n k ,α / ) E(Y / X Với: 0 + ε0 ) 0T T ( X X ) Với: ε0' = SE(Y Yˆ0 )t ( n k,α / ) SE (Y 0 Yˆ0 ) = SE (Yˆ0 ) = Var (Yˆ 0) Var (Y ˆ0 ) =σˆ X ˆ Y ∈ ( Y ε 0' ;Yˆ + ε 0' ) X Var (Y 0 Yˆ0 ) Var(Y0 Yˆ ) =Varˆ(Y0 ) +σˆ 25 26 ... việc đưa thêm biến vào mơ hình Biến đưa vào mơ hình phải thỏa điều kiện: Với mức ý nghĩa α hay độ tin cậy 1- α β i ∈ ( βˆ i ε i ; βˆ i + ε i ) Với ε - Làm R tăng - Hệ số hồi quy biến thêm vào... > t(n-3,α/2): bác bỏ H0 �Nếu |ti | ≤ t(n-3,α/2) : chấp nhận H0 �F > Fα(2, n-3): Bác bỏ H0: Mơ hình phù hợp �F ≤ Fα(2, n-3): Chấp nhận H0: Mô hình khơng phù hợp 15 16 3.2 Mơ hình hồi quy k biến. .. 3.2.3 Kiểm định giả thiết hồi quy n R2 = (1 R2 n k ) Dùng R để xem xét việc đưa thêm biến vào mơ hình Biến đưa vào mơ hình phải thỏa điều kiện: - Làm R tăng - Biến có ý nghĩa thống kê mơ