Chuong 3 PHƯƠNG PHÁP định lượng cô hương DHBK

Chương Hồi quii bội ‘Bài giảng Kinh tế lượng’ © Phạm Cảnh Huy 1 Giới thiệu ệ Mô hình hồi q qui bội ộ Trong mơơ hình T hì h hồi quii đơn đ hữ hiệ tượng t màà chưa giải thích nằm đâu? ‘Bài giảng Kinh tế lượng’ © Phạm Cảnh Huy • • • • Giới thiệu ệ Mơ hình hồi q qui bội ộ Chúngg ta nghiên g cứu mơ hình hồi qui q đơn Trongg lý ý thuyết y cũngg thực tế, có nhiều trường hợp mà biến kinh tế cho giải thích mơ hình hồi qui đơn Ví dụ: Lượng cầu phụ thuộc vào giá, thu nhập, giá hàng hoá khác v.v Nhớ lại lý thuyết hành vi người tiêu dùng QD = f(P, I, Ps, Pc,Market size, T (thị hiếu)) ế Giá nhà phụ thuộc vào diện tích nhà, số phịng ngủ số phòng tắm Chi tiêu hộ gia đình thực phNm phụ thuộc vào qui mơ hộ gia đình, thu nhập, vị trí địa lý Tỷ lệ tử vong ttrẻẻ em ủ quốc ố gia i phụ h thuộc th ộ vào thu th nhập hậ bình bì h quân â đầu đầ người, trình độ giáo dục ‘Bài giảng Kinh tế lượng’ © Phạm Cảnh Huy Giới thiệu ệ Mơ hình hồi q qui bội ộ • Lươngg phụ p thuộc vào trình độ ggiáo dục, kinh nghiệm, g ggiới tính, độ tuổi Mơ tả ‘Bài giảng Kinh tế lượng’ © Phạm Cảnh Huy Giới thiệu ệ Mơ hình hồi q qui bội ộ • Khi chúngg ta có tập ập hợp ợp liệu ệ ộ biến kinh tế (biến ( nàyy gọi biến phụ thuộc) nhân tố ảnh hưởng đến (các nhân tố ảnh hưởng gọi biến giải thích) việc xét đến ảnh hưởngg riêng g biệt ệ ((hoặc ặ đồng g thời)) nhiều nhân tố đến ộ biến kinh tế giải thích mơ hình hồi qui bội • Hàm hồi qui bội tổng thể có dạng y = β1 + β2x2 + β3x3 + βkxk + u PRF Trong đó: β1: hệệ số tự ự ((hệệ số chặn) ặ ) βj: hệ số hồi qui riêng u: sai số ngẫu nhiên β1 = E(Y x 2, x 3, x k = 0) • Các hệ sốố β xác định sau: ‘Bài giảng Kinh tế lượng’ © Phạm Cảnh Huy Các ggiả thiết mơ hình hồi q qui bội ộ Các giả thiết OLS cho mơ hình hồi qui tuyến tính đơn giải thích mơ hình hồi qui bội: E(ui) = Var (ui) = σ2 Cov (ui,uuj)=0 Cov (ui,xi)=0 ui Kỳ vọng yếu tố ngẫu nhiên ui Phương sai với ui Khơng có tương quan ui U X không tương quan với Phân phối chuNn ‘Bài giảng Kinh tế lượng’ © Phạm Cảnh Huy Các ggiả thiết mơ hình hồi q qui bội ộ Giả thiết bổ sung cho mơ hình hồi qui bội: Giữa x2, x3, xk khơng có quan hệ tuyến tính N ếu x2, x3, xk có quan hệ tuyến tính người ta nói có tượng đa cộng tuyến Hay không tồn λi ≡ 0: λ1x1i + λ2x2i + λ3x3i + + λkxki +νi = • Về mặt hình thức, có tượng đa cộng tuyến biến giải ợ ảnh thích trongg mơ hình có tất biến nàyy khơngg thể tách hưởng biến lên biến phụ thuộc y Giả sử: x2i = 3x3i, Khi đó: yi = β1 + β2x2i + β3x3i + ui = β1 + (3β2+ β3)x3i + ui ; đặt: β3’=3β2+ β3 => yi = β1 + β3’x3i + ui => Không thể tách ảnh hưởng β2 β3 ‘Bài giảng Kinh tế lượng’ © Phạm Cảnh Huy Ước lượng ợ g tham số mơ hình hồi q qui bội ộ • Hàm hồi qui mẫu: yˆ i = βˆ1 + βˆ2 x 2i + βˆ3 x 3i + + βˆk x ki • Các phần dư định nghĩa giống mơ hình hồi qui đơn: e i = y i − yˆ i • Để ước lượng tham số mơ hình, sử dụng phương pphápp bình phương p g nhỏ nhất-OLS ((như giới g thiệu ệ pphần trước)) Từ tìm βˆ1 , βˆ2 , βˆ3 , , βˆk ‘Bài giảng Kinh tế lượng’ © Phạm Cảnh Huy Ước lượng ợ g tham số mơ hình hồi q qui bội ộ • Ta có: ∑ e i2 = ∑ ( y i − ( βˆ1 + βˆ2 x 2i + βˆ3 x 3i + + βˆk x ki )) • Chúng ta có thiết lập điều kiện bậc cho phép tính tối thiểu h sau : ∂ ∑ e i2 = −2 ∑ ( y i − ( βˆ1 + βˆ2 x 2i + βˆ3 x 3i + + βˆk x ki )) = ∂βˆ ∂ ∑ e i2 = −2 ∑ ( y i − ( βˆ1 + βˆ2 x 2i + βˆ3 x 3i + + βˆk x ki )) x 2i = ∂βˆ ∂ ∑ e i2 = −2 ∑ ( y i − ( βˆ1 + βˆ2 x 2i + βˆ3 x 3i + + βˆk x ki )) x ki = ∂βˆ k ‘Bài giảng Kinh tế lượng’ © Phạm Cảnh Huy Ước lượng ợ g tham số mơ hình hồi q qui bội ộ • Hệ phương h trìnhh mà chúng h ta có đ gọii l hệ h phương h trình h chuNn h N Chúng ta giải K phương trình chuNn để tìm K hệ số beta chưa biết • Sự trình bày đơn giản lời giải dạng đại số ma t ậ Tuy trận T nhiên hiê vìì mục đích đí h ứng ứ dụng d chủ hủ yếu ế vàà chúng hú ta t cóó thể sử dụng phần mềm EViews hay phần mềm phân tích liệu khác tìm dễ dàng hệ số hồi qui mà khơng cần phải nhớ công thức ‘Bài giảng Kinh tế lượng’ © Phạm Cảnh Huy 10 • • Hệ số xác định bội R2 hệ số xác định bội hiệu chỉnh hỉ h R Không thể dùng R2 làm tiêu chuNn để xem xét việc không đưa thêm hay đưa thê thêm ột biến biế giải iải thích thí h ới vào t mơơ hình hì h Bởi vìì R2 cịn ị phụ h th thuộc ộ vào sốố ) bậc tự ( y − y ∑ i ) ; ∑ ( yi − y) tương ứng (n-k) (n-1) Trong k số tham số (kể hệ số chặn) mơơ hì hình h N gười ta dùng hệ số xác định bội hiệu chỉnh R 2để cân nhắc xem xét việc đưa thêm biến giải thích vào mơ hình R2 =1− ∑ e i2 /( n − k ) ∑ ( y i − y ) /( n − 1) = − (1 − R ) n −1 n−k ¾ N ếu k>1 R ≤ R ≤ điều có nghĩa số biến giải thích tăng lên tăng chậm R2 ¾ R2 R 2có thể âm Khi R 2cịn tăng ta cần đưa thêm biến vào, cịn tăng mà hệ số biến hàm hồi qui ≠ ‘Bài giảng Kinh tế lượng’ © Phạm Cảnh Huy 16 Khoảngg tin cậy ậy kiểm định ị hệệ số hồi qui q ™ Ước lượng ợ g khoảngg tin cậy ậy βj βˆ j − β j ~ T(n - 3) ˆ Se ( β j ) Với độ tin cậy 1-α; (n-3) 3) thoả mãn + Ước lượng phía, ta tìm tα/2 (n βˆ j − β j P ( − tα / ( n − 3) ≤ ≤ t α / ( n − )) = − α ˆ Se ( β j ) Khoảng tin cậy 1-α βj là: [βˆ j − t α / ( n − 3)Se ( βˆ j ); βˆ j + t α / ( n − ) Se ( βˆ j ) ] Chúng ta kiểm định giả thiết βj = βj* ‘Bài giảng Kinh tế lượng’ © Phạm Cảnh Huy 17 Khoảng tin cậy kiểm định hệ số hồi qui Ý nghĩa hĩ hà hàm hồi quii • Kiể Kiểm định đị h ý nghĩa hĩ ủ toàn t hệ số ố hồi quii Yi = β1 + β X i + ui • Đối với hồi qui biến: H : β2 = • Đối với hồi qui bội: Yi = β1 + β X 2i + β3 X 3i + ui H : β = β3 = • Đối với hồi qui biến, sử dụng H : β = t-test • Đối với hồi qui bội, kiểm đinh H : β = β3 = phân tích AN OVA F F-test test ‘Bài giảng Kinh tế lượng’ © Phạm Cảnh Huy 18 Khoảng tin cậy kiểm định hệ số hồi qui Bả phân Bảng hâ tí tíchh AN OVA Tổng bình phương Độ tự Giá trị TB ESS ∑ (Yˆ − Y ) RSS ∑ Yi − Yˆi ) n-k ∑ Yi − Yˆi TSS ∑ (Y − Y ) n-1 ∑ (Y − Y ) (n − 1) i ( 2 i ‘Bài giảng Kinh tế lượng’ © Phạm Cảnh Huy k 1=1 (nếu k=2) ∑ (Yˆi − Y ) (k − 1) k-1=1 ( ) (n − k ) i 19 Khoảng tin cậy kiểm định hệ số hồi qui Thố kê F (F Thống (F-statistic) t ti ti ) Giả thiết kiểm định: H o : β = β3 = L = β k Tính giá trị F: Fk −1,n − k ESS /(k − 1) = = RSS /(n − k ) ˆ ( Y − Y ) /(k − 1) ∑ i ˆ ( Y − Y ) /(n − k ) ∑ i i Thống kê F-statistic F statistic sử dụng hai bậc tự , (k-1) (k 1) cho tử số (n-k) cho mẫu số Bá bỏ Bác ế F *k −1,n −k ≥ F c k −1,n −k H o : β = β3 = L = β k ‘Bài giảng Kinh tế lượng’ © Phạm Cảnh Huy 20 Khoảng tin cậy kiểm định hệ số hồi qui Thố kê F (F Thống (F-statistic) t ti ti ) • Chúng ta tính giá trị F F-statistic statistic việc sử dụng R2 ESS RSS R = = 1− TSS TSS ⇒ ESS = R ⋅ TSS ( ) RSS = − R ⋅ TSS Do đó, Fk −1, n − k R ⋅ TSS / ( k − 1) R2 n−k = = ⋅ 2 k −1 − R ⋅ TSS / ( n − k ) − R ( ) ‘Bài giảng Kinh tế lượng’ © Phạm Cảnh Huy ( ) 21 Khoảng tin cậy kiểm định hệ số hồi qui Thố kê F (F Thống (F-statistic) t ti ti ) • Từ biểu biể thứ thức, ta t thấy thấ rằng, ằ ta t cóó R2 cao, chúng hú tta sẽẽ cóó giá iá trị thống kê F-statistic lớn • Khi R2 cao, có nghĩa đường hồi qui mẫu tìm sát với quan sát – Qua hồi qui, Biến độc lập có khả giải thích tốt cho biến phụ th ộ thuộc • Khi có sở bác bỏ H0 ‘Bài giảng Kinh tế lượng’ © Phạm Cảnh Huy 22 Khoảng tin cậy kiểm định hệ số hồi qui Kiể đị Kiểm địnhh bằ h ủ hệ số ố hồi quii • Mơ hình hồi qui đa biến: Yi = β1 + β X 2i + β X 3i + β X 4i + u i • Kiểm định: H0 : β3 = β4 hay β3 - β4 = ; H1 : β3 ≠ β4 hay β3 - β4 ≠ Sử dụng d thống hố kê T (t-test ( statistic): i i ) βˆ − βˆ − (β − β ) βˆ − βˆ = t *n−k = ˆ ˆ se β − β se βˆ − βˆ ( ( ) ‘Bài giảng Kinh tế lượng’ © Phạm Cảnh Huy ) ( ( ) ) 23 Khoảng tin cậy kiểm định hệ số hồi qui Kiể đị Kiểm địnhh bằ h ủ hệ số ố hồi quii Độ lệch chuNn hiệu hệ số hồi qui q Từ ( ( ) ( ) , ) = Var V (βˆ ) + Var V (βˆ ) − 2Cov C (βˆ , βˆ ) se βˆ3 − βˆ = Var βˆ3 − βˆ V βˆ − βˆ Var 4 Ví dụ: Giả sử có hàm hồi qui mẫu biến phụ thuộc Y: tổng ổ chi hi phí, hí vàà biến biế độ độc lậ lập X: X sản ả llượng Yˆi = 141.7667 + 63.4777 X i − 12.9615 X i2 + 0.9396 X i3 (s.e) (6.3753) (4.7786) ( ) Cov βˆ , βˆ = − 0576 ‘Bài giảng Kinh tế lượng’ © Phạm Cảnh Huy (0.9857) (0.0591) n=10 24 Khoảng tin cậy kiểm định hệ số hồi qui Kiể đị Kiểm địnhh bằ h ủ hệ số ố hồi quii • Kiểm định: H0 : β3 = β4 hay β3 - β4 = • Bây cần tính phương sai (β3 - β4) ( ) ( ) ( ) ( Var βˆ3 − βˆ4 = Var βˆ3 + Var βˆ4 − 2Cov βˆ3 , βˆ4 Do t *n−k = 0.9857 + 0.05912 − * ( − 0.0576 ) = 1.0903 ( ) ( ) se βˆ3 − βˆ4 = Var βˆ3 − βˆ4 = 1.0442 , ( βˆ − βˆ ) − 12 9615 − 9396 = = = − 13 3130 0442 se (βˆ − βˆ ) Vì ) t dfc = 6,6 α = 5% = 2.447 , bác bỏ H0 ‘Bài giảng Kinh tế lượng’ © Phạm Cảnh Huy 25 Phươngg p pháp p ma trận ậ • Giả sử có hàm hồi qui tổng thể y = β1 + β2x2 + β3x3 + βkxk + u PRF • Giả sử có n quan sát, biểu diễn giá trị x1như sau : ⎡1⎤ ⎢1⎥ x1 = ⎢ ⎥ ⎢M⎥ ⎢⎥ ⎣1⎦ β1 hệ sốố tự (hệ sốố chặn), βj hệ sốố hồi qui riêng ‘Bài giảng Kinh tế lượng’ © Phạm Cảnh Huy 26 Phươngg p pháp p ma trận ậ • Chúngg ta viết cho từngg qquan sát sau: y1 = β1 + β x 21 + β3x 31 + + β k x k1 + u1 y = β1 + β x 22 + β3x 32 + + β k x k + u M M M y n = β1 + β x 2n + β3x 3n + + β k x kn + u n • Dưới dạng ma trận sau: Y = Xβ +U Y ma trận cấp n × X ma trận cấp n × k β ma trận cấp k × U ma trận cấp n × ‘Bài giảng Kinh tế lượng’ © Phạm Cảnh Huy 27 Phươngg p pháp p ma trận ậ • Ví dụ k 2: ⎡ y1 ⎤ ⎡1 ⎢ ⎥ ⎢ ⎢ y ⎥ = ⎢1 ⎢ M ⎥ ⎢M ⎢ ⎥ ⎢ ⎢⎣ y n ⎥⎦ ⎢⎣1 n ×1 ‘Bài giảng Kinh tế lượng’ © Phạm Cảnh Huy x 21 ⎤ ⎥ x 22 ⎥ ⎡ β1 ⎤ + ⎢ ⎥ M ⎥⎣β ⎦ ⎥ x n ⎥⎦ n×2 2×1 ⎡ u1 ⎤ ⎢ ⎥ ⎢u ⎥ ⎢ M ⎥ ⎢ ⎥ ⎢⎣ u n ⎥⎦ n×1 28 Phương pháp ma trận Ướ llượng Ước th tham số ố OLS • Hàm hồi qui mẫu viết sau: yˆ i = βˆ1 + βˆ2 x 2i + βˆ3 x 3i + + βˆk x ki y i = βˆ1 + βˆ2 x 2i + βˆ3 x 3i + + βˆk x ki + e i Hay Y = X βˆ + e ⎡e1 ⎤ ⎢ ⎥ e2 ⎥ ⎢ = Y − X βˆ e= ⎢ ⎥ ⎢ ⎥ ⎣⎢e n ⎥⎦ ‘Bài giảng Kinh tế lượng’ © Phạm Cảnh Huy 29 Phương pháp ma trận Ướ llượng Ước th tham số ố OLS • Các ước lượng OLS tìm cách: ∑ e i2 = ∑ ( y i − ( βˆ1 + βˆ2 x 2i + βˆ3 x 3i + + βˆk x ki )) ⇒ e ' e = ∑ e i2 = ( Y − X βˆ )' ( Y − X βˆ ) = Y ' Y − βˆ ' X ' Y − Y ' X βˆ + βˆ ' X ' X βˆ = Y ' Y − βˆ ' X ' Y + X ' X βˆ ∂ (e' e) = −2 X ' Y + X ' X βˆ ⇒ X ' Y = X ' X βˆ ∂βˆ ⇒ βˆ = ( X ' X ) −1 X ' Y ‘Bài giảng Kinh tế lượng’ © Phạm Cảnh Huy 30 ... Giả sử: x2i = 3x3i, Khi đó: yi = β1 + β2x2i + β3x3i + ui = β1 + (3? ?2+ ? ?3) x3i + ui ; đặt: ? ?3? ?? =3? ?2+ ? ?3 => yi = β1 + ? ?3? ??x3i + ui => Không thể tách ảnh hưởng β2 ? ?3 ‘Bài giảng Kinh tế lượng? ?? © Phạm... Kinh tế lượng? ?? © Phạm Cảnh Huy 13 Phương sai độ lệch chuẩn ước lượng bình phương nhỏ • Trong g công g thức σ2 p phương g sai ui, nhưngg chưa biết Ước lượng không chệch bằng: )2 σ = ∑ e i2 n ? ?3 số... Kiểm định: H0 : ? ?3 = β4 hay ? ?3 - β4 = • Bây cần tính phương sai (? ?3 - β4) ( ) ( ) ( ) ( Var β? ?3 − βˆ4 = Var β? ?3 + Var βˆ4 − 2Cov β? ?3 , βˆ4 Do t *n−k = 0.9857 + 0.05912 − * ( − 0.0576 ) = 1.0903