Bài giảng Kinh tế lượng - Chương 2: Mô hình hồi quy bội

Bài giảng Kinh tế lượng - Chương 2: Mô hình hồi quy bội cung cấp cho người học các kiến thức: Sự cần thiết của mô hình hồi quy bội, mô hình hồi quy bội và phương pháp ước lượng OLS, tính vững của ước lượng OLS 4 khoảng tin cậy cho hệ số hồi quy,... Mời các bạn cùng tham khảo nội dung chi tiết.

Chương 2: MƠ HÌNH HỒI QUY BỘI Th.S NGUYỄN PHƯƠNG Bộ mơn Tốn kinh tế Trường Đại học Ngân hàng TPHCM Blog: https://nguyenphuongblog.wordpress.com Email: nguyenphuong0122@gmail.com Ngày 18 tháng năm 2015 NỘI DUNG Sự cần thiết mơ hình hồi quy bội Mơ hình hồi quy bội Phương pháp ước lượng OLS Mô hình phương pháp OLS Mơ hình hồi quy sử dụng ngôn ngữ ma trận Các giả thiết Độ phù hợp hàm hồi quy Tính tốt ước lượng OLS Tính vững ước lượng OLS Khoảng tin cậy cho hệ số hồi quy Quy luật phân phối xác suất số thống kê mẫu Khoảng tin cậy cho hệ số hồi quy Khoảng tin cậy cho biểu thức hai hệ số hồi quy Khoảng tin cậy cho phương sai sai số ngẫu nhiên Kiểm định giả thuyết hệ số hồi quy Kiểm định giả thuyết hệ số hồi quy Kiểm định ràng buộc hệ số hồi quy Kiểm định nhiều ràng buộc -kiểm định F Kiểm định phù hợp hàm hồi quy Sự cần thiết mơ hình hồi quy bội ➤ Một biến phụ thuộc Y thường chịu tác động nhiều yếu tố ➤ Mơ hình hồi quy bội thường có chất lượng dự báo tốt ➤ Mơ hình hồi quy bội cho phép sử dụng dạng hàm phong phú ➤ Mơ hình hồi quy bội thực phân tích phong phú Ví dụ: Ngồi thu nhập, có nhiều yếu tố khác tác động lên tiêu dùng, chẳng hạn độ tuổi, giới tính, nghề nghiệp, địa bàn sinh sống, vật giá, thói quen chi tiêu, Mơ hình hồi quy bội Phương pháp ước lượng OLS Hàm hồi quy tổng thể-PRF: Mơ hình phương pháp OLS E(Y|X) = β1 + β2 X2 + · · · + βk Xk Mơ hình hồi quy tổng thể-PRM: Yi = β1 + β2 X2i + · · · + βk Xki + ui , i = 1; N; hoặc: Y = β1 + β2 X2 + + · · · + βk Xk + u β1 : hệ số chặn/hệ số tự (intercept) βj , j = 2, k : hệ số góc hay hệ số hồi quy riêng u : sai số ngẫu nhiên Câu hỏi: Ý nghĩa hệ số β1 , β2 , , βk ∆E(Y|X) = β2 ∆X2 + · · · + βk ∆Xk Ví dụ 2.1 Mơ hình hồi quy tổng thể lạm phát: LP = 0, 02 + 0, 3m − 0, 15gdp + u LP, m gdp tỷ lệ lạm phát, mức tăng trưởng cung tiền mức tăng trưởng GDP (đơn vị %) Hãy giải thích ý nghĩa hệ số Mơ hình hồi quy bội Phương pháp ước lượng OLS Mơ hình phương pháp OLS Mơ hình hồi quy mẫu-SRM: ˆ = βˆ1 + βˆ2 X2 + · · · + βˆk Xk Y Yi = βˆ1 + βˆ2 X2i + · · · + βˆk Xki + ei , hoặc: Y = βˆ1 + βˆ2 X2 + · · · + βˆk Xk + e Hàm hồi quy mẫu-SRF: i = 1; n; ˆ ước lượng cho E(Y|X); βˆ1 , βˆ2 , , βk tương ứng ước lượng cho Y ˆ β1 , β2 , , βk ; ei phần dư, ước lượng cho ui ˆ = βˆ2 ∆X2 + · · · + βˆk ∆Xk ∆Y Ví dụ 2.2 Ước lượng hàm hồi quy tuyến tính doanh số bán hàng (Y, đv: triệu đồng) theo chi phí chào hàng (X2 , triệu đồng) chi phí quảng cáo (X3 , triệu đồng), ˆ = 328, 1383 + 4, 6495X2 + 2, 5602X3 Nêu ý nghĩa hệ số hồi ta được: Y quy Định nghĩa: Phương pháp OLS nhằm xác định giá trị βˆj , j = 1, 2, , k cho tổng bình phương phần dư nhỏ nhất.(Tương tự mơ hình biến) Mơ hình hồi quy bội Phương pháp ước lượng OLS Mơ hình hồi quy sử dụng ngơn ngữ ma trận Xét mơ hình k biến: Yi = β1 + β2 X2i + + βk Xki + ui , i = 1, 2, , n Đặt         Y 1 X21 X31 · · · Xk1  β1  u1     u     1 X22 X32 · · · Xk2  β2  Y2            , β = , u = Y =   , X =                          X2n X3n · · · Xkn βn un Yn Khi mơ hình hồi quy tổng thể dạng ma trận sau: Y = Xβ + u Từ mẫu quan sát ta có ước lượng cho Y β sau:   ˆ  βˆ1  Y1   ˆ   ˆ  β2  Y2      ˆ ˆ   Y =   , β =           ˆ  ˆn Y βn Ta có hàm hồi quy mẫu ˆ ˆ = Xβ Y ˆ ˆ = Y − Xβ Véc tơ phần dư e = Y − Y Mơ hình hồi quy bội Phương pháp ước lượng OLS Mơ hình hồi quy sử dụng ngơn ngữ ma trận Phương pháp OLS tìm βˆ cho eT e → Áp dụng phương pháp tìm kết quả:      βˆ =     βˆ1 βˆ2 βˆk       = (XT X)−1 XT Y     cov(βˆ1 , βˆ2 )  var(βˆ1 )   cov(βˆ2 , βˆ1 ) var(βˆ2 ) ˆ =  cov(β)    cov(βˆk , βˆ1 ) cov(βˆk , βˆ2 ) cov(βˆ1 , βˆk ) cov(βˆ2 , βˆk ) var(βˆk ) Ước lượng phương sai sai số ngẫu nhiên σ2 ˆ2 = σ e21 + e22 + · · · + e2n n−k       = σ2 (XT X)−1    Mơ hình hồi quy bội Phương pháp ước lượng OLS Mơ hình hồi quy sử dụng ngơn ngữ ma trận Ví dụ 2.3 Sử dụng tập số liệu ch2vd5.wf1 Hãy ước lượng hàm hồi quy tuyến tính CT theo TN TS, CT chi tiêu (triệu đồng/năm), TN thu nhập từ lao động (triệu đồng/năm) TS giá trị tài sản (tỷ đồng) hộ gia đình (a) Kết hồi quy (b) Ma trận hiệp phương sai Mơ hình hồi quy bội Phương pháp ước lượng OLS Mô hình hồi quy sử dụng ngơn ngữ ma trận ➤ β1 = 18, 8601 −→ với hộ khơng có thu nhập tài sản mức chi tiêu trung bình họ vào khoảng 18,8601 triệu đồng/năm ➤ β2 = 0, 7912 −→khi thu nhập hộ gia đình tăng triệu đồng/năm giá trị tài sản không thay đổi mức chi tiêu trung bình tăng khoảng 0,7912 triệu đồng/năm ➤ β3 = 0, 0158 −→khi giá trị tài sản tăng tỷ đồng thu nhập hộ gia đình khơng thay đổi mức chi tiêu trung bình tăng khoảng 0,0158 triệu đồng/năm Mơ hình hồi quy bội Phương pháp ước lượng OLS Các giả thiết Các giả thiết mơ hình ✓ Giả thiết 1: Mơ hình ước lượng sở mẫu ngẫu nhiên kích thước n : {(Xi , Yi ), i = 1, 2, , n} ✓ Giả thiết 2: Kỳ vọng sai số ngẫu nhiên giá trị (X2i , , Xki ) 0, tức E(ui ) = E(u|X2i , , Xki ) = ✓ Giả thiết 3: Phương sai sai số ngẫu nhiên giá trị (X2i , , Xki ) nhau, tức var(u|X2i , , Xki ) = σ2 , ∀i ✓ Giả thiết 4: Giữa biến độc lập X2 , X3 , , Xk đa cộng tuyến Khoảng tin cậy cho hệ số hồi quy Quy luật phân phối xác suất số thống kê mẫu Giả thiết 5: Các sai số ngẫu nhiên có phân phối chuẩn: ui ∼ N(0, σ2 ) Định lý 4.1 Khi giả thiết - thỏa mãn, ta có: a) t = b) t = c) βj − βj ∼ t(n − k) se(βj ) (aβˆj + bβˆs ) − (aβj + bβs ) se(aβˆj + bβˆs ) ∼ t(n − k) (n − k)ˆ σ2 ∼ χ2 (n − k) σ2 14 Khoảng tin cậy cho hệ số hồi quy Khoảng tin cậy cho hệ số hồi quy Xét mơ hình hồi quy Y = β1 + β2 X2 + + βk Xk + u Khoảng tin cậy βj Khoảng tin cậy đối xứng βˆj − tα/2 (n − k)se(βˆj ); βˆj + tα/2 (n − k)se(βˆj ) ; Khoảng tin cậy bên phải (dùng để ước lượng tối thiểu cho βj ) βˆj − tα (n − k)se(βˆj ); +∞ ; Khoảng tin cậy bên trái (dùng để ước lượng tối đa cho βj ) −∞; βˆj + tα (n − k)se(βˆj ) ; tα (n) giá trị tới hạn Student bậc n mức α Ý nghĩa: Khoảng tin cậy (1 − α) ∗ 100% cho hệ số góc βj (j = 1, 2, , k) cho biết biến Xj tăng đơn vị biến khác mơ hình khơng đổi giá trị trung bình biến phụ thuộc thay đổi khoảng Khoảng tin cậy cho hệ số hồi quy Khoảng tin cậy cho hệ số hồi quy Ví dụ 4.1 Tiếp tục ví dụ 2.3 - Sử dụng tập số liệu ch2vd5.wf1 Ước lượng hàm hồi quy tuyến tính CT (chi tiêu, triệu đồng/năm) theo TN (thu nhập từ lao động, triệu đồng/năm) TS (giá trị tài sản, tỷ đồng), ta được: Hãy ước lượng khoảng tin cậy 95% β2 β3 Khoảng tin cậy cho hệ số hồi quy Khoảng tin cậy cho biểu thức hai hệ số hồi quy Xét mơ hình hồi quy: Y = β1 + β2 X2 + + βk Xk + u Khoảng tin cậy cho biểu thức hai hệ số hồi quy: đánh giá tác động hai biến độc lập thay đổi Với a b giá trị (có thể dương âm), khoảng tin cậy cho mức gia tăng trung bình biến Y X2 tăng a đơn vị X3 tăng b đơn vị tính cơng thức (aβˆ2 + bβˆ3 ) − tα/2 (n − k)se(aβˆ2 + bβˆ3 ); aβˆ2 + bβˆ3 + tα/2 (n − k)se(aβˆ2 + bβˆ3 ) ; sai số chuẩn se(aβˆ2 + bβˆ3 ) = a2 var(βˆ2 ) + b2 var(βˆ3 ) + 2abcov(βˆ2 , βˆ3 ) Ví dụ 4.2 Tiếp tục ví dụ 2.3 - Sử dụng tập số liệu ch2vd5.wf1 Sau ước lượng xong, đặt tình giá trị tài sản gia tăng thêm tỷ thu nhập từ lao động giảm triệu, ảnh hưởng lên mức chi tiêu nhận giá trị khoảng nào? biết cov(βˆ2 , βˆ3 ) = 0, 00001 17 Khoảng tin cậy cho hệ số hồi quy Khoảng tin cậy cho biểu thức hai hệ số hồi quy Ví dụ 4.3 Để đánh giá hiệu đầu tư từ khu vực kinh tế lên tổng sản phẩm quốc nội, người ta sử dụng mô hình hồi quy sau: GDP = β1 + β2 FDI + β3 PI + u GDP, FDI DI tổng sản phẩm quốc nội, đầu tư trực tiếp nước đầu tư nội địa (đv; tỷ $) Sử dụng 30 quan sát thu kết ước lượng sau: GDP = 80 + 0, 4FDI + 0, 35DI + e se (2, 5) (0, 05) cov(βˆ2 , βˆ3 ) = 0, 001 (0, 04) Trong khủng hoảng tài chính, FDI giảm tỷ $ sách kích thích phủ giúp đầu tư nội địa tăng tỷ $ liệu GDP thay đổi khoảng nào? 18 Khoảng tin cậy cho hệ số hồi quy Khoảng tin cậy cho phương sai sai số ngẫu nhiên Khoảng tin cậy cho phương sai sai số ngẫu nhiên (n − k)ˆ σ2 (n − k)ˆ σ2 ≤ σ ≤ χ2α/2 (n − k) χ21−α/2 (n − k) ˆ2 sai số chuẩn hồi quy -S.E of regression σ Ví dụ 4.4 Tiếp tục ví dụ 2.3 - Sử dụng tập số liệu ch2vd5.wf1 Hãy ước lượng σ2 với độ tin cậy 95% Kiểm định giả thuyết hệ số hồi quy Kiểm định giả thuyết hệ số hồi quy Kiểm định cặp giả thuyết H0 : βj = H1 : βj với mức ý nghĩa α Cách 1: Dùng khoảng tin cậy đối xứng βj với độ tin cậy (1 − α) : Bước 1: Tính KTC βˆj − se(βˆj )tα/2 (n − k); βˆj + se(βˆj )tα/2 (n − k) ; Bước 2: - Nếu β2 = thuộc KTC chấp nhận H0 - Nếu β2 = khơng thuộc KTC khơng chấp nhận H0 Cách 2: Dùng thống kê T Bước 1: Tính t = βˆj se(βˆj ) Bước 2: Tra bảng tα/2 (n − k) Bước 3: - Nếu |t| ≤ tα/2 (n − k) chấp nhận H0 - Nếu |t| > tα/2 (n − k) khơng chấp nhận H0 Cách 3: Dùng p − value Bước 1: Tính t = βˆj ; se(βˆj ) Bước 2: Tính p − value = P (|T| ≥ |t|) Bước 3: - Nếu p − value ≥ α chấp nhận H0 - Nếu p − value < α khơng chấp nhận H0 20 Kiểm định giả thuyết hệ số hồi quy Kiểm định giả thuyết hệ số hồi quy Bài toán: Kiểm định giả thuyết H0 : βj = β∗j với mức ý nghĩa α t= Loại giả thuyết Hai phía Bên trái Bên phải H0 βj = β∗ βj ≥ β∗ βj ≤ β∗ βˆj − β∗ se(βˆj ) H1 βj β∗ βj < β∗ βj > β∗ Bác bỏ H0 |t| > tα/2 (n − k) t < −tα (n − k) t > tα (n − k) p − value P (|T| ≥ |t|) P (T < t) P (T > t) Ví dụ 5.1 Tiếp tục ví dụ 2.3 - Sử dụng tập số liệu ch2vd5.wf1 Hãy kiểm định giả thuyết “ thu nhập tăng thêm triệu đồng/năm chi tiêu trung bình tăng lên 0,8 triệu đồng/năm” với mức ý nghĩa 5% 21 Kiểm định giả thuyết hệ số hồi quy Kiểm định ràng buộc hệ số hồi quy Bài toán: Kiểm định giả thuyết H0 : aβj + bβs = a∗ với mức ý nghĩa α, a, b, a∗ số cho trước Bước 1: Tính t = (aβˆj + bβˆs ) − a∗ ; se(aβˆj + bβˆs ) Bước 2: Tra bảng giá trị tới hạn Student tα/2 (n − k) tα (n − k) tùy thuộc giả thuyết đối H1 Bước 3: Kết luận dựa vào bảng sau Loại giả thuyết Hai phía Bên trái Bên phải H0 aβj + bβs = a∗ aβj + bβs ≥ a∗ aβj + bβs ≤ a∗ H1 aβj + bβs a∗ aβj + bβs < a∗ aβj + bβs > a∗ 22 Bác bỏ H0 |t| > tα/2 (n − k) t < −tα (n − k) t > tα (n − k) p − value P (|T| ≥ |t|) P (T < t) P (T > t) Kiểm định giả thuyết hệ số hồi quy Kiểm định ràng buộc hệ số hồi quy Ví dụ 5.2 Để xem xét mối quan hệ yếu tố đầu vào với sản xuất nhà máy dệt kim, người ta chạy mơ hình hồi quy với số liệu từ 30 nhà máy thu kết quả: Q = 150 + 0, 5K + 0, 7L + e se (1, 2) (0, 1) (0, 2) cov(βˆ2 , βˆ3 ) = 0, 017 Q (đv:100 chiếc) số áo sản xuất được, K (máy) số máy dệt, L (đv:10 người) số lao động Giả sử chi phí để thuê 10 lao động chi phí thuê máy dệt Với mức ý nghĩa 5%, cho tiền chi cho lao động hiệu tiền chi cho máy dệt hay không? Kiểm định giả thuyết hệ số hồi quy Kiểm định nhiều ràng buộc -kiểm định F Xét mơ hình hồi quy: Y = β1 + β2 X2 + β3 X3 + + βk Xk + u Thí dụ: Kiểm định cặp giả thuyết H0 : β2 = 0, β3 = 0; H1 : β22 + β23 Bước 1: Thiết lập cặp giả thuyết thống kê Bước 2: - Ước lượng: Y = β1 + β2 X2 + β3 X3 + + βk Xk + u (mơ hình U) thu RSSU - Ước lượng: Y = β1 + β4 X4 + + βk Xk + v (mơ hình R) thu RSSR Bước 3: Tính giá trị quan sát thống kê kiểm định F= (R2U − R2R )/m (RSSR − RSSU ) /m = RSSU /(n − kU ) (1 − R2U )/(n − kU ) m số ràng buộc giả thuyết H0 , kU số hệ số hồi quy mơ hình không ràng buộc U Bước 4: - Nếu F > fα (m, n − k) bác bỏ H0 - Nếu F < fα (m, n − k) chưa có sở để bác bỏ H0 Kiểm định giả thuyết hệ số hồi quy Kiểm định nhiều ràng buộc -kiểm định F Ví dụ 5.3 Xét mơ hình hồi quy tiền lương sau: wage = β1 + β2 Edu + β3 Medu + β4 Ssibs + u Wage, Edu, Meduc Ssibs tiền lương, trình độ học vấn, trình độ học vấn người mẹ số anh chị em gia đình người lao động Với số liệu file ch3vd9.wf1 ta có kết hồi quy sau: wage = 2404 + 86, 12Edu − 14, 88Medu − 30, 25Ssibs + e se (454) (36, 78) (19, 61) (39, 18) RSS = 3649563; n = 32 Hãy kiểm định giả thuyết: yếu tố “học vấn người mẹ” “số anh chị em đồng thời gia đình” đồng thời khơng ảnh hưởng đến tiền lương người lao động 25 Kiểm định giả thuyết hệ số hồi quy Kiểm định nhiều ràng buộc -kiểm định F Ví dụ 5.4 Sử dụng số liệu ch2vd5.wf1, ta có hàm hồi quy ước lượng sau: CT = 28, 942 + 0, 728TN + 0, 022TS + 5, 125CK − 0, 072TNP + e, se (12, 696) (0, 035) (0, 017) (2, 191) (0, 193) R = 0, 999622; n = 33 CT, TN, TS, CK, TNP chi tiêu, thu nhập từ lao động, giá trị tài sản, thu nhập từ chứng khoán thu nhập phụ khác năm Hãy kiểm định giả thuyết cho rằng: “các biến TS, CK TNP không tác động đến CT” Biết ước lượng mơ hình tuyến tính CT theo TN, ta được: CT = 42, 733 + 0, 853TN + e, se (7, 860) (0, 004) R = 0, 999306; n = 33 26 Kiểm định giả thuyết hệ số hồi quy Kiểm định phù hợp hàm hồi quy Bài toán: Kiểm định phù hợp hàm hồi quy với mức ý nghĩa α Kiểm định cặp giả thuyết H : R2 = H1 : R (Hàm hồi quy không phù hợp) (Hàm hồi quy phù hợp) Tiêu chuẩn thống kê Fqs = ESS/(k − 1) R2 /(k − 1) = RSS/(n − k) (1 − R2 )/(n − k) Nếu Fqs > fα (k − 1; n − k) bác bỏ H0 , kết luận hàm hồi quy phù hợp Ví dụ 5.5 Tiếp tục ví dụ 5.3 Hãy kiểm định phù hợp mô hình với mức ý nghĩa 5% Dự báo giá trị biến phụ thuộc Khoảng tin cậy (1 − α) cho giá trị trung bình biến phụ thuộc Y X = X0 là: ˆ − t(n − k) se(Y ˆ ); Y ˆ + t(n − k) se(Y ˆ 0) ; Y α/2 α/2 ˆ = XT βˆ Y ước lượng điểm cho E(Y|X0 ); ˆ 0) = σ ˆ se(Y T −1 XT (X X) X0 Khoảng tin cậy (1 − α) cho giá trị riêng biệt biến phụ thuộc Y X = X0 là: ˆ − t(n − k) se(Y0 − Y ˆ ); Y ˆ + t(n − k) se(Y0 − Y ˆ 0) ; Y α/2 α/2 ˆ = XT βˆ Y ước lượng điểm cho Y0 ; ˆ 0) = σ ˆ se(Y0 − Y T −1 + XT (X X) X0 ... thiết mơ hình hồi quy bội Mơ hình hồi quy bội Phương pháp ước lượng OLS Mơ hình phương pháp OLS Mơ hình hồi quy sử dụng ngơn ngữ ma trận Các giả thiết Độ phù hợp hàm hồi quy Tính tốt ước lượng OLS... quen chi tiêu, Mơ hình hồi quy bội Phương pháp ước lượng OLS Hàm hồi quy tổng thể-PRF: Mô hình phương pháp OLS E(Y|X) = β1 + β2 X2 + · · · + βk Xk Mô hình hồi quy tổng thể-PRM: Yi = β1 + β2... thường chịu tác động nhiều yếu tố ➤ Mơ hình hồi quy bội thường có chất lượng dự báo tốt ➤ Mơ hình hồi quy bội cho phép sử dụng dạng hàm phong phú ➤ Mơ hình hồi quy bội thực phân tích phong phú Ví dụ: