Chương 2 MÔ HÌNH HỒI QUY BỘI Chương 2 MÔ HÌNH HỒI QUY BỘI Nguyễn Phương Bộ môn Toán kinh tế Đại học Ngân hàng TPHCM Email nguyenphuong0122@gmail com Ngày 13 tháng 12 năm 2022 1 NỘI DUNG 1 Sự cần thiết[.]
Chương 2: MƠ HÌNH HỒI QUY BỘI Nguyễn Phương Bộ mơn Tốn kinh tế Đại học Ngân hàng TPHCM Email: nguyenphuong0122@gmail.com Ngày 13 tháng 12 năm 2022 NỘI DUNG Sự cần thiết mơ hình hồi quy bội Mơ hình hồi quy bội Phương pháp ước lượng OLS Mơ hình phương pháp OLS Các giả thiết Độ phù hợp hàm hồi quy Tính tốt ước lượng OLS Mơ hình hồi quy sử dụng ngôn ngữ ma trận Một số dạng mơ hình hồi quy Mơ hình dạng log-log Mơ hình dạng bán loga Mơ hình dạng đa thức Tính vững ước lượng OLS Mơ hình hồi quy bội sử dụng ngơn ngữ ma trận Mơ hình giả thiết OLS Ước lượng OLS ma trận hiệp phương sai Sự cần thiết mơ hình hồi quy bội ➤ Một biến phụ thuộc Y thường chịu tác động nhiều yếu tố ➤ Mơ hình hồi quy bội thường có chất lượng dự báo tốt ➤ Mơ hình hồi quy bội cho phép sử dụng dạng hàm phong phú ➤ Mơ hình hồi quy bội thực phân tích phong phú Mơ hình hồi quy bội Phương pháp ước lượng OLS Hàm hồi quy tổng thể-PRF: Mơ hình hồi quy tổng thể-PRM: Mơ hình phương pháp OLS E(Y|X) = β1 + β2 X2 + · · · + βk Xk Yi = β1 + β2 X2i + · · · + βk Xki + ui , i = 1; N; Y = β1 + β2 X2 + + · · · + βk Xk + u hoặc: β1 : hệ số chặn/hệ số tự (intercept) βj , j = 2, k : hệ số hồi quy tương ứng Xj X u : sai số ngẫu nhiên Câu hỏi: Ý nghĩa hệ số β1 , β2 , , βk Hàm hồi quy mẫu-SRF: ˆ = βˆ1 + βˆ2 X2 + · · · + βˆk Xk Y Mơ hình hồi quy mẫu-SRM: Yi = βˆ1 + βˆ2 X2i + · · · + βˆk Xki + ei , hoặc: Y = βˆ1 + βˆ2 X2 + · · · + βˆk Xk + e i = 1; n; ˆ ước lượng cho Y; βˆ1 , βˆ2 , , βˆk tương ứng ước lượng cho β1 , β2 , , βˆk ; ei Y phần dư, ước lượng cho ui Định nghĩa: Phương pháp OLS nhằm xác định giá trị βˆj , j = 1, 2, , k cho tổng bình phương phần dư nhỏ nhất.(Tương tự mơ hình biến) Mơ hình hồi quy bội Phương pháp ước lượng OLS Mơ hình phương pháp OLS Ví dụ 2.1 Sử dụng tập số liệu ch2vd5.wf1 Hãy ước lượng hàm hồi quy tuyến tính CT theo TN TS, CT chi tiêu (triệu đồng/năm), TN thu nhập từ lao động (triệu đồng/năm) TS giá trị tài sản (tỷ đồng) hộ gia đình ➤ βb1 = 18, 8601 −→ với hộ thu nhập tài sản mức chi tiêu trung bình họ vào khoảng 18,8601 triệu đồng/năm ➤ βb2 = 0, 7912 −→khi thu nhập hộ gia đình tăng triệu đồng/năm giá trị tài sản không thay đổi mức chi tiêu trung bình tăng khoảng 0,7912 triệu đồng/năm Mơ hình hồi quy bội Phương pháp ước lượng OLS Các giả thiết Các giả thiết mơ hình ✓ Giả thiết 1: Mơ hình ước lượng sở mẫu ngẫu nhiên kích thước n : {(Xi , Yi ), i = 1, 2, , n} ✓ Giả thiết 2: Kỳ vọng sai số ngẫu nhiên giá trị (X2i , , Xki ) 0, tức E(ui |X2i , , Xki ) = ✓ Giả thiết 3: Phương sai sai số ngẫu nhiên giá trị (X2i , , Xki ) nhau, tức var(u|X2i , , Xki ) = σ2 , ∀i ✓ Giả thiết 4: Giữa biến độc lập X2 , X3 , , Xk khơng có đa cộng tuyến Mơ hình hồi quy bội Phương pháp ước lượng OLS Pn Độ phù hợp hàm hồi quy Pn − Y)2 , ˆ i − Y)2 , TSS = i=1 (Yi ESS = i=1 (Y Nếu hàm hồi quy tuyến tính có chứa hệ số chặn thì: RSS = Pn i=1 ei TSS = ESS + RSS Hệ số xác định mơ hình hồi quy (tương ứng với mẫu): R2 = RSS ESS =1− TSS TSS Ý nghĩa: R2 cho biết mức độ giải thích biến độc lập mơ hình với biến động (quanh giá trị trung bình) biến phụ thuộc − R2 cho biết phần biến động (quanh giá trị trung bình) biến phụ thuộc gây sai số yếu tố chưa đưa vào mơ hình R2 thể tương quan tuyến tính biến phụ thuộc với biến độc lập Khi thêm biến vào mơ hình làm gia tăng R2 , làm chất lượng ước lượng giảm −→ để xét xem có nên thêm biến vào mơ hình khơng người ta dùng R2 hiệu chỉnh (adjusted r-square) kí hiệu R : R = − (1 − R2 ) n−1 n−k Mơ hình hồi quy bội Phương pháp ước lượng OLS Tính tốt ước lượng OLS Định lý Gauss - Markov Khi giả thiết 1-4 thỏa mãn ước lượng thu từ phương pháp OLS ước lượng tuyến tính,khơng chệch có phương sai nhỏ (BLUE) Độ xác ước lượng σ2 P (1 − R2j ) x2ji R2j hệ số xác định mơ hình hồi quy Xj theo biến độc var(βbj ) = lập lại xji = Xji − Xj n P e2i RSS i=1 ˆ = σ = n−k n−k s s RSS/(n − k) ˆ σ P P = se(βbj ) = (1 − R2j ) x2ji (1 − R2j ) x2ji Mơ hình hồi quy bội Phương pháp ước lượng OLS Mơ hình hồi quy sử dụng ngơn ngữ ma trận Xét mơ hình k biến: Yi = β1 + β2 X2i + + βk Xki + ui , i = 1, 2, , n Đặt Y u1 β1 1 X21 X31 · · · Xk1 u2 β2 1 X22 X32 · · · Xk2 Y2 , β = , u = Y = , X = un βn X2n X3n · · · Xkn Yn Khi mơ hình hồi quy tổng thể dạng ma trận sau: Y = Xβ + U Từ mẫu quan sát ta có ước lượng cho Y β sau: ˆ ˆ β1 Y1 ˆ ˆ β Y2 ˆ ˆ Y = , β = ˆn Y βˆn Ta có hàm hồi quy mẫu ˆ ˆ = Xβ Y ˆ ˆ = Y − Xβ Véc tơ phần dư e = Y − Y Phương pháp OLS tìm βˆ cho eT e → Phương pháp tìm kết quả: βˆ = (XT X)−1 XT Y, ˆ = σ2 (XT X)−1 var(β) Một số dạng mơ hình hồi quy Mơ hình dạng log-log Hàm sản xuất Cobb - Douglas: Q = aKβ2 Lβ3 Q, K, L sản lượng, vốn lao động −→ thêm yếu tố ngẫu nhiên: Q = aKβ2 Lβ3 eu Lấy logarit hai vế, ta được: ln Q = β1 + β2 ln K + β3 ln L + u β β β Giả sử lý thuyết cho rằng: Y = aX22 X33 Xkk β β β Khi thêm yếu tố ngẫu nhiên vào ta có: Y = aX22 X33 Xkk eu Lấy logarit hai vế, ta được: ln Y = β1 + β2 ln X2 + β3 ln X3 + + βk ln Xk + u Ý nghĩa hệ số βj : βj = ∂Xj ∂ ln Y ∂Y/Y ∂Y = βj = −→ Y Xj ∂ ln Xj ∂Xj /Xj −→ Xj tăng (giảm) 1% (các yếu tố khác mơ hình khơng đổi) trung bình Y tăng (giảm) βj % βj : hệ số co giãn Y theo Xj −→ Sử dụng mơ hình log-log dùng để mơ tả mối quan hệ có hệ số co giãn khơng đổi Ví dụ: Hàm cầu thịt lợn: ln Q = 1, − 0, ln P + u −→ Hệ số co giãn cầu thịt lớn theo giá -0,6 −→ giá thịt lớn tăng 1% cầu trung bình thịt lớn giảm 0,6% Một số dạng mơ hình hồi quy Mơ hình dạng bán loga Mơ hình log-lin có dạng ln Y = β1 + β2 X + u Ý nghĩa β2 : Khi X2 tăng đơn vị Y trung bình tăng β2 ∗ 100% Ví dụ: Giả sử quan hệ thu nhập (TN) trình độ học vấn (Ed, số năm học trường) sau: ln TN = 2, + 5, 6Edu + u Mơ hình lin-log có dạng Y = β1 + β2 ln X + u Ý nghĩa β2 : Khi X2 tăng 1% Y trung bình tăng β2 /100 đơn vị Ví dụ: Giả sử quan hệ số mà người lao động muốn làm (L) mức trả cho lao động (TL): L = + 0, ln TL + u Sử dụng mơ hình bán loga có lý thuyết kinh tế mối quan hệ biến số kinh tế phù hợp Một số dạng mơ hình hồi quy Mơ hình dạng đa thức Mơ hình dạng đa thức bậc (dạng parabol) có dạng: Y = β1 + β2 X + β3 X2 + u Sử dụng mô hình dạng đa thức bậc biết mối quan hệ cận biên Y theo X : ví dụ quy luật cận biên giảm dần suất lao động theo tuổi, suất biên giảm dần theo thời gian lao động Cho ∂E(Y|X) = β2 + 2β3 X = ∂X để ước lượng điểm ngưỡng thay đổi Y theo X 12 Tính vững ước lượng OLS Định lý 4.1 Khi giả thiết 1-4 thỏa mãn ước lượng OLS khơng ước lượng khơng chệch mà cịn ước lượng vững Định lý 4.2 Khi giả thiết 1,3,4 thỏa mãn a) cov(Xj , u) = với j = 2, 3, , k b) E(u) = ước lượng OLS ước lượng vững 13 Mơ hình hồi quy bội sử dụng ngơn ngữ ma trận Mơ hình giả thiết OLS Xét mơ hình k biến: Y = β1 + β2 X2 + · · · + βk Xk + u Khi đó, với mẫu ngẫu nhiên kích cỡ n, biểu diễn: Y1 = β1 + β2 X21 + · · · + βk Xk1 + u1 Y2 = β1 + β2 X22 + · · · + βk Xk2 + u2 Yn = β1 + β2 X2n + · · · + βk Xkn + un Hệ phương trình biểu diễn dạng ma trận: Y = Xβ + u Y = Y1 Y2 Yn , X = 1 X21 X22 X31 X32 X2n X3n 14 Xk1 Xk2 Xkn , β = β1 β2 βk , u = u1 u2 un Mơ hình hồi quy bội sử dụng ngôn ngữ ma trận Mô hình giả thiết OLS Các giả thiết phương pháp OLS: Giả thiết 1: Việc ước lượng dựa sở mẫu ngẫu nhiên (X, Y) Giả thiết 2: E (u|X) = 0n×1 Giả thiết 3: E (uu′ |X) = σ2 In u1 u u uu′ = un u1 u1 u2 u22 un u2 u1 un u2 un u2n E(u1 u2 ) E(u1 ) E(u u ) E(u22 ) , E (uu′ ) = E(un u1 ) E(un u2 ) ′ E (uu |X) = σ In = σ2 σ2 0 0 σ2 Giả thiết thực chất giả thiết phương sai sai số không đổi E(u1 un ) E(u2 un ) E(u2n ) Mơ hình hồi quy bội sử dụng ngơn ngữ ma trận Mơ hình giả thiết OLS −1 Giả thiết 4: Tồn ma trận nghịch đảo (X′ X) Giả thiết cho biến độc lập khơng có quan hệ đa cộng tuyến hồn hảo khơng có biến số tập liệu Mơ hình hồi quy bội sử dụng ngôn ngữ ma trận Ước lượng OLS ma trận hiệp phương sai Phương pháp OLS: ˆ = Xβˆ Hàm hồi quy mẫu: Y Y = ˆ1 Y ˆ2 Y ˆn Y , βˆ = βˆ1 βˆ2 βˆk ˆ = Y − Xβˆ Khi đó, với phần dư: e = Y − Y ′ n P ˆ ′ Y − βˆ′ X′ Xβˆ e2i = e′ e = Y − Xβˆ Y − Xβˆ = Y′ Y − 2βX i=1 Từ điều kiện cực tiểu, ta được: −1 βˆ = (X′ X) X′ Y −1 var βˆ = σ2 (X′ X) 17 ... biến: Yi = β1 + ? ?2 X2i + + βk Xki + ui , i = 1, 2, , n Đặt Y u1 β1 1 X21 X31 · · · Xk1 u2 ? ?2 1 X 22 X 32 · · · Xk2 Y2 ... ? ?2 X2 + · · · + βk Xk + u Khi đó, với mẫu ngẫu nhiên kích cỡ n, biểu diễn: Y1 = β1 + ? ?2 X21 + · · · + βk Xk1 + u1 Y2 = β1 + ? ?2 X 22 + · · · + βk Xk2 + u2 Yn = β1 + ? ?2. .. ? ?2 X2n + · · · + βk Xkn + un Hệ phương trình biểu diễn dạng ma trận: Y = Xβ + u Y = Y1 Y2 Yn , X = 1 X21 X 22 X31 X 32 X2n X3n