KINH TẾ LƯỢNG Chương 3 hồi quy đa biến

CHƢƠNG HỒI QUY TUYẾN TÍNH ĐA BIẾN TS Đinh Thị Thanh Bình - Khoa Kinh Tế Quốc TếĐại Học Ngoại Thương- Hà Nội Mô hình hồi quy tuyến tính đa biến  Trong thực tế, mối quan hệ kinh tế thường phức tạp, số biến số kinh tế chịu tác động nhiều biến số kinh tế khác  mô hình hồi quy hai biến (hồi quy đơn) tỏ không thỏa đáng  Vì cần thiết phải mở rộng mô hình hồi quy hai biến cách đưa thêm nhiều biến vào mô hình  n/c hồi quy nhiều biến (hồi quy bội hay hồi quy đa biến)  Các ý tưởng kết nghiên cứu hồi quy hai biến khái quát cho mô hình hồi quy nhiều biến 3.1 Các giả thiết mô hình Giả thiết 1: Trong mô hình tổng thể Y có mối quan hệ với biến X u: Y     X   k X k  u Giả thiết 2: Mẫu điều tra mẫu ngẫu nhiên, kích cỡ n Giả thiết 3: X có giá trị không đồng nhất, biến độc lập mối quan hệ tuyến tính hoàn hảo (no perfect collinearity) Giả thiết 4: Đại lượng sai số ngẫu nhiên (nhiễu) có kỳ vọng 0, tức là: E(u/X)=0 Định lý 1: Ƣớc lƣợng không chệch tham số Với giả thiết 1-4 trên, ta có: E ( )   , j  0,1, , k j j Giả thiết 5: Các ui có phương sai (homoscedasticity), tức ui có phương sai giống với giá trị Xi var (ui/Xi)= E[ui- E(ui/Xi)]2= E(ui2/Xi)= σ2 Định lý 3: Phƣơng sai ƣớc lƣợng Với giả thiết 1-5, ta có: Var(ˆ j )  2 SST (1  R j ) j n j =1,2,….,k;  (  ) SST j  X ij X j i 1 Rj R từ hồi qui X j lên biến độc lập khác var( ) lớn  ước lượng thiếu xác j hơnkhoảng tin cậy lớn  kiểm định giả thuyết thống kê xác 3.2 Mô hình hồi quy biến Mô hình hồi quy tổng thể PRF E(Y / X1, X )  0  1 X1  2 X Ý nghĩa: PRF cho biết trung bình có điều kiện Y với điều kiện biết giá trị cố định biến X1 X2 Y: biến phụ thuộc X1 X2: biến độc lập β0 : hệ số tự β1 , β2 : hệ số hồi quy riêng 3.2 Mô hình hồi quy biến Mô hình hồi quy tổng thể ngẫu nhiên: Yi    1 X1i  2 X 2i  ui ui: sai số ngẫu nhiên tổng thể 3.3 Ƣớc lƣợng tham số Hàm hồi quy mẫu SRF: Yˆi  ˆ0  ˆ1 X1i  ˆ2 X 2i Phần dư mẫu ứng với quan sát thứ i ui  Yi  Yˆi Sử dụng phƣơng pháp bình phƣơng nhỏ OLS để ước lượng tham số ˆ0 , ˆ1, ˆ2 3.4 Cách diễn giải hệ số hồi qui riêng Ý nghĩa hệ số hồi quy riêng: cho biết ảnh hưởng biến độc lập lên giá trị trung bình biến phụ thuộc biến lại giữ không đổi Ví dụ: salary  1.29  0.43 female  0.83educ Với điều kiện yếu tố khác không đổi (ceteris paribus), nữ giới có thu nhập thấp nam giới 43 cent/ 10 3.13 Phương sai mô hình không xác định Định lý 3: Phƣơng sai ƣớc lƣợng Với giả thiết trên, ta có: Var(ˆ j )  2 SST (1  R j ) j n j =1,2,….,k; 2  (  ) SST j  X ij X j i 1 R R từ hồi qui X lên biến độc lập khác j var( ) j lớn ước lượng thiếu xác hơnkhoảng tin cậy lớn  kiểm định giả thuyết thống kê chx j 3.13.1 Các yếu tố ảnh hưởng đến phương sai ước lượng OLS Phƣơng sai sai số,  : -  lớn  var( j) lớn -  lớn nghĩa việc phân bố biến không quan sát ảnh hưởng đến Y rộng  “nhiễu” (noise) phương trình  khó ước lượng ảnh hưởng phần biến X đến Y -  giá trị ko biết, thuộc tổng thể - Muốn giảm   đưa thêm nhiều biến X vào phương trình 3.13.1 Các yếu tố ảnh hưởng đến phương sai ước lượng OLS Sự biến động X j , SST j : - SST j lớn var( j) nhỏ  Khi yếu tố khác giống nhau, ước lượng  j muốn có nhiều biến động X j  tăng kích cỡ mẫu 3.13.1 Các yếu tố ảnh hưởng đến phương sai ước lượng OLS Mối quan hệ tuyến tính biến độc lập, R j - R j phản ánh % biến động X j giải thích biến độc lập khác - R j lớn  mối quan hệ tuyến tính X j biến X khác lớn  var( j ) lớn - Nếu R j = là trường hợp tốt để ước lượng  j điều xảy - Nếu R j =  vi phạm giả thiết cộng tuyến hoàn hảo - R j   Sự tương quan lớn (không phải hoàn hảo) hay nhiều biến độc lập var( j )   3.13.1 Các yếu tố ảnh hưởng đến phương sai ước lượng OLS • Sự tương quan lớn (không phải hoàn hảo) hay nhiều biến độc lập  đa cộng tuyến • Đa cộng tuyến không vi phạm giả thiết 37 3.13.2 Đƣa biến ko liên quan vào mô hình: Y   X  X  2  X ảnh hưởng đến Y, 0  Đưa biến không liên quan vào mô hình không ảnh hưởng đến tính không chệch ước lượng: E( 1)   E( )    38 3.13.3 Không đƣa biến liên quan vào mô hình:  PRF: Y   X  X 2 u  Khi ước lượng không đưa X vào mô hình có ý nghĩa thống kê: Y     X  Biasness: E ( )   39   E ( )    bias 1 E( )     (1) (2)  1  0  #0; Corr ( X 1, X 2)    #0; Corr ( X 1, X 2)  Một số kết luận: • Nếu không chệch tính chất để đo chất lượng ước lương   ưa thích  Nghĩa ta cho biến X dù có liên quan không liên quan đến Y •Tuy nhiên xét tính chất phương sai nhỏ nhất, lựa chọn thay đổi Cụ thể: Var( )   / [ SST 1(1  R1 )] 2 Var( )   / SST1 40 •Nếu Cov( X 1, X 2) #0  Var ( )  Var( ) 1  Nếu Cov( X 1, X 2) #0 ( vấn đề đa cộng tuyến) TH1 Khi  #0 ,  ước lượng chệch,  lượng không chệch, Var ( )  Var(  ) 1 1 ước TH2 Khi   ,   ước lượng không chệch, Var ( )  Var(  ) 1 1 (TH2) Như vậy, X không ảnh hưởng đến Y, đưa vào mô hình làm trầm trọng vấn đề đa cộng tuyến, dẫn đến việc ước lượng  hiệu  Phương sai ước lượng cao giá việc 41 đưa vào mô hình biến không liên quan (TH1) Khi  #0 , không đưa X vào mô hình  ước lượng chệch • Có lý để đưa X vào mô hình: • phần ước lượng chệch  không giảm kích cỡ mẫu tăng • Var( 1) &Var( 1)  kích cỡ mẫu tăng; nghĩa vấn đề đa cộng tuyến cho X vào mô hình trở nên quan trọng kích cỡ mẫu tăng • Với mẫu đủ lớn,  ưa thích , nghĩa nên đưa X vào mô hình ta biết có liên quan đến Y 2 42 Nếu Corr( X , X  #0 )0  E( )   Var ( )  Var( ) 43 1 3.14 Đa cộng tuyến (multiconlinearity) • Đa cộng tuyến xảy X j có quan hệ tuyến tính “mạnh” với biến X khác  R 2j  • Nếu yếu tố khác nhau, ước lượng  j , tốt Corr( X 1, X 2) thấp • R j lớn  Var( j) lớn  ước lượng ko hiệu Giải pháp: - Tăng kích cỡ mẫu SST j tăng - Với mẫu cố định, bỏ số biến X khỏi mô hình  dẫn đến ước lượng chệch 44 3.14 Đa cộng tuyến (multiconlinearity) Tuy nhiên nếu: Y  0   X  X  X 2 3 u • X không liên quan đến X & X , X & X lại liên quan đến • Khi E( 1) &Var( 1) không bị ảnh hưởng • Nếu mối quan tâm chúng   không cần phải quan tâm đến mối quan hệ X & X 45 3 3.15 Độ xác ước lượng OLS Phƣơng sai (var) ƣớc lƣợng: Var(ˆ j )  2 SST (1  R j ) j độ lệch chuẩn ƣớc lƣợng (sd): sd (ˆ j )   [SST (1  R j )]1/2 j 3.15 Độ xác ước lượng OLS Sai số chuẩn hồi qui ( )  n  (u ) / (n  k 1) i 1 i (n-k-1): số bậc tự do; n: số quan sát; k: số biến độc lập Sai số ƣớc lƣợng: se(ˆ j )   [SST j (1  R )] 1/2 j ...Mô hình hồi quy tuyến tính đa biến  Trong thực tế, mối quan hệ kinh tế thường phức tạp, số biến số kinh tế chịu tác động nhiều biến số kinh tế khác  mô hình hồi quy hai biến (hồi quy đơn)... hình hồi quy hai biến cách đưa thêm nhiều biến vào mô hình  n/c hồi quy nhiều biến (hồi quy bội hay hồi quy đa biến)  Các ý tưởng kết nghiên cứu hồi quy hai biến khái quát cho mô hình hồi quy. .. X2: biến độc lập β0 : hệ số tự β1 , β2 : hệ số hồi quy riêng 3. 2 Mô hình hồi quy biến Mô hình hồi quy tổng thể ngẫu nhiên: Yi    1 X1i  2 X 2i  ui ui: sai số ngẫu nhiên tổng thể 3. 3 Ƣớc