Mô hình hồi qui hai biến ước lượng và kiểm định giả thiết (KINH tế LƯỢNG SLIDE)

Chương Mơ hình hồi qui hai biến Ước lượng kiểm định giả thiết Phương pháp bình phương bé Giả sử : Yi = 1 + 2Xi + Ui (PRF) có mẫu n quan sát (Yi, Xi) Cần ước lượng (PRF) Ta có : ˆi  ei Yi  Y với ˆi  βˆ1  βˆ2Xi Y (SRF) Theo phương pháp OLS, để ˆi gần với Yi βˆ1, βˆ2 cần thỏa mãn : Y n n ˆ ˆ  e   ( Yi  β1  β2Xi)  i1 i i1 ˆ1, β ˆ2 cần thỏa mãn : Suy β  n n   ei  i1   2( Yi  i1  βˆ1  n   e2 i n   i1   2( Yi   ˆ  β i1  βˆ1  βˆ2Xi )( 1)  βˆ1  βˆ2Xi )( Xi )  giải hệ, ta có : n  X Y  nX Y i i βˆ2  in1 i X βˆ1  Y  βˆ2X  n( X) i1 Có thể chứng minh : n n  x y   X Y  nX Y i i i 1 n i1 i n i  x  X i1 xi  Xi  X i i i1  n( X) với yi  Yi  Y Nên biểu diễn : βˆ2 xy   x i i i Ví dụ 1: Giả sử cần nghiên cứu chi tiêu tiêu dùng hộ gia đình phụ thuộc vào thu nhập họ, người ta tiến hành điều tra, thu mẫu gồm 10 hộ gia đình với số liệu sau : Y 70 65 90 95 110 115 120 140 155 150 X 80 100 120 140 160 180 200 220 240 260 Trong : Y – chi tiêu hộ gia đình (USD/tuần) X – thu nhập hộ gia đình (USD/tuần) Giả sử Y X có quan hệ tuyến tính Hãy ước lượng mơ hình hồI qui Y theo X Các giả thiết cổ điển mô hình hồi qui tuyến tính • Giả thiết : Biến độc lập Xi phi ngẫu nhiên, giá trị chúng phải xác định trước • Giả thiết : Kỳ vọng có điều kiện sai số ngẫu nhiên : E (Ui / Xi) = i • Giả thiết : (Phương sai ) Các sai số ngẫu nhiên có phương sai : Var (Ui / Xi) = 2 i • Giả thiết : Khơng có tượng tương quan sai số ngẫu nhiên : Cov (Ui , Uj ) =  i  j • Giả thiết : Khơng có tượng tương quan biến độc lập Xi sai số ngẫu nhiên Ui : Cov (Xi , Ui ) =  i • Định lý Gauss – Markov : Với giả thiết từ đến mơ hình hồi qui tuyến tính cổ điển, ước lượng OLS ước lượng tuyến tính, khơng chệch có phương sai bé lớp ước lượng tuyến tính, khơng chệch Phương sai sai số chuẩn ước lượng Phương sai Var( βˆ1) σ β2ˆ  X  i σ n xi2 2 ˆ Var( β2) σ βˆ  σ 2  xi Sai số chuẩn se(βˆ1) σ βˆ  σ β2ˆ 1 se(βˆ2) σ βˆ  σ β2ˆ 2 Trong : 2 = var (Ui) Do 2 chưa biết nên dùng ước lượng ei  σˆ  n Hệ số xác định hệ số tương quan a Hệ số xác định : Dùng để đo mức độ phù hợp hàm hồi qui ESS RSS R  1  TSS TSS dn Trong : TSS = ESS + RSS n n TSS   ( Yi  Y)   y i1 i i1 n ˆi  Y)2 ESS   ( Y i1 n n i1 i1 ˆi )2   ei2 RSS   ( Yi  Y Tính chất hệ số tương quan : Miền giá trị r : -1  r  | r|  : quan hệ tuyến tính X Y chặt chẽ r có tính đối xứng : rXY = rYX Nếu X, Y độc lập r = Điều ngược lại khơng Phân phối xác suất ước lượng Giả thiết : Ui có phân phối N (0, 2), Với giả thiết 6, ước lượng có thêm tính chất sau : Khi số quan sát đủ lớn ước lượng xấp xỉ với giá trị thực phân phối : n  n  ˆ ˆ β1     β1, β2     β2 ˆ β  β1 ˆ β1 ~ N( β1, σ βˆ )  Z  ~ N(0,1) σ βˆ βˆ2 ~ N( β2 , σ ) βˆ2 βˆ2  β2  Z ~ N(0,1) σ βˆ ˆ (n  2)σ ~ χ (n  2) σ Yi ~ N ( 1+  2Xi,  2) Khoảng tin cậy hệ số hồi qui • Sử dụng phân phối thống kê t : βˆj  β j t ~ t(n  2) sˆe( βˆj ) j 1,2 Ta có khoảng tin cậy 1 : βˆ1  sˆe( βˆ1).tα / 2(n  2)  β1  βˆ1  sˆe( βˆ1).tα / 2(n  2) Ta có khoảng tin cậy 2 : βˆ2  sˆe( βˆ2).tα / 2(n  2)  β2  βˆ2  sˆe( βˆ2).tα / 2(n  2) Kiểm định giả thiết hệ số hồi qui • Giả sử H0 : 2 = a ( a = const) H1 :   a Có cách kiểm định : Dùng khoảng tin cậy : Khoảng tin cậy 2 [, ] - Nếu a  [, ]  bác bỏ H0 - Nếu a  [, ]  chấp nhận H0 Dùng kiểm định t : Thống kê sử dụng : βˆ2  β2 t ~ t(n  2) sˆe( βˆ2 ) Có hai cách đọc kết kiểm định t : Cách : dùng giá trị tới hạn βˆ2  a - Tính t sˆe( βˆ2 ) - Tra bảng t tìm t/2(n-2) - Nếu | t| > t/2(n-2)  bác bỏ H0 - Nếu | t|  t/2(n-2)  chấp nhận H0 Cách : Dùng p-value (mức ý nghĩa xác) p = P(| T| > ta) βˆ2  a với ta = t  ˆ sˆe( β2 ) - Nếu p    bác bỏ H0 - Nếu p >   chấp nhận H0 Kiểm định phù hợp hàm hồi qui Phân tích hồi qui phân tích phương sai • Giả thiết H0 : 2 = ( hàm hồi qui không phù hợp) H1 : 2  (hàm hồi qui phù hợp) Sử dụng phân phối thống kê F :  F  2 ˆ ( β2  β2 )  xi / i e /(n  2) ~ F(1, n  2) Khi 2 = , F viết : 2 ˆ β2  xi ESS/ R2 / F   (*) 2  ei /(n  2) RSS/(n  2) (1  R ) /(n  2) Nên dùng qui tắc kiểm định sau : - Tính R /1 F (1  R ) /(n  2) - Nếu F > F(1, n-2)  bác bỏ H0  hàm hồi qui phù hợp Mặt khác, từ (*) cho thấy : Phân tích phương sai cho phép đưa phán đốn thống kê độ thích hợp hồi qui ( xem bảng phân tích phương sai) * Một số ý kiểm định giả thiết : - Khi nói “chấp nhận giả thiết H 0”, khơng có nghĩa H0 - Lựa chọn mức ý nghĩa  :  tùy chọn, thường người ta chọn mức 1%, 5%, nhiều 10% Dự báo a Dự báo giá trị trung bình : Cho X =X0 , tìm E(Y/X0) - Dự báo điểm E(Y/X0) : ˆ0  βˆ1  βˆ2X0 Y - Dự báo khoảng E(Y/X0) : ˆY0  sˆe( Y ˆ0 ).tα(n/22) E( Y / X0 )  Y ˆ0  sˆe( Y ˆ0 ).tα(n/22) Trong :  ( X0  X)2  ˆ ˆ ˆ var(Y0 )     σ n  xi  b Dự báo giá trị cá biệt : Cho X =X0 , tìm Y0 ˆY0  sˆe( Y0  Y ˆ0 ).tα(n/22)  Y0  Y ˆ0  sˆe( Y0  Y ˆ0 ).tα(n/22) Trong : ˆ0 )  var(Y ˆ0 )  σ var(Y0  Y nên ˆ0 )  vˆar(Y ˆ0 )  σˆ vˆar(Y0  Y Y dải tin cậy giá trị cá biệt dải tin cậy giá trị trung bình X * Đặc điểm dự báo khoảng X 10 Trình bày kết hồi qui ˆ β ˆ X ˆi  β R2 = Y i se = sê ( ) sê ( βˆ)1 n βˆ=2 t = t1 t2 F = p = p(>t1) p(>t2) p(> F) = Trong : βˆ1  βˆ2  t1  t2  sˆe( βˆ1) sˆe( βˆ2) = 24,4545 ˆ Yi se = t = p = + 0,5091 Xi R2 = 0,9621 (6,4138) (0,0357) n = 10 (3,813) (14,243) F = 202,87 (0,005) (0,000) p = (0,000) 11 Đánh giá kết phân tích hồi qui • Dấu hệ số hồi qui ước lượng phù hợp với lý thuyết hay tiên nghiệm không • Các hệ số hồi qui ước lượng có ý nghĩa mặt thống kê hay khơng • Mức độ phù hợp mơ hình (R2) • Kiểm tra xem mơ hình có thỏa mãn giả thiết mơ hình hồi qui tuyến tính cổ điển hay khơng ... nhập hộ gia đình (USD/tuần) Giả sử Y X có quan hệ tuyến tính Hãy ước lượng mơ hình hồI qui Y theo X 2 Các giả thiết cổ điển mơ hình hồi qui tuyến tính • Giả thiết : Biến độc lập Xi phi ngẫu nhiên,... Nếu p >   chấp nhận H0 8 Kiểm định phù hợp hàm hồi qui Phân tích hồi qui phân tích phương sai • Giả thiết H0 : 2 = ( hàm hồi qui không phù hợp) H1 : 2  (hàm hồi qui phù hợp) Sử dụng phân... phân tích hồi qui • Dấu hệ số hồi qui ước lượng phù hợp với lý thuyết hay tiên nghiệm khơng • Các hệ số hồi qui ước lượng có ý nghĩa mặt thống kê hay khơng • Mức độ phù hợp mơ hình (R2) • Kiểm tra