Bài giảng 13 & 14. Hồi quy tuyến tính đơn

11/20/2011 HỒI QUY TUYẾN TÍNH ĐƠN GV : Đinh Cơng Khải – Chương trình Fulbright Mơn: Các Phương Pháp Định Lượng – MPP4 Kinh tế lượng gì?  “Kinh tế lượng quan tâm với việc xác định qui luật kinh tế thực nghiệm” (Theil, 1971)  “ Kinh tế lượng việc phân tích định lượng tượng kinh tế thực tế dựa phát triển đồng thời lý thuyết quan sát, có liên quan phương pháp suy diễn thích hợp” (Samuelson et al., 1954) 11/20/2011 Kinh tế lượng gì?  Ví dụ:  Quy luật cung cầu  Lạm phát cao tỷ lệ thu nhập mà người dân muốn dạng tiền thấp  Mức cầu trung bình hàng hóa công ty tăng theo mức tăng chi phí quảng cáo  Sự phụ thuộc sản lượng vụ mùa vào giống lúa, lượng mưa, phân bón Phương pháp luận kinh tế lượng  Phát biểu lý thuyết giả thuyết  Xác định đặc trưng mơ hình tốn học lý thuyết  Xác định đặc trưng mơ hình kinh tế lượng lý thuyết  Thu thập liệu  Ước lượng tham số mơ hình kinh tế lượng  Kiểm định giả thuyết  Dự báo hay tiên đoán  Sử dụng mơ hình để kiểm sốt cho mục đích sách 11/20/2011 Phương pháp luận kinh tế lượng  Ví dụ: Một cách trung bình, người ta có xu hướng tăng chi tiêu tiêu dùng thu nhập họ tăng lên, không nhiều gia tăng thu nhập họ (Keynes)  Mơ hình tốn học: Y = β1 + β2 X  Mơ hình KTL  Thu thập liệu  Ước lượng mơ hình KTL:  Kiểm định giả thuyết  Dự báo (Y= tiêu dùng; X= thu nhập; 0< β2 2) Độ xác ước lượng  Điều kiện: Số lượng quan sát n phải lớn số lượng tham số ước lượng (n>k)  Đồng phƣơng sai ƣớc lƣợng 11 11/20/2011 Độ thích hợp mơ hình 23 Mối liên hệ TSS, ESS, RSS TSS = ESS  (Y Y )2 i   (Yˆi  Y ) + RSS   (Yi  Yˆi ) TSS = Tổng bình phương tồn phần ESS = Tổng bình phương giải thích RSS = Tổng bình phương phần dư Độ thích hợp mơ hình (goodness of fit)  Hệ số xác định (coefficient of determination) r2  ESS RSS  1 TSS TSS 12 11/20/2011 Độ thích hợp mơ hình (goodness of fit)  Hệ số tương quan mẫu r   r (dấu r phụ thuộc vào dấu ˆ2 ) Phân phối xác suất sai số  Với giả thiết E(ui) = 0, cov(ui, Xi) = 0, var(ui |Xi) = σ2, cov(ui, uj) = 0, ước lượng OLS ˆ1 ˆ2 BLUE  Để kiểm định giả thuyết cần biết phân phối xác xuất sai số ui  Giả định ui tuân theo phân phối chuẩn: ui ~ N(0, σ2)  ui chứa biến độc lập khơng đề cập mơ hình hồi qui (tác động biến nhỏ có thuộc tính ngẫu nhiên)  Theo Định lý giới hạn trung tâm, lượng lớn biến ngẫu nhiên có phân phối giống độc lập phân phối tổng biến có phân phối chuẩn số lượng biến tăng lên vô hạn 13 11/20/2011 Phân phối xác suất sai số  Nếu ui ~ N(0, σ2) phân phối xác xuất ước lượng OLS có phân phối chuẩn (bất kỳ hàm tuyến tính biến tuân theo phân phối chuẩn tự có phân phối chuẩn)  Các tính chất ước lượng OLS theo giả định phân phối chuẩn E ( ˆ2 )   2 Var ( ˆ2 )   2ˆ   xi2 ˆ2 ~ N (  , 2ˆ ) Kiểm định giả thuyết  Phƣơng pháp kiểm định ý nghĩa: Kiểm định t  Kiểm định phía H0: β2 = a Ha: β2 ≠ a Trị kiểm định thống kê t  ˆ2   sˆ  sˆ ˆ x i 14 11/20/2011 Kiểm định giả thuyết Qui tắc bác bỏ   Bác bỏ |t| > tα/2 với t α/2 dựa phân phối t với bậc tự (n-2)  Hoặc pvalue < α Quy tắc kinh nghiệm “2-t” Nếu bậc tự lớn hay 20 α = 5% H0 bị bác bỏ giá trị thống kê t lớn theo giá trị tuyệt đối Kiểm định giả thuyết  Kiểm định phía H0: β2 ≥ a H0: β2 ≤ a Ha: β2 < a Ha: β2 > a Qui tắc bác bỏ  Bác bỏ t < - tα t > tα  Hoặc pvalue < α pvalue < α 15 11/20/2011 Kiểm định giả thuyết *** Trƣờng hợp kiểm định giả thuyết β1 t  ˆ1  1 sˆ sˆ  X n x i i ˆ Kiểm định giả thuyết  Phƣơng pháp kiểm định dựa khoảng tin cậy (1-α)100% ˆ2  t / sˆ Qui tắc bác bỏ Bác bỏ H0 không năm khoảng tin cậy β2 16 11/20/2011 Kiểm định giả thuyết Phƣơng pháp kiểm định ý nghĩa: Kiểm định F (Phân tích ANOVA)  F  MSE MSR Nguồn biến thiên Công thức  yˆ ESS  ˆ22  xi2 i  uˆ i RSS y i TSS Bậc tự n-2 MSS ˆ22  xi2  uˆ i /( n  2)  ˆ n-1 Qui tắc bác bỏ Bác bỏ H0 F ≥ Fα (phân phối F với bậc tự 1) p value ≤ α Sử dụng phân tích hồi qui để ước lượng dự báo  Ước lượng khoảng tin cậy giá trị trung bình E (Y | X  X )  Yˆ0 Yˆ0  t / sYˆ sYˆ  ˆ  ( X  X )2  n  xi2 Ước lượng khoảng tin cậy giá trị cá biệt Y0 Y0  t / sind sind  ˆ  ( X  X )2  n  xi2 17 11/20/2011 PHÂN TÍCH PHẦN DƢ (Nguồn: Cao Hào Thi)  Nếu giả định số hạng sai số u khơng đảm bảo kiểm định giả thuyết ý nghĩa mối quan hệ hồi qui kết ước lượng khoảng khơng hiệu lực  Các phần dư cho thông tin tốt u  Phần dư quan sát thứ i y i  yˆ i Rất nhiều phân tích phần dư dựa việc khảo sát đồ thị phần dư  35 ĐỒ THỊ PHẦN DƢ THEO X (Nguồn: Cao Hào Thi)  Nếu giả định Var (ui|X) = σ2 với tất giá trị X thỏa, mơ hình hồi qui giả định biểu diễn đầy đủ mối quan hệ biến, Đồ thị phần dư cho ấn tượng tổng thể giải băng điểm nằm ngang 36 18 11/20/2011 ĐỒ THỊ PHẦN DƢ THEO X (Nguồn: Cao Hào Thi) Phần dư y  yˆ Dạng tốt x 37 ĐỒ THỊ PHẦN DƢ THEO X (Nguồn: Cao Hào Thi) Phần dư y  yˆ Phương sai thay đổi x 38 19 11/20/2011 ĐỒ THỊ PHẦN DƢ THEO X (Nguồn: Cao Hào Thi) y  yˆ Phần dư Dạng mơ hình khơng thích hợp x 39 20 ... trước (trong mẫu lặp lại) biến giải thích 11/20/2011 Mơ hình hồi qui tuyến tính Mơ hình hồi qui tuyến tính 11/20/2011 Mơ hình hồi qui tuyến tính  Độ lệch mức chi tiêu tiêu dùng gia đình cá thể mức... hình hồi qui tuyến tính  Hàm hồi qui tổng thể tuyến tính (PRF) E(Y|Xi) = β1 + β2 Xi   E(Y|Xi) trung bình (tổng thể) phân phối Y với điều kiện X i  β1 , β2 tham số mơ hình gọi hệ số hồi qui... Mơ hình hồi qui tuyến tính  Hàm hồi qui mẫu (SRF) Yˆi  ˆ1  ˆ2 X i đó: Yˆi ước lượng E(Yi|Xi) ˆ 1và ˆ2 ước lượng β1 β2 Yi  ˆ1  ˆ2 X i  uˆi  Yˆi  uˆi Mơ hình hồi qui tuyến tính 11/20/2011