mô hình hồi quy tuyến tính 1 biến

Chương trình Giảng dạy Kinh tế Fulbright Niên khóa 2012-2014 Các phương pháp định lượng Bài đọc Nhập môn Kinh tế lượng với ứng dụng – 5th ed Ch 3: Mơ hình hồi qui tuyến tính đơn Chương MƠ HÌNH HỒI QUY TUYẾN TÍNH ĐƠN Ở chương phát biểu bước phân tích kinh tế lượng việc thiết lập mơ hình mơ tả hành vi đại lượng kinh tế Tiếp theo nhà phân tích kinh tế/ kinh doanh thu thập liệu thích hợp ước lược mơ hình nhằm hỗ trợ cho việc định Trong chương giới thiệu mơ hình đơn giản phát triển phương pháp ước lượng, phương pháp kiểm định giả thuyết phương pháp dự báo Mơ hình đề cập đến biến độc lập (Y) biến phụ thuộc (X) Đó mơ hình hồi quy tuyến tính đơn Mặc dù mơ hình đơn giản, phi thực tế, việc hiểu biết vấn đề mơ hình tảng cho việc tìm hiểu mơ hình phức tạp Thực tế, mơ hình hồi quy đơn tuyến tính giải thích cho nhiều phương pháp kinh tế lượng Trong chương đưa kết luận mô hình hồi quy tuyến tính đơn biến Cịn phần khác phần tính tốn giới thiệu phần phụ lục Vì vậy, người đọc có kiến thức tốn học, thích, đọc phần phụ lục để hiểu rõ kết lý thuyết 3.1 Mơ Hình Cơ Bản Chương trình bày ví dụ mơ hình hồi quy đơn đề cập đến mối liên hệ giá ngơi nhà diện tích sử dụng (xem Hình 1.2) Chọn trước số loại diện tích, sau liệt kê số lượng nhà có tổng thể tương ứng với diện tích chọn Sau tính giá bán trung bình loại nhà vẽ đồ thị (quy ước điểm biểu thị X) Giả thuyết mơ hình hồi quy tuyến tính đơn trị trung bình nằm đường thẳng (biểu thị  + SQFT), hàm hồi quy tổng thể trung bình có điều kiện (kỳ vọng) GIÁ theo SQFT cho trước Công thức tổng qt mơ hình hồi quy tuyến tính đơn dựa Giả thiết 3.1 GIẢ THIẾT 3.1 (Tính Tuyến Tính Mơ Hình) Yt =  + Xt + ut (3.1) đó, Xt Yt trị quan sát thứ t (t = đến n) biến độc lập biến phụ thuộc,   tham số chưa biết ước lượng; ut số hạng sai số không quan sát giả định biến ngẫu nhiên với số đặc tính định mà đề cập kỹ phần sau   gọi hệ số hồi quy (t thể thời điểm chuỗi thời gian trị quan sát chuỗi liệu chéo.) Thuật ngữ đơn mơ hình hồi quy tuyến tính đơn sử dụng để có biến giải thích (X) sử dụng mơ hình Trong chương nói mơ hồi quy đa biến bổ sung thêm nhiều biến giải thích khác Thuật ngữ hồi quy xuất phát từ Fraccis Galton (1886), người đặt mối liên hệ chiều cao nam với chiều cao người cha quan sát thực nghiệm cho thấy có xu hướng chiều cao trung bình nam với chiều cao người cha họ để “hồi quy” (hoặc di chuyển) cho chiều cao trung bình tồn tổng thể  + Xb gọi phần xác định mơ hình trung bình có điều kiện Y theo X, E(YtXt) =  + Xt Thuật ngữ tuyến tính dùng để chất thông số tổng thể   Ramu Ramanathan Người dịch: Thục Đoan Hiệu đính: Cao Hào Thi Chương trình Giảng dạy Kinh tế Fulbright Các phương pháp định lượng Bài đọc Nhập môn Kinh tế lượng với ứng dụng – 5th ed Ch 3: Mơ hình hồi qui tuyến tính đơn tuyến tính (bậc nhất) khơng phải Xt tuyến tính Do đó, mơ hình Yt    X t2  ut gọi hồi quy quyến tính đơn có X bình phương Sau ví dụ phương trình hồi quy phi tuyến tính Yt =  + X + ut Trong sách khơng đề cập đến mơ hình hồi quy phi tuyến tính mà tập trung vào mơ hình có tham số có tính tuyến tính mà thơi Những mơ hình tuyến tính bao gồm số hạng phi tuyến tính biến giải thích (Chương 6) Để nghiên cứu sâu mơ hình hồi quy phi tuyến tính, tham khảo tài liệu: Greene (1997), Davidson MacKinnon (1993), Griffths, Hill, Judg (1993) Số hạng sai số ut (hay gọi số hạng ngẫu nhiên) thành phần ngẫu nhiên không quan sát sai biệt Yt phần xác định  + Xt Sau tổ hợp bốn nguyên nhân ảnh hưởng khác nhau: Biến bỏ sót Giả sử mơ hình thực Yt =  + Xt + Zt +vt đó, Zt biến giải thích khác vt số hạng sai số thực sự, ta sử dụng mơ hình Y =  + Xt +ut ut = Zt +vt Vì thế, ut bao hàm ảnh hưởng biến Z bị bỏ sót Trong ví dụ địa ốc phần trước, mơ hình thực bao gồm ảnh hưởng phòng ngủ phòng tắm bỏ qua hai ảnh hưởng mà xét đến diện tích sử dụng số hạng u bao hàm ảnh hưởng phòng ngủ phịng tắm lên giá bán nhà Phi tuyến tính ut bao gồm ảnh hưởng phi tuyến tính mối quan hệ Y X Vì thế, mơ hình thực Yt    X t  X t  ut , lại giả định phương trình Y =  + Xt +ut , ảnh hưởng X t2 bao hàm ut Sai số đo lường Sai số việc đo lường X Y thể qua u Ví dụ, giả sử Yt giá trị việc xây dựng ta muốn ước lượng hàm Yt =  + rt +vt rt lãi suất nợ vay vt sai số thật (để đơn giản, ảnh hưởng thu nhập biến khác lên đầu tư loại bỏ) Tuy nhiên thực ước lượng, lại sử dụng mơ hình Yt =  + Xt +ut Xt = rt +Zt lãi suất Như lãi suất đo lường sai số Zt thay rt = Xt – Zt vào phương trình ban đầu, ta Yt =  +(Xt – Zt) +vt =  + Xt – Zt + vt =  + Xt + ut Cần ln lưu ý tính ngẫu nhiên số hạng ut bao gồm sai số đo lường lãi suất nợ vay cách xác Những ảnh hưởng dự báo Dù mơ hình kinh tế lượng tốt chịu ảnh hưởng ngẫu nhiên dự báo Những ảnh hưởng thể qua số hạng sai số ut Như đề cập ban đầu, việc thực điều tra toàn tổng thể để xác định hàm hồi quy tổng thể khơng thực tế Vì vậy, thực tế, người phân tích thường chọn mẫu bao gồm nhà cách ngẫu nhiên đo lường đặc tính mẫu để thiết lập hàm hồi quy cho mẫu Bảng 3.1 trình bày liệu mẫu gồm 14 nhà bán khu vực San Diego Số liệu có sẵn đĩa mềm với tên tập tin DATA3-1 Trong Hình 3.1, cặp giá trị (Xt, Yt) vẽ đồ thị Đồ thị gọi đồ thị phân tán mẫu cho liệu Hình 3.1 tương tự Hình 1.2, Hình 1.2 liệt kê tồn giá trị (Xt, Yt) tổng thể, cịn Hình 3.1 liệt kê liệu mẫu mà Giả sử, thời điểm, ta biết giá trị   Ta vẽ đường thẳng  + X biểu đồ Đây đường hồi quy tổng thể Khoảng cách chiếu thẳng xuống từ giá thực (Yt) đến đường hồi quy  + X sai số ngẫu nhiên ut Độ dốc đường thẳng () Y/X, lượng thay đổi Y Ramu Ramanathan Người dịch: Thục Đoan Hiệu đính: Cao Hào Thi Chương trình Giảng dạy Kinh tế Fulbright Các phương pháp định lượng Bài đọc Nhập môn Kinh tế lượng với ứng dụng – 5th ed Ch 3: Mơ hình hồi qui tuyến tính đơn đơn vị thay đổi X Vì  diễn dịch ảnh hưởng cận biên X lên Y Do đó,  0.14, điều có nghĩa mét vng diện tích tăng thêm làm tăng giá bán nhà lên, mức trung bình, 0.14 ngàn la (lưu ý đơn vị tính) hay 140 la Một cách thực tế hơn, diện tích sử dụng nhà tăng thêm 100 mét vng hy vọng giá bán trung bình ngơi nhà tăng thêm $14.000 la Mặc dầu  tung độ gốc giá trị trị trung bình Y X 0, số hạng hiểu giá trung bình lơ đất trống Ngun nhân  ẩn chứa biến bỏ sót khơng có cách giải thích cho  (điều đề cập kỹ Phần 4.5) BẢNG 3.1 t Giá trị trung bình ước lượng trung bình thực tế giá nhà diện tích sử dụng (mét vng) SQFT Giá bán1 Giá trung bình ước lượng2 1.065 199,9 200,386 1.254 288 226,657 1.300 235 233,051 1.577 285 271,554 1.600 239 274,751 1.750 293 295,601 1.800 285 302,551 1.870 365 312,281 1.935 295 321,316 10 1.948 290 323,123 11 2.254 385 365,657 12 2.600 505 413,751 13 2.800 425 441,551 14 3.000 415 469,351 HÌNH 3.1 Biểu Đồ Phân Tán Của Mẫu Trình Bày Mối Liên Hệ Giữa Giá SQFT 600 Y X t , Yt  500  + X ut 400 300 200 100 1000   X t  1400 1800 2200 Xt 2600 3000 X Đơn vị tính: 1.000 la Phương pháp tính giá trung bình ước lượng trình bày Phần 3.2 Ramu Ramanathan Người dịch: Thục Đoan Hiệu đính: Cao Hào Thi Chương trình Giảng dạy Kinh tế Fulbright Các phương pháp định lượng Bài đọc Nhập môn Kinh tế lượng với ứng dụng – 5th ed Ch 3: Mơ hình hồi qui tuyến tính đơn HÌNH 3.2 Phương Trình Hồi Quy Tổng Thể Mẫu Y ˆ  ˆ X (Hồi qui mẫu) D  X t , Yt  ˆ ut C u t  + X (Hoài qui tổng thể) B ˆ ˆ ˆ Yt    X t   X t  E Yt  X t  A X Mục tiêu nhà kinh tế lượng sử dụng liệu thu thập để ước lượng hàm hồi quy tổng thể, là, ước lượng tham số tổng thể   ˆ ˆ Ký hiệu  ước lượng mẫu   ước lượng mẫu  Khi mối quan hệ ^ ^ ^ trung bình ước lượng Y =  + X Đây gọi hàm hồi quy mẫu Ứng với ^ ^ ^ giá trị quan sát cho trước t, ta có Yt =  + Xt Đây giá trị dự báo Y với giá trị cho trước Xt Lấy giá trị quan sát Yt trừ cho giá trị này, ta ước lượng ut gọi phần dư ước lượng, đơn giản phần dư, ký hiệu ˆ ut 1và thể phương trình sau: ^ ^ ^ ^ ut = Yt – Yt = Yt –  – Xt Sắp xếp lại số hạng trên, ta có ˆ ˆ ˆ Yt    X t  ut (3.3) Việc phân biệt hàm hồi quy tổng thể Y =  + X hàm hồi quy mẫu ˆ ˆ ˆ Yt    X quan trọng Hình 3.2 trình bày hai đường sai số phần dư (cần nghiên cứu kỹ vấn đề này) Lưu ý ut ký hiệu “sai số”, “phần dư” ˆ ut ký hiệu BÀI TẬP 3.1 Xem xét phương trình sau đây: a Yt    X  ut ˆ ˆ ˆ b Yt    X  ut ˆ ˆ c Y    X  u t t ˆ d Yt    X ^ ^ ^ Một số tác giả giảng viên thích sử dụng a thay cho , b thay cho  et thay cho ut Chúng ta sử dụng dấu hiệu ^ theo qui định lý thuyết thống kê giúp phân biệt rõ ràng giá trị thật giá trị ước lượng xác định thông số ước lượng Ramu Ramanathan Người dịch: Thục Đoan Hiệu đính: Cao Hào Thi Chương trình Giảng dạy Kinh tế Fulbright Các phương pháp định lượng Bài đọc Nhập môn Kinh tế lượng với ứng dụng – 5th ed Ch 3: Mơ hình hồi qui tuyến tính đơn ˆ ˆ e Yt    X  ut ˆ ˆ ˆ ˆ f Yt    X  ut Giải thích kỹ phương trình (a) (b) đúng, (c), (d), (e) (f) sai Hình 3.2 có ích việc trả lời câu hỏi 3.2 Ước lượng mơ hình phương pháp bình phương tối thiểu thơng thường Trong phần trước, nêu rõ mơ hình hồi quy tuyến tính phân biệt hồi quy tổng thể hồi quy mẫu Mục tiêu sử dụng liệu X Y tìm kiếm ước lượng “tốt nhất” hai tham số tổng thể   Trong kinh tế lượng, thủ tục ước lượng dùng phổ biến phương pháp bình phương tối thiểu Phương pháp thường gọi bình phương tối thiểu thơng thường, để phân biệt với phương pháp bình phương tối thiểu khác thảo luận chương sau Ký hiệu ước lượng   ˆ  ˆ  , phần dư ước lượng ˆ ˆ ˆ ut  Yt    X t Tiêu chuẩn tối ưu sử dụng phương pháp bình phương tối thiểu cực tiểu hóa hàm mục tiêu t n t n t 1 t 1 ˆ ˆ ˆ ˆ ˆ ESS ( ,  )   ut2   (Yt    X t ) ˆ ˆ với tham số chưa biết   ESS tổng phần dư bình phương phương pháp OLS cực tiểu tổng phần dư bình phương2 Cần nên lưu ý ESS khoảng cách bình phương đo lường từ đường hồi quy Sử dụng khoảng cách đo lường này, nói phương pháp OLS tìm đường thẳng “gần nhất” với liệu đồ thị ˆ ˆ Trực quan hơn, giả sử ta chọn tập hợp giá trị   , đường ˆ ˆ thẳng   X Có thể tính độ lệch Yt từ đường thẳng chọn theo phần dư ˆ ˆ ˆ ước lượng u  Y    X Sau bình phương giá trị cộng tất giá trị t t bình phương tồn mẫu quan sát Tổng phần dư bình phương trị quan ˆ u t2 Tương ứng sát [được xem tổng bình phương sai số (ESS)] với điểm đường thẳng có một trị tổng bình phương sai số Phương pháp ˆ ˆ bình phương tối thiểu chọn giá trị   cho ESS nhỏ Việc bình phương sai số đạt hai điều sau Thứ nhất, bình phương giúp loại bỏ dấu sai số xem sai số dương sai số âm Thứ hai, bình phương tạo bất lợi cho sai số lớn cách đáng kể Ví dụ, giả sử phần dư mẫu  ˆ ˆ 1, 2, –1 –2 hệ số hồi quy chọn trước trị   chọn trước So sánh giá trị với mẫu khác có phần dư –1, –1, –1 Tổng giá trị sai số tuyệt đối hai trường hợp Mặc dù mẫu chọn thứ hai có sai số tuyệt đối thấp từ đến 1, điều dẫn đến sai số lớn khơng mong muốn Nếu ta tính ESS cho hai trường hợp ESS trường hợp đầu 10 (12 + 22+ 12+ 22), ESS cho trường hợp sau 12 Rất dễ nhầm gọi ESS tổng phần dư bình phương, ký hiệu sử dụng phổ biến nhiều chương trình máy tính tiếng có từ tài liệu Phân tích phương sai Ramu Ramanathan Người dịch: Thục Đoan Hiệu đính: Cao Hào Thi Chương trình Giảng dạy Kinh tế Fulbright Các phương pháp định lượng Bài đọc Nhập môn Kinh tế lượng với ứng dụng – 5th ed Ch 3: Mơ hình hồi qui tuyến tính đơn (12 + 12+ 12+ 32) Phương pháp bình phương tối thiểu áp đặt bất lợi lớn cho sai số lớn đường thẳng trường hợp đầu chọn Phần 3.3 tiếp tục trình bày đặc tính cần thiết khác phương pháp cực tiểu ESS Phương Pháp Thích Hợp Cực Đại Phần đề cập sơ phương pháp thích hợp cực đại Phương pháp trình bày chi tiết phần 2.A.4 Phần 3.A.5 trình bày ngun tắc áp dụng mơ hình hồi quy tuyến tính đơn Mặc dù phương pháp thích hợp cực đại dựa tiêu chuẩn tối ưu khác, thông số ước lượng giống thơng số ước lượng phương pháp OLS Nói đơn giản, phương pháp thích hợp cực đại chọn ước lượng cho xác suất xảy mẫu quan sát lớn Phần thảo luận trước cho thấy thực hai phương pháp ước lượng   khác cách xác dẫn đến kết Như cần phải xem xét hai phương pháp? Câu trả lời chương sau, ta thấy số giả thiết mơ hình giảm nhẹ, thực tế, hai phương pháp ước lượng khác cho kết khác Một phương pháp khác cho kết khác nữa, phương pháp cực tiểu tổng sai số tuyệt đối  uˆ t Nhưng phương pháp không dùng phổ biến kinh tế lượng khó tính tốn Phương Trình Chuẩn Trong phần 3.A.3 phụ lục, phương pháp OLS thức áp dụng Phần ˆ ˆ cho thấy điều kiện để cực tiểu ESS với   theo hai phương trình sau đây, gọi phương trình chuẩn (khơng có liên hệ đến phân phối chuẩn) ˆ u t ˆ ˆ ˆ ˆ    (Yt    X t )   Yt  (n )    X t ˆ (X u t t ˆ ˆ )   [ X t (Yt    X t )] = (3.4) (3.5) ˆ Trong Phương trình (3.4), cần lưu ý    n số hạng có  ˆ ˆ có n số hạng Chuyển vế số hạng âm Phương trình (3.4) sang phải chia số hạng cho n, ta 1 ˆ Yt    ˆ n  X t n (3.6) (1/n)Yt trung bình mẫu Y, ký hiệu Y , (1/n)Yt trung bình mẫu X, ký hiệu X Sử dụng kết thay vào Phương trình (3.6), ta phương trình sau ˆ ˆ Y    X (3.7) ^ ^ Đường thẳng  + X đường ước lượng đường hồi quy mẫu, đường thẳng thích hợp Có thể thấy từ Phương trình (3.7) đường hồi quy mẫu Ramu Ramanathan Người dịch: Thục Đoan Hiệu đính: Cao Hào Thi Chương trình Giảng dạy Kinh tế Fulbright Các phương pháp định lượng Bài đọc Nhập môn Kinh tế lượng với ứng dụng – 5th ed Ch 3: Mơ hình hồi qui tuyến tính đơn qua điểm trung bình X , Y  Trong Bài tập 3.12c, ta thấy tính chất khơng đảm bảo trừ số hạng số  có mơ hình ˆ ˆ Từ Phương trình (3.5), cộng tất theo số hạng, đưa   làm thừa số chung, ta ˆ  ( X Y )   X t t hay ˆ (X Y )   X t t t t ˆ    X t2  ˆ    X t2 (3.8) Lời Giải Phương Trình Chuẩn Để thuận lợi cho việc đáp án hai phương trình chuẩn, tính chất sau cần thiết Những tính chất chứng minh Phụ lục Phần 3.A.2 TÍNH CHẤT 3.1 – – Sxx = (Xt – X)2 = Xt2 – nX)2 = Xt2 – n(Xt)2 TÍNH CHẤT 3.2 – – –– Sxy = (Xt – X)(Yt – Y) = (XtYt) – n XY = XtYt – [(Xt ) – (Yt) / n] Từ Phương trình (3.7), ˆ ˆ   Y  X  ˆ1 Yt   n  X t n (3.9) ˆ Thay  vào (3.8) X Y t t 1  ˆ1 ˆ    Yt    X t ( X t )    X t2 n n  ˆ Nhóm số hạng có thừa số  :   X t  Yt  ˆ   X t 2       X t   X tYt   n n       ˆ Tìm  ta ˆ  X Y t t X  t  X  Y  t  t n  X t 2 n Sử dụng ký hiệu đơn giản giới thiệu Tính chất 3.1 3.2, diễn tả sau Ramu Ramanathan Người dịch: Thục Đoan Hiệu đính: Cao Hào Thi Chương trình Giảng dạy Kinh tế Fulbright Các phương pháp định lượng Bài đọc ˆ  Nhập mơn Kinh tế lượng với ứng dụng – 5th ed Ch 3: Mơ hình hồi qui tuyến tính đơn S xy (3.10) S xx  X   S xx   X t S xy   X t Yt  t (3.11) n  X Y  t t (3.12) n Ký hiệu Sxx Sxy nhớ cách trực quan sau, định nghĩa xt  X t  X yt  Yt  Y , ký hiệu ngang trung bình mẫu Do xt yt ký hiệu độ lệch X Y so với giá trị X Y trung bình Kết sau chứng minh phần Phụ lục Phần 2.A.1 3.A.2 xt = S xx   xt2   ( X t X )   X t2  S xy   xt yt   ( X t  X )(Yt  Y )   X tYt   X t 2 n n (3.13)  X Y  t t (3.14) Sxy “tổng giá trị xt nhân yt “ Tương tự, Sxx “tổng giá trị xt nhân xt , hay tổng xt bình phương Phương trình (3.9) (3.10) lời giải cho phương trình chuẩn [(3.4) (3.5)] cho ˆ ˆ ta ước lượng   mẫu cho tham số   tổng thể Cần lưu ý xác định ước lượng  Phương trình (3.10) 2 S xx  xt  ( X t X )  Sxx không xt khơng, có nghĩa Xt Điều dẫn đến giả thuyết sau   GIẢ THIẾT 3.2 (Các Giá Trị Quan Sát X Là Khác Nhau) Không phải tất giá trị Xt Có giá trị Xt khác so với giá trị cịn lại Nói cách khác, phương sai mẫu Var ( X )   ( X t X ) không n 1 không Đây giả thiết quan trọng ln ln phải tn theo khơng mơ hình khơng thể ước lượng Một cách trực quan, Xt khơng đổi, ta khơng thể giải thích Yt thay đổi Hình 3.3 minh họa giả thuyết hình ảnh Trong ví dụ địa ốc, giả sử thông tin thu thập tập trung vào loại nhà có diện tích sử dụng 1.500 mét vuông Đồ thị phân tán mẫu thể Hình 3.3 Từ đồ thị thấy rõ liệu khơng đầy đủ cho việc ước lượng đường hồi quy tổng thể  +X Ramu Ramanathan Người dịch: Thục Đoan Hiệu đính: Cao Hào Thi Chương trình Giảng dạy Kinh tế Fulbright Các phương pháp định lượng Bài đọc Nhập môn Kinh tế lượng với ứng dụng – 5th ed Ch 3: Mơ hình hồi qui tuyến tính đơn HÌNH 3.3 Ví Dụ Giá Trị X Khơng Đổi Y 1,500 X Ví dụ 3.1 Theo thuật ngữ dùng phổ biến kinh tế lượng, ta sử dụng liệu Bảng 3.1 thực “hồi quy Y (GIÁ) theo số hạng số X (SQFT)”, ta xác định mối quan hệ ước lượng (hay hàm hồi quy mẫu) ˆ ˆ Yt  52,351  0,13875351X t Yt giá ước lượng trung bình (ngàn la) tương ứng với Xt (xem Bảng 3.1) Hệ số hồi quy Xt ảnh hưởng cận biên ước lượng diện tích sử dụng đến giá nhà, mức trung bình Do vậy, diện tích sử dụng tăng lên đơn vị, giá trung bình ước lượng kỳ vọng tăng thêm 0,13875 ngàn đô la ($138.75) Một cách thực tế, 100 mét vng tăng thêm diện tích sử dụng, giá bán ước lượng kỳ vọng tăng thêm, mức trung bình, $ 13.875 Hàm hồi quy mẫu dùng để ước lượng giá nhà trung bình dựa diện tích sử dụng cho trước (Bảng 3.1 có trình bày giá trung bình cột cuối.) Do đó, nhà có diện tích 1.800 mét vng giá bán kỳ vọng trung bình $302.551[ = 52,351 + (0,139  1.800)] Nhưng giá bán thực nhà $285.000 Mơ hình ước lượng giá bán vượt $17.551 Ngược lại, nhà có diện tích sử dụng 2.600 mét vng, giá bán trung bình ước lượng $413.751, thấp giá bán thực $505.000 cách đáng kể Sự khác biệt xảy bỏ qua yếu tố ảnh hưởng khác lên giá bán nhà Ví dụ, ngơi nhà có sân vườn rộng và/ hay hồ bơi, có giá cao giá trung bình Điều nhấn mạnh tầm quan trọng việc nhận diện biến giải thích ảnh hưởng đến giá trị biến phụ thuộc đưa ảnh hưởng vào mơ hình thiết lập Ngồi ra, cần thiết việc phân tích độ tin cậy ước lượng tung độ hệ số độ dốc Phương trình (3.1), mức độ “thích hợp” mơ hình liệu thực tế BÀI TẬP 3.2 Sao chép hai cột số liệu Bảng 3.1 vào bảng Trong cột bảng tính chép giá trị Yt (GIÁ) Xt (SQFT) cột thứ hai Sử dụng máy tính tính thêm giá trị cho hai cột khác Bình phương giá trị cột thứ hai điền giá trị vào cột thứ ba (x) Nhân giá trị cột thứ với giá trị tương ứng cột hai điền kết qua vào cột thứ tư (XtYt) Tiếp theo, tính tổng cột đánh giá tổng sau đây: Ramu Ramanathan Người dịch: Thục Đoan Hiệu đính: Cao Hào Thi Chương trình Giảng dạy Kinh tế Fulbright X Y t t Các phương pháp định lượng Bài đọc Nhập môn Kinh tế lượng với ứng dụng – 5th ed Ch 3: Mơ hình hồi qui tuyến tính đơn X  26.753 Y  4.444,9 t t  55.462.515  9.095.985,5 Để tránh tình trạng nhiều sai số làm tròn, cần sử dụng nhiều số thập phân tốt Sau đó, tính Sxy từ Phương trình (3.12) Sxx từ Phương trình (3.11) Cuối ˆ ˆ cùng, tính  theo (3.10)  theo (3.9) kiểm tra lại giá trị trình bày ban đầu 3.3 Tính chất ước lượng Mặc dù phương pháp bình phương cho kết ước lượng mối quan hệ tuyến tính phù hợp với liệu sẵn có, cần trả lời số câu hỏi sau Ví dụ, Đặc ˆ ˆ ˆ ˆ tính thống kê   ? Thông số dùng để đo độ tin cậy   ? ˆ ˆ Bằng cách để sử dụng   để kiểm định giả thuyết thống kê thực dự báo? Sau vào thảo luận vấn đề Sẽ hữu ích bạn ôn lại Phần 2.6, phần đưa tóm tắt tính chất cần thiết thơng số ước lượng Tính chất cần xem xét độ không thiên lệch Cần lưu ý Phần 2.4 ˆ ˆ thông số ước lượng   ? tự thân chúng biến ngẫu nhiên tuân theo phân phối thống kê Nguyên nhân lần thử khác nghiên cứu cho kết ước lượng thông số khác Nếu lặp lại nghiên cứu với số lần thử lớn, ta đạt nhiều giá trị ước lượng Sau tính tỷ số số lần mà ước lượng rơi vào khoảng giá trị xác định Kết sẽ cho phân phối ước lượng mẫu Phân phối có giá trị trung bình phương sai Nếu trung bình phân phối mẫu thông số thực (trong trường hợp  ), ước lượng không thiên lệch Độ không thiên lệch rõ ràng điều ln mong muốn vì, điều có nghĩa là, mức trung bình, giá trị ước lượng với giá trị thực tế, số trường hợp cá biệt điều khơng Có thể nói thơng số ước lượng OLS   đưa Phần 3.2 có tính chất khơng thiên lệch Tuy nhiên, để chứng minh điều này, cần đặt số giả thuyết bổ sung Xt ut Cần nhớ rằng, Giả thiết 3.1 giảm nhẹ phần sau, Giả thuyết 3.2 3.3 luôn cần thiết phải tuân theo Sau giả thiết bổ sung cần thiết GIẢ THIẾT 3.3 (Sai Số Trung Bình Zero) Mỗi u biến ngẫu nhiên với E(u) = Trong Hình 3.1 cần lưu ý số điểm quan sát nằm đường  + X số điểm nằm Điều có nghĩa có giá trị sai số mang dấu dương số sai số mang dấu âm Do  + X đường trung bình, nên giả định sai số ngẫu nhiên bị loại trừ nhau, mức trung bình, tổng thể Vì thế, giả định ut biến ngẫu nhiên với giá trị kỳ vọng hoàn toàn thực tế Ramu Ramanathan 10 Người dịch: Thục Đoan Hiệu đính: Cao Hào Thi Chương trình Giảng dạy Kinh tế Fulbright Các phương pháp định lượng Bài đọc Nhập môn Kinh tế lượng với ứng dụng – 5th ed Ch 3: Mơ hình hồi qui tuyến tính đơn Ước lượng theo OLS sử dụng 34 quan sát từ 1960-1993 Biến phụ thuộc – PATENTS Biến Hệ số Sai số chuẩn T stat 2Prob(t > T) (0) Hằng (2) R&D 34,571064 0,791935 6,357873 0,056704 5,437521 13,966211 < 0,0001*** < 0,0001*** Giá trị trung bình biến phụ thuộc Tổng bình phương sai số (ESS) R-bình phương khơng hiệu chỉnh Trị thống kê F Trị Durbin-Watson 119,238235 S.D biến phụ thuộc 29,305827 3994,300257 Sai số chuẩn phần dư 11,172371 0,859 R- bình phương hiệu chỉnh 195,055061 p-value = Prob(F>2427.709) 0,233951 Hệ số tự tương quan bậc 0,855 0 ˆ Trị thống kê kiểm định t c     / s ˆ , s ˆ sai số chuẩn   ˆ ước lượng  Theo giả thuyết H0, giá trị tuân theo phân phối t với n – bậc tự BƯỚC Tra bảng t với giá trị ứng với n – bậc tự mức ý nghĩa cho trước (chẳng hạn ), tìm điểm t*n-2() cho P(t> t*) =  BƯỚC Bác bỏ H0 mức ý nghĩa  tc > t* Nếu giả thuyết ngược lại H1  < 0, H0 bị bác bỏ tc < - t* Kiểm định thực theo cách tương đương Các bước điều chỉnh sau: BƯỚC 3a BƯỚC 4a Tính xác suất (ký hiệu p-value) cho t > tc Bác bỏ H0 kết luận hệ số có ý nghĩa p-value nhỏ mức ý nghĩa () Các bước kiểm định giả thuyết ngược lại H1 có tính hai phía thực sau: BƯỚC BƯỚC BƯỚC BƯỚC H0:  = 0 H1:   0 ˆ Trị thống kê kiểm định t c     / s ˆ Theo giả thuyết H0, giá trị   tuân theo phân phối t với n – bậc tự Tra bảng t với giá trị ứng với n – bậc tự mức ý nghĩa cho trước (chẳng hạn ), tìm điểm t*n-2(/2) cho P(t> t*) = /2 (một mức ý nghĩa) Bác bỏ H0 mức ý nghĩa  tc > t* Các bước hiệu chỉnh để thực kiểm định theo phương pháp p-value sau: BƯỚC 3a Tính p-value = 2P(t > tc) BƯỚC 4a Bác bỏ H0 p-value nhỏ mức ý nghĩa () Trị thống kê đo lường độ thích hợp mơ hình R2 = 1- (ESS/TSS),   ˆ ESS   ut2 TSS    Yt  Y  R2 có giá trị từ đến Giá trị cao độ     thích hợp tốt R2 mang hai ý nghĩa: (1) tỷ lệ tổng phương sai Y mà Ramu Ramanathan 41 Người dịch: Thục Đoan Hiệu đính: Cao Hào Thi Chương trình Giảng dạy Kinh tế Fulbright Các phương pháp định lượng Bài đọc Nhập môn Kinh tế lượng với ứng dụng – 5th ed Ch 3: Mơ hình hồi qui tuyến tính đơn mơ hình giải thích, (2) bình phương hệ số tương quan giá trị quan sát ˆ (Yt) biến phụ thuộc giá trị dự báo Yt   Kiểm định độ thích hợp tổng thể mơ hình thực cách sử dụng giá trị R2 Các bước tiến hành sau (xy hệ số tương quan tổng thể hai biến X Y): BƯỚC BƯỚC BƯỚC BƯỚC H0: xy = H1: xy  Trị thống kê kiểm định Fc = R2(n – 2)/(1 – R2) Theo giả thuyết H0, trị thống kê tuân theo phân phối F với bậc tự tử số n – bậc tự mẫu số Tra bảng F theo tử số bậc tự mẫu số n – bậc tự mức ý nghĩa cho trước (chẳng hạn ) tìm gí trị F* cho: P(F>F*) =  Bác bỏ giả thuyết H0 (tại mức ý nghĩa ) Fc > F* Khoảng tin cậy 95%  xác định sau: ˆ  t s * ˆ  ˆ ,   t * s ˆ  ˆ ˆ Dự báo có điều kiện Y, cho trước X X0, Y    X Phương sai (phép đo độ tin cậy dự báo) tỉ lệ thuận với khoảng cách X0 so với giá trị trung bình X Như vậy, X0 xa khỏi giá trị trung bình X, giá trị dự báo tin cậy Thay đổi thang đo biến phụ thuộc dẫn đến thay đổi tương ứng thang đo hệ số hồi quy Tuy nhiên, giá trị R2 trị thống kê t không đổi Nếu thang đo biến độc lập thay đổi, hệ số hồi quy hệ sai số chuẩn tương ứng bị thay đổi thang đo, nhiên tất trị thống kê khác không thay đổi Việc xác định xác quan hệ nhân quan trọng mơ hình hồi quy Giả thiết chuẩn X gây Y Tuy nhiên, X Y tráo đổi, mơ hình ước lượng Xt = * + *Yt + vt, đường thẳng hồi quy nói chung khác với đường xác định từ mơ hình Yt =  + Xt + ut THUẬT NGỮ Phân tích phương sai Ước lượng khơng thiên lệch tuyến tính tốt Hệ số xác định bội Giá trị trung bình điều kiện Y biết trước X Vùng ngưỡng (vùng tới hạn) Quá trình phát liệu Đường cong Engel Tổng bình phương sai số Phần dư ước lượng Sự biến đổi giải thích Phản hồi Đường thẳng thích hợp Kiểm định F Định lý Gauss-Markov Độ khớp Phương sai sai số thay đổi Analysis of variance (ANOVA) Best linear unbiased estimator (BLUE) Coefficient of multiple determination Conditional mean of Y given X Critical region Data-generating process (DGP) Engel curve Error sum of square (ESS) Estimated residual Explained variation Feedback Fitted straight line F-test Gauss-Markov theorem Goodness of fit Heteroscedasticity Ramu Ramanathan 42 Người dịch: Thục Đoan Hiệu đính: Cao Hào Thi Chương trình Giảng dạy Kinh tế Fulbright Các phương pháp định lượng Bài đọc Nhập môn Kinh tế lượng với ứng dụng – 5th ed Ch 3: Mô hình hồi qui tuyến tính đơn Đồng phương sai sai số (tính chất phương sai sai số khơng thay đổi) Được xác định lúc Ước lượng tuyến tính Hiệu ứng cận biên X lên Y Sai số phần trăm tuyệt đối trung bình Sai số bình phương trung bình Sai số phần trăm bình phương trung bình Phương pháp bình phương tối thiểu Mơ hình hồi quy phi tuyến Phương trình chuẩn Bình phương tối thiểu thường Tham số tổng thể Hàm hồi quy tổng thể Đường hồi quy tổng thể Phương sai tổng thể Dự báo hậu mẫu Giá trị p Các hệ số hồi quy Tổng bình phương hồi quy Phần dư Căn bậc hai sai số bình phương trung bình Ước lượng mẫu Đường hồi quy mẫu Hàm hồi quy mẫu Biểu đồ phân tán mẫu Tương quan chuỗi Độc lập chuỗi Khác cách đáng kể Lớn cách đáng kể Mơ hình hồi quy tuyến tính đơn Tương quan giả tạo Hồi quy giả tạo Sai số chuẩn hệ số hồi quy Sai số chuẩn hồi quy Sai số chuẩn phần dư Khơng có ý nghĩavề thống kê Khơng lớn mặt thống kê Có ý nghĩa thống kê Tổng bình phương phần dư Tổng bình phương tồn phần Phương sai tổng Trị thống kê t Kiểm định t Biến đổi không giải thích Sai số thay đổi ngẫu nhiên Sai số nhiễu trắng Homoscedasticity Joinly determined Linear estimator Marginal effect of X on Y Mean absolute percent error (MAPE) Mean squared error (MSE) Mean squared percentage error (MSPE) Method of least square Nonlinear regression model Normal equation Ordinary least squares (OLS) Population parameters Population regression function Population regression line Population variance Postsample forecast p-value Regression coefficients Regression sum of squares (RSS) Residual Root mean squared error Sample estimate Sample regression line Sample regression function Sample scatter diagram Serial correlation Serial independence Significanly different from zero Significanly greater from zero Simple linear regression model Spurious correlation Spurious regression Standard error of a regression coefficient Standard error of the regression Standard error of the residuals Statistically insignificant Statistically not greater than zero Statistically significant Sum of squares of the residuals (ESS) Total sum of squares (TSS) Total variance t-statistic t-test Unexplained variation Well-behaved errors White-noise errors 3.A PHỤ LỤC Chứng Minh Các Phương Trình  3.A.1 Biểu diễn chiều mơ hình tuyến tính đơn Hình 3.A.1 biểu diễn đồ thị giả thiết liệt kê bảng 3.2 cho trường hợp mơ hình hồi qui biến đơn Trục X Y đại diện cho giá trị biến X Y Trục Z hàm mật độ xác suất f(u) sai số ngẫu nhiên u Đường thẳng  + X trung bình có điều kiện Y với X cho trước, giả sử tuyến tính Các phân phối thống kê vẽ xung quanh đường trung bình cho giá trị X1, X2 X3 phân phối có điều kiện tương ứng Như đề cập Ramu Ramanathan 43 Người dịch: Thục Đoan Hiệu đính: Cao Hào Thi Chương trình Giảng dạy Kinh tế Fulbright Các phương pháp định lượng Bài đọc Nhập môn Kinh tế lượng với ứng dụng – 5th ed Ch 3: Mơ hình hồi qui tuyến tính đơn bài, giả thiết Var(ut) = 2 gọi phương sai sai số khơng đổi, có nghĩa “phân tán nhau” Hình 3.A.1 mơ tả tính bất biến phương sai sai số cho tất quan sát Nếu phương sai không bất biến mà thay đổi theo t [như vậy, Var(ut) 2t], ta có phương sai sai số thay đổi (phân tán khơng nhau) Hình 3.A.2 minh họa trường hợp phương sai sai số thay đổi phương sai tăng X tăng Trường hợp xem xét chi tiết chương Hình 3.A.1 Biểu diễn đồ thị Mơ hình Hồi Qui Tuyến Tính Đơn Y f(u)  + X X1 X2 X3 X Hình 3.A.2 Minh họa phương sai sai số không đổi Y f(u)  + X Ramu Ramanathan X1 X2 X3 44 X Người dịch: Thục Đoan Hiệu đính: Cao Hào Thi Chương trình Giảng dạy Kinh tế Fulbright Các phương pháp định lượng Bài đọc Nhập môn Kinh tế lượng với ứng dụng – 5th ed Ch 3: Mơ hình hồi qui tuyến tính đơn  3.A.2 Các Kết Quả Của Phép Tính Tổng Các tính chất 3.1 3.2 chứng minh TÍNH CHẤT 3.1 Sxx   ( X t  X)   X  n( X)   X  t t  X t  n Chứng minh  (X t    X)   X  2X t X  ( X)   X   XX t  ( X) t t Như trước đây, X với giá trị t Do vậy, biểu thức = X X t  2X Xt  n( X)2 Hơn X t  2XnX  n(X)2 Kết hợp số hạng thứ hai ba biểu thức ta phần thứ t  n X Do đó, biểu thức trở thành tính chất Ta biết X = (Xt)/n Thay vào, ta có phần thứ hai tính chất TÍNH CHẤT 3.2 Sxy   (X t  X)(Yt  Y)   X t Yt  nXY   X t Yt   X  Y / n t t Chứng minh  (X t  X)(Yt  Y)   (X t Yt  X t Y  Yt X  XY)   X t Yt  Y X t  X Yt  nXY   Xt Yt  YnX  XnY  nXY   Xt Yt  nXY Thay X  ( Xt ) / n Y  ( Yt ) / n , ta có đẳng thức thứ hai  3.A.3 Chứng Minh Các Phương Trình Chuẩn Bằng Phép Bình Phương Nhỏ Nhất Trong phần ta áp dụng phương pháp bình phương nhỏ nhất, trình bày phần 3.2 chứng minh phương trình chuẩn (3.4) (3.5) Tiêu chuẩn bình phương nhỏ chọn giá ˆ ˆ trị   làm tối thiểu tổng bình phương sai số: t n t n t 1 t 1 ˆ ˆ ˆ ˆ ˆt ESS(, )   u2   (Yt    Xt )2 ˆ ˆ Để tối thiểu ESS với   , ta cho đạo hàm riêng (xem phần 2.A.3 đạo hàm riêng) ESS/ ˆ ˆ  ESS/  giải phương trình Ta có Ramu Ramanathan 45 Người dịch: Thục Đoan Hiệu đính: Cao Hào Thi Chương trình Giảng dạy Kinh tế Fulbright Các phương pháp định lượng Bài đọc ESS  ˆ  ˆ  u    2u ˆ ˆ  ESS  ˆ  ˆ  ( u )   2u ˆ t t ˆ  Nhập môn Kinh tế lượng với ứng dụng – 5th ed Ch 3: Mơ hình hồi qui tuyến tính đơn ˆ ut ˆ ˆ ˆ  2 ut (1)  2 (Yt    Xt )(1)  ˆ  t t ˆ ut ˆ ˆ ˆ  2 ut ( Xt )  2 (Yt    Xt )( Xt )  ˆ  Từ ta thu phương trình sau: ˆ ˆ  ( Y    X )  ˆ ˆ  ( Y    X ) X  t t t t t ˆ ˆ Lấy tổng số hạng lưu ý   không phụ thuộc vào t thừa số chung đưa ngồi tổng, ta ˆ ˆ  Y  n   X ˆ ˆ  Y X   X   X t t t t t t Phương trình tương đương với phương trình (3.4) phương trình thứ tương đương với phương trình (3.5)  3.A.4 Ước Lượng Khơng Thiên Lệch Tuyến Tính Tốt Nhất (Blue) Và Định Lý GaussMarkov Từ lý thuyết thống kê ta biết tính chất mong muốn cho ước lượng ước lượng tuyến tính khơng thiên lệch phương sai nhỏ (xem định nghĩa 2.8) Nói cách khác, tổ hợp tuyến tính biến phụ thuộc khơng thiên lệch, ta chọn biến có phương sai nhỏ Đây ước lượng không thiên lệch tốt (BLUE) Trong phần ta chứng minh định lý Gauss-Markov, định lý cho ước lượng OLS rút phần 3.2 có tính chất BLUE ˆ Đầu tiên lưu ý ước số OLS  thực biểu diễn tổ hợp tuyến tính Yt Để thấy điều này, ta viết lại phương trình (3.12) (3.12)   Xt  Yt  Sxy   Xt Yt   n   Lưu ý X   Xt / n , kết biểu diễn  X Y  X Y   ( X t t t t  X)Yt ˆ Vì  = Sxy/Sxx từ phương trình (3.10), ta có X  X ˆ    t  Yt   t Yt Sxx   Ramu Ramanathan 46 Người dịch: Thục Đoan Hiệu đính: Cao Hào Thi Chương trình Giảng dạy Kinh tế Fulbright Các phương pháp định lượng Bài đọc Nhập môn Kinh tế lượng với ứng dụng – 5th ed Ch 3: Mơ hình hồi qui tuyến tính đơn X  X Đây tổ hợp tuyến tính Yt với trọng số t   t  phụ thuộc vào Xt Bây xem tổng  Sxx  ~ tổ hợp tuyến tính giá trị Y có dạng    at Yt , với at có tính khơng ngẫu nhiên Ước ~ ~ lượng không thiên lệch tốt (BLUE) có tính chất: (1)  khơng thiên lệch (2) Var(  ) nhỏ Chứng minh Gọi dt = at - t hiệu số trọng số (lưu ý dt phụ thuộc biến X xem khơng ngẫu nhiên) Vậy at = t + dt Tiếp theo ~ ˆ    (t  d t )Yt     d t Yt ~ E()     E(d t Yt )     d t E(Yt )     d t (  Xt )     d t   d t Xt Để có tính khơng thiên lệch, kết phải , điều xảy dt = dtXt = ~ Phương sai ước lượng  xác định Var[(t + dt)Yt] Từ tính chất 2.A.5c, phương sai tổng biến ngẫu nhiên độc lập tổng phương sai (tính độc lập đảm bảo giả thiết 3.6) Hơn nữa, giả thiết 3.5 phương sai sai số không đổi, ut Yt có phương sai khơng đổi 2 Từ ta có ~ Var(  ) = 2(t + dt)2 = 22t + 2d2t + 22tdt Số hạng thứ tdt =  Xt  X  d t  , điều kiện tính khơng thiên lệch   Sxx    dt = dtXt = làm cho số hạng tổng Trong biểu thức phương sai ~  , số hạng đầu độc lập với biến chọn dt Bởi số hạng thứ hai tổng bình phương, có cách để tối thiểu số hạng chọn giá trị ds Điều làm cho ~ ˆ at = t    , ý nói ước lượng OLS thực BLUE có hiệu Điều xác minh định lý Gauss-Markov Cũng nên lưu ý việc chứng minh định lý cần đến giả thiết 3.5 3.6 phương sai sai số không đổi tính độc lập theo chuỗi Nếu giả thiết bị vi phạm, phương pháp OLS khơng cho ước lượng hiệu  3.A.5 Ước Lượng Thích Hợp Nhất Lý phương pháp ước lượng thích hợp diễn tả chi tiết phần 2.A.4 Bạn đọc xem phần trước bắt đầu phần Trong phần đó, phương pháp áp Ramu Ramanathan 47 Người dịch: Thục Đoan Hiệu đính: Cao Hào Thi Chương trình Giảng dạy Kinh tế Fulbright Các phương pháp định lượng Bài đọc Nhập môn Kinh tế lượng với ứng dụng – 5th ed Ch 3: Mơ hình hồi qui tuyến tính đơn dụng cho trường hợp ước lượng giá trị trung bình phương sai phân phối chuẩn Ở ta áp dụng kỹ thuật tương tự vào toán hồi qui Bởi ngun lý thích hợp địi hỏi kiến thức phân phối toán, nên ta cần giả thiết 3.7 Các bước để xác định ước lượng thích hợp dễ hiểu Trước tiên, lập hàm thích hợp liên kết hàm mật độ quan sát với thông số chưa biết Để cực đại hàm này, lấy vi phân riêng phần logarit hàm thích hợp cho thơng số chưa biết cho Kế đến giải điều kiện bậc để tìm ước lượng thích hợp Hàm mật độ u xác định theo [xem phương trình (2.4)] f ( u)  (  ) e u / 2 Bởi quan sát độc lập nhau, hàm thích hợp u1, u2,…,un L(, , 2) = f(u1) f(u2) f(u3) f(un) = = (  ) n (  ) n e  ut /(  ) e  ( Yt  Xt ) /(  ) Thực cực đại hóa logarit hàm thích hợp dễ hơn, giá trị cực đại với giá trị lớn L loga có tính chất tăng đều; nghĩa ab, ln(a)ln(b)  ( Y    Xt )  ln L  n ln   n ln( 2 )    t  22   SSE  n ln   n ln( 2 )  2 Trong SSE =  (Yt -  -Xt)2   xuất số hạng SSE Do đó, lnL lớn với SEE nhỏ (bởi có dấu âm trước SSE) Nhưng SSE nhỏ nghĩa ước lượng bình phương nhỏ Do đó, ước lượng bình phương nhỏ MLE với điều kiện sai số u tuân theo phân phối N(0,2) Bởi ước lượng thích hợp đồng hiệu cách tiệm cận, nên ước lượng OLS Để có MLE 2, lấy vi phân riêng phần lnL theo  cho Ta có (ln L) n SEE   0    Giải phương trình tìm 2 ta 2 = SSE/n Nhưng SSE phụ thuộc vào   Tuy nhiên, ta có ˆ ˆ thể dùng ước lượng chúng   Do ta thu MLE phương sai ut ~ ˆt với 2   u2 / n Như phát biểu trước đó, giá trị khơng thiên lệch Một ước lượng khơng ˆt ˆ thiên lệch tìm cách chia  u2 cho n-2 dùng 2 xác định phương trình (3.21) Điều kiện không thiên lệch chứng minh phục lục phần 3.A.7 Ramu Ramanathan 48 Người dịch: Thục Đoan Hiệu đính: Cao Hào Thi Chương trình Giảng dạy Kinh tế Fulbright Các phương pháp định lượng Bài đọc Nhập môn Kinh tế lượng với ứng dụng – 5th ed Ch 3: Mơ hình hồi qui tuyến tính đơn  3.A.6 Tìm Các Phương Sai Của Các Ước Lượng ˆ Từ phương trình (3.10), ta có  = Sxy/Sxx Vì X không ngẫu nhiên theo giả thiết 3.4, Sxx ˆ khơng ngẫu nhiên Var(  ) = Var(Sxy)S2xx Từ phương trình (3.15), Sxy = Sxx + Sxu Var(Sxy) = Var(Sxu) Từ phương trình (3.16) ta lưu ý Sxu =  (Xt  X)ut Tính chất 2.A.5c cho thấy phương sai tổng biến ngẫu nhiên tổng phương sai với điều kiện đồng phương sai (covariance) số hạng Theo giả thiết 3.6, ut us không tương quan với ts đồng phương sai Do đó,   Var(Sxu )  Var  (Xt  X)ut   Var(Xt  X)ut    (Xt  X)2 Var(ut ) Với giả thiết 3.5, Var(ut) = 2 Do đó, Var(Sxu) = 2  ( Xt  X)2 =2Sxx Từ có ˆ Var()  Var(Sxy ) S2 xx  S xx  S2 xx 2  Sxx Vậy ta chứng minh phương trình (3.18) Thủ tục để chứng minh phương trình (3.19) (3.20) tương tự tập cho bạn đọc  3.A.7 Ước Lượng Không Thiên Lệch Của Phương Sai Của Số Hạng Sai Số ˆ ˆt Theo phương trình (3.21), s2 = 2  ( u2 ) /( n  2) ước lượng không thiên lệch 2 Điều chứng minh sau ˆ ˆ ˆ ˆ ˆ ut  Yt    Xt  Yt  ( Y  X)  Xt ˆ Dùng phương trình (3.9) cho  Vì Yt xác định phương trình (3.1), Y    X  u với u ut/n Do đó, nhóm tất số hạng  ta có, ˆ ˆ ˆ ut  (  Xt  ut )  (  X  u)  X  Xt ˆ  (u  u)  (  )(X  X) t t ˆ Tổng bình phương u t xác định theo ˆ  u   (u t ˆ ˆ  u)2  (  )2  (Xt  X)2  2(  ) (Xt  X)(ut  u) ˆ ˆ  Suu  (  )2 Sxx  2(  )Sxu t Dùng ký hiệu tương tự phương trình (3.11) (3.16) Từ phương trình (3.15), Sxu= Sxy ˆ - Sxx = Sxx(  - ) Thay kết vào phương trình kết hợp số hạng thứ hai ba ta có ˆ u Ramu Ramanathan t ˆ  Suu  (  ) Sxx 49 Người dịch: Thục Đoan Hiệu đính: Cao Hào Thi Chương trình Giảng dạy Kinh tế Fulbright Các phương pháp định lượng Bài đọc Nhập môn Kinh tế lượng với ứng dụng – 5th ed Ch 3: Mơ hình hồi qui tuyến tính đơn ˆ Để tính giá trị kỳ vọng tổng bình phương sai số, ta cần E(Suu)và E[(  - )2] Từ tính chất 2.11b ta lưu ý E(Suu) = (n-1)Var(u) = (n-1)2 Hơn nữa, 2 ˆ ˆ E[(  - )2] = Var(  ) = S xx Từ phương trình (3.18) Đặt tất kết quả, ta có   ˆ ˆt E  u  E(Suu )  Sxx E[(  ) ]  (n  1)    (n  2) Chia cho n-2 ta có kết mong muốn   u2  ˆt ˆ E ( )  E    n2    ˆ Vậy,  ước lượng không thiên lệch 2  3.A.8 Chứng Minh Phương Trình 3.25 Giá trị tổng bình phương viết lại sau:  (Y t ˆ ˆ  Y)   (Yt  Yt  Yt  Y) ˆ ˆ ˆ ˆ =  (Yt  Yt )   (Yt  Y)  2 (Yt Y t )(Yt  Y) ˆ ˆ Với u t  Yt  Yt , hai số hạng hai số hạng có phương trình (3.25) Bây tất ˆ ˆ ˆ ˆ điều ta cần phải chứng minh  (Y  Y )(Y  Y)   u (Y  Y)  t ˆ ˆ  u (Y t t t t t ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ  Y)   u t (  X t  Y)   u t   u t X t  Y u t t ˆ ˆ ˆ Từ phương trình chuẩn (3.4),  u t   (Yt    X t )  Từ phương trình (3.5), ˆ ˆ ˆ u X  (Y    X )X  , kết chứng minh  t t  t t t  3.A.9 Chứng Minh Phương Trình 3.26a Để chứng minh phương trình (3.26a), trước tiên ta tìm đồng phương sai mẫu (ký hiệu Cov) ˆ Yt Yt Từ phương trình (2.10), ˆ Cov (Yt, Yt ) = ˆ  (Yt  Y)(Yt  Y) n 1 ˆ ˆ ˆ Lưu ý trung bình Yt Y    X  Y Vậy, Ramu Ramanathan 50 Người dịch: Thục Đoan Hiệu đính: Cao Hào Thi Chương trình Giảng dạy Kinh tế Fulbright Các phương pháp định lượng Bài đọc Nhập môn Kinh tế lượng với ứng dụng – 5th ed Ch 3: Mơ hình hồi qui tuyến tính đơn ˆ ˆ ˆ ˆ Yt  Y  (Yt  Yt )  (Yt  Y)  u t  (Yt  Y) Do đó, ˆ Cov (Yt, Yt ) = ˆ u t ˆ (Yt  Y) n 1 ˆ  (Y  t  Y) n 1 ˆ Phần trước cho thấy số hạng thứ Do vậy, đồng phương sai Yt Yt với số hạng thứ hai, RSS/(n-1); RSS ˆ Cov (Yt, Yt ) = n 1 Ta có TSS Var(Yt) = n 1 ˆ Var( Yt ) = ˆ  (Y t  Y) n 1  RSS n 1 ˆ Từ phương trình (2.7) ta nhớ lại bình phương hệ số tương quan đơn Yt Yt xác định rYY  ˆ ˆ Cov (Yt , Yt ) ˆ Var(Yt )Var(Yt ) Thay đồng phương sai phương sai từ biểu thức vừa rút bỏ n-1, ta có rYY  ˆ RSS2 RSS   R2 TSS RSS TSS ˆ Vậy, bình phương tương quan đơn giá trị quan sát Yt giá trị Yt dự báo mơ hình hồi qui R định nghĩa phương trình (3.26)  3.A.10 Chứng Minh Rằng r2xy = R2 Cho Mơ Hình Hồi Qui Đơn Trong phần ta chứng minh trường hợp mơ hình hồi qui đơn, R2 với bình phương tương quan đơn X Y Từ phương trình (2.11), r2xy = S2xy/(SxxSyy) Syy ˆ ˆ ˆ ˆ với tổng bình phương TSS Hơn nữa, RSS =  (Yt  Y) Vì Yt    Xt ˆ ˆ ˆ ˆ Y     X , ta có Y  Y  (X  X) Do đó, t t ˆ ˆ ˆ RSS   (Yt  Y)  β  (X t  X)  β Sxx ˆ ˆ Từ phương trình (3.10),  = Sxy/Sxx Thay kết cho số hạng  trên, ta thu S ˆ  xy (S )  S ˆ RSS   xy  S  xx   xx  Ramu Ramanathan 51 Người dịch: Thục Đoan Hiệu đính: Cao Hào Thi Chương trình Giảng dạy Kinh tế Fulbright Các phương pháp định lượng Bài đọc Nhập môn Kinh tế lượng với ứng dụng – 5th ed Ch 3: Mô hình hồi qui tuyến tính đơn Thay Sxy từ kết lưu ý Syy = TSS, ta có xy r  S2 xy  Sxy S xy S xx Syy Sxx TSS Kết chứng minh  ˆ Sxy TSS  R2  3.A.11 Chứng Minh Phương Trình 3.28 ˆ ˆ ˆ Var(Y0 )  E[Y0  E(Y X )] ˆ ˆ ˆ ˆ  E[  X    X ]  E[(  )  X (  )] ˆ ˆ ˆ ˆ  Var()  X Var()  2X Cov(, ) 0 Trong phép biến đổi trên, ta dùng tính chất 2.4a Thay từ phương trình (3.18), (3.19) (3.20), ta  X2  ˆ )  2   t  X2  X0 X  Var(Y0 o Sxx Sxx   nS xx   Với Sxx = X t  nX Lưu ý X t  Sxx  nX thay vào biểu thức phương sai, ta  X  X  2X X   ( X  X)  ˆ Var(Y0 )      2     Sxx Sxx n  n  Kết phương trình (3.28) 3.A.12 Chứng minh phương trình 3.29 ˆ ˆ ˆ ˆ ˆ Gọi u  Y0  Y0 sai số điểm dự báo Y0, với Y0    X giá trị dự báo trung bình Do ta có ˆ ˆ ˆ Var(u )  Var(Y0 )  Var(Y0 )  2Cov(Y0 , Y0 ) ˆ Vì Y0 =  + X0 + u0, Var(Y0) = 2 Mặt khác, Var( Y0 ) xác định phương trình (3.26) ˆ Cuối cùng, Cov(Y0, Y ) = 0, u0 khơng tương quan với số dư khác khơng ˆ ˆ tương quan với   Vậy ta có  ( X  X)  ˆ Var( u )   1    Sxx  n  Ramu Ramanathan 52 Người dịch: Thục Đoan Hiệu đính: Cao Hào Thi Chương trình Giảng dạy Kinh tế Fulbright Các phương pháp định lượng Bài đọc Nhập môn Kinh tế lượng với ứng dụng – 5th ed Ch 3: Mơ hình hồi qui tuyến tính đơn BÀI TẬP Câu Hỏi Lý Thuyết 3.1 Tất tổng bốn biểu thức dùng để tính liệu mẫu, khơng phải dành cho tập hợp hồn chỉnh Hãy biểu thức sai Giải thích biểu thức hay sai a ˆ tn1 ut  b ˆ tn1 X t ut  c  tn1 ut  d  t 1 X t ut  3.2 Có khác biệt số hạng sai số phần dư? Hãy giải thích khác biệt ˆ ut E(ut) Sau đó, chứng minh E (ut )  Và giải thích giá trị kỳ vọng nghĩa nêu giả thiết cần thiết để chứng minh biểu thức 3.3 Cho mơ hình tuyến tính đơn biến Yt    X t  ut , chứng minh giả thiết định, phương pháp ước lượng OLS cho kết ước lượng n ^ không chệch? Có nghĩa cần phải chứng minh E (Yt  E (Yt ) Hãy nêu giả thiết cần thiết cho việc chứng minh 3.4 Nêu giả thiết cần thiết cho phát biểu sau Đồng thời giải thích lý giả thiết cần cho phát biểu e Để ước lượng   phương pháp OLS f Để chứng minh ước lượng thông số theo phương pháp OLS không chệch quán g Để chứng minh ước lượng theo phương pháp OLS hiệu h Để thực kiểm định t F 3.5 Những câu hỏi sau hay sai? Nếu câu hỏi phần, bạn phần Giải thích lý câu (phần) i Các ước lượng hệ số góc theo phương pháp OLS xác giá trị X gần với trị trung bình mẫu chúng j Nếu Xt ut tương quan, ước lượng không chệch k Các ước lượng ước lượng khơng lệch tuyến tính tốt (BLUE) tất giá trị ut tuân theo phân bố chuẩn l Nếu số hạng sai số khơng tn theo phân phối chuẩn kiểm định t F thực m Nếu phương sai ut lớn khoảng tin cậy ước lượng lớn (rộng) n Nếu phương sai X lớn khoảng tin cậy ước lượng hẹp o Khi trị số p-value lớn hệ số khác cách đáng kể p Nếu bạn chọn mức ý nghĩa cao hệ số hồi qui có khả có ý nghĩa Ramu Ramanathan 53 Người dịch: Thục Đoan Hiệu đính: Cao Hào Thi ... 87,44 90 ,11 94,50 99,28 10 3,64 10 8,77 11 3,96 12 1,72 Patens 84,5 S6,2 90,4 91, 1 93,2 10 0,4 93,5 93,0 98,7 10 4,4 10 9,4 11 1 ,1 105,3 10 9,6 10 7,4 10 8,0 11 0,0 10 9,0 10 9,3 10 8,9 11 3,0 11 4,5 11 8,4 11 2,4 39... Fulbright 19 84 19 85 19 86 19 87 19 88 19 89 19 90 19 91 1992 19 93 13 3,33 14 4,78 14 8,39 15 0,90 15 4,36 15 7 ,19 16 1,86 16 4,54 16 6,70 16 5,20 Các phương pháp định lượng Bài đọc 12 0,6 12 7 ,1 133,0 13 9,8 15 1,9 16 6,3... 90,5 95,4 97,9 10 1,7 10 3,3 10 4,9 10 4,5 10 2 ,1 100,4 10 1,9 10 3,2 10 2,2 10 0,6 10 3,8 10 5,9 10 9,4 11 3,2 11 6,6 12 0,7 12 4,8 13 1,0 Error 4,0 5,6 4,8 0,6 -2,2 2,5 -8,2 -10 ,3 -6,2 -0 ,1 7,3 10 ,7 3,4 6,4 5,2