slide kinh tế lượng ftu chương 2 hồi quy tuyến tính đơn phần1

1 CHƯƠNG II HỒI QUY TUYẾN TÍNH ĐƠN ThS Vũ Thị Phương Mai Khoa Kinh Tế Quốc Tế- Đại học Ngoại Thương CuuDuongThanCong.com https://fb.com/tailieudientucntt CHƯƠNG II MƠ HÌNH HỒI QUY HAI BIẾN • Giới thiệu mơ hình hồi qui • Hàm hồi quy tổng thể hàm hồi quy mẫu • Phương pháp bình phương nhỏ (OLS) • Phương pháp hợp lý tối đa (MLE) • Ước lượng khoảng kiểm định giả thiết TK • Phân tích phương sai kiểm định phù hợp mô hình hồi quy CuuDuongThanCong.com https://fb.com/tailieudientucntt Giới thiệu mơ hình hồi qui 1.1 Khái niệm phân tích hồi qui 1.2 Sự khác dạng quan hệ CuuDuongThanCong.com https://fb.com/tailieudientucntt 1.1 Khái niệm phân tích hồi qui • Hồi qui cơng cụ chủ yếu KTL «regression to mediocrity» nghĩa « quy giá trị trung bình » • i Galton (1886) nghiên cứu phụ thuộc chiều cao cháu trai vào chiều cao bố chúng • Ơng xây dựng đồ thị phân bố chiều cao cháu trai ứng với chiều cao người cha • CuuDuongThanCong.com https://fb.com/tailieudientucntt 1.1 Khái niệm phân tích hồi qui Hình 2.01 Đồ thị phân bố chiều cao cháu trai ứng với chiều cao người cha Giá trị trung bình Chiều cao trai (inches) 75 70 65 60 60 65 70 75 Chiều cao bố (inches) CuuDuongThanCong.com https://fb.com/tailieudientucntt 1.1 Khái niệm phân tích hồi qui Qua đồ thị phân bố, thấy: • Với chiều cao người cha cho trước, chiều cao cháu trai khoảng dao động quanh giá trị trung bình • Chiều cao cha tăng chiều cao cháu trai tăng • giá trị TB chiều cao trai so với chiều cao ơng bố • Nếu nối điểm giá trị TB này, ta nhận đường thẳng hình vẽ • Đường thẳng gọi đường hồi quy- mơ tả trung bình gia tăng chiều cao trai so với bố CuuDuongThanCong.com https://fb.com/tailieudientucntt 1.1 Khái niệm phân tích hồi qui • Như vậy, nghiên cứu giúp giải thích câu hỏi: có xu hướng bố cao đẻ cao, bố thấp đẻ thấp i hồi quy • Từ đó, nghiên cứu giúp dự báo chiều cao trung bình trai thơng qua chiều cao cho trước cha chúng CuuDuongThanCong.com https://fb.com/tailieudientucntt 1.1 Khái niệm phân tích hồi qui  Bản chất phân tích hồi quy nghiên cứu mối liên hệ phụ thuộc biến (gọi biến phụ thuộc hay biến giải thích) với hay nhiều biến khác (gọi biến độc lập hay biến giải thích)  Phân tích hồi quy tập trung giải vấn đề sau : • Ước lượng giá trị trung bình biến phụ thuộc với giá trị cho biến độc lập • Kiểm định giả thiết chất phụ thuộc • Dự báo giá trị trung bình biến phụ thuộc biết giá trị biến độc lập • Kết hợp ba vấn đề CuuDuongThanCong.com https://fb.com/tailieudientucntt 1.2.1 Quan hệ thống kê quan hệ hàm số • Trong quan hệ thống kê, biến phụ thuộc đại lượng ngẫu nhiên, có phân bố xác suất • Ứng với giá trị biết biến độc lập có nhiều giá trị khác biến phụ thuộc Phân tích hồi quy khơng xét đến quan hệ hàm số • Ví dụ: phụ thuộc suất giống ngô vào nhiệt độ, lượng mưa, độ chiếu sáng, phân bón…là QH TK khơng thể dự báo cách xác suất giống ngơ này/ha (vì sao?) CuuDuongThanCong.com • Trong quan hệ hàm số, biến ngẫu nhiên • ng với giá trị biến độc lập có giá trị biến phụ thuộc • Ví dụ: vật lý, xét động tử chuyển động đều, người ta có cơng thức : S= v.t • S = độ dài quãng đường • i gian • t = thời gian  Đây sao?) https://fb.com/tailieudientucntt 10 Phương pháp bình phương nhỏ (OLS) • 3.1 Nội dung phương pháp bình phương nhỏ • 3.2 Các tính chất thống kê ước lượng bình phương nhỏ • • • • 3.3 Các giả thiết phương pháp bình phương nhỏ 3.4 Độ xác ước lượng bình phương nhỏ 3.5 Tiêu chuẩn ước lượng bình phương nhỏ nhất- Định lý Gauss- Markov 3.6 Phân bố xác suất ước lượng bình phương nhỏ CuuDuongThanCong.com https://fb.com/tailieudientucntt 43 3.4 Độ xác ước lượng OLS • Trong cơng thức trên, σ2 chưa biết σ2 ước lượng công thức sau đây: n  ˆ  uˆ i [3.12] i 1 n  = ước lượng OLS σ2 • n- = số bậc tự (number of degrees of freedom- df) •  uˆ = tổng bình phương phần dư (residual sum of squares- RSS) • ˆ n i i 1 • Từ cơng thức [3.12]  cơng thức tính sai số tiêu chuẩn đường hồi quy ( the standard error of the regression- se) sau: n  • ˆ  ˆ uˆ i i 1 [3.13] n  : độ lệch tiêu chuẩn (standard deviation) giá trị Y quanh SRF CuuDuongThanCong.com https://fb.com/tailieudientucntt 44 Ví dụ Dựa vào số liệu cho ví dụ u cầu : • a Tính Yˆi uˆ i • b Tính phương sai sai số tiêu chuẩn hệ số hồi quy ( ˆ , ˆ ) thành phần nhiễu (uˆ i) mô hình • Gợi ý: Sử dụng Excel để tính tốn! CuuDuongThanCong.com https://fb.com/tailieudientucntt 45 3.5 Tiêu chuẩn ước lượng OLS- Định lý Gauss- Markov • Với giả thiết từ 1-5 phương pháp bình phương nhỏ nhất, ước lượng bình phương nhỏ thu có tiêu chuẩn tốt • Các tiêu chuẩn biết đến thông qua định lý tiếng Gauss- Markov • Để hiểu định lý này, trước hết làm quen với « tiêu chuẩn tuyến tính khơng chệch tốt » (the best linear unbiasedness property) ước lượng CuuDuongThanCong.com https://fb.com/tailieudientucntt 46 3.5 Tiêu chuẩn ước lượng OLS- Định lý Gauss- Markov • Một ước lượng, ví dụ ước lượng theo phương pháp OLS, gọi ước lượng tuyến tính không chệch tốt (Best Linear Unbiased Estimator- BLUE) β2 thỏa mãn tiêu chuẩn sau : • Tuyến tính: hàm tuyến tính biến ngẫu nhiên, chẳng hạn biến phụ thuộc Y mơ hình hồi quy • Khơng chệch: tức giá trị trung bình ước lượng giá trị kỳ vọng nó, E (ˆ ), với giá trị thực β2 • Có phương sai nhỏ lớp ước lượng tuyến tính khơng chệch Một ước lượng khơng chệch có phương sai nhỏ coi ước lượng hiệu CuuDuongThanCong.com https://fb.com/tailieudientucntt 47 3.5 Tiêu chuẩn ước lượng OLS- Định lý Gauss- Markov • Đối với mơ hình hồi quy, ước lượng theo phương pháp OLS coi ước lượng BLUE Đây nội dung định lý Gauss- Markov tiếng, phát biểu sau: • Định lý Gauss- Markov: Với giả thiết 1-5 phương pháp bình phương nhỏ nhất, ước lượng bình phương thu ước lượng tuyến tính, khơng chệch có phương sai nhỏ (BLUE) lớp ước lượng tuyến tính khơng chệch • Định lý Gauss- Markov giải thích thơng qua đồ thị phân bố xác suất hình [3.07] CuuDuongThanCong.com https://fb.com/tailieudientucntt 3.5 Tiêu chuẩn ước lượng OLS- Định lý Gauss- Markov Hình 3.07 Phân phối mẫu ước lượng ˆ (OLS)  (phương pháp khác) * 2 • Hình 3.07 (a) mô tả phân phối mẫu ước lượng theo phương pháp OLS Để thuận tiện, ta giả định đồ thị phân bố xác suất đối xứng Đồ thị cho ta thấy trung bình giá trị E(ˆ ) với giá trị thực β2 Trong trường hợp này, ta nói ˆ ước lượng không chệch β2 2 E ( ˆ )   (a) Phân phối mẫu β2 48 CuuDuongThanCong.com https://fb.com/tailieudientucntt ˆ 3.5 Tiêu chuẩn ước lượng OLS- Định lý Gauss- Markov Hình 3.07 Phân phối mẫu ước lượng ˆ (OLS)  (phương pháp khác) * 2 • Hình 3.07 (b) biểu diễn phân phối mẫu ƯL  , giá trị ƯL β2 thu phương pháp khác OLS Giả định  , giốngˆ , ƯL khơng chệch, nghĩa giá trị TB giá trị β2 Ngoài ra, giả định  ˆ ƯL tuyến tính, tức chúng hàm tuyến tính biến phụ thuộc Y giữa hai ƯL  ˆ , ta chọn ước lượng nào? * * 2 * 2 * 2 E ( )   * (b) Phân phối mẫu β2* 49 CuuDuongThanCong.com https://fb.com/tailieudientucntt 2 * 3.5 Tiêu chuẩn ước lượng OLS- Định lý Gauss- Markov Hình 3.07 Phân phối mẫu ước lượng ˆ (OLS)  (phương pháp khác) * • hình 3.07(c):  ước lượng không chệch, nhiên,  phân tán rộng quanh giá trị TB ˆ Nói cách khác, phương sai  lớn phương sai ˆ Bây giờ, hai ƯL ƯL tuyến tính, khơng chệch, đương nhiên ta chọn ƯL có phương sai nhỏ ƯL có giá trị gần với giá trị β2 đó ước lượng ˆ thỏa mãn tiêu chuẩn BLUE * ˆ * ˆ 2 * 2 2 * 2 (c ) Phân phối mẫu β2 β2* 50 CuuDuongThanCong.com https://fb.com/tailieudientucntt * ˆ ,  51 3.6 Phân bố xác suất ước lượng OLS • Với giả thiết đưa phần 3.3, ˆ ước lượng tuyến tính khơng chệch có phương sai nhỏ β1 β2 • Tuy vậy, mục đích phân tích hồi quy khơng phải suy đốn β1 β2 hay PRF mà cịn phải kiểm tra chất phụ thuộc, phải thực dự đốn khác • Do đó, cần phải biết phân bố xác suất ˆ ˆ Các phân bố phụ thuộc vào phân bố ui • Như ta biết, phân bố ui phân bố chuẩn Từ đó, ta suy phân bố xác suất ˆ ˆ tổng kết tính chất đặc trưng chúng sau: ˆ 1 CuuDuongThanCong.com 2 https://fb.com/tailieudientucntt 52 3.6 Phân bố xác suất ước lượng OLS Chúng ước lượng khơng chệch 2) Có phương sai cực tiểu 3) Khi số quan sát đủ lớn ước lượng xấp xỉ với giá trị thực phân bố ˆ tuân theo quy luật phân phối chuẩn với: 4) a Giá trị trung bình: E ( ˆ )   • 1) • • • • 1 n • b Phương sai: var( ˆ )    ˆ  X i i 1  n n  xi i 1  ˆ ~ N (β1,  ) ˆ CuuDuongThanCong.com https://fb.com/tailieudientucntt 53 3.6 Phân bố xác suất ước lượng OLS Từ tính chất 4, ta suy biến Z, với Z  ˆ    , tuân theo ˆ quy luật phân phối chuẩn, tức là: Z~ N (0, 1) CuuDuongThanCong.com https://fb.com/tailieudientucntt 54 3.6 Phân bố xác suất ước lượng OLS • a tuân theo quy luật phân phối chuẩn với: Giá trị trung bình: E ( ˆ )   • b Phương sai: • 5)   ˆ 2 ˆ Z  ˆ    var( ˆ )   ~ N (β2, ˆ )  ~ N (0, 1) 2 ˆ   n  xi i 1 ˆ • Về mặt hình học, phân bố xác suất ˆ ˆ minh họa hình 3.08 CuuDuongThanCong.com https://fb.com/tailieudientucntt 3.6 Phân bố xác suất ước lượng OLS Hình 3.08 Phân bố xác suất ˆ f ( ˆ ) ˆ Mật độ xác suất Mật độ xác suất f ( ˆ ) E ( ˆ1 )   E ( ˆ )   ˆ Mật độ xác suất f (Z ) Mật độ xác suất f (Z ) ˆ CuuDuongThanCong.com Z  ˆ    ˆ Z  55 https://fb.com/tailieudientucntt ˆ    ˆ 56 3.6 Phân bố xác suất ước lượng OLS • 6) ( n  ) ˆ  bậc tự do: 2 tuân theo quy luật phân phối Khi-đơ (χ2) với (n-2) ( n  ) ˆ  ~ χ2  Biết điều giúp ta suy giá trị thực σ2 từ việc ước lượng σ2 CuuDuongThanCong.com https://fb.com/tailieudientucntt 57 3.6 Phân bố xác suất ước lượng OLS Trong ước lượng không chệch β1 β2 tuyến tính hay phi tuyến ˆ ˆ có phương sai nhỏ • 7) Từ giả thiết ui ~ N(0, σ2), ta suy Yi, vốn hàm tuyến tính ui, tuân theo quy luật phân phối chuẩn với: • a E(Yi)= β1 + β2Xi • b Var(Yi)= σ2  Yi ~ N (β1 + β2Xi, σ2) • 8) CuuDuongThanCong.com https://fb.com/tailieudientucntt ... trình hàm hồi quy mẫu b Ước lượng tham số mơ hình hồi quy Gợi ý: Sử dụng Excel để tính tốn! 22 CuuDuongThanCong.com https://fb.com/tailieudientucntt 23 3 .2 Các tính chất thống kê ước lượng OLS.. .2 CHƯƠNG II MƠ HÌNH HỒI QUY HAI BIẾN • Giới thiệu mơ hình hồi qui • Hàm hồi quy tổng thể hàm hồi quy mẫu • Phương pháp bình phương nhỏ (OLS) • Phương pháp hợp lý tối đa (MLE) • Ước lượng. .. Một ước lượng, ví dụ ước lượng theo phương pháp OLS, gọi ước lượng tuyến tính khơng chệch tốt (Best Linear Unbiased Estimator- BLUE) ? ?2 thỏa mãn tiêu chuẩn sau : • Tuyến tính: hàm tuyến tính biến