Hồi quy tuyến tính đơn (PHẦN 1) (KINH tế LƯỢNG SLIDE)

1 CHƯƠNG II MƠ HÌNH HỒI QUY HAI BIẾN (P I) • Giới thiệu mơ hình hồi qui • Hàm hồi quy tổng thể hàm hồi quy mẫu • Phương pháp bình phương nhỏ (OLS) • Phương pháp hợp lý tối đa (MLE) • Ước lượng khoảng kiểm định giả thiết TK • Phân tích phương sai kiểm định phù hợp mơ hình hồi quy Giới thiệu mơ hình hồi qui 1.1 Khái niệm phân tích hồi qui 1.2 Sự khác dạng quan hệ 1.1 Khái niệm phân tích hồi qui • • • Hồi qui cơng cụ chủ yếu KTL • Ơng xây dựng đồ thị phân bố chiều cao cháu trai ứng với chiều cao người cha Thuật ngữ hồi qui «regression to mediocrity» nghĩa « quy giá trị trung bình » Thuật ngữ đời Galton (1886) nghiên cứu phụ thuộc chiều cao cháu trai vào chiều cao bố chúng 1.1 Khái niệm phân tích hồi qui Hình 2.01 Đồ thị phân bố chiều cao cháu trai ứng với chiều cao người cha 1.1 Khái niệm phân tích hồi qui Qua đồ thị phân bố, thấy: • Với chiều cao người cha cho trước, chiều cao cháu trai khoảng dao động quanh giá trị trung bình • • • • Chiều cao cha tăng chiều cao cháu trai tăng Các vòng tròn đồ thị giá trị TB chiều cao trai so với chiều cao ông bố Nếu nối điểm giá trị TB này, ta nhận đường thẳng hình vẽ Đường thẳng gọi đường hồi quy- mô tả trung bình gia tăng chiều cao trai so với bố 1.1 Khái niệm phân tích hồi qui • Như vậy, nghiên cứu giúp giải thích câu hỏi: có xu hướng bố cao đẻ cao, bố thấp đẻ thấp chiều cao trung bình người có xu hướng tiến tới (hồi quy) chiều cao trung bình tồn dân số, xu hướng gọi hồi quy • Từ đó, nghiên cứu giúp dự báo chiều cao trung bình trai thơng qua chiều cao cho trước cha chúng 1.1 Khái niệm phân tích hồi qui  Bản chất phân tích hồi quy nghiên cứu mối liên hệ phụ thuộc biến (gọi biến phụ thuộc hay biến giải thích) với hay nhiều biến khác (gọi biến độc lập hay biến giải thích)  Phân tích hồi quy tập trung giải vấn đề sau : • Ước lượng giá trị trung bình biến phụ thuộc với giá trị cho biến độc lập • Kiểm định giả thiết chất phụ thuộc • Dự báo giá trị trung bình biến phụ thuộc biết giá trị biến độc lập • Kết hợp ba vấn đề 1.2 Sự khác dạng quan hệ 1.2.1 Quan hệ thống kê quan hệ hàm số 1.2.2 Hồi quy quan hệ nhân 1.2.3 Hồi quy tương quan 1.2.1 Quan hệ thống kê quan hệ hàm số • Trong quan hệ thống kê, biến phụ thuộc đại lượng ngẫu nhiên, có phân bố xác suất • Trong quan hệ hàm số, biến khơng phải ngẫu nhiên • Ứng với giá trị biết biến độc lập có nhiều giá trị khác biến phụ thuộc Phân tích hồi quy không xét đến quan hệ hàm số • Ứng với giá trị biến độc lập có giá trị biến phụ thuộc • Ví dụ: vật lý, xét động tử chuyển động đều, người ta có cơng thức : • Ví dụ: phụ thuộc suất giống ngô vào nhiệt độ, lượng mưa, độ chiếu sáng, phân bón…là QH TK khơng thể dự báo cách xác suất giống ngơ này/ha (vì sao?)  S= v.t • S = độ dài quãng đường • v = vận tốc/đơn vị thời gian • t = thời gian  Đây quan hệ hàm số (vì sao?) 10 1.2.2 Hồi quy quan hệ nhân • Phân tích hồi quy nghiên cứu quan hệ biến phụ thuộc với nhiều biến độc lập khác  Điều khơng địi hỏi biến độc lập biến phụ thuộc có mối quan hệ nhân Nếu quan hệ nhân tồn phải xác lập dựa lý thuyết kinh tế khác • Ví dụ: dự đoán sản lượng dựa vào lượng mưa biến khác chấp nhận việc dự báo lượng mưa dựa vào thay đổi sản lượng  Vì vậy, trước phân tích hồi quy, phải nhận định xác mối quan hệ nhân 21 2.1 Khái niệm hàm hồi quy tổng thể (PRF) Vậy xem E(X/Yi) hàm biến giải thích Xi biểu diễn sau: E(X/Yi)= f(Xi) • [1] Phương trình [1] gọi hàm hồi quy tổng thể- Population regression function (PRF) • PRF cho biết giá trị trung bình Y thay đổi X nhận giá trị khác • Nếu PRF có biến độc lập gọi hồi quy đơn (hồi quy hai biến), PRF có từ hai biến độc lập trở lên gọi hồi quy bội (hồi quy nhiều biến) 22 2.1 Khái niệm hàm hồi quy tổng thể (PRF) • Giả sử PRF E(Y/Xi) hàm tuyến tính thì : E(Y/Xi)= β1+ β2Xi [2] β1, β2= hệ số hồi quy β1= hệ số chặn β2= hệ số góc • Phương trình [2] gọi phương trình hồi quy tuyến tính đơn 23 2.1 Khái niệm hàm hồi quy tổng thể (PRF) • Thuật ngữ “tuyến tính” hiểu theo hai nghĩa: • Tuyến tính tham số Ví dụ: E(Y/Xi)= β1+ β2Xi2 hàm tuyến tính tham số phi tuyến biến β2 • Tuyến tính biến Ví dụ: E(Y/Xi)= β1+ Xi hàm tuyến tính biến phi tuyến với tham số  Hàm hồi quy tuyến tính ln ln hiểu hồi quy tuyến tính tham số, khơng phải tuyến tính biến 24 2.2 Sai số ngẫu nhiên chất • Giả sử ta có hàm hồi quy tổng thể E(Y/Xi), E(Y/Xi) giá trị trung bình biến Y với giá trị Xi biết, giá trị cá biệt Yi bao giờ trùng với E(Y/Xi), mà chúng xoay quanh E(Y/Xi) • Kí hiệu ui chênh lệch giá trị cá biệt Yi E(Y/Xi), ta có : ui= Yi- E(Y/Xi) [3] • Hay : Yi= E(Y/Xi)+ ui [4]  ui gọi biến ngẫu nhiên hay yếu tố ngẫu nhiên (hoặc nhiễu) 25 2.2 Sai số ngẫu nhiên chất • Nếu E(Y/Xi) tuyến tính Xi phương trình [4] trình bày dạng sau : Yi= β1+ β2Xi+ ui [5] • Từ phương trình [4] ta có : E(Yi/Xi)= E[E(Y/Xi)+ (ui/Xi)] ↔ E(Yi/Xi)=E[E(Y/Xi)]+ E(ui/Xi) ↔ E(Yi/Xi)= E(Yi/Xi)+ E(ui/Xi) [5]  E(ui/Xi)=  Như vậy, biến giải thích mơ hình, giá trị trung bình tất yếu tố tác động đến biến phụ thuộc Y (đại diện Ui) 26 2.2 Sai số ngẫu nhiên chất Ví dụ với X = 100 $ (bảng 2.01), tính E(ui/100) 27 2.2 Sai số ngẫu nhiên chất • Vậy biến ngẫu nhiên ảnh hưởng đến mơ hình biến đưa vào mơ hình khơng ? • Câu trả lời đưa nhiều biến ngẫu nhiên vào mơ hình thơng qua mơ hình hồi quy bội, dù có đưa vào biến Ui tồn (Vì sao?) 28 2.3 Hàm hồi quy mẫu (SRF) • Trong thực tế, ta khơng có điều kiện để khảo sát tồn tổng thể  ta khơng thể xây dựng hàm hồi quy tổng thể (PRF) • Khi ta ước lượng giá trị trung bình biến phụ thuộc, hay nói cách khác, ước lượng hàm PRF từ mẫu lấy từ tổng thể • • Tất nhiên, giá trị PRF mà ta ước lượng khơng thể xác cách tuyệt đối Hàm hồi quy xây dựng sở mẫu gọi hàm hồi quy mẫu- SRF (Sample Regression Function) 2.3 Hàm hồi quy mẫu (SRF) • Ví dụ: Từ tổng thể 60 hộ gia đình, ta lấy ngẫu nhiên hai mẫu từ tổng thể sau : 29 2.3 Hàm hồi quy mẫu (SRF) Hình 2.03 Biểu đồ phân tán đường hồi quy hai mẫu SRF1 SRF2 30 31 2.3 Hàm hồi quy mẫu (SRF) • Hình 2.03 trình bày biểu đồ phân tán hai đường hồi quy tương ứng với hai mẫu Vậy đường hồi quy mẫu « gần » với đường hồi quy tổng thể ? Ta biết đường tốt có đường hồi quy tổng thể, nhiên, thực tế, điều khơng có ta khơng thể khảo sát tồn tổng thể • Mặc dù vậy, từ tổng thể, ta rút nhiều mẫu khác xây dựng đường hồi quy khác Những đường hồi quy mẫu ước lượng xấp xỉ cho đường hồi quy tổng thể việc xem xét hàm hồi quy mẫu xấp xỉ tốt cho hàm hồi quy tổng thể xác định dựa theo số tiêu chuẩn mà ta đề cập phần sau 32 2.3 Hàm hồi quy mẫu (SRF) • • Hàm hồi quy mẫu biểu diễn theo hàm hồi quy tổng thể tương ứng Ví dụ PRF có dạng :  E (Y / X ) = β1 + β X i  Yi = E (Y / X i ) + ui = β1 + β X i + ui i sau : SRF trình bày dạng tương ứng với ước lượng E(Y/Xi) ; Yˆi , ước lượng β1, β2; ước lượng ui gọi phần dư (residuals)  Yˆi = βˆ1 + βˆ2 X i  ˆ ˆ ˆ  Yi = Yi + uˆi = β1 + β X i + uˆi βˆ βˆ uˆi Mối liên hệ SRF PRF Hình 2.04 Đường hồi quy tổng thể đường hồi quy mẫu 33 34 Mối liên hệ SRF PRF • • Đồ thị 2.04 cho thấy mối liên hệ SRF PRF Với X= Xi, ta có mẫu quan sát Y= Yi • Dưới dạng hàm hồi quy tổng thể PRF, Yi viết sau : Dưới dạng hàm hồi quy mẫu SRF, giá trị quan sát Yi biểu diễn sau : Yi= E(Y/Xi)+ ui Yi = Yˆi + uˆi 35 Mối liên hệ SRF PRF • Bây giờ, ta có thấy rằng, ước lượng « » giá trị Yˆi thực E(Y/Xi) giá trị Xi nằm bên phải điểm A Tương tự, ước lượng « » giá trị thực E(Y/Xi) giá trị Xi nằm bên trái điểm A • Cần hiểu việc ước lượng « » hay « » giá trị thực tránh khỏi có dao động (fluctuations) việc lấyˆ mẫu • Yi Vậy có quy tắc hay phương pháp để tìm hàm hồi quy mẫu « gần » với hàm hồi quy tổng thể không ? Nói cách khác, làm để xác định giá trị tham số , gần với giá trị thực β1, β2 không, thực tế, ta không bao giờ biết giá trị thực βˆ1 βˆ2 ... • Tuyến tính tham số Ví dụ: E(Y/Xi)= β1+ β2Xi2 hàm tuyến tính tham số phi tuyến biến β2 • Tuyến tính biến Ví dụ: E(Y/Xi)= β1+ Xi hàm tuyến tính biến phi tuyến với tham số  Hàm hồi quy tuyến tính. .. lập gọi hồi quy đơn (hồi quy hai biến), PRF có từ hai biến độc lập trở lên gọi hồi quy bội (hồi quy nhiều biến) 22 2.1 Khái niệm hàm hồi quy tổng thể (PRF) • Giả sử PRF E(Y/Xi) hàm tuyến tính thì :... β1, β2= hệ số hồi quy β1= hệ số chặn β2= hệ số góc • Phương trình [2] gọi phương trình hồi quy tuyến tính đơn 23 2.1 Khái niệm hàm hồi quy tổng thể (PRF) • Thuật ngữ ? ?tuyến tính? ?? hiểu theo