mô hình hồi quy đơn biến tuyến tính

CHƯƠNG IV MÔ HÌNH HỒI QUY TUYẾN TÍNH ĐƠN BIẾN MÔ HÌNH HỒI QUY TUYẾN TÍNH ĐƠN BIẾN MỤC TIÊU Biết phương pháp ước lượng bình phương nhỏ để ước lượng hàm hồi quy tổng thể dựa số liệu mẫu Làm toán ước lượng khoảng, kiểm định giả thiết tham số mô hình Sử dụng mô hình hồi quy để dự báo MÔ HÌNH HỒI QUY TUYẾN TÍNH ĐƠN BIẾN NỘI DUNG Mô hình Ước lượng mô hình - Phương pháp bình phương nhỏ thông thường (OLS) Hệ số R^2 – phản ánh mức độ giải thích hàm hồi quy mẫu Các giả thiết mô hình Ước lượng khoảng tin cậy cho tham số 66 Kiểm định giả thiết Dự báo 4.1 MÔ HÌNH Mô hình hồi quy tuyến tính hai biến  PRF dạng xác định E(Y/Xi) = f(Xi)= β1 + β2Xi dạng ngẫu nhiên Yi = E(Y/Xi) + εi = β1 + β2Xi + εi  SRF dạng xác định ˆ +β ˆ X Yˆi = β i dạng ngẫu nhiên $ i =β $i ˆ +β ˆ X +ε Yi =Yˆi +ε i 4.1 MÔ HÌNH Trong  βˆ1 : Ước lượng cho β1  βˆ2 : Ước lượng cho β2  Yˆi : Ước lượng cho E(Y/Xi)  Sử dụng phương pháp bình phương nhỏ ˆ β1 βˆ2 thông thường (OLS) để tìm , 4.1 MÔ HÌNH Y SRF βˆ2 β2 β1 PRF βˆ1 X Hình 4.1: Hệ số hồi quy hàm hồi quy PRF SRF 4.2 ƯỚC LƯỢNG MÔ HÌNH PHƯƠNG PHÁP OLS Giả sử có n cặp quan sát (Xi, Yi) Tìm giá trị Ŷi µ cho Ŷi gần giá trị Yi nhất, tức εµ = Y −Ycàng nhỏ tốt  Hay, với n cặp quan sát, muốn i n n i =1 i =1 ( $εi2 = ˆ −β ˆ X Y − β ∑ ∑ i i ) i i ⇒min 4.2 ƯỚC LƯỢNG MÔ HÌNH PHƯƠNG PHÁP OLS toán thành tìm βˆ1 , βˆ2 cho f  Điều kiện để đạt cực trị là:  Bài n  ∂  ∑ε i  n = i =− ˆ1 − β ˆ Xi = ∑ Yi − β ˆ1 ∂β i =1 (  n ∂  ∑ε  i =1 ∂ ˆβ2 i    = − ) ∑(Y n i =1 i ) − ˆβ1 − ˆβ2 X i X =0 i 4.2 ƯỚC LƯỢNG MÔ HÌNH PHƯƠNG PHÁP OLS Hay n n i =1 i =1 ˆ +β ˆ nβ Yi ∑X i = ∑ n n n i =1 i =1 i =1 ˆ ∑X i +β2 ∑X i = ∑X iYi ˆ β 4.2 ƯỚC LƯỢNG MÔ HÌNH PHƯƠNG PHÁP OLS Giải hệ, βˆ1 = Y − βˆ2 X n βˆ2 = ∑Y X i i =1 n ∑X i =1 n xi = X i − X yi = Yi − Y i βˆ = ∑y x i =1 n x ∑ i i =1 10 i i i − n X Y − n.( X ) 4.6 KIỂM ĐỊNH GIẢ THIẾT Kiểm định giả thiết tham số β Cách 3: Phương pháp p-value * ˆ Bước 1: Tính β −β ti = Bước 2: Tính i i SE ( βˆi ) P (T > ti ) = p Bước 3: Quy tắc định - Nếu p ≤ α: Bác bỏ H0 - Nếu p > α: Chấp nhận H0 39 4.6 KIỂM ĐỊNH GIẢ THIẾT Kiểm định giả thiết tham số β Loại GT H0 H1 Miền bác bỏ Hai phía βi = βi* βi ≠ βi* |t|>tα/2 (n-2) Phía phải βi ≤ βi* βi > βi* t>tα (n-2) Phía trái βi ≥ βi* βi < βi* t βi* 1− α α Miền bác bỏ Ho t 041 α t 4.6 KIỂM ĐỊNH GIẢ THIẾT Kiểm định giả thiết tham số β f(t) Kiểm định bên trái H0 : βi ≥ βi* H1 : βi < βi* 1− α α Miền bác bỏ Ho -tα t 42 4.6 KIỂM ĐỊNH GIẢ THIẾT Ví dụ áp dụng: ? Từ số liệu cho ví dụ trước, yêu cầu kiểm định giả thiết sau a Ho: β2 = với độ tin cậy 95% H1: β2 # b Ho: β1 = với độ tin cậy 95% H1: β1 # c Ho: σ^2 = 16 với độ tin cậy 95% H1: σ^2 # 16 43 4.6 KIỂM ĐỊNH GIẢ THIẾT Kiểm định hệ số xác định R^2 Kiểm định giả thiết H0: R2 = (tương đương H0: β2= 0) với mức ý nghĩa α hay độ tin cậy - α Bước 1: Tính R ( n − 2) F= 1−R2 a Phương pháp giá trị tới hạn Bước 2: Tra bảng F với mức ý nghĩa α hai bậc tư (1, n-2) Bước 3: Quy tắc định - Nếu F > Fα(1,n-2): Bác bỏ H0 - Nếu F ≤ Fα(1,n-2): Chấp nhận H0 44 4.6 KIỂM ĐỊNH GIẢ THIẾT Kiểm định hệ số xác định R^2 b Phương pháp p-value Bước 2: Tính p-value= p (Fα(1,n-2)>F) Bước 3: Quy tắc định - Nếu p ≤ α : Bác bỏ H0 - Nếu p > α: Chấp nhận H0 45 4.6 KIỂM ĐỊNH GIẢ THIẾT Kiểm định hệ số xác định R^2 F Thống kê F α=0,05 Miền bác bỏ Ho Miền chấp nhận Ho Fα(1,n-2) 46 4.6 KIỂM ĐỊNH GIẢ THIẾT Câu hỏi: ? Việc kiểm định giả thiết Ho: β2 = H1: β2 # ? Độ tin cậy (1-α) có ý nghĩa nào? Việc kiểm định giả thiết Ho: R^2 = H1: R^2 # Độ tin cậy (1-α) có ý nghĩa nào? 47 4.6 KIỂM ĐỊNH GIẢ THIẾT Ví dụ áp dụng: ? Từ số liệu cho ví dụ trước, yêu cầu kiểm định phù hợp mô hình với độ tin cậy 95% 48 4.6 KIỂM ĐỊNH GIẢ THIẾT Đánh giá kết hồi quy  Dấu hệ số hồi quy ước lượng phù hợp với lý thuyết hay tiên nghiệm không?  Các hệ số hồi quy ước lượng có ý nghĩa mặt thống kê hay không?  Mức độ phù hợp mô hình R^2 mô hình có thực phù hợp?  Kiểm tra xem mô hình có thỏa mãn giả thiết mô hình hồi quy tuyến tính cổ điển hay không? 49 4.7 DỰ BÁO Mô hình hồi quy Yˆi = βˆ1 + βˆ2 X i Cho trước giá trị X = X0, dự báo giá trị trung bình giá trị cá biệt Y với mức ý nghĩa α hay độ tin cậy - α  Ước lượng điểm Yˆ0 = βˆ1 + βˆ2 X 50 4.7 DỰ BÁO  Dự báo giá trị trung bình Y E (Y / X ) ∈ (Yˆ0 − ε ;Yˆ 0+ε ) Với: ε = SE (Yˆ0 )t( n −2,α / ) SE (Yˆ0 ) = Var (Yˆ0 ) ( X − X ) Var (Yˆ0 ) = σˆ ( + ) n ∑ xì 2 51 4.7 DỰ BÁO  Dự báo giá trị cá biệt Y ' ' ˆ ˆ Y0 ∈(Y0 −ε0 ;Y 0+ε0 ) Với: ε = SE (Y0 − Yˆ0 )t( n −2,α / ) ' SE (Y0 − Yˆ0 ) = Var (Y0 − Yˆ0 ) (X − X0) ˆ Var (Y0 − Y0 ) = σˆ (1 + + ) n ∑ xì 52 4.7 DỰ BÁO Ví dụ áp dụng: ? Từ số liệu cho ví dụ trước, yêu cầu dự báo khoảng giá trị Y Xo = 60 (triệu đồng/năm) với độ tin cậy 95% 53 ... hình hồi quy để dự báo MÔ HÌNH HỒI QUY TUYẾN TÍNH ĐƠN BIẾN NỘI DUNG Mô hình Ước lượng mô hình - Phương pháp bình phương nhỏ thông thường (OLS) Hệ số R^2 – phản ánh mức độ giải thích hàm hồi quy mẫu...MÔ HÌNH HỒI QUY TUYẾN TÍNH ĐƠN BIẾN MỤC TIÊU Biết phương pháp ước lượng bình phương nhỏ để ước lượng hàm hồi quy tổng thể dựa số liệu mẫu Làm toán ước lượng... βˆ2 thông thường (OLS) để tìm , 4.1 MÔ HÌNH Y SRF βˆ2 β2 β1 PRF βˆ1 X Hình 4.1: Hệ số hồi quy hàm hồi quy PRF SRF 4.2 ƯỚC LƯỢNG MÔ HÌNH PHƯƠNG PHÁP OLS Giả sử có n cặp quan sát (Xi, Yi) Tìm giá