Bài giảng phân tích dữ liệu và dự báo chương 3

CHƯƠNG PHƯƠNG PHÁP PHÂN TÍCH HỒI QUY Hiểu rõ vấn đề phân tích hồi quy Áp dụng dụng mơ hình hồi quy để dự báo nhằm hỗ trợ cho việc định Sử dụng phần mềm Eviews để ước lượng, kiểm định dự báo từ mơ hình hồi quy PHƯƠNG PHÁP PHÂN TÍCH HỒI QUY Mơ hình hồi quy đơn Mơ hình hồi quy bội Suy diễn thống kê dự báo • Ước lượng khoảng tin cậy • Kiểm định giả thuyết thống kê • Dự báo từ mơ hình hồi quy MƠ HÌNH HỒI QUY TUYẾN TÍNH Mơ hình hồi quy tuyến tính 𝑘𝑘 biến 𝑌𝑌𝑡𝑡 = 𝛽𝛽1 + 𝛽𝛽2 𝑋𝑋2𝑡𝑡 + ⋯ + 𝛽𝛽𝑘𝑘 𝑋𝑋𝑘𝑘𝑡𝑡 + 𝑢𝑢𝑡𝑡 Với giả thiết 𝐸𝐸(𝑢𝑢𝑡𝑡 |𝑋𝑋2𝑡𝑡 , … , 𝑋𝑋𝑘𝑘𝑡𝑡 ) = Khi 𝐸𝐸 𝑌𝑌𝑡𝑡 𝑋𝑋2𝑡𝑡 , … , 𝑋𝑋𝑘𝑘𝑘𝑘 = 𝛽𝛽1 + 𝛽𝛽2 𝑋𝑋2𝑡𝑡 + ⋯ + 𝛽𝛽𝑘𝑘 𝑋𝑋𝑘𝑘𝑘𝑘 gọi hàm hồi quy tổng thể 𝑌𝑌𝑡𝑡 : biến phụ thuộc (biến giải thích) 𝑋𝑋2𝑡𝑡 , … , 𝑋𝑋𝑘𝑘𝑡𝑡 : biến độc lập (biến giải thích) 𝛽𝛽1 , 𝛽𝛽2 , … , 𝛽𝛽𝑘𝑘 : hệ số hồi quy; 𝑢𝑢𝑡𝑡 : sai số ngẫu nhiên (hay nhiễu) MƠ HÌNH HỒI QUY TUYẾN TÍNH (tt) 𝐸𝐸 𝑌𝑌𝑡𝑡 𝑋𝑋2𝑡𝑡 , … , 𝑋𝑋𝑘𝑘𝑘𝑘 = 𝛽𝛽1 + 𝛽𝛽2 𝑋𝑋2𝑡𝑡 + ⋯ + 𝛽𝛽𝑘𝑘 𝑋𝑋𝑘𝑘𝑘𝑘 + 𝛽𝛽1 : hệ số chặn: giá trị trung bình biến phụ thuộc tất biến độc lập + 𝛽𝛽𝑗𝑗 (𝑗𝑗 = 2, … , 𝑘𝑘): hệ số hồi quy riêng biến 𝑋𝑋𝑗𝑗 , 𝑋𝑋𝑗𝑗 tăng (giảm) đơn vị trung bình biến phụ thuộc thay đổi 𝛽𝛽𝑗𝑗 đơn vị điều kiện yếu tố khác không đổi - Trong thực tế, hệ số hồi quy thường nên ta ước lượng chúng phương pháp bình phương nhỏ thông thường (OLS – Ordinary Least Squares) thông qua mẫu MƠ HÌNH HỒI QUY TUYẾN TÍNH (tt) Phương pháp OLS để ước lượng hệ số hồi quy từ mẫu kích thước n mơ hình hồi quy tuyến tính hai biến 𝑛𝑛∑𝑌𝑌𝑡𝑡 𝑋𝑋𝑡𝑡 − ∑𝑋𝑋𝑡𝑡 ∑𝑌𝑌𝑡𝑡 ∑𝑥𝑥𝑡𝑡 𝑦𝑦𝑡𝑡 𝛽𝛽̂2 = = 2 n∑𝑋𝑋𝑡𝑡 − ∑𝑋𝑋𝑡𝑡 ∑𝑥𝑥𝑡𝑡2 Với ∑𝑋𝑋t2 ∑𝑌𝑌𝑡𝑡 − ∑𝑋𝑋𝑡𝑡 ∑(𝑋𝑋𝑡𝑡 𝑌𝑌𝑡𝑡 ) � − 𝛽𝛽̂2 𝑋𝑋� = 𝑌𝑌 𝛽𝛽̂1 = n∑𝑋𝑋𝑡𝑡2 − ∑𝑋𝑋𝑡𝑡 𝑛𝑛 𝑛𝑛 � � � 𝑦𝑦𝑡𝑡 = 𝑌𝑌𝑡𝑡 − 𝑌𝑌� 𝑋𝑋 = ∑𝑡𝑡=1 𝑋𝑋𝑡𝑡 ; 𝑌𝑌 = ∑𝑡𝑡=1 𝑌𝑌𝑡𝑡 ; 𝑥𝑥𝑡𝑡 = 𝑋𝑋𝑡𝑡 − 𝑋𝑋; 𝑛𝑛 𝑛𝑛 MƠ HÌNH HỒI QUY TUYẾN TÍNH (tt) Các giả thiết mơ hình: Mơ hình có dạng tuyến tính xác định E(ut ) = ut ∼ N(μ, σ2 ) Xt ut không tương quan: cov Xt , ut = Khơng có đa cộng tuyến hồn hảo biến độc lập Phương sai không đổi: 𝑣𝑣𝑣𝑣𝑣𝑣 𝑢𝑢𝑡𝑡 = 𝜎𝜎 Khơng có tương quan chuỗi: cov 𝑢𝑢𝑠𝑠 , 𝑢𝑢𝑡𝑡 = 0, ∀𝑡𝑡 ≠ 𝑠𝑠 MƠ HÌNH HỒI QUY TUYẾN TÍNH (tt) Đặc điểm ước lượng OLS thỏa mãn giả thiết: Các ước lượng OLS đạt tiêu chuẩn BLUE (Best linear unbiased estimator) Mức độ xác ước lượng OLS đánh giá qua phương sai hệ số hồi quy 𝑣𝑣𝑣𝑣𝑣𝑣(𝛽𝛽̂𝑗𝑗 ) Với MH biến: 𝐸𝐸 𝑌𝑌𝑡𝑡 𝑋𝑋2𝑡𝑡 = 𝛽𝛽1 + 𝛽𝛽2 𝑋𝑋2𝑡𝑡 𝑣𝑣𝑣𝑣𝑣𝑣 𝛽𝛽̂1 = ∑𝑋𝑋𝑡𝑡2 𝜎𝜎 , 𝑣𝑣𝑣𝑣𝑣𝑣 𝑛𝑛∑𝑋𝑋𝑡𝑡 Ước lượng 𝜎𝜎 𝜎𝜎� = ∑ 𝑌𝑌𝑡𝑡 −𝑌𝑌�𝑡𝑡 𝑛𝑛−2 𝛽𝛽̂2 = 𝜎𝜎 ∑𝑋𝑋𝑡𝑡2 MƠ HÌNH HỒI QUY TUYẾN TÍNH (tt) Với MH biến: 𝐸𝐸 𝑌𝑌𝑡𝑡 𝑋𝑋2𝑡𝑡 , 𝑋𝑋3𝑡𝑡 = 𝛽𝛽1 + 𝛽𝛽2 𝑋𝑋2𝑡𝑡 + 𝛽𝛽3 𝑋𝑋3𝑡𝑡 +𝑋𝑋 −2𝑋𝑋 𝑋𝑋�22∑𝑥𝑥3𝑡𝑡 �32 ∑𝑥𝑥2𝑡𝑡 �2 𝑋𝑋�3 ∑𝑥𝑥2𝑡𝑡 𝑥𝑥3𝑡𝑡 ̂ 𝑣𝑣𝑣𝑣𝑣𝑣 𝛽𝛽1 = + 𝜎𝜎 , 2 ∑𝑥𝑥2𝑡𝑡 ∑𝑥𝑥3𝑡𝑡 − ∑𝑥𝑥2𝑡𝑡 𝑥𝑥3𝑡𝑡 𝑛𝑛 𝜎𝜎 𝑣𝑣𝑣𝑣𝑣𝑣 𝛽𝛽̂2 = 2 , 𝑣𝑣𝑣𝑣𝑣𝑣 𝛽𝛽̂3 = ∑𝑥𝑥2𝑡𝑡 (1−𝑟𝑟23 ) 𝜎𝜎 2 (1−𝑟𝑟 ) ∑𝑥𝑥3𝑡𝑡 23 với ước lượng không chệch 𝜎𝜎 �𝑡𝑡 ∑ 𝑌𝑌 − 𝑌𝑌 𝑡𝑡 𝜎𝜎� = 𝑛𝑛 − MÔ HÌNH HỒI QUY TUYẾN TÍNH (tt) Nhận xét: - Trường hợp hồi quy nhiều biến, phương sai hệ số hồi quy phụ thuộc vào phương sai hạng nhiễu, mẫu mối tương quan biến giải thích (hệ số tương quan biến 𝑋𝑋𝑖𝑖 𝑋𝑋𝑗𝑗 𝑟𝑟𝑖𝑖𝑖𝑖 −1 ≤ 𝑟𝑟𝑖𝑖𝑖𝑖 ≤ 1) - Trong phân tích hồi quy thường sử dụng sai số chuẩn hệ số, ký hiệu 𝑠𝑠𝑠𝑠 𝛽𝛽̂𝑗𝑗 𝑠𝑠𝑠𝑠 𝛽𝛽̂𝑗𝑗 = 𝑣𝑣𝑣𝑣𝑣𝑣(𝛽𝛽̂𝑗𝑗 ) 10 HỆ SỐ HỒI QUY CHUẨN HÓA - Để xác định biến giải thích có ảnh hưởng nhiều đến biến phụ thuộc, ta cần phải dự vào hệ số hồi quy chuẩn hóa - Hệ số hồi quy chuẩn hóa cho biết tầm quan trọng tương đối biến giải thích mơ hình hồi quy - Để ước lượng hệ số hồi quy chuẩn hóa, ta cần chuyển hóa biến (cả biến phụ thuộc) sang dạng biến chuẩn hóa, sau dùng phương pháp OLS để ước lượng - Ta chuyển hóa mơ hình hồi quy tuyến tính 𝑘𝑘 biến 𝑌𝑌𝑡𝑡 = 𝛽𝛽1 + 𝛽𝛽2 𝑋𝑋2𝑡𝑡 + ⋯ + 𝛽𝛽𝑘𝑘 𝑋𝑋𝑘𝑘𝑡𝑡 + 𝑢𝑢𝑡𝑡 16 HỆ SỐ HỒI QUY CHUẨN HÓA (tt) Mơ hình chuyển hóa sau: �2 �𝑘𝑘 𝑌𝑌𝑡𝑡 − 𝑌𝑌� 𝑋𝑋 − 𝑋𝑋 𝑋𝑋 − 𝑋𝑋 2𝑡𝑡 𝑘𝑘𝑡𝑡 = 𝛽𝛽2∗ + ⋯ + 𝛽𝛽𝑘𝑘∗ + 𝑢𝑢𝑡𝑡 𝑠𝑠𝑋𝑋2 𝑠𝑠𝑋𝑋𝑘𝑘 𝑠𝑠𝑌𝑌 Quan hệ hệ số hồi quy chuẩn hóa với hệ số hồi quy riêng 𝑠𝑠𝑋𝑋𝑗𝑗 𝛽𝛽𝑗𝑗∗ = 𝛽𝛽𝑗𝑗 (∗) 𝑠𝑠𝑌𝑌 Giả sử hệ số hồi quy chuẩn hóa 𝛽𝛽̂𝑗𝑗∗ = 0.7 cho biết thay đổi độ lệch chuẩn biến 𝑋𝑋𝑗𝑗 dẫn đến thay đổi 0.7 độ lệch chuẩn biến phụ thuộc 17 HỆ SỐ HỒI QUY CHUẨN HÓA (tt) Trong Eviews, ta thực bước sau: • Bước 1: Ước lượng mơ hình hồi quy theo OLS (giả sử mơ hình tốt nhất) • Bước 2: Tính độ lệch chuẩn tất biến scalar sy=scalar(Y) scalar sx=scalar(X) • Bước 3: Tính hệ số hồi quy chuẩn hóa theo cơng thức (*) 18 ỨNG DỤNG DỰ BÁO Dự báo trung bình: Xét hàm hồi quy hai biến: 𝐸𝐸 𝑌𝑌𝑡𝑡 𝑋𝑋𝑡𝑡 = 𝛽𝛽1 + 𝛽𝛽2 𝑋𝑋𝑡𝑡 - Dự báo điểm 𝐸𝐸 𝑌𝑌𝑡𝑡 𝑋𝑋𝑡𝑡 điểm 𝑋𝑋 𝑌𝑌�0 = 𝛽𝛽̂1 + 𝛽𝛽̂2 𝑋𝑋 - Khoảng tin cậy cho giá trị dự báo trung bình 𝑋𝑋 𝑛𝑛−2 𝑛𝑛−2 � � � 𝑌𝑌0 − 𝑡𝑡α 𝑠𝑠𝑠𝑠 𝑌𝑌0 ≤ 𝐸𝐸(𝑌𝑌|𝑋𝑋0 ) ≤ 𝑌𝑌0 + 𝑡𝑡 𝑠𝑠𝑠𝑠(𝑌𝑌�0 ) Trong đó: 𝑠𝑠𝑠𝑠 𝑌𝑌�0 = 𝑣𝑣𝑣𝑣𝑣𝑣 𝑌𝑌�0 = 𝜎𝜎� 𝑛𝑛 + α/2 𝑋𝑋0 −𝑋𝑋� ∑ 𝑋𝑋−𝑋𝑋� 19 ỨNG DỤNG DỰ BÁO (tt) Dự báo riêng biệt: - Khoảng tin cậy cho giá trị dự báo riêng biệt 𝑋𝑋0 𝑛𝑛−2 𝑛𝑛−2 � � � 𝑌𝑌0 − 𝑡𝑡 𝑠𝑠𝑠𝑠 𝑌𝑌0 − 𝑌𝑌0 ≤ 𝑌𝑌0 ≤ 𝑌𝑌0 + 𝑡𝑡α 𝑠𝑠𝑠𝑠(𝑌𝑌0 − 𝑌𝑌�0 ) α/2 Trong đó: 𝑠𝑠𝑠𝑠 𝑌𝑌0 − 𝑌𝑌�0 = 𝑣𝑣𝑣𝑣𝑣𝑣 𝑌𝑌0 − 𝑌𝑌�0 = 𝑛𝑛 𝜎𝜎� + + 𝑣𝑣𝑣𝑣𝑣𝑣 𝑌𝑌0 − 𝑌𝑌�0 = 𝜎𝜎� + 𝑣𝑣𝑣𝑣𝑣𝑣 𝑌𝑌�0 𝑋𝑋0 −𝑋𝑋� ∑ 𝑋𝑋−𝑋𝑋� * Các KTC cho dự báo trung bình riêng biệt tính tốn dễ dàng từ Eviews trường hợp nhiều biến 20