Hồi qui với sai số ARIMA
Hồi qui với sai số ARIMA Xét mô hình: Yt b0 b1 X 1,t bk X k ,t N t Thông thường mơ hình hồi quy cần giả thiết Nt khơng tự tương quan (Nt nhiễu trắng) Trong phần ta xét mơ hình hồi quy với Nt có tự tương quan Nếu Nt có tự tương quan, dùng mơ hình ARIMA để biểu diễn Ví dụ: Biểu diễn Nt mơ hình ARIMA(1,1,1) Yt b0 b1 X 1,t bk X k ,t N t (1 1 B )(1 B) N t (1 1 B)et Nt gọi sai số, et gọi nhiễu Lấy sai phân biến: Yt b1 X ' ' 1,t bk X ' k ,t N’t có dạng ARMA(1,1): N (1 B ) N t ' t N ' t Các bước xây dựng mơ hình Bước 1: Ước lượng hàm hồi quy với mơ hình AR(1) AR(2) cho sai số Mơ hình gọi mơ hình đại diện (proxy model) Bước 2: Nếu sai số không dừng, lấy sai phân biến Sau lượng hàm hồi quy với mơ hình AR(1) AR(2) cho sai số Các bước xây dựng mơ hình Bước 3: Nếu sai số dừng, xác định mơ hình ARMA phù hợp với sai số Bước 4: Điều chỉnh tồn mơ hình cách sử dụng mơ hình ARMA cho sai số Bước 5: Kiểm tra xem chuỗi et nhiễu trắng hay chưa Ví dụ Sản lượng xe gắn máy hàng năm Nhật Bản từ 1964-1989 Áp dụng mơ hình tuyến tính: Yt a bX t N t Với X t t 1963 Sai số: N t Yt a bX t ACF PACF sai số cho thấy AR(1) phù hợp Standardized Residual Standardized Residual 1.0 5 0.0 0.0 ACF -.5 Confidence Limits -1.0 Coefficient Lag Number 11 10 13 12 15 14 Partial ACF 1.0 -.5 Confidence Limits -1.0 Coefficient 16 Lag Number 11 10 13 12 15 14 16 Áp dụng AR(1) cho sai số, mơ hình cuối là: Yt a bX t N t N t N t 1 et Các tham số ước lượng B SEB T-RATIO AR1 73632 14778 4.982435 TIME 463.56123 30.81985 15.040994 CONSTANT 1662.42072 501.29920 3.316225 PPROX.PROB .00004872 00000000 00301025 Ta có: Et Y1,t= log(Et) – log(E1,t-1) = log( Et 1) At Y2,t= log(At) – log(A1,t-1) = log( At 1 ) Ngân sách Chi tiêu Ngân sách Chi tiêu • Giả sử chuỗi hàm chuỗi q khứ q khứ chuỗi khác: Y1,t 111Y1,t 1 112Y1,t 11 pY1,t p 121Y2,t 1 122Y2,t 12 pY2,t p e1,t Y2,t 211Y1,t 1 212Y1,t 21 pY1,t p 221Y2,t 1 222Y2,t 2 22 pY2,t p e2,t Những hệ số biểu diễn: 1: biến nằm bên trái 2: biến tương ứng với hệ số bên phải 3: độ trễ Tổng quát ta có K chuỗi chuỗi có liên quan tới khứ K-1 chuỗi khác K=2 Y1,t � e1,t � � � Yt � � e t � � Y2,t � e2,t � � � Và nhóm hệ số ma trận �11 p 12 p � �111 121 � �112 122 � 1 � , 2 � , , p � � � � � 211 221 � � 212 222 � � 21 p 22 p � Mơ hình viết lại là: Yt 1Yt 1 2Yt 2 pYt p et Bậc mơ hình chọn cách sử dụng tiêu chuẩn Akaike (AIC): AIC = -2logL + 2m L khả xảy mơ hình M tham số ước lượng K Trong trường hợp m = p Model order(p) AIC -911.2 -992.6 -1011.8 -1018.8 -1019.7 Model order(p) 10 -1013.1 -1011.4 -1007.7 AIC -1014.5 -1010.8 Giá trị nhỏ p = nên ta chọn AR(4) Mơ hình ước lượng : Y1,t � � Y1,t 1 � 0.260 0.097 �� � Yt � � � � � � Y Y 0.434 0.144 ��2,t 1 � �2,t � � �0.101 0.138��Y1,t 2 � � � � � Y2,t 2 � �0.807 0.026�� �0.207 0.143��Y1,t 3 � � � � � Y2,t 3 � �0.196 0.152 �� �0.124 0.675��Y1,t 4 � �e1,t � � �Y � �e � � �0.284 0.126��2,t 4 � �2,t � Mơ hình khơng gian trạng thái Biểu diễn Yt hàm tuyến tính biến ngẫu nhiên X1,t,X2,t,… ,Xd,t Yt = h1X1,t + h2X2,t + …+ hdXd,t +zt Có thể viết lại dạng ma trận : Yt = HXt +Zt Xt chuỗi thời gian Xt dựa vào trạng thái trước : Xt = FXt-1 + Get et gồm thành phần nhiễu trắng Ma trận F, G gồm tham số Một vài mô hình dự báo dạng khơng gian trạng thái Mơ hình AR(2) viết dạng : Yt 1Yt 1 2Yt 2 at at thành phần nhiễu trắng Nếu X1,t=Yt X2,t =Yt-1 ta viết : 1 2 � at � � � Xt � X t 1 � � � �1 � �0 � Yt 0 X t Đây dạng không gian trạng thái với : 1 2 � � F � � �1 � H 0 0� � G� � 1� � at � � et � � zt �0 � Mơ hình bước ngẫu nhiên với sai số: Xt = Xt-1 + et Yt = Xt +zt Mơ hình dạng khơng gian trạng thái với F = G= H= Mơ hình hồi quy với biến số giải thích sai số AR(1): Yt = a + bWt + Nt, Nt = Nt-1 +at Wt biến giải thích at thành phần nhiễu trắng Xác định Xt gồm yếu tố a, b Nt - zt Yt Wt 1 X t zt 0� � �0 � � � � � Xt � �X t 1 � � � � 0 � zt 1 � � � � � ... từ 1 96 4-1 989 Áp dụng mơ hình tuyến tính: Yt a bX t N t Với X t t 1 963 Sai số: N t Yt a bX t ACF PACF sai số cho thấy AR(1) phù hợp Standardized Residual Standardized Residual 1.0... SAR1 28914234 00000707 LGCHE 25775238 00000299 T-RATIO 062 99373 05389729 6. 0419538 4.5900182 4.78228 86 Có thể loại biến Vehicle khỏi mơ -2 .12 566 56 hình LGCOAL -. 0 263 3 164 01238748 03452 769 ... 0.0 0.0 ACF -. 5 Confidence Limits -1 .0 Coefficient Lag Number 11 10 13 12 15 14 Partial ACF 1.0 -. 5 Confidence Limits -1 .0 Coefficient 16 Lag Number 11 10 13 12 15 14 16 Áp dụng AR(1) cho sai số,