Quá trình dừng và ứng dụng

ĐẠI HỌC ĐÀ NẴNG TRƯỜNG ĐẠI HỌC SƯ PHẠM KHOA TỐN −−− −−− NGUYỄN THỊ KIM HẠNH Q TRÌNH DỪNG VÀ ỨNG DỤNG Chun ngành: Cử nhân Tốn-Tin KHĨA LUẬN TỐT NGHIỆP Người hướng dẫn: T.S.LÊ VĂN DŨNG Đà Nẵng - 05/ 2014 LỜI CẢM ƠN! Trong suốt trình học tập hồn thành luận văn này, tơi nhận hướng dẫn, giúp đỡ tận tình q Thầy Cơ, gia đình bạn bè Với lịng kính trọng biết ơn sâu sắc tơi xin bày tỏ lời cảm ơn chân thành tới : - Ban chủ nhiệm Khoa Tốn, thầy cán khoa Toán, trường Đại học Sư Phạm, Đại học Đà Nẵng nhiệt tình giảng dạy giúp đỡ tơi suốt q trình học tập trường - Đặc biệt, tơi xin bày tỏ lịng biết ơn sâu sắc đến thầy T.S Lê Văn Dũng người hết lòng giúp đỡ, dạy bảo, động viên, tạo điều kiện thuận lợi để tơi hoàn thành luận văn tốt nghiệp - Nhân tơi xin gởi lời cảm ơn đến gia đình, bạn bè giúp đỡ động viên vật chất lẫn tinh thần suốt trình làm luận văn tốt nghiệp Mặc dù luận văn hoàn thành thời gian qui định điều kiện thời gian kiến thức hạn chế nên luận văn tơi khơng tránh khỏi thiếu sót Vì vậy, tơi mong nhận đóng góp ý kiến thầy cô bạn để tạo điều kiện cho luận văn tơi hồn thiện Đà Nẵng, tháng 05 năm 2014 Sinh viên Nguyễn Thị Kim Hạnh MỤC LỤC Lời cảm ơn! Lời mở đầu Kiến Thức Cơ Sở 1.1 Không gian xác suất 1.2 Biến ngẫu nhiên 1.3 Các tham số đặc trưng Biến ngẫu nhiên 1.4 Hiệp phương sai, hệ số tương quan Quá trình dừng ứng dụng 11 2.1 Giới thiệu số liệu chuỗi thời gian 11 2.2 Quá trình tự hồi quy 16 2.3 Hàm tự tương quan riêng 23 2.4 Ước lượng tham số 27 Kết luận 30 Tài liệu tham khảo 31 LỜI MỞ ĐẦU Lí chọn đề tài Lý thuyết xác suất thống kê phận toán học nghiên cứu tượng ngẫu nhiên ứng dụng chúng vào thực tế Ngày nay, lý thuyết xác suất thống kê sử dụng để nghiên cứu tìm qui luật chi phối đưa phương pháp tính tốn xác suất tượng ngẫu nhiên Nó cơng cụ khơng thể thiếu ta nói đến dự báo, bảo hiểm, cần đánh giá may, nguy rủi ro, Nhà toán học Pháp Laplace kỉ 19 tiên đốn : "Mơn khoa học hứa hẹn trở thành đối tượng quan trọng tri thức nhân loại Rất nhiều vấn đề quan trọng đời sống thực tế thuộc tốn lý thuyết xác suất" Và "Q trình dừng ứng dụng" toán Trong thực tế đặc biệt lĩnh vực kinh tế, thị trường chứng khoán, học thống kê, khí tượng thuỷ văn ta thường gặp hệ ngẫu nhiên mà trình phát triển tương lai không phụ thuộc vào mà phụ thuộc vào khứ Khi dự báo cho tương lai trình không quan tâm tới mà cịn phải quan tâm tới q khứ hệ Mơ hình xác suất để mơ tả q trình gọi trình dừng Ngày trình dừng trở thành lĩnh vực quan trọng có nhiều ứng dụng cuả Lý thuyết xác suất.Đây lý chọn đề tài nghiên cứu: Q trình dừng ứng dụng Mục đích nghiên cứu • Hệ thống lại kiến thức sở lý thuyết xác suất học • Tìm hiểu mở rộng thêm kiến thức xác suất trình dừng ứng dụng Phương pháp nghiên cứu • Nghiên cứu lí luận: Trước tiên đọc tài liệu liên quan đến nội dung đề tài • Hệ thống hóa kiến thức sở khơng gian xác suất biến ngẫu nhiên học để áp dụng vào tìm hiểu trình dừng ứng dụng • Hỏi,trao đổi tham khảo ý kiến giáo viên hướng dẫn,nghiên cứu trình dừng ứng dụng Quá trình dừng ứng dụng SVTH: Nguyễn Thị Kim Hạnh • Đưa khái niệm, định lý, ví dụ, chứng minh rõ ràng trình dừng ứng dụng Cấu trúc luận văn Bố cục bao gồm chương : • Chương Kiến thức sở,hệ thống hóa kiến thức liên quan để hổ trợ cho việc tìm hiểu trình dừng ứng dụng • Chương Q trình dừng ứng dụng Do thời gian thực khóa luận khơng nhiều, kiến thức cịn hạn chế nên làm khóa luận khơng tránh khỏi hạn chế sai sót Tơi mong nhận góp ý ý kiến phản biện quý thầy cô bạn đọc Tôi xin chân thành cảm ơn! Đà Nẵng, tháng 05 năm 2014 Sinh viên Nguyễn Thị Kim Hạnh CHƯƠNG KIẾN THỨC CƠ SỞ 1.1 Không gian xác suất 1.1.1 Phép thử Trong tốn học có khái niệm khơng có định nghĩa mà mơ tả chúng hình ảnh tư trực quan Chẳng hạn hình học khái niệm điểm, đường thẳng, mặt phẳng khái niệm định nghĩa Trong xác suất, khái niệm phép thử khái niệm khơng có định nghĩa Ta hiểu phép thử việc thực nhóm điều kiện để quan sát tượng có xảy hay khơng Phép thử gọi ngẫu nhiên ta dự báo trước xác kết xảy ta thực phép thử 1.1.2 Khơng gian mẫu Tập hợp tất kết xảy phép thử ngẫu nhiên gọi khơng gian mẫu Ta thường kí hiệu Ω Cho không gian mẫu Ω Ta xét lớp F tập Ω thoã mãn điều kiện: +∅∈F + Nếu A ∈ F Ac ∈ F + Nếu A1 , A2 , , An , ∈ F ∞ n=1 An ∈F Lớp F gọi σ -đại số tập Ω 1.1.3 Độ đo xác suất Một hàm tập hợp P : F → R gọi độ đo xác suất thoã mãn điều kiện sau: + Với A ∈ F , ≤ P(A) ≤ + P(Ω) = + Nếu A1 ,A2 , ,An , đôi không giao nhau(Ai ∩ Ai = ∅ với i = j) ∞ P( ∞ An ) = n=1 P (An ) n=1 Khi phần tử F gọi biến cố P(A) gọi xác suất xảy biến cố A Bộ ba (Ω, F, P ) gọi không gian xác suất Quá trình dừng ứng dụng 1.2 SVTH: Nguyễn Thị Kim Hạnh Biến ngẫu nhiên Định nghĩa 1.1 Cho không gian xác suất (Ω, F, P ) Ánh xạ X : Ω → R gọi Biến ngẫu nhiên X hàm đo được, tức với a ∈ R, {ω ∈ Ω : X(ω) < a} ∈ F 1.2.1 Hàm phân phối xác suất Định nghĩa 1.2 Cho biến ngẫu nhiên X , hàm số F (x) = P (X < x), x ∈ R gọi hàm phân phối xác suất X 1.2.2 Biến ngẫu nhiên độc lập Cho n Biến ngẫu nhiên X1 , , Xn xác định khơng gian mẫu có hàm phân phối xác suất F1 (x), , Fn (x) Ta nói biến ngẫu nhiênX1 , , Xn độc lập với x1 , , xn ∈ R ta có P (X1 < x1 , , Xn < xn ) = F1 (x1 ) Fn (xn ) 1.2.3 Biến ngẫu nhiên rời rạc biến ngẫu nhiên liên tục Ta gọi X biến ngẫu nhiên rời rạc, có miền giá trị hữu hạn vơ hạn đếm Nếu biến ngẫu nhiên X có miền giá trị x1 , x2 , , xn bảng số X P x1 P (X = x1 ) x2 P (X = x2 ) xn P (X = xn ) gọi bảng phân phối xác suất biến ngẫu nhiên X Biến ngẫu nhiên X gọi biến ngẫu nhiên liên tục tồn hàm số f : R → R khả tích khơng âm cho với y ∈ R, y F (y) = f (x)dx, −∞ : F (y) hàm phân phối X Khi đó, f (x) gọi hàm mật độ X 1.3 1.3.1 Các tham số đặc trưng Biến ngẫu nhiên Kỳ vọng toán Cho biến ngẫu nhiên X xác định không gian xác suất (Ω; F; P ), khả tích Lebesgue Kì vọng X , kí hiệu E(X), xác định E(X) = XdP Ω + Nếu Biến ngẫu nhiên rời rạc X có bảng phân phối xác suất Quá trình dừng ứng dụng SVTH: Nguyễn Thị Kim Hạnh X P E(X) = x1 p1 x2 p2 xn pn x k pk k + Nếu Biến ngẫu nhiên liên tục X có hàm mật độ f (x) thì: +∞ E(X) = xf (x)dx −∞ 1.3.2 Phương sai Cho Biến ngẫu nhiên X , số D(X) = E(X − E(X))2 gọi phương sai Biến ngẫu nhiên X + Nếu Biến ngẫu nhiên rời rạc X có bảng phân phối xác suất X P x1 p1 x2 p2 xn pn x2 k p k − V ar(X) = k xk p k k + Nếu Biến ngẫu nhiên liên tục X có hàm mật độ f (x) : +∞ x2 f (x)dx −  V ar(X) = −∞ 1.3.3  +∞ 2 xf (x)dx −∞ Độ lệch tiêu chuẩn Độ lệch tiêu chuẩn biến ngẫu nhiên X , kí hiệu σ (X) xác định cơng thức: σ (X) = 1.3.4 V ar(X) Trung vị Số thực m gọi trung vị biến ngẫu nhiên X thỏa mãn P (X < m) ≤ 0.5 P (X > m) ≤ 0.5 Kí hiệu med(X) = m 1.4 Hiệp phương sai, hệ số tương quan Định nghĩa 1.3 Cho biến ngẫu nhiên X Y Hiệp phương sai X Y số xác định công thức Cov(X, Y ) = E [(X − E(X)(Y − E(Y )))] Quá trình dừng ứng dụng SVTH: Nguyễn Thị Kim Hạnh Định lý 1.4 (i) Cov(X, Y ) = E(XY ) − E(X)E(Y ); (ii) Cov(aX + a , bY + b ) = ab Cov(X, Y ); (iii) Nếu X Y độc lập Cov(X, Y ) = Chứng minh (i) Cov(X, Y ) = E(X − E(X))Y − E(Y )) = E(XY − XE(Y ) − Y E(X) − E(X)E(Y )) = E(XY ) − E(X)E(Y ) (ii) Cov(aX + a , bY + b ) = E((aX + a )(bY + b )) = E(aX + a )E(bY + b ) = E(abXY + ab X + a bY + a b ) − abE(X)E(Y ) + ab E(X) + a bE(Y ) + a b = ab(E(XY ) − E(X)E(Y )) (iii)Nếu X , Y độc lập E(XY ) = E(X)E(Y ) Suy Cov(X, Y ) = E(XY ) − E(X)E(Y ) = Định nghĩa 1.5 Hệ số tương quan hai biến ngẫu nhiên X Y, kí hiệu Corr(X, Y ), xác định công thức: Cov(X, Y ) Corr(X, Y ) = V ar(X) V ar(Y ) Định lý 1.6 (i) | Corr(X, Y )| ≤ 1; (ii) Nếu X Y độc lập Corr(X, Y ) = 0; (iii) Nếu Y = aX + b Corr(X, Y ) = ±1 Chứng minh (i) | Corr(X, Y )| ≤ Đặt X = X − EX Y = Y − EY ∀t ∈ R, ta có: E(tX + Y )2 ≥ ⇔ EX t2 + 2EtX Y + EY ≥0⇔ E(X − EX)2 t2 + 2tE(X − EX)(X − EY ) + E(Y − EY )2 ≥ ⇔ V ar(X)t2 + 2t Cov(X, Y ) + V ar(Y ) ≥ Đây tam thức bậc hai theo t, ta có: = Cov2 (X, Y ) − V ar(X)V ar(Y ) ≤ ⇔ Cov2 (X, Y ) ≤ V ar(X)V ar(Y ) | Cov(X, Y )| ⇔ | Cov(X, Y )| ≤ V ar(X) V ar(Y ) ⇔ ≤ V ar(X) V ar(Y ) Quá trình dừng ứng dụng SVTH: Nguyễn Thị Kim Hạnh Giải Xét Φ(z) = − 1.5z + 0.56z ;Φ(z) = có nghiệmz1 = 10 ;z2 = nằm ngồi đường trịn đơn vị Vậy(Xt ) q trình dừng Ví dụ 2.16 Cho dãy (Xt ) thỏa mãn phương trình sai phân Xt = pXt−1 + Wt , Wt nhiễu trắng với σ = Wt không tương quan với Xs với s < t Tìm p > để Xn trình dừng Giải Xét Φ(z) = − pz Φ(z) = ⇔ − pz = ⇔ pz = ⇔ z = p Để Xt trình dừng thì: |z| > ⇔ >1⇔01 z2 = Xt trình dừng ⇔ |z| < ⇔ √1 p Với p < z2 = 1 ⇔ −z = − > p p ⇔ i2 z = − > p ⇔ i.z = √ −p 1 i ⇔ z = √ = √ (−i) = − √ −p i −p −p ⇒ |z| = Xt trình dừng ⇔ |z| < ⇔ √1 −p 1 = =√ −p −p −p √ < ⇔ −p > ⇔ −p > ⇔ p < −1 02 + Vậy (Xt ) trình dừng |p| > 17 Quá trình dừng ứng dụng SVTH: Nguyễn Thị Kim Hạnh Định lý 2.18 Nếu (Xt ; t ∈ Z) trình dừng tự hồi cấp p: Xt = δ + α1 Xt−1 + α2 Xt−2 + + αp Xt−p + Wt µt = E(Xt ) = δ − α1 − − αp Chứng minh Ta có Xt = δ + α1 Xt−1 + α2 Xt−2 + + αp Xt−p + Wt Suy E(Xt ) = E(δ + α1 Xt−1 + α2 Xt−2 + + αp Xt−p + Wt ) ⇒ µt = δ + α1 µt + α2 µt + + αp µt ⇒ µt = δ − α1 − − αp Định lý 2.19 Cho (Xt ; t ∈ Z) trình dừng tự hồi quy cấp p: Xt = δ + α1 Xt−1 + α2 Xt−2 + + αp Xt−p + Wt Khi hàm hiệp phương sai γ(h) nghiệm phương trình Yule-Walker α1 γ(h − 1) + α2 γ(h − 2) + + αp γ(h − p) = γ(h) α1 γ(1) + α2 γ(2) + + αp γ(p) + σ = γ(0) Từ định lí ta có  ρ(1)  ρ(1)  ρ(p − 1) ρ(p − 2)     ρ(p − 1) α1 ρ(1) ρ(p − 2) α2  ρ(2) =      αp ρ(p) Chứng minh Khơng tính tổng qt ta giả sử δ = 0, ta có: Xt = α1 Xt−1 + α2 Xt−2 + + αp Xt−p + Wt Suy Xt Xt+h = α1 Xt−1 Xt+h + α2 Xt−2 Xt+h + + αp Xt−p Xt+h + Wt Xt+h γ(h) = Cov(Xt+h ; Xt ) = E(Xt+h Xt ) = α1 E(Xt−1 Xt+h ) + α2 E(Xt−2 Xt+h ) + + αp E(Xt−p Xt+h ) + E(Wt Xt+h ) = α1 γ(h − 1) + α2 γ(h − 2) + + αp γ(h − p) với h = 1, 2, , p 18 Quá trình dừng ứng dụng SVTH: Nguyễn Thị Kim Hạnh Và γ(0) = E(Xt Xt ) = α1 E(Xt−1 Xt ) + α2 E(Xt−2 Xt ) + + αp E(Xt−p Xt ) + E(Wt Xt ) = α1 γ(−1) + α2 γ(−2) + + αp γ(−p) + E(Wt )2 = α1 γ(1) + α2 γ(2) + + αp γ(p) + σ Ví dụ 2.20 Cho (Xt ; t ∈ Z) trình dừng tự hồi quy cấp 2: Xt = + 1.5Xt−1 − 0.56Xt−2 + Wt , Wt nhiễu trắng với σ = Tìm E(Xt ), V ar(Xt ), ρ(h) Giải E(Xt ) = 1−1.5+0.56 = 50 Ta có: V ar(Xt ) = γ(0) γ(h) ρ(h) = γ(0) Ta có γ(h) nghiệm phương trình Yule-Walker: γ(h) = 1, 5γ(h − 1) − 0, 56γ(h − 2) thay h = h = ta  1.5γ(0) − 0.56γ(1) 1.5γ(1) − 0.56γ(0) 1.5γ(1) − 0.56γ(2) + σ   32500  γ(0) =   1683      = γ(1) 31250 = γ(2) ⇔ γ(1) =  1683  = γ(0)      γ(2) = 28675 1683 19, 31 18, 57 17, 04 32500 19, 31 1683 γ(1) 25 ρ(1) = = 0, 96 γ(0) 26 γ(2) 1147 ρ(2) = = 0, 88 γ(0) 1300 ⇒ V ar(Xt ) = γ(0) = Với h > 2: ρ(h) = 1, 5ρ(h − 1) − 0, 56ρ(h − 2) Ví dụ 2.21 Cho q trình dừng tự hồi quy cấp 1: Xt = 0, 5Xt−1 + Wt với Wt nhiễu trắng có kì vọng phương sai 1; Xt không tương quan với Ws với t 19 Quá trình dừng ứng dụng SVTH: Nguyễn Thị Kim Hạnh s Xét trình ngẫu nhiên (Yt ) xác định Yt = X2t a) Chứng minh Yt trình dừng tự hồi quy b) Tính V ar(Yt ) Giải a) Yt = X2t = 0, 5X2t−1 + W2t = 0, 5(0, 5X2t−2 + W2t−1 ) + W2t = 0, 25Yt−t + (0, 5W2t−1 + W2t ) Vậy Yt = 0, 25Yt−1 + Vt (*) với Vt = 0, 5W2t−1 + W2t Ta có E(Vt ) = 0; V ar(Vt ) = 1, 25; E(Vt Vs ) = với t = s nên Vt dãy ồn trắng Do Xt không tương quan với Ws với t s nên Yt không tương quan với Vs với t < s Đa thức kết hợp (*) nghiệm đường trịn đơn vị Do Yt chuỗi thời gian dừng tự hồi quy γ(1) = 0, 25γ(0) γ(0) = γ(1) + 1, 25 Vì V ar(Yt ) = γ(0) = 53 ⇔ b) Ta có γ(0) = γ(1) = 5 12 Ví dụ 2.22 Cho chuỗi thời gian (Xt ) trình tự hồi quy AR(2): Xt = 2Xt−1 − 3Xt−2 + Wt , Trong Wt nhiễu trắng có kì vọng độ lệch chuẩn a) Chứng minh (Xt ) trình dừng Tính Cov(Xt+1 , Wt ) b) Xác định hàm hiệp phương sai γ(h) Giải a) Đa thức kết hợp: f (z) = − 2z + 3z − 2z + 3z = ⇔ z1 = √ 1+ 2i , z2 = √ 1− 2i |z1 | = |z2 | = √ 3 = Đa thức kết hợp khơng có nghiệm đường tròn đơn vị nên Xt chuỗi thời gian dừng Cov(Xt+1 ; Wt ) = E(Xt+1 Wt ) − E(Xt+1 )E(Wt ) = E(Xt+1 Wt ) = E[(2Xt − 3Xt−1 + Wt+1 )Wt ] = 2E(Xt Wt ) − 3E(Xt−1 Wt ) + E(Wt+1 Wt ) = 2E(Xt Wt ) = 2E[(2Xt−t − 3Xt−2 + Wt )Wt ] = 4E(Xt−1 Wt ) − 6E(Xt−2 Wt ) + 2E(W t ) = 2E(W t ) = 20 Quá trình dừng ứng dụng b) SVTH: Nguyễn Thị Kim Hạnh  γ(1) = 2γ(0) − 3γ(1)      ⇔ γ(2) = 2γ(1) − 3γ(0)  γ(0) =      γ(1) =           γ(0) = 2γ(1) − 3γ(2) + γ(2) = 3 Vậy  γ(0) =    3 γ(1) = γ(2) =    h > : γ(h) = 2γ(h − 1) − 3γ(h − 2) Định lý 2.23 Quá trình tự hồi quy AR(p) Xt = δ + α1 Xt−1 + + αp Xt−p + Wn có biểu diễn trung bình trượt phía ∞ βi Wn−i Xt = µ + i=0 đa thức kết hợp Φ(z) = − a1 z − − ap z p khơng có nghiệm hình trịn đơn vị |z| ≤ 2.2.1 Q trình trung bình trượt tự hồi quy Định nghĩa 2.24 Chuỗi thời gian (Xt ; t ∈ Z) gọi trình trung bình trượt tự hồi quy cấp (p, q), kí hiệu ARMA(p, q ), thỏa mãn Xt = δ + α1 Xt−1 + α2 Xt−2 + + αp Xt−p + Wt + β1 Wt−1 + + βq Wt−q , Wt nhiễu trắng với tham số σ Wt không tương quan với Xs với s < t Toán tử lùi Kí hiệu B tốn tử lùi bước xác định BXt = Xt−1 Khi B i Xt = Xt−i , Nếu P (z) = m i i=0 ci z B Xt = X t đa thức bậc m tốn tử P (B) định nghĩa sau m m i P (B)Xt = ci B X t = i=0 ci Xt−i i=0 Như trình trung bình trượt tự hồi quy ARMA(p, q ) viết dạng Φ(B)Xt = Θ(B)Wt 21 Quá trình dừng ứng dụng SVTH: Nguyễn Thị Kim Hạnh Định lý 2.25 Cho (Xt ; t ∈ Z) trình trung bình trượt tự hồi quy ARMA(p, q ): Xt = δ + α1 Xt−1 + α2 Xt−2 + + αp Xt−p + Wt + β1 Wt−1 + + βq Wt−q Khi (Xt ) trình dừng đa thức kết hợp Φ(z) = − α1 x − α2 z − − αp z p = khơng có nghiệm đường tròn đơn vị |z| = Chứng minh Giả sử đa thức Φ(z) khơng có nghiệm đường trịn đơn vị |z| = Khi từ kết lý thuyết hàm biến phức tồn δ > cho = Λ(z) = Φ(z) ∞ i=−∞ |ci | miền − δ < |z| < + δ với ∞ ci z i i=−∞ < ∞.Đặt Θ(z) H(z) = = Θ(z)Λ(z) = Φ(z) Trong Θ(z) = ∞ hi z i i=−∞ q i i=0 βi z ∞ Xt = Θ(B)Λ(B) = H(B)Wt = hi Wt−i i=−∞ Khi (Xn ) dãy dừng trung bình trượt hai phía Φ(B)Xt = Φ(B)H(B)Wt Θ(B) Φ(B) Wt = Θ(B)Wt Φ(B) Định lý 2.26 Quá trình ARMA(p, q ) Xt = δ + α1 Xt−1 + α2 Xt−2 + + αp Xt−p + Wt + β1 Wt−1 + + βq Wt−q có biểu diễn trung bình trượt phía ∞ Xt = µ + ψi Wt−i i=0 đa thức kết hợp Φ(z) = − a1 z − − ap z p khơng có nghiệm hình trịn đơn vị |z| ≤ 22 Quá trình dừng ứng dụng SVTH: Nguyễn Thị Kim Hạnh Chứng minh Chứng minh tương tự dựa kiện có khai triển thành chuỗi lũy thừa ∞ Λ(z) = = Φ(z) ci z i i=0 Θ(z) H(z) = = Θ(z)Λ(z) = Φ(z) ∞ hi z i i=0 Các hệ số (hi ) biểu diễn trung bình trượt phía Xt = µ + ∞ i=0 ψi Wt−i xác định từ quan hệ Θ(z) → Φ(z)H(z) = Θ(z) Φ(z) (1 − α1 z − · · · − αp z p )(h0 + h1 z + · · · ) = + β1 z + · · · + βq z q H(z) = Suy h0 = h1 = β1 + α1 h2 = β2 + α1 h1 + α2 ············ ············ j hj = βj + = αk hj−k , j = 0, k=1 βj = j > q αk = k > p 2.3 Hàm tự tương quan riêng Như ta biết hàm tự tương quan trình trung bình trượt MA(q ), hàm tự tương quan ρ(h) = h > q Do hàm tự tương quan MA(q ) cung cấp cho thông tin cấp phụ thuộc chuỗi Tuy nhiên với trình ARMA hay trình AR, hàm tự tương quan k cung cấp cho thơng tin cấp độ phụ thuộc Do ta cần đưa hàm tương tự hàm tự tương quan trình MA(q ) cho trình ARp), hàm gọi hàm tự tương quan riêng (PACF) Cho Q trình dừng (Xt ) có kì vọng Với h > kí hiệu Xˆ t+h ước lượng hồi quy tuyến tính tốt Xt+h dãy {Xt+h−1 ; Xt+h−1 ; ; Xt+1 } theo nghĩa E(Xt+h − Xˆ t+h )2 đạt giá trị nhỏ Ta viết Xˆ t+h dạng ˆ t+h = ψ1 Xt+h−1 + ψ2 Xt+h−2 + + ψh−1 Xt−1 , X 23 (2.1) Quá trình dừng ứng dụng SVTH: Nguyễn Thị Kim Hạnh Kí hiệu Xˆ t ước lượng hồi quy tuyến tính tốt Xt dãy {Xt+1 ; Xt+2 ; ; Xt+h−1 } Do (Xt ) chuỗi dừng nên ta có ˆ t = ψ1 Xt+1 + ψ2 Xt+2 + + ψh−1 Xt+h−1 X (2.2) Định nghĩa 2.27 Hàm tự tương quan riêng (PACF) chuỗi dừng (Xt ) xác định φ(1) = Corr(Xt+1 , Xt ) = ρ(1) ˆ t+h , Xt − X ˆ t ), φ(h) = Corr(Xt+h − X h > Chú ý Xt+h − Xˆ t+h Xt − Xˆ t không tương quan với {Xt+1 ; Xt+2 ; ; Xt+h−1 } Ví dụ 2.28 Xét trình AR(1): Xt = pXt−1 + Wt với |p| < Khi φ(1) = ρ(1), φ(h) = với h > Ví dụ 2.29 Xét q trình AR(p): Xt = α1 Xt−1 + + αp Xt−p + Wt Với h > p, ước lượng tốt Xt+h dãy {Xt+h−1 ; Xt+h−1 ; ; Xt+1 } ˆ t+h = α1 Xt+h−1 + + αp Xt+h−p X Do với h > p, ˆ t+h , Xt − X ˆ t ) = φ(h) = Corr(Xt+h − X Ta có bảng tổng hợp sau AR(p) MA(q ) ARMA(p, q ) ACF ρ(h) → h → ∞ ρ(h) = với h > q ρ(h) → h → ∞ PACF φ(h) = với h > q φ(h) → h → ∞ φ(h) → h → ∞ 2.3.1 Bài toán dự báo Xét q trình dừng (Xt ; t ∈ Z), khơng tính tổng qt ta ln giả thiết E(Xt ) = Nội dung toán dự báo là: giả sử quan sát giá trị trình thời điểm 1, 2, , n X1 , X2 , , Xn Trên sở ta muốn dự báo cách "tốt nhất" giá trị trình Xn+h thời điểm n + h tương lai Định nghĩa 2.30 Dự báo tuyến tính Xn+h (h ≥ 1) X1 , X2 , , Xn tổ hợp tuyến tính S = S(a1 , , an ) = a1 X1 + + an Xn Dự báo S gọi tốt sai số bình phương trung bình E(Xt+h − S)2 nhỏ 24 Quá trình dừng ứng dụng SVTH: Nguyễn Thị Kim Hạnh Dự báo q trình AR(p) Giả sử ta có (Xt ) trình tự hồi quy AR(p): Xt = α1 Xt−1 + α2 Xt−2 + + αp Xt−p + Wt (2.3) Trước hết ta xét h = Ta có Xt+1 = α1 Xt + α2 Xt−1 + + αp Xt−p+1 + Wt+1 Đặt St+1 = α1 Xt + α2 Xt−1 + + αp Xt−p+1 ta chứng tỏ St+1 dự báo tốt tổ hợp tuyến tính Xt , Xt−1 , , Xt−p+1 Thật vậy, Y tổ hợp tuyến tính khác Xt , Xt−1 , , Xt−p+1 ta có E(Xt+1 − Y )2 = E(St+1 + Wt+1 − Y )2 ) + 2E((Wt+1 )(St+1 − Y )) + E(St+1 − Y )2 E(Wt+1 E(Wt+1 ) + E(St+1 − Y )2 ≥ E(Wt+1 ) = E(St+1 − Xt+1 )2 Với h = ta có Xt+2 = α1 Xt+1 + α2 Xt + αp Xt−p+2 + Wt+2 = α1 (α1 Xt + α2 Xt−1 + + αp Xt−p+1 + Wt+1 ) + α2 Xt + + αp Xt−p+2 + Wt+2 = (α12 − α2 )Xt + (α1 α2 − α3 )Xt−1 + + (α1 αp−1 − αp )Xnαp +2 + a1 ap Xn−p+1 + α1 Wt+1 + Wt+2 Tương tự trường hợp h = 1, ta chứng minh St+2 = (α12 − α2 )Xt + (α1 α2 − α3 )Xt−1 + + (α1 αp−1 − αp )Xt−p+2 + a1 ap Xn−p+1 dự báo tuyến tính tốt Bằng quy nạp ta dễ thấy dự báo tuyến tính tốt Xt+h tổ hợp tuyến tính p giá trị Xt , Xt−1 , , Xt−p+1 : p St+h = ci (h)Xt+1−i i=1 Như để làm dự báo cho trình dừng AR(p) ta cần quan tâm tới giá trị p − giá trị khứ đủ Ví dụ 2.31 Cho chuỗi thời gian (Xt ) thỏa mãn phương trình tự hồi quy AR(2): Xt = Xt−1 − 2Xt−2 + Wt , Trong Wt nhiễu trắng có kì vọng độ lệch chuẩn Cho X99 = 0, 02 X100 = −0, 01 Hãy dự báo giá trị X102 25 Quá trình dừng ứng dụng SVTH: Nguyễn Thị Kim Hạnh Giải Dự báo giá trị X101 ∗ = X100 − 2X99 = −0, 01 − 2.0, 02 = −0, 05 X101 Do dự báo giá trị X102 ∗ X102 = X100 − 2X99 = −0, 01 − 2.0, 02 = −0, 05 ∗ = X101 − 2.X100 = −0, 05 + 2.0, 01 = −0, 03 Đối với trình dừng tổng quát, ta có định lí sau Định lý 2.32 Cho q trình dừng (Xt ; t ∈ Z) Dự báo tuyến tính tốt Xn+h (h ≥ 1) X1 , X2 , , Xn ∗ Xn+h = E(Xn+h /X1 , X2 , , Xn ) Định lý 2.33 Cho trình dừng (Xt ; t ∈ Z) Dự báo tuyến tính tốt Xn+h (h ≥ 1) X1 , X2 , , Xn n ∗ Xn+h = aj X j , j=1 a1 , a2 , ,an thỏa mãn hệ phương trình sau: ∗ E[(Xn+h − Xn+h )Xj ] = 0, j = 1, 2, , n, Trước hết ta xét dự báo bước Tức cho X1 , X2 , , Xn , ta dự báo giá trị chuỗi thời gian thời điểm n + (dự báo giá trị Xn+1 ) Ta tìm dự báo giá trị Xn+1 dạng ∗ Xn+1 = φn1 Xn + φn2 Xn−1 + + φnn X1 Áp dụng Định lí 2.33 ta có n E[(Xn+1 = φnj Xn+1−j )Xn+1−k ] = 0, k = 1, 2, , n j=1 tương đương với n φnj=1 γ(k − j) = γ(k), k = 1, 2, , n (2.4) j=1 Dạng ma trận (2.4) Γnφ n = γ n , Γn = [γ(k − j)]n×n , φ n = [φn1 φnn ] , γ n = [γ(1) γ(n)] Nếu Γn khả nghịch nghiệm (2.4) φ n = Γ−1 n γ n 26 Quá trình dừng ứng dụng SVTH: Nguyễn Thị Kim Hạnh Sai số bình phương trung bình dự báo bước ∗ ∗ )2 = γ(0) − γ n Γ−1 = E(Xn+1 − Xn+1 Pn+1 n γ n Chú ý (Xt ) trình dừng ARMA Γn khả nghịch Định lý 2.34 (The Durbin-Levinson Algorithm) Nghiệm phương trình φ n = Γ−1 n γn φ00 = Với n ≥ φnn = ρ(n) − 1− n−1 k=1 φn−1,k ρ(n − k) , n−1 φ ρ(k) n−1,k k=1 (2.5) đó, với n ≥ 2, φnk = φn−1,k − φnn φn−1,n−k , k = 1, 2, , n − Định lý 2.35 Hàm tự tương quan riêng trình dừng (Xt ) xác định φ(n) = φnn , φnn xác định (2.6) Áp dụng định lí ta có (Xt ) trình AR(p) Xt = δ + α1 Xt−1 + + +αp Xt−p + Wt φ(p) = αp 2.4 2.4.1 Ước lượng tham số Ước lượng hàm hiệp phương sai hàm tự tương quan Giả sử ta có mẫu số liệu q trình dừng (Xt ) x1 , x2 , , xn ta có ước lượng hàm γ(.) ρ(.) γˆ (h) = n − |h| n−|h| (xi − x)(xi+|h| − x), i=1 ρˆ(h) = 2.4.2 γˆ (h) γˆ (0) Ước lượng hàm tự tương quan riêng Cho X1 , , Xn giá trị quan sát trình dừng (Xt ) thời điểm 1, 2, , n Gọi Xˆ h+1 ước lượng hồi quy tuyến tính tốt Xh+1 dãy X1 , , Xh theo nghĩa E(Xh1 − Xˆ h+1 )2 đạt giá trị nhỏ Giả sử ˆ h+1 = φh1 X1 + φh2 X2 + + φhh Xh X 27 Quá trình dừng ứng dụng SVTH: Nguyễn Thị Kim Hạnh Áp dụng Định lí 2.6 ta có φhh = h−1 k=1 φh−1,k ρ(h − k) , h−1 φ ρ(k) h−1,k k=1 ρ(h) − 1− (2.6) đó, với h ≥ 2, φhk = φh−1,k − φhh φh−1,h−k , k = 1, 2, , h − Khi φ(h) = φhh 2.4.3 Ước lượng tham số trình tự hồi quy A(p) Xét trình dừng tự hồi quy AR(p) Xn = α1 Xn−1 + α2 Xn−2 + + αp Xn−p + Wn thỏa mãn điều kiện Wn không tương quan với Xn−1 , Xn−2 , Có phương pháp ước lượng tham số α1 , α2 , , αp σ = V ar(Wn ) Phương pháp ước lượng bình phương tối thiểu Kí hiệu U = [Xn−1 Xn−p ], θ = [α1 αp ] ta có dạng ma trận trình dừng A(p) Xn = U θ + Wn Giả sử ta có mẫu số liệu Xn X1 , x2 , , xn đặt un = (xn−1 xn−p ), ta có xn = u n θ + w n Ước lượng bình phương tối thiểu tham số θ giá trị θˆ = (ˆ α1 ˆ αp ) cho n (xn − un θ)2 Q(θ) = n=p+1 đạt giá trị nhỏ θˆ = (ˆ α1 ˆ αp ) Đặt  X = [xp+1 xn ] ,  xp xp−1 x1 x xp x2  U =  p+1  xn xn−1 xn−p ta có dạng ma trận Q(θ) Q(θ) = [X − U θ] [X − U θ] Định lý 2.36 Ước lượng bình phương tối thiểu tham số θ = (α1 , α2 , , αn ) σ = V ar(Wn ) θˆ = U U −1 U X, 28 σ ˆ2 = ˆ Q(θ) n−p Quá trình dừng ứng dụng SVTH: Nguyễn Thị Kim Hạnh Phương pháp Yule - Walker Ta ước lượng α1 , α2 , , αp qua hệ phương trình Yule - Walker sau:      ρ(1) ρ(p − 1) ρ(p − 2)  ρ(1)  ρ(p − 1) α1 ρ(1) ρ(p − 2) α2  ρ(2) =      αp ρ(p) Ước lượng σ = V ar(Wn ) phương trình: α1 γ(1) + a2γ(2) + + αp γ(p) + σ = γ(0) 2.4.4 Q trình trung bình trượt tích hợp tự hồi quy Một Q trình ngẫu nhiên dừng không dừng Một chuỗi không dừng gọi đồng tích hợp bậc sai phân bậc chuỗi chuỗi dừng kí hiệu I(1) Nếu chuỗi khơng dừng có sai phân bậc d chuỗi dừng gọi đồng tích hợp bậc d kí hiệu I(d) Nếu chuỗi xuất phát chuỗi dừng gọi đồng tích hợp bậc 29 KẾT LUẬN Sau thời gian tìm hiểu, học hỏi từ tài liệu thầy T.S Lê Văn Dũng cung cấp, hướng dẫn, hồn thành đề tài Kết đạt được: Tổng hợp kiến thức sở không gian xác suất, biến ngẫu nhiên, đại lượng đặc trưng biến ngẫu nhiên Trình bày chuỗi thời gian, đưa định nghĩa trình dừng, trình tự hồi qui, hàm tự tương quan riêng, ước lượng tham số, đưa định lý, ví dụ minh họa chứng minh Do thời gian thực khơng nhiều, kiến thức cịn hạn chế nên khóa luận cịn nhiều thiếu sót, mong nhận ý kiến đóng góp q thầy bạn đọc! 30 TÀI LIỆU THAM KHẢO [1] Nguyễn Viết Phú Nguyễn Duy Tiến (2007), Cơ sở lý thuyết xác suất, NXB ĐHQG Hà Nội [2] Nguyễn Duy Tiến Vũ Viết Yên (2009), Lý thuyết xác suất, NXB Giáo dục [3] Đặng Hùng Thắng (2006), Quá trình ngẫu nhiên tính tốn ngẫu nhiên, NXB ĐHQG Hà Nội [NN] humway, Robert H., Stoffer, David S (2011), Time Series Analysis and its Applications With R Examples, Springer New York Dordrecht Heidelberg London 31 ... biến ngẫu nhiên học để áp dụng vào tìm hiểu q trình dừng ứng dụng • Hỏi,trao đổi tham khảo ý kiến giáo viên hướng dẫn,nghiên cứu trình dừng ứng dụng Quá trình dừng ứng dụng SVTH: Nguyễn Thị Kim... ví dụ, chứng minh rõ ràng trình dừng ứng dụng Cấu trúc luận văn Bố cục bao gồm chương : • Chương Kiến thức sở,hệ thống hóa kiến thức liên quan để hổ trợ cho việc tìm hiểu trình dừng ứng dụng •... √ < ⇔ −p > ⇔ −p > ⇔ p < −1 02 + Vậy (Xt ) trình dừng |p| > 17 Quá trình dừng ứng dụng SVTH: Nguyễn Thị Kim Hạnh Định lý 2.18 Nếu (Xt ; t ∈ Z) trình dừng tự hồi cấp p: Xt = δ + α1 Xt−1 + α2 Xt−2