Báo Cáo Tiểu luận tốt nghiệp TIME SERIES

ĐẠI HỌC QUỐC GIA THÀNH PHỐ HỒ CHÍ MINH TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN KHOA TOÁN-TIN HỌC ————oOo———— Báo Cáo Tiểu luận tốt nghiệp TIME SERIES NHÓM THỰC HIỆN : LƯU TẤN LỘC − HUỲNH TẤN PHÁT GIẢNG VIÊN : GSTS DƯƠNG MINH ĐỨC THÀNH PHỐ HỒ CHÍ MINH 2012 Mục lục Chương QUÁ TRÌNH DỪNG ARMA 1.1 Causal and Invertible ARMA process Định nghĩa 1.1 (Quá trình dừng) Một chuỗi thời gian {Xt , t ∈ Z} gọi dừng thoả tính chất sau (i) E |Xt |2 < ∞ ∀t ∈ Z (ii) EXt = m ∀t ∈ Z (iii) γX (r, s) = γX (r + t, s + t) ∀r, s, t ∈ Z γX (r, s) ký hiệu hàm hiệp phương sai hai biến ngẫu nhiên Xr Xs thời điểm r, s tính theo công thức γX (r, s) = cov(Xr Xs ) = E{[Xr − E(Xr )][Xs − E(Xs )]} Định nghĩa 1.2 Một trình Zt gọi White Noise (WN) với trung bình phương sai σ (i) EXt = ∀t ∈ Z (ii) có hàm tự hiệp phương sai dạng γ(t, t + h) = γ(h) = σ2 h = 0 h=0 Được ký hiệu W N ≈ (0, σ ) Định nghĩa 1.3 (Quá trình ARMA(p,q)) Một trình {Xt , t = 0, ±1, } gọi trình ARMA(p,q) Xt trình dừng với t ta có Xt − φ1 Xt−1 − φ2 Xt−2 − − φp Xt−p = Zt + θ1 Zt−1 + θ2 Zt−2 + + θq Zt−q (1.1.1) {Zt } ≈ W N (0, σ ) θi , φi hệ số cố định Để thuận tiện mặt ký hiệu cho phương trình (1.1.1) ta định nghĩa khái niệm θ đa thức bậc q φ đa thức bậc p sau φ(z) = − φ1 z − φ2 z − − φp z p θ(z) = − θ1 z − θ2 z − − θq z q (1.1.2) B toán tử "Backward shift" định nghĩa B j Xt = Xt−j j = 0, ±1, (1.1.3) Khi phương trình (1.1.1) viết dạng rút gọn sau φ(B)Xt = θ(B)Zt t = 0, ±1, (1.1.4) Ví dụ 1.1 (MA(q) Trung bình di động cấp q) Nếu φ(z) ≡ theo (1.1.2) ta có (1.1.5) Xt = θ(B)Zt Quá trình gọi trình trung bình di động cấp q hay MA(q) Trong trường hợp ta thấy Xt lời giải phương trình (1.1.5), ta kiểm tra Xt chuỗi dừng Để kiểm tra trình Xt trình dừng ta cần có (i) Giá trị hàm trung bình số không phụ thuộc vào t Ta có Xt = Zt + θ1 Zt−1 + θ2 Zt−2 + + θq Zt−q lấy trung bình vế ta q E(Xt ) = E(Zt + θ1 Zt−1 + θ2 Zt−2 + + θq Zt−q ) = θi E(Zt−i ) = i=0 với θ0 = ∀t, E(Xt ) = ta có điều cần cm (ii) Chỉ hàm hiệp phương sai phụ thuộc vào sai biệt mốc thời gian, điều dẫn đến việc ta cần tính giá trị công thức Cov(Xt+h , Xt ) với h = 0, ±1, Ta có Cov(Xt+h , Xt ) = E[(Xt+h − E(Xt+h ))(Xt − E(Xt ))] = E[Xt+h Xt ] (1.1.6) q q θj Zt−j ] θi Zt+h−i = E[ j=0 i=0 Để ý {Zt } ≈ W N (0, σ ) nên i=j σ2 i = j E(Zi Zj ) = (1.1.7) •TH1: |h| > q Ta có {Zt+h−1 , Zt+h−2 , , Zt+h−p } {Zt−1 , Zt−2 , , Zt−p } = ∅ Vậy từ (1.1.6) (1 1.7) cho ta kết p E[ p θj Zt+h−j j=0 θj Zt−j ] = j=0 •TH2: |h| ≤ q Ta cần tính q E q θi Zt+h−i i=0 q θj Zt−j = j=0 q θi Zt+h−i Ω i=0 θj Zt−j dµ j=0 Để ý với tính chất trình W N nên sau nhân phân phối biểu thức dấu tích phân lấy tích phân vào lại phần tử mà có số biến ngẫu nhiên Z Nên ta Với ≤ h ≤ q 2 V P = θh θ0 E(Zt2 ) + θh+1 θ1 E(Zt−1 ) + + θq−h−1 θq−1 E(Zt−(q−1) ) + θq−h θq E(Zt−q ) = θh θ0 σ + θh−1 θ1 σ + + θq−h−1 θq−1 σ + θq−h θq σ q−h =σ θi+h θi i=0 Với −q ≤ h ≤ 2 V P = θ−h θ0 E(Zt2 ) + θ−h−1 θ1 E(Zt−1 ) + + θq+h−1 θq−1 E(Zt−(q−1) ) + θq−1 θp E(Zt−q ) = θ−h θ0 σ + θ−h−1 θ1 σ + + θq+h−1 θq−1 σ + θq+h θq σ q+h =σ θi−h θi i=0 Vậy cuối ta công thức tổng quát hàm tự hiệp phương sai trình AM(q) Cov(Xt+h , Xt ) =   |h| > q q−|h|  σ2 (1.1.8) θi θi+|h| |h| ≤ q i=1 Ta thấy (1.1.8) phục thuộc vào h không phụ thuộc vào t, có điều cần cm Trong ví dụ ta xét trường hợp đơn giản của trình ARMA(p,q) trình MA(q) Ta tiếp tục tìm lời giải cho phương trình sai phân tổng quát ARMA(p,q) định nghĩa công thức (1.1.1) Để tìm lời giải cho phương trình sai phân tổng quát ta cần giới thiệu khái niệm causality Ta có định nghĩa Định nghĩa 1.4 (Causal funtion) Một trình ARMA(p,q) cho công thức φ(B)Xt = θ(B)Zt gọi causal ∞ |ψj | < ∞ (causal function) theo Zt tồn dãy số {ψj }j∈N cho j=0 ∞ ψj Zt−j t = 0, ±1, Xt = (1.1.9) j=0 Điều có nghĩa với t Z ta biểu diễn dạng tổng vô hạng trình WN với hệ số Khi với phương trình sai phân φ(B)Xt = θ(B)Zt Xt biểu diễn xem nghiệm trình trên, tính toán hồi quy ta cần tìm hệ số ψj để từ dự đoán giá trị hồi quy Xt Nhưng trước hết ta cần tìm số điều kiện trình ARMA(p,q) cho phương trình (1.1.4) có nghiệm, để làm ta cần số mệnh đề trung gian Mệnh đề 1.1 Nếu {Xt } dãy biến ngẫu nhiên (Ω, M, P ) cho ∞ sup E |Xt | < ∞ t∈Z |ψj | < ∞, ta đặt chuỗi j=−∞ ∞ ∞ ψj B j Xt = ψ(B)Xt ψj Xt−j = j=−∞ j=−∞ (1.1.10) chuỗi có tính chất sau (i) ψ(B)Xt hội tụ tuyệt đối hầu khắp nơi (ii) Và sup E|Xt |2 < ∞ chuỗi hội tụ L2 t∈Z Nhắc lại: ”B” toán tử "BACKWARD SHIFT" ψ(z) đa thức định nghĩa công thức (1.1.2) (1.1.3) Chứng minh (i) Đặt     s(x) = ∞ |ψj | |Xt−j (x)| j=−∞ n    sn (x) = |ψj | |Xt−j (x)| j=−n Cần chứng minh s(x) < ∞ Ta có (1.1.11) hkn lim sn (x) = s(x) n→∞ sn+1 (x) ≥ sn (x) ∀x ∈ Ω ∀x ∈ Ω lim sn (x) = s(x) giới hạn xét giới hạn sử đụng lý thuyết n→∞ độ đo tiến vô Khi áp dụng định lý hội tụ đơn điệu ta có kết sau ∞ n |ψj | |Xt−j (x)| Ω j=−∞ |ψj | |Xt−j (x)|dP dP = lim n→∞ Ω j=−n n |ψj | = lim n→∞ j=−n |Xt−j (x)|dP Ω n ≤ lim n→∞ |ψj | sup E |Xt | t∈T j=−n ∞ = sup E |Xt | t∈Z |ψj | < ∞ j=−∞ Đặt A = {x ∈ Ω|s(x) = ∞} ta cần chứng minh P (A) = Gọi An = {x ∈ Ω|s(x) ≥ n} Ta thấy A = An A1 ⊃ A2 ⊃ A3 P (A1 ) < P (Ω) = Vậy ta suy P (A) = lim P (An ) n→∞ Mặt khác ta có ndP ≤ nP (An ) = An s(x)dP ≤ An s(x)dP Ω Mà ta vừa chứng minh s(x)dP < ∞ Ω Vậy tồn M > cho nP (An ) ≤ M ⇔ P (An ) ≤ M n Cho n tiến vô ta thu kết P (A) = Vậy ta có ψ(B)Xt hội tụ tuyệt đối hầu khắp nơi (ii) Đặt     s(x) = ∞ ψj Xt−j (x) j=−∞ n    sn (x) = ψj Xt−j (x) j=−n Ta cần chứng minh lim sn (x) − s(x) n→∞ Ta có lim sn (x) − s(x) L2 =0  21  n→∞ L2 |sn (x) − s(x)|2 dP  = lim  n→∞ Ω hay lim sn (x) − s(x) n→∞ L2   = lim  |sn (x) − s(x)|2 dP  n→∞ Ω Đến ta thấy cần chứng minh   |sn (x) − s(x)|2 dP  = lim  n→∞ (1.1.12) Ω Đặt fn = |sn (x) − s(x)|2   ∞ |ψj | |Xt−j (x)|  g= j=−∞ Để chứng minh (1.1.12) ta sử dụng định lý hội tụ bị chặn: • lim fn (x) = hkn (do phần i) n→∞ • Ta cần tìm hàm h thuộc lớp làm L1 (Ω) cho fn ≤ h, ∀n ∈ N Ta có |sn (x) − s(x)| ≤ 2g Hay fn = |sn (x) − s(x)|2 ≤ 4g Ta chọn h = 4g Vậy ta cần chứng minh g hàm sô thuộc lớp L1 Thật vậy, đặt n |ψj | |Xt−j | gn = j=−n Ta có n |ψj | |Xt−j | lim gn = lim n→∞ n→∞ ∞ = g2 |ψj | |Xt−j (x)| = j=−n j=−∞ Do theo định lý hội tụ đơn điệu g dP = lim n→∞ Ω Đặt M = supt∈N E|Xt |2 gn dP Ω < ∞, áp dụng bất đẳng thức Minskovki ta n ≤ |ψj | |Xt−j | dP j=−n Điều chứng tỏ dãy { gn dP Ω Ω g dP } Ω n n |ψj | = j=−n bị chặn, Vậy mệnh đề chứng minh hoàn toàn Ω |Xt−j | dP Ω g dP hữu hạn ∞ ≤M |ψj | := N j=−∞ 10 Mệnh đề 1.2 Nếu {Xt } trình dừng với hàm tự hiệp phương sai γ(·) ∞ |ψi | < ∞, chuỗi ta đặt i=−∞ ∞ ψj Xt−j Yt = j=−∞ Yt thoả tính chất ∞ (i) Chuỗi ψj Xt−j hội tụ tuyệt đối hầu khắp nơi hội tụ L2 ∀t ∈ Z j=−∞ (ii) Quá trình Yt trình ngẫu nhiên dừng với hàm tự hiệp phương sai ∞ ψi ψk γ(h − j + k) γY (h) = j,k=0 Chứng minh (i) Áp dụng kết mệnh đề 1.1 ta cần kiểm tra điều kiện   sup E|Xt |2 < ∞ t∈N  sup E |Xt | < ∞ t∈N Vì Xt trình dừng nên ta có E(Xt ) = m ∀t (1.1.13) bên cạnh ta có γ(t, t) = E(Xt2 ) − [E(Xt )]2 ⇒ E(Xt2 ) = γ(t, t) + [E(Xt )]2 = γ(0) + m2 < ∞ (1.1.14) E |Xt | ≤ E Xt2 (1.3.5) Chương Các kiến thức chuẩn bị 2.1 Không gian Hilbert Mệnh đề 2.1 ‘ Nếu xn yn hai dãy không gian Hilbert cho lim xn − x = n→∞ lim yn − y = n→∞ ta có kết lim xn = x n→∞ (2.1.1) lim xn , yn = x, y n→∞ 2.2 Phụ lục Kiểm tra công thức (??) (??) Xt − φ1 Xt−1 − φ2 Xt−2 − − φp Xt−p = Zt + θ1 Zt−1 + θ2 Zt−2 + + θq Zt−q (2.2.1) Nhân Xt−k vào hai vế lấy kỳ vọng ta (Xt Xt−k − φ1 Xt−1 Xt−k − φ2 Xt−2 Xt−k − − φp Xt−p Xt−k ) dP VT = Ω Xt Xt−k dP − φ1 = Ω Xt−1 Xt−k dP − − φp Ω Xt−p Xt−k dP Ω = γ(k) − ϕ1 γ(k − 1) − − ϕp γ(k − p) ∀k ∞ Để ý rằng, ARMA(p,q) causal ta có Xt = ψj Zt−j j=0 ∞ VP = Zt Ω ∞ ψj Zt−k−j + θ1 Zt−1 j=0 ∞ ψj Zt−k−j + θ2 Zt−2 j=0 ψj Zt−k−j + + θq Zt−q j=0 27 ∞ ψj Zt−k−j dP j=0 28  q  σ2 θj ψj−k ≤ k < max(p, q + 1) = k=j  k ≥ max(p, q + 1) Kiểm tra công thức (??) Từ (??) ta thu dạng (??) sau γ(h) = β10 ζ1−h + β20 ζ2−h (2.2.2) Ta cần tính β10 β20 Ta tính dạng (??) γ(0) − (ζ1−1 + ζ2−1 )γ(1) + (ζ1−1 ζ2−1 )γ(2) = σ γ(1) − (ζ1−1 + ζ2−2 )γ(0) + (ζ1−1 ζ2−1 )γ(1) = (2.2.3) Từ (??) ta thu   γ(0) = β10 + β20 γ(1) = β10 ζ1−1 + β20 ζ2−1  γ(2) = β10 ζ1−1 + β20 ζ2−1 (2.2.4) Thay (??) vào (??) ta có (β10 + β20 ) − (ζ1−1 + ζ2−1 )(β10 ζ1−1 + β20 ζ2−1 ) + (ζ1−1 ζ2−1 )(β10 ζ1−1 + β20 ζ2−1 ) = σ (2.2.5) (β10 ζ1−1 + β20 ζ2−1 ) − (ζ1−1 + ζ2−2 )(β10 + β20 ) + (ζ1−1 ζ2−1 )(β10 ζ1−1 + β20 ζ2−1 ) = Giải hệ (??) ta thu β10 β20 sau vào ?? ta có kết cần tìm (??) Mệnh đề 2.2 Cho P (z), Q(z) đa thức C định nghĩa p aj z j P (z) = j=0 ∞ bj z j Q(z) = j=0 Biết Q(z) hội tụ P (z) = Q(z) với z ∈ C Khi ta có : b j = aj bj = j≤p j>p Chứng minh : Ta sử dụng phương pháp quy nạp theo p : * Trường hợp p = 0, ta có : ∞ bj z j = a0 , j=0 ∀z ∈ C (2.2.6) 29 Chọn z = , ta : ∗ b = a0 , ∞ (2.2.7) bj z j = ∀z ∈ C ∗ j=1 Từ (??) ta chứng minh bj = với j ≥ Giả sử tồn j0 ≥ cho bj0 = 0, lấy đạo hàm hai vế (??) đến cấp j0 ta : ∞ ck z k = j0 !bj0 + ∀z ∈ C (2.2.8) k=1 Chọn z = ta bj0 = 0, điều mâu thuẫn với giả thiết Vậy với j ≥ ta có bj = (đpcm) * Giả sử mệnh đề với p = m Tức ∞ m bj z j = j=0 aj z j , ∀z ∈ C j=0 j≤m j>m b j = aj bj = (2.2.9) Ta chứng minh mệnh đề với p = m + Ta có ∞ m+1 j aj z j , bj z = j=0 ∀z ∈ C (2.2.10) j=0 Lấy đạo hàm hai vế (??) ta : ∞ m j (j + 1)aj+1 z j , (j + 1)bj+1 z = j=0 ∀z ∈ C (2.2.11) j=0 Từ (??) (??)ta suy b n = an bn = 1≤n≤m n>m+1 Thay (??) vào (??) ta b = a0 (đpcm) (2.2.12) 30 Định nghĩa 2.1 (Chuỗi Laurent) Chuỗi Laurent hàm phức f (z) xung quanh điểm z0 định nghĩa : ∞ cn (z − z0 )n f (z) = (2.2.13) n=−∞ Chuỗi Laurent hội tụ tuyệt đối miền vành khăn A = {r < |z − z0 | < R} Định lý 2.1 (Định lý Laurent) Cho ≤ r < R ≤ ∞, cho A = {r < |z − z0 | < R}, giả sử f hàm giải tích A Khi đó, f có khai triển Laurent A, chuỗi Laurent f hội tụ tuyệt đối A Cho r < a < b < R chuỗi Laurent hội tụ miền a ≤ |z − z0 | ≤ b.Các hệ số khai triển nhất, cho công thức : f (z) dz (z − z0 )n+1 cn = (2.2.14) |z−z0 |=d với r < d < R ∞ Mệnh đề 2.3 Cho {an } ⊂ Z cho chuỗi s = an hội tụ tuyệt đối Đặt t = n=−∞ an n=−∞ ∞ r= an ta có n=1 s=t+r Chứng minh ∞ Ở ta xét chuỗi s = an theo định nghĩa sau n=−∞ ∞ m ak an = lim m→∞ n=−∞ Đặt s∗ = ∞ |an |,t∗ = n=−∞ |an |,r∗ = n=−∞ Xét tổng riêng phần thứ m t∗ : t∗m = k=−m ∞ |an | n=1 |ak |, |ak | ≥ 0, ∀k nên ta có k=−m t∗m m |ak | = s∗m |ak | ≤ = k=−m k=−m Do s∗ hội tụ nên t∗ hội tụ, suy t hội tụ Xét tổng riêng phần thứ m r∗ : t∗m = |ak |,tương tự |ak | ≥ 0, ∀k nên ta có k=−m m ∗ rm ∗ |ak | = s∗m |ak | ≤ = k=1 ∗ m k=−m Do s hội tụ nên r hội tụ, suy r hội tụ Nhận xét sm = tm + rm , ∀m , sm hội tụ s,do tm hội tụ t,do rm hội tụ r nên ta có s = t + r (đpcm) 31 ∞ Mệnh đề 2.4 Cho {an } ⊂ Z cho chuỗi s = an hội tụ tuyệt đối Khi chuỗi n=−∞ hoán vị s hội tụ có chung tổng Chứng minh Gọi σ song ánh từ Z vào Z Ta chứng minh ∞ aσ(i) = s i=−∞ ∞ an hội tụ tuyệt đối có tổng s Theo giả thiết, ta có chuỗi n=−∞ Với > ta chọn số nguyên dương N1 , N2 , N3 cho n ak − s < , ∀n > N1 , k=−n ∞ |ak | < , ∀n > N2 , k=n (2.2.15) −n |ak | < , ∀n > N3 k=−∞ Đặt N = max {N1 , N2 , N3 } , M = max {σ −1 ({−N, , N })} Với m > M đặt B = σ −1 ({−N, , N }) I = {−m, , m} \ B S = {|σ(k)| : k ∈ I} L = max {σ(k) : k ∈ I} Xét m aσ(i) − s = i=−m aσ(i) − s + i∈B aσ(i) i∈I N ≤ aj − s + aσ(i) j=−N i∈I N L ≤ aj − s + j=−N (2.2.16) −S |ak | + k=S |ak | k=−L Nhận xét S ≥ N + nên từ (??) ta có m aσ(i) − s ≤ i=−m ∞ N aj − s + j=−N , tồn M > cho m aσ(i) − s < , ∀m > M i=−m ∞ aσ(k) = s (đpcm) Vậy k=−∞ Định lý 2.2 Cho Xt trình ARMA(p,q) với θ(·), φ(·) đa thức bậc q,p nghiệm chung Khi Xt trình causal φ(z) = 0∀z ∈ C : |z| ≤ lúc dãy hệ số {ψj } ∞ Xt = ψj Zt−j t = 0, ±1, ±2, j=0 ∞ |ψ| < ∞ biểu diễn dạng với j=0 ∞ ψj z j = ψ(z) = j=0 θ(z) , |z| ≤ φ(z) (2.2.18) Chứng minh định lý xin xem [?] 2.3 Một số khái niệm kết lý thuyết xác suất Định nghĩa 2.2 (Ma trận hiệp phương sai) Cho vector X = (X1 , , Xn ) với X1 , , Xn biến ngẫu nhiên có phương sai hữu hạn, ma trận hiệp phương sai X, ký hiệu Σ, định nghĩa Σij = E[(Xi − µi )(Xj − µj )] với µk = E(Xk ) Định nghĩa 2.3 Cho A ∈ Mn R ,ta nói A xác định không âm với vector z ∈ Rn ta có : z T Az ≥ với z T chuyển vị z Định lý 2.3 Cho A ∈ Mn R ,ta nói A xác định không âm tất định thức cấp k A không âm Định lý 2.4 Cho vector X = (X1 , , Xn ) với X1 , , Xn biến ngẫu nhiên khả tích có phương sai hữu hạn, ma trận hiệp phương sai X ma trận xác định không âm (possitive - semi definite) 33 Chứng minh : Bổ đề 2.1 Trong không gian đo (X, ℵ, µ) ,cho f : X −→ R ánh xạ đo được, cho g : X −→ R h : X −→ [0, ∞) định nghĩa g(x) = f (x) + a h(x) = (f (x))2 với x X a R Khi ta có g h đo Bổ đề 2.2 Trong không gian đo (X, ℵ, µ) ,cho f : X −→ [0, ∞) ánh xạ đo được, µ độ đo dương Khi f dµ ≥ X Bổ đề 2.3 Trong không gian đo (X, ℵ, µ) ,cho f : X −→ [0, ∞) ánh xạ đo Nếu f dµ = X f = hkn Trường hợp n=1 : Σ = σ = var(X) = E[(X − µ)2 ] , ta cần chứng minh σ ≥ Do X biến ngẫu nhiên nên X ánh xạ đo được, đặt f =X −µ g = (X − µ)2 ta có f, g đo g ≥ Theo Bổ đề (??) Bổ đề (??) ta có σ = var(X) = Ω (X − µ)2 dP ≥ Vậy Σ xác định không âm Σ không xác định X = µ hkn Trường hợp n=2 : * TH1: giả sử X1 , X2 biến ngẫu nhiên độc lập, Σ có dạng Σ= Σ11 0 Σ22 34 |Σ1 | = Σ11 = cov(X1 , X1 ) = var(X1 ) ≥ |Σ2 | = |Σ| = Σ11 Σ22 = var(X1 )var(X2 ) |Σ| = X1 = µ1 X2 = µ2 * TH2: xét X1 , X2 biến ngẫu nhiên khả tích, ta chứng minh z T Σz ≥ với vector z ∈ R2 Lấy z = (z1 , z2 ) ∈ R2 ta có : z1 z2 Σ11 Σ12 Σ21 Σ22 z1 z2 = z1 var(X1 ) + z2 var(X2 ) + 2z1 z2 cov(X1 , X2 ) = z1 E[(X1 − µ1 )2 ] + z2 E[(X2 − µ2 )2 ] + 2z1 z2 E[(X1 − µ1 )]E[(X2 − µ2 )] = E[[z1 (X1 − µ1 )]2 ] + E[[z2 (X1 − µ1 )]2 ] + 2E[z1 (X1 − µ1 )]E[z2 (X2 − µ2 )] = E[[z1 (X1 − µ1 )] + [z2 (X2 − µ2 )]2 ] = var[z1 X1 + z2 X2 ] = var zi Xi ≥ i=1 Vậy Σ xác định không âm Σ không xác định var zi Xi = i=1 Nghĩa [z1 (X1 − µ1 )] + [z2 (X2 − µ2 )] = Trường hợp n>2 : * TH1: giả sử X1 , X2 , , Xn biến ngẫu nhiên độc lập k |Σk | = k var(Xi ) ≥ 0, ∀k Σii = i=1 i=1 |Σ| = X1 = µ1 ∨ X2 = µ2 ∨ ∨ Xn = µn * TH2: xét X1 , X2 , , Xn biến ngẫu nhiên khả tích, ta chứng minh z T Σz ≥ với vector z ∈ R2 Lấy z = (z1 , z2 , , zn ) ∈ Rn ta có : 35 n var n i=1 n n zi Xi − zi Xi = E i=1 n i=1 n zj Xj − zi µi j=1 zj µj j=1 n zi zj (Xi − µi )(Xj − µj ) =E i=1 j=1 n n zi zj E(Xi − µi )(Xj − µj ) = i=1 j=1 n n zi zj cov(Xi − µi )(Xj − µj ) = i=1 j=1 n n = zi zj Σij = z T Σz ≥ i=1 j=1 n zi Xi = Dấu "=" xảy i=1 Điều nghĩa ta dự báo cách xác giá trị X thời điểm thứ n ta biết giá trị X n-1 thời điểm trước Một điều gặp thực tế Định lý 2.5 Cho f : (X, ℵ) → Y , B σ - đại số Borel Y, f đo ta có f −1 (E) ∈ ℵ với E ∈ B Định nghĩa 2.4 (Biến ngẫu nhiên độc lập) Cho n biến ngẫu nhiên (X1 , X2 , , Xn ), Xi : (Ω, ℵ, P ) −→ ([−∞, ∞], B), B σ - đại số Borel [−∞, ∞], ta nói n biến ngẫu nhiên độc lập với n tập Borel (B1 , B2 , , Bn ), Bi ∈ B ta có n Xi −1 (Bi ) P = P Xi−1 (Bi ) i=1 Định lý 2.6 Cho X,Y biến ngẫu nhiên độc lập,X, Y : (Ω, ℵ, P ) −→ ([−∞, ∞], B), X, Y ∈ Ł(P ), ta có E(XY ) = E(X)E(Y ) Chứng minh TH1: Xét trường hợp X,Y hàm đặc trưng X = χA , Y = χB ; A, B ∈ Ω Với ω ∈ Ω ta có XY (ω) = X(ω)Y (ω) = χA∩B (ω) E(X) = P (A), E(Y ) = P (B), E(XY ) = P (A ∩ B) Do X,Y độc lập nên ta có P X −1 (a, ∞) ∩ Y −1 (b, ∞) = P X −1 (a, ∞) P Y −1 (b, ∞) 36 chọn a, b ∈ (0, 1] ta có P (A ∩ B) = P (A)P (B) TH2: Xét trường hợp X,Y hàm đơn, ta có m X= αi χAi ; Ap ∩ Aq = ∅, ∀p = q; Ai = Ω βj χBj ; Bp ∩ Bq = ∅, ∀p = q; Bj = Ω i=1 n Y = j=1 Đặt V = αi βj : i ∈ 1, m, j ∈ 1, n ta thấy V có hữu hạn phần tử nên V = γk : k ∈ 1, p Đặt Ck = (XY )−1 (γk ) Ck = (Ai ∩ Bj ), (i, j) ∈ Tk = {(p, q)|αp βq = γk } p XY = γk χCk k=1 Ta có m E(X) = αi P (Ai ) i=1 n E(Y ) = βj P (Bj ) j=1 Do X,Y độc lập ta có với i,j ∗ P (Ai ∩ Bj ) = P {X −1 [αi , αi+1 ) ∩ Y −1 [βj , βj+1 )} = P (X −1 [αi , αi+1 ))P (Y −1 [βj , βj + 1)) = P (Ai )(Bj ) 37 m ∗ E(X)E(Y ) = n αi P (Ai ) i=1 m βj P (Bj ) j=1 n = αi βj P (Ai )P (Bj ) i=1 j=1 m n αi βj P (Ai ∩ Bj ) = i=1 j=1 p = (Ai ∩ Bj ) γk P i,j∈Tk k=1 p = γk P (Ck ) = E(XY ) k=1 TH3: Giờ xét X,Y biến ngẫu nhiên không âm Đặt δn = 2−n Với số nguyên n số thực t tồn số nguyên k = kn (t) cho kδn ≤ t < (k + 1)δn n2n −1 kδn χ(t)[kδn ,(k+1)δn ) + nχ(t)[n,∞] với t ∈ [0, ∞] Đặt ϕn (t) = k=0 Đặt Xn = ϕn ◦ X , Yn = ϕn ◦ Y Xn Yn dãy hàm đơn tăng hội tụ X, Y Đặt Zn = Xn Yn ta có • Zn ≤ Zn+1 : Zn (ω) = Xn (ω)Yn (ω) ≤ Xn+1 (ω)Yn+1 (ω) = Zn+1 (ω), ∀ω ∈ Ω • lim Zn = XY : n→∞ ≤ XY − Zn = XY − Xn Yn = X(Y − Yn ) + Yn (X − Xn ) ≤ X(Y − Yn ) + Y (X − Xn ) ≤ Xδn + Y δn −→ Theo định lý hội tụ đơn điệu Lebesgue ta có Xn Yn dµ → E(Xn Yn ) = Ω XY dµ = E(XY ) Ω E(Xn ) → E(X) 38 E(Yn ) → E(Y ) Giờ ta chứng minh Xn , Yn độc lập với với n : Cho U,V tập Borel R, với n ta có P [Xn−1 (U ) ∩ Yn−1 (V )] −1 (ϕ−1 = P [X −1 (ϕ−1 n (V ))] ϕn hàm Borel - đo n (U )) ∩ Y −1 = P [X −1 (ϕ−1 (ϕ−1 n (U ))]P [Y n (V ))] = P [Xn−1 (U )]P [Yn−1 (V )] Từ kết TH2, ta có E(Xn Yn ) = E(Xn )E(Yn ) với n , cho qua giới hạn ta điều phải chứng minh TH4: Giờ xét X,Y biến ngẫu nhiên khả tích Ta có X = X + − X − , Y = Y + − Y − ; với X + , X − , Y + , Y − biến ngẫu nhiên không âm Ta chứng minh X + , Y + ; X + , Y − ; X − , Y + ; X − , Y − cặp biến ngẫu nhiên độc lập Cho U,V B ta có : • Trường hợp không thuộc U,V – (X + )−1 (U ) = X −1 (U ∩ (0, ∞)) ∪ (X + )−1 (0) = X −1 (U ∩ (0, ∞)) – (X − )−1 (U ) = (−X)−1 (U ∩ (0, ∞)) ∪ (X − )−1 (0) = X −1 (U ∩ (−∞, 0)) – (Y + )−1 (V ) = Y −1 (V ∩ (0, ∞)) ∪ (Y + )−1 (0) = Y −1 (V ∩ (0, ∞)) – (Y − )−1 (V ) = (−Y )−1 (V ∩ (0, ∞)) ∪ (Y − )−1 (0) = (−Y )−1 (V ∩ (−∞, 0)) • Trường hợp thuộc U,V – (X + )−1 (U ) = X −1 (U ∩ (0, ∞)) ∪ X −1 (−∞, 0] – (X − )−1 (U ) = X −1 (U ∩ (−∞, 0)) ∪ X −1 [0, ∞) – (Y + )−1 (V ) = Y −1 (V ∩ (0, ∞)) ∪ Y −1 (−∞, 0] – (Y − )−1 (V ) = Y −1 (V ∩ (−∞, 0)) ∪ Y −1 [0, ∞) Với nhận xét tập (0, ∞), (−∞, 0], [0, ∞), (−∞, 0) thuộc B ta chứng minh X + , Y + ; X + , Y − ; X − , Y + ; X − , Y − cặp biến ngẫu nhiên độc lập trực tiếp từ định nghĩa 39 Từ : E(X)E(Y ) = [E(X + ) − E(X − )][E(Y + ) − E(Y − )] = E(X + )E(Y + ) − E(X + )E(Y − ) − E(Y + )E(X − ) + E(X − )E(Y − ) = E(X + Y + ) − E(X + Y − ) − E(Y + X − ) + E(X − Y − ) = E(X + Y + − X + Y − − Y + X − + X − Y − ) = E[(X + − X − )(Y + − Y − )] = E(XY ) Tài liệu tham khảo [1] PETER.J.BROCKWELLS ,RICHARD.A.DAVIS, Time series : Theory and methods, Springer - Verlag , 1987 [2] WALTER RUDIN, Real and Complex Analysis, McGraw-Hill, 1987 [3] K.L CHUNG , A course in probability theory 3ed, Academic Press, 2001 [4] MICHAEL SAMPSON, Time series Analysis, Loglinear Publishing, 2001 [5] ROBERT H.SHUMWAY, Time series Analysis and Its Applications,Springer,2006 [6] THEODORE W.GAMELIN, Complex Analysis, Springer, 2001 40 [...]... n n zi zj E(Xi − µi )(Xj − µj ) = i=1 j=1 n n zi zj cov(Xi − µi )(Xj − µj ) = i=1 j=1 n n = zi zj Σij = z T Σz ≥ 0 i=1 j=1 n zi Xi = 0 Dấu "=" xảy ra khi và chỉ khi i=1 Điều này nghĩa là ta có thể dự báo 1 cách chính xác giá trị của X tại thời điểm thứ n nếu ta biết được giá trị của X tại n-1 thời điểm trước đó Một điều rất hiếm gặp trong thực tế Định lý 2.5 Cho f : (X, ℵ) → Y , B là σ - đại số Borel