Báo Cáo Tiểu luận tốt nghiệp TIME SERIES

Vậy cuối cùng ta được công thức tổng quát của hàm tự hiệp phương sai của quá trình AMq làTrong ví dụ trên ta đã xét trường hợp đơn giản của của một quá trình ARMAp,q là các quá trình MAq

KHOA TOÁN-TIN HỌC

————oOo————

Báo Cáo Tiểu luận tốt nghiệp

2

QUÁ TRÌNH DỪNG ARMA

1.1 Causal and Invertible ARMA process

Định nghĩa 1.1 (Quá trình dừng) Một chuỗi thời gian{Xt, t ∈Z}được gọi là dừng nếu thoả các tính chất sau

(i) E |Xt|2 < ∞ ∀t ∈Z

(ii) EXt= m ∀t ∈ Z .

(iii) γX(r, s) = γX(r + t, s + t) ∀r, s, t ∈Z

trong đóγX(r, s)là ký hiệu của hàm hiệp phương sai của hai biến ngẫu nhiênXr vàXs

tại thời điểmr, sđược tính theo công thức

γX(r, s) = cov(XrXs) = E{[Xr− E(Xr)][Xs − E(Xs)]}

Định nghĩa 1.2 Một quá trìnhZt được gọi là White Noise (WN) với trung bình bằng 0

Định nghĩa 1.3 (Quá trình ARMA(p,q)) Một quá trình {Xt, t = 0, ±1, } được gọi là

Xt− φ1Xt−1− φ2Xt−2− − φpXt−p= Zt+ θ1Zt−1+ θ2Zt−2+ + θqZt−q (1.1.1)

3

Để thuận tiện hơn về mặt ký hiệu cho phương trình(1.1.1)ta định nghĩa khái niệmθ là

đa thức bậc q vàφlà đa thức bậc p như sau



φ(z) = 1 − φ1z − φ2z2− − φpzpθ(z) = 1 − θ1z − θ2z2− − θqzq (1.1.2)

và B là một toán tử "Backward shift" được định nghĩa là

BjXt = Xt−j j = 0, ±1, (1.1.3) Khi đó phương trình(1.1.1)có thể viết dưới dạng rút gọn như sau

(i)Giá trị hàm trung bình là một hằng số và không phụ thuộc vào t Ta có

vớiθ0 = 1và∀t, E(Xt) = 0vậy ta có điều cần cm.

(ii) Chỉ ra rằng hàm hiệp phương sai chỉ phụ thuộc vào sự sai biệt giữa 2 mốc thời gian, điều này dẫn đến việc ta cần tính giá trị của công thức Cov(Xt+h, Xt) với

h = 0, ±1,

Ta có

Cov(Xt+h, Xt) = E[(Xt+h− E(Xt+h))(Xt− E(Xt))] = E[Xt+hXt] (1.1.6)

Vậy cuối cùng ta được công thức tổng quát của hàm tự hiệp phương sai của quá trình AM(q) là

Trong ví dụ trên ta đã xét trường hợp đơn giản của của một quá trình ARMA(p,q)

là các quá trình MA(q) Ta tiếp tục đi tìm một lời giải cho phương trình sai phân tổng quát ARMA(p,q) được định nghĩa như trong công thức (1.1.1) Để tìm lời giải cho phương trình sai phân tổng quát này ta cần giới thiệu khái niệm causality Ta có định nghĩa

Định nghĩa 1.4 (Causal funtion)

Mệnh đề 1.1 Nếu{Xt}là một dãy bất kỳ các biến ngẫu nhiên trong(Ω, M, P )sao cho

khi đó chuỗi sẽ có các tính chất sau

(i) ψ(B)Xt hội tụ tuyệt đối hầu khắp nơi.

t∈Z

E|Xt|2 < ∞chuỗi trên sẽ hội tụ trongL2.

Nhắc lại: ”B” là toán tử "BACKWARD SHIFT" và ψ(z) là đa thức như định nghĩa trong công thức (1.1.2) và (1.1.3).

n→∞sn(x) = s(x) vì giới hạn được xét ở đây là giới hạn được sử đụng trong lý thuyết

độ đo có thể tiến ra vô cùng Khi đó áp dụng định lý hội tụ đơn điệu ta có kết quả sau

|sn(x) − s(x)|2dP





Đến đây ta thấy cần chứng minh rằng

lim

n→∞



 Z

Mệnh đề 1.2 Nếu {Xt} là một quá trình dừng với hàm tự hiệp phương saiγ(·) và nếu

E |Xt| ≤ E Xt2

2

Vậy từ ??, ?? cùng với kết quả của mệnh đề 1 ta có điều cần chứng minh.

(ii)Để kiểm traYt là một quá trình dừng ta cần kiểm tra các tính chất:

•Kiểm tra trung bình của các biến ngẫu nhiên trong quá trình Yt không phụ thuộc

•Tìm hàm tự hiệp phương sai của quá trìnhYt

γY(h) = E(Yt+hYt) − E(Yt+h)E(Yt) (1.1.16) Vậy ta cần tính E(Yt+hYt), để việc chứng minh được dễ dàng ta cần nhắc lại một số kết quả của không gian Hilbert Với không gian xác suất(Ω, M, P )là tập hợp các biến ngẫu nhiên X được định nghĩa trên Ω và thỏa tính chất E(X2) = R

Ω

X2(x)dP < ∞ là một không gian Hilbert với tích vô hướng được định nghĩa là

hX, Y i = E(XY )

Khi đó ta có ta sử định mệnh đề ?? được giới thiệu trong phần kiến thức cơ bản để tính

E(Yt+hYt) = hYt+h, YtivàE(Yt+h)E(Yt)

n→∞ktn− YtkL2 = 0

ψjXt−j là một biến ngẫu nhiên và hơn nữa {Yt}t∈Z

là một quá trình dừng theo như chứng của mệnh đề trên Ngoài ra nếu

∞

P

j=−∞

ψjXt−j với các hệ số ψj được tính như sau

Dựa vào kết quả của hai mệnh đề trên, sau đây ta sẽ đưa ra định lý để cho thấy

điều kiện cần và đủ để một quá trình ARMA(p,q) được định nghĩa trong ?? là có

nghiệm.

Định lý 1.1 ChoXt là một quá trình ARMA(p,q) vớiθ(·),φ(·)lần lượt là 2 đa thức bậc

Mặt khácφ(·) là hàm số liên tục và φ(1) 6= 0nên ta có điều mâu thuẫn lim

n→∞φ(|zn|) 6=φ(1) Vậy ta được

∃ε > 0, ∀z ∈ C: |z| < 1 + ε ⇒ φ(z) 6= 0

Do đó theo định lý Cauchy-Taylor, hàm φ(z)1 là giải tích trong hình tròn|z − 0| < 1 + ε

nên ta có thể khai triển được hành chuỗi lũy thừa hội tụ trong hình tròn ấy Vậy ta được khai triển

1 φ(z) =

ζj1 + ε

2

j

1

, ζ2



1 + ε2

2

, , ζn 0



1 + ε2

n 0

, 1}

Suy ra

≤

Từ đây, ta có với mỗi  > 0 , tồn tại M > 0 sao cho

Định lý 2.2 Cho Xt là một quá trình ARMA(p,q) với θ(·), φ(·) lần lượt là 2 đa thức bậc q,p

và không có nghiệm chung nào Khi đó Xtlà một quá trình causal nếu và chỉ nếu

Chứng minh định lý xin xem trong [?]

2.3 Một số khái niệm và kết quả cơ bản của lý thuyết xác suất

Định nghĩa 2.2 (Ma trận hiệp phương sai) Cho vector X = (X1, , Xn) với X1, , Xn là các biến ngẫu nhiên có phương sai hữu hạn, khi đó ma trận hiệp phương sai của X, ký hiệu

Σ, được định nghĩa bởi

với zT là chuyển vị của z.

Định lý 2.3 Cho A ∈ MnR ,ta nói A xác định không âm khi và chỉ khi tất cả các định thức

con chính cấp k của A không âm

Định lý 2.4 Cho vector X = (X1, , Xn) với X1, , Xn là các biến ngẫu nhiên khả tích và

có phương sai hữu hạn, khi đó ma trận hiệp phương sai của X là ma trận xác định không âm (possitive - semi definite)

Chứng minh :

Bổ đề 2.1 Trong không gian đo được (X, ℵ, µ) ,cho f : X −→ R là ánh xạ đo được, cho

g : X −→ R và h : X −→ [0, ∞) định nghĩa bởi

g(x) = f (x) + ah(x) = (f (x))2

với mọi x trong X và a trong R Khi đó ta có g và h đo được.

Bổ đề 2.2 Trong không gian đo được (X, ℵ, µ) ,cho f : X −→ [0, ∞) là ánh xạ đo được, và

µ là một độ đo dương Khi đó

Σ = σ = var(X) = E[(X − µ)2] , ta cần chứng minh rằng σ ≥ 0

Do X là biến ngẫu nhiên nên X là ánh xạ đo được, đặt

f = X − µvà

g = (X − µ)2

ta có f, g đo được và g ≥ 0

Theo Bổ đề (??) và Bổ đề (??) ta có σ = var(X) =RΩ(X − µ)2dP ≥ 0

Vậy Σ xác định không âm

và Σ không xác định khi và chỉ khi X = µ hkn

|Σ1| = Σ11 = cov(X1, X1) = var(X1) ≥ 0

|Σ2| = |Σ| = Σ11Σ22= var(X1)var(X2)

|Σ| = 0 khi và chỉ khi X1 = µ1 hoặc X2 = µ2

* TH2: xét X1, X2là các biến ngẫu nhiên khả tích, ta sẽ chứng minh zTΣz ≥ 0

với mọi vector z ∈ R2

= z1 var(X1) + z2 var(X2) + 2z1z2cov(X1, X2)

= z1 E[(X1− µ1)2] + z2 E[(X2− µ2)2] + 2z1z2E[(X1− µ1)]E[(X2− µ2)]

= E[[z1(X1− µ1)]2] + E[[z2(X1− µ1)]2] + 2E[z1(X1− µ1)]E[z2(X2− µ2)]

= E[[z1(X1− µ1)] + [z2(X2 − µ2)]2] = var[z1X1+ z2X2] = var

Σ không xác định khi và chỉ khi var

* TH2: xét X1, X2, , Xnlà các biến ngẫu nhiên khả tích, ta sẽ chứng minh

zTΣz ≥ 0 với mọi vector z ∈ R2

Lấy một z = (z1, z2, , zn) ∈ Rnta có :

Định lý 2.5 Cho f : (X, ℵ) → Y , B là σ - đại số Borel trên Y, nếu f đo được thì ta có

f−1(E) ∈ ℵ với mọi E ∈ B

Định nghĩa 2.4 (Biến ngẫu nhiên độc lập) Cho n biến ngẫu nhiên (X1, X2, , Xn), Xi :

(Ω, ℵ, P ) −→ ([−∞, ∞], B), B là σ - đại số Borel trên [−∞, ∞], ta nói đây là n biến ngẫu

nhiên độc lập khi và chỉ khi với n tập Borel bất kỳ (B1, B2, , Bn), Bi ∈ B ta có

TH1: Xét trường hợp X,Y là hàm đặc trưng X = χA, Y = χB; A, B ∈ Ω.

Với mỗi ω ∈ Ω ta có XY (ω) = X(ω)Y (ω) = χA∩B(ω)

E(X) = P (A), E(Y ) = P (B), E(XY ) = P (A ∩ B)

Do X,Y độc lập nên ta có

P X−1

(a, ∞) ∩ Y−1(b, ∞) = P X−1(a, ∞)
P Y−1

(b, ∞)

Đặt V = αiβj : i ∈ 1, m, j ∈ 1, n ta thấy V có hữu hạn phần tử nên V = γk: k ∈ 1, p

Đặt Ck = (XY )−1(γk) thì Ck =S(Ai ∩ Bj), (i, j) ∈ Tk = {(p, q)|αpβq = γk}

TH3: Giờ xét X,Y là các biến ngẫu nhiên không âm

Đặt δn = 2−n Với mỗi số nguyên n và số thực t tồn tại duy nhất một số nguyên k = kn(t)sao cho kδn≤ t < (k + 1)δn

E(Yn) → E(Y )

Giờ ta chứng minh Xn, Ynđộc lập với nhau với mọi n :

Cho U,V là 2 tập Borel bất kỳ trong R, với mỗi n ta có

TH4: Giờ xét X,Y là các biến ngẫu nhiên khả tích Ta có

X = X+− X−, Y = Y+− Y−; với X+, X−, Y+, Y− là các biến ngẫu nhiênkhông âm

Ta sẽ chứng minh X+, Y+; X+, Y−; X−, Y+; X−, Y−lần lượt là các cặp biến ngẫunhiên độc lập

Cho U,V trong B ta có :

• Trường hợp 0 không thuộc U,V

Từ đó :

E(X)E(Y ) = [E(X+) − E(X−)][E(Y+) − E(Y−)]

= E(X+)E(Y+) − E(X+)E(Y−) − E(Y+)E(X−) + E(X−)E(Y−)

= E(X+Y+) − E(X+Y−) − E(Y+X−) + E(X−Y−)

= E(X+Y+− X+Y−− Y+X−+ X−Y−) = E[(X+− X−)(Y+− Y−)] = E(XY )

[1] PETER.J.BROCKWELLS ,RICHARD.A.DAVIS, Time series : Theory and methods,

Springer - Verlag , 1987

[2] WALTER RUDIN, Real and Complex Analysis, McGraw-Hill, 1987.

[3] K.L CHUNG , A course in probability theory 3ed, Academic Press, 2001.

[4] MICHAEL SAMPSON, Time series Analysis, Loglinear Publishing, 2001.

[5] ROBERT H.SHUMWAY, Time series Analysis and Its Applications,Springer,2006 [6] THEODORE W.GAMELIN, Complex Analysis, Springer, 2001.

40

... Academic Press, 2001.

[4] MICHAEL SAMPSON, Time series Analysis, Loglinear Publishing, 2001.

[5] ROBERT H.SHUMWAY, Time series Analysis and Its Applications,Springer,2006... 40

[1] PETER.J.BROCKWELLS ,RICHARD.A.DAVIS, Time series : Theory and methods,

Springer - Verlag , 1987

[2] WALTER RUDIN, Real