Luận văn thạc sĩ Toán ứng dụng: Một số mô hình chuỗi thời gian và ứng dụng

NGUYỄN MINH DUY

MỘT SỐ MÔ HÌNH CHUỖI THỜI GIANVÀ ỨNG DỤNG

ON SOME TIME SERIES MODELS ANDAPPLICATIONS

Chuyên ngành: TOÁN ỨNG DỤNGMã ngành: 8460112

LUẬN VĂN THẠC SĨ

TP HỒ CHÍ MINH, tháng 12 năm 2021

TRƯỜNG ĐẠI HỌC BÁCH KHOA - ĐH QUỐC GIA TP.HCM

Cán bộ hướng dẫn khoa học: TS NGUYỄN TIẾN DŨNG

Cán bộ chấm Phản biện 1: TS NGUYỄN BÁ THI

Cán bộ chấm Phản biện 2: PGS.TS NGUYỄN HUY TUẤN

Luận văn thạc sĩ này được bảo vệ tại Trường Đại học Bách Khoa, Đại học Quốcgia TP Hồ Chí Minh, ngày 27 tháng 12 năm 2021 (trực tuyến).

Thành phần Hội đồng đánh giá luận văn bao gồm:

1 Chủ tịch: PGS.TS NGUYỄN ĐÌNH HUY2 Thư ký: TS ĐẶNG VĂN VINH

3 Phản biện 1: TS NGUYỄN BÁ THI

4 Phản biện 2: PGS TS NGUYỄN HUY TUẤN5 Ủy viên: TS CAO THANH TÌNH

Xác nhận của chủ tịch Hội đồng đánh giá luận văn và trưởng Khoa quản lýchuyên ngành sau khi luận văn đã chỉnh sửa (nếu có).

KHOA HỌC ỨNG DỤNG

PGS TS NGUYỄN ĐÌNH HUYPGS TS TRƯƠNG TÍCH THIỆN

NHIỆM VỤ LUẬN VĂN THẠC SĨ

Họ và tên học viên: NGUYỄN MINH DUYMSHV: 1870179

Ngày, tháng, năm sinh: 06.10.1978Nơi sinh: TP Hồ Chí MinhChuyên ngành: Toán Ứng dụngMã ngành: 8460112

I TÊN ĐỀ TÀI: MỘT SỐ MÔ HÌNH CHUỖI THỜI GIAN VÀ ỨNGDỤNG.

NHIỆM VỤ VÀ NỘI DUNG• Kiến thức cơ sở

• Ứng dụng

II NGÀY GIAO NHIỆM VỤ: 06/09/2021

III NGÀY HOÀN THÀNH NHIỆM VỤ: 1/12/2021IV CÁN BỘ HƯỚNG DẪN: TS NGUYỄN TIẾN DŨNG

TP Hồ Chí Minh, ngày 27 tháng 12 năm 2021

TRƯỞNG KHOA KHOA HỌC ỨNG DỤNG

PGS TS TRƯƠNG TÍCH THIỆN

Lời cảm ơn đầu tiên tôi xin chân thành gửi tới thầy, TS Nguyễn Tiến Dũng,người đã nhiệt tình giảng dạy, định hướng và giúp đỡ tôi trong quá trình học tậpchương trình Cao học Toán ứng dụng, cũng như trong quá trình thực hiện và hoànthành luận văn này.

Tôi xin chân thành cảm ơn tất cả các Thầy Cô trong Bộ môn Toán ứng dụng,Khoa Khoa học ứng dụng, Trường Đại học Bách Khoa - Đại học quốc gia thànhphố Hồ Chí Minh, những người đã truyền thụ kiến thức giúp tôi có một nền tảngtri thức khoa học để thực hiện luận văn và hoàn tất khóa học.

Tôi xin chân thành cảm ơn tất cả những người bạn ở lớp Cao Học Toán ỨngDụng khóa 2018, đã có rất nhiều hổ trợ, giúp đỡ tôi trong quá trình học tập vàthực hiện luận văn.

Tôi cũng xin chân thành cảm ơn tất cả những người thân trong gia đình tôi, đãluôn đồng hành, động viên, chia sẽ khó khăn và tạo những điều kiện tốt nhất chotôi trong học tập và làm việc.

Sau cùng, tôi xin trân trọng tiếp nhận tất cả những đánh giá và góp ý quý báucủa quý Thầy Cô, các bạn bè và đồng nghiệp cũng như tất cả những ai có quantâm đến luận văn này, giúp tôi có được cơ hội bổ sung kiến thức để hoàn thiệnnhững hạn chế và thiếu sót khó tránh khỏi trong quá trình thực hiện luận văn.

TP Hồ Chí Minh, ngày 1/12/2021Người thực hiện luận văn

Nguyễn Minh Duy

Trong khuôn khổ của Luận văn, tác giả đã trình bày về mô hình phương sai cóđiều kiện của sai số thay đổi tự hồi quy (ARCH) và một số mô hình mở rộng củanó (G ARCH,G ARCH-M,TG ARCH) Sau đó, các mô hình này được áp dụng vàoviệc định giá quyền chọn của cổ phiếu IBM.

Within the framework of the thesis, the author presented the conditional ance model of autoregressive variation error (ARCH) and some of its extendedmodels (G ARCH, G ARCH-M, TG) ARCH) These models were then applied tothe option pricing of IBM stock.

vari-Tôi tên: Nguyễn Minh Duy, MSHV: 1870179, là học viên cao học chuyên ngànhToán Ứng dụng khóa 2018 - 2020 của trường Đại học Bách Khoa Tp.Hồ Chí Minh.Xin cam đoan toàn bộ những gì trình bày trong luận văn này là do chính tôithực hiện dưới sự hướng dẫn trực tiếp của TS Nguyễn Tiến Dũng khoa Khoa HọcỨng Dụng trường Đại Học Bách Khoa - Đại học Quốc gia Tp Hồ Chí Minh.

Trong toàn bộ luận văn, hầu hết các kết quả nghiên cứu từ các công trình khoahọc của các tác giả khác, khi tôi thu thập, chọn lọc để trình bày, trích dẫn hoặctham khảo, tôi đều có ghi rõ địa chỉ để người đọc tham chiếu.

Tôi xin cam đoan về những gì đã nêu trên đây là sự thật và xin chịu toàn bộtrách nhiệm về những gian dối về tác quyền nếu có trong luận văn này.

TP Hồ Chí Minh, ngày 1/12/2021Người thực hiện luận văn

Nguyễn Minh Duy

Nhiệm vụ luận văn thạc sĩ i

1.1 Không gian xác suất và martingle, 2

1.1.1 Kỳ vọng có điều kiện 2

1.1.2 Martingale 3

1.1.3 Hiệu martingale 4

1.1.4 Khai triển Doob 4

1.1.5 Luật mạnh số lớn martingale bình phương khả tích 5

1.2 Chuỗi thời gian 6

1.2.1 Quá trình dừng 6

1.2.2 Quá trình trung bình trượt 7

1.2.3 Các tính chất của hàm tự hiệp phương sai 8

1.2.4 Toán tử trễ 9

1.3 Phương trình sai phân, 9

1.3.1 Sai phân 9

1.3.2 Phương trình vi phân 10

1.3.3 Phương trình sai phân tuyến tính cấp 1 10

1.3.4 Phương trình sai phân cấp p 11

1.3.5 Mô hình ARMA 13

Chương 2 Ước lượng mô hình ARMA 152.1 Ước lượng Yule-Walker 15

2.2 Ước lượng bình phương cực tiểu cho mô hình AR(p) 18

2.3 Ước lượng mô hình ARMA(p, q) 21

2.4 Ước lượng cấp p và q 24

2.5 Mô hình hóa một quá trình ngẫu nhiên, 26

2.6 Ví dụ: Lập một mô hình GDP thực 27

3.1.1 Tính chất dự báo của các mô hình AR(1) 32

3.1.2 Mô hình ARCH(1), 33

3.1.3 Các mô hình biến động tổng quát, 38

3.1.4 Mô hình GARCH(1,1) 40

3.2 Kiểm tra hiệp phương sai không đồng nhất 45

3.2.1 Tự tương quan của phần dư bậc hai 45

3.2.2 Phép kiểm định thừa số Lagrange của Engle 46

3.3 Ước lượng mô hình GARCH(p, q) 47

3.3.1 Ước lượng hợp lý cực đại 47

3.3.2 Phương pháp ước lượng mômen 48

3.4 Ví dụ: Chỉ số thị trường Thụy Sĩ (SMI) 49

Ký hiệu Ý nghĩa

→d Hội tụ theo phân phối

→p Hội tụ theo xác suất

corr(X, Y ) Hệ số tương quan giữa các biến X và Y

γX, γ Hàm hiệp phương sai của quá trình {Xt}, Hàm hiệp phương sai

ρX, ρ Hàm tương quan của quá trình {Xt}, Hàm tương quan

αX, α Hàm tự tương quan riêng của quá trình {Xt}P ACF Chức năng tự tương quan riêng

Φ(L) Đa thức tự hồi quy

Θ(L) Đa thức trung bình trượt

Ψ(L) Biểu diễn nhân quả

∆ Toán tử sai phân, ∆ = 1 - L

q Bậc của đa thức trung bình trượt

ARM A(p, q) Quá trình tự hồi quy trung bình trượt bậc (p, q)

ARIM A Quá trình tự hồi quy tích hợp trung bình trượt bậc (p, d, q)

PTXT +h Giá trị dự báo theo phương pháp bình phương cực tiểuXT +h theodữ liệu từ thời điểm 1 tới thời điểm T

PTXT +h Giá trị dự báo theo phương pháp bình phương cực tiểuXT +h theodữ liệu quá khứ tới thời điểm T

{Xt} Quá trình ngẫu nhiên

N(0, σ2) Quá trình nhiễu trắng với kỳ vọng bằng 0 và phương sai bằng σ2N(0,P) Quá trình nhiễu trắng đa biến với giá trị trung bình bằng 0 và ma

trận hiệp phương sai bằng P

IID(0, σ2) Các biến ngẫu nhiên độc lập và cùng phân phối với kỳ vọng bằng0 và phương sai bằng σ2

IID N(0, σ2) Các biến ngẫu nhiên độc lập và cùng phân phối chuẩn với kỳ vọngbằng 0 và phương sai bằng σ2

Xt Biến ngẫu nhiên phụ thuộc thời gian

xt Giá trị qua sát của biến ngẫu nhiên

F (λ) Hàm phân phối

V aR Giá trị rủi ro

Từ viết tắt Tiếng anh Tiếng việt

ACF Autocorrelation function Hàm tự tương quan

ARMA autoregressive moving averageModels

Mô hình tự hồi quy và trungbình di động

ARIMA Autoregressive Integrated ing Average Models

Mov-Mô hình tự hồi quy kết hợptrung bình trượt

AIC Akaike information criterion Tiêu chuẩn thông tin AkaikeBIC Bayesian information criterion Tiêu chí thông tin Bayesian

EGARCH Exponential Autoregressive

conditional eteroskedasticity Mô hình GARCH dạng mũGARCH Autoregressive conditional het-

GDP Gross domestic product Tổng sản phẩm quốc nội

trung bình

PACF Partial autocorrelation function Hàm tự tương quan riêngphần

PACF Partial autocorrelation function Hàm tự tương quan riêngphần

RMSE Root-mean-square error Lỗi trung bình bình phươngSACF Sample autocorrelation function Hàm tự tương quan mẫuTGARCH Threshold Autoregressive con-

ditional eteroskedasticity

Mô hình GARCH đồng tíchhợp

IID Independent Identically

LỜI GIỚI THIỆU

Chúng ta đang sống trong một thế giới số, tất cả dữ liệu đều được đẩy lên mạngtheo nhiều cách thức khác nhau và đường truyền dữ liệu càng ngày ngày càng đượccải thiện từ đó giúp thu thập và phân tích dự báo tài sản tài chính như: cổ phiếu,trái phiếu, tỷ giá được thuận lợi hơn rất nhiều, cùng với sự phát triển mạng mẽvà vượt bậc của thị trường chứng khoán Việt Nam tạo nên sự quan tâm của nhiềuthành phần trong xã hội như các chuyên gia, nhà đầu tư, nhà khoa học Việc phântích và dự báo kinh tế là công việc hết sức quan trọng trong công tác lập kế hoạchhoạch định chính sách điều hành vĩ mô nền kinh tế cũng như trong lập kế hoạchkinh doanh Có rất nhiều mô hình toán học mô tả các hoạt động tài chính như cácmô hình dự báo (mô hình hồi quy, mô hình chuỗi thời gian), các mô hình động học(phương trình vi phân, phương trình đạo hàm riêng), các mô hình dữ liệu lớn Trong luận văn này, tôi mong muốn tìm hiểu sâu hơn một số mô hình chuỗi thờigian và một số ứng dụng Đây là một mô hình thường được dùng rất nhiều trongtài chính Cụ thể, luận văn bao gồm 3 chương:

• Chương 1: Bao gồm những khái niệm cơ bản như không gian xác suất vàMartingle chuổi thời gian, phương trình sai phân, làm cơ sở cho các chươngsau.

• Chương 2: Trình bày ước lượng mô hình ARMA và ví dụ về mô hình GDPthực.

• Chương 3: Trình bày các mô hình biến động, bao gồm các mô hình ARCH(1),mô hình GARCH(1,1), ước lượng mô hình GARCH(p,q) và ví dụ về chỉ sốthị trường Thụy Sĩ(SMI).

Chương 1

Kiến thức chuẩn bị

Những kiến thức cơ bản được trình bày trong chương này gồm: chuỗi thời gianvà toán tử trễ, phương trình sai phân, kỳ vọng có điều kiện và martingle sẽ đượcsử dụng vào các chương sau khi nghiên cứu về các mô hình chuỗi thời gian MA,ARMA, ARIMA, GARCH .

Định nghĩa 1.1.1 Quá trình ngẫu nhiên (xem [12]) Xt là một họ các biến ngẫunhiên với t ∈ T và được xác định trên một số không gian xác suất cho trước.

Ở đây,T là một tập chỉ mục có thứ tự và thường được dùng để mô tả thời gian.Một số ví dụ của tập T là T = {1, 2, } hay T = { , −2, −1, 0, 1, 2, } = N cho

trường hợp rời rạc và T = [0, ∞) hay T = (−∞, ∞) cho trường hợp thời gian liêntục.

Với mỗi t, đại lượng Xt được gọi là quỹ đạo của quá trình ngẫu nhiên.

Khái niệm 1.1.1 Giả sử (Ω,F, P ) là không gian xác suất Cho ζ ⊂ F là một

σ−trường và X là một biến ngẫu nhiên khả tích Kỳ vọng có điều kiện của X theo

σ−trường ζ là một biến ngẫu nhiên, ký hiệu là E(X|ζ), thỏaa E(X|ζ) là ζ đo được

b R

AE(X|ζ)dP =RAXdP với mọi A ∈ ζ.

Ta định nghĩa E(X|Y ) là kỳ vọng có điều kiện của X theo σ−trường σ(Y ).

Ta có các tính chất sau của kỳ vọng có điều kiện.Mệnh đề 1.1.1.

a) Nếu c là hằng số thì E(c|ζ) = c.b) E(aX + bY |ζ) = aE(X|ζ) + bE(Y |ζ).

c) Nếu ζ là σ−trường tầm thường {φ, Ω} thì E(X|ζ) = X.d) E(E(X|ζ)) = EX.

e) Nếu X độc lập với ζ tức là σ(X) độc lập với ζ thì E(X|ζ) = EX.f) Nếu Y là ζ−đo được, E|Y | < ∞, E|XY | < ∞ thì E(XY |ζ) = Y E(X|ζ).g) Nếu ζ1 ⊂ ζ2 thì E(E(X|ζ2)|ζ1) = E(E(X|ζ1)|ζ2) = E(X|ζ1).

h) Nếu X ≤ Y (h.c.c) thì E(X|ζ) ≤ E(Y |ζ).i) |E(X|ζ)| ≤ E(|X||ζ).

j) Bất đẳng thức Jensen: Giả sử φ : R → R lồi và khả tích Khi đó φ(E(X|ζ)) ≤E(φ(X)|ζ).

k) Hội tụ đơn điệu Beppo - Levy: Nếu Xn ≥ 0, Xn ↑ X và E|X| < ∞thì E(Xn|ζ) ↑E(X|ζ).

l) Bổ đề Fatou: Nếu Xn≥ 0 thì E(limn→∞Xn|ζ) ≤ limn→∞E(Xn|ζ).

m) Định lý hội tụ bị chặn Lebesgue: Giả sử Y là biến ngẫu nhiên khả tích và

|Xn| ≤ Y (h.c.c) Nếu limn→∞Xn = X thì limn→∞E(Xn|ζ) = E(X|ζ).

Các khái niệm và định lý dưới đây được hiểu là martingale với thời gian rời rạc(xem [12]).

Định nghĩa 1.1.2 ChoX = (Xt)t≥0 là một quá trình ngẫu nhiên thoả E|Xt| < ∞

với mọi t Ta gọi

a Xt là supermartingale nếu E(Xt|Fs) ≤ Xs với mọi 0 ≤ s ≤ t

b Xt là submartingale E(Xt|Fs) ≥ Xs với mọi 0 ≤ s ≤ t

c Xtlà martingale nếuXtlà supermartingale và submartingale; tức làE(Xt|Fs) =Xs. Thông thường, ta dùng bộ lọc tự nhiên Ft= σ(Xs)s≤t.

Theo lý thuyết trò chơi, nếu xem Xt là số vốn ở thời điểm t, Ft= σ(Xs)s≤t làthông tin tích lũy đến thời điểmt thì trò chơi gây thiệt hại nếu nó là supermartin-gale, trò chơi có lợi nếu nó là submartingale và công bằng nếu nó là martingale.Các kết quả chính của martingale là các bất đẳng thức và các định lý hội tụ, nhấtlà các định lý của Doob.

E(Yt+1|Ft) = E(Xt+1− Xt|Ft) = E(Xt+1|Ft) − Xt = 0.

• Ngược lại, nếu Yt là hiệu martingale thì ta có thể xây dựng martingale Xt nhưsau: X0 = Y0, Xt=Ptk=1Yk

Dễ thấy Xt là Ft-đo được và E|Xt| < ∞ Hơn nữa

E(Xt+1|Ft) = E(Yt+1+ Xt|Ft) = E(Yt+1|Ft) + Xt = Xt.

Định lý 1.1.1 Giả sử Xt là submartingale Khi đó tồn tại martingale Mt và dãytăng dự báo được At, nghĩa là 0 = A0≤ A1 ≤ · · · ≤ At ≤ , sao cho:

Khai triển này, còn được gọi là khai triển Doob, là duy nhất.

Trong định lý này, dãy (At), (Mt) được xác định bởi

A0 = 0,At =

trong đó, mt là martingale và M˜t là dãy tăng dự báo được Ta gọi M˜t là đặc trưngbình phương của martingaleM và

˜Mt =

Đặc biệt, nếu M0= 0 thì E(Mk2) = E( ˜Mk).

Nhận xét 1.1.2 Giả sử (Yt) là các biến ngẫu nhiên độc lập sao cho E(Yt) =0, E(Yt2) < ∞ Đặt M0 = 0; Mt =Ptk=1Yk Khi đó M˜t = E(Mt2) =Ptk=1E|Yk|2.

1.2Chuỗi thời gian

Chuỗi thời gian (xem [20]) là một chuỗi số liệu được thu thập trong một thời kìhoặc một khoảng thời gian lặp lại như nhau trên cùng một đối tượng, một khônggian, hoặc một địa điểm Với số liệu chuỗi thời gian, ta thường sử dụng chỉ số t đểchỉ thứ tự của các quan sát Chuỗi thời gian có thể được thu thập theo đơn vị thờigian là năm, tháng, ngày, hay chi tiết hơn như giờ, phút

Định nghĩa 1.2.1 Gọi {Xt} là một quá trình ngẫu nhiên với V (Xt) < ∞ với mọi

t ∈Z Khi đó, hàm tự hiệp phương sai γX(t, s) của {Xt} được định nghĩa bởi hiệpphương sai củaXt vàXs Ta có:γX(t, s) = cov(Xt, Xs) = E [(Xt− EXt)(Xs− EXs)] =EXtXs− EXtEXs.

Định nghĩa 1.2.2 Quá trình ngẫu nhiên{Xt} được gọi là dừng khi và chỉ khi vớimọi số nguyên r, s và t, ta có

a E(Xt) = µ là hằng số,b V (Xt) < ∞,

c γX(t, s) = γX(t + r, s + r).

Nhận xét 1.2.1 Các quá trình thoả các tính chất này đôi khi còn được gọi là cácquá trình dừng yếu, dừng theo nghĩa rộng, dừng hiệp phương sai hoặc dừng bậc hai.Nhận xét 1.2.2 Nếu t = s thì γX(t, s) = γX(t, t) = V (Xt) Do đó, nếu {Xt} là quátrình dừng thì γX(t, t) = V (Xt) là hằng số.

Nhận xét 1.2.3 Nếu {Xt} dừng thì, bằng cách đặt r = −s, hàm tự hiệp phươngsai thoả:γX(t, s) = γX(t − s, 0); nghĩa là, γX(t, s) chỉ phụ thuộc vào t − s Do đó, vớiquá trình dừng, ta có thể xem hàm tự hiệp phương sai là hàm một biến h = t − s.Vì γX(t, s) = γX(s, t) nên γX(h) = γX(−h) với mọi h ∈Z Ngoài ra, ta cũng có định

nghĩa của hàm tự tương quan như sau: ρX(h) = γX(h)

γX(0), với mọi ∈Z.

Định nghĩa 1.2.3 Quá trình ngẫu nhiên {Xt} được gọi là dừng ngặt nếu phânphối đồng thời của(Xt1, , Xtn) và (Xt1+h, , Xtn+h) là bằng nhau với mọi h ∈Z

và (t1, , tn) ∈ Tn, n = 1, 2, .

Ta cũng có một định nghĩa khác tương đương của quá trình dừng ngặt như sau.Định nghĩa 1.2.4 Quá trình ngẫu nhiên{Xt}được gọi là dừng ngặt nếu với mọisố nguyênh và n ≥ 1, (X1, , Xn) và (X1+h, , Xn+h) có cùng phân phối.

Nhận xét 1.2.4 Nếu {Xt} là dừng ngặt thì Xt có cùng phân phối với mọi t (chọn

n = 1) Hơn nữa, Xt+h và Xt có phân phối đồng thời không phụ thuộc vào t; nghĩalà, hiệp phương sai (nếu tồn tại) chỉ phụ thuộc vào h Do đó, mọi quá trình dừngngặt thoả V (Xt) < ∞ cũng là quá trình dừng Tuy nhiên, điều ngược lại khôngđúng Ta xét ví dụ sau:

Xt ∼

Exp(1), với t lẻ,N (1, 1), với t chẵn.

Ở đây, Exp(1) là phân phối mũ với kỳ vọng bằng 1, N (1, 1) là phân phối chuẩn vớikỳ vọng bằng 1, phương sai bằng 1, và (Xt)t là các biến ngẫu nhiên độc lập Ta có

Nhận xét 1.2.6 Dễ thấy quá trình Gauss là dừng ngặt Hơn nữa, với mọin, h, t1, , tn,

(Xt1, , Xtn) và (Xt1+h, , Xtn+h) có cùng kỳ vọng và ma trận hiệp phương sai.

Quá trình trung bình trượt bậc 1, ký hiệu là MA(1), được định nghĩa bởi

Xt= Zt+ θZt−1

với Zt ∼ N (0, σ2) Dễ thấy E(Xt) = E(Zt) + θE(Zt−1) = 0 và

γX(t + h, t) = cov (Xt+h, Xt)

= cov (Zt+h+ θZt+h−1, Zt+ θZt−1)

= E(Zt+hZt) + θE(Zt+hZt−1) + θE(Zt+h−1Zt) + θ2E(Zt+h−1Zi−1)

VìE(Zs2) = σ2 và E(ZtZt+h) = 0 với mọi h 6= 0 nên

γX(h) =

Định lý 1.2.1 Hàm tự hiệp phương sai của quá trình dừng {Xt} được đặc trưngbởi các tính chất sau:

a γX(0) ≥ 0,

b 0 ≤ |γX(h)| ≤ γX(0),c γX(h) = γX(−h),d Pn

i,j=1aiγX(ti− tj)aj≥ 0với mọi n và với mọi véctơ(a1, , an)0 và (t1, , tn).Định lý 1.2.2 Hàm tự tương quan của một quá trình ngẫu nhiên dừng {Xt} đượcđặc trưng bởi các tính chất sau:

a ρX(0) = 1,b 0 ≤ |ρX(h)| ≤ 1,c ρX(h) = ρX(−h),d Pn

i,j=1aiρX(ti− tj)aj ≥ 0 với mọi n và các vectơ (a1, , an)0 và (t1, , tn).

1.2.4Toán tử trễ

Cho {Xt} là một chuỗi thời gian Ta định nghĩa toán tử trễ L bởi LXt= Xt−1.

Dễ thấy, toán tử trễ là một toán tử tuyến tính thoả các tính chất sau:a Với quá trình hằng {Xt = c}, trong đó c là hằng số, ta có Lc = c.

Phương trình sai phân tuyến tính cấp 1 mô tả mối quan hệ tuyến tính của yt

theo biến trễ yt−1 và biến đầu vào wt

yt = ϕyt−1+ wt,

trong đó, wt là quá trình ngẫu nhiên và ϕ là hằng số Khi đó

y1 = ϕy0+ w1,

y2 = ϕy1+ w2 = ϕ2y0+ ϕw1+ w2, .

Bây giờ, ta sẽ xét phương trình trên với toán tử trễ như sau

Phương trình sai phân tuyến tính cấp p mô tả mối quan hệ tuyến tính yt theo

p biến trễ của chính nó và biến đầu vào wt.

yt= ϕ1yt−1+ ϕ2yt−2+ ϕpyt−p+ wt, (1.7)Ta có thể biểu diễn phương trình trên ở dạng vectơ

trong đó,

ξt =

.yt−p+1

, F =

ϕ1 ϕ2 ϕp10 001 0

00 0

, Vt =

wt0 .

ϕ1ϕ2 ϕp

10 001 0

00 0



Mệnh đề 1.3.2 Giả sử ma trận F có p trị riêng phân biệt nằm trong đườngtròn đơn vị thì nhân tử động ∂yt+j

∂wt= Pp

k=1ckλjk, trong đó ci = λ

(λi− λk) vàPp

k=1ck = 1.

Định nghĩa 1.3.1 Một quá trình xem [20] ngẫu nhiên {Xt} với t ∈Z được gọi là

quá trình trung bình trượt tự hồi quy (ARMA) bậc (p, q), ký hiệu ARM A(p, q), nếunó là quá trình dừng và thoả phương trình sai phân

Xt− φ1Xt−1− − φpXt−p= Zt+ θ1Zt−1+ + θqZt−q,

với Zi ∼ N 0, σ2
và φpθq 6= 0 {Xt} được gọi là một quá trình ARM A(p, q) với kỳvọng µ nếu {Xt− µ} là một quá trình ARM A(p, q) Đặc biệt, nếu q = 0 thì quátrình ARMA được gọi là quá trình AR(p) và

Định nghĩa 1.3.2 Một quá trình ARM A(p, q) {Xt} với Φ(L)Xt = Θ(L)Zt được gọilà có quan hệ nhân quả với {Zt} nếu tồn tại một dãy {ψj} sao cho P∞

Định lý sau cho ta điều kiện của sự tồn tại biểu diễn nhân quả của một quátrình ARMA.

Định lý 1.3.1 Cho{Xt}là một quá trình ARM A(p, q) với Φ(L)Xt = Θ(L)Zt và giảsử các đa polynomials Φ(z) và Θ(z) không có nghiệm chung Khi đó, {Xt} có quanhệ nhân quả với {Z} khi và chỉ khi Φ(z) 6= 0 với mọi |z| ≤ 1, nghĩa là mọi nghiệmcủa phương trình Φ(z) = 0 nằm ngoài đường tròn đơn vị Các hệ số {ψj} được xácđịnh duy nhất bởi

Định nghĩa 1.3.3 (Tính khả nghịch) Một quá trình ARM A(p, q) với {Xt} thoả

Φ(L)Xt = Θ(L)Zt được gọi là khả nghịch đối với {Zt} nếu tổn tại một dãy {πj} vớitính chất P∞

Chứng minh: Áp dụng Định lý 1.3.1 và thay đổi vai trò của Xt và Zt.

Ước lượng mô hình ARMA

Để đơn giản, ta giả thiết rằng dữ liệu được điều chỉnh theo trung bình Chúng tasẽ giới thiệu ba phương pháp ước lượng Phương pháp đầu tiên là một phương phápquá trình mômen trong đó các mômen lý thuyết được cân bằng với các mômenthực nghiệm Quá trình này còn được gọi là ước lượng Yule-Walker Phương phápthứ hai sử dụng mô hình hồi quy và ước lượng các tham số bằng phương pháp bìnhphương cực tiểu Hai phương pháp này phù hợp cho mô hình AR Nếu mô hình cóthành phần MA thì cần dùng phương pháp ước lượng hợp lý cực đại.

Chúng ta giả thiết rằng quá trình ngẫu nhiên có kỳ vọng bằng 0 và tuân theomô hình tự hồi quy bậcp (xem [20]).

γ(0) − φ1γ(1) − · · · − φpγ(p) = σ2γ(1) − φ1γ(0) − · · · − φpγ(p − 1) = 0 .γ(p) − φ1γ(p − 1) − · · · − φpγ(0) = 0.

Hệ phương trình này được gọi là phương trình Yule-Walker và có thể được viếtgọn dưới dạng ma trận như sau

γ(0) − Φ0γp(1) = σ2,

γ(0)γ(1)· · · γ(p − 1)γ(1)γ(0)· · · γ(p − 2)

γ(0) − Φ0γp(1) = σ2,ΓpΦ = γp(1).

Ước lượng Yule-Walker thu được bằng cách thay thế các mômen lý thuyết bằngcác mômen thực nghiệm và giải các hệ phương trình tương ứng

Φ = ˆΓ−1p ˆp(1) = ˆR−1p ˆp(1)ˆ

σ2 = ˆγ(0) − ˆΦ0ˆp(1) = ˆγ(0)(1 − ˆρp(1)0Rˆ−1p ˆp(1))

Lưu ý tính đệ quy (recursiveness) của hệ phương trình: ước lượng Φˆ được tínhmà không cần dùng đến σˆ2 vì ước lượng Rˆ−1p ˆp(1) chỉ liên quan đến các tự tươngquan Các ước lượngΓˆp, ˆRp, ˆγp, ˆρp(1), vàˆγ(0)có thể được ước lượng bằng các trungbình thực nghiệm.

Định lý sau thiết lập phân phối tiệm cận của các ước lượng.

Định lý 2.1.1 Cho {Xt} là một quá trình AR(p) có quan hệ nhân quả với Zt ∼IID(0, σ2). Khi đó, ước lượng Yule-Walker là ước lượng vững và Φˆ có phân phối xấpxỉ phân phối chuẩn: √T ( ˆΦ − Φ) →d N(0, σ2Γ−1p ) Hơn nữa, σˆ2 →p σ2.

Chứng minh: Xem [11]

Lưu ý, ma trận hiệp phương sai tiệm cận của ước lượng Yule-Walker độc lậpvới σ2. Trong thực tế, tham số chưa biết σ2Γ−1p được thay thế bằng giá trị thựcnghiệm tương ứng.

Ví dụ: Quá trình AR(1)

Trong trường hợp của quá trình AR(1), phương trình Yule-Walker là Γˆ1Φ =ˆ1(0), hay đơn giản hơn là ˆ1(0) φ = ˆγ(1). Ước lượng Yule-Walker trở thành

Φ = ˆφ = ˆγ(1)ˆ

Trong thực tế, bậc của mô hình thường không xác định Tuy nhiên, khi ướclượng mô hìnhAR(m)với bậcp nhỏ hơn hẳnm, ta mong muốn các hệ số ước lượng

φm = 0 Nếu không thể bác bỏ giả thiết này thì giảm bậc của mô hình từ m xuống

m − 1, và cứ tiếp tục như vậy cho tới khi giả thiết bị bác bỏ.Ví dụ: Quá trình M A(q)

Về nguyên tắc, ước lượng Yule-Walker cũng có thể được áp dụng cho các quátrình M A(q) hoặc ARM A(p, q) với q > 0 Xét quá trình M A(1) với phương trìnhsai phân ngẫu nhiên: Xt = Zt + θZt−1vớiZt ∼ IID 0, σ2

. Ta có hệ phương trìnhYule-Walker sau

γ (0) = ˆσ2 1 + ˆθ2
,ˆ

γ(1) = ˆσ2θ.ˆ

Tính toán cho thấy nếu |ˆρ(1)| = |ˆγ(1)/ˆγ (0)| < 1/2 thì hệ phương trình Yule-Walkercó hai nghiệm Nếu |ˆρ(1)| = |ˆγ(1)/ˆγ (0)| = 1/2 thì hệ phương trình Yule-Walkercó một nghiệm Cuối cùng, nếu |ˆρ(1)| = |ˆγ(1)/ˆγ (0)| > 1/2 thì hệ phương trìnhYule-Walker vô nghiệm.

2.2Ước lượng bình phương cực tiểu cho mô hìnhAR(p)

Thay vì sử dụng ước lượng Yule-Walker, ta có thể xem mô hình AR là mô hìnhhồi quy cho Xt với các biến Xt−1, , Xt−p và sai số ngẫu nhiên Zt như sau (xem[20])

Xp Xp−1 · · ·X1Xp+1 Xp · · ·X2

Xp, , X1. Tuy nhiên, giả thiết về quan hệ nhân quả đảm bảo rằng Tuy nhiên, cóthể chứng minh rằng(X0X)/T hội tụ theo xác suất tới Γˆp và (X0Y )/T hội tụ tớiˆp.

Hơn nữa, với một số điều kiện tương đối tổng quát, ta có thể giả sử T−1/2X0Z cóphân phối xấp xỉ phân phối chuẩn với kỳ vọng bằng 0 và phương sai σ2Γp TheoBổ đề Slutzky, ta suy ra √TΦ − Φˆ
=

hội tụ theo phân phốitới N 0, σ2Γ−1p
Do đó, ước lượng hồi quy tương đương tiệm cận với ước lượngYule-Walker.

Định lý 2.2.1 (Tính phân phối chuẩn tiệm cận của ước lượng hồi quy) Với cácgiả thiết tương tự như trong Định lý 2.1.1, ước lượng bình phương cực tiểu Φ =ˆ(X0X)−1(X0Y ) có phân phối tiệm cận sau

TΦ − Φˆ
→d N 0, σ2Γ−1p
,p lim s2T = σ2.

Ở đây s2T = ˆZ0Z/Tˆ và Zˆt là phần dư của mô hình hồi quy.Chứng minh: Xem [11, Chương 8].

Nhận xét 2.2.1 Trong thực tế σ2Γ−1p được tính ước lượng bởi s2T(X0X/T )−1. Dođó, đối với T lớn, Φˆ có thể được xem là có phân phối chuẩn NΦ, s2T(X0X)−1.

Điều này cho phép áp dụng các phép kiểm định t và F.

Ta sẽ trình bày chứng minh của định lý trên cho mô hìnhAR(1)với |φ| < 1, Zt ∼IIN (0, σ2)vàX0= 0 Gọi φˆT là ước lượng hồi quy củaφ, ta có

TφˆT − φ

t=1Xt−1Zt bằng 0 vì Zt ∼ IIN (0, σ2). Phương sai của biểu

thức này được cho bởi

V √1T

E Xt−12 Zt2+ 2T

T= −σ

41 − φ2T
T (1 − φ2)2 +

σ41 − φ2.

Cho T tiến ra vô cùng, ta thu được

1(1 − φ2) T

Zt2+ 2φ(1 − φ2) T

theo xác suất Số hạng thứ ba có kỳ vọng bằng 0 và phương sai hội tụ về không,do đó cũng hội tụ về 0 theo xác suất Từ đó ta có

Áp dụng định lý ánh xạ liên tục, ta suy ra

TφˆT − φ
→d N 0, 1 − φ2
. (2.4)Ngoài ra, phương sai có giá trị bằng

1 − φ2× 1

σ21 − φ2

2= 1 − φ2.

Trong khi việc ước lượng các mô hình AR bằng OLS khá đơn giản thì việc ướclượng các mô hình ARMA phức tạp hơn (xem [20]) Lý do là, khác với Xt, cácsai số ngẫu nhiên Zt, Zt−1, , Zt−q không thể quan sát được Chúng phải được suyra từ các quan sát của {Xt} Phương pháp thông thường để ước lượng mô hìnhARMA là phương pháp hợp lý cực đại.

Giả sử {Xt} là một quá trình ARM A(p, q) có quan hệ nhân quả và khả nghịchvới phương trình sai phân

Phương pháp hợp lý cực đại dựa trên một số giả thiết về phân phối đồng thời của

XT = (X1, , XT)0 với các tham số cho trước βvàσ2 Hàm phân phối đồng thờinày được gọi là hàm hợp lý Phương pháp hợp lý cực đại xác định các tham số saocho xác suất quan sát một mẫu cho trướcxT = (x1, , xT)là lớn nhất Điều này cóthể đạt được bằng cách cực đại hóa hàm hợp lý tương ứng Giả sử {Xt}là một quátrình Gauss với kỳ vọng bằng 0 và hàm tự phương saiγ Suy ra XT = (X1, , XT)0

có phân phối chuẩn với kỳ vọng bằng 0 và phương sai ΓT Hàm hợp lý Gauss chocác quan sát xT, LT β, σ2|xT

, là

LT β, σ2|xT
= (2π)−T /2(det ΓT)−1/2exp

TG−1T XT2σ4= 0.

Phương trình này có nghiệm σ2 = T−1x0TG−1T xT. Thay giá trị này vào hàm hợp lýban đầu và lấy log, ta được

ln LT (β |xT) = − ln (2π) − T2 ln T

−1x0TGT(β)−1xT
− 1

2ln det GT (β) −T

(Xt− Pt−1Xt)2rt−1

.