Khắc phục hiện tượng tự tương quan

Bản chất hiện tượng tự tương quan

Đề tài: Khắc phục hiện tượng

tự tương quan

Nhóm 5

Phần 1 - Bản chất hiện tượng tự

tương quan

1.1 Định nghĩa

1.2 Nguyên nhân của tự tương quan

1.3 Ước lượng bình phương nhỏ nhất khi có

tự tương quan

1.4 Ước lượng tuyến tính không chệch tốt

nhất khi có tự tương quan

1.5 Hậu quả

Phần 1 - Bản chất hiện tượng tự

tương quan

1.1 Định nghĩa

- Trong phạm vi hồi quy, mô hình tuyến tính cổ

điển giả thiết rằng không có sự tương quan giữa các nhiễu Ui nghĩa là:

(1.1)

- Tuy nhiên trong thực tế có thể xảy ra hiện tượng

mà thành phần nhiễu của các quan sát lại có thể phụ thuộc lẫn nhau nghĩa là:

(1.2)

) (

0 )

, ( U U i j Cov i j  

)(

0)

,

Phần 1 - Bản chất hiện tượng tự

tương quan

1.2 Nguyên nhân của tự tương quan

- Nguyên nhân khách quan:

là lược đồ tự hồi quy bậc nhất Markov KH: AR(1)

Trong đó: gọi là hệ số tự tương quan, là nhiễu

t t

Y  1  2 

) 1 1

, (U t U ts 

Cov

1.3 Ước lượng bình phương nhỏ nhất khi

i i

x

y x

1

2

1 2

ˆ



Phần 1 - Bản chất hiện tượng tự

tương quan

1.4 Ước lượng tuyến tính không chệch tốt nhất khi

có tự tương quan

Giả sử ta tiếp tục xét mô hình 2 biến và có quá

trình AR(1) bằng phương pháp bình phương

nhỏ nhất tổng quát ta thu được:

(1.7)C

x x

y y

x x

n t

t t

n t

t t

t

t G

2

1 1

2

) (

) )(

1.4 Ước lượng tuyến tính không chệch tốt nhất khi có tự tương quan

Phương sai được cho bằng công thức:

(1.8)

Trong đó C và D cũng là hằng số điều chỉnh

mà ta có thể bỏ qua trong thực hành

D x

x

t

t t

2 1

2

2

) (

Phần 1 - Bản chất hiện tượng tự

tương quan

1.5 Hậu quả

- Ước lượng bình phương nhỏ nhất thông thường

vẫn là ước lượng tuyến tính không chệch, nhưng chúng không phải là ước lượng hiệu quả nữa.

- Các ước lượng của phương sai là chệch và

thông thường là thấp hơn giá trị thực của

phương sai, do đó giá trị của thống kê T được

phóng đại lên nhiều lần.

- Các kiểm định t và F nói chung không đáng tin

cậy.

1.5 Hậu quả

- cho ước lượng chệch của

thực, và trong một số trường hợp nó dường

như ước lượng thấp

- có thể là độ đo không đáng tin cậy cho

thực

- Các phương sai và sai số tiêu chuẩn của

dự đoán đã tính được cũng có thể không

của et theo thời gian như hình dưới:

ta thấy phần dư không biểu

thị một kiểu mẫu nào khi

thời gian tăng lên →không có

dấu hiệu của tương quan chuỗi

số liệu có phải là kết quả của một quá trình

mang tính ngẫu nhiên hay không

2.2 Phương pháp kiểm định số lượng

2.2.2 Kiểm định về tính độc lập của các

phần dư

Để kiểm định về tính độc lập của các

phần dư ta sử dụng bảng liên tiếp Bảng

liên tiếp mà chúng ta sử dụng ở đây

gồm một số dòng và một số cột, cụ thể

là bảng liên tiếp 2 dòng và 2 cột

2

2



2.2 Phương pháp kiểm định số lượng

2.2.3 Kiểm định d.Durbin – Watson

Là kiểm định dựa vào giá trị tính toán,

thống kê d được định nghĩa như sau: (1.9)

e

e

e d

1 2 2

2

1 ) (

)ˆ1

(

2  



d

2.2.3 Kiểm định d.Durbin - Watson

Trong đó:

(1.11)

Vì nên

Nếu thì d = 4: tự tương quan ngược chiều

Nếu thì d = 2: không có tự tương quan

Nếu thì d = 0: tồn tại tự tương quan thuận chiều

t t

e

e e

2.2.3 Kiểm định d.Durbin - Watson

(



d

) 2

(



d

) 3

(



d

) 4

(



d

)5

(



d

2.2 Phương pháp kiểm định số lượng

2.2.4 Kiểm định Breusch – Godfrey

Xét mô hình giản đơn:

Trong đó:

thoả mãn các giả thiết của OSL.

t t

t p

t p t

2.2.4 Kiểm định Breusch – Godfrey

Xét giả thiết:

Kiểm định như sau:

- Bước 1: Ước lượng mô hình hồi quy gốc bằng

phương pháp bình phương nhỏ nhất để nhận được các phần dư

- Bước 2: Cũng bằng phương pháp bình

phương nhỏ nhất, ước lượng mô hình sau để thu được hệ số xác định bội

0

t p t

t t

e 1  2  1 1  2  2     

2.2.4 Kiểm định Breusch – Godfrey

- Bước 3: Xét giả thiết

Nếu đúng thì:

Theo nguyên lý xác suất nhỏ ta có miền bác bỏ:

0

; {

W  tn2 tn2  2 p

2.2 Phương pháp kiểm định số lượng

2.2.5 Kiểm định Durbin h

Ta xét mô hình:

Thống kê kiểm định này được gọi là thống kê h

và được tính theo công thức sau:

(1.12)

Trong đó n là cỡ mẫu; là phương sai của

hệ số của biến trễ

t t

t

Y  0  1  2  1 

) ˆ ( 1





) ˆ ( 2

2.2.5 Kiểm định Durbin h

là ước lượng của tương quan chuỗi bậc nhất

từ phương trình:

(1.13)

Khi n lớn, Durbin đã chỉ ra rằng nếu thì

thống kê h tuân theo phân phối chuẩn hoá – N(0,1).

e

e e

2.2.5 Kiểm định Durbin h

Trong thực h à nh không cần tính vì có thể

tính được xấp xỉ bằng công thức:

(1.14)

Trong đó d là thống kê d – thông thường Thay

biểu thức của vào ta được công thức cho thống kê h như sau:

) 2







Phần 3 – Biện pháp khắc phục

3.1.

3.1 Khi cấu trúc tự tương quan là đã biết

Vì các nhiễu không quan sát được nên tính

chất của tương quan chuỗi thường là vấn đề suy đoán hoặc là do những đòi hỏi cấp bách trong thực tiễn Ta có:

(1.16)

Trong đó và thoả mãn các giả thiết

của phương pháp bình phương nhỏ nhất

t

U

t t

3.1 Khi cấu trúc của tự tương quan

là đã biết

Ta có mô hình hai biến:

(1.17) Nếu (1.17) đúng với t thì cũng đúng với t – 1 nên: (1.18) Nhân hai vế (1.18) với ta được:

(1.19)

t t

Y  1  2 

1 1

2 1

2 1

3.1 Khi cấu trúc của tự tương quan

là đã biết

Trừ (1.17) cho (1.19) ta được:

(1.20)Đặt

Thì phương trình (1.20) có thể viết dưới dạng: (1.21)(1.20) là phương trình sai phân tổng quát

t t

t

t t

t t

t t

X X

U U

X X

) 1

(

) (

) (

) 1

(

1 2

1

1 1

2 1

Y * 1*  2* *  

Phần 3 – Biện pháp khắc phục

3.2 Khi chưa biết

3.2.1 Phương pháp sai phân cấp 1

tức là không có tương quan chuỗi

nghĩa là có tương quan dương hoặc

âm hoàn toàn

Nếu thì phương trình sai phân tổng quát

(1.28) quy về phương trình sai phân cấp 1:

 0

t t

t t

t t

Y  1  2(  1)  (  1)  2(  1)  

3.2.1 Phương pháp sai phân cấp 1

Hay (1.22)

Để ước lượng hồi quy (1.22) ta sẽ sử dụng

mô hình hồi quy qua gốc tọa độ Giả sử mô hình hồi quy ban đầu là:

Y    

t t

Y 1  2  3 

3.2.1 Phương pháp sai phân cấp 1

(1.24)

Trong đó

và

Nếu nghĩa là có tương quan chuỗi âm

hoàn toàn, phương trình sai phân bây giờ có dạng:

Hay

(1.25)

t t

t t

Y  1 21  2(  1) 

2 2

2

1 2

3.2 Khi chưa biết

3.2.2 Ước lượng dựa trên thống kê d –

Durbin – Watson

Trong phần kiểm định d ta đã thiết lập được

các công thức:

(1.24)Hoặc:

(1.25)





) ˆ 1

3.2.2 Ước lượng dựa trên thống kê

d – Durbin - Watson

Từ (1.23) chỉ ra rằng giả thiết sai phân cấp 1

với chỉ đúng khi d = 0 hoặc xấp xỉ

bằng 0 Cũng vậy khi d = 2 thì và khi

d = 4 thì

Do đó thống kê d cung cấp cho ta một phương

pháp sẵn có để thu được ước lượng của Nhưng lưu ý rằng quan hệ (1.25) chỉ là quan

hệ xấp xỉ và có thể không đúng với các mẫu nhỏ

3.2.3 Thủ tục lặp Cochrane – Orcutt

để ước lượng

Ta xét:

(1.26) Giả sử:

(1.27) Các bước ước lượng được tiến hành như

sau:

(1) Ước lượng mô hình 2 biến bằng phương

pháp bình phương nhỏ nhất thông thường và thu được các phần dư

t t

Y  1  2 

t t

3.2.3 Thủ tục lặp Cochrane – Orcutt

để ước lượng

(2) Sử dụng các phần dư đã ước lượng để ước

lượng hồi quy:

(1.28)

(3) Sử dụng thu được từ (1.28) để ước lượng

ước lượng phương trình sai phân tổng quát

(1.20) cụ thể là:

(hoặc đặt )



t t

e   ˆ  1 

) ˆ

( )

ˆ (

) ˆ 1

* 1 1

*  t  ˆ t ;   (1 ˆ ); 

t Y Y Y

3.3.3 Thủ tục lặp Cochrane – Orcutt

để ước lượng

Ta ước lượng hồi quy (1.29)

(1.29)

(4) Thế giá trị và thu được từ

(1.29) vào hồi quy gốc ban đầu (1.26) và thu được các phần dư mới chẳng hạn

* 1

*

t t

Y    

) ˆ 1 ( ˆ

e ˆ**    ˆ1*   ˆ2*

3.2.4 Thủ tục Cochrane – Orcutt

hai bước

Đây là một kiểu rút gọn quá trình lặp.

Trong bước 1 ta ước lượng từ bước

lặp đầu tiên nghĩa là từ phép hồi quy (1.26).

Trong bước 2 ta sử dụng ước lượng của

để ước lượng phương trình sai

phân tổng quát





3.2.5 Phương pháp Durbin – Watson

hai bước để ước lượng

Ta viết lại pt sai phân tổng quát dưới dạng

sau:

(1.31)Durbin đã đề xuất thủ tục 2 bước:

(1) Coi (1.31) như là 1 mô hình hồi quy bội,

hồi quy theo , và và coi giá trị ước lượng được của hệ số hồi quy của là ước lượng của

t t

t t

3.2.5 Phương pháp Durbin – Watson

hai bước để ước lượng

(2) Sau khi thu được , hãy đổi biến và

và ước lượng hồi quy bằng phương pháp

bình phương nhỏ nhất thông thường trên các biến đã biến đổi đó như ở (1.21)

3.2.6 Các phương pháp khác

ước lượng

Ngoài các phương pháp trên ta có thể dùng

phương pháp hợp lý cực đại để ước lượng trực tiếp các tham số của (1.31) mà không cần dùng đến một số thủ tục lặp đã thảo

luận

Thực hành Eviews

Tạo một file mới trong eviews và nhập số liệu trên vào

 Từ menu chính,chọn File/New/Workfile

Xuất hiện workfile Create

Nhập thời điểm bắt đầu (start date) 1991 và thời

điểm kết thúc (End date) 2008 OK → OK

Từ cửa sổ chính Eviews, chọn Quick/Empty Group

Nhấn mũi tên lên của bàn phím ( ) để nhập tên các ↑) để nhập tên các

biến Y, X vào hàng thứ nhất nhập số liệu tương → OK ứng cho từng biến đóng cửa sổ group lại yes → OK → OK

Phát hiện hiện tượng tự tương quan.

Ước lượng mô hình: Từ cửa sổ chính của

Eviews, chọn Quick/Estimate Equation…

Tại cửa sổ Equation Specification nhập vào

Equation Specification Y C X rồi OK Ta được bảng kết quả của phương pháp ước lượng bình phương nhỏ nhất sau:

Phát hiện hiện tượng tự tương quan

 Từ cửa sổ Equation, chọn Procs/Make

Residual Series

Phương pháp đồ thị

 Cửa sổ Make Residual hiện ra, nhập

tên cho phần dư là “E”

Phương pháp đồ thị

 Ta được phần dư e

Phương pháp đồ thị

 Từ menu chính chọn Quick/

Graph/ Line Graph

 Cửa sổ Series List sẽ xuất hiện,

yêu cầu nhập tên biến “E” cần vẽ

đồ thị

 Sau khi nhập tên biến xong, chọn

“OK” ta được đố thị phần dư dưới đây:

Phương pháp đồ thị

Phương pháp đồ thị

 Nhìn vào đồ thị phần dư ta thấy có

xu thế tuyến tính, tăng hoặc giảm trong các nhiễu Nó ủng hộ cho giả thiết có sự tương quan trong mô

hình hồi quy tuyến tính cổ điển.

2 Kiểm định Durbin Watson

Kiểm định Durbin Watson

 Ta có kết quả của thống kê d d =

3 Kiểm định Breusch-Godfrey

(BG)

 Từ cửa sổ Equation, chọn Views/Residual

Test/ Serial Correlation LM Test…

Kiểm định Breusch-Godfrey

 Ta được:

→ OK OK

Kiểm định Breusch-Godfrey

Kiểm định Breusch-Godfrey

 Nhìn vào phần trên của bảng kết quả ta

có: χ2 = 0,011130

 Với  = 0,05 > 0,011130 ta bác bỏ → OK

giả thiết cho rằng không có tự tương

quan ở bậc 2, hay nói cách khác, ta kết luận tồn tại hiện tượng tự tương quan bậc 2

Khắc phục hiện tượng

tự tương quan.

 Trong bảng kết quả hồi quy ở dòng

Durbin-Watson stat có d=0.529280 → OK = 1- 0.529280/2 = 0.73536

 Phương trình sai phân tổng quát:

Y1t = Yt – 0.73536 x Y(t-1) ; X1t = Xt -0.73536 x X(t-1)

2

1

ˆ   d



Khắc phục hiện tượng tự tương quan

 Bằng Excel ta tính được Y1t và X1t như sau



Khắc phục hiện tượng tự tương quan

 Ước lượng mô hình trên ta có kết quả:

Khắc phục hiện tượng tự tương quan

Khắc phục hiện tượng tự tương quan

Khắc phục hiện tượng tự tương quan

 Nhìn vào phần trên của bảng kết quả

ta có: χ2 = 0,268332

 Với  = 0,05 < 0,268332

→ OK ta chấp nhận giả thiết cho rằng

không có tự tương quan ở bậc 1, hay

ta kết luận không tồn tại hiện tượng

tự tương quan bậc 1

Khắc phục hiện tượng tự tương quan

Khắc phục hiện tượng tự tương quan

 Nhìn vào phần trên của bảng kết quả

ta có: χ2 = 0.114452

 Với  = 0,05 < 0.114452

→ OK ta chấp nhận giả thiết cho rằng

không có tự tương quan ở bậc 2, hay nói cách khác, ta kết luận không tồn tại hiện tượng tự tương quan bậc 2

 Ta thấy rằng các kiểm định dựa trên

Durbin-Watson, kiểm định BG đều cho biết mô hình sai phân tổng quát không có hiện tượng tự tương quan

Khắc phục hiện tượng tự tương quan

 Nếu chập nhận mô hình này thì ước

lượng của mô hình ban đầu là: