Tiểu luận phát hiện và khắc phục hiện tượng phương sai sai số thay đổi

A.LÝ THUYẾT I.Giới thiệu phương sai sai số thay đổi 1.1 Định nghĩa Phương sai sai số thay đổi xảy giả thiết: Var(Uᵢ ) =  i (với  i ≠ j) bị vi phạm Khi giả thiết phương sai sai số đồng bị vi phạm mơ hình hồi quy gặp phải tượng 1.2 Nguyên nhân Phương sai sai số thay đổi nguyên nhân sau: - Do chất mối liên hệ đại lượng kinh tế.có nhiều mối quan hệ kinh tế có chứa tượng Chẳng hạn mối liên hệ thu nhập tiết kiệm, thông thường thu nhập tăng mưc độ biến động tượng tăng - Do kỹ thuật thu nhập sử lý số liệu cải tiến dường giảm Kỹ thuật thu thập số liệu cải tiến sai lầm phạm phải it - Do người học hành vi khứ Ví dụ lỗi người đánh máy it thời gian thực tăng - Phương sai sai số thay đổi cũng xuất có quan sat ngoại lai Quan sat ngoại lai quan sat khác biệt nhiều (quá nhỏ lớn) với quan sat khác mẫu Việc đưa vào hay loại bỏ quan sat ảnh hưởng lớn đến phân tích hồi quy - Nguyên nhân khác mơ hình định dạng sai, bỏ xot biến thích hợp dạng giải tích hàm sai 1.3 Hậu Các ước lượng bình phương nhỏ β ^ ước lượng tuyến tính khơng chệch khơng hiệu Các ước lượng phương sai ước lượng chệch => Làm giá trị thông kê T& F ý nghĩa Các toán ước lượng & kiểm định dự báo sử dụng thông kê T&F không đáng tin cậy II.Phát tồn tượng phương sai sai số thay đổi 2.1 Phương pháp đồ thị phần dư Đồ thị sai số hồi quy (phần dư) biến độc lập X giá trị dự đoán Ŷi cho ta biết liệu phương sai sai số có thay đổi không Phương sai phần dư độ rộng biểu đồ phân rải phần dư X tăng Nếu độ rộng biểu đồ rải phần dư tăng giảm X tăng giả thiết phương sai số khơng thỏa mãn Ta hồi quy mơ hình hồi quy gốc: Yi = 1 + 2X2i + … + kXki + Ui Phương pháp vẽ đồ thị: B1.Ta hồi quy mơ hình hồi quy gốc Yᵢ = β1 + β2X2i + β3X3i+….+ βkXki+Uᵢ Ta thu phần dư eᵢ B2.Sắp xếp ei theo chiều tăng biến Xji B3.Vẽ đồ thị phần dư eᵢ (eᵢ²) Xji theo biến xếp đó.( với Ŷᵢ trường hợp hồi quy nhiều biến) u                                          Y (a) u                                             Y (b) u                                             Y (c ) (d ) KL:Nếu độ rộng phần dưu tăng X tằng kết luận có tượng phương sai sai số thay đổi 2.2 Kiểm định Park Park cho σi2 hàm số biến giải thích X ji đưa dạng hàm số σ2i Xji sau: σi2 = σ2 Xjiβ2 eVi Lấy ln vế ta được: lnσi2 = lnσ2 + β2lnXji + Vi Trong vi số hạng nhiễu ngẫu nhiên Park đề nghị sử dụng ei2 thay cho σi2 ước lượng hồi quy sau: Lnei2 = lnσ2i + β2lnXji + Vi = β1 + β2X’ji + Vi (*) Trong β1= lnσi2; X’ji = lnXji ; ei2 thu từ hồi quy gốc B1 ước lượng MHHQ gốc để thu phần dư ei B2 ước lượng mơ hình dạng ln phần dư ei² Lnei² = β1 + β2 ln Xi + νi Trường hợp có nhiều biến giải thích ước lượng hồi quy với biến giải thích với Ŷi B3.Sử dụng tiêu chuẩn kiểm định T để kiểm định giả thiết: H0 : phương sai sai số đồng � H0:   H1 : phương sai sai số thay đổi H1:  �0 Nếu giả thiết Ho bị bác bỏ kết luận tồn tượng phương sai sai số thay đổi 2.3 Kiểm định Glejser B1.Đầu tiên MHHQ gốc để thu phần dư ei B2 Ta thay mơ hình sau đây: | ei | = | ei | = | ei | = | ei | = | ei | = | ei | = Tương tự kiểm định Park, sử dụng tiêu chuẩn kiểm định T, ta kiểm định giả thiết: H0 : phương sai sai số đồng � H0:   H1 : phương sai sai số thay đổi H1:  �0 Nếu giả thiết bị bác bỏ kết luận có tượng phương sai sai số thay đổi 2.4 Kiểm định Goldfeld- Quandt - Xét mơ hình hồi qui biến sau : Yi =  +  2Xi + Ui Giả sử i2 có quan hệ dương với biến X theo cách sau:  i2 =  2Xi2 2 số - Các bước thực kiểm định Goldfeld - Quandt sau: B1.Sắp xếp quan sát theo thứ tự tăng dần giá trị biến Xj B2.Bỏ c quan sát theo cách sau: n = 30, lấy c=4 c=6; n = 60, lấy c = 10 quan sát l ại thành nhóm, nhóm có (n – c)/2 quan sát B3.Sử dụng phương pháp bình phương nhỏ để ước lượng tham số hàm hồi qui (n – c)/2 quan sát đầu cuối; Thu thập tổng bình phương phần dư RSS1 RSS2 tương ứng Trong RSS1 đại diện cho RSS từ hồi qui ứng với giá trị Xi nhỏ RSS2 ứng với giá trị Xi lớn Bậc tự tương ứng là: d n c n  c  2k  k 2 B4.KDGT Ho:phương sai sai số không đổi H1: : phương sai sai số thay đổi RSS / d H ~ F (d , d ) TCKĐ F  RSS1 / d   W  = { ftn: ftn > F  (d.d)} KL.Nếu ftn € Wα ta bác bỏ Ho chấp nhận H1 nên mơ hình có tượng phương sai sai số xảy 2.5 Kiểm định Breusch – Pagan – Godfrey - Xét mơ hình hồi qui k biến sau: Yi =  +  2X2i + … + kXki + Ui (**) Giả sử i2 mô tả hàm số biến phi ngẫu nhiên Zi, Zi biến Xi (một số tất cả) có ảnh hưởng đến i2, có dạng: i2 = f (z2i, z3i, …, zmi) Giả định: i2 = 1 + 2Z2i + … + mZmi 2 = 2 = … = 2 = 22 = 2 số Do vậy, việc kiểm định xem liệu i2 có thay đổi hay khơng, kiểm định giả thuyết H0: 2 = 3 = … = m = • Các bước thực kiểm đinhj Breusch – Pagan - Godfray sau: B1.Ước lượng (**) phương pháp OLS để thu phần dư e1, e2, …, en n B2.Tính ei2  ~  i 1 n ~ B3 Xây dựng biến pi = ei2/  B4.Hồi qui pi theo biến Zi dạng: pi = 1 + 2Z2i + … + mZmi + vi (*) vi số hạng ngẫu nhiên hồi qui B5.Thu ESS (tổng bình phương giải thích) từ (*) xác định:   ESS Giả thuyết ui có phân phối chuẩn cỡ mẫu n tăng lên vô hạn   2(m – 1) Tức  xấp xỉ 2 với m – bậc tự Như vậy, áp dụng mà ta tính  vượt giá trị tra bảng 2 với m – bậc tự với mức ý nghĩa chọn, bác bỏ giả thuyết H0 phương sai sai số thay đổi Ngược lại, chấp nhận 2.6 Kiểm định White Xét mơ hình hồi qui sau: Yi =  +  2X2i +  3X3i + ui B1.Ước lượng mơ hình OLS, thu phần dư ei B2.Ước lượng tron g mơ hình sau đây: ei2 = 1 + 2X2i + 3X3i + 4X2i2 + 5X3i2 +Vi (1) ei2 = 1+ 2X2i + 3X3i + 4X2i2 + 5X3i2+6X2iX3i+vi (2) (1) (2) có số mũ cao thiết phải có hệ số chặn mơ hình gốc có hay không R2 hệ số xác định bội, thu từ (1) với mơ hình khơng có số hạng chéo hay (2) với mơ hình có số hạng chéo B3.Chọn BTKD : Với H0: phương sai sai số khơng đổi, ta rằng: nR2 có phân phối xấp xỉ 2(df), df số hệ số mơ hình (1) khơng kể hệ số chặn - Nếu nR2 không lớn giá trị tra bảng 2(df), chấp nhận giả thuyết H0 Do đó, kết luận mơ hình (1) 2 = 3 = 4 = 5 = hay 2 = 3 = 4 = 5 = 6 = mơ hình (2) Ngược lại, bác bỏ H0 vậy, có tượng phương sai sai số thay đổi 2.7 Kiểm định dựa biến phụ thuộc Giả thiết: Phương sai sai số ngẫu nhiên Ui phụ thuộc theo Y  i    ( E (Yi ))  Vi (3) Các bước thực hiện: B1.ƯLMHHQ gốc để thu phần dư ei B2.ƯLMHHQ dạng (3) B3.Từ kết thu R² tương ứng Có thể sử dụng hai kiểm định sau để kiểm định giả thiết: H0 : phương sai sai số đồng H1 : phương sai sai số thay đổi a,KĐ  TCKĐ  =nR2 (R2 hệ số phù hợp mơ hình bước 2) Nếu Ho  ~  (1) W  ={  :  =nR2>  2(1)  } b KĐ F  2 H0 F (  ) ~ F (1, n  2) se( ) dung  W { f : f  f (1,n  ) } KL : Nếu bác bỏ Ho có tượng phương sai sai số xảy III.Biện pháp khắc phục 3.1 Phương sai biết Khi σi² biết , dễ dàng khắc phục bệnh cách sử dụng phương pháp bình phương nhỏ có trọng số Xét trường hợp mơ hình hồi qui tổng thể biến: Yi = 1 + 2Xi + Ui Chúng ta giả sử phương sai sai số i2 biết; nghĩa phương sai sai số quan sát biết Đơn giản, chia hai vế mơ hình cho i biết  1 X  u Yi 1      i   i i  i   i  i Xem phần chứng minh giáo trình, V i2 số Hay phần sai số “được chuyển đổi”, vi đồng Trong thực tế, chia quan sát Yi Xi cho i biết chạy hồi qui OLS cho liệu chuyển đổi Ước lượng OLS 1 2 tính theo cách gọi ước lượng bình phương bé có trọng số (WLS); quan sát Y X chia cho trọng số (độ lệch chuẩn) riêng nó, i 3.2 Phương sai chưa biết Xét mơ hình Yi = β1 + β2Xi + β3Zi +Ui (1) Giả sử mơ hình thoả mãn giả thiết mơ hình quy tuyến tính cổ điển trừ giả thiết phương sai sai số thay đổi Chúng ta xét số giả thiết sau phương sai sai số Khắc phục theo giả thiết 3.2.1 Giả thiết Phương sai sai số tỉ lệ với bình phương biến giải thích: E(Ui² ) = σ² Xi ² Bằng phương pháp đồ thị cách tiếp cận Park Glejser…chỉ cho phương sai Ui lệ với bình phương biến giải thích X biến đổi mơ hình gốc theo cách sau: Chia hai vế mơ hình hồi quy gốc cho Xi (Xi ≠0) ta được: Trong đó: Vi = Khi E( vi )2 = số hạng nhiễu biến đổi ta có: E( vi )2 = Như tất giả thiết mơ hình hồi quy tuyến tính cổ điển thoả mãn mơ hình Vậy ta áp dụng phương pháp bình phương nhỏ cho phương trình biến đổi Hồi quy theo Yi / Xi theo 1/Xi 10 Kiểm định giả thuyết: H0: α2 = α3 = α4 = α5 = H1: Tồn αj # (j = 2, 3, 4, 5) Sử dụng tiêu chuẩn kiểm định : χ2 = nR2 ~ χ2(m) Với m số hệ số mơ hình (3) khơng tính hệ số chặn Ta có miền bác bỏ : Wα = { χ2tn : χ2tn > χ2(m)α } Theo kết bảng ta có χ2 tn = 15.52237 Với α = 0,05 , m = ; nên χ20,05(4) = 9,48773 Ta thấy χ2tn > χ20,05(4) => bác bỏ giả thuyết H0 Kết luận : Với mức ý nghĩa α = 0,05, mơ hình có tượng phương sai sai số thay đổi 2.Kiểm định park Ước lượng mơ hình dạng : ln ei2 = 1 +  ln  ji + Vi Thực bảng eviews ta bảng Từ kq bảng ivews ta thu MH dạng ln phần dư ei ² 21 ln ei ²=-0.298947 + 1.722063ln(YF) + Vi Để kiểm tra mơ hình có tượng phương sai sai số thay đổi hay không Ta tiến hành kiểm định cặp giả thuyết sau : H0:   H0 : phương sai sai số đồng  H1:  �0 H1 : phương sai sai số thay đổi � Sử dụng tiêu chuẩn kiểm định : T = 2 � Se(  ) Nếu H0 T ~ T(n-k) Miền bác bỏ : Wα = { ttn: |ttn | > t(n-k)α/2 } Theo kết bảng ta có ttn = 2.974939 Với α = 0,05 , k = ; nên t0,025(18) = 2,101 Ta thấy |ttn| > t0,05(18) => bác bỏ giả thuyết H0 Kết luận : Với mức ý nghĩa α = 0,05, nói mơ hình có phương sai sai số thay đổi 3.kiểm định glejser Từ mơ hình hồi quy mẫu: Ŷi = 420749.9 + 22.25775*Xi – 133.0592*Zi Sau lưu phần dư ei dạng (yf) ta thực hồi quy theo mơ hình sau: │ei│= β1+ β2Xi + Vi Để hồi quy mơ hình trên cửa sổ Eviews ta thực thao tác sau, chọn Quick→ Estmate Equation sau nhập tên biến : abs(e) c yf ta : 22 � � Mơ hình hồi quy mẫu: e = -5168.231 + 0.255815 i Yi Để kiểm tra mơ hình có tượng phương sai sai số thay đổi hay không Ta tiến hành kiểm định cặp giả thuyết sau : H0:   H1:  �0  H0 : phương sai sai số đồng H1 : phương sai sai số thay đổi � Sử dụng tiêu chuẩn kiểm định : T = 2 � Se(  ) Nếu H0 T ~ T(n-k) Miền bác bỏ : Wα = { ttn: |ttn | > t(n-k)α/2 } Theo kết bảng ta có ttn = 5.807075 Với α = 0,05 , k = ; nên t0,025(18) = 2,101 23 Ta thấy |ttn| > t0,05(18) => bác bỏ giả thuyết H0 Kết luận : Với mức ý nghĩa α = 0,05, nói mơ hình có phương sai sai số thay đổi Kiểm định hồi quy phụ a Kiểm định phương sai số thay đổi với biến Ŷi Ước lượng mơ hình: ei2 = β1 + β2 Ŷi + Vi Thực eview cách dùng lệnh : e2 c (yf) Ta bảng kết eviews sau : Ta mơ hình: e i = (-4.98E+08) + 0.080155 Ŷi Ta tiến hành kiểm định cặp giả thuyết sau : H0:   H1:  �0  H0 : phương sai sai số đồng 24 H1 : phương sai sai số thay đổi Theo kết bảng ta có: χ2 tn = n.R2 = 12.34276     2  F=  = (5.386496)2 = 29.014339    Se (  )    Ta thấy: χ2tn > χ2(1)0,05 = 3.84146   Ftn > F0.05 = 4.41 1;18 => bác bỏ giả thuyết H0 Kết luận: Với mức ý nghĩa α = 0,05, mơ hình có tượng phương sai sai số thay đổi Ŷi III Khắc phục tượng Vì mơ hình ban đầu có phương sai sai số thay đổi theo biến Ŷ i nên ta khắc phục theo giả thiết Sau làm chúng tơi: Từ mơ hình : e i = -100E+08 + 0.062459 Ŷi 2 coi E( U i2 ) =   E Yi   đúng.Khi thực phép biến đổi biến số sau: Yi  Ui 1 2 X1 + Zi + = + E (Yi ) E (Yi ) E (Yi ) E (Yi ) E (Yi ) 1  = 1 E (Y ) +  E (Y ) X i + E (Y ) Z i + Vi i i i Ui Trong Vi = E (Y ) , Var(Vi) =  i Nghĩa nhiễu Vi có phương sai khơng đổi Điều hồi quy (4) thoả mãn giả thiết phương sai khơng đổi mơ hình hồi quy tuyến tính cổ điển Khắc phục theo giả thiết từ bảng equation ta nhập y/yf ->1/yf-> x/yf->z/yf ta bảng sau: 25 Ta mơ hình hồi quy: Yi X Z = *24266.49 + i *12.26406 - i *36.40012 YF YF YF YF Ta mơ hình hồi quy gốc sau: Yi = 24266.49 + 12.26406* X i - 36.40012* Z i Ta thu phần dư ei (lưu với tên e1) 26 biến Ŷi ( yf1) mới: 27 IV Kiểm định lại 1.Kiểm định white a.Kiểm định White tích chéo Kiểm định White eview ta có bảng : 28 Kiểm định giả thuyết : H0: α2= α3= α4= α5= α6 =  H1: Tồn αj # (j=2->6) H0 : phương sai sai số đồng H1 : phương sai sai số thay đổi Sử dụng tiêu chuẩn kiểm định : χ2 = nR2 ~ χ2(m) Với m số hệ số mơ hình (2) khơng tính hệ số chặn Ta có miền bác bỏ : Wα = { χ2tn : χ2tn > χ2(m)α } Theo kết bảng ta có χ2 tn = n*R² = 7.870108 Với α = 0,05 , m = ; nên χ20,05(5) = 11.0705 Ta thấy χ2tn < χ20,05(5) => Tạm thời chấp nhận H0 29 Kết luận: Vậy mơ hình khơng có tượng phương sai sai số thay đổi hay mơ hình khắc phục b.Kiểm định white có tích chéo Thực eviews ta thu bảng sau: Kiểm định giả thuyết : 30 H0: α2= α3= α4= α5= α6 =  H1: Tồn αj # (j=2->6) H0 : phương sai sai số đồng H1 : phương sai sai số thay đổi Sử dụng tiêu chuẩn kiểm định : χ2 = nR2 ~ χ2(m) Với m số hệ số mơ hình (2) khơng tính hệ số chặn Ta có miền bác bỏ : Wα = { χ2tn : χ2tn > χ2(m)α } Theo kết bảng ta có χ2 tn = n*R² = 7.870108 Với α = 0,05 , m = ; nên χ20,05(5) = 11.0705 Ta thấy χ2tn < χ20,05(5) => Tạm thời chấp nhận H0 Kết luận: Vậy mơ hình khơng có tượng phương sai sai số thay đổi hay mơ hình khắc phục Kiểm định park Thực ivews bảng equation dùng lệch log(e1^2) c log(yf1) ta : 31 Để kiểm tra mơ hình có tượng phương sai sai số thay đổi hay không Ta tiến hành kiểm định cặp giả thuyết sau : H0:   H1:  �0  H0 : phương sai sai số đồng H1 : phương sai sai số thay đổi � Sử dụng tiêu chuẩn kiểm định : T = 2 � Se(  ) Nếu H0 T ~ T(n-k) Miền bác bỏ : Wα = { ttn: |ttn | > t(n-k)α/2 } Theo kết bảng ta có ttn = -0.554133 Với α = 0,05; k = ; nên t0,025(18) = 2,101 Ta thấy |ttn| < t0,05(18) => tạm thời chấp nhận H0 Kết luận: Vậy mơ hình khơng có tượng phương sai sai số thay đổi hay mơ hình khắc phục 3.Kiểm định glejser Ta sử dụng mơ hình | ei | = Sử dụng lệch abs(e1) c yf ta : 32 Để kiểm tra mơ hình có tượng phương sai sai số thay đổi hay không Ta tiến hành kiểm định cặp giả thuyết sau : H0:   H1:  �0  H0 : phương sai sai số đồng H1 : phương sai sai số thay đổi � Sử dụng tiêu chuẩn kiểm định : T = 2 � Se(  ) Nếu H0 T ~ T(n-k) Miền bác bỏ : Wα = { ttn: |ttn | > t(n-k)α/2 } Theo kết bảng ta có ttn = - 0.689895 Với α = 0,05; k = ; nên t0,025(18) = 2,101 Ta thấy |ttn| < t0,05(18) => tạm thời chấp nhận H0 33 Kết luận: Vậy mơ hình khơng có tượng phương sai sai số thay đổi hay mơ hình khắc phục * So sánh hai mơ hình trước sau khắc phục trước khắc phục 34 Sau khắc phục 35 ... làm giảm phương sai sai số thay đổi tác động phép biến đổi loga Một ưu phép biến đổi loga hệ số góc hệ số co dãn Y X KL: Để khắc phục tượng phương sai sai số thay đổi ta sử dụng cách phục Tuỳ... thuyết H0 Kết luận: Với mức ý nghĩa α = 0,05, mơ hình có tượng phương sai sai số thay đổi Ŷi III Khắc phục tượng Vì mơ hình ban đầu có phương sai sai số thay đổi theo biến Ŷ i nên ta khắc phục theo... kiểm định giả thiết: H0 : phương sai sai số đồng � H0:   H1 : phương sai sai số thay đổi H1:  �0 Nếu giả thiết Ho bị bác bỏ kết luận tồn tượng phương sai sai số thay đổi 2.3 Kiểm định Glejser