Khi giả thiết phương sai sai số không thay đổi của mô hình hồi quy bị phá vỡ thì sẽ dẫn tới một số hậu quả như Các ước lượng bình phương nhỏ nhất của các hệ số tuy vẫn là ước lượng khô[r]
(1)Bài 6: Phương sai số thay đổi BÀI PHƯƠNG SAI SAI SỐ THAY ĐỔI Mục tiêu Sau kết thúc bài, học viên hiểu vấn đề sau đây: Hiện tượng phương sai sai số (PSSS) thay đổi xảy nào? Hậu PSSS thay đổi Phát PSSS thay đổi Các biện pháp khắc phục PSSS thay đổi Nội dung Hướng dẫn học PSSS thay đổi là gì? Cần nắm chất tượng, đó là giả thiết phương pháp OLS không thỏa mãn Hậu PSSS thay đổi Phát PSSS thay đổi Khắc phục PSSS thay đổi Tập trung vào hậu chính tượng này đó là làm cho các ước lượng OLS là các ước lượng không hiệu Hiểu rõ ý tưởng các phương pháp phát tượng Hiểu rõ ý tưởng các phương pháp khắc phục tượng STA301_Bài 6_v1.0013101214 79 (2) Bài 6: Phương sai số thay đổi TÌNH HUỐNG DẪN NHẬP Tình Ngân hàng Đầu tư và phát triển Việt Nam BIDV nghiên cứu tiết kiệm phụ thuộc vào tiêu dùng người dân Hà Nội và người dân Lai Châu các tỉnh miền Bắc, xảy khả là phân tán tiết kiệm người dân Lai Châu nhỏ so với phân tán tiết kiệm người dân Hà Nội Khi nghiên cứu vấn đề nào đó phương pháp kinh tế lượng, ta sử dụng mô hình hồi quy Và để ước lượng mô hình hồi quy, ta thường dùng phương pháp OLS (bài học số 3) Tuy nhiên, để thực phương pháp OLS thì mặt kỹ thuật, giả thiết mô hình cần thỏa mãn Đó là giả thiết các nhiễu ngẫu nhiên Về chất thì giả thiết này muốn ngụ ý phân tán các quan sát biến phụ thuộc là Câu hỏi Vấn đề đặt ra, Ngân hàng BIDV nghiên cứu vấn đề trên phương pháp kinh tế lượng thì hậu phân tán tiết kiệm người dân Hà Nội và Lai Châu khác là gì? 80 STA301_Bài 6_v1.0013101214 (3) Bài 6: Phương sai số thay đổi Trong các bài trước chúng ta đã dùng phương pháp bình phương bé để ước lượng các hệ số mô hình hồi quy Để phương pháp đó có hiệu quả, ta phải xét mô hình hồi quy số giả thiết, đó có giả thiết quan trọng là các nhiễu ngẫu nhiên u i có phương sai không đổi Một câu hỏi đặt là giả thiết này bị vi phạm thì hậu nào? Đồng thời, làm nào để phát hiện tượng giả thiết đó bị vi phạm và khắc phục tượng đó cách nào? Bài này xem xét các vấn đề nêu trên 6.1 Nguyên nhân tượng phương sai sai số thay đổi BÀI TOÁN Thông thường mô hình hồi quy tuyến tính Yi 1 2 X 2i 3 X 3i k X ki u i (6.1) nghiên cứu với giả thiết các nhiễu ngẫu nhiên u i có phương sai không đổi, Var u i E u i2 , i 1, n (6.2) Vậy điều kiện (6.2), tức là các u i có phương sai thay đổi, Var u i Var u j i j thì mô hình (6.1) bị ảnh hưởng nào? Có nhiều nguyên nhân làm phương sai các sai số u i khác nhau, có thể kể đến số nguyên nhân sau: Trong số liệu có hiệu ứng "học tập", giống thời gian luyện tập giúp thành tích thi đấu vận động viên ngày càng ổn định, tức là phương sai sai số giảm dần Số liệu bị ảnh hưởng tượng "mỏi" "lão hóa" Chẳng hạn vào đầu ca làm việc, công nhân tỉnh táo và ít sai sót so với các thời điểm sau; máy móc cho các sản phẩm đồng so với thời gian sau đó, các chi tiết máy bị mòn Quy mô quan sát ảnh hưởng đến độ "tự do" số liệu Ví dụ tiến hành điều tra chi phí tiêu dùng và thu nhập hộ gia đình, ta thấy hộ gia đình có thu nhập thấp thì việc chi tiêu họ không linh động, phần lớn thu nhập hộ này tập trung vào các nhu cầu thiết yếu thực phẩm, quần áo, chỗ ở, lại Như chi tiêu nhóm có thu nhập thấp tương đối đồng đều, không biến động nhiều Trong đó nhóm có thu nhập cao thì ngoài việc chi cho nhu cầu thiết yếu, họ còn có khả lựa chọn chi tiêu cho du lịch, giải trí, đầu tư hay không vào các lĩnh vực bất động sản, chứng khoán, … Do biến động chi tiêu nhóm này lớn Định dạng mô hình sai, điều này xảy có bỏ sót biến dạng hàm hồi quy không lựa chọn phù hợp STA301_Bài 6_v1.0013101214 81 (4) Bài 6: Phương sai số thay đổi Do tác động các quan sát ngoại lai, là quan sát có giá trị quá nhỏ quá lớn so với quan sát khác mẫu Kỹ thuật thu thập số liệu không đồng đều, cung cấp số liệu với chất lượng khác 6.2 Hậu phương sai sai số thay đổi Khi giả thiết phương sai sai số không thay đổi mô hình hồi quy bị phá vỡ thì dẫn tới số hậu Các ước lượng bình phương nhỏ các hệ số là ước lượng không chệch không phải là ước lượng hiệu quả, tức là không phải là ước lượng có phương sai bé nhất; Phân phối xác suất các thống kê sử dụng mô hình không xấp xỉ phân phối t phân phối F đòi hỏi sở lý thuyết, đó việc sử dụng các khoảng tin cậy hay tiến hành kiểm định giả thuyết dựa trên hai phân phối đó không còn đáng tin cậy và dễ dẫn tới các kết luận sai lầm 6.3 Phát hiện tượng phương sai sai số thay đổi Sau đây chúng ta xem xét số các phép kiểm định để phát có tượng phương sai sai số thay đổi Xét mô hình hồi quy bội Yi 1 2 X 2i 3 X 3i k X ki u i E u i2 i2 với: (6.3) i 1, n Để phát hiện tượng phương sai sai số thay đổi, ta có thể sử dụng ba mô hình hồi quy phụ sau đây : i2 1 Z2i 3 Z3i p Zpi ; (6.3a) i 1 Z2i Z3i p Zpi ; (6.3b) ln i2 1 Z2i Z3i p Zpi ; (6.3c) i2 exp 1 Z2i 3 Z3i p Zpi Các mô hình hồi quy phụ này chứa p hệ số chưa biết và Zp là các biến với giá trị đã biết (có thể số Zp là tất các biến đó thành lập từ các biến độc lập X i mô hình hồi quy (6.3)) BÀI TOÁN H : 3 p Bài toán kiểm định: H1 : i Nếu giả thuyết H chấp nhận thì có nghĩa là phương sai sai số mô hình (6.3) không thay đổi, ngược lại là có tượng phương sai thay đổi 82 STA301_Bài 6_v1.0013101214 (5) Bài 6: Phương sai số thay đổi Bài toán kiểm định trên thực cho các mô hình hồi quy phụ nhằm đưa kết luận tính phương sai sai số mô hình hồi quy chính, cung cấp các phép kiểm định cụ thể bao gồm Kiểm định Breusch-Pagan sử dụng mô hình (6.3a); Kiểm định Glejser sử dụng mô hình (6.3b); Kiểm định Harvey-Godfrey sử dụng mô hình (6.3c) Ngoài ra, còn có thể kể tới kiểm định Park trường hợp đặc biệt kiểm định HarveyGodfrey Trong các phép kiểm định trên, liệu i2 ước lượng từ (6.3) phương pháp OLS, sau đó ta lấy û i2 thay cho i2 , û i thay cho i và ln uˆ i2 thay cho ln i2 Các bước tiến hành sau: Bước 1: Dùng phương pháp OLS để ước lượng các hệ số ̂i phương trình hồi quy (6.3) Bước 2: Tính các phần dư: û i Yi 1 2 X 2i k X ki Bước 3a: Bình phương các phần dư û i để gán vào i2 ước lượng các hệ số ̂i mô hình hồi quy phụ (6.3a) phương pháp OLS Bước 3b: Tính giá trị tuyệt đối û i các phần dư để gán vào vị trí i mô hình hồi quy phụ (6.3b) và thực phương pháp OLS để tìm các ước lượng ̂i Bước 3c: Lấy ln uˆ i2 vào vị trí ln i2 mô hình hồi quy phụ (6.3c) và ước lượng phương pháp OLS để tìm ̂i Bước 4: Tính giá trị tiêu chuẩn thống kê nR với n là số quan sát (cỡ mẫu), R là hệ số xác định Bước 5: Tính xác suất ý nghĩa P P 2p 1 , đó 2p 1 là biến ngẫu nhiên có phân phối khi-bình phương với p-1 bậc tự Bước 6: Với mức ý nghĩa đã định (thường cho 5%), p thì bác bỏ giả thuyết H và kết luận có biến động phương sai sai số, ngược lại thì chấp nhận giả thuyết và khẳng định tính phương sai sai số mô hình hồi quy Chú ý: Có thể thay việc tính xác suất ý nghĩa P bước việc tra bảng phân phối khi-bình phương với p-1 bậc tự để tìm giá trị tới hạn 2p 1 () Tiếp đó so sánh giá trị tiêu chuẩn thống kê với giá trị tới hạn 2p 1 tìm được, 2p 1 () thì bác bỏ giả thuyết H Ngoài các phương pháp kiểm định trên còn có các phương pháp kiểm định White và kiểm định F dùng để kiểm định tính các phương sai sai số các mô hình hồi quy tuyến tính Cụ thể, STA301_Bài 6_v1.0013101214 83 (6) Bài 6: Phương sai số thay đổi Kiểm định White: Để đơn giản ta xét mô hình biến Yi 1 2 X 2i 3 X 3i u i (6.4) i2 1 X 2i 3 X3i X 22i 5 X 3i2 X 2i X 3i (6.5) Phép kiểm định White tiến hành theo các bước sau: Bước 1: Ước lượng mô hình (6.4) phương pháp OLS để tìm các phần dư û i Bước 2: Ước lượng mô hình (6.5) với i2 thay û i2 Bước 3: Tính giá trị thống kê nR mô hình (6.5) và xác định giá trị tới hạn 2 (5) Bước 4: So sánh giá trị thống kê với giá trị tới hạn, 2 thì bác bỏ giả thuyết H : 1 , ngược lại thì chấp nhận giả thuyết đó Việc chấp nhận giả thuyết trên đồng nghĩa với việc khẳng định mô hình hồi quy (6.4) không có tượng phương sai sai số thay đổi, ngược lại thì ta phải kết luận giả thuyết phương sai sai số bị vi phạm Kiểm định F Ta sử dụng mô hình hồi quy phụ i2 1 E Yi (6.6) ˆ có từ hồi đó i2 , E Yi chưa biết và thay các ước lượng û i2 , Y i quy gốc (6.6) Trong mô hình hồi quy này, xét thống kê ˆ F Se ˆ là thống kê có phân phối Fisher với (1, n – 2) bậc tự Với mức ý nghĩa đã định (thường cho 5%), tra bảng phân phối Fisher với bậc tự (1, n-2) để tìm giá trị tới hạn F F 1, n (giá trị tới hạn này phân vị mức 1 phân phối Fisher tương ứng) So sánh giá trị thống kê F tính trên với giá trị tới hạn này Nếu F F 1, n thì bác bỏ giả thuyết H : , ngược lại thì chấp nhận giả thuyết Việc chấp nhận giả thuyết này tương đương với việc khẳng định không có biến động đáng kể phương sai sai số mô hình (6.3) Ví dụ : Theo số liệu báo cáo phát triển thống kê 73 nước phát triển, năm 1988 bao gồm nợ nước ngoài D88 và tổng sản phẩm quốc nội Y88 , đơn vị tính triệu USD 84 STA301_Bài 6_v1.0013101214 (7) Bài 6: Phương sai số thay đổi Ta thực hồi quy D88 theo Y88 ta kết từ hồi quy này ta tính giá trị các phần dư û i và ký hiệu là U88 Kết mô hình hồi này cho bảng sau: Để kiểm tra xem mô hình trên, có tượng phương sai sai số thay đổi hay không, ta tiến hành các phép kiểm định khác sau: Kiểm định Glejser Thực hồi quy U88 theo Y88 (ở đây chọn Z là Y88 ) U88 1 Y88 ta thu kết sau: STA301_Bài 6_v1.0013101214 85 (8) Bài 6: Phương sai số thay đổi Với mô hình hồi quy phụ ước lượng bảng trên, ta xét bài toán kiểm định H : H1 : Kết bảng cho thấy t 5.698195 tương ứng với xác suất ý nghĩa nhỏ (Prob=0.000) Vậy với mức ý nghĩa 5% ta có thể bác bỏ giả thuyết H , kết luận có thay đổi phương sai sai số theo Y88 Kiểm định Breusch – Pagan :Thực hồi quy biến U88 U88 1 Y88 ta kết sau: H : Áp dụng bài toán kiểm định H1 : ta có t 5.198727 , Prob = 0.000, tức là xác suất ý nghĩa nhỏ 5% Vậy có thể bác bỏ giả thuyết H , kết luận phương sai sai số không Kiểm định White: Ước lượng mô hình hồi quy U88 1 Y88 3Y882 Bằng phần mềm Eviews, ta có kết bảng sau: 86 STA301_Bài 6_v1.0013101214 (9) Bài 6: Phương sai số thay đổi Với kết đó, ta kiểm định giả thuyết H : 3 H1 : i Ta có: n 73, R 0.4786 , đó: nR 34.93 Với mức ý nghĩa 5% , tra bảng phân phối khi-bình phương, ta thu giá trị tới hạn 0.05 5.99 So sánh hai giá trị trên với nhau, ta thấy 34.93 5.99 Vậy có thể bác bỏ giả thuyết H và khẳng định có tượng phương sai sai số thay đổi Kiểm định F: Đối với kiểm định này, ta thực hồi quy phụ U88 1 Y882 với Ŷ88 là giá trị ước lượng thực hồi quy D88 theo Y88 Ký hiệu Ŷ88 là Y88f , sử dụng phần mềm Eviews để ước lượng mô hình trên, ta có STA301_Bài 6_v1.0013101214 87 (10) Bài 6: Phương sai số thay đổi Xét bài toán kiểm định H : H1 : Ta có t 3.138253 , Prob = 0.0025 < 0.05 Vậy ta bác bỏ giả thuyết H , khẳng định có tượng phương sai sai số thay đổi Chú ý: Ta thấy bốn phương pháp kiểm định trên đưa cùng kết luận tượng phương sai sai số thay đổi Trong thực hành không thiết phải thực tất bốn phép kiểm định đó, mà cần lựa chọn thực phép kiểm định là đủ 6.4 Biện pháp khắc phục tượng không phương sai sai số Mô hình hồi quy có tượng phương sai sai số thay đổi có thể gây hậu đã trình bày phần trước Nó phá hủy tính không chệch, tính vững các ước lượng Vì cần phải có biện pháp khắc phục tượng đó Ta xét hai trường hợp: Đã biết phương sai i2 các sai số; Chưa biết phương sai i2 các sai số Trường hợp : Đối với trường hợp i2 đã biết thì để giải vấn đề, ta có thể dùng phương pháp hồi quy có trọng số trình bày tiếp sau đây Để đơn giản ta xét mô hình hồi quy hai biến Yi 1 2 X 2i u i (6.7) ứng với phương trình hồi qui mẫu Yi ˆ ˆ X 2i uˆ i Giả sử các độ lệch tiêu chuẩn sai số i đã biết Đặt biến số X1i , lúc đó (6.7) đưa dạng Yi 1X1i 2 X 2i u i (6.8) Chia hai vế phương trình trên cho i , ta thu Yi X X u 1 1i 2 2i i i i i i Đặt Yi* Yi * X1i * X 2i * u i ; X1i ; X 2i ; ui i i i i Khi đó (6.8) viết lại thành Yi* 1X1i* 2 X*2i u *i 88 (6.9) STA301_Bài 6_v1.0013101214 (11) Bài 6: Phương sai số thay đổi Trong phương trình trên ta có E(u *i ) E( 1 u i ) E(u i ) i i E(u *2 i ) E( u ) E(u i ) i i i Vậy mô hình hồi quy (6.9) có phương sai sai số u*i không đổi Khi đó áp dụng phương pháp OLS thông thường, ta thu các ước lượng ˆ 1* , ˆ 2* 1 , 2 (6.9) là các ước lượng mô hình (6.7) Trường hợp 2: Khi chưa biết phương sai sai số i2 , ta xét các trường hợp riêng sau: Nếu phương sai sai số tỷ lệ với bình phương biến giải thích X, tức là E(u i2 ) X i2 thì ta có thể biến đổi mô hình gốc (6.7) thành Yi 1 u 2 i 1 2 vi Xi Xi Xi Xi Mô hình này có phương sai sai số vi không đổi và ta có thể dùng phương pháp OLS thông thường để ước lượng các hệ số 1 , 2 mô hình Nếu phương sai sai số tỷ lệ với bình phương kỳ vọng Y, tức là E(u i2 ) 2 (E(Yi )) ta có thể biến đổi mô hình gốc (6.7) thành Yi ui Xi 1 2X i vi E(Yi ) E(Yi ) E(Yi ) E(Yi ) Mô hình này lại trở thành mô hình có phương sai sai số vi không đổi Nếu dạng hàm là sai thì định dạng lại mô hình Người ta thường định dạng lại mô hình bắt đầu cách dùng mô hình lôgarit Chẳng hạn, trước tiên người ta dùng mô hình log tuyến tính Yi 1 2 ln X i u i Nếu mô hình này là định dạng sai thì người ta hiệu chỉnh mô hình log - log tuyến tính ln Yi 1 2 ln X i u i STA301_Bài 6_v1.0013101214 89 (12) Bài 6: Phương sai số thay đổi TÓM LƯỢC CUỐI BÀI • Hiện tượng phương sai sai số thay đổi Mô hình Yi 1 2 X 2i 3 X 3i u i Trong phương pháp OLS có giả thiết: Var u i 2 , phương sai sai số không đổi (đồng đều) Homoscedasticity Nếu Var u i i2 Var u j , i j PSSS thay đổi (không đồng đều) Heteroscedasticity Nguyên nhân PSSS thay đổi: o Bản chất Kinh tế xã hội: Sự dao động biến phụ thuộc điều kiện khác không giống o Quá trình thu thập số liệu không chính xác o Xử lý, làm tròn số liệu • Hậu quả: o Các ước lượng là không chệch không tốt (không thoả mãn tính chất ước lượng hiệu phương pháp OLS) o Kiểm định T, F hiệu lực (kết không đáng tin cậy) • Phát PSSS thay đổi o Kiểm định White: Mô hình ban đầu: E(Y/X)= β1+ β2X2+β3X3 Lập hàm hồi quy phụ, trường hợp có tích chéo (cross terms) i2 1 X 2i X 3i X 22i 5 X3i2 X 2i X 3i vi H0: Mô hình đầu có PSSS đồng H1: Mô hình đầu có PSSS thay đổi Kiểm định F: qs nR 2 o Kiểm định: 2 Nếu qs 2 : bác bỏ giả thuyết H0 • 90 Các biện pháp khắc phục PSSS thay đổi STA301_Bài 6_v1.0013101214 (13) Bài 6: Phương sai số thay đổi CÂU HỎI CUỐI BÀI Phương sai sai số thay đổi có thực là khuyết tật nghiêm trọng phân tích hồi quy? Hậu PSSS thay đổi khác nào so với hậu đa cộng tuyến? Nếu không biết các nhiễu ngẫu nhiên thì làm nào để có thể nhận định tượng PSSS thay đổi mô hình? Ý tưởng phương pháp dùng đồ thị phần dư để phát PSSS thay đổi mô hình là gì? Ý tưởng các phương pháp dùng kiểm định phát PSSS thay đổi là gì? Có nên áp dụng tất các phương pháp kiểm định để phát PSSS thay đổi hay không? Trong các phần mềm có sẵn các kiểm định phát PSSS thay đổi hay không? Ý tưởng các phương pháp khắc phục PSSS thay đổi là gì? BÀI TẬP TRẮC NGHIỆM Khi phương sai các nhiễu ngẫu nhiên không nhau, tượng này gọi là: A Phương sai sai số thay đổi B Phương sai sai số không đổi C Đa cộng tuyến D Tự tương quan Có thể luôn luôn chứng tỏ không có PSSS thay đổi mô hình hồi quy: A Đúng B Sai Phương sai sai số thay đổi xảy với số liệu theo chuỗi thời gian: A Đúng B Sai Trong kiểm định Glejser phát PSSS thay đổi, giá trị nào sử dụng cho biến phụ thuộc mô hình hồi quy phụ: A Sai số tiêu chuẩn hàm hồi quy B Bình phương phần dư C Phần dư D Giá trị tuyệt đối các phần dư Trong kiểm định White phát PSSS thay đổi, mô hình ban đầu có biến độc lập thì mô hình hồi quy phụ có bao nhiêu biến độc lập (không có tích chéo) A B C D Khi mô hình có PSSS thay đổi, ta luôn có thể khắc phục nó cách sử dụng lôgarit các biến mô hình A Đúng B Sai STA301_Bài 6_v1.0013101214 91 (14) Bài 6: Phương sai số thay đổi Nếu kiểm định White để phát PSSS thay đổi, tính thống kê bình phương là 1.624 với p-value tương ứng là 0.444, sử dụng mức ý nghĩa 0.05 Vậy kết luận là: A Có PSSS thay đổi B Không có PSSS thay đổi C Không có kết luận với thông tin trên Nếu mô hình có phương sai sai số thay đổi, nó làm cho: A Phương sai các ước lượng OLS không phải là nhỏ B Các ước lượng OLS không phải là tuyến tính C Không ảnh hưởng gì đến các ước lượng OLS D Không ước lượng các tham số phương pháp OLS Phương pháp dùng đồ thị để phát PSSS thay đổi là: A Vẽ đồ thị X theo biến độc lập B Vẽ đồ thị phần dư với các biến độc lập C Vẽ đồ thị bình phương các phần dư với các biến độc lập D B C 92 STA301_Bài 6_v1.0013101214 (15)