Bài giảng Kinh tế lượng - Chương 7: Hiện tượng phương sai của sai số (số dư) thay đổi cung cấp cho người học các kiến thức: Bản chất hiện tượng phương sai sai số thay đổi; hậu quả; cách phát hiện phương sai sai số thay đổi; cách khắc phục phương sai sai số thay đổ. Mời các bạn cùng tham khảo.
7.1 Bản chất CHƯƠNG • Xét ví dụ mơ hình hồi qui biến biến phụ thuộc Y tiết kiệm hộ gia đình biến giải thích X thu nhập khả dụng hộ gia đình HIỆN TƯỢNG PHƯƠNG SAI CỦA SAI SỐ (SỐ DƯ) THAY ĐỔI (HETEROSCEDASTICITY) 4 7.1 Bản chất PHƯƠNG SAI THAY ĐỔI Y Y Hiểu chất hậu phương sai sai số thay đổi MỤC TIÊU (a) (b) Biết cách phát phương sai sai số thay đổi biện pháp khắc phục X1 X2 Xn X X1 X2 Xn X Hình 7.1: (a) Phương sai sai số khơng đổi (b) Phương sai sai số thay đổi 2 NỘI DUNG Bản chất tượng phương sai sai số thay đổi Hậu Cách phát phương sai sai số thay đổi Cách khắc phục phương sai sai số thay đổi 7.1 Bản chất • Hình 7.1a cho thấy tiết kiệm trung bình có khuynh hướng tăng theo thu nhập Tuy nhiên mức độ dao động tiết kiệm hộ gia đình so với mức tiết kiệm trung bình khơng thay đổi mức thu nhập • Đây trường hợp phương sai sai số (nhiễu) không đổi, hay phương sai E(ui2) = 2 3 6 7.1 Bản chất 7.1 Nguyên nhân phương sai thay đổi • Trong hình 7.1b, mức độ dao động tiết kiệm hộ gia đình so với mức tiết kiệm trung bình thay đổi theo thu nhập Đây trường hợp phương sai sai số thay đổi E(ui2) = i2 • Hiện tượng phương sai thay đổi thường gặp thu thập số liệu chéo (theo không gian) VD khảo sát doanh thu, chi phí quảng cáo cơng ty khác lĩnh vực kinh doanh Do quy mô, thương hiệu công ty khác nên doanh thu cơng ty có quy mơ khác ứng với mức chi quảng cáo biến động khác 7 10 10 Giải thích 7.1 Hậu phương sai thay đổi • Những người có thu nhập cao, nhìn chung, tiết kiệm nhiều so với người có thu nhập thấp biến động tiết kiệm cao • Đối với người có thu nhập thấp, họ để lại thu nhập để tiết kiệm • Phương sai sai số hộ gia đình có thu nhập cao lớn hộ có thu nhập thấp Ước lượng OLS tuyến tính, khơng chệch Tuy nhiên, chúng khơng có phương sai nhỏ nữa, nghĩa là, chúng khơng hiệu Ước lượng phương sai ước lượng OLS, nhìn chung, bị chệch 8 11 11 7.1 Nguyên nhân phương sai thay đổi 7.1 Hậu phương sai thay đổi Do đó, khoảng tin cậy kiểm định giả thuyết thông thường dựa phân phối t F khơng đáng tin cậy Do vậy, áp dụng kỹ thuật kiểm định giả thuyết thông thường cho kết sai Chẳng hạn thống kê t xác định cơng thức • Do tích lũy kinh nghiệm mà sai số theo thời gian ngày giảm • Do chất tượng kinh tế • Cơng cụ thu thập xử lý số liệu cải thiện dẫn đến sai số đo lường tính tốn giảm • Trong mẫu có outlier (giá trị nhỏ lớn so với giá trị quan sát khác) • Mơ hình hồi quy khơng (dạng hàm sai, thiếu biến quan trọng, chuyển đổi liệu không đúng) t 9 ˆ 2* SE ( ˆ ) 12 12 7.1 Hậu phương sai thay đổi Xem xét đồ thị phần dư Do sử dụng ước lượng SE ( i ) SE ( ˆ i ) Biến phụ thuộc nên không đảm bảo t tuân theo quy luật phân phối t-student =>kết kiểm định khơng tin cậy Kết dự báo khơng hiệu sử dụng ước lượng OLS có phương sai khơng nhỏ Đường hồi qui ước lượng Biến độc lập 13 13 16 16 7.2 Phương pháp phát phương sai thay đổi Xem xét đồ thị phần dư u Phương pháp định tính Dựa vào chất vấn đề nghiên cứu Xem xét đồ thị phần dư Phương pháp định lượng Kiểm định Park Kiểm định Glejser Kiểm định Goldfeld – Quandt Kiểm định White Hình a cho thấy biến đổi ei khơng có tính hệ thống u u Hình b,c,d cho thấy ei2 thay đổi Y tăng Y Y (a) (b) u (c) 14 14 Y Y (d) 17 17 Dựa vào chất vấn đề nghiên cứu Kiểm định Park • Park cho i2 hàm số biến giải thích X i2 = B1 + B2ln|Xi |+ vi vi phần sai số ngẫu nhiên • Vì i2 chưa biết, Park đề nghị sử dụng lnei2 thay cho i2 chạy mơ hình hồi qui sau lnei2 = B1 + B2 ln|Xi|+ vi (*) ei thu thập từ mơ hình hồi qui gốc VD: nghiên cứu quan hệ chi tiêu tiêu dùng so với thu nhập, phương sai phần dư chi tiêu tiêu dùng có xu hướng tăng theo thu nhập Do mẫu điều tra tương tự, người ta có khuynh hướng giả định phương sai nhiễu thay đổi 15 15 18 18 3 Kiểm định Park Kiểm định Glejser • Các bước kiểm định Park: 1) Chạy hàm hồi qui gốc Yi = b1 + b2Xi + Ui 2) Từ hàm hồi qui, tính Yˆi , phần dư ei lnei2 Chạy hàm hồi qui (*), sử dụng biến giải thích hàm hồi qui ban đầu Nếu có nhiều biến giải thích, chạy hồi qui cho biến giải thích Hay, chạy hồi qui mơ hình với biến giải thích Yˆi e i = B1 + B + vi Xi ei = B1 + B2 X i + vi ei = B1 + B X i2 + v i • Nếu giả thuyết H0: β2 = bị bác bỏ có tượng phương sai sai số thay đổi 19 19 22 22 Kiểm định Glejser Kiểm định Park 4) Kiểm định giả thuyết H0: β2 = 0,tức, khơng có phương sai sai số thay đổi Nếu giả thuyết H0 bị bác bỏ, mơ hình gốc có phương sai sai số thay đổi 5) Nếu giả thuyết H0 chấp nhận, B1 mơ hình (*) xem giá trị chung phương sai sai số không đổi, 2 • Kiểm định Glejser có số vấn đề kiểm định Park sai số vi mơ hình hồi qui có giá trị kỳ vọng khác khơng, có tương quan chuỗi – mơ hình đầu cho kết tốt sử dụng OLS – mơ hình sau (phi tuyến tính tham số) khơng sử dụng OLS • Do vậy, kiểm định Glejser dùng để chẩn đoán mẫu lớn 20 23 20 23 Kiểm định Goldfeld - Quandt Kiểm định Glejser Xét mơ hình hồi qui sau: Yi = b1 + b2Xi + ui Giả sử i2 có quan hệ dương với biến X theo cách sau: i2 = 2Xi2 2 số • Các bước thực kiểm định Goldfeld Quandt sau: Sắp xếp quan sát theo thứ tự tăng dần giá trị biến X • • Tương tự kiểm định Park: Sau thu thập phần dư từ mơ hình hồi qui gốc, Glejser đề nghị chạy hồi qui | ei | theo biến X mà có quan hệ chặt chẽ với i2 • Glejser đề xuất số dạng hàm hồi qui sau: |ei| = B1 + B2Xi + vi ei = B1 + B X i + v i e i = B1 + B + vi Xi 21 21 24 24 Kiểm định Goldfeld - Quandt Kiểm định White Bỏ qua quan sát theo cách sau: Đối với mơ hình biến: c = cỡ mẫu khoảng n = 30; c = 10 cỡ mẫu khoảng n = 60 chia số quan sát lại thành nhóm, nhóm có (n – c)/2 quan sát • White đề nghị phương pháp không cần đòi hỏi u có phân phối chuẩn • Xét mơ hình hồi qui sau: Yi = b1 + b2X2i + b3X3i + ui Bước 1: Ước lượng mơ hình OLS, thu phần dư ei Bước 2: Ước lượng mơ hình sau ei2 = 1 + 2X2i + 3X3i + 4X2i2 + 5X3i2 + v2i (1) 25 25 28 28 Kiểm định Goldfeld - Quandt Kiểm định White hay ei2 = 1 + 2X2i + 3X3i + 4X2i2 + 5X3i2 + 6X2iX3i + V2i (2) (1) (2) có số mũ cao thiết phải có hệ số chặn mơ hình gốc có hay khơng R hệ số xác định bội, thu từ (1) với mơ hình khơng có số hạng chéo hay (2) với mơ hình có số hạng chéo Sử dụng phương pháp OLS để ước lượng tham số hàm hồi qui (n – c)/2 quan sát đầu cuối; tính RSS1 RSS2 tương ứng nc k (k Bậc tự tương ứng tham số ước lượng kể hệ số chặn) 26 26 29 29 Kiểm định White Kiểm định Goldfeld - Quandt Tính tỷ số • RSS / df λ= RSS1 / df tuân theo phân phối F với bậc tự tử số mẫu số n c 2k Nếu > F mức ý nghĩa α bác bỏ giả thuyết H0, nghĩa phương sai sai số thay đổi Đặt GT Ho: 2 = 3 = 4 = 5 = (1) 2 = 3 = 4 = 5 = 6 = (2) Tương đương H0: phương sai sai số khơng đổi • nR2 có phân phối xấp xỉ 2(df), với df số hệ số mơ hình (1) (2) không kể hệ số chặn 27 27 Bước 30 30 Biện pháp khắc phục Kiểm định White Ước lượng bình phương bé có trọng số (trường hợp biết i2) Có mơ hình hồi qui mẫu biến: • Bước Quy tắc định • nR2 < 2(df): chấp nhận Ho • nR2 > 2(df): bác bỏ Ho, hay có tượng phương sai sai số thay đổi Yi 1 X i ei giả sử phương sai sai số i2 biết; nghĩa phương sai sai số quan sát biết, chia hai vế mơ hình cho i biết hay Yi i 1 X e 1 i i i i i * Yi 1* 2* X i* ei* 31 31 34 34 Ước lượng bình phương bé có trọng số Phương pháp bình phương nhỏ tổng qt • Phương pháp OLS • Phương pháp bình phương nhỏ có trọng số • Phương pháp bình phương nhỏ tổng quát 2 Y ei 1 X i 1 i i i i i 2* w w X Y w X w X w w X w X i i i i i i i i i i i i i wi / i 29/11/2010 701003- Phương sai sai số thay đổi 32 32 35 35 Ước lượng bình phương bé có trọng số Biện pháp khắc phục • Phương pháp bình phương bé có trọng số (trường hợp biết i2 ) • Phương pháp bình phương bé tổng quát (trường hợp chưa biết i2 ) • Chuyển đổi dạng hàm (trường hợp chưa biết i2 ) 29/11/2010 33 701003- Phương sai sai số thay đổi 33 36 36 Trường hợp biết i2 Trường hợp chưa biết i2 Khi Như vậy, phương sai sai số có quan hệ tuyến tính e Var(ei ) i2 Var i 1, i i2 i i với biến giải thích Trong thực tế, chia quan sát Yi Xi cho i biết chạy hồi qui OLS cho liệu chuyển đổi Ước lượng OLS 1 2 tính theo cách gọi ước lượng bình phương bé có trọng số (WLS); quan sát Y X chia cho trọng số (độ lệch chuẩn) riêng nó, i Var(ui ) = E(ui2) = 2Xi Chúng ta chia hai vế mơ hình cho bậc hai Xi , với Xi Yi Xi 1 1 Xi 2 Xi Xi Xi ui Xi X i vi 40 37 37 40 Trường hợp chưa biết i2 Trường hợp chưa biết i2 • Khi Trường hợp 1: Phương sai sai số tỷ lệ với biến giải thích u Var(ui ) Var i , i X Xi i Sau ước lượng hồi qui OLS thông thường, vẽ đồ thị phần dư từ ước lượng theo biến giải thích X quan sát hình ảnh Nếu hình ảnh phần dư tương tự hình sau: • Một điều quan trọng mà cần lưu ý để ước lượng mơ hình trên, phải sử dụng mơ hình hồi qui qua gốc 41 38 38 41 Trường hợp chưa biết i2 Trường hợp chưa biết i2 Trường hợp 2: Phương sai sai số tỷ lệ với bình phương biến giải thích Var(ui ) =E(ui2) = 2Xi2 Nếu hình ảnh phần dư tương tự hình bên dưới, phương sai sai số có quan hệ tuyến tính với bình phương Xi Chúng ta chia hai vế mơ hình cho Xi với Xi ≠0 Yi u i v i Xi Xi Xi Xi 39 39 42 42 Trường hợp chưa biết i2 Trường hợp chưa biết i2 Bước 2: Ước lượng hồi qui dù Yˆi khơng xác E(Yi\Xi), chúng ước lượng vững, nghĩa cỡ mẫu tăng lên vơ hạn chúng hội tụ E(Yi|Xi) Do vậy, phép biến đổi dùng cỡ mẫu tương đối lớn Khi u Var(u ) EY 2 i i Var ^ i , i ^2 ^2 Yi Yi Yi 43 43 46 46 Trường hợp chưa biết i2 Trường hợp chưa biết i2 Trường hợp 4: Định dạng lại mơ hình Khi đó: Thay ước lượng mơ hình hồi qui gốc, ta ước lượng mơ hình hồi qui: lnYi = 1 + 2lnXi + ui Tình trạng phương sai sai số khơng đồng bớt nghiêm trọng so với mô hình gốc logarit hóa, độ lớn biến bị ‘nén lại’ Một ưu phép biến đổi hệ số 2 đo lường hệ số co giãn Y theo X, nghĩa là, cho biết % thay đổi Y X thay đổi 1% u Var(ui ) Var i , i X i2 Xi Trường hợp 3: Phương sai sai số tỷ lệ với bình phương giá trị kỳ vọng Y Var(ui ) = E(ui2) = 2[E(Yi)]2 Chia hai vế mơ hình cho E(Yi) với E(Yi)= Yˆi ˆ ˆ X i 44 44 47 47 Lưu ý: • Khi nghiên cứu mơ hình có nhiều biến giải thích việc chọn biến để biến đổi cần phải xem xét cẩn thận • Phép biến đổi logarit không dùng giá trị biến âm • Khi i2 chưa biết, ước lượng từ cách biến đổi Các kiểm định t, F mà sử dụng đáng tin cậy cỡ mẫu lớn, phải cẩn thận giải thích kết dựa phép biến đổi khác mẫu nhỏ Trường hợp chưa biết i2 Tiến hành theo bước sau: Bước 1: Ước lượng mơ hình hồi qui: Yi = 1 + 2Xi + ui phương pháp OLS thơng thường, từ ta thu Yˆ i Biến đổi mơ hình gốc dạng sau: Yi X 1 i vi ˆ ˆ Yi Yi Yˆi 45 45 48 48 Ví dụ b Kiểm định Park • Cho số liệu quan sát sau: Y: thu nhập trung bình (USD/giờ) X1: số năm kinh nghiệm (năm) X2: số năm đào tạo (năm) Ước lượng mơ hình hồi quy Y= β0 + β1 X1 + β2.X2 +U Mơ hình có phương sai thay đổi khơng? Vì sao? Nếu xảy phương sai thay đổi, tìm cách khắc phục • B1 Tạo biến umu=resid • B2: Chạy hồi quy theo Xi theo Y^ theo mơ hình: LOG(umu^2) c LOG(X2) Hoặc LOG(umu^2) c LOG(X3) Hoặc LOG(umu^2) c LOG(Ymu) Đặt giả thuyết H0: β2 = 0, hay “khơng có phương sai thay đổi” 49 49 52 52 b Kiểm định Park LOG(umu^2) c LOG(Ymu) Ước lượng mơ hình 50 50 53 53 Phát phương sai thay đổi b Kiểm định Glejser • Vẽ đồ thị phần dư Hồi quy theo mơ hình sau ABS(umu) c X2 Hoặc ABS(umu) c X3 Đặt giả thuyết H0: β2 = 0, hay khơng có phương sai thay đổi 51 51 54 54 Kết • Theo kết bảng trên, ta thấy n*R2 (Obs*Rsquared) = 14,70020 • Với mức ý nghĩa 5%, 2(df)= 2(5)= 11,0705 Ta thấy n*R2 > 2(5) =>bác bỏ Ho 2 = 3 = 4 = 5 = 6 = Cách 2: n*R2 có xác suất p-value= 0,011724 < α =5% Vậy bác bỏ giả thiết Ho: phương sai không đổi Tức mô hình hồi quy Y theo X1 X2 có phương sai thay đổi 55 55 58 58 Biện pháp khắc phục c Kiểm định White B1 Mở eq01 B2 View\ Residual Tests\ White Heteroskedasticity (cross terms) GT Ho: 2 = 3 = 4 = 5 = 6 = Hoặc • View\ Residual Tests\ White Heteroskedasticity (no cross terms) GT Ho: 2 = 3 = 4 = 5 = Ta có kết sau B1 Hồi quy Y, X1, X2 dựa vào giả thiết B2: Kiểm định tiếp xem có phương sai thay đổi khơng Thực hành: B1: Do ta chưa biết i2 nên theo giả thiết sau: • a E(ui2) = 2Xi2 Chạy hồi quy (Y/X1 ) (1/X1 ) c (X2 / X1 ) 56 56 59 59 • Dùng kiểm định White có số hạng tích chéo (cross terms) 57 57 60 60 10 Dùng kiểm định White có số hạng tích chéo (cross terms) • b E(ui2) = 2Xi Chạy hồi quy (Y/SQR(X1 )) 1/SQR(X1 ) SQR(X1 ) (X2 / SQR(X1 ) ) 61 61 64 64 Dùng kiểm định White có số hạng tích chéo (cross terms) Vd2 • Hồi quy lương (W, $) theo số lượng nhân viên (N) 30 cơng ty có kết sau W=7.5 + 0.009N +e R2=0.9 (1) t na (16.10) W/N=0.008 + 7/8(1/N) +e R2=0.99 (2) t (14.43) (76.58) Giải thích ý nghĩa hệ số hồi quy Tại tác giả chuyển từ mơ hình sang mơ hình 2? Hệ số tự hệ số góc hai mơ hình có liên hệ nào? 62 62 65 65 c Dùng phép biến đổi logarit Ví dụ • Chạy hồi quy LOG(Y) C LOG(X1) LOG(X2) • Cho số liệu quan sát sau: Y: thu nhập trung bình (USD/giờ) X1: số năm kinh nghiệm (năm) X2: số năm đào tạo (năm) Ước lượng mơ hình hồi quy Y= β0 + β1 X1 + β2.X2 +U Mơ hình có phương sai thay đổi khơng? Vì sao? Nếu xảy phương sai thay đổi, tìm cách khắc phục 63 63 66 66 11 STT 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 X1 2 8 10 11 13 15 15 15 18 19 21 21 23 24 24 24 X2 7 0 Y 4.71 3.6 4.37 4.64 3.27 4.26 6.14 6.74 6.11 5.53 5.53 5.36 8.73 5.85 6.88 7.17 10.8 5.06 13.69 8.01 17.13 7.75 6.2 17.72 8.8 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 25 25 27 28 28 30 31 32 34 34 37 37 37 38 38 39 40 42 42 43 44 44 45 45 46 7 4 12.8 5.2 8.12 17.54 22.52 5.47 13.67 4.84 38.52 9.98 27.73 5.06 4.36 23.96 30.77 20.68 50.9 3.96 7.58 6.18 43.25 32.04 3.35 18.35 4.95 b Kiểm định Park • B1 Tạo biến umu=resid • B2: Chạy hồi quy theo Xi theo Y^ theo mơ hình: LOG(umu^2) c LOG(X2) Hoặc LOG(umu^2) c LOG(X3) Hoặc LOG(umu^2) c LOG(Ymu) Đặt giả thiết H0: β2 = 0, hay “không có phương sai thay đổi” 67 67 70 70 Ước lượng mơ hình LOG(umu^2) c LOG(Ymu) 68 68 71 71 b Kiểm định Glejser Hồi quy theo mô hình sau ABS(umu) c X2 Hoặc ABS(umu) c X3 Đặt giả thiết H0: β2 = 0, hay khơng có phương sai thay đổi • Nhìn đồ thị ta thấy độ rộng phần dư tăng Yi^ tăng Vậy mơ hình ước lượng câu có phương sai thay đổi 69 69 72 72 12 • Theo kết bảng trên, ta thấy n*R2 (Obs*Rsquared) = 14,70020 • Với mức ý nghĩa 5%, 2(df)= 2(5)= 11,0705 Ta thấy n*R2 > 2(5) =>bác bỏ Ho 2 = 3 = 4 = 5 = 6 = Cách 2: n*R2 có xác suất p-value= 0,011724 < α =5% Vậy bác bỏ giả thiết Ho: phương sai không đổi Tức mơ hình hồi quy Y theo X1 X2 có phương sai thay đổi 73 73 76 76 Biện pháp khắc phục c Kiểm định White B1 Mở eq01 B2 View\ Residual Tests\ White Heteroskedasticity (cross terms) GT Ho: 2 = 3 = 4 = 5 = 6 = Hoặc • View\ Residual Tests\ White Heteroskedasticity (no cross terms) GT Ho: 2 = 3 = 4 = 5 = Ta có kết sau B1 Hồi quy Y, X1, X2 dựa vào giả thiết B2: Kiểm định tiếp xem có phương sai thay đổi không Thực hành: B1: Do ta chưa biết i2 nên theo giả thiết sau: • a E(ui2) = 2Xi2 Chạy hồi quy (Y/X1 ) (1/X1 ) c (X2 / X1 ) 74 74 77 77 • Dùng kiểm định White có số hạng tích chéo (cross terms) 75 75 78 78 13 c Dùng phép biến đổi logarit • Chạy hồi quy LOG(Y) C LOG(X1) LOG(X2) • Ta thấy Obs*R-squared có p = 0,515373> 5% nên chấp nhận Ho Vậy khơng phương sai thay đổi • Ta có hàm hồi quy sau: ^ Yi 2,782082 0,209166.X 2i 0,353691 X1i X1i X1i 79 79 82 82 Dùng kiểm định White có số hạng tích chéo (cross terms) • b E(ui2) = 2Xi Chạy hồi quy (Y/SQR(X1 )) 1/SQR(X1 ) SQR(X1 ) (X2 / SQR(X1 ) ) • Ta thấy Obs*R-squared có p = 0,024228 < α = 5% nên bác bỏ Ho Vậy phương sai thay đổi • Vậy mơ hình không phù hợp 80 80 83 83 Dùng kiểm định White có số hạng tích chéo (cross terms) • Ta thấy Obs*R-squared có p = 0,174148 > 5% nên chấp nhận Ho Vậy khơng phương sai thay đổi Vậy mơ hình ^ Yi X 1,447035 0,36838 X1i 0,674817 2i X1i X1i X1i 81 81 14 ... 7. 75 6.2 17. 72 8.8 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 25 25 27 28 28 30 31 32 34 34 37 37 37 38 38 39 40 42 42 43 44 44 45 45 46 7 4 12.8 5.2 8.12 17. 54... 17 18 19 20 21 22 23 24 25 X1 2 8 10 11 13 15 15 15 18 19 21 21 23 24 24 24 X2 7 0 Y 4 .71 3.6 4. 37 4.64 3. 27 4.26 6.14 6 .74 6.11 5.53 5.53 5.36 8 .73 5.85 6.88 7. 17 10.8 5.06 13.69 8.01 17. 13 7. 75... (X2 / X1 ) 74 74 77 77 • Dùng kiểm định White có số hạng tích chéo (cross terms) 75 75 78 78 13 c Dùng phép biến đổi logarit • Chạy hồi quy LOG(Y) C LOG(X1) LOG(X2) • Ta thấy Obs*R-squared có