Phương sai của sai số không đổi có nghĩa là mức độ phân tán như nhau cho tất cả các quan sát.Tuy nhiên trong nhiều trường hợp thông thường có liên quan đến dữ liệu chéo, giả thuyết này c
Trang 1TRƯỜNG ĐẠI HỌC THƯƠNG MẠI
Các biện pháp khắc phục hiện tượng phương sai của sai số thay đổi.Lấy ví dụ minh họa.
Nhóm : 01
Lớp học phần : 231_AMAT0411_03 GV hướng dẫn : Đàm Thị Thu Trang
Hà Nội, 2023
Trang 2MỤC LỤC
1.1.1 Giới thiệu chung về hiện tượng phương sai của sai số thay đổi 4 1.1.2 Hậu quả của hiện tượng phương sai của sai số thay đổi 6
1.2 Các cách phát hiện hiện tượng phương sai của sai số thay đổi6
1.3 Các biện pháp khắc phục hiện tượng phương sai của sai số thay đổi12
1.3.1 Phương pháp bình phương nhỏ nhất tổng quát 12
CHƯƠNG 4: KHẮC PHỤC HIỆN TƯỢNG PHƯƠNG SAI CỦA SAI SỐ THAY
2
Trang 3LỜI MỞ ĐẦU
Trong việc tính toán các giá trị bình phương tối thiểu thông thường (OLS) cũng như các giá trị ước lượng cực đại (MLE), chúng ta đã thiết lập giả thiết cho rằng các số hạng sai số Ui có phân phối giống nhau với giá trị trung bình bằng 0 và phương sai δ2 Gìả thuýết phương sai bằng nhau được hiểu là phương sai của sai số không đổi ( có nghĩa là phân tán như nhau) Phương sai 2 là một đại lượng đo lường mức độ phân tán của các số hạng sai số t, xung quanh giá trị trung bình 2ero Một cách tương đương, đó là đại lượng đo lường mức độ phân tán của các giá trị biến phụ thuộc quan sát được (Y) xung quanh đường hồi quy β1+β2Y2+ +βkYk Phương sai của sai số không đổi có nghĩa là mức độ phân tán như nhau cho tất cả các quan sát.
Tuy nhiên trong nhiều trường hợp thông thường có liên quan đến dữ liệu chéo, giả thuyết này có thể sai gây ra hiện tượng phương sai của sai số thay đổi Trong thống kê, một chuỗi các biến ngẫu nhiên là phương sai thay đổi, nếu các biến ngẫu nhiên có phương sai khác nhau Thuật ngữ này có nghĩa là “phương sai khác nhau” và xuất phát từ tiếng Hy Lạp “hetero” (“khác nhau”) và “skedasis” (“phân tán”) Vì vậy, nhóm chúng tôi sẽ đi sâu vào nghiên cứu vấn đề khắc phục hiện tượng phương sai của sai số thay đổi
3
Trang 4CHƯƠNG 1: CƠ SỞ LÝ THUYẾT
1.1 Hiện tượng phương sai của sai số thay đổi
1.1.1 Giới thiệu chung về hiện tượng phương sai của sai số thay đổi 1.1.1.1 Khái niệm
Khi nghiên cứu mô hình hồi quy tuyến tính cổ điển, chúng ta đưa ra giả thiết rằng: phương sai của mỗi một ngẫu nhiên U trong điều kiện giá trị đã cho của biến giải thích Xi i
là không đổi nghĩa là
Var (Ui |Xi) = E[U – E(Uii)]2 = E(U =
Hình 1.1 Phương sai của sai số không đổi.
Ngược lại trường hợp trên là trường hợp: phương sai có điều kiện của Y thay đổii
khi Xi thay đổi, nghĩa là: E(U = i)2 σ2i (trong đó các σi2 khác nhau) Thí dụ khi nghiên cứu các mối quan hệ giữa lỗi mắc phải do đánh máy trong một thời kỳ đã cho với số giờ thực hành, thì người ta nhận thấy số giờ thực hành đánh máy càng tăng thì lỗi sai trung bình mắc phải càng giảm Điều này mô tả bằng đồ thị dưới đây:
4Mật độ f(u)
Trang 5Hình 1.2 Phương sai của sai số thay đổi Xét mô hình hồi quy tuyến tính cổ điển nhiều biến:
Y = β + β12X2i + β3X3i+ +βkXki + Ui
Các giả thiết cơ bản của moo hình hồi quy nhiều biến:
● Giả thiết 1 Các biến giải thích X (j = 2, k) là xác địnhj
● Giả thiết 2 E(Ui) = E (U|X ) = 0, i ∀i
● Giả thiết 3 E(Ui.Uj) = {σ2
(∀ i= j)0 (∀ i≠j)
● Giả thiết 4 Hạng ma trận X bằng k: rank(X) = k● Giả thiết 5 Ui ~ N (0,σ2) ( i)∀
Xảy ra khi giả thuyết Var (U ) = i σ2, i bị vi phạm, tức là:∀ Var (U ) = i σ2i với σi2là khác nhau 1.1.1.2 Nguyên nhân
Phương sai thay đổi có thể do một trong các nguyên nhân sau:
- Do bản chất của các mối liên hệ kinh tế: có nhiều mối quan hệ kinh tế đã chứa đựng hiện tượng này Chẳng hạn mối quan hệ giữa thu nhập và tiết kiệm, thông thường thu nhập tăng thì mức độ biến động của tiết kiệm cũng tăng.
- Do kỹ thuật thu nhập số liệu được cải tiến,σ2 dường như giảm Kỹ thuật thu thập số liệu càng được cải tiến, sai lầm phạm phải càng ít hơn.
- Do con người học được hành vi trong quá khứ Chẳng hạn, lỗi của người đánh máy càng ít nếu thời gian thực hành ngày càng tăng
5
Trang 6- Phương sai của sai số thay đổi cũng xuất hiện khi có các quan sát ngoại lai Quan sát ngoại lai là các quan sát khác biệt rất nhiều (quá nhỏ hoặc quá lớn) với các quan sát khác nhau trong mẫu Việc đưa vào hay loại bỏ các quan sát này có ảnh hưởng rất lớn đến phân tích hồi quy.
- Một nguyên nhân khác là mô hình định dạng sai Có thể do bỏ sót biến thích hợp hoặc dạng giải thích của hàm là sai.
1.1.2 Hậu quả của hiện tượng phương sai của sai số thay đổi
βj vẫn là các ước lượng tuyến tính, không chệch nhưng không còn là ước lượng hiệu quả của βj.
Var (^βj) là các ước lượng chệch nên do đó khoảng tin cậy và các kiểm định dựa trên thống kê T và F không còn đáng tin cậy.
1.2 Các cách phát hiện hiện tượng phương sai của sai số thay đổi
Như chúng ta đã thấy về mặt lý thuyết thì dễ dàng chỉ ra hiệu quả của hiện tượng phương sai của sai số thay đổi, nhưng việc phát hiện ra hiện tượng này trong thực tế thì cũng không phải là vấn đề đơn giản Vì sao vậy? Bởi vì chúng ta biết được σi2 chỉ khi chúng ta có toàn bộ tổng thể tương ứng với những giá trị X được chọn nhưng điều này hầu như hiếm xảy ra, nghĩa là chúng ta ít khi có được toàn bộ tổng thể để nghiên cứu Như vậy chúng ta chỉ có những giá trị đơn của Y ứng với những giá trị đã cho của biến X, và ta lại không có cách nào để xác định phương sai σ2i từ giá trị đơn của Y Vậy thì làm thế nào để phát hiện ra phương sai của sai số thay đổi? Chúng ta không có một phương pháp chắc chắn để phát hiện ra phương sai của sai số thay đổi Chúng ta chỉ có vài công cụ chuẩn đoán để có thể giúp chúng ta phát hiện ra hiện tượng này Sau đây chúng ta sẽ xét một vài cách chuẩn đoán.
1.2.1 Phương pháp đồ thị của phần dư
Đồ thị của sai số hồi quy (phần dư) đối với biến độc lập X hoặc giá trị dự đoán ^
sẽ cho ta biết liệu phương sai của sai số có thay đổi hay không Phương sai của phần dư được chỉ ra bằng độ rộng của biểu đồ phân giải phần dư khi X tăng Nếu độ rộng của biểu đồ rải của phần dư tăng hoặc giảm khi X tăng thì giả thiết về phương phương sai hằng số có thể không được thỏa mãn.
Phần dư ei là ước lượng của sai số ngẫu nhiên U nên dựa vào đồ thị i ei (hoặc ei2) theo một biến giải thích X hay theo j ^Y (mô hình hồi quy nhiều biến) ta có kết luận: Nếu
6
Trang 7với các giá trị khác nhau của Xj, độ rộng của dải đồ thị thay đổi thì có thể nói mô hình xảy ra hiện tượng phương sai sai số thay đổi.
Hình 1.3 Đồ thị của sai số phần dư.
Ví dụ: Sau đây là biểu hiện quan hệ của chỉ tiêu cho tiêu dùng (Y) về thu nhập (X) hàng tháng của 20 hộ gia đình ở một vùng nông thôn.
Gia đìnhChi tiêu YThu nhập XGia đìnhChi tiêu YThu nhập X
Trang 8Các giá trị dự đoán và phần dư được tính theo bảng trên Bảng sắp xếp theo thứ tự giá trị các quan sát tăng dần từ nhỏ đến lớn và các phần dư tương ứng.
Biểu đồ phần dư đối với X cho chúng ta thấy rằng độ rộng của biểu đồ rải tăng lên khi X tăng, cho nên có chứng cứ để cho rằng phương sai của sai số thay đổi khi X tăng Chú ý rằng đôi khi người ta vẽ đồ thị của phần dư bình phương đối với X.
Trang 9Trong đó vi là số hạng nhiễu ngẫu nhiên.
Vì σ2i là chưa biết nên Park đã đề nghị sử dụng e thay cho 2 σ2i và ước lượng hồi sau:
ln e2i=ln σ2+α2ln Xi+vi=α1+ α2ln Xi+v
Trong đó α1=ln σi2,ei2 thu được từ hồi quy gốc
Như vậy để thực hiện kiểm định Park ta sẽ tiến hành các bước sau:
1 Ước lượng hồi quy gốc, cho dù có hoặc không tồn tại hiện tượng phương sai của sai số thay đổi.
2 Từ hồi quy gốc thu được các phần dư ei sau đó bình phương chúng được ei2 rối đến lấy ln e2i.
3 Ước lượng hồi quy ln e2i=α1+α2ln Xi+vi trong đó biến giải thích (X ) là biến giảii
thích trong hồi quy gốc, nếu có nhiều biến giải thích có thể ước lượng hồi quy đối với mỗi biến giải thích, hoặc có thể ước lượng hồi quy đối với ^Y làm biến giải thích, trong đó ^Yi là Y đã được ước lượng.i
4 Kiểm định giả thiết H : 0 α2 = 0 nghĩa là không có hiện phương sai của sai số thay đổi Nếu có tồn tại mối liên hệ có ý nghĩa về mặt thống kê giữa ln e và ln X thì giả thiết H : 0 α2 = 0 có thể bác bỏ, trong trường hợp này ta phải tìm cách khắc phục 5 Nếu giả thiết H : 0 α2 = 0 được chấp thuận thì α1 trong hồi quy
ln e2i=ln σ2
+α2ln Xi+vi=α1+α2ln Xi+v có thể được giải thích như là giá trị của phương sai phông đổi (α1=lnσ2).
Ví dụ: Cho bảng kết quả kiểm định Park, với mức ý nghĩa 5% phát hiện hiện tượng phương sai của sai số thay đổi trong mô hình.
Dependent Variable: LOG(E^2) Method: Least Squares Sample:1 12
Included observations: 12
VariableCoefficientStd Errort-StatisticProb.
9
Trang 10C-5.2626880.530118-9.9273850.0000LOG(YF)3.6565010.19049019.195260.0000R-squared0.973577Mean dependent var 4.898775Adjusted R-squared0.970935S.D dependent var 0.570731
Kiểm định Glejser cũng tương tự như kiểm định Park Sau khi thu được phần dư ei
từ hồi quy theo phương pháp bình phương nhỏ nhất, Glejser đề nghị hồi quy giá trị tuyệt đối của ei, |ei| đối với biến X nào mà có thể có kết hợp chặt chẽ với σ2i Trong thực nghiệm Glejser sử dụng các hàm sau:
Giả thiết H trong trường hợp đã nêu trên là không có phương có phương sai của0
sai số thay đổi, nghĩa là H : 0 α2 = 0 Nếu giả thiết này bị bác bỏ thì có thể có hiện tượng phương sai của sai số thay đổi Cần lưu ý rằng kiểm định Glejser cũng có vấn đề như kiểm định Park Goldfield và Quant đã chỉ ra rằng sai số vi trong hồi quy của Glejser có
10
Trang 11một số vấn đề như giá trị kỳ vọng của nó khác không, nó có tương quan trong chuỗi Tuy nhiên Glejser đã cho rằng trong mẫu lớn thì 4 mô hình cho ta kết quả tốt trong việc vạch ra hiện tượng phương sai của sau số thay đổi Do vậy mà kiểm định Glejser được sử dụng như là một công cụ để chuẩn đoán trong mẫu lớn.
Ví dụ: Cho bảng kết quả kiểm định Glejser, với mức ý nghĩa 1% phát hiện hiện tượng phương sai của sai số thay đổi trong mô hình.
Dependent Variable: ABS(E) Method: Least Squares R-squared0.970256Mean dependent var 12.02180Adjusted R-squared0.967282S.D dependent var 3.445224S.E of regression0.623177Akaike info criterion 2.043038Sum squared resid3.883490Schwarz criterion 2.123856Log likelihood-10.25823Hannan-Quinn criter 2.013116F-statistic325.2060Durbin-Watson stat 2.591811
Kiểm tra khuyết tật phương sai các sai số ngẫu nhiên thay đổi trong trường hợp Ui
không phân phối chuẩn.
11