Chương SUY DIỄN THỐNG KÊ VÀ DỰ BÁO TỪ MƠ HÌNH HỒI QUY Chương trình bày phương pháp OLS mơ hình hồi quy bội, giả thiết để đảm bảo ước lượng thu ước lượng điểm tốt cho hệ số hồi quy tổng thể Chương tiếp tục trình bày tốn suy diễn thống kê hệ số hồi quy tổng thể sử dụng thông tin thu từ kết ước lượng Tất suy diễn đưa dựa điều kiện giả thiết mô hình phải thỏa mãn áp dụng cho mơ hình hồi quy hai biến mơ hình hồi quy nhiều biến §1 QUY LUẬT PHÂN PHỐI XÁC SUẤT CỦA MỘT SỐ THỐNG KÊ MẪU Xét mô hình hồi quy tuyến tính k biến: Với hàm hồi quy mẫu thu từ mẫu ngẫu nhiên kích thước n: {(X2i, , Xki, Yi), i =1, 2, , n}: ̂ ̂ ̂ ̂ Để biết quy luật phân phối ̂ đưa giả thiết sau: Giả thiết 5: Sai số ngẫu nhiên tuân theo quy luật chuẩn: Các giả thiết - gọi giả thiết mơ hình hồi quy tuyến tính cổ điển, mơ hình thỏa mãn giả thiết gọi mơ hình hồi quy tuyến tính cổ điển Định lý 3.1: Khi giả thiết - thỏa mãn ta có: Trong tính theo cơng thức (̂) Định lý 3.2: Khi giả thiết 1- thỏa mãn ta có: ∑ ̂ ̂ Tương tự ta có: ̂ ̂ ̂ ̂ với a, b hai số thực khơng đồng thời §2 BÀI TỐN XÂY DỰNG KHOẢNG TIN CẬY CHO CÁC HỆ SỐ HỒI QUY Ý nghĩa: Bài toán xây dựng KTC cho hệ số hồi quy nhằm trả lời câu hỏi sau: (hay nhiều) biến độc lập thay đổi đơn vị giá trị trung bình biến phụ thuộc thay đổi khoảng nào? I Khoảng tin cậy cho hệ số hồi quy: đánh giá tác động biến độc lập thay đổi Khoảng tin cậy đối xứng với độ tin cậy (1-α) cho hệ số hồi quy xác định công thức sau: ̂ (̂) ̂ (̂) Nghĩa là: Với độ tin cậy (1-α) biến Xj gia tăng đơn vị yếu tố khác khơng đổi trung bình biến Y gia tăng khoảng Ví dụ II Khoảng tin cậy cho biểu thức hai hệ số hồi quy: đánh giá tác động hai biến độc lập thay đổi Một cách tổng quát, với a b giá trị (có thể nhận giá trị dương âm), khoảng tin cậy cho mức gia tăng trung bình biến Y X2 tăng a đơn vị X3 tăng b đơn vị tính cơng thức: ̂ ̂ ( ̂ ⁄ ̂ ) ̂ ̂ ̂ ⁄ ̂ Trong sai số chuẩn tính theo cơng thức: ( ̂ ̂ ) √ ̂ ̂ ̂ ̂ Ví dụ 2.5 Điều tra mối quan hệ thu nhập chi tiêu hộ gia đình, thu kết sau: ̂ se 9.65 0.016 0.004 Trong CT chi tiêu (triệu đồng/năm), TN thu nhập từ lao động (triệu đồng/năm) TS giá trị tài sản (tỷ đồng) hộ gia đình Khi giá trị tài sản tăng thêm 10 triệu đồng thu nhập lao động giảm triệu, ảnh hưởng lên mức chi tiêu nhận giá trị khoảng nào? Biết ̂ ̂ )=0.0001 3.2.4 Các yếu tố ảnh hưởng đến độ dài khoảng tin cậy Số bậc tự (n-k): số bậc tự bé ⁄ nhỏ KTC rộng Như với kích thước mẫu n, số biến độc lập đưa vào mơ hình lớn có tác động làm giảm độ xác ước lượng Vậy việc đưa vào biến số có hai tác động đến kết ước lượng: mặt giúp làm gia tăng R2 , gia tăng khả giải thích biến phụ thuộc mơ hình, gia tăng khả dự báo mơ hình, mặt khác làm giảm độ xác ước lượng Tác động lớn kích thước mẫu nhỏ, giảm dần trở nên khơng đáng kể kích thước mẫu trở nên lớn Mối tương quan tuyến tính Xj biến độc lập cịn lại mơ hình: ta biết mối tương quan đo R2 , mối tương quan tuyến tính chặt R2 cao Theo công thức (3.3.5), R2j cao làm cho ( ̂ ) lớn, KTC rộng Khi R2j gần đến giá trị 1, KTC rộng vô trở nên ý nghĩa thực tế §3 BÀI TỐN KIỂM ĐỊNH GIẢ THUYẾT THỐNG KÊ VỀ HỆ SỐ HỒI QUY I Kiểm định giả thuyết hệ số hồi quy Xét mơ hình hồi quy Một câu hỏi mà người làm mơ hình quan tâm là: liệu biến Xj mơ hình có tác động đến biến Y hay khơng Ta biết Xj có tác động đến biến Y động đến biến Y Quy tắc: , ngược lại, Xj không tác Lập cặp giả thuyết sau: H: ̂ Xét thống kê: ; K: ̂ ̂ ̂ Nếu |t|>tα/2(n-k): bác bỏ giả thiết H, chấp nhận đối thiết K Nếu |t|tα/2(n-k) tqstα(n-k) Ví dụ 3.5: Khi nghiên cứu yếu tố tác động lên tiền lương người lao động ngành may mặc, với tập số liệu 30 quan sát ta thu kết ước lượng sau: ̂ se (0.15) 0.02 0.05 Trong W, GD KN mức lương (triệu đồng/tháng), số năm học (năm), kinh nghiệm người lao động (năm) Gỉa sử trung bình năm lương viên chức nhà nước tăng mức cố định 0.15 triệu Vậy cho mức tăng theo số năm kinh nghiệm người làm ngành may mặc có cao so với viên chức nhà nước hay không? II Kiểm định giả thuyết ràng buộc hệ số hồi quy - kiểm định T Xét mơ hình hồi quy k biến: Bài toán: Trong nhiều ứng dụng thực tế, cần kiểm định mối quan hệ hệ số hồi quy, so sánh tác động hai biến độc lập lên biến phụ thuộc Hoặc giả sử ̂ , ta muốn kiểm định giả thuyết cho tác động kết hồi quy cho thấy ̂ biến Xi Xj lên biến Y khác hay giống nhau… Khi tốn kiểm định giả thuyết ràng buộc hai hệ số hồi quy tóm tắt bảng sau Loại cặp giả thiết Hai phía Một phía Một phía H K * * * * * * ̂ Bác bỏ H |tqs|>tα/2(n-k) tqstα(n-k) ̂ ̂ ̂ a, b, a* số cho trước, tùy vào yêu cầu cụ thể giả thuyết cần kiểm định Ví dụ 3.7 Để xem xét mối quan hệ yếu tố đầu vào với sản lượng nhà máy dệt kim, người ta chạy mơ hình hồi quy với số liệu từ 35 nhà máy thu kết sau Q = 150 + 0.5K+ (se) (1.2) (0.1) 0.7L+e (0.2) Trong Q số áo sản xuất (trăm áo), K số máy dệt (máy), L số lao động (10 người) Giả sử chi phí để thuê 10 lao động chi phí thuê máy dệt Với mức ý nghĩa 5%, cho tiền chi cho lao động hiệu tiền chi cho máy dệt hay không? Biết Giả thiết H: (̂ ̂ ) ; Đối thiết K: Chú ý: Trong phần mềm thông dụng Eviews hay Stata báo cáo giá trị P tương ứng với kiểm định giả thuyết hệ số hồi quy Với giá trị P này, việc đưa kết luận kiểm định trở nên thuận tiện hơn: giá trị P bé mức ý nghĩa ta bác bỏ H (Excel tra bảng hàm phân phối Student: TINV(prob,fredom)) Quy tắc kiểm định sử dụng giá trị xác suất: Nếu giá trị xác suất P tương ứng với giá trị quan sát thống kê kiểm định nhỏ mức ý nghĩa α ta bác bỏ giả thuyết H III Kiểm định giả thuyết nhiều ràng buộc hệ số hồi quy- kiểm định F Trong hai mục xem xét toán kiểm định giả thuyết liên quan đến hệ số hồi quy, liên quan đến hai hệ số hồi quy ràng buộc, kiểm định T kiểm định thông dụng để thực kiểm định Xét mơ hình hồi quy k biến: Giả sử muốn kiểm định đồng thời hai ràng buộc: H: ; K: Khi đó, mơ hình hồi quy sau hồn tồn tương đương: (*) cịn gọi mơ hình khơng có ràng buộc; (**) mơ hình có ràng buộc Nếu H kết ước lượng hai mơ hình phải giống nhau, khác biệt RSS hai mơ hình ước lượng nhỏ Do sau ước lượng, kết cho thấy khác biệt RSS hai mô hình lớn chứng để bác bỏ giả thuyết H Quy tắc kiểm định F Bước 1: Thiết lập cặp giả thuyết thống kê Bước 2: Ước lượng hàm hồi quy khơng có ràng buộc (*) hàm hồi quy có ràng buộc (**), thu RSS(U) RSS(R) tương ứng, U R dùng để gắn với mơ hình khơng có ràng buộc (unrestricted) mơ hình có ràng buộc (restricted) Bước 3: Tính giá trị quan sát thống kê kiểm định, F, theo cơng thức sau: Trong m số ràng buộc giả thuyết H k(U) số hệ số hồi quy mơ hình khơng có ràng buộc Bước 4: Do Fqs > f(m,n-k(U)) giả thuyết H bị bác bỏ, trường hợp ngược lai, chưa có đủ sở để bác bỏ H Tra hàm excel phân phối Fisher: FINV(0.05,2,2) Ví dụ 3.9: Xét mơ hình hồi quy tiền lương với 32 kết quan sát: L = 2404 + 86.12 GD - 14.88 MGD - 30.25 AE + e RSS = 3649563, n=32 L, GD, MGD AE tiền lượng, trình độ học vấn, trình độ học vấn người mẹ, số anh chị em gia đình người lao động Để kiểm định yếu tố " học vấn người mẹ" " số anh chị em gia đình" đồng thời không ảnh hưởng tới tiền lương người lao động, ta thực sau: H: Ước lượng mô hình hồi quy có ràng buộc: thu RSS = 3770332 ; K: Do giá trị quan sát thống kê kiểm định Fqs=0.46f0.05(3,25) : chấp nhận K IV Kiểm định phù hợp hàm hồi quy Một trường hợp đặc biệt kiểm định giả thuyết nhiều ràng buộc hệ số hồi quy toán kiểm định sau: H: ; K: Giả thuyết H ngụ ý toàn biến độc lập mơ hình khơng ảnh hưởng đến biến phụ thuộc Nếu H0 mơ hình khơng có ý nghĩa (non-significant), hay cịn gọi mơ hình khơng phù hợp Do kiểm định cịn gọi kiểm định phù hợp hàm hồi quy Để áp dụng quy trình kiểm định F trình bày mục 3.3.4 nói với cặp giả thuyết (3.3.5) ước lượng hai mơ hình: Mơ hình gốc - mơ hình khơng có điều kiện ràng buộc: Và mơ hình với điều kiện ràng buộc: Mơ hình khơng có biến độc lập nên có hệ số xác định Do hai mơ hình có biến phụ thuộc nên thống kê kiểm định tính theo cơng thức: So sánh giá trị với fα (k-1,n-k) cho ta đưa kết luận tương ứng bt1ch1.wf1 trang 28 §5 DỰ BÁO GIÁ TRỊ CỦA BIẾN PHỤ THUỘC VÀ SAI SỐ DỰ BÁO I Dự báo giá trị biến phụ thuộc Xét mơ hình hồi quy k biến sau đây: hàm hồi quy mẫu tương ứng: ̂ Khi giả thiết 1-4 thỏa mãn, ta có ̂ ̂ ̂ Do công thức (3.3.6) thay ước lượng nên ta có: Với Do ta có: Như khoảng tin cậy với độ tin cậy X = Xi là: (1) cho giá trị trung bình biến phụ thuộc