LUẬN văn TOÁN ỨNG DỤNG PHƯƠNG SAI NHIỄU THAY đổi và tự TƯƠNG QUAN TRONG PHÂN TÍCH hồi QUY

TRƯỜNG ĐẠI HỌC CẦN THƠ KHOA KHOA HỌC TỰ NHIÊN BỘ MƠN TỐN …… LUẬN VĂN TỐT NGHIỆP ĐẠI HỌC PHƯƠNG SAI NHI THAY ĐỔI VÀ TỰ TƯƠNG Q AN TRONG PHÂN TÍCH HỒI QUY Giáo viên hướng dẫn Sinh viên thực TS Võ Văn Tài Trần Thành Tiến MSSV:1090153 Lớp:Toán Ứng Dụng-K35 Cần Thơ, tháng /2013 LỜI CẢM ƠN ….… Đầu tiên em xin cảm ơn đến quý Thầy Cô Khoa Khoa học Tự nhiên trường Đại học cần thơ truyền dạy kiến thức quí báo cho chúng em suốt bốn năm học vừa qua, để em đạt kết ngày hơm Em xin bày tỏ lòng kính trọng biết ơn sâu sắc tới thầy Võ Văn Tài, người tận tình hướng dẫn, bảo, khích lệ, động viên giảng dạy em kiến thức liên quan giúp em hoàn thành luận văn Em xin cảm ơn cô cố vấn Nguyễn Thị Hồng Dân động viên giúp đỡ em bạn trình thực đề tài Xin cảm ơn anh, chị trước, bạn sát cánh, ủng hộ giúp đỡ trình làm đề tài Cuối cùng, xin gửi lời cảm ơn đặc biệt đến gia đình, nuôi dạy tạo điều kiện tốt cho tơi suốt q trình học tập Dù cố gắng hướng dẫn tận tâm Thầy hướng dẫn, thời gian có hạn trình độ hạn chế nên khơng tránh khỏi nhiều thiếu s t, mong nhận thông cảm góp ý Thầy Cơ bạn Sinh viên thực Trần Thành Tiến ANH ỘT SỐ TH ẬT NG hương pháp ình phương Ordinary Least Squares (OLS Generalized Least Squares (GLS uto egressive scheme ( thất thơng thường hương pháp ình phương bé tổng quát Best Linear Unbiased Estimator (BLUE TI NG ANH ớc lượng tuyến t nh hông chệch tốt Lược đồ tự hồi quy uto egressive onditional eteroscedasticity ( điều iện c phương sai thay đổi Tự tương quan với DANH M C CÁC HÌNH Trang Hình 2.1: Hình vẽ minh họa cho phương sai nhiễu thay đổi không thay đổi 19 Hình 2.2: ình vẽ minh họa cho hương sai hông đồng 20 2 Hình 2.3: Một số dạng biến thiên U i 24 Hình 3.1: Một số dạng biến thiên nhiễu theo thời gian 32 Hình 3.2: Hồi quy chi phí biên theo sản lượng 35 Hình 3.3: Hệ số tự tương quan ậc giá trị d thương ứng 40  Hình 4.1: Đồ thị phần dư U 51   Hình 4.2: Đồ thị U theo U 1 .50 Hình 4.3: Biểu đồ ình phương phần dư theo giá trị dự đốn 52 Hình 4.4: Đồ thị phần dư umu2 với ymu 55 Hình 4.5: Biểu đồ ình phương phần dư theo giá trị dự đoán theo phương pháp 58 Hình 4.6: Biểu đồ ình phương phần dư theo giá trị dự đoán theo phương pháp 59 Hình 4.7: Biểu đồ ình phương phần dư theo giá trị dự đoán theo phương pháp 60 DANH M C CÁC BẢNG Trang ảng iểm định Dur in- aston phần mềm vie ảng iểm định G phần mềm vie 52 53 Bảng 4.3: Kết quân tích hồi quy bội 53 ảng iểm định Gleijser phần mềm vie ảng iểm định ảng hân t ch hồi quy theo phương pháp ng phần mềm vie 57 ảng hân t ch hồi quy theo phương pháp ng phần mềm vie 58 ảng hân t ch hồi quy theo phương pháp ng phần mềm vie 60 hite ng phần mềm vie 56 56 Trang PHẦN MỞ ĐẦU…………………………………………………………………… LÝ DO CHỌN ĐỀ TÀI………………………………………………………… MỤ ĐÍ ƠNG NG IÊN ỨU…………………………………………………… Á NG IÊN ỨU……………………………………………… DỐI T ỢNG NGHIÊN CỨU……………………………………………………2 CẤU TRÚC LUẬN VĂN………………………………………………………….2 hương HỒI QUY TUYẾN TÍNH……………………………………………….4 1.1 HỒI QUY TUYẾN TÍN ĐƠN…………………………………………… 1.1.1 Mơ hình………………………………………………………………… hương trình hồi quy tuyến tính mẫu………………………………… 1.2 HỒI QUY TUYẾN TÍNH BỘI………………………………………………6 Mơ hình………………………………………………………………… 2.2 hương trình hồi quy tuyến tính mẫu………………………………… Ý nghĩa hệ số hồi quy………………………………………… 1.3 CÁC GIẢ THIẾT TRONG XÂY DỰNG Đ ỜNG HỒI QUY………… 10 1.3.1 Trong xây dựng hồi quy tuyến t nh đơn………………………………10 1.3.2 Trong xây dựng hồi quy tuyến tính bội……………………………….11 1.4 MỘT SỐ TIÊU CHUẨN ĐỂ ĐÁN GIÁ Đ ỜNG HỒI QUY………….12 1.4.1 Tiêu chuẩn hệ số tương quan………………………………………… 12 1.4.2 Tiêu chuẩn hệ số xác định hệ số xác định điều chỉnh…………… 14 1.4.3 Tiêu chuẩn thông tin Akaike (AIC ……………………………………16 1.4.4 Tiêu chuẩn thông tin Schwarz (SIC) 16 1.4.5 Một số tiêu chuẩn hác…………………………………………………16 hương HIỆN T ỢNG ƠNG S I NHIỄU T Y ĐỔI……………… 19 2.1 KHÁI NIỆM…………………………………………………………………19 2.2 NGUYÊN NHÂN VÀ HẬU QUẢ CỦ T ƠNG S I N IỄU Y ĐỔI……………………………………………………………………20 2.2.1 Nguyên nhân…………………………………………………………….20 2.2.2 Hậu việc phương sai nhiễu thay đổi………………………….21 2.3 CÁCH PHÁT HIỆN ƠNG S I N IỄU T Y ĐỔI……………… 23 hương pháp định tính…………………………………………………23 .2 hương pháp định lượng……………………………………………….25 ƠNG S I N IỄU T 2.4 CÁCH KHẮC PHỤ Y ĐỔI………………28 Trường hợp iết phương sai tổng thể…………………………… 28 .2 Trường hợp phương sai tổng thể  i2 ……………………29 hương TỰ T ƠNG QU N ỦA NHIỄU………………………………… 32 3.1 KHÁI NIỆM…………………………………………………………………32 3.2 NGUYÊN NHÂN VÀ HẬU QUẢ TỰ T ƠNG QU N ỦA NHIỄU… 33 Nguyên nhân……………………………………………………………33 3.2.2 Hậu tự tương quan………………………………………… 36 3.3 CÁCH PHÁT HIỆN TỰ T ƠNG QU N ỦA NHIỄU…………………39 hương pháp đồ thị…………………………………………………….39 3.3.2 Kiểm định Dur in atson…………………………………………… 39 3.3.3 Kiểm định Breusch-Godfrey ( G ….………………………………… 3.3.4 Kiểm định chuỗi dấu……………………………………………………43 3.1 CÁCH KHẮC PHỤ ……………………………………………………….44 Trường hợp biết cấu trúc tự tương quan……………………… 44 Trường hợp chưa iết cấu trúc tự tương quan………………… 45 hương BÀI TOÁN ÁP DỤNG…………………………………………………49 4.1 GIỚI THIỆU……………………………………………………………… 49 4.2 TỔNG QUAN VIỆC THỰC HIỆN……………………………………… 50 4.2.1 Số liệu……………………………………………………………………50 4.2.2 hương pháp thực hiện……………………………………………… 50 4.3 XEM XÉT HIỆN T ỢNG TỰ T ƠNG QU N ỦA NHIỄU………….51 4.3.1 Phát hiện tượng tự tương quan nhiễu……………………….51 4.4 XEM XÉT HIỆN T ỢNG ƠNG S I N IỄU T Y ĐỔI……… 53 4.4.1 Phát hiện tượng phương sai nhiễu thay đổi…………………….53 4.4.2 Cách khắc phục tượng phương sai nhiễu thay đổi…………… 41 KẾT LUẬN V Đ N ỚNG NG IÊN ỨU……………………………….45 ẾT LUẬN………………………………………………………………… 45 Về mặt l thiết………………………………………………………………45 Về mặt t nh toán…………………………………………………………….45 ỚNG NG IÊN ỨU…………………………………………………….46 PHỤ LỤC………………………………………………………………………… 46 TÀI LIỆU THAM KHẢO…………………………………………………………47 PHẦN MỞ ĐẦU LÝ DO CHỌN ĐỀ TÀI Ngày thống kê có vai trò quan trọng khơng thể thiếu nghiên cứu khoa học lĩnh vực hác nhau, đặc biệt khoa học ứng dụng Vai trò thống kê không tổng hợp số mà điều quan trọng từ số đ c thể dự đoán xu hướng phát triển n tương lai iện có nhiều phương pháp dự báo từ số liệu khứ, nhiên phương pháp hồi quy xem phổ biến Tùy theo lĩnh vực đặc thù người ta xây dựng mơ hình hồi quy khác (tuyến tính phi tuyến để dự báo cho xu phát triển biến đ ( iến phụ thuộc) khó quan sát thơng qua biến khác (biến độc lập) dễ quan sát xác định Với phát triển phần mềm thống kê nay, hi xác định dạng mô hình hồi quy việc tìm đường hồi quy cụ thể chuyện dễ dàng Những thống ê liên quan đến mơ hình hồi quy xử lý rõ ràng từ phần mềm c Tuy nhiên để xây dựng mơ hình hồi quy mặt toán học phải giả thiết số điều kiện l tưởng, đ c hai vấn đề quan trọng hương sai nhiễu hông thay đổi Hiện tượng tự tương quan hông xảy Nếu hai điều kiện hông thỏa, đường hồi quy xây dựng dù có tiêu chuẩn đánh giá mức tốt hơng c nghĩa Qua nghiên cứu nhận thấy, nghiên cứu khoa học ứng dụng xây dựng đường hồi quy điều bị ỏ qua h nh điều làm cho mơ hình hồi quy xây dựng thực chất hơng nghĩa Vì lí chọn đề tài “PHƯƠNG SAI NHI U THAY ĐỔI VÀ TỰ TƯƠNG Q AN TRONG PHÂN TÍ H HỒI QUY’’ cho luận văn tốt nghiệp Luận văn thực với hy vọng tài liệu hỗ trợ lý thuyết thực hành xây dựng mơ hình hồi quy tối ưu 2M ĐÍ H NGHIÊN ỨU - Tổng kết lý thuyết liên quan đến nguyên nhân, hậu quả, cách phát phương pháp hắc phục tự tương quan phương sai nhiễu thay đổi xây dựng mơ hình hồi quy - Ứng dụng lý thuyết trình ày cho số ứng dụng từ số liệu thực cụ thể PHƯƠNG PHÁP NGHIÊN ỨU - Phân tích, tổng hợp hệ thống hóa tài liệu liên quan đến tự tương quan phương sai nhiễu thay đổi xây dựng mơ hình hồi quy - hương pháp thực nghiệm: Sử dụng số liệu thực, để xây dựng mơ hình hồi quy khơng tự tương quan phương sai nhiễu thay đổi DỐI TƯỢNG NGHIÊN CỨU Đối tượng nghiên cứu: Tự tương quan phương sai nhiễu thay đổi Phạm vi nghiên cứu: Mơ hình hồi quy số liệu cụ thể y học thu thập từ bệnh viện Đa hoa Trung ương ần Thơ CẤU TRÚC LUẬN VĂN Luận văn gồm có phần mở đầu, phần nội dung phần kết luận, đ phần nội dung gồm c chương hương 1: Hồi quy tuyến tính Giới thiệu tổng quan mơ hình hồi quy với mơ hình hồi quy tuyến t nh đơn bội hương giới thiệu giả thiết xây dựng mơ hình hồi quy tiêu chuẩn đánh giá mơ hình hồi quy xây dựng hương 2: Hiện tượng phương sai nhiễu thay đổi hương giới thiệu nguyên nhân, hậu quả, phương pháp phát hắc phục tượng phương sai nhiễu xây dựng mơ hình hồi quy hương 3: Tự tương quan nhiễu hương giới thiệu nguyên nhân, hậu quả, phương pháp phát hắc phục tự tương quan cũa nhiễu xây dựng mơ hình hồi quy hương 4: Bài tốn áp dụng Xây dựng mơ hình hồi quy tuyến tính bội bệnh suy thận mạn qua biến sinh hóa từ số liệu thực tế bệnh nhân bệnh viện Đa hoa Trung ương Cần Thơ Vận dụng lý thuyết trình ày chương trước để phát hiện, sau đ khắc phục, xây dựng mơ hình hồi quy khơng có tượng phương sai nhiễu thay đổi tự tương quan Sử dụng liệu phụ lục, phần luận văn xem xét tượng tự tương quan nhiễu nh m phát khắc phục tượng xây dựng mơ hình hồi quy 4.3.1 Phát hiện tượng tự tương quan nhiễu a Phương pháp định tính    Vẽ đồ thị phần dư U U theo U  ta c hình vẽ sau 30000 20000 umu 10000 -10000 11 13 15 17 19 21 23 25 27 29 31 33 35 37 39 41 43 45 47 49 51 53 55 -20000 so nguoi  Hình 4.1: Đồ thị phần dư U 30000 20000 umu 10000 -10000 -20000 -20000 -15000 -10000 -5000 5000 10000 15000 20000 25000 30000 um u(-1)   H nh 4.2: Đồ thị U theo U 1 Nhìn vào hai đồ thị thấy có dạng ngẫu nhiên nên kết luận khơng có tự tương quan nhiễu Để củng cố thêm nhận định trên, ta sử dụng thêm số phương pháp định lượng sau: Phương pháp định lượng i) Kiể định Durbin-Waston: Thực iểm định Dur in- aston ta c ết xử l sau ảng 4.1: iể định ur in- a ton phần vie ảng xử l cho ta iết d  1,998776  1, nên kết luận khơng có tự tương quan ii) Kiể định BG (Breusch-Godfrey) ảng 4.2: ảng xử l iể định G phần vie ết cho ta iết p-value=0,2140>0,05, nên kết luận khơng có tự tương quan T lại: ác phương pháp iểm định định t nh định lượng cho ta iết hông xảy tượng tự tương quan nhiễu 4.4 XEM XÉT HIỆN TƯỢNG PHƯƠNG SAI NHI THAY ĐỔI ũng sử dụng liệu phụ lục, phần luận văn xem xét tượng phương sai nhiễu thay đổi nh m phát khắc phục tượng xây dựng mơ hình hồi quy 4.4.1 Phát hiện tượng phương nhiễu thay đổi Sử dụng tất phương pháp trình ày chương để kiểm tra tượng phương sai nhiễu a)Dựa vào phương pháp định tính Dùng phần mềm xcel để xử l số liệu ta ết sau Bảng 4.3: Kết quân tích hồi quy bội Từ bảng 4.3 ta có mơ hình hồi quy mẫu hệ số thống kê sau:  Y i  20599.676313  265.008931X1i  0.000670X 2i 16.016922X3i +41.727015X 4i  90.150724X 5i  290.442934X 6i  Hệ số xác định bội R2  0.242068853  0.14732746  Hệ số xác định hiệu chỉnh Radj  Sai số chuẩn ước lượng sY / X  11755.78718  SSR  2118623698  SSE  6633529549 (*)  SST  8752153246  F  2.555048  Significance F  0.03149963 Ngoài bảng 4.1 cung cấp thông tin sau:  Standard Error sai số chuẩn hệ số độ đốc biến độc lập tương ứng  t Stat giá trị t tính tốn phục vụ cho kiểm định nghĩa biến độc lập riêng biệt  P-value hoán đổi từ giá trị t t nh toán thành mức vụ cho kiểm định nghĩa phục nghĩa biến độc lập riêng biệt  Lower Upper cận cận khoảng tin cậy ước lượng hệ số hồi qui Sau mơ hình hồi quy xây dựng, ta t nh phần dư Vẽ đồ thị ymu phần dư ta c hình sau 800000000 700000000 600000000 500000000 400000000 300000000 200000000 100000000 -5000 5000 10000 15000 20000 25000 30000 umu2 Hình 4.3: Biểu đồ nh phương phần dư theo giá trị dự đoán y u theo umu2 Đồ thị cho ta thấy ình phương phần dư thay đổi có hệ thống giá trị dự đoán tăng Do đ ta c thể kết luận có tượng phương sai nhiễu thay đổi xảy Để củng cố thêm nhận định trên, ta sử dụng thêm số phương pháp định lượng sau: b)Phương pháp định lượng i) Sử dụng kiể định Park ^ ^ Thực phân tích hồi quy ln U i theo Yi ta kết sau: umu2 -5 -10 -5000 5000 10000 15000 20000 25000 30000 ymu H nh 4.4 đồ thị phần dư u u2 với ymu Kết kiểm định Part:  Rõ ràng hệ số dốc đứng trước biến Y c nghĩa thống kê P-value 0,05, nên chấp nhận giả thuyết H0 Do đ khơng có tượng phương sai nhiễu thay đổi xảy Vậy ta chọn dùng phép biến đổi Logarit để loại bỏ phương sai nhiễu thay đổi hi đ mơ hình hồi quy xây dựng là: ln Y  20599.676313  265.008931ln(X1 )  0.000670ln 9X ) 16.016922ln(X3 )+41.727015ln(X )  90.150724ln(X )  290.442934ln(X ) T (**) lại: i Mơ hình hồi quy hơng tượng phương sai nhiễu thay đổi tự tương quan ii So với mơ hình g c an đầu (*), mơ hình ( đánh giá tốt hệ số xác định, hệ số xác định hiệu chỉnh lớn sai số chuẩn nhỏ K T LUẬN V Đ NH HƯỚNG NGHIÊN Ứ A T ẬN Luận văn thực số công việc sau t lý thuyết 1V - ệ thống l thuyết hồi quy tuyến t nh đơn tuyến t nh ội ác thống ê liên quan, tiêu chuẩn đánh giá, đặc iệt giả thiết - xây dựng đường hồi quy - Trình ày nguyên nhân, hậu quả, nhận iết cách hắc phục tượng phương sai nhiễu thay đổi - Trình ày nguyên nhân, hậu quả, nhận iết cách hắc phục tượng tự tương quan nhiễu t tính tốn 2V hân t ch xử l vấn đề liên quan đến phương sai nhiễu thay đổi tự tương quan cho ộ số liệu thực tế với hỗ trợ phần mềm xcel Eviews HƯỚNG NGHIÊN Ứ - Tìm hiểu thêm nhiều vấn đề quan trọng hác xây dựng mơ hình hồi quy tối ưu Tiêu chuẩn đánh giá, phương pháp chọn iến, tượng đa cộng tuyến… - Ứng dụng việc xây dựng mô hình hồi quy tối ưu cho ứng dụng từ iện thực tế PH L C STT 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 Y X1 X2 X3 Huyết áp trung bình X4 880.4 20587 6270 434 544.3 364 2231 139.9 7469 933.1 35000 3721 191.1 21419 9974 28197 1966 111.5 6782 407.9 317.8 8660 29.69 44.79 4073 35000 2511 35000 817.9 7610 665.3 9784 102.3 31310 35000 35000 6111 474.5 51.97 577.1 1603 35000 263.7 7.72 10.4 7.73 12.1 8.97 8.12 8.71 9.32 7.24 12.3 6.3 9.02 11 8.55 5.4 8.91 12.5 14.2 6.77 10.8 8.59 8.63 14.2 10.4 8.69 12.2 10.4 9.8 12.4 10.5 12.7 5.77 9.78 7.41 8.86 13.1 9.92 7.05 6.93 8.6 12.9 3740000 3420000 2460000 4400000 2980000 2680000 2890000 3280000 2220000 4080000 2300000 2830000 3830000 2780000 1810000 3000000 5020000 4720000 2480000 3800000 1100000 2970000 4890000 3530000 2630000 4070000 4750000 3120000 4080000 3180000 4340000 2400000 3270000 2700000 2530000 2580000 3850000 3200000 3670000 2440000 3160000 2810000 4280000 248 268 639 220 385 428 553 310 810 405 596 266 301 618 733 717 248 529 1342 337 798 818 309 349 264 628 571 388 234 208 230 562 782 374 1326 970 270 958 275 354 238 1228 354 110 125 125 85 120 85 135 85 80 120 95 90 110 85 110 135 115 110 140 125 100 140 120 90 90 80 110 125 105 145 140 105 140 110 140 110 95 110 95 90 95 115 90 Nt-pro Hemoglobin BNP Hồng cầu máu Creatinin Chi u cao Ch số BMI X5 X6 155 168 153 150 154 145 143 143 150 171 163 165 158 150 164 151 165 168 163 162 162 155 160 155 145 150 161 154 160 152 160 147 158 147 165 160 160 150 144 153 158 160 145 22.06 20.55 17.09 14.67 18.97 18.07 21.52 22.49 17.78 23.26 21.83 24.61 22.03 20 18.59 15.79 23.51 23.03 18.82 26.67 18.29 22.89 25.39 19.15 16.65 18.22 19.68 19.82 23.44 22.07 21.09 23.14 22.43 20.36 21.3 23.44 19.53 27.56 21.7 17.09 16.02 18.36 19.02 44 45 46 47 48 49 50 51 52 53 54 55 77.29 626.3 101.3 1711 35000 2380 35000 3115 120.2 3122 6869 3562 11.2 12.6 7.58 8.47 6.38 7.24 8.29 10.6 14.1 7.79 6.7 7.7 4970000 4630000 3490000 3890000 2390000 2540000 3040000 3740000 4530000 2840000 2310000 2950000 202 392 273 234 1332 639 661 266 329 1162 941 742 80 135 85 70 115 80 120 110 85 105 120 135 155 175 158 160 160 130 145 165 163 175 157 160 23.31 23.18 15.62 23.44 25.39 17.75 16.65 18.37 29.73 17.96 20.28 23.44 TÀI LIỆU THAM KHẢO [1] Phạm Tr ao- Vũ Minh hâu, Kinh tế lượng ứng dụng, NX Thống ê TP.HCM, 2010 oàng Trọng- Chu Nguyễn Mộng Ngọc, Thống kê ứng dụng kinh tế- xã hội, NX Lao động – xã hội, 20 Mai Văn Nam, iáo trình nguyên lý thống kê kinh tế, NX Văn h a thông tin, 2008 han iếu iền, hương pháp ố tr th nghiệm xử l số liệu (thống ê thực nghiệm , NX Nông nghiệp, 200 ... liên quan đến tự tương quan phương sai nhiễu thay đổi xây dựng mơ hình hồi quy - hương pháp thực nghiệm: Sử dụng số liệu thực, để xây dựng mô hình hồi quy khơng tự tương quan phương sai nhiễu thay. .. xây dựng mơ hình hồi quy bội cần ý tượng đa cộng tuyến, tự tương quan phương sai nhiễu thay đổi để xây dựng đường hồi quy phù hợp iện tượng tự tương quan phương sai nhiễu thay đổi trình bày chương... đường hồi quy điều bị ỏ qua h nh điều làm cho mơ hình hồi quy xây dựng thực chất hơng nghĩa Vì lí chọn đề tài “PHƯƠNG SAI NHI U THAY ĐỔI VÀ TỰ TƯƠNG Q AN TRONG PHÂN TÍ H HỒI QUY ’ cho luận văn