Áp dụng các kỹ thuật phân lớp dữ liệu, hồi quy để dự báo số liệu sản xuất kinh doanh cho VNPT

ĐẠI HỌC QUỐC GIA HÀ NỘI TRƢỜNG ĐẠI HỌC CÔNG NGHỆ Hoàng Tuấn Ninh ÁP DỤNG CÁC KỸ THUẬT PHÂN LỚP DỮ LIỆU, HỒI QUY ĐỂ DỰ BÁO SỐ LIỆU SẢN XUẤT KINH DOANH CHO VNPT LUẬN VĂN THẠC SĨ HÀ NỘI – 2009 ĐẠI HỌC QUỐC GIA HÀ NỘI TRƢỜNG ĐẠI HỌC CÔNG NGHỆ Hoàng Tuấn Ninh ÁP DỤNG CÁC KỸ THUẬT PHÂN LỚP DỮ LIỆU, HỒI QUY ĐỂ DỰ BÁO SỐ LIỆU SẢN XUẤT KINH DOANH CHO VNPT Ngành: Công nghệ thông tin Chuyên ngành: Hệ thống thông tin Mã số: 60 48 05 LUẬN VĂN THẠC SĨ NGƢỜI HƢỚNG DẪN KHOA HỌC TS.Đỗ Văn Thành HÀ NỘI - 2009 LỜI CAM ĐOAN Tôi xin cam đoan nội dung luận văn chưa công bố hay xuất hình thức không chép từ công trình nghiên cứu Toàn ứng dụng thử nghiệm tự thiết kế xây dựng Nếu sai xin hoàn toàn chịu trách nhiệm Hà Nội, ngày tháng năm 2009 Người thực đề tài Hoàng Tuấn Ninh LỜI CẢM ƠN Tôi xin chân thành cảm ơn thầy giáo TS Đỗ Văn Thành,Trung tâm Thông tin Dự báo Kinh tế - Xã hội, Bộ Kế hoạch Đầu tư tận tình hướng dẫn có nhiều dẫn quí báu cho hoàn thành khoá luận Tôi xin chân thành cảm ơn thầy, cô Đại học Công nghệ thầy cô giảng dạy Đại học Quốc Gia Hà Nội truyền đạt cho kiến thức bổ ích thời gian học tập trường Tôi xin gửi lời cảm ơn tới chuyên viên Tập đoàn Bưu Viễn thông Việt Nam cung cấp số liệu cho để thực luận văn Cuối cùng, xin bày tỏ lòng biết ơn đến gia đình bạn bè, người giúp đỡ, động viên nhiều suốt trình học tập làm luận văn Do thời gian kiến thức có hạn, khoá luận không tránh khỏi thiếu sót định Tôi mong nhận góp ý thầy cô giáo bạn Tôi xin chân thành cảm ơn ! TÓM TẮT NỘI DUNG LUẬN VĂN Luận văn trình bày làm chương với nội dung sau: Chương I: Khảo cứu phương pháp dự báo số liệu Chương giới thiệu kiến thức tổng quan dự báo giới thiệu số phương pháp dự báo định lượng như: Hồi quy tuyến tính, Hồi quy phi tuyến, phương pháp chuỗi thời gian, phương pháp phân lớp liệu… Chương II: Dự báo định lượng phương pháp mạng nơron nhân tạo Chương tập trung giới thiệu việc dự báo định lượng phương pháp mạng nơron nhân tạo, thuật toán lan truyền ngược sai số phương pháp thiết kế mạng nơron nhân tạo Chương III: Dự báo kết hoạt động SXKD VNPT phương pháp mạng nơron nhân tạo Chương trình bày toán dự báo kết thực SXKD VNPT, đề xuất giải pháp dự báo định lượng để giải toán, sau ứng dụng phương pháp mạng nơron nhân tạo để dự báo kết Cuối kết thử nghiệm với số liệu SXKD VNPT, đánh giá kết số đề xuất, khuyến nghị MỤC LỤC MỤC LỤC DANH SÁCH HÌNH VẼ .9 DANH SÁCH BẢNG BIỂU 10 BẢNG THUẬT NGỮ 11 MỞ ĐẦU Error! Bookmark not defined CHƢƠNG KHẢO CỨU CÁC PHƢƠNG PHÁP DỰ BÁO VỀ HOẠT ĐỘNG SẢN XUẤT KINH DOANH DOANH NGHIỆP Error! Bookmark not defined Tổng quan phƣơng pháp dự báo Error! Bookmark not defined 1.3 Dự báo định lượng phương pháp hồi quy Error! Bookmark not defined 1.3.1.Hồi quy tuyến tính hồi quy bội Error! Bookmark not defined 1.1.2 Hồi quy phi tuyến tính Error! Bookmark not defined 1.4 Dự báo số liệu phương pháp chuỗi thời gianError! Bookmark not defined 1.4.1 Khái niệm chuỗi thời gian Error! Bookmark not defined 1.4.2 Phân tích, dự báo chuỗi thời gian Error! Bookmark not defined 1.4 Dự báo phương pháp phân lớp liệu Error! Bookmark not defined 1.4.1 Phương pháp phân lớp dữ liệu Error! Bookmark not defined 1.4.2 Độ xác phân lớp Error! Bookmark not defined CHƢƠNG DỰ BÁO ĐỊNH LƢỢNG BẰNG PHƢƠNG PHÁP MẠNG NƠRON NHÂN TẠO Error! Bookmark not defined 2.1 Mạng nơron nhân tạo .Error! Bookmark not defined 1) Khái quát mạng nơron Error! Bookmark not defined 2.2 Mô hình mạng nơron nhân tạo .Error! Bookmark not defined 2.4 Thuật toán lan truyền ngược sai số Error! Bookmark not defined 2.5 Thiết kế mạng nơron Error! Bookmark not defined 1) Bước 1: Lựa chọn biến Error! Bookmark not defined 2) Bước 2: Thu thập liệu Error! Bookmark not defined 3) Bước 3: Tiền xử lý liệu Error! Bookmark not defined 4) Bước 4: Xác định tập huấn luyện, tập kiểm tra đánh giáError! Bookmark not defined 5) Bước 5: Xác định mô hình mạng nơron Error! Bookmark not defined 6) Bước 6: Xác định hàm đánh giá sai số .Error! Bookmark not defined 7) Bước 7: Huấn luyện mạng nơron .Error! Bookmark not defined 8) Bước 8: Thực thi Error! Bookmark not defined CHƢƠNG DỰ BÁO KẾT QUẢ HOẠT ĐỘNG SXKD CHO VNPT BẰNG PHƢƠNG PHÁP MẠNG NƠRON NHÂN TẠO Error! Bookmark not defined 3.1 Xác định toán dự báo kết hoạt động sản xuất kinh doanh VNPT Error! Bookmark not defined 3.2 Xác định hệ thống tiêu cần đƣợc phân tích, dự báo kết SXKDError! Bookmark not defined 3.2.1 Phân tích quy trình nghiệp vụ báo cáo số liệu VNPTError! Bookmark not defined 3.2.2 Xác định hệ thống tiêu cần phân tích dự báoError! Bookmark not defined 3.3 Giải pháp dự báo định lƣợng kết SXKD VNPT Error! Bookmark not defined 3.3.1 Mô hình tổng thể hệ thống thông tin phục vụ dự báo định lượng Error! Bookmark not defined 3.3.2 Giới thiệu tập số liệu vấn đề tiền xử lý số liệu Error! Bookmark not defined 3.3.3 Phương pháp mạng nơrontrong dự báo số liệu SXKD VNPT Error! Bookmark not defined 3.3.4 Phần mềm công cụ hỗ trợ dự báo Error! Bookmark not defined 3.4 Ứng dụng mạng Nơron để dự báo số liệu SXKD cho VNPTError! Bookmark not defined 3.4.1 Xác định biến dự báo .Error! Bookmark not defined 3.4.2 Thu thập liệu .Error! Bookmark not defined 3.4.3 Tiền xử lý liệu Error! Bookmark not defined 3.4.4 Trích chọn liệu – Xây dựng tập huấn luyệnError! Bookmark not defined 3.4.5 Xác định mô hình mạng nơron .Error! Bookmark not defined 3.4.6 Xác định hàm đánh giá sai số Error! Bookmark not defined 3.4.7 Huấn luyện mạng nơ ron Error! Bookmark not defined 3.4.8 Dự báo số liệu Error! Bookmark not defined 3.5 Kết thử nghiệm Error! Bookmark not defined a Thử nghiệm với số liệu điện thoại cố định .Error! Bookmark not defined b Thử nghiệm với liệu mạng Internet Error! Bookmark not defined c Thử nghiệm với liệu mạng di động Error! Bookmark not defined 3.6 Thiết kế Phần mềm dự báo số liệu SXKD cho VNPTError! Bookmark not defined 3.6.1 Sơ đồ phân rã chức .Error! Bookmark not defined 3.6.2 Biểu đồ ngữ cảnh Error! Bookmark not defined 3.6.3 Sơ đồ phân rã chức .Error! Bookmark not defined 3.6.4 Sơ đồ quan hệ Error! Bookmark not defined 3.6.5 Thiết kế liệu logic Error! Bookmark not defined 3.6.6 Thiết kế chức xem số liệu Error! Bookmark not defined 3.6.7 Thiết kế chức xây dựng mô hình Error! Bookmark not defined 3.6.8 Thiết kế chức dự báo số liệu Error! Bookmark not defined 3.6.9 Thiết kế chức Cập nhật tập huấn luyện.Error! Bookmark not defined KẾT LUẬN Error! Bookmark not defined TÀI LIỆU THAM KHẢO 12 DANH SÁCH HÌNH VẼ Hình Các phương pháp dự báo hoạt động SXKD doanh nghiệp Error! Bookmark not defined Hình Đánh giá độ xác phân lớp phương pháp holdoutError! Bookmark not defined Hình Mô hình phi tuyến nơron Error! Bookmark not defined Hình Kết biến đổi afine ngưỡng Error! Bookmark not defined Hình Hai mô hình phi tuyến nơron Error! Bookmark not defined Hình Chuyển đổi logarit số liệu buôn bán lúa gạo theo tháng Error! Bookmark not defined Hình Phương pháp kiểm tra cửa sổ trượt Error! Bookmark not defined Hình Hai phương pháp chia tỉ lệ thông dụng tập liệu S&P500 Error! Bookmark not defined Hình Đồ thị lỗi trình huấn luyện kiểm tra mạng nơron Error! Bookmark not defined Hình 10 Giản đồ biểu diễn mặt phẳng lỗi mạng nơron Error! Bookmark not defined Hình 11 Mô hình Hệ thống dự báo số liệu Error! Bookmark not defined Hình 12 Mô hình Trích chọn liệu Error! Bookmark not defined Hình 13 Mô hình Làm sạch, chuẩn hóa liệuError! Bookmark not defined Hình 14 Xây dựng mô hình liệu Error! Bookmark not defined Hình 15 Mô hình Dự báo giá trị Error! Bookmark not defined Hình 16 Màn hình chương trình YALE Error! Bookmark not defined Hình 17 Mô hình xử lý toán tử Yale Error! Bookmark not defined Hình 18 Màn hình chương trình WEKA Error! Bookmark not defined Hình 19 Cấu trúc kho liệu SXKD VNPTError! Bookmark not defined Hình 20 Biểu đồ ngữ cảnh Hệ thống Dự báo số liệu Error! Bookmark not defined Hình 21 Sơ đồ quan hệ liệu Hệ thống Dự báo số liệuError! Bookmark not defined Hình 22 Biểu đồ luồng liệu cho chức xem số liệu Error! Bookmark not defined Hình 23 Biểu đồ luồng liệu cho chức xây dựng mô hình Error! Bookmark not defined Hình 24 Biểu đồ luồng liệu cho chức dự báo số liệuError! Bookmark not defined Hình 25 Biểu đồ luồng liệu cho chức Cập nhật tập huấn luyện Error! Bookmark not defined DANH SÁCH BẢNG BIỂU Bảng So sánh YALE WEKA Error! Bookmark not defined Bảng Kết dự báo tiêu m420 tháng từ số liệu tháng Error! Bookmark not defined Bảng Kết dự báo tiêu m420 tháng 10 từ số liệu tháng Error! Bookmark not defined Bảng Kết dự báo tiêu m420 tháng từ số liệu tháng Error! Bookmark not defined Bảng Kết dự báo tiêu m410 tháng từ số liệu tháng Error! Bookmark not defined Bảng Kết dự báo tiêu m410 tháng từ tháng 7Error! Bookmark not defined Bảng Kết dự báo tiêu m410 tháng 10 từ tháng 7Error! Bookmark not defined Bảng Kết dự báo tiêu m425 tháng từ tháng 7Error! Bookmark not defined Bảng Kết dự báo tiêu m425 tháng từ tháng 7Error! Bookmark not defined Bảng 10 Kết dự báo tiêu m425 tháng 10 từ tháng 7Error! Bookmark not defined Bảng 11 Kết dự báo tiêu m425 tháng 11 từ tháng 7Error! Bookmark not defined Bảng 12 Kết dự báo tiêu m425 tháng 12 từ tháng 7Error! Bookmark not defined Bảng 13 Độ xác trung bình theo chu kỳ Error! Bookmark not defined Bảng 14 Độ xác trung bình theo tiêuError! Bookmark not defined BẢNG THUẬT NGỮ Từ viết tắt ARIMA Tiếng Anh AutoRegressive Integrated Moving Average Tiếng Việt Tích hợp trung bình trượt tự hồi qui Cơ sở liệu CSDL DM Data mart Kho liệu chủ đề DW Data warehouse Kho liệu KDD Knowlegde Discovery in Databases Khám phá tri thức CSDL Khai phá liệu KPDL MLP Multilayer Perceptron Mạng nơron đa lớp SARIMA Seasonal AutoRegressive Integrated Moving Average Tích hợp trung bình trượt tự hồi qui theo mùa vụ VNPT Vietnam Posts and Telecomunications Coporation Tập đoàn Bưu Viễn thông Việt Nam TÀI LIỆU THAM KHẢO A - Sách tham khảo Tiếng Việt [1] Tạ Mạnh Cường (2006), Dự báo chuỗi liệu phụ thuộc thời gian theo mùa vụ mô hình Holt-Winters, Luận văn Ths, ĐH Công nghệ - ĐHQGHN [2] Nguyễn Khắc Minh (2002), Các phương pháp phân tích dự báo kinh tế NXB Khoa học kỹ thu, ật Hà Nội, [3] Trần Văn Thái (2005), Phát tri thức theo mùa từ sở liệu chuỗi thời gian, Luận văn Ths, ĐH Công nghệ - ĐHQGHN [4] Đỗ Văn Thành (2007), Giải pháp dự báo ngắn hạn tăng trưởng kinh tế Việt Nam Tiếng Anh [5] C.C.Klimasauskas (1993), Applying neural network, in R.R Trippi and E Turban, eds., Neural Network in Finance and Investing: Using Artificial Intelligence to Improve Real World Performance, Chicago [6] Christopher M Bishop (1995), Neural Networks for Pattern Recognition Clarendon Press, Oxford [7] Danielle Graupe (2007), Principles of Artificial Neural Networks World Scientific [8] David Hand, Heikki Mannila, Padhraic Smyth (2001) Principles of Data Mining The MIT Press [9] G.J.Deboeck, Ed (1994), Trading on the Edge: Neural, Genetic and Fuzzy Systems for Chaotic Financial Markets Wiley, NewYork [10] Icebeling Kaastra, Milton Boyd (1995), Designing a neural network for forcasting finacial and economic time series [11] J.O.Katz (April 1992), Developing neural network forcasters for trading, Technical Analysis of Stocks and Commodities [12] Jiawei Han and Michelle Kamber (2001), Data Mining: Concepts and Techniques Morgan Kaufmann [13] Joseph P.Bigus (1996), Data Mining Process with Neural Networks McGraw-Hill [14] Peter Cabena, Pablo Hadjinian, Rolf Stadler, Jaap Verhees, Alessandro Zanasi (1998), Discovering Data Mining, From Concept to Implementation Prentice Hall Ptr [15] T Masters (1993), Pratical Neural Networks Recipes in C++, Academic Press, NewYork B - Địa web [16] Tài liệu phần mềm http://www.cs.waikato.ac.nz/~ml/weka/ nguồn mở Weka: [17] Tài liệu phần mềm nguồn mở Yale: http://www-ai.cs.unidortmund.de/SOFTWARE/YALE/index.html [18] www.forecast.umkc.edu [...]... tự hồi qui theo mùa vụ VNPT Vietnam Posts and Telecomunications Coporation Tập đoàn Bưu chính Viễn thông Việt Nam TÀI LIỆU THAM KHẢO A - Sách tham khảo Tiếng Việt [1] Tạ Mạnh Cường (2006), Dự báo chuỗi dữ liệu phụ thuộc thời gian theo mùa vụ bằng mô hình Holt-Winters, Luận văn Ths, ĐH Công nghệ - ĐHQGHN [2] Nguyễn Khắc Minh (2002), Các phương pháp phân tích và dự báo trong kinh tế NXB Khoa học và kỹ. .. tiêuError! Bookmark not defined BẢNG THUẬT NGỮ Từ viết tắt ARIMA Tiếng Anh AutoRegressive Integrated Moving Average Tiếng Việt Tích hợp trung bình trượt tự hồi qui Cơ sở dữ liệu CSDL DM Data mart Kho dữ liệu chủ đề DW Data warehouse Kho dữ liệu KDD Knowlegde Discovery in Databases Khám phá tri thức trong CSDL Khai phá dữ liệu KPDL MLP Multilayer Perceptron Mạng nơron đa lớp SARIMA Seasonal AutoRegressive...Bảng 9 Kết quả dự báo chỉ tiêu m425 tháng 9 từ tháng 7Error! Bookmark not defined Bảng 10 Kết quả dự báo chỉ tiêu m425 tháng 10 từ tháng 7Error! Bookmark not defined Bảng 11 Kết quả dự báo chỉ tiêu m425 tháng 11 từ tháng 7Error! Bookmark not defined Bảng 12 Kết quả dự báo chỉ tiêu m425 tháng 12 từ tháng 7Error! Bookmark not defined Bảng 13 Độ... pháp phân tích và dự báo trong kinh tế NXB Khoa học và kỹ thu, ật Hà Nội, [3] Trần Văn Thái (2005), Phát hiện tri thức theo mùa từ cơ sở dữ liệu chuỗi thời gian, Luận văn Ths, ĐH Công nghệ - ĐHQGHN [4] Đỗ Văn Thành (2007), Giải pháp dự báo ngắn hạn về tăng trưởng kinh tế Việt Nam Tiếng Anh [5] C.C.Klimasauskas (1993), Applying neural network, in R.R Trippi and E Turban, eds., Neural Network in Finance... From Concept to Implementation Prentice Hall Ptr [15] T Masters (1993), Pratical Neural Networks Recipes in C++, Academic Press, NewYork B - Địa chỉ web [16] Tài liệu của phần mềm http://www.cs.waikato.ac.nz/~ml/weka/ nguồn mở Weka: [17] Tài liệu của phần mềm nguồn mở Yale: http://www-ai.cs.unidortmund.de/SOFTWARE/YALE/index.html [18] www.forecast.umkc.edu ... NGHỆ Hoàng Tuấn Ninh ÁP DỤNG CÁC KỸ THUẬT PHÂN LỚP DỮ LIỆU, HỒI QUY ĐỂ DỰ BÁO SỐ LIỆU SẢN XUẤT KINH DOANH CHO VNPT Ngành: Công nghệ thông tin Chuyên ngành: Hệ thống thông tin Mã số: 60 48 05 LUẬN... pháp dự báo số liệu Chương giới thiệu kiến thức tổng quan dự báo giới thiệu số phương pháp dự báo định lượng như: Hồi quy tuyến tính, Hồi quy phi tuyến, phương pháp chuỗi thời gian, phương pháp... pháp dự báo Error! Bookmark not defined 1.3 Dự báo định lượng phương pháp hồi quy Error! Bookmark not defined 1.3.1 .Hồi quy tuyến tính hồi quy bội Error! Bookmark not defined 1.1.2 Hồi quy