ỨNG DỤNG KỸ THUẬT HỌC MÁY TRONG XÂY DỰNG MÔ HÌNH DỰ BÁO TÀI CHÍNH

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC NGOẠI THƯƠNG LUẬN VĂN THẠC SĨ ỨNG DỤNG KỸ THUẬT HỌC MÁY TRONG XÂY DỰNG MƠ HÌNH DỰ BÁO TÀI CHÍNH Chuyên ngành: Tài – Ngân hàng NGUYỄN THÀNH TRUNG HÀ NỘI - 2020 BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC NGOẠI THƯƠNG LUẬN VĂN THẠC SĨ ỨNG DỤNG KỸ THUẬT HỌC MÁY TRONG XÂY DỰNG MƠ HÌNH DỰ BÁO TÀI CHÍNH Chun ngành: Tài – Ngân hàng Mã số: 8340201 Họ tên học viên: Nguyễn Thành Trung Người hướng dẫn: TS Vũ Thị Phương Mai HÀ NỘI - 2020 LỜI CAM ĐOAN Tôi đọc hiểu hành vi vi phạm trung thực học thuật Tôi cam kết danh dự cá nhân luận văn thực không vi phạm yêu cầu trung thực học thuật Hà Nội, ngày tháng năm 2020 Học viên Nguyễn Thành Trung LỜI CẢM ƠN Tôi xin gửi lời cảm ơn tới Quý thầy cô Khoa Sau đại học – Trường Đại học Ngoại Thương, đặc biệt xin chân thành cảm ơn TS Vũ Thị Phương Mai tận giúp đỡ hướng dẫn cho hoàn thành luận văn Hà Nội, ngày tháng năm 2020 Học viên Nguyễn Thành Trung MỤC LỤC LỜI CAM ĐOAN LỜI CẢM ƠN MỤC LỤC DANH MỤC TỪ VIẾT TẮT DANH MỤC BẢNG DANH MỤC HÌNH TĨM TẮT KẾT QUẢ NGHIÊN CỨU LỜI MỞ ĐẦU CHƯƠNG 1: GIỚI THIỆU VỀ HỌC MÁY VÀ CÁC MƠ HÌNH HỌC MÁY 1.1 KHÁI NIỆM 1.2 CÁC BÀI TOÁN CƠ BẢN TRONG HỌC MÁY 1.3 PHÂN NHĨM CÁC THUẬT TỐN HỌC MÁY 1.4 LỊCH SỬ CÁC SỰ KIỆN LIÊN QUAN TỚI HỌC MÁY 11 1.5 HÀM TỔN THẤT VÀ THAM SỐ MƠ HÌNH 13 1.6 MỘT SỐ THUẬT TỐN TỐI ƯU THƠNG DỤNG TRONG HỌC MÁY 13 1.7 THUẬT TOÁN K-NEAREST NEIGHBOR (KNN) 19 1.8 MƠ HÌNH HỒI QUY LOGISTIC 20 1.9 THUẬT TOÁN CÂY QUYẾT ĐỊNH (DECISION TREE) 24 1.10 THUẬT TOÁN RANDOM FOREST (RỪNG NGẪU NHIÊN) 29 1.11 THUẬT TOÁN SUPPORT VECTOR MACHINE (SVM) 31 1.12 MƠ HÌNH MẠNG NƠRON NHÂN TẠO (ARTIFICIAL NEURAL NETWORK- ANN) 41 1.13 PHÂN LOẠI ĐA LỚP TRONG HỌC MÁY – MƠ HÌNH SOFTMAX 49 1.14 GIỚI THIỆU VỀ PYTHON VÀ CÁC THƯ VIỆN HỖ TRỢ CÀI ĐẶT THUẬT TOÁN 52 CHƯƠNG 2: DỰ BÁO KHẢ NĂNG TRẢ NỢ CỦA KHÁCH HÀNG 54 2.1 GIỚI THIỆU BÀI TOÁN 54 2.2 DỮ LIỆU VÀ XỬ LÝ DỮ LIỆU 54 2.3 KẾT QUẢ 57 CHƯƠNG 3: DỰ BÁO CHO DỮ LIỆU CHUỖI THỜI GIAN 64 TRONG TÀI CHÍNH 64 3.1 TIẾP CẬN BÀI TOÁN: 64 3.2 DỮ LIỆU CỦA BÀI TOÁN 64 3.3 ĐO LƯỜNG TÍNH CHÍNH XÁC CỦA MƠ HÌNH DỰ BÁO 67 3.4 KẾT QUẢ CỦA BAI TOAN 68 3.5 NHẬN XÉT KẾT QUẢ 72 3.6 NHẬN XÉT VỀ MƠ HÌNH ANN 73 3.7 ĐÁNH GIÁ VIỆC XÂY DỰNG MƠ HÌNH DỰ BÁO TÀI CHÍNH BẰNG PHƯƠNG PHÁP HỌC MÁY 74 3.8 MỘT SỐ KHUYẾN NGHỊ CHÍNH SÁCH 75 KẾT LUẬN 77 TÀI LIỆU THAM KHẢO 78 PHỤ LỤC: KẾT QUẢ MỘT SỐ MƠ HÌNH CHƯƠNG 81 DANH MỤC TỪ VIẾT TẮT KNN: K Nearest Neighbors SVM: Support Vector Machine ANN: Artificial Neural Network KKT: Karush-Kuhn-Tucker SMO: Sequential Minimal Optimization NN: Neural Network DT: Decision Tree LR: Logistic Regression ARDL: Autoregressive Distributed Lag ARIMA: Autoregressive integrated moving average DANH MỤC BẢNG Bảng 2.1 Tổng hợp kết mơ hình Bảng 3.1: Kết sai số mơ hình Bảng 3.2 Kết so sánh mơ hình báo [13] DANH MỤC HÌNH Hình 0.1 Minh họa hàm lồi Hình 0.2 Minh họa hàm lõm Hình 0.3 Minh họa thuật tốn giảm gradient Hình 0.4 Minh họa thuật tốn Newton-Raphson Hình 0.5 Thuật tốn giảm gradient với hàm khơng lồi Hình 1.1 Ví dụ tốn Cây định Hình 1.2 Cơ chế lọc liệu Cây định Hình 1.3 Cơ chế tiên phân loại cho nút gốc Cây định Hình 1.4 Kết phân loại Cây định Hình 1.5 Ví dụ phân chia tuyến tính Hình 1.6 Ví dụ phân chia hai chiều Hình 1.7 Ví dụ phân chia ba chiều Hình 1.8 Các trường hợp phân chia liệu Hình 1.9 Minh họa tốn SVM lề cứng Hình 1.10 Minh họa liệu nhiễu tốn SVM Hình 1.11 Bài tốn SVM lề mềm Hình 1.12 Minh họa mạng nơ ron nhân tạo Hình 1.13 Minh họa đầu nốt mạng nơ ron Hình 1.14 Ví dụ mạng nơ ron ba lớp Hình 2.1 Mơ tả liệu khách hàng Hình 2.2 Thơng tin liệu xuất từ Python Hình 2.3 Điểm liệu sau thực chuẩn hóa theo cách Hình 2.4 Kết độ xác mơ hình theo cách Hình 2.5 Kết độ xác mơ hình theo cách Hình 2.6 Kết dự báo thơng tin thiếu trường ‘Saving accounts’ Hình 2.7 Kết dự báo thơng tin thiếu trường ‘Checking account’ Hình 2.8 Kết độ xác mơ hình theo cách Hình 2.9 So sánh kết mơ hình theo cách cách Hình 2.10 So sánh kết mơ hình theo cách cách Hình 3.0 Dữ liệu VN-Index từ 2010 đến 2019 Hình 3.1 Kết dự báo mơ hình Hình 3.2 Kết dự báo mơ hình Hình 3.3 Kết dự báo mơ hình Hình 3.4 Kết dự báo mơ hình Hình 3.5 Kết dự báo mơ hình Hình 3.6 Kết dự báo mơ hình TĨM TẮT KẾT QUẢ NGHIÊN CỨU Luận văn trình bày nét khái niệm học máy kỹ thuật thường sử dụng học máy Cụ thể luận văn thực phân loại toán học máy giới thiệu mơ hình học máy triển khai lĩnh vực tài như: K láng giềng gần (K nearest neighbor), Hồi quy logistic, Cây định (Decision Tree), Rừng ngẫu nhiên (Random Forest), Support Vector Machine, mạng Nơ-ron nhân tạo mơ hình Softmax Luận văn sâu vào phân tích cách thức mơ hình học hỏi tri thức từ liệu áp dụng cho vấn đề thực tiễn ... 2010 đến 2019 Hình 3.1 Kết dự báo mơ hình Hình 3.2 Kết dự báo mơ hình Hình 3.3 Kết dự báo mơ hình Hình 3.4 Kết dự báo mơ hình Hình 3.5 Kết dự báo mơ hình Hình 3.6 Kết dự báo mơ hình TÓM TẮT KẾT... phẩm, nguồn cung cấp tài Chính lý vậy, học viên định chọn tên đề tài ? ?Ứng dụng kỹ thuật học máy xây dựng mơ hình dự báo tài chính? ?? làm hướng nghiên cứu cho luận văn cao học Mục đích nhiệm vụ... ĐÀO TẠO TRƯỜNG ĐẠI HỌC NGOẠI THƯƠNG LUẬN VĂN THẠC SĨ ỨNG DỤNG KỸ THUẬT HỌC MÁY TRONG XÂY DỰNG MƠ HÌNH DỰ BÁO TÀI CHÍNH Chuyên ngành: Tài – Ngân hàng Mã số: 8340201 Họ tên học viên: Nguyễn Thành