Dự đoán cổ phiếu bằng phương pháp học sâu không giám sát generative adversarial network (GAN)

UBND TỈNH BÌNH DƢƠNG TRƢỜNG ĐẠI HỌC THỦ DẦU MỘT NGUYỄN MINH LỢI DỰ ĐOÁN GIÁ CỔ PHIẾU BẰNG PHƢƠNG PHÁP HỌC SÂU KHÔNG GIÁM SÁT GENERATIVE ADVERSARIAL NETWORK (GAN) CHUYÊN NGÀNH: HỆ THỐNG THÔNG TIN MÃ SỐ: 8480104 LUẬN VĂN THẠC BÌNH DƢƠNG - 2020 UBND TỈNH BÌNH DƢƠNG TRƢỜNG ĐẠI HỌC THỦ DẦU MỘT NGUYỄN MINH LỢI DỰ ĐỐN GIÁ CỔ PHIẾU BẰNG PHƢƠNG PHÁP HỌC SÂU KHƠNG GIÁM SÁT GENERATIVE ADVERSARIAL NETWORK (GAN) CHUYÊN NGÀNH: HỆ THỐNG THÔNG TIN MÃ SỐ: 8480104 LUẬN VĂN THẠC NGƢỜI HƢỚNG DẪN KHOA HỌC: TIẾN Ĩ BÙI THANH HÙNG BÌNH DƢƠNG – 2020 LỜI CAM ĐOAN Tôi xin cam đoan rằng, luận văn “Dự đoán giá cổ phiếu phƣơng pháp học không giám sát Generative Adversarial Network (GAN)” công trình nghiên cứu tơi dƣới hƣớng dẫn TS Bùi Thanh Hùng, xuất phát từ nhu cầu thực tiễn nguyện vọng tìm hiểu thân Ngoại trừ kết tham khảo từ cơng trình khác ghi rõ luận văn, nội dung trình bày luận văn kết nghiên cứu tơi thực kết luận văn chƣa công bố trƣớc dƣới hình thức Bình Dương, tháng ….năm 20… Tác giả Nguyễn Minh Lợi i LỜI CẢM ƠN Qua thời gian học tập rèn luyện trƣờng Đại học Thủ Dầu Một, đƣợc bảo giảng dạy nhiệt tình q thầy cơ, đặc biệt thầy trƣờng đại học thành phố Hồ Chí Minh không ngại đƣờng sá xa xôi để truyền đạt kiến thức cho suốt thời gian học trƣờng Cùng với nỗ lực thân, tơi hồn thành luận văn Từ kết đạt đƣợc này, xin chân thành cám ơn quý thầy cô trƣờng Đại học Thủ Dầu Một, truyền đạt cho tơi kiến thức bổ ích thời gian qua Đặc biệt, TS Bùi Thanh Hùng tận tình hƣớng dẫn giúp đỡ tơi hồn thành báo cáo luận văn thạc sỹ Do kiến thức cịn hạn hẹp nên khơng tránh khỏi thiếu sót cách diễn đạt trình bày Tơi mong nhận đƣợc đóng góp ý kiến quý thầy cô để báo cáo luận văn đạt đƣợc kết tốt Tơi xin kính chúc q thầy bạn thật nhiều sức khỏe, niềm vui, thành cơng cơng việc sống ii TĨM TẮT LUẬN VĂN Thị trƣờng cổ phiếu có vai trò quan trọng phát triển xã hội đại Chúng cho phép triển khai nguồn lực kinh tế Sự thay đổi giá cổ phiếu phản ánh thay đổi thị trƣờng Với khả xử lý liệu mạnh mẽ nhiều lĩnh vực, học sâu đƣợc sử dụng cách rộng rãi lĩnh vực tài nhƣ: dự đốn thị trƣờng cổ phiếu, đầu tƣ tối ƣu, xử lý thông tin tài thực chiến lƣợc giao dịch tài Do đó, dự đốn thị trƣờng cổ phiếu đƣợc xem lĩnh vực phổ biến quý giá lĩnh vực tài Trong nghiên cứu này, đề xuất phƣơng pháp học khơng giám sát Generative Adversarial Network (GAN) dự đốn giá cổ phiếu Mơ hình GAN gồm lớp, lớp nhớ ngắn dài chiều Bidirectional Long Short-Term Memory (Bi-LSTM) đƣợc dùng để phân biệt (Discriminator) lớp Long Short-Term Memory (LSTM) đƣợc sử dụng để dự đoán giá cổ phiếu (Generator) LSTM dựa liệu cổ phiếu giao dịch tạo liệu giả giống nhƣ liệu phân phối, lớp phân biệt đƣợc thiết kế giải thuật Bi-LSTM với mục đích phân biệt liệu cổ phiếu thật liệu cổ phiếu giả đƣợc tạo Chúng thực nghiệm cổ phiếu AMZN (Amazon) số cổ phiếu khác cổ phiếu có chuỗi ngày giao dịch phạm vi rộng lớn dùng chúng để thử dự đốn giá đóng hàng ngày Kết thực nghiệm cho thấy phƣơng pháp GAN đề xuất chúng tơi đạt đƣợc kết tốt việc dự đốn giá cổ phiếu so với nhiều mơ hình dự đốn khác iii Luận văn đề xuất xây dựng ứng dụng web để trực quan hóa kết nghiên cứu hỗ trợ ngƣời sử dụng dự đoán giá cổ phiếu thị trƣờng từ giao dịch cổ phiếu hoạt động thị trƣờng Kết thực nghiệm cho thấy mơ hình đề xuất đạt đƣợc kết tốt liệu đƣợc sử dụng để huấn luyện đánh giá tất độ đo: Độ xác (Accuracy) độ đo gồm lỗi bình quân tuyệt đối (MAE), lỗi hình vng gốc trung bình (RMSE), phần trăm bình quân tuyệt đối (MAPE) lợi nhuận trung bình (AR) iv MỤC LỤC LỜI CAM ĐOAN i LỜI CẢM ƠN ii TÓM TẮT LUẬN VĂN iii MỤC LỤC v DANH MỤC THUẬT NGỮ VÀ CÁC TỪ VIẾT TẮT viii DANH MỤC CÁC BẢNG ix DANH MỤC HÌNH VẼ, ĐỒ THỊ x CHƢƠNG LỜI MỞ ĐẦU 1.1 Lý chọn đề tài 1.3 Đối tƣợng, phạm vi nghiên cứu 1.4 Phƣơng pháp nghiên cứu 1.5 Ý nghĩa khoa học thực tiễn 1.6 Bố cục luận văn CHƢƠNG CƠ SỞ LÝ THUYẾT VÀ CÁC NGHIÊN CỨU LIÊN QUAN 2.1 Những vấn đề chứng khoán [22] 2.1.1 Khái niệm chứng khoán 2.1.2 Phân loại chứng khoán 2.2 Tổng quan thị trƣờng chứng khoán[24] 2.2.1 Khái niệm thị trƣờng chứng khoán 2.2.2 Vai trò thị trƣờng chứng khoán: 10 2.2.3 Phân loại thị trƣờng chứng khoán[23] 12 2.3 Học máy (Machine learning) Thị trƣờng chứng khoán: 14 v 2.4 Học sâu - Deep learning 17 2.4.1 Mạng nơ-ron hồi quy RNN (Recurrent Neural Network) 19 2.4.2 Mạng nơ-ron ngắn dài LSTM (Long-short term memory) 22 2.4.3 Mạng nơ-ron tái phát hai chiều BiLSTM (Bidirectional Long-short term memory) 25 2.4.4 Mạng sáng tạo đối nghịch GAN 28 2.5 Dự đoán giá cổ phiếu 32 2.5.1 Tổng quan 32 2.5.2 Các hƣớng tiếp cận 32 2.5.3 Hƣớng đề xuất nghiên cứu 34 CHƢƠNG 35 MÔ HÌNH ĐỀ XUẤT 35 3.1 Tổng quan mơ hình đề xuất 35 3.2 Các đặc trƣng mơ hình đề xuất 36 3.2.1 Lớp tạo - The Generator 36 3.2.2 Lớp phân biệt - The Discriminator 39 3.2.3 Cấu trúc GAN 40 3.2.4 Phƣơng pháp đánh giá 41 CHƢƠNG 43 THỰC NGHIỆM 43 4.1 Dữ liệu 43 4.2 Xử lý liệu 46 4.3 Huấn luyện 47 4.4 Đánh giá 51 4.5 Xây dựng ứng dụng trực quan hóa kết 52 vi CHƢƠNG 57 KẾT LUẬN VÀ HƢỚNG PHÁT TRIỂN 57 5.1 Kết đạt đƣợc 57 5.2 Hƣớng phát triển 58 CƠNG TRÌNH CƠNG BỐ 59 TÀI LIỆU THAM KHẢO 60 vii DANH MỤC THUẬT NGỮ VÀ CÁC TỪ VIẾT TẮT Từ viết tắt Từ đầy đủ ANN Mạng nơ-ron nhân tạo (Artificial Neural Network) TTCK Thị trƣờng chứng khoán CNN Mạng nơ-ron tích chập (Convolutional Neural Network) TTGDCK Trung tâm giao dịch chứng khốn CTNY Cơng ty niêm yết SGDCK Sàn giao dịch chứng khoáng LSTM Mạng nơ-ron dài ngắn BiLSTM Mạng nơ-ron dài ngắn chiều (Bidirectional LSTM) FC Fully-connected MLP Multilayer Perceptron NLP Natural Language Processing PL Pooling Layer ReLU Rectified Linear Unit RNN Mạng nơ-ron hồi quy (Recurrent Neural Network) GAN Mạng sáng tạo đối nghịch (Generative Adversarial Network) viii Hình 7: Mơ hình huấn luyện GAN (LSTM-BiLSTM) 55 Hình 8: Đánh giá mơ hình 56 CHƢƠNG KẾT LUẬN VÀ HƢỚNG PHÁT TRIỂN 5.1 Kết đạt đƣợc Trong nghiên cứu này, luận văn thực nghiệm mơ hình học máy học sâu Kết cho thấy mơ hình GAN lớp LSTMBiLSTM cho kết tốt liệu Kết mơ hình mơ hình học khơng giám sát GAN đƣợc phân tích, đánh giá phƣơng pháp khác làm bật tính ƣu việt mơ hình đề xuất Các phần kết quả, thống kê liệu giao diện tƣơng tác với ngƣời dùng đƣợc xây dựng tốt Nhìn chung, luận văn giải phần đƣợc toán dự đoán giá cổ phiếu với hƣớng tiếp cận học sâu không giám sát GAN Tuy nhiên, luận văn cịn gặp số khó khăn cần giải thời gian tới nhƣ: Trƣớc hết mặt liệu Do liệu đƣợc lấy từ nguồn liệu từ cơng ty tài Alphavantage, phần thu nhập liệu quản lý đƣợc chƣa phong phú Dữ liệu chứa cổ phiếu bị lỗi load về, hạn chế chuỗi thời gian liên tục liệu Điều dẫn tới thiếu đa dạng liệu khó lấy kết xác Các cách xử lý lập trình tập trung vào sử dụng đặc trƣng có dựa tiêu chí RMSE, AR, MAE, MAPE, chƣa khai thác đặc trƣng khác chƣa đánh giá toàn diện phƣơng pháp thử nghiệm 57 5.2 Hƣớng phát triển Trong nghiên cứu đề xuất phƣơng pháp học khơng giám sát GAN để dự đốn giá cổ phiếu Chúng tiến hành thực nghiệm liệu thực đánh giá kết với phƣơng pháp khác Kết cho thấy phƣơng pháp GAN đề xuất đạt kết tốt Tơi thử nghiệm mơ hình học sâu khác để từ so sánh, đánh giá, tìm mơ hình tối ƣu cho tốn dự báo giá cổ phiếu Một hƣớng tƣơng lai hứa hẹn áp dụng phƣơng pháp học sâu cho việc tiếp tục tìm hiểu cách trích xuất đặc trƣng quan trọng tối ƣu mơ hình chúng tơi để học liệu phân phối cách xác hơn, từ chúng tơi đạt kết dự đốn tốt phƣơng pháp đề xuất Đồng thời, với tốc độ mạng internet phát triển ngày nhanh, ln cập nhật mơ hình, xử lý liệu theo thời gian thực giúp cho dự đoán giá cổ phiếu xác tƣơng lai, 58 CƠNG TRÌNH CƠNG BỐ Bùi Thanh Hùng, Nguyễn Minh Lợi “Dự đoán giá cổ phiếu phƣơng pháp học sâu không giám sát Generative Adversarial Network GAN” Hội nghị nghiên cứu khoa học Quốc gia nghiên cứu ứng dụng Công nghệ thông tin (FAIR – Nha Trang năm 2020) 59 TÀI LIỆU THAM KHẢO [1] Li, B., Hoi, S.C.H., 2012 On-line portfolio selection with moving average reversion, in: Proceedings of the 29th International Conference on Machine Learning, ICML 2012, Edinburgh, Scotland, UK, June 26 July 1, 2012 [2] Box, G.E.P., Jenkins, G.M., 1976 Time series analysis: Forecasting and control Journal of Time 31, 238– 242 [3] Pai, P.F., Lin, C.S., 2005 A hybrid arima and support vector machines model in stock price forecasting Omega 33, 497–505 [4] Huang, S., Wang, H., 2006 Combining time-scale feature extractions with svms for stock index forecasting, in: Neural Information Processing, 13th International Conference, ICONIP 2006, Hong Kong, China, October 3-6, 2006, Proceedings, Part III, pp 390–399 [5] Areekul, P., Senjyu, T., Toyama, H., Yona, A., 2010 A hybrid arima and neural network model for short-term price forecasting in deregulated market IEEE Transactions on Power Systems Pwrs [6] Chandar, S.K., Sumathi, M., Sivanandam, S.N., 2016 Prediction of stock market price using hybrid of wavelet transform and artificial neural network Indian Journal of Science & Technology [7] Tsantekidis, A., Passalis, N., Tefas, A., Kanniainen, J., Gabbouj, M., Iosifidis, A., 2017 Forecasting stock prices from the limit order book using convolutional neural networks, in: 19th IEEE Conference on Business Informatics, CBI 2017, Thessaloniki, Greece, July 24-27, 2017, Volume 1: Conference Papers, pp 7–12 [8] Rather, A.M., Agarwal, A., Sastry, V.N., 2015 Recurrent neural network and a hybrid model for prediction of stock returns Expert Syst Appl 42, 3234–3241 60 [9] Saad, E.W., Prokhorov, D.V., II, D.C.W., 1998 Comparative study of stock trend prediction using time delay, recurrent and probabilistic neural networks IEEE Trans Neural Networks 9, 1456– 1470 [10] Ding, X., Zhang, Y., Liu, T., Duan, J., 2015 Deep learning for event-driven stock prediction, in: Proceedings of the Twenty-Fourth International Joint Conference on Artificial Intelligence, IJCAI 2015, Buenos Aires, Argentina, July 25-31, 2015, pp 2327–2333 [11] Nevmyvaka, Y., Feng, Y., Kearns, M.J., 2006 Reinforcement learning for optimized trade execution, in: Machine Learning, Proceedings of the Twenty-Third International Conference (ICML 2006), Pittsburgh, Pennsylvania, USA, June 25-29, 2006, pp 673–680 [12] Goodfellow, I.J., Pouget-Abadie, J., Mirza, M., Xu, B., Warde- Farley, D., Ozair, S., Courville, A.C., Bengio, Y., 2014 Generative adversarial nets, in: Advances in Neural Information Processing Systems: Annual Conference on Neural Information Processing Systems 2014, December 8-13 2014, Montreal, Quebec, Canada, pp 2672–2680 [13] S Hochreiter and J Schmidhuber, Long Short-Term Memory, Neural Computation, vol 9, pp 1735–1780, 1997 [14] Zhiheng Huang, Wei Xu, and Kai Yu Bidirectional LSTM-CRF models for sequence tagging arXiv preprint arXiv:1508.01991 2015 [14] S Hochreiter, “The Vanishing Gradient Problem During Learning Recurrent Neural Nets and Problem Solutions", 1997, World Scientific [15] S Hochreiter, J Schmidhuber, ”Long short-term memory”, 1997 [16] Denny Britz, “Recurrent Neural Networks Tutorial”, 2015 [17] Kang Zhang, Guoqiang Zhong, Junyu Dong, Shengke Wang, Yong Wang, “Stock Market Prediction Based on Generative Adversarial Network”, 2018 61 [18] Xingyu Zhou, Zhisong Pan, Guyu Hu, Siqi Tang, Cheng Zhao, “Stock Market Prediction on High-Frequency Data Using Generative Adversarial Nets”, 2018 [19] Dƣơng Ngọc Mai Phƣơng, Vũ Thị Phƣơng Anh, Đỗ Thị Trúc Đào & Nguyễn Hữu Tuấn, “Tác động sách tiền tệ đến thị trƣờng chứng khốn: Bằng chứng Việt Nam”, năm 2015 [20] Đinh Bảo Ngọc, Nguyễn Chí Cƣờng, “Các nhân tố ảnh hƣởng đến sách cổ tức doanh nghiệp niêm yết thị trƣờng chứng khoán Việt Nam”, năm 2014 [21] Đỗ Văn Thành, Nguyễn Minh Hải, “Phân tích dự báo số thị trƣờng chứng khoán sử dụng số báo trƣớc“, năm 2016 [22] Https://text.123doc.net/document/230610-nhung-van-de-co-ban- cua-thi-truong-chung-khoan.htm [23] Https://www.apsi.vn/kien-thuc-can-ban-ve-chung-khoan-va-thi- truong-chung-khoan.html [24] Https://dautucophieu.net/tong-quan-ve-ttck-viet-nam-15-nam- hinh-thanh-va-phat-trien/ [25] Thân Quang Khoát, “Học Máy (Machine Learning)”, năm 2016 [26] Http://vnba.org.vn/index.php?option=com_k2&view=item&id=10 720:vietinbank-voi-ung-dung-machine-learning-trong-hoat-dong-nganhang&Itemid=272&lang=en&cid=117:fin-tech-block-chain [27] Https://machinelearningcoban.com/2018/06/22/deeplearning 62 63 64 65 66 67 68 69 ... pháp học không giám sát GAN dự đốn giá cổ phiếu sử dụng lớp LSTM dùng để dự đoán CNN dùng để phân biệt liệu cổ phiếu dự đoán cổ phiếu thật [18] Hay hƣớng kết hợp phƣơng pháp dự đốn học khơng giám. .. thành phƣơng pháp tiếp cận có tiềm đáng kể lĩnh vực trí tuệ nhân tạo Học sâu nhƣ Học máy chia thành nhóm chính: - Học sâu khơng giám sát - Học sâu có giám sát - Học sâu bán giám sát - Học sâu tăng...UBND TỈNH BÌNH DƢƠNG TRƢỜNG ĐẠI HỌC THỦ DẦU MỘT NGUYỄN MINH LỢI DỰ ĐOÁN GIÁ CỔ PHIẾU BẰNG PHƢƠNG PHÁP HỌC SÂU KHÔNG GIÁM SÁT GENERATIVE ADVERSARIAL NETWORK (GAN) CHUYÊN NGÀNH: HỆ THỐNG THÔNG