Mô hình học sâu dự đoán xu hướng giá forex

TRƯỜNG ĐẠI HỌC SƯ PHẠM TPHCM KHOA CÔNG NGHỆ THÔNG TIN TRẦN GIA PHÁT LÂM HỒNG KHÁNH MƠ HÌNH HỌC SÂU DỰ ĐỐN XU HƯỚNG GIÁ FOREX KHĨA LUẬN TỐT NGHIỆP TP HỒ CHÍ MINH - NĂM 2022 TRƯỜNG ĐẠI HỌC SƯ PHẠM TPHCM KHOA CÔNG NGHỆ THÔNG TIN TRẦN GIA PHÁT LÂM HỒNG KHÁNH MƠ HÌNH HỌC SÂU DỰ ĐOÁN XU HƯỚNG GIÁ FOREX CHUYÊN NGÀNH: KHOA HỌC MÁY TÍNH KHĨA LUẬN TỐT NGHIỆP NGƯỜI HƯỚNG DẪN KHOA HỌC: TS KIỀU MY TS NGUYỄN KHẮC VĂN LỜI CẢM ƠN Đầu tiên, chúng tơi bày tỏ lịng biết ơn sâu sắc đến TS.Kiều My TS.Nguyễn Khắc Văn hướng dẫn tận tình, động viên khích lệ dành nhiều thời gian quý báu để định hướng cho chúng tơi suốt q trình nghiên cứu Được đồng hành hai Thầy niềm vinh hạnh, tự hào chúng tơi, suốt q trình làm việc chúng tơi học hỏi, tích lũy nhiều kiến thức, kinh nghiệm câu chuyện sống học tập mà hai Thầy truyền đạt Và ln hành trang theo suốt quảng đường nghiệp Chúng xin chân thành cảm ơn, tri ân quý Thầy, Cô khoa Công nghệ Thông tin trường Đại học Sư phạm TP.HCM nói chung tận tình truyền đạt kiến thức năm chúng học tập trường Được tham gia học tập, tích lũy kiến thức Khoa Công nghệ Thông tin trường Đại học Sư Phạm TPHCM trải nghiệm tuyệt vời vinh dự Cuối cùng, xin dành lời cảm ơn đến gia đình, bạn bè, nhóm AIPartner, nhóm UTD, người bên cạnh ủng hộ để chúng tơi có thêm động lực để hồn thành khóa luận tốt nghiệp Mặc dù cố gắng với tâm nổ lực lớn để hoàn thành luận văn q trình làm việc khơng tránh khỏi thiếu sót Chúng tơi mong nhận góp ý đánh giá q Thầy, Cơ bạn Xin chân thành cảm ơn! Tp Hồ Chí Minh, ngày 04 tháng 04 năm 2022 Mục lục LỜI CẢM ƠN MỤC LỤC DANH MỤC KÝ HIỆU VÀ CHỮ VIẾT TẮT DANH MỤC BẢNG BIỂU DANH MỤC HÌNH VẼ 11 TĨM TẮT 12 MỞ ĐẦU 13 CHƯƠNG 1.1 1.2 TỔNG QUAN VÀ TÌNH HÌNH NGHIÊN CỨU 18 Tổng quan thị trường Forex 18 1.1.1 Giới thiệu 18 1.1.2 Các thông tin tổng quát 18 1.1.3 Một số thuật ngữ thường dùng Forex 19 Tình hình nghiên cứu 24 1.2.1 24 Phân tích kỹ thuật (Technical Analysis) 1.2.2 Phân tích (Fundamental Analysis) 25 1.2.3 Những thách thức việc nghiên cứu phát triển mơ hình 27 1.2.4 Các hướng tiếp cận phát triển 29 CHƯƠNG 2.1 CƠ SỞ LÝ THUYẾT 33 Các báo thị trường Forex 33 2.1.1 Giới thiệu 33 2.1.2 Nhóm báo 1: Trend-Following Indicators (Các báo theo dõi xu hướng) 2.1.3 Nhóm báo 2: Trend-Confirmation Indicators (Các báo xác nhận xu hướng) 2.1.4 2.2 2.3 34 Nhóm báo 3: Overbought/Oversold Indicators (Các báo mua, bán) 2.1.5 33 35 Nhóm báo 4: Profit-Taking Indicators (Các báo chốt lợi nhuận) 36 Phép khử nhiễu Wavelets Denoising 37 2.2.1 Giới thiệu 37 2.2.2 Phân tích Wavelets 38 2.2.3 Tín hiệu tĩnh tín hiệu khơng tĩnh 39 Mơ hình ARIMA 40 2.3.1 Giới thiệu 40 2.3.2 Mơ hình tự hồi qui (Auto regression - AR) 41 2.3.3 Tích hợp (Integrated - I) 41 2.3.4 Mơ hình trung bình động (Moving average - MA) 41 2.4 2.5 Các kiến trúc Recurrent Neural Networks 42 2.4.1 Giới thiệu 42 2.4.2 Giới thiệu mạng Recurrent Neural Networks 47 2.4.3 Giới thiệu mạng Long Short-Term Memory 48 2.4.4 Giới thiệu mạng Gated Recurrent Unit 53 Cơ chế Attention 55 2.5.1 Giới thiệu 55 2.5.2 Bahdanau Attention 56 2.5.3 Luong-style Attention 57 CHƯƠNG 3.1 3.2 3.3 PHƯƠNG PHÁP XÂY DỰNG MƠ HÌNH 59 Hướng tiếp cận đề xuất 59 3.1.1 Giới thiệu 59 3.1.2 Mơ hình đề xuất 60 3.1.3 Các phương pháp đánh giá 61 Xây dựng liệu cho mơ hình 63 3.2.1 Giới thiệu 63 3.2.2 Các loại liệu cách thu thập, tổ chức liệu 63 3.2.3 Kết hợp liệu 65 3.2.4 Chuẩn hóa liệu 66 Phương pháp tiền xử lý liệu Forex 68 3.3.1 Giới thiệu 68 3.3.2 Chuyển đổi khung thời gian 68 3.3.3 TA-Lib (Technical Analysis Library): Thư viện mã nguồn mở trích xuất báo kỹ thuật 3.3.4 3.4 Phương pháp xử lý liệu thị trường phép khử nhiễu Wavelets 70 Phương pháp tiền xử lý liệu Sự kiện kinh tế 71 3.4.1 Giới thiệu 71 3.4.2 Các thông tin Sự kiện kinh tế 72 3.4.3 Phương pháp tiền xử lý liệu Sự kiện kinh tế 73 CHƯƠNG 4.1 69 THỰC NGHIỆM VÀ ĐÁNH GIÁ 76 Môi trường thực nghiệm 76 4.1.1 Thiết bị 76 4.1.2 Môi trường lập trình 77 4.2 Tham số huấn luyện mơ hình 77 4.3 Kết thực nghiệm 77 4.3.1 Phương pháp đánh giá 78 4.3.2 Đánh giá mơ hình khung thời gian M15 78 4.3.3 Đánh giá mơ hình khung thời gian H1 80 4.3.4 Nhận xét chung kết đánh giá mơ hình 82 Triển khai mơ hình chạy thực tế 83 4.4.1 Thu thập liệu Real-time 83 4.4.2 Windows Task Scheduler 84 4.4.3 Google API 84 4.4.4 Trực quan hóa liệu thư viện Plotly 85 4.4 cịn lại • Mơ hình LSTM (L): Ở mơ hình baseline này, liệu đầu vào khơng khử nhiễu Wavelets mà đưa trực tiếp vào lớp LSTM, sau truyền đến Fully Connected để đưa dự đốn • Mơ hình Wavelets Denoising LSTM (WL): Ở mơ hình này, liệu thị trường khử nhiễu Wavelet, sau kết hợp với liệu thị trường gốc, liệu kiện kinh tế báo Xử lý qua lớp LSTM, sau đó, truyền vào Attention, kết dự đoán đưa sau qua Fully Connected • Mơ hình Wavelets Denoising Attention LSTM (WAL): Đây mơ hình đề xuất Mơ hình có liệu đầu vào giống mơ hình WL bên Được xử lý qua lớp LSTM, sau đó, truyền vào Attention, kết dự đoán đưa sau qua Fully Connected 4.3.1 Phương pháp đánh giá Đối với mơ hình thử nghiệm, chúng tơi thực đánh giá so sánh kết chúng theo quy trình sau: Chuẩn bị liệu khung thời gian M15, H1 cho liệu EUR/USD GBP/USD Chia tập liệu gồm 58 tháng cho tập huấn luyện, tháng cho tập kiểm định tháng gần cho tập đánh giá Lần lượt đánh giá mô hình thử nghiệm EUR/USD GBP/USD tập đánh giá 4.3.2 Đánh giá mơ hình khung thời gian M15 Ở khung thời gian này, thực quy trình đánh giá vừa nêu nhìn chung mơ hình dự đốn cho kết gần với thực tế Bảng 4.7 Bảng 4.8 kết mơ hình thử nghiệm liệu M15 cặp tiền tệ EUR/USD GBP/USD 78 Bảng 4.7 – Kết huấn luyện mơ hình cặp giá EUR/USD (M15) ``` Mô ``` ``` Tham số đánh giá ``` ``` ``` ``` hình thực nghiệm `` ` LSTM (Mơ hình Baseline) Wavelets LSTM (WL) M15-EUR/USD MSE (Mơ hình đề xuất) MAE Accuracy High 1.939E-07 4.40E-04 3.94E-04 64.79% Low 2.20E-07 4.69E-04 3.66E-04 66.98% Close 3.11E-07 5.58E-04 4.45E-04 61.54% High 7.99E-08 2.82E-04 1.62E-04 75.77% Low 8.47E-08 2.91E-04 1.65E-04 76.17% 3.14E-04 1.91E-04 76.02% Close 9.64E-08 Wavelets Attention LSTM (WAL) RMSE High 6.88E-08 2.62E-04 1.48E-04 77.59% Low 7.05E-08 2.65E-04 1.55E-04 77.02% Close 1.41E-07 3.76E-04 1.85E-04 76.89% Bảng 4.8 – Kết huấn luyện mơ hình cặp giá GBP/USD (M15) ``` Mơ ``` ``` Tham số đánh giá ``` ``` ``` ``` hình thực nghiệm `` ` LSTM (Mơ hình Baseline) Wavelets LSTM (WL) M15-GBP/USD MSE RMSE MAE Accuracy High 2.23E-07 4.71E-04 3.14E-04 65.43% Low 2.35E-07 4.85E-04 3.27E-04 65.80% Close 4.87E-07 6.98E-04 4.83E-04 60.42% High 6.68E-08 2.58E-04 1.81E-04 76.17% Low 6.78E-08 2.60E-04 1.82E-04 75.96% Close 8.63E-08 2.93E-04 2.10E-04 Wavelets Attention LSTM (WAL) (Mô hình đề xuất) 76.02% High 5.11E-08 2.26E-04 1.57E-04 78.93% Low 7.14E-08 2.67E-04 1.86E-04 Close 9.62E-08 3.10E-04 1.96E-04 77.03% 73.40% Dựa kết thực nghiệm liệu M15, nhìn chung liệu, mơ 79 hình Wavelets Attention LSTM cho loại giá ln đạt kết khả quan phương pháp đánh giá MSE, RMSE, MAE Với điểm RMSE cho đầu là: • Giá cao (High price): Kết tốt liệu EUR/USD GBP/USD là: 2.62E − 04 2.26E − 04 • Giá thấp (Low price): Kết tốt liệu EUR/USD GBP/USD là: 2.65E − 04 2.60E − 04 • Giá đóng cửa (Close price): Kết tốt liệu EUR/USD GBP/USD là: 3.76E − 04 2.93E − 04 4.3.3 Đánh giá mơ hình khung thời gian H1 Chúng tiếp tục thực quy trình đánh giá lên tập kiểm thử cho liệu khung thời gian H1 Bảng 4.10 bảng 4.9 cho thấy kết mơ hình thử nghiệm liệu H1 cặp tiền EUR/USD GBP/USD Bảng 4.9 – Kết huấn luyện mơ hình cặp giá GBP/USD (H1) ``` Mô ``` ``` Tham số đánh giá ``` ``` ``` ``` hình thực nghiệm `` ` LSTM (Mơ hình Baseline) Wavelets LSTM (WL) Wavelets Attention LSTM (WAL) (Mơ hình đề xuất) H1-GBP/USD MSE RMSE MAE Accuracy High 1.05E-06 1.02E-03 7.86E-04 63.77% Low 1.00E-06 1.00E-03 6.97E-04 65.48% Close 2.06E-06 1.43E-03 1.01E-03 51.86% High 3.27E-07 5.72E-04 4.10E-04 73.44% Low 4.67E-07 6.83E-04 4.84E-04 73.81% Close 4.57E-07 6.76E-04 5.06E-04 73.07% High 3.04E-07 5.51E-04 3.92E-04 72.86% Low 3.77E-07 6.14E-04 4.38E-04 75.64% Close 4.52E-07 6.72E-04 5.04E-04 74.30% 80 Bảng 4.10 – Kết huấn luyện mơ hình cặp giá EUR/USD (H1) ``` Mô ``` ``` Tham số đánh giá ``` ``` ``` ``` hình thực nghiệm `` ` LSTM (Mơ hình Baseline) Wavelets LSTM (WL) Wavelets Attention LSTM (WAL) (Mơ hình đề xuất) H1-EUR/USD MSE RMSE MAE Accuracy High 7.84E-07 8.88E-04 5.50E-04 65.58% Low 7.30E-07 8.58E-04 5.36E-04 64.51% Close 1.47E-06 1.23E-03 8.28E-04 53.84% High 3.45E-07 5.87E-04 4.03E-04 72.38% Low 2.85E-07 5.36E-04 3.50E-04 74.04% Close 3.54E-07 6.00E-04 4.50E-04 70.82% High 2.73E-07 5.22E-04 3.51E-04 74.57% Low 2.77E-07 5.26E-04 3.47E-04 75.70% Close 2.41E-07 4.90E-04 3.45E-04 76.66% Dựa kết thực nghiệm liệu H1 thấy mơ hình Wavelets Attention LSTM cho loại giá (High, Low, Close) đạt kết khả quan phương pháp đánh giá MSE, RMSE, MAE với điểm RMSE cho đầu là: • Giá cao (High price): Mơ hình Wavelets Attention LSTM dự đốn kết đầu liệu EUR/USD GBP/USD là: 5.22E − 04 5.51E − 04 • Giá thấp (Low price): Mơ hình Wavelets Attention LSTM dự đoán kết đầu liệu EUR/USD GBP/USD là: 5.26E − 04 6.14E − 04 • Giá đóng cửa (Close price): Mơ hình Wavelets Attention LSTM dự đốn kết đầu liệu EUR/USD GBP/USD là: 4.90E − 04 6.72E − 04 81 4.3.4 Nhận xét chung kết đánh giá mô hình Chúng tơi sử dụng mơ hình, kể đến LSTM chúng tơi sử dụng mơ hình baseline để so sánh kết với mơ hình Wavelets LSTM Wavelets Attention LSTM Q trình thực nghiệm chúng tơi cho thấy kết mơ hình có sử dụng chế Attention kết hợp với liệu khử nhiễu Wavelets đặc trưng có từ kiện kinh tế mà đề xuất đạt kết tốt nhiều so với mơ hình baseline Khi liệu đầu vào khử nhiễu thông qua Wavelets mơ hình LSTM cho kết với sai số khả quan hơn, sai số nhỏ đặc trưng tính tốn thơng qua chế Attention (Xem 2.5) Và dễ nhận thấy mơ hình dự đốn tốt khung thời gian nhỏ, sai số lớn áp dụng mơ hình cho khung thời gian lớn Hình 4.30 – So sánh kết mơ hình thử nghiệm với đầu giá Close tập kiểm thử EUR/USD - H1 82 Hình 4.31 – So sánh kết mơ hình thử nghiệm với đầu giá Close tập kiểm thử GBP/USD - H1 Dựa vào Hình 4.30 Hình 4.31, ta thấy mơ hình đề xuất dự đốn giá với sai số khả quan, nhiên với biến động nhỏ thời mơ hình chưa bắt nhịp kịp nhìn chung với xu hướng, mơ hình hồn tồn có khả dự đốn 4.4 Triển khai mơ hình chạy thực tế Để chứng minh tính thực tế khả ứng dụng tương lai, tiến hạnh triển khai cho mơ hình chạy realtime 4.4.1 Thu thập liệu Real-time Dữ liệu tỷ giá thị trường Forex Chúng sử dụng API sàn giao dịch Forex website Tradingview (Xem trang) để lấy tỷ giá cặp tiền tệ EUR/USD sau liệu chuyển đổi khung thời gian 83 Dữ liệu kiện kinh tế Do trang web Forex Factory (Xem trang) trình phát triển API (dự kiến hồn thành năm 2023) nên chúng tơi phải sử dụng thư viện mã nguồn mở Python Selenium để thu thập liệu kiện kinh tế trang 4.4.2 Windows Task Scheduler Vì việc dự đốn, cung cấp giá trị tỷ giá diễn liên tục, đặn cho nhà giao dịch tham khảo khơng thể hồn thành thủ cơng, nên q trình nghiên cứu đề tài, nhận thấy hệ điều hành sử dụng Windows có ứng dụng miễn phí có tên Task Scheduler hồn tồn phù hợp cho việc tự động hóa quy trình hệ thống chúng tơi Ứng dụng hỗ trợ máy tính thực cơng việc định theo thời gian lặp lại theo chu kỳ định sẵn Tất quy trình hệ thống từ trình thu thập, xử lý liệu q trình mơ hình hóa, trực quan hóa liệu thực tự động thông qua ứng dụng 4.4.3 Google API Chúng sử dụng Google Sheet API để đưa kết dự đoán trực tuyến, bước đầu thuận lợi cho việc chia sẻ xu hướng giá dự đoán cho người dùng mà hướng tới Google Sheet API hỗ trợ việc viết liệu lên thêm hàng nhanh chóng đảm bảo xác 84 Hình 4.32 – Google sheet kết chạy thực tế khung thời gian M5 4.4.4 Trực quan hóa liệu thư viện Plotly Nhằm giúp người dùng có nhìn rõ ràng khơng dừng lại số, giá trị tỷ giá nhàm chán Google Sheet, sử dụng thư viện Plotly Python để trực quan hóa liệu kết hợp với mơi trường Github Pages để dễ dàng tiếp cận người dùng trì biểu đồ trực tuyến Hình 4.33 – Website trực quan hóa liệu thơng qua mơi trường Github Page 85 CHƯƠNG KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN 5.1 Kết luận Trong khuôn khổ luận văn này, chúng tơi trình bày đầy đủ rõ ràng tốn "Mơ hình học sâu dự đốn xu hướng giá Forex" việc giới thiệu tổng quan, tập liệu tiêu chuẩn, tình hình nghiên cứu phương pháp học thuật sử dụng Về mặt phương pháp, đề xuất hướng tiếp cận để dự đoán xu hướng giá Forex mơ hình học sâu Long Short-term Memory (LSTM) sử dụng liệu kết hợp từ phân tích kỹ thuật khử nhiễu Wavelets, trích xuất báo kỹ thuật phân tích việc xử lý liệu kiện kinh tế Về mặt kết đánh giá, mơ hình đạt cho thấy việc dự đốn xu hướng giá mơ hình học sâu đặc biệt mơ hình Wavelets Attention LSTM chứng minh hướng phát triển đề xuất hoàn toàn khả thi cho kết khả quan, vượt trội so với mơ hình baseline Tuy nhiên, chúng tơi đề cập thị trường Forex thị trường vơ phức tạp có đặc điểm có tính biến động cao, chịu ảnh hưởng kinh tế, trị, xã hội quốc gia tỷ lệ lạm phát, lãi suất, GDP, kiện kinh tế Chúng tơi bước đầu số hóa, đề xuất phương pháp xử lý liệu kiện kinh tế, tương lai chúng tơi cố gắng tìm kiếm, thu thập thêm liệu mang yếu tố ảnh hưởng mạnh đến thị trường khác để mơ hình có kết tốt 86 5.2 Hướng phát triển Những mô hình học sâu dự đốn xu hướng giá Forex tương lai phát triển dựa tảng hướng tiếp cận đề xuất đề tài Bộ liệu tỷ giá Forex chúng tơi xây dựng tiếp tục mở rộng lớn Chúng tiếp tục tối ưu hóa suất mơ hình đề xuất Wavelet Attention LSTM đồng thời nghiên cứu, phát triển thêm nhiều mơ hình học sâu khác đặc biệt kiến trúc mạng Recurrent Neural Network, mơ hình ARIMA để cải thiện ổn định, để dự đoán tốt biến động nhỏ thời Việc nâng cấp hệ thống Real-time để dự đoán xu hướng yếu tố cần thiết để tạo nên thành công đề tài 87 TÀI LIỆU THAM KHẢO [1] Adebiyi A Ariyo, Adewumi O Adewumi & Charles K Ayo, “Stock Price Prediction Using the ARIMA Model”, 2014 UKSim-AMSS 16th International Conference on Computer Modelling and Simulation, 2014, 106–112 [2] Alex Krizhevsky, Ilya Sutskever & Geoffrey E Hinton, “ImageNet Classification with Deep Convolutional Neural Networks”, Advances in Neural Information Processing Systems, Vol vol 25, 2012 [3] Alexiei Dingli & Karl Sant Fournier, “Financial Time Series Forecasting – A Deep Learning Approach”, International Journal of Machine Learning and Computing, Vol 7, 2017, 118–122 [4] Alle meije Wink & Jos Roerdink, “Denoising Functional MR Images: A Comparison of Wavelet Denoising and Gaussian Smoothing”, IEEE transactions on medical imaging, Vol 23, 2004, 374–87 [5] Areej Baasher & Mohamed Fakhr, “Forex trend classification using machine learning techniques”, Proceedings of the 11th WSEAS International Conference on Applied Computer Science, 2011, 41–47 [6] Arman Khadjeh Nassirtoussi, Saeed Aghabozorgi, Teh Ying Wah & David Chek Ling Ngo, “Text mining for market prediction: A systematic review”, Expert Systems with Applications, Vol 41; (16), 2014, 7653–7670 [7] Arman Khadjeh Nassirtoussi, Saeed Aghabozorgi, Teh Ying Wah & David Chek Ling Ngo, “Text mining of news-headlines for FOREX market prediction: A Multilayer Dimension Reduction Algorithm with semantics and sentiment”, Expert Systems with Applications, Vol 42; (1), 2015, 306–324 [8] Ayushi Jaiswal, Jayprakash Upadhyay & Ajay Somkuwar, “Image denoising and quality measurements by using filtering and wavelet based techniques”, AEU - 88 International Journal of Electronics and Communications, Vol 68, 2014, 699– 705 [9] B Osgood, “EE 261 The Fourier Transform and its Applications”, Electrical Engineering Department: Stanford University, 2007, 252–253 [10] Bruno Miranda Henrique, Vinicius Amorim Sobreiro & Herbert Kimura, “Literature review: Machine learning techniques applied to financial market prediction”, Expert Systems with Applications, Vol 124, 2019, 226–251 [11] Chao Yang, Hefeng Zhang, Bin Jiang & Keqin Li, “Aspect-based sentiment analysis with alternating coattention networks”, Information Processing & Management, Vol 56; (3), 2019, 463–478 [12] Christopher Olah, Understanding LSTM Networks, URL: https://colah.github io/posts/2015-08-Understanding-LSTMs/ [13] Cigdem Polat Dautov & Mehmet Ozerdem, “Introduction to Wavelets and their applications in signal denoising”, Bitlis Eren University Journal of Science and Technology, Vol 8, 2018, 1–10 [14] Colin Raffel, Minh-Thang Luong, Peter J Liu, Ron J Weiss & Douglas Eck, “Online and linear-time attention by enforcing monotonic alignments”, International Conference on Machine Learning, 2017, 2837–2846 [15] Dzmitry Bahdanau, Kyunghyun Cho & Yoshua Bengio, Neural Machine Translation by Jointly Learning to Align and Translate, 2014, URL : https://arxiv org/abs/1409.0473, DOI: 10.48550/ARXIV.1409.0473 [16] Fang Jin, Wei Wang, Prithwish Chakraborty, Nathan Self, Feng Chen & Naren Ramakrishnan, “Tracking Multiple Social Media for Stock Market Event Prediction”, Advances in Data Mining Applications and Theoretical Aspects, 2017 [17] H P S.D Weerathunga & A T P Silva, “DRNN-ARIMA Approach to Shortterm Trend Forecasting in Forex Market”, 2018 18th International Conference on Advances in ICT for Emerging Regions (ICTer), 2018, 287–293 89 [18] Hinton Geoffrey Rumelhart David & Williams Ronald, "Learning representations by back-propagating errors", 1986 [19] Yu-Hon Lui & David Mole, “The use of fundamental and technical analyses by foreign exchange dealers: Hong Kong evidence”, Journal of International Money and Finance, Vol 17; (3), 1998, 535–545 [20] Hyun Sim, Hae Kim & Jae Ahn, “Is Deep Learning for Image Recognition Applicable to Stock Market Prediction?”, Complexity, Vol 2019, 2019, 1–10 [21] Jan Kleinnijenhuis, Friederike Schultz, Dirk Oegema & Wouter van Atteveldt, “Financial news and market panics in the age of high-frequency sentiment trading algorithms”, Journalism, Vol 14; (2), 2013, 271–291 [22] Jauhar Ali, “Analyzing the Effect of Currency Strength Changes on Their Future Price Movement”, Proceedings of the 2018 10th International Conference on Machine Learning and Computing, 2018, 111–115 [24] Lashkari Yazdi, “Technical analysis of Forex by MACD Indicator”, International Journal of Humanities and Management Sciences, 2013 [25] Mahmoud Okasha & Assem Yaseen, “Comparison between ARIMA Models and Artificial Neural Networks in Forecasting Al-Quds indices of Palestine Stock Exchange Market, 2013 [26] Martin Sundermeyer, Ralf Schlăuter & Hermann Ney, “LSTM neural networks for language modeling”, Thirteenth annual conference of the international speech communication association, 2012 [27] Md Islam, Emam Hossain, Abdur Rahman, Mohammad Hossain & Karl Andersson, “A Review on Recent Advancements in FOREX Currency Prediction”, Algorithms, Vol 13, 2020, 186 [28] Michael Hazas & Hughes Hall, “Processing of non-stationary audio signals”, Science,(August) Huang, W., & Macfarlane, DL (2012) Fast Fourier Transform and MATLAB Implementation, 1999, 1–26 90 [29] Minh-Thang Luong, Hieu Pham & Christopher D Manning, Effective Approaches to Attention-based Neural Machine Translation, 2015, URL : https : / / arxiv org/abs/1508.04025, DOI: 10.48550/ARXIV.1508.04025 [30] Omer Berat Sezer & Ahmet Murat Ozbayoglu, “Algorithmic financial trading with deep convolutional neural networks: Time series to image conversion approach”, Applied Soft Computing, Vol 70, 2018, 525–538 [31] Philip Wooldridge, FX and OTC derivatives markets through the lens of the triennial survey, 2019, URL : https://ddd.bis.org/publ/qtrpdf/r_qt1912e html [32] Salman Ahmed, Saeed-Ul Hassan, Naif Radi Aljohani & Raheel Nawaz, “FLFLSTM: A novel prediction system using Forex Loss Function”, Applied Soft Computing, Vol 97, 2020, 106780 [33] Saurabh Rathor, Simple RNN vs GRU vs LSTM : Difference lies in More Flexible control, URL : https : / / medium com / @saurabh rathor092 / simple - rnn- vs- gru- vs- lstm- difference- lies- in- more- flexible- control5f33e07b1e57 [34] Seng Hansun & Marcel Bonar Kristanda, “Performance analysis of conventional moving average methods in forex forecasting”, 2017 International Conference on Smart Cities, Automation & Intelligent Computing Systems (ICON-SONICS), 2017, 11–17 [35] Sepp Hochreiter & Jăurgen Schmidhuber, Long short-term memory, Neural computation, Vol 9; (8), 1997, 1735–1780 [36] Supakit Nootyaskool & Wuttichow Choengtong, “Hidden Markov Models predict foreign exchange rate”, 2014 14th International Symposium on Communications and Information Technologies (ISCIT), 2014, 99–101 [37] Troy Segal, Four Types of Forex (FX) Trend Indicators, URL : https : / / www investopedia.com/articles/forex/10/indicators-fx-traders-mustknow.asp 91 [38] Wikipedia, Recurrent Neural Network, URL : https : / / en wikipedia org / wiki/Recurrent_neural_network [39] Yao Qin, Dongjin Song, Haifeng Chen, Wei Cheng, Guofei Jiang & Garrison Cottrell, “A dual-stage attention-based recurrent neural network for time series prediction”, arXiv preprint arXiv:1704.02971, 2017 [40] Yiqi Zhao & Matloob Khushi, Wavelet Denoised-ResNet CNN and LightGBM Method to Predict Forex Rate of Change, 2021 [41] Yoke Leng Yong, Yunli Lee & David Ngo, “An investigation into the recurring patterns of forex time series data”, 2015 IEEE International Symposium on Robotics and Intelligent Sensors (IRIS), 2015, 313–317 [42] Yun-Cheng Tsai, Jun-Hao Chen & Jun-Jie Wang, “Predict Forex Trend via Convolutional Neural Networks”, Journal of Intelligent Systems, Vol 29; (1), 2020, 941– 958 [43] Zexin Hu, Yiqi Zhao & Matloob Khushi, “A Survey of Forex and Stock Price Prediction Using Deep Learning”, Applied System Innovation, Vol 4; (1), 2021 92