Nhan đề : Phát triển ứng dụng dự báo nhu cầu tiền mặt tại các ATM sử dụng mạng rơron Tác giả : Trần Lê Tùng Người hướng dẫn: Vũ Văn Thiệu Từ khoá : ATM; Nhu cầu tiền mặt; Mạng nơron Năm xuất bản : 2020 Nhà xuất bản : Trường đại học Bách Khoa Hà Nội Tóm tắt : Tổng quan về dự báo, mạng nơron nhân tạo, học máy, học sâu; bài toán và mô hình đề xuất; cài đặt và kết quả thực nghiệm.
TRƯỜNG ĐẠI HỌC BÁCH KHOA HÀ NỘI LUẬN VĂN THẠC SĨ Phát triển ứng dụng dự báo nhu cầu tiền mặt ATM sử dụng mạng nơ-ron TRẦN LÊ TÙNG tletung@gmail.com Ngành Công nghệ thông tin Giảng viên hướng dẫn: TS Vũ Văn Thiệu Viện: Công nghệ thông tin truyền thông HÀ NỘI, 10/2020 Chữ ký GVHD LỜI CAM ĐOAN Những kiến thức trình bày luận văn tơi tìm hiểu, nghiên cứu trình bày theo kiến thức tổng hợp cá nhân Kết nghiên cứu luận văn chưa cơng bố cơng trình khác Trong q trình làm luận văn, tơi có tham khảo tài liệu có liên quan ghi rõ nguồn tài liệu tham khảo Tôi xin cam đoan cơng trình nghiên cứu tơi khơng chép Tơi xin chịu hồn tồn trách nhiệm, sai, tơi xin chịu hình thức kỷ luật theo quy định Hà Nội, ngày tháng năm 2020 Học viên Trần Lê Tùng i ii LỜI CẢM ƠN Để hồn thành luận văn này, tơi nhận nhiều động viên, giúp đỡ nhiều cá nhân tập thể Trước tiên, xin bày tỏ lòng biết ơn sâu sắc tới TS Vũ Văn Thiệu, Trường Đại học Bách Khoa Hà Nội nhiệt tình hướng dẫn, tạo điều kiện thuận lợi cho tơi nghiên cứu khoa học, giúp tơi hoàn thành luận văn cách tốt Cuối tơi xin gửi lời cám ơn đến gia đình, bạn bè, người bên tôi, động viên khuyến khích tơi q trình thực đề tài nghiên cứu HỌC VIÊN Trần Lê Tùng iii TÓM TẮT NỘI DUNG ĐỀ TÀI Dự báo chuỗi thời gian q trình ước tính giá trị tương lai dựa liệu lịch sử đóng vai trò quan trọng việc định kinh doanh lĩnh vực khác Việc lựa chọn kỹ thuật dự báo chuỗi thời gian phù hợp phụ thuộc vào diện bốn thành phần sau: xu hướng, theo mùa, theo chu kỳ bất thường Mục đích đề tài cung cấp mơ hình dự báo mạnh mẽ để dự đoán số tiền rút máy rút tiền tự động ATM cách sử dụng mạng nơ-ron với phương pháp học sâu giải toán dự báo chuỗi thời gian Đồng thời đề xuất mô hình mạng nơ-ron sử dụng Encoder - Decoder kết hợp chế Attention, kết thực nghiệm cho thấy độ xác tốt Xem xét cách tiếp cận đa biến, cách đưa vào nhiều biến hơn, kết có hiệu suất tốt cho dự đốn tảng để giải toán thực tế iv MỤC LỤC LỜI CAM ĐOAN i LỜI CẢM ƠN iii TÓM TẮT NỘI DUNG ĐỀ TÀI iv DANH MỤC CÁC KÝ HIỆU, CÁC CHỮ VIẾT TẮT vii DANH MỤC HÌNH VẼ viii DANH MỤC BẢNG BIỂU x CHƯƠNG GIỚI THIỆU 1.1 Lý chọn đề tài 1.2 Tính cấp thiết đề tài 1.3 Mục tiêu đề tài 1.4 Đối tượng phạm vi nghiên cứu 1.5 Ý nghĩa khoa học thực tiễn CHƯƠNG CƠ SỞ LÝ THUYẾT VÀ NGHIỆP VỤ 2.1 2.2 2.3 2.4 Tổng quan dự báo 2.1.1 Khái niệm dự báo 2.1.2 Mục đích dự báo 2.1.3 Những khó khăn phân tích dự báo 2.1.4 Các phương pháp dự báo 2.1.5 Quy trình thực dự báo Tổng quan mạng nơ-ron nhân tạo 2.2.1 Khái niệm 2.2.2 Mạng nơ-ron nhân tạo gì? 2.2.3 Lịch sử phát triển mạng nơ-ron nhân tạo 2.2.4 Mạng nơ-ron sinh học 2.2.5 Mạng nơ-ron nhân tạo Học máy 12 2.3.1 Học máy gì? 12 2.3.2 Phân loại mô hình học máy 12 2.3.3 Các kỹ thuật cải tiến hiệu mơ hình 13 Học sâu 18 2.4.1 Học sâu gì? 18 2.4.2 Dữ liệu chuỗi thời gian 20 v 2.4.3 Các kỹ thuật học sâu toán liệu thời gian 21 CHƯƠNG BÀI TỐN VÀ MƠ HÌNH ĐỀ XUẤT 25 3.1 Đặt vấn đề 25 3.2 Mơ hình liệu chuỗi thời gian .25 3.3 3.2.1 Mơ hình Seq2seq .25 3.2.2 Hoạt động chế Attention .28 3.2.3 Kĩ thuật Teacher forcing 30 Thuật toán quy hoạch động .32 CHƯƠNG CÀI ĐẶT VÀ KẾT QUẢ THỰC NGHIỆM .37 4.1 4.2 4.3 Dữ liệu thử nghiệm 37 4.1.1 Bộ liệu NN5 37 4.1.2 Bộ liệu Ngân hàng 39 Chi tiết cài đặt 41 4.2.1 Các siêu tham số mạng nơ-ron 41 4.2.2 Tiền xử lý liệu .41 4.2.3 Huấn luyện 42 4.2.4 Môi trường, thiết bị, công cụ sử dụng .42 Kết 43 4.3.1 Kết liệu NN5 43 4.3.2 Kết liệu Ngân hàng 45 KẾT LUẬN 48 Kết đạt 48 Định hướng phát triển 48 TÀI LIỆU THAM KHẢO 49 vi DANH MỤC CÁC KÝ HIỆU, CÁC CHỮ VIẾT TẮT TÊN VIẾT TẮT ANN NƠ-RON ATM MSE MLP RNN FCNN CNN LSTM 10 RNN 11 GPU 12 CDM STT TÊN ĐẦY ĐỦ Artificial Neural Network Neural Automated Teller Machine Mean Square Error Multi-layer Neural Network Recurrent Neural Network Fully Connected Neural Network Convolutional Neural Network Long Short Term Memory Networks Recurrent Neural Network Graphics processing unit Cash Deposit Machine vii DIỄN GIẢI Mạng nơ-ron nhân tạo Tế bào thần kinh Máy rút tiền tự động Sai số trung bình Mạng nơ-ron nhiều lớp Mạng hồi quy Mạng nơ-ron liên kết đầy đủ Mạng nơ-ron tích chập Mạng nhớ dài-ngắn Mạng nơ-ron hồi quy Bộ vi xử lý chuyên dụng nhận nhiệm vụ tăng tốc, xử lý đồ họa cho vi xử lý trung tâm CPU Máy gửi tiền tự động DANH MỤC HÌNH VẼ Hình 2.1 Dự đoán xu hướng thị trường Hình 2.2 Quy trình thực dự báo Hình 2.3 Cấu trúc nơ-ron sinh học Hình 2.4 Mơ hình nơ-ron nhân tạo Hình 2.5 Kiến trúc mạng lớp chứa lớp ẩn .10 Hình 2.6 Kiến trúc mạng nơ-ron truyền thẳng nhiều lớp 11 Hình 2.7 Kiến trúc mạng nơ-ron phản hồi 11 Hình 2.8 Phương pháp Hold-out 14 Hình 2.9 Đánh giá phân đoạn 15 Hình 2.10 Underfit, Goodfit Overfit 16 Hình 2.11 Mạng nơ-ron sử dụng kỹ thuật Dropout 18 Hình 2.12 Biểu đồ liệu chuỗi thời gian 20 Hình 2.13 Mạng nơ-ron liên kết đầy đủ nhiều lớp .21 Hình 2.14 Mạng nơ-ron tích chập 22 Hình 2.15 Bộ lọc nhận diện đặc trưng dạng cạnh/góc qua ảnh 22 Hình 2.16 Mạng hồi quy .23 Hình 2.17 Hàm ReLU hàm 24 Hình 3.1 Mơ hình seq2seq 25 Hình 3.2 Sơ đồ biểu diễn kiến trúc bên đơn vị lớp hồi quy LSTM .26 Hình 3.3 Mạng hồi quy hai chiều 27 Hình 3.4 Khối giải mã với chế Attention 29 Hình 3.5 Mơ hình Encoder - Decoder kết hợp chế Attention [7] 30 Hình 3.6 Kĩ thuật teacher forcing 31 Hình 4.1 Các thơng tin mơ tả liệu NN5 37 Hình 4.2 Dữ liệu chuỗi thời gian NN5-005 38 Hình 4.3 Dữ liệu chuỗi thời gian NN5-008 38 Hình 4.4 Dữ liệu chuỗi thời gian NN5-009 38 Hình 4.5 Dữ liệu chuỗi thời gian NN5-010 39 Hình 4.6 Dữ liệu thực ATM01 .40 Hình 4.7 Dữ liệu thực ATM02 .40 Hình 4.8 Dữ liệu thực ATM03 .40 Hình 4.9 Dữ liệu thực ATM04 .41 Hình 4.10 Kết dự đoán NN5-005 43 Hình 4.11 Kết dự đốn NN5-008 44 Hình 4.12 Kết dự đoán NN5-009 44 viii Trong trường hợp đặt biệt, số tiền rút ngày vượt q giới hạn nạp tiền lần, ngày hơm buộc phải thực nhiều lần nạp tiền 36 CHƯƠNG CÀI ĐẶT VÀ KẾT QUẢ THỰC NGHIỆM 4.1 Dữ liệu thử nghiệm Đề tài sử dụng hai nguồn liệu thống kê số lượng tiền rút theo ngày gồm liệu NN5 liệu Ngân hàng thương mại Việt Nam 4.1.1 Bộ liệu NN5 Bộ liệu NN5 số liệu thống kê năm nhu cầu tiền mặt giao dịch hàng ngày từ máy rút tiền tự động khác nước Anh Bộ liệu rút gọn phát hành để sử dụng cho thi tìm kiếm phương pháp tính tốn thơng minh đánh giá độ xác dự báo chuỗi thời gian Cuộc thi “The 2008 Time Series Forcasting Competition for Computational Intelligence” tổ chức vào năm 2008 cho mục đích học thuật, phi thương mại để đánh giá tiến phương pháp xây dựng mơ hình mạng nơ-ron, đồng thời phổ cập kiến thức phương pháp hay cho cộng đồng Bộ liệu NN5 thống kê lưu định dạng tệp liệu excel, có cấu trúc gồm chuỗi thời gian chuỗi lưu cột Với chuỗi thời gian có thơng tin chi tiết sau: Hình 4.1 Các thông tin mô tả liệu NN5 Trong đó: - Tên chuỗi thời gian: 1.E-001, 1.E-002, , 1.E-011 - Số lượng điểm liệu quan sát (N): 377, nhiều 747 - Ngày bắt đầu/Ngày kết thúc liệu: từ năm 2002 đến năm 2005 - Mô tả chuỗi thời gian: bao gồm địa điểm đặt máy ATM - Số lượng quan sát chu trình số này/tuần, số giờ/ngày - Chuỗi thời gian với N quan sát, giá trị nằm ô cột theo thứ tự từ xuống Từ liệu NN5 sử dụng bốn chuỗi thời gian 005, 008, 009 010 Hình 4.2, Hình 4.3, Hình 4.4 Hình 4.5 đại diện để thực trình thử nghiệm đánh giá kết ứng dụng mơ hình học http://www.neural-forecasting-competition.com/ 37 Hình 4.2 Dữ liệu chuỗi thời gian NN5-005 Hình 4.3 Dữ liệu chuỗi thời gian NN5-008 Hình 4.4 Dữ liệu chuỗi thời gian NN5-009 38 Hình 4.5 Dữ liệu chuỗi thời gian NN5-010 4.1.2 Bộ liệu Ngân hàng Bộ liệu sử dụng đề tài cung cấp từ ngân hàng Việt Nam Thông tin ngân hàng chi tiết liệu biến đổi (nhưng không làm thay đổi tính chất so với liệu gốc) quy định bảo mật thông tin nội nên không đưa Bộ liệu bao gồm thống kê số tiền rút hai năm 2018 2019 10 máy ATM máy CDM khác (CDM Cash Deposit Machine tượng tự máy ATM có thêm tính cho phép người dùng nạp tiền vào tài khoản) Điểm khác biệt so với liệu NN5, liệu ngân hàng cịn có thêm thơng tin chi tiết trình tiếp quỹ thực tế cho máy ATM CDM gồm: - Ngày nạp tiền - Số lượng tiền nạp lần - Khoảng cách: Là khoảng cách từ ATM, CDM tới điểm tiếp qũy gần ngân hàng - Chi phí trung bình: tính ki-lo-met cho q trình thực nạp tiền Thơng tin giá trị để tính tổng chi phí tiếp quỹ thực tế, kết đem so sánh với thuật tốn tối ưu tiếp quỹ trình bày chương trước thấy hiệu học mơ hình Các hình biểu diễn số liệu thực tế máy ATM điển hình ngân hàng 39 Hình 4.6 Dữ liệu thực ATM01 Hình 4.7 Dữ liệu thực ATM02 Hình 4.8 Dữ liệu thực ATM03 40 Hình 4.9 Dữ liệu thực ATM04 4.2 Chi tiết cài đặt 4.2.1 Các siêu tham số mạng nơ-ron Bộ Encoder sử dụng lớp hồi quy lớp hồi quy LSTM hai chiều, số chiều trạng thái ẩn đặt 4, 8, 16, 32 q trình thí nghiệm Để tránh gặp phải vấn đề overfitting, giúp mạng học có tính tổng quát hơn, lớp hồi quy LSTM áp dụng thêm kĩ thuật loại bỏ ngẫu nhiên với tỷ lệ dropout recurrent_dropout 0.2 Cơ chế Attention cài đặt theo thuật toán Bahdanau Attention [16] Các lớp kết nối dày đặc W1 W2 có số nơ-ron ẩn số chiều trạng thái ẩn lớp hồi quy LSTM Decoder Lớp kết nối đầy đủ V có số nơ-ron ẩn Bộ Decoder gọi sử dụng chế Attention để tính tốn vector ngữ cảnh đem ghép với đầu vào, kết đem đưa qua lớp hồi quy Bộ Decoder sử dụng lớp hồi quy LSTM chiều với số chiều trạng thái ẩn hai lần số chiều trạng thái ẩn lớp hồi quy LSTM Encoder Phần cuối Decoder lớp kết nối đầy đủ với số nơ-ron ẩn 4.2.2 Tiền xử lý liệu Trong liệu có số ngày không thống kê (missing value), ngày thêm giá trị vào Ngoài số ngày lại số liệu ghi nhiều dòng Những ngày cộng dồn số liệu lại lưu dòng Dữ liệu chia thành ba phần liệu huấn luyện, liệu đánh giá liệu kiểm tra với tỷ lệ số lượng 80%, 10% 10% so với toàn bộ liệu Dữ liệu chia cho phần không chứa liệu đè lên nhau, đảm bảo liệu tập huấn luyện phải nằm khoảng thời gian trước khoảng thời gian tập liệu đánh giá tập liệu kiểm tra Sau chia tạo xong liệu để truyền vào mạng liệu phần hốn vị vị trí ngẫu nhiên Tồn liệu chuẩn hóa để cho liệu tập huấn luyện có giá trị trung bình độ lệch chuẩn qua phép biến đổi sau: 41 data = data - mean(train_data) data = data / std(train_data) 4.2.3 Huấn luyện Để mơ hình khớp liệu, ta cần phải xác định phương pháp để đo mức độ khớp sử dụng hàm mát để định lượng giá trị thực với giá trị dự đoán mục tiêu Hàm mát sử dụng toán hồi quy cực tiểu hóa tổng bình phương lỗi (hàm MSE) [20] Giả sử đầu dự đoán điểm liệu vector n chiều y^ nhãn tương ứng vector n chiều y, giá trị hàm mục tiêu tính sau: 𝑛𝑛 Trong đó: - 𝑀𝑀𝑀𝑀𝑀𝑀 = ��𝑌𝑌𝑖𝑖 − 𝑌𝑌�𝑖𝑖 � 𝑛𝑛 (5.1) 𝑖𝑖=1 𝑌𝑌𝑖𝑖 : vector giá trị thực thứ i quan sát 𝑌𝑌�𝑖𝑖 : vector giá trị dự đoán cho liệu thứ i 𝑛𝑛: tổng giá trị quan sát dùng để huấn luyện 𝑖𝑖: liệu thứ i tập liệu Mạng học phương pháp Mini-batch Stochastic Gradient Descent, với kích thước lơ (batch size) 32 Tốc độ học (learning rate) 0.001 Bộ tối ưu Adam (Adam optimizer) Mạng huấn luyện khoảng 500 epochs (một epoch lần toàn liệu đưa qua mạng) Do liệu có kích thước nhỏ nên để kết đánh giá có tính xác hơn, mạng huấn luyện đánh giá theo kĩ thuật đánh giá K-Flod (k-fold validation) với k 4.2.4 Môi trường, thiết bị, công cụ sử dụng Hệ điều hành Windows 10 Pro Ngôn ngữ lập trình Python Mơi trường sử dụng xây dựng mơ hình mạng Tensorflow 2: thư viện xử lý liệu đầu vào Các thư viện sử dụng trình huấn luyện gồm: - Pandas: xử lý liệu từ tệp định dạng excel - Numpy: làm việc với mảng - Matplotlib: vẽ biểu diễn liệu Quá trình huấn luyện sử dụng GPU [21] NVIDIA GeForce 930M nhớ 2G 42 4.3 Kết 4.3.1 Kết liệu NN5 Kết huấn luyện mơ hình liệu sau khoảng 500 epochs (một epoch lần “duyệt” qua hết số lượng mẫu tập huấn luyện) Sai số MSE tập liệu sau: Bảng 4.1 Kết hàm mát MSE Train loss Validate loss Test loss ATM 005 0.27 0.60 0.10 ATM 008 0.33 0.71 0.36 ATM 009 0.22 0.60 0.32 ATM 010 0.17 0.15 0.51 Kết dự đoán tập liệu kiểm tra liệu biểu diễn hình Kết cho thấy độ xác dự đoán tốt gần với liệu thực tế Trong đó: - Đường màu đỏ: giá trị sau dự đoán - Đường màu xanh: giá trị từ liệu thực tế Hình 4.10 Kết dự đốn NN5-005 43 Hình 4.11 Kết dự đốn NN5-008 Hình 4.12 Kết dự đốn NN5-009 Hình 4.13 Kết dự đoán NN5-010 44 Kết liệu Ngân hàng Kết dự đoán Thử nghiệm sử dụng liệu ngân hàng với số tiền rút hai tháng từ máy ATM kết cho thấy mơ hình xây dựng học dự đốn xác Tuy nhiên, biểu đồ kết cho số thời điểm chưa xác Lý giải cho vấn đề đặc thù nhu cầu sử dụng khách hàng đặc biệt thời điểm rơi vào ngày trước kỳ nghỉ lễ dài, lượng tiền rút ATM biến động cao Chúng ta thấy thể đường màu đỏ kết dự đoán đường màu xanh số liệu thực tế 4.3.2 Hình 4.14 Kết dự đốn ATM 01 Hình 4.15 Kết dự đốn ATM 02 45 Hình 4.16 Kết dự đốn ATM 03 Hình 4.17 Kết dự đoán ATM 04 Kết phương án tiếp quỹ tối ưu Để cải thiện kết dự đoán từ mơ hình học tơi đề xuất thuật tốn tối ưu cho công tác tiếp quỹ tốt so với phương án tiếp quỹ truyền thống Sử dụng liệu gồm ngày tiếp quỹ số tiền tiếp quỹ để tính tốn lịch trình tiếp quỹ cho lần nạp tiền Kết tối ưu tổng chi phí thấp cho q trình tiếp quỹ với máy ATM tương ứng với số tiền tối thiểu để nạp vào ATM sau lần (Max_rep) so sánh với chi phí thực tế Bảng 4.2 Chi phí tiếp quỹ ATM Max_rep 2000000000 3000000000 ∞ Thực tế ATM 01 43662656 30649287 27761626 32368448 ATM 02 11130095 11051989 11051989 11360042 ATM 03 16501061 16370924 16635391 18995907 ATM 04 7893355 8093253 8093253 9045221 (đơn vị tính: đồng) 46 Chúng ta thấy kết bảng 4.2 cho thấy ô tổng chi phí tiếp quỹ máy ATM, giá trị tính tốn từ kết dự đốn thuật toán tối ưu nhỏ so với chi phí tiếp quỹ thực tế Vì vậy, tăng giới hạn số tiền nạp tối đa cho lần nạp vào máy ATM chi phí tiếp quỹ nhỏ ngược lại 47 KẾT LUẬN Kết đạt Đề tài nghiên cứu mạng nơ-ron nhân tạo, mơ hình mạng nơ-ron sử dụng Encoder-Decoder kết hợp chế Attention đưa dự báo số tiền mặt cần phải tiếp quỹ ngày máy ATM Các đóng góp đề tài: Đề tài nghiên cứu tổng quan mạng nơ-ron nhân tạo, sâu vào nghiên cứu mạng nơ-ron sử dụng Encoder-Decoder kết hợp chế Attention nhằm đạt tới kết tốt cho toán tối ưu trọng số mạng nơ-ron nhân tạo Đề tài xây dựng dự báo số lượng tiền mặt tối ưu cần nạp ngày máy ATM Định hướng phát triển Những kết thực nghiệm khả quan dựa nghiên cứu ứng dụng mạng nơ-ron nhân tạo với mơ hình mạng nơ-ron sử dụng Encoder-Decoder kết hợp chế Attention toán dự báo cầu tiền mặt cho máy ATM cho thấy mơ hình hiệu Vì vậy, hướng phát triển đề tài cải tiến phương pháp dự báo để có kết xác việc sử dụng nhiều mơ hình khác để so sánh đánh giá hiệu mô hình Nghiên cứu lý thuyết mạng nơ-ron phương phương trình vi phân để khắc phục nhược điểm mạng hồi quy xử lý liệu toán chuỗi thời gian Ngồi ra, sử dụng kết hợp với số giải thuật tiên tiến kết dự báo xác 48 TÀI LIỆU THAM KHẢO [1] "Vụ Thanh toán - Ngân hàng nhà nước Việt Nam," 2020 [Online] Available: https://www.sbv.gov.vn [2] Robert Alan Yaffee, Monnie McGee, "Chapter The Basic ARIMA Model," in Introduction to Time Series Analysis and Forecasting, Academic Press.,INC, 2000, pp 101-150 [3] "medium.com," [Online] Available: https://towardsdatascience.com/hownot-to-use-machine-learning-for-time-series-forecasting-avoiding-thepitfalls-19f9d7adf424 [4] "Viện Chiến lược, Chính sách tài ngun mơi trường," [Online] Available: https://isponre.gov.vn/home/dien-dan/463-tong-quan-ve-phuongphap-du-bao-va-kha-nang-ap-dung-mot-so-mo-hinh-trong-du-bao-biendong-tai-nguyen-va-moi-truong-tai-viet-nam [5] J Holton Wilson, Barry Keating, Business Forecasting With Accompanying Excel-Based ForecastXTM Software, 5th Edition, McGraw-Hill/Irwin, 2007 [6] C, Shepherd G.M Koch, "Neurobiology," in Oxford University Press, New York, 1988, p 689 pp [7] James, William, "The principles of psychology," New York, 1890-01-01, p Holt pp 194 [8] McCulloch WS, Pitts W, "A logical calculus of the ideas immanent in nervous activity Bull Math Biophys," 1943, p 5:115 [9] "TeachMe Physiology," [Online] Available: https://teachmephysiology.com/nervous-system/components/cells-nervoussystem/ [10] "Wikipedia.org," [Online] https://vi.wikipedia.org/wiki/H%E1%BB%8Dc_m%C3%A1y Available: [11] "julienharbulot.com," [Online] https://julienharbulot.com/overfitting.html Available: [12] "smartfactoryvn.com," [Online] Available: https://smartfactoryvn.com/technology/internet-of-things/time-seriesdatabase-la-gi-va-ung-dung-cua-time-series-database/ [13] "medium.com Alibaba," [Online] Available: https://medium.com/@Alibaba_Cloud/table-store-time-series-data-storagearchitecture-f686e85cf259 [14] "www.oreilly.com," [Online] https://www.oreilly.com/library/view/tensorflow-for49 Available: deep/9781491980446/ch04.html [15] Nrgaard, M.; Norgaard, P M., "Neural Networks for Modelling and Control of Dynamic Systems: A Practitio-ner's Handbook (Advanced Textbooks in Control and Signal Processing) Springer," 2006 [16] Dzmitry Bahdanau, Kyunghyun Cho, Yoshua Bengio, "Neural machine translation by jointly learning to align and translate," arXiv preprint arXiv:1409.0473, 2014 [17] Minh-Thang Luong, Hieu Pham, Christopher D Manning, "Effective approaches to attention-based neural machine translation," arXiv preprint arXiv:1508.04025, 2015 [18] Thomas H Cormen, Charles E Leiserson, Ronald L Rivest, Clifford Stein, "15.2: Matrix-chain multiplication," in Introduction to Algorithms, London, The MIT Press, 2001, pp 370-378 [19] Ozer F, Toroslu IH, Karagoz P, Yucel F, "Dynamic Programming Solution to ATM Cash Replenishment Optimization Problem," International Conference on Intelligent Computing & Optimization, pp 428-437, 2018 [20] T S Alexander, Adaptive Signal Processing: Theory and Applications, New York: Springer Science & Business Media, 2012, 1986 [21] John D Owens, Mike Houston, David Luebke, Simon Green, John E Stone, James C Phillips, "GPU computing," Proceedings of the IEEE, vol 96, no 5, pp 879-899, 2008 [22] "Wikipedia.org," [Online] https://en.wikipedia.org/wiki/Automated_teller_machine 50 Available: ... nhiều tiền mặt máy thu lợi nhu? ??n từ việc huy động tiền nhàn rỗi Do đó, phải xây dựng mơ hình phát triển thuật tốn tiên tiến để dự đốn xác nhu cầu tiền mặt cho máy ATM Dựa dự báo nhu cầu tiền mặt. .. giải toán dự báo chuỗi thời gian áp dụng vào toán dự báo nói chung dự báo số tiền mặt tiếp quỹ cho máy ATM nói riêng Các phương pháp dự báo nhu cầu tiền mặt hàng ngày đề xuất cho máy rút tiền tự... máy ATM Ứng dụng Hệ thống phải đủ linh hoạt phép ngân hàng dự báo nhu cầu tương lai, hỗ trợ người lãnh đạo định 1.3 Mục tiêu đề tài Xây dựng phát triển mô hình dự báo nhu cầu tiền mặt cho máy ATM