Thông thường, người ta chia tập dữ liệu chuỗi thời gian ra làm 3 tập riêng biệt gọi là tập huấn luyện, tập kiểm tra và tập đánh giá. Tập huấn luyện là tập lớn nhất và được sử dụng để huấn luyện mạng nơron, tìm ra các mẫu. Tập kiểm tra, thường có kích thước từ 10% đến 30% tập huấn luyện, được dùng để đánh giá khả năng tổng quát hóa của mạng nơron. Nhà nghiên cứu nên chọn mạng có kết quả thực thi tốt nhất trên tập kiểm tra. Tập đánh giá được sử dụng sau cùng để kiểm tra hiệu năng của mạng nơron sau khi đã được huấn luyện. Kích thước của tập đánh giá phải tính toán để cân bằng giữa số lượng mẫu đủ để đánh giá và số lượng mẫu còn lại cho cả tập huấn luyện và kiểm tra. Thông thường, tập đánh giá nên dùng những mẫu mới nhất và phải đảm bảo không dùng tập đánh giá trong quá trình huấn luyện và kiểm tra, kể cả khi điều chỉnh lại các tham số của mạng.
Tập kiểm tra có thể được chọn tùy ý trong tập huấn luyện hoặc có thể gồm những phần tử liền kề sau tập huấn luyện. Việc chọn ngẫu nhiên có ưu điểm là tránh được những nguy hiểm khi sử dụng tập kiểm tra có tính chất dữ liệu giống nhau. Tuy nhiên việc chọn tập kiểm tra gồm những phần tử liền kề sau tập huấn luyện cũng có ưu điểm bởi vì với cách chọn này, dữ liệu kiểm tra thường sẽ là những mẫu dữ liệu mới (gần nhất, trừ những dữ liệu trong tập đánh giá), và những dữ liệu này thường là quan trọng hơn những dữ liệu cũ.
Nếu sử dụng phương pháp chọn ngẫu nhiên thì tập kiểm tra không được thay đổi trong quá trình huấn luyện, vì nó sẽ làm giảm khả năng tổng quát hóa của mạng nơron, đặc biệt trong những trường hợp tập kiểm tra khá lớn so với tập huấn luyện (ví dụ như 30%). Những phương pháp lựa chọn khác, ví dụ như chọn các mẫu thứ n trong thứ tự làm tập kiểm tra, không được khuyên dùng, bởi có thể tạo các vòng lặp trong mẫu dữ liệu.
Một cách tiếp cận nghiêm ngặt hơn trong việc đánh giá mạng nơron là phương pháp kiểm tra walk-forward hay còn gọi là phương pháp kiểm tra cửa sổ
trượt. Phương pháp này sẽ tạo ra 1 dãy các tập huấn luyện-kiểm tra-đánh giá, chèn lên nhau. Mỗi tập sẽ lần lượt tịnh tiến theo chuỗi thời gian như trong hình 3. Phương pháp này sẽ kiểm tra sức mạnh của mô hình thông qua việc huấn luyện lại mạng nơron với tập dữ liệu ngoài mẫu (out-of-sample). Trong phương pháp này, kích thước của tập đánh giá sẽ hướng dẫn việc huấn luyện lại mạng nơron. Việc huấn luyện lại sẽ khá tốn thời gian, tuy nhiên nó sẽ cho phép mạng thích nghi nhanh hơn với những điều kiện thay đổi của thị trường.
Hình 7.Phương pháp kiểm tra cửa sổ trượt
Người ta khuyến nghị rằng tập huấn luyện và tập kiểm tra nên được giữ nguyên tỉ lệ trong quá trình huấn luyện mạng, vì mục tiêu của tập kiểm tra là để xác định khả năng tổng quát hóa của mạng. Tuy nhiên, tập đánh giá không nhất thiết phải cùng tỉ lệ với tập huấn luyện và tập kiểm tra vì đây là bước kiểm tra sau cùng và độc lập.