Đây là bước cuối cùng của quy trình xây dựng mô hình. Sự phức tạp của mô hình Mạng thần kinh nhân tạo là khi xây dựng mô hình chúng ta không những phải chọn bộ dữ liệu cho mô hình mà còn phải lựa chọn cấu trúc mạng phù hợp. Bên cạnh một số kinh nghiệm rút ra từ thực nghiệm của các nhà nghiên cứu thì việc xây dựng được một mô hình Mạng thần kinh tốt nhất với các thông số được lựa chọn thích hợp cần được thực hiện dựa trên phương pháp thử và sai.
Một vấn đề cần lưu ý trong khi huấn luyện mô hình là các trọng số ban đầu được cho ngẫu nhiên trước khi ước lượng mô hình, nhằm tìm ra mô hình có tối thiểu hóa toàn cục nên kết quả của việc ước lượng mô hình sẽ khác nhau cho cùng một bộ dữ liệu đầu vào với cùng một cấu trúc của mô hình nhưng sự sai khác này không quá lớn. Vì vậy, chúng ta phải huấn luyện hàng trăm lần cho mô hình có cùng cấu trúc và dữ liệu đầu vào. Mô hình tốt nhất trong trường hợp này là mô hình với các trọng số cho kết quả MSE của dữ liệu phê duyệt và dữ liệu kiểm tra thấp nhất. Tiếp theo, chúng ta thực hiện chạy mô hình với các cấu trúc khác nhau cho bộ dữ liệu đầu vào khác bằng cách bỏ bớt biến hay thêm vào biến số tùy theo phương pháp chạy mô hình từ tổng quát đến chi tiết hay từ chi tiết đến tổng quát. Ở mỗi cấu trúc này cũng tiến hành chạy nhiều lần nhằm tìm kết quả MSE thấp nhất, mục đích cuối cùng là tìm ra mô hình có tối thiểu hóa toàn cục.
Chúng tôi lựa chọn thủ tục đưa dần biến vào để xây dựng mô hình, và do số lượng cấu trúc cần thực hiện thử và sai rất lớn nên mỗi cấu trúc chúng tôi thực hiện huấn luyện một lần, sau đó chọn ra 10 cấu trúc có MSE của dữ liệu kiểm tra nhỏ nhất để chạy thêm 10 lần cho từng cấu trúc. Cuối cùng, chúng tôi tìm ra mô hình Mạng thần kinh với MSE dữ liệu kiểm tra nhỏ nhất.