Xây dựng mô hình Mạng thần kinh nhân tạo một cách độc lập để dự báo tốc

Một phần của tài liệu Dự báo tốc độ tăng trưởng kinh tế Việt Nam Sự vượt trội của mô hình Mạng thần kinh nhân tạo (ANN) so với mô hình Hồi quy tuyến tính truyền thống.pdf (Trang 70 - 73)

tốc độ tăng trƣởng GDP

Cũng giống như việc xây dựng mô hình Hồi quy tuyến tính truyền thống cho dự báo tốc độ tăng trưởng GDP, thủ tục đưa dần biến vào mô hình sẽ tiếp tục được áp dụng cho quy trình xây dựng mô hình Mạng thần kinh nhân tạo. Tuy nhiên, khác với phần xây dựng mô hình Hồi quy tuyến tính, bên cạnh tìm kiếm biến số phù hợp cho mô hình thì việc xây dựng mô hình Mạng thần kinh còn đòi hỏi phải áp dụng việc thử và sai trên nhiều cấu trúc mạng khác nhau để tìm kiếm Mạng thần kinh có cấu trúc tốt cho mô hình dự báo; do đó, khối lượng công việc và thời gian để xây dựng mô hình dự báo bằng Mạng thần kinh sẽ phải tăng lên rất nhiều lần.

Cụ thể, quá trình xây dựng mô hình sẽ phải thực hiện một khối lượng công việc rất lớn, huấn luyện hàng chục nghìn lần với rất nhiều cấu trúc mạng (mỗi cấu trúc mạng ứng với mỗi sự lựa chọn thông số) và với 78 biến số đầu vào chỉ được điều chỉnh tới bước điều chỉnh 1 bao gồm 13 biến số không trễ, 60 biến số trễ từ 12 biến số không trễ ứng với 5 mức trễ (ngoại trừ biến Tỷ giá USD/VNĐ chỉ có độ trễ 1 quý), 4 biến số trễ ứng với 4 mức trễ của tốc độ tăng trưởng GDP quá khứ. Trong điều kiện nguồn lực có giới hạn, chúng tôi thực hiện việc giảm số lượng biến đầu vào chỉ còn 26 biến số bao gồm 13 biến số không có độ trễ kết hợp với 13 biến số đó có độ trễ 1 quý với cùng số quan sát (từ Quý 2/2001 đến Quý 4/2009) như là tập dữ liệu cho phần xây dựng mô hình Mạng thần kinh một cách độc lập cho dự báo tốc độ tăng trưởng GDP Việt Nam. Sau nhiều lần thử và sai, chúng tôi tìm ra mô hình dự báo tốt nhất với MSE của dữ liệu kiểm tra nhỏ nhất (MSE = 0,0468039). Mô hình Mạng thần kinh tốt nhất với các biến biến số đầu vào chỉ được điều chỉnh tới bước điều chỉnh 1 bao gồm các biến: lạm phát

trễ 1 quý (LPt-1), giá trị nhập khẩu (NK), lượng điện trễ 1 quý (LĐt-1), vốn đầu tư từ ngân sách nhà nước trễ 1 quý (VDTNNt-1), lãi suất liên ngân hàng kỳ hạn 1 tháng có độ trễ 1 quý (VNIBOR1Mt-1), và khối lượng vận chuyển trễ 1 quý (KLVCt-1). Cấu trúc của mô hình Mạng thần kinh này bao gồm các thông số sau: Mạng thần kinh truyền thẳng đa lớp có: 6 nơ-ron đầu vào, 4 nơ-ron lớp ẩn, 1 nơ-ron lớp đầu ra, hàm truyền cho nơ- ron lớp ẩn là hàm TanhAxon với tỷ lệ học là 0,6; hàm truyền cho nơ-ron lớp đầu ra là hàm SigmoidAxon với tỷ lệ học là 0,6 và cách huấn luyện là huấn luyện từng dòng.

Hình 3.1: Mô hình Mạng thần kinh nhân tạo đƣợc xây dựng một cách độc lập tốt nhất cho dự báo tốc độ tăng trƣởng GDP Việt Nam

Hình 3.2: Đồ thị thể hiện giá trị MSE của quá trình huấn luyện mô hình Mạng thần kinh nhân tạo đƣợc xây dựng một cách độc lập tốt nhất

Hình trên cho thấy trong suốt quá trình huấn luyện, MSE của dữ liệu huấn luyện liên tục giảm và đạt giá trị nhỏ nhất sau 1000 vòng lặp (MSE = 0,003154064) trong khi MSE của dữ liệu phê duyệt đạt giá trị thấp nhất sau 373 vòng lặp (MSE = 0,098515996) và sau đó tăng dần. Để khắc phục tình trạng khít quá mức của mô hình, thủ tục ngừng đúng lúc đã được áp dụng và Mạng thần kinh sẽ cho ra mô hình với các

trọng số ứng với MSE thấp nhất của dữ liệu phê duyệt sau 373 vòng lặp. Như vậy, chúng ta thu được kết quả trọng số tốt nhất sau 373 vòng lặp.

Hình 3.3: Các trọng số ƣớc lƣợng của mô hình Mạng thần kinh độc lập

Đầu tiên, với 6 giá trị đầu vào được chuẩn hóa với biên trên và biên dưới được mặc định trong mô hình là (-0,9; 0,9), và hàm truyền của lớp ẩn là hàm TanhAxon, giá trị đầu vào của 4 nơ-ron ở lớp ẩn được tính toán theo công thức sau:

Giá trị đầu vào của lớp ẩn

Giá trị đầu ra của lớp ẩn

Thực hiện tương tự cho các giá trị OUTPUT(H2)t, OUTPUT(H3)t, OUTPUT(H4)t. Các giá trị đầu ra này ở lớp ẩn sẽ làm giá trị đầu vào cho nơ-ron lớp đầu ra, chúng ta có:

Với hàm truyền ở lớp đầu ra là hàm Xích ma (SigmoidAxon), chúng ta có kết quả đầu ra như sau:

Sau đó, giá trị OUTPUT (GDP)t được chuẩn hóa trở lại theo công thức như mô tả ở phần huấn luyện mô hình với biên trên và biên dưới được mặc định trong mô hình là (0,05; 0,95), ta thu được kết quả đầu ra của mô hình.

Một phần của tài liệu Dự báo tốc độ tăng trưởng kinh tế Việt Nam Sự vượt trội của mô hình Mạng thần kinh nhân tạo (ANN) so với mô hình Hồi quy tuyến tính truyền thống.pdf (Trang 70 - 73)