c) Các hệ số học trong thuật toán lan truyền ngược
3.4.2. Các bước thiết kế mạng nơron ứng dụng
Bước 1: xác định bài toán
Mạng nơ ron thường tỏ ra hiệu quả khi giải các bài toán:
- Nhận dạng, phân lớp dữ liệu: cho mô tả đối tượng, cần xếp đối tượng vào lớp ra sao cho tất cả các đối tượng vào một lớp có cùng một đặc tính nào đó. Các bài toán thuộc dạng này gồm nhận dạng ký tự, nhận dạng hình ảnh, nhận dạng tiếng nói...
- Mô hình hóa: Xác định sự phụ thuộc giữa các giá trịđầu ra và đầu vào. Các bài toán này bao gồm dự báo điều khiển.
Xác định bài toán Xác định các biến vào/ra Thu thập dữ liệu Tiền xử lý dữ liệu Thử nghiệm mạng Huấn luyện mạng Lựa chọn mô hình mạng nơ ron Tinh chỉnh mạng Phù hợp Tiếp tục
Bước 2: Xác định các biến vào, ra
Xác định các biến vào/ra và miền giá trị, kiểu giá trị các biến. Bước 3: Thu thập dữ liệu
Thu thập một lượng lớn các dữ liệu mẫu, đảm bảo nguyên tắc ngẫu nhiên, khách quan và phủ toàn bộđầu vào.
Bước 4: Tiền xử lý dữ liệu
Thông thường tập dữ liệu thu thập cần được xử lý sơ bộ theo những phương pháp truyền thống nhằm đảm bảo dữ liệu phân bốđồng đều, đủđại diện cho tất cả các dạng và được thu gọn trong không gian biểu diễn đầu vào.
Bước 5: Lựa chọn mô hình mạng nơ ron
Tùy thuộc vào bản chất của bài toán mà lựa chọn mô hình mạng nơ ron phù hợp.
Bước 6: Huấn luyện mạng
Phân dữ liệu thành ba tập con: tập mẫu học, tập kiểm soát (để xác định khi nào dừng quá trình học) và tập kiểm thử. Trong tập mẫu học phải mang tính đại diện, còn tập kiểm thử gắn với dáng điệu thực của môi trường đang xét.
Xác định luật học và cơ chế cập nhật trọng số các nơ ron trong quá trình huấn luyện và khởi tạo tham số.
Bước 7: Thử nghiệm mạng
Sử dụng mạng để giải quyết bài toán đặt ra theo dữ liệu mẫu đầu vào Bước 8: Muốn nâng cao hiệu quả sử dụng mạng cần phải cập nhật tập mẫu học, cải tiến cơ chế huấn luyện, tinh chỉnh cấu trúc và tham số mạng. Trong trường hợp mạng tuy đã huấn luyện tốt nhưng kết quả không đáp ứng yêu cầu với các dữ liệu thử - gọi là hiện tượng quá tham số thì tiến hành:
- Xem xét lại yếu tố đầu vào, số yếu tố đầu vào cần phải được giảm bớt tới một kích thước hợp lý so với kích thước huấn luyện
- Giảm số lượng nơ ron lớp ẩn và bắt đầu lại một quá trình học khác.