Những điều kiện tối ưu

VÀ NHỮNG ỨNG DỤNG CỦA CHÚNG TRONG ĐIỀU KHIỂN QUÁ TRÌNH

2.6.1 Những điều kiện tối ưu

Một MFNN có M lớp nơron, những phương trình mạng hay hàm truyền của

những nơron trong những lớp khác nhau là:

Bài toán tối ưu thông số cho một công việc cụ thể được mô tả như sau:

(2.58)

Để giải bài toán trên, ta dùng phương pháp Lagrange

(2.59) với j i R là những hệ số nhân Lagrange. Như ta thấy L gồm hai toán hạng.

Toán hạng đầu tiên là lỗi ngõ ra bình phương và toán hạng thứ hai phụ thuộc

vào những phương trình mạng mà cung cấp những ràng buộc cho những thông

số của MFNN. Sai phân lần đầu ta được:

(2.60)

Điều kiện cần là cho L0 sẽ xác định tối thiểu cục bộ cho hàm lỗi E tương ứng với những phương trình ràng buộc mạng. Điều kiện này mô tả hoàn toàn

ứng xử của mạng, suy ra những điều kiện tối ưu sau:

(2.61)

(2.62)

Mỗi phương trình này thể hiện một trong ba thành phần của mạng lan truyền ngược. Phương trình đầu tiên định nghĩa đường thuận của mạng được thể hiện

bởi những phương trình mạng và phương trình thứ hai, đường lan truyền ngược

là những toán hạng gradient. Phương trình thứ ba không thể hiện cập nhật trực

tiếp trọng số, nhưng nó thể hiện điều kiện tối ưu cần phải thoả mãn.

Dễ dàng thấy rằng (2.61) thể hiện những phương trình mạng. Từ (2.62) ta có: