2.3 .Hàm xử lý
2.4. Cấu trúc của mạng nơron
Cấu trúc của mạng nơron được xác định bởi: số lớp, số nơron trên mỗi lớp, và sự liên kết giữa các nơron. Dựa trên một số cách thức liên kết các nơron mà người ta chia làm hai loại [14].
2.4.1. Phương pháp mạng truyền thẳng.
Dòng dữ liệu từ nơron đầu vào đến nơron đầu ra chỉ được truyền thẳng. Khơng có các liên kết từ nơron đầu ra đến các nơron đầu vào trong cùng một lớp hay của các lớp trước nó. [14]
Hình 2.11: Mạng nơron truyền thẳng nhiều lớp h
2.4.2. Mạng hồi qui
Có chứa các liên kết ngược, nghĩa là các nơron của lớp ra tới nơron của lớp vào trong cùng một lớp hoặc các lớp trước nó.
Hình 2.12: Mạng hồi qui i
2.4.3. Luật học
Luật học đóng một vai trị khơng thể thiếu trong hệ thống mạng nơron nó được dùng để điều chỉnh các trọng số để hệ thống mạng nhận biết được quan hệ giữa đầu
vào và đích đến mong muốn. Các nhà khoa học đã có rất nhiều thuật tốn đã được phát minh để tìm ra tập trọng số tối ưu làm bài giải cho các bài tốn. Các thuật tốn đó được chia làm hai nhóm chính: học có giám sát và học khơng có giám sát [12].
• Học có giám sát: Mạng được huấn luyện dựa trên dữ liệu của các tập ví dụ huấn luyện (các cặp mẫu đầu vào x và đầu ra mong muốn t). Sự khác nhau giữa đầu ra mong muốn với đầu ra thực tế được thuật toán sử dụng nhiều để điều chỉnh các trọng số. Điều này thường được đưa về dạng một bài toán xấp xỉ hàm số, cho dữ liệu huấn luyện, mục đích là tìm ra hàm f(x) để thoả mãn tất cả các tập mẫu đầu vào [14].
Hình 2.13: Mơ hình học có giám sát j
• Hàm học khơng có giám sát
Với phương pháp học khơng có giám sát khơng có những phản hồi từ mơi trường để chỉ ra rằng đầu ra của mạng là đúng hoặc sai. Mạng sẽ phải khám phá các thông số đặc trưng, các điều chỉnh, các mối tương quan, hay các lớp trong một tập dữ liệu vào một cách tự động. Trong thực tế, 1 phần rất lớn các biến thể của học khơng có giám sát, các đích và đầu vào giống nhau. Nói cách khác, học khơng có giám sát luôn
luôn thực hiện một hoặc nhiều công việc tương tự như một mạng tự liên hợp, cô đọng thông tin từ dữ liệu vào.
2.4.4. Hàm mục tiêu
Để huấn luyện một hệ thống mạng và xét xem nó thực hiện tốt đến đâu, ta cần xây dựng một số hàm mục tiêu để cung cấp các cách đánh giá khả năng của hệ thống. Việc chọn hàm mục tiêu là rất khơng thể thiếu bởi vì hàm này thể hiện các mục tiêu thiết kế và các yếu tố quyết định thuật toán huấn luyện nào có thể được sử dụng. Cần phải xây dựng được một hàm mục tiêu đo được độ chính xác cái chúng ta muốn không phải là việc dễ dàng và đơn giản. Trong rất nhiều những hàm cơ bản được sử dụng rộng rãi là hàm tổng bình phương lỗi Sum of Squares error Function.
𝐸 = 1 𝑁𝑄∑ ∑(𝑡𝑞𝑖 𝑁 𝑖=1 𝑄 𝑞=1 − 𝑦𝑞𝑖)2 Ở đây:
Q: được xem là số ví dụ trong tập ví dụ huấn luyện N: số đơn vị của đầu ra. tqi: dùng để chỉ đơn vị đầu ra mong muốn của nơron ra i trên ví dụ thứ q yqi: là đơn vị đầu ra thực tế của nơron ra i trên ví dụ thứ q [14].