• Hàm học khơng có giám sát
Với phương pháp học khơng có giám sát khơng có những phản hồi từ mơi trường để chỉ ra rằng đầu ra của mạng là đúng hoặc sai. Mạng sẽ phải khám phá các thông số đặc trưng, các điều chỉnh, các mối tương quan, hay các lớp trong một tập dữ liệu vào một cách tự động. Trong thực tế, 1 phần rất lớn các biến thể của học khơng có giám sát, các đích và đầu vào giống nhau. Nói cách khác, học khơng có giám sát ln
ln thực hiện một hoặc nhiều công việc tương tự như một mạng tự liên hợp, cô đọng thông tin từ dữ liệu vào.
2.4.4. Hàm mục tiêu
Để huấn luyện một hệ thống mạng và xét xem nó thực hiện tốt đến đâu, ta cần xây dựng một số hàm mục tiêu để cung cấp các cách đánh giá khả năng của hệ thống. Việc chọn hàm mục tiêu là rất khơng thể thiếu bởi vì hàm này thể hiện các mục tiêu thiết kế và các yếu tố quyết định thuật tốn huấn luyện nào có thể được sử dụng. Cần phải xây dựng được một hàm mục tiêu đo được độ chính xác cái chúng ta muốn khơng phải là việc dễ dàng và đơn giản. Trong rất nhiều những hàm cơ bản được sử dụng rộng rãi là hàm tổng bình phương lỗi Sum of Squares error Function.
𝐸 = 1 𝑁𝑄∑ ∑(𝑡𝑞𝑖 𝑁 𝑖=1 𝑄 𝑞=1 − 𝑦𝑞𝑖)2 Ở đây:
Q: được xem là số ví dụ trong tập ví dụ huấn luyện N: số đơn vị của đầu ra. tqi: dùng để chỉ đơn vị đầu ra mong muốn của nơron ra i trên ví dụ thứ q yqi: là đơn vị đầu ra thực tế của nơron ra i trên ví dụ thứ q [14].
2.5 Huấn luyện mạng Nơron
Khái niệm: Học là quá trình tiếp thu hành vi của các vật theo một cách nào đó làm cho chúng có khả năng thực hiện tốt hơn trong tương lai. Một hệ thống mạng nơron được huấn luyện làm cho với một tập các vector đầu vào X, hệ thống mạng đó có khả năng tạo ra tập các vector đầu ra mong muốn Y của nó. Tập X được sử dụng cho việc huấn luyện mạng được gọi là tập huấn luyện (training set). Các phần tử x thuộc X được gọi là các mẫu đã huấn luyện (Training Example). Quá trình huấn luyện được xem là bản chất là sự thay đổi các trọng số liên kết của mạng. Trong quá trình này, các trọng số của hệ thống mạng sẽ hội tụ dần tới các giá trị sao cho với mỗi vector đầu vào x từ tập được huấn luyện, mạng sẽ cho ra nhiều vector đầu ra y như mong muốn.
Chúng ta thường sử dụng một trong ba phương pháp học phổ biến là học không giám sát (Unsupervised Learning), học có giám sát (Supervised Learning), và học tăng cường (Reinforcement Learning): [10]
2.5.1. Phương pháp mạng Nơron truyền thẳng 2.5.1.1. Các kiến trúc cơ bản 2.5.1.1. Các kiến trúc cơ bản
Kiến trúc mạng truyền thẳng nhiều lớp là kiến trúc chủ yếu của các hệ thống mạng nơron hiện tại. Có thể có khá nhiều biến đổi nhưng tính chất đặc trưng của kiến trúc này là cấu trúc và thuật toán học là dễ dàng và nhanh (Masters 1993).
Phương pháp mạng truyền thẳng nhiều lớp bao gồm một lớp vào, một hoặc rất nhiều lớp ẩn và một lớp ra. Các nơron đầu vào thực chất không phải là nơron theo đúng nghĩa, bởi vì chúng khơng thể thực hiện bất kỳ một tính tốn nào trên dữ liệu vào, đơn giản nó chỉ tiếp nhận các dữ liệu vào và chuyển tiếp cho các lớp kế tiếp. Các nơron ở lớp ẩn và lớp ra mới thực sự thực hiện các tính tốn, kết quả được định dạng bởi hàm kích hoạt của nơron đầu ra.