2.3. Hàm xử lý. 2.3.1. Hàm kết hợp. 2.3.1. Hàm kết hợp.
Hàm kết hợp là sự kết hợp nhiều giá trị đưa vào nơron thông qua các liên kết truyền tới các nơron khác, xuất ra một giá trị gọi là net Input. Tổng đầu vào nơron j là trọng số của các đầu ra từ các nơron cộng một thêm ngưỡng :
∑ 𝑤𝑗𝑖𝑥𝑖
𝑛
𝑖=0
+ 𝜃𝑗
Nếu wji >0 nơron được coi là ở trạng thái kích thích. Nếu wji<0 nơron được coi là ở trạng thái kiềm chế. [10]
2.3.2. Hàm kích hoạt của mạng (hàm chuyển)
Khi hoạt động hàm kích hoạt thực hiện q trình biến đổi giá trị đầu vào aj thành giá trị đầu ra zj được thực hiện bởi hàm kích hoạt zj =g(aj). Với phương pháp như vậy thì hàm thường bị ép vào một khoảng giá trị xác định. Các hàm kích hoạt thường xuyên được sử dụng là:
2.3.2.1. Hàm tuyến tính (Linear function):
Các hàm kích hoạt tuyến tính là các phương trình tốn học xác định đầu ra của mạng nơron. Hàm được gắn với mỗi nơron trong mạng và xác định xem nó có nên
được kích hoạt hay khơng, dựa trên việc đầu vào của mỗi nơron có liên quan đến dự đốn của mơ hình khơng. Các chức năng kích hoạt tuyến tính cũng giúp chuẩn hóa đầu ra của mỗi nơron trong phạm vi từ 1 đến 0 hoặc từ -1 đến 1.
Một khía cạnh bổ sung của các hàm kích hoạt tuyến tính là chúng phải hiệu quả về mặt tính tốn vì chúng được tính tốn trên hàng nghìn hoặc thậm chí hàng triệu nơron cho mỗi mẫu dữ liệu. Các mạng nơron hiện đại sử dụng một kỹ thuật được gọi là lan truyền ngược để huấn luyện mơ hình, điều này đặt ra sự căng thẳng tính tốn gia tăng lên hàm kích hoạt và hàm đạo hàm của nó. [11]
g(x)=x
Hình 2.3: Hàm tuyến tính d trong mạng (Linear function)
2.3.2.2. Hàm ranh giới cứng trong mạng (Hard limiter function).
Hàm này nhận 2 giá trị là 0 và 1.
𝑔(𝑥) = {1 𝑖𝑓(𝑥 ≥ 0) 0 𝑖𝑓(𝑥 < 0) Trong hình sau θ được lựa chọn bằng 0