2.2.1. Kiến trúc nơ ron sinh học[17].
Bộ não người được ví như một chiếc máy tính có khả năng tính toán song song và vô cùng phức tạp, có khả năng tổ chức các nơ ron để thực hiện các tính toán, xử lý và thích ứng với môi trường xung quanh. Bộ não con người tích hợp gần 10 tỷ nơ-ron và 60 ngàn tỷ kết nối giữa chúng, gọi là các khớp thần kinh. Bằng cách sử dụng nhiều nơ-ron đồng thời, bộ não có thể thực thi chức năng của mình nhanh hơn nhiều lần so với các máy tính nhanh nhất tồn tại ngày nay.
Một nơron trong bộ não được cấu trúc từ những thành phần sau:
Hình 2.13. Thành phần của nơ ron sinh học
- Nhân tế bào (Soma): Thân của noron, có nhiệm vụ tổng hợp các tín hiệu đưa vào.
- Dendrites: Các dây mảnh, dài, gắn liền với soma, chúng truyền dữ liệu (dưới dạng xung điện thế) đến cho soma xử lý. Bên trong soma các dữ liệu đó được tổng hợp lại. Có thể xem gần đúng sự tổng hợp ấy như là một phép lấy tổng tất cả các dữ liệu mà nơron nhận được.
- Axon: Là một loại dây dẫn tín hiệu gắn với soma. Khác với dendrites, axons có khả năng phát các xung điện thế, chúng là các dây dẫn tín hiệu từ nơron đi các nơi khác. Chỉ khi nào điện thế trong soma vượt quá một giá trị ngưỡng thì axon mới phát một xung điện thế, còn nếu không thì nó ở trạng thái nghỉ.
- Synapses: Là các mối nối tương tác giữa các nơ ron. Khi điện thế của synapse tăng lên do các xung phát ra từ axon thì synapse sẽ nhả ra một số chất hoá học, các chất này mở các dendrites để cho các ions truyền qua. Chính dòng ions này làm thay đổi điện thế trên dendrites, tạo ra các xung dữ liệu lan truyền tới các nơron khác.
Có thể tóm tắt hoạt động của một nơron như sau: Nơron lấy tổng tất cả các điện thế vào mà nó nhận được và phát ra một xung điện thế nếu tổng ấy lớn hơn một ngưỡng nào đó. Các nơron nối với nhau ở các synapses. Synapse được gọi là mạnh khi nó cho phép truyền dẫn dễ dàng tín hiệu qua các nơron khác. Ngược lại, một synapse yếu sẽ truyền dẫn tín hiệu rất khó khăn.
2.2.2. Kiến trúc mạng nơ ron nhân tạo
Mạng nơ ron nhân tạo có cấu trúc tương tự mô phỏng mạng nơ ron sinh học. Đơn vị xử lý thông tin của mạng là các Processing element (PE). Mỗi PE của mạng được gọi là một nơ ron . Mỗi neuron này sẽ nhận và xử lý các dữ liệu đầu vào để cho ra một kết quả output duy nhất. Kết quả xử lý của một neuron có thể làm dữ liệu đầu vào cho các nơ ron khác.
Hình 2.14. Mô hình một nơ ron
- Tín hiệu đầu vào (hoặc các liên kết): Mỗi tín hiệu đầu vào được đặc trưng bởi một trọng số (tương đương với synapse trong nơ ron sinh học). Tín hiệu thứ xj tại đầu vào của đầu vào thứ j kết nối tới nơ ron k được tính bằng trọng số wkj.
- Hàm tổng: Tổng các tín hiệu đầu vào, được tính bằng giá trị của các synapse của nơ ron. Hàm tổng của một neuron đối với n input được tính theo công thức sau:
(2.1) Hàm tổng đối với nhiều neuron trong cùng một lớp:
(2.2) Hàm tổng của một neuron cho biết khả năng kích hoạt của neuron đó. Kết quả của hàm tổng được so sánh với ngưỡng t của neuron, nếu nó lớn hơn t thì neuron cho output là 1, ngược lại là 0. Mối quan hệ giữa khả năng kích hoạt và kết quả được thể hiện bằng hàm kích hoạt.
- Hàm kích hoạt: Để giới hạn biên độ của đầu ra của nơ ron. Hàm kích hoạt cũng được gọi là hàm giới hạn, bởi nó giới hạn phạm vi của tín hiệu đầu
ra ở một ngưỡng giá trị nhất định. Phạm vi biên độ của output của nơ ron thường trong khoảng [0,1] hoặc [-1,1]. Các hàm kích hoạt phải có các đặc điểm sau:
+ Hàm bị chặn trên và chặn dưới + Hàm có tính đơn điệu
+ Hàm phải có tính liên tục
Việc lựa chọn hàm kích hoạt có tác động lớn đến kết quả của mạng neuron. Trên thực tế, mạng nơ ron thường sử dụng các hàm sau:
+ Hàm threshold:
(2.3) Hàm ngưỡng có giới hạn cứng nên thường được sử dụng cho các nơ ron ra quyết định cho các nhiệm vụ phân lớp và nhận dạng mẫu.
+ Hàm sigmoid
(2.4) Trong đó:
f(u) là hàm kích hoạt au: Hàm tổng
Hàm sigmoid biến đối đầu vào, vốn có thể có bất cứ giá trị hữu hạn nào, thành một giá trị tương ứng nằm trong khoảng 0 và 1.
+ Hàm tanh:
Bên cạnh đó mạng nơ ron cũng có thể có một tham số gọi là bias, ký hiệu là bk. Bias này làm tăng hoặc giảm giá trị hàm kích hoạt phụ thuộc vào việc nó nhận giá trị âm hoặc dương.
Kiến trúc chung của một mạng nơ ron nhân tạo gồm 3 thành phần là lớp dữ liệu đầu vào, tầng ẩn và lớp dữ liệu ra. Ở lớp dữ liệu đầu vào, mỗi input tương ứng với một thuộc tính của dữ liệu. Lớp ẩn gồm các nơ ron nhận dữ liệu vào từ các nơ ron ở lớp trước đó và chuyển đổi các dữ liệu này cho các lớp xử lý tiếp theo. Trong một mạng nơ ron nhân tạo có thể có nhiều lớp ẩn. Còn lớp dữ liệu đầu ra là kết quả cuối cùng của mạng nơ ron, đưa ra giải pháp hoặc đáp án cho một vấn đề nào đó. Giả sử có n inputs, nơ ron sẽ có n weights (trọng số) tương ứng với n đường truyền inputs. Đường truyền nào có trọng số càng lớn thì tín hiệu truyền qua đó càng lớn.