Cấu trúc và mô hình của nơ-ron

7.1 Cơ sở về mạng nơ-ron 208

7.1.1 Cấu trúc và mô hình của nơ-ron

Mạng nơ-ron lμ sự tái tạo bằng kỹ thuật những chức năng của hệ thần kinh con ng−ời. Trong quá trình tái tạo không phải tất cả các chức năng của bộ não con ng−ời có đều đ−ợc tái tạo, mμ chỉ có những chức năng cần thiết. Bên cạnh đó còn có những chức năng mới được tạo ra nhằm giải quyết một bμi toán điều khiển đã định hướng tr−íc.

Mạng nơ-ron bao gồm vô số các nơ-ron đ−ợc liên kết truyền thông với nhau trong mạng. Hình 7.1 lμ một phần của mạng nơ-ron bao gồm hai nơ-ron.

Một nơ-ron chứa đựng các thμnh phần cơ bản:

− Thân nơ-ron đ−ợc giới hạn trong một mμng membran vμ trong cùng lμ nhân.

Từ thân nơ-ron còn có rất nhiều đ−ờng rẽ nhánh tạm gọi lμ rễ.

− “Bus” liên kết nơ-ron nμy với các nơ-ron khác đ−ợc gọi lμ axon, trên axon có các

đ−ờng rẽ nhánh. Nơ-ron còn có thể liên kết với các nơ-ron khác qua các rễ.

Chính vì cách liên kết đa dạng nh− vậy nên mạng nơ-ron có độ liên kết rất cao.

Các rễ của nơ-ron đ−ợc chia thμnh hai loại: loại nhận thông tin từ nơ-ron khác qua axon, mμ ta sẽ gọi lμ rễ đầu vμo vμ loại đ−a thông tin qua axon tới các nơ-ron khác, gọi lμ rễ đầu ra. Một nơ-ron có thể có nhiều rễ đầu vμo, nh−ng chỉ có một rễ

đầu ra. Bởi vậy nếu xem nơ-ron nh− một khâu điều khiển thì nó chính lμ khâu có nhiÒu ®Çu vμo, mét ®Çu ra (kh©u MISO) − h×nh 7.2.

Quá trình hoạt động của một nơ-ron lμ một quá trình điện hóa tự nhiên. ở trạng thái cân bằng (trạng thái tĩnh) điện áp của mμng membran khoảng −75mV. Khi có tác động từ bên ngoμi vμo nơ-ron (mức điện áp kích thích khoảng 35mV), trong tế bμo nơ-ron xảy ra hμng loạt các phản ứng hóa học tạo thμnh lực tác động

Nơ-ron x1

xm

y Hình 7.2:: Nơ-ron là khâu MISO

Axon

Chiều thông tin

Rễ đầu ra của nơ-ron 1

đ−ợc nối với axon

Axon đ−ợc nối với rễ

đầu vào của nơ-ron 2

Nh©n RÔ ®Çu ra

Nh©n

Hình 7.1: Một mạng nơ-ron đơn giản gồm hai nơ-ron.

lμm nơ-ron bị kích thích hoμn toμn (bốc cháy). Thế năng sinh ra khi nơ-ron ở trạng thái bị kích thích hoμn toμn nμy chỉ tồn tại khoảng vμi mili giây sau đó nơ-ron lại trở về trạng thái cân bằng cũ. Thế năng nμy đ−ợc truyền vμo mạng qua axon vμ có khả năng kích thích hoặc kìm hãm tự nhiên các nơ-ron khác trong mạng. Một nơ- ron sẽ ở trạng thái kích thích khi tại đầu vμo xuất hiện một tín hiệu tác động v−ợt qua ng−ỡng cân bằng của nơ-ron.

Một tính chất rất cơ bản của mạng nơ-ron sinh học lμ các đáp ứng theo kích thích có khả năng thay đổi theo thời gian. Các đáp ứng có thể tăng lên, giảm đi hoặc hoμn toμn biến mất. Qua các nhánh axon liên kết tế bμo nơ-ron nμy với các nơ-ron khác, sự thay đổi trạng thái của một nơ-ron cũng sẽ kéo theo sự thay đổi trạng thái của những nơ-ron khác vμ do đó lμ sự thay đổi của toμn bộ mạng nơ-ron. Việc thay

đổi trạng thái của mạng nơ-ron có thể thực hiện qua một quá trình “dạy” hoặc do khả năng “học” tự nhiên.

Sự thay thế những tính chất nμy bằng một mô hình toán học t−ơng đ−ơng đ−ợc gọi lμ mạng nơ-ron nhân tạo. Mạng nơ-ron nhân tạo có thể đ−ợc chế tạo bằng nhiều cách khác nhau vì vậy trong thực tế tồn tại rất nhiều kiểu mạng nơ-ron nhân tạo.

Hình 7.3 biểu diễn một nơ-ron nhân tạo gồm m đầu vμo x1, … , xm vμ một đầu ra y. Mô hình nμy gồm ba thμnh phần cơ bản:

− Các kích thích (các đầu vμo) của tế bμo nơ-ron có thế năng tác động vμo mμng membran khác nhau đ−ợc biểu diễn qua trọng l−ợng wi, i= 1 ,…, m t−ơng ứng với cường độ kích thích của từng đầu vμo. Tổng giá trị của các kích thích

đầu vμo đ−ợc thực hiện qua một bộ cộng, đó lμ giá trị đo kích thích đầu vμo tác

động vμo tế bμo nơ-ron.

∑ x1

xm

w1

wm

α

c y

Hình 7.3 : Mô hình nơ-ron có m

đầu vào và một đầu ra.

ε c

− Đầu ra của bộ cộng đ−ợc đ−a đến khâu tiền đáp ứng c. Khâu nμy không chỉ có chức năng tạo ra đáp ứng tức thời c mμ còn có khả năng lưu giữ các đáp ứng theo thời gian. Thμnh phần nμy lμm việc theo nguyên lý “nhớ” động.

− Nơ-ron bị kích thích trong thời gian thế năng của mμng membran v−ợt quá

ng−ỡng, mô hình nơ-ron ở trạng thái tích cực. Quan hệ nμy đ−ợc thực hiện nhờ khâu tạo tín hiệu ra α, nó có chức năng của khâu tạo tín hiệu ng−ỡng, xác

định sự phụ thuộc của tín hiệu ra y vμo các kích thích đầu vμo.

Cách thμnh lập nơ-ron nhân tạo nh− vậy tạo ra một độ tự do trong thiết kế.

Việc lựa chọn khâu cộng tín hiệu vμo, khâu tiền đáp ứng c vμ khâu tạo tín hiệu đáp ứng α, sẽ cho ra các kiểu nơ-ron nhân tạo khác nhau vμ t−ơng ứng lμ các mô hình mạng khác nhau. ở đây chỉ quan tâm đến các loại mạng nơ-ron phục vụ cho bμi toán thiết kế bộ điều khiển mờ−nơ-ron.

Khâu cộng ∑: Khâu cộng tín hiệu vμo có chức năng thực hiện ph−ơng trình sau:

∑=

= m

i i ix w

1

ε

tức lμ thực hiện phép nhân vô h−ớng hai vec tơ w=

⎟⎟

⎟

⎠

⎞

⎜⎜

⎜

⎝

⎛

wm w1

vμ x=

⎟⎟

⎟

⎠

⎞

⎜⎜

⎜

⎝

⎛

xm x1

ε =wT⋅x. (7.1)

Khâu tiền đáp ứng c: Những khả năng hoạt động của nơ-ron hoμn toμn phụ thuộc vμo khâu tạo chức năng đáp ứng c. Thế năng của một mμng membran cμng cao nếu nh− giá trị ε cμng lớn.

Khâu tạo chức năng đáp ứng tạo giá trị đáp ứng tăng giảm phụ thuộc vμo giá

trị đầu vμo, một cách đơn giản nhất có thể tạo đáp ứng theo phương trình

c = ε . (7.2a)

Quan hệ giữa tín hiệu vμo vμ ra đ−ợc biểu diễn theo ph−ơng trình trên lμ một quan hệ tĩnh vμ tuyến tính. Đây cũng lμ cách thiết kế nơ-ron nhân tạo một cách đơn giản nhÊt.

Để tăng độ chính xác người ta tìm cách xây dựng mô hình động cho nơ-ron.

Thực tế, khi có kích thích đầu vμo, thế năng của mμng membran tăng dần lên cho dù ngay tại thời điểm được kích thích vẫn chưa có đáp ứng đầu ra. Hoμn toμn tương tự, khi kích thích mất đi thì nơ-ron cũng không thể trở về ngay trạng thái cân bằng

cũ mμ sự trở về diễn ra cũng dần dần nh− một quá trình liên tục theo thời gian.

Quá trình đó có thể mô tả qua phương trình vi phân bậc nhất

Tc(t) + c(t) − c0 = ε(t), (7.2b)

trong đó c0lμ thế năng của mạng membran ở trạng thái không bị kích thích. Đó lμ phương trình động học của một khâu quán tính bậc nhất với hằng số thời gian quán tính T. Khâu tạo chức năng đáp ứng kiểu nμy còn có tên lμ BSB.

Bên cạnh khâu tạo đáp ứng c kiểu tuyến tính vμ kiểu BSB còn tồn tại các kiểu khâu theo kiểu gián đoạn. Thuộc nhóm khâu kiểu gián đoạn có khâu tạo đáp ứng theo hμm Hopfield.

c =⎩⎨⎧

≥ +

<

−

0 khi 1

0 khi 1

ε

ε (7.2c)

Khâu tạo đáp ứng α: Giá trị ra y của một nơ-ron biểu diễn trạng thái kích thích đến các nơ-ron tiếp theo trong mạng. Tín hiệu ra y phụ thuộc vμo độ kích thích của nơ- ron, thông th−ờng đ−ợc so sánh theo kiểu cắt ng−ỡng. Quan hệ nμy đ−ợc mô tả qua khâu tạo đáp ứng α của mô hình nơ-ron. Thông thường giá trị ra y phải thay đổi liên tục theo sự thay đổi của tiền đáp ứng c hoặc không thay đổi nếu c nhỏ hơn giá

trị ngưỡng. Sự thay đổi nμy lμ đồng biến (monoton). Có rất nhiều phương pháp xây dựng khâu tạo đáp ứng, do vậy nó được chọn trong phần lớn các phương án đã có.

Xuất phát từ quan điểm logic kinh điển, có thể coi nơ-ron nh− một phần tử lμm việc theo nguyên tắc đóng mở, tức lμ chỉ tồn tại ở hai trạng thái: nơ-ron tích cực (bị kích thích) vμ ở trạng thái không tích cực, ta tạo ra đ−ợc bộ tạo chức năng ra đơn giản nhất. Khâu tạo đáp ứng, trong trường hợp nμy, có thể biểu diễn dưới dạng hμm bËc thang

y = α(c) =

⎩⎨

⎧

≥

<

0 0

khi 1

khi 0

c c

c

c (7.3a)

với bước nhảy tại thời điểm c=c0. Giá trị ra y có thể lμ một hằng số nμo đó, không nhất thiết phải lμ 0 vμ 1. Giá trị c0 chính lμ ng−ỡng quyết định trạng thái của nơ- ron (bị kích thích hay không bị kích thích).

Thông thường sự chuyển đổi trạng thái của nơ-ron từ không tích cực sang tích cực vμ ng−ợc lại lμ quá trình liên tục. Quá trình chuyển đổi nμy có thể so sánh với quá trình chuyển đổi từ tập rõ sang tập mờ, đó lμ quá trình chuyển đổi trơn từ giá

trị 0 sang giá trị 1. Một trong những khâu mô tả đ−ợc quá trình liên tục đó lμ khâu Sigma biểu diễn d−ới dạng hμm Fermi

y =α(c) = e−c

+ 1

1 . (7.3b)

Tất nhiên cũng tồn tại nhiều khâu α mô tả quá trình chuyển đổi tuyến tính khác th−ờng đ−ợc sử dụng. Một số khâu nh− vậy lμ

− Kh©u l−ìng tuyÕn tÝnh y =

⎪⎩

⎪⎨

⎧

≤ +

>

+

b c c

c (c)

khi 1

1 khi

sgn 1

(7.3c)

− Khâu tuyến tính y=k c, với k lμ hằng số. (7.3d)

− Đồng dạng y=c. (7.3e)

Ngoμi ra, bên cạnh các khâu tiền định vừa nêu còn có loại khâu tạo đáp ứng ngẫu nhiên. Khâu nμy cho ra giá trị y nhị phân (hoặc bằng 0 hoặc bằng 1) tại đầu ra. Điểm khác biệt so với loại khâu tiền định lμ hμm mô tả khâu không ở dạng tiền

định nh− (7.3a) hay (7.3b) mμ lμ một hμm thông báo xác suất để có đ−ợc y= 1 tại đầu ra. Một trong đại diện cho mô hình mô tả khâu ngẫu nhiên nμy lμ hμm Boltzman

định nghĩa nh− sau p(y=1)=

T c c e

0

1 1

− − +

, (7.3f)

trong đó c0 lμ giá trị ng−ỡng vμ tham số T lμ một đại l−ợng vật lý biểu diễn độ nhạy cảm của nơ-ron.

Hình 7.4 biểu diễn đồ thị các khâu tạo đáp ứng tiền định vừa nêu.

c y a)

c y b)

c y c)

c y

d)

Hình 7.4 : Một số khâu liên tục thường dùng để tạo đáp ứng ytừ tiền đáp ứng c.

Tất cả các dạng hμm mô tả trên của khâu tạo đáp ứng α đều cho ra đáp ứng y lμ một tín hiệu nằm trong khoảng từ 0 đến 1. Tuy vậy không bắt buộc ta phải giữ

nguyên miền giá trị đó của y. Tùy vμo từng bμi toán ứng dụng, ta có thể thay đổi (7.3a), (7.3b) hoặc (7.3c) sao cho y nhận giá trị chẳng hạn nh− từ −1 đến +1.