chương 1 quá trình huấn luyện trong hệ thống điều khiển neuron

1.1.1 Hệ điều khiển neuron sinh học : Với sự phát triển của các loại máy móc ,ngày nay các nhà khoa học muốn tạo ra một loại máy có thể hoạt động độc lập với sự điều khiển của con người

1.1.1 Hệ điều khiển neuron sinh học :

Với sự phát triển của các loại máy móc ,ngày nay các nhà khoa học muốn tạo

ra một loại máy có thể hoạt động độc lập với sự điều khiển của con người trongmột môi trường luôn thay đổi và không chắc chắn , những máy này được gọi làmáy tự động hay máy thông minh ( hay thường được gọi là robot ) Sự thành côngcủa một robot phụ thuộc vào khả năng nó có thể xử lý được nhiều tình huống đadạng trong môi trường hoạt động của nó Mục tiêu của các nhà khoa học là tạo ranhững robot có thể hoạt động liên tục và luôn hồi tiếp những hành động củanó Robot có thể thực hiện những công việc mà những máy móc thông thườngđược điều khiển bằng tay khó có thể thực hiện được Ngoài ra ,robot có thể thíchnghi và thực hiện hiệu quả công việc trong một môi trường luôn thay đổi Vìvậy ,robot rất hữu ích khi thay thế con người trong những công việc khókhăn ,nguy hiểm ,và nhàm chán như sử dụng robot trong chiến tranh , trong lòphản ứng hạt nhân , trong quân sự , dò phá mìn

Cấu trúc mạng sinh học được xem như là nguồn gốc và bộ khung để thiết kếrobot Mô hình mạng sinh học cung cấp không chỉ động cơ mà còn một vài manhmối để phát triển giải thuật học thích nghi và bền vững trong robot Ngày nay ,kỹthuật điều khiển thích nghi và bền vững còn ít phổ biến so với kỹ thuật điều khiểncổ điển như bộ điều khiển tỷ lệ (P) , tích phân (I) , vi phân (D) và bộ điều khiển vitích phân (PID) và mô hình tham khảo của bộ điều khiển thích nghi

Cơ cấu điều khiển dùng mạng sinh học phù hợp để điều khiển những đốitượng có mô hình phức tạp, không chắc chắn Mô hình mạng thường rất phức tạpvà bất chấp mô hình toán chính xác Chúng có thể thực hiện những nhiệm vụphức tạp mà không cần xây dựng mô hình toán của đối tượng cũng như môitrường mà nó hoạt động ; điều đó có nghĩa là ta không phải giải quyết những bàitoán tích phân ,vi phân và toán phức

Giả thuyết rằng , nếu nguyên tắc cơ bản của những tính toán neuron trong hệđiều khiển sinh học được sáng tỏ ,lúc này những bộ điều khiển thế hệ mới có thểđược phát triển càng bền vững và thông minh hơn vượt xa khả năng những bộđiều khiển cổ điển dựa trên mô hình toán học

Mặc dù nhiều nhà sinh vật học và tâm lý học đều cho rằng bộ não có cấu trúcmodule thần kinh Nhưng không có cái nhìn chung về số lượng module thần kinhhay cách hình thành cấu trúc module thần kinh Lý do là vì module tự nhiên củanão có số lượng lớn những bộ phận tác động qua lại với nhau Thậm chí khi xâydựng một mô hình với một vài bộ phận tương tác qua lại ( để so sánh với một bộnão thật sự ) thì xuất hiện những tính toán kinh khủng và những phân tích khókhăn Trong nhiều trường hợp , mô hình toán cung cấp những công những công cụcần thiết để làm rõ những khía cạnh khác nhau của hệ thống

Thiên nhiên đã tạo ra một cấu trúc thần kinh rất phức tạp trong các loài sinhvật Có trên 100 tỷ neuron sinh học trong hệ thống thần kinh trung tâm của conngười , chúng đóng một vai trò quan trọng trong những khía cạnh khác nhau củaquá trình xử lý thông tin và thực hiện những quyết định ( như nhận biết ,điềukhiển và nhận thức ) Trong quá trình xử lý thông tin ;xuất hiện những hoạt động

đa dạng ,phức tạp và những chức năng ánh xạ ( mapping function ) trong cấu trúctầng song song ( parallel_cascade ) ,hình thành một mô hình phức tạp ở những lớpNeuron và phát triển thành mô hình hình chóp Thông tin được truyền từ lớp

T h a à y Nguyễn Thiện

Neuron này sang lớp Neuron khác theo hướng tiến và liên tục được hồi tiếp đểhình thành một cấu trúc hình chóp động

1.1.2 Những tiền đề để thiết kế hệ thống điều khiển cổ điển :

Phương pháp thiết kế hệ thống điều khiển cổ điển dựa trên mô hình toán họcmô tả hành vi của đối tượng và ứng dụng những kỹ thuật phân tích trên mô hìnhnày để đi đến luật điều khiển Thông thường , những mô hình toán thường chứanhững phương trình vi phân tuyến tính hoặc phi tuyến Hầu hết những phươngtrình này đều được xây dựng xấp xỉ và đơn giản hoá Đối với một đối tượng phứctạp hoạt động trong một môi trường luôn thay đổi thì kỹ thuật cổ điển sẽ gặp khókhăn khi xây dựng mô hình toán và luật điều khiển ,thậm chí không thể thực hiệnđược Mô hình của một hệ thống điều khiển có hồi tiếp liên quan đến sai số giữamô hình đơn giản hoá và mô hình thực ; sai số này quyết định hành vi và hoạtđộng của hệ thống

Có hai phương pháp điều khiển thường được mô tả để đạt được kết quả điềukhiển theo ý muốn từ những hiểu biết mơ hồ về đối tượng Phương pháp thứ nhấtlà ổn định bền vững (robust stabilizer ) hay còn gọi là bộ điều khiển bềnvững Điều khiển thích nghi (Adaptive control) là phương pháp thứ hai để giải bàitoán điều khiển cho một đối tượng phức tạp Các thông số của bộ điều khiển thíchnghi phải phù hợp với giải thuật thích nghi để giữ cho hệ thống hoạt động nhưmong muốn Nhìn chung ,bộ điều khiển thích nghi được áp dụng rộng rãi để điềukhiển những đối tượng không chắc chắn ,nhưng nó phức tạp hơn bộ điều khiểnbền vững Sơ đồ của bộ điều khiển thích nghi được mô tả như sau :

T h a à y Nguyễn Thiện

nghi đo được những giá trị như đầu vào ,trạng thái và đầu ra của hệ thốngđộng So sánh những giá trị này với giá trị mong muốn ,luật thích nghi sẽ hiệuchỉnh thông số của bộ điều khiển để đảm bảo đối tượng làm việc như mongmuốn

Mặc dù kỹ thuật điều khiển thích nghi được dùng rất rộng rãi nhưng nhữngứng dụng của chúng vào các bài toán thực tế còn rất hạn chế Lý do là vì trongthực tế yếu tố ổn định được ưu tiên hơn trong hệ thống điều khiển thích nghi.Đốivới những hệ thống lớn và phức tạp thì sự phức tạp của phương pháp thích nghitruyền thống gây khó khăn cho người thực hiện Hơn nữa ,phương pháp này cầnhiểu biết về bậc của đối tượng điều khiển ;nhưng trong thực tế nhiều hệ thống takhông biết được bậc của đối tượng nên việc áp dụng phương pháp điều khiểnthích nghi truyền thống rất khó khăn và đôi khi không thể thực hiện được

Hình trên biểu diễn một hệ thống điều khiển thích nghi Bộ điều khiển thích

Controller

Plant [.]

.

f x=

Largely unknow

Measurement

s y = t) g[.]

PerformanceCriterion ,J

Adaptive algorithm

Input

n R t

u ∈)

1

) (t R

Output

n R t

x ∈)

y

J

T h a à y Nguyễn Thiện

1.1.3 Giải thuật học trong bộ điều khiển Neuron :

Để đương đầu với một đối tượng động không chắc chắn , bộ điều khiển phảiước lượng những thông tin không rõ ràng trong suốt thời gian hoạt động Nếunhững thông tin được ước lượng gần với thông tin thật thì bộ điều khiển được thiếtkế sẽ là bộ điều khiển tối ưu.Sự cải tiến các hành vi nhờ vào sự hiệu chỉnh thôngtin ước lượng, vì vậy bộ điều khiển này được xem như là bộ điều khiển học thíchnghi Bộ điều khiển được huấn luyện từ những thông tin không rõ ràng trong suốtthời gian hoạt động ,thông tin này được dùng như một kinh nghiệm cho những

quyết định và điều khiển trong tương lai ràng của đối tượng hoặc của môi trường được thu thập khi hoạt động và nhữngthông tin này được dùng để ước lượng cho những bước tiếp theo Ví dụ như bộđiều khiển được thay đổi kiểu điều khiển hoặc những thông số của bộ điều khiểnsau khi học nếu bộ điều khiển hiện tại không thoả mãn yêu cầu

Bộ điều khiển được huấn luyện có thể tăng hiệu quả hoạt động và có thể tạo

ra những bộ điều khiển bền vững Bộ điều khiển có thể bù một số lượng lớnnhững thay đổi trong bộ điều khiển và môi trường hoạt động của nó Luật họcnhằm để xác định các thông số của bộ điều khiển Neuron để hệ thống hoạt độngtối ưu Luật học có khả năng cải tiến những hành vi trong tương lai dựa vàonhững thông tin trong hiện tại Cả bộ điều khiển học hỏi và thích nghi có thể đượcthực hiện dùng giải thuật điều chỉnh thông số dựa vào thông tin hồi tiếp

Mô hình của một bộ điều khiển Neuron được biễu diễn ở hình sau :

Bộ điều khiển được gọi là bộ điều khiển học hỏi nếu những thông tin không rõ Desired response

Learningalgorithm

Neural network

Plant [

]

.

f x=

y =

Error

Output

T h a à y Nguyễn Thiện

1.1.4 Cấu trúc sinh học của Neuron :

Bộ não người bao gồm xấp xỉ 100 tỷ tế bào thần kinh , còn được gọi làNeuron Tất cả những hoạt động của con người phụ thuộc vào những tế bào nhỏbé này Mỗi Neuron kết hợp với nhiều Neuron khác tạo thành mạng Neuron Sựkết nối thành mạng tạo làm cho con người có khả năng tính toán và ghi nhớ Neuron là đơn vị cơ bản của hệ thần kinh trung tâm ( Central NervousSystem:CNS ) , những Neuron này có chức năng xử lý và thông tin qua lại từnhững bộ phận khác nhau của cơ thể con người Theo quan điểm về xử lý thôngtin , mỗi Neuron bao gồm 3 phần ,mỗi phần liên hệ với nhau bằng một phươngtrình toán cụ thể :

Denrite : có chức năng nhận thông tin từ những Neuron khác

Thân Neuron ( hay Soma ) :thu thập và kết nối những thông tin nhận đượctừ những Neuron khác

Đầu ra Axon :mỗi Neuron chỉ có một đầu ra axon có chức năng truyềnthông tin đến các Neuron khác

Điểm nối giữa đầu ra Axon và đầu vào dendrite của Neuron gọi làsynapse ,synapse có chức năng như một bộ nhớ Một đầu ra axon có thể liên kếtvới hàng trăm synapse từ các Neuron khác Cấu trúc sinh học của Neuron đượcmô tả ở hình sau :

Mô hình toán cho đầu ra của Neuron được định nghĩa như sau :

i=1

Synapse kích động Synapse thụ động

Dendrite

soma

Neural Processor

T h a à y Nguyễn Thiện

với [x1, ,xn] là đầu vào của Neuron [w1, ,wn] là trọng số y(t) : là đầu ra Neuron ; y [.] : là hàm tác độngphi tuyến w0 : giá trị ngưỡng

Mạng nuôi tiến là mô hình thường được đề cập ,mô hình này đáp ứng ngaylập tức đến các đầu vào vì cấu trúc của nó không chứa các yếu tố động ,vì vậycấu trúc mạng này còn được gọi là mạng Neuron tĩnh Mô hình mạng tĩnh m đầuvào và n đầu ra được mô tả như ở hình sau :

hợp yếu tố hồi tiếp và yếu tố động trong cấu trúc của nó Mô hình mạng truyềnlùi được mô tả như sau :

Với sự phát triển song song của logic mờ ,nhiều mô hình mạng Neuron chứanguyên tắc của mạng Neuron và cả logic mờ đang được phát triển Mặc dù ,cácmạng tĩnh ,động và các mạng Fuzzy_Neuron đang được ứng dụng trong nhiều bộ

x1

x2

xm

y1

y2

yn

1.2.2 Tính toán trong mạng Neuron :

Mục đích của việc nghiên cứu những tính toán trong mạng Neuron là để pháttriển mô hình toán mạng Neuron mà không cần thiết nghiên cứu về mặt sinhhọc ,mô hình toán có thể thực hiện bằng những hàm tính toán khác nhau MạngNeuron nhân tạo (ANNs) ,hay những mạng Neuron đơn giản thường được mô tảbằng những mô hình kết nối hay mạng xử lý phân bố song song (paralleldistributed processing networks)

Bắt đầu với sự phát triển của những tính toán Neuron dựa trên những hiểubiết về cấu trúc sinh học của nó cùng với luật học Điều này dẫn đến quá trìnhtính toán trong mạng Neuron được thực hiện theo 3 bước sau :

Phát triển mô hình Neuron dựa trên cấu trúc sinh học của nó

Mô hình kết nối và cấu trúc synapse

Luật học Các nhà nghiên cứu đã khám phá ra nhiều cấu trúc mạng Neuron khác nhaunhưng nếu xét về cấu trúc ;mạng Neuron có thể phân thành mạng tĩnh ,mạngđộng ,mạng một lớp và mạng nhiều lớp Hơn nữa ,những cách tính toán khác nhautrong mạng Neuron cũng làm nảy sinh những cách kết nối synapse khác nhau giữacác Neuron

Mặc dù các nhà nghiên cứu đã đưa ra nhiều cấu trúc mạng Neuron cũng nhưgiải thuật học khác nhau ,những mạng Neuron cũng có chung nhiều đặc tính ,mànhững đặc tính này là duy nhất đối với một hệ sinh học Những đặc tính này tươngphản với phương pháp tính toán truyền thống Những tính toán trong mạng Neuroncó thể điều tiết nhiều đầu vào song song và mã hoá thông tin theo mô hình phânbố Kiểu mã hoá này tương phản với sơ đồ bộ nhớ truyền thống ,ở đó những mẫuthông tin cụ thể được chứa trong một vùng bộ nhớ Sự phân phát bộ nhớ trong

T h a à y Nguyễn Thiện

mạng Neuron có nhiều thuận lợi ,quan trọng nhất là bộ nhớ chứa dư ra nhiềuthông tin tiêu biểu một lúc Vì vậy mạng Neuron vẫn có thể hoạt động tốt khi bịphá huỷ một vài bộ phận trong cấu trúc mạng

Thuộc tính của mạng Neuron như luật học ,sự tổng hợp thông tin dư thừa vàdung sai cho phép là động cơ chọn lựa mô hình sinh học thích hợp cho mạngNeuron Những kích thích (potential benefits) của mạng Neuron có thể được tómtắt như sau :

Mô hình Neuron có nhiều Neuron liên kết với nhau theo một cấu trúc songsong Vì có cấu trúc song song nên sự bất thường của một vài Neuron không gây

ra những ảnh hưởng quan trọng lên toàn bộ hệ thống Đặc tính này được xem nhưdung sai

Chiều dài của mạng phụ thuộc vào luật học và khả năng thích nghi củanó Khả năng thích nghi và học từ môi trường có nghĩa là mạng Neuron có thể xửlý được những dữ liệu mơ hồ,không rõ ràng(imprecise data) và những tình huốngkhông được định nghĩa tốt (ill_defined situation ).Mạng được huấn luyện thích hợpsẽ có khả năng tổng hợp khi đầu vào không xuất hiện trong quá trình huấn luyện

Đặc tính quan trọng nhất của mạng Neuron là khả năng xấp xỉ những hàmliên tục phi tuyến đến độ chính xác mong muốn Khả năng này của mạng làm chochúng trở nên hữu ích khi xây dựng một mô hình trong bộ điều khiển phi tuyến

Mạng Neuron có thể có nhiều đầu vào và nhiều đầu ra nên có thể ứngdụng cho nhiều hệ thống khác nhau

Với sự tiến bộ của kỹ thuật phần cứng ,gần đây nhiều nhà cung cấp đã giớithiệu kỹ thuật VLSI trong mạng Neuron,điều này làm tăng tốc độ tính toán trongmạng

Mặc dù một số lượng lớn những phép toán trong mạng Neuron và giải thuậthọc được đưa ra ,nhưng hầu hết những mạng này đều có một đặc tính chung nàođó với hệ Neuron sinh học Cấu trúc cơ bản của một mạng Neuron bao gồm nhiềuNeuron được phân bố song song và cách thức giải mã thông tin trong kết nốisynapse và cách thức gọi thông tin với đáp ứng đầu vào hiện tại Các mạngNeuron khác nhau đều có cách học tương tự nhau ,chúng đều rút ra những kinhnghiệm từ những dữ liệu được đưa vào

T h a à y Nguyễn Thiện

Trên đây là những giới thiệu tổng quát về cấu trúc mạng Neuron Mô tả chi tiết về cấu trúc mạng động và mạng tĩnh sẽ được trình bày trong các phần sau

1.3 Mạng nuôi tiến hay còn gọi là mạng tĩnh :

1.3.1 Mô hình toán của mạng nuôi tiến :

Một Neuron bao gồm synapse ( điểm nối ) và soma ( thân Neuron ) Trong môhình mạng Neuron ,đầu ra axon của Neuron này được nối với các đầu vàodendrite của các Neuron khác thông qua kết nối synapse và sự kết nối này quyếtđịnh trọng số giữa các Neuron Mỗi soma có trung bình 104 đầu vào dendrite và

soma có chức năng tổng hợp trọng số của tất cả các đầu vào này Nếu trọng sốnày lớn hơn giá trị ngưỡng thì nó sẽ tạo thành xung kích ở đầu ra Neuron ,nhữngxung kích này thông qua axon để chuyển đến đầu vào các Neuron khác

Nhìn ở góc độ về xử lý tín hiệu ,Neuron có hai yếu tố then chốt là synapse vàsoma-nó có chức năng tính toán và nhớ những dữ liệu trong quá khứ Mỗi synapselà một phần tử để lưu trữ dữ liệu (hay trọng số ) và nó sẽ được học để hiệu chỉnhnhững trọng số này cho đến khi đạt được đầu ra như mong muốn Soma có nhiệmvụ tổng hợp các trọng số đầu vào của Neuron và tạo thành kích thích ở đầu raAxon thông qua hàm tác động dạng phi tuyến

Một cách đơn giản , ta có xem một Neuron như là một phần tử xử lý thông tin (PE) gồm có n đầu vào X(t) =[x1 (t), x2 (t), , x n (t)] T ∈R n và đầu ra vô hướng

y(t) ∈R1 Vector đầu vào X(t) chính là các đầu ra của các Neuron ở lớp trước hay từ các Neuron cảm biến từ môi trường

Xét về mặt toán học khả năng xử lý thông tin của một Neuron được xem nhưlà phép toán ánh xạ phi tuyến(NE) từ Vector đầu vào X(t) ∈ R n đến đầu ra mongmuốn y(t) ∈R1 :

Ne : X(t) ∈ R n y(t) ∈R1 (1.2)

với W(t) vector trọng số ,Ψ[.] là hàm tác động phi tuyến

Ánh xạ phi tuyến Ne bao gồm 2 thành phần là : Hàm tổng hợp và Hàm tácđộng phi tuyến Hàm tổng hợp cung cấp trọng số ,cách kết nối và giá trị ngưỡngđến đầu vào Neuron Để tính toán giá trị ngưỡng chúng ta sẽ định nghĩa thêm mộtvector ở đầu vào Neuron ,lúc này đầu vào và trọng số của Neuron được cho nhưsau :

X a (t) =[x0 (t), x1 (t), , x i (t), , x n (t)] T ∈R n+1 (1.4) với x0 (t) =1

SVTH : Hoàng Trung Hiếu & Nguyễn Trung Dũng trang 12

Lúc này ,mô hình của một Neuron có thể được biểu diễn như sau :

y ∈

Axon Neural output

và W a (t) = [w0 (t), w1 (t), , w i (t), , w n (t)] T ∈R n+1 (1.5)

trong đó w0(t) là giá trị ngưỡng ,Xa(t) là vector đầu vào ,Wa(t) là vector trọngsố

a Hàm tổng hợp :

Về mặt sinh học ,hàm tổng hợp tượng trưng cho trọng số của tín hiệu đầu vàoXa(t) ,dữ liệu được tồn trữ tại vector trọng số (synapse ) Wa(t) ,sự kết nối nhữngtrọng số đầu vào được thực hiện bởi Soma Synapse và Soma ánh xạ tuyến tínhnhư được mô tả ở phương trình sau :

u(t) =W a (t) T X a (t) =∑n w i x i (1.6) ; Xa(t) và Wa(t) được định nghĩa

phương trình (1.4) và (1.5)

b Chức năng của hàm tác động phi tuyến :

Các chức năng của hàm tác động phi tuyến Ψ[.] ánh xạ giá trị hàm tổng hợpu(t) thành giá trị đầu ra Nhìn chung đầu ra của Neuron trong khoảng [0,1] hoặc[1,1],và được tính như sau :

MỘT SỐ HÀM TÁC ĐỘNG THÔNG THƯỜNG :

+ Hàm bậc thang đơn vị :

c Luật học :

Trọng số và phép tổng hợp được thực hiện bởi synapse và soma ,chúng tạo raphép đo đồng bộ giữa vector đầu vào Xa(t) và vector trọng số Wa(t) Khi có mộtđầu vào mới thì nó sẽ được so sánh với dữ liệu ở các bước học trước để hiệu chỉnhcác trọng số sao cho sai số ở đầu ra giảm đi Nói cách khác quá trình huấn luyện(học ) là làm cho vector Xa(t) tương đương với vector Wa(t)

Hầu hết cấu trúc của mạng neuron đều phải trải qua quá trình học để cập nhậttrọng số Giải thuật để thay đổi trọng số được gọi là luật học Mục đích của luậthọc phụ thuộc vào từng ứng dụng

Trong bài toán về phân loại và xấp xỉ ,mỗi lần huấn luyện xong một cơ sở dữliệu được gọi là chu kỳ huấn luyện Tuy nhiên không có công thức tổng quát đểhuấn luyện chung cho các mạng neuron Giản đồ minh hoạ cho những luật họckhác nhau để cập nhật trọng số được trình bày trong hình sau :

Học giám sát Học không giám sát

Theo như hình vẽ trên , nếu chỉ xét về học thông số thì luật học có thể phânloại thành luật học giám sát và luật học không giám sát

Giải thuật học giám sát:

Dùng một tín hiệu mong muốn ở ngoài như một thầy giáo và sai số của tínhiệu được phát sinh bằng cách so sánh đầu ra mong muốn và đầu ra thực sự củamạng Dựa trên tín hiệu sai số mạng neuron sẽ cải tiến trọng số để cải tiến hoạtđộng của hệ thống với giả sử đầu ra mong muốn của mạng được biết trước nhưhình sau :

∆Wa(t) ya(t)

Phương trình tổng quát cho giải thuật học giám sát được trình bày như sau :wi(t+1) = wi(t) + ∆wi(t) (1.8) với ∆wi (t) = µ.xi (t) [yd(t) – y(t)](1.9)

Với wi(t) là trọng số khi đầu vào là x(t), ∆wi(t) là sự thay đổi của trọng số , µlà hằng số học ,yd(t) là đầu ra mong muốn , y(t) là đầu ra thực sự của mạng Sự

Học thông số Học cấu trúc

Học Neuron

+

-

y(t) ∈ R1xWa(t)T ψ[u(t)]

Lỗi dựa trên luật học

Xa(t) ∈ Rn+1

lựa chọn hằng số học µ rất quan trọng trong luật học này, một giá trị rất nhỏ củahằng số học sẽ làm cho kết quả học chậm đi rất nhiều, một giá trị lớn của hằng sốhọc sẽ làm cho quá trình học diễn ra nhanh hơn nhưng nó cũng có thể làm cho hệthống trở nên dao động bất ổn định

Giải thuật học không giám sát:

Ngược lại ,luật học không giám sát không có tín hiệu mong muốn Trong cáchhọc này không có thông tin hồi tiếp từ môi trường để báo các đầu ra thực sự củamạng là đúng hay sai, mạng sẽ tự điều chỉnh các trọng số kết nối giữa các neuronbằng cách sử dụng các đầu ra thực sự của mạng Có hai cấu trúc quan trọng củaluật học không giám sát đó là luật học Hebbian và luật học cạnh tranh Luật họcHebbian làm thay đổi trọng số theo đáp ứng tương quan của hai neuron nối liềnnhau Luật học Hebbian đơn giản dùng để mô tả tương quan giữa tín hiệu đầu vàovà tín hiệu đầu ra được mô tả bằng phương trình :

∆w i (t) =mx i (t)y(t)

Mô hình mô tả luật học Hebbian :

nguyên tắc một đầu vào đại diện cho một lớp neuron, mỗi neuron cạnh tranh đếntất cả các neuron khác để nhận được tín hiệu tích cực và gởi tín hiệu thụ động đếncác neuron xung quanh Sau một khoảng thời gian neuron có trạng thái hoạt độngLuật học Competitive được ứng dụng cho lớp neuron ẩn Luật học dựa trên

xWa(t)

)

lớn nhất sẽ tích cực (hay còn được gọi là neuron chiến thắng) và các neuron khácsẽ bị huỷ bỏ

Tóm lại : Có hai luật học là luật học giám sát và luật học không giám sát Họcgiám sát cần đầu ra mong muốn nếu đầu ra mong muốn là không biết truớc thìgiải thuật giám sát sẽ không thể sử dụng điều này có nghĩa là giải thuật giám sátsẽ trở nên hữu ích Gần như tất cả các mạng neuron kết hợp chặt chẽ hai luật nàyhoặc biến đổi chúng Tuy nhiên một vài mạng neuron có trọng số cố định vànhững mạng này hoạt động bằng cách thay đổi khả năng của mỗi neuron nếu nhưnó không thay đổi trọng số

1.3.2 Mạng nuôi tiến nhiều lớp :

Trong những phần trước, mô hình toán học chi tiết của một mạng neuron đơn (mạng một lớp ) đã được mô tả Mặc dù một mạng đơn có thể thực hiện một chứcnăng đơn giản nào đó nhưng khả năng tính toán của mạng phụ thuộc vào số lượngneuron được kết nối trong cấu trúc mạng Một mạng lớn đưa ra một khả năng tínhtoán vĩ đại Sự xắp xếp neuron trong một lớp bắt chước một phần cấu trúc của bộnão con người Những mạng neuron nhiều lớp được chứng minh rằng có khả năngvượt xa mạng neuron đơn Cấu trúc mạng neuron được dùng thông thường nhấttrong các ứng dụng như các hệ thống nhận dạng và điều khiển là những mạngneuron nhiều lớp (Multilayer neural network :MNN) với giải thuật truyền lùi saisố

Một mạng (MNN) tiêu biểu gồm một lớp neuron đầu vào, một lớp neuron đầu

ra và một lớp neuron ẩn được biểu diễn như hình sau :

Hay mô hình khối :

Input layer Hidden layer Output layer

neuron đầu vào , neuron ẩn và neuron đầu ra

Tất cả các thông tin đều được lưu trữ trong trọng số của mạng nuôi tiến trongsuốt quá trình học Các phần tử của ma trận trọng số w1 a(t), w 2 a(t), w 3 a(t) thườngxuyên được cập nhật giá trị mới Luật học giám sát dựa trên sai số phát sinhthường được dùng để xác định ∆w1 a(t) , ∆w 2 a(t), ∆w 3 a(t) Trọng số cũng có thểđược cập nhật dùng giải thuật giảm sai số hay thường được gọi là giải thuật truyềnlùi bằng cách truyền sai số về phía sau từ nút đầu ra thông qua lớp neuron ẩn đểđiều chỉnh trọng số Một mạng nuôi tiến có thể dùng kỹ thuật học không giám sátnếu trọng số của mạng nuôi tiến được cập nhật dùng luật học Hebbian Với mạngnuôi tiến nhiều lớp luật học được sử dụng phổ biến là giải thuật học truyền lùi.Giải thuật truyền lùi là một luật tổng quát hoá luật bình phương sai số tối thiểucho một mạng neuron nhiều lớp Nó cố gắng giảm sai số tại mỗi nút bằng cách tốithiểu trọng số nhiễu loạn và cải tiến nội dung của thông tin trước khi giải mã trọngsố Giải thuật học truyền lùi có thể được áp dụng đến mạng có lớp neuron ẩn bấtkỳ bằng cách tính sai số đầu ra và sai số được truyền lùi về lớp đứng trước nó vàcập nhật trọng số với sai số tối thiểu Nguyên tắc của giải thuật học truyền lùiđươc tóm tắt như sau :

vCấu trúc mạng neuron dùng giải thuật học truyền lùi tiêu biểu bao gồm lớp neuron đầu vào ,lớp neuron ẩn và lớp neuron đầu ra Lớp neuron ẩn có thể có nhiều lớp, rất khó xác định mô hình của mạng neuron có bao nhiêu lớp ẩn là cần thiết cho một ứng dụng cụ thể Không có nhiều tính toán xảy ra ở lớp neuron đầu

n