chương 1 quá trình huấn luyện trong hệ thống điều khiển neuron

Nguyễn Thiện CHƯƠNG 1: QUÁ TRÌNH HUẤN LUYỆN TRONG HỆ THỐNG ĐIỀU KHIỂN NEURON 1.1 Giới Thiệu : 1.1.1 Hệ điều khiển neuron sinh học : Với phát triển loại máy móc ,ngày nhà khoa học muốn tạo loại máy hoạt động độc lập với điều khiển người môi trường thay đổi không chắn , máy gọi máy tự động hay máy thông minh ( hay thường gọi robot ) Sự thành công robot phụ thuộc vào khả xử lý nhiều tình đa dạng môi trường hoạt động Mục tiêu nhà khoa học tạo robot hoạt động liên tục hồi tiếp hành động Robot thực công việc mà máy móc thông thường điều khiển tay khó thực Ngoài ,robot thích nghi thực hiệu công việc môi trường thay đổi Vì ,robot hữu ích thay người công việc khó khăn ,nguy hiểm ,và nhàm chán sử dụng robot chiến tranh , lò phản ứng hạt nhân , quân , dò phá mìn Cấu trúc mạng sinh học xem nguồn gốc khung để thiết kế robot Mô hình mạng sinh học cung cấp không động mà vài manh mối để phát triển giải thuật học thích nghi bền vững robot Ngày ,kỹ thuật điều khiển thích nghi bền vững phổ biến so với kỹ thuật điều khiển cổ điển điều khiển tỷ lệ (P) , tích phân (I) , vi phân (D) điều khiển vi tích phân (PID) mô hình tham khảo điều khiển thích nghi Cơ cấu điều khiển dùng mạng sinh học phù hợp để điều khiển đối tượng có mô hình phức tạp, không chắn Mô hình mạng thường phức tạp bất chấp mô hình toán xác Chúng thực nhiệm vụ phức tạp mà không cần xây dựng mô hình toán đối tượng môi trường mà hoạt động ; điều có nghóa ta giải toán tích phân ,vi phân toán phức Nguyễn Thiện Ví dụ : hành vi cầm ly nước người Trước tiên ,bộ não người tác động lên ly nước ;và xác định khoảng cách từ tay đến ly nước tính toán hướng di chuyển tay để cầm ly nước ,sau não lên kế hoạch thực công việc cầm ly nước lên Cũng não người , mạng sinh học thực công việc dựa vào khả nhận thức Những bước tính toán hoàn toàn dựa vào tiềm thức Ở ,chúng ta không xem xét đến quan hệ cổ tay với khuỷu tay vai , sức lực người Mà tính toán chi tiết góc hay lực thực mức thấp tính toán tiềm thức nằm hệ thống thần kinh trung tâm (CNS) Ngoài , hệ điều khiển sinh học học để thực công việc thích nghi với thay đổi môi trường cách dễ dàng Giả thuyết , nguyên tắc tính toán neuron hệ điều khiển sinh học sáng tỏ ,lúc điều khiển hệ phát triển bền vững thông minh vượt xa khả điều khiển cổ điển dựa mô hình toán học Mặc dù nhiều nhà sinh vật học tâm lý học cho não có cấu trúc module thần kinh Nhưng nhìn chung số lượng module thần kinh hay cách hình thành cấu trúc module thần kinh Lý module tự nhiên não có số lượng lớn phận tác động qua lại với Thậm chí xây dựng mô hình với vài phận tương tác qua lại ( để so sánh với não thật ) xuất tính toán kinh khủng phân tích khó khăn Trong nhiều trường hợp , mô hình toán cung cấp công công cụ cần thiết để làm rõ khía cạnh khác hệ thống Thiên nhiên tạo cấu trúc thần kinh phức tạp loài sinh vật Có 100 tỷ neuron sinh học hệ thống thần kinh trung tâm người , chúng đóng vai trò quan trọng khía cạnh khác trình xử lý thông tin thực định ( nhận biết ,điều khiển nhận thức ) Trong trình xử lý thông tin ;xuất hoạt động đa dạng ,phức tạp chức ánh xạ ( mapping function ) cấu trúc tầng song song ( parallel_cascade ) ,hình thành mô hình phức tạp lớp Neuron phát triển thành mô hình hình chóp Thông tin truyền từ lớp Nguyễn Thiện Neuron sang lớp Neuron khác theo hướng tiến liên tục hồi tiếp để hình thành cấu trúc hình chóp động 1.1.2 Những tiền đề để thiết kế hệ thống điều khiển cổ điển : Phương pháp thiết kế hệ thống điều khiển cổ điển dựa mô hình toán học mô tả hành vi đối tượng ứng dụng kỹ thuật phân tích mô hình để đến luật điều khiển Thông thường , mô hình toán thường chứa phương trình vi phân tuyến tính phi tuyến Hầu hết phương trình xây dựng xấp xỉ đơn giản hoá Đối với đối tượng phức tạp hoạt động môi trường thay đổi kỹ thuật cổ điển gặp khó khăn xây dựng mô hình toán luật điều khiển ,thậm chí thực Mô hình hệ thống điều khiển có hồi tiếp liên quan đến sai số mô hình đơn giản hoá mô hình thực ; sai số định hành vi hoạt động hệ thống Có hai phương pháp điều khiển thường mô tả để đạt kết điều khiển theo ý muốn từ hiểu biết mơ hồ đối tượng Phương pháp thứ ổn định bền vững (robust stabilizer ) hay gọi điều khiển bền vững Điều khiển thích nghi (Adaptive control) phương pháp thứ hai để giải toán điều khiển cho đối tượng phức tạp Các thông số điều khiển thích nghi phải phù hợp với giải thuật thích nghi để giữ cho hệ thống hoạt động mong muốn Nhìn chung ,bộ điều khiển thích nghi áp dụng rộng rãi để điều khiển đối tượng không chắn ,nhưng phức tạp điều khiển bền vững Sơ đồ điều khiển thích nghi mô tả sau : Input Nguyễn Thieän Plant Controlle r x(t)∈Rn Measurement Output x = f [.] s y(t) =g[.] Largely unknow y (t ) ∈ R y u(t) ∈Rn Adapt iv algorith e m J Performance Criterion , J Hình biểu diễn hệ thống điều khiển thích nghi Bộ điều khiển thích nghi đo giá trị đầu vào ,trạng thái đầu hệ thống động So sánh giá trị với giá trị mong muốn ,luật thích nghi hiệu chỉnh thông số điều khiển để đảm bảo đối tượng làm việc mong muốn Mặc dù kỹ thuật điều khiển thích nghi dùng rộng rãi ứng dụng chúng vào toán thực tế hạn chế Lý thực tế yếu tố ổn định ưu tiên hệ thống điều khiển thích nghi.Đối với hệ thống lớn phức tạp phức tạp phương pháp thích nghi truyền thống gây khó khăn cho người thực Hơn ,phương pháp cần hiểu biết bậc đối tượng điều khiển ;nhưng thực tế nhiều hệ thống ta bậc đối tượng nên việc áp dụng phương pháp điều khiển thích nghi truyền thống khó khăn thực Nguyễn Thiện 1.1.3 Giải thuật học điều khiển Neuron : Để đương đầu với đối tượng động không chắn , điều khiển phải ước lượng thông tin không rõ ràng suốt thời gian hoạt động Nếu thông tin ước lượng gần với thông tin thật điều khiển thiết kế điều khiển tối ưu.Sự cải tiến hành vi nhờ vào hiệu chỉnh thông tin ước lượng, điều khiển xem điều khiển học thích nghi Bộ điều khiển huấn luyện từ thông tin không rõ ràng suốt thời gian hoạt động ,thông tin dùng kinh nghiệm cho Mô hình điều khiển Neuron biễu diễn hình sau : Input Neural network Plant x(t)∈Rn Measurement y(t) ∈R1 x = f [ s y(t) =g[ ] ] Largely unknow Output Learning algorithm Desired response Erro r Bộ điều khiển gọi điều khiển học hỏi thông tin không rõ định điều khiển tương lai ràng đối tượng môi trường thu thập hoạt động thông tin dùng để ước lượng cho bước Ví dụ điều khiển thay đổi kiểu điều khiển thông số điều khiển sau học điều khiển không thoả mãn yêu cầu Bộ điều khiển huấn luyện tăng hiệu hoạt động tạo điều khiển bền vững Bộ điều khiển bù số lượng lớn thay đổi điều khiển môi trường hoạt động Luật học nhằm để xác định thông số điều khiển Neuron để hệ thống hoạt động tối ưu Luật học có khả cải tiến hành vi tương lai dựa vào thông tin Cả điều khiển học hỏi thích nghi thực dùng giải thuật điều chỉnh thông số dựa vào thông tin hồi tiếp Nguyễn Thiện 1.1.4 Cấu trúc sinh học Neuron : Bộ não người bao gồm xấp xỉ 100 tỷ tế bào thần kinh , gọi Neuron Tất hoạt động người phụ thuộc vào tế bào nhỏ bé Mỗi Neuron kết hợp với nhiều Neuron khác tạo thành mạng Neuron Sự kết nối thành mạng tạo làm cho người có khả tính toán ghi nhớ Neuron đơn vị hệ thần kinh trung tâm ( Central Nervous System:CNS ) , Neuron có chức xử lý thông tin qua lại từ phận khác thể người Theo quan điểm xử lý thông tin , Neuron bao gồm phần ,mỗi phần liên hệ với phương trình toán cụ thể : Denrite : có chức nhận thông tin từ Neuron khác Thân Neuron ( hay Soma ) :thu thập kết nối thông tin nhận từ Neuron khác Đầu Axon :mỗi Neuron có đầu axon có chức truyền thông tin đến Neuron khác Điểm nối đầu Axon đầu vào dendrite Neuron gọi synapse ,synapse có chức nhớ Một đầu axon liên kết với hàng trăm synapse từ Neuron khác Cấu trúc sinh học Neuron mô tả hình sau : Nguyễn Thiện Dendrite soma Synapse kích động Synapse thụ động Từ cấu trúc ,ta xem Neuron hệ thống nhiều đầu vào đầu mô tả sau : Neural Input Neural output Neural Processor x(t)∈R n y(t)∈R1 1.2 Tổng quát cấu trúc Neuron : 1.2.1 Giới thiệu : Mạng Neuron sinh học có đặc tính phức tạp đa dạng ,vì việc đưa đặc tính phức tạp vào mô hình khó khăn Để đạt mục tiêu , cấu trúc Neuron sinh học ( gọi Neuron đơn vị ) phát triển mô hình mạng Neuron Neuron có đầu vào nhận từ đầu Neuron khác hay từ môi trường bên Tổng trọng số đầu vào thiết lập thành hàm tác động phi tuyến Một Neuron kích động tổng trọng số đầu vào lớn giá trị ngưỡng w Mô hình toán cho đầu Neuron định nghóa sau : y(t) =y[∑n wi xi − w0 ] i=1 (1.1) Nguyễn Thiện với [x1, ,xn] đầu vào Neuron [w1, ,wn] trọng số phi tuyến y(t) : đầu Neuron ; y [.] : hàm tác động w0 : giá trị ngưỡng Mạng nuôi tiến mô hình thường đề cập ,mô hình đáp ứng đến đầu vào cấu trúc không chứa yếu tố động ,vì cấu trúc mạng gọi mạng Neuron tónh Mô hình mạng tónh m đầu vào n đầu mô tả hình sau : hợp yếu tố hồi tiếp yếu tố động cấu trúc Mô hình mạng truyền lùi mô tả sau : x1 y1 x2 xm y2 yn Với phát triển song song logic mờ ,nhiều mô hình mạng Neuron chứa nguyên tắc mạng Neuron logic mờ phát triển Mặc dù ,các mạng tónh ,động mạng Fuzzy_Neuron ứng dụng nhiều Nguyễn Thiện điều khiển ,nhưng mô hình mạng Neuron mô lờ mờ theo mô hình thực Những năm trước ,các nhà nghiên cứu đưa nhiều mô hình mạng tónh ,động Fuzzy_Neuron khác Mô tả chi tiết mô hình khó thực Tuy nhiên ,chúng ta cố gắng đưa số khái niệm cấu trúc Neuron khác mà cấu trúc thường dùng mô hình điều khiển 1.2.2 Tính toán mạng Neuron : Mục đích việc nghiên cứu tính toán mạng Neuron để phát triển mô hình toán mạng Neuron mà không cần thiết nghiên cứu mặt sinh học ,mô hình toán thực hàm tính toán khác Mạng Neuron nhân tạo (ANNs) ,hay mạng Neuron đơn giản thường mô tả mô hình kết nối hay mạng xử lý phân bố song song (parallel distributed processing networks) Bắt đầu với phát triển tính toán Neuron dựa hiểu biết cấu trúc sinh học với luật học Điều dẫn đến trình tính toán mạng Neuron thực theo bước sau : Phát triển mô hình Neuron dựa cấu trúc sinh học Mô hình kết nối cấu trúc synapse Luật học Các nhà nghiên cứu khám phá nhiều cấu trúc mạng Neuron khác xét cấu trúc ;mạng Neuron phân thành mạng tónh ,mạng động ,mạng lớp mạng nhiều lớp Hơn ,những cách tính toán khác mạng Neuron làm nảy sinh cách kết nối synapse khác Neuron Mặc dù nhà nghiên cứu đưa nhiều cấu trúc mạng Neuron giải thuật học khác ,những mạng Neuron có chung nhiều đặc tính ,mà đặc tính hệ sinh học Những đặc tính tương phản với phương pháp tính toán truyền thống Những tính toán mạng Neuron điều tiết nhiều đầu vào song song mã hoá thông tin theo mô hình phân bố Kiểu mã hoá tương phản với sơ đồ nhớ truyền thống ,ở mẫu thông tin cụ thể chứa vùng nhớ Sự phân phát nhớ Nguyễn Thiện mạng Neuron có nhiều thuận lợi ,quan trọng nhớ chứa dư nhiều thông tin tiêu biểu lúc Vì mạng Neuron hoạt động tốt bị phá huỷ vài phận cấu trúc mạng Thuộc tính mạng Neuron luật học ,sự tổng hợp thông tin dư thừa dung sai cho phép động chọn lựa mô hình sinh học thích hợp cho mạng Neuron Những kích thích (potential benefits) mạng Neuron tóm tắt sau : Mô hình Neuron có nhiều Neuron liên kết với theo cấu trúc song song Vì có cấu trúc song song nên bất thường vài Neuron không gây ảnh hưởng quan trọng lên toàn hệ thống Đặc tính xem dung sai Chiều dài mạng phụ thuộc vào luật học khả thích nghi Khả thích nghi học từ môi trường có nghóa mạng Neuron xử lý liệu mơ hồ,không rõ ràng(imprecise data) tình không định nghóa tốt (ill_defined situation ).Mạng huấn luyện thích hợp có khả tổng hợp đầu vào không xuất trình huấn luyện Đặc tính quan trọng mạng Neuron khả xấp xỉ hàm liên tục phi tuyến đến độ xác mong muốn Khả mạng làm cho chúng trở nên hữu ích xây dựng mô hình điều khiển phi tuyến Mạng Neuron có nhiều đầu vào nhiều đầu nên ứng dụng cho nhiều hệ thống khác Với tiến kỹ thuật phần cứng ,gần nhiều nhà cung cấp giới thiệu kỹ thuật VLSI mạng Neuron,điều làm tăng tốc độ tính toán mạng Mặc dù số lượng lớn phép toán mạng Neuron giải thuật học đưa ,nhưng hầu hết mạng có đặc tính chung với hệ Neuron sinh học Cấu trúc mạng Neuron bao gồm nhiều Neuron phân bố song song cách thức giải mã thông tin kết nối synapse cách thức gọi thông tin với đáp ứng đầu vào Các mạng Neuron khác có cách học tương tự ,chúng rút kinh nghiệm từ liệu đưa vào Phương trình mô tả cấu trúc HR bậc biểu diễn hình (b) viết lại sau : v(k+1) = x(k) +v(k) (1.12) Dùng hàm chuyển đổi viết lại sau : V(k) = X(k) −1 = + z-1 +z-2 + z-n n->∞ , z n ,wij trọng số kết nối neron thứ j neuron thứ i i Chúng ta biểu diễn tổng đầu vào ui neuron thứ i sau : n ui = ∑ wijyj + xi –w0i ; i = 1,2… n (1.15b) j=1 Biểu thức 1.15b viết lại sau : ui = wiTy + xi – w0i ; i = 1,2… n (1.15c) wi1 y1    wi2    y2  với wi =   vaø y =    win yn  Phần tuyến tính mạng tuần hoàn mô tả dạng ma trận sau : U = Wy + X – w0 u1 x1 wo1  với U = u 2  , X =  x2 , w0 =  .w02  (1.15d) un  xn w0n Ma trận W biểu thức 1.15d gọi ma trận kết nối (n x n) viết sau: 0 w2 w12 w32 w13 w1n w23 w2n  1 W = w3n w31   wn2 wn3    wn1 ma trận ma trận đối xứng wij = wji wii = nói lên kết nối b Mạng neuron thời gian trễ (TDNN): Ta sử dụng mạng tónh để xử lý liệu nối tiếp cách chuyển đổi thời gian liên tục thành mô hình rời rạc cách thời gian xem khía cạnh khác toán Từ thực tế biến đổi thời gian liên tục thành khoảng thời gian xác định cách đưa đầu vào liên tục vào cấu trì hoãn sau tín hiệu đưa vào mạng neuron tónh Một cấu trúc gọi mạng neuron trì hoãn thời gian Cấu trúc mạng dựa mạng nuôi tiến với yếu tố động phép toán làm trễ nên mạng TDNN xem mạng neuron động Đơn vị neuron thời gian trễ trình bày hình vẽ có chức lọc thích nghi cách tính tích vô hướng vector đầu vào Xa(k) vector trọng số Wa(k) Vector trọng số Wa(k) hiệu chỉnh giải thuật học bình phương sai số tối thiểu Đơn vị neuron huấn luyện cách lấy đầu mong muốn mạng làm đầu vào trì hoãn vùng tần số Tuy nhiên tín hiệu nhiễu đè lên vùng tần số sau trình xử lý có khuynh hướng lọc tín hiệu Nói cách khác cấu trúc làm suy yếu đặc tính hệ thống Đơn vị neuron thời gian trễ mô tả phương trình 1.16a 1.16b v(k ) = ∑n wi.x(k - i) (1.16a) i=0 y(k) = ψ[v(k)] (1.16b) c Đơn vị neuron động (Dynamic Neural Unit DNU) : Được đưa Gupta Rao mô hình động neuron sinh học, cấu trúc neuron phát triển dựa cấu trúc sinh học mạng neuron hồi tiếp liên tục Ví dụ hệ thống phản xạ vòng quanh nhóm neuron hệ thần kinh trung tâm (CNS),chức mô tả sau : tín hiệu kích thích đến neuron sau kích thích đến neuron thứ 2,3,4… nhiều nhánh trở neuron cung cấp hồi tiếp kích thích lại mô tả hình sau : transmission Sypaptic weight output input