Ứng dụng mạng Neural trong nhận dạng hệ thống phi tuyến T¹p chÝ Khoa häc & C«ng nghÖ Sè 3(43)/N¨m 2007 50 ỨNG DỤNG MẠNG NEURAL TRONG NHẬN DẠNG HỆ THỐNG PHI TUYẾN Nguyễn Hữu Công (Trường ĐH Kỹ thuật Cô[.]
Tạp chí Khoa học & Công nghệ - Số 3(43)/Năm 2007 ỨNG DỤNG MẠNG NEURAL TRONG NHẬN DẠNG HỆ THỐNG PHI TUYẾN Nguyễn Hữu Công (Trường ĐH Kỹ thuật Công nghiệp – ĐH Thái Nguyên) Đặt vấn đề Lí thuyết nhận dạng điều khiển đối tượng phi tuyến nhiều nhà khoa học nghiên cứu, nhiên giới hạn đối tượng có độ phi tuyến thấp Nhược điểm phương pháp nhận dạng truyền thống là: Thời gian xử lí chậm Khơng có cấu trúc xử lí song song Khơng có khả học ghi nhớ Khi đối tượng có tính phi tuyến cao, độ bất định lớn số chiều lớn mạng neural công cụ hữu hiệu Khả dùng mạng neural để xấp xỉ hàm liên tục Mạng neural hệ mờ có khả xấp xỉ vạn nên năm gần chúng sử dụng rộng rãi có hiệu tốn nhận dạng điều khiển, đặc biệt hệ thống có độ phi tuyến cao Cơ sở tốn học việc khẳng định mạng neural công cụ xấp xỉ vạn hàm số liên tục dựa định lý Stone – Weierstrass Kolmogorov[1], [2] Việc sử dụng định lý Stone – Weierstrass để chứng minh khả xấp xỉ mạng noron tác giả Hornic et al., Funahashi, Cotter, Blum đưa từ năm 1989 Các mạng noron thỏa mãn định lý Stone – Weierstrass kể đến mạng lượng giác, mạng hai lớp với hàm kích hoạt sigmoid, mạng hai lớp với hàm kích hoạt McCulloch – Pitts(MC - P) mạng với hàm sở xuyên tâm(RBF)[1], [2] Việc sử dụng định lý Kolmogorov để biểu diễn xác hàm liên tục đưa sơ đồ mạng neural tương ứng Hecht - Nielson Lorents công bố[1], [2] Ứng dụng mạng neural nhận dạng hệ thống phi tuyến 3.1 Phân loại hệ thống phi tuyến Các hệ thống phi tuyến SISO rời rạc thực tế phân thành mơ sau: Mơ hình I: y p (k + 1) = ∑ α i y p (k − i ) + g[u(k ), u(k − 1), , u(k − (m − 1))] n −1 (1) i =0 Mơ hình II: [ ] y p (k + 1) = f y p (k ), y p (k − 1), , y p (k − ( n − 1)) + 50 ∑ β i u(k − i ) m −1 i =0 (2) T¹p chÝ Khoa học & Công nghệ - Số 3(43)/Năm 2007 Mụ hỡnh III: [ ] y p (k + 1) = f y p (k ), y p (k − 1), , y p (k − (n − 1) ) (3) + g [u (k ), u (k − 1), , u (k − (m − 1) )] Mơ hình IV: [ ] y p (k + 1) = f y p (k ), y p (k − 1), , y p (k − (n − 1) ); u (k ), u (k − 1), , u (k − ( m − 1) ) (4) Trong đó: [u(k), yp(k)]: biểu thị cặp đầu vào – hệ SISO thời điểm k m ≤ n n Các hàm: f : R → R mơ hình II III, hàm f : R n +m → R mơ hình IV hàm g : R m → R phương trình (1) đến (4) giả thiết hàm khả vi theo argument chúng Trong mơ hình đầu hệ thời điểm k+1 phụ thuộc vào n giá trị khứ yp(k-i), (i=0,1, ,n-1) m giá trị khứ đầu vào u(k-j), (j=0,1, ,m-1) - Trong mơ hình I, phụ thuộc đầu vào giá trị khứ yp (k-i) tuyến tính - Trong mơ hình II, phụ thuộc đầu vào giá trị khứ đầu vào u(k-j) tuyến tính - Trong mơ hình III, phụ thuộc phi tuyến yp(k+1) vào yp(k-i) u(k-1) giả thiết phân tách - Trong mơ hình IV, yp(k+1) hàm phi tuyến yp(k-i) u(k-j), gộp mơ hình I-III Từ nhiều kết nghiên cứu đưa đầy đủ điều kiện cần thiết cho hàm f hàm g, đồng thời dùng mạng neural nhiều lớp để xấp xỉ gần bước Giả thiết hàm f g thuộc lớp biết phạm vi quan tâm hệ mô tả mạng neural tổng quát Từ giả thiết đưa lựa chọn mơ hình nhận dạng cho phép giải tốn nhận dạng đặt Q trình nhận dạng mơ hình xem điều chỉnh tham số mạng neural Một hệ động học phi tuyến mơ tả mơ Nếu hệ nhận dạng sử dụng liệu vào – phải có đầu giới hạn phù hợp với đầu vào Điều nói nên mơ hình chọn mơ tả tính chất hệ thống 3.2 Nhận dạng hệ thống phi tuyến mạng neural Bài toán nhận dạng đối tượng mạng neural xây dựng sở sau: • Lớp mơ hình thích hợp đối tượng chọn mơ hình mạng neural • Loại tín hiệu quan sát tín hiệu hình sin ngẫu nhiên • Phương thức mơ tả sai lệch mơ hình đối tượng thực trung bình bình phương sai lệch (mse), biểu diễn dạng công thức sau: Q= N ∑ ek → N k =1 (5) 51 Tạp chí Khoa học & Công nghệ - Số 3(43)/Năm 2007 vi N l s mu, ek sai lệch đầu mơ hình đối tượng tương ứng với mẫu thứ k Q hàm mục tiêu tốn huấn luyện mạng neural Đối tượng T P e NN W,b Hình1 Mơ hình nhận dạng Trên sở sai lệch mse đầu ra, mơ hình mạng neural NN huấn luyện, sau huấn luyện thu tham số trọng số tham số bù (W, b) 3.3 Kết nhận dạng Vì nội dung giới hạn báo, xét ví dụ sau: Giả sử cần nhận dạng đối tượng phi tuyến có mơ hình tốn học sau: y p (k + 1) = 0,3.y p (k) + 0,6.y p (k − 1) + f[u(k)] (6) f[u(k)] = 0,6.cos( πu) + 0,3.cos(3πu) + 0,1.cos(5πu) (7) Với tín hiệu vào: u(k) = cos( πk ) 250 (8) Phương trình tốn học mơ hình nhận dạng có sử dụng mạng neural: y ' p (k + 1) = 0,3.y p (k) + 0,6.y p (k − 1) + N[u(k)] (9) So sánh hai phương trình yp(k+1) y’p(k+1) ta thấy cần xây dựng mạng neural có quan hệ vào theo luật hàm N tương quan với luật hàm f mạng neural cần xác định cấu trúc, sau luyện với mẫu (u(k),f[u(k)]) Ta sử dụng mạng neural lớp để nhận dạng [3]: Lớp vào có neural, sử dụng hàm purelin Lớp Nn có neural, sử dụng hàm tansig Lớp có neural, sử dụng hàm purelin Kết nhận mô Matlab sau: 52 Tạp chí Khoa học & Công nghệ - Số 3(43)/Năm 2007 Performance is 4.7323e-011, Goal is 1e-015 10 -2 10 -4 Training-Blue Goal-Black 10 -6 10 -8 10 -10 10 -12 10 -14 10 -16 10 1000 2000 3000 4000 5000 6000 10000 Epochs 7000 8000 9000 10000 Hình Các kỉ nguyên luyện mạng Ket xuat thuc Ket xuat dich 1 0.5 0.5 0 -0.5 -0.5 -1 -1 -0.5 0.5 -5 -1 -1 -0.5 0.5 0.6 0.8 Sai so giua mo hinh mau va doi tuong x 10 -1 -2 -1 -0.8 -0.6 -0.4 -0.2 0.2 0.4 Hình3 Kết xuất thực, đích; sai số mơ hình đối tượng 53 T¹p chÝ Khoa học & Công nghệ - Số 3(43)/Năm 2007 Kt luận Từ cấu trúc mạng neural ta thấy, mạng neural hệ thống phi tuyến Vấn đề cịn lại ta phải biết chọn cấu trúc mạng, phương pháp huấn luyện mạng hợp lý Có thể ứng dụng mạng neural để nhận dạng mơ hình đối tượng phi tuyến Kết nhận mô hình đối tượng dạng mạng neural, sai lệch mơ hình neural với đối tượng nằm sai số cho phép, chấp nhận TÓM TẮT Bài báo trình bày khả sử dụng mạng neural việc xấp xỉ hàm phi tuyến Việc xấp xỉ ứng dụng để nhận dạng đối tượng điều khiển phi tuyến công nghiệp mở khả áp dụng vào thực tế Mọi quan tâm xin liên hệ: TS Nguyễn Hữu Công; Khoa Điện tử, trường Đại học Kĩ thuật Công nghiệp - Đại học Thái Nguyên ĐT: 0913589758 Email: huucongdk55@yahoo.com Summary APPLYING NEURAL NETWORKS IN MODEL IDENTIFICATION OF NONLINEAR DYNAMICAL OBJECTS This paper demonstrates the ability of using neural network in approximation nonlinear functions Approximation is used to identify nonlinear controled objects in industry and apply into reality Further information, please contact Dr Nguyen Huu Cong, Electronics Engineering Faculty, Thainguyen University of Technology Tel: 0913589758 Email: huucongdk55@yahoo.com TÀI LIỆU THAM KHẢO [1] Kumpati S Narendra fellow, IEEE, and Kannan parthasarathy Identification and control of Dynamical Systems Using Neural Networks [2] S Reynold Chu, Rahmat Shoureshi, and Manoel Tenorio Neural Network for System Identification [3] Bernadette Curley B.E 2002 System Identification using Neural Network, Optimised with Genetic Algorithms 54 ... học phi tuyến mơ tả mơ Nếu hệ nhận dạng sử dụng liệu vào – phải có đầu giới hạn phù hợp với đầu vào Điều nói nên mơ hình chọn mơ tả tính chất hệ thống 3.2 Nhận dạng hệ thống phi tuyến mạng neural. .. tâm hệ mơ tả mạng neural tổng quát Từ giả thiết đưa lựa chọn mơ hình nhận dạng cho phép giải toán nhận dạng đặt Quá trình nhận dạng mơ hình xem điều chỉnh tham số mạng neural Một hệ động học phi. .. nghệ - Số 3(43)/Năm 2007 Kết luận Từ cấu trúc mạng neural ta thấy, mạng neural hệ thống phi tuyến Vấn đề lại ta phải biết chọn cấu trúc mạng, phương pháp huấn luyện mạng hợp lý Có thể ứng dụng