Nghiên cứu ứng dụng mạng nơron mờ nhận dạng hệ phi tuyến

NGUYN VN CNG giáo dục đào tạo trờng đại học bách khoa hà nội - Nguyễn Văn Cường NGHIÊN CỨU ỨNG DỤNG MẠNG NƠRON-MỜ B TỰ ĐỘNG HOÁ NHẬN DẠNG HỆ PHI TUYẾN B LUẬN VĂN THẠC SĨ: TỰ ĐỘNG HOÁ B 2006-2008 Hà Nội 2008 BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC BÁCH KHOA HÀ NỘI -Nguyễn Văn Cường NGHIÊN CỨU ỨNG DỤNG MẠNG NƠRON-MỜ NHẬN DẠNG HỆ PHI TUYẾN Chuyên ngành: Tự động hoá LUẬN VĂN THẠC SĨ: TỰ ĐỘNG HOÁ NGƯỜI HƯỚNG DẪN KHOA HỌC: PGS.TS Nguyễn Trọng Thuần Hà Nội 2008 LỜI CAM ĐOAN Bài toán Nghiên cứu mạng nơron mờ để từ xây dựng cấu trúc mạng Nơron mờ để nhận dạng hệ phi tuyến trình bày Luận văn tốn hồn tồn mới, nội dung chưa trình bày chưa trình bày sách báo, ấn phẩm nước Việt Nam nước Tác giả Luận văn Nguyễn Văn Cường MỤC LỤC MỤC LỤC DANH MỤC HÌNH VẼ DANH MỤC BẢNG CÁC TỪ VIẾT TẮT CHƯƠNG TỔNG QUAN 1.1 Mở đầu 1.2 Mục đích, đối tượng phạm vi nghiên cứu, ý nghĩa khoa học thực tiễn đề tài 1.2.1 Mục đích, đối tượng phạm vi nghiên cứu 1.2.2 Ý nghĩa khoa học thực tiễn đề tài 1.3 Tình hình nghiên cứu ngồi nước 1.3.1 Tình hình nghiên cứu ngồi nước 1.3.2 Tình hình nghiên cứu nước 12 CHƯƠNG MẠNG NƠRON MỜ 14 2.1 Logic mờ hệ suy diễn mờ 14 2.1.1 Tập mờ 15 2.1.2 Hệ suy diễn mờ 21 2.1.3 Nhận dạng hệ phi tuyến sử dụng logic mờ 28 2.2 Mạng Nơron 32 2.2.1 Khái niệm mạng nơron nhân tạo 32 2.2.2 Cấu trúc mạng nơron 34 2.2.3 Quá trình học mạng nơron 35 2.2.3 Một số mạng nơron điển hình 37 2.2.5 Nhận dạng hệ phi tuyến sử dụng mạng Nơron 43 2.3 Mạng nơron mờ 48 2.3.1 Khái niệm mờ mạng nơron 51 2.3.2 Phương pháp xây dựng mạng nơron mờ 53 2.3.3 Thuật toán học mạng nơron mờ 57 CHƯƠNG NHẬN DẠNG HỆ PHI TUYẾN SỬ DỤNG MẠNG NƠRON MỜ VÀ ỨNG DỤNG 60 3.1 Nhận dạng hệ phi tuyến sử dụng mạng nơron-mờ 60 3.2 Sử dụng mạng nơron mờ để nhận dạng hệ phi tuyến tĩnh 65 3.2.1 Sử dụng mạng nơron mờ nhận dạng hàm y = x2 65 3.2.2 Sử dụng mạng nơron mờ để nhận dạng hàm y = sinx+cosx 68 3.3 Sử dụng mạng nơron mờ để nhận dạng hệ phi tuyến động 71 3.4 Nhận dạng chuyển động hệ cầu trục sử dụng mạng nơron mờ 74 3.4.1 Phương trình động học hệ cầu trục 74 3.4.2 Nhận dạng góc lệch α hệ cầu trục sử dụng mạng nơron mờ 78 3.5 Một số kết luận đề xuất hướng phát triển 83 Phụ lục Mã nguồn chương trình huấn luyện mạng nơron mờ nhận dạng hàm y 85 = x2 Phụ lục Mã nguồn chương trình huấn luyện mạng nơron mờ nhận dạng hàm y = sinx+cosx 91 Phụ lục Mã nguồn chương trình huấn luyện mạng nơron mờ nhận dạng hệ phi tuyến động 97 Phụ lục Mã nguồn chương trình huấn luyện mạng nơron mờ nhận dạng góc lệch α hệ cầu trục 102 DANH MỤC HÌNH VẼ Hình 2.1 Hàm thuộc tập mờ số tự nhiên nhỏ 10 18 Hình 2.2 Cấu trúc hệ suy diễn mờ 22 Hình 2.3 Mô tả giá trị ngôn ngữ tập mờ 23 Hình 2.4 Cấu trúc hệ suy diễn mờ MIMO 26 Hình 2.5 Giải mờ phương pháp cực đại 27 Hình 2.6 Giải mờ theo phương pháp điểm trọng tâm 28 Hình 2.7 Cấu trúc nơron sinh học 33 Hình 2.8 Cấu trúc nơron nhân tạo 33 Hình 2.9 Cấu trúc mạng nơron ba lớp 34 Hình 2.10 Mạng nơron Adaline 38 Hình 2.11 Mạng MLP truyền thẳng 42 Hình 2.12 Mơ hình nhận dạng 45 Hình 2.13 Mơ hình nhận dạng thơng tin vào bổ sung 46 Hình 2.14 Mơ hình nhận dạng sử dụng tri thức tiên nghiệm 48 Hình 2.15 Mơ hình nhận dạng động học nghịch 48 Hình 2.16 Cấu trúc nơron nhân tạo 51 Hình 2.17 Cấu trúc nơron mờ với trọng số mờ 51 Hình 2.18 Cấu trúc nơron mờ với tín hiệu mờ kết hợp trọng số mờ 51 Hình 2.19 Các hàm thuộc vào 54 Hình 2.20 Cấu trúc mạng nơron mờ với hai giá trị vào 57 Hình 3.1 Cấu trúc mạng nơron mờ sử dụng để nhận dạng hệ phi tuyến 62 Hình 3.2a Các hàm thuộc ban đầu 65 Hình 3.2b Các hàm thuộc huấn luyện 65 Hình 3.2c Đồ thị giá trị mong muốn giá trị ước lượng 67 Hình 3.3a Các hàm thuộc ban đầu 69 Hình 3.3b Các hàm thuộc huấn luyện 69 Hình 3.3c Đồ thị giá trị mong muốn giá trị ước lượng 69 Hình 3.3d Đồ thị sai lệch giá trị mong muốn giá trị ước lượng.70 Hình 3.4 Đồ thị tín hiệu vào-ra hệ phi tuyến (3.11) 72 Hình 3.5 Đồ thị tín hiệu mẫu tín hiệu ước lượng 73 Hình 3.6 Đồ thị tín hiệu kiểm tra tín hiệu ước lượng 73 Hình 3.7 Mơ hình động lực học hệ cầu trục 74 Hình 3.8 Sơ đồ mơ hệ cầu trục (3.24) 78 Hình 3.9 Đồ thị tín hiệu vào (điện áp U) tín hiệu (góc lệch) 80 Hình 3.10 Đồ thị giá trị ước lượng giá trị mẫu 81 Hình 3.11 Đồ thị giá trị ước lượng giá trị kiểm tra 81 DANH MỤC BẢNG Bảng 2.1 25 CÁC TỪ VIẾT TẮT ANFIS Adaptive Neural Fuzzy Inference System Hệ suy luận mờ nơron thích nghi Summary When some new methods were proposed successfully such as: fuzzy inference method, neural networks method and especially fuzzy neural networks method They gave the scientists more new tools to solve the nonlinear systems problems that the methods before couldn’t One of the problem is the identification nonlinear systems In this thesis, the identification nonlinear systems will be presented This thesis is provided into three chapters as following: Chapter 1: Presents the the identification nonlinear systems and the purpose that the thesis will achieve In this section, the thesis introduces the research actions of scientists on the same problem Chapter 2: The thesis presents the fundamental of: - Fuzzy logic, fuzzy inference systems, identification nonlinear systems using fuzzy inference systems - Neural networks, the learning algorithms, and identification nonlinear systems using neural networks - Fuzzy neural networks, the method to construct the fuzzy neural networks, and the learning algorithms Chapter 3: The author researchs and finds out the way to construc a fuzzy neural network that has capability to identification any nonlinear systems In this section, the static nonlinear systems such as function y = x2, y = sinx+cosx, the dynamic nonlinear systems, and overhead cranes were identified successfully using that fuzzy neural network 95 %[c' x'] %end end %IN CAC KET QUA HUAN LUYEN fprintf('gia tri mau gia tri uoc luong\n'); [y',ul'] fprintf('cac so sau huan luyen\n'); [a0;a1;b0;b1;d0;d1;e0;e1;f0;f1] [c' x'] %VE CAC HAM THUOC SAU KHI HUAN LUYEN hold off; figure(2); ve_mf(u,c,x) hold off; %VE DO THI GIA TRI RA UOC LUONG VA GIA TRI RA MAU figure(3); plot(u,y); hold all; plot(u,ul); sl=[]; for i=1:length(u) sl(i)=y(i)-ul(i); end %VE SAI SO GIUA GIA TRI RA UOC LUONG VA GIA TRI RA MAU hold off figure(4); plot(u,sl); end %VE HAM THUOC function ve_mf(u,c,x) n=length(c); a=min(u):0.1:max(u); m=length(a); y=[]; for i=1:n for k=1:m y(k)=exp(-((a(k)-c(i))/x(i))^2); 96 end plot(a,y); hold all; end end %TINH GIA TRI HAM THUOC function [a]=gauss(u,c,x) [a]=exp(-((u-c)/x)^2); end %TINH GIA TRI MAU SO BIEU THUC XAC DINH GIA TRI RA UOC LUONG function [a]= mau_value(u,c1,x1,c2,x2,c3,x3,c4,x4,c5,x5) a= exp(-((u-c1)/x1)^2)+ exp(-((u-c2)/x2)^2)+exp(-((u-c3)/x3)^2)+exp(-((uc4)/x4)^2)+exp(-((u-c5)/x5)^2); end %TINH GIA TRI TU SO BIEU THUC XAC DINH GIA TRI RA UOC LUONG function [b]= tu_value(u,c1,x1,a0,a1,c2,x2,b0,b1,c3,x3,d0,d1,c4,x4,e0,e1,c5,x5,f0,f1) b=exp(-((u-c1)/x1)^2)*(a0+a1*u)+exp(-((u-c2)/x2)^2)*(b0+b1*u)+exp(-((uc3)/x3)^2)*(d0+d1*u)+ exp(-((u-c4)/x4)^2)*(e0+e1*u)+exp(-((u-c5)/x5)^2)*(f0+f1*u); end %TINH GIA TRI SAI LECH TRONG SO CAN CAP NHAT function [a]= grad_a0(y,y1,u,c1,x1,c2,x2,c3,x3,c4,x4,c5,x5) a=(y-y1)*(exp(-((u-c1)/x1)^2)/mau_value(u,c1,x1,c2,x2,c3,x3,c4,x4,c5,x5)); end function [a]= grad_a1(y,y1,u,c1,x1,c2,x2,c3,x3,c4,x4,c5,x5) a=grad_a0(y,y1,u,c1,x1,c2,x2,c3,x3,c4,x4,c5,x5)*u; end function [a]= grad_c(et,u,c1,x1,y,y1,a0,a1,c2,x2,b0,b1,c3,x3,d0,d1,c4,x4,e0,e1,c5,x5,f0,f1) b=2*(u-c1)*(x1^-2); c=exp(-((u-c1)/x1)^2); d=(a0+a1*u)*mau_value(u,c1,x1,c2,x2,c3,x3,c4,x4,c5,x5); a=(et*(y-y1)*b*c*(dtu_value(u,c1,x1,a0,a1,c2,x2,b0,b1,c3,x3,d0,d1,c4,x4,e0,e1,c5,x5,f0,f1)))/ (mau_value(u,c1,x1,c2,x2,c3,x3,c4,x4,c5,x5)^2); 97 end function [a]=grad_x(et,u,c1,x1,y,y1,a0,a1,c2,x2,b0,b1,c3,x3,d0,d1,c4,x4,e0,e1,c5,x5,f0,f1 ) b=(2*(u-c1)^2)/(x1^3); c=exp(-((u-c1)/x1)^2); d=(a0+a1*u)*mau_value(u,c1,x1,c2,x2,c3,x3,c4,x4,c5,x5); a=(et*(y-y1)*b*c*(dtu_value(u,c1,x1,a0,a1,c2,x2,b0,b1,c3,x3,d0,d1,c4,x4,e0,e1,c5,x5,f0,f1)))/ (mau_value(u,c1,x1,c2,x2,c3,x3,c4,x4,c5,x5)^2); end %TINH GIA TRI UOC LUONG function [a]=giatri_uocluong(u,c1,x1,a0,a1,c2,x2,b0,b1,c3,x3,d0,d1,c4,x4,e0,e1,c5,x5,f0,f 1) a=tu_value(u,c1,x1,a0,a1,c2,x2,b0,b1,c3,x3,d0,d1,c4,x4,e0,e1,c5,x5,f0,f1)/ mau_value(u,c1,x1,c2,x2,c3,x3,c4,x4,c5,x5); end Phụ lục Mã nguồn chương trình huấn luyện mạng nơron mờ nhận dạng hệ phi tuyến động function main() %THU THAP TAP DU LIEU VAO/RA CUA HE u=rand(1000,1); y=[]; y(1)=0; y(2)=0; for i=2:1000 y(i+1)= (y(i)*u(i))/(1+((abs(y(i-1)))^0.3))-(1-exp(-u(i)))/(1+exp(-u(i))); end y=y'; %LUA CHON TIN HIEU VAO PHU HOP input = [[0; y(1:1000)] [0; 0; y(1:999)] [0; 0; 0; y(1:998)] [0; 0; 0; 0; y(1:997)] [0; u(1:1000)] 98 [0; 0; u(1:999)] [0; 0; 0; u(1:998)] [0; 0; 0; 0; u(1:997)] [0; 0; 0; 0; 0; u(1:996)] [0; 0; 0; 0; 0; 0; u(1:995)]]; data = [input y]; data(1:6, :) = []; input_name = str2mat('y(k-1)','y(k-2)','y(k-3)','y(k-4)','u(k-1)','u(k-2)', 'u(k-3)','u(k-4)','u(k-5)','u(k-6)'); trn_data = data(1:300, :); chk_data = data(301:600, :); [input_index, elapsed_time]=seqsrch(3, trn_data, chk_data, input_name); fprintf('\nElapsed time = %f\n', elapsed_time); winH1 = gcf; trn_data=data((1:300),[1,5,6,11]); chk_data=data((301:600),[1,5,6,11]); y1=trn_data(:,1); u1=trn_data(:,2); u2=trn_data(:,3); y=trn_data(:,4); yc1=chk_data(:,1); uc1=chk_data(:,2); uc2=chk_data(:,3); yc=chk_data(:,4); ul=[]; %KHOI TAO CAC GIA TRI TRONG SO for i=1:27 a0(i)=0; a1(i)=0; a2(i)=0; a3(i)=0; dt_a0(i)=0; dt_a1(i)=0; dt_a2(i)=0; dt_a3(i)=0; end c1=[-0.8103 -0.4071 -0.003876]; 99 x1=[0.1712 0.1712 0.1712]; c2=[0.004634 0.5004 0.9961]; x2=[0.2105 0.2105 0.2105]; c3=[0.004634 0.5004 0.9961]; x3=[0.2105 0.2105 0.2105]; %CAC DIEU KIEN DUNG THUAT TOAN ett=1000000; t=0; g=0; e=100; bl=0; blmax=100; ep=0.001; eta=0.055; %THUC HIEN HUAN LUYEN MANG while (e>ep)&&(bl