Ứng dụng mạng nơ ron điều khiển cánh tay máy

ĐẠI HỌC THÁI NGUYÊN TRƢỜNG ĐẠI HỌC KỸ THUẬT CÔNG NGHIỆP NGUYỄN XUÂN QUANG ỨNG DỤNG MẠNG NƠ -RON ĐIỀU KHIỂN CÁNH TAY MÁY LUẬN VĂN THẠC SĨ KỸ THUẬT Chuyên ngành: Kỹ thuật điều khiển Tự động hóa Thái Nguyên - 2014 Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ ĐẠI HỌC THÁI NGUYÊN TRƢỜNG ĐẠI HỌC KỸ THUẬT CÔNG NGHIỆP ***** NGUYỄN XUÂN QUANG ĐỀ TÀI ỨNG DỤNG MẠNG NƠ RON ĐIỀU KHIỂN CÁNH TAY MÁY Chuyên ngành: Kỹ thuật điều khiển Tự động hóa Mã số: 6052 0216 LUẬN VĂN THẠC SĨ KỸ THUẬT PHÒNG QUẢN LÝ ĐT SAU ĐẠI HỌC NGƢỜI HƢỚNG DẪN KHOA HỌC Thái Nguyên - 2013 Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ PHẦN MỞ ĐẦU Tổng quan phƣơng pháp điều khiển nơ-ron Mạng nơ-ron nhân tạo (Artificial Neural Networks) xây dựng dựa hiểu biết não người, giúp ta đưa phương pháp lĩnh vực tiếp cận hệ thống thơng tin Mạng nơ-ron nhân tạo dùng để giải toán nhận dạng mẫu (Recognition), tối ưu, nhận dạng (Identification) điều khiển cho đối trường hợp ta mô hình tốn biết thơng tin vào đối tượng Từ năm 1943, Mc Culloch Pitts đưa số liên kết mạng nơ-ron Những năm sau có nhiều cơng trình nghiên cứu đề xuất phát triển cấu trúc, luật học cho nhiều loại mạng nơ-ron truyền thẳng hồi quy có tính hiệu Trong công nghiệp chế biến, lắp ráp loại rô bốt khác nhau, cánh tay máy sử dụng nhiều Hiện có nhiều phương pháp điều khiển khác áp dụng để điều khiển cánh tay máy Nhưng việc áp dụng mạng nơ-ron vào điều khiển hệ thống hạn chế Với mạng nơ-ron hồi qui thông thường hay gặp phải vấn đề tối ưu cục bộ, tốc độ huấn luyện mạng chậm, khả thích nghi Để kiểm tra tính khả thi mạng nơ-ron nhận dạng điều khiển cánh tay máy, thiết kế chế tạo thử nghiệm cánh tay máy bậc tự thử nghiệm thuật toán điều khiển thời gian thực Song song với phương pháp điều khiển mạng nơ-ron cịn có phương pháp điều khiển khác có tính hiệu cao phương pháp điều khiển kinh điển PID (Proportional Integral Derivative), phương pháp điều khiển thích nghi bền vững Điều khiển bám ổn định tốc độ động cơ, cấu chấp hành nhiệm vụ hàng đầu đặt cho toán điều khiển hệ thống Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ Để thực toán điều khiển ta cần xây dựng mơ hình tốn mơ tả tính chất động lực học với đầy đủ yếu tố kết cấu khí, vật liệu Từ mơ hình tốn cụ thể phân tích lựa chọn phương pháp điều khiển thích hợp Nhìn chung, nhiệm vụ điều khiển bám ổn định hay quỹ đạo góc chuyển động toán phức tạp Mục tiêu nghiên cứu Ứng dụng mạng nơ-ron nhận dạng điều khiển cánh tay máy bậc tự Thiết kế chế tạo thử nghiệm cánh tay máy bậc tự Đối tƣợng phạm vi nghiên cứu Chạy thử nghiệm chương trình Matlab Thực nghiệm mơ hình vật lý để kiểm nghiệm, hoàn thiện cấu trúc tham số điều khiển Ý nghĩa khoa học thực tiễn đề tài Với phương pháp nhận dạng điều khiển mạng nơ-ron, không cần phải sử dụng mô hình tốn đối tượng mà cần quan tâm tới tập tín hiệu mẫu vào đối tượng mơ hình mẫu Do tránh q trình xây dựng mơ hình tốn phức tạp nhiều thời gian công sức Phƣơng pháp nghiên cứu Nghiên cứu lý thuyết: - Nghiên cứu mạng nơ-ron hồi qui, mạng RCN (Reservoir Computing Networks) phương pháp huấn luyện mạng - Nghiên cứu thuật toán điều khiển cánh tay máy - So sánh chất lượng hệ thống điều khiển cánh tay máy với phương pháp điều khiển khác Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ Nghiên cứu thực nghiệm: - Chạy thử nghiệm chương trình Matlab - Thực nghiệm mơ hình vật lý để kiểm nghiệm, hoàn thiện cấu trúc tham số điều khiển Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ CHƢƠNG 1: CƠ SỞ LÝ THUYẾT MẠNG NƠ-RON 1.1 Giới thiệu mạng nơ-ron 1.1.1 Mạng nơ-ron nhân tạo Để xây dựng mạng nơ-ron nhân tạo giống hệ nơ-ron người, vào năm 1943 Mc Culloch Pitts đề cấu trúc nơron thứ i mơ hình mạng nơ-ron nhân tạo hình 1.1 x1 wi1 x2 wi2 a(.) Σ yi θi PEi wim xm Hình 1.1 Mơ hình nơ-ron Mc Culloch Pitts Trong đó: - xj(k): Tín hiệu vào thứ j thời điểm k - yi(k): Tín hiệu thứ i thời điểm k - a(.): Hàm truyền: Quan hệ vào nơ ron thứ i sau: m yi (k )  a ( w ij x j (k )  i ) j 1 Trong đó, wij biểu diễn cường độ kết nối đầu vào thứ j nơ-ron thứ i Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ 1.1.2 Các thành phần mạng nơ-ron nhân tạo Mạng nơ-ron nhân tạo đặc trưng yếu tố: phần tử xử lý, cấu trúc ghép nối phần tử xử lý, phương pháp huấn luyện để cập nhập trọng số wij 1.1.2.1 Nơ-ron Mỗi nơ-ron có nhiều đầu vào đầu hình 2.1 Hàm tác động a(f) tạo tín hiệu x1 wi1 xi xm wij wim vi Σ yi a(.) bi Hình 1.2 Mơ hình nơ-ron thứ i xj: Tín hiệu đầu vào thứ j wij: Trọng số để kết nối xj nơ-ron thứ j bi: Bias a(.): Hàm truyền 1.1.2.2 Hàm truyền Một số hàm thông dụng: Hàm bước nhảy đơn vị: Hàm dấu: Hàm dốc: Số hóa Trung tâm Học liệu f ≥ 0 f < f ≥ -1 f f < f < ≤ f ≤ f > a(f) = a(f) = a(f) = http://www.lrc-tnu.edu.vn/ Hàm tuyến tính: a( f )  net  f Hàm logsig: a( f )  ,   e  f Hàm tansig: a( f )   1,    e  f a a +1 a +1 f -1 +1 f 0 -1 -1 A B C a a a +1 +1 +1 f f 0 -1 -1 D f f -1 E F Hình 1.3 Đồ thị số hàm truyền A Hàm bước nhảy ; B Hàm dấu; C Hàm dốc; D Hàm tuyến tính; E Hàm logsig đơn cực; F Hàm tansig lưỡng cực 1.1.3 Cấu trúc ghép nối nơ-ron Mơ hình ghép nối mạng nơ-ron nhân tạo chia làm loại: Mạng truyền thẳng (Feedforward Network) mạng hồi tiếp (Feedback Network) Mạng truyền thẳng mạng xây dựng cách nối đầu nơ-ron lớp đứng trước với đầu vào nơ-ron lớp đứng sau Mạng truyền thẳng có mạng truyền hai lớp mạng truyền thẳng nhiều lớp Mạng truyền thẳng chứng minh có khả xấp xỉ hàm tĩnh Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ Mạng hồi tiếp mạng xây dựng đầu lớp sau nối với đầu vào cho nơ-ron lớp lớp đứng trước x1 y1 x1 y1 x2 y2 x2 y2 x3 y3 x3 y3 Input layer B A x1 x2 Hidden Output layer y x3 x1 y1 x2 y2 x3 y3 C D Hình 1.4 Các cấu trúc mạng nơ-ron A Mạng truyền thẳng lớp; B Mạng truyền thẳng nhiều lớp C Nút đơn hồi tiếp; D Mạng hồi quy nhiều lớp 1.1.4 Phân loại mạng nơ-ron Phân loại theo cấu trúc liên kết gồm có mạng truyền thẳng mạng hồi tiếp Phân loại theo số lớp gồm có mạng đơn mạng đa lớp Phân loại theo phương pháp học gồm có học có giám sát, học tăng cường học khơng có giám sát 1.2 Trình tự thiết kế mạng nơ-ron ứng dụng Mạng nơ-ron công cụ tốt cho phép xấp xỉ lớp tương đối quan hệ phụ thuộc hàm tín hiệu y(n) tín hiệu vào x(n) hệ thống Điểm mạnh mạng nơ-ron khả thích nghi tập liệu huấn luyện (x, d) cập nhật thường xuyên Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ 10 Quá trình thiết kế mạng nơ-ron thường trải qua bước: Xác định toán, xác định biến vào ra, thu thập liệu, tiền xử lý liệu, lựa chọn mơ hình mạng nơ-ron, huấn luyện mạng, thử nghiệm mạng cuối tinh chỉnh mạng 1.2.1 Xác định toán Tùy theo yêu cầu tốn cần giải cụ thể mà xác định thuộc toán phân lớp liệu nhận dạng đối tượng 1.2.2 Xác định biến vào Xác định biến vào/ra miền giá trị biến 1.2.3 Thu thập liệu Thu thập lượng lớn mẫu liệu đảm bảo nguyên tắc ngẫu nhiên, khách quan phủ toàn không gian đầu vào Đối với liệu biến động kiểu chuỗi thời gian cần đảm bảo trình tự kiện cho tạo thông tin cốt lõi đối tượng Đối với liệu ngẫu nhiên có dạng hồn tồn độc lập phải bảo đảm quét hết dạng cần thiết 1.2.4 Tiền xử lý liệu Thông thường tập liệu thu thập cần phải xử lý để đảm bảo yêu cầu: Dữ liệu mẫu phân bố đồng đều, đủ đại diện cho tất dạng phân hoạch khơng gian đó, liệu thu gọn mơ hình mạng nơ-ron phù hợp 1.2.5 Lựa chọn mơ hình mạng nơ-ron Tùy theo chất xử lý liệu toán mà ta lựa chọn mạng nơron phù hợp 1.2.6 Huấn luyện mạng Các thao tác thực bao gồm: - Phần liệu mẫu thành ba tập con: tập mẫu học, tập kiểm soát (để xác định dừng trình học) tập kiểm thử (để kiểm tra khả đón nhận, dự đốn mạng) Trong tập mẫu học phải Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ 35 set(Center,'XData',xCenter,'YData',yCenter); drawnow end sys=[]; elseif flag==0 [fig, flag]=figflag('Animation Demo Figure', 0); if flag AnimDemoFigure=fig; cla reset; else AnimDemoFigure=figure; end set(AnimDemoFigure, 'Name', 'Robotarm', 'NumberTitle', 'off') plot([0 16],[0 0],'k') n = 100; t = 0:2*pi/n:2*pi*(1-1/n); x = + 02*cos(t); y = + 02*sin(t); plot(x,y,'k','LineWidth',5); set(gca, 'Visible', 'off', 'DrawMode','fast', 'XLim', [0 16], 'YLim', [0 16]); xLink1 = [8 8]; yLink1 = [8 10]; Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ 36 n = 100; t = 0:2*pi/n:2*pi*(1-1/n); xCenter = + 5*cos(t); yCenter = 10 + 5*sin(t); hold on; Link1 =plot(xLink1, yLink1,'b','LineWidth',6); Center = plot(xCenter,yCenter,'g','LineWidth',5) sys=[0 0 0 1]; x0=[]; end pause(.01) Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ 37 Phụ lục 2: Chƣơng trình huấn luyện nhận dạng mơ hình cánh tay máy bậc tự Matlab (mạng hở) load quang_data net = narxnet(1:2,1:2,6); view(net); net.trainFcn = 'trainlm'; net.performFcn = 'mse'; net.trainParam.goal = 0; net.trainParam.epochs = 1000; net.trainParam.min_grad = 1e-10; net.trainParam.time = inf; net.trainParam.sigma = 5e-5; net.trainParam.lambda = 5e-10; net.trainParam.max_fail = 10000; x = num2cell(R1'); t = num2cell(T1'); net = configure(net,[x;t],t); xs,xi,ai,ts]=preparets(net,x,{},t); net,tr] = train(net,xs,ts,xi,ai); y = net(xs,xi,ai); y = cell2mat(y); figure(1) n = length(xs); ti = 1:n; t1 = cell2mat(ts); subplot(2,1,1) plot(ti,y,'r',ti,t1,'b') legend('Network Output','Target') Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ 38 grid on subplot(2,1,2) plot(ti,y-t1,'r') grid on legend('Error') figure(2) plot(tr.perf) grid on title('MSE') mse_end = min(tr.perf) save Quang_ND_opennet6 net Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ 39 Phụ lục 3: Chƣơng trình huấn luyện nhận dạng mơ hình cánh tay máy bậc tự Matlab (mạng kín) load quang_data01 load Quang_opennet6 net = closeloop(net); view(net) C = 3; N = 990; netc = cell(1,N); perfc = cell(1,N); figu = cell(2,N); d = 1; m = length(T1'); for i = 1:N C = C + 1; net1 = net; k = floor(rand*m/C); if k == k = 1; end net1.trainFcn = 'trainlm'; net1.performFcn = 'mse'; net1.trainParam.goal = 0; net1.trainParam.epochs = 1000; net1.trainParam.min_grad = 1e-15; net1.trainParam.time = inf; net1.trainParam.sigma = 5e-5; net1.trainParam.lambda = 5e-7; Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ 40 net1.trainParam.max_fail = 10000; [x,xr] = batch_data01(C,R1',k,d); [t,rt] = batch_data01(C,T1',k,d); net1 = configure(net1,x,t); [xs,xi,ai,ts] = preparets(net1,x,{},t); [net1,tr] = train(net1,xs,ts,xi,ai); net = net1; netc{1,i} = net; perfc{1,i} = tr.perf; figure(1) plot(perfc{1,end}) grid on title('MSE') mse_end = min(perfc{1,end}) [xs,xi,ai,ts]=preparets(net,xr,{},rt); y = net(xs,xi,ai); y = cell2mat(y); figure(2) n = length(xs); ti = 1:n; t1 = cell2mat(ts); subplot(2,1,1) plot(ti,y,'r',ti,t1,'b') legend('Network Output','Target') grid on subplot(2,1,2) Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ 41 plot(ti,y-t1,'r') grid on legend('Error') mse_end = min(tr.perf) save Quang_ND_closenet6 perfc Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ 42 Phụ lục 4: Chƣơng trình huấn luyện điều khiển cho mơ hình cánh tay máy bậc tự Matlab (mạng hở) load Quang_ND_closenet6 nnplant = netc{1,end}; s = nnplant.layers{1}.size; s1 = 6; load quang_data01 P = RT'; T = RT'; numInputs = 2; numLayers = 4; biasConnect = [1;1;1;1]; inputConnect = [1 1;0 0;0 1;0 0]; layerConnect = [0 0;1 0 0;0 0;0 0]; net = network(numInputs,numLayers,biasConnect,inputConnect,layerConnec t); net.outputConnect = [0 0 1]; net.layers{1}.transferFcn = 'tansig'; net.layers{2}.transferFcn = 'purelin'; net.layers{3}.transferFcn = 'tansig'; net.layers{4}.transferFcn = 'purelin'; d34 = max(nnplant.layerWeights{1,2}.delays); net.inputWeights{3,2}.delays = 1:d34; d11 = max(nnplant.inputWeights{1,1}.delays); net.layerWeights{3,2}.delays = 1:d11; net.layerWeights{1,2}.delays = 1:2; net.inputWeights{1,1}.delays = 1:2; Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ 43 net.inputWeights{1,2}.delays = 1:2; net.layers{1}.size = s1; net.layers{2}.size = 1; net.layers{3}.size = s; net.layers{4}.size = 1; net.layers{1}.initFcn = 'initnw'; net.layers{2}.initFcn = 'initnw'; net.trainFcn = 'trainlm'; net.performFcn = 'mse'; net.trainParam.goal = 0; net.trainParam.epochs = 10000; net.trainParam.min_grad = 1e-50; net.trainParam.time = inf; net.trainParam.max_fail = 10000; net = init(net); x = num2cell([P;T]); t = num2cell(T); net = configure(net,x,t); [xs,xi,ai,ts]=preparets(net,x,t,{}); net = train(net,xs,ts,xi,ai); net.LW{3,2} = nnplant.IW{1,1}; net.b{3} = nnplant.b{1}; net.IW{3,2} = nnplant.LW{1,2}; net.LW{4,3} = nnplant.LW{2,1}; net.b{4} = nnplant.b{2}; net.biases{3}.learn = 0; net.biases{4}.learn = 0; net.layerWeights{3,2}.learn = 0; Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ 44 net.inputWeights{3,2}.learn = 0; net.layerWeights{4,3}.learn = 0; net.trainParam.epochs = 10000; view(net) [net,tr] = train(net,xs,ts,xi,ai); y = net(xs,xi,ai); y = cell2mat(y); ts = cell2mat(ts); figure(1) ti = 1:length(ts); subplot(2,1,1) plot(ti,y,'r',ti,ts,'b') legend('Network Output','Target') grid on subplot(2,1,2) plot(ti,y-ts,'r') grid on legend('Error') figure(2) plot(tr.perf) grid on title('MSE') mse_end = tr.perf(1,end) save Quang_BKD_open_6 net Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ 45 Phụ lục 5: Chƣơng trình huấn luyện điều khiển cho mơ hình cánh tay máy bậc tự Matlab (mạng kín) clc load Quang_open2closed_6 d = 1; C = 3; N = 99; m = length(P); net = netc; netc = cell(1,N); perfc = cell(1,N); figu = cell(2,N); for i = 1:N C = C + 1; net1 = net; k = floor(rand*m/C); if k == k = 1; end net1.trainFcn = 'trainlm'; net1.performFcn = 'mse'; net1.trainParam.goal = 0; net1.trainParam.epochs = 200; net1.trainParam.min_grad = 1e-50; net1.trainParam.time = inf; net1.trainParam.lambda = 5e-10; net1.trainParam.max_fail = 10000; net1.biases{3}.learn = 0; Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ 46 net1.biases{4}.learn = 0; net1.layerWeights{3,2}.learn = 0; net1.layerWeights{3,4}.learn = 0; net1.layerWeights{4,3}.learn = 0; [x,xr] = batch_data01(C,P,k,d); [t,rt] = batch_data01(C,T,k,d); figu{1,i} = xr; figu{2,i} = rt; net1 = configure(net1,x,t); [xs,xi,ai,ts]=preparets(net1,x,t,{}); [net1,tr] = train(net1,xs,ts,xi,ai); net = net1; netc{1,i} = net; perfc{1,i} = tr.perf; end figure(1) plot(perfc{1,end}) grid on title('MSE') figure(2) [xs,xi,ai,ts]=preparets(net1,xr,rt,{}); y = net(xs,xi,ai); y = cell2mat(y); ts = cell2mat(ts); ti = 1:length(ts); subplot(2,1,1) plot(ti,y,'r',ti,ts,'b') legend('Network Output','Target') Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ 47 grid on subplot(2,1,2) plot(ti,y-ts,'r') grid on legend('Error') mse_end = tr.perf(1,end) save Quang_BDK_cloes_6netc perfc Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ 48 Phụ lục 6: Bảng kết huấn luyện thử nghiệm cấu trúc mạng Số lần học Hệ số sai lệch (Epoch) (MSE) 1000 1.3237e-04 1000 1.4141e-04 1000 1.2617e-04 1000 1.1004e-04 1000 1.1964e-04 1000 1.1187e-04 STT Số nơ-ron Ghi Phụ lục 7: Bảng kí hiệu chân IC L298N Số chân Kí hiệu CURRENT SENSING A OUTPUT OUTPUT SUPPLY VOLTAGE VS INPUT ENABLE A INPUT GND LOGIC SUPPLY VOLTAGE VSS 10 INPUT 11 ENABLE B 12 INPUT 13 OUTPUT 14 OUTPUT 15 CURRENT SENSING B Số hóa Trung tâm Học liệu Ghi http://www.lrc-tnu.edu.vn/ 49 TÀI LIỆU THAM KHẢO Tiếng Việt [1] Phạm Hữu Đức Dục, (2009), Mạng nơ-ron ứng dụng điều khiển tự động, Nhà xuất Khoa học Kỹ thuật năm [2] Phan Xuân Minh Nguyễn Doãn Phước, (2004), Lý thuyết điều khiển mờ, Nhà xuất Khoa học Kỹ thuật năm [3] Phạm Công Ngô, (2001), Lý thuyết điều khiển tự động, Nhà xuất Khoa học Kỹ thuật năm [4] Ngô Diên Tập, (2003), Kỹ thuật vi điều khiển với AVR, Nhà xuất Khoa học Kỹ thuật năm Tiếng Anh [5] A.F Atiya and A.G Parlos, (2000), “New results on recurrent network training: Unifying the algorithms and accelerating convergence”, IEEE Neural Networks, 11: 697 [6] B Hammer and J.J Steil, (2002), “Perspectives on learning with recurrent neural networks” In Proc of ESANN [7] G.V Puskorius and F.L.A, (1994), “Neurocontrol of nonlinear dynamical systems with kalman filter trained recurrent networks”, IEEE Neural Networks, 5:279–297 [8] J Suykens, J Vandewalle, and B De Moor, (1996), “Artificial Neural Networks for Modeling and Control of Non-Linear Systems”, Springer [9] P.J Werbos, (1990), “Backpropagation through time: what it does and how to it”, Proc IEEE, 78(10): 1550 - 1560 Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ ... cấu trúc mạng nơ- ron cho điều khiển Với đối tượng cánh tay máy bậc tự do, chọn mạng nơ- ron cho điều khiển có cấu trúc giống mạng nơ- ron cho đối tượng Mạng bao gồm hai lớp, lớp có nơ- ron Mạng kết... thi mạng nơ- ron nhận dạng điều khiển cánh tay máy, thiết kế chế tạo thử nghiệm cánh tay máy bậc tự thử nghiệm thuật toán điều khiển thời gian thực Song song với phương pháp điều khiển mạng nơ- ron. .. Trong phần này, ứng dụng mạng nơ- ron vào nhận dạng điều khiển mơ hình cánh tay máy thực Tơi thiết kế chế tạo mơ hình cánh tay máy bậc tự thực phịng thí nghiệm Để nhận dạng đối tượng mạng nơ- ron