Ứng dụng mạng reservoir trong nhận dạng và điều khiển ( Luận văn thạc sĩ)

Ứng dụng mạng reservoir trong nhận dạng và điều khiển ( Luận văn thạc sĩ)Ứng dụng mạng reservoir trong nhận dạng và điều khiển ( Luận văn thạc sĩ)Ứng dụng mạng reservoir trong nhận dạng và điều khiển ( Luận văn thạc sĩ)Ứng dụng mạng reservoir trong nhận dạng và điều khiển ( Luận văn thạc sĩ)Ứng dụng mạng reservoir trong nhận dạng và điều khiển ( Luận văn thạc sĩ)

ĐẠI HỌC THÁI NGUYÊN TRƢỜNG ĐẠI HỌC KỸ THUẬT CÔNG NGHIỆP TRỊNH THỊ MINH NGUYỆT ỨNG DỤNG MẠNG RESERVOIR TRONG NHẬN DẠNG VÀ ĐIỀU KHIỂN LUẬN VĂN THẠC SĨ KỸ THUẬT Thái nguyên - 2014 Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ MỞ ĐẦU Tính cấp thiết đề tài: Việc ứng dụng mạng nơ-ron nhận dạng đặc biệt lĩnh vực điều khiển gặp phải nhiều khó khăn vấn đề tìm nghiệm tối ưu tồn cục, tốc độ học, khả đáp ứng tính thời gian thực hệ thống Tuy nhiên năm gần đời loại mạng nơ-ron với phương pháp huấn luyện đơn giản nhanh Mạng có tên gọi khác gồm: Reservoir Computing Networks (RCN), Echo State Networks (ESN) Liquid State Machines (LSM) Nhưng chất giống Để đơn giản tiện lợi trình nghiên cứu, gọi tên mạng mạng Reservoir Trong thực tế mạng reservoir ứng dụng thành cơng dự đốn chuỗi thời gian hỗn loạn khơng có nhiễu tốn thích nghi nhanh, chưa ứng dụng vào lĩnh vực nhận dạng hệ thống thiết kế điều khiển dựa sở mạng Mạng reservoir ý tưởng nghiên cứu tương đối nhiều vấn đề mở hướng nghiên cứu tương lai Xuất phát từ lý nên tơi tự đề xuất hướng nghiên cứu chọn đề tài: “ Ứng dụng mạng Reservoir nhận dạng điều khiển” Mục tiêu đề tài: Nâng cao phương pháp huấn luyện mạng reservoir ứng dụng để nhận dạng hệ thống thiết kế điều khiển nơ-ron Đề tài " Ứng dụng mạng Reservoir nhận dạng điều khiển" nhằm phát triển phương pháp huấn luyện mạng sử dụng công cụ, thiết bị nghiên cứu như: Máy tính, phần mềm Matlab, Neural Network Toolbox 2013 Việc nghiên cứu ứng dụng mạng Reservoir nhận dạng điều khiển đòi hỏi phải có hiểu biết định mạng nơ ron, sử dụng phần mềm matlab Kết dự kiến cần đạt đƣợc: Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ - Khai thác công cụ Neural Networks Toolbox Matlab 2013, viết tài liệu hướng dẫn sử dụng cơng cụ - Viết chương trình huấn luyện cho mạng reservoir Matlab - So sánh kết huấn luyện mạng reservoir với tham số mạng ban đầu khác cho số đối tượng thử nghiệm - Đề xuất phương pháp chọn tham số ban đầu cho mạng reservoir - Đề xuất phương pháp huấn luyện mạng reservoir - Viết chương trình nhận dạng hệ thống huấn luyện điều khiển sở mạng reservoir Matlab kiểm chứng chất lượng điều khiển đối tượng thực mơ hình cánh tay máy bậc tự Phƣơng pháp nghiên cứu: Nghiên cứu lý thuyết nghiên cứu thực nghiệm: Nghiên cứu lý thuyết: - Nghiên cứu mạng reservoir, Viết chương trình huấn luyện cho mạng reservoir Matlab - Mơ hình hóa huấn luyện mạng sở phần mềm Matlab, Neural Networks Toolbox 2013 - Viết chương trình nhận dạng hệ thống huấn luyện điều khiển sở mạng reservoir Matlab Nghiên cứu thực nghiệm - Chạy thử nghiệm chương trình Matlab - Thực nghiệm mơ hình vật lý để kiểm nghiệm hoàn thiện cấu trúc tham số điều khiển - Ứng dụng nhận dạng điều khiển hệ thống phòng thí nghiệm cánh tay máy Đề tài trình bày theo nội dung sau: Chương I: Giới thiệu mạng Reservoir Chương II: Tìm hiểu công cụ mạng nơ ron Matlab Chương III: Ứng dụng mạng Reservoir nhận dạng hệ thống Chương IV: Điều khiển cánh tay máy bậc tự phòng thí nghiệm Kết kiến nghị Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ Chƣơng GIỚI THIỆU MẠNG RESERVOIR Mạng Reservoir khái niệm lĩnh vực mạng nơ-ron Về cấu trúc mạng reservoir khơng có khác biệt so với mạng nơ-ron khác, phương pháp huấn luyện mạng có khác biệt q trình học Trong chương giới thiệu cấu trúc mạng nơ-ron từ tới phức tạp, ký hiệu khái niệm Trên sở tơi trình bày cấu trúc phương pháp huấn luyện mạng reservoir 1.1 Cấu trúc mạng nơ-ron Trong phần giới thiệu cấu trúc, khái niệm nơ-ron, lớp nơ-ron, nhiều lớp nơ-ron mạng hồi qui Đồng thời để đơn giản cho việc theo dõi mô tả sau, đưa số qui ước chung Tôi sử dụng công cụ Neural Networks Matlab để mô tả huấn luyện mạng Do ký hiệu, khái niệm cấu trúc theo định nghĩa Matlab/Neural Network Toolbox 1.1.1 Cấu trúc mạng nơ - ron đầu vào Một nơ ron với đầu vào có sơ đồ cấu trúc hình 1.1 p w n ∑ ƒ a b Hình 1.1 Cấu trúc nơ - ron (1 đầu vào) Cấu trúc nơ ron gồm: đầu vào p, đầu a, w trọng số, ∑ tổng, b ngưỡng, f hàm truyền Quan hệ vào nơ ron là: a Số hóa Trung tâm Học liệu f wp b (1.1) http://www.lrc-tnu.edu.vn/ 1.1.2 Cấu trúc mạng nơron nhiều đầu vào P1 P2 P3 w1,1 n ∑ a ƒ b w1,R PR a = f (wp + b) Hình 1.2 Cấu trúc nơ - ron nhiều đầu vào Hình 1.2 sơ sồ cấu trúc nơ-ron có nhiều đầu vào Nơ ron có R tín hiệu đầu vào biểu diễn dạng rút gọn thể hình 1.3 Trong đó: b bias; n tổng trọng, f hàm truyền, a đầu nơ ron; p = [p1 p2 pR] véc tơ đầu vào, W = [w1,1 w1,2 w1,R] véc tơ trọng số đầu vào n = w1,1 p1 + w1,2 p2 + + w1,R pR + b (1.2) n = W*p + b a = f (wp + b) (1.3) Mơ hình thu gọn nơ ron: P Rx1 W + R b n 1x1 ƒ 1x1 1x1 Hình 1.3 Mơ hình nơ ron thu gọn (nhiều đầu vào) Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ 1.1.3 Cấu trúc lớp nơ-ron Mơ hình lớp có S nơ ron với R đầu vào hình vẽ 1.4 P1 w1,1 ∑ P2 n1 ƒ a1 n2 ƒ a2 ns ƒ as b1 ∑ P3 B2 wS,R PR ∑ bs a = f (wp + b) Hình 1.4: Mơ hình lớp nơ ron Trong phần tử véc tơ đầu vào p nối với nơ ron tương ứng qua ma trận trọng số W; f hàm truyền; p véc tơ đầu vào có dạng véc tơ cột (Rx1); a đầu lớp nơ ron có dạng véc tơ cột (Sx1) ma trận trọng số có dạng: P Rx1 R W SxR b + n sx1 ƒ a sx1 sx1 Hình 1.5: Mơ hình lớp nơ ron Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ w1,1w1,2 w1, R W w 2,1w 2,2 w 2, R (1.4) w S ,1w S ,2 w S , R Các thành phần nơron nhân tạo bao gồm: ♦ Tập đầu vào: Là tín hiệu vào (input signals) nơron, tín hiệu thường đưa vào dạng vector N chiều ♦ Tập liên kết: Mỗi liên kết thể trọng số (gọi trọng số liên kết – Synaptic weight) Trọng số liên kết tín hiệu vào thứ j với nơron k thường kí hiệu w Thông thường, trọng số khởi kj tạo cách ngẫu nhiên thời điểm khởi tạo mạng cập nhật liên tục trình huấn luyện mạng (epoch) ♦ Bộ tổng (Summing function): Thường dùng để tính tổng tích đầu vào với trọng số liên kết ♦ Ngƣỡng (còn gọi độ lệch - bias): Ngưỡng thường đưa vào thành phần hàm truyền ♦ Hàm truyền (Transfer function) : Hàm dùng để giới hạn phạm vi đầu nơron Nó nhận đầu vào kết hàm tổng ngưỡng cho Các hàm truyền đa dạng, hàm tuyến tính phi tuyến Việc lựa chọn hàm truyền tuỳ thuộc vào toán kinh nghiệm người thiết kế mạng Một số hàm truyền thường sử dụng mô hình mạng nơron đưa bảng ♦ Đầu ra: Là tín hiệu đầu nơron, với nơron có tối đa đầu Xét mặt toán học, cấu trúc nơron k, mô tả cặp biểu thức sau: Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ a = f (wp + b) đó: x , x , , x : tín hiệu vào; (w , w p k1 k2, , w ) trọng số kp liên kết nơron thứ k; u hàm tổng; b ngưỡng; f hàm truyền y k k k tín hiệu đầu nơron Gọi ma trận trọng số liên kết với lớp vào ma trận trọng số đầu vào IW Gọi ma trận trọng số liên kết lớp LW Quy ước ký hiệu số lớp nguồn số thứ hai số lớp đích thực số thứ Ví dụ: LWi,j ma trận trọng số liên kết từ lớp nguồn j đến lớp đích i P IW1,1 Rx1 s1xR R b1 + n1 s1x1 ƒ a1 sx1 s x1 Hình 1.6: Mạng lớp rút gọn Đầu nơ ron tính sau: a1 = f (IW1,1 p + b1) 1.1.4 Mạng nhiều lớp Hình 1.7 mơ tả mơ hình mạng nơ ron truyền thẳng lớp Mỗi lớp có ma trận trọng số IW, LW, véc tơ bias b véc tơ tín hiệu đầu a Tín hiệu đầu lớp ai, p véc tơ tín hiệu vào, fi hàm truyền (i= 1,2,3) Từ có tín hiệu a3 có dạng: a3 = f3 (LW3,2f2 (LW2,1f1(IW1,1p+b1)+ b2)+ b3) Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ P1 IW1,1 n1 ∑ P2 1 f 1 b S,R a 2 n ∑ f a s f s ∑ ∑ LW2,1s2, s1 b s1 a21 LW3,2 f b3 f n2s1 1 n ∑ b a22 a2s ∑ LW3,2s3, s2 b2 s2 f3 n3s1 f a1 = f1 (IW1,1p+ b1) n3 ∑ f 1 n ∑ b2 2 n2 b2 b1 PR IW1,1 n1 ∑ P3 a11 LW2,1 f a31 a32 a3s b3 s3 a3 = f3 (LW3,2a3+ b3) a2 = f2 (LW2,1a + b ) Hình 1.7: Mơ hình mạng nơ ron truyền thẳng ba lớp Mơ hình rút gọn hình 1.8 P IW R x1 s xR R a1 1,1 b1 s x1 + n1 s1x1 f a2 2,1 s1x1 LW s2xs1 s1 + b2 n2 s2x1 s2 x1 s2 x1 a1 = f1 (IW1,1p+ b ) f2 s2 a3 LW3,2 s3xs2 + b3 n3 s3x1 s3 x1 s3 3,2 1.1.5 Mạng nơ ron hồi quy IW1,1 ∑ n(t) a(t) LW1,1 D a(t) = IWp(t)+LW a(t-1) Hình 1.9: Mơ hình nơ ron hồi quy Số hóa Trung tâm Học liệu a3 = f3 (LW a3+ b ) a2 = f2 (LW2,1a + b ) Hình 1.8: Mơ hình mạng nơ ron truyền thẳng ba lớp thu gọn p(t) f3 http://www.lrc-tnu.edu.vn/ s3 x1 T D L IW R1x1 R 1,1 s1xR b 1 a1(t) LW1,1 n1(t) + T D f1 s x1 L LW s x1 s x1 s1 + 2 f2 s x1 s2x1 s x1 T D L T D LW1,3 L n (t) b a2(t) s xs 1 2,1 s2 LW a3(t) 3,1 + s xs b s3 x1 n3(t) s3x1 f3 s3 LW2,3 Hình 1.10: Mơ hình mạng hồi quy nhiều lớp Trong khối TDL khâu trễ 1.2 Mạng Reservoir Mạng Reservoir có quan hệ vào sau: f Winu k x k Wback y k Wu k Wf x k y k (1.5) (1.6) Về mạng Reservour có cấu trúc giống mạng nơ ron thơng thường, khơng có bias W Z-1 u u Z-1 Win f Wf + Wback g y Z-1 Hình 1.11: Mạng Reservoir Số hóa Trung tâm Học liệu http://www.lrc-tnu.edu.vn/ s3 x1 ... Reservoir nhận dạng điều khiển Mục tiêu đề tài: Nâng cao phương pháp huấn luyện mạng reservoir ứng dụng để nhận dạng hệ thống thiết kế điều khiển nơ-ron Đề tài " Ứng dụng mạng Reservoir nhận dạng điều. .. thừa 1.4 Ứng dụng mạng Reservoir nhận dạng Mạng reservoir ứng dụng thành cơng dự đốn chuỗi thời gian hỗn loạn khơng có nhiễu tốn thích nghi nhanh Trong q trình huấn luyện mạng, mạng reservoir. .. đầu cho mạng reservoir - Đề xuất phương pháp huấn luyện mạng reservoir - Viết chương trình nhận dạng hệ thống huấn luyện điều khiển sở mạng reservoir Matlab kiểm chứng chất lượng điều khiển đối