Thuật toán REFuNN ( relus extraction from a fuzzy neural network)

Thuật toán REFuNN ( Relus Extraction from a fuzzy neural Network) Khái niệm Các buớc thực hiện thuật toán VD Thuật toán REFuNN ( Relus Extraction from a fuzzy neural Network) Thuật toán REFuNN ( Relus.

THUẬT TOÁN REFUNN ( RELUS RELUS EXTRACTION EXTRACTION FROM FROM A A FUZZY FUZZY NEURAL NEURAL NETWORK) NETWORK) - Khái niệm  Các buớc thực thuật tốn  VD  THUẬT TỐN REFUNN ( RELUS EXTRACTION FROM A FUZZY NEURAL NETWORK) - * Khái niêm: Thuật toán REFuNN (rules extraction from a fuzzy neural network) phương thức kết nối đơn giản cho việc trích chọn luật mờ có trọng số luật mờ có dạng : Trong : Aji, Bi (i = 1, 2, ,n;j = 1, 2, ,k) biến mờ DIji : mức độ quan trọng gán với thành phần điều kiện luật CFi : độ tin cậy luật VD: Luật đựơc mô tả sau: R1: IF x1 is A1(DI1,1) and x2 is B1(DI2,1), THEN y is C1(CF1) R2: IF x1 is A2(DI1,2) and x2 is B2(DI2,2), THEN y is C2(CF2) THUẬT TOÁN REFUNN ( RELUS RELUS EXTRACTION EXTRACTION FROM FROM A A FUZZY FUZZY NEURAL NEURAL NETWORK) NETWORK) -       Thuật toán REFuNN gồm bước : B1: Khởi tạo FuNN B2 : Huấn luyện FuNN B3: Trích tập luật có trọng số sau huấn luyện B4: Kết hợp luật thành luật B5: Trích luật mờ từ luật có trọng số THUẬT TỐN REFUNN ( RELUS RELUS EXTRACTION EXTRACTION FROM FROM A A FUZZY FUZZY NEURAL NEURAL NETWORK) NETWORK) - Bước 1: Khởi tạo FuNN: Một mạng MLP đầy đủ khởi tạo VD:  THUẬT TOÁN REFUNN ( RELUS EXTRACTION FROM A FUZZY NEURAL NETWORK) - Bước 2: Huấn luyện FuNN Có nhiều phương pháp huấn luyện FuNN  Sử dụng thuật toán lan truyền ngược  + Lan truyền Tiến : tính tốn giá trị kích hoạt cho tầng + Lan truyền ngược : giảm tối đa hàm lỗi  Sử dụng thuật toán zeroing : thuật toán dùng để kiểm sốt thích nghi lãng qn huấn luyện : THUẬT TOÁN REFUNN ( RELUS EXTRACTION FROM A FUZZY NEURAL NETWORK) TÌM KIẾM ANH  Bước 3: Trích tập luật có trọng số sau huấn luyện mạng bước 2: R1: [SH(0,57)& RG(0.42)&CG(1,44)]2,19->DA R2: [SH(0,6)& RG(0.57)&CG(1,37)]-0,05->DA R3: [ SL(0.05)&RB(-0,2)&CB(-1,31)]2.19->D A R4: [SL(0)&RB(-0,32)&CB(-1,77)]-0.05->DA THUẬT TOÁN REFUNN ( RELUS EXTRACTION FROM A FUZZY NEURAL NETWORK) - Chú ý: + Tất quy tắc có đóng góp định(trên ngưỡng định) cho việc kích hoat nút tầng hoạt động nút tầng luật đựoc gom nhóm lại với + Các diều kiện Ci hỗ trợ cho nút tầng luật Rj đựoc sử dụng phần luật + Các trọng số Ci kết nối tầng điều kiện tầng luật Rj lấy giá trị tương đối cá mệnh đề mờ + Các trọng số kết nối giứ tầng luật tầng hoath đông xác địng giá trị cho độ tin cậy CFi  THUẬT TOÁN REFUNN ( RELUS EXTRACTION FROM A FUZZY NEURAL NETWORK) - Bước : Kết hợp luật có thành phần giống thành luật + Trong số tập luật rút có số luật có điều kiện kết đầu Chỉ khác trọng số Thì gom nhóm tổng hợp thành quy tắc  VD: R1: [SH(0,57)& RG(0.42)&CG(1,44)]2,19->DA R2: [SH(0,6)& RG(0.57)&CG(1,37)]-0,05->DA R3: [ SL(0.05)&RB(-0,2)&CB(-1,31)] 2.19->D A R4: [SL(0)&RB(-0,32)&CB(-1,77)]-0.05->DA Thành luật: R1: [SH(1.2)& RG(1)&CG(2)] -> DA R3: [ SL(0.05)&RB(-0,5)&CB(-3,0)] ->D A  THUẬT TOÁN REFUNN ( RELUS EXTRACTION FROM A FUZZY NEURAL NETWORK)    Bước 5: Trích luật mờ đơn giản từ luật mờ có trọng số: Từ luật có trọng số ta rút luật đơn giản trọng số Điều đựợc thực cách loại bỏ cá trọng số Diij - Tuy nhiên số điều kiện trọng số có đủ độ lớn ( ngưỡng chọn) tạo số quy tắc mà không cần hỗ trợ trọng ố điều kiện THUẬT TOÁN REFUNN ( RELUS EXTRACTION FROM A FUZZY NEURAL NETWORK)  Vd: có luật : R:IF ( x1 is A(8,3) and x2 is B(1,2) then y is C Trong ta đặt ngưỡng riêng biệt 5,0 ta có luật đơn giản : If x1 is A and x2 is B then y is C If x1 is A then y is C 2 KHAI THÁC QUY TẮC MỜ BẰNG CÁCH TIẾP CẬN KHÁC Kết hợp nút lớp luật ( rule layer) với quy tắc mờ  Các trọng số kết nối lớp luật lớp điều kiện  Đựợc hiểu mức độ quan trọng gắn liền với yếu tố điều kiện  Và kết đựơc biểu diễn phức tạp có nhiều yếu tố kết  VD:IF and and and and THEN and and  VD Xác định vị trí phù hợp cho sân golf New Zealand Có yếu tố đựợc đưa Nhiệt độ, lượng mưa,độ cao khoảng cách đến trung tâm lớn New Zealand Để đánh giá ứng cử viên đưa thuộc tính Và dựa vào chế đánh giá dựa quy tắc Giá trị đầu vào liệu dồm yếu tố Giá trị đầu có giá trị : ( không phù hợp), 1( không phù hợp),2 ( gần phù hợp ),3( Phù hợp) ,4 ( phù hợp) VD - Trong ví dụ người ta :  Với việc sử dụng quy tắc triết xuất REFuNN phương phấp suy luận Min_Max có tới 254 luật thiết lập khả phân loại 40% khối xác 50 % khác lớp thành viên  Với việc sử dụng quy tắc phức tạp 20 quy tắc thiết lập áp dụng đựợc 61% khối độ xác 28%  THUẬT TỐN HUẤN LUYỆN ZEROING Đây thuật toán dùng để huấn luyện khả thích nghi lãng quên đuợc dùng mạng noron dùng cho học tập thích nghi dự đốn Tai sao? :  Laọi bỏ thơng tin  Loại bỏ thành phần trọng số thấp  Giữ lại quy tắc mờ  PHƯƠNG PHÁP ĐÁNH GIÁ CHUNG CHO TT ZEROING Một tập sữ liệu chia thành nhiều đoạn Sau chọn lựa liệu VD A,B,C …  Khởi tạo mơ hình mạng Thiết lập thông thông số từu liệu A, thiết lập tương ứng liệu B Tính tốn tham số lỗi Etrain and Egener o Các mơ hình tiếp tục đào tạo thiết lập B (Ead.train )và thử nghiệm lại A (E forget ) o Hệ số thích nghi tính theo cơng thức    CAD = Egener / Ead.train); CFR = Eforget / Etrain (TIẾP ) Các bước dược lặp lại với liệu  Chú ý : cơng thức tính hàm lỗi ( tính hàm lỗi mạng MLP)  ... is B1(DI2,1), THEN y is C1(CF1) R2: IF x1 is A2 (DI1,2) and x2 is B2(DI2,2), THEN y is C2(CF2) THUẬT TOÁN REFUNN ( RELUS RELUS EXTRACTION EXTRACTION FROM FROM A A FUZZY FUZZY NEURAL NEURAL NETWORK). .. RG(0.42)&CG(1,44)]2,19->DA R2: [SH(0,6)& RG(0.57)&CG(1,37)]-0,05->DA R3: [ SL(0.05)&RB(-0,2)&CB(-1,31)]2.19->D A R4: [SL(0)&RB(-0,32)&CB(-1,77)]-0.05->DA THUẬT TOÁN REFUNN ( RELUS EXTRACTION FROM A FUZZY NEURAL NETWORK). ..THUẬT TOÁN REFUNN ( RELUS EXTRACTION FROM A FUZZY NEURAL NETWORK) - * Khái niêm: Thuật toán REFuNN (rules extraction from a fuzzy neural network) phương