XÁC ĐỊNH QUAN HỆ MỜ BẰNG MẠNG NƠRON NHÂN TẠO

Từ 20 năm nay, lý thuyết tập mờ và mạng nơron nhân tạo đã phát triển rất nhanh và đa dạng. Công nghệ mờ và công nghệ mạng nơron đã cung cấp những công nghệ mới cho các ngành công nghiệp làm ra nhiều sản phẩm thông minh, đáp ứng nhu cầu thị trường cần có những bộ điều khiển linh hoạt hơn.

TRƯỜNG ĐẠI HỌC SƯ PHẠM HÀ NỘI KHOA CÔNG NGHỆ THÔNG TIN --------------------- BÁO CÁO NGHIÊN CỨU KHOA HỌC Tên đề tài: XÁC ĐỊNH QUAN HỆ MỜ BẰNG MẠNG NƠRON NHÂN TẠO Hà Nội 4/2008 Xác định quan hệ mờ bằng mạng nơron nhân tạo Báo cáo nghiên cứu khoa học MC LC Phn m u 1. Tờn ti 2. Lý do chn ti I. Tng quan lý thuyt tp m v quan h m 1.1 Khỏi nim tp m 1.2 Cỏc phộp toỏn v tp m 1.2.1 Phộp hp 1.2.2 Phộp giao 1.2.3 Phộp bự 1.3. Quan h m II. Gii thiu v mng nron nhõn to 2.1. Mng nron sinh hc 2.2. Mng nron nhõn to 2.2.1 Mụ hỡnh nron nhõn to 2.2.2 nh ngha v phõn loi mng nron nhõn to 2.3. Th tc hc ca mng nron nhõn to 2.3.1 Hc tham s 2.3.2 Hc cu trỳc 2.4 Thut toỏn lan truyn ngc 2.5 Mng nron m III. Bi toỏn xỏc nh quan h m bng mng nron nhõn to 3.1 Bi toỏn 3.2 Tụpụ mng 3.3 Th tc hc v thut toỏn hun luyn mng 3.4 Vớ d 3.5 Xõy dng chng trỡnh ng dng Kt lun Ti liu tham kho PHN M U 1. Tờn ti Xỏc nh quan h m bng mng nron nhõn to. 2. Lý do chn ti T 20 nm nay, lý thuyt tp m v mng nron nhõn to ó phỏt trin rt nhanh v a dng. Cụng ngh m v cụng ngh mng nron ó cung cp nhng cụng ngh mi cho cỏc ngnh cụng nghip lm ra nhiu sn phm thụng minh, ỏp ng nhu cu th trng cn cú nhng b iu khin linh hot hn. H m v mng nron c kt hp vi nhau cựng phỏt huy nhng u im ca chỳng. Mt trong nhng dng kt hp ú l mng nron m, nh cú nú m chỳng ta ó gii quyt c rt nhiu bi toỏn khú m vi thut gii thụng thỡ khụng thc hin c hoc nu cú thỡ cng rt phc tp v mt nhiu thi gian. 2 Báo cáo nghiên cứu khoa học Vi bi toỏn xỏc nh quan h gia khụng gian vo v khụng gian ra da trờn cỏc cp phn t vo ra ó bit. C th cho khụng gian vo X , khụng gian ra Y v cỏc cp phn t vo ra ( ) ,x y ó bit , tc l cho mt phn t x Xẻ thỡ cú mt phn t ra tng ng y Yẻ . Yờu cu bi toỏn t ra l xỏc nh quan h R gia X v Y . Mt trong nhng phng phỏp thng c s dng gii quyt bi toỏn trờn ú l phng phỏp bỡnh phng bộ nht. gim phc tp v thi gian tớnh toỏn trong bỏo co ny tụi s dng mt phng phỏp mi ú l dựng mng nron nhõn to. V quan h gia khụng gian vo v ra xỏc nh c khụng phi l quan h bỡnh thng m l quan h m. Bi nghiờn cu gm nhng phn sau: I. Tng quan lý thuyt tp m v quan h m Gii thiu v khỏi nim tp m, cỏc phộp toỏn trờn tp m, quan h m. II. Gii thiu v mng nron nhõn to. Gii thiu cu trỳc ca mt nron, nh ngha v phõn loi mng nron, cỏc th hc mng nron, thut toỏn lan truyn ngc. III. Bi toỏn xỏc nh quan h m bng mng nron nhõn to nh x bi toỏn xỏc nh quan h m lờn mng nron nhõn to, a ra cỏch hun luyn mng. Cui cựng l demo thut toỏn xỏc nh quan h m bng mng nron nhõn to. I. Tng quan lý thuyt tp m v quan h m 1.1 Khỏi nim tp m Tp m c xem l s m rng trc tip ca tp kinh in. Bõy gi ta xột khỏi nim hm thuc ca tp kinh in. nh ngha 1.1 Cho mt tp hp A . nh x { } : 0,1U m đ c nh ngha nh sau: ( ) 1 nếu 0 nếu A x A x x A m ỡ ẻ ù ù = ớ ù ẽ ù ợ (1.1) c gi l hm thuc ca tp A . Tp A l tp kinh in, U l khụng gian nn. Nh vy hm thuc ca tp c in ch nhn hai giỏ tr l 0 hoc 1. Giỏ tr 1 ca hm thuc ( ) A x m cũn c gi l giỏ tr ỳng, ngc li 0 l giỏ tr sai ca ( ) A x m . Mt tp U luụn cú ( ) 1 U x m = , vi mi x 3 Báo cáo nghiên cứu khoa học c gi l khụng gian nn (tp nn). Mt tp A cú dng { } thoả mãn một số tính chất nào đóA x U x= ẻ thỡ c gi l cú tp nn U , hay c nh ngha trờn tp nn U . Vớ d tp { } 9 12A x x= < <ẻ Ơ cú tp nn l tp cỏc s t nhiờn Ơ . Hm thuc ( ) A x m nh ngha trờn tp A , trong khỏi nim kinh in ch cú hai giỏ tr l 1 nu x Aẻ hoc 0 nu x Aẽ . Hỡnh 1.1 mụ t hm thuc ca hm ( ) A x m , trong ú tp A c nh ngha nh sau: { } 2 6A x x= < <ẻ Ă . (1.2) Hỡnh 1.1. Hm thuc ( ) A x m ca tp kinh in A . Cỏch biu din hm ph thuc nh vy khụng phự hp vi nhng tp c mụ t m nh tp B gm cỏc s thc dng nh hn nhiu so vi 6 { } 6B x x= ẻ Ă = , (1.3) cú tp nn l Ă , hoc tp C gm cỏc s thc gn bng 3 cng cú tp nn Ă { } 3C x x= ằẻ Ă (1.4) Tp B , C nh vy c gi l cỏc tp m. Lý do l vi nhng nh ngha m nh vy cha xỏc nh c mt s chng hn nh 4,5x = cú thuc B hoc 2,5x = cú thuc C hay khụng. Nờn chỳng ta khụng th dựng hm thuc ca tp c in ch cú hai giỏ tr 1 v 0 nh ngha tp B v C trong trng hp ny. 4 2 x 6 0 )(x A à 1 Báo cáo nghiên cứu khoa học Vỡ vy ngi ta ngh rng: ti sao li khụng m rng min giỏ tr cho hm thuc ca tp c in, tc l hm thuc s cú nhiu hn hai giỏ tr. Khi ú thay vỡ vic tr li cõu hi 4,5x = cú thuc B hay khụng, ngũi ta s tr li cõu hi l: vy thỡ 4,5x = thuc B bao nhiờu phn trm? Gi s rng cú cõu tr li thỡ lỳc ny hm thuc ( ) B x m ti im 4,5x = phi cú mt giỏ tr trong on [ ] 0,1 , tc l ( ) 0 1 B x m Ê Ê (1.5) Núi cỏch khỏc hm ( ) B x m khụng cũn l hm hai giỏ tr nh i vi tp kinh in na m l mt ỏnh x (hỡnh 1.2) [ ] : 0,1 B U m đ , (1.6) trong ú U l tp nn ca tp m. Hỡnh 1.2 a, Hm ph thuc ca tp m B b, Hm ph thuc ca tp m C nh ngha 1.2 Tp m F xỏc nh trờn tp kinh in U l mt tp m mi phn t ca nú l mt cp cỏc giỏ tr ( ) ( ) , F x x m trong ú x Uẻ v F m l mt ỏnh x [ ] : 0,1 F U m đ . (1.7) nh x F m c gi l hm thuc (hm ph thuc hay hm thnh viờn ) ca tp m F . Tp kinh in U c gi l tp nn (hay tp v tr) ca tp m F . Vớ d mt tp m F ca cỏc s t nhiờn nh hn 6 vi hm ph thuc ( ) F x m cú dng nh hỡnh 1.2a nh ngha trờn nn U s cha cỏc phn t sau 5 Báo cáo nghiên cứu khoa học ( ) ( ) ( ) ( ) { } 1, 1 , 2, 1 , 3, 0,8 , 4, 0,07F = . S t nhiờn 1 v 2 cú ph thuc ( ) ( ) 1 2 1 F F m m = = , cỏc s t nhiờn 3 v 4 cú ph thuc nh hn 1 ( ) 3 0,8 F m = v ( ) 4 0,07 F m = , Nhng s t nhiờn khụng c lit kờ u cú ph thuc bng 0. 1.2 Cỏc phộp toỏn v tp m Ging nh nh ngha v tp m cỏc phộp toỏn trờn tp m cng s c nh ngha thụng qua cỏc hm thuc. Núi cỏch khỏc, khỏi nim xõy dng nhng phộp toỏn trờn tp m l vic xỏc nh cỏc hm thuc cho phộp hp, giao , bự t nhng tp m. Mt nguyờn tc c bn trong vic xõy dng cỏc phộp toỏn trờn tp m l khụng c mõu thun vi nhng phộp toỏn ó cú trong lý thuyt tp hp kinh in. 1.2.1 Phộp hp Cho hai tp hp m A v B cú cựng khụng gian nn U vi hai hm thuc tng ng l ( ) A x m v ( ) B x m . Hp ca A v B l mt tp m cng xỏc nh trờn U , kớ hiu l A Bẩ cú hm thuc ( ) A B x m ẩ tho món: i. ( ) A B x m ẩ ch ph thuc vo ( ) A x m v ( ) B x m . ii. ( ) 0 B x m = vi x" ị ( ) A B x m ẩ = ( ) A x m . iii. Tớnh giao hoỏn, tc l ( ) ( ) A B B A x x m m ẩ ẩ = . iv. Tớnh kt hp, tc l ( ) ( ) ( ) ( )A B C A B C x x m m ẩ ẩ ẩ ẩ = . v. L hm khụng gim: ( ) ( ) 1 2 A A x x m m Ê ị ( ) ( ) 1 2 A B A B x x m m ẩ ẩ Ê . tớnh hm thuc ( ) A B x m ẩ cú nhiu cỏch khỏc nhau, sau õy l mt cụng thc c dựng trong bỏo cỏo ny: ( ) ( ) ( ) { } max , A B A B x x x m m m ẩ = (Lut ly max) (1.8) 6 x à ( ) A x à x a) à ( ) B x à x b) à ( ) A x à ( ) B x à Báo cáo nghiên cứu khoa học Hỡnh 1.3. Hm thuc ca hai tp m cú cựng khụng gian nn a) Hm thuc ca hai tp m A v B b) Hp ca hai tp m A v B theo lut max. Mt cỏch tng quỏt thỡ bt c mt ỏnh x dng ( ) [ ] : 0,1 A B x U m ẩ đ nu tho món 5 tiờu chun ó nờu trong nh ngha hp hai tp m u c xem nh l hp ca hai tp m A v B cú chung mt khụng gian nn U . Cụng thc trờn cng c m rng ỏp dng cho vic xỏc nh hp ca hai tp m khụng cựng khụng gian nn, bng cỏch a c hai tp m v chung mt khụng gian nn l tớch ca hai tp nn ó cho. Vớ d cho tp m A xỏc nh trờn khụng gian nn M v tp m B xỏc nh trờn khụng gian nn N . Do hai tp nn M v N c lp vi nhau nờn hm thuc ( ) A x m , x Mẻ ca tp m A s khụng ph thuc vo N v ngc li ( ) B x m , y Nẻ ca tp B cng s khụng ph thuc vo M . iu ú th hin ch trờn khụng gian nn mi l tp tớch M N hm ( ) A x m phi l mt mt cong dc theo trc y v ( ) B x m l mt mt cong dc theo trc x (hỡnh 1.4). Tp m A nh vy c nh ngha trờn hai khụng gian nn M v M N . phõn bit c chỳng, sau õy kớ hiu A s c dựng ch tp m A trờn khụng gian nn M N . i vi cỏc tp m khỏc cng c kớ hiu tng t. Vi kớ hiu ú thỡ ( ) ( ) , A A x y x m m = vi mi y Nẻ v ( ) ( ) , B B x y x m m = vi mi x Mẻ . 7 Báo cáo nghiên cứu khoa học a. Hỡnh 1.4. Phộp hp hai tp m khụng cựng nn a. Hm thuc ca hai tp m A v B b. a hai tp m v chung mt nn M N c. Hp hai tp m trờn nn M N Sau khi ó a c hai tp m A v B v chung mt khụng gian nn l M N thnh A v B thỡ hm thuc ( ) , A B x y m ẩ ca tp m A Bẩ c xỏc nh theo cụng thc (1.8). Hp hai tp m theo lut max Cho tp m A xỏc nh trờn khụng gian nn M v tp m B xỏc nh trờn khụng gian nn N , cú hm thuc ln lt l ( ) A x m , ( ) B x m . Hp ca hai tp m A v B theo lut max l mt tp m xỏc nh trờn khụng gian nn M N vi hm thuc ( ) ( ) ( ) { } , max , , , A B A B x y x y x y m m m ẩ = . (1.9) trong ú 8 ( ) A x à x ( ) B x à y x ( , ) A x y à y MìN b. ( , ) B x y à MìN x y MìN x ( , ) A B x y à y c. Báo cáo nghiên cứu khoa học ( ) ( ) , A A x y x m m = vi mi y Nẻ v ( ) ( ) , B B x y x m m = vi mi x Mẻ . Mt cỏch tng quỏt, do hm thuc ( ) , A B x y m ẩ ca hp hai tp m A , B khụng cựng khụng gian nn ch ph thuc vo ( ) [ ] 0,1 A x m ẻ v ( ) [ ] 0,1 B x m ẻ nờn ta cú th xem ( ) , A B x y m ẩ l hm ca hai bin A m , B m c nh ngha nh sau ( ) ( ) [ ] [ ] 2 , , : 0,1 0,1 A B A B x y m mm m ẩ = đ (1.10) Ta i n nh ngha v hm thuc ( ) , A B mm m ca hp hai tp m khụng cựng khụng gian nn: nh ngha 1.3 Hm thuc ca hp gia hai tp m A vi ( ) A x m nh ngha trờn khụng gian nn M v B vi ( ) B x m nh ngha trờn khụng gian nn N l mt hm hai bin ( ) [ ] [ ] 2 , : 0,1 0,1 A B mm m đ xỏc nh trờn nn M N tho món: a) 0 B m = ị ( ) , A B A mm m m = . b) ( ) ( ) , , A B B A mm m mm m = , tc l cú tớnh giao hoỏn. c) ( ) ( ) ( ) ( ) , , , , A B C A B C mm mm m mmm m m = , tc l cú tớnh kt hp. d) ( ) ( ) , , , , A B C D A C B D mm m mm m m m m m "Ê Ê Ê , tc l cú tớnh khụng gim. Mt hm hai bin ( ) [ ] [ ] 2 , : 0,1 0,1 A B mm m đ tho món cỏc iu kin ca nh ngha trờn cũn c gi l hm t-i chun (t-conorm). 1.2.2 Phộp giao Cho hai tp hp m A v B cú cựng khụng gian nn U vi hai hm thuc tng ng l ( ) A x m v ( ) B x m . Giao ca A v B l mt tp m cng xỏc nh trờn U , kớ hiu l A BI cú hm thuc ( ) A B x m I tho món: i. ( ) A B x m I ch ph thuc vo ( ) A x m v ( ) B x m . 9 Báo cáo nghiên cứu khoa học ii. ( ) 1 B x m = vi x" ị ( ) A B x m I = ( ) A x m . iii. Tớnh giao hoỏn, tc l ( ) ( ) A B B A x x m m = I I . iv. Tớnh kt hp, tc l ( ) ( ) ( ) ( )A B C A B C x x m m = I I I I . v. Nu 1 2 A A thỡ 1 2 A B A Bầ ầ hay ( ) A B x m ẩ cú tớnh cht khụng gim, tc l ( ) ( ) 1 2 A A x x m m Ê ị ( ) ( ) 1 2 A B A B x x m m ầ ầ Ê . Tng t nh ó trỡnh by v phộp hp hai tp m, cú nhiu cụng thc khỏc nhau tớnh hm thuc ( ) A B x m I ca giao hai tp m v bt c mt ỏnh x ( ) [ ] : 0,1 A B x U m đ I no tho món 5 tiờu chun ó nờu trong nh ngha trờn u c xem nh l hm thuc ca giao hai tp m A v B cú chung mt khụng gian nn U . Sau õy l mt trong nhng cụng thc tớnh hm thuc ( ) A B x m I ca phộp giao gm: ( ) ( ) ( ) { } min , A B A B x x x m m m = I (Lut min) (1.11) Cụng thc trờn cng ỏp dng c cho hp hai tp m khụng cựng khụng gian nn bng cỏch a c hai tp m v chung mt khụng gian nn l tớch ca hai khụng gian nn ó cho. Hỡnh 1.5. Phộp giao ca hai tp m 10 à x à ( ) B x à x a) ( ) A x à à ( ) B x à x b) ( ) A x à MìN y ( , ) A B x y à x d) c) ( ) B x à ( ) A x à [...]... t-chun, t-i chun 26 Báo cáo nghiên cứu khoa học III Bi toỏn xỏc nh quan h m bng mng nron nhõn to 3.1 Bi toỏn Cho khụng gian vo X khụng gian ra Y Yờu cu t ra l xỏc nh quan h m R gia khụng gian vo v ra Vic xỏc nh quan h m R c thc hin thụng qua vic tỡm li gii cho mt phng trỡnh quan h m bi mt mng nron m Chỳng ta s cho rng phng trỡnh r s quan h m l X R = Y , X ẻ [ 0,1] , Y ẻ [ 0,1] , R ẻ [ 0,1] r s Chỳng... z) > q> R ( z, y ) thỡ R ( x, z) > q> R ( z, x ) * Phng trỡnh quan h m 13 Báo cáo nghiên cứu khoa học Phng trỡnh quan h m ln u tiờn nghiờn cu bi GS.Sanchez nm 1976, úng vai trũ quan trng trong cỏc lnh vc phõn tớch cỏc h m, thit k cỏc b iu khin m, quỏ trỡnh ly quyt nh v nhn dng m.Dng n gin nht cú th din t nh sau: Cho mt h m biu din di dng mt quan h m nh nguyờn R trờn khụng gian tớch X Y u vo (input)... khụng cú thụng tin no t ngoi mụi trng ch ra tớn hiu u ra out phi nh th no hoc ỳng hay sai Mng nron phi t khỏm phỏ cỏc c im, cỏc mi quan h ang quan tõm nh: dng ũng nột, cú chun cú bỡnh thng hay khụng, cỏc h s tng quan, tớnh cõn xng, tớnh chy, ca cỏc mu hc v sau ú chuyn nhng quan h tỡm thy qua u ra Trong quỏ trỡnh hc, cỏc trng s ca mng s thay i th hin cỏc c tớnh c phỏt hin Do ú cỏc th tc ny cũn c gi... b) Hỡnh 1.6: Tp bự mnh A c ca tp m A a Hm thuc ca tp m A b Hm thuc ca tp m A c 1.3 Quan h m nh ngha 1.6 Cho X , Y l hai khụng gian nn R gi l mt quan h m trờn X Y nu R l mt tp m trờn X Y , tc l cú mt hm thuc m : X Y đ [ 0,1] , õy R m ( x, y) = R ( x, y ) l thuc ca ( x, y) vo quan h R R - Tớnh bc cu nh ngha: Quan h m R trờn X X gi l: { } a) Min-chuyn tip nu min R ( x, y ) , R ( y, z) Ê R ( x... nú cho ra mt kt qu phự hp vi sai s cú th chp nhn c MC LC 30 Báo cáo nghiên cứu khoa học Phn m u.1 1 Tờn ti.1 2 Lý do chn ti1 I Tng quan lý thuyt tp m v quan h m 2 1.1 Khỏi nim tp m2 1.2 Cỏc phộp toỏn v tp m.6 1.2.1 Phộp hp 6 1.2.2 Phộp giao 10 1.2.3 Phộp bự 13 1.3 Quan h m 14 II Gii thiu v mng nron nhõn to.15 2.1 Mng nron sinh hc.15 2.2 Mng nron nhõn to17 2.2.1 Mụ hỡnh nron nhõn to 17 2.2.2 nh ngha... thnh ( vqj k + 1) Trong ú: ( ( = v(qj ) + D vqj ) = vqj ) + sd x j hq k k k ( dhq = zq ( 1 - zq ) do1wiq k + 1) x1 v11 w11 v21 v12 x2 v22 % y w12 Hỡnh 2.12 Minh ho cho vớ d 2.5 Mng nron m S kt hp trc quan u tiờn l trc tip suy rng mng nron bng cỏch a cỏc khỏi nim m c bit l tp m v s m vo mng nron v xem xột xem nhng bi toỏn no, thut toỏn no cũn ỳng Tỏc ng ca lp thut toỏn mi ra sao? Hon ton t nhiờn ngi... v cỏch m cỏc lp c liờn kt vi nhau) v cỏc trng s ca cỏc liờn kt bờn trong mng Da vo iu ny, ngi ta phõn cỏc thut toỏn hc ca mng nron thnh hai nhúm chớnh: hc cu trỳc v hc tham s 2.3.1 Hc tham s Hc tham s quan tõm n chin lc hiu chnh cỏc trng s ca cỏc nron trong mng Gi s cú n nron, mi nron cú m trng s Chỳng ta cú th kt hp c li to thnh ma trn dng sau: ộ 11 w12 w ờ ờ w w22 W = ờ 21 ờM M ờ ờ w ở m1 wm 2 K K... 0.800000 0.200000ử ữ ữ ữ 0.400000ữ ữ ữ ữ 0.500000ữ ữ ữ ữ 0.500000ữ ữ ữ ữ ữ 0.900000ứ 3.5 Xõy dng chng trỡnh ng dng S dng ngụn ng C# xõy dng mt chng trỡnh minh ho cho thut toỏn ó trỡnh by gii bi toỏn xỏc nh quan h m bng mng nron nhõn to KT LUN - - B nóo ca con ngi l mt b mỏy k thut diu kỡ Cỏc nh khoa hc ó xõy dng mt mụ hỡnh tớnh toỏn mụ phng hot ng ca b nóo ngi nh: kh nng hc rt cao, kh nng dung th li S dng... cha cú tri thc, cú th gii quyt mt bi toỏn c th no ú thỡ phi cho mng nron hc Mng nron hc thụng qua quỏ trỡnh hun luyn mng bng mt tp d liu (training data) Tin trỡnh iu chnh cỏc trng s mng nhn bit c mi quan h gia u vo v ớch mong mun c gi l hc (learning) hay hun luyn (training) Rt nhiu thut toỏn hc ó c phỏt minh tỡm ra tp trng s ti u lm gii phỏp cho bi toỏn Cỏc nhõn t quyt nh ti kh nng ca mt mng nron... nron nhõn to 17 2.2.2 nh ngha v phõn loi mng nron nhõn to 20 2.3 Th tc hc ca mng nron nhõn to 23 2.3.1 Hc tham s 23 2.3.2 Hc cu trỳc 26 2.4 Thut toỏn lan truyn ngc.26 2.5 Mng nron m.29 III Bi toỏn xỏc nh quan h m bng mng nron nhõn to 29 3.1 Bi toỏn 29 3.2 Tụpụ mng 30 3.3 Th tc hc v thut toỏn hun luyn mng31 3.4 Vớ d34 3.5 Xõy dng chng trỡnh ng dng 33 Kt lun 33 Ti liu tham kho35 31 Báo cáo nghiên cứu khoa . NHÂN TẠO Hà Nội 4/2008 Xác định quan hệ mờ bằng mạng nơron nhân tạo Báo cáo nghiên cứu khoa học MC LC Phn m u 1. Tờn ti 2. Lý do chn ti I. Tng quan. NGHỆ THÔNG TIN --------------------- BÁO CÁO NGHIÊN CỨU KHOA HỌC Tên đề tài: XÁC ĐỊNH QUAN HỆ MỜ BẰNG MẠNG NƠRON