Ứng dụng mạng nơ ron vào giải các bài toán thực

NỒ NG T H Ị HOA (CHỦ BIÊN) Đ IN H T H Ị T H A N H UYÊN ỨNG DỤNG MẠNG NƠ-RON VÀO GIẢI CÁC BÀỊTOÁN THỰC % NHÀ XUẤT BẢN G IA O THÔNG VẬN TẢI / NÔNG THỊ HOA (CHỦ BIÊN) ĐINH THỊ THANH UYÊN ỨNG DỤNG MẠNG NƠ-RON VÀO GIẢI CÁC BÀI TOÁN THựC NHÀ XUẤT BẢN GIAO THÔNG VẬN TẢI DANH MỤC CÁC TỪ VÍÉT TẮT Từ viết tắt Nội dung tiếng Việt Nội dung tiếng Anh ANN Artificial Neural Network Mạng nơ-ron nhân tạo ART Adaptive Resonance Theory Lý thuyết cộng hưởng thích nghi FAM Fuzzy Associative Memory Bộ nhớ liên kết mờ Fuzzy ART Fuzzy Adaptive Resonance Theory RBF Radian Basic Function Hàm theo kính SOM Self Organization Map Ánh xạ tự tổ chức Lý thuyết cộng hưởng thích nghi mờ M Ở ĐẦU Ngày nay, Trí tuệ nhân tạo chủ đề nóng nhà nghiên cứu cơng ty, tập đồn lớn quan tâm Mạng nơ-ron nhân tạo (ANN - Artificial Neural Network) mơ hình tốn học mô hoạt động não người Trong năm qua, ứng dụng ANN phát triển rộng rãi nhiều lĩnh vực xử lý ảnh, nhận dạng mẫu, dự đoán giá trị theo chuỗi thời gian Hiện nay, mạng nơ-ron thực học sâu (deep learning) phát triển mạnh mẽ làm thể rõ ưu điểm ANN giải tốn thực Chúng tơi viết sách với mong muốn mang lại cho bạn sinh viên đại học, học viên cao học hiểu biết ngắn gọn, dễ hiểu, gắn với ứng dụng thực tể mạng nơ-ron nhân tạo Dựa kinh nghiệm học viên cao học nghiên cứu sinh mạng nơ-ron nhân tạo, sách trình bày cách hợp lý để giúp cho bạn đọc nhanh chóng hiểu cách giải tốn thực mạng nơ-ron từ ví dụ đơn giản đến việc giải toán thực tể Với mơ hình ANN, chúng tơi có cơng bố code chương trình, input, output để bạn sinh viên, học viên hồn tồn kể thừa để viết ứng dụng cho riêng Nội dung sách tổ chức thành chương Nội dung chương trình bày sau: Chưong trình bày kiến thức cốt lõi ANN gồm nơ-ron sinh học, mơ hình nơ-ron nhân tạo, mạng nơ-ron, q trình học, ưu, nhược điểm, ứng dụng Chương cung cấp kiến thức sở lý thuyết, cẩu tạo, hoạt động, số ví dụ đơn giản ANN điển hình gồm mạng RBF, Hopfield, SOM, Fuzzy ART, FAM Chương the việc giải toán thực tể mạng ANN thích hợp Với tốn, nội dung trình bày gồm phát biểu tốn, gợi ý ANN đùng để giải, trình bày ví dụ minh họa việc dùng mạng với số liệu thực code chương trình tương ứng Chương mơ tả ý nghĩa cách dùng lệnh Matlab dùng úng dụng thực trình bày sách Hơn nữa, hàm mô hoạt động số ANN mô tả để thuận tiện cho viết ứng dụng khác Chúng hy vọng sách trở thành tài liệu hữu ích dành cho bạn đọc yêu thích khoa học, có mong muốn tìm kiếm, sáng tạo để tạo ứng dụng tốt phục vụ cho người xã hội Để viết sách này, nhận 'ý kiến góp ý nhiều thầy giáo có chun mơn sâu bạn đồng nghiệp Nhóm tác giả mong nhận góp ý thầy cô bạn đồng nghiệp để cải tiến chất lượng sách ngày tốt CÁC TÁC GIẢ CHƯƠNG MẠNG NƠ-RON NHÂN TẠO Chương cung cấp hiểu biết chung ANN gồm (i) nguồn gốc sinh nơ-ron nhân tạo từ nơ-ron sinh học, cấu trúc hoạt động nơ-ron đơn, (ii) khái niệm, trình học, ưu nhược điểm ứng dụng ANN Các kiến thức giúp hiểu biết đầy đủ ANN trình bày Chương 1.1 NƠ-RON SINH HỌC Một nơ-ron sinh học tế bào xử lý thơng tin truyền tín hiệu hỏa học qua khớp thần kinh tới tể bào khác Mỗi nơ-ron kết nối với nơ-ron khác hình thành mạng nơ-ron Hình 1.1 Cấu tạo nơ-ron sinh học Cấu tạo nơ-ron sinh học gồm có thân tể bào, hình Iiục Hình 1.1 Các hình mọc từ thân tế bào chia thành nhiều nhánh Một trục sinh từ thân tể bào Các tín hiệu truyền từ trục nơ-ron tới hình nơ-ron khác 1.2 NƠ-RON NHÂN TẠO 1.2.1 Cấu tạo Warren McCulloch Walter Pitts đề xuất mơ hình tính tốn cho nơ-ron sinh học [1] Hình 1.2 y Hình 1.2 Mơ hình nơ-ron nhân tạo Trong đó: y tín hiệu Xi, X2, x „ tín hiệu vào Wi, W2, Wn trọng số tương ứng với tín hiệu vào Hoạt động nơ-ron gồm hai bước: - Tổng hợp tín hiệu vào - Tạo tín hiệu tương ứng với tín hiệu vào 1.2.2 Tổng hợp tín hiệu vào Cho thông tin vào Xi, X2, x„ với trọng sổ tương ứng Wi, w 2, Wn Sự tổng hợp tín hiệu vào thực theo công thức sau: Dạng tuyến tính n ( 1.1) Ĩ=1 Dạng toàn phương n ( 1.2) Dạng mặt cầu n với p bán kính mặt cầu 1.2.3 Tạo tín hiệu ANN dùng hàm kích hoạt để tạo tín hiệu Dưới số dạng hàm thường dùng ANN Hình 1.3 thể đồ thị mô tả dạng hàm kích hoạt thường dùng Hàm SIGN: output = f (input) = Ị if input > & if input < (1.4) với ngưỡng Hàm NGƯỠNG: 1, if input > UTP if input < LTP output = f(input) = < 0, f (input), otherwise (1.5) với UTP > LTP với UTP ngưỡng ừên LTP ngưỡng Hàm SIGNMOID: ơutput = /(ínput) = 1-+ g ; Xftwwĩ ( 1.6) vói X độ nghiêng hàm Hàm SIGN Hình 1.3 Các đồ thị mơ tả dạng hàm kích hoạt thường dùng Hàm GAUSS: u u t = f( in p u t) = aE ( n p u - t) 2? (1.7) với a, b, c > E ~ 2.718281828 sổ Euler 1.3 MẠNG NƠ-RON NHÂN TẠO 1.3.1 Khái niệm Mạng nơ-ron nhân tạo [6] cấu trúc thể liên kết nơ-ron nhân tạo Mỗi nơ-ron cỏ tín hiệu vào, tín hiệu thực chức tính toán riêng Các đặc điểm bật ANN gồm: - Là mơ hình tốn học dựa chất hoạt động nơ-ron sinh học - Được cẩu tạo từ số nơ-ron có liên kểt với - Có khả học tổng quát hóa tập liệu thông qua việc gán hiệu chỉnh trọng số liên kểt nơ-ron - Xử lý song song thơng tin phân tán nên có khả tính tốn lớn Các ANN chia theo nhiều cách dựa vào cấu trúc (một tầng nhiều tàng), cách truyền tín hiệu (truyền thẳng lan truyền ngược), chất việc học (học giám sát, học không giám sát, học lai hai cách) 1.3.2 Phân loại Để dễ hiểu việc xử lý tỉn hiệu ANN, thực phân loại ANN theo cách truyền tín hiệu [6] Do đó, ANN chia thành hai nhóm gồm mạng truyền thẳng mạng lan truyền ngược Mạng truyền thẳng Mạng truyền thẳng ANN thực truyền tín hiệu theo đường thẳng từ tàng tín hiệu vào qua tầng trung gian đến tầng tín hiệu nơ-ron khơng truyền tín hiệu cho nơ-ron tầng phía trước hay nơ-ron tầng Mạng truyền thẳng chia thành nhóm theo số tầng thành mạng lớp, mạng hai lớp (RBF) mạng nhiều lớp Hình 1.4 Hình 1.5 thể cấu trúc mạng truyền thẳng lớp hai lớp Hình 1.4 Cấu trúc mạng truyền thẳng lớp Hình 1.5 Cấu trúc mạng truyền thẳng hai lớp Mạng lan truyền ngược Mạng lan truyền ngược ANN thực truyền tín hiệu theo đường thẳng từ tầng tín hiệu vào đến tầng tín hiệu nơ-ron truyền ngược tín hiệu cho nơ-ron tầng phía trước hay nơ-ron tầng Mạng lan truyền ngược chia thành nhóm gồm mạng canh tranh, mạng Self Organization Map (SOM), mạng Hopfield mô hình Adaptive Resonance Theory (ART) Hình 1.6 mơ tả loại mạng lan truyền ngược (c) Mạng Hopíĩeld (d) Mạng ART Hình 1.6 Các mạng lan truyền ngược 9 4.9.4 Ví dụ tổng hợp Tạo mạng có input véc tơ có hai phần tử, có nơ-ron phân bố hình lục giác có kích thước 2x3 net=newsom([2 3]); Giả sử có liệu huấn luyện lưu ma trận p p = [.1 1.2 1.1 1.8 1.7 1.2 1.1 1.8 1.7; 0.2 0.1 0.3 0.1 0.3 0.2 1.8 1.8 1.9 1.9 1.7 1.8]; Chúng ta thiết lập mạng với liệu huấn luyện xem kết mạng Hình 4.16 thể vị trí nơ-ron sau khởi tạo theo liệu p net = configure(net,P) ; plotsompos(net,P) Hình 4.16 Sự bổ trí nơ-ron sau khởi tạo với p 126 Thực huấn luyện mạng sau 1000 lần lặp với liệu huấn luyện p Kết huấn luyện thể Hình 4.17 net.trainParam.epochs = 1000; net = train(net,P); plotsoinpos (net, P) Hình 4.17 cho thấy vị trí nơ-ron gần hom với điểm liệu huấn luyện màu xanh KI SOMWeight Portions (plotsompos) & HnAilÉÍ File Edit View Insert Tools Desktop Window Help * SOM W eight Positions Hinh 4.17 Sự bố trí nơ-ron sau huấn luyện 1000 lần lặp Đe tìm trung tâm cụm tốt, thay đổi số lần lặp trình huấn luyện để xem kết dừng lại thu kết chấp nhận Ví dụ: Cho 1000 input gán giá trị ngẫu nhiên miền [0,1] lệnh sau: p = rands(2,1000); Hình 4.18 thể input đồ thị để theo dõi phân bố input tìm vị trí thích hợp nơ-ron sau huấn luyện mạng 127 Hình 4.18 Sự bổ trí input lưu p Tạo mạng SOM có 30 nơ-ron theo ma trận có kích thước 5x6 để phân lớp input Dùng hàm khoảng cách m a n d i s t Mạng huấn luyện 5000 lần lặp Sau 20 lần lặp kểt huấn luyện để theo dõi lựa chọn kết tốt Hình 4.19 - 4.22 mô tả thay đổi kết huấn luyện sau 40, 120, 500 5000 lần lặp Chúng ta thấy kểt huấn luyện sau 5000 lần lặp cho kết tốt Hình 4.19 Kết huấn luyện sau 40 lần lặp 128 - ÍV ã • -0 - - 11 -1 W(i,1) Hình 4.20 Kết huấn luyện sau 120 lần lặp Hình 4.21 Kết huấn luyện sau 500 lần lặp W(i,1) Hình 4.22 Kết huấn luyện sau 5000 lần lặp 129 4.10 DÙNG CÁC HÀM MATLAB ĐỂ MÔ PHỎNG MẠNG HOPFIELD Việc dùng mạng RBF phải trải qua bước tương tự mạng truyền thẳng nhiều lớp Chúng giới thiệu hàm khác biệt ví dụ tổng hợp 4.10.1 Lệnh tạo mạng Hoptìeld net = newhop(T); với T ma trận lưu trạng thái ổn định mạng Mạng nhớ lại mẫu lưu T T biểu diễn giá trị -1 +1 Mạng Hopíield có tầng với hàm gán trọng số dotprod hàm tạo tín hiệu vào cho mạng netsum dùng hàm chuyển làsatlins 4.10.2 Ví dụ tổng hợp mạng Hoptield Tạo mạng Hopíield với hai điểm ổn định lưu T T = [ - -1 1; - 1]'; net = newhop(T); view(net); Hĩnh 4.23 mơ tả cấu trúc mạng Hopíỉeld tạo lệnh Hình 4.23 cấu trúc mạng Hoptield vừa tạo Chúng ta kiểm tra xem mạng có ổn định hai trạng thái khơng cách sử dụng T điều kiện dừng hoạt động mạng Nểu mạng ổn định, xem output Y có giống T khơng Ai = T; [Y,Pf,Af] = sim(net,2,[],Ai); Y 130 Kểt thu cho thấy mạng Hopíĩeld nhớ lại hai mẫu huấn luyện Y = -1 ' 1—1 *—1 1—1 1—1 Để xem mạng làm mẫu vào nhiễu, chạy mạng Hopfïeld lần lặp đoạn code sau: Ai = {[ - ; -0.8; ] }; [Y,Pf,Af] = sim(net,{l 5},{},AỈ); Y {1} Mạng Hopfield nhớ lại mẫu huấn luyện Do Y {1} với T{ 1} nên mạng sửa lỗi mẫu nhiễu Ai mẫu gần giống Ai ans = -1 -1 4.11 CÂU HỎI ÔN TẬP VÀ VẬN DỤNG Câu 1: Nhập vào hai ma trận A B cấp 5x5 Thực số thao tác sau: - Hiện phàn tử hàng thứ ma trận A - Hiện phần tử cột thứ ma trận A - Hiện phần tử từ hàng thứ đến hàng thứ ma trận A - Hiện hai phần tử đầu hàng thứ ma trận A - Hiện hai phần tử cuối cột thứ ma trận A - Hiện hai phần tử đầu hai phần tử cuổi cột thứ ma trận A - Nhân ma trận A với - Chia ma trận A cho - Chuyển vị ma trận A - Cộng ma trận A với ma trận B - Nhân ma trận A với ma trận B - Trừ ma trận A với ma trận B 131 Câu 2: Cho file có tên “anh.jpg”, thực thao tác sau: - Đọc ảnh lưu vào biến - Hiện ảnh hình - Giảm kích cỡ ảnh xuống cịn 20x20 - Chuyển ảnh thành ảnh mức xám - Chuyển ảnh thành ảnh nhị phân - Ghi ảnh vào file có tên “dulieu.txt” - Chuyển ma trận thể ảnh thành dạng véc tơ chiều - Nhân phần tử có giá trị lớn với - Đem phần tử có giá trị nhỏ hặc 10 - Tổng phàn tử có giá trị thuộc miền (2,5) - Tích phần tử có giá trị nhở lớn - Gán lại giá trị cho ma trận lưu ảnh theo quy tắc sau: giá trị lớn 100 đặt giá trị 1, ngược lại giá trị - Đọc số liệu từ file có tên “dulieu.txt” vào biển A Câu 3: Dùng mạng truyền thẳng nhiều lớp mạng RBF để mô hàm y = sin(x)cos(y) với x,y e [-2, 2] Câu 4: Dùng mạng truyền thẳng nhiều lớp mạng RBF để mô hàm y = x2+ 3x - với X € [-1, 1] Câu 5: Dùng hàm Matlab để mô hàm f(x,y) = sin(x)cos(y) với x,y € [-2, 2], Câu 6: Dùng hàm Matlab để mô hàm f(x,y) = y*x-2x+3y-l vói x,y e [-2, 2], Câu 7: Dùng hàm Matlab để mô mạng SOM việc phân lớp tập liệu p sinh lệnh p = rand(3,500); Câu 8: Dùng hàm Matlab để mô mạng SOM việc phân lớp tập liệu p sinh lệnh p = rand(4,2000); Câu 9: Dùng hàm có sẵn Matlab việc mô mạng để giải toán thực nêu Chương Câu 10: Tìm đoạn code Internet mơ tả việc giải toán cụ thể để kế thừa vào giải toán thực nêu Chương 132 TÀI LIỆU THAM KHẢO Bùi Công Cường, Đặng Quang Á, Nguyễn Doãn Phước, “ứ n g dụng mạng nơron tính tốn”, Hệ mờ, mạng nơron ứng dụng, Nhà xuất Khoa học kĩ thuật, trang 199-211, Hà Nội, 2001 Bùi Thế Duy, Nông Thị Hoa, Đặng Trung Kiên, “Improving Learning Rule for Fuzzy Associative Memory with Combination of Content and Association”, NeuroComputing, 149(Part A), Elsevier, pp 59-64, 2015 Nông Thị Hoa, “Cải tiến trình học số mạng nơ-ron ghi nhớ”, Luận án tiến sĩ, Trường ĐH Công nghệ, ĐH Quốc gia Hà Nội, 2015 Nông Thị Hoa, Bùi Thế Duy, “An improved learning rule for Fuzzy ART”, Journal o f Information Science and Engineering, 30(3), Institute of Information Science, Academia Sinica, pp 713-726, 2014 Nông Thị Hoa, Bùi Thế Duy, “Classifying human body postures by a two-neuron Fuzzy Neural Network” Proceedings o f 10th IEEE RIVF International Conference on Computing and Communication, IEEE Press, pp 142-146, 2016 K J Anil, M Jianchang, K M Mohiuddin, “Artificial Neural Networks: A T utorial”, IEEE Computational Science & Engineering, Vol 29, Issue 3, pp 3144, 1996 G Carpenter, s Grossberg, D B Rosen (1991), “Fuzzy A R T : Fast Stable Learning and Categorization of Analog Patterns by an Adaptive Resonance System”, Pergamon Press-Neural network, vol 4, pp 759-771 J Mandziuk, “Solving the Travelling Salesman Problem with a Hopfield - type neural network”, Demonstrate Mathematica, vol 29, Isue 1, pp 219-231, 1996 p Sussner, M.E Valle, “Implicative Fuzzy Associative Memories”, IEEE Transactions on Fuzzy System, vol 14(6), pp 793-807, 2006 10 N Zercouki A Houacine, “Automatic Classification of Human Body Postures Based on the Truncated SVD”, Journal o f Advances in Computer Networks, vol 2, pp 58-62, 2014 11 w Pediycz, A Skowron, V Kreinovich, “Handbook of Granular Computing”, John Wiley & Sons, Chapter 33, pp 733-753, 2008 133 MỤC LỤC Trang DANH MỤC CÁC TỪ VIỂT TẮT M Ở Đ Ầ U Chương MẠNG NƠ-RON NHÂN T Ạ O 1.1 Nơ-ron sinh h ọ c 1.2 Nơ-ron nhân tạ o 1.2.1 Cấu tạ o 1.2.2 Tổng hợp tín hiệu vào 1.2.3 Tạo tín hiệu 1.3 Mạng nơ-ron nhân tạo 1.3.1 Khái niệm 1.3.2 Phân lo i 1.4 Quá trình học A N N 10 1.4.1 Khái niệm 10 1.4.2 Các lược đồ h ọ c 10 1.4.3 Các luật h ọ c ! 11 1.5 Các dạng thể luật h ọ c 11 1.5.1 Các thuật toán dựa luật lỗi-làm 11 1.5.2 Máy Boltzmann luật học Boltzmann 13 1.5.3 Các dạng luật học dựa luật học H ebb 14 1.5.4 Các dạng luật học dựa luật học cạnh tranh 14 1.6 Ưu nhược điểm A N N 15 1.7 ứ n g dụng A N N 15 1.8 Câu hỏi ôn tập vận dụng 19 Chương M ỘT SỐ MẠNG NƠ-RON ĐIỂN H ÌN H 20 2.1 Các kiến thức toán học liên quan 20 2.1.1 Logic m 20 2.1.2 Tốn học hình th i 22 134 2.2 Mạng truyền thẳng nhiều lớp 22 2.2.1 Cấu trúc mạng truyền thẳng 22 2.2.2 Hoạt động mạng truyền thẳng nhiều lớp 23 2.2.3 Một số hạn chế mạng truyền thẳng nhiều lớ p 23 2.2.4 Mạng truyền thẳng hai lớp Radial Basic Function 24 2.3 Mạng hồi quy Hopfield 26 2.3.1 Cấu trúc mạng 27 2.3.2 Cách hoạt động 27 2.3.3 Phân lo ại 28 2.3.4 Ví dụ tổng h ợ p 29 2.3.5 Dùng mạng Hopfield Bộ nhớ liên k ế t 31 2.3.6 Dùng mạng Hopíĩeld giải tốn tối ưu tổ họp 33 2.4 Mạng Self Organizing M ap 35 2.4.1 Cấu trúc mạng SOM 36 2.4.2 Các hoạt động 36 2.4.3 Ví dụ áp dụng 37 2.5 Mạng Fuzzy Adaptive Resonance Theory 39 2.5.1 Cấu trúc mạng A R T 39 2.5.2 Cách hoạt động 40 2.5.3 Một sổ số đon giản để đo chất lượng phân cụm 42 2.5.4 Áp dụng Fuzzy ART cho toán toán phân lớ p 43 2.6 Mạng Fuzzy Associative Memory 44 2.6.1 Khái niệm FA M 45 2.6.2 Cách hoạt động 45 2.6.3 Một sổ mơ hình FAM cải tiến 46 2.6.4 Ví dụ áp dụng 50 2.7 Câu hỏi ôn tập vận dụng 52 Chương GIẢI CÁC BÀI TOÁN T H ự C 53 3.1 Phân lớp hoa phong lan tập liệu Iris mạng Fuzzy A R T 53 3.1.1 Phát biểu toán 53 135 3.1.2 Giới thiệu tập liệu Iris 53 3.1.3 Tiền xử lý liệu 53 3.1.4 Chọn cấu trúc tham số Fuzzy ART 54 3.1.5 Huấn luyện Fuzzy A R T 54 3.1.6 Kết thử nghiệm 54 3.1.7 Code chương trìn h 54 3.2 Phân lớp hoa phong lan tập liệu Iris mạng R B F 57 3.2.1 Phát biểu toán 57 3.2.2 Chọn phần liệu từ tập Iris 57 3.2.3 Tiền xử lý liệu 57 3.2.4 Cấu trúc hoạt động mạng RB F 57 3.2.5 Kết thử nghiệm 57 3.2.6 Code chương trìn h 57 3.3 Giải tốn tìm đường cho người du lịch mạng Hopfield 59 3.3.1 Phát biểu toán 59 3.3.2 Dữ liệu mô tả thành phố đ .60 3.3.3 Cấu trúc hoạt động mạng Hopíĩeld 61 3.3.4 Kết thử nghiệm 61 3.3.5 Code chương trìn h 62 3.4 Mô nhớ liên kết mạng Hopfield 66 3.4.1 Phát biểu toán 66 3.4.2 Các mẫu liệu dùng chương trình 66 3.4.3 Tiền xử lý liệu 67 3.4.4 Cấu trúc hoạt động mạng Hopíĩeld 67 3.4.5 Kết chạy thử nghiệm 67 3.4.6 Code chương trìn h 68 3.5 Phân đoạn ảnh mạng SOM 71 3.5.1 Phát biểu toán 71 3.5.2 Các mẫu liệu dùng chương trình 71 3.5.3 Tiền xử lý liệu 71 136 3.5.4 Cấu trúc hoạt động SO M 72 3.5.5 Kêt chạy thử nghiệm .72 3.5.6 Code chương trình 72 3.6 Phân đoạn ảnh mạng Fuzzy ART .75 3.6.1 Phát biểu toán 75 3.6.2 Mầu liệu dùng chương trình 76 3.6.3 Tiền xử lý liệu 76 3.6.4 Cấu trúc hoạt động Fuzzy ART 76 3.6.5 Kết chạy thử nghiệm .77 3.6.6 Code chương trình 77 3.7 Mô nhớ liên kết mạng FAM gốc 79 3.7.1 Phát biểu toán 79 3.7.2 Các mẫu liệu dùng chương trình 79 3.7.3 Tiền xử lý liệu 79 3.7.4 Cấu trúc hoạt động mạng FAM 80 3.7.5 Kết chạy thử nghiệm chế độ tự liên k ế t 80 3.7.6 Kết chạy thử nghiệm chế độ liên kết khác loại 83 3.8 Phân loại tư thể người mạng truyền thẳng MỘT lớp 86 3.8.1 Phát biểu toán 86 3.8.2 Các bước xử lý hệ thống nhận dạng tư thể 86 3.8.3 Cẩu trúc hoạt động mạng truyền thẳng MỘT lớ p 86 3.8.4 Bộ liệu thử nghiệm 89 3.8.5 Kết thực nghiệm 90 3.8.6 Code thuật toán huấn luyện 90 3.9 Phân loại tư người mạng truyền thẳng NHDEƯ lớp 93 3.9.1 Phát biểu toán 93 3.9.2 Các bước xử lý hệ thống nhận dạng tư 93 3.9.3 Cấu trúc hoạt động mạng truyền thẳng NHIỀU lớp 93 3.9.4 Bộ liệu thử nghiệm 94 3.9.5 Kết thực nghiệm 94 137 3.9.6 Code thuật toán huấn luyện 9i 3.9.7 Code hoạt động phân loại tư 96 3.10 Câu hỏi ôn tập vận d ụng 97 Chương MỘT SỔ LỆNH MATLAB DÙNG TRONG CÁC ỨNG DỤNG VÀ MƠ PHỎNG MỘT SĨ MẠNG 99 4.1 Nhóm lệnh điều khiển 99 4.1.1 Một số phép toán dùng biểu thức điều kiện 99 4.1.2 Lệnh F O R 10® 4.1.3 Lệnh IF ELSEIF ELSE 100 4.1.4 Lệnh W HILE 101 4.1.5 Lệnh FUNCTION 102 4.2 Các thao tác với ma trận 103 4.2.1 Một sổ kiến thức 103 4.2.2 Các phép toán số h ọ c 104 4.2.3 Một số phép toán khác 104 4.3 Nhóm lệnh đọc, ghi, hiển thị ả n h 105 4.3.1 Đọc ảnh đồ hoạ 105 4.3.2 Ghi ảnh đồ hoạ .106 4.3.3 Hiện ảnh đồ hoạ .106 4.4 Lấy liệu từ file text, file Excel lưu vào biến 106 4.5 Nhóm lệnh chuyển đổi ảnh sang dạng khác 107 4.5.1 Các dạng ảnh phổ biển 107 4.5.2 Chuyển từ ảnh màu RGB sang ảnh mức xám .107 4.6 Hiện kết phân lớp ảnh nhiều màu 108 4.7 Dùng hàm Matlab để mô mạng nơ-ron truyền thẳng nhiều ló p 108 4.7.1 Chuẩn bị liệu huấn luyện .108 4.7.2 Tạo mạng m ới 109 4.7.3 Thực huấn luyện mạng 109 4.7.4 Chạy mạng để lẩy output ứng với input m i 109 138 4.7.5 Đảnh giá thực taãịacảam ạng .110 4.7.6 Diều chỉnh tham sổ mạng cần thiết .111 4.7.7 Ví dụ tổng hợp 111 4.8 Dùng hàm Matlab để mơ phịng mạng R B F .116 4.8.1 Tạo mạng R B F .116 4.8.2 Ví dụ tổng h ợ p 117 4.9 Dùng hàm Matlab để mô mạng SO M 120 4.9.1 Tạo mạng SOM 120 4.9.2 Các lựa chọn hình dạng phân bố vị trí nơ-ron 121 4.9.3 Các lựa chọn hàm khoảng cách nơ-ron 123 4.9.4 Ví dụ tổng h ợ p 126 4.10 Dùng hàm Matlab để mơ mạng Hopíĩeld 130 4.10.1 Lệnh tạo mạng Hopfield 130 4.10.2 Ví dụ tổng hợp mạng Hopfield 130 4.11 Câu hỏi ôn tập vận dụng 131 TÀI LIỆU THAM K H Ả O 133 139 ỨNG DỤNG MẠNG NƠ-RON VÀO GIẢI CÁC BÀI TOÁN THỰC NHÀ XUẤT BẢN GIAO THƠNG VẬN TẢI 80B Trần Hưng Đạo - Hồn Kiếm - Hà Nội Điện thoại: 024.39423346 * Fax: 024.38224784 Website: www.nxbgtvt.vn * Email: nxbgtvt@fpt.vn Chịu trách nhiệm xuât bản: Lê Tử Giang Chịu trách nhiệm nội dung: Nguyễn Hồng Kỳ Vũ Văn Bái Biên tập: Trình bày thiết kế bìa: Ngơ Trần Đức Trung In 500 cuốn, khổ 19x27cm, Cơng ty CPTM in Hồng Anh Địa chỉ: 82B phố Chùa Láng, p Láng Hạ, Q Đống Đa - Hà Nội Số xác nhận đăng ký xuất bản: 2642-2018/CXBIPH/2-130/GTVT Mã số sách tiêu chuẩn quốc tế - ISBN: 978-604-76-1666-4 Quyết định xuất số: 77 NB/QĐ-XBGT ngày tháng năm 2018 In xong nộp lưu chiểu quý III năm 2018 ... Nơ- ron cỏ tín hiệu nhỏ nơ- ron chiến thắng Cách quy định nơ- ron láng riềng nơ- ron chiến thẳng Mạng SOM yêu cầu định nghĩa nơ- ron láng riềng không gian Các nơ- ron láng riềng cục nơ- ron nằm theo dạng... Mỗi nơ- ron tính khoảng cách Euclid mẫu vào véc tơ trọng số nơ- ron (ỉj ) theo công thức: yy = li*-wựll (2.42) Nơ- ron có tín hiệu nhỏ nơ- ron chiến thắng Cách quy định nơ- ron lảng riềng nơ- ron chiến... Boltzmann mạng Hopíĩeld đối xứng gồm nơ- ron nhị phân (nhận hai giá trị +1 -1) Tính đối xứng thể thơng qua trọng số kết từ nơ- ron i đển nơ- ron j trọng số kết từ nơ- ron j đến nơ- ron i (Wịj = Wjj) Mạng