Luận văn thạc sĩ khoa học máy tính mạng anfis và ứng dụng cho dự báo mực nước hồ thủy điện thác bà

i ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THÔNG _  NGUYỄN NGỌC QUYÊN MẠNG ANFIS VÀ ỨNG DỤNG CHO DỰ BÁO MỰC NƯỚC HỒ THỦY ĐIỆN THÁC BÀ Chuyên ngành: Khoa học máy tính Mã số: 60 48 0101 LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH Người hướng dẫn khoa học: PGS.TS Ngô Quốc Tạo THÁI NGUYÊN - 2016 Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn ii LỜI CAM ĐOAN Tôi xin cam đoan luận văn cơng trình nghiên cứu thân Các kết nghiên cứu luận văn trung thực chưa cơng bố cơng trình khác Tác giả luận văn Nguyễn Ngọc Quyên Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn iii LỜI CẢM ƠN Tơi xin bày tỏ lịng biết ơn chân thành tới thầy PGS.TS Ngô Quốc Tạo người dìu dắt giúp đỡ tơi lĩnh vực nghiên cứu luận án công tác chuyên môn sống Tác giả xin chân thành cảm ơn sự giúp đỡ của các thầ y cô giáo trường Đa ̣i ho ̣c Công nghệ thông tin Truyền thông Thái Nguyên đã ta ̣o điều kiêṇ giúp đỡ tận tình viêc̣ nghiên cứu luận văn Cuối cùng tác giả xin chân thành cảm ơn sự giúp đỡ của Ban giám hiêu, ̣ Khoa Sau Đại học trường Đa ̣i học Công nghệ thông tin Truyền thông Thái Nguyên cho phép và ta ̣o điề u kiê ̣n thuâ ̣n lợi để tác giả hoàn thành luâ ̣n văn này Tác giả luận văn Nguyễn Ngọc Quyên Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn iv MỤC LỤC CHƯƠNG : MẠNG NEURAL VÀ BÀI TOÁN NHẬN DẠNG CHỮ IN 1.1 Khái Niệm Mạng Neural 1.1.1 Sơ lược neural sinh học 1.1.2 Mạng Neural Nhân Tạo 1.1.3 Kiến Trúc Mạng 1.1.3.1 Mạng truyền thẳng 10 1.1.3.2 Mạng hồi quy (Recurrent Neutral Network) 12 1.1.4 Luật học mạng neural 13 1.1.4.1 Phương Pháp Học 13 1.1.4.2 Luật học tham số 14 1.1.4.3 Học có tín hiệu đạo 15 1.1.4.4 Học khơng có tín hiệu đạo 15 1.1.4.5 Học tăng cường 16 1.1.4.6 Học cấu trúc 16 1.1.5 Các phương pháp huấn luyện mạng 17 1.1.5.1 Phương pháp huấn luyện pha 17 1.1.5.2 Phương pháp huấn luyện hai pha 17 1.1.5.3 phương pháp huấn luyện mạng hai pha HDH 18 1.1.5.4 Phương pháp huấn luyện ba pha đầy đủ 21 1.2 Bài toán nhận dạng chữ in 21 1.2.1 Bài toán nhận dạng nói chung 21 1.2.2 Giới thiệu toán nhận dạng mẫu 22 1.2.3 Bài toán nhận dạng chữ in 23 1.2.3.1 Phương pháp trích đặc trưng chữ in sử dụng Momen Legendre 24 CHƯƠNG 2: NHẬN DẠNG CHỮ IN SỬ DỤNG MẠNG NEURAL 27 2.1 Thiết kế mạng neural 27 2.2 Huấn luyện mạng neural 35 2.2.1 Chuẩn bị tập liệu huấn luyện: 36 2.2.2 Biểu diễn tri thức tập liệu huấn luyện: 37 2.2.3 Thuật toán lan truyền ngược: 39 2.2.4 Áp dụng huấn luyện mạng neural nhận dạng chữ in: 45 2.3 Nhận dạng mạng neural 49 CHƯƠNG 3: CHƯƠNG TRÌNH NHẬN DẠNG KÝ TỰ 50 3.1 Xác định tham số cho mạng 50 3.2 Xử lý liệu lựa chọn liệu 50 3.2.1 Lấy mẫu xuống hình ảnh 50 3.2.2 Xử lý liệu (Phân tích ảnh) 52 3.2.2.1 Tách dòng kí tự 52 3.2.2.2 Tách kí tự 53 3.3 Một số kết 57 Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn v 3.4 Kết luận 60 * Về mặt lý thuyết 62 * Về mặt thực tiễn 63 Hướng phát triển 63 * Nhận dạng chữ viết tay tiếng Việt 63 Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn vi DANH MỤC HÌNH Hình 1.1 : Mơ hình neural sinh học Hình 1.2: Đồ thị hàm đồng (Identity function) Hình 1.3: Đồ thị hàm bước nhị phân (Binary step function) Hình 1.4: Đồ thị hàm sigmoid Hình 1.5: Đồ thị hàm sigmoid lưỡng cực Hình 1.6 Mơ hình nơ-ron Hình 1.7 Mạng truyền thẳng nhiều lớp 12 Hình 1.8 Mạng lớp có nối ngược 12 Hình 1.9 Mạng nhiều lớp có nối ngược 13 Hình 1.10: Các bước xử lý hệ thống nhận dạng mẫu 23 Hình 1.11:Các bước giải hình dạng chữ in 24 Hình 2.1: Sơ đồ đồ thị có hướng đơn giản 27 Hình 2.2: Biên định không gian mẫu 30 Hình 2.3: Khơng gian mẫu khả tách tuyến tính 32 Hình 2.4: Khơng gian mẫu khơng khả tách tuyến tính 32 Hình 2.5: Mơ hình mạng lớp 35 Hình 2.6: Các bước huấn luyện 47 Hình 3.1: Q trình xác định dịng kí tự 53 Hình 3.2: Tách kí tự 56 Hình 3.3: Giao diện chương trình mơ 57 Hình 3.4: Nhận dạng chữ tiếng Anh ảnh 58 Hình 3.5: Nhận dạng kí tự có dấu 59 Hình 3.6: Kí tự có dấu 60 Hình 3.7: Kí tự số viết tay 64 Hình 3.8: Kí tự tiếng Anh viết tay 65 Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn LỜI MỞ ĐẦU Từ đời nay, máy tính ln ln khơng ngừng phát triển đóng vai trị quan trọng nghiên cứu khoa học kĩ thuật, sống người Nhưng máy tính công cụ người sáng tạo hoạt động theo chương trình lập trình sẵn người Nó khơng có khả liên tưởng, suy luận, kết nối việc cách linh hoạt, quan trọng hết khả sáng tạo não người Việc mô trình hoạt động trí tuệ người vào ứng dụng máy tính nỗ lực lớn hồn thiện lập trình viên Do mạng noron(Artificial neural networks) đời với mục đích cố gắng mơ q trình hoạt động trí tuệ người Các nghiên cứu ứng dụng thực các ngành: điện, điện tử, kỹ thuật chế tạo, y học, quân sự, kinh tế nghiên cứu ứng dụng lĩnh vực quản lý dự án xây dựng Bài toán nhận dạng tốn sử dụng tính mạng neural nhiều Bài toán nhận dạng với trợ giúp mạng neural ngày khơng cịn dừng mức độ nghiên cứu mà trở thành lĩnh vực để áp dụng vào thực tế Trong số toán nhận dạng này, nhận dạng chữ viết ứng dụng phổ biến Nhận dạng chữ viết ứng dụng trình tự động hóa cơng việc văn phịng nhập liệu, trữ văn bản, sách báo, phân loại thư tín Trong chạy đua trí tuệ nhân tạo giới hai cơng ty lớn làng cơng nghệ giới Google Apple Google đưa Google glass sử nên tảng hoạt động tốn nhận dạng Ngồi việc xử lý kí tự để số hố tài liệu để tìm kiếm thơng tin tài liệu Google nghiên cứu phát triển Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn Mới hội nghị nhà phát triển Apple đại gia làng cơng nghệ giới công bố thư viện chuyên sâu mạng neural để việc ứng dụng mạng neural toán thực tế việc xây dựng ứng dụng tảng Apple Trong lần giới thiệu thư việc hưởng ứng nhiệt tình Apple cung cấp thư viện hỗ trợ việc huấn luyện mạng ứng dụng thực tế đặc biệt ứng dụng tốn nhận dạng Các dịng điện thoại thông minh ngày phổ biến với cấu hình mạnh mẽ chắn hồn tồn đáp ứng việc xây dựng mạng neural vào để thực toán nhận dạng Bài tốn nhận dạng kí tự phát triển mạnh mẽ số hoá các văn truyền thống ngồi ứng dụng tốn nhận dạng hồn tồn giúp cho người khiếm thị nghe các văn chuyển thể từ nhận dạng chữ sang dạng số hố tái lại âm giúp người tiếp cận tri thức nhân loại Hầu hết công ty công nghệ hàng đầu sâu vào việc nghiên cứu các hướng huấn luyện máy tính học kiến thức người Nên thân em muốn tìm hiểu mạng neural việc xây dựng mạng neural toán nhận dạng Mục đích luận văn trình bày kết nghiên cứu lý thuyết phục vụ chủ đề “Nghiên cứu mạng neural nhận dạng chữ in tiếng anh” Để hoàn thành tiểu luận này, em hướng dẫn nhiệt tình từ thầy PGS.TS Ngơ Quốc Tạo Những giảng tài liệu thầy sở để em hồn thành tốt báo cáo Em xin chân thành cảm ơn thầy Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn CHƯƠNG : MẠNG NEURAL VÀ BÀI TOÁN NHẬN DẠNG CHỮ IN 1.1 Khái Niệm Mạng Neural 1.1.1 Sơ lược neural sinh học Bộ não người có khoảng 1010 tế bào thần kinh liên kết chặt chẽ với gọi các nơ-ron Sau thành phần nơ ron Hình 1.1 : Mơ hình neural sinh học Trong :  Các Soma thân neural  Các dendrites dây mảnh, dài, gắn liền với soma, chúng truyền liệu (dưới dạng xung điện thế) đến cho soma xử lý Bên soma liệu tổng hợp lại Có thể xem gần đúng tổng hợp phép lấy tổng tất liệu mà neural nhận  Một loại dây dẫn tín hiệu khác gắn với soma axon Khác với dendrites, axons có khả phát các xung điện thế, chúng dây dẫn tín hiệu từ neural các nơi khác Chỉ điện soma vượt Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn giá trị ngưỡng (threshold) axon phát xung điện thế, cịn khơng trạng thái nghỉ  Axon nối với dendrites neural khác thông qua mối nối đặc biệt gọi synapse Khi điện synapse tăng lên các xung phát từ axon synapse nhả số chất hoá học (neurotransmitters); chất mở "cửa" dendrites ions truyền qua Chính dịng ions làm thay đổi điện dendrites, tạo xung liệu lan truyền tới neural khác - Hoạt động neural sinh học mơ tả tóm tắt sau: Mỗi neural nhận tín hiệu vào từ tế bào thần kinh khác Chúng tích hợp tín hiệu vào, tổng tín hiệu vượt q ngưỡng chúng tạo tín hiệu gửi tín hiệu tới neural khác thông qua dây thần kinh Các neural liên kết với thành mạng Mức độ bền vững liên kết xác định hệ số gọi trọng số liên kết 1.1.2 Mạng Neural Nhân Tạo Để mô tế bào thần kinh khớp nối thần kinh não người, mạng neural nhân tạo có thành phần có vai trị tương tự neural nhân tạo kết nối chúng (kết nối gọi weights) Neural đơn vị tính tốn có nhiều đầu vào đầu ra, đầu vào đến từ khớp nối thần kinh (synapse) Đặc trưng neural hàm kích hoạt phi tuyến chuyển đổi tổ hợp tuyến tính tất tín hiệu đầu vào thành tín hiệu đầu Một neural nhân tạo đơn vị tính toán hay đơn vị xử lý thông tin sở cho hoạt động mạng neural Neural hoạt động sau: giả sử có N inputs, nơron có N weights (trọng số) tương ứng với N đường truyền inputs Neural lấy tổng trọng số tất các inputs Nói có nghĩa neural lấy input thứ Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn nhất, nhân với weight đường input thứ nhất, lấy input thứ hai nhân với weight đường input thứ hai v.v , lấy tổng tất kết thu Đường truyền có weight lớn tín hiệu truyền qua lớn, xem weight đại lượng tương đương với synapse neural sinh học  Trọng số tổng tín hiệu đầu vào: Giả sử neural i có N tín hiệu vào, tín hiệu vào S j gán trọng số W ij tương ứng Ta ước lượng tổng tín hiệu vào neural net i theo số dạng sau: (i)Dạng tuyến tính: N neti  Wij s j (1.1) j 1 (ii)Dạng toàn phương: N neti  Wij s 2j (1.2) j 1 (iii)Dạng mặt cầu: neti    s N j 1 j  w ij  (1.3) Trong đó:  w ij  j  1, N  tâm bán kính mặt cầu  Hàm kích hoạt (hàm chuyển): Một số hàm kích hoạt thường sử dụng: 1) Hàm đồng (Linear function, Identity function) g(x) = x (1.4) Nếu coi các đầu vào đơn vị chúng sử dụng hàm Có số nhân với net-input tạo thành hàm đồng Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn Hình 1.2: Đồ thị hàm đồng (Identity function) 2) Hàm bước nhị phân (Binary step function, Hard limit function) Hàm gọi hàm ngưỡng (Threshold function hay Heaviside function) Đầu hàm giới hạn hai giá trị: ì1 (x ³ q ) g(x) = í ỵ0 (x < q ) (1.5)  ngưỡng Hình 1.3: Đồ thị hàm bước nhị phân (Binary step function) Dạng hàm thường sử dụng mạng lớp Trong hình vẽ  chọn 3) Hàm sigmoid (Sigmoid function (logsig)) Hàm sigma dạng chung hàm kích hoạt sử dụng cấu trúc mạng neural nhân tạo Nó hàm tăng thể trung gian tuyến tính phi tuyến Một ví dụ hàm hàm logistics, xác định sau: g( x)  1  e  x Số hóa Trung tâm Học liệu – ĐHTN (1.6) http://www.lrc.tnu.edu.vn  tham số độ dốc hàm sigma Bằng việc biến đổi tham số  , chúng ta thu hàm sigma với các độ dốc khác Thực tế, hệ số góc x=  /4 Khi tham số hệ số góc tiến tới không xác định, hàm sigma trở thành hàm ngưỡng đơn giản Trong hàm ngưỡng có giá trị 1,  tham số độ dốc hàm sigma Bằng việc biến đổi tham số  , chúng ta thu hàm sigma với các độ dốc khác Trong hàm ngưỡng có giá trị 1, hàm sigma nhận giá trị từ tới Cũng phải ghi nhận hàm sigma hàm phân biệt, hàm ngưỡng khơng (Tính phân biệt hàm đặc tính quan trọng lý thuyết mạng neuron) Hàm thường dùng cho mạng huấn luyện (trained) thuật tốn lan truyền ngược (back –propagation), dễ lấy đạo hàm, làm giảm đáng kể tính tốn trình huấn luyện Hàm dùng cho các chương trình ứng dụng mà đầu mong muốn rơi vào khoảng [0,1] Hình 1.4: Đồ thị hàm sigmoid 4)Hàm sigmoid lưỡng cực (Bipolar sigmoid function (tan(sig)) g( x)  Số hóa Trung tâm Học liệu – ĐHTN 1 e x 1 e x (1.7) http://www.lrc.tnu.edu.vn Hàm có đặc tính tương tự hàm sigmoid Hàm làm việc tốt ứng dụng có đầu yêu cầu khoảng [-1,1] Hình 1.5: Đồ thị hàm sigmoid lưỡng cực  Nút bias: Là nút thêm vào nhằm tăng khả thích nghi mạng nơ-ron q trình học Trong mạng nơ-ron có sử dụng bias, nơ-ron có trọng số tương ứng với bias Trọng số ln có giá trị Mơ hình nút xử lý (nút thứ i): Vi Wi1 Vj Wij Ui=  Vi=fi(Ui) Vi WiN VN Hình 1.6 Mơ hình nơ-ron N U i   Wij Vj  θ i j 1 j #i Vi  f i U i  Số hóa Trung tâm Học liệu – ĐHTN (1.8) (1.9) http://www.lrc.tnu.edu.vn Trong đó: U i : tín hiệu vào nơ-ron i Vi : tín hiệu nơron i Wij : trọng số liền kề từ nơ-ron j đến nơ-ron i  i : ngưỡng (đầu vào ngồi) kích hoạt nơ-ron i f i : hàm kích hoạt nơ-ron i 1.1.3 Kiến Trúc Mạng Mạng neural nhân tạo hệ thống bao gồm nhiều phần tử xử lý đơn giản (hay gọi neural) tựa neural thần kinh não người, hoạt động song song nối với liên kết neural Mỗi liên kết kèm theo trọng số đó, đặc trưng cho tính kích hoạt ức chế neural Việc ứng dụng mạng neural giải lớp toán định, như: Bài toán người du lịch, tốn tơ màu đồ, tốn xếp loại, tốn lập thời khóa biểu, tốn tìm kiếm, toán nhận dạng mẫu Các toán phức tạp cao, không xác định Tuy nhiên, liên kết toán thực tế với giải pháp mạng neural lại việc không dễ dàng Xét cách tổng quát, mạng neural mang các đặc tính bật sau :  Là mơ hình tốn học dựa chất neural  Bao gồm số lượng lớn neural liên kết với Mạng neural có khả học, khái qt hóa tập liệu học thơng qua việc gán hiệu chỉnh trọng số liên kết  Tổ chức theo kiểu tập hợp mang lại cho mạng neural khả tính tốn lớn, khơng có neural mang thơng tin riêng biệt Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn 10 1.1.3.1 Mạng truyền thẳng - Mạng truyền thẳng lớp Mạng truyền thẳng lớp mạng perceptron lớp Là mạng truyền thẳng lớp vào lớp Trên lớp có nhiều neural mạng truyền thẳng lớp có lớp vào lớp Mơ hình mạng neural perceptron sử dụng hàm ngưỡng đóng vai trị hàm chuyển Do đó, tổng tín hiệu vào lớn giá trị ngưỡng giá trị đầu neural 1, cịn trái lại ì1 (neti ³ q ) outi = í ỵ0 (neti < q ) Với neti = w ij xj (1.10) tổng thơng tin đầu vào neural i Trong ma trận trọng số cho phần tử vector đầu vào W:  w1,1 w1, w1, R    w2,1 w2, w2, R   W =     wS ,1 wS , wS , R   Với giá trị đầu vào x  x1, x2, , xn  T Qua trình xử lý mạng ta thu tương ứng giá trị đầu y  y1, y2, , yn  T xác định sau :  m  yi  f i   wij x j  i , i  1, n  j 1  (1.11) Trong : m : Số tín hiệu vào n : Số tín hiệu WiT wi1 , wi , , win T : véc tơ trọng số neural thứ i Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn 11 fi : Là hàm kích hoạt neural thứ i i : Là ngưỡng neural thứ i Ngay từ mạng Perceptron đề xuất sử dụng để giải tốn phân lớp Một đối tượng neural i phân vào lớp A : m : Số tín hiệu vào n : Số tín hiệu Tổng thơng tin đầu vào w ij xj > i Trong trường hợp trái lại neural phân vào lớp B Mạng truyền thẳng nhiều lớp (Multilayer Perceptron –MLP) Nếu dùng mạng neural truyền thẳng lớp để phân tích tốn phức tạp gặp nhiều khó khăn Do để khắc phục khó khăn người ta đưa mơ hình mạng neural truyền thẳng nhiều lớp việc kết hợp lớp neural lại với Loại mạng có lớp  Lớp vào lớp nhận tín hiệu vào  Lớp lớp đưa tín hiệu  Lớp ẩn lớp lớp vào lớp neural lớp có hàm chuyển dạng phi tuyến Do mạng neural nhiều lớp giải toán phi tuyến nhờ vào lớp ẩn Càng nhiều lớp ẩn khả mở rộng thơng tin cao xử lý tốt mạng Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn 12 x1 Lớp vào Lớp ẩn Lớp y1 x2 y2 yn xm Hình 1.7 Mạng truyền thẳng nhiều lớp Mỗi nút lớp vào nhận giá trị biến độc lập chuyển vào mạng Dữ liệu từ tất nút lớp vào tích hợp – ta gọi tổng trọng số – chuyển kết cho nút lớp ẩn Gọi “ẩn” các nút lớp liên lạc với nút lớp vào lớp ra, có người thiết kế mạng biết lớp (người sử dụng lớp này) Các nút lớp nhận tín hiệu tổng trọng hóa từ nút lớp ẩn Mỗi nút lớp tương ứng với biến phụ thuộc 1.1.3.2 Mạng hồi quy (Recurrent Neutral Network) Mạng hồi quy lớp có nối ngược X1 Y1 X2 XN Y2 YM Hình 1.8 Mạng lớp có nối ngược Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn 13 Mạng hồi quy nhiều lớp có nối ngược X1 Y1 X2 Y2 XN YM Hình 1.9 Mạng nhiều lớp có nối ngược 1.1.4 Luật học mạng neural 1.1.4.1 Phương Pháp Học Bộ não muốn hoạt động cách nhanh nhạy chuẩn xác cần quá trình tích lũy kinh nghiệm thích nghi với mơi trường Do tiến trình học tiến trình quan trọng người để não tích lũy kinh nghiệm thích nghi với mơi trường để xử lý tình cách tốt Mạng neural xây dựng lại theo cấu trúc não phải cần có khả nhận biết liệu thơng qua tiến trình học Các thơng số tự mạng thay đổi liên tục thay đổi môi trường mạng neural cần phải ghi nhớ giá trị Q trình học thực sau: - Giá trị đầu vào đưa vào mạng theo dòng chảy mạng tạo thành giá trị đầu - Quá trình so sánh giá trị tạo mạng neural với giá trị mong muốn Nếu hai giá trị giống khơng thay đổi Tuy nhiên, có sai lệch hai giá trị vượt giá trị sai số mong muốn ngược mạng từ đầu đầu vào để thay đổi số kết nối Đây quá trình lặp lại liên tục khơng dừng khơng tìm giá trị W cho đầu tạo mạng neural đúng đầu mong muốn Để dừng q trình lặp người ta thiết lập tiêu chuẩn dựa vào giá Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn 14 trị sai số hai giá trị số lần lặp Cơng thức tính sai lệch hai giá trị là: e=t–y kí hiệu : y giá trị kết xuất mạng nơ-ron t giá trị mong muốn, e sai lệch hai giá trị Cấu trúc song song mạng neural ưu điểm lớn so với máy tính truyền thống, thích hợp cho ứng dụng đòi hỏi tốc độ nhanh theo thời gian thực Khả huấn luyện mạng neural khai thác để phát triển hệ thống thích nghi Mặt khác, với khả tổng qt hóa mạng neural, áp dụng để điều khiển nhiều tham số phức tạp đồng thời từ giải dễ dàng số toán thuộc lớp toán NP- đầy đủ (NPComplete) Cách đơn giản khái niệm học mạng neural cập nhật trọng số sở mẫu Rộng luật học chia làm hai loại học tham số học cấu trúc Các luật học đóng vai trò quan trọng việc xác định mạng neural nhân tạo 1.1.4.2 Luật học tham số Học tham số nhằm tìm kiếm ma trận trọng số cho mạng có khả đưa dự báo sát với thực tế Dạng chung luật học tham số là: Wij  rx j , i  1, N , j  1, M (1.12) Trong đó: Wij : thay đổi trọng số liên kết từ neural j đến neural i x j : tín hiệu vào neural j  : tốc độ học, nằm khoảng (0,1) r : số học Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn ... cứu ứng dụng thực các ngành: điện, điện tử, kỹ thuật chế tạo, y học, quân sự, kinh tế nghiên cứu ứng dụng lĩnh vực quản lý dự án xây dựng Bài toán nhận dạng tốn sử dụng tính mạng neural nhiều Bài... chắn hồn tồn đáp ứng việc xây dựng mạng neural vào để thực toán nhận dạng Bài tốn nhận dạng kí tự phát triển mạnh mẽ số hoá các văn truyền thống ngồi ứng dụng tốn nhận dạng hồn tồn giúp cho. .. xây dựng ứng dụng tảng Apple Trong lần giới thiệu thư việc hưởng ứng nhiệt tình Apple cung cấp thư viện hỗ trợ việc huấn luyện mạng ứng dụng thực tế đặc biệt ứng dụng tốn nhận dạng Các dịng điện