Nhận dạng chữ viết tay tiếng Việt sử dụng mạng nơron

ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THÔNG TRỊNH THỊ PHƯƠNG THẢO NHẬN DẠNG CHỮ VIẾT TAY TIẾNG VIỆT SỬ DỤNG MẠNG NƠRON LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH Thái Nguyên, Tháng 06 năm 2012 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn i LỜI CẢM ƠN Xin chân thành cảm ơn Thầy giáo, PGS.TS Lê Bá Dũng tận tình dạy, hƣớng dẫn tơi suốt thời gian nghiên cứu thực luận văn Tôi xin chân thành cảm ơn Thầy giáo Viện Công nghệ Thông tin Thầy giáo Trƣờng Công nghệ thông tin Truyền thông - ĐH Thái Nguyên giảng dạy, giúp đỡ suốt thời gian học tập Xin cảm ơn tất anh chị học viên Cao học khóa 9, cảm ơn cán công chức, giảng viên Trƣờng Công nghệ thông tin Truyền thông - ĐH Thái Nguyên tạo điều kiện tốt cho suốt hai năm học qua Xin cảm ơn bạn bè, đồng nghiệp tạo diều kiện nhƣ bảo nhiều thời gian thực luận văn Cuối cùng, xin chân thành cảm ơn gia đình động viên tạo điều kiện thuận lợi để có đƣợc kết nhƣ ngày hơm Thái Ngun, tháng 06/2012 Ngƣời viết luận văn Trịnh Thị Phƣơng Thảo Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn ii LỜI CAM ĐOAN Tôi xin cam đoan đề tài luận văn “Nhận dạng chữ viết tay Tiếng Việt sử dụng mạng Nơron” cơng trình nghiên cứu thân Các số liệu, kết nghiên cứu nêu luận văn trung thực khơng chép y ngun từ cơng trình khác Tôi xin chịu trách nhiệm luận văn Thái Nguyên, tháng 06/2012 Ngƣời viết luận văn Trịnh Thị Phƣơng Thảo Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn iii MỤC LỤC Trang TRANG PHỤ BÌA LỜI CẢM ƠN i LỜI CAM ĐOAN ii MỤC LỤC iii DANH MỤC CÁC TỪ TIẾNG ANH VIẾT TẮT vii DANH MỤC CÁC HÌNH viii PHẦN MỞ ĐẦU CHƢƠNG I TỔNG QUAN VỀ MẠNG NƠRON NHÂN TẠO VÀ MẠNG NƠRON KOHONEN 1.1 Giới thiệu mạng nơron nhân tạo 1.1.1 Lịch sử phát triển 1.1.2 Mơ hình mạng nơ-ron nhân tạo 1.1.2.1 Nơ-ron sinh học 1.1.2.2 Nơ-ron nhân tạo 1.1.2.3 Mạng nơ-ron nhân tạo 12 1.1.2.3.1 Mạng truyền thẳng 13 1.1.2.3.2 Mạng hồi quy (Recurrent Neutral Network) 15 1.1.2.4 Luật học 16 1.2 Phạm vị ứng dụng mang nơron nhân tạo 20 1.2.1 Những tốn thích hợp 20 1.2.1.1 Phân loại 21 1.2.1.2 Mô hình hố 21 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn iv 1.2.1.3 Biến đổi 23 1.2.1.4 Liên kết 23 1.2.2 Các lĩnh vực ứng dụng mạng nơron 24 1.3 Mạng KOHONEN 26 1.3.1 Giới thiệu mạng Nơron Kohonen 26 1.3.2 Cấu trúc mạng nơron Kohonen [9] 27 1.3.3 Thực mạng nơron Kohonen [9] 28 1.3.3.1 Chuẩn hóa đầu vào 28 1.3.3.2 Tính tốn đầu cho nơron 29 1.3.3.3 Chọn nơron chiến thắng 29 1.3.3.4 Quá trình học mạng nơron Kohonen 30 1.3.3.4.1 Tốc độ học 32 1.3.3.4.2 Hiệu chỉnh trọng số 33 1.3.3.4.3 Tính toán lỗi 34 CHƢƠNG II 36 ỨNG DỤNG MẠNG NƠRON KOHONEN TRONG BÀI TOÁN NHẬN DẠNG CHỮ VIẾT TAY TIẾNG VIỆT 36 2.1 Tổng quan toán nhận dạng 36 2.2 Giới thiệu toán nhận dạng chữ viết tay Tiếng Việt 39 2.3 Phƣơng pháp nhận dạng chữ viết tay sử dụng mạng nơron 43 2.4 Phát biểu toán 44 2.5 Các bƣớc giải toán sử dụng mạng nơron Kohonen 44 2.5.1.Xây dựng giao diện vẽ 44 2.5.2 Xây dựng mạng nơron Kohonen 47 2.5.3 Xử lý liệu (phân tích ảnh) 47 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn v 2.5.4 Huấn luyện mạng nơron Kohonen 48 2.5.5 Nhận dạng mạng nơron Kohonen 50 2.5.6 Kết luận 50 CHƢƠNG III 52 MÔ PHỎNG NHẬN DẠNG KÝ TỰ VlẾT TAY TIẾNG VIỆT RỜI RẠC SỬ DỤNG MẠNG NƠRON KOHONEN 52 3.1 Giới thiệu 52 3.2 Thực chƣơng trình nhận dạng ký tự 53 3.2.1 Xác định tham số cho mạng 54 3.2.2 Vẽ hình ảnh 55 3.2.3 Lấy mẫu xuống hình ảnh 56 3.2.3.1 Lƣu hình ảnh đƣợc lấy mẫu xuống 56 3.2.3.2 Kích thƣớc vị trí 56 3.2.3.3 Thực lấy mẫu xuống 57 3.2.4 Các tập huấn luyện 58 3.2.5 Lớp mạng 58 3.2.6 Lớp mạng nơron Kohonen 59 3.2.6.1 Tính tốn đầu mạng Kohonen 61 3.2.6.2 Huấn luyện mạng nơron Kohonen 62 3.3 Chƣơng trình mơ 65 3.3.1 Các chức chƣơng trình 65 3.3.2 Kết nhận dạng 66 3.3.3 Kết luận 68 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn vi CHƢƠNG IV: KẾT LUẬN 71 4.1 Các kết đạt đƣợc 71 4.1.1 Về mặt lý thuyết 71 4.1.2 Về mặt thực tiễn 72 4.2 Hƣớng phát triển tiếp tbeo 73 4.3 Một vài suy nghĩ sau nghiên cứu 73 TÀI LIỆU THAM KHẢO 75 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn vii DANH MỤC CÁC TỪ TIẾNG ANH VIẾT TẮT STT Từ viết tắt Từ viết tƣờng minh HMM Hiden Markov Model LVQ Learning Vector Quantization MLP Multi Layer Perception OCR Optical Character Recognation PDA Personal Digital Assistant RFID Radio Frequency Identification SOM Self Organizing Maps SVM Support Vector Machine Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn viii DANH MỤC CÁC HÌNH Hình 1.1 Mơ hình nơ-ron sinh học Đồ thị hàm đồng (Identity function) Đồ thị hàm bƣớc nhị phân (Binary step function) Đồ thị hàm sigmoid 10 Đồ thị hàm sigmoid lƣỡng cực 10 Hình 1.2 Mơ hình nơ-ron 11 Hình 1.3 Mạng truyền thẳng lớp 14 Hình 1.4 Mạng truyền thẳng nhiều lớp 15 Hình 1.5 Mạng lớp có nối ngƣợc 16 Hình 1.6 Mạng nhiều lớp có nối ngƣợc 16 Hình 1.7: Cấu trúc mạng Kohonen 27 Hình 1.8: Mạng nơron Kohonen điển hình 28 Hình 1.9: Huấn luyện mạng Kohonen (SOM) 30 Hình 1.10 Quá trình huấn luyện mạng nơron Kohonen 31 Hình 2.1: Mơ hình chung nhận dạng chữ viết 42 Hình 2.2: Quá trình tìm giới hạn ký tự 45 Hình 2.3: Quá trình lấy mẫu xuống 45 Hình 2.4 Quá trình ánh xạ từ ma trận điểm sang ma trận giá trị 48 Hình 2.5 Quá trình huấn luyện mạng nơron Kohonen 49 Hình 3.1 Giao diện chƣơng trình mơ 65 Hình 3.2 Nhận dạng ký tự Ơ 67 Hình 3.3 Nhận dạng ký tự Ô 67 Hình 3.4 Nhận dạng ký tự Ƣ 68 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn ix Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 62 chọn nơron chiến thắng Đầu tiên biến "biggest" đƣợc thiết lập giá trị nhỏ để chƣa có nơron chiến thắng Trọng số nơron đầu đƣợc tính cách lấy tích vơ hƣớng trọng số nơron đầu đến nơron đầu vào Tích vơ hƣớng đƣợc tính cách nhân giá trị đầu vào với trọng số nơron đầu vào đầu Những trọng số đƣợc định trình huấn luyện Đầu đƣợc giữ giá trị lớn đƣợc thiết lập nơron chiến thắng Ta thấy tính kết từ mạng nơron trình nhanh Trên thực tế, xác định trọng số nơron phần phức tạp trình 3.2.6.2 Huấn luyện mạng nơron Kohonen Học trình lựa chọn ma trận trọng số nơron nhận mẫu đầu vào Một mạng Kohonen học cách liên tục đánh giá tối ƣu hóa ma trận trọng số Để làm đƣợc điều này, ma trận trọng số khởi tạo phải đƣợc định Nó đƣợc chọn giá trị ngẫu nhiên Khi ma trận trọng số đƣợc khởi tạo ngẫu nhiên q trình huấn luyện bắt đầu Đầu tiên, đánh giá ma trận trọng số để xác định mức lỗi hành Lỗi đƣợc xác định trình ánh xạ đầu vào huấn luyện đến đầu tốt nhƣ Lỗi đƣợc tính tốn phƣơng thức "evaluateErrors" lớp KohonenNetwork Nếu mức lỗi nhỏ, nhỏ 10%, q trình đƣợc hồn thành Quá trình huấn luyện bắt đầu ngƣời sử dụng nhấn vào nút: "Học" Q trình tính số nơron đầu vào đầu Đầu tiên số nơron đầu vào đƣợc Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 63 định từ kích thƣớc hình ảnh lấy mẫu xuống 100 Cịn số đầu tƣơng ứng với số ký tự mẫu Bây kích thƣớc mạng nơron đƣợc xác định, tập huấn luyện mạng nơron phải đƣợc cấu trúc Tập huấn luyện đƣợc cấu trúc để giữ số lƣợng xác số mẫu Với chƣơng trình 89 ký tự đƣợc cung cấp Tiếp theo, hình ảnh đầu vào đƣợc lấy mẫu xuống đƣợc chép đến tập huấn luyện Đây vòng lặp cho tất mẫu đầu vào Cuối mạng đƣợc cấu trúc tập huấn luyện đƣợc đƣa vào Với tập huấn luyện đƣợc giao, phƣơng thức "learn" đƣợc gọi Nó điều chỉnh ma trận trọng số mạng đƣợc huấn luyện Phƣơng thức học lặp với số vịng lặp khơng xác định Nhƣng chắn ràng nhiều lần lặp Khi số mẫu huấn luyện phù hợp với nơron đầu ra, huấn luyện xảy nhanh Một thủ tục có tên "evaluateErrors" đƣợc gọi để đánh giá trọng số làm việc tốt nhƣ Điều đƣợc xác định cách nhìn vào liệu huấn luyện đến nơron đầu tốt nhƣ Nếu có nhiều nơron đầu đƣợc kích hoạt cho mẫu huấn luyện tập trọng số khơng tốt Một tỷ lệ lỗi đƣợc tính tốn dựa tập huấn luyện truyền đến nơron đầu tốt nhƣ Một lỗi đƣợc xác định, phải xem có dƣới mức lỗi tốt từ trƣớc đến khơng Nếu thỏa mãn lỗi đƣợc đƣa vào mức lỗi tốt trọng số nơron đƣợc trì cách chép để lƣu lại Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 64 Tổng số nơron chiến thắng sau đƣợc tính tốn Điều cho phép ta xác định trƣờng hợp khơng có nơron đầu đƣợc kích hoạt Ngồi ra, tỷ lệ lỗi dƣới mức chấp nhận đƣợc (10%) trình huấn luyện dừng Nếu khơng có nơron chiến thắng nơron buộc phải trở thành nơron chiến thắng Bây ma trận trọng số đƣợc đánh giá, đƣợc điều chỉnh dựa lỗi Các giá trị điều chỉnh đƣợc tính tốn lỗi đƣợc xác định Quá trình hiệu chỉnh ma trận trọng số gồm hai bƣớc tính tốn lỗi điều chỉnh ma trận trọng số lỗi dƣới 10% Trên phƣơng pháp huấn luyện mạng nơron Phƣơng pháp điều chỉnh tính tốn lỗi đƣợc tập tin "KohonenNetwork.java" Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 65 3.3 Chƣơng trình mơ 3.3.1 Các chức chƣơng trình Hình 3.1 Giao diện chƣơng trình mơ  Vẽ chữ: vùng để vẽ ký tự lên  Tập mẫu: Chứa ký tự mẫu dùng để huấn luyện  Mẫu: Tải tập ký tự mẫu tạo sẵn file: sample.dat  Ghi: Ghi lại tập ký tự mẫu vào file: sample.dat  Học: Huấn luyện mạng  Xóa mẫu: Xóa ký tự mẫu đƣợc chọn  Thêm ký tự: Dùng để thêm ký tự vào tập mẫu Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 66  Nhận dạng: Nhận dạng ký tự vẽ vào  Xóa chữ: Xóa ký tự đƣợc vẽ vùng vẽ chữ  Ma trận: Hiển thị ảnh ký tự lên lƣới Chúng ta tải tập huấn luyện từ file tạo sẵn sample.dat cách nhấn nút "Mẫu" tự nhập mẫu để huấn luyện cách vẽ ký tự vào vùng vẽ ký tự nhấn "Thêm ký tự", có hộp thoại xuất hiện, nhắc bạn đánh vào ký tự tƣơng ứng để nhận dạng ký tự tƣơng ứng với ký tự vừa vẽ Sau nhập xong tập mẫu nhấn nút "Học" để huấn luyện cho mạng nơron Kohonen Q trình huấn luyện hồn thành, thực nhận dạng ký tự cách vẽ ký tự nhấn nút "Nhận dạng" Khi ký tự đƣợc hiển thị lƣới kích thƣớc 10*10 Có thể xóa ký tự cách nhấn nút "Xóa ký tự", xóa mẫu tập mẫu cách chọn ký tự cần xóa nhấn nút "Xóa" Có thể ghi lại tập mẫu cách nhấn nút "Ghi", tập mẫu đƣợc tạo đƣợc lƣu vào file sample.dat 3.3.2 Kết nhận dạng - Để nhận dạng ký tự, ta vẽ ký tự cần nhận dạng vào vùng vẽ chữ - Nhấn nút nhận dạng - Ký tự đƣợc hiển thị lƣới kích thƣớc 10* 10 - Đồng thời đƣa ký tự nhận dạng tƣơng ứng với ký tự đƣợc vẽ Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 67 Một số kết minh họa Hình 3.2 Nhận dạng ký tự Ơ Hình 3.3 Nhận dạng ký tự Ô Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 68 Hình 3.4 Nhận dạng ký tự Ƣ 3.3.3 Kết luận Chƣơng trình nhận dạng với độ xác cao Nếu ký tự nhận dạng chƣa đƣợc xác, ta thêm mẫu huấn luyện lại cho ký tự đến nhận dạng đƣợc ký tự xác Nếu ký tự gần giống nhau, nhận dạng dễ lẫn sang huấn luyện ta thêm mẫu tƣơng ứng với ký tự đến đạt đƣợc tỷ lệ nhận dạng cao Chƣơng trình nhận dạng xác hơn, với ký tự khơng dấu độ xác 90%, ký tự có dấu độ xác khoảng 80% Đối với ký tự có dấu độ xác thấp so với trƣờng hợp khơng có dấu trƣờng Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 69 hợp này, ký tự khác ít, nên số lƣợng mẫu huấn luyện cho ký tự có dấu cần nhiều Để nhận dạng đƣợc nhiều kiểu viết khác tập mẫu huấn luyện cho ký tự phải có nhiều dạng phong phú, tƣơng ứng với cách viết mà ngƣời sử dụng viết Quá trình huấn luyện giải đƣợc khía cạnh phức tạp tốn nhận dạng chữ viết tay, đa dạng chữ viết tay, đặc biệt chữ viết tay tiếng Việt Nhƣ chƣơng trình mơ nhận dạng ký tự viết tay tiếng Việt trực tuyến đạt đƣợc mục tiêu toán phức tạp đặt Hiện nay, nghiên cứu mạng nơron hƣớng nghiên cứu mẻ nhiều hứa hẹn Áp dụng hƣớng tiếp cận để giải toán nhận dạng ký tự viết tay tiếng Việt trực tuyến vốn phức tạp đặc điểm: - Ký tự viết tay trực tuyến phải thêm vào xử lý phần tạo giao diện để vẽ ký tự, so với việc nhập đầu vào file ảnh ký tự viết tay - Ký tự viết tay hình dạng ký tự phong phú đa dạng, phụ thuộc nhiều vào ngƣời viết, ngƣời có cách viết khác - Ký tự viết tay tiếng Việt có số lƣợng lớn, lớn nhiều so với ký tự theo chuẩn khác Ví dụ: chuẩn tiếng Anh gồm 26 ký tự không dấu, chuẩn tiếng Việt có 89 ký tự gồm ký tự khơng dấu có dấu Mặt khác, ký tự lại giống nên dễ nhầm lẫn trình nhận dạng Nhƣ vậy, giải toán phải đáp ứng đƣợc yêu cầu: - Giải đƣợc phức tạp việc xử lý liệu đầu vào Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 70 - Giải đƣợc việc xử lý khối lƣợng liệu lớn - Giải đƣợc độ chuẩn xác trình nhận dạng - Giải đƣợc mức độ tổng quát, đa dạng, phong phú trình xây dựng huấn luyện mạng để đạt đƣợc độ xác cao nhận dạng Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 71 CHƢƠNG IV KẾT LUẬN Mặc dù nghiên cứu phôi thai lý thuyết mạng nơron năm 40 kỷ XX, nhƣng vài thập niên trở lại thực có đƣợc ứng dụng quan trọng mang đến nhiều hứa hẹn hệ máy thơng minh Chính vậy, riêng cá nhân tơi, cịn điều mẻ - môn lý thuyết tƣơng lai Điều thúc đẩy vừa thực nghiên cứu lý thuyết vừa cố gắng cài đặt phần mềm thử nghiệm với hy vọng nắm đƣợc đƣợc gọi khoảng thời gian thực luận văn Theo gợi ý thầy giáo hƣớng dẫn, lựa chọn đề tài: "Nhận dạng chữ viết tay Tiếng Việt sử dụng mạng nơron " Sau thời gian nghiên cứu, kết mà tơi đạt đƣợc chƣa đạt đƣợc (kết hƣớng tới) tổng kết lại nhƣ sau: 4.1 Các kết đạt đƣợc 4.1.1 Về mặt lý thuyết  Nắm đƣợc khái niệm thành phần kiểu kiến trúc mạng nơron, phân biệt đƣợc số loại mạng nơron  Nắm đƣợc ý nghĩa việc học hay tích lũy, có vai trị to lớn quy tắc học, mơ hình học thuật toán học nhiều khả ứng dụng khác Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 72  Tìm hiểu ứng dụng mạng nơron thực tế  Nắm đƣợc kiến thức mơ hình mạng nơron Kohonen cách xây dựng mơ hình mạng nơron thực tế  Nắm đƣợc quy trình chung xây dựng hệ thống nhận dạng ký tự viết tay tiếng Việt trực tuyến  Vận dụng mạng nơron Kohonen để xây dựng mô nhận dạng ký tự viết tay tiếng Việt rời rạc trực tuyến Ngoài ra, việc xây dựng phần mềm thử nghiệm cho phép tôi:  Kiểm nghiệm kiến thức lý thuyết thu nhận đƣợc  Có nhìn rõ nét kỹ thuật ứng dụng lý thuyết vào thực tế  Bên cạnh đó, nâng cao đƣợc kỹ phân tích, thiết kế lập trình việc giải toán cụ thể 4.1.2 Về mặt thực tiễn Đƣa phƣơng pháp xử lý với ký tự viết tay tiếng Việt rời rạc, xây dựng thành công hệ thống nhận dạng ký tự viết tay tiếng Việt rời rạc sử dụng mơ hình mạng nơron Kohonen Góp phần giải tốn cịn dang dở Tuy biết điều thu nhận đƣợc phần nhỏ nghành nghiên cứu lớn, song tự nhận thấy gặt hái đƣợc thành công định giai đoạn nghiên cứu Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 73 4.2 Hƣớng phát triển tiếp tbeo Bên cạnh kết đạt đƣợc, cịn có vấn đề chƣa đƣợc đề cập, giải luận văn Trong thời gian tới, tiếp tục nghiên cứu hoàn thiện đề tài với mục tiêu đƣợc đặt nhƣ sau:  Nâng cao hiệu độ xác hệ thống nhận dạng ký tự viết tay rời rạc tiếng Việt trực tuyến  Xây dựng đƣợc hệ thống nhận dạng chữ viết tay tiếng Việt sử dụng mạng nơron 4.3 Một vài suy nghĩ sau nghiên cứu Trong bối cảnh nay, mà nghiên cứu chuyển sang hƣớng xây dựng hệ thống thông minh, mạng nơron lên nhƣ giải pháp đầy hứa hẹn Nó thể ƣu điểm bật so với hệ thống khác khả mềm dẻo, linh hoạt tính tốn thơ, điểm khác biệt quan trọng óc ngƣời với máy thông minh nhân tạo Nhƣng mà địi hỏi độ phức tạp cao thiết kế cài đặt hệ thống ứng dụng để đạt đƣợc tính tốt Khả đƣợc cải thiện không ngừng tƣơng lai với phát triển mạch tích hợp phần cứng cỡ lớn nhớ ngày lớn cho phần mềm máy tính Chính mà mạng nơron đƣợc coi "kỹ thuật kỷ 21" Các nhà khoa học ln tìm cách khám phá quy tắc học thuật toán học hiệu Một điều dễ nhận thấy mạng nơron mô trực tiếp não ngƣời mặt cấu trúc mục tiêu trình học (điều chỉnh trọng số synnapse) nhƣng quy tắc học đƣợc đƣa Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 74 túy mang tính tốn học chƣa thực sự bắt chƣớc mặt thần kinh sinh học trình học xảy não ngƣời Tóm lại, khẳng định điều mục tiêu tiến gần tới hoàn hảo máy nhận thức ngƣời thách thức lớn, song môn lý thuyết nhƣ Lý thuyết mạng nơron, mà chất tƣơng tự thần kinh sinh hoc cấu trúc cho "tia hy vọng" đáng lạc quan Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 75 TÀI LIỆU THAM KHẢO Tài liệu tham khảo tiếng Việt Lƣơng Mạnh Bá, Nguyễn Thanh Thuỷ (1999), Nhập môn xử lý ảnh số, Nhà xuất Khoa học kỹ thuật, Hà Nội Lê Bá Dũng (2011), Bài giảng Môn Mạng Nơron nhân tạo, Lớp Cao học KHMT K9A, Trƣờng Đại học Công nghệ thông tin Truyền thông, ĐHTN Nguyễn Thị Thanh Tân (2005), Nhận dạng chữ viết tay hạn chế dựa mơ hình mạng neuron kết hợp với thống kê ngữ cảnh, Luận văn thạc sỹ, ĐHQGHN Tài liệu tham khảo tiếng Anh Artificial neural network – From Wikimedia, the free encyclopedia http://en.wikimedia.org/wiki/Artificial_neural_network Anand Venkataraman, The Backpropagation Algorithm http://www.speech.sri.com/people/anand/771/html/node37.html Christos Stergiou and Dimitrios Siganos, Neural Network http://www.doc.ic.ac.uk/~nd/surprise_96/journal/vol4/cs11/report.html Daniel T.Larose (2004), Discovering Knowledge in Data An Introduction to Data Mining, Wiley Interscience, United States of America Dave Anderson and George McNeill (1992), Artificial Neural Networks Technology Prepared by Rome Laboratory RL/C3C Griffiss AFB, NY 13441-5700, Kaman Sciences Corporation 258 Genesse Street Utica, New York 13502-4627 Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 76 Jeff Heaton (2005), Introduction to Neural Networks with Java, Heaton Research, Inc, United States of America 10.Neural Network – From Wikimedia, the free encyclopedia http://en.wikimedia.org/wiki/Neural_network 11.Nikola K.kasabov (1998), Foundations of Neural Networks, Fuzzy Systems, and Knowledge Engineering, Massachusetts Institute of Technology, The MIT Press, United States of America 12 R.M.Hristev (1998), The ANN Book, GNU public license 13 Simon Haykin (1998), Neural Networks Comprehensive Foundation, Second edition, Prentice Hall, Indian by Sai PrintoPack Pvt Ltd 14.Wang J., Jean J.S.N (1993), Multi-Resolution Neural Network for Omnifont Charater Recognition, IEEE International Conference on Neural Network 15 http://vi.wikimedia.org/wiki/Nhận_dạng_ký_tự_quang_học Số hóa Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn ... 36 ỨNG DỤNG MẠNG NƠRON KOHONEN TRONG BÀI TOÁN NHẬN DẠNG CHỮ VIẾT TAY TIẾNG VIỆT 36 2.1 Tổng quan toán nhận dạng 36 2.2 Giới thiệu toán nhận dạng chữ viết tay Tiếng Việt 39... đƣợc ứng dụng nhiều thực tế, nhận dạng chữ viết tay đƣợc thực qua hai hình thức nhận dạng chữ viết tay trực tuyến (online) nhận dạng chữ viết tay ngoại tuyến (offline) Cụ thể toán nhận dạng chữ trực... tự Nhận dạng chữ Tiếng Việt bao gồm hai kiểu nhận dạng chữ in nhận dạng chữ viết tay Trong nhận dạng chữ in đƣợc xem vấn đề đƣợc giải đạt tới độ xác cao với đời nhiều hệ thống nhƣ: Hệ nhận dạng