Nghiên cứu mạng noron và ứng dụng nhận dạng chữ số viết tay

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC VINH NGUYỄN THỊ NHÃ NGHIÊN CỨU MẠNG NƠ-RON VÀ ỨNG DỤNG NHẬN DẠNG CHỮ SỐ VIẾT TAY LUẬN VĂN THẠC SĨ CÔNG NGHỆ THÔNG TIN Nghệ An, 2017 BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC VINH NGUYỄN THỊ NHÃ NGHIÊN CỨU MẠNG NƠ-RON VÀ ỨNG DỤNG NHẬN DẠNG CHỮ SỐ VIẾT TAY Chuyên ngành: CÔNG NGHỆ THÔNG TIN Mã số: 60.48.02.01 LUẬN VĂN THẠC SĨ CÔNG NGHỆ THÔNG TIN Người hướng dẫn: TS HOÀNG HỮU VIỆT Nghệ An, 2017 LỜI CẢM ƠN Em xin chân thành cảm ơn thầy giáo TS Hồng Hữu Việt tận tình bảo, giúp đỡ em tạo điều kiện thuận lợi cho em hoàn thành luận văn Em xin chân thành cảm ơn thầy giáo, cô giáo khoa Công nghệ Thông tin Trường Đại học Vinh truyền thụ kiến thức, kinh nghiệm, nhiệt tình giúp đỡ em trình học tập Em xin chân thành cảm ơn đồng nghiệp Trung tâm Thực hành Thí nghiệm Trường Đại học Vinh, bạn bè lớp Cao học K23 khoa Công nghệ Thông tin Trường Đại học vinh nhiệt tình ủng hộ, hộ trợ em trình học tập làm luận văn Cuối em muốn gửi lời cảm ơn đến gia đình, người thân u ln bên cạnh động viên em suốt trình học tập thực luận văn LỜI CAM ĐOAN Tôi xin cam đoan cơng trình nghiên cứu độc lập thân Các số liệu, kết trình bày luận văn trung thực Những tài liệu sử dụng luận văn có nguồn gốc trích dẫn rõ ràng, đầy đủ Tác giả Nguyễn Thị Nhã MỤC LỤC Trang LỜI CẢM ƠN LỜI CAM ĐOAN MỤC LỤC DANH MỤC CÁC TỪ VIẾT TẮT DANH MỤC CÁC BẢNG DANH MỤC CÁC HÌNH MỞ ĐẦU 1 Lý chọn đề tài Mục tiêu nghiên cứu Đối tượng phạm vi nghiên cứu Nội dung nghiên cứu Cấu trúc luận văn CHƯƠNG TỔNG QUAN 1.1 Đặt vấn đề 1.2 Tổng quan hệ thống nhận dạng mẫu 1.2.1 Phân lớp toán nhận dạng 1.2.2 Chu trình thiết kế hệ thống nhận dạng mẫu 1.2.3 Thiết kế hệ thống nhận dạng chữ số viết tay 1.3 Tổng quan tình hình nghiên cứu 17 1.3.1 Tình hình nghiên cứu nước 17 1.3.2 Tình hình nghiên cứu nước 18 CHƯƠNG MẠNG NƠ-RON NHÂN TẠO 19 2.1 Giới thiệu mạng nơ-ron 19 2.1.1 Mạng nơ-ron sinh học 19 2.1.2 Mạng nơ-ron nhân tạo 21 2.1.3 Các ứng dụng mạng nơ-ron 22 2.2 Kiến trúc mạng nơ-ron 23 2.2.1.Mơ hình nơ-ron nhân tạo 23 2.2.2 Mạng nơ-ron tầng 27 2.2.3 Mạng nơ-ron đa tầng 28 2.2.4 Mạng nơ-ron hồi quy 30 2.2.5 Huấn luyện mạng nơ-ron 31 2.3 Mạng Perceptron tầng 32 2.3.1 Kiến trúc mạng Perceptron tầng 32 2.3.2 Luật học Perceptron 34 2.3.3 Hạn chế mạng Perceptron tầng 35 2.4 Mạng Perceptron nhiều tầng thuật toán lan truyền ngược 36 2.4.1 Kiến trúc mạng Perceptron nhiều tầng 36 2.4.2 Thuật toán lan truyền ngược 37 2.4.3 Các ví dụ phân lớp với mạng Perceptron nhiều tầng 40 2.5 Mạng LVQ 42 2.5.1 Kiến trúc mạng 42 2.5.2 Luật học cho mạng 43 CHƯƠNG THIẾT KẾ HỆ THỐNG NHẬN DẠNG CHỮ SỐ VIẾT TAY 45 3.1 Cơ cở liệu 45 3.2 Tiền xử lý 47 3.3 Trích chọn đặc trưng chữ số viết tay 47 3.1.1 Trích chọn đặc trưng phương pháp chia theo cạnh 47 3.2.2 Trích chọn đặc trưng phương pháp chia từ góc 47 3.2.3 Trích chọn đặc trưng phương pháp phân tích thành phần 48 3.4 Phân lớp dùng mạng Perceptron đa tầng 48 3.4.1 Thử nghiệm với phương pháp chọn đặc trưng chia ô theo cạnh 48 3.4.2 Thử nghiệm với phương pháp chọn đặc trưng chia ô từ góc 51 3.4.3 Trích chọn đặc trưng phương pháp phân tích thành phần 53 3.5 Một số nhận xét đề xuất 56 KẾT LUẬN 57 TÀI LIỆU THAM KHẢO .58 DANH MỤC CÁC TỪ VIẾT TẮT Từ viết tắt Tên đầy đủ Ý nghĩa Bộ xử lý trung tâm CPU Central Processing Unit LMS Least Mean Square LVQ Learning Vector Quantization Mạng lượng tử véc tơ MPL Multilayer Perceptron Mạng Perceptron nhiều lớp PCA Principal Components Analysic Phương pháp bình phương trung bình tối thiểu Phương pháp phân tích thành phần DANH MỤC CÁC BẢNG Bảng 2.1 Một số hàm truyền mạng nơ-ron 25 Bảng 3.1 Số lượng chữ số viết tay phân bố tập huấn luyện 45 Bảng 3.2 Phương pháp chọn đặc trưng chia ô theo cạnh với 2000 mẫu huấn luyện .49 Bảng 3.3 Phương pháp chọn đặc trưng chia ô theo cạnh với 10000 mẫu huấn luyện .51 Bảng 3.4 Phương pháp chọn đặc trưng chia ô từ góc với 2000 mẫu huấn luyện 51 Bảng 3.5 Phương pháp chọn đặc trưng chia ô từ góc với 10000 mẫu huấn luyện 52 Bảng 3.6 Chọn đặc trưng phương pháp phân tích thành phần với K=20 số mẫu huấn luyện 2000 54 Bảng 3.7 Chọn đặc trưng phương pháp phân tích thành phần với K=50 số mẫu huấn luyện 2000 54 Bảng 3.8 Chọn đặc trưng phương pháp phân tích thành phần với K=100 số mẫu huấn luyện 2000 55 Bảng 3.9 Chọn đặc trưng phương pháp phân tích thành phần với K=20 số mẫu huấn luyện 5000 55 DANH MỤC CÁC HÌNH Hình 1.1 Chu trình hệ thống nhận dạng mẫu Hình1.2 Mơ tả số hình ảnh mẫu sở liệu MNIST .9 Hình 1.3 Sơ đồ tổng quát hệ thống nhận dạng chữ viết số tay Hình 2.1 Các thành phần nơ-ron .20 Hình 2.2 Mơ hình nơ-ron đầu vào 24 Hình 2.3 Mơ hình nơ-ron nhiều đầu vào .26 Hình 2.4 Ký hiệu tắt mơ hình nơ-ron nhiều đầu vào 27 Hình 2.5 Kiến trúc mạng nơ-ron tầng 27 Hình 2.6 Mạng nơ-ron tầng S nơ-ron, R đầu vào 28 Hình 2.7 Mạng tầng .29 Hình 2.8 Ký hiệu tắt mạng nơ-ron tầng .29 Hình 2.9 Khối trễ 30 Hình 2.10 Khối tích phân .30 Hình 2.11 Mạng hồi quy .31 Hình 2.12.Mạng Perceptron 32 Hình 2.13 Mạng Perceptron nơ-ron hai đầu vào 33 Hình 2.14 Mạng Perceptron 34 Hình 2.15 Mạng Perceptron nhiều tầng .37 Hình 2.16 Mạng LVQ 42 Hình 3.1 Tập 100 ký tự tập liệu huấn luyện 46 Hình 3.2 Tập 100 ký tự tập liệu huấn luyện 46 Hình 3.3 Phương pháp chia từ góc .48 Hình 3.4 Quá trình thực mạng nơ-ron tầng 49 Hình 3.5 Ảnh nhận dạng .50 Hình 3.6 Ảnh nhận dạng sai 50 Hình 3.7 Quá trình thực mạng nơ-ron tầng 53 45 CHƯƠNG THIẾT KẾ HỆ THỐNG NHẬN DẠNG CHỮ SỐ VIẾT TAY 3.1 Cơ cở liệu Trong luận văn sử dụng sở liệu chữ số viết tay MNIST công bố [15] Cơ sở liệu gồm tệp: - Train-images-idx3-ubyte: Tập liệu huấn luyện gồm 60000 ảnh - Train-labels-idx1-ubyte: Tập liệu gán nhãn tương ứng tập huấn luyện - T10k-images-idx3-ubyte: Tập liệu thử nghiệm nhận dạng gồm 10000 ảnh - T10k-labels-idx1-ubyte: Tập liệu gán nhãn tương ứng tập thử nghiệm nhận dạng Số lượng chữ số viết tay phân bố tập huấn luyện tập thử nghiệm sau: Chữ số viết tay Số lượng tập huấn luyện Số lượng tập huấn luyện 5923 980 6742 1135 5958 1032 6131 1010 5842 982 5421 892 5918 958 6265 1028 5851 974 5949 1009 Tổng 60000 10000 Bảng 3.1 Số lượng chữ số viết tay phân bố tập huấn luyện 46 Ví dụ 100 ảnh chữ số viết tay tập huấn luyện tập liệu nhận dạng hiển thị lập trình Matlab Hình 4.1 4.2 tương ứng Hình 3.1 Tập 100 ký tự tập liệu nhận dạng Hình 3.2 Tập 100 ký tự tập liệu huấn luyện Vì tập liệu huấn luyện nhận dạng lớn nên q trình thực chậm, chúng tơi chọn hai trường hợp 2000 10000 mẫu tập liệu huấn luyện chọn 500 mẫu tập nhận dạng để thử nghiệm 47 3.2 Tiền xử lý Cơ sở liệu chữ số viết tay MNIST chuẩn hóa kích thước ảnh, ảnh chữ số có kích thước 28x28 Các ảnh chữ số ảnh đa mức xám Với việc sử dụng tập liệu này, chúng tơi khơng cần thực chuẩn hóa kích thước Tuy nhiên với phương pháp chọn đặc trưng mục 3.1.1 3.1.2 ảnh đa mức xám chuyển thành ảnh nhị phân trước trích chọn đặc trưng 3.3 Trích chọn đặc trưng chữ số viết tay Trích chọn đặc trưng nhằm trích rút đặc trưng chữ số để phân biệt chữ số khác Chúng thử nghiệm với tập đặc trưng sau: 3.1.1 Trích chọn đặc trưng phương pháp chia ô theo cạnh Với ảnh kích thước 28x28, chúng tơi chia ảnh thành ơ: - Dùng phép chia 14x14 ô, ta ô tương ứng với đặc trưng - Dùng phép chia 7x7 ô, ta 16 ô tương ứng với 16 đặc trưng - Dùng phép chia 4x4 ô, ta 49 tương ứng với 49 đặc trưng Sau ghép tất đặc trưng thành vector đặc trưng cho ảnh, ta có vector có độ dài 69 đặc trưng 3.2.2 Trích chọn đặc trưng phương pháp chia từ góc Chúng tơi sử dụng phương pháp đề xuất [14] cách thực chia từ góc ảnh Với góc, chúng tơi tạo hình chữ nhật với kích thước 4, 8, 12, 16, 20, 24 28 mà đỉnh hình chữ nhật neo góc Ví dụ với góc bên trái, hình chữ nhật mơ tả hình 4.3, tức ô chứa ô 1, ô chứa ô ô 2, ô chứa ô 1, Với cách có vector có chiều dài 4x7 = 28 đặc trưng Tuy nhiên hình vng ngồi lặp lại lần lấy lần, vector đặc trưng cịn 25 đặc trưng 48 Hình 3.3 Phương pháp chia từ góc 3.2.3 Trích chọn đặc trưng phương pháp phân tích thành phần Phương pháp phân tích thành phần đề xuất ứng dụng nhận dạng ảnh mặt người [11] Ý tưởng phương pháp trích chọn đặc trưng ảnh dựa vector riêng tập liệu huấn luyện Quá trình nhận dạng thực cách so sánh khoảng cách vector riêng ảnh nhận dạng với vector riêng tập liệu huấn luyện chọn vector gần Trong thử nghiệm này, sử dụng vector riêng tập liệu huấn luyện làm đầu vào mạng nơ-ron để huấn luyện sử dụng vector riêng ảnh nhận dạng để nhận dạng ảnh thông qua mạng nơ-ron huấn luyện 3.4 Phân lớp dùng mạng Perceptron đa tầng Trong thử nghiệm, sử dụng mạng Multi Perceptron Layer với thuật toán lan truyền ngược để kiểm tra tỷ lệ nhận dạng với số lượng tầng 3.4.1 Thử nghiệm với phương pháp chọn đặc trưng chia theo cạnh Hình 3.4 mơ tả mạng MPL tầng với số nơ-ron tầng ẩn 10 Kết thử nghiệm dòng bảng 3.2 Hình 3.5 hai ví dụ chữ số nhận dạng Hình 3.6 hai ví dụ chữ số nhận dạng sai 49 a) Trường hợp 1: 2000 mẫu huấn luyện Số tầng Số nơ-ron mạng tầng ẩn 10 53.00 9.85 30 62.80 10.15 50 64.20 10.04 10, 10 45.80 10.59 30, 20 60.20 11.12 50, 30 61.40 11.51 Tỷ lệ % Thời gian thực (giây) Bảng 3.2 Phương pháp chọn đặc trưng chia ô theo cạnh với 2000 mẫu huấn luyện Hình 3.4 Quá trình thực mạng nơ-ron tầng 50 Hình 3.5 Ảnh nhận dạng Ảnh vào Ảnh nhận dạng Ảnh vào Hình 3.6 Ảnh nhận dạng sai Ảnh nhận dạng 51 b) Trường hợp 2: 10000 mẫu huấn luyện Số tầng Số nơ-ron mạng tầng ẩn 10 57.60 43.65 30 67.20 46.32 50 70.40 48.37 10, 10 50.40 45.86 30, 20 64.40 49.14 50, 30 66.80 53.50 Tỷ lệ % Thời gian thực (giây) Bảng 3.3 Phương pháp chọn đặc trưng chia ô theo cạnh với 10000 mẫu huấn luyện 3.4.2 Thử nghiệm với phương pháp chọn đặc trưng chia từ góc Kết thử nghiệm phương pháp mô tả Bảng 3.4 Bảng 3.5 a) Trường hợp 1: 2000 mẫu huấn luyện Số tầng Số nơ-ron mạng tầng ẩn 10 56.80 9.24 30 65.20 8.96 50 63.60 9.25 10, 10 53.80 9.59 30, 20 57.00 9.76 50, 30 58.00 10.70 Tỷ lệ % Thời gian thực (giây) Bảng 3.4 Phương pháp chọn đặc trưng chia từ góc với 2000 mẫu huấn luyện 52 b) Trường hợp 2: 10000 mẫu huấn luyện Số tầng Số nơ-ron mạng tầng ẩn 10 56.60 32.56 30 64.20 33.16 50 66.00 34.22 10, 10 48.00 32.18 30, 20 58.40 35.79 50, 30 66.00 40.36 Tỷ lệ % Thời gian thực (giây) Bảng 3.5 Phương pháp chọn đặc trưng chia từ góc với 10000 mẫu huấn luyện 53 3.4.3 Trích chọn đặc trưng phương pháp phân tích thành phần (PCA) Trong phương pháp này, số đặc trưng vector riêng chọn 20, 50 100 Mạng nơ-ron với số tầng số nơ-ron cho tầng sử dụng thử nghiệm Hình 3.7 mơ tả mạng MPL tầng với số nơ-ron tầng ẩn 10, 10 Kết thử nghiệm dịng Bảng 3.6 Hình 3.7 Q trình thực mạng nơ-ron tầng 54 a) Trường hợp 1: K = 20, số mẫu huấn luyện: 2000 Số tầng Số nơ-ron mạng tầng ẩn 10 60.80 20.22 30 67.60 20.38 50 64.60 20.70 10, 10 45.80 21.35 30, 20 59.20 21.54 50, 30 63.60 22.25 Tỷ lệ % Thời gian thực (giây) Bảng 3.6 Chọn đặc trưng phương pháp phân tích thành phần với K=20 số mẫu huấn luyện 2000 b) Trường hợp 2: K = 50, số mẫu huấn luyện: 2000 Số tầng Số nơ-ron mạng tầng ẩn 10 50.80 20.36 30 56.00 20.94 50 48.60 21.04 10, 10 30.80 20.77 30, 20 43.20 22.14 50, 30 46.00 22.60 Tỷ lệ % Thời gian thực (giây) Bảng 3.7 Chọn đặc trưng phương pháp phân tích thành phần với K=50 số mẫu huấn luyện 2000 55 c) Trường hợp 3: K = 100, số mẫu huấn luyện: 2000 Số tầng mạng Số nơ-ron tầng ẩn Tỷ lệ % Thời gian thực (giây) 10 55.80 21.61 30 41.40 21.47 50 38.80 21.54 10, 10 19.80 21.45 30, 20 31.80 22.13 50, 30 33.60 22.71 Bảng 3.8 Chọn đặc trưng phương pháp phân tích thành phần với K=100 số mẫu huấn luyện 2000 d) Trường hợp 4: K = 20, số mẫu huấn luyện: 10000 Trường hợp tràn nhớ cho phép tính vector riêng phương pháp phân tích thành phần e) Trường hợp 5: K = 20, số mẫu huấn luyện: 5000 Các thử nghiệm cho thấy mạng nơ-ron tầng tốt mạng tầng, chúng tơi chọn mạng tầng thử nghiệm cho trường hợp Số tầng Số nơ-ron mạng tầng ẩn 10 52.60 232.12 30 75.80 251.64 50 70.20 254.25 Tỷ lệ % Thời gian thực (giây) Bảng 3.9 Chọn đặc trưng phương pháp phân tích thành phần với K=20 số mẫu huấn luyện 5000 56 3.5 Một số nhận xét đề xuất a) Nhận xét Từ số liệu thử nghiệm, đưa số nhận xét sau: - Tất đặc trưng chọn cho nhận dạng chưa phù hợp với nhận dạng chữ số viết tay tỷ lệ nhận dạng phương pháp nói chung thấp (dưới 70%) - Phương pháp trích chọn đặc trưng dựa phân tích thành phần phương pháp phức tạp Trong tốn phương pháp trích chọn đặc trưng chia theo cạnh chia từ góc đơn giản hiệu đạt xấp xỉ với phương pháp thành phần - Phương pháp trích chọn đặc trưng dựa phân tích thành phần khơng thực liệu lớn độ phức tạp tính tốn cao, đặc biệt tính vector riêng Ví dụ với tập mẫu huấn luyện 10000 phương pháp không thực - Mạng tầng cho kết nhận dạng tốt mạng tầng Điều mạng tầng thường có sai số lỗi lớn trình huấn luyện thường phù hợp với liệu có thuộc tính phân chia khơng tốt - Mạng tầng huấn luyện nhận dạng chậm mạng tầng, cần phải thực tính tốn nhiều - Từ thử nghiệm trường hợp a) trường hợp d) cho phương pháp chọn đặc trưng PCA dễ thấy số mẫu huấn luyện nhiều, tỷ lệ nhận dạng tốt b) Đề xuất Từ thử nghiệm trên, nói phương pháp nhận dang chưa đạt kết tốt Điều việc trích chọn đặc trưng việc lựa chọn tham số cho mạng nơ-ron chưa phù hợp Do vậy, tương lai nghiên cứu thêm vấn đề nhằm nâng cao tỷ lệ nhận dạng toán 57 KẾT LUẬN Trong luận văn sâu nghiên cứu lý thuyết thực nghiệm để xây dựng hệ thống nhận dạng chữ số viết tay dùng mạng nơ-ron Luận văn đạt số kết sau: Tìm hiểu tổng quan lý thuyết toán nhận dạng mẫu quy trình thiết kế hệ thống nhận dạng chữ số viết tay Tìm hiểu mơ hình cấu trúc mạng nơ-ron nhân tạo, luật huấn luyện mạng số mạng nơ-ron nhân tạo thường dùng nhận dạng chữ số viết tay Thiết kế xây dựng thành công hệ thống nhận dạng chữ số viết tay dùng mạng nơ-ron Tuy nhiên thời gian tìm hiểu cịn ngắn, kết nhận dạng chưa đạt kết tốt Điều việc trích chọn đặc trưng việc lựa chọn tham số cho mạng nơ-ron chưa phù hợp Trong thời gian tới, tiếp tục hướng nghiên cứu việc trích chọn đặc trưng lựa chọn tham số cho mạng nơ-ron phù hợp nhằm nâng cao tỉ lệ nhận dạng toán 58 TÀI LIỆU THAM KHẢO Tiếng Việt: [1] Nguyễn Hoàng Hải, Nguyễn Viết Anh (2009), Lập trình Matlab ứng dụng, NXB Khoa học Kỹ thuật [2] Hoàng Xuân Huấn (2012), Giáo trình nhận dạng mẫu, NXB Đại học Quốc gia Hà Nội [3] Trương Văn Thiện, Lê Minh Trung (1999), Mạng nơ-ron nhân tạo, NXB Thống kê [4] Nguyễn Đình Thúc (chủ biên) (2002), Trí tuệ nhân tạo mạng Nơ-ron – phương pháp ứng dụng, NXB Giáo dục [5] Đỗ Hồng Tồn (2006), Giáo trình lý thuyết nhận dạng ứng dụng quản lý NXB Khoa học Kỹ thuật [6] Đỗ Năng Tồn, Phạm Việt Bình (2008), Giáo trình xử lý ảnh, NXB Khoa học Kỹ thuật [7] Lê Minh Trung (2005), Giáo trình mạng Nơ-ron nhân tạo, NXB Thống kê [8] Phạm Thị Ngọc Yến, Ngô Hữu Tình, Lê Tấn Hùng, Nguyễn Thị Lan Hương (2009), Cơ sở Matlab ứng dụng, NXB Khoa học Kỹ thuật Tiếng Anh: [9] Cakmakov D., Gorgevik D (2005), Handwritten Digit Recognition Using Classifier Cooperation Schemes, Proceedings of the 2nd Balkan Conference in Informatics, BCI 2005, pp 23-30, Ohrid [10] Chris Bishop (2006), Pattern Recognition and Machine Learning, Springer 59 [11] Kresimir Delac, Mislav Grgic (2007), “PCA and LDA based Neural Networks for Human Face Recognition”, Face Recognition, ISBN 9783-902613-03-5, I-Tech, Vienna, Austria [12] Martin T Hagan, Howard B Demuth, Mark Hudson Beale Neural Network Design, 2nd http://hagan.okstate.edu/NNDesign.pdf [13] Richard O.Duda, Peter E Hart, David G.Stock (2001), Pattern Classification, 2nd, Wiley [14] Sandeep Saha, Nabarag Paul, Sayam Kumar Das, Sandip Kundu, (2013) Optical Character Recognition using 40-point Feature Extraction and Artificial Neural Network International Journal of Advanced Research in Computer Science and Software Engineering, Vol 3, No [15] http://yann.lecun.com/exdb/mnist/ ... thống nhận dạng chữ số viết tay Nhận dạng chữ số viết tay thực từ năm 1980 Nhiệm vụ nhận dạng chữ số viết tay phân loại chữ số sử dụng việc nhận dạng chữ viết tay trực tuyến máy tính, nhận dạng. .. văn “NGHIÊN CỨU MẠNG NƠRON VÀ ỨNG DỤNG NHẬN DẠNG CHỮ SỐ VIẾT TAY? ?? nhằm nghiên cứu, xây dựng thử nghiệm hệ thống nhận dạng chữ số viết tay Mục tiêu nghiên cứu 2.1 Mục tiêu tổng quát Nghiên cứu. .. quan tình hình nghiên cứu 1.3.1 Tình hình nghiên cứu nước Nhận dạng chữ số viết tay chia thành hai lớp toán lớn nhận dạng chữ số viết tay trực tuyến (online) nhận dạng chữ số viết tay ngoại tuyến