Ứng dụng mạng neural trong nhận dạng kí tự

TRƢỜNG ĐẠI HỌC DÂN LẬP HẢI PHỊNG NGÀNH CƠNG NGHỆ THÔNG TIN BÁO CÁO TỐT NGHIỆP Đề tài: ỨNG DỤNG MẠNG NEURAL TRONG NHẬN DẠNG KÍ TỰ Giáo viên hƣớng dẫn : Sinh viên thực : Mã sv : Lớp : Th.s Ngô Trƣờng Giang Bùi Quang Chiến 10324 CT702 Hải Phòng, 8/2007 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com NỘI DUNG BÁO CÁO Giới thiệu đề tài Chƣơng I: Tìm hiểu tổng quan mạng neural Chƣơng II: Ứng dụng mạng neural nhận dạng kí tự Chƣơng III: Cài đặt chƣơng trình thử nghiệm Kết luận hƣớng phát triển đề tài LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com GIỚI THIỆU CHUNG Từ ƣu điểm óc ngƣời khả học tập, nhận dạng phân loại… Tìm cách bắt chƣớc để thực máy tính có khả hoạt động nhƣ óc ngƣời  Các mạng neural nhân tạo đời từ nỗ lực Với mục đích xây dựng máy thơng minh tiến gần tới trí tuệ ngƣời LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com KHÁI NIỆM NEURAL NHÂN TẠO Khái niệm neural: Là đơn vị tính tốn có nhiều đầu vào đầu ra, đầu vào đến từ thành phần liên kết Các thành phần neural nhân tạo: 1.Thành phần liên kết 2.Bộ cộng Hình1: Mơ hình neural nhân tạo 3.Hàm kích hoạt LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com KHÁI NIỆM MẠNG NEURAL NHÂN TẠO Khái niệm: Là hệ thống bao gồm nhiều phần tử xử lý đơn giản tựa nhƣ neural thần kinh não ngƣời Mơ hình mạng neural : Lớp nhập (input), Lớp ẩn (Hidden-nếu có) Hình 2: Mơ hình mạng neural nhân tạo Lớp xuất (output) LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com PHÂN LOẠI MẠNG NEURAL Ta có mạng neural truyền thẳng neural mạng qui hồi Lớp xuất Lớp ẩn Lớp nhập Hình 3a: Mạng mạng truyền thẳng đa mức Hình 3b: Mạng qui hồi có neural ẩn LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com HUẤN LUYỆN MẠNG NEURAL Phương pháp học: Mạng neural nhân tạo theo việc xử lý thông tin não ngƣời, đặc trƣng mạng có khả học, tái tạo hình ảnh liệu học Có kiểu học chính:  Học có giám sát  Học khơng giám sát  Học tăng cƣờng LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com HUẤN LUYỆN MẠNG NEURAL NHIỀU LỚP Thuật tốn „Lan truyền ngƣợc‟ gồm hai q trình: Q trình truyền tuyến tính: Dữ liệu từ lớp nhập qua lớp ẩn đến lớp xuất:  Thay đổi giá trị trọng số liên kết W  Tính tốn lỗi Quá trình truyền ngƣợc: Giá trị lỗi đƣợc truyền ngƣợc lại cho trình huyến luyện tìm trọng số Wi để lỗi nhỏ LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com THUẬT TOÁN LAN TRUYỀN NGƢỢC Bƣớc 1: Khởi tạo trọng số W ngẫu nhiên nhỏ Bƣớc : Chọn giá trị đầu vào X đính vào lớp đầu vào Bƣớc : Truyền kích hoạt qua trọng số đến kích hoạt nơron đầu Bƣớc 4: Tính đạo hàm riêng “δE” theo trọng số cho lớp xuất Bƣớc 5: Tính đạo hàm riêng “δE” theo trọng số cho lớp ẩn LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com THUẬT TOÁN LAN TRUYỀN NGƢỢC Bƣớc 6: Cập nhật tất trọng số theo Bƣớc 7: Quay lai “Bƣớc 2” “Bƣớc 6” cho tất mẫu 10 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com ÁNH XẠ VÀO MA TRẬN (0,0) Quá trình chuyển từ ma trận điểm sang ma trận giá trị 0 0 0 0 0 0 1 0 0 0 0 1 1 1 0 0 1 11 1 1 0 0 1 11 1 11 1 0 0 1 1 1 0 1 0 0 1 1 1 0 1 0 0 0 1 1 1 1 0 0 0 0 0 11 11 11 11 1 0 0 0 0 0 11 1 01 1 0 0 0 0 0 0 1 (10,15) Quá trình ánh xạ vào ma trận 17 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com BẮT ĐẦU kí hiệu: Đ : Đúng S : Sai Xây dựng mạng Tính đầu Khởi tạo trọng số Tính lỗi Nạp file huấn luyện Cập nhật trọng số Phân tích ảnh Vector S Hết kí tự ? kí tự Đ Tính trung bình lỗi Hết ảnh kí tự? Đ S Đọc đầu mong muốn S Đ Hết kí tự? Đ Lỗi kí tự Sơ đồ nhận dạng kí tự kí tự Dịng S Hết kí tự dịng? S Hết dịng? Đ Đ KẾT THÚC 19 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com MƠI TRƢỜNG THỰC NGHIỆM Chƣơng trình thực nghiệm chạy trên: Phần cứng : Một máy tính pentum IV Card đồ họa 256 MB Ram 512 MB Phần mền : Ngôn ngữ sử dụng: C# visual studio 2005 Tập liệu đầu vào: số ảnh font Arial Tahoma với kích thƣớc 8,10,12,14,18,20 20 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com GIAO DIỆN CHƢƠNG TRÌNH 21 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com MẪU HUẤN LUYỆN Ảnh đầu vào Đầu mong muốn ABCDEFGHIJKLMNOPQRSTUVWXYZ abcdefghijklmnopqrstuvwxyz 0123456789 ABCDEFGHIJKLMNOPQRSTUVWXYZ abcdefghijklmnopqrstuvwxyz 0123456789 22 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com TỔNG HỢP KẾT QUẢ HUẤN LUYỆN Loại font Số ký tự Số ký tự lỗi %lỗi huấn luyện Arial8 124 0.016 Arial10 124 0.016 Arial12 124 0.024 Arial14 124 0.024 Arial18 124 0.016 Arial20 124 0.016 Arial_Số 160 0 Arial_Hoa 156 0 Arial_Thƣờng 156 0 Ghi 23 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com TỔNG HỢP KẾT QUẢ HUẤN LUYỆN Loại font Số ký tự Số ký tự %lỗi huấn luyện lỗi Tahoma 124 0.016 Tahoma 10 124 0.024 Tahoma 12 124 0.016 Tahoma 14 124 0.016 Tahoma 18 124 0 Tahoma 20 124 0 Tahoma_Số 160 0 Tahoma_Hoa 156 0 Tahoma_Thƣờng 156 0 Ghi 24 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com MẪU NHẬN DẠNG Ảnh đầu vào Kết nhận dạng ABCDEFGHlJKLMNOPQRSTUVWXYZ abcdefghijklmnopqrstuvwxyz 0123456789 ABCDEFGHIJKLMNOPQRSTUVWXYZ abcdefghijkImnopqrstuvwxyz 0123456789 25 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com MẪU NHẬN DẠNG Ảnh đầu vào Kết nhận dạng TRUONG DAl HOC DAN LAP HAl PHONG Nganh Cong NgheThong Tin Lop CT702 Sinh Vien Bui Quang Chien Mm So Sinh Vien 10324 DeTai Tot Nghiep Nam 2007 Ung Dung Mang NeuraI Trong Nhan Dang ky Tu 26 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com TỔNG HỢP KẾT QUẢ NHẬN DẠNG Loại font Số ký tự Số ký tự %lỗi huấn lỗi luyện Số ký Số ký tự %lỗi tự huấn lỗi luyện Arial8 124 0.016 150 0.026 Arial10 124 0.016 150 0.026 Arial12 124 0.024 150 0.03 Arial14 124 0.024 150 0.013 Arial18 124 0.016 150 0.013 Arial20 124 0.016 150 0.013 Arial_Số 160 0 72 0 Arial_Hoa 156 0 150 0 Arial_Thƣờng 156 0 150 0 27 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com TỔNG HỢP KẾT QUẢ NHẬN DẠNG Loại font Số ký Số ký %lỗi tự huấn tự lỗi luyện Số ký tự Số ký tự %lỗi huấn lỗi luyện Tahoma 124 0.016 150 0.013 Tahoma 10 124 0.024 150 0.026 Tahoma 12 124 0.016 150 0.026 Tahoma 14 124 0.016 150 0 Tahoma 18 124 0 150 0 Tahoma 20 124 0 150 0 Tahoma_Số 160 0 72 0 Tahoma_Hoa 156 0 150 0 Tahoma_Thƣờng 156 0 150 0 28 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com Hình 3.4 Đưa kí tự vào ma trận phân tích KẾT LUẬN Trên em trình bày đề tài “Ứng dụng mạng neural nhận dạng kí tự” với nội dung sau: Tìm hiểu mạng neural nhân tạo Ứng dụng mạng neural nhận dạng kí tự” Cài đặt chƣơng trình thực nghiệm nhận dạng kí tự sử dụng mạng neural 29 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com Hình 3.4 Đưa kí tự vào ma trận phân tích HƢỚNG PHÁT TRIỂN CỦA DỀ TÀI  Nâng cao hiệu độ xác việc huấn luyện nhận dạng  Mở rộng sở liệu, thêm nhiều loại font, kích thƣớc phong cách  Xây dựng thêm chức sử dụng cho thiết bị cầm tay 30 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com Hình 3.4 Đưa kí tự vào ma trận phân tích LỜI CẢM ƠN Em xin chân thành cảm ơn thầy Ngô Trƣờng Giang giáo viên trực tiếp hƣớng dẫn giúp em nhiều thời gian thực đề tài Em xin chân thành cảm ơn thầy cô môn tin học bảo cho em trình rèn luyện trƣờng Em xin chân thành cảm ơn! 31 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com ... Đưa kí tự vào ma trận phân tích KẾT LUẬN Trên em trình bày đề tài ? ?Ứng dụng mạng neural nhận dạng kí tự? ?? với nội dung sau: Tìm hiểu mạng neural nhân tạo Ứng dụng mạng neural nhận dạng kí tự? ??... TÁCH KÍ TỰ x (0,0) Q trình tách kí tự Gới hạn trái kí tự Gới hạn phải kí tự y Quá trình tách ký tự 14 LUAN VAN CHAT LUONG download : add luanvanchat@agmail.com TÌM GIỚI HẠN KÍ TỰ Gới hạn kí tự. .. Hết kí tự? Đ Lỗi