báo cáo tốt nghiệp ứng dụng mạng neural trong nhận dạng kí tự

1 TRƢỜNG ĐẠI HỌC DÂN LẬP HẢI PHÒNG NGÀNH CÔNG NGHỆ THÔNG TIN BÁO CÁO TỐT NGHIỆP Đề tài: ỨNG DỤNG MẠNG NEURAL TRONG NHẬN DẠNG KÍ TỰ Giáo viên hƣớng dẫn : Th.s Ngô Trƣờng Giang Sinh viên thực hiện : Bùi Quang Chiến Mã sv : 10324 Lớp : CT702 Hải Phòng, 8/2007 2 NỘI DUNG BÁO CÁO Giới thiệu đề tài. Chƣơng I: Tìm hiểu tổng quan về mạng neural. Chƣơng II: Ứng dụng mạng neural nhận dạng kí tự. Chƣơng III: Cài đặt chƣơng trình thử nghiệm Kết luận và hƣớng phát triển của đề tài. 3 GIỚI THIỆU CHUNG Từ những ƣu điểm của bộ óc con ngƣời khả năng học tập, nhận dạng và phân loại… Tìm cách bắt chƣớc để thực hiện những máy tính có khả năng hoạt động nhƣ bộ óc con ngƣời.  Các mạng neural nhân tạo đã ra đời từ những nỗ lực đó. Với mục đích là xây dựng các máy thông minh tiến gần tới trí tuệ con ngƣời. 4 KHÁI NIỆM NEURAL NHÂN TẠO Khái niệm neural: Là một đơn vị tính toán có nhiều đầu vào và một đầu ra, mỗi đầu vào đến từ một thành phần liên kết. Các thành phần của neural nhân tạo: 1.Thành phần liên kết. 2.Bộ cộng. 3.Hàm kích hoạt. Hình1: Mô hình một neural nhân tạo 5 KHÁI NIỆM MẠNG NEURAL NHÂN TẠO Khái niệm: Là một hệ thống bao gồm nhiều phần tử xử lý đơn giản tựa nhƣ neural thần kinh của não ngƣời. Mô hình mạng neural : Lớp nhập (input), Lớp ẩn (Hidden-nếu có) Lớp xuất (output). Hình 2: Mô hình mạng neural nhân tạo 6 PHÂN LOẠI MẠNG NEURAL Ta có mạng neural truyền thẳng và neural mạng qui hồi. Lớp nhập Lớp ẩn Lớp xuất Hình 3a: Mạng mạng truyền thẳng đa mức Hình 3b: Mạng qui hồi có các neural ẩn 7 HUẤN LUYỆN MẠNG NEURAL Phương pháp học: Mạng neural nhân tạo phỏng theo việc xử lý thông tin của bộ não ngƣời, do vậy đặc trƣng cơ bản của mạng là có khả năng học, tái tạo các hình ảnh và dữ liệu khi đã học. Có 3 kiểu học chính:  Học có giám sát.  Học không giám sát.  Học tăng cƣờng 8 HUẤN LUYỆN MẠNG NEURAL NHIỀU LỚP Thuật toán „Lan truyền ngƣợc‟ gồm hai quá trình: Quá trình truyền tuyến tính: Dữ liệu từ lớp nhập qua lớp ẩn và đến lớp xuất:  Thay đổi giá trị của trọng số liên kết W.  Tính toán lỗi. Quá trình truyền ngƣợc: Giá trị lỗi sẽ đƣợc truyền ngƣợc lại sao cho quá trình huyến luyện sẽ tìm ra trọng số Wi để lỗi nhỏ nhất. 9 THUẬT TOÁN LAN TRUYỀN NGƢỢC Bƣớc 1: Khởi tạo trọng số W ngẫu nhiên nhỏ. Bƣớc 2 : Chọn giá trị đầu vào X và đính nó vào lớp đầu vào . Bƣớc 3 : Truyền sự kích hoạt qua trọng số đến khi kích hoạt các nơron đầu ra. Bƣớc 4: Tính đạo hàm riêng “δE” theo trọng số cho lớp xuất. Bƣớc 5: Tính đạo hàm riêng “δE” theo trọng số cho lớp ẩn. 10 THUẬT TOÁN LAN TRUYỀN NGƢỢC Bƣớc 6: Cập nhật tất cả trọng số theo Bƣớc 7: Quay lai “Bƣớc 2” cho đến “Bƣớc 6” cho tất cả các mẫu. [...]... em đã trình bày về đề tài Ứng dụng mạng neural trong nhận dạng kí tự với các nội dung sau: 1 Tìm hiểu về mạng neural nhân tạo 2 Ứng dụng mạng neural nhận dạng kí tự 3 Cài đặt chƣơng trình thực nghiệm nhận dạng kí tự sử dụng mạng neural 29 Hình 3.4 Đưa kí tự vào ma trận phân tích HƢỚNG PHÁT TRIỂN CỦA DỀ TÀI  Nâng cao hiệu quả và độ chính xác trong việc huấn luyện và nhận dạng  Mở rộng cơ sở dữ liệu,... 1 1 BẮT ĐẦU kí hiệu: Đ : Đúng S : Sai Xây dựng mạng Tính đầu ra Khởi tạo trọng số Tính lỗi Nạp file huấn luyện Cập nhật trọng số Phân tích ảnh Vector tiếp theo S Hết kí tự ? kí tự tiếp theo Đ Tính trung bình lỗi Hết ảnh kí tự? Đ S Đọc đầu ra mong muốn S Đ Hết kí tự? Đ Lỗi kí tự Sơ đồ nhận dạng kí tự kí tự tiếp theo Dòng tiếp theo S Hết kí tự trên dòng? S Hết các dòng? Đ Đ KẾT THÚC 19 MÔI TRƢỜNG THỰC NGHIỆM Chƣơng trình thực nghiệm chạy trên: Phần cứng : Một máy tính pentum IV Card đồ họa 256 MB Ram 512 MB Phần mền : Ngôn ngữ sử dụng: C# trong bộ visual studio 2005 Tập dữ liệu đầu vào:... abcdefghijkImnopqrstuvwxyz 0123456789 25 MẪU NHẬN DẠNG Ảnh đầu vào Kết quả nhận dạng TRUONG DAl HOC DAN LAP HAl PHONG Nganh Cong NgheThong Tin Lop CT702 Sinh Vien Bui Quang Chien Mm So Sinh Vien 10324 DeTai Tot Nghiep Nam 2007 Ung Dung Mang NeuraI Trong Nhan Dang ky Tu 26 TỔNG HỢP KẾT QUẢ NHẬN DẠNG Loại font Số ký tự Số ký tự %lỗi huấn lỗi luyện Số ký Số ký tự %lỗi tự huấn lỗi luyện Arial8 124 2 0.016 150... HỢP KẾT QUẢ NHẬN DẠNG Loại font Số ký Số ký %lỗi tự huấn tự lỗi luyện Số ký tự Số ký tự %lỗi huấn lỗi luyện Tahoma 8 124 2 0.016 150 2 0.013 Tahoma 10 124 3 0.024 150 4 0.026 Tahoma 12 124 2 0.016 150 4 0.026 Tahoma 14 124 2 0.016 150 0 0 Tahoma 18 124 0 0 150 0 0 Tahoma 20 124 0 0 150 0 0 Tahoma_Số 160 0 0 72 0 0 Tahoma_Hoa 156 0 0 150 0 0 Tahoma_Thƣờng 156 0 0 150 0 0 28 Hình 3.4 Đưa kí tự vào ma trận... thêm nhiều loại font, kích thƣớc và phong cách  Xây dựng thêm các chức năng sử dụng cho thiết bị cầm tay 30 Hình 3.4 Đưa kí tự vào ma trận phân tích LỜI CẢM ƠN Em xin chân thành cảm ơn thầy Ngô Trƣờng Giang là giáo viên trực tiếp hƣớng dẫn và đã giúp em rất nhiều trong thời gian thực hiện đề tài này Em xin chân thành cảm ơn các thầy cô trong bộ môn tin học đã chỉ bảo cho em trong quá trình rèn luyện... Arial_Thƣờng 156 0 0 Ghi chú 23 TỔNG HỢP KẾT QUẢ HUẤN LUYỆN Loại font Số ký tự Số ký tự %lỗi huấn luyện lỗi Tahoma 8 124 2 0.016 Tahoma 10 124 3 0.024 Tahoma 12 124 2 0.016 Tahoma 14 124 2 0.016 Tahoma 18 124 0 0 Tahoma 20 124 0 0 Tahoma_Số 160 0 0 Tahoma_Hoa 156 0 0 Tahoma_Thƣờng 156 0 0 Ghi chú 24 MẪU NHẬN DẠNG Ảnh đầu vào Kết quả nhận dạng ABCDEFGHlJKLMNOPQRSTUVWXYZ abcdefghijklmnopqrstuvwxyz 0123456789... Gới hạn phải kí tự y Quá trình tách ký tự 14 TÌM GIỚI HẠN KÍ TỰ Gới hạn trên kí tự Gới hạn trên dòng O1 X1 Y1 Quá trình tìm giới hạn Y2 X2 O2 Gới hạn dƣới dòng Gới hạn dƣới kí tự Quá trình tìm giới hạn kí tự 15 CHIA LƢỚI KÍ TỰ (0,0) 0 15 (10,15) Quá trình chia lƣới 0 10 Giá trị đƣợc xét 16 ÁNH XẠ VÀO MA TRẬN (0,0) 0 1 Quá trình chuyển từ ma trận điểm sang ma trận giá trị 0 0 0 0 0 0 0 0 0 0 0 0 0 1 . Hết kí tự? Tính đầu ra Tính lỗi Cập nhật trọng số Hết kí tự ? Tính trung bình lỗi Đ S Lỗi<ngƣỡng? Đ Đ S S Sơ đồ huấn luyện mạng neural nhận dạng kí tự 19 NHẬN DẠNG KÍ TỰ Phân. các mẫu. 11 ỨNG DỤNG MẠNG NEURAL NHẬN DẠNG KÍ TỰ Ý tƣởng bài toán :  Phân tích ảnh cho kí tự: Chia ảnh theo dòng và tách ký tự theo từng vùng giới hạn  Chuyển đổi kí tự sang ma trận. TÁCH KÍ TỰ Gới hạn phải kí tự Gới hạn trái kí tự x y Quá trình tách kí tự (0,0) Quá trình tách ký tự 15 TÌM GIỚI HẠN KÍ TỰ Quá trình tìm giới hạn Gới hạn trên kí tự Gới