Trang 1 Phan Anh Dũng Điện tửviễn thông - 2003 –2005Bộ giáo dục và đào tạo Trờng Đại học Bách khoa Hà nội --- Luận văn thạc sĩ khoa học Trang 2 Trờng Đại học Bách khoa Hà nội --- Luậ
Phan Anh Dũng Bộ giáo dục đào tạo Trờng Đại học Bách khoa Hà nội §iƯn tư - viƠn thông Luận văn thạc sĩ khoa học ứng dụng mạng nơ ron mờ cho nhận dạng câu chữ in hoa tiÕng viƯt Phan Anh Dịng 2003 – 2005 Hµ néi 2005 hµnéi 2005 Tai ngay!!! Ban co the xoa dong chu nay!!! 17057205102311000000 Bộ giáo dục đào tạo Trờng Đại học Bách khoa Hà nội Luận văn thạc sĩ khoa học ứng dụng mạng nơ ron mờ cho nhận dạng câu chữ in hoa tiếng việt Ngành: điện tử - viễn thông Phan anh dũng h-ớng dẫn khoa học: PGS.Ts Lê bá dũng Hà nội 2005 chữ viết tắt ANFIS Adaptive Neuro Fuzzy Inference System HÖ suy luËn mê thÝch nghi APE Average Percentage Error Lỗi trung bình phần trăm AR Auto Regressive Tõ ®éng håi quy B Big Lín BOA Bisector of Area Chia miền thành hai phần CART Classification And Regression Tree Cây hồi quy phân hoạch CCD Charge couple Device Thiết bị nhận ảnh CR Chain Rule Luật dây chuyền DAG Directed Acrylic Graph Đồ thị tổ chức có chu trình DB Decision Boundary Biên định DIS Distance Khoảng cách dpi Dot Per Inch Số điểm mét Inch ES Expert System HƯ chuyªn gia FA Function Approximation XÊp xØ hµm sè FAM Fuzzy Associative Memory Bé nhí liªn kÕt mê FIS Fuzzy Inference System HƯ suy luËn mê FL Fuzzy Logic Logic mê FLC Fuzzy Logic Controller §iỊu khiĨn logic mê FS Fuzzy system HƯ mê GL Gray Level General Regression Neural Møc x¸m GRNN HL Network Hidden Layer Mạng Nơron hồi quy Lớp ẩn IP Input Layer Lớp vào IS Image Sensors Thiết bị nhận ¶nh LC Lateral Connection Liªn kÕt bªn LMS Least Mean Square Bình phơng tối thiểu trung bình LR Learing Rule Luật học LS Least Square Bình phơng tối thiểu LSE Least Square Estimator Xấp xỉ bình phơng LUT Look Up Table Bảng tra LVQ Learning Vecto Quantization Lợng tử hóa vÐc t¬ MANFIS Multiple ANFIS HƯ hiỊu ANFIS MATLAB MATrix LABtory Thí nghiệm Ma Trận MF Membership Function Hàm liên thuộc MLP Multilayer Perceptron Mạng Perceptron đa lớp NB Negative Big Âm nhiều NC Neuro Computing Tính toán nơron NM Negative Medium Âm vừa NN Neural Network Mạng nơ ron NS Negative Small Âm nhỏ PB Positive Big Dơng nhiều PC Pattern Classification Phân loại mẫu PE Picture element Phần tử ảnh PM Positive Medium Dơng vừa PR Probabilistic Reasoning Suy luận thống kê PRC Printed Character Recognition Nhận dạng chữ in PS Positive Small Dơng PSP Post Synaptic Potential function Hµm thÕ sau khíp nèi PV Portfolio Value Tỷ giá hối đoái RMSE Root Mean Square Error Lỗi trung bình quân phơng RNN Recurent Neural Network Mạng Nơron hồi quy RS Reinforcement Signal Tín hiệu tăng cờng S Small Nhỏ TF Transfer Function Hàm truyền đạt VB Very Big RÊt lín VS Very Small RÊt nhá XOR Exclusive OR Hoặc phủ định ZE Zero Không danh mục hình vẽ Hình 1.1: Cấu trúc chung hệ nhận dạng chữ Hình 1.2: Mô hình phóng lớn ảnh ký tự H Hình 1.3: Các điểm kết thúc, ®iĨm ch¹c ba Hình 1.4: Mô hình nhiễu 11 Hình 1.5: Lọc ngợc khôi phục ảnh nguyên gốc 13 Hình1.6 : Một số mặt nạ không gian trung bình 17 Hình1.7 : Mặt nạ lọc thông thấp 17 Hình1.8 : Cửa sổ lọc giả trung vÞ 18 Hình 2.1: Mô hình nơ ron nhân tạo 24 H×nh 2.2: CÊu tróc m¹ng perceptron 28 Hình 2.3: Mạng perceptron lớp 29 Hình 2.4: Mạng phân tách tuyÕn tÝnh 29 Hình 2.5: Mạng perceptron hai lớp liên tiếp 31 Hình2.6 : Mạng perceptron lớp có đầu 31 Hình 2.7: Quan hệ lân cận mạng Kohonen 33 Hình 2.8: Mạng nơ ron theo phơng pháp học không giám sát 34 Hình 2.9: Cập nhật trọng số nơ ron chiến thắng mạng Kohonen 35 Hình 2.10: Hàm liên thuộc biến ngôn ngữ T (tuổi) 39 Hình 2.11: Hệ suy luận mờ Mamdani hai đầu vào 50 Hình2.12 : Mô hình mờ Tsukamoto 52 H×nh2.13 : Mô hình mờ Sugeno hai đầu vào 54 Hình2.14 : Mô hình mờ Larsen hai đầu vào 55 Hình 3.1 : Biểu diễn số mờ giá trị rời rạc 60 Hình 3.2 : Huấn luyện mạng theo giá trị rời rạc số mờ 61 Hình 3.3 : Đồ thị hàm thành viên phần tiền đề luật 61 Hình 3.4 : Đồ thị hàm thành viên phần kết luận luật 62 Hình 3.5 : Diễn tả số mờ tập -møc 63 H×nh 3.6 : Mô hình mạng nơ ron mờ đơn giản 63 H×nh 3.7 : Suy luËn mê Tsukamoto 66 Hình 3.8 : Mạng ANFIS tơng đơng đầu vào 67 Hình 3.9 : Mạng ANFIS tơng đơng theo mô hình Sugeno 68 Hình 3.10: Tập mờ gồm chín không gian mờ hai mẫu không đợc phân loại 72 H×nh 3.11: Kh«ng gian mÉu hai chiỊu 73 Hình 3.12: Tập mờ với 36 không gian 73 H×nh 3.13: Khởi tạo hàm cho biến mờ 76 Hình 3.14: Hàm thành viên Sigmoidal 77 Hình 3.15: Hàm thành viên đối xứng 79 Hình 3.16: Nơ ron mờ AND 80 Hình 3.17: Nơ ron mê OR 81 H×nh 3.18: Suy diƠn 89 lt víi 160 đầu vào 83 Hình 4.1 : ThuËt to¸n lÊy mÉu ký tù 87 H×nh 4.2 : Hn lun mạng nơ ron 89 Hình 4.3 : Ba mẫu chữ cần học 92 H×nh 4.4 : Ký tự cần nhận dạng 93 Hình 4.5 : Giao diện chơng trình nhận dạng 102 Mục lục Mục lục Danh mục hình vẽ Các chữ viết tắt Lời mở đầu Chơng I: Tổng quan nhận dạng chữ 1.1 Kh¸i niƯm 1.2 CÊu tróc chung cđa hƯ nhận dạng chữ 1.2.1 Quét lu ảnh 1.2.2 Giai đoạn xử lý s¬ bé 1.2.3 NhËn d¹ng ký tù 1.2.4 HuÊn luyÖn mÉu 1.2.5 Xư lý sau nhËn d¹ng 1.2.6 Lu trình bày lại văn 1.3 Các phơng pháp nhận dạng truyền thống 1.3.1 Đối sánh mẫu 1.3.2 §èi sánh điểm xuất phát từ trọng tâm 1.3.3 Đối sánh điểm cắt dọc cắt ngang 1.3.4 Phơng pháp thống kê giao điểm 1.3.5 Phơng pháp biểu diễn cấu trúc chữ qua văn phạm nhận dạng cấu trúc chữ 1.3.6 Phơng pháp nhận dạng cấu trúc chữ 1.4 Kỹ thuật xử lý ảnh dùng cho nhận dạng 1.4.1 Thu nhËn ¶nh 1.4.2 BiĨu diƠn ¶nh 10 1.4.3 Lu giữ ảnh 10 1.4.4 Khôi phục ảnh 11 1.4.5 Tăng cờng ảnh 15 1.4.6 Ph©n đoạn tìm biên ảnh 20 Chơng II: Các hệ thống hỗ trợ ®Þnh 22 2.1 Giíi thiƯu chung 22 2.2 Lý thuyết mạng nơ ron 22 2.2.1 Khái niệm thành phần 23 2.2.2 Phân loại mạng 26 2.2.3 Hn lun m¹ng 27 2.2.4 øng dơng m¹ng n¬ ron 37 2.3 Lý thuyÕt mê 38 2.3.1 Lý thuyÕt tËp mê 38 2.3.2 Các phép toán tập mờ 42 2.3.3 LuËt mê IF-THEN 43 2.3.4 Lý thuyÕt suy luận gần 44 2.3.5 Các quy tắc mờ 45 2.3.6 Mô hình suy luËn mê 49 Chơng III: Mạng nơ ron mờ toán nhận dạng 56 3.1 Giới thiệu chung 56 3.2 Định nghĩa mạng nơ ron mờ 57 3.3 Đặc điểm mạng nơ ron mê 58 3.4 Sử dụng mạng nơ ron mờ cho nhận dạng 59 3.4.1 Thùc hiÖn luËt mê IF-THEN kiến trúc mạng nơ ron 59 3.4.2 Kiến tróc m¹ng 64 3.4.3 Phân nhóm không gian mẫu 69 3.4.4 Phơng pháp học giảm độ dèc 74 3.4.5 C¸c n¬ ron thùc hiƯn 80 3.4.6 C¸c lt suy diƠn mê 81 Ch¬ng IV: ThiÕt kÕ øng dông 85 4.1 ThiÕt kÕ thuËt to¸n 85 4.1.1 ChuÈn ho¸ mẫu liệu 85 4.1.2 Hn lun m¹ng 88 4.1.3 Nhận dạng câu 92 4.2 Giao diƯn phÇn mỊm 101 4.3 Thư nghiƯm phÇn mỊm 103 4.4 Đánh giá kết qu¶ 103 Kết luận Tài liệu tham khảo