Phan Anh Dũng Bộ giáo dục đào tạo Trường Đại học Bách khoa Hà nội §iƯn tư - viƠn thông Luận văn thạc sĩ khoa học ứng dụng mạng nơ ron mờ cho nhận dạng câu chữ in hoa tiÕng viƯt Phan Anh Dịng 2003 – 2005 hµnéi 2005 Hà nội 2005 Bộ giáo dục đào tạo Trường Đại học Bách khoa Hà nội Luận văn thạc sĩ khoa học ứng dụng mạng nơ ron mờ cho nhận dạng câu chữ in hoa tiếng việt Ngành: điện tử - viễn thông Phan anh dũng hướng dẫn khoa học: PGS.Ts Lê bá dũng Hà nội 2005 chữ viết tắt ANFIS Adaptive Neuro Fuzzy Inference System HÖ suy luËn mê thÝch nghi APE Average Percentage Error Lỗi trung bình phần trăm AR Auto Regressive Tõ ®éng håi quy B Big Lín BOA Bisector of Area Chia miền thành hai phần CART Classification And Regression Tree Cây hồi quy phân hoạch CCD Charge couple Device Thiết bị nhận ảnh CR Chain Rule Luật dây chuyền DAG Directed Acrylic Graph Đồ thị tổ chức có chu trình DB Decision Boundary Biên định DIS Distance Khoảng cách dpi Dot Per Inch Số điểm mét Inch ES Expert System HƯ chuyªn gia FA Function Approximation XÊp xØ hµm sè FAM Fuzzy Associative Memory Bé nhí liªn kÕt mê FIS Fuzzy Inference System HƯ suy luËn mê FL Fuzzy Logic Logic mê FLC Fuzzy Logic Controller §iỊu khiĨn logic mê FS Fuzzy system HƯ mê GL Gray Level Møc x¸m GRNN HL General Regression Neural Network Hidden Layer Mạng Nơron hồi quy Lớp ẩn IP Input Layer Lớp vào IS Image Sensors Thiết bị nhận ¶nh LC Lateral Connection Liªn kÕt bªn LMS Least Mean Square Bình phương tối thiểu trung bình LR Learing Rule Luật học LS Least Square Bình phương tối thiểu LSE Least Square Estimator Xấp xỉ bình phương LUT Look Up Table Bảng tra LVQ Learning Vecto Quantization Lượng tử hóa vÐc t¬ MANFIS Multiple ANFIS HƯ hiỊu ANFIS MATLAB MATrix LABtory Thí nghiệm Ma Trận MF Membership Function Hàm liên thuộc MLP Multilayer Perceptron Mạng Perceptron đa lớp NB Negative Big Âm nhiều NC Neuro Computing Tính toán nơron NM Negative Medium Âm vừa NN Neural Network Mạng nơ ron NS Negative Small Âm nhỏ PB Positive Big Dương nhiều PC Pattern Classification Phân loại mẫu PE Picture element Phần tử ảnh PM Positive Medium Dương vừa PR Probabilistic Reasoning Suy luËn thèng kª PRC PS PSP Printed Character Recognition Positive Small Post Synaptic Potential function Nhận dạng chữ in Dương Hàm sau khớp nối PV Portfolio Value Tỷ giá hối đoái RMSE Root Mean Square Error Lỗi trung bình quân phương RNN Recurent Neural Network Mạng Nơron hồi quy RS Reinforcement Signal Tín hiệu tăng cường S Small Nhỏ TF Transfer Function Hàm truyền đạt VB Very Big RÊt lín VS Very Small RÊt nhá XOR Exclusive OR Hoặc phủ định ZE Zero Không danh mục hình vẽ Hình 1.1: Cấu trúc chung hệ nhận dạng chữ Hình 1.2: Mô hình phóng lớn ảnh ký tự H Hình 1.3: Các điểm kết thúc, ®iĨm ch¹c ba Hình 1.4: Mô hình nhiễu 11 Hình 1.5: Lọc ngược khôi phục ảnh nguyên gốc 13 Hình1.6 : Một số mặt nạ không gian trung bình 17 Hình1.7 : Mặt nạ lọc thông thấp 17 Hình1.8 : Cửa sổ lọc giả trung vÞ 18 Hình 2.1: Mô hình nơ ron nhân tạo 24 H×nh 2.2: CÊu tróc m¹ng perceptron 28 Hình 2.3: Mạng perceptron lớp 29 Hình 2.4: Mạng phân tách tuyÕn tÝnh 29 Hình 2.5: Mạng perceptron hai lớp liên tiếp 31 Hình2.6 : Mạng perceptron lớp có đầu 31 Hình 2.7: Quan hệ lân cận mạng Kohonen 33 Hình 2.8: Mạng nơ ron theo phương pháp học không giám sát 34 Hình 2.9: Cập nhật trọng số nơ ron chiến thắng mạng Kohonen 35 Hình 2.10: Hàm liên thuộc biến ngôn ngữ T (tuổi) 39 Hình 2.11: Hệ suy luận mờ Mamdani hai đầu vào 50 Hình2.12 : Mô hình mờ Tsukamoto 52 H×nh2.13 : Mô hình mờ Sugeno hai đầu vào 54 Hình2.14 : Mô hình mờ Larsen hai đầu vào 55 Hình 3.1 : Biểu diễn số mờ giá trị rời rạc 60 Hình 3.2 : Huấn luyện mạng theo giá trị rời rạc số mờ 61 Hình 3.3 : Đồ thị hàm thành viên phần tiền đề luật 61 Hình 3.4 : Đồ thị hàm thành viên phần kết luận luật 62 Hình 3.5 : Diễn tả số mờ tập -møc 63 H×nh 3.6 : Mô hình mạng nơ ron mờ đơn giản 63 H×nh 3.7 : Suy luËn mê Tsukamoto 66 Hình 3.8 : Mạng ANFIS tương đương đầu vào 67 Hình 3.9 : Mạng ANFIS tương đương theo mô hình Sugeno 68 Hình 3.10: Tập mờ gồm chín không gian mờ hai mẫu không phân loại 72 Hình 3.11: Không gian mẫu hai chiều 73 H×nh 3.12: TËp mê víi 36 kh«ng gian 73 Hình 3.13: Khởi tạo hàm cho biến mờ 76 Hình 3.14: Hàm thành viên Sigmoidal 77 Hình 3.15: Hàm thành viên đối xứng 79 Hình 3.16: Nơ ron mờ AND 80 H×nh 3.17: N¬ ron mê OR 81 H×nh 3.18: Suy diƠn 89 luật với 160 đầu vào 83 Hình 4.1 : Thuật toán lấy mẫu ký tự 87 H×nh 4.2 : Huấn luyện mạng nơ ron 89 Hình 4.3 : Ba mẫu chữ cÇn häc 92 Hình 4.4 : Ký tự cần nhận dạng 93 H×nh 4.5 : Giao diện chương trình nhận dạng 102 Mục lục Mục lục Danh mục hình vẽ Các chữ viết tắt Lời mở đầu Chương I: Tổng quan nhận dạng chữ 1.1 Kh¸i niƯm 1.2 CÊu tróc chung hệ nhận dạng chữ 1.2.1 Quét lưu ảnh 1.2.2 Giai đoạn xử lý sơ 1.2.3 NhËn d¹ng ký tù 1.2.4 HuÊn luyÖn mÉu 1.2.5 Xư lý sau nhËn d¹ng 1.2.6 Lu trình bày lại văn 1.3 Các phương pháp nhận dạng truyền thống 1.3.1 Đối sánh mÉu 1.3.2 Đối sánh điểm xuất phát từ trọng tâm 1.3.3 Đối sánh điểm cắt dọc cắt ngang 1.3.4 Phương pháp thống kê giao điểm 1.3.5 Phương pháp biểu diễn cấu trúc chữ qua văn phạm nhận dạng cấu trúc ch÷ 1.3.6 Phương pháp nhận dạng cấu trúc chữ 1.4 Kü tht xư lý ¶nh dïng cho nhËn d¹ng 1.4.1 Thu nhËn ¶nh 1.4.2 BiĨu diƠn ¶nh 10 1.4.3 Lu giữ ảnh 10 1.4.4 Khôi phục ảnh 11 1.4.5 Tăng cường ¶nh 15 1.4.6 Phân đoạn tìm biên ảnh 20 Chương II: Các hệ thống hỗ trợ định 22 2.1 Giới thiÖu chung 22 2.2 Lý thuyết mạng nơ ron 22 2.2.1 Kh¸i niệm thành phần 23 2.2.2 Phân loại mạng 26 2.2.3 Hn lun m¹ng 27 2.2.4 ứng dụng mạng nơ ron 37 2.3 Lý thuyÕt mê 38 2.3.1 Lý thuyÕt tËp mê 38 2.3.2 Các phép toán tập mờ 42 2.3.3 LuËt mê IF-THEN 43 2.3.4 Lý thuyết suy luận gần 44 2.3.5 Các quy tắc mờ b¶n 45 2.3.6 Mô hình suy luận mờ 49 Chương III: Mạng nơ ron mờ toán nhận dạng 56 3.1 Giới thiÖu chung 56 3.2 Định nghĩa mạng nơ ron mờ 57 3.3 Đặc điểm mạng nơ ron mờ 58 3.4 Sử dụng mạng nơ ron mờ cho nhËn d¹ng 59 3.4.1 Thùc luật mờ IF-THEN kiến trúc mạng nơ ron 59 3.4.2 KiÕn tróc m¹ng 64 3.4.3 Phân nhóm không gian mẫu 69 3.4.4 Phương pháp học giảm độ dốc 74 3.4.5 Các nơ ron thực 80 3.4.6 C¸c lt suy diƠn mê 81 Ch¬ng IV: ThiÕt kÕ øng dơng 85 4.1 ThiÕt kÕ thuËt to¸n 85 4.1.1 Chuẩn hoá mẫu liệu 85 4.1.2 Hn lun m¹ng 88 4.1.3 NhËn d¹ng c©u 92 4.2 Giao diƯn phÇn mỊm 101 4.3 Thư nghiƯm phÇn mỊm 103 4.4 Đánh giá kết 103 KÕt ln Tµi liƯu tham khảo 92 4.1.3 Nhận dạng câu Sau ảnh câu chữ in đưa vào để nhận dạng, phần chứa câu tách riêng Các ký tự câu tách riêng để thực việc nhận dạng Việc nhận dạng ký tự thực quy tắc xác định luật mờ µ nh sau: Gi¶ sư ta cã ba mÉu ký tự A mẫu ký tự cần học cách xây dựng hàm sau: Chia ảnh ký tự thành ô (ví dụ 36 ô) hàm ô xây dựng Số lần xuất hiện/Tổng số mẫu Hình 4.3: Ba mẫu chữ cần học Bíc 1: TÝnh (A, µ)= {(a1,0), (a2,0),(a3,1),(a4,1),(a5,0),(a6,0), (a7,0), (a8,1/3), (a9,1/3),…,(a36, 1/3)} Bước 2: Làm rõ theo công thức sau: ≤ µ ≤ 0.5 2 µ 1 - 2(1 - µ )2 0.5 ≤ µ ≤ 1.0 µ' = Ta làm rõ nhiều lần để đạt kết mong muốn Bước 3: Căn vào ký tự so sánh B (ký tự cần nhận dạng) ta xác định (B, à) giả sử ký tự so sánh có đây: 93 Hình 4.4: Ký tự cần nhận dạng (B,à) = {(b1, 0), (b2,0), (b3,1), (b4,0), (b5,0), (b6,0), (b7,0), (b8,0) , (b9, 1) (b36,1)} Bíc 4: TÝnh µ A∨ B = µ A + µ B − µ A µ B Bíc 5: TÝnh hƯ sè δ= ∑µ A∨ B K Bíc 6: KÕt ln < kết luận ngược lại Thông thường chọn 0.5 Việc nhận dạng ký tự thực cách đồng thời lưu vào sở liệu, câu chữ in hợp thành từ ký tự (bao gồm dấu cách) hiển thị lên hình Đoạn chương trình nhận dạng: Private Sub CmdNhanDang_Click() Dim i, k As Integer Dim s As String Dim maxsize As Integer On Error GoTo err_ Check1.Tag = Check1.Value Check1.Value = tmP3 Picture3, Check1.Value = Check1.Tag Me.Text1.Text = "" Dim As Single 94 stong = "" For k = To sokt If ((aX1(k + 1) - aX2(k)) > 5) Then daucach(k) = Else daucach(k) = End If Next For k = To sokt Open FnameData For Random As #1 Len = Len(MyRecord) maxsize = LOF(1) \ Len(MyRecord) = 100 s = "" For RecordNumber = maxsize To Step -1 Seek #1, RecordNumber Get #1, , MyRecord If Bt(k) < Then = Bt(k) st(k) = MyRecord.Kytu End If Next RecordNumber If Len(st(k)) Then Dim WOld As Integer WOld = Me.Picture3.DrawWidth p.DrawWidth = For k = To sokt r1 = aX2(k) - aX1(k) + c1 = aY2(k) - aY1(k) + Pic3.Cls Pic3.Picture = Nothing Pic3.Width = * (r1 + 1) Pic3.Height = * (c1 + 1) Pic3.ScaleWidth = * r1 Pic3.ScaleHeight = * c1 Pic3.ScaleMode = p.ScaleMode Pic3.DrawWidth = p.DrawWidth 100 Pic3.PaintPicture p.Image, 0, 0, * r1, * c1, aX1(k), aY1(k), r1 + 0, c1 + 0, vbSrcCopy Pic3.Refresh p.Line (aX1(k), aY1(k))-(aX2(k), aY2(k)), vbRed, B p.DrawWidth = WOld If Check1.Value = Then For i = To R_grid - For j = To H_grid - KT(k).Tansuat(i, j) = If celldrawed(Pic3, i, j) Then KT(k).Tansuat(i, j) = End If Next Next End If End If Exit Sub err_: MsgBox Err.Description, End Sub Function Bt(ByVal n As Integer) As Single Dim i, j As Integer Dim tam As Single Dim tmp, Tong, M_a As Single Dim Totalcell As Long On Error GoTo err_ Totalcell = (R_grid) * (H_grid) Tong = For i = To R_grid - 101 For j = To H_grid - tam = MyRecord.Tansuat(i, j) / MyRecord.Tong If tam >= And tam