Ứng dụng mạng nơron mờ cho nhận dạng câu chữ in hoa tiếng việt

Phan Anh Dũng Bộ giáo dục đào tạo Trường Đại học Bách khoa Hà nội §iƯn tư - viễn thông Luận văn thạc sĩ khoa học ứng dụng mạng nơ ron mờ cho nhận dạng câu chữ in hoa tiÕng viƯt Phan Anh Dịng 2003 – 2005 hµnéi 2005 Hà nội 2005 Bộ giáo dục đào tạo Trường Đại học Bách khoa Hà nội Luận văn thạc sĩ khoa học ứng dụng mạng nơ ron mờ cho nhận dạng câu chữ in hoa tiếng việt Ngành: điện tử - viễn thông Phan anh dũng hướng dẫn khoa học: PGS.Ts Lê bá dũng Hà nội 2005 chữ viết tắt ANFIS Adaptive Neuro Fuzzy Inference System HÖ suy luËn mê thÝch nghi APE Average Percentage Error Lỗi trung bình phần trăm AR Auto Regressive Tõ ®éng håi quy B Big Lín BOA Bisector of Area Chia miền thành hai phần CART Classification And Regression Tree Cây hồi quy phân hoạch CCD Charge couple Device Thiết bị nhận ảnh CR Chain Rule Luật dây chuyền DAG Directed Acrylic Graph Đồ thị tổ chức có chu trình DB Decision Boundary Biên định DIS Distance Khoảng cách dpi Dot Per Inch Số điểm mét Inch ES Expert System HƯ chuyªn gia FA Function Approximation XÊp xØ hµm sè FAM Fuzzy Associative Memory Bé nhí liªn kÕt mê FIS Fuzzy Inference System HƯ suy luËn mê FL Fuzzy Logic Logic mê FLC Fuzzy Logic Controller §iỊu khiĨn logic mê FS Fuzzy system HƯ mê GL Gray Level Møc x¸m GRNN HL General Regression Neural Network Hidden Layer Mạng Nơron hồi quy Lớp ẩn IP Input Layer Lớp vào IS Image Sensors Thiết bị nhận ảnh LC Lateral Connection Liên kết bên LMS Least Mean Square Bình phương tối thiểu trung bình LR Learing Rule Luật học LS Least Square Bình phương tối thiểu LSE Least Square Estimator Xấp xỉ bình phương LUT Look Up Table Bảng tra LVQ Learning Vecto Quantization Lượng tử hãa vÐc t¬ MANFIS Multiple ANFIS HƯ hiỊu ANFIS MATLAB MATrix LABtory ThÝ nghiƯm Ma TrËn MF Membership Function Hµm liên thuộc MLP Multilayer Perceptron Mạng Perceptron đa lớp NB Negative Big Âm nhiều NC Neuro Computing Tính toán nơron NM Negative Medium Âm vừa NN Neural Network Mạng nơ ron NS Negative Small Âm nhỏ PB Positive Big Dương nhiều PC Pattern Classification Phân loại mẫu PE Picture element Phần tử ảnh PM Positive Medium Dương vừa PR Probabilistic Reasoning Suy luËn thèng kª PRC PS PSP Printed Character Recognition Positive Small Post Synaptic Potential function Nhận dạng chữ in Dương Hàm sau khớp nối PV Portfolio Value Tỷ giá hối đoái RMSE Root Mean Square Error Lỗi trung bình quân phương RNN Recurent Neural Network Mạng Nơron hồi quy RS Reinforcement Signal Tín hiệu tăng cường S Small Nhỏ TF Transfer Function Hàm truyền đạt VB Very Big RÊt lín VS Very Small RÊt nhá XOR Exclusive OR Hoặc phủ định ZE Zero Không danh mục hình vẽ Hình 1.1: Cấu trúc chung hệ nhận dạng chữ Hình 1.2: Mô hình phóng lớn ảnh ký tự H Hình 1.3: Các điểm kết thúc, điểm chạc ba Hình 1.4: Mô hình nhiễu 11 H×nh 1.5: Läc ngược khôi phục ảnh nguyên gốc 13 Hình1.6 : Một số mặt nạ không gian trung b×nh 17 H×nh1.7 : Mặt nạ lọc thông thấp 17 Hình1.8 : Cửa sổ lọc giả trung vÞ 18 Hình 2.1: Mô hình nơ ron nhân tạo 24 H×nh 2.2: CÊu tróc m¹ng perceptron 28 Hình 2.3: Mạng perceptron lớp 29 Hình 2.4: Mạng phân t¸ch tuyÕn tÝnh 29 Hình 2.5: Mạng perceptron hai lớp liên tiếp 31 Hình2.6 : Mạng perceptron lớp có đầu 31 Hình 2.7: Quan hệ lân cận mạng Kohonen 33 Hình 2.8: Mạng nơ ron theo phương pháp học không giám sát 34 Hình 2.9: Cập nhật trọng số nơ ron chiến thắng mạng Kohonen 35 Hình 2.10: Hàm liên thuộc biến ngôn ngữ T (tuổi) 39 Hình 2.11: Hệ suy luận mờ Mamdani hai đầu vào 50 Hình2.12 : Mô hình mờ Tsukamoto 52 H×nh2.13 : Mô hình mờ Sugeno hai đầu vào 54 Hình2.14 : Mô hình mờ Larsen hai đầu vào 55 Hình 3.1 : Biểu diễn số mờ giá trị rời rạc 60 Hình 3.2 : Huấn luyện mạng theo giá trị rời rạc số mờ 61 Hình 3.3 : Đồ thị hàm thành viên phần tiền đề luật 61 Hình 3.4 : Đồ thị hàm thành viên phần kết luận luật 62 Hình 3.5 : Diễn tả số mờ tập α -møc 63 H×nh 3.6 : Mô hình mạng nơ ron mờ đơn giản 63 H×nh 3.7 : Suy luËn mê Tsukamoto 66 Hình 3.8 : Mạng ANFIS tương đương đầu vào 67 Hình 3.9 : Mạng ANFIS tương đương theo mô hình Sugeno 68 Hình 3.10: Tập mờ gồm chín không gian mờ hai mẫu không phân loại 72 Hình 3.11: Không gian mẫu hai chiều 73 H×nh 3.12: TËp mê víi 36 kh«ng gian 73 Hình 3.13: Khởi tạo hàm cho biến mờ 76 Hình 3.14: Hàm thành viên Sigmoidal 77 Hình 3.15: Hàm thành viên đối xứng 79 Hình 3.16: Nơ ron mờ AND 80 Hình 3.17: Nơ ron mờ OR 81 H×nh 3.18: Suy diƠn 89 luật với 160 đầu vào 83 Hình 4.1 : Thuật toán lấy mẫu ký tù 87 H×nh 4.2 : Huấn luyện mạng nơ ron 89 H×nh 4.3 : Ba mÉu chữ cần học 92 Hình 4.4 : Ký tự cần nhận dạng 93 H×nh 4.5 : Giao diện chương trình nhận dạng 102 Mơc lơc Mơc lơc Danh mơc c¸c hình vẽ Các chữ viết tắt Lời mở đầu Chương I: Tổng quan nhận dạng chữ 1.1 Kh¸i niƯm 1.2 CÊu trúc chung hệ nhận dạng chữ 1.2.1 Quét lưu ảnh 1.2.2 Giai đoạn xử lý sơ 1.2.3 NhËn d¹ng ký tù 1.2.4 HuÊn luyÖn mÉu 1.2.5 Xư lý sau nhËn d¹ng 1.2.6 Lưu trình bày lại văn 1.3 Các phương pháp nhận dạng trun thèng 1.3.1 §èi s¸nh mÉu 1.3.2 Đối sánh điểm xuất phát từ trọng tâm 1.3.3 Đối sánh điểm cắt dọc cắt ngang 1.3.4 Phương pháp thống kê giao điểm 1.3.5 Phương pháp biểu diễn cấu trúc chữ qua văn phạm nhận dạng cấu tróc ch÷ 1.3.6 Phương pháp nhận dạng cấu trúc chữ 1.4 Kü tht xư lý ¶nh dïng cho nhËn d¹ng 1.4.1 Thu nhËn ¶nh 1.4.2 BiĨu diƠn ¶nh 10 1.4.3 Lưu giữ ảnh 10 1.4.4 Khôi phục ảnh 11 1.4.5 Tăng c­êng ¶nh 15 1.4.6 Phân đoạn tìm biên ảnh 20 Chương II: Các hệ thống hỗ trợ định 22 2.1 Giíi thiƯu chung 22 2.2 Lý thuyết mạng nơ ron 22 2.2.1 Khái niệm thành phần 23 2.2.2 Phân loại mạng 26 2.2.3 HuÊn luyÖn m¹ng 27 2.2.4 ứng dụng mạng nơ ron 37 2.3 Lý thuyÕt mê 38 2.3.1 Lý thuyÕt tËp mê 38 2.3.2 Các phép toán tập mê 42 2.3.3 LuËt mê IF-THEN 43 2.3.4 Lý thuyết suy luận gần 44 2.3.5 Các quy tắc mờ 45 2.3.6 Mô hình suy luận mờ 49 Chương III: Mạng nơ ron mờ toán nhận dạng 56 3.1 Giíi thiƯu chung 56 3.2 Định nghĩa mạng nơ ron mê 57 3.3 Đặc điểm mạng nơ ron mờ 58 3.4 Sử dụng mạng nơ ron mê cho nhËn d¹ng 59 3.4.1 Thực luật mờ IF-THEN kiến trúc mạng nơ ron 59 3.4.2 KiÕn tróc m¹ng 64 3.4.3 Phân nhóm không gian mÉu 69 3.4.4 Ph­¬ng pháp học giảm độ dốc 74 3.4.5 Các nơ ron thực 80 3.4.6 C¸c luËt suy diÔn mê 81 Ch­¬ng IV: ThiÕt kÕ øng dơng 85 4.1 ThiÕt kÕ thuËt to¸n 85 4.1.1 Chuẩn hoá mẫu liệu 85 4.1.2 Hn lun m¹ng 88 4.1.3 NhËn dạng câu 92 4.2 Giao diƯn phÇn mỊm 101 4.3 Thư nghiƯm phÇn mÒm 103 4.4 Đánh giá kết 103 KÕt ln Tµi liƯu tham khảo 92 4.1.3 Nhận dạng câu Sau ảnh câu chữ in đưa vào để nhận dạng, phần chứa câu tách riêng Các ký tự câu tách riêng để thực việc nhận dạng Việc nhận dạng ký tự thực quy tắc xác định luật mờ sau: Giả sử ta có ba mẫu ký tự A mẫu ký tự cần học cách xây dựng hàm sau: Chia ảnh ký tự thành ô (ví dụ 36 ô) hàm ô xây dựng Số lần xuất hiện/Tổng số mẫu Hình 4.3: Ba mẫu chữ cần häc B­íc 1: TÝnh (A, µ)= {(a1,0), (a2,0),(a3,1),(a4,1),(a5,0),(a6,0), (a7,0), (a8,1/3), (a9,1/3),,(a36, 1/3)} Bước 2: Làm rõ theo công thức sau: ≤ µ ≤ 0.5 2 µ 1 - 2(1 - µ )2 0.5 ≤ µ ≤ 1.0 µ' = Ta làm rõ nhiều lần để đạt kết mong muốn Bước 3: Căn vào ký tự so sánh B (ký tự cần nhận dạng) ta xác định (B, à) giả sử ký tự so sánh có đây: 93 Hình 4.4: Ký tự cần nhận dạng (B,à) = {(b1, 0), (b2,0), (b3,1), (b4,0), (b5,0), (b6,0), (b7,0), (b8,0) , (b9, 1) (b36,1)} B­íc 4: TÝnh µ A∨ B = µ A + µ B − µ A µ B B­íc 5: TÝnh hƯ sè δ= ∑µ A∨ B K B­íc 6: KÕt luận < kết luận ngược lại Thông thường chọn 0.5 Việc nhận dạng ký tự thực cách đồng thời lưu vào sở liệu, câu chữ in hợp thành từ ký tự (bao gồm dấu cách) hiển thị lên hình Đoạn chương trình nhận dạng: Private Sub CmdNhanDang_Click() Dim i, k As Integer Dim s As String Dim maxsize As Integer On Error GoTo err_ Check1.Tag = Check1.Value Check1.Value = tmP3 Picture3, Check1.Value = Check1.Tag Me.Text1.Text = "" Dim As Single 94 stong = "" For k = To sokt If ((aX1(k + 1) - aX2(k)) > 5) Then daucach(k) = Else daucach(k) = End If Next For k = To sokt Open FnameData For Random As #1 Len = Len(MyRecord) maxsize = LOF(1) \ Len(MyRecord) = 100 s = "" For RecordNumber = maxsize To Step -1 Seek #1, RecordNumber Get #1, , MyRecord If Bt(k) < Then = Bt(k) st(k) = MyRecord.Kytu End If Next RecordNumber If Len(st(k)) Then Dim WOld As Integer WOld = Me.Picture3.DrawWidth p.DrawWidth = For k = To sokt r1 = aX2(k) - aX1(k) + c1 = aY2(k) - aY1(k) + Pic3.Cls Pic3.Picture = Nothing Pic3.Width = * (r1 + 1) Pic3.Height = * (c1 + 1) Pic3.ScaleWidth = * r1 Pic3.ScaleHeight = * c1 Pic3.ScaleMode = p.ScaleMode Pic3.DrawWidth = p.DrawWidth 100 Pic3.PaintPicture p.Image, 0, 0, * r1, * c1, aX1(k), aY1(k), r1 + 0, c1 + 0, vbSrcCopy Pic3.Refresh p.Line (aX1(k), aY1(k))-(aX2(k), aY2(k)), vbRed, B p.DrawWidth = WOld If Check1.Value = Then For i = To R_grid - For j = To H_grid - KT(k).Tansuat(i, j) = If celldrawed(Pic3, i, j) Then KT(k).Tansuat(i, j) = End If Next Next End If End If Exit Sub err_: MsgBox Err.Description, End Sub Function Bt(ByVal n As Integer) As Single Dim i, j As Integer Dim tam As Single Dim tmp, Tong, M_a As Single Dim Totalcell As Long On Error GoTo err_ Totalcell = (R_grid) * (H_grid) Tong = For i = To R_grid - 101 For j = To H_grid - tam = MyRecord.Tansuat(i, j) / MyRecord.Tong If tam >= And tam