Nhận dạng chữ viết và phân tích trang tài liệu

Trang 1

Luận văn tốt nghiệp cao học Học viên: Nguyễn Văn Huy

Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn

i GVHD: PGS TS Ngô Quốc Tạo

II Nội dung nghiên cứu 2

III Bố cục của luận văn 4

Chương I TỔNG QUAN VỀ NHẬN DẠNG CHỮ VIẾT 5

VÀ PHÂN TÍCH TRANG TÀI LIỆU 5

I.1 Ảnh tài liệu và nhận dạng ảnh tài liệu 5

I.1.1 Tổng quan về ảnh tài liệu 5

I.1.2 Nhận dạng tài liệu và vai trò của phân tích ảnh tài liệu 6

I.2 Cấu trúc của ảnh tài liệu 7

I.2.1 Cấu trúc vật lý 8

I.2.2 Cấu trúc logic 10

I.3 Quá trình phân tích tài liệu 10

I.3.1 Tiền xử lý(preprocessing): 11

I.3.2 Phân tích cấu trúc vật lý 12

I.3.3 Phân tích cấu trúc logic 13

I.4 Một số hệ thống phân tích tài liệu hiện nay 14

I.4.1 VnDOCR 14

I.4.2 OminiPage 18

I.4.3 Finereader 20

I.5 Kết luận 22

Chương II: CÁC PHƯƠNG PHÁP TIẾP CẬN 23

ĐỂ PHÂN TÍCH TRANG TÀI LIỆU 23

II.1 Các phương pháp phân tích định dạng trang tài liệu 23

II.1.1 Top-down 23

Trang 2

ii GVHD: PGS TS Ngô Quốc Tạo

II.3.1 Sơ đồ khối 39

II.3.2 Ảnh đầu vào 39

II.3.3 Module Tiền xử lý 40

II.3.4 Phân tích sử dụng giả pháp Fractal Signature 41

II.4 Kết luận 45

Chương III: XÂY DỰNG CHƯƠNG TRÌNH THỬ NGHIỆM 46

III.1 Yêu cầu hệ thống 46

III.2 Thiết kế chương trình 46

III.2.1 Cấu trúc dữ liệu 46

III.2.2 Module chuẩn hóa ảnh 48

III.2.3 Module giao diện chính 51

III.2.4 Module phân tích Top-down (TD) 52

III.2.5 Module phân tích Fractal Signature 55

III.2.6 Module lọc và làm trơn nhiễu 57

III.2.7 Module mô phỏng thuật toán FS 58

III.2.8 Các hàm chức năng chính của image processing tool trong matlab sử dụng trong chương trình 60

III.3 Kết luận và đánh giá kết quả 62

Kết luận 83

TÀI LIỆU THAM KHẢO 84

Phục Lục 85

A Mã nguồn đầy đủ của chương trình 85

A.1 Danh mục các chương trình con trong chương trình 85

A.2 Sơ khối liên kết giữa các thủ tục trong chương trình 86

Trang 3

iii GVHD: PGS TS Ngô Quốc Tạo A.3 Mã nguồn các module 86

Trang 4

iv GVHD: PGS TS Ngô Quốc Tạo

Danh mục các hình ảnh

Hình 1: Sơ đồ tổng quan quá trình tạo ảnh tài liệu 5

Hình 2: Ví dụ ảnh tài liệu 6

Hình 3: Sơ đồ OCR cơ bản 7

Hình 4: b-Cấu trúc vật lý: c,d-Cấu trúc logic của một tài liệu[4] 9

Hình 5: Ví dụ loại tài liệu có bố cục phức tap 10

Hình 6: Sơ đồ nguyên lý hệ thống xử lý tài liệu[6] 11

Hình 7: a - Ảnh gốc b - Ảnh sau khi tách nền 12

Hình 8: Ví dụ một ảnh tài liệu bị nghiêng một góc 5 độ 13

Hình 9: Ví dụ một cây mô tả cấu trúc logic của một trang tài liệu[5] 14

Hình 10: VnDOCR và một ví dụ nhận dạng 15

Hình 11: Ảnh mẫu có cấu trúc vật lý phức tạp 16

Hình 12: Kết quả ra hai vùng ảnh với ảnh mẫu 11 16

Hình 13: Mẫu ảnh có cấu trúc vật lý phức tạp, nhưng các khối bao bởi hình chữ nhật 17

Hình 14: Kết quả phân tích với ảnh 13 18

Hình 15: Đầu ra phân vùng chỉ có 1 vùng văn bản 19

Hình 16: Đầu ra có vùng chứa cả ảnh và text 19

Hình 17: Với ảnh 13 đạt hiệu quả 90% 20

Hình 18 Với ảnh I-15 hiệu quả đạt 100% 21

Hình 19: Với mẫu phức tạp hơn Finereader cho kết quả 95% 22

Hình 20: Kết quả chiếu nghiêng theo phương ngang và phương thẳng đứng của một trang tài liệu 24

Hình 21: Phân tách cột dựa vào phép chiếu nghiêng theo phương ngang 25

Hình 22: Phép chiếu nghiêng theo phương ngang để phân đoạn ký tự hoặc từ 26

Hình 23: Lược đồ chiếu ngang của một dòng chữ nghiêng - rất khó phân đoạn ký tự 27

Hình 24: Lược đồ chiếu đứng của trang tài liệu bị nghiêng 28

Hình 25: Lược đồ chiếu đứng của một bài báo 29Hình 26: Phương pháp Dostrum cho phân tích định dạng trang từ dưới lên (a) Một phần của nội dung văn bản gốc (b) Các thành phần lân cận gần nhất được xác định

Trang 5

v GVHD: PGS TS Ngô Quốc Tạo (c) Các hình chữ nhật tối thiểu tạo nên nhóm láng giềng gần nhất từ đó xác định

đƣợc dòng văn bản 31

Hình 27: Mô tả thuật toán Tách và Nối thích nghi 33

Hình 28: Mô tả thuật toán FS 35

Hình 29: Sơ đồ khối hệ thống phân tích tài liệu trong phạm vi đề tài 39

Hình 30: Ví dụ một bolck chuyển sang dạng bề mặt trong không gian 3D 41

Hình 31: Ví dụ chuyển ảnh chữ "c" sang dạng bề mặt trong không gian 3D 41

Hình 32: (a) Ảnh một tài liệu gốc, (b) kết quả sau khi áp dụng FS 44

Hình 33: Giao diện chính 51

Hình 34: Kết quả phân tích của top-down trên tài liệu có cấu trúc đơn giản 63

Hình 35: Kết quả phân tích của top-down trên tài liệu có cấu trúc bảng 65

Hình 36: : Kết quả phân tích của top-down trên tài liệu thuần văn bản 67

Hình 37: : Kết quả phân tích của top-down trên tài liệu có cấu trúc phức tạp (trang tạp trí) 69

Hình 38 : Kết quả phân tích của top-down trên một tờ quảng cáo 71

Hình 39: Kết quả phân tích của top-down trên tài liệu có cấu trúc phức tạp 73

Hình 40: Kết quả phân tích của top-down trên tài liệu bị nghiêng 75

Hình 41: Kết quả phân tích của FS trên tài liệu bị nghiêng 77

Hình 42: Kết quả phân tích của FS trên tài có cấu trúc phức tạp 79

Hình 43: Kết quả phân tích của FS trên một trang quảng cáo 81

Hình 44: Kết quả phân tích của FS trên tài liệu đơn giản 82

Trang 6

1 GVHD: PGS TS Ngô Quốc Tạo

MỞ ĐẦU

I Đặt vấn đề

Ngày nay việc sử dụng máy tính để lưu trữ tài liệu không còn là vấn đề mới mẻ và cần phải chứng minh tính an toàn, thuận tiện của nó Tuy nhiên việc sử dụng giấy để lưu trữ tài liệu trong một số mục đích vẫn không thể thay thế được (như báo, sách, công văn,…) Hơn nữa lượng tài liệu được tạo ra từ nhiều năm trước vẫn còn rất nhiều mà không thể bỏ đi được vì tính quan trọng của chúng

Chúng ta mong muốn có thể điện tử hóa hàng tỉ trang tài liệu đó và cất chúng chỉ trong một ổ cứng kích thước bằng một cuốn sách nhỏ, tìm kiếm thông tin mà chỉ cần tốn vài giây với một cái gõ phím Enter Giải pháp là gì?

Thông thường người ta sẽ phải thuê người cùng với việc tốn hàng tháng, hàng năm mới có thể nhập vào máy tính được hết lượng tài liệu đó Hiện nay chúng ta đã có các máy Scan với tốc độ cao, công nghệ xử lý của máy tính ngày càng siêu việt với tốc độ tính toán vượt cả tốc độ ánh sáng, vậy tại sao chúng ta không quét toàn bộ các trang tài liệu vào và chuyển chúng thành văn bản một cách tự động?

Bằng cách đó tốc độ và tính chính xác sẽ tăng hàng trăm lần trong khi chi phí lại là cực tiểu Vấn đề là khi quét vào máy tính chúng ta không thu được ngay các dòng văn bản từ các trang tài liệu kia, để có thể soạn thảo, sửa chữa và tìm kiếm như làm trên Office Tất cả những gì thu được chỉ là các tấm ảnh của các trang văn bản, máy tính lại đối xử công bằng như nhau với mọi điểm ảnh, máy tính không có “mắt” như chúng ta để biết đâu là điểm ảnh của chữ, đâu là điểm ảnh của đối tượng đồ họa

Một giải pháp được nghĩ đến ngay đó là đó là xây dựng các hệ thống nhận dạng chữ, trong tấm ảnh chứa cả chữ và đối tượng đồ họa cần tách và chuyển thành dạng trang văn bản, từ đó có thể mở và soạn thảo được trên các trình soạn thảo văn bản

Một cách tổng quát thì cách thức làm việc của một hệ thống nhận dạng chữ như sau[5]:

1 Chụp ảnh các trang tài liệu trên giấy và lưu lại trong máy tính dưới dạng hình ảnh

Trang 7

2 GVHD: PGS TS Ngô Quốc Tạo 2 Sử dụng một chương trình xử lý ảnh để phân tích hình ảnh sau khi quét, đọc

được ký tự trên hình ảnh đó và ghi lại vào máy tính theo cách mà máy tính quản lý được thông tin dữ liệu đó

a Bước 1 là phân tích cấu trúc của ảnh tài liệu, từ đó xác định đâu là phần chứa chữ, đâu là phần chứa cả ảnh lẫn ký tự và đâu chỉ chứa hình ảnh Bước này thực sự quan trọng cho bước nhận dạng Bởi nó định vị chính xác cho việc áp dụng các thuật toán nhận dạng lên vùng đã xác định tính chất, nếu bước này chính xác trước tiên nó hạn chế thời gian cho việc nhận dạng, sau là tăng ngữ nghĩa bổ sung cho việc nhận dạng

b Bước 2 nhận dạng ký tự dựa vào các tính chất của ký tự, ví dụ như sắp xếp theo dòng, khoảng cách giữa 2 từ lớn hơn khoảng cách giữa 2 ký tự, dùng trí tuệ nhân tạo để dự đoán các ký tự kề nhau phải như thế nào, các từ trong câu phải như thế nào để câu có nghĩa Từ đó có nội dung đúng để lưu trữ, quản lý…

Trong thực tế không phải quá trình nhận dạng nào cũng chỉ trải qua hai bước như trên, bởi vì có rất nhiều tham số ảnh hưởng đến kết quả của các chương trình nhận dạng, như nhiễu, Font chữ, kích thước chữ, kiểu chữ nghiêng, đậm, gạch dưới Ngoài ra các dòng chữ cũng có thể trộn lẫn với các đối tượng đồ họa, vì thế trước khi nhận dạng chữ, một số thao tác tiền xử lý sẽ được tác động lên ảnh như, lọc nhiễu, chỉnh góc nghiêng và đặc biệt quan trọng là phân tích trang tài liệu để xác định cấu trúc của trang văn bản đồng thời tách biệt hai thành phần là chữ và các đối tượng đồ họa (phi chữ)

II Nội dung nghiên cứu

1 Mục tiêu nghiên cứu chính của đề tài

 Tìm hiểu cấu trúc trang tài liệu (cấu trúc vật lý, logic)?

 Tìm hiểu một số kỹ thuật phân tích trang tài liệu (phân vùng, phân đoạn,…)

 Cài đặt thử nghiệm một giải pháp phân tích có hiệu quả cao so với các

phương pháp truyền thống như top-down hay bottom-up trên ảnh vào là ảnh đa cấp xám có cấu trúc phức tạp

 Từ kết quả nghiên cứu có một sự chuẩn bị kiến thức đẩy đủ cho bước nghiên cứu tiếp theo là nhận dạng ký tự quang

Trang 8

3 GVHD: PGS TS Ngô Quốc Tạo 2 Ý nghĩa khoa học của đề tài

 Giải quyết được vấn đề về học thuật: đề tài sẽ mang ý nghĩa cung cấp về mặt lý thuyết để làm rõ về các phương pháp phân tích trang tài liệu  Đáp ứng được yêu cầu của thực tiễn: từ các lý thuyết đã được nghiên cứu,

từ đó liên hệ và gắn vào thực tiễn để có thể áp dụng vào các lĩnh vực như: Lưu trữ thư viện, điện tử hóa văn phòng, nhận dạng và xử lý ảnh, … 3 Nhiệm vụ nghiên cứu

Mục đích của luận văn đề cập được đến hai phần:

 Phần lý thuyết: Nắm rõ và trình bày những cơ sở lý thuyết liên quan đến cấu trúc trang tài liệu, một số kỹ thuật phân tích trang tài liệu, từ đó có để có thể xác định tính quan trọng của bước này trong nhận dạng ký tự, đồng thời hiểu các công việc kế tiếp cần làm trong bước nhận dạng ký tự  Phần phát triển ứng dụng: Áp dụng các thuật toán đã trình bày ở phần lý

thuyết từ đó lựa chọn một giải pháp tối ưu và cài đặt thử nghiệm chương trình phân tích trang tài liệu

4 Phương pháp nghiên cứu

 Tìm kiếm, tham khảo, tổng hợp tài liệu từ các nguồn khác nhau để xây dựng phần lý thuyết cho luận văn

 Sử dụng các kỹ thuật được áp dụng phân tích trang tài liệu để làm rõ bản chất của các vấn đề được đưa ra trong phần lý thuyết

 Xây dựng chương trình Demo 5 Phạm vi nghiên cứu

Bài toán nhận dạng và xử lý ảnh tài liệu đã được phát triển với nhiều thành tựu trong thực tế, có rất nhiều thuật toán tối ưu đã được các nhà khoa học đề nghị Tuy nhiên có thể nói chưa có một chương trình nào có thể “đọc” một ảnh văn bản như con người, vì thực tế có rất nhiều kiểu trang văn bản khác nhau, khác nhau về cấu trúc trình bày, ngôn ngữ, kiểu font, chữ viết tay,… Đây thực sự là một bài toán lớn, chính vì thế trong phạm vi của luận văn chỉ tìm hiểu một số kỹ thuật phân tích trang văn bản tiêu biểu với mục đích để so sánh và một thuật toán mới chưa được đưa ra ở các đề tài trước Cuối cùng, dựa vào đó để xây dựng Demo cho một ứng dụng

Các kết quả nghiên cứu dự kiến cần đạt được:

Trang 9

4 GVHD: PGS TS Ngô Quốc Tạo  Tìm hiểu tài liệu liên quan đến lĩnh vực quan tâm để nắm bắt được bản

chất vấn đề đặt ra  Báo cáo lý thuyết

III Bố cục của luận văn

Nội dung của luận văn được trình bày trong ba chương với nội dung chính sau

Chương 1: Trình bày các khái niệm và mô hình tổng quát của hệ thống nhận dạng

chữ viết, cùng với một số phần mềm nhận dạng tiêu biểu hiện nay

Chương 2: Trình bày một số phương pháp phân tích trang tài liệu, từ đó đánh giá

ưu nhược điểm để lựa chọn phương pháp Fractal Signature cho chương trình thử nghiệm Trình bày về thiết kế cho chương trình demo

Chương 3: Trình bày chi tiết về việc cài đặt chương trình cũng như các thủ tục sử

dụng trong chương trình với phương pháp phân tích Fractal Signature và ảnh đầu

Trang 10

Chương I TỔNG QUAN VỀ NHẬN DẠNG CHỮ VIẾT VÀ PHÂN TÍCH TRANG TÀI LIỆU

Chương này đưa ra các khái niệm về đối tượng làm việc của đề tài là ảnh tài liệu, khái niệm về cấu trúc vật lý và cấu trúc logic Giới thiệu các khâu trong một hệ thống nhận dạng chữ viết hoàn chỉnh Đồng thời đưa ra một số phần mềm nhận dạng của Việt Nam và Thế giới cùng với các mẫu kết quả phân tích của nó nhàm mục đích so sánh và xác định phạm vi cho đề tài

I.1 Ảnh tài liệu và nhận dạng ảnh tài liệu I.1.1 Tổng quan về ảnh tài liệu

Trang ảnh tài liệu được đề cập ở đây là các file ảnh số hoá thu được bằng cách quét các trang tài liệu dùng máy scanner, máy ảnh số, hay nhận từ một máy fax (Hình 1), file ảnh này được lưu giữ trong máy tính Ảnh tài liệu có nhiều loại: ảnh đen trắng, ảnh màu, ảnh đa cấp xám với các phần mở rộng như TIF, BMP, PCX,

…(Hình 2) và ảnh tài liệu được đưa ra trong luận văn này là ảnh đa cấp xám

Ảnh số

Hình 1: Sơ đồ tổng quan quá trình tạo ảnh tài liệu

Trang 11

I.1.2 Nhận dạng tài liệu và vai trò của phân tích ảnh tài liệu

Ngày nay, máy tính đang phát triển mạnh mẽ, tốc độ xử lý không ngừng được nâng lên Cùng với nó là sự ra đời của các phần mềm thông minh đã khiến máy tính ngày một gần gũi với con người hơn Một trong các khả năng tuyệt vời của con người mà các nhà khoa học máy tính muốn đạt được đó là khả năng nhận dạng và lĩnh vực nhận dạng thu được nhiều thành công nhất là nhận dạng ký tự quang OCR–Optical Character Recognition OCR có thể được hiểu là quá trình chuyển đổi tài liệu dưới dạng file ảnh số hoá (là dạng chỉ có người đọc được) thành tài liệu dưới dạng file văn bản (là tài liệu mà cả người và máy đều có thể đọc được)

OCR có rất nhiều ứng dụng hữu ích trong cuộc sống như:

- Sắp xếp thư tín, dựa vào việc nhận dạng mã bưu chính (Zipcode) hay địa chỉ gửi tới

- Tự động thu thập dữ liệu từ các mẫu đơn/báo biểu hay từ các hồ sơ lao động

- Hệ thống tự động kiểm tra trong ngân hàng (tự động xác nhận chữ ký) - Tự động xử lý các hóa đơn hay các yêu cầu thanh toán

- Hệ thống tự động đọc và kiểm tra passport

- Tự động phục hồi và copy tài liệu từ các ảnh quét - Máy đọc cho những người khiếm thính

- Các ứng dụng Datamining - …

Sơ đồ một hệ thống OCR cơ bản ở Hình 3 Trong đó:

Hình 2: Ví dụ ảnh tài liệu

Trang 12

7 GVHD: PGS TS Ngô Quốc Tạo - Scanner: Thiết bị quét ảnh

- OCR hardware/software:

o Document analysis: Phân tích tài liệu o Character recognition: Nhận dạng ký tự o Contexttual processor: Xử lý văn cảnh - Output interface: Đầu ra

 Như vậy vai trò chính của khâu phân tích ảnh tài liệu là việc phân đoạn trang, tách vùng văn bản ra khỏi nền và đồ họa tạo mẫu chuẩn cho khâu nhận dạng Rõ dàng là kết quả của khâu phân tích này ảnh hưởng rất lớn đến hiệu của của khâu nhận dạng nếu sử dụng mẫu hay các chuỗi văn bản đầu ra của nó

Hình 3: Sơ đồ OCR cơ bản

I.2 Cấu trúc của ảnh tài liệu

Một khái niệm mấu chốt trong xử lý tài liệu đó là cấu trúc của tài liệu Cấu trúc tài liệu thu được từ việc liên tiếp chia nhỏ nội dung của tài liệu thành các phần nhỏ đơn vị (tức không thể phân chia được nữa) và chúng được gọi là các đối tượng cơ sở (basic objects) Còn tất cả các đối tượng khác được gọi là các đối tượng hỗn hợp

Trang 13

8 GVHD: PGS TS Ngô Quốc Tạo Có hai loại cấu trúc của tài liệu được quan tâm ở đây đó là cấu trúc vật lý (hay bố cục vật lý) và cấu trúc logic mô tả mối quan hệ logic giữa các vùng đối tượng trong tài liệu

I.2.1 Cấu trúc vật lý

Bố cục vật lý của một tài liệu mô tả vị trí và các đường danh giới giữa các vùng có nội dung khác nhau trong một trang tài liệu[6] Quá trình phân tích bố cục tài liệu là thực hiện việc tách từ một trang tài liệu ban đầu thành các vùng có nội dung cơ sở như hình ảnh nền, vùng văn bản,…

Để mô tả bố cục vật lý của tài liệu người ta sử dụng một cấu trúc hình học với mỗi đối tượng trong cấu trúc là một phần tử chỉ chứa nội dung đồng nhất Các kiểu đối tượng hình học được định nghĩa như sau[4]:

nội dụng của tài liệu

hoặc nhiều block hoặc bao gồm các frame

một vùng hình chữ nhật, nếu là đối tượng hỗn hợp nó chứa một hoặc nhiều block, một hoặc nhiều frame

 Page set (tập trang) là một tập của một hoặc nhiều page

đồ phân cấp của cấu trúc hình học tài liệu Hình 4(b) cho ví dụ một cấu trúc hình học mô tả bố cục vật lý của trang tài liệu tương ứng

Các thuật toán phân tích bố cục tài liệu có thể được chia làm ba loại chính dựa theo phương pháp thực hiện của nó

- Bottom-up: Ý tưởng chính của các thuật toán loại này là bắt đầu từ những phần tử nhỏ nhất (như từ các pixel hay các phần tử liên thông) sau đó liên tục nhóm chúng lại thành các vùng lớn hơn

- Top-down: Thuật toán này bắt đầu từ vùng lớn nhất chứa cả trang tài liệu sau đó liên tục phân chia thành các vùng nhỏ hơn

- Các thuật toán không theo thứ bậc: như Fractal Signature, Adaptive and-merge …

Trang 14

split-Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn

Hình 4: b-Cấu trúc vật lý: c,d-Cấu trúc logic của một tài liệu[4]

Trang 15

I.2.2 Cấu trúc logic

Ngoài bố cục vật lý, các trang tài liệu còn chứa đựng nhiều thông tin về ngữ cảnh và nội dung như các tiêu đề, đoạn văn, đề mục, …và mỗi vùng nội dung này lại được gán các nhãn logic hay nhãn theo chức năng tương ứng, khác biệt hoàn toàn với các nhãn trong bố cục vật lý Hầu hết các tài liệu đều có một quy tắc đọc để có thể hiểu hết nội dung của tài liệu Với một số ngôn ngữ đặc biệt như tiếng Trung, tiếng Ả rập lại có quy cách đọc khác biệt (như đọc từ phải qua trái, trên xuống) Tập hợp tất cả các yếu tố logic và chức năng trong một tài liệu và mối quan hệ giữa chúng được gọi là cấu trúc logic của tài liệu[6] Thông thường pha phân tích cấu trúc logic của tài liệu được thực hiện trên kết quả của bước phân tích bố cục vật lý Tuy nhiên với một số loại tài liệu phức tạp, thì pha phân tích bố cục vật lý lại cần thêm một số thông tin logic liên quan đến các vùng để có thể phân đoạn một cách chính xác Hình 4(c,d) mô tả một ví dụ cấu trúc logic của tài liệu

I.3 Quá trình phân tích tài liệu

Ảnh tài liệu chứa rất nhiều loại vùng thông tin khác nhau như các block, lines, words, figures, tables và background Ta có thể gọi các vùng này theo chức năng của nó trong tài liệu hoặc gán cho nó các nhãn logic như sentences, titles, captions, address,… Quá trình phân tích tài liệu là thực hiện việc tách một tài liệu thành các vùng theo một tiêu chuẩn hay mối quan hệ lẫn nhau nào đấy Công việc này được thực hiện qua nhiều bước như tiền xử lý, tách vùng, lặp cấu trúc tài liệu,…

Một số loại tài liệu như báo, tạp chí, sách quảng cáo, chúng có cấu trúc và bố cục rất phức tạp và không có một form chung nào cả (Hình 5) Với con người để có thể đọc hiểu được một trang tài liệu còn cần thêm nhiều kiến thức bổ sung như ngôn ngữ, hoàn cảnh, các luật ngầm định, vì thế việc tự động phân tích các trang tài liệu một cách tổng quát là một việc rất khó khăn thậm chí là không khả thi ngay cả với các hệ thống phân tích tài liệu tiên tiến nhất[6]

Hình 5: Ví dụ loại tài liệu có bố cục phức tap

Trang 16

11 GVHD: PGS TS Ngô Quốc Tạo Sơ đồ nguyên lý của một hệ thống tự động phân tích tài liệu như sau:

Hình 6: Sơ đồ nguyên lý hệ thống xử lý tài liệu[6] I.3.1 Tiền xử lý(preprocessing):

Hầu hết các ảnh tài liệu đều có nhiễu do quá trình thu nhận ảnh gây ra (môi trường, chất lượng máy quét), vì thế trong quá trình xây dựng các thuật toán phân tích cần loại bỏ các nhiễu này và công việc này thường được tiến hành trước khi bắt đầu phân tích bố cục hay cấu trúc và gọi là Tiền xử lý Nhiệm vụ chính của bước này là loại bỏ nhiễu, tách nền ra khỏi nội dung, phát hiện và xoay góc nghiêng,…

 Lọc nhiễu(noise removal):

Nhiễu luôn là một vấn đề trong hầu hết các bài toán đọc hiểu tài liệu Nhiễu sinh ra không chỉ do quá trình scan ảnh mà còn bao gồm cả các nhiễu trắng gây ra từ chính sensor hay các mạch thu nhận trong các máy thu nhận ảnh số Nhiễu có thể được loại bớt sử dụng một số các kỹ thuật như lọc trung bình, lọc trung vị, lọc thông thấp,…

 Tách nền (Background separation):

Đây là một vấn đề rất quan trọng ảnh hưởng trực tiếp đến hiệu quả của các thuật toán phân tích tài liệu Nếu đối với các loại tài liệu có nền đồng nhất màu trắng hoặc đen thì việc tách có thể thực hiện đơn giản bằng phép phân ngưỡng, tuy nhiên trong thực tế rất nhiều ảnh tài liệu có nền rất phức tạp như ảnh hay đồ họa (Hình 7) thì việc xác định các pixell nào thực sự thuộc về “phần nổi” là một công việc khó khăn

Ta có thể tách nền bằng một số kỹ thuật như sau:

- Gán mỗi điểm ảnh vào “phần nổi” hay phần nền dựa theo một tiêu chí nào đấy (như ngưỡng mức xám, …)

Trang 17

12 GVHD: PGS TS Ngô Quốc Tạo - Dựa theo độ đo xác suất xuất hiện của mỗi điểm ảnh mà phân lớp nó vào nền

Có nhiều kỹ thuật để có thể xác định được góc nghiêng của tài liệu, điểm chung trong hầu hết các thuật toán là xác định góc nghiêng bằng việc xác định hướng của các dòng văn bản dựa vào vị trí một số ký tự trong tài liệu

I.3.2 Phân tích cấu trúc vật lý

Phân tích tài liệu được định nghĩa là quá trình xác định cấu trúc vật lý của một tài liệu Trong khâu này thì từ một ảnh tài liệu đầu vào sẽ được chia thành một số khối (block) chứa các nội dung thành phần của tài liệu như các dòng văn bản, tiêu đề, đồ họa, cùng với có hoặc không các tri thức biết trước về định dạng của nó[6]

Có một số phương pháp phân tích và được phân ra làm hai loại như sau:

 Các phương thức có thứ bậc: Trong quá trình chia tài liệu thành các block chúng ta quan tâm đến mối quan hệ về mặt hình học giữa các block Có ba phương pháp thuộc loại này là:

o Phân tích top-down (trên xuống) o Phân tích buttom-up (dưới lên)

Trang 18

13 GVHD: PGS TS Ngô Quốc Tạo o Phân tích kiểu Adaptive split-and-merge (tách và nối thích nghi)

 Các phương pháp không có thứ bậc: Trong quá trình chia tài liệu thành các khối chúng ta không quan tâm đến mối quan hệ hình học giữa các block

Hình 8: Ví dụ một ảnh tài liệu bị nghiêng một góc 5 độ

I.3.3 Phân tích cấu trúc logic

Từ kết quả của pha phân tích cấu trúc vật lý, phân tích cấu trúc logic sẽ đi xác định mối quan hệ logic giữa các vùng đã được gắn nhãn như tiêu đề, văn bản, đề mục, hearder,… Bước này là cơ sở cho việc nhận dạng ký tự

- Việc xác định được vị trí chính xác của mỗi vùng trong cấu trúc logic sẽ tăng thêm thông tin cho quá trình nhận dạng như thông tin về ngữ cảnh, đoán nhận được kiểu font và kích thước chữ nếu biết nó thuộc vùng tiêu đề, đề mục hay trong đoạn văn,… (Hình 9)

Trang 19

I.4 Một số hệ thống phân tích tài liệu hiện nay I.4.1 VnDOCR

Vndocr phần mềm nhận dạng tiếng Việt là một sản phẩm của Viện công Nghệ thông tin VnDOCR thu thập thông tin nhờ quá trình quét các loại sách báo thông qua máy quét thành các tệp ảnh và chuyển đổi thành các tệp có định dạng *.doc, *.xls, *.txt, *.rtf, có thể đọc và chỉnh sửa được trên các phần mềm soạn thảo văn bản thông dụng như Office, Wordpad,… (Hình 10)

Môi trường

 PC với hệ điều hành Windows 9x, ME, 2000, XP, NT,… Tiện ích: Bộ gõ chữ Việt, bộ font ABC, VNI, Unicode,

Thông tin đưa vào

 Quét trực tiếp các loại sách báo, văn bản qua máy quét (Scanner)

 Đọc và xử lý hơn 30 dạng tệp tin ảnh phổ dụng nhất như PCX, BMP, TIF, GIF, JPG,

 Có thể nhận dạng trực tiếp tài liệu quét qua Scanner không cần lưu trữ dưới dạng tệp ảnh trung gian Các trang tài liệu có thể được quét và lưu trữ dưới dạng tệp tin nhiều

Trang 20

15 GVHD: PGS TS Ngô Quốc Tạo - Phân tích cấu trúc vật lý của tài liệu và đưa ra cấu trúc phần vùng

- Phân tích và nhận dạng chữ đầu ra là text có thể copy hay lưu trữ và soạn thảo lại được

Hình 10: VnDOCR và một ví dụ nhận dạng1

Một số hạn chế: Tính đến phiên bản 4.0

- VnDOCR chỉ làm việc với ảnh đen trắng

- Với các ảnh có cấu trúc vật lý phức tạp VnDOCR cho kết quả phân tích với hiệu quả chưa cao (Hinh 11, 12)

Trang 21

Trang 22

Thí nghiệm 2:

Với ảnh đầu vào có cấu trúc vật lý đơn giản hơn (các vùng cơ sở có bao là hình chữ nhật – Hình 13)

Hình 13: Mẫu ảnh có cấu trúc vật lý phức tạp, nhƣng các khối bao bởi hình chữ nhật

Kết quả phân tích bởi VnDOCR bỏ sót một vùng văn bản và gồm nhầm 2 vùng ảnh vào vùng văn bản số 1 (Hình 14)

Trang 23

Hình 14: Kết quả phân tích với ảnh 13 I.4.2 OminiPage

OmniPage là phần mềm nhận dạng văn bản của NUANCE Nó có thể chuyển đổi các file ảnh tài liệu hay file PDF sang dạng file văn bản có thể đọc đƣợc bởi các phần mềm soạn thảo nhƣ Office, với khả năng nhận dạng các ký tự la tinh chính xác tới 99% Một số đặc tính chính2:

- Nhận dạng chính xác tới 99% trên 119 ngôn ngữ khác nhau - Nhận dạng cả các file vào là PDF

- Nhận dạng đƣợc các trang có nhiều loại font, kiểu font hoặc có nền là ảnh mầu - Một số hạn chế chính:

- Chƣa hiệu quả với các ảnh tài liệu có cấu trúc phức tạp

Trang 24

Thí nghiệm 2: Với ảnh đầu vào 13, tương tự như VnDOCR OmniPage vẫn phân vùng

Trang 25

I.4.3 Finereader

Finereader là một sản phẩm ORC của ABBYY với một số tính năng chính sau3: - Cho phép kết nối và nhận dạng ảnh trực tiếp từ Camera

- Nhận dạng đƣợc 38 ngôn ngữ khác nhau - Nhận dạng cả text trong đồ họa

- Với 2 mẫu văn bản có cấu trúc phức tạp nhƣ trên thì Finereader đều cho hiệu quả cao, nói chung Fineread đều có hiệu quả cao với các tài liệu có bố cục phức tạp

Hình 17: Với ảnh 13 đạt hiệu quả 90%

Nguồn từ nhà sản xuất http://finereader.abbyy.com/full_feature_list

Trang 26

Hình 18 Với ảnh I-15 hiệu quả đạt 100%

Trang 27

Hình 19: Với mẫu phức tạp hơn Finereader cho kết quả 95%

Hạn chế chính của Finereader là tốc độ làm việc chậm so với 2 phần mềm kể trên

I.5 Kết luận

Từ những kết quả ở trên phạm vi đề tài ở đây sẽ chỉ tập trung vào việc phân tích cấu trúc vậy lý của một trang tài liệu(trình bày chi tiết ở chương 2) Để cải tiến hơn so với VNDocr đối tượng của đề tài sẽ là ảnh đa cấp xám có độ phức tạp cao

Trang 28

Chương II: CÁC PHƯƠNG PHÁP TIẾP CẬN ĐỂ PHÂN TÍCH TRANG TÀI LIỆU

Với phạm vi đặt ra ở chương một và phần mở đầu là đề tài sẽ tập trung vào giải pháp phân tích cấu trúc vật lý của trang tài liệu, chương 2 sẽ giới thiệu một số phương pháp phân tích hiện nay, từ đó đưa ra và đánh giá được ưu nhược điểm của mỗi phương pháp đó Sau đó sẽ tập trung phân tích kỹ một phương pháp mới chưa được trình bày ở các đề tài trước đó là Fractal Signature với những ưu điểm vượt trội của nó là hiệu quả cao với tài liệu phức tạp, không phân biệt góc nghiêng Đồng thời thiết kế hệ thống demo với giải pháp mới này

II.1 Các phương pháp phân tích định dạng trang tài liệu II.1.1 Top-down

a) Tổng quan

Ý tưởng chính của thuật toán là phân tách liên tiếp từ một trang ban đầu thành các vùng cơ sở nhỏ hơn Các khối cơ sở ở đây là các khối như đoạn văn, tiêu đề, đồ họa,… Việc phân tách chúng thành các vùng riêng biệt dựa trên tiêu chí về ngưỡng khoảng cách mà phương pháp phổ thông nhất là xác định thông qua kết quả của phép chiếu nghiêng  Phép chiếu nghiêng theo hướng x bất kỳ: Thực chất là đi xác định lược đồ xám bằng

cách tính tổng các điểm ảnh màu đen (hoặc trắng) theo phương vuông góc với x dọc theo trục x Trong thực tế x thường là phương nằm ngang hay phương thẳng đứng so với trang văn bản

Một ví dụ về phép chiếu nghiêng với một trang tài liệu cho ở Hình-20:

Trên lược đồ xám của phép chiếu nghiêng sẽ xuất hiện các điểm cực trị, với phép chiếu nghiêng theo phương thẳng đứng ta dễ nhận thấy độ rộng của các đáy chính là khoảng cách giữa hai dòng, với các độ rộng của đáy nào đó mà tần suất xuất hiện ít hoặc vượt quá một ngưỡng chính là khoảng các giữa hai vùng văn bản Còn tại vị trí các đỉnh là trục của mỗi dòng văn bản

Với phép chiếu nghiêng theo phương ngang ta có thể phân tách được các cột hay các vùng cơ sở dựa vào ngưỡng khoảng cách của đáy (Hình-20) Cũng theo nguyên tắc này nếu áp dụng phe chiếu nghiêng trên mỗi dòng văn bản ta cũng có thể phân đoạn được các ký tự hoặc các từ dựa vào khoảng cách của đáy (ví dụ như Hình-21)

Trang 29

Hình 20: Kết quả chiếu nghiêng theo phương ngang và phương thẳng đứng của một trang tài liệu4

(Anoop M Namboodiri and Anil K Jain)

Trang 30

Hình 21: Phân tách cột dựa vào phép chiếu nghiêng theo phương ngang5

Serban Iliescu PATTERN RECOGNITION lecture Concordia University, Montreal, Canada (p 8)

Trang 31

b) Hạn chế:

Phân tích top-down tồn tại nhiều hạn chế như:

- Kém hiệu quả với các loại tài liệu có bố cục phức tạp (hình 25) - Cần xoay ảnh về đúng vị trí ngang nếu ảnh bị nghiêng (hình 23, 24) - Làm việc tốt chỉ với ảnh nhị phân

- Kém hiệu quả với các trang tài liệu sử dụng nhiều loại font và size khác nhau - Thông thường top-down được sử dụng cho các loại tài liệu biết trước form bố

cục, và có bố cục vật lý đơn giản

Hình 22: Phép chiếu nghiêng theo phương ngang để phân đoạn ký tự hoặc từ

Trang 32

Hình 23: Lƣợc đồ chiếu ngang của một dòng chữ nghiêng - rất khó phân đoạn ký tự

Trang 33

Hình 24: Lƣợc đồ chiếu đứng của trang tài liệu bị nghiêng

Trang 34

Hình 25: Lƣợc đồ chiếu đứng của một bài báo

Trang 35

II.1.2 Bottom-up a) Tổng quan

Bottom-up bắt đầu với những phần nhỏ và tìm cách nhóm chúng vào những phần lớn hơn, liên tiếp tới khi mọi khối trên trang được xác định Trong phạm vi luận văn này, chỉ giới thiệu một số cách tiếp cận được coi là bottom-up nhưng sử dụng những phương pháp trực tiếp rất khác nhau nhằm đạt cùng mục đích

1 Xác định góc nghiêng  thông qua phép biến đổi Hough

2 Xác định khoảng cách giữa các dòng thông qua việc xác định khoảng cách giữa các đỉnh của phép chiếu nghiêng  cố định bằng góc nghiêng tìm được 3 Làm trơn theo loạt (run-length-smothing), sau đó thực hiện tách các từ hoặc ký

tự dựa vào việc xác định các khoảng trắng trong dòng thông qua việc tìm đỉnh trên biểu đồ chiếu nghiêng và các độ dài vùng đen (các từ)

4 Thực hiện phép nhóm bottom-up các phần văn bản nhờ một loạt thao tác làm trơn theo loạt, theo các hướng Kết quả thu được là các vùng ON và ta phân tích các vùng liên thông trên đó Tính toán một vài số liệu trên những vùng liên thông này, ví dụ khoảng chiều cao và chiều dài các từ Những thông tin đặc trưng này được dùng để phân biệt các khối văn bản và phân biệt phần văn bản và phần đồ họa Esposito6

đã dùng cách tiếp cận tương tự, nhưng trước hết xác định hợp biên của từng ký tự, sau đó thao tác trên hợp biên này, thay vì trên từng pixel nhằm giảm lượng tính toán

các ký tự và các dòng văn bản và các khối cấu trúc (Hình 26)

- Trước tiên, với mỗi phần tài liệu, xác định các đường nối k lân cận gần nhất với các phần xung quanh Khoảng cách và góc của các đường nối này được vẽ trên các biểu đồ Vì hầu hết các đường nối được tạo giữa các ký tự cùng dòng, góc tối đa sẽ chỉ ra góc nghiêng và khoảng cách tối đa sẽ là khoảng cách giữa các ký tự Sử dụng các ước lượng này, các dòng văn bản được xác định như

Floriana Esposito, Dipartimento di Informatica, Università degli Studi di Bari, Italy

Trang 36

31 GVHD: PGS TS Ngô Quốc Tạo nhóm các ký tự và các từ dọc theo hướng của trang Các dòng văn bản được nhóm thành các khối-sử dụng đặc tính của tài liệu là các dòng cùng khối thường gần nhau hơn các dòng khác khối

b) Hạn chế

Phương pháp phân tích Bottom-Up cũng tồn tại nhiều hạn chế như sau:

- Cần phải phân đoạn để xác định các thành phần cơ sở trước khi có thể nhóm lại

Hình 26: Phương pháp Dostrum cho phân tích định dạng trang từ dưới lên (a) Một phần của nội dung văn bản gốc (b) Các thành phần lân cận gần nhất được xác định (c) Các hình chữ nhật tối thiểu tạo nên nhóm láng giềng gần nhất từ đó xác định được dòng văn bản

Trang 37

32 GVHD: PGS TS Ngô Quốc Tạo - Tốc độ thực hiện chậm và phụ thuộc vào số thành phần trong trang tài liệu - Cũng như Top-Down hiệu quả phục thuộc trực tiếp vào việc xác định được

góc nghiêng của tài liệu, vì khoảng cách dòng và từ chỉ xác định chính xác được nếu góc nhiêng của tài liệu ≈00

- Kém hiệu quả với những trang tài liệu có cấu trúc phức tạp (nhiều bảng, tỷ lệ đồ họa lớn hơn văn bản)

- Kém hiệu quả với loại trang tài liệu có nhiều loại Font chữ (chứa nhiều size chữ khác nhau), vì với các trang chứa nhiều font có size khác nhau hoặc loại font chữ nghiêng đặc biêt với chữ viết tay thì chương trình rất khó có thể tính được chiều cao chữ hay độ rộng giữa hai dòng thông qua biểu đồ chiếu nghiêng

II.1.3 Phương pháp Tách và Nối thích nghi (Adaptive Split – and – Merge) a) Tổng quan

Phương pháp phân tích Adaptive Split – and – Merge được Lui, Tang và Suen thiết kế với ý tưởng chính từ một trang tài liệu ban đầu và coi đó như một vùng chưa đồng nhất, từ đó liên tiếp chia mỗi vùng thành các vùng nhỏ hơn, tại mỗi bước chia thực hiện nối các vùng đồng nhất và chia tiếp các vùng không đồng nhất

Để có thể mô tả được thuật toán một cấu trúc cây tứ phân phân lớp được sử dụng để biểu diễn quá trình tách và nối của thuật toán Trong đó nút ở đỉnh tương ứng với trang tài liệu ban đầu và là gọi là lớp cao nhất, các nút con tiếp theo là các vùng con tương ứng với lớp thứ k của bước chia thứ k các vùng không đồng nhất (mô tả ở hình)  Các bước của thuật toán[7]:

 B1: Tại lớp thứ K nếu tìm thấy một vùng không đồng nhất thì tiến hành chia vùng đó thành 4 vùng nhỏ hơn

 B2: Nếu thấy ít nhất 2 vùng trong 4 vùng vừa tách là đồng nhất thì tiến hành nối chúng lại, còn các vùng không đồng nhất ta qua lại B1 và tách chúng thành các vùng ở lớp thứ K+1

Trang 38

33 GVHD: PGS TS Ngô Quốc Tạo  Tiêu chuẩn xác định vùng đồng nhất để nối ghép[7]

Hai vùng tương ứng rm và rn được coi là đồng nhất nếu chúng thảo mãn điều kiện sau:

Hình 27: Mô tả thuật toán Tách và Nối thích nghi

Trang 39

34 GVHD: PGS TS Ngô Quốc Tạo Trong đó: Nm và Nn biểu thị số vùng con trong mỗi vùng tương ứng rm và rn và

biểu thị giá trị trung bình của mỗi vùng tương ứng rm và rn

b) Ưu điểm

- Có thể áp dụng với các loại trang tài liệu có cấu trúc phức tạp vì thuật toán này không quan tâm đến việc phân đoạn các thành phần cơ sở, mà chỉ chia trang tài liệu thành các vùng hình chữ nhật và xem xét giá trị trung bình của nó Như vậy các trang tài liệu có thể bỏ qua khâu xác định và hiệu chỉnh độ nghiêng - Có thể áp dụng cho các loại trang tài liệu có nhiều loại font chữ khác nhau - Tốc độ thực hiện nhanh hơn so với Top-down và Bottom-up

c) Hạn chế

- Hiệu quả của thuật toán phụ thuộc vào giá trị trung bình của vùng được xét, trong một số tình huống thì giá trị trung bình của vùng văn bản và vùng đồ họa là như nhau Cho nên thuật toán này vẫn có thể phân đoạn nhầm

- Không có một giá trị hằng số τ cho mọi trang tài liệu vì thế việc xác định giá τ là một vấn đền khó

II.1.4 Fractal Signature (FS) a) Tổng quan

Ý tưởng chính của thuật toán chia trang tài liệu A thành các vùng có kích thước bằng nhau Bk (k=1, ,n) sao cho Bk Є A Sau đó tính FS cho mỗi vùng này, theo lý thuyết FS thì nếu có 3 vùng B1(giả thiết là vùng nền), B2(giả thiết là vùng chữ), B3(giả thiết là vùng đồ họa) thì luôn có FS(B1)<FS(B2)<FS(B3)

Quá trình thực hiện thuật toán có thể được mô tả như sau:

Trang 40

 Cơ sở toán học tính Fractal Signature[1]

Cho F{Xi,j}, với i=0,1,…,K và j=0,1,…,L là một ảnh tài liệu đa cấp xám, trong đó Xi,j là giá trị cấp xám của điểm ảnh thứ (i,j) Trong một dải đo nào đấy thì bề mặt tạo bởi các độ xám của các điểm ảnh có thể xem như một phần tử hình học (Fractal) Vùng bề mặt này có thể được dùng để xác định gần đúng hướng hình học của nó (Fractal dimension) Cho một đơn vị đo , khi đó thể tích của một vùng A( ) có thể được tính xấp xỉ như sau:

B3: Phân đoạn dựa vào FS

Hình 28: Mô tả thuật toán FS

Định dạng
Số trang	105
Dung lượng	3,1 MB