Proceedings VCM 2012 113 cải tiến cấu trúc trọng số và hàm khoảng cách của

828 Lê Anh Tú, Nguyễn Quang Hoan, Lê Sơn Thái VCM2012 Cải tiến cấu trúc trọng số và hàm khoảng cách của mạng noron SOM áp dụng cho bài toán nhận dạng ký tự Improving weight structure and distance function of SOM neural network applied for character recognition Lê Anh Tú 1 , Nguyễn Quang Hoan 2 , Lê Sơn Thái 1 1 Trường ĐH Công nghệ thông tin và truyền thông – ĐH Thái Nguyên 2 Học viện Công nghệ Bưu chính Viễn thông Email: anhtucntt@gmail.com, quanghoanptit@yahoo.com.vn, lesonthai@gmail.com Tóm tắt Khi áp dụng mạng noron SOM cho bài toán nhận dạng nói chung và nhận dạng ký tự nói riêng, chúng tôi nhận thấy mạng noron SOM có nhiều triển vọng trong vấn đề này. Tuy nhiên, với mỗi dạng dữ liệu vào thì vector trọng số và hàm khoảng cách đánh giá độ phi tương tự của dữ liệu cần được thiết kế phù hợp để mạng hoạt động hiệu quả hơn. Trong bài báo này chúng tôi đề xuất một cấu trúc trọng số mới của mạng noron SOM để biểu diễn các đặc trưng hình dạng của đối tượng, đồng thời xây dựng một hàm khoảng cách để đo độ phi tương tượng giữa các đặc trưng dữ liệu và áp dụng cho bài toán nhận dạng ký tự. Kết quả thử nghiệm chỉ ra rằng mạng noron SOM có khả năng nhận dạng tốt hơn khi áp dụng giải pháp cải tiến. Abstract When applying the SOM neural network for the identification problem in general, and character recognition problem in particular, we found that SOM neural network offers prospects of this problem. However, for each type of input data, weight structure and function that assess the dissimilarity should be adapted to make the network operate more efficiently. In this paper, we propose a new weighting structure for SOM neural network to present the shape characteristics of the object. Then developing a new distance function that is used to assess the non-similarity of the characteristics and applications for character recognition problem. The experimental results show that improved solution make the SOM neural network capable of better character recognition. Ký hiệu Ký hi ệu Đơn v ị Ý ngh ĩa dist Hàm đo đ ộ phi t ương t ự   t s Hàm xác đ ịnh bán kính lân cận tại thời điểm t  0 Bán kính lân c ận khởi tạo   t a Hàm n ội suy tốc độ học  0 Giá tr ị khởi tạo của t ốc độ học h bi (t) Hàm n ội suy theo thời gian học d black Hàm kho ảng cách theo đặc trưng điểm đen d white Hàm kho ảng cách theo đặc trưng điểm trắng Chữ viết tắt SOM Self – Organizing Map BMU Best Matching Unit 1. Giới thiệu Trong những năm gần đây, lĩnh vực nhận dạng đối tượng sử dụng mạng noron nhân tạo là một hướng nghiên cứu được nhiều người quan tâm [1,2,4,5]. Tùy từng kiểu đối tượng cần nhận dạng và mô hình mạng noron được áp dụng mà có các giải pháp khác nhau đã được đưa ra. Trong phạm vi nghiên cứu của bài báo này, chúng tôi tập trung vào vấn đề nhận dạng đối tượng dựa trên các đặc trưng hình dạng sử dụng mạng noron nhân tạo SOM [7]. Với mỗi ảnh huấn luyện đầu vào, trích ra các điểm đặc trưng mô tả đối tượng và sử dụng các thông tin này để huấn luyện mạng noron SOM. Giải pháp này có thể áp dụng cho các bài toán nhận dạng kí tự, chữ ký, biển số xe… Hình 1 minh họa quy trình nhận dạng ký tự sử dụng mạng noron nhân tạo SOM. Tuyển tập công trình Hội nghị Cơ điện tử toàn quốc lần thứ 6 829 Mã bài: 176 H. 1 Quy trình nhận dạng ký tự sử dụng mạng noron nhận tạo Trong cả hai giai đoạn của quy trình trên đều thực hiện tiền xử lý ảnh đầu vào để giảm nhiễu. Tuy nhiên, chỉ có giai đoạn 1 phải trích chọn đặc trưng của ký tự sau bước tiền xử lý. Còn giai đoạn 2, ảnh sau khi tiền xử lý sẽ được đưa trực tiếp vào mạng để đối sánh. Hiện tại có nhiều giải pháp trích chọn đặc trưng có thể áp dụng cho tập dữ liệu ký tự như [3]: phương pháp trọng số vùng (zoning), biểu đồ chiếu (projection histograms), trích chọn chu tuyến (contour profiles), wavelet Haar[6]… mỗi phương pháp đều có những ưu, nhược điểm riêng. Thực tế, khi áp dụng mạng noron SOM cho bài toán nhận dạng kí tự, chúng tôi thấy độ chính xác của kết quả nhận dạng phụ thuộc nhiều vào phương pháp trích chọn đặc trưng và hàm đánh giá độ phi tương tự của SOM (hàm khoảng cách). Hàm khoảng cách này cần được xây dựng phù hợp với từng dạng dữ liệu và đặc trưng cụ thể. Trong phạm vi của bài báo này không đề cập đến việc xử lý nhiễu nền, kí tự dính nhau. Chúng tôi đã chia ảnh thành nhiều vùng tương tự phương pháp trọng số vùng (chia ảnh thành lưới kích thước m x n, mỗi ô lưới là một đầu vào của mạng với giá trị là số điểm đen trong ô lưới đó)[3] và xác định đặc trưng hình dạng của đối tượng dựa vào vị trí các điểm đen đặc trưng và vị trí các điểm trắng đặc trưng. Trong đó, điểm đen (đặc trưng điểm đen) mô tả đường nét của đối tượng, chỉ ra những vị trí bắt buộc phải có nét vẽ; ngược lại, điểm trắng (đặc trưng điểm trắng) mô tả các vị trí không có đường nét (không được phép có nét vẽ). Những đặc trưng này là cơ sở để chúng tôi thiết kế cấu trúc trọng số cho mạng noron SOM, từ đó xây dựng một hàm khoảng cách mới phù hợp với cách lựa chọn các đặc trưng này. Các phần tiếp theo của bài báo sẽ trình bày chi tiết hơn, trong đó: phần 2 trình bày giải thuật SOM, phần 3 mô tả cấu trúc trọng số mới sử dụng đặc trưng điểm đen và đặc trưng điểm trắng, phần 4 đưa ra công thức xác định độ phi tương tự giữa trọng số của noron và ảnh đầu vào, phần 5 trình bày kết quả thực nghiệm và cuối cùng là kết luận. 2. Mạng noron nhân tạo SOM Mạng noron SOM gồm lớp tín hiệu vào và lớp ra Kohonen. Lớp Kohonen thường được tổ chức dưới dạng một ma trận 2 chiều các noron. Mỗi đơn vị i (noron) trong lớp Kohonen được gắn một vector trọng số w i = [w i1 , w i2 , …,w in ], với n là kích thước vector đầu vào (Hình 2); w ij là trọng số của noron i ứng với đầu vào j). Quá trình huấn luyện mạng được lặp nhiều lần, tại lần lặp thứ t thực hiện 3 bước:  Bước 1- tìm BMU: chọn ngẫu nhiên một đầu vào v từ tập dữ liệu, duyệt ma trận Kohonen tìm noron b có hàm khoảng cách dist nhỏ nhất (thường dùng hàm Euclidian, Manhattan hay Vector Dot Product). Noron b được gọi là Best Matching Unit (BMU).   is || w || min || || b i i d t v v m     (1)  Bước 2- xác định bán kính lân cận của BMU:   0 exp t ts s l           là hàm nội suy bán kính (giảm dần theo số lần lặp), với  0 là bán kính khởi tạo; hằng số thời gian   0 log K l s  , với K là tổng số lần lặp.  Bước 3- cập nhật lại trọng số của các noron trong bán kính lân cận của BMU theo hướng gần hơn với vector đầu vào v:           w 1 w w i i bi i t t t h t v t a           (2) Trong đó:   0 exp t ta a l           là hàm nội suy tốc độ học, với  0 là giá trị khởi tạo của tốc độ học; h bi (t) là hàm nội suy theo thời gian học, thể hiện sự tác động của khoảng cách đối với quá trình học, được Hu ấn luyện mạng noron SOM M ạng noron SOM đã được huấn luyện T ập ảnh kí tự huấn luyện T ập ảnh kí tự cần nhận dạng M ạng noron SOM đã được huấn luyện K ết quả nhận dạng Ti ền xử lý Phase 1 Phase 2 Trích ch ọn đặc trưng Ti ền xử lý w i1 w i 2 w i n n o ron i y x 1 x 2 x n H. 2 Noron i trong lớp Kohonen 830 Lê Anh Tú, Nguyễn Quang Hoan, Lê Sơn Thái VCM2012 H. 6 Minh h ọa lực kéo của các điểm khung với đối tượng tính theo công thức     2 2 || || exp 2 b i bi r r h t t s              trong đó r b và r i là vị trí của noron b và noron i trong ma trận Kohonen. 3. Cấu trúc trọng số dựa trên đặc trưng điểm đen và đặc trưng điểm trắng Ảnh ký tự gốc ban đầu được lọc xương, xén tỉa các mép thừa và biến đổi về dạng ảnh nhị phân có kích thước u x v pixels (điểm đen có giá trị 1, điểm trắng có giá trị 0), với u và v chia hết cho k (k là kích thước đơn vị của lưới lấy mẫu). Mỗi ô của lưới lấy mẫu có kích thước k x k. Hình 3 minh họa ảnh nhị phân kích thước 20x16 và kích thước đơn vị của lưới lấy mẫu k=4, tức là kích thước lưới lấy mẫu là 5x4 ô, mỗi ô có kích thước 4x4 pixels. Việc trích chọn đặc trưng sẽ được thực hiện 2 lần trên mỗi ô của lưới lấy mẫu. Lần 1, lấy đặc trưng điểm đen (m b , x b , y b ), trong đó m b là số pixels có giá trị 1 (điểm màu đen) và x b , y b là tọa độ trung tâm của tất cả các điểm màu đen. Lần 2, lấy đặc trưng điểm trắng (m w , x w , y w ), trong m w là số pixels có giá trị 0 và x w , y w là tọa độ trung tâm của tất cả các điểm màu trắng. Lý do chúng tôi sử dụng thêm đặc trưng điểm trắng là do các đặc trưng điểm đen không hoàn toàn phân biệt được các mẫu ký tự có hình dạng bao nhau (tập nét vẽ của ký tự này bao tập nét vẽ của ký tự khác). Tức là nếu xóa đi một vài nét của ký tự ban đầu thì ta sẽ có một ký tự mới (Hình 4). Ký tự ban đầu Ký tự mới sau khi xóa đi một vài nét của ký tự ban đầu H. 4 Ví dụ một số ký tự có hình dạng bao nhau Mỗi ký tự sẽ trích chọn được s=(u/k)x(v/k) đặc trưng điểm đen và s đặc trưng điểm trắng. Ví dụ, ô lưới được đánh dấu trong Hình 3 có đặc trưng điểm đen là (4, 2.5, 7) và đặc trưng điểm trắng là (12, 2.5, 6.3). Mạng noron SOM được thiết kế gồm 2s đầu vào, s đầu vào đầu tiên tương ứng với các đặc trưng điểm đen, s đầu vào tiếp theo tương ứng với các đặc trưng điểm trắng. Hình 5 minh họa kiến trúc của một noron i. Như vậy, mỗi noron i trong lớp Kohonen được gắn một vector trọng số w i = [w i1 , w i2 , …,w is , w is+1 , w is+2 , …, w i2s ], trong đó cấu trúc của một đầu vào x j và trọng số w ij (với j=1 2s) gồm 3 thành phần đặc trưng m, x và y. Như vậy trong quá trình tính toán của mạng SOM, công thức (2) sẽ được áp dụng để điều chỉnh cho cả 3 tham số này. 4. Hàm đánh giá độ phi tương tự giữa trọng số của noron và ảnh đầu vào Hàm đánh giá độ phi tương tự theo công thức (1) được điều chỉnh lại để phù hợp với cấu trúc trọng số đã trình bày ở trên, với dist = min{d black +d white }. Trong đó, d black là hàm đánh giá sự khác biệt dựa trên đặc trưng điểm đen, d white là hàm đánh giá sự khác biệt dựa trên đặc trưng điểm trắng. Hàm d black được tính dựa trên ý tưởng coi mỗi điểm đen đặc trưng như là các điểm khung của đối tượng. Do đó khi áp một đối tượng (ký tự) lên khung này để so sánh, thì mỗi điểm trên khung (điểm đen) sẽ cần một lực kéo nhất định để giữ w i 2 w i s n o ron i y x 1 x 2 x s w i 2s x s+1 x s+2 x 2s w i1 w i s+ 1 w i s+2 H . 5 Noron i v ới vector trọng số theo đ ặc trưng điểm đen và trắng H. 3 Minh h ọa chia l ư ới lấy mẫu tr ên ảnh ký tự nhị phân Tuyển tập công trình Hội nghị Cơ điện tử toàn quốc lần thứ 6 831 Mã bài: 176 H. 7 Minh h ọa lực đẩy của các điểm trắng đặc trưng được đối tượng (Hình 6). Lực kéo tại một điểm trên khung tỉ lệ thuận với khoảng cách từ điểm đó tới điểm đen gần nhất trên đối tượng và số lượng pixels tại điểm khung đó. Tổng lực kéo này càng nhỏ thì độ tương tự giữa khung và đối tượng càng lớn (đối tượng giống với khung), ngược lại lực kéo lớn thì độ phi tương tự lớn (đối tượng không giống khung). Công thức d black được xác định như sau: 1 * s black bi bi i d m r    , trong đó: m bi là số pixels có giá trị 1 tại điểm khung thứ i; r bi là khoảng cách từ điểm khung thứ i đến điểm đen gần nhất trên đối tượng. Ngược với các điểm đen đặc trưng (được coi là các điểm kéo), các điểm trắng đặc trưng được coi là các điểm đẩy (Hình 7). Các điểm này sẽ góp phần đẩy hình dạng của đối tượng đến gần các điểm khung hơn. Như vậy, nếu cần càng nhiều lực đẩy thì độ phi tương tự càng lớn, ngược lại lực đẩy nhỏ thì độ tương tự cao. Điều này có nghĩa là nếu đối tượng có càng nhiều nét vẽ vi phạm các vị trí “cấm vẽ” thì độ phi tương tự càng tăng. Về nguyên tắc, lực đẩy sẽ tỉ lệ nghịch với khoảng cách từ điểm trắng đặc trưng tới điểm đen gần nhất trên đối tượng. Công thức d white được xác định như sau: w w 1 w s i hite i i m d r    , trong đó: m wi là số pixels có giá trị 0 của đặc trưng điểm trắng thứ i; r wi là khoảng cách từ điểm trắng đặc trưng thứ i tới điểm đen gần nhất trên đối tượng. Như vậy, hàm đánh gia độ phi tương tự được viết lại như sau: w 1 1 w is min * s s i bi bi i i i m d t m r r                     (3) 5. Kết quả thử nghiệm Chúng tôi đã cài đặt thử nghiệm đồng thời cả hai giải pháp: giải pháp gốc (trích chọn đặc trưng theo phương pháp trọng số vùng, với hàm khoảng cách Euclidian) và giải pháp trích trọn cải tiến (đoạn 3) với hàm đánh giá độ phi tương tự theo công thức (3). Kết quả thử nghiệm dưới đây được áp dụng đối với 26 mẫu kí tự quang in hoa và một số ký tự viết tay. Trong tất cả các trường hợp thử nghiệm, giải pháp cải tiến đều cho kết quả nhận dạng chính xác hơn, đặc biệt với các mẫu ký tự quang kết quả nhận dạng đều chính xác. Với các mẫu ký tự viết tay tuy không hoàn toàn chính xác, nhưng ít sai hơn so với giải pháp gốc. Ảnh đầu v ào Gi ải pháp g ốc Gi ải pháp c ải tiến K ết quả T ỉ lệ đúng K ết quả T ỉ lệ đúng A B C D E F G H I J K L M N O F Q R S T U V K X Z W 100% A B C D E F G H I J K L M N O F Q R S T U V K X Z W 100% A B C D E F G H I J K L M N O F Q P S T U V Y X Z W 92.3% A B C D E F G H I J K L M N O P Q R S T U V Y X Z W 100% A B C O E F B H I J K L M N O P M R S T U V H X Z M 76.9% A B C D E F G H I J K L M N O F Q R S T U V Y X Z W 100% A B C O E P P K 50% A B C D E F G H 100% D C F K F D 33.3% B C F I P D 83.3% N H A N O A R P K C K U 50% N H A N D A N G K I T U 100% H. 8 Kết quả thử nghiệm nhận dạng kí tự Tuyển tập công trình Hội nghị Cơ điện tử toàn quốc lần thứ 6 832 Mã bài: 176 Ảnh mẫu đầu tiên, các mẫu kí tự quang in hoa tương đối mảnh (nét mảnh), cả hai giải pháp đều cho kết quả nhận dạng chính xác. Nhưng ở ảnh mẫu thứ hai và thứ ba các mẫu ký tự quang in hoa đậm hơn (nét dày hơn) thì giải pháp chuẩn có một số kí tự bị nhận dạng sai, trong khi giải pháp cải tiến vẫn có kết quả nhận dạng chính xác. Nguyên nhân là do ảnh đầu vào được lọc xương, nên khi các kí tự có nét càng dày thì xương của ký tự càng có xu thế bị biến dạng hơn. Điều này cho thấy giải pháp cải tiến đánh giá đặc trưng của ký tự chính xác hơn (ít nhạy hơn khi có các biến dạng). Tương tự với 3 ảnh mẫu cuối, ngoài mức độ dày, mảnh của kí tự thì đây là các mẫu kí tự viết tay nên có nhiều biến dạng so với kí tự gốc. Giải pháp cải tiển vẫn có kết quả nhận dạng khả thi hơn giải pháp chuẩn. Nguyên nhân cơ bản của việc giải pháp gốc cho kết quả nhận dạng không chính xác trong nhiều trường hợp là do áp dụng hàm Euclidan để đo độ phi tương tự giữa các trọng số. Về bản chất hàm Euclidan chỉ thực hiện việc so khớp hai tập đặc trưng nên tương đối nhạy cảm với các trường hợp biến dạng, dư thừa nét (ví dụ chữ có chân và không có chân). 6. Kết luận Tuy mạng noron SOM có nhiều triển vọng trong các bài toán phân cụm dữ liệu và nhận dạng, nhưng tính khả thi thực sự phụ thuộc rất nhiều vào đặc trưng của dữ liệu và hàm đánh giá độ phi tương tự của đặc trưng. Bài báo đã đề xuất một cấu trúc trọng số mới phù hợp với cách trích trọn đặc trưng của đối tượng và đưa ra một hàm đánh giá độ phi tương tự của các đặc trưng này, góp phần nâng cao khả năng nhận dạng của noron SOM. Giải pháp đề xuất có thể áp dụng cho các bài toán nhận dạng kí tự, chữ ký, biển số xe… Mặc dù kết quả thử nghiệm của giải pháp đề xuất với một số mẫu ký tự đơn giản có khả quan, nhưng để đánh giá tính khả thi thực sự của giải pháp cần tiếp tục thử nghiệm với các bộ test lớn hơn (ví dụ như MNIST). Trên các bộ test lớn thì thời gian tính toán cũng là một vấn đề cần xem xét, do cách thức tổ chức trọng số và việc đối sánh trọng số của noron với ảnh đầu vào tương đối phức tạp. Về mặt chất lượng nhận dạng, thì giải pháp đã đề xuất có thể tiếp tục cải tiến. Chẳng hạn, ở giai đoạn tiền xử lý có thể tăng cường đặc trưng điểm giao của các nét trong mỗi kí tự. Tức là giá trị pixel tại các điểm giao giữa các nét không phải là 1, mà có thể là tổng của tất cả các pixels có giá trị 1 quanh nó. Việc tăng cường này có thể làm tăng độ chính xác của hàm đánh giá độ phi tương tự căn cứ vào đặc trưng điểm giao. Tài liệu tham khảo [1] Dong Xiao Ni, “Application of Neural Networks to Character Recognition”, Proceedings of Students/Faculty Research Day, CSIS, Pace University, May 4th, 2007. [2] Prof. M.S.Kumbhar, Y.Y.Chandrachud, “Handwritten marathi character recognition using neural network”, International Journal of Emerging Technology and Advanced Engineering, Vol 2, Issue 9, 9-2012. [3] Phạm Anh Phương, “Một số phương pháp trích chọn đặc trưng hiệu quả cho bài toán nhận dạng chữ viết tay rời rạc”, Tạp chí khoa học – Đại học Huế, số 53, 2009. [4] C .M. Bishop, “Neural networks for pattern recognition”, Oxford University Press , USA, 1995. [5] Jelmer de Vries, “Object Recognition: A Shape- Based Approach using Artificial Neural Networks”, University of Utrecht. [6] Viola, P., Jones, M., “Rapid object detection using a boosted cascade of simple features”, Proc. Intl. Conf. on Computer Vision and Pattern Recognition (CVPR), Vol 1, p511– 518, 2001. [7] Teuvo Kohonen, “Self-Organizing Maps”, Springer, 3rd Edition, 2001. Nguyễn Quang Hoan nhận bằng Kỹ sư Tự động điều khiển- Kỹ nghệ Máy tính tại Trường Đại học Đường sắt Mockơva (Liên xô cũ) năm 1973, học vị Tiến sỹ tại Viện Công nghệ Thông tin, Viện Khoa học, Công nghệ Việt Nam (Viện Hàn lâm Khoa Học: theo tên ngoại giao) năm 1997, học hàm PGS năm 2002. PGS Nguyễn Quang Hoan làm nghiên cứu viên tại Viện Công nghệ Thông tin Viện (Viện Hàn lâm: theo tên ngoại giao) Khoa học, Công nghệ Việt Nam 24 năm (1974-1998); giảng viên 12 năm (1998-2010), trưởng khoa Công nghệ Thông tin và giữ một vài vị trí khác tại Học viện Công nghệ Bưu chính Viễn thông. Ông quan tâm về điều khiển, tin học sử dụng các phương pháp tiên tiến, đặc biệt Nơron và các hệ lai với Nơron. PGS đang là Giảng viên, Chủ tịch Hội đồng Khoa học Đào tạo ngành CNTT tại Trường Đại học Sư phạm Kỹ thuật Hưng yên; người tư vấn (giữ một vài vị trí) về nghiên cứu khoa học, đào tạo và các dự án đầu tư liên quan ở một số đơn vị khác. Tuyển tập công trình Hội nghị Cơ điện tử toàn quốc lần thứ 6 833 Mã bài: 176 Lê Anh Tú sinh năm 1980, thạc sĩ Công nghệ thông tin. Hiện đang làm nghiên cứu sinh tại Viện Công nghệ thông tin – Viện Khoa học Việt Nam. Giảng viên Bộ môn Truyền thông đa phương tiện - Trường Đại học Công nghệ thông tin và truyền thông – Đại học Thái Nguyên. Hướng nghiên cứu chính về mạng không dây di động và mạng noron nhân tạo. Lê Sơn Thái sinh năm 1988, Tốt nghiệp đại học chính quy ngành Công nghệ thông tin, Đại học CNTT & TT – ĐH Thái Nguyên. Đạt giải 3 kỳ thi Olympic tin học sinh viên toàn quốc và ACM- ICPC khu vực Châu Á năm 2007. Hiện đang là giảng viên Bộ môn Truyền thông đa phương tiện – Trường Đại học Công nghệ thông tin và truyền thông – Đại học Thái Nguyên. Lĩnh vưc nghiên cứu chính về lập trình điều khiển mô hình 3D. . 828 Lê Anh Tú, Nguyễn Quang Hoan, Lê Sơn Thái VCM2 012 Cải tiến cấu trúc trọng số và hàm khoảng cách của mạng noron SOM áp dụng cho bài toán nhận dạng ký tự Improving. tôi thấy độ chính xác của kết quả nhận dạng phụ thuộc nhiều vào phương pháp trích chọn đặc trưng và hàm đánh giá độ phi tương tự của SOM (hàm khoảng cách) . Hàm khoảng cách này cần được xây. này. 4. Hàm đánh giá độ phi tương tự giữa trọng số của noron và ảnh đầu vào Hàm đánh giá độ phi tương tự theo công thức (1) được điều chỉnh lại để phù hợp với cấu trúc trọng số đã trình