2.3.2.1. Chuẩn hóa đầu vào
Mạng Kohonen yêu cầu đầu vào được chuẩn hóa. Dữ liệu đầu vào nên có giá trị nằm trong khoảng -1 đến 1. Nếu 1 hoặc nhiều hơn neural đầu vào sử
30
không đảm bảo chất lượng. Để chuẩn hóa đầu vào việc đầu tiên em tính chiều
dài vector của dữ liệu đầu vào:
= = N i i x x length 1 2 ) ( (2.1)
Sử dụng chiều dài vector em có thể quyết định hệ số chuẩn hóa:
= = N i i x 1 2 1 (2.2)
2.3.2.2. Tính toán đầu ra cho mỗi neural
Đểtính toán đầu ra cho mỗi vector đầu vào thì phải cùng xem xét vector
đầu vào và trọng số. Đầu tiên phải tính tích vô hướng của các neural đầu vào và các trọng số kết nối. Tích vô hướng được tính bằng cách nhân mỗi phần tử
trong hai vector với nhau. Em sẽ tính tổng của tích các phần tử của vector trọng sốvà vector đầu vào. Giả sửđầu vào là: X = {x1, x2,…,xN}, trọng số là W = {wj1, wj2,…,wjN} thì tích vô hướng của X và W là: ji N i iw x t = = 1 (2.3)
Xét đầu ra của neural đầu ra thứ j bây giờ được chuẩn hóa bằng cách nhân giá trị vừa tính được với hệ số chuẩn hóa được xác định ở trên.
( ) ( ) 1 1 2 1 = = = N i i N i ji i x w x j output (2.4)
Giá trị vừa được tính toán phải được ánh xạ thành sốlưỡng cực. Để ánh
xạ em thêm 1 và chia cho 2 ta được:
output(j)=[output(j)+1]*0.5 (2.5)
2.3.2.3. Chọn neural chiến thắng
Khi tính toán được đầu ra với từng neural tiến hành so sánh chúng để
tìm xem neural nào có đầu ra lớn nhất thì neural đó được quyết định là neural
chiến thắng. Như vậy em đã tìm ra đầu ra của mạng neural Kohonen. Em thấy
31
vậy em điều chỉnh trọng sốnày đểđiều chỉnh giá trịđầu ra theo như nhiệm vụ
yêu cầu.
2.3.2.4. Quá trình học của mạng neural Kohonen
Quá trình học là quá trình hiệu chỉnh trọng số. Toàn bộ quá trình huấn luyện cho mạng neural Kohonen bao gồm các chu kỳ lặp lại cho đến khi mức lỗi của mạng dưới một mức chấp nhận được. Quá trình huấn luyện cho mạng là cạnh tranh. Với mỗi tập đầu vào sẽtìm được một neural chiến thắng. Trọng số của neural chiến thắng sẽ được hiệu chỉnh, nó sẽ tác động trở lại mạnh mẽ hơn đối với đầu vào ở lần tiếp theo. Các neural chiến thắng là khác nhau đối với các mẫu khác nhau. Khảnăng của chúng để nhận dạng các mẫu riêng biệt
sẽ được tăng lên. Đầu tiên em xét tổng quan quá trình huấn luyện cho mạng
neural Kohonen.
32
Đầu tiên ma trận trọng sốđược khởi tạo với các giá trị ngẫu nhiên, đưa
tập mẫu vào và tính toán tỷ lệ lỗi, hiệu chỉnh trọng số của neural chiến thắng: Nếu tỷ lệ lỗi được cải thiện đáng kể thì quay trở lại tiếp tục đưa mẫu huấn luyện vào và điều chỉnh trọng số của neural chiến thắng rồi tính toán lại tỷ lệ
lỗi xem mức cải thiện của nó như thế nào. Nếu tỷ lệ lỗi chỉ cải thiện rất nhỏ thì chu kỳ này sẽ được bỏ qua. Nếu điều này xảy ra thì xét xem ma trận trọng số
này có tốt hơn ma trận trọng số tốt nhất từ trước đến giờ không? Nếu tốt hơn thì lưu lại ma trận trọng số tốt nhất. Nếu không ma trận trọng số tốt nhất được giữ nguyên từ chu kỳtrước.
Sau đó ma trận trọng số được khởi tạo lại với giá trị ngẫu nhiên và chu kỳ huấn luyện mới được bắt đầu. Chu kỳ huấn luyện mới này lại tiếp tục giống
như chu kỳ trước và sẽ phân tích các thời kỳđể quyết định bỏ qua hay tạo ra tập trọng số mà tạo ra mức lỗi chấp nhận được.
2.3.3. Nhận xét
Mô hình mạng Kohonen gồm hai lớp: lớp neural đầu vào và lớp neural
đầu ra. Trong đó lớp đầu vào thực ra chỉ dùng để phân bố dữ liệu đến lớp neural đầu ra mà không có chức năng xử lý dữ liệu trên đó. Các bước thực hiện mạng neural Kohonen tương đối rõ ràng, chi tiết, đơn giản, dễ hiểu. Quá trình huấn luyện mạng với tốc độ hội tụ nhanh, xử lý được khối lượng dữ liệu lớn.
Việc xác lập các tham số đầu vào cho mạng rất dễ dàng, em có thể hiệu chỉnh các tham số này bằng thực nghiệm trong quá trình thực hiện bài toán cụ
thểđểđạt được kết quả hoạt động tốt.
Kết luận chương 2:
Qua nghiên cứu về bài toán nhận dạng chữ viết tay và áp dụng mạng neural vào bài toán để nhận dạng chữ viết tay cụ thể là dung mạng neural Perceptron và mạng neural Kohonen để nhận dạng. Từđó thấy được ưu nhược
33
CHƯƠNG III
KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN
1. Những kết quả mà báo cáo đã thực hiện Về mặt lý thuyết
Tìm hiểu về những thành phần cơ bản và các kiểu kiến trúc cơ bản của mạng neural, phân biệt được một số loại mạng neural. Tìm hiểu các ứng dụng của mạng neural trong thực tế. Nắm được những kiến thức cơ bản về mô hình mạng Perceptron, mạng neural Kohonen và cách xây dựng một mô hình mạng neural trong thực tế.
Do thời gian và trình độ còn hạn chế nên em chỉ có thểđưa ra bài toán và
cách giải quyết, cũng như làm rõ các vấn đề xung quanh chứ chưa xây dựng
được một hệ thống hoàn chỉnh trên hệ điều hành hay ứng dụng di động, em mong rằng thời gian tới em sẽ cố gắng tìm hiểu và vận dụng những lý thuyết
mà em đã đưa ra để có thể xây dựng hoàn chỉnh một ứng dụng từđó giúp cho
việc nhận diện chữ viết tay Tiếng Việt trở nên thực tế và hữu ích hơn.
Về mặt thực tiễn
Đưa ra phương pháp xử lý với ký tự viết tay tiếng Việt rời rạc, xây dựng hệ
thống nhận dạng ký tự viết tay tiếng Việt rời rạc sử dụng mô hình mạng neural Perceptron và Kohonen.
Tuy biết rằng những điều thu nhận được mới chỉ là một phần rất nhỏ
trong một ngành nghiên cứu lớn, em mong thầy sẽđón nhận, sửa đổi cũng như
đưa ra các ý kiến cho bài báo cáo của em từ đó em sẽrút ra được những kinh
nghiệm và kiến thức để có những bước đi tiếp theo.