Số hóa bởi Trung tâm Học liệu – ĐHTN http //www lrc tnu edu vn ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THÔNG HOÀNG CHÍ THÀNH MẠNG HOPFIELD VÀ ỨNG DỤNG TRONG NHẬN DẠNG HÌNH ẢNH[.]
ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THƠNG HỒNG CHÍ THÀNH MẠNG HOPFIELD VÀ ỨNG DỤNG TRONG NHẬN DẠNG HÌNH ẢNH LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH THÁI NGUYÊN - 2016 Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THƠNG HỒNG CHÍ THÀNH MẠNG HOPFIELD VÀ ỨNG DỤNG TRONG NHẬN DẠNG HÌNH ẢNH Chuyên ngành: Khoa học máy tính Mã số: 60 48 01 01 LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH Người hướng dẫn khoa học: TS Vũ Vinh Quang THÁI NGUYÊN - 2016 Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn i LỜI CẢM ƠN Xin chân thành cảm ơn Thầy TS Vũ Vinh Quang tận tình dạy, hướng dẫn suốt thời gian học tập làm luận văn Tôi xin biết ơn chân thành đến Thầy giáo Viện Công nghệ Thông tin giảng dạy, giúp đỡ suốt thời gian học tập Xin cảm ơn tất anh chị em học viên Cao học khóa 13, cảm ơn cán cơng chức, giảng viên Trường đại học Công nghệ Thông tin Truyền thông - Đại học Thái Nguyên tạo điều kiện tốt cho suốt hai năm học qua Xin cảm ơn bạn bè, đồng nghiệp bảo nhiều thời gian thực luận văn Cuối cùng, xin chân thành cảm ơn thành viên gia đình động viên tạo điều kiện thuận lợi để tơi có kết ngày hôm Thái Nguyên, tháng 06 năm 2016 Người viết luận văn Hồng Chí Thành Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn ii LỜI CAM ĐOAN Tên tơi là: Hồng Chí Thành Sinh ngày: 14/10/1979 Học viên lớp cao học CK13A - Trường Đại học Công nghệ thông tin Truyền thông - Đại học Thái Nguyên Hiện công tác tại: Trường THPT Ngọc Hà - TP Hà Giang - Hà Giang Tôi xin cam đoan đề tài luận văn “Mạng Hopfield ứng dụng nhận dạng hình ảnh” cơng trình nghiên cứu thân tơi Các số liệu, kết nghiên cứu luận văn trung thực chưa công bố cơng trình khác Tơi xin chịu trách nhiệm luận văn Thái Nguyên, ngày 25 tháng năm 2016 TÁC GIẢ LUẬN VĂN Hồng Chí Thành Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn iii MỤC LỤC LỜI CẢM ƠN i LỜI CAM ĐOAN ii DANH MỤC CÁC BIỂU ĐỒ, HÌNH VẼ v LỜI MỞ ĐẦU CHƯƠNG I MỘT SỐ KIẾN THỨC CƠ BẢN VỀ NHẬN DẠNG ẢNH 1.1 Không gian biểu diễn đối tượng 1.2 Không gian diễn dịch 1.3 Mơ hình chất q trình nhận dạng 1.3.1 Mơ hình 1.3.2 Bản chất trình nhận dạng 1.4 Nhận dạng ảnh 1.4.1 Nhận dạng dựa phân hoạch không gian 1.4.2 Nhận dạng dựa theo cấu trúc 10 1.4.3 Nhận dạng dựa vào kỹ thuật mạng neural .12 CHƯƠNG II CƠ SỞ LÝ THUYẾT VỀ MẠNG NEURAL 13 2.1 Giới thiệu chung mạng Neural 13 2.1.1 Quá trình phát triển 13 2.1.2 Cấu trúc mạng neural nhân tạo 15 2.1.3 Cấu trúc mạng Neural sinh học 16 2.2 Khái niệm 20 2.2.1 Neural nhân tạo mạng Neural nhân tạo 20 2.2.2 Khái niệm mạng Hopfield 24 2.3 Phân loại mạng Hopfield 25 2.4 Mạng Hopfield rời rạc 28 2.5 Mạng Hopfield liên tục 29 2.6 Một số đặc điểm mạng Hopfield 32 2.7 Một số ứng dụng mạng Hopfield 32 Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn iv 2.8 Khả nhớ mẫu mạng Hopfield 32 2.9 Ưu, nhược điểm mạng Hopfield 34 2.9.1 Ưu điểm mạng Hopfield 34 2.9.2 Nhược điểm mạng Hopfield 34 CHƯƠNG ỨNG DỤNG MẠNG HOPFIELDTRONG BÀI TOÁN NHẬN DẠNG HÌNH ẢNH 35 3.1 Mô tả hệ thống nhận dạng dựa mạng Hopfield 35 3.1.1 Mạng Hopfield với toán tối ưu 35 3.1.2 Các bước thành lập mạng Hopfield: 36 3.2 Mạng Hopfield với tốn nhận dạng hình ảnh 37 3.2.1 Bài tốn nhận dạng hình ảnh 37 3.2.2 Mạng Hopfield nhận dạng hình ảnh 37 3.2.3 Huấn luyện mạng Hopfield 39 3.2.4 Thuật toán mạng Neural Hopfield toán nhận dạng hình ảnh 40 3.3 Ứng dụng mạng Hopfield nhận dạng ảnh 41 3.4 Đánh giá kết nghiên cứu ứng dụng mạng Hopfield nhận dạng ảnh 49 3.4.1 Mục tiêu chương trình .49 3.4.2 Demo hình ảnh 50 3.4.3 Đánh giá kết 55 KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN 56 TÀI LIỆU THAM KHẢO 57 Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn v DANH MỤC CÁC BIỂU ĐỒ, HÌNH VẼ Hình 1.1 Mơ hình cấu trúc đối tượng nhà Hình 1.2 Sơ đồ tổng quát hệ nhận dạng Hình 2.1 Cấu trúc mạng neural 15 Hình 2.2 Mơ hình tế bào thần kinh 19 Hình 2.3 Mơ hình xử lý neural nhân tạo 21 Hình 2.4 Mạng Hopfield 26 Hình 2.5 Đồ thị hàm satlins 26 Hình 2.6 Mơ hình mạng Hopfield 30 Hình 2.7 Thí nghiệm mạng với ảnh nhiễu 33 Hình 3.1: Mạng Hopfield lớp với 16 neural vào 16 neural 41 Hình 3.2 Thí nghiệm mạng với ảnh nhiễu 49 Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn LỜI MỞ ĐẦU Kỹ thuật nhận dạng nhiều người quan tâm nay, đặc biệt anh ninh quốc phòng: nhận dạng hình ảnh, nhận dạng mẫu tóc, nhận dạng vân tay,… ngành khoa học có nhiều ứng dụng khoa học kỹ thuật, tin học, sinh học lĩnh vực an ninh quốc gia Nó phận quan trọng hệ thống thơng minh; sử dụng việc dị tìm, xử lý số liệu hỗ trợ định, … Nói cách tổng qt nhận dạng mơn khoa học có liên quan cách hữu đến việc phân lớp, tính tốn độ đo Trong lý thuyết nhận dạng nói chung nhận dạng ảnh nói riêng có ba cách tiếp cận khác nhau: - Nhận dạng dựa vào phân hoạch không gian - Nhận dạng theo cấu trúc - Nhận dạng dựa vào kỹ thuật mạng neural Hai cách tiếp cận đầu kỹ thuật kinh điển Các đối tượng ảnh quan sát thu nhận phải trải qua giai đoạn tiền xử lý nhằm tăng cường chất lượng, làm chi tiết, trích chọn biểu diễn đặc trưng, cuối qua giai đoạn nhận dạng Cách tiếp cận thứ ba hồn tồn khác Nó dựa vào chế đốn nhận, lưu trữ phân biệt đối tượng mô theo hoạt động hệ thần kinh người Do chế đặc biệt, đối tượng thu nhận thị giác người không cần qua giai đoạn cải thiện mà chuyển sang giai đoạn tổng hợp, đối sánh với mẫu lưu trữ để nhận dạng Đây cách tiếp cận có nhiều hứa hẹn Trong mạng Neural mạng Hopfield thường sử dụng lý thuyết nhận dạng ưu điểm riêng biệt cấu trúc mạng Hướng nghiên cứu mạng Hopfield sử dụng nhận dạng ảnh nói chung hướng phù hợp với chun ngành khoa học máy tính có ứng dụng cao Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn Đối tượng -Mạng Hopfield -Lý thuyết nhận dạng -Ứng dụng cài đặt toán nhận dạng Phạm vi nghiên cứu - Lý thuyết Bài toán nhận dạng ảnh - Cấu trúc mạng Hopfield - Một số thuật toán học mạng Hopfield Nội dung nghiên cứu luận văn trình bày ba chương sau: Chương 1: Một số kiến thức nhận dạng ảnh Chương 2: Cơ sở lý thuyết mạng Neural Chương 3: Ứng dụng mạng Hopfield tốn nhận dạng hình ảnh Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn CHƯƠNG MỘT SỐ KIẾN THỨC CƠ BẢN VỀ NHẬN DẠNG ẢNH Nhận dạng nói chung hay nhận dạng ảnh nói riêng q trình phân loại đối tượng biểu diễn theo mơ hình gán cho chúng vào lớp (gán cho đối tượng tên gọi) dựa theo quy luật mẫu chuẩn Con người thu nhận thông tin qua giác quan, thị giác đóng vai trị quan trọng Những năm trở lại với phát triển phần cứng máy tính, xử lý ảnh đồ họa phát triển cách mạnh mẽ có nhiều ứng dụng sống Q trình xử lý ảnh xem trình thao tác ảnh đầu vào nhằm cho kết mong muốn Kết đầu trình xử lý ảnh ảnh “tốt hơn” kết luận Quá trình nhận dạng dựa vào mẫu học biết trước gọi nhận dạng có thầy hay học có thầy (supervised learning); trường hợp ngược lại gọi học khơng có thầy (non supervised learning) Chúng ta giới thiệu khái niệm Các kiến thức tham khảo từ [1], [2], [3] 1.1 Không gian biểu diễn đối tượng Các đối tượng quan sát hay thu thập được, thường biểu diễn tập đặc trưng hay đặc tính Như trường hợp xử lý ảnh, ảnh sau tăng cường để nâng cao chất lượng, phân vùng trích chọn đặc tính, biểu diễn đặc trưng biên, miền đồng nhất, Người ta thường phân đặc trưng theo loại như: đặc trưng tơ pơ, đặc trưng hình học đặc trưng chức Việc biểu diễn ảnh theo đặc trưng phụ thuộc vào ứng dụng Ở ta đưa cách hình thức việc biểu diễn đối tượng Giả sử đối tượng X (ảnh, chữ viết, dấu vân tay, ) biểu diễn n thành phần (n đặc trưng): X = {x1, x2, , xn}; xi biểu diễn đặc tính Không gian biểu diễn đối tượng thường gọi tắt khơng gian đối tượng X định nghĩa: Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn X = {X1, X2, , Xm} Xi biểu diễn đối tượng Khơng gian vô hạn Để tiện xem xét xét tập X hữu hạn 1.2 Không gian diễn dịch Không gian diễn dịch tập tên gọi đối tượng Kết thúc trình nhận dạng ta xác định tên gọi cho đối tượng tập khơng gian đối tượng hay nói nhận dạng đối tượng Một cách hình thức gọi tập tên đối tượng: = {w1, w2, ,wk} với wi, i = 1, 2, , k tên đối tượng Quá trình nhận dạng đối tượng f ánh xạ f: X -> với f tập quy luật để định phần tử X ứng với phần tử Nếu tập quy luật tập tên đối tượng biết trước nhận dạng chữ viết (có 26 lớp từ A đến Z), người ta gọi nhận dạng có thầy Trường hợp thứ hai nhận dạng khơng có thầy Đương nhiên trường hợp việc nhận dạng có khó khăn 1.3 Mơ hình chất q trình nhận dạng 1.3.1 Mơ hình Việc chọn lựa q trình nhận dạng có liên quan mật thiết đến kiểu mô tả mà người ta sử dụng để đặc tả đối tượng Trong nhận dạng, người ta phân chia làm hai họ lớn: - Họ mô tả theo tham số - Họ mô tả theo cấu trúc Cách mô tả lựa chọn xác định mô hình đối tượng Như vậy, có loại mơ hình: mơ hình theo tham số mơ hình cấu trúc Mơ hình tham số: Sử dụng véc tơ để đặc tả đối tượng Mỗi phần tử véc tơ mơ tả đặc tính đối tượng Thí dụ đặc trưng chức năng, người Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn ta sử dụng hàm sở trực giao để biểu diễn Và ảnh biểu diễn chuỗi hàm trực giao Giả sử C đường bao ảnh C(i,j) điểm thứ i đường bao, i = 1, 2, , N (đường bao gồm N điểm) Giả sử tiếp: x0 = y0 = N N N N xi i 1 yi i 1 toạ độ tâm điểm Như vậy, moment trung tâm bậc p, q đường bao là: pq= N N (xi-x0)p(yi-y0)q (1.1) i 1 Véc tơ tham số trường hợp moment ij với i=1, 2, , p j = 1, 2, , q Cịn số đặc trưng hình học, người ta hay sử dụng chu tuyến, đường bao, diện tích tỉ lệ T = 4S/p2, với S diện tích, p chu tuyến Việc lựa chọn phương pháp biểu diễn làm đơn giản cách xây dựng Tuy nhiên, việc lựa chọn đặc trưng hoàn toàn phụ thuộc vào ứng dụng Mơ hình cấu trúc: Cách tiếp cận mơ hình dựa vào việc mô tả đối tượng nhờ số khái niệm biểu thị đối tượng sở ngôn ngữ tự nhiên Để mô tả đối tượng, người ta dùng số dạng nguyên thuỷ đoạn thẳng, cung, Chẳng hạn hình chữ nhật định nghĩa gồm đoạn thẳng vng góc với đơi Trong mơ hình người ta sử dụng kí hiệu kết thúc Vt, kí hiệu khơng kết thúc gọi Vn Ngồi có dùng tập luật sản xuất để mô tả cách xây dựng đối tượng phù hợp dựa đối Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn tượng đơn giản đối tượng nguyên thuỷ (tập Vt) Trong cách tiếp cận này, ta chấp nhận khẳng định là: cấu trúc dạng kết việc áp dụng luật sản xuất theo nguyên tắc xác định dạng gốc ban đầu Một cách hình thức, ta coi mơ hình tương đương văn phạm G = (Vt, Vn, P, S) với: - Vt ký hiệu kết thúc - Vn ký hiệu không kết thúc - P luật sản xuất - S dạng (ký hiệu bắt đầu) Thí dụ: đối tượng nhà gồm mái tường, mái tam giác gồm cạnh đoạn thẳng, tường hình chữ nhật gồm cạnh vng góc với đôi mô tả thông qua cấu trúc mô tả dựa vào văn phạm sinh hình đây: Hình 1.1 Mơ hình cấu trúc đối tượng nhà 1.3.2 Bản chất trình nhận dạng Q trình nhận dạng gồm giai đoạn chính: - Lựa chọn mơ hình biểu diễn đối tượng - Lựa chọn luật định (phương pháp nhận dạng) suy diễn trình học - Học nhận dạng Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn Khi mơ hình biểu diễn đối tượng xác định, định lượng (mơ hình tham số) hay định tính (mơ hình cấu trúc), q trình nhận dạng chuyển sang giai đoạn học Học giai đoạn quan trọng Thao tác học nhằm cải thiện, điều chỉnh việc phân hoạch tập đối tượng thành lớp Việc nhận dạng tìm quy luật thuật tốn để gán đối tượng vào lớp hay nói cách khác gán cho đối tượng tên Học có thầy (supervised learning) Kỹ thuật phân loại nhờ kiến thức biết trước gọi học có thầy Đặc điểm kỹ thuật người ta có thư viện mẫu chuẩn Mẫu cần nhận dạng đem so sánh với mẫu chuẩn để xem thuộc loại Thí dụ ảnh viễn thám, người ta muốn phân biệt cánh đồng lúa, cánh rừng hay vùng đất hoang mà có miêu tả đối tượng Vấn đề chủ yếu thiết kế hệ thống để đối sánh đối tượng ảnh với mẫu chuẩn định gán cho chúng vào lớp Việc đối sánh nhờ vào thủ tục định dựa công cụ gọi hàm phân lớp hay hàm định Học khơng có thầy (non supervised learning) Kỹ thuật học phải tự định lớp khác xác định tham số đặc trưng cho lớp Học khơng có thầy đương nhiên khó khăn Một mặt, số lớp khơng biết trước, mặt khác đặc trưng lớp trước Kỹ thuật nhằm tiến hành cách gộp nhóm chọn lựa cách tốt Bắt đầu từ tập liệu, nhiều thủ tục xử lý khác nhằm phân lớp nâng cấp dần để đạt phương án phân loại Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn Nhìn chung, dù mơ hình kỹ thuật nhận dạng sao, hệ thống nhận dạng tóm tắt theo sơ đồ sau: Trích chọn đặc điểm biểu diễn đối tượng Trả lời Phân lớp định Quá trình tiền xử lý Đánh giá Khối nhận dạng Hình 1.2 Sơ đồ tổng quát hệ nhận dạng 1.4 Nhận dạng ảnh Nhận dạng ảnh giai đoạn cuối hệ thống xử lý ảnh Nhận dạng dựa lý thuyết nhận dạng (Pattern Recognition) đề cập nhiều sách nhận dạng Trong lý thuyết nhận dạng nói chung nhận dạng ảnh nói riêng có ba cách tiếp cận khác nhau: - Nhận dạng dựa vào phân hoạch không gian - Nhận dạng dựa vào cấu trúc - Nhận dạng dựa vào kỹ thuật mạng neural Nhận dạng ảnh trình phân loại đối tượng ảnh biểu diễn theo mơ hình gán cho chúng tên (gán cho đối tượng tên gọi, tức dạng) Nhận dạng ảnh q trình liên quan đến mơ tả đối tượng mà người ta muốn đặc tả Q trình nhận dạng thường sau q trình trích chọn đặc tính chủ yếu đối tượng Có hai kiểu mơ tả đối tượng: - Mô tả tham số (nhận dạng theo tham số) - Mô tả theo cấu trúc (nhận dạng theo cấu trúc) Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn Trên thực tế, người ta áp dụng kỹ thuật nhận dạng thành công với nhiều đối tượng khác như: nhận dạng ảnh vân tay, ảnh khuôn mặt, nhận dạng chữ (chữ cái, chữ số, chữ có dấu) Nhận dạng chữ in đánh máy phục vụ cho việc tự động hoá trình đọc tài liệu, tăng nhanh tốc độ chất lượng thu nhận thơng tin từ máy tính Nhận dạng chữ viết tay (với mức độ ràng buộc khác cách viết, kiểu chữ, ) phục vụ cho nhiều lĩnh vực Ví dụ: Bạn có tay số tài liệu giấy sách, báo, tờ rơi quảng cáo, hợp đồng, …, máy quét giúp bạn biến tài liệu giấy thành tài liệu dạng ảnh Với tài liệu dạng ảnh, bạn đọc mà khơng thể biên tập lại chúng hệ soạn thảo điện tử nay; hệ thống tìm kiếm khơng thể tìm đoạn văn tài liệu Với chương trình nhận dạng giúp ta nhận dạng tài liệu dạng file ảnh, từ biên dịch sang định dạng như: doc, text, … 1.4.1 Nhận dạng dựa phân hoạch không gian Trong kỹ thuật đối tượng nhận dạng đối tượng định lượng Mỗi đối tượng biểu diễn véctơ nhiều chiều Trước tiên ta xem xét số khái niệm như: phân hoạch không gian, hàm phân biệt sau vào số kỹ thuật cụ thể Phân hoạch không gian: Giả sử không gian đối tượng X định nghĩa: X = {Xi, i=1, 2, …,m}, Xi véctơ Người ta nói p phân hoạch không gian X thành lớp Ci, Ci⊂ X nếu: Ci Cj ví i i j vµ Ci X Nói chung trường hợp lý tưởng: tập X tách hoàn tồn Trong thực tế, thường gặp khơng gian biểu diễn tách phần Như phân Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn 10 loại dựa vào việc xây dựng ánh xạ f: X -> p Công cụ xây dựng ánh xạ hàm phân biệt (Descriminant functions) Hàm phân lớp Để chia đối tượng thành lớp, cần xác định số lớp ranh giới lớp Gọi {gi} lớp hàm phân lớp hay hàm tách biệt Lớp hàm định nghĩa sau: Nếu ∀i ≠k, gk (X) > gi (X) định X ∈lớp k Như để phân biệt k lớp ta cần k-1hàm phân biệt Hàm phân biệt g(.) lớp thường dùng thực tế tính đơn giản, dễ xử lý hàm tuyến tính Hàm tuyến tính có dạng: g(X) = W0 + W1X1 + W2X2 + … + WkXk đó: -Wi trọng số gán cho thành phần Xi; - W0 trọng số • Phân lớp dựa theo khoảng cách (Distance) làmột công cụ tốt đểxác định đối tượng có “gần nhau” đặc trưng hay khơng Nếu khoảng cách nhỏ ngưỡng ta coi hai đối tượng giống Nếu chúng giống ta gộp gộp chúng, chúng khác ta tách thành hai nhiều lớp phân biệt • Phân lớp dựa theo xác suất có điều kiện (Conditional Probability) Trong số trường hợp, người ta dựa vào xác suất có điều kiện để phân lớp cho đối tượng Lý thuyết xác suất có điều kiện Bayes nghiên cứu khákỹ lưỡng dùng để phân biệt đối tượng 1.4.2 Nhận dạng dựa theo cấu trúc Ngoài cách biểu diễn định lượng (theo tham số) mô tả trên, tồn nhiều kiểu đối tượng mạng tính định tính (theo cấu trúc) Phương pháp nhận Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn 11 dạng nhận dạng logic, dựa vào hàm phân biệt hàm Bool Cách nhận dạng nhận dạng từ có độ dài Giả sử hàm phân biệt cho ký hiệu là: ga(X), gb(X),… tương ứng với ký hiệu a, b,…Để dễ dàng hình dung, ta giả sử có từ ‘abcd’ biểu diễn dãy ký tự X x1, x2, x3, x4 , hàm phân biệt tương ứng nhận là: ga x1 +gb x2 +gc x3 +gd x4 Thủ tục phân loại nhận dạng gồm hai giai đoạn: - Giai đoạn 1: xác định quy tắc xây dựng, tương đương với việc nghiên cứu văn phạm ngơn ngữ thống - Giai đoạn 2: xem xét tập dạng không gian mẫu có sinh hồn tồn từcác dạng khơng Nếu thuộc tập coi phân loại xong Các đối tượng cần nhận dạng theo phương pháp biểu diễn câu ngôn ngữ, gọi L(G) Khi thao tác phân lớp xem xét đối tượng có thuộc văn phạm L(G) khơng Nói cách khác, có sinh luật văn phạm G hay không Như bước cần phải thực là: + Xác định tập V1 chung cho tất cảmọi đối tượng + Xác định quy tắc P để sản sinh câu chúng khác lớp + Thực trình học với câu biểu diễn đối tượng mẫu l nhằm xác định văn phạm G + Ra định: xác định đối tượng X biểu diễn câu lx Nếu lx nhận biết L(Gk) ta nói X đối tượng thuộc loại Ck Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn 12 1.4.3 Nhận dạng dựa vào kỹ thuật mạng neural Là kỹ thuật tái tạo mạng neural thần kinh người máy tính Nó bao gồm phần tử đơn giản (còn gọi neural) hoạt động song song nối với liên kết có trọng số để kích thích ức chế neural Có nhiều cấu trúc mạng neural khác như: mạng neural sinh học, mạng neural nhân tạo, mạng neural hồi quy, mạng neural hồi quy lớp, mạng neural lớp,… Trước tiên, cần xem xét số khái niệm não chế hoạt động mạng neural sinh học Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn 13 CHƯƠNG CƠ SỞ LÝ THUYẾT VỀ MẠNG NEURAL Mạng Neuron nhân tạo (Artificial Neural Network- ANN) mô hình xử lý thơng tin mơ dựa hoạt động hệ thống thần kinh sinh vật, bao gồm số lượng lớn Neural gắn kết để xử lý thông tin ANN giống não người, học kinh nghiệm (thông qua huấn luyện), có khả lưu giữ kinh nghiệm hiểu biết (tri thức) sử dụng tri thức việc dự đoán liệu chưa biết (unseen data) Các ứng dụng mạng Neural sử dụng nhiều lĩnh vực điện, điện tử, kinh tế, qn sự,… để giải tốn có độ phức tạp địi hỏi có độ xác cao điều khiển tự động, khai phá liệu, nhận dạng,… Các kiến thức mạng neural tham khảo từ [4], [6], [7] 2.1 Giới thiệu chung mạng Neural 2.1.1 Quá trình phát triển Mạng neural nhân tạo xây dựng từ năm 1940 nhằm mô số chức não người Dựa quan điểm cho não người điều khiển Mạng neural nhân tạo thiết kế tương tự neural sinh học có khả giải hàng loạt tốn tính tốn tối ưu, điều khiển, công nghệ robot… Nghiên cứu mạng neural nhân tạo người ta chia trình phát triển làm bốn giai đoạn sau: + Giai đoạn một: Là khởi nguồn mạng neural, bắt đầu nghiên cứu William 1890 tâm lý với liên kết neural thần kinh Cho đến năm 1940 Meculloch Pitts đưa ra: neural mơ hình hóa thiết bị ngưỡng (có giới hạn) để thực phép biến đổi logic, tiếp sau đời mơ hình mạng neural Culloch-Pitts Đến năm 1943 giải thuật huấn luyện mạng Hebb công bố Số hóa Trung tâm Học liệu – ĐHTN http://www.lrc.tnu.edu.vn ...ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THƠNG HỒNG CHÍ THÀNH MẠNG HOPFIELD VÀ ỨNG DỤNG TRONG NHẬN DẠNG HÌNH ẢNH Chuyên ngành: Khoa học máy tính Mã số: 60 48 01 01 LUẬN VĂN... lập mạng Hopfield: 36 3.2 Mạng Hopfield với tốn nhận dạng hình ảnh 37 3.2.1 Bài tốn nhận dạng hình ảnh 37 3.2.2 Mạng Hopfield nhận dạng hình ảnh 37 3.2.3 Huấn luyện mạng. .. mạng Hopfield 39 3.2.4 Thuật toán mạng Neural Hopfield toán nhận dạng hình ảnh 40 3.3 Ứng dụng mạng Hopfield nhận dạng ảnh 41 3.4 Đánh giá kết nghiên cứu ứng dụng mạng Hopfield nhận