t TS Ho nă g Mạnh Thắng, người thầy đê tận nh tì hướng dẫn vă gi p đỡ ú tôi trong suốt quâ t ìr nh lăm luận văn.. Mạng Nơron tế băo s cCNN mlă ột giả iph pâ mở đầu h c o lo iạ mâ tí vạn
TẠ THỊ KIM HUỆ BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC BÁCH KHOA HÀ NỘI - LUẬN VĂN THẠC SỸ KHOA HỌC KỸ THUẬT ĐIỆN TỬ NGÀNH: KỸ THUẬT ĐIỆN TỬ NGHIÊN CỨU CÔNG NGHỆ MẠNG NƠ RON TẾ BÀO CNN VÀ ỨNG DỤNG TRONG XỬ LÝ ẢNH TẠ THỊ KIM HUỆ 2007 - 2009 HÀ NỘI 2009 Tai ngay!!! Ban co the xoa dong chu nay!!! 17057205136471000000 BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC BÁCH KHOA HÀ NỘI - LUẬN VĂN THẠC SĨ KHOA HỌC NGHIÊN CỨU CÔNG NGHỆ MẠNG NƠ RON TẾ BÀO CNN VÀ ỨNG DỤNG TRONG XỬ LÝ ẢNH NGÀNH : KỸ THUẬT ĐIỆN TỬ MÃ SỐ:23.04.3898 TẠ THỊ KIM HUỆ Người hướng dẫn khoa học : TS HOÀNG M ẠNH THẮNG HÀ NỘI 2009 LỜI CAM ĐOAN Tôi xin cam đoan: Luận văn “Nghiên cứu công nghệ mạng nơ ron tế bào CNN ứng dụng xử lý ảnh” cơng trình nghiên cứu riêng tôi, khôn g chép từ tài liệu Tôi muốn gửi lời cảm ơn chân thành tới TS Hoàng Mạnh Thắng, người thầy tận tình hướng dẫn giúp đỡ tơi suốt q trình làm luận văn Tơi xin gửi lời cảm ơn tới Bộ mơn Kỹ thuật Máy tính - khoa Công nghệ thông tin - trường Đại học Sư phạm Hà Nội, Bộ môn Điện tử Tin học Đại học Bách Khoa Hà Nội, tạo điều kiện tốt cho tơi q trình học tập làm luận văn Xin cảm ơn đồng nghiệp mơn Kỹ thuật Máy tính ln khuyến khích, động viên, giúp đỡ tơi thời gian học tập công tác vừa qua Tôi xin gửi lời cảm ơn sâu sắc tới gia đình: cha mẹ, chồng, chị gái người thân gia đình ln động viên, cổ vũ hỗ trợ tơi suốt q trình học tập nghiên cứu để có kết hơm Hà Nội, ngày 15 tháng 10 năm 2009 Học viên Tạ Thị Kim Huệ MỤC LỤC MỤC LỤC Danh mục ký hiệu chữ viết tắt Danh mục bảng biểu Danh mục hình vẽ MỞ ĐẦU Chương 1: Tìm hiểu cấu trúc mạng Nơron tế bào CNN 1.1 Tổng quan 1.2 Cơ sở toán học CNN 1.2.1 Các thích định nghĩa 1.2.2 Biểu diễn theo ma trận vector điều kiện biên 1.2.3 Sự tồn đơn trị nghiệm 13 1.2.4 Giới h ạn nghiệm 17 1.2.5 Tính bất biến khơng gian CNN 18 1.2.6 Ba phân lớp mạng nơ ron tế bào đơn giản 21 1.2.7 Lược đồ lưu lượng mô tả luồng tín hiệu dẫn nạp 25 1.3 Kết luận 26 Chương 2: Phân tích đặc tính mạng CNN 27 2.1 Các đặc tính mạng CNN chiều 27 2.1.1 Cấu trúc mạng CNN hai chiều 27 2.1.2 Dải động CNN 30 2.1.3 Tính chất ổn định CNN 33 2.1.4 Động lực học mạng nơ ron tế bào phi tuyến có trễ 42 2.2 Hỗn độn mạng nơ ron tế bào 44 2.2.1 Ví dụ CNN tế bào dao động 45 2.2.2 Ví dụ CNN hỗn độn với tế bào đầu vào dạng sin 47 2.2.3 Rẽ nhánh hỗn độn CNN 49 2.3 Mạng nơ ron tế bào nhiều lớp 50 2.4 Mối quan hệ CNN với phương trình vi phân đạo hàm riêng ô tô mát tế bào 52 Kết luận 54 Chương 3: Mô hệ động lực CNN 55 3.1 Phân tích định lượng mặt toán học 55 3.2 Hai đối tượng mẫu nghiên cứu: mẫu EDGE EDGEGRAY 63 3.2.1 CNN EDGE: Các mẫu CNN nhị phân dò đường biên 63 3.2.2 EDGEGRAY CNN 69 3.2.3 Ba bước xác định đồ thị dịch chuyển điểm điều khiển 76 3.3 Hệ thống phần mềm mô 77 3.3.1 Sự kết hợp phương trình vi phân CNN tiêu chuẩn 77 3.3.2 Ảnh đầu vào 78 3.3.3 Phần mềm mô 78 3.4 Phần cứng gia tốc số 83 Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh 3.5 Thực thi CNN tương tự 84 3.6 Thang chia tỷ lệ tín hiệu 86 3.7 Discrete-time CNN (DTCNN) 87 3.8 Kết luận 88 Chương 4: Ứng dụng hệ động lực CNN xử lý ảnh 89 Tổng quan 89 4.1 Nhu cầu xử lý ảnh công nghiệp an ninh quốc phòng 89 4.2 Xử lý ảnh máy tính hệ lệnh 92 4.3 Công nghệ CNN hệ thống thu ảnh - xử lý song song 93 4.4 Mơ hình hệ sinh học chế tạo thị giác nhân tạo 94 4.4.1 Thị giác sinh học 94 4.4.2 Mơ hình võng mạc nhân tạo với cơng nghệ mạng CNN nhiều lớp 96 4.4.3 Chip tế bào thị giác 101 4.4.4 Máy tính thị giác (Visual computers) 103 4.5 Phương pháp xử lý ảnh vân tay sử dụng mạng CNN 104 4.5.1 Một số thuật toán nhận dạng vân tay 105 4.5.2 Nâng cấp ảnh vân tay đa mức xám sử dụng CNN 106 4.5.3 Phân tích đặc trưng vân tay dùng CNN 110 4.6 Kết luận 111 KẾT LUẬN 112 TÀI LIỆU THAM KHẢO 114 PHỤ LỤC 118 Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh Danh mục ký hiệu chữ viết tắt CNN CNN-UM DP DSP EDGE IC ODE VLSI Cellular Neural Network CNN-Universal Machine Driving Point Digital Signal Processing Edge Dection template Integrated Circuit Ordinary Differential Equation Very Large Scale Integration Mạng nơ ron tế bào Máy tính vạn CNN Điểm điều khiển Xử lý tín hiệu số Mẫu dị đường biên Mạch tích hợp Phương trình vi phân thường Độ tích hợp cao Danh mục bảng biểu Bảng 3.1: Ngôn ngữ diễn tả mô cho mẫu EDGE CSD (script) 81 Bảng 3.2: So sánh công nghệ xử lý ảnh số chuẩn xử lý ảnh tương tự, thời gian tính tốn μs (bao gồm thời gian truyền liệu) 85 Bảng 3.3: So sánh cấu trúc khác analogic CNN 86 Danh mục hình vẽ Hình 1.1: Cấu trúc mạng nơ ron tế bào tiêu chuẩn Hình 1.2: a) r=1 (lân cận 3x3), r=2 (lân cận 5x5) Hình 1.3: Các cell biên Hình 1.4: Mạch CNN với điều kiện biên cố định 10 Hình 1.5: Mạch CNN với điều kiện biên Neumann 11 Hình 1.6: Mạch CNN theo điều kiện biên tuần hồn (Toroidal) 11 Hình 1.7: sơ đồ đóng gói thường dùng 12 ˆ B ˆ 12 Hình 1.8: Cấu trúc băng ma trận A Hình 1.9: Ví dụ mạch vô nghiệm sau thời gian giới hạn T 13 Hình 1.10: Mạch có vơ số nghiệm riêng, với trạng thái ban đầu x(0)=0 14 Hình 1.11: Mạch có finite escape time 14 Hình 1.12: CNN có nghiệm đơn trị t≥0 15 Hình 1.13: Mạch điện tương đương 17 Hình 1.14: Cấu trúc phân lớp CNN 21 Hình 1.15: Phân lớp Zero-feedback (feedforward) ζ(0,B,z) 22 Hình 1.16: Phân lớp Zero-input (Autonomous) ζ(A, 0, z) 23 Hình 1.17: Phân lớp Uncoupled (scalar) ζ (Aº,B, z) 23 Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh Hình 1.18: Cấu trúc Cell CNN tiêu chuẩn C(i,j) 24 Hình 1.19: Hình ảnh minh họa tế bào C(i,j) điển hình nhận đầu vào từ nơ ron cảm biến phía bên trái nơ ron lân cận phía qua tế bào tương ứng 25 Hình 1.20: Lược đồ luồng tín hiệu hồi tiếp A kết hợp với mẫu A 26 Hình 1.21: Lược đồ dịng tín hiệu dẫn nạp đầu B kết hợp với mẫu B 26 Hình 2.1: Lân cận cell C(i,j) với r=1, r=2, r=3 27 Hình 2.2: Mơ hình cell 28 Hình 2.3: Đường đặc tính nguồn điều khiển phi tuyến 29 Hình 2.4: Đặc tính điện trở phi tuyến phương trình mạch tế bào 39 Hình 2.5: Mạch tương đương trạng thái cân cell CNN 39 Hình 2.6: a), b), c) Các định tuyến động điểm cân mạch tương đương với giá trị khác g(t) 40 Hình 2.6: d), e), f), g) Các định tuyến động điểm cân mạch tương đương với giá trị khác g(t) 41 Hình 2.7: Các mẫu vơ hướng tốn tử tế bào tương tác Đơn vị sử dụng 41 Hình 2.8: a) 1x2 CNN tế bào biên với điều kiện biên 0, y00 = y01 = y02 = y03 = y10 = y13 = y 20 = y 21 = y 22 = y 23 = 45 b) Đồ thị luồng liệu tương ứng 45 Hình 2.9: Dạng sóng nghiệm tuần hoàn x1( t), x ( t) quỹ đạo tương ưng trường h ợp α=2, β=2, x1 (0) = 0.1, x2 (0) = 0.1 46 Hình 2.10 : Dạng nghiệm hỗn độn x1 (t ), x2 (t ) quỹ đạo tương ứng với trường hợp α=2, β=-1.2, x1 (0) = 0.1, x2 (0) = 0.1 48 Hình 2.11: Phổ lượng tần số tính tốn số học từ nghiệm hỗ n loạn x1(t) x2(t) 49 Hình 2.12: Bản đồ Poincare trích xuất từ quỹ đạo hấp dẫn lạ thường hình 13c gọi “ hấp dẫn giầy nữ” 49 Hình 2.13 : Quỹ đạo hấp dẫn lạ thường CNN 3x3 với p1=1,25; p2=1,1; p3=1; s=3,2; r=4,4 giá trị ban đầu x(0)=(0,1;0,1;0,1) 50 Hình 3.1: Mơ tính tốn CNN kích thước 4x4 58 Hình 3.2: giá trị điều kiện khởi tạo, cell C(2,2) có giá trị khởi tạo 59 Hình 3.3: Trạng thái cuối tương ứng với trạng thái khởi tạo cho hình 3.2 60 Hình 3.4: Chế độ tạm thời cell C(2,2) tương ứng với điều kiện khởi tạo hình 3.2 60 Hình 3.5: Chọn trạng thái khởi tạo ban đầu 61 Hình 3.6: Trạng thái kết thúc tương ứng với trạng thái ban đầu cho hình 3.5 61 Hình 3.7: a/ đầu tương ứng với điều kiện khởi tạo hình 3.5, b/ Điểm cân ổn định hệ thống tương ứng với trọng thái khởi tạo hình 3.5 61 Hình 3.8: Điều kiện khởi tạo khác 62 Hình 3.9: Đầu CNN với quy luật thay đổi mẫu vơ hướng hình 2.7(a), (b) với điều kiện ban đầu cho hình 3.8 62 Hình 3.10: Trạng thái kết thúc tương ứng với đầu hình 3.9 62 Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh Hình 3.11: Các cell tức thời vị trí khác trong ảnh : trạng thái biến xij , : Biến đầu yij , ***: đầu trạng thái 65 Hình 3.12: Định tuyến động tương ứng với mẫu dò đường biên 67 Hình 3.13: Tế bào trạng thái đầu tức thời 30 nấc vị trí khác ảnh ví dụ 3.5 biểu diễn đường đậm mỏng tương ứng 71 Hình 3.14: Định tuyến trạng thái động đầu động trường hợp đặc biệt mức bù 0, ωij = 74 Hình 3.15: Trạng thái định tuyến tĩnh với ωij ≠ 75 Hình 3.16: Đồ thị dịch chuyển điểm điều khiển DP Γ x (ωij ) 76 Hình 3.16: Các vi xử lý vật lý cho nhiều tế bào CNN ảo 84 Hình 3.17: Giá trị hạn chế không đổi f h (.) 87 Hình 4.1: Thực erosion dilation ảnh nhị phân 93 Hình 4.2: Cấu trúc mắt người thành phần võng mạc 94 Hình 4.3: Các kiểu liên kết nơron võng mạc mơ hình CNN 97 Hình 4.4 Cấu trúc xử lý mơ hình võng mạc 99 Hình 4.5: Cấu trúc mô võng mạc CNN .100 Hình 4.8: Mạng CNN 2D .101 Hình 4.9: Mơ hình kết nối mạng nơron tế bào 102 Hình 4.10: Q trình tính toán mạng nơron tế bào 102 Hình 4.11: Kiến trúc bên tế bào xử lý 103 Hình 4.12: Sơ đồ khối máy tính thị giác .104 Hình 4.13: Máy tính thị giác PC104-plus Máy tính thị giác PC để bàn 104 Hình 4.11: Mẫu vân tay .105 Hình 4.14: Mẫu vân tay .105 Hình 4.15: Một số kiểu vân tay 105 Hình 4.16: Hệ thống nhận dạng vân tay 106 Hình 4.17: Nâng cấp ảnh vân tay dùng cân Histogram 107 Hình 4.18: Các mẫu điểm đường viền có tham số CNN (A, B, z) 108 Hình 4.19: Sơ đồ khối làm mảnh đỉnh vân 108 Hình 4.20: Sơ đồ khối tìm kiếm điểm đường viền 108 Hình 4.21: Cửa sổ 3x3 để trích đặc trưng 109 Hình 4.22: Sơ đồ khối trình matching vân tay dùng CNN 110 Hình 4.23: Kết thử nghiệm số phương pháp xử lý ảnh vân tay CNN 110 Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh Tạ Thị Kim Huệ Luận văn thạc sỹ MỞ ĐẦU Mục đích, đối tượng phạm vi nghiên cứu Máy tính điện tử đời 60 năm đến gần giới hạn vật lý kích thước tốc độ xử lý Sự đời mạng nơron tế bào CNN mở thời đại cho phát triển khoa học tính tốn tiếp cận đến phương thức xử lý phương thức cảm nhận hành động tổ chức thể sinh vật sống Các máy tính số loại máy logic với liệu rời rạc mã hóa theo hệ nhị phân Tính chất khả thực thuật tốn theo chương trình lưu nhớ Đây loại máy tính vạn xử lý số nguyên (Universal Machine on Integers) hay gọi máy Turing (Turing Machine) Các phép tính phép số học logic Thuật toán chuỗi logic phép tính Sự đời bóng bán dẫn năm 1948 vi mạch tích hợp IC (Integrated Circuit) năm 1960 tạo máy tính số có tính thực tiễn cao với giá thành rẻ trở thành loại hàng hóa thơng dụng Trước nhiều người tưởng hoạt động máy tính điện tử phản ánh chế hoạt động não người Tuy nhiên vấn đề trở nên rõ ràng nơron tế bào thần kinh có chế hoạt động hồn tồn khác Hệ nơron tính tốn thường xử lý mảng tín hiệu tương tự (analog) có tính liên tục thời gian biên độ Cấu trúc gồm nhiều lớp mảng 2chiều nơron có kết nối mạng cục (local) chủ yếu, kết nối tồn cục (global) khơng nhiều Có nơ ron tích hợp với tế bào cảm biến (sensing) tế bào tác động (actuating) Các nơron hoạt động với độ trễ thay đổi có chế hoạt động dạng sóng kích hoạt Các liệu kiện (event) mảng tín hiệu phụ thuộc không gian và/hoặc thời gian Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh Tạ Thị Kim Huệ Luận văn thạc sỹ Rõ ràng với tính chất nêu máy tính số khơng có khả tiếp cận đến khả xử lý não người, đến khả xử lý sinh vật sống Để chế tạo hệ thống điện tử có khả tính tốn tương tự hệ thần kinh này, đ òi hỏi phải thay đổi kiến trúc, thuật tốn cơng nghệ khả xử lý song song hàng vạn hàng triệu xử lý chip Hiện hầu hết tốn xử lý ảnh giải CNN với công cụ phát triển hệ thống thư viện hoàn chỉnh Ý nghĩa khoa học thực tiễn đề tài Sự đời CNN mở hướng cho phát triển khoa học tính tốn CNN cơng nghệ xử lý song song cực mạnh đa Mạng Nơron tế bào CNN giải pháp mở đầu cho loại máy tính vạn xử lý dịng mảng liệu Trong nhiều toán thực tế, việc xử lý ảnh thời gian thực yêu cầu bắt buộc Tuy nhiên phương pháp xử lý ảnh truyền thống lại đòi hỏi nhiều thời gian xử lý với ảnh có kích thước lớn Để đáp ứng u cầu người ta tìm kiếm nhiều phương pháp xử lý ảnh song song khác nhằm giảm thời gian xử lý Mạng nơ ron tế bào (Cellular Neural Network – CNN) công cụ xử lý ảnh thời gian thực hữu hiệu quan tâm nghiên cứu rộng rãi giới có nhiều ưu điểm có chất xử lý song song Nộ i dung luận văn Chương 1: Tìm hiểu cấu trúc mạng nơ ron tế bào CNN Phần trình bày tổng quan hình thành phát triển cơng nghệ mạng nơ-ron tế bào CNN, sở toán học xây dựng kiến trúc mạng CNN Chương 2: Các đặc tính mạng CNN Đưa số tính chất liên quan đến dải đặc tính động trạng thái ổn định mạng nơ ron tế bào đề cập, hệ động lực học mạng nơ ron tế bào phi tuyến có trễ, tính hỗn độn mạng nơ ron tế bào mối quan hệ CNN với phương trình vi phân đạo hàm riêng ô tô mát tế bào Chương 3: Mô mạng CNN Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh