Ứng dụng công nghệ mang nowrron tế bào vào bài toán lọc nhiễu ảnh

i ĐẠI HỌC THÁI NGUYÊN TRƢỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THÔNG LĂNG THỊ KHÁNH HẢI ỨNG DỤNG CƠNG NGHỆ MẠNG NƠRON TẾ BÀO VÀO BÀI TỐN LỌC NHIỄU ẢNH LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH Số hóa trung tâm học liệu THÁI NGUYÊN - 2013 http://www.lrc-tnu.edu.vn/ ii ĐẠI HỌC THÁI NGUYÊN TRƢỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THÔNG LỜI CAM ĐOAN Tôi xin cam đoan luận văn thực thiện, có hướng dẫn tận tình chu đáo người hướng dẫn TS Vũ Đức Thái Các nội dung tìm hiểu kết luận văn vấn đề Những số liệu bảng biểu, hình ảnh phục vụ cho phân tích, LĂNG THỊviệc KHÁNH HẢInhận xét, đánh giá thu thập từ nguồn khác có ghi phần tài liệu tham khảo, phạm vi hiểu biết tơi Nếu phát có gian lận tơi xin hồn tồn chịu trách nhiệmỨNG trước Hội đồng,CƠNG nhưNGHỆ kết luận văn TẾ BÀO DỤNG MẠNG NƠRON VÀO BÀI TOÁN LỌC NHIỄU ẢNH Thái Nguyên, ngày 15 tháng 10 năm 2013 Học viên Chuyên ngành: KHOA HỌC MÁY TÍNH Mã số: 60 48 01 01 Lăng Thị Khánh Hải LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH Ngƣời hƣớng dẫn khoa học: TS VŨ ĐỨC THÁI Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ THÁI NGUYÊN - 2013 iii MỤC LỤC Trang LỜI CAM ĐOAN i MỤC LỤC iii DANH MỤC CÁC KÍ HIỆU v DANH MỤC CÁC CHỮ VIẾT TẮT vi DANH MỤC BẢNG vi DANH MỤC HÌNH VẼ vii MỞ ĐẦU CHƢƠNG TỔNG QUAN VỀ MẠNG NƠRON TẾ BÀO CNN 1.1 Sự đời phát triển CNN CNN UM 1.2 Kiến trúc mạng nơ ron tế bào 12 1.2.1 Kiến trúc CNN tuyến tính 12 1.2.2 Kiến trúc CNN phi tuyến CNN trễ 16 1.2.3 Kiến trúc CNN nhiều lớp 17 1.2.4 Ba lớp CNN tuyến tính đơn giản 17 1.3 Máy tính vạn mạng nơ ron tế bào CNN UM 19 1.3.1 Sự phát triển máy tính điện tử 19 1.3.2 Máy tính vạn mạng nơ ron tế bào CNN UM 23 1.4 Tình hình nghiên cứu xử lý ảnh dùng CNN Việt Nam 24 CHƢƠNG XỬ LÝ ẢNH DÙNG MẠNG NƠ RON TẾ BÀO 26 2.1 Bài tốn xử lí ảnh CNN 26 2.1.1 Lọc nhiễu xử lý ảnh máy tính hệ lệnh 26 2.1.2 Giải pháp công nghệ 26 2.2 Sự cần thiết CNN xử lí ảnh 27 2.3 Xử lý ảnh dùng PDE 28 2.4 Xử lý ảnh dùng CNN kết đạt 29 Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ iv 2.5 Thiết kế mẫu cho mạng nơ ron tế bào 31 2.5.1 Vai trị tốn tử, tham số 31 2.5.2 Bộ mẫu - chương trình máy tính mạng nơron tế bào 34 2.5.3 Các phương pháp thiết kế mẫu cho CNN 38 2.6 Thiết kế mẫu giải PDE khuếch tán 41 2.7 Sử dụng phương trình khuếch tán xử lý ảnh máy tính hệ lệnh 41 CHƢƠNG ỨNG DỤNG CÔNG NGHỆ MẠNG NƠRON TẾ BÀO CHO BÀI TOÁN KHỬ NHIỄU 47 3.1 Bài toán khử nhiễu với CNN 47 3.1.1 Điều kiện biên tiêu biểu cho CNN 47 3.1.2 Q trình ứng dụng CNN vào tốn khử nhiễu 49 3.1.3 Quá trình tìm mẫu phương pháp học 51 3.2 Mẫu CNN khử nhiễu đề xuất 52 3.3 Cài đặt thử nghiệm, mẫu khử nhiễu 52 3.3.1 Chuẩn bị 52 3.3.2 Cài đặt 53 3.3.3 Thử nghiệm 01: mẫu DENOISSING CNN 01 58 3.3.4 Thử nghiệm 02: mẫu DENOISSING CNN 02 59 3.3.5 Thử nghiệm 03: mẫu DENOISSING CNN 03 60 3.4 Nhận xét & đánh giá 61 KẾT LUẬN 63 TÀI LIỆU THAM KHẢO 64 Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ v DANH MỤC CÁC KÍ HIỆU Ý NGHĨA CÁC KÍ HIỆU u, v (in đậm) Ký hiệu cho đại lượng véc tơ phương trình A Mẫu A mạng nơron tế bào mẫu liên kết trọng số hồi tiếp từ đầu láng giềng tế bào Auv trọng số liên kết từ lớp u đến lớp v kiến trúc mạng nơron tế bào đa lớp B Mẫu B mạng nơron tế bào mẫu liên kết trọng số đầu vào láng giềng tế bào Buv trọng số liên kết tế bào từ lớp u đến lớp v kiến trúc mạng nơron tế bào đa lớp z Giá trị ngưỡng hệ mạng nơron tế bào Toán tử nhân chập xij(t) Giá trị trạng thái tế bào mạng nơron tế bào hai chiều (MxN) uij Điện áp vào tế bào ij xij Điện áp trạng thái tế bào ij yij Điện áp đầu tế bào ij Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ vi DANH MỤC CÁC CHỮ VIẾT TẮT CNN Công nghệ mạng nơron tế bào (Cellular Neural Network) CNN-UM Máy tính mạng nơron tế bào (CNN-Universal Machine) PDE Phương trình vi phân đạo hàm riêng (Partial Differential Equation): (trong luận văn dùng thuật ngữ tiếng Việt “phương trình đạo hàm riêng”) ODE Phương trình vi phân thường (Ordinary Deferential Equation) CELL Tế bào FPGA Mảng cổng dạng trường lập trình (Field Programmable Gate Array) DSP Bộ xử lý tín hiệu số (Digital Signal Processor) fps Số khung ảnh giây (frame per second) 1D Một chiều (1 Dimention) 2D Hai chiều (2 Dimentions) 3D Ba chiều (3 Dimentions) Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ vii DANH MỤC BẢNG Bảng 1.1 Kích thước mảng CPU chip CNN DANH MỤC HÌNH VẼ Trang Hình 1.1 Các mức phần mềm công cụ sử dụng ngôn ngữ Alpha Hình 1.2 Eye- RIS 10 Hinh 1.3 CNN tiêu chuẩn kích thước MxN 12 Hình 1.4 Mạch điện tế bào 13 Hình 1.5 Dạng đồ thị hàm tế bào 14 Hình 1.6 Sơ đồ hoạt động tế bào 15 Hình 1.7 Một số kiểu lưới CNN 16 Hình 1.8 Cấu trúc hệ thống tế bào C(i,j) đầu vào 18 Hình 1.9 cấu trúc hệ thống tế bào C(i,j) trung tâm khơng ghép cặp 19 Hình 1.10 Cấu trúc máy tính CNN-UM 23 Hình 2.1 Mẫu tìm biên hiệu mẫu 37 Hình 2.2 Mẫu thiết lập ngưỡng 38 Hình 2.3 Sơ đồ bước thiết kế mẫu theo phương pháp trực tiếp 40 Hình 3.1 Mạch thể điều kiện biên cố định (Dirichlet) 47 Hình 3.2 Mạch thể điều kiện biên Neumann 48 Hình 3.3 Mạch thể điều kiện biên tuần hoàn 48 Hình 3.4 Mơ hình tìm hiểu ứng dụng CNN khử nhiễu 50 Hình 3.5 Quá trình tìm mẫu phương pháp học 51 Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ MỞ ĐẦU Xử lý ảnh quy mơ cơng nghiệp bắt đầ tính chun dụ ững máy x Q trình số hóa ảnh thực gây nhiễu cho ảnh số Nhiễu ảnh số đa dạng phức tạp Ta ngầm hiểu nhiễu phần tử ảnh mà giá trị trội so với phần tử ảnh xung quanh Xét theo tần số phần tử nhiễu có tần số cao so với điểm xung quanh Tuy nhiên thấy rõ khó phân biệt điểm đặc biệt ảnh với nhiễu, ví dụ vết nhăn quần áo vết gập ảnh có trước số hóa Cơ sở để xử lý điểm ảnh bị nhiễ điểm ảnh lân cận Thay giá trị điểm ảnh cần xử lý tổ hợp giá trị điểm ảnh lân cận Việc thay dựa giả định điểm ảnh lân cận có giá trị gần giống với điểm ảnh cầ Mạng nơ ron tế bào (Cellular Neural Network-CNN) công cụ xử lý ảnh thời gian thực hiệ ợc quan tâm nghiên cứu rộng rãi giới có nhiều ưu điểm có chất xử lý song song Ảnh số mảng số thực hai chiều kích thước MxN phần tử ảnh tế bào C(i,j) i = 1, 2, , M, j = 1, 2, , N, biểu thị mức xám ảnh vị trí (i,j) tương ứng Ảnh coi ảnh nhị phân C(i,j) nhận giá trị Các đặc trưng ảnh thường bao gồm thành phần như: mật độ xám, phân bố xác suất, phân bố không gian Các ảnh thu vào để xử lý máy tính nói chung thường khơng có chất lượng tốt (ngoại trừ chúng thu điều kiện phịng thí nghiệm) Trong ảnh ngồi đối tượng cần quan tâm cịn nhiều đối tượng nhiễu Các nhiễu làm giảm nhiều làm khả biểu lộ Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ thông tin đối tượng ảnh Có nhiều loại nhiễu nhiễu cộng, nhiễu nhân, nhiễu xung Trên giới việc nghiên cứu khử nhiễu tiếp tục quan tâm.Trong khoảng năm trở lại nghiên cứu khử nhiễu xử lý ảnh chủ yếu sử dụng công cụ ứng dụng wavelet, fuzzy… Được gợi ý TS Vũ Đức Thái nhận thấy tính thiết thực vấn đề này, em chọn đề tài: “Ứng dụng công nghệ mạng nơ ron tế bào vào toán lọc nhiễu ảnh” để làm đề tài luận văn tốt nghiệp Luận văn gồm chương với nội dung sau: Chƣơng Tổng quan mạng nơ ron tế bào CNN Chƣơng Xử lý ảnh dùng mạng CNN Chƣơng Ứng dụng công nghệ mạng nơron tế bào cho toán lọc nhiễu Mặc dù nỗ lực, song thời gian kinh nghiệm nghiên cứu khoa học cịn hạn chế nên khơng tránh khỏi thiếu sót Em mong nhận góp ý thầy cô bạn bè đồng nghiệp để hiểu biết ngày hồn thiện Qua luận văn em xin chân thành cảm ơn TS Vũ Đức Thái, Trường Đại học Công nghệ thông tin Truyền thông - Đại học Thái Nguyên tận tình giúp đỡ, động viên, định hướng, hướng dẫn em nghiên cứu hoàn thành luận văn Em xin cảm ơn thầy cô Viện Công nghệ thông tin, thầy cô giáo Trường Đại học Công nghệ thông tin Truyền thông giảng dạy giúp đỡ em hai năm học, cám ơn giúp đỡ nhiệt tình bạn đồng nghiệp Thái nguyên, ngày 15 tháng 10 năm 2013 Học viên Lăng Thị Khánh Hải Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ CHƢƠNG TỔNG QUAN VỀ MẠNG NƠRON TẾ BÀO CNN Trong chương 1, luận văn có sử dụng số tài liệu tham khảo sau: [2] ,3] [6] 1.1 Sự đời phát triển CNN CNN UM Máy tính điện tử hoạt động sở số nhị phân, tính tốn NeumanJanos, Goldstine Burks phát minh từ năm 1946 Chúng nhà khoa học, phát minh hệ sau hoàn chỉnh phát triển Máy tính điện tử, mạng máy tính điện tử làm thay đổi mặt giới, làm thay đổi chất nhiều hoạt động kỹ thuật, kinh tế, xã hội công cụ hữu ích thiếu người Năng lực tính tốn máy tính điện tử ngày có nhu cầu phải cao nhu cầu người ngày cao hoạt động thường ngày, hoạt động khám phá trinh phục tự nhiên Đã nửa thời gian kỷ trôi qua kiến trúc nguyên lý hoạt động hệ thống tính tốn khơng có khác so với ngun lý NeumanJanos đưa năm 1946 Việc tăng tốc độ tính toán dựa vào cải tiến tốc độ xử lý trung tâm CPU theo nguyên lý tất nhiên phải dừng lại giới hạn tính chất vật lý vật liệu bán dẫn Mạng Nơron tế bào (Cellular Neural Network), Leon O Chua L.Yang giới thiệu năm 1988 sau máy tính vạn tương tự logic CNN UM (CNN Universal Machine) xử lý theo luồng giới thiệu năm 1992 Leon O Chua Tamás Roska loại máy tính xử lý song song thật sự, mở hướng cho phát triển khoa học tính tốn, tiếp cận đến phương thức xử lý phương thức cảm nhận hành động tổ chức thể sinh vật sống Các chip CNN thực Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ 50 Hình 3.4 Mơ hình tìm hiểu ứng dụng CNN khử nhiễu Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ 51 3.1.3 Quá trình tìm mẫu phương pháp học Bƣớc Nạp ảnh đầu vào; Bƣớc Đưa yêu cầu xử lí (ví dụ làm mờ, dò biên, dãn ảnh…); Bƣớc Thực xử lý logic analogic để tìm mẫu; Bƣớc Thực xử lí song song với mẫu tìm được; Bƣớc Đánh giá kết thu được, đầu chưa hội tụ đến đầu biên lí tưởng tiến hành quay trở lại bước đạt mẫu CNN tối ưu Hình 3.5 Quá trình tìm mẫu phương pháp học Khi tìm mẫu tối ưu, ta áp dụng thực xử lý cho ảnh đầu vào, thuật toán sau: Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ 52 Bƣớc 1: Nạp ảnh đầu vào; Bƣớc 2: Nạp mẫu xử lý (tùy yêu cầu xử lý để nạp mẫu thích hợp); Bƣớc 3: Chạy chương trình; Bƣớc 4: Đưa kết xử lý 3.2 Mẫu CNN khử nhiễu đề xuất DENOISSING CNN 01: A 1 1 1 1 B 0 0 0 0 0 0 0 0 Z= -1 Z= -1 DENOISSING CNN 02: A 1 1 B DENOISSING CNN 03: A 0.1 0.15 0.1 0.15 0.15 0.1 0.15 0.1 B 0 0 0 0 3.3 Cài đặt thử nghiệm, mẫu khử nhiễu 3.3.1 Chuẩn bị Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ Z= 53 Chuẩn bị: Ảnh nhị phân (hoặc ảnh xám) P; Đầu vào: U(t)=P; Khởi tạo giá trị: x(0) = tùy chọn giá trị (ta chọn xij (0)=0); Điều kiện biên: sử dụng giá trị cố định uij = 0, yij = cho tất tế bào ảo, có nghĩa [U]=[Y]= [0]; Đầu ra: Y(t) Y(∞) = cho ảnh nhị phân khử bớt nhiễu P’ Input Image: Image 01 Image 02 3.3.2 Cài đặt - Sử dụng Mẫu CNN tìm tiến hành phần mềm chuẩn Candy, ứng dụng Java CNN So sánh kết thu Candy Java CNN 3.3.2.1 Phần mềm Candy Bước Cài đặt Candy_Setup.exe - Vào link website (http://www-inst.eecs.berkeley.edu/~ee129/) tải phần cài đặt, lưu lại vào máy tính - Click “Candy_Setup.exe” tiến hành cài đặt Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ 54 Bước Chạy ứng dụng; Giao diện chính: - Những hình ảnh xử lý nên nạp hình từ đầu Để làm điều này, nhấp vào “File/open image”, sau hình sau xuất Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ 55 Nếu chọn thư mục D tập tin "anhmau2.bmp" danh sách File Name, hình ảnh sau xuất hiện: Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ 56 - Để xử lý hình ảnh hiển thị hình, chọn “Template Runner” (xem trợ giúp Help/Menu Interface/Template) + Lựa chọn Mẫu Template (ở chọn Average Median,… ); + Để chạy Click “script” box Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ 57 Kết quả: Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ 58 3.3.2.2 Mô CNN với chương trình Java CNN Giao diện 3.3.3 Thử nghiệm 01: mẫu DENOISSING CNN 01 A 1 1 1 1 Số hóa trung tâm học liệu B 0 0 0 0 http://www.lrc-tnu.edu.vn/ Z= -1 59 Kết (1) Input Output (T = 0.3s) Image 01 Image 02 3.3.4 Thử nghiệm 02: mẫu DENOISSING CNN 02 A 1 1 B 0 0 0 0 Z= Kết (2) Input Số hóa trung tâm học liệu Output (T = 0.1s) http://www.lrc-tnu.edu.vn/ -1 60 Image 01 Image 02 Input Output (T = 0.3s) Image 01 Image 02 3.3.5 Thử nghiệm 03: mẫu DENOISSING CNN 03 A 0.1 0.15 0.1 0.15 0.15 0.1 0.15 0.1 B 0 0 0 0 Kết (3) Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ Z= 61 Input Image 01 Output (T = 0.9s) Image 02 Input Output (T = 0.5s) Image 01 Image 02 3.4 Nhận xét & đánh giá Từ kết thu áp dụng 03 mẫu DENOISSING CNN 01, DENOISSING CNN 02, DENOISSING CNN 03, ta có số đánh sau: Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ 62 Với mẫu DENOISSING CNN 01, DENOISSING CNN 02 Kết quả, thời gian thực giống nhau, chất lượng ảnh thu tốt Nhiễu ảnh loại bỏ Với mẫu DENOISSING CNN 03 Thời gian thực lâu hơn, tỉ lệ nhiễu loại thấp so với 02 mẫu đầu Ảnh thu mờ ảnh ban đầu, biên ảnh không rõ nét Với 03 mẫu đề xuất sử dụng để khử nhiễu ảnh Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ 63 KẾT LUẬN Luận văn giới thiệu kiến trúc, hoạt động mạng nơron tế bào, phát triển công nghệ mạng nơron tế bào ứng dụng CNN lĩnh vực, qua thể ưu vượt trội tốc độ tính tốn, kích thước liệu Tìm hiểu số phương pháp xử lí ảnh sử dụng cơng nghệ CNN Ứng dụng vào tốn khử nhiễu ảnh: từ phương pháp thiết kế mẫu (A, B, z), tiến hành thử nghiệm đưa 03 mẫu đề nghị DENOISSING CNN 01, DENOISSING CNN 02, DENOISSING CNN 03 phần mềm Candy, phần mềm mô Java CNN Tuy nhiên luận văn hạn chế, bước đầu tiến hành thử nhiệm với ảnh hai chiều trạng thái đầu vào mã hóa theo mã nhị phân, ảnh đa cấp xám, mô máy tính PC (u cầu máy có cấu hình từ Pentium cài đặt jdk 1.5.0 trở lên) Chưa thực việc thiết kế kiến trúc phần cứng chip CNN nên kết tính tốn, tốc độ chưa thể rõ Trong thời gian tới tìm hiểu phương pháp công nghệ xử lý song song cho thao tác khử nhiễu ảnh tốn thời gian thực, cấu hình chip FPGA có tài nguyên lớn cho toán Tiếp tục thử nghiệm đề xuất nhiều mẫu bổ sung thêm cho thư viện mẫu Ứng dụng hiệu tốn thực tế u cầu Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ 64 TÀI LIỆU THAM KHẢO I Tiếng Việt Phạm Thượng Cát (2007), “Hợp tác nghiên cứu phát triển hệ thống xử lý ảnh nhanh sở áp dụng công nghệ mạng Nơron phi tuyến”, Báo cáo tổng kết đề tài nghị định thư Phạm Thượng Cát (2007),“Máy tính vạn mạng nơ ron tế bào CNN UM: Một hướng phát triển công nghệ thông tin”,Kỷ yếu Hội nghị Khoa học 30 năm thành lập Viện Công nghệ Thông Tin Phạm Đức Long (2011), Phát triển số thuật toán xử lý ảnh sử dụng mạng Nơron tế bào, luận án tiến sĩ Toán học Vũ Đức Thái (2011), Nghiên cứu ứng dụng công nghệ mạng nơ ron tế bào CNN vào việc giải phương trình vi phân đạo hàm riêng, Luận án tiến sĩ Toán học Đỗ Năng Tồn, Phạm Việt Bình (2007), Giáo trình môn học Xử lý ảnh, http://www.ebook.edu.vn/?page=1.39&view=13862 II Tiếng Anh Angela Slavova, Cellular Neural Networks: Dynamics Modelling, Kluwer Academic Publishers 2003 and Analogic Computer Ltd http://www.analogic-computer.com http://wwwinst.eecs.berkeley.edu/~ee129/ http://www.ce.unipr.it/research/pardis/CNN/cnn.html 10 http://www.analogic-computers.com 11 http://www2.syscon.com/itsg/virtualcd/java/archives/0705/heaton/index.html Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ ... CHƢƠNG ỨNG DỤNG CÔNG NGHỆ MẠNG NƠRON TẾ BÀO CHO BÀI TOÁN KHỬ NHIỄU 47 3.1 Bài toán khử nhiễu với CNN 47 3.1.1 Điều kiện biên tiêu biểu cho CNN 47 3.1.2 Quá trình ứng dụng. .. tài: ? ?Ứng dụng công nghệ mạng nơ ron tế bào vào toán lọc nhiễu ảnh? ?? để làm đề tài luận văn tốt nghiệp Luận văn gồm chương với nội dung sau: Chƣơng Tổng quan mạng nơ ron tế bào CNN Chƣơng Xử lý ảnh. .. hình CNN lớp phức ứng dụng xử lý ảnh, thuật toán lai giảm nhiễu, lọc ảnh, sơ đồ cứng hóa thuật tốn lai, nghiên cứu ứng dụng camera CNN nhận dạng hình ảnh robot tự động sử dụng công nghiệp… Hiện