Ứng dụng công nghệ mạng nơron tế bào vào bài toán lọc nhiễu ảnh

ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THÔNG LĂNG THỊ KHÁNH HẢI ỨNG DỤNG CƠNG NGHỆ MẠNG NƠRON TẾ BÀO VÀO BÀI TỐN LỌC NHIỄU ẢNH LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH THÁI NGUYÊN - 2013 Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC CÔNG NGHỆ THÔNG TIN VÀ TRUYỀN THÔNG - LĂNG THỊ KHÁNH HẢI ỨNG DỤNG CÔNG NGHỆ MẠNG NƠRON TẾ BÀO VÀO BÀI TOÁN LỌC NHIỄU ẢNH Chuyên ngành: KHOA HỌC MÁY TÍNH Mã số: 60 48 01 01 LUẬN VĂN THẠC SĨ KHOA HỌC MÁY TÍNH Người hướng dẫn khoa học: TS VŨ ĐỨC THÁI THÁI NGUYÊN - 2013 Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ i LỜI CAM ĐOAN Tôi xin cam đoan luận văn thực thiện, có hướng dẫn tận tình chu đáo người hướng dẫn TS Vũ Đức Thái Các nội dung tìm hiểu kết luận văn vấn đề Những số liệu bảng biểu, hình ảnh phục vụ cho việc phân tích, nhận xét, đánh giá thu thập từ nguồn khác có ghi phần tài liệu tham khảo, phạm vi hiểu biết Nếu phát có gian lận tơi xin hoàn toàn chịu trách nhiệm trước Hội đồng, kết luận văn Thái Nguyên, ngày 15 tháng 10 năm 2013 Học viên Lăng Thị Khánh Hải Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ ii MỤC LỤC Trang LỜI CAM ĐOAN i MỤC LỤC ii DANH MỤC CÁC KÍ HIỆU iv DANH MỤC CÁC CHỮ VIẾT TẮT v DANH MỤC BẢNG vi DANH MỤC HÌNH VẼ vi MỞ ĐẦU CHƢƠNG TỔNG QUAN VỀ MẠNG NƠRON TẾ BÀO CNN 1.1 Sự đời phát triển CNN CNN UM 1.2 Kiến trúc mạng nơ ron tế bào 11 1.2.1 Kiến trúc CNN tuyến tính 11 1.2.2 Kiến trúc CNN phi tuyến CNN trễ 15 1.2.3 Kiến trúc CNN nhiều lớp 16 1.2.4 Ba lớp CNN tuyến tính đơn giản 16 1.3 Máy tính vạn mạng nơ ron tế bào CNN UM 18 1.3.1 Sự phát triển máy tính điện tử 18 1.3.2 Máy tính vạn mạng nơ ron tế bào CNN UM 22 1.4 Tình hình nghiên cứu xử lý ảnh dùng CNN Việt Nam 23 CHƢƠNG XỬ LÝ ẢNH DÙNG MẠNG NƠ RON TẾ BÀO 25 2.1 Bài toán xử lí ảnh CNN 25 2.1.1 Lọc nhiễu xử lý ảnh máy tính hệ lệnh 25 2.1.2 Giải pháp công nghệ 25 2.2 Sự cần thiết CNN xử lí ảnh 26 2.3 Xử lý ảnh dùng PDE 27 2.4 Xử lý ảnh dùng CNN kết đạt 28 Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ iii 2.5 Thiết kế mẫu cho mạng nơ ron tế bào 30 2.5.1 Vai trò toán tử, tham số 30 2.5.2 Bộ mẫu - chương trình máy tính mạng nơron tế bào 32 2.5.3 Các phương pháp thiết kế mẫu cho CNN 36 2.6 Thiết kế mẫu giải PDE khuếch tán 38 2.7 Sử dụng phương trình khuếch tán xử lý ảnh máy tính hệ lệnh 38 CHƢƠNG ỨNG DỤNG CƠNG NGHỆ MẠNG NƠRON TẾ BÀO CHO BÀI TỐN KHỬ NHIỄU 44 3.1 Bài toán khử nhiễu với CNN 44 3.1.1 Điều kiện biên tiêu biểu cho CNN 44 3.1.2 Quá trình ứng dụng CNN vào toán khử nhiễu 46 3.1.3 Quá trình tìm mẫu phương pháp học 47 3.2 Mẫu CNN khử nhiễu đề xuất 48 3.3 Cài đặt thử nghiệm, mẫu khử nhiễu 48 3.3.1 Chuẩn bị 48 3.3.2 Cài đặt 49 3.3.3 Thử nghiệm 01: mẫu DENOISSING CNN 01 54 3.3.4 Thử nghiệm 02: mẫu DENOISSING CNN 02 55 3.3.5 Thử nghiệm 03: mẫu DENOISSING CNN 03 56 3.4 Nhận xét & đánh giá 57 KẾT LUẬN 58 TÀI LIỆU THAM KHẢO 59 Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ iv DANH MỤC CÁC KÍ HIỆU Ý NGHĨA CÁC KÍ HIỆU u, v (in đậm) Ký hiệu cho đại lượng véc tơ phương trình A Mẫu A mạng nơron tế bào mẫu liên kết trọng số hồi tiếp từ đầu láng giềng tế bào Auv trọng số liên kết từ lớp u đến lớp v kiến trúc mạng nơron tế bào đa lớp B Mẫu B mạng nơron tế bào mẫu liên kết trọng số đầu vào láng giềng tế bào Buv trọng số liên kết tế bào từ lớp u đến lớp v kiến trúc mạng nơron tế bào đa lớp z Giá trị ngưỡng hệ mạng nơron tế bào Toán tử nhân chập xij(t) Giá trị trạng thái tế bào mạng nơron tế bào hai chiều (MxN) uij Điện áp vào tế bào ij xij Điện áp trạng thái tế bào ij yij Điện áp đầu tế bào ij Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ v DANH MỤC CÁC CHỮ VIẾT TẮT CNN Công nghệ mạng nơron tế bào (Cellular Neural Network) CNN-UM Máy tính mạng nơron tế bào (CNN-Universal Machine) PDE Phương trình vi phân đạo hàm riêng (Partial Differential Equation): (trong luận văn dùng thuật ngữ tiếng Việt “phương trình đạo hàm riêng”) ODE Phương trình vi phân thường (Ordinary Deferential Equation) CELL Tế bào FPGA Mảng cổng dạng trường lập trình (Field Programmable Gate Array) DSP Bộ xử lý tín hiệu số (Digital Signal Processor) fps Số khung ảnh giây (frame per second) 1D Một chiều (1 Dimention) 2D Hai chiều (2 Dimentions) 3D Ba chiều (3 Dimentions) Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ vi DANH MỤC BẢNG Bảng 1.1 Kích thước mảng CPU chip CNN DANH MỤC HÌNH VẼ Trang Hình 1.1 Các mức phần mềm công cụ sử dụng ngôn ngữ Alpha Hình 1.2 Eye- RIS 10 Hinh 1.3 CNN tiêu chuẩn kích thước MxN 12 Hình 1.4 Mạch điện tế bào 12 Hình 1.5 Dạng đồ thị hàm tế bào 13 Hình 1.6 Sơ đồ hoạt động tế bào 14 Hình 1.7 Một số kiểu lưới CNN 15 Hình 1.8 Cấu trúc hệ thống tế bào C(i,j) đầu vào 17 Hình 1.9 cấu trúc hệ thống tế bào C(i,j) trung tâm không ghép cặp 18 Hình 1.10 Cấu trúc máy tính CNN-UM 22 Hình 2.1 Mẫu tìm biên hiệu mẫu 35 Hình 2.2 Mẫu thiết lập ngưỡng 35 Hình 2.3 Sơ đồ bước thiết kế mẫu theo phương pháp trực tiếp 37 Hình 3.1 Mạch thể điều kiện biên cố định (Dirichlet) 44 Hình 3.2 Mạch thể điều kiện biên Neumann 45 Hình 3.3 Mạch thể điều kiện biên tuần hoàn 45 Hình 3.4 Mơ hình tìm hiểu ứng dụng CNN khử nhiễu 46 Hình 3.5 Quá trình tìm mẫu phương pháp học 47 Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ MỞ ĐẦUU Xử lý ảnh quy mô công nghiệp bắt đầ tính chun dụ ững máy x Q trình số hóa ảnh thực gây nhiễu cho ảnh số Nhiễu ảnh số đa dạng phức tạp Ta ngầm hiểu nhiễu phần tử ảnh mà giá trị trội so với phần tử ảnh xung quanh Xét theo tần số phần tử nhiễu có tần số cao so với điểm xung quanh Tuy nhiên thấy rõ khó phân biệt điểm đặc biệt ảnh với nhiễu, ví dụ vết nhăn quần áo vết gập ảnh có trước số hóa Cơ sở để xử lý điểm ảnh bị nhiễ điểm ảnh lân cận Thay giá trị điểm ảnh cần xử lý tổ hợp giá trị điểm ảnh lân cận Việc thay dựa giả định điểm ảnh lân cận có giá trị gần giống với điểm ảnh cầ Mạng nơ ron tế bào (Cellular Neural Network-CNN) công cụ xử lý ảnh thời gian thực hiệ ợc quan tâm nghiên cứu rộng rãi giới có nhiều ưu điểm có chất xử lý song song Ảnh số mảng số thực hai chiều kích thước MxN phần tử ảnh tế bào C(i,j) i = 1, 2, , M, j = 1, 2, , N, biểu thị mức xám ảnh vị trí (i,j) tương ứng Ảnh coi ảnh nhị phân C(i,j) nhận giá trị Các đặc trưng ảnh thường bao gồm thành phần như: mật độ xám, phân bố xác suất, phân bố không gian Các ảnh thu vào để xử lý máy tính nói chung thường khơng có chất lượng tốt (ngoại trừ chúng thu điều kiện phịng thí nghiệm) Trong ảnh ngồi đối tượng cần quan tâm nhiều đối tượng nhiễu Các nhiễu làm giảm nhiều làm khả biểu lộ thơng tin đối tượng ảnh Có nhiều loại nhiễu nhiễu cộng, Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ nhiễu nhân, nhiễu xung Trên giới việc nghiên cứu khử nhiễu tiếp tục quan tâm.Trong khoảng năm trở lại nghiên cứu khử nhiễu xử lý ảnh chủ yếu sử dụng công cụ ứng dụng wavelet, fuzzy… Được gợi ý TS Vũ Đức Thái nhận thấy tính thiết thực vấn đề này, em chọn đề tài: “Ứng dụng công nghệ mạng nơ ron tế bào vào toán lọc nhiễu ảnh” để làm đề tài luận văn tốt nghiệp Luận văn gồm chương với nội dung sau: Chƣơng Tổng quan mạng nơ ron tế bào CNN Chƣơng Xử lý ảnh dùng mạng CNN Chƣơng Ứng dụng công nghệ mạng nơron tế bào cho toán lọc nhiễu Mặc dù nỗ lực, song thời gian kinh nghiệm nghiên cứu khoa học cịn hạn chế nên khơng tránh khỏi thiếu sót Em mong nhận góp ý thầy bạn bè đồng nghiệp để hiểu biết ngày hồn thiện Qua luận văn em xin chân thành cảm ơn TS Vũ Đức Thái, Trường Đại học Công nghệ thông tin Truyền thông - Đại học Thái Nguyên tận tình giúp đỡ, động viên, định hướng, hướng dẫn em nghiên cứu hoàn thành luận văn Em xin cảm ơn thầy cô Viện Công nghệ thông tin, thầy cô giáo Trường Đại học Công nghệ thông tin Truyền thông giảng dạy giúp đỡ em hai năm học, cám ơn giúp đỡ nhiệt tình bạn đồng nghiệp Thái nguyên, ngày 15 tháng 10 năm 2013 Học viên Lăng Thị Khánh Hải Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ 45 Các tế bào ảo bên phải: yi,N+1 = yi,N; ui,N+1 = ui,N , i = 1, 2, …, M Các tế bào ảo bên trái: y0,j = y1,j; u0,j = u1j , j = 1, 2, …, N Các tế bào ảo bên trái: yM+1,j = yMj; uM+1,j = uMj , j = 1, 2, …, N Hình 3.2 Mạch thể điều kiện biên Neumann Các điều kiện biên tuần hoàn (Toroidal) Các tế bào ảo bên trái: yi,0 = yi,N; ui,0 = ui,N , i = 1, 2, …, M Các tế bào ảo bên phải: yi,N+1 = yi,1; ui,N+1 = ui,1 , i = 1, 2, …, M Các tế bào ảo bên trái: y0,j = yMj; u0,j = uMj , Các tế bào ảo bên trái: yM+1,j = y1j; uM+1,j = u1j , j = 1, 2, …, N j = 1, 2, …, N Hình 3.3 Mạch thể điều kiện biên tuần hoàn Xác định cell từ hàng với cell tương ứng hàng dưới, xác định cell từ cột bên trái với cell tương ứng cột bên phải Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ 46 3.1.2 Q trình ứng dụng CNN vào tốn khử nhiễu Việc nghiên cứu tiến hành xây dựng trọng số liên kết sở CNN (các mẫu - template), thuật toán nhà khoa học nghiên cứu CNN tìm tập hợp, xếp thành thư viện chuẩn Thư viện cập nhật thêm mẫu thủ tục Phối hợp mẫu thủ tục giải nhiều nhiệm vụ tính tốn xử lý song song CNN Bên cạnh đó, việc xây dựng mơ hình mới, tìm mẫu mới, xây dựng thủ tục để giải nhiệm vụ tính tốn xử lý tiến hành Để ứng dụng CNN vào tốn khử nhiễu, ta tiến hành: Tìm hiểu Kiến trúc mạng CNN Tìm hiểu Phương pháp khử nhiễu xử lí ảnh Tìm hiểu phương pháp thiết kế mẫu CNN Đề xuất mẫu CNN khử nhiễu ảnh Phương pháp học Mẫu CNN tối ưu Hình 3.4 Mơ hình tìm hiểu ứng dụng CNN khử nhiễu Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ 47 3.1.3 Quá trình tìm mẫu phương pháp học Bƣớc Nạp ảnh đầu vào; Bƣớc Đưa yêu cầu xử lí (ví dụ làm mờ, dò biên, dãn ảnh…); Bƣớc Thực xử lý logic analogic để tìm mẫu; Bƣớc Thực xử lí song song với mẫu tìm được; Bƣớc Đánh giá kết thu được, đầu chưa hội tụ đến đầu biên lí tưởng tiến hành quay trở lại bước đạt mẫu CNN tối ưu Hình 3.5 Quá trình tìm mẫu phương pháp học Khi tìm mẫu tối ưu, ta áp dụng thực xử lý cho ảnh đầu vào, thuật toán sau: Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ 48 Bƣớc 1: Nạp ảnh đầu vào; Bƣớc 2: Nạp mẫu xử lý (tùy yêu cầu xử lý để nạp mẫu thích hợp); Bƣớc 3: Chạy chương trình; Bƣớc 4: Đưa kết xử lý 3.2 Mẫu CNN khử nhiễu đề xuất DENOISSING CNN 01: A 1 1 1 1 B 0 0 0 0 0 0 0 0 Z= -1 Z= -1 DENOISSING CNN 02: A 1 1 B DENOISSING CNN 03: A 0.1 0.15 0.1 0.15 0.15 0.1 0.15 0.1 B 0 0 0 0 Z= 3.3 Cài đặt thử nghiệm, mẫu khử nhiễu 3.3.1 Chuẩn bị Chuẩn bị: Ảnh nhị phân (hoặc ảnh xám) P; Đầu vào: U(t)=P; Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ 49 Khởi tạo giá trị: x(0) = tùy chọn giá trị (ta chọn xij (0)=0); Điều kiện biên: sử dụng giá trị cố định uij = 0, yij = cho tất tế bào ảo, có nghĩa [U]=[Y]= [0]; Đầu ra: Y(t) Y(∞) = cho ảnh nhị phân khử bớt nhiễu P’ Input Image: Image 01 Image 02 3.3.2 Cài đặt - Sử dụng Mẫu CNN tìm tiến hành phần mềm chuẩn Candy, ứng dụng Java CNN So sánh kết thu Candy Java CNN 3.3.2.1 Phần mềm Candy Bước Cài đặt Candy_Setup.exe - Vào link website (http://www-inst.eecs.berkeley.edu/~ee129/) tải phần cài đặt, lưu lại vào máy tính - Click “Candy_Setup.exe” tiến hành cài đặt Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ 50 Bước Chạy ứng dụng; Giao diện chính: - Những hình ảnh xử lý nên nạp hình từ đầu Để làm điều này, nhấp vào “File/open image”, sau hình sau xuất Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ 51 Nếu chọn thư mục D tập tin "anhmau2.bmp" danh sách File Name, hình ảnh sau xuất hiện: Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ 52 - Để xử lý hình ảnh hiển thị hình, chọn “Template Runner” (xem trợ giúp Help/Menu Interface/Template) + Lựa chọn Mẫu Template (ở chọn Average Median,… ); + Để chạy Click “script” box Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ 53 Kết quả: Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ 54 3.3.2.2 Mơ CNN với chương trình Java CNN Giao diện 3.3.3 Thử nghiệm 01: mẫu DENOISSING CNN 01 A 1 1 1 1 Số hóa trung tâm học liệu B 0 0 0 0 Z= -1 http://www.lrc-tnu.edu.vn/ 55 Kết (1) Input Output (T = 0.3s) Image 01 Image 02 3.3.4 Thử nghiệm 02: mẫu DENOISSING CNN 02 A 1 1 B 0 0 0 0 Z= -1 Kết (2) Input Output (T = 0.1s) Image 01 Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ 56 Image 02 Output (T = 0.3s) Input Image 01 Image 02 3.3.5 Thử nghiệm 03: mẫu DENOISSING CNN 03 A 0.1 0.15 0.1 0.15 0.15 0.1 0.15 0.1 B 0 0 0 0 Z= Kết (3) Input Output (T = 0.9s) Image 01 Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ 57 Input Image 02 Output (T = 0.5s) Image 01 Image 02 3.4 Nhận xét & đánh giá Từ kết thu áp dụng 03 mẫu DENOISSING CNN 01, DENOISSING CNN 02, DENOISSING CNN 03, ta có số đánh sau: Với mẫu DENOISSING CNN 01, DENOISSING CNN 02 Kết quả, thời gian thực giống nhau, chất lượng ảnh thu tốt Nhiễu ảnh loại bỏ Với mẫu DENOISSING CNN 03 Thời gian thực lâu hơn, tỉ lệ nhiễu loại thấp so với 02 mẫu đầu Ảnh thu mờ ảnh ban đầu, biên ảnh không rõ nét Với 03 mẫu đề xuất sử dụng để khử nhiễu ảnh Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ 58 KẾT LUẬN Luận văn giới thiệu kiến trúc, hoạt động mạng nơron tế bào, phát triển công nghệ mạng nơron tế bào ứng dụng CNN lĩnh vực, qua thể ưu vượt trội tốc độ tính tốn, kích thước liệu Tìm hiểu số phương pháp xử lí ảnh sử dụng công nghệ CNN Ứng dụng vào toán khử nhiễu ảnh: từ phương pháp thiết kế mẫu (A, B, z), tiến hành thử nghiệm đưa 03 mẫu đề nghị DENOISSING CNN 01, DENOISSING CNN 02, DENOISSING CNN 03 phần mềm Candy, phần mềm mơ Java CNN Tuy nhiên luận văn cịn hạn chế, bước đầu tiến hành thử nhiệm với ảnh hai chiều trạng thái đầu vào mã hóa theo mã nhị phân, ảnh đa cấp xám, mơ máy tính PC (u cầu máy có cấu hình từ Pentium cài đặt jdk 1.5.0 trở lên) Chưa thực việc thiết kế kiến trúc phần cứng chip CNN nên kết tính tốn, tốc độ chưa thể rõ Trong thời gian tới tìm hiểu phương pháp cơng nghệ xử lý song song cho thao tác khử nhiễu ảnh tốn thời gian thực, cấu hình chip FPGA có tài nguyên lớn cho toán Tiếp tục thử nghiệm đề xuất nhiều mẫu bổ sung thêm cho thư viện mẫu Ứng dụng hiệu toán thực tế yêu cầu Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ 59 TÀI LIỆU THAM KHẢO I Tiếng Việt Phạm Thượng Cát (2007), “Hợp tác nghiên cứu phát triển hệ thống xử lý ảnh nhanh sở áp dụng công nghệ mạng Nơron phi tuyến”, Báo cáo tổng kết đề tài nghị định thư Phạm Thượng Cát (2007),“Máy tính vạn mạng nơ ron tế bào CNN UM: Một hướng phát triển công nghệ thông tin”,Kỷ yếu Hội nghị Khoa học 30 năm thành lập Viện Công nghệ Thông Tin Phạm Đức Long (2011), Phát triển số thuật toán xử lý ảnh sử dụng mạng Nơron tế bào, luận án tiến sĩ Toán học Vũ Đức Thái (2011), Nghiên cứu ứng dụng công nghệ mạng nơ ron tế bào CNN vào việc giải phương trình vi phân đạo hàm riêng, Luận án tiến sĩ Tốn học Đỗ Năng Tồn, Phạm Việt Bình (2007), Giáo trình mơn học Xử lý ảnh, http://www.ebook.edu.vn/?page=1.39&view=13862 II Tiếng Anh Angela Slavova, Cellular Neural Networks: Dynamics Modelling, Kluwer Academic Publishers 2003 and Analogic Computer Ltd http://www.analogic-computer.com http://wwwinst.eecs.berkeley.edu/~ee129/ http://www.ce.unipr.it/research/pardis/CNN/cnn.html 10 http://www.analogic-computers.com 11 http://www2.syscon.com/itsg/virtualcd/java/archives/0705/heaton/index.html Số hóa trung tâm học liệu http://www.lrc-tnu.edu.vn/ ... CHƢƠNG ỨNG DỤNG CÔNG NGHỆ MẠNG NƠRON TẾ BÀO CHO BÀI TOÁN KHỬ NHIỄU 44 3.1 Bài toán khử nhiễu với CNN 44 3.1.1 Điều kiện biên tiêu biểu cho CNN 44 3.1.2 Quá trình ứng dụng. .. vào láng giềng tế bào Buv trọng số liên kết tế bào từ lớp u đến lớp v kiến trúc mạng nơron tế bào đa lớp z Giá trị ngưỡng hệ mạng nơron tế bào Toán tử nhân chập xij(t) Giá trị trạng thái tế bào. .. tài: ? ?Ứng dụng công nghệ mạng nơ ron tế bào vào toán lọc nhiễu ảnh? ?? để làm đề tài luận văn tốt nghiệp Luận văn gồm chương với nội dung sau: Chƣơng Tổng quan mạng nơ ron tế bào CNN Chƣơng Xử lý ảnh