Tìm hiểu về bộ lọc wiener, ước lượng bình phương tối thiểu

TRƯỜNG ĐẠI HỌC BÁCH KHOA HÀ N ỘI VIỆ N CÔNG NGHỆ THÔNG TIN VÀ TRUYỀ N THÔNG BÀI TẬ TẬP LỚ  LỚ N  Đề tài :  T Hiu ộ ọ ir ướ ượ ng ng  h phươg tối thiu Giảg viê hướ ng ng dẫn: PGS.TS Nguyễn Linh Giang Sinh viên thực hiện: Ninh Thị Hươg 20081323 Trug Thàh Phươg 20083674  Nguyễn Hồi Linh 20081534  Mơn học : Mơ hệ thố ng ng truyề n thông  H àn ội 11/2012  11/2012  MỤC LỤ LỤC I Tổng quan lọ ir………………………………………… …………2 Giớ i thiệu lọ ir…………………………………………………… 2 Nguyê ý ơ ả n lọ ir………………………………………….4 Vấ đề xây dựng lọ ir………………………………………………9 II Ứ ng ng dụng lọc Wiener xử lý ảh…………………………………… 11 Tổng quan khôi phục ảh…………………………………… …………11 Ướ ượ ng ng xuống cấp…………………………………………………….12 Bộ lọc Wiener khôi phục ảh……………………………………………14 Thiết k ế lọ FIR ir…………………………………………………21 III Mô thử nghiệ ir Fitr………………………………………….27 Giớ i thiệu Mata…………………………………………………………….27 Tiến hành thử nghiệ……………………………………………………… 28 K ẾT LUẬN……………………………………………………………………….3 Tài Liệu Tham Khảo………………………………………………………………3  Bài t ậ p l ớ  ng truyề n thông  ớn  Mô hệ thố ng Page MỤC LỤ LỤC I Tổng quan lọ ir………………………………………… …………2 Giớ i thiệu lọ ir…………………………………………………… 2 Nguyê ý ơ ả n lọ ir………………………………………….4 Vấ đề xây dựng lọ ir………………………………………………9 II Ứ ng ng dụng lọc Wiener xử lý ảh…………………………………… 11 Tổng quan khôi phục ảh…………………………………… …………11 Ướ ượ ng ng xuống cấp…………………………………………………….12 Bộ lọc Wiener khôi phục ảh……………………………………………14 Thiết k ế lọ FIR ir…………………………………………………21 III Mô thử nghiệ ir Fitr………………………………………….27 Giớ i thiệu Mata…………………………………………………………….27 Tiến hành thử nghiệ……………………………………………………… 28 K ẾT LUẬN……………………………………………………………………….3 Tài Liệu Tham Khảo………………………………………………………………3  Bài t ậ p l ớ  ng truyề n thông  ớn  Mô hệ thố ng Page I Tổ Tổng quan về lọc Wiener: Giớ  Giớ i thiệ thiệu bộ lọc Wiener: Bộ lọc wiener lọc tiếng giớ i loại tín hiệu Bộ lọc weiner lọ đượ c Norbert Wiener (ơng nhà tốn h ọc nổ i tiế ng ng  phương diện toán học túy toán học ứ ng ụng, coi cha đẻ ng d ụng, ngành Điề u khiể n h ọc, người tiên phong nghiên cứ u v ề quá trình ng ẫ  ẫu  nhiên trình nhiu) nhiu) đề xuất nhữg ă 1940 đượ c công bố vào ă 1949 Bộ lọc wier đượ c dùng cho r ất nhiều mụ đíh ó vai trò qua trọ ng nhiều ứng dụg hư â ằng kênh, dự đoá tuyến tính, hủy bỏ tiếng vang, giảm tiếng ồn, kênh dự tốn, phục hồi tín hiệu … ựa  Bộ l ọc weiner d ựa phương pháp thống kê để  giảm nhi u tín hi ệu t ại bằ ng ng cách so sánh v ớ i tín hiệu ướ c tính mong muố n khơng có nhi u Cùng lúc vớ i th ời đim mà Wiener xây dựng b ộ lọc có nghiên cứu đồng thờ i c Kolmogorov công bố vào ă 1941 Do ý thuyế t thườg đượ c gọi lý thuyết lọc Wiener  –   –  Kolmogorov mang tên hai tác giả Wiener-Koogorov thiết k ế mạch lọ đầu tiê sau có nhiều nhà khoa học khác phát trin tiế p trog ó lọc Kalman tiếng  Bài t ậ p l ớ  ng truyề n thông  ớn  Mô hệ thố ng Page Nguyên lý lọc Wiener: Bộ lọc Wiener b ộ lọc thích nghi (adaptive filter) t ức giá tr ị hệ số  bộ lọ thay đổi theo thời gia thườ ng phản ứng vớ i nhữg thay đổi trog đặc tính tín hiệu đầu vào Trướ c h ết ta nhắ đến thuật toán Wier Fitr (F) à thuậ t toán xuyên suốt ý tưởg đ xây dựng lọc Wiener Nguồn gố ơ ản thuật tốn WF tạo tín hiệu “sạch” khơg ó hay hiễ u cách nén nhiễu Ướ ượg đượ c th ực cách hạ thấ p sai số h phươg trug h (Ma Squar Error) giữ a tín hiệu mong muốn tín hiệu ướ ươg Một lọc Wiener có th hai loại IIR FIR  IIRWiener lọ đáp ứng xung vô hạn bao gồ á phươg trh phi tuyế n FIR Wiener lọ đáp ứng xung hữu hạn bao gồ á phươg trh tuyế n tính Bộ lọc Wier thườg đượ c gắn vớ i cơng trình xây dựng lọ FIR Điều bở i hệ số lọc Wier thay đổi theo thờ i gian, lọc IIR có th tr ở  nên khơng ổ định cho giá tr ị hệ số địh Đ gă hặ điều không ổn địh ày húg ta thườ ng xây dựng lọc thích nghi vớ i cấu trúc FIR  Bài t ậ p l ớn   Mô hệ thố ng truyề n thông  Page Việc thiết k ế lọc Wiener có nhiều cách tiế p cận khác Giả thiết phải có kiến thức tính chất quang phổ tín hiệu a đầu nhiễu, tìm kiếm th ờ i gian lọc tuyến tính bất biế ó đầu đến gần v ớ i tín hiệu ban đầu tốt Bộ lọ ir đượ đặ trưg ở i sau: Giả thiết: tín hiệu nhiễu (nhiễu cộng) q trình ngẫu nhiên tĩh tuyến tính vớ i phổ đặ trưg tự tươg qua tươg qua chéo biết Yêu cầu: lọc phải có th thực vật lý / quan hệ nhân (yêu cầu có th đượ c bỏ qua, dẫ đến giải pháp không quan hệ nhân quả) Hiệu suất tiêu chuẩn: tối thiu hóa sai số h phươg trug h (Minimum Mean Square Error ) V ấn đề thiế t l ậ p l ọc Wiener (giả sử với trườ ng hợ   p tín hiệu liên t ục): Giả sử ta ó đầu vào lọc Wiener tín hiệu  s(t), bị sai lệch b ở i nhiễu cộng n(t) th đầu ướ ượ ng lọc ̂ sau đượ c lọc  g(t) tích chậ p sau: ̂       Trog đó:  Bài t ậ p l ớn   Mô hệ thố ng truyề n thơng  Page      tín hiệu a đầu  nhiễu cộng ̂ tín hiệu ướ ượ ng ( mong muốn giá tr ị )  à đáp ứng xung lọc Wiener  Lỗi đượ địh ghĩa à:    ̂ Trog đó:  à độ tr ễ lọc Wier ( trướ ng hợ  p xét nhân quả) Đây à ôg thức tổng quát xấ p xỉ  ̂ hay nói cách khác lỗi sai số tín hiệu ướ c tính tín hiệu thật bị trượt   Bh phươg ủa lỗi:     ̂ ̂ Trog đó:  mong muố đầu lọc  lỗi Dựa vào giá tr ị  khác mà ta có th  đưa vấ đề hư sau:    Bài t ậ p l ớn   Mô hệ thố ng truyề n thông  Page   Nếu    dự đố (prditio) (tức lỗi đượ c giảm ̂ tươg tự giá tr ị sau s)      th à đag ọc (filtering) (tức lỗi đượ c giảm ̂ tươg tự vớ i giá tr ị )  Nếu    làm mịn (smoothing) (t ức lỗi đượ c giảm ̂ tươg  Nếu tự vớ i giá tr ị trướ ủa s) Viết giải chậ p ̂:  ̂      Lấy giá tr ị kì vọng h phươg ỗi:             ∬   Trog đó:        tín hiệu qua sát đượ c  hàm tự tươg qua ủa   hàm tự tươg qua ủa   à hà tươg qua héo ủa    Bài t ậ p l ớn   Mô hệ thố ng truyề n thơng  Page  Nếu tín hiệu  nhiễu  à khôg tươg qua (tứ à tươg qua 0) th ó ghĩa à:          Trên nhiều ứng dụng giả định nhiễu tín hiệu khơg tươg qua hợ  p lý  giá tr ị k ỳ vọng bình phươg ỗi, áh t hà đáp ứ ng xung lọc Wiener  tối ưu Việc tối thiu     có th thực việ tíh tố đạo hàm bậc c theo giá tr ị  Mục tiêu tối thiu              Đ tối thiu hàm bên phải lo ại bỏ vớ i giá tr ị  d ẫ đến  phươg trh wiener  – hopf    ∫    Bài t ậ p l ớn   Mô hệ thố ng truyề n thông  Page Đây à phương trình bả n c ủa l ýthuy ết  Wi ener , công thức bên phải giốg hư giải chập hưg iền từ → + ∞ Phươg trh ày ó th giải k ỹ thuật Wiener  – Hopf Vấn đề xây dự ng lọc Wiener: Tiế p theo ta xét số vấ đề lọc Wier trướ c chuyn sang ứng dụng cụ th lọc Bộ lọc Weiner có giải pháp trê á trườ ng hợ  p có th:  Bộ lọc không nhân chấ p nhậ đượ c (a noncausal filter is acceptable ): yêu cầu số ượ ng vô hạn liệu khứ tươg ai      à tối ưu th ó ghĩa à h phươg tối thiu phươg trh:       giải pháp  à hai ặt iế đổi Lapa nghịh đảo   Đó  Bài t ậ p l ớn   Mô hệ thố ng truyề n thông  Page    ớ        Cá phươg trh trê ó th viết dướ i dạng ma tr ận: ∇J = ∇ (2.10) Ở toán tử vi phâ đượ xá địh hư ột vtơ ột:         ∇=     Đ t á đạo hàm riêng J đối vớ i tr ọng số wi mạch lọ trướ c hết  phải khai trin hệ thức (2.8) thành dạg tườ ng minh:    []   ∑  ∑ ∑   (2.11) Tổng kép có th khai tri dướ i dạng:  Bài t ậ p l ớn   Mô hệ thố ng truyề n thông  Page 24                          (2.12) Thay (2.12) vào (2.11) sau ấy đạo hàm riêng phần c J theo wi thaythế m ho k ta đượ c:           ớ     Trog trườ ng hợ  p ta thấy: R ki = E[x[n-k]x[n-i]] = xx[i-k] Φxx[i-k] hàm tự tươg qua ủa x[n] Tươg tự: R ik  = Φxx[k-i] Do tính chất đối xứng hàm tự tươg qua ê Φ xx[k] =Φxx[-k] ta thu đượ c: R ki = R ik  Thay (3.18) vào phươg trh (3.15) ta đượ c:               Bài t ậ p l ớn   Mô hệ thố ng truyề n thông  ớ     Page 25 Phươg trh trê ó th biu diễ dướ i dạng ma tr ận: ∇J = 2Rw – 2P Đặt ∇J=0 ta thu đượ c phươg trh tối ưu hoá táp trọng số mạch lọc Wiener: Rw0 = P (2.13) Đây à phươg trh ir -Hopf đối vớ i vetor tr ọng số tối ưu w0: W0 = R -1P (2.14) Thay giá tr ị w0vừa t đượ c từ phươg trh Wiener-Hopf Rw0=P vào phươg trình (2.8) ta t đượ c giá tr ị cực tiu hàm phí tổn J: Jmin = E[d2[n]] – w0TP = E[d2[n]] – w0TRw0 Đó à sai số cực tiu mà mạch l ọc Wiener FIR W(z) có th đạt đượ c tr ọng số nghiệm phươg trh ir -Hopf ghĩa à ghiệm tối ưu ở  (2.14)  Bài t ậ p l ớn   Mô hệ thố ng truyề n thông  Page 26 III Mô thử nghiệm Wiener Filter Giớ i thiệu Matlab:  Matlab cơng cụ tính tốn k ỹ thuật đặc bi ệt tốn v ề ma tr ận Matlab cung cấ p toolboxes chuyên dụg đ giải vấ đề cụ th đ giúp giải toán liên v ề xử lý ảnh  Image Processing toolbox công c ụ chuyên dụng xử lí ảh đượ c Matlab  phát tri Đây à ột công cụ lợ i h ại giúp cho việc th ực giải thuật x lí ảnh nhanh chóng dễ hiu  Chươg tríh sử dụng Matlab phiên Matlab 7.8.0 (R2009a) đ tiến hành thử nghiệm khôi phục ảnh sử dụng lọc weiner bằg á hà đượ c cung cấ p Image Processing toolbox Version 6.11 kè Các hàm đượ c sử dụng:  Hà đọc ảnh: I = irad(fia) đọ c ảh ưu a trậ đi m ảnh vào ma tr ận I  Hàm hin thị ảnh I: imshow(I) hi n thị ảh đượ ưu ằng ma tr ậ đim ảnh I  Hàm tạo đáp ứng xung: h = fspecial(type paratrs) đáp ứng xung nhân chậ p vớ i ảnh gốc tạo hiệu ứng type truyề vào hư:  „otio‟: tạo nhòe giống máy ảnh chụ p bị rung chụ p hay vật th chuyn động nhanh qua ống kính bấm máy  Bài t ậ p l ớn   Mô hệ thố ng truyề n thông  Page 27   „gaussa‟: tạo nhiễu Gaussian  „avrag‟: xử lý cho lọc trung bình  Parameters: tham số bổ sung cho type Hàm tạo nhiễu: J = imnoise(I, type ,parameters) tạo loai nhiễu hư „gaussia‟ 'sat & pppr'…  Hà ifitr(AHoptio1…) hà ày tùy tho optio đ xử lý A H, thử nghiệ optio = „ov‟ dùg đ tích chậ p ảh a đầu A H( hiệu ứng quang học chuy động)  Hàm medfil2(I,[ ]) hàm l ọc trung vị cho ảnh I dùng ma tr ận [ ]  Hàm giải chậ p sử dụng thuật toán lọc Wiener: deconvwnr(I,H,SNR) deconvolves ảnh I dùng lọ wir  biết giá tr ị ảh hưở ng quang học (motion) tham số nhiễu (ở đây à tỉ số SNR)  Ngồi ta hàm Wiener2 hàm lọc nhiễu hưg sử dụg hư ột  phươg thức lọc trung bình wiener2 (I,[m n],noise) với [ ] à kíh thướ đáp ứ ng xung   Ngồi số hà đ sử dụng vào việc xây dựng GUI cho thử nghiệm Tiến hành thử nghiệm: Quy trình:  Bài t ậ p l ớn   Mô hệ thố ng truyề n thông  Page 28  Dùng ảnh có chất ượ ng tốt oi hư à ảh ý tưở ng ( khơng có xuống cấ p hay ảh hưở ng nhiễu quang học)  Tạo xuống cấ p lên ảh hư tạo nhiễu hay làm tá động quang học chuy động  Khôi phục lại hàm sử dụng lọ wir đượ hươg trh Mata cung cấ p sẵn  Đồng thờ i vớ i ảnh xuống c ấp thay v ọc Wiener đượ c l ọc b ằng lọc trung bình trung vị Thự c hiện:  Đọc vào ảh đa ức xá ưu a trậ đi m ảnh  I = imread('D:\lena.jpg'); imshow(I); title('anh goc');  Tạo nhiễu ngẫu nhiên, nhiễu tr ắng Gaussian: noise_mean = 0; noise_var = 0.01;  J = imnoise(I, 'gaussian', noise_mean, noise_var);  Bài t ậ p l ớn   Mô hệ thố ng truyề n thông  Page 29 imshow(J); title('anhnhieu');  Khôi phục ảnh hàm wiener2:  K = wiener2(J,[5 5]);  figure, imshow(K); title('anhphuchoi'); K ết quả:  Bài t ậ p l ớn   Mô hệ thố ng truyề n thông  Page 30  Bài t ậ p l ớn   Mô hệ thố ng truyề n thông  Page 31 Sau quan sát ảnh khôi phục có th thấy nhiễu giả hưg đồng thời đườ ng ét ũg khơg ò rõ ràg ữa điề u hin nhiên Thuật toán mà wiener2() sử dụng: Ướ tíh giá trị trug h phươg sai trê ỗi đi ảh                  Với NM hỉ â ậ ủa ỗi đi ảh trog hh ảh wiener2() sau tạo ột  ộ ọ ir pix thông minh ằg áh sử dụg hữg ướ tíh ày            Trong   phươg sai hiễu. Nếu đúg hiễu khôg phải à hất địh wiener2() sử dụg trug h ủa tất ả á ướ tíh hêh ệh địa phươg Cùg với ảh hiễu hư trê sử dụg ộ ọ trug vị  Bài t ậ p l ớn   Mô hệ thố ng truyề n thông  Page 32 Rõ ràng từ ảnh ta có th thấy ảnh lọc Wiener sử dụg phươg pháp adaptive Wiener ảnh giữ lại nhiều đườg ét hơ ả nh lọc lọc trung vị Thử nghiệm khôi phục ảnh bị ảnh hưở ng quang học (do chuyển động) có nhiễu  Đọc ảh vào oi hư à ảh ý tưở ng  I = im2double(imread('D:\lena.jpg'));  Bài t ậ p l ớn   Mô hệ thố ng truyề n thông  Page 33 imshow(I); title('anh goc');  Giả định r ằng q trình chụ p ảnh ống kính bị rung hay vật đượ c ch ụ p chuy động nhanh qua ống kính chụ p Chúng ta mơ hiệ tượ ng cách tạo đáp ứg xug H sau hâ hậ p ảnh vớ i ảnh gố đ tạo ảnh bị nhòe  H=fspecial('motion',11,5); anh_bi_mo=imfilter(I,H,'conv');  figure,imshow(anh_bi_mo); title('Anh bi lam mo');  Sử dụg hà iois đ tạo thêm nhiễu gaussian lên ảnh noise_mean = 0; noise_var = 0.001; anh_bi_monhieu = imnoise(anh_bi_mo, 'gaussian', noise_mean, noise_var);  figure, imshow(anh_bi_monhieu); title('ANH BI LAM MO VA NHIEU');  Bài t ậ p l ớn   Mô hệ thố ng truyề n thông  Page 34  Khôi phục s dụng b ộ lọc wiener có sử dụg ướ ượ ng nhiễu biết phươg sai hàm tạo nhiễu (noise_var) uocluong_nhieu= noise_var / var(I(:));% day chinh la ti so SNR wnr3 = deconvwnr(anh_bi_monhieu, H, uocluong_nhieu); % ti so SNR   figure, imshow(wnr3); title('anh sau loc bang weiner'); K ết quả: Ảnh gốc: Ảnh mờ do chuy động:  Bài t ậ p l ớn   Mô hệ thố ng truyề n thông  Page 35 Ảnh thêm nhiễu nữa: Ảnh lọc Wiener: Thêm thử nghiệm nữa: ảnh mờ  chuy động + nhiễu Gauss đượ c lọc bở i lọc trung bình k ết đượ hư sau: I = imread('D:\lena_mo_nhieu.jpg'); H = fspecial('average'); K = imfilter(I,H,'conv'); Ảnh sau khôi phục:  Bài t ậ p l ớn   Mô hệ thố ng truyề n thơng  Page 36 Lọc lọ gượ c: Có th nhận xét từ k ết lọc Wiener lọc trung bình l ọc Wiener khơi  phục lại đườg ét rõ ràg hưg ũg đồ ng thời à ho hiễu tăg ườ ng lên, ảh hưở ng quang học (do chuy động) gầ hư ất Ngượ c lại ảh đượ c lọc  bở i lọc trung bình nhi ễu có giả hưg ảh hưở ng quang họ ũg khôg đượ c  Bài t ậ p l ớn   Mô hệ thố ng truyề n thông  Page 37 loại bỏ Đặc biệt lọ gượ c r ất nhạy cảm vớ i nhiễu ê ta ó đượ c k ết ảnh hồn tồn bị nhiễu hư trê  Bài t ậ p l ớn   Mơ hệ thố ng truyề n thông  Page 38 ... Tổng quan về lọc Wiener: Giớ  Giớ i thiệ thiệu bộ lọc Wiener: Bộ lọc wiener lọc tiếng giớ i loại tín hiệu Bộ lọc weiner lọ đượ c Norbert Wiener (ông nhà toán h ọc nổ i tiế ng ng phương diện... Wiener  – Hopf Vấn đề xây dự ng lọc Wiener: Tiế p theo ta xét số vấ đề lọc Wier trướ c chuyn sang ứng dụng cụ th lọc Bộ lọc Weiner có giải pháp trê á trườ ng hợ  p có th:  Bộ lọc không nhân chấ p... tiế p trog ó lọc Kalman tiếng  Bài t ậ p l ớ  ng truyề n thông  ớn  Mô hệ thố ng Page Nguyên lý lọc Wiener: Bộ lọc Wiener b ộ lọc thích nghi (adaptive filter) t ức giá tr ị hệ số bộ lọ thay