Đang tải... (xem toàn văn)
Lấy mẫu nén (Compressed Sampling)
Lời Nói ĐầuTrong cuộc cách mạng khoa học kỹ thuật diễn ra mạnh mẽ như ngày nay, các phát minh,các nghiên cứu mới đã và đang làm cho cuộc sống của con người trở nên tiến bộ hơn, khoahọc không ngừng phát triển, các lý thuyết cũ được thay thế bằng những lý thuyết mới hơn, vànhững lý thuyết mới hơn nữa sẽ dần thay thế nó.Lấy mẫu nén (Compressed Sampling) là một trong những lý thuyết mới nhất trong lĩnh vựcxử lý tín hiệu hiện nay, được công bố năm 2006 là một bước ngoặt quan trọng trong lĩnh vựcnày, dựa trên lý thuyết này, trong nhiều trường hợp, chúng ta có thể thực hiện được việc lấymẫu tín hiệu với tốc độ thấp hơn tốc độ lấy mẫu Nyquist - một trong những tiêu chuẩn đượccoi là chuẩn mực trong xử lý tín hiệu - mà vẫn đảm bảo được việc khôi phục lại tín hiệu banđầu.Qua 2 năm phát triển, lý thuyết này đã được nhiều tác giả quan tâm và hoàn thiện hơn.Hiện nay lấy mẫu nén đang được tiếp tục nghiên cứu và phát triển về cả lý thuyết cũng nhưứng dụng tại nhiều trường đại học trên thế giới.Với mục đích tiếp cận nhanh chóng lĩnh vực mới mẻ này, trong khóa luận tốt nghiệp củamình tôi tập trung nghiên cứu phương pháp lấy mẫu nén trên hai mảng lớn:• Nghiên cứu lý thuyết lấy mẫu nén và những thành tựu đã đạt được cho đếnthời điểm hiện tại.• Nghiên cứu phát triển lý thuyết này với một ý tưởng mới về phương pháp lấymẫu nén dựa trên bộ lọc hỗn loạn (Chaos filter) để đóng góp vào những kếtquả đã đạt được.Những nghiên cứu lý thuyết về lấy mẫu nén và những thành tựu đã đạt được cho đến thời điểmhiện tại được trích dẫn và tham khảo từ nhiều bài báo được công bố bởi nhiều tác giả trên thếgiới như: Candès, Romberg, Baraniuk .Tôi xin cam đoan việc nghiên cứu phát triển mới (Chaos filter) là kết quả nghiên cứu củatôi dưới sự hướng dẫn khoa học của TS. Nguyễn Linh Trung. Không có các nghiên cứu đã đượcxuất bản từ trước hay viết bởi người khác.Xin cảm ơn sự hướng dẫn khoa học của TS. Nguyễn Linh Trung, sự góp ý hướng dẫn củaGS. Huỳnh Hữu Tuệ, TS. Lê Vũ Hà và sự giúp đỡ của các thành viên Bộ môn Xử Lý ThôngTin giúp tôi hoàn thành khóa luận này.Hà Nội, Ngày 22 tháng 5 năm 20081 Mục lục1 Giới Thiệu 41.1 Các Phương pháp nén cổ điển và nhược điểm của chúng . . . . . . . . . . . . . 41.1.1 Tín hiệu thưa và có thể nén . . . . . . . . . . . . . . . . . . . . . . . . . 41.1.2 Các phương pháp nén cổ điển và nhược điểm . . . . . . . . . . . . . . . . 51.2 Phương pháp lấy mẫu nén . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51.3 Hai vấn đề chính trong lấy mẫu nén . . . . . . . . . . . . . . . . . . . . . . . . . 6I Kỹ Thuật Lấy Mẫu Nén 72 Lý thuyết về lấy mẫu nén 72.1 Phương pháp lấy mẫu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 72.2 Điều kiện để khôi phục được tín hiệu . . . . . . . . . . . . . . . . . . . . . . . . 92.3 Phương pháp khôi phục tín hiệu . . . . . . . . . . . . . . . . . . . . . . . . . . . 92.3.1 Thuật toán khôi phục L1-minimization . . . . . . . . . . . . . . . . . . . 102.3.2 Thuật toán khôi phục OMP . . . . . . . . . . . . . . . . . . . . . . . . . 123 Ứng dụng của lý thuyết lấy mẫu nén 153.1 Trong nén dữ liệu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 153.2 Trong truyền Thông . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 174 Mô phỏng lấy mẫu nén 194.1 Nén tín hiệu thưa trong miền thời gian . . . . . . . . . . . . . . . . . . . . . . . 194.2 Nén ảnh sử dụng CS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 194.3 Nén tín hiệu thưa trong miền tần số . . . . . . . . . . . . . . . . . . . . . . . . 21II Phát triển lý thuyết lấy mẫu nén trên cơ sở bộ lọc hỗn độn(Chaos filter) 235 Giả ngẫu nhiên và hỗn độn 235.1 Giới thiệu ngắn gọn về lý thuyết hỗn độn . . . . . . . . . . . . . . . . . . . . . . 235.1.1 Hỗn độn là gì? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 235.1.2 Một số hàm hỗn độn thông thường . . . . . . . . . . . . . . . . . . . . . 245.2 Kỹ thuật sử dụng bộ lọc ngẫu nhiên(random filter) trong lấy mẫu nén và sự cầnthiết để phát triển bộ lọc hỗn độn(chaos filter) . . . . . . . . . . . . . . . . . . . 256 Thiết kế bộ lọc hỗn độn 286.1 Thiết kế bộ lọc hỗn độn và khôi phục tín hiệu dùng L1 minimization . . . . . . 286.1.1 Phương pháp lấy mẫu . . . . . . . . . . . . . . . . . . . . . . . . . . . . 286.1.2 Phương pháp khôi phục tín hiệu . . . . . . . . . . . . . . . . . . . . . . . 306.2 Thiết kế bộ lọc hỗn độn và khôi phục tín hiệu dùng OMP . . . . . . . . . . . . 312 7 Mô phỏng 347.1 Mô phỏng kỹ thuật lấy mẫu nén sử dụng bộ lọc ngẫu nhiên . . . . . . . . . . . 357.2 Mô phỏng sử dụng bộ lọc hỗn độn với phương pháp khôi phục L1 minimization 357.3 Mô phỏng sử dụng bộ lọc hôn độn với phương pháp khôi phục OMP . . . . . . . 368 Kết Luận 373 1 Giới ThiệuĐịnh lý lấy mẫu của Shannon/Nyquist nói rằng để không mất thông tin và có thể khôi phụclại hoàn toàn tín hiệu thì phải lấy mẫu tín hiệu với tần số lấy mẫu cao hơn ít nhất 2 lần băngtần của tín hiệu. Trong nhiều ứng dụng như trong ảnh số và camera số, tốc độ lấy mẫu Nyquistlà cao và thu quá nhiều mẫu cần thiết, do đó việc nén tín hiệu là cần thiết cho việc lưu trữhoặc truyền đi xa. Hay trong các ứng dụng khác như: hệ thống ảnh số với tốc độ cao, kỹ thuậtsiêu cao tần, thu thập dữ liệu từ rada .Đòi hỏi lấy mẫu ở tần số rất cao nếu tuân theo địnhluật Nyquist, điều đó dẫn đến việc đòi hỏi các bộ chuyển đổi ADC tốc độ cao gây ra nhiều khókhăn trong chế tạo, và giá thành trở nên rất đắt.Nghiên cứu này trình bày một phương pháp mới để thu các tín hiệu với tốc độ lấy mẫu nhỏhơn tốc độ Nyquist. Phương pháp này gọi là lấy mẫu nén (compressed sampling), sử dụng cácánh xạ (projections) tuyến tính không thích nghi lưu trữ cấu trúc của tín hiệu, tín hiệu sauđó được tái tạo lại sử dụng các phương pháp của lý thuyết tối ưu như L1-minimization hoặcOMP.1.1 Các Phương pháp nén cổ điển và nhược điểm của chúng1.1.1 Tín hiệu thưa và có thể nénCho một tín hiệu rời rạc x chiều dài hữu hạn, x có thể được biểu diễn như một vectơ cộtN × 1 trong RNvới các thành phần x[n], n = 1, 2, N. Bất kỳ tín hiệu trong RNnào đều cóthể biểu diễn thông qua một hệ các vectơ cơ sở trực chuẩn N × 1 : {ψi}Ni=1. Sử dụng ma trậncơ sở N × N : Ψ = [ψ1ψ2 .ψN] với các vectơ {ψi} là các vectơ cột, thì một tín hiệu x có thểbiểu diễn như sau:x =Ni=1siψihoặcx = Ψ.sỞ đây s là vectơ cột N × 1 của các trọng số si=< x, ψi>= ψTix và .Tlà ký hiệu ma trậnchuyển vị. Nói cách khác thì x và s là sự biểu diễn của cùng một tín hiệu, x trong miền thờigian (hoặc không gian) và s trong miền ψ.Tín hiệu x chiều dài N được gọi là thưa K (K-sparse) nếu x là một sự kết hợp tuyến tínhcủa duy nhất K vectơ cơ sở, do đó chỉ có duy nhất K trọng số silà khác không và (N-K) trọngsố là bằng không. Trong trường hợp mà K N thì tín hiệu x gọi là thưa và có thể nén tức lànó có thể được biểu diễn chỉ với K trọng số lớn và nhiều trọng số nhỏ.4 1.1.2 Các phương pháp nén cổ điển và nhược điểmCác kỹ thuật nén cổ điển (điển hình như DCT rời rạc, hay wavelet) sử dụng 1 phép biến đổithuận nghịch (transform coding) để xấp xỉ tín hiệu có thể nén bằng K trọng số lớn.Cho mộttín hiệu x dài N mẫu và là tín hiệu thưa K, sử dụng phép biến đổi thông qua :s = ΨTxΨTở đây đại diện cho một phép chuyển đổi nào đó (DCT rời rạc hoặc wavelet) chúng ta sẽthu được một tập hợp các trọng số sitrong đó K trọng số lớn nhất sẽ được lấy và mã hóa, cònlại (N-K) trọng số nhỏ sẽ được loại bỏ.Tuy nhiên chính cách làm này xuất hiện những nhược điểm của phương pháp:• Số lượng N các mẫu thu là lớn trong khi K lại là nhỏ K N• Tất cả N mẫu đều phải được tính toán trong khi chúng ta chỉ giữ lại K giá trị còn lại(N-K) giá trị bị loại bỏ.• Việc mã hóa K giá trị sau khi giữ lại (với mục đích lưu trữ hoặc truyền đi) chúng ta lạiphải thêm vào các bit tiêu đề, các bít sửa lỗi Tất cả các nhược điểm đó làm chậm tốc độ xử lý dữ liệu. Và điều này càng thể hiện rõ hơntrong trường hợp tín hiệu x với băng tần cao lại đòi hỏi tốc độ lấy mẫu phải rất lớn mới đảmbảo khôi phục lại dữ liệu (theo tiêu chuẩn Nyquist).1.2 Phương pháp lấy mẫu nénĐược đề xướng như một lý thuyết lẫy mẫu mới vào năm 2006 bởi Emmanuel Candès, JustinRomberg, và Terence Tao, phương pháp lấy mẫu nén cho phép thu trực tiếp tín hiệu dưới dạngnén mà không thông qua việc thu N mẫu tín hiệu rồi mới sử dụng các phương pháp nén nhưphương pháp thông thường.Với tín hiệu x chiều dài N, phương pháp lấy mẫu nén sử dụng M quá trình đo tuyến tính(M N) được biểu diễn bởi phép nhân giữa x và một tập hợp các vectơ {φj}Mj=1:yj=< x, φj>Tập hợp các phép đo yjđược sắp xếp trong một vectơ Y chiều dài M × 1 và các vectơ φTjđượcsắp xếp như một hàng trong ma trận Φ kích thước M × N và do đó có thể được viết như sau:Y = ΦX = ΦΨs = ΘsQuá trình đo ở đây là không thích nghi, tức là Φ là cố định và không phụ thuộc vào tín hiệu x.5 1.3 Hai vấn đề chính trong lấy mẫu nénMục tiêu của phương pháp lấy mẫu nén bây giờ là việc thiết kế và xây dựng:• Ma trận đo Φ ổn định có thể thu và lưu trữ các thông tin về tín hiệu ( tín hiệu thưa Khay tín hiệu có thể nén ) trong M phép đo (M N) mà vẫn đảm bảo khôi phục lại tínhiệu.• Thuật toán khôi phục tín hiệu có thể tái tạo tín hiệu x từ M phép đo y6 Phần IKỹ Thuật Lấy Mẫu Nén2 Lý thuyết về lấy mẫu nén2.1 Phương pháp lấy mẫuPhương pháp lấy mẫu truyền thống thường được biểu diễn bởi sơ đồ sauHình 1: Phương pháp lẫy mẫu truyền thốngTín hiệu đầu vào x là một tín hiêu chiều dài N và thưa K (tín hiệu có thể nén) có thể đượcbiểu diễn qua một tập hợp các vectơ cơ sở ψi:x =Ni=1siψiDo x là thưa K nên x có thể được biểu diễn bằng xấp xỉ của K trọng số lớn nhất:x ≈KsiψiViệc thực hiện nén trong khối compress có thể thực hiện bằng một phương pháp nào đó nhưDCT rời rạc, Wavelet .Tín hiệu sau đó gồm K trọng số lớn nhất được mã hóa và truyền đi. Ởnơi thu từ K trọng số lớn nhất thu được người ta tái tạo lại tín hiệu sử dụng các phép biến đổiDCT ngược hoặc Wavelet ngược (do các phép biến đổi này là hoàn toàn thuận nghịch)Tuy nhiên do những nhược điểm như đã trình bày của nó, mà lý thuyết lấy mẫu nén được pháttriển.7 Hình 2: Phương pháp lẫy mẫu nénPhương pháp này sử dụng M các phép đo tuyến tính không thích nghi:Y = ΦX = ΦΨs = ΘsHình 3: Quá trình thu tín hiệu Y bằng M phép đo tuyến tính không thích nghiTrong đó Φ là ma trận kích thước M × N. Từ "không thích nghi" ở đây có nghĩa là matrận Φ là cố định và không phụ thuộc tín hiệu đầu vào x.8 2.2 Điều kiện để khôi phục được tín hiệuVấn đề là chọn ma trận đo Φ thế nào để cho phép tái tạo lại tín hiệu x từ M phép đo (M<N)- tức là khôi phục x từ vectơ y. Do M<N cho nên bài toán sẽ không thể có duy nhất nghiệm.Tuy nhiên nếu x là tín hiệu thưa K và vị trí của K hệ số khác 0 này được biết trước thì bàitoán trở thành giải hệ phương trình K ẩn với M phương trình (M ≥ K) và bài toán sẽ có duynhất nghiệm. Một điều kiện cần và đủ cho vấn đề này là, cho vectơ v bất kỳ có K hệ số khác0, với > 0 thì Θ cần thỏa mãn điều kiện sau đây:1 − ≤Θv2v2≤ 1 + Điều kiện này được gọi là điều kiện RIP (Restricted isometry property).Một điều kiện khác yêu cầu các hàng của ma trận Φ không được xuất hiện thưa thớt trongcác cột của ma trận Ψ. Điều kiện này gọi là điều kiện tách biệt (Incoherence).Trong nghiên cứu của Emmanuel Candès, Justin Romberg, và Terence Tao đã chứng minhrằng:Với việc sử dụng ma trận Φ là ma trận ngẫu nhiên, phân bố Gaussian, thì cả điềukiện RIP và điều kiện tách biệt (incoherence) đều được thỏa mãn. Và với việc sửdụng số các phép đo tiến hành M ≥ cKlog(N/K) với c là một hằng số nhỏ thì hoàntoàn có thể tái tạo được tín hiệu x thưa K và có chiều dài N ban đầuHình 4: Sử dụng ma trận ngẫu nhiên trong việc thu tín hiệu2.3 Phương pháp khôi phục tín hiệuVới phương pháp lấy mẫu nén chúng ta đã thu được tín hiệu:Y = ΦXBài toán ngược đặt ra là tìm lại tín hiệu X từ các giá trị Y. Dưới đây là 2 phương pháp phổbiến được dùng cho việc khôi phục tín hiệu cho lấy mẫu nén9 2.3.1 Thuật toán khôi phục L1-minimizationChúng ta cần khôi phục lại X, tức là tìm lại chính xác các giá trị x[n], n = 1, 2 N, khi màchúng ta có M phép đo Y . Tuy nhiên do M < N tức là số phương trình thiết lập được là nhỏhơn số ẩn cần tìm, do đó sẽ có vô số các nghiệm thỏa mãn, và hiển nhiên nếu không cho thêmbất kỳ thông tin gì về nghiêm cần tìm chúng ta không thể biết nghiệm nào là đúng.Tuy nhiên trong trường hợp này, tín hiệu mà chúng ta cần khôi phục là đã biết về mặt cấutrúc tức nó là tín hiệu thưa K hay tín hiệu có thể nén.Về mặt toán học, dưới giả thiết tín hiệu X là thưa, chúng ta có thể khôi phục lại tín hiệu Xbằng các phương pháp minimization.• Sử dụng L0:x = minx∈RNxl0Với điều kiện:Y = ΦXỞ đây xl0= |{i : xi= 0}|. Phương pháp này có thể cho phép khôi phục chính xác dữliệu bằng cách kiểm tra từng dữ liệu để thỏa mãn 2 phương trình trên, tuy nhiên tốc độtính toán của phương pháp là chậm. Nên thuật toán này ít được sử dụng trong thực tếvà không sử dụng trong lấy mẫu nén.• Sử dụng L2:x = minx∈RNxl2= minx∈RNNi=1|xi|2Với điều kiện:Y = ΦXPhương pháp này không khôi phục đúng dữ liệu.• Sử dụng L1:x = minx∈RNxl1= minx∈RNNi=1|xi|Với điều kiện:Y = ΦXThuật toán này có thể khôi phục chính xác tín hiệu thưa K sử dụng M phép đo tuyếntính không thích nghi với M ≥ cKlog(N/K). Phương pháp này sử dụng trong lấy mẫunén cho việc khôi phục dữ liệu.Nghiên cứu mới đây (tháng 9 năm 2007) của Emmanuel J.candès, Michael B.Walkin vàStephen P.Boyd đã cải tiến phương pháp này cho phép khôi phục tín hiệu chính xác hơn gọi là10 [...]... thể áp dụng kỹ thuật lấy mẫu nén (Compressed Sensing) trong mô hình nhận biết vô tuyến để có thể giảm tốc độ lấy mẫu xuống trong khi vẫn đảm bảo tính chính xác trong việc ước lượng các khoảng phổ trống Một nghiên cứu của các tác giả Z.Tian, G.B.Giannakis cho thấy kết quả tốt khi áp dụng phương pháp lấy mẫu nén cho việc nhận biết phổ vô tuyến Trong bài báo này, kỹ thuật lấy mẫu nén được sử dụng để khôi... x(n), sử dụng phương pháp lấy mẫu nén áp dụng cho tất cả các dòng thưa này, chúng ta sẽ nén được toàn bộ bức ảnh xuống chỉ còn 33280 điểm ảnh Tức là bức ảnh JPG giảm xuống chỉ còn 17.5% so với bức ảnh ban đầu Việc khôi phục lại bức ảnh sử dụng thuật toán L1 minimization Kết quả được thể hiện trong hình dưới: Hình 13: Kết quả mô phỏng việc nén ảnh JPEG bằng lấy mẫu nén 20 4.3 Nén tín hiệu thưa trong miền... đề lấy mẫu nén, với sơ đồ như hình vẽ: Hình 25: Sử dụng Chaos filter cho Compressive Sensing Gỉa thiết: • Cho tín hiệu vào x(n) chiều dài N , thưa K • Bộ lọc hỗn độn với hàm truyền h(n) có chiều dài B < N • Tín hiệu lấy mẫu nén y(n) có chiều dài M Tín hiệu p(n) ra khỏi bộ lọc có chiều dài B + N − 1 được tạo bởi phép nhân chập giữa x(n) và h(n): ∞ x(k)h(n − k) p(n) = k=0 Để tạo ra tín hiệu lấy mẫu nén. .. nếu tín hiệu là dài thì điều này gây ra nhiều khó khăn Hơn nữa, chỉ dừng lại ở phép nhân ma trận thì rất khó có thể triển khai cụ thể ứng dụng lấy mẫu tín hiệu thời gian thực Sử dụng bộ lọc ngẫu nhiên là một kỹ thuật lấy mẫu tín hiệu trong phương pháp lấy mẫu nén được công bố bởi Joel A.Tropp, Michael B.Wakin, Marco F.Duarte, Dror Baron và Richard G.Baraniuk Trong phương pháp này các tác giả đã thay... phỏng lấy mẫu nén 4.1 Nén tín hiệu thưa trong miền thời gian Xét tín hiệu thưa x trong miền thời gian, chiều dài N = 512 thưa K = 20 Số các phép đo sử dụng M = 100 Sử dụng phương pháp L1 minimization cho việc khôi phục tín hiệu Sơ đồ bên dưới trình bày kết quả mô phỏng: Hình 11: Kết quả mô phỏng 4.2 Nén ảnh sử dụng CS Như chúng ta đã biết, JPEG là một trong những chuẩn nén tốt sử dụng trong nén ảnh,... bài báo này, kỹ thuật lấy mẫu nén được sử dụng để khôi phục dải phổ từ mô hình lấy mẫu ngẫu nhiên - với số mẫu ít hơn so với tiêu chuẩn Nyquist - từ đó xác định vị trí của các dải tần bằng phương pháp xác định biên dựa trên kỹ thuật wavelet (wavelet based edge detector) Chúng ta có thể tóm lược phương pháp sử dụng lấy mẫu nén mà các tác giả đã trình bày trong việc ứng dụng cho nhận biết phổ vô tuyến... thuật sử dụng bộ lọc ngẫu nhiên(random filter) trong lấy mẫu nén và sự cần thiết để phát triển bộ lọc hỗn độn(chaos filter) Trong kết quả bài báo của Candès, Romberg, Tao and Donoho phép đo tuyến tính ngẫu nhiên không thích nghi (Random linear projection) được sử dụng cho việc thu trực tiếp tín hiệu thưa x, tuy nhiên nếu như vậy thì phương pháp lấy mẫu nén khó có thể triển khai các ứng dụng thực tế bởi... liệu nén Y • Độ thưa K của tín hiệu đầu vào x 1 Khởi tạo: r0 = y, t = 1 2 Tính toán cột it của ma trận Φ: it = argmaxi | < rt−1 , Φi > | 13 3 Tính: rt = y − Pt y Trong đó : N Pt y = θik Φik k=1 θik là các trọng số được ước lượng của tín hiệu X 4 Nếu t . chính trong lấy mẫu nén . . . . . . . . . . . . . . . . . . . . . . . . . 6I Kỹ Thuật Lấy Mẫu Nén 72 Lý thuyết về lấy mẫu nén 72.1 Phương pháp lấy mẫu . .. hiệu x từ M phép đo y6 Phần IKỹ Thuật Lấy Mẫu Nén2 Lý thuyết về lấy mẫu nén2 .1 Phương pháp lấy mẫuPhương pháp lấy mẫu truyền thống thường được biểu diễn
