BÁO CÁO TỐT NGHIỆP: LẤY MẪU NÉN docx

TRƯỜNG …………………. KHOA………………………. [\[\ BÁO CÁO TỐT NGHIỆP ĐỀ TÀI: LẤY MẪU NÉN Lời Nói Đầu Trong cuộc cách mạng khoa học kỹ thuật diễn ra mạnh mẽ như ngày nay, các phát minh, các nghiên cứu mới đã và đang làm cho cuộc sống của con người trở nên tiến bộ hơn, khoa học không ngừng phát triển, các lý thuyết cũ được thay thế bằng những lý thuyết mới hơn, và những lý thuyết mới hơn nữa sẽ dần thay thế nó. Lấy mẫu nén (Compressed Sampling) là một trong những lý thuyết mới nhất trong lĩnh vực xử lý tín hiệu hiện nay, được công bố năm 2006 là một bước ngoặt quan trọng trong lĩnh vực này, dựa trên lý thuyết này, trong nhiều trường hợp, chúng ta có thể thực hiện được việc lấy mẫu tín hiệu với tốc độ thấp hơn tốc độ lấy mẫu Nyquist - một trong những tiêu chuẩn được coi là chuẩn mực trong xử lý tín hiệu - mà vẫn đảm bảo được việc khôi phục lại tín hiệu ban đầu. Qua 2 năm phát triển, lý thuyết này đã được nhiều tác giả quan tâm và hoàn thiện hơn. Hiện nay lấy mẫu nén đang được tiếp tục nghiên cứu và phát triển về cả lý thuyết cũng như ứng dụng tại nhiều trường đại học trên thế giới. Với mục đích tiếp cận nhanh chóng lĩnh vực mới mẻ này, trong khóa luận tốt nghiệp của mình tôi tập trung nghiên cứu phương pháp lấy mẫu nén trên hai mảng lớn: • Nghiên cứu lý thuyết lấy mẫu nén và những thành tựu đã đạt được cho đến thời điểm hiện tại. • Nghiên cứu phát triển lý thuyết này với một ý tưởng mới về phương pháp lấy mẫu nén dựa trên bộ lọc hỗn loạn (Chaos filter) để đóng góp vào những kết quả đã đạt được. Những nghiên cứu lý thuyết về lấy mẫu nén và những thành tựu đã đạt được cho đến thời điểm hiện tại được trích dẫn và tham khảo từ nhiều bài báo được công bố bởi nhiều tác giả trên thế giới như: Candès, Romberg, Baraniuk Tôi xin cam đoan việc nghiên cứu phát triển mới (Chaos filter) là kết quả nghiên cứu của tôi dưới sự hướng dẫn khoa học của TS. Nguyễn Linh Trung. Không có các nghiên cứu đã được xuất bản từ trước hay viết bởi người khác. Xin cảm ơn sự hướng dẫn khoa học của TS. Nguyễn Linh Trung, sự góp ý hướng dẫn của GS. Huỳnh Hữu Tuệ, TS. Lê Vũ Hà và sự giúp đỡ của các thành viên Bộ môn Xử Lý Thông Tin giúp tôi hoàn thành khóa luận này. Hà Nội, Ngày 22 tháng 5 năm 2008 1 Mục lục 1 Giới Thiệu 4 1.1 Các Phương pháp nén cổ điển và nhược điểm của chúng . . . . . . . . . . . . . 4 1.1.1 Tín hiệu thưa và có thể nén . . . . . . . . . . . . . . . . . . . . . . . . . 4 1.1.2 Các phương pháp nén cổ điển và nhược điểm . . . . . . . . . . . . . . . . 5 1.2 Phương pháp lấy mẫu nén . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5 1.3 Hai vấn đề chính trong lấy mẫu nén . . . . . . . . . . . . . . . . . . . . . . . . . 6 I Kỹ Thuật Lấy Mẫu Nén 7 2 Lý thuyết về lấy mẫu nén 7 2.1 Phương pháp lấy mẫu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 2.2 Điều kiện để khôi phục được tín hiệu . . . . . . . . . . . . . . . . . . . . . . . . 9 2.3 Phương pháp khôi phục tín hiệu . . . . . . . . . . . . . . . . . . . . . . . . . . . 9 2.3.1 Thuật toán khôi phục L1-minimization . . . . . . . . . . . . . . . . . . . 10 2.3.2 Thuật toán khôi phục OMP . . . . . . . . . . . . . . . . . . . . . . . . . 12 3 Ứng dụng của lý thuyết lấy mẫu nén 15 3.1 Trong nén dữ liệu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15 3.2 Trong truyền Thông . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17 4 Mô phỏng lấy mẫu nén 19 4.1 Nén tín hiệu thưa trong miền thời gian . . . . . . . . . . . . . . . . . . . . . . . 19 4.2 Nén ảnh sử dụng CS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19 4.3 Nén tín hiệu thưa trong miền tần số . . . . . . . . . . . . . . . . . . . . . . . . 21 II Phát triển lý thuyết lấy mẫu nén trên cơ sở bộ lọc hỗn độn (Chaos filter) 23 5 Giả ngẫu nhiên và hỗn độn 23 5.1 Giới thiệu ngắn gọn về lý thuyết hỗn độn . . . . . . . . . . . . . . . . . . . . . . 23 5.1.1 Hỗn độn là gì? . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23 5.1.2 Một số hàm hỗn độn thông thường . . . . . . . . . . . . . . . . . . . . . 24 5.2 Kỹ thuật sử dụng bộ lọc ngẫu nhiên(random filter) trong lấy mẫu nén và sự cần thiết để phát triển bộ lọc hỗn độn(chaos filter) . . . . . . . . . . . . . . . . . . . 25 6 Thiết kế bộ lọc hỗn độn 28 6.1 Thiết kế bộ lọc hỗn độn và khôi phục tín hiệu dùng L1 minimization . . . . . . 28 6.1.1 Phương pháp lấy mẫu . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28 6.1.2 Phương pháp khôi phục tín hiệu . . . . . . . . . . . . . . . . . . . . . . . 30 6.2 Thiết kế bộ lọc hỗn độn và khôi phục tín hiệu dùng OMP . . . . . . . . . . . . 31 2 7 Mô phỏng 34 7.1 Mô phỏng kỹ thuật lấy mẫu nén sử dụng bộ lọc ngẫu nhiên . . . . . . . . . . . 35 7.2 Mô phỏng sử dụng bộ lọc hỗn độn với phương pháp khôi phục L1 minimization 35 7.3 Mô phỏng sử dụng bộ lọc hôn độn với phương pháp khôi phục OMP . . . . . . . 36 8 Kết Luận 37 3 1 Giới Thiệu Định lý lấy mẫu của Shannon/Nyquist nói rằng để không mất thông tin và có thể khôi phục lại hoàn toàn tín hiệu thì phải lấy mẫu tín hiệu với tần số lấy mẫu cao hơn ít nhất 2 lần băng tần của tín hiệu. Trong nhiều ứng dụng như trong ảnh số và camera số, tốc độ lấy mẫu Nyquist là cao và thu quá nhiều mẫu cần thiết, do đó việc nén tín hiệu là cần thiết cho việc lưu trữ hoặc truyền đi xa. Hay trong các ứng dụng khác như: hệ thống ảnh số với tốc độ cao, kỹ thuật siêu cao tần, thu thập dữ liệu từ rada Đòi hỏi lấy mẫu ở tần số rất cao nếu tuân theo định luật Nyquist, điều đó dẫn đến việc đòi hỏi các bộ chuyển đổi ADC tốc độ cao gây ra nhiều khó khăn trong chế tạo, và giá thành trở nên rất đắt. Nghiên cứu này trình bày một phương pháp mới để thu các tín hiệu với tốc độ lấy mẫu nhỏ hơn tốc độ Nyquist. Phương pháp này gọi là lấy mẫu nén (compressed sampling), sử dụng các ánh xạ (projections) tuyến tính không thích nghi lưu trữ cấu trúc của tín hiệu, tín hiệu sau đó được tái tạo lại sử dụng các phương pháp của lý thuyết tối ưu như L1-minimization hoặc OMP. 1.1 Các Phương pháp nén cổ điển và nhược điểm của chúng 1.1.1 Tín hiệu thưa và có thể nén Cho một tín hiệu rời rạc x chiều dài hữu hạn, x có thể được biểu diễn như một vectơ cột N × 1 trong R N với các thành phần x[n], n = 1, 2, N. Bất kỳ tín hiệu trong R N nào đều có thể biểu diễn thông qua một hệ các vectơ cơ sở trực chuẩn N × 1 : {ψ i } N i=1 . Sử dụng ma trận cơ sở N × N : Ψ = [ψ 1 ψ 2 ψ N ] với các vectơ {ψ i } là các vectơ cột, thì một tín hiệu x có thể biểu diễn như sau: x = N  i=1 s i ψ i hoặc x = Ψ.s Ở đây s là vectơ cột N × 1 của các trọng số s i =< x, ψ i >= ψ T i x và . T là ký hiệu ma trận chuyển vị. Nói cách khác thì x và s là sự biểu diễn của cùng một tín hiệu, x trong miền thời gian (hoặc không gian) và s trong miền ψ. Tín hiệu x chiều dài N được gọi là thưa K (K-sparse) nếu x là một sự kết hợp tuyến tính của duy nhất K vectơ cơ sở, do đó chỉ có duy nhất K trọng số s i là khác không và (N-K) trọng số là bằng không. Trong trường hợp mà K  N thì tín hiệu x gọi là thưa và có thể nén tức là nó có thể được biểu diễn chỉ với K trọng số lớn và nhiều trọng số nhỏ. 4 1.1.2 Các phương pháp nén cổ điển và nhược điểm Các kỹ thuật nén cổ điển (điển hình như DCT rời rạc, hay wavelet) sử dụng 1 phép biến đổi thuận nghịch (transform coding) để xấp xỉ tín hiệu có thể nén bằng K trọng số lớn.Cho một tín hiệu x dài N mẫu và là tín hiệu thưa K, sử dụng phép biến đổi thông qua : s = Ψ T x Ψ T ở đây đại diện cho một phép chuyển đổi nào đó (DCT rời rạc hoặc wavelet) chúng ta sẽ thu được một tập hợp các trọng số s i trong đó K trọng số lớn nhất sẽ được lấy và mã hóa, còn lại (N-K) trọng số nhỏ sẽ được loại bỏ. Tuy nhiên chính cách làm này xuất hiện những nhược điểm của phương pháp: • Số lượng N các mẫu thu là lớn trong khi K lại là nhỏ K  N • Tất cả N mẫu đều phải được tính toán trong khi chúng ta chỉ giữ lại K giá trị còn lại (N-K) giá trị bị loại bỏ. • Việc mã hóa K giá trị sau khi giữ lại (với mục đích lưu trữ hoặc truyền đi) chúng ta lại phải thêm vào các bit tiêu đề, các bít sửa lỗi Tất cả các nhược điểm đó làm chậm tốc độ xử lý dữ liệu. Và điều này càng thể hiện rõ hơn trong trường hợp tín hiệu x với băng tần cao lại đòi hỏi tốc độ lấy mẫu phải rất lớn mới đảm bảo khôi phục lại dữ liệu (theo tiêu chuẩn Nyquist). 1.2 Phương pháp lấy mẫu nén Được đề xướng như một lý thuyết lẫy mẫu mới vào năm 2006 bởi Emmanuel Candès, Justin Romberg, và Terence Tao, phương pháp lấy mẫu nén cho phép thu trực tiếp tín hiệu dưới dạng nén mà không thông qua việc thu N mẫu tín hiệu rồi mới sử dụng các phương pháp nén như phương pháp thông thường. Với tín hiệu x chiều dài N, phương pháp lấy mẫu nén sử dụng M quá trình đo tuyến tính (M  N) được biểu diễn bởi phép nhân giữa x và một tập hợp các vectơ {φ j } M j=1 : y j =< x, φ j > Tập hợp các phép đo y j được sắp xếp trong một vectơ Y chiều dài M × 1 và các vectơ φ T j được sắp xếp như một hàng trong ma trận Φ kích thước M × N và do đó có thể được viết như sau: Y = ΦX = ΦΨs = Θs Quá trình đo ở đây là không thích nghi, tức là Φ là cố định và không phụ thuộc vào tín hiệu x. 5 1.3 Hai vấn đề chính trong lấy mẫu nén Mục tiêu của phương pháp lấy mẫu nén bây giờ là việc thiết kế và xây dựng: • Ma trận đo Φ ổn định có thể thu và lưu trữ các thông tin về tín hiệu ( tín hiệu thưa K hay tín hiệu có thể nén ) trong M phép đo (M  N) mà vẫn đảm bảo khôi phục lại tín hiệu. • Thuật toán khôi phục tín hiệu có thể tái tạo tín hiệu x từ M phép đo y 6 Phần I Kỹ Thuật Lấy Mẫu Nén 2 Lý thuyết về lấy mẫu nén 2.1 Phương pháp lấy mẫu Phương pháp lấy mẫu truyền thống thường được biểu diễn bởi sơ đồ sau Hình 1: Phương pháp lẫy mẫu truyền thống Tín hiệu đầu vào x là một tín hiêu chiều dài N và thưa K (tín hiệu có thể nén) có thể được biểu diễn qua một tập hợp các vectơ cơ sở ψ i : x = N  i=1 s i ψ i Do x là thưa K nên x có thể được biểu diễn bằng xấp xỉ của K trọng số lớn nhất: x ≈  K s i ψ i Việc thực hiện nén trong khối compress có thể thực hiện bằng một phương pháp nào đó như DCT rời rạc, Wavelet Tín hiệu sau đó gồm K trọng số lớn nhất được mã hóa và truyền đi. Ở nơi thu từ K trọng số lớn nhất thu được người ta tái tạo lại tín hiệu sử dụng các phép biến đổi DCT ngược hoặc Wavelet ngược (do các phép biến đổi này là hoàn toàn thuận nghịch) Tuy nhiên do những nhược điểm như đã trình bày của nó, mà lý thuyết lấy mẫu nén được phát triển. 7 Hình 2: Phương pháp lẫy mẫu nén Phương pháp này sử dụng M các phép đo tuyến tính không thích nghi: Y = ΦX = ΦΨs = Θs Hình 3: Quá trình thu tín hiệu Y bằng M phép đo tuyến tính không thích nghi Trong đó Φ là ma trận kích thước M × N. Từ "không thích nghi" ở đây có nghĩa là ma trận Φ là cố định và không phụ thuộc tín hiệu đầu vào x. 8 2.2 Điều kiện để khôi phục được tín hiệu Vấn đề là chọn ma trận đo Φ thế nào để cho phép tái tạo lại tín hiệu x từ M phép đo (M<N) - tức là khôi phục x từ vectơ y. Do M<N cho nên bài toán sẽ không thể có duy nhất nghiệm. Tuy nhiên nếu x là tín hiệu thưa K và vị trí của K hệ số khác 0 này được biết trước thì bài toán trở thành giải hệ phương trình K ẩn với M phương trình (M ≥ K) và bài toán sẽ có duy nhất nghiệm. Một điều kiện cần và đủ cho vấn đề này là, cho vectơ v bất kỳ có K hệ số khác 0, với  > 0 thì Θ cần thỏa mãn điều kiện sau đây: 1 −  ≤ Θv 2 v 2 ≤ 1 +  Điều kiện này được gọi là điều kiện RIP (Restricted isometry property). Một điều kiện khác yêu cầu các hàng của ma trận Φ không được xuất hiện thưa thớt trong các cột của ma trận Ψ. Điều kiện này gọi là điều kiện tách biệt (Incoherence). Trong nghiên cứu của Emmanuel Candès, Justin Romberg, và Terence Tao đã chứng minh rằng: Với việc sử dụng ma trận Φ là ma trận ngẫu nhiên, phân bố Gaussian, thì cả điều kiện RIP và điều kiện tách biệt (incoherence) đều được thỏa mãn. Và với việc sử dụng số các phép đo tiến hành M ≥ cKlog(N/K) với c là một hằng số nhỏ thì hoàn toàn có thể tái tạo được tín hiệu x thưa K và có chiều dài N ban đầu Hình 4: Sử dụng ma trận ngẫu nhiên trong việc thu tín hiệu 2.3 Phương pháp khôi phục tín hiệu Với phương pháp lấy mẫu nén chúng ta đã thu được tín hiệu: Y = ΦX Bài toán ngược đặt ra là tìm lại tín hiệu X từ các giá trị Y. Dưới đây là 2 phương pháp phổ biến được dùng cho việc khôi phục tín hiệu cho lấy mẫu nén 9 [...]... thể áp dụng kỹ thuật lấy mẫu nén (Compressed Sensing) trong mô hình nhận biết vô tuyến để có thể giảm tốc độ lấy mẫu xuống trong khi vẫn đảm bảo tính chính xác trong việc ước lượng các khoảng phổ trống Một nghiên cứu của các tác giả Z.Tian, G.B.Giannakis cho thấy kết quả tốt khi áp dụng phương pháp lấy mẫu nén cho việc nhận biết phổ vô tuyến Trong bài báo này, kỹ thuật lấy mẫu nén được sử dụng để khôi... x(n), sử dụng phương pháp lấy mẫu nén áp dụng cho tất cả các dòng thưa này, chúng ta sẽ nén được toàn bộ bức ảnh xuống chỉ còn 33280 điểm ảnh Tức là bức ảnh JPG giảm xuống chỉ còn 17.5% so với bức ảnh ban đầu Việc khôi phục lại bức ảnh sử dụng thuật toán L1 minimization Kết quả được thể hiện trong hình dưới: Hình 13: Kết quả mô phỏng việc nén ảnh JPEG bằng lấy mẫu nén 20 4.3 Nén tín hiệu thưa trong miền... đề lấy mẫu nén, với sơ đồ như hình vẽ: Hình 25: Sử dụng Chaos filter cho Compressive Sensing Gỉa thiết: • Cho tín hiệu vào x(n) chiều dài N , thưa K • Bộ lọc hỗn độn với hàm truyền h(n) có chiều dài B < N • Tín hiệu lấy mẫu nén y(n) có chiều dài M Tín hiệu p(n) ra khỏi bộ lọc có chiều dài B + N − 1 được tạo bởi phép nhân chập giữa x(n) và h(n): ∞ x(k)h(n − k) p(n) = k=0 Để tạo ra tín hiệu lấy mẫu nén. .. phỏng lấy mẫu nén 4.1 Nén tín hiệu thưa trong miền thời gian Xét tín hiệu thưa x trong miền thời gian, chiều dài N = 512 thưa K = 20 Số các phép đo sử dụng M = 100 Sử dụng phương pháp L1 minimization cho việc khôi phục tín hiệu Sơ đồ bên dưới trình bày kết quả mô phỏng: Hình 11: Kết quả mô phỏng 4.2 Nén ảnh sử dụng CS Như chúng ta đã biết, JPEG là một trong những chuẩn nén tốt sử dụng trong nén ảnh,... nếu tín hiệu là dài thì điều này gây ra nhiều khó khăn Hơn nữa, chỉ dừng lại ở phép nhân ma trận thì rất khó có thể triển khai cụ thể ứng dụng lấy mẫu tín hiệu thời gian thực Sử dụng bộ lọc ngẫu nhiên là một kỹ thuật lấy mẫu tín hiệu trong phương pháp lấy mẫu nén được công bố bởi Joel A.Tropp, Michael B.Wakin, Marco F.Duarte, Dror Baron và Richard G.Baraniuk Trong phương pháp này các tác giả đã thay... thuật sử dụng bộ lọc ngẫu nhiên(random filter) trong lấy mẫu nén và sự cần thiết để phát triển bộ lọc hỗn độn(chaos filter) Trong kết quả bài báo của Candès, Romberg, Tao and Donoho phép đo tuyến tính ngẫu nhiên không thích nghi (Random linear projection) được sử dụng cho việc thu trực tiếp tín hiệu thưa x, tuy nhiên nếu như vậy thì phương pháp lấy mẫu nén khó có thể triển khai các ứng dụng thực tế bởi... bài báo này, kỹ thuật lấy mẫu nén được sử dụng để khôi phục dải phổ từ mô hình lấy mẫu ngẫu nhiên - với số mẫu ít hơn so với tiêu chuẩn Nyquist - từ đó xác định vị trí của các dải tần bằng phương pháp xác định biên dựa trên kỹ thuật wavelet (wavelet based edge detector) Chúng ta có thể tóm lược phương pháp sử dụng lấy mẫu nén mà các tác giả đã trình bày trong việc ứng dụng cho nhận biết phổ vô tuyến... sử dụng trong lấy mẫu nén • Sử dụng L2 : N x = min x x∈RN l2 |xi |2 = min x∈RN i=1 Với điều kiện: Y = ΦX Phương pháp này không khôi phục đúng dữ liệu • Sử dụng L1 : N x = min x x∈RN l1 |xi | = min x∈RN i=1 Với điều kiện: Y = ΦX Thuật toán này có thể khôi phục chính xác tín hiệu thưa K sử dụng M phép đo tuyến tính không thích nghi với M ≥ cKlog(N/K) Phương pháp này sử dụng trong lấy mẫu nén cho việc... liệu nén Y • Độ thưa K của tín hiệu đầu vào x 1 Khởi tạo: r0 = y, t = 1 2 Tính toán cột it của ma trận Φ: it = argmaxi | < rt−1 , Φi > | 13 3 Tính: rt = y − Pt y Trong đó : N Pt y = θik Φik k=1 θik là các trọng số được ước lượng của tín hiệu X 4 Nếu t . quả tốt khi áp dụng phương pháp lấy mẫu nén cho việc nhận biết phổ vô tuyến. Trong bài báo này, kỹ thuật lấy mẫu nén được sử dụng để khôi phục dải phổ từ mô hình lấy mẫu ngẫu nhiên - với số mẫu. khôi phục  X 14 3 Ứng dụng của lý thuyết lấy mẫu nén 3.1 Trong nén dữ liệu Thành tựu điển hình của lấy mẫu nén là việc thu các bức ảnh số với tốc độ lấy mẫu nhỏ trong một camera có duy nhất 1 sensor. pháp lấy mẫu nén . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5 1.3 Hai vấn đề chính trong lấy mẫu nén . . . . . . . . . . . . . . . . . . . . . . . . . 6 I Kỹ Thuật Lấy Mẫu Nén