CÁC PHƯƠNG PHÁP NÉN CỔ ĐIỂN VÀ NHƯỢC ĐIỂM CỦA NHỮNG PHƯƠNG PHÁP
Các phương pháp nén cổ điển và nhược điểm
Các kỹ thuật nén cổ điển, như DCT rời rạc và wavelet, sử dụng phép biến đổi thuận nghịch để xấp xỉ tín hiệu có thể nén bằng cách trọng số lớn Khi áp dụng phép biến đổi này cho tín hiệu dài mẫu và thưa, chúng ta sẽ thu được một tập hợp các trọng số, trong đó trọng số lớn nhất sẽ được mã hóa, trong khi các trọng số nhỏ hơn sẽ bị loại bỏ.
Tuy nhiên chính cách làm này xuất hiện những nhược điểm của phương pháp:
Số lƣợng các mẫu thu là lớn trong khi lại là nhỏ
Tất cả mẫu đều phải đƣợc tính toán trong khi chúng ta chỉ giữ lại giá trị còn lại giá trị bị loại bỏ
Việc mã hóa giá trị sau khi lưu trữ hoặc truyền đi yêu cầu bổ sung các bit tiêu đề và bit sửa lỗi để đảm bảo tính toàn vẹn và chính xác của dữ liệu.
Tất cả những nhược điểm này làm giảm tốc độ xử lý dữ liệu, đặc biệt là với tín hiệu băng tần cao, yêu cầu tốc độ lấy mẫu lớn để đảm bảo khôi phục dữ liệu đúng theo tiêu chuẩn Nyquist.
Phương pháp lấy mẫu nén
Lấy mẫu nén là một kỹ thuật xử lý tín hiệu giúp tối ưu hóa và tái tạo tín hiệu bằng cách giải quyết các hệ thống tuyến tính chưa xác định Kỹ thuật này mang lại lợi ích cho việc xử lý tín hiệu thưa thớt hoặc tín hiệu nén trong nhiều lĩnh vực khác nhau.
GVHD là một chủ đề quan trọng trong y học, với PGS.TS Nguyễn Thúy Anh và SVTH Đoàn Khánh Linh 2 nhấn mạnh rằng nó cho phép xác định toàn bộ tín hiệu từ một số lượng phép đo tương đối ít MRI được coi là một trong những ứng dụng nổi bật nhất trong lĩnh vực này.
Phương pháp lấy mẫu nén, được giới thiệu lần đầu vào năm 2006 bởi Emmanuel Candes, Justin Romberg và Terence Tao, cho phép thu thập tín hiệu trực tiếp dưới dạng nén mà không cần phải thu mẫu tín hiệu trước và sau đó áp dụng các phương pháp nén truyền thống Sơ đồ khối cơ bản của quá trình này minh họa rõ ràng cách thức hoạt động của phương pháp này.
Hình 1.2: Ý nghĩa của Compressed Sensing
Phương pháp lấy mẫu nén sử dụng tín hiệu chiều dài thông qua quá trình đo tuyến tính, được biểu diễn bằng phép nhân giữa và một tập hợp các vectơ { j }.
Tập hợp các phép đo được tổ chức trong một vectơ Y, với chiều dài của các vectơ được xếp thành hàng trong ma trận có kích thước xác định.
GVHD:PGS.TS Nguyễn Thúy Anh SVTH:Đoàn Khánh Linh 3
Quá trình đo ở đây là không thích nghi, tức là là cố định và không phụ thuộc vào tín hiệu
Hình 1.3: Quá trình thu tín hiệu bằng M phép đo tuyến tính không thích nghi
Hình 1.4: Phương pháp lấy mẫu nén
Hai vấn đề chính trong lấy mẫu nén
Mục tiêu của phương pháp lấy mẫu nén là thiết kế và xây dựng ma trận đo ổn định, cho phép thu thập và lưu trữ thông tin về tín hiệu, bao gồm cả tín hiệu thưa thớt.
GVHD: PGS.TS Nguyễn Thúy Anh, SVTH: Đoàn Khánh Linh 4, nghiên cứu về khả năng nén trong phép đo tín hiệu mà vẫn đảm bảo khả năng khôi phục tín hiệu Thuật toán khôi phục tín hiệu có khả năng tái tạo tín hiệu từ các phép đo đã thực hiện.
Dựa trên những hạn chế của phương pháp lấy mẫu theo định lý Shannon, chúng ta sẽ khám phá kỹ thuật lấy mẫu nén một cách chi tiết và các vấn đề cần giải quyết khi áp dụng phương pháp này trong chương tiếp theo.
GVHD:PGS.TS Nguyễn Thúy Anh SVTH:Đoàn Khánh Linh 5
KỸ THUẬT LẤY MẪU NÉN
Giới thiệu chung về lấy mẫu nén
Chúng ta đang chứng kiến một cuộc cách mạng kỹ thuật số với sự phát triển liên tục của các hệ thống lấy mẫu có độ phân giải ngày càng cao Nền tảng lý thuyết của cuộc cách mạng này bắt nguồn từ các công trình của Kotelnikov, Nyquist, Shannon và Whittaker, tập trung vào việc lấy mẫu thời gian liên tục trên băng tần cố định Các nghiên cứu của họ đã chỉ ra rằng tín hiệu, hình ảnh, video và dữ liệu khác có thể được phục hồi chính xác từ một tập hợp mẫu có tần số lấy mẫu tối thiểu gấp đôi tần số lớn nhất, được gọi là tần số lấy mẫu Nyquist Nhờ vào phát hiện này, nhiều tín hiệu đã được chuyển đổi từ dạng tương tự sang dạng số, giúp việc lấy mẫu và xử lý tín hiệu trở nên dễ dàng hơn, dẫn đến việc tín hiệu số trở nên phổ biến hơn so với tín hiệu tương tự.
Sự phát triển nhanh chóng của dữ liệu từ phương pháp lấy mẫu đã dẫn đến việc số lượng mẫu theo định lý Nyquist vẫn còn cao hơn mong đợi và tốn kém trong nhiều ứng dụng quan trọng như hình ảnh, video, hình ảnh y tế, giám sát từ xa, quang phổ và phân tích gen Mặc dù có những tiến bộ trong khả năng tính toán, việc thu thập và xử lý tín hiệu vẫn gặp nhiều thách thức Để giải quyết các vấn đề liên quan đến xử lý dữ liệu đa chiều, nén dữ liệu trở thành một giải pháp quan trọng Mục tiêu hiện tại là tìm ra các chuẩn nén tối ưu để đạt được mức độ nén cao mà không gây ra biến dạng hoặc lỗi quá lớn Kỹ thuật mã hóa là một trong những phương pháp nén phổ biến, thường dựa vào việc tìm kiếm tín hiệu cơ sở để cung cấp tín hiệu rời rạc hoặc nén chúng thành một nhóm.
GVHD:PGS.TS Nguyễn Thúy Anh SVTH:Đoàn Khánh Linh 6 cho biết rằng tín hiệu có thể được biểu diễn với các hệ số khác không thông qua mẫu nén, cho phép xấp xỉ tốt hơn bằng các hệ số nhỏ hơn Cả tín hiệu rời rạc và nén đều có thể được thể hiện chính xác cao bằng cách giữ lại các giá trị và vị trí của các hệ số lớn nhất Quá trình này được gọi là xấp xỉ thưa (sparse-approximation), tạo nền tảng cho các phương pháp mã hóa phối hợp trong khai thác tín hiệu rời rạc và nén, bao gồm các tiêu chuẩn như JPEG, JPEG2000, MPEG và MP3.
Lấy mẫu nén, dựa trên các khái niệm chuyển đổi mã hóa, đã trở thành một khuôn khổ mới trong xử lý tín hiệu và thiết kế lấy mẫu, cho phép giảm số lượng mẫu và chi phí tính toán Trong khi định lý Nyquist-Shannon xác định số mẫu tối thiểu cần thiết để nắm bắt tín hiệu trong một dải tần hạn chế, lấy mẫu nén cho phép giảm kích thước lưu trữ khi tín hiệu là rời rạc trong một cơ sở đã biết Ý tưởng chính của lấy mẫu nén là thử nghiệm dữ liệu dưới dạng nén với tốc độ lấy mẫu thấp hơn, thay vì lấy mẫu với tốc độ cao rồi nén sau Lấy mẫu nén được phát triển từ công trình của Candes, Romberg, Tao và Donoho, cho thấy rằng một tín hiệu hữu hạn chiều có thể được phục hồi từ một tập hợp nhỏ các phép đo tuyến tính không thích nghi Thiết kế hệ thống đo lường và mở rộng cho các mô hình dữ liệu thực tế là những thách thức quan trọng trong lĩnh vực này.
Vấn đề xử lý tín hiệu đã thu hút sự chú ý lớn trong giới nghiên cứu gần đây, nhưng các ý tưởng về vấn đề này đã xuất hiện từ thế kỷ 18 Năm 1795, Prony đã đề xuất một thuật toán để tính toán các thông số liên quan đến một số lượng nhỏ các hàm mũ phức tạp bị nhiễu Những bước nhảy vọt lý thuyết tiếp theo diễn ra vào đầu thế kỷ 20, khi Carathéodory chứng minh rằng có thể tạo ra sự kết hợp tuyến tính với bất kỳ tín hiệu nào.
Hiệu hình sin được xác định duy nhất bởi giá trị tại thời điểm t=0 và tại hai thời điểm khác, cho phép lấy mẫu ít hơn so với số lượng mẫu Nyquist khi tần số nhỏ và phạm vi tần số lớn Vào những năm 1990, nghiên cứu của George, Gorodnitsky và Rao đã tổng quát hóa tín hiệu rời rạc trong hình ảnh sinh học và các lĩnh vực khác Đồng thời, Bresler, Feng và Venkataramani đã đề xuất phương pháp lấy mẫu để thu được các mẫu nhất định của tín hiệu với băng thông khác nhau, mặc dù việc phục hồi tín hiệu không đảm bảo chính xác Đầu những năm 2000, Blu, Marziliano và Vetterli phát triển phương pháp lấy mẫu cho các lớp tín hiệu nhất định, cho thấy rằng tín hiệu có thể được lấy mẫu và thu hồi từ chỉ hai mẫu.
Một vấn đề quan trọng trong phục hồi tín hiệu là việc xác định toàn bộ biến đổi Fourier từ một phần quan sát Beurling đã đề xuất một phương pháp ngoại suy để thực hiện điều này Nếu tín hiệu chứa một số lượng hữu hạn các xung, phương pháp của Beurling có thể phục hồi chính xác toàn bộ biến đổi Fourier từ bất kỳ phần nào đủ lớn Cách tiếp cận của Beurling, nhằm tìm tín hiệu với mức ℓ1 nhỏ nhất trong số tất cả các tín hiệu đáp ứng yêu cầu của biến đổi Fourier, có sự tương đồng đáng chú ý với các thuật toán trong lấy mẫu nén.
Gần đây, Candes, Romberg, Tao và Donoho đã phát hiện ra rằng một tín hiệu rời rạc có thể được phục hồi chính xác từ một số lượng nhỏ các phép đo tuyến tính không thích nghi Kết quả này chứng minh rằng tín hiệu rời rạc có thể được thu thập thông qua việc lấy mẫu rất ít, dẫn đến khái niệm lấy mẫu nén Tuy nhiên, lấy mẫu nén khác với lấy mẫu cổ điển ở ba khía cạnh quan trọng.
GVHD: PGS.TS Nguyễn Thúy Anh, SVTH: Đoàn Khánh Linh 8 Lý thuyết lấy mẫu truyền thống thường tập trung vào tín hiệu thời gian liên tục trong một khoảng chiều dài hữu hạn Ngược lại, lý thuyết lấy mẫu nén nghiên cứu các vector trong miền với chiều hữu hạn, mang lại những ứng dụng quan trọng trong xử lý tín hiệu.
Hệ thống lấy mẫu nén không chỉ lấy mẫu tín hiệu tại các điểm đặc trưng trong miền thời gian mà còn thực hiện việc lấy mẫu trong các kết quả bên trong giữa các tín hiệu và nhiều chức năng kiểm tra tổng quát Phương pháp này phản ánh xu hướng hiện đại trong việc thu thập tín hiệu thông qua các phép đo tuyến tính tổng quát Sự ngẫu nhiên thường có vai trò quan trọng trong việc thiết kế các chức năng kiểm tra.
Trong lĩnh vực phục hồi tín hiệu, có hai khuôn khổ chính: lấy mẫu Nyquist-Shannon và lấy mẫu nén Phương pháp Nyquist-Shannon phục hồi tín hiệu thông qua nội suy sinc, một quá trình tuyến tính đơn giản và ít tính toán Ngược lại, lấy mẫu nén thường sử dụng các phương pháp phi tuyến cao, mang lại tác động đáng kể trong nhiều ứng dụng, đặc biệt là trong hình ảnh y tế, nơi nó đã giúp tăng tốc độ MRI lên bảy lần mà vẫn duy trì chất lượng chẩn đoán Nghiên cứu về lấy mẫu nén đang mở rộng ứng dụng của nó, bao gồm hệ thống lấy mẫu phụ Nyquist, kiến trúc hình ảnh nén và mạng lấy mẫu nén Định lý Shannon-Nyquist khẳng định rằng để không mất thông tin, tín hiệu cần được lấy mẫu với tần số cao hơn ít nhất gấp đôi băng tần của nó Tuy nhiên, trong nhiều ứng dụng như ảnh số và radar, tốc độ lấy mẫu Nyquist thường rất cao, dẫn đến việc cần nén tín hiệu để tối ưu hóa lưu trữ và truyền tải.
GVHD: PGS.TS Nguyễn Thúy Anh, SVTH: Đoàn Khánh Linh 9, nhấn mạnh rằng nhu cầu sử dụng các bộ chuyển đổi ADC tốc độ cao đã dẫn đến nhiều thách thức trong quá trình chế tạo, đồng thời làm tăng đáng kể chi phí sản xuất.
Nghiên cứu này giới thiệu một phương pháp mới để thu tín hiệu với tốc độ lấy mẫu thấp hơn tốc độ Nyquist, được gọi là lấy mẫu nén (Compressed Sensing) Phương pháp này sử dụng các ánh xạ tuyến tính không thích nghi để lưu trữ cấu trúc của tín hiệu, và tín hiệu sau đó được tái tạo bằng các phương pháp lý thuyết tối ưu như ℓ1-minimization hoặc OMP.
2.2.Xét lại không gian vector
Trong lịch sử ngành xử lý tín hiệu, phần lớn sự chú ý đã tập trung vào các tín hiệu được tạo ra từ các hệ thống vật lý Nhiều hệ thống tự nhiên và nhân tạo có thể được mô hình hóa theo cách tuyến tính Khái niệm này đã được áp dụng trong xử lý tín hiệu thông qua việc mô hình hóa các tín hiệu như là các vectơ trong một không gian vectơ phù hợp.
Hình 2.1: Đơn vị hình cầu trong với định mức và với không gian tựa chuẩn (quasinorm) với
Khi chúng ta kết hợp hai tín hiệu, chúng ta tạo ra một tín hiệu vật lý mới có ý nghĩa, nhờ vào cấu trúc tuyến tính mà chúng ta thường mong muốn Không gian vectơ cho phép áp dụng tính chất trực giao cùng các công cụ hình học như độ dài, khoảng cách và góc độ, giúp mô tả và so sánh các tín hiệu một cách hiệu quả, ngay cả khi tín hiệu đang ở trong không gian.
GVHD:PGS.TS Nguyễn Thúy Anh SVTH:Đoàn Khánh Linh 10 gian nhiều chiều (high - dimensional) hoặc trong vô hạn chiều (infinite - dimensional spaces).
Không gian vector chuẩn (Normed vector spaces)
Trong miền vô hạn rời rạc, tín hiệu có thể được biểu diễn dưới dạng vectơ trong không gian Elip chiều Việc phân chia các vectơ trong không gian này giúp chúng ta hiểu rõ hơn về cấu trúc và tính chất của tín hiệu.
, chúng ta sẽ thường xuyên sử dụng định mức của ℓ p , được định nghĩa với = [1,
| | (2.1) Trong không gian Elip, chúng taxét các tiêu chuẩn bên trong tiêu chuẩn trong mà:
〈 〉 ∑ i i Điều này dẫn đến định mức ℓ 2 :‖ ‖ 2 =√〈 〉
Trong một số tình huống, việc mở rộng khái niệm định mức ℓ p là rất cần thiết Tuy nhiên, trong trường hợp này, định mức được xác định trong công thức (2.1) không thỏa mãn bất đẳng thức tam giác, dẫn đến việc nó thực sự trở thành một không gian tựa chuẩn Chúng ta sẽ thường xuyên sử dụng ký hiệu ‖ ‖ 0 :=| |, trong đó { } biểu thị sự hỗ trợ của x và | | trong bản số của
Chú ý rằng ‖ ‖ 0 không phải là một không gian tựa chuẩn, nhưng có thể dễ dàng nhận thấy rằng ‖ ‖ | | giải thích cho sự chọn ký hiệu này Chuẩn ℓ p có những đặc tính đáng chú ý khác với các giá trị khác Để minh họa, trong hình 2.1, chúng ta thấy trên vòng tròn đơn vị, ví dụ như { ‖ ‖ }, bao gồm mỗi chỉ tiêu trong
Chúng ta thường sử dụng các chỉ tiêu để đo lường cường độ tín hiệu hoặc kích thước lỗi Ví dụ, khi phát tín hiệu, chúng ta mong muốn biểu diễn tín hiệu đó bằng một điểm trong không gian.
GVHD là một vấn đề quan trọng trong nghiên cứu, nơi chúng ta cần đo lỗi xấp xỉ bằng cách sử dụng định chuẩn ℓ p Nhiệm vụ của chúng ta là tìm ra ̂ với mục tiêu giảm thiểu giá trị ‖ ̂‖ p.
Hình 2.2: giá trị gần đúng nhất của một điểm trong bởi một không gian con một chiều sử dụng định mức ℓp với và không gian tựa chuẩn với
Sự lựa chọn định chuẩn ℓp ảnh hưởng lớn đến các thuộc tính của lỗi xấp xỉ kết quả Khi tính toán điểm gần nhất trong A theo định chuẩn ℓp, sự tăng lên của p sẽ làm cho lỗi phân bố đồng đều hơn giữa hai hệ số Ngược lại, nếu p nhỏ, lỗi sẽ phân bố không đều và có xu hướng thưa thớt Quan điểm này rất quan trọng trong lý thuyết lấy mẫu nén, đặc biệt trong không gian chiều cao hơn.
Mô hình tín hiệu thấp chiều
Xử lý tín hiệu chủ yếu liên quan đến việc áp dụng các thuật toán hiệu suất cao để lấy mẫu và xử lý thông tin từ nhiều loại tín hiệu và dữ liệu khác nhau Để thiết kế các thuật toán cho từng vấn đề cụ thể, việc xây dựng mô hình chính xác cho các tín hiệu quan trọng là cần thiết Mô hình này có thể bao gồm mô hình phát, các loại xác định, hoặc mô hình xác suất Bayesian Nhìn chung, các mô hình này rất hữu ích trong việc phân loại tín hiệu cần quan tâm, đặc biệt là đối với các tín hiệu không cần quan tâm, chiếm tỷ lệ thiểu số.
GVHD: PGS.TS Nguyễn Thúy Anh và SVTH: Đoàn Khánh Linh 12 nhấn mạnh tầm quan trọng của kiến thức tiên quyết Kiến thức này giúp nâng cao hiệu suất, đồng thời đảm bảo việc xử lý, nén và giao tiếp dữ liệu cũng như thông tin một cách chính xác.
Xử lý tín hiệu cổ điển thường dựa trên việc mô hình hóa tín hiệu như các vectơ trong không gian vector, dẫn đến sự gia tăng chiều dữ liệu cần xử lý Tuy nhiên, mô hình tuyến tính đơn giản không luôn phản ánh đầy đủ cấu trúc của các tín hiệu hiện đại, vì không phải tất cả các vectơ đều đại diện cho tín hiệu thực Gần đây, đã xuất hiện những quan điểm trái chiều về việc áp dụng khái niệm lượng tử hóa số bậc tự do trong các tín hiệu đa chiều, cho thấy rằng số bậc tự do này thường khá nhỏ so với chiều không gian xung quanh.
Trong bài viết này, chúng tôi cung cấp cái nhìn tổng quan về các cấu trúc một chiều phổ biến trong lĩnh vực lấy mẫu nén Chúng tôi bắt đầu với các mô hình rời rạc truyền thống cho tín hiệu hữu hạn, sau đó mở rộng sang tín hiệu vô hạn (liên tục theo thời gian) Bên cạnh đó, chúng tôi cũng đề cập đến ma trận thứ hạng thấp, các mô hình đa dạng và mối liên quan giữa lấy mẫu nén và các vấn đề nổi bật khác.
GVHD:PGS.TS Nguyễn Thúy Anh SVTH:Đoàn Khánh Linh 13
Hình 2.3 minh họa việc biểu diễn rời rạc của một hình ảnh thông qua chuyển đổi wavelet đa quy mô Cụ thể, phần a) thể hiện hình ảnh gốc, trong khi phần b) hiển thị đại diện wavelet Các hệ số lớn được biểu diễn bằng các điểm ảnh sáng, trong khi các hệ số nhỏ được thể hiện qua các điểm ảnh tối Đáng lưu ý rằng hầu hết các hệ số wavelet gần như bằng không.
Tín hiệu thường được gần đúng như một tổ hợp tuyến tính của các yếu tố từ một thành phần cơ bản đã biết hoặc trong thư viện Khi phép biểu diễn này chính xác, tín hiệu được coi là rải rác Mô hình tín hiệu thưa thớt cung cấp một khuôn khổ toán học để chụp hình thực trong nhiều trường hợp, khi các tín hiệu đa chiều chứa ít thông tin so với kích thước môi trường xung quanh Rải rác hóa tín hiệu có thể được xem như một sự thay thế cho nguyên tắc Occam's razor, trong đó sự lựa chọn đơn giản nhất để đại diện cho tín hiệu là tốt nhất.
2.4.1.1 Phép lấy mẫu thƣa thớt và gần đúng phi tuyến
Trong toán học, chúng ta nói rằng một tín hiệu x có giá trị thƣa thớt khi nó có ở hầu hết các điểm khác 0, nghĩa là: ||x|| 0 cho phép k ={ x : ||x|| 0 }
GVHD: PGS.TS Nguyễn Thúy Anh, SVTH: Đoàn Khánh Linh, đề cập đến việc biểu diễn tập hợp tất cả các tín hiệu rải rác Thông thường, chúng ta làm việc với các tín hiệu liên tục, nhưng trong trường hợp này, tín hiệu nhận giá trị rải rác trong một vài cơ sở Chúng ta có thể coi x tương đương với mẫu rải rác và biểu diễn x dưới dạng x = ϕc với ||c||0.
Phép lấy mẫu rải rác đã được ứng dụng rộng rãi trong xử lý tín hiệu và lý thuyết xấp xỉ, phục vụ cho các nhiệm vụ như nén và giảm nhiễu Trong thống kê và học máy, phương pháp này giúp tránh overfitting Lấy mẫu rời rạc cũng đóng vai trò quan trọng trong lý thuyết xác suất thống kê và mô hình chọn lọc, đặc biệt trong nghiên cứu hệ thống thị giác của con người Nó đã được khai thác nhiều trong xử lý hình ảnh, đặc biệt từ khi chuyển đổi wavelet multiscale cung cấp phép biểu diễn gần như rời rạc cho hình ảnh tự nhiên.
Giống như ứng dụng truyền thống của mô hình lấy mẫu thưa thớt, chúng ta chú trọng đến việc nén hình ảnh và giảm nhiễu Hình ảnh tự nhiên thường có mặt phẳng lớn hoặc kết cấu lớn với ít cạnh sắc nét, khiến chúng gần thưa thớt khi sử dụng biến đổi wavelet multiscale Phép biến đổi wavelet phân chia hình ảnh thành các thành phần tần số thấp và cao; trong đó, các thành phần tần số thấp nhất cung cấp hình ảnh thô gần đúng, trong khi các thành phần tần số cao hơn bổ sung chi tiết và độ phân giải sắc nét.
Khi thực hiện biến đổi wavelet trên hình ảnh tự nhiên, hầu hết các hệ số thu được đều rất nhỏ, cho phép chúng ta thiết lập các hệ số nhỏ xấp xỉ bằng không để có được một phép đo gần đúng của tín hiệu Bằng cách áp dụng một ngưỡng cho các hệ số, chúng ta có thể biểu diễn giá trị rời rạc của tín hiệu Phương pháp này, khi sử dụng chuẩn p để tính toán sai số, đạt được hiệu quả gần đúng tốt nhất so với tín hiệu gốc, từ đó cung cấp một phép tính gần đúng tối ưu dựa trên các thành phần cơ bản.
GVHD:PGS.TS Nguyễn Thúy Anh SVTH:Đoàn Khánh Linh 15
Hiệu suất của ngưỡng tín hiệu đạt tối ưu khi gần với K giới hạn trong một cơ sở trực giao Khi sử dụng khung dư thừa, cần áp dụng các thuật toán rời rạc gần đúng để đảm bảo hiệu quả.
Hình 2.4: lấy mẫu rải rác gần đúng của một hình ảnh tự nhiên
(b) Phép gần đúng của hình ảnh thu đƣợc bằng cách chỉ giữ 10% hệ số wavelet lớn nhất
Hình 2.4 minh họa một ví dụ về hình ảnh và giá trị gần đúng, là yếu tố quan trọng trong phép tính gần đúng phi tuyến, nơi việc chọn hệ số phụ thuộc vào tín hiệu Tín hiệu đã biết cho thấy hình ảnh tự nhiên có biến đổi wavelet rời rạc, và quá trình cùng ngưỡng đóng vai trò như phương pháp khử tiếng ồn phổ biến, điều mà thường không xuất hiện trong biến đổi wavelet rải rác.
2.4.1.2 Dạng hình học của tín hiệu rời rạc
Rải rác hóa là một mô hình phi tuyến, trong đó việc lựa chọn các yếu tố thư viện cơ sở có thể thay đổi tùy theo từng tín hiệu Điều này cho thấy tính linh hoạt và đa dạng của mô hình trong việc xử lý thông tin.
GVHD: PGS.TS Nguyễn Thúy Anh, SVTH: Đoàn Khánh Linh, đã chỉ ra rằng bằng cách quan sát một cặp tín hiệu thưa thớt, có thể tạo ra một tổ hợp tuyến tính của hai tín hiệu không còn thưa thớt Điều này dẫn đến việc tín hiệu không nhất thiết phải trùng khớp Cụ thể, với bất kỳ z_k nào, không cần thiết phải có x + z_k, mặc dù có thể có x + z_{2k} Hình 2.5 minh họa rằng có hai ẩn số trong ba tín hiệu, tức là tập hợp tất cả các tín hiệu hai giá trị thưa thớt trong ba tín hiệu đó.
Hình 2.5 minh họa tập hợp không gian con được hình thành từ hai tín hiệu rải rác trong không gian ba chiều, bao gồm tất cả các tín hiệu có giá trị thưa thớt trong không gian này.
phép lẫy mẫu trong ma trận
Trong phần này, chúng ta sẽ xem xét mô hình lấy mẫu hữu hạn chiều tiêu chuẩn, đặc biệt là khi phân tích tín hiệu x n với m phép đo tuyến tính trong hệ thống đo lường Phương trình toán học được biểu diễn là y = Ax, trong đó A là ma trận thể hiện sự suy giảm số chiều, ánh xạ từ n (thường lớn) sang m (thường nhỏ hơn nhiều so với N) Trong khuôn khổ lấy mẫu nén chuẩn, các phép đo được giả định là không thay đổi, tức là các hàng của A được cố định và không phụ thuộc vào kết quả đo trước đó Việc điều chỉnh thông số cho phép đo có thể nâng cao hiệu suất thu thập dữ liệu.
Khuôn khổ lấy mẫu nén tiêu chuẩn thường giả định rằng dữ liệu có chiều dài hữu hạn với giá trị rời rạc, như thời gian hoặc không gian Tuy nhiên, trong thực tế, việc thiết kế hệ thống đo lường để thu thập tín hiệu liên tục, chẳng hạn như tín hiệu theo thời gian hoặc hình ảnh, là rất quan trọng Để mở rộng mô hình này, có thể sử dụng một phép biểu diễn rời rạc trung gian cho các tín hiệu có giá trị liên tục.
Trong lĩnh vực lấy mẫu nén, có hai câu hỏi lý thuyết quan trọng cần xem xét Đầu tiên, việc thiết kế ma trận đo A là rất cần thiết để bảo đảm rằng nó giữ lại thông tin trong các tín hiệu Thứ hai, chúng ta cần tìm ra phương pháp khôi phục tín hiệu ban đầu từ các phép đo Khi dữ liệu thưa thớt hoặc nén, chúng ta có khả năng thiết kế ma trận A sao cho việc phục hồi tín hiệu trở nên khả thi.
GVHD: PGS.TS Nguyễn Thúy Anh, SVTH: Đoàn Khánh Linh 25, đã nghiên cứu hồi tín hiệu ban đầu một cách chính xác và hiệu quả thông qua việc sử dụng nhiều thuật toán khác nhau Bài viết bắt đầu bằng việc giải quyết câu hỏi về thiết kế ma trận đo A Thay vì trình bày một quy trình thiết kế cụ thể, chúng tôi tập trung vào việc xác định các đặc tính mong muốn cho ma trận A Cuối cùng, chúng tôi cung cấp một số ví dụ quan trọng về cấu trúc của ma trận đáp ứng các đặc tính này.
2.5.1 Điều kiện không gian Không (Null space conditions) Để bắt đầu xét điểm A tự nhiên bằng cách xem xét một không gian rỗng A, kí hiệu
Để phục hồi tất cả các tín hiệu thưa thớt x từ các phép đo Ax, cần phân biệt rõ ràng giữa các vector riêng biệt x và x’ Điều này chỉ khả thi khi Ax khác Ax’, vì nếu không, không thể phân biệt x từ x’ chỉ dựa trên các phép đo y Cụ thể, nếu Ax = Ax’, thì A(x – x’) = 0 với x – x’ thuộc 2k, cho thấy A biểu diễn duy nhất cho tất cả x thuộc k khi và chỉ khi không có vector nào trong 2k nằm trong không gian null của A Một trong những khái niệm phổ biến để diễn đạt tính chất này là spark Spark của một ma trận A được định nghĩa là số lượng nhỏ nhất của các cột A có phụ thuộc tuyến tính Định lý cho biết rằng, đối với bất kỳ vector y m, tồn tại nhiều nhất một tín hiệu x thuộc k sao cho y = Ax khi và chỉ khi spark(A) > 2.
Giả sử rằng với bất kỳ y m nào, tồn tại tối đa một tín hiệu x k sao cho y = Ax Khi xem xét điều kiện ngược lại (A) 2k, điều này chỉ ra rằng có một số bộ giá trị tuyến tính độc lập với khoảng 2k cột Do đó, tồn tại một h N(A) sao cho h 2k.
GVHD:PGS.TS Nguyễn Thúy Anh SVTH:Đoàn Khánh Linh 26
Trong bài viết này, chúng ta chứng minh rằng nếu spark(A) > 2k, thì không tồn tại hai tín hiệu khác nhau x và x’ sao cho y = Ax = Ax’ Cụ thể, nếu giả sử h = x – x’ và A(h) = 0, điều này dẫn đến x = x’, mâu thuẫn với giả định ban đầu Do đó, từ spark(A) > 2k, ta có thể kết luận rằng tất cả các bộ giá trị lên đến 2k cột của A là độc lập tuyến tính, chứng minh định lý.
Dễ dàng thấy rằng spark(A) [2;m + 1] Vì vậy, định lý 1.1 thỏa mãn yêu cầu
Khi xử lý các vector thưa thớt với giá trị xác định, Spark cung cấp đầy đủ các đặc tính khi giá trị thô có thể khôi phục Tuy nhiên, với tín hiệu xấp xỉ thô, chúng ta cần xem xét các điều kiện hạn chế hơn trên không gian rỗng của A Điều quan trọng là đảm bảo rằng N(A) không chứa bất kỳ vector nào có thể nén nhiều ngoài các vector thưa thớt Để làm rõ điều này, chúng tôi định nghĩa một số ký hiệu sẽ hữu ích trong toàn bộ cuốn sách Giả sử rằng {1,2,…,n} là tập con của số mũ và cho phép c.
= {1,2,…,n}\ Bởi x đƣợc hiểu là thu đƣợc vectơ có chiều dài n bằng cách thiết lập các chỉ số đầu vào x từ
Ma trận A được xác định bằng cách thiết lập chỉ số các cột từ 0 đến c Định lý 1.2 chỉ ra rằng một ma trận A thỏa mãn tính chất không gian rỗng (NSP) trật tự k nếu tồn tại một hằng số C lớn hơn 0.
Sao cho tất cả h N (A) và tất cả sao cho | | k
Theo quan điểm của NSP, các vectơ trong không gian rỗng của A không nên chỉ tập trung vào một tập con số mũ Ví dụ, một vectơ h là
GVHD:PGS.TS Nguyễn Thúy Anh SVTH:Đoàn Khánh Linh 27 đề cập đến giá trị k-thưa thớt và sự tồn tại của giá trị sao cho || h c || 1 = 0, từ đó suy ra rằng h = 0 là đúng Nếu ma trận A thỏa mãn NSP, chỉ có K-vector thưa thớt trong N(A) với h=0 Để làm rõ vai trò của NSP trong việc khôi phục tín hiệu thưa thớt, chúng ta sẽ xem xét cách đo hiệu suất của thuật toán khôi phục tín hiệu thưa khi xử lý các tín hiệu không thưa thớt Chúng ta sẽ tập trung vào phương pháp khôi phục rõ ràng từ m đến n và đảm bảo mẫu.
Với mọi x, k(x) 1 được xác định giống như mục (*), đảm bảo phục hồi chính xác tất cả các tín hiệu K-thưa thớt Điều này cũng đảm bảo một mức độ thô với các tín hiệu không thưa, phụ thuộc vào cách các tín hiệu được xấp xỉ bởi K-vectơ thưa thớt Sự đảm bảo này được gọi là minh chứng tối ưu vì nó đảm bảo hiệu suất tối ưu cho từng trường hợp Sự khác biệt giữa chúng đảm bảo rằng chỉ giữ một số tập hợp con của tín hiệu có thể lấy mẫu, như tín hiệu thưa thớt hoặc nén, với chất lượng đảm bảo tương thích để lựa chọn ra những đặc tính cụ thể Đây cũng được gọi là đảm bảo đồng bộ khi chúng giữ đồng bộ cho tất cả các giá trị của.
Chúng ta có thể tính toán các lỗi khôi phục bằng các chuẩn p khác nhau, nhưng việc chọn giá trị cho p có thể hạn chế các tính chất của guarantee và dẫn đến thay đổi công thức trong NSP Hơn nữa, vế bên phải của công thức có vẻ bất thường khi đo lỗi xấp xỉ là k(x) 1 /√ thay vì k(x) 2, nhưng sẽ được chứng minh rằng sự bảo đảm như vậy là không thể nếu không sử dụng các phương pháp thích hợp.
GVHD: PGS.TS Nguyễn Thúy Anh, SVTH: Đoàn Khánh Linh 28, đã chỉ ra rằng một lượng lớn các phép đo được thực hiện, và phép đo (***) là phương pháp đảm bảo tốt nhất mà chúng tôi hy vọng có thể đạt được.
Chúng tôi nhận thấy rằng kí hiệu này thường bị lạm dụng khi xét chiều dài của vector bằng cách chỉ giữ lại các đầu vào tương ứng, hoặc khi xem xét ma trận chỉ giữ lại những cột tương ứng Việc sử dụng kí hiệu cần phải rõ ràng trong ngữ cảnh, nhưng trong nhiều trường hợp, không có sự khác biệt rõ ràng giữa hai kí hiệu này.
Thuật toán khôi phục
Với phương pháp lấy mẫu nén chúng ta đã thu được tín hiệu:
Bài toán khôi phục tín hiệu từ các giá trị yêu cầu tìm lại X từ M phép đo Y, với M < N, dẫn đến việc có vô số nghiệm thỏa mãn Hai phương pháp phổ biến cho việc này là ℓ1-minimization và OMP Tuy nhiên, để xác định nghiệm chính xác, cần có thêm thông tin về nghiệm cần tìm.
Trong trường hợp này, tín hiệu cần khôi phục đã được biết đến về mặt cấu trúc, cụ thể là tín hiệu thưa K hoặc tín hiệu có khả năng nén Về mặt toán học, với giả thiết tín hiệu là thưa, chúng ta có thể áp dụng các phương pháp để khôi phục lại tín hiệu.
GVHD:PGS.TS Nguyễn Thúy Anh SVTH:Đoàn Khánh Linh 35
2.6.1 Thuật toán khôi phục ℓ 1 -minimization a Sử dụng ℓ 0 : ̂ = ‖ ‖
Phương pháp khôi phục dữ liệu bằng cách kiểm tra từng dữ liệu để thỏa mãn các điều kiện nhất định có thể cho phép phục hồi chính xác thông tin, nhưng tốc độ tính toán của nó lại chậm Do đó, thuật toán này ít được áp dụng trong thực tế và không được sử dụng trong quá trình lấy mẫu nén Một phương pháp khác sử dụng ℓ2 có thể được áp dụng, với công thức ̂= || || = ∑ | |, nhằm cải thiện hiệu suất.
Phương pháp này không khôi phục đúng dữ liệu c Sử dụng ℓ 1 ̂= || || = ∑ | |
Thuật toán này cho phép khôi phục chính xác tín hiệu thưa K thông qua M phép đo tuyến tính không thích nghi với độ phức tạp M cKlog(N/K) Phương pháp này được áp dụng trong việc lấy mẫu nén nhằm phục hồi dữ liệu hiệu quả.
Nghiên cứu gần đây vào tháng 9 năm 2007 của Emmanuel J Candes, Michael B Wakin và Stephen P Boyd đã nâng cao phương pháp khôi phục tín hiệu thông qua kỹ thuật ℓ1-minimization được trọng số hóa (Reweighted ℓ1-minimization) Phương pháp này cho phép khôi phục tín hiệu một cách chính xác hơn bằng cách sử dụng phương trình ̂ = || || ∑ | | với các điều kiện nhất định.
GVHD:PGS.TS Nguyễn Thúy Anh SVTH:Đoàn Khánh Linh 36
Ở đây ma trận W là ma trận chéo với w l ,w 2 w n là các trọng số dương nằm trên đường chéo, các trọng số còn lại bằng 0
Các trọng số dương của ma trận W này được tính toán sử dụng các bước trong thuật toán sau đây:
3 Cập nhập các giá trị trọng số: với i=1,…,n:
4 Kết thúc thuật toán nếu w hội tụ hoặc khi l đạt tới một số cực đại, ngƣợc lại tăng l lên 1 đơn vị và quay trở lại bước 2
Phương pháp này khôi phục tín hiệu chính xác hơn, để minh họa điều này ta xét ví dụ sau: cho = | | (sơ đồ 1(a) thể hiện tín hiệu gốc x) và :
Ta có tín hiệu thu đƣợc :
Theo sơ đồ 1(b) dưới đây, phương pháp ℓ 1-minimization cho thấy ℓ 1 như một quả bóng giao với đường biểu diễn tại vị trí ̂ | |, dẫn đến kết quả không chính xác.
GVHD:PGS.TS Nguyễn Thúy Anh SVTH:Đoàn Khánh Linh 37
Ma trận trọng số W = diag | | trong sơ đồ 1(c) cho thấy rằng quả bóng "weighted ℓ1" hội tụ chính xác đến điểm tín hiệu nguồn.
Hình 2.6: So sánh phương pháp ℓ 1 -minimization và weighted ℓ 1 -minimization
2.6.2 Thuật toán khôi phục OMP
2.6.2.1 Thuật toán đuổi khớp (Matching pursuit)
Nhiều phương pháp phân tích tín hiệu tìm cách biểu diễn một tín hiệu không biết x bằng một tổ hợp tuyến tính của các hàm số g n nào đó: x =∑
Việc biểu diễn tín hiệu tương tự như việc lựa chọn từ ngữ trong một quyển từ điển để tạo thành một câu có nghĩa Cụ thể, chúng ta lựa chọn các hàm g n từ một tập hợp hàm số để thể hiện tín hiệu một cách chính xác.
Các hệ số a n đƣợc tính bởi:
GVHD:PGS.TS Nguyễn Thúy Anh SVTH:Đoàn Khánh Linh 38
Để biểu diễn tín hiệu không biết một cách chính xác, chúng ta cần chọn các hàm g_n tối ưu từ một thư viện dồi dào các hàm D Trong thực tế, việc biểu diễn tín hiệu x chỉ có thể đạt được một cách gần đúng, tức là x ≈ ∑ g_n Điều kiện tối ưu cho phép biểu diễn này là sai số giữa tín hiệu x thật và tín hiệu x gần đúng, được biểu diễn bằng các hàm g_n, phải là nhỏ nhất.
Để tìm sự kết hợp tuyến tính tối ưu của N hàm g n với sai số nhỏ nhất, chúng ta áp dụng thuật toán đuổi khớp (matching pursuit).
Thuật toán bắt đầu bằng cách chọn giá trị g Y0 lớn nhất thông qua phép nhân trong (inner product) với tín hiệu Trong từng bước, g Yn sẽ được khớp với tín hiệu R n x Quá trình này tiếp tục cho đến khi N hàm g n được xác định thông qua thuật toán.
2.6.2.2 Phương pháp khôi phục tín hiệu OMP trong lấy mẫu nén
OMP, viết tắt của phương pháp "đuổi khớp trực giao" (orthogonal matching pursuit), là một kỹ thuật quan trọng trong xử lý tín hiệu Phương pháp này áp dụng cho tín hiệu X thưa K có chiều dài N và M phép đo y_i, với i = 1 đến M, trong vectơ cột Y.
Với là ma trận đo kích thước M N
Tín hiệu X được biểu diễn dưới dạng thừa K, nghĩa là chỉ có một thành phần khác không, trong khi các thành phần còn lại đều bằng không Mỗi thành phần y i là kết quả của sự kết hợp tuyến tính từ các cột của ma trận Để khôi phục tín hiệu X dài từ M thành phần của vectơ Y, chúng ta cần xác định một tổ hợp cột trong ma trận ϕ, với số lượng cột là, để thỏa mãn yêu cầu này.
GVHD:PGS.TS Nguyễn Thúy Anh SVTH:Đoàn Khánh Linh 39
Bài toán này giống như việc tìm các từ trong một quyển từ điển để tạo thành câu có nghĩa Chúng ta áp dụng thuật toán OMP (Orthogonal Matching Pursuit) để thực hiện quá trình này.
Vectơ dữ liệu nén Y Độ thƣa K của tín hiệu đầu vào x a, Khởi tạo: = y, t = 1 b, Tính toán cột i t của ma trận : i t = argmax i || c, Tính : r t = y - P t y
P t y = ∑ ̂ ̂ là tổng hợp các trọng số ước lượng của tín hiệu X Khi tăng t lên 1 đơn vị và thực hiện lại bước 2, quá trình sẽ tiếp tục cho đến khi đạt được kết quả mong muốn Đầu ra cuối cùng là tín hiệu khôi phục ̂.
