Cho một tín hiệu rời rạc chiều dài hữu hạn, có thể biểu diễn như một vector cột trong RN với các thành phần x[n], n=1,2…N. Bất kỳ tín hiệu trong RN nào đều có thể biểu diễn thông qua một vector cơ sở trực chuẩn : { i} . Sử dụng ma trận cơ sở : Ψ =[ 1 2.... N], với các vectơ { i} là các vectơ cột, thì một tín hiệu x có thể biểu diễn như sau :
(2.6)
Hoặc
(2.7)
Ở đây s là một vectơ cột của các trọng số Si ≤ x, ≥ x và .T là kí hiệu ma trận chuyển vị. Nói cách khác thì và là sự biểu diễn của cùng một tín hiệu, trong miền thời gian (hoặc không gian), trong miền .
Tín hiệu chiều dài được gọi là thưa thớt nếu là một sự kết hợp tuyến tính của duy nhất vectơ cơ sở, do đó chỉ duy nhất trọng số si là khác 0 và ( ) trọng số là bằng 0. Trong trường hợp mà thì tín hiệu gọi là thưa thớt và có thể nén, tức là nó có thể được biểu diễn chỉ với trọng số lớn và nhiều trọng số nhỏ.
Một điểm quan trọng trong thực tế là có rất ít tín hiệu thực tế thực sự thưa thớt; thay vào đó chúng được nén lại, có nghĩa là chúng có thể được coi xấp xỉ bằng một tín hiệu thưa thớt. Tín hiệu như vậy được gọi là tín hiệu nén, với khoảng cách
[31]
rời rạc, hoặc tương đối rời rạc trong những trường hợp khác nhau. Tín hiệu nén cũng được coi là gần đúng với các tín hiệu thưa thớt trong cùng một chiều mà các tín hiệu lân cận nhau trong một không gian con được coi là xấp xỉ bởi vài thành phần chính đầu tiên. Trong thực tế, chúng ta có thể xác định số lượng mẫu nén bằng cách tính toán lỗi phát sinh bởi một tín hiệu gần đúng x bằng một số k :
(2.8) Nếu x k, thì rõ ràng k(x)p = 0 với p bất kỳ. Hơn nữa, ta có thể dễ dàng thấy rằng ngưỡng được cho sẵn mô tả ở trên (chỉ giữ lại hệ số k lớn nhất). Kết quả tối ưu trong phép tính gần đúng được đo bằng công thức (2.8) cho tất cả chuẩn ℓp.
Một cách khác để hiểu về tín hiệu nén là quan tâm đến hệ số suy hao của tín hiệu. Cho nhiều phần quan trọng của tín hiệu tồn tại các cơ số mà hệ số tuân theo một định luật hàm mũ suy hao, trong trường hợp các tín hiệu được nén ở mức độ cao. Đặc biệt, nếu và chúng ta sắp xếp các hệ số ci như vậy sao cho |c1|≥ |c2| ≥…≥ |cn|, sau đó chúng ta nói rằng hệ số đó tuân theo một định luật hàm mũ suy hao nếu có tồn tại các hằng số C1, , sao cho:
(2.9)
càng lớn thì mức độ suy hao càng nhanh, và tín hiệu nén càng nhiều. Vì hệ số suy hao rất nhanh nên tín hiệu nén có thể được biểu diễn chính xác bởi hệ số . Đặc biệt, với tín hiệu đã cho tồn tại hằng số C2, r 0 chỉ phụ thuộc vào C1 và q sao cho:
(2.10)
Trong thực tế ta có thể thấy rằng k(x)2 sẽ suy hao như k-r khi và chỉ khi hệ số suy hao ci bằng i-r+1/2