f Fr Rg Gb B′ +′ (2.1.9)
2.3.1.6 Xác định hiệu quả của quá trình nén tín hiệu số
Hiệu quả nén được xác định bằng tỉ lệ nén, nghĩa là tỉ số giữa số lượng dữ liệu của ảnh gốc trên số liệu của ảnh nén.
Độ phức tạp của thuật tốn nén, được xác định bằng số bước tính tốn trong cả hai quá trình mã hĩa và giải mã. Thơng thường thì thuật tốn nén càng phức tạp bao nhiêu thì hiệu quả nén càng cao nhưng ngược lại giá thành và thời gian để thực hiện lại tăng. Đối với thuật tốn nén cĩ tổn thất thì độ sai lệch được xác định bằng số thơng tin bị mất đi khi ta tái tạo lại hình ảnh từ dữ liệu nén. Với nén khơng tổn thất thì chúng ta cĩ thể cĩ những thuật tốn mã hĩa càng gần với entropy của thơng tin nguồn bởi vì lượng entropy của nguồn chính là tốc độ
nhỏ nhất mà bất cứ một thuật tốn nén khơng tổn thất nào cũng cĩ thểđạt được.
Ngược lại, trong nén cĩ tổn thất thì mối quan hệ giữa tỉ lệ nén và độ sai lệch thơng tin
được Shannon nghiên cứu và biểu dinễ dưới dạng hàm R(D) ( hàmvềđộ sai lệch thơng tin). Lý thuyết của ơng cũng chỉ ra rằng với thuật tốn nén cĩ tổn thất thì chúng ta sẽ cĩ hiệu quả nén cao nhất nhưng ngược lại ta lại bị mất thơng tin trong quá trình tái tạo lại nĩ từ dữ liệu nén. Trong khi đĩ nén khơng tổn thất, mặc dù đạt được hiệu quả thấp, nhưng ta lại khơng bị mất thơng tin trong quá trình tái tạo lại nĩ. Vì vậy ta phải tìm ra một giải pháp nhằm trung hịa giữa hai thuật tốn nén này để tìm ra một thuật tốn nén tối ưu sao cho hiệu quả cao mà lại khơng bị mất mát thơng tin.