Những minh họa trên hình 5.1, nén dữ liệu luôn được thực hiện hai quá trình bổ sung nén và giải nén. Nén thường chỉ được thực hiện trong những phần của hệ
thống có sẵn khả năng chứa dữ liệu hay giới hạn tốc độ dữ liệu như các kênh thông tin hay thiết bị lưu trữ. Bộ phận nén hoạt động ở đầu ra của bộ phận hệ thống bị nén, và bộ phận giải nén hoạt động tại điểm mà dữ liệu phải ngược trở lại định dạng ban
đầu. Bộ phận nén và giải nén có thểđược đặt trên cùng một box hoặc ở khoảng cách xa nhau, ví dụ như khi dữ liệu được nén để phát quảng bá tới nhiều người sử dụng ở
những địa điểm khác nhau. Mỗi người sử dụng phải giải nén trước khi sử dựng dữ
liệu. Nén Kênh truyền Giải nén Dữ liệu đầu vào Dđầữu ra liệu Hình 5.1. Quá trình nén dữ liệu 5.2.1. Các thuật toán
Việc mô tả chi tiết về mặt kỹ thuật của kỹ thuật nén được gọi là thuật toán. Một thuật toán thường được miêu tả theo phương diện toán hạng, tuy nhiên các phương tiện khác như sơ đồ khối, biểu đồ xác định thời gian cũng có thểđược sử dụng. Mặc dù số lượng các phương pháp nén chung bị giới hạn, do vậy dẫn dến hiện tượng tồn tại một số lượng lớn các thuật toán. Do các bộ nén và giải nén đều phải thực hiện quá trình xử lý tương đương đối với hệ thống, vấn đề chuẩn hóa các thuật toán trở nên rất quan trọng.
5.2.2. Nén tổn hao và nén không tổn hao
Một ưu thế lớn của hệ thống số là các nhà thiết kế hệ thống được phép chọn khả năng tái tạo dữ liệu (và thông tin mà nó biểu thị ) một cách hoàn hóa. Các phương pháp mã hóa và phát hiện sửa lỗi giúp các hệ thống lớn lưu trữ, xử lý, và truyền dữ liệu mà không gây lỗi cho dù nó phải thực hiện bao nhiêu lần đi nữa. Đây là cơ sở cho hệ thống máy tính tài chính trên toàn thế giới, xử lý hàng tỷ đô la mà không nhầm lẫn một đồng xu nào. Thậm chí trong hệ thống này, có thể sử dụng nén dữ liệu nhưng phải là nén không tổn hao tức là phương pháp nén sẽ không gây ra bất cứ một tổn hao nào cho dữ liệu. Đây là khả năng hoàn toàn có thể bởi vì hầu hết dữ liệu thật đều có chứa các mô hình lặp lại của một vài dạng mà nén mà bộ xử lí có thể tìm ra và sau đó sắp xếp để truyền một cách có hiệu quả hơn. Nhìn chung, thuật toán nén không tổn hao không phụ thuộc vào việc nhận biết bất cứ thông tin gì về
dữ liệu sẽ được truyền-nó sẽ hoạt động với bất cứ loại dữ liệu nào, nhưng chỉ tiêu (cấp độ nén) có thể phụ thuộc vào một vài con số thống kê dữ liệu.
Nén không tổn hao được sử dụng cho audio và video nhưng khả năng của nó rất hạn chế. Hầu hết kĩ thuật nén audio và video đều là nén tổn hao, tương đương với việc một số dữ liệu có thể bị tổn hao hoặc thay đổi. Tuy nhiên, tên của trò chơi là để tìm những dữ liệu có thể bị loại bỏ bởi bộ xử lí nén nhưng sẽ không ảnh hưởng
đến hình dạng của ảnh hay âm thanh đến tay người nghe khi tín hiệu được tái tạo lại
để hiển thị. Nếu tổn hao hoạt động bởi vì các tín hiệu audio và video số có thể chứa thông tin đóng góp vào quá trình tái tạo âm thanh như khi được nhìn hoặc nghe sử
thật bởi một người nào đó. Sơ đồ nén tổn hao phụ thuộc vào hiểu biết về kiểu dữ
liệu, định dạng và sử dụng của nó.
Tiêu chí trên đây cho nén tổn hao không chỉ là mối quan tâm duy nhất ; cấp độ
tổn hao có thể chấp nhận được phụ thuộc vào quá trình nào sẽ được sử dụng nén trong một hệ thống. Ví dụ, trong quá trình sản xuất và sản xuất hậu kì, rất ít tổn hao có thểđược chấp nhận trước khi nó bắt đầu ảnh hưởng không tốt tới quá trình xây dựng chương trình. Do vậy mà nhà sản xuất sẽ không chấp nhận nén tổn hao, tại đầu cuối của hệ thống sau cho hình ảnh được rõ ràng đến người xem.
5.2.3. Nén đối xứng - không đối xứng
Các kỹ thuật nén có sự tham gia của một lượng xử lý nào đó để nén dữ liệu và sau đó, lượng xử lý cần nhiều hơn để giải nén dữ liệu ở đầu cuối của hệ thống. Các quá trình này thường cần tới số lượng và số lần tham gia rất đáng kể của phần cứng cũng như phần mềm để thực hiện mỗi quá trình. Nén đối xứng có nghĩa là quá trình nén và giải nén gần bằng nhau về lượng tham gia của phần cứng, phần mềm và thời gian xử lý. Ví dụ, nếu thỏa mãn việc nén video trong thời gian thực trên một máy
tính cá nhân và sau đó phát lại trên cùng hệ thống thì khi đó thuật toán đối xứng là hoàn toàn thích hợp.
Tuy nhiên, thuật toán đối xứng hoạt động trên một hệ thống nhỏ phải đặt giới hạn cho độ phức tạp của hệ thống được sử dụng. Như sẽ thấy sau này, hiệu quả của nén có thể được cải thiện bằng cách sử dụng những thuật toán phức tạp hơn, thậm chí ngay khi giải nén được thực hiện trên một hệ thống nhỏ. Điều này dẫn đến khả
năng xảy ra các thuật toán không đối xứng, tức là quá trình nén yêu cầu một hệ
thống lớn, chuyên dụng và có thể không hoạt động trong thời gian thực, nhưng quá trình giải nén lại được thực hiện trong thời gian thực, trên một hệ thống nhỏ, có giá thành thấp. Nén không đối xứng rất quan trọng đặc biệt trong các hệ thống phát lại chúng như truyền hình quảng bá hay CD-ROM. Nhiều khi, nén có thể được thực hiện trước trên hệ thống lớn, được lưu trữ, và sao chép để sau này phân phối cho các phương tiện truyền tới người sử dụng.
5.2.4. Cấp độ nén
Sẽ thỏa mãn nếu như việc xác định số lượng cấp độ nén thực hiện bởi một hệ
thống đặc biệt và sau đó so sánh với các hệ thống khác theo cách này. Người ta thường hay đề cập đến tỷ lệ nén, là tỷ lệ giữa dữ liệu vào và dữ liệu ra của quá trình nén. Với kỹ thuật nén không tổn hao, đây là phương pháp rất hiệu quả khi nội dung thông tin của dữ liệu không đổi. Tuy nhiên, tỷ lệ nén là một thuật ngữ không thỏa mãn với nén không tổn hao, trừ khi nó có đủ thông tin bổ xung về số lượng tổn hao tín hiệu do nén gây ra.
Một cách tốt hơn để so sánh các sơ đồ nén tổn hao là trích chỉ tiêu tín hiệu của hệ thống ở tốc độ dữ liệu đã cho hoặc tốc độ dữ liệu cho mức xác định của chỉ tiêu kỹ thuật. Tuy nhiên, điều này trở nên khó khăn bởi vì nén có thể đưa vào các thông số rất khó xác định số lượng. Cuối cùng, có nhiều cách đánh giá chủ quan yêu cầu
để so sánh giữa các hệ thống nén tổn hao, nhưng phải tránh việc trích dẫn tỷ số nén. Nhiều trường hợp đòi hỏi hệ thống video số hoạt động với tốc độ dữ liệu ổn
định. Ví dụ, một hệ thống truyền dẫn có thể có tốc độ dữ liệu không đổi, môi trường tốc độ không đổi như CD-ROM hoặc các phương tiện phân phối khác. Thuật toán nén có tổn hao có thểđược thiết kế cho tốc độ dữ liệu cố định bằng cách cho phép biến thiên một lượng của độ giảm chất lượng ảnh. Điều ngược lại cũng có thể xảy ra, chất lượng ảnh ổn định với tốc độ dữ liệu thay đổi. Trong cả hai trường hợp, các quyết định điều phải thực hiện một cách chính xác trong quá trình nén.