Quá trình lượng tử hoá và mã hoá các hệ số DCT chính là các quá trình làm giảm tốc độ bit vì bản thân phép biến đổi DCT không nén thông tin. Đây là khâu nhạy cảm nhất trong một hệ thống nén vì nó quyết định trực tiếp chất lượng ảnh khôi phục.
Phương pháp lượng tử hoá các hệ số DCT đơn giản nhất là lấy mẫu theo từng vùng (zonal sampling) theo nguyên tắc như sau: loại bỏ một phần tần số cao mà mã hoá phần còn lại bằng số lượng bit cố định. Có thể hiểu đây như một bộ lượng tử chứa một bước lượng tử duy nhất. Mặc dù phương pháp này đơn giản nhưng nó có rất nhiều hạn chế:
• Không tận dụng được đặc tính thị giác của con người là không nhậy
cảm với tần số cao, cũng như không tận dụng được đặc tính khó nhận biết sai số trong vùng ảnh có độ linh hoạt cao.
• Từ mã có độ dài cố định không cho sự tối ưu trong việc giảm tốc độ
bit. Đặc biệt khi dùng đồng bộ lượng tử hoá tuyến tính. Một từ mã sẽ được truyền đi cho dù hệ số giá trị lượng tử bằng 0. Có rất nhiều hệ số DCT sau khi lượng tử trở vè giá trị 0 dẫn tới hiệu suất nén rất thấp.
3.2.3.2. Lượng tử hoá có trọng số.
Đây là phương pháp lượng tử hoá tối ưu cho nén ảnh. Trong đó sử dụng bộ lượng tử hoá tuyến tính có một dải các bước lượng tử. Mỗi hệ số DCT khác nhau sẽ quyết định theo bước lượng tử phù hợp. Bước lượng tử này được quyết định dựa trên nhiều yếu tố.
Đó là: Bảng trọng số HVS weighting table.
Đặc tính cảm nhận của mắt người chỉ nhậy cảm với tần số thấp và hướng biến đổi dọc, ngang mà không nhậy cảm với tần số cao cũng như sự thay đổi theo hướng chéo, dẫn tới mức độ quan trọng của các hệ số tuỳ thuộc vào vị trí. Những hệ số tần số cao và theo hướng chéo có thể được lượng tử hoá theo bước lượng tử thô hơn. Điều này đã được nghiên cứu và liệt kê trong một bảng trọng số gọi là HVS weighting table. Ví dụ bảng trọng số được mặc định trong tiêu chuẩn JPEG như sau:
Hình 3.5: Trọng số lượng tử hóa của JPEG cho tín hiệu chói và tín hiệu mầu.