Giá trị màu xám của hình ảnh được lượng tử hóa là một giá trị số nguyên có liên quan đến bức xạ đầu vào tại mẫu. Đối với lượng tử hóa đồng nhất, nơi các bước giữa các cấp liền kề có cùng quy mô, tỷ lệ không đổi chính là sự khác biệt trong bức xạ giữa các
cấp liền kề. Sự khác nhau giữa bức xạ chuẩn đầu vào (hoặc là độ sáng) và bức xạ tương ứng của cấp độ kỹ thuật số là lỗi lượng tử tại điểm ảnh đó:
ε[n.Δx,m.Δyº f[n.Δx,m.Δy] - f [n.Δx,m.Δy]q
Lưu ý rằng các lỗi lượng tử thường là lưỡng cực, tức là nó có thể nhận các giá trị tích cực hay tiêu cực. Nó thường rất hữu ích để mô tả các đặc tính thống kê của các lỗi lượng tử hóa, đó sẽ là một chức năng của hai loại bộ lượng tử hóa và ảnh đầu vào. Tuy nhiên, nếu sự khác biệt giữa các bước lượng tử hóa (tức là độ rộng của một cấp lượng tử hóa) là hằng số b, lỗi lượng tử cho hầu hết các hình ảnh có thể được xấp xỉ như một phân bố đều với giá trị trung bình < ε[n] > = 0 và phương sai <> = . Sự phân bố lỗi sẽ được trình bày cho hai ảnh 1-D 256-mẫu. Trước tiên là một phần của lấy mẫu cosin tại 256 điểm và 64 cấp độ lượng tử hóa cách nhau bởi b=1:
Hình 3.1: Minh họa các số liệu thống kê của lượng tử hóa tiếng ồn: (a) f [n] = 63 cos[2π.] với 0≤ n ≤ 255; (b) sau khi lượng tử hóa bằng cách làm tròn đến giá trị số nguyên gần nhất; (c) lỗi lượng tử hóa ε[n] =f[n] - fq[n], biểu diễn tại ≤ ε ≤ ; (d) biểu đồ của 256 mẫu lượng tử hóa lỗi, cho thấy các số liệu thống kê là một khoảng đồng nhất.
Biểu đồ của lỗi ε1 [n] = f1[n] – Q {f1 [n]} là khoảng đồng nhất trong khoảng
- ≤ ε1 ≤ +. Các số liệu thống kê tính toán của lõi là < ε1[n] > = -5.1 . ≈ 0 và phương sai là
= < > ≈ 0.09 ≈ .
Hình ảnh thứ hai bao gồm 256 mẫu của tiếng ồn ngẫu nhiên Gaussian phân phối trong khoảng [ 0,63 ] một lần nữa được lượng tử hóa với 64 cấp độ. Biểu đồ của lỗi ε2[n] một lần nữa được phân bố đều trong khoảng [-0.5, +0.5] với giá trị trung bình 4.09. ≈0 và phương sai σ2 = <[n]> ≈ 0.09 ≈
Hình 3.2: Biểu đồ số liệu thống kê của lượng tử hóa tiếng ồn: (a) là nhiễu Gaussian được đo bằng μ = 27.7, σ =10.9 với 0 ≤ n ≤ 255; (b) sau khi lượng tử hóa bằng
cách làm tròn đến số nguyên gần nhất; (c) lỗi lượng tử hóa ε[n] ≡ f[n] - fq[n], trong khoảng - ≤ ε ≤ (d) biểu đồ thống kê 256 mẫu của lỗi lượng tử hóa biểu thị số liệu thống kê tĩnh với khoảng cách đồng nhất.
Tổng số lỗi của lượng tử hóa là tổng của lỗi lượng tử hóa trên tất cả các điểm ảnh trong ảnh: