Các phép xấp xỉ DCT sử dụng cho các biến đổi lõi của HEVC được chọn theo các nguyên tắc sau. Thứ nhất, các thuộc tính 4-6 được thỏa mã mà không có bất kì sự bất lợi nào. Lựa chọn này đảm bảo rằng các khía cạnh triển khai thân thiện của DCT được bảo toàn. Thứ hai, các thuộc tính 1-3 và 7, có các sự bù trừ giữa số lượng bit sử dụng cho biểu diễn mỗi phần tử ma trận và mức độ mà theo đó mỗi thuộc tính đều thỏa mãn.
Để đo mức độ xấp xỉ cho các thuộc tính 1-3, các biện pháp sau được xác định cho một phép xấp xỉ DCT N-điểm nguyên với các phần tử ma trận tỉ lệ bằng với dij và các vector cơ sở bằng với di = [di0, …, di(N-1)]T với i = 0, …, N- 1 [1].
1. Biện pháp trực giao: oij = di / d0, i j
2. Gần gũi với biện pháp DCT: mij = |cij – dij| / d00
3. Biện pháp quy chuẩn: ni = |1 - di / d0|
với i, j = 0, …, N-1, cij là các phần tử ma trận DCT của (2.2), và hệ số tỉ
Sau khi nghiên cứu cẩn thận, ta quyết định biểu diễn mỗi hệ số ma trận bằng 8 bit (bao gồm cả bit dấu), và chọn các phần tử của vector cơ sở đầu tiên bằng 64 (tức là doj = 64, j = 0, …, N-1)
Bảng 2.1. So sánh các phương pháp thiết kế biến đổi
Biến đổi lõi HEVC Lấy tỉ lệ và làm tròn Trực giao oij < 0.0029 oij < 0.0037
Cận DCT mij < 0.0213 mij < 0.0077
Biện pháp quy chuẩn mij < 0.0014 nij < 0.0109