Như đã thấy trong hai phần phụ trước đó, định lý mã hóa các nguồn không ồn xác định tỷ lệ bit thấp nhất có thể cho mã nguồn không ồn và kênh truyền dẫn không ồn, trong khi định lý mã hóa các kênh ồn ào xác định tỷ lệ bit cao nhất có thể mã hóa để truyền lỗi. Vì vậy, cả hai định lý làm việc cho truyền dẫn đáng tin cậy (không có lỗi). Trong tiểu mục này, chúng tôi tiếp tục để giải quyết với các nguồn thông tin rời rạc memoriless, nhưng chúng tôi thảo luận về tình hình mất dữ liệu mã hóa là gặp phải. Kết quả là, sự biến dạng của nguồn thông tin diễn ra. Ví dụ, lượng tử, được bao phủ trong các chương tiếp theo, gây ra mất mát thông tin. Vì vậy, nó được kết luận rằng nếu một quy trình mã hóa liên quan đến lượng tử, sau đó nó được tổn hao mã hóa. Đó là, các lỗi xảy ra trong quá trình mã hóa, mặc dù các kênh là lỗi miễn phí. Chúng tôi muốn tìm giới hạn thấp hơn tỷ lệ bit cho trường hợp này.
Nguồn mã hóa định lý (Shannon, 1948) cho một biến dạng D, có tồn tại chức năng biến dạng một tỷ lệ R (D) (Berger, 1971), là tỷ lệ bit tối thiểu cần thiết để truyền tải các nguồn với sự biến dạng nhỏ hơn hoặc bằng D. Đó là, để có sự biến dạng không lớn hơn so với D, tỷ lệ bit R phải đáp ứng các điều kiện sau đây:
R ≥RD (1,37) Một cuộc thảo luận chi tiết hơn về định lý và chức năng bóp méo tỷ lệ được đưa ra trong Chương 15, khi chúng tôi giới thiệu mã hóa video.