Chương III: Biểu diễn dữ liệu
3.2.Lượng thông tin và sự mã hoá thông tin
Thông tin ựược ựo lường bằng ựơn vị thông tin mà ta gọi là bit. Lượng thông tin ựược ựịnh nghĩa bởi công thức:
I = Log2(N)
Trong ựó:
I: là lượng thông tin tắnh bằng bit N: là số trạng thái có thể có
Vậy một bit ứng với một trạng thái trong hai trạng thái có thể có. Hay nói cách khác, một bit có thể biểu diễn hai trạng thái 0 hoặc 1. Vắ dụ, ựể biểu diễn một trạng thái trong 8 trạng thái có thể có, ta cần một số bit ứng với một lượng thông tin là:
I = Log2(8) = 3 bit
Tám trạng thái ựược ghi nhận nhờ 3 số nhị phân (mỗi số nhị phân có thể có giá trị 0 hoặc 1).
Như vậy lượng thông tin là số con số nhị phân cần thiết ựể biểu diễn số trạng thái có thể có. Do vậy, một con số nhị phân ựược gọi là một bit. Một từ n bit có thể tượng trưng một trạng thái trong
tổng số 2n trạng thái mà từ ựó có thể tượng trưng.
Vắ dụ: Nếu dùng 3 bit (A2,A1,A0) ựể biểu diễn thông tin, ta sẽ có ựược 8 trạng thái khác nhau như trong bảng 3.1.
Trạng thái A2 A1 A0 0 0 0 0 1 0 0 1 2 0 1 0 3 0 1 1 4 1 0 0 5 1 0 1 6 1 1 0 7 1 1 1
Như vậy trong máy tắnh thì mọi thứ ựều ựược biểu diễn dưới dạng hai con số là 0 và 1. Nhưng ở thế giới thực của chúng ta thì thông tin lại là các khái niệm như con số, chữ cái, hình ảnh, âm thanh,Ầ.Cho nên ựể ựưa các thông tin vào máy tắnh thì ta cần chuyển ựổi thông tin thực thành những con số 0 và 1. Công việc
này ta gọi là sự mã hóa thông tin
để biểu diễn dữ liệu trong máy tắnh chúng ta cần có các quy tắc Ộgắn kếtỢ các khái niệm trong thế giới thật với một dãy gồm các con số 0 và 1.