1. Hàm lợng thông tin.
Để xây dựng đợc một thiết bị đo cụ thể cần phải xác định đợc hàm lợng thông tin cần thiết của mỗi lần đo.
Thông thờng tin tức cần truyền đi cho dù là xuất xứ và bản chất vật lý của nó là gì ta đều có thể biểu diễn đặc trng của nó dới dạng tín hiệu biến thiên theo thời gian trong một dải tần số xác định.
Đặc trng cơ bản của tin tức là hàm lợng thông tin. Thông tin là tính chất phân bố ngẫu nhiên của tin tức (trong đo lờng tin tức là tín hiệu cần đo có đặc tính phân bố ngẫu nhiên, xuất hiện và biểu diễn trong một vùng xác định hoặc nào đó). Tín hiệu mang thông tin khảo sát đợc đầu đo cảm nhận và đa tới trung tâm xử ký. Lợng thông tin cảm nhận đợc của đầu đo, tùy thuộc vào mật độ phân bố và biến thiên của nó.
Trong mỗi giây ta có thể nhận đợc một trị trung bình xác định.
Nếu tin tức chỉ bao hàm một số lợng xác định các giá trị đo đợc thì hàm lợng thông tin I. Trong S lần có thể xuất hiện trong xác suất phân bố của tin tức có quan hệ theo biểu thức sau:
I = log2S (bit) (3.1)
2. Tốc độ truyền thông tin trên kênh.
Nếu hàm thời gian của tín hiệu đợc mô tả bằng những giá trị rời rạc, những giá trị mẫu, mà mỗi mẫu đều có giá trị bằng S thì lợng thông tin truyền đi trên kênh. Nói cách khác tốc độ truyền thông tin đo đợc trên kênh sẽ là:
V = fmvlog2S Trong đó:
V: Tốc độ truyền thông tin trên kênh fmv:Tần số lấy mẫu tín hiệu
Vì việc đo và truyền tín hiệu từ xa sẽ khó tránh đợc nhiễu trên đờng truyền. Tín hiệu có thể đợc xem nh một tín hiệu tơng tự để xử lý để loại trừ ảnh hởng của nhiễu. Mức lợng S cần đợc lựa chọn theo tỷ số tín hiệu và nhiễu, cụ thể là mức lợng tử S nên chọn theo biểu thức sau:
S = Trong đó:
Ptín hiệu : Công suất của tín hiệu hữu ích Pnh: Công suất của tín hiệu nhiễu hay: S =
Trong biểu thức này giá trị trong dấu căn thức cho ta tỷ số so sánh giữa tổng công suất tín hiệu và nhiễu với công suất hiệu dụng tín hiệu nhiễu.
Đặt : fB = fmv
c: Dung lợng của kênh thông tin Ta có: c = fBlog2S2 = fBlog2 (bit)
3. Hàm lợng thông tin trên thực tế.
Quá trình khảo sát tốc độ truyền và dung lợng kênh thông tin trên đây ta đã giả định: Tín hiệu xuất hiện với cùng xác suất ở mỗi mức lợng tử S. Trong thực tế không hoàn toàn nh thế. Nghĩa là rất ít trờng hợp giả định trên đây đợc thỏa mãn. Mà nói chung với mỗi mức lợng tử khác nhau, xác suất xuất hiện tín hiệu cũng khác nhau.
Nếu số lợng tử mà tín hiệu khảo sát nhận đợc là S và xác suất xuất hiện của tín hiệu là: P1, P2, ..., Pi, PS
Đồng thời
thì hàm lợng thông tin của phần tử thứ i : Ii sẽ là Ii = log2 (bit)
Nghĩa là hàm lợng thông tin tỷ lệ nghịch với xác suất xuất hiện của tin tức. Nếu một tin tức xuất hiện với xác suất lớn thì sự xuất hiện của nó không cho ta lợng thông tin đáng kể và do vậy nếu tin tức xuất hiện với xác suất nhỏ, tín hiệu không thờng xuyên xuất hiện sẽ cho ta nhiều thông tin hơn.
Trờng hợp đặc biệt khi:
P1 = P2 = P3 = ... = Pi = PS
thì PS = Do đó I = log2 = log2S (bit) Biểu thức trên nh biểu thức (3.1)
Nh vậy nếu tín hiệu không có cùng xác suất xuất hiện thì trong từng thời điểm khác nhau sẽ cho ta hàm lợng thông tin khác nhau.
Vậy trong khoảng thời gian khảo sát ∆t đáng kể, hàm lợng thông tin trung bình trên đờng truyền là bao nhiêu.
Muốn có đợc hàm lợng thông tin trung bình nhận đợc trong mỗi giây ta cần tính trung bình của xác suất động xuất hiện của tin tức. Trị trung bình có thể tính nh sau:
= Vì nên
(Bit/Mâũ) (adsbygoogle = window.adsbygoogle || []).push({});