Lượng tin riờng, lượng tin tươn gh ỗ, lượng tin cú điều kiệ n.

b. Phase Shift Keying (PSK)

2.2.2. Lượng tin riờng, lượng tin tươn gh ỗ, lượng tin cú điều kiệ n.

Nhưchương 1 chỳng ta đó đề cập về độ đo thụng tin, hàm loga đó được chọn để đỏnh giỏ, định lượng cỏc lượng tin. Đối với mỗi tin xi của nguồn X đều cú một lượng tin riờngđược đỏnh giỏ bằng ([1]):

I(xi) = -logp(xi) (3.2.3)

Nếu nguồn X thụng qua một phộp biến đổi trở thành nguồn Y vớ dụ như thụng qua sự truyền lan trong kờnh, thỡ phộp biến đổi đú cú thể khụng phải là một - một. Ở đầu vào của kờnh là cỏc tin của nguồn X, cỏc tin trong quỏ trỡnh truyền lan bị cỏc nhiễu phỏ hoại, làm cho sự chuyển đổi từ nguồn X sang nguồn Y khụng phải là một - một. Một tin xi cú thể chuyển thành một tin yj bất kỳ trong nguồn Y ở dầu ra của kờnh, với những xỏc suất chuyển đổi khỏc nhau tựy theo tớnh chất nhiễu trong kờnh. Bài toỏn truyền tin trong

trường hợp này đặt ra là: cho biết cấu trỳc thống kờ của nguồn X, tớnh chất tạp nhiễu của kờnh biểu thị dưới dạng xỏc suất chuyển đổi của tin, khi nhận được ở đầu ra một tin yj thuộc nguồn Y, hóy xỏc định tin tương ứng của nguồn X.

Rừ ràng rằng đõy là một bài toỏn thống kờ, lời giải khẳng định khụng cú được. Lời giải tỡm được sẽ cú dạng: với tin yj nhận được, tin nào của nguồn X (phớa phỏt) cú nhiều khả năng đó được phỏt đi nhất.

Muốn giải quyết vấn đề này chỳng ta lần lượt đi qua hai bước. Tớnh cỏc lượng tin về một tin bất kỳ xi của tập X chứa trong tin yj nhận được, lượng tin đú được gọi là lượng tin tương hỗ giữa xi và yj. Bước thứ hai đem so sỏnh cỏc lượng tin tương hỗ với nhau, và lượng tin nào cực đại sẽ cho biết xicú khả năng nhiều nhất chuyển thành yjtrong quỏ trỡnh truyền tin.

Để xỏc định lượng tin về xichứa trong yj chỳng ta cần phải biết lượng tin banđầu của xi và lượng tin cũn lại của xisau khiđó nhận được yj. Lượng tin tương hỗ sẽ là hiệu của hai lượng tin này.

Lượng tin ban đầu là lượng tin riờng được xỏc định bằng xỏc suất tiờn nghiệm của tin. Lượng tin cũn lại của xi sau khi đó nhận được yj được xỏc định bằng xỏc suất hậu nghiệm:

I(xiyj) = -logp(xiyj) (3.2.4) Nhưvậy lượng tin tương hỗ sẽ tớnh theo:

I(xi,yj) = I(xi) – I(xiyj) = log[p(xiyj)/p(xi)] (3.2.5)

Lượng tin về xichứa trong yj cú nghĩa là tương hỗ giữa xivà yjvới những dữ kiện đó cho của bài toỏn truyền tin là xỏc suất ban đầu p(xi) và xỏc suất chuyển đổi p(xiyj):

I(xi, yj) = log[p(xiyj)/ p(xi)] Hay

Chỳng ta hoàn toàn cú thể mở rộng lượng tin tương hỗ sang cỏc phộp biến đổi phức tạp hơn. Lỳc đú lượng tin tương hỗ cũng được xỏc định theo cỏc xỏc suất tiờn nghiệm và hậu nghiệm của tin đang xột.