Ly thuyet MÔ HÌNH HỆ THỐNG TRUYỀN TIN

CHƯƠNG I KHÁI NIỆM VỀ HỆ THỐNG TRUYỀN TIN BÀI MƠ HÌNH HỆ THỐNG TRUYỀN TIN BÀI Thơng tin, tín hiệu, liệu Thơng tin khái niệm trừu tượng, thể cảm nhận hiểu biết người giới xung quanh Thông tin biến đổi, lưu trữ truyền từ điểm sang điểm khác Thông tin người thu thập cách trực tiếp giác quan, thu thập cách gián tiếp thông qua nhận thức thông tin người khác thu thập xử lý Trong trường hợp thứ hai, thơng tin người thu thập cần có cách thức để truyền từ điểm sang điểm khác Người thu thập thông tin truyền cho người khác gọi nguồn Người nhận thông tin gọi đích Để thực việc truyền thơng tin cần sử dụng dạng vật chất để biểu diễn thông tin Dạng vật chất gọi vật mang thơng tin (hay cịn gọi phương tiện truyền tin) Thông tin biểu diễn thay đổi đại lượng biểu diễn tính chất cục vật mang (ví dụ mức độ dao động phần từ tín hiệu học, cường độ từ trường, điện trường sóng điện từ) Vật mạng có chứa thơng tin thay đổi đại lượng lần thông tin gán vào vật mang, Vật mang có chứa thơng tin gọi liệu Nhờ liệu thông tin chứa vật hay nói thơng tin trở thành vật chất truyền qua môi trường vật chất Mỗi môi trường lan truyền cho phép vài loại vật chất định lan truyền qua Vật mang có chứa thơng tin truyền mơi trường phù hợp với phương tiện để truyền thông tin gọi tín hiệu Căn vào thuộc tính mơi trường truyền tin sử dụng, có tín hiệu học, tín hiệu điện,tín hiệu quang, Tín hiệu vật mang có chứa thơng tin phù hợp với mơi trường lan truyền Tín hiệu dạng vật chất thông tin lan truyền Dữ liệu dạng vật chất có chưa thơng tin chưa phù hợp với môi trường lan truyền Trong nhiều trường hợp thân liệu phù hợp để truyền mơi trường, lúc đóng vai trị tín hiệu Trong số trường hợp, liệu không phù hợp với môi trường chúng cần phải chuyển đổi thành tín hiệu cho phù hợp với mơi trường lan truyền Trong thực tế, có thơng tin liên tục thơng tin rời rạc Thông tin liên tục thường thông tin nguyên thủy thu từ giới xung quanh Thông tin rời rạc thường thông tin thu từ thông tin nguyên thủy sau qua xử lý Tín hiệu liên tục tín hiệu nhận giá trị liên tục định nghĩa miền thời gian liên tục Thông tin liên tục biểu diễn tín hiệu liên tục gọi liệu liên tục Bảng KHÁI NIỆM VỀ HỆ THỐNG TRUYỀN TIN-1: Ví dụ thơng tin tín hiệu liệu liên tục rời rạc BÀI Thơng tin Dữ liệu Tín hiệu Liên tục Rời rạc Nội dung Nội dung văn nhạc Âm Văn nhạc Âm thanh/Tín hiệu Văn bản/Tín hiệu điều điện thoại khiển máy tính BÀI Mơ hình hệ thống truyền tin Một hệ thống truyền tin phải có tối thiểu phận: nguồn tin, kênh truyền tin đích (bộ phận thu tin) Mơ hình thường gọi mơ hình khối biểu diễn Hình KHÁI NIỆM VỀ HỆ THỐNG TRUYỀN TIN-1 Nguồn tin phận chịu trách nhiệm sản sinh thông tin Chất lượng nguồn tin đánh giá khối lượng thông tin mà nguồn tin sinh Kênh truyền tin thành phần chịu trách nhiệm truyền tin từ đầu kênh đến cuối kênh Đích (bộ phận thu tin) nơi tái tạo lại thông tin ban đầu Việc tái tạo lại thông tinban đầu gọi giải toán thu tin Hình KHÁI NIỆM VỀ HỆ THỐNG TRUYỀN TIN-1: Mơ hình hệ thống truyền tin Nếu có nguồn tin ban đầu tham gia vào kênh truyền tin, toán thu tin giải cách hiển nhiên Trường hợp kênh truyền tin gọi kênh truyền tin cửa Tuy nhiên, thực tế khơng phải có nguồn tin ban đầu truyền thơng tin vào kênh truyền tin Có nhiều nguồn tin khác có nguồn gốc tự nhiên có khả truyền tin vào kênh Các nguồn tin sinh thông tin bổ sung, trộn vào thông tin ban đầu, cản trở việc giải tốn thu tin Những thơng tin gọi nhiễu Các nguồn tin thứ cấp nói gọi nguồn nhiễu Giá trị thực nhiễu không xác định, nhiên với hệ thống truyền tin, tính chất thống kê nhiễu coi xác định Sự ảnh hưởng nhiễu đến đầu kênh truyền tin biểu diễn công thức: I rec  F ( I send , N ) Trong I send thông tin gửi đi, I rec thông tin nhận đầu ra, N nhiễu F hàm đặc trưng kênh truyền tin Yêu cầu hệ thống truyền tin thông tin phải truyền xác, hay nói cách khác, thơng tin gửi đầu vào phải xác định đầu kênh truyền tin, với điều kiện có tham gia nhiễu làm tác động lên thơng tin đầu Bài tốn xác định I send biết I rec  F ( I send , N ) gọi toán thu tin Như toán thu tin toán xác định thông tin đầu vào biết thông tin đầu bị phá hủy phần nhiễu Ngồi việc đảm bảo có kết xác cho tốn thu tin, kênh truyền tin cịn phải đảm bảo giải toán truyền tin thu tin khoảng thời gian giới hạn Đây yêu cầu truyền tin nhanh chóng hệ thống truyền tin Tất nhiên, thời gian truyền tin thực phụ thuộc vào yêu cầu toán cụ thể Một thư điện tử nhận sau gửi vài phút coi chậm, thư tín thơng thường đến tay người nhận sau vài ngày coi chấp nhận Khi thiết kế, xây dựng triển khai hệ thống truyền tin, việc đảm bảo truyền tin xác, nhanh chóng bị giới hạn lượng tài nguyên băng thông, khả xử lý, kích thước nhớ đệm Do để sử dụng thực tế, hệ thống truyền tin cần đảm bảo sử dụng tài nguyên hệ thống cách có hiệu Như vậy, yêu cầu với hệ thống truyền tin truyền tin nhanh chóng, xác hiệu Để thực chức truyền tin, thành phần hệ thống truyền tin: nguồn, kênh, đích cần phối hợp với Giữa thành phần cần có đồng định dạng tín hiệu, khn dạng liệu, tốc độ truyền tin trường hợp cần thiết phải có chế đồng Mơ hình khối nói chưa phản ánh tính chất đồng thành phần kênh truyền tin, đồng thời chưa phản ánh cách thức đạt u cầu truyền tin nhanh chóng, xác, hiệu Hình KHÁI NIỆM VỀ HỆ THỐNG TRUYỀN TIN-2: Mô hình hệ thống truyền tin khối Trong thực tế truyền số liệu, quan tâm đến hệ thống vật lý, người ta thường sử dụng mơ hình khối- Hình KHÁI NIỆM VỀ HỆ THỐNG TRUYỀN TIN-2 Hai phận bổ sung phận phát tín hiệu phận thu tín hiệu Bộ phận phát tín hiệu có chức biến đổi thơng tin nguồn tin thành dạng tín hiêu phù hợp với kênh truyền tin Bộ phận thu tín hiệu có chức biến đổi tín hiệu đầu kênh truyền tin thành thông tin phù hợp với phận thu tin Ví dụ hệ thống điện thoại, để sử dụng mơi trường truyền tin dây điện, có khả lan truyền tín hiệu điện, cần biến đổi thơng tin phát nguồn tin dạng tín hiệu sử dụng phận phát tín hiệu (micro) Tín hiệu thu đầu kênh truyền tin biến đổi thành tín hiệu học để đưa vào đích (tai) thiết bị thu tín hiệu (loa) Một ví dụ khác trường hợp phát radio Để truyền tín hiệu điện từ xa, cần có tín hiệu với tần số đủ lớn Các tín hiệu điện biểu diễn tiếng nói có tần số thấp (4Khz) cần biến đổi phát tín hiệu để có tần số cao Tại đích, tín hiệu có tần số cao thu tín hiệu biến đổi tín hiệu có tần số thấp BÀI Mơ hình truyền thơng tin Để nghiên cứu, tìm hiểu hệ thống truyền tin đảm bảo u cầu truyền tin nhanh chóng, xác, hiệu quả, cần có mơ hình bao gồm thành phần thực yêu cầu nói cách riêng biệt Khi có nhu cầu vận chuyển hàng hóa từ điểm sang điểm khác, thao tác cần thực đóng gói hàng hóa vào vật chứa cho trước Thao tác vận chuyển vật đựng đến đích Tại đích, hàng hóa đưa khỏi thiết bị vận chuyển dỡ khỏi vật chứa Có thể thấy đóng gói hàng hóa vào vật chứa, mục tiêu hướng tới đảm bảo để số vật chứa cần sử dụng nhỏ Ngược lại, trình vận chuyển, yêu cầu đặt vận chuyển vật chứa để khơng ảnh hưởng, hỏng hóc hàng hóa chứa bên Hình KHÁI NIỆM VỀ HỆ THỐNG TRUYỀN TIN-3: Mô hình truyền tin khối Quá trình truyền tin diễn tương tự Trước truyền tin, cần tìm cách đóng gói thông tin cần truyền với lượng tài nguyên tối thiểu Trong trình truyền tin, mục tiêu đảm bảo để thơng tin bị ảnh hưởng tốt q trình vận chuyển thơng tin Có thể sử dụng phương pháp phát thông tin lỗi, sửa thông tin hỏng, truyền lại thông tin bị hỏng, v v Phân tích dẫn đến việc biểu diễn hệ thống truyền tin mơ hình khối Hình KHÁI NIỆM VỀ HỆ THỐNG TRUYỀN TIN-3 Trong mơ hình khơng quan tâm đến vấn đề truyền nhận vật mang thông tin (truyền nhận tín hiệu, liệu) Trong mơ hình này, trước truyền lên kênh truyền tin, thông tin biểu diễn cách tối ưu nhất, sử dụng lượng tài nguyên tối thiểu Quá trình gọi trình nén liệu Tất nhiên điểm đến thơng tin, cần thực q trình ngược lại trình giải nén liệu Việc nén liệu chủ yếu dựa vào tính chất, đặc điểm nguồn tin từ đưa cách thức biểu diễn tối ưu Chính vậy, nén liệu cịn gọi mã hóa nguồn, giải nén gọi giải mã nguồn Sau biểu diễn cách tối ưu, thông tin cần bảo vệ truyền qua kênh truyền tin Quá trình biến đổi phụ thuộc vào tính chất kênh truyền tin Nếu kênh truyền tin có tính chất nhiễu tác động mạnh đến thơng tin, cần lượng tài nguyên lớn để thực biện pháp bảo vệ thơng tin Nếu nhiễu có tác động yếu đến thơng tin, lựa chọn giải pháp tốn tài nguyên để bảo vệ thông tin Bộ phận thực nhiệm vụ gọi phận mã hóa chống nhiễu Vì việc mã hóa chống nhiễu phụ thuộc vào kênh truyền tin phận cịn gọi mã hóa kênh Thành phần đối xứng tương ứng gọi phận giải mã kênh hay giải nén Mơ hình khối khối hình vẽ phản ánh tính chất hệ thống truyền tin chưa quan tâm đến khía cạnh tín hiệu liệu Kênh truyền tin mơ hình khối thực chất khơng quan tâm đến biểu diễn tín hiệu thơng tin Có thể kết hợp mơ hình để tạo thành mơ hình khối (Hình KHÁI NIỆM VỀ HỆ THỐNG TRUYỀN TIN-4: Mơ hình hệ thống truyền tin khối) Hình KHÁI NIỆM VỀ HỆ THỐNG TRUYỀN TIN-4: Mô hình hệ thống truyền tin khối Trong mơ hình nói trên, hầu hết thành phần hệ thống có tính chất xác định: biết đầu vào, chắn xác định đầu Riêng thành phần nguồn tin kênh truyền tin, khơng xác định trước thông tin mà thành phần sản sinh thành phần gọi yếu tố bất định hệ thống truyền tin Việc nghiên cứu, đánh giá thành phần chủ yếu dựa vào mơ hình xác suất thống kê BÀI Mơ hình nguồn tin Nguồn tin tập hợp tin nguyên thủy (chưa qua phép biến đổi nhân tạo nào) ví dụ tiếng nói, âm nhạc, hình ảnh, biến đổi khí tượng … Các tin nguyên thủy phần nhiều hàm liên tục theo thời gian f (t ) hàm biến đổi theo thời gian nhiều thơng số khác hình ảnh đen trắng h( x, y, t ) , x, y toạ độ khơng gian hình, thơng tin khí tượng: g (i , t ) i , (i  1, 2, , n) thơng số khí tượng nhiệt độ, độ ẩm tốc độ gió… Thơng thường tin ngun thủy mang tính chất liên tục theo thời gian theo mức, nghĩa biểu diển thơng tin dạng hàm s (t ) tồn quãng thời gian T lấy giá trị phạm vi ( smin , smax ) Những tin nguyên thủy đưa trực tiếp vào kênh để truyền Cũng phép biến đổi nhân tạo rời rạc hoá theo thời gian theo mức đưa vào kênh truyền Lúc tin trước vào kênh trở thành tin rời rạc Nguồn tin lúc gọi nguồn tin rời rạc kênh tin gọi kênh tin rời rạc để phân biệt với trường hợp đưa tin liên tục vào kênh gọi nguồn tin liên tục kênh tin liên tục Bảng chữ ngôn ngữ, tin hệ thống điện tín, lệnh điều khiển hệ thống điều khiển tin ngun thủy có tính chất rời rạc Sự phân biệt chất nguồn rời rạc với nguồn liên tục số lượng tin nguồn rời rạc hữu hạn số lượng tin nguồn liên tục khơng đếm Nói chung tin rời rạc, nguyên thủy rời rạc, nguyên thủy liên tục rời rạc hoá, trước đưa vào kênh thơng thường qua thiết bị mã hố Thiết bị mã hoá biến đổi táp hợp tin nguyên thủy thành tập hợp tin thích hợp với đặc điểm kênh khả cho qua (thông lượng), tính chất tín hiệu (dạng, cấu trúc phổ, tính thống kê…) tạp nhiễu Tóm lại mã hố phép biến đổi tính thơng kê tính chống nhiễu nguồn tin Một bảng tin xuất phát từ nguồn tin phản ánh tính chất thống kê nguồn Bảng tin dài phản ánh trung thực Chúng ta xem bảng tin cụ thể thể cụ thể nguồn Vì thời điểm xác định nguồn tạo tin ngẫu nhiên người quan sát, nên theo quan điểm toán học xem nguồn tin (nguồn tạo tin) cấu trúc thống kê trình ngẫu nhiên Như để xác định nguồn tin, hay nói cách khác để xác định cấu trúc thống kê trình ngẫu nhiên, cần phải biết quy luật thống kê qủa trình Trường hợp nguồn rời rạc, bảng tin dãy ký hiệu chữ (bộ ký hiệu ) gồm số m ký hiệu có hạn gọi chữ A: A    , i  1, 2, , m Bảng tin dãy vô hạn hay hữu hạn hai phía: x   x2 x1 x0 x1 x2  x2 x1 x0 x1 x2 ký hiệu , i  1, 2, , m chữ A phát thời điểm t2 , t1 , t0 , t1 , t2 Trong thực tế bảng tin có bắt đầu kết thúc bảng tin dãy ký hiệu hữu hạn: x*   x1 x2 xn  x* gọi khối n chiều với đặc tính thống kê chúng xác địng cấu trúc thống kê nguồn tin Nói cách khác biết tập hợp x* (ký hiệu X) xác suất xuất bảng tin p ( x* ) định tính chất thống kê nguồn Do trường hợp nguồn tin trường xác xuất hữu hạn  X * , p  x*   Trong trường hợp hẹp hơn, xác suất xuất ký hiệu bảng tin độc lập với nhau, cần biết chữ A xác suất xuất ký hiệu p   , �A đủ để xác định tính chất thống kê nguồn, lúc nguồn trường xác suất hữu hạn  A, p , ( p viết tắt cho p   , �A, i  1, 2, , m ) Khi rời rạc hóa nguồn liên tục, thay thể x  t  * nguồn (một bảng tin liên tục) dãy hay khối n chiều x thời gian quan sát hữu hạn Trong chữ A khối tập hợp giá trị lượng tử hoá x  t  Như rời rạc hoá thực thơng qua hai khâu: gián đoạn hố theo thời gian lượng tử hoá theo mức Theo điều trình bày nguồn tin có cấu trúc thống kê trình ngẫu nhiên Mỗi nguồn tin (quá trình ngẫu nhiên ) xác định tập * giá trị x* cấu trúc thống kê chúng p  x  Những nguồn tin thường gặp thường có tính chất q trình ngẫu nhiên dừng nhiều lại có tính ergodic Đối với nguồn tin ergodic thể (mỗi bảng tin ) ghi nhận thời gian đủ dài tiêu biểu cho nguồn vào thể để xác định cấu trúc thống kê nguồn Điều có ý nghĩa quan trọng thực tiễn Để nghiên cứu định lượng nguồn tin hệ thống truyền tin, mơ hình hố tốn học nguồn tin bốn loại q trình ngẫu nhiên sau : - Quá trình ngẫu nhiên liên tục: Nguồn tiếng nói, âm nhạc, hình ảnh tiêu biểu cho trình Trong hệ thống thong tin thoại, truyền truyền hình với tín hiệu điều biên, điều tần thông thường gặp nguồn - Quá trình ngẫu nhiên rời rạc: Một trình ngẫu nhiên liên tục sau lượng tử hố theo mức trở thành q trình Một ngơn ngữ, tín hiệu điện tín, lệnh điều khiển nguồn rời rạc loại - Dãy ngẫu nhiên liên tục: Đây trường hợp nguồn liên tục gián đoạn hoá theo thời gian, thường gặp hệ thông tin xung điều biên xung (PAM - Pulse Amplitude Modulation), điều pha xung (PPM), điều tần xung (PFM)… - Dãy ngẫu nhiên rời rạc: Trong hệ thống thơng tin xung có lượng tử hoá điều biên (pha , tần) xung lượng tử hố, điều xung mã (PCM) BÀI Mơ hình kênh truyền tin Kênh tin xem xét theo nhiều góc độ Ở góc độ truyền tin hiêu, kênh tin coi hệ thống biến đổi tín hiệu với đặc trưng tần số đặc tính xung Các đại lượng để đánh giá kênh truyền tin trường hợp đại lượng như: giải thông; độ trễ; độ suy hao; độ méo thay đổi của đại lượng Ở góc độ truyền thơng tin cần mơ hình hoác đặc điểm kênh truyền tin truyền thông tin đầu vào thành thông tin đầu Các đại lượng để đánh giá trườn hợp tỷ suất lỗi, tốc độ truyền tin, thơng lượng kênh, Mặc dù có nhiều loại mơi trường truyền tin khác nhau, nhiên thực tế thường sử dụng loại môi trường truyền tin sau đây: - Dây dẫn đôi - Dây dẫn đồng trục - Cáp quang - Môi trường truyền tin không dây Các môi trường truyền tin đặc trưng tính chất như: Băng thơng, Độ trễ/sự thay đổi độ trễ, độ suy hao, méo, nhiễu Bảng sau liệt kê thông số số loại môi trường truyền tin Bảng KHÁI NIỆM VỀ HỆ THỐNG TRUYỀN TIN-2: Một số môi trường truyền tin thông dụng Dây dẫn đôi Dây dẫn đồng trục Cáp quang Giải thông 4kHz-1MHz 500MHz 1GHz Rất lớn Không dây 2.4-5GHz Suy hao Lớn Lớn Trễ Lớn Lớn Không đáng kể Thay đổi Không đáng kể Thay đổi Mơ hình tín hiệu kênh truyền tin Khi quan tâm đến việc tín hiệu truyền qua kênh truyền tin nào, kênh truyền tin đặc trưng đặc tính tần số đặc tính xung Trong miền thời gian, tín hiệu đầu xác định tích chập tín hiệu đầu vào đặc tính xung Cụ thể là: Sr  t   N n  t  Sv  t  * H (t )  N c  t  Trong tín hiệu nhận đầu ra, xung, phép nhân chập định nghĩa: tín hiệu đầu vào, đặc tính S  t * H  t  � S  t    H    d � � Thành phần tín hiệu nguồn tin khác truyền vào kênh truyền tin, gọi nhiễu cộng tính chất cộng vào đầu Nhiễu cộng có nguồn gốc bất kỳ, thơng thường nhiễu cộng bao trùm miền tần số lớn, có phổ cơng suất Do nhiễu cộng gọi nhiễu trắng Thành phần phản ánh thay đổi tính chất kênh truyền tin theo thời gian, ảnh hưởng đến tín hiệu đầu hệ số khuếch đại, gọi nhiễu nhân Nhiễu nhân thường thay đổi chậm so với nhiễu cộng Trong hệ thống truyền tin thực tế thường người ta xem xét nhiễu nhân Mô hình tín hiệu kênh truyền tin thích hợp thao tác với tín hiệu Trường hợp muốn nghiên cứu, phân tích đánh giá kênh truyền tin mặt thơng tin, mơ hình tín hiệu đem lại tính tốn khơng cần thiết Do trường hợp thường sử dụng mơ hình thơng tin kênh truyền tin Mơ hình quan tâm đến việc có xuất hay khơng xuất thơng tin xem xét với điều kiện kênh truyền tin “thơng tin hóa” Xét ví dụ kênh truyền tin, đầu vào phân biệt ký hiệu 1, đầu sản sinh ký hiệu Trong trường hợp lý tưởng, kênh khơng có nhiễu, ký hiệu truyền đi, tất trường hợp nhận ký hiệu Tương tự vậy, xác suất nhận ký hiệu gửi ký hiệu 100% Xác suất để kênh nhầm lẫn, nhận gửi nhận gửi 0% Trường hợp kênh có nhiễu, có khả kênh nhầm lẫn, đưa ký hiệu đầu nhận ký hiệu ngược lại Tính chất nhiễu, mức độ nhầm lẫn kênh phản ảnh xác suất Như vậy, tác động tính chất điện, tính chất nhiễu kênh tổng hợp thông qua xác suất nhận ký hiệu gửi ký hiệu khác Các xác suất gọi xác suất chuyển đổi Trong ví dụ nói trên, kênh truyền tin biểu diễn xác suất P  Y  | X  1  P(Y  | X  0)  p P(Y  | X  1)  P(Y  | x  0)   p Hình KHÁI NIỆM VỀ HỆ THỐNG TRUYỀN TIN-5: Kênh nhị phân đối xứng Trong trường hợp tổng quát, đầu vào đầu kênh nguồn tin rời rạc Nếu đầu vào có m tin đầu có n tin tính chất kênh biểu diễn xác suất chuyển đổi gọi ma trận nhiễu kênh Trở lại với ví dụ kênh có đầu vào đầu 1, trường hợp lý tưởng xác suất chuyển đổi thành thành 1, thành thành Một trường hợp lý tưởng khác, xác suất chuyển đổi thành thành 0, nhận ký hiệu đầu xác định ký hiệu đầu vào Trường hợp xấu nhất, xác suất ½, nhận ký hiệu hay đầu xác định gửi ký hiệu đầu vào 10 JND2 d JND2 a JND2 JD b c D D c H× nh 10.2.12 L u đ trạng thái cho mà chậpK =3,1/3 X c  JND3 X a  JNDX b X b  JDX c  JDX d X d  JND X c  JND X d X e  JD X b T ( D, N , J )  J ND  J ND  J N D  J N D  J N D10  J N D10  J N D10   JND (1  J ) Khi truyền dài, coi vơ hạn muốn bỏ qua tham số J ta đặt J = ND T ( D, N , J )   ND �  ND  N D  N D   �ad N ( d  4) / D d 10 d 6 Ví dụ : Xét mã chập hình 10-2-10 coi mã bốn mức khoảng cách từ 0111 tới 0000 Khi ký hiệu vào 01 giải mã thành 11 sai nhầm ký hiệu Lưu đồ trạng thái hình 10-2-13 X b  NJD X a  NJDX b  NJDX c  NJD X d X c  NJD X a  NJD X b  NJDc  NJDX d X d  NJD X a  NJDX b  NJD X c  NJDX d X e  JD ( X b  X c  X a ) Hàm truyền : 129 NJ D T ( D, N , J )   NJD  NJD Mà HÓA KÊNH-28: Lưu đồ trạng thái mã chập với đầu nhị phân Một số loại mã chập sử dụng kênh BSC có số lượng hữu hạn sai nhầm dẫn tới vô hạn lần giải mã sai Nhưng loại mã dẽ nhận không sử dụng thực tế III Giải mã tối ưu mã chập - Thuật toán Viterbi Giống với mã khối, mã hoá chập tạo từ mã cố độ dài hữu hạn n hệ có số trạng thái hữu hạnvà giải mã tối ưu ước lượng dãy cực đại khả (MLSE) Quá trình giải mã tối ưu mã chập tìm lưới dãy có khả lớn Phụthuộc vào trình giải mã xác định mềm hay xác định cứng mà ta có tốc độ đo tương quan khác Chúng ta sử dụng mã chập sơ đồ lưới hình 10-2-5 để mơ tả thuật toán Xét hai đường lưới trạng thái a nhập lại trạng thái a sau chuyển đổi, tương ứng với dãy thông tin 000 100, dãy truyền tương ứng 000, 000, 000 111, 001, 011 Ta kí hiệu bit truyền { c jm , j  1, 2,3; m  1, 2,3 } với j nhánh thứ j m bit thứ mtrong nhánh Ta ký hiệu { rjm , j  1, 2, 3; m  1, 2, } đầu giải điều chế Nếu xác định thực xác định cứng thìi đầu bit 0, việc xác định mềm tín hiệu truyền PSK xác định liên kết đầu xác định mềm 130 rjm   c (2c jm  1)  n jm ) rjm biểu diễn trắng  c lượng bit truyền Độ đo dược định nghĩa cho nhánh thứ j đường thứ i  (ji )  log P(Y j | C (ji ) ), j  1, 2, Như độ đo cho đường thứ i gồm có B nhánh B PM (i )  � (ji ) j 1 Nguyên tắc lựa chọn hai dường chọn đường có độ dài lớn Nguyên tắc cực đại hoá xác xuất xác định hay cực tiểu hố xác suất xác định sai Ví dụ với giải mã xác định cứng với dãy nhận {101000100} Ta ký hiệu i = nhánh toàn ký hiệu i = nhánh xuất phát từ trạng thái a trở trạng thái a sau ba chuyển đổi Độ đo tương ứng với hai đường PM (0)  log(1  p )  3log p PM (1)  log(1  p )  log p Giả sử p  1/ ta thấy PM (0)  PM (1) Khoảng cách từ đường dẫn toàn tới dãy nhận d = từ đường tới dãy nhận d = Như khoảng cách Hamming độ đo tương ứng với giải mã xác định cứng Giả sử giải mã xác định mềm thực kênh có nhiễu cộng Gaussian đầu giải điều chế mô tả thống kê [rjm   c (2c (jmi )  1)] p (rjm | c )  exp{ } 2 2 (i ) jm N sai phương nhiễu trắngvà từ độ đo nhánh thứ j đường thứ i biểu diễn   n  (ji )  �rjm (2c(jmi )  1) m 1 ví dụ ta độ đo tương ứng với hai đường CM (0)  �j 1 �m 1 rjm (2c (0) jm  1) 3 CM (1)  �j 1 �m 1 rjm (2c (1) jm  1) 3 Bây ta xét thuật toán Viterbi Ta ý CM (0)  CM (1) nhánh xuất phát từ trạng thái a cộng thêm lượng không đổi CM (0) 131 CM (1) Do đường ứng với CM (1) bỏ ta có đường cịn lại Tương tự , hai đường cịn lại nút b,c,d bỏ qua Thủ tục lặp lại nhịp Tổng quát, với mã chập nhị phân k = ta có K 1 đường cịn lại nhịp K 1 độ đo Hơn nữa, với mã chập nhị phân với k bit đưa vào ghi dịch nhịp sơ đồ lưới có 2k ( K 1) trạng thái Như giải mã cần giữ 2k ( K 1) đường lại 2k ( K 1) độ đo nhịp có K đường tới nút Do số lượng phép tính cần thực tăng theo hàm mũ k K Độ trễ giải mã dung lượng nhớ giả mã sử dụng theo thuật toá thường lớn đa số ứng dụng thực tế Tuy nhiên ta sửa đổi thuật tốn phần 71-4 độ trễ bit thoả mãn điều kiện  �5K cho ta kết tương đối chấp nhận IV Xác suất lỗi giải mã xác định mềm Để biểu diễn xác suất xác định sai mã chập, ta sử dụng tính chất tuyến tính đêr việc biểu diễn đơn giản Giả thiết dãy toàn ký hiệu 0được truyền ta xác định xác suất xác định sai dãy Giả thiết ta sử dụng tín hiệu PSK (hoặc bốn mức) trình xác định liên kết Độ đo tương quan ứng với đường B B n j 1 j 1 m 1 CM (i )  � (ji )  ��rjm (2c (jmi )  1) B số nhánh đường Ví dụ với đường toàn ký hiệu ký hiệu i = có độ đo B n B n CM (0)  ��(   c  n jm )(1)   c Bn  ��n jm j 1 m 1 j 1 m 1 Chú ý mã chập có độ dài vơ hạn ta định nghĩa xác suất sai kiện thứ xác suất để đường khác nhập lại với đường dẫn toàn ký hiệu nút B có độ đo lớn độ đo đường tồn ký hiệu Giả đường ký hiệu i = có khoảng cách tới đường tồn ký hiệu d, có nghĩa d có ký hiệu đường i = 1, có khoảng cách tới đường tồn ký hiệu d, có nghĩa có d ký hiệu đường i = 1, ký hiệu khác B P2 (d )  P(CM (1) �CM (0)  P (CM (1)  CM (0) n (1) (0) �0)  P[2��rjm (c jm  c jm ) �0] j 1 m 1 Do mã bit hai đường giống trừ d vị trí nên (10-2-18) đơn giản thành: d P2 (d )  P (�rl ' �0) l 1 ' với { rl } biểu diễn độ dài giải mã với d bit 132 ' Do { rl } biến ngẫu nhiên gaussian độc lập thống kê có phân bố thống kê giống N , xác suất lỗi để hai đường nhau, giá trị trung bình   c sai phương khác d bit P2 (d )  Q ( 2 c d )  Q ( 2 b Rc d ) N0  b   b / N SNR bit nhận Rc tốc độ mã Chúng ta tính xác suất sai kiện thứ nhấtcủa đường có khỏng cách d so với đường toàn nhập lại với đường toàn nút B Ta lấy tổng (10-2-20) theo tất đường dẫn thu giới hạn xác suất lỗi kiện thứ � � d  d free d  d free Pe � � ad P2 (d ) � � ad Q( 2 b Rc d ) Có hai lý để (10-2-21) giới hạn xác suất lỗi kiện thứ Đầu tiên ta thấy kiện cho xác suất sai { P2 (d ) } không đồng thời Điều ta thấy lưới Thứ hai, tổng lấy theo khả d �d free với giả thiết mã chập có độ dài vơ hạn Nếu mã cất tuần hoàn sau B nút ta lấy tổng theo d �d free �B Giới hạn công thức biểu diễn theo cách khác ta ý đến Q   2 b Rc d �e  b Rc d  D d |D e  bRc Pe  T ( D) |D e  bRc Ta xét xác suất sai bit Giả sử đường sai lựa chọn bit thông tin đường bị sai khác với bit thông tin tương ứng đường dẫn Số mũ N hàm truyền T(D,N) số bit thông tin bị lỗi đường sai Nếu ta nhân P2 (d ) với số bit thông tin bị giải mã sai lấy tổng theo d Hệ số nhân tương ứng với số bit thông tin bị sai với đường bị lựa chónai đạo hàm T(D,N) theo N P ( D, N )  � �a D d  d free d d N f (d ) Lấy đạo hàm T(D, N) theo N cho N = ta nhận 133 � � dT ( D, N ) |N 1  � ad f (d ) D d  �  d D d dN d  d free d  d free Như k = xác suất sai bit bị giới hạn Pb  � �  d P2 (d )  d  d free � Q  � d  d free d 2 b Rc d  Nếu ta sử dụng giới hạn hàm Q cơng thức (10-2-22) Pb  � � d  d free d D d |D e  bRc  dT ( D, N ) |N 1, D e  bRc dN k > xác suất sai tương đương nhận cách chia (10-2-26) (102-27) cho k Việc tính tốn xác suất lỗi thực với giả thiết bit từ mã truyền tín hiệu PSK nhị phân xác định liên kết Kết tín hiệu tín hiệu QPSK xác định liên kết Khi ta sử dụng kỹ thuật điều chế giải điều chế khác ảnh hưởng tới việc tính P2 (d ) khơng ảnh hưởng tới q trình tính Pb Khi ký hiệu k biit xác suất sai bit tương đương k 1 k nhân thêm với hệ số /   1 nói chương V Xác suất lỗi giải mã xác định cứng Ta xét hiệu thuật toán Viterbi kênh BSC Trong trường hợp giải mã xác định cứng, độ đo khoảng cách Hamming dãy nhận 2k ( K 1) dãy lại nút lưới Cũng phần trên, ta bắt đầu cách xác định xác suất lỗi kiện thứ Giả sử đường toàn đường truyền Đường dẫn so sánh với đường toàn nút B có khoảng cách d so với đường tồn Nếu d lẻ đường chọn số sai dãy nhận nhỏ (d  1) Xác suất lựa chonj đường sai P2 (d )  d d �� p k (1  p) d  k �� � k �� d  ( d 1) / 1 d Nếu số sai d 2 lựa chọn ngẫu nhiên nên xác suất sai nửa Như trường hợp d chẵn Nếu d chẵn giải mã bị sai số bit sai vượt 134 P2 (d )  d ��p � �� �� d k  d / 1 k k �d � (1  p )d  k  � �p d / (1  p ) d / 2 �1 d � �2 � Do có nhiều đường với khởng cách khác nhập với đường toàn nút nên giới hạn xác suất lỗi Pe  � � a P (d ) d  d free d Chúng ta sử dụng giới hạn P2 (d )   p(1  p)  d /2 ta nhận giới hạn chặt Pe  � � a  p(1  p) d  d free d /2  T ( D) |D  d p (1 p ) Bây ta xác định xác suất sai bit Ta sử dụng số mũ N hàm truyền T(D, N) Lấy đạo hàm hàm theo N đặt N = có : Pb  � � d  d free d P2 (d ) Sử dụng giới hạn kèm chặt P2 (d ) ta thu Pb  dT ( D, N ) |N 1, D  dN p (1 p ) So sánh xác suất sai việc giải mã mã chập 1/3, K = hai phương pháp Hình Mà HÓA KÊNH-29: so sánh giải mã cứng giải mã mềm mã chập 1/3, K = 135 10 -1 G.h.Ghernof (8-2-34) 10 -2 X¸c xuÊt sai bÝt Pb G.h trªn (8-2-3 3) Ví i (8-2-29) Vµ (8-2-28) 10 -3 10 -4 G.h.trên (8-2-20) 10 -5 G.m.x.đmềm G.m.x.đ Cứng 10 -6 10 12 14 SNR tõng bit Y b (JB) Hình Mà HÓA KÊNH-29: so sánh giải mã cứng giải mã mềm mã chập 1/3, K = Cuối cùng, tốc độ sai trung bình theo tập hợp mã chập kênh rời rạc không nhớ biểu diễn theo tốc độ giới hạn R0 _ Pb  VI (q  1)q  kR0 / Rc  R R /R � 1 q  c c � � � , Rc �R0 Các tính chất khoảng cách mã chập Trong phần ta ghi số giá trị khoảng cách tối thiểu, hàm sinh số mã chập nhị phân có độ dài hữu hạn với số giá trị tốc độ mã Các mã nhị phân tối ưu theo nghĩa với tốc độ độ dài xác định, chúng có dfree lớn Ta có giới hạn đơn giản khoảng cách tự tối thiểu mã chập 1/n dfree �2l 1 � �l ( K  l  1) n � l� 1 � � � 136 Hình Mà HĨA KÊNH-30: Mã tỗc độ k/7 có khoảng cách tự lớn Tốc độ K dfree Hàm sinh dfree Giới hạn 3/4 13 25 61 47 3/8 15 42 23 61 51 36 75 47 Bảng 10-2-11:Mã tỗc độ 3/4 3/8 có khoảng cách tự lớn VII Mã kép k không nhị phân mã ghép Các vấn đề mã chập xem xét tới chủ yếu tập trung vào mã nhị phân sử dụng kênh có khả sử dụng tín hiệu SPK nhị phân QPSK xác định liên kết Tuy nhiên thực tế có ứng dụng khơng thể hay khơng tiện sử dụng loại tín hiệu Trong nhữnng trường hợp ta sử dụng kỹ thuật điều chế khác FSK M mức giải điều chế không liên kết Trong phần ta trình bày lớp mã khơng nhị phân gọi mã kép k (dual kcodes) Loại mã giải mã tương đối dễ thuật toán Viterbi với giải mã xác định mềm cứng Loại mã thích hợp sử dụng làm mã mã ngồi mã ghép Bộ mã hố chập tạo mã kép k tốc độ 1/2 trình bày hình 10-2-16 Nó gồm có hai ghi dịch k bit (K=2) n=2k hàm sinh Đầu mã hoá hai ký hiệu k bit Chú ý mã ví dụ Hình Mà HĨA KÊNH-31:Bộ mã hoá tạo mã kép tốc độ 1/2là mã chập kép 137 Hình Mà HĨA KÊNH-31:Bộ mã hố tạo mã kép tốc độ 1/2 2k hàm sinh mã chập kép cho dạng g1 � � � � � � g2 � � �  �M� � M � � � gk � � � � g k 1 � � � � � g k2 � � � � �M � � � � � �g 2k � � � 0 0 0 L 0 L L M M 0 L 0 L M M M 0 L 0 L L L L L � � � � � � � � 0 0 0 0 L L 0 L 0 L 0 L 0 L 0 L 0 0 L 0 L 0 0� 0� �  I k I k  M� � 1� 0� 0� � � � � 1� � � � � Ik � � � � � Dạng tổng quát hàm truyền mã kép k tốc độ 1/2 � (2k  1) D J N T ( D, N , J )   �ai D I N f (i ) J h (i ) k  NJ � D  (2  3) D � � � i 4 138 D khoảng cách Hamming ký hiệu q mức (q=2k), f(i) số lượng ký hiệu thơng tin có lỗi lựa chọn sai đường lưới, h(i) số nhánh đường Chú ý khoảng cách tự tối thiểu dfree =4 ký hiệu (4k bit) Mã kép k tốc độ thấp tạo theo nhiều cách khác nhau, cách đơn giản lặp lại ký hiệu tạo tốc độ 1/2 r lần , r =1,2, ,m Nếu ký hiệu nhánh lặp lại r lần khoảng cách tương ứng tăng từ D lên Dr Như hàm truyền mã kép k tốc độ 1/2r T ( D, N , J )  (2 k  1) D r J N  NJ � D r  (2k  3) D r � � � Nếu độ dài dãy thơng tin lớn tham số độ dài đường J đặt Lấy đạo hàm T(D,N) theo N đặt N = ta có: � dT ( D, N ) (2k  1) D r |N 1   i Di � r k 2r dN �  D  (2  3) D � � � i4 r  i số ký hiệu sai gắn với đường có khoảng cách Di tới đường tồn 0.Biểu thức sử dụng để tính xác suất sai mã kép k kênh Hiệu quả mã kép k Giả sử mã kép k sử dụng với tín hiệu trực giao M mức M=2k, kênh có nhiễu cộng trắng Gaussian giải điều chế gồm có M lọc phối hợp Nếu trình giải mã xác địnhcứng hiệu mã tính xác suất sai ký hiệu PM.Từ PM ta tính P2(d) Xác suất sai bit giới hạn Pb  2k 1 � �d P2 (d ) 2k  d 4 r Nếu trình giải mã xác định mềm theo luật bình phương xác suất sai bit giới hạn theo công thức P2 (d )  K i  �1 �d 1 �1 � exp  R d K i �  b Rc d � � b c � � 2d 1 �2 �i 0 �2 � d 1i d 1 �  l  , Rc  1/ 2r i ! l 0 Mã ghép Ta xét mã gồm mã khối mã chập hay hai mã chập với Như trình bày, mã ngồi thường mã khơng nhị phân, ký hiệu có q=2k giá trị Mã mã khối (Reed-Solomon) hay mã chập kép k Mã nhị phân hay khơng phải nhị phân mã khối hay mã chập Nếu mã mã chập có độ dài ngấn thuật tốn Viterbi cho phép q trình giải mã có hiệu Nếu mã mã khối giải mã tương ứng xác định mềm giải 139 mã tương ứng xác định cứng sau nhận từ mã đưa kết tới giải mã hố ngồi giải mã hố ngồi phải thực xác định cứng Xét ví dụ sau : Ví dụ Giả thiết ta có mã ghép gốm có mã kép tốc độ 1/2 mã ngồi mã Hadamard (16,5) mã Mã kép có khoảng cách tự tối thiểu Dfree = mã Hadamard có khoảng cách tối thiểu dmin =8 mã ghép có khoảng cách tối thiểu 32 Do mã Hadamard có 32 từ mã mã ngồi có 32 ký hiệu, ký hiệu mã chuyển thành từ mã mã Hadamard Xác suất sai ký hiệu giải mã mã xác định Giả thiết giải mã giải mã xác định cứng P32 xác suất sai từ mã (một ký hiệu mã ngồi ) hiệu mã ngồi vủa mã ghép tính theo Thuật toán Fano Thuật toán Viterbi thuật tốn giải mã tối ưu (thuật tốn ML cho tồn dãy) cho mã chập Tuy nhiên thuật toán địi hỏi phải tính 2kK độ đo nút lưới lưu trữ 2k(K-1) dãy lại , dãy cịn lại có độ dài 5kK bit Độ phức tạp tính tốn khối lượng thơng tin cần lưu trữ làm cho thuật tốn khơng có hiệu độ dài ràng buộc lớn Thuật toán giải mã dãy Fano tìm đường có nhiều khả lưới hay cách kiểm tra đường, độ đo tăng lên theo nhánh tương ứng với xác suất tín hiệu nhận từ nhánh giống thuật toán Viterbi ngoại trừ số âm thêm vào cho nhánh Giá trị số chọn cho độ đo tương ứng với nhánh bình qn tăng cịn nhánh khơng giảm bình qn Bằng cách so sánh độ đo nhánh vơí giá trị ngưỡng thay đổi liên tục, thuật toán phát loại bỏ đường dẫn không Xét kênh không nhớ, độ đo đường thứ i hay lưới từ nhánh tới nhánh thứ B biểu diễn bởi: B n CM (i )  �� (jmi ) j 1 m 1 với:  (i ) jm  log p (rjm | c (jmi ) ) p (rjm ) K (i ) Trong , rjm dãy giải điều chế , p(rjm | c jm ) hàm mật độ phân bố xác (i ) suất rjm với điều kiện mã bit c jm bit thứ m nhánh thứ j đường thứ i K số dương K chọn để độ đo đường sai giảm dần 140 đường tăng dần cách trung bình Chú ý p(rjm ) độc lập với dãy mã coi số Ðộ ðo áp dụng cho giải mã xác định cứng mềm tính đơn giản giải mã xác định cứng Giả sử kênh BSC  (i ) jm � log [2(1  p)]  Rc � � � log 2 p  Rc (i ) r% jm  c jm (i ) r% jm �c jm (i ) r% đầu giải điều chế xác định cứng c jm bit mã thứ m nhánh jm thứ j đường thứ i Ta thấy để tính độ đo cần phải biết (hoặc xấp xỉ ) xác suất lỗi Ví dụ Giả sử mã nhị phân chập tốc độ 1/3 truyền kênh BSC với p = 0,1 ta có:  (i ) jm (i ) �0, 52 r% � jm  c jm � (i ) 2, 65 r% � jm �c jm Để đơn giản việc tính tốn độ đo cơng thức chuẩn hoá xấp xỉ thành: (i ) �1 r% � jm  c jm  (jmi )  � (i ) 5 r% � jm �c jm Do tốc độ mã 1/3 nên có ba bit đầu mã hoá ứng với bit đầu vào nên độ đo nhánh là:  (ji ) = 3-6d hay  (ji ) =1-2d với d khoảng cách Hamming ba bit nhận với ba bit nhánh Như (i )  j tương ứng với khoảng cách Hamming bit nhận với bit nhánh thứ j đường thứ i 141 Hình Mà HĨA KÊNH-32: Ví dụ thuật toán Fano Khởi đầu giải mã bắt đầu với đường cách truyền vài bit xác định trước Sau tiến từ nút tới nút khác, lấy nhánh có xác suất lớn nút tăng giá trị cận lên cho giá trị cận không vượt giá trị xác định trước t Bây giả thiết nhiễu trắng (đối với giải mã xác định mềm ) hay lỗi giải điều chế nhiễu (đối với giải mã xác định cứng) làm cho giải mã chọn đường khơng (Hình Mà HĨA KÊNH-32: Ví dụ thuật tốn Fano) Do giá trị độ đo ứng với đường sai giảm cách trung bình độ đo nhỏ giá trị cận thời (t0 ) Khi điều xảy giải mã quay trở lại lấy đường khác cho có độ đo vượt t0 Nếu chọn đường đúng, tiếp tục theo đường này, không, giá trị cận bị giảm t quay trở lại đường ban đầu Nếu đường ban đầu khơng có độ đo vượt giá trị cận giải mã quay ngược trở lại tìm đường khác Qúa trình lặp lại tìm đường Sơ đồ khối thuật tốn vẽ Hình Mà HĨA KÊNH-32 Thuật toán giải mã cần đệm giải điều chế để lưu trữ số liệu giải mã Khi trình tìm kiếm kết thúc, giải mã phải xử lý bit giải mã đủ nhanh để xố đệm lặp lại q trình tìm kiếm Tốc độ giới hạn R có ý nghĩa quan trọng giải mã dãy Nó tốc độ để số lượng phép tính ứng với bit giải mã tiến tới vô hạn gọi thời gian tính tốn giới hạn Rcomp.Thực tế giải mã dãy Fano với thuật tốn Viterbi thuật tốn Fano có độ trễ giải mã lớn hơn, nhiên yêu cầu nhớ để lưu trữ nhỏ có hiệu với độ dài ràng buộc lớn VIII Một số vấn đề thực tế việc áp dụng mã chập Từ xác suất sai giải mã xác suất mềm, ta thấy độ tăng ích mã hố hệ thống sử dụng tín hiệu PSK hay QPSK khơng mã hố : độ tăng ích mã hố � log10(Rcdfree) Ta thấy khoảng cách tự tối thiểu dfree tăng lên cách giảm tốc độ mã hay tăng độ ràng buộc hay hai Bảng 11 liệt kê độ tăng 142 ích mã hố thực tế giới hạn độ dài ràng buộc số mã chập dùng thuật toán Viterbi để giải mã Bảng 11: Giới hạn độ tăng ích mã hoá giải mã xác định mềm Mã tốc độ 1/2 K dfre Mã tốc độ 1/3 Giới hạn dB K dfree Giới hạn dB e 3,98 4,26 4,77 10 5.23 5,44 12 6,02 6,02 13 6,37 6,99 15 6,99 10 6,99 16 7,27 12 7,78 18 7,78 10 12 7,78 10 20 8,24 Bảng 12: Độ tăng ích mã hố với thuật tốn Viterbi xác định mềm (dB) Pb  b / N Không mã hoá (dB) 10-3 6,8 10-5 9,6 10-7 11,3 Rc=1/3 Rc=1/2 Rc=2/3 K=7 K=8 K=5 4,2 4,4 3,3 3,5 3,8 4,3 4,6 5,1 4,9 5,3 5,8 5,7 5,9 6,2 6.5 K=6 K =7 K=6 K=8 Rc=3/4 K=6 2,9 3,1 2,6 2,6 4,2 4,6 3,6 4,2 4,7 5,2 3,9 4,8 K=9 143 ... Lúc tin trước vào kênh trở thành tin rời rạc Nguồn tin lúc gọi nguồn tin rời rạc kênh tin gọi kênh tin rời rạc để phân biệt với trường hợp đưa tin liên tục vào kênh gọi nguồn tin liên tục kênh tin. .. tin gọi ký hiệu nguồn Tập hợp tất tin nguồn tin sinh gọi bảng tin hay bảng ký hiệu Tập hợp tin nguồn tin sinh trình phát tin gọi tin Nguồn tin rời rạc phát thông tin vào thời điểm thời gian rời... 38 THƠNG TIN VÀ ĐỊNH LƯỢNG THÔNG TIN- 6: Các loại lượng tin kiện Tương quan lượng tin A, lượng tin B lượng tin AB tạo vùng lượng tin Vùng lượng tin chung A B ký hiệu I(A;B), gọi lượng tin tương