[Viễn Thông] Giáo Trình: Lý Thuyết Thông Tin phần 1 docx

... sinh mã 13 12 . Vấn đề giải mã 13 CHƯƠNG 2: ĐỘ ĐO LƯỢNG TIN 15 BÀI 2 .1: ENTROPY 15 1. Mục tiêu 15 2. Ví dụ về entropy 15 3. Nhận xét về độ đo lượng tin 15 4. Khái niệm entropy 16 5. Entropy ... truyền tin 11 7. Mô tả trạng thái truyền tin có nhiễu 11 8. Minh họa kỹ thuật giảm nhiễu 12 9. Chi phí phải trả cho kỹ thuật giảm nhiễu 13 10 . Khái niệm về dung lượng...

Ngày tải lên: 14/07/2014, 01:21

... 000 10 0 0 000 10 1 1 000 011 1 000 11 0 1 000 11 1 1 1 111 000 0 11 1 0 01 0 11 1 010 0 11 1 10 0 0 11 1 011 1 11 1 11 0 1 11 1 11 1 1 11 1 11 1 1 Thật vậy: Giả sử X i ... khối tin ban đầu. Ví dụ: Khối tin ban đầu : 010 1 010 1 Khối ký hiệu mã ở đầu truyền (lặp 3 lần): 00 011 100 011 100 011 100 011 1. Khối ký h...

Ngày tải lên: 14/07/2014, 01:21

... 0,25 +0,5 x 0 =0 .12 5 P(Y =1) = p(X =1) p(Y =1/ X =1) +p(X=2)p(Y =1/ X=2) = 0,5 x 0,5 +0,5 x 0 =0.250 P(Y=2) = p(X =1) p(Y=2/X =1) +p(X=2)p(Y=2/X=2) = 0,5 x 0,25 + 0,5 x 1= 0.625 Y 0 1 2 P 0 .12 5 0.25 0.625 ... thông tin. và đẳng thức chỉ xảy ra khi p i = i M ∀, 1 (đpcm). Bài tập Bài 1: Cho 2 biến ngẫu nhiên X, Y độc lập nhau có phân phối sau: X x 1 x 2 P 1/ 2 1/ 2...

Ngày tải lên: 14/07/2014, 01:21

... ={ 010 , 00 01, 011 0, 11 00, 00 011 , 0 011 0, 11 110 , 10 1 011 } - Tập hợp S 1 = {1} Dành cho sinh viên tự làm các buớc tiếp theo. Kết quả gợi ý: Tập hợp S 2 = {10 0, 11 10, 010 11} Tập hợp S 3 = {11 } ... mã như sau: 000 0 01 010 011 10 0 10 1 11 0 11 1 00 01 10 11 0 1 w 2 = w 3 = w 1 = - Chọn w 1 =0 , cắt bỏ các nút con của nút w...

Ngày tải lên: 14/07/2014, 01:21

... 0 x 23 1 x 1 00 x 1 00 x 1 00 = w 1 x 23 1 x 1 00 x 564 01 x 2 10 x 2 10 = w 2 x 564 01 x 2 10 x 3 11 x 3 11 = w 3 x 3 11 x 56 010 x 4 011 = w 4 x 4 011 x 5 010 0 = w 5 ... trình: Lý thuyết thông tin. w 1 000 00 01 10 11 010 0 01 011 10 0 10 1 11 0 11 1 w 2 w 3 w 4 1 0 W= {w 1 , w 2 , w 3 , w 4 } l...

Ngày tải lên: 14/07/2014, 01:21

... 010 1, 11 10, 10 11} Y={0000, 00 01, 0 010 , 0 011 , 010 0, 010 1, 011 0, 011 1, 10 00, 10 01, 10 10, 10 11, 11 00, 11 01, 11 10, 11 11} Giả sử ta có thể phân hoạch tập Y thành các tập con B i như sau: B 1 ={0000, ... sau: B 1 ={0000, 10 00, 00 01, 0 010 } B 2 ={ 010 1, 11 01, 010 0, 011 1} B 3 = {11 10, 011 0, 11 11, 11 00} B 4 = {10 11, 0 011 , 10 10, 10 01} G...

Ngày tải lên: 14/07/2014, 01:21

... =>w’ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎣ ⎡ 0 0 0 ⎪ ⎩ ⎪ ⎨ ⎧ = = = => ⎪ ⎩ ⎪ ⎨ ⎧ =+ =+ = 1 1 1 0 0 1 3 2 1 31 32 1 r r r rr rr r 2 =11 1 010 Giải tương tự cho các trường hợp còn lại ta có: w’ 0 =000000, w’ 3 =11 0 011 , w’ 4 =11 010 0, w’ 5 =11 110 1, w’ 6 =0 011 10, w’ 7 =00 011 1. ⇒ ... w’ 4 =11 010 0, w’ 5 =11 110 1, w’ 6 =0 011 10, w’ 7 =00 011 1. ⇒ W={000000, 0 010 01, 11 1 010...

Ngày tải lên: 14/07/2014, 01:21

... ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎩ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎨ ⎧ ⎟ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎜ ⎝ ⎛ + ⎟ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎜ ⎝ ⎛ + ⎟ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎜ ⎝ ⎛ = ⎟ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎜ ⎝ ⎛ ⎟ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎜ ⎝ ⎛ + ⎟ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎜ ⎝ ⎛ + ⎟ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎜ ⎝ ⎛ = ⎟ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎜ ⎝ ⎛ ⎟ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎜ ⎝ ⎛ + ⎟ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎜ ⎝ ⎛ + ⎟ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎜ ⎝ ⎛ = ⎟ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎜ ⎝ ⎛ 1 0 1 0 1 0 1 0 0 0 0 1 1 0 1 0 1 0 1 0 0 1 1 0 1 0 1 0 1 0 1 0 0 0 1 1 3332 3...

Ngày tải lên: 14/07/2014, 01:21

... x ⎟ ⎟ ⎟ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎜ ⎜ ⎜ ⎝ ⎛ 1 0 0 0 (0) Ma trận kiểm tra chẳn lẻ : A= ⎟ ⎟ ⎟ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎜ ⎜ ⎜ ⎝ ⎛ 00 011 110 1 011 0 01 0 011 110 1 011 0 010 011 110 1 011 0 010 0 11 110 1 011 0 010 00 ⇒ Bộ mã xoay vòng vớin =14 , m=4, k =11 . Ví ... ⎟ ⎟ ⎟ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎜ ⎜ ⎜ ⎝ ⎛ 00 011 110 1 011 0 01 0 011 110 1 011 0 010 011 110 1 011 0 010 0 11 110 1 011 0 010 00 Bảng liệt kê một số đa...

Ngày tải lên: 14/07/2014, 01:21

... dạng: 1 1 1 0 1 0 1 0 1 1 1 0 0 1 1 A = Tính các từ mã. Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu. 94 Giáo trình: Lý thuyết thông tin. Câu ... lẻ. Câu 4: Nếu sử dụng ma trận kiểm tra chẵn lẻ dạng: 1 1 1 0 1 0 1 0 1 1 1 0 0 1 1 A = Tính các từ mã. Xây dựng Bộ sửa lỗi 1 bit dùng cho tự động sửa lỗi...

Ngày tải lên: 14/07/2014, 01:21