Giáo trình lý thuyết thông tin 3 docx

... tra k dấu thông tin () () () n1 ink i i0 Xx.aXrX − − = == + ∑ ffx Ta có: ( ) ( ) ( ) ( ) ( ) XgX X qX.gX⇒=ff (1.18) Chương 3: Cơ sở lý thuyết thông tin thống kê 83 ở một thời ... B 0,1 C 0,2 1 0 0,15 D 0,2 A 0,45 E 0 ,35 1 0 0,55 0 1 1 0 1 Chương 4: Cơ sở lý thuyết mã hóa 114 () 64 3 6 43 3 3 3 xx xx1 xxx x1 x xx1 rX x 1 + ++...

Ngày tải lên: 13/08/2014, 03:21

... Hiếu. 28 Giáo trình: Lý thuyết thông tin. 3. Những người dân của một làng được chia làm 2 nhóm A và B. Một nửa nhóm A chuyên nói thật, 3/ 10 nói dối và 2/10 từ trối trả lời. Trong nhóm B: 3/ 10 nói ... định lý 1,2 và 3 cùng với các kết quả đã tính được để so sánh và minh họa. Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu. 27 Giáo trình:...

Ngày tải lên: 09/10/2012, 14:53

... & Ks. Dương Văn Hiếu. 93 Giáo trình: Lý thuyết thông tin. TÀI LIỆU THAM KHẢO 12. G.J.ChaiTin, Algorithmic Information Theory, CamBridge University Express-1992. 13. David J.C. Mackey, ... Hiếu. 92 Giáo trình: Lý thuyết thông tin. Câu 2: Phân lớp các giá trị của Y về các lớp B 0 , B 1 , B 2 , và B 3 dùng để giải mã tối ưu Y tốt nhất về các giá trị tương...

Ngày tải lên: 27/07/2014, 16:21

... Văn Hiếu. 83 Giáo trình: Lý thuyết thông tin. Bước 1: Sinh mã xoay vòng đầu tiên w1 =110010000000000 Bước 2: Sinh k -1 từ mã độc lập tuyến tính còn lại w2 =011001000000000 w3 =001100100000000 ... 1+x+x 2 +x 5 +x 19 9 1+x 4 +x 9 20 1+x 3 +x 20 10 1+x 3 +x 10 21 1+x 2 +x 21 11 1+x 2 +x 11 22 1+x+x 22 12 1+x+x 4 +x 6 +x 12 23 1+x 3 +x 23 13 1+x+x 3 +x 4 +x 13...

Ngày tải lên: 27/07/2014, 16:21

... ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu. 24 Giáo trình: Lý thuyết thông tin. Chứng minh định lý 3: Từ định lý 1 và định lý về quan hệ giữa các Entropy, ta có: H(X,Y)=H(X)+H(Y/X)≤ ... Hiếu. 28 Giáo trình: Lý thuyết thông tin. 3. Những người dân của một làng được chia làm 2 nhóm A và B. Một nửa nhóm A chuyên nói thật, 3/ 10 nói dối và 2/10 từ trối...

Ngày tải lên: 27/07/2014, 16:21

... được 32 5. Khái niệm bảng mã tức thời 33 6. Giải thuật kiểm tra tính tách được của bảng mã 33 7. Bài toán 1- yêu cầu 33 8. Bài toán 1 - Áp dụng giải thuật 34 9. Bài toán 2 34 10. Bài tập 35 ... cần) 37 6. Chứng minh định lý Kraft (Điều kiện đủ) 38 7. Ví dụ minh họa định lý Kraft 38 8. Bài tập 39 BÀI 3. 3: TÍNH TỐI ƯU CỦA ĐỘ DÀI MÃ 40 1. Mục tiêu 40 2. Định lý Sha...

Ngày tải lên: 23/08/2012, 16:23

... Giáo trình: Lý thuyết thông tin. CHƯƠNG 2: ĐỘ ĐO LƯỢNG TIN Mục tiêu: trình bày các khái niệm về độ đo lượng tin chưa biết và đã biết về một biến ngẫu nhiên X. Tính toán các lượng tin ... phải giảm tốc độ nạp thông tin sao cho nhỏ hơn tốc độ truyền tin. Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu. 14 Giáo trình: Lý thuyết th...

Ngày tải lên: 09/10/2012, 14:53

... & Ks. Dương Văn Hiếu. 33 Giáo trình: Lý thuyết thông tin. BÀI 3. 3: TÍNH TỐI ƯU CỦA ĐỘ DÀI MÃ Mục tiêu Sau khi hoàn tất bài học này bạn có thể: - Hiểu định lý Shannon (1948), - Biết ... Ks. Dương Văn Hiếu. 38 Giáo trình: Lý thuyết thông tin. BÀI 3. 2: QUAN HỆ GIỮA MÃ TÁCH ĐƯỢC VÀ ĐỘ DÀI MÃ Mục tiêu Sau khi hoàn tất bài học này bạn có thể hiểu: - Định...

Ngày tải lên: 09/10/2012, 14:53

... = 0 .37 5 p(y 2 ) = P x ’ .A 2 = 0 .3 p(y 3 ) = P x ’ .A 3 = 0 .32 5 ⇒ PY’ =(0 .37 5, 0 .3, 0 .32 5) Lượng tin trên kênh truyền Ví dụ: cho ma trận truyền tin như sau: 32 1 3 2 1 5. 03. 02.0 2.05. 03. 0 3. 02.05.0 yyy x x x A ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎣ ⎡ = Xác ... Hiếu. 48 Giáo trình: Lý thuyết thông tin. 2. Cho biến ngẫu nhiên Y có phân phối sau: Y y 1 y 2...

Ngày tải lên: 09/10/2012, 14:53