Giáo trình: Lý thuyết thông tin part 3 pps

... ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu. 24 Giáo trình: Lý thuyết thông tin. Chứng minh định lý 3: Từ định lý 1 và định lý về quan hệ giữa các Entropy, ta có: H(X,Y)=H(X)+H(Y/X)≤ ... Hiếu. 28 Giáo trình: Lý thuyết thông tin. 3. Những người dân của một làng được chia làm 2 nhóm A và B. Một nửa nhóm A chuyên nói thật, 3/ 10 nói dối và 2/10 từ tr...

Ngày tải lên: 27/07/2014, 16:21

... Dương Văn Hiếu. 62 Giáo trình: Lý thuyết thông tin. Bước i : Tìm từ mã thứ i (1≤ i ≤ s): w’ 1 =r 1 r 2 r 3 000 (000 là triển khai nhị phân k =3 bits của số i=0) w’ 1 =r 1 r 2 r 3 001 (001 là triển ... = 0 1 0 1 0 1 ⇒ n=6 và k =3. => m = n – k = 3. Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu. 70 Giáo trình: Lý thuyết thô...

Ngày tải lên: 27/07/2014, 16:21

... & Ks. Dương Văn Hiếu. 37 Giáo trình: Lý thuyết thông tin. BÀI 3. 3: TÍNH TỐI ƯU CỦA ĐỘ DÀI MÃ Mục tiêu Sau khi hoàn tất bài học này bạn có thể: - Hiểu định lý Shannon (1948), - Biết ... Ks. Dương Văn Hiếu. 38 Giáo trình: Lý thuyết thông tin. BÀI 3. 2: QUAN HỆ GIỮA MÃ TÁCH ĐƯỢC VÀ ĐỘ DÀI MÃ Mục tiêu Sau khi hoàn tất bài học này bạn có thể hiểu: - Định...

Ngày tải lên: 27/07/2014, 16:21

Ngày tải lên: 22/06/2014, 00:20

... & Ks. Dương Văn Hiếu. 93 Giáo trình: Lý thuyết thông tin. TÀI LIỆU THAM KHẢO 12. G.J.ChaiTin, Algorithmic Information Theory, CamBridge University Express-1992. 13. David J.C. Mackey, ... Hiếu. 92 Giáo trình: Lý thuyết thông tin. Câu 2: Phân lớp các giá trị của Y về các lớp B 0 , B 1 , B 2 , và B 3 dùng để giải mã tối ưu Y tốt nhất về các giá trị tươ...

Ngày tải lên: 27/07/2014, 16:21

... Văn Hiếu. 83 Giáo trình: Lý thuyết thông tin. Bước 1: Sinh mã xoay vòng đầu tiên w1 =110010000000000 Bước 2: Sinh k -1 từ mã độc lập tuyến tính còn lại w2 =011001000000000 w3 =001100100000000 ... 1+x+x 2 +x 5 +x 19 9 1+x 4 +x 9 20 1+x 3 +x 20 10 1+x 3 +x 10 21 1+x 2 +x 21 11 1+x 2 +x 11 22 1+x+x 22 12 1+x+x 4 +x 6 +x 12 23 1+x 3 +x 23 13 1+x+x 3 +x 4 +x 13...

Ngày tải lên: 27/07/2014, 16:21

... Văn Hiếu. 78 Giáo trình: Lý thuy ế t thông tin. Như vậy: ma trận kiểm tra chẵn lẻ có dạng như sau: ⎥ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎢ ⎣ ⎡ = 33 3 231 232 221 131 211 3 bbb bbb bbb IA Các b ij ( 3, 1, =∀ ii ) ... ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎩ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎨ ⎧ ⎟ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎜ ⎝ ⎛ + ⎟ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎜ ⎝ ⎛ + ⎟ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎜ ⎝ ⎛ = ⎟ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎜ ⎝ ⎛ ⎟ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎜ ⎝ ⎛ + ⎟ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎜ ⎝ ⎛ + ⎟ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎜...

Ngày tải lên: 27/07/2014, 16:21

... Dương Văn Hiếu. 59 Giáo trình: Lý thuyết thông tin. Bài tập 1 1. Cho ma trận truyền tin sau: ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎣ ⎡ 3/ 12/16/1 2/16/ 13/ 1 6/ 13/ 12/1 3 2 1 x x x y 1 y 2 y 3 Biết xác suất ở đầu ... sau: ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎣ ⎡ 12/712/212 /3 12 /31 2/712/2 12/212 /31 2/7 3 2 1 x x x y 1 y 2 y 3 Biết xác suất ở đầu truyền: p(x 1 )=1 /3, p(x 2 )=1 /3, p(x 3 )=1...

Ngày tải lên: 27/07/2014, 16:21

... truyền tin như sau: A = 32 1 3 2 1 3/ 12/16/1 2/16/ 13/ 1 6/ 13/ 12/1 yyy x x x ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎣ ⎡ Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu. 50 Giáo trình: Lý thuyết ... P X P x 1 0 .3 x 1 0 .3 x 1 0 .3 x 23 0.45 x 1564 0.55 0 x 2 0.25 x 2 0.25 x 564 0.25 x 1 0 .3 x 23 0.45 1 x 3 0.2 x 3 02 x 2 0,25 x 564 0.25...

Ngày tải lên: 27/07/2014, 16:21

... Văn Hiếu. 17 Giáo trình: Lý thuyết thông tin. Một vấn đề quan trọng cần lưu ý là phải đồng bộ giữa tốc độ nạp thông tin (phát tín hiệu) với tốc độ truyền tin. Nếu tốc độ nạp thông tin bằng hoặc ... Giáo trình: Lý thuyết thông tin. CHƯƠNG 2: ĐỘ ĐO LƯỢNG TIN Mục tiêu: trình bày các khái niệm về độ đo lượng tin chưa biết và đã biết về một biến ngẫu nhiên...

Ngày tải lên: 27/07/2014, 16:21