Giáo trình Lý thuyết thông tin ( Biên soạn: TS L ê Quy ết Thắng, ThS Phan Tấn Tài & Ks Dương Văn Hiếu ) doc

... j L j ji M i L j jj ypyxpypypYH ∑∑∑ === −=−= ∑∑ == +−=+⇒ M i L j jiji ypxpyxpYHXH 11 22 ] )( log )( ) [log , () ( )( ∑∑ == −=+⇒ M i L j jiji ypxpyxpYHXH 11 2 ] )( ) () [ log , () ( )( (1 ) Đặt q ij =p(x i )p(y j ) Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài ... có: ∑ = = L j jii yxpxP 1 ) , () ( ∑ = = M i...

Ngày tải lên: 08/08/2014, 09:22

... j L j ji M i L j jj ypyxpypypYH ∑∑∑ === −=−= ∑∑ == +−=+⇒ M i L j jiji ypxpyxpYHXH 11 22 ] )( log )( ) [log , () ( )( ∑∑ == −=+⇒ M i L j jiji ypxpyxpYHXH 11 2 ] )( ) () [ log , () ( )( (1 ) Đặt q ij =p(x i )p(y j ) Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài ... nghĩa l : )/ (log) / () /( 1 ij L j iji xypxyp...

Ngày tải lên: 23/08/2012, 16:23

... p=1/4 (xác suất truyền sai một bit) và q =3/4 (xác suất truyền đúng 1 bit): Y ~ B(i,n) hay Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu. 12 Giáo trình: L thuyết ... tin của kênh, thì cần phải giảm tốc độ nạp thông tin sao cho nhỏ hơn tốc độ truyền tin. Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấ...

Ngày tải lên: 09/10/2012, 14:53

... j L j ji M i L j jj ypyxpypypYH ∑∑∑ === −=−= ∑∑ == +−=+⇒ M i L j jiji ypxpyxpYHXH 11 22 ] )( log )( ) [log , () ( )( ∑∑ == −=+⇒ M i L j jiji ypxpyxpYHXH 11 2 ] )( ) () [ log , () ( )( (1 ) Đặt q ij =p(x i )p(y j ) Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài ... H(X), H(Y) và H(X,Y) Entropy của X: H(X) = H(0.5, 0 5)...

Ngày tải lên: 09/10/2012, 14:53

... Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu. 35 Giáo trình: L thuyết thông tin. Nhận tiếp 0 -> 00 -> Giải ra x 1 , còn l i 0. Nhận tiếp 0 -> 00 -> ... X: H(X)= H(0.5, 0.25, 0.125, 0.12 5) = 0.5 +0.5 + 0.375 + 0.375 =1.75 Log 2 D=1. Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn...

Ngày tải lên: 09/10/2012, 14:53

... p(x 1 ). H(Y/X=x 1 ) + p(x 2 ). H(Y/X=x 2 ) + p(x 3 ). H(Y/X=x 3 ) = 1.49 (bit) L ợng thông tin truyền trên kênh: I (X/Y)= I (Y/X)= H(Y) - H(Y/X) = 0,09 (bit) Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài ... của kênh truyền ( VT: bit). ) /( )( YXIMaxC Xp∀ = Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn...

Ngày tải lên: 09/10/2012, 14:53

... [p(w k ). p(y j /w k )] / p(y j ) với ( w k ∈ W) ⇒ P(w k /y j ) → Max ⇔ p(w k ). p(y j /w k ) → Max. Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu. 59 Giáo trình: L thuyết ... => MaxLyYPyYPpYH LL M M yYP jjj ====−==>=== ∑ log)(log ) (& apos; )( 11 )( => H(Y) đạt max l logL kh...

Ngày tải lên: 09/10/2012, 14:54

... ∑ − = − > 12 0 1 2 e i i n m C Ghi chú: C n i = n!/(i!*(n-i) !) Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu. 67 Giáo trình: L thuyết thông tin. Minh họa: a. d(w i , w j )= 2e+1= 7, e=3 Nếu ... gọi v l chẵn (trường hợp nhận đúng) Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài &...

Ngày tải lên: 09/10/2012, 14:54

... l mã xoay vòng. Đây cũng l một dạng mã kiểm tra chẵn l . Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu. 79 Giáo trình: L thuyết thông tin. Ví dụ minh họa l ợc ... ⎟ ⎟ ⎟ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎜ ⎜ ⎜ ⎝ ⎛ = 100111 001111 011110 111100 A ⎟ ⎟ ⎟ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎜ ⎜ ⎜ ⎝ ⎛ = 101000 110100 010010 110001 A Biên soạn: TS. L ê Quy ế...

Ngày tải lên: 09/10/2012, 15:04