... (Y/X = 2) Y/X =2 P 0 T m phân phối Y: P( Y= 0) = p( X=1 )p( Y=0/X= 1) +p( X =2 )p( Y=0/X = 2) = 0,5 x 0 ,2 5 + 0,5 x =0 . 125 P( Y= 1) = p( X=1 )p( Y=1/X= 1) +p( X =2 )p( Y=1/X = 2) = 0,5 x 0,5 + 0,5 x =0 .25 0 P( Y = 2) = p( X=1 )p( Y =2 / X= 1) +p( X =2 )p( Y =2 / X = 2) ... p( X=1 )p( Y =2 / X= 1) +p( X =2 )p( Y =2 / X = 2) = 0,5 x 0 ,2 5 + 0,5 x 1=0 . 625 Y P 0. 125 0 .25 0. 625 Minh họa Entropy H(X ), H(Y) H(X,Y) Entropy X: H(X) = H(0. 5, 0 5) = -(0 .5 )log( 0. 5) -(0 .5 )log( 0. 5) = (bit) Entropy Y: ... Entropy biến ngẫu nhiên X có tính chất: 1 H m số f (M) = H( , , ) đơn điệu tăng M M H m số f(ML) = f (M) +f(L) H (p 1, p 2, , pM) = H (p1 + p2 +…+pr, pr+1+ pr +2+ …+ pM) p p + (p1 + p + … + p r )H( r , ,...