Lượng tin riêng của một tin xiluôn lớn hơn lượng tin tương hỗ trong một tin khác yj
Nếu hai tin này độc lập thống kê, lượng tin tương hỗ bằng 0 Nếu từyjxác định đượcxi lượng tin tương hỗ là cực đại Lượng tin riêng chính là lượng tin tương hỗ cực đại
I(xi) =−logp(xi)≥I(xi;yj) =logp(xi|yj)
p(xi) =logp(yj|xi) p(yj) Tính chất 2
Lượng tin tương hỗ có thể âm
Tính chất 3: Lượng tin của một cặp tinxiyj I(xiyj) =I(xi) +I(yj)−I(xi;yj)
Nếu hai cặp tin độc lập thống kê
I(xiyj) =I(xi) +I(yj)
1.4.Tính chất của lượng tinTính chất 1 Tính chất 1
Lượng tin riêng của một tin xiluôn lớn hơn lượng tin tương hỗ trong một tin khác yj
Nếu hai tin này độc lập thống kê, lượng tin tương hỗ bằng 0 Nếu từyjxác định đượcxi lượng tin tương hỗ là cực đại Lượng tin riêng chính là lượng tin tương hỗ cực đại
I(xi) =−logp(xi)≥I(xi;yj) =logp(xi|yj)
p(xi) =logp(yj|xi) p(yj) Tính chất 2
Lượng tin tương hỗ có thể âm
Tính chất 3: Lượng tin của một cặp tinxiyj I(xiyj) =I(xi) +I(yj)−I(xi;yj)
Nếu hai cặp tin độc lập thống kê
I(xiyj) =I(xi) +I(yj)
1.4.Tính chất của lượng tinTính chất 1 Tính chất 1
Lượng tin riêng của một tin xiluôn lớn hơn lượng tin tương hỗ trong một tin khác yj
Nếu hai tin này độc lập thống kê, lượng tin tương hỗ bằng 0 Nếu từyjxác định đượcxi lượng tin tương hỗ là cực đại Lượng tin riêng chính là lượng tin tương hỗ cực đại
I(xi) =−logp(xi)≥I(xi;yj) =logp(xi|yj)
p(xi) =logp(yj|xi) p(yj) Tính chất 2
Lượng tin tương hỗ có thể âm
Tính chất 3: Lượng tin của một cặp tinxiyj I(xiyj) =I(xi) +I(yj)−I(xi;yj)
Nếu hai cặp tin độc lập thống kê
I(xiyj) =I(xi) +I(yj)
1.4.Tính chất của lượng tinTính chất 1 Tính chất 1
Lượng tin riêng của một tin xiluôn lớn hơn lượng tin tương hỗ trong một tin khác yj
Nếu hai tin này độc lập thống kê, lượng tin tương hỗ bằng 0 Nếu từyjxác định đượcxi lượng tin tương hỗ là cực đại Lượng tin riêng chính là lượng tin tương hỗ cực đại
I(xi) =−logp(xi)≥I(xi;yj) =logp(xi|yj)
p(xi) =logp(yj|xi) p(yj)
Tính chất 2
Lượng tin tương hỗ có thể âm
Tính chất 3: Lượng tin của một cặp tinxiyj I(xiyj) =I(xi) +I(yj)−I(xi;yj)
Nếu hai cặp tin độc lập thống kê
I(xiyj) =I(xi) +I(yj)
1.4.Tính chất của lượng tinTính chất 1 Tính chất 1
Lượng tin riêng của một tin xiluôn lớn hơn lượng tin tương hỗ trong một tin khác yj
Nếu hai tin này độc lập thống kê, lượng tin tương hỗ bằng 0 Nếu từyjxác định đượcxi lượng tin tương hỗ là cực đại Lượng tin riêng chính là lượng tin tương hỗ cực đại
I(xi) =−logp(xi)≥I(xi;yj) =logp(xi|yj)
p(xi) =logp(yj|xi) p(yj) Tính chất 2
Lượng tin tương hỗ có thể âm
Tính chất 3: Lượng tin của một cặp tinxiyj I(xiyj) =I(xi) +I(yj)−I(xi;yj)
Nếu hai cặp tin độc lập thống kê
I(xiyj) =I(xi) +I(yj)
1.4.Tính chất của lượng tinTính chất 1 Tính chất 1
Lượng tin riêng của một tin xiluôn lớn hơn lượng tin tương hỗ trong một tin khác yj
Nếu hai tin này độc lập thống kê, lượng tin tương hỗ bằng 0 Nếu từyjxác định đượcxi lượng tin tương hỗ là cực đại Lượng tin riêng chính là lượng tin tương hỗ cực đại
I(xi) =−logp(xi)≥I(xi;yj) =logp(xi|yj)
p(xi) =logp(yj|xi) p(yj) Tính chất 2
Lượng tin tương hỗ có thể âm
Tính chất 3: Lượng tin của một cặp tinxiyj I(xiyj) =I(xi) +I(yj)−I(xi;yj)
Nếu hai cặp tin độc lập thống kê
I(xiyj) =I(xi) +I(yj)