nhˆa . nd¯u . o . . c nˆe ´ u distortion trung b`ınh tu . o . ng ´u . ng ma trˆa . n Q nho ˙’ ho . n hoˇa . cbˇa ` ng D. D - ˇa . t Q D = {q kj | d(Q) ≤ D}. Do mo . ithu ˙’ tu . c m˜a ho´a-gia ˙’ i m˜a d¯u . o . . c x´ac d¯i . nh bo . ˙’ imˆo . t ma trˆa . n kˆenh nhˆan ta . o Q nˆen thˆong tin trung b`ınh nhˆa . nd¯u . o . . c qua quan s´at mˆo . t t´ın hiˆe . urat`u . bˆo . gia ˙’ i m˜a x´ac d¯i . nh theo Phu . o . ng tr`ınh (6.6). Do d¯´o, ta c´o thˆe ˙’ d¯ i . nh ngh˜ıa h`am Rate Distorsion R(D) = min Q∈Q D [I(z, v)], (6.7) trong d¯´o min lˆa ´ y trˆen tˆa . ptˆa ´ tca ˙’ c´ac bˆo . m˜a D−chˆa ´ p nhˆa . nd¯u . o . . c. Ch´u´yrˇa ` ng, gi´a tri . nho ˙’ nhˆa ´ t c´o thˆe ˙’ lˆa ´ y trˆen Q do I(z, v) l`a h`am theo c´ac x´ac suˆa ´ tcu ˙’ a vector z v`a c´ac phˆa ` ntu . ˙’ cu ˙’ a ma trˆa . n Q. Nˆe ´ u D =0th`ıR(D) nho ˙’ ho . n hoˇa . cbˇa ` ng entropy cu ˙’ a nguˆo ` n, t´u . cl`aR(0) ≤ H(z). Phu . o . ng tr`ınh (6.7) x´ac d¯i . nh tˆo ´ cd¯ˆo . nho ˙’ nhˆa ´ t m`a thˆong tin vˆe ` nguˆo ` n c´o thˆe ˙’ chuyˆe ˙’ nd¯ˆe ´ n ngu . `o . isu . ˙’ du . ng v´o . i r`ang buˆo . c distorsion trung b`ınh nho ˙’ ho . n hoˇa . cbˇa ` ng D. D - ˆe ˙’ t´ınh tˆo ´ cd¯ˆo . n`ay (t´u . cl`aR(D)) ch´ung ta t`ım gi´a tri . nho ˙’ nhˆa ´ t I(z, v) theo Phu . o . ng tr`ınh (6.6) bˇa ` ng c´ach cho . n ma trˆa . n Q th´ıch ho . . pv´o . i r`ang buˆo . c K k=1 q kj =1,q kj ≥ 0, (6.8) v`a d(Q)=D. (6.9) R`ang buˆo . c (6.8) ch´ınh l`a nh˜u . ng t´ınh chˆa ´ tco . ba ˙’ ncu ˙’ a ma trˆa . nbiˆe ´ nd¯ˆo ˙’ i kˆenh thuˆa . n Q. C´ac phˆa ` ntu . ˙’ cu ˙’ a Q pha ˙’ i khˆong ˆam v`a do khi gu . ˙’ imˆo . tk´yhiˆe . u ta pha ˙’ i nhˆa . nd¯u . o . . cmˆo . t t´ın hiˆe . uranˆen tˆo ˙’ ng c´ac phˆa ` ntu . ˙’ trˆen mˆo . tcˆo . tcu ˙’ a ma trˆa . n Q bˇa ` ng 1. Phu . o . ng tr`ınh (6.9) chı ˙’ ra tˆo ´ cd¯ˆo . thˆong tin nho ˙’ nhˆa ´ td¯a . td¯u . o . . c khi distortion l´o . n nhˆa ´ t. V´ı du . 6.3.5 X´et nguˆo ` n nhi . phˆan khˆong nh´o . c´o c´ac k´yhiˆe . u nguˆo ` n {0, 1} v´o . i x´ac suˆa ´ t bˇa ` ng nhau v`a d¯ˆo . d¯o suy biˆe ´ n ρ(a j ,b k )=1− δ jk , trong d¯´o δ jk l`a xung hay h`am delta; t´u . cl`a ρ(a j ,b k )= 1nˆe ´ u a j = b k , 0nˆe ´ u ngu . o . . cla . i. . 165 Khi d¯´o mˆo ˜ ilˆo ˜ i m˜a ho´a-gia ˙’ i m˜a d¯u . o . . cd¯ˆe ´ m l`a mˆo . td¯o . nvi . suy biˆe ´ n. D - ˆe ˙’ t´ınh R(D)ta d`ung ph´ep t´ınh biˆe ´ n phˆan. D - ˇa . t µ 1 ,µ 2 , ,µ J+1 l`a c´ac nhˆan tu . ˙’ Lagrange v`a x´et h`am tiˆeu chuˆa ˙’ n J(Q )=I(z, v) − J j=1 µ j K k=1 q kj − µ J+1 d(Q). Theo d¯iˆe ` ukiˆe . ncˆa ` ncu ˙’ acu . . c tri . , ta c´o dJ dq kj =0. Kˆe ´ tho . . pv´o . i J +1phu . o . ng tr`ınh (6.8) v`a (6.9) ta c´o hˆe . c´ac phu . o . ng tr`ınh v´o . i c´ac ˆa ˙’ nl`aq kj v`a µ 1 ,µ 2 , ,µ J+1 . Nˆe ´ u nghiˆe . m c´o q kj ≥ 0 ta d¯u . o . . cmˆo . tl`o . i gia ˙’ i. V´o . icˇa . p nguˆo ` n v`a distortion d¯i . nh ngh˜ıa trˆen, ta c´o hˆe . 7phu . o . ng tr`ınh v´o . i7ˆa ˙’ nsˆo ´ : 2q 11 =(q 11 + q 12 ) exp[2µ 1 ], 2q 22 =(q 21 + q 22 ) exp[2µ 2 ], 2q 12 =(q 11 + q 12 ) exp[2µ 1 + µ 3 ], 2q 21 =(q 21 + q 22 ) exp[2µ 2 + µ 3 ], q 11 + q 21 =1,q 12 + q 22 =1, q 21 + q 12 =2D. Dˆe ˜ d`ang kiˆe ˙’ m tra rˇa ` ng q 12 = q 21 = D, q 11 = q 22 =1−D, µ 1 = µ 2 = log 2(1 − D), µ 3 = log D 1−D . Suy ra Q = 1 − DD D 1 − D . Do c´ac k´y hiˆe . u nguˆo ` n c´o x´ac suˆa ´ t xuˆa ´ thiˆe . nbˇa ` ng nhau nˆen distortion d¯a . t gi´a tri . l´o . n nhˆa ´ tl`a1/2. V`ıvˆa . y0≤ D ≤ 1/2 v`a ma trˆa . n Q thoa ˙’ m˜an r`ang buˆo . c (6.8) v´o . imo . i D. Thˆong tin tu . o . ng hˆo ˜ tu . o . ng ´u . ng v´o . i ma trˆa . n Q v`a nguˆo ` n nhi . phˆan d¯u . o . . cd¯i . nh ngh˜ıa trˆen x´ac d¯i . nh theo cˆong th´u . c (6.6). Ch´u´yt´ınh tu . o . ng tu . . gi˜u . a ma trˆa . n Q v`a ma trˆa . n biˆe ´ nd¯ˆo ˙’ i kˆenh d¯ˆo ´ ix´u . ng nhi . phˆan. Tuy nhiˆen ta c´o thˆe ˙’ t´ınh tru . . ctiˆe ´ p I(z, v)=1− H bs (D) . Kˆe ´ t qua ˙’ n`ay suy t`u . v´ıdu . cu ˙’ a Phˆa ` n 6.3.2 bˇa ` ng ph´ep thˆe ´ p bs =1/2v`ap e = D v`ao I(z, v)=H bs (p bs p e +¯p bs ¯p e ) −H bs (p e ). Theo Phu . o . ng tr`ınh (6.7) v`a do v´o . i D cho tru . ´o . c 1 − H bs (D) gia ˙’ su . ˙’ nhˆa . nmˆo . t gi´a tri . m`a mˇa . c nhiˆen l`a nho ˙’ nhˆa ´ tnˆen R(D) = min Q∈Q D [1 − H bs (D)] = 1 − H bs (D) . D - ˆo ` thi . cu ˙’ a h`am R(D)d¯u . o . . c cho trong H`ınh 6.7. D - ˆay l`a h`ınh da . ng d¯ˇa . c tru . ng cu ˙’ ahˆa ` u hˆe ´ t c´ac h`am distortion rate. Ch´u´yrˇa ` ng R(D)=0v´o . imo . i D ≥ D max , trong d¯´o D max 166 0.0 0.1 0.2 0.3 0.4 0.5 0.0 0.2 0.4 0.6 0.8 1.0 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . Rate Distortion R( D) Distortion D D max H`ınh 6.7: D - ˆo ` thi . h`am rate distortion. k´yhiˆe . u gi´a tri . cu . . cd¯a . icu ˙’ a D. Ngo`ai ra, R(D) luˆon luˆon du . o . ng, d¯o . nd¯iˆe . u gia ˙’ m v`a lˆo ` i trong khoa ˙’ ng (0,D max ). C´ac h`am rate distortion c´o thˆe ˙’ x´ac d¯i . nh bˇa ` ng phu . o . ng ph´ap gia ˙’ i t´ıch trong nh˜u . ng tru . `o . ng ho . . pd¯o . n gia ˙’ n. V´o . inh˜u . ng tru . `o . ng ho . . pph´u . cta . p, ch´ung ta c´o thˆe ˙’ su . ˙’ du . ng nh˜u . ng thuˆa . t to´an lˇa . pth´ıch ho . . pd¯ˆe ˙’ x´ac d¯i . nh ch´ung. Sau khi R(D) d¯˜a d¯u . o . . c x´ac d¯i . nh (v´o . i nguˆo ` n khˆong nh´o . v`a distortion measure single-letter 6 ), d¯ i . nh l´y m˜a ho´a nguˆo ` n chı ˙’ ra rˇa ` ng v´o . imo . i >0tˆo ` nta . i r v`a bˆo . m˜a c´o d¯ˆo . d`ai r v`a tˆo ´ cd¯ˆo . R<R(D)+ dsitotion trung b`ınh trˆen t`u . ng k´y tu . . d(Q) ≤ D + . Mˆo . thˆe . qua ˙’ quan tro . ng cu ˙’ ad¯i . nh l´y n`ay v`a d¯ i . nh l´y m˜a ho´a c´o nhiˆe ˜ ul`anˆe ´ u thˆong lu . o . . ng cu ˙’ akˆenh C>R(D)+ th`ı ngu . `o . i gia ˙’ im˜a c´o thˆe ˙’ phu . chˆo ` it`u . m˜a d¯u . o . . cgu . ˙’ iv´o . i x´ac suˆa ´ t sai nho ˙’ tu `y ´y. Kˆe ´ t qua ˙’ cuˆo ´ i n`ay go . il`a d¯ i . nh l´y truyˆe ` n thˆong tin. 6.3.4 Su . ˙’ du . ng l´y thuyˆe ´ t thˆong tin L´y thuyˆe ´ t thˆong tin cung cˆa ´ pnh˜u . ng cˆong cu . co . ba ˙’ ncˆa ` n thiˆe ´ td¯ˆe ˙’ biˆe ˙’ udiˆe ˜ n v`a thao t´ac thˆong tin mˆo . t c´ach tru . . ctiˆe ´ p. Phˆa ` nn`aych´ung ta ´ap du . ng nh˜u . ng cˆong cu . cu ˙’ al´y thuyˆe ´ t thˆong tin trong b`ai to´an n´en a ˙’ nh. Do gia ˙’ thiˆe ´ tco . ba ˙’ ncu ˙’ al´ythuyˆe ´ t thˆong tin l`a sinh ra thˆong tin c´o thˆe ˙’ mˆo h`ınh nhu . mˆo . t qu´a tr`ınh x´ac suˆa ´ tnˆen tru . ´o . chˆe ´ tch´ung ta kha ˙’ o s´at mˆo h`ınh thˆo ´ ng kˆe trong qu´a tr`ınh ta . oa ˙’ nh. 6 distortion measure single-letter l`a distortion measure trong d¯´o distortion cu ˙’ amˆo ˜ i vector bˇa ` ng tˆo ˙’ ng distortion cu ˙’ at`u . ng k´y hiˆe . u trong vector d¯´o. 167 V´ı d u . 6.3.6 X´et b`ai to´an u . ´o . clu . o . . ng thˆong tin (hay entropy) cu ˙’ aa ˙’ nh 8 bit: 21 21 21 95 169 243 243 243 21 21 21 95 169 243 243 243 21 21 21 95 169 243 243 243 21 21 21 95 169 243 243 243 C´ach tu . o . ng d¯ˆo ´ id¯o . n gia ˙’ n l`a gia ˙’ thiˆe ´ tmˆo . t mˆo h`ınh nguˆo ` nd¯ˇa . cbiˆe . t v`a t´ınh entropy cu ˙’ a a ˙’ nh du . . a trˆen mˆo h`ınh n`ay. Chˇa ˙’ ng ha . n, ch´ung ta c´o thˆe ˙’ gia ˙’ su . ˙’ a ˙’ nh d¯u . o . . cta . obo . ˙’ imˆo . t “nguˆo ` n gi´a tri . x´am 8 bit”; nguˆo ` n n`ay ph´at tuˆa ` ntu . . c´ac pixel d¯ˆo . clˆa . p thˆo ´ ng kˆe theo luˆa . t x´ac suˆa ´ td¯u . o . . c x´ac d¯i . nh tru . ´o . c. Trong tru . `o . ng ho . . p n`ay, c´ac k´yhiˆe . u nguˆo ` n l`a c´ac m´u . c x´am, v`a ba ˙’ ng ch˜u . nguˆo ` ngˆo ` m 256 k´y hiˆe . u. Nˆe ´ uc´ack´yhiˆe . u nguˆo ` n c´o x´ac suˆa ´ t xuˆa ´ thiˆe . nda . ng chuˆa ˙’ n (chˇa ˙’ ng ha . n Gauss) th`ı thˆong tin trung b`ınh hay entropy cu ˙’ a mˆo ˜ i pixel trong a ˙’ nh c´o thˆe ˙’ x´ac d¯i . nh theo Phu . o . ng tr`ınh (6.3). V´ıdu . trong tru . `o . ng ho . . p phˆan phˆo ´ id¯ˆe ` u th`ı c´ac k´yhiˆe . u nguˆo ` n c´o x´ac suˆa ´ tbˇa ` ng nhau v`a nguˆo ` nd¯u . o . . cd¯ˇa . c tru . ng bo . ˙’ i entropy l`a 8 bit/pixel. T´u . c l`a, thˆong tin trung b`ınh khi nguˆo ` n ph´at ra mˆo . t pixel l`a 8 bit. Do d¯´o entropy cu ˙’ a to`an bˆo . a ˙’ nh k´ıch thu . ´o . c4× 8bˇa ` ng 256 bit. A ˙’ nh n`ay l`a mˆo . t trong sˆo ´ 2 8×4×8 =2 256 ( 10 77 )a ˙’ nh k´ıch thu . ´o . c4× 8d¯u . o . . cta . orat`u . nguˆo ` nv´o . i x´ac suˆa ´ tbˇa ` ng nhau. Mˆo . t c´ach kh´ac d¯ˆe ˙’ x´ac d¯i . nh nˆo . i dung thˆong tin l`a xˆay du . . ng mˆo . tmˆoh`ınh nguˆo ` n du . . a v`ao tˆa ` nsˆo ´ xuˆa ´ thiˆe . ncu ˙’ ac´acm´u . c x´am trong a ˙’ nh d¯u . o . . cx´et. Trong tru . `o . ng ho . . p n`ay, mˆo h`ınh x´ac suˆa ´ tcu ˙’ a c´ac k´y hiˆe . u nguˆo ` nsu . ˙’ du . ng biˆe ˙’ ud¯ˆo ` cˆo . tcu ˙’ aa ˙’ nh: M´u . c x´am Tˆa ` nsˆo ´ X´ac suˆa ´ t 21 12 3/8 95 4 1/8 169 4 1/8 243 12 3/8 U . ´o . clu . o . . ng, go . il`au . ´o . clu . o . . ng bˆa . c nhˆa ´ t, entropy cu ˙’ a nguˆo ` n c´o thˆe ˙’ t´ınh theo Phu . o . ng tr`ınh (6.3). Trong v´ıdu . n`ay, u . ´o . clu . o . . ng bˆa . c nhˆa ´ t l`a 1.81 bit/pixel. Do d¯´o entropy cu ˙’ a nguˆo ` n v`a/hoˇa . ca ˙’ nh xˆa ´ pxı ˙’ 1.81 bit/pixel hay tˆo ˙’ ng cˆo . ng 58 bit. U . ´o . clu . o . . ng tˆo ´ tho . n entropy cu ˙’ a nguˆo ` nm´u . c x´am m`a ta . oraa ˙’ nh c´o thˆe ˙’ t´ınh bˇa ` ng c´ach kiˆe ˙’ m tra tˆa ` nsˆo ´ tu . o . ng d¯ˆo ´ icu ˙’ a khˆo ´ i c´ac pixel trong a ˙’ nh, trong d¯´o mˆo . t khˆo ´ il`a mˆo . t nh´om c´ac pixel kˆe ` nhau. Khi k´ıch thu . ´o . c khˆo ´ idˆa ` n ra vˆo ha . n, u . ´o . clu . o . . ng tiˆe ´ nd¯ˆe ´ n entropy d¯´ung cu ˙’ a nguˆo ` n. (Kˆe ´ t qua ˙’ n`ay c´o thˆe ˙’ ch´u . ng minh su . ˙’ du . ng nh˜u . ng l ´y luˆa . n trong ch´u . ng minh d¯i . nh l ´y m˜a ho´a khˆong nhiˆe ˜ u trong Phˆa ` n 6.3.3). Do d¯´o bˇa ` ng c´ach gia ˙’ su . ˙’ a ˙’ nh d¯u . o . . c liˆen kˆe ´ t hai h`ang liˆen tiˆe ´ p v`a h`ang cuˆo ´ ikˆe ´ tnˆo ´ iv´o . i h`ang d¯ˆa ` u tiˆen, 168 ta c´o thˆe ˙’ x´ac d¯i . nh tˆa ` nsˆo ´ tu . o . ng d¯ˆo ´ icu ˙’ a c´ac cˇa . p pixel (t´u . c l`a, mo . ˙’ rˆo . ng th ´u . hai cu ˙’ a nguˆo ` n): Cˇa . pm´u . c x´am Tˆa ` nsˆo ´ X´ac suˆa ´ t (21, 21) 8 1/4 (21, 95) 4 1/8 (95, 169) 4 1/8 (169, 243) 4 1/8 (243, 243) 8 1/4 (243, 21) 4 1/8 Kˆe ´ t qua ˙’ u . ´o . clu . o . . ng entropy theo Phu . o . ng tr`ınh (6.3) l`a 2.5/2 hay 1.25 bit/pixel, trong d¯´o ph´ep chia cho 2 l`a hˆe . qua ˙’ cu ˙’ aviˆe . cx´et hai pixel c`ung l´uc. Gi´a tri . n`ay go . il`au . ´o . c lu . o . . ng bˆa . c hai cu ˙’ a entropy nguˆo ` n do n´o d¯u . o . . c x´ac d¯i . nh t`u . c´ac tˆa ` nsˆo ´ cu ˙’ a khˆo ´ i 2 pixel. Mˇa . cd`u c´ac u . ´o . clu . o . . ng entropy bˆa . c hai, bˆa . c ba hay bˆa . c cao ho . n cho xˆa ´ pxı ˙’ tˆo ´ tho . n entropy cu ˙’ a nguˆo ` n, nhu . ng thu . . ctˆe ´ ´ıt su . ˙’ du . ng do tˆo ´ cd¯ˆo . hˆo . itu . cu ˙’ a c´ac u . ´o . clu . o . . ng n`ay chˆa . m v`a do t´ınh to´an nhiˆe ` u. Chˇa ˙’ ng ha . n, a ˙’ nh 8 bit c´o (2 8 ) 2 hay 65,536 bˆo . hai k´y hiˆe . u cˆa ` n x´ac d¯i . nh tˆa ` nsˆo ´ tu . o . ng d¯ˆo ´ i. Nˆe ´ usu . ˙’ du . ng khˆo ´ igˆo ` m 5 pixel, sˆo ´ bˆo . c´o thˆe ˙’ c´o l`a (2 8 ) 5 ∼ 10 12 . Mˇa . cd`u kh´o x´ac d¯i . nh ch´ınh x´ac entropy cu ˙’ aa ˙’ nh, tuy nhiˆen c´ac u . ´o . clu . o . . ng trong v´ıdu . tru . ´o . c cho ta hiˆe ˙’ u sˆau sˇa ´ cho . nvˆe ` kha ˙’ nˇang n´en a ˙’ nh. Chˇa ˙’ ng ha . n, u . ´o . clu . o . . ng bˆa . c nhˆa ´ tcu ˙’ a entropy cho ta cˆa . ndu . ´o . icu ˙’ atı ˙’ lˆe . n´en a ˙’ nh; gi´a tri . n`ay c´o thˆe ˙’ d¯ a . td¯u . o . . csu . ˙’ du . ng m˜a ho´a v´o . id¯ˆo . d`ai thay d¯ˆo ˙’ i. (Nhˇa ´ cla . i l`a m˜a ho´a v´o . id¯ˆo . d`ai thay d¯ˆo ˙’ ithu . `o . ng d¯ u . o . . csu . ˙’ du . ng d¯ˆe ˙’ gia ˙’ md¯ˆo . du . th `u . a trong m˜a ho´a). Ngo`ai ra, hiˆe . ugi˜u . a c´ac u . ´o . clu . o . . ng entropy bˆa . c cao v`a u . ´o . clu . o . . ng entropy bˆa . c nhˆa ´ tchı ˙’ ra su . . hiˆe . ndiˆe . nhayvˇa ´ ng mˇa . tcu ˙’ a du . th `u . agi˜u . a c´ac pixel. T´u . c l`a, ch´ung cho biˆe ´ t c´ac pixel trong a ˙’ nh l`a d¯ˆo . clˆa . p thˆo ´ ng kˆe hay khˆong. Nˆe ´ u c´ac pixel trong a ˙’ nh d¯ˆo . clˆa . p thˆo ´ ng kˆe(t´u . c khˆong c´o du . th `u . agi˜u . a c´ac pixel) th`ı c´ac u . ´o . clu . o . . ng bˆa . c cao tu . o . ng d¯u . o . ng v´o . iu . ´o . clu . o . . ng bˆa . c nhˆa ´ t, v`a su . ˙’ du . ng m˜a ho´a v´o . id¯ˆo . d`ai thay d¯ˆo ˙’ i cho ph´ep n´en v´o . itı ˙’ lˆe . n´en tˆo ´ iu . u. V´o . ia ˙’ nh d¯u . o . . cx´et trong v´ı du . tru . ´o . c, hiˆe . usˆo ´ gi˜u . au . ´o . clu . o . . ng bˆa . c hai v`a u . ´o . clu . o . . ng bˆa . c nhˆa ´ tbˇa ` ng 1.81 −1.25 = 0.56. Do d¯´o c´o thˆe ˙’ biˆe ´ nd¯ˆo ˙’ ia ˙’ nh sao cho c´o thˆe ˙’ gia ˙’ m 0.56 bit/pixel trong biˆe ˙’ udiˆe ˜ na ˙’ nh. V´ı d u . 6.3.7 X´et a ˙’ nh cho trong v´ı du . tru . ´o . c. Bˇa ` ng c´ach gi˜u . nguyˆen cˆo . td¯ˆa ` u tiˆen, mˆo ˜ i cˆo . ttiˆe ´ p theo l`a hiˆe . ucu ˙’ acˆo . ttu . o . ng ´u . ng v`a cˆo . t tru . ´o . c d¯´o ta d¯u . o . . cbiˆe ˙’ udiˆe ˜ n 21 0 0 74 74 74 0 0 21 0 0 74 74 74 0 0 21 0 0 74 74 74 0 0 21 0 0 74 74 74 0 0 169 V´o . ia ˙’ nh n`ay ta c´o ba ˙’ ng tˆa ` nsˆo ´ , x´ac suˆa ´ t M´u . c x´am Tˆa ` nsˆo ´ X´ac suˆa ´ t 0 12 1/2 21 4 1/8 74 12 3/8 Nˆe ´ ux´eta ˙’ nh m´o . id¯u . o . . cta . orat`u . “nguˆo ` nhiˆe . u” ch´ung ta la . i c´o thˆe ˙’ su . ˙’ du . ng Phu . o . ng tr`ınh (6.3) d¯ˆe ˙’ t´ınh u . ´o . clu . o . . ng bˆa . c nhˆa ´ tcu ˙’ a entropy cu ˙’ ama ˙’ ng n`ay, trong tru . `o . ng ho . . p n`ay bˇa ` ng 1.41 bit/pixel. Do d¯´o su . ˙’ du . ng m˜a ho´a v´o . id¯ˆo . d`ai thay d¯ˆo ˙’ id¯ˆo ´ iv´o . ia ˙’ nh hiˆe . u ta chı ˙’ cˆa ` nd`ung 1.41 bit/pixel d¯ˆe ˙’ biˆe ˙’ udiˆe ˜ na ˙’ nh gˆo ´ c. Gi´a tri . n`ay l´o . nho . n 1.25 bit/pixel u . ´o . clu . o . . ng bˆa . c hai cu ˙’ a entropy d¯u . o . . c t´ınh trong v´ıdu . tru . ´o . cnˆen ta c´o thˆe ˙’ t`ım mˆo . t c´ach biˆe ´ nd¯ˆo ˙’ itˆo ´ tho . nn˜u . a. C´ac v´ı du . trˆen chı ˙’ ra u . ´o . clu . o . . ng bˆa . c nhˆa ´ t entropy cu ˙’ aa ˙’ nh khˆong nhˆa ´ t thiˆe ´ tl`a tˆo ´ cd¯ˆo . m˜a nho ˙’ nhˆa ´ tcu ˙’ aa ˙’ nh. L´y do l`a v`ı c´ac pixel trong a ˙’ nh thu . `o . ng khˆong d¯ˆo . clˆa . p thˆo ´ ng kˆe. Qu´a tr`ınh cu . . ctiˆe ˙’ u ho´a entropy thu . . csu . . cu ˙’ aa ˙’ nh, nhu . d¯ ˜a d¯ ˆe ` cˆa . p trong Phˆa ` n 6.2, go . i l`a m˜a ho´a nguˆo ` n. Trong tru . `o . ng ho . . pba ˙’ o to`an thˆong tin, n´o thu . . chiˆe . n hai thao t´ac: ´anh xa . v`a m˜a ho´a k´yhiˆe . u. Nˆe ´ u cho ph´ep mˆa ´ t thˆong tin, n´o thˆem bu . ´o . cth´u . ba l`a lu . o . . ng tu . ˙’ ho´a. Vˆa ´ nd¯ˆe ` tu . o . ng d¯ˆo ´ iph´u . cta . pho . ncu ˙’ an´ena ˙’ nh mˆa ´ t thˆong tin c˜ung c´o thˆe ˙’ d¯ u . o . . c thu . . chiˆe . nsu . ˙’ du . ng c´ac cˆong cu . cu ˙’ al´ythuyˆe ´ t thˆong tin. Tuy nhiˆen trong tru . `o . ng ho . . p n`ay, kˆe ´ t qua ˙’ ch´ınh l`a d¯i . nh l ´y m˜a ho´a nguˆo ` n. Nhu . d¯ ˜a d¯ ˆe ` cˆa . p trong Phˆa ` n 6.3.3, d¯i . nh l´y n`ay chı ˙’ ra rˇa ` ng c´o thˆe ˙’ m˜a ho´a mo . i nguˆo ` n khˆong nh´o . su . ˙’ du . ng bˆo . m˜a c´o tˆo ´ cd¯ˆo . lˆa . p tin R<R(D) sao cho distortion trung b`ınh trˆen mˆo . tk´yhiˆe . u nho ˙’ ho . n D. D - ˆe ˙’ c´o thˆe ˙’ ´ap du . ng kˆe ´ t qua ˙’ n`ay v`ao n´en a ˙’ nh mˆa ´ t thˆong tin ch´ung ta cˆa ` n xˆay du . . ng mˆo . tmˆoh`ınh nguˆo ` nth´ıch ho . . p, mˆo . td¯ˆo . d¯o distorsion c´o ´y ngh˜ıa, v`a t´ınh to´an h`am distortion rate R(D). Bu . ´o . cd¯ˆa ` u tiˆen cu ˙’ a qu´a tr`ınh n`ay d¯˜a d¯u . o . . c kha ˙’ o s´at. Bu . ´o . cth´u . hai c´o thˆe ˙’ thu . . c hiˆe . nsu . ˙’ du . ng tiˆeu chuˆa ˙’ n d¯´anh gi´a kh´ach quan d¯ˆe ` cˆa . p trong Phˆa ` n 6.1.4. Bu . ´o . c cuˆo ´ i c`ung l`a x´ac d¯i . nh ma trˆa . n Q =(q kj ) l`a nghiˆe . mcu ˙’ a b`ai to´an tˆo ´ iu . u I(z, v) → min v´o . id¯iˆe ` ukiˆe . n K k=1 q kj =1, d(Q)=D, q kj ≥ 0. Tuy nhiˆen d¯ˆay l`a b`ai to´an rˆa ´ t kh´o, v`a chı ˙’ c´o l`o . i gia ˙’ i trong mˆo . tsˆo ´ tru . `o . ng ho . . pcu . thˆe ˙’ . Mˆo . t trong sˆo ´ d¯´o l`a a ˙’ nh c´o tru . `o . ng ngˆa ˜ u nhiˆen Gauss v`a d¯ˆo . d¯o distorsion c´o da . ng to`an 170 . ngu . o . . cla . i. . 1 65 Khi d¯´o mˆo ˜ ilˆo ˜ i m˜a ho´a-gia ˙’ i m˜a d¯u . o . . cd¯ˆe ´ m l`a mˆo . td¯o . nvi . suy biˆe ´ n. D - ˆe ˙’ t´ınh R(D)ta d`ung ph´ep t´ınh biˆe ´ n phˆan. D - ˇa . t µ 1 ,µ 2 ,. thˆong tin (hay entropy) cu ˙’ aa ˙’ nh 8 bit: 21 21 21 95 169 243 243 243 21 21 21 95 169 243 243 243 21 21 21 95 169 243 243 243 21 21 21 95 169 243 243 243 C´ach tu . o . ng d¯ˆo ´ id¯o . n gia ˙’ n. 1/4 (21, 95) 4 1/8 ( 95, 169) 4 1/8 (169, 243) 4 1/8 (243, 243) 8 1/4 (243, 21) 4 1/8 Kˆe ´ t qua ˙’ u . ´o . clu . o . . ng entropy theo Phu . o . ng tr`ınh (6.3) l`a 2 .5/ 2 hay 1. 25 bit/pixel,