Lý thuyết thông tin - Giới thiệu chung

CH NG 1. GI I THI U CHUNGƯƠ Ớ Ệ 1.1. S l c v s phát tri n thông tin sơ ượ ề ự ể ố - Telegraphy: là h th ng thông tin liên l c b ng đi n tín, đánh d u s phát tri n đ u         tiên c a h th ng truy n thông đi n. Đây là m t h th ng truy n thông s . Truy n           thông đi n báo đ c kh i x ng b i Samuel Morse và đ c công b vào năm 1837.       Morse đã phát minh ra mã nh phân có chi u dài thay đ i b ng cách s d ng chu i các       d u ch m (∙) và d u g ch (-) (g i là các t mã) đ bi u di n cho các m u t alphabet           c a Ti ng Anh. V i mã này, các m u t trong b n tin xu t hi n v i t n xu t nhi u            h n s đ c bi u di n b ng các t mã ng n còn cac m u t xu t hi n v i t n xu t               ít s đ c bi u di n b ng các t mã dài h n. Cũng chính vì th mà mã Morse là ti n         thân c a các ph ng pháp mã hóa ngu n có chi u dài t mã thay đ i. Minh hoa vê ma       ! Morse: - Năm 1875: G n 40 năm, sau th i kỳ c a Morse, Emile Baudot đã đ xu t m t lo i "      mã dành cho truy n thông đi n tín trong đó các m u t trong b ng Alphabet Ti ng      Anh đ c mã hóa b i các t mã nh phân có chi u dài t mã c đ nh b ng 5. V i mã          Baudot, các thành ph n c a t mã nh phân này là các bit d u “1” ho c bit tr ng “0”.     #  Minh hoa ma Baudot: ! M c dù Morse đã kh i x ng cho s phát tri n c a h th ng truy n thông s#          b ng đi n đ u tiên là h th ng đi n tín (Telegraphy), cũng đ c xem nh là truy n         thông s hi n đ i, đăc biêt la b t ngu n cho nghiên c u c a Nyquist năm 1924.       $  Nyquist đã t p trung vào vi c xác đ nh t c đ truy n tín hi u t i đa có th đ t đ c%           qua m t kênh truy n đi n tín v i đ r ng băng kênh cho tr c mà không có nhi u liên        ký hi u (ISI). Ông đã đ a ra đ c mô hình toán h c c a m t h th ng truy n thông         đi n tín (Telegraph) trong đó tín hi u phát đi có d ng t ng quát:    ( ) ( ) n n s t a g t nT= − ∑ Trong đo an la chuôi d liêu nhi phân & ! '   { } 1± đ c truyên v i tôc đô   &  b 1 T bit s . Nyquist đa xac đinh đ c dang xung tôi u co băng tân gi i han t i W Hz đam bao tôc đô bit tôi! &    &  &    ( ( &  & đa ma không gây ra nhiêu ky hiêu (ISI). ! &  1.2. H th ng thông tin sệ ố ố 1.2.1. Khái ni m v thông tin sệ ề ố Tr c h t ta c n hi u khái ni m “digital” đây có nghĩa là giá tr r i r c và có       "  hàm ý r ng tín hi u có m t bi n giá tr nguyên đ c l p. Thông tin s bao g m các con      %   s và các ký hi u (ví d nh các ký t trên bàn phím). Máy tính d a trên d ng th        hi n s (digital) c a thông tin đ x lý. Các ký hi u (symbols) không có giá tr s và        m i ký hi u đ c máy tính bi u di n b i m t s duy nh t. Ví d nh mã ASCII bi u            di n ký t “a” t ng ng v i giá tr s    $    ( ) 10 97 và ký t “A” t ng ng v i giá tr s  $    ( ) 10 65 . 1.2.2. Mô hình h truy n tin s nói chungệ ề ố Hinh 1.1: Cac thanh phân c ban cua môt hê thông thông tin sô &  ( (   & & Hình 1.1 minh h a s đ ch c năng và các thành ph n c b n c a h th ng   $       truy n thông s . đó, đ u ra c a ngu n phát tin cũng có th là tín hi u t ng t nh  )         tín hi u audio hay video ho c tín hi u s ch ng h n nh đ u ra c a máy đi n báo #   *      đánh ch (teletype). Trong h th ng truy n thông s , các b n tin đ c t o ra t các'         ngu n phát tin đ c chuy n thành chu i ký hi u nh phân (binary digits). M t cách lý       t ng là chúng ta mong mu n b n tin đ u ra ngu n phát tin là có ít hay không có      thành ph n d th a. Quá trình chuy n đ i hi u qu các b n tin đ u ra c a ngu n phát           tin t ng t hay s thành m t chu i các ký hi u nh phân đ c g i là mã hóa ngu n          hay nén d li u.'  Chu i ký hi u nh phân t o ra b i b mã hóa ngu n mà chúng ta còn g i là        chu i thông tin, đ c đ a qua b mã hóa kênh. Chu i nh phân t i đ u ra c a b mã          hóa kênh l i đ c cho qua b đi u ch s đ t o d ng thích h p v i kênh truy n            thông. 1.2.3. Kênh truy n tinề Kênh truy n thông là môi tr ng đ truy n tín hi u t máy phát đ n máy thu. "      V i truy n d n vô tuy n, kênh có th là áp su t khí quy n (kho ng không t do). V i          môi tr ng khác nh các kênh tho i h u tuy n, th ng là ch t li u v t lý nh các"   '  "   %  dây d n kim lo i, cáp s i quang.   - Kênh s dung dây dân kim loai (wireline)  !  - Kênh s dung s i quang (Fiber Optic Channels)   - Kênh vô tuyên s dung điên t tr ng (Wireless Electromagnetic Channels)&     " Hình 1.2: Đ ng truyên tin s dung song tr i va song đât:"   & " & & - Kênh truyên tin hiêu âm thanh d i n c (underwater acoustic channels) &    - Kênh l u tr (storage channels). ' 1.3. Tín hi u băng c s và tín hi u băng thông d iệ ơ ở ệ ả 1.3.1. Tín hi u băng c sệ ơ ở Thu%t ng' băng c s ch+ min tn s ca tín hiệu b nả tin và th"ng đó là tin hi u  băng thông thp. Tín hi u băng c s có th  dng s hay t n g t. Đi v i tín hi u tng t : c th i" gian và biên đ là liên tc. Đi v i tín hi u s : Th i" gian và biên đ (dng sóng) đ u r"i rc (ví d li ra c a máy tính có th coi là tín hi u s băng c s ). 1.3.2. Tín hi u băng thông d iệ ả Đ truy n dn, tín hi u b n tin ph i đc chuy n thành tín hi uệ phát có tính cht phù hợp v iớ kênh truyền. Trong truyn dn băng c s: Băng t n kênh h tr phù hp vi băng t n tín hi u bn tin nên có th truyn trc ti p tín hi u bn tin. Trong truyn d n băng thông di: Băng t n ca kênh có t n s trung tâm ln hn nhiu t n s cao nht c a tín hiu b n tin. Khi đó tín hi u đc phát đi là tin hiu băng thông d i (phù hp v i kênh truy n) mang thông tin ca tín hiu b n tin. Vic t o ra tín hi u  băng thông d i này goi là đi uề chế. Khi nghiên c u$ tín hi u băng thông di, th"ng ng"i ta dùng phng pháp đ a v tín hi u băng c s tng. Liên hệ nghịch đảo gi aữ th iờ gian và t nầ số: Theo nh ng tính ch t c a bi n đ i Fourier trong lý thuy t x lý tín hi u có th'         rút ra nh ng tính ch t căn b n sau:'   - Mô t mi n th i gian c a m t tín hi u thay đ i có chi u ng c v i mô t  "         mi n t n s c a tín hi u: ví d chu kỳ c a tín hi u tăng thì t n s c a nó gi m, xung            càng h p thì ph càng r ng…,   - N u tín hi u là gi i h n trên mi n t n s , thì mô t trên mi n th i gian s là         "  vô h n dù biên đ c a nó ngày càng nh (xung sinc(t) là m t ví d ). Ng c l i n u   -      tín hi u b gi i h n trong mi n th i gian thì ph c a nó r ng vô cùng. ( chú ý là không     "    có tín hi u đ ng th i gi i h n c v t n s l n th i gian song l i có th có tín hi u  "        "    vô h n c v t n s l n th i gian).      " 1.4. u, nh c đi m c a h th ng thông tin sƯ ượ ể ủ ệ ố ố 1.4.1. Nh ng u đi m c a thông tin sữ ư ể ủ ố (1). Tăng đ c kh năng truy n d n d li u    '  (2). Tăng kh năng tích h p, đ ph c t p và s tin c y c a các h th ng đi n t s   $   %       trong vi c x lý tín hi u, đ ng th i v i giá thành gi m.    "   (3). D dàng trong vi c mã hóa đ nén d li u.   '  (4). Kh năng mã hóa kênh đ t i thi u hóa các nh h ng c a t p và nhi u.         (5). D dàng cân đ i công su t, th i gian và đ r ng d i thông đ t i u hóa vi c s   "         d ng tài nguyên có h n này.  (6). D dàng chu n hóa các tín hi u, b t k ki u, ngu n g c và d ch v mà chúng .         cung c p d n t i vi c thi t l p m t m ng s liên k t đa d ch v .     %       1.4.2. M t s nh c đi m c a thông tin sộ ố ượ ể ủ ố (1). H th ng thông tin s th ng ph c t p h n m t h th ng t ng t t ng   " $         đ ng. (2). Chi phí l p đ t l n h n so v i thông tin t ng t do trong thông tin s bao g m #        nhi u thành ph n h n.   (3). Yêu c u đ chính xác cao đ c bi t trong các h th ng đ ng b s .  #       . CH NG 1. GI I THI U CHUNG Ơ Ớ Ệ 1.1. S l c v s phát tri n thông tin sơ ượ ề ự ể ố - Telegraphy: là h th ng thông tin liên l c b ng đi n tín, đánh. tín hiu b n tin. Khi đó tín hi u đc phát đi là tin hiu băng thông d i (phù hp v i kênh truy n) mang thông tin ca tín hiu b n tin. Vic t o