Lý thuyết thông tin (Mã hóa kênh)

Mã hóa kênh  Khái niệm cơ bản  Mã khối: • Từ mã: biểu diễn như một vecto có độ dài cố định n.  Độ dài từ mã: là số ký hiệu có trong từ mã.  Mỗi ký hiệu nhận một giá trị nhị phân 0 hay 1(m = 2) gọi là mã nhị phân.  Khi m >1 thì không còn là mã nhị phân, có thể là mã tam phân, bát phân, thập phân… tuỳ vào mỗi ký hiệu nhận các giá trị trong hệ đếm nào đó. • Mã khối : Là tập hợp các vecto có độ dài cố định.  Với mỗi từ mã có độ dài cố định n thì có thể xác định được 2 n từ mã có độ dài n.  Từ 2 n tổ hợp có thể chọn ra 2 k từ mã (k < n) tạo ra bộ mã, trong đó k là các bit thông tin được mã hoá.  Khối k bit thông tin được ánh xạ thành một từ mã có độ dài n. Tập hợp các từ mã đó gọi là mã khối (k,n) với tốc độ mã hoá R = k/n • Trọng lượng của từ mã: số lượng các ký hiệu khác 0 trong một từ mã (w r )  Ví dụ: a = 10010011 có trọng lượng w a = 4. • Một bộ mã với các từ mã có cùng trọng lượng gọi là bộ mã có trọng lượng cố định. • Khoảng cách hamming d ij : sự khác nhau của các ký hiệu tương ứng (cùng vị trí) giữa hai từ mã, với i#j thì 0 < d ij < n. • Khoảng cách hamming của hai từ mã u,v bằng trọng lượng hamming của tổng u và v. d (u,v) = W (u+v) ví dụ: u = 1001011, v = 1110010 có khoảng cách hamming d u,v = 4 Mà: u+v = 0111001 có W (u+v) = 4 • Khoảng cách hamming tối thiểu dmin Dmin = min {W(c), c = u+v, c#0}= Wmin • Wmin = min{W(X),x thuộc mã tuyến tính, x#0} là trọng lượng hamming tối thiểu • Gọi C là từ mã tuyến tính có matran kiểm tra H. Trọng lượng hamming tối thiểu của C là số cột nhỏ nhất của H mà tổng mỗi cột này bằng 0 • ví dụ:           = 1110100 0111010 1101001 H Từ matran H có 3 cột có tổng bằng 0 nên W min = 3  Phép toán cộng:  Tập hợp F là đóng trên trường toán cộng, có nghĩa là a,b thuộc F thì a +b thuộc F  Có tính kết hợp: (a + b) + c = a + (b + c)  Tính giao hoán: a + b = b + a  Phần tử không: a + 0 = 0 + a = a.  Phần tử đối: là phần tử thực hiện phép toán sao cho: a – b = a + ( - b) thì - b là đối với b: • Việc mã hoá và giải mã thực hiện các phép toán cộng và nhân số học trên các từ mã. Với bộ mã nhị phân thì các phép toán trên bộ mã là phép toán modul 2.  Quy tắc thực hiện phép cộng modul: • Cho tập hợp các số nguyên: G(m) ={0,1…m- 1) với phép toán cộng modul được thực hiện như sau: Trong đó r là số dư của (i + j ) /m, r thuộc G . Phép cộng trên gọi là phép cộng modul-m. rji =⊕ • Với hai số nguyên i,j bất kỳ trong G thì : Ví dụ: thực hiện phép cộng modul – 5: G(5) = {0,1,2,3,4) Bảng cộng modul-5 0 1 2 3 4 0 0 1 2 3 4 1 1 2 3 4 0 2 2 3 4 0 1 3 3 4 0 1 2 4 4 0 1 2 3 ⊕  Phép toán nhân:  Trong tập F là đóng trên trường toán nhân: a,b thuộc F thì a.b thuộc F.  Có tính kết hợp: a(bc) = (ab)c  Tính giao hoán: a.b = b.a  Tính phân phối với phép cộng: (a + b)c = ac + bc.  Phần tử đơn vị: a 1 = 1a =a  Phần tử nghịch đảo: b thuộc F thì b#0 thuộc F, phần tử nghịch đảo của b là b -1 và b.b -1 = 1.  Quy tắc thực hiện phép nhân modul –m.  Xác định tập hợp các số nguyên trong tập G(m) = (1…m-1). Trong đó m là một số nguyên tố.phép nhân modul – m được thực hiện như sau:  Với i, j bất kì thuộc G thì : i (.) j = r. với r = (i.j)/m và r phải thuộc G. [...]... • Mã tuyến tính:mã tuyến tính có độ dài n là mã với các từ mã có các ký hiệu là tuyến tính • Mã tuyến tính (k,n) với tốc độ mã hoá R = k/n, k số bit thông tin đưa vào mã hoá, n độ dài của mã tuyến tính • Ma trân sinh và ma trân kiểm tra: Xét k bit thông tin đưa vào mã hoá ký hiệu là : Xm = {xm1,xm2…xmk} đầu ra bộ mã hoá: Cm = {cm1,cm2…cmn} Quá trình thực hiện của bộ mã hoá như sau: cmj = xm1g1j+xm2g2j+…+xmkgkj... matran hệ thống tạo ra mã khối tuyến tính thì k bit đầu tiên là các bit thông tin, n-k bit còn lại là các bit kiểm tra Xét ví dụ:mã (7,4) có ma trân sinh 1 0  G = 0  0   0 1 0 0 0 0 1 0 0 0 0 1 1 1 1 0 Một từ mã được biểu diễn: 0 1 1 1 1 1  0 = [ I , P ]  1   Cm = {xm1,xm2,xm3,xm4,cm5,cm6,cm7} {xmi} là các bit thông tin, {cmi}là các bit kiểm tra Các bit kiểm tra được xác định bởi: Cm5... c3 … c2k e2 e2+c2 e 2+c3 … e 2+c2k e3 e3+c2 e3+c3 … e3+c2k e2n-k e2n-k+c2 e2n-k+c3 … e2n-k+c2k Ví dụ: Xét mã (5,2) 1 0 1 0 1 với G =  0 1 0 1 1   Xây dựng bảng giải mã: n = 2 nên có 22 từ mã thông tin C1=00000 e2=10000 e3=01000 e4=00100 e5=00010 e6=00001 e7=11000 e8=10010 10101 00101 11101 10001 10111 10100 01101 00111 01011 11011 00011 01111 01001 01010 10011 11001 11110 01110 10110 11010 11100 . x m1 g 1 +x m2 g 2 +…x mk g k Ma trân sinh G chuyển về dạng hệ thống sau: [ ]                 == − − − kknkk kn kn K ppp ppp ppp PIG 21 22221 11211 100 010 001 I k là matran đơn vị, P là ma trân [k,(n-k)]. độ mã hoá R = k/n, k số bit thông tin đưa vào mã hoá, n độ dài của mã tuyến tính. • Ma trân sinh và ma trân kiểm tra: Xét k bit thông tin đưa vào mã hoá ký hiệu là : X m = {x m1 ,x m2 …x mk }. tuyến tính có matran kiểm tra H. Trọng lượng hamming tối thiểu của C là số cột nhỏ nhất của H mà tổng mỗi cột này bằng 0 • ví dụ:           = 1110100 0111010 1101001 H Từ matran H có