M ã hóaTập các tin rời rạc rất đa dạng và phong phú.. Các yếu tô của từ m ãĐịnh nghĩa 4: Độ dài từ mã n¡ là số các dấu mã cần thiết dùng để Trang 2 120 Giáo trình Lý thuyết thông tinNế
Chương Cơ SỞ LÝ THUYẾT MÃ HÓA 4.1 CÁC Đ ỊN H N G H ĨA VÀ K H Á I NIỆM c BẢN 4.1.1 Các định nghĩa 4.1.1.1 M ã hóa Tập tin rời rạc đa dạng phong phú Để hệ thống truyền tin số truyền tin cần phải có q trình biến đổi thích hợp tin rời rạc, q trình mã hóa Định nghĩa 1\ Mã hóa ánh xạ 1- từ tập tin rời rạc a¡ lên tập từ mã a " ¡ / : a¡ —» a " ¡ Để dễ dàng mã hóa giải mã, từ mã a "' thường phần tử cấu trúc đại số Bởi ta định nghĩa cụ thể cho phép mã hóa Định nghĩa 2: Mã hóa ánh xạ 1- từ tập tin rời rạc a¡ lên tập có cấu trúc cấu trúc đại số 4.L1.2 M ã Định nghĩa 3: Mã (hay mã) sản phẩm phép mã hóa, hay nói cách khác mã tập từ mã lập nên theo luật định 4.1.1.3 Các yếu tô từ mã Định nghĩa 4: Độ dài từ mã n¡ số dấu mã cần thiết dùng để mã hóa cho tin a¡ 120 Giáo trình Lý thuyết thơng tin Nếu nị = const với i từ mã có độ dài Bộ mã tương ứng gọi mã Nếu riị ^ rij mã tương ứng gọi mã không Định nghĩa 5: Số dấu mã khác (về giá trị) sử dụng mã gọi số mã Ta ký hiệu giá trị m Nếu m = mã tương ứng gọi mã nhị phân Nếu m = mã tương ứng gọi mã tam phân Nếu m = p mã tương ứng gọi mã p phân Thông thường dấu mã chọn phần tử trường F Ví dụ 1: Từ mã dị7 mã nhị phân có độ dài mô tả sau: ál =01 10101 Mỗi dấu mã từ mã nhận hai giá trị {0, 1}, dấu mã phần tử trường nhị phân GF(2) 4.1.2 Các khái niệm 4.1.2.1 Độ thừa m ã (D) Cho nguồn rời rạc A gồm s tin: A = {a^ l,s } Xét phép mã h ó a /s a u : f: aj —» aỊ1; a " e V Cơ số mã m, số từ mã độ dài n có là: N = m" Định nghĩa 6: Độ thừa mã xác định theo biểu thức sau: (4 1) Chương 4: Cơ sở lý thuyết mã hóa 121 Trong : H0(A) = logs H0(V) = logN = nlogm Ví dụ 2: Ta có mã hóa tin A, B, c, D tin từ mã lọc giải mã đểu nhị phân, có độ dài n = 3, độ thừa mã là: D = l _ j ẵ i _ = 33,33% log Bộ mã có từ mã dùng để mã hóa cho tin rời rạc Các từ mã cịn lại (4 từ mã) khơng dùng để mã hóa gọi từ mã cấm Đối với từ mã đều, để đánh giá định lượng khác từ mã mã, ta sử dụng khái niệm khoảng cách mã 4.1.2.2 Khoảng cách m ã (d) Định nghĩa 7: Khoảng cách hai từ mã oc" oc" số dấu mã khác tính theo vị trí hai từ mã này, ký hiệu d Ịa " , a " i Ví dụ 3: a- = 1 1 aj = 10 1 10 d (a ỉ»a j) = Khoảng cách mã d có đầy đủ tính chất khoảng cách khơng gian metric Tính chất ỉ: d ^ a" ,a " j = d^ot" ,a " j Tính chất 2: n > d ( a " otj" Ị > Tính chất 3: (Tính chất tam giác): d ( a : , a , n) + d ( a " , < ) > d ( < , < ) 122 Giáo trình Lý thuyết thơng tin Để đánh giá định lượng khả khống chế sai (bao gồm khả phát sai khả sửa sai) mã ta sử dụng khái niệm khoảng cách mã tối tiểu (hay khoảng cách Hamming) sau: Định nghĩa 8: Khoảng cách Hamming d0 m ã xác định theo biểu thức sau: d(, = m i n d í a " , a " ì Va",a" ' ' Ở a " a n không đồng không (Ta coi a " từ mã không dấu mã từ mã nhận giá trị không) 4.1.2.3 Trọng sô từ mã Định nghĩa 9: Trọng số từ mã W ^aJ1j số dấu mã khác không từ mã Ví dụ: a- = 1 1 w (a -) =4 Nếu ta coi từ mã a " véc tơ n chiều khơng gian tuyến tính n chiều Vn, phép cộng thực hai từ mã tương tự phép cộng hai véc tơ tương ứng Ví dụ 4: a ] = 1 1 (0, 1, ,0, 1,0, 1) a ] = 0 1 0 0) có d0 > có khả phát t sai thỏa mãn điều kiện: t < - (4.2) Chứng minh: Mọi từ mã mã cách khoảng cách d0 Khi truyền tin, có nhiễu từ mã nhận bị sai t vị trí t < - Vì từ mã nhận biến thành từ mã dùng khác Như ta ln phát từ mã nhận sai 4.1.3.2 Khả sửa sai Định lý 2: Một mã nhị phân có độ thừa (D > o) có (d0 > 3) có khả sửa e sai thỏa mãn điều kiện: e < d0 - l (4 3) Ở [x] ký hiệu phần nguyên số X 124 Giáo trình Lý thuyết thơng tin Chứng minh: Khi truyền tin, có nhiễu, từ mã nhận bị sai e vị d0 - l Như vậy, khoảng cách từ mã nhận với từ trí e < mã khác tối tiểu e + Như vậy, ta ln xác định từ mã phát Điều có nghĩa ta sửa sai e sai gặp phải truyền 4.1.4 Mã nhị phân khơng có độ thừa Mã nhị phân khơng có độ thừa (D = 0) gọi mã đơn giản Với mã đơn giản ta có s = N = 2n Như m ột từ mã có sử dụng để mã hóa cho tin rời rạc Với từ mã đơn giản d0 = Vì ta khơng thể phát hay sửa sai Giả sử ta truyền từ mã đơn giản qua kênh đối xứng nhị phân khơng nhớ có xác suất thu sai dấu p0 Khi xác suất thu dấu tương ứng (1 - Po) Từ m ã nhận m ọi dấu mã nhận Như vậy, xác suất thu từ mã pd là: Pd = (l-P o )" (4.4) Xác suất thu sai từ mã là: ps = - p đ= - ( -Po)n (4.5.a) Với p0 «: 1ta có cơng thức gần sau: (1 - Po)n * - n p Ta có: ps » np0 (4.5.b) Giả sử xác suất thu sai cho phép tin rời rạc pscp, điều kiện sử dụng mã đơn giản kênh đối xứng nhị phân không nhớ là: Ps £ Pscp Chương 4: Cơ sở lý thuyết mã hóa 125 Hay P s cp (4.6) Po«: n 4.2 M Ã T H Ố N G K Ê T ố i u Ta xét phép mã hóa sau tin nguồn rời rạc A: Mỗi tin a¡ mã hóa tổ hợp mã (từ mã) a " ‘ (