Đang tải... (xem toàn văn)
Latex math for final test Bài kiểm tra bắt buộc duy nhất của môn học thực hiện trên máy tính. Nội dung chính là phần kiến thức cơ bản: gồm các định nghĩa, các tính chất, một số bài toán áp dụng cơ bản (áp dụng trực tiếp) chúng ta sẽ cần nhập công thức trong bài kiểm tra. Công thức sẽ nhập theo kiểu nhập công thức toán trong hệ soạn thảo Latex. Nhiệm vụ: 1) Tổng kết lại các công thức định nghĩa, tính chất, các kết quả các ví dụ áp dụng đơn giản 2) Luyện tập cách viết các công thức đó theo kiểu Latex + Tìm hiểu công thức toán trong soạn thảo Latex từ: Latex math cheatsheet: http:tug.ctan.orginfoundergradmathundergradmath.pdf https:users.dickinson.edu~richesodlatexlatexcheatsheet.pdf https:pages.uoregon.edutorrence391labsLaTeXcheatsheet.pdf https:www.reed.eduacademic_supportpdfsqskillslatexcheatsheet.pdf + Luyện tập gõ các công thức tại: Với các công thức có được tại 1), luyện tập gõ theo cách gõ Latex và quan sát hiển thị đúng công thức tại một trong các trang online sau Latex online editor https:latexeditor.lagrida.com https:latex.codecogs.comeqneditoreditor.php https:www.latex4technics.com Riêng link thứ 3, sau khi gõ xong phần công thức cần chọn compile để nhìn tính đúng đắn của công thức Báo cáo kết quả trình bày phát biểu công thức bằng lời, công thức viết dạng Latex, công thức kết quả (cắt, chụp hoặc có thể sử dụng trực tiếp soạn thảo trên MS Word 2013, 2016 hoặc 365) Trình bày kết quả phần ôn tập trên MS theo mẫu (đính kèm), file báo cáo đặt tên FITSP23msvREV01.docx
BÀI ƠN TẬP Mơn học: Lý thuyết thơng tin Học kỳ: Mùa xuân 2023 Họ tên Hà Văn Hoàng Nhóm lớp tín 10 Mã sinh viên B21DCCN385 Lớp quản lý D21CQCN01-B CHƯƠNG 1: TỔNG QUAN VÀ CÁC KHÁI NIỆM CƠ BẢN 1) Thơng tin tính chất xác định vật chất mà người trực tiếp gián tiếp thông qua hệ thống kĩ thuật thu nhận từ giới bên từ q trình xảy thân nó, nhằm mang lại hiểu biết chúng Tính chất thơng tin: Khách quan Đa dạng 2) Tin dạng vật chất cụ thể để biểu diễn thể thông tin Tin liên tục Tin rời rạc 3) Tín hiệu đại lượng vật lý biến thiên, phản ánh tin cần truyền 4) Nguồn tin: Nguồn nơi sản sinh tin Đặc tính: Nguồn liên tục, nguồn rời rạc Tính chất: Tính thống kê, hàm ý 5) Kênh truyền tin: Kênh truyền tin tập hợp mơi trường vật lý có tín hiệu truyền từ nguồn đến nơi nhận tin 6) Máy thu thiết bị thu nhận tín hiệu từ thiết lập lại thơng tin Máy thu thực phép biến đổi ngược máy phát Tổng quát gồm: Giải điều chế giải mã 7) Nhận tin việc thu nhận thông tin nhằm lưu, biểu thị xử lý tin 8) Nhiều yêu tố ảnh hưởng xấu đến việc thu nhận tin CHƯƠNG 2: LÝ THUYẾT THÔNG TIN THỐNG KÊ 1) Lượng (thông) tin riêng: Một tin, kiện x với xác suất xuất p(x) việc xuất mang lại lượng thơng tin, hay cịn gọi lượng tin riêng/ lượng thơng tin tiên nghiệm 2) Cơng thức tính lượng tin riêng Cơng thức dạng Latex Công thức kết I(x_k)=-log(p(x_k)) I ( x k ) =−log ( p ( x k ) ) Công thức dạng Latex Công thức kết I(x_k)\ge I ( xk ) ≥ … … 3) Tính chất 4) Lượng tin hậu nghiệm: 5) Lượng tin tương hỗ 6) Hai trạng thái cực đoan kênh: 7) Định nghĩa Entropy:Entropy nguồn rời rạc không nhớ X trung bình thơng kê lượng thơng tin riêng tập tin x k thuộc nguồn H(X) 8) Entropy hợp H(X,Y) cặp nguồn rời rạc (X,Y) với xác xuất phân bố đồng thời tin x k y l p( x k , y l): 9) Entropy có điều kiện phần Entropy có điều kiện nguồn tin nhận tin định nguồn kia: 10) Entropy có điều kiện: Với cặp nguồn rời rạc (X, Y ) có xác suất phân bố hợp p( x k , y l), xác suất phân bố có điều kiện p( x k , y l ), Entropy có điều kiện H(X|Y ) cho công thức: 11) Entropy tương đối, gọi khoảng cách Kullback Leibler hai phân bố rời rạc p( x k ) q( x k ) nguồn rời rạc X xác định bởi: 12) Cho hai nguồn rời rạc X, Y có xác suất phân bố hợp, phân bố riêng, phân bố có điều kiện p(xk , yk ), pX (xk ) = p(xk ), pY (yl) = p(yl), p(xk |yl) Lượng thơng tin tương hỗ, cịn gọi lượng thơng tin chéo trung bình hai nguồn xác định bởi: 13) Tính chất mối quan hệ đại lượng: 14) 15) Nguồn liên tục: Nguồn tin X phát tin x có giá trị liên tục khoảng x ÷ x maxvới hàm mật độ phân bố xác suất f (x) 16) Entropy vi phân liên tục X có hàm mật độ phân bố xác suất f(x) xác định công thức: 17) Một nguồn liên tục X với hàm mật độ phân bố xác suất f (x) khả tích theo tiêu chuẩn Riemann thì: 18) Một số tính chất Entropy vi phân: 19) Trong số trình ngẫu nhiên (tín hiệu) có cơng suất trung bình p x= σ , q trình (tín hiệu) có hàm mật độ phân bố chuẩn (phân bố Gausse) cho Entropy vi phân lớn Nói cách khác: 20) Entropy vi phân hợp cặp nguồn liên tục (X, Y ) với hàm mật độ phân bố hợp (phân bố đồng thời) f (x, y), định nghĩa: 21) Các Entropy vi phân có điều kiện cặp nguồn liên tục (X, Y ) với hàm mật độ phân bố hợp (phân bố đồng thời) f (x, y), định nghĩa: 22) Entropy vi phân tương đối: Xét nguồn liên tục X, với nguồn X giả sử có hai phân bố f (x) g(x) Entropy vi phân tương đối hay cịn gọi khoảng cách Kullback Leibler tính công thức: 23) Lượng thông tin tương hỗ I(X; Y ) hai nguồn liên tục X Y có xác suất phân bố hợp f (x, y) xác định cơng thức: 24) Một số tính chất: CHƯƠNG 2: DUNG LƯỢNG KÊNH 1) Tốc độ phát nguồn rời rạc định nghĩa là: v n= T n 2) Một nguồn rời rạc X có tốc độ phát v n= T , có khả phát nguồn n xác định: 3) Độ dư thừa nguồn rời rạc: Với nguồn rời rạc X , phép xử lý thông tin đạt H(X), độ dư thừa nguồn định nghĩa là: 4) Đặc trung kênh rời rạc: a Trương tin lối vào X trường tin lối Y b Xác suất chuyển tin lối vào x k thành tin lối y l : p ( γ l| xk ) c Tốc độ truyền tin kênh v k hay thời gian trung bình để truyền dấu tin T k= vk 5) Xét kênh rời rạc có xác suất chuyển p ( γ l| xk ): Nếu p ( γ l| xk ) khơng phụ thuộc vào thời gian t kênh gọi kênh đồng nhất; ngược lại kênh khơng đồng 6) Xét kênh rời rạc có xác suất chuyển p ( γ l| xk ) Nếu p ( γ l| xk ) = p = const ∀ k ,l , k ≠ l p ( γ l| xk )=q=const ∀ k =l kênh gọi đối xứng 7) Nếu p ( γ l| xk ) không phụ thuộc vào tin phát/nhận trước kênh gọi kênh khơng có nhớ: 8) Một kênh rời rạc có lượng tin truyền qua I(X, Y) với tốc độ truyền tin v k lượng thông tin truyền qua kênh đơn vị thời gian là: 9) Khả thông qua kênh rời rạc giá trị cực đại lượng thông tin truyền qua kênh đơn vị thời gian lấy theo khả phân bố nguồn phát 10) 11) Tính chất: Định lý mã hố thứ hai Shannon: Nếu khả phát H′(X) nguồn rời rạc X nhỏ khả thông qua kênh (H′(X) ≤ C′) tồn phép mã hóa giải mã cho việc truyền tin qua kênh có xác suất lỗi nhỏ tùy ý độ dài từ mã đủ lớn Ngược lại khơng tồn phép mã hóa Nếu tốc độ liệu cần truyền R truyền qua kênh có dung lượng C′ thỏa mãn R ≤ C′ tồn phép mã hóa giải mã cho việc truyền tin qua kênh có xác suất lỗi nhỏ tùy ý độ dài từ mã đủ lớn Ngược lại khơng tồn phép mã hóa 12) Đặc trưng kênh Gausse trắng cộng a Trường dấu lối vào trường dấu lối b Hàm chuyển, hàm mật độ phân bố xác suất để thu y(t) phát x(t): f( y(t) |x(t)) c Tốc độ truyền kênh v k 13) Khả thông qua kênh liên tục không nhỏ khả thông qua kênh rời rạc chứa Cliên tục >= Crời rạc chứa liên tục 14) Kênh Gausse không đổi kênh liên tục có tập tin lối vào tập tin lối liên hệ với theo công thức: y ( t ) =μx ( t )+ n ( t ) 15) Khả thơng qua kênh liên tục, cịn gọi dung lượng kênh liên tục, giá trị cực đại lượng thông tin truyền qua kênh đơn vị thời gian lấy theo khả phân bố nguồn phát kể đến giới hạn công suất phát 16) Kênh AWGN với giới hạn công suất phát P cơng suất nhiễu N có dung lượng: ' C= 17) ( vk μ2 P log 1+ Pn ) ( ) μ2 P C= log 1+ Pn Dung lượng kênh AWGN với băng tần hữu hạn W giới hạn công suất phát P xcó nhiễu với mật độ phổ cơng suất hai phía N0 /2 xác định: ' ( C =W log 1+ ) μ Px [ bps ] N0W 18) Định lý mã hoá thứ hai Shannon: Các nguồn tin rời rạc mã hóa truyền theo kênh liên tục với xác suất sai bé tùy ý giải mã tín hiệu nhận khả phát nguồn nhỏ khả thông qua kênh Ngược lại, thực phép mã hóa giải mã với sai số bé tùy ý CHƯƠNG 3: MÃ HOÁ NGUỒN – NÉN DỮ LIỆU 1) Mục tiêu mã hóa nguồn: Thực tìm kiếm phương thức biểu diễn liệu nhỏ gọn 2) Nguyên lý mã hóa nguồn: Loại bỏ thông tin dư thừa thông tin dư thừa thông tin không cần thiết 3) Mã hóa phép ánh xạ − từ tập tin rời rạc x k lên tập từ mã tổ hợp dấu (các chữ mã) mk f : x k ↦mlkk 4) Một mã gọi không suy biến (non-singular) tin x k nguồn X ánh xạ thành từ mã khác mã lk ll x k ≠ x l ⇒ mk ≠ ml 5) Một từ mã mở rộng việc ánh xạ chuỗi hữu hạn tin thành từ mã liên tiếp l1 l2 x x …↦ m1 m … 6) Một mã gọi mã có khả giải mã cách từ mã mở rộng từ mã khơng suy biến 7) Bộ mã gọi mã có tính prefix hay cịn gọi mã có khả giải mã tức thời khơng có từ mã phần tiền tố (prefix) từ mã khác mã 8) Bất đẳng thức Kraft: Với mã prefix tập dấu (chữ mã) M có kích thước (cơ số) q tập độ dài từ mã l1 ,l , … ,l N phải thỏa mãn bất đẳng thức: N ∑ q−l ≤ k k =1 Ngược lại, với tập độ dài từ mã cho trước thỏa mãn bất đẳng thức tồn mã prefix nhận tập độ dài làm độ dài từ mã 9) Một phép mã hóa gọi tiết kiệm (hay gọi tối ưu) đạt độ dài trung bình từ mã cực tiểu I min: I =∑ p ( x k ) l k k N cho ∑ q−l ≤1 k k=1 ¿ I =−logq ( p ( x k ) ) Trường hợp tổng quát I k ∉ Z +¿¿ ¿ k 10) Độ dài trung bình từ mã I mã có khả giải mã tức số q biểu diễn nguồn rời rạc X lớn với entropy Hq(X) nguồn, nói cách khác: I ≥ Hq ( X ) −l xảy đẳng thức q = p ( x k ) k ¿ ¿ ¿ 11) Gọi tập I , I , … , I N tập độ dài từ mã tối ưu phép mã hóa số q cho nguồn rời rạc có phân bố p tập dấu mã M Khi độ dài trung bình từ mã mã tối ưu I ¿ thỏa mãn bất đẳng thức kẹp: ¿ H q ( X ) ≤ I < H q ( X ) +1 12) Độ dài trung bình từ mã với ký hiệu thực mã hóa khối đồng thời thỏa mãn bất đẳng thức: H ( X ) ≤ Ln < H ( X ) + n 13) Độ dài trung bình mã biểu diễn nguồn có hàm mật độ phân bố p(x) với [ ] độ dài từ mã sử dụng lk = log q ( x ) thoả mãn: k H ( p ) + D ( p∨¿ q ) ≤ E [ l k ] p < H ( p ) + D ( p∨¿ q ) +1 14) Với tin x k có p( x k ) cho trước, mã Shannon có độ dài từ mã xác định công thức: [ l k = log 15) ] ( ∀ xk ∈ X ) p ( xk ) Thuật toán Shannon-Fano: Sắp xếp tin theo thứ tự xác suất từ cao đến thấp từ trái sang phải Chia dãy thành hai phần cho phần có tổng xác suất xấp xỉ Gắn nhãn cho phần nừa trái bit nhóm bên phải bit Lặp lại bước cho nửa cách chia nhóm nhỏ gắn nhãn bit tận nhóm cịn nút tương ứng với mã Từ mã thu cách duyệt gốc đến nút tương ứng 16) Mã hóa Huffman mã hóa tối ưu Nói cách khác, gọi I H độ dài trung bình từ mã mã Huffman cho nguồn rời rạc X, I độ dài trung bình từ mã mã tạo phương pháp đó, có: IH ≤I 17) Thuật toán mã hoá Huffman: Khởi động danh sách nhị phân có nút chứa trọng số xác suất phân bố tương ứng tin x k , xếp theo thứ tự tăng dần từ trái sang phải Thực lặp bước sau đến thu nút Tìm hai T 'và T ' ' danh sách nút gốc có trọng lượng tối thiểu p' p' ' Thay chúng có nút gốc có trọng p' + p' ' T 'và T '' Đánh nhãn nhánh từ gốc đến T 'và T ' ' Sắp xếp nút theo thứ tự tăng dần trọng xác suất Duyệt từ gốc cuối đến nút với bít nhãn ta từ mã tương úng với tin 18) Mã Huffman thoả mãn mã tối ưu: Nếu P ( x k ) > P ( xl ) I k < I l Hai từ mã có độ dài có độ dài Hai từ mã có độ dài khác bít vị trí cuối cùng, hai từ mã tương ứng với hai tin (ký hiệu) có xác suất xuất thấp Mã Huffman thỏa mãn giới hạn I k ≤ H ( x )+1 19) Thuật toán giải mã Huffman: Khởi động, đặt trỏ P đến gốc (root) mã hóa Huffman Gán trỏ bit b rỗng Lặp bước sau đến kết thúc chuỗi bít thơng tin Gán b bít chuỗi Nếu b = dịch trỏ P theo nhánh có nhãn 0, ngược lại, dịch trỏ P theo nhánh có nhãn Nếu P đến nút ghi tin tương ứng với từ mã Khởi động lại trỏ đến gốc 20) Mã hoá Shannon-Fano-Elias: Sử dụng hàm mật độ phân bố tích lũy để thực mã hóa Định nghĩa hàm mật độ phân bố tích lũy cải tiến: F ( x )= ∑ p ( a )+ p ( x k ) a< x F ( a ) ≠ F ( b ) a ≠b → sử dụng F ( x ) mã cho x k Cắt F ( x ) I k bit, kí hiệu |F|I Nếu I k = log p ( x ) + thì: k [ ] k k p ( xk) < =F ( x )−F ( x−1 ) l 2 k → I k bit đủ để mô tả x k 21) Mã số học: Thuộc lớp mã hóa khơng Thuộc lớp mã hóa Entropy Thuộc lớp mã hóa khơng tổn hao Được sử dụng rộng rãi thực tế trình tiện ích nén liệu thương mại Thực việc mã hóa nhóm liệu Là mở rộng trực tiếp phương pháp mã hóa Shannon-Fano-Elias Ý tưởng quan trọng tính tốn sử dụng hàm phân bố xác suất X ' ' 22) 23) 4 Thuật tốn mã Lempel-Ziv_Welch: Tồng quan Thuộc lớp mã hóa khơng tổn hao Thuộc lớp mã hóa thuật tốn từ điển Không yêu cầu phải biết trước phân bố nguồn, thuật tốn thích nghi Ứng dụng rộng rãi thực tế, sở nhiều trình tiện ích nén liệu thương mại Thuật toán mã Lempel-Ziv_Welch: Cho trước chuỗi X =x x … x n(n lớn) Khởi động bảng từ mã khởi đầu Tìm kiếm chuỗi nguồn cho cụm mào đầu dài có mặt bảng từ mã Nói cách khác, tìm kiếm w dài mà X =( w , X ' ) Cập nhật bảng mã với từ mã tạo thành từ ( w , x k ), với x k ký hiệu chuỗi đầu vào CHƯƠNG 4: MÃ HOÁ KÊNH – TRUYỀN DẪN DỮ LIỆU (MÃ KHỐI TUYẾN TÍNH) 1) Vector mã: Một mã C={c , c , … , c M −1 } chứa từ mã có độ dài l, từ mã c k =¿) với dấu c k , i ∈ GF(q) ( ⅈ=O ,l−1) a C: mã số q b c k gọi từ mã, vector mã c M số từ mã mã C 2) Độ dư thừa mã C định nghĩa là: r =l−log q ( M ) Nếu M = 2k r = l – k 3) Tỷ số mã hoá R định nghĩa: R= log q ( M ) l Nếu M = 2k R = k / l 4) Trọng số từ mã c cấu trúc lỗi e số dấu mã khác c e Kí hiệu w(c) w(e) ≤ w ( c ) ≤l 5) Khoảng cách Hamming hai từ mã c c tổng số vị trí tương ứng hai từ mã mà dấu khác nhau: d Hamming (c ,c )=d (c1 , c 2)=|{ⅈ| c1 , i ≠ c ,i ,i=0 ,1 , ,l−1}∨¿ d ( c1 , c 2) = d ( c2 , c 1) ≤ ⅆ ( c , c ) ≤l d ( c1 , c 2) + d ( c2 , c 3) ≥ d ( c1 , c 3) 6) Khoảng cách mã tối thiểu, hay khoảng cách Hamming tối thiểu mã khối C khoảng cách Hamming tối thiểu tất cặp từ mã phân biệt mã: d m i n=d 0=m ∈ ∀ c ,c ∈C ,c 1≠ c ⅆ ( c ,c ) 7) Một mã có khoảng cách mã tối thiểu d m i n có khả phát tất cấu trúc lỗi có trọng nhỏ (d m i n−1) 8) Một mã có khoảng cách mã tối thiểu d m i n có khả sửa tất cấu trúc lỗi có trọng nhỏ [ a d −1 ] 9) Mã khối tuyến tính: Xét mã khối C gồm từ mã độ dài l {c k =¿)} với dấu mã thuộc GF(q) Bộ mã C mã khối tuyến tính số q C tạo thành không gian vector GF(q) 10) Chiều mã khối chiều không gian véc-tơ tương ứng Ký hiệu C(l,k) C(l,k,d 0) Tổ hợp tuyến tính tập từ mã từ mã ⇒ C ln chứa từ mã tồn Khoảng cách mã tối thiểu mã khối tuyến tính trọng số từ mã có trọng số nhỏ khác từ mã tồn khơng Các cấu trúc lỗi phát mã độc lập với từ mã phát ln chứa tập tất từ mã khơng tồn 11) Ma trận sinh mã khối tuyến tính: Gọi G= {g , g1 , … , g k−1 } sở từ mã mã thành lập sau: ( )( g0 G= g gk−1 = g ,0 g ,1 g0 , l−1 g 1,0 g ,1 g1 ,l−1 gk −1 , g k−1 , g k−1, l−1 ) Gọi a=(a0 , a1 , … , ak−1) khối liệu đầu vào (bản tin) cần mã hóa Từ mã thu từ phép mã hóa: c=aG=[a0 , a1 ,… , a k−1]G=a0 g0 +a1 g1 +ak −l gk−l 12) Ma trận kiểm tra tính chẵn lẻ mã khối tuyến tính: Với C, tồn C ⊥ không gian véc-tơ đối ngẫu (l − k) chiều Gọi { h , h1 , … , hl−k−1 } sở C ⊥⇒ Ma trận sinh H(l − k × l) C ⊥: H= ( )( h0 h2 hl −k−1 = h0,0 h 0,1 h0 ,l −1 h 1,0 h 1,1 h1 ,l−1 h l−k−1, hl−k−1 ,1 hl−k−1 ,l−1 ) H ma trận kiểm tra chẵn lẻ mã C GHT = Định lý: Một vector c từ mã thuộc C cHT = cHT = gọi biểu thức kiểm tra chẵn lẻ 13) Giả sử mã C có ma trận kiểm tra tính chẵn lẻ H Khoảng cách mã tối thiểu mã C số cột tối thiểu khác H mà tổ hợp tuyến tính khơng tầm thường chúng 14) Với mã khối tuyến tính C(l, k), khoảng cách mã tối thiểu thỏa mãn bất đẳng thức: ⅆmin ≤ l–k+1 15) Mã khối tuyến tính hệ thống C(l, k) thực việc ánh xạ tin (khối liệu) độ dài k thành véc-tơ/từ mã độ dài l cho số l bít k bít tin số cịn lại l − k bít kiểm tra tính chẵn lẻ 16) Đánh giá mã khối nhị phân tuyến tính kênh BSC Ví dụ: Xét mã nhị phân chiều dài l (Ví dụ mã nhị phân chiều dài 2: C = (00),(01),(11),(10) ) Giả sử kết mã hóa truyền qua kênh nhị phân rời rạc đối xứng khơng nhớ (BSC) có xác suất thu sai p0, bit phát độc lập xác suất phát bit 0, bit tương đương nhau: Tính xác suất thu từ mã Giả sử xác suất sai cho phép việc thu từ mã pa , tìm điều kiện p0 để sử dụng mã cho việc thơng tin qua kênh 17) Đánh giá khả phát lỗi: Cho Cho C(l, k, ⅆmin ) truyền qua kênh BSC có xác suất chuyển sai p Pu ( E ): xác suất véc-tơ thu có lỗi mà khơng phát Pe ( E ): xác suất véc-tơ thu có lỗi Pd ( E ): xác suất véc-tơ thu có lỗi phát Pu ( E ) ≤ Pu ( E ) = l ∑( j=d l ∑ j =dmin l ) I p j ( 1− p ) I− j 1− = j j A j p ( 1− p ) () Pe ( E ) = ∑ I p j ( 1− p ) j=1 j dmin −1 ∑ ( Ij) p j ( 1− p ) I− j j=0 I− j I− j = 1− (1−p )l Pd ( E )=Pe ( E ) - Pu ( E ) = 1− (1−p )l - Pu ( E ) 18) Đánh giá khả sửa lỗi: Cho C(l, k, , ⅆmin) truyền qua kênh BSC có xác suất chuyển sai p Xét giải mã có độ dài giới hạn P(E): xác suất giải mã sai l P ( E) ≤ [ j= ∑ ] ⅆ −1 +1 () I p j ( 1− p ) I − j =1− j [ ⅆ −1 ∑ j =0 ] ( Ij) p ( 1− p ) j I− j Đẳng thức xảy mã hoàn hảo P(F): xác suất giải mã thất bại [ P ( F ) ≤1− ⅆmin −1 ∑ ] j=0 ( Ij) p ( 1− p ) j I− j Xét C(l, k, ⅆmin) với phân bố trọng số biết { Ai } k Pkj=∑ r=0 ( k−rj )(l−r j) p P ( E )= j −k+2 r ( 1− p ) [ ] l ∑ j=ⅆ P ( F ) =1− [ Aj ⅆ −1 ∑ j=0 ⅆmin −1 ∑ j=0 ] I− j+ k−2r j Pk ( Ij) p ( 1− p ) j I− j −P ( E ) 19) Các vấn đề thiết kế mã khối tuyến tính: Khi thiết kế, ta mong muốn có mã có độ dư thừa nhỏ có thể, lại có khả phát sửa lỗi lớn Trường hợp 1: Với k ⅆmin cho trước, xây dựng mã có độ dư thừa tối thiểu: min{l} Độ dài từ mã mã thỏa mãn giới hạn Griesmer: k−1 l ≥∑ i=0 [ ] ⅆ 2i ⌈x⌉: phần nguyên nhỏ lớn x Trường hợp 2: Với l k cho trước, xây dựng mã có khả phát sửa sai lớn nhất: max{ ⅆmin} Khoảng cách Hamming tối thiểu mã thỏa mãn giới hạn Plotkin: ⅆmin ≤ k−1 l× k −1 Trường hợp 3: Với l khả sửa sai t cho trước, xây dựng mã có độ dư thừa nhỏ nhất: max{k} Mối liên hệ l, k t thỏa mãn giới hạn Hamming: l−k t () ≥∑ l i=0 i CHƯƠNG 4: MÃ HOÁ KÊNH – TRUYỀN DẪN DỮ LIỆU (MÃ KHỐI VỊNG TÍNH) 1) Đa thức mã: Vector mã c=( c ,c , … , cl−1 ) biểu diễn dạng đa thức: c ( x )=c +c x +c x +…+ c l−1 x l−1 Nhận xét: Mỗi véc-tơ mã/từ mã có chiều dài l tương ứng với đa thức bậc nhỏ l – Mối quan hệ véc-tơ mã với biểu diễn đa thức đảm bảo l – c(x) gọi đa thức mã Khái niệm từ mã/véc-tơ mã đa thức mã dùng thay o c ∈ C(l, k) ⇔ c(x) ∈ GF(q)[x]/(xl − 1) Xét đa thức f (x), g(x) GF(q)[x]/( xl − 1) 2) Phép cộng đa thức l−1 f ( x )=f O + f x + f x +…+ f l−1 x l−1 g ( x )=gO + g1 x+ g x + …+ gl−1 x l−1 ⇒ f ( x )+ g ( x )=(f O + gO )+( f 1+ g 1) x+ +( f l−1+ g l−1) x 3) Phép nhân đa thức l−1 f ( x )=f O + f x + f x +…+ f l−1 x l−1=∑ f i x i i=0 l −1 g ( x )=gO + g1 x+ g x 2+ …+ gl−1 x l−1=∑ g j x j j=0 l−1 l−1 l j ⇒ f ( x ) × g ( x )=(∑ f i x )( ∑ g j x )module ( x − 1) i i=0 j=0 4) Phép dịch vòng l−1 Trên GF(q)[x]/( x − 1), cho f(x) =∑ f i x ←→ a=( f , f , … , f l−1) l i i=0 Xét g ( x ) = x f ( x ) ←→ b=( f l −1 , f , f , … , f l −2 ) (chú ý mod x l-1) b thu cách dịch vịng phía phải a cấp/nhịp/vịng Kí hiệu: g ( x )=f (1) ( x ) ⇒ Nhân x i với f ( x ) thu véc-tơ kết dịch vòng phải véc-tơ ban đầu i nhịp/cấp: f ( i ) ( x ) Xét g ( x ) = f (x) ←→ b=( f , f , … , f l −1 , f )(chú ý mod x l-1) x b thu cách dịch vịng phía trái a cấp/vòng ⇒ Chia f (x) cho xi thu véc-tơ kết dịch vòng trái véc-tơ ban đầu i nhịp/cấp 5) Đa thức đối ngẫu Định nghĩa: Cho đa thức f (x) bậc k: f (x) = f O +f x +f x 2+ …+f k x k Đa thức đối ngẫu f (x), kí hiệu f*(x) định nghĩa là: ¿ k −1 k−1 k f ( x )=x × y ( x ) =f k + f k −1 x+ f k−2 x + …+ f x + f x ¿ Nếu f ( x )= f (x) f (x) đa thức tự đối ngẫu 6) Mã vịng tuyến tính Định nghĩa: Một mã khối tuyến tính C(l, k) gọi mã vịng tuyến tính với từ mã c=( c ,c , … , cl−1 ) ∈ C kết dịch vòng từ mã c thu véc-tơ từ mã thuộc C Cho a(x) ∈ GF(q)[x]/( xl − 1), c(x) ∈ C ⇒ a(x)c(x) tổ hợp tuyến tính dịch vòng c(x) ⇒ a(x)c(x) ∈ C ∀a(x) ∈ GF(q)[x]/( xl − 1), c(x) ∈ C Định lý: Bộ mã C mã vịng tuyến tính số q có chiều dài từ mã l đa thức mã C tạo thành ideal GF(q)[x]/( xl − 1) Trong tập tất đa thức mã C, có đa thức monic g(x) với bậc tối thiểu r = l − k < l g(x) gọi đa thức sinh mã C Mọi đa thức mã c(x) ∈ C tồn biểu diễn c(x) = a(x)g(x), g(x) đa thức sinh, a(x) đa thức bậc ≤ l − r = k GF(q)[x] Đa thức sinh g(x) mã C thừa số xl – GF(q)[x] Định lý: Nếu g(x) có bậc r = l − k thừa số xl – g(x) đa thức sinh mã vịng tuyến tính C(l, k) Định nghĩa: Một mã vịng tuyến tính C(l, k) có đa thức sinh g(x) Một đa thức h(x) ≠ gọi đa thức kiểm tra C(l, k) g(x) × h(x) = xl − 1≡ (mod xl – 1) deg(h(x)) = k l h ( x )= x −1 g(x) Định lý: C(l, k) mã vịng tuyến tính với đa thức sinh g(x) Khi đó, mã đối ngẫu C ⊥ mã vịng tuyến tính (l, l − k) sinh từ đa thức sinh ¿ k −1 h ( x )=x h ( x ) với h ( x )= { x l−1 } g (x ) 7) Ma trận sinh mã vòng [ ][ g(x) gO g1 g2 gl−k 0 xg (x) gO g1 gl −k−1 gl−k 0 G= x g (x) = 0 g g O l−k−2 gl −k−1 gl−k 0 gl−k x k−1 g(x ) ] G có kích thước k × l G khơng có dạng hệ thống 8) Ma trận kiểm tra: Trên GF(q), xét mã vịng tuyến tính C(l, k) với đa thức sinh g(x) Tồn đa thức h(x) bậc k = l − r thỏa mãn g(x)h(x) = xl – 1, hay h(x)g(x) ≡ mod xl – h(x) gọi đa thức kiểm tra mã C(l, k) Xét mã vịng tuyến tính C(l, k) với đa thức kiểm tra h( x )=h 0+ h1 x +h2 x + …+hk x , ma trận kiểm tra xác định bởi: k [ g k g k−1 gk−2 g 0 0 hk hk−1 h h0 H= 0 h h g k l−k −1 h0 0 h0 ] H có kích thước l − k × l GH T = 9) Mã vịng tuyến tính dạng hệ thống Thuật tốn: 10) Mơ tả khối tin biểu diễn đa thức tương ứng a(x) Tính a (l−k ) ( x )=x l−k a ( x ) Chia x l−k a ( x ) cho đa thức sinh g(x) mã, thu phần dư p(x) Thành lập đa thức mã c(x) = p(x) + x l−k a ( x ) In từ mã tương ứng với đa thức mã c(x) Xây dựng mã hệ thông từ đa thức kiểm tra: Từ khối tin vào (tương ứng đa thức tin) ta có: c l−k =a0 , c l−k+1=a1 … cl−1=ak−1 Tính tốn c , c … , c l−k−1 từ công thức: k−1 c l−k−i=∑ h j c l− j−i ( 1≤ ⅈ ≤ l−k ) j=0 Từ mã tương ứng dạng hệ thống c = (c , c , c ⋯ c l−k−1 , a0 … ak−1) 11) Ngun lý mã hố vịng dựa đa thức sinh Đầu tiên, nội dung ghi xóa k nhịp đầu tiên, véc-tơ tin (a) dịch trực tiếp đầu đồng thời dịch vào mạch để tính bít kiểm tra Sau k nhịp, nội dung ghi bít kiểm tra l − k nhịp tiếp theo, mạch thực dịch nội dung bít kiểm tra ghi đầu Quá trình mã hóa kết thúc tồn khối bít kiểm tra dịch 12) Nguyên lý mã hố vịng dựa đa thức kiểm tra Đầu tiên, nội dung ghi thơng tin xóa k nhịp đầu tiên, khối thông tin dịch vào ghi đồng thời dịch đầu Sau k nhịp, nội dung ghi nội dung khối tin l − k nhịp tiếp theo, c l−k−i ( ⅈ=1, l−k ) tính chuyển vào ghi đồng thời chuyển đầu Q trình mã hóa kết thúc sau l − k bít kiểm tra lập xong 13) Phương pháp giải ngưỡng c ∈ C, w ∈ C ⊥A ≜ wr = we A: tổng kiểm tra A=w e +w e 1+ …+w l−1 e l−1 bít lỗi e k kiểm tra tổng kiểm tra A wk = 14) Một hệ gồm J tổng kiểm tra gọi hệ tổng kiểm tra trực giao với vị trí bít lỗi e l−1 : Tất cẩ hệ số e l−1 hệ J tổng kiểm tra Với k ̸= l − có nhiều véc-tơ hệ tổng kiểm tra mà hệ số e k ⇒ A k =e l−1 + ∑ w i e i i ≠l−1 15) Giải pháp ngưỡng dựa hệ tổng kiểm tra trực giao: Bit lỗi e l−1 định có phần lớn véc-tơ tổng kiểm tra trực giao Ngược lại bít lỗi e l−1 định Bộ giải mã hoạt động véc-tơ lỗi có trọng ≤ ⌊J/2⌋ Nếu tạo hệ J tổng kiểm tra trực giao cho e l−1 tạo hệ J tổng kiểm tra trực giao cho vị trí bít lỗi e k (k ̸= l − 1) Nếu J số tổng kiểm tra trực giao cực đại lập cho e l−1 (hoặc e k đó), phương pháp giải mã nêu sửa cấu trúc lỗi có trọng ≤ ⌊J/2⌋ t ML= ⌊J/2⌋: khả sửa lỗi giải mã ngưỡng Phép giải mã gọi hiệu với mã C(l, k, d ) t ML= ⌊J/2⌋ xấp xỉ t = ⌊(d 0− 1)/2⌋ 16) Định nghĩa: Một mã vịng C(l, k, d0) gọi có khả trực giao đầy đủ bước tạo hệ J = d − tổng kiểm tra trực giao với vị trí bit lỗi J