Đề thi cuối kỳ môn Lý thuyết thông tin - 20132 Thời gian 60 phút – Không sử dụng tài liệu Câu 1: Xét tin bao gồm họ tên bạn, nơi sinh bạn (nơi sinh bạn gồm thông tin: phường/xã, quận/huyện, tỉnh/TP), bao gồm chữ không dấu, không phân biệt chữ hoa chữ thường, khoảng trắng Nguồn X gồm tin chữ khác tin, xác suất tin nguồn tần suất xuất chữ tin a) Viết tin ứng với thông tin bạn b) Xác định mô hình nguồn X (bộ giá trị X, P(X)) c) Tính entropy nguồn X Câu 2: Cho mã: 10, 110, 101, 1011, 1110 Hãy lập bảng thử mã để kiểm tra tính phân tách mã Câu 3: Nguồn X gồm tin chữ đầu họ tên bạn, với xác suất xuất p (1-p), với p = 1/q, q giá trị ứng với chữ cho đây: a–1 b–2 c–3 d–4 e–5 f–6 g–7 h–8 i–9 j – 10 k – 11 l – 12 m – 13 n – 14 o – 15 p – 16 q – 17 r – 18 s – 19 t – 20 u – 21 v – 22 w – 23 x – 24 y – 25 z – 26 Ví dụ: Bạn tên Nguyễn Văn An, chữ đầu họ tên bạn N A, nguồn X = (N, A), xác suất P(N) = p = 1/14 (giá trị N 14), P(A) = 1-p = 13/14, hay P(X) = (1/14; 13/14) X nguồn vào kênh có ma trận kênh là: ( | ) = 3/4 1/4 1/4 3/4 a) Xác định mô hình nguồn X b) Tính H(X), H(X, Y), I(X; Y) Câu 4: Xét tin kí tự tên bạn, viết dạng tiếng việt không dấu, khoảng trắng, không phân biệt chữ hoa/thường Mã hóa kí tự tin thành mã nhị phân có độ dài bit tương ứng với giá trị thập phân kí tự trình bày câu Mỗi mã nhị phân bit lại làm tổ hợp vào mã Parity Hãy viết từ mã Parity ứng với kí tự tin