... n vơ ị Giáo trìnhLý thuy t tín hi u và truy n tin ệ ềNgu n tin là t p h p các tin mà h th ng truy n tin dùng đồ ậ ợ ệ ố ề ể l p các b n tin khác nhau đ truy n tin. ậ ả ể ềN u t p tin là h ... ử12S(t)SmaxSmintHình 1.2. Quá trình l y m u tín hi uấ ẫ ệ Giáo trìnhLý thuy t tín hi u và truy n tin ệ ềGi s ta có m t tín hi u có s phân b ph nh hình 3.1 thì taả ử ộ ệ ự ố ổ ư có đ r ng ph đ c tính nh sau:ộ ... th ng.ố ố ứ ủ ệ ố Giáo trìnhLý thuy t tín hi u và truy n tin ệ ềD a vào tính ch t tr c giao ta có th phân tích tín hi u ph cự ấ ự ể ệ ứ t p thành t ng các thành ph n c a tín hi u đ n gi n...
... tínhiệu chân thật nhất có thể có so với tínhiệu ở đầu vào. Shannon xây dựng mô hình lýthuyết thông tin trên cơ sở giải quyết bài toán: sinh mã độ dài tối ưu khi nhận tínhiệu đầu vào. Tín ... được quá trìnhtruyền tín hiệu. Môn “xử lýtínhiệu đã đề cập đến vấn đề này. Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu. 9 Giáo trình: Lýthuyết thông tin. ... Ks. Dương Văn Hiếu. 10 Giáo trình: Lýthuyết thông tin. Định nghĩa dung lượng kênh truyền Dựa vào ma trận truyềntin A, ta có thể dễ dàng tính lượng tin trên kênh truyền. I(X/Y)= H(X)-H(Y/X)...
... quy và ngôn ngữ đệ quy đếm được. Ngoài ra, giáotrình cũng giới thiệu sơ lược về trình biên dịch, một phần quan trọng của học phần Chương trình dịch, học phần gắn bó chặt chẽ với Lýthuyết ... các đồng nghiệp đã động viên và góp ý cho công việc viết giáotrìnhLýthuyết ngôn ngữ hình thức và ôtômat này và lời cám ơn đặc biệt xin dành cho Thầy Lê Mạnh Thạnh và đồng nghiệp Nguyễn Hoàng ... quan trọng và động viên kịp thời tạo niềm hưng phấn để tác giả giảng dạy và viết giáotrình cho học phần Lýthuyết ngôn ngữ hình thức và ôtômat. Tác giả mong nhận được sự chỉ giáo của các...
... Hiếu. 10 Giáo trình: Lýthuyết thông tin. • Biết các khái niệm về kênh truyềntin rời rạc không nhớ, dung lượng kênh truyềnvà phân lớp kênh truyền. Hiểu định lý về dung lượng kênh truyền, phương ... được quá trìnhtruyền tín hiệu. Môn “xử lýtínhiệu đã đề cập đến vấn đề này. Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu. 9 Giáo trình: Lýthuyết thông tin. CHƯƠNG ... nghiên cứu quá trình xử lýtínhiệu như sau: Đầu vào (input): nhận tínhiệu từ một lĩnh vực cụ thể, tức là tínhiệu xuất hiện theo các ký hiệu (symbol) từ một tập hợp cho trước và theo phân...
... Giáo trình: Lýthuyết thông tin. CHƯƠNG 2: ĐỘ ĐO LƯỢNG TIN Mục tiêu: trình bày các khái niệm về độ đo lượng tin chưa biết và đã biết về một biến ngẫu nhiên X. Tính toán các lượng tin ... Văn Hiếu. 15 Giáo trình: Lýthuyết thông tin. Một vấn đề quan trọng cần lưu ý là phải đồng bộ giữa tốc độ nạp thông tin (phát tín hiệu) với tốc độ truyền tin. Nếu tốc độ nạp thông tin bằng hoặc ... thân X và Y đều mang một lượng tinvà thông tin về X và Y chưa biết do chúng là ngẫu nhiên. Do đó, X hay Y đều có một lượng tin không chắc chắn và lượng tin chắc chắn, tổng của 2 lượng tin này...
... 27 Giáo trình: Lýthuyết thông tin. BAI 2.5: ĐO LƯỢNG TIN (MESURE OF INFORMATION) Mục tiêu Sau khi hoàn tất bài học này bạn có thể: - Biết bài toán tính lượng tin, - Hiểu định nghĩa lượng tin, ... dành cho các bạn sinh viên. Gợi ý: sau khi bạn tính H(X,Y) và H(X/Y), bạn dựa vào các định lý 1,2 và 3 cùng với các kết quả đã tính được để so sánh và minh họa. Biên soạn: TS. L ê Quy ết Thắng, ... & Ks. Dương Văn Hiếu. 28 Giáo trình: Lýthuyết thông tin. 3. Những người dân của một làng được chia làm 2 nhóm A và B. Một nửa nhóm A chuyên nói thật, 3/10 nói dối và 2/10 từ trối trả lời....
... dừng và kết luận bảng mã tách được (k≥1). Bài toán 1- yêu cầu Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu. 33 Giáo trình: Lýthuyết thông tin. BÀI 3.3: TÍNH ... Ks. Dương Văn Hiếu. 38 Giáo trình: Lýthuyết thông tin. BÀI 3.2: QUAN HỆ GIỮA MÃ TÁCH ĐƯỢC VÀ ĐỘ DÀI MÃ Mục tiêu Sau khi hoàn tất bài học này bạn có thể hiểu: - Định lý Kraft (1949), - Định ... TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu. 39 Giáo trình: Lýthuyết thông tin. Ví dụ: cây bậc D=2 và cỡ k=3 Vấn đề sinh mã cho cây bậc D cỡ k Sinh...
... Khái niệm về một kênh truyền rời rạc dựa vào phân bố xác suất của tínhiệu ra phụ thuộc vào tín hiệu vào và trạng thái của kênh truyền đã được chuẩn hóa bởi Feinstein (1958) và Wolfowitz (1961). ... Dương Văn Hiếu. 45 Giáo trình: Lýthuyết thông tin. Định nghĩa dung lượng kênh truyền Dựa vào ma trận truyềntin A, ta có thể dễ dàng tính lượng tin trên kênh truyền. I(X/Y)= H(X)-H(Y/X) ... Giáo trình: Lýthuyết thông tin. BAI 4.2: CÁC DẠNG KÊNH TRUYỀN Mục tiêu Sau khi hoàn tất bài học này bạn có thể: Biết kênh truyền không mất tin, Biết kênh truyền xác định,...
... = Max{P(vj/ wk)} (chỉ dựa vào ma trân truyềntin A) Ví dụ kênh truyền đối xứng nhị phân Xét ma trận truyềntin A và xác suất ở đầu truyền như sau: A= và p(w3213213/12/16/12/16/13/16/13/12/1vvvwww⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡1) ... yL} Diễn giải: - Nguồn phát tínhiệu (hay thông báo) với vận tốc R (tín hiệu/ giây). - Tín hiệu được mã hóa từ bộ ký tự mã. - Tín hiệu mã hóa được truyền trên kênh với vận tốc C (ký ... 56 Giáo trình: Lýthuyết thông tin. - Quá trình mã hóa các tínhiệu m1, m2, m3, m4 cần chú ý là: mỗi mi cần được mã hóa với số bit tối đa là nC=5 bit. Vậy, ta có thể mã hóa các tín...
... Văn Hiếu. 70 Giáo trình: Lýthuyết thông tin. Ví dụ tìm m nhỏ nhất từ n và e Giả sử biết trước n=7 và e=1. Tìm số bit kiểm tra tối thiểu cần thiết của bộ mã chẵn lẻ. Theo định lý điều kiện ... thông tin k = n – m = 3 => Số từ mã s=2k=8 từ mã. Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu. 66 Giáo trình: Lýthuyết thông tin. BÀI 5.4: NHÓM CỘNG TÍNH VÀ ... dựa vào đinh lý Điều kiện cần (Cận Hamming) và Điều kiện đủ (ĐK Varshamov-Gilbert-Sacks). Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu. 68 Giáo trình: Lý thuyết...