... ðẦU
Giáo trình lý thuyết thông tin ñược biên soạn dựa trên các bài giảng ñã
ñược giảng dạy nhiều năm cho ñối tượng là sinh viên chính quy ngành Công
nghệ thông tin tại khoa Công nghệ thông ... suất thống kê, lý thuyết thuật toán và
một ngôn ngữ lập trình cơ bản (C hoặc Pascal).
Giáo trình ñược cấu trúc gồm 5 chương
Chương 1 trình bày một số khái niệm cơ bản về l...
... ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
3
Giáo trình: Lý thuyết thông tin.
Mô hình lý thuyết thông tin theo quan điểm Shannon
Lý thuyết thông tin được xét ở đây theo quan điểm của Shannon. ... được quá trình truyền
tín hiệu. Môn “xử lý tín hiệu” đã đề cập đến vấn đề này.
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
9
Giáo trình:...
... Giáo trình: Lý thuyết thông tin.
Mô hình lý thuyết thông tin theo quan điểm Shannon
Lý thuyết thông tin được xét ở đây theo quan điểm của Shannon. ... nghiên cứu của sinh viên, giáo trình
này được biên soạn cùng với các giáo trình khác thuộc chuyên ngành Công nghệ thông tin của
Khoa Công nghệ thông tin và Truyền thông – Đại Học Cần Thơ theo ... DUNG CỐT LÕI...
... Văn Hiếu.
15
Giáo trình: Lý thuyết thông tin.
Một vấn đề quan trọng cần lưu ý là phải đồng bộ giữa tốc độ nạp thông tin (phát tín hiệu) với tốc
độ truyền tin. Nếu tốc độ nạp thông tin bằng ... Giáo trình: Lý thuyết thông tin.
CHƯƠNG 2: ĐỘ ĐO LƯỢNG TIN
Mục tiêu: trình bày các khái niệm về độ đo lượng tin chưa biết và đã ... phải giảm tốc độ nạp thông tin sao cho nh...
... các định lý 1,2 và 3 cùng với các kết quả
đã tính được để so sánh và minh họa.
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
27
Giáo trình: Lý thuyết thông tin. ... Giáo trình: Lý thuyết thông tin.
Phân phối của Y khi nhận được đồng tiền có 2 mặt đều có đầu hình (Y/X=2) ... có:
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. D...
... & Ks. Dương Văn Hiếu.
33
Giáo trình: Lý thuyết thông tin.
BÀI 3.3: TÍNH TỐI ƯU CỦA ĐỘ DÀI MÃ
Mục tiêu
Sau khi hoàn tất bài học này bạn có thể:
- Hiểu định lý Shannon (1948),
- Biết được ... Ks. Dương Văn Hiếu.
38
Giáo trình: Lý thuyết thông tin.
BÀI 3.2: QUAN HỆ GIỮA MÃ TÁCH ĐƯỢC VÀ ĐỘ DÀI
MÃ
Mục tiêu
Sau khi hoàn tất bài học này bạn có thể hiểu:
- Định lý K...
... Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
49
Giáo trình: Lý thuyết thông tin.
CHƯƠNG 4: KÊNH TRUYỀN
Mục tiêu:
Trình bày mô hình truyền tin rời rạc từng ký tự mã độc lập lẫn ... ở đây chúng ta
chỉ xét mô hình vật lý như sau:
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
45
Giáo trình: Lý thuyết thông tin.
Định nghĩa du...
... TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
60
Giáo trình: Lý thuyết thông tin.
1 – H(β,1-β)
Định lý về dung lượng kênh truyền
Giả sử ma trạn A có dạng vuông và có ... Tài & Ks. Dương Văn Hiếu.
54
Giáo trình: Lý thuyết thông tin.
CHƯƠNG 5: SỬA LỖI
Mục tiêu:
Xây dựng nguyên tắc sửa lỗi dựa vào khoảng cách Hamming. Trên nguyên tắc...
... trận A)
Số bit thông tin k = n – m = 3 => Số từ mã s=2
k
=8 từ mã.
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
66
Giáo trình: Lý thuyết thông tin.
BÀI ... đinh lý Điều kiện cần (Cận Hamming) và Điều kiện đủ
(ĐK Varshamov-Gilbert-Sacks).
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
68
Giáo trình: Lý...
... Giáo trình: Lý thuyết thông tin.
BÀI 5.7: THANH GHI LÙI TỪNG BƯỚC
Mục tiêu
Sau khi hoàn tất bài học này ... lẻ.
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
79
Giáo trình: Lý thuyết thông tin.
Ví dụ minh họa lược đồ sửa lỗi 3 bit
Lược đồ sửa lỗi:
Bước 1: Lập bảng ... thể:
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương...